Google ha creato i Titan: modelli IA con la “memoria simile al cervello umano” - DDay

Ricercatori di Google hanno pubblicato una ricerca riguardante "Titan”, una nuova architettura per gestire la memoria nei modelli di IA, affrontando i limiti dei Transformer tradizionali, specialmente nella gestione di contesti lunghi. La famiglia di modelli Titan introduce infatti una memoria (logica) neurale modulare capace di memorizzare, dimenticare e richiamare informazioni in modo adattivo, migliorando l'efficienza e la scalabilità su sequenze estremamente lunghe.

Prima di parlare dei Titan è però importante stabilire un concetto importante sulla memoria logica che utilizzano: la memoria opera solo durante l'inferenza come un "sistema di apprendimento", ma non si aggiunge ai dati di training. Cioè, il modello non impara sempre più cose continuando a usarlo. La memoria è contestuale solo alla richieste della singola “chat” o alle successive comunque correlate a essa.

Leggi tutto: https://www.dday.it/redazione/51731/google-ha-creato-i-titan-modelli-ia-con-la-memoria-simile-al-cervello-umano

Commenti

Posta un commento

Post popolari in questo blog

Dove trovare raccolte di dati (dataset) utilizzabili gratuitamente

Quando si entra nel fantastico mondo dell'analisi dei dati il primo ingrediente che serve sono... i dati. E le raccolte di dati diventano fondamentali anche in seguito quando, ad esempio, si vuole addestrare un modello di machine learning. In questa pagina annoto i siti dai quali è possibile scaricare gratuitamente e legalmente dataset curati di dati. Chiunque può contribuire segnalandone di nuovi nei commenti Meta Datasets . La pagina dei Datasets di Meta AI offre un'incredibile raccolta di dataset su larga scala e benchmark per l'addestramento, il test e la valutazione dei modelli di intelligenza artificiale. I dataset coprono vari ambiti come la segmentazione degli oggetti, modelli visione-linguaggio, ricostruzione 3D, equità algoritmica e traduzione automatica. Esempi includono il dataset SA-V per la segmentazione, FACET per valutare l'equità nei modelli visivi e Ego4D per la comprensione di video in prima persona. Tutti i dataset possono essere scaricati gratuita...
Continua a leggere

E se l'intelligenza artificiale leggesse al nostro posto? - Wired

Negli ultimi anni abbiamo imparato a conoscere (e persino a giocare con) l’ intelligenza artificiale che scrive testi, crea immagini e anche canzoni basandosi sulle nostre più o meno accurate indicazioni. Ma cosa succederebbe - e che impatto avrebbe nelle nostre vite - se l’IA iniziasse a leggere e interpretare testi complessi in nostra vece? Dovremmo confrontarci con tematiche riguardanti la comprensione del testo , il deskilling umano, il riconoscimento o la perdita della voce autoriale e persino rivedere il processo di formazione delle idee . Leggi tutto:  https://www.wired.it/article/intelligenza-artificiale-legge-umani-intervista-naomi-susan-baron/
Continua a leggere

Il lavoro impossibile dei sondaggisti statunitensi - Internazionale

All’inizio del novecento, prima delle elezioni presidenziali la rivista Literary Digest inviava ai lettori schede elettorali campione, chiedendogli di mandarle indietro compilate. Era uno dei primi sondaggi condotti su scala nazionale, rudimentale ma apparentemente efficace. Con questo metodo la rivista riuscì a prevedere il vincitore di cinque elezioni presidenziali, dal 1916 al 1932. Ma nel 1936, quando si sfidavano il presidente Franklin D. Roosevelt e il repubblicano Alf Landon, qualcosa andò storto. Il Digest inviò dieci milioni di schede elettorali ricevendone indietro 2,4 milioni, un tasso di risposta molto alto. Sulla base di quelle schede, il giornale predisse che Roosevelt avrebbe preso solo il 41 per cento dei voti, una batosta epocale. Il presidente vinse invece con il 61 per cento dei consensi, conquistando tutti gli stati tranne due, in una delle elezioni meno incerte della storia statunitense. Leggi tutto:  https://www.internazionale.it/notizie/alessio-marchionna/20...
Continua a leggere