Miliardi per GPT, briciole per capire il cervello. L’IA batte i medici ma non sa perché. “Non appena funziona, nessuno la chiamerà più IA” – John McCarthy. Benvenuti nel futuro dove simuliamo intelligenza senza sapere cosa sia.
Ricordo quando su Commodore 64 programmavo in BASIC e pensavo di essere un genio perché avevo fatto stampare “HELLO WORLD” sullo schermo.
Non capivo nulla di come funzionasse veramente il computer. Sapevo solo che se scrivevo PRINT “ciao”, compariva “ciao”.
E funzionava. Ma non sapevo perché.
Oggi? Stiamo facendo la stessa cosa, ma su scala globale. Modelli ora prendono solo secondi per produrre output che sfiderebbero o eccederebbero le capacità anche di umani esperti. Allo stesso tempo, i modelli mostrano ancora errori basilari di comprensione che non ci si aspetterebbe nemmeno in umani non esperti.
Praticamente abbiamo creato ChatGPT che scrive meglio di molti giornalisti, ma sbaglia cose che un bambino di 5 anni non sbaglierebbe mai.
E questo è il grande paradosso dell’IA generativa: I modelli generativi, essendo stati addestrati direttamente a riprodurre output simili a quelli degli esperti, acquisiscono capacità generative che non sono contingenti (quindi possono eccedere) sulla loro abilità di comprendere le cose che creano.
Tradotto: l’IA può creare cose senza capirle.
Benvenuti dunque nel futuro, ragazzi. È tipo PRINT “ciao”, ma con 175 miliardi di parametri.
*Il paradosso di Moravec: le cose difficili sono facili, le facili sono impossibili*
Steven Pinker scrisse nel 1994 che “la lezione principale di trentacinque anni di ricercaIAè che i problemi difficili sono facili e i problemi facili sono difficili“.
Questo è il paradosso di Moravec, e spiega perfettamente il caos in cui ci troviamo.
Rodney Brooks spiega che, secondo la ricerca AI iniziale, l’intelligenza era “meglio caratterizzata come le cose che gli scienziati maschi altamente educati trovavano sfidanti“, come scacchi, integrazione simbolica, dimostrare teoremi matematici e risolvere problemi algebrici complicati. “Le cose che bambini di quattro o cinque anni potevano fare senza sforzo, come distinguere visivamente una tazza da una sedia, camminare su due gambe o trovare la strada dalla camera da letto al salotto non erano pensate come attività che richiedevanointelligenza“.
E quindi? L’IA gioca a scacchi meglio di Kasparov. Ma non sa camminare.
AlphaGo batte i campioni mondiali di Go. Ma non sa distinguere un gatto da un cane senza un allenamento specifico.
GPT-4 scrive codice decente. Ma non capisce cosa sia un “concetto”.
*“Non è più IA quando funziona” – il paradosso di McCarthy*
John McCarthy coniò il termine IA negli anni ’50. Eppure McCarthy stesso divenne disincantato con il termine, lamentandosi: “Appena funziona, nessuno lachiameràpiù IntelligenzaArtificiale“.
E aveva ragione.
Negli anni ’90, se dicevi “ho un sistema che riconosce la scrittura a mano“, la gente urlava “Oh mio Dio!IntelligenzaArtificiale!”. Oggi? Lo fai con il telefono e nessuno ci fa caso.
McCarthy chiamò la tendenza delle persone a rinominare progetti IA di successo come qualcos’altro “l’effetto IA“.
Praticamente: finché non funziona, è IA. Appena funziona, diventa “algoritmo”.
Ed è esattamente quello che sta succedendo con ChatGPT. Tra 5 anni nessuno lo chiamerà IA. Sarà solo “interfaccia linguistica naturale“.
*Il vero problema: miliardi per l’IA, briciole per capire il cervello*
E qui arriviamo al punto chiave.
Comprendere l’intelligenza richiede risorse e coordinamento più simili a quelli della ricerca in fisica delle particelle o in astronomia. L’eccellente supporto del National Institutes of Health per la ricerca biomedica non è progettato per il tipo di investimenti su larga scala, sostenuti e ad alto rischio che questa sfida richiede.
Tradotto: per capire come funziona davvero il cervello umano servirebbero miliardi. Ma quei miliardi vanno a OpenAI, Anthropic, Google.
L’istituzione dovrebbe stanziare almeno 1 miliardo di dollari per raggiungere la massa critica necessaria sia per la ricerca scientifica di frontiera sia per operazioni sostenibili.
Un. Miliardo. Solo per iniziare.
E nel frattempo? Tra il 1979 e il 2022, il numero di studenti laureati in campi di scienza e salute negli USA è più che raddoppiato. Il numero di postdoc è quasi triplicato. Ma il numero di posizioni junior faculty in life sciences è cresciuto solo da 11.300 nel 1981 a 22.400 nel 2021.
Praticamente: più studenti in neuroscienze, stesso numero di posti di lavoro. Risultato? Il numero di applicanti per il Ruth L. Kirschstein National Research Service Award postdoctoral fellowship è calato da 2.284 a 1.438 — giù del 37%. Nel 2023, il numero di applicanti è calato di un altro 17% a solo 1.188.
Le neuroscienze stanno perdendo ricercatori mentre l’IA ne assume a palate.
*Il gap culturale: neuroscienze vogliono capire, IA vuole performare*
È di inevitabile contraddizione che i perseguimenti primari tra neuroscienza cognitiva e IA sono distinti. La neuroscienza cognitiva mira a delucidare i meccanismi neurali alla base della cognizione. Tuttavia, i ricercatori IA mirano a migliorare le prestazioni del modello nel predire, invece di come questi aggiustamenti funzionano nei sistemi biologici.
Praticamente:
- Neuroscienze: vogliamo capire come funziona il cervello
- IA: vogliamo che il modello funzioni, non ci interessa come
Diversi esperti hanno attirato l’attenzione sul profondo divario tra neuroscienze e intelligenza artificiale, notando come una mira a guarire e comprendere il cervello mentre l’altra da priorità a prestazioni, utilità e successo commerciale.
E questo è il problema. Non stiamo costruendo IA per capire l’intelligenza. Stiamo costruendo IA per fare soldi.
*Cosa può creare, può non comprendere*
I risultati mostrano che sebbene i modelli possano superare gli umani nella generazione, cadono costantemente al di sotto delle capacità umane nelle misure di comprensione, così come correlazione più debole tra prestazioni di generazione e comprensione, e più fragilità agli input avversari.
Esempio pratico:
Task: Scrivi un articolo su come funziona la fotosintesi
- GPT-4: scrive un articolo perfetto, dettagliato, accurato
- Test di comprensione: “Se tolgo la luce, cosa succede?”
- GPT-4: risponde random, sbaglia cose basilari o ha le allucinazioni.
Perché? Le capacità generative dei modelli possono non essere contingenti sulla capacità di comprensione.
Può scrivere senza capire.
È tipo quando a scuola copiavi il tema dal compagno bravo ma non capivi nulla di quello che stavi scrivendo.
*Il senso comune: l’ultimo bastione dell’intelligenza umana*
La ricerca IA spesso fallisce in compiti che richiedono ragionamento basato sul senso comune. Ad esempio, quando presentati con scenari di causa-effetto che sono ovvi per bambini piccoli, i modelli possono dare risposte illogiche.
E qui emergono paradossi assurdi.
Dr. Melanie Mitchell, professoressa alla Portland State University, ha notato che l’IA di oggi non può ragionare flessibilmente perché rimane legata a caratteristiche di livello superficiale estratte dal materiale di allenamento.
Lo psicologo Dr. Gary Marcus ha concordato, sottolineando che il senso comune emerge dal pensiero strutturato e dall’esperienza, non solo dall’esposizione a più dati.
Tradotto: non puoi insegnare il senso comune con piùallenamentodata. Serve esperienza vissuta.
E l’IA? Non ha corpo. Non ha vissuto. Non ha mai bruciato la mano toccando una pentola calda.
*Conseguenze: delega cognitiva e ridefinizione di intelligenza*
E ora arriviamo alla parte che fa davvero paura.
Negli USA, ci sono attualmente alcune linee di risorse federali, come i National Artificial Intelligence Research Institutes della NSF, esplicitamente dedicati a guidare innovazione e scoperta della IA dalla ricerca in neuroscienze, ma questi sono largamente progettati per supportare un modello accademico tradizionale con diversi gruppi che investigano domande diverse, piuttosto che la creazione di uno sforzo centralizzato.
Risultato? Frammentazione. Nessuna grande iniziativa coordinata per capire l’intelligenza umana.
E nel frattempo? Un ricercatore di machine learning leader, Andrew Ng, ha presentato una “regola empirica altamente imperfetta”: “Quasi tutto quello che un tipico umano può fare con meno di un secondo di pensiero mentale, possiamo probabilmente ora o nel prossimo futuro automatizzare usando IA“.
Quindi stiamo delegando all’IA tutto quello che richiede meno di un secondo di pensiero.
E cosa succede tra 10 anni quando avremo delegato tutto il lavoro cognitivo semplice?
Saremo ancora capaci di pensare? O saremo dipendenti dall’IA come siamo dipendenti dalla calcolatrice per fare 23 x 47?
*Il mio verdetto da vecchio nerd filosofico*
Guardate, io sono cresciuto programmando in BASIC senza capire come funzionasse davvero il computer.
E funzionava. Scrivevo programmi. Giocavo. Creavo cose.
Ma non capivo. E per anni non mi è interessato per niente.
Poi un giorno ho aperto un libro di architettura del computer e ho capito come funzionava davvero. E tutto ha avuto senso.
Ora stiamo facendo la stessa cosa con l’IA. Solo che invece di un ragazzino che programma su C64, abbiamo l’intera umanità che delega il pensiero a sistemi che non capiscono cosa stanno facendo.
Intelligenza artificiale darà forma al nostro futuro in modi imprevisti, ed è facile cadere nella trappola di pensare che un giorno potrebbe dettare i termini della nostra stessa esistenza. Ma il fatto è: più l’IA può fare, più sottolinea le qualità insostituibili della creatività umana, empatia e ragionamento morale.
E questo è il punto.
L’IA può scrivere meglio di me. Può programmare meglio di me. Può giocare a scacchi meglio di me.
Ma non può capire perché lo fa.
E forse, FORSE, invece di investire miliardi per fare GPT-5, GPT-6, GPT-7, dovremmo investire quei soldi per capire come funziona davvero l’intelligenza umana.
Perché al momento stiamo costruendo cattedrali senza sapere cosa sia l’architettura.
E quando crollano? Non sapremo il perché.
E voi? Pensate che dovremmo investire di più nelle neuroscienze per capire l’intelligenza prima di costruire super-IA, o vi va bene continuare a simulare senza capire?
Se ti è piaciuto l’articolo, seguimi su FullStackGarage per altri pezzi su tecnologia, filosofia, e paradossi dell’era digitale raccontati con il giusto mix di nostalgia e cinismo.
E lascia un commento: voglio sapere se anche voi pensate che stiamo facendo un errore gigantesco, o se sono solo un nostalgico che rimpiange quando l’intelligenza era solo umana.
Al prossimo articolo!
Ciucci Gilberto
