Riflessioni tra “pappagallisti” e “antipappagallisti”

Ogni volta che una nuova tecnologia si avvicina anche solo di striscio a ciò che chiamiamo “pensiero”, scoppia una rissa intellettuale. È accaduto con i computer scacchisti: negli anni ’60 Hubert Dreyfus bollava i programmi come calcolatori privi di comprensione e nel 1997 la vittoria di Deep Blue su Kasparov rilanciò l’idea che la macchina potesse batterci nel calcolo senza però “capire” il gioco. Con le AI generative la storia si ripete: da una parte abbiamo i pappagallisti – soprannome nato dal celebre paper “On the Dangers of Stochastic Parrots” di Bender & col. – che considerano i modelli linguistici meri replicatori di sequenze plausibili senza alcuna comprensione; dall’altra gli antipappagallisti, che giurano di intravedere nella macchina capacità cognitive, se non addirittura una coscienza. Di fronte a tanto fervore mi sorprende la disinvoltura con cui entrambe le fazioni brandiscono il verbo “pensare”, quasi esistesse un criterio pacifico per stabilire quando qualunque entità lo faccia. Ma un tale criterio – se esiste – è tutto fuorché condiviso e la nostra sicumera rischia di rivelare più i nostri desideri che la realtà.

Se adottiamo una cornice puramente funzionale la partita è breve: pensare significa produrre risposte utili, pertinenti e se possibile creative. Su questo terreno i grandi modelli linguistici vincono facile, perché sfornano sonetti, debuggano software, riassumono ricerche, improvvisano canzoni e dibattono sull’intelligenza artificiale meglio di molti umani. Bollarli come imitatori privi di comprensione, se quel che conta è solo il risultato, non ha alcun senso. Qui non mi interessa come ci arriva, ma che ci arrivi.

Si potrebbe invece parlare di qualia, l’esperienza interiore di che effetto fa sentire dolore, vedere il rosso o ricordare il primo amore. I LLM non hanno esperienze, dunque non pensano. Questa obiezione però si inceppa su un dettaglio: un test per i qualia non esiste neppure per noi, che possiamo essere sicuri solo dei nostri e li ipotizziamo negli altri per analogie fisiche e comportamentali. L’esperienza fenomenologica del mondo è un requisito che posso affermare con certezza soltanto di me stesso, perché per quel che ne so potreste essere gli “zombie filosofici” ipotizzati da Chalmers: identici a me in tutto e per tutto, ma senza esperienze coscienti. In un versante opposto potremmo invece immaginare, con i panpsichisti, che una qualche forma di esperienza elementare accompagni tutta la materia, dalle sinapsi ai transistor.

Terza idea allora: per pensare servono sensi che mi mettano in contatto diretto col mondo. La conoscenza, come la coscienza, è incarnata, la mente non funziona in modo separato dal corpo, ma è strettamente legata all’esperienza fisica e sensoriale dell’individuo. Qui dovremmo attendere che le reti si dotino di telecamere, microfoni e braccia robotiche, cosa che in realtà sta già accadendo. Se seguiamo questa idea la risposta è facile, le AI non capiscono quel che dicono – per ora.

Resta poi l’intenzionalità, il volere qualcosa. E qui, più da buddista che da tecno-apocalittico, mi auguro che non tormenteremo anche le macchine con la piaga del desiderio. Lasciamole fuori dal Samsara! Se non è troppo tardi, almeno: quando un modello si sforza di soddisfare le nostre richieste, non esercita già un desiderio, sia pure eterodiretto? Potremmo considerare accontentare le nostre richieste il drive delle AI?

Per tornare alla domanda del titolo, è uscito di recente un articolo di Apple, The Illusion of Thinking (Shojaee et al., 2025) che espone i limiti dei LRM (Large Reasoning Models), quei modelli che consistono – detta male ma facile – in LLM che confabulano un po’ tra sé e sé prima di dare la risposta. Un metodo che funziona piuttosto  bene ma che, come suggerisce la ricerca, ha vari limiti, fra cui il fatto che i modelli cedono oltre una certa complessità.

Con un trolling medievale degno di “L’inconsistenza dell’inconsistenza dei filosofi” di Averroè, un successivo articolo The Illusion of The Illusion of Thinking di A. Lawson (2025) mette in dubbio questi risultati, sostenendo che il presunto crollo sia per lo più un artefatto sperimentale, basato sui limiti della finestra di risposta e dei puzzle stessi. In ogni caso, il fatto che un LRM non sappia risolvere enigmi come la “Torre di Hanoi” proposto da Apple non ci autorizza la conclusione che “non pensa”. Se non riesco a risolvere l’enigma, smetto di pensare pure io?

Ogni volta che una macchina alza l’asticella spostiamo i paletti delle nostre definizioni per salvare la superiorità umana; prima non bastava il calcolo, poi serviva la creatività, ora il corpo, domani chissà. Il pensiero è un club riservato agli umani, anche se è sufficiente guardarsi attorno con meno snobismo per accorgersi che il mondo vivente è pieno di pensiero non umano.

Se con il “pensiero” vogliamo preservare un primato umano, dovremmo ricordarci che in questa gara ontologica siamo nella scorretta posizione di giudici e giocatori. Anche come categoria per indagare come funzionano le Ai, comunque, il “pensiero” potrebbe testimoniare un approccio residuale, testimone più che altro dell’ambigua altalena tra il desiderio di riprodurre noi stessi e quello di non essere superati dai nostri figli.