Un paio d’anni fa ho tenuto un corso di aggiornamento in una scuola secondaria per introdurre i docenti all’uso consapevole delle intelligenze artificiali. Durante il corso abbiamo sperimentato gli strumenti rispetto alle varie materie e quando è arrivato il turno del docente di matematica l’ho avvertito che uno dei punti deboli di queste macchine era proprio l’ambito logico-matematico. I risultati ottenuti infatti, seppur dignitosi, presentavano a suo giudizio alcune imprecisioni. All’epoca mi sembrava comprensibile che un sistema addestrato a generare sequenze linguistiche su base statistica incontrasse difficoltà in ambiti dove il ragionamento deve seguire regole precise – per ora meglio non fidarsi, consigliai, domani vedremo.
Oggi è domani. Vuole il caso che io sia tornato nella stessa scuola per un altro corso e ho avuto modo di aggiornare la posizione passata: grazie ai vari sviluppi degli ultimi mesi i LLM sono adesso strumenti eccezionali anche per la matematica. Nel maggio 2026 un modello interno di OpenAI ha generato una dimostrazione che smentisce una congettura di Erdős; un gruppo di matematici ha verificato l’argomento e ne ha pubblicato una versione semplificata e in parte generalizzata. Il problema complessivo resta aperto, ma una è caduta una importante congettura. Pochi giorni fa, l’8 settembre 2026, OpenAI ha proposto una soluzione al problema di esistenza e regolarità delle equazioni di Navier–Stokes, uno dei cosiddetti “Problemi del Millennio” in ambito matematico. L’azienda ha reso disponibili un articolo e una formalizzazione in Lean. Più che di soluzione vera e propria è più prudente parlare di una proposta di soluzione accompagnata da una verifica formale, ancora in attesa di essere esaminata e compresa dalla comunità degli specialisti. Ma non è poco. È ormai inevitabile che una parte crescente della nuova matematica avanzerà attraverso l’uso intensivo dei modelli linguistici.
La comunità matematica sta reagendo in modi diversi. Timothy Gowers riconosce la portata dei risultati, pur separandoli da una superiorità delle macchine in ogni aspetto della ricerca. Terence Tao insiste sul valore della comprensione e sulla necessità di rendere leggibili le prove. La Dichiarazione di Leiden chiede controlli indipendenti e infrastrutture pubbliche, legando l’autonomia della ricerca alla proprietà degli strumenti.
A queste reazioni si è aggiunta la lettera aperta A Severe Misalignment of AI in Mathematics, firmata da venticinque medaglie Fields. Gli autori riconoscono i progressi dei modelli, ma temono che la corsa delle aziende a risolvere problemi celebri comprometta la comprensione delle idee e la formazione dei ricercatori; sollevano inoltre questioni di attribuzione e plagio. Non ho le competenze per valutare fino in fondo la portata di queste obiezioni per la ricerca matematica. Mi viene però da osservare che, appena una macchina supera qualcuno in qualcosa, in genere arriva una lettera di protesta.
Gli sviluppi recenti permettono un po’ di speculazione: se oggi possiamo usare una macchina per produrre un argomento da affinare e comprendere in un secondo momento, in futuro potremmo ricevere dei risultati così complessi da eccedere la comprensione della comunità scientifica nel suo insieme. È solo uno degli scenari possibili, dato che le macchine potrebbero anche aiutarci a rendere comprensibili dei risultati che oggi ci sfuggono. È però difficile giustificare la certezza che la mente umana riuscirà sempre a seguire ogni sviluppo della conoscenza. L’idea di affidarci a conoscenze che non capiamo può spaventarci, benché la nostra vita quotidiana dipenda già da un sapere che non possediamo.
Salgo su un aereo senza sapere come costruirlo, rassicurato dal fatto che qualcuno lo sappia al posto mio. Eppure il sapere necessario a progettare e mantenere il velivolo non è nella testa di una singola persona, ma è distribuito fra specialisti, nessuno dei quali deve necessariamente comprendere ogni dettaglio perché il sistema funzioni. La nostra autonomia poggia già su una vastissima dipendenza dal sapere altrui. Non utilizziamo aerei, macchine, medicine e computer sapendo come funzionano.
Si dirà che questa conoscenza, sebbene diffusa, è comunque in possesso di uno o più umani, che ci sono procedure riproducibili, che possiamo apprendere, eccetera. Eppure ci sono vari casi in cui abbiamo usato qualcosa prima che chiunque ne comprendesse adeguatamente il meccanismo. La penicillina fu impiegata clinicamente nei primi anni Quaranta, mentre la spiegazione della sua azione molecolare si precisò nei decenni successivi. Nel 1965 Tipper e Strominger collegarono la sua struttura molecolare all’inibizione della formazione dei legami che consolidano la parete batterica. L’effetto terapeutico e alcune conseguenze sui batteri erano già osservabili; mancava una descrizione altrettanto precisa del meccanismo. Una distanza simile separa i primi motori a vapore dalla termodinamica. La macchina di Newcomen risale al 1712, Carnot pubblicò le sue riflessioni sulle macchine termiche nel 1824. Le macchine funzionavano grazie a conoscenze pratiche e spiegazioni parziali, mentre la teoria che oggi ne descrive rendimento e limiti avrebbe preso forma nell’Ottocento. Anche l’aspirina era in uso da decenni quando, nel 1971, John Vane mostrò che inibiva la sintesi delle prostaglandine, chiarendo un meccanismo centrale della sua azione. E la produzione di pane e vino precede di millenni le ricerche ottocentesche sulla fermentazione: Pasteur contribuì a spiegare il ruolo dei microrganismi in processi che le persone mettevano in pratica da secoli. C’è una distinzione tra ciò che sappiamo fare e i diversi livelli ai quali sappiamo spiegarla.
Questi precedenti non autorizzano una fiducia indiscriminata. L’efficacia va messa alla prova, gli errori devono poter essere riconosciuti e capire un meccanismo è prezioso da mille punti di vista. Mostrano però che l’utilità di una capacità può precedere una spiegazione adeguata del suo meccanismo. Con l’IA potremmo però passare a una fase inedita: una spiegazione che resta per sempre oltre la nostra portata conoscitiva. Un po’ come già oggi nessuno può vincere a scacchi una macchina.
Non deve trattarsi necessariamente di uno stacco improvviso, considerato che esistono diversi gradi di comprensione. Posso ignorare come un modello abbia trovato una dimostrazione e comprendere perfettamente la dimostrazione; oppure posso capirne singoli passaggi senza coglierne il disegno complessivo. Una prova formalizzata può essere verificata da un sistema come Lean, che controlla il rispetto di regole logiche esplicite. Occorre però verificare che l’enunciato formalizzato corrisponda alla domanda originale, esaminare le ipotesi e gli assiomi usati e controllare l’affidabilità della procedura. La fiducia, in questo caso, si appoggia a una procedura controllabile, senza richiedere di ricostruire tutto il percorso dell’invenzione. Fuori dalla matematica, inoltre, la verifica cambia natura.
Forse ad angosciarci è l’idea che neanche le macchine capiscono ciò che dicono e che i loro frutti si reggono sulle fragili fondamenta del mistero – ma anche il ricorrente chiedersi se una macchina «capisce davvero» merita qualche domanda in più. Se capire significa usare una conoscenza in circostanze nuove e ricavarne conseguenze corrette, possiamo verificare il successo di un sistema. Dovremo provarlo in condizioni diverse da quelle in cui è stato addestrato e osservare dove fallisce. Una risposta riuscita per caso non basta, naturalmente, ma una capacità stabile di trasferire ciò che è stato appreso costituisce una ragione sufficiente per parlare di comprensione funzionale.
È legittimo dubitare che una macchina “senta” di aver capito e provi la particolare evidenza interiore che accompagna alcuni pensieri. La conosciamo bene, come conosciamo la sensazione di aver capito qualcosa che, il giorno dopo, scopriamo di aver frainteso. Per quanto convincente infatti, il sentimento della comprensione non garantisce la sua riuscita. In un celebre esperimento mentale di Wittgenstein, ciascuno possiede una scatola che gli altri non possono aprire e chiama “scarabeo” ciò che contiene. L’esperimento ci interroga su quanto il significato pubblico di una parola possa dipendere da un contenuto accessibile soltanto al singolo. Estendere questa analogia alla comprensione artificiale aiuta a vedere la difficoltà di fare di un’esperienza privata il criterio decisivo con cui riconoscere una capacità altrui. Se quel “capire davvero” rimanda a qualcosa che nessuno può controllare negli altri, la discussione diventa indecidibile.
Sebbene ci spaventi una conoscenza che non potremo mai cogliere, siamo consapevoli dei limiti di ciò che chiamiamo comprensione. La fisica permette previsioni straordinarie e riconduce fenomeni diversi a principi comuni, lasciando però aperta la domanda sul perché le leggi fondamentali siano proprio queste e non altre. La nostra condizione è sempre stata quella di una lieve competenza appoggiata su un insondabile mistero – lieve rispetto a ciò che ci sfugge, ma abbastanza potente da curare una malattia o mandare una sonda nello spazio. O sterminarci – ma qua parlo di bombe atomiche, non di AI generative, sebbene il parallelo a dir poco improprio sia fatto da molti. Le macchine possono estendere la nostra competenza senza esaurire il mistero: in alcuni ambiti stanno diventando più sveglie di noi, pur restando esposte a limiti ed errori che dovremo imparare a conoscere.
Tutto questo ha inevitabili risvolti psicologici, che spesso offuscano il giudizio. La notte scorsa (per fortuna per la prima volta) ho sognato che Sam Altman mi invitava a visitare OpenAI. Era molto cortese, eppure mi sentivo profondamente a disagio. Tutto ciò che avevo intorno dipendeva da decisioni sulle quali non avevo alcun potere, ero un ospite e potevo essere congedato in qualunque momento. Mi sembra un’immagine abbastanza precisa della nostra situazione. Per molti dei compiti che svolgiamo, questi strumenti stanno diventando essenziali. Ci permettono di raggiungere risultati che da soli richiederebbero molto più tempo, o ai quali difficilmente arriveremmo. Non è una novità: è successo anche con la scrittura, coi libri, con internet. L’accesso a un servizio remoto dipende però dalle condizioni stabilite da chi lo gestisce. E quando le decisioni si concentrano in poche aziende, questa dipendenza ci rende molto vulnerabili. Che la ricerca scientifica possa dipendere da poche grandi aziende private (e nel nostro caso estere) è un pericolo da non sottovalutare.
Il caso Navier–Stokes rende evidente questa asimmetria. Secondo OpenAI, il gruppo che ha prodotto la proposta ha impiegato circa diecimila agenti simultanei, basati su un modello interno più potente di quello disponibile al pubblico. L’argomento è stato trovato dopo circa 88 ore, seguite da altre 17 per formalizzazione e verifica. Sono dati comunicati dall’azienda, ma illustrano bene la distanza tra acquistare un abbonamento e disporre delle risorse di chi gestisce l’infrastruttura.
Questa asimmetria in qualche modo ritorna anche quando si parla della nostra possibile estinzione. Il 12 settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha chiesto di rallentare l’avanzamento dei modelli, proponendo valutatori esterni con accesso continuativo ai laboratori e un coordinamento fra aziende e governi. Musk e Altman si sono dichiarati d’accordo – e già il bel gruppetto dovrebbe insospettirci. Nello stesso intervento, We Must Pace the Frontier, sostiene anche che il rallentamento debba preservare il vantaggio degli Stati Uniti e dei loro alleati, anche attraverso restrizioni alle tecnologie accessibili alla Cina. E qui sembra voler spingere l’opinione pubblica verso una pericolosissima guerra contro l’open source, guarda caso il più grande nemico di questi industriali.
Il rischio apocalittico si fonda, di fatto, su pure speculazioni basate su variabili del tutto ignote. In una parola, l’argomento è fondato sul tirare a indovinare di chi ha un chiaro profitto nel far sorgere il dubbio – per il noto meccanismo per cui un prodotto che può sterminarci vale tutto il suo prezzo. Inoltre funziona molto bene mediaticamente, come tutte le paure millenariste, e i giornalisti, strangolati da decenni dal clickbait, proprio non resistono di fronte al boccone appetitoso – e avvelenato.
Anche l’enormità del danno, da sola, è insufficiente a stabilire le priorità. Se bastasse immaginare una catastrofe possibile, la possibile collisione di un asteroide potrebbe richiedere risorse illimitate. Una AI che risolve tutti i problemi del mondo oltretutto è letteralmente altrettanto probabile, ma guarda caso ci sembra assurda.
Nel frattempo, su pericoli catastrofici ben più concreti disponiamo di conoscenze molto solide. L’IPCC descrive rischi climatici sempre più gravi e cambiamenti potenzialmente irreversibili con l’aumento del riscaldamento. Guerre e genocidi ci pongono davanti a sofferenze attuali, rispetto alle quali tolleriamo rinvii che dichiareremmo intollerabili parlando di una futura superintelligenza. Possiamo occuparci di più problemi insieme; dovremmo però rendere esplicite le ragioni con cui distribuiamo attenzione e risorse, comprese quelle che rendono politicamente conveniente trascurare alcuni di questi problemi.
Una giustificazione filosofica di questa sproporzione si trova nel lungotermismo forte. In The Case for Strong Longtermism, Hilary Greaves e William MacAskill sostengono che, nelle decisioni più importanti sull’impiego delle risorse, gli effetti sul futuro remoto abbiano un peso preponderante. Il numero potenzialmente enorme di esseri che potrebbero esistere permette di attribuire un valore immenso anche a piccoli miglioramenti delle loro prospettive. In questo calcolo, i bisogni di chi vive adesso rischiano di contare pochissimo. Mi sembra un problema anche politico, perché chi dispone oggi di grandi ricchezze può trovare qui una legittimazione per conservarne il controllo, presentandolo come indispensabile a un beneficio futuro. L’incertezza delle previsioni lascia inoltre un ampio margine a chi decide quali benefici mettere nel conto.
Per questo, quando qualcuno invoca la salvezza dell’umanità, vale la pena chiedersi quanto ci guadagni. Un interesse economico non basta a confutare un allarme; occorre comunque esaminare il potere che quell’allarme gli conferisce. La promessa di proteggerci può dare autorità politica alle stesse aziende che producono il pericolo e, insieme, fare pubblicità alla potenza dei loro strumenti. Se la sicurezza si traducesse in requisiti accessibili soltanto ai maggiori operatori, o in restrizioni indiscriminate ai modelli aperti, potrebbe rafforzare proprio la dipendenza che dovremmo ridurre. Ogni proposta andrebbe valutata anche per i suoi effetti sulla possibilità di sviluppare alternative e sottoporre i sistemi a controlli esterni.
La scrittura aiuta a mettere a fuoco la posta in gioco. È stata una tecnologia cognitiva di potenza incalcolabile, anche distruttiva; senza il sapere accumulato e trasmesso attraverso di essa non avremmo costruito le armi nucleari. Sarebbe stata una pessima ragione per riservare l’alfabetizzazione a una piccola élite. L’analogia ha limiti evidenti, perché un modello può svolgere attività che un testo, da solo, non compie; mostra però quanto sia insufficiente dedurre dalla capacità di fare danni la necessità di concentrare uno strumento nelle mani di pochi. Proprio la potenza dell’IA rende più importante un accesso diffuso, accompagnato dalla formazione e dalla possibilità di partecipare alle decisioni sul suo sviluppo.
Francesco D’Isa