Il 17 luglio Xi Jinping ha aperto la World AI Conference di Shanghai con un discorso che ho trovato molto più centrato di quello dei leader occidentali, un po’ come è già successo con l’enciclica del Papa. È la prima volta che interviene di persona; il giorno prima ventinove paesi avevano firmato l’accordo che istituisce la World Artificial Intelligence Cooperation Organisation, un organismo intergovernativo con sede a Shanghai di cui fanno parte, tra gli altri, Russia, Brasile, Indonesia e parte del Sud globale.
Negli stessi giorni Dean Ball, responsabile della strategia di lungo periodo di OpenAI, commentava su X l’uscita di Kimi K3, il modello a pesi aperti di Moonshot che con i suoi 2,8 trilioni di parametri se la gioca con i migliori sistemi proprietari, e concludeva che un mondo dominato da modelli simili condurrebbe con ogni probabilità al «full AI communism», uno scenario che ai suoi occhi ha i tratti di un inferno distopico.
Leggendo il thread sono caduto in quello straniamento che si prova quando qualcuno dipinge come una cosa tremenda qualcosa che per te è desiderabile: quello che Ball dipinge come inferno somiglia molto a ciò che considero il migliore degli esiti disponibili. È d’altra parte tipico dei privilegiati considerare universalmente giusto ciò che mantiene i loro privilegi.
Torniamo al discorso di Xi. Quattro osservazioni: la prima chiede di incoraggiare l’open source e la condivisione come motore dell’innovazione; la seconda insiste sulla sicurezza e sul controllo umano, e domanda al tempo stesso di opporsi all’abuso del concetto di sicurezza nazionale, una frecciata ai controlli americani sulle esportazioni; la terza sostiene che lo sviluppo dell’AI non debba erodere la diversità e l’unicità delle culture; la quarta propone una governance multilaterale imperniata sull’ONU, avvertendo che un accesso diseguale alla tecnologia rischia di generare nuove ingiustizie. Seguono impegni concreti, come opportunità di formazione per i paesi in via di sviluppo ai centri di cooperazione con le organizzazioni regionali del Sud globale, fino all’estensione a trenta paesi di MAZU, il sistema di allerta meteorologica basato sull’AI. Per concludere Xi ricorda che lo sviluppo dell’intelligenza artificiale dovrebbe essere una «sinfonia di cooperazione internazionale» anziché l’assolo di un solo paese.
So bene che un discorso di stato è un atto politico il cui fine ultimo è l’ottimizzazione di rapporti di potere a suo favore e non intendo leggere ingenuamente Xi come un benefattore. L’apertura di Pechino è anche figlia della necessità, dato che le sanzioni le hanno sottratto il vantaggio tecnologico; lo suggerisce lo stesso Ball, quando osserva che la strategia open cinese è in parte un sottoprodotto involontario dei controlli americani. La nuova organizzazione di Shanghai è insomma uno strumento di egemonia quanto il suo speculare atlantico, fatto sta che la linea cinese resta molto preferibile. Un ecosistema in cui i pesi dei modelli circolano liberamente non garantisce l’assenza di censura, perché il modello base porta con sé i propri allineamenti; garantisce però la possibilità per chiunque di rimuoverli o modificarli tramite fine-tuning. Questo lo rende migliore a prescindere dalle ragioni, buone o cattive, di chi lo alimenta.
Anche il thread di Ball merita attenzione, perché contiene un lapsus curioso. I modelli a pesi aperti, scrive, sono intrinsecamente decelerazionisti; scoraggiano gli investimenti, perché se chiunque può scaricare un modello vicino allo stato dell’arte, evaporano le rendite che giustificano i data center da centinaia di miliardi (altra curiosità: definire brutta notizia la fine di una speculazione dall’enorme impatto ambientale). Lo scandalo di facciata è come sempre per la sicurezza, quello reale è economico. Ciò che rende davvero “infernale” il comunismo dell’AI agli occhi di uno stratega di OpenAI è l’idea che l’intelligenza artificiale diventi un bene pubblico, una infrastruttura anziché un prodotto a pagamento. La sua proposta ha la stessa inquietante schiettezza di tutto il thread: vietare l’open source gli sembra una sciocchezza, meglio produrre abbastanza incertezza normativa e blocchi istituzionali (immagina la Federal Reserve che mette in guardia dalle possibili backdoor nei modelli cinesi) da renderne rischiosa l’adozione. Paura al posto del divieto. Davanti ad affermazioni così dirette mi domando sempre se ci sia dietro un piano troppo arguto perché io lo veda o solo la sfacciata arroganza del potere.
La cosa più inquietante è l’uso di «bene pubblico» come un insulto. Nessuno chiama “comunismo idrico” un acquedotto, né “comunismo della lettura” una biblioteca comunale; quando un’infrastruttura è vitale, l’idea che sia accessibile a tutti ci pare la cosa più ovvia, anche a chi, come molti americani, considera ancora la parola “comunismo” un insulto e uno spauracchio.
Se la stessa logica applicata a uno strumento cognitivo viene percepita come distopia, è perché si è già stabilito che debba essere una merce; una merce di pochissimi, visto che i modelli di frontiera si contano sulle dita di una mano e appartengono a un pugno di aziende di un solo paese o quasi.
Il rischio per la sicurezza spesso evocato esiste, ma il controllo, quale che sia, lo esercita comunque qualcuno – c’è sempre una mano che decide cosa è permesso e cosa no. E se quella mano è la stessa che possiede i modelli e ne trae profitto, o è quella di un governo dalle strategie egoistiche e poco condivisibili, non ho alcuna ragione di fidarmi, così come non mi fido di nessuna istituzione che si autonomini custode. Tra un mondo in cui pochi tengono lo strumento e sorvegliano tutti gli altri e un mondo in cui lo strumento è di tutti, e per lo meno si trovano ad armi pari, scelgo senza dubbio il secondo.
Il pericolo, del resto, è il prezzo di ogni conoscenza. E’ proprio perché ogni conoscenza è pericolosa e insieme abilitante che conviene guardare a cosa è successo con alcune grandi tecnologie del passato, come la scrittura. Diffonderla non ha certo concesso il sapere a chiunque, ma ha abbassato la soglia di accesso e ha reso possibile a chi la possedeva ciò che prima era riservato a poche caste. L’intelligenza artificiale opera su un piano diverso ma con lo stesso effetto: insegna o accelera alcune operazioni cognitive; la ricerca, la traduzione, l’analisi, la programmazione, e le mette a disposizione di chiunque possa accedere ai modelli.
Che le aziende abbiano tutti gli interessi per mantenere il loro predominio è abbastanza ovvio. Vale però la pena ricordare che la cultura dell’apertura non è un’utopia recente, bensì la condizione storica del sapere moderno. La stampa a caratteri mobili ruppe il monopolio clericale sul testo e mise le scritture in volgare nelle mani di chiunque sapesse leggere, con lo scandalo che è facile immaginare; le biblioteche pubbliche dell’Ottocento nacquero tra sospetti identici a quelli odierni, perché dare libri a operai e donne avrebbe, si diceva, corrotto gli uni e le altre. Nel 1942 il sociologo Robert Merton, elencando le norme che reggono l’ethos della scienza, chiamò la prima proprio «comunismo»: le scoperte appartengono alla comunità, chi le compie ne ricava un riconoscimento ma non accampa proprietà, il segreto è la negazione stessa della ricerca. La parola che oggi uno stratega di OpenAI brandisce come un anatema è il nome che la sociologia dava a una delle principali condizioni che rendono possibile la scienza.
Nel 1993 il CERN rilasciò il World Wide Web nel pubblico dominio; il software libero, che i dirigenti di Microsoft bollavano come un cancro (e, guarda un po’, come comunismo!), regge oggi l’infrastruttura su cui girano anche i loro profitti. La stessa intelligenza artificiale è figlia di questa cultura: l’architettura transformer viene da un articolo che ricercatori di Google pubblicarono liberamente nel 2017, i framework con cui si addestrano i modelli sono open source, i dataset e i preprint condivisi hanno avuto un impatto importantissimo. La chiusura è arrivata dopo, quando c’era una rendita da proteggere, in quella che il giurista James Boyle ha chiamato la seconda recinzione dei beni comuni, per analogia con le enclosures che privatizzarono le terre comuni inglesi: stavolta a essere recintato non è un campo ma il sapere stesso, tramite l’estensione crescente di copyright e brevetti. Che l’azienda simbolo di questa svolta si chiami OpenAI è un’ironia ormai proverbiale.
E che dire degli intellettuali? Perché non si schierano compatti contro il modello monopolista? Forse anche loro hanno qualcosa da perdere, e non è tanto il denaro; è la posizione di mediatori del sapere, l’autorità di chi legge ciò che gli altri non sanno leggere, una rendita di posizione che uno strumento capace di riassumere, tradurre e argomentare erode alla base.
La cronaca recente offre un caso esemplare di cosa significhi garantire o meno l’accesso a una AI. Fable, la versione pubblica dei modelli Mythos di Anthropic, cioè il sistema più potente oggi a disposizione per un utente comune, ha avuto una vita a singhiozzo; sospeso dal governo americano dopo tre giorni e riclassificato sotto controllo delle esportazioni, è tornato disponibile a luglio entro finestre a tempo, con limiti d’uso e tariffe a consumo che fuori dall’industria lo rendono di fatto proibitivo. Federico Nejrotti ha scritto in merito un pezzo che consiglio, raccontando la percezione di scarsità e smarrimento che ne deriva, e chiedendosi quali compiti degni si possano affidare a una quasi-superintelligenza quando il tempo per usarla è contato; la sua malinconica conclusione è che la propria intelligenza non basti a sfruttarla. Condivido le premesse assai più delle conseguenze. Di compiti degni ne ho una lista molto lunga e sospetto che li abbia chiunque lavori con questi strumenti; la domanda che mi angoscia è piuttosto chi potrà permetterseli. Se l’utilizzo efficace dipende dall’accesso ai modelli più potenti e se quell’accesso viene dosato con il contagocce – a finestre, a consumo, per censo – lo strumento che poteva ridistribuire capacità cognitive diventa il mezzo con cui le si concentra di nuovo.
Il modello proprietario dell’AI proposto dagli americani poggia su una cultura individualista che con questa tecnologia va poco d’accordo. L’individualismo presuppone che il valore nasca da singoli eccezionali e che le gerarchie si limitino a riconoscerlo; ogni modello linguistico è la confutazione pratica di questa idea, perché è fatto con i dati di tutti. I testi su cui è addestrato sono il sedimento di secoli di scrittura collettiva, di conversazioni, di codice condiviso, di enciclopedie compilate più o meno gratuitamente; il presunto genio della macchina è un distillato del contributo di miliardi di persone, quasi tutte anonime e non retribuite. L’individualismo ci suggerisce che dobbiamo essere speciali, ma non lo siamo. Siamo unici, ciascuno irripetibile; proprio per questo nessuno è speciale, perché l’unicità è una condizione equamente distribuita. Se i contributi più importanti arrivano dalla collettività, come in fondo è sempre stato per ogni impresa intellettuale, un assetto che privatizza il risultato e fa pagare l’accesso a chi quel risultato ha contribuito a produrlo è, prima ancora che ingiusto, incoerente.
La risposta alla domanda di Ball su chi paga i modelli se diventano pubblici è che a quel punto la pagherebbe il pubblico, come ha pagato la ricerca di base, le reti elettriche e la stessa Internet; ed è precisamente questo che Ball, con una certa miopia storica e politica, chiama “comunismo”, il termine tabù dell’Occidente.
In questo quadro l’Europa recita la parte peggiore. A giugno l’Unione ha firmato, come blocco e dopo mesi di trattative interne, la dichiarazione di Pax Silica, l’iniziativa con cui Washington organizza i propri partner fidati attorno allo stack tecnologico americano, controlli sulle esportazioni dei modelli di frontiera compresi; nel frattempo Bruxelles continua a parlare di autonomia strategica, di sovranità digitale e di apertura. Le parole vanno in una direzione e le firme nell’altra. Un continente che ha costruito la propria retorica sull’AI Act e sui valori si è consegnato al ruolo di cliente vincolato, che riceve i modelli americani nei tempi e nei modi decisi altrove; l’alternativa aperta, quando arriva, arriva da Pechino. Avremmo potuto essere noi, con le nostre università e i nostri fondi pubblici, a proporre l’intelligenza artificiale come bene comune. Saremmo forse in tempo per farlo, se il nostro vassallaggio non lo impedisse.
Un’apologia della Cina sarebbe fuori luogo; non ho alcuna competenza per analizzare con serietà la sua strategia politica. Quel che difendo è l’apertura. Se l’attore che offre l’intelligenza artificiale come bene comune dell’umanità è Pechino, mentre chi l’ha inventata la rinchiude e ne fa un’arma commerciale, il biasimo va verso questi ultimi. Tra un mondo in cui lo strumento con cui pensiamo appartiene a tre aziende e uno in cui è infrastruttura pubblica, sebbene imperfetta e contesa come tutte le infrastrutture, so da che parte stare. Ben venga il comunismo dell’AI.
Francesco D’Isa