Il grande inganno delle rivoluzioni tecnologiche
di Alessandro Mancini
Ogni nuova tecnologia porta con sé la promessa di una rivoluzione tecnologica, ma spesso questa promessa non viene rispettata e la rivoluzione, anziché generare progresso, può finire per accrescere le disuguaglianze, favorendo alcuni gruppi sociali a discapito di altri, già svantaggiati.
A mettere al centro della riflessione i paradossi che l’introduzione di nuove tecnologie porta con sé è il saggio Tecnologia della rivoluzione, edito da “il Saggiatore” e scritto da Diletta Huyskes, ricercatrice sull’etica delle tecnologie e l’impatto sociale delle intelligenze artificiali, co-CEO e co-founder di Immanence, società benefit per un’intelligenza artificiale etica e responsabile.
Ripercorrendo la storia della tecnologia, dalla bicicletta all’intelligenza artificiale, passando per il microonde e la pillola anticoncezionale, l’autrice mostra come dietro ogni invenzione ci siano sempre scelte precise e soprattutto di natura umana che, in alcuni casi, possono causare esclusione sociale.
Grazie alla riscoperta di molti contributi femministi proposti tra gli anni settanta e duemila, Tecnologia della rivoluzione spinge i lettori e le lettrici a riflettere sull’impatto che le innovazioni hanno sulla collettività e su come intervenire per fare in modo che le rivoluzioni tecnologiche non portino a involuzioni sociali.
Il termine “rivoluzione” è al centro della tua analisi, fin dal titolo del libro. Ogni nuova tecnologia porta infatti con sé la promessa di rivoluzionare lo stato delle cose. È sempre così oppure, a volte, questa può causare anche un’involuzione, o comunque lasciare indietro alcuni gruppi sociali già svantaggiati, come le minoranze?
L’idea di rivoluzione è il filo conduttore che secondo me racconta meglio il rapporto tra tecnologia, discriminazione o esclusione.
Solitamente ogni innovazione – in questo momento storico, l’IA generativa, ad esempio – viene presentata pubblicamente come una rivoluzione ma con un significato diverso da quello che le viene dato dalla gente comune, che con questo termine intende invece un evento di natura politico-sociale con una portata sovversiva e paradigmatica. Le rivoluzioni tecnologiche, invece, sono tendenzialmente sconnesse dalle rivoluzioni sociali: molto spesso, infatti, a una rivoluzione tecnologica non corrisponde automaticamente un progresso sociale.
È il caso di Omar e di Sara, due cittadini olandesi vittime – in modi differenti – dei sistemi di intelligenza artificiale a scopo predittivo utilizzati tra il 2014 e il 2021 da alcuni comuni e dal governo centrale, assieme all’autorità fiscale olandese, con lo scopo di assegnare un livello di rischio a ciascuna persona richiedente misure di welfare pubblico o di classificare i soggetti ad alto rischio di diventare criminali in futuro.
Tornando indietro nel tempo, anche il ponte costruito dall’architetto Robert Moses tra gli anni trenta e quaranta a New York, per collegarla a Long Island, se inteso come infrastruttura tecnologica, è un esempio, come ha spiegato il politologo Langdon Winner in “Do Artifacts Have Politics?” (1980), di come la tecnologia possa da una parte rendere possibile qualcosa di nuovo – raggiungere l’isola in macchina – e dall’altra escludere automaticamente interi gruppi sociali, come coloro che si muovevano con i mezzi pubblici, composti per lo più da persone povere o nere. Secondo Winner, una specifica forma di discriminazione avrebbe quindi influenzato la costruzione sociale di quei ponti, come in molti altri casi di progettazione urbana.
Tutte le rivoluzioni tecnologiche, da quelle inerenti alla sfera sessuale a quelle domestiche, nonostante le promesse, hanno finito per avvantaggiare categorie di persone già privilegiate ed escludendo, di fatto, quelle già discriminate andando ad allargare la forbice delle discriminazioni sistemiche.
Uno degli ambiti in cui vengono utilizzati sempre più spesso i processi automatizzati è quello della giustizia penale. Nel libro citi diversi casi di vere e proprie ingiustizie causate da un utilizzo superficiale o volontariamente discriminatorio dell’IA. Ce n’è uno in particolare che ti ha colpito più degli altri? Quale?
Questo è esattamente il paradosso di cui parlavo prima: i programmi e i progetti di innovazione e supporto sociale che dovrebbero, in teoria, essere rivolti alle persone più svantaggiate, finiscono invece per trasformarsi in strumenti di sorveglianza o controllo delle minoranze. Si tratta, in fin dei conti, di una doppia esclusione. Nel libro faccio l’esempio di Omar, un adolescente di 16 anni che è stato vittima di un software di polizia predittiva usato dalla città di Amsterdam, che proponeva di identificare gli adolescenti più a rischio di diventare dei criminali in futuro in base ai soli dati anagrafici, al loro percorso di vita fino a quel momento, e a quello che era successo a profili simili al loro. Si tratta di un metodo che non ha alcuna base scientifica, piuttosto è un tipico caso in cui la correlazione viene interpretata erroneamente come casualità. Un progetto rivoluzionario è diventato così pura distopia: alcune persone sono state trattate come criminali anche se non avevano ancora commesso nessun reato.
Le nuove tecnologie hanno rispettato la promessa di liberare le donne dai classici ruoli di genere o hanno contribuito a peggiorare la loro condizione?
La società evolve continuamente e le promesse che vengono fatte in un determinato periodo storico difficilmente possono essere mantenute sul lungo periodo. Nel caso delle tecnologie domestiche ad esempio, nascevano con lo scopo di alleggerire il carico di lavoro delle donne senza però considerare l’impatto sociale che quell’innovazione avrebbe avuto. Le nuove tecnologie hanno infatti creato nuovi standard, ancora più elevati, causando paradossalmente un aumento della mole di lavoro per le donne che da quel momento potevano svolgere più compiti in minor tempo. La stessa cosa accade oggi in ambito lavorativo: anziché lavorare di meno, la tecnologia ci spinge a lavorare, in alcuni casi, ancora più di prima.
Sicuramente le donne vengono escluse, così come vengono marginalizzate e penalizzate tutte le altre categorie sociali che storicamente sono state oggetto di discriminazioni più o meno strutturali e più strutturali sono le discriminazioni, più alto è il rischio che queste vengano incorporate, poiché le IA oggi – basandosi sulla statistica – lavorano sui dati storici.
Tutte le rivoluzioni tecnologiche, da quelle inerenti alla sfera sessuale a quelle domestiche, nonostante le promesse, hanno finito per avvantaggiare categorie di persone già privilegiate ed escludendo, di fatto, quelle già discriminate andando ad allargare la forbice delle discriminazioni sistemiche.
Perché all’inizio le biciclette non erano pensate o ideate per le donne? Quali sono le cause sociali e culturali che si nascondono dietro a questa esclusione?
La bicicletta è l’esempio di come la stessa tecnologia possa essere percepita ed esperita in modi completamente diversi in base al gruppo sociale di appartenenza. Se ad essere escluse dal ponte per le automobili di Long Island erano principalmente le persone povere e nere, nel caso della bicicletta, le grandi assenti erano le donne, le persone anziane e i bambini, poiché il design del mezzo era stato ideato prendendo in considerazione solo una certa categoria di persone, ovvero gli uomini giovani. Nella storia dell’evoluzione della bicicletta, è interessante inoltre constatare come per sbloccare l’impasse e permettere l’accesso di questa tecnologia a tutti, sia stato necessario l’intervento di gruppi di interesse, in questo caso femministi, che hanno insistito per favorire il processo di democratizzazione o comunque per vedere la questione da un punto di vista diverso, che inizialmente non era stato preso in considerazione. Questo ha profondamente influenzato l’impatto sociale di questo mezzo, che in seguito a queste prese di posizione e proteste è stata ripensata per poi diventare quella che conosciamo oggi (e che diamo così per scontata).
I movimenti femministi si sono occupati più volte e con approcci diversi del rapporto tra tecnologia e questioni di genere. In alcuni casi, come quello del cyberfemminismo, si sono mostrati favorevoli e aperti alle nuove tecnologie in modo tale da permettere di superare il binarismo di genere e di approdare a un’identità fluida. In altri casi invece, come quello delle ecofemministe, le hanno combattute, sostenendo che la cultura tecnologica è figlia del pensiero e del dominio maschile. Oggi qual è il rapporto o i rapporti del femminismo con la tecnologia?
Ho scritto questo libro proprio per stimolare una riflessione su questo tema. La mia vuole essere una domanda aperta: «Cosa stanno facendo oggi i movimenti femministi e sociali in generale rispetto a queste preoccupazioni?». La mia impressione è che abbiamo completamente smesso di occuparcene. Oggi pochissime persone sanno quanto sia stato importante il contributo dei movimenti femministi allo studio delle tecnologie e del loro impatto sociale. Anche se in passato ci sono state diverse posizioni, anche antitetiche rispetto al rapporto tra tecnologia e questioni di genere, c’era comunque molto fermento tra gli ambiente femministi. Oggi, invece, nel contesto italiano, ho notato che i movimenti politico-sociali hanno spesso pochissima competenza e conoscenza di queste tematiche e hanno quindi difficoltà nel concettualizzarle. Una situazione preoccupate se consideriamo che proprio adesso siamo di fronte a delle tecnologie che meriterebbero maggiore consapevolezza e riflessione, soprattutto da parte di quei gruppi marginalizzati prime vittime di queste innovazioni.
Come spieghi bene in diversi passi del libro, oggi le persone ma soprattutto i media portano avanti una narrazione che presenta lo sviluppo tecnologico e in particolare l’IA, come autonomo, neutrale e inevitabile, contribuendo alla deresponsabilizzazione dell’essere umano. Perché accade questo e cosa c’è di sbagliato in questo approccio?
Accade per più motivi. Dipende in primis da chi lo mette in atto, ossia le aziende, che hanno ovviamente degli interessi economici e che a partire da OpenAI e da Elon Musk, negli ultimi anni, hanno fatto terrorismo psicologico sulla massa rispetto agli impatti e ai rischi esistenziali che la AI generativa avrebbe avuto sulla società. Lo fanno per provare a convincere le persone del fatto che gli unici in grado di controllare questi rischi sono gli stessi che li hanno in qualche modo innescati. Se tante, d’altra parte, credono a questa narrazione è perché non abbiamo un’educazione adeguata a comprendere che si tratta di una questione di scelte. Come provo a spiegare anche nel libro, il concetto di “lampo di genio” è sbagliato e controproducente: non esiste nessuno che un giorno si sveglia e inventa una cosa che prima non esisteva. Dietro ad ogni innovazione ci sono tantissimi attori, un tempo di costruzione lunghissimo, miliardari che investono in una piuttosto che in un’altra tecnologia e persone ai posti di comando che decidono quale progetto spingere e quale affossare.
Come possiamo fare in modo che la rivoluzione tecnologica non porti a una nuova involuzione ed esclusione sociale?
Abbiamo sicuramente bisogno di tanta coscienza collettiva. Dal punto di vista della ricerca, ritengo sia importante investire molto sugli impatti meno tangibili ma estremamente reali e imminenti che le nuove tecnologie hanno sulle nostre vite e sul capire come coniugare l’intelligenza artificiale con il rispetto dei valori sociali e dei diritti fondamentali. L’Italia, in questo senso, non sta facendo molto. Oltre al recepimento obbligatorio e naturale di quello che sta facendo l’Unione Europea (l’AI Act, ndr), il nostro Paese non sta prendendo posizioni forti. Anzi, il Governo vuole affidare a un’agenzia governativa e pesantemente politicizzata (l’Agenzia per l’Italia digitale – Agid, ndr) il ruolo di garante e di vigilanza su questi strumenti. Una scelta che trovo molto discutibile e che va in direzione opposta ai dubbi e alle critiche che diverse associazioni ed esperti di settore hanno sollevato in questi mesi.
Alessandro Mancini
Laureato in Editoria e Scrittura all’Università La Sapienza di Roma, è giornalista freelance, content creator e social media manager. Tra il 2018 e il 2020 è stato direttore editoriale della rivista online che ha fondato nel 2016, Artwave.it, specializzata in arte e cultura contemporanea. Scrive e parla soprattutto di arte contemporanea, lavoro, disuguaglianze e diritti sociali.
