Il papa è tornato in questi ultimi mesi più volte sulle problematiche evidenziate dall’Intelligenza Artificiale (IA) ed è significativo che abbia dedicato a questo tema il suo Messaggio per la Giornata Mondiale per la Pace dello scorso 8 dicembre. Vi è poi specificamente tornato il mese successivo, per quella dedicata alla comunicazione sociale. Il fatto stesso che ritorni insistentemente e nel giro di poco tempo sullo stesso argomento, ci fa comprendere che vi sia in gioco qualcosa di molto importante, di “strategico” potremmo dire, riprendendo e non a caso il termine dal gergo militare.

Certo, il papa in questi documenti non dà soluzioni prêt-à-porter alle sfide tecnologiche del secolo; piuttosto, davanti all’accelerazione nella ricerca e negli usi dell’IA, offre una cornice di senso e alcuni indizi per costruire una diagnosi realistica dell’attualità, che si proietta nella lettura di un futuro non troppo lontano, anzi, per molti versi, di un futuro che è già tra di noi. Ma si tratta, appunto, di un futuro.

Tecnologia e violenza

Se il primo paragrafo del Messaggio di dicembre consiste in un invito a pensare e a volere che nel loro sviluppo la scienza e la tecnologia siano strumenti di pace, il secondo indica la necessità di una riflessione attenta sulle «promesse e i rischi» che le attuali tecnologie, e in particolare l’IA, contengono in sé stesse.

Il problema è che, mentre le «promesse» realizzate sono rare o difficili da scorgere, molti dei «rischi» paventati dal Messaggio, se non tutti, sono già una realtà: utilizzo degli algoritmi a fini commerciali ma anche schedatura dei cittadini, produzione a valanga di fake news, violazione della riservatezza, interferenza nei processi elettorali, sistemi di controllo e sorveglianza delle persone sempre più invasivi, un individualismo estremo che si espande a misura dell’espansione di queste tecnologie, etc.

Ora, sostiene il papa, tutti questi rischi che man mano che si realizzano, portano inevitabilmente a conflitti che oggettivamente non solo ostacolano la pace, ma possono trasformarsi velocemente in vere e proprie guerre. Davanti al fumante panorama offerto dall’attualità non si può fare a meno di pensare che tutti quei rischi non sono qualcosa dell’avvenire, bensì che quel futuro sia già parte del nostro presente.

Purtroppo, le forme di discriminazione e pregiudizio che con l’implementazione della tecnologia – come scrive il papa – potranno «in futuro» essere pericolosamente all’ordine del giorno, lo sono già in molti settori della vita sociale e il loro utilizzo non fa che espandersi ed approfondirsi.

Giustamente Francesco afferma con forza che mai la persona dovrebbe essere ridotta ad «un insieme di dati» e che l’assorbimento di molte mansioni lavorative da parte delle macchine intelligenti può portare «un vantaggio sproporzionato per pochi a scapito dell’impoverimento di molti».

Tuttavia, l’esperienza quotidiana che ciascuno di noi fa del suo rapporto al mondo e alla società dimostra che questi processi di digitalizzazione della vita e dunque della persona, così come l’automazione di moltissima parte del lavoro, anche di quello intellettuale, siano già in atto. Insomma, dovremmo abituarci a guardare a questo futuro rischioso come qualcosa che è alle nostre spalle e che modella il presente. L’avvenire, inteso come ciò che ci è davanti, invece è ciò per il quale dovremmo sperare e lottare, un tempo nel quale quei rischi del futuro saranno solo un ricordo.

Ambiguità e competizione

Questa riflessione del pontefice serve dunque a mostrarci che la tecnologia dell’IA – ma si potrebbe dire lo stesso di ogni tecnologia – è costitutivamente ambigua quanto al suo uso, la quale caratteristica ci porta verso la considerazione di ciò che il papa indica nel Messaggio come la «non-neutralità» della scienza e della tecnologia.

Una stessa applicazione può servire tanto a condurre un gioco o essere d’aiuto in uno studio medico quanto essere un’arma micidiale: le aziende che producono negli USA le playstation per i giochi, spesso, sono le stesse che producono i supporti per guidare i droni da guerra. I giovani che oggi si presentano per arruolarsi lo fanno avendo già alle spalle un lungo training, condotto spensieratamente durante l’infanzia e l’adolescenza. E spensieratamente ora premeranno il grilletto del joystick del drone con il quale, a migliaia di chilometri di distanza, bombarderanno veri esseri umani. Come se fosse un gioco.

Vengo qui al primo punto della questione, ovvero che in questo come in ogni altro caso legato alla scienza e alle sue applicazioni tecnologiche, bisogna considerare che nel mondo attuale, così come è governato, per il sistema economico che vi domina, la ricerca fondamentale svolta nei laboratori scientifici e tecno-industriali dalle grandi potenze è legata a doppio filo a quella militare o, meglio, è quest’ultima che comanda sulla prima.

La competizione tra le potenze del mondo raggiunge qui il suo apice, come spiega bene il di recente scomparso Henry Kissinger, Grandmaster occidentale di tutte le guerre calde e fredde della seconda parte del secolo scorso, il quale ha ragionato insieme a Eric Schmidt, ex CEO di Google, e l’esperto di IA e direttore di ricerca al MIT, Daniel Huttenlocher, già tra i dirigenti di Amazon, con i quali ha infine scritto un libro dal titolo L’era dell’Intelligenza Artificiale. Il futuro dell’identità umana, nel quale il discorso sulla «sicurezza», ovvero sulla guerra, prende molto spazio.

È un trio molto ben assortito – si converrà – che ci mostra con chiarezza il fatto che, nel capitalismo reale che governa il mondo, non solo c’è una cooperazione stretta tra economia, scienza e politica ma che, a proposito delle strutture produttive delle grandi potenze, bisogna sempre riferirsi come ad un unico complesso industrial-militare. Fu proprio negli USA che la scoperta di questo connubio indirizzò le azioni dirette del movimento contro la guerra in Vietnam negli anni ‘60, prima fra tutte quella condotta nel 1969 da un gruppo di preti e suore contro la Dow Chemical, un’industria chimica che produceva tanto detersivi e candeggina quanto le tonnellate di napalm che venivano scaricate sui villaggi vietnamiti.

D’altra parte, l’economia capitalista, le politiche di potenza che sfociano nella guerra e il paradigma tecnocratico che distrugge l’ambiente, costituiscono un unico dispositivo che si scarica invariabilmente sui poveri, sfruttandoli, uccidendoli e producendone altri, all’infinito.

Economia e apparato militare

Per accorgersi dell’interpenetrazione tra produzione civile e militare basta dunque guardarsi attorno nella propria casa e, ad esempio, scoprire che il forno a micro-onde è una scoperta “collaterale” fatta in un laboratorio che lavorava per l’esercito. Senza contare, ovviamente, che l’innovazione centrale della nostra epoca, cioè Internet, si sviluppa prima di tutto come progetto sia difensivo che di attacco in vista della guerra atomica.

Alla base di tutto vi è la cibernetica, questo metodo che atterriva Heidegger, poiché credeva avrebbe del tutto sostituito la filosofia, il quale ha conosciuto fin dal dopoguerra uno sviluppo impressionante in ogni ambito della società, fino ad arrivare all’attuale IA, essendo sin dall’inizio un metodo strettamente connesso al suo uso militare.

Tutto ciò per dire che, se vogliamo che le società si orientino verso la pace, non si può pensare di agire solamente sugli effetti a valle della tecnologia, sarebbe sempre troppo tardi, ma è necessario farlo a monte: bisogna denunciare e rompere il nesso diabolico tra la ricerca scientifica e l’apparato militare.

Nulla meno di questo sarà efficace. Non mi pare proprio un caso, d’altronde, che in questo stesso periodo in cui si è occupato dell’IA, il papa più volte abbia puntato il dito contro l’industria delle armi sottolineando che il produrle e commerciarle si configura come peccato. Un peccato che, unito alla politica di potenza, diviene strutturale.

Destituire la politica di potenza

Ora, si capisce bene che rompere questo nesso di peccato vuol dire cambiare totalmente paradigma di società, di produzione, di governo. Insomma, ci vorrebbe niente di meno che una rivoluzione. Una rivoluzione che destituisca la politica di potenza è, necessariamente, una rivoluzione che al suo centro contempli l’abolizione delle armi. Nei movimenti per la pace ed ecologisti si è sempre parlato di «riconversione» dell’industria in un senso principalmente tecno-produttivo.

Ma, dal punto di vista cristiano, è evidente che innanzi tutto ci sia bisogno di una vera e propria conversione dei cuori, poiché per inventare e produrre strumenti di pace ci vogliono uomini e donne di pace. E con questo giungo al secondo punto della questione il quale, tuttavia, metafisicamente è il primo.

Dico metafisicamente perché l’IA si presenta immediatamente come un nodo di problemi strettamente metafisici in quanto coinvolge il linguaggio, il logos, in una modalità non meccanicista bensì organica. Bisogna dire, en passant, che molte delle critiche umanistiche, pur giuste nel loro spirito di fondo, che oggi vengono rivolte a queste tecnologie, sono inefficaci proprio perché le trattano come se vivessimo ancora in un mondo meccanicistico, mentre non è proprio il caso per quanto riguarda l’IA e non solo.

Quelle critiche procedono dalle classiche opposizioni tecnologia/natura, organico/inorganico, umano/divino e così via, ma siccome non siamo più nell’epoca della ripetitiva riproduzione meccanica, bensì in quella che il filosofo cino-tedesco Yuk Hui chiama «riproduzione digitale ricorsiva», la quale «prende una forma differente e che sempre più assomiglia al modo di riproduzione organico di piante e animali, con maggiori capacità e una grande velocità di mutazione» (Yuk Hui, Art and Cosmotechnics), quel tipo di opposizioni dialettiche risultano inservibili.

Ciò che suggerisce Hui è che dobbiamo imparare a non considerare più uomini e macchine, uomini e natura e uomini e divinità come enti separati e per questo, aggiungo io, il cristianesimo ha molto da dire e offrire all’umanità, proprio in quanto è la religione dell’Incarnazione.

Dicevo del linguaggio poco fa. Se consideriamo sotto la prospettiva metafisica, appena menzionata, le macchine intelligenti, sembra evidente che locuzioni del genere «il linguaggio è la dimora dell’essere» oppure che «il linguaggio è ciò che distingue e definisce l’essere umano» non hanno più molto senso in un mondo in cui la tecnologia intelligente ha il linguaggio e che in quanto tale si presenta come il nuovo Nomos della terra.

Antropologia cristiana

Invece la definizione di persona umana data della teologia cristiana, radicata nella Trinità e quindi indicante la qualità divina che è propria dell’essere umano, ma anche l’essere Persona di Dio stesso, non solo non perde una virgola della sua pregnanza, ma ne acquisisce ancora una maggiore di fronte ai progetti di riduzione della persona a «insieme di dati» o al tentativo transumanista di impiantare una vera e propria religione la cui divinità sarebbe l’uomo-cyborg.

Non si tratta in quest’ultimo caso di una sorta di piccolo folklore del sottobosco nerd, poiché a capo di queste vere e proprie sette transumaniste vi sono scienziati e informatici che sono stati o sono tuttora responsabili della ricerca nei laboratori delle maggiori industrie tecnologiche. L’inventore del singolarismo, una sorta di gnosi tecnologica che predica l’immortalità cibernetica, è Raymond Kurzweil, esperto di IA e ingegnere di Google, autore di libri come L’era delle macchine spirituali o dell’escatologico La singolarità è vicina. Non c’è bisogno di dire che questo personaggio conti su di un grande seguito nella Silicon Valley e che quindi appaia in quasi tutti i libri che trattano di IA e macchine intelligenti.

Uno dei grandi dibattiti in corso consiste nel definire se una macchina intelligente possa avere o meno una «coscienza» ovvero una propria «soggettività».

Naturalmente tutto dipende da cosa si intende con queste parole. I neuroscienziati non sono ancora arrivati a una definizione soddisfacente, mentre solitamente nei testi degli studiosi più entusiasti dell’IA si trova che la coscienza sarebbe infine null’altro che l’«esperienza soggettiva», definizione che effettivamente trova grande eco nella cultura contemporanea e che spiega molto, credo, del relativismo etico che imperversa in ogni campo dell’esistenza.

Sono, per altro, molto avanzati gli studi per la produzione di robot-soldati dotati di una coscienza che gli consegnerebbe la facoltà di decidere autonomamente se uccidere o meno delle persone. E si conosce, con ragionevole certezza, che droni autonomi dotati di IA siano stati già utilizzati in azioni di guerra. A fronte di tutto questo non è affatto inutile ricordare che Gaudium et spes, la Costituzione Pastorale risalente all’ultimo Concilio, definisce precisamente la coscienza come «il nucleo più segreto e il sacrario dell’uomo, dove egli è solo con Dio, la cui voce risuona nell’intimità» (GS 16).

Sentinella

A questi gravi problemi, etici innanzitutto, risponde l’altro Messaggio del papa a proposito della IA, quello del 24 gennaio scritto per la Giornata Mondiale delle Comunicazioni Sociali. In questo Messaggio, Francesco va infatti oltre la descrizione fenomenologica dei rischi e delle promesse della tecnologia e propone un criterio di discernimento.

Una volta chiarito che in nessun modo il suo intendimento critico può essere confuso con il catastrofismo, Francesco indica che solamente uno «sguardo spirituale» può illuminare i nostri dubbi e che ciò va fatto recuperando la «sapienza del cuore». Questa sapienza non è, evidentemente, identificabile con l’intelligenza macchinica ma nemmeno con la ragione umana così come intesa dal pensiero moderno dall’Illuminismo in poi.

È una categoria biblica, dove il cuore riunisce in sé intelligenza, libertà e amore; essa è «un dono dello Spirito Santo, che permette di vedere le cose con gli occhi di Dio, di comprendere i nessi, le situazioni, gli avvenimenti e di scoprirne il senso». È questa sapienza del cuore che può formare la coscienza umana nella libertà e quindi sciogliere l’ambiguità costitutiva della tecnologia, distinguendo in tal modo cosa e come può divenire «opportunità o pericolo».

A partire da questo sguardo spirituale, Francesco si spinge a dire che è «fuorviante» parlare propriamente di intelligenza a proposito delle macchine e che non basta nemmeno la «regolazione» giuridica per controllarne la pericolosità, bisogna invece che noi tutti sappiamo «crescere in umanità» e quindi valorizzare sempre e comunque la «relazione esistenziale» che può avvenire solamente tra corpi, volti, voci e cuori, per l’appunto. Oltre la condivisione, scrive il Papa, dev’esserci la compassione e questa, come ci mostra Gesù, è un moto profondo che coinvolge ogni dimensione umana e si dispiega in gesti carnali di fraternità, tenerezza e misericordia che nessuna potenza calcolante potrà mai esprimere compiutamente.

È dunque da questo sguardo spirituale, da questa sapienza che si esplica nella relazione che, collettivizzandosi, può nascere una rivoluzione del cuore che arrivi ad una radicale ridefinizione del rapporto dell’umano con il mondo macchinico, ed è bello che Francesco concluda questo messaggio parafrasando, chissà quanto coscientemente, il motto di Joe Strummer, il leader della band dei Clash, dicendoci, in un perfetto stile Combat Theology, che «la risposta non è scritta, dipende da noi».

• P.S. Il motto dei Clash campeggiava sul retro del loro disco del 1982 Combat Rock e diceva «The future is unwritten. Know your rights». The future is unwritten diventò poi il titolo del documentario sulla vita di Joe Strummer diretto da Julien Temple nel 2007.