Certamente, di un tema così centrale per la riflessione etica in quanto tale e a maggior ragione per l’etica teologica, al posto di «risposte» che in questo momento di passaggio d’epoca non possono ancora esistere ci devono innanzitutto essere date «questioni e dibattiti» (p. 11). Secondo molti esperti di diverse materie, stiamo di fronte alla quarta grande rivoluzione sociale, dopo quella agraria e quella di Gutenberg, ma anche della «grande trasformazione» in senso polanyiano che tra la fine del Settecento e la fine dell’Ottocento ha messo le basi per la società moderna e quindi costituito il terreno per la dottrina sociale della Chiesa (pp. 51-52).
Non a caso negli ultimi anni sempre più frequenti sono gli interventi di papa Francesco riguardo alle «trasformazioni epocali» (2019) che dobbiamo aspettarci dal progresso tecnologico e dall’Intelligenza Artificiale (IA) in particolare. In quattro capitoli e una conclusione, Paolo Benanti, quale massimo esperto di questi temi all’interno dell’etica teologica, ci introduce in questo terreno che nasconde la minaccia seria di realizzare nella società del futuro preoccupanti «forme disumanizzanti» (p. 156).
Il «potenziale rivoluzionario» dell’IA per tutte le dimensioni della vita sociale è tema del primo capitolo (pp. 13-55): a partire dai campi lavoro, assistenza sanitaria e tecnologie riproduttive attraverso la giustizia predittiva, i sistemi di social credit e i social network che alimentano un mondo post-fattuale fino alla sicurezza nazionale e a questioni internazionali di guerra: già osserviamo che la «relazione fra l’uomo e la realtà è mutuata e dettata dalla macchina» (p. 50). La novità della recente rivoluzione industriale, da Benanti individuata come «terza» dopo le due sopra indicate (di fine Sette e fine Ottocento), sta nel fatto che per la prima volta essa non viene gestita da una «élite umana» ma da «macchine» (p. 55). E se si considera che il principio base della dottrina sociale è la persona umana, allora ne emerge immediatamente l’appello alla responsabilità di questa disciplina per il futuro della società. In altre parole, essa non può più accontentarsi nel ripetere manualisticamente i suoi principi, ma deve ripensarli alla luce della sfida dell’IA. Proprio a tale riguardo Benanti pone nel secondo capitolo la domanda «Cosa significa essere umani?» (pp. 57-103).
Dalla «rivoluzione cognitiva» (tra 70 mila e 30 mila anni fa), l’essere umano si è staccato dalla natura nella misura in cui ha istaurato una comunicazione simbolica (di linguaggio) e sviluppato la capacità di cooperare (pp. 59-61). Trova così, nelle parole di Max Scheler, la sua «posizione […] nel cosmo» che è segnata dalla «possibilità della libertà e della responsabilità morale» che deriva dalla «capacità, unica tra i viventi, di autodeterminare in modo razionale le proprie azioni» (p. 63): capacità che realizza costitutivamente anche in modo tecnico, per cui Benanti parla della «condizione tecno-umana» della persona (pp. 64-66), indicando così anche il luogo sistematico per le riflessioni etiche sull’IA.
Quest’ultima è conseguenza di un’evoluzione all’interno di tale condizione che sin dal rinascimento ha promosso il «pensiero quantitativo del reale», il quale costituiva una nuova mentalité che preparò il terreno sul quale attraverso un rovesciamento di metodo dal determinismo al probabilismo avanza la centralità del computer per «modellizzare la realtà con le tecniche del calcolo» (pp. 72-73, 85-86): «la crisi della conoscenza scientifica si tramuta nel trionfo della tecnologia» (p. 88). In questo modo si crea l’illusione di poter risolvere i problemi con i computer, e infatti il tempo in cui si raddoppia il numero dei dati prodotti si è ridotto ormai a un solo anno e tra poco si dimezzerà nuovamente.
Secondo Benanti al di là di questi processi percettibili e misurabili è «in gioco una trasformazione più sottile, meno sensazionale, e tuttavia più fondamentale e profonda nel nostro modo di concepire che cosa sia un agente e quale tipo di ambiente questi nuovi agenti abitino in seguito a una trasformazione radicale della nostra comprensione della realtà e di noi stessi» (p. 94): nella misura, infatti, in cui si impone la nuova «logica dataista», concetto coniato dall’A. per indicare le dimensioni religiose di questa trasformazione, «gli algoritmi artificiali potrebbero un giorno sostituire il ruolo che attribuiamo oggi ai sentimenti e acquisire l’autorità di guidarci nelle decisioni più importanti della nostra vita» (p. 100).
Tale scenario, ricco di sfide per l’etica teologica, viene affiancato da due riflessioni chiamate «interludio» (pp. 105-112): da un lato, dalla negazione della possibilità di rappresentare l’intera realtà in un’esatta copia o «mappa» fatta da meri dati segue che all’etica sarà garantita la sua voce in questo dibattito (p. 108), mentre dall’altro lato si sottolinea che nel valorizzare e spiegare le scelte umane «non conta solo l’aspetto razionale funzionale» ma quasi sempre anche le emozioni (p. 112).
Da queste due premesse risulta nel terzo capitolo la proposta di «Un codice etico per le intelligenze artificiali» (pp. 113-123): basandosi sul presupposto che l’IA proprio per la mancante dimensione umana non è da considerare “nemico” dell’uomo per cui bisogna sviluppare una prospettiva strumentale ma cooperativa (p. 113) che richiede che una possibile “moralità programmata” innanzitutto impedisca alle macchine intelligenti di ledere gli esseri umani (p. 116), le renda relazionali agli uomini (p. 117) e capaci di «intuire cosa vogliano fare gli uomini e adattarsi alle loro intenzioni cooperando» (pp. 118-119), richieda che siano intelligibili nelle loro azioni (p. 120) e adattabili alla personalità e alle emozioni delle persone con cui interagiscono (p. 121) e infine pretenda che debbano regolarsi, nonostante i loro algoritmi su cui sono basate, rispetto all’uomo (p. 123).
Con questi presupposti, Benanti dispiega nell’ultimo capitolo le linee di massima di «una governance delle intelligenze artificiali» (pp. 125-154) che cercano di «rendere presente, nel dibattito, la domanda critica sul senso dell’umano che l’innovazione tecnologica media e su quelle modalità che possano garantire uno sviluppo umano autentico» (p. 131). Tale istanza si articola in ben 18 domande che aiutano la società e le istituzioni ad «autointerrogarsi» di cui la prima chiede se le «intelligenze artificiali sono necessarie, legittime, trasparenti e proporzionali nel loro uso e nella loro implementazione» (p. 132). Per la dottrina sociale ne segue come conseguenza importante che con l’IA la tecnica non può essere più considerata né come un mero mezzo, e nemmeno – superando la prospettiva di “strumento” – con responsabilità morale e consapevole, ma esprime innanzitutto «un atteggiamento di base degli esseri umani verso il mondo» (p. 138). In altre parole, nel modo in cui sarà realizzata e implementata l’AI nelle diverse dimensioni della società si riconoscerà il livello di umanità e cultura che esprime – e viceversa: soltanto la coltivazione di una cultura umanistica garantirà un uso eticamente adeguato dell’IA. Non sarà l’etica a realizzare o impedire la «grande trasformazione», ma sarà suo compito gestirla e quindi garantire alla società un «umanesimo digitale» come l’ha definito Julian Nida-Rümelin, perché «la tecnologia è sempre, in una certa maniera, legata a un’antropologia di riferimento» (p. 141). Esso si realizza innanzitutto attraverso «un’adeguata cultura organizzativa» e «una cultura aziendale» (pp. 142-143) che viene esplicitata alla fine con i cinque principi di Cummings e Worley (pp. 147-153).
Questa introduzione di Benanti a uno dei massimi temi del futuro per la nostra società si distingue per la sua chiarezza contenutistica e metodologica, consentendo a tutti quanti ritengono che la dottrina sociale della Chiesa ha un’importante voce in capitolo quando si tratta di pensare alla società di domani, di rendersi conto dell’urgenza della sfida dell’IA e del potenziale per la stessa disciplina di ripensare i propri principi e compiere un ulteriore passo in avanti nella propria evoluzione. Per questo, la lettura – senz’altro possibile anche per chi ancora non ha conoscenze in merito – è fermamente consigliata a esperti, studiosi e studenti della dottrina sociale della Chiesa.
Paolo Benanti, Le macchine sapienti. Intelligenze artificiali e decisioni umane, Marietti 1820, Bologna 2018, pp. 157, € 15,00. Recensione pubblicata su Studia patavina 67(2020), 143-145.
