Pontificia Accademia per la Vita, Microsoft,  IBM, la FAO, il Governo italiano, hanno firmato il 28 febbraio 2020 la Call for an AI Ethics, documento nato per sostenere un approccio etico all’Intelligenza Artificiale e promuovere tra organizzazioni, governi e istituzioni un senso di responsabilità condivisa con l’obiettivo di garantire un futuro in cui l’innovazione digitale e il progresso tecnologico siano al servizio del genio e della creatività umana e non la loro graduale sostituzione.

I primi tre firmatari della Call esprimono così il desiderio di lavorare insieme, in questo contesto e a livello nazionale e internazionale, per promuovere una “algor-etica”, ovvero lo sviluppo e l’utilizzo dell’Intelligenza Artificiale secondo i seguenti principi, fondamentali di una buona innovazione: Trasparenza, in linea di principio i sistemi di intelligenza artificiale devono essere comprensibili; dell’Inclusione, devono essere prese in considerazione le esigenze di tutti gli esseri umani  in modo che tutti possano beneficiare e che a tutti gli individui possano essere offerte le migliori condizioni possibili per esprimersi e svilupparsi; Responsabilità: coloro che progettano e implementano soluzioni di Intelligenza Artificiale devono procedere con responsabilità e trasparenza; imparzialità: non creare o agire secondo il pregiudizio, salvaguardando così l’equità e la dignità umana; Affidabilità: i sistemi di Intelligenza Artificiale devono essere in grado di funzionare in modo affidabile; Sicurezza e privacy: i sistemi di Intelligenza Artificiale devono funzionare in modo sicuro e rispettare la privacy degli utenti.

Primi firmatari: mons. Vincenzo Paglia, presidente della Pontificia Accademia per la Vita  (sponsor dell’iniziativa); dr. Brad Smith, presidente Microsoft; dr. John Kelly III, vice presidente esecutivo IBM; dr. Dongyu Qu, direttore generale della FAO; il ministro Paola Pisano per il Governo italiano. All’appuntamento della mattina ha partecipato il dr. Davide Sassoli, presidente del Parlamento Europeo, che ha portato il suo saluto.

Appello per un’etica dell’Intelligenza artificiale

Introduzione

L’“intelligenza artificiale” (IA) sta portando profondi cambiamenti nella vita degli esseri umani e continuerà a farlo. L’intelligenza artificiale offre un potenziale enorme quando si tratta di migliorare la convivenza sociale e il benessere personale, aumentare le capacità umane e consentire o facilitare molti compiti che possono essere svolti in modo più efficiente ed efficace. Tuttavia, questi risultati non sono affatto garantiti. Le trasformazioni attualmente in corso non sono solo quantitative. Sono soprattutto qualitativi, perché influenzano il modo in cui questi compiti vengono svolti e il modo in cui percepiamo la realtà e la natura umana stessa, tanto che possono influenzare le nostre abitudini mentali e interpersonali. Le nuove tecnologie devono essere ricercate e prodotte secondo criteri che garantiscano che siano realmente al servizio dell’intera “famiglia umana” (Preambolo, Dichiarazione universale dei diritti dell’uomo), rispettando la dignità costitutiva di ciascuno dei suoi membri e di tutti gli ambienti naturali e tenendo conto delle esigenze di coloro che sono più vulnerabili. L’obiettivo non è solo quello di garantire che nessuno sia escluso, ma anche di espandere quelle aree di libertà che potrebbero essere minacciate dal condizionamento algoritmico.

Data la natura innovativa e complessa delle domande poste dalla trasformazione digitale, è essenziale che tutte le parti interessate lavorino insieme e che siano rappresentati tutti i bisogni interessati dall’intelligenza artificiale. Questo appello è un passo avanti nell’ottica di crescere nella comprensione comune e la ricerca di un linguaggio e di soluzioni che possiamo condividere. Sulla base di ciò, possiamo riconoscere e accettare responsabilità che tengono conto dell’intero processo di innovazione tecnologica, dalla progettazione alla distribuzione e all’utilizzo, incoraggiando un reale impegno in una serie di scenari pratici. A lungo termine, i valori e i principi che siamo in grado di infondere nell’intelligenza artificiale aiuteranno a stabilire un quadro che regola e agisce come punto di riferimento per l’etica digitale, guidando le nostre azioni e promuovendo l’uso della tecnologia a beneficio dell’umanità e dell’ambiente.

Ora più che mai, dobbiamo garantire una prospettiva in cui l’IA sia sviluppata con il focus non sulla tecnologia, ma piuttosto sul bene dell’umanità e dell’ambiente, della nostra casa comune e condivisa e dei suoi abitanti umani, che sono indissolubilmente connessi. In altre parole, una visione in cui gli esseri umani e la natura sono al centro di come si sviluppa l’innovazione digitale, supportata, piuttosto che gradualmente sostituita, da tecnologie che si comportano come attori razionali ma non sono affatto umani. È tempo di iniziare a prepararsi a un futuro più tecnologico in cui le macchine avranno un ruolo più importante nella vita degli esseri umani, ma anche un futuro in cui è chiaro che il progresso tecnologico afferma lo splendore della razza umana e rimane dipendente dalla sua integrità morale.

Etica

Tutti gli esseri umani sono nati liberi e uguali in dignità e diritti. Sono dotati di ragione e coscienza e dovrebbero agire l’uno verso l’altro in uno spirito di comunione (cf. Art. 1, Dichiarazione universale dei diritti dell’uomo). Questa condizione fondamentale di libertà e dignità deve anche essere protetta e garantita durante la produzione e l’utilizzo di sistemi di intelligenza artificiale. Ciò deve essere fatto salvaguardando i diritti e la libertà delle persone in modo che non vengano discriminati da algoritmi a causa della loro “razza, colore, sesso, lingua, religione, opinione politica o di altro genere, origine nazionale o sociale, proprietà, nascita o altro status” (Art. 2, Dichiarazione universale dei diritti dell’uomo).

I sistemi di intelligenza artificiale devono essere concepiti, progettati e implementati per servire e proteggere gli esseri umani e l’ambiente in cui vivono. Questa visione fondamentale deve tradursi nell’impegno a creare condizioni di vita (sia sociali sia personali) che consentano sia ai gruppi sia ai singoli membri di tentare di esprimersi pienamente ove possibile.

Affinché il progresso tecnologico si allinei con veri progressi per la razza umana e il rispetto per il pianeta, deve soddisfare tre requisiti. Deve includere ogni essere umano, senza discriminare alcuno; deve avere il bene dell’umanità e il bene di ogni essere umano al centro; infine, deve essere consapevole della complessa realtà del nostro ecosistema ed essere caratterizzato dal modo in cui si prende cura e protegge il pianeta (la nostra “casa comune e condivisa”) con un approccio altamente sostenibile, che include anche l’uso dell’IA nel garantire sistemi alimentari sostenibili in futuro. Inoltre, ogni persona deve essere consapevole quando sta interagendo con una macchina.

La tecnologia basata sull’intelligenza artificiale non deve mai essere utilizzata per sfruttare le persone in alcun modo, in particolare quelle più vulnerabili. Invece, deve essere usato per aiutare le persone a sviluppare le proprie capacità (potenziamento / abilitazione) e per sostenere il pianeta.

Formazione

Trasformare il mondo attraverso l’innovazione dell’IA significa impegnarsi a costruire un futuro per e con le generazioni più giovani. Questa impresa deve riflettersi in un impegno per la formazione, lo sviluppo di curricula specifici che abbracciano diverse discipline – umanistiche, scientifiche e tecnologiche – e assumersi la responsabilità di educare le giovani generazioni. Questo impegno significa lavorare per migliorare la qualità dell’istruzione che i giovani ricevono; essa deve essere fornita attraverso metodi accessibili a tutti, che non discriminino e che possano offrire uguaglianza di opportunità e trattamento. L’accesso universale all’istruzione deve essere raggiunto attraverso principi di solidarietà ed equità.

L’accesso all’apprendimento permanente deve essere garantito anche agli anziani, ai quali deve essere offerta l’opportunità di accedere ai servizi offline durante la transizione digitale e tecnologica. Inoltre, queste tecnologie possono rivelarsi estremamente utili nell’aiutare le persone con disabilità a imparare e diventare più indipendenti: l’educazione inclusiva significa quindi anche usare l’IA per supportare e integrare ogni persona, offrendo aiuto e opportunità per la partecipazione sociale (ad es. lavoro a distanza per le persone con mobilità limitata, supporto tecnologico per le persone con disabilità cognitive ecc.).

L’impatto delle trasformazioni causate dall’IA nella società, nel lavoro e nell’istruzione ha reso essenziale la revisione dei curricula scolastici al fine di rendere il motto educativo “nessuno lasciato indietro” una realtà. Nel settore dell’istruzione sono necessarie riforme per stabilire standard elevati e obiettivi che possano migliorare i risultati individuali. Questi standard non dovrebbero limitarsi allo sviluppo delle competenze digitali, ma dovrebbero concentrarsi invece sull’assicurare che ogni persona possa esprimere appieno le proprie capacità e sul lavoro per il bene della comunità, anche quando da questo non si ottengono benefici personali.

Mentre progettiamo e pianifichiamo la società di domani, l’uso dell’IA deve seguire forme di azione socialmente orientate, creative, connettive, produttive, responsabili e capaci di avere un impatto positivo sulla vita personale e sociale delle giovani generazioni. L’impatto sociale ed etico dell’IA deve essere anche al centro delle attività educative dell’IA.

L’obiettivo principale di questa formazione deve essere quello di sensibilizzare sulle opportunità e anche sulle possibili questioni critiche poste dall’intelligenza artificiale dal punto di vista dell’inclusione sociale e del rispetto individuale.

Diritti

Lo sviluppo dell’IA al servizio dell’umanità e del pianeta deve riflettersi in regolamenti e principi che proteggono le persone – in particolare i deboli e i meno privilegiati – e gli ambienti naturali. L’impegno etico di tutte le parti interessate è un punto di partenza cruciale; per trasformare questo futuro in realtà, valori, principi e, in alcuni casi, norme legali sono assolutamente indispensabili per supportare, strutturare e guidare questo processo.

Per sviluppare e implementare sistemi di intelligenza artificiale a beneficio dell’umanità e del pianeta, agendo come strumenti per costruire e mantenere la pace internazionale, lo sviluppo dell’IA deve andare di pari passo con solide misure di sicurezza digitale.

Affinché l’IA funga da strumento per il bene dell’umanità e del pianeta, dobbiamo porre al centro del dibattito pubblico il tema della protezione dei diritti umani nell’era digitale. È giunto il momento di chiedersi se nuove forme di automazione e attività algoritmica richiedano lo sviluppo di responsabilità più forti. In particolare, sarà essenziale considerare una qualche forma di un “dovere di spiegazione”: dobbiamo pensare a rendere comprensibili non solo i criteri decisionali degli agenti algoritmici basati sull’intelligenza artificiale, ma anche il loro scopo e obiettivi. Questi dispositivi devono essere in grado di offrire agli individui informazioni sulla logica alla base degli algoritmi utilizzati per prendere decisioni. Ciò aumenterà la trasparenza, la tracciabilità e la responsabilità, rendendo più valido il processo decisionale assistito dal computer.

Nuove forme di regolamentazione devono essere incoraggiate per promuovere la trasparenza e il rispetto dei principi etici, in particolare per le tecnologie avanzate che hanno un rischio maggiore di incidere sui diritti umani, come il riconoscimento facciale.

Per raggiungere questi obiettivi, dobbiamo partire fin dall’inizio dello sviluppo di ciascun algoritmo con una visione “algoretica”, ovvero un approccio etico alla base della progettazione. La progettazione e pianificazione di sistemi di intelligenza artificiale di cui possiamo fidarci implica la ricerca di un consenso tra decisori politici, agenzie di sistema delle Nazioni Unite e altre organizzazioni intergovernative, ricercatori, mondo accademico e rappresentanti di organizzazioni non governative in merito ai principi etici che dovrebbero essere integrati in questi tecnologie. Per questo motivo, i promotori dell’Appello esprimono il loro desiderio di lavorare insieme, in questo contesto e a livello nazionale e internazionale, per promuovere “algoretica”, ovvero l’uso etico dell’IA come definito dai seguenti principi:

1. Trasparenza: in linea di principio, i sistemi di intelligenza artificiale devono essere spiegabili.
2. Inclusione: i bisogni di tutti gli esseri umani devono essere presi in considerazione in modo che tutti possano trarne beneficio e a tutti gli individui possano essere offerte le migliori condizioni possibili per esprimersi e svilupparsi.
3. Responsabilità: coloro che progettano e implementano l’uso dell’IA devono procedere con responsabilità e trasparenza.
4. Imparzialità: non creare o agire in base al pregiudizio, salvaguardando così l’equità e la dignità umana.
5. Affidabilità: i sistemi di intelligenza artificiale devono essere in grado di funzionare in modo affidabile.
6. Sicurezza e privacy: i sistemi di intelligenza artificiale devono funzionare in modo sicuro e rispettare la privacy degli utenti.

Questi principi sono elementi fondamentali di una buona innovazione.

Roma, 28 febbraio 2020

Discorso rivolto ai partecipanti da papa Francesco

Distinte Autorità, illustri Signori e Signore, cari fratelli e sorelle!

Vi saluto cordialmente in occasione dell’Assemblea generale della Pontificia Accademia per la Vita e ringrazio Mons. Paglia per le sue cortesi parole. Sono grato per la loro presenza al Presidente del Parlamento Europeo, al Direttore Generale della FAO, alle altre autorità e alle personalità nel campo della tecnologia informatica. Saluto inoltre quanti partecipano dall’Auditorium Conciliazione e mi rallegro per la presenza numerosa, anche di giovani: è un segno di speranza.

Le tematiche che avete affrontato in questi giorni riguardano uno dei cambiamenti più importanti che caratterizzano il mondo di oggi. Anzi, potremmo dire che la “galassia digitale”, e in particolare la cosiddetta “intelligenza artificiale”, si trova proprio al cuore del cambiamento d’epoca che stiamo attraversando. L’innovazione digitale, infatti, tocca tutti gli aspetti della vita, sia personali sia sociali. Essa incide sul nostro modo di comprendere il mondo e anche noi stessi. È sempre più presente nell’attività e perfino nelle decisioni umane, e così sta cambiando il modo in cui pensiamo e agiamo. Le decisioni, anche le più importanti come quelle in ambito medico, economico o sociale, sono oggi frutto di volere umano e di una serie di contributi algoritmici. L’atto personale viene a trovarsi al punto di convergenza tra l’apporto propriamente umano e il calcolo automatico, cosicché risulta sempre più complesso comprenderne l’oggetto, prevederne gli effetti, definirne le responsabilità.

Certo, l’umanità ha già vissuto nella sua storia sconvolgimenti profondi, come, ad esempio, quando è stata introdotta la macchina a vapore, o l’elettricità, o l’invenzione della stampa che ha rivoluzionato il modo di conservare e trasmettere informazioni. Oggi la convergenza tra diversi saperi scientifici e tecnologici ha un effetto di amplificazione e consente di intervenire su fenomeni di grandezza infinitesimale e di portata planetaria, fino al punto di rendere labili confini finora considerati ben distinguibili: tra materia inorganica e organica, tra reale e virtuale, tra identità stabili ed eventi in continua relazione tra loro.

Sul piano personale, l’epoca digitale cambia la percezione dello spazio, del tempo e del corpo. Infonde un senso di espansione di sé che sembra non incontrare più limiti e l’omologazione si afferma come criterio prevalente di aggregazione: riconoscere e apprezzare la differenza diventa sempre più difficile. Sul piano socio-economico, gli utenti sono spesso ridotti a “consumatori”, asserviti a interessi privati concentrati nelle mani di pochi. Dalle tracce digitali disseminate in internet, gli algoritmi estraggono dati che consentono di controllare abitudini mentali e relazionali, per fini commerciali o politici, spesso a nostra insaputa. Questa asimmetria, per cui alcuni pochi sanno tutto di noi, mentre noi non sappiamo nulla di loro, intorpidisce il pensiero critico e l’esercizio consapevole della libertà. Le disuguaglianze si amplificano a dismisura, la conoscenza e la ricchezza si accumulano in poche mani, con gravi rischi per le società democratiche. Questi pericoli non devono però nasconderci le grandi potenzialità che le nuove tecnologie ci offrono. Siamo davanti a un dono di Dio, cioè a una risorsa che può portare frutti di bene.

Anche i temi di cui la vostra Accademia si è occupata fin dalla sua nascita si presentano oggi in modo nuovo. Le scienze biologiche si avvalgono sempre più largamente dei dispositivi resi disponibili dalla “intelligenza artificiale”. Questo sviluppo induce mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana, che è nostro impegno tutelare e promuovere, non solo nella sua costitutiva dimensione biologica, ma anche nella sua irriducibile qualità biografica. La correlazione e l’integrazione fra la vita vivente e la vita vissuta non possono essere rimosse a vantaggio di un semplice calcolo ideologico delle prestazioni funzionali e dei costi sostenibili. Gli interrogativi etici che emergono dal modo in cui i nuovi dispositivi possono – appunto – “disporre” della nascita e del destino delle persone richiedono un rinnovato impegno per la qualità umana dell’intera storia comunitaria della vita.

Sono quindi grato alla Pontificia Accademia per la Vita per il cammino che ha intrapreso sviluppando una seria riflessione, che ha favorito il dialogo tra discipline scientifiche diverse e indispensabili per affrontare fenomeni così complessi.

Noto con soddisfazione che l’incontro di quest’anno vede la presenza di persone che hanno importanti e differenti ruoli di responsabilità internazionali, sul piano scientifico, industriale e politico. Ne sono lieto e ve ne ringrazio. Come credenti infatti non abbiamo nozioni già prestabilite con cui rispondere alle domande inedite che la storia oggi ci pone. Il nostro compito è piuttosto di camminare insieme agli altri, ascoltando con attenzione e mettendo in collegamento esperienza e riflessione. Dobbiamo lasciarci interpellare come credenti, perché la Parola e la Tradizione della fede ci aiutino a interpretare i fenomeni del nostro mondo, individuando cammini di umanizzazione, e pertanto di amorevole evangelizzazione, da percorrere insieme. Così potremo dialogare in maniera proficua con tutti coloro che sono alla ricerca dello sviluppo umano, mantenendo al centro della conoscenza e delle pratiche sociali la persona in tutte le sue dimensioni, incluse quelle spirituali. Siamo di fronte a un compito che coinvolge la famiglia umana nel suo complesso.

Alla luce di quanto detto, non basta la semplice educazione all’uso corretto delle nuove tecnologie: non sono infatti strumenti “neutrali”, perché, come abbiamo visto, plasmano il mondo e impegnano le coscienze sul piano dei valori. C’è bisogno di un’azione educativa più ampia. Occorre maturare motivazioni forti per perseverare nella ricerca del bene comune, anche quando non ne deriva un immediato tornaconto. Esiste una dimensione politica nella produzione e nell’uso della cosiddetta “Intelligenza Artificiale”, che non riguarda solo la distribuzione dei suoi vantaggi individuali e astrattamente funzionali. In altri termini: non basta semplicemente affidarci alla sensibilità morale di chi fa ricerca e progetta dispositivi e algoritmi; occorre invece creare corpi sociali intermedi che assicurino rappresentanza alla sensibilità etica degli utilizzatori e degli educatori.

Sono molte le competenze che intervengono nel processo di elaborazione degli apparati tecnologici (ricerca, progettazione, produzione, distribuzione, utilizzo individuale e collettivo), e ognuna comporta una specifica responsabilità. Si intravede una nuova frontiera che potremmo chiamare “algor-etica” (cf. Discorso ai partecipanti al Congresso “Child Dignity in the Digital World”, 14 novembre 2019). Essa intende assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nostra era. Nella comune ricerca di questi obiettivi, i principi della Dottrina Sociale della Chiesa offrono un contributo decisivo: dignità della persona, giustizia, sussidiarietà e solidarietà. Essi esprimono l’impegno di mettersi al servizio di ogni persona nella sua integralità e di tutte le persone, senza discriminazioni né esclusioni. Ma la complessità del mondo tecnologico ci chiede una elaborazione etica più articolata, per rendere questo impegno realmente incisivo.

L’ “algor-etica” potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali, attraverso un effettivo dialogo transdisciplinare. Inoltre, nell’incontro tra diverse visioni del mondo, i diritti umani costituiscono un importante punto di convergenza per la ricerca di un terreno comune. Nel momento presente, peraltro, sembra necessaria una riflessione aggiornata sui diritti e i doveri in questo ambito. Infatti, la profondità e l’accelerazione delle trasformazioni dell’era digitale sollevano inattese problematiche, che impongono nuove condizioni all’ethos individuale e collettivo. Certamente la Call che oggi avete firmato è un passo importante in questa direzione, con le tre fondamentali coordinate su cui camminare: l’etica, l’educazione e il diritto.

Cari amici, vi esprimo il mio sostegno per la generosità e il dinamismo con cui vi siete impegnati ad avviare un processo di ripensamento così impegnativo e coraggioso. Vi invito a proseguirlo con audacia e discernimento, alla ricerca delle vie di un coinvolgimento sempre più ampio di tutti coloro che hanno a cuore il bene della famiglia umana. Invoco su di voi la benedizione di Dio, perché il vostro cammino possa svolgersi con serenità e pace, in spirito di collaborazione. Vi assista la Vergine Madre e vi accompagni la mia benedizione. E per favore, non dimenticatevi di pregare per me. Grazie.

Papa Francesco

In proposito mons. Vincenzo Paglia ha notato che «l’intento della Call è dar vita a un movimento che si allarghi e coinvolga altri soggetti: istituzioni pubbliche, ONG, industrie e gruppi per produrre un indirizzo nello sviluppo e nell’utilizzo delle tecnologie derivate dall’IA. Da questo punto di vista possiamo dire che la prima firma di questa call non è un punto di arrivo, ma un inizio per un impegno che appare ancora più urgente e importante di quanto fin qui fatto. Aderire a questa iniziativa comporta per le industrie che firmano un impegno che ha anche una rilevanza in termini di costi e di impegno industriale nello sviluppo e nella distribuzione dei loro prodotti. Se l’Accademia si sente chiamata a intensificare il proprio impegno per facilitare la conoscenza e la firma di altri soggetti, non di meno, la Call è un primo passo che ne prelude altri. Il testo della Call si caratterizza anche per essere un primo tentativo nel formulare un insieme di criteri etici con comuni riferimenti di valore, offrendo un contributo all’elaborazione di un linguaggio comune per interpretare quanto è umano».

“Microsoft è orgogliosa di firmare la Rome Call for AI Ethics, che rappresenta un importante passo in avanti nella promozione di un dibattito pensato, rispettoso e inclusivo sul rapporto tra Intelligenza Artificiale ed Etica. L’impegno e il valore apportato da Sua Santità in questo dialogo è per me fonte di ispirazione. Ringrazio il Pontefice, la Pontificia Accademia per la Vita e gli altri rappresentanti della Santa Sede per l’importante annuncio di oggi” ha commentato Brad Smith, Presidente Microsoft.

Il Vice Presidente di IBM, John Kelly III ha commentato che “L’intelligenza artificiale è una tecnologia incredibilmente promettente che può aiutarci a rendere il mondo più smart, più sano e più prospero. A patto che, fin dall’inizio, sia sviluppata secondo interessi e valori umani. La Call for AI Ethics di Roma ci ricorda che dobbiamo pensare con attenzione alle esigenze di chi beneficerà dell’IA e investire significativamente sulle competenze necessarie. La società avrà più fiducia nell’IA quando ciascuno potrà vedere che il suo sviluppo è basato su principi etici e che le aziende che se ne occupano stanno affrontando direttamente tutte le questioni legate alla fiducia e alla responsabilità”.

Città del Vaticano, 28 febbraio 2020