Sulle conseguenze dell’irruzione dell’Intelligenza artificiale (IA) nella nostra vita di ogni giorno è in corso ormai da tempo un dibattito, in cui si inserisce ora la recente Nota Antiqua et nova, espressione congiunta di due congregazioni della Santa Sede – quella per la Dottrina della Fede e quella per la Cultura e l’Educazione –, interamente dedicata a prospettare le opportunità e i rischi di questa nuova tecnologia. Il documento parte dalla considerazione che anche per l’IA vale il principio secondo cui le innovazioni prodotte dall’essere umano prolungano l’opera creatrice di Dio e, «se usate rettamente, a lui rendono gloria, in quanto riflesso della sua saggezza e bontà» (n. 2). Tuttavia, osserva la Nota, bisogna prendere atto che siamo davanti a «una nuova e significativa fase nel rapporto dell’umanità con la tecnologia». A differenza, infatti, di tutte le altre tecniche, l’IA è capace di «generare testi o immagini che risultano indistinguibili dalle composizioni umane» e di «adottare in autonomia alcune scelte […], fornendo soluzioni non previste dai suoi programmatori» (n. 3). Ciò significa che, per la prima volta, un prodotto dell’intelligenza umana è in grado di imitarne i processi con tale perfezione da rendere difficile distinguerla da essa. E che, per la prima volta, questo prodotto può prendere delle iniziative indipendentemente dagli esseri umani, come se fosse dotato della loro libertà. Quanto basta per riconoscere che, in questo caso, siamo davanti a «implicazioni antropologiche ed etiche» (n. 4) che nessun altro artificio aveva mai comportato.

A partire da questa premessa, la Nota, nella prima parte della sua riflessione (capp. II e III), si interroga sulla reale portata dell’IA, sottolineando le differenze profonde che, malgrado le analogie, intercorrono tra essa e l’intelligenza umana. Per prima cosa, secondo il documento, va rimesso in discussione «l’assunto implicito che la parola “intelligenza” vada usata allo stesso modo sia in riferimento all’intelligenza umana che all’IA» (n. 10). Si tratta, in realtà, di due cose molto diverse. Innanzi tutto, perché l’IA ha la «capacità di eseguire compiti, ma non quella di pensare» (n. 12). Essa può elaborare a velocità vertiginosa quantità impressionanti di dati, analizzandoli e collegandoli tra loro, ma non può uscire da essi, per cogliere l’effettiva realtà delle cose, né è programmata per farlo. Sa calcolare, manipolando informazioni, ma non è in grado di coglierne il senso e di apprezzarne la verità. È proprio il rapporto con la verità a rendere unico il pensiero umano. Esso, infatti, non si realizza solo come attività raziocinante, ma come tensione a «vedere» la realtà: «Il desiderio di verità appartiene alla stessa natura dell’uomo. È una proprietà nativa della sua ragione interrogarsi sul perché delle cose» e, in questa ricerca, «andare sempre oltre» (n. 21). Così come è proprio dell’intelligenza umana riposare, quando entra in rapporto con l’essere, nella contemplazione non solo della sua verità, ma anche della sua bontà e della sua bellezza: «L’intelligenza umana possiede un’essenziale dimensione contemplativa, cioè un’apertura disinteressata a ciò che è Vero, Buono e Bello al di là di ogni utilità particolare» (n. 29).

Insomma, a differenza dell’IA, l’attività del pensiero non «rimane fondamentalmente confinata in un ambito logico-matematico» (n. 31), né è solo funzionale al raggiungimento di risultati pratici, ma è protesa a un dialogo fecondo con la realtà, in cui tutti i processi razionali hanno il loro inizio e il loro compimento. E, in quanto questo dialogo riguarda non solo il vero, ma anche il buono e il bello, esso coinvolge non solo la capacità della mente di elaborare neutre informazioni, ma anche quella di dare valutazioni etiche ed estetiche: «Al cuore della visione cristiana dell’intelligenza vi è l’integrazione della verità nella vita morale e spirituale della persona» (n. 28). Per spiegare questa diversità, riguardante il funzionamento dell’intelligenza nell’essere umano e nelle macchine, la Nota ne mette in luce una più radicale: «L’intelligenza è una facoltà relativa alla persona nella sua integralità, mentre, nel contesto dell’IA, è intesa in senso funzionale» (n. 10). Quando si dice che l’essere umano è razionale, non ci si riferisce innanzi tutto a una serie di operazioni, ma ad un modo di essere. L’intelligenza degli esseri umani non è solo una attività intellettuale, come nelle macchine, ma scaturisce da una facoltà, l’intelletto, che esiste anche quando non è in funzione. Un individuo della specie «homo sapiens» è razionale anche quando dorme, o è svenuto, o è in coma, perché la razionalità è la differenza fondamentale del suo essere rispetto a quello degli altri animali. Perciò essa non riguarda solo i suoi processi conoscitivi, ma «modella e permea tutte le sue attività», comprese quelle «di volere, amare, scegliere, desiderare» (n. 15).

E il soggetto di questa razionalità non è la pura «mente», ma è la persona nella sua interezza. E la persona umana è «unità di anima e di corpo» (n. 17), dove l’anima, a differenza del «cogito» cartesiano, «non è la “parte” immateriale della persona contenuta nel corpo», ma lo compenetra in ogni sua fibra, dando luogo a una unità psico-fisica per cui «è tutto l’essere umano ad essere, allo stesso tempo, sia materiale che spirituale» (n. 16). Ciò implica che «lo spirito umano non attua la sua normale modalità di conoscenza senza il corpo» (n. 17). È grazie all’inter-azione di tutto il suo essere con l’ambiente fisico che lo circonda che il soggetto sviluppa il suo pensiero. E questa inter-azione coinvolge innanzi tutto la sua corporeità. Quella che l’IA non possiede per definizione. Da qui l’originalità del dinamismo evolutivo della sua intelligenza, rispetto a quella delle macchine: «mentre l’intelligenza umana continuamente si sviluppa in modo organico nel corso della crescita fisica e psicologica della persona ed è plasmata da una miriade di esperienze vissute nella corporeità, l’IA manca della capacità di evolversi in questo senso. Sebbene i sistemi avanzati possano “imparare” attraverso processi quali l’apprendimento automatico, questa sorta di addestramento è essenzialmente diverso dallo sviluppo di crescita dell’intelligenza umana, essendo questa plasmata dalle sue esperienze corporee: stimoli sensoriali, risposte emotive, interazioni sociali e il contesto unico che caratterizza ogni momento. Questi elementi modellano e formano il singolo individuo nella sua storia personale. Al contrario, l’IA, sprovvista di un corpo fisico, si affida al ragionamento computazionale e all’apprendimento su vasti insiemi di dati che comprendono esperienze e conoscenze comunque raccolte da esseri umani» (n. 31). È grazie al suo corpo che l’intelligenza umana vive la sua appartenenza al cosmo fisico. E questo determina anche la sua vocazione e la sua missione: «Plasmato dal divino Artigiano, l’essere umano vive la sua identità di essere a immagine di Dio “custodendo” e “coltivando” (cf. Genesi 2,15) la creazione, esercitando la sua intelligenza e la sua perizia per assisterla e farla sviluppare secondo il disegno del Padre. In questo, l’intelligenza umana riflette l’Intelligenza divina che ha creato tutte le cose (cf. Genesi 1-2; Giovanni 1), continuamente le sostiene e le guida al loro fine ultimo in Lui» (n. 25). Ma la corporeità non è essenziale solo per la relazione col mondo circostante, bensì anche per quella con gli altri esseri umani. «L’intelligenza umana non è una facoltà isolata, bensì si esercita nelle relazioni, trovando la sua piena espressione nel dialogo, nella collaborazione e nella solidarietà» (n. 18). Tutto ciò è possibile solo nell’incontro che le persone realizzano grazie ai loro rispettivi corpi, senza cui non sarebbe loro possibile percepire la presenza dell’«altro» e tanto meno rivolgersi a lui e ascoltarne la voce. È in questo contesto che le intelligenze dei singoli maturano ed operano, attraverso un reciproco arricchimento, sconosciuto alle macchine. «Alla luce di ciò, come osserva papa Francesco, l’“utilizzo stesso della parola intelligenza”, in riferimento all’IA “è fuorviante”» (n. 35). «Sebbene sia una straordinaria conquista tecnologica in grado di imitare alcune operazioni associate alla razionalità» (n. 30), l’IA manca delle caratteristiche che la rendono umana. C’è da chiedersi come mai sia possibile che tra queste due realtà, così diverse, appaia oggi difficile marcare la differenza. Forse il problema è che ormai sempre più spesso l’essere umano usa la propria intelligenza in modo non umano, riducendo questa sua peculiare ricchezza e il suo stesso essere a una mera funzione: «Stabilire un’equivalenza troppo marcata tra intelligenza umana e IA comporta il rischio di cedere a una visione funzionalista, secondo la quale le persone sono valutate in base ai lavori che possono svolgere» (n. 34).

Una volta chiarito che l’IA non può sostituire quella dell’essere umano, resta il problema del suo uso. E qui comincia la seconda parte della Nota, dedicata all’aspetto etico dell’utilizzo dell’IA (cap. IV) e ad alcune «questioni specifiche» che lo riguardano (cap. V). «Come ogni prodotto dell’ingegno umano, anche l’IA può essere diretta verso fini positivi o negativi» (n. 40). Ad essere responsabili dei sistemi di IA sono «innanzitutto coloro che li sviluppano, producono, gestiscono e supervisionano» (n. 46). Il problema, però – e la Nota non lo nasconde –, è che «man mano che i modelli di IA diventano sempre più capaci di apprendimento indipendente, può ridursi di fatto la possibilità di esercitare un controllo su di essi al fine di garantire che tali applicazioni siano a servizio degli scopi umani» (n. 45). Un contributo decisivo alla corretta gestione dell’IA deve venire dagli utenti. Come per tutte le nuove tecnologie, il pericolo è che essa, al di là delle intenzioni dei suoi progettisti, cada in mani sbagliate. Così, ammonisce la Nota, a livello politico c’è «il rischio che l’IA possa essere usata per «esercitare “forme di controllo tanto sottili quanto invasive, creando meccanismi di manipolazione delle coscienze e del processo democratico” (papa Francesco, Christus vivit, 89)» (n. 53). Un rischio accresciuto dal «fatto che attualmente la maggior parte del potere sulle principali applicazioni dell’IA sia concentrato nelle mani di poche potenti aziende» (ivi). Non è la sola minaccia da cui bisogna difendersi. Ce n’è una che riguarda la qualità dei rapporti umani. Sarebbe sbagliato sottovalutare i vantaggi che dalla nuova tecnologia possono derivare a questi rapporti. Ma tocchiamo con mano il pericolo di una disumanizzazione delle relazioni. «Come altri mezzi tecnologici, l’IA ha la capacità di favorire le connessioni all’interno della famiglia umana […]. Le autentiche relazioni umane, tuttavia, richiedono la ricchezza umana del saper stare con gli altri, condividendo il loro dolore, le loro richieste e la loro gioia» (n. 58). Un rapporto puramente virtuale non può sostituire quello che mette in gioco le persone in carne ed ossa. Un rapporto umano comporta un coinvolgimento emotivo, «con il corpo che vi gioca un ruolo centrale». E «l’empatia richiede capacità di ascolto, di riconoscere l’irriducibile unicità dell’altro, di accogliere la sua alterità e anche di capire il significato dei suoi silenzi» (n. 61), tutte cose che le macchine non possono né fare né veicolare.

Se poi si guarda all’ambito dell’economia, la Nota fa presente che il lavoro umano, se da un lato può trovare un prezioso strumento nell’IA, dall’altro rischia di essere disumanizzato e marginalizzato da una sua eccessiva invadenza, che potrebbe mortificare l’autonomia dei lavoratori e soffocare la loro creatività (cf. n.67). Certo, in questo modo si ottengono risultati maggiori in minor tempo. Non si deve però perdere di vista che «il lavoro umano deve essere non solo al servizio del profitto, ma dell’uomo» (n. 69) e che esso «è parte del senso della vita su questa terra, via di maturazione, di sviluppo umano e di realizzazione personale» (papa Francesco, Laudato si’, 128, cit. n. 70). Anche nell’ambito sanitario, fermo restando l’apporto che l’IA può dare in campo diagnostico e terapeutico, qualora essa «venisse usata non per migliorare, ma per sostituire interamente la relazione tra pazienti e operatori sanitari», non si farebbe che «peggiorare quella solitudine che frequentemente accompagna la malattia» (n. 73). Un altro settore molto delicato è quello dell’educazione. Anche qui l’IA può costituire un prezioso aiuto a docenti e discenti. Purché resti uno strumento e non diventi il modello della relazione. Sarebbe un disastro una scuola, dove i più giovani finiscano per «percepire gli insegnanti come dispensatori di informazioni e non come maestri che li guidano e sostengono la loro crescita intellettuale e morale» (n. 60). E non è il solo problema: «L’ampio ricorso all’IA in ambito educativo potrebbe portare a un’accresciuta dipendenza degli studenti dalla tecnologia, intaccando la loro capacità di svolgere alcune attività in modo autonomo» (n. 81). Se poi si guarda al campo dell’informazione, «esiste anche un serio rischio che l’IA generi contenuti manipolati e informazioni false, i quali, essendo molto difficili da distinguere dai dati reali, possono facilmente trarre in inganno» (n. 86). Inoltre, il controllo dei dati relativi alla vita personale dei cittadini può diventare una minaccia alla riservatezza e trasformarsi in un sistema di controllo (cf. n. 91), nonché favorire sistemi di selezione sociale, per esempio nel campo del lavoro, basati sulla fredda logica degli algoritmi (cf. n. 94). Ancora più evidenti sono i rischi di affidare la gestione delle operazioni militari a macchine che non sono «in grado di identificare e colpire obiettivi senza intervento umano diretto» e che «mancano della “esclusiva capacità umana di giudizio morale e di decisione etica” (papa Francesco, Messaggio per la LVII Giornata Mondiale della Pace, 69)» (n. 100). Il documento si conclude con un appello a «rinnovare la valorizzazione di tutto ciò che è umano» (n. 112). Il vero pericolo non sono le macchine, ma l’appiattimento degli esseri umani su di esse. Il solo modo di fronteggiare le ombre che sono emerse in questa riflessione è di recuperare e potenziare quella dimensione sapienziale che già da troppo tempo il mondo contemporaneo ha dimenticato. Da questo punto di vista, sembra suggerire la Nota, la sfida dell’IA può costituire un salutare richiamo a riscoprire che cosa significa essere persone umane.