Curare le relazioni ai tempi dell'intelligenza artificiale

Disarmare l’intelligenza artificiale. Costruire nel bene. Restare umani. La prima enciclica di papa Leone XIV, Magnifica Humanitas, contiene diverse esortazioni alla società moderna, ai leader mondiali, alle Big Tech. Quel che rimane, dopo la lettura, è la sensazione di una domanda aperta. In fondo, la stessa da cui parte la riflessione del pontefice: «La magnifica umanità creata da Dio si trova oggi di fronte a una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme». Una scelta che ci coinvolge, come si capirà negli ultimi paragrafi dell’enciclica, anche perché non riguarda soltanto l’IA, bensì il nostro modo di relazionarci con gli altri. Ed è da lì che dovremmo ripartire.

Stretti nella morsa, tra l’ambizione del progresso promesso dall’IA e i rischi di un ritardo economico, la pressione che avvertiamo è già reale, concreta. «Oggi ci troviamo dinanzi a una situazione nuova, in cui la potenza e la pervasività delle tecnologie emergenti si innestano nella trama della quotidianità, plasmano i processi decisionali e incidono in profondità sull’immaginario collettivo». Il Papa chiede strumenti normativi adeguati, capaci di «contenere gli effetti a lungo termine sulla dignità delle persone e sul bene comune». Ma si rende conto - perché lo dichiara senza giri di parole - che il potere è in mano ad attori privati, e non più agli Stati. Ad attori privati le cui risorse sono addirittura superiori, ormai, a quelle di molti governi. È quel volto «inedito» di cui parla il pontefice americano. Lui stesso prova a interfacciarsi con il potere nuovo - «Chiedo a tutti di fermare il cantiere dell’ennesima Babele» - e ricorda come i dati siano «frutto del contributo di molti» e non possano, per questo, essere affidati a pochi. Ed è poi persino più netta la richiesta - rivolta a «tutti» - a «pensare forme di cooperazione e di istituzioni internazionali più efficaci, capaci di custodire il bene comune globale senza annullare la legittima pluralità dei popoli e degli Stati».

È questa l’assenza che più ci preoccupa, quella di punti di riferimento comuni e intransigenti, dal peso specifico indubbio. E di fronte a questa assenza, il Papa non rinuncia al dialogo con i diretti interessati. In questo caso con le Big Tech. Lunedì, in occasione della presentazione dell’enciclica, infatti, ha chiamato accanto a sé anche il cofondatore del gigante tecnologico Anthropic, ovvero Chris Olah. Che ha proposto, per l’IA, un paragone piuttosto interessante: «È come dare vita a un personaggio immaginario che abbiamo inventato». Una sorta di creatura di Frankenstein, alla quale l’uomo può attribuire qualità positive o negative. Una creatura sulla quale abbiamo dirette responsabilità. E che, proprio per questo, non è neutra. Non può essere neutra. Rifletterà anzi i valori di chi l’ha plasmata e di chi, ancora, la sta indirizzando o, per dirla con il pontefice, coltivando. La riflessione di papa Leone XIV va in questa direzione, è un invito a considerare quali valori vogliamo attribuire alle nuove tecnologie. Ma ancora una volta, la natura stessa delle sue esortazioni - che non propongono alternative o strumenti politici, bensì «criteri di discernimento» - si scontra con la logica della «competizione armata, che oggi non è più solo militare ma economica e cognitiva». Per questo esorta a disarmare l’intelligenza artificiale. «Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita».

Certo il potere politico esce ammaccato alla lettura di questa enciclica. Qual è lo stato di salute della democrazia, oggi, se è la Chiesa a sottolineare lo strapotere dei privati sugli Stati e sulle impotenti istituzioni comuni? «Camminiamo insieme», ha proposto il Papa a Olah, lunedì. La Chiesa accanto alle Big Tech, a garanzia della dignità dell’essere umano. Restare umani, chiede infatti Leone. È la scelta di quella parola a destabilizzare, è quel «restare», che ci fa sentire più piccoli e più soli, in balia di poteri che non vediamo, ma anche sin qui pigri - va ammesso - mentre assistiamo, con il telefonino in mano connesso a ogni sorta di app di IA generativa, a una certificata distorsione dei valori collettivi. L’invito a «restare umani» ci ricorda che la tentazione, al contrario, è a non farlo, a scegliere la via del profitto e dell’individualismo rispetto a quella di un bene collettivo. Forse, proprio per questo, anche se si perde tra i paragrafi, facciamo nostra in particolare l’esortazione (paragrafo 239) a curare le relazioni. «In un’epoca che tende a velocizzare e frammentare, la carne umana continua a chiedere di essere curata e riconosciuta da mani capaci di tenerezza, da menti attente e da parole buone».