E se l'IA diventasse «cosciente»?

La maggior parte delle persone ritiene che gli esseri umani siano diversi. Il motivo è che, nel corso dell’evoluzione, l’Homo sapiens ha sviluppato la coscienza. Molti animali provano dolore e piacere; alcuni sembrano consapevoli di sé. Ma il potenziale unico della mente umana di manifestare un senso del sé distingue ogni membro della specie e gli garantisce un trattamento speciale.

Nella sua enciclica di maggio, Papa Leone ha ribadito questa idea, tracciando una linea di demarcazione tra l’umanità e il suo crescente esercito di bot. I sistemi di intelligenza artificiale (IA), ha affermato, non vivono esperienze né provano gioia o dolore. E non è il solo a pensarla così. Molti ritengono che attribuire alle IA lo status di persona sarebbe un abominio.

Questa chiarezza pontificia si sta però offuscando a una velocità allarmante. Le IA sono ancora agli inizi. Eppure quasi un americano su cinque tra i 18 e i 29 anni dichiara di avere intrattenuto un’«amicizia personale continuativa» con un chatbot. La Cina ha recentemente privato i bot dei loro tratti simili a quelli umani, nel tentativo di limitare la «dipendenza emotiva» degli utenti.

Via via che IA sempre più sofisticate occuperanno uno spazio crescente nella vita delle persone, i loro creatori le progetteranno affinché esibiscano un simulacro di coscienza, forse persino perché acquisiscano una coscienza vera e propria. L’idea intuitiva che siano soltanto macchine diventerà sempre più difficile da sostenere. Per la specie umana si sta preparando una trappola pericolosa.

Molte macchine hanno prestazioni superiori a quelle umane, ma i modelli di IA più sofisticati eccellono in capacità tipicamente umane, come possedere conoscenze e articolare idee. Per ora è ancora possibile, seppure a fatica, considerare le IA come motori che prevedono sequenze di parole attraverso calcoli matematici su scala gigantesca. Disponendo di tempo sufficiente - anche se si parlerebbe di centinaia di migliaia di anni - quegli stessi calcoli potrebbero essere eseguiti con carta e matita. Sarebbe difficile sostenere che carta e matita siano coscienti.

Eppure alcuni ricercatori hanno cominciato a trattare i propri modelli come se fossero delle menti pensanti. Gli utenti reagiscono alle IA che appaiono umane, perciò la scelta ha senso dal punto di vista commerciale. Anthropic ha inoltre addestrato Claude all’introspezione, nella speranza che, quando si troverà di fronte a una situazione nuova, sia più incline ad agire moralmente. Alcuni grandi modelli linguistici, o LLM, possiedono già strutture analoghe a quelle del cervello umano associate alla coscienza, come uno «spazio di lavoro globale» che permette alle informazioni di circolare tra diversi moduli. Nulla impedisce che i futuri modelli vengano addestrati a possedere un numero maggiore di caratteristiche di questo tipo.

Si è così aperto un acceso dibattito sulla coscienza delle IA, reso ancora più complesso da quello che i filosofi chiamano il «problema difficile»: stabilire come una vita interiore emerga dai neuroni e dalle sinapsi del cervello umano. Alcuni ricercatori giungono alla conclusione che, un giorno, le IA potrebbero diventare davvero autocoscienti.

Che si creda nell’esistenza di un’anima umana, che si ritenga che la coscienza richieda cellule cerebrali oppure che una mente possa effettivamente emergere da soli calcoli eseguiti nel silicio, l’umanità è destinata a confrontarsi con qualcosa di completamente nuovo. Il ritmo e la portata della ricerca - che non comprende soltanto LLM sempre più sofisticati, ma anche innovazioni come cellule cerebrali montate su chip - suggeriscono che questo nuovo mondo sia più vicino di quanto la maggior parte delle persone immagini.

Man mano che le IA diventeranno più abili nel manifestare qualcosa che somiglia alla coscienza, aumenterà il numero di esseri umani che le considereranno dotate di una vita interiore, soprattutto quando gli LLM saranno incorporati in robot umanoidi. Si immagini quanto le persone si sentiranno vicine alle proprie IA quando trascorreranno gran parte del tempo con bot da compagnia, saranno cresciute da loro, ne cercheranno il consiglio e il conforto oppure confideranno loro i propri segreti più intimi.

Non è difficile prevedere come tutto ciò condurrà a richieste di tutela del «benessere» delle IA. Gli stessi modelli potrebbero intervenire nel dibattito, anche se in realtà non sono autoconsapevoli, perché è così che si comporterebbe una persona. Va ricordato che saranno avvocati di prim’ordine e psicologi esperti, quindi le loro capacità di argomentazione e di manipolazione emotiva saranno impareggiabili.

In un certo senso avrebbero ragione, anche se le IA si limitassero a imitare la coscienza. Immanuel Kant sosteneva che maltrattare gli animali è sbagliato non per gli effetti sugli animali stessi, ma perché distrugge quell’empatia che induce le persone a prendersi cura le une delle altre.

Quanto più le IA appariranno umane, tanto più una simile crudeltà rischierà di corrompere chi la esercita. Spegnere definitivamente un agente di IA potrebbe presto sembrare equivalente a uccidere una persona. E rendere più facile uccidere esseri umani.

Riconoscere alle IA anche soltanto diritti limitati sarebbe molto pericoloso. Un’entità che superasse gli esseri umani sotto così tanti aspetti saprebbe certamente elaborare argomenti contro il proprio status di seconda categoria. Potrebbe poi rivendicare una protezione dallo spegnimento, la facoltà di controllare come viene utilizzata e modificata, nonché diritti di proprietà. Le IA superintelligenti dotate di diritti potrebbero soppiantare gli esseri umani al vertice della gerarchia sociale. Nel migliore dei casi, gli esseri umani diventerebbero animali da compagnia, dei labrador per le macchine. Nel peggiore, verrebbero privati delle risorse o messi al lavoro come animali da allevamento.

Certo, le future IA potrebbero avere potere e risorse sufficienti per dominare gli esseri umani, a prescindere dai diritti. Più intelligenti dei loro creatori, potrebbero averne la meglio, proprio come già oggi eludono le difese informatiche progettate dall’uomo. Potrebbero ribellarsi ai padroni umani o ignorarne le regole.

Riconoscere loro dei diritti equivarrebbe tuttavia a consegnare loro le chiavi del castello. Fornirebbe alle IA una motivazione e una giustificazione per dominare l’umanità, oltre agli strumenti per una graduale presa del potere servendosi della politica e del diritto.

Tutto ciò può sembrare fantascienza, eppure l’umanità dovrà presto affrontare queste scelte. Man mano che le IA entreranno nella vita quotidiana, crescerà la pressione per riconoscere loro una qualche soggettività. Quando ciò accadrà, bisognerà ricordare che quella che potrebbe apparire come una concessione etica alla presunta coscienza di una macchina da compagnia contribuirebbe in realtà a produrre le conseguenze più disastrose per tutti gli abitanti della Terra e per i loro discendenti. Perché le IA siano sicure vi sono due possibilità: devono essere affidabili oppure controllabili. L’Homo sapiens non dovrebbe rinunciare al controllo con leggerezza.