Intelligenza artificiale e linguaggio, perché distruggere la Torre di Babele potrebbe essere un pericolo
Simone Arcagni, associato di Culture e media digitali allo IULM di Milano, è autore con Andrea Colamedici di L’algoritmo di Babele. Storia e miti dell’intelligenza artificiale (Solferino, 2024), un libro nel quale si riflette sulle opportunità e, soprattutto, sui rischi dell’uniformazione del linguaggio. Sui motivi per cui abbattere la Torre di Babele potrebbe, paradossalmente, non aiutare gli esseri umani a diventare migliori.
«L’intelligenza artificiale (AI) elabora i dati in forma statistica e, soltanto in parte, in forma semantica - dice Arcagni al Corriere del Ticino - Lo fa utilizzando un enorme numero di dati e con una velocità che l’essere umano non può ambire ad avere. Questo significa che il vero specifico dell’AI sta nelle informazioni ricevute e nella maniera in cui noi le abbiamo “marcate”. Ora, da un punto di vista linguistico, in questo momento i modelli con più dati, quelli che stanno scalando i mercati OpenAI, sono fondamentalmente basati sull’inglese. Hanno quindi una determinazione e una definizione molto orientata e utilizzano come modello di riferimento culturale soprattutto il mondo anglofono. La crescita di queste macchine è una grande opportunità ma, nello stesso tempo, anche un grave rischio di neocolonialismo culturale. Sono macchine che pensano in inglese, secondo determinazioni culturali, linguistiche - e di conseguenza, sociali ed economiche - anglofone. Ovviamente, niente ho contro la cultura anglofona, ma penso che non sia l’unica e non per forza quella destinata a diventare globalizzata».
La lingua unica dell’algoritmo, ovvero parlare tutti allo stesso modo è, insomma, un gigantesco pericolo. «Le tecnologie AI generative sono strumenti fantastici se usati nel modo giusto, se cioè l’essere umano, in costante dialettica con la macchina, interviene dopo la traduzione per eliminare le incongruenze e gli errori, limitare i bias o attivare dinamiche linguistiche nuove - dice ancora Arcagni - Se invece tutto si assume acriticamente soltanto perché facile, veloce e risolutivo di problemi, allora il pericolo è grande. Se ci uniformiamo e accettiamo la mediocrità, le macchine hanno già vinto. Sulla mediocrità sono più forti di noi».
Rileggendo il mito della Biblioteca di Babele, Arcagni sottolinea come Jorge Luis Borges abbia «descritto un luogo nello stesso tempo utopico e distopico. Assieme all’utopia, tutta illuminista, di poter contenere l’intero sapere in un unico luogo, c’è anche la distopia evidente dell’impossibilità, per l’essere umano, di consultare tutto questo sapere. La Biblioteca diventa quindi un luogo quasi fantasmatico nella sua imponderabilità. Ecco: oggi, con i ChatBot di AI generativa, ci troviamo di fronte alla possibilità di assommare saperi come mai prima nella storia. Ma, nel contempo, soffriamo il possibile annichilimento che questa organizzazione dei saperi sta operando nella nostra società, nella nostra cultura. È un processo che abbiamo già visto con Internet: non è detto che avere più informazioni sia un bene. Paradossalmente, di fronte a un oceano di notizie spesso si rimane annichiliti. E si finisce per rifugiarsi dentro bolle identitarie. È il motivo per cui dobbiamo cominciare a imparare a interrogare meno gli oggetti tecnologici e più noi stessi, le nostre conoscenze, il nostro modo di pensarci come società».
