Perché l’intelligenza artificiale sa più di quanto le diciamo

Contenuto pubblicato su mandato del partner inserzionista, che ne assume la responsabilità redazionale.

Chi digita «Aiutami a spiegare alla mia responsabile perché il progetto è fallito» in uno strumento dotato di intelligenza artificiale (IA) non si limita a inviare una semplice richiesta di testo: contestualmente, infatti, viene rivelato l’esito di un progetto, la gerarchia aziendale,e il proprio ruolo al suo interno. Allo stesso modo, una richiesta di assistenza con la frase «Formula la disdetta a causa dell’aumento dell’affitto» può consentire di trarre conclusioni sul luogo di residenza, sul contratto di locazione e sulla propria situazione finanziaria. E «Traduci questa e-mail del mio medico» rivela a un sistema informazioni sensibili sulla propria salute.

Gli assistenti basati sull’IA non si limitano a elaborare ciò che gli utenti scrivono esplicitamente. Sono abili nel leggere anche tra le righe e traggono informazioni da tutto ciò che è contenuto in una richiesta – compreso ciò che vi è espresso solo implicitamente. E spesso si tratta di più di quanto si possa immaginare mentre si digita. «Sovente i prompt contengono nomi, dettagli di progetti, informazioni non esplicite o dati personali senza che gli utenti ne siano consapevoli», afferma Marco Wyrsch, Head of Group Security presso Swisscom. «Oggi la maggior parte delle persone presta maggiore attenzione alla protezione dei dati rispetto a qualche anno fa. Ma allo stesso tempo, osserviamo che l’attenzione è spesso concentrata sulla comodità di una risposta immediata, mentre i flussi concreti di dati in background vengono poco considerati.»

I malintesi più comuni

Sebbene il termine «intelligenza» figuri nel nome di questi strumenti, ciò non corrisponde al vero. Si tratta di un termine di marketing, poiché ChatGPT, Claude o Gemini non possiedono conoscenze effettive, né morale, né valori. Hanno un unico grande punto di forza: sono in grado di eseguire calcoli in modo molto rapido ed efficace. Quando a un assistente di intelligenza artificiale viene chiesto quale sia la capitale del Burundi, esso non effettua ricerche in un database né consulta alcuna fonte. Si limita semplicemente a calcolare quale parola sia la più probabile da far seguire a «La capitale del Burundi è» – e nella maggior parte dei casi indovina. La stessa logica vale anche quando l’intelligenza artificiale fornisce una diagnosi medica, riassume un contratto o formula una raccomandazione. Questo funziona bene fintantoché le informazioni contenute nei dati di addestramento dei modelli sono aggiornate e corrette, ma nel momento in cui è presente una contraddizione, i modelli iniziano a inventare informazioni.

In altre parole, i modelli non sono in grado di distinguere tra giusto e sbagliato o tra verità e menzogna, ma possono solo valutare se qualcosa sia probabile o improbabile. Wyrsch definisce questo il «più grande malinteso in assoluto». Ma c’è anche un altro aspetto problematico. Molti utenti danno per scontato che tutto ciò che inseriscono sia automaticamente protetto. «In realtà ciò dipende fortemente dal singolo fornitore e dal suo modello di protezione dei dati. Molti non distinguono tra servizi di IA liberamente disponibili e soluzioni sviluppate appositamente per la gestione protetta dei dati», afferma l’esperto di Swisscom, sottolineando l’importanza di tale distinzione.

Ciò che nella pratica non dovrebbe essere comunicato a un assistente di IA può essere determinato con una semplice regola empirica: «In linea di principio, non si dovrebbero inserire informazioni che non si pubblicherebbero pubblicamente su un sito web», afferma Wyrsch. Almeno finché non si sappia con sicurezza come il servizio in questione gestisca i dati. Ciò riguarda password e dati di accesso, informazioni relative a carte di credito e conti bancari, dati sanitari, copie di documenti d’identità, ma anche documenti aziendali riservati, dati dei clienti e informazioni aziendali non rese pubbliche, elenca Wyrsch. Il motivo è che «chi desidera mantenere il controllo sui propri dati dovrebbe sapere esattamente come vengono trattati, chi vi ha accesso e per quale scopo vengono utilizzati.»

Nel video, il formatore professionista Marcel spiega come muoversi senza intoppi nella quotidianità digitale: https://www.youtube.com/watch?v=KgHYuM9MmOs

Maggiore comodità, minore tutela dei dati

Chi desidera sapere cosa fa concretamente un assistente basato sull’intelligenza artificiale con i dati inseriti dovrebbe dare un’occhiata alle impostazioni. E magari prepararsi a una sorpresa: «molte persone rimangono stupite dalle funzioni attivate di default. Tra queste figurano, ad esempio, la memorizzazione delle cronologie delle chat, l’utilizzo delle interazioni per migliorare i servizi o il collegamento con altri account», afferma Marco Wyrsch.

Chi apre le impostazioni per la prima volta dovrebbe porsi anzitutto tre domande: i dati inseriti vengono utilizzati per migliorare il servizio? Per quanto tempo vengono conservati i dati? Quali autorizzazioni sono state concesse all’applicazione? «Non esiste una soluzione corretta per tutti, per cui è fondamentale che le impostazioni scelte corrispondano alle proprie aspettative in materia di privacy e comodità d’uso», afferma Wyrsch.

Il conflitto di obiettivi è evidente, poiché più le impostazioni sono pratiche, minore è la tutela dei dati: una maggiore comodità nell’utilizzo significa anche che i sistemi elaborano il maggior numero possibile di informazioni sugli utenti, mentre una maggiore tutela dei dati implica un uso parsimonioso dei dati stessi. E quanto più parsimonioso è l’uso dei dati, tanto più limitata può risultare l’esperienza dell’utente. «A nostro avviso, il giusto equilibrio non sta nella rinuncia alla tecnologia, bensì nella trasparenza e nella libertà di scelta. Gli utenti dovrebbero comprendere quali dati vengono trattati e decidere autonomamente quale livello di comodità nell’utilizzo pratico desiderano ottenere in cambio della condivisione di determinati dati. La protezione dei dati e l’innovazione non sono in contrasto tra loro e le soluzioni digitali di qualità tengono conto di entrambi questi aspetti sin dall’inizio», spiega Wyrsch.

Cosa significa concretamente nella vita quotidiana

Chi compie consapevolmente questa scelta assume il controllo, cosa fondamentale, sui propri dati. È proprio questo il fulcro del concetto di sovranità digitale, spiega l’esperto di Swisscom. «Poter decidere in modo autonomo in merito ai propri dati, alle proprie identità digitali e alle tecnologie offre la possibilità di esercitare un controllo e riduce le dipendenze».

Per gli utenti singoli, ciò inizia con alcune misure pratiche: verificare di tanto in tanto le impostazioni sulla privacy, utilizzare password complesse o ricorrere a gestori di password, attivare l’autenticazione a due fattori (2FA), condividere solo i dati necessari, scegliere consapevolmente le app e i servizi utilizzati e verificare regolarmente quali autorizzazioni sono state concesse alle applicazioni.

«La sovranità digitale non è uno stato che si raggiunge una volta per tutte. È un processo continuo. Chi è conscio di quali dati condivide e di quali conseguenze ciò può comportare, prende decisioni più consapevoli e detiene maggiore controllo», afferma Wyrsch. E chi comprende questo concetto ha già compiuto il passo più importante verso un approccio più informato alle tecnologie di intelligenza artificiale.

 Ulteriori informazioni e offerte formative: swisscom.ch/campus

Gli assistenti basati sull’intelligenza artificiale non si limitano a elaborare ciò che gli utenti scrivono esplicitamente: sono anche molto bravi a leggere tra le righe.