Se l'assistente IA di Meta causa la fuga di dati sensibili

Quando l’assistente dell’Intelligenza artificiale invece che assistere causa gravi danni. È quanto capitato negli scorsi giorni in una delle più importanti aziende tech del pianeta, se non la più importante: Meta AI. E il danno causato non è stato da poco. Anzi: una grossa fuga di dati sensibili, che è stata confermata dalla stessa Meta, ai danni degli utenti e del colosso californiano.

Ma riavvolgiamo il nastro e vediamo cosa è capitato negli uffici di Menlo Park. A portare alla falla nel sistema e alla conseguente fuga di dati è stata la richiesta di informazione e assistenza da parte di un impiegato, un ingegnere di Meta, che si è rivolto nel forum interno dell'azienda all'assistente basato sull'Intelligenza artificiale per risolvere un problema tecnico che si era presentato, come riporta il Guardian. 

Ed è qui che sta l'inghippo. La soluzione suggerita dall'assistente IA non si è rivelata una vera soluzione, ma un problema. E anche di ingenti dimensioni. Una volta, infatti, che il dipendente ha implementato la soluzione indicata dal bot gestito dall'Intelligenza artificiale, questa ha causato una falla nel sistema di sicurezza nella protezione dei dati, che ha portato ad una fuga di informazioni sensibili degli utenti e dell'azienda stessa, «rimasti esposti per due ore». 

«Nessun dato degli utenti è stato gestito in modo improprio», ha tenuto a rassicurare un portavoce del gigante tech, difendendo l'operato dell'IA e aggiungendo che anche una persona in carne e ossa potrebbe fornire dei consigli sbagliati. La falla nel sistema, in ogni caso, ha innescato un importante allertamento della sicurezza interna a Meta. Un fattore che, sempre stando all'azienda, «dimostra quanto seriamente venga presa la protezione dei dati». La frittata però è stata fatta.

Errori causati dall'IA che «sono destinati a ripetersi», come spiega un esperto di sicurezza del settore interpellato dal quotidiano britannico. Meta, in particolare, starebbe «sperimentando su larga scala» l'utilizzo dell'Intelligenza artificiale, «in modo audace». Specificando anche che gli assistenti IA sono propensi a commettere alcuni tipi di errore che gli esseri umani non fanno, «il che potrebbe spiegare quanto successo a Meta». Gli esseri umani, infatti, sanno qual è il contesto di un'attività. Mentre l'IA dispone di «finestre di contesto», dove vengono «memorizzate le istruzioni», ma possono queste «possono scadere e portare ad errori». 

Quello di Meta non è certo il primo caso nel quale l'uso dell'Intelligenza artificiale al servizio delle grandi aziende causa qualche grattacapo. Anche un colosso come Amazon, riporta il Financial Times, è infatti stato «vittima» di diverse interruzioni di servizio dovute «all'implementazione dei suoi strumenti interni di IA», che ormai viene sempre più sovente utilizzata in vari aspetti lavorativi per velocizzare e meccanizzare procedure, insomma, migliorare i servizi offerti. Ma, come visto, questi sofisticati sistemi usati su larga scala sono ancora in fase di sperimentazione e possono causare l'effetto opposto a quello desiderato, come un blocco dei servizi, sovraccarico dei sistemi o un'improvvisa riduzione della produttività.