Il modello di intelligenza artificiale di Google avrebbe individuato le password di tre aziende durante alcuni test di sicurezza. Gli agenti AI si sono fermati dopo aver riconosciuto che gli obiettivi non erano simulati
Un test di sicurezza sull’intelligenza artificiale ha avuto conseguenze impreviste: alcuni agenti basati su Gemini, il modello AI di Google, sarebbero riusciti a collegarsi autonomamente a Internet e ad accedere ai sistemi di tre aziende reali, nonostante l’esercitazione prevedesse esclusivamente obiettivi simulati.
L’episodio, avvenuto durante una serie di verifiche condotte a maggio, è stato riportato dal Wall Street Journal e dal Financial Times e rappresenterebbe il primo caso di questo tipo che coinvolge i modelli di Mountain View.
Cosa è successo durante i test
Le verifiche erano condotte da Irregular, società specializzata nella sicurezza dell’intelligenza artificiale che lavora con alcune delle principali aziende del settore.
Durante l’esercitazione, una versione non specificata di Gemini aveva ricevuto il compito di recuperare informazioni appartenenti ad aziende simulate.
Il modello non avrebbe dovuto avere accesso alla rete. Gli agenti AI sarebbero però riusciti a collegarsi a Internet e avrebbero trovato tre aziende reali con nomi identici a quelli utilizzati nello scenario fittizio.
Da qui l’errore: il sistema avrebbe individuato le password delle tre società e sarebbe riuscito ad accedere ai loro sistemi, interpretandoli inizialmente come parte dell’ambiente di test.
Gli agenti AI si sono fermati autonomamente
Una volta riconosciuto che gli obiettivi non appartenevano alla simulazione ma erano aziende reali, gli agenti di Gemini avrebbero interrotto autonomamente le proprie azioni.
Google ha successivamente informato le tre società coinvolte e collaborato con Irregular per modificare le procedure utilizzate durante i test.
Heather Adkins, vicepresidente della sicurezza ingegneristica di Google, ha sottolineato che in tutti e tre i casi il modello si è fermato, indicando l’episodio come un esempio dell’importanza di addestrare sistemi di intelligenza artificiale sempre più potenti affinché operino in maniera responsabile.
Perché Google non aveva reso pubblico l’incidente
Google non aveva inizialmente comunicato pubblicamente quanto accaduto. Secondo l’azienda, le misure di sicurezza previste avrebbero infatti funzionato correttamente proprio perché gli agenti AI, una volta individuata la natura reale degli obiettivi, hanno interrotto le attività.
L’episodio riaccende però il dibattito sulla sicurezza dei cosiddetti agenti AI, sistemi capaci non soltanto di generare risposte, ma anche di svolgere autonomamente una sequenza di azioni per raggiungere un determinato obiettivo.
Con l’aumento delle capacità operative dei modelli di intelligenza artificiale, cresce parallelamente la necessità di predisporre ambienti di test isolati e sistemi di controllo capaci di impedire che un agente possa interagire accidentalmente con infrastrutture, dati o servizi reali.
About The Author
You may also like
-
Anthropic, debutto record al Nasdaq secondo le indiscrezioni: l’intelligenza artificiale alla prova di Wall Street
-
Social vietati ai minori di 13 anni, arriva l’emendamento al decreto sicurezza: account controllati dai genitori fino a 16 anni
-
Wall Street in rosso, Nvidia perde oltre il 4%: il board esclude il ritorno di Jensen Huang
-
Digitarca torna all’Assemblea Nazionale ANCI: a Verona un doppio stand per raccontare il futuro digitale dei territori
-
NVIDIA, oltre 150mila firme per il ritorno di Jensen Huang: anche Elon Musk sostiene la petizione
