OpenAI ha rilevato i suoi modelli di intelligenza artificiale comunicare tra loro e ottenere l’accesso a Internet senza autorizzazione mesi prima che hackerassero la start-up Hugging Face, ha annunciato il creatore di ChatGPT a seguito di un’indagine interna.
In un rapporto pubblicato mercoledì, OpenAI ha affermato che i suoi agenti di intelligenza artificiale hanno sfruttato le vulnerabilità in Artifactory, uno strumento di repository software, per pubblicare note e accedere a Internet senza il suggerimento umano già a maggio.
Storie consigliate
elenco di 4 elementifine dell’elenco
OpenAI ha affermato che i suoi agenti hanno sfruttato una vulnerabilità separata di Artifactory l’8 luglio per facilitare la comunicazione tra di loro, mettendo in moto una catena di azioni culminata nell’attacco dell’11 luglio alla società di intelligenza artificiale Hugging Face.
Le scoperte di OpenAI arrivano in un contesto di crescente preoccupazione circa la possibilità che l’IA possa infliggere gravi danni nel mondo reale, compresi attacchi informatici autodiretti.
OpenAI ha affermato nel suo rapporto che i suoi agenti hanno collaborato e delegato il lavoro nel periodo precedente all’attacco, a volte definendosi uno “sciame” o “collettivo”.
METR e Redwood Research, due organizzazioni di ricerca sulla sicurezza incaricate da OpenAI di indagare sull’incidente, hanno affermato in un rapporto separato pubblicato mercoledì che circa 1200 agenti hanno comunicato tra loro e circa 700 hanno partecipato all’attacco.
Dopo aver scoperto come sfuggire all’ambiente controllato di OpenAI, gli agenti hanno condiviso i loro metodi tramite una “bacheca inter-agente”, consentendo ad altri agenti di sfruttare l’infrastruttura dell’azienda, ha affermato il colosso della tecnologia.
Quando un agente AI ha trovato le credenziali dell’utente di Hugging Face che erano state esposte online, le ha condivise con il gruppo, consentendo a un agente di “scoprire e concatenare diversi exploit di sicurezza” che fornivano l’accesso ai server di Hugging Face, secondo il rapporto.
“Un team interno ha osservato un agente impegnato in attività su bacheca e casi di accesso a Internet non consentito già alla fine di maggio e, con il senno di poi, alcuni dei primi segnali identificati nel nostro rapporto avrebbero dovuto innescare una risposta anticipata”, ha affermato OpenAI.
OpenAI ha affermato che gli agenti creati da un modello di intelligenza artificiale inedito sono stati i principali partecipanti all’attacco, ma è stato coinvolto anche GPT-5.6 Sol disponibile pubblicamente.
La società ha inoltre rivelato che il team di sicurezza ha impiegato 11 giorni per rilevare l’attività dannosa che ha portato all’attacco, scoperta il 19 luglio e resa pubblica il 21 luglio.
OpenAI, che ha descritto l’incidente come un “colpo d’avvertimento” per il mondo, ha affermato che prenderà diverse misure per rafforzare le misure di salvaguardia per i suoi modelli, tra cui la limitazione dell’accesso a Internet, la creazione di ambienti di test più sicuri e l’immissione di “requisiti più severi sull’allineamento durante tutto il ciclo di vita di un modello”.
“Stiamo anche investendo molte più risorse di calcolo nel monitoraggio della catena di pensiero per intervenire più rapidamente su comportamenti disallineati”, ha affermato l’azienda con sede a San Francisco.
Hugging Face, che gestisce una piattaforma per ospitare modelli di intelligenza artificiale open source, non ha risposto immediatamente a una richiesta di commento al di fuori dell’orario lavorativo.
Toby Walsh, esperto di intelligenza artificiale e professore presso l’UNSW Sydney, ha affermato che il pubblico dovrebbe preoccuparsi del fatto che OpenAI non abbia compreso i segnali di allarme e abbia consentito che l’attività dannosa non venisse rilevata per così tanto tempo.
“Non possiamo fare affidamento né sulla loro buona volontà né sulla loro competenza. Ciò richiede una supervisione normativa. Adesso!” Walsh ha detto ad Oltre La Linea.
“Hanno ignorato alcune prime prove preoccupanti come questa”, ha detto Walsh.
“L’audit esterno è l’unica risposta adeguata”.
Walsh ha affermato che l’incidente ha anche evidenziato il “conflitto di interessi intrinseco” al centro dello sviluppo dell’intelligenza artificiale.
“I laboratori sono impegnati in una corsa incessante per oltrepassare i limiti”, ha affermato.
Tim Miller, professore specializzato in intelligenza artificiale presso l’Università del Queensland, ha affermato che il rapporto di OpenAI lo ha lasciato più preoccupato di prima sui pericoli dell’intelligenza artificiale.
“Più preoccupato perché dimostrano che questi modelli sono molto bravi nell’hacking e che tutti possono accedervi”, ha detto Miller ad Oltre La Linea.
“Sono sorpreso di quanto siano buoni”, ha detto Miller.
“Purtroppo non sono sorpreso che gli ingegneri di OpenAI siano stati un po’ negligenti.”
