L’amministrazione del presidente degli Stati Uniti Donald Trump incontrerà le principali società di intelligenza artificiale del paese per discutere se consentire al governo federale ulteriori test di sicurezza per i suoi modelli più avanzati nel mezzo di due hacking di alto profilo confermati da Anthropic e OpenAI.
L’incontro avrà luogo martedì, ha detto ad Oltre La Linea un funzionario della Casa Bianca.
Storie consigliate
elenco di 4 elementifine dell’elenco
L’incontro fa parte di un ordine esecutivo del 2 giugno che richiede un nuovo quadro volontario che consentirebbe al governo federale di avere accesso anticipato ai modelli avanzati fino a 30 giorni prima del rilascio pubblico.
L’incontro è sottolineato dagli sviluppi della scorsa settimana, quando gli strumenti OpenAI sono stati responsabili di una violazione presso un’azienda tecnologica, Hugging Face, e presso il cliente di un’altra, Modal Labs. Gli episodi di hacking degli strumenti operavano al di fuori dell’ambito per cui erano stati progettati.
OpenAI non ha risposto alla richiesta di commento di Oltre La Linea.
Ciò avviene tra le affermazioni del CEO Sam Altman in un podcast, in seguito all’attacco Hugging Face, secondo cui la tecnologia ha raggiunto “la singolarità”, quando l’intelligenza artificiale supera l’intelligenza umana e diventa più difficile da controllare. In precedenza aveva affermato che questo obiettivo non sarebbe stato raggiunto entro il 2030.
La settimana scorsa, Altman ha incontrato altri legislatori a Capitol Hill, tra cui Bernie Moreno, un repubblicano dell’Ohio, e il senatore della Georgia Raphael Warnock.
All’epoca Altman visitò anche la Casa Bianca per discutere dei test.
Lunedì, 15 procuratori generali statali, tutti repubblicani, compresi quelli di Florida, Iowa e Kansas, hanno invitato OpenAI a conservare i documenti su come il suo sistema di intelligenza artificiale è sfuggito al contenimento.
In una lettera ad Altman lunedì, il procuratore generale dell’Iowa Brenna Bird ha scritto: “OpenAI ha condotto i test in quello che avrebbe dovuto essere un ambiente isolato, senza alcuna possibilità che l’agente potesse accedere a Internet. All’interno di quell’ambiente presumibilmente isolato, OpenAI ha permesso all’agente di operare ‘senza classificatori di produzione utilizzati per impedire ai modelli di perseguire attività informatiche ad alto rischio’, che un commentatore ha riassunto come “un sacco di parole per “nessun guardrail”, essenzialmente.'”
Anthropic ha anche annunciato la scorsa settimana di aver identificato tre incidenti separati in cui il suo modello, Claude, è riuscito a raggiungere Internet e ottenere l’accesso non autorizzato a un insieme di organizzazioni riservate.
Il colosso dell’intelligenza artificiale guidato da Dario Amodei ha affermato che gli incidenti di hacking sono avvenuti in un “ambiente di valutazione di terze parti”, secondo un comunicato della società.
Anthropic è nel mirino della Casa Bianca per i suoi sforzi volti a limitare l’uso da parte del governo della sua tecnologia per le armi autonome e la sorveglianza di massa.
Anthropic non ha risposto alla richiesta di commento di Oltre La Linea.
Si prevede che Google sarà presente, secondo quanto riferito dal punto vendita tecnologico The Information. Google non ha risposto alla richiesta di commento di Oltre La Linea.
Secondo quanto riportato dall’agenzia di stampa Reuters, sarebbero stati invitati anche Facebook, WhatsApp e la società madre di Instagram, Meta. La Casa Bianca non ha detto specificamente che il colosso tecnologico guidato da Mark Zuckerberg sarebbe stato presente. Meta non ha risposto alla richiesta di commento di Oltre La Linea.
A Wall Street, le azioni di Meta stanno crollando nelle contrattazioni di mezzogiorno. Dall’apertura del mercato è in calo dello 0,2%. La società madre di Google, Alphabet, è invece in territorio positivo. È in crescita dell’1,1%. Anthropic e OpenAI non sono quotati in borsa.
