L’intelligenza artificiale antropica afferma di aver contrastato molteplici operazioni dannose utilizzando i suoi modelli Claude, che vanno dallo spionaggio informatico e dalla progettazione di armi alle campagne di sorveglianza di massa.
Sul fronte delle armi convenzionali, la società sostiene in un nuovo rapporto di essere intervenuta nello Yemen settentrionale, bloccando il tentativo di schierare Claude per un software di guida missilistica, tra cui un razzo guidato e un missile balistico a lungo raggio.
Storie consigliate
elenco di 3 elementifine dell’elenco
Sviluppo di missili e razzi assistito dall’intelligenza artificiale
Secondo il rapporto sulle minacce di Anthropic, gli operatori hanno utilizzato Claude “al posto di ingegneri informatici umani”, assegnando a diverse istanze del modello ruoli specifici per scrivere software di guida missilistica e di controllo di volo.
Sebbene le misure di salvaguardia interne abbiano bloccato molte richieste, Anthropic ha ammesso che molte di esse sono sfuggite. Gli operatori evitavano di essere scoperti oscurando i loro obiettivi finali e suddividendo i compiti in sessioni separate, quindi nessun singolo suggerimento rivelava l’operazione.
La società ha affermato di non avere prove che il gruppo sia riuscito a mettere in campo un’arma funzionante, anche se Anthropic ha affermato che gli operatori sembravano aver condotto un fuoco di prova senza successo.
Il rapporto afferma che la società ha vietato gli account coinvolti e “ha condiviso informazioni sulle minacce con partner del settore pubblico e privato per mitigare i rischi posti dagli autori”.
Cyberspionaggio di Stato
Il rapporto sostiene che un’operazione di spionaggio collegata alla Russia porta i tratti distintivi di Midnight Blizzard (o APT29), che secondo Anthropic si basava su flussi di lavoro automatizzati di intelligenza artificiale per eseguire quasi l’intera operazione, gestendo qualsiasi cosa, dal phishing e configurazione al furto di dati contro obiettivi ucraini, europei e diplomatici, compresi i produttori di droni.
Separatamente, la società ha affermato di aver interrotto un’operazione cinese gestita da studenti universitari nella provincia di Hunan, che utilizzavano Claude “come livello di ingegneria e orchestrazione” di un programma offensivo rivolto alle reti governative e aziendali in Medio Oriente, Europa e Sud-Est asiatico.
In entrambi i casi, Anthropic ha affermato di aver vietato gli account associati e di aver implementato un monitoraggio aggiuntivo per rilevare attività simili.
Identificazione di obiettivi, anche in Siria e Iran
Anthropic sostiene inoltre di aver identificato e rimosso tre account allineati allo stato iraniano che utilizzavano Claude per eseguire operazioni segrete di influenza e psicologiche. Ogni operazione era legata a un’istituzione di propaganda iraniana denominata, tra cui l’Organizzazione islamica per la cultura e le comunicazioni e una sala di comando del seminario di Mashhad che distribuiva contenuti in linea con le narrazioni del Corpo delle guardie rivoluzionarie islamiche (IRGC).
In un altro caso, il rapporto sostiene che gruppi allineati allo Stato hanno utilizzato Claude per un’operazione su scala industriale, indirizzando il modello a generare profili strutturati che mappavano gli obiettivi in base alla posizione, ai dati demografici, alle tendenze politiche e ai punteggi di fiducia.
“Il caso più maturo dal punto di vista operativo”, ha osservato Anthropic nel suo rapporto, è stato rilevato quando un account allineato alla Cina “senza competenze in lingua araba” ha utilizzato Claude per condurre “un’operazione di reclutamento di più giorni per infiltrarsi in obiettivi uiguri in Siria”. Anthropic ha affermato che “il modello ha redatto la comunicazione nel dialetto regionale” e “ha tradotto le risposte in tempo reale”.
All’inizio di questa settimana, Anthropic ha rivelato un altro incidente di un modello di intelligenza artificiale che ha ottenuto l’accesso non autorizzato a sistemi esterni che coinvolgono una prima versione di Claude Opus 4.6, poco dopo che l’ex ricercatore dell’azienda Jacob Coxon si è dimesso pubblicamente per problemi di sicurezza.
“Le persone che costruiscono l’intelligenza artificiale credono fermamente che potrebbe ucciderci tutti entro la fine del decennio”, ha avvertito Coxon in un post su X. Un altro scienziato antropico, Evan Hubinger, è poi intervenuto, dicendo che Coxon aveva ragione.
Gli avvertimenti dei ricercatori hanno portato un numero crescente di legislatori statunitensi a chiedere nuove regole per governare i sistemi di intelligenza artificiale.
Anthropic ha affermato che sta indagando sui problemi ricorrenti e sulle violazioni riscontrate negli incidenti e ha incaricato una società di ricerca indipendente di esaminarli.
Rapporti con Washington
Le relazioni tra Washington e la società di intelligenza artificiale rimangono tese a seguito di una controversa situazione di stallo sui guardrail etici. All’inizio di quest’anno, il Pentagono ha inserito la società nella lista nera come rischiosa per la catena di approvvigionamento dopo che si era rifiutata di abbandonare le misure di salvaguardia contro l’uso della sua tecnologia per armi autonome e sorveglianza interna.
Anthropic ha contestato la decisione in California, dove un giudice ha stabilito il mese scorso che il Dipartimento della Difesa degli Stati Uniti aveva agito illegalmente nel rilasciare la designazione. Eppure, nonostante l’aspra battaglia legale e gli attriti pubblici, il Pentagono avrebbe utilizzato i modelli Claude dell’azienda in missioni militari in Iran e Venezuela.
Il rapporto arriva in un momento critico per l’azienda poiché cerca di ripristinare la piena posizione all’interno della base industriale della difesa statunitense in seguito all’inserimento nella lista nera del Pentagono.
