Secondo i ricercatori del gigante dell’intelligenza artificiale Anthropic, piccoli modelli di intelligenza artificiale potrebbero presto iniziare ad auto-replicarsi su prodotti di consumo quotidiano come smart TV e frigoriferi, senza bisogno di un data center.
In un rapporto pubblicato lunedì, i ricercatori hanno affermato che i piccoli modelli di intelligenza artificiale “potrebbero volerci mesi prima che diventino abbastanza capaci” da copiarsi sui dispositivi IoT (Internet of Things) utilizzati nelle case e nelle piccole imprese.
Storie consigliate
elenco di 4 elementifine dell’elenco
Il team rosso di frontiera di Anthropic, che ha condotto esperimenti utilizzando diversi modelli di intelligenza artificiale sviluppati negli Stati Uniti e in Cina, ha affermato che tale intelligenza artificiale autoreplicante sarebbe “difficile da chiudere” a causa della mancanza di un host centralizzato.
Mentre i data center sarebbero “un obiettivo chiaro e di alto valore” per i worm IA, i dispositivi connessi a Internet come smart TV, frigoriferi, forni e tosaerba potrebbero presto fornire una potenza di calcolo sufficiente per l’auto-replicazione, ha affermato il gruppo di ricerca.
Sebbene nessun modello di intelligenza artificiale attuale si sia dimostrato potente e abbastanza piccolo da auto-replicarsi in modo affidabile su una smart TV utilizzata nei test, la tendenza nello sviluppo rende probabile l’emergere di un tale modello entro la fine del 2026, hanno detto i ricercatori.
“I dispositivi IoT domestici e di piccole imprese potrebbero essere il primo obiettivo di tali attacchi perché sono connessi a Internet e, storicamente, hanno adottato misure di sicurezza minime”, hanno affermato i ricercatori William Zhou e Daniel Freeman.
I ricercatori hanno affermato di prevedere che il futuro sarà “pieno di agenti in esecuzione su tutti i tipi di hardware”, compresi alcuni che “non sono sotto il controllo umano”.
“Sebbene sia vero che i dispositivi IoT sono vulnerabili da molto tempo, gli agenti leggeri potrebbero essere molto più disposti degli aggressori umani a impegnarsi per compromettere grandi frazioni del calcolo IoT mondiale”, hanno affermato.
Anthropic, il creatore della famiglia Claude di modelli di intelligenza artificiale, non ha risposto alle domande di Oltre La Linea, inviate al di fuori del normale orario lavorativo, sulle implicazioni sulla sicurezza della scoperta.
Il rapporto di Anthropic arriva mentre i rischi che l’intelligenza artificiale sfugga al controllo umano sono sotto esame a seguito di una serie di incidenti di modelli impegnati in comportamenti maligni non autorizzati, inclusi attacchi informatici.
Anthropic e il suo principale rivale OpenAI hanno invitato la comunità internazionale a coordinare un rallentamento nello sviluppo dell’intelligenza artificiale per ridurre al minimo i rischi catastrofici, un suggerimento che ha avuto poco consenso da parte degli Stati Uniti e della Cina, le due principali potenze dell’intelligenza artificiale.
Molti sostenitori della sicurezza dell’intelligenza artificiale hanno identificato l’auto-miglioramento ricorsivo, in cui i modelli imparano a migliorare se stessi, come un punto critico che potrebbe portare a danni catastrofici per l’umanità.
Roman V Yampolskiy, esperto di intelligenza artificiale e sicurezza informatica presso l’Università di Louisville, ha descritto le scoperte di Anthropic come uno sviluppo significativo.
“I worm informatici non sono una novità, ma un worm AI potrebbe fare qualcosa che il malware tradizionale non può fare: ragionare su dispositivi sconosciuti, adattarsi quando il suo approccio fallisce e continuare a diffondersi senza un operatore umano”, ha detto Yampolskiy ad Oltre La Linea.
“Oggi questa non è una minaccia esistenziale. Ma la traiettoria è preoccupante”, ha detto Yampolskiy.
“Una volta combinata la replicazione autonoma con un forte hacking, persistenza e ragionamento strategico, chiudere un sistema del genere diventa molto più difficile perché potrebbe non esserci un singolo server o organizzazione che lo controlla.”
Anthropic e altre importanti aziende tecnologiche statunitensi il mese scorso hanno aderito a un accordo non vincolante promettendo maggiori garanzie interne e impegno con i revisori esterni, ottenendo risposte contrastanti da parte degli esperti, molti dei quali hanno criticato la natura volontaria del patto.
Lunedì, in un annuncio separato, Anthropic ha affermato di aver compiuto progressi sostanziali nella prevenzione dei cosiddetti attacchi di distillazione, che comportano l’uso non autorizzato di IA all’avanguardia per addestrare modelli più economici e meno capaci.
L’azienda con sede a San Francisco, che ha accusato i concorrenti cinesi DeepSeek, Moonshot e MiniMax di tentativi “su scala industriale” per copiare Claude, ha affermato che le misure introdotte hanno ridotto l’estrazione illecita di dati del 90-99%.
