Anthropic mette in guardia contro una campagna di hacking basata sull’intelligenza artificiale collegata alla Cina

Daniele Bianchi

Anthropic mette in guardia contro una campagna di hacking basata sull’intelligenza artificiale collegata alla Cina

Un team di ricercatori ha scoperto quello che secondo loro è il primo utilizzo dell’intelligenza artificiale per dirigere una campagna di hacking in modo ampiamente automatizzato.

La società di intelligenza artificiale Anthropic ha dichiarato questa settimana di aver interrotto un’operazione informatica che i suoi ricercatori collegavano al governo cinese. L’operazione prevedeva l’uso di un sistema di intelligenza artificiale per dirigere le campagne di hacking, che i ricercatori hanno definito uno sviluppo inquietante che potrebbe espandere notevolmente la portata degli hacker dotati di intelligenza artificiale.

Storie consigliate

elenco di 4 elementifine dell’elenco

Sebbene le preoccupazioni sull’uso dell’intelligenza artificiale per guidare le operazioni informatiche non siano nuove, ciò che preoccupa riguardo alla nuova operazione è il grado in cui l’intelligenza artificiale è stata in grado di automatizzare parte del lavoro, hanno affermato i ricercatori.

“Anche se avevamo previsto che queste capacità avrebbero continuato ad evolversi, ciò che ci ha colpito è la rapidità con cui lo hanno fatto su larga scala”, hanno scritto nel loro rapporto.

L’operazione era di portata modesta e mirava solo a circa 30 persone che lavoravano presso aziende tecnologiche, istituzioni finanziarie, aziende chimiche e agenzie governative. Anthropic si è accorta dell’operazione a settembre e ha adottato misure per chiuderla e informare le parti interessate.

Gli hacker “hanno avuto successo solo in un numero limitato di casi”, secondo Anthropic, che ha osservato che, sebbene i sistemi di intelligenza artificiale siano sempre più utilizzati in una varietà di contesti di lavoro e di svago, possono anche essere utilizzati come armi da gruppi di hacker che lavorano per avversari stranieri.

Anthropic, produttore del chatbot generativo AI Claude, è una delle tante aziende tecnologiche che propone “agenti” AI che vanno oltre la capacità di un chatbot di accedere agli strumenti informatici e intraprendere azioni per conto di una persona.

“Gli agenti sono preziosi per il lavoro quotidiano e la produttività, ma nelle mani sbagliate possono aumentare sostanzialmente la fattibilità di attacchi informatici su larga scala”, hanno concluso i ricercatori. “È probabile che questi attacchi aumentino solo in termini di efficacia”.

Un portavoce dell’ambasciata cinese a Washington non ha immediatamente risposto al messaggio chiedendo commenti sulla notizia.

Microsoft aveva avvertito all’inizio di quest’anno che gli avversari stranieri stavano adottando sempre più l’intelligenza artificiale per rendere le loro campagne informatiche più efficienti e meno dispendiose in termini di manodopera.

Gli avversari statunitensi, così come le bande criminali e le società di hacking, hanno sfruttato il potenziale dell’intelligenza artificiale, utilizzandola per automatizzare e migliorare gli attacchi informatici, per diffondere disinformazione incendiaria e per penetrare sistemi sensibili. L’intelligenza artificiale può, ad esempio, tradurre e-mail di phishing scarsamente formulate in un inglese fluente, nonché generare cloni digitali di alti funzionari governativi.

Daniele Bianchi

Daniele Bianchi, nativo di Roma, è il creatore del noto sito di informazione Oltre la Linea. Appassionato di giornalismo e di eventi mondiali, nel 2010 Daniele ha dato vita a questo progetto direttamente da una piccola stanza del suo appartamento con lo scopo di creare uno spazio dedicato alla libera espressione di idee e riflessioni. La sua mission era semplice e diretta: cercare di capire e far comprendere agli altri ciò che sta effettivamente succedendo nel mondo. Oltre alla sua attività di giornalista e scrittore, Daniele investe costantemente nell'arricchimento della sua squadra, coinvolgendo professionisti con le stesse passioni e interessi.