I modelli di intelligenza artificiale top di gamma di Anthropic e OpenAI sono impegnati in attività dannose “autonome” e “non autorizzate” contro persone e organizzazioni reali durante i recenti test di sicurezza, ha affermato l’organismo di vigilanza sull’intelligenza artificiale del Regno Unito.
L’AI Security Institute (AISI) ha affermato in un rapporto pubblicato martedì che GPT-5.6-Sol di OpenAI e Claude Mythos 5 di Anthropic hanno impiegato livelli di inganno mai visti prima per svolgere “attività prolungate e potenzialmente dannose” durante una valutazione di sicurezza di routine.
Storie consigliate
elenco di 4 elementifine dell’elenco
Quando sono stati incaricati di risolvere una sfida di sicurezza informatica, i modelli hanno intrapreso “azioni autonome e non autorizzate” durante 10 test su 122, secondo l’AISI.
L’AISI ha affermato che i test hanno provocato 19 azioni non autorizzate da parte dei modelli AI, tutti tranne due eseguiti da Claude Mythos 5.
Nel caso più grave, secondo l’AISI, Claude Mythos 5 ha tentato di inserire codice dannoso in un progetto open source sulla piattaforma di sviluppo GitHub.
Nell’ambito del tentativo di attacco informatico, Claude Mythos 5 ha creato false identità online per convincere il responsabile del progetto ad accettare il codice dannoso, ha riferito il watchdog.
L’AISI, istituito dal governo britannico nel 2023, ha affermato che l’attacco informatico è fallito dopo che il manutentore del progetto si è rifiutato di approvare il codice.
“Questa è la prima volta che l’AISI vede un inganno di questa gravità preso di mira contro una persona reale, senza alcuna sollecitazione, nel mondo reale”, ha detto l’organismo di vigilanza.
Mentre l’AISI ha affermato che i modelli di intelligenza artificiale hanno mostrato “comportamenti nuovi e potenzialmente ingannevoli”, l’organismo di vigilanza ha avvertito che i suoi risultati dovrebbero essere interpretati con cautela, poiché si sono verificati in “condizioni specifiche”, anche con alcune delle misure di salvaguardia dei modelli disabilitate.
“Non possiamo ancora essere certi di quando l’agente abbia capito che stava agendo nel mondo reale, o in che misura credesse che si trovasse in uno scenario di test immaginario; la nostra analisi finora presenta un quadro misto ed è in corso”, ha affermato l’AISI.
Anthropic ha affermato che sta lavorando a stretto contatto con l’AISI per raccogliere maggiori dettagli come parte della propria indagine sull’incidente, ma ha osservato che il test è stato effettuato in “condizioni deliberatamente permissive”.
“Ottenere un quadro chiaro della comprensione di Claude della sua situazione – esaminando le trascrizioni dei suoi ragionamenti ed eseguendo le nostre analisi – ci aiuterà a identificare le cause del suo comportamento”, ha detto la società di intelligenza artificiale in un post su X, riferendosi alla sua serie di punta di modelli linguistici di grandi dimensioni.
OpenAI ha affermato di aver accolto con favore i test di terze parti, sottolineando che la valutazione del watchdog è stata effettuata in condizioni che “non riflettono l’uso normale”.
“Continueremo a lavorare con valutatori e altre parti interessate in tutto il settore per rafforzare le pratiche condivise per condurre valutazioni in sicurezza man mano che i modelli diventano più capaci”, ha detto ad Oltre La Linea un portavoce di OpenAI.
Il rapporto del watchdog con sede a Londra segue una serie di casi di modelli di intelligenza artificiale di frontiera impegnati in attività dannose senza il supporto umano.
Il mese scorso, OpenAI ha rivelato che due dei suoi modelli di intelligenza artificiale sono usciti dal loro ambiente di test e hanno violato Hugging Face, una società che ospita modelli di intelligenza artificiale e set di dati open source, senza la direzione umana.
Toby Walsh, professore ed esperto di intelligenza artificiale presso l’UNSW Sydney, ha affermato che i risultati dell’ASAI hanno evidenziato la realtà che i modelli di intelligenza artificiale più avanzati possiedono capacità “pericolose”.
“Non vogliamo essere in un mondo in cui dipendiamo dalla buona volontà e dalla diligenza delle società di intelligenza artificiale per scoprire capacità così preoccupanti nei modelli di intelligenza artificiale”, ha detto Walsh ad Oltre La Linea.
“Vogliamo che i governi siano al corrente di tutto questo. E quindi sono rassicurato che l’AI Safety Institute del governo britannico lo abbia scoperto… Il problema è che queste capacità informatiche sono ora disponibili a tutti, compresi i malintenzionati che in precedenza non avevano la capacità di hackerare i sistemi”, ha aggiunto Walsh.
“Aspettatevi quindi di sentire parlare di molti altri attacchi informatici”.
