In che modo i modelli di intelligenza artificiale sono in grado di hackerare autonomamente gli altri?

La settimana scorsa, è stato riferito che due dei modelli di intelligenza artificiale più avanzati di OpenAI sono “fuggiti” da un ambiente di test controllato e hanno violato Hugging Face, una società di intelligenza artificiale totalmente separata, spostandosi da un sistema informatico all’altro per completare il proprio compito.

Reuters ha riferito che i modelli sfruttavano codice vulnerabile scritto da un cliente di una terza società indipendente di intelligenza artificiale, Modal Labs.

Questo è probabilmente il primo incidente di un “agente” di intelligenza artificiale – un sistema di intelligenza artificiale in grado di prendere decisioni e intraprendere azioni – che agisce in modo autonomo, offrendo uno sguardo raro su come questi sistemi possono pianificare, adattarsi e perseguire obiettivi con un intervento umano minimo.

Oltre La Linea analizza cosa è successo, come gli agenti dell’IA sono in grado di agire in modo indipendente e cosa potrebbe significare per il futuro della sicurezza dell’IA.

Quello che è successo?

OpenAI ha deciso di testare le capacità autonome dei suoi modelli rimuovendo le misure di sicurezza standard per vedere cosa sarebbe successo. L’esperimento è stato condotto in un ambiente di test virtuale interno isolato noto come “sandbox” che non ha accesso a Internet e che viene chiamato “ExploitGym”.

Di seguito è riportato un resoconto dettagliato degli eventi avvenuti durante l’incidente di OpenAI-Hugging Face.

1. Il 9 luglio, durante il test interno sulla sicurezza informatica di OpenAI, i ricercatori hanno presentato due modelli di intelligenza artificiale – GPT-5.6 Sol, uno dei modelli più potenti di OpenAI rilasciato a giugno, e un’altra versione “ancora più capace” – con una serie di vulnerabilità del software e hanno chiesto loro di creare hack per risolverli nell’ambiente isolato.
2. Entrambi i modelli hanno tentato di risolvere il test trovando un modo per accedere a Internet. Invece di lavorare con le informazioni ricevute, i modelli di intelligenza artificiale hanno trovato un punto debole nell’ambiente di test – noto come “vulnerabilità zero-day” – che hanno sfruttato per “sfuggire” all’ambiente limitato, facendosi infine strada verso un sistema che aveva accesso a Internet saltando da un computer all’altro. Hanno fatto di tutto per raggiungere un obiettivo di test piuttosto ristretto e hanno trovato modi per ottenere l’accesso a informazioni segrete che potrebbero essere utilizzate per ingannare la valutazione.
3. Ottenendo questo accesso, i modelli hanno potuto richiedere un accesso maggiore e quindi spostarsi nel sistema fino a raggiungere finalmente un computer con accesso a Internet. I modelli sono poi riusciti a violare i sistemi di Hugging Face, una società del tutto estranea a OpenAI, che opera come archivio di strumenti e modelli di intelligenza artificiale. I due agenti IA hanno avuto accesso al suo sistema per setacciarlo alla ricerca di informazioni su come completare il loro compito.
4. Alla fine i modelli hanno ottenuto soluzioni al problema dal database di Hugging Face.
5. I modelli sono ritornati doverosamente “a casa” per completare il loro compito.
6. La violazione è stata rilevata e contenuta dal team di sicurezza di Hugging Face qualche tempo dopo. Secondo Thomas Wolf, cofondatore di Hugging Face, la violazione è iniziata l’11 luglio ed è durata fino al 13 luglio. Non è chiaro quanto tempo ci sia voluto perché la violazione venisse individuata.

In che modo gli “agenti” dell’IA risolvono i problemi?

Per comprendere come funzionano gli agenti AI, è importante differenziarli dai tradizionali chatbot AI.

L’intelligenza artificiale generativa crea testo e immagini basati su suggerimenti umani, mentre gli agenti di intelligenza artificiale fanno un ulteriore passo avanti prendendo decisioni e intraprendendo azioni in modo indipendente nel perseguimento di un obiettivo specifico, simile a un essere umano. Questa è nota come “intelligenza artificiale” perché il modello ha agenzia.

Secondo gli accademici della MIT Sloan School of Management, gli agenti di intelligenza artificiale si basano sulle capacità dei modelli linguistici di grandi dimensioni (LLM) – modelli di intelligenza artificiale generativa – consentendo loro di completare compiti, non solo di generare risposte.

Ad esempio, se chiedi a un modello di intelligenza artificiale tradizionale di trovare i voli più economici, ti fornirà un elenco di opzioni reperite su Internet. Un agente AI si impegnerà a confrontare i voli, confrontarli con il tuo budget e le tue preferenze e, con il tuo permesso, prenotare l’opzione migliore per te.

Ciò dimostra che mentre l’IA generativa fornisce informazioni, gli agenti dell’IA possono anche prendere decisioni e agire per raggiungere un obiettivo senza necessariamente essere sollecitati a farlo.

Per mostrare come gli agenti AI lavorano verso un obiettivo, è possibile attingere al ciclo Sense, Plan, Act, Evaluate (SPAE). Originariamente sviluppato nella robotica, descrive un ciclo continuo in cui un agente AI raccoglie informazioni, decide cosa fare dopo, agisce e controlla i risultati prima di ripetere il processo. Il processo è simile al seguente:

1. Obiettivo: determinare l’attività che deve essere completata.
2. Valutare: raccogliere e analizzare informazioni dall’ambiente disponibile.
3. Ostacolo: se qualcosa impedisce il completamento dell’attività, verificare la disponibilità di ulteriori informazioni e risorse per andare avanti.
4. Pianifica e decidi: valuta diverse opzioni per completare l’attività e scegline una appropriata.
5. Azione: esegue l’opzione scelta.
6. Valutare: valutare il risultato e se l’azione scelta si avvicina al raggiungimento dell’obiettivo.
7. Adattarsi: se sono necessarie ulteriori azioni, raccogliere più informazioni o provare un approccio diverso.
8. Stato finale: il ciclo continua fino al raggiungimento dell’obiettivo.

L’intelligenza artificiale potrebbe agire oltre il controllo umano?

Incidenti come quello di OpenAI-Hugging Face hanno sollevato preoccupazioni circa il potenziale di capacità estreme dei sistemi di intelligenza artificiale.

Tutto questo è prezioso. Si prevede che il valore di mercato di Agentic AI crescerà da 5,1 miliardi di dollari nel 2024 a 47 miliardi di dollari entro il 2030, secondo Statista, a chiara indicazione della rapidità con cui verrà adottata.

Lo sviluppatore di intelligenza artificiale Anthropic il mese scorso ha esortato l’industria a rallentare l’avanzamento dei sistemi più potenti, affermando che la velocità con cui i modelli di intelligenza artificiale eseguono i compiti è troppo rapida. La settimana scorsa, i membri del Congresso degli Stati Uniti hanno presentato un disegno di legge bipartisan che richiederebbe agli sviluppatori di sistemi di intelligenza artificiale di creare un “kill switch”, il che significa che questi modelli avanzati potrebbero essere chiusi se rappresentassero un rischio catastrofico.

L’avvertimento di Anthropic è arrivato una settimana dopo che i ricercatori dell’Università di Toronto hanno effettuato test dimostrando che l’intelligenza artificiale potrebbe creare un “worm” in grado di adattare il modo in cui si sposta da un dispositivo all’altro fino a prendere il controllo di una rete di computer.

Questi sviluppi dal suono distopico sono arrivati ​​prima che il capo di OpenAI, Sam Altman, affermasse sabato che l’intelligenza artificiale ha raggiunto “la singolarità”, riferendosi al punto in cui l’intelligenza artificiale supera l’intelligenza umana e diventa sempre più difficile da controllare.

Sean O hEigeartaigh, professore di ricerca presso l’Università di Cambridge, ha detto ad Oltre La Linea che non crede che la singolarità sia stata ancora raggiunta.

“Secondo la definizione che conosco, la singolarità è il punto ipotetico in cui l’intelligenza artificiale è così capace e avanza così velocemente da trasformare la civiltà in modi che non possiamo controllare o prevedere”, ha spiegato.

“Ciò avverrebbe molto probabilmente attraverso l’intelligenza artificiale che progetta rapidamente le future generazioni di intelligenza artificiale: auto-miglioramento ricorsivo. Non siamo ancora arrivati ​​a quel punto.”

Tuttavia, ha aggiunto: “I modelli attuali più avanzati spesso fanno sforzi per evitare di essere spenti nei test di valutazione, e i modelli futuri più capaci saranno più bravi a bypassare i ‘kill switch’.”

Altman ha sostenuto che un’intelligenza artificiale così rapida è un bene per il mondo, ma i suoi commenti hanno suscitato ulteriori preoccupazioni su una nuova realtà in cui i sistemi di intelligenza artificiale diventano inarrestabili. Quanto di ciò sia vero e quanto rimanga nel regno della fantascienza è oggetto di dibattito.

Le preoccupazioni sull’intelligenza artificiale spaziano dall’idea che potrebbe “volere” “prendere il sopravvento”, alla realizzazione di piani a lungo termine, al controllo di Internet e all’operatività all’infinito.

Sebbene non equivalga al pieno controllo di Internet, un’altra teoria, nota come “teoria dell’Internet morta”, presuppone che in futuro il World Wide Web sarà riempito principalmente da bot automatizzati e contenuti generati dall’intelligenza artificiale piuttosto che da autentiche attività umane.

Molte preoccupazioni sollevate dagli accademici, tuttavia, sono incentrate meno sull’intelligenza dell’intelligenza artificiale, ma sulla sua capacità di esprimere giudizi. I ricercatori del MIT hanno evidenziato che le “allucinazioni”, che descrivono momenti in cui un agente AI fa affidamento su dati sbagliati, possono portare a gravi errori. Il Centro per gli studi strategici e internazionali (CSIS) ha fatto eco a questo, affermando che “un sistema potrebbe essere abbastanza intelligente da eseguire un compito perfettamente ma non riuscire a rendersi conto che un cambiamento improvviso nella situazione locale rende quel compito un errore catastrofico”.

Un’altra preoccupazione che riecheggia da tempo riguarda il mercato del lavoro, se l’intelligenza artificiale diventasse troppo capace. Uno studio del MIT, condotto a novembre, ha rilevato che l’intelligenza artificiale potrebbe già sostituire più del 10% dei posti di lavoro negli Stati Uniti.

Il grafico seguente evidenzia alcune delle idee sbagliate e delle paure più comuni sull’intelligenza artificiale e sulla realtà attuale.