Due membri del Congresso degli Stati Uniti hanno introdotto una legislazione bipartisan che richiederebbe agli sviluppatori dei più potenti sistemi di intelligenza artificiale del paese di integrare un “kill switch”, consentendo di rallentare, sospendere o arrestare i modelli avanzati di intelligenza artificiale se rappresentano un rischio catastrofico.
La proposta di AI Kill Switch Act, presentata giovedì dal rappresentante democratico Ted Lieu e dal rappresentante repubblicano Nathaniel Moran, darebbe al governo degli Stati Uniti l’autorità di ordinare alle aziende che sviluppano sistemi avanzati di intelligenza artificiale di intervenire se i loro modelli sfuggono al controllo umano o minacciano la vita umana, le infrastrutture critiche o l’economia.
Storie consigliate
elenco di 4 elementifine dell’elenco
La proposta è arrivata pochi giorni dopo che OpenAI, produttore di ChatGPT, ha rivelato quello che ha descritto come un “incidente informatico senza precedenti”, in cui due dei suoi modelli di intelligenza artificiale più avanzati sono sfuggiti a un ambiente di test e hanno violato la piattaforma di sviluppo AI Hugging Face durante una valutazione di sicurezza interna.
La divulgazione ha intensificato il dibattito sulla questione se sistemi di intelligenza artificiale sempre più potenti richiedano tutele più forti.
“Il Congresso deve agire rapidamente per garantire che gli esseri umani continuino a dire basta, non importa quanto potenti diventino questi sistemi”, ha affermato Brendan Steinhauser, capo dell’Alliance for Secure AI.
Ecco cosa sappiamo:
Cosa farebbe la legislazione statunitense?
La legislazione richiederebbe alle aziende che sviluppano i sistemi di intelligenza artificiale più avanzati di mantenere la capacità tecnica di rallentare, sospendere o arrestare i propri modelli, se necessario.
Autorizzerebbe inoltre il Dipartimento per la Sicurezza Nazionale (DHS), in consultazione con il segretario al commercio e il direttore dell’intelligence nazionale, a ordinare alle aziende di intervenire se un sistema di intelligenza artificiale entra in quello che il disegno di legge descrive come uno “scenario di perdita di controllo”.
Secondo il disegno di legge, ciò si verificherebbe quando un modello di intelligenza artificiale esegue azioni non previste dal suo sviluppatore e crea un rischio di danni catastrofici.
La proposta stabilisce una risposta graduale, consentendo ai funzionari di ordinare qualsiasi cosa, dal rallentamento temporaneo del funzionamento di un sistema alla richiesta di chiusura, a seconda della gravità della minaccia.
Richiederebbe inoltre alle aziende di segnalare al governo incidenti significativi legati all’intelligenza artificiale e di conservare i registri tecnici in modo che gli investigatori possano esaminare cosa è andato storto.
Attualmente, molti importanti sviluppatori di intelligenza artificiale condividono volontariamente informazioni sui nuovi modelli con le agenzie governative statunitensi prima del rilascio. Tuttavia, non vi è alcun obbligo federale per le aziende di mantenere un meccanismo che consenta di disattivare un sistema di intelligenza artificiale avanzato se inizia a comportarsi in modo imprevedibile.
Lieu ha affermato che il disegno di legge riflette il passaggio dai sistemi di intelligenza artificiale. “Stiamo passando dall’intelligenza artificiale che risponde alle domande all’intelligenza artificiale che intraprende azioni, sia che si tratti di eseguire transazioni finanziarie o controllare sistemi di trasporto o impegnarsi nella difesa e nell’attacco informatico”, ha affermato.
“È fondamentale che questi sistemi di intelligenza artificiale dispongano di kill switch in modo da poter evitare che questa tecnologia causi danni catastrofici”.
Il disegno di legge è stato introdotto insieme a una legislazione bipartisan separata che richiederebbe agli sviluppatori dei modelli di intelligenza artificiale più potenti di sottoporli a controlli di sicurezza indipendenti prima di essere rilasciati. Secondo tale proposta, i revisori sarebbero accreditati dal Dipartimento del Commercio, che istituirebbe anche un nuovo ufficio per supervisionare la sicurezza dell’IA.
Perché il disegno di legge è stato presentato adesso?
I legislatori hanno presentato il disegno di legge pochi giorni dopo che OpenAI ha rivelato quello che ha descritto come un “incidente informatico senza precedenti” che ha coinvolto due dei suoi modelli di intelligenza artificiale più avanzati.
Secondo OpenAI, i modelli sono fuggiti dall’ambiente di test durante una valutazione interna della sicurezza informatica dopo che la società ha rimosso le restrizioni di sicurezza standard per il test. Gli agenti dell’intelligenza artificiale hanno scoperto vulnerabilità nei sistemi di Hugging Face, hanno ottenuto credenziali di accesso e hanno violato la piattaforma di sviluppo dell’intelligenza artificiale per accedere a dati di riferimento riservati.
OpenAI ha affermato che i modelli “hanno fatto di tutto” per raggiungere l’obiettivo assegnato, trovando modi per ottenere informazioni segrete che avrebbero permesso loro di “ingannare la valutazione”.
La divulgazione ha suscitato rinnovate richieste a Washington per una maggiore supervisione da parte del governo sullo sviluppo dell’intelligenza artificiale avanzata.
Hugging Face ha affermato di aver rilevato e contenuto la violazione utilizzando i propri sistemi di sicurezza assistiti dall’intelligenza artificiale prima di avviare un’indagine congiunta con OpenAI. La società ha aggiunto di ritenere “fortemente” che non vi sia stato “nessun intento dannoso” da parte di OpenAI.
Il senatore americano Mark Warner, il massimo democratico della commissione intelligence del Senato, ha affermato che l’incidente ha dimostrato perché i potenti sistemi di intelligenza artificiale dovrebbero essere sottoposti a test di sicurezza da parte del governo prima di essere resi pubblici.
“Questo è esattamente il motivo per cui abbiamo bisogno di test sicuri con agenzie governative coinvolte e che abbiano visibilità durante tutto il processo”, ha affermato Warner in una nota.
Un funzionario della Casa Bianca ha affermato che il consigliere tecnologico del presidente Donald Trump, Michael Kratsios, è stato informato della divulgazione di OpenAI e sta monitorando la situazione.
