Un gruppo di oltre 300 scienziati provenienti da tutto il mondo chiede cambiamenti urgenti nel modo in cui l’intelligenza artificiale viene sviluppata e utilizzata in mezzo alle crescenti preoccupazioni sul suo comportamento imprevedibile.
La lettera, pubblicata martedì e firmata da ricercatori che rappresentano università e istituti di ricerca in 32 paesi, avverte che il mancato rispetto delle pratiche di base della sicurezza informatica potrebbe portare a danni alle infrastrutture critiche.
Storie consigliate
elenco di 4 elementifine dell’elenco
Molti recenti incidenti in cui modelli di intelligenza artificiale sono sfuggiti ad ambienti sicuri avrebbero potuto essere prevenuti con sistemi di sicurezza più forti, hanno affermato gli scienziati.
Hanno raccomandato alle organizzazioni che sviluppano e testano sistemi avanzati di intelligenza artificiale in grado di effettuare attacchi informatici di farlo in ambienti più strettamente controllati, compresi i sistemi “air-gapped” che non sono connessi a Internet.
Preoccupazioni crescenti
La lettera arriva in un momento in cui crescono le preoccupazioni sulle capacità dell’intelligenza artificiale e sul suo potenziale impatto sugli utenti di tutti i giorni. Lunedì, Anthropic ha avvertito che i suoi modelli di intelligenza artificiale potrebbero presto essere in grado di creare malware in grado di diffondersi autonomamente e di colpire i dispositivi connessi quotidianamente a Internet, tra cui smart TV, telecamere di sicurezza ed elettrodomestici intelligenti come i forni.
Il rapporto ha rilevato che i sistemi di intelligenza artificiale potrebbero identificare dispositivi sconosciuti senza l’intervento umano. L’azienda, guidata da Dario Amodei, ha avvertito che modelli di intelligenza artificiale più piccoli potrebbero essere in grado di effettuare attacchi autonomi entro la fine dell’anno.
Il malware potrebbe anche essere difficile da contenere perché potrebbero volerci giorni per infettare un dispositivo e potrebbe diffondersi su più macchine invece di rimanere concentrato in un unico luogo controllato.
Assumere il controllo dei dispositivi connessi a Internet può avere conseguenze immediate. In Francia, ad esempio, gli hacker hanno compromesso i sistemi di raffreddamento di centinaia di supermercati, facendo aumentare la temperatura e causando danni per oltre 220.000 dollari.
Nel frattempo, la testata giornalistica Axios ha riferito venerdì che Anthropic, OpenAI e altri dirigenti di importanti società di intelligenza artificiale si stanno preparando privatamente per la possibilità di un incidente catastrofico legato all’intelligenza artificiale che potrebbe interrompere l’accesso ai principali servizi finanziari, a Internet e alle infrastrutture potenzialmente critiche come i sistemi idrici ed elettrici. Diversi addetti ai lavori del settore ritengono che un grave incidente potrebbe verificarsi entro i prossimi sei mesi o un anno.
Gli scienziati hanno anche chiesto maggiori garanzie, inclusa la creazione di un’organizzazione internazionale per stabilire una serie di migliori pratiche per l’allineamento e il contenimento dell’IA insieme alla segnalazione tempestiva degli incidenti.
Uno dei firmatari, David Lie, professore presso il Dipartimento di ingegneria elettrica e informatica dell’Università di Toronto, ha affermato che le sue preoccupazioni sono iniziate dopo che gli agenti di intelligenza artificiale di OpenAI hanno aggirato i controlli e violato i server della società tecnologica Hugging Face.
“Uno è che OpenAI, nel configurare il suo ambiente di test, non ha apprezzato quanto fossero capaci i suoi agenti”, ha detto Lie.
“Questi erano gli agenti IA che stavano progettando. Il secondo è che gli agenti IA si sono trovati in modo indipendente e hanno scelto di collaborare a questo attacco, e il terzo è che hanno anche cercato intenzionalmente di ingannare e fuorviare i loro creatori umani.”
Pressioni politiche
La lettera sottolinea la crescente preoccupazione dell’opinione pubblica nei confronti dell’intelligenza artificiale, anche in vista delle elezioni di medio termine del Congresso americano. Un recente sondaggio Reuters/Ipsos ha rilevato che il 57% degli elettori ritiene che l’amministrazione del presidente Donald Trump non stia prendendo abbastanza sul serio i rischi legati all’intelligenza artificiale, mentre il 54% ha affermato lo stesso del Congresso.
Un sondaggio AP-NORC ha fatto eco a questi risultati, con circa l’80% degli intervistati che afferma che il governo dovrebbe mantenere l’intelligenza artificiale sotto il controllo umano. Gli intervistati hanno anche espresso poca fiducia nella capacità di entrambi i partiti di gestire la tecnologia: il 39% ha affermato che non ci si può fidare né dei repubblicani né dei democratici per fare un buon lavoro nel controllarla, mentre il 23% ha espresso maggiore fiducia nei democratici e il 21% nei repubblicani.
