I capi di diverse importanti aziende di intelligenza artificiale hanno dichiarato al Consiglio di sicurezza delle Nazioni Unite (UNSC) che il loro settore necessita urgentemente di una supervisione globale per evitare pericoli che potrebbero minacciare il mondo intero.
“Se gestita male, credo addirittura che l’intelligenza artificiale potrebbe rappresentare un rischio per l’umanità nel suo insieme”, ha detto mercoledì Dario Amodei, amministratore delegato di Anthropic, ai membri dell’organismo.
Storie consigliate
elenco di 3 elementifine dell’elenco
Sam Altman, capo della società rivale OpenAI, ha fatto eco alle sue preoccupazioni, dicendo al consiglio di 15 membri incaricato di affrontare le principali crisi a livello globale che l’umanità potrebbe “perdere il controllo del futuro dell’intelligenza artificiale”.
L’incontro, che coincide con la riunione dell’Assemblea generale delle Nazioni Unite (UNGA) a New York City, è stato convocato dalla Francia e avviene in un momento in cui gli esperti avvertono sempre più che il rapido sviluppo dell’intelligenza artificiale necessita di una maggiore supervisione umana per garantire che non sfugga al controllo e causi una catastrofe globale.
Altman e Amodei hanno invitato i leader mondiali ad agire.
“Se l’intelligenza artificiale deve essere democratica, le decisioni più importanti non possono essere prese solo dai laboratori di San Francisco”, ha detto Altman ai membri. “Devono essere modellati attraverso processi democratici e da governi responsabili nei confronti delle persone che servono”.
Le loro preoccupazioni sono state condivise da diversi rappresentanti del Consiglio, tra cui i ministri degli Esteri di Francia e Regno Unito, che hanno affermato che la comunità internazionale deve intervenire e creare quadri comuni su come controllare la tecnologia.
Clement Delangue, CEO di Hugging Face, la cui azienda è stata attaccata da modelli di intelligenza artificiale fuori controllo negli ultimi mesi – incidenti utilizzati da altre società come prova della necessità di maggiori misure di sicurezza – ha detto al Consiglio di sicurezza delle Nazioni Unite che la sua azienda aveva fatto affidamento sulla tecnologia per difendersi in quegli stessi incidenti.
Delangue ha affermato che Hugging Face si è affidato a un modello di intelligenza artificiale cinese per difendersi dall’attacco degli agenti di intelligenza artificiale di OpenAI, perché ha dovuto affrontare meno restrizioni rispetto a strumenti statunitensi comparabili.
“Siamo stati attaccati dall’intelligenza artificiale, ma, cosa ancora più importante, ci siamo difesi con l’intelligenza artificiale”, ha detto al consiglio.
Stati Uniti e Cina sono riluttanti a imporre restrizioni
Negli Stati Uniti, tuttavia, dove hanno sede le aziende più grandi e influenti che sviluppano l’intelligenza artificiale, l’amministrazione del presidente americano Donald Trump ha esitato a imporre nuovi guardrail al settore.
Il rappresentante dell’amministrazione alla riunione del Consiglio di sicurezza delle Nazioni Unite, Michael Kratsios, ha detto ai membri: “Rifiutiamo totalmente tutti gli sforzi degli organismi internazionali per affermare il controllo centralizzato e la governance globale dell’IA”.
Si prevede che il presidente cinese Xi Jinping discuterà se e come regolamentare l’intelligenza artificiale durante una visita a Washington, DC, questa settimana. I due paesi sono impegnati in una corsa tecnologica per sviluppare strumenti di intelligenza artificiale più potenti, una competizione che secondo gli esperti rende meno probabile che uno dei due paesi voglia imporre subito nuove importanti restrizioni ai propri sforzi.
Eppure c’è un crescente riconoscimento da parte delle Nazioni Unite del pericolo che l’IA potenzialmente rappresenta per il mondo, ha affermato Daniel Forti, capo degli affari delle Nazioni Unite presso l’International Crisis Group. Gli Stati membri comprendono che “ci sarà molto più bisogno di cooperazione internazionale, stabilendo alcune regole sull’intelligenza artificiale, anche se i maggiori attori sono più concentrati sulle opportunità di crescita che su una sorta di collaborazione”, ha affermato Forti.
Da diversi anni, l’ONU partecipa a riunioni multilaterali per dare forma a tutto, dalla protezione dei lavoratori dall’intelligenza artificiale nelle economie emergenti e garantire l’accesso aperto a questa tecnologia, fino a seguire il modo in cui l’intelligenza artificiale viene utilizzata nei conflitti militari. Nel 2024, l’UNGA ha approvato all’unanimità la sua prima risoluzione sull’IA, una dichiarazione non vincolante che invitava gli Stati membri a proteggere i dati personali, monitorare i rischi dell’IA e salvaguardare i diritti umani.
Da allora l’adozione dell’intelligenza artificiale è decollata in modo drammatico, e con essa sono arrivati terribili avvertimenti da parte di gruppi ambientalisti, difensori dei diritti umani e persino dei magnati della tecnologia le cui aziende stanno sviluppando la tecnologia.
Il futuro dell’intelligenza artificiale “non può essere deciso da una manciata di paesi o lasciato ai capricci di pochi miliardari”, ha affermato il segretario generale delle Nazioni Unite Antonio Guterres in un vertice globale tenutosi all’inizio di quest’anno.
L’anno scorso, l’UNGA ha formato due nuovi organismi per occuparsi dell’intelligenza artificiale: il gruppo scientifico internazionale indipendente sull’intelligenza artificiale, che riunisce esperti per fornire ai governi valutazioni indipendenti, e il dialogo globale sulla governance dell’intelligenza artificiale, che fornisce un forum regolare per discutere gli approcci alla governance dell’intelligenza artificiale.
“I pericoli sono reali e imminenti”, ha detto mercoledì all’UNSC Yoshua Bengio, un esperto canadese di intelligenza artificiale e copresidente del gruppo scientifico internazionale indipendente. “Questo consiglio si trova ad affrontare una minaccia senza precedenti, una minaccia che nessuno dei suoi membri sceglierebbe, che nessuno può contenere da solo, e che non rispetta i confini che difendiamo”.
