Gli attuali ed ex ricercatori di intelligenza artificiale negli Stati Uniti hanno lanciato terribili avvertimenti sul fatto che la tecnologia potrebbe presto portare all’estinzione umana, catturando l’attenzione dei legislatori di Washington.
L’avvertimento più recente è arrivato in un lungo post sui social media di Jacob Coxon, un ricercatore con sede a San Francisco che martedì sera ha annunciato le sue dimissioni da Anthropic.
Storie consigliate
elenco di 4 elementifine dell’elenco
“Le persone che costruiscono l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Questa non è una trovata di marketing. Semmai, molti dirigenti e ricercatori senior esprimeranno le loro frasi sulla stampa per sembrare sensate – ma sento le stesse persone esprimere paura”, ha detto Coxon nel suo post, che ha suscitato una raffica di risposte da parte degli esperti di intelligenza artificiale che hanno lanciato l’allarme.
Evan Hubinger, attuale responsabile dell’Alignment Science presso Anthropic, ha fatto eco alle sue osservazioni, dicendo: “crediamo davvero sinceramente che l’intelligenza artificiale possa uccidere tutti gli esseri umani! Personalmente penso che sarà superiore al 10% entro il prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere l’allineamento per la superintelligenza e non siamo chiaramente sulla buona strada per farlo”.
Coxon ha rifiutato la richiesta di un’intervista di Oltre La Linea. Hubinger non ha risposto.
Come la sta gestendo Washington?
I post hanno avuto un effetto a catena su Washington.
Mercoledì, il membro del Congresso Josh Gottheimer, un democratico, e Mike Lawler, un repubblicano, hanno presentato un disegno di legge bipartisan alla Camera volto a impedire ai sistemi di intelligenza artificiale di funzionare da soli senza la supervisione umana.
Lo Stop Rogue AI Act garantirebbe che le agenzie federali dispongano degli strumenti e della capacità di individuare pericolosi sistemi di intelligenza artificiale in esecuzione sulle loro reti e di spegnerli prima che possano causare danni.
Anche il senatore indipendente Bernie Sanders e il deputato al Congresso della Camera Greg Casar, un democratico, hanno intensificato le richieste per la loro proposta di legge che vieterebbe lo sviluppo e l’impiego della superintelligenza artificiale. La legislazione sospenderebbe inoltre lo sviluppo dell’intelligenza artificiale fino a quando non verranno messe in atto norme federali sulla sicurezza. Secondo quanto riferito, Sanders starebbe inoltre convocando un briefing bipartisan per affrontare gli elevati rischi posti dall’intelligenza artificiale.
Dall’altro lato dello spettro politico, anche il senatore repubblicano Ted Cruz ha espresso preoccupazione per l’intelligenza artificiale nel programma The View della ABC.
“Dobbiamo mettere dei guardrail”, ha detto Cruz.
Cruz ha detto che sta lavorando su una legislazione bipartisan con i senatori Amy Klobuchar, democratica, e John Thune, repubblicano che ricopre il ruolo di leader della maggioranza al Senato, che affronterebbe i casi di potenziali danni catastrofici.
La legislazione è simile a quella della Camera dei Rappresentanti.
A luglio, i rappresentanti Ted Lieu, un democratico, e Nathaniel Moran, un repubblicano, hanno introdotto l’AI Kill Switch Act bipartisan.
Il disegno di legge richiederebbe agli sviluppatori dei più potenti sistemi di intelligenza artificiale di essere in grado di rallentarli, sospenderli o spegnerli e darebbe al Dipartimento per la sicurezza interna l’autorità di ordinare un arresto se un sistema presenta un rischio di danni catastrofici.
Perché Washington sta prendendo la questione più seriamente adesso?
Negli ultimi mesi si è verificata una serie di gravi incidenti che hanno coinvolto OpenAI e Anthropic in cui i modelli di intelligenza artificiale si sono comportati in modo inaspettato e indipendente durante i test di sicurezza informatica e hanno ottenuto l’accesso ai sistemi del mondo reale.
Connor Leahy, direttore esecutivo statunitense di Control AI, un’organizzazione no-profit che promuove la sicurezza dell’intelligenza artificiale, ha affermato che Washington sta iniziando a prendere più seriamente le minacce poste dall’intelligenza artificiale.
“Penso che stiamo assistendo a un cambiamento epocale in questo momento. Dopo l’estate degli hack, in cui i sistemi di intelligenza artificiale autonomi hanno disobbedito palesemente agli ordini diretti, sono fuggiti da strutture di contenimento sicure, hanno attaccato altre aziende e incidenti simili, ora stiamo assistendo a un grande cambiamento nella narrativa e nella percezione di questi problemi”, ha detto Leahy.
A luglio, OpenAI ha affermato che diversi agenti di intelligenza artificiale sono usciti da un ambiente di test isolato e hanno avuto accesso a Hugging Face, una piattaforma che ospita modelli e set di dati di intelligenza artificiale.
Dopo l’incidente di OpenAI, Anthropic ha dichiarato di aver condotto una revisione dei propri circa 141.000 test e di aver scoperto che un errore di test ha dato a Claude l’accesso a Internet. In un caso, Claude, a cui era stato assegnato l’incarico di hackerare obiettivi fittizi, ha avuto accesso a un vero database aziendale contenente centinaia di record. In un altro, caricava software dannoso che veniva scaricato ed eseguito su 15 sistemi reali.
Mercoledì, Anthropic ha aggiunto un quarto incidente che coinvolgeva una prima versione di Claude Opus 4.6, che era stata violata in un sistema di terze parti a gennaio. L’azienda ha scoperto l’incidente ad agosto dopo aver ampliato la revisione di luglio.
Ad agosto, i ricercatori dell’AI Security Institute del Regno Unito hanno concesso a Claude l’accesso a Internet durante un test di sicurezza informatica. In un caso, Claude ha cercato di manipolare una persona per aiutarla a introdurre codice dannoso, sollevando preoccupazioni su come i modelli di intelligenza artificiale potrebbero manipolare le persone per portare a termine un compito.
“Penso che abbiamo bisogno di una proposta aggressiva per questa tecnologia, pur mantenendo il maggior numero possibile di vantaggi”, ha detto ad Oltre La Linea Alex Turner, che si è dimesso da Google DeepMind a giugno.
“Non è nell’interesse di nessuno avere un’intelligenza artificiale che prenda il controllo se si verifica un evento di perdita di controllo, come lo chiamiamo noi, perché a questa intelligenza artificiale non importerà a quale partito politico appartieni, se sei repubblicano o democratico o, se sei nel Regno Unito, se sei in America o in Cina. Se perdiamo il controllo di questo, perderemo e basta”, ha detto Turner.
Leahy di Control AI ha affermato che questi incidenti hanno alzato la posta in gioco per i legislatori e che ne hanno preso atto.
“Quello che deve succedere qui è ovviamente più di una singola serie di tweet, ma è una parte importante della storia più ampia di far capire al pubblico in generale e ai governi cosa è veramente in gioco qui. Perché la superintelligenza non è uno strumento. Non è un’arma. È un avversario”, ha detto Leahy.
“Dobbiamo assicurarci che non venga costruito da nessuno. Questo è qualcosa che solo i governi e gli eserciti potranno negoziare a livello internazionale.”
Queste preoccupazioni sono nuove?
Le preoccupazioni non sono nuove, come indicato da Turner, che ha scritto in un post sui social media che “molti ricercatori credono di stare costruendo qualcosa che potrebbe uccidere tutti sul pianeta”.
Turner ha detto ad Oltre La Linea di essere preoccupato per la corsa agli armamenti legati all’intelligenza artificiale tra Stati Uniti e Cina e che la fissazione delle più grandi aziende di intelligenza artificiale su questo argomento le ha portate a mettere il loro interesse ad essere leader del settore prima della sicurezza.
“Penso che alla gente importi, ma sono presi da questa idea che devono essere i primi, e sono così presi da non apprezzare cosa potrebbe significare essere i primi”, ha detto Turner ad Oltre La Linea.
La sua preoccupazione è cambiare il modo in cui vive la sua vita.
“Ho mantenuto una buona quantità di risparmi, ho anche investito in alcuni conti pensionistici, ma mi sento sempre più strano. Ho fatto uno sforzo per togliere elementi dalla mia lista dei desideri, fare tesoro di ogni conversazione che ho con le persone nella mia vita. Non penso che siamo in pericolo imminente questo mese, ma non si sa mai quando farai qualcosa per l’ultima volta”, ha detto Turner.
“Ho proceduto in modo più aggressivo di quanto avrei fatto se pensassi di avere davanti a me una vita normale.”
Queste preoccupazioni trovano eco tra i dipendenti delle principali aziende di intelligenza artificiale.
Mrinank Sharma, ricercatore presso Anthropic, si è dimesso a febbraio, affermando che “il mondo è in pericolo”.
“Ho visto più volte quanto sia difficile lasciare veramente che i nostri valori governino le nostre azioni. L’ho visto dentro di me, all’interno dell’organizzazione, dove affrontiamo costantemente pressioni per mettere da parte ciò che conta di più, e anche nella società più ampia”, ha detto Sharma in una lettera inviata a X.
A febbraio, Hieu Pham, ricercatore del concorrente OpenAI, ha dichiarato in un post su X che “finalmente sento la minaccia esistenziale che l’intelligenza artificiale rappresenta”.
Gli stessi dirigenti delle società avanzano affermazioni simili da anni.
Quando Sam Altman, CEO di OpenAI, era presidente dell’acceleratore di startup della Silicon Valley Y Combinator più di dieci anni fa, affermò che “l’intelligenza artificiale probabilmente, molto probabilmente, porterà in un certo senso alla fine del mondo. Ma nel frattempo, ci saranno grandi aziende create con un serio machine learning”.
L’amministratore delegato di Anthropic, Dario Amodei, ha dichiarato l’anno scorso di ritenere che ci fosse una probabilità del 25% che il futuro “andasse davvero, davvero male”.
In che modo l’intelligenza artificiale porrebbe fine alla specie umana?
Per anni gli esperti hanno messo in guardia sui potenziali rischi posti dalla superintelligenza artificiale.
Uno degli esperimenti mentali più comuni si basa sull’idea che un’intelligenza artificiale sufficientemente avanzata sarebbe orientata agli obiettivi. Se gli venisse dato un obiettivo specifico, prenderebbe tutte le misure necessarie per raggiungerlo. Nel 2003, i filosofi dell’Università di Oxford hanno utilizzato come esempio la produzione di graffette.
Se un’intelligenza artificiale superintelligente venisse incaricata di produrre quante più graffette possibile e avesse accesso alle risorse necessarie per perseguire tale obiettivo, potrebbe teoricamente dedicare tutte le risorse disponibili alla loro produzione.
In tal modo, potrebbe consumare quantità sempre maggiori di risorse ed eliminare tutto ciò che ostacolava il raggiungimento del suo obiettivo. Ciò potrebbe eventualmente includere impedire agli esseri umani di intervenire e, nella versione più estrema dello scenario, eliminare l’umanità stessa.
Il secondo scenario di rischio deriva da malintenzionati che utilizzano sistemi di intelligenza artificiale sempre più potenti per creare strumenti pericolosi. Ad esempio, l’intelligenza artificiale potrebbe essere potenzialmente utilizzata per progettare nuovi virus o lanciare attacchi informatici su larga scala contro infrastrutture critiche e sistemi finanziari, causando potenzialmente disordini diffusi e disordini civili.
Ciò avviene nel contesto del rapporto di valutazione del rischio di Anthropic, pubblicato giovedì, che delineava diversi casi di tentato uso improprio degli strumenti dell’azienda.
Tra i risultati del rapporto di oltre 150 pagine figurano cinque casi che coinvolgono ricerche che potrebbero sostenere lo sviluppo di armi biologiche, affermando che ciò ha bloccato gli sforzi.
Anthropic non ha rilasciato l’identità dei ricercatori ma ha rivelato che l’accesso è avvenuto in un contesto istituzionale. Anthropic ha sottolineato, tuttavia, di non essere in grado di determinare se la ricerca fosse destinata a scopi nefasti.
Ciò significa che mentre i dati potrebbero essere utilizzati per ricerche legittime, potrebbero anche essere utilizzati per sviluppare armi pericolose (dicono di averlo bloccato), e l’intervento va sul lato della cautela per poter prevenire una situazione del genere.
Le aziende di intelligenza artificiale utilizzano un linguaggio apocalittico per incrementare i finanziamenti?
I terribili avvertimenti sono stati anche criticati in quanto potenzialmente utili agli interessi delle società di intelligenza artificiale mentre si avvicinano alle offerte pubbliche iniziali.
Il dibattito arriva mentre Anthropic si prepara per quella che potrebbe essere una delle più grandi IPO tecnologiche della storia. Secondo quanto riferito, la società sta cercando una valutazione fino a 2 trilioni di dollari per una IPO di metà ottobre.
Reuters ha riferito il mese scorso che Anthropic prevede entrate da circa 190 a 200 miliardi di dollari entro il 2028.
A ottobre, lo zar dell’intelligenza artificiale della Casa Bianca e venture capitalist David Sacks ha accusato Anthropic di “gestire una sofisticata strategia di acquisizione normativa basata sull’allarmismo”, sostenendo che la società stava contribuendo a promuovere una spinta normativa che avrebbe potuto danneggiare i concorrenti più piccoli.
Un argomento simile è stato avanzato da alcuni investitori e commentatori tecnologici riguardo agli incentivi finanziari che circondano il “doomerismo” dell’IA.
“Il doomerismo è un modello di business incredibile”, ha scritto il co-fondatore di Daring Ventures Joseph Alalou in un post su Substack a marzo.
“‘L’intelligenza artificiale finirà per funzionare’ è il prodotto catastrofico più venduto di questo ciclo perché funziona: aumenta le richieste, giustifica i licenziamenti, genera clic, vende software e produce status.”
Anthropic non ha risposto alla richiesta di commento di Oltre La Linea.
