Tre ex dipendenti di OpenAI affermano di essere stati licenziati a causa dei loro sforzi per garantire la sicurezza dell’intelligenza artificiale.
I ricercatori sulla sicurezza Mikita Balesni, Tomek Korbak e Jasmine Wang hanno lanciato le accuse giovedì dopo il loro licenziamento la settimana scorsa. I tre hanno avvertito di un effetto “agghiacciante” su altro personale preoccupato dai rischi della tecnologia di frontiera.
Storie consigliate
elenco di 4 elementifine dell’elenco
OpenAI ha dichiarato di essere stato licenziato a causa di cattiva condotta riguardante la cattiva gestione delle informazioni aziendali.
“Credo che siamo stati licenziati per aver dato priorità alla sicurezza rispetto agli interessi a breve termine di OpenAI come azienda”, ha detto Balesni in un post su X.
Korbak ha espresso un sentimento simile, esprimendo la convinzione di essere stato licenziato per aver sollevato preoccupazioni sul fatto che OpenAI stesse “perdendo la capacità di monitorare ciò che pensano gli agenti di intelligenza artificiale, uno dei nostri migliori strumenti per individuare quando si comportano male”.
In una lettera aperta pubblicata insieme ai loro post sui social media, Balesni, Korbak e Wang hanno espresso preoccupazione per il fatto che il loro licenziamento avrebbe fatto sì che i loro ex colleghi “avessero paura di parlare e operare in modi che, fino alla settimana scorsa, erano parte integrante del lavoro presso OpenAI”.
“Abbiamo potuto sollevare problemi di sicurezza e dissentire apertamente, e siamo stati incoraggiati ad avvalerci dell’esperienza di organizzazioni di sicurezza indipendenti”, hanno affermato nella lettera. “Questo fa parte di ciò che ha reso speciale OpenAI e del motivo per cui siamo immensamente orgogliosi di aver fatto parte del team.”
I tre hanno aggiunto che “se le persone più vicine ai rischi non possono più lavorare in modalità ad alta fiducia e con larghezza di banda elevata tra loro e con terze parti”, allora l’intelligenza artificiale non potrebbe essere sviluppata in modo sicuro.
“È per quella cultura che scriviamo” hanno affermato.
I tre hanno negato di aver violato la politica aziendale, affermando che qualsiasi impegno con esperti di sicurezza esterni era in linea con il mandato dei loro ruoli.
“Date le significative preoccupazioni sulla sicurezza che circondano lo sviluppo dell’intelligenza artificiale, i dipendenti non devono essere lasciati a lavorare in un ambiente in cui la paura e le regole poco chiare ostacolano il lavoro sulla sicurezza dell’intelligenza artificiale e indeboliscono la responsabilità di terze parti”, hanno affermato.
“Le risoluzioni come la nostra, eseguite e comunicate in modo così brusco, stanno raffreddando la cultura aperta che OpenAI ha apprezzato in passato.”
In una dichiarazione, OpenAI ha affermato di aver scoperto “una significativa violazione della fiducia” da parte degli ex ricercatori che è andata oltre quanto descritto nella loro lettera e ha affermato di essere dietro la decisione di licenziarli.
“Vogliamo essere molto chiari sul fatto che queste decisioni non miravano a sollevare problemi di sicurezza o a parlare apertamente”, ha affermato la società con sede a San Francisco.
“I dibattiti sulla sicurezza e sulla ricerca si svolgono ogni giorno in OpenAI, spesso vivaci e altamente critici. Incoraggiamo attivamente queste discussioni e le consideriamo essenziali per prendere le giuste decisioni. Non possiamo svolgere il lavoro che abbiamo davanti senza un elevato grado di fiducia. Continueremo a essere estremamente indulgenti nei confronti del nostro team che commette errori in buona fede.”
OpenAI ha aggiunto di essere rattristato dal risultato.
“Abbiamo apprezzato il contributo di Jasmine, Mikita e Tomek alla sicurezza dell’intelligenza artificiale presso OpenAI e la loro disponibilità a parlare apertamente e a sfidare le idee”, ha affermato la società.
“Abbiamo sostenuto le loro voci, sostenuto il loro lavoro e riposto in loro un’enorme fiducia. Queste decisioni non riguardavano il fatto che sollevassero problemi di sicurezza. Lo abbiamo sempre incoraggiato e lo faremo sempre.”
L’intervento degli ex dipendenti arriva mentre OpenAI e altre società di intelligenza artificiale sono al centro di un intenso dibattito su come garantire che la tecnologia in rapida evoluzione non esponga l’umanità a danni catastrofici.
Il rischio che modelli di intelligenza artificiale all’avanguardia sfuggano al controllo umano è stato sotto i riflettori da luglio, quando è emerso che agenti autonomi generati da OpenAI avevano hackerato la start-up di software Hugging Face.
OpenAI e il suo principale rivale, Anthropic, hanno esortato la comunità internazionale a lavorare insieme per un rallentamento coordinato dello sviluppo dell’intelligenza artificiale.
Tuttavia, tale suggerimento è stato respinto dalle due principali potenze dell’IA, Stati Uniti e Cina.
Il mese scorso, OpenAI, Anthropic, Google, Meta, SpaceXAI e Nvidia hanno approvato un accordo volontario che richiede maggiori garanzie interne e il coinvolgimento di revisori esterni per gestire meglio i rischi per la sicurezza.
L’accordo, annunciato dal presidente degli Stati Uniti Donald Trump, ha suscitato risposte contrastanti da parte dei sostenitori della sicurezza dell’IA, molti dei quali ne hanno criticato la natura non vincolante.
OpenAI ha annunciato una serie di misure per mitigare i rischi in assenza di una regolamentazione formale, inclusa la cancellazione del rilascio previsto del suo modello di ultima generazione, GPT-6.1 Astra.
Il creatore di ChatGPT ha dichiarato di aver deciso di non procedere con il rilascio dopo che il suo modello non è riuscito a soddisfare gli standard aziendali per agire in conformità con i desideri umani.
