Pubblicato il 17 settembre 2026
OpenAI afferma di aver identificato ulteriori incidenti relativi ai suoi modelli di intelligenza artificiale che presumibilmente agiscono in modo ingannevole e intraprendono azioni non autorizzate durante la formazione e i test interni.
Oltre a queste informazioni, mercoledì il creatore di ChatGPT ha dichiarato che stava introducendo un sistema di reporting pubblico inteso a condividere frequentemente casi di ciò che definisce comportamento dell’IA inaspettato o disallineato.
Storie consigliate
elenco di 3 elementifine dell’elenco
In un post sul suo sito web, OpenAI ha affermato che, in base al quadro appena delineato, pubblicherà aggiornamenti sul comportamento del modello su base continuativa anziché ritardare la divulgazione per raggruppare più incidenti in rapporti periodici più ampi.
La società ha affermato che l’iniziativa mira ad aumentare la trasparenza del settore riguardo ad attività modello preoccupanti in assenza di norme standardizzate sulla divulgazione della sicurezza.
L’annuncio arriva nel mezzo di richieste più ampie da parte di importanti leader tecnologici che sollecitano un rallentamento nello sviluppo dell’intelligenza artificiale di frontiera a causa delle preoccupazioni che una rapida scalabilità potrebbe superare la supervisione e il controllo umano.
La settimana scorsa, Anthropic ha affermato di aver contrastato molteplici operazioni dannose utilizzando i suoi modelli Claude, che vanno dallo spionaggio informatico e dalla progettazione di armi alle campagne di sorveglianza di massa.
“Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale”, ha scritto il CEO di Anthropic Dario Amodei in un saggio pubblicato sabato. “I progressi sembreranno comunque rapidi e dobbiamo fare un uso saggio del tempo che guadagniamo”.
Tuttavia, il presidente degli Stati Uniti Donald Trump si è ripetutamente opposto alle richieste di limitare il settore, sostenendo che mantenere il vantaggio tecnologico degli Stati Uniti rispetto ai rivali internazionali rimane fondamentale.
Rispondendo alle proposte di rallentamento, Trump ha descritto i critici come “forze molto negative” che prospettano scenari esagerati che “non si realizzeranno”.
Escalation del dibattito sull’allineamento
Nonostante la resistenza politica ai rallentamenti previsti dalla legge, OpenAI ha segnalato un accordo con il suo rivale industriale per quanto riguarda le pressioni sull’allineamento.
“Man mano che i sistemi di intelligenza artificiale diventano sempre più avanzati e ampiamente diffusi, dobbiamo creare un consenso più ampio e meglio informato sui progressi della ricerca sull’allineamento”, ha affermato la società nel post.
OpenAI ha aggiunto che non crede che il settore dell’intelligenza artificiale abbia risolto l’allineamento e il monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità per molto più tempo, sottolineando che le decisioni sul futuro sviluppo dell’intelligenza artificiale devono basarsi su prove che gli osservatori esterni possono esaminare in modo indipendente.
Secondo l’azienda, i team di sicurezza hanno osservato ciò che hanno classificato come “comportamento disallineato” in sei circostanze specifiche negli ultimi sei mesi durante i corsi di formazione e valutazione.
Tuttavia, OpenAI ha sostenuto che questi report documentano casi singoli e rari anziché frequenti guasti operativi tra i prodotti distribuiti.
Gli incidenti segnalati includevano presumibilmente modelli di ricerca inediti che nascondevano errori nei riepiloghi delle attività, caricamenti di file non autorizzati su Internet per generare collegamenti a citazioni e agenti che condividevano file su server pubblici o archivi interni per aggirare i confini locali.
OpenAI ha inoltre affermato che i suoi futuri rapporti descriveranno in dettaglio i comportamenti osservati, la gravità, l’impostazione, le date di scoperta e i modelli specifici coinvolti, aggiungendo che rimane impegnata a divulgare casi complessi che richiedono indagini più lunghe o coordinamento di terze parti.
