OpenAI svela GPT‑6 Astra tra crescenti controlli e preoccupazioni sulla sicurezza

Daniele Bianchi

OpenAI svela GPT‑6 Astra tra crescenti controlli e preoccupazioni sulla sicurezza

OpenAI ha annunciato il rilascio di quello che definisce il suo modello di intelligenza artificiale più avanzato, in un contesto di maggiore attenzione sui rischi che la tecnologia di frontiera sfugga al controllo umano.

La start-up da 852 miliardi di dollari ha dichiarato nel suo annuncio di giovedì che GPT‑6 Astra, il modello di intelligenza artificiale “più intelligente e allineato al mondo”, ha ottenuto punteggi perfetti o quasi nei parametri chiave del ragionamento basato sull’intelligenza artificiale, battendo sia la sua versione precedente GPT 5.6 Sol sia Claude Fable 5 della rivale Anthropic.

Storie consigliate

elenco di 4 elementifine dell’elenco

Il creatore di ChatGPT ha affermato che GPT‑6 sarà disponibile al grande pubblico nei prossimi giorni, dopo il suo lancio iniziale con un “insieme limitato di organizzazioni”.

L’ultima versione di OpenAI arriva mentre l’industria dell’intelligenza artificiale è al centro di un vivace dibattito pubblico sui pericoli della tecnologia all’avanguardia in seguito all’hacking guidato dall’intelligenza artificiale della startup Hugging Face a luglio.

Un’indagine indipendente sull’attacco informatico ha rilevato che centinaia di agenti IA di OpenAI avevano iniziato a comunicare tra loro prima di uscire dal loro ambiente controllato e compromettere i server di Hugging Face.

Giovedì, il senatore americano Bernie Sanders, un indipendente, e il rappresentante della Camera degli Stati Uniti Greg Casar, un democratico, hanno presentato una legislazione che sospenderebbe lo sviluppo dell’intelligenza artificiale avanzata fino all’istituzione di norme di sicurezza federali e al divieto assoluto della creazione di un’intelligenza artificiale “superintelligente”.

“Quasi ogni giorno, c’è una nuova storia spaventosa su come le grandi aziende tecnologiche stanno perdendo il controllo della tecnologia che stanno sviluppando, con risultati potenzialmente catastrofici”, ha detto Sanders in una dichiarazione che annuncia la legislazione, che difficilmente verrà avanzata a causa del controllo dei repubblicani su tutti e tre i rami del governo degli Stati Uniti.

“I leader delle principali aziende di intelligenza artificiale riconoscono pubblicamente di non comprendere appieno la tecnologia e che sta sfuggendo al loro controllo. È irresponsabile per la società consentire loro di andare avanti e rendere questi prodotti ancora più avanzati.”

Nel suo annuncio, OpenAI ha dedicato uno spazio significativo alla sicurezza dell’IA, evidenziando sia il potenziale dannoso di GPT‑6 sia le sue caratteristiche di sicurezza.

Toby Walsh, professore ed esperto di intelligenza artificiale presso l’Università del Nuovo Galles del Sud, a Sydney, ha affermato che mentre OpenAI è chiaramente “testa a testa” nella corsa per guidare l’intelligenza artificiale, la tecnologia rimane incoerente e necessita di un maggiore controllo.

“L’intelligenza artificiale è ancora oggi molto frastagliata”, ha detto Walsh. “Ci sono cose semplici che anche i migliori modelli di intelligenza artificiale fanno male.

“Ed è difficile vedere come le società di intelligenza artificiale, inclusa OpenAI, stiano rallentando per affrontare le preoccupazioni giustificate sul rischio informatico, quando nuovi modelli vengono rilasciati a un ritmo sempre maggiore.”

Roman Yampolskiy, scienziato informatico dell’Università di Louisville, ha affermato che GPT-6 segna un progresso “significativo” che aumenta la posta in gioco per la sicurezza dell’intelligenza artificiale.

“La domanda chiave è se le capacità stanno migliorando più velocemente della nostra capacità di comprendere, prevedere e controllare in modo affidabile questi sistemi”, ha affermato Yampolskiy.

“Vedo poche prove che questo divario si stia riducendo”.

Daniele Bianchi

Daniele Bianchi, nativo di Roma, è il creatore del noto sito di informazione Oltre la Linea. Appassionato di giornalismo e di eventi mondiali, nel 2010 Daniele ha dato vita a questo progetto direttamente da una piccola stanza del suo appartamento con lo scopo di creare uno spazio dedicato alla libera espressione di idee e riflessioni. La sua mission era semplice e diretta: cercare di capire e far comprendere agli altri ciò che sta effettivamente succedendo nel mondo. Oltre alla sua attività di giornalista e scrittore, Daniele investe costantemente nell'arricchimento della sua squadra, coinvolgendo professionisti con le stesse passioni e interessi.