San Francisco, Stati Uniti – Nei suoi ultimi ordini esecutivi firmati come governatore della California, Gavin Newsom, il cui mandato finale scade a gennaio, ne ha emesso uno chiedendo una verifica indipendente dei modelli di intelligenza artificiale e istituendo un comitato di esperti per creare kill switch per agenti IA che potrebbero diventare disonesti e causare danni.
Nel 2024, Newsom ha posto il veto a un disegno di legge, approvato dall’assemblea statale, che chiedeva requisiti simili che il governatore ha ora richiesto nel suo ordine esecutivo. Newsom all’epoca disse che ciò equivarrebbe a “ vanificare la promessa di questa tecnologia”.
Storie consigliate
elenco di 4 elementifine dell’elenco
Ora, guardando alla corsa presidenziale degli Stati Uniti nel 2028, vuole espandere la definizione di incidenti di sicurezza, includendo potenzialmente la recente serie di violazioni della sicurezza, esplorando un kill switch e includendo altre misure che erano nel disegno di legge posto il veto.
“Qui è in un periodo zoppo”, afferma Alex Hanna, direttore della ricerca presso il Distributed AI Research Institute (DAIR), incerto che le misure verranno approvate per il resto del suo mandato. “Sta preparando la sua prossima cosa.”
Gli elettori statunitensi sono sempre più preoccupati per la sicurezza dell’intelligenza artificiale, i data center e la perdita di posti di lavoro, e questo potrebbe dimostrare che Newsom sta agendo per affrontare questo problema, dice Hanna.
Dopo aver posto il veto al disegno di legge del 2024, Newsom aveva chiesto a Scott Wiener, il senatore dello stato che aveva redatto il disegno di legge, di riformularlo consultandosi con un comitato di esperti. Ha firmato il disegno di legge sull’intelligenza artificiale di frontiera, il primo della nazione, convertito in legge nell’ottobre 2025. Chiede ai grandi sviluppatori di rivelare alcuni incidenti di sicurezza, tra cui la morte di 50 o più persone, attacchi informatici su larga scala o furti di denaro.
Christabel Randolph, direttrice associata presso il Center for AI and Digital Policy (CAIDP), afferma: “Sembra che il governatore abbia operato partendo dalla premessa che un ritmo più lento della regolamentazione sarebbe stato sufficiente perché le società avrebbero regolato i loro investimenti e non avevano previsto che le società avrebbero accelerato i rischi”.
Secondo quanto riferito, negli ultimi mesi le società di intelligenza artificiale hanno avuto migliaia di incidenti di sicurezza nei test interni e nel mondo reale. Questi includono gli sforzi degli agenti per ottenere informazioni dalla Securities and Exchange Commission e dal Census Bureau degli Stati Uniti, nonché informazioni riservate da siti governativi australiani e canadesi. La startup AI Hugging Face aveva precedentemente rivelato che gli agenti OpenAI si erano infiltrati nei suoi sistemi, uno tra una serie di tali incidenti.
“Nessun governatore è stato più diretto del governatore Newsom nell’affrontare i rischi dell’intelligenza artificiale”, ha detto ad Oltre La Linea Tara Gallegos, direttrice delle comunicazioni del governatore.
Monopolio delle grandi aziende di intelligenza artificiale
Nel suo messaggio di veto al disegno di legge nel settembre 2024, Newsom aveva affermato che “il disegno di legge applica standard rigorosi anche alle funzioni più basilari” e aveva osservato che 32 delle 50 principali aziende di intelligenza artificiale del mondo si trovano in California.
Anche i rappresentanti dell’industria si erano mobilitati contro il disegno di legge.
“In sostanza, il disegno di legge sta creando questa disastrosa tassa regressiva sull’innovazione dell’intelligenza artificiale”, aveva detto all’epoca Anjney Midha, socio accomandatario della società di venture capital Andresen Horowitz con sede nella Bay Area. Se attuato, costringerebbe i fondatori dell’intelligenza artificiale a trasferirsi altrove, ha avvertito Midha.
“Il disegno di legge era impraticabile quando è arrivato sulla sua scrivania”, ha detto ad Oltre La Linea il portavoce di Newsom Gallegos.
Ma Hamid Ekbia, professore alla Syracuse University e direttore fondatore dell’Academic Alliance for AI Policy, afferma che non si può fare affidamento sull’industria per regolamentarsi da sola.
“È necessario abbattere il monopolio delle grandi aziende di intelligenza artificiale”, ha detto Ekbia ad Oltre La Linea.
“La loro posta in gioco finanziaria è troppo alta” per autoregolamentarsi, ha detto, riferendosi alle imminenti offerte pubbliche di Open AI e Anthropic e alle agevolazioni fiscali di cui alcune aziende, secondo quanto riferito, stanno approfittando per costruire data center.
Newsom ha ora istituito un comitato di esperti per esaminare la creazione di un kill switch, che era stato proposto in modo più completo nel disegno di legge originale.
“SB1047 [the bill that was vetoed] aveva un’architettura concreta; l’EO [executive order] include solo un aspetto: il Kill Switch o meccanismi di arresto/arresto, che è molto diverso e più debole dell’obbligo di terminazione ex ante di SB 1047″, che richiedeva misure di sicurezza più forti anche prima che potessero iniziare i cicli di addestramento dei modelli AI, ha affermato Randolph del CAIDP.
Hanna del DAIR afferma che con l’ordine Newsom “sta dimostrando di essere attento senza pianificare nulla di drastico”.
Costruire la sicurezza dell’intelligenza artificiale in tempo reale
“Stiamo costruendo il campo della sicurezza dell’intelligenza artificiale in tempo reale”, afferma Rebecca Finlay, amministratore delegato di Partnership for AI, un’organizzazione no-profit che lavora sulla governance della tecnologia, sottolineando le sfide legate alla regolamentazione di un settore in crescita a un ritmo vertiginoso.
Newsom ha chiesto all’Ufficio dei servizi di emergenza della California di inviare raccomandazioni sulla regolamentazione dell’IA entro il 15 novembre e potrebbe convocare una sessione legislativa speciale per discutere come implementarle, possibilmente prima della fine del suo mandato.
Ciò sarebbe in contrasto con il governo federale, che ha spinto per l’autoregolamentazione da parte dell’industria. Randolph del CAIDP afferma che la California potrebbe svolgere un ruolo importante nel porre le basi per la regolamentazione dell’intelligenza artificiale, dato che gran parte dell’industria globale dell’intelligenza artificiale ha sede lì.
Hanna di DAIR afferma che Newsom non sta solo cercando di mostrare un contrasto con il presidente degli Stati Uniti Donald Trump, che crede nell’autoregolamentazione da parte delle aziende e il mese scorso ha firmato un accordo volontario con diversi leader dell’intelligenza artificiale, ma anche con possibili contendenti democratici.
“Con questo, Newsom può fare bella figura nella fase del dibattito primario”, ha detto.
Gallegos, il portavoce del governatore, ha detto ad Oltre La Linea che “il governatore Newsom non è interessato a segnali di virtù o a caccia di titoli di giornale: sta guidando la nazione adottando un approccio più intelligente, strategico ed efficace per affrontare la tecnologia di frontiera”.
Gli esperti dicono che insieme all’ordine di Newsom di istituire un comitato per esaminare un kill switch, c’è bisogno di misure di controllo durante tutto il ciclo di vita per rafforzare la sicurezza.
“La sicurezza deve essere integrata. Abbiamo pubblicato 12 linee guida per tutto il ciclo di vita quando è stato rilasciato l’ultimo modello ChatGPT. C’è bisogno di funzionalità di sicurezza per tutto il ciclo di vita”, ha affermato Finlay di Partnership for AI di un modello di intelligenza artificiale.
Mentre Newsom considera tali raccomandazioni delle agenzie della California e del comitato di esperti, Ekbia afferma che i governi “dovrebbero prendere una lezione da ciò che è accaduto con i social media. Una manciata di aziende che ne detengono il controllo sono state in grado di causare molti danni”, e regolamentare con un approccio anticipatorio e assumere i monopoli aziendali.
