L’Australia ha reso note le norme che impongono ai motori di ricerca su Internet di reprimere il materiale pedopornografico creato dall’intelligenza artificiale.
Il codice di sicurezza online annunciato venerdì richiederà a servizi come Google, Bing, DuckDuckGo e Yahoo di adottare “misure appropriate” per prevenire la diffusione di materiale di sfruttamento minorile, comprese immagini “sintetiche” create dall’intelligenza artificiale.
L’annuncio arriva dopo che il commissario per l’eSafety ha ritardato l’implementazione di una versione precedente del codice a giugno dopo che Microsoft e Google avevano introdotto la funzionalità AI per i loro servizi di motore di ricerca Internet.
“L’uso dell’intelligenza artificiale generativa è cresciuto così rapidamente che penso che abbia colto il mondo intero alla sprovvista in una certa misura”, ha dichiarato in una nota il commissario per la eSafety Julie Inman Grant.
Grant ha affermato che il codice è un “ottimo esempio” di come i regolatori e le aziende tecnologiche potrebbero lavorare insieme per rendere Internet più sicuro.
“Quando i più grandi attori del settore hanno annunciato che avrebbero integrato l’intelligenza artificiale generativa nelle loro funzioni di ricerca, avevamo una bozza di codice che chiaramente non era più adatta allo scopo e non poteva fornire le protezioni della comunità che richiedevamo e ci aspettavamo”, ha affermato.
“Abbiamo chiesto all’industria di riprovare la stesura del codice per soddisfare tali aspettative e voglio lodarli per aver fornito un codice che proteggerà la sicurezza di tutti gli australiani che utilizzano i loro prodotti”.
All’inizio di quest’anno, la BBC ha riferito che i pedofili hanno utilizzato il software di intelligenza artificiale Stable Diffusion per creare e vendere materiale realistico sugli abusi sessuali su minori su siti di condivisione di contenuti come Patreon.
Il commissario australiano per l’eSafety sta attualmente lavorando alla stesura di due nuovi codici per regolare rispettivamente i servizi di archiviazione online come iCloud e OneDrive e i servizi di messaggistica privata.
Gli sforzi dei governi per aumentare la supervisione dei servizi cloud e di messaggistica per combattere lo sfruttamento minorile hanno suscitato reazioni negative da parte dell’industria tecnologica e dei difensori della privacy.
WhatsApp e Signal hanno minacciato di ritirarsi dal Regno Unito se dovesse approvare la legge sulla sicurezza online, che richiederebbe alle piattaforme di scansionare materiale pedopornografico.
Le aziende tecnologiche e i libertari civili affermano che la legge obbligherebbe le piattaforme ad eliminare la crittografia end-to-end, mettendo a rischio la privacy di tutti gli utenti.
A giugno, il commissario australiano per l’eSafety ha annunciato codici per regolamentare i social media, i servizi di trasporto Internet, i servizi di distribuzione di app, i servizi di hosting e i fornitori di apparecchiature.
Le violazioni dei codici sono soggette a sanzioni civili.
