OpenAI ha presentato uno strumento per clonare le voci delle persone, ma sta trattenendo il suo rilascio pubblico a causa delle preoccupazioni su un possibile uso improprio in un anno elettorale chiave.
Voice Engine può replicare la voce di una persona sulla base di un campione audio di 15 secondi, secondo un post sul blog OpenAI che dimostra lo strumento.
Ma il creatore di ChatGPT sta “adottando un approccio cauto e informato” nei confronti della tecnologia e spera di avviare un dialogo sull’“impiego responsabile delle voci sintetiche”, ha affermato la società nel post sul blog pubblicato venerdì.
“Riconosciamo che generare discorsi che assomiglino alla voce della gente comporta seri rischi, che sono particolarmente importanti in un anno elettorale”, ha affermato la start-up con sede a San Francisco.
“Stiamo collaborando con partner statunitensi e internazionali provenienti da tutti i settori del governo, dei media, dell’intrattenimento, dell’istruzione, della società civile e altro ancora per garantire che stiamo incorporando il loro feedback mentre costruiamo”.
Stiamo condividendo ciò che abbiamo imparato da un'anteprima su piccola scala di Voice Engine, un modello che utilizza l'input di testo e un singolo campione audio di 15 secondi per generare un parlato dal suono naturale che ricorda da vicino l'oratore originale. https://t.co/yLsfGaVtrZ
—OpenAI (@OpenAI) 29 marzo 2024
OpenAI ha affermato che prenderà “una decisione più informata” sull’implementazione della tecnologia su larga scala sulla base di test e dibattito pubblico.
La società ha aggiunto che ritiene che la tecnologia dovrebbe essere implementata solo con misure che garantiscano che “l’oratore originale aggiunga consapevolmente la propria voce al servizio” e impediscano la “creazione di voci troppo simili a figure di spicco”.
L’uso improprio dell’intelligenza artificiale è emerso come una delle principali preoccupazioni in vista delle elezioni di quest’anno in paesi che rappresentano circa la metà della popolazione mondiale.
Gli elettori di più di 80 paesi, tra cui Messico, Sud Africa e Stati Uniti, si recheranno alle urne nel 2024, che è stato definito il più grande anno elettorale della storia.
L’influenza dell’intelligenza artificiale sugli elettori è già stata messa sotto esame in diverse elezioni.
L'ex primo ministro pakistano Imran Khan, incarcerato, ha utilizzato discorsi generati dall'intelligenza artificiale per fare appello ai sostenitori nel periodo precedente alle elezioni parlamentari del paese a febbraio.
A gennaio, un agente politico del candidato presidenziale americano Dean Phillips ha lanciato un robocall impersonando il presidente degli Stati Uniti Joe Biden che esortava gli elettori a non votare alle primarie del Partito Democratico del New Hampshire.
OpenAI ha affermato di aver implementato diverse misure di sicurezza per i suoi partner che testano Voice Engine, “inclusa la filigrana per tracciare l'origine di qualsiasi audio generato da Voice Engine, nonché il monitoraggio proattivo di come viene utilizzato”.
