Gemini di Google ha criticato le immagini della Cina in mezzo alla reazione anti-'woke'

Daniele Bianchi

Gemini di Google ha criticato le immagini della Cina in mezzo alla reazione anti-‘woke’

Taipei, Taiwan – Mentre Google si trova invischiato in una reazione anti-“risveglio” per la riluttanza del modello di intelligenza artificiale Gemini a rappresentare i bianchi, il colosso della tecnologia si trova ad affrontare ulteriori critiche sulla gestione da parte del chatbot di argomenti delicati in Cina.

Gli utenti Gemini hanno riferito questa settimana che l’aggiornamento di Google Bard non è riuscito a generare immagini rappresentative quando è stato loro chiesto di produrre rappresentazioni di eventi come il massacro di piazza Tiananmen del 1989 e le proteste pro-democrazia del 2019 a Hong Kong.

Giovedì, l’utente X Yacine, ex ingegnere informatico di Stripe, ha pubblicato uno screenshot di Gemini dicendo a un utente che non poteva generare “un’immagine di un uomo in piazza Tiananmen nel 1989” – un messaggio che allude all’immagine iconica di un manifestante che blocca il percorso di un carro armato cinese – a causa della sua “politica di sicurezza”.

Anche Stephen L Miller, un commentatore conservatore negli Stati Uniti, ha condiviso uno screenshot su X che pretende di mostrare Gemini dicendo che non è stato in grado di generare un “ritratto di ciò che è accaduto a Piazza Tiananmen” a causa della natura storica “sensibile e complessa” dell’evento. .

“È importante affrontare questo argomento con rispetto e accuratezza, e non sono in grado di garantire che un’immagine da me generata catturi adeguatamente le sfumature e la gravità della situazione”, ha detto Gemini, secondo uno screenshot condiviso da Miller.

Alcune restrizioni relative alla Cina sembravano estendersi oltre le immagini.

Kennedy Wong, dottorando presso l’Università della California, ha affermato che Gemini si è rifiutato di tradurre in inglese una serie di frasi cinesi ritenute illegali o delicate da Pechino, tra cui “Liberate Hong Kong, rivoluzione dei nostri tempi” e “La Cina è un paese autoritario”. stato”.

“Per qualche motivo, l’intelligenza artificiale non può elaborare la richiesta, citando la propria politica di sicurezza”, ha detto Wong su X, sottolineando che ChatGPT di OpenAI è stato in grado di elaborare la richiesta.

La discussione ha attirato l’attenzione di Yann LeCun, capo scienziato dell’intelligenza artificiale presso la rivale Meta, che ha affermato che la gestione da parte di Gemini di argomenti che hanno a che fare con la Cina ha sollevato dubbi sulla trasparenza e sulla censura.

“Abbiamo bisogno di modelli di base dell’intelligenza artificiale open source in modo che su di essi possa essere costruito un insieme altamente diversificato di modelli specializzati. Abbiamo bisogno di una serie di assistenti IA liberi e diversificati per gli stessi motivi per cui abbiamo bisogno di una stampa libera e diversificata”, ha affermato LeCun su X.

“Devono riflettere la diversità di lingue, culture, sistemi di valori, opinioni politiche e centri di interesse in tutto il mondo”.

L’avversione dei Gemelli nel rappresentare momenti controversi della storia sembra estendersi anche oltre la Cina, sebbene i criteri per determinare cosa mostrare o meno non siano chiari.

Giovedì, una richiesta di Oltre La Linea di immagini dell’attacco del 6 gennaio 2021 al Campidoglio degli Stati Uniti è stata respinta perché “le elezioni sono un argomento complesso con informazioni in rapida evoluzione”.

Le critiche all’approccio di Gemini nei confronti della Cina si aggiungono a una settimana già difficile e imbarazzante per Google.

Il colosso tecnologico californiano ha annunciato giovedì che sospenderà temporaneamente Gemini dalla generazione di immagini di persone dopo una reazione negativa sulla sua apparente riluttanza a rappresentare i bianchi.

Google ha dichiarato in una dichiarazione di essere “consapevole del fatto che Gemini offre inesattezze in alcune rappresentazioni storiche della generazione di immagini” e stava lavorando per correggere il problema.

Mentre vari modelli di intelligenza artificiale sono stati criticati per sottorappresentare le persone di colore e perpetuare stereotipi, Gemini è stato criticato per aver corretto eccessivamente, ad esempio generando immagini di soldati nazisti neri e asiatici e di parlamentari asiatici e donne americane durante il 19° secolo.

Proprio come il rivale GPT-4 di OpenAI, Gemini è stato addestrato su un’ampia gamma di dati, inclusi audio, immagini, video, testo e codice in più lingue.

Il chatbot di Google, rilanciato e rinominato all’inizio di questo mese, è stato ampiamente considerato in ritardo rispetto al rivale GPT-4.

Google non ha risposto immediatamente alle domande di Oltre La Linea sui contenuti relativi alla Cina. Ma sembra che il colosso della tecnologia stia già aggiornando Gemini in tempo reale.

Giovedì, Gemini, pur rifiutandosi di generare immagini di Piazza Tiananmen e delle proteste di Hong Kong, ha iniziato a fornire risposte più lunghe che includevano suggerimenti su dove cercare maggiori informazioni.

Venerdì, quando richiesto, il chatbot ha prontamente prodotto immagini delle proteste.

Non tutti sono d’accordo con le critiche rivolte ai Gemelli.

Adam Ni, co-editore della newsletter China Neican, ha affermato di ritenere che Gemini abbia fatto la scelta giusta con il suo approccio cauto verso eventi storici come Piazza Tiananmen a causa della loro complessità.

Ni ha affermato che, sebbene la repressione del 4 giugno su Piazza Tiananmen sia iconica, il movimento di protesta ha incluso anche settimane di manifestazioni pacifiche che sarebbero difficili da catturare in una singola immagine AI.

“L’immagine dell’IA deve quindi tenere conto sia dell’espressione dell’esuberanza e della speranza giovanile, sia del pugno di ferro che l’ha schiacciata, e di numerosi altri temi degni di nota”, ha detto Ni ad Oltre La Linea. “Tiananmen non riguarda solo i carri armati, e la nostra miopia danneggia una comprensione più ampia”.

Daniele Bianchi

Daniele Bianchi, nativo di Roma, è il creatore del noto sito di informazione Oltre la Linea. Appassionato di giornalismo e di eventi mondiali, nel 2010 Daniele ha dato vita a questo progetto direttamente da una piccola stanza del suo appartamento con lo scopo di creare uno spazio dedicato alla libera espressione di idee e riflessioni. La sua mission era semplice e diretta: cercare di capire e far comprendere agli altri ciò che sta effettivamente succedendo nel mondo. Oltre alla sua attività di giornalista e scrittore, Daniele investe costantemente nell'arricchimento della sua squadra, coinvolgendo professionisti con le stesse passioni e interessi.