Bangalore, India – Il 23 gennaio, un’icona del cinema e della politica indiana, M Karunanidhi è apparso davanti a un pubblico dal vivo su un grande schermo proiettato, per congratularsi con il suo amico 82enne e collega politico TR Baalu per il lancio del suo libro autobiografico.
Vestito con i suoi caratteristici occhiali da sole neri, camicia bianca e uno scialle giallo intorno alle spalle: lo stile di Karunanidhi era perfetto. Nel suo discorso di otto minuti, il veterano poeta diventato politico si è congratulato con l’autore del libro ma è stato anche espansivo nel lodare l’abile leadership di MK Stalin, suo figlio e attuale leader dello stato.
Karunanidhi è morto dal 2018. Questa è stata la terza volta, negli ultimi sei mesi, che l’iconico leader del partito Dravida Munnetra Kazhagam (DMK) è stato resuscitato utilizzando l’intelligenza artificiale (AI) per tali eventi pubblici.
“Quando la pandemia di COVID ha devastato il mondo, il nostro Primo Ministro è corso in direzione delle voci delle persone in preda al panico”, ha detto Karunanidhi. “La nazione sa il modo in cui avete combattuto per salvare la vita delle persone, e lo so anch’io.”
Senthil Nayagam, fondatore di Muonium, la società di tecnologia multimediale basata sull’intelligenza artificiale che ha realizzato il video deepfake di Karunanidhi, ha detto ad Oltre La Linea che “c’è un mercato che si sta aprendo [for such deepfakes]…. Puoi attribuire alcune affermazioni a una persona particolare e questo le dà più valore”.
La prima apparizione pubblica di AI Karunanidhi è avvenuta ad un evento mediatico locale lo scorso anno a settembre, seguito da un altro per una campagna da parte dei membri del suo partito. Il leader risorto spesso si congratula con i lavoratori del partito e loda in particolare la leadership di suo figlio MK Stalin, con l’obiettivo di aumentare la sua popolarità.
Alla presentazione del libro di gennaio, AI Karunanidhi ha raccontato di tutto, dalla grazia del debito studentesco e alle donazioni in denaro per i poveri, alle politiche a favore delle donne e al rafforzamento degli investimenti: un elenco dei successi di suo figlio nel corso degli anni che hanno spinto lo stato in avanti.
L’ultima intervista pubblica di Karunanidhi risale al 2016, prima che la sua voce diventasse roca e il suo corpo fragile. Nayagam ha utilizzato i dati pubblicamente disponibili di Karunanidhi per addestrare un modello di discorso e ricreare le sembianze del leader degli anni ’90 quando era molto più giovane. La sceneggiatura del discorso preregistrato dell’IA, ha detto, è stata fornita dai quadri locali del DMK ed è stata controllata dal personale del partito.
TR Baalu, il cui team ha sancito la creazione di AI Karunanidhi, non ha risposto alla richiesta di commento di Oltre La Linea.
Karunanidhi è stato uno dei legislatori indiani più longevi che ha guidato lo stato del Tamil Nadu per quasi due decenni, servendo un totale di cinque mandati come primo ministro. Il poeta diventato politico ha scritto sceneggiature sull’emancipazione delle caste inferiori e continua a dominare tra gli elettori più anziani.
Secondo quanto riportato dai media locali, la reazione a questi video di AI ha spinto la leadership del partito DMK a pensare di creare discorsi elettorali di AI Karunanidhi nella prossima campagna elettorale parlamentare del 2024.
Un dilemma etico e giuridico
Proprio mentre i politici valutano i tipi di comunicazione dell’intelligenza artificiale che dovrebbero essere regolamentati, in un utilizzo unico nel suo genere, un partito politico ha utilizzato l’intelligenza artificiale per resuscitare un sostenitore politico del passato per promuovere il leader di oggi.
Ma ha anche sollevato alcune preoccupanti questioni etiche e legali: “L’uso dell’intelligenza artificiale per creare audio e video sintetici da parte di una persona vivente che ha approvato il contenuto è una cosa. Un’altra cosa è resuscitare una persona morta e attribuirle delle opinioni”, ha affermato Amber Sinha, senior fellow di Trustworthy AI presso Mozilla Foundation.
Ma il genio è già uscito dalla lampada. Secondo Diggaj Mogra, direttore di Jarvis Consulting, una delle più grandi società di consulenza politica dell’India, il marketing dei contenuti facilitato dall’intelligenza artificiale per le campagne elettorali, comprese chiamate vocali e SMS in uscita, creazione di avatar, sensibilizzazione personalizzata sui media e creatività multilingue create dall’intelligenza artificiale sui social media è un’opportunità di mercato stimata di 60 milioni di dollari in India quest’anno elettorale.
“Nel Tamil Nadu, tutti i grandi leader di ogni partito non ci sono più”, ha detto Nayagam, riferendosi agli ex attori diventati politici Jayalalitha, MG Ramachandran e Vijayakanth. Nayagam ha affermato di essere stato in contatto con diversi funzionari di basso livello tra le linee del partito interessati a sfruttare l’intelligenza artificiale per deepfake simili.
L’interesse per tali applicazioni è cresciuto a dismisura, ha detto, dopo aver condiviso l’anno scorso su X a settembre un clip audio di quattro minuti del programma Mann Ki Baat del primo ministro Narendra Modi che la sua azienda aveva clonato in otto lingue. Queste richieste di interesse hanno dato a Nayagam e ad altri consulenti l’idea di un’opportunità di business nella propaganda elettorale dell’IA.
A livello globale, oltre 60 paesi terranno elezioni nazionali nel 2024, e il possibile uso improprio dell’intelligenza artificiale per influenzare l’opinione pubblica ha causato un panico morale, trasformandosi in una questione scottante a livello globale.
In vista della campagna presidenziale indonesiana, Prabowo Subianto, un ex generale militare accusato di aver commesso atrocità contro attivisti pro-democrazia, sta utilizzando l’intelligenza artificiale generativa per reimmaginarsi come un avatar AI dalle guance paffute, per attirare i giovani elettori.
Nell’Asia meridionale, l’uso dell’intelligenza artificiale per le campagne elettorali e i casi di abuso ha acquisito maggiore importanza. In Bangladesh, account filogovernativi hanno utilizzato deepfake per prendere di mira i partiti di opposizione. In Pakistan, l’ex primo ministro Imran Khan ha condotto una campagna dall’interno della sua cella di prigione trasmettendo note scritte ai suoi avvocati, che vengono trasformate in discorsi audio basati sull’intelligenza artificiale utilizzando il software della start-up statunitense ElevenLabs.
“Questo particolare utilizzo dell’intelligenza artificiale nelle campagne sembra stia prendendo piede in grande stile nell’Asia meridionale”, ha affermato Sinha della Mozilla Foundation.
Il 21 gennaio, il partito DMK ha organizzato la sua seconda conferenza annuale dell’ala giovanile nella città tempio di Salem. Il mega evento ospitato in un’arena all’aperto ha attirato una folla di 500.000 sostenitori e ha segnato il lancio ufficiale della campagna elettorale 2024 del DMK. I leader del partito hanno tenuto discorsi entusiasmanti sfidando il partito nazionalista indù Bharatiya Janata Party (BJP) e criticando le sue politiche, inclusa la diluizione dei poteri degli stati da parte del centro governato dal BJP.
In questa campagna, AI Karunanidhi ha fatto una ricomparsa video a sorpresa. “Molti diritti degli stati duramente combattuti sono andati perduti nei dieci anni di governo del BJP”, ha detto Karunanidhi, elaborando la continua ostilità del BJP nei confronti del Tamil Nadu.
Il discorso video di tre minuti, accompagnato da musica stimolante, si conclude con AI Karunanidhi che chiede il rafforzamento dei diritti dello Stato e esorta i giovani quadri a lottare per un futuro democratico.
“Questo è stato creato dall’ala dei media digitali del partito per incoraggiare ed entusiasmare i quadri”, ha detto ad Oltre La Linea il portavoce del DMK Dharanidharan Selvam. “Penso che i quadri fossero decisamente entusiasti ed emozionati”.
I leader deceduti sono in voga per le campagne politiche “perché continuano ad essere più popolari di quelli vivi”, ha affermato Sumanth Raman, un commentatore politico di Chennai. “Al momento nel Tamil Nadu non ci sono leader di massa del calibro di Jayalalitha” – un’altra stellina politica – “o di Karunanidhi”.
Negli ultimi 30 anni, più di una mezza dozzina di partiti politici sono stati fondati da attori dello Stato. Molti leader provenivano dal mondo del cinema, dove interpretavano personaggi straordinari, ha detto Raman, e venivano sempre messi su un piedistallo dalla gente.
“Ma questo è in un certo senso personalizzato quando passiamo alla generazione successiva, che è dove ci troviamo ora. I leader devono affrontare un controllo molto più approfondito su base giornaliera, e quindi non si ha questa enorme aura al riguardo”, ha affermato.
“Sfruttare la popolarità di una persona morta”
L’impatto sul pubblico della resurrezione di leader iconici è ancora in fase di sviluppo. “Penso che sia stato uno sforzo abbastanza normale: è andato ai loro uomini del partito, quindi se lo sono goduto”, ha detto Raman, riguardo al discorso video dell’IA. “L’intelligenza artificiale di oggi è capace di immagini ancora migliori.”
Per quanto riguarda il video di lancio del libro, è chiaro che il video è sintetico, poiché la sincronizzazione labiale non corrisponde del tutto. Tuttavia, l’audio della voce di Karunanidhi rispecchia la realtà.
Nayagam, il creatore di AI Karunanidhi, ha affermato che uno dei motivi delle immagini imperfette era l’indisponibilità di set di dati video di alta qualità, costringendoli a reperire qualsiasi cosa fosse disponibile su Internet.
Il video trasmesso alla conferenza dei giovani era migliore, ma era incoerente vicino alla bocca. Tuttavia, la risposta del pubblico online ai video è stata favorevole, con alcuni commenti “super” su YouTube. Entrambi i video erano chiaramente etichettati come generati dall’intelligenza artificiale.
L’India è stata testimone del primo utilizzo in assoluto di deepfake nelle campagne elettorali nel 2020, quando il politico del BJP Manoj Tiwari ha autorizzato la creazione e la distribuzione di video deepfake di se stesso durante la campagna elettorale in Haryanvi e in inglese, lingue che non parla. Gli esperti hanno criticato il video, ma sulla base del fatto che è stato condiviso senza rivelare che è manipolato dall’intelligenza artificiale.
Si potrebbe sostenere che la creazione di video AI di politici sia un’estensione dell’uso di fotografie o immagini di persone morte da parte dei loro partiti politici, ha detto Sinha, come l’uso di immagini di Nehru, Indira Gandhi o Rajiv Gandhi dopo la loro morte da parte degli indiani. Congresso Nazionale.
“Tuttavia, la creazione di audio o video sintetici va oltre”, ha affermato Sinha. “In entrambi i casi, il partito sta cercando di sfruttare la popolarità di una persona morta, ma nel secondo, le opinioni e i messaggi gli vengono attivamente attribuiti”.
Un ulteriore enigma nel resuscitare un politico deceduto è: chi possiede i diritti sulla voce e sulle sembianze della persona morta?
“Questo, ovviamente, non ha fondamento legale in India, perché in India non abbiamo alcun diritto consacrato delle persone decedute, ma da un punto di vista etico, il consenso deve essere considerato”, ha detto Devika Malik, una Consulente di politiche tecnologiche con sede a Delhi focalizzato sulla fiducia e la sicurezza online. La legge indiana offre protezione legale contro la diffamazione di una persona morta.
Anche i politici indiani stanno cercando attivamente soluzioni di intelligenza artificiale per le prossime campagne. Mogra di Jarvis Consulting ha affermato che i singoli candidati stanno cercando di utilizzare cloni vocali AI per inviare chiamate automatiche in uscita o IVRS (Interactive Voice Response System) con voce registrata e nomi personalizzati nei loro messaggi. “Ci sono diversi venditori che corrono in giro per il paese per farlo, vendendolo a prezzi molto nominali”, ha detto Mogra.
Esisteva già una fiorente economia dei media sintetici sull’uso autorizzato dei deepfake da parte di attori e amministratori delegati, e quel mercato si è espanso nel regno politico. Società di consulenza come Polymath Solutions, gestita da Devendra Singh Jadoun, stanno utilizzando la clonazione vocale per fornire “messaggi personalizzati” da parte dei politici ai lavoratori del partito sul campo.
“Sarà utilizzato in modo massiccio in queste elezioni”, ha detto Mogra. Tuttavia “si tratta di un’arma a doppio taglio. Creerà molta disinformazione e disinformazione. Penso che i benefici siano minori e i problemi di cattiva informazione e tutto sarà più alto”.
Dal punto di vista dell’impatto sociale, non è chiaro fino a che punto questi video basati sull’intelligenza artificiale, anche quelli mal realizzati, possano influenzare gli atteggiamenti degli elettori.
Anche quando tali video non sono di alta qualità, “nel caso di un famoso oratore del passato come M Karunanidhi, ciò può attirare più attenzione sul messaggio e aiutarlo a diventare virale”, ha detto Sinha.
La sua ultima ricerca evidenzia come “attori diffusi” o consulenti politici, che nonostante non siano affiliati a partiti, collaborano alle campagne per diffondere il loro messaggio.
Sfruttare gli appelli sentimentali di specifici sostenitori o famiglie – soprattutto quando sono personalizzati e inviati su WhatsApp – può essere una strategia di comunicazione efficace e potrebbe influenzare l’opinione degli elettori, ha aggiunto Malik.
Ma le prospettive dei sostenitori delle politiche e dei professionisti divergono nettamente sull’efficacia dei media sintetici.
Mogra di Jarvis prevede che il fattore novità dei messaggi personalizzati basati sull’intelligenza artificiale da parte dei politici – siano essi audio o video – si esaurirà presto. “Se le persone inizieranno a vederlo spesso, si renderanno conto che sta accadendo ovunque, e lo vedono ovunque, proprio come è successo con WhatsApp”, ha detto.
In precedenza, i partiti politici davano particolare importanza alla creazione di gruppi WhatsApp per la sensibilizzazione. Adesso tutti sanno che ogni persona fa parte di centinaia di gruppi e nessuno presta molta attenzione o legge tutte le chat.
“Penso che affronteremo problemi simili a una velocità molto più rapida con queste soluzioni e casi d’uso di intelligenza artificiale generativa”, ha affermato Mogra.
