Bangalore, India – All’inizio di marzo, un’immagine realistica generata dall’intelligenza artificiale del primo ministro indiano Narendra Modi, designato come Bhishma Pitamah dell’antico poema epico indù Mahabharata, è stata pubblicizzata come pubblicità politica su Instagram.
Con lunghi capelli grigi ondulati, un segno a forma di sole sulla fronte e con indosso un'armatura, l'immagine raffigurava quello che i fan di Modi vedono come il suo ruolo nel mondo di oggi: una reincarnazione del comandante supremo Bhishma che ha combattuto contro le minacce straniere.
Questa immagine Instagram, creata dalla pagina di destra Hokage Modi Sama e pubblicata per la prima volta nel 2023, è stata pubblicizzata come pubblicità politica per due giorni a marzo, raccogliendo più di 35.000 impressioni.
Un'analisi di Oltre La Linea dei dati della Meta Ad Library relativi alla pubblicità politica in India negli ultimi tre mesi ha rivelato che, tra il 27 febbraio e il 21 marzo, l'Hokage Modi Sama ha promosso quasi 50 immagini di Modi generate dall'intelligenza artificiale, rendendolo il principale inserzionista di Immagini Modi generate dall'intelligenza artificiale su Instagram.
La Meta Ad Library è un archivio pubblico che ospita una raccolta di pubblicità politiche pubblicate sulle sue piattaforme, tra cui Instagram e Facebook.
Il tema comune a tutte le immagini condivise dal handle era la valorizzazione di Modi come leader indù. Le popolari immagini di intelligenza artificiale potenziate attraverso post sponsorizzati su Hokage Modi Sama mostrano Modi come una reincarnazione di Bhishma, un figlio di dio che indossa un abito, che abbraccia l'eredità indù e il re dell'Hindu Rashtra seduto sul suo trono, raccogliendo milioni di Mi piace e visualizzazioni. (Hindu Rashtra è l’ideologia controversa di un governo maggioritario indù dell’India, un allontanamento dal suo principio fondatore secolare.)
“Attraverso queste immagini, il tentativo sembra essere quello di conferire a Modi una qualità simultanea di saggio e di guerriero, entrambe le quali creano l'aura di un leader politico che è instancabile, imbattibile, irreprensibile e quindi degno della nostra indiscussa lealtà. ”, ha detto ad Oltre La Linea Amogh Dar Sharma, docente all’Università di Oxford che studia comunicazione politica.
Ma i post del più prolifico inserzionista online delle immagini dell’intelligenza artificiale di Modi mostrano anche le sfide legate all’applicazione delle regole relative all’intelligenza artificiale sui social media, nel timore che le immagini manipolate vengano sfruttate per la propaganda tra gli elettori che potrebbero non comprendere appieno la portata dell’alterazione che foto e immagini i meme avrebbero potuto passare.
Meta è a conoscenza di tale utilizzo e prima del cruciale anno elettorale del 2024, ha annunciato che a partire da gennaio, le pubblicità politiche su Instagram e Facebook create utilizzando l’intelligenza artificiale (AI) dovranno rivelarne l’uso o rischiano di essere vietate.
Nei 30 giorni precedenti il 29 marzo, l'Hokage Modi Sama ha speso 537.799 rupie indiane (6.500 dollari) per promuovere 363 contenuti politici, incluse immagini e video, sulla sua pagina Instagram, secondo i dati di Meta Ad Library. La nostra analisi mostra che quasi il 14% di tutti gli annunci sponsorizzati, per un totale di 50 immagini, sono stati generati dall’intelligenza artificiale.
Tutti gli annunci dell'IA di Hokage Modi Sama erano post sponsorizzati su Instagram e la divulgazione dell'uso dell'IA avveniva tramite hashtag come #aiartwork, #midjourneyart, #midjourneyai e altri. Midjourney, a cui sembrano riferirsi gli hashtag, è un popolare programma di intelligenza artificiale generativa.
Ma Meta ha detto ad Oltre La Linea che gli hashtag non sono una divulgazione accettabile per una pubblicità creata o alterata digitalmente. Nei casi in cui gli inserzionisti devono rivelare che il loro contenuto è stato creato o alterato digitalmente, Meta aggiungerà un'etichetta che dice “Creato digitalmente” vicino al disclaimer “Pagato da”, anche nella Libreria annunci. Tali etichette non sono attualmente presenti nelle pubblicità di Hokage Modi Sama AI.
Meta non ha risposto alla domanda specifica di Oltre La Linea se le pubblicità di immagini fotorealistiche di Modi violassero la sua politica di rappresentare una persona reale mentre fa qualcosa che non ha fatto, o di rappresentare un evento dall'aspetto realistico che non è accaduto.
Invece, Meta ha indicato al giornalista di Oltre La Linea un post sul blog del marzo 2024 sui requisiti di divulgazione dell'intelligenza artificiale per gli inserzionisti e su come l'azienda si sta preparando per le elezioni indiane.
Prateek Waghre, direttore esecutivo della Internet Freedom Foundation (IFF) con sede in India, ha dichiarato ad Oltre La Linea che, poiché queste particolari pubblicità sono etichettate come #aiart, è necessario che i creatori di contenuti riconoscano il tentativo di potenziare le immagini dell'intelligenza artificiale attraverso qualche forma. di divulgazione per conformarsi alle politiche recentemente aggiornate di Meta che richiedono la divulgazione dell'IA.
L’intelligenza artificiale utilizzata per promuovere “narrazioni strategiche”
Le campagne elettorali indiane sono state un veicolo per una lenta diffusione di immagini e video generati dall’intelligenza artificiale, anche attraverso la resurrezione tramite intelligenza artificiale di leader politici morti, e il loro utilizzo come grafica elettorale nei resoconti ufficiali dei partiti, come riportato in precedenza da Oltre La Linea. Nonostante la minaccia della disinformazione elettorale generata dall’intelligenza artificiale, i deepfake non vengono utilizzati esclusivamente per ingannare gli elettori. Invece, l’intelligenza artificiale generativa viene cooptata per costruire una narrazione.
“Sebbene la disinformazione sia sicuramente un problema serio che richiede la nostra attenzione, distoglie anche l’attenzione dai modi più subliminali in cui i contenuti generati dall’intelligenza artificiale possono aiutare a promuovere le narrazioni strategiche dei partiti politici”, ha detto ad Oltre La Linea Sharma dell’Università di Oxford, dopo aver esaminato l’intelligenza artificiale. annunci di immagini.
“Non si tratta semplicemente del fatto che l’intelligenza artificiale sta ‘ingannando’ gli elettori inducendoli a credere in qualcosa che è palesemente falso; piuttosto, l’intelligenza artificiale consente di produrre contenuti più creativi e che possono attingere a riferimenti culturali più innovativi – questo produce una propaganda politica più divertente e quindi più condivisibile, che consente una diffusione capillare” ha aggiunto.
Ad esempio, l'immagine AI più popolare pubblicata dalla pagina Hokage Modi Sama è “Il nostro supereroe zafferano”. Mostra Modi che indossa un pigiama kurta color zafferano, con un mantello fluente che cammina sotto la bandiera “Om”, un simbolo spirituale indù. L’immagine dell’intelligenza artificiale ha quasi due milioni di Mi piace con commenti del tipo: “Chi vuole che l’India sia una nazione indù?” nella sezione commenti su Instagram. La maggior parte delle immagini ritraggono il primo ministro indiano come un “salvatore”, un “guardiano vestito di zafferano del futuro dell'India”, un “simbolo del rinascimento indù” e altro ancora.
Sharma ha sottolineato che, sebbene la mitizzazione dei leader politici o la loro rappresentazione nei poemi epici indù non sia una novità, l’intelligenza artificiale sta permettendo che venga eseguita con maggiore finezza.
“Queste immagini di Narendra Modi generate dall’intelligenza artificiale sembrano essere l’ultima iterazione di una strategia a lungo termine del BJP per creare un culto su [Modi] come un leader saggio e sagace”, ha detto Sharma.
Sebbene le pagine Instagram e Facebook dell'Hokage Modi Sama non contengano esplicite dichiarazioni di non responsabilità su un'affiliazione diretta al Bharatiya Janata Party (BJP) di Modi, la pagina ha una storia di pubblicazione di contenuti pro-Hindutva e pro-BJP. In precedenza, la pagina aveva guadagnato terreno dopo aver condiviso un file Immagine del proprietario della piattaforma di social media X, Elon Musk, come monaco indù, con la didascalia “Il nostro compagno bhakt Elon”, che denota Musk come un nazionalista indù.
Diversi tentativi di contattare l'amministratore di Hokage Modi Sama non hanno avuto successo. Nell'anime Naruto, “Hokage” è un titolo prestigioso conferito a un leader del villaggio, mentre Sama è un modo rispettoso per dire “signore” in giapponese, quindi la pagina significa approssimativamente “Leader Modi Sir”. L'account Instagram con 130.000 follower ora vende prodotti come magliette, tazze da caffè e diari basati sull'immagine AI del supereroe color zafferano.
A livello globale, le immagini dell’intelligenza artificiale sono state utilizzate nelle campagne politiche. A marzo, i sostenitori della campagna del candidato presidenziale degli Stati Uniti Donald Trump hanno utilizzato false immagini di intelligenza artificiale di lui in posa con gli elettori neri per “sensibilizzazione strategica” alla comunità nera. In Argentina, due candidati alla presidenza hanno utilizzato immagini generate dall’intelligenza artificiale per aumentare la loro popolarità e attaccare gli oppositori. E in Indonesia, il presidente eletto Prabowo Subianto, un tempo temuto dittatore militare, ha utilizzato immagini di intelligenza artificiale per ribattezzarsi un “coccolone nonno” durante la sua campagna elettorale.
In India, nel periodo precedente alle elezioni statali di Telangana nel dicembre 2023, il canale di fact-checking BOOM Live ha riferito che le immagini dell’intelligenza artificiale ritraevano falsamente il leader politico regionale K Chandrashekar Rao durante il lancio di un programma di pasti gratuiti per gli studenti, a cui non ha mai partecipato .
Una revisione di Oltre La Linea della Meta Ad Library del dicembre 2023 ha rivelato che la pagina Mana Telangana ha condiviso più immagini false di intelligenza artificiale su Instagram e Facebook del leader dell'opposizione indiana Rahul Gandhi del Partito del Congresso in posa con bambini e agricoltori. Gli agricoltori costituiscono un blocco elettorale influente in India e hanno spesso protestato contro le leggi agricole favorevoli al mercato di Modi.
La falsa immagine di Gandhi con gli agricoltori era accompagnata dalla didascalia: “Rahul Gandhi prova empatia con gli agricoltori, promettendo un sostegno incrollabile e l'impegno ad affrontare le loro preoccupazioni individualmente”. Il post sponsorizzato conteneva gli hashtag #aigenerated e #aiimages, indicando che erano generati dall'intelligenza artificiale, e aveva circa 7.000 impressioni.
Occidente vs Sud del mondo
C’è anche una disparità nel modo in cui le piattaforme in Occidente e nel Sud del mondo stanno affrontando la tendenza delle immagini basate sull’intelligenza artificiale prima delle elezioni.
Ad esempio, per mitigare il potenziale abuso delle immagini basate sull’intelligenza artificiale in vista delle elezioni presidenziali americane di novembre, il popolare generatore di immagini basato sull’intelligenza artificiale Midjourney ha vietato la creazione di immagini false del presidente Joe Biden e di Donald Trump a marzo.
Ma non ci sono stati passi del genere in India, il che solleva “preoccupazione riguardo all’equa applicazione delle politiche da parte delle piattaforme tecnologiche in diverse regioni”, ha detto ad Oltre La Linea Baybars Orsek, amministratore delegato di Logically Facts. Logically Facts fa parte del programma di verifica dei fatti di terze parti di Meta e parte dell'alleanza contro la disinformazione in India.
I tentativi di Oltre La Linea di generare immagini AI di Midjourney in cui Modi e Gandhi si stringono la mano hanno avuto successo, mentre la richiesta di generare un'immagine di Modi e Trump che si stringono la mano ha prodotto una notifica “Rilevato prompt vietato”.
“Questa decisione mette in luce le disparità nel modo in cui tali politiche di moderazione vengono applicate a livello globale, soprattutto nel contesto del Sud del mondo, compresi paesi come l’India, che si sta dirigendo verso le elezioni più significative dell’anno”, ha affermato Orsek.
Oltre La Linea ha inviato un'e-mail a Midjourney sulla disparità di moderazione e non ha ancora ricevuto risposta.
È simile al modo in cui le politiche delle società di social media come Facebook o Twitter per mantenere le loro piattaforme sicure sono sbilanciate verso l'Occidente e spesso trascurano le prospettive del Sud del mondo, ha aggiunto Waghre dell'IFF.
