In India un algoritmo li dichiara morti;  devono dimostrare di essere vivi

Daniele Bianchi

In India un algoritmo li dichiara morti; devono dimostrare di essere vivi

Questa storia è stata prodotta con il supporto dell’AI Accountability Network del Pulitzer Center.

Rohtak e Nuova Delhi, India: Dhuli Chand aveva 102 anni l’8 settembre 2022, quando guidò un corteo nuziale a Rohtak, una città del distretto nello stato di Haryana, nel nord dell’India.

Come è consuetudine nei matrimoni dell’India settentrionale, si è seduto su un carro con i suoi abiti nuziali, indossando ghirlande di note di rupie indiane, mentre una banda suonava musica celebrativa e i membri della famiglia e gli abitanti del villaggio lo accompagnavano.

Ma invece della sposa, Chand stava andando a incontrare i funzionari governativi.

Chand ricorse alla buffonata per dimostrare ai funzionari che non solo era vivo ma anche vivace. Un cartello che teneva in mano recitava, nel dialetto locale: “thara foofa zinda hai”, che letteralmente significa “tuo zio è vivo”.

Sei mesi prima, la sua pensione mensile era stata improvvisamente sospesa perché era stato dichiarato “morto” nei registri governativi.

Secondo il regime di indennità di vecchiaia Samman dell’Haryana, le persone di età pari o superiore a 60 anni, il cui reddito insieme a quello del coniuge non supera le 300.000 rupie (3.600 dollari) all’anno, hanno diritto a una pensione mensile di 2.750 rupie (33 dollari).

Nel giugno 2020, lo Stato ha iniziato a utilizzare un sistema algoritmico di nuova costruzione – il Family Identity Data Repository o il database Parivar Pehchan Patra (PPP) – per determinare l’ammissibilità dei richiedenti l’assistenza sociale.

Il PPP è un documento d’identità univoco di otto cifre fornito a ciascuna famiglia nello stato e contiene dettagli su nascita e morte, matrimonio, impiego, proprietà e imposta sul reddito, tra gli altri dati, dei membri della famiglia. Mappa le informazioni demografiche e socioeconomiche di ogni famiglia collegando diversi database governativi per verificarne l’idoneità ai programmi di welfare.

Lo Stato ha affermato che il PPP ha creato “dati autentici, verificati e affidabili di tutte le famiglie” e ha reso obbligatorio per i cittadini l’accesso a tutti i regimi di welfare.

Ma in pratica, il PPP ha erroneamente contrassegnato Chand come “morto”, negandogli la pensione per diversi mesi. Quel che è peggio è che le autorità non hanno cambiato il suo status di “morto” anche quando li ha incontrati più volte di persona.

“Siamo andati agli uffici distrettuali almeno 10 volte, di cui cinque volte lui [Chand] ci hanno accompagnato”, ha detto Naresh, nipote di Chand. “Anche dopo diversi tentativi di correggere questa anomalia negli uffici governativi e dopo aver presentato una denuncia sul portale del primo ministro, non è successo nulla.”

Solo dopo che Chand ha messo in scena la parodia di un corteo nuziale e ha incontrato un politico locale, le autorità hanno finalmente ammesso il loro errore e gli hanno rilasciato la pensione.

Chand non è un caso isolato di fallimento dell’algoritmo. Secondo i dati presentati dal governo all’assemblea statale nell’agosto dello scorso anno, in tre anni ha sospeso le pensioni di 277.115 anziani e 52.479 vedove perché “morte”.

Tuttavia, diverse migliaia di questi beneficiari erano effettivamente vivi ed erano stati ingiustamente dichiarati morti a causa di dati errati inseriti nel database del PPP o di previsioni errate fatte dall’algoritmo.

Tali anomalie non riguardano soltanto le pensioni di vecchiaia. Anche i beneficiari di pensioni di invalidità e vedova, e di altri programmi di welfare come gli alimenti sovvenzionati, sono stati esclusi perché l’algoritmo PPP ha fatto previsioni errate sui loro redditi o occupazione, escludendoli dai criteri di ammissibilità.

Quando le persone che erano state ingiustamente cancellate dall’algoritmo si sono rivolte ai funzionari governativi per far correggere i dati, hanno dovuto affrontare la burocrazia. Molti furono spostati da un ufficio all’altro e costretti a presentare infinite richieste per dimostrare l’ovvio: che in realtà erano vivi.

La dura prova affrontata da centinaia di migliaia di cittadini per ottenere la correzione dei propri dati ha reso il PPP uno dei piani governativi più controversi del governo Haryana degli ultimi anni. Il partito di opposizione lo ha definito “Permanent Pareshani Patra” (documento di disagio permanente) e ha promesso che abolirà il programma se salirà al potere nelle prossime elezioni parlamentari, previste nel 2024.

Lo Stato, tuttavia, continua non solo a difendere, ma anche ad espandere il programma. Sofia Dahiya, segretaria del Dipartimento informazioni sulle risorse per i cittadini che gestisce il funzionamento del PPP, nel settembre 2022 ha dichiarato ad Oltre La Linea: “Il PPP stava facilitando e migliorando la fornitura di servizi ai giusti beneficiari e prevenendo perdite attraverso l’uso dell’intelligenza artificiale e dell’apprendimento automatico . L’interconnessione di diversi database è stata effettuata per ottenere un database integrato che rappresentasse l”unica fonte di verità’.”

L’India spende circa il 13% del suo prodotto interno lordo, ovvero quasi 256 miliardi di dollari, per fornire benefici sociali a circa la metà della popolazione del paese. Preoccupati che tali benefici venissero usurpati da richiedenti non ammissibili, il governo federale e diversi stati statali hanno fatto sempre più affidamento sulla tecnologia per eliminare le frodi sul welfare.

Negli ultimi anni, almeno una mezza dozzina di stati hanno adottato sistemi algoritmici per prevedere l’ammissibilità dei cittadini ai programmi di welfare. Nell’ultimo anno Oltre La Linea, in collaborazione con l’Artificial Intelligence (AI) Accountability Network del Pulitzer Center, ha studiato l’uso e l’impatto di tali algoritmi di welfare.

Profilazione delle famiglie

Il primo ministro dell’Haryana Manohar Lal Khattar ha lanciato il programma PPP nel luglio 2019 e un anno dopo lo ha reso obbligatorio per tutti i benefici sociali.

In assenza di leggi sulla privacy, i partiti di opposizione hanno contestato la decisione di raccogliere i dati personali dei cittadini per la realizzazione del PPP. Il governo ha sostenuto di aver consentito l’erogazione “proattiva” del welfare senza che i richiedenti dovessero mostrare alcun documento o necessitare di una verifica sul campo. Nel settembre 2021, ha dato sanzione legale al programma approvando l’Haryana Parivar Pehchan Act.

Nel giro di un anno, tuttavia, iniziarono a sorgere enormi problemi con i dati PPP. Dopo che l’acrobazia del “corteo nuziale” di Chand ha fatto notizia, migliaia di poveri hanno affollato gli uffici distrettuali del dipartimento di assistenza sociale, lamentandosi della loro esclusione dai programmi. La protesta pubblica ha costretto il governo a lanciare campi di riparazione dei reclami in tutto lo stato per rivedere i dati sul PPP.

Il 29 agosto 2023, il Primo Ministro Khattar ha ammesso che dei 63.353 beneficiari totali le cui pensioni di vecchiaia erano state sospese sulla base dei dati PPP, 44.050 (o il 70%) sono stati successivamente ritenuti ammissibili. Sebbene Khattar abbia affermato che il governo ha corretto la maggior parte dei documenti errati e ripristinato i benefici degli esclusi ingiustamente, i resoconti dei media suggeriscono che gli errori persistono ancora.

Storia del welfare indiano

Scatola nera algoritmica

Il governo non ha risposto alle richieste di Oltre La Linea per il diritto all’informazione (RTI) che chiedevano informazioni sulla progettazione e il funzionamento del database per accertare cosa ha portato agli errori nel database PPP.

Alcuni documenti governativi pubblicamente disponibili, tuttavia, forniscono uno sguardo al funzionamento del programma.

Per costruire il database, il governo ha prima raccolto i dati demografici e di identità delle famiglie, compresi i loro numeri Aadhaar, il numero di identità univoco basato su dati biometrici assegnato a ogni cittadino indiano, la prova dell’età, i conti bancari e i numeri di identificazione fiscale tramite l’immissione di dati. operatori a livello di villaggio.

Un sistema elettronico centralizzato ha quindi utilizzato l’autenticazione basata su Aadhaar per abbinare le identità dei cittadini in altri database governativi come registri di nascita e morte, registri catastali e immobiliari, database di dipendenti pubblici, consumo di elettricità e database di dichiarazione dei redditi, tra gli altri, per costruire i loro profili socioeconomici completi.

Questi dati sono stati poi utilizzati per verificare “elettronicamente” il reddito annuo, l’età e altre condizioni di ammissibilità dei richiedenti. Laddove la verifica elettronica non è stata possibile a causa dell’indisponibilità dei dati, è stata effettuata una verifica fisica sul campo. Nei casi in cui la verifica fisica non ha avuto esito positivo, il reddito familiare è derivato da “un’intelligenza artificiale basata sulla logica”. [AI].”

L’ufficio del primo ministro e i dipartimenti che amministrano il PPP e i regimi pensionistici di vecchiaia non hanno risposto alle domande di Oltre La Linea sulla logica, la formula e il codice sorgente utilizzato dall’IA. Né ha chiarito se gli errori nel PPP fossero il risultato di un errato inserimento di dati o di previsioni errate da parte dell’IA. Il governo non ha nemmeno risposto alla domanda di Dhuli Chand RTI che chiedeva alle autorità di spiegare perché il PPP lo aveva contrassegnato come “morto”.

Khattar ha detto all’Assemblea statale che le famiglie possono contestare la verifica del reddito effettuata dal PPP attraverso “meccanismi online designati”.

Ma anche le famiglie i cui dati sono stati infine corretti hanno detto ad Oltre La Linea che il processo di lotta contro un meccanismo ufficiale che non rispondeva era oneroso e richiedeva molto tempo.

Morte per dati

Ram Chander e sua moglie Ompati, entrambi 60enni, sono residenti nel villaggio di Chhichhrana nell’Haryana. Nel marzo 2022, la coppia ha scoperto che la loro pensione di vecchiaia, iniziata solo sei mesi prima, era stata sospesa poiché erano stati dichiarati deceduti nel database del PPP.

Ram Chander ha presentato numerose denunce a vari uffici governativi, ma senza alcun risultato. Quel maggio presentò ai funzionari governativi una dichiarazione giurata firmata da un notaio in cui affermava che lui e sua moglie erano vivi e che la loro pensione sarebbe stata ripristinata.

Nel luglio 2022, il database PPP ha corretto il loro stato in “Alive”, ma l’errore è continuato in un altro database governativo. L’operatore locale di immissione dati ha accettato la loro richiesta di “Segna come vivo” e questa è stata finalmente approvata dopo essersi presentati presso l’ufficio del Vice Commissario Aggiuntivo (ADC) che dirige l’implementazione del PPP a livello distrettuale. La pensione dei due è ricominciata circa sei mesi dopo la loro interruzione.

“Ho visitato continuamente l’ufficio dell’ADC dal marzo 2022”, ha detto Chander ad Oltre La Linea nel settembre 2022. “Mi hanno detto che l’errore era stato corretto. Poi ho visitato l’operatore di immissione dati locale e ho scoperto che il mio stato era ancora “morto”, quindi sono andato di nuovo all’ufficio dell’ADC. Questo continuava a succedere ogni volta.

Oltre La Linea ha incontrato diverse altre famiglie dell’Haryana a cui era stata negata la pensione a causa di errori nel PPP.

Daya Kor, 64 anni, vive con la sua famiglia composta da due figli, una nuora e due nipoti. Dopo la morte del marito Omprakash nel 1996, ha iniziato a ricevere la pensione vedova mensile dello Stato. Le donne vedove attualmente ricevono 2.750 rupie (33 dollari) ogni mese nell’ambito del programma. Ma la pensione di Kor è stata sospesa nel marzo 2022. Secondo i registri del PPP, lei e sua nipote guadagnavano un reddito annuo di 600.000 rupie (7.200 dollari) ciascuna. Sua nipote aveva solo nove anni.

Storia del welfare indiano

La famiglia di Kor ha detto ad Oltre La Linea che l’unico membro della famiglia a guadagnare era il figlio maggiore Devendar, 37 anni, che lavorava come autista di autobus per una scuola privata – guadagnando circa 7.000 rupie (84 dollari) al mese – e ha anche un lavoro secondario come impiegato. agricoltore a tempo parziale.

“Se il reddito familiare fosse superiore a 12 lakh rupie, perché avremmo bisogno della pensione di 2.500 rupie?” chiese.

La pensione di Daya Kor è stata finalmente ripristinata, ma la sua famiglia non può dimenticare la dura prova che ha dovuto affrontare nel processo.

“Per la correzione del PPP, all’ufficio ADC mi è stato detto di ottenere un certificato di reddito”, ha detto Devendar. “Ma per ottenere il certificato di reddito mi viene chiesto il PPP. Non capisco come affrontare questa situazione”.

(La prima parte della serie ha rivelato come un sistema algoritmico opaco e inspiegabile abbia privato diverse migliaia di poveri del loro legittimo cibo sovvenzionato.)

Kumar Sambhav è stato responsabile della responsabilità dell’intelligenza artificiale del Pulitzer Center nel 2022 ed è a capo della ricerca indiana presso il Digital Witness Lab dell’Università di Princeton; Tapasya è un membro del collettivo The Reporters’; e Divij Joshi è un ricercatore di dottorato presso la Facoltà di Giurisprudenza dell’University College di Londra.

Daniele Bianchi

Daniele Bianchi, nativo di Roma, è il creatore del noto sito di informazione Oltre la Linea. Appassionato di giornalismo e di eventi mondiali, nel 2010 Daniele ha dato vita a questo progetto direttamente da una piccola stanza del suo appartamento con lo scopo di creare uno spazio dedicato alla libera espressione di idee e riflessioni. La sua mission era semplice e diretta: cercare di capire e far comprendere agli altri ciò che sta effettivamente succedendo nel mondo. Oltre alla sua attività di giornalista e scrittore, Daniele investe costantemente nell'arricchimento della sua squadra, coinvolgendo professionisti con le stesse passioni e interessi.