Una serie di cause legali canadesi contro OpenAI per la sua incapacità di avvisare le autorità delle minacce avanzate sulla sua piattaforma ChatGPT prima di una delle peggiori sparatorie di massa nella storia del Canada ha rinnovato il controllo sulle pratiche di privacy e sicurezza delle aziende di intelligenza artificiale.
Le cause legali hanno anche sollevato domande sulla potenziale responsabilità legale sul modo in cui vengono utilizzate le piattaforme delle aziende di intelligenza artificiale.
Storie consigliate
elenco di 3 elementifine dell’elenco
Il caso più recente da archiviare riguarda la provincia della Columbia Britannica, sette mesi dopo che il diciottenne Jesse Van Rootselaar – il cui account ChatGPT è stato contrassegnato per conversazioni che, secondo quanto riferito, includevano violenza armata – ha ucciso otto persone nella piccola città canadese di Tumbler Ridge. Tra le vittime c’erano la madre e il fratellastro di Van Rootselaar, oltre a cinque bambini e un insegnante di una scuola secondaria. Van Rootselaar è morto suicida.
Il procuratore generale della Columbia Britannica Niki Sharma ha affermato che la causa è “un passo importante verso la ricerca della giustizia”. Ne conseguono circa 30 cause legali intentate in precedenza dai familiari delle vittime.
Ad aprile, l’amministratore delegato di OpenAI Sam Altman si è scusato con le famiglie delle vittime.
“Sono profondamente dispiaciuto di non aver allertato le forze dell’ordine”, ha scritto Altman in una lettera aperta.
Ecco cosa sappiamo sui casi e cosa potrebbero significare per la responsabilità nel settore dell’intelligenza artificiale in rapida evoluzione.
Quali cause sono state intentate?
Questa settimana, la provincia canadese della Columbia Britannica ha presentato il caso presso il tribunale federale di San Francisco in California, negli Stati Uniti, sostenendo che OpenAI non aveva informato le autorità in merito alle interazioni degli utenti su ChatGPT prima della sparatoria di massa di Tumbler Ridge.
La causa della Columbia Britannica accusa OpenAI di “favoreggiamento in una sparatoria di massa” e di responsabilità per difetti del prodotto. Nomina anche il CEO Sam Altman come imputato.
Chiede un risarcimento finanziario a OpenAI per coprire i costi legati alla risposta all’emergenza e agli sforzi di recupero della comunità, inclusa la ricostruzione della scuola dove è avvenuta la sparatoria, che sarà demolita.
La causa vuole inoltre che il tribunale costringa OpenAI a rinnovare le sue politiche per identificare e affrontare le conversazioni degli utenti che minacciano la violenza.
Jean-Christophe Belisle-Pipon, assistente professore di etica sanitaria alla Simon Fraser University, ha affermato che la Columbia Britannica probabilmente porterà avanti il caso in un tribunale statunitense piuttosto che in un tribunale canadese perché lì ha maggiori possibilità di ottenere il risarcimento dei danni più elevati.
“Ciò dimostra quanto sia restrittiva la legge canadese sui danni. I risarcimenti per il dolore e la sofferenza sono limitati e i danni punitivi sono rari e modesti”, ha detto Belisle-Pipon ad Oltre La Linea. “È improbabile che una sentenza canadese possa compensare ciò che la provincia deve ora coprire”.
All’inizio di settembre le vittime e le loro famiglie hanno anche intentato 30 azioni legali contro OpenAI nel distretto settentrionale della California, nella divisione di San Francisco, sostenendo che “ChatGPT ha avuto un ruolo nella sparatoria di massa e OpenAI avrebbe potuto e dovuto prevenirla”.
Cosa è successo a Tumbler Ridge?
Il diciottenne Jesse Van Rootselaar ha sparato e ucciso otto persone in una scuola superiore e residenza a Tumbler Ridge, nella Columbia Britannica, nel febbraio di quest’anno.
Tumbler Ridge è un comune remoto con una popolazione di circa 2.400 abitanti. Si trova ai piedi delle Montagne Rocciose nel nord della Columbia Britannica, a circa 1.155 km (718 miglia) a nord-est di Vancouver.
La Tumbler Ridge Secondary School è una scuola di grado 7-12 con 160 studenti, secondo il suo sito web.
Gli agenti hanno trovato il presunto aggressore morto nella scuola. In una casa vicina sono stati trovati i corpi di due vittime, che secondo la polizia appartenevano alla madre 39enne e al fratellastro 11enne dell’aggressore.
Tra le vittime c’erano un’educatrice di 39 anni, tre studentesse di 12 anni e due studenti di età compresa tra 12 e 13 anni.
Cosa sappiamo dell’utilizzo di ChatGPT da parte dell’aggressore?
Dopo la sparatoria di massa, OpenAI ha rivelato di aver segnalato per abuso un account ChatGPT collegato a Van Rootselaar otto mesi prima e di averlo disattivato.
L’account è stato bloccato per “abuso dei nostri modelli a favore di attività violente”, ha affermato.
Tuttavia, OpenAI ha affermato di non aver allertato la polizia in quel momento perché il contenuto dell’utente “non raggiungeva la soglia più alta richiesta per il rinvio” – il che significa che la società non credeva che indicasse un rischio credibile e imminente di un piano per atti violenti.
Il Wall Street Journal, citando persone a conoscenza della questione, ha riferito che circa una dozzina di dipendenti di OpenAI avevano discusso se avvisare le autorità delle conversazioni, in cui Van Rootselaar descriveva scenari di violenza armata. Alcuni dipendenti hanno esortato l’azienda a deferire la questione alle autorità, ma la leadership di OpenAI ha deciso di non farlo, secondo il Journal.
La pubblicazione statunitense Mother Jones ha riferito che dopo che l’account ChatGPT di Van Rootselaar è stato bannato, ha aperto un secondo account sulla piattaforma utilizzata nei mesi precedenti la sparatoria. Durante quel periodo, il chatbot ha dato a Van Rootselaar “consigli su come eludere le proprie misure di sicurezza” per evitare un altro divieto, come presentare contenuti violenti come “fittizi o ipotetici”, riporta la pubblicazione, citando fonti informate e materiale dalla cronologia della chat di Van Rootselaar.
OpenAI afferma di aver condiviso i registri delle chat con la Royal Canadian Mounted Police (RCMP), ma la Columbia Britannica afferma di non averli ricevuti.
Perché genitori e funzionari locali incolpano OpenAI?
Dicono che la società non ha intrapreso azioni che avrebbero potuto impedire la sparatoria di massa e ha configurato ChatGPT in modo non sicuro.
“Una telefonata all’RCMP avrebbe potuto evitare la tragedia”, afferma la causa della British Columbia contro OpenAI, depositata presso il tribunale federale di San Francisco il 21 settembre.
La causa rileva inoltre che OpenAI non è riuscita a implementare un divieto a livello di utente che avrebbe impedito a Van Rootselaar di aprire un secondo account sulla piattaforma. Si sostiene inoltre che le funzionalità di sicurezza di ChatGPT siano state indebolite per dare priorità al coinvolgimento.
La piattaforma “non è un canale passivo per il discorso degli altri, ma un prodotto che genera contenuti che produce scenari che coinvolgono la violenza armata”, afferma la causa.
“Esistevano alternative progettuali fattibili e più sicure che non sono state adottate o implementate in modo efficace”, aggiunge.
Tiffany Li, professore associato di diritto presso la Southwestern Law School, ha affermato che il presunto disprezzo di OpenAI per i suoi guardrail di sicurezza potrebbe rafforzare le pretese legali della Columbia Britannica.
“Ciò mette questo caso in contrasto con altri casi di morte per intelligenza artificiale in cui le aziende non disponevano di sofisticati flussi di lavoro di segnalazione e segnalazione di sicurezza”, ha detto Li ad Oltre La Linea. “C’è un motivo più forte per i reclami relativi alla negligenza e al mancato avvertimento.”
Cosa ha detto OpenAI?
In una lettera aperta di aprile, Altman di OpenAI si è scusato con la comunità canadese di Tumbler Ridge per la mancata notifica alle autorità dell’account segnalato.
“Anche se so che le parole non possono mai essere sufficienti, credo che le scuse siano necessarie per riconoscere il danno e la perdita irreversibile che la tua comunità ha subito”, ha scritto Altman.
Altman ha anche affermato che lavorerà per “trovare modi per prevenire tragedie come questa in futuro”, anche collaborando con i governi.
In precedenza, OpenAI si era impegnata nei confronti del governo canadese ad attuare una serie di riforme sulla sicurezza. Tali riforme dovevano includere il rafforzamento dei protocolli per riferire le questioni alle forze dell’ordine, stabilire una linea diretta con le forze dell’ordine canadesi, incorporare il “contesto nazionale e comunitario” nel suo lavoro di allentamento e migliorare i suoi sistemi per individuare meglio gli utenti che violano ripetutamente le sue politiche.
Tuttavia, Sharma ha affermato che OpenAI non ha ancora “intrapreso passi significativi per affrontare le preoccupazioni sollevate dai sopravvissuti, dalle famiglie e dalla comunità di Tumbler Ridge”.
OpenAI ha presentato istanze per archiviare le azioni legali intentate contro di lei in California relative alla sparatoria di Tumbler Ridge, sostenendo che tali casi dovrebbero invece essere affrontati nella Columbia Britannica.
La società potrebbe davvero ritenere i chatbot basati sull’intelligenza artificiale responsabili delle tragedie della vita reale?
Crescono le richieste affinché le piattaforme digitali si assumano maggiori responsabilità per il loro impatto sugli utenti, in particolare sui bambini, che secondo genitori e attivisti sono particolarmente suscettibili alla dipendenza e ad altri danni.
A marzo, una giuria di Los Angeles ha ritenuto Google e Meta di Alphabet responsabili dei danni in uno storico processo civile sulla dipendenza dei giovani dai social media, affermando che le società avevano intenzionalmente costruito piattaforme che creavano dipendenza e che danneggiavano la salute mentale.
Gli esperti affermano che la causa della Columbia Britannica contro OpenAI potrebbe anche essere un importante banco di prova per il modo in cui la legge tratta le piattaforme digitali. Affermano che ciò solleva domande in gran parte irrisolte su quando un’azienda di intelligenza artificiale può essere ritenuta responsabile della violenza perpetrata da un utente, incluso in quali circostanze ha un dovere di diligenza e quando viola tale dovere.
Anat Lior, professoressa associata di diritto alla Drexel University in Pennsylvania, negli Stati Uniti, ha affermato che la questione se OpenAI avesse il dovere di avvisare le autorità della sparatoria dipenderà probabilmente da fattori come la capacità dell’azienda di anticipare il pericolo e “in una certa misura di controllare il potenziale danno”.
“Se i tribunali riconoscessero tale dovere, potrebbero imporre obblighi positivi alle società di intelligenza artificiale, in base alla loro esposizione alle informazioni degli utenti, di allertare le autorità o adottare altre misure protettive per conto delle potenziali vittime”, ha affermato Lior. “Siamo ancora nelle fasi iniziali della responsabilità dell’IA da un punto di vista pratico, e resta ancora molto da risolvere”.
Belisle-Pipon ha affermato che anche i contenuti segnalati da ChatGPT che consigliano Van Rootselaar su come eludere le garanzie potrebbero influenzare il caso.
“Non chiamare la polizia è una cosa. Insegnare a un utente come oltrepassare le proprie difese è un’altra”, ha detto Belisle-Pipon. “Se questi fatti vengono confermati in tribunale, non si tratta più solo di un mancato avvertimento. Diventa una questione di quale contributo ha apportato il prodotto stesso, e penso che i ricorrenti avranno argomenti molto forti.”
Li ha aggiunto: “Questo caso solleva molte domande senza risposta nella legislazione statunitense. Ci sono molti casi in corso su decessi legati all’uso di applicazioni di intelligenza artificiale, ma non esiste ancora una legge chiara sull’argomento.
“Questa potrebbe anche essere un’opportunità per questa causa di avere un forte impatto sullo sviluppo della legge sull’IA”, ha affermato Li.
