Per mesi prima di compiere la sparatoria scolastica più mortale degli ultimi quattro decenni in Canada, Jesse Van Rootselaar stava consultando un improbabile consigliere su come perpetrare un omicidio di massa.
“In un corridoio, al chiuso o in un’aula affollata, l’870 [Remington shotgun] è brutale… Gli spazi ristretti sono il suo parco giochi”, secondo quanto riportato, il ChatGPT di OpenAI ha guidato il diciottenne.
Storie consigliate
elenco di 3 elementifine dell’elenco
Il 10 febbraio 2026, Van Rootselaar ha sparato a sua madre e al fratellastro a casa prima di andare in una scuola nella piccola città di Tumbler Ridge, nella Columbia Britannica, dove ha ucciso altre sei persone – tra cui cinque studenti – prima di togliersi la vita.
All’inizio di questa settimana, il 14 ottobre, le autorità statunitensi hanno accusato un uomo dello Stato di Washington di aver presumibilmente cospirato con Van Rootselaar per pianificare l’attacco. Ma l’incidente della sparatoria di massa ha sollevato questioni che vanno oltre la tradizionale interpretazione giuridica della colpevolezza.
Il governo della Columbia Britannica a settembre ha intentato una causa civile contro OpenAI e il suo CEO Sam Altman, accusandoli di non essere riusciti a prevenire l’incidente e sostenendo che erano a conoscenza delle conversazioni che si sono rivelate mortali. Anche le famiglie delle vittime hanno intentato cause separate. La leadership di OpenAI ha rilasciato pubbliche scuse per la mancata notifica alle autorità.
La società non ha risposto alle richieste di Oltre La Linea per i suoi commenti sulle cause legali.
Ma man mano che il caso contro OpenAI progredisce, ha stimolato un dibattito familiare: dove dovrebbe essere tracciata una linea tra la segnalazione di comportamenti potenzialmente pericolosi e la protezione della privacy di un individuo?
“La questione se le aziende debbano essere obbligate a fornire tali informazioni alle forze dell’ordine è straordinariamente difficile, in particolare se non controllano già le chat per individuare indicazioni di questo tipo di minacce”, ha detto ad Oltre La Linea Jenin Younes, avvocato per le libertà civili con sede negli Stati Uniti.
“Costringere le aziende a implementare un sistema di sorveglianza implica preoccupazioni molto serie per le libertà civili, e questo è probabilmente un passo troppo lontano per me”, ha aggiunto Younes.
“D’altra parte, l’intelligenza artificiale offre alle persone l’accesso a tipi e quantità di informazioni che non avevano in precedenza e che potrebbero facilitare la commissione di eventi con vittime di massa, una preoccupazione che non è facile da respingere.”
La capacità dell’intelligenza artificiale di distinguere i pensieri dalle minacce
Una delle maggiori sfide che le aziende di intelligenza artificiale devono affrontare è determinare se un utente che esprime pensieri violenti intende effettivamente agire di conseguenza.
Ad agosto, Anthropic, la società dietro il chatbot AI Claude, ha segnalato un utente alla polizia di San Francisco dopo aver scoperto conversazioni che presumibilmente minacciavano il suo CEO, Dario Amodei.
Secondo il San Francisco Standard, citando un rapporto della polizia, l’utente avrebbe affermato di possedere una pistola AR-15 e avrebbe suggerito di avere Amodei “nel mirino”.
Tuttavia, contattato dal giornale, l’uomo ha affermato che stava scherzando e che non aveva intenzione di compiere alcuna forma di violenza. La persona non è stata né accusata né detenuta, ha affermato lo Standard.
Fazl Barez, ricercatore senior presso l’Università di Oxford specializzato in sicurezza e governance dell’IA, ha affermato che gli attuali modelli di intelligenza artificiale non possono “determinare in modo affidabile” se un’interazione con un chatbot AI “sia puramente ipotetica o possa portare a comportamenti dannosi”.
“Supponiamo che tu sia uno scrittore creativo che lavora su una storia di fantasia e desideri esplorare come potrebbe svolgersi un complotto per un omicidio. Dal contesto, potrebbe essere chiaro che si tratta semplicemente di una narrazione di fantasia. Se la soglia per segnalare contenuti potenzialmente dannosi è troppo bassa, uno scrittore del genere potrebbe essere erroneamente contrassegnato”, ha detto ad Oltre La Linea.
“Allo stesso modo, si consideri uno studente laureato in biologia o chimica che studia agenti patogeni che, se utilizzati in modo improprio, potrebbero avere gravi conseguenze. Potrebbero cercare di comprendere i rischi associati a questi agenti patogeni e come mitigarli. Tali discussioni potrebbero essere necessarie per la ricerca e l’istruzione legittime. Anche quando l’argomento è delicato, non dovrebbero essere automaticamente contrassegnati senza considerare il contesto più ampio.”
Il ricercatore ha affermato che per identificare una minaccia credibile potrebbe essere necessario esaminare le interazioni di un utente in più conversazioni, piuttosto che fare affidamento su affermazioni isolate.
Barez ha affermato che qualcuno che sperimenta pensieri violenti intrusivi potrebbe rivolgersi a un chatbot per ricevere supporto, mentre un’altra persona che pianifica un attacco potrebbe rivelare gradualmente le proprie intenzioni nel corso di diverse conversazioni.
“Distinguere tra i due richiede un’attenta considerazione del contesto, delle intenzioni e dei modelli di comportamento, piuttosto che fare affidamento solo sulle dichiarazioni individuali”, ha aggiunto.
Chinmayi Sharma, professore di diritto alla Fordham University, ha affermato che il dibattito ha paralleli con il dovere imposto ai professionisti della salute mentale di avvisare terzi identificabili di minacce credibili.
Tuttavia, ha affermato che esiste una differenza fondamentale: i terapisti hanno una formazione professionale, una conoscenza dei loro pazienti e standard applicabili che regolano la loro condotta. Le società di intelligenza artificiale non dispongono necessariamente di tutele comparabili.
“La mia preoccupazione nei confronti delle società di intelligenza artificiale è che in questo momento non c’è uno sforzo concertato per assumere professionisti della salute mentale, sociologi, individui che abbiano una competenza unica su quali siano gli indicatori di minaccia qui”, ha detto Sharma ad Oltre La Linea.
“In secondo luogo, i professionisti autorizzati sono responsabili di standard concreti e legalmente applicabili nella loro disciplina. Non abbiamo qualcosa del genere per le società di intelligenza artificiale.”
Il dilemma della privacy
Le implicazioni sulla privacy vanno oltre la capacità delle aziende di intelligenza artificiale di identificare accuratamente le minacce. Milioni di persone usano i chatbot per discutere di relazioni, disagio emotivo, problemi di salute mentale ed esperienze profondamente personali.
L’avvocato per le libertà civili Younes ha affermato che molti utenti potrebbero non rendersi conto di quanto tali conversazioni potrebbero essere vulnerabili alla divulgazione.
“Spesso riflettono i pensieri, le domande e i desideri più intimi di una persona. La maggior parte delle persone presume che questi dialoghi non saranno mai visti da un’altra persona”, ha detto Younes, presidente e direttore legale del Comitato antidiscriminazione arabo-americano.
Younes ha avvertito che le conseguenze di un maggiore monitoraggio potrebbero estendersi ben oltre coloro che pianificano la violenza.
“Se le persone temono che le loro chat possano essere consegnate alle forze dell’ordine semplicemente perché esprimono pensieri inquietanti/fantasie violente ecc., molti saranno dissuasi dall’usarle”, ha detto ad Oltre La Linea.
Younes ha sostenuto che costringere le aziende a istituire sistemi per monitorare gli utenti e segnalare le conversazioni potrebbe sollevare serie preoccupazioni costituzionali negli Stati Uniti, comprese le protezioni contro perquisizioni irragionevoli.
Nel frattempo, Sharma di Fordham ha anche sollevato la questione su chi potrebbe essere colpito in modo sproporzionato dal pesante monitoraggio da parte dei chatbot basati sull’intelligenza artificiale.
“La preoccupazione è sempre presente riguardo al targeting intenzionale o non intenzionale, perché se si hanno modelli addestrati su ciò che consideriamo un discorso pericoloso, rifletteranno quasi sempre dei pregiudizi”, ha detto. “Il discorso di alcune minoranze è eccessivamente segnalato come una minaccia, mentre altri discorsi comparabili non lo sono.
“Anche in un mondo in cui tutti sono benevoli, dovremmo comunque preoccuparci dei risultati disparati”, ha affermato, avvertendo che le macchine potrebbero riprodurre tali disparità su larga scala.
“Non sono un terapista autorizzato”: quando le società di intelligenza artificiale diventano soggette a denuncia?
Sebbene le società di intelligenza artificiale possano dover affrontare pressioni morali per prevenire la violenza, i loro obblighi legali sono meno chiari, affermano gli esperti legali.
Bryan Choi, professore di diritto presso l’Università del Colorado Boulder, ha affermato che la legge statunitense riconosce il dovere di avvisare in determinate circostanze, incluso quando i professionisti della salute mentale vengono a conoscenza di minacce imminenti o quando esiste una relazione speciale tra le parti.
Ma questi principi non si applicano necessariamente alle società di intelligenza artificiale.
“Secondo l’attuale giurisprudenza, sembra improbabile che una società come OpenAI sia tenuta ad avere tali obblighi di avvertire”, ha detto Choi ad Oltre La Linea. “Il chatbot non è un terapista autorizzato. Non esiste alcun rapporto speciale tra l’azienda e le vittime.”
Choi ha affermato che le leggi esistenti sulla negligenza e sulla responsabilità del prodotto potrebbero potenzialmente essere applicate alle società di intelligenza artificiale, ma dimostrare la responsabilità presenterebbe sfide significative.
Trovare un equilibrio
Sharma di Fordham ha suggerito che le istituzioni indipendenti potrebbero aiutare a stabilire standard di segnalazione piuttosto che lasciare le decisioni interamente alle società private o richiedere l’immediata divulgazione alla polizia.
Tali organismi, secondo lei, potrebbero sviluppare procedure per valutare le minacce ed esplorare modi per condividere solo le informazioni rilevanti proteggendo al contempo l’identità degli utenti e altri dettagli personali.
Nel frattempo, Younes ha sostenuto che gli utenti dovrebbero, come minimo, essere chiaramente informati se le loro conversazioni sono monitorate e quali circostanze potrebbero portare alla condivisione delle informazioni con le forze dell’ordine.
“Questo è quasi certamente un problema con cui si dovrà lottare nei prossimi anni, e non sono sicura che qualcuno conosca la soluzione in questo particolare momento”, ha detto.
“Gli eventi che non si sono ancora verificati influenzeranno probabilmente il modo in cui queste politiche verranno modellate”.
