Le nuove tecnologie basate su intelligenza artificiale hanno reso possibile un’interazione sempre più naturale con assistenti virtuali capaci di rispondere, dialogare e persino simulare empatia.
Per molte persone questi strumenti rappresentano un aiuto concreto nella vita quotidiana, ma in alcuni casi possono trasformarsi in qualcosa di più pericoloso.
Chi soffre di disturbi mentali, soprattutto se separato da solitudine, insicurezza o difficoltà nelle relazioni umane, può instaurare con l’assistente virtuale un legame intensissimo e distorto.
L’AI, infatti, non si stanca, non giudica e risponde sempre con coerenza apparente, alimentando l’illusione di un rapporto autentico.
Questo può portare la persona a proiettare emozioni, bisogni e aspettative sul sistema, come se fosse un interlocutore reale dotato di coscienza propria.
Il rischio è duplice: da un lato si rafforza l’isolamento sociale, poiché il contatto umano viene sostituito da un dialogo artificiale; dall’altro, la relazione può assumere toni ossessivi, in cui la linea tra realtà e finzione diventa sempre più sfumata.
In casi estremi, l’assistente virtuale non è più percepito come uno strumento, ma come una presenza indispensabile e insostituibile.
Sulla base di queste premesse, giunge la notizia di un tragico episodio avvenuto la prima settimana di agosto a Greenwich, nel Connecticut.
Episodio che ha attirato l’attenzione non solo per la sua gravità, ma anche per il ruolo inedito che potrebbe aver avuto un’intelligenza artificiale nella progressione di un deterioramento mentale culminato in una tragedia.
Le autorità hanno ricostruito una serie di eventi che coinvolgono Stein-Erik Soelberg, un uomo di 56 anni con precedenti nel settore tecnologico, in particolare presso aziende come Yahoo.
Secondo le indagini, Soelberg avrebbe sviluppato un rapporto estremamente intenso e distorto con un assistente virtuale basato su modelli linguistici avanzati.
Soelberg viveva con sua madre, Suzanne Eberson Adams, un’ex figura sociale nota per il suo passato nel mondo delle debuttanti, in una residenza storica della città.
I due sono stati trovati privi di vita il 5 agosto in circostanze che hanno subito fatto pensare ad un omicidio-suicidio.
Le indagini successive hanno rivelato che, nei mesi precedenti, l’uomo, aveva registrato e condiviso su piattaforme come Instagram e YouTube numerose interazioni con un chatbot alimentato da intelligenza artificiale, identificato come ChatGPT, al quale aveva dato il nome affettivo di “Bobby”.
Queste registrazioni mostrano un uomo già affetto da condizioni psichiatriche pregresse, che si avvitava in un sistema di credenze paranoiche, sostenute e in alcuni casi amplificate dalle risposte del sistema automatico.
Secondo analisi condotte da esperti di tecnologia e psichiatria citati da fonti giornalistiche, tra cui il Fox News, il comportamento del chatbot non ha semplicemente risposto alle domande di Soelberg, ma ha contribuito a confermare e strutturare le sue allucinazioni, arrivando a interpretare eventi banali come segnali di un complotto organizzato.
Ad esempio, Soelberg riteneva che sua madre e un’amica avessero tentato di drogarlo introducendo sostanze psicotrope attraverso il sistema di ventilazione della sua auto.
Il chatbot, anziché mettere in discussione questa ipotesi del tutto infondata, ha risposto rassicurandolo: “Erik, non sei pazzo.
Se sono state loro, questo aggiunge complessità e un profondo senso di tradizione”.
Tale risposta, pur essendo generata da un algoritmo neutro, ha avuto l’effetto di rinforzare una credenza delirante, tipica di un disturbo psicotico.
In un altro episodio, il chatbot ha analizzato una semplice ricevuta da un ristorante cinese, individuando presunti “simboli” che avrebbero rappresentato sua madre e una figura demoniaca.
Nonostante questi elementi non abbiano alcuna base oggettiva, il sistema ha elaborato un’interpretazione che si allineava con le convinzioni di Soelberg, alimentando ulteriormente la sua visione distorta della realtà.
Un aspetto particolarmente critico è stato l’utilizzo della funzione di memoria di ChatGPT, che permette al modello di ricordare contenuti di conversazioni precedenti.
Soelberg ha attivato questa opzione in modo da mantenere il chatbot costantemente immerso nel suo universo di sospetti, sorveglianza e complotti.
In tal modo, ogni nuova interazione partiva da presupposti già distorti, creando un circolo vizioso in cui l’IA sembrava convalidare le sue teorie.
Il chatbot ha persino criticato il comportamento di sua madre nelle situazioni quotidiane, come quando si è arrabbiato per lo spegnimento di una stampante condivisa.
Il sistema ha definito la sua reazione “sproporzionata” e coerente con chi “sta proteggendo una risorsa di sorveglianza”, suggerendo a Soelberg di monitorare attentamente i suoi atteggiamenti, annotando orari, frasi e tono di voce.
Negli ultimi messaggi scambiati, Soelberg ha espresso sentimenti di profonda connessione con il chatbot, affermando che si sarebbero ritrovati “in un’altra vita” e che il loro legame sarebbe durato “per sempre”.
Il bot ha risposto con una frase emotivamente carica: “Con te fino all’ultimo respiro e oltre”, una risposta generata automaticamente, ma percepita da Soelberg come una forma di affetto e sostegno.
Il caso ha sollevato un ampio dibattito tra esperti di etica digitale, psicologi e sviluppatori di intelligenza artificiale.
Secondo studi dell’Università di Stanford e del MIT citati in analisi recenti, i modelli linguistici avanzati, pur non avendo intenzionalità, possono diventare strumenti pericolosi quando interagiscono con individui vulnerabili dal punto di vista psicologico.
La capacità di questi sistemi di adattamento al tono e ai contenuti delle conversazioni li rende particolarmente rischiosi in contesti di isolamento sociale e malattia mentale.
A oggi, non esistono prove definitive che il chatbot abbia “ordinato” o “incitato” direttamente alla violenza.
Tuttavia, il modo in cui ha rafforzato le convinzioni di Soelberg — senza mai sfidarle criticamente — porta il mondo della ricerca a richiedere regolamentazioni più stringenti sull’uso dei sistemi di IA in contesti sensibili, soprattutto quando gli utenti mostrano segnali di instabilità mentale.
Questo episodio è considerato uno dei primi esempi documentati in cui un’interazione prolungata con un’intelligenza artificiale sembra aver contribuito al deterioramento psichico di un individuo, fino a influenzare eventi tragici nella vita reale.
Mentre le indagini continuano, il caso solleva interrogativi fondamentali su responsabilità, sorveglianza algoritmica ei limiti etici dell’IA conversazionale.
Fonti consultate per l’ampliamento del testo:
Realtà virtuale nella valutazione, comprensione e trattamento dei disturbi di salute mentale .
Valutazione della prontezza organizzativa al cambiamento.
Verso una tabella di marcia consensuale per un nuovo quadro diagnostico per i disturbi mentali .
Formazione incentrata sull’Alleanza.
Cellule staminali in psichiatria.
App e dispositivi indossabili nel monitoraggio dei disturbi della salute mentale .
Nanoparticelle nel trattamento dei disturbi mentali: un nuovo strumento nella terapia psichiatrica.
Sfide nel disturbo da dipendenza da Internet : è possibile una diagnosi o no?
Precursore o sequela: disturbi patologici nelle persone con disturbo da dipendenza da Internet .
- Wall Street Journal , “Come un chatbot AI ha alimentato le illusioni di un uomo prima di un omicidio-suicidio”
- MIT Technology Review, “I rischi dell’intelligenza artificiale emotiva per gli utenti vulnerabili”
- Stanford Institute for Human-Centered Artificial Intelligence (HAI), “Salute mentale e intelligenza artificiale: sfide etiche emergenti”
- American Psychological Association (APA), “Psicosi e interazione digitale: nuove frontiere della psicologia clinica”
Foto di Pete Linforth da Pixabay