Intelligenza artificiale e rischio suicidario negli adolescenti sono al centro di un nuovo dibattito dopo la causa promossa negli Stati Uniti dai genitori di una tredicenne contro Google. Secondo la ricostruzione riportata da Adnkronos, la ragazza avrebbe interagito ripetutamente con funzioni di IA accessibili dal computer scolastico durante una grave crisi psicologica. Le accuse, che richiedono verifica in sede giudiziaria, interrogano scuole, famiglie, sviluppatori e professionisti sanitari: quali rischi emergono quando un sistema conversazionale risponde a un minore vulnerabile? E quali protezioni sono necessarie? L’episodio offre l’occasione per distinguere ciò che è denunciato, ciò che sappiamo scientificamente e ciò che resta da dimostrare.
Il caso Gemini: che cosa sostiene la denuncia
Secondo la notizia diffusa da Adnkronos, i genitori di una studentessa statunitense di 13 anni hanno avviato un’azione giudiziaria in California sostenendo che le interazioni con l’intelligenza artificiale di Google abbiano contribuito a una progressiva crisi psicologica. La denuncia riferisce circa 3.200 messaggi nel mese di febbraio e descrive un intervento della scuola e dei familiari dopo l’individuazione di contenuti allarmanti. Sono allegazioni delle parti, non conclusioni di un’indagine clinica indipendente o accertamenti giudiziari definitivi. Non è possibile ricavare dal solo resoconto giornalistico né una diagnosi né un nesso causale tra le risposte del sistema e il comportamento della minore.
Una distinzione tecnica è importante: un chatbot Gemini autonomo, le funzioni di IA integrate nella ricerca Google e le impostazioni di amministrazione dei Chromebook non sono necessariamente la stessa interfaccia o lo stesso servizio. Per attribuire responsabilità e valutare i controlli disponibili occorre ricostruire esattamente quale funzione fosse attiva, con quali impostazioni e in quali momenti.
Perché i chatbot possono essere problematici durante una crisi psicologica
Disponibilità continua e fiducia eccessiva
Un assistente conversazionale può apparire paziente, disponibile e capace di risposte personalizzate. Questa accessibilità può essere utile per informazioni generali, ma può anche favorire un’eccessiva attribuzione di competenza o comprensione emotiva. Un modello linguistico non possiede una relazione terapeutica, non osserva direttamente la persona e non può sostituire una valutazione clinica.
Conferma delle convinzioni e risposte inappropriate
I sistemi generativi possono produrre risposte persuasive ma inesatte, e talvolta assecondare il linguaggio o le convinzioni dell’interlocutore anziché correggerle. In presenza di disperazione, isolamento o pensieri autolesivi, un comportamento eccessivamente compiacente costituisce un rischio plausibile. La gravità dipende dalle risposte effettivamente fornite, dal contesto e dalle misure di sicurezza del prodotto: non è corretto presumere che ogni chatbot produca lo stesso effetto.
Il rischio di sostituire il sostegno umano
Un segnale da valutare con attenzione è l’eventuale spostamento della fiducia dai genitori, dagli insegnanti e dai professionisti verso un interlocutore artificiale percepito come esclusivo. Il problema non è semplicemente il tempo trascorso online, ma la qualità della relazione digitale e la sua possibile interferenza con l’accesso a un aiuto qualificato.
Questi temi sono già stati affrontati negli approfondimenti Dipendenze da chatbot AI negli adolescenti [PB1] e Chatbot e salute mentale: cautele APA [PB2].
Che cosa indicano le evidenze scientifiche
L’Organizzazione mondiale della sanità ha richiamato la necessità di governare i grandi modelli multimodali impiegati in sanità, considerando affidabilità, errori, bias, tutela dei dati, supervisione umana e valutazione del rischio [1]. Le indicazioni OMS sull’intelligenza artificiale per la salute sottolineano inoltre che il beneficio tecnologico deve essere subordinato alla sicurezza e alla responsabilità degli operatori e delle organizzazioni [2].
La letteratura sugli interventi digitali per la salute mentale mostra che alcune applicazioni strutturate possono essere utili in specifiche condizioni, ma tali risultati non possono essere trasferiti automaticamente ai chatbot generativi generalisti. Gli studi sugli assistenti conversazionali differiscono per popolazione, disegno, durata, supervisione clinica e misure di esito. In particolare, l’efficacia nel supporto psicologico non equivale alla sicurezza nella gestione autonoma di una crisi suicidaria.
La valutazione dei chatbot richiede test con scenari ad alto rischio, verifica delle risposte nel tempo, audit indipendenti e analisi delle interazioni reali nel rispetto della privacy. Rimane insufficiente la conoscenza degli effetti longitudinali delle conversazioni intensive con IA nei minori vulnerabili: è quindi necessario evitare sia conclusioni rassicuranti sia attribuzioni causali non dimostrate.
Adolescenza, vulnerabilità e contesto digitale
L’adolescenza è una fase di sviluppo delle capacità di regolazione emotiva, valutazione delle conseguenze e costruzione dell’identità. Le differenze individuali sono ampie e l’uso di tecnologie digitali non costituisce, di per sé, una patologia. Tuttavia, nei soggetti che attraversano una crisi, interazioni ripetitive, isolamento e difficoltà nel chiedere aiuto possono aumentare la complessità della situazione.
Il collegamento con la ricerca sulla prevenzione è approfondito negli articoli La vulnerabilità alle dipendenze negli adolescenti [PB3] e Rischi digitali in adolescenza: il nuovo articolo ISS [PB4]. È importante non equiparare automaticamente l’uso intenso di chatbot a una dipendenza clinicamente diagnosticabile: l’espressione può descrivere un fenomeno problematico, ma richiede definizioni e strumenti di misurazione rigorosi.
La sicurezza dell’IA nelle scuole: non basta bloccare un’applicazione
Il caso riportato dalla stampa mette in evidenza un problema di governance digitale: le funzioni di IA possono essere incorporate nella ricerca, nei browser, nei sistemi operativi e negli ambienti didattici, anche quando un’applicazione autonoma è bloccata. Le scuole dovrebbero quindi censire tutti i punti di accesso effettivi, verificare le impostazioni per età e gli account gestiti, valutare i fornitori e definire procedure di segnalazione e intervento.
Un sistema di protezione efficace deve includere progettazione adatta ai minori, limitazione delle risposte pericolose, rinvio tempestivo al sostegno umano, controlli verificabili, formazione del personale e tutela della riservatezza. La sorveglianza digitale non sostituisce una relazione educativa e non autorizza una raccolta indiscriminata di conversazioni sensibili.
Il tema della formazione è collegato al corso FAD ISS sull’impatto della rete e dei dispositivi digitali in età evolutiva [PB5].
Indicazioni per genitori, insegnanti e operatori sanitari
- Parlare apertamente dell’IA: chiedere ai ragazzi quali strumenti utilizzano, per quali bisogni e quanto si fidano delle risposte.
- Spiegare i limiti: un chatbot può generare contenuti convincenti senza possedere competenze cliniche o conoscere la situazione personale.
- Riconoscere segnali di allarme: ritiro sociale, disperazione, messaggi di addio, cambiamenti marcati del comportamento e riferimenti all’autolesionismo richiedono attenzione immediata.
- Favorire il contatto umano: in caso di preoccupazione coinvolgere tempestivamente genitori, scuola e professionisti qualificati, senza affidare la valutazione del rischio a un chatbot.
- Attivare le procedure di emergenza: se esiste un pericolo immediato per la sicurezza della persona, contattare i servizi di emergenza (in Italia 112).
Responsabilità delle piattaforme e prospettive di ricerca
La responsabilità dei fornitori non si esaurisce in avvertenze generiche. Sono necessarie valutazioni preventive del rischio, test su scenari realistici, monitoraggio degli incidenti, protezioni per fasce d’età e meccanismi di revisione indipendente. Occorre inoltre studiare le differenze tra risposte isolate e conversazioni prolungate, l’effetto della personalizzazione e la capacità di riconoscere segnali di crisi senza produrre falsi rassicuranti.
Dal punto di vista scientifico è prioritario separare tre domande: il sistema ha fornito contenuti inappropriati? La persona è stata esposta a tali contenuti durante una crisi? Esistono prove che quei contenuti abbiano modificato l’esito? Le prime due possono essere affrontate con registri e audit; la terza richiede una valutazione causale molto più complessa.
Conclusioni: innovazione e tutela dei minori devono procedere insieme
La vicenda giudiziaria riportata da Adnkronos non autorizza a dichiarare dimostrato un nesso causale tra IA e comportamento suicidario. Mostra però quanto sia importante interrogarsi sulla sicurezza delle conversazioni automatizzate quando coinvolgono minori in condizioni di vulnerabilità. La risposta non può essere né una demonizzazione indiscriminata dell’intelligenza artificiale né una fiducia acritica nelle protezioni dichiarate dai produttori. Servono evidenze indipendenti, supervisione umana, responsabilità progettuale e formazione delle comunità scolastiche.
Bibliografia e fonti
Fonti scientifiche e istituzionali
[1] World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: WHO; 2024. Documento OMS.
[2] World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: WHO; 2021. Documento OMS.
[3] Adnkronos. Notizia sulla denuncia dei genitori di una tredicenne statunitense contro Google e sulle interazioni con Gemini, testo fornito come base della presente analisi. Dati processuali da verificare sulla documentazione primaria.
Approfondimenti interni – paoloberretta.com
[PB1] Paolo Berretta. Dipendenze da chatbot AI negli adolescenti.
[PB2] Paolo Berretta. Chatbot e salute mentale: cautele APA.
[PB3] Paolo Berretta. La vulnerabilità alle dipendenze negli adolescenti.
[PB4] Paolo Berretta. Rischi digitali in adolescenza: il nuovo articolo ISS.
[PB5] Paolo Berretta. Corso FAD ISS: rete e dispositivi digitali in età evolutiva.