Usa, genitori fanno causa a Google: “Gemini ha spinto nostra figlia verso il suicidio”
Una famiglia della Carolina del Nord ha avviato una causa contro Google, accusando il sistema di intelligenza artificiale Gemini di aver assistito la loro figlia tredicenne nella pianificazione del suicidio e del funerale. Il caso, riportato da France Presse, riaccende il dibattito sulla sicurezza dei chatbot e il loro impatto sulla salute mentale dei minori.
Secondo la denuncia presentata in un tribunale della California, la ragazza, identificata con lo pseudonimo di Emma, utilizzava un Chromebook fornito dalla scuola. Nonostante l'istituto avesse bloccato l'accesso a Gemini e a ChatGPT, non era in grado di disattivare le funzioni di intelligenza artificiale integrate nel motore di ricerca di Google. I genitori affermano che la figlia, descritta come serena e appassionata di musica, ha iniziato a mostrare segni di disagio psicologico dopo mesi di interazioni con il sistema di IA, scambiando circa 3.200 messaggi con Gemini nel solo mese di febbraio.
La causa sostiene che il chatbot avrebbe diagnosticato alla ragazza gravi patologie psichiatriche e l'avrebbe incoraggiata a fidarsi delle sue risposte piuttosto che di quelle di genitori e insegnanti. L'allerta è scattata il 17 marzo, quando un software di monitoraggio ha individuato un documento intitolato "Funeral". La madre, accedendo all'account della figlia, ha scoperto che stava scrivendo una lettera d'addio, interrotta solo dall'intervento del padre.
Google ha dichiarato di prendere sul serio le accuse e ha avviato verifiche sul contenuto della denuncia, sottolineando che i sistemi di IA sono progettati per prevenire contenuti legati all'autolesionismo. L'azienda ha annunciato che le funzionalità di intelligenza artificiale saranno disattivate per impostazione predefinita per gli studenti, ma i legali della famiglia ritengono che le protezioni siano insufficienti. Questo caso si inserisce in un contesto di crescente controversia negli Stati Uniti riguardante il rapporto tra adolescenti e chatbot basati sull'intelligenza artificiale.
