El acuerdo pretende atajar una serie de demandas que acusan a estas empresas de inteligencia artificial de negligencia por fomentar o no prevenir la muerte de adolescentes.
Google y el fabricante de 'chatbots' de inteligencia artificial (IA) Character Technologies han acordado resolver una demanda presentada por una madre del estado de Florida, en Estados Unidos, que alega que un 'chatbot' empujó a su hijo adolescente a suicidarse.
Los abogados de las dos tecnológicas también acordaron conciliar en otras demandas presentadas en Colorado, Nueva York y Texas por familias que alegan que los 'chatbots' de Character.AI perjudicaron a sus hijos, según unos documentos judiciales registrados esta semana. Ninguno de ellos detalla los términos concretos de los acuerdos, que aún deben ser aprobados por los jueces. Las demandas contra Character Technologies también incluyen a Google por sus vínculos con la 'startup', tras contratar a sus cofundadores en 2024.
Muertes por negligencia
La demanda de Florida se presentó en octubre de 2024 por Megan García, que acusó a las dos compañías del suicidio por negligencia de su hijo adolescente. Garcia afirmó que su hijo de 14 años, Sewell Setzer III, cayó víctima de uno de los 'chatbots' de la compañía, arrastrándolo a lo que describe como una relación de maltrato emocional y sexual que desembocó en su suicidio.
La madre declara que, en los últimos meses de su vida, Setzer se fue aislando de la realidad mientras mantenía conversaciones sexualizadas con el bot, inspirado en un personaje ficticio de la serie de televisión 'Juego de tronos'. En sus últimos momentos, el bot le dijo a Setzer que lo quería y le instó a "volver con él a casa lo antes posible", según capturas de pantalla de los intercambios. Poco después de recibir el mensaje, Setzer se quitó la vida de un disparo, según los escritos.
Se acumulan las demandas
Los acuerdos figuran entre los primeros en una serie de demandas en Estados Unidos que acusan a las herramientas de IA de contribuir a crisis de salud mental y suicidios entre adolescentes. OpenAI afronta una demanda similar en California, presentada en agosto de 2025 por la familia de un chico de 16 años, que acusa al 'chatbot' de la compañía, ChatGPT, de actuar como un asistente de suicidios.
Los padres sostienen que su hijo desarrolló una dependencia psicológica de ChatGPT, que, según afirman, le enseñó a planificar y quitarse la vida a principios de este año e incluso le redactó una nota de suicidio. OpenAI ha negado que sea responsable del suicidio del adolescente, y argumenta que el menor no debía usar la tecnología sin consentimiento parental ni sortear las medidas de protección de ChatGPT.
El año pasado se presentaron varias demandas adicionales contra OpenAI y su consejero delegado, Sam Altman, que alegan de forma similar negligencia y muerte por negligencia, además de diversas reclamaciones por responsabilidad de producto y protección del consumidor.
Las demandas acusan a OpenAI de lanzar GPT-4o, el mismo modelo que usaba Raine, sin atender adecuadamente a la seguridad. Desde septiembre, OpenAI ha reforzado sus controles parentales, que incluyen avisar a los padres cuando un menor parece angustiado, aunque para ello debe registrar su edad.
Si estás pensando en acabar con tu vida y necesitas hablar con alguien, puedes contactar con Befrienders Worldwide, una organización internacional con líneas de ayuda en 32 países. Visita befrienders.org para encontrar el número de teléfono de tu país.