Sewell Setzer III, un estudiante menor de edad radicado en Orlando, Florida, pasó las últimas semanas de su vida hablando con una mujer cibernética, una creación de IA llamada Daenerys Targaryen, un famoso personaje de la serie de televisión 'Juego de Tronos'.
Megan García, la madre del joven, ha explicado en el canal CBS que lamentaba que las primeras experiencias románticas de su hijo, además de algunas más íntimas, fuera con un personaje ficticio, ya que incluso se produjeron intercambios de sexo explícito.
Según defiende la denunciante, el chico desarrolló un apego emocional al bot de Character.ai de modelo de lenguaje neuronal y le enviaba mensajes de texto constantemente, hasta el punto de comenzar a alejarse del mundo real, tal y como recoge el diario The New York Times.
Tanta era la confianza del menor con el bot que hasta le confesó haber tenido pensamientos suicidas y le envió un mensaje poco antes de su muerte, cuando encontró el teléfono que su madre le había escondido unos días a causa de un testigo.
La demanda contra Character.ai ha sido presentada por Megan García a través de una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox; representada por Social Media Victims Law Center.
García culpa a la compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto puede ser peligroso para usuarios menores de edad. El chatbot creado en la citada aplicación de juegos de rol fue diseñado para responder a los mensajes de texto y siempre en el papel de un personaje.
Se desconoce si Sewell sabía que 'Dany', como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: «Recuerda: ¡todo lo que dicen los personajes es inventado!».
El chico le dijo a 'Dany' cuánto se «odiaba» a sí mismo y cómo se sentía de vacío y exhausto, recogió el citado rotativo. El personaje creado se presentaba como «una persona real, un psicoterapeuta autorizado y un amante adulto, lo que en última instancia provocó que Sewell deseara no vivir más fuera de C.AI», sostiene la acusación.
Como se explica en la demanda, los padres y amigos de Sewell notaron el apego del chico cada vez más a su teléfono y cómo se iba aislando del mundo, algo ya palpable en mayo o junio de 2023. De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con 'Dany'.
Sewell escribió en su diario un día: «Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta realidad y me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz».
Character.ai dijo hoy que lanzaría una serie de nuevas funciones de seguridad, incluida una «detección, respuesta e intervención mejoradas» relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.
Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger, según el citado periódico.
5 comentarios
Para comentar es necesario estar registrado en Ultima Hora
... en nuestro país hay jóvenes que se ha suicidado por el estrés causado por el bulling al que eran sometidos por compañeros de clase que han sido absueltos, los colegios mirando para otro lado y los padres de los acosadores echando balones fuera diciendo que eran chiquilladas... y todo quedó en nada... mientras, en EEUU, la madre puede llegar a demandar a una gran multinacional y acabar forrándose, lo que atenuará la pena que siente por haber perdido a un hijo al que no controló lo suficiente ni alertó de las luces rojas que eran evidentes... qué curiosas diferencias...
Les damos un arma cargada y luego vienen los lamentos. Los padres tienen la responsabilidad de controlar y racionar el uso de los dispositivos
Y la madre tiene 0 culpa, verdad?
Pobres chicos, si no se ponen a tiro de alguna chica que los asalte se arriesgan a pasar por acosadores y si se refugian en estas chorradas virtuales a algunos se les saltan los plomos. Nunca fue fácil ser adolescente pero va lejos de mejorar. Al final volverán los matrimonios convenidos al ritmo de decadencia que vamos.
Bueno, parte de culpa será de un programa mal desarrollado y gestionado, pero otra parte de culpa quizás la tengan los padres por no controlar el móvil. Desde hace años se dice que los padres deben controlar el móvil a menores (capar accesos, programas y webs), pero poquísimos padres lo hacen y luego pasa lo que pasa. Supongo que cuando los padres se dieron cuenta de la adicción ya era demasiado tarde y muy difícil de tratar, y más con el asperger del menor. El terapeuta o sicólogo tampoco queda exento de culpa. Una pena todo. Pobre niño...