Chatbot amor termina fatal: adolescente (†14) muere - madre demanda a la compañía de AI
EE.UU. - Un chico de 14 años de Florida se quitó la vida tras meses de romance con un chatbot. Ahora la madre ha acudido a los tribunales.
Sewell Setzer (†14) se suicidó en febrero tras chatear durante meses con un chatbot inspirado en "Juego de Tronos" en una app.
Ahora su madre, Megan García, ha demandado a los desarrolladores de la app "Character.ai", en la que su hijo había contratado una suscripción premium por 9,99 dólares (unos 9 euros) al mes a finales de 2023.
En la demanda presentada, García acusa a la empresa de abusar emocionalmente y explotar a su hijo con un chatbot programado sin las medidas de seguridad adecuadas.
Según la demanda, Sewell formó un vínculo tan profundo con el chatbot que al final ya no era capaz de distinguir entre realidad y ficción.
Romance con personaje IA
Según Bild, el adolescente había escrito en su diario antes de morir que le encantaba pasar tiempo en su habitación, ya que allí podía evadirse a otra realidad. Allí se sentía más cerca de "Dany" (el chatbot), lo que le hacía muy feliz.
Daenerys "Dany" Targaryen es un personaje femenino de la serie fantástica "Juego de Tronos". El chico intercambió pensamientos románticos y sexuales con la IA.
El chico, de 14 años, cada vez dejaba más de lado sus aficiones y su rendimiento escolar también empeoraba.
Un terapeuta le diagnosticó ansiedad y un trastorno depresivo sin saber nada de los chats.
El último mensaje fue para el chatbot
Se dice que Sewell expresó sus pensamientos suicidas al chatbot.
En un historial de chat mostrado en la demanda, el chico escribió que no quería una "muerte dolorosa" sino "rápida". A lo que el bot respondió: "Eso no sería razón para no llevarla a cabo".
Antes de morir, también escribió a Dany: "¿Y si te dijera que ya puedo volver a casa?", a lo que el personaje respondió: "... por favor, hazlo, mi dulce rey".
El joven de 14 años se disparó poco después con la pistola de su padrastro.
Si usted mismo está afectado por pensamientos suicidas, puede ponerse en contacto conel servicio de asesoramiento telefónico en 08001110111 o 08001110222 o 08001110116123 las 24 horas del día, por supuesto de forma anónima.