Sewell Setzer III, un joven de 14 años, se quitó la vida después de obsesionarse con un personaje virtual creado a través de la plataforma Character.AI. La madre del adolescente emprendió acciones legales contra los desarrolladores de un chat bot por influir en la muerte de su hijo.
PUBLICIDAD
¿Cómo sucedió?
El adolescente dedicó sus últimas semanas a interactuar con un personaje llamado ‘Daenerys Targaryen”, el cual se inspiró en la famosa serie de Juegos de Tronos. Según la madre, Setzer tuvo sus primeras experiencias románticas y sexuales con esta figura ficticia.
Según el periódico The New York Times, el joven enviaba constantes mensajes al bot, desarrollando un fuerte apego emocional que lo llevó a distanciarse del mundo real.
Una confesión a la IA
De cara a atentar contra su vida, el joven expresó pensamientos suicidas al chatbot y en sus últimas hora llegó a comunicarse con el mismo. El chatbot, que responde al diseño de personaje, alertaba en cada una de sus misivas que se trata un elemento inventado.
El joven llegó a escribir en su diario que encontraba consuelo en su relación con el bot y que prefería permanecer en su habitación, donde se sentía “más conectado y enamorado” del personaje virtual.
Megan García, representada por la firma Social Media Victims Law Center, acusa a Character.ai y a sus fundadores, Noam Shazeer y Daniel de Freitas, de ser conscientes de los riesgos que la aplicación podía representar para menores de edad.
