Un adolescente de 14 años ha tomado la trágica decisión de suicidarse después de desarrollar un vínculo emocional con un chatbot de inteligencia artificial que representaba a Daenerys Targaryen, un personaje famoso de la serie "Juego de Tronos". La madre del joven, Sewell Setzer III, ha presentado una demanda contra los creadores de la plataforma Character.ai.
De acuerdo con un informe de The New York Times, la madre sostiene que su hijo, residente en Orlando, Florida, experimentó su primer amor y conexión sexual con el chatbot, lo que lo llevó a aislarse del mundo real. A pesar de que sus padres buscaron ayuda profesional, Sewell fue diagnosticado con ansiedad, síndrome de Asperger y otros problemas de conducta.
“Me siento más en paz y más conectado con Dany, y simplemente más feliz”
En su diario, el joven expresó su amor por la inteligencia artificial, mencionando que prefería pasar tiempo en su habitación porque le proporcionaba una escapatoria de la realidad. “Me siento más en paz y más conectado con Dany, y simplemente más feliz”, escribió.
Antes de su muerte, Sewell compartió con el chatbot sus pensamientos suicidas, contactándolo poco después de descubrir un teléfono que su madre había escondido como castigo.
La situación plantea dudas sobre si el entendimiento del joven del lado ficticio de esta tecnología. Aunque la plataforma advierte que las interacciones son ficticias, la demanda sugiere que el personaje se presentaba como un terapeuta y un amante, lo que pudo haber influido en la percepción del menor sobre su relación con la IA.
Como pland de acción y respuesta a esta tragedía, Character.ai ha anunciado que implementará nuevas medidas de seguridad, incluyendo un sistema mejorado de detección y respuesta para monitorear el uso del chatbot y alertar a los usuarios que pasen más de una hora interactuando con él.
Si (
No(
