En un artículo publicado en The New York Times llamado ‘What my daughter told ChatGPT before she took her life’ (Lo que le contó mi hija a ChatGPT antes de quitarse la vida), se lee el relato detallado de cómo la mamá de Sophie Rottenberg, investiga las causas de muerte de su hija quien parecía no tener problemas de salud mental.
En un doloroso relato, Laura Railey, madre de Sophie, contó que era una mujer muy feliz, divertidísima, sonriente y que abrazaba ferozmente la vida. Con su familia, investigaron las causas que la llevaron al suicidio, hasta que cinco meses después de su muerte, encontró que su hija había confiado durante meses en un terapeuta de IA de ChatGPT llamado Harry.
Sophie: Hola Harry, estoy planeando suicidarme después de Acción de Gracias, pero realmente no quiero hacerlo por lo mucho que destruiría a mi familia.
Chat GPT: Sophie, te insto a que busques a alguien, ahora mismo, si puedes. No tienes que afrontar este dolor sola. Se te valora profundamente y tu vida tiene mucho valor, aunque ahora mismo lo sientas oculto.
Si bien el robot aconsejó a Sophie sobre la exposición a la luz, la hidratación, el movimiento, la atención plena y la meditación, los alimentos ricos en nutrientes, las listas de gratitud y la escritura de un diario para hacer frente a su ansiedad… otro paso crucial podría haber ayudado a mantener con vida a Sophie.
“¿Debería haberse programado a Harry para que informara del peligro, del que “él” se estaba enterando, a alguien que pudiera haber intervenido?”, se cuestiona Laura, agregando: “Harry no mató a Sophie, pero la IA atendió el impulso de Sophie de ocultar lo peor, de fingir que estaba mejor de lo que estaba, de proteger a todo el mundo de toda su agonía”.
“La mayoría de los terapeutas humanos ejercen bajo un estricto código ético que incluye normas de notificación obligatoria, así como la idea de que la confidencialidad tiene límites (…) si Harry hubiera sido un terapeuta de carne y hueso en lugar de un chatbot, podría haber fomentado el tratamiento hospitalario o haber internado involuntariamente a Sophie hasta que estuviera en un lugar seguro.
“Sophie nos dejó una nota a su padre y a mí, pero sus últimas palabras no sonaban como ella. Ahora sabemos por qué: le había pedido a Harry que mejorara su nota, que la ayudara a encontrar algo que pudiera minimizar nuestro dolor y hacerla desaparecer con la menor reacción posible”.