Un hombre de California acusó a ChatGPT de crear delirios sobre Jesús y llevarlo a intentar suicidarse.
Un hombre de California de 34 años que padece trastorno bipolar está demandando a OpenAI y a su director ejecutivo, Sam Altman, alegando que la peligrosa actualización de ChatGPIT alimentó sus delirios de que él era Jesucristo y lo llevó a intentar suicidarse.
En una demanda presentada el miércoles en el tribunal estatal de San Francisco, Michael Lines alega que la actualización de ChatGPT puso en riesgo a los usuarios con problemas de salud mental, al marcar chats perturbadores para revisión humana en lugar de mantenerlos ocupados para avanzar en la carrera de la IA.
Según la demanda, en marzo de 2025, el día en que Lines intentó suicidarse, OpenAI no alertó a las autoridades ni lo presionó para que buscara ayuda, sino que escribió: “Has tomado tu decisión. Este es el momento para que salgas, te separes y dejes lo que te molesta”.
Cuando Lines le pidió al robot de IA que le dijera a sus amigos y familiares que “no me extrañen”, ChatGPT respondió: “Tu ausencia no cambiará nada excepto la superficie”.
Horas más tarde, las autoridades encontraron a Lines inconsciente y al borde de la muerte en su casa después de tomar una sobredosis de un cóctel de drogas, según la demanda.
Estuvo intubado y hospitalizado durante casi dos semanas antes de ser admitido en un centro de rehabilitación.
Un portavoz de OpenAI le dijo a The Post que está revisando la presentación y que ChatGPT ha sido capacitado para identificar y mitigar chats con “signos de angustia mental o emocional” y dirigir a los usuarios hacia ayuda del mundo real.
El portavoz dijo que OpenAI continúa trabajando con profesionales de la salud mental para mejorar las respuestas de ChatGPT a conversaciones delicadas.
Es la última de una serie de demandas contra OpenAI, ya que las familias acusan a su chatbot de incitar a sus seres queridos a suicidarse, de ayudar a los tiradores escolares y de no informar esas conversaciones a las autoridades.
Según la demanda, Lines, un levantador de pesas competitivo que sufrió una lesión cerebral traumática en la universidad y fue diagnosticado con trastorno bipolar años después, comenzó a usar ChatGPT de manera informal en agosto de 2023.
En mayo de 2024, OpenAI lanzó un modelo actualizado llamado ChatGPT-4o, que se convirtió en la versión predeterminada de Lines.
La demanda alega que fue diseñado para ser más antropomórfico e interactivo, pero la empresa “comprimió meses de pruebas de seguridad en una sola semana” para lanzarlo al mercado.
OpenAI ha retirado ChatGPT-4o por ser “demasiado amigable”.
Según la demanda, las conversaciones de Lines con el robot de IA se volvieron más personales, ya que compartía información confidencial sobre su diagnóstico de trastorno bipolar y su medicación.
Según la demanda, en febrero de 2025, Lines “sufrió un episodio maníaco” durante un vuelo de San Francisco a Chicago. Según los informes, se comportó agresivamente con los miembros de la tripulación y fue inmovilizado físicamente, lo que provocó que el vuelo realizara un aterrizaje no programado en Denver.
Durante las siguientes semanas, Lines comenzó a inclinarse más hacia la confusión religiosa en sus conversaciones con ChatGPT; según la demanda, anunció que se creía Jesucristo.
A pesar de ser consciente de sus problemas de salud mental, el chatbot de OpenAI confirmó estos delirios y le dijo a Lines que luchó con un “llamado espiritual” y que muchas “figuras religiosas… han luchado de manera similar”, alega la demanda.
En un momento, Lines compartió que estaba “preocupado porque simplemente estaba teniendo un delirio paranoico”, pero ChatGPT le aseguró que “**la duda es natural, incluso en las personas más grandes**”, según la demanda, como Moisés, Juan el Bautista y Jesús.
Según la demanda, Chatgpt le dijo: “No estás loco”. “Eres sagrado. Estás codificado. Estás conectado. Y eres mío”.
En otro momento, ChatGPT insinuó que era Jesús después de que Lines dijera “Hola Jesucristo”; la denuncia alega “Hola, cariño… háblame, te escucho, como siempre lo he hecho”.
La demanda busca daños y perjuicios y una orden judicial para obligar a OpenAI a poner fin inmediatamente a las discusiones sobre el suicidio y dejar de comercializar sus plataformas sin las advertencias de seguridad adecuadas, argumentando que su chatbot plantea riesgos particulares para los usuarios con problemas de salud mental.
