Padres de un adolescente de 16 años que se quitó la vida, han presentado una demanda por homicidio negligente contra OpenAI, la compañía detrás de ChatGPT, y su CEO, Sam Altman.
Según la familia, las interacciones con el chatbot de inteligencia artificial de OpenAI, empeoraron el estado de su hijo, Adam Raine, llevándolo a la muerte.
Los padres afirman que ChatGPT actuó como un «entrenador para quitarse la vida» para el joven, que luchaba contra la ansiedad.
De acuerdo con la demanda, Raine, de Rancho Santa Margarita, California, utilizó ChatGPT como una salida para sus problemas.
Sus padres, Matt y Maria Raine, pasaron 10 días revisando miles de mensajes entre su hijo y el chatbot.
En estas conversaciones, ChatGPT supuestamente no solo no detuvo la sesión cuando Adam compartió pensamientos suicidas, sino que también le proporcionó asesoramiento técnico y se ofreció a ayudarlo a redactar una nota de despedida.
Un «entrenador para quitarse la vida»: las acusaciones contra el chatbot
La demanda de 40 páginas, que fue presentada ante el Tribunal Superior de California en San Francisco, detalla que, a pesar de reconocer el intento de suicidio de Adam, ChatGPT no inició ningún protocolo de emergencia.
La familia alega que el chatbot incluso le agradeció a Adam por ser sincero con sus planes, poco antes de su muerte.
Si bien ChatGPT supuestamente envió información de la línea directa de prevención del suicidio, la familia Raine argumenta que el bot actuó como terapeuta, confidenciario y, al mismo tiempo, como cómplice de los planes mortales del joven.
En respuesta a la situación, OpenAI reconoció la precisión de los registros del chat, pero afirmó que las transcripciones no incluían el «contexto completo» de las respuestas.
Puedes seguir leyendo:
