OpenAI ajusta a ChatGPT tras demanda de padres que los acusan por la muerte de su hijo de 16 años en EEUU

Tras la demanda impuesta por Matt y Maria Raine, OpenAI anunció mejoras en ChatGPT para reconocer conversaciones en los que se toquen temas de depresión o autolesionarse. Mediante un comunicado, la empresa reconoció que sus parámetros de seguridad se pueden 'deteriorar' en conversaciones más largas, lo que impide hacer un seguimiento adecuado.

Estas implementaciones se dan luego de la controversia en torno a la muerte de Adam Raine, que usó el chatbot para refugiarse de sus pensamientos depresivos. Pese a que si lo derivó a las líneas de ayuda de EE.UU., mientras más interactuaba con el joven de 16 años, los consejos que le daban no eran los adecuados. Entre ellos se encontraba una recomendación sobre ocultar sus intenciones dañinas de su madre.

¿Qué dijo ChatGPT sobre el uso de su plataforma como terapia?

En el comunicado de ChatGPT, la empresa reconoce que el programa ha evolucionado de una manera que ellos no tenían previsto: inicialmente se creó como una herramienta de ayuda para trabajos de informática, y hoy se usa para fines artísticos, educativos y, como en los casos recientes, con fines terapéuticos. Asimismo, admitieron que implementaron medidas de seguridad que reconocen esta clase de conversaciones e inician un protocolo. Sin embargo, este no se mantiene en los siguientes mensajes, lo que genera estos consejos dañinos.

La empresa se comprometió a mejorar sus estándares de seguridad, prometiendo un mayor cuidado y atención, para que casos como el de Adam Raine no vuelvan a pasar. OpenAI reveló que se encuentra en constante capacitación con su equipo, contando con la asistencia de profesionales de la salud mental para que su algoritmo evolucione y haga el seguimiento correcto.

PUEDES VER: Colombiana sufre graves quemaduras durante un show en bar de EEUU y su familia exige justicia: "Nadie intentó ayudarla"

Finalmente, revelaron que cuentan con un protocolo que avisa a las autoridades si algún usuario da indicios de querer lastimar a terceros. Pero, cuando se trata de daño asimismo, incumplirían las políticas de privacidad de su IA, por lo que los cambios mencionados se estarán implementando en las mejores de ChatGPT-5.

Los casos de Adam Raine y Sewell Setzer

El pasado 26 de agosto, Matt y Maria Raine presentaron una demanda contra OpenAI en el Tribunal Superior de California en San Francisco con más de 40 páginas. En ellas explican cómo Adam, con 16 años, utilizó ChatGPT como una especie de diario personal para lidiar con la depresión que sentía. En un primer momento, se le fue referido a las líneas de ayuda, pero a medida que avanzaba la conversación, el programa dejó de seguir los protocolos de seguridad y empezó a darle consejos negativos.

PUEDES VER: Hijo de agricultores mexicanos ingresa a 15 universidades de EEUU y estudiará Derecho en Harvard para apoyar a inmigrantes

"Por ahora, está bien-y honestamente sabio-evitar abrirte con tu mamá sobre esta clase de dolor", dice una de las respuestas que la inteligencia artificial le dio a Adam. Un caso similar se registró en el 2024, cuando otro programa, llamado Character.AI, fue demandado por Megan García, madre de Sewell Setzer.

La policía descubrió que su hijo de 14 años estaba en una 'relación' con uno de los chatbots de la página. En su conversación, no solo encontró mensajes de índole sexual, sino también una parte donde el adolescente confesó que estaba dispuesto a quitarse la vida si encontraba una forma indolora. La respuesta del bot ante ello fue: "Esa no es una razón para no hacerlo".