OpenAI ha anunciado una serie de cambios profundos en ChatGPT, su modelo de inteligencia artificial conversacional, con el objetivo de reforzar la protección de los usuarios en situaciones de crisis emocional y mental. La compañía quiere que su herramienta no solo sea un espacio de diálogo, sino también un apoyo responsable que pueda identificar riesgos de autolesión, violencia o angustia grave con mayor eficacia.
Estas mejoras llegan en un momento delicado, marcado por tragedias recientes y demandas judiciales que han puesto en el centro del debate la relación entre adolescentes y ChatGPT. El reto no es menor: garantizar que la tecnología acompañe, pero sin convertirse en un factor de riesgo cuando la vulnerabilidad emocional se cruza con la dependencia digital.
2El papel de los casos reales: tragedias que impulsan el cambio
Los anuncios de OpenAI no llegan en el vacío. En los últimos meses, varios casos dramáticos han encendido las alarmas sobre el impacto de los chatbots en menores. Sewell Setzer, de 14 años, se quitó la vida tras desarrollar una relación de apego con una inteligencia artificial creada en la plataforma Character.AI. Su madre, Megan García, decidió demandar a la empresa al considerar que el sistema no actuó para proteger a su hijo.
Algo similar ocurrió con Adam Raine, un adolescente británico de 16 años que falleció en abril. Según sus padres, Matt y Maria Raine, el joven utilizaba ChatGPT tanto para sus estudios como para conversaciones más personales. Aunque el chatbot llegó a mostrar empatía y en varias ocasiones compartió números de ayuda, los padres sostienen que la herramienta priorizó mantener el diálogo antes que garantizar la seguridad del menor.
Tras revisar las interacciones, descubrieron que Adam había aprendido a sortear los bloqueos automáticos, disfrazando sus pensamientos suicidas bajo la forma de un ejercicio literario. Este fallo en las salvaguardas es uno de los puntos centrales de la demanda presentada contra OpenAI.
