OpenAI ha anunciado una serie de cambios profundos en ChatGPT, su modelo de inteligencia artificial conversacional, con el objetivo de reforzar la protección de los usuarios en situaciones de crisis emocional y mental. La compañía quiere que su herramienta no solo sea un espacio de diálogo, sino también un apoyo responsable que pueda identificar riesgos de autolesión, violencia o angustia grave con mayor eficacia.
Estas mejoras llegan en un momento delicado, marcado por tragedias recientes y demandas judiciales que han puesto en el centro del debate la relación entre adolescentes y ChatGPT. El reto no es menor: garantizar que la tecnología acompañe, pero sin convertirse en un factor de riesgo cuando la vulnerabilidad emocional se cruza con la dependencia digital.
3Más allá de los bloqueos: conectar con la vida real
OpenAI quiere ir más allá de la simple respuesta automatizada. Según ha explicado, el nuevo enfoque contempla que ChatGPT no siempre dé una contestación directa cuando detecte señales de riesgo sutiles. En esos casos, en lugar de elaborar una respuesta neutra, la IA podría “anclar” a la persona a la realidad, recordándole la importancia de buscar apoyo humano y evitando alimentar pensamientos dañinos.
Un ejemplo concreto es el refuerzo en el bloqueo de contenido gráfico relacionado con autolesiones. En ocasiones, el modelo subestimaba la gravedad de ciertas peticiones y permitía la circulación de imágenes sensibles. Con las nuevas medidas, el sistema será más estricto, evitando que material dañino llegue a los usuarios.
Además, OpenAI está trabajando en recursos de emergencia más accesibles. En Estados Unidos y Europa, ya ha comenzado a establecer enlaces directos con líneas de ayuda locales. La idea es que un usuario en crisis no tenga que buscar un número telefónico, sino que pueda acceder a un servicio de emergencia con un solo clic.
