Muchas personas piensan que plataformas impulsadas por la inteligencia artificial (IA), como ChatGPT, carecen de límites y que, por ende, los usuarios pueden hacer lo que les plazca con ellas, sin embargo, lo cierto es que esto no podría estar más lejos de la realidad. Por ejemplo, hace poco se dio a conocer que, en lo que respecta al chatbot de OpenAI, hay una serie de cosas de las que no puedes hablar, pues si lo haces lo más probable es que la conversación se bloquee o termine de golpe sin razón aparente.
Ahora se ha revelado que, además de temas como tal, ChatGPT también es reacio a responder consultas en las que se incluyen determinados nombres propios. Aunque parezcan simples errores aislados, la realidad es que esta clase de comportamientos por parte del chatbot de OpenAI tienen una explicación y están programados para que sucedan cuando los usuarios realizan ciertos tipos de búsquedas en su interfaz.
2Este comportamiento podría traer graves consecuencias…
Aunque no es la intención de OpenAI, está reacción de talante censurador por parte de ChatGPT podría generar que los ciberdelincuentes se aprovechen de ella para incluir en sus sitios web referencias a estos nombres, con el propósito de que este chatbot no sea capaz de rastrearlos. Asimismo, cualquier atacante podría interrumpir una sesión de esta herramienta solo con filtrar alguno de los nombres prohibidos en su interfaz.
En resumidas cuentas, estamos ante uno de esos comportamientos por parte de ChatGPT que siguen sin ser comprendidos en su totalidad por los internautas. Por ello, solo nos queda esperar a que OpenAI dé explicaciones al respecto o a que directamente esto deje de suceder en las actualizaciones futuras de este chatbot.
