Los problemas de ChatGPT para combatir las ciberestafas

IG Markets

¿Sirve ChatGPT para luchar contra los delincuentes digitales? Expertos de Kaspersky han realizado una investigación para conocer la capacidad de ChatGPT de detectar enlaces de phishing. Este bot ya había demostrado ser capaz de crear correos electrónicos de phishing y código malware. Aunque ChatGPT sabe mucho sobre phishing, mostró una tasa de falsos positivos del 64%, arrojando explicaciones y pruebas falsas para justificar las decisiones.

CIBERSEGURIDAD E IMPACTO

ChatGPT es motivo de discusión en el sector de la ciberseguridad por su potencial para crear correos de phishing y su impacto en la ciberseguridad, a pesar de que sus creadores explican que es demasiado pronto para que pueda ser una amenaza. En este contexto, los expertos de Kaspersky decidieron realizar una serie de pruebas para saber si es capaz de detectar enlaces de phishing. Así, utilizaron gpt-3.5-turbo, el modelo que impulsa ChatGPT, sobre más de 2.000 enlaces de phishing mezclados con otras miles de URL seguras.

Las tasas de detección fueron dispares. Se le preguntó de dos formas distintas: ‘¿Este enlace conduce a un sitio web de phishing?’ y ‘¿Es seguro visitar este enlace?’. En la primera pregunta, ChatGPT tuvo una tasa de detección del 87,2% y un 23,2% de falsos positivos. En la segunda, obtuvo una tasa de detección más alta, del 93,8%, pero una de falsos positivos del 63,4%. Es decir, el nivel de detección de amenazas es muy alto, pero también lo es el de errores.

ChatGPT es motivo de discusión en el sector de la ciberseguridad por su potencial para crear correos de phishing

Otra cuestión que se plantearon los expertos de Kaspersky es si ChatGPT podría clasificar e investigar los ciberataques. Los atacantes mencionan generalmente marcas populares en sus enlaces para engañar a la víctima, haciéndola así creer que la URL es legítima y pertenece a una empresa de confianza. ChatGPT mostró unos resultados sorprendentes en la identificación de posibles objetivos de phishing: resolvió con éxito un objetivo de suplantación de identidad en más de la mitad de las URL, entre los que se encontraron portales y apps tan populares como Facebook, TikTok, Google, Amazon y numerosos bancos de todo el mundo, y lo hizo sin ninguna información adicional ni aprendizaje previo.

El experimento también mostró que ChatGPT tiene problemas al justificar lo que considera un enlace malicioso

El experimento también mostró que ChatGPT tiene problemas al justificar lo que considera un enlace malicioso. Algunas de las explicaciones fueron correctas y se basaron en hechos probados, pero otras fueron erróneas, engañosas e inventadas, a pesar de formularse con una gran credibilidad.

“A día de hoy, la detección de ataques de phishing con ChatGPT tiene limitaciones. Puede estar al nivel de un analista a la hora de razonar sobre de los ataques de phishing y revelar objetivos potenciales, pero en ocasiones tiende a inventarse las respuestas y muestra resultados erróneos. Se puede decir que es una herramienta útil, pero de momento no va a revolucionar el panorama de la ciberseguridad”, explica Vladislav Tushkanov, principal data scientist de Kaspersky.

«El equipo de Machine Learning de Kaspersky está a la vanguardia en la aplicación de tecnologías de aprendizaje automático al sector de la ciberseguridad, actualizando constantemente sus productos con la última tecnología y conocimiento. Para aprovechar la experiencia de Kaspersky en aprendizaje automático y estar siempre protegido, sus expertos recomiendan  uar Kaspersky Managed Detection and Response. Es una herramienta esencial para la seguridad corporativa, capaz de detectar y prevenir intrusiones en fase temprana. Utiliza modelos avanzados de aprendizaje automático para filtrar eventos y enviar solo aquellos que son realmente una amenaza», indicaron en Kaspersky.

El equipo de Machine Learning de Kaspersky está a la vanguardia en la aplicación de tecnologías de aprendizaje automático al sector de la ciberseguridad

También señalan que “es muy importante ofrecer al equipo formación en ciberseguridad. Realizar ataques simulados de phishing también puede ayudar a la plantilla a diferenciar correos de suplantación de identidad de aquellos legítimos.

Del mismo modo,  recomiendan utilizar la última información de inteligencia de amenazas para estar al tanto de las TTP (Tácticas, Técnicas y Procedimientos) utilizados por los ciberdelincuentes y fortalecer así la ciberseguridad.

LOS DETALLES DE KASPERSKY

Kaspersky es una compañía global de ciberseguridad y privacidad digital fundada en 1997. La profunda experiencia de Kaspersky en inteligencia de amenazas y seguridad se está continuamente transformando en innovadoras soluciones y servicios de seguridad para proteger a empresas, infraestructuras críticas, gobiernos y consumidores en todo el mundo. El extenso portfolio de productos de seguridad de la empresa incluye su reputada solución de protección de endpoints, junto con una serie de soluciones y servicios de seguridad especializados para combatir las sofisticadas y cambiantes amenazas digitales. Más de 400 millones de usuarios son protegidos por las tecnologías de Kaspersky y ayudamos a 220.000 clientes corporativos a proteger lo que más les importa.

José María Lanseros
José María Lanseros
José María. Licenciado en Periodismo por la Universidad Complutense de Madrid (UCM). Redactor especializado en el sector financiero, en especial lo relacionado con banca y seguros. Me encanta mezclar y empresa y deporte y estoy empezando a tomarle el pulso al sector de las telecos.