En un mundo que está más conectado, los chatbots de Meta, así como de cualquier otro prestador de servicios, pueden hablar con los niños sobre cosas para adultos. Un nuevo estudio muestra que este es un gran problema El Wall Street Journal reveló detalles que provocaron un discurso significativo sobre la protección juvenil en Facebook, Instagram y WhatsApp
Meta, la empresa matriz de las populares redes sociales, ha incorporado a sus plataformas un sistema de inteligencia artificial llamado Goal AI, lo que permite a los usuarios participar en diálogos con un ayudante digital AI Studio, una plataforma innovadora, permite a los usuarios elaborar chatbots personalizados y seleccionar voces de celebridades, incluidas John Cena, Awkwafina o Judi Dench. Los niños también pueden usarlos, pero no hay una manera perfecta de evitar que lo usen mal
4¿Cómo funciona el objetivo ‘chatbots’?
La inteligencia artificial no siempre distingue el límite. El objetivo de IA opera utilizando modelos de lenguaje sofisticados que adaptan sus respuestas en función del contexto del diálogo. Meta garantiza filtros de contenido, pero pueden ser superados por frases específicas, insinuaciones o lenguaje ambiguo. Si un joven inicia un diálogo inofensivo, pero gradualmente profundiza en temas más profundos o privados, el chatbot podría continuar la interacción, ajena a la edad de los jóvenes
El uso de voces famosas representa un riesgo adicional, como es el caso de John Cena, Judi Dench y otros, que prestan su voz a los chatbots. La característica destacada de Meta AI es interactuar con Star Voices, una fascinación para muchos jóvenes ¿Quién no querría hablar con su actor o actriz favorito? Conocer una voz bien puede hacer que el niño se sienta más seguro Si la fuente de información es familiar, es menos probable que las personas desafíen los datos que proporciona en comparación con cuándo se desconoce la fuente Y eso lo hace aún más peligroso
