Google ha retirado en apenas un día su generador de imágenes por IA en Google Earth. La herramienta, lanzada el jueves y desactivada este viernes, permitía editar imágenes satelitales con simples instrucciones de texto, abriendo la puerta a deepfakes de zonas reales como la frontera de México o la Franja de Gaza. El episodio expone las costuras de una carrera por desplegar IA generativa en productos masivos sin haber cerrado del todo los controles de seguridad.
Claves de la operación
- Retirada exprés en 24 horas. Google lanzó la función el jueves y la desactivó al día siguiente tras detectar que podía generar escenas sensibles sin un filtro eficaz.
- Deepfakes en zonas de conflicto. El investigador Henk van Ess demostró cómo añadir refugiados en la frontera mexicana y un cráter de bomba junto a un hospital en Gaza, evidenciando la fragilidad del control de contenidos.
- Escalada de riesgo regulatorio. La Unión Europea avanza en la implantación de la AI Act y un fallo de este calibre en una gran plataforma puede atraer un escrutinio acelerado.
¿Por qué un simple generador de imágenes se convirtió en una crisis de confianza?
La función, basada en el modelo Nano Banana 2, permitía a los usuarios modificar fotografías aéreas de Google Earth con órdenes de texto. Bastaba escribir algo como “añade refugiados” o “simula un cráter de bomba” para que la IA reimaginara la imagen. La propia compañía había mostrado ejemplos inofensivos, como una Pompeya rediseñada. Sin embargo, las pruebas de van Ess, publicadas en redes sociales, demostraron que el sistema carecía de barreras contextuales. No bloqueaba peticiones que combinaran localizaciones geopolíticamente delicadas con conceptos cargados de violencia o desinformación.
La primera respuesta de Google insistió en que todas las imágenes generadas incluían una marca de agua digital y en que la compañía prevenía la “creación de imágenes sobre temas dañinos”. Pero la realidad es que un prompt lo bastante creativo sorteaba el filtro. Apenas un día después, la empresa emitió un nuevo comunicado en el que reconocía la necesidad de reforzar las salvaguardas y anunciaba la suspensión temporal de la herramienta. Es el tipo de marcha atrás que, en plena batalla por la credibilidad de la IA, daña la confianza de los usuarios y de los reguladores más que un mal resultado trimestral.
El incidente se suma a otros tropiezos de Google en el ámbito generativo, como las polémicas iniciales con su chatbot Gemini. La compañía de Mountain View compite con Microsoft y OpenAI en una carrera donde cualquier error en la gestión de contenidos puede traducirse en pérdida de clientes empresariales, especialmente en Europa, donde el cumplimiento normativo es más exigente.
Más allá de la anécdota técnica, el verdadero problema radica en la velocidad de despliegue. Las big tech están integrando la IA en productos con cientos de millones de usuarios sin que los sistemas de moderación hayan madurado lo suficiente. Google Earth, con su capa de información geográfica precisa, se convierte en un lienzo peligroso cuando la IA puede reescribir la realidad a golpe de prompt.
La herramienta fue desactivada no porque generase imágenes violentas de forma automática, sino porque demostró que un prompt ingenioso podía sortear cualquier filtro. La confianza en los productos de Google se juega en ese detalle.
El precedente que inquieta a Bruselas y a los inversores
La retirada llega en un momento delicado para el ecosistema regulatorio europeo. La AI Act, que clasifica aplicaciones de IA según su nivel de riesgo, está en pleno proceso de aplicación escalonada. Una herramienta capaz de generar deepfakes geolocalizados podría encajar en la categoría de alto riesgo, lo que obligaría a Google a someterse a evaluaciones de conformidad exhaustivas. Bruselas ha demostrado con el DMA y el DSA que no le tiembla la mano a la hora de multar a las grandes tecnológicas, y este fiasco le proporciona munición adicional.
Además, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), con sede en A Coruña, está llamada a convertirse en uno de los supervisores nacionales más activos de la AI Act. Aunque aún está desarrollando sus capacidades, incidentes como este refuerzan la necesidad de contar con organismos nacionales que vigilen el despliegue de IA en productos de consumo masivo. Para Google, que en los últimos años ha invertido más de 1.200 millones de euros en infraestructura cloud en España, la percepción de riesgo regulatorio puede enfriar la adopción de sus servicios entre las grandes empresas españolas, precisamente el segmento al que quiere vender sus soluciones de IA empresarial.
Lo que este fiasco revela sobre la carrera de la IA en España y Europa
Aquí hay una lectura que va más allá de Google. La mayoría de las empresas españolas está dando sus primeros pasos en la adopción de IA generativa, y la confianza en el proveedor es determinante. Un fallo de este calibre en una herramienta tan visible como Google Earth pone en duda los controles internos de la compañía, justo cuando compite con Microsoft por los contratos de Copilot y Azure en nuestro país. Microsoft, de momento, no ha sufrido un escándalo similar en su integración de IA con Bing Maps o con sus productos geoespaciales, lo que podría inclinar la balanza en entornos corporativos conservadores.
La pregunta que queda en el aire es si Google será capaz de reintroducir la funcionalidad con garantías suficientes, y sobre todo, si este traspié afectará el calendario de otros lanzamientos de IA previstos para los próximos meses. En un mercado donde la velocidad es casi una obsesión, el mayor riesgo no es técnico, sino reputacional. Recuperar la confianza lleva mucho más que veinticuatro horas.
