Google ha retirado precipitadamente una nueva función de inteligencia artificial de Google Earth apenas 24 horas después de su estreno. La herramienta, que permitía generar imágenes satelitales artificiales mediante descripciones de texto, desató una ola de críticas de periodistas e investigadores que alertaron sobre su potencial para difundir desinformación a gran escala.
La compañía presentó la función el 30 de julio, permitiendo a los usuarios de la versión web de Google Earth acercarse a cualquier ubicación, pulsar «crear imagen» y generar una escena a partir de una indicación textual usando su modelo Nano Banana. Al día siguiente, había desaparecido.
Escenas falsas creíbles en un solo clic
La preocupación se centró en la facilidad con la que la herramienta fabricaba eventos que jamás ocurrieron. El medio tecnológico 404 Media demostró que podía producir un cráter de explosión en Los Ángeles y añadir manifestantes frente a las propias oficinas de Google en Mountain View. NPR generó imágenes de la isla iraní de Kharg en llamas y del Capitolio estadounidense inundado, ambos escenarios que serían grandes noticias si fueran reales.
El investigador de código abierto Henk van Ess explicó a NPR que probó indicaciones como refugiados en la frontera mexicana y una planta nuclear en Irán, y ninguna fue rechazada por el sistema. Esta capacidad alarmó especialmente a quienes dependen de las imágenes satelitales para verificar información.
Una amenaza para la verificación de noticias
Las imágenes satelitales han servido durante décadas como anclaje fiable para verificar noticias de última hora y atrocidades, precisamente porque eran difíciles de falsificar. Jake Godin, investigador de Bellingcat, advirtió que la generación con un solo clic simplificaría la creación de falsificaciones y aceleraría su difusión. Añadió que la desinformación se propaga más rápido que cualquier corrección y que los gobiernos podrían ahora desestimar imágenes auténticas tachándolas de fabricadas.
En un comunicado publicado en X, Google reconoció que las personas «confían de manera única en Google Earth para una vista fiable del mundo». Aunque señaló que profesionales geoespaciales habían encontrado aplicaciones útiles, admitió que otros usuarios compartían imágenes generadas que parecían violar sus políticas. Por ello, anunció que retiraba la función mientras implementa salvaguardas más sólidas.
Marcas de agua insuficientes
Inicialmente, Google había restado importancia a las inquietudes, argumentando que cada imagen lleva su marca de agua SynthID, que la identifica como generada por IA en herramientas como Gemini, y que el sistema bloquea la creación sobre temas perjudiciales. Sin embargo, los críticos calificaron estas medidas de insuficientes, argumentando que pocas personas se detienen a verificar imágenes antes de compartirlas en redes sociales.
La polémica en torno a Nano Banana se suma a un debate más amplio sobre el uso responsable de la inteligencia artificial. En este sentido, empresas recurren a blockchain para combatir el fraude publicitario agravado por la IA, mientras que el próximo hacker millonario en cripto podría actuar a velocidad sobrehumana gracias a la IA, según advierten expertos en ciberseguridad.
Google ha dicho que solo restablecerá la generación de imágenes en Google Earth tras implementar protecciones más estrictas, aunque no ofreció un calendario concreto para su eventual reactivación.
Fuente: Decrypt · Esta información ha sido elaborada por la redacción de Criptonews con apoyo de herramientas editoriales automatizadas.