Por Canuto  

Tras el lanzamiento de una herramienta que permitía crear imágenes satelitales generadas por IA con un clic, Google decidió retirarla en menos de 24 horas por los riesgos de desinformación. Expertos en verificación advierten que la herramienta podría haber facilitado la creación de deepfakes que amenazan la credibilidad de las imágenes satelitales como fuente confiable.
***

  • Google retiró su función de imágenes satelitales con IA tras denuncias de posibles abusos.
  • Expertos verificaron que podían generar fácilmente imágenes falsas de eventos catastróficos.
  • La decisión pone en duda el futuro de la inteligencia artificial en herramientas de verificación.

 

Google anunció este jueves el lanzamiento de una nueva característica en Google Earth que permitía a los usuarios crear imágenes satelitales generadas por inteligencia artificial con un simple clic. Sin embargo, apenas un día después, la compañía decidió revertir la función ante el temor de que se produjeran deepfakes en el cielo.

En un comunicado en X, Google señaló que había visto a profesionales geoespaciales usar la herramienta para propósitos útiles. Pero también observó que las personas compartían capturas de pantalla de imágenes generadas que parecían violar sus políticas, reseña NPR.

La eliminación se produjo después de que investigadores de código abierto y periodistas demostraran que era fácil crear imágenes satelitales falsas de eventos noticiosos importantes. Entre los ejemplos generados se incluyen una isla iraní en llamas y el Capitolio de EE. UU. inundado.

Henk van Ess, investigador de código abierto, escribió en su cuenta que intentó generar imágenes de refugiados en la frontera mexicana, una planta nuclear en Irán, un accidente en Ámsterdam y un hospital en Gaza. Nada fue rechazado por el sistema.

La comunidad de verificación digital calificó la decisión de Google como un alivio, pero quedó preocupada por el daño potencial que la herramienta podría haber causado. Evan Hill, investigador de forenses visuales en The Washington Post, cuestionó la evaluación interna de la compañía.

La nueva función de Google Earth

El jueves, Google presentó una actualización en Google Earth para la web que integraba inteligencia artificial generativa. Bryan Horowitz, gerente de producto, describió la función como una forma de trabajar con la imaginación de los usuarios.

Al acercarse a cualquier lugar en Google Earth, los usuarios podían tocar un botón ‘crear imagen’ y escribir lo que deseaban ver. La herramienta generaba una imagen satelital sintética que se superponía a la vista real.

En un mundo en línea lleno de deepfakes, las imágenes satelitales han sido consideradas una fuente confiable para verificar eventos. Su autenticidad provenía de la dificultad de falsificar imágenes tomadas desde cámaras a cientos de millas de altura.

Jake Godin, investigador senior de Bellingcat, señaló que las imágenes satelitales eran una apuesta segura porque eran difíciles de falsificar. La nueva herramienta de Google, al permitir la generación instantánea, rompía esa confianza.

Godin teme que la proliferación de imágenes falsas aumente la confusión y la desinformación. Además, los gobiernos podrían aprovechar la situación para afirmar que imágenes satelitales reales son falsas, erosionando la credibilidad pública.

Reacciones de la comunidad de verificación

Investigadores de código abierto fueron los primeros en alertar sobre los riesgos. Henk van Ess, quien escribió primero sobre el daño potencial, dijo a NPR que la herramienta permitía generar imágenes falsas sin ningún filtro.

La facilidad con la que se podían crear imágenes de eventos catastróficos fue alarmante. NPR pudo generar fácilmente imágenes de la isla Kharg en llamas en Irán y del Capitolio inundado, ambos escenarios ficticios.

Evan Hill cuestionó en X si la idea fue evaluada internamente, señalando que las oportunidades de abuso y desinformación son literalmente infinitas. Su publicación se hizo viral y contribuyó a la decisión de Google.

Jake Godin, de Bellingcat, explicó que la herramienta agilizaba el proceso de creación de falsificaciones. ‘Esto va a hacer que se prolifere más’, afirmó en una entrevista con NPR.

La comunidad también recordó un caso previo de imágenes satelitales falsas durante la guerra entre EE. UU. e Irán. En esa ocasión, circularon imágenes falsas de una base estadounidense dañada en Baréin, que fueron creadas con Google Earth e IA.

La respuesta de Google

Google defendió inicialmente la herramienta, argumentando que tomaba la desinformación en serio. La compañía afirmó que todas las imágenes generadas llevaban una marca de agua SynthID, visible en otras herramientas de Google como Gemini.

Además, Google aseguró que evitaban la creación de imágenes sobre temas dañinos y que actualizaban sus protecciones continuamente. Sin embargo, pocos en la comunidad de código abierto se sintieron tranquilos con esas declaraciones.

La decisión de revertir la función llegó apenas 24 horas después del lanzamiento. En su comunicado, Google indicó que implementaría controles más fuertes antes de volver a ofrecer la herramienta.

Para Henk van Ess, la decisión es particularmente dolorosa porque Google Earth ha sido una herramienta clave para verificar información en redes sociales. Si la IA se integra, la falsificación se hace dentro de la herramienta que se utiliza para comprobar si las imágenes son verdaderas.

La pausa de Google se produce en un momento en que la inteligencia artificial generativa está transformando la manera en que se crea y se consume información visual. Los satélites, otrora fuentes de verdad, ahora pueden ser manipulados con un clic.

La medida de Google es vista como un paso correctivo, pero deja abierta la pregunta sobre cómo se regularán estas herramientas en el futuro. La confianza en las imágenes satelitales es esencial para la verificación de noticias en zonas de conflicto.

Expertos piden que las empresas tecnológicas realicen evaluaciones de riesgo más rigurosas antes de lanzar funciones similares. La comunidad de verificación espera que esta experiencia sirva de lección para futuras aplicaciones de IA en el ámbito geoespacial.

Mientras tanto, los investigadores vuelven a depender de herramientas de acceso más limitado para sus análisis. La ausencia de una función oficial no elimina el riesgo de que se creen deepfakes con otras herramientas de IA.

La pausa de Google es un recordatorio de que la tecnología de IA puede ser tanto una herramienta de empoderamiento como de desinformación. La balanza depende del control y la responsabilidad de las empresas que la implementan.

NPR informó que Google no respondió a solicitudes adicionales de comentario sobre los planes futuros. La compañía se limitó a señalar que seguirá trabajando para mejorar sus protecciones.

La historia continúa mientras la IA avanza a pasos agigantados. La comunidad geoespacial exige medidas claras para garantizar que las imágenes satelitales sean verificables y seguras.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados