Google cometió un error al incluir Nano Banana en Google Earth.

La semana pasada, Google lanzó Nano Banana 2 , su modelo de generación de imágenes con inteligencia artificial, dentro de su programa de exploración mundial Google Earth. La compañía promocionó esta integración como una forma de crear infografías sobre diferentes lugares del mundo o generar paisajes históricos a partir de imágenes recientes. También se invitó a los usuarios a visualizar la casa de sus sueños con fondos realistas: si tenías planes para ampliar tu casa o imaginabas una casa de vacaciones junto al lago, podías visualizarlos con Nano Banana 2 en Google Earth.

Esta noticia surge en medio de la estrategia de Google para integrar sus plataformas de IA en casi todos sus productos y servicios (por ejemplo, la semana pasada añadió nuevas funcionalidades de Gemini a Google Docs para usuarios de Workspace). Desde la perspectiva de la compañía, añadir Nano Banana 2 a Google Earth tenía todo el sentido del mundo. Sin embargo, como se comprobó posteriormente, esta integración no resultó adecuada para Google Earth.

Google Earth ya está lanzando Nano Banana 2.

Tan solo un día después de lanzar esta importante integración para Nano Banana 2, Google la retiró . La compañía publicó una actualización de su anuncio original, en la que afirma: «Reconocemos que la gente confía plenamente en Google Earth para obtener una visión fidedigna del mundo. Hemos observado que los profesionales geoespaciales utilizan esta función para diversos fines útiles; sin embargo, también hemos visto a personas compartiendo capturas de pantalla de imágenes generadas que parecen infringir nuestras políticas. Por lo tanto, estamos eliminando esta función de Google Earth mientras trabajamos para implementar controles más estrictos. Es importante destacar que las imágenes generadas no aparecían en la experiencia principal de Google Earth para que otros las vieran y llevaban una marca de agua que indicaba que habían sido generadas por IA».

Esta afirmación no describe con precisión las imágenes que los usuarios generaban con esta herramienta. En mi opinión, fue más allá de simplemente "violar" las políticas de Google : internet, como era de esperar, utilizó Nano Banana 2 para generar imágenes inapropiadas y sensibles basadas en ubicaciones reales. No sorprende que una de las imágenes más difundidas mostrara un avión estrellándose contra el nuevo World Trade Center en Manhattan . Otras mostraban la Torre Eiffel en ruinas o las pirámides egipcias derrumbándose en un profundo abismo. Si bien muchos podrían darse cuenta de que estas imágenes se crearon como bromas, un número mucho mayor podría ver estas imágenes "oficiales" de Google Earth en línea y suponer lo peor.

Dejando a un lado las bromas, el potencial de propagación de información errónea y desinformación era alarmante. Por ejemplo, un usuario demostró cómo utilizó la herramienta para colocar refugiados hombro con hombro cerca de la frontera con México . Es fácil imaginar que una imagen así se viralizara, engañando a los espectadores y haciéndoles creer que esta captura de Google Earth era una imagen satelital auténtica. Es probable que Google tuviera algunos controles para evitar muchos procesos de generación de imágenes, pero estas restricciones claramente no eran lo suficientemente sólidas. Dado que cualquiera, independientemente de si había pagado por las funciones de IA de Google o no, podía usar Nano Banana 2 con Google Earth, lo único que tenían que hacer era abrir Google Earth y manipular una solicitud maliciosa hasta que Nano Banana 2 respondiera.

La inteligencia artificial generativa no tiene cabida en una herramienta como Google Earth.

No hace falta ser un escéptico de la IA para entender por qué esta idea fue mala desde el principio. Sin embargo, pocas empresas de IA parecen mostrar escepticismo antes de incorporar funciones de IA generativa a sus productos. Herramientas como Google Earth están diseñadas para ser educativas. Las usamos para aprender sobre el mundo, su geografía y cómo son las diferentes ciudades y paisajes. Personalmente, disfruto pasando tiempo girando mi globo terráqueo digital para explorar nuevos lugares, y a menudo marco un punto al azar para ver cómo se ve en Street View. La razón es que considero que Google Earth es una fuente de información precisa y fiable sobre el mundo; si no lo fuera, ¿por qué me importaría?

Por lo tanto, no le veo lógica a que Google ofrezca una herramienta que, por su propia naturaleza, genera imágenes inexactas y distorsionadas del mundo. Uno de sus puntos fuertes era mostrar lugares en un mapa tal como lucían en el pasado, pero eso no es lo que hizo Nano Banana 2. En cambio, la IA se basó en sus datos de entrenamiento para generar lo que creía que era una representación histórica de la zona. Si le pidieras que te mostrara cómo era París en 1726, lo más probable es que colocara edificios y estructuras públicas en el mapa, en lugar de representar cómo era París realmente hace trescientos años. Lo que se obtiene es una ilusión de la historia; puede ser entretenido, pero sin duda no es educativo, al igual que navegar por el contenido histórico de mala calidad generado por IA en las redes sociales.

Lo mismo ocurre con las infografías informativas generadas por IA. Empresas como Google promocionan las capacidades de la IA como herramienta educativa, y resulta atractivo que Google Earth pueda generar infografías informativas para mostrar una ubicación en un mapa. Sin embargo, las infografías resultantes no están avaladas por ninguna autoridad, y mucho menos por un experto: la imagen producida por Nano Banana 2 puede estar plagada de medias verdades y alucinaciones, y lo que es peor, no ofrece fuentes en las que se pueda hacer clic para verificar el trabajo de la IA. Los usuarios comunes pueden retener la información que "aprenden" de estas infografías, independientemente de si es precisa o no.

En el peor de los casos, esta función se convirtió en una máquina de difundir desinformación. Si querías convencer a la gente de que algo malo había ocurrido en una parte concreta del mundo, bastaba con escribir tu solicitud y Nano Banana 2 generaba una imagen satelital realista de tu idea, lista para ser compartida fácilmente en redes sociales. En un momento en que la desinformación generada por IA se propaga rápidamente, esto solo agrava el problema, echando leña al fuego. Empresas como Google deberían buscar maneras de separar el contenido falso generado por IA de la información veraz, en lugar de contribuir a su proliferación.

Esto no es un argumento en contra de las herramientas de IA en general, sino más bien en contra de integrar la IA generativa en una herramienta educativa. No entiendo qué beneficio cree Google que aporta la IA al distorsionar un hecho, aparte de darles otro ejemplo para presumir de su "éxito" en IA.