El nuevo generador de imágenes de Google tiene un inusual problema: acaba de hacer imposible distinguir entre lo real y lo artificial

Ya sabíamos que Gemini 3 iba a ser la IA más potente que hemos visto hasta ahora, lo que no vimos venir es que Nano Banana Pro, el avanzado sistema de generación y edición de imágenes que Google lanzó junto a la nueva versión del LLM, iba a cambiar las reglas del juego, sus "producciones" son prácticamente inidentificables como generadas por IA, si no te ha pasado todavía, te puedo asegurar vas a empezar a no ser capaz de diferenciar que imágenes son artificiales y cuáles son reales, ya no le pasa solo a los boomers, ya es tu problema.

Hasta ahora, la generación de imágenes artificiales solía delatarse por ciertos detalles surrealistas, pero el nuevo modelo de la gran G ha logrado eliminarlos, ya no basta con contar los dedos de una mano o hacer zoom en el pelo de los individuos generados para comprobar si se diferencian las fibras capilares, además, la compañía declara que puede combinar hasta 14 elementos visuales distintos en una sola composición coherente, mantener la consistencia de hasta cinco personas diferentes en una escena y renderizar texto legible y preciso directamente en la imagen, prácticamente todo lo que no se podía hacer antes, vaya.

Imagen generada por Nano Banana Pro, en la que observamos varios personajes diferentes agrupados con coherencia. Cortesía de Google

Es un problema, en serio

Un estudio liderado por la Universidad de Swansea, publicado en la revista Cognitive Research: Principles and Implications, publicado más o menos un mes antes de la llegada de Gemini 3 y Nano Banana Pro, llegó a la conclusión de que los participantes no podían distinguir con precisión entre rostros generados por IA y fotografías reales, incluso cuando se trataba de celebridades cuyo rostro les era familiar.

El profesor Jeremy Tree, coautor del estudio, alertó en una nota de prensa que esto "plantea serias preocupaciones sobre la desinformación y la confianza en los medios visuales", y destacó la necesidad urgente de regular la utilización de estas herramientas.

El problema ya existía, Nano Banana Pro tan solo lo exagera, su capacidad para extraer información del mundo real en tiempo real a través de la Búsqueda de Google le permite crear infografías y visualizaciones de datos con un contexto verosímil, mientras que sus avanzados controles de edición permiten alterar iluminación, enfoque y perspectivas en imágenes existentes de manera casi indetectable.

Nano Banana Pro puede generar texto sin ningún tipo de dificultad. Cortesía de Google

Jeremy Carrasco, el investigador detrás de showtoolsai y una de las voces más fiables en lo relativo a la detención de imágenes creadas por IA, advierte de que la única forma de identificar imágenes generadas por el nuevo modelo de Google está en manos de la propia compañía, ya que "el software existente hasta ahora ya comenzaba a fallar, y ahora se han quedado completamente obsoletos".

@showtoolsai

How to detect AI photos #ai #news #medialiteracy #viral #politics The photo of Trump and Clinton is AI generated by Google’s Nano Banana Pro. Use SynthID watermark detection from Google Gemini to detect if a photo is AI generated by Nano Banana Pro. Expect many more AI photos to come out with this new release.

♬ original sound - Jeremy Carrasco

Google ha implementado SynthID, una marca de agua digital invisible que se incrusta en los píxeles de cada imagen generada con Nano Banana Pro, esta firma digital, diseñada para ser imperceptible e imposible de alterar sin destruir la imagen, permite identificar el contenido como generado por IA, incluso después de ser recortado o sometido a capturas de pantalla.

No obstante, expertos como Jeremy Carrasco advierten de que la tecnología no es perfecta, y que cada vez que una capacidad de IA sale al mercado, es rápidamente replicada por otros actores que podrían no ser tan cuidadosos con las medidas de seguridad y transparencia de la misma.

La verdad es que, pese a que SynthID es una herramienta de código abierto diseñada para que otros desarrolladores la puedan implementar en sus propios proyectos, ahora mismo solo se puede acceder a ella a través del propio cliente de Gemini 3, no creo que sea muy buena idea permitir que Google se controle a sí misma, como dice Jeremy, "el pirómano nos está prestando una manguera".

En resumen, ya no te puedes creer nada, las imágenes de Nano Banana Pro parecen 100% reales, no hay forma de identificarlas a ojo, además, por el momento, el único sistema capaz de detectarlas está controlado totalmente por Google, os recomiendo tener mucho cuidado con todo lo que veis, acuérdate de aquello de "no eres inmune a la propaganda" y empieza a interiorizar que tampoco lo eres a las imágenes generadas por IA.