Nano Banana Pro, la última innovación en la generación de imágenes basadas en inteligencia artificial (IA) de Google, ha suscitado tanto admiración como críticas severas. Aunque muchos consideran que este modelo marca un hito evolutivo en el desarrollo de la IA, su capacidad para generar deepfakes ha sido señalada como una preocupación significativa. La herramienta podría facilitar la creación de imágenes con un alto grado de realismo, lo que plantea un riesgo de mal uso que podría contribuir a la desinformación en línea.
La denuncia de NewsGuard
NewsGuard, una empresa enfocada en combatir la desinformación, ha expresado su preocupación por el uso indebido que podría surgir de las funciones de Nano Banana Pro. En su comunicado, firmado por Inés Chomnalez y Sofía Rubinson, la compañía anunció una serie de pruebas realizadas con el nuevo modelo de Google. En ellas, se evaluaron los «anticuerpos» de la plataforma frente a la generación de contenido capaz de respaldar campañas de desinformación.
Resultados Desconcertantes
Los investigadores llevaron a cabo experimentos solicitando a Nano Banana Pro que generara imágenes asociadas a 30 de las narrativas más prevalentes en el ámbito de la desinformación online. Los resultados fueron alarmantes: en el 100% de los casos, la herramienta cumplió con las solicitudes de los usuarios, generando imágenes extremadamente realistas que podrían fácilmente ser utilizadas para propagar noticias falsas.
Este hecho es respaldado por el archivo de NewsGuard conocido como False Claims Fingerprints, donde se recopilan las afirmaciones engañosas más comunes difundidas en la web. Cada vez que se enviaron estas narrativas a Nano Banana Pro, la plataforma generó las imágenes que sustentaban las noticias falsas.
Predisposición a crear falsificaciones creíbles
La habilidad de Nano Banana Pro para añadir detalles y características que añaden realismo a las imágenes fue un foco de atención para los expertos de NewsGuard. En un ejemplo, se solicitó la creación de una imagen que supuestamente documentaba un informe de MSNBC sobre una noticia falsa relacionada con Israel. El algoritmo no solo cumplió con la solicitud, sino que generó un screenshot realista de la presentadora Nicolle Wallace, aunque su inclusión no fue pedida explícitamente.
Ejemplos Adicionales
Otro caso envolvió a la CEO de Cracker Barrel, Julie Masino, generando un post ficticio que reflejaba su opinión sobre el movimiento MAGAdonald. De igual manera, se exploró la creación de un pasaporte ruso del presidente ucraniano Volodymyr Zelensky, lo cual, quitado de contexto, podría ser malinterpretado como evidencia de una noticia no verificada.
La lucha contra las fake news y la paranoia
La crítica hacia Nano Banana Pro no se agota en la creación de imágenes erróneas relacionadas con eventos noticiables. También se expande hacia producimos abarcando afirmaciones falsas sobre temas sensibles. Esta situación establece una zona gris donde es difícil tomar una postura clara. Entre las violaciones reportadas se observa que la herramienta generó imágenes que mimetizaban reportes de Fox News, mostrando gráficos sobre el acceso que tendrían inmigrantes indocumentados a subsidios alimentarios en Estados Unidos.
Consejos para emprendedores y negocios
-
Educación en IA: Manténgase informado sobre las capacidades y riesgos de herramientas de IA como Nano Banana Pro para tomar decisiones informadas sobre su uso en el marketing y la comunicación.
-
Uso Ético de Tecnología: Considere las implicaciones éticas de utilizar IA en su negocio, especialmente en la creación de contenido que pueda afectar la credibilidad de su marca.
-
Verificación de Fuentes: Siempre valide la información y las imágenes que su empresa utilice para evitar propagar desinformación que pueda perjudicar su reputación.
-
Implementación de Estrategias en Comunicación: Desarrolle un plan de crisis que contemple escenarios de desinformación y cómo su negocio respondería ante ellos.
- Colaboración con Expertos: Establezca alianzas con equipos de comunicación y expertos en IA para optimizar el uso de estas herramientas y mitigar los riesgos asociados.
Conclusión
La introducción de Nano Banana Pro ha abrir el debate sobre el potencial y los peligros de la inteligencia artificial en la creación de contenido. Aunque puede ofrecer innovaciones valiosas a los negocios, su capacidad para generar deepfakes invita a una reflexión crítica sobre el uso de la tecnología en la comunicación y marketing. La responsabilidad recae sobre los emprendedores para adoptar un enfoque ético y consciente en la implementación de estas herramientas, asegurando que su uso no contribuya a la desinformación ni comprometa su propia integridad.