La creciente sofisticación de las imágenes generadas por inteligencia artificial (IA) ha llevado a un aumento de la desconfianza en la veracidad de las imágenes que vemos a diario. Recientemente, Google lanzó Nano Banana Pro, una herramienta que permite crear imágenes tan realistas que es difícil diferenciarlas de las fotos reales. Esto plantea interrogantes sobre la autenticidad de las imágenes y afecta la forma en que percibimos el contenido visual en nuestras vidas cotidianas.
Para comprender mejor esta problemática, hemos consultado a Daniel Púa, experto en seguridad de Magnific, una destacada plataforma de IA generativa. Púa señala que, a medida que la tecnología avanza, tanto los modelos como los prompts utilizados juegan un papel crucial en la generación de estas imágenes. Debido a este avance, actualmente es casi imposible para cualquier persona asegurar al 100% si una imagen es real o generada por IA.
En el ámbito del video, aún existen algunos indicadores que permiten detectar los contenidos generados por IA. Aunque la tecnología se está acercando a la indistinguibilidad, Púa indica que los videos aún presentan elementos que pueden resultar evidentes, como errores en la física. Sin embargo, esta brecha se está cerrando rápidamente, y en aproximadamente un año se podría alcanzar un punto en que los videos generados sean tan convincentes como las imágenes.
Frente a esta situación, surge la necesidad de encontrar métodos que permitan identificar el contenido generado por IA. El etiquetado, como el sistema SynthID de Google, busca modificar determinados píxeles para indicar que una imagen es artificial. No obstante, la efectividad de esta técnica depende de su adopción generalizada; si solo unos pocos modelos utilizan este sistema, su utilidad se ve comprometida.
Otra alternativa es el estándar C2PA, que registra el historial de las imágenes en sus metadatos, incluyendo el modelo utilizado y cualquier edición posterior. Sin embargo, el uso de herramientas de exportación que eliminan metadatos o la simple acción de compartir imágenes a través de plataformas de mensajería puede despojar a estos archivos de su información esencial, lo que dificulta la verificación.
Dado que no existen soluciones definitivas para garantizar la autenticidad de las imágenes, Púa recomienda que los usuarios mantengan un nivel de escepticismo ante imágenes sin metadatos, ya que incluso las fotografías convencionales suelen llevar esta información. Además, elementos técnicos como la coherencia en las sombras y la convergencia de puntos de fuga son aspectos importantes a observar para identificar la posible manipulación de una imagen.
La constante evolución de la IA en la generación de contenido visual exige que tanto los desarrolladores como los usuarios se mantengan informados y cautelosos en su interpretación del contenido visual que consumen.