A estas alturas, todos nos hemos visto en la situación de creernos una imagen, sólo para descubrir después que estaba hecha con IA. Esto ha creado una desconfianza colectiva, hasta el punto de hacernos dudar de todas las imágenes que vemos . Para profundizar más sobre este tema hemos hablado con Daniel Púa, jefe de seguridad en Magnific (antes Freepik ), una de las herramientas de IA generativa de imágenes y vídeo más populares. Esto es lo que opina sobre esta problemática y las posibles soluciones que plantea.
Indetectables . A finales del año pasado Google lanzó Nano Banana Pro y, por primera vez, nos encontramos con que no éramos capaces de distinguir una imagen IA de una real . Con la velocidad a la que avanzan los modelos de IA, hoy en día ni siquiera alguien que revisa este contenido a diario tiene un truco infalible. Daniel Púa dice que "Depende del modelo que se utilice y del prompt que se le dé", pero reconoce que "prácticamente ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA".
El nivel de detalle ha llegado a un punto en el que la vista ya no es una herramienta fiable. El vídeo está muy cerca . La imagen fija ya es terreno perdido, pero en vídeo todavía hay pistas de que es generado: "En el vídeo sí que es más fácil detectarlo por la secuencia de cómo avanza, por ciertas cosas de la física que no tienen sentido... Va dos pasos por detrás".
Sin embargo, según Púa ese margen se está cerrando rápidamente. "Los últimos modelos de vídeo ya trabajan superbien, ya lo único que queda es pulir detalle, igual que ha pasado con las imágenes". A la pregunta de cuánto tiempo queda para que el vídeo sea también indistinguible, Púa responde "A lo mejor un año y pico". En Xataka El mayor experto en fakes IA ha perdido la esperanza: "En un año o dos, todo nuestro sistema visual será inútil" Marcas de agua. Cuando nuestro ojo deja de ser fiable, toca recurrir a otras soluciones para distinguir el contenido IA del real.
Una de estas soluciones es el etiquetado o marcas de agua. Daniel Púa cree que es un método efectivo, pero "para que tenga sentido tiene que ser adoptado por todos los modelos de forma igualitaria". Pone como ejemplo el SynthID de Google , que "modifica ciertos píxeles concretos para marcar que esa imagen está generada por IA". El problema es que mientras sea algo que sólo usan unos pocos modelos, no prueba nada: "el hecho de que una imagen no tenga los píxeles no significa que sea real, sino simplemente que está generada por una IA que no usa ese sistema", Otra solución .
Existe otro sistema, el C2PA , que es un estándar abierto y funciona de forma distinta: en lugar de marcar la imagen, guarda en los metadatos todo su historial, como qué modelo la generó, con qué otro fue editada después y la fecha exacta. Pero tiene el mismo talón de Aquiles: "Esa información va en los metadatos. Si usas una herramienta para borrarlos, o haces una captura de pantalla, o mandas la imagen por WhatsApp (que ya de por sí borra los metadatos), esa firma se pierde". Púa reconoce que es complicado llegar a una solución única, pero cree que "habría que llegar a un punto en el que todos los modelos se pongan de acuerdo".
Cómo evitar que te la cuelen . Si ni las marcas de SynthID ni el estándar C2PA son la solución definitiva ¿qué nos queda a los usuarios de a pie para que no nos la cuelen? Daniel Púa no tiene la solución, pero nos da una clave que debería hacernos desconfiar: "Si te viene una imagen sin ningún tipo de metadato, ya te tiene que hacer sospechar, porque hasta una foto que haces con el móvil lleva metadatos". Además de los metadatos, los expertos en análisis forense recomiendan fijarnos en algunos detalles de las imágenes , como por ejemplo que los puntos de fuga converjan en un solo punto, que las sombras sean coherentes con la posición de la luz o que los reflejos tengan sentido.
Toca afinar la vista si no queremos que nos la cuelen. Imagen | Magnific, editada En Xataka | La IA ya genera fotos indistinguibles de la realidad, así que la gente está usándola para cobrar devoluciones falsas