Cómo reconocer imágenes creadas por Inteligencia Artificial: algunas pistas y mucho sentido común
- Este artículo data de hace más de un año.
- Publicado el 30 de marzo de 2023 a las 23:56
- Modificado el 3 de mayo de 2024 a las 13:33
- 12 minutos de lectura
- Por Juliette MANSOUR, AFP Francia, AFP Brasil, AFP Colombia
Copyright © AFP 2017-2024. Cualquier uso comercial de este contenido requiere una suscripción. Haga clic aquí para obtener más información.
Algunas palabras claves descriptivas, una imagen. Este es el principio de muchas plataformas de inteligencia artificial como Midjourney, DALL-E, Stable Diffusion o Craiyon. A partir de un enorme banco de datos, constantemente alimentado por las solicitudes de los usuarios, estas herramientas son capaces de generar una infinidad de imágenes.
Muchos usuarios usan la tecnología con fines humorísticos y artísticos, mientras que otros optan por vincular esas imágenes a noticias políticas.
Una avalancha de imágenes producidas por IA, por ejemplo, circuló en Twitter para ilustrar eventos auténticos, como el encuentro entre Vladimir Putin y Xi Jinping el 20 de marzo de 2023, o para visualizar situaciones ficticias, como el Papa Francisco usando una chaqueta acolchada gigante.
Hi, I'm a tech reporter that covers China, cybersecurity, & new media. Hundreds of people are sharing this photo of Xi Jinping & Vladimir Putin as they meet at the Kremlin. The two did meet, but it's highly likely this photo was generated by an AI program. Here's why: pic.twitter.com/6xqsDLxiMa
— Amanda Florian 小爱 (@Amanda_Florian) March 21, 2023
Esta foto del Papa Francisco NO ES REAL!!! Al parecer, fue creada mediante inteligencia artificial (IA). Es una locura lo real que se ve. Siento que en un futuro los investigadores van a tener que estar descifrando si algo es histórico o mentira pic.twitter.com/X7eLKwn6jF
— juli (@cronopiatw) March 26, 2023
Aunque la mayoría de los autores especifican que las imágenes son falsas, se han difundido fuera de contexto e incluso se han presentado como auténticas.
Se han creado, o se siguen desarrollando, herramientas para intentar detectar estos montajes, pero los resultados aún no son concluyentes, según pruebas realizadas por AFP.
“Cuando una IA genera completamente una imagen, no suele tomar partes de una sola foto. Se utilizan miles o incluso millones de fotos para tener en cuenta miles de millones de parámetros”, dijo a la AFP el 21 de marzo David Fischinger, ingeniero del Instituto Tecnológico Austriaco y especialista en IA.
“Una IA fusiona estas imágenes de su banco de datos, las deconstruye y luego reconstruye una foto pixel a pixel, lo que significa que en el renderizado final ya no notamos la diferencia entre las imágenes originales”, comentó a la AFP el 21 de marzo Vincent Terrasi, cofundador de Draft & Goal, startup que lanzó un detector de contenido generado por IA para universidades.
Los metadatos de una foto, que son como el carnet de identidad digital de un archivo y que a veces puede revelar el origen de una imagen generada por IA, tampoco son útiles. “Por desgracia, no te puedes fiar porque las redes sociales eliminan sistemáticamente esta información”, señaló el 23 de marzo Annalisa Verdoliva, profesora de la Universidad Federico II de Nápoles y especialista en IA.
Volver a la fuente de la imagen
Expertos señalan que una forma de detectar la creación de una imagen generada por IA es encontrar su contexto original. En algunos casos, el creador destaca el uso de la tecnología y la herramienta empleada.
Para ello hay que intentar identificar la primera vez que la foto se publicó en internet.
Una búsqueda inversa de imágenes puede ayudar a identificar si un contenido ha sido indexado en plataformas de búsqueda. De esta manera es posible rastrear publicaciones antiguas con una misma foto.
Este método permite, por ejemplo, conocer el origen de unas imágenes que han circulado ampliamente en las redes sociales y que muestran un enfrentamiento entre el expresidente de Estados Unidos, Donald Trump, y la policía.
Una búsqueda reversa en Google a partir de una de esas fotos llevó a un tuit de Eliot Higgins, fundador del sitio de investigación Bellingcat, publicado el 20 de marzo de 2023.
En la continuación del hilo de Twitter, Higgins explica que creó la serie de imágenes utilizando la última versión de la plataforma Midjourney.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Incluso sin encontrar el registro original, la búsqueda inversa puede llevar a una versión de mejor calidad si la imagen ha sido recortada, modificada o ha perdido calidad con el paso del tiempo. Entre mejor calidad tenga la imagen, más fácil será analizarla para encontrar errores que revelen la edición.
La búsqueda inversa de imágenes tiene la ventaja de revelar fotos semejantes. Eso puede ser útil para comparar una foto sospechosa con fotos de fuentes confiables.
En el contexto de la reunión entre Vladimir Putin y Xi Jinping, circuló por internet una foto sin fuente que mostraba al presidente ruso arrodillado ante el líder chino. Sin embargo, el periodista italiano David Puente señaló que la decoración del salón era muy diferente a la que se puede observar en la cobertura del evento, lo que levantó dudas sobre la autenticidad de la imagen viral
La descripción de una foto y los comentarios de los usuarios también pueden ser útiles para identificar un montaje o para reconocer el estilo de una IA. En el caso de DALL-E, por ejemplo, se le conoce por sus diseños ultra-realistas, mientras que Midjourney se enfoca más en personas famosas.
Eso puede ser útil para buscar una imagen en la herramienta usada para crearla. En algunas plataformas, como Midjourney, una búsqueda detallada entre los intercambios de los usuarios y el programa automatizado puede localizar las imágenes.
Si no se pudo encontrar el origen y no hay indicios de su contexto, hay que fijarse en la propia imagen.
Analizar la imagen
- Encuentre una marca de agua
A veces, las pistas están escondidas en la foto: algunos sitios colocan una marca de agua en sus creaciones. Es el caso de DALL-E, que genera automáticamente una barra colorida en la esquina inferior derecha de todas sus imágenes, o de Crayion, que coloca un pequeño lápiz rojo en el mismo lugar.
Pero cuidado: no todas las plataformas de creación de imágenes con IA aplican una marca de agua. Además, existe la posibilidad de que el logotipo haya sido removido durante la exportación, recortado o enmascarado posteriormente.
- Observe el granulado de la imagen
“En caso de duda, es importante observar el granulado de la imagen que será, además, muy diferente entre una creación de IA y de una foto real”, señaló a la AFP el 22 de marzo Tina Nikoukhah, doctora en procesamiento de imágenes del laboratorio de matemáticas de la Escuela Normal Superior de París-Saclay.
En las versiones gratuitas de herramientas de inteligencia artificial probadas por la AFP, las imágenes generadas tienen un estilo bastante similar a las pinturas del movimiento hiperrealista; como, por ejemplo, abajo y a la izquierda, esta imagen de “Brad Pitt em Paris”, creada con Stable Diffusion.
Otra imagen, producida por DALL-E con palabras claves semejantes, abajo a la derecha, es más fiel y más difícil de ser identificada a primera vista como creada con IA.
- Busque inconsistencias visuales
A pesar de los progresos en el campo de la inteligencia artificial, siguen apareciendo errores en este tipo de contenidos. Estos defectos son actualmente la mejor forma de reconocer una imagen fabricada, explican los expertos.
“Ciertas características, muchas veces las mismas, son un problema para la inteligencia artificial. Son esas inconsistencias y artefactos los que hay que analizar, como en un juego de 7 errores”, destaca Vincent Terrasi.
“Sin embargo, las IA están mejorando cada día y presentando cada vez menos anomalías, por eso no debemos confiar en las pistas visuales a largo plazo”, alertó Annalisa Verdoliva.
En marzo de 2023, estas herramientas aún tienen dificultades para generar manos realistas. Eso se evidenció por los dedos desproporcionadamente grandes de Brad Pitt en la imagen creada por la AFP.
En otra oportunidad, una periodista de la AFP señaló que un policía tenía seis dedos en una serie de fotos supuestamente tomadas en una manifestación contra la reforma de las pensiones en Francia, el 7 de marzo de 2023.
The hand strikes again: these photos allegedly shot at a French protest rally yesterday look almost real - if it weren't for the officer's six-fingered glove #disinformation#AIpic.twitter.com/qzi6DxMdOx
— Nina Lamparski (@ninaism) February 8, 2023
“Actualmente, las herramientas de inteligencia artificial también tienen dificultades para generar reflejos. Una buena manera de identificar una IA es, por tanto, procurar sobras, espejos, agua, también ampliar los ojos y analizar las pupilas, dado que normalmente hay un reflejo cuando tomamos una foto. Muchas veces también podemos notar que los ojos no son del mismo tamaño, a veces con colores diferentes”, resaltó Terrasi.
Ese es el caso de esta foto de Emmanuel Macron generada por IA y compartida en Instagram. Si se hace zoom con la herramienta “lupa” de la plataforma InVid-WeVerify, se puede observar que los ojos son castaños, y no azules, como los del presidente francés. Además, tiene un tono de marrón diferente en cada ojo.
Los generadores de imágenes también acostumbran a crear asimetrías: se puede observar en el rostro, que puede ser desproporcionado, o en ciertas características como las orejas, que no estén a la misma altura o que solo tengan un pendiente.
Los dientes y el cabello también son difíciles de imitar, lo que puede demostrar que, en términos de contorno y textura, la imagen no es real.
Algunos elementos también pueden estar mal integrados, como los lentes oscuros que se confunden con el rostro. Especialistas señalan que mezclar diversas imágenes puede generar problemas de iluminación.
- Mirar el fondo de la imagen
Las anomalías visuales generalmente se quedan ocultas en el fondo de la foto. “Cuanto más lejos esté un elemento, más desenfocado y deformado estará y tendrá perspectivas incorrectas”, explicó Terrasi.
En la foto falsa del encuentro entre Xi Jinping y Vladimir Putin, una línea del fondo no está recta. Además, la cabeza de Putin parece desproporcionada en comparación con el resto de su cuerpo. David Fischinger dijo a la AFP que esas inconsistencias delatan que una imagen fue generada por medio de inteligencia artificial.
- Usa el sentido común
Puede que algunos elementos no estén necesariamente distorsionados, pero sí carecer de sentido. “Es bueno confiar en el sentido común” al momento de dudar de una imagen, continuó el especialista.
Esta foto, generada por la AFP a través de Midjourney y que debería mostrar Parìs, muestra, por ejemplo, una placa azul de sentido prohibido, un tipo de señalización que no existe en Francia.
Esa pista, asociada con los dedos con las puntas cortadas y una diferencia de iluminación en algunas ventanas, sugiere que la imagen fue creada con IA. La marca de agua en la esquina inferior derecha acaba con cualquier duda de que la foto es de DALL-E.
Además, aunque la foto generada para este ejemplo debería mostrar a Brad Pitt, el resultado dista mucho de ser similar.
Por último, si una imagen se presenta como de un acontecimiento pero existen dudas sobre su origen, lo mejor es buscar información para saber si fue publicada por fuentes confiables y si el episodio ocurrió realmente. De ser así, puede ser útil buscar registros oficiales del momento para comparar elementos.
En el caso de un encuentro entre líderes políticos, eso puede significar, por ejemplo, la vestimenta de los jefes de Estado, las circunstancias del evento, el clima, la decoración o incluso las imágenes de la multitud de fondo.
Referencias
¿Duda sobre la veracidad de una información, una foto o un video?
Contáctenos
