Imagen hecha con IA de una estatuilla de los Óscar se vincula falsamente a los incendios en California

“Este Premio Óscar se encontró entre cenizas y escombros tras los devastadores incendios recientes en California”, se lee en una publicación en Facebook, junto con una imagen que muestra una estatuilla de la Academia de Hollywood en medio de ruinas carbonizadas. La publicación menciona que el galardón pertenecía al actor estadounidense Robert Redford. 

Otro usuario se refiere al premio como una “estatuilla sin dueño en un cajón quemado, abandonado en una casa convertida en cenizas”. 

Image

Captura de pantalla de una publicación en Facebook tomada el 31 de enero de 2025

Las publicaciones circularon en el contexto de los incendios forestales en Los Ángeles en enero de 2025, que devastaron un área de más de 150 kilómetros cuadrados y dejaron un saldo de al menos 29 fallecidos.

Varias celebridades se encuentran entre las decenas de miles de personas afectadas por los incendios, mientras la industria del entretenimiento en la ciudad se detuvo.

Imagen generada con IA

AFP Factual realizó una búsqueda inversa en Google con la fotografía viralizada e hizo clic en la pestaña "Acerca de esta imagen". Esta función reveló una etiqueta que dice “Generado con IA [Inteligencia Artificial] de Google”.

Image

Captura de pantalla de la página web de Google, hecha el 3 de febrero de 2025

El laboratorio de Inteligencia Artificial DeepMind, de Google, lanzó en 2023 la función SynthID, una herramienta para sellar con marcas de agua e identificar las imágenes creadas con la IA de Google.

"Los usuarios pueden identificar si una imagen, o parte de una imagen, fue generada por las herramientas de inteligencia artificial de Google a través de la función Acerca de esta imagen en la Búsqueda o Chrome", dice su sitio web.

Además, un análisis con la herramienta de detección que ofrece InVID-WeVerify de veraai.eu, un proyecto del que la AFP es socio, reveló que la instantánea tiene un 89% de probabilidades de haber sido creada digitalmente.

Image

Captura de pantalla hecha el 31 de enero de 2025 de de un análisis en InVID

La búsqueda inversa también permitió ver que la imagen fue publicada el 12 de enero de 2025 en Reddit con el título "Simbolismo". La instantánea fue eliminada y reemplazada por una nota que decía que violaba las reglas del foro, que prohíbe las imágenes generadas por IA.

Además, el material incluye una marca de agua en la esquina inferior derecha, lo que puede indicar que fue fabricado con IA.

Emmanuelle Saliba, directora de investigación de GetReal Labs, dijo en una publicación en LinkedIn el 15 de enero de 2025 que los sistemas de la compañía, dedicada a la detección de deepfakes, determinaron que la imagen "probablemente fue sintetizada o modificada".

Saliba dijo a la AFP en un correo electrónico del 22 de enero que se puso en contacto con el creador de la imagen viral, quien se identificó como diseñador gráfico. Le dijo que originalmente lo compartió en un grupo de Facebook dedicado a creaciones con IA y arte digital y que su intención "no era engañar a la gente".

Saliba agregó que el creador le dijo que usó la herramienta de Inteligencia Artificial generativa de Google, Gemini, para fabricar la imagen en su teléfono antes de editarla en Adobe Photoshop.

"Este es un ejemplo de lo rápido que una imagen puede difundirse y ser sacada de contexto", afirmó. "Esto será cada vez más común, especialmente porque nos estamos dirigiendo hacia un mundo en el que este tipo de contenido se puede crear fácilmente en nuestros teléfonos".

AFP Factual ha verificado varios casos de desinformación que relacionan imágenes generadas por IA con los incendios de Los Ángeles (1, 2, 3, 4).

Referencias

• Publicación en Reddit el 12 de enero de 2025
• Publicación en LinkedIn de Emmanuelle Saliba