Crean herramienta capaz de identificar deepfakes

La tecnología analiza los reflejos de la luz en los ojos para comprobar si la imagen en cuestión es verídica o ha sido generada mediante inteligencia artificial

Por Sofia Belandria

16/03/2021

0 0


Un grupo de especialistas en computación de la Universidad de Búfalo (EE.UU.) ha creado una herramienta que es capaz de detectar fotografías ‘deepfake’ (ultrafalsas, en español) con una efectividad del 94 % en imágenes en formato de retrato, según un artículo publicado recientemente en arXiv.

A través de un comunicado emitido el viernes pasado por la institución académica, se explica que esta tecnología analiza los reflejos de luz en los ojos para comprobar si la imagen en cuestión es verídica o ha sido generada mediante inteligencia artificial (IA).

«La córnea es casi como una semiesfera perfecta y es muy reflectante, entonces cualquier cosa que llegue al ojo con una emisión de luz de esas fuentes tendrá una imagen en la córnea», señaló Siwei Lyu, coautor del estudio.

¿Cómo funciona?

En este sentido, Lyu aseguró que ambos ojos deben tener patrones reflectantes muy similares porque observan lo mismo. «Es algo que normalmente no notamos cuando miramos una cara», puntualizó el experto forense digital.

Además, el texto indica que la mayoría de imágenes generadas por IA no logran que los reflejos en los ojos tengan la misma forma y color, posiblemente porque utiliza muchas fotos combinadas para generar la imagen falsa.

Lo que hace la herramienta es mapear la cara centrándose en los ojos. Primero examina los globos oculares y, posteriormente, la luz reflejada en cada uno de ellos. Entonces, compara con «increíble detalle» las posibles diferencias en la forma, la intensidad de la luz y otras características de la luz reflejada.

Tiene limitaciones

No obstante, el comunicado reconoce que la tecnología tiene limitaciones. Por ejemplo, necesita una fuente de luz reflejada y el hecho de que los destellos de luz de los ojos no coincidentes se pueden corregir durante la edición de la imagen.

Asimismo, la herramienta solo mira los píxeles individuales reflejados en los ojos, no la forma del ojo, las formas dentro de los ojos o la naturaleza de lo que se refleja en ellos. Otra desventaja del método empleado es que compara las imágenes de ambos ojos y si al sujeto le falta un ojo o este no es visible, la técnica falla.

Lyu subrayó que identificar ‘deepfakes’ es cada vez más importante, sobre todo en el mundo actual «hiperpartidista lleno de tensiones» relacionadas con la raza y el género y los peligros de la desinformación, especialmente con respecto a la violencia.

Cortesía de RT

Te podría interesar

El deepfake de Tom Cruise y el debate sobre los alcances y riesgos de la tecnología

Síguenos y suscríbete a nuestras publicaciones

Comparte ✌️

Comenta 💬