Los deepfakes se utilizan para una variedad de propósitos de todo tipo, algunos de estos realmente nefastos, desde campañas de desinformación hasta insertar personas en la pornografía, y las imágenes son cada vez más difíciles de detectar.
Una herramienta de inteligencia artificial proporciona una forma sorprendentemente sencilla de detectarlos: mirar la luz reflejada en los ojos.
Creación del sistema
El sistema fue creado por científicos informáticos de la Universidad de Buffalo. En pruebas con fotos estilo retrato, la herramienta fue 94% efectiva en detección de imágenes Deepfake.El sistema expone las falsificaciones analizando las córneas, que tienen una superficie similar a un espejo que genera patrones reflejantes cuando se iluminan con luz.
En una foto un rostro real formada con una cámara, el reflejo en los ojos será similar porque están viendo lo mismo. Pero las imágenes Deepfake sintetizadas por Gan generalmente no logran capturar con precisión esta semejanza.
En cambio, a menudo exhiben inconsistencias, como diferentes formas geométricas o ubicaciones no coincidentes de los reflejos.
¿Qué busca el sistema artificial?
El sistema de inteligencia artificial busca estas discrepancias trazando un rostro y analizando la luz reflejada en cada globo ocular.Genera una puntuación que sirve como métrica de similitud. Cuando menor sea la puntuación, más probable es que el rostro sea Deepfake.
Lo que se ha demostrado
Además, solo se ha demostrado su eficacia en imágenes de retratos. Si el rostro de la imagen no está mirando a la cámara, es probable que el sistema produzca falsos positivos. Los investigadores planean investigar estos problemas para mejorar la efectividad de su método. En su forma actual, no detectará los Deepfakes más sofisticados, pero aún podría detectar muchos de los más crudos.Fuente: este post proviene de Cristian Monroy, donde puedes consultar el contenido original.
¿Vulnera este post tus derechos? Pincha aquí.
Creado: