Así es como funciona el mecanismo CAM doble.

Por James Vincent 12 de junio de 2020. The Verge

Ilustración de Alex Castro / The Verge

Facebook ha anunciado los resultados de su primer Deepfake Detection Challenge, una competencia abierta para encontrar algoritmos que puedan detectar videos manipulados por IA. Los resultados, aunque prometedores, muestran que aún queda mucho trabajo por hacer antes de que los sistemas automatizados puedan detectar de manera confiable el contenido falso, y los investigadores describen el problema como un “problema sin resolver”.

Facebook dice que el algoritmo ganador en el concurso fue capaz de detectar “ejemplos desafiantes del mundo real” de deepfakes con una precisión promedio de 65.18 por ciento. Eso no está mal, pero no es el tipo de éxito que desearías para cualquier sistema automatizado.

Deepfakes ha demostrado ser una amenaza exagerada para las redes sociales. Aunque la tecnología provocó muchas dudas sobre la erosión de la evidencia de video confiable, los efectos políticos de las falsificaciones profundas hasta ahora han sido mínimos. En cambio, el daño más inmediato ha sido la creación de pornografía no consensuada, una categoría de contenido que es más fácil de identificar y eliminar para las plataformas de redes sociales.

Mike Schroepfer, director de tecnología de Facebook, dijo a los periodistas en una llamada de prensa que estaba satisfecho con los resultados del desafío, que según él crearía un punto de referencia para los investigadores y guiaría su trabajo en el futuro. “Honestamente, el concurso ha sido más exitoso de lo que podría haber esperado”, dijo.

Comentarios