Facebook y la Universidad Estatal de Michigan están trabajando en un sistema de detección de deepfake que puede aplicar ingeniería inversa a las falsificaciones para detectar el modelo de aprendizaje automático utilizado para crearlas.
Detectando deepfakes
Un deepfake es una foto o un video que reemplaza a una persona dentro de los medios con la imagen de otra. Se utilizan en noticias falsas, videos políticos falsos, pornografía de venganza y otras formas de fraude.
A medida que la tecnología utilizada para crearlos mejora con el tiempo, se vuelve más difícil para las personas notar la diferencia o darse cuenta de la falsificación. Esto es lo que dice Facebook en su publicación:
Al generalizar la atribución de imágenes al reconocimiento de conjuntos abiertos, podemos inferir más información sobre el modelo generativo utilizado para crear un deepfake que va más allá de reconocer que no se ha visto antes. Y al rastrear similitudes entre patrones de una colección de deepfakes, también podríamos saber si una serie de imágenes se originó a partir de una sola fuente.
El análisis de modelos se desarrolló en colaboración con Vishal Asnani y Xiaoming Liu de la Universidad Estatal de Michigan.
