Los crecientes sistemas de IA generativa permiten a los chatbots editar y crear imágenes, con Shutterstock y Adobe a la vanguardia. Persisten las preocupaciones sobre la manipulación de imágenes y el robo de arte, pero las marcas de agua y ‘PhotoGuard’ del MIT CSAIL ofrecen soluciones.
Ofreciendo soluciones a la manipulación de imágenes y el robo de obras de arte
Los cambios innovadores en la industria tecnológica surgen a medida que avanzan los sistemas de inteligencia artificial generativa como Dall-E y Stable Diffusion. Los chatbots obtienen capacidades sofisticadas de edición de imágenes, con Shutterstock y Adobe a la cabeza.
A pesar del progreso, Engadget informó que persisten las preocupaciones sobre la manipulación no autorizada y el robo de derechos de autor. Los métodos de marcas de agua mitigan los riesgos, mientras que ‘PhotoGuard’ del MIT CSAIL ofrece protección contra la manipulación no autorizada de imágenes.
PhotoGuard emplea una técnica que introduce alteraciones sutiles en pÃxeles especÃficos de una imagen, interrumpiendo la comprensión de la IA y al mismo tiempo permanece invisible para los humanos. Este ‘ataque de codificador’ confunde la comprensión de la imagen por parte de la IA, lo que hace que malinterprete el contenido mostrado.
Al emplear el método de ataque “codificador”, se manipula la comprensión de la IA de la imagen de entrada, lo que hace que la interprete como algo completamente ajeno. Por el contrario, el método de ataque de “difusión” adopta un enfoque diferente al camuflar una imagen como distinta desde la perspectiva de la IA.
Al ajustar las perturbaciones en la imagen objetivo, Evaluaciones de DGT informó que cualquier modificación intentada por la IA en realidad se aplica a la imagen objetivo falsificada, lo que lleva a la generación de una imagen engañosa y poco realista.
Lea también: Detección de imágenes generadas por IA: asà es como funciona la tecnologÃa ‘Acerca de esta imagen’ de Google
Ataque de difusión
El método de ataque de “difusión” es una técnica altamente sofisticada y computacionalmente intensiva que disfraza una imagen como diferente, engañando a los sistemas de inteligencia artificial para que la perciban como la imagen objetivo. Al ajustar las perturbaciones dentro de la imagen, imita la apariencia del objetivo deseado.
Cualquier alteración o edición realizada por una IA en estas imágenes “protegidas” en realidad se aplicará a la imagen “objetivo” falsificada, lo que dará como resultado un resultado manipulado y poco realista. El doctorado del MIT y autor principal, Hadi Salman, afirmó: “El ataque del codificador hace que el modelo piense que la imagen de entrada (a editar) es otra imagen (por ejemplo, una imagen gris)”.
En el caso del ataque de difusión, TS2 informó que obliga al modelo de difusión a aplicar ediciones destinadas a parecerse a una imagen objetivo especÃfica, que podrÃa incluso ser arbitraria o aleatoria. Sin embargo, esta técnica no es del todo infalible, ya que los actores maliciosos tienen el potencial de intentar revertir la ingenierÃa de la imagen protegida.
Un esfuerzo de colaboración es esencial para abordar eficazmente las amenazas potenciales que plantean las herramientas de IA. Esto implica reunir a desarrolladores de modelos, plataformas de redes sociales y formuladores de polÃticas para establecer un sistema de defensa sólido. Si bien se han logrado algunos avances, es necesario realizar un trabajo más extenso para que esta protección sea práctica y eficiente.
Es fundamental que las empresas inviertan en el desarrollo de estrategias sólidas de inmunización para garantizar que estén adecuadamente equipadas para contrarrestar los riesgos potenciales asociados con estas herramientas de inteligencia artificial.
â“’ 2023 . .
