Con técnicas como la marca de agua que previene parcialmente la manipulación de imágenes no autorizada, un investigador del MIT ha inventado una herramienta llamada “fotoguardia”, que evitará que las herramientas de IA manipulen imágenes sin permiso, y valoren la vida de un artista.
Bloqueo de manipulación de imágenes no autorizada
Con la IA generativa creando infinitas posibilidades, a los investigadores y artistas les preocupa que su trabajo se de por sentado. Y esto es más preocupante para los diseñadores, cuyo trabajo es explotado por la IA a cambio de nada.
Herramientas como Dall-E y Stable Diffusion pueden manipular una imagen como se desee, aunque existen algunas deficiencias. Pero con ellos cada vez más potentes en cada actualización, artistas de todo tipo están a la caza para detenerlo. Y la nueva herramienta del MIT hará exactamente eso y les dará la reputación que se merecen.
Llamado fotoguardiala herramienta MIT CSAIL detendrá la manipulación no autorizada de imágenes de múltiples formas. Una versión consiste en alterar píxeles seleccionados en una visión para confundir la capacidad de la IA para comprender qué es la imagen.. Los investigadores llamaron a estos cambios “perturbaciones” y son invisibles al ojo humano.
El siguiente es un “codificador” ataque donde la imagen de destino (que será manipulada por la IA) se ajusta con algoritmos para confundir a la IA. Este proceso implica agregar matemáticas complejas para reparar la posición y el color de cada píxel en una imagen.
Y por último, cuanto más avanzado”DifusiónEl modelo puede camuflar una imagen como una imagen diferente a los ojos de la IA. La herramienta envía una imagen objetivo falsa a la IA para que trabaje en ella, donde todos los cambios se aplican a la versión falsa mientras se mantiene intacta la original. Esto da como resultado la generación de una imagen de aspecto poco realista.
Hablando de esta nueva herramienta, el estudiante de doctorado del MIT y autor principal de este artículo, Hadi Salman, dijo
“Un enfoque colaborativo que involucre a desarrolladores de modelos, plataformas de redes sociales y legisladores presenta una sólida defensa contra la manipulación no autorizada de imágenes”.
