En nuestro mundo cada vez más conectado, el auge de imágenes sofisticadas generadas por IA ha generado preocupaciones crecientes sobre la capacidad de discernir la verdad de la ficción. Para abordar esto, ha surgido una nueva ola de empresas que ofrecen servicios para detectar contenido generado por IA y separarlo de imágenes genuinas producidas por humanos.
Si bien estas herramientas de detección de IA han logrado avances notables, existen desafÃos que superar para mantener el ritmo de los rápidos avances en la tecnologÃa de IA.
¿Es siempre eficaz una herramienta de detección de IA?
Para medir la eficacia de la tecnologÃa actual de detección de IA, Los New York Times Recientemente realizó una prueba exhaustiva, utilizando más de 100 imágenes sintéticas y fotografÃas reales. Los resultados revelaron que, si bien estos servicios están progresando rápidamente, todavÃa hay casos en los que se quedan cortos.
Los detectores de imágenes de IA, que incluyen opciones pagas como Sensity y alternativas gratuitas como los AI Art Detectors de Umm-maybe, se basan principalmente en algoritmos complejos que analizan el contenido de la imagen en busca de marcadores distintivos que indiquen imágenes generadas por IA.
Estos marcadores incluyen patrones sutiles en la disposición de los pÃxeles, la nitidez y el contraste, que se generan comúnmente cuando los programas de inteligencia artificial crean imágenes.
Sin embargo, un inconveniente notable es que estos detectores a menudo no pueden considerar pistas contextuales. Por ejemplo, es posible que no reconozcan lo improbable de una fotografÃa que muestre al empresario multimillonario Elon Musk abrazando a un robot realista. La ausencia de análisis contextual plantea una limitación significativa cuando se depende únicamente de la tecnologÃa de inteligencia artificial para identificar falsificaciones.
La detección de IA deberÃa mejorarse aún más
Al reconocer las imperfecciones de sus herramientas, varias empresas involucradas en la detección de IA, como Sensity, Hive e Inholo, han admitido mejoras continuas para mantenerse al dÃa con los últimos desarrollos en la generación de imágenes de IA.
Además, también destacaron que pueden producirse clasificaciones erróneas, especialmente al analizar imágenes alteradas o de menor calidad. Sin embargo, empresas como Umm-maybe y Optic no hicieron comentarios sobre los resultados de las pruebas.
¿Cómo afectan las herramientas de detección de IA a los artistas?
Un desafÃo notable al que se enfrentan los detectores de IA actuales es distinguir imágenes que han sido alteradas o que son de baja calidad. Cuando los generadores de IA, como Midjourney, crean obras de arte fotorrealistas, cada pÃxel contiene información valiosa sobre su origen.
Sin embargo, si una imagen se distorsiona, se cambia de tamaño o se reduce su resolución, estas señales digitales se pierden, lo que dificulta que los detectores las clasifiquen con precisión. Las versiones de mayor resolución de imágenes alteradas han mostrado mejores resultados de detección, lo que refuerza la importancia de la calidad de la imagen.
La identificación errónea plantea riesgos no sólo para los usuarios sino también para los artistas que pueden ser acusados ​​falsamente de utilizar herramientas de inteligencia artificial para crear sus obras de arte. Sensity demostró la capacidad de etiquetar correctamente la mayorÃa de las imágenes generadas por IA, pero también clasificó erróneamente varias fotografÃas reales como generadas por IA.
Esta posibilidad de etiquetar erróneamente imágenes genuinas genera preocupación sobre cómo atribuir con precisión el trabajo artÃstico y evitar acusaciones falsas.
Según Chenhao Tan, un experto en inteligencia artificial de la Universidad de Chicago que se especializa en informática, la tecnologÃa de detección de inteligencia artificial sigue siendo menos convincente.
“En general, no creo que sean buenos, y no soy optimista de que lo sean. A corto plazo, es posible que puedan actuar con cierta precisión, pero a largo plazo, Cualquier cosa especial que un humano haga con imágenes, la IA también podrá recrearla y será muy difÃcil distinguir la diferencia”, dijo Tan.
Mientras tanto, Magnates de las finanzas enumeró el papel y las ventajas de la IA en la detección de fraude.
â“’ 2023 . .
