En los últimos meses, los generadores de imágenes con inteligencia artificial (IA) han evolucionado significativamente, lo que les permite crear imágenes de apariencia realista que frecuentemente son difíciles de distinguir de fotografías reales.
Los recientes éxitos virales que han sacudido a los medios de comunicación, como una imagen generada por IA del presunto arresto de Donald Trump días antes de que un gran jurado lo acuse de múltiples cargos de fraude empresarial y el Papa vistiendo un fabuloso abrigo acolchado blanco de diseño solo unos días después de ser enfermos reportados con enfermedades pulmonares, han sido generados por sistemas de inteligencia artificial, lo que hace cada vez más difícil distinguir entre imágenes reales y artificiales.
Cómo detectar imágenes generadas por IA
en un Científico americano En este artículo, S. Shyam Sundar, investigador de la Universidad Estatal de Pensilvania que estudia el impacto psicológico de las tecnologías de los medios, comenta que la capacidad de los generadores de imágenes de IA es asombrosa. Sin embargo, todavía hay algunas señales reveladoras que delatan el algoritmo de IA. Por ejemplo, los sistemas de inteligencia artificial pueden tener dificultades para producir imágenes con manos de apariencia realista o producir apéndices destrozados con demasiados dígitos.
Pero los generadores de imágenes de IA no tardaron mucho en evolucionar.
Los generadores de imágenes de IA han tenido dificultades anteriormente para imitar las manos humanas y producir imágenes con apéndices de apariencia realista. Sin embargo, gracias a los recientes avances en la tecnología de inteligencia artificial, algunos sistemas, como Midjourney V5, ahora pueden imitar de manera convincente las manos humanas. Esta capacidad ha contribuido significativamente al avance de las capacidades de generación de imágenes de la IA.
Incluso en sus primeras etapas, la herramienta ya ayudó a alguien a ganar el primer lugar en un concurso de bellas artes. Piénsalo.
Los generadores de imágenes de IA también se han visto muy favorecidos por el hecho de que muchas imágenes pueden usarse para entrenar sistemas de IA y que la infraestructura de procesamiento de datos y las interfaces de usuario están mejorando.
Sobre la velocidad del desarrollo de la IA
Un reciente experimento realizado por psicólogos de la Universidad de Lancaster en Inglaterra, probó si los voluntarios podían distinguir entre fotografías en la cabeza tipo pasaporte creadas por un sistema de inteligencia artificial llamado StyleGAN2 e imágenes reales. Los resultados fueron preocupantes porque mostraron que las personas no podían distinguir de manera confiable entre fotografías falsas y reales de personas reales.
Aunque existen problemas, los sistemas de IA entrenados para detectar imágenes falsas pueden ser la respuesta al problema de que los sistemas de IA engañen a los humanos.
Estos programas de detección de IA funcionan recopilando conjuntos de datos de imágenes auténticas y generadas por IA y utilizándolos para entrenar modelos de aprendizaje automático para diferenciar entre los dos. Sin embargo, la mayoría de los detectores todavía no pueden reconocer imágenes falsas producidas por diferentes algoritmos.
Las plataformas de redes sociales deben tomar medidas contra el contenido generado por IA en sus sitios. Los usuarios también deben examinar la información visual con escepticismo y preguntarse si es falsa, generada por IA o dañina antes de compartirla.
El progreso de los generadores de imágenes de IA es una gran preocupación porque amenaza la credibilidad de los medios visuales. A medida que la tecnología de IA continúa progresando, es esencial desarrollar métodos de detección que puedan mantenerse al día con el rápido desarrollo de la tecnología.
Por último, el rápido avance de esta tecnología plantea una miríada de nuevos peligros, ya que los delincuentes pronto podrían explotar imágenes generadas por IA con fines nefastos, una nueva generación de desafíos para las personas en línea.
Manténgase informado aquí en Tech Times.
ⓒ 2023 . .
Etiquetas:
