El 22 de mayo de 2023, una imagen falsa de una explosión en el Pentágono se volvió viral brevemente. La imagen, que fue creada usando IA generativa, fue difundida por varias cuentas en las redes sociales. Esto provocó una caída de diez minutos en los mercados cuando los inversores entraron en pánico y vendieron acciones.
El Pentágono rápidamente emitió un comunicado negando que hubiera habido una explosión. Sin embargo, el daño ya estaba hecho. La imagen falsa había causado miedo e incertidumbre generalizados. También destacó los peligros de la IA generativa.
Explosión falsa del Pentágono de IA explicada
La foto de la explosión que se volvió viral en las redes sociales supuestamente mostraba daños en el Pentágono en Washington, DC, y se generó con un software de IA.
Sin embargo, esto no impidió que fuera compartido por una gran cantidad de cuentas de redes sociales, lo que provocó una breve caída en el mercado de valores.
Los usuarios de Twitter se alarmaron la madrugada del lunes por una fotografía que se decía que mostraba una enorme nube de humo cerca de una estructura y los rumores de que se había producido una explosión cerca del Pentágono.
Sin embargo, el Departamento de Policía de Arlington declaró que la foto y las declaraciones que la acompañaban eran falsas.
Peligros de la IA generativa
La IA generativa es un tipo de inteligencia artificial que puede crear contenido nuevo, como imágenes, texto y música. Todavía está en desarrollo, pero ya se ha utilizado para crear contenido impresionante y de aspecto realista. Sin embargo, la IA generativa también se puede utilizar para crear contenido falso, como la imagen de la explosión del Pentágono.
Confiado en que esta imagen que afirma mostrar una “explosión cerca del pentágono” es generada por IA.
Echa un vistazo a la fachada del edificio y la forma en que la cerca se funde con las barreras de multitudes. Tampoco hay otras imágenes, videos o publicaciones de personas como testigos de primera mano. pic.twitter.com/t1YKQabuNL
—Nick Waters (@N_Waters89) 22 de mayo de 2023
Los peligros de la IA generativa no se limitan a la difusión de información errónea. El contenido falso también se puede utilizar para manipular las emociones y el comportamiento de las personas. Por ejemplo, un artículo de noticias falsas podría usarse para incitar a la violencia o sembrar el miedo.
La explosión del Pentágono AI es una llamada de atención. Muestra que la IA generativa es una herramienta poderosa que puede usarse para bien o para mal. Es importante ser consciente de los peligros de la IA generativa y tomar medidas para protegernos de ella.
Estos son algunos consejos para protegerse de la IA generativa:
- Sea crítico con el contenido que ve en línea. No creas todo lo que ves.
- Compruebe la fuente del contenido. ¿Es de una fuente confiable?
- Busque señales de que el contenido es falso. Por ejemplo, ¿la gramática o la ortografía son malas? ¿Las imágenes o videos están pixelados?
- Reporta contenido falso a la plataforma donde lo viste.
Necesitamos estar atentos para protegernos de los peligros de la IA generativa. Al ser conscientes de los riesgos y tomar medidas para protegernos, podemos ayudar a evitar que la IA generativa se utilice para hacer daño.
