La empresa estadounidense de ciberseguridad Mandiant ha hecho sonar la alarma sobre la creciente utilización de inteligencia artificial (IA) para orquestar campañas manipuladoras en línea.
Si bien la IA ya ha sido aprovechada por malos actores para diversas intrusiones digitales, su reciente auge para impulsar la manipulación de la información ha generado importantes preocupaciones.
Los ataques impulsados por IA van en aumento
Reuters informa que investigadores de Mandiant, propiedad de Google, con sede en Virginia, han descubierto casos desde 2019 en los que el contenido generado por IA, incluidas imágenes de perfil fabricadas, desempeñó un papel fundamental en campañas de influencia en línea con motivaciones políticas.
Estas campañas se han extendido por todo el mundo e involucran a entidades vinculadas a gobiernos como Rusia, China, Irán, Etiopía, Indonesia y más.
La dramática expansión de una campaña pro China conocida como Dragonbridge ejemplifica la tendencia. Originada en 2019, centrándose en los manifestantes a favor de la democracia en Hong Kong, la campaña ha evolucionado exponencialmente, infiltrándose en 30 plataformas sociales y diez idiomas, como reveló Sandra Joyce, vicepresidenta de Mandiant Intelligence.
Sin embargo, a pesar de su crecimiento, la eficacia de estas campañas sigue siendo limitada. Como señala Sandra Joyce: “Desde el punto de vista de la eficacia, no hay muchas victorias. Realmente no han cambiado el curso del panorama de amenazas todavía”.
Contenido falso generado por IA
Lo mismo informe Señaló que la proliferación de modelos generativos de IA, incluido el conocido ChatGPT, ha desempeñado un papel fundamental en la creación de contenido falso sofisticado, que abarca vídeos, imágenes, texto e incluso códigos informáticos.
Mandiant subraya el potencial de la IA generativa para amplificar operaciones maliciosas, destacando dos aspectos cruciales: la capacidad de escalar actividades más allá de los medios inherentes y la producción de contenido fabricado convincente.
Este potencial permite a los actores de amenazas con recursos limitados producir contenido de mayor calidad a escala.
Imágenes y vídeos falsos
Una de las implicaciones más intrigantes es el uso de imágenes y vídeos generados por IA. Mandiant anticipa que las imágenes y videos generados por IA pronto estarán a la vanguardia de la adopción debido a su poderoso impacto al invocar respuestas emocionales.
El informe Mandiant presenta uno de esos casos: en mayo 2023, hubo una caída momentánea en los precios del mercado de valores estadounidense. Esto ocurrió cuando ciertas cuentas de Twitter, como el medio de comunicación estatal ruso RT y la cuenta verificada @BloombergFeed (que falsamente se presentó como afiliada a Bloomberg Media Group), compartieron una imagen generada por IA de una supuesta explosión cerca del Pentágono.
La investigación de Mandiant también revela que los actores de operaciones de información han empleado tecnología de video generada por IA, que va desde avatares humanos personalizables generados por IA hasta herramientas de intercambio de rostros, desde 2021. Estas herramientas han facilitado la promoción de narrativas deseadas, desdibujando la línea entre realidad y ficción.
Además, el potencial de la IA para generar texto también ha sido objeto de escrutinio. Aunque actualmente los casos de texto generado por IA son limitados, Mandiant prevé su rápida adopción debido a la accesibilidad y facilidad de uso de las herramientas disponibles.
Manténgase informado aquí en Tech Times.
ⓒ 2023 . .
Etiquetas:
