A medida que crece la preocupación por el uso indebido de la inteligencia artificial (IA) en la política, los expertos pidieron medidas para abordar la amenaza potencial que representan las imágenes mejoradas por IA.
La advertencia se produce después de que Karl Turner, un parlamentario laborista, compartiera una imagen manipulada de Rishi Sunak bebiendo una pinta de cerveza negra en el gran festival de la cerveza británica en X, lo que provocó críticas de los conservadores, según El guardián.
Si bien aún no está claro si se utilizaron herramientas de inteligencia artificial para manipular la imagen, los expertos enfatizaron que los programas de inteligencia artificial han hecho que sea cada vez más fácil producir contenido falso convincente, incluidos texto, imágenes y audio.
A medida que se acercan las elecciones más importantes en el Reino Unido y Estados Unidos el próximo año, aumentan los temores de que tales tecnologías puedan socavar los procesos democráticos.
Potencial de la IA para engañar a los votantes
Wendy Hall, profesora de informática en la Universidad de Southampton, destacó la necesidad de priorizar los riesgos relacionados con la IA en los sistemas democráticos, dada la posibilidad de que el contenido generado por la IA engañe a los votantes.
“Creo que el uso de tecnologías digitales, incluida la IA, es una amenaza para nuestros procesos democráticos. Debería ocupar un lugar destacado en la agenda del registro de riesgos de IA, ante dos elecciones importantes, en el Reino Unido y en los EE. UU., que se avecinan el próximo año”, dijo Hall. dijo El guardián.
Shweta Singh, profesora asistente de la Universidad de Warwick, se hizo eco del llamado a aplicar principios éticos para garantizar la confiabilidad de las noticias consumidas por el público, especialmente durante los períodos electorales.
“Necesitamos actuar al respecto ahora, ya que es imposible imaginar elecciones justas e imparciales si no existen tales regulaciones. Es una preocupación grave y se nos está acabando el tiempo”, dijo Singh también al medio.
El profesor Faten Ghosn, jefe del departamento de gobierno de la Universidad de Essex, también instó a los políticos a ser transparentes sobre el uso de imágenes manipuladas y sugirió implementar regulaciones que exijan que el contenido generado por IA en los anuncios políticos esté claramente marcado.
Esta cuestión forma parte de un debate más amplio sobre cómo regular la IA de forma eficaz. Darren Jones, presidente laborista del comité selecto de empresas, cuestionó la capacidad de identificar fotografías ultrafalsas y pidió medidas para abordar el problema antes de las próximas elecciones.
Mientras que el departamento científico del Reino Unido está buscando opiniones para un libro blanco sobre IA que defienda principios generales para el desarrollo de la tecnología, los expertos abogan por medidas específicas para combatir la desinformación generada por la IA.
Las empresas de IA abordan el problema
Las principales empresas de IA han reconocido la importancia de abordar este problema. Amazon, Google, Meta, Microsoft y OpenAI, el creador de ChatGPT, acordaron recientemente incorporar marcas de agua en el contenido visual y de audio generado por IA. Esta medida está diseñada para diferenciar el contenido manipulado producido por IA del material genuino.
En junio, Brad Smith, presidente de Microsoft, subrayó la necesidad apremiante de abordar la desinformación generada por la IA mucho antes del comienzo del próximo año para salvaguardar la integridad de las elecciones de 2024.
Dado el potencial de las imágenes mejoradas por IA para alterar los procesos democráticos y engañar a los votantes, los expertos subrayan la necesidad de medidas proactivas para regular el uso de la IA en contextos políticos.
ⓒ 2023 . .
