China está introduciendo nuevas reglas para restringir el uso de tecnología de síntesis profunda.
Esta medida está en línea con el esfuerzo continuo del gobierno para combatir los rumores, la propaganda y la desinformación en Internet, como informó Poste matutino del sur de China (SCMP).
Nuevas regulaciones
La Administración del Ciberespacio de China, el Ministerio de Industria y Tecnología de la Información y el Ministerio de Seguridad Pública emitieron el el 11 de diciembre, que entrará en vigor el próximo año el 10 de enero.
Cualquier trabajo que haya sido modificado mediante una síntesis profunda debe estar claramente etiquetado para que se pueda rastrear hasta sus creadores originales.
Para cumplir con las reglas, debe obtener permiso de la persona cuya imagen o voz está alterando antes de hacerlo.
Al volver a publicar noticias con material elaborado con tecnología de síntesis profunda, la fuente debe pertenecer a la lista aprobada por el gobierno de 1.358 fuentes.
El gobierno ha descrito la síntesis profunda como el uso de software como el aprendizaje profundo y la realidad aumentada para producir texto, imágenes, audio, video y escenarios virtuales.
Se espera que aquellos que brindan servicios de síntesis profunda respeten la ley, actúen éticamente y mantengan la “dirección política” correcta y la “orientación de la opinión pública” adecuada, como se establece en la nueva legislación.
La Administración del Ciberespacio ha dicho que brindarían una fuerte protección legal para salvaguardar y apoyar el desarrollo ordenado de servicios de síntesis profunda mediante la implementación de estas leyes y regulaciones y la definición de requisitos sistemáticos y personalizados para el uso de dicha tecnología en servicios de información en línea.
Según un artículo publicado en la cuenta pública WeChat de la administración del ciberespacio, según lo informado por SCMP, el principal regulador de Internet de China expresó su preocupación de que el desarrollo y la aplicación no regulados de síntesis profunda puedan llevar a su uso en actividades ilícitas, incluido el fraude o la difamación en línea.
La decisión de promulgar una legislación independiente sobre la síntesis profunda es una respuesta a los avances tecnológicos y los obstáculos regulatorios que han llevado al estado actual de las cosas.
Aparición de los deepfakes
Los deepfakes, en los que se utiliza material sintético para reemplazar la cara o la voz de una persona por otra, son uno de los usos más notorios de esta tecnología.
Un ejemplo notorio es una película manipulada que pretende mostrar al fundador de Facebook, Mark Zuckerberg, alardeando de su dominio de los datos robados de miles de millones de usuarios de Facebook.
A medida que la tecnología mejora, se utilizan deepfakes para fabricar películas pornográficas de celebridades, crear noticias falsas y realizar fraudes financieros en todo el mundo.
Los sitios de redes sociales populares en Occidente, incluidos Twitter y Facebook, han implementado nuevas medidas para identificar y restringir la distribución de noticias falsas y propaganda habilitada por deepfakes.
Historia relacionada: Tecnología Deepfake 2022: Cómo proteger su empresa de los ataques Deepfake
En el sector de la IA
Mientras tanto, el desarrollo de tecnología de síntesis profunda presenta problemas y posibilidades para el negocio de la inteligencia artificial (IA), según Shi Jianzhong, subdirector de la Universidad de Ciencias Políticas y Derecho de China.
Shi dijo que el avance del programa de síntesis profunda y la expansión de sus casos de uso alentarían a todo el sector de la IA a promover el crecimiento y el uso ético de las tecnologías de IA.
Historia relacionada: Deepfakes e IA: ¿pronto cambiarán nuestro mundo? Samsung crea su versión con ‘MegaPortrait’
ⓒ 2023 . .
