China anunció sus planes para controlar el uso de tecnología de inteligencia artificial (IA) para la verificación de las identidades de los usuarios. El viernes 28 de enero, las autoridades propusieron un proyecto de normas para luchar contra la difusión de “deep fakes” en varias plataformas.
El regulador también quería promover los valores socialistas chinos como parte de la reducción de tecnologías que podrían perturbar el ciberespacio.
China toma medidas enérgicas contra los deepfake
(Foto: Amanda Dalbjörn de Unsplash)
Represión de los deepfake en China
Según un informe de Poste matutino del sur de China, Las empresas que dependen del deepfake como servicio deben someterse a una verificación estricta. Este proceso implicaría confirmar las identidades de las personas.
Después de pasar esta prueba, podrían obtener luz verde para utilizar sus productos. Además, las autoridades chinas también esperaban que estas corporaciones se apegaran a promover la “moral y ética social”.
En medio de la decisión de Beijing de seguir castigando las tecnologías explotadoras para los consumidores, los funcionarios crearon estas regulaciones como parte de su propuesta. Además, China también abordará el control de algoritmos para brindar más recomendaciones a cada usuario.
Para aclarar, la Administración del Ciberespacio de China (CA) señaló en sus documentos que los algoritmos que generan imágenes, clips, audios y más se someterían a una evaluación adicional.
Las empresas de deepfake deberían solicitar el consentimiento del usuario
Si bien los deepfakes son sorprendentes a su manera, siguen siendo alarmantes para muchos considerando su potencial para imitar el rostro real de una persona. En algunos casos, esto podría dar lugar a una identidad errónea y utilizarse para llevar a cabo planes maliciosos, como difundir información errónea.
“Cuando un proveedor de servicios de síntesis profunda proporcione importantes funciones de edición de información biométrica, como el rostro y la voz humana, deberá solicitar al (proveedor) que notifique y obtenga el consentimiento individual del sujeto cuya información personal está siendo editada”, establece el artículo 12. el borrador dice, por Tiempos del estrecho.
Además, aquellos infractores por primera vez que no sigan las reglas recibirán una multa de 10.000 yuanes (1.600 dólares) a 100.000 yuanes (16.000 dólares). En caso de sanciones posteriores, los proveedores de deepfake podrían ser castigados con procesos tanto penales como civiles.
Para evitar que los deepfakes se utilicen para desinformar, habría un sistema de quejas específico. Como tal, la decisión dependerá de las tiendas de aplicaciones si suspenden a los proveedores de tecnología deepfake.
En cuanto al proyecto de normas, se mencionó que los delincuentes podrían utilizar servicios de síntesis profunda para publicar y difundir información ilegal. Esto también abarcaba degradar la reputación de una persona y suplantar su identidad.
Cómo identificar vídeos deepfake a través de los ojos del sujeto
En un interesante artículo de Tech Times, los expertos compartieron cómo detectar efectivamente los deepfakes en algunos clips. Dado que se trata de un tema controvertido que hay que discutir, es mejor que la gente sepa reconocerlos mejor.
Según los investigadores, se pueden distinguir los deepfakes de los reales a través de sus ojos. Basta mirar más de cerca sus córneas y buscar las luces en esa región.
De hecho, los deepfakes han mejorado el poder de la IA con algunos ajustes. Si bien es interesante estudiar cómo funciona la tecnología, la gente no debe olvidar que siempre existe un riesgo para cada creación.
Mientras tanto, otro grupo de científicos dijo que la IA de alto nivel es difícil de controlar. Creían que la superinteligencia puede superar a los humanos en sus tareas diarias.
Este artículo es propiedad de Tech Times.
ⓒ 2023 . .
