Los legisladores de la UE votan para prohibir el escaneo facial público y regulaciones más estrictas sobre IA

El Parlamento Europeo aprobó una resolución crucial que prohíbe rotundamente el monitoreo biométrico remoto en tiempo real. Debido a esta decisión, futuras discusiones podrían poner a los legisladores en conflicto con los 27 países miembros de la UE.

La semana pasada, el fracaso de un acuerdo político arrojó dudas sobre la amplia prohibición, que los parlamentarios habían aprobado previamente. Los legisladores también establecieron nuevas regulaciones sobre la IA de uso general y modelos pilares como GPT-4, además de la restricción al monitoreo biométrico.

La propuesta del parlamento pide a empresas como OpenAI Inc. y Google, independientemente del uso de sus modelos de IA, que realicen análisis de riesgos y divulguen resúmenes de los materiales protegidos por derechos de autor que utilizaron para entrenar dichos modelos, según Bloomberg.

La presidenta del Parlamento Europeo, Roberta Metsola, destacó en una conferencia de prensa la necesidad de definir límites y restricciones para la inteligencia artificial. Dijo que los avances tecnológicos siempre deben ser consistentes con los principios democráticos y los derechos fundamentales.

¿Qué pasará después?

El parlamento aprobó el texto completo de la Ley de IA con 499 votos a favor, 28 votos en contra y 93 abstenciones. Esto abre el camino para deliberaciones de “diálogo tripartito” programadas más adelante entre el parlamento, los estados miembros de la UE y la Comisión Europea.

Cualquier producto o servicio que utilice sistemas de IA estaría sujeto a regulación en virtud de la Ley de IA, que se propuso por primera vez en 2021. Divide los sistemas de IA en categorías según el grado de peligro, que va desde mínimo hasta intolerable. Se requerirá transparencia y uso preciso de datos para aplicaciones de alto riesgo como emplear o apuntar a niños.

Los estados miembros de la UE harán cumplir las regulaciones y las autoridades pueden obligar a las empresas a retirar del mercado sus productos basados ​​en IA. Las multas por infringir las reglas pueden superar los 30 millones de euros (33 millones de dólares) o el 6% de las ventas mundiales anuales de una empresa, lo que equivale a miles de millones para gigantes digitales como Google y Microsoft.

Proteger al público de las amenazas de la IA y defender la democracia

El principal objetivo de la Unión Europea con esta medida es proteger las vidas, las propiedades y los derechos y valores fundamentales de las personas contra los daños causados ​​por la IA. Semejante Sistemas de “puntuación social”, que clasifican a las personas según sus acciones, se encuentran entre las aplicaciones de la IA que están explícitamente prohibidas. Según Time, la IA explotadora que se dirige a poblaciones vulnerables, como los niños, o utiliza manipulación subliminal para promover conductas de riesgo, también está prohibida.

La versión comprometida de la Ley de IA permite que las fuerzas del orden utilicen datos biométricos remotos, pero sólo después de que se haya cometido un delito importante, con la aprobación del tribunal, y no en tiempo real.

Varios miembros del Parlamento Europeo creen que el uso de la biometría por parte de las fuerzas del orden es incompatible con las normas democráticas, lo que ha hecho que este tema sea divisivo. El tema ha sido impulsado por el uso extensivo por parte del Partido Comunista de China de cámaras de reconocimiento facial para monitorear a la gente, según Euronews.

Durante la votación, la presidenta Roberta Metsola destacó la necesidad de equilibrar el progreso técnico y los intereses de la sociedad, reiterando la necesidad de establecer límites y restricciones distintos a la inteligencia artificial.

ⓒ 2023 . .