– En medio de feroces protestas por el asesinato de George Floyd a manos de un policía, se supo que la policía estaba usando tecnología reconocimiento facial para identificar a los manifestantes. IBM se opuso y su desaprobación se expresó en una carta enviada a cinco senadores de Estados Unidos.
“Creemos que ahora es el momento de iniciar un diálogo nacional sobre si las agencias nacionales encargadas de hacer cumplir la ley deben usar la tecnología de reconocimiento facial y cómo”, escribió Arvind Krishna, actual director ejecutivo de IBM.
También enfatizó que IBM se opone firmemente al uso de cualquier tecnología, incluida la tecnología reconocimiento facial, por cualquier actividad que viole los derechos humanos o sea contraria a los valores sociales defendidos por la empresa.
Como evidencia concreta para respaldar su declaración, IBM declara que ya no proporcionará la tecnología. reconocimiento facial a nadie, y detener su desarrollo. Al menos hasta que haya una responsabilidad clara por el uso de la tecnología.
El descubrimiento de un sesgo en el algoritmo detrás de la tecnología de IA utilizada para reconocer rostros también es otro punto que discutió Khrisna.
“La inteligencia artificial es una herramienta muy poderosa para ayudar a las fuerzas del orden público a proteger a los ciudadanos. Pero los proveedores y usuarios de sistemas de IA tienen la responsabilidad compartida de garantizar que se prueben los sesgos en la IA, especialmente cuando se usa para hacer cumplir la ley, y que las pruebas de sesgo se auditen y se informen”, dijo Khrisna.
En un estudio que evaluó 189 algoritmos reconocimiento facial De 99 proveedores, el Instituto Nacional de Estándares y Tecnología (NIST) encontró prejuicios raciales en personas que no eran “blancas”. Estos algoritmos tienden a ser inexactos cuando identifican a negros, asiáticos y nativos americanos (indios).
El impacto de tales prejuicios raciales puede ser devastador. Personas inocentes pueden ser acusadas de delitos debido a errores de algoritmo reconocimiento facial en el reconocimiento de sus rostros.
El bajo nivel de precisión del algoritmo, que solo apunta a personas no blancas, también refuerza la impresión de racismo por lo que genera más polémica, especialmente en medio de manifestaciones en Estados Unidos que están siendo demandadas intensamente por brutalidad policial y racismo. .
La existencia de dicho sesgo racial y la ausencia de regulaciones federales que regulen y controlen el uso de la tecnología. reconocimiento facial en los Estados Unidos, esa fue razón suficiente para que IBM suspendiera el soporte para la tecnología. [az/tn]
