El 27 de junio el problema se produjo con un vídeo del periódico británico Daily Mail, según The New York Times. Facebook se disculpó y desactivó la función de recomendaciones para evaluar el funcionamiento de su IA como resultado de la protesta pública.
Este evento sólo se suma a la larga lista de comportamientos racistas y sexistas que replica la IA. Hemos discutido cómo los sitios de redes sociales como Facebook resaltan fotografías de personas blancas mientras discriminan a otras razas en más de una ocasión.
Al usuario se le recomendó un vídeo sobre primates, en el que se veía a un hombre negro y a un hombre blanco discutiendo. Según informes de los medios británicos, el hombre blanco abusó de la otra persona y hubo que llamar a la policía. Pero, independientemente del tema del vídeo, Facebook sugirió después del vídeo con este mensaje: “Quiero seguir viendo vídeos”. ¿Sobre los primates?
El Daily Mail fue el primero en criticar a Facebook, pero inicialmente no se le reveló el error. Más tarde, Facebook se disculpó con The New York Times: “Como hemos dicho antes, si bien hemos progresado en IA, no es perfecto y hay más trabajo por hacer”.
Para examinar lo ocurrido y tratar de evitar que vuelva a suceder, la empresa propietaria también de WhatsApp e Instagram ha desactivado la función de recomendaciones en su principal red social.
Otros errores
“Todos los días vemos los límites, los sesgos y la pura idiotez de depender únicamente de la inteligencia artificial. Y, sin embargo, seguimos permitiéndonos ser conejillos de indias”, afirmó Nicole Perlroth, escritora sobre ciberseguridad del New York Times, en respuesta a este ejemplo.
La inteligencia artificial no es una excepción a la regla de que los humanos tienden a heredar prejuicios unos de otros. En las últimas semanas, Twitter también ha tenido que afrontar esta realidad: sus algoritmos inteligentes favorecen las fotos de jóvenes blancos.
Los programas que utilizan inteligencia artificial están sesgados porque con frecuencia dependen de un conjunto de muestras o parámetros para entrenar las funciones. Será difícil para la inteligencia artificial identificar al resto de la humanidad que no cumple con esos criterios si la muestra es limitada e incluye muchas imágenes de una raza o género.
