Facebook está invirtiendo importantes esfuerzos en hacer cumplir los estándares comunitarios para los participantes en sus diversas plataformas sociales. En este sentido, además de contar con personal humano encargado de velar por el cumplimiento, Facebook se está apoyando en tecnologías de Inteligencia Artificial, y hoy ha ofrecido un avance de los avances realizados en los últimos tiempos en este ámbito.
En este sentido, se refirió a sistemas actualmente en uso como Reinforcement Integrity Optimizer (RIO), implementado a finales del año pasado, que asegura ha ayudado a reducir significativamente los discursos de odio y otro tipo de publicaciones no deseadas en sus plataformas sociales en el país. primer semestre del año.
Mike Schroepfer, director de tecnología de Facebook, dijo: “La IA es un campo que evoluciona increíblemente rápido y muchas de las partes más importantes de nuestros sistemas de IA actuales se basan en técnicas como el autocontrol, que parecía un futuro lejano hace apenas unos años”.
En este sentido, explica que en lugar de entrenar un sistema basado en IA a partir de un conjunto de datos fijo, con RIO han optado por un modelo en el que el sistema aprende directamente sobre millones de contenidos actuales, adaptándose con el tiempo para hacer mejor su trabajo. .
Schroepfer sostiene que el enfoque utilizado en RIO es “increíblemente valioso” para el cumplimiento de las normas de la UE y añade que:
Debido a que la naturaleza del problema siempre evoluciona junto con los acontecimientos actuales, cuando surgen nuevos problemas, nuestros sistemas deben poder adaptarse rápidamente. El aprendizaje por refuerzo es un enfoque poderoso para ayudar a la IA a enfrentar nuevos desafíos cuando hay escasez de buenos datos de entrenamiento.
En este sentido, esperan que RIO continúe ayudando con el tiempo a reducir aún más el discurso de odio en la plataforma.
Pero además de RIO, Facebook También están reemplazando sistemas personalizados de propósito único por otros más generales, viendo “mejoras impresionantes” mediante el uso de modelos de IA multimodal, que pueden funcionar con múltiples idiomas y múltiples tipos de contenido.
Schroepfer también ha hecho referencia a modelos de aprendizaje de “tiro cero” y “pocos tiros” que permiten a la Inteligencia Artificial identificar contenido infractor, incluso si apenas o nunca han tenido un ejemplo de ello.
Dijo que “el aprendizaje sin posibilidades y con pocas oportunidades es uno de los muchos dominios de IA de vanguardia en los que hemos estado realizando importantes inversiones en investigación y esperamos ver resultados el próximo año”.
