El primer informe de transparencia de moderación de contenido de Xbox destaca la mejora de las aplicaciones proactivas
Para mostrar su dedicación a “fomentar espacios que sean seguros, positivos, inclusivos y atractivos para todos los jugadores”, Microsoft lanzó su primer Informe de transparencia de Xboxque emitió 4,33 millones de ejecuciones proactivas contra cuentas no auténticas en el xbox comunidad. La cifra representa 814.000 cuentas de contenido sexual para adultos, 759.000 de acoso o intimidación y 1 millón de cuentas de blasfemias.
“La publicación de este informe es parte de nuestro compromiso de larga data con la seguridad en línea, abordando los aprendizajes y haciendo más para ayudar a las personas a comprender cómo desempeñar un papel positivo en la comunidad de Xbox”, explica Dave McCarthy, vicepresidente de servicios para jugadores de Xbox, en una publicación de Xbox Wire. . “Este informe complementa la revisión continua de nuestros Estándares comunitarios, lo que facilita que todos los jugadores comprendan qué es y qué no es una conducta aceptable; inversión continua en herramientas de moderación; y asociación continua con asociaciones industriales, reguladores y la comunidad”.
Las acciones dictadas a más de 4 millones de cuentas no auténticas entre enero y junio constituyeron el 57% del total de ejecuciones de la empresa. En una entrevista con BloombergMcCarthy dijo que los refuerzos no solo se referían a cuentas automatizadas o creadas por bots, sino también a “la actividad regular de actores estatales y otros grupos financiados que intentan distribuir contenido que no tiene cabida en nuestros servicios”.
Estos refuerzos proactivos, explicó el CVP, fueron realizados por inteligencia artificial o moderadores humanos. Si bien no se especificó el tamaño de este último, McCarthy enfatizó que los agentes están “en plantilla las 24 horas del día, los 7 días de la semana, los 365 días del año” y que la moderación proactiva de Xbox aumentó hasta 9 veces en comparación con el mismo período del año pasado. McCarthy también elogió la participación de los jugadores de la comunidad en la realización, quienes proporcionaron 33 millones de informes durante el período.
El impulso en la moderación proactiva de Xbox también se puede atribuir a la adquisición por parte de Microsoft en 2021 de la plataforma de moderación de contenido Two Hat, que utiliza un proceso de moderación de contenido impulsado por inteligencia artificial que clasifica y filtra mensajes, nombres de usuario, imágenes y videos. A pesar de esta tecnología, Xbox todavía tiene otras áreas de recursos para aprovechar, específicamente en el uso de tecnología de filtrado de voz para identificar violaciones de la comunidad en su plataforma. McCarthy le dijo a Bloomberg que podría centrarse en dicha área en el futuro, dando importancia a la privacidad de los jugadores.
Xbox promete publicar un informe de transparencia de moderación cada seis meses. Y dado que esta es la primera vez y la compañía es sólo una de las pocas plataformas de juegos que exploran esta nueva práctica, McCarthy dijo que Xbox está “aprendiendo cómo es para nosotros un buen informe de transparencia”.
