Microsoft revela el contenido de Xbox filtros para detener la jura y la toxicidad

Microsoft está empezando a probar los nuevos filtros de contenido para su Xbox Live del sistema de mensajería de hoy, en un esfuerzo por frustrar la toxicidad en su plataforma. Microsoft ha manejado la moderación en Xbox Live durante casi 20 años, incluyendo la capacidad de los mensajes del informe, los Gamertags, fotos, y mucho más, pero este nuevo esfuerzo coloca al jugador en control de lo que van a ver en Xbox Live. En primer lugar, Microsoft está rodando fuera de texto-a base de filtros para los mensajes en Xbox Live, pero la compañía tiene un contexto mucho más amplio objetivo de ser capaces de filtrar Xbox Live party sesiones en el futuro para vivir llamadas de audio podría ser filtrado en tiempo real con los pitidos similar a las transmisiones de TELEVISIÓN.

Habrá cuatro nuevos niveles de filtración disponible para los usuarios de Xbox Live inicialmente: Fácil, Medio, Madura, y sin filtrar. Como se puede imaginar, Amigable a la mayoría de las amigas de la opción, diseñado para filtrar todos los mensajes potencialmente ofensivos. En el extremo opuesto, hay sin filtrar, que funcionará como Xbox Live de mensajería mayoría trabaja en la actualidad.

Los mensajes filtrados aparecerá con un nuevo «potencialmente ofensivo mensaje oculto» advertencia sobre ellos, y si usted está usando un adulto cuenta de Xbox Live, podrás hacer clic para ver el contenido y el informe de la utilizacion de herramientas si es necesario. Las cuentas de niño será colocado en el Amistoso de nivel por defecto, y que van a ser bloqueados por defecto, de ver a los mensajes potencialmente ofensivos. Los padres serán capaces de gestionar los niveles a través de Microsoft en el seno de la familia, y el filtrado de trabajo a través de Xbox One, Juego de Xbox Bar, y las apps de Xbox para Windows 10, iOS y Android.

Para Microsoft, esto no es sólo acerca de la filtración de las cosas malas de la gente podría enviar a usted mientras usted está jugando con el último Call of Duty título. Esto va mucho más profundo. «Usted ve las historias de los afroamericanos de los jugadores que son llamados por linchamiento en sesiones multijugador, o jugadoras en entornos competitivos de ser llamado de todo tipo de nombres y sentirse acosado en el mundo exterior, o de los miembros de nuestra comunidad LGBTQ sensación de que no puede hablar con su voz en Xbox Live por temor de que van a ser llamados a salir», explica Dave McCarthy, jefe de Microsoft, Xbox operaciones, en una entrevista con The Verge. «Si realmente somos para darnos cuenta de nuestro potencial como una industria y tiene este maravilloso medio venir a todo el mundo, simplemente no hay lugar para eso.»

McCarthy y su equipo han estado buscando varias formas de identificar el contexto de los mensajes utilizando una mezcla de inteligencia artificial y de filtrado. «El contexto es realmente una cosa delicada en el espacio de juego», admite McCarthy. «Una cosa es decir que vamos a ir en una juerga de matanza cuando usted está consiguiendo listo para una misión multijugador en Halo, y otra cuando se pronunció en otro entorno. Encontrar formas para comprender el contexto y el matiz es una batalla de nunca acabar.»

Pasé parte de mi encuentro con McCarthy y su equipo en uno de los más extraños momentos de mi carrera: el bombardeo de una cuenta de Xbox Live con grosero mensajes en un intento de burlar los filtros. He probado algunas de las formas básicas para obtener alrededor de los típicos filtros de texto mediante la manipulación de las malas palabras con acentos o símbolos, y Microsoft les alcanzó. Incluso basadas en el contexto de los mensajes acerca de asesinar a oleadas de zombies que fueron recogidos correctamente. Yo no tenía suficiente tiempo para probar el sistema completamente, pero nada es infalible, y el internet puede adaptarse rápidamente a crear ofensivo frases y memes que el ataque de ciertas comunidades. Microsoft demostró cómo se podía tomar una frase en particular y añadir de forma inmediata a la empresa del sistema de filtrado, aunque alguien aún se necesita de la bandera de esta palabra en el primer lugar.

Microsoft está tratando de ser más abierto y transparente sobre cómo se modera de Xbox Live y de las opciones que se hace para aplicar estos filtros en toda la comunidad. «Si vamos a pedir a nuestros usuarios a ser responsables por sus acciones en Xbox Live y otros de nuestros servicios, tenemos que ser transparentes acerca de nuestro sistema de valores, de nuestras prácticas, y por qué hacemos lo que hacemos», explica McCarthy. «Hemos tenido éxito recientemente en hacer las cosas como el suministro de pruebas, y apuntando a la gente de vuelta a nuestro nuevo Xbox Live normas de la comunidad, como parte de nuestro esfuerzo de transparencia en torno a las investigaciones que hacemos.»

En la actualidad, los usuarios de Xbox Live puede cavar en la empresa del cumplimiento de la página web en última instancia, encontrar pistas sobre lo específico del mensaje tiene su cuenta en problemas. Pero no es el mismo que destacar el mal comportamiento en un mensaje a la persona responsable de la cuenta. Microsoft está considerando la posibilidad de algunos cambios en la forma de Xbox Live a los propietarios serán notificados cuando se rompen las reglas, pero la compañía también está buscando mucho más allá de mensajes de texto.

Microsoft también quiere abordar el reto de chat de voz de toxicidad en Xbox Live. Una gran cantidad de tóxicos comportamiento y el acoso puede ocurrir cuando alguien es invitado a un grupo de Xbox Live chat. De Investigación de Microsoft ya se ha desarrollado de voz-a-texto de la capacidad de traducir de audio en tiempo real, y la división Xbox está buscando en el uso de este.

«Lo que hemos empezado a experimentar con es ‘Hey, si estamos en tiempo real de la traducción de voz a texto, y tenemos estos de texto con capacidad de filtrado, ¿qué podemos hacer en términos de bloqueo de la comunicación es posible en un ajuste de voz?'» explica McCarthy. «Es temprano los días, y hay una infinidad de AI y de la tecnología que estamos buscando pila en torno a la voz del problema, cosas como la emoción de la detección y el contexto de detección que podemos aplicar. Creo que estamos aprendiendo en general… nos estamos tomando nuestro tiempo con este para hacerlo bien.»

Que obviamente es muy compleja, tanto en términos de la tecnología para lograrlo y también la privacidad de los aspectos involucrados, pero Microsoft objetivo es tener algo similar a los filtros que las estaciones de TV puede lograr de las emisiones en directo.

«Un objetivo final podría ser similar a lo que usted esperaría en una emisión de la TELEVISIÓN, donde la gente está teniendo una conversación, y en tiempo real, somos capaces de detectar una mala fase y de la señal sonora para los usuarios que no quieren ver», explica Rob Smith, gerente de programas en el Xbox Live el equipo de ingeniería. «Es una gran meta, pero vamos a tener que tomar medidas para que.» Microsoft también tendrá que tener en cuenta cualquier posible latencia de alrededor de análisis de muestras de voz en tiempo real, como la mayor parte de los chat se utiliza para coordinar en el juego se mueve.

Suena antes de cualquier automatizado de audio filtrado, Microsoft está buscando en el análisis de chat de voz para detectar la toxicidad. «Mientras tanto, podríamos hacer cosas como analizar el habla de la persona y averiguar, en general, ¿cuál es su nivel de toxicidad están usando en esta sesión? Y tal vez hacer las cosas como de forma automática muting ellos», revela Smith.

Microsoft se está ejecutando una variedad de pruebas internamente para averiguar lo que funciona mejor y consultar sus Xbox Live de la comunidad en la implementación de su partido chat planes. Es un plan ambicioso, pero Microsoft tendrá que ser muy cuidadoso en la forma en que analiza este audio como las implicaciones de privacidad son enormes. «Tenemos que respetar los requisitos de privacidad al final de la jornada para nuestros usuarios, así que vamos a entrar de una manera cuidadosa, y la transparencia va a ser nuestro principio rector para nosotros hacer lo correcto para nuestros jugadores», dice McCarthy.

Microsoft también podría encontrar en un discurso libre debate con estos filtros, aunque el Tribunal Supremo afirmó a principios de este año que los derechos de la Primera Enmienda no aplicar a las plataformas como Xbox Live. Microsoft es ser claro acerca de sus intenciones de aquí y de lo que se espera de una comunidad se controla en última instancia.

«Xbox Live no es un discurso libre de la plataforma. Se trata de un comisariado de la comunidad donde queremos que tienen algún grado de libertad personal en eso, por lo que estamos haciendo cuatro configuraciones diferentes para empezar aquí», explica McCarthy. «Pero no queremos ser ambiguo acerca de lo que somos. Esto tiene que ser un lugar donde todo el mundo se ha divertido, y todo lo que hacemos característica sabio, y la moderación de la práctica sabio va a vector en el conjunto de valores».