Microsoft intenta mejorar hijo de detección de abuso mediante la apertura de su Xbox herramienta de chat a otras empresas

Microsoft ha lanzado una nueva herramienta para la identificación de los depredadores de niños que el novio de niños para el abuso en chats en línea. El proyecto Artemis, basado en una técnica de Microsoft ha estado utilizando en la Xbox, ahora estará disponible para otras compañías en línea con funciones de chat. Llega en un momento en que las múltiples plataformas están lidiando con los depredadores de niños dirigidos a los niños del abuso sexual por entablar conversaciones en las ventanas de chat.

Artemis funciona mediante el reconocimiento de palabras específicas y patrones de habla y marcar los mensajes sospechosos para la revisión por parte de un humano moderador. Posteriormente, el moderador determina si se va a agravar la situación poniéndose en contacto con la policía u otras autoridades. Si un moderador encuentra una solicitud para la explotación sexual infantil o imágenes de abuso de niños, el Centro Nacional para Niños Desaparecidos y Explotados serán notificados para la acción futura.

«A veces nos gritan en las plataformas y hay un abuso en cualquier plataforma que ha de chat en línea — pero debemos aplaudir a ellos para poner en práctica mecanismos», dice Julie Cordua, director general de tecnología sin fines de lucro organización Thorn, que trabaja para prevenir la línea de abuso sexual de los niños. «Si alguien dice, ‘oh, no tenemos abuso» yo les respondo: ‘bueno, está buscando?'»

En diciembre, El New York Times encontró que el chat en línea plataformas eran fértiles «cotos de caza» para los depredadores de niños que se cepillan a sus víctimas por primera amistad con ellos y, a continuación, insinuando a sí mismos en la vida de un niño, tanto en línea como fuera. La mayoría de las principales plataformas de tratar con cierto grado de abuso por parte de los depredadores de niños, incluyendo Xbox Live de Microsoft. En el año 2017, como la de Veces se ha señalado, un hombre fue condenado a 15 años de prisión por amenazar a los niños con la violación y el asesinato de más de la charla de Xbox Live.

La detección de la línea de abuso sexual infantil y las políticas para el manejo del mismo puede variar mucho de una compañía a otra, con muchas de las empresas que participan atenta a las posibles violaciones a la privacidad, el Times informó. En 2018, Facebook anunció un sistema para la captura de depredadores que mira a ver si a alguien rápidamente los contactos de muchos niños y de cómo a menudo están bloqueados. Pero Facebook también tiene acceso a una mayor cantidad de datos sobre sus usuarios de otras plataformas posible.

Microsoft herramienta es importante, de acuerdo con la Espina, ya que está disponible para cualquier compañía usando el chat, y ayuda a establecer un estándar de la industria por lo que la detección y el seguimiento de los depredadores debe ser similar, ayudando con el desarrollo de futuras herramientas de prevención. Los Chats son difíciles de controlar por el potencial de abuso de niño porque no puede ser tanta sutileza en una conversación, Cordua, dice.

Los depredadores de niños puede acechan en las salas de chat en línea para encontrar a las víctimas tanto como lo harían fuera de línea, pero con mucho más acceso inmediato, dice Elizabeth Jeglic, un profesor de psicología de la universidad John Jay College of Criminal Justice de Nueva York, quien ha escrito extensamente acerca de la protección de los niños en línea de abuso sexual, en particular, a menudo sutiles de la práctica de la preparación. «Dentro de los 30 minutos que puede ser sexualmente hablando con un niño», dice ella. «En persona es más difícil acceder a un niño, pero en línea de un depredador que es capaz de ir, probar las aguas y si no funciona, seguir adelante y pasar a la próxima víctima».

No se detiene con una sola plataforma, Cordua, añade. «Ellos van a tratar de aislar a la niña y seguirlos a través de múltiples plataformas, por lo que puede tener varias explotación puntos,» ella dice. Un depredador puede pedir a un niño para una foto, luego de trinquete hasta las exigencias de los vídeos, aumentando el nivel de contenido sexual. «El niño está atormentado por la culpa y el miedo, y esta es la razón por la que el depredador va a través de plataformas: él puede decir:» oh, yo sé todos sus amigos en Facebook, si no que me envíe un vídeo voy a enviar esa primera foto a todo el mundo en su secundaria.'»

Artemis ha estado en desarrollo durante más de 14 meses, Microsoft dice que, comenzando en noviembre de 2018, en un Microsoft «360 Cruz de la Industria del Hackathon,» la cual fue co-patrocinado por dos niños, grupos de protección, el WePROTECT Global de la Alianza y el Niño de la Dignidad de la Alianza. Un equipo que incluye Roblox, Kik, Espina, y El Cumplir Grupo trabajó con Microsoft en el proyecto. Fue dirigida por Hany Farid, quien desarrolló la PhotoDNA herramienta para la detección y notificación de las imágenes de la explotación sexual infantil en línea.

Algunos de los detalles acerca de cómo el Artemis herramienta de trabajo en la práctica no son claros, sin embargo, y pueden variar en función de la plataforma que la está utilizando. No está indicado si Artemis iba a trabajar con programas de chat que el uso de extremo a extremo de cifrado, o qué medidas se tomarán para evitar posibles TEPT entre los moderadores.

Espina será la administración del programa y el manejo de la concesión de licencias y soporte técnico para obtener las empresas participantes onboarded, Microsoft dice.

Cordua, dice mientras Artemis tiene algunas limitaciones: en la actualidad sólo funciona en inglés — la herramienta es un gran paso en la dirección correcta. Dado que cada empresa que utiliza la herramienta puede personalizar para su propio público (chats en plataformas de juegos, obviamente, varían desde aquellas en las aplicaciones sociales), habrá mucha oportunidad de adaptar y perfeccionar el funcionamiento de la herramienta. Y, dice, se trata de plataformas en tiempo de alejarse de la fallida prácticas de autocontrol y hacia la pro-activa de prevención del grooming y el abuso.

En su blog, Microsoft añade que el Artemis herramienta es «no es una panacea», pero es un primer paso hacia la detección en línea de grooming de niños por parte de los depredadores sexuales, que los términos de «peso» de los problemas.

«El primer paso es que tenemos que mejorar en la identificación de donde esto está ocurriendo,» Cordua, dice. «Pero todas las empresas que alojan cualquier chat o video debe estar haciendo esto o son cómplices en permitir el abuso de los niños en sus plataformas».

Deja un comentario

A %d blogueros les gusta esto: