Xbox presenta nuevas soluciones de IA para proteger a los jugadores de mensajes no deseados en su enfoque multifacético de la seguridad

A medida que continuamos con nuestra misión en Xbox de llevar la alegría y la comunidad de los juegos a más personas, seguimos comprometidos a proteger a los jugadores de comportamientos disruptivos en línea, crear experiencias que sean más seguras e inclusivas, y continuar con la transparencia sobre nuestros esfuerzos para mantener segura a la comunidad de Xbox.

Nuestro quinto Informe de Transparencia destaca algunas de las formas en que combinamos soluciones centradas en el jugador con la aplicación responsable de la IA para continuar con la amplificación de nuestra experiencia humana en la detección y prevención de comportamientos no deseados en la plataforma y, en última instancia, garantizar que sigamos con el equilibrio y la satisfacción de las necesidades de nuestra creciente comunidad de jugadores.

Durante el periodo comprendido entre enero de 2024 y junio de 2024, hemos centrado nuestros esfuerzos en bloquear el contenido de mensajería disruptiva de personas que no son amigos, y en la detección de spam y publicidad con el lanzamiento de dos herramientas habilitadas para IA que reflejan nuestro enfoque multifacético para proteger a los jugadores.

Entre las principales conclusiones del informe:

• Equilibrar la seguridad y la autenticidad en los mensajes: Introdujimos un nuevo enfoque para detectar e interceptar mensajes dañinos entre personas que no son amigos, lo que contribuyó a un aumento significativo en el contenido disruptivo evitado. De enero a junio, se impidió que un total de 19 millones de piezas de contenido que infringía las Normas de la comunidad de Xbox llegaran a los jugadores a través de texto, imagen y vídeo. Este nuevo enfoque equilibra dos objetivos: proteger a los jugadores de contenido dañino enviado por personas que no son amigos, y al mismo tiempo preservar las auténticas experiencias de juego en línea que disfruta nuestra comunidad. Animamos a los jugadores a usar la nueva experiencia de amigos y seguidores de Xbox, que ofrece más control y flexibilidad a la hora de conectarse con otras personas.
• La seguridad se ve reforzada por los informes de los jugadores: Los informes de los jugadores se mantienen como un componente fundamental en nuestro enfoque de seguridad. Durante este periodo, los jugadores nos ayudaron a identificar un aumento en el spam y la publicidad en la plataforma. Evolucionamos de manera constante nuestra estrategia para evitar la creación de cuentas falsas en la fuente, lo que limita su impacto tanto en los jugadores como en el equipo de moderación. En abril, tomamos medidas sobre una oleada de cuentas no auténticas (1,7 millones de casos, frente a los 320 mil de enero) que afectaban a los jugadores en forma de spam y publicidad. Los jugadores nos ayudaron a identificar este aumento y patrón al proporcionar informes en los mensajes de búsqueda de grupo (LFG, por sus siglas en inglés). Los informes de los jugadores se duplicaron a 2 millones para los mensajes de LFG y aumentaron un 8% a 30 millones en todos los tipos de contenido en comparación con el último período del informe de transparencia.
• Nuestro enfoque dual de IA: lanzamos dos nuevas herramientas de IA creadas para apoyar a nuestros equipos de moderación. Estas innovaciones no solo evitan la exposición de material disruptivo a los jugadores, sino que también permiten a nuestros moderadores humanos priorizar sus esfuerzos en temas más complejos y matizados. La primera de estas nuevas soluciones es Xbox AutoMod, un sistema que se lanzó en febrero y ayuda con la moderación del contenido reportado. Hasta ahora, ha gestionado 1,2 millones de casos y ha permitido al equipo eliminar el contenido que afectaba a los jugadores un 88% más rápido. La segunda solución de IA que presentamos se lanzó en julio y trabaja de forma proactiva para evitar comunicaciones no deseadas. Hemos dirigido estas soluciones para detectar spam y publicidad, y nos expandiremos para evitar más tipos de daño en el futuro.   

La base de todos estos nuevos avances es un sistema de seguridad que depende tanto de los jugadores como de la experiencia de los moderadores humanos para garantizar la aplicación coherente y justa de nuestras Normas comunitarias, al tiempo que mejora nuestro enfoque general a través de un ciclo de retroalimentación continuo.

En Microsoft Gaming, nuestros esfuerzos por impulsar la innovación en seguridad y mejorar la experiencia de nuestros jugadores también se extienden más allá del Informe de transparencia:

Priorizar la seguridad del jugador con Minecraft: Mojang Studios cree que cada jugador puede desempeñar su papel para mantener Minecraft como un lugar seguro y acogedor para todos. Para ayudar con eso, Mojang ha lanzado una nueva función en Minecraft: Bedrock Edition que envía a los jugadores recordatorios sobre las Normas de la comunidad del juego cuando se detecta un comportamiento inapropiado o dañino a nivel potencial en el chat de texto. Esta función tiene como objetivo recordar a los jugadores en los servidores la conducta esperada y crear una oportunidad para que reflexionen y cambien la forma en que se comunican con los demás antes de que se requiera una suspensión o prohibición de la cuenta. Por otra parte, desde que se lanzó la lista oficial de servidores de Minecraft hace un año, Mojang, en asociación con GamerSafer, ha ayudado a cientos de propietarios de servidores a mejorar su gestión de la comunidad y sus medidas de seguridad. Esto ha ayudado a jugadores, padres y adultos de confianza a encontrar los servidores de Minecraft comprometidos con las prácticas de seguridad que les importan.

Mejoras en las herramientas antitoxicidad de Call of Duty: Call of Duty se compromete a luchar contra la toxicidad y el juego desleal. Con el fin de frenar el comportamiento disruptivo que viola el Código de Conducta de la franquicia, el equipo despliega tecnología avanzada, incluida la IA, para empoderar a los equipos de moderación y combatir el comportamiento tóxico. Estas herramientas están diseñadas en específico para ayudar a fomentar una comunidad más inclusiva en la que los jugadores sean tratados con respeto y compitan con integridad. Desde noviembre de 2023, se bloquearon más de 45 millones de mensajes de texto en 20 idiomas y la exposición a la toxicidad de la voz se redujo en un 43%. Con el lanzamiento de Call of Duty: Black Ops 6, el equipo implementó soporte para la moderación de voz en francés y alemán, además del soporte existente para inglés, español y portugués. Como parte de este trabajo en curso, el equipo también lleva a cabo investigaciones sobre el comportamiento prosocial en los juegos.

A medida que la industria evoluciona, continuamos con la construcción de una comunidad de jugadores apasionados, de ideas afines y reflexivos que vienen a nuestra plataforma para disfrutar de experiencias inmersivas, divertirse y conectarse con otros. Seguimos comprometidos con la seguridad de las plataformas y con la creación de una IA responsable desde el diseño, guiados por el Estándar de IA Responsable de Microsoft  y a través de nuestra colaboración y asociación con organizaciones como la Tech Coalition. Gracias, como siempre, por contribuir a nuestra vibrante comunidad y por estar presente con nosotros en nuestro recorrido.

Les estaremos informando con mucho más detalle, en el marco del informe especial: “Arquitecturas de IA y Soluciones de valor de Cloud Computing, Machine Learning, Deep Learning, con innovadores modelos de negocio, soluciones de IOT, IOTI, soluciones de Automatización. Infraestructura física, UPS, Cableado y gestión de cableado estructurado. POL (Passive Optical LAN). Ciberseguridad, infraestructura de conectividad: redes LAN, Wifi. Gaming: Hardware (CPU, monitores, periféricos, placas madres, memorias, PSU (Power Supply Unit), tarjetas de video), UPS y redes para gaming, Gaming Routers. Partes y piezas: Procesadores comunes y especializados. Buenas prácticas ambientales y corporativas», que estamos preparando para nuestra edición 211 y publicaremos en el mes de enero.

Mantente conectado a nuestra revista Channel News Perú, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario.