O mais novo sistema de inteligência artificial da Roblox identifica sinais iniciais de possíveis riscos a crianças agora está disponível também para outras plataformas digitais.
SAN MATEO, Calif. – (BUSINESS WIRE) – A Roblox Corporation (NYSE: RBLX), plataforma imersiva de jogos e criação, anuncia hoje o Roblox Sentinel, um sistema de inteligência artificial (IA) desenvolvido para ajudar a detectar precocemente comunicações que possam colocar crianças em risco, permitindo que a Roblox investigue esses casos com mais agilidade e, quando necessário, acione as autoridades competentes. O Sentinel é disponibilizado como código aberto, acessível para outras plataformas digitais da indústria utilizarem.
Como parte do kit de ferramentas de segurança de código aberto da Roblox, o Sentinel é um sistema de alerta prévio projetado para identificar padrões de comunicação sutis e difíceis de detectar que possam indicar um possível aliciamento. Desde o final de 2024, esse sistema tem ajudado a Roblox a agir com rapidez e investigar situações para manter os usuários mais seguros. Somente na primeira metade de 2025, ele auxiliou a equipe no envio de aproximadamente 1.200 relatórios de possíveis tentativas de exploração infantil ao National Center for Missing and Exploited Children (Centro Nacional de Crianças Desaparecidas e Exploradas).
“A inteligência artificial se tornou um pilar fundamental na forma como a Roblox aborda a segurança e como ajudamos a proteger nossos usuários”, afirma Matt Kaufman, Chief Safety Officer da Roblox. “Contribuir com a comunidade de código aberto é essencial para nossa abordagem de segurança online, pois sabemos que esses desafios existem em todo o mundo digital. Nosso objetivo é compartilhar nossas tecnologias e colaborar com outros líderes para tornar a internet um lugar mais seguro”.
Uma combinação estratégica entre especialistas humanos e inteligência artificial é fundamental para escalar os esforços de segurança na plataforma da Roblox, inclusive na detecção de sinais potenciais identificados pelo Sentinel. Analistas especializados revisam casos sinalizados pelo sistema de IA como potencialmente violadores. As decisões desses analistas alimentam um ciclo de aprendizado contínuo que permite à Roblox aprimorar constantemente os exemplos, índices e conjuntos de treinamento. Esse processo humano é essencial para que o Sentinel se adapte e se mantenha atualizado diante dos novos e mutáveis padrões de comportamento de atores mal-intencionados.
A Roblox busca melhorar a segurança em toda a indústria sempre que possível, seja por meio de iniciativas de código aberto, seja colaborando com parceiros como o ROOST, do qual é membro fundador, e com o projeto Lantern, da Tech Coalition.
“Hoje, muitas plataformas ainda não têm acesso às ferramentas sofisticadas necessárias para identificar e prevenir danos online, especialmente aqueles voltados contra crianças”, declarou Juliet Shen, Head of Product do ROOST. “No ROOST, acreditamos que proteções robustas de segurança devem estar acessíveis a todos que estejam comprometidos em proteger seus usuários, e estamos muito entusiasmados com a contribuição da Roblox, ao disponibilizar mais ferramentas abertas para a área de Trust & Safety.”
Para saber mais, visite a Newsroom da Roblox.
Sobre a Roblox
Roblox é uma plataforma imersiva para jogos e comunicação que oferece às pessoas milhares de formas de se reunir, convidando sua comunidade a explorar, criar e compartilhar inúmeras experiências únicas. Nosso objetivo é reimaginar a forma como as pessoas se juntam – em um mundo que é seguro, civilizado e otimista. Para alcançar isso, nós construímos uma empresa inovadora que, junto à comunidade de Roblox, tem a habilidade de fortalecer o tecido social e apoiar o crescimento econômico para as pessoas ao redor do mundo.
Para mais sobre a Roblox, por favor visite corp.roblox.com.
ROBLOX e o logo de Roblox estão entre as marcas registradas e não registradas da Roblox Corporation localizada nos Estados Unidos e em outros países. © 2024 Roblox Corporation. Todos os direitos reservados.