Roblox lança sistema de proteção em código aberto
Roblox lança ferramenta identifica sinais de risco e ajuda a antecipar ações contra exploração infantil
A Roblox anunciou o lançamento oficial do Roblox Sentinel, um sistema de inteligência artificial projetado para identificar precocemente comunicações suspeitas dentro da plataforma do game, principalmente aquelas que possam representar riscos para crianças. A ferramenta já está em funcionamento desde o fim de 2024 e, apenas na primeira metade de 2025, ajudou a empresa a encaminhar cerca de 1.200 relatórios ao National Center for Missing and Exploited Children (NCMEC), nos Estados Unidos.
Desenvolvido como parte do pacote de segurança em código aberto da empresa, o Sentinel será disponibilizado gratuitamente para outras plataformas digitais interessadas em adotar ou adaptar a solução. O objetivo é promover um ambiente online mais seguro, especialmente para usuários em idade infantil, grupo que compõe uma grande parte da base de jogadores do Roblox.
Afinal, o que é o Sentinel?
O Sentinel é um sistema de alerta prévio que utiliza Inteligência Artificial (IA) para identificar padrões de comunicação sutis e complexos, que normalmente passariam despercebidos por sistemas tradicionais de moderação. Esses padrões podem incluir tentativas de aliciamento, abordagens manipulativas e outras interações potencialmente perigosas. Uma vez identificado o comportamento suspeito, os casos são encaminhados para análise de especialistas humanos, que avaliam o conteúdo sinalizado e decidem os próximos passos.
Segundo Matt Kaufman, diretor de segurança da Roblox, a combinação entre IA e análise humana é essencial para manter o sistema eficiente e adaptável. As decisões tomadas pelos analistas alimentam um processo contínuo de aprendizado da IA, que se ajusta a novos comportamentos e estratégias adotadas por agressores em potencial.
Além disso, a iniciativa reforça o comprometimento da empresa com a segurança digital e a colaboração com outras organizações do setor. A Roblox é membro fundadora do ROOST (Responsible Online Operations Safety Tech), um consórcio que promove a segurança em ambientes virtuais, e também atua junto ao projeto Lantern, da Tech Coalition, que reúne esforços globais no combate à exploração online.
Juliet Shen, chefe de produto do ROOST, destacou a importância da iniciativa: “Hoje, muitas plataformas ainda não têm acesso às ferramentas sofisticadas necessárias para identificar e prevenir danos online, especialmente aqueles voltados contra crianças. Contribuições como a da Roblox são cruciais para tornar a segurança digital mais acessível.”
O Sentinel representa uma nova frente de atuação da Roblox em Trust & Safety, com o objetivo não apenas de proteger sua própria comunidade, mas também de fomentar um ecossistema mais seguro em todo o setor de jogos e plataformas digitais.
