Roblox推出AI儿童安全系统“哨兵”，却深陷信任危机

AI“哨兵”上线：用技术筑起儿童安全防线

Roblox近日宣布推出名为“Roblox Sentinel”（罗布乐思哨兵）的全新人工智能预警系统，旨在主动识别并防范针对未成年人的网络风险。该系统基于AI技术，能够实时检测潜在的危险信息，识别“诱骗行为”（grooming）——即通过建立虚假信任关系接近并操控未成年人的恶意行为。

这一系统并非完全依赖自动化，而是将AI智能识别与人工专家审核相结合，并构建了持续学习与优化的反馈机制。一旦发现可疑通信，平台将立即启动调查流程，并在必要时向执法机构通报。据Roblox首席安全官Matt Kaufman透露，该系统自2024年底已在内部运行，是公司安全体系的核心组成部分。

更引人注目的是，Roblox计划将这一“监控功能”开源，向其他数字平台开放使用。Kaufman强调，儿童网络安全是整个行业共同面临的挑战，跨平台合作至关重要，尤其在元宇宙等新兴数字空间中，安全标准亟需共建。

安全资源不平等：行业共病与协作尝试

Roblox还与多个行业组织及外部机构合作，包括非营利组织ROOST。该组织致力于解决在线安全领域资源分配不均的问题——许多中小型平台难以获取先进的安全工具。

ROOST产品负责人朱丽叶·沈（Juliet Shen）指出：“高级安全技术的获取存在严重不平等。”她认为，Roblox的开源举措有望推动整个行业共同应对网络诱骗、欺凌等有害行为，提升整体数字环境的安全水位。

近年来，Roblox已逐步加强安全措施：引入家长控制功能（如好友管理、屏蔽不当体验、查看使用时长）、限制13岁以下用户的互动权限、2024年部署AI语音聊天监控模型，并更新“安全中心”以整合多语言安全信息（目前已支持日语等七种语言）。

“哨兵”未立，先起风波：封禁事件引爆信任危机

然而，就在“哨兵”系统被寄予厚望之际，Roblox却陷入一场空前的信任危机。

自2025年8月以来，平台因封禁一名14岁用户而引发轩然大波。该用户曾被Roblox开发者团队重点培养，长期在社区中积极维护儿童安全，被视为“安全守护者”。但Roblox管理层认定其行为属于“规避官方安全机制的私刑行动”，并构成安全威胁，遂封禁其账号并发出法律威胁。

此举激怒了大量社区成员，引发大规模网络抗议，甚至演变为现实中的示威活动。多位知名YouTube博主和内容创作者宣布抵制即将举行的年度开发者大会RDC2025（2025年9月5日至6日），公开表达对平台处理方式的不满。

从社区抗议到法律诉讼：安全承诺遭遇全面拷问

事件迅速升级至法律与政治层面。2025年8月15日，路易斯安那州总检察长正式对Roblox提起诉讼，指控其在儿童保护方面存在系统性失职。与此同时，多名联邦议员发起请愿，要求Roblox提高安全措施的透明度与问责机制。

长期以来，Roblox因其庞大的未成年用户群体与相对滞后的安全响应而饱受批评。尽管公司近年来不断升级技术与政策，但此次事件暴露了其在“社区自治”与“平台管控”之间的深层矛盾：当一名致力于安全的年轻用户反被平台视为威胁时，所谓的“安全系统”是否已异化为压制声音的工具？

“哨兵”系统的初衷是守护儿童，但若缺乏透明的规则、公正的执行与社区的共识，再先进的AI技术，也可能在公众信任的崩塌面前失效。