OpenAI、谷歌、Roblox 等联手，成立新组织以保障 AI 时代儿童安全

2 月 11 日消息，据 Engadget 今日报道，Roblox、Discord、OpenAI 和谷歌联合推出了一个名为 ROOST（强大开放在线安全工具）的非营利组织，旨在为 AI 时代构建可扩展且互联互通的安全基础设施。

该组织计划向公共和私人机构免费提供开源安全工具，帮助它们在自有平台上加强安全防护，初期将重点关注儿童安全。ROOST 在宣布时特别指出，计划提供“检测、审核和报告儿童性虐待材料（CSAM）”的相关工具。合作公司不仅为这些工具提供资金支持，还提供了建设所需的技术力量。

ROOST 的理念是，生成式 AI 的快速发展正深刻改变网络环境，对“可靠且易于访问的安全基础设施”的需求愈加迫切。ROOST 希望避免要求小公司或组织从零开始开发安全工具，而是免费为其提供现成的解决方案。

据了解，儿童在线安全问题自《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》在国会审议以来，一直备受关注，尽管这两项法案都未能通过众议院的投票。包括谷歌和 OpenAI 在内的公司已承诺，将停止使用 AI 技术生成儿童性虐待材料。

对于 Roblox 来说，儿童安全问题尤为紧迫。2020 年数据显示，美国九至十二岁的儿童中有三分之二使用 Roblox，而该平台一直在儿童安全问题上面临挑战。2024 年，《彭博商业周刊》报道公司曾遭遇“恋童癖问题”，这促使公司对儿童私信实施了更多限制和新政策。

报道称，虽然 ROOST 不能解决所有问题，但它将为类似 Roblox 的其他组织或公司提供更简便的应对方案。

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，所有文章均包含本声明。