3 月 9 日消息,据外媒 Engadget 今日报道,Roblox 推出了一项 AI 功能,可以在聊天中实时改写不当语言。
此前,Roblox 一直依靠 AI 过滤器屏蔽违反平台规则的内容,被审查的聊天信息通常只会被一串井号(####)取代。Roblox 表示,大量井号会打断对话,也让聊天内容变得难以理解。因此,新系统不再单纯遮挡信息,而是把不当词语自动替换为更合适的表达。
Roblox 首席安全官拉吉夫 · 巴蒂亚表示,新功能首先针对粗口。例如,当用户在聊天中发送“Hurry TF up”时,系统会自动改写为“Hurry up!”。如果消息被系统改写,聊天中的所有参与者都会看到提示,发送者则能够看到哪些词语被修改。不过,即使 AI 替换了粗俗表达,持续在聊天中骂人的用户仍然会因违反 Roblox 规则而受到处罚。
巴蒂亚在博客文章中说:“随着系统规模不断扩大,实时反馈会推动更文明的交流氛围。用户可以通过这些提示逐渐学习并遵守 Roblox 的社区标准。”
据了解,改写功能目前已经在完成年龄验证、且年龄相近的用户之间的聊天中启用,并覆盖 Roblox 翻译工具支持的所有语言。