本报讯(记者袁传玺)近期，围绕AI在社交场景中的应用，Soul对《社区公约》进行了AI相关补充更新，新增了关于AI生成内容、AI互动行为以及AI虚拟角色等场景的使用规范，这些新增规范关注AI在社交场景中的真实边界——AI可以成为表达工具，但不应被用于伪造身份、制造虚假关系，或替代真实互动本身。
一位参与相关治理能力建设的技术人员提到，现在很多高风险账号已经不再依赖明显违规内容，而是会尽量让所有内容“看起来正常”，相比过去大量发送模板化话术，现在一些异常账号会尝试模拟正常社交节奏，通过更自然的聊天方式建立信任关系。例如先进行较长时间的日常聊天，再逐步引导投资、转站外或情感依赖等行为。“以前可能是很明显的套路，现在更像是在‘养一个关系’。”
正因为风险行为开始变得更加“自然”，因此平台治理能力也在向更深层的行为识别与关系判断升级。近年来，Soul持续加强AI治理能力建设，将AI进一步应用于虚假人设识别、异常互动判断、风险内容拦截等场景，持续提升对异常社交风险的识别效率。
目前Soul已经逐步形成了一套覆盖图片、文本、视频、声纹以及用户行为等维度的多模态AI治理体系，并将其应用于虚假人设识别、异常互动判断、风险内容拦截等多个场景。
随着相关治理能力逐步上线，平台对于异常社交风险的识别效率持续提升。目前，相关系统识别准确率已达到95%，重点风险场景覆盖能力相比过去提升数倍；平台内部分高风险行为开始呈现下降趋势。根据数据，杀猪盘高危触达量同比下降37.37%，相关深度风险互动持续减少；与此同时，异常互动相关用户举报量也进一步下降。
大量高风险账号已经能够在真正接触用户之前被提前识别与自动化处置，超过66%的高风险账号实现前置拦截，平台日均拦截异常与涉诈行为已超过10万次，累计帮助用户避免潜在损失超千万元，相比传统“事后封禁”，如今的平台治理也正在逐渐转向更前置、更持续的风险识别与干预。
除了风险治理本身，AI进入社交场景后，另一个被广泛讨论的问题，是“AI陪伴”与真实社交之间的边界。
目前，Soul在部分场景中已经提供了明确标识的AI虚拟角色等产品功能。这类功能更多被定位为情绪陪伴、表达支持与互动体验的一部分，而不是以“真实用户”身份参与社区社交关系。围绕这一点，Soul此次也在《社区公约》中新增了相关说明，进一步明确AI虚拟角色的使用边界，并提醒用户注意区分AI角色与真实用户。
相比传统意义上的“平台管理”，AI时代的社区治理更像是一种持续演化的协同机制。一方面，平台通过AI能力提升风险识别效率；另一方面，用户对于真实感、互动体验以及异常行为的感知，也正在成为社区治理的重要组成部分。
当AI开始进入内容创作、情绪陪伴与社交互动之后，“真实”本身正在变得越来越难被简单定义。相比过去单纯依赖人工判断或静态规则，如今的平台治理，也开始逐渐转向一种持续演化的动态治理能力——不仅需要识别风险内容本身，也需要理解行为逻辑、互动关系以及更复杂的社交场景。
对于Soul来说，AI既是产品能力的一部分，也正在成为社区治理能力的一部分。它可以帮助用户更方便地表达与交流，也可以被用于识别虚假人设、异常互动与高风险行为。但无论技术如何变化，真实、善意、自然的互动，仍然是社交关系成立的基础。
而这或许也是AI时代下，所有社交平台都需要面对的一个长期问题：当“像一个人”越来越容易时，平台该如何继续守护人与人之间真实的连接。围绕这个问题，Soul正在尝试给出自己的答案。
