过去，平台的风险识别可能更多集中于一条文字、一张图片或者一段视频本身。但随着AI能力不断增强，风险可能进一步表现为虚假身份、虚假人设、异常互动、风险导流以及AI生成内容滥用等更加复杂的问题。

　　因此，Soul App逐步建立覆盖图片、文本、视频、声纹、用户行为等多个维度的AI风险治理体系。

　　来源：Soul App官方公众号

　　其中，一个重要变化是从单条内容识别转向整体行为判断。

　　平台不再只是判断某句话有没有问题，而是结合账号内容、互动行为和关系链路等信息，对潜在风险进行综合判断。因为对于真实社交场景而言，一条内容本身可能并不足以判断风险，账号长期表现和互动行为同样可能提供重要线索。

　　第二个变化，是从“事后处理”转向“前置识别”。

　　通过AI能力提升异常账号、异常互动以及风险内容的识别效率，让风险尽可能在真正影响用户之前被发现，而不是等问题已经发生之后再进行处理。

　　第三个变化，则是建立AI应用的全链路防护。

　　围绕相关AI场景，逐步形成输入治理—生成治理—输出治理—风险干预—用户保护的全链路机制。也就是说，治理不再只针对最终生成的内容，而是进一步覆盖AI从进入场景到产生结果的完整过程。

　　来源：Soul App官方公众号

　　AI不仅可以成为用户使用的工具，也可以成为平台治理AI风险的工具。