成立人工智能伦理与治理委员会,Soul App如何探索负责任AI发展路径
2026-07-20 10:07 海报新闻

在Soul App的治理过程中,AI治理并不是技术部门单独承担的工作,而是一项贯穿产品设计、技术研发、内容治理、用户保护以及风险管理全过程的系统工程。通过建立前置伦理评估、专项治理机制以及跨领域专家参与机制,平台希望让AI能力的发展与伦理治理同步推进,在持续创新的同时,更好回应用户对于真实、安全、可信社交体验的期待。
与此同时,面对越来越复杂的风险场景,Soul App也持续加强AI治理能力建设。
针对虚假人设包装、异常互动行为、风险内容传播以及涉诈场景,平台逐步建立起覆盖图片、文本、视频、声纹以及用户行为等维度的多模态AI治理体系。
例如在上文提到的场景中,平台结合AI生成痕迹识别、图片原创性判断等能力,对AI生成图片、盗图和拼接图片进行综合分析;在文本和互动场景中,则通过智能识别能力判断异常导流、人设包装以及潜在欺诈行为,而不再仅依赖关键词审核。
针对视频、语音等复杂场景,平台也持续加强风险识别能力建设,通过声纹识别与行为链路分析等方式,提高对高伪装风险内容的发现能力。
相比传统“内容违规后处理”的治理模式,如今的AI治理更接近一种持续运行的风险识别系统。它不仅关注单条内容本身是否违规,更会结合账号行为、互动关系以及上下文场景,对潜在风险进行动态分析与前置识别。