返回首页 >

AI Agent进入行动时代,Soul App如何建立治理边界?

2026-09-29 17:15   海报新闻

  五、从“企业治理”到“行业共治”,AI责任需要更多参与者

  AI Agent时代,还有一个越来越明显的变化:AI治理正变成整个产业、社会需要共同面对的问题。

  一个AI系统可能同时涉及模型研发、数据、算法、产品设计、权限管理、内容审核、法律责任以及用户权益等多个环节。这些问题之间彼此关联,仅靠单一技术团队,很难完成完整治理。

  因此,Soul App邀请来自互联网治理、伦理学、社会学、青少年研究、法律等领域的外部专家加入人工智能伦理与治理委员会。

  这背后的意义并不只是增加几个专家,而是希望通过更多元的视角来回答一个越来越现实的问题:当AI进入真实社交之后,什么可以做,什么应该被限制?什么又需要通过行业共识进一步明确?

  因为AI带来的影响已经很难被局限在一家企业或者一个产品内部。模型能力的发展,会影响产品形态;产品的使用方式,又可能进一步影响用户行为;而用户行为的变化,则可能反过来推动社会对于AI边界的重新认识。

  因此,AI治理需要企业主动承担责任,同时也需要学界、行业、监管机构和用户等不同参与者共同推动。

  在Soul App内部,委员会成立后也将根据治理需要成立专项治理小组,推动安全、算法、技术、产品、法务、审核等部门协同,形成技术治理+伦理审查+用户共治+行业协作的治理模式。

  这样一来,AI治理就不再只是一个“安全部门的工作”,而逐渐成为覆盖技术、产品、伦理和用户体验的系统性机制。

猜你喜欢

热点新闻

{$loop_num=0}