近日，360 AI安全研究院发布《AI安全系列报告：智能体安全新范式——当AI有了“手和脚”，企业安全边界必须重建》（以下简称《报告》）。《报告》指出，随着智能体加速进入企业办公、研发、运维、客服等核心业务场景，AI安全的核心问题正在从“生成风险”转向“执行风险”。

　　过去，大模型安全主要关注AI会不会“说错话”，例如幻觉、违规输出和敏感信息泄露。但当智能体开始调用工具、访问数据并执行真实任务时，它带来的最大风险正在变成“做错事”。

　　《报告》提出“合法动作的非法后果”概念，用于描述智能体在正常身份、正常工具和正常流程下，因恶意诱导、逻辑误判或上下文污染，最终执行出违背业务意图或安全边界结果的风险形态。

　　智能体安全六层攻击面模型

　　为了识别智能体风险从哪里进入、企业安全边界应该建在哪里，《报告》提出智能体安全六层攻击面模型，将企业级智能体攻击面分解为人机交互层、通信调用层、组件间层、智能体之间、工具调用层和基础运行环境层，帮助企业从身份、工具、数据、记忆、行为和运行环境等多个维度重建安全边界。面对这一变化，360围绕智能体安全提出“意图检测、环境隔离、逻辑纠偏”三大发力点，并形成“端+云+管理平台”的能力闭环。