当AI智能体真正拥有操控本地电脑、访问文件、执行命令的权限时，如何防止越权访问？如何抵御恶意提示词注入？数据隐私如何保障？360漏洞云AI安全及技术发展资深专家宁宇飞指出，判断Agent风险有三个要素：能否读取你的私有数据，如本地文件、邮箱、聊天记录；能否接触到不可信的输入，如网页、邮件、第三方技能；能否向外执行动作。这三者风险叠加后，对安全来说是质的飞跃。“一旦它被诱导、被利用，龙虾就不再像ChatGPT那样说‘我无法回答’，很可能会直接帮你执行意料之外的事情。”

　　多位AI领域从业者也告诉红星新闻记者，安全养虾的前提需要遵循几个原则，如物理隔离、最小权限等。

　　针对政务数据高度敏感的特性，福田区构建了技术与制度的双重防火墙。上述福田区政务服务和数据管理局相关负责人告诉红星新闻记者，福田区所有“政务龙虾”及其调用的大模型、算力服务器，全部部署在区政务外网，与互联网实现逻辑隔离，并复用政务云各项安全防护能力，在实际使用中通过沙箱环境和受限账号小范围运行。

　　深圳龙岗区人工智能署署长赵冰冰在接受新黄河采访时也提到，龙岗区已联合相关企业连夜在公众号上推出了“国产龙虾盒子”，即一体机，调用的都是国产大模型工具，并且进行强制的双身份验证，只给普通用户权限，不授予超级管理者权限；另外对敏感数据还设置了严格的路径，以确保避免个人数据泄露的风险。

　　下一步，龙岗区还计划举办“千人龙虾大会”，推动更多企业、个人、创业者以及“超级个体”参与使用国产Claw产品。

　　红星新闻记者 蔡晓仪