返回首页 >

工信部提示“危害严重”,阿里全员禁用,这款AI工具藏着什么风险?

2026-07-16 11:07   大众新闻

  此前,有开发者在分析Claude Code时也发现,这款工具能够检查用户时区、代理网络等环境信息,并通过不易被普通用户察觉的方式加入识别标记。Anthropic方面将相关机制解释为一项反滥用实验,目的是识别未经授权的转售、代理访问和模型蒸馏。

  但反滥用不能成为秘密收集信息的理由。企业有权保护知识产权,也有权限制违规访问,但风控规则应当公开,数据采集应当经过用户知情同意。以隐蔽方式识别用户并回传相关信息,已经越过正常风控的边界。

  阿里全员禁用Claude系列产品,正说明这类风险已经进入企业研发安全的范畴。面对能够读取文件、执行命令的AI编程工具,企业不能只比较谁写代码更快、模型能力更强,还必须弄清它能访问什么、数据流向哪里、相关行为能否被监测和审计。

  这起事件也为快速进入各行各业的AI智能体敲响警钟:能力越强,权限越大;权限越大,越需要透明和约束。AI工具可以越来越聪明,却不能越来越不透明。只有让权限可管、行为可查、风险可控,技术带来的效率才能真正建立在可信赖的基础之上。

  (大众新闻记者 王嘉一)

  

责编:刘旋

猜你喜欢

热点新闻

{$loop_num=0}