两会论“见”丨周鸿祎:用安全大模型防范智能大模型风险
2025-03-10 10:23 海报新闻
海报新闻记者 辛振东 北京报道
国产推理大模型DeepSeek-R1的诞生,标志着我国AI技术实现从“追赶者”向“领跑者”的历史性跨越,其开源、透明、免费等特质,尤其适合在政府与企业开展私有化部署。但是,随之而来的安全问题也日益凸显。
今年全国两会期间,360集团创始人周鸿祎委员再度聚焦大模型安全。他认为,DeepSeek-R1等先进模型带来了前所未有的机遇,也同样面临无法通过传统网络安全手段解决的安全挑战。对此,周鸿祎呼吁各界共同努力,构建更加完善的大模型应用安全治理体系,在保障安全的前提下,最大化地释放大模型技术的潜力。
周鸿祎认为,开源带来大模型的广泛应用,未来将会有各类专业大模型、垂直大模型、场景大模型,连接内部知识库,以智能体的形式在大批政府机构和企业中广泛部署,推进“数转智改”,实现降本增效。然而,大模型存在幻觉、内容安全等诸多问题,无法通过传统安全方案有效化解,一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患,都极有可能诱发整个生产环境爆发系统性风险。
周鸿祎介绍,针对上述挑战,他们尝试运用人工智能技术重塑安全格局,采用“以模制模”的方式应对新难题,依托安全大模型技术,搭建起覆盖“基座模型—知识库—智能体”的全链路安全体系。