返回首页 >

用户盲信AI误食毒蘑菇,AI回答不能“仅供参考”

2026-06-06 06:25   中国青年报客户端

  这并不是给AI发展设置障碍。恰恰相反,越是成熟的AI产品,越要懂得在高风险场景中保持克制。AI不能只追求应答效率,还应知道哪些问题不能轻易下判断,哪些场景必须警惕风险。对相关平台而言,建立高风险问题识别机制和安全阀,已经不是可有可无的优化,而是产品安全的底线。一旦触发相关场景,就应弱化未经核验的生成式判断,强化权威信息来源,让用户清晰地识别到其中的风险。

  公共部门和专业机构也应适应这种变化。既然公众已经习惯“有事先问AI”,就更要加大科普的力度。与此同时,AI平台也不妨和专业机构展开合作,有针对性地定向优化AI产品在相关领域的表现。只有权威知识更容易被看见、被搜索、被转化,公众在关键时刻才更可能获得正确提醒。

  说到底,AI时代的风险治理,不能只靠用户的谨慎,也不能只靠平台一句“仅供参考”。AI越深入日常生活,越需要划清其能力边界。

  (中国青年报客户端)

猜你喜欢

热点新闻

{$loop_num=0}