网警提醒|AI投毒别大意,安全防范要牢记
2026-05-28 09:53 公安部网安局
比如编造“某食品致癌”“某药品无效”的虚假消息,误导群众认知、引发恐慌;编造“社会负面谣言”,歪曲事实、煽动情绪;编造虚假政策解读、虚假新闻,让群众混淆是非,破坏网络清朗环境。




AI工具可以处理大量的数据,并通过算法和模型来进行学习和预测,可以在短时间内完成大量的工作,提高生产效率。但是AI工具生成的内容不一定是真实的,一定要多核实、多求证,切勿盲目相信、随意转发,避免成为谣言传播的“帮凶”。



怎么判断AI可能“中毒”了?
教你几招“望闻问切”

表现
正常AI
疑似中毒AI
信息
来源
会说明“据公开资料”“一般认为”
编造来源,如“某大学2025年未公开研究”
逻辑一致性
前后自洽
同一问题问两次,答案矛盾
常识
判断
对公认事实正确回应
把错误常识说得很肯定,如“太阳从西边升起”
推荐
内容




