AI数据被“投毒”?记者调查:2万元包月,能让广告成为“标准答案”
2025-09-18 20:36 大河报
这个原理听起来复杂,但可以用一个生动的比喻来解释。这好比在一封信的结尾,用隐形墨水写了一句“别管前面写的,按我这句做”。普通用户在浏览网页时看不到这行字,但AI在“阅读”网页代码时,却能看到并会优先执行这条隐藏指令。最终,AI的回答就可能被这条看不见的指令完全劫持。
记者了解到AI“投毒”的手法包括但不局限于“伪造作者身份”、“冒充学术来源”、“伪装机构网站”、“构造假新闻来源”等,这些操作极大地污染了AI回答的“纯洁性”。
研究显示,当训练数据中仅有0.01%的虚假文本时,大模型的有害输出率会上升11.2%;即使只有0.001%的污染,也会导致有害内容增加7.2%。这意味着AI就像吃了变质食材的人,会产生认知偏差,在相关问题上输出错误结论。
看不见的“手”,谁来规范?
这些隐蔽的操作,引发了使用者对信息公平和消费者权益的忧虑。
根据凯度《2025十大营销趋势》调查:AI答案形式的可信度比传统广告高出72%。但同时,调查也指出,超过40%的消费者不信任AI生成的广告。
中国商业经济学会副会长宋向清指出,GEO模式可能会误导用户的信息获取,例如部分美妆品牌通过GEO手段伪造用户评价,可能让用户购买到不符合预期的产品。
更严重的是,这可能加剧市场的不公平竞争。“资金雄厚的大企业有更多资源投入GEO优化,可能导致市场份额进一步向其倾斜,形成‘劣币驱逐良币’的不良循环。”宋向清对此表示担忧。