后来，被告人家属告知，相关内容是搜索时百度AI自动生成的。黄贵耕核查发现，所谓恐吓法官被罚款3万元一事，实际是人民法院报报道的发生在四川成都天府区法院的新闻中，“律师黄某”因判决结果与预期不符，对承办法官进行侮辱、恐吓，黄某被法院罚款3万元。百度AI则将新闻中的“律师黄某”，直接替换成了“黄贵耕”。

　　而“伪造公司印章”，实际是媒体报道过的另一起案件:“法律顾问黄某”伪造印章试图追讨1000余万元债务。百度AI把“法律顾问黄某”直接替换成了“黄贵耕”。

　　黄贵耕：对这种AI会生成这么恶劣信息，就是突破一般人的想象，他不会相信这是假的。如果百度AI这种不负责任的行为，就是生成虚假负面信息，如果得不到遏制的话，很多人都会成为它的潜在受害对象。

　　于是，黄贵耕律师决定起诉北京百度网讯科技有限公司，案件正在审理中。目前，百度搜索已不再显示AI生成的关于“黄贵耕律师犯罪”等虚假信息。

　　AI将个人电话号码

　　错误标注为某养殖场

　　类似的事件还有不少，近日，一位网友吐槽，自己的手机不断接到陌生电话，对方开口就问是否卖猪。起初他以为是恶作剧，后来才发现，这些电话竟然来自豆包AI的搜索结果，他的号码被AI错误标注为某养殖场的联系方式。AI为何会产生这样的“幻觉”？这种“幻觉”能否避免呢？