中国计算机学会安全专业委员会数字经济与安全工作组成员 方宇：通过“投喂”大量的训练数据，AI学习哪些词经常连在一起，再通过复杂的神经网络算法，提炼语义语法规则，根据提问再逐字呈现出最可能的答案，所以AI给出的答案经常依赖于它所“见过”的数据。

　　但是，对于超出“知识库”的问题，这种技术则会容易出现“AI幻觉”，也就生成了貌似合理连贯，但同输入问题意图不一致、与现实或已知数据不符合或无法验证的内容。比如“宁波交警抖音账号关闭与一起交通事故引发广泛关注有关”的这场舆论风波，就是因为出现了“AI幻觉”。不过，专家表示，现阶段的“AI幻觉”难以完全被消除，但可以试着缓解。

　　中国网络空间安全协会人工智能安全治理专业委员会委员 薛智慧：当使用AI软件生成的内容时，可以从三个方面进行重点关注，通过多个信息来源，对内容进行确认，特别是涉及新闻，统计数据时更是如此；如果生成了具有敏感和偏见性的内容，需要提高警惕，避免被误导；AI软件只是一个辅助工具，不要过度依赖和相信这些软件生成的内容。

　　如今，AI技术发展迅猛，出现了包括换脸、换声、文案拼接、新闻嫁接等众多功能，怎么避免它变成传播虚假信息、干扰传播秩序的黑色工具，专家表示：技术本身没有善恶，关键是看人怎么用。