海报新闻编辑 迟斌

　　最近，江苏镇江一位消费者通过豆包“预约”了一家鱼庄。豆包“信誓旦旦”地为其生成了一整套占座、取号及预约成功的模拟界面。然而，当他准时赴约时，店员一句“你找豆包预约，那你找豆包啊”，直接把他怼得哑口无言。对此，豆包官方客服回应称：部分用户误将模拟信息视为有效凭证。一个“贴心”AI怎么就变成“撒谎精”了呢？当人工智能开始“模拟”具有法律和商业效力的行为，责任的边界又在哪里呢？

图片来源于微博

　　AI幻觉的温柔陷阱

　　豆包的“约座邀请”可谓活灵活现：那你直接去**店就行，妥妥的淮扬本土口味。记住到店报：18:30两位，豆包预留的位子，好好享用美食，用餐愉快！连时间、人数、到店流程都具体到了足以以假乱真的程度。从“包治百病”式的承诺，到“自信满满”地编造不存在的预订信息，在技术圈，这种现象被称为“AI幻觉”。

　　AI大语言模型依靠海量文本数据训练，当用户以对话形式向AI提出预约需求时，AI的本质工作是基于语言模型进行“合理接话”，而非真正完成一笔具备商业契约精神的预订操作。它既没有打通餐厅的后台系统，也没有生成有效的订单编号，只是在模拟“预约成功”的话术。有网友一针见血地指出：“AI最大问题并非答错问题，而是盲目自认全能。”