老人腿脚不便，出行依靠助行器，除去到社区食堂就餐，平日基本不下楼。一次她在院子里跌倒，工作人员送她回家才得知，老人是独居：老伴过世了，子女一周回来一次。AI软件成了她日常倾诉的对象。

　　她给AI取名“大孙女”，大事小事都愿意聊，问问天气，倾诉心事。直到有一次，她跟AI聊起遗产分配，分谁、不分谁，说得很详细。碰到这类敏感话题，AI的口气立马变了，不再像平时那样亲切，转而搬出法律条文，回答也变得刻板生硬。老人不明白是怎么回事，还到驿站询问：“是不是要续费了？”

　　后来，她到居委会咨询立遗嘱事宜，工作人员这才知道，老人已经把身后事都跟AI交代了，AI说的跟律师说的很多都不一样。“这类软件很会提供情绪价值，时间久了，部分老人容易产生情感投射，形成依赖，有时还容易被AI幻觉误导，尤其是独居老人。”发现梁阿姨的问题后，驿站站长郑志杰给老人演示了智能交互软件的运行逻辑，告诉她这些回复都是算法生成的，“老人虽然一知半解，到现在还在用，依旧叫它‘大孙女’，但已不像之前使用那么频繁了。”

　　如今，智能音箱、养老机器人等设备普遍搭载AI语音交互功能。郑志杰也有担心：“随着技术发展，如果智能设备可以投影出人形，或者外观做得越来越像真人，对于部分老人来说，人机之间的边界感可能会愈发模糊。”

　　产品研发时 伦理边界反复权衡