加上好友后，对方便以有急事需要资金周转为由，要求李先生向其转账，还保证事后钱款一定返还。对方还主动打来视频电话。看到视频那头出现的确实是“领导”，李先生瞬间放下戒备，分3笔向对方汇款95万元。当天下午，李先生与朋友聊天时提起这件事，越想越觉得不对劲，于是报警。

　　接到报警后，天津警方迅速与银行开启联动机制，及时对3张银行卡进行紧急止付操作。银行成功冻结了涉案资金83万元。

　　据办案民警介绍，一些不法分子利用AI技术，将他人的脸换成熟人或亲人的脸，冒充诈骗对象的重要关系人，通过合成视频或照片来“以假乱真”，扰乱被诈骗对象的视线进而实施诈骗。

　　据公开资料，此前，有人在社交平台用AI换脸成富商马云，视频连线获取网友信任，目标受众多为对AI缺乏认知的中老年人，之后再以“做扶贫项目”等为由骗取钱财。还有人在短视频平台上冒充演员靳东与中老年人接触，以需要钱拍戏为由诱使他人转账。

　　滥用AI换脸技术行不法之实的事件屡有发生。

　　对此，北京航空航天大学法学院副教授赵精武分析说，利用AI换脸技术进行带货等行为，如果仿冒他人，除了构成民法上对肖像权等人格权的侵害之外，根据情节轻重，还可能构成刑法上的虚假宣传、网络诈骗等犯罪行为。

　　“而随意售卖AI合成软件的行为，倘若存在主动为犯罪行为人提供相关软件服务等情形，则可能与犯罪行为人构成共同犯罪。”赵精武说。