今年全国两会期间，全国政协委员、华山医院感染科主任张文宏表示，医疗行为的责任主体必须是医生，患者自诊缺乏“人机协同”把关，存在风险。

　　现实中，已有患者因轻信AI问诊导致病情延误、药物性肾损伤的案例。孙亮也坦言，AI存在“幻觉”问题，“如果误导治疗，后果不堪设想”。

　　如何让AI既好用又安全？模型“可解释性”被视为应对这种担忧的有效解法。

　　记者在济宁市汶上县人民医院急诊科看到，“AI助手”在给出高危病因排查和处置建议的同时，会附上推理路径。“这像一份说明书，基层医生不仅可以把AI作为辅助，还可以通过AI的解释来验证、学习、成长。”主治医师郭骥说。

　　还要让模型“在同一个考场里打分”。业内专家表示，现在模型好坏，大多靠医生的使用体验来判断，院内研发模型的“准确率”也多为出品方自己出题、自己批卷。第三方评测，或许能成为一把客观的“尺子”。

　　人才培养也在跟上。在山东大学齐鲁医院的数字化教室里，医学生正与AI标准化病人对话问诊，评估报告会从问诊逻辑、人文关怀等多个维度进行评价。这或许是“驾驭AI”的一种尝试——让未来的医生在模拟中学习如何与AI协作，而非被动依赖。目前，山东多所院校已布局医工交叉双学位、双导师项目。

　　综合来看，AI医疗的下半场，比的或许不是谁的大模型参数更多，而是比谁能率先构建安全、可信、有温度的智慧医疗新生态。