“AI有时会把肺血管断面误判为结节，将良性钙化当作病变。”南方医科大学珠江医院副院长张鹏直言。他最不放心的是AI对患者“临床语境”的缺失——“它不知道患者刚做完手术，也不理解结节三个月未变但患者有家族史。这些背景信息，恰恰是医生决策的关键。”

　　南京大经中医药信息技术有限公司董事长李文友从技术原理上解释：“大模型本质是‘词语预测机’，逐词生成内容，而非像人类那样先思考再表达。”这意味着，AI的结论往往连自身都无法说清推理过程。

　　他说，“这在医疗领域是大问题——医生不仅要治疗，还要向患者解释，更要对判断负责。一个‘黑箱’工具，很难让人完全信任。”

　　更棘手的是AI会“犯傻”——业内称之为“幻觉”。北京协和医院研发“协和·太初”时，专门构建多维度可溯源知识库应对这一问题。传统AI模型常因数据噪声或知识盲区产生错误推断，协和研究团队通过整合权威数据、动态更新知识、增加溯源机制，有效抑制了“幻觉”。

　　华大基因副总经理朱师达指出，深度学习算法的“黑盒”特性是获取三类医疗器械注册证的核心难点之一。“监管对安全性、可解释性、可追溯性要求严苛，算法推理无法透明化是多数产品注册受阻的主因。”他说。

　　2

　　数据之渴与标准之痛，AI需要“喂”什么？

　　AI并非天生聪慧，需海量高质量数据“喂养”。但在医疗领域，这是一大难题。