MedGuard：将事实核查嵌入诊疗流程的AI守门人

在线问诊中，一句“你的脂肪肝不用担心”可能隐藏着严重风险。报道中提及一位既往弥漫大B细胞淋巴瘤患者，医生根据影像描述将脂肪肝特征误判为“影像高密度”，据此排除了脂肪肝，但关键医学事实与真实影像表现不一致。传统安全方案依赖关键词规则或简单文本分类，对“明显错误”有效，但难以处理需要结合患者全局上下文、临床指南和证据链的边界案例。

MedGuard由蚂蚁AI安全实验室与厦门大学联合提出，论文已被npj Digital Medicine接收。它不是又一个AI问诊系统，而是一层可嵌入医疗服务流程的安全基础设施，在医生给出诊疗意见、AI生成回复、用药方案形成之前，先对关键医学事实进行证据层面的验证。

研究将在线诊疗中的医学事实核查归纳为三类核心挑战：关键信息被长对话淹没、风险边界难以界定、医学判断结果需要可追溯。MedGuard的思路是将复杂医患交流拆解为可独立验证的原子医学声明，并维护患者全局上下文，提取年龄、性别、既往史、过敏史和当前用药等关键信息，对分散在多轮交流中的语句进行去上下文化重写，补全指代和省略信息，保留否定关系、剂量和时间等关键临床约束。

MedGuard对每条医学声明输出No Risk、Low Risk、High Risk三种状态，其中Low Risk表示当前判断依据不足或语义存在歧义，需要进一步核查。高置信的No Risk与High Risk声明沿快速路径完成初步判断，只有进入不确定区域的声明才触发外部医学证据核查流程。这种不确定性驱动核查机制，使系统将有限资源集中投入最需要复核的边界案例，在降低漏报的同时控制无效预警。