A重点78
量子位
1 个来源零源大模型幻觉检测新方法HCPD：仅凭问答即可识别，准确率高达88%
ICML 2026收录的一项研究提出了HCPD方法，可在不依赖模型内部信息或外部知识的情况下，仅通过问答文本检测大语言模型的幻觉。该方法模拟人类专家的动态评估过程，结合弱监督奖励对齐与多采样聚合，在多个数据集上取得了超过88%的AUROC，显著优于现有方法。
返回信息流
新闻事件
SynthePulse Insight · AI 深度解读会员精读
零源幻觉检测新突破：HCPD如何用类人准则探测实现88%准确率
版本 1 · 1 个来源
在无法访问模型内部信息、也没有外部知识库的极端场景下，如何判断大模型回答是否可信？ICML 2026上，HCPD提出了一种类人化的动态评估机制，通过自适应生成评价准则并聚合多次评估，在多个数据集上取得了显著优于现有方法的检测性能。
- HCPD面向零源（Zero-source）幻觉检测设定：检测器只能依据问题与回答本身判断可靠性，无法访问目标模型的输出概率、中间状态等内部信息，也难以依赖搜索引擎、知识库或标准答案。
- 核心机制是类人准则探测：Agent先从事实正确性、逻辑一致性等通用维度出发，针对具体问答对自适应生成细粒度评价准则并分配权重，再逐维评分并综合判断。
- 训练阶段采用GRPO进行奖励对齐，利用语义相似度构造弱监督标签，将回答可靠性映射到1-10的细粒度评分尺度，以提供更具区分度的优化信号。
展开章节目录零源设定：没有参考答案和内部信息的幻觉检测
零源设定：没有参考答案和内部信息的幻觉检测
大语言模型在教育、医疗等决策支持场景中广泛应用，但幻觉仍是其可靠部署的核心风险之一。现有检测方法通常依赖目标模型的输出概率、置信度、多次生成结果或内部表示等辅助信号，然而在真实应用中，待检测文本的生成来源往往未知，检测者可能只能获得最终问答文本；持续依赖知识库或参考答案进行事实核验，不仅带来额外计算与时间开销，其效果还受外部信息覆盖范围与可靠性的限制。
为此，HCPD团队提出一种更严格的设定——零源（Zero-source）幻觉检测：检测器只能依据给定问题与回答本身判断其可靠性。这显著压缩了可利用信息，也更贴近部分真实部署环境。论文发表于ICML 2026，题为《Zero-source LLM Hallucination Detection with Human-like Criteria Probing》。
可信度边界
本文信息主要来源于量子位对ICML 2026论文的报道，属于二手来源。论文链接和代码链接已提供，但未独立验证实验数据。所有性能数字（如88.19%、89.62%）均为论文报告值，未经第三方独立验证，应视为来源声明而非已确认事实。
主报道
量子位
主报道来源