OpenAI · 大模型
OpenAI 提出实体消歧类型发现方法
OpenAI 发布了一项实体消歧技术,通过自动发现并利用实体类型信息来解决大规模知识库๙的指代歧义问题。新方法能够从文本中学习并归纳出细粒度的实体分类,帮助语言模型更准确地识别同名术语的真实指向。这一进展对于知识消歧任务的核心瓶颈,对提升 RAG 系统和知识问答的准确性有直接影响。
- 域名
openai.com- 评分
- 5 · 重大发布
- 发布
- 2026-05-24
导读
DeepType 由 Raiman 与 Raiman 提出,把符号化的类型系统显式嵌入到神经实体链接模型中。研究背景在于,维基百科与 Wikidata 等结构化数据虽然蕴含大量类型信息,但传统神经模型往往把这些信号折叠进端到端学习,缺乏可解释的归纳偏置,对同名实体的消歧效果有限。
方法把实体链接拆成两层。先在 Wikidata 本体中通过启发式搜索或随机优化挑选若干 parent-child 关系作为类型系统,由 Oracle 与 Learnability 两个准则共同评判;再用梯度下降训练神经分类器,使其在该类型系统约束下识别上下文中的实体。整套问题被表述为混合整数优化,离散变量决定类型集合,连续变量决定分类器参数,两阶段交替推进。
在 WikiDisamb30、CoNLL(YAGO)、TAC KBP 2010 三个标准基准上,DeepType 显著超过当时基于人工类型系统或纯神经嵌入的方案。更重要的是,由于符号信息显式参与推理,新实体只需注册到本体即可被识别,无需重新训练分类器。这种把离散结构与连续表示放在同一目标里联合优化的思路,对后来 RAG 与知识增强语言模型的设计仍有借鉴意义。
