题名
基于标签增强的机器阅读理解模型
DOI
作者
苏立新1,2 郭嘉丰2 范意兴1 兰艳艳2 程学旗3
作者单位
1.中国科学院计算技术研究所网络数据科学与技术重点实验室；2.中国科学院大学计算机与控制学院；3.中国科学院计算技术研究所烟台分所烟台中科网络技术研究所
摘要
抽取式问答中已有模型仅建模答案的边界,忽视人的潜在标注过程,导致模型仅学习到表面特征,影响泛化能力.因此,文中提出基于标签增强的机器阅读理解模型(LE-Reader),模拟人的标注过程.LE-Reader模型同时建模答案所在句子、答案内容和答案边界.根据用户标注的答案边界推断正确答案的句子和答案内容作为标签,监督模型的学习过程.通过多任务学习的方式融合3个损失函数.预测时融合3种建模结果,确定最终答案,提高模型的泛化性能.在SQuAD数据集上的实验验证LE-Reader的有效性.
关键词
阅读理解；多任务学习；答案抽取
刊名
人工智能研究
ISSN
3078-9753
年、卷(期)
20205
所属期刊栏目
工程技术
打印