PDF下载
面向属性抽取的门控动态注意力机制

程梦 洪宇 唐建 张家硕 邹博伟 姚建民

苏州大学计算机科学与技术学院

摘要: 在现阶段属性抽取研究中,现有注意力建模及训练较刚性(单句一次成型),而单句中不同词汇的上下文存在语境语义的差异,一致的注意力分布缺少动态的适应性.因此,文中提出面向属性抽取的门控动态注意力机制,利用双向长短时记忆网络捕获目标句中每个单词的隐层表示.在注意力模型处理词一级属性预测时,根据目标词及其上下文,计算适应该目标词的注意力分布向量,可以根据上下文的变化自动调整注意力权重的分配.借助门控调整注意力向量流向下一层神经元的信息量,最终使用条件随机场进行属性标记.应用2014-2016语义评估官方数据集验证文中方法的有效性,F1值均有所提高.
关键词: ​注意力机制;属性抽取;条件随机场;情感分析
DOI:
基金资助:
文章地址: