我要投稿 查看投稿进度
学术期刊
在线客服
客服电话：400-188-5008
客服邮箱：service@ccnpub.com
投诉举报：feedback@ccnpub.com
人工客服

工作时间（9：00-18：00）
官方公众号

科技成果·全球共享

请选择 目标期刊

基于多源信息融合的分布式词表示学习 下载：25 浏览：438

冶忠林1，2，3，4 赵海兴1，2，3，4 张科1，3，4 朱宇1，3，4 《中文研究》 2019年6期

摘要:
分布式词表示学习旨在用神经网络框架训练得到低维、压缩、稠密的词语表示向量。然而，这类基于神经网络的词表示模型有以下不足:(1)罕见词由于缺乏充分上下文训练数据，训练所得的罕见词向量表示不能充分地反映其在语料中的语义信息；(2)中心词语的反义词出现于上下文时，会使意义完全相反的词却赋予更近的空间向量表示；(3)互为同义词的词语均未出现于对方的上下文中，致使该类同义词学习得到的表示在向量空间中距离较远。基于以上三点，该文提出了一种基于多源信息融合的分布式词表示学习算法(MSWE)，主要做了4个方面的改进:(1)通过显式地构建词语的上下文特征矩阵，保留了罕见词及其上下文词语在语言训练模型中的共现信息可以较准确地反映出词语结构所投影出的结构语义关联；(2)通过词语的描述或解释文本，构建词语的属性语义特征矩阵，可有效地弥补因为上下文结构特征稀疏而导致的训练不充分；(3)通过使用同义词与反义词信息，构建了词语的同义词与反义词特征矩阵，使得同义词在词向量空间中具有较近的空间距离，而反义词则在词向量空间中具有较远的空间距离；(4)通过诱导矩阵补全算法融合多源特征矩阵，训练得到词语低维度的表示向量。实验结果表明，该文提出的MSWE算法能够有效地从多源词语特征矩阵中学习到有效的特征因子，在6个词语相似度评测数据集上表现出了优异的性能。

基于描述约束的词表示学习 下载：78 浏览：491

冶忠林1,2,3 赵海兴1,4,2,3 张科4,2,3 朱宇4,2,3 《当代中文学刊》 2019年12期

摘要:
词语作为语言模型中的基本语义单元,在整个语义空间中与其上下文词语具有很强的关联性。同样,在语言模型中,通过上下文词可判断出当前词的含义。词表示学习是通过一类浅层的神经网络模型将词语和上下文词之间的关联关系映射到低维度的向量空间中。然而,现有的词表示学习方法往往仅考虑了词语与上下文词之间的结构关联,词语本身所蕴含的内在语义信息却被忽略。因此,该文提出了DEWE词表示学习算法,该算法可在词表示学习的过程中不仅考量词语与上下文之间的结构关联,同时也将词语本身的语义信息融入词表示学习模型,使得训练得到的词表示既有结构共性也有语义共性。实验结果表明,DEWE算法是一种切实可行的词表示学习方法,相较于该文使用的对比算法,DEWE在6类相似度评测数据集上具有优异的词表示学习性能。
[1/1]
|<
<
1
>
>|
在线客服：：点击联系客服
联系电话：：400-188-5008
客服邮箱：：service@ccnpub.com
投诉举报：：feedback@ccnpub.com
人工客服

工作时间（9：00-18：00）
官方公众号

科技成果·全球共享