期刊论文

Chinese Relationship Extraction Based on Bidirectional LSTM and Self-attention Mechanism

中文

山西大学学报(自然科学版)

0253-2395

2020

43

1

8-13

10.13451/j.sxu.ns.2019120

61977032:国家自然科学基金 YB135-39:国家语委十三五科研规划项目 CCNU18TS016:中央高校基本科研业务费专项华中师范大学项目 2017091:湖北省高等学校省级教学研究项目 2017038:华中师范大学教学研究项目

本校为第一机构

在采取远程监督方法构建大规模的关系抽取语料库时,一般会不可避免地引入大量冗余和噪声,从而影响关系抽取的效果。为此,文章提出基于双向长短期记忆网络（LSTM）和结构化自注意力机制的方法来缓解训练数据的噪声问题。结合中文语言的特点,在输入层采用结合义原训练的词向量作为输入,通过双向LSTM来抽取句子的语义特征,利用结构化的自注意力机制来学习面对实体对的上下文表示,通过多实例选择的方法来选择有效的实例,从而尽量避免噪声数据的影响。实验结果表明,文章提出的模型能有效提高实体关系抽取的准确率与召回率,其F1值比加上了注意力机制的CNN与双向LSTM分别提升了4.3%和1.2%。

When large-scale relational extraction corpus by distant supervision is built,a lot of redundancy and noise are inevitably introduced,which influences the effect of relational extraction.In order to alleviate this problem,this paper proposes a method based on bidirectional LSTM network and structured selfattention mechanism for Chinese relationship extraction.Combining the characteristics of the Chinese language,we use the vector of Sememes of HowNet as a part of input data,extract the semantic features of the sentence through the bidirectional LSTM,and then employ the structured self-attentio...