1.一种基于双角度注意力融合的文档级关系抽取方法,其特征在于,包括如下步骤:通过窗口滑动的方式将文档划分为多个片段,并通过训练好的BERT模型得到所述片段中的实体表达和所述实体表达的表达向量;将所述表达向量进行分类组合,得到不同的实体向量;所述实体向量包括:头实体向量和尾实体向量;将所述头实体向量和所述尾实体向量进行拼接操作,得到实体对;计算实体对与实体对的关联性,得到第一特征;通过所述训练好的BERT模型得到所述实体对的上下文嵌入;计算所述实体对和所述上下文嵌入的关联性,得到第二特征;将所述第一特征和所述第二特征进行特征融合,得到抽取结果。
2.根据权利要求1所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,将所述表达向量进行分类组合,得到不同的实体向量,具体步骤为:将同一实体的不同实体表达通过聚类集合的方式进行分类,并将所述不同实体表达的表达向量进行组合,得到所述不同的实体向量;所述实体向量的表达式为:A m =[a m1 ,a m2 ,a m3 ,...,a mn ];其中,A m 为第m个实体向量,a mn 为第m个实体向量的第n个表达向量。
3.根据权利要求2所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,将所述头实体向量和所述尾实体向量进行拼接操作,得到实体对,具体步骤包括:选取全部所述实体向量中的任意两个不同实体向量分别作为所述头实体向量和所述尾实体向量;计算所述头实体向量和所述尾实体向量的向量距离;所述向量距离的计算公式为: 其中,D为向量距离,A xi 为头实体向量的第i个元素,A yi 为尾实体向量的第i个元素,n为实体向量的维度数。将所述头实体向量、所述向量距离和所述尾实体向量进行组合,得到所述实体对;所述实体对的表达式为:F=W 1 [A x ,A y ,D];其中,W 1 为可学习参数,A x 为头实体向量,A y 为尾实体向量。
4.根据权利要求3所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,计算实体对与实体对的关联性,得到第一特征,具体步骤包括:分别计算两个所述实体对的查询、键和值;分别对所述两个所述实体对的查询、键和值进行归一化处理,得到两个实体对注意力;将所述两个实体对注意力进行权重分配和组合,得到所述第一特征。
5.根据权利要求4所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,所述第一特征的计算公式为:T=μR 1 +(1-μ)R 2 ;其中,R 1 和R 2 分别为两个实体对注意力,T为第一特征,μ为实体对权重系数;所述实体对注意力的计算公式为: j=1或2;其中,b i 为实体对第i个元素的归一化系数, 为实体对第i个元素的值;所述实体对权重系数的计算公式为: 所述归一化系数为: Q F =W q *F;K F =W k *F;V F =W v *F;其中,Q F 为实体对的查询,K F 为实体对的键,V F 为实体对的值,W q 、W k 和W v 分别为查询、键和值的学习系数, 为实体对第i个元素的键。
6.根据权利要求1所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,通过所述训练好的BERT模型得到所述实体对的上下文嵌入,具体步骤包括:根据所述训练好的BERT模型对所述片段的上下文语义进行分析,并根据分析结果为每个所述表达向量增加一个语义向量;根据所述表达向量的分类组合将所述语义向量进行拼接,得到所述实体向量对应的所述上下文嵌入。
7.根据权利要求4所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,计算所述实体对和所述上下文嵌入的关联性,得到第二特征,具体步骤包括:计算所述上下文嵌入的键和值;对所述实体对的查询、所述上下文嵌入的键和所述上下文嵌入的值进行归一化处理,得到上下文注意力;将所述实体对注意力和所述上下文注意力进行拼接降维操作,得到所述第二特征。
8.根据权利要求7所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,所述第二特征的计算公式为:H={U,R}*{W q ,W k ,W v };其中,U为上下文注意力,{}为拼接操作,H为第二特征,R为实体对注意力;所述上下文注意力的计算公式为: Q F =W q *F;K Z =W k *Z;V Z =W v *Z;其中,c i 为上下文嵌入第i个元素的归一化系数, 为上下文嵌入第i个元素的值,K Z 为上下文嵌入的键,V Z 为上下文嵌入的值, 为上下文嵌入第i个元素的键,Z为上下文嵌入。
9.根据权利要求1所述的基于双角度注意力融合的文档级关系抽取方法,其特征在于,将所述第一特征和所述第二特征进行特征融合,得到抽取结果,具体步骤包括:分别计算所述第一特征和所述第二特征的协方差矩阵,得到第一协方差矩阵和第二协方差矩阵;分别将所述第一协方差矩阵和所述第二协方差矩阵的特征向量进行拼接,得到第一降维特征和第二降维特征;将所述第一特征与所述第二降维特征进行逐位相乘,得到第一关系;将所述第二特征与所述第一降维特征进行逐位相乘,得到第二关系;将所述第一关系和所述第二关系进行分权相加,得到所述抽取结果。