1.一种融合原型知识的关系抽取方法,其特征在于,包括以下步骤:步骤1,在输入层,输入训练样本;步骤2,在编码层,利用预训练语言模型,对关系所涉及的头尾实体进行符号标记,并将标记所对应的隐藏层向量串联作为句子编码向量;步骤3,在原型向量层,首先初始化各关系的原型向量,然后通过对比学习,最小化样本与其对应关系的原型向量之间的距离,最大化样本与其他关系类别的原型向量之间的距离,学习更新各关系的原型向量,获得原型知识;步骤4,在记忆融合层,通过多头自注意力的方法,将原型知识融合到当前样本的编码向量中,用于特征增强;步骤5,在输出层,通过一个多分类器根据融合了原型知识的句子编码向量对实体之间的关系进行分类预测;在步骤4中,所述记忆融合层通过多头自注意力机制将原型向量作为记忆知识,融合到当前的句子特征向量中;首先,设定有 个注意力头,对所述句子特征向量 ,进行自注意力运算,得到:其中, 为特征向量 的线性变化, 和 为原型向量集合 的线性变化,为了从多视角获得相关信息,将多头注意力所得到的隐藏特征进行汇聚,得到:其中, 为可训练的参数, 表示经过自注意力层运算汇聚后的特征向量, 表示第i个注意力头运算后的特征向量,M表示注意力头数, 为一个归一化操作函数;最后,使用一个特征结合器将所述原型知识与所述当前的句子特征向量进行融合,特征结合器由一个全连接层构成,通过参数学习,动态调整两种特征的结合强度,融合过程表示为:其中, 和 为可训练的参数, 表示融合了原型知识的句子特征向量。
2.根据权利要求1所述的一种融合原型知识的关系抽取方法,其特征在于,在步骤2中,对于将输入的文本句子在头尾实体前后加入标志符 , , , 分别表示头实体的开始与结束和尾实体的开始与结束,句子表示为:其中,符号 和 表示句子的开始与结束, 表示文本的第 个词,将句子输入到预训练语言模型中,得到句子的隐藏层向量序列:将标识符 和 对应的隐藏层向量串联输入到一个全连接层中, , 表示字符 和 所对应的隐藏层状态, 表示词 所对应的隐藏层状态, , , , 表示头尾实体开始与结束标志符对应的隐藏层状态,获得最终的句子特征向量:其中, 和 是可训练的参数, 表示一个拼接操作,设定特征向量 的向量维度为 。
3.根据权利要求2所述的一种融合原型知识的关系抽取方法,其特征在于,在步骤3中,所述原型向量层首先初始化一个原型向量集合 ,其中 表示第 个关系类别的原型知识,共有 个关系类别;然后,通过对比学习更新原型向量集合,更新的原则是,各关系的原型向量 在向量空间中,应与其所属类别的全部句子的特征向量相近,与其他类别句子的特征向量远离;首先构造训练样本集合,给定一组句子特征向量 ,B表示一组句子特征向量集合的基数,所述训练样本集合由若干句子-原型对构成,对于一个属于关系类别 的句子特征向量 ,则其正例句子-原型对为 ,负例句子-原型样本对表示为 ;接着,对所述原型向量进行更新优化,基本思想为在向量空间中,使训练样本对中的正例距离最小化,训练样本中的负例距离最大化,定义以下损失函数:其中, 表示距离函数,定义为: 。
4.根据权利要求3所述的一种融合原型知识的关系抽取方法,其特征在于,在步骤5中,所述输出层根据所述融合了原型知识的句子特征向量 ,通过一个多分类器,确定所述关系类别:其中, 和 是可训练的参数, 为所有训练参数的集合, 表示 属于类别 的概率。
5.根据权利要求4所述的一种融合原型知识的关系抽取方法,其特征在于,在输出层定义损失函数为交叉熵损失函数:其中, 表示一个指示函数,当 为 的真实类别 时为1,否则为0。