1.一种基于动态注意力机制的事件时序关系抽取方法,其特征在于,步骤包括:S01. 获取待抽取文本并转化为词向量;S02. 语义特征提取:将步骤S01转化得到的词向量输入至BERT预训练模型中,抽取待抽取文本的语义关系特征,其中在所述BERT预训练模型的注意力机制中,根据输入的所述词向量生成得到注意力权重向量,以实现动态注意力机制;S03. 时序关系识别:判断待抽取文本中句子的时间元素是否为隐性,如果是则将所述BERT预训练模型输出的语义关系特征输入至GCN模型中,以进行隐形时态时序关系抽取,否则根据句子的时间元素或连接词进行时序关系识别, 所述步骤S02中,通过在所述BERT预训练模型中设置一个动态机制模块以及一个注意力自适应模块,以实现所述动态注意力机制,其中由所述动态机制模块根据输入的所述词向量生成所述注意力权重向量,并提供给所述注意力自适应模块,由所述注意力自适应模块将生成的所述注意力权重向量对所述BERT预训练模型中注意力机制的输出结果进行权重乘法,以使得注意力的作用依赖于输入词向量;所述动态机制模块采用一个多层感知器实现,所述BERT预训练模型中具体按下式计算实现所述动态注意力机制: (1)其中, Z 表示基于所述动态注意力机制得到的输出结果, 表示依赖于输入词向量 生成的所述注意力权重向量, 表示注意力机制的输出结果, 表示归一化系数, 为相关性分值矩阵, 表示查询向量组成的矩阵、 表示键向量组成的矩阵, k 表示第k头注意力;所述GCN模型由词节点和有向边组成,其中后一层的输出依赖于前一层的输出,即所述后一层的输出根据所述前一层的输出计算得到,每层的输出基于依存句法树获得的词语依存关系权重矩阵以及当前层与前一层之间的紧密程度计算得到;所述步骤S03中,通过获取所述GCN模型的输出,经过全连接层的计算后,最终抽取得到所述隐形时态时序关系。
2.根据权利要求1所述的基于动态注意力机制的事件时序关系抽取方法,其特征在于,所述注意力权重向量中各注意力权重 的 ,且 , 表示依赖于输入词向量 生成的所述注意力权重向量。
3.根据权利要求1所述的基于动态注意力机制的事件时序关系抽取方法,其特征在于,所述GCN模型由词节点和有向边组成,其中后一层的输出依赖于前一层的输出,即所述后一层的输出根据所述前一层的输出计算得到,每层的输出基于依存句法树获得的词语依存关系权重矩阵以及当前层与前一层之间的紧密程度计算得到,具体计算公式为:其中, 表示 层GCN模型的所述词语依存关系权重矩阵, 是第 层的输出, 表示第 层偏置向量, 表示第 层输出单元 与第 层输出单元 之间的紧密程度,且 , 为可训练参数, 分别表示GCN每一层的不同的输出, 表示激活函数。
4.根据权利要求3所述的基于动态注意力机制的事件时序关系抽取方法,其特征在于,所述步骤S03中,通过获取所述GCN模型的输出,经过全连接层的计算后,最终抽取得到所述隐形时态时序关系的具体公式为: (3) (4)其中, , 表示全连接层输出第t个时序类别的结果, 为全连接层的训练参数矩阵, 为输入词向量的集合, 为第 层的可训练参与系数, L 为 , 表示所述GCN模型中第 。
5.根据权利要求1~4中任意一项所述的基于动态注意力机制的事件时序关系抽取方法,其特征在于,所述步骤S03中当判断到待抽取文本中句子的时间元素为显性时,使用基于BERT模型的事件元素提取方法进行时序关系抽取识别,步骤包括:S301.对时间元素进行提问,并将问句转化为词向量作为所述BERT模型的输入;S302.将所述步骤S301中所述BERT模型输出的语义特征变为任务特征,提取出时间元素;S303.根据步骤S302提取出的时间元素,比较每个时间的事件关系,得到事件对之间的时序关系。
6.根据权利要求1~4中任意一项所述的基于动态注意力机制的事件时序关系抽取方法,其特征在于,所述步骤S03中当判断到待抽取文本中句子的时间元素为半显性时,即事件对之间具有时间连接词,使用识别时间连接词的方式进行时序关系抽取识别,包括:通过对待处理文本进行分词处理,并构建时序关系连接词词典,最后将分词结果与所述连接词词典进行比对,得到事件对的时序关系。
7.根据权利要求1~4中任意一项所述的基于动态注意力机制的事件时序关系抽取方法,其特征在于,所述步骤S01中转化词向量时,位置嵌入使用基于三角函数的编码方法,其中位置为偶数和奇数的位置编码公式分别为:其中, 和 表示词所在的偶数位和奇数位, 、 表示词特征向量的维数, 。
8.一种计算机装置,包括处理器以及存储器,所述存储器用于存储计算机程序,所述处理器用于执行所述计算机程序,其特征在于,所述处理器用于执行所述计算机程序以执行如权利要求1~7中任意一项所述方法。