有效
一种事件抽取方法、相关装置、设备及存储介质
李涓子、王子奇、王晓智、韩旭、林衍凯、侯磊、刘知远、李鹏、周杰
清华大学
摘要
本申请实施例公开了一种事件抽取方法、相关装置、设备及存储介质,用于将句级自然语言转化为结点和边,再将结点和边转化为语义特征来进行事件抽取,能够保证获取事件的精度。本申请实施例方法包括:获取待处理文本;根据待处理文本生成抽象语义表示,抽象语义表示包括与词语一一对应的结点,以及用于连接结点之间边;对抽象语义和文本表示进行语义编码处理,得到语义嵌入向量,语义嵌入向量用于表示每个词语的与事件之间的语义特征;对抽象语义表示进行图编码处理,得到图嵌入向量,其中,图嵌入向量为用于表示通过边相连接的结点的结构特征;将语义嵌入向量与图嵌入向量进行拼接,得到拼接特征向量;对拼接特征向量进行识别,输出目标事件。
1.一种事件抽取方法,其特征在于,包括:获取待处理文本,其中,所述待处理文本包括N个词语,所述N为大于1的整数;根据所述待处理文本生成抽象语义表示,其中,所述抽象语义表示包括与所述词语一一对应的结点,以及用于连接所述结点之间边;对所述抽象语义表示以及所述待处理文本进行语义编码处理,得到语义嵌入向量,其中,所述语义嵌入向量用于表示每个所述词语与事件之间的语义特征;对所述抽象语义表示进行图编码处理,得到图嵌入向量,其中,所述图嵌入向量为用于表示通过所述边相连接的所述结点之间的结构特征;将所述语义嵌入向量与所述图嵌入向量进行拼接,得到拼接特征向量;对所述拼接特征向量进行识别,输出目标事件,其中,所述目标事件包括从N个所述词语中抽取出的触发词以及角色词,所述触发词用于指示所述待处理文本中的发生的所述事件,所述角色词用于指示所述待处理文本中的各个实体在所述事件中角色。
2.根据权利要求1所述的方法,其特征在于,在所述对所述抽象语义表示进行图编码处理,得到图嵌入向量之前,所述方法还包括:将所述待处理文本进行结点编码处理,得到结点编码向量,所述结点编码向量用于初始化每个所述词语与所述事件之间的语义特征;所述对所述抽象语义表示进行图编码处理,得到图嵌入向量包括:将所述结点编码向量以及所述抽象语义表示通过图编码模型进行图编码处理,得到所述图嵌入向量。
3.根据权利要求1所述的方法,其特征在于,所述对所述拼接特征向量进行事件识别,输出目标事件包括:根据动态最大池化算法确定所述语义嵌入向量对应的触发词最大池化特征向量以及角色词最大池化特征向量;将所述触发词最大池化特征向量以及所述角色词最大池化特征向量与所述拼接特征向量进行拼接,得到待识别特征向量;对所述待识别特征向量进行分类识别,得到所述目标事件。
4.根据权利要求1所述的方法,其特征在于,所述对所述拼接特征向量进行事件识别,输出目标事件还包括:对所述拼接特征向量进行谱聚类,得到结点聚类图,其中,所述结点聚类图包括聚类结点以及连接所述聚类结点的聚类边;根据所述聚类边的距离确定所述聚类结点之间的边权重值;对所述结点聚类图进行切图处理,得到K个聚类子图,所述K为大于1的整数;当每个所述聚类子图的边权重值符合预设的权重值时,输出所述目标事件。
5.根据权利要求1所述的方法,其特征在于,所述对所述抽象语义表示进行语义编码处理,得到语义嵌入向量包括:根据序列编码模型对所述抽象语义表示进行编码,得到所述语义嵌入向量,所述序列编码模型用于对通过所述边连接的所述结点进行时序性编码。
6.根据权利要求1所述的方法,其特征在于,在根据所述待处理文本生成抽象语义表示之前,所述方法还包括:获取数据库中的待处理语料,所述待处理语料包括M个句子,所述M为大于等于1的整数;将所述待处理语料生成抽象语义表示集合,所述抽象语义表示集合包括与所述句子对应结点集,以及连接所述结点之间边形成的边集。
7.根据权利要求6所述的方法,其特征在于,在所述将所述待处理语料生成抽象语义表示集合之后,所述方法还包括:根据所述抽象语义表示集合生成对比学习训练数据集;根据所述对比学习训练数据集对基础模型进行预训练,得到训练模型。
8.根据权利要求7所述的方法,其特征在于,所述对比学习训练数据集包括对比学习语义训练数据集,所述根据所述抽象语义表示集合生成对比学习训练数据集包括:根据所述边、所述结点、所述边集以及所述结点集构建所述语义正例,其中,所述语义正例用于表示所述触发词与所述角色之间的语义亲近关系;对所述语义正例进行结点替换操作,得到语义负例,其中,所述语义负例用于表示所述触发词与所述角色之间的语义远离关系;将所述语义正例以及所述语义负例作为对比学习语义训练数据集。
9.根据权利要求8所述的方法,其特征在于,所述训练模型包括序列编码模型,所述根据所述对比学习训练数据集对基础模型进行预训练,得到训练模型包括:根据所述对比学习语义训练数据集以及损失函数对基础序列编码模型进行反向训练,得到所述序列编码模型。
10.根据权利要求7所述的方法,其特征在于,所述对比学习训练数据集还包括对比学习图训练数据集,所述根据所述抽象语义表示集合生成对比学习训练数据集包括:对所述抽象语义表示集合中的每个所述抽象语义表示进行两次随机图抽样,得到2M个随机抽样子图,其中,所述随机抽样子图包括目标结点以及子结点,每个所述抽象语义表示对应两个所述随机抽样子图;将2M个所述随机抽样子图作为图正例,所述图正例用于表示所述子结点相对于所述目标结点的语义亲近关系;将所述随机抽样子图进行随机组合处理,得到X个随机组合子图,其中,每个所述随机组合子图包含有两个所述随机抽样子图,所述随机组合子图中的两个所述随机抽样子图分别对应不同的所述抽象语义表示,所述X为不等于2M的整数;将X个所述随机组合子图作为图负例,所述图负例用于表示所述子结点相对于所述目标结点的语义远离关系;将所述图正例以及所述图负例作为对比学习图训练数据集。
11.根据权利要求10所述的方法,其特征在于,所述随机图抽样包括:将所述抽象语义表示中的任一结点作为所述目标结点,并将除所述目标结点之外的结点作为所述子结点;从所述目标结点向所述子结点进行随机行走,得到随机结点集合,所述随机结点集合包括所述目标结点、所述子结点以及从所述目标结点走向所述子结点形成的边;根据所述随机结点集合描绘出结点子图;将所述结点子图中的所述目标结点、所述子结点进行编号,得到所述随机抽样子图。
12.根据权利要求10所述的方法,其特征在于,所述训练模型包括图编码模型,所述根据所述对比学习训练数据集对基础模型进行预训练,得到训练模型包括:根据所述对比学习图训练数据集以及损失函数对基础图编码模型进行反向训练,得到所述图编码模型。
13.一种事件抽取装置,其特征在于,包括:获取单元,用于获取待处理文本,其中,所述待处理文本包括N个词语,所述N为大于1的整数;生成单元,用于根据所述待处理文本生成抽象语义表示,其中,所述抽象语义表示包括与所述词语一一对应的结点,以及用于连接所述结点之间边;处理单元,用于对所述抽象语义以及所述待处理文本表示进行语义编码处理,得到语义嵌入向量,其中,所述语义嵌入向量用于表示每个所述词语与事件之间的语义特征;所述处理单元,还用于对所述抽象语义表示进行图编码处理,得到图嵌入向量,其中,所述图嵌入向量为用于表示通过所述边相连接的所述结点之间的结构特征;所述处理单元,还用于将所述语义嵌入向量与所述图嵌入向量进行拼接,得到拼接特征向量;识别单元,用于对所述拼接特征向量进行识别,输出目标事件,其中,所述目标事件包括从N个所述词语中抽取出的触发词以及角色词,所述触发词用于指示所述待处理文本中的发生的事件,所述角色词用于指示所述待处理文本中的各个实体在所述事件中角色。
14.一种计算机设备,其特征在于,包括:存储器、收发器、处理器以及总线系统;其中,所述存储器用于存储程序;所述处理器用于执行所述存储器中的程序时实现如权利要求1至12中任一项所述的方法;所述总线系统用于连接所述存储器以及所述处理器,以使所述存储器以及所述处理器进行通信。
15.一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行如权利要求1至12中任一项所述的方法。
16.一种包含指令的计算机程序产品,其特征在于,当其在计算机或处理器上运行时,使得所述计算机或处理器执行如权利要求1至12中任一项所述的方法。



