在审

面向事件因果关系识别的常识图感知语言模型训练方法

肖卫东、黄培馨、谭真、赵翔、唐九阳、曾维新、胡艳丽
中国人民解放军国防科技大学

摘要

本发明公开了面向事件因果关系识别的常识图感知语言模型训练方法,包括以下步骤:使用常识图蒸馏模块来构建常识元图,所述常识元图只保留了事件因果关系识别任务的知识;通过异构信息融合模块利用常识感知记忆网络来整合来自元图和文本的异构知识;把事件因果关系识别表述为一个二分类问题,对于句子中的一对事件,预测事件对之间是否存在因果关系;持续的预训练和微调,以进一步融合文本和常识图,并做出最终的预测。本发明使因果关系识别成为可能;遵循由常识图剪枝和元图引导的流水线式过程来获得面向任务的知识;在ECI任务中达到最优的性能。

暂无引用专利