有效

一种数据不均衡条件下的联邦关系抽取方法

赵翔、庞宁、肖卫东、胡艳丽、殷风景、谭真、葛斌
中国人民解放军国防科技大学

摘要

本发明公开了一种数据不均衡条件下的联邦关系抽取方法,包括:在终端输入层,输入终端本地训练数据;在终端编码层,利用预训练语言模型,对关系所涉及的头尾实体进行符号标记,并将标记所对应的隐藏层向量串联作为句子编码向量;在终端输出层,根据终端编码层输出的特征向量进行关系分类,并通过交叉熵损失进行模型优化;在终端可信度计算层,终端首先从服务器下载公用验证集,将前面优化训练后的模型参数固定,在验证集上计算各类关系的预测可信度;在终端预测层,终端对无标注数据进行预测,预测结果与预测可信度相乘,得到最终预测结果并上传服务器;服务器得到无标注数据集的弱标注结果,将带有弱标签的数据集下发至各终端,进行本地训练。