在审
基于对比学习的有监督文本摘要模型训练方法和装置
摘要
本申请涉及一种基于对比学习的有监督文本摘要模型训练方法和装置。所述方法包括:获取源文本和对应的目标摘要,并划分为训练集和测试集;将测试集中的源文本输入摘要生成模型,生成候选摘要;将训练集中的源文本和对应的目标摘要、以及候选摘要输入摘要评分模型进行对比学习,计算得到候选摘要的文本蕴含评分和余弦相似度评分并构建对比学习损失函数;根据对比学习损失函数和在摘要生成模型中引入的负对数似然损失函数,构建总损失函数并对文本摘要模型进行联合训练,得到训练好的文本摘要模型进行摘要生成。采用本方法能够在摘要生成任务中通过对比学习进行多目标联合训练,改善了摘要生成任务中的暴露偏差问题,有效提高了摘要生成的质量。
暂无引用专利



