一种基于Seq2Seq模型的降低文本摘要参数量方法

本发明公开了一种优化Seq2Seq模型的降低文本摘要参数量的方法。首先通过遍历训练集内容，和BERT原生词典取交集，并根据数据集情况选定合适的阈值，将低频词过滤，降低词表数量，降低分类数量；其次通过共享BART模型中Encoder和Decoder部分的词嵌入层的参数，进一步降低参数量。使用BART模型，使得Encoder在理解原文时，可以结合上下文的语义信息，语义理解效果更好；在生成摘要时，Decoder通过Mask机制单向生成，符合文本续写的逻辑。