有效

文本生成方法、装置、设备和存储介质

聂建政、李论通、彭佩玺、田永鸿
鹏城实验室

摘要

本申请实施例提供文本生成方法、装置、设备和存储介质,涉及人工智能技术领域。该方法获取训练文本集以及模型参数,将文本样本输入初始大语言模型进行文本预测,利用模型参数进行前向传播,得到预测文本;基于预测文本得到损失函数,计算损失函数对于模型参数的梯度值,利用衰减参数和梯度值更新动量参数,以及利用学习率、权重衰减率和更新后的动量参数更新权重参数,多次迭代权重参数直至得到目标大语言模型;再见获取的待处理文本输入目标大语言模型得到目标生成文本。在训练过程中利用动量参数作为中间状态参数,减少中间状态参数,降低显存占用,提升处理器的资源利用率,降低大语言模型的训练成本,进而扩展大语言模型的适用范围。