时序数据自监督预训练模型、构建方法、设备及存储介质

本发明公开了一种时序数据自监督预训练模型、构建方法、设备及存储介质，该构建方法包括：构建特征提取模块，特征提取模块用于提取进行部分掩码后的输入时序数据的数据特征；构建动态掩码特征生成器，动态掩码特征生成器用于基于自注意力机制为数据特征生成动态掩码特征，并结合动态掩码特征和数据特征生成组合特征；构建频域掩码预测模块，频域掩码预测模块用于根据组合特征对输入时序数据进行预测，获得重建数据；基于特征提取模块、动态掩码特征生成器和频域掩码预测模块构建预训练模型。通过实施本发明，为预训练模型输入特定于输入实例的知识，提高了预训练模型的精度。