失效

一种集成预训练语言模型的跨领域时间序列补全方法

伍元凯、程锦国、李科、尹苏皖、韩云祥、方夏
四川大学

摘要

本发明提供了一种集成预训练语言模型的跨领域时间序列补全方法,输入多个领域的多变量时间序列;对完整数据进行缺失掩盖操作,在数据归一化与分块之后,对时间序列数据生成缺失掩码,并根据掩码对原始时间序列进行处理;随机生成两组掩码,分别表示不同的缺失模式;通过掩码将时间序列的部分值屏蔽,得到带掩码的时间序列分别表示两种不同的缺失场景;模拟真实场景中的数据缺失模式,让模型能适应各种不完整的时间序列数据;初始化模型参数,采用在自然语言上预训练得到的时序补全基础模型的参数作为初始化的权重;输入序列标准化并对序列切片。能够对训练阶段未见过的任何不完整时间序列执行缺失数据补全任务。

暂无引用专利