基于预训练语言模型的云边端时间序列异常检测系统及方法

1.基于预训练语言模型的云边端时间序列异常检测系统，其特征在于，包括：设置在边缘设备端的数据采集模块、序列补全模块、异常检测模块和误差收集模块，以及设置在云端服务器的加权聚合模块、增量训练模块和领域切片更新模块；所述数据采集模块负责采集驾驶过程中各传感器的数据；所述序列补全模块基于微调的预训练语言模型对缺失数据进行补全；所述异常检测模块利用微调的预训练语言模型对补全后的数据进行异常检测；所述误差收集模块在驾驶任务结束后，记录异常检测结果和实际情况之间的误差信息；所述加权聚合模块接收来自多个边缘设备的误差信息，对其进行加权聚合，以充分利用来自不同场景的反馈信息；所述增量训练模块基于聚合后的数据，使用增量训练的方式优化微调的预训练语言模型的领域切片；所述领域切片更新模块将更新后的领域切片下发至边缘设备。 2.基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，基于权利要求1所述的云边端时间序列异常检测系统，包括：步骤S1：数据采集；边缘设备通过传感器实时采集车辆数据；步骤S2：选择领域切片；预训练语言模型利用自带的先验知识来进行领域切片的选择；步骤S3：数据补全；若传感器数据存在缺失，则序列补全模块会在领域切片的先验条件下进行补全，确保数据的完整性；步骤S4：实时异常检测；数据经过补全后被输入异常检测模块，对驾驶行为进行异常检测；步骤S5：误差反馈与局部更新；每次驾驶任务结束后，将异常检测结果与实际情况进行比对，生成误差信息并在网络允许时同道路数据一起上传至云端服务器；步骤S6：云端增量训练；云端服务器对收到的误差信息进行加权聚合，并通过增量训练对预训练语言模型进行优化，更新领域切片；步骤S7：领域切片下发；将更新后的领域切片下发到边缘设备，实现持续优化。 3.根据权利要求2所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述步骤S1，包括：步骤S11：传感器数据采集；边缘设备通过车载传感器实时采集多种时间序列数据；步骤S12：序列实例归一化与分片；对采集的数据进行实例归一化，将每个时间序列变量的值归一化为均值为零、方差为单位的标准化形式；再将实例归一化后的数据划分为多个不重叠的片段，每个片段都将被嵌入到隐藏空间中进行后续处理；每个片段代表一个局部的时间序列。 4.根据权利要求3所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述步骤S2，包括：在边缘设备中，预先存储一个领域切片库，领域切片库中的领域切片是云端训练和优化后下发到边缘设备的；每个领域切片包含特定场景的前缀向量P prefix ；预训练语言模型经过输入数据进行场景判别然后选择领域切片。 5.根据权利要求4所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述步骤S3，包括：基于领域切片的补全机制和补全策略，进行数据补全。 6.根据权利要求5所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述补全机制，包括：在输入数据中，如果测到缺失，预训练语言模型会使用一种可学习的嵌入来表示缺失位置，这个嵌入结合上下文信息使预训练语言模型能够更有效地补全缺失数据；所述补全策略，包括：简单补全：对于简单的缺失情况，预训练语言模型基于领域切片中的统计特征进行快速补全；深度推断补全：对于复杂缺失数据，预训练语言模型结合上下文特征和深度学习方法，通过推断补全缺失部分；预训练语言模型利用经过微调的预训练特征，生成合理的补全值：Y t ＝f θ (P t ，E miss ，C t )其中：f θ 是补全模型的函数，由参数θ定义，P t 是当前片段，E miss 是缺失嵌入，C t 是上下文信息。 7.根据权利要求6所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述步骤S4，包括：补全后的数据将被输入异常检测模块；采用滑动窗口策略对数据进行整体异常判断；设定滑动窗口长度为w，对时间序列数据进行滑动操作；对于每个滑动窗口内的数据X t ，通过预训练语言模型提取深层次特征表示Z t ；Z t ＝f θ (X t )其中：f θ 为预训练模型，θ是模型的参数，Z t 是特征表示；对于提取的深层特征表示Z t ，计算窗口内每个时间点的异常评分；设定一个异常评分函数g(·)，方案采用重构误差；对于每个时间点x i ∈X t ，异常评分为：A i ＝g(Z t ，x i )其中：A i 为时间点x i 的异常评分；定义一个异常评分阈值τ，如果时间点x i 的异常评分A i 大于该阈值，则该点被标记为异常：对于整个滑动窗口X t ，如果所有点都被检测为异常，即：其中：I window 表示整个窗口的异常标志；只有当窗口内所有点都被标记为异常时，才将该窗口判定为异常。 8.根据权利要求7所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述异常检测模块结合了对比学习方法；在对比学习中，预训练语言模型为输入数据生成不同掩码版本，并通过对这些版本进行对比来学习异常特征；该过程表示为：其中：L contrast 为对比学习损失， 和 分别表示两个不同掩码版本的特征表示。 9.根据权利要求8所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述步骤S5，包括：每次驾驶任务结束后，边缘设备将异常检测结果与实际驾驶情况进行比对，生成误差反馈信息，并通过滑动窗口的方法对异常检测阈值进行调整；调整过程如下：边缘设备会维护一个长度为w的滑动窗口，用于存储最近的误报率和漏报率；每次驾驶任务结束时，将本次任务的误报率和漏报率存储在滑动窗口中；对滑动窗口内的数据进行统计，计算最近w次驾驶任务的平均误报率和平均漏报率；使用简单的固定步长对阈值进行调整；其中，τ′为更新后的异常检测阈值，Δτ为固定的步长，FPR threshold 和FNR threshold 为误报率和漏报率的阈值。 10.根据权利要求9所述的基于预训练语言模型的云边端时间序列异常检测方法，其特征在于，所述步骤S6，包括：根据设备的数据特征、误报率、漏报率指标为每组数据分配不同的权重w i ，计算公式表示为：其中：FNR i 和FPR i 分别为设备i的漏报率和误报率，α为平滑系数，用于控制权重的敏感度；接着计算所有权重的总和 并对每个初始权重进行归一化处理，得到最终的权重：使用加权系数对每个边缘设备上传的数据进行加权整合，以构造训练集；其中：X i 是设备i上传的数据，w i 是对应的权重；所述增量训练，包括：聚合完成后，使用这些反馈信息进行增量训练；增量训练只需更新少量的参数，即冻结住PLM的参数，重新训练领域切片。