有效
基于MHA-CNN-SLSTM和误差补偿的互感器预测方法
李振华、陈豪钰、张绍哲、卢和平、周峰、刁赢龙、程江洲、李振兴、张涛、张磊
三峡大学
李
李振华 专利 736
河南理工大学电流电压检测频率测量测量装置零部件
陈
陈豪钰 专利 14
三峡大学物理仪器计算技术供电配电储能

张绍哲 专利 37
华中科技大学功率变换设备测量与测试电学
卢
卢和平 专利 14
中国电力科学研究院有限公司电磁测量物理仪器测量与测试
周
周峰 专利 519
中国电力科学研究院有限公司测量装置零部件仪器测试或校准电流电压检测
刁
刁赢龙 专利 211
中国电力科学研究院有限公司测量装置零部件电流电压检测电磁测量
程
程江洲 专利 194
三峡大学电流电压检测电池充供电电磁测量
李
李振兴 专利 275
三峡大学电流电压检测电路保护电磁测量

张涛 专利 60
华中科技大学物理仪器测量与测试计算技术

张磊 专利 41
华中科技大学物理仪器计算技术图像处理
摘要
基于MHA‑CNN‑SLSTM和误差补偿的互感器预测方法,包括:采用VMD将互感器误差数据分解为不同高低频分量;基于改进海鸥优化算法ISOA优化VMD的关键参数,实现误差数据最优分解;基于多头注意力机制MHA对误差影响特征交叉处理,挖掘各特征间关联性,通过强相关性特征与误差间关系建立弱相关特征与误差间深层联系;将CNN置于多头注意力机制MHA后端,降低多头注意力机制MHA输出特征维度;考虑训练集与测试集之间相关性,改进LSTM神经网络,动态调整网络权重和偏置,构建MHA‑CNN‑SLSTM组合预测模型;将预测值与实际值误差作为训练集输入构建的组合预测模型,生成补偿数据对预测值进行补偿。该方法能够准确的预测未来短期内互感器误差状态变化,具有预测精度高、泛化性强等特点。
1.基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于包括以下步骤:步骤1:采用变分模态分解算法VMD将互感器误差数据分解为不同高低频分量;步骤2:基于改进海鸥优化算法ISOA优化变分模态分解算法VMD的关键参数,实现误差数据最优分解;步骤3:基于多头注意力机制MHA对误差影响特征交叉处理,挖掘各特征间关联性,通过强相关性特征与误差间关系建立弱相关特征与误差间深层联系;步骤4:将卷积神经网络CNN置于多头注意力机制MHA后端,降低多头注意力机制MHA输出特征维度;步骤5:考虑训练集与测试集之间相关性,改进LSTM神经网络,动态调整网络权重和偏置,构建MHA-CNN-SLSTM组合预测模型;步骤6:将预测值与实际值误差作为训练集,输入步骤5构建的组合预测模型,生成补偿数据对预测值进行补偿。
2.根据权利要求1所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:所述步骤1中,采用变分模态分解算法VMD将互感器误差数据分解为不同高低频分量;根据过零率大小对高低频分量区分,过零率计算公式如下:式中,P为过零率大小;Z zero 为信号通过零的次数;N为区间长度。
3.根据权利要求1所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:所述步骤2中,引入对立搜索算子策略、非线性收敛控制因子对传统海鸥算法改进,提出一种改进海鸥优化算法ISOA,选择排列熵作为适应度函数,利用改进海鸥优化算法ISOA优化变分模态分解算法VMD关键参数,对分解个数k和惩罚因子α寻优,以达到误差数据最优分解的目标。
4.根据权利要求3所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:步骤2具体如下:首先,引入对立搜索算子策略,对初始种群优化在区间[L,U]上产生当前个体和相对立个体,定义为:式(1)中, 表示当前个体相对立的个体;x i 表示当前个体;L表示种群优化区间内下值;U表示种群优化区间内上值;根据上述定义,采用如下初始化方法:设定种群规模N,分别将当前个体与其相对的个体进行对比,选择适应度值最优个体为初始种群;初始化公式为:式(2)中, 表示当前个体相对立的个体代入适应度函数所求得值;f(x i )表示当前个体代入适应度函数所求得值;然后,改进非线性收敛控制因子,对控制因子f c 进行重新设计,使得控制因子f c 在算法开始之初随迭代次数而增加,当到达一定值后,控制因子f c 迅速减小到一个较小值,然后再以缓慢速度逐渐增大;基于此,控制因子f c 更新公式如下所示:f c =(f ci -f cf )+[(1-t/t max )/(1-η×t/t max )](3);式(3)中,f ci 为控制因子f c 起始值;f cf 为控制因子f c 最终值;η为调节系数;t为目前迭代次数;t max 为最大迭代次数。
5.根据权利要求4所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:步骤2中,优化变分模态分解算法VMD的关键参数,即优化VMD中分解个数k和惩罚因子α,实现误差数据最优分解。
6.根据权利要求1所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:所述步骤3中,根据皮尔逊相关系数分析能够得到,与比差极强相关影响因素为温度、湿度;其次弱相关影响因素为负荷、振动;最后极弱相关影响因素为磁场;比差-温度、湿度-负荷相互间存在一定联系,能够通过湿度、温度特征挖掘比差与负荷之间深层关系;采用多头注意力机制MHA对各影响因素特征进行交叉处理,挖掘各特征间深层次关系。
7.根据权利要求6所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:步骤3具体如下:多头注意力机制MHA通过矩阵对各特征赋予不同权重,挖掘特征与特征间多重关系,通过对多个不同注意力头特征的融合实现显性特征与相关系数较大的隐性特征交叉,形成相较于原始特征具有更丰富表达力的新特征;误差影响因素数据矩阵Z与查询线性投影权重W q 相乘,得到查询矩阵Q:Q=W q Z误差影响因素数据矩阵Z与键线性投影权重W k 相乘,得到键矩阵K:K=W k Z误差影响因素数据矩阵Z与值线性投影权重W v 相乘,得到键矩阵V:V=W v Z上式中,矩阵Q、V通过点积运算计算相似度,挖掘特征间关联性,捕捉内部多重关系,如下所示:式(6)中,F为自注意力网络,σ为Softmax激活函数; 为缩放因子;F(Q,K,V)表示Q、K、V代入自注意力网络所输出值;K T 表示键矩阵的转置d k 表示Q、K中向量维度;多头注意力机制内的各子注意力头间的计算是相互独立的,通过对各子注意力头的输出矩阵进行拼接,并乘以权重矩阵W o ,得到最终输出结果,具体如下所示:式(7)中,H i 为多头注意力第i个头;W i Q 、W i K 、W i V 为第i个注意力头权重;F c 为矩阵拼接函数;H 1 ,H 2 ,.......,H i 表示多头注意力机制第i个头; 表示最终多头注意力机制输出矩阵;为保证信息传递、梯度稳定性根据式(8)将Z与Z跳跃连接并进行归一化处理;式中,M为归一化结果;F LN 为归一化函数(LayerNorm); 表示最终多头注意力机制输出误差矩阵;Z表示原始误差矩阵。
8.根据权利要求1所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:步骤3中,特征交叉具体是:通过多头注意力机制内部子注意力头对原始不同误差影响因素特征进行计算,并动态加权计算、合并得到新的误差影响因素特征;特征交叉后,即新特征x 3 包含x 1 、x 2 独立特征同时,还包含了两者之间联系,即通过x 1 与y之间关系可间接显示x 2 与y之间深层联系;所以组合预测模型能够通过新特征训练学习到更深层次非线性特征,增加拟合精度。
9.根据权利要求1所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:所述步骤5中,为保证LSTM神经网络模型输出互感器误差预测值精度,采用平方损失函数来更新权重、偏置矩阵参数:式(10)中,J表示损失值;h(t)表示误差预测值;m(t)为误差实际结果;γ为正则化参数;N为样本数; 为更新后矩阵;W T 表示矩阵W的转置;arg W,b 表示矩阵W、b的平方损失最小值;W=[W f ,W i ,W c ,W o ];W f ,W i ,W c ,W o 分别为表示遗忘门、输入门、记忆单元、输出门权重矩阵;b=[b f ,b i ,b c ,b o ];b f ,b i ,b c ,b o 分别表示遗忘门、输入门、记忆单元、输出门偏置矩阵;采用余弦相似度来比较训练样本输出值和测试集输出值间误差可信度,动态调整 式(11)中,R t,η 表示余弦相似度;S t,η 为对R t,η 非线性变化结果,取值位于[0,1]间;x(t)为t时刻训练集输入;z(η)为η时刻测试集输入;x(t) T 表示x(t)的转置矩阵;exp(-R t,η )表示余弦相似度的指数函数值;结合式(10)、(11)调整 式(12)中, 为z(η)在η时刻测试集模型输出结果;h(t)为x(t)在t时刻训练集输出结果;J η 表示η时刻损失值; 表示η时刻更新后权重矩阵; 表示η时刻更新后偏置矩阵; 表示矩阵W、b在η时刻的平方损失最小值;则LSTM神经网络数学方程进一步描述为:式(13)中,f η (t)表示测试集遗忘门输出;W f,η 表示测试集η时刻遗忘门权重矩阵; 表示测试集模型上一刻输出值;b f,η 表示测试集η时刻遗忘门偏置矩阵σ(i)表示激活函数;i(t)表示输入门输出;W i,η 表示η时刻输入门权重矩阵b i,η 表示时刻遗忘门输入门偏置矩阵; 表示记忆单元状态;W c,η 表示η时刻记忆单元权重矩阵;b c,η 表示η时刻记忆单元偏置矩阵;o(t)表示初始输出;W o,η 表示η时刻输出门权重矩阵;b o,η 表示η时刻输出门偏置矩阵;c(t)表示更新后记忆单元;f(t)表示遗忘门输出;c(t-1)表示上一刻记忆单元; 表示运算符号,哈达玛积;h(t)表示训练集上一刻输出;tanh(t)表示激活函数。
10.根据权利要求1所述基于MHA-CNN-SLSTM和误差补偿的互感器预测方法,其特征在于:所述步骤5中,步骤5建立的MHA-CNN-SLSTM组合预测模型对样本数据完成预测后,内部参数均已固定,同时互感器预测值的误差由测试样本所输出的预测值和实际值对比所产生,即该误差应与测试样本间存在高度适应性,因此能够将预测误差直接投入MHA-CNN-SLSTM组合预测模型预测,建立预测值误差与互感器误差影响因素特征间的关联网络,实现对预测值误差的预测,从而对预测值进行补偿和修正。



