有效
向量处理器的低位宽数据矩阵向量化列扩展方法及系统
苏华友、陈抗抗、刘朝润、姜晶菲、王庆林、许金伟、高蕾、窦勇
中国人民解放军国防科技大学
摘要
本发明公开了一种向量处理器的低位宽数据矩阵向量化列扩展方法及系统,方法包括:将低位宽数据矩阵存储在双倍速率同步动态随机存储器中;调用直接存储器访问操作,将低位宽数据矩阵从双倍速率同步动态随机存储器加载到片上阵列存储器AM空间;在AM空间中,对加载到片上AM空间后的矩阵进行列扩展处理,得到列扩展后的矩阵。本发明能够高效的实现低位宽数据矩阵的列扩展操作。
1.一种向量处理器的低位宽数据矩阵向量化列扩展方法,其特征在于,包括:将低位宽数据矩阵存储在双倍速率同步动态随机存储器中;调用直接存储器访问操作,将所述低位宽数据矩阵从所述双倍速率同步动态随机存储器加载到片上阵列存储器AM空间;在AM空间中,对加载到所述片上AM空间后的矩阵进行列扩展处理,得到列扩展后的矩阵;在AM空间中,对加载到所述片上AM空间后的矩阵进行列扩展处理,得到列扩展后的矩阵,包括:步骤1、令offset=2, 令AM 0 为AM上半空间起始地址,AM 1 为AM下半空间起始地址,AM 2 为AM 0 偏移offset个低位宽数据后的地址,AM 3 为AM 0 偏移0个低位宽数据后的地址,矩阵A的子矩阵为A’,矩阵B的子矩阵为B’;步骤2、判断N是否超过预设阈值,其中,所述预设阈值需小于 空间大小,如果超过,跳转至步骤17,否则,跳转到步骤3;步骤3、基于直接存储器访问,将子矩阵A’中的前N-1个低位宽数据传输到子矩阵B’;步骤4、基于直接存储器访问,将低位宽子矩阵从N-1数据开始从双倍速率同步动态随机存储器加载到片上空间AM 0 ;步骤5、使用向量加载指令,从AM 3 开始,将低位宽1xL的数据按照半字向量加载到向量寄存器VR0,从第AM 3 +(L-2)个低位宽数据开始将低位宽1xL的数据按照半字向量加载到向量寄存器VR1,AM 3 自增2×(L-2)个低位宽数据大小,其中,L表示向量处理单元中向量处理部件的数量;步骤6、使用扩展指令,对向量寄存器VR0数据进行低位低位宽扩展操作,并加载到向量寄存器VR32;步骤7、使用向量存储指令,将向量寄存器VR32中数据按照字向量存回片上空间AM 1 ;步骤8、使用向量加载指令,将从AM 1 +2开始,将低位宽1×(L×2)的数据按照字向量加载到向量寄存器VR0;步骤9、使用向量存储指令,将向量寄存器VR0中数据按照半字向量存储回空间AM 2 ,AM 2 自增L-2个低位宽数据大小;步骤10、将向量寄存器VR1中的数据加载到向量寄存器VR0中;步骤11、使用向量加载指令,从AM 3 开始,将低位宽1×L的数据按照半字向量加载到向量寄存器VR1,AM 3 自增L-2个低位宽数据大小;步骤12、使用扩展指令,对向量寄存器VR0数据进行低位低位宽扩展操作,并加载到向量寄存器VR32;步骤13、使用向量存储指令,将向量寄存器VR32中数据按照字向量存回片上空间AM 1 ;步骤14、用向量加载指令,将从AM 1 +2开始,将低位宽1×(L×2)的数据按照字向量加载到向量寄存器VR0;步骤15、使用向量存储指令,将向量寄存器VR0中数据按照半字向量存储回空间AM 2 ,AM 2 自增L-2个低位宽数据大小;步骤16、一直循环步骤10-15,直至完成数据的扩展或者所占AM空间已经超过阈值,如果停止条件为完成数据的扩展,则跳转至步骤22,否则,跳转至步骤20;步骤17、基于直接存储器访问,根据AM空间大小,将子矩阵A’中的前N-1个数据分批次传输到子矩阵B’;步骤18、令offset=2, 令AM 0 为AM上半空间起始地址,AM 1 为AM下半空间起始地址,AM 2 为AM 0 偏移offset个低位宽数据后的地址,AM 3 为AM 0 偏移0个低位宽数据后的地址;步骤19、执行步骤4-16,计算剩余需要传输的数据下标X;步骤20、令offset=0,令AM 0 为AM上半空间起始地址,AM 1 为AM下半空间起始地址,AM 2 为AM 0 偏移offset个低位宽数据后的地址,AM 3 为AM 0 偏移0个低位宽数据后的地址,基于直接存储器访问,将子矩阵A’中从下标为X的数据开始,将数据分批次传输到AM 0 中;步骤21、执行步骤5-16,计算剩余需要传输的数据下标X,如果剩余的数据大于0,跳转至步骤20,否则,跳转至步骤22;步骤22、基于直接存储器访问,将剩余矩阵存储回双倍速率同步动态随机存储器中,完成子矩阵扩展操作;步骤23、当M 为偶数时,按照上述方法,对各个子矩阵进行列扩展,最终可完成整个矩阵[M×N]的列扩展;当M是奇数时,对各个子矩阵进行列扩展,可完成将对矩阵[(M-1)×N]的列扩展,并且基于直接存储器访问,将第M行的数据进行对应传输,最终可完成整个矩阵[M×N]的列扩展。
2.根据权利要求1所述的方法,其特征在于,所述低位宽数据矩阵 的维度为 。
3.根据权利要求2所述的方法,其特征在于,所述调用直接存储器访问操作,将低位宽数据矩阵从双倍速率同步动态随机存储器加载到片上AM空间,包括:调用直接存储器访问操作,将所述低位宽数据矩阵 的子矩阵[2×N]分批次加载到片上AM空间中,其中,批次数量由AM空间大小决定。
4.一种向量处理器的低位宽数据矩阵向量化列扩展系统,其特征在于,包括:存储模块,用于将低位宽数据矩阵存储在双倍速率同步动态随机存储器中;加载模块,用于调用直接存储器访问操作,将所述低位宽数据矩阵从所述双倍速率同步动态随机存储器加载到片上阵列存储器AM空间;列扩展处理模块,用于在AM空间中,对加载到所述片上AM空间后的矩阵进行列扩展处理,得到列扩展后的矩阵;所述扩展处理模块具体用于执行以下步骤:步骤1、令offset=2, 令AM 0 为AM上半空间起始地址,AM 1 为AM下半空间起始地址,AM 2 为AM 0 偏移offset个低位宽数据后的地址,AM 3 为AM 0 偏移0个低位宽数据后的地址,矩阵A的子矩阵为A’,矩阵B的子矩阵为B’;步骤2、判断N是否超过预设阈值,其中,所述预设阈值需小于 空间大小,如果超过,跳转至步骤17,否则,跳转到步骤3;步骤3、基于直接存储器访问,将子矩阵A’中的前N-1个低位宽数据传输到子矩阵B’;步骤4、基于直接存储器访问,将低位宽子矩阵从N-1数据开始从双倍速率同步动态随机存储器加载到片上空间AM 0 ;步骤5、使用向量加载指令,从AM 3 开始,将低位宽1xL的数据按照半字向量加载到向量寄存器VR0,从第AM 3 +(L-2)个低位宽数据开始将低位宽1xL的数据按照半字向量加载到向量寄存器VR1,AM 3 自增2×(L-2)个低位宽数据大小,其中,L表示向量处理单元中向量处理部件的数量;步骤6、使用扩展指令,对向量寄存器VR0数据进行低位低位宽扩展操作,并加载到向量寄存器VR32;步骤7、使用向量存储指令,将向量寄存器VR32中数据按照字向量存回片上空间AM 1 ;步骤8、使用向量加载指令,将从AM 1 +2开始,将低位宽1×(L×2)的数据按照字向量加载到向量寄存器VR0;步骤9、使用向量存储指令,将向量寄存器VR0中数据按照半字向量存储回空间AM 2 ,AM 2 自增L-2个低位宽数据大小;步骤10、将向量寄存器VR1中的数据加载到向量寄存器VR0中;步骤11、使用向量加载指令,从AM 3 开始,将低位宽1×L的数据按照半字向量加载到向量寄存器VR1,AM 3 自增L-2个低位宽数据大小;步骤12、使用扩展指令,对向量寄存器VR0数据进行低位低位宽扩展操作,并加载到向量寄存器VR32;步骤13、使用向量存储指令,将向量寄存器VR32中数据按照字向量存回片上空间AM 1 ;步骤14、用向量加载指令,将从AM 1 +2开始,将低位宽1×(L×2)的数据按照字向量加载到向量寄存器VR0;步骤15、使用向量存储指令,将向量寄存器VR0中数据按照半字向量存储回空间AM 2 ,AM 2 自增L-2个低位宽数据大小;步骤16、一直循环步骤10-15,直至完成数据的扩展或者所占AM空间已经超过阈值,如果停止条件为完成数据的扩展,则跳转至步骤22,否则,跳转至步骤20;步骤17、基于直接存储器访问,根据AM空间大小,将子矩阵A’中的前N-1个数据分批次传输到子矩阵B’;步骤18、令offset=2, 令AM 0 为AM上半空间起始地址,AM 1 为AM下半空间起始地址,AM 2 为AM 0 偏移offset个低位宽数据后的地址,AM 3 为AM 0 偏移0个低位宽数据后的地址;步骤19、执行步骤4-16,计算剩余需要传输的数据下标X;步骤20、令offset=0,令AM 0 为AM上半空间起始地址,AM 1 为AM下半空间起始地址,AM 2 为AM 0 偏移offset个低位宽数据后的地址,AM 3 为AM 0 偏移0个低位宽数据后的地址,基于直接存储器访问,将子矩阵A’中从下标为X的数据开始,将数据分批次传输到AM 0 中;步骤21、执行步骤5-16,计算剩余需要传输的数据下标X,如果剩余的数据大于0,跳转至步骤20,否则,跳转至步骤22;步骤22、基于直接存储器访问,将剩余矩阵存储回双倍速率同步动态随机存储器中,完成子矩阵扩展操作;步骤23、当M 为偶数时,按照上述方法,对各个子矩阵进行列扩展,最终可完成整个矩阵[M×N]的列扩展;当M是奇数时,对各个子矩阵进行列扩展,可完成将对矩阵[(M-1)×N]的列扩展,并且基于直接存储器访问,将第M行的数据进行对应传输,最终可完成整个矩阵[M×N]的列扩展。
5.根据权利要求4所述的系统,其特征在于,所述低位宽数据矩阵 的维度为 。
6.根据权利要求5所述的系统,其特征在于,所述加载模块具体用于:调用直接存储器访问操作,将所述低位宽数据矩阵 的子矩阵[2×N]分批次加载到片上AM空间中,其中,批次数量由AM空间大小决定。




