在审

一种基于向量处理器的低位宽数据高斯误差线性单元函数向量化方法及系统

苏华友、陈抗抗、杨希、姜晶菲、许金伟、高蕾
中国人民解放军国防科技大学

摘要

本发明所提供的基于向量处理器的低位宽数据高斯误差线性单元函数向量化方法及系统,均是通过根据向量处理器的计算核的数量、计算核中的片上阵列存储器的容量,对输入的低位宽数据进行分组、分块,得到第二数据(即分组后的低位宽数据进一步分块后的低位宽数据),通过高斯误差线性单元函数公式,按照分块数量依次向量化处理片上阵列存储器中的数据,从而得到低位宽数据向量。相比于现有技术,本发明最大化的合理使用片上阵列存储器空间,并充分利用了计算部件,通过将低位宽数据进行分组以及分块,使得每个计算核心都可以计算,提高了整体计算核的计算效率与计算性能。

暂无引用专利