在审
一种基于向量处理器的低位宽数据激活函数向量化方法及系统
摘要
本发明所提供的基于向量处理器的低位宽数据激活函数向量化方法,是通过根据激活函数的传播方向,对低位宽数据进行批次分组后加载至向量处理器的片上阵列存储器中,按照激活函数的传播方向,以及激活函数对应的公式,按批次依次向量化处理片上阵列存储器中的数据,从而得到低位宽数据向量;相比于现有技术,本发明最大化的合理使用AM空间,并充分利用了MAC部件,通过激活函数的传播方向和对应公式,使得每个计算核心都可以处理各种规模的激活函数,提高了整体计算核的计算效率与计算性能。
暂无引用专利



