在审
一种48位混合精度矩阵向量乘法实现方法及装置
摘要
本发明公开了一种48位混合精度矩阵向量乘法实现方法及装置,本发明方法包括:针对48位混合精度矩阵向量乘法y=αAx+βy,从内存空间取出64位双精度类型的矩阵A中的元素a,将各元素a强制转换为48位的元素a并组成双精度类型的矩阵A′;将矩阵A′暂存到CPU中的向量寄存器中,通过CPU中的运算部件基于矩阵A′计算得到48位混合精度矩阵向量乘法y=aAx+βy的计算结果。本发明能够在带宽受限时利用混合精度的优势提高数据的传输效率,能够达到解决带宽受限问题的目的,实现矩阵向量乘法运算的加速。
暂无引用专利



