有效

用于稀疏矩阵乘计算的数据处理方法、装置、设备及介质

李东升、卢凯、许金伟、马生鸿、姜晶菲、赖志权、苏华友、李荣春、高蕾、杨希、乔鹏
中国人民解放军国防科技大学

摘要

本申请公开了一种用于稀疏矩阵乘计算的数据处理方法、装置、设备及介质,该方法中,对稀疏矩阵进行预处理,获得稀疏矩阵块以及稀疏矩阵块对应的稀疏索引;根据稀疏索引中非零元素数量,为一维脉动阵列中计算单元PE分配对应的索引坐标;根据PE中第一计算通路执行乘累加计算,输出计算结果;根据PE中第二计算通路执行乘计算,输出PE对应的乘法结果;通过分组求和网络进行分组求和,获得至少一个分组求和结果;对至少一个分组求和结果进行重新排序,获得输出矩阵。如此,充分利用矩阵内积和矩阵行积的特性来高效处理SDDMM和SpMM这两类稀疏矩阵乘,因为中间的计算结果暂存并复用,减少了数据移动和存储开销,提高了数据处理效率。