有效

一种面向向量处理器的半精度稀疏矩阵乘法多核并行的方法及装置

姜晶菲、李娅琳、许金伟、苏华友、王庆林、高蕾、李荣春、乔鹏
中国人民解放军国防科技大学

摘要

本申请公开了一种面向向量处理器的半精度稀疏矩阵乘法多核并行的方法及装置。根据矩阵的维度和计算核的个数,构建了三种多核并行模式,适用于多种计算场景,充分利用了向量处理器的多核架构。同时减少了部分矩阵维度规格下的计算冗余,提高了稀疏矩阵乘法计算的并行度,有助于发挥向量处理器的计算性能。各多核并行模式为将多个计算核在权值矩阵和稠密输入矩阵的各维度上并行,将稀疏矩阵乘法在不同维度分核并行实现。基于两矩阵的维度规格,获取在每个多核并行模式下进行稀疏矩阵乘法计算的理论计算效率。再选择理论计算效率最大的多核并行模式进行稀疏矩阵乘法计算。如此能够自动适配性能最优的模式执行计算,通用性高,且提升了计算效率。