在审
一种基于张量处理器的稀疏矩阵乘加速方法、系统和设备
摘要
本发明提供的一种基于张量处理器的稀疏矩阵乘加速方法,涉及高性能计算领域,包括以下步骤:对稀疏矩阵进行分块处理,得到与张量处理器的寄存器粒度匹配的稀疏矩阵块;对稠密矩阵进行分块处理,得到稠密矩阵块;基于所述稀疏矩阵块和所述稠密矩阵块,生成矩阵乘任务集;将所述任务集分配至多个线程,控制所述多个线程分别调用所述张量处理器执行矩阵乘运算,聚合各线程的计算结果得到输出矩阵。相比于现有技术,本发明通过将稀疏矩阵分块处理成与张量处理器的寄存器粒度匹配的稀疏矩阵块,减少了稀疏矩阵的索引编解码开销、重建开销和通信开销,从而提升了基于张量处理器的稀疏矩阵乘的运算性能。该系统具有相同的有益效果。
暂无引用专利



