在审

面向向量加速器的算子设计优化方法、装置、设备及介质

刘杰、徐海波、陈琳、陈新海、杨博、陈旭光、肖调杰、龚春叶、王庆林
中国人民解放军国防科技大学

摘要

本申请公开了一种面向向量加速器的算子设计优化方法,涉及人工智能领域,包括:获取向量加速器的阵列存储器中稀疏矩阵的非零元的值,获取向量加速器的标量存储器中非零元的值对应的行索引与列索引;基于行索引获取第一稠密矩阵的第一矩阵值,基于列索引获取第二稠密矩阵的第二矩阵值;将第一矩阵值与第二矩阵值进行预设向量内积操作,得到标量值并存储至结果数组;将非零元的值对应的非零元数组与结果数组进行哈达玛积操作,得到计算结果。本申请根据行列索引将稠密矩阵的行列传输到阵列存储器计算向量点积和哈达玛积,将计算结果传输到内存,在向量加速器上实现算子设计与优化,推动向量加速器在多领域应用,达到极高内存带宽利用率。

暂无引用专利