有效

通信能效优化方法、装置、设备和存储介质

章弋嘉、张栋祥、王丙强、张士勋、黎文博、许芬、田永鸿、高文
鹏城实验室

摘要

本申请实施例提供通信能效优化方法、装置、设备和存储介质,涉及智算集群技术领域。该方法为从智算集群中选取一个基准芯片组,获取基准芯片组的基准传输参数,并根据基准传输参数计算得到传输分配比例,在进行分布式数据并行的模型训练过程时,基于传输分配比例将待同步张量分为NPU数据块和CPU数据块,将CPU数据块传输至DRAM缓冲区,利用选取的压缩器生成CPU数据块对应的压缩数据块,将压缩数据块通过CPU通信路径传输至对应的接收端芯片的DRAM缓冲区,将NPU数据块通过NPU通信路径传输至接收端芯片的HBM内存。结合硬件实际传输能力确定传输分配比例,确保待同步张量划分能够精准匹配两类硬件的传输能力,实现智算集群训练效率的提升。