有效

基于分层抽样优化的面向异构客户端的联合学习方法

马武彬、鲁晨阳、郑龙信、吴亚辉、周浩浩、戴超凡、邓苏
中国人民解放军国防科技大学

摘要

本发明公开了基于分层抽样优化的面向异构客户端的联合学习方法,从不同簇中选择可用的客户端;参数服务器将全局模型广播至所有客户端,客户端对本地数据的样本进行训练得到本地模型参数,参数服务器收集每个客户端的本地模型参数信息,采用聚类方法将客户端划分入不同的簇中;每轮训练时,根据样本权重从每个簇中抽取可用的客户端参与训练,进行梯度聚合;每轮参与训练的客户端从参数服务器接收到最新全局模型参数后,使用本地数据计算当前参数下的梯度,迭代后将最新参数发回参数服务器,由参数服务器对传回的参数进行加权平均。本发明在客户端异构条件下可收敛到全局最优解。