1.基于分层抽样优化的面向异构客户端的联合学习方法,应用于 N 个客户端和参数服务器,其特征在于,包括以下步骤:从不同簇中选择可用的客户端,客户端接收的数据为异构数据;参数服务器初始化全局模型,然后将全局模型广播至所有客户端,客户端根据接收到的全局模型,对本地数据的样本进行训练得到本地模型参数,参数服务器收集每个客户端的本地模型参数信息,采用聚类方法将客户端划分入不同的簇中;每轮训练时,根据样本权重从每个簇中抽取可用的客户端参与训练,进行梯度聚合,以保证所有种类的数据都参与每轮训练,降低客户端异构带来的影响;训练时的目标为凸函数;其中, 为算法为了达到精度 所需要的迭代次数,则客户端与参数服务器的通信次数 为: ;G 2 为随机梯度的期望平方范数界限, 为随机梯度的方差界限, 是第 k 个客户端的权重, E 为本地迭代轮次, N 是客户端总数, K 为每轮抽取的客户端总数, L 表示 L -smooth, 表示 强凸,当数据异构程度较低时, 接近于0时,本地迭代轮次 E 越大越好;当数据异构程度较大时, 越小,本地迭代轮次 E 越小越好;在全部客户端参与训练的条件下,算法收敛性为: ;其中, , , 为数据异构参数;在部分客户端参与训练的条件下,算法收敛性为: ;其中 ;同时,在训练过程中需要将学习率的值设置为逐渐下降,才能收敛至最优的结果,使算法达到 的收敛速度;每轮参与训练的客户端从参数服务器接收到最新全局模型参数后,使用本地数据计算当前参数下的梯度,迭代 E 次随机梯度下降后将最新参数发回参数服务器,由参数服务器对传回的参数进行加权平均。
2.根据权利要求1所述的基于分层抽样优化的面向异构客户端的联合学习方法,其特征在于,从N个客户端中学习一维数据的平均值,并将该目标转化为一个最小化均方差的问题,所述最小化均方差的问题如下: ;其中 是从本地数据中独立选择的样本,均值 , 是第 i 个客户端的权重, 为客户端的样本, 为第 i 个客户端权重偏移量。
3.根据权利要求2所述的基于分层抽样优化的面向异构客户端的联合学习方法,其特征在于,当每个客户端含有的数据量相同时,所述问题的最优解为: ; 为第 i 个客户端权重偏移量,则目标函数将收敛于: 。
4.根据权利要求1所述的基于分层抽样优化的面向异构客户端的联合学习方法,其特征在于,所述聚类方法为OPTICS聚类方法。
5.根据权利要求1所述的基于分层抽样优化的面向异构客户端的联合学习方法,其特征在于,客户端本地模型参数的公式如下: ;其中 为学习率,W t 为全局模型, 为客户端的样本, 为损失函数, i 为第 i 个客户端。
6.根据权利要求1所述的基于分层抽样优化的面向异构客户端的联合学习方法,其特征在于,所述加权平均的方法为: ;K 为每轮抽取的客户端总数, k 为第 k 个客户端。
7.根据权利要求6所述的基于分层抽样优化的面向异构客户端的联合学习方法,其特征在于,基于下式: ;得出,需要设置学习率递减,才能保证算法收敛到最优解,学习率递减参数为: , 。