科研成果详情

联邦学习因其在客户端本地进行数据的训练，从而有效保证了数据的隐私性和安全性。对于联邦学习的研究虽然取得了很大的进展，但是，由于非独立同分布数据的存在以及数据量不平衡、数据类型不平衡等问题，客户端在利用本地数据进行训练时不可避免地存在精确度缺失、训练效率低下等问题。为了应对联邦学习背景环境的不同导致的联邦学习效率降低的问题，文中提出了一种基于背景优化的高效联邦学习方案，用于提高终端设备中本地模型的精确度，从而减小通信开销、提高整体模型的训练效率。具体来说，在不同的环境中根据精确度的差异性来选择第一设备和第二设备，将第一设备模型和全局模型的不相关性(下文统称为差异值)作为标准差异值；而第二设备是否上传本地模型则由第二设备和第一设备之间的差异值决定。实验结果表明，与传统的联邦学习相比，所提方案在普通联邦学习场景下的表现明显优于联邦平均算法，在MINIST数据集上，其精确度提高了约7.5%;在CIFAR-10数据集上，其精确度提高了约10%。