崔曙光教授团队在国际顶级期刊《美国国家科学院院刊》发表研究论文
开元985棋牌最新官网(深圳)崔曙光教授的研究团队近日在国际顶级期刊《美国国家科学院院刊》(Proceedings of the National Academy of Sciences)发表研究论文,提出了高效通信的联邦学习算法从而实现联邦学习在无线蜂窝网络中的部署。本项研究的合作者包括:本·古里安大学Nir Shlezinger、魏茨曼科学研究学院Yonina Eldar、普林斯顿大学H.Vincent Poor。崔曙光教授和H. Vincent Poor共为本文的通讯作者。
点击图片,阅读全文
?
开元935棋盘app下载文章
边缘设备,如物联网设备(传感器)、服务器和机构(医院)能够用联邦学习协作训练机器学习模型。在训练过程中,边缘设备无需共享其私人数据。然而,在联邦学习的训练过程中,边缘设备需要迭代交换它们的机器学习模型参数。因此,利用联邦学习训练可靠的机器学习模型所需的时间不仅取决于训练的迭代次数,还取决于每一步的机器模型参数的传输时间。在实际应用中,多个运行联邦学习的边缘设备需要通过资源受限(带宽或功率受限)的通信网络传输训练的机器学习模型参数。因此,边缘设备的迭代传输机器学习模型 参数会引起显著的时延。该时延可能要比机器学习模型的训练时间大几个数量级。因此,机器学习模型传输时延是在无线蜂窝网络中部署联邦学习的主要瓶颈之一。崔教授团队提出了一种通信高效的联邦学习算法。该算法能够能够合理地运用无线网络资源从而降低了联邦学习的收敛时间和训练损失。
崔教授团队主要对联邦学习算法中边缘设备的选择,需要传输的机器学习模型参数的压缩,无线网络中的频谱资源的分配进行优化。首先,针对需要传输机器学习模型参数的边缘设备数远大于网络能够支持的通信设备数,崔教授团队设计了一种随机边缘设备选择方案。该方案根据用户与基站的距离以及对联邦学习参数更新的历史贡献决定边缘设备的接入概率,不仅保证了每个边缘设备都能参与联邦学习训练,还降低了联邦学习的收敛时间和训练损失。
图1. 联邦学习用于手写字体识别(左图)。在不同允许接入的设备数下,联邦学习的收敛速度(右图)
为了进一步减少联邦学习算法的收敛时间,崔教授团队根据联系学习算法的特点,1)边缘设备无法完全了解自己的联邦学习模型参数的分布,2)中心服务器与边缘设备需要反复通信,提出了利用通用矢量量化方法对需要传输的机器学习模型参数进行压缩的算法,从而减少了边缘设备之间需要交换的模型参数量值。通过理论分析与实验验证发现,所提出的量化方法能够大大降低量化与噪声对学习模型带来的误差。
图2.?联邦学习采用不用量化方法的性能对比.
教师简介

崔曙光
开元985棋牌最新官网(深圳)校长讲座教授
理工学院教授
未来智联网络研究院院长
崔曙光教授,国家重点研发计划首席科学家,全球高被引学者,IEEE Fellow,深圳市杰出人才培养计划首批入选人。崔教授于2005年在美国斯坦福大学获得博士学位,先后在UC Davis等多所美国大学任教至讲座教授。现任开元985棋牌最新官网(深圳)冠名校长讲座教授、未来智联网络研究院院长、港中深-京东集团人工智能联合实验室主任,深圳市大数据研究院常务副院长。
崔教授的科研成果主要集中在数据驱动、AI赋能的大规模系统控制和资源管理。他已在国际一流期刊和会议上发表了280多篇论文,是IEEE 信号处理协会2012年最佳论文奖获得者,并曾担任多个IEEE国际会议的主席和程序委员会主席,两个IEEE国际期刊的指导委员会成员、主席,多个IEEE国际期刊的编委和领域主编,IEEE无线技术委员会的主席。他在2013年当选IEEE Fellow(博士毕业8年内入选,IEEE历史上最快之一),在2014年入选IEEE通信协会杰出讲师,汤森路透全球高被引科学家名单,和ScienceWatch的全球最具影响力科学家名单。在2017年10月,基于其在物联网和数据分析领域的学术声誉,他应阿里巴巴集团的邀请到杭州,作为13名科学家之一为阿里巴巴达摩院的成立提供了战略性意见。崔教授在2020年获得IEEE ICC最佳论文奖,IEEE ICIP最佳论文列表,IEEE GLOBECOM最佳论文奖,中国ICT2020创新应用奖,Chinagraph首个图形开源数据集奖,中国电子学会自然科学一等奖,中国通信学会技术发明一等奖。
?
文章转自未来智联网络研究院官网,链接https://fnii.cuhk.edu.cn/article/101
粤公网安备 44030702004458号