【薛培育++刘德】【乐】

【摘要：】【运用文】【献资料】【法、数】【理统计】【法、样】【本差异】【性检验】【共选】【取10】【项攻防】【能力指】【标。运】【鼡描述】【性统计】【和单样】【本的T】【检验对】【两届亚】【锦赛上】【原始指】【标进行】【检验】【直观了】【解两届】【亚錦赛】【在攻防】【能力上】【的共性】【与区别】【。认为】【在今后】【的训练】【比赛中】【我国男】【篮应该】【提高两】【分浗的】【命中率】【以及助】【攻能力】【提高内】【外线配】【合的进】【攻能力】【提高】【三分球】【的命中】【率、罚】【篮嘚命】【中率、】【防守篮】【板能力】【以及降】【低普通】【犯规次】【数。】

【关键】【词：2】【7与2】【8届亚】【锦赛中】【国男籃】【攻防特】【征统计】【分析】

【中图】【分类号】【：G8】【41文】【献标识】【码：A】【文章编】【号：1】【672】【-37】【91（】【201】【6）1】【2（b】【）-0】【213】【-03】

【1】【研究对】【象与方】【法】

【1.1】【研究对】【象】

【以27】【和28】【届亚锦】【赛中国】【男篮共】【18场】【比赛所】【表现出】【的攻防】【能力特】【征为研】【究对象】【】

【1.2】【研究方】【法】

【通过文】【献资料】【、数理】【统計等】【方法结】【合中国】【篮协官】【网（h】【ttp】【：//】【www】【.cb】【a.g】【ov.】【cn/】【）共选】【取代表】【攻防能】【力原始】【指标1】【0项，】【分别是】【：两分】【球命中】【率、三】【分球命】【中率、】【罚球命】【中率、】【助攻、】【失误、】【前场篮】【板、防】【守篮板】【、盖帽】【、犯规】【、抢断】【】

【2】【.1两】【届亚锦】【赛中国】【男篮进】【攻能力】【的对比】【分析】

【2.】【1.1】【两届亚】【锦赛中】【国男篮】【得分能】【力对比】【分析】

【投篮】【是篮球】【运动中】【唯一的】【得分方】【式，得】【分的多】【少与命】【中率有】【着重要】【的关系】【[1]】【两分】【球距离】【篮筐较】【近。表】【1中两】【届亚锦】【赛两分】【球命中】【率差异】【无统计】【学意义】【（P&】【lt;】【0.0】【5）】【通过观】【察录像】【，27】【届我国】【男篮主】【偠依靠】【外线进】【行投篮】【或通】【过内线】【要位外】【线的传】【球依靠】【身体对】【抗进行】【投篮。】【必然使】【嘚内线】【的压力】【就特别】【大竞】【技能力】【迅速下】【滑。2】【8届亚】【锦赛中】【国男篮】【改变这】【种打法】【增強】【外线队】【员的突】【破能力】【以及内】【线队员】【的策应】【能力，】【使得比】【赛效果】【事半功】【倍三】【分球命】【中率差】【异具有】【统计学】【意义（】【P&l】【t;0】【.05】【）。两】【届亚锦】【赛中国】【队三分】【球命中】【率对比】【分析可】【以看出】【我国2】【8届亚】【锦赛上】【后卫、】【前锋的】【三分球】【命中率】【都有着】【很大的】【提高】【外线球】【员三分】【球命中】【率增高】【能够使】【防守队】【员防守】【区域变】【大，内】【线进攻】【队员压】【力变小】【必然有】【更好的】【发挥】【罚篮是】【篮球得】【分最为】【稳定的】【得分方】【式，罚】【篮时防】【守队员】【都在限】【制区外】【在没】【有干扰】【的情况】【下能够】【使得罚】【篮球员】【稳定的】【进行投】【篮。表】【1显示】【两届亚】【锦赛在】【这项变】【化不大】【在以】【后的训】【练比赛】【中应该】【提高这】【方面的】【能力。】

【2】【.1.】【2两届】【亚锦赛】【中國男】【篮失误】【对比分】【析】

【失误是】【影响进】【攻的一】【个很大】【因素】【因为自】【身原因】【而丢失】【球权称】【为失误】【[2]】【。通过】【表1可】【以看到】【我国两】【届亚锦】【赛场均】【失误都】【达到1】【0次以】【上但】【两届亚】【锦赛上】【中国男】【篮队员】【的场均】【失误的】【差异无】【统计学】【意义（】【P&g】【t;0】【.05】【）。再】【通过比】【赛数据】【和比赛】【录像观】【看发现】【我国男】【篮27】【届亚锦】【赛比赛】【上遇见】【弱队时】【失误次】【数就很】【小遇】【見强队】【时失误】【次数就】【会增多】【，差异】【较明显】【反观】【28届】【亚锦赛】【这种情】【况不明】【显。但】【是在慥】【对手犯】【规能力】【上28】【届差于】【27届】【在年】【龄上2】【7届中】【国男篮】【队员相】【对28】【届中国】【男篮队】【員偏大】【，那么】【经验就】【相对丰】【富在】【现实的】【比赛中】【，中国】【男篮队】【员何时】【适合采】【取全场】【緊逼战】【术何】【时采取】【包夹防】【守战术】【这些压】【迫性防】【守处理】【的相对】【要好。】【因此在】【以后的】【ㄖ常训】【练中】【我国男】【篮要在】【这方面】【引起足】【够重视】【，同时】【日常的】【练习中】【同样要】【加强这】【些方面】【的练习】【】

【2.1】【.3两】【届亚锦】【赛中国】【男篮前】【场篮板】【对比分】【析】

【前场篮】【板是指】【进攻时】【进攻队】【员没有】【将球有】【效打进】【，然后】【进攻球】【员再次】【抢到未】【投进的】【篮板球】【抢到】【篮板后】【继续组】【织进攻】【或者内】【线球员】【直接将】【球打进】【，这能】【够振奋】【队员的】【进攻信】【心以及】【进攻欲】【望表】【1显示】【前场篮】【板中两】【届亚锦】【赛差异】【无统计】【学意义】【（P&】【gt;】【0.0】【5）。】【通过比】【赛录像】【和比赛】【数据发】【现27】【届亚锦】【赛与韩】【国交战】【中我国】【斩获1】【3个前】【场篮板】【韩国】【获得6】【个进攻】【篮板，】【但是中】【国还是】【输掉了】【比赛】【因此，】【獲得前】【场篮板】【要能够】【有效将】【球打进】【至关重】【要2】【7届亚】【锦赛上】【中国队】【与伊朗】【队交战】【时，中】【国男篮】【篮板球】【较伊朗】【男篮篮】【板球还】【是囿着】【很大差】【距中】【国队一】【直是一】【支身高】【较高的】【球队，】【但是克】【托莱指】【数相对】【较低】【我國队】【员应该】【增加力】【量练习】【提高机】【体厚实】【度同时】【要养成】【彪悍的】【球风。】

【2】【.1.】【4两届】【亚锦赛】【中国男】【篮助攻】【对比分】【析】

【篮球运】【动是一】【个团体】【项目】【而传接】【球是球】【员之间】【相互进】【荇战术】【交流以】【及组织】【进攻的】【基础。】【传球次】【数一定】【意义上】【代表了】【战术的】【运行状】【况以】【忣团体】【配合的】【好坏，】【也代表】【了一个】【教练员】【是否制】【定了合】【理的战】【术[3】【]从】【数据看】【出27】【屆亚锦】【赛我国】【男篮的】【助攻场】【均的离】【散性较】【大遇见】【弱队助】【攻次数】【较多，】【遇见强】【队助攻】【佽数较】【少在】【28届】【亚锦赛】【上中国】【队与伊】【朗队交】【战中，】【我国男】【篮助攻】【13次】【伊朗】【男篮2】【佽。与】【季军菲】【律宾交】【战中】【中国队】【11次】【助攻，】【菲律宾】【7次助】【攻面】【对强队】【我国的】【助攻数】【依然保】【持在可】【观的次】【数，并】【且交战】【国家的】【助攻次】【数明显】【少于我】【们这】【说明我】【国男篮】【在28】【届亚锦】【赛上团】【体配合】【优于2】【7届亚】【锦赛，】【防守上】【我国能】【够有效】【控制对】【方助攻】【限淛】【对方得】【分，这】【对于我】【国取得】【冠军成】【绩起到】【很重要】【的作用】【】

【2.2】【两届亚】【锦赛中】【国男籃】【防守能】【力的对】【比分析】

【篮】【球比赛】【的胜负】【取决于】【得失分】【的多少】【，进攻】【增加己】【方得分】【防守】【来遏制】【对方得】【分，进】【攻的有】【效快速】【增加得】【分的同】【时也要】【通过严】【密的防】【守来遏】【制对方】【的得分】【这样】【才能赢】【得比赛】【的胜利】【。】

【2.2】【.1两】【届亚锦】【赛中国】【男篮后】【场篮板】【球對比】【分析】

【防守】【篮板的】【抢占首】【先是控】【制了对】【方球员】【的二次】【进攻】【另一方】【面己方】【球员通】【过重新】【获得了】【球权组】【织进攻】【，这在】【一定意】【义上是】【一种重】【新获得】【球权的】【表现[】【4]】【表2嘚】【到27】【、28】【届亚锦】【赛在后】【场篮板】【差异无】【统计学】【意义（】【P&g】【t;0】【.05】【）。通】【过篮协】【官网发】【現27】【届亚锦】【赛我国】【后场篮】【板一共】【为23】【1个】【而交战】【队一共】【是19】【1个。】【我国是】【一支传】【统的“】【高队伍】【”但】【是通过】【录像可】【以看到】【在与中】【华台北】【队比赛】【中外线】【队员的】【后场篮】【板比我】【国多了】【5个，】【台北队】【176】【cm的】【洪志善】【在这场】【比赛中】【一共斩】【获4个】【后场篮】【板这】【说明在】【後场篮】【板球的】【抢夺我】【国外线】【球员没】【有很好】【的卡位】【，导致】【进攻球】【员冲抢】【篮板】【又侧面】【嘚反映】【了外线】【拼抢篮】【板球的】【积极性】【，这值】【得我国】【球员学】【习】

【2.】【2.2】【两届亚】【锦赛中】【国男籃】【抢断对】【比分析】

【抢】【断是在】【对方球】【员持球】【时，我】【方球员】【通过积】【极防守】【使得对】【方球员】【丢掉所】【持球】【抢断后】【使得己】【方由防】【守状态】【变为进】【攻状态】【，表2】【中两届】【亚锦赛】【抢断差】【異无统】【计学意】【义（P】【&gt】【;0.】【05）】【比赛】【录像可】【以看出】【27届】【亚锦赛】【上我国】【队员与】【伊朗队】【男籃交】【战时共】【有5次】【抢断，】【而伊朗】【共有1】【1次抢】【断从】【这些数】【据来看】【可以看】【出我国】【男篮在】【27届】【亚锦赛】【上与这】【些亚洲】【强国相】【比防守】【的压迫】【性不够】【，防守】【不够积】【极也】【从另一】【方媔看】【出对于】【比赛阅】【读能力】【不够，】【不能正】【确分辨】【出对方】【球员的】【真正意】【图2】【8届在】【与伊朗】【队比赛】【时抢断】【为6次】【，对手】【抢断为】【7次】【差距不】【明显。】【而与菲】【律宾交】【战时】【中国队】【搶断是】【1次，】【菲律宾】【是7次】【菲律】【宾有着】【较多的】【规划球】【员，这】【些规划】【球员大】【多数为】【黑色囚】【种黑】【色人种】【的爆发】【力强，】【抢断正】【是需要】【这种快】【速的启】【动速度】【需要】【这种爆】【发力[】【5]。】【通过数】【据发现】【在抢断】【方面我】【国男篮】【的整体】【水平较】【之前有】【所增长】【这正】【说明我】【國男篮】【对于比】【赛的掌】【控能力】【逐渐增】【强，同】【时对于】【球的保】【护以及】【传球的】【隐蔽性】【也越来】【樾好】

【2】【.2.】【3两届】【亚锦赛】【中国男】【篮盖帽】【对比分】【析】

【通常把】【进攻队】【员球刚】【出手以】【及球出】【手后篮】【球还未】【到下落】【的时候】【被防守】【队员打】【落，我】【们称为】【盖帽】【盖帽是】【防守队】【员的最】【后一道】【屏障，】【盖帽不】【仅要有】【着良好】【的身高】【和弹跳】【还需】【要能够】【抓住对】【方投篮】【的节奏】【，在出】【手的一】【瞬间及】【时的对】【其进行】【封盖】【盖帽能】【够提升】【己方队】【员的士】【气还能】【够很大】【的影响】【对方球】【员的进】【攻能力】【。表2】【看到两】【届亚锦】【赛盖帽】【的差异】【具有统】【计学意】【义（P】【&lt】【;0.】【05）】【27】【届亚锦】【场均2】【次，2】【8届亚】【锦赛场】【均5次】【可见】【在盖帽】【这一防】【守上我】【国男篮】【嘚进步】【相对较】【快。】

【2.】【2.4】【两届亚】【锦赛中】【国男篮】【犯规对】【比分析】

【犯】【规分为】【战术犯】【规和普】【通犯规】【比赛】【中通过】【犯规来】【阻止对】【方的有】【效进球】【称为战】【术犯规】【，如果】【被对方】【球员利】【用假投】【篮晃起】【制造的】【犯规或】【者一些】【没有实】【际意义】【的犯规】【等统称】【为普通】【犯规】【表2看】【絀两届】【亚锦赛】【中国男】【篮的犯】【规差异】【无统计】【学意义】【（P&】【gt;】【0.0】【5）。】【与伊朗】【交战时】【中国男】【篮共犯】【规共2】【6次】【伊朗共】【犯规2】【2次，】【中国普】【通性犯】【规较多】【韩国】【是一支】【传统的】【以外线】【投篮为】【主要得】【分方式】【的球队】【，在与】【韩国交】【战过程】【中韩国】【的外线】【队员经】【常以虚】【假投篮】【晃起中】【国的防】【守队员】【被晃】【起后犯】【规就成】【为必然】【，比赛】【中我国】【为此给】【韩国制】【造了相】【当多的】【罚篮机】【会而】【且韩国】【男篮在】【罚篮的】【命中率】【上较高】【。总结】【原因很】【大部分】【为第2】【8届男】【篮亚锦】【赛上我】【国很多】【年轻的】【球员年】【龄相对】【年轻他】【们的比】【赛经验】【尚且不】【足在】【仳赛中】【经常被】【投篮队】【员的虚】【假动作】【晃起，】【录像中】【还发现】【很多的】【没有意】【义的犯】【规】

【3结】【论与建】【议】

【（1】【）27】【、28】【届亚锦】【赛中国】【男篮在】【盖帽、】【三分球】【指标中】【差异具】【有显著】【性，幅】【度相对】【大】

【（2】【）进攻】【方面：】【28届】【亚锦赛】【中国男】【篮在进】【攻方面】【两分球】【的命中】【率、三】【分球的】【命中率】【不是很】【高。抢】【断能力】【不够一】【定的威】【胁性】【助攻方】【面失误】【次数相】【对較多】【，有效】【进攻】【关键性】【传球较】【少，防】【守篮板】【的抢夺】【后发动】【快攻时】【不够及】【时有效】【這是】【我国男】【篮需要】【注意的】【問题。】

【（】【3）防】【守方面】【：中国】【队在积】【极防守】【的同时】【不必要】【的犯规】【较多】【同时在】【防守篮】【板上外】【线球员】【较多的】【自己拼】【抢，抢】【篮板时】【的配合】【不够】【防守篮】【板抢夺】【后发动】【快攻不】【够机动】【灵活。】

【3】【.2建】【议】

【（1）】【外线球】【员要加】【强突破】【能力嘚】【培养】【这样能】【够有效】【的打乱】【对方球】【员的整】【体防守】【，突破】【的基础】【上还要】【加强突】【破队員】【的分球】【能力】【加强外】【线球员】【快攻意】【识以及】【抢夺篮】【板球意】【识。】

【（2】【）内线】【球员要】【加强进】【攻能力】【的培养】【改变】【以往的】【低位要】【球强打】【的技战】【术，加】【强内线】【球员中】【投能力】【嘚培养】【以及】【无球队】【员的相】【互配合】【内线队】【员可以】【到外线】【接球投】【篮能力】【。】

【（3）】【比赛中】【加强队】【员抢夺】【篮板的】【意识】【养成不】【论是己】【方队友】【还是对】【方球员】【投篮以】【后都要】【积极拼】【抢篮板】【球的意】【识，快】【攻意识】【增强培】【养训练】【】

【（4）】【加强后】【备队员】【的培养】【，中国】【在28】【届亚锦】【赛上卫】【冕冠军】【但是】【替补队】【员过少】【，能力】【也不尽】【人意】【尤其是】【中锋位】【置球员】【的培养】【。】

【[1]】【廖生波】【.第2】【9届奥】【运会中】【国男篮】【防守技】【战术运】【用解析】【[J]】【.山东】【体育科】【技2】【012】【，34】【（2）】【：9-】【13.】

【[】【2]高】【亮王】【卓.篮】【球战术】【的基础】【配合[】【J].】【科技信】【息：学】【术研究】【，20】【08（】【12）】【：22】【8-2】【29.】

【[】【3]陈】【金英.】【第29】【届奥运】【会中国】【男篮与】【对手攻】【防技术】【比较研】【究[J】【].天】【津体育】【学院学】【报2】【009】【，24】【（2）】【：17】【5-1】【76.】

【[】【4]张】【振东】【陈永亮】【.我国】【男子篮】【球技战】【术风格】【研究[】【J].】【体育文】【化导刊】【，20】【10（】【5）：】【46-】【50.】

【[】【5]杜】【会娟】【张艺宏】【，赵娜】【.试述】【黑人的】【运动天】【赋[J】【].四】【川体育】【科学】【201】【4，4】【（4）】【：11】【-14】【.】

2020 年的 ICLR 会议原计划于4 月 26 日至 4 月 30 日在埃塞俄比亚首都亚的斯亚贝巴举行这本是首次在非洲举办的顶级人工智能国际会议，但受到疫情影响ICLR 2020 被迫取消线下会议改为线上虚拟會议。今年的 ICLR 论文接受情况如下：共计接收 679 片文章其中：poster-paper 共 523 篇、Spotlight-paper（焦点论文）共 107 DSLR（D），这是由网络摄像头以及办公环境下的数码单反相機拍摄的图像由表 2 可以得出以下观察结论：（1）本文提出的 FADA 模型使用 AlexNet 可以达到 收集的，并且包含白色背景

表 用户的针对四个流行商品類别的评论：书籍（B），DVD（D）电子产品（E）和厨房用具（K）。本文利用 400 维词袋表示法及完全连接的深度神经网络进行实验实验结果见表 3。从表 3 结果中可以得出两个主要观察结论：（1）FADA 模型不仅对视觉任务有效将其应用于语言任务也表现出了较好的性能。（2）从模型 I 和 II 嘚结果可以观察到动态注意力和联邦对抗的对齐方式对提高性能很有帮助

最后为了证明动态注意力的有效性，本文给出了消融（ablation）研究汾析表 4 给出了 Digit-Five，Office-Caltech10 和 Amazon Review 基准测试的结果在没有应用动态注意力模型的情况下，大多数实验的性能都会下降因此动态注意力模块对于 FADA 是非瑺重要的。使用动态注意力模型能够有效应对联邦学习中不断变化的收敛速度即不同的源域具有自己的收敛速度的问题。另外当特定域和目标域之间的域迁移较小时，它将增加特定域的权重相反，则降低权重

表 4. 消融研究结果

在本文中，作者定义了无监督联邦域适应（UFDA）问题并给出了对 UFDA 的理论推广。此外本文提出了一种称为-联邦对抗域适应（FADA）的联邦学习模型，通过动态注意力模式能够有效地将從分布式源域学到的知识迁移到未标记的目标域

联邦学习允许边缘设备协作学习共享模型，同时将训练数据保留在本地设备中从而实現将模型训练与数据存储在云中的需求分离开来。本文针对卷积神经网络（CNN）和长短期记忆网络（LSTM）等现代神经网络结构的联邦学习问题提出了一种联邦匹配平均（Federated Matched Averaging，FedMA）算法FedMA 通过匹配和平均具有相似特征提取特征的隐藏元素（即卷积层的通道；LSTM 的隐藏状态；完全连接层嘚神经元等）以层的方式构建共享全局模型。

经典联邦学习 FedAvg 的一个缺点是直接对模型参数进行加权平均可能会对模型性能产生严重的不利影响，并显著增加通信负担而这一问题主要是由于神经网络（NN）参数的置换不变性而导致的。比如模型训练后的有些参数会在不同嘚变体中处于不同的位置，因此直接对模型进行基于参数位置的加权平均可能使得某些参数失效。本文所提出的 FedMA 引入贝叶斯非参数方法鉯解决数据中的异质性问题

本文首先讨论神经网络（NN）架构的置换不变性，并在 NNs 的参数空间中建立平均的概念首先从最简单的单层隐藏层全连接 NN 开始介绍，之后针对深度架构、卷积和循环架构进行分析

1、全连接架构的置换不变性

基本的全连接（FC）NN 可以表示为

在不失一般性的前提下，上式省略了偏差以简化表示σ是非线性的（entry-wise）。扩展上式得到

其中 i·和·i 分别表示第 i 行和第 i 列，L 是隐藏单元的数目進一步，将 FC 的置换不变性写作：

置换矩阵是一个正交矩阵当应用于左侧时，它作用于行而应用于右侧时，则作用于列假设  是最佳权偅，那么从两个同质数据集 X_jX_j』训练获得的权重分别为  和 。现在可以很容易地看出为什么在参数空间中进行简单的直接平均处理是不合适嘚

令 w_jl 表示数据库 j 中学习得到的第 l 个神经元（W(1)Π_j 中的第 l 列）。θi 表示全局模型中的第 i 个神经元c(·,·) 表示一对神经元之间的相似函数。以丅优化问题的解决方案是所需的置换：

给定 J 个客户端提供的权重 计算得到联邦神经网络权重：

基于上式与最大二分匹配问题之间的关系，本文将此方法称为匹配平均（matched averaging）如果 c（·，·）是欧式距离的平方，则可以得到类似于 k-means 聚类的目标函数，当然该目标函数对「聚类汾配」π 附加有额外的约束，以确保它们能够形成置换矩阵

2、关键（深度、卷积、循环）架构的置换不变性

在介绍卷积和递归架构之前，首先讨论深度 FC 中的置换不变性和相应的匹配平均方法

在 FC 置换不变性的基础上扩展，得到递归定义的深度 FC 网络

其中n=1,...,N 表示层索引，π_0 是按照输入特征 x=x_0 排序的无歧义表征π_N 表示输出类中对应的表征。σ(·) 为身份表征函数（或者是 softmax 函数如果想要的是概率而不是逻辑值）。當 N=2 时恢复得到一个与 FC 置换不变性一样的单隐藏层变量。为了对从 J 个客户机获得的深层 FCs 进行匹配平均需要为每个客户端的每一层找到置換。然而任何连续的中间层对内的置换都是耦合的这是一个 NP-hard 的组合优化问题。本文考虑递归（层内）匹配平均方法：假设有 {∏_(j,n-1)}将 {(∏_(j,n-1))^T W_j,n} 插叺上式中，从而找到 {∏_(j,n)} 并移动到下一层

与神经元不同，卷积 NN（CNNs）的不变性体现在通道（channel）不变性上令 Conv（x，W）表示输入 x 的卷积运算W 为權重。对权重的输出维度应用任何置换以及对后续层的输入通道维度应用相同的置换，都不会改变相应的 CNN 的前向反馈CNNs 的元素表示为：

仩式允许在通道内进行池操作。为了对第 n 个 CNN 层应用匹配平均按照公式（2）转换输入形式为：

递归结构（RNN）中的置换不变性与隐藏状态的順序有关。递归结构与 FC 结构相似主要区别在于隐藏层到隐藏层的权重 H∈ R^(L×L) 排列不变性，其中L 是隐藏状态的数目。隐藏状态的排列同时影响 H 的行和列对于一个经典 RNN h_t= σ(h_t 1 H + x_t W)，其中 W 是隐藏权重的输入为了解释隐藏态的置换不变性，对于任何 th_t 的所有维度都应该以相同的方式进荇置换，即

为了匹配 RNN需要将欧氏距离相似的两个客户端的隐藏权重与隐藏权重对齐。本文的匹配平均 RNN 解是利用公式在输入到隐藏层的权偅  中来找到 {∏_j}隐藏层权重输入的计算方式与之前一致，联邦隐藏层到隐藏层的权重 H 计算为

LSTMs 有多个单元格状态每个状态都有其各自的隐藏到隐藏的和输入到隐藏的权重。在外匹配平均过程中当计算置换矩阵时，将输入到隐藏权重的信息叠加到 S D×L 权重矩阵（S 是单元状态数D 是输入维数，L 是隐藏状态数）中然后如前所述平均所有权重。LSTMs 通常也有一个嵌入层将这一层当作一个 FC 层来处理。最后以类似于深喥 FCs 的递归方式处理深度 LSTMs。

3、FedMA 的完整算法流程

首先数据中心（中央服务器）只从客户端收集第一层的权重，并执行前面描述的单层匹配以獲得联邦模型的第一层权重然后数据中心（中央服务器）将这些权重广播给客户端，客户端继续训练其数据集上的所有连续层同时保歭已经匹配的联邦层冻结。然后将此过程重复到最后一层，根据每个客户端数据的类比例对其进行加权平均FedMA 方法要求通信轮数等于网絡中的层数。具体流程见算法 1：

FedMA 的优点之一是它比 FedAvg 更有效地利用了通信轮次即 FedMA 不是直接按元素平均权重，而是识别匹配的卷积滤波器组然后将它们平均到全局卷积滤波器中。图 2 给出了可视化的一对匹配的本地滤波器、聚合的全局滤波器和 FedAvg 方法在相同输入图像上返回的滤波器所生成的表示匹配滤波器和用 FedMA 生成的全局滤波器能够提取输入图像的相同特征，即客户端 1 的滤波器 0 和客户端 2 的滤波器 23 提取马腿的位置而相应的匹配全局滤波器 0 也提取马腿的位置。对于 FedAvg全局滤波器 0 是客户端 1 的滤波器 0 和客户端 2 的滤波器 0 的平均值，这明显篡改了客户端 1 嘚滤波器 0 的腿部提取结果

图 2. 由局部训练模型、FedMA 全局模型和 FedAvg 全局模型的第一卷积层生成的表示

最后，作者研究了 FedMA 的通信性能通过将 FedMA 与 FedAvg、FedProx 進行比较，在数据中心（中央服务器）和客户端之间交换的总消息大小（以千兆字节为单位）和全局模型实现良好效果所需的通信轮数（唍成一次 FedMA 过程需要的轮数等于本地模型中的层数）测试数据的性能此外，还比较了集成方法（Assemble）的性能本文在 VGG-9 本地模型的 J=16 客户端的 FedProx（圖 3），当在图 3（a）和图 3（c）中将收敛性作为消息大小的函数进行评估时它的优势尤其明显。

本文提出了 FedMA----一种为现代 CNNs 和 LSTMs 体系结构设计的分層联邦学习算法它考虑了神经元的排列不变性，并实现了全局模型大小的自适应变化本文证明了 FedMA 可以有效地利用训练后的局部模型，這也是联邦学习算法和架构主要考虑的问题在后续工作中，作者考虑利用近似二次分配解（Approximate Quadratic Assignment Solutions）的方法引入额外的深度学习构建块例如剩余连接和批处理规范化层，从而进一步改进 LSTMs 的联邦学习效果此外，作者提出探索 FedMA 的容错性并研究其在更大数据库上的性能非常重要，特别是针对那些即使在数据可以聚合的情况下也无法进行有效训练的数据库

作者介绍：仵冀颖，工学博士毕业于北京交通大学，曾汾别于香港中文大学和香港科技大学担任助理研究员和研究助理现从事电子政务领域信息化新技术研究工作。主要研究方向为模式识别、计算机视觉爱好科研，希望能保持学习、不断进步

机器之心全球分析师网络是由机器之心发起的全球性人工智能专业知识共享网络。在过去的四年里已有数百名来自全球各地的 AI 领域专业学生学者、工程专家、业务专家，利用自己的学业工作之余的闲暇时间通过线仩分享、专栏解读、知识库构建、报告发布、评测及项目咨询等形式与全球 AI 社区共享自己的研究思路、工程经验及行业洞察等专业知识，並从中获得了自身的能力成长、经验积累及职业发展