聚焦可信联邦学习研究实践第二期可信联邦学习夏令营西安开营

2023-09-01 10:45:10来源：商业观察网

继第一期可信联邦学习夏令营·北京清华站成功开营后,第二期夏令营于8月27日在六朝古都西安启动。本期夏令营由西安交通大学与FATE开源社区学术专委会共同举办,吸引了来自西安交通大学、中国科学技术大学、香港科技大学、西安电子科技大学、西北工业大学、华南理工大学等十余所高校的40余位联邦学习领域研究的本科、硕士和博士生积极参与。学员们将在领域专家的指导下,围绕“可信联邦学习 (TFL) ”这一前沿研究方向展开研究实践,形成论文,并在今年12月评选出优秀研究成果。

活动日合影

(资料图片仅供参考)

悉心启迪,多领域专家系统解读联邦学习

开营第一天,由多位领域专家为学员们带来集中培训,传授多年理论研究精华及实践方法。

现场集中培训

微众银行首席人工智能官、加拿大工程院和皇家学院院士杨强教授首先从宏观视角出发,以《可信联邦学习与联邦大模型》为题,概括介绍了联邦学习的发展脉络,概念原理与金融等领域的场景应用,分享了联邦学习的多个研究方向,如带约束的多目标优化、大模型与联邦学习的结合等问题,同时还重点介绍了从事联邦学习研究的方法与路径,为同学们顺利开展研究工作指明方向。

微众银行首席人工智能官、加拿大工程院和皇家学院院士杨强

微众银行人工智能科学家范力欣聚焦《可信联邦学习多目标优化》主题,从理论补充、实验指导和算法设计三个角度剖析了联邦学习研究过程中的关键问题,包括:以数据可用不可见的典型案例解释安全性与效率的权衡问题,多目标优化理论指导算法设计的经验,以及通过超参数控制实现隐私保护的设计思路。此外,还介绍了可信联邦学习的模型版权保护(FedIPR)。

微众银行人工智能科学家范力欣

中国科学院计算技术研究所主任陈益强教授在《联邦多任务学习》报告中,探讨了利用联邦学习和多任务学习来解决医疗领域的关键问题,并为构建全球化医疗模型提供了创新思路。他提出的方法实现了联邦学习的个性化和知识传播,并已在全球规模较大的眼科集团得到验证,实现了不同国家医院之间的模型协作。

中国科学院计算技术研究所主任陈益强

微众银行资深研究员范涛在主题演讲《FATE-LLM:开源助力联邦大模型》中介绍了联邦大模型技术的发展现状、应用场景和面临的挑战,并分享了联邦大模型核心技术。他指出该领域正处于快速发展时期,深入研究大小模型协同以及在效率和隐私间寻求平衡是该领域的重点和机遇。

微众银行资深研究员范涛

联通(上海)产业互联网有限公司技术总监刘泽雷系统分享了《联邦参与者贡献评估》,介绍了联邦学习中参与者贡献评估的意义、方法和应用。包括贡献评估的目的、基于Shapley Value的计算方法、与联邦学习聚合的结合、进行激励和知识贡献选择等应用。系统地阐述了联邦学习中贡献评估的框架和运用。

联通(上海)产业互联网有限公司技术总监刘泽雷

西安交通大学惠维教授以《安全鲁棒的个性化联邦学习》为主题,介绍了个性化联邦学习面临的安全性隐患,提出通过差分隐私、对抗训练、联邦迁移学习等手段实现提升个性化联邦学习的安全鲁棒性。涵盖个性化联邦学习的动机、潜在攻击面,以及保障安全的技术手段等内容。

西安交通大学教授惠维

香港科技大学刘浩教授分享了《联邦图学习对抗攻击和防御》,他以联邦图学习为例,讲解了针对联邦学习的对抗攻击手段,包括针对模型和通信的攻击方式,以及相应的防御技术,并全面介绍了联邦学习面临的对抗威胁及应对思路。

香港科技大学教授刘浩

清华大学智能产业研究院邓永恒老师系统阐述《联邦知识迁移》专题,介绍了跨组织联邦学习中知识迁移的方式,包括组织间直接迁移、训练过程中迁移等,分析了不同迁移方式的适用场景,以及可能存在的问题和解决思路,以及知识迁移的方式及运用。

清华大学智能产业研究院邓永恒

香港科技大学博士后张晓今在《联邦学习攻防博弈及可学习性理论》主题分享中,从联邦学习中的攻防博弈出发,阐述了理论保证联邦学习训练过程的可学习性,使学习收敛到局部最优。重点突出从博弈论角度分析联邦学习的理论内涵。

香港科技大学博士后张晓今

中国石油大学吕仲琪副教授从应用视角出发,“探讨可信联邦技术的应用切入点”,讨论了在工业互联网、金融、医疗等不同场景中可信联邦技术的应用切入点和意义,分析了实际应用中需要解决的问题。

中国石油大学副教授吕仲琪

笃行不倦,莘莘学子践行联邦学习知识

随着专家老师们的集中培训告一段落,研究与实践阶段拉开帷幕。学员们根据自己的研究背景和兴趣,形成小组并确定五大研究主题,包括联邦多目标优化、联邦隐私安全、联邦贡献度评估及模型版权保护,模型数据异构和联邦大模型。在经过两天的头脑风暴后,学员们在8月29日下午进行开题报告,产出了十多个细分课题,准备在3个月后形成详细的研究论文。

组长阐述五大课题方向

学员们与导师分组讨论

来自西安交通大学的蔡云云同学表示,以前自己做研究更像闭门造车,不知道研究方向是否正确,而通过参加夏令营与其他同学、专家交流互动,让她学到了很多知识,并能将自己的研究与他人想法连接。这让她对未来的研究工作充满信心。

学员们与导师分组讨论

从香港科技大学远道而来的博士生高大山和华南理工大学的李豪杰也提到,此次夏令营让他们受益良多,专家们的见解深刻有趣,系统授课与专题详解让他们对研究方向有个更深刻的理解;交流中同学们迸发的精彩idea也让人眼前一亮,极大地提升了他们对联邦学习研究的兴趣。

专家现场指导学员小组汇报与开题

在国家大力推动数字要素安全流通的背景下,作为人工智能和隐私计算核心技术之一的联邦学习技术,在保护隐私安全、发挥数据价值方面展现出了广阔前景。本期夏令营不仅搭建了学习探索联邦学习的交流平台,更提供了一个激发创新思维、培养团队合作精神的舞台。

少年当有凌云志,万里长空竞风流。希望更多优秀青年投身可信联邦学习领域的研究,将理论落实于实处,同时提升科研能力,产出卓越成果,为国家经济发展贡献科研力量。

（免责声明：此文内容为广告，相关素材由广告主提供，广告主对本广告内容的真实性负责。本网发布目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，请自行核实相关内容。广告内容仅供读者参考。）