联邦学习入门

最近开始了解联邦学习啦！作为研0，啥也不了解，先从基础慢慢看吧~

目录

前提背景

联邦学习

概念

特点

分类

纵向联邦学习

横向联邦学习

---

前提背景

数据基数巨大引起的问题，典型的如数据孤岛的出现。多个机构数据不共享，无法获得 足够的数据等问题。还有随着用户隐私数据问题越来越被重视。

联邦学习

概念

联邦学习是一个机器学习的框架，有效的帮助有个机构在用户隐私保护、数据安全和法律法规要求下，进行数据的使用和机器学习的建模。

特点

数据隔离：数据不会泄露，满足用户隐私和安全性

模型无损：训练模型效果好

地位对等：不存在数据歧视的关系

共同获利

分类

纵向联邦学习

样本ID相同

不同机构双方的用户重叠比较多，用户特征不完全相同。在加密的状态下，综合用户不同的特征增强模型。

纵向联邦学习模型搭建

第一步：C将公钥发给A，B 用以加密AB交换的数据。

第二步：AB互相交换剃度计算的中间结果

第三步：AB分别对加密的梯度值进行计算，发给C，C解密。

第四步：C将解密后的梯度分别传给A和B

迭代以上四步，直到损失函数收敛。

横向联邦学习

特征维度相同

不同机构用户特征重叠比较多，用户重叠比较少。

横向联邦学习举例：重要用在机构间用户重叠少，但用户特征重叠多。

横向联邦学习的模型搭建：

总结

统计挑战：数据非独立同分布，比如数据的数据分布不同、数量不平衡、数据漂移、非独立等。

系统挑战：常见于节点较多，比如通信宽带，隐私保护，系统防御等。

以上是看B站的一些课程总结的笔记，以后入学上课，我也会不断地更新充实自己的笔记。主要是要养成及时更新所学知识的，复盘自己所得的习惯。