【隐语笔记5】基于隐私保护的机器学习算法介绍
联邦表格数据的封装,DataFrame由多个参与方的数据块构成,支持数据切分和切分,分别对应3组API:HDataFrame、VDataFrame、MixDataFrame。
一、预处理和隐私求交
1.1 数据的不同切分

1.2 DataFrame
联邦表格数据的封装,DataFrame由多个参与方的数据块构成,支持数据水平、垂直切分和混合切分,分别对应3组API:HDataFrame、VDataFrame、MixDataFrame。
1.3 FedNdarray
联邦 ndarray 的封装,同样由多个参与方的数据块构成,支持水平和垂直切分,对应统一的 API: FedNdarray。
1.4 PSI
隐私求交(Private Set Intersection)是一种使用密码学方法来获取两份数据内容交集的算法。PSI过程中不会泄露任务交集以外的信息。在垂直拆分场景中,隐私求交常用于第一步的数据对齐,然后可以进一步做数据分析或机器学习建模。在sf中PSI主要有两种使用方法:spu.psi_csv和data.vertical.read_csv。
二、决策树模型和线性回归模型
2.1决策树模型
隐语支持多种决策树算法(XGB),同时支持回归和二分类训练,可根据使用场景和安全性需求选用。
2.2 线性回归模型
隐语支持多种线性回归模型,满足不同的使用场景,并有一些针对性的优化。
三、神经网络算法
根据场景不同,sf提供了两种神经网络算法:水平联邦学习、垂直拆分学习。
PS:水平联邦学习和垂直拆分学习都属于非可证安全算法,其安全性需要根据场景具体分析。可以通过一些安全加固组件(安全聚合、差分隐私、稀疏化等)加强安全性。
3.1 水平联邦学习
FLModel 是隐语封装好的水平联邦模型训练器,他提供了丰富的选项:
- 可以自定义数据加载器,隐语支持 DataFrame、文件、图片等各种数据加载器
- 可以选择内置或者自定义的安全聚合算法,隐语内置了多种安全聚合策略
- 可以选择内置或者自定义的联邦学习策略,隐语内置了多种联邦策略用于优化训练效率、non-iid 等问题
- 可以选择训练后端 TensorFlow 或者 PyTorch
3.2 垂直拆分学习
SLModel 作为隐语封装好的垂直拆分模型训练器,他也提供了丰富的选项:
- 可以自定义数据加载器,隐语支持 DataFrame、文件、图片等各种数据加载器
- 可以选择内置或者自定义的通信优化算法,隐语内置了多种稀疏化和量化压缩算法
- 可以选择内置或者自定义的垂直拆分策略,隐语内置了多种加速训练的策略算法
- 可以选择训练后端 TensorFlow 或者 PyTorch
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐

所有评论(0)