Fate部署实战——从零开始实现Fatecluster部署
⽂章⽬录
摘要
1 总体介绍
1.1.系统介绍
1)FATE
FATE (Federated AI Technology Enabler) 是微众银⾏AI部门发起的开源项⽬,
提供了⼀种基于数据隐私保护的安全计算框架,为机器学习、深度学习、迁移学习算法提供强有⼒的安全计算⽀持。
安全底层⽀持同态加密、秘密共享、哈希散列等多种多⽅安全计算机制,算法层⽀持多⽅安全计算模式下的逻辑回归、Boosting、联邦迁移学习等。
2)EggRoll
Eggroll 是⼀个适⽤于机器学习和深度学习的⼤规模分布式架构,包括了计算、存储和通信等模块。为FATE框架提供底层⽀撑。
本⽂将介绍使⽤ansible部署脚本进⾏FATE集的部署。
1.2.组件说明
软件产品组件端⼝说明
fate fate_flow9360;9380联合学习任务流⽔线管理模块
fate fateboard8080联合学习过程可视化模块
fate FederatedML算法代码包
eggroll clustermanager4670cluster manager管理集
eggroll nodemanger4671node manager管理每台机器资源
eggroll rollsite9370跨站点或者跨party通讯组件
mysql mysql3306数据存储,clustermanager和fateflow依赖
1.3.系统架构
女鞋商城模板2 详细设计
2.1.部署规划
本⽰例是每端只有⼀台主机,每端可以多台主机,⽬前只⽀持nodemanager多节点部署,其他组件都是单节点。
role partyid IP地址操作系统主机配
存储部署模块
host10000192.168.65.161
旅游网站设计源代码(有外⽹)
CentOS
7.2/Ubuntu
18.04
8C16G500G fate_flow,fateboard,clustermanager,nodemanger,rollsite,mysql
guest9999192.168.65.162
CentOS
7.2/Ubuntu
18.04
8C16G500G fate_flow,fateboard,clustermanager,nodemanger,rollsite,mysql
2.2.主机资源和操作系统要求
类别说明
主机配置不低于8C16G500G,千兆⽹卡
操作系统CentOS linux 7.2及以上同时低于8/Ubuntu 18.04
依赖包
需要安装如下依赖包:
#centos
gcc gcc-c++ make openssl-devel gmp-devel mpfr-devel libmpc-devel libaio numactl autoconf automake libtool libffi-devel ansible
#ubuntu
gcc g++ make openssl ansible libgmp-dev libmpfr-dev libmpc-dev
libaio1 libaio-dev numactl autoconf automake libtool libffi-dev
cd /usr/lib/x86_64-linux-gnu
if [ ! -f “libssl.so.10” ];then
centos和ubuntu
ln -s libssl.so.1.0.0 libssl.so.10
ln -s libcrypto.so.1.0.0 libcrypto.so.10
fi
⽤户⽤户:app,属主:apps(app⽤户需可以sudo su root⽽⽆需密码)
⽂件系统
1、数据盘挂载在/data⽬录下。
2、创建/data/projects⽬录,⽬录属主为:app:apps。
3、根⽬录空闲空间不低于20G。
虚拟内存不低于128Gjs广告代码怎么写
系统参数1、⽂件句柄数不低于65535。
2、⽤户进程数不低于65535。
类别说明
2.3.⽹络要求
类别说明
防⽕墙策略1、如果通过公⽹互通,两端rollsite所部署主机需互相开通出和⼊防⽕墙策略。
2、防⽕墙设备需要⽀持长连接和需要对连接数⽆限制。
clear属性值
外⽹带宽⼊通过公⽹互通,公⽹带宽不低于20Mb
负载均衡设备1、如果出或⼊⼝有负载均衡设备则此设备需要⽀持grpc或者⽀持透明转发。
2、fate为双向通讯,需⽀持出和⼊⽅向主动请求。
3 搭建虚拟环境
3.1 硬件要求
准备⼀台⾄少12核CPU、24G内存、1T硬盘(最好SSD)和⼀个不低于10MB能上互联⽹的⽹络。(最好能满⾜上⾯的条件,要不然即使安装的没有问题,也可能跑不起来)。
3.2 软件
3.3 安装 VMWare虚拟机安装
从我给的⽹盘地址将VMWare软件下载下来安装即可,⾃⾏激活,如果有问题问度娘。
响应式图文博客网站html模板安装完成后,点击“编辑→虚拟⽹络编辑器”,如下图:
查⽹关
选择VMnet8,然后点击NAT设置。
在这⾥到⽹关:192.168.65.2 记住这个⽹关,后⾯配置⽹络的时候要⽤到。
3.4 CentOS安装
打开vwmare软件,点击创建新的虚拟机
选择“典型(推荐)“,然后选择”下⼀步“。
选择“下⼀步“

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。