1. 系统要求编辑
类别 | 操作系统 | 已验证版本号 |
---|---|---|
Linux | Centos6 | Centos 6.5、Centos 6.6、Centos 6.7、Centos 6.8、Centos 6.9 |
Centos7 | Centos 7.0、Centos 7.1、Centos 7.2、Centos 7.3、Centos 7.4 | |
RedHat6 | RedHat 6.5、RedHat 6.6、RedHat 6.7、RedHat 6.8、RedHat 6.9 | |
RadHat7 | RedHat 7.0、RedHat 7.1、RedHat 7.2、RedHat 7.3、RedHat 7.4 | |
windows | Windows Server | Windows Server 2008、Windows Server 2012、Windows Server 2016 |
注1:使用中文的用户将工程部署到 Linux 系统时,需确认系统中是否有中文语言包,具体请参见:Linux 系统安装中文语言包
注2:若需要使用数据管道功能,需要使用 Linux 系统。
2. 网络要求编辑
公网环境和内网环境均可部署工程。如下:
类型 | 数据来源库和FDL服务器的下载带宽 | 数据目标库和FDL服务器的上传带宽 | 网段 | 备注 |
---|---|---|---|---|
公网 | 50M以上 | 50M以上 | 同网段 | / |
内网 | 无要求 | 无要求 | 同网段 | 内网一般都是百兆/千兆带宽,故对带宽不做要求 |
数据来源库、数据目标库和FDL服务器之间涉及数据传输,所以三者尽可能在同一网段下;
因为FDL服务器和数据目标库之间的性能要求更高,所以若来源库和目标库已经明确不在同一网段下,那么FDL服务器尽可能跟随目标库网段进行部署,会有更优的综合性能表现。
3. 机器要求编辑
3.1 内存配置
服务器 | 系统内存 | 分配给 Web 容器 JVM 内存 | 分配给FDL内存 |
---|---|---|---|
应用服务器 | 建议 16G 以上 | 建议 8G 以上,不要超过 32G,过大会导致系统 FullGC 时间过长 |
|
3.2 CPU配置
FDL 的 ETL 任务并发数默认是 CPU 线程数的 1/2 ,那么意味着若 CPU 线程数为 8 ,FDL 可并发执行的 ETL 任务数则为 4;为保证 FDL 的高性能表现,FDL 服务器 CPU 线程数至少为 8 ,建议是 16 。
3.3 磁盘空间
FDL 数据转换-数据关联算子,可解决跨源数据进行关联的业务场景,但是该场景对内存消耗较高,所以针对亿级以上数据量的关联操作,FDL 不建议通过「数据转换-数据关联」完成,而是通过数据同步预先将数据抽取至目标数据库内,再使用 SQL 完成多表关联形成结果表。
单表平均数据量 | 磁盘配置 |
---|---|
单表千万级别及以下 | 40-50G 空余可用空间 |
单表亿级别及以上 | 50 G及以上空余可用空间 |
同时磁盘空间也可按照 CPU 并发数进行计算,因为数据转换对于资源的消耗比较高,所以按照 CPU 数-含有数据转换的 ETL 任务数-磁盘占用进行配置推荐。
CPU线程数 | 并发的含有数据转换的ETL任务数 | 磁盘配置 |
---|---|---|
8线程 | 4个 | 100G |
16线程 | 8个 | 200G |
4. 部署安装包准备编辑
联系 FDL 工作人员,获取 FDL 服务器部署包。
5. 端口准备编辑
分类 | 内容 | 端口 | 备注 |
---|---|---|---|
web容器 | Tomcat | 8080 注:4.0.6版本以及之后部署的工程,默认端口修改为8068 | 外部端口,可不对外开放,可修改(server.xml),SSL、短地址等在负载均衡层面配置 |
消息通知 | Websocket 端口 | 38888/39888 | 详情请参见:单机配置WebSocket端口 |
Websocket 转发端口 | 38889 |
1)端口是否被占用请参见:端口占用查看
2)如果默认端口与其他工程有冲突,需要先修改端口,再开放对应的端口。
3)若同一个服务器部署多个 Tomcat 工程,需要修改 Tomcat 端口号以防端口冲突,具体可参见:修改Tomcat端口号
4)若防火墙开启,需要开放相关端口号:Windows 系统开放端口步骤请参见:Windows服务器设置出入站规则 ,Linux 系统开放端口步骤请参见:Linux防火墙使用及配置
5)对于 docker 容器,或者服务器之间端口严格限制的环境,需要对节点的服务器之间开放端口,用于节点间通信。
选择 TCP 协议是 7800/7810/7820/7830/7840/7850/7860/7870 八个端口
选择 UDP 协议是 45588~65536 随机端口