1. 概述编辑
1.1 版本
运维平台版本 | 功能变更 |
---|---|
V1.8.0 | - |
V1.9.0 | 部署交互界面优化 |
V1.10.0 | 部署进度界面优化,细分展示镜像拉取和组件部署进度 |
V1.11.0 | 1)项目名称限制放宽,新增支持英文大写、中文 2)部署新集群项目时,支持使用外部共享目录作为文件服务器 3)项目配置中,访问路径支持为空 |
V1.14.0 | 部署的配置库组件,由MySQL5调整为MySQL8 |
V1.15.0 | 1)节点配置时,支持填写外网IP,以适配不支持内网访问、仅可外网映射的服务器 2)支持在部署过程中「中止部署」,自动停止本次部署并回退已有操作 |
1.2 功能简介
运维平台支持部署并直接接入全新FineReport、FineBI、FineDataLink应用。
本文将介绍,如何通过 运维平台 ,容器化部署全新的FineDataLink集群项目。
注1:本文面向服务器资源不足或端口限制较高的用户,操作步骤较为详细,篇幅较长。
如能准备充足资源的全新服务器,可参考快速指南进行部署:部署新帆软项目
注2:请在容器化部署前,先部署好FineOps运维平台。安装步骤请参见:部署运维平台 。
2. 准备服务器编辑
2.1 确认需要安装的组件
通过运维平台容器化部署的FineDataLink集群项目,不仅仅包括FineDataLink工程,还包括配套的外接配置库、集群组件、运维组件等等。
请先确认好需要安装的组件。本文按照安装全部组件来进行示例讲解。
服务器 | 组件 | 是否安装 | 组件说明 |
---|---|---|---|
主应用服务器 | FineDataLink | 必须安装 | 作用:FineDataLink的工程节点组件,其中不带任何的demo数据 说明:必须安装 |
ops_agent | 必须安装 | 作用:为服务器物理节点配套安装,用于管理组件,容器化升级也是由该组件完成 说明:FineDataLink项目涉及的每个服务器都会安装一个ops_agent | |
node_exporter | 必须安装 | 作用:服务器物理节点的exporter,收集物理服务器的各种指标信息 说明:每一个主应用服务器,都会自动安装一个node_exporter组件 | |
filebeat | 必须安装 | 作用:日志采集 说明:与elasticSearch组件配套安装,在每个FineDataLink工程节点所在服务器安装filebeat组件 | |
组件服务器 | elasticsearch | 必须安装 | 作用:日志存储 说明:替换FineDataLink中原有的swift作为日志存储 对项目中FineDataLink、外接数据库、业务库和其他集群组件的请求进行采集 集群必须安装该组件,且请勿暂停该组件,否则会导致项目操作日志丢失 |
elasticsearch_exporter | 必须安装 | 作用:elasticSearch的exporter,收集elasticSearch的指标 说明:与elasticSearch组件配套安装 | |
nginx | 必须安装 | 作用:提供集群的负载转发服务 说明:集群其他组件服务的入口、使用,都从这个入口访问 | |
nginx_exporter | 必须安装 | 作用:nginx服务的exporter,收集nginx的指标信息 说明:与nginx组件配套安装 | |
nacos | 必须安装 | 作用:服务注册中心 说明:保证用户调度端请求,即定时任务内节点的执行调度的高可用性和高并发,能够合理分配到不同的集群节点上 | |
nacos_mysql | 必须安装 | 作用:nacos服务所需的mysql组件 说明:与nacos组件配套安装 | |
mysql | 可选安装 | 作用:作为集群的外接配置库 说明:可选安装 如果安装该组件,会安装一个MySQL8数据库,作为集群的外接配置库 如不安装该组件,用户必须自行准备好一个外接配置库,否则无法部署 支持的数据库类型包括:MySQL5、MySQL8、Oracle(V1.14.0及之前版本不支持MySQL8) 如需使用其他类型外接库,可在项目部署成功后,登录工程切换 | |
mysqld_exporter | 可选安装 | 作用:MySQL服务的exporter,收集MySQL的各种指标信息 说明:与MySQL组件配套安装 | |
redis | 可选安装 | 作用:作为集群的状态服务器 说明:可选安装 如果安装该组件,会安装一个单机redis,作为集群的状态服务器 如不安装该组件,用户必须自行准备好一个redis组件(单机集群均可),否则无法部署 | |
redis_exporter | 可选安装 | 作用:redis服务的exporter,收集redis的各种指标信息 说明:与redis组件配套安装 | |
minio | 可选安装 | 作用:作为集群的文件服务器 说明:可选安装 如果安装该组件,会安装一个minio,它是一款高性能、分布式的对象存储系统,作为集群的文件服务器 如不安装该组件,用户必须自行准备好一个文件服务器,否则无法部署 支持的文件服务器类型包括:SFTP、FTP、共享外部目录(V1.10.0及之前版本不支持共享外部目录) 如需使用其他类型文件服务器,可在项目部署成功后,登录工程切换 | |
Kafka | 可选安装 | 作用:支撑管道任务相关功能 说明:可选安装 如不安装该组件,将无法使用FineDataLink中管道任务相关功能 | |
Kafka_exporter | 可选安装 | 作用:Kafka的exporter,收集Kafka的指标 说明:与Kafka组件配套安装 | |
ops_agent | 必须安装 | 作用:为服务器物理节点配套安装,用于管理组件,容器化升级也是由该组件完成 说明:FineDataLink项目涉及的每个服务器都会安装一个ops_agent | |
node_exporter | 必须安装 | 作用:服务器物理节点的exporter,收集物理服务器的各种指标信息 说明:每一个组件服务器,都会自动安装一个node_exporter组件 |
2.2 服务器数量要求
本文按照 4 个服务器进行下文的部署操作,分为主应用服务器ABC、组件服务器D。
请准备好服务器的内网IP、用户名、密码。
注:FineOps运维平台,和FineDataLink项目,不要部署在同一服务器下。
如果FineOps和项目处于同一环境下,当项目服务器发生异常时,FineOps可能也出现故障,从而无法起到运维的作用。
类型 | 要求 |
---|---|
推荐配置 | 建议按照「节点数量+1」准备服务器数量,这些服务器中不再安装其他工程/产品 1)每个工程节点独占一个服务器:
2)其他组件独占一个服务器:即组件服务器
|
高可用配置 | 建议按照「节点数量+7」准备服务器数量,这些服务器中不再安装其他工程/产品 1)每个工程节点独占一个服务器,作为主应用服务器 2)redis、nginx、mysql、minio、es、kafka、nacos组件各自独占一个服务器,作为组件服务器 |
2.3 服务器网络要求
请确保FineDataLink项目涉及的主应用服务器ABC、组件服务器D,以及FineOps运维平台所在的服务器E:
这些服务器内网互相联通,如不联通则无法成功部署。
注:如自行准备了外接配置库、状态服务器、文件服务器。
他们所在的服务器F、G、H,也需要和 ABCDE 服务器内网互通。
2.4 服务器系统配置
请确保FineDataLink项目涉及的主应用服务器ABC、组件服务器B,满足此基础配置。
注意,下表的配置要求是针对每个服务器,而不是所有服务器的配置总和。
服务器 | 配置 | 要求 |
---|---|---|
主应用服务器 | 系统版本 | CentOS 7.3~7.9 版本 Ubuntu 18.04.4 及以上版本 redhat 7.6 及以上版本 |
系统内核 | 3.10及以上 最低4核 | |
CPU架构 | 仅支持 X86_64 | |
剩余空闲物理内存 | 8G以上 | |
剩余空闲磁盘容量 | 50GB以上 | |
组件服务器 | 系统版本 | CentOS 7.3~7.9 版本 Ubuntu 18.04.4 及以上版本 redhat 7.6 及以上版本 |
系统内核 | 3.10及以上 最低4核 | |
CPU架构 | 仅支持 X86_64 | |
剩余空闲物理内存 | 最低8G 若仅准备了一个1个组件服务器,建议16G以上 | |
剩余空闲磁盘容量 | 50GB以上 如使用管道功能,建议1T以上 |
注:服务器之所以要满足上表所说的内存和磁盘,是由于FineDataLink项目中的各个组件有最低安装配置要求。
点击展开更多 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
2.5 服务器端口要求
请确保FineDataLink项目涉及的主应用服务器ABC、组件服务器D中,待部署应用和组件的默认端口可用。
请确认默认的映射端口是否已被使用,如已被使用,请安排好其他空闲端口。
nginx的映射端口将作为项目访问端口,因此请确认准备使用的nginx映射端口是否开放了防火墙、安全组等,确保可连接。
注1:端口占用和防火墙开放操作方法可参考:端口占用检查与防火墙配置 。
注2:端口portMapping为{映射端口:容器内端口} ,其中映射端口可改,容器内端口不支持修改。
注3:如果准备了多个组件服务器,组件会随机分布部署在各个服务器下。因此请确保每一个组件服务器都满足各个组件的端口要求。
服务器 | 组件 | 默认端口 |
---|---|---|
主应用服务器 | FineDataLink | 端口:{7800:7800,7830:7830,7840:7840,7850:7850,7870:7870,8068:8068,12100:12100,15500:15500} |
ops_agent | 端口:{9070:9070} | |
node_exporter | 端口:{9100:9100} | |
filebeat | 不占用端口 | |
组件服务器 | elasticsearch | 端口:{9200:9200} 用户名:elastic(不支持修改) 密码:elasticadmin(支持修改) |
elasticsearch_exporter | 端口:{9114:9114} | |
nginx | 端口:{80: 8080} 非root用户建议修改占用端口,因为非root用户默认无权限使用1024以下端口 | |
nginx_exporter | 端口:{9113: 9113} | |
nacos | http端口:{8848:8848} grpc端口:{9848:9848} 用户名:nacos(不支持修改) 密码:随机生成,届时请务必修改 | |
nacos_mysql | 端口:{3307:3306} 用户名:root(不支持修改) 密码:随机生成,届时请务必修改 | |
mysql | 端口:{3306:3306} 用户名:root(不支持修改) 密码:随机生成,届时请务必修改 | |
mysqld_exporter | 端口:{9104:9104} | |
redis | 端口:{6379:6379} 用户名:admin(不支持修改) 密码:随机生成,届时请务必修改 | |
redis_exporter | 端口:{9121:9121} | |
minio | 服务器端口:{9000:9000} 控制台端口:{9001:9001} 用户名:minioadmin(不支持修改) 密码:minioadmin(支持修改,但密码必须大于等于8位,否则使用默认密码) | |
Kafka | 端口:{9092:9092} 默认无认证 用户可调整为密码认证,自定义用户名密码 | |
Kafka_exporter | 端口:{9308:9308} | |
ops_agent | 端口:{9070:9070} | |
node_exporter | 端口:{9100:9100} |
2.6 设置项目挂载目录
容器化部署的FineDataLink项目,重要文件均外挂。请提前在主应用服务器ABC和组件服务器D的空闲磁盘下,新建好挂载目录。
1)查看服务器磁盘空间
命令:df -h,找出可用空间较大的挂载点
例如本示例中,服务器最合适的挂载目录为/home目录下
2)新建文件夹
使用 mkdir 命令创建文件夹(本示例在/home目录下创建一个名叫fanruan的文件夹):mkdir /home/fanruan
使用 chmod 命令设置文件夹的权限(本示例直接赋777权限):chmod 777 /home/fanruan
注:FineDataLink集群项目部署成功后,文件服务器和项目挂载目录中的fdl文件夹中,分别存放着工程外挂内容,其中的文件夹和存放内容如下表所示。
点击展开更多 | |||||||||||||||||||||||||||||
|
3. 确认镜像仓库编辑
部署新项目中的各个组件,是需要通过镜像进行部署的。要么镜像仓库已有镜像,要么支持从云端拉取镜像。
运维平台默认不提供FineDataLink、Kafka的镜像包。
付费用户请联系帆软技术支持,获取包含FineDataLink、Kafka相关镜像包的finekey工具,并参考文档更新运维平台:内网升级运维平台。
技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」。
4. 部署新FineDataLink集群项目编辑
本节正式进入部署FineDataLink集群项目的操作环节。请在开始部署前务必确认上文的所有内容,否则可能会部署失败!
4.1 新增项目
管理员登录 FineOps 运维平台,点击「运维管理>项目管理」,点击「部署新项目」,如下图所示:
4.2 项目设置
项目设置是配置项目的类型、需要安装的组件、占用的端口等信息。
进入「项目设置」界面,输入相关项目信息,点击「下一步」,如下图所示:
各配置项如下表所示:
信息 | 说明 |
---|---|
项目名称 | 自定义项目的名称 项目名称不允许为空 项目名称仅支持中文、英文大小写、数字 项目名称长度最大为12位 项目名称不允许与已有项目重名 |
应用类型 | 选择「FineDataLink」 |
项目类型 | 选择「集群」 |
默认部署组件 | 即必须安装的组件,包括: 1)运维基础套件(包括工程节点): FineDataLink、node_exporter、ops_agent 2)Nginx(负载均衡,作为项目唯一入口): nginx、nginx_exporter 3)ElasticSearch(作为日志采集和存储): elasticsearch、elasticsearch_exporter、filebeat 4)Nacos(作为服务注册): nacos、nacos_mysql |
需要部署的套件 | 集群包括多种组件: 1)文件服务器: minio 如不安装该组件,用户必须自行准备好一个文件服务器,否则无法部署 支持的文件服务器类型包括:SFTP、FTP、共享外部目录(V1.10.0及之前版本不支持共享外部目录) 如需使用其他类型文件服务器,可在项目部署成功后,登录工程切换 2)外接数据库: mysql、mysqld_exporter 如不安装该组件,用户必须自行准备好一个外接配置库,否则无法部署 支持的数据库类型包括:MySQL5、MySQL8、Oracle(V1.14.0及之前版本不支持MySQL8) 如需使用其他类型外接库,可在项目部署成功后,登录工程切换 3)状态服务器: redis、redis_exporter 如不安装该组件,用户必须自行准备好一个redis状态服务器(单机集群均可),否则无法部署 4)Kafka: Kafka、Kafka_exporter 如不安装该组件,将无法使用FineDataLink中管道任务相关功能 |
部署配置 | 支持两种: 1)使用默认配置 2)自定义端口、组件用户名密码,即对2.5节的默认端口、密码进行调整 请务必修改并记住MySQL、Redis、minio、elasticsearch、Nacos组件的密码,该密码默认随机生成 |
访问路径 | 说明: 应用的访问链接为{域名/IP}/{访问路径}/decision 支持用户自定义应用的访问路径,访问路径默认为webroot 举例: 一般应用访问链接为http://IP:端口/webroot/decision 修改访问路径为demo 则部署好的应用访问链接为http://IP:端口/demo/decision 注意事项: 1.11.0及之后版本,访问路径支持为空,即最终应用访问链接为http://IP:端口/decision 但此时工程对应的root目录访问路径为:http://IP:端口/root |
4.3 节点配置-新增主应用节点
配置完需要的组件和端口后,即可进入「节点配置」。
首先需要新增主应用节点,即为添加主应用服务器ABC的相关信息(也就是本章操作需要反复执行多次)。
1)点击「新增节点」,选择节点类型为「主应用」,填写相关设置项,点击「测试连接」。
具体节点设置如下图所示:
节点设置 | 说明 |
---|---|
节点类型 | 请选择「主应用」 主应用节点要求最低配置4核8G、磁盘剩余50GB以上 注:帆软项目需要独占服务器,即该主应用服务器上不建议部署其他工程或内容,包括运维平台 |
主机 | 请输入节点主机IP(内网IP) 注:同一项目中,主机不支持重复添加多次 |
端口 | 请输入节点端口号,默认为22 |
用户名 | 请输入有sudo权限的服务器用户名 |
验证方法 | 支持两种:密码、公钥 |
挂载路径 | 请输入节点安装目录的服务器路径,即2.6节设置的目录 默认为~/data,~代表所使用的服务器用户的主目录 注:可在终端使用该用户账号访问服务器,输入echo $HOME命令查看该用户的主目录路径 |
外网IP | 选填项 如果服务器不支持内网访问,仅支持外网映射,可以填写可联通的外网IP |
2)效果预览
若主机用户名等信息校验成功,即可添加一个主应用节点。三个节点均添加完成后,如下图所示:
注1:若网络环境不满足2.3节要求,节点连接失败,则出现报错提醒,无法正确新增节点。
注2:若服务器配置不符合2.4节最低要求,则出现报错提醒,无法正确新增节点。
4.4 节点配置-新增组件节点
接着要新增组件节点,即为添加组件服务器D的相关信息。
1)点击「新增节点」,选择节点类型为「组件」,填写相关设置项,点击「测试连接」。
具体节点设置如下图所示:
节点设置 | 说明 |
---|---|
节点类型 | 请选择「组件」 组件节点要求最低配置4核8G、磁盘剩余50GB以上 注1:如配置了多个组件节点,则组件随机部署在各个节点 注2:如需要启用管道功能,安装Kafka组件,则组件服务器可用磁盘空间建议1T以上 注3:帆软项目需要独占服务器,即该组件服务器上不建议部署其他工程或内容,包括运维平台 |
主机 | 请输入节点主机IP(内网IP) 注:同一项目中,主机不支持重复添加多次 |
端口 | 请输入节点端口号,默认为22 |
用户名 | 请输入有sudo权限的服务器用户名 |
验证方法 | 支持两种:密码、公钥 |
挂载路径 | 请输入节点安装目录的服务器路径,即2.6节设置的目录 默认为~/data,~代表所使用的服务器用户的主目录 注:可在终端使用该用户账号访问服务器,输入echo $HOME命令查看该用户的主目录路径 |
外网IP | 选填项 如果服务器不支持内网访问,仅支持外网映射,可以填写可联通的外网IP |
2)效果预览
若主机用户名等信息校验成功,即可添加一个组件节点。如下图所示:
注1:若网络环境不满足2.3节要求,节点连接失败,则出现报错提醒,无法正确新增节点。
注2:若服务器配置不符合2.4节最低要求,则出现报错提醒,无法正确新增节点。
4.5 开始部署
节点配置完成后,点击「开始部署」,进入部署过程。
弹窗中会显示各个组件的部署情况,若部署失败则显示失败原因。
注1:部署过程中,用户可点击「隐藏至后台进行」,正常进行运维平台其他操作。
注2:V1.15.0及之后版本,支持在部署过程中点击「中止部署」按钮,停止部署并回退所有已有部署操作。
通过运维平台成功部署的新项目,自动接入运维平台的项目管理列表中,可进行相关运维操作。如下表所示:
其中的访问地址,即为该FineDataLink集群工程的访问地址,在浏览器新窗口访问该地址,即可进入工程初始化配置界面。