1. 概述
1.1 版本
FineDataLink 版本 | 功能变动 |
---|---|
4.0.24 | 定时任务输入输出支持 StarRocks 管道任务数据输出支持 StarRocks |
4.1.2 | 数据服务支持 StarRocks |
4.1.11.4 | 实时任务支持 StarRocks |
4.1.14.1 | 数据连接支持配置套接字超时(SocketTimeout 设置项中配置),控制数据库查询时间在一个合理范围内,避免出现无限等待的问题 |
FineDataLink 支持使用 StarRocks 数据源,进行定时任务读写、管道任务写入、作为数据服务数据发布源、实时任务写入。
2. 使用限制
数据源使用说明详情参见:StarRocks数据源使用说明
3. 准备工作
3.1 前提条件
详情请参见:前提条件
3.2 版本和驱动
支持的数据库版本 | 驱动包下载 |
---|---|
1.19及以上版本 注:若使用数据管道,需要 2.3以上版本。 | 已内置,无需下载 |
3.3 收集连接信息
在连接数据库之前,请收集以下信息:
数据库所在服务器的 IP 地址和端口号。
数据库的名称。
数据库的用户名和密码。
3.4 注意事项
1)建立数据连接前,需要确保 FDL 能访问 FE 节点、BE 节点。
2)StarRocks 作为数据写入端使用时,需要确保 FE 节点能够访问 BE 节点。原因:
StarRocks 作为数据写入端使用时,FineDataLink 使用 Stream load 导入方式通过 HTTP 协议导入本地文本文件或者程序文件,导入命令到 FE,FE 会通过 HTTP 重定向指令将请求转发给 BE。还可以将导入命令直接提交到指定的 BE。导入的最终结果由协调器 BE 返回。该方式适用数量级在1G~10G的数据。
4. 具体连接步骤
1)管理员登录 FDL 工程,点击「管理系统>数据连接>数据连接管理」,选中某个文件夹后,新建数据连接。如下图所示:
2)设置数据连接名称(可同时修改数据连接所在目录)。如下图所示:
3)可根据数据源分类、支持形式、适配模块、数据源名称筛选数据库。如下图所示:
4)输入 3.3 节的连接信息。如下图所示:
部分设置项说明如下表所示:
设置项 | 说明 |
---|---|
FE 节点地址 | 如果 StarRocks 作为数据写入端时使用,则需要配置 FE 节点 值说明: 填写IP地址或主机名以及端口号,多个地址以,隔开 含义: 作为 Stream Load 的连接目标:
更多数据库信息详情参见:StarRocks数据源 |
SocketTimeout (4.1.14.1 及之后版本新增) | 值说明: 配置当前数据连接的套接字超时,单位为秒,默认值为 3600 输入框要求为非负整数,配置为 0 时,视为不设置超时 该设置项应用场景: 在网络发生抖动时,可能会出现管道&定时任务发出查询后,无限等待返回数据的问题,用户运维时,看不到报错,但实际任务已不再同步数据 配置该设置项后,将控制查询在一个合理的范围内,达到套接字超时时间后,SQL 语句会自动中断报错,避免出现无限等待的问题 该设置项控制的功能范围:
|
5)点击「测试连接」,若连接成功则「保存」该连接。