1. 概述
1.1 版本
| FineDataLink 版本 | 功能变更 |
|---|---|
| 4.0.23 | 定时任务输入输出支持 Doris 管道任务数据输出支持 Doris |
| 4.2.12.3 | 删除 FetchSize 配置项 |
| 4.2.13.4 | 适配 HTTPS 协议 |
| 4.2.16.2 | 高级设置中新增「参数配置」 |
| 历史版本更新 | ||||||||||||||||||||||||||||||||
|
1.2 应用场景
FineDataLink 支持连接 Doris,进行定时任务读写、管道任务写入、作为数据服务数据发布源、实时任务写入。
2. 使用限制
1)Doris 数据源在功能上的使用限制说明请参见:Doris数据源使用说明
2)在建立数据连接前,请确保 FineDataLink 能正常访问 Doris 数据库的 FE 和 BE 节点。
3)使用 Doris 作为数据写入端时,请确保 FE 节点可以正常访问 BE 节点。
4)在 Doris 数据连接中,所使用的数据库用户需具备 admin 权限,以确保 FineDataLink 功能的正常运行。
3. 配置数据连接
3.1 前提条件
详情请参见:前提条件
3.2 版本和驱动
| 数据库 | 数据库版本 | 下载驱动 |
|---|---|---|
| Doris | 0.14及以上版本 | FineDataLink已内置相关驱动,无需手动下载安装 |
3.3 收集连接信息
在连接数据库之前,请收集以下信息:
数据库所在服务器的 IP 地址和端口号。
数据库的名称。
数据库的用户名和密码。
3.4 具体连接步骤
创建数据连接步骤请参见:创建并管理数据源

部分设置项说明如下表所示:
| 设置项 | 说明 | ||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| FE 节点地址 | 如果 Doris 作为数据写入端时使用,则需要配置 FE 节点 值说明: 填写 IP 地址或主机名以及端口号 多个地址以,隔开 含义:
| ||||||||||||||||||
| SocketTimeout(4.1.14.1 及之后版本新增) | 1)值说明: 配置当前数据连接的套接字超时,单位为秒,默认值为 3600 输入框要求为非负整数,配置为 0 时,视为不设置超时 2)该设置项应用场景: 在网络发生抖动时,可能会出现管道&定时任务发出查询后,无限等待返回数据的问题,用户运维时,看不到报错,但实际任务已不再同步数据 配置该设置项后,将控制查询在一个合理的范围内,达到套接字超时时间后,SQL 语句会自动中断报错,避免出现无限等待的问题 3)该设置项控制的功能范围:
| ||||||||||||||||||
| 参数配置 | 4.2.16.2 新增此配置,支持配置参数 参数配置、适用范围及冲突说明请参考官方文档:Apache Doris
使用场景: 大数据量场景下,可通过参数配置仅更新指定字段。 例如:添加参数 partial_columns,参数值为 true。写入 doris 时,取消部分表的字段映射,效果如下:
| ||||||||||||||||||
| 注:如果数据服务并发量较大,建议调大最大活动连接数,防止因数据服务高并发请求导致数据连接失败 | |||||||||||||||||||
