兼容说明
1)升级到 4.2.1.1 版本前,务必做好 FineDB 备份。
若升级后创建了新的管道任务,需要回退,回退后需要在 FineDB 数据库中的 fine_dp_pipeline_execut 表中删除 to_sync_traffic 字段。
2)升级到 4.2.1.4 版本前,务必做好 FineDB 备份。
4.2.1.4
支持创建数据检测任务
某些业务系统中或者数仓中的数据,可能存在一些不符合要求的情况,用户期望能够定义一些规则,对其进行定期检测,检测完毕后,输出检测的结果报告并进行通知。
本版本支持创建「数据检测」规则&「数据检测」任务:
支持创建、管理、引用检测规则。
支持针对单表/多表做:字段级检测、表级检测。
详情请参见:数据检测任务
支持管理和运维数据检测任务
运维中心中,新增 检测任务-运行记录、检测任务-任务管理 Tab:
检测任务-运行记录:可查看数据检测任务的运行情况/日志/表数据、编辑数据检测任务、终止数据检测任务实例等。
检测任务-任务管理:可查看数据检测任务的基本信息,例如任务名称、所属目录、是否开启定时调度、是否开启结果通知、运行记录等;支持修改数据检测任务的定时调度、结果通知;编辑/删除数据检测任务。
适配星环ArgoDB数据源
FineDataLink 支持连接星环 ArgoDB 数据源,适配功能:
定时任务的读取和写入。
管道任务写入。
库表管理功能。
数据服务功能。
详情请参见:配置星环ArgoDB数据源
适配OceanBase(MySQL模式数据源)
FineDataLink 支持连接 OceanBase(MySQL模式)数据源,适配功能:
定时任务的读取和写入。
管道任务写入。
库表管理功能。
数据服务功能。
详情请参见:配置OceanBase(MySQL模式)数据源
实时任务-DB表输出支持仅新增流的无主键插入
实时任务-DB表输出算子中:
支持新增流的无主键插入。
支持标记时间戳。
详情请参见:DB表输出(实时任务)
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-14584 管道任务中,自定义映射在部分节点不生效;任务日志提示已经进入增量阶段,但任务总览和 FineDB 显示表还在全量阶段中;脏数据重试后再全量同步脏数据会变成负数。此版本已修复。
2)FDL-13461 管道异常后没有重试也没有发邮件。此版本已修复。
3)FDL-15459 SQL 脚本算子执行大表(7千万左右的数据量)的 select 语句,跑这个 SQL 脚本的时候 cpu 会暴涨,同时 FDL 访问会一直卡住,需要重启才能恢复。此版本已修复。
4)FDL-15540 Hive数据库连接报错No common protection layer between client and server,使用了Kerberos认证。此版本已修复。
5)FDL-15687 Doris物化视图输入时,配置方式选择「选表」,获取相应物化视图,报错:Failed to get table fields。获取 Doris 物化视图字段异常,但是能查到数据。此版本已修复。
6)FDL-15755 管道中止没有发送邮件。此版本已修复。
7)FDL-15770 配置管道任务不开启 ddl 同步,运行管道任务,触发 ddl 变更后,暂停再重启管道任务,任务无法正常启动。此版本已修复。
8)FDL-15777 大量管道任务中止,全是报错数据连接失败,而且没有发送异常中止的通知邮件。此版本已修复。
4.2.1.3
数据服务 API 上线后,支持移动和重命名
数据服务 API 上线后,支持移动和重命名。详情请参见:数据服务运维
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-14321 循环容器节点无法框选,框住了只会选中循环容器中的节点,循环容器无法选中。此版本已修复。
2)FDL-14325 数据开发会对请求加解密,nginx 超时的时候返回的 504 响应页面也会被前端试着解密,解密失败就会报错 Malformed UTF-8。此版本已修复。
3)FDL-15294 库表管理功能中,搜索表字段结果为空时,下面展示一个有很多行的空表格,样式不好看。此版本已修复。
4)FDL-15467 开发模式运行卡顿,生产模式是正常的。此版本已修复。
5)FDL-15524 同一个数据连接和 hana 驱动,用 FDL 连接 hana 看不到相关数据,用 FineReport 连接可以看到。此版本已修复。
6)FDL-15558 文件输入算子解析 bat 格式文件,分割符为|@|,连续 3 个空格无法正常解析,|@||@||@||@|14...会解析成|和|14...。此版本已修复。
7)FDL-15573 管道任务中来源端为 SQLServer,暂停再启动会造成丢数据。此版本已修复。
8)FDL-15593 待拆分字段值为 null 时,字段拆行后对应数据丢失。此版本已修复。
9)FDL-15594 文件输入读取远程csv文件,拆分符为|+|,有的数据还残留这个|+|。此版本已修复。
10)FDL-15595 管道任务中 Kafka 到 PostgreSQL 启动失败。此版本已修复。
4.2.1.2
定时任务支持读取TDengine、InfluxDB数据库
数据开发-定时任务中支持读取TDengine、InfluxDB数据库。如下图所示:
详情请参见:创建TDengine数据源、创建InfluxDB数据源
新建管道任务时,日志等级默认设置为 INFO
新建管道任务时,日志等级默认设置为 INFO。详情请参见:配置管道任务-管道控制
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-14915 用户工程 FineDB 迁移到 Oracle 数据库,血缘更新经常会发生锁表。此版本已修复。
2)FDL-15193 定时任务中数据从 Doris 同步到 Doris,数据连接使用内置的 MySQL 驱动,源表字段类型为 varchar(40),使用该字段编写 SQL 后(SQL 语句中给该字段一个别名),字段映射处字段类型为 char(85) 。此版本已修复。
3)FDL-15311 数据转换节点中,上游节点连接了两个下游输出算子之后,右键点击「数据分发」是置灰的,必须点返回或者保存任务重进才能选数据分发。此版本已修复。
4)FDL-15411 数据链接修改最大活动连接数,会清空掉填的校验语句。此版本已修复。
5)FDL-15413 生产模式中,新建单个定时调度,再编辑并保存会报错任务重名;新建两个任务调度,编辑第一个调度关闭,再编辑第二个调度,显示的是第一个调度的名称。此版本已修复。
6)FDL-15446 用户从 4.1.13.3 升级到 4.2.2.1 后,部分管道启动报错空指针。此版本已修复。
7)FDL-15450 升级 4.2.1.1 版本,目标端是 Doris 的管道日志会有一批报错,数据连接异常-DataBase[openEuler的doris] sql check execute failed!。此版本已修复。
8)FDL-15467 开发模式运行卡顿,生产模式是正常的。此版本已修复。
9)FDL-15488 平台备份,手动备份点击报错Fail to write entity LineageNodePO,日志里报错Caused by: java.sql.SQLIntegrityConstraintViolationException: integrity constraint violation: unique constraint or index violation; UK_G3I6377178CSM5D2H345SPB3K table: FINE_DP_LINEAGE_NODE
此版本已修复。
4.2.1.1
管道状态划分任务级和表级
应用场景:
当用户进行任务启动、任务暂停、表重新同步等操作时,缺少操作进度和过渡状态提示,用户难以感知自己操作是否执行成功。
本次迭代,管道状态划分任务级和表级:
任务级状态增加「启动中」、「暂停中」、「等待重试中」。
表级状态增加「待初始化」、「初始化中」、「待存量同步」、「待增量同步」、「脏数据处理中」、「中止」。
详情请参见:单个管道任务状态说明
管道异常划分任务级和表级
应用场景:
当某张表的写入脏数据达到阈值时,任务会直接停止,影响了其他正常表的数据同步。
本次迭代,管道异常划分为任务级和表级:
管道任务和管道任务中包含的表,分别可:触发失败重试、触发结果通知。
表级别异常不影响任务中其他表正常运行。
详情请参见:配置管道任务-管道控制
实时任务支持批量运维
应用场景:
在配置 实时任务任务后,希望对所有数据开发中的实时任务进行统一的管理。
比如批量启动任务、删除任务、批量暂停任务、检查任务运行状态、对异常情况进行监控和处理等。
本次迭代,「运维中心」处新增实时任务的任务管理,支持筛选任务、查看任务运行状态、批量暂停、启动、重置启动任务。如下图所示:
详情请参见:批量实时任务运维
其他
CDC输入算子 中,数据源为 Oracle 时,不支持 Xstream 读取方式。
库表管理 功能支持 SQLServer2000 数据库。
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-15299 处理脏数据时,忽略脏数据误触之后脏数据会丢失。本版本,加了二次确认,点击「忽略」按钮时,会有弹窗提示缓存的脏数据将会被永久删除。
2)FDL-15292 有 3 个定时任务卡了很多天,状态显示执行中。此版本已修复。
3)FDL-15259 管道报错遇到无法解析的数据。此版本已修复。
4)FDL-14241 定时任务中目标表为自动建表,数据转换节点中点击运行按钮,运行日志不会更新,一直显示正在执行。此版本已修复。
5)FDL-15026 定时任务构建失败后,没有发送结果通知。此版本已修复。
6)FDL-15302 数据服务中使用 SQLServer 取数需要做 order by desc 排序,SQL 预览是正常的,但预览测试时,加了分页后就会报语法错误。此版本已修复。
7)FDL-13323 用户复制定时任务在选择复制到的位置时,前端卡死。此版本已修复。