4.2.17.5
显示数据服务API调用详情
详情请参见:显示数据服务API调用详情
IT 发布一个数据服务接口给业务人员调用,业务人员反馈“接口报错”或“数据不对”时,需要快速定位问题根源,并界定是 API 本身的问题,还是调用方传参错误。
1)本版本支持为单个数据服务 API 配置调用详情,API 被调用后,可查看调用 API 时的请求内容、返回内容、SQL详情。如下图所示:

2)支持超管配置调用详情存储策略。

Hologres、Impala支持初始化SQL配置
Apache Impala、Hologres 数据库中新增「初始化SQL」设置项,在连接建立后/业务查询执行前,用户可预先设置好会话级别的运行环境,相当于数据连接的"启动脚本",确保每次连接都带着正确的参数配置进入工作状态。
比如用户自定义 SQL 实现时区的调整。
详情请参见:创建并管理数据源

Doris作为写入端,支持表名/字段名为中文
Doris 作为写入端,支持目标表表名、字段名中包含中文。详情请参见:Doris数据源特性说明
StarRocks作为写入端,支持字段名为中文
StarRocks 作为写入端,支持字段名中包含中文。详情请参见:StarRocks数据源特性说明
定时管道写入Doris/SelectDB,全量有主键表子表写入逻辑调整
定时管道写入Doris/SelectDB,全量有主键表子表写入逻辑调整,写入逻辑与增量子表保持一致。详情请参见:Doris数据源特性说明、SelectDB数据源特性说明
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-24016 定时任务写入Doris/SelectDB,自动建表语句中修改写时合并不生效。此版本已修复。
2)FDL-24048 用户工程为集群工程,定时任务运维中心>运行记录显示有脏数据,查看日志实际运行成功没脏数据,脏数据容忍也没开,fanruan.log也显示运行成功没脏数据。此版本已修复。
3)FDL-23985 问题一:定时任务中写入SelectDB,写入方式为直接写入,开启事务控制按钮后报错,关闭该按钮后正常;问题二:定时任务中写入SelectDB,写入方式为直接写入,开启事务控制按钮,写入方式再切换为清空写入,字段映射处报错:java.lang.IllegalArgumentException: [DP] INSERT_OVERWRITE does not support transaction control.此版本已修复。
4.2.17.4
实时管道支持读写达梦数据库
实时管道支持读取和写入达梦数据库,详情请参见:配置达梦DM数据源

实时采集任务重试逻辑优化
实时采集任务暂不支持脏数据容忍,遇到脏数据时,先走重试逻辑,重试 3 次失败后,则实时采集任务报错中止。
1)4.2.17.4 之前版本,如果报错相同,不会重置重试次数,即重试三次后,再遇到相同报错,不会进行重试;若遇到不同报错,会进行第一次重试。
2)4.2.17.4 及之后版本,只要异常距离上次启动时间超过 30 分钟,重置重试次数。
定时管道配置&展示体验优化
优化前:
1)添加表操作有些繁琐,点击「添加表」后,需要再点击「处理表」按钮,不好理解。
2)定时管道详情页,子表使用「子表格」形式展示,当表数量比较多的时候,难以管理。
3)用户要修改多个字段类型,目前只能一个一个修改,比较麻烦。
优化后:
详情请参见:配置定时管道任务
1)优化添加表路径,如下图所示:

2)子表格展示形式优化。如下图所示:

3)支持批量修改字段类型。如下图所示:

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-23823 实时任务报错-realtime data center error。此版本已修复。
2)FDL-23976 实时管道任务中来源表名称为 A,复制表 A 重命名为 B,然后修改表 A 名字为 C,修改表 B 名字为 A,采集任务异常中止。此版本已修复。
3)FDL-23853 实时任务数据分发后再进行数据关联,报错 Spark common error.-java.lang.NullPointerException-null。此版本已修复。
4)FDL-23520 SparkSQL 算子进行数据分发后,发现目标表没有数据写入。此版本已修复。
5)FDL-23991 数据查询 API 发布 Oracle 数据,有个字段类型是 number,调用接口后,该字段的返回值全都带小数点,但数据库里该字段是整数。此版本已修复。
6)FDL-23997 聚水潭-采购单查询-采购单明细这张全量子表在同步时少数据。此版本已修复。
7)FDL-23367 采集任务 2.0 集群下启动任务报错rpc timeout。此版本已修复。
8)FDL-23971 定时任务执行报错任务执行服务器异常,导致任务重试时死锁了。此版本已修复。
9)FDL-23950 实时管道任务产生脏数据后,批量重试和单条重试显示成功,但前端显示的脏数据总条数没有变化。此版本已修复。
4.2.17.3
重试定时任务优化
详情请参见:定时任务运维-重试任务
支持批量重试
用户多个定时任务运行失败,重试任务时需要一个一个重试,较麻烦。本版本支持批量重试定时任务实例。

支持设置本次重试实例优先级
重试任务时,希望该实例在已有实例中优先执行,此时可设置本次实例优先级。

手动重试运行记录单独显示
重试任务后,可在「任务运维>定时任务>运行记录」中,触发方式选择「手动重试」,筛选出手动重试的运行记录。如下图所示:

重试时任务静态参数的默认值为任务配置最新参数值
重试任务时,任务静态参数的默认值为任务配置最新参数值。

设置日期区间补历史数据
用户想补一段时间的数据,使用 重试任务 功能,每次只能指定一个参数去跑,希望可以通过日期范围来重跑;此时可使用 设置业务日期区间补历史数据 功能来实现。
该功能在补数据时,支持指定一个业务日期范围,再基于调度配置,生成多个实例完成补数据操作。

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-23911 采集任务运行错误,报错 has pased since batch creation,无法触发实时管道任务的重试。此版本已修复。
2)FDL-23921 定时管道日志报错授权过期,前端却显示运行成功。此版本已修复。
3)FDL-23930 实时管道任务的源端为 MySQL,运行过程中产生脏数据,脏数据原因是列错位,时间类型写到了公司字段中。此版本已修复。
4)FDL-23933 实时管道任务目标端为 Doris,发现最新写入消息时间不再更新。此版本已修复。
5)FDL-23935 用户工程为双节点集群,升级后实时采集任务报错:onEventMessage: producer group for sx_mom.tdmpos not found,暂停采集任务, 重新启动管道任务后, 恢复。此版本已修复。
6)FDL-23820 实时管道任务起点选择的日志时间早于SYS.SMON_SCN_TIME中最小时间,实时管道无法启动。此版本已修复。
7)FDL-23918 集群环境补数线程心跳日志和主采集任务心跳日志重复。此版本已修复。
8)FDL-23926 双节点集群工程,实时管道任务报错no response from worker node,导致采集任务和关联的管道任务都停止。此版本已修复。
9)FDL-23927 实时管道任务导入导出失败。此版本已修复。
10)FDL-23932 实时管道任务写入 Doris,断点无法更新到最新读取信息时间。此版本已修复。
11)FDL-23870 实时管道任务源端为表 A 和表 B,其中表A的最后一次消息读取时间在昨天,表B刚触发的增量,此时触发表A的重新同步,查看表A的写入延迟,就会出现突然变很大的情况。此版本已修复。
12)FDL-23916 实时管道任务报错:addTables: topic for KAMA.001test_dump_008 and mark 1 not found,此版本已修复。
13)FDL-23795 定时任务中使用 SQL 脚本节点调用多个 MySQL 存储过程,然后使用逗号分隔,按照多条语句执行,可以成功执行;客户升级到 4.2.16.2 版本后,执行 SQL 脚本,报错:【Streaming result set com.mysql.cj.p
rotocol.a.result.ResultsetRowsStreaming@19bd0127 is still active. No statements may be issued when any streaming result sets are open and in use on a given connection. Ensure that you have called .close() on any active streaming result sets before attempting more querie
】
此版本已修复。
4.2.17.2
定时任务加入批量调度路径优化
1)用户想在定时开发界面,快速加入或移除批量调度。详情请参见:定时调度
本次迭代,定时任务发布后,在「调度计划」界面,可将发布的定时任务加入到已有批量调度中。如下图所示:

2)加入批量调度后,支持从批量调度中移除,或者查看批量调度详情。

3)「运维中心>定时任务>调度计划」中,可在搜索框中输入定时任务名称,搜索对应的批量调度;可点击「计划任务数」列的值,查看具体定时任务。

新增适配 VastbaseG100(MySQL模式) 数据源
FineDataLink 支持连接 VastbaseG100(MySQL模式) 数据源,适配功能:
定时任务读取和写入
数据服务-数据查询API
库表管理
实时管道写入
详情请参见:配置VastbaseG100(MySQL模式)数据源
实时管道支持写入 VastbaseG100(Oracle模式)
实时管道任务支持写入 VastbaseG100(Oracle模式) 数据源。详情请参见:配置VastbaseG100(Oracle模式)数据源
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-23911 采集任务 expiring records 后, 未能正常走到管道任务的重试而自动恢复。此版本已修复。
2)FDL-23871 从 4.1 升级到 4.2.16.4 版本,实时管道数据没有同步,补数线程一直在排队,没有合并到主采集任务中。此版本已修复。
3)FDL-23900 实时管道任务运行报错,无法重新启动,排查原因是查询会话 redo 文件列表卡死,此版本已修复。
4)FDL-23891 用户 4.2.13.4 版本升级到 4.2.16.4 版本后,库表管理无法查询出数据,查询请求返回 200,但前端一直显示执行中,且无法中止。此版本已修复。
5)FDL-23903 4.2.13.2升级到4.2.17.1日志打印异常,报错No enum constant
com.fr.dp.event.valueobject.OperationType.DEFINITION_UPDATE。此版本已修复。
6)FDL-23801 实时管道任务中,scn gap无法正常推进,原因是 gap 发生在归档日志边界时会产生死循环。此版本已修复。
7)FDL-23877 用户定时任务中使用 Kettle 调用节点,运行时报错:存在未被禁用的未知节点:[Kettle调用]。此版本已修复。
8)FDL-23894 DB表输入算子中,读取 Oracle 数据库的 blob 字段,会把 blob 转成字符串,转换之后会乱码。此版本已修复。
9)FDL-23835 使用调度计划,同时执行任务时,获取全局参数出现死锁情况。此版本已修复。
10)FDL-23880 HANA 抽数到 Hive,数据连接使用参数,组件显示正常,但是执行就报错,原因是去向模式使用参数导致的。此版本已修复。
11)FDL-23867 来源端选择选表的配置方式,配置了大小写转换,目标表手动建表处表名的填写框小写表名,没有自动转换成大写,但实际建表语句转换成大写了。此版本已修复。
4.2.17.1
清表写入支持INSERT OVERWRITE方式
优化前:定时任务使用清表写入的方式时,若无事务控制,会出现写入失败或目标表不可用的情况。
优化后:
原「清表方式」更名为「执行方式」;
写入 Doris、SelectDB 、StarRocks 时,清空写入新增支持 INSERT OVERWRITE 执行方式。目标表始终有完整数据可用,不会出现清表后写入失败导致的数据丢失或不可用状态。

定时管道任务支持写入 Doris&SelectDB
定时管道任务新增支持写入 Doris&SelectDB 数据库,满足数据写入需求。
详情请参见:Doris数据源特性说明、SelectDB数据源特性说明

JSON 解析算子优化
新增搜索框,支持对解析后的字段名称进行模糊搜索。
详情请参见:JSON解析算子功能说明

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-23826 Mysql 实时管道任务启动报错。此版本已修复。
2)FDL-23803 实时采集任务补数导致资源占用过高,引起挂到任务的表写入延迟,单个Topic存储到达上限,引发管道任务的表自动中止。此版本已修复。
3)FDL-23811 Elasticsearch输入算子中,「选索引」读取数据报错。此版本已修复。
4)FDL-23846 定时管道来源端表名修改之后,报错表不存在。此版本已修复。
5)FDL-23840 定时管道前端日志打印断点更新时间异常。此版本已修复。
6)FDL-23854 集群环境重启后,实时管道任务启动失败。
7)FDL-23845 运维概览页面,折线图数据错误。此版本已修复。
8)FDL-23852 实时任务中,saphana 同步到 mysql ,来源表与目标表写入量不一致,且增量同步很慢,并带有写入延迟。此版本已修复。
9)FDL-23851 实时管道任务启动失败,无报错。此版本已修复。
10)FDL-23858 定时管道字段映射报错,前端不提示脏数据。此版本已修复。
