4.2.18.3
数据查询 API 支持 TDengine
数据查询 API 支持 TDengine 数据库。详情请参见:配置TDengine数据源

配置方式为「选表」&选部分字段时,显示字段注释
定时任务中,数据源为「DB表输入」,配置方式为「选表」&选部分字段时,显示字段注释。如下图所示:
详情请参见:数据同步-数据来源

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-24159 工程从 4.2.13.4 升级到最新版本 4.2.18.1 之后,「数据转换」节点运行卡住。此版本已修复。
2)FDL-24184 实时管道任务中,表异常中止。此版本已修复。
3)FDL-24063 工程从 4.2.2.4 升级到了 4.2.17.3,实时管道任务源端数据库进行重启后,采集任务出现异常暂停,最终采集任务重试达到了上限,且用户配置了任务异常重试和通知,但用户当时没收到任何通知。此版本已修复。
4)FDL-24117 实时管道全量同步失败,采集任务提示ORA-01031: 权限不足。此版本已修复。
5)FDL-24165 4.2.13.1升级到4.2.17.5,部分用户库表管理无法使用,库表管理这边加载不到数据连接,需要另外再给用户赋予管理系统-数据连接权限才可以。此版本已修复。
6)FDL-24187 定时任务循环容器升级后变慢。此版本已修复。
7)FDL-24238 定时管道-纷享销客,自定义表是中文的时候无法查看表信息。此版本已修复。
8)FDL-24124 定时任务一直提示实例开始构建正在执行中。此版本已修复。
4.2.18.2
支持解析OGG推送到Kafka的JSON格式数据
用户的业务数据库为 Oracle,已通过 OGG 同步到 Kafka,希望将 Kafka 的数据同步到数仓中进行使用。
本地迭代,实时管道源端选择 Oracle 后,读取方式新增「OGG-Kafka」,支持解析 OGG 推送到 Kafka 的 JSON 格式数据。如下图所示:
详情请参见:解析OGG推送到Kafka的JSON格式数据

定时任务写入PostgreSQL支持COPY装载
大数据量写入 PostgreSQL 数据库时,写入速度较慢,本版本支持 COPY 装载写入,提升大数据场景下的写入速度。
详情请参见:PostgreSQL数据源特性说明

定时任务支持读取和写入HBase
定时任务中新增 Hbase输入、Hbase输出 节点,可读取和写入 HBase 数据源。

定时管道支持读取多种应用数据源
定时管道支持读取多种应用数据源。详情请参见:定时管道支持的数据源
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-24140 使用文件输入算子解析 EXCEL 的第 2-5 列列名,结果解析从第三列开始。此版本已修复。
2)FDL-24102 循环容器中拖入数据转换节点,数据转换节点中包含 Python 算子、JSON解析、Python 算子,没有拖入有效的输出节点,点击运行任务可以运行,但一直卡在第一次循环。此版本已修复。
3)FDL-24149 4.2.17.3升级到4.2.17.5后任务开发模式查看调用任务节点,先显示一个id不能编辑,等了30多s才显示被调用的任务名。此版本已修复。
4)FDL-24148 实时管道源端oracle增量解析unistr函数产生脏数据。此版本已修复。
4.2.18.1
定时管道支持写入AnalyticDB MySQL
定时管道支持写入AnalyticDB MySQL。如下图所示:
详情请参见:配置阿里云AnalyticDB MySQL 版数据源

数据接收功能重构
创建数据接收接口时,右上角新增「服务接收方式」设置项,该设置项有两个值:仅配置地址、配置地址并接收数据。

| 服务接收方式 | 出现场景 | 说明 |
|---|---|---|
| 仅配置地址 | 1)全新下载的 4.2.18.1 及之后版本工程,只能使用「仅配置地址 2)用户历史(4.2.18.1 之前版本)没有创建过数据接收 API,升级到 4.2.18.1 及之后版本后,只能使用「仅配置地址 3)用户历史(4.2.18.1 之前版本)使用过数据接收至少创建过 1 个 API 时,升级到 4.2.18.1 及之后版本后,「仅配置地址」和「配置地址并接收数据」都可选择 | 调用发布的接口后,可对变化数据进行处理,再实时输出 1)配置接收接口时,无需解析来源请求体、无需配置数据去向,只需要配置接口地址 2)需要与实时任务配合使用 |
| 配置地址并接收数据 | 1)4.2.18.1 之前版本,只能使用「配置地址并接收数据」 2)用户历史(4.2.18.1 之前版本)使用过数据接收至少创建过 1 个 API 时,升级到 4.2.18.1 及之后版本后,「仅配置地址」和「配置地址并接收数据」都可选择 | 调用发布的接口,将变化数据输出到数据库中,不可对变化数据进行处理 配置接收接口时,需要解析来源请求体和配置数据去向,调用该接口即可更新数据库数据 |
服务接收方式为「仅配置地址」时,接口发布后,需要将该接口复制到 SaaS 应用的 URL 地址框中,SaaS 应用调用该接口传入变化数据。
还需要在实时任务的 Webhook输入 算子中调用该接口,对变化数据进行处理后再输出。
该功能可实时获取上游系统的数据,并能够对上游数据进行实时处理并输出。

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-24083 简道云输出算子中,切换写入方式后,前端白屏。此版本已修复。
2)FDL-23919 采集任务中,打开补数记录,正常显示,点开补数据中的表,发现内容错位。此版本已修复。
3)FDL-24079 用户两个采集任务出现报错,其中一个采集任务中止 30 张表,但实时管道任务运行中。此版本已修复。
4)FDL-24118 4.2.16.4 升级到 4.2.17.5 后,实时管道任务启动 10 分钟后暂停。报错采集任务异常,错误信息:采集任务重试次数已达上限。此版本已修复。
5)FDL-24105 实时管道任务,来源端和目标端都是SQLServer,选择逻辑主键同步,源端数据量没问题,最终落库量只有一条。此版本已修复。
6)FDL-24092 集群工程,节点1新建API,然后编辑API修改目标表,实际调用节点2的URL,还是写入旧目标表。此版本已修复。
7)FDL-24087 4.2.16.4 版本工程,实时管道的一张表报错:dict mismatch met, possibly due to ddl。重新新建了一个管道任务,正常。此版本已修复。
8)FDL-24064 FDL定时管道畅捷通T+Cloud报错:应用数据源同步点数已耗尽,请联系管理员充值,但是同步点数界面显示还有剩余的同步点数。此版本已修复。
9)FDL-24061 定时任务写入到达梦数据库,配置了物理主键,发现字符串截断。此版本已修复。
10)FDL-23988 实时管道任务中 MySQL 写入到 YMtraix,某张表由于网络波动,产生了2w多条脏数据,全选脏数据并重试,会提示重试成功2000条,重试后仍为脏数据18000条,客户多次重试后可以全部重试成功。此版本已修复。
11)FDL-24130 实时管道任务中,Kafka 作为源端,报错 “数据连接失效-FR connection[灰度-Kafka] absent”,字段映射与写入无法配置。此版本已修复。
12)FDL-24033 实时管道任务,PostgreSQL 使用wal2json写入hologres,部分数据的_fdl_update_timestamp为空,全量阶段也一样。此版本已修复。
