兼容说明
1)4.2.10.3 版本涉及文件升级,请做好 FineDB 和文件备份。
2)4.2.10.3 版本,文件输入节点中,若原「sheet名」配置中引用参数,升级后变为「自定义条件>Sheet名称」设置,并引用参数;若原「sheet名」配置中直接选择 sheet,升级后变为「直接选取」设置,并选择 sheet。
3)4.2.10.4 版本,配置传输队列时,前端可配置 Kafka 常用参数,之前在 FineDB 中配置的 Kafka 相关参数,升级到 4.2.10.4 及之后版本时,兼容说明请参见:兼容说明
4.2.10.4
实时采集任务缓存配置优化
消息队列 Kafka 常用的配置参数支持前端可配置
传输队列配置中,新增「健康检查」配置项;支持在前端对消息队列 Kafka 的常用配置参数进行设置。如下图所示:
详情请参见:缓存配置
消息队列 Kafka 支持高可用机制
在之前版本中,传输队列使用 Kafka 集群 &Kafka 某个节点异常时,如果异常的那个节点上刚好有 Topic,就会异常。
此版本中,支持配置 replication.factor 参数,为 Topic 默认副本数,分布在不同的节点上,当某个节点发生故障时,其他节点上的副本依然可用,从而保证了数据的可用性和容错性。
详情请参见:缓存配置
优化消息队列 Kafka 的磁盘存储占用空间
磁盘管理中:
新增「单个 Topic 存储上限」,用于配置每个 Topic 的存储用量上限,优化磁盘清理功能;
新增「磁盘告警配置」,为消息队列 Kafka 添加磁盘空间不足的提醒机制;
新增「磁盘使用情况」,展示消息队列 Kafka 的磁盘使用信息。
详情请参见:缓存配置
Kafka 数据连接配置优化
配置 Kafka 数据连接时 ,支持在前端对消息队列 Kafka 的常用配置参数进行设置。如下图所示:
详情请参见:配置Kafka数据源
实时采集任务优化
实时采集任务中,针对解析中的表,支持查看其在 Kafka 中对应 Topic 的存储用量信息。如下图所示:
详情请参见:实时采集任务运维
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-21271 版本升级前,平台上手动备份平台配置失败,报错:Fail to write entity TestConnectionDO。此版本已修复。
2)FDL-21306 升级后使用亚马逊数据源,配置页面空白。此版本已修复。
3)FDL-21145 版本升级至 4.2.10.1 后,DB 输出报错。此版本已修复。
4)FDL-20899 实时管道任务中,同步时间为纳秒时存在异常。此版本已修复。
5)FDL-21274 SSH协议数据连接配置成功,但在定时任务内执行 python 脚本报错找不到密钥文件。此版本已修复。
6)FDL-21072 定时任务中,SQL 语句中存在单独的双引号,导致 SQL脚本 运行失败。此版本已修复。
7)FDL-21152 定时任务中,数据同步节点选表模式会将隐藏列解析为列名。此版本已修复。
8)FDL-21097 清洗规则,公式中直接复制的@[column]会识别不到,当前公式缺少校验,导致引用时报错:Column placeholder not defined。此版本已修复。
4.2.10.3
文件输入节点优化
优化前:文件输入节点存在局限性,无法一次性读取 Excel 中多个 sheet,且不支持自定义输出字段,需额外借助脚本等功能处理,操作复杂且耗时。
优化后:
「sheet 名」功能升级为「sheet 筛选」:支持:直接选取、自定义条件、所有sheet,支持一次选取多个 sheet,无需逐一处理;
字段输出更灵活:支持删除已获取的字段,可自定义保留所需字段,无需额外处理冗余字段;
CSV 文件适配优化:文件类型为 CSV 文件时,新增「读取列范围」设置,可自定义读取的行列范围;
新增内置字段:sheetName(sheet名),输出字段时添加内置字段,帮助定位数据信息。
详情请参见:文件输入功能说明
文件输出节点优化
优化前:输出格式限制,数据本身为单行单列的 XML 或 JSON 内容,无法直接原样输出为对应格式的文件。且输出字段不支持修改字段名或字段类型,需额外处理。
优化后:
输出格式更灵活:新增支持输出数据到自定义类型文件,单行单列的 XML/JSON 格式数据可直接原样输出为对应文件供后续的操作;
文件拆分能力增强:「文件拆分」新增支持将数据按行数拆分至多个 sheet ,适用于大数据量的文件输出场景;
字段映射优化:支持直接修改输出字段的名称与类型,无需额外处理,简化操作流程;
详情请参见:文件输出算子功能说明
调用任务优化
原「调用任务」更名为「调用定时任务」。如下图所示:
详情请参见:调用定时任务
定时管道任务优化
定时管道界面,表详细信息中增加「游标字段」信息,删除「取数范围」信息,根据游标字段标记断点位置。如下图所示:
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-21070 工程从 4.1.12.3 升级至 4.2.10.1后,任务运行报错超出内存限制。此版本已修复。
2)FDL-20964 调度计划中,修改调度计划后保存错误。此版本已修复。
3)FDL-21078 定时任务中,列名包含特殊字符导致上下合并报错。此版本已修复。
4)FDL-21089 实时采集任务中,补数异常时,无法正常停止补数,导致无法同步数据。此版本已修复。
5)FDL-21104 定时任务构建过程中存在逻辑问题,定时任务批量卡在运行中状态。此版本已修复。
6)FDL-21076 在定时任务>运行记录中,任务名称后面的复制按钮不显示。此版本已修复。
7)FDL-21077 运维中心首页报错,获取任务统计列表失败。此版本修复。
8)FDL-21203 在定时任务公式编辑界面,鼠标焦点漂移。此版本已修复。
9)FDL-20918 实时任务中,SAP HAHA 数据源创建 _FDL_TRIGGER_ERRORS 表异常。此版本已修复。
4.2.10.2
定时任务新增任务监控功能
任务运行监控提供对定时任务运行记录的全面监控与主动通知能力。通过自定义监控规则和推送策略,帮助用户及时掌握任务运行情况,保证任务稳定运行。
详情请参见:定时任务-运行监控
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-20868 事件调度任务中,上游任务组正常执行,缺触发执行了两次下游任务。此版本已修复。
2)FDL-20865 DB 表输出的时候勾选了事务控制,运行报错中间表不存在。取消勾选后,任务正常运行。此版本已修复。
3)FDL-20860 库表管理中,数据预览显示错位。此版本已修复。
4.2.10.1
库/模式、来源表、集合配置支持引用参数
在数据工程复用和迁移过程中,用户需要批量修改数据同步任务中的库、模式等配置。当多任务涉及的库、来源表配置存在重复操作逻辑时,需要大量重复的手动操作,效率低下且易出错。
本次更新后,库/模式、来源表、集合配置均支持引用参数,可大幅减少库表配置重复操作,提升数据开发效率与工程复用性。
数据同步/数据转换的DB表输入、参数赋值
配置方式为「选表」时,原「来源表」配置拆分为:库/模式、来源表两个配置项,且「库/模式」、「来源表」配置项新增支持引用参数。如下图所示:
详情请参见:数据同步-数据来源
数据同步/数据转换的DB表输出
「库/模式」、「目标表-已存在表」配置新增支持引用参数。如下图所示:
详情请参见:数据同步-数据去向与映射
数据同步/数据转换里的MongoDB输入
「集合」配置新增支持引用参数。如下图所示:
PostgreSQL 支持选择 pgoutput 的读取方式
PostgreSQL 作为数据开发-实时任务、实时管道任务的数据来源时,支持选择 pgoutput 的读取方式。
详情参见文档:PostgreSQL-pgoutput读取方式
字段设置优化
当前字段设置存在功能局限,例如输入算子/解析算子获取字段需调整后才能正常解析或取数、字段名长度受限等问题,影响数据处理的效率与准确性。本次更新将对涉及到字段设置的节点进行优化,以解决上述痛点。
API输入
「API输入」节点中,新增「输出字段」配置,支持:自动获取、手动获取。手动获取支持自定义字段,例如修改字段名、修改字段类型等操作。
详情请参见:API输入
JSON解析
「JSON 解析」节点中,支持自定义勾选需要保留的上游输出字段;支持配置输出字段类型。如下图所示:
详情请参见:JSON解析算子功能说明
XML解析
「XML解析」节点中,支持自定义勾选需要保留的上游输出字段;支持配置输出字段类型。如下图所示:
详情请参见:XML解析算子
数据关联
「数据关联」节点中,支持选择数据关联后输出的字段。如下图所示:
详情请参见:数据关联
值替换
「值替换」节点中,支持选择数据关联后输出的字段。如下图所示:
详情请参见:值替换
字段拆列
「字段拆列」节点中,拆分结果支持编辑新增列名。如下图所示:
详情请参见:字段拆列
字段拆行
「字段拆行」节点中,拆分结果支持编辑新增列名。如下图所示:
详情请参见:字段拆行算子
MongoDB输入
「MongoDB输入」节点中,支持搜索字段;新增 decimal 字段类型,并且支持设置精度、标度。
详情请参见:MongoDB输入
新增计算列
「新增计算列」节点中,支持修改字段类型;支持类型转换配置。如下图所示:
详情请参见:新增计算列功能说明
字段设置
「字段设置」节点中,优化字段命名规则、新增 decimal 字段类型等。如下图所示:
详情请参见:字段设置
简道云输入
「简道云输入」节点中,新增「输出字段」配置,支持:自动获取、手动获取。手动获取输出字段时,支持修改字段名、替换字段名等操作。如下图所示:
详情请参见:简道云输入功能说明
文件输入
「文件输入」节点中,输出字段配置中选择「手动获取」,新增支持搜索字段。如下图所示:
详情请参见:文件输入功能说明
注册版本号
注册成功后,在「注册管理>注册信息」中,显示「注册版本号」。如下图所示:
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-20716 复制写入 Doris 任务后,点击新任务中编辑写入方式,会出现白屏。此版本已修复。
2)FDL-20450 实时管道任务中,编辑界面无法点击「下一步」。此版本已修复。
3)FDL-20692 来源库和目标库都为 Microsoft SQL Server,源表中存在一条数据,基于逻辑主键更新数据,目标表出现重复数据,设置逻辑主键失效。此版本已修复。
4)FDL-20615 4.2.7.3 升级到 4.2.9.2 后 ,导出的数据服务 api 文档步骤不支持微软的 word2016。此版本已修复。
5)FDL-20786 资源不足导致定时任务无法正常运行。此版本已修复。
6)FDL-20756 定时任务中,两张表一直显示同步中。此版本已修复。
7)FDL-20777 数据服务导出API文档报错。此版本已修复。