4.2.11.4
Oracle 日志解析异常场景优化
1)实时管道&实时任务中,点击「数据源权限检测」按钮后:
来源端为 Oracle 时,新增「活跃事务检测」检查项。
原来的「数据源版本支持」检查项改为「数据源版本检测」。

2)实时管道&实时任务中,来源端选择 Oracle、读取方式选择 LogMiner、且同步方式为仅增量同步时,增量同步起点支持选择「自定义时间」。如下图所示:
详情请参见:配置Oracle数据源

3)一些内在逻辑的优化:
rac 集群重启后,会出现 scn 不连续,导致实时管道任务失败的问题;本版本,适配该问题。
logminer 解析出来的事件,SQL_REDO 中为 Unsupported,管道一直运行,但是已经“卡住了”,也没有具体的报错信息。本版本,将 Unsupported 的异常情况提示出来。
适配事务中部分事件 rollback 场景。
修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-21860 文件输入读取子文件时,过滤筛选报错。此版本已修复。
2)FDL-21816 4.2.11.3 版本的 FDL 工程,mino前端上传文件成功,使用 FDL 的文件输出算子上传文件,前端 FDL 运行成功,日志里没报错,实际 mino 里没有,前端后端都没有。此版本已修复。
3)FDL-21844 使用文件输入算子,读取多 Sheet 文件,预览就会卡住,预览时前端没有请求返回,卡住一段时间之后会报错504(getaway Time-out)。此版本已修复。
4)FDL-21773 事务输出构造的语法有问题,主键列 join 的时候没加空格。此版本已修复。
5)FDL-21796 Elasticsearch输入算子取数,选择索引,预览报错com.fr.dp.exception.FineDPException: HTTP execute failed-No enum constant com.fr.dp.datasource.dialect.ElasticSearchField.SHORT。原因是没适配 short 字段类型,本版本已适配。
6)FDL-21742 数据查询API中,单次请求量上限的配置没有生效。此版本已修复。
7)FDL-21858 数据服务-数据接收API&内存队列情况下,api上线报错传输队列配置无效。此版本已修复。
8)FDL-21689 升级后,目标表 tidb 的 datetime 字段类型被识别成 timestamp;升级后,好多映射报错来源表结构已变化,其实没变化;升级后查询源数据语句2分钟执行了3k次。此版本已修复。
9)FDL-21706 实时数据共享中心在运行pgoutput的任务的时候, 报错源端读取异常, failed to parse table name。此版本已修复。
10)FDL-21753 定时任务的任务运维-运行记录里,点击查看详情,会白屏。此版本已修复。
11)FDL-21843 导入多sheet excel文件时,sheet 名为纯数字且作为参数时,无法成功导入数据,仅能导入非纯数字 sheet 名的表单内容。尝试导单独导入 sheet 时报错,同时也尝试过将表内容复制粘贴进新的 excel 文件,不报错,但数据内容为空。此版本已修复。
12)FDL-19525 实时管道任务详情页,日志筛选失效。此版本已修复。
13)FDL-21701 用户环境为六节点集群信创模式BI703,创建OB-ORACLE数据连接,但是保存后却是mysql模式。此版本已修复。
14)FDL-13950 非管理员账号打开目录树存在性能问题。此版本已修复。
4.2.11.3
实时管道任务配置界面优化
配置实时管道任务 的界面优化。如下图所示:

支持重置实时管道任务
数据表发生变化或遇到异常(日志过期、断点失效)时,想要让管道恢复正常。
此时可点击「重置」按钮,重置实时管道任务。如下图所示:

编辑实时管道任务优化
支持为实时管道任务添加表、修改同步方式、删除表、编辑表、修改任务控制等。如下图所示:
详情请参见:编辑管道任务

实时管道任务运维优化
1)运行记录 中,支持启动/暂停实时管道任务。如下图所示:

2)任务管理 中,支持重置实时管道任务、修改任务控制、删除实时管道任务。如下图所示:

实时管道任务通知内容优化
通知内容划分为:任务级、表级、其他。如下图所示:
详情请参见:配置实时管道任务-任务控制

实时管道任务编辑锁逻辑优化
仅「草稿」状态的实时管道任务编辑时存在 编辑锁 限制;其他任务级或同步对象级的编辑不提供编辑锁限制。
实时管道任务写入 ClickHouse 逻辑优化
实时管道任务 写入 ClickHouse 数据库 时:
目标表为自动建表时,自动识别来源表物理主键,默认设置为目标表的「排序键」,也可以手动指定「排序键」,排序键同时联动指定「非空」约束,不可取消。
目标表为已存在表时,将已存在表中的排序键自动识别并展示出来,写入方式中主键映射处自动填入排序键。

优化定时任务更新目标表的使用体验
查看分区键设置按钮显示优化
定时任务写入到已存在的分区表时,「查看分区键设置」按钮的显示逻辑在本版本进行优化。详情请参见:写入数据到已存在的分区表

手动建表时支持编辑SQL语句
定时任务的目标表选择手动建表时,弹窗支持直接编辑语句,删除弹窗右侧「编辑」按钮。

DDL功能优化
详情请参见:定时任务DDL同步
1)当数据来源为「选表」时,来源表结构变化新增对「主键/Not Null/注释」的变化感知。

2)新增「一键带入」功能。以「字段名」为唯一标识(同名映射逻辑),比对来源表和目标表结构;只要来源表与目标表结构不一致,就支持将来源表结构一键带入目标表。

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-21690 生产模式下点击消息通知算子白屏,开发模式正常。此版本已修复。
2)FDL-21704 SAP ERP输入算子中,抽取带有 ^ 符号的数据串行。此版本已修复。
3)FDL-21613 定时管道任务源端失败,任务还是显示同步成功。此版本已修复。
4)FDL-21566 4.2.10.4版本,实时管道来源端是 pgsql10,测试管道过程中会报错且中止管道Execute sql failed. Please check column/table/where/querySql.-CREATE EVENT TRIGGER flysync_ddl_trigger
ON ddl_command_end
EXECUTE FUNCTION fdl_temp.trep_ddl_trigger_function()-ERROR: syntax error at or near "FUNCTION"
Position: 85
此版本已修复。
5)FDL-21699 定时管道设置的是每小时运行一次,无期限,10.9 19:00:00之前升级到了5.0.3.4版本,后来当天19:00:00的管道任务未按预期运行。此版本已修复。
6)FDL-19293 kakfa 作为实时管道源端无法批量选表。此版本已修复。
4.2.11.2
数据接收支持内存队列
数据接收功能初版要求部署 Kafka、配置传输队列,增加了使用成本。4.2.11.2 及之后版本,数据接收功能可对接内存队列,无需部署 Kafka。
「消息队列中间件」按钮关闭,代表使用内存队列,用户参考 传输队列类型说明 文档,根据实际情况选择是否开启该按钮。

运维首页调整定时任务的筛选默认值
运维概览界面中,定时任务 Tab 下,「失败率排行」、「平均耗时排行」默认筛选改为「近七天」。如下图所示:

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-21514 4.2.8.4 升级到 4.2.10.4 后,文件输入报错transform error;经测试发现文件输入勾选「多文件合并读取」,如果配置的文件夹地址下层没有子文件夹,文件筛选会失效。此版本已修复。
2)FDL-21548 用户在同步查询亚马逊 Listing 表时,子表以字段形式进行同步,发现同步过来的 json 数据没有带引号。此版本已修复。
3)FDL-19293 Kakfa作为实时管道源端无法批量选表。此版本已修复。
4)FDL-21486 cubes目录下的 fdl_realtime_center_write_counter 表过大,每天的都有6个G。本版本修改为 1 分钟记录一次(之前是每 10 秒记录一次)。
5)FDL-21519 用户升级到 4.2.10.4 之后,文件输入直接输入文件地址回车无法保存路径。此版本已修复。
6)FDL-21556 数据同步节点预览 Oracel 数据,date 类型日期字段预览后缺失时分秒数据。此版本已修复。
4.2.11.1
应用数据源不支持复制
应用系统(云端) 类型下的数据源不支持复制,如需要多个应用数据源,请重新创建新的数据连接。如下图所示:

修复BUG
本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。
1)FDL-21372 使用信创版 FineDataLink,新建 KingbaseES 数据连接时,无法选择内置驱动。此版本已修复。
