最新历史版本 :4.1.13更新日志 返回文档
编辑时间: 内容长度:图片数:目录数: 修改原因:

目录:

4.1.13.2编辑

定时任务支持从对象存储文件系统中读取文件

FDL 中支持配置 Amazon S3 数据源的数据连接。

数据开发-定时任务中可使用该数据连接,在阿里云 OSS,亚马逊 S3,MinIO 中进行读取和写入。如下图所示:

详情请参见:配置Amazon S3数据源

1729147772855799.png

实时任务支持读取 MQTT 数据源

数据开发-实时任务读取 MQTT 数据源。如下图所示:

详情请参见:配置MQTT数据源MQTT输入

21.png

实时任务支持读取 IBM MQ 数据源

数据开发-实时任务读取 IBM MQ 数据源。如下图所示:

详情请参见:配置IBM MQ数据源IBM MQ输入

23.png

选表支持选字段

DB表输入、数据同步、参数赋值、全局参数-赋值参数中,配置方式为「选表」时,支持选字段。如下图所示:

1729148365621116.png

Hive 数据库支持配置高可用 HDFS 地址和 HDFS 用

配置 配置Hadoop Hive数据源 的数据连接时,在「HDFS设置」中,支持配置高可用 HDFS 地址和 HDFS 用户。如下图所示:

1729148812912485.png

Kafka 数据源支持 Kerberos 认证

Kafka 数据源支持 Kerberos 认证。详情请参见:配置Kafka数据源配置传输队列

修复BUG

本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。

1)FDL-14323 创建管道任务,选择一批表,配置主键;保存该管道任务,再次点击编辑,选择批量添加前缀,此时可以正常添加且映射处无异常提示;点击保存,发现该管道任务显示未编辑完成,点击进入编辑页面发现显示部分表无主键映射。此版本已修复。

2)FDL-14492 用户使用Python算子做行列转换,报错 TypeError。此版本已修复。

3)FDL-14377 写入到 Hive 已存在的外部表,类型不匹配产生脏数据,出现 Problem adding row 的异常。此版本已修复。

4)FDL-14256 解析 JSON 数据时,某个 Key 在数组的第一个对象里没返回,在第二个数组里有返回,且该 Key 返回的值为空(实际有数据)。此版本已修复。

5)FDL-14248 任务 a 配置失败重试 3 次,任务 a 调用任务 b,b 执行失败后,任务 a 进行第一次重试,重试成功后运行日志会出现等待第二次重试。整体任务运行完之后,运行日志只显示进行了一次重试,实际上重试功能并未异常,只是运行过程中运行日志显示了等待第二次重试。此版本已修复。

6)FDL-14194 负载分配拖拽出了-10%此版本已修复。

7)FDL-14064 用户数据同步到 Hive 数据库,Hive 数据库的 hdfs 文件服务的 datanode 端口没有对 FDL 开放,造成数据无法写入,同步后到数据库中查询表没有数据写入,但是 FDL 日志反馈正常写入了数据,返回任务成功的提示。此版本已修复。

4.1.13.1编辑

自动建表根据MySQL版本确定编码格式&行格式

定时任务、管道任务中,目标表为自动建表时,将自动根据 MySQL 版本确定编码格式和行格式。详情请参见:使用数据源

事件调度跳转优化

打开某个定时任务后,点击调度计划>事件调度>查看按钮」,将跳转至「运维中心>定时任务>调度计划>事件调度」界面并打开该事件调度。如下图所示:

25.png

Python算子运行逻辑配置

FINE_CONF_ENTITY 中新增参数 PythonConfig.metaFromMock,可控制 Python 算子的运行逻辑:

注:一般情况下无需修改该值,用户根据实际情况使用该参数。

  • 值默认为 false:使用上游算子预览的数据,执行一次 Python 算子的代码得到 Python 算子输出的元数据,再实际执行一次 Python 代码进行数据转换。

  • 将值修改为 true(需重启 FDL 工程):使用上游算子的元数据 mock 空数据,执行一次 Python 算子的代码得到 Python 算子输出的元数据,再实际执行一次 Python 代码进行数据转换。

修复BUG

本节中附上了已修复的 BUG 编号,若客户对某个 BUG 有问题可把对应编号发给技术支持进行解答(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。

1)FDL-14191 用户使用数据集输入算子获取 BI 远程公共数据集数据,接「Python算子过滤不合法的 json 数据,接在 Python 算子后的节点报错无法获取源表字段。此版本已修复。

2)FDL-14274 远程公共数据连接密码带有%连接失败。此版本已修复。

3)FDL-14340 任务构建失败没有发送消息通知。此版本已修复。