产品新功能
数据开发
定时任务提供版本管理和版本比对功能
Ø 详情请参见:定时任务版本管理
1)发布的定时任务内容可以进行版本内容查看详情、回滚操作。如下图所示:
2)各个版本之间、开发环境的任务在发布时可以和生产环境内容进行版本比对,比对内容包括:参数列表、任务控制、画布节点。如下图所示:
支持将数据写入到「公共数据」中
支持使用数据转换中的「数据集输出」算子或者「数据同步」直接将数据写入到远程「公共数据」指定目录下。如下图所示:
详情请参见:数据集输出
定时任务全局参数提供动态参数
当多个定时任务需要使用相同的参数赋值时,如果参数需要修改,每个定时任务都需要进行修改,实现过程比较麻烦;希望多个定时任务可以调用同一个参数,这样只需要修改该参数就可以达到修改所有定时任务参数的目的,提高维护任务的效率。
本版本支持设置赋值全局参数,该动态参数可在多个定时任务中使用。如下图所示:
Ø 详情请参见:全局参数-赋值参数
支持批量删除定时任务
支持批量删除定时任务。如下图所示:
Ø 详情请参见:定时任务运维-任务管理
定时任务为内置参数加上类型
定时任务为内置参数加上类型。
Ø 详情请参见:内置参数
数据管道
管道任务支持多对一同步
场景:设备数据采集场景中,源端有相同格式的多个库的数据,需要实时同步到数仓的一张表中使用。
配置管道任务-选择数据来源 步骤中,用户可将多张结构相同的源表数据同步到一张目标表中,取所有源表字段的交集作为分组表的字段。如下图所示:
Ø 详情请参见:配置管道任务-选择数据来源
数据库适配
定时任务
定时任务支持读取 Impala 3.4、Impala 4.1 。
定时任务支持读取和写入神通数据库。
数据管道
管道任务支持写入神通数据库。
数据服务
数据服务适配 Impala 3.4、Impala 4.1。
数据服务支持读取神通数据库。
文档上新
客户案例
JSON解析前过滤出不合法的数据
应用场景:
大数据量场景下的 json 数据解析,存在问题如下:
如果存在几条不合法的 json 格式数据,解析时会导致整个定时任务运行终止。
json 解析是数据处理过程,定时任务的脏数据容忍没办法排除 json 不合法数据对任务的影响。
用户希望:
过滤出不合法的 json 格式数据,使其不影响定时任务的运行。
大数据量场景下,快速找出不合法的 json 格式数据。
参考文档:
Ø 详情请参见:JSON解析前过滤出不合法的数据
多个简道云子表单增删改输出
应用场景:
用户想要将数据库系统数据输出到简道云多个子表单中,实现子表单数据的新增、更新和删除。
简道云表单改动前后变化:
注:需要保证主表单数据是不重复唯一的,且子表单是单条的。
参考文档:
Ø 详情请参见:多个简道云子表单增删改输出
问题排查&功能使用文档
问题排查类文档
说明 | 文档 |
---|---|
XML 解析相关的报错及解决方案 | XML解析问题排查 |
JSON 解析相关的报错及解决方案 | JSON解析问题排查 |
管理系统使用相关的报错及解决方案 | 管理系统问题排查 |
数据转换、数据服务的常见问题整理 |
功能使用指导
分类 | 说明 | 文档 |
---|---|---|
数据连接 | ★★★★★ 配置 星环 TRANSWARP INCEPTOR 数据源、Hive 数据源 时,存在设置项 HDFS 地址 本文将介绍确定 HDFS 地址中设置 IP 和端口的方法 | 确认HDFS地址中的IP和端口 |
工程运维 | 本文提供 Linux 系统中,关闭和重启 FDL 工程的方法 | 关闭或重启FineDataLink工程 |
FDL 工程的端口默认为 8068,若部署 FDL 工程前,8068 端口被占用,将无法成功启动 FDL 工程,本文介绍如何查看端口是否被占用 | 端口占用查看 | |
功能使用指导 | 定时任务、管道任务中,介绍物理删除、逻辑删除以及他俩的区别 | 物理删除和逻辑删除的区别 |
★★★★★ 数据管道和数据开发的区别,便于用户快速理解这俩模块 | 数据管道与数据开发区别 | |
★★★★★ 介绍参数在FDL中的应用场景、定时任务中如何配置和使用参数 | ||
★★★ 管道任务运行后,用户常常有以下问题:
本文为您解答这些问题 | 数据管道运维指导 | |
★★★★ 数据服务、数据管道模块的简单示例,帮助用户快速了解这俩模块的使用及效果 | ||
★★★★★ 介绍数据管道功能的使用流程;数据管道中,不同场景下的同步逻辑 | 数据管道使用说明 |
文档共创活动
参与活动,可赢得 F 币!!
文档问题反馈
无门槛,奖励F币:2-150F币
鼓励大家直接编辑文档,只反馈问题,奖励较少,发现问题编辑后,奖励较多
只要您觉得某篇文档有问题(BUG、描述不清晰、图片老旧、写的不够好应该XXXX等),都可反馈给我们(不限制问题类型),审核通过后发放F币
查看详情:FineDataLink文档问题反馈-最高150F币
注:若发现文档问题,用户可自行编辑文档,有同学专门审核并发放F币。
文档搜索反馈
无门槛,奖励F币:2-10F币
搜不到?有想要的内容不知道搜什么?感觉文档搜索太垃圾,有建议等,反馈给我们
查看详情:FineDataLink文档搜索反馈-最高10F币
文档内容调研
有门槛:近一年内阅读FDL文档篇数超过 40 篇,奖励F币:4F币