历史版本2 :2023-09产品月报 返回文檔
編輯時間: 內容長度:图片数:目录数: 修改原因:

2023年 9 月 FineDataLink 继续为您带来新物料。

  • 产品新功能

  • 文档上新

  • 文档共创活动

目錄:

产品新功能编辑

数据开发

支持调用定时任务相关接口

用户希望能够按需触发\执行定时任务,以提高数据时效性,例如:

  • 业务人员在 FR 填报页面录入数据后,数据需要经 FDL 的定时任务计算形成结果数据,期望能够及时看到最新的数据。

  • 业务人员期望能够在报表上看到实时的数据,或者有个按钮能够触发数据更新。

  • 业务人员在简道云录入数据后,数据需要经 FDL 的定时任务做同步或处理,期望能够及时看到最新的数据。

使用「开放平台-FineDataLink接口」插件,可提供 FineDataLink 相关接口,满足用户按需触发\执行定时任务的需求。

详情请参见:调用定时任务相关接口说明

定时任务支持 Bat 脚本

支持通过 SSH 连接,调用远程 Windows 环境中的 Bat 脚本文件。

详情请参见:Bat脚本

1695609968980719.png

定时任务节点支持禁用

用户在以下场景中:

  • 部分节点暂时不执行,但后续可能会执行,不想彻底删掉。

  • 用户为了调试新增一些节点,不想把调试节点删除。

  • 在比较复杂的定时任务中,任务调试时,如果想去掉一些节点,需要复制整个任务备份下,再删除节点,比较麻烦。

希望能支持节点的禁用。

详情请参见:节点支持禁用

66.png

定时任务支持脏数据配置

定时任务中支持设置「脏数据阈值」,可容忍部分脏数据产生而不中断任务。

更多功能:

  • 任务运维中支持查看脏数据分类及详情

  • 任务运维中支持重跑指定节点

详情请参见:定时任务调度配置

1695610622932605.png

定时任务提供 Python 算子

在数据开发过程中,对于一些复杂的数据处理(比如使用可视化算子或者 SparkSQL 较难实现的),需要在「数据转换」节点中使用 Python 脚本处理数据。「数据转换」节点中新增「Python 算子」,可调用 Python 脚本进行复杂数据处理。

详情请参见:Python 算子

70.png

FineDataLink 中使用 FineBI 公共数据

1)支持将 BI SQL 数据集中的参数作为 API 请求参数。

详情请参见:使用FineBI公共数据发布API 3.2节

71.png

2)BI SQL 数据集参数支持在定时任务中使用注:只支持以文本形式传入公共数据日期类型参数。

详情请参见:独立部署下读取FineBI公共数据 3.2节


数据管道

管道任务DDL同步支持PostgreSQL数据源

管道任务中 PostgreSQL 作为来源端时,支持设置同步源表结构变化。

详情请参见:数据管道-同步源表结构变化

管道任务日志读取权限检测和优化主键冲突策略

优化前:用户在在新建任务或启动任务时,没有进行日志解析权限检测,如果无数据库权限,则会在用户设置完配置并启动任务后再报错,导致任务终止,体验不好。

优化后:在任务新建和任务启动期间进行日志解析权限检测,若检测失败则直接提示用户失败原因,用户可根据情况进行修改,提升用户使用体验。






数据服务

数据服务发布API支持摘要认证方式

数据发布 API 支持摘要签名认证方式,避免认证信息和请求信息在传输过程中被截获和篡改,提升认证安全性。

详情请参见:摘要签名认证方式

1695610228166256.png