目录:
概述编辑
本文对帮助文档中 FineDataLink 的实际应用文档进行筛选、整理、归类、排版,形成了内容合辑,文章按难易程度、内容模块整理分类为不同的篇章,点击标题即可进入相应文章。
持续更新中……
业务场景案例编辑
说明 | 文档 |
---|---|
财务收入核算数仓搭建和看板可视化方案,助力企业财务收入清算和梳理 | 财务收入核算场景 |
电商经营数仓搭建和数据可视化方案,更好的管理电商经营数据,让数据充分发挥价值 | 电商经营场景 |
零售便利店数仓&数据可视化方案 |
数仓搭建编辑
说明 | 文档 |
---|---|
数据仓库搭建和调度方案一 | 数仓调度场景概述 |
数据仓库搭建和调度方案二 | 数据仓库搭建方案二 |
实时ODS层数仓搭建方案 | 实时ODS层数仓搭建方案 |
如何在增量更新时生成记录数据更新生命周期的数仓拉链表 | 数仓拉链表(来源表数据小于10000) |
数仓拉链表(来源表数据大于10000) | |
在增量更新过程中,若遇到字段异常值、脏数据等问题,将导致数据同步一段时间后任务失败。此时目标表中已同步了部分数据,可将目标表进行数据回滚到此次增量更新前的数据 | 数据抽取失败后进行数据回滚 |
人事系统数据仓库搭建 | 人事系统数据仓库建设 |
订单补录数据按日汇总增量更新方案 | 订单补录数据按日汇总增量更新方案 |
业务系统读写分离编辑
说明 | 文档 |
---|---|
业务数据库定期归档,实现读写分离,提升数据库稳定性并且进行迁移备份 | 业务系统数据定期归档 |
帆软产品组合应用编辑
说明 | 文档 |
---|---|
帆软产品组合应用方案(FineReport、FineBI、简道云) | FDL和FR组合应用示例 |
FDL和BI组合应用示例 | |
FDL&简道云&BI组合应用示例 | |
FineReport接收并使用数据服务发布的数据 | |
FDL与FineReport组合应用示例(使用数据发布) | |
FR填报补录数据后,触发FDL任务更新 | |
FR模板展示定时任务信息 | |
BI仪表板展示管道任务信息 |
数据实时传输编辑
说明 | 文档 |
---|---|
高时效数据实时同步,实现实时监控大屏、实时监控车间看板等场景,支撑快速决策分析 | 数据管道概述 |
数据告警编辑
说明 | 文档 |
---|---|
| 一条消息通知同时提醒多人 |
群通知中,用户希望:
| 一条消息提醒一个人,可发送多条消息 |
API专题编辑
分类 | 文档 |
---|---|
发布一个 API | 数据服务概述 |
使用数据服务对数据进行分发管控 | |
从 API 接口取数 | API取数概述 |
将处理好的数据输出到 API 中 | 活动日程信息更新至企业微信日程 |
新增/修改宜搭表单数据 |
FineBI 数据落库编辑
说明 | 文档 |
---|---|
FineBI 的公共数据,通过FDL完成数据落库,FR 等数据分析工具可应用以上数据进行展示分析 | 数据集输入-公共数据 |
数据服务编辑
说明 | 文档 |
---|---|
某公司旗下各个地区有多个分公司和分店,且使用的同一套业务系统。 业务数据会全部汇总到总部的数据库内,分店只能在业务系统上看到特定的分析和数据,无法实现自定义分析。 总部希望对数据进行分权限管控:总部按照地区提供数据,一个地区分店和分公司只能看到自己地区的数据,不允许看到其他地区的数据,各地区自行获取数据后在不同工具中进行数据分析和使用。 | 使用数据服务对数据分权限管控 |
读取简道云数据/数据输出到简道云编辑
分类 | 说明 | 文档 |
---|---|---|
读取简道云数据 | 将简道云数据下云,取数到指定数据库中进行数据应用 | 简道云数据增删改同步至数据库 |
公司出差表单中,包含「部门多选」字段,有些成员担任多个职位,属于多个部门。希望将简道云数据保存到数据库中,且用一个字段代表成员的所属部门 | 提取简道云表单多值字段并显示为一行 | |
简道云表单中包含两个子表单,其中一个子表单中包含成员单选、部门单选控件。将该表单数据落库 | 将包含两个子表单的简道云表单数据落库 | |
数据输出到简道云 | 将数据库数据推送至简道云表单中 | 简道云输出 |
数据输出到简道云时,实现先清空简道云表单再写入数据的效果 | 简道云输出算子:清空目标表,再写入数据 | |
用户想要将数据库系统数据输出到简道云多个子表单中,实现子表单数据的新增、更新和删除 | 多个简道云子表单增删改输出 | |
简道云附件传输 | 简道云附件传输至FTP/SFTP/服务器本地 | 简道云附件传输至FTP/SFTP/服务器本地 |
数据更新专题编辑
应用场景 | 文档 |
---|---|
数据更新专题:FineDataLink 中常用的数据更新方式,方便用户更好的进行数据开发和维护 | 数据更新专题概述 |
用户希望来源表的增删改同步到目标表的同时,目标表的 update 字段能记录数据变化时间 | 数据比对后更新目标表时间列 |
Excel 数据表为源数据表,每天会新增数据,用户希望数据库中的某张表自动新增 Excel 里面昨天新增的数据 | 每天获取Excel昨日新增数据导入数据库 |
按照「交易日期」按日汇总每日的订单金额,由于补录数据不确定补录时间,例如 9.21 日更新前 5 天的数据,但9.21日补录了「订单交易日期」为 9.1、9.2 日的数据,因此提供汇总数据补录后的增量更新方案。 | 订单补录数据按日汇总增量更新方案 |
工程相关编辑
应用场景 | 文档 |
---|---|
随着 FineDataLink 工程使用时间的增长,fine_dp_work_exec_record(记录定时任务的执行情况)表中的数据会不断积累,导致数据量逐渐增多。当数据量过大时,打开「任务运维>定时任务>运行记录」页面可能会变得缓慢,需要耗时 10 秒以上 希望能定期清理 fine_dp_work_exec_record 表数据 | 自动清理FineDataLink运行记录 |
公司中有许多成员使用 FineDataLink 开发定时任务,若成员 A 修改了定时任务 1 没有通知成员 B,成员 B 运行定时任务 1 的时候运行报错或数据不对,B 不知道是谁做的修改以及修改原因。成员 B 若是对定时任务 1 再做修改,不知道会对成员 A 造成什么影响 因此,希望使用看板展示所有定时任务的运行信息,可通过搜索对应的任务名称,查看该任务编辑人员、最近编辑时间 | FR模板展示FDL定时任务信息 |
用户想了解某个管道任务是谁编辑的、编辑时间、断点相关信息等,FDL 工程内的 管道任务运维 无法满足需求 | BI仪表板展示管道任务信息 |
FDL 中原先采用的数据连接名为demo1,已在大量定时任务中使用。为了规范数据连接命名,需将此数据连接名更改为fdl_demo,目前需要逐个打开定时任务并手动重新选择新命名的数据连接,操作过程比较麻烦。 | 批量修改定时任务中的数据连接名 |
数据开发专题编辑
文件输入
说明 | 文档 |
---|---|
读取单个文件数据 | 文件输入算子读取单个文件 |
批量读取指定文件夹下的文件数据 | 定时批量扫描文件同步数据 |
使用参数取出文件名有规律的文件数据 | 基于时间增量读取文件 |
循环多次读取Windows环境文件同步数据 | 循环多次读取Windows环境文件同步数据 |
循环多次读取Linux环境文件同步数据 | 循环多次读取Linux环境文件同步数据 |
文件输出
说明 | 文档 |
---|---|
每次只保留最新的拆分文件,将上一次生成的文件打包压缩备份起来,且只保留近 7 天的压缩文件 | 文件拆分:只保留最新拆分的文件 |
调度配置
说明 | 文档 |
---|---|
用户创建两个定时任务(调用关系)处理数据,处理后的数据被用于大屏展示 由于对数据的实时性要求较高,希望任务执行后立刻被拉起,且任务运维界面不希望看到任务出现排队的情况 | 循环往复执行定时任务 |
其他
文档 |
---|
多张Excel表数据关联后再进行加工计算 |
使用条件分支获取优秀员工信息 |
解析XML文件数据 |
使用SparkSQL构建日期列并循环取数 |
调用循环容器任务 |
解析并关联多个JSON数组字段 |
高频指标借助参数实现轻量化修改 |
调用定时任务相关接口编辑
说明 | 文档 |
---|---|
提供 FR 模板调用定时任务接口的示例 | FR模板调用定时任务接口示例 |
FR 通过任务名/任务ID运行定时任务的接口中,可设置延迟参数,在等待设置的 X 秒后可以返回任务运行状态 但某些定时任务运行时间较长且不稳定,当 FDL 执行到接口设置的时间但任务还未结束时,FR 会接收到 RUNNING 的返回信息。用户无法确定后续定时任务是否运行成功 | FR调用定时任务后轮询是否完成 |