FineDB 数据库存储了工程中除平台属性配置以外的所有信息,包括管道任务、定时任务信息等。
本文主要说明 FineDataLink 特有的数据表。
在fine_dp_conf_entity_x这张表中,存储了关于定时任务的所有配置相关的信息。
这张表的表结构比较特殊,在这张物理表内存储了多个子表,每个子表通过 namespace 来进行区分。子表的具体内容,存储在 entity_value 字段中。
下表展示了fine_dp_conf_entity_x主要字段的含义。
命名空间,用来区分entity_value 中的内容
枚举型变量
DPFileEntityStore:定时任务文件相关配置
DPAttributeStore:定时任务定时调度配置
DPFineDBVersionStore:定时任务文件版本号
DPFileEntityStore
定时任务文件相关配置
DPAttributeStore
定时任务定时调度配置
定时调度的执行频率
未开启
只执行一次
简单重复执行
明细频率设置
表达式设定
value根据不同的类型有不同的解释,不再赘述
checkState:任务校验状态,若为true,表示任务正常,为false表示有配置项异常
注:由于FDL需要支持版本的升级和回退,因此,不同的文件版本会对应不同的记录。是以 文件版本号 + 文件ID 作为entity_key的值的。
历史版本的记录也保留在这个表中,如果需要过滤当前版本的信息,需要对 entity_key 的值先进行筛选。
执行记录表:fine_dp_execute_record_x
记录了定时任务的执行情况,包括执行的开始时间、结束时间、执行结果、报错信息等。
与任务配置表不同,执行记录表是一个简单结构的表,并不存在子表结构,因此结构相对简单。下面介绍主要字段及含义。
任务执行状态
SUCCESS:任务运行成功
ERROR:任务运行报错(4.0.3 版本之前,该值为 FAIL)
INVALID:任务中止运行(异常任务,一般是任务运行时关闭了FineDataLink,启动后会将状态置为 INVALID)
任务触发方式:
MANUAL 手动出发
FIX_TIME 定时调度
注:定时任务每执行一次,都会生成一条执行记录。
执行记录表中,记录了定时任务的执行情况,包括执行的开始时间、结束时间、执行结果、执行详细信息等。
任务执行状态:
ERROR:任务运行报错
MANUAL 手动触发
该表中记录所有已删除的任务id以及任务名称
通过fine_dp_work_delete表和fine_dp_work_exec_record表关联可以获取已删除的任务的执行记录。
该表记录了数据开发任务、数据管道任务的编辑记录。每次触发了保存操作,都会在这个表里面增加一条记录。
EDIT ---- 保存任务
DATA_DEVELOP ---- 数据开发任务
PIPELINE_DEVELOP ---- 数据管道任务
由于添加了调度计划(一个调度计划可以包含多个任务),定时调度配置分为了两个表:
fine_dp_plan_schedule:实际保存了调度配置。
fine_dp_plan_work:保存了调度配置要作用的对象。
它们之间通过 plan_id 关联。表结果如下:
计划详情,有三个字段:
调度配置,有6个字段:
调度频率:
与定时任务的配置表相似。
表内存储了多个子表,每个子表通过 namespace 来进行区分。子表的具体内容,存储在 entity_value 字段中。
PipelineTask:任务基本信息
PipelineDraft:暂存任务信息
PipelineSourceTable:源表信息
PipelineTargetTable:目标表信息
不同 Namespace 的 entity_value 的格式及含义
任务状态
IDLE - 空闲
RUNNING - 运行中
ERROR - 错误
PAUSED - 暂停
同步类型
FULL_AND_INCREMENTAL - 全量 + 增量
PipelineDraft:管道任务暂存信息
已完成的进度
默认是 0,第一步校验完成该值为 1,第二步校验完成该值为 2...
目标表字段
Pipeline_Config:(管道任务或暂存配置信息)
16777216
数据管道 MySQL 数据源处理表结构变化时依赖的表。
TABLE_FULL_NAME
TABLE_CHARSET
管道任务中如果捕获到脏数据后,会将脏数据的基本信息存储在这个表中。
4.0.29 及之后版本,表名称(fine_dp_pipeline_dirty):
主键信息,一个json字符串。
例子:
{
"before": "更新前主键",
"after": "更新后主键"
}
4.0.27、4.0.28版本,表名称(fine_dp_pipeline_dirty_data):
不同 namespace 对应的明细:
ENTITY:api任务
PACKAGE:文件夹
类型:
ENTITY:应用
认证信息
认证类型
AppCode
DigestSignatureAuth
-1表示无限制
其他值代表对应的时间戳
访问限制
其他值代表对应的限制个数
时间单位
MINUTES:分钟
HOURS:小时
DAYS:天
滑鼠選中內容,快速回饋問題
滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。
不再提示
10s後關閉
Submitted successfully
Network busy