历史版本12 :云端运维日志包表结构说明 返回文档
编辑时间: 内容长度:图片数:目录数: 修改原因:

目录:

1. 概述编辑

1.1 版本

FineBI 版本功能变更
6.0-

1.2 功能简介

treasures 数据包的具体 CSV 表结构,下面将详细说明。

2. 数据包获取编辑

管理员登录FineBI系统,点击「管理系统>智能运维>云端运维」,点击「下载日志」即可下载云端运维数据包。如下图所示:

3. 数据包整体结构编辑

3.1 月数据包

1)下载后的文件解压后,有多个月数据包+数据包信息文件( json 格式)。如下图所示:

package.json 文件中信息为应用名称、应用 ID 、所有数据包所属月份以及该数据包所含月数据包的个数。

2)单个月数据包解压后,有多个日数据包+该月数据包信息文件( json 格式)。如下图所示:


package.json 文件中信息为应用名称、应用 ID 、该月数据包所属月份以及该月数据包所含日数据包的个数。

3.2 日数据包

日数据包解压后有 20 张 CSV 表。如下图所示:


4. 数据表-通用&FR编辑

4.1 package

应用的基本信息,每个数据包里都包含这个,用于鉴别数据包的来源。

字段含义
appname应用名称
appid应用ID
time数据包时间,例如20230905(自动导出情况下:每日凌晨四点导出前一天的包,记为导出日期的前一日)
version云端运维版本
DAU当日登录该工程的用户数
gcRecord当日该工程GC次数
BIUpdateTask当日该工程BI更新任务数
BIExecute当日用户访问该工程FineBI仪表板次数
recordOperate当日用户对该工程进行管理操作次数
execute当日用户访问该工程FineReport模板次数
focusPoint当日该工程功能点使用次数
honeypot埋点记录次数
realTime当日该应用实时情况记录次数
engineQueryPerformance引擎埋点记录次数
biDailyOperation当日用户对该工程FineBI仪表板、组件、数据集编辑查看次数
BIUpdateTaskDetail当日该工程BI更新任务明细记录数
fdlExecutorTaskFDL任务/节点/算子运行情况记录次数
logpoint埋点报错信息记录次数
biUserLifecycleFineBI用户流失记录条数
consumePoint当日该工程模板性能记录次数
recordWrite当日该工程FineReport报表填报次数
templateError当日该工程报错日志记录条数
processLog当日该工程云端运维任务运行次数
executeSqlSQL 执行记录明细条数

4.2 execute

模板使用情况,记录模板的执行明细。

字段备注
id主键
tname物理模板名字(reportlet 下的完整路径)
displayName挂载到平台的目录名称(全路径),如果直接访问链接则为空
time记录的时间,到秒即可
memory报表占用内存,单位 B
type报表访问方式
consume后台耗时
sqlTimeSQL 执行耗时间
reportId模板 ID
userId用户 ID
ip用户所在ip(加密导出)
complete是否计算完成
source链接访问/平台访问
brower
浏览器
sessionID会话ID,用于与性能埋点表中的前端渲染耗时相关埋点进行关联
node加载模板的节点名
error模板执行过程中第一个报错信息
webInfo

模板执行信息

webResolution:当前模板执行在前端访问时的分辨率,记录格式为x*y

fullScreen:当前模板执行在前端访问时是否是全屏模式,记录格式为1/0

fineMarkId一个用户的标识id(用于判断非登录场景下的用户数)
estimate估算内存(非格子计算),单位KB
frFullVersionFineReport工程模块版本
biFullVersionFineBI工程模块版本
cloudVersion云端运维插件版本

4.3 executesql

记录 SQL 的执行记录明细。

字段备注
time执行时间,时间戳格式
executeid执行表 ID
dsname数据集的名称
sqltimeSQL 执行时间,单位毫秒
rows数据集规模,行
columns数据集规模,列
connection数据连接名
connectionID数据连接标识 ID,用于与功能埋点表中的数据源连接相关埋点进行关联

4.4 realTime

应用的实时情况,每分钟记录一条。

字段备注
time记录时间,每分钟一条
node节点名
cpuCPU 利用率
memory当前 jvm 内存情况
sessionnum存活会话数
onlinenum系统在线人数
pid进程 pid
templateRequest正在计算的模板请求数
httpRequest总的正在处理的 http 请求数
sessionRequest正在处理的带 SessionID 的请求数
fineIOfineIO占用堆外内存大小,单位 KB
NIONIO占用堆外内存大小,单位 KB
bufferMemUse堆外使用总内存,directMem「nio」和mappedMem,单位 KB
physicalMemUse物理内存已使用空间,单位 KB
physicalMemFree物理内存空闲空间,单位 KB

4.5 consumepoint

模板的性能情况,每日记录一次。

字段含义备注
id埋点 id 编号
source埋点来源

Original 类

1 表示当前系统的

0 表示插件的埋点

-1 表示没有定义来源

time开始时间开始时间(时间戳格式)
username用户名ID进行了转码处理
ip用户ip进行了转码处理
finish结束时间FineReport 字段,FineBI不适用
consume耗时,单位 ms-
memory
内存大小,单位 byteFineReport 字段,FineBI不适用
title
资源 id可以是模板id,分析表id,表id等
text
资源内容FineReport 字段,FineBI不适用
type
操作类型FineReport 字段,FineBI不适用
comment资源备注FineReport 字段,FineBI不适用
body埋点具体信息-
frFullVersionFineReport工程模块版本-
biFullVersionFineBI工程模块版本-
cloudVersion云端运维插件版本-

4.6 focusPoint

记录功能点的使用情况,以及各种埋点信息。

字段说明备注
id功能点 id例如:FR-F4001
source埋点来源

功能点的类型

embed 表示当前系统的

plugin 表示插件的埋点

undefined表示没有定义来源

time时间使用该功能的时间点
username用户名用户名ID,进行了转码处理
ip用户IP用户IP进行了转码处理
title标题主要内容
text
内容功能点的主要信息
body埋点具体信息

埋点具体信息,一个 json 数据结构,根据不同的埋点里面存放不同的信息(次要信息,可能为空)

frFullVersionFineReport工程模块版本-
biFullVersionFineBI工程模块版本-
cloudVersion云端运维插件版本-

4.7 templateError

错误日志记录表:记录系统中发生过的报错日志。

字段含义
tname出错的物理模板名字(reportlet下的完整路径)
time出错记录时间
displayName

挂载到平台的目录名称(全路径)

如果为空时,判断 platformDisplay是否为0,为零时平台前端显示处理为国际化的“非挂载访问”

result

是否成功预览

1:预览成功

0:预览失败

code错误代码
platformDisplay

是否挂载访问

1:表示挂载访问

0:表示url访问

username

执行报表的用户

notLogged:表示未登录访问

fromSchedule:表示来自定时调度

4.8 gcRecord

记录系统的 GC 信息。

字段数据类型 & 单位备注
timelong timestamp记录时间
gcStartTimelong timestampGC 开始时间
gcTypeStringGC 类型
gcCauseStringGC 的原因
pidString进程pid
nodeString用户命名的节点名,单机下记为空
durationlong msGC 持续时间
youngBeforeUsedlong KB年轻代 GC 前使用内存
youngBeforeCommittedlong KB年轻代 GC 前申请内存
youngAfterUsedlong KB年轻代 GC 后使用内存
youngAfterCommittedlong KB年轻代 GC 后申请内存
oldBeforeUsedlong KB老年代 GC 前使用内存
oldBeforeCommittedlong KB老年代 GC 前申请内存
oldAfterUsedlong KB老年代 GC 后使用内存
oldAfterCommittedlong KB老年代 GC 后申请内存
metaspaceBeforeUsedlong KBmetaspace GC 前使用内存
metaspaceBeforeCommittedlong KBmetaspace GC 前申请内存
metaspaceAfterUsedlong KBmetaspace GC 后使用内存
metaspaceAfterCommittedlong KBmetaspace GC 后申请内存
heapBeforeUsedlong KBGC 前堆使用内存
heapBeforeCommittedlong KBGC 前堆申请内存
heapAfterUsedlong KBGC 后堆使用内存
heapAfterCommittedlong KBGC 后堆申请内存
balancePromoterScoreint 分「分值的分」中止计算分值
releasePromoterScore同上释放会话分值
loadScore同上整体负载分值

4.9 processLog

记录云端运维任务运行相关的日志。

字段含义
time时间
node节点
process流程

4.10 recordOperate

管理日志表,即用户对模块进行操作的时候,将会在该表中添加一条记录,并在相应字段中填写其对应的信息记录。

注:5.1.7 及之后版本的 FineBI 新增该表。

  字段

备注

type模块(存国际化的 key)
item设置项
operation操作
username  用户名
ip用户 IP 地址
time用户操作时间

4.11 recordWrite

填报表:记录填报日志信息,即如果报表进行填报的时候,将会在该表中添加一条记录,并在相应字段中填写其对应的信息记录。

注:5.1.7 及之后版本的 FineBI 新增该表。

字段  

备注

username填报报表的用户
tname  仪表板存放路径
time填报时间
result是否填报成功
ip填报报表的IP地址
displayName

仪表板的实际名称,非「目录管理」中仪表板的名称

如果直接访问链接则为空

browser客户端访问报表所用的浏览器版本
consume执行耗时,包括 SQL 执行时间,报表计算时间
body用json数据结构记录以下信息(times, max,min,avg)

times:该类请求出现次数,单位:次

max:该类请求最大响应时长,单位:ms

min:该类请求最小响应时长,单位:ms

avg:该类请求平均响应时长,单位:ms

frFullVersionFineReport工程模块版本
biFullVersionFineBI工程模块版本
cloudVersion云端运维插件版本

5. 数据表-BI编辑

5.1 biExecute

仪表板访问情况。

字段含义备注
id主键-
tname仪表板名字

文件夹名称/……/仪表板名称

FineReport 报表有后缀.cpt

displayName
记录被分享的数据集名称没有挂出的 BI 仪表板显示仪表板名
time
日志开始时间时间戳格式
memory
报表占用内存,单位 BFineReport 字段,BI 不适用
type
仪表板访问方式,具体列举在下文

-

username
执行仪表板的用户-
userrole
执行仪表板的用户角色-
consume

BI 仪表板访问耗时,从打开仪表板到所有组件加载完成的时间,单位为毫秒

注:该 BI 仪表板访问耗时为 2019-04 之后的版本增加。
sqlTime
sql 执行的总时间FineReport字段,BI 不适用
reportID仪表板编号-
userId用户 Id-
complete是否计算完成FineReport字段,BI 不适用
source访问方式(integration 是通过 url 访问,single 是平台访问的 )FineReport字段,BI 不适用
param记录被分享节点名称

如果被分享节点为多层级部门,则记录形式为:1层节点/2层节点/节点

frFullVersionFineReport工程模块版本
biFullVersionFineBI工程模块版本
cloudVersion云端运维插件版本

字段 type 具体含义:

编码  

类型  

参数

0

分页预览

page

1

在线分析

view

2

填报预览  

write

3

决策报表预览

form

4

行式引擎

layer

5

在线编辑

edit

6

新填报

write_plus

7

新引擎预览

page_plus

8

大屏FVS预览


9

开发者调试预览


10

Excel 分页导出

excel

11

Excel 原样导出

excelO

12

Excel整页导出,对应场景包括:

1)大数据集导出插件导出Excel

2)Excel分页导出、原样导出启用了行式引擎的报表

excelL

13

Excel 分页分 sheet 导出

excelS

14

PDF 导出

pdf

15

Word 导出

word

16

SVG 导出

svg

17

CSV 导出

csv

18

文本导出

text

19

JPG 图片导出 

jpg

20

PNG 图片导出

png

21

GIF 图片导出

gif

22

BMP 图片导出

bmp

23

WBMP 图片导出 

wbmp

24

内置数据集导出模板

cpt

25

HTML 导出

html

26

填报 HTML 导出

write_html

27

BI 导出 Excel


30

Flash 打印

print_flash

31

PDF 打印

print_pdf

32 

Applet 打印

print_applet 

33

零客户端打印

print_noclient

34

本地软件打印

print_native

101

查看BI模板

bi_view

102

编辑BI模板

1)记录逻辑:点开一张仪表板进入编辑状态,等待页面全部加载完毕,无论做多少操作或不做操作,记录一次;下次再点模板进去编辑或者刷新网页记录第二次

2)同一张仪表板,每次编辑都会有记录

bi_edit

103

分享BI模板

bi_share

104

创建BI公共链接

bi_create_publink

105

查看BI公共链接

bi_view_share

106

BI 模板全局导出 PDF

bi_template_export_pdf

107

BI 模板全局导出 Excel

bi_template_export_excel

108

BI 组件导出 Excel

bi_component_export_excel

109

BI模板另存为


201

关闭浏览器或者 Tab 页(BI)


202

编辑自助数据集


205

关闭分享BI模板


206

关闭BI公共链接


301预览组件
302编辑组件

401

预览Excel插件模板

402

编辑Excel插件模板(预留)


403

分享Excel插件模板


404

创建Excel插件公共链接


405

通过公共链接访问Excel插件模板


408

Excel组件导出Excel


409

Excel仪表板另存为


501查看主题
502编辑主题
503分组协作
504主题协作
602编辑基础表

5.2 biUpdteTask

更新任务表

字段含义备注
planId任务实例唯一标识,每一次运行都不同-
triggerId触发ID触发的单表、业务包、全局的ID
taskName任务名称表名+任务类型(单表/业务包/全局)
startTime任务开始时间-
endTime任务结束时间-
runningResult完成状态

1 全部成功

2 部分成功

state更新状态

1 已结束

2 运行

triggerType触发方式

1 手动

2 定时

roleId触发人Id-
roleName触发人名称-
countOverView任务中各类型的表的更新情况。JSON

expectBaseTableUpdate 期望的基础表数量

actualBaseTableUpdate 实际成功更新的基础表数量

expectComplexUpdate 期望的自助数据集数量

actualComplexUpdate 实际成功的自助数据集数量

expectRelationUpdate 期望的关联更新数量

actualRelationUpdate 实际成功的关联数量

extra1额外的字段1-
extra2额外的字段2-
extra3额外的字段3-
time数据插入时间,swift表清理需要-

5.3 biUpdateTaskDetail

更新任务明细表

字段含义备注
planId任务实例唯一标识,每一次运行都不同-
tableId更新表ID-
loadId明细标识,在一个更新任务中唯一-
loadName明细信息的名字表为表名+包名,关联为关联的信息
loadType明细类型

1 基础表

2 自助数据集

3 关联

updateType更新类型

1 全量

2 增量

state更新状态

1 更新中

2 成功

3 部分成功

4 排队等待

5 失败

endTime数据更新结束时间-
effectTime生效时间,真正可用-
startTime更新开始时间-
execption失败报错信息-
failedSonId基础表导致的更新失败的表的ID集合-
extra1额外的字段1-
extra2额外的字段2-
extra3额外的字段3-
time数据插入时间,swift表清理需要-
fatherFailedIds更新失败的父表的ID集合-
updateCount变化的行数,可能有增有减-
errorCode错误代码-
totalCount总行数-
deleteCount增量减行数-
writeTime写文件时间-
etlFlow自助数据集的步骤-
appendCount增量增行数-
columns-
jdbcTime数据获取时间-
openTimesql执行时间-
infos非报错信息(只有国际化的key值和参数)-

5.4 biDailyOperation

FineBI用户活跃度分析表

字段
含义计算方式
time统计时间-
username用户名称
-
day日期-
dayMake当日编辑仪表板次数前一天内存记录的make值
dayMakeT当日编辑数据集次数前一天内存记录的makeT值
dayMakeC当日编辑组件次数前一天内存记录的makeC值
dayView当日查看仪表板次数前一天内存记录的view值
totalMake累计编辑仪表板次数首次计算:execute表中所有时间该用户type=“102”的记录数
非首次计算:该用户前一天表中的totalMake+前一天内存记录的make
totalMakeT累计编辑数据集次数首次计算:execute表中所有时间该用户type=“202”的记录数
非首次计算:该用户前一天表中的totalMakeT+前一天内存记录的makeT
totalMakeC累计编辑组件次数首次计算:execute表中所有时间该用户type=“302”的记录数
非首次计算:该用户前一天表中的totalMakeC+前一天内存记录的makeC
totalView累计查看次数首次计算:execute表中所有时间该用户type=“101”的记录数
非首次计算:该用户前一天表中的totalView+前一天内存记录的view
totalMakeMonth累计编辑仪表板月份数首次计算:execute表中该用户type=“102”的月份数
每月1号计算:若上月该用户存在totalMake>0,则+1;否则为前一天的totalMakeMonth
其他时间计算:前一天的totalMakeMonth
lastMakeDay最近一次编辑仪表板日期首次计算:execute表中该用户type=“102”的最近一次记录数
非首次计算:若用户前一天的totalMake>0,则记录前一天日期;否则为前一天的lastMakeDay

5.5 biUserLifecycle

FineBI用户流失分析表

字段
含义计算方式
time统计时间-
username用户名称
-
day日期-
maxThreeMonMake历史3月总编辑次数最大值近3月每日编辑仪表板次数的最大值
threeConMonMake是否3个月连续编辑近3个月每日是否均有编辑仪表板行为
productUsability产品使用能力

P1:累计编辑次数≤100,且累计编辑月份数≤=4

P2:累计编辑次数>100,或累计编辑月份数>4

P3:累计编辑次数>200,或累计编辑月份数>10

loss是否流失用户

1:已流失,包括以下两种情况

近3月的月编辑月份数=3,且近60天内没有编辑行为

近3月的月编辑月份数<=2,且近120天没有编辑行为

0:未流失

lifecycle生命周期标签

introduction:导入期,近3月均编辑次数≤5

new:新手期,即产品使用能力为P1

growth:成长期即产品使用能力为P2

maturity:成熟期即产品使用能力为P3

loss:流失期,即近3月均编辑次数>5,且为已流失用户

preLoss是否预流失

low:生命周期处于新手期/成长期,且超过12天没有编辑行为

high:生命周期处于新手期/成长期,且超过30天没有编辑行为

0:其他情况

5.6 honeypot

埋点表

字段含义
类型 (id)
区分类别的父类ID
参数 (param)
记录备注信息,主要记录步骤的名称、状态、等内容
时间 (time)时间
用户名 (username)用户名,转码处理
用户类型 (userType)
-
对象 (target)该步骤的操作对象,资源id;记录模板id,分析表id,表id等
表转义名 (transferName)操作对象的转义名
公司 ID (companyName)
license中的公司ID
项目名字 (projectName)license中的项目名称
版本 (version)license中的版本号
frFullVersionFineReport工程模块版本
biFullVersionFineBI工程模块版本
cloudVersion云端运维插件版本

5.7 engineQueryPerformance

引擎埋点关键类

字段
含义
queryId查询标识/ID
startTime开始时间
endTime结束时间
engineType

引擎类型

1:直连

2:抽取

innerEngineType

细分内部引擎类型

直连:

1:DB

2:Excel

3:TCERID

抽取:

1:抽取

baseStartTime

基础计算开始时间

直连:直连SQL查询层开始时间

抽取:spider引擎基础计算层开始时间

baseEndTime

基础计算结束时间

直连:直连SQL查询层结束时间

抽取:spider引擎基础计算层结束时间

dataModelCol基础结果列数
dataModelRow基础结果行数
dataModelMem基础结果内存占用大小,单位B
peakMemory

计算结果中内存峰值,单位B

部分情况下会没有记录,比如命中缓存或者内存控制未覆盖或者未走到检查点

cacheHitType缓存命中情况

直连:

0:未命中

1:PAGE_CACHE_HIT

2:HYPER_CACHE_HIT

3:SQL_CACHE_HIT

4:ETL_CACHE_HI

抽取:

1:分页缓存

2:全局缓存

cacheCost

缓存处理耗时

matchType

直连策略命中情况

0:表示未命中

1:表示规则命中但是实际未命中

2:表示规则命中,实际命中

parseTime解析耗时
mergeCost并发计算后合并操作的耗时
tableId数据集ID
widgetId组件ID
widgetType组件类型
dashboardId模板ID
baseCriteria基础查询信息
extra额外字段
executeType

运行状态

0:成功

1:报错

username查询用户名
frFullVersionFineReport工程模块版本
biFullVersionFineBI工程模块版本
cloudVersion云端运维插件版本

5.8 logpoint

埋点报错信息表

字段含义备注
埋点类型编号区分类别的父类ID
出现报错时间-
错误代码具体的错误代码参考 错误代码

6. 数据表-FDL编辑

6.1 fdlExecutorTask

记录FDL任务/节点/算子运行情况

字段
含义
id主键
targetId任务/节点/算子ID
category

一级分类(区分任务 OR 节点 OR 算子)

0:任务

1:节点

2:算子

type

二级分类

1)任务

SCHED:定时任务

2)节点
DATA_SYNC数据同步
DATA_FLOW数据转换
SQLSQL脚本
PARAM参数赋值
CONDITION条件分支
VIRTUAL虚拟节点
SUB_WORK调用任务
MESSAGE消息通知
LOOP循环容器
SHELL_NODEShell脚本

3)算子
PARAM_OUTPUT参数输出
数据源_READER数据源_输入
数据源_WRITER数据源_输出

beginTime执行开始时间 (时间戳格式)
endTime执行结束时间 (时间戳格式)
status

执行状态

任务和算子只有SUCCESS和FAILED状态

节点状态有SUCCESS、FAILED、EXECUTOR_LINE_NOT_MATCH

lasting执行耗时
extraInfo

执行补充信息(JSON)

execUser:执行用户(仅任务包含,定时调度触发或作为子任务被调用时值固定为SYSTEM、手动运行时值为对应用户)
errDetail:错误详情(仅失败任务包含,记录任务运行报错详情,与任务运维中运行结果为“报错”的任务的“报错信息”保持一致即可)
execThroughput:执行吞吐量
readRows读取数据行数
writeRows写入数据行数
updateRows更新数据行数
deleteRows删除数据行数
errorRows错误数据行数

time数据入库时间,logdb自动生成(Swift表清理需要)

6.2 fdlPipeExecInfo

字段含义
day
taskId
taskName
taskStatus
syncType
fullSyncFinished
sourceTableName
targetTableName
readRecordCount
totalReadRecordCount
toSyncRecordCount
errorRecordCount
insertRecordCount
totalInsertRecordCount
updateRecordCount
totalUpdateRecordCount
deleteRecordCount
totalDeleteRecordCount

6.3 fdlSchedExecInfo

字段
含义
id
targetId
category
type
beginTime
endTime
status
lasting
extraInfo
time

7. 其他说明编辑

若导出数据包时该日数据包已存在,则先将该日数据包删除后再导出,即进行覆盖操作。

(例如 2019-03-02 日凌晨四点会导出 2019-03-01 日数据包。而在 2019-03-01 日用户进行过手动下载,已生成当日数据包,2019-03-02 日凌晨四点导出的数据包则会将之前生成的数据包覆盖)。