1. 概述
1.1 版本
FineDataLink 版本 | 功能變動 |
---|---|
4.1.11.4 | - |
4.1.13.2 | 增加MQTT輸入、IBM MQ輸入資料源心跳檢查 |
4.1.13.4 | 增加轉換類算子的運作日誌 |
4.2.4.3 | 優化日誌,詳情參見下文標註的版本新增和優化 |
1.2 功能簡介
實時任務運作時,會産生運作日誌,便於使用者查看任務運作情況。如下圖所示:
2. 使用者需知
設定日誌級別後(任務控制概述、日誌簡介),列印的日誌說明如下表所示:
設定的日誌級別 | 列印的日誌級別 |
---|---|
INFO級別 | BASIC INFO ERROR WARN INFO |
WARN級別 | BASIC INFO ERROR WARN |
ERROR級別 | BASIC INFO ERROR |
3. 任務啟動程式
事件 | 日誌等級 | 列印日誌 |
---|---|---|
開始啟動 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務開始啟動 |
重置啟動 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務開始重置啟動 4.2.4.3 版本新增 |
配置檢查 - lic檢查 | ERROR | yyyy-mm-dd hh:min:ss 註冊功能點異常 詳細報錯:..... |
配置檢查 - 外置引擎檢查 | BASIC INFO | yyyy-mm-dd hh:min:ss 成功連結外置引擎 |
ERROR | yyyy-mm-dd hh:min:ss 外置引擎連結異常 詳細報錯:..... | |
ERROR | yyyy-mm-dd hh:min:ss 外置引擎提交任務異常 詳細報錯:..... | |
配置檢查 - 傳輸佇列檢查 (僅有CDC輸入時列印) | ERROR | yyyy-mm-dd hh:min:ss 傳輸佇列連結異常 詳細報錯:..... |
配置檢查 - 資料連結檢查 | ERROR | yyyy-mm-dd hh:min:ss XX資料連結異常 詳細報錯:..... |
配置檢查 - 任務配置有效性檢查 | ERROR | yyyy-mm-dd hh:min:ss 任務配置異常 詳細報錯:..... |
配置檢查 - 連結異常 | ERROR | yyyy-mm-dd hh:min:ss XX資料連結異常 |
配置檢查 - 獲取待解析日誌列表失敗 | ERROR | yyyy-mm-dd hh:min:ss 獲取待解析日誌列表失敗(僅Oracle19c) 詳細報錯:..... |
配置檢查 - 狀態檢查 | ERROR | yyyy-mm-dd hh:min:ss 不相容任務曆史運作狀態,恢複啟動失敗,請重置啟動 詳細報錯:..... |
配置檢查 - 日誌斷點無效 | ERROR | yyyy-mm-dd hh:min:ss 日誌斷點失效,請重置啟動,防止資料丟失 |
配置檢查 - 日誌儲存時間過短 | WARN | yyyy-mm-dd hh:min:ss 源端日誌儲存時間過短,建議將日誌保留時間至少設定為7天,否則可能出現任務暫停後再啟動時日誌斷點失效 |
配置檢查成功 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務配置檢查成功 當前任務同步類型:全量量+增量 / 僅增量 / 指定時間 當前任務增量起點:(日誌號+對應時間)(如果任務是全量+增量,就不列印此行) |
啟動斷點應用 | BASIC INFO | yyyy-mm-dd hh:min:ss 【算子名稱】從上次暫停的斷點啟動 斷點詳情:.... |
啟動失敗 | ERROR | yyyy-mm-dd hh:min:ss 內建引擎記憶體、並發數不足(受記憶體和並發控制)
當前任務超出記憶體限制,請調整負載分配後重啟任務
當前任務超出並發限制,請調整負載分配後重啟任務 |
啟動成功 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務啟動成功 |
斷點應用 | BASIC INFO | yyyy-mm-dd hh:min:ss 斷點詳情:.... 4.2.4.3 版本新增 |
4. 任務運作程式
事件 | 日誌等級 | 列印日誌 |
---|---|---|
全量同步 | BASIC INFO | yyyy-mm-dd hh:min:ss 【算子名稱】開始全量同步 |
ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】全量資料讀取異常 | |
BASIC INFO | yyyy-mm-dd hh:min:ss 【算子名稱】全量同步成功,等待進入增量同步 | |
開始增量同步 | BASIC INFO | yyyy-mm-dd hh:min:ss 【算子名稱】開始增量同步 |
傳輸佇列連結異常 (僅有CDC輸入時列印) | ERROR | yyyy-mm-dd hh:min:ss 傳輸佇列連結異常 錯誤詳情:... |
外置引擎連結異常 (僅在外置引擎運作時列印) | ERROR | yyyy-mm-dd hh:min:ss 外置引擎連結異常 錯誤詳情:... |
源端增量讀取異常 (造成任務中斷) | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】增量資料讀取異常 錯誤詳情:... |
源端增量讀取警報 (不中斷僅記錄) | WARN | yyyy-mm-dd hh:min:ss 【算子名稱】增量資料讀取警報 警報詳情:.... |
源端增量讀取資訊 | INFO | yyyy-mm-dd hh:min:ss 【算子名稱】增量資料讀取資訊 資訊詳情:... |
JSON解析異常 (造成任務中斷或記錄髒資料) | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】JSON解析異常 錯誤詳情:... |
目標端資料寫入異常 (造成任務中斷或記錄髒資料) | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】資料匯出寫入異常 錯誤詳情:... |
目標端資料寫入警報 (不中斷僅記錄) | WARN | yyyy-mm-dd hh:min:ss 【算子名稱】資料寫入警報 警報詳情:... |
目標端資料寫入資訊 | INFO | yyyy-mm-dd hh:min:ss 【算子名稱】資料寫入資訊 資訊詳情:... |
資料源心跳檢查(持續定期記錄) | BASIC INF O 注:4.2.4.3 版本修改為BASIC INFO,保證當同步趕上進度後仍然持續有日誌 | 當前讀取步驟:XXX 當前FDL伺服器時間:2023-11-15 14:47:54 每5S列印一次 4.2.4.3 版本優化: 「當前讀取的日誌時間」、「當前FDL伺服器時間」這兩個屬性,每隔5S的心跳日誌,都實時重新整理 |
資料聯動異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】資料聯動異常 錯誤詳情:... |
資料聯動實時資料源和維度表join資訊 (列印出每一筆資料,join的維度表資訊) | INFO | yyyy-mm-dd hh:min:ss 【算子名稱】join維度表資訊 資訊詳情... |
欄轉列異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】欄轉列異常 錯誤詳情:... |
欄位拆行異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】欄位拆行異常 錯誤詳情:... |
欄位拆列異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】欄位拆列異常 錯誤詳情:... |
欄位設定異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】欄位設定異常 錯誤詳情:... |
新增計算列異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】新增計算列異常 錯誤詳情:... |
xml解析異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】xml解析異常 錯誤詳情:... |
資料過濾異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】資料過濾異常 錯誤詳情:... |
值取代異常 | ERROR | yyyy-mm-dd hh:min:ss 【算子名稱】值取代異常 錯誤詳情:... |
5. 任務暫停程式
事件 | 日誌等級 | 列印日誌 |
---|---|---|
開始暫停 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務開始暫停 |
暫停失敗 | ERROR | yyyy-mm-dd hh:min:ss 任務暫停失敗 錯誤詳情:.... |
暫停成功 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務暫停成功 |
6. 任務失敗重試程式
事件 | 日誌等級 | 列印日誌 |
---|---|---|
開始失敗重試 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務開始失敗重試(第N次重試) |
失敗重試異常 | ERROR | yyyy-mm-dd hh:min:ss 任務失敗重試異常 異常原因:... |
失敗重試次數超過臨界值 | ERROR | yyyy-mm-dd hh:min:ss 任務重試次數超過臨界值[X] |
7. 任務報錯中止程式
事件 | 日誌等級 | 列印日誌 |
---|---|---|
已終止 | BASIC INFO | yyyy-mm-dd hh:min:ss 任務報錯,停止運作 |
8. 髒資料處理程式
事件 | 日誌等級 | 列印日誌 |
---|---|---|
記錄髒資料 | WARN | yyyy-mm-dd hh:min:ss 新增髒資料 髒資料詳情:... |