提示:本文內容適用於 4.2.11.3 及之後版本;4.2.11.3 之前版本,請參見:曆史文檔
通知內容劃分為任務級和表級,任務級和表級異常重試、或異常中止時,都可以進行通知
「結果通知」中:
新增釘釘、飛書、企業微信通知渠道
簡訊/郵件/平台渠道:基於平台體系配置通知物件,通知物件可選擇平台使用者、部門、角色,三者取並集
通知內容中,可設定:當任務或表失敗重試時,發出通知
管道任務中的表出現異常時,支援自動重試功能
設定來源表目標表映射關系後,即可對實時管道任務進行任務執行控制。如下圖所示:
注1:限制最多10w行,且處理髒資料後,會重置臨界值統計。
注2:若需要對産生的髒資料進行處理,詳情參見:管道任務處理髒資料
管道任務中單表髒資料達到表髒資料臨界值後,任務會異常中止。
若管道任務、管道任務包含的表由於當時的網路波動或者其他原因,運作中斷,過段時間網路即可恢複正常,希望可自動重新運作,可在「失敗重試」中設定重跑次數和間隔時間。
具體說明如下表所示:
網路連結失敗(僅包含網路問題
觸發自動重試,重試邏輯:
1)若全量同步未完成,會從頭全量同步;若全量同步已完成,會從斷點開始;即全量階段沒有斷點,只有增量階段有斷點同步
2)管道任務只要重新運作了,都是按第一次開始重新計算
配置庫異常
配置庫讀寫失敗(包含網路、欄位、權限等所有會引起配置庫讀寫失敗的問題)
訊息佇列異常
網路連結失敗(僅包含網路問題)
産生髒資料
包含任何因為目標端異常而沒寫進去資料的情況
可設定當任務異常時的通知。如下圖所示:
注1:結果通知中勾選源表結構變化相關介紹詳情參見:資料管道-同步源表結構變化
注2:單個管道任務失敗的通知限制為 10s 一次。
4.2.1.1 及之後版本,任務或表失敗重試時可進行通知。
標題:
[實時管道] 任務 #jobname# 發生異常重試
內容:
實時管道任務 #jobname# 發生網路或其他因素導緻的異常,正在進行重試,請即時關注並處理
[實時管道] 任務 #jobname# 發生異常中止
實時管道任務 #jobname# 異常中止,可能是網路因素或其他導緻任務無法繼續運作的異常因素,請即時關注並處理
表同步時,出現異常,進入第一次重試
從識別到第一個表同步出現此情況開始,收集 3min 內具體相同情況的表同步物件,統計為 list 放到通知內容裏
[實時管道] 任務 #jobname# 發生表同步重試
實時管道任務 #jobname# 中存在寫入異常的表同步物件,正在對進行重試寫入,源表: #sourcetablename_list#,請即時關注
重試完成,表同步恢複正常
從識別到第一個表同步出現此情況開始,收集 3min 內具體相同情況的表同步物件,統計為list放到通知內容裏
[實時管道] 任務 #jobname# 表同步重試成功
實時管道任務 #jobname# 中源表: #sourcetablename_list# 重試完成,已正常恢複同步,請即時關注
從識別到第一個表同步出現此情況開始,收集3min內具體相同情況的表同步物件,統計為list放到通知內容裏
[實時管道] 任務 #jobname# 發生表同步中止
實時管道任務 #jobname# 中存在異常中止的表同步物件,源表: #sourcetablename_list#,請即時關注並處理
[實時管道] 任務 #jobname# 發生源表結構變化
實時管道任務 #jobname# 出現源表結構變化,源表 #tablename# 變化情況:#changetype#,在目標表應用情況:#applyresult#,請即時關注。
當通知渠道為簡訊/郵件/平台渠道時:基於平台體系配置通知物件,通知物件可選擇平台使用者、部門、角色,三者取並集。
通知渠道選擇簡訊/信箱時,「自訂收件人」與「平台使用者組」不能同時為空;其中,「自訂收件人」不支援引用參數。
通知渠道選擇簡訊/信箱時,「平台使用者組」中選擇了 A 使用者,自訂收件人中也設定了 A 使用者,不做重複通知。
通知渠道選擇「使用者端」時,可設定通知渠道為釘釘群機器人/飛書群機器人/企業微信群機器人。
注:一個通知渠道中,Webhook 地址不支援填寫多個。
釘釘群機器人 Webhook 地址:可參考 自訂機器人接入
飛書群機器人 Webhook 地址:自訂機器人使用指南
企業微信群機器人 Webhook 地址:新增群機器人步驟如下圖所示,機器人新增成功的提示頁面上會有 webhook 地址:
可為管道任務單獨設定日誌匯出級別,滿足使用者按需查看日誌、除錯和排錯的需求;可以在更細粒度的日誌等級裏,列印詳細的日誌,供使用者查看。
如下圖所示:
注:4.2.1.2 及之後版本,建立管道任務時,日誌等級預設設定為 INFO。
1)匯出的日誌說明:管道任務:讀寫程式日誌\異常和錯誤日誌。
2)預設不開啟,未開啟時使用 全局設定的業務日誌等級記錄日誌,全局日誌等級預設為 WARN。
3)僅在管道未處於運作狀態時可以配置,啟動後生效。
4)日誌級別可選擇 ERROR、WARN、INFO。
日誌級別大小排序(嚴重程度):ERROR>WARN>INFO
日誌詳細程度排序:ERROR<WARN<INFO
5)調整單個管道任務的日誌匯出級別後,若修改了全局的日誌級別,全局日誌的級別不會影響手動修改過日誌等級任務的級別。
1)點選「啟動所有表」按鈕,實時同步所有來源表。如下圖所示:
2)進行任務維運管理:單個管道任務管理、管道任務維運
3)實時管道任務運作一段時間後,若想修改任務配置,請參見:管理實時管道任務
滑鼠選中內容,快速回饋問題
滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。
不再提示
10s後關閉
反馈已提交
网络繁忙