配置實時管道任務-任務控制

「結果通知」中：

• 新增釘釘、飛書、企業微信通知渠道

• 簡訊/郵件/平台渠道：基於平台體系配置通知物件，通知物件可選擇平台使用者、部門、角色，三者取並集

通知內容中，可設定：當任務或表失敗重試時，發出通知

管道任務中的表出現異常時，支援自動重試功能

通知內容劃分為任務級和表級，任務級和表級異常重試、或異常中止時，都可以進行通知

網路連結失敗（僅包含網路問題

觸發自動重試，重試邏輯：

1）若全量同步未完成，會從頭全量同步；若全量同步已完成，會從斷點開始；即全量階段沒有斷點，只有增量階段有斷點同步

2）管道任務只要重新運作了，都是按第一次開始重新計算

配置庫異常

配置庫讀寫失敗（包含網路、欄位、權限等所有會引起配置庫讀寫失敗的問題）

訊息佇列異常

網路連結失敗（僅包含網路問題）

産生髒資料

包含任何因為目標端異常而沒寫進去資料的情況

通知時機：

管道任務異常，進入第一次重試

通知內容：

• 標題：[實時管道] 任務 #jobname# 發生異常重試

• 內容：實時管道任務 #jobname# 發生網路或其他因素導致的異常，正在進行重試，請即時關注並處理

管道任務異常中止 

通知內容：

• 標題：[實時管道] 任務 #jobname# 發生異常中止

• 內容：實時管道任務 #jobname# 異常中止，可能是網路因素或其他導致任務無法繼續運作的異常因素，請即時關注並處理

表異常中止

從識別到第一個表同步出現此情況開始，收集3min內具體相同情況的表同步物件，統計為list放到通知內容裏 

通知內容： 

• 標題：[實時管道] 任務 #jobname# 發生表同步中止

• 內容：實時管道任務 #jobname# 中存在異常中止的表同步物件，源表： #sourcetablename_list#，請即時關注並處理

通知時機：

表同步時，源表發生表結構變化 

通知內容： 

• 標題：[實時管道] 任務 #jobname# 發生源表結構變化

• 內容：實時管道任務 #jobname# 出現源表結構變化，源表 #tablename# 變化情況：#changetype#，在目標表應用情況：#applyresult#，請即時關注。

應用場景

解析異常、Kafka快取異常、寫入異常等問題會導致實時同步產生延遲，業務人員查看報表會發現資料不對，會反饋給 IT，IT會排查實時管道任務是否出現問題

當實時管道寫入延遲過大時，或者待同步量過大時，希望能提醒 IT 人員

功能簡介：

每個表的同步延遲=解析延遲 + 寫入延遲

1）支援配置單表延遲臨界值、通知間隔

• 單表延遲臨界值：單位為分鐘、小時；值必須大於等於30

• 通知間隔：單位為分鐘、小時；值必須大於等於1

2）功能邏輯：

• 當實時管道中的每一個表啟動運作時間>30時，才進行延遲檢查（防止啟動時追歷史資料，導致誤判延遲）

• 當表的同步延遲超過臨界值時，進入延遲磁軌狀態：每1min進行檢查，管道任務中所有表的延遲時間；如果存在一張表連續超過 5 次檢查，延遲時間持續超過臨界值，則觸發通知

• 當觸發通知後，在通知間隔內，不再傳送新通知，通知間隔按任務級計時

3）通知內容：

實時管道${任務名稱}同步延遲警報，請即時處理，延遲情況如下：${表名}同步延遲${最新同步延遲時間}、${表名}同步延遲${最新同步延遲時間}....等（只列印10張表的情況，按同步延遲時間降冪列印前十張）

實時管道任務產生髒資料時，不會進行通知，等維運人員處理髒資料時，可能已經超過 Kafka 的儲存時間，導致需要重新同步管道任務，恢復成本較高

功能簡介：

1）將過去一個小時中產生的髒資料情況通知給使用者（若過去一小時沒產生髒資料，則不通知）

2）通知頻率為一小時通知一次

注：髒資料的 topic 訊息儲存時間調整為 30 天

3）通知內容：

• 標題：[實時任務|實時管道]${任務名稱}新增髒資料

• 內容：過去一小時，[實時任務|實時管道]${任務名稱}新增了髒資料，可能導致資料不一致，請即時處理，髒資料情況如下：${表名}新增${該表髒資料條數}條髒資料、${表名}新增${該表髒資料條數}條髒資料....