配置管道任務-管道控制

  • 文档创建者:Roxy
  • 历史版本:15
  • 最近更新:Nikozhan 于 2025-03-07
  • 1. 概述

    FineDataLink版本
    功能變動
    4.0.26「管道控制」步驟中,新增「失敗重試」設定
    4.0.27髒資料臨界值由某個任務在某次開始運作到結束運作的區間臨界值變為任務自建立至今整體臨界值
    4.0.28

    「結果通知」中:

    • 新增釘釘、飛書、企業微信通知渠道

    • 簡訊/郵件/平台渠道:基於平台體系配置通知物件,通知物件可選擇平台使用者、部門、角色,三者取並集

    4.1.1可為管道任務單獨設定日誌匯出級別
    4.2.1.1

    髒資料臨界值改名為表髒資料臨界值

    通知內容中,可設定:當任務或表失敗重試時,發出通知

    管道任務中的表出現異常時,支援自動重試功能

    4.2.1.2建立管道任務時,日誌等級預設設定為 INFO

    設定來源表目標表映射關系後,即可對管道任務進行任務執行控制。

    2. 操作步驟

    2.1 設定表髒資料臨界值

    資料同步允許一定的故障容許度,比如欄位類型、長度不匹配、主鍵沖突等等問題,可以設定産生的 髒資料上限,達到上限則自動終止管道任務。

    使用者設定髒資料臨界值1000條,當某次任務運作期間髒資料達到1000條後,任務會異常中止;髒資料臨界值的定義是,某個任務自建立至今的整體臨界值。

    注1:限制最多10w行,且處理髒資料後,會重置臨界值統計。

    注2:若需要對産生的髒資料進行處理,詳情參見:管道任務處理髒資料

    2.2 設定失敗重試

    管道任務管道任務包含的表由於當時的網路波動或者其他原因,運作中斷,過段時間網路即可恢複正常,希望可自動重新運作,可在「失敗重試」中設定重跑次數和間隔時間。

    設定項
    說明
    重跑次數預設值為 3 次,最大值為 10 次
    間隔時間預設值為 2 分鍾,最大值為 60 分鍾

    具體說明如下表所示:

    級別
    錯誤說明開啟失敗重試效果
    任務級
    來源端網路異常

    網路連結失敗(僅包含網路問題

    觸發自動重試,重試邏輯:

    1)若全量同步未完成,會從頭全量同步;若全量同步已完成,會從斷點開始;即全量階段沒有斷點,只有增量階段有斷點同步

    2)管道任務只要重新運作了,都是按第一次開始重新計算

    配置庫異常

    配置庫讀寫失敗(包含網路、欄位、權限等所有會引起配置庫讀寫失敗的問題)

    訊息佇列異常

    網路連結失敗(僅包含網路問題)

    來源端非網路原因異常(各類源端日誌異常問題)不支援失敗重試功能
    其他非預期異常
    表級

    産生髒資料

    包含任何因為目標端異常而沒寫進去資料的情況

    全量階段髒資料達到臨界值
    增量階段髒資料達到臨界值4.2.1.1 及之後版本,則按照配置自動觸發髒資料重試(對髒資料進行重試),同時表狀態變為「髒資料處理中」

    2.3 設定結果通知

    可設定當任務異常時的通知。如下圖所示:

    注1:結果通知中勾選源表結構變化相關介紹詳情參見:資料管道-同步源表結構變化

    注2:單個管道任務失敗的通知限制為 10s 一次。

    2.3.1 通知內容

    4.2.1.1 及之後版本,任務或表失敗重試時可進行通知。

    觸發通知原因如下:

    級別
    錯誤說明是否觸發通知
    任務級
    來源端網路異常

    網路連結失敗(僅包含網路問題

    重試提醒

    配置庫異常

    配置庫讀寫失敗(包含網路、欄位、權限等所有會引起配置庫讀寫失敗的問題)

    訊息佇列異常

    網路連結失敗(僅包含網路問題)

    來源端非網路原因異常(各類源端日誌異常問題)

    任務直接異常中止

    其他非預期異常
    表級

    産生髒資料

    包含任何因為目標端異常而沒寫進去資料的情況

    未達到臨界值表正常同步

    全量階段髒資料達到臨界值

    任務直接異常中止

    增量階段髒資料達到臨界值

    重試提醒

    2.3.2 平台/郵件/簡訊說明

    • 當通知渠道為簡訊/郵件/平台渠道時:基於平台體系配置通知物件,通知物件可選擇平台使用者、部門、角色,三者取並集。

    • 通知渠道選擇簡訊/信箱時,「自訂收件人」與「平台使用者組」不能同時為空;其中,「自訂收件人」不支援引用參數。

    • 通知渠道選擇簡訊/信箱時,「平台使用者組」中選擇了 A 使用者,自訂收件人中也設定了 A 使用者,不做重複通知。

    2.3.3 釘釘/飛書/企業微信設定說明

    通知渠道選擇「用戶端」時,可設定通知渠道為釘釘群機器人/飛書群機器人/企業微信群機器人。

    注:一個通知渠道中,Webhook 地址不支援填寫多個。

    釘釘群機器人 Webhook 地址:可參考 自訂機器人接入

    飛書群機器人 Webhook 地址:自訂機器人使用指南

    企業微信群機器人 Webhook 地址:新增群機器人步驟如下圖所示,機器人新增成功的提示頁面上會有 webhook 地址:

    2.4 設定日誌等級

    可為管道任務單獨設定日誌匯出級別,滿足使用者按需查看日誌、除錯和排錯的需求;可以在更細粒度的日誌等級裏,列印詳細的日誌,供使用者查看。

    如下圖所示:

    注:4.2.1.2 及之後版本,建立管道任務時,日誌等級預設設定為 INFO。

    1)匯出的日誌說明:管道任務:讀寫程式日誌\異常和錯誤日誌。

    2)預設不開啟,未開啟時使用 全局設定的業務日誌等級記錄日誌全局日誌等級預設為 WARN。

    3)僅在管道未處於運作狀態時可以配置,啟動後生效。

    4)日誌級別可選擇 ERROR、WARN、INFO。

    • 日誌級別大小排序(嚴重程度):ERROR>WARN>INFO

    • 日誌詳細程度排序:ERROR<WARN<INFO

    日誌級別
    說明
    ERROR錯誤,異常情況導緻不可用
    WARN警告,可能會出現問題,但是依然可用,屬於警報
    INFO普通資訊,用於記錄運作狀態或重要事件

    5)調整單個管道任務的日誌匯出級別後,若修改了全局的日誌級別全局日誌的級別不會影響手動修改過日誌等級任務的級別。

    3. 後續步驟

    進行任務維運管理:单个管道任务管理管道任务运维


    附件列表


    主题: 資料管道
    • 有帮助
    • 没帮助
    • 只是浏览
    • 评价文档,奖励 1 ~ 100 随机 F 豆!