配置定時管道任務

  • 文檔創建者:Laurenwy
  • 編輯次數:4
  • 最近更新:帆软用户UT9OHLQhgP 于 2026-10-16
  • 1. 概述

    1.1 版本

    FineDataLink版本
    功能變動
    4.2.10.4-
    4.2.12.4
    • 優化「新增表」列表展示效果,支援顯示分類

    • 選擇自動建表時,目標表名稱預設為來源表的英文名,備註為來源表中文名

    • 當目標庫是 SQL Server 時,來源表的 String 預設對應目標表的 nvarchar(max)

    • 定時管道支援 DDL 檢測,詳情請參見:定時管道DDL同步

    • 「同步起點」配置項更名為「首次同步起點」

    4.2.14.1
    • 釘釘OA審批、釘釘宜搭、釘釘(企業內部應用)、飛書表格應用資料源,在欄位映射處支援修改來源端欄位類型

    • 定時管道新增表時支援查看表資訊&顯示灰化增量無主鍵表

    4.2.22.4&5.0.15.4定時管道適配叢集環境

    1.2 應用場景

    當前開發者在對接標準平台時,面臨雲上應用資料源對接不準確、效率低、維運成本高的問題。希望提供一種快速、精準、低維運的對接方案,簡化開發流程,提升對接效率。


    1.3 功能簡介

    透過雲上代理轉發+解析方案,以定時任務方式對接應用資料源,簡化資料獲取流程,解決多源異構資料整合的問題,降低企業在資料開發環節的時效性成本,並提供統一的任務管理和監視,助力企業快速連結和使用分散在各系統/平台的資料,實現資料驅動的業務分析與決策。

    2. 前提條件

    1)需要先配置定時管道來源端、目標端的資料連結;定時管道適配的資料源請參見:定時管道支援的資料源

    工程所在伺服器需具備存取外網權限,或者可以配置白名單:

    2)使用者需註冊「定時管道」功能點才能使用定時管道功能。

    3)使用者若想建立定時管道任務,需要有定時管道的管理權限,詳情請參見:定時管道任務管理權限

    4)定時管道模組受 負載分配 功能限制,使用者需要調整定時管道模組的記憶體分配、併發控制才能正常使用定時管道功能。

    3. 操作步驟

    3.1 建立定時管道任務

    進入 FineDataLink 工程後,點選「資料管道>定時管道」,可建立定時管道任務。設定定時管道任務名稱、所屬目錄後,點選「確定」按鈕即可。如下圖所示:

    3.2 選擇資料來源和資料去向

    選擇定時管道任務的來源端、目標端。如下圖所示:

    注 :定時管道任務適配的來源端、目標端請參見:定時管道支援的資料源

    3.3 新增表

    1)點選「新增表」按鈕,可在搜尋框中輸入表名稱,快速選表,最後點選「處理表」按鈕。如下圖所示:

    • 支援模糊搜尋表名稱。

    • 下拉框中只展示當前任務未選擇的表。

    • 最多支援選擇 300 張表。

      4.2.14.1 及之後版本,新增表時支援查看表資訊。如下圖所示:

      2)使用者可設定子表匯出方式(若來源表包含子表)、首次同步起點。如下圖所示:

      設定項
      說明
      設定項出現場景

      1)若來源表為全量表、無子表,則無法設定首次同步起點、子表處理

      2)若來源表為全量表、有子表,則無法設定首次同步起點

      3)若來源表為增量表、無子表,支援設定首次同步起點

      4)若來源表為增量表、有子表,則可設定首次同步起點、子表處理

      首次同步起點

      1)首次同步起點僅在建立表時支援配置;

      2)首次同步時間預設為當前時間 7 天前的日期值(精確到秒)

      3)為定時管道任務 首次運作 時每個表的同步起點

      首次同步起點是一次性配置,相當於先獲取近 7 天的資料驗證一下準確性,確認沒有問題後,在手動運作同步資料(本文 3.6 節)時,可以自訂資料的取數範圍,獲取歷史資料。

      注 :每次一個增量表同步成功後斷點位置就會更新到最新位置,一個增量表同步失敗則不更新斷點位置(更新到失敗前成功寫入的位置),不同表之間相互不影響

      注 2:全量表無此配置,也不會更新斷點位置。

      子表處理

      匯出效果見本文 3.6.2 節

      以欄位匯出:

      1)最終匯出效果:目標表為一張,包含「主表所有欄位」+「一個包含子表資料的JSON欄位」

      以子表匯出:

      1)最終匯出效果:目標表為多張,主表內容和子表內容單獨匯出;主表僅同步主表欄位,子表同步主表的主鍵欄位+子表所有欄位

      2)子表的表類型跟隨主表

      3)若刪除主表,子表一起被刪除,不支援單獨刪除子表

      注:以子表匯出後,匯出的子表資料可透過主表的主鍵進行聯動

      表類型

      可對表類型進行篩選

      批量操作

      支援批量設定表的首次同步起點、子表處理;支援批量刪除來源表

      3.4 欄位映射

      新增完表後,介面如下圖所示:

      注 1:通用配置-自動建表配置、通用配置-欄位映射規則 對定時管道任務生效。

      注 2:4.2.12.4 及之後版本,當目標庫是 SQL Server 時,來源表的 String 預設對應目標表的 nvarchar(max)。


      序號
      說明
      1新增表後,此處顯示總表數+子表數(若沒有子表,不顯示)
      2

      可對目標表的配置情況、表建立方式進行篩選。如下圖所示:

      3點選後,出現「刪除」按鈕,可刪除主表;子表不支援單獨刪除
      4

      可選擇同名映射、同行映射。詳情請參見:資料同步-資料去向與映射

      5

      選中主表後,點選「表處理」按鈕後,介面如下圖所示:

      • 子表不顯示「表處理」按鈕

      • 點選「表處理」按鈕,可修改主表的同步起點、子表處理方式

      6

      目標表建立方式:已存在表、自動建表

      4.2.12.4 及之後版本,選擇「自動建表」時,目標表名稱預設為來源表的英文名稱

      注1:目標表建表方式建議選擇「自動建表」

      注2:若目標表為「已存在表」&來源表存在主鍵,目標表中主鍵需要與來源表中主鍵一一對應,否則同步可能會出錯或者同步速度較慢

      注3:來源表同步時,會同步一些系統欄位幫助排查,若使用者不需要,可取消映射

      7

      可對目標表的映射情況進行篩選:

      8目標表選擇「自動建表」時,才顯示「手動建表」功能。詳情請參見:資料同步-資料去向與映射             
      9

      點選「批量操作」按鈕後,可對來源表批量修改同步起點、子表處理方式;可批量修改目標表建立方式;可批量刪除來源表

      10

      支援為目標表新增備注

      4.2.12.4 及之後版本,選擇「自動建表」時,表備註預設為來源表中文名

      11

      來源表-子表:

      • 顯示兩列:來源表欄位、類型

      • 欄位類型支援:string、date、number、date 

      非來源表-子表:

      • 顯示四列:來源表欄位、類型、主鍵、NOT NULL;不支援表描述和註釋

      • 欄位類型支援:string、date、number、date 

      來源表的系統欄位被標記顯示;當來源表沒有主鍵時,系統欄位標記為主鍵,不可取消映射

      12

      目標表為自動建表:

      若目標表選擇「自動建表」,定時管道任務運作成功後,仍為「自動建表」

      1)來源表不是子表

      • 映射的來源表的主鍵不可取消

      • 不支援新增新的主鍵

      2)來源表為子表

      • 不支援配置主鍵

      • 不顯示主鍵、NOT NUL列

      目標表為已存在表:

      來源表為子表:

      • 顯示主鍵、NOT NUL列

      4.2.14.1 及之後版本,釘釘OA審批、釘釘宜搭、釘釘(企業內部應用)、飛書表格應用資料源,在欄位映射處支援修改來源端欄位類型。如下圖所示:

      3.5 寫入方式

      寫入方式介面如下圖所示:

      注 :寫入方式不支援修改。

      場景
      說明
      • 來源表有主鍵,且目標表主鍵與來源表主鍵建立映射

      • 來源表無主鍵

      根據來源表主鍵,生成主鍵映射行確定資料唯一性

      顯示內容:

      來源表有主鍵,目標表主鍵與來源表主鍵未建立映射

      顯示內容:

      來源表無主鍵,目標表有主鍵

      顯示內容:

      來源表、目標表都沒有主鍵

      顯示內容:

      來源表無主鍵,子表的寫入

      根據來源表的等值欄位(主表主鍵欄位)生成映射行,作為目標表資料清空再寫入的依據

      顯示內容:

      3.6 運作同步資料

      配置完成成,點選下方「儲存」按鈕即可。

      注:若建立的定時管道任務沒有儲存,直接點選「傳回」按鈕,任務狀態記錄為草稿態,下次點選任務進入建立頁面。


      3.6.1 手動運作

      1)在定時管道任務詳情頁,點選「運作所有表」按鈕。全量表將同步所有資料,增量表將按照首次同步時間先獲取一小部分資料,驗證一下資料的準確性。如下圖所示:


      2)若資料無誤,再自訂資料同步起點,拉取歷史資料。如下圖所示:


      3.6.1 匯出效果效果

      若來源表有子表,配運作成功後,寫入資料效果如下:

      以欄位匯出目標表:


      以子表匯出目標表:

      主表資料:


      其中一張子表資料:


      子表單獨匯出且對應的目標表為自動建表時,等值更新的欄位會建立索引。如下圖所示:

      4. 任務控制

      在定時管道任務詳情頁,點選「任務控制」按鈕,可為定時管道任務設定故障容許度機制、結果通知、日誌等級。


      4.1 故障容許度機制

      可為定時管道任務設定單表髒資料臨界值、失敗重試。如下圖所示:


      設定項
      說明
      單表髒資料臨界值

      應用場景:

      資料同步允許一定的故障容許度,比如欄位類型、長度不匹配、主鍵衝突等等問題,可以設定產生的髒資料上限,達到上限則自動終止表同步

      功能效果:

      使用者設定髒資料臨界值 1000 條,當某張表從第一次同步到目前為止髒資料達到 1000 條後,會終止該表的同步

      功能簡介:

      預設 1000 條,最大值為1w

      超出臨界值僅該表同步失敗,不影響其他表

      失敗重試

      詳情請參見:實時管道任務失敗重試

      失敗重試與報錯邏輯:

      1)任務讀取、任務寫入異常時(比如源端連結失敗、目標端連結失敗,這類會導致所有表同步失敗的問題):

      • 如果開啟了失敗重試,則表的同步暫停(表狀態不變),先進行任務級失敗重試,如果重試成功,則繼續表的同步,此時不記錄表級的報錯和重試

      • 如果沒開啟失敗重試或者重試後依然失敗,則直接報錯任務同步失敗,影響的表均記錄單表同步失敗事件(包括失敗詳情)

      2)當任務層級沒有異常,單表出現異常時:

      • 如果開啟了失敗重試,則對於單表進行重試,記錄表的異常事件和重試,不影響任務本身和其他表;如果重試成功最後該表為同步成功

      • 如果沒開啟失敗重試或者重試後依然失敗,則表記錄單表同步失敗,不影響其他表的運作,最終任務記錄同步失敗事件

      4.2 結果通知

      可將任務運作結果通知給使用者。如下圖所示:


      通知內容:

      通知選項
      通知條件通知內容
      任務同步異常(結果通知按鈕若開啟,該選項必勾選)任務構建失敗

      標題:

      [定時管道] 任務 #jobname# 構建失敗

      內容:

      定時管道任務 #jobname# 構建失敗,本次同步開始時間為#start_time# ,結束時間為#finish_time# ,請前往【維運中心】-【定時管道】-【運作記錄】查看


      任務同步結束,存在表同步異常(包括同步是失敗和中止)

      標題:

      [定時管道] 任務 #jobname# 運作結束,存在異常表同步

      內容:

      定時管道任務 #jobname# 運作結束,本次同步開始時間為#start_time# ,結束時間為#finish_time# ,x張表同步出現異常,y張表成功同步,請前往【維運中心】-【定時管道】-【運作記錄】查看

      任務同步成功任務同步結束,所有表同步無異常

      標題:

      [定時管道] 任務 #jobname# 運作結束,無異常

      內容:

      定時管道任務 #jobname# 運作結束,本次同步開始時間為#start_time# ,結束時間為#finish_time# ,x張表全部成功同步,詳情請前往【維運中心】-【定時管道】-【運作記錄】查看

      髒資料匯總資訊任務同步結束,擷取搭配髒資料

      標題:

      [定時管道] 任務 #jobname# 運作結束,存在髒資料

      內容: 

      定時管道任務 #jobname# 運作結束,本次運作累計擷取髒資料x條,請前往【維運中心】-【定時管道】-【運作記錄】查看

      源表結構變化

      (4.2.12.4 及之後版本新增)

      開啟「同步源表結構變化後,感知到源表結構變化:源表新增欄位、源表刪除欄位、源表修改欄位類型或長度

      簡訊提醒/郵件提醒

      標題:

      定時同步源表結構變化通知

      內容:

      您好,定時管道「#taskname#」中,來源表「#tablename#」結構發生變化,請前往「任務維運」-「定時管道」模組,在對應任務日誌中查看詳情。


      平台訊息:

      內容:

      定時管道「#taskname#」中,來源表「#tablename#」結構發生變化,請前往「任務維運」-「定時管道」模組,在對應任務日誌中查看詳情。

      刪除欄位 - 定時管道任務名 - 來源表名

      新增欄位 - 定時管道任務名 - 來源表名

      修改欄位類型 - 定時管道任務名 - 來源表名

      通知渠道:

      支援通知渠道:平台使用者、釘釘、飛書、企業微信、郵件、簡訊、WeLink 。

      1)平台/郵件/簡訊說明

      • 當通知渠道為簡訊/郵件/平台渠道時:基於平台體系配置通知物件,通知物件可選擇平台使用者、部門、角色,三者取並集。

      • 通知渠道選擇簡訊/信箱時,「自訂收件人」與「平台使用者組」不能同時為空;其中,「自訂收件人」不支援引用參數。

      • 通知渠道選擇簡訊/信箱時,「平台使用者組」中選擇了 A 使用者,自訂收件人中也設定了 A 使用者,不做重複通知。

      2)釘釘/飛書/企業微信/WeLink 設定說明


      通知渠道選擇「使用者端」時,可設定通知渠道為釘釘群機器人/飛書群機器人/企業微信群機器人/WeLink。

      注:一個通知渠道中,Webhook 地址不支援填寫多個。

      釘釘群機器人 Webhook 地址:可參考 自訂機器人接入

      飛書群機器人 Webhook 地址:自訂機器人使用指南

      企業微信群機器人 Webhook 地址:新增群機器人步驟如下圖所示,機器人新增成功的提示頁面上會有 webhook 地址:


      4.2.19.1及之後版本,新增「WeLink」通知方式,具體設定項說明請參見:WeLink

      4.3 任務屬性

      可為定時管道任務單獨設定日誌匯出級別,滿足使用者按需查看日誌、除錯和排錯的需求;可以在更細粒度的日誌等級裏,列印詳細的日誌,供使用者查看。

      如下圖所示:

      詳情請參見:配置管道任務-任務控制 文檔的 2.4 節內容。

      5. 排程管理

      在定時管道任務詳情頁,點選「排程管理」按鈕,可為定時管道任務設定執行頻率。如下圖所示:

      詳細說明請參見:排程管理

      注:一個定時管道任務只能新增一個排程管理;關閉調度後,將不再按照執行頻率到期執行,如果關閉時任務已開始運作,不中止本次同步。

      注:對於正在運作的任務,如果運作到下次調度時間還沒結束,不再被調度發起新的實體。

      6. 定時管道任務維運

      分類
      簡介文檔
      單個定時管道任務管理

      行動、重新命名、刪除管道任務

      編輯、刪除、運作定時管道任務

      管理定時管道任務
      查看定時管道任務的配置詳情、運作記錄定時管道任務配置/運作詳情說明
      介紹定時管道任務運作流程與狀態定時管道任務狀態、表狀態說明
      批量定時管道任務維運可根據任務狀態、任務名稱、觸發方式、是否有髒資料、是否有異常表、運作記錄時間篩選運作記錄,查看任務運作情況定時管道任務維運-運作記錄
      可查看定時管道任務的配置資訊,支援為定時管道任務設定排程管理、任務控制,支援編輯、刪除定時管道任務定時管道任務維運-任務管理



      附件列表


      主題: 定時管道
      已經是第一篇
      已經是最後一篇
      • 有幫助
      • 沒幫助
      • 只是瀏覽
      中文(繁體)

      滑鼠選中內容,快速回饋問題

      滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。

      不再提示

      10s後關閉

      獲取幫助
      線上支援
      獲取專業技術支援,快速幫助您解決問題
      工作日9:00-12:00,13:30-17:30在线
      頁面反饋
      針對當前網頁的建議、問題反饋
      售前咨詢
      業務咨詢
      電話:0933-790886或 0989-092892
      郵箱:taiwan@fanruan.com
      頁面反饋
      *問題分類
      不能為空
      問題描述
      0/1000
      不能為空

      反馈已提交

      网络繁忙