定時管道DDL同步

  • 文檔創建者:Nikozhan
  • 編輯次數:1
  • 1. 概述

    1.1 版本

    FineDataLink版本
    功能變動
    4.2.12.4

    定時管道支援 DDL 檢

    新增「同步源表結構變化」,支援新增欄位、欄位類型等變化同步修改

    1.2 應用場景

    定時管道任務同步應用資料源時,源端表結構可能因業務調整發生 DDL 變更(增刪表、增刪欄位等)。若未即時感知處理,易導緻同步異常、資料不一緻,影響下遊業務。

    使用者需快速感知該變化,且支援手動更新映射或自動同步部分 DDL 變化,靈活完成適配調整。

    1.3 功能簡介

    源端 DDL 變化感知:若源表&源表結構發生變化,在任務詳情頁可提示對應的變化內容。

    同步源表結構變化:對於部分源端的 DDL 變化,開啟「同步源表結構變化」設定,無需手動更新映射,運作時可自動同步變更內容。

    2. 源表結構變化檢查內容及處理方式

    可檢查的源表及源表結構變化及處理方式如下表所示:

    變化類型
    手動更新自動同步
    表數量&表名變化
    源端新增表
    需手動新增表不支援自動同步
    源端刪除表需手動刪除表
    源端修改表名

    視為源表刪除

    需手動刪除源表後 重新新增表

    表結構變化
    源端新增欄位

    支援手動更新映

    詳情參見本文第 3 節

    開啟「同步源表結構變化」後,支援自動同步

    詳情參見本文第 4 節

    源端刪除欄位
    源端重新命名欄位
    源端修改欄位類型
    源端修改主鍵欄位欄位映射中不支援編輯源端主鍵,只能刪除表後重新新增不支援自動同步

    3. 手動更新

    進入任務詳情頁,若來源表結構變化,則會提示使用者有 x 張表映射可更新。點選「篩選」可篩選出表映射可以更新的表。如下圖所示:

    點選「編輯」按鈕進入編輯介面。如下圖所示:

    3.1 更新欄位映射

    若來源表結構變化,點選「更新映射」更新來源表結構。如下圖所示:

    「更新映射」表會展示來源欄位的變化情況,點選「更新映射與目標表」會直接進入「更新目標表」頁面。更新目標表內容請參見本文 3.2 節。

    點選「更新映射」後,會先更新來源表的欄位映射,並在目標表中標紅映射不一緻的內容。需要點選「更新目標表」按鈕,對目標表進行調整。更新目標表詳情請參見本文 3.2 節。

    3.2 更新目標表

    若來源表欄位相較之前有變化,則可以對目標表進行調整,可以選擇已有目標表欄位、也可以手動輸入新欄位,確認對應映射關系變化後,即可對應生成目標表執行的 DDL 語句並執行。

    • 支援對目標表建立、刪除欄位、重新命名欄位;

    • 支援修改目標表欄位類型、長度精度;

    • 支援為目標表配置非空、主鍵、注釋;

    • 支援展示更改記錄、還原修改;

    1)點選「更新目標表」,彈窗中展示目標表實際內容和順序,可對欄位結構進行調整。如下圖所示:

    2)支援「一鍵帶入」功能。以「欄位名」為唯一標識(同名映射邏輯),比對來源表和目標表結構;只要來源表與目標表結構不一緻,就支援將來源表結構一鍵帶入目標表。

    更改記錄內容如下:

    更改記錄
    說明
    新增來源表有,目標表沒有的欄位
    修改

    目標表有同名欄位,但「類型」/「描述」/「主鍵」/「Not Null」與來源表不一

    注:「描述」、「主鍵」、「Not Null」能否被帶入目標表,取決於來源表能否獲取到;若獲取不到,不會影響到目標表現有內容

    刪除來源表沒有,目標表有的欄位

    注:點選「一鍵帶入」後,在此介面上更改內容導緻來源表與目標表結構不一緻,將不會出現「一鍵帶入」提示。

    3)將根據更新內容生成更新語句,點選「執行更新語句」。如下圖所示:

    4. 自動同步

    對於部分源端表結構變化,支援開啟「同步源表結構變化」功能,開啟後,無需手動更新映射,任務運作時可自動同步。如下圖所示:

    開啟後,變更點同步情況如下表所示:

    來源表類型
    變更類型自動處理-目標表結構自動處理-映射
    自動處理-目標表資料
    增量有主鍵源端新增欄位在目標表新增列自動增加映射

    曆史資料在新列為NULL,新寫入的資料該列有值

    如需重新整理曆史資料,需要手動重新同步

    源端刪除欄位無變化刪除源端欄位

    曆史資料不變,新寫入資料該列為NULL

    需重新整理曆史資料,需要手動重新同步

    源端欄位改名視為舊欄位刪除、新增新欄位
    源端欄位改類型在目標表對映射的欄位修改改類型,修改不成功時,記錄日誌,任務繼續運作映射兩邊調整欄位類型,如果修改不成功,僅來源端的欄位類型

    正常情況下:曆史和新寫入的該列都有資料

    修改不成功時:新資料依然寫入已存在列,若欄位類型不支援寫入,記為髒資料

    源端主鍵欄位變更不做處理,運作失敗,需重新配置該表
    全量有主鍵表表結構變更目標表直接改成新表結構根據新結構重新整理映射清空寫入,無曆史資料
    全量無主鍵表表結構變更目標表直接改成新表結構根據新結構重新整理映射清空寫入,無曆史資料

    5. 查看日誌

    任務運作後,在「運作記錄」中查看運作日誌,查看源表結構變更內容。如下圖所示:

    附件列表


    主題: 定時管道
    • 有幫助
    • 沒幫助
    • 只是瀏覽
    中文(繁體)

    滑鼠選中內容,快速回饋問題

    滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。

    不再提示

    10s後關閉

    獲取幫助
    線上支援
    獲取專業技術支援,快速幫助您解決問題
    工作日9:00-12:00,13:30-17:30在线
    頁面反饋
    針對當前網頁的建議、問題反饋
    售前咨詢
    業務咨詢
    電話:0933-790886或 0989-092892
    郵箱:taiwan@fanruan.com
    頁面反饋
    *問題分類
    不能為空
    問題描述
    0/1000
    不能為空

    反馈已提交

    网络繁忙