維度表輸入&資料聯動

  • 文檔創建者:Laurenwy
  • 編輯次數:2
  • 最近更新:Nikozhan 于 2025-06-03
  • icon提示:
    注:数据开发中实时任务当前属于内测阶段,如需试用或者了解详细信息,请联系技术支持(技术支持联系方式:前往「服务」,选择「在线支持」、电话「400-811-8890」)。

    1. 概述

    1.1 版本

    FineDataLink 版本功能變動
    4.1.13.4-
    4.2.6.4

    1)「維度表輸入算子中,新增配置方式:SQL、選表

    2)資料聯動算子中:支援多個實時資料源進行聯動

    1.2 應用場景

    希望讀取實時輸入源後,跨資料庫表聯動後實時入庫。

    1.3 功能簡介

    場景
    說明備註
    使用多個或一個「維度表輸入」算子與一個「實時資料源」聯動後實時落庫

    維度表的變化不會實時改變目標表的資料,只有當實時資料源中的表發生變化並且聯動最新維度表資料後才能更

    實時資料源必須是左表
    個實時資料源進行聯動


    若聯動資料為多個實時資料源和 N 個維度表:

    維度表的變化不會實時改變目標表的資料,只有當實時資料源中的表發生變化並且聯動最新維度表資料後才能更新

    4.2.6.4 及之後版本支援

    需要配置 Flink引擎

    實時資料源必須是左表

    若聯動資料都為實時資料源:

    左右兩表的資料變化都會更新到目標表中

    2. 功能說明

    2.1 維度表輸入

    配置項說明
    資料連結

    建立並管理資料源之後即可選擇對應資料連結

    支援的資料源:定時任務支援的資料源範圍(基礎資料源+進階資料源-大數據)

    配置方式4.2.6.4 及之後版本,支援 SQL、選表兩種方

    SQL、選表的使用與定時任務中相同,詳情請參見:配置方式

    維度表輸入不可以作為獨立的輸入算子進行匯出,維度表輸入後必須接資料聯動算子且聯動算子必須包含一個實時資料源

    2.2 資料聯動

    2.2.1 4.2.6.4 之前版本

    配置項說明
    連結邏輯
    • 不支援兩個實時資料源進行聯動

    • 不支援兩個維度表輸入進行聯動

    • 只支援實時資料源和 1 個或多個維度表輸入進行聯動

    左表

    當實時資料源和維度表輸入聯動時,實時資料源必須是左表

    當有超過2張表進行聯動時,必須從實時資料源為左表開始聯動其他維度表

    連結方式

    連結方式:左連結、右連結、內連結、全外連結,詳情參見:資料聯動功能簡介

    • 當實時資料源和維度表聯動時,只支援左連結、內連結

    右表

    右表只能是維度表

    連結欄位

    連結欄位

    • 一個聯動配置中可以設定多聯動欄位

    • 可以選擇任意左表的欄位

    資料預覽
    • 如果是實時資料源和維度表輸入進行join,按照實時資料源的樣本設定和算子配置進行資料預覽

    2.2.2 4.2.6.4 及之後版本

    注:若資料聯動前的輸入算子包含多個實時資料源,需要配置 Flink引擎

    配置項說明
    連結邏輯
    • 支援多個實時資料源進行聯動

    • 不支援只有兩個維度表進行聯動

    左表

    當實時資料源和維度表輸入聯動時,實時資料源必須是左表

    連結方式

    連結方式:左連結、右連結、內連結、全外連結,詳情參見:資料聯動功能簡介

    • 當實時資料源和維度表聯動時,只支援左連結、內連結

    • 資料聯動前的輸入算子都為實時資料源時,支援左連結、右連結、內連結、全外連結

    右表

    右表可以選擇維度表、實時資料源

    連結欄位
    • 一個聯動配置中可以設定多聯動欄位

    • 可以選擇任意左表的欄位

    資料預覽

    按照實時資料源的樣本設定和算子配置進行資料預覽

    若左表和右表都為實時資料源,建議同步類型一致;否則:

    場景

    當左表選擇存量+增量同步,右表選擇增量同步時:

    • 左表的資料會聯動不到右表,目標表右表的欄位會為空

    • 只有當右表對應的資料產生變更後,才會聯動上

    當左表選擇增量同步,右表選擇存量+增量同步時:
    • 目標表的資料會沒有資料

    • 只有當左表有資料發生變更後,才會聯動上右表的資料

    3. 操作步驟

    例如使用者希望實現實時跨資料庫聯動後入庫。

    3.1 準備工作

    參考 實時任務使用流程,配置資料連結、快取、資料庫環境。

    3.2 設定維度表輸入

    1)進入 FineDataLink 資料平台後,點選「資料開發>實時任務」,建立實時任務。如下圖所示:

    2)進入編輯介面後,拖入「維度表輸入」算子,選擇資料源和資料表。如下圖所示:

    點選「資料預覽」即可看到取出的資料。如下圖所示:

    3.3 設定實時資料源輸入

    拖入實時資料源輸入算子,比如 CDC 輸入,選擇資料源和資料表、讀取方式、同步類型。如下圖所示:

    注:CDC輸入詳情參見:CDC输入

    3.4 資料聯動

    新增「資料聯動」算子,設定聯動關係和聯動欄位。如下圖所示:

    預覽資料,即可看到聯動後的資料表。如下圖所示:

    3.5 資料匯出

    設定資料實時計算後匯出至指定的資料庫中。如下圖所示:

    DB表匯出設定詳情參見:DB表输出(实时任务)

    3.6 任務啟動和管理

    點選「啟動」,即可啟動實時任務。如下圖所示:


    同時在任務管理介面看到任務運作狀態。如下圖所示:


    附件列表


    主題: 資料開發-實時任務
    • 有幫助
    • 沒幫助
    • 只是瀏覽
    • 评价文档,奖励 1 ~ 100 随机 F 豆!