Pulsar輸入

  • 文檔創建者:Roxy
  • 編輯次數:8
  • 最近更新:帆软用户UT9OHLQhgP 于 2026-09-23
  • icon提示:

    產品註冊版本為「v5.0」時,才能使用資料開發-實時任務。

    1. 概述

    1.1 版本

    FineDataLink 版本功能變動
    5.0.0.1-
    5.0.1.5實時任務中若使用 Pulsar 輸入節點,不能再使用 分組匯總(實時任務)、Flink SQL、維度表輸入&資料聯動(多個實時資料源進行聯動)

    1.2 應用場景

    使用者需要實時讀取 Pulsar 中的資料,將資料解析後,寫入指定資料庫中,並使用資料進行報表和實時企業戰情室製作和展示。

    1.3 功能簡介

    FineDataLink 「實時任務」支援使用 Pulsar 輸入算子進行實時讀取資料。

    1.4 功能限制

    5.0.1.5 及之後版本,實時任務中若使用 Pulsar 輸入節點,不能再使用 分組匯總(實時任務)、Flink SQL、資料聯動(多個實時資料源進行聯動)。

    2. 功能說明

    配置項說明
    資料連結

    配置 Pulsar 資料源之後即可選擇對應資料連結

    Topic

    手動輸入讀取 Pulsar 中的topic

    例如:persistent://public/default/my-topic

    同步類型
    • 存量+增量同步:初次啟動任務時,同步 Pulsar 中所有資料,並持續同步 Pulsar 中的增量資料,再次啟動任務時,從上次執行結束的斷點繼續同步;如果斷點狀態丟失,則按照初次啟動邏輯同步資料。

    • 僅增量同步:從指定的起點開始,持續同步新增的變化資料(增/刪/改)

    再次啟動任務時,從上次執行結束的斷點繼續同步,如果斷點狀態丟失,則按照初次啟動邏輯同步資料。

    匯出欄位配置讀取 Pulsar 訊息中哪些資訊傳輸給下游算子
    • 時間戳(publishTime):訊息的時間戳,訊息的建立時間或到達 Pulsar 的時間

    • 訊息鍵(key):訊息的鍵

    • 主題topic:訊息的topic名稱

    • 訊息內容(value):訊息的實際內容

    根據選擇的資料內容,生成二維表

    3. 操作步驟

    例如希望將 Pulsar 中的資料實時同步並處理後匯出至指定的資料庫中。

    3.1 設定 Pulsar 輸入

    進入 FineDataLink 資料平台後,選擇「資料開發>實時任務」,建立實時任務,如下圖所示:

    在建立實時任務介面編輯任務資訊,如下圖所示:

    進入編輯介面後,拖入 Pulsar 輸入算子,選擇資料源並設定同步類型,輸入 Topic 並設定匯出欄位,如下圖所示:

    點選「資料預覽」即可看到取出的 Pulsar 資料,如下圖所示:

    3.2 解析資料

    使用「JSON解析」將需要解析的 value 值解析成二維表欄位,如下圖所示:

    3.3 資料匯出

    設定資料實時計算後匯出至指定的資料庫中,如下圖所示:

    DB表匯出設定詳情參見:DB表匯出(實時任務)

    3.4 任務啟動和管理

    點選啟動,即可啟動實時任務,如下圖所示:


    附件列表


    主題: 資料開發-實時任務
    已經是第一篇
    已經是最後一篇
    • 有幫助
    • 沒幫助
    • 只是瀏覽
    中文(繁體)

    滑鼠選中內容,快速回饋問題

    滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。

    不再提示

    10s後關閉

    獲取幫助
    線上支援
    獲取專業技術支援,快速幫助您解決問題
    工作日9:00-12:00,13:30-17:30在线
    頁面反饋
    針對當前網頁的建議、問題反饋
    售前咨詢
    業務咨詢
    電話:0933-790886或 0989-092892
    郵箱:taiwan@fanruan.com
    頁面反饋
    *問題分類
    不能為空
    問題描述
    0/1000
    不能為空

    反馈已提交

    网络繁忙