產品註冊版本為「v5.0」時,才能使用資料開發-實時任務。
使用者需要實時讀取 Pulsar 中的資料,將資料解析後,寫入指定資料庫中,並使用資料進行報表和實時企業戰情室製作和展示。
FineDataLink 「實時任務」支援使用 Pulsar 輸入算子進行實時讀取資料。
5.0.1.5 及之後版本,實時任務中若使用 Pulsar 輸入節點,不能再使用 分組匯總(實時任務)、Flink SQL、資料聯動(多個實時資料源進行聯動)。
配置 Pulsar 資料源之後即可選擇對應資料連結
手動輸入讀取 Pulsar 中的topic
例如:persistent://public/default/my-topic
存量+增量同步:初次啟動任務時,同步 Pulsar 中所有資料,並持續同步 Pulsar 中的增量資料,再次啟動任務時,從上次執行結束的斷點繼續同步;如果斷點狀態丟失,則按照初次啟動邏輯同步資料。
僅增量同步:從指定的起點開始,持續同步新增的變化資料(增/刪/改)
再次啟動任務時,從上次執行結束的斷點繼續同步,如果斷點狀態丟失,則按照初次啟動邏輯同步資料。
時間戳(publishTime):訊息的時間戳,訊息的建立時間或到達 Pulsar 的時間
訊息鍵(key):訊息的鍵
主題topic:訊息的topic名稱
訊息內容(value):訊息的實際內容
根據選擇的資料內容,生成二維表
例如希望將 Pulsar 中的資料實時同步並處理後匯出至指定的資料庫中。
進入 FineDataLink 資料平台後,選擇「資料開發>實時任務」,建立實時任務,如下圖所示:
在建立實時任務介面編輯任務資訊,如下圖所示:
進入編輯介面後,拖入 Pulsar 輸入算子,選擇資料源並設定同步類型,輸入 Topic 並設定匯出欄位,如下圖所示:
點選「資料預覽」即可看到取出的 Pulsar 資料,如下圖所示:
使用「JSON解析」將需要解析的 value 值解析成二維表欄位,如下圖所示:
設定資料實時計算後匯出至指定的資料庫中,如下圖所示:
DB表匯出設定詳情參見:DB表匯出(實時任務)
點選啟動,即可啟動實時任務,如下圖所示:
滑鼠選中內容,快速回饋問題
滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。
不再提示
10s後關閉
反馈已提交
网络繁忙