產品註冊版本為「v5.0」時,才能使用資料開發-實時任務。
詳情請參見:實時任務應用場景
實時任務能夠實時地把資料從 A 點投遞到 B 點。在投遞的程式中可能新增資料清理的工作,例如實時數倉中的資料解析等。最終結果可供後續業務使用,以提高資料利用率和時效性,滿足業務需求。
功能特點:對單表資料進行處理後,實時匯出到目標端。
1)需要註冊實時任務相關功能點。詳情請參見:功能點限制
2)建立資料開發-實時任務需要有某資料夾或者所有實時任務的管理權限。詳情請參見:實時任務管理權限
3)5.0.1.2 及之後版本叢集工程支援配置實時任務。
4)5.0.1.5 及之後版本,實時任務中若使用 WebSocket輸入、MQTT輸入、IBM MQ輸入、Pulsar輸入,不能再使用 分組匯總(實時任務)、Flink SQL、資料聯動(多個實時資料源進行聯動)。
詳情請參見:FineDataLink模組介紹
實時任務支援的資料源請參見:FineDataLink支援的資料源
實時任務中,只能對單表進行實時同步,同步類型為:
存量+增量同步:先對所有存量資料完成同步,隨後持續同步資料。
僅增量同步:從指定的起點開始,持續同步資料。
FineDataLink 實時任務開發模組提供多種類型的節點,多種節點配合使用,滿足您不同的資料處理需求。
節點是組成實時任務的基本單位,多個節點透過線條連結後可確定執行流程,進而組成一個完整的實時任務。目前有如下節點:
支援使用 Kafka 輸入算子實時讀取資料
需要配置 Flink引擎
實時任務開發完成後,可為其配置失敗重試、髒資料容忍、結果通知、日誌等級等。詳情請參見:單個實時任務管理
1)可查看實時任務的運作狀態、批量啟動/暫停實時任務。詳情請參見:實時任務維運-任務管理
2)實時任務的啟動分為兩種:
啟動:從斷點開始啟動。
重置啟動:初始化任務,按照輸入算子的同步方式,從頭開始同步。
3)若 資料聯動 前的輸入算子包含多個實時資料源,或者使用了 分組匯總 算子,實時任務啟動後:
若全量階段未結束時任務停止(比如出現髒資料),為保證資料一致,會強制要求重置啟動。
注:註冊詳情請參見:註冊簡介
部署並啟動 Kafka
部署Kafka:KRaft模式
「選做」:配置 Flink 引擎
若 資料聯動 前的輸入算子包含多個實時資料源,需要配置 Flink 引擎
資料開發-實時任務中,若使用 分組匯總 算子,需要配置 Flink 引擎
啟動任務
-
實時採集任務
實時任務運作日誌介紹
實時任務維運範例
實時任務維運-任務管理
滑鼠選中內容,快速回饋問題
滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。
不再提示
10s後關閉
反馈已提交
网络繁忙