實時任務概述

  • 文檔創建者:Roxy
  • 編輯次數:11
  • 最近更新:帆软用户UT9OHLQhgP 于 2026-10-29
  • icon提示:

    產品註冊版本為「v5.0」時,才能使用資料開發-實時任務。

    1. 概述

    1.1 應用場景

    詳情請參見:實時任務應用場景

    1.2 功能簡介

    實時任務能夠實時地把資料從 A 點投遞到 B 點。在投遞的程式中可能新增資料清理的工作,例如實時數倉中的資料解析等。最終結果可供後續業務使用,以提高資料利用率和時效性,滿足業務需求。

    功能特點:對單表資料進行處理後,實時匯出到目標端。

    2. 使用限制

    1)需要註冊實時任務相關功能點。詳情請參見:功能點限制

    2)建立資料開發-實時任務需要有某資料夾或者所有實時任務的管理權限。詳情請參見:實時任務管理權限

    3)5.0.1.2 及之後版本叢集工程支援配置實時任務。

    4)5.0.1.5 及之後版本,實時任務中若使用 WebSocket輸入、MQTT輸入、IBM MQ輸入、Pulsar輸入,不能再使用 分組匯總(實時任務)、Flink SQL、資料聯動(多個實時資料源進行聯動)。

    3. 與其他功能模組差別

    icon提示:

    詳情請參見:FineDataLink模組介紹

    4. 功能說明

    資料源:

    實時任務支援的資料源請參見:FineDataLink支援的資料源

    同步場景:

    實時任務中,只能對單表進行實時同步,同步類型為:

    • 存量+增量同步:先對所有存量資料完成同步,隨後持續同步資料。

    • 僅增量同步:從指定的起點開始,持續同步資料。

    任務開發:

    FineDataLink 實時任務開發模組提供多種類型的節點,多種節點配合使用,滿足您不同的資料處理需求。

    節點是組成實時任務的基本單位,多個節點透過線條連結後可確定執行流程,進而組成一個完整的實時任務。目前有如下節點:

    分類
    算子說明備註
    資料輸入Kafka輸入

    支援使用 Kafka 輸入算子實時讀取資料


    CDC輸入支援使用 CDC 輸入算子實時讀取資料
    Webhook輸入
    接入資料接收發布的「僅配置地址」的 API,對資料進行處理後,再進行匯出
    Pulsar輸入支援使用 Pulsar 輸入算子實時讀取資料
    MQTT輸入支援使用 MQTT 輸入算子實時讀取資料
    IBM MQ輸入支援使用 IBM MQ 輸入算子實時讀取資料
    維度表輸入
    支援使用維度表輸入實時讀取資料,便於使用資料聯動進行實時跨庫聯動計算

    WebSocket輸入
    讀取 WebSocket 資料
    資料匯出DB表匯出(實時任務)支援使用 DB表匯出算子實時將資料匯出至指定資料庫中
    Kafka匯出支援使用 Kafka 匯出算子將資料實時同步匯出至 Kafka 
    連結資料聯動使用資料聯動進行實時跨庫聯動計算資料聯動算子前的輸入算子都為實時資料源時,需要配置 Flink引擎
    實驗室Flink SQL
    使用者可編寫 SQL 語句在實時任務中對資料進行查詢和處理

    需要配置 Flink引擎

    轉換欄轉列實現資料表列欄的改變-欄轉列,與定時任務相同
    列轉欄實現資料表列欄結構的改變-列轉欄,與定時任務相同需要配置 Flink引擎
    JSON解析解析 JSON 結構的資料,匯出列欄格式的資料
    XML解析將 XML 格式資料解析為列欄格式資料
    欄位設定可實現資料流欄位的選擇、重新命名、資料類型轉換操作
    新增計算欄在不影響原有欄位的情況下,可利用原有欄位透過引用或計算獲得一個新的欄位
    資料過濾過濾符合條件的資料記錄
    欄位拆列欄位值按照特定規則(分隔符或字元數)拆分,拆分後的結果形成新的多欄欄位和值
    分組匯總支援對資料流進行實時聚合計算需要配置 Flink引擎
    欄位拆列欄位值按照特定規則(分隔符)拆分,拆分後的結果形成新的一欄欄位和值
    其他備註說明可幫助使用者為任務、節點增加備註

    任務配置:

    實時任務開發完成後,可為其配置失敗重試、髒資料容忍、結果通知、日誌等級等。詳情請參見:單個實時任務管理

    任務維運:

    1)可查看實時任務的運作狀態、批量啟動/暫停實時任務。詳情請參見:實時任務維運-任務管理

    2)實時任務的啟動分為兩種:

    • 啟動:從斷點開始啟動。

    • 重置啟動:初始化任務,按照輸入算子的同步方式,從頭開始同步。

    3)若 資料聯動 前的輸入算子包含多個實時資料源,或者使用了 分組匯總 算子,實時任務啟動後:

    • 若全量階段未結束時任務停止(比如出現髒資料),為保證資料一致,會強制要求重置啟動。

    5. 操作流程

    注:註冊詳情請參見:註冊簡介

    步驟
    說明文檔
    1
    配置實時任務設計時,資料讀取和資料寫入的資料源建立並管理資料源
    2

    部署並啟動 Kafka

    部署Kafka:KRaft模式

    3讀取資料源需要開啟日誌資料庫環境準備概述
    4配置好暫存資料的中間軟體快取配置
    5

    「選做」:配置 Flink 引擎

    • 若 資料聯動 前的輸入算子包含多個實時資料源,需要配置 Flink 引擎

    • 資料開發-實時任務中,若使用 分組匯總 算子,需要配置 Flink 引擎

    Flink引擎
    6建立實時任務,並進行實時任務的開發參考各節點功能文檔
    7

    啟動任務

    -

    8實時採集任務瞭解

    實時採集任務

    對已經設定的定時任務進行任務管理和資源控制單個實時任務管理
    批量實時任務維運

    實時任務運作日誌介紹

    實時任務維運範例

    實時任務維運-任務管理




    附件列表


    主題: 資料開發-實時任務
    已經是第一篇
    已經是最後一篇
    • 有幫助
    • 沒幫助
    • 只是瀏覽
    中文(繁體)

    滑鼠選中內容,快速回饋問題

    滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。

    不再提示

    10s後關閉

    獲取幫助
    線上支援
    獲取專業技術支援,快速幫助您解決問題
    工作日9:00-12:00,13:30-17:30在线
    頁面反饋
    針對當前網頁的建議、問題反饋
    售前咨詢
    業務咨詢
    電話:0933-790886或 0989-092892
    郵箱:taiwan@fanruan.com
    頁面反饋
    *問題分類
    不能為空
    問題描述
    0/1000
    不能為空

    反馈已提交

    网络繁忙