Flink引擎

  • 文檔創建者:Laurenwy
  • 編輯次數:6
  • 最近更新:帆软用户UT9OHLQhgP 于 2026-09-30
  • icon提示:

    產品註冊版本為「v5.0」時,才能使用資料開發-實時任務。

    1. 概述

    1.1 版本

    FineDataLink 版本功能變動
    5.0.0.1-
    5.0.12.3支援配置參數 execution.checkpointing.timeout
    5.0.15.2
    • 新增「FDL服務地址」配置項

    • 參數配置優化

    1.2 應用場景

    使用者希望在資料開發-實時任務中做聚合計算, 資料在實時任務中計算後落庫。

    1.3 功能簡介

    支援配置 Flink 引擎,使 FineDataLink 具備聚合計算的能力,能夠支撐部分條件下實時數倉、實時資料看板的搭建。

    2. 配置 Flink 引擎場景

    1)若 資料聯動 前的輸入算子包含多個實時資料源,需要配置 Flink 引擎。

    2)資料開發-實時任務中,若使用 分組匯總 算子,需要配置 Flink 引擎。

    3)使用 Flink SQL 算子時,需要配置 Flink 引擎。

    icon提示:

    FDL 提供的 Flink 引擎是免認證存取的,若對安全性要求較高,需要給 Flink 配置檔案增加認證,或者防火牆限制這個埠,不對外開放。

    3. 使用 Flink 引擎

    注:使用 Flink 引擎的實時任務,不受 負載分配 功能控制,按照 Flink 的記憶體分配邏輯運作。

    3.1 手動部署 Flink 引擎

    交握技術支援,獲取 Flink 引擎部署包,在伺服器中部署、啟動。

    技術支援交握方式:前往「服務」,選擇「線上支援」、電話「400-811-8890」。

    3.2 FineDataLink 中配置外置引擎

    超管 進入 FineDataLink 工程,點選「資料開發>實時任務>全局設定」,配置 Flink 引擎。如下圖所示:

    注:4.2.22.4 及之後版本,若未購買「實時任務進階算子包」,不展示「全局設定」入口 。

    需要額外配置一些參數才能保證 Flink 任務的穩定運作,支援在進階屬性和使用 Flink 引擎的實時任務中配置這些參數。說明如下:

    配置參數位置
    應用場景
    全局設定>進階屬性對所有使用 Flink 引擎的實時任務生效

    使用 Flink 引擎的單個實時任務中:

    只對單個使用 Flink 引擎的實時任務生效

    優先高於「全局設定>進階屬性」中的同名參數

    需要配置的參數如下表所示:

    名稱
    描述
    是否必填預設值參考值
    table.exec.state.ttl狀態保留時間(毫秒)

    否

    建議配置,避免狀態無限制增長

    無(預設狀態資訊永不過期)60000(根據實際情況填寫)
    state.backend.type狀態後端類型(如 rocksdb)否rocksdbrocksdb(根據實際情況填寫)
    state.backend.rocksdb.localdirRocksDB 本地儲存目錄是

    非OPS部署工程:

    • 無預設值

    • 參考值:/home/xiaohuihui/hdd/flink/rocksdb/

    注:該值為參考值,非官方推薦值;使用者需要根據實際情況填寫對應的參數值

    OPS 部署工程:

    • 該參數值需要填寫為:/opt/fine-flink/data/rocksdb

    execution.checkpointing.dircheckpoint儲存目錄是

    非OPS部署工程:

    • 無預設值

    • 參考值:file:///home/xiaohuihui/hdd/flink/checkpoint

    注:該值為參考值,非官方推薦值;使用者需要根據實際情況填寫對應的參數值

    OPS 部署工程:

    • 該參數值需要填寫為:/opt/fine-flink/data/checkpoints

    execution.checkpointing.storagecheckpoint儲存類型(如 file)否filesystemfilesystem(根據實際情況填寫)
    execution.checkpointing.interval

    checkpoint間隔(毫秒)

    檢查點的理想觸發間隔,每隔固定時間嘗試觸發一次檢查點

    否

    當任務運作狀態過大時,頻繁儲存 Checkpoint可能會導致任務計算速度變慢

    所以適當場景下, 可以擴展系統檢查點間隔

    180000(3分鐘)60000(根據實際情況填寫)
    execution.checkpointing.min-pause

    checkpoint最小暫停時間(毫秒)

    兩個檢查點之間的最小強制間隔,上一個檢查點完成後,必須等待至少 min-pause 才能觸發下一個

    避免檢查點過於頻繁或重疊,保護任務吞吐量

    否

    詳細說明:

    未設定時,依賴execution.checkpointing.interval參數

    範例:execution.checkpointing.interval參數配置為10s,檢查點執行耗時8s,未配置execution.checkpointing.min-pause時,兩次檢查點實際間隔為2s,配置execution.checkpointing.min-pause為5s,強制留出 5秒緩衝期,確定任務有足夠時間處理資料

    無60000(根據實際情況填寫)
    fdlHostFDL 服務地址是無

    192.168.2.8

    注:該值為參考值,非官方推薦值;使用者需要根據實際情況填寫對應的參數值

    execution.checkpointing.timeout定義一次 Checkpoint 從觸發到完成所允許的最大時長,如果在這個時間內 Checkpoint 未能成功完成,Flink 會將其標記為失敗並中止

    否根據實際情況決定是否配置,啟動實時任務後該參數生效

    100(ms)

    100

    注:該值為參考值,非官方推薦值;使用者需要根據實際情況填寫對應的參數值


    3.3 實時任務中使用 Flink 引擎

    可在實時任務中,使用多個實時資料源進行聯動,資料處理後匯出。詳情請參見:維度表輸入&資料聯動

    附件列表


    主題: 資料開發-實時任務
    已經是第一篇
    已經是最後一篇
    • 有幫助
    • 沒幫助
    • 只是瀏覽
    中文(繁體)

    滑鼠選中內容,快速回饋問題

    滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。

    不再提示

    10s後關閉

    獲取幫助
    線上支援
    獲取專業技術支援,快速幫助您解決問題
    工作日9:00-12:00,13:30-17:30在线
    頁面反饋
    針對當前網頁的建議、問題反饋
    售前咨詢
    業務咨詢
    電話:0933-790886或 0989-092892
    郵箱:taiwan@fanruan.com
    頁面反饋
    *問題分類
    不能為空
    問題描述
    0/1000
    不能為空

    反馈已提交

    网络繁忙