產品註冊版本為「v5.0」時,才能使用資料開發-實時任務。
新增「FDL服務地址」配置項
參數配置優化
使用者希望在資料開發-實時任務中做聚合計算, 資料在實時任務中計算後落庫。
支援配置 Flink 引擎,使 FineDataLink 具備聚合計算的能力,能夠支撐部分條件下實時數倉、實時資料看板的搭建。
1)若 資料聯動 前的輸入算子包含多個實時資料源,需要配置 Flink 引擎。
2)資料開發-實時任務中,若使用 分組匯總 算子,需要配置 Flink 引擎。
3)使用 Flink SQL 算子時,需要配置 Flink 引擎。
FDL 提供的 Flink 引擎是免認證存取的,若對安全性要求較高,需要給 Flink 配置檔案增加認證,或者防火牆限制這個埠,不對外開放。
注:使用 Flink 引擎的實時任務,不受 負載分配 功能控制,按照 Flink 的記憶體分配邏輯運作。
交握技術支援,獲取 Flink 引擎部署包,在伺服器中部署、啟動。
技術支援交握方式:前往「服務」,選擇「線上支援」、電話「400-811-8890」。
超管 進入 FineDataLink 工程,點選「資料開發>實時任務>全局設定」,配置 Flink 引擎。如下圖所示:
注:4.2.22.4 及之後版本,若未購買「實時任務進階算子包」,不展示「全局設定」入口 。
需要額外配置一些參數才能保證 Flink 任務的穩定運作,支援在進階屬性和使用 Flink 引擎的實時任務中配置這些參數。說明如下:
使用 Flink 引擎的單個實時任務中:
只對單個使用 Flink 引擎的實時任務生效
優先高於「全局設定>進階屬性」中的同名參數
需要配置的參數如下表所示:
否
建議配置,避免狀態無限制增長
非OPS部署工程:
無預設值
參考值:/home/xiaohuihui/hdd/flink/rocksdb/
注:該值為參考值,非官方推薦值;使用者需要根據實際情況填寫對應的參數值
OPS 部署工程:
該參數值需要填寫為:/opt/fine-flink/data/rocksdb
參考值:file:///home/xiaohuihui/hdd/flink/checkpoint
該參數值需要填寫為:/opt/fine-flink/data/checkpoints
checkpoint間隔(毫秒)
檢查點的理想觸發間隔,每隔固定時間嘗試觸發一次檢查點
當任務運作狀態過大時,頻繁儲存 Checkpoint可能會導致任務計算速度變慢
所以適當場景下, 可以擴展系統檢查點間隔
checkpoint最小暫停時間(毫秒)
兩個檢查點之間的最小強制間隔,上一個檢查點完成後,必須等待至少 min-pause 才能觸發下一個
避免檢查點過於頻繁或重疊,保護任務吞吐量
詳細說明:
未設定時,依賴execution.checkpointing.interval參數
範例:execution.checkpointing.interval參數配置為10s,檢查點執行耗時8s,未配置execution.checkpointing.min-pause時,兩次檢查點實際間隔為2s,配置execution.checkpointing.min-pause為5s,強制留出 5秒緩衝期,確定任務有足夠時間處理資料
192.168.2.8
否根據實際情況決定是否配置,啟動實時任務後該參數生效
100
可在實時任務中,使用多個實時資料源進行聯動,資料處理後匯出。詳情請參見:維度表輸入&資料聯動
滑鼠選中內容,快速回饋問題
滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。
不再提示
10s後關閉
反馈已提交
网络繁忙