配置Doris資料源

  • 文檔創建者:Roxy
  • 編輯次數:26
  • 最近更新:Laurenwy 于 2026-04-15
  • 1. 概述

    1.1 版本

     FineDataLink 版本功能變更
    4.0.23定時任務輸入匯出支援 Doris

    管道任務資料匯出支援 Doris

    4.2.12.3刪除 FetchSize 配置項
    4.2.13.4適配 HTTPS 協定
    4.2.16.2進階設定中新增「參數配置」
    4.2.17.1定時管道任務支援寫入 Doris

    1.2 應用場景

    FineDataLink 支援連結 Doris,進行定時任務讀寫管道任務寫入作為資料服務資料發布源實時任務寫入。

    2. 使用限制

    1)Doris 資料源在功能上的使用限制說明請參見:Doris資料源使用說明

    2)在建立資料連結前,請確定 FineDataLink 能正常存取 Doris 資料庫的 FE 和 BE 節點

    3)使用 Doris 作為資料寫入端時,請確定 FE 節點可以正常存取 BE 節點

    4)在 Doris 資料連結中,所使用的資料庫使用者需具備 admin 權限,以確定 FineDataLink 功能的正常運作。

    3. 配置資料連結

    3.1 前提條件

    詳情請參見:資料連結概述

    3.2 版本和驅動

    資料庫
    資料庫版本下載驅動
    Doris0.14及以上版本FineDataLink已內建相關驅動,無需手動下載安裝

    3.3 收集連結資訊

    在連結資料庫之前,請收集以下資訊:

    • 資料庫所在伺服器的 IP 地址和埠號。

    • 資料庫的名稱。

    • 資料庫的帳號和密碼。

    3.4 具體連結步驟

    建立資料連結步驟請參見:建立並管理資料源

    部分設定項說明如下表所示:

    設定項
    說明
    FE 節點地址

    如果 Doris 作為資料寫入端時使用,則需要配置 FE 節點

    值說明:

    填寫 IP 地址或主機名以及埠號

    多個地址以,隔開

    HTTP 協定:

    • 若適配 HTTP 協定,格式為:ip:port。其中 IP 是 FE 節點 IP,port 是 FE 節點的 http_port;可使用show frontends語句,查詢 fe 相關埠

    • 例如:192.168.101.71:8030,192.168.101.209:9030;可以填寫多個,系統將以輪詢方式進行資料寫入;填寫多個 FE 節點地址時,將選取第一個可用的 FE 節點進行連結

    HTTPS協定:

    • 4.2.13.4 及之後版本,新增適配 HTTPS 協定,格式為:https://ip:port

    • 支援填寫多個地址,多個地址間用英文逗號隔開,系統將以輪詢方式進行資料寫入;填寫多個 FE 節點地址時,將選取第一個可用的 FE 節點進行連結

    SocketTimeout4.1.14.1 及之後版本新增1)值說明:

    配置當前資料連結的套接字逾時,單位為秒,預設值為 3600

    輸入框要求為非負整數,配置為 0 時,視為不設定逾時

    2)該設定項應用場景:

    在網路發生抖動時,可能會出現管道&定時任務發出查詢後,無限等待傳回資料的問題,使用者維運時,看不到報錯,但實際任務已不再同步資料

    配置該設定項後,將控制查詢在一個合理的範圍內,達到套接字逾時時間後,SQL 語句會自動中斷報錯,避免出現無限等待的問題

    3)該設定項控制的功能範圍:

    • 定時任務:對應資料源讀寫、SQL腳本執行、參數指派、全局指派參數

    • 管道任務:對應資料源讀寫

    • 資料發布:對應資料源查詢

    • 庫表管理:SQL執行

    參數配置

    4.2.16.2 新增此配置,支援配置參數

    參數配置、適用範圍及沖突說明請參考官方文檔:Apache Doris

    使用場景:

    大數據量場景下,可透過參數配置僅更新指定欄位。

    例如:新增參數 partial_columns,參數值為 true。寫入 doris 時,取消部分表的欄位映射,效果如下:

    任務類型
    目標表類型實現效果
    定時任務明細模型取消映射的欄,被重新整理為 null
    主鍵模型-寫時合併取消映射的,保留原值
    主鍵模型-讀時合併取消映射的,保留原值
    聚合模型取消映射的,被重新整理為 null
    管道任務取消映射的,保留原值
    實時任務取消映射的,保留原值
    注:如果資料服務並發量較大,建議調大最大活動連結數,防止因資料服務高並發請求導緻資料連結失敗

    4. 任務開發


    詳情請參見:Doris資料源使用說明

    附件列表


    主題: 配置資料源
    • 有幫助
    • 沒幫助
    • 只是瀏覽
    • 评价文档,奖励 1 ~ 100 随机 F 豆!

    滑鼠選中內容,快速回饋問題

    滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。

    不再提示

    10s後關閉

    獲取幫助
    線上支援
    獲取專業技術支援,快速幫助您解決問題
    工作日9:00-12:00,13:30-17:30在线
    頁面反饋
    針對當前網頁的建議、問題反饋
    售前咨詢
    業務咨詢
    電話:0933-790886或 0989-092892
    郵箱:taiwan@fanruan.com
    頁面反饋
    *問題分類
    不能為空
    問題描述
    0/1000
    不能為空

    反馈已提交

    网络繁忙