FineDataLink部署環境準備

  • 文档创建者:产品运营-Bernard
  • 历史版本:54
  • 最近更新:Nikozhan 于 2025-04-18
  • 1. 作業系統要求

    注:FineDataLink 支援了一些國產化的作業系統、中間軟體、晶片等,國產化環境準備請參見:FineDataLink支持的国产化环境

    類別型號
    Linux作業系統CentOS6  CentOS 6.5、CentOS 6.6、CentOS 6.7、CentOS 6.8、CentOS 6.9
    CentOS7

    Centos 7.0、Centos 7.1、Centos 7.2、Centos 7.3、Centos 7.4

    Centos 7.6、Centos 7.8、Centos 7.9

    RedHat6RedHat 6.5、RedHat 6.6、RedHat 6.7、RedHat 6.8、RedHat 6.9
    RedHat7

    RedHat 7.0、RedHat 7.1、RedHat 7.2、RedHat 7.3、RedHat 7.4

    RedHat 7.7、RedHat 7.9

    RedHat8RedHat8.1
    UbuntuUbuntu 10.04.4、Ubuntu18.04、Ubuntu 20
    Amazon LinuxAmazon Linux AMI release 2018.03
    Rocky LinuxRocky Linux 8.8~9.4版本
    Windows

    Windows Server 2008 及以

    Windows 11

    配置庫

    RDS MySQL、MySQL、SQL Server、Oracle、DB2、PostgreSQL

    正式工程需要配置外接資料庫,詳情請參見:配置外接資料庫

    瀏覽器

    谷歌核心瀏覽器

    建議使用最新版本的瀏覽器;建議使用者使用主流現代瀏覽器(Google Chrome、Microsoft Edge)

    Google Chrome4.1.x 版本<=目標版本<4.1.6.x,瀏覽器版本最低為 94

    4.1.6.x 及以上版本,瀏覽器版本最低為 105

    推薦使用最新瀏覽器版本

    Microsoft Edge

    需注意:

    1)以上作業系統為推薦使用類型,使用者若需要使用其他 Linux 系統部署 FineDataLink,有問題可聯絡帆軟技術支援,聯絡方式:「服務平台>線上支援」、電話「400-811-8890」。

    2)使用中文的使用者將工程部署到 Linux 系統時,需確認系統中是否有中文語言包,具體請參見:Linux 系統安裝中文語言包

    3)資料管道概述 功能使用前需要部署 Kafka, 而 Kafka 建議安裝在 Linux 系統中(Kafka 也支援安裝在 Windows 中,但效能會受到限制,僅做示範使用,不建議用於生產環境 );Kafka 和 FDL 可以不在一個伺服器中安裝。

    2. 伺服器配置

    2.1 CPU&記憶體&磁碟推薦&網路

    本節按照資料開發定時任務數、資料管道任務數、實時任務數劃分,提供多個標準方案,請按需選擇。

    2.1.1 方案適用需知

    • 本文方案適用於全新部署場景,基於各類業務用量推薦配置,業務管理者需要給出需要處理的任務個數並進行匹配。

    • 本文方案基於單個業務庫資料(行*列)變更量≤100W/小時進行推薦,如資料變更量超出範圍,請聯絡帆軟技術支援以獲得進一步支援。

    • 本文方案按照常見客戶規模提供資源建議。如任務數量超出推薦範圍,請聯絡帆軟技術支援以獲得進一步支援。

    • 隨着使用時間和用量的增長,如果現有伺服器資源不足,需要擴容,請聯絡帆軟技術支援以獲得進一步支援。

    2.1.2 方案簡介

    方案適用客戶情況伺服器配置簡介
    最低配置

    開發任務數<35

    不支援管道任務

    該方案僅面向業務用量較小、伺服器資源緊張的客戶

    1)伺服器:CPU8核、記憶體16G、磁碟200G

    2)埠網路要求:

    • 內網時延:<1ms

    • 伺服器內網帶寬(FDL所在伺服器業務資料庫):≥100Mbps(12.5MB/s

    • 伺服器外網帶寬(FDL所在伺服器FDL工程使用者所處網路間):≥10Mbps(1.25MB/s

    • 埠準備:詳情請參見本文 2.2 節內容

    方案一

    開發任務數<150

    不支援管道任務

    1)伺服器:CPU8核、記憶體32G、磁碟300G

    2)埠網路要求:

    • 內網時延:<1ms

    • 伺服器內網帶寬(FDL所在伺服器業務資料庫):≥1000Mbps(125MB/s

    • 伺服器外網帶寬(FDL所在伺服器FDL工程使用者所處網路間):≥10Mbps(1.25MB/s

    • 埠準備詳情請參見本文 2.2 節內容

    方案二

    開發任務數<300

    管道任務數<16

    實時任務數<20

    1)伺服器:CPU16核、記憶體64G、磁碟300G

    2)埠網路要求:

    • 內網時延:<1ms

    • 伺服器內網帶寬(FDL所在伺服器業務資料庫):≥1000Mbps(125MB/s

    • 伺服器外網帶寬(FDL所在伺服器FDL工程使用者所處網路間):≥10Mbps(1.25MB/s

    • 埠準備詳情請參見本文 2.2 節內容

    方案三

    開發任務數<500

    管道任務數<16

    實時任務數<40

    1)伺服器:CPU16核、記憶體64G、磁碟500G

    2)埠網路要求:

    • 內網時延:<1ms

    • 伺服器內網帶寬(FDL所在伺服器業務資料庫):≥1000Mbps(125MB/s)

    • 伺服器外網帶寬(FDL所在伺服器FDL工程使用者所處網路間):≥10Mbps(1.25MB/s)

    • 埠準備詳情請參見本文 2.2 節內容

    方案四

    開發任務數<500*N

    管道任務數<16*N

    實時任務數<40*N

    1)N 台 FineDataLink 主應用伺服器

    每一台要求:CPU16核、記憶體64G、磁碟500G

    每一台部署「1fdl

    2)埠網路要求:

    • 內網時延:<1ms

    • 伺服器內網帶寬(FDL所在伺服器業務資料庫):≥1000Mbps(125MB/s)

    • 伺服器外網帶寬(FDL所在伺服器FDL工程使用者所處網路間):≥10Mbps(1.25MB/s)

    • 埠準備:詳情請參見本文 2.2 節內容

    2.2 埠準備

    本章內容說明:部署 FDL 需要對外開放的埠。

    2.2.1 埠開放需知

    1)埠是否被佔用請參見:資源遷移

    2)如果預設埠與其他工程有衝突,需要先修改埠,再開放對應的埠。

    3)若同一個伺服器部署多個 Tomcat 工程,需要修改 Tomcat 埠號以防埠衝突,具體可參見:修改Tomcat端口号

    4)若防火牆開啟,需要開放相關埠號:Windows 系統開放埠步驟請參見:安全防護 ,Linux 系統開放埠步驟請參見:Linux防火牆使用及配置

    5)對於 docker 容器,或者伺服器之間埠嚴格限制的環境,需要對節點的伺服器之間開放埠,用於節點間通訊。

    • 選擇 TCP 協定是 7800/7810/7820/7830/7840/7850/7860/7870 八個埠。

    • 選擇 UDP 協定是 45588~65536 隨機埠。

    2.2.2 埠說明

    分類
    內容
    備註
    單機工程佔用埠8068外部埠,可不對外開放,可修改(server.xml),SSL、短地址等在負載均衡層面配置
    當機處理工具埠12100
    gpfdist服務埠15500
    叢集工程佔用埠8068外部埠,可不對外開放,可修改(server.xml),SSL、短地址等在負載均衡層面配置
    當機處理工具埠12100
    叢集TCP通訊埠

    7800

    7830

    7840

    7850

    7870


    gpfdist服務埠15500
    訊息通知WebSocket 埠

    4.0.6及之後版本的預設值["58888", "59888"]

    4.0.6之前版本的預設值 ["38888", "39888"]

    詳情請參見:单机配置WebSocket端口
    WebSocket 轉發埠

    4.0.6及之後版本的預設值:58889

    4.0.6之前版本的預設值:38889

    2.3 資源控制記憶體

    注:資源控制設定詳情參見:负载分配

    2.3.1 未知定時任務數和管道任務數(適用於新部署的工程)

    參考本文 2.1 節內容。

    2.3.2 已知定時任務數和管道任務數(適用於工程遷移、配置升級)

    最小記憶體需求=MAX(運作中定時記憶體下限,運作中管道記憶體下限)

    計算方式
    記憶體
    精確最小記憶體需求=MAX(運作中定時記憶體下限,運作中管道記憶體下限),見下方計算表
    粗略最小記憶體需求=MAX(運作中定時記憶體下限,運作中管道記憶體下限),定時和管道均按每個任務1G算

    1)4.1.5.5 及之後版本

    類型
    節點記憶體
    定時
    單個輸入節點buffer+outputSize*2*channel

    buffer:

    非關係型 DB 表輸入(如簡道雲、Mongo)以及其他輸入類型(如 API 輸入、檔案輸入等),一個 Reader 佔用 64MB 的記憶體

    關係型 DB表輸入,取決於表的結構。對於輸入表的每一欄,分配 1MB 記憶體,特別地,如果這一欄的精度(precision)超過了1024,則分配 2MB 記憶體。最終結果會向上補正到 8MB 的倍數,且不會超過 64MB 

    範例說明

    如果一個表的結構如下:

    類型
    精度
    small int5
    big int19
    decimal18
    varchar100
    varbinary2000
    time0
    float15
    bit0

    那麼它的記憶體佔用為1+1+1+1+2+1+1+1=9MB,再向上補正到 8MB 的倍數,即16MB

    channel:

    Channel 的算法相對複雜一些,但對於一般的表,Channel 通常是 8MB 或者 16MB ,最高亦不會超過 64MB

    outputSize:

    與輸入節點直接遠端的後置節點的數量


    程式節點

    64+outputSize*2*64

    outputSize(與輸入節點的outputSize定義不同):

    與程式節點直接遠端的匯出節點和 Python 節點的數量之和

    程式節點後置的程式節點不算在 outputSize 裏


    單個匯出節點

    32M

    匯出節點通常佔用 32MB 記憶體。特別地,如果是匯出到 Doris 或者 StarRocks ,佔用 90MB 記憶體

    管道-與定時任務輸入+匯出節點一致


    輸入節點(三個寫入端):(8+1*2*24)*3

    程式節點(一個轉換):64+2*2*64

    匯出節點(兩個匯出):32+32

    總計:552MB

    可見對應日誌描述:


    2)4.1.5.5 之前版本

    • 運作中定時/管道任務記憶體粗略計算表:(適用於任務數量多,精確計算不便)

    類型
    節點
    JVM 記憶體
    定時--1024M/每任務
    管道--1024M/每任務

    • 運作中定時/管道任務記憶體精確計算表:

    類型
    節點記憶體
    定時單個輸入節點64M+128M*流出通道數量
    全部程式節點64M+128M*連結的匯出節點數量
    單個匯出節點32M
    管道--1024M/每任務

    定時任務計算範例:


    2.4 Web 容器記憶體

    >=資源控制記憶體(例如初始部署的工程,使用資源控制記憶體 16G ,則 Web 容器記憶體大於 16G 即可,但不建議超過 80% 的系統記憶體)

    注:修改容器記憶體方式詳情參見:修改Tomcat内存

    3. 部署安裝包準備

    聯絡技術支援,獲取通用安裝包。技術支援聯絡方式:前往「服務」,選擇「線上支援」、電話「400-811-8890」



    附件列表


    主题: 部署升級
    • 有帮助
    • 没帮助
    • 只是浏览
    • 评价文档,奖励 1 ~ 100 随机 F 豆!