如尚未部署維運平台、FineBI專案、Data Agent服務,優先推薦一站式部署方案:帆軟&阿里雲端計算巢部署指南
本文面向物件:在未部署使用過 FineChatBI 的 FineBI 專案中部署啟動 Data Agent。若已經部署使用過 FineChatBI,請移步 部署Data Agent(已部署使用過FineChatBI版本)進行操作。
本文中提供的所有鏡像均為最新版本,不提供曆史版本鏡像。
部署Data Agent前,需要先部署 維運平台FineOps 及 FineBI,版本要求如下:
V2.41.0 及以上
FineBI 7.5 系列
FineBI 7.0系列(V7.0.8及以上)
FineBI 和 Data Agent 均依賴維運平台部署,因此使用者需要提前部署好維運平台。
如尚未部署維運平台
請參考文檔部署最新版維運平台:部署維運平台
如已部署維運平台
請參考下文升級維運平台至V2.41.0 及以上版本。
請參考文檔:外網升級維運平台
請參考文檔使用「全量版離線安裝包」部署最新版維運平台:部署維運平台
請使用「全量版離線安裝包」升級維運平台至V2.41.0 及以上版本。
請參考文檔:內網升級維運平台
使用者需要先使用維運平台部署好 FineBI,再對 FineBI 新增 Data Agent 組件。
1)準備FineBI部署環境
確認FineBI專案伺服器配置
確認FineBI專案伺服器網路
準備FineBI專案掛載目錄
2)部署最新版FineBI專案
部署新專案
注:需部署 FineBI 7.5 系列或 FineBI V7.0.8 及以上版本。如需使用Dora的指標問數功能,則 FineBI必須為7.5系列。
注:AI組件的部署入口,預設不直接對外開放。如需部署DataAgent,可以在資源準備階段,提前聯絡帆軟技術支援或銷售人員,獲取入口開放方法。
部署前需確認 DataAgent 預計日活使用者與高峯同時使用人數,用於選擇適合本企業的伺服器配置。
詳情可參考文檔:確認DataAgent專案伺服器配置。
部署流程圖如下所示:
1)下載 Data Agent 插件:Data Agent 插件
2)管理者登入 FineBI,點選「管理系統>插件管理>應用商城」
3)點選「從本地安裝」,選擇獲取的 Data Agent 插件安裝包,完成安裝即可。
注:插件包較大,因此安裝時間較長,請耐心等待。
Data Agent 鏡像無法直接從雲端倉庫拉取,需要手動推播鏡像入庫。
注1:對於信創版 FineBI,支援在 ARM 架構的信創伺服器中新增AI服務。
注2:本文提供的鏡像均為最新 AI 鏡像,不同 FineBI 版本適配不同版本的AI鏡像。如需曆史版本鏡像,請聯系帆軟技術支援獲取。
FineAI組件鏡像:FineAI組件鏡像
FineChatBl 語意解析小模型組件鏡像:FineChatBI 語意解析小模型組件鏡像
管理者登入維運平台,點選「維運平台管理>維運組件」。
點選「匯出部署資訊」,匯出成功後會提示匯出的檔案地址。
前往維運平台所在伺服器,在匯出檔案所在的 logs 目錄,同級目錄下,有一個 resources 資料夾,即為鏡像上傳位置。
例如本範例,匯出檔案所在資料夾為/home/ops/fanruan_d7379fe3/ops/logs,那麼鏡像上傳位置為/home/ops/fanruan_d7379fe3/ops/resources
請將上一步下載的兩個鏡像.tar.gz檔案,上傳到 resources 資料夾中
管理者登入維運平台,點選「維護中心>鏡像管理」,點選「載入鏡像」。
即可選擇 resources 下的兩個 AI 鏡像檔案進行載入,載入完成後 resources 下的鏡像檔案會被刪除。
推播成功後,管理者登入維運平台,點選「維護中心>鏡像管理」,查看推播到倉庫的新鏡像。
找到剛剛推播的「fine-ai-bi7」和「fine-chat-bi-parser-bi7」鏡像,記下版本號。
管理者登入維運平台,點選「維運平台管理>更新升級>部署列表>手動修改」。
手動修改 AI 相關的兩個組件的鏡像版本號,確定與鏡像管理中的鏡像版本號完全一致,此時維運平台才會讀取到有待更新的鏡像版本。
管理者登入維運平台,選擇對應 FineBI 專案,點選「維護>組件管理」按鈕。
點選「新增組件」,選擇新增組件類型「業務服務>AI」
注:AI組件的部署入口,預設不直接對外開放。如不顯示「ai」組件部署入口,請聯系帆軟技術支援或銷售人員,獲取入口開放方法。
無論選擇低、中、高哪一版伺服器配置,均需為其配置AI檔案服務,支援對接已有的S3檔案伺服器(推薦)或 複用 FineBI 伺服器中已有的 MinIO 服務 。
支援對接的 S3 伺服器可參考文檔:DataAgent對接華為雲OBS實現檔案服務、DataAgent對接阿里雲OSS實現AI檔案對接、DataAgent對接MinIO實現檔案服務
如為AI組件準備了全新伺服器,需要先將該伺服器新增到專案節點中。
點選「新增節點」按鈕,輸入伺服器資訊,點選「新增節點」,等待新增完成即可。
具體節點設定如下表所示:
請選擇「組件」
該組件伺服器上不建議部署其他工程或內容
請輸入節點主機IP(內網IP)
注:同一專案中,主機不支援重複新增多次
請輸入有sudo權限的伺服器帳號
支援兩種:密碼、公用鍵
注1:密碼金鑰僅用於部署專案,部署結束後無需使用,專案與維運平台的對接依賴平台配置。
因此後續如修改了伺服器密碼,不會對維運監視産生影響。
注2:如選擇公用鍵方式驗證
請上傳後綴為.key / .pem / .crt的私密金鑰檔案(例如id_rsa.key)
請勿上傳其他後綴格式的私密金鑰檔案,請勿上傳公用鍵檔案(例如id_rsa.pub)
請輸入節點安裝目錄的伺服器路徑,即本文【2. 準備Data Agent伺服器】環節設定的掛載目錄
預設為~/data,~代表所使用的伺服器使用者的主目錄
注:可在終端使用該使用者帳號存取伺服器,輸入echo $HOME命令查看該使用者的主目錄路徑
選填項
如果伺服器不支援內網存取,僅支援外網映射,可以填寫可聯通的外網IP
選擇需要用於部署 AI 組件的專案節點。
節點最低配置為CPU16核、可用記憶體32G、可用磁碟500G。低於該配置的節點灰化不可選。
建議組件使用預設埠,若部署環境網路限制嚴格,請根據文檔【確認DataAgent專案服務器配置】,準備的可用閒置埠,對每一個組件的埠進行調整 。
注:
1)建議修改 FineAI Redis 組件與 postgresql 組件的密碼,組件的預設密碼隨機生成,部署成功後無法修改 。
2)postgresql 組件帳號:fine_ai_checkpoint_user
點選「開始部署」按鈕,自動在所選節點中部署 AI 相關組件。若部署失敗則顯示失敗原因。
若 DataAgent 伺服器選擇中配或高配,需配置雙 WORKER 參數。
單個 fine-ai 容器內預設運作 1 個worker,最多配置 2 個worker。
請按照以下步驟操作:
1)管理者登入維運平台,選擇對應 FineBI 專案,點選「維護>組件管理」按鈕。
2)點選「進入開發者模式」,選擇「fine-ai 組件>自訂環境變數」。
3)在彈窗中,新增環境變數:FINE_AI_UVICORN_WORKERS=2。
若 DataAgent 伺服器選擇高配,在成功部署 DataAgent 主應用伺服器後,需進行 fine-ai 節點數擴容,在擴展節點伺服器上新增 fine-ai 組件。
詳情可參考文檔:FineAI擴容組件數量。
請確定升級 ElasticSearch 組件至 v20.4.5-8.17.3 及以上版本,並確定 ElasticSearch 組件處於 running 狀態。
詳情請參見:內網升級維運專案。
請透過開發者模式,自訂 ElasticSearch 組件的環境變數,將 INSTALL_FINE_PLUGIN 的值修改為 yes。詳情請參見:開發者模式。
Data Agent 相關授權,請聯系帆軟銷售獲取。
授權安裝方法:根據網路環境,推薦 推薦 公有雲認證 (外網)/ 註冊新專案(內網)
完成以上 Data Agent 配置,且 Data Agent 相關授權安裝成功後,在 FineBI 右上角將出現「Data Agent」按鈕。此時僅完成基礎配置,請繼續本文以下操作。
完成以上所有操作後,將成功部署並可進入 Data Agent 頁面,在正式使用 Data Agent 平台前,管理者需進行平台和模型連結測試操作。
注:若連結測試出現報錯,可前往 大模型問題排查指南 查看。
前往「Data Agent 管理後台>應用連結」,完成如下兩個操作:
1)在後台地址中新增當前已部署 Data Agent 的 FineBI 地址,地址格式需保持統一,IP 與域名不可混用。
2)點選「連結測試」,以保證 FineAI 插件與 FineBI 平台互通。
前往「Data Agent 管理後台>模型」,對已新增的目標模型進行連結測試,保證大模型為可用狀態。