提示:點選傳回主目錄:【目錄】FineChatBI
本文面向:使用維運平台部署 FineBI6.1 和 AI 組件的使用者,詳細介紹相關部署操作。
請先全文閱讀,瞭解整體操作步驟後,再着手進行。
如未使用維運平台部署FineBI6.1 ,請參考:FineChatBI 手動部署(非維運平台)
本文所部署的 FineBI 和 AI 組件,均依賴維運平台部署
因此使用者需要提前部署好維運平台
本文所部署的 AI 組件,需要在維運平台部署的 FineBI 專案中添加
因此使用者需要提前使用維運平台部署 FineBI
AI 組件需要足夠的伺服器資源維持運作
因此使用者需要準備好 AI 組件部署到的伺服器
維運平台依賴鏡像部署 AI
因此使用者需要準備好 AI 組件相關的鏡像包
以上步驟全部準備完畢後
使用者即可透過維運平台,為 FineBI 專案新增 AI 組件
FineBI 專案成功新增 AI 組件後,還需要手動為 FineBI 安裝 FineChatBI 插件,方可成功啟動智慧問答
FineBI 與 AI 組件需要按順序部署,因此使用者需要先使用維運平台部署好 FineBI 。
帆軟應用依賴維運平台進行部署
因此使用者需要提前部署好FineOps維運平台
請確定維運平台版本在V2.20.0及以上
準備FineBI部署環境
確認FineBI專案伺服器配置
確認FineBI專案伺服器網路
準備FineBI專案掛載目錄
確認鏡像倉庫支援連結帆軟雲端倉庫
部署新專案中的各個組件,是需要透過鏡像進行部署的。要麼鏡像倉庫已有鏡像,要麼支援從雲端拉取鏡像
部署新專案
請確定FineBI版本在6.1.6及以上
由於 AI 模型所需資源較多,以及後期增加大模型等考慮,建議為AI組件單獨準備一台伺服器。
該服務用於部署的 AI 組件,包括:
FineAI(fine-ai):算法工具、大模型轉發
FineChatBl 語意解析小模型(fine-chat-bi-parser):問答BI,將使用者提問的自然語句轉化為可執行的資料查詢語句
FineAI Redis(fine-ai-redis):綁定問答BI一起部署
伺服器要求如下:
推薦配置:CPU16核、可用記憶體64G、可用磁碟100G,AI組件獨佔伺服器
最低配置:CPU8核、可用記憶體16G、可用磁碟80G,AI組件與FineBI專案共用伺服器(該配置為 AI 組件可用配置,請在部署完 BI 後確認伺服器是否有相關閒置可用配置,再着手部署 AI )
伺服器時間不一致,可能會導致定時任務執行錯誤、日誌記錄混亂、資料不一致等多種問題
AI組件伺服器與專案其他伺服器時區完全一致
伺服器時區不一致,可能會導致定時任務執行錯誤、日誌記錄混亂、資料不一致等多種問題
AI組件伺服器與專案其他伺服器內網互通,或可以開放埠存取
下文將具體講述對應埠開放要求
推薦:Ubuntu 22 版本
支援:
Ubuntu 18.04.4 及以上版本(不支援 Ubuntu20.04 版本 )
CentOS 7.3~7.9 版本
redhat 7.6 及以上版本
Rocky Linux 8.8~9.4版本
注:CentOS作業系統目前已停止服務,因此帆軟優先推薦使用Ubuntu作業系統
使用Ubuntu作業系統時,請注意檢查使用者權限(預設root使用者不是超管)和磁碟類型(是否為XFS),下文已詳細備註
16核
16G
注1:必須要有任一分割槽滿足條件,不可將分割槽容量加和
注:必須要有任一分割槽滿足條件,不可將分割槽容量加和
注:禁止直接使用/、/usr、/root、/usr/local四個目錄作為掛載目錄,可在對應位置建立資料夾使用
外掛目錄對應的檔案系統需要配置重啟自動掛載
如果沒有配置重啟自動掛載,那麼容器可能無法存取這些掛載目錄,導致資料丟失或應用程式無法正常啟動
外掛目錄不能是一個共享路徑
共享檔案系統可能導致效能下降、檔案權限問題和資料一致挑戰,這些問題會影響容器應用程式的可靠性和速度
無顯卡時系統仍可運作,但回應較慢
建議使用顯卡,4080/4090/a100均可
tar命令是一個用於打包和壓縮檔案的常用命令行工具
維運平台需要使用該命令進行檔案解壓
確定伺服器已安裝sed命令
sed命令是一個用於處理正文的工具
維運平台需要使用該命令進行正文處理
確定使用者可以透過ssh連結伺服器
確定使用者的ssh連結密碼無英文單引號字元,否則部署時權限檢查無法透過
用於部署專案的伺服器使用者,必須具備相關sudo權限
1)優先推薦使用root超管使用者進行專案部署和運作
2)如需使用非超管root使用者進行專案的部署和運作
請參考文檔:Linux使用者權限說明
注:Ubuntu作業系統,預設root使用者並非超管使用者,請務必再次確認所準備的使用者是否滿足上方超連結的linux使用者權限
請確定預設映射埠是否已被使用,如已被使用,請安排好其他閒置埠
埠佔用檢查和防火牆放行方法請參考:埠佔用檢查與防火牆配置
FineAI(fine-ai):7666
FineChatBl 語意解析小模型(fine-chat-bi-parser):8666
FineAI Redis(fine-ai-redis):6679
伺服器需要對外開放一些埠,以確定組件間正常工作
1)FineAI(fine-ai)
BI專案的帆軟內網關可存取FineAI
BI專案的每個bi-web可存取FineAI
2)FineChatBl 語意解析小模型(fine-chat-bi-parser)
BI專案的每個bi-web可存取FineChatBl 語意解析小模型
3)FineAI Redis(fine-ai-redis)
FineChatBl 語意解析小模型可存取FineAI Redis
FineAI可存取FineAI Redis
FineAI 和 FineChatBl 語意解析小模型組件,預設無法從雲端鏡像倉庫或全量finekey安裝包獲取。
使用者需參考本節單獨推播這兩個組件的鏡像包。
1)獲取鏡像包
點選下載FineAI組件鏡像:FineAI組件鏡像
點選下載FineChatBl 語意解析小模型組件鏡像:FineChatBl 語意解析小模型組件鏡像
2)上傳鏡像包
管理者登入維運平台,點選「維運平台管理>維運組件」。
點選「匯出部署資訊」,匯出成功後會提示匯出的檔案地址。
前往維運平台所在伺服器,在匯出檔案所在的logs目錄,同級目錄下,有一個resources資料夾,即為鏡像上傳位置。
例如本範例,匯出檔案所在資料夾為/home/ops/fanruan_5d15bea4/ops/logs,那麼鏡像上傳位置為/home/ops/fanruan_5d15bea4/ops/resources
請將上一步下載的兩個鏡像.tar.gz檔案,上傳到resources資料夾中
3)推播入庫
管理者登入維運平台,點選「維護中心>鏡像管理」,點選「載入鏡像」。
即可選擇resources下的兩個 AI 鏡像檔案進行載入,載入完成後resources下的鏡像檔案會被刪除。
4)確認並修改部署版本
推播成功後,管理者登入維運平台,點選「維護中心>鏡像管理」,查看推播到倉庫的新鏡像。
找到剛剛推播的fine-ai和fine-chat-bi-parser鏡像,記下版本號。
管理者登入維運平台,點選「維運平台管理>更新升級>部署版本列表」。
手動修改AI相關的兩個組件的鏡像版本號,確定與鏡像管理中的鏡像版本號完全一致,此時維運平台才會讀取到有待更新的鏡像版本。
FineAI Redis組件,即鏡像倉庫中的redis組件。
管理者登入維運平台,點選「維護中心>鏡像管理」,即可查看當前鏡像倉庫中是否存在redis鏡像。
請確定存在v20.3.0-6.2.17及以上版本的redis鏡像。如不存在符合版本要求的redis鏡像,請確認鏡像倉庫支援連結帆軟雲端倉庫
1)進入新增組件介面
管理者登入維運平台,選擇對應FineBI專案,點選「維護>組件管理」按鈕。
點選「新增組件」,選擇新增組件類型「業務服務>AI」
2)新增節點(選做)
如為AI組件準備了全新伺服器,需要先將該伺服器新增到專案節點中。
點選「新增節點」按鈕,輸入伺服器資訊,點選「新增節點」,等待新增完成即可。
具體節點設定如下表所示:
請選擇「組件」
該組件伺服器上不建議部署其他工程或內容
請輸入節點主機IP(內網IP)
注:同一專案中,主機不支援重複新增多次
請輸入有sudo權限的伺服器帳號
支援兩種:密碼、公用鍵
注1:密碼金鑰僅用於部署專案,部署結束後無需使用,專案與維運平台的對接依賴平台配置。
因此後續如修改了伺服器密碼,不會對維運監視產生影響。
注2:如選擇公用鍵方式驗證
請上傳後綴為.key / .pem / .crt的私密金鑰檔案(例如id_rsa.key)
請勿上傳其他後綴格式的私密金鑰檔案,請勿上傳公用鍵檔案(例如id_rsa.pub)
請輸入節點安裝目錄的伺服器路徑,即 2.2 節準備環節設定的掛載目錄
預設為~/data,~代表所使用的伺服器使用者的主目錄
注:可在終端使用該使用者帳號存取伺服器,輸入echo $HOME命令查看該使用者的主目錄路徑
選填項
如果伺服器不支援內網存取,僅支援外網映射,可以填寫可聯通的外網IP
3)選擇節點
選擇需要用於部署AI組件的專案節點。
節點最低配置為 CPU12核、可用記憶體24G、可用磁碟50G。低於該配置的節點灰化不可選。
4)確認服務配置
請根據2.2節準備的可用閒置埠,對每一個組件的埠進行調整
請務必修改FineAI Redis組件的密碼,組件的預設密碼隨機生成,部署成功後無法修改。
5)開始部署
點選「開始部署」按鈕,自動在所選節點中部署AI相關組件。
如果維運平台鏡像倉庫沒有相關組件鏡像,部署前會自動從雲端拉取鏡像。
鏡像準備完畢後,開始逐個部署組件,若部署失敗則顯示失敗原因。
1)下載 FineChatBI 插件:FineChatBI 插件
2)管理者登入FineBI,點選「管理系統>插件管理>應用商城」
3)點選「從本地安裝」,選擇獲取的 FineChatBI 插件安裝包,完成安裝即可。
授權安裝方法:根據網路環境,推薦 公有雲認證 (外網)/ 註冊新專案(內網)
授權購買方法:AI相關授權,請聯絡帆軟銷售獲取。各功能點對應功能如下:
通用大模型
推理大模型
在管理系統右下角出現「問答BI」按鈕,即代表智慧問答配置完成。
AI相關授權,請交握帆軟銷售獲取。
根據網路環境,推薦 公有雲認證 (外網)/ 註冊新專案(內網)
維運平台部署的AI組件升級,與其他維運平台部署的專案組件升級步驟完全一致
只需額外注意參考本文2.2節推播最新鏡像包和更改鏡像版本即可
可參考:外網升級維運專案 / 內網升級維運專案
另外升級完成後請將4.1節安裝的插件升級
大模型連結仍需參考:連結大模型