FineAI 主要负责承接和转发大模型服务的请求，本文将介绍如何部署 FineAI 服务。

FineAI 的服务器配置要求相对较低，为了优化资源使用，建议用户可以将 FineAI 服务以及规则模型部署在同一台服务器上。

FineAI 部署环境要求如下表所示：

联系帆软商务，获取  FineAI 的镜像包和代码包。

4.1 安装 Docker

检查服务器是否已安装 Docker，以满足 FineAI 部署的先决条件，检查 Docker 命令：docker --version

• 若没有安装则会显示 command not found，如下图所示，此时则需要在服务器上安装 Docker，安装步骤可参考：Linux系统安装Docker

  

• 若已安装则会显示 Docker 的版本信息，如下图所示：

  
  

4.2 上传并运行 Docker 镜像文件

1）将 Docker 镜像文件（图中为 fine_ai.tar）传输至服务器的指定目录，示例路径：/home/fineai

如果收到后镜像文件以 .gz 结尾，则需要将其解压，解压后如下图所示：

命令示例：gunzip fine-ai-base_v0_1.tar.gz

2）执行 docker load  命令以导入 Docker 镜像文件。

命令示例：docker load -i fine-ai-base_v0_1.tar 

4）执行 docker images 命令以确认镜像是否已成功导入。

命令示例：docker images

5）依据已经导入的镜像，使用 docker run 命令创建并启动一个新的容器 。

命令示例：docker run -e TZ=Asia/Shanghai --name fine_ai -p 7666:7666 -it -d fine-ai-base:v0.1-git-ssh /bin/bash

4.3 安装代码

1）将获取的代码文件 encrypt_fine_ai_xxxxx.tar 传输至服务器的指定目录，示例路径：/home/fineai

2）使用 tar -xvf 命令解压代码文件。

命令示例：tar -xvf encrypt_fine_ai_xxxxx.tar

3）执行 docker cp 命令，将解压后的代码文件复制到容器路径 fine_ai:/root/ 中。

命令示例：docker cp encrypt_fine_ai_xxxxx fine_ai:/root/

4）进入到容器中，并切换到容器内的代码路径中运行代码脚本。

1. 进入容器 fine_ai：docker exec -it fine_ai /bin/bash

2. 切换当前工作目录到代码路径中：cd /root/encrypt_fine_ai_xxxxx

3. 运行脚本：nohup python app.py &.cd

5）依次按下 Ctrl+P 和 Ctrl+Q 退出 Docker 容器。