DataAgent对接华为云OBS实现文件服务

  • 文档创建者:Aria.Han
  • 历史版本:8
  • 最近更新:Aria.Han 于 2026-11-03
  •  1. 概述

    1.1 版本

    DataAgent版本
    功能变更
    V1.3-

    1.2 应用场景

    手动搭建本地 HDFS 文件系统,对于用户的运维能力要求过高,但用户又希望使用高可用的 AI 文件服务器。

    支持的云存储文件系统包括:阿里云OSS、华为云OBS 、亚马逊云S3。其他自行搭建的 S3 平台不确保支持。

    1.3 功能简介

    本文主要讲解 DataAgent 集群与华为云对象存储 OBS 的对接:

    • 用户需要自行购买并准备华为云对象存储 OBS

    • 在项目部署好后,可将集群项目与该云存储系统对接

    2. 准备华为云OBS

    用户需要自行购买并准备华为云对象存储 OBS。

    帆软不提供相关资料和指导,仅对必要内容进行指明,请查阅华为云官网获取其他帮助。请参见:华为云对象存储OBS 




    1创建华为云超管

    如已有华为云企业超管账号,可忽略本步骤

    1)注册华为账号

    请参考华为云文档完成:注册华为账号并开通华为云

    2)实名认证

    请参考华为云文档完成:个人账号如何完成实名认证 或 企业账号如何完成实名认证

    3)为华为账号充值

    请确保你的华为账号有足够的余额,才能正常使用 OBS 等相关资源

    请参考华为云文档完成:账户充值

    2创建华为云IAM用户和访问密钥

    华为云企业超管账号下,一般有企业内的多种资源

    超管可以创建一个IAM用户,用于分配对应OBS权限,和帆软集群对接

    1)创建IAM用户

    管理员登录IAM控制台,选择「用户>创建用户」,设置IAM用户名

    请务必勾选「访问密钥」凭证,以生成AccessKeyId和AccessKeySecret

    请参考华为云文档完成:创建IAM用户

    2)保存访问密钥文件

    创建成功后,请务必妥善保管生成的访问密钥文件 credentials.csv,其中包含该 IAM 用户的 Access Key Id 和 Secret Access Key,下文需要用到

    请参考华为云文档完成:管理IAM用户访问密钥

    3)分配权限

    请为该用户或用户所在的用户组,分配 OBS Administrator权限:对象存储服务管理员权限

    请参考华为云文档完成:创建用户组并授权

    3创建桶和文件目录

    1)创建桶

    登录华为云OBS控制台,创建桶

    请参考华为云文档完成:创建桶

    示例桶名称:fanruan-dora-obs-test

    2)新建文件夹

    点击进入创建好的桶,在「对象」中新建文件夹,用于存储工程文件和工程备份文件。请参考华为云文档完成:新建文件夹

    示例文件夹:fanruan

    3)点击进入上一节创建的目录,新建子目录,推荐命名为 dora ,用于存储工程文件

    3. 准备华为云OBS信息

    配置项
    说明
    协议S3

    Bucket

    Endpoint

    Region

    配置项说明:

    Bucket:桶,用于存储对象的容器

    Endpoint:OBS对外服务的访问域名

    Region:OBS的数据中心所在物理位置。注意不包含前缀的Bucket,例如示例的Region最终值为:obs-cn-east-3.huaweicloud.com

    获取方式:

    1)登录华为云对象存储OBS管理控制台

    2)点击桶列表,桶名称即为 Bucket

    3)点击桶,进入「概览」界面,在域名信息中,可以看到 Endpoint 和 Region

    AccessKeyId

    AccessKeySecret

    配置项说明:

    AccessKey是华为云提供给用户的永久访问凭据

    • AccessKeyId:用于标识用户

    • AccessKeySecret:是一个用于验证你拥有该AccessKey ID的密码

    获取方式:

    推荐新建 IAM 用户并创建访问密钥,即上文创建 IAM 用户时生成的访问密钥文件 credentials.csv

    其中包含该IAM用户的 Access Key Id(即帆软所需的AccessKeyId)和 Secret Access Key(帆软所需的 AccessKeySecret )

    如果遗失这个 AccessKey,请参考华为云文档重新创建:管理IAM用户访问密钥

    路径

    文件服务的根目录名称,即存储工程文件的目录完整地址

    本示例为 fanruan/dora/

    注:

    1)「路径」必须以「/」结尾,开头不能加「/」。

    2)「路径」不能是相对路径。

    PathStyleAccess

    访问OBS存储桶时,URL的路径结构,一般情况下无需配置

    • false:默认值,虚拟主机样式,存储桶名称为主机名的一部分,这种方式是华为云 OBS 的推荐访问方式,通常用于生产环境中

    • true:路径样式,存储桶名称为路径的一部分,如集群对接 OBS 时,出现证书或 unknownhost 相关报错,可调整为 true

    signerOverride

    允许用户指定请求签名的算法或版本,一般情况下无需配置

    如集群对接 OBS 时,出现证书或 unknownhost 相关报错,可调整为 S3SignerType

    4. 接入AI文件服务

    4.1 部署新项目时接入

    在「部署新项目-项目设置」时,可接入自备的华为云对象存储 OBS 作为 AI 文件服务器。

    1)当部署多应用集群项目时,勾选「AI」部署模块,AI文件服务支持选择「对接已有服务」。

    2)下拉页面,在「AI文件服务」中输入第三章准备的相关信息。

    3)点击「测试连接」,提示「测试连接成功」,即代表可正常对接。

    4.2 添加新AI组件时接入

    在「添加组件」时,可接入自备的华为云对象存储 OBS 作为 AI 文件服务器。

    1)管理员选择对应项目,进入「维护>组件管理」

    2)点击「添加组件>业务组件」,选择「AI」组件

    3)在 AI 文件服务中,选择「对接已有文件服务(S3)」

    4)输入第三章准备的相关信息,点击「保存」,提示「连接成功」,即代表可正常对接

    4.3 修改AI文件服务

    在项目部署成功后,可通过运维平台的「集群管理」,为 DataAgent 接入华为云对象存储 OBS 作为文件服务。

    1)管理员登录运维平台,选中指定项目。

    2)点击「维护>集群管理」,对「AI 文件服务器」进行配置。

    3)输入第三章准备的相关信息。

    4)点击「保存」,提示「连接成功」,即代表可正常对接。

    附件列表


    主题: 部署运维
    已经是第一篇
    已经是最后一篇
    • 有帮助
    • 没帮助
    • 只是浏览