通用配置-字段映射规则

  • 产品级协助
  • 文档创建者:Roxy
  • 历史版本:10
  • 最近更新:Wendy123456 于 2025-02-11
  • 1. 概述

    1.1 版本

    FineDataLink 版本功能变动
    4.1.9.3
    • 支持用户自定义字段类型映射规则,并配置生效的数据连接。

    • 「自动建表字段类型映射」、「管道DDL」、「定时任务来源字段变化感知」时,数据连接的自定义映射规则将优先于默认映射规则生效。

    4.2.2.1

    该功能支持集群环

    SelectDB 数据库支持该功能

    1.2 应用场景

    在管道任务、定时任务的同步任务配置过程中,用户可能会出现期望的字段映射关系与产品中提供的默认映射关系不符的情况。

    虽然能在「自动建表」时对目标表单个字段类型进行修改,但是对于定时任务,如果这个映射修改,需要针对此数据源下的多个任务或者是多个节点生效,则需要多次重复配置;对于管道任务,用户一次性会同步几十张几百张表,不可能手动逐个表逐个字段的进行字段的查找和修改

    因此用户希望通过 FDL 能够统一对多个使用同一数据连接的定时任务、管道任务自定义字段类型映射规则

    1.3 功能说明

    • 支持用户自定义字段类型映射规则,并配置生效的数据连接。

    • 「自动建表字段类型映射」、「管道DDL」、「定时任务来源字段变化感知」时,数据连接的自定义映射规则将优先于默认映射规则生效。

    1.4 约束限制

    1)当前字段映射规则支持的数据源类型为:MySQL、Oracle、SQLServer、PostgreSQLGreenplumStarRocks、Doris、SelectDB。

    2)「通用配置」仅初始化配置时设置的管理员账号支持设置,不支持分配其他用户使用和管理权限。

    3)4.2.2.1 之前版本,该功能不支持集群环境;4.2.2.1 及之后版本,该功能支持集群环境。

    2. 功能说明

    配置项
    说明
    规则名称定义自定义映射的名称
    数据源映射选择来源数据库类型和目标数据库类型
    适用数据连接选择满足条件的已经创建的数据连接
    字段映射规则可以自由选择来源、目标端字段类型,可以定义源-目标的多个「字段类型映射关系」,可以新增和删除
    配置项
    说明
    来源端和目标端字段类型下拉选择源库和目标库可用的所有字段类型
    长度

    对于来源端字段映射部分:

    • 范围上限和下限初始化的时候,给默认值:上下限根据具体数据库类型及字段类型给出

    • 用户可以自行修改上限和下限

    对于目标段字段映射部分:

    • 如果所选源端类型不支持指定长度、精度、标度,而目标端所选类型支持,则允许将目标端的值设置为固定的长度、精度、标度

    • 如果所选源端类型和目标端类型都支持长度、精度、标度,目标端可以指定精确值或倍数值

    精度
    标度


    3. 操作步骤

    示例用户使用定时任务和管道任务时,源表 MySQL 数据库有部分 char 类型字段。StarRocks 作为目标库时,不支持将 char 字段类型定义为主键,建表时会报错。

    用户希望能 StarRocks 中,char 字段默认映射到 varchar 类型,以顺利完成配置并同步数据。

    在进行「字段映射规则」配置前需要首先新建数据连接,详情参见:创建并管理数据源

    3.1 进行字段映射规则设置

    1)点击「管理系统>通用配置」,添加「字段映射规则」。如下图所示:

    25.png

    2)输入规则名称,「数据源映射」中选择来源数据库类型和目标数据库类型,选择之前在平台中创建的有权限的数据连接,并选择需要调整映射的来源端字段类型和目标端字段类型。

    长度或精度」设置项中,可选择设置为固定值还是n的倍数」;若选择「固定值」,需要填入1-65533的整数,若选择「n的倍数」,「n*倍数」需要在1-65533之间。

    28.png

    本文示例中,长度或精度」设置项中,n 的值范围调整为 1-255,n 的倍数设置为 3。如下图所示:

    29.png

    3.2 效果查看

    在数据管道中即可看到同步的数据「表字段映射」中 char 类型字段改为 varchar 类型字段,同时字段长度和精度也按照字段映射规则修改。如下图所示:

    31.png

    在数据开发中即可看到同步的数据「表字段映射」中 char 类型字段改为 varchar 类型字段,同时字段长度和精度也按照字段映射规则修改。如下图所示:

    30.png



    附件列表


    主题: 管理系统
    已经是第一篇
    已经是最后一篇
    • 有帮助
    • 没帮助
    • 只是浏览
    中文(简体)

    鼠标选中内容,快速反馈问题

    鼠标选中存在疑惑的内容,即可快速反馈问题,我们将会跟进处理。

    不再提示

    7s后关闭



    AI

    联系我们
    在线支持
    获取专业技术支持,快速帮助您解决问题
    工作日9:00-12:00,13:30-17:30在线
    页面反馈
    针对当前网页的建议、问题反馈
    售前咨询
    采购需求/获取报价/预约演示
    或拨打: 400-811-8890 转1
    qr
    热线电话
    咨询/故障救援热线:400-811-8890转2
    总裁办24H投诉:17312781526
    提交页面反馈
    仅适用于当前网页的意见收集,帆软产品问题请在 问答板块提问前往服务平台 获取技术支持

    反馈已提交

    网络繁忙