反馈已提交

网络繁忙

实时管道-同步源表结构变化

  • 文档创建者:Roxy
  • 历史版本:57
  • 最近更新:Wendy123456 于 2025-10-27
  • 1. 概述

    1.1 版本

     FineDataLink 版本
    功能变动
    4.0.17支持Mysql 设置同步源表结构变化
    4.2.8.5KingBaseES(MySQL模式)作为目标端时,支持 DDL

    KingBaseES(SqlServer模式)作为目标端时,支持 DDL

    4.2.11.3「同步源表结构变化」按钮位置改变


    查看历史版本更新
     FineDataLink 版本功能变动
    4.0.20.1支持SQL Server、Oracle 、GaussDB 200、PostgreSQL、Greenplum、Greenplum(并行装载)作为目标端设置同步源表结构变化
    4.0.21Oracle数据源作为来源端,适配同步源表结构变化
    4.0.27交互体验优化
    4.0.28支持TiDB、Amazon Redshift、SeaboxMPP 作为目标端的DDL
    4.0.29支持 PostgreSQL 作为来源端的 DDL
    4.1.1支持 SQL Server 作为来源端的 DDL,DDL 逻辑详情参见本文3.3 节表格,且目前 DDL 同步不支持自动同步源端新增字段,若需要使用 DDL 进行新增字段的处理,请参见数据管道中SQL Server DDL操作说明
    4.1.5.4若开启 DDL,源表字段注释的变化(增删改)会同步到目标表中。但新增字段的注释不会同步过去
    4.1.8.2数据管道支持写入神通数据库,该数据库支持DDL
    4.1.9.3
    • 支持用户自定义字段类型映射规则,并配置生效的数据连接。

    • 「自动建表字段类型映射」、「管道DDL」、「定时任务来源字段变化感知」时,数据连接的自定义映射规则将优先于默认映射规则生效。

    详情参见:通用配置-字段映射规则

    4.1.10.1StarRocks、Doris作为目标端时,支持 DDL
    4.1.11.2YMatrix 作为目标端时,支持 DDL
    4.1.11.3PolarDB PostgreSQL 作为目标端时,支持 DDL
    4.2.6.1AnalyticDB for MySQL 作为目标端时,支持 DDL
    4.2.7.2GaussDB 100/GaussDB T 作为目标端时,支持 DDL
    4.2.8.2KingBaseES(MySQL模式)作为来源端时,支持 DDL

    KingBaseES(SqlServer模式)作为来源端时,支持 DDL

    1.2 应用场景

    在使用管道任务进行数据实时同步过程中,来源端结构可能因业务调整等原因发生变动,如增删表、增删字段、修改字段名称、修改字段类型等,此时,用户希望目标端可以自动同步这些来源端的调整,不需要人为地进行数据表的调整。

    1.3 功能说明

    数据管道任务支持同步源库DDL功能,开启相关选项后,在源库发生DDL(删除表、新增字段、删除字段、修改字段名称、修改字段类型(长度修改 & 兼容类型修改))时,管道任务可以自动同步这些来源端变化至目标端,不需人为介入修改目标表结构。

    1761200283710936.png

    2. 支持范围

    管道任务的来源端和目标端,在下表中都为支持,才能正常使用 DDL 功能。

    例如:管道任务来源端为 MySQL,目标端为 SQL Server ,支持使用 DDL 功能;来源端为 MySQL,目标端为 DB2 ,不支持使用 DDL 功能。

    数据源
    作为来源端作为目标端备注
    MySQL 支持支持
    Oracle 支持
    支持
    SQL Server 



    支持由于 SQL Server 数据库本身特性,目前 DDL 同步不支持自动同步源端新增字段,若需要使用 DDL 进行新增字段的处理,请参见 数据管道中SQL Server DDL操作说明
    GaussDB 200 不支持支持
    GaussDB 100/GaussDB T不支持支持
    PostgreSQL 支持支持
    Greenplum 包括并行装载不支持支持


    kafka不支持

    不支

    (目标端暂不支持kafka)


    KingBaseES(MySQL模式)

    支持支持
    KingBaseES(SqlServer模式)支持支持
    TiDB

    不支

    支持
    Amazon Redshift

    不支

    支持
    DB2支持不支持
    SeaboxMPP

    不支

    支持
    SAP HANA不支持不支持SAP HANA 数据源作为管道任务来源端时,程序无法感知到源表结构变化,因此需要用户手动有计划地执行表结构变更等操作,才能完成同步。详情请参见:数据管道中SAP HANA DDL操作说明
    神通数据库不支持支持
    StarRocks不支持支持源端修改列类型,StarRocks 和 Doris 存在限制,详情请参见:StarRocks数据源使用说明Doris数据源使用说明
    Doris不支持支持
    YMatrix不支持支持
    PolarDB PostgreSQL不支持支持
    AnalyticDB MySQL不支持支持

    3. 功能说明

    注:SQL Server 数据源作为管道任务来源端时,目前 DDL 同步功能不支持自动同步源端新增字段,若需要使用 DDL 进行新增字段的处理,请参见 数据管道中SQL Server DDL操作说明

    注:DDL 的效果请参见:实时管道任务示例

    开启「同步源表结构变化」后,数据结构变化实时同步说明:

    操作
    「开启」同步源表结构变化
    字段映射配置变化
    目标表结构变化
    目标表数据变化
    删除表继续同步其他表。

    标记被删除的同步表。

    该表对应源表已被删除,该表将不会继续同步。

    无变化。被删除表在后续同步中将没有新数据写入。

    重命名表


    继续同步其他表。

    注:PostgreSQL 作为来源端,不支持重命名表。


    标记原名称表为删除。

    该表对应源表已被删除,该表将不会继续同步。

    无变化。

    原名称表在后续同步中将没有新数据写入。


    删除字段

    继续同步其他字段。



    标记被删除的字段。

    对应源字段已被删除,该字段在后续同步中将传NULL值。

    无变化。

    被删除字段在后续同步中传NULL值。

    对于 SQLServer 数据源作为来源端,在检测到字段删除的时刻(每次查询都会比对表结构检测),FDL 就会当做字段已经删除。

    此时 CDC 表中可能还存在一部分数据带有这个字段,此时该字段的值将不会同步到目标表中。

    新增字段

    自动同步新增字段。

    同步失败时,记录日志且发送通知,任务正常运行。

    对于 SQLServer 数据源作为来源端,目前DDL同步不支持自动同步源端新增字段,若需要进行新增字段 DDL ,需要对数据库进行操作,详情参见 数据管道中SQL Server DDL操作说明


    自动在来源端和目标端添加新的映射关系。

    同步新增字段。

    新增的这个字段不标记物理主键或逻辑主键

    同步新增字段的后续新增数据。


    修改字段名称

    原名称字段删除,新名称字段新增。

    对于 SQLServer 、DB2数据源作为来源端,不支持修改字段名称。

    标记原名称字段删除。

    自动在来源端和目标端添加新名称字段的映射关系。

    同步新增新名称字段。

    原名称字段在后续同步中传NULL值。

    同步新名称字段的后续新增数据。

    修改字段类型或者长度

    自动同步修改字段类型,修改不成功时,记录日志,任务继续运行。修改时的字段映射逻辑和自动建表时一致。

    来源表与目标表字段配置自动修改字段类型。同步修改字段类型。历史数据与后续新增数据变化为对应类型数据。
    源表字段注释的变化(增删改)

    同步到目标表

    新增字段的注释不会同步过去

    ---

    开启「同步源表结构变化」按钮后,「运行日志」界面会出现 DDL 的更改日志。如下图所示:

    1761532718955083.png



    附件列表


    主题: 数据管道
    • 有帮助
    • 没帮助
    • 只是浏览
    中文(简体)

    鼠标选中内容,快速反馈问题

    鼠标选中存在疑惑的内容,即可快速反馈问题,我们将会跟进处理。

    不再提示

    10s后关闭



    AI

    联系我们
    在线支持
    获取专业技术支持,快速帮助您解决问题
    工作日9:00-12:00,13:30-17:30在线
    页面反馈
    针对当前网页的建议、问题反馈
    售前咨询
    采购需求/获取报价/预约演示
    或拨打: 400-811-8890 转1
    qr
    热线电话
    咨询/故障救援热线:400-811-8890转2
    总裁办24H投诉:17312781526
    提交页面反馈
    仅适用于当前网页的意见收集,帆软产品问题请在 问答板块提问前往服务平台 获取技术支持