反馈已提交

网络繁忙

Paimon输入

  • 文档创建者:Wendy123456
  • 历史版本:2
  • 最近更新:Wendy123456 于 2026-04-01
  • 1. 概述

    1.1 版本

    FineDataLink 版本功能变动
    5.0.10.1实时任务中新增「Paimon输入」,可读取 Paimon 数据源

    1.2 功能简介

    FineDataLink 「实时任务」支持使用 「Paimon输入」算子进行实时读取数据。

    2. 操作步骤

    2.1 读取Paimon数据

    1)登录 FDL 工程,点击「数据开发>实时任务>新建」,新建实时任务,给实时任务自定义名称。如下图所示:

    11.png

    2)进入实时任务编辑界面后,拖入「Paimon输入」算子,设置数据连接、来源表、主键、同步类型。如下图所示:

    注:需要注册「Paimon」功能点。

    9.png

    各设置项说明如下表所示:

    设置项
    说明
    数据连接
    需要先配置 Paimon 数据连接
    来源表

    对于主键表:

    • 如果表的 changelog-producer 属性为 none、input 时,表置灰,不可选择

    • 如果表的 changelog-producer 属性为 lookup、full compaction 时,可选择

    主键
    • 当来源表是主键表时,默认勾选来源表的物理主键,且不可修改

    • 当来源表是非主键表时,主键属性为空,不可编辑,后续也可以使用 flinksql、regular join、分组汇总算子

    同步类型

    支持选择存量+增量同步、仅增量同步-任务启动时间、仅增量-自定义时间

    • 当选择自定义时间时,只能选择大于「该表保存的最早快照的提交时间」的时间

    • 启动时,从快照提交时间 =<「自定义时间」中,选择最新的一个快照开始读该表的变更

    样本设置

    设置参与预览的数据计算样本数量,实际运行时取全量数据计算

    1775051732426651.png

    icon提示:

    1)因为 Paimon 的增量数据不依赖日志解析,而是直接读表的 changelog ,所以实时任务读 Paimon 表时,不经过共享中心、Kafka,由实时任务直接流读 paimon 表

    2)在实时任务中的「维度表输入」算子中不支持选择「Paimon」类型的数据连接。

    3)点击「数据预览,可查看读取的数据。如下图所示:

    12.png

    2.2 后续步骤

    1)根据实际情况继续拖入其他算子处理数据或者将数据输出。

    2)启动实时任务即可。



    附件列表


    主题: 数据开发-实时任务
    • 有帮助
    • 没帮助
    • 只是浏览
    中文(简体)

    鼠标选中内容,快速反馈问题

    鼠标选中存在疑惑的内容,即可快速反馈问题,我们将会跟进处理。

    不再提示

    10s后关闭



    AI

    联系我们
    在线支持
    获取专业技术支持,快速帮助您解决问题
    工作日9:00-12:00,13:30-17:30在线
    页面反馈
    针对当前网页的建议、问题反馈
    售前咨询
    采购需求/获取报价/预约演示
    或拨打: 400-811-8890 转1
    qr
    热线电话
    咨询/故障救援热线:400-811-8890转2
    总裁办24H投诉:17312781526
    提交页面反馈
    仅适用于当前网页的意见收集,帆软产品问题请在 问答板块提问前往服务平台 获取技术支持