反馈已提交

网络繁忙

配置管道任务-管道控制

  • 文档创建者:Roxy
  • 历史版本:14
  • 最近更新:Wendy123456 于 2024-01-19
  • 1. 概述

    FineDataLink版本
    功能变动
    4.0.26「管道控制」步骤中,新增「失败重试」设置
    4.0.27脏数据阈值由某个任务在某次开始运行到结束运行的区间阈值变为任务自建立至今整体阈值
    4.0.28

    「结果通知」中:

    • 新增钉钉、飞书、企业微信通知渠道

    • 短信/邮件/平台渠道:基于平台体系配置通知对象,通知对象可选择平台用户、部门、角色,三者取并集

    4.1.1可为管道任务单独设置日志输出级别

    设置来源表目标表映射关系后,即可对管道任务进行任务执行控制。

    2. 操作步骤

    2.1 设置脏数据阈值

    数据同步允许一定的容错,比如字段类型、长度不匹配、主键冲突等等问题,可以设置产生的 脏数据上限,达到上限则自动终止管道任务。

    用户设置脏数据阈值1000条,当某次任务运行期间脏数据达到1000条后,任务会异常中止;脏数据阈值的定义是,某个任务自建立至今的整体阈值。

    50.png

    注1:限制最多10w行,且重启任务后,会重置阈值统计。

    注2:若需要对产生的脏数据进行处理,详情参见:脏数据处理

    2.2 设置失败重试

    若管道任务由于当时的网络波动或者其他原因,运行中断,过段时间网络即可恢复正常,希望管道任务可自动重新运行。可在「失败重试」中设置重跑次数和间隔时间。

    设置项
    说明
    重跑次数默认值为 3 次,最大值为 10 次
    间隔时间默认值为 2 分钟,最大值为 60 分钟

    「失败重试」逻辑说明

    • 若全量同步未完成,会从头全量同步;若全量同步已完成,会从断点开始;即全量阶段没有断点,只有增量阶段有断点同步。

    • 管道任务只要重新运行了,都是按第一次开始重新计算。

    51.png

    2.3 设置结果通知

    可设置当任务异常时的通知。如下图所示:

    注1:结果通知中勾选源表结构变化相关介绍详情参见:数据管道-同步源表结构变化

    注2:单个管道任务失败的通知限制为 10s 一次。

    1691978269787859.png

    2.3.1 平台/邮件/短信说明

    • 当通知渠道为短信/邮件/平台渠道时基于平台体系配置通知对象,通知对象可选择平台用户、部门、角色,三者取并集。

    • 通知渠道选择短信/邮箱时,自定义收件人平台用户组不能同时为空;其中,「自定义收件人」不支持引用参数

    • 通知渠道选择短信/邮箱时,平台用户组」中选择了 A 用户,自定义收件人中也设置了 A 用户,不做重复通知。

    2.3.2 钉钉/飞书/企业微信设置说明

    通知渠道选择客户端时,可设置通知渠道为钉钉群机器人/飞书群机器人/企业微信群机器人

    注:一个通知渠道中,Webhook 地址不支持填写多个。

    1691978891790103.png

    钉钉群机器人 Webhook 地址:可参考 自定义机器人接入

    飞书群机器人 Webhook 地址:自定义机器人使用指南

    企业微信群机器人 Webhook 地址:添加群机器人步骤如下图所示,机器人添加成功的提示页面上会有 webhook 地址:

    1691978928636271.png

    2.4 设置日志等级

    可为管道任务单独设置日志输出级别,满足用户按需查看日志、调试和排错的需求;可以在更细粒度的日志等级里,打印详细的日志,供用户查看。

    如下图所示:

    1699961751959629.png

    1)输出的日志说明:管道任务:读写过程日志\异常和错误日志。

    2)默认不开启,未开启时使用 全局设置的业务日志等级记录日志全局日志等级默认为 WARN。

    3)仅在管道未处于运行状态时可以配置,启动后生效。

    4)日志级别可选择 ERROR、WARN、INFO。

    • 日志级别大小排序(严重程度):ERROR>WARN>INFO

    • 日志详细程度排序:ERROR<WARN<INFO

    日志级别
    说明
    ERROR错误,异常情况导致不可用
    WARN警告,可能会出现问题,但是依然可用,属于告警
    INFO普通信息,用于记录运行状态或重要事件

    5)调整单个管道任务的日志输出级别后,若修改了全局的日志级别全局日志的级别不会影响手动修改过日志等级任务的级别。

    3. 后续步骤

    进行任务运维管理:单个管道任务管理管道任务运维




    附件列表


    主题: 数据管道
    • 有帮助
    • 没帮助
    • 只是浏览
    • 评价文档,奖励 1 ~ 100 随机 F 豆!

    鼠标选中内容,快速反馈问题

    鼠标选中存在疑惑的内容,即可快速反馈问题,我们将会跟进处理。

    不再提示

    10s后关闭



    AI

    联系我们
    在线支持
    获取专业技术支持,快速帮助您解决问题
    工作日9:00-12:00,13:30-17:30在线
    页面反馈
    针对当前网页的建议、问题反馈
    售前咨询
    采购需求/获取报价/预约演示
    或拨打: 400-811-8890 转1
    qr
    热线电话
    咨询/故障救援热线:400-811-8890转2
    总裁办24H投诉:17312781526
    提交页面反馈
    仅适用于当前网页的意见收集,帆软产品问题请在 问答板块提问前往服务平台 获取技术支持