Data Filtering

  • Last update: November 13, 2023
  • 1. 概述

    1.1 版本

    FineDataLink 版本功能变动
    4.0.19
    新增「数据过滤」算子,过滤符合条件的数据
    4.0.28运算符选择「为空」时,可过滤出值为空格的数据

    1.2 应用场景

    • 用户数据存在空值,想过滤掉空值数据。

    • 数据表包含了数年的产品合同信息,业务员在使用时只想要 2017 年的合同数据。

    此时可使用「数据过滤」算子满足需求。

    1.3 功能简介

    「数据过滤」算子可过滤符合条件的数据。如下图所示:

    25.png

    2. 示例

    示例数据:订单表.xls

    本文要筛选出「订购日期」为 2023 年,「运货费」大于 100 的数据。

    2.1 数据输入

    1)新建 ETL 任务。如下图所示:

    26.png

    2)新增一个「数据转换」节点。如下图所示:

    27.png

    2)点击「数据转换」节点,添加「DB表输入」算子,筛选出订单表数据。如下图所示:

    29.png

    2.2 字段设置

    由于本次示例使用的表数据字段类型都为文本类型,需要将日期字段修改为日期类型,数值字段修改为数值类型。

    注:若用户数据类型正确,可忽略本节步骤。

    添加「字段设置」算子,与「DB表输入」算子相连,修改字段类型。如下图所示:

    30.png

    2.3 数据过滤

    设置过滤条件,筛选出「订购日期」为 2023 年,「运货费」大于 100 的数据。如下图所示:

    31.png

    点击「数据预览」,筛选后的数据如下图所示:

    32.png

    2.4 数据输出

    添加一个 DB表输出算子,输出筛选后的数据。如下图所示:

    33.png

    2.5 运行任务

    1)保存并运行任务,日志有执行成功信息表示任务成功运行。如下图所示:

    35.png

    2)aa 表中可看到筛选数据已输出。如下图所示:

    34.png

    3. 功能说明

    3.1 设置项说明

    65.png

    设置项介绍如下表所示:

    设置项
    说明
    字段
    • 字段范围为该算子输入端所有字段

    • 支持搜索字段

    • 字段类型分为文本、数值、时间和其他,无法识别为前三者的类型即算作其他

    运算符对不同格式字段,支持不同的运算符
    固定值输入框

    对不同运算符,匹配对应的输入框,如日期输入框、字符串输入框等,包括通过$引用参数

    「固定值输入框」中的值,无需加单引号、双引号,直接输入即可;若运算符选择属于、不属于时,多个值用,隔开

    示例:

    1688716510304310.png

    备注:

    • 支持添加多个条件/公式

    • 默认添加新表达式时,逻辑关系为且,可点击切换默认逻辑关系

    3.2 运算符说明

    注1:字段类型为文本、数值时,该算子将「等于」操作符和「属于」操作符合并为属于,即「属于」操作符相当于=和∈。

    注2:运算符选择为空时,可过滤出空值、null(不区分大小写)、空字符串(“”);4.0.28 及之后版本可过滤出值为空格的数据。

    字段类型
    可选择运算符
    文本

    属于、不属于

    包含、不包含、开头是、结尾是、开头不是、结尾不是、为空、非空

    其他等于、不等于
    数值属于、不属于

    介于、不介于、大于、小于、大于等于、小于等于、为空、非空

    日期

    介于、不介于

    某个日期之前、某个日期之后、等于、不等于、为空、非空

    4. 最佳实践

    通过数据过滤,可实现字段模糊查询筛选,不需要复杂的SQL 语句,提升数据处理效率,详情参见:字段模糊查询/筛选




    附件列表


    主题: 数据开发
    Previous
    Next
    • Helpful
    • Not helpful
    • Only read

    滑鼠選中內容,快速回饋問題

    滑鼠選中存在疑惑的內容,即可快速回饋問題,我們將會跟進處理。

    不再提示

    10s後關閉

    Get
    Help
    Online Support
    Professional technical support is provided to quickly help you solve problems.
    Online support is available from 9:00-12:00 and 13:30-17:30 on weekdays.
    Page Feedback
    You can provide suggestions and feedback for the current web page.
    Pre-Sales Consultation
    Business Consultation
    Business: international@fanruan.com
    Support: support@fanruan.com
    Page Feedback
    *Problem Type
    Cannot be empty
    Problem Description
    0/1000
    Cannot be empty

    Submitted successfully

    Network busy