1. 概述
1.1 版本
FineDataLink 版本 | 功能变动 |
---|---|
5.0.0.1 | - |
1.2 应用场景
1)来源表中大量的表、字段都有同样的数据问题,需要统一设置清洗规则,将值匹配后替换。
2)来源表敏感信息字段需要脱敏、加密处理,输出到下游数据表中。
1.3 功能简介
支持在「数据管理>清洗规则」下创建、管理全局清洗规则,设置的清洗规则可以在「数据开发-定时任务」的「值替换」算子中引用,对数据进行清洗。如下图所示:
2. 前提条件
3. 功能说明
3.1 定义全局清洗规则
属性 | 说明 |
---|---|
清洗规则名称 | 不可为空,不能重名,最长 60 字符 |
规则类型 | 替换: 支持清洗文本、数值类型字段,统一输出为文本类型 1)完全匹配
2)部分匹配
|
加解密: 加解密:仅支持清洗单列的“文本”类型字段,统一输出为“文本”类型 函数名称可选:AES加密、AES解密、MD5加密、SHA1加密
| |
公式: 仅支持单列运算,输入或输出的字段类型由公式配置定义 支持的公式详情参见:新增计算列 支持的函数 注:可使用@[column]作为字段名占位符,应用规则时,@[column]可自动替换为字段名。 | |
清洗测试 | 设置的清洗规则可在右侧使用清洗测试进行调试,查看规则是否设置正确 测试内容的值类型可选择:文本类型、数值类型、空字符串、null值 |
3.2 使用全局清洗规则
设置好的清洗规则可在「数据开发-定时任务」的「值替换」算子中引用。
若规则类型为「替换规则」,可以在「值替换」算子中新建规则或者引用全局清洗规则。
若使用的是「加解密规则」或者「公式规则」,则只能引用全局清洗规则。如下图所示: