目录:
1. 概述编辑
部署
问题 | 解决方案 |
---|---|
FDL 支持的国产操作系统环境大概有哪些 | 参考文档:国产化操作系统部署 |
升级之后之前做的东西会没有吗 | |
FDL对windows版本有硬性的版本要求吗 2019和2022可以不 | 文档里没写的话是我们没有测试过的,可能可以部署,但是不能确认后续不会出现一些问题 |
我想问一下你们的finedatalink部署在服务器上面,对服务器的要求是什么 系统怎样配置性能能好点 FDL服务器硬件配置有啥要求吗 部署配置和相关环境要求 硬件配置推荐 我还想问一下,我们后续购买了FDL后,我们想独立部署,请问对于服务器的配置是怎样的呀 | https://help.fanruan.com/finedatalink/doc-view-51.html---环境准备 |
Centos 7.9的系统可以吗? | 目前通过测试的还没有7.9文档截图 |
客户这边要在FR11里面装一下FDL怎么操作呀 | FineDataLink集成部署-https://help.fanruan.com/finedatalink/doc-view-44.html |
只多了一个数据开发功能管道这些功能有哪里啊 | 集成版本是这样的,无法使用管道,FineDataLink部署方式介绍-https://help.fanruan.com/finedatalink/doc-view-42.html |
有公式取到每个月的最后一天的日期吗 | MySQL的 LAST_DAY() 函数可以获取给定日期所在月份的最后一天 |
我现在是集成部署 如果后面想切换成独立部署 对于做好的项目有没有影响? | 没问题任务可以导入导出,但是建议直接用独立部署,比较稳定 |
BI中的ETL功能与FDL中有何不同 | BI上的功能就是集成的FDL中的,本质没有区别 |
FDL用到哪些端口 | 8068 |
FDL是否可以部署在docker里面?由于客户这边FR使用了Finekey去部署,这边又期望集成,询问这种情况下是否可以 | 不可以部署,并且也不能够与部署在容器里面的FR集成 |
FDL是否可以跟BI6.0 集成在一起 | 可以 |
修改Tomcat内存 显示内存配置的不够 有没有fdl tomcat的内存配置优化参数 | https://help.fanruan.com/finedatalink/doc-view-227.html?source=4 |
finedatalink建议和report部署在一起,还是分开独立部署 | 看需求,集成部署不能用数据管道 |
FDL如果和FRBI的决策平台做集成部署的话,在产品功能上和独立部署有差异吗 | FDL和FRBI的集成部署没有数据管道 |
FDL和BI集成部署以及FDL独立部署有啥区别啊 | |
公司这边FDL已经部署完了,想问下HTTPS的部署是不是跟FR和FBI一样,FDL的文档里没有看到 | 是的,参照fr文档就可以 |
FDL服务器需要访问互联网的哪个域名或者IP等,才能正常的升级和访问帮助文档等? | 升级需要开放的外网地址是和fr一致的,外网地址-https://help.fanruan.com/finereport/doc-view-4033.html |
具体界面能否截图看一下 | 发送对应截图以及demo系统,邀请线上体验 |
首次登录默认密码 这个用户名密码是什么? | 自己设置即可 |
FDL部署后无法配置数据同步中Hana数据连接作为数据来源 | 1.需要注册进阶数据源-大数据 2.询问售前招标情况,发送一个月注册lic文件 |
如果我集成部署了fdl,还能把fdl迁移成独立部署吗 | 可以,后续需要迁移资源 |
fdl和finebi是否和fr和bi一样有版本对应关系 | 6.0和5.0的区别 |
稳定性,数据量这些 断点续传 | 1.数据量:传输类型的话分为实时传输和定时传输,在实时传输方面我们是基于日志读取和kafka消息队列进行传输的性能和效率都比较高;定时任务方面我们数数据同步和数据转换两个功能适合不同的数据量进行传输;2.稳定性:在按照硬件环境要求的基础上进行部署后就能够正常运行,我们会有资源控制功能可以对fdl的内存进行控制https://help.fanruan.com/finedatalink/doc-view-23.html#7。同时还有智能运维-云端运维功能监控服务,保证服务的稳定运行https://help.fanruan.com/finereport/doc-view-3124.html;3.断点续传:目前的逻辑是这样的,因为定时任务是全量,那么如果不做循环之类的肯定是每次都从源表的第一条数据读取过来。当任务异常中断时,根据相应报错进行修改重新运行,也依然是从源表的第一条数据读取过来。所有的数据还是能够正常同步过去的这个没有影响,但是不做循环数据量大的话可能会有一定的效率影响,因为每次都要从源表的第一条数据进行读取。做循环的话就可以优化这个问题;实时方面的话做管道任务,如果全量同步完成了,进行增量同步的时候会从断点开始;如果全量同步没完成,会重新进行全量同步的,全量部分的逻辑和定时任务是一样的。按照这个逻辑走数据也是可以被正常同步过去的 |
请问支不支持1.抽取断点、断点续传 | 定时的话是做定时任务目前都是全量的不能依靠日志读取,没办法实现自动的抽取断点、断点续传,但是定时任务的自主设计性比较强,可以考虑通过各种算子来实现;实时方面的话做管道任务,如果全量同步完成了,进行增量同步的时候会从断点开始;如果全量同步没完成,会重新进行全量同步的,全量部分的逻辑和定时任务是一样的。按照这个逻辑走数据也是可以被正常同步过去的 |
这个FDL是只能在Linux环境吧 | 可以在windows下的,但是建议部署在linux下 |
如果我想试用的话,部在本机可以吗 | 可以的,但是windows部署的话稳定性肯定是没有linux好的,做一下测试的是没问题的,后续需要正式部署肯定是建议部署在Linux上 |
目前安装fdl的话,有推荐版本吗? | 都是建议最新版,功能最全 |
管道的逻辑 表是先全量 再增量是吗 | shide,比如,一个管道任务有多张表,要所有表全量都结束了,才进行增量 |
升级
问题 | 解决方案 |
---|---|
升级之后之前做的东西会没有吗 | 只要之前没有手动删除过东西,升级之后内容是不会消失的 |
怎么升级FDL 怎么一键升级 如何更新FDL版本 | 如果可以访问外网的话可以一键升级,需要重启后生效 |
FDL可以在线升级吗 | 内网环境的话需要手动升级,外网可以一键升级 |
这个能否只更新jar包升级? | 连通外网可以直接用一键升级:FineDataLink一键升级-https://help.fanruan.com/finedatalink/doc-view-206.html |
我们这个系统是会自动更新的吗 | 独立部署可以一键升级:FineDataLink一键升级-https://help.fanruan.com/finedatalink/doc-view-206.html |
集成情况下,fdl如何升级呢? | 看起来是和BI一起集成, 要先确定了fdl和bi的版本,FDL&FBI集成环境升级-https://help.fanruan.com/finedatalink/doc-view-209.html |
注册
问题 | 解决方案 |
---|---|
Fdl.lic怎么导入 | 注册管理这里点击上传后本地信息认证 |
未注册有何限制 | |
这个注册码放到哪里呢? | 详细步骤和截图:本地机器信息认证-https://help.fanruan.com/finedatalink/doc-view-216.html |
缺少循环容器和数据转换功能 | 缺少相应的功能点 |
重启
问题 | 解决方案 |
---|---|
Linux 下 FDL 重启 命令 是啥 | 可以先kill-9 pid,在startup 看pid 执行ps -ef|grep tomcat |
怎么重启工程 怎么重启fdl的应用 | |
windows下如何重启工程 | |
是否单独收费 是一次性收费 还是每年提供服务费 FDL报价/收费 如果要购买是什么价格 | 咨询销售 |
数据转换能实现数据同步功能,那数据同步单独拿出来的意义是什么 | 不需要数据处理,只需要大数量的数据迁移就用数据同步,效率更高些 |
数据同步简单的处理也做不了吧,比如增加写入时间,或者增加一个固定值列 | 不行的,数据同步下面没有算子的。或者只能在select的时候写语句来实现,但是sql很复杂的话就会造成抽数的压力 |
目前finebi6,和fr11 都再带finedblink嘛 还是需要单独买 | finedblink 是单独的产品, 可以集成部署和独立部署 可以发您包,使用一下,这个产品 这是对应的区别 |
FDL的次级管理员,具有的权限有哪些? 是否可以分配给一些用户具有某些数据权限的能力? | 可以的哈https://help.fanruan.com/finedatalink/doc-view-182.html |
在FDL里同步数据库的表 | https://help.fanruan.com/finedatalink/doc-view-183.html---数据同步 https://help.fanruan.com/finedatalink/doc-view-10.html----数据转换 |
数据比对功能可以对原表更新的数据同步,这个跟数据管道的功能有什么区别吗 | 实时,定时,整库 |
FDL的容灾机制是怎样的?包括调度停掉、或者服务器停掉等,FDL是否有机制来确保数据的安全 | 通过调度配置到了指定的时间会执行任务,可以通过接收运行结果通知来了解任务是否在正常运行,得以及时了解情况有问题可以及时查看 |
FDL是不是只是提供一个通道? 数据最后存储的地方是不是还是我自己控制的? | 是的,您想存储在那里就对应新建数据连接或者设置api输出即可 |
那么比如 数据源是业务系统的数据,是用的mysql。我处理好的数据可以也可以存在mysql或者postgresql是吗? | 可以的呀,只要服务上有该数据连接就可以 |
请问下,FDL 有考虑做血缘分析吗?目前我们离线业务都在FDL里面,比较希望后续可以在里面实现血缘分析 | 血缘有规划的,产品沟通 |
FDL这边,这种实际输出后的数据,没法查看是吗?是不是没有像BI那边一样有个执行任务后的ETL表及其更新? | 没有,要直接到目标端查看 或者您可以再用一个组件查询数据,但是也只能预览到一部分 |
定时同步的话能做批量同步么,目前好像只能一张一张选择呢 | 定时任务目前不能做批量同步,批量同步可以在管道任务做。 |
目录里的开发任务能做排序吗(调整一下顺序,任务1 任务2 任务3这种): 文件夹的排序规则是什么 按照时间还是按照字母还是数字 | 排序的话目前只有这里有按名称排序和按时间排序(可以通过修改名称完成想要的排序) |
FDL是否支持自动抽取整个数据库 | 数据管道支持抽取多张表,数据同步只能一张一张来 |
进阶数据源、高阶数据源这些是做什么的? | FineDataLink支持的数据源-https://help.fanruan.com/finedatalink/doc-view-39.html |
你们这个datalink的优势在哪里,我怎么跟领导做介绍呢 有材料么 | 1.https://help.fanruan.com/finedatalink/doc-view-2.html---帮助文档产品简介 2.与kettle功能对比 3.性能测试文件 |
我这么理解这个平台,请求数据,处理或者清洗数据后放到目标DB里面,可以用FineReport的报表使用,是吗? 供报表使用 | 可以的,您在FDL处理好数据后同步到DB表,后面您想在哪里取这张表都可以的 |
还有ETL最近有更新的功能点 哪里有介绍版本的啊 | FDL的版本更新日志可以看下这个内容https://help.fanruan.com/finedatalink/doc-view-93.html |
什么样的数据属于脏数据 | 不符合目标库数据类型,超出字段长度等的就叫脏数据 |
那如果定时任务运行了5分钟,我定的是12点的然后12点05结束,然后第二个任务我设置的是12点03的那么是不是12点03到12点05的这段时间就是同时运行两个任务 | 是的 |
我们产品有什么更新吗 | FineDataLink更新日志索引-https://help.fanruan.com/finedatalink/doc-view-93.html |
数据源是否支持hana,版本是否支持信创版本 | 均支持 |
自动建表支持定时任务嘛 | 支持 |
工具增量同步原理 | 数据同步的话,主要是去判断这个字段是否存在,然后再去判断这个字段下,对应的值是否存在,然后写入不存在的数据但是必须要有主键,或者时间戳,或者唯一标识,作为判断,是否是增加的数据;数据管道的话,我们是通过监听来源表日志,读取到数据的增删改等操作,实时同步至目标表内,来实现的 |
数据转换是什么意思? | 进行解释,就是将数据抽取出来之后,对数据进行更复杂处理再同步至数据库中生成数据转换的逻辑,是您这边进行数据同步的时候发现简单的处理达不到您的要求,生成数据转换,就可以自动把原来的取数逻辑同步至数据转换内,减少重复操作 |
就是我关心这个问题 比如今天源表2w条数据 同步了2w条数据 然后明天表里有2w5条数据 那么明天是不是就同步多的5000条数据 而不是重新同步2w5条数据 | 数据同步增量更新-https://help.fanruan.com/finedatalink/doc-view-128.html |
FDL中的增量更新也是靠计划任务定时执行吗?数据有时间戳和唯一ID | ttps://help.fanruan.com/finedatalink/doc-view-128.html?source=4 |
这个是类比KETTLE之类的产品嘛? | 是的,性能更好 |
请教一个问题,我只想从我原来数据库里面抽取最近一周的记录到我中间里面这种可以通过数据管道这种方式么? | 这种需求可以用数据同步,是可以筛选时间的。数据管道是整个表做全量同步。数据同步-https://help.fanruan.com/finedatalink/doc-view-7.html |
表输入按时间戳增量怎么实现?FDL有内置的支持吗? | 目前fdl还需要写任务实现。 1.获取数据并获取最大时间戳,存放到数据库B; 2.下一次任务执行的时候,获取B的时间戳,写sql获取增量部分,再同步更新最大时间戳到B,详细步骤参考:数据同步增量更新-https://help.fanruan.com/finedatalink/doc-view-128.html |
咨询FDL产品功能 | |
另外这个产品支持实时数据的拉取么 | 支持的,咱们有数据管道 |
比如我要从接口读取数据,是不支持的吗 | |
我想请问一下 支持更新吗 | 这个也算是增量更新同步的,可以的,用我们的比对字段就能更新https://help.fanruan.com/finedatalink/doc-view-129.html |
在抽取时 是否会影响查询 比如我将数据抽到clickhouse 页面查询查的也是这个库 查询的效率会不会有影响 | 要看数据库性能,如果支持高并发正常情况下不会有很大影响 |
报价单进阶大数据源指的是什么部分 | FineDataLink支持的数据源-https://help.fanruan.com/finedatalink/doc-view-39.html可以在这篇文档看到,也可以在数据同步或者别的选择数据源的地方看到 |
fdl可以用来调度kettle作业吗 | 可以,写shell脚本 |
方便把DataLink给我介绍一下吗 | FineDatalink产品介绍-https://help.fanruan.com/finedatalink/doc-view-2.html |
本文汇总数据开发模块的常见问题和解决方案。
支持的数据库
问题 | 解决方案 |
---|---|
请问FDL支持哪些数据库 | https://help.fanruan.com/finedatalink/doc-view-39.html,老师可以看下这个文档哈,目前支持这些 |
请问下FDL 支持这里那些数据库:Essbase、Mondrian、IBM Cubing Services、Jedox Palo、Kyligence、Tinysoft | https://help.fanruan.com/finedatalink/doc-view-39.html我们暂时只支持这些 |
星环写数据表的时候只支持这张表是外表类型吗,其他类型的表支持吗, 星环的 HIVe 表有好几种 | 是的,星环作为写入端使用时,只支持 hdfs 装载,通过先建立外表到 hdfs ,然后再装载到目标表 详情请参见:配置TRANSWARP INCEPTOR数据源 |
fdl的gp并行装载功能怎么用的啊,单纯的表输出,速度有点慢 | https://help.fanruan.com/finedatalink/doc-view-63.html#adc91e4361812306 可以先看下这个文档哈 |
请问fineDataLink支持将服务器上的oracle数据同步到另一个服务器的达梦数据库吗 | 应该是可以的,配置对应的数据连接 |
支持高斯DB吗 | 支持https://help.fanruan.com/finedatalink/doc-view-39.html |
服务器本地目录这怎么添加 | https://help.fanruan.com/finedatalink/doc-view-204.html 可以参考下这个文档 |
FDataLink支持sap hana吗 | 支持,配置SAP HANA数据源-https://help.fanruan.com/finedatalink/doc-view-164.html |
你们不支持19c嘛 | 支持的,FineDataLink支持的数据源-https://help.fanruan.com/finedatalink/doc-view-39.html |
这个怎么连接到postgresql呀 | https://help.fanruan.com/finebi/doc-view-1260.html |
二进制字段 在orcale库是什么字段类型 | blob |
数据连接没有服务器本地目录 服务器本地目录相关 | 服务器本地目录只有超级管理员才可以首次创建 |
服务器数据集指的是啥 服务器数据集是啥意思 | 你看这个,和这个一样的https://help.fanruan.com/finebi5.1/doc-view-253.html#5 |
你们数据源支持华为的高斯数据库吗 | 定时读写都支持,实时支持写 |
是否支持BI中公共数据集 | |
是否支持mongdb | |
hive数据源可以连接吗 | |
MongoDB能直接配置数据源吗?还是说需要安装驱动? | 需要安装驱动的~您看下这篇文档,有安装说明 |
sqlServer ,mysql ,oracle 都支持把数据同步到 ClickHouse的嘛? | 可以的,定时可以直接同步,都是支持的数据源,FineDataLink支持的数据源-https://help.fanruan.com/finedatalink/doc-view-39.html |
问一下咱们FDL能对接星环数据库吗 | FineDataLink支持的数据源-https://help.fanruan.com/finedatalink/doc-view-39.html |
我们产品支持SAP HANA 和SAP函数吗? | |
有没有哪位老师指导一下,我在数据连接里面增加了Gbase数据库,在数据开发里面找不到 | 目前gbase8a只支持写入,读取还在适配 |
数据转换
简道云相关
问题 | 解决方案 |
---|---|
简道云输入筛选这里为啥只有为空和不为空 | 「简道云输入」算子中,配置筛选条件时,不同类型的字段支持的过滤条件不同 详情请参见:简道云输入-过滤条件说明 |
FDL怎么获取简道云的数据源 | 可参考 简道云输入典型示例 获取简道云表单的数据 |
简道云APIKEY在哪 | 可参考 配置简道云数据源 文档 部署 FDL 的服务器需要能够访问外网,否则获取不到简道云数据 |
简道云中,有一个多行文本,我想通过 FDL 推送到 Oracle 库表 blob 类型字段中,支持吗 | 支持的 |
简道云输入字段别名如何设置 | |
简道云数据能不能做实时同步: | 简道云实时同步目前不行,定时任务侧调用频率最多一分钟一次 |
FDL能做到从数据库 同步到 简道云 这个功能有了么 | 有的https://help.fanruan.com/finedatalink/doc-view-252.html |
简道云可以调用fdl吗 | |
老师你们简道云进来的数据怎么同步到DB? | 有个简道云输入算子在数据转换里面; |
如何将简道云的数据增量更新 | 用户只有增加和修改操作,用比对字段即可解决 |
FDL目前能实现与简道云互通了吗? | |
数据库表中的数据同步到简道云可以做全量插入或者增量更新么 | 可以输出到,简道云,https://help.fanruan.com/finedatalink/doc-view-234.html 您看一下 |
我用FDL同步每次都是全量增量,第一次数据库表中有10条同步到简道云是10条,第二次同步又插入10条,简道云就有20条了 | 加个数据比对更新 ,目前简道云不支持清空表 |
如何连接Jodoo和FineDataLink | https://help.fanruan.com/finedatalink/doc-view-191.html |
我看帮助文档数据源添加有简道云数据源,但是我的没有 | 您的注册里面没有这个功能点,您先联系一下,给您注册文件的同事是不是给错了,还是合同里没有购买这个功能 |
数据输出到BI
问题 | 解决方案 |
---|---|
数据开发调度执行完,公共数据集里面的数据会自动更新 | |
输出到FINEBI,也得先输出到DB表么 DB表这步能不能略过 | 是的 |
FDL任务往BI输出数据 | 独立部署下定时任务结果输出至FineBI-https://help.fanruan.com/finedatalink/doc-view-482.html |
数据比对
问题 | 解决方案 |
---|---|
这个对比字段只能设置一个吗?我能否将除主键外的所有字段名全设置为对比字段 | 可以的呀,我们本身就是有主键和比对字段两个设置的 比对字段可以多选,只要需要比对的都给选上即可 |
现在fdl没有对比删除了是嘛 | 对的,用数据比对https://help.fanruan.com/finedatalink/doc-view-12.html |
fdl_comprasion_type是用来干嘛的 | https://help.fanruan.com/finedatalink/doc-view-12.html----数据比对,您可以先看一下这个文档哈,是用来进行增量同步操作的,您填写的标识就是对应后面同步识别是删除、新增、更新等操作 |
我想问一下,我有一个表的数据,需要从一个数据库同步到另一个数据库,表结构一样,但我需要源表有增删改的操作,然后我同步一下,要求目标表和源表的数据要一样,这要怎么做?要求是增量同步,不能是清空目标表的数据同步! | 数据比对-https://help.fanruan.com/finedatalink/doc-view-12.html |
批量添加比对字段 | |
finereport同步用户数据,已有的数据不同步,但用户信息有更新,准备通过FDL做一个定时同步任务,但目标数据库没有时间戳标识,请问如何构建同步任务? | 可以看下这个方案,通过比对两个表的数据,来确定是否更新:数据比对更新-https://help.fanruan.com/finedatalink/doc-view-129.html |
fdl_comparison_type在目标表中这一列可以删除吗 | 可以,字段映射 |
如何只更新表中数据,不向表中添加新数据 | |
我是不是理解为假如说源表原来有1000条数据然后后来那边删了10条变成了990条然后这边也不会备份了 | 物理删除的逻辑是如果源端有1000条数据,然后同步到目标端1000条。如果源端删除了10条,那么目标端也会删除10条数据,两边都会变为990条 |
那逻辑删除就会导致目标表和源表数据量不一致? | 是的,如果源端有删除操作存在的话 |
比对字段可以为空吗? | 可以的,不填写就行 |
我想找出俩表中的不同的数据是哪些 | 可以用数据比对,把相同的数据过滤掉,但由于预览只会取前1000条,需要把数据输出到db表再看结果 |
数据同步
问题 | 解决方案 |
---|---|
我们在云上部署了一套fdl,现在我要从本地的系统里取数据该怎么操作 | 数据同步有数据源和数据去向,两边都要在FDL中做好数据连接配置,选到数据源就能同步 https://help.fanruan.com/finedatalink/doc-view-76.html----数据连接 https://help.fanruan.com/finedatalink/doc-view-7.html---数据同步 可以先参考下这两个文档 |
一个任务同步多张表如何实现 | 可以拖入多个同步节点 |
那可以做到 同步前就过滤么 比如我只同步年龄大于18的用户明细 | 得直接写sql,没有单独的过滤组件可以来定义 |
这里数据同步只有直接写入和清空后写入两种吗 | |
您好,还有一个问题。数据同步的话,是不是只能同步一张表(或者说是一条sql)? | 是的 |
数据关联
问题 | 解决方案 |
---|---|
数据开发里可以做 分组汇总 和左右合并 上下合并么 | 可以,分组、上下合并用spark sql,左右用数据关联 https://help.fanruan.com/finedatalink/doc-view-35.html---数据关联 https://help.fanruan.com/finedatalink/doc-view-38.html---spark sql |
数据关联只能关联两张表是吗 | 目前只能关联两张表 |
消息通知
问题 | 解决方案 |
---|---|
邮件服务器怎么配置 如何配置邮箱 | https://help.fanruan.com/finedatalink/doc-view-32.html#d78d75d56fc4cb87 |
如何配置流程失败后发邮件或者短信通知 | https://help.fanruan.com/finedatalink/doc-view-32.html---可以用消息通知 失败判断可以用连线判断 |
短信这个是收费的还是免费的 ?一条多少钱 ? | 国内6分一条 |
我想问一下开通FDL短信,充值100有时间限制的吗,还是充了100之后可以一直用 | 没有时间限制,不会清空的,只要有余额就能正常发短信 |
请问fdl的消息可以发送给飞书第三方平台吗 | 可以的 |
文件输入/输出
问题 | 解决方案 |
---|---|
我这边在用数据开发-数据转换-文件输入时,想通过上传excel来作为一个数据源,但遇到这么几个问题: 1.【服务器本地目录 】 这个画圈的【数据连接】从哪配置 2.画圈的【服务器文件】点击是报错的 3.点击【本地文件】上传excel,报错 | https://help.fanruan.com/finedatalink/doc-view-204.html?source=4---需要配置下这个哈 |
数据输出,不能选择输出到文件么 | |
这个数据同步或者转换,可以直接加载服务器里的csv文件吗? 数据集的方式,我看要手动上传csv文件制作数据集。而现在我的场景测试,csv文件内容也是会一直变化的 | 配置服务器本地目录数据连接-https://help.fanruan.com/finedatalink/doc-view-204.html |
是否支持将数据库文件输出为文件 | |
通过ftp获取数据,在一个一级目录下有100个二级目录,100个二级目录下都有同样的名称的xlsx文件,有没有什么办法一次性通过fdl读取 | 用一个文件记录所有的文件地址,然后参数赋值+循环容器,遍历列表读取文件 |
excel数据导入报错 | 用户勾选了首行作为字段,但是实际上首行是字段值,字段值里存在许多小数点的数据,我们不支持字段名里带小数点,所以建表失败,取消勾选后,就建表成功了 |
FDL目前是不是不支持文件数据源csv文件的同步 | 支持但是要那个FTP服务器 |
支持导入 txt 文件吗 | |
txt 行转列 | 自己演示对应操作。需要拆分表,再合并 宋睿 |
csv选不到文件 | 后缀大小写的问题,csv改小写就可以 |
您好,请问下FDL可以访问本地文件夹么? | 访问本地文件,是指读取本地csv,xlsx么 https://help.fanruan.com/finedatalink/doc-view-203.html |
单个文件可以导入到选择的数据库中,选择了文件夹(多个文件)就导入失败了 | 注:文件夹中的Excel文件需要字段名相同;文件夹中的CSV文件需要分隔符相同。 |
FINEDATALINK支持上传本地文件到数据库吗 | https://help.fanruan.com/finedatalink/doc-view-203.html 用这个算子,文件输入。使用前需要配置一下本地的数据连接,您看一下文档 |
文件数据源怎么选择我的本地文件啊 我想把excel的文件通过finedatalink 导入到数据库中 | https://help.fanruan.com/finedatalink/doc-view-203.html 要用文件输入,需要配置一下,数据连接 您跟着文档,配置一下 |
你好,FDL上传没办法从本地上传EXCEL吗? 只能走服务器? | 这个算子,用过吗 https://help.fanruan.com/finedatalink/doc-view-203.,可以本地上传到,服务器,在使用。或者配置ftp文件输入 |
条件分值
问题 | 解决方案 |
---|---|
请问FDL 条件分支怎么用的 | https://help.fanruan.com/finedatalink/doc-view-19.html--条件分支,可以参考下文档哈,需要先输入参数 |
你好咨询一下条件分支里面字符串的判断没有等于只有属于吗? | 属于包括等于 |
循环容器
问题 | 解决方案 |
---|---|
循环容器次数这个次数设置大了也无所谓吧 | 嗯嗯,上限为10000 |
我们循环里面可以套循环吗 麻烦问下我们fdl支持嵌套循环吗 | 不可以 |
想问下,我通过SQL取了100个日期,想把这100个日期每一个作为参数,传递到一个查询里,然后输出结果保存后,再循环传入100个日期中的第二个日期作为参数,一直直到日期参数循环结束。 这个场景该怎么做比较好。 | 通过循环容器来实现的 |
我这边怎么得到循环的次数 | ${looptimes}https://help.fanruan.com/finedatalink/doc-view-16.html#13 |
如果设置一个循环调度,比如1分钟执行一次,如果前一个任务1分钟未执行完,下一个任务会等它吗 | 顺序执行,执行完毕才会开始下一次循环,在此之前,任务都是在排队中 |
循环容器能够引用的参数是只能是前面步骤传递过来的吗 | 不是还有内置参数和自定义参数 |
循环容器的条件配置中的值能否支持引用参数呢? | 支持 |
怎么拿到循环的次数 | API取数-按页数取数-https://help.fanruan.com/finedatalink/doc-view-198.html |
我在循环的时候,通过第一层得到的55个数据-name,获取下一层数据,但有的name是没有下一层的,就会报错,终止循环。这个问题有办法解决吗 | sql加个不为空的过滤 |
循环容器内赋值的参数不能给外面用吗 | 只能考虑循环容器内能不能实现,不能向外传递 |
调度配置
问题 | 解决方案 |
---|---|
定时调度如何设置 但我像设置定时的频率以及修改任务名称就不知道在哪里设置。。 | 定时任务调度配置 |
如果多个任务,配置的定时运行时间是不是要错开 | 是,建议错开 |
如果都配置为同一时间,一起运行时,数据库压力会不会比较大 | 是的 |
调度信息,能发邮件吗 ? 收不收费 ? | https://help.fanruan.com/finedatalink/doc-view-187.html 这个应该不收费,要去对应的平台邮箱,看一下 |
FDL同步mysql数据库数据同步评论可以设置1秒么 | 任务多的话不建议,同时还要看数据库的性能,性能不太好的话也不建议 |
FDL的任务可以配置失败自动重启吗 | |
我这边想实现 任务执行失败了进行邮件或者企微提醒要怎么做 | 定时任务调度配置-https://help.fanruan.com/finedatalink/doc-view-22.html |
定时调度需要注册才能使用吗 | 是的 |
就是FDL数据开发里面,如果任务报错,怎么设置消息通知呢 我这是串行的,如果前面的报错就停止了,根本走不到消息通知这里 | 定时任务调度配置-https://help.fanruan.com/finedatalink/doc-view-22.html,提需求钉钉机器人 |
数据开发调度配置打不开 | 1.注册调度功能 |
任务失败如何通知 |
调用任务
问题 | 解决方案 |
---|---|
比如A作业运行成功,才能运行作业B | 调用任务 |
参数相关
问题 | 解决方案 |
---|---|
在参数设置中新增日期参数,值可以为yyyy-mm-dd,但 输入其他常数(如2023-08-30)都会报“格式与类型不匹配”的错误,导致无法保存 | 参考文档:自定义参数 自定义日期需要基于系统时间获取,只能写 yyyy-mm-dd 这种;如果希望值是常量,参数用文本类型 |
我设置了一个参数赋值,然后表同步引用该参数名字,但没有预览成功 | 默认值得填写正常可以读取到的值才能预览成功 |
像这种参数输出,是不是在当前任务下都是可以用的 | 嗯嗯,这个数据转换节点之后的都是可以用的,但是建议加一个默认值~不然数据预览的时候值是空的~ |
参数跨层传递的时候,第一层第二层和第三层,配置第二层的时候怎么获取第一层的值 | 帮助文档,每一层都要有同名参数存在 |
不运行的话,参数赋值是看不出来效果的,是吗? | 是的,除非是设置参数的默认值 |
参数赋值无法预览 | 没有设置默认值 |
FDL可以定义全局参数不,就是在任何定时任务都可以用的? | 内置参数-https://help.fanruan.com/finedatalink/doc-view-16.html,有一个系统内置的时间参数,不需要设置就可以直接用,写sql的时候直接引用这个参数就行 |
时间参数的值可以改吗? | 这个值是取任务运行时的时间数据,属于是默认值改不了,但是可以在写sql的时候用数据库提供的时间函数改值,比如mysql中的DATE_SUB函数进行时间的加减 |
你们${cyctime}这个时间精确到秒的,能不能只精确到天? | 只要当天的话参考一下这个~https://help.fanruan.com/finedatalink/doc-view-17.html#3 |
FDL能设置全局参数吗? | 可以自定义参数-https://help.fanruan.com/finedatalink/doc-view-17.html |
为啥数据第一个数据转化的参数 没到第二个了 只是预览的时候 | 单独运行节点,可以给参数赋值节点设置默认值 |
如何使用参数赋值,表输入中传递相应的参数 | 填写默认值 |
Spark SQL
问题 | 解决方案 |
---|---|
SparkSQL 是不能用update函数吗 | 是的,不能 |
从API接口获取数据导入数据库的问题,用fdl的demo卡在获取签名那一步了,想问一下fdl能不能做这种md5加密签名做参数的api调用 | fdl的加密是通过调用Spark SQL算子实现的:https://help.fanruan.com/finedatalink/doc-view-38.html# |
有去重这一个功能吗 | Spark SQL语法-https://help.fanruan.com/finedatalink/doc-view-38.html |
FDL那个如何使用加密函数,自定义加密函数 | https://help.fanruan.com/finedatalink/doc-view-38.html,使用sparksql解决,自定的加密函数,只能在本地加密和解密 |
能找一份Spark SQL的详细语法说明书吗? | spark sql: https://spark.apache.org/docs/latest/api/sql/index.html#encode |
字段设置
问题 | 解决方案 |
---|---|
fdl里面 数据关联 的结果带出的字段能够自己选择的吗?现在默认是全部带出来 | 数据关联后面加一个字段设置 |
原来有个很好用的功能,添加字段,这里面可以做一些字段转值的事情,FDL里应该用哪个? | 字段设置 |
excel表的数据量很大,我在通过fdl导入数据库的时候,总会报其中某一行某一列数据格式不匹配,有没有功能可以实现导入前做数据清理?修改为可导入的格式 | 可以的,用字段设置算子 https://help.fanruan.com/finedatalink/doc-view-40.html |
API输入/输出
问题 | 解决方案 |
---|---|
我们这个配置了个API输入,因为数据量有点多,所以API经常会提示超时,这个在哪里可以修改API超时设置? | FDLTimeout |
fdl是不是可以把api作为数据源api接口 | API输入-https://help.fanruan.com/finedatalink/doc-view-90.html现在支持json解析和xml解析 |
你看了我们公司数据接口,FDL能够读取接口数据吗? | 读接口数据可以的,可以看下这个案例:API输入-https://help.fanruan.com/finedatalink/doc-view-90.html |
我们fdl可以推送数据到接口嘛 | |
API解析,token变化的不定参数如何设置,例如:用一个url获取token,在用带token参数的url获取数据。 | 可以参考这个案例,API取数-获取企业微信人员信息-https://help.fanruan.com/finedatalink/doc-view-196.html |
FDL不是能发布API吗我在帮助文档没看到呢 | |
请问api接口提供的数据是分页的,使用api输入的算子应该如何调用 | https://help.fanruan.com/finedatalink/doc-view-198.html 参考一下,这个案列 |
数据输出
问题 | 解决方案 |
---|---|
输出的时候可以选择字段进行输出吗 | 字段映射可以把不需要的字段删掉 |
那问下,这个自建表的时候可以指定一个字段为主键吗? | |
没有主键冲突策略 | 因为你是自动建表,表里没有数据,不会冲突,也没有主键 |
表名称 没有选项 | 若选择[自动建表],未指定模式时,会使用数据库默认模式,而不是数据连接中的模式 |
对于pgsql、oracle数据库,DB表输出的数据去向中怎么选择模式,我的数据连接已选择了默认模式,但是表输出结果还是在public里 | 在表名前增加对应模式名 |
目标库已存在的表是不能选择自动建立表,要不然就无法自动同步数据? | 是的,已经存在的表不能再【自动建立】表 |
自动建表,还能多次运行,每次运行都重新创建表? | 自动建表的逻辑,是判断当前有没有这张表,如果没有就新建,后续的话,可以判断这张表是否存在,实现增量的写入,所以是可以多次运行的 |
清空目标表,再写入 我理解是先清空 再写 表数据都不存在了 | 对的,直接先把目标表清空掉,然后再写入数据 |
原来FineTube里一份数据可以同时输出多次的,FDL 里这个功能也没有了 | 数据分发 |
新增计算列
问题 | 解决方案 |
---|---|
其他
问题 | 解决方案 |
---|---|
FDL脚本中有没有哪个脚本可以跑delete语句 | 用sql脚本算子 或者如果是要做数据更新的话用数据比对后删除提交 https://help.fanruan.com/finedatalink/doc-view-12.html |
我想在数据转换时,在目标表里增加insert_time(数据插入时间不变的)和update_time(如果数据改变过更新时间为当前时间) | 可以用新增计算列来实现 https://help.fanruan.com/finedatalink/doc-view-286.html |
FDL支不支持嵌套循环 | |
DB表输入的数据我想改一个字段的值,该怎么操作? | 可以用新增计算列,映射的时候用新增的这列映射为目标字段 |
请问加入企业怎么操作呀 | https://help.fanruan.com/finedatalink/doc-view-147.html可以看一下这个文档哈,需要贵司出一个管理员进行企业认证 |
这几个日期我想转成 yyyy-MM-dd HH:mm:ss 的格式 | TIME_CAL(to_date($.createTime,"yyyy-MM-dd'T'HH:mm:ss.SSS'Z'"),"h",8)已读 |
想问一下RFC输入可以获取SAP标准函数吗? | 带参数的SAP RFC取数-https://help.fanruan.com/finedatalink/doc-view-138.html |
选不了模式 | 数据库没有定义模式 |
hello 同学 fdl的任务只能每个单独配置嘛?不能复制吗? | 目前不能复制任务哦,你可以把节点复制过去,任务复制的提交一个需求 |
想在数据同步的过程中,对数据做一些简单的格式化,例如去空格(" 56 asd "=>"56asd")、字段拼接(a、b => a=a+b、 b)等,有没有相关方案 | 使用sparksql |
像这种xml解析应该如何写呀? | |
可否设置不同任务的调度顺序 | 可以使用调用任务 |
fdl支持python吗 FDL可以调用python文件吗 | |
FDL运行,是否可以增加独立运行的按钮,现在只有保存运行 | 这个右键某个节点应该是可以只运行这个节点的 |
fr、fdl独立部署,但集中管理,是否有这样的方案? 您好 如何把fineReport和FDL还有FineBi集成在一个页面上 请问账户无缝跳转是需要插件吗 | 多产品连接工具插件-https://help.fanruan.com/finedatalink/doc-view-91.html |
FDL是不是可以共用FR的插件啊,比如同步LDAP域用户插件 | 和平台有关的是可以的,FDL和FRBI的平台是一致的 |
自己还不能建文件夹对任务进行分类的吗 | 先建文件夹,再选中文件夹建任务 |
接口调用
问题 | 解决方案 |
---|---|
我想问下假设我们报表页面上有一个按钮,点一下这个按钮,就能执行FDL的特定的一个ETL任务 | |
请教下哈,fr可以调度fdl任务了 | |
把ETL任务作为一个接口,手动触发,这个功能是不是还没有实现? | |
问下fdl目前有接口,可以让fr的模板调用后执行fdl的任务吗 | |
请问下,FDL的API功能,我发现基本上是由FDL主动发起,并接收数据;想问一下是否有被动接收的方式来获取数据呢 |
定时任务运维
问题 | 解决方案 |
---|---|
资源控制内存指什么呢? | 定时任务运维-https://help.fanruan.com/finedatalink/doc-view-23.html |
需求方案类
问题 | 解决方案 |
---|---|
我在数据开发的过程中通过sql来处理数据,如果sql执行失败了是否支持回滚等操作 | 之间回滚的语句,是不支持的https://help.fanruan.com/finedatalink/doc-view-236.html 可以参考这个文档,进行回滚的实现 |
获取天气数据 | |
我想问下,如何做定时任务将一个视图每次增量同步到一个物理表中?该怎么做数据比对然后将增量数据写入到物理表中啊 | 视图和物理表做数据比对就行了,最后输出到物理目标表中,用数据比对算子 https://help.fanruan.com/finedatalink/doc-view-12.html 可以先看下这个文档 |