FDL专题:FineDataLink&FineReport组合应用分享

楼主
我是社区第1753786位番薯,欢迎点我头像关注我哦~
【技术分享】本文将针对FineReport报表开发过程中的困难,介绍FDL的完整解决方案,并讲解FDL如何

高效开发FineReport完成销售数据落库的实战案例!

快来关注好数连,获取更多关于跨库关联、列转行处理、复杂SQL处理的实用技巧!

FDL专题

FineReport报表开发的痛点

FineDataLink的解决方案

实战案例-销售系统数据处理和落库

跨库关联处理

数据列转行

复杂SQL处理



如果你还想学习更多FineDataLink应用技巧,一起成为技术达人!可以点击:FineDataLink学习路径 (qq.com)

学完就可以通过帆软FCA认证考试哦!(产品最新版本:最新功能DEMO快速体验

FineReport报表开发的痛点

在工作中,很多业务人员会使用FineReport进行数据可视化和报表开发。通常情况下,业务人员会用报表工具直接连接业务系统数据库,在报表内的sql数据集进行数据清洗和加工,或者在报表单元格内写过滤条件实现跨库数据关联。遇到从API接口读取数据的情况,就用FineReport的程序数据集进行代码开发。数据处理完毕之后,再把报表样式设计好,测试通过就可以上线使用了。

这样做非常方便快捷,给业务人员节省了很多时间,但是这种模式存在不少问题:

问题一

长期使用报表工具直连业务库的形式,很容易造成性能问题,由于报表工具直连数据库,数据的读取请求完全依赖于业务库,当数据量增大、计算逻辑变得复杂时,业务系统和报表前端都会面临很大性能压力。遇到数据录入的高发期,系统的高负荷运转会造成严重的卡顿,甚至出现宕机的风险,大大影响工作效率。

问题二

FineReport不支持跨数据库取数,因此在面对跨库取数的场景时,业务人员需要编写复杂的程序代码来实现,开发成本高、取数速度慢。尤其是当企业内数据开发者逐渐增加,通过sql语法来还原业务加工过程,会产生大量难理解、难运维的sql语句;如果注释再不详细,新员工面对成山的代码真的毫无头绪,数据运维非常麻烦。

问题三

报表数据集无法被引用和关联,无法进行数据集的复用,大大降低了报表开发的效率。并且当某个业务指标需要更改时,业务人员需要修改指标涉及的所有报表内的数据集,徒增很多重复的工作量。

FineDataLink的解决方案

针对上述问题,FineDataLink提供了完整的解决方案:

  1. 切断报表和业务数据库的直接依赖,将报表里面的数据处理工作转交给FineDataLink来做,通过FineDataLink进行数据的提取、清洗和转换的步骤,将预处理好的数据落入中间库,前端从中间库直接获取结果表,实现业务系统读写分离,很大程度上缓解了性能压力,避免业务系统和报表互相影响,提高报表开发效率。
  2. 对于数据逻辑处理,FineDataLink提供了简易的画布开发模式和丰富的可视化算子,业务人员无需再花费大量时间去编写复杂的代码,使用可视化的操作就可以完成大部分的数据处理任务;对于一些复杂的数据处理场景,FineDataLink中的Spark SQL、Python算子以及SQL、Shell、Bat脚本也为业务人员提供了灵活的使用选择。

    面对接口取数的情况时,FineDataLink中的JSON解析、XML解析算子仅需使用鼠标点击的方式就可以完成数据解析。另外,如果之前的数据任务都是使用Kettle来做的,业务人员可以使用FineDataLink提供的Kettle调用功能,将历史Kettle任务集成到FineDataLink统一进行管理。

  3. 关于运维的问题,FineDataLink清晰的开发流程让新人也能很快理解数据任务逻辑,非常容易上手。同时FineDataLink提供了智能的系统和任务运维机制,包括调度计划、失败重试、结果通知、负载管理、宕机处理等,大大减少了人工运维的成本,省力又省心。

FineDataLink & FineReport 组合应用流程

实战案例-销售系统数据处理和落库

下面我们用一个案例来说明FineDataLink与FineReport的组合应用。

销售系统数据库中存放着订单、销售明细和年度资产分类等信息。现在我们要对这些数据进行处理,并用处理好的数据进行报表展示。

数据处理要求如下:

数据表

要求

问题

FineDataLink方案

订单、订单明细

跨库关联

需要编写复杂代码实现

数据关联算子

销售明细

列转行处理

需要编写复杂代码实现

列转行算子

年度资产分类

复杂SQL处理

代码复杂、开发速度慢

数据同步加速处理流程

一、跨库关联处理

销售系统数据库中存放着订单表,应用库中存放着订单明细表,现在要将这两张表,通过「订单ID」主键关联后落库到应用库中。

1)新建任务,使用数据转换,拖入DB表输入算子将两个表的数据分别取出。

2)新增一个「数据关联」算子,将两个数据表输入连接至「数据关联」算子,点击连接方式和连接字段进行选择,即可进行跨库关联制作新的数据表,不需要编写任何代码

跨库关联操作

3)对关联好的数据表进行字段设置,例如去掉重复字段。

4)使用DB表输出算子,将制作好的数据表并输出到应用库中即可。

二、数据列转行

销售明细表中包含了每个产品在不同省份的销售金额数据,我们希望对数据进行列转行,计算每个省份的销售总额后落入应用库中。

1)新建 ETL 任务,使用数据转换,拖入DB表输入将销售系统库中的「销售明细」取出。

2)使用「列转行」算子对「销售明细」数据进行转换,开发人员无需编写SQL,仅需输入字段名称,点击选择转换字段,即可将二维表地区销售数据转为一维表。

数据列转行操作

3)此时希望对已经列转行的数据继续进行处理,计算每个城市的总销售金额,可以使用「Spark SQL算子,编写 SQL 语句进行操作。

4)数据处理完成后,使用DB表输出将数据输出到应用库中即可。

三、复杂SQL处理

使用数据同步将销售系统中的「年度资产分类表」进行复杂 SQL 处理后,输出到应用库中。

1)新建 ETL 任务,添加「数据同步」,在数据来源中编写SQL 语句进行取数。

2)在数据去向与映射中,将查询好的数据输出至应用库中即可。

使用数据同步可以大大提高取数速度,缓解数据加载缓慢问题。

数据同步-复杂SQL处理

四、任务调度管理

数据处理的任务设置好后,我们希望能够定时进行数据更新,可以在FineDataLink中设计调度周期,对任务进行管理。

1)新建 ETL 任务,添加「调用任务」。

2)新增「消息通知」,设置若三个任务执行失败,则通知某个任务执行失败。

3)使用连线将三个任务与失败执行的消息通知相连,设置在任务执行失败时,执行「消息通知-失败执行」。

4)同理,设置任务执行成功时的消息通知。

5)设置任务的执行频率,完成任务调度配置。

任务调度流程

任务调度计划

 

更多FineDataLink与FineReport组合应用内容请前往:FDL和FineReport组合应用示例- FineDataLink帮助文档 (fanruan.com)

 

往期精彩:

FDL实践:企业微信API取数

FDL专题:定时任务自动化导出Excel/CSV,高效归档业务明细数据

FDL专题:详解DDL同步及其应用场景

FDL专题:CDC数据同步进行时遇到不可抗力(网络中断)中断了怎么办?

FDL专题:如何在工作中对Kettle任务进行迁移?可以直接调用吗?

FDL专题:对接金蝶云API取数

「场景实战」金蝶API取数+JSON解析,FDL解决商管预算管理跨库分析问题

「场景实战」关联分析性能差?试试数仓搭建,解决多源业务系统关联分析难题!

「4.1.9更新速览」分区支持PostgreSQL、Greenplum、Gauss200, 定时任务支持Kettle...

 

FineDataLink是一款集实时数据同步、ELT/ETL数据处理、数据服务和系统管理于一体的数据集成工具,可在Windows或Linux环境上单机/集群部署,全程基于B/S浏览器端进行任务开发和任务运维,更多精彩功能,邀您体验,希望能帮您解决企业中数据从任意终端到任意终端的处理和传输问题,让流动的数据更有价值!

 

点击此处,直接体验

想要学习更多技术和功能,请点击FineDataLink文档

 

由0到1,带您进入FineDataLink的世界

 

 

若有企业试用需求,请填写此申请表单,我们的工作人员会在3个工作日内联系您!

分享扩散:

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

0回帖数 1关注人数 1368浏览人数
最后回复于:2024-7-24 17:00

返回顶部 返回列表