通过reportexcel标记导入,数据量太大导入和提交卡顿如何解决

目前有一个需求场景:

我们需要通过report工具进行导入excel外部数据,导入的方式是通过excel标记导入进行导入的。

但是在导入外部数据的过程中,发现导入6万条数据明细,在导入过程中就出现了卡顿,甚至在提交的过程中 非常慢,非常 卡顿。

想请教一下大家,是否有更好的导入excel的方式 能解决大数据量(比如一次性可能导入10万甚至更多)上传和提交卡顿的问题那

谢谢大家了。

FineReport yzm208766 发布于 2025-5-21 10:50
1min目标场景问卷 立即参与
回答问题
悬赏:3 F币 + 添加悬赏
提示:增加悬赏、完善问题、追问等操作,可使您的问题被置顶,并向所有关注者发送通知
共3回答
最佳回答
0
华莉星宸Lv7资深互助
发布于2025-5-21 10:51

分开导入吧

要么用etl工具导入  很快的

  • yzm208766 yzm208766(提问者) 不行的,暂时我们只有帆软report这个工具,想通过这个工具进行数据导入,这个工具我记得可以有很多种导入excel文件的方式是吗?其实这里面就是数据量太大,有什么report工具导入方式 可以支撑大数量导入的那?
    2025-05-21 10:57 
  • 华莉星宸 华莉星宸 回复 yzm208766(提问者) 你这数据量这么大,用fr肯定会卡
    用kettle导入,秒秒钟导入
    2025-05-21 12:04 
  • yzm208766 yzm208766(提问者) 回复 华莉星宸 您没理解我的意思,我现在只有report工具,我们是在report的工具上,通过excel标记导入的功能进行导入数据的。不是借助外部的导入工具,哈哈
    2025-05-21 13:37 
  • 华莉星宸 华莉星宸 回复 yzm208766(提问者) 那就分多次导,一次导入不要超过1000行
    2025-05-21 14:00 
最佳回答
0
CD20160914Lv8专家互助
发布于2025-5-21 11:32

不预览直接后台提交入库- FineReport帮助文档 - 全面的报表使用教程和学习资料

如果这个方式你都不想用,那么请解决提出需求的人,因为你还说了不能用其它工具,工作做不做了?反正你自己决定吧

image.png

最佳回答
0
FR-LeonLv4初级互助
发布于2025-5-21 13:48
一、性能优化方案

1. 使用「Excel批量导入」插件

  • 适用场景:无需页面预览修改,直接提交入库

  • 优势:避免前端渲染性能消耗,实测支持20w×10列(200万单元格)

  • 操作路径:管理系统→插件管理→安装Excel批量导入插件

  • 数据量建议:单文件不超过200万单元格(行×列)

2. 启用填报分页加载

  • 配置方法:模板→报表填报属性→填报分页→设置每页加载行数

  • 建议分页值:1000-5000行/页(根据列数调整)

  • 效果:降低单次渲染数据量,实测6万行分12页加载可提升80%流畅度

3. 公式优化策略

  • 优先级替换:value() > ds.select() > sql()

  • 案例:将sql("ds1","id",...)改为value("id",...)可提速3-5倍

  • 抽数缓存:对实时性要求低的字段启用数据集→抽数缓存

二、服务器配置建议

1. 内存调整

  • 修改%TOMCAT_HOME%\bin\catalina.bat:

    set JAVA_OPTS=-Xmx8192m -XX:MaxPermSize=512m
    • 需技术支持确认后操作*

2. 导入限制调整

  • 路径:智能运维→内存管理→模板限制→导入Excel单元格限制

  • 建议值:≥1000万单元格(=行×列)

三、扩展方案(50万+数据量)

1. 文件预处理方案


# 示例:使用pandas拆分Excel文件(需安装Python环境)

import pandas as pd

chunk_size = 200000  # 按20万行拆分

for i, chunk in enumerate(pd.read_excel('大数据.xlsx', chunksize=chunk_size)):

chunk.to_excel(f'part_{i}.xlsx', index=False)
  • 通过批量导入插件分批提交*

2. 数据库直连方案

  • 使用Navicat等工具直接CSV导入数据库

  • 通过定时同步任务更新到业务表

四、性能对比数据
方案6万行耗时20万行耗时适用场景
标记导入120-180s可能失败需要页面交互
批量导入40-60s150-200s直接入库
分页导入60-80s240-300s需修改数据

建议优先使用「Excel批量导入插件」+「公式优化」组合方案。若涉及服务器配置修改,请务必联系技术支持确认环境适配性后再实施。

  • 4关注人数
  • 36浏览人数
  • 最后回答于:2025-5-21 13:48
    请选择关闭问题的原因
    确定 取消
    返回顶部