CN116992846A - 数据收集方法、装置、终端设备以及存储介质 - Google Patents
数据收集方法、装置、终端设备以及存储介质 Download PDFInfo
- Publication number
- CN116992846A CN116992846A CN202310923277.0A CN202310923277A CN116992846A CN 116992846 A CN116992846 A CN 116992846A CN 202310923277 A CN202310923277 A CN 202310923277A CN 116992846 A CN116992846 A CN 116992846A
- Authority
- CN
- China
- Prior art keywords
- collection
- data
- file
- data collection
- initial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013480 data collection Methods 0.000 title claims abstract description 242
- 238000000034 method Methods 0.000 title claims abstract description 89
- 230000002159 abnormal effect Effects 0.000 claims description 21
- 238000013507 mapping Methods 0.000 claims description 19
- 238000007781 pre-processing Methods 0.000 claims description 9
- 238000010586 diagram Methods 0.000 description 18
- 238000012545 processing Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 14
- 238000007726 management method Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 11
- 230000007246 mechanism Effects 0.000 description 6
- 238000009825 accumulation Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000011161 development Methods 0.000 description 4
- 239000000945 filler Substances 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 239000003999 initiator Substances 0.000 description 3
- 230000002085 persistent effect Effects 0.000 description 3
- 238000004064 recycling Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000027455 binding Effects 0.000 description 2
- 238000009739 binding Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000002955 isolation Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- VYZAMTAEIAYCRO-UHFFFAOYSA-N Chromium Chemical compound [Cr] VYZAMTAEIAYCRO-UHFFFAOYSA-N 0.000 description 1
- 241000283973 Oryctolagus cuniculus Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 238000013524 data verification Methods 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000010979 ruby Substances 0.000 description 1
- 229910001750 ruby Inorganic materials 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000003442 weekly effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/186—Templates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/177—Editing, e.g. inserting or deleting of tables; using ruled lines
- G06F40/18—Editing, e.g. inserting or deleting of tables; using ruled lines of spreadsheets
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/103—Workflow collaboration or project management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Economics (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种数据收集方法、装置、终端设备以及存储介质,其方法包括:通过预设的数据收集模板,创建收集任务;根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;对所述初始收集文件进行合并下载,获取最终收集文件。本发明解决了收集人无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题,提高了数据收集的效率。
Description
技术领域
本发明涉及信息技术领域,尤其涉及一种数据收集方法、装置、终端设备以及存储介质。
背景技术
在银行的工作中,经常会涉及到各种数据的收集,特别是每月数据调整上报或周报收集场景。收集的数据用途、内容、格式要求、时限、密级等因背景差异也各有不同,但往往一样费时费力,需要兼顾时效、保密要求,不能出差错。总的来说,数据收集是繁琐、细碎但重要的工作。所以,做好数据收集支持,对于广大银行工作者乃至其他行业的人来说,都有着普遍而迫切的需要。
当前的数据收集方式有:基于数据库的数据收集,数据保存在数据库二维表,前端页面读取数据一般是逐行展示,或者将每行的数据填入前端写好的页面。对用户来说,格式相对固定且单一,收集人将数据收集任务发布出去后,每个填报人将收到一个固定格式的表单以进行填写;基于EXCEL多人协同编辑,即基于EXCEL协同办公。
但上述方案存在,填报格式相对单一,无法适配最后的数据呈报样式以及无法背对背填报的问题。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供一种数据收集方法、装置、终端设备以及存储介质,旨在解决收集人无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的技术问题。
为实现上述目的,本发明提供一种数据收集方法,所述数据收集方法包括:
通过预设的数据收集模板,创建收集任务;
根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;
对所述初始收集文件进行合并下载,获取最终收集文件。
可选的,所述通过预设的数据收集模板,创建收集任务的步骤包括:
响应用户的操作,选取数据收集模板;
若选取普通数据收集模板,则生成普通收集任务;
若选取拆分数据收集模板,则生成拆分收集任务;
若选取移动数据收集模板,则生成移动收集任务。
可选的,所述根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集数据的步骤包括:
根据所述收集任务,生成收集文件;
根据所述收集文件,通过所述数据填报端进行填报,获取数据收集文件;
通过所述数据审批端对所述数据收集文件进行审批;
若所述数据收集文件异常,则将所述数据收集文件发送至数据填报端进行重新收集,直至所述数据收集文件无异常;
若所述数据收集文件无异常,则输出所述数据收集文件,生成初始收集文件。
可选的,所述对所述初始收集文件进行合并下载,获取最终收集文件的步骤之前还包括:
将所述初始收集文件发送至任务审批端进行审批;
若所述审批结果为通过,则对所述初始收集文件进行合并下载;
若所述审批结果为不通过,则将所述初始收集文件发送至所述数据填报段进行重新收集。
可选的,所述对所述初始收集数据进行合并下载,获取最终收集文件的步骤包括:
根据所述数据收集模板,获取合并配置参数;
根据所述合并配置参数,生成初始合并文件;
对所述初始合并文件进行预处理,获取预处理后的初始合并文件;
对所述初始收集文件进行读取,获取读取结果;
根据所述读取结果,将所述初始收集文件合并至所述初始合并文件,生成最终收集文件。
可选的,所述根据所述收集任务,生成收集文件的步骤包括:
若所述收集任务为拆分收集任务,则向预设的拆分程序发送拆分收集信息;
根据所述拆分程序,对所述拆分收集信息进行读取,获取拆分配置以及待拆分文件;
根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件。
可选的,所述根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件的步骤包括:
根据所述拆分配置对所述待拆分文件进行解析,获取所述数据填报端的映射关系;
根据所述映射关系,对所述待拆分文件进行拆分,获取若干收集文件。
本发明实施例还提出一种数据收集装置,所述数据收集装置包括:
创建模块,用于通过预设的数据收集模板,创建收集任务;
收集模块,用于根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;
合并下载模块,用于对所述初始收集文件进行合并下载,获取最终收集文件。
本发明实施例还提出了一种终端设备所述终端设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的数据收集程序,所述数据收集程序被所述处理器执行时实现如上所述的数据收集方法的步骤。
本发明实施例还提出了一种计算机可读存储介质,所述计算机可读存储介质上存储有数据收集程序,所述数据收集程序被处理器执行时实现如上所述的数据收集方法的步骤。
本发明实施例提出的一种数据收集方法、装置、终端设备以及存储介质,通过预设的数据收集模板,创建收集任务;根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;对所述初始收集文件进行合并下载,获取最终收集文件。由此,通过预设的收集模板创建任务,并将收集的数据进行合并,实现了数据的收集,解决了收集人无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题,提高了数据收集的效率。
附图说明
图1为本发明数据收集装置所属终端设备的功能模块示意图;
图2为本发明数据收集方法一示例性实施例的流程示意图;
图3为本发明数据收集方法另一示例性实施例的流程示意图;
图4为本发明数据收集方法涉及创建收集任务的示意图;
图5为本发明数据收集方法另一示例性实施例的流程示意图;
图6为本发明数据收集方法涉及进行审批的示意图;
图7为本发明数据收集方法另一示例性实施例的流程示意图;
图8为本发明数据收集方法涉及获取最终收集文件的流程示意图;
图9为本发明数据收集方法涉及获取最终收集文件的示意图;
图10为本发明数据收集方法涉及尾部追加的示意图;
图11为本发明数据收集方法涉及覆盖合并的示意图;
图12为本发明数据收集方法涉及累加合并的示意图;
图13为本发明数据收集方法涉及指定人员合并的示意图;
图14为本发明数据收集方法涉及生成收集文件的流程示意图;
图15为本发明数据收集方法涉及获取若干收集文件的流程示意图;
图16为本发明涉及获取若干收集文件的示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例的主要解决方案是:响应用户的操作,选取数据收集模板;若选取普通数据收集模板,则生成普通收集任务;若选取拆分数据收集模板,则生成拆分收集任务;若选取移动数据收集模板,则生成移动收集任务。根据所述收集任务,生成收集文件;根据所述收集文件,通过所述数据填报端进行填报,获取数据收集文件;通过所述数据审批端对所述数据收集文件进行审批;若所述数据收集文件异常,则将所述数据收集文件发送至数据填报端进行重新收集,直至所述数据收集文件无异常;若所述数据收集文件无异常,则输出所述数据收集文件,生成初始收集文件。将所述初始收集文件发送至任务审批端进行审批;若所述审批结果为通过,则对所述初始收集文件进行合并下载;若所述审批结果为不通过,则将所述初始收集文件发送至所述数据填报段进行重新收集。根据所述数据收集模板,获取合并配置参数;根据所述合并配置参数,生成初始合并文件;对所述初始合并文件进行预处理,获取预处理后的初始合并文件;对所述初始收集文件进行读取,获取读取结果;根据所述读取结果,将所述初始收集文件合并至所述初始合并文件,生成最终收集文件。若所述收集任务为拆分收集任务,则向预设的拆分程序发送拆分收集信息;根据所述拆分程序,对所述拆分收集信息进行读取,获取拆分配置以及待拆分文件;根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件。根据所述拆分配置对所述待拆分文件进行解析,获取所述数据填报端的映射关系;根据所述映射关系,对所述待拆分文件进行拆分,获取若干收集文件。从而解决了收集人无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题,实现了数据的收集,提高了数据收集的效率。基于本发明方案,从现实中数据收集存在无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题出发,设计了一种数据收集方法,并在对数据的收集中验证了本发明的数据收集方法的有效性,最后经过本发明方法进行数据收集的效率得到了明显提升。
本发明实施例涉及的技术术语:
Java:Java是一种高级编程语言,由Sun Microsystems(现Oracle Corporation)于1995年推出,它是一种面向对象的编程语言,广泛用于开发各种类型的应用程序,包括桌面应用程序、移动应用程序、Web应用程序和企业级应用程序等,Java具有以下特点:跨平台性,Java源代码编译后生成字节码,通过Java虚拟机(JVM)在不同平台上运行,这使得Java程序具有良好的跨平台兼容性;面向对象,Java是一种纯粹的面向对象编程语言,支持类、继承、多态、封装等特性,可以更好地组织和管理代码;安全性,Java内置了安全机制,包括内存管理、异常处理和访问控制等,Java程序在运行时会进行严格的边界检查,以防止缓冲区溢出、指针操作等安全漏洞;大型库支持,Java拥有丰富的类库和开发工具,可以帮助开发人员快速构建复杂的应用程序,这些类库涵盖了各种功能,如图形用户界面(GUI)、网络通信、数据库连接等;垃圾回收机制,Java自动进行垃圾回收,开发人员无需手动管理内存,垃圾回收器会自动识别不再使用的对象,并释放其占用的内存空间;多线程支持,Java提供了多线程编程的原生支持,开发人员可以方便地创建和管理线程,这使得Java程序可以同时执行多个任务,提高了应用程序的性能和响应能力。
MySQL:MySQL是一种开源的关系型数据库管理系统(RDBMS),由瑞典公司MySQL AB开发并维护。它是最流行的开源数据库之一,并被广泛用于Web应用程序开发,以下是MySQL的一些主要特点:可靠性和稳定性:MySQL经过长时间的发展和测试,具有良好的可靠性和稳定性,它可以处理大量的并发操作和大规模的数据集;跨平台支持,MySQL支持多个操作系统,包括Windows、Linux、macOS等,可在不同的平台上安装和运行;高性能,MySQL通过优化的存储引擎(如InnoDB)和索引机制来提供高性能的数据访问和查询,它能够有效地处理大量的读写操作;简单易用,MySQL具有简单的安装和配置过程,并提供了易于使用的命令行界面和图形化工具(如MySQL Workbench)来管理和操作数据库;支持标准SQL,MySQL遵循SQL(Structured Query Language)标准,使得开发人员可以使用标准SQL语句进行数据的查询、插入、更新和删除等操作;数据安全性,MySQL提供了强大的安全功能,包括用户权限管理、数据备份和恢复、SSL/TLS加密传输等,保护数据库的机密性和完整性;扩展性,MySQL支持水平和垂直两种扩展方式,水平扩展通过分布式架构实现数据的横向扩展,垂直扩展则通过增加更强大的硬件来提升性能。
Kafka:Kafka是一种分布式流处理平台和消息队列系统,由Apache软件基金会开发和维护,它被设计用于高容量、高吞吐量的实时数据传输和处理,以下是Kafka的一些主要特点:高吞吐量,Kafka能够处理成千上万的消息并保持低延迟,它通过分区和分布式存储的方式来实现数据的并行处理;分布式架构,Kafka采用分布式架构,可以在多个服务器节点上分布数据和负载,这种架构提供了高可用性和容错性,即使其中一个节点出现故障,仍然能够正常运行;持久性存储,Kafka通过将消息持久化存储在磁盘上,确保数据的安全性和可靠性,即使消费者在某个时间点不可用,它们也可以在后续重新连接时获取之前未处理的消息;发布-订阅模型,Kafka使用发布-订阅模型,生产者将消息发布到主题(topic),而消费者订阅感兴趣的主题并消费消息,这样的模型使得多个消费者可以并行地处理消息;批量处理,Kafka支持批量处理机制,可以一次性处理多个消息,从而减少网络开销和提高整体处理效率;实时数据流处理,Kafka不仅可以用作消息队列系统,还可以与流处理框架(如Apache Flink、Apache Spark等)结合使用,进行实时数据的处理和分析;可扩展性,Kafka支持水平扩展,即通过增加更多的节点来扩展系统的处理能力和存储容量。
RabbitMQ:RabbitMQ是一款开源的消息队列系统,用于在应用程序之间传递消息,它是由Rabbit Technologies Ltd.开发并开源,目前由Erlang Solutions Ltd.维护,RabbitMQ实现了AMQP(Advanced Message Queuing Protocol)协议,并提供了强大的消息传递功能,以下是RabbitMQ的一些主要特点:灵活的消息模型,RabbitMQ支持多种消息模型,包括点对点、发布/订阅、请求/响应和消息广播等,这使得开发人员能够根据具体需求选择合适的消息模型;可靠性和稳定性,RabbitMQ通过持久化消息和可靠的消息传递机制来确保消息的可靠性,即使在生产者、代理服务器或消费者出现故障的情况下,消息也能得到正确地传递和处理;多语言支持,RabbitMQ提供了多种编程语言的客户端库,包括Java、Python、Ruby、C#等,使得开发人员可以使用自己熟悉的语言来与RabbitMQ进行交互;负载均衡,RabbitMQ支持负载均衡机制,可以在多个消费者之间分配消息的负载,这使得消息能够被平均地处理,提高了系统的处理能力和可伸缩性;插件系统,RabbitMQ提供了丰富的插件系统,可以扩展其功能。例如,可以通过插件实现消息的转换、消息验证、消息路由等;可视化管理界面,RabbitMQ提供了易于使用的Web管理界面,可以监控和管理队列、交换器、绑定等对象,并查看消息的流动情况;社区支持和活跃的开发,RabbitMQ拥有庞大的开源社区支持,提供了广泛的文档、示例代码和解决方案,同时,新版本的发布和功能改进也在持续进行。
ECS:ECS(Elastic Container Service)是亚马逊云计算服务(AWS)提供的一种容器管理服务,它允许用户轻松地在云上运行和管理容器化应用程序,以下是ECS的一些主要特点:弹性扩展,ECS可以根据负载自动调整容器的数量,根据需求实现弹性扩展,用户可以定义自动扩展策略,以便根据资源使用情况自动增加或减少容器实例;高度可定制,ECS支持各种容器编排引擎,包括Docker和Kubernetes等,这使得用户可以使用自己喜欢的工具和技术来构建、部署和管理容器;简化的集群管理,ECS提供了集群管理功能,用户可以创建和管理多个容器实例的集群,它自动处理容器的调度、容器实例的扩缩容、可用性和容错等问题,减轻了用户的管理负担;容器网络,ECS提供了网络功能,使容器之间可以进行通信,用户可以通过定义任务和服务之间的网络规则,实现容器之间的隔离、负载均衡和安全通信;私有和公共资源隔离,ECS支持私有和公共资源隔离,用户可以创建私有的容器集群,以便更好地控制和保护应用程序和数据;与其他AWS服务集成,ECS可以与其他AWS服务(如Elastic Load Balancer、CloudWatch、Identity and Access Management等)无缝集成,提供全面的应用程序架构和管理解决方案。
SpreadJS:SpreadJS是一款由GrapeCity开发的JavaScript电子表格库。它为开发人员提供了功能强大且高性能的电子表格功能,可以在Web应用程序中创建和操作电子表格,以下是SpreadJS的一些主要特点,丰富的功能:SpreadJS提供了各种电子表格功能,包括数据绑定、公式计算、筛选和排序、图表、条件格式、数据验证等,它还支持复杂的单元格格式化、合并和分割等操作;强大的性能,SpreadJS经过优化,具有出色的性能,可以处理大量数据和复杂的计算,它支持虚拟化滚动和异步加载数据,提供流畅的用户体验;可定制性,SpreadJS提供了灵活的API和扩展性,允许开发人员根据自己的需求进行定制和扩展,用户可以自定义样式、单元格编辑器、事件处理和导入导出功能等;跨平台和浏览器兼容性,SpreadJS可以运行在各种平台上,包括桌面、移动设备和Web浏览器,它支持主流的浏览器,如Chrome、Firefox、Safari和Edge,确保在不同环境下的兼容性;多语言支持,SpreadJS支持多种语言,包括英语、中文、日语、德语等,它提供了本地化的翻译资源和日期、数字的格式化选项;数据交互和导入导出,SpreadJS可以与后端服务进行数据交互,支持与JSON、XML、CSV等格式的数据进行导入导出,它还提供了与Excel文件的兼容性,可以实现与Excel的无缝集成。
Form表单:"Form"(表单)是指在Web页面中用于收集和提交用户信息的一种交互元素,通常,通过在表单中输入数据并点击提交按钮,用户可以将数据发送到服务器进行处理或保存,表单由一系列表单控件组成,这些控件可以是文本框、下拉菜单、复选框、单选按钮等,用于接收用户的输入,每个表单控件都具有一个与之相关联的名称(name),以便在提交表单时能够标识该控件及其对应的值。
因此,本发明实施例,从现实中数据收集存在无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题出发,设计了一种数据收集方法,并在对数据的收集中验证了本发明的数据收集方法的有效性,最后经过本发明方法进行数据收集的效率得到了明显提升。
具体地,参照图1,图1为本发明数据收集装置所属终端设备的功能模块示意图。该数据收集装置可以独立于终端设备的、能够进行数据收集的装置,其可以通过硬件或者软件的形式承载于终端设备上。该终端设备可以为手机、平板电脑等具有数据处理功能的智能移动设备,还可以为具有数据处理功能的固定终端设备或服务器等。
在本实施例中,该数据收集装置所属终端设备至少包括输出模块110、处理器120、存储器130以及通信模块140。
存储器130中存储有操作系统以及数据收集程序,数据收集装置可以通过预设的数据收集模板,创建收集任务;根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;对所述初始收集文件进行合并下载,获取最终收集文件。通过该数据收集程序进行数据收集,得到数据收集结果等信息存储于该存储器130中;输出模块110可为显示屏等。通信模块140可以包括WIFI模块、移动通信模块以及蓝牙模块等,通过通信模块140与外部设备或服务器进行通信。
其中存储器130中的数据收集程序被处理器执行时实现以下步骤:
通过预设的数据收集模板,创建收集任务;
根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;
对所述初始收集文件进行合并下载,获取最终收集文件。
进一步地,存储器130中的数据收集程序被处理器执行时还实现以下步骤:
响应用户的操作,选取数据收集模板;
若选取普通数据收集模板,则生成普通收集任务;
若选取拆分数据收集模板,则生成拆分收集任务;
若选取移动数据收集模板,则生成移动收集任务。
进一步地,存储器130中的数据收集程序被处理器执行时还实现以下步骤:
根据所述收集任务,生成收集文件;
根据所述收集文件,通过所述数据填报端进行填报,获取数据收集文件;
通过所述数据审批端对所述数据收集文件进行审批;
若所述数据收集文件异常,则将所述数据收集文件发送至数据填报端进行重新收集,直至所述数据收集文件无异常;
若所述数据收集文件无异常,则输出所述数据收集文件,生成初始收集文件。
进一步地,存储器130中的数据收集程序被处理器执行时还实现以下步骤:
将所述初始收集文件发送至任务审批端进行审批;
若所述审批结果为通过,则对所述初始收集文件进行合并下载;
若所述审批结果为不通过,则将所述初始收集文件发送至所述数据填报段进行重新收集。
进一步地,存储器130中的数据收集程序被处理器执行时还实现以下步骤:
根据所述数据收集模板,获取合并配置参数;
根据所述合并配置参数,生成初始合并文件;
对所述初始合并文件进行预处理,获取预处理后的初始合并文件;
对所述初始收集文件进行读取,获取读取结果;
根据所述读取结果,将所述初始收集文件合并至所述初始合并文件,生成最终收集文件。
进一步地,存储器130中的数据收集程序被处理器执行时还实现以下步骤:
若所述收集任务为拆分收集任务,则向预设的拆分程序发送拆分收集信息;
根据所述拆分程序,对所述拆分收集信息进行读取,获取拆分配置以及待拆分文件;
根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件。
进一步地,存储器130中的数据收集程序被处理器执行时还实现以下步骤:
根据所述拆分配置对所述待拆分文件进行解析,获取所述数据填报端的映射关系;
根据所述映射关系,对所述待拆分文件进行拆分,获取若干收集文件。
本实施例通过上述方案,具体通过预设的数据收集模板,创建收集任务;根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;对所述初始收集文件进行合并下载,获取最终收集文件。基于预设的数据收集模板,创建收集任务,通过收集任务收集到数据后,对数据进行合并,得到数据收集文件,可以解决收集人无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题。基于本发明方案,从现实中数据收集存在无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题出发,设计了一种数据收集方法,并在对数据的收集中验证了本发明的数据收集方法的有效性,最后经过本发明方法进行数据收集的效率得到了明显提升。
基于上述终端设备架构但不限于上述框架,提出本发明方法实施例。
参照图2,图2为本发明数据收集方法一示例性实施例的流程示意图。所述数据收集方法包括:
步骤S01,通过预设的数据收集模板,创建收集任务;
本实施例方法的执行主体可以是一种数据收集装置,也可以是一种数据收集终端设备或服务器,本实施例以数据收集装置进行举例,该数据收集装置可以集成在具有数据处理功能终端设备上。
为了进行数据收集,必须先创建收集任务,通过以下步骤实现:
首先,在本实施例中,创建任务的操作是由任务发起人执行的,以集团举例说明,总公司的管理人员需要收集分公司的业务数据,则通过总公司的管理人员进行收集任务的创建,即总公司的管理人员为任务发起人;
然后,任务发起人通过数据收集模板进行任务生成,其中,数据收集模板是提前构建完成的,收集模板包括但不限于普通数据收集模板、拆分数据收集模板以及移动数据收集模板等等;
最后,根据任务发起人选择的收集模板,生成对应的数据收集任务,其中,数据收集任务包括但不限于普通收集任务、拆分收集任务以及移动收集任务。
步骤S02,根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;
在选择好收集任务后,为了获取初始收集文件通过以下步骤实现:
首先,根据任务创建人创建的收集任务,发送到数据填报端,在本实施例中,数据填报端可以为业务员工,在其他实施例中,也可以为其他具有数据填报能力的人员;
然后,数据填报端根据收集任务进行数据填报,得到填报完成的数据收集文件,其中,数据收集文件包括但不限于Excel即表格文件;
最后,数据审批端对数据收集文件进行审批,当审批通过时,得到初始收集文件。
步骤S06,对所述初始收集文件进行合并下载,获取最终收集文件。
在获取到初始收集文件后,通过以下步骤完成最终收集文件的获取:
首先,每个收集任务在创建时,都具有合并配置参数,在进行合并时,获取合并配置参数;
然后,根据合并配置参数,生成初始合并文件,其中,初始合并文件还需经过预处理以及等等措施,才可以最终成为可以合并的文件;
最后,将初始收集文件合并至经过预处理后的初始合并文件中,生成最终收集文件。
本实施例通过上述方案,具体通过预设的数据收集模板,创建收集任务;根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;对所述初始收集文件进行合并下载,获取最终收集文件。由此,完成了最终收集文件的获取,实现了数据的收集,解决了收集人无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题,提高了数据收集的效率。
参照图3,图3为本发明数据收集方法另一示例性实施例的流程示意图。
基于上述图2所示的实施例,所述步骤S01,通过预设的数据收集模板,创建收集任务的步骤包括:
步骤S011,响应用户的操作,选取数据收集模板;
步骤S012,若选取普通数据收集模板,则生成普通收集任务;
步骤S013,若选取拆分数据收集模板,则生成拆分收集任务;
步骤S014,若选取移动数据收集模板,则生成移动收集任务。
具体地,为了创建收集任务,通过以下步骤实现:
首先,响应用户的操作,选取数据收集模板,其中,在本实施例中,用户可以为任务创建人;
然后,根据数据收集模板,对应的生成收集任务;
然后,当任务创建人只需要单一的收集数据信息时,则选取普通数据收集模板,随后,生成普通收集任务;
然后,当任务创建人需要下发数据给数据填报人,同时也需要填报人回传数据给任务创建人时,任务创建人选取拆分数据收集模板,随后,根据下发的数据,通过拆分配置对收集文件进行拆分,生成拆分收集任务;
最后,当填报人多为在外人员时,例如业务人员经常需要外出,无法实时通过电脑等设备进行填报时,任务创建人可以选取移动数据收集模板,后台解析模板生成form表单,填报人在移动端往form表单填写信息,其中,这种类型无法支持复杂的EXCEL模板(例如多sheet的excel,合并单元格等),因此与其他类型的数据收集区分开,只能使用单sheet单表头的excel格式。
更具体地,如图4所示,图4为本发明数据收集方法涉及创建收集任务的示意图。
首先,任务创建人登录数据收集系统,其中,数据收集系统可以存储于移动设备,例如手提电脑以及手机等等设备之中,还可以用独立的装置进行操作;
然后,通过任务创建人选取创建任务的类型;
然后,后台对任务类型进行判断;
最后,根据判断的结果,生成普通任务、一次性任务、拆分收集任务以及移动收集任务等等。
本实施例通过上述方案,具体通过响应用户的操作,选取数据收集模板;若选取普通数据收集模板,则生成普通收集任务;若选取拆分数据收集模板,则生成拆分收集任务;若选取移动数据收集模板,则生成移动收集任务。由此,实现了收集任务的创建,解决了无法根据用户的实际需求进行数据收集任务选取的问题,提高了数据收集的效率。
参照图5,图5为本发明数据收集方法另一示例性实施例的流程示意图。
基于上述图2所示的实施例,所述步骤S02,根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集数据的步骤包括:
步骤S021,根据所述收集任务,生成收集文件;
步骤S022,根据所述收集文件,通过所述数据填报端进行填报,获取数据收集文件;
步骤S023,通过所述数据审批端对所述数据收集文件进行审批;
步骤S024,若所述数据收集文件异常,则将所述数据收集文件发送至数据填报端进行重新收集,直至所述数据收集文件无异常;
步骤S025,若所述数据收集文件无异常,则输出所述数据收集文件,生成初始收集文件。
具体地,为了获取初始收集文件,通过以下步骤实现:
首先,根据收集任务的类型,生成收集文件,其中,收集文件根据任务类型而不同,包括但不限于文件数量、文件公式等;
然后,将收集文件发送至指定的数据填报端,进行数据填报,得到数据收集文件,其中,在本实施例中,以集团进行举例,数据填报端可以是单个,也可以为多个,例如总公司对各个分公司进行数据收集,而指定的数据填报端,即为分公司的业务可能存在差异,计算的方式也有所不同,故根据业务的需求,进行指定数据填报端的数据收集;
然后,将收集到的数据发送至数据审批端进行审批,其中,数据审批端为汇总作用,具体的实例为每个分公司在经过数据填报后,会有负责人对填报的数据进行审批,负责人包括但不限于分公司的管理人员等;
然后,当分公司的管理人员审批为数据收集文件为异常,则将数据收集文件进行退回,由数据填报端进行重新收集,直至数据收集文件无异常;
最后,当审批端判定数据收集文件无异常时,则将数据收集文件输出,生成初始收集文件。
更具体地,如图6所示,图6为本发明数据收集方法涉及进行审批的示意图。
首先,任务负责人收到任务创建人的数据收集任务通知;
然后,根据收集任务,上传数据收集文件;
然后,通过数据收集文件进行数据收集;
然后,收集完成后,通过数据审批人进行审批,若审批不通过,则将数据退回,并发送退回消息,重新进行数据收集;
最后,当审批通过时,则生成初始收集文件并发送至任务审批人进行任务审批。
本实施例通过上述方案,具体通过根据所述收集任务,生成收集文件;根据所述收集文件,通过所述数据填报端进行填报,获取数据收集文件;通过所述数据审批端对所述数据收集文件进行审批;若所述数据收集文件异常,则将所述数据收集文件发送至数据填报端进行重新收集,直至所述数据收集文件无异常;若所述数据收集文件无异常,则输出所述数据收集文件,生成初始收集文件。由此,实现了初始收集文件的获取,解决了数据收集中出现错误数据以及无法指定人员进行收集的问题,提高了数据收集的效率。
参照图7,图7为本发明数据收集方法另一示例性实施例的流程示意图。
基于上述图2所示的实施例,所述步骤S06,对所述初始收集文件进行合并下载,获取最终收集文件的步骤之前还包括:
步骤S03,将所述初始收集文件发送至任务审批端进行审批;
步骤S04,若所述审批结果为通过,则对所述初始收集文件进行合并下载;
步骤S05,若所述审批结果为不通过,则将所述初始收集文件发送至所述数据填报段进行重新收集。
具体地,为了获取最终收集文件,需要对初始收集文件预先进行审批,采取以下步骤实现:
首先,将初始收集文件发送至任务审批端进行审批,其中,任务审批端可以为集团总公司的任务审批员,也可以为收集任务创建人;
然后,当任务审批端输出审批不通过的结果时,则将初始收集文件发送至数据填报端进行重新收集;
最后,当任务审批端输出审批通过的结果时,则认为当前的初始收集文件为合格,此时可以对其进行合并下载,也可以对其进行存储,这里应该根据实际的业务需求进行操作。
更具体地,如图6所示。
首先,当初始数据文件通过数据审批人审核通过后,发送到任务审批人;
然后,根据任务审批人针对任务的类型以及重要性进行是否审批的判断;
然后,根据判断的结果,对初始收集文件进行审批;
然后,若审批不通过,则将数据退回;
最后,所审批通过,将表示当前数据可以进行合并下载。
本实施例通过上述方案,具体通过将所述初始收集文件发送至任务审批端进行审批;若所述审批结果为通过,则对所述初始收集文件进行合并下载;若所述审批结果为不通过,则将所述初始收集文件发送至所述数据填报段进行重新收集。由此,实现了对初始收集文件的审批,解决了数据收集中出现错误数据的问题,提高了数据收集的效率。
参照图8,图8为本发明数据收集方法涉及获取最终收集文件的流程示意图。
基于上述图2所示的实施例,所述步骤S06,对所述初始收集数据进行合并下载,获取最终收集文件的步骤包括:
步骤S061,根据所述数据收集模板,获取合并配置参数;
步骤S062,根据所述合并配置参数,生成初始合并文件;
步骤S063,对所述初始合并文件进行预处理,获取预处理后的初始合并文件;
步骤S064,对所述初始收集文件进行读取,获取读取结果;
步骤S065,根据所述读取结果,将所述初始收集文件合并至所述初始合并文件,生成最终收集文件。
具体地,为了获取最终收集文件,通过以下步骤实现:
首先,在选取数据收集模板时,每个模板都有对应的合并配置参数,在合并的时候,根据合并配置参数进行文件的合并;
然后,根据合并配置参数,生成初始合并文件,其中,所述初始合并文件包括但不限于Excel的文件格式等;
然后,对初始合并文件进行预处理,其中,预处理的操作包括但不限于保留表头并清空表头外的数据等;
然后,对初始收集文件进行读取,获取读取结果,其中,所述读取的目的是为了得到当前应当采用的合并方式,合并方式包括但不限于尾部追加、覆盖合并、累加合并以及指定人员合并等;
最后,根据读取的结果,对初始收集文件输入初始合并文件中进行合并,得到最终收集文件。
更具体地,如图9所示,图9为本发明数据收集方法涉及获取最终收集文件的示意图。
首先,获取数据收集模板中的合并配置参数;
然后,根据合并配置参数,生成模板文件,即初始合并文件;
然后,对初始合并文件进行预处理,包括但不限于保留表头并清空表头外的数据;
然后,对所有的初始收集文件进行读取,获得读取结果;
然后,根据识别结果选取对应的合并方式进行合并;
最后,合并完成后生成最终收集文件。
如图10所示,图10为本发明数据收集方法涉及尾部追加的示意图。
首先,对所有上传的Excel数据除去表头;
最后,往尾部追加合并为一个数据文件。
如图11所示,图11为本发明数据收集方法涉及覆盖合并的示意图。
首先,这种模式通常收集人指定填报人只能修改自己excel里特定的行和列;
然后,将填报人上传的数据文件里非空的单元格回填到原始模板里;
最后,若多人填写了这个单元格,则最新提交的数据会覆盖之前提交的数据。
如图12所示,图12为本发明数据收集方法涉及累加合并的示意图。
对除表头、列头外的数字型单元格会进行累加操作处理。
如图13所示,图13为本发明数据收集方法涉及指定人员合并的示意图。
首先,由任务创建人指定进行数据填报人;
然后,获取数据填报人填写的数据;
最后,将数据进行合并。
本实施例通过上述方案,具体通过根据所述数据收集模板,获取合并配置参数;根据所述合并配置参数,生成初始合并文件;对所述初始合并文件进行预处理,获取预处理后的初始合并文件;对所述初始收集文件进行读取,获取读取结果;根据所述读取结果,将所述初始收集文件合并至所述初始合并文件,生成最终收集文件。由此,实现了最终收集文件的获取,解决了收集人无法在数据收集完成之后,将所有数据按照收集模板样式合并为一份的问题,提高了数据收集的效率。
参照图14,图14为本发明数据收集方法涉及生成收集文件的流程示意图。
基于上述图5所示的实施例,所述步骤S021,根据所述收集任务,生成收集文件的步骤包括:
步骤S0211,若所述收集任务为拆分收集任务,则向预设的拆分程序发送拆分收集信息;
步骤S0212,根据所述拆分程序,对所述拆分收集信息进行读取,获取拆分配置以及待拆分文件;
步骤S0213,根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件。
具体地,为了实现拆分收集,通过以下步骤实现:
首先,当所述收集任务为拆分收集任务时,则向拆分程序发送拆分信息,其中,所述拆分程序具有文件拆分功能,还具有中间件rabbitmq等;
然后,通过拆分收集程序,对拆分收集信息进行读取,得到拆分配置以及待拆分的文件;
最后,根据拆分配置对待拆分文件进行拆分,得到若干收集文件,其中,拆分配置中包括了任务创建人指定填报人的信息,通过此信息可生成指定的收集文件。
本实施例通过上述方案,具体通过若所述收集任务为拆分收集任务,则向预设的拆分程序发送拆分收集信息;根据所述拆分程序,对所述拆分收集信息进行读取,获取拆分配置以及待拆分文件;根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件。由此,获取到了若干收集文件,完成了对待拆分文件的拆分,解决了收集人无法使用自定义的收集模板进行背对背收集数据的问题,提高了数据收集的效率。
参照图15,图15为本发明数据收集方法涉及获取若干收集文件的流程示意图。
基于上述图14所示的实施例,所述步骤S0213,根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件的步骤包括:
步骤S02131,根据所述拆分配置对所述待拆分文件进行解析,获取所述数据填报端的映射关系;
步骤S02132,根据所述映射关系,对所述待拆分文件进行拆分,获取若干收集文件。
具体地,为了对待拆分文件进行拆分,通过以下步骤实现:
首先,根据拆分配置对待拆分文件进行解析,得到所述数据填报端的映射关系,其中,映射关系包括但不限于数据填报端与任务创建人的映射、数据填报端与分组依据的映射以及分组依据对应的范围等等;
最后,根据数据填报端的映射关系,得知不同的分组依据所在的excel工作表的行范围、数据填报端对应有哪些分组依据以及数据填报端对应审批人等等信息。
更具体地,如图16所示,图16为本发明涉及获取若干收集文件的示意图。
首先,通过拆分程序中的中间件rabbitmq进行监听;
然后,当监听到拆分信息时,通过拆分程序获取拆分配置以及任务创建人上传的文件;
然后,通过拆分配置对上传的文件进行解析,得到收件人(即数据填报端)与审核人(可为数据审批端也可为任务审批端)的映射、收件人的分组依据对应的范围以及收件人和分组依据的映射;
然后,复制表头到收件人文件中;
最后,复制对应分组依据范围到收件人文件中,其中,复制的过程还包括对原文件的样式以及公式等的复制。
本实施例通过上述方案,具体通过根据所述拆分配置对所述待拆分文件进行解析,获取所述数据填报端的映射关系;根据所述映射关系,对所述待拆分文件进行拆分,获取若干收集文件。由此,实现了对收集文件的拆分,解决了收集人无法使用自定义的收集模板进行背对背收集数据的问题,提高了数据收集的效率。
此外,本发明实施例还提出一种数据收集装置,所述数据收集装置包括:
创建模块,用于通过预设的数据收集模板,创建收集任务;
收集模块,用于根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;
合并下载模块,用于对所述初始收集文件进行合并下载,获取最终收集文件。
此外,本发明实施例还提出一种终端设备,所述终端设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的数据收集程序,所述数据收集程序被所述处理器执行时实现如上所述的数据收集方法的步骤。
由于本数据收集程序被处理器执行时,采用了前述所有实施例的全部技术方案,因此至少具有前述所有实施例的全部技术方案所带来的所有有益效果,在此不再一一赘述。
此外,本发明实施例还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有数据收集程序,所述数据收集程序被处理器执行时实现如上所述的数据收集方法的步骤。
由于本数据收集程序被处理器执行时,采用了前述所有实施例的全部技术方案,因此至少具有前述所有实施例的全部技术方案所带来的所有有益效果,在此不再一一赘述。
相比现有技术,本发明实施例提出的数据收集方法、装置、终端设备以及存储介质,通过预设的数据收集模板,创建收集任务;根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;对所述初始收集文件进行合并下载,获取最终收集文件。从而解决了收集人无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题,实现了数据的收集,提高了数据收集的效率。基于本发明方案,从现实中数据收集存在无法使用自定义的收集模板进行背对背收集数据且在收集完成之后,将所有数据按照收集模板样式合并为一份的问题出发,设计了一种数据收集方法,并在对数据的收集中验证了本发明的数据收集方法的有效性,最后经过本发明方法进行数据收集的效率得到了明显提升。
和现有的技术相比,本发明实施例方案具有以下优点:
1、使用EXCEL作为数据收集的模板,支持多样式多sheet;
2、实现背对背收集;
3、多份EXCEL填报结果可合并为一个EXCEL,提供多种excel合并模式:尾部追加、覆盖合并、累加合并和多sheet页指定人合并;
4、可处理万条数据量以内的周期性收集场景和数据核对的场景。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,被控终端,或者网络设备等)执行本发明每个实施例的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种数据收集方法,其特征在于,所述数据收集方法包括以下步骤:
通过预设的数据收集模板,创建收集任务;
根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;
对所述初始收集文件进行合并下载,获取最终收集文件。
2.根据权利要求1所述的数据收集方法,其特征在于,所述通过预设的数据收集模板,创建收集任务的步骤包括:
响应用户的操作,选取数据收集模板;
若选取普通数据收集模板,则生成普通收集任务;
若选取拆分数据收集模板,则生成拆分收集任务;
若选取移动数据收集模板,则生成移动收集任务。
3.根据权利要求2所述的数据收集方法,其特征在于,所述根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集数据的步骤包括:
根据所述收集任务,生成收集文件;
根据所述收集文件,通过所述数据填报端进行填报,获取数据收集文件;
通过所述数据审批端对所述数据收集文件进行审批;
若所述数据收集文件异常,则将所述数据收集文件发送至数据填报端进行重新收集,直至所述数据收集文件无异常;
若所述数据收集文件无异常,则输出所述数据收集文件,生成初始收集文件。
4.根据权利要求3所述的数据收集方法,其特征在于,所述对所述初始收集文件进行合并下载,获取最终收集文件的步骤之前还包括:
将所述初始收集文件发送至任务审批端进行审批;
若所述审批结果为通过,则对所述初始收集文件进行合并下载;
若所述审批结果为不通过,则将所述初始收集文件发送至所述数据填报段进行重新收集。
5.根据权利要求4所述的数据收集方法,其特征在于,所述对所述初始收集数据进行合并下载,获取最终收集文件的步骤包括:
根据所述数据收集模板,获取合并配置参数;
根据所述合并配置参数,生成初始合并文件;
对所述初始合并文件进行预处理,获取预处理后的初始合并文件;
对所述初始收集文件进行读取,获取读取结果;
根据所述读取结果,将所述初始收集文件合并至所述初始合并文件,生成最终收集文件。
6.根据权利要求3所述的数据收集方法,其特征在于,所述根据所述收集任务,生成收集文件的步骤包括:
若所述收集任务为拆分收集任务,则向预设的拆分程序发送拆分收集信息;
根据所述拆分程序,对所述拆分收集信息进行读取,获取拆分配置以及待拆分文件;
根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件。
7.根据权利要求6所述的数据收集方法,其特征在于,所述根据所述拆分配置,对所述待拆分文件进行拆分,获取若干收集文件的步骤包括:
根据所述拆分配置对所述待拆分文件进行解析,获取所述数据填报端的映射关系;
根据所述映射关系,对所述待拆分文件进行拆分,获取若干收集文件。
8.一种数据收集装置,其特征在于,所述数据收集装置包括:
创建模块,用于通过预设的数据收集模板,创建收集任务;
收集模块,用于根据所述收集任务,通过数据填报端以及数据审批端进行数据收集,获取初始收集文件;
合并下载模块,用于对所述初始收集文件进行合并下载,获取最终收集文件。
9.一种终端设备,其特征在于,所述终端设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的数据收集程序,所述数据收集程序被所述处理器执行时实现如权利要求1-7中任一项所述的数据收集方法的步骤。
10.一种计算器可读存储介质,其特征在于,所述计算机可读存储介质上存储有数据收集程序,所述数据收集程序被处理器执行时实现如权利要求1-7中任一项所述的数据收集方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310923277.0A CN116992846A (zh) | 2023-07-25 | 2023-07-25 | 数据收集方法、装置、终端设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310923277.0A CN116992846A (zh) | 2023-07-25 | 2023-07-25 | 数据收集方法、装置、终端设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116992846A true CN116992846A (zh) | 2023-11-03 |
Family
ID=88533202
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310923277.0A Pending CN116992846A (zh) | 2023-07-25 | 2023-07-25 | 数据收集方法、装置、终端设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116992846A (zh) |
-
2023
- 2023-07-25 CN CN202310923277.0A patent/CN116992846A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109254982B (zh) | 一种流数据处理方法、系统、装置及计算机可读存储介质 | |
CN108804140B (zh) | 一种批量指令解析方法、装置及设备 | |
US20180293217A1 (en) | Smarter copy/paste | |
US11431785B2 (en) | Distributed system management | |
US11163906B2 (en) | Adaptive redaction and data releasability systems using dynamic parameters and user defined rule sets | |
CN109800207B (zh) | 日志解析方法、装置、设备及计算机可读存储介质 | |
CN108510082A (zh) | 对机器学习模型进行处理的方法及装置 | |
CN108038207A (zh) | 一种日志数据处理系统、方法和服务器 | |
CN112948486A (zh) | 批量数据同步方法、系统及电子设备 | |
CN112181393A (zh) | 前后端代码生成方法、装置、计算机设备及存储介质 | |
CN111984505A (zh) | 一种运维数据采集引擎及采集方法 | |
CN115391361A (zh) | 一种基于分布式数据库的实时数据处理方法及其装置 | |
CN113177088B (zh) | 一种材料辐照损伤多尺度模拟大数据管理系统 | |
US20220309072A1 (en) | Transformation of composite tables into structured database content | |
CN114371888A (zh) | 日志采集插件的热更新方法、装置、电子设备和可读介质 | |
CN116992846A (zh) | 数据收集方法、装置、终端设备以及存储介质 | |
US20230418859A1 (en) | Unified data classification techniques | |
CN114500268B (zh) | chart资源的部署方法、装置、服务器及存储介质 | |
CN114371884A (zh) | Flink计算任务的处理方法、装置、设备和存储介质 | |
CN114756301A (zh) | 日志处理方法、装置和系统 | |
CN111581173A (zh) | 日志系统分布式存储的方法、装置、服务器及存储介质 | |
CN112416865A (zh) | 基于大数据的文件处理方法和装置 | |
CN118092982B (zh) | 一种云原生应用的多集群运维方法、设备及介质 | |
Song et al. | Introducing SaaS capabilities to existing web-based applications automatically | |
AU2018313995B2 (en) | Systems and methods for providing globalization features in a service management application interface |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |