CN114697316B - 数据的批量下载方法、装置、设备及计算机可读介质 - Google Patents
数据的批量下载方法、装置、设备及计算机可读介质 Download PDFInfo
- Publication number
- CN114697316B CN114697316B CN202210435339.9A CN202210435339A CN114697316B CN 114697316 B CN114697316 B CN 114697316B CN 202210435339 A CN202210435339 A CN 202210435339A CN 114697316 B CN114697316 B CN 114697316B
- Authority
- CN
- China
- Prior art keywords
- data
- task
- preset
- storage
- user interface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000004458 analytical method Methods 0.000 claims abstract description 41
- 238000013500 data storage Methods 0.000 claims abstract description 38
- 230000006835 compression Effects 0.000 claims description 16
- 238000007906 compression Methods 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 12
- 238000006243 chemical reaction Methods 0.000 claims description 5
- 238000007405 data analysis Methods 0.000 claims description 3
- 238000012163 sequencing technique Methods 0.000 claims description 2
- 238000004806 packaging method and process Methods 0.000 abstract description 7
- 230000006870 function Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及数据采集技术领域，揭露一种数据的批量下载方法，包括：获取目标用户的用户界面，并在用户界面创建离线任务表；通过预设的任务调度服务从离线任务表中读取待处理任务；基于待处理任务从预设的数据存储库中分段读取下载数据，采用多线程解析法解析下载数据，得到解析数据，并封装解析数据，得到封装数据；将封装数据写入预设的报表，并将报表进行压缩，得到压缩文件；将压缩文件上传至预设的文件存储系统，并将文件存储系统的存储地址返回用户界面，根据文件存储系统的存储地址在用户界面创建下载按钮。本发明还提出一种数据的批量下载装置、设备及存储介质。本发明可以提升数据下载的效率。
Description
技术领域
本发明涉及数据采集技术领域，尤其涉及一种数据的批量下载方法、装置、设备及介质。
背景技术
随着通信技术的发展，以大数据、物联网、人工智能、5G为核心的数字化浪潮正席卷世界，由此带来的海量数据也让数据的批量下载成为可行。
然而随着数据的增多，数据的下载速度也越来越慢，进一步导致下载超时，因此传统的数据下载方法已经满足实际的应用需求，并且随着数据量的增加，对服务器内存占用也十分严重，所以现阶段亟需一种数据的批量下载方法，以提升数据下载效率。
发明内容
本发明提供一种数据的批量下载方法、装置、设备及介质，其主要目的在于提升数据下载的效率。
为实现上述目的，本发明提供的一种数据的批量下载方法，包括：
获取目标用户的用户界面，并在所述用户界面创建离线任务表；
通过预设的任务调度服务从所述离线任务表中读取待处理任务；
基于所述待处理任务从预设的数据存储库中分段读取下载数据，采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据；
将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件；
将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮。
可选地，所述在所述用户界面创建离线任务表，包括：
获取所述目标用户提供的任务申请；
基于所述任务申请的时间顺序将所述任务申请进行排序，并将所述任务申请以任务表的形式存储于预设的离线数据库中，得到离线任务表。
可选地，所述通过预设的任务调度服务从所述离线任务表中读取待处理任务之前，所述方法还包括：
通过预设的项目托管平台拉取源码到本地，并配置Java工具，基于所述源码和所述Java工具构建任务调度项目；
初始化所述任务调度项目的数据库，并在更改所述任务调度项目的配置文件后，编译运行所述任务调度项目，构建任务调度框架，通过所述任务调度框架提供任务调度服务。
可选地，所述通过预设的任务调度服务从所述离线任务表中读取待处理任务，包括：
获取所述任务调度服务中的调度中心以及任务执行器；
在所述调度中心中注册所述任务执行器，并通过所述任务执行器执行所述调度中心下发读取任务，读取所述离线任务表中的待处理任务。
可选地，所述基于所述待处理任务从预设的数据存储库中分段读取下载数据，包括：
获取所述数据存储库中的数据存储表；
遍历所述数据存储表，获取所述数据存储表中数据的主键递增关系，并根据所述主键递增关系从所述数据存储表中分段读取下载数据。
可选地，所述采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据，包括：
基于预设的数据容量将所述下载数据分为多个数据包；
通过多线程读取所述数据包的配置信息，按照数据长度以及数据在所述数据包中的位置分解数据包，获取所述数据包中的数据类型；
根据所述数据类型对所述数据包中的数据进行数据量程变换或数据比特位拆分，得到解析数据；
确定所述解析数据的存储单元，并附加目标地址以及本地地址，得到封装数据。
可选地，所述将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件，包括：
获取所述封装数据的数据类型，将所述封装数据以及所述封装数据的数据类型存储入预设的报表；
根据所述报表中存储的数据类型从预设的压缩算法库中选用压缩算法对所述封装数据进行压缩，得到压缩文件。
为了解决上述问题，本发明还提供一种数据的批量下载装置，所述装置包括：
任务获取模块，用于获取目标用户的用户界面，并在所述用户界面创建离线任务表，通过预设的任务调度服务从所述离线任务表中读取待处理任务；
数据解析模块，用于基于所述待处理任务从预设的数据存储库中分段读取下载数据，采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据；
文件压缩模块，用于将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件；
文件下载模块，用于将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮。
为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的数据的批量下载方法。
为了解决上述问题，本发明还提供一种计算机可读存储介质，包括存储数据区和存储程序区，存储数据区存储创建的数据，存储程序区存储有计算机程序；其中，所述计算机程序被处理器执行时实现如上所述的数据的批量下载方法。
本发明实施例中，获取目标用户的用户界面，并在用户界面创建离线任务表，之后通过预设的任务调度服务从离线任务表中读取待处理任务，基于待处理任务从预设的数据存储库中分段读取下载数据，并封装采用多线程解析法解析后的下载数据，得到封装数据，实现将下载数据进行封装的目的，然后将封装数据写入预设的报表，并将报表进行压缩，得到压缩文件，达到将压缩数据的目的，最后将压缩文件上传至预设的文件存储系统，并将文件存储系统的存储地址返回用户界面，根据所述文件存储系统的存储地址在用户界面创建下载按钮。因此，本发通过任务调度服务一次从离线任务表中获取任务避免任务获取不及时，通过将报表这一存储数据的载体进行压缩，降低数据下载容量以实现提升数据下载效率的目的。
附图说明
图1为本发明一实施例提供的一种数据的批量下载方法的流程示意图；
图2为本发明一实施例提供一种数据的批量下载方法中一个步骤的详细流程示意图；
图3为本发明一实施例提供一种数据的批量下载方法中一个步骤的详细流程示意图；
图4为本发明一实施例提供一种数据的批量下载方法中一个步骤的详细流程示意图；
图5为本发明一实施例提供一种数据的批量下载方法中一个步骤的详细流程示意图；
图6为本发明一实施例提供一种数据的批量下载方法中一个步骤的详细流程示意图；
图7为本发明一实施例提供一种数据的批量下载方法中一个步骤的详细流程示意图；
图8为本发明一实施例提供的数据的批量下载装置的模块示意图；
图9为本发明一实施例提供的实现数据的批量下载方法的电子设备的内部结构示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本申请实施例提供一种数据的批量下载方法。所述数据的批量下载方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。其中，服务器可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network，CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。换言之，所述数据的批量下载方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示，为本发明一实施例提供的一种数据的批量下载方法的流程示意图。在本实施例中，所述数据的批量下载方法包括以下步骤S1-S5：
S1、获取目标用户的用户界面，并在所述用户界面创建离线任务表。
本发明实施例中，所述目标用户为需要大批量下载数据的用户，所述用户界面(User Interface，UI)亦可称之为使用者界面，是所述目标用户登录在预设的智能设备上进行显示的界面，其中，所述目标用户需要在所述用户界面通过触控操作进行人机交互，以实现从云端或者预设数据存储库中大批量下载数据的目的。
其中，所述智能设备可以为智能手机、平板电脑、笔记本等终端设备。
进一步地，所述离线任务表为由待办事项组成的任务列表，所述待办事项又可称之为任务申请，本方案中，所述任务申请为大批量下载数据的申请。
参阅图2所示，本发明实施例中，所述在所述用户界面创建离线任务表，包括步骤S1011及S1012：
S1011、获取所述目标用户提供的任务申请；
S1012、基于所述任务申请的时间顺序将所述任务申请进行排序，并将所述任务申请以任务表的形式存储于预设的离线数据库中，得到离线任务表。
其中，所述离线数据库可以为所述智能设备端的数据库。
本发明实施例中，所述任务申请的时间顺序可以为所述任务申请的创建时间顺序，或者所述任务申请的截至时间顺序。
S2、通过预设的任务调度服务从所述离线任务表中读取待处理任务。
本发明实施例中，所述任务调度服务即为JOB服务，是采用XXL-JOB任务调度平台提供的任务调度服务，可以定时调取任务实现特定操作，所述XXL-JOB任务调度平台采用轻量级分布式任务调度框架，具备开箱即用，操作简单，上手快的效果，与SpringBoot有非常好的集成，并且该任务调度平台的监控页面集成于调度中心，具备简洁的页面，便于企业维护，当任务调度失败时，还具有有邮件告警的功能。
本发明实施例中，所述待处理任务为所述离线任务表中获取的需要进行及时处理的任务，所述待处理任务具体用于大批量下载数据。
参阅图3所示，进一步地，所述通过预设的任务调度服务从所述离线任务表中读取待处理任务之前，所述方法还包括步骤S2011及S2012：
S2011、通过预设的项目托管平台拉取源码到本地，并配置Java工具，基于所述源码和所述Java工具构建任务调度项目；
S2012、初始化所述任务调度项目的数据库，并在更改所述任务调度项目的配置文件后，编译运行所述任务调度项目，构建任务调度框架，通过所述任务调度框架提供任务调度服务。
本发明实施例中，所述项目托管平台为github平台，是一个面向开源及私有软件项目的托管平台，用于获取构建任务调度框架的开源代码。
本发明实施例中，所述本地可以表示为终端设备，所述源码和所述Java工具用于构建所述任务调度项目。
参阅图4所示，进一步地，所述通过预设的任务调度服务从所述离线任务表中读取待处理任务，包括步骤S2021及S2022：
S2021、获取所述任务调度服务中的调度中心以及任务执行器；
S2022、在所述调度中心中注册所述任务执行器，并通过所述任务执行器执行所述调度中心下发读取任务，读取所述离线任务表中的待处理任务。
本发明实施例中，所述调度中心为所述任务调度框架中管理任务，下发任务的单元，所述任务执行器为所述任务调度框架中执行任务的单元，本方案中用于执行读取所述离线任务表中任务。
S3、基于所述待处理任务从预设的数据存储库中分段读取下载数据，采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据。
本发明实施例中，所述下载数据为存储于所述数据存储库中，所述目标用户需要下载的数据。
参阅图5所示，本发明实施例中，所述基于所述待处理任务从预设的数据存储库中分段读取下载数据，包括步骤S3011及S3012：
S3011、获取所述数据存储库中的数据存储表；
S3012、遍历所述数据存储表，获取所述数据存储表中数据的主键递增关系，并根据所述主键递增关系从所述数据存储表中分段读取下载数据。
进一步地，所述数据存储表为所述数据存储库中数据的存储形式，所述主键递增关系又可称之为自增长，表示为向所述数据存储表中添加数据时，作为主键的标志会自动逐步添加。
本发明实施例中，通过分段读取的方式可以解决结构化查询语言查询(Structured Query Language，SQL)数据库时耗时过长的问题。
本发明另一实施例中，所述方法还可以通过所述数据存储表中数据的时间索引进行分段读取。
参阅图6所示，本发明实施例中，所述采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据，包括步骤S3021～S3024：
S3021、基于预设的数据容量将所述下载数据分为多个数据包；
S3022、通过多线程读取所述数据包的配置信息，按照数据长度以及数据在所述数据包中的位置分解数据包，获取所述数据包中的数据类型；
S3023、根据所述数据类型对所述数据包中的数据进行数据量程变换或数据比特位拆分，得到解析数据；
S3024、确定所述解析数据的存储单元，并附加目标地址以及本地地址，得到封装数据。
本发明实施例中，所述数据容量用于确定所述数据包的大小，所述数据量程变换和所述数据比特位拆分用于将所述数据保重的数据进行拆解，得到解析数据。
S4、将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件。
本发明实施例中，所述报表用于存储所述封装数据，并且通过对所述报表进行压缩，可以得到压缩文件，进一步地，压缩是一种通过特定的算法减少计算机文件大小的机制，通过压缩可以减少文件的字节总数，是文件能够通过较慢的互联网连接实现更快的数据传输，并且还可以减少文件的磁盘占有看空间。
参阅图7所示，本发明实施例中，所述将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件，包括步骤S4011及S4012：
S4011、获取所述封装数据的数据类型，将所述封装数据以及所述封装数据的数据类型存储入预设的报表；
S4012、根据所述报表中存储的数据类型从预设的压缩算法库中选用压缩算法对所述封装数据进行压缩，得到压缩文件。
本发明实施例中，所述预设的压缩算法库中存储有多种压缩算法，例如LZ77算法、基于多层感知机的压缩算法等。
S5、将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮。
本发明实施例中，所述文件存储系统可以为云端的数据存储库，用户可以从所述文件存储库下载数据，所述文件存储系统的存储地址地址用于查找所述文件存储系统，便于从所述文件存储系统下载数据。
进一步地，所述将所述文件存储系统地址返回所述用户界面，在所述用户界面创建下载按钮之后，所述方法还包括：
用户点击所述下载按钮，从所述文件存储系统下载数据。
本发明实施例中，获取目标用户的用户界面，并在用户界面创建离线任务表，之后通过预设的任务调度服务从离线任务表中读取待处理任务，基于待处理任务从预设的数据存储库中分段读取下载数据，并封装采用多线程解析法解析后的下载数据，得到封装数据，实现将下载数据进行封装的目的，然后将封装数据写入预设的报表，并将报表进行压缩，得到压缩文件，达到将压缩数据的目的，最后将压缩文件上传至预设的文件存储系统，并将文件存储系统的存储地址返回用户界面，根据所述文件存储系统的存储地址在用户界面创建下载按钮。因此，本发通过任务调度服务一次从离线任务表中获取任务避免任务获取不及时，通过将报表这一存储数据的载体进行压缩，降低数据下载容量以实现提升数据下载效率的目的。
如图8所示，是本发明数据的批量下载装置的模块示意图。
本发明所述数据的批量下载装置100可以安装于电子设备中。根据实现的功能，所述数据的批量下载装置可以包括任务获取模块101、数据解析模块102、文件压缩模块103和文件下载模块104。本发明所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本实施例中，关于各模块/单元的功能如下：
所述任务获取模块101，用于获取目标用户的用户界面，并在所述用户界面创建离线任务表，通过预设的任务调度服务从所述离线任务表中读取待处理任务；
数据解析模块102，用于基于所述待处理任务从预设的数据存储库中分段读取下载数据，采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据；
文件压缩模块103，用于将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件；
文件下载模块104，用于将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮。
详细地，本发明实施例中所述数据的批量下载装置100中所述的各模块在使用时采用与上述图1至图7所述的数据的批量下载方法一样的技术手段，并能够产生相同的技术效果，这里不再赘述。
如图9所示，是本发明实现数据的批量下载方法的电子设备的结构示意图。
所述电子设备可以包括处理器10、存储器11、通信总线12以及通信接口13，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如数据的批量下载程序。
其中，所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(Central Processing Unit，CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(ControlUnit)，利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块(例如执行数据的批量下载程序等)，以及调用存储在所述存储器11内的数据，以执行电子设备的各种功能和处理数据。
所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备的内部存储单元，例如该电子设备的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备的外部存储设备，例如电子设备上配备的插接式移动硬盘、智能存储卡(Smart Media Card，SMC)、安全数字(Secure Digital，SD)卡、闪存卡(Flash Card)等。进一步地，所述存储器11还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备的应用软件及各类数据，例如数据的批量下载程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述通信总线12可以是外设部件互连标准(Peripheral ComponentInterconnect，简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
所述通信接口13用于上述电子设备与其他设备之间的通信，包括网络接口和用户接口。可选地，所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该电子设备与其他电子设备之间建立通信连接。所述用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。
图9仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图9示出的结构并不构成对所述电子设备的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备中的所述存储器11存储的数据的批量下载程序是多个计算机程序的组合，在所述处理器10中运行时，可以实现：
获取目标用户的用户界面，并在所述用户界面创建离线任务表；
通过预设的任务调度服务从所述离线任务表中读取待处理任务；
基于所述待处理任务从预设的数据存储库中分段读取下载数据，采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据；
将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件；
将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮。
具体地，所述处理器10对上述计算机程序的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
进一步地，所述电子设备集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个非易失性计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的，也可以是非易失性的。例如，所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
本发明还提供一种计算机可读存储介质，所述可读存储介质存储有计算机程序，所述计算机程序在被电子设备的处理器所执行时，可以实现：
获取目标用户的用户界面，并在所述用户界面创建离线任务表；
通过预设的任务调度服务从所述离线任务表中读取待处理任务；
基于所述待处理任务从预设的数据存储库中分段读取下载数据，采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据；
将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件；
将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。
Claims (9)
1.一种数据的批量下载方法，其特征在于，所述方法包括：
获取目标用户的用户界面，并在所述用户界面创建离线任务表；
通过预设的任务调度服务从所述离线任务表中读取待处理任务；
基于所述待处理任务从预设的数据存储库中分段读取下载数据；
采用多线程解析法解析所述下载数据，得到解析数据，并封装所述解析数据，得到封装数据，包括：基于预设的数据容量将所述下载数据分为多个数据包；通过多线程读取所述数据包的配置信息，按照数据长度以及数据在所述数据包中的位置分解数据包，获取所述数据包中的数据类型；根据所述数据类型对所述数据包中的数据进行数据量程变换或数据比特位拆分，得到解析数据；确定所述解析数据的存储单元，并附加目标地址以及本地地址，得到封装数据；
将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件；
将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮，其中所述文件存储系统为云端的数据存储库。
2.如权利要求1所述的数据的批量下载方法，其特征在于，所述在所述用户界面创建离线任务表，包括：
获取所述目标用户提供的任务申请；
基于所述任务申请的时间顺序将所述任务申请进行排序，并将所述任务申请以任务表的形式存储于预设的离线数据库中，得到离线任务表。
3.如权利要求1所述的数据的批量下载方法，其特征在于，所述通过预设的任务调度服务从所述离线任务表中读取待处理任务之前，所述方法还包括：
通过预设的项目托管平台拉取源码到本地，并配置Java工具，基于所述源码和所述Java工具构建任务调度项目；
初始化所述任务调度项目的数据库，并在更改所述任务调度项目的配置文件后，编译运行所述任务调度项目，构建任务调度框架，通过所述任务调度框架提供任务调度服务。
4.如权利要求1所述的数据的批量下载方法，其特征在于，所述通过预设的任务调度服务从所述离线任务表中读取待处理任务，包括：
获取所述任务调度服务中的调度中心以及任务执行器；
在所述调度中心中注册所述任务执行器，并通过所述任务执行器执行所述调度中心下发读取任务，读取所述离线任务表中的待处理任务。
5.如权利要求1所述的数据的批量下载方法，其特征在于，所述基于所述待处理任务从预设的数据存储库中分段读取下载数据，包括：
获取所述数据存储库中的数据存储表；
遍历所述数据存储表，获取所述数据存储表中数据的主键递增关系，并根据所述主键递增关系从所述数据存储表中分段读取下载数据。
6.如权利要求1所述的数据的批量下载方法，其特征在于，所述将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件，包括：
获取所述封装数据的数据类型，将所述封装数据以及所述封装数据的数据类型存储入预设的报表；
根据所述报表中存储的数据类型从预设的压缩算法库中选用压缩算法对所述封装数据进行压缩，得到压缩文件。
7.一种数据的批量下载装置，其特征在于，所述装置包括：
任务获取模块，用于获取目标用户的用户界面，并在所述用户界面创建离线任务表，通过预设的任务调度服务从所述离线任务表中读取待处理任务；
数据解析模块，用于基于所述待处理任务从预设的数据存储库中分段读取下载数据，基于预设的数据容量将所述下载数据分为多个数据包；通过多线程读取所述数据包的配置信息，按照数据长度以及数据在所述数据包中的位置分解数据包，获取所述数据包中的数据类型；根据所述数据类型对所述数据包中的数据进行数据量程变换或数据比特位拆分，得到解析数据；确定所述解析数据的存储单元，并附加目标地址以及本地地址，得到封装数据；
文件压缩模块，用于将所述封装数据写入预设的报表，并将所述报表进行压缩，得到压缩文件；
文件下载模块，用于将所述压缩文件上传至预设的文件存储系统，并将所述文件存储系统的存储地址返回所述用户界面，根据所述文件存储系统的存储地址在所述用户界面创建下载按钮，其中所述文件存储系统为云端的数据存储库。
8.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至6中任一项所述的数据的批量下载方法。
9.一种计算机可读存储介质，包括存储数据区和存储程序区，存储数据区存储创建的数据，存储程序区存储有计算机程序；其中，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的数据的批量下载方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210435339.9A CN114697316B (zh) | 2022-04-24 | 2022-04-24 | 数据的批量下载方法、装置、设备及计算机可读介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210435339.9A CN114697316B (zh) | 2022-04-24 | 2022-04-24 | 数据的批量下载方法、装置、设备及计算机可读介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114697316A CN114697316A (zh) | 2022-07-01 |
| CN114697316B true CN114697316B (zh) | 2024-03-12 |
Family
ID=82145696
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210435339.9A Active CN114697316B (zh) | 2022-04-24 | 2022-04-24 | 数据的批量下载方法、装置、设备及计算机可读介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114697316B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115834605B (zh) * | 2023-02-20 | 2023-05-12 | 塔比星信息技术(深圳)有限公司 | 数据采集方法、装置、设备及存储介质 |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106101219A (zh) * | 2016-06-08 | 2016-11-09 | 杭州迪普科技有限公司 | 基于WebService的数据传输方法及装置 |
| CN109547253A (zh) * | 2018-11-28 | 2019-03-29 | 广东海格怡创科技有限公司 | 文件下载方法、装置、计算机设备和存储介质 |
| CN109756581A (zh) * | 2019-03-06 | 2019-05-14 | 珠海金山网络游戏科技有限公司 | 一种文件传输系统及方法、一种计算设备及存储介质 |
| CN110750804A (zh) * | 2019-10-30 | 2020-02-04 | 政采云有限公司 | 一种报表异步下载方法、装置、设备及可读存储介质 |
| CN112199442A (zh) * | 2020-09-29 | 2021-01-08 | 中国平安人寿保险股份有限公司 | 分布式批量下载文件方法、装置、计算机设备及存储介质 |
| CN112509128A (zh) * | 2020-12-21 | 2021-03-16 | 常州微亿智造科技有限公司 | 工业场景3d模型渲染方法和装置 |
| CN112788115A (zh) * | 2020-12-30 | 2021-05-11 | 银盛支付服务股份有限公司 | 一种基于异步处理的文件传输方法及系统 |
| CN113507529A (zh) * | 2021-07-26 | 2021-10-15 | 上海中通吉网络技术有限公司 | 基于Web应用实现文件下载的方法 |
| CN113901120A (zh) * | 2021-10-08 | 2022-01-07 | 广东东华发思特软件有限公司 | 一种大数据批量导出Excel文件的方法及装置 |
| CN113918295A (zh) * | 2021-10-11 | 2022-01-11 | 深圳赛盒科技有限公司 | 调度方法、装置、计算机存储介质及电子设备 |
| CN113923263A (zh) * | 2021-12-16 | 2022-01-11 | 深圳市明源云链互联网科技有限公司 | 离线数据下载方法、装置、设备及计算机可读存储介质 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016172031A1 (en) * | 2015-04-19 | 2016-10-27 | Schlumberger Technology Corporation | Well task scheduling |
| CN110572422A (zh) * | 2018-06-06 | 2019-12-13 | 北京京东尚科信息技术有限公司 | 数据下载方法和装置 |
| CN113407174A (zh) * | 2021-06-24 | 2021-09-17 | 微民保险代理有限公司 | 任务调度方法、装置、设备及存储介质 |
-
2022
- 2022-04-24 CN CN202210435339.9A patent/CN114697316B/zh active Active
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106101219A (zh) * | 2016-06-08 | 2016-11-09 | 杭州迪普科技有限公司 | 基于WebService的数据传输方法及装置 |
| CN109547253A (zh) * | 2018-11-28 | 2019-03-29 | 广东海格怡创科技有限公司 | 文件下载方法、装置、计算机设备和存储介质 |
| CN109756581A (zh) * | 2019-03-06 | 2019-05-14 | 珠海金山网络游戏科技有限公司 | 一种文件传输系统及方法、一种计算设备及存储介质 |
| CN110750804A (zh) * | 2019-10-30 | 2020-02-04 | 政采云有限公司 | 一种报表异步下载方法、装置、设备及可读存储介质 |
| CN112199442A (zh) * | 2020-09-29 | 2021-01-08 | 中国平安人寿保险股份有限公司 | 分布式批量下载文件方法、装置、计算机设备及存储介质 |
| CN112509128A (zh) * | 2020-12-21 | 2021-03-16 | 常州微亿智造科技有限公司 | 工业场景3d模型渲染方法和装置 |
| CN112788115A (zh) * | 2020-12-30 | 2021-05-11 | 银盛支付服务股份有限公司 | 一种基于异步处理的文件传输方法及系统 |
| CN113507529A (zh) * | 2021-07-26 | 2021-10-15 | 上海中通吉网络技术有限公司 | 基于Web应用实现文件下载的方法 |
| CN113901120A (zh) * | 2021-10-08 | 2022-01-07 | 广东东华发思特软件有限公司 | 一种大数据批量导出Excel文件的方法及装置 |
| CN113918295A (zh) * | 2021-10-11 | 2022-01-11 | 深圳赛盒科技有限公司 | 调度方法、装置、计算机存储介质及电子设备 |
| CN113923263A (zh) * | 2021-12-16 | 2022-01-11 | 深圳市明源云链互联网科技有限公司 | 离线数据下载方法、装置、设备及计算机可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114697316A (zh) | 2022-07-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11106459B2 (en) | Distributed parallel build system | |
| CN111897548B (zh) | 前端资源发布方法、装置、电子设备及计算机存储介质 | |
| CN109522020A (zh) | 安卓系统安装包瘦身方法、装置、终端及存储介质 | |
| CN113163009A (zh) | 数据传送方法、装置、电子设备及存储介质 | |
| CN114697316B (zh) | 数据的批量下载方法、装置、设备及计算机可读介质 | |
| CN112631806A (zh) | 异步消息排列及调度方法、装置、电子设备及存储介质 | |
| CN113868528A (zh) | 资讯推荐方法、装置、电子设备及可读存储介质 | |
| CN111522782A (zh) | 文件数据写入方法、装置及计算机可读存储介质 | |
| CN115129753A (zh) | 数据血缘关系分析方法、装置、电子设备及存储介质 | |
| CN113360139A (zh) | 前端框架的集成方法、装置、电子设备及存储介质 | |
| CN117114909A (zh) | 一种核算规则引擎构建方法、装置、设备及存储介质 | |
| CN116820714A (zh) | 一种算力设备的调度方法、装置、设备和存储介质 | |
| CN114816371B (zh) | 消息处理方法、装置、设备及介质 | |
| CN114237829B (zh) | 一种电力设备的数据采集与处理方法 | |
| CN114124878B (zh) | 行情数据下发方法、装置、系统、设备及介质 | |
| CN114611046A (zh) | 数据加载方法、装置、设备及介质 | |
| CN114625512A (zh) | 任务调度方法、装置、电子设备及存储介质 | |
| CN112596717B (zh) | 多数据打包方法、装置、电子设备及计算机可读存储介质 | |
| CN113672483B (zh) | 一种设备日志存储方法、装置、电子设备及介质 | |
| CN113657076B (zh) | 页面操作记录表的生成方法、装置、电子设备及存储介质 | |
| CN113032003B (zh) | 开发文件导出方法、装置、电子设备及计算机存储介质 | |
| CN114860349B (zh) | 数据加载方法、装置、设备及介质 | |
| CN116483974A (zh) | 对话回复筛选方法、装置、设备及存储介质 | |
| CN114742471A (zh) | 任务调度方法、装置、电子设备及可读存储介质 | |
| CN115454610A (zh) | 实时进度反馈方法、装置、电子设备及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |