CN113779452B - 数据处理方法、装置、设备及存储介质 - Google Patents
数据处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113779452B CN113779452B CN202011197930.2A CN202011197930A CN113779452B CN 113779452 B CN113779452 B CN 113779452B CN 202011197930 A CN202011197930 A CN 202011197930A CN 113779452 B CN113779452 B CN 113779452B
- Authority
- CN
- China
- Prior art keywords
- data
- target
- cache
- data source
- source
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title abstract description 33
- 238000012545 processing Methods 0.000 claims abstract description 141
- 238000000034 method Methods 0.000 claims description 52
- 238000004140 cleaning Methods 0.000 claims description 40
- 238000013500 data storage Methods 0.000 claims description 34
- 230000006870 function Effects 0.000 claims description 27
- 238000006243 chemical reaction Methods 0.000 claims description 18
- 230000005540 biological transmission Effects 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 4
- 238000013461 design Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 12
- 230000006837 decompression Effects 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 238000013079 data visualisation Methods 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 3
- 230000002688 persistence Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000010926 purge Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/957—Browsing optimisation, e.g. caching or content distillation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本实施例提供的数据处理方法、装置、设备及存储介质,通过获取带有至少一个目标数据源标识的用户数据展示请求,并根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,然后将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。该技术方案,通过缓存服务层和结点层接口,将目标展示数据传输至数据展示平台,提高了数据展示平台展示数据的稳定性,并提高了用户体验。
Description
技术领域
本申请实施例涉及互联网技术领域,尤其涉及一种数据处理方法、装置、设备及存储介质。
背景技术
随着互联网的快速发展,数据可视化越来越重要,例如,通过股票交易大屏、监控指标大屏、电商交易展示大屏等数据展示大屏进行展示。目前,数据可视化的关键是如何对不同数据源的数据进行处理以保证实现数据的正常展示。
现有技术中,数据处理平台中通常部署一java服务层,利用该java服务层对不同数据来源的数据进行聚合,并按照不同数据展示平台的要求分别对聚合后的不同来源数据进行处理,随后分别传输至对应的数据展示平台进行展示。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:当数据处理平台中部署的java服务层需要处理大量业务时,其需要按照预设的业务处理逻辑依次执行,使得java服务层的处理负担增大,处理效率下降,进而影响数据展示平台的数据稳定性,导致用户体验差。
发明内容
本申请实施例提供一种数据处理方法、装置、设备及存储介质,用以解决java服务层需要处理大量业务时,处理效率下降、数据展示平台的数据稳定性以及用户体验差等问题。
第一方面,本申请实施例提供一种数据处理方法,包括:
获取用户的数据展示请求,所述数据展示请求包括:至少一个目标数据源的标识;
根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据;
将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。
在第一方面的一种可能设计中,所述根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,包括:
针对每个目标数据源,调用所述目标数据源的数据处理服务实例,判断所述缓存服务层中的缓存数据单元中是否存在所述目标数据源的实时缓存数据;
在所述缓存数据单元中存在所述目标数据源的实时缓存数据时,从所述缓存数据单元中获取所述目标展示数据;
在所述缓存数据单元中不存在所述目标数据源的实时缓存数据时,判断所述缓存服务层中的关系型数据单元中是否存在所述目标数据源的历史缓存数据;
在所述关系型数据单元中存在所述目标数据源的历史缓存数据时,从所述关系型数据单元中获取所述目标展示数据;
在所述关系型数据单元中不存在所述目标数据源的历史缓存数据时,从所述缓存服务层中的全量数据单元中获取所述目标展示数据。
在第一方面的另一种可能设计中,在所述根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据之前,所述方法还包括:
根据所述数据展示请求,调用所述缓存服务层中获取接口,获取数据传输接口的使用方法;
所述根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,包括:
根据预设数据处理规则和每个目标数据源的数据处理服务实例,调用所述数据传输接口和所述缓存服务层内的对象获取函数,从缓存服务层中获取所述目标数据源的目标展示数据。
在第一方面的再一种可能设计中,所述方法还包括:
接收第一数据源的数据存储请求,所述数据存储请求包括:第一数据源的标识;
基于所述缓存服务层内的对象存储函数和所述第一数据源的标识,从所述第一数据源接收待存储数据;
根据所述缓存服务层支持的数据存储模式和预设转换规则,将所述待存储数据转换成目标存储类型数据;
存储所述目标存储类型数据。
可选的,在所述将所述目标展示数据通过结点层接口传输至所述目标数据源标识关联的数据展示平台中之前,所述方法还包括:
确定所述目标数据源标识对应的初始数据类型;
根据所述预设转换规则,将所述目标展示数据转换成所述初始数据类型的数据。
在第一方面的又一种可能设计中,所述方法还包括:
接收第二数据源的缓存层接口调用请求,所述缓存层接口调用请求携带所述第二数据源的标识;
根据所述缓存层接口调用请求,在所述缓存服务层,为所述第二数据源的部署数据处理服务实例,所述数据处理服务实例用于支持针对所述第二数据源的数据存储服务和数据读取服务。
在第一方面的再一种可能设计中,所述方法还包括:
检测每个数据源未调用缓存层接口的连续时长;
将所述连续时长大于预设时长的数据源,确定为候选清理数据源,所述候选清理数据源包括:未配置清理规则的第一类候选数据源和配置有清理规则的第二类候选数据源;
对于所述第一类候选数据源,从所述缓存服务层中,删除所述第一类候选数据源的数据处理服务实例和所述第一类候选数据源的历史数据;
对于所述第二类候选数据源,根据预先配置的清理规则,清理所述第二类候选数据源的历史信息。
第二方面,本申请实施例提供一种数据处理装置,包括:获取模块、处理模块和发送模块;
所述获取模块,用于获取用户的数据展示请求,所述数据展示请求包括:至少一个目标数据源的标识;
所述处理模块,用于根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据;
所述发送模块,用于将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。
在第二方面的一种可能设计中,所述处理模块,具体用于:
针对每个目标数据源,调用所述目标数据源的数据处理服务实例,判断所述缓存服务层中的缓存数据单元中是否存在所述目标数据源的实时缓存数据;
在所述缓存数据单元中存在所述目标数据源的实时缓存数据时,从所述缓存数据单元中获取所述目标展示数据;
在所述缓存数据单元中不存在所述目标数据源的实时缓存数据时,判断所述缓存服务层中的关系型数据单元中是否存在所述目标数据源的历史缓存数据;
在所述关系型数据单元中存在所述目标数据源的历史缓存数据时,从所述关系型数据单元中获取所述目标展示数据;
在所述关系型数据单元中不存在所述目标数据源的历史缓存数据时,从所述缓存服务层中的全量数据单元中获取所述目标展示数据。
在第二方面的另一种可能设计中,所述处理模块,还用于在根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据之前,根据所述数据展示请求,调用所述缓存服务层中获取接口,获取数据传输接口的使用方法;
所述处理模块,具体用于根据预设数据处理规则和每个目标数据源的数据处理服务实例,调用所述数据传输接口和所述缓存服务层内的对象获取函数,从缓存服务层中获取所述目标数据源的目标展示数据。
在第二方面的再一种可能设计中,所述获取模块,还用于接收第一数据源的数据存储请求,所述数据存储请求包括:第一数据源的标识;
所述处理模块,还用于:
基于所述缓存服务层内的对象存储函数和所述第一数据源的标识,从所述第一数据源接收待存储数据;
根据所述缓存服务层支持的数据存储模式和预设转换规则,将所述待存储数据转换成目标存储类型数据;
存储所述目标存储类型数据。
在该种可能设计中,所述处理模块,还用于在所述发送模块将所述目标展示数据通过结点层接口传输至所述目标数据源标识关联的数据展示平台中之前,确定所述目标数据源标识对应的初始数据类型,根据所述预设转换规则,将所述目标展示数据转换成所述初始数据类型的数据。
在第二方面的又一种可能设计中,
所述获取模块,还用于接收第二数据源的缓存层接口调用请求,所述缓存层接口调用请求携带所述第二数据源的标识;
所述处理模块,还用于根据所述缓存层接口调用请求,在所述缓存服务层,为所述第二数据源的部署数据处理服务实例,所述数据处理服务实例用于支持针对所述第二数据源的数据存储服务和数据读取服务。
在第二方面的再一种可能设计中,所述处理模块,还用于:
检测每个数据源未调用缓存层接口的连续时长;
将所述连续时长大于预设时长的数据源,确定为候选清理数据源,所述候选清理数据源包括:未配置清理规则的第一类候选数据源和配置有清理规则的第二类候选数据源;
对于所述第一类候选数据源,从所述缓存服务层中,删除所述第一类候选数据源的数据处理服务实例和所述第一类候选数据源的历史数据;
对于所述第二类候选数据源,根据预先配置的清理规则,清理所述第二类候选数据源的历史信息。
第三方面,本申请提供一种电子设备,包括:处理器和存储器;
所述存储器存储计算机执行指令;
所述处理器执行所述计算机程序指令时实现第一方面以及各可能设计提供的方法。
第四方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序指令,当所述计算机程序指令被处理器执行时用于实现第一方面以及各可能设计提供的方法。
本实施例提供的数据处理方法、装置、设备及存储介质,通过获取带有至少一个目标数据源标识的用户数据展示请求,并根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,然后将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。该技术方案利用缓存服务层和结点层接口,将目标展示数据传输至数据展示平台,提高了数据展示平台展示数据的稳定性,提高了用户体验。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1为本申请实施例提供的数据处理方法的架构示意图;
图2为本申请实施例提供的数据处理方法的应用场景示意图;
图3为本申请实施例提供的数据处理方法实施例一的流程图;
图4为本申请实施例提供的数据处理方法实施例二的流程图;
图5为本申请实施例提供的数据处理方法实施例三的流程图;
图6为本申请实施例提供的POST接口设计示意图;
图7为本申请实施例提供的数据处理方法实施例四的流程图;
图8为本申请实施例提供的数据处理方法实施例五的流程图;
图9为本申请实施例提供的数据处理方法实施例六的流程图;
图10为本申请实施例提供的数据处理方法实施例七的流程图;
图11为本申请实施例提供的系统状态检测装置的结构示意图;
图12为本申请实施例提供的电子设备的结构示意图。
通过上述附图,已示出本公开明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围,而是通过参考特定实施例为本领域技术人员说明本公开的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在介绍本申请的实施例之前,首先对本申请的背景技术进行解释说明。
随着互联网的快速发展,数据可视化越来越重要,数据可视化具体为用于展示数据的界面,而这一技术的关键是如何对不同数据源的数据进行处理,以保证实现数据的正常展示。在现有技术中,一般采用一层java服务层,聚合并转化不同系统的应用程序接口(application programming interface,API),并提供给用于展示数据的界面。
然而,当所需处理的数据源非常大的情况时,java服务层处理能力就会下降,具体的,由于java服务层需要按照预设的业务处理逻辑依次执行所需处理的数据源,但是数据源又非常大,使得java服务层的处理负担也相应增大,导致处理效率下降,且由于代码层面会多出很多的业务处理逻辑,很难实现不同数据源的可插拔,例如,当通过某个具体的命令快速的插入或者下线某个具体的服务时,如果所有的小功能或者业务逻辑堆积在一个大的服务里,若想下线某一个具体的小功能,就需要修改代码,如果某个服务的接口关闭,则用于展示数据的界面就会出现类似“404”的图形,即访问页面出现错误、或访问页面不存在,从而给用户以不好的体验。
在上述现有技术存在的问题基础上,图1为本申请实施例提供的数据处理方法的架构示意图,用以解决上述技术问题,该架构示意图可以包括:数据展示平台101、目标数据源102和缓存中间件10。其中,缓存中间件10可以包括:缓存服务层103、结点层接口104和缓存数据库105。
其中,数据展示平台101可以有多个,例如,数据展示平台1至数据展示平台N,其中,N为大于或等于1的正整数。可选的,数据展示平台101可以是股票交易大屏、监控指标大屏、电商交易展示大屏等数据展示大屏,也可以是手机、电脑等具有显示功能的终端。
目标数据源102也可以有多个,可以分别是不同的数据来源,例如,目标数据源1至目标数据源n,其中,n为大于或等于1的正整数。
缓存服务层103可以包括存储服务API,结点层接口104可以通过node-API实现。
具体的,缓存服务层103通过存储服务API接收来自不同的目标数据源的数据,并将每个数据源的数据分别存储至缓存数据库105中,当用户发出数据展示请求时,缓存服务层103从缓存数据库105中获取对应数据源的目标展示数据,并将该目标展示数据通过结点层接口104传输至对应的数据展示平台101。
在图1的基础上,图2为本申请实施例提供的数据处理方法的应用场景示意图,对图1所示的架构进行详细说明。
可选的,该应用场景示意图中以4个不同的数据展示平台101和4个不同的目标数据源102为例进行说明。本申请实施例并不对数据展示平台101的数量和目标数据源102的数量进行限定。
在该应用场景中,上述数据展示平台101可以包括:数字指挥室大屏、公关大屏、手机客户端、通用管理接口(universal management port,UMP);目标数据源102可以包括:数据源1、数据源2、数据源3、数据源4。缓存服务层103可以包括:API服务、管理端。缓存数据库105可以包括:与缓存服务单元分别连接的缓存数据单元、关系型数据单元和全量数据单元。
其中,管理端可以通过API服务对系统中数据源的监控信息、日志信息和黑白名单进行管理。
可选的,不同数据源通过调用API服务的POST、GET接口,可以实现数据的动态添加。
可选的,当接收到用户展示请求时,API服务通过调用缓存服务单元获取储存在缓存数据库105中的数据,通过POST接口传输给对应的数据展示平台101进行显示。具体的,API服务可以按照一定的规则从缓存数据单元、基于定时任务从关系型数据单元、从全量数据单元中的任意一个单元中获取请求的数据。
在实际应用中,缓存数据单元可以是REDIS,关系型数据单元可以是MYSQL持久化层,全量数据单元可以是HBASE开源数据库,API服务可以是java服务层。
本申请实施例针对现有技术中存在的java服务层需要处理大量业务时,其处理负担增大,处理效率下降,进而影响数据展示平台的数据稳定性,导致用户体验差的问题,发明人的技术构思过程如下:发明人发现基于增加结点层接口和缓存服务层,提供单一的高可用及高稳定性的读数据服务,以提高数据展示平台的数据稳定性,并进一步提高用户体验。
基于上述技术构思,本申请提供了一种数据处理方法,通过获取带有至少一个目标数据源标识的用户数据展示请求,并根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,然后将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。该技术方案中,通过利用缓存服务层和结点层接口,将目标展示数据传输至数据展示平台,提高了java服务层的处理效率,实现了在大数量的数据展示请求下,保证了数据展示平台的数据稳定性,进一步改善了用户体验。
下面以图1所示的应用场景,以及图2所示的原理图,通过具体实施例对本申请的技术方案进行详细说明。需要说明的是,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
图3为本申请实施例提供的数据处理方法实施例一的流程图。如图3所示,该方法可以包括如下步骤:
步骤31、获取用户的数据展示请求,数据展示请求包括:至少一个目标数据源的标识。
在本步骤中,当用户需要在数据展示平台中显示想要的目标展示数据时,缓存中间件需要先获取用户输入的数据展示请求。
其中,数据展示请求包括:至少一个目标数据源的标识,该标识为目标数据源的唯一标识,而需要在数据展示平台中显示的目标展示数据是根据该唯一标识获取到的,因而,需要确保不同的目标数据源的唯一标识不同。
可选的,该目标数据源的标识用于区分不同的数据源,而用户需要在数据展示平台中显示想要的目标展示数据,则该数据展示请求必须包含至少一个目标数据源的标识。
步骤32、根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据。
在本步骤中,用户的数据展示请求中携带有目标数据源的标识,因而,可以基于携带的目标数据源的标识,对数据展示请求进行处理。具体的,通过预设数据处理规则和每个目标数据源的数据处理服务实例进行处理,使得从缓存服务单元中,获取到该目标数据源的目标展示数据。
其中,预设数据处理规则为接收到数据展示请求后,缓存中间件调用不同数据库的顺序。具体的,在缓存数据库中的缓存数据单元中,获取目标数据源的实时缓存数据;若没有找到,则在缓存数据库中的关系型数据单元中获取历史缓存数据;若没有找到,则在缓存数据库中的全量数据单元中获取目标展示数据。每个目标数据源的数据处理服务实例都对应具有唯一标识的每个目标数据源,数据展示平台的页面是根据不同数据源的唯一标识去生成的,因为页面是数据驱动展示的,同一个API服务的接口只有一个,但是服务却有上百个,即同一个接口,可以部署上百个数据处理实例。
步骤33、将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。
在本步骤中,通过上述方式,已经获取到了用户的数据展示请求相关的目标展示数据,此时为了使用户在数据展示平台中观测到,需要将目标展示数据通过结点层接口传输至目标数据源标识关联的数据展示平台中。
其中,结点层接口为单一接口服务,即node-API,以使得高并发优势得以体现,具体的,若结点层接口为多接口服务时,各个目标展示数据通过结点层接口传输至数据展示平台时,可能出现夯住的现象,但是单一接口服务运行时,就会避免这种情况。
本实施例提供的数据处理方法,通过获取带有至少一个目标数据源标识的用户数据展示请求,并根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,然后将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。通过利用缓存服务层和结点层接口,将目标展示数据传输至数据展示平台,不仅提高了java服务层的处理效率,而且提高了数据展示平台展示数据的稳定性。
在上述实施例的基础上,图4为本申请实施例提供的数据处理方法实施例二的流程图。如图4所示,上述步骤32可以通过如下步骤实现:
步骤41、针对每个目标数据源,调用目标数据源的数据处理服务实例,判断缓存服务层中的缓存数据单元中是否存在目标数据源的实时缓存数据;若是,执行步骤42,若否,执行步骤43。
在本步骤中,缓存服务层指API服务,在缓存服务层的缓存数据单元中,一般存储有各个目标数据源的REDIS实时缓存数据,即存储有各个目标数据源的常被调用的缓存数据。
示例性的,在获得包含至少一个目标数据源的标识的数据展示请求之后,根据该标识,会最先请求缓存服务层,在缓存服务层的缓存数据单元中查找与该标识对应的目标数据源的实时缓存数据。
步骤42、从缓存数据单元中获取目标展示数据。
在本步骤中,在缓存数据单元中存在目标数据源的实时缓存数据时,根据各个数据展示请求的标识,在缓存数据单元中查找带有标识的实时缓存数据,此时会出现两种情况,在缓存数据单元中存在,或者不存在标识对应的目标数据源的实时缓存数据。
可选的,若缓存数据单元中存在标识对应的实时缓存数据,则从缓存数据单元中获取目标展示数据,若缓存数据单元中不存在标识对应的实时缓存数据,则执行下述步骤43。
步骤43、判断缓存服务层中的关系型数据单元中是否存在目标数据源的历史缓存数据;若是,执行步骤44,若否,执行步骤45。
在本步骤中,在缓存数据单元中不存在目标数据源的实时缓存数据时,即在缓存数据单元中没有找到该标识对应的实时缓存数据,则根据该标识,在缓存服务层中的关系型数据单元中继续查找,该关系型数据单元为MYSQL持久化层,其中,MYSQL持久化层存储的数据为历史缓存数据,可以为近30天内存储服务API展示的内容。此处对时间段为30天只做举例。
可选的,若近30天内,在关系型数据单元调用该标识对应的历史缓存数据,此时也会出现两种情况,在关系型数据单元中存在,或者不存在标识对应的目标数据源的历史缓存数据。
步骤44、从关系型数据单元中获取目标展示数据。
在本步骤中,在关系型数据单元中存在目标数据源的历史缓存数据时,若关系型数据单元中存在标识对应的历史缓存数据,则从关系型数据单元中获取目标展示数据,若关系型数据单元中不存在标识对应的历史缓存数据,则执行下述步骤45。
步骤45、从缓存服务层中的全量数据单元中获取目标展示数据。
在本步骤中,在关系型数据单元中不存在目标数据源的历史缓存数据时,也即在上述缓存数据单元和关系型数据单元中,均未找到该标识对应的目标展示数据,就需要调用缓存服务层中的全量数据单元,在全量数据单元中获取该标识对应的目标展示数据。
其中,全量数据单元为HBASE开源数据库,存储有大量数据,也就是数据的全量。
本实施例提供的数据处理方法,通过针对每个目标数据源,调用目标数据源的数据处理服务实例,判断缓存服务层中的缓存数据单元中是否存在目标数据源的实时缓存数据,在缓存数据单元中存在目标数据源的实时缓存数据,若不存在目标数据源的实时缓存数据时,在缓存服务层中的关系型数据单元中获取目标数据源的历史缓存数据,若在关系型数据单元不存在目标数据源的历史缓存数据时,从缓存服务层中的全量数据单元中获取目标展示数据。通过在缓存服务层中各个数据单元按预设数据处理规则和每个目标数据源的数据处理服务实例,查找目标展示数据,为实现数据展示平台数据的稳定性提供了基础,进一步地,避免了用户体验不佳的情况。
在上述实施例的基础上,图5为本申请实施例提供的数据处理方法实施例三的流程图。如图5所示,在步骤32之前,还包括如下步骤:
步骤51、根据数据展示请求,调用缓存服务层中获取接口,获取数据传输接口的使用方法。
在本步骤中,GET接口相当于接口文档,当请求访问的时候,调用获取接口,即GET接口,获取POST接口的使用方法。
可选的,存储服务API对外接口为POST接口,具体的,图6为本申请实施例提供的POST接口设计示意图,如图6所示,POST接口分为命令和数据两部分,命令包括:设置(set)、获取(get)、删除(del)、删除哈希详情(delHashDetail)、获取哈希详情(gelHashDetail)、设置对象(setObject)、设置哈希详情(setHashDetail);数据是以键名-键值(Key-Value)模式存储的高可用性分布式数据,具体的,K-V模式包括:键名key、键值value,即,对象数据类型的数据,其可以和其他类型的数据进行任意转换。
其中,命令部分可以根据需要不断的去丰富和添加,从而支持更多的功能;数据部分是一个Object类型的List,比如“字符串-对象”组合、“对象-字符串”组合等等。若限定List的类型,那么接口操作性就极大的受到限制,比如List<String>只支持字符串数组,
相应的,上述步骤32可以通过如下步骤实现:
步骤52、根据预设数据处理规则和每个目标数据源的数据处理服务实例,调用数据传输接口和缓存服务层内的对象获取函数,从缓存服务层中获取目标数据源的目标展示数据。
本申请采用Object类型的List,可以被不同语言的系统调用,跨语言的系统只需要利用对象简谱(JavaScript Object Notation,JSON)跟缓存中间件通信即可,此处具体使用getObject函数从缓存服务层中获取目标数据源的目标展示数据。
本实施例提供的数据处理方法,根据数据展示请求,调用缓存服务层中获取接口,获取数据传输接口的使用方法,再根据预设数据处理规则和每个目标数据源的数据处理服务实例,调用数据传输接口和缓存服务层内的对象获取函数,从缓存服务层中获取目标数据源的目标展示数据,为调用缓存服务层中的目标数据源提供了实现基础。
在上述实施例的基础上,图7为本申请实施例提供的数据处理方法实施例四的流程图。如图7所示,该方法还包括如下步骤:
步骤71、接收第一数据源的数据存储请求,数据存储请求包括:第一数据源的标识。
在本步骤中,当用户需要在数据展示平台中显示想要的目标展示数据时,首先需要在缓存服务层中有对应的目标数据源。
示例性的,接收第一数据源的数据存储请求,该第一数据源为当前的一个数据存储请求,还可以有其他数据源的数据存储请求,其中,数据存储请求包括:第一数据源的标识,该标识为第一数据源的唯一标识,为区别于不同的数据源的数据存储请求。
步骤72、基于缓存服务层内的对象存储函数和第一数据源的标识,从第一数据源接收待存储数据。
在本步骤中,缓存服务层内的对象存储函数为setObject函数,存储服务API的内部会封装该函数,即不同目标数据源会通过存储服务API存储待存储数据。
可选的,为了便于后续对接收到的待存储数据进行快速调用,需要在存储时基于上述函数,以及该数据源的标识,共同确定从该数据源接收待存储数据。
步骤73、根据缓存服务层支持的数据存储模式和预设转换规则,将待存储数据转换成目标存储类型数据。
在本步骤中,由于缓存服务层支持K-V模式的高可用性分布式存储,其中V以字符串的形式存在,但是在具体业务时,需要展示出对象的形式,因此,在待存储数据在存储时,会将不同格式的待存储数据转换成字符串,即目标存储类型数据。
步骤74、存储目标存储类型数据。
在本步骤中,将目标存储类型数据存储至缓存数据库,即JIMDB服务。
本申请实施例提供的数据处理方法,通过接收带有第一数据源标识的第一数据源的数据存储请求,并基于缓存服务层内的对象存储函数和第一数据源的标识,从第一数据源接收待存储数据,再根据缓存服务层支持的数据存储模式和预设转换规则,将待存储数据转换成目标存储类型数据,并存储目标存储类型数据。通过数据存储模式和预设转换规则,将待存储数据存储至缓存服务层,为实现数据展示平台数据的稳定性提供了基础。
图8为本申请实施例提供的数据处理方法实施例五的流程图。如图8所示,在上述步骤33之前还包括如下步骤:
步骤81、确定目标数据源标识对应的初始数据类型。
在本步骤中,在获取每个目标数据源的目标展示数据时,先判断目标存储类型数据的类型是数组、对象或者字符串,为了便于利用不同的解压规则进行解压。
步骤82、根据预设转换规则,将目标展示数据转换成初始数据类型的数据。
在本步骤中,预设转换规则为缓存服务层预先设置的不同类型的解压规则。将不同的目标存储类型数据按照不同的解压规则进行解压,以返回至最初始时储存的格式。
可选的,若初始数据类型为数组格式,则按照对应的解压规则将字符串格式的数据转换为数组格式。
结合本实施例以及上述实施例,目标展示数据的存储和读取的转换形式对用户是无感知,可根据用户随性的模式存储,不受JIMDB、REDIS、MYSQL等存储工具规则的限制,由缓存中间件执行即可。
本申请实施例提供的数据处理方法,通过确定目标数据源标识对应的初始数据类型,根据预设转换规则,将目标展示数据转换成初始数据类型的数据。使得目标展示数据转换成初始数据类型,更加显著的提升了目标展示数据处理效率,避免了目标展示数据的二次转换。
图9为本申请实施例提供的数据处理方法实施例六的流程图。如图9所示,本申请实施例提供的方法还包括如下步骤:
步骤91、接收第二数据源的缓存层接口调用请求,缓存层接口调用请求携带所述第二数据源的标识。
在本步骤中,当接收到第二数据源的缓存层接口调用请求,该数据源为新的数据源,该数据源的存层接口调用请求携带有标识,该标识用于区别用不同数据源的唯一标识。
步骤92、根据缓存层接口调用请求,在缓存服务层,为第二数据源的部署数据处理服务实例,数据处理服务实例用于支持针对第二数据源的数据存储服务和数据读取服务。
在本步骤中,针对带有唯一标识的第二数据源的缓存层接口调用请求,通过数据处理服务实例,具体的,通过setObject函数和getObject函数以支持对该数据源的数据存储服务和数据读取服务,此处不再赘述。
本申请实施例提供的数据处理方法,接收第二数据源的缓存层接口调用请求,缓存层接口调用请求携带所述第二数据源的标识,根据缓存层接口调用请求,在缓存服务层,为第二数据源的部署数据处理服务实例,数据处理服务实例用于支持针对第二数据源的数据存储服务和数据读取服务。不同数据源通过调用该接口,以实现对不同目标数据的动态添加。
在上述实施例的基础上,图10为本申请实施例提供的数据处理方法实施例七的流程图。如图10所示,本申请实施例提供的方法还包括如下步骤:
步骤101、检测每个数据源未调用缓存层接口的连续时长。
在本步骤中,检测所有数据源未调用缓存层接口的连续时长,即,各个数据源从上一次调用该接口到现在的时长。
步骤102、将连续时长大于预设时长的数据源,确定为候选清理数据源,候选清理数据源包括:未配置清理规则的第一类候选数据源和配置有清理规则的第二类候选数据源。
在本步骤中,预设时长可以是一个月,此处只做举例,若检测到有的数据源从上一次调用该接口到现在的时长大于一个月,则该类数据源称为候选清理数据源。
其中,该候选清理数据源分为两类,第一类候选数据源为系统默认该数据源下线的数据源,即用户未对该数据源配置清理规则,此时执行步骤103;第二类数据源为用户对该数据源配置清理规则的数据源,此时执行步骤104。
可选的,该清理规则由用户从管理端配置。
对于第一类候选数据源,执行步骤103、从缓存服务层中,删除第一类候选数据源的数据处理服务实例和第一类候选数据源的历史数据。
在本步骤中,针对第一类候选数据源,系统默认自动清除该数据源的历史数据以及数据处理服务实例。
对于第二类候选数据源,执行步骤104、根据预先配置的清理规则,清理第二类候选数据源的历史信息。
在本步骤中,针对第二类候选数据源,系统根据用户的指示,对该数据源不作处理,将未调用该数据源的时间调整为0,返回步骤101。
本申请实施例提供的数据处理方法,检测每个数据源未调用缓存层接口的连续时长,将连续时长大于预设时长的数据源,确定为候选清理数据源,将候选清理数据源按照用户配置规则合理进行处理,实现了存储空间的合理化运用,提高了用户体验。
图11为本申请实施例提供的系统状态检测装置的结构示意图。如图11所示,该装置包括:获取模块111、处理模块112和发送模块113。
获取模块111,用于获取用户的数据展示请求,数据展示请求包括:至少一个目标数据源的标识;
处理模块112,用于根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据;
发送模块113,用于将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中。
在本申请实施例一种可能设计中,处理模块112,具体用于:
针对每个目标数据源,调用目标数据源的数据处理服务实例,判断缓存服务层中的缓存数据单元中是否存在目标数据源的实时缓存数据;
在缓存数据单元中存在目标数据源的实时缓存数据时,从缓存数据单元中获取目标展示数据;
在缓存数据单元中不存在目标数据源的实时缓存数据时,判断缓存服务层中的关系型数据单元中是否存在目标数据源的历史缓存数据;
在关系型数据单元中存在目标数据源的历史缓存数据时,从关系型数据单元中获取目标展示数据;
在关系型数据单元中不存在目标数据源的历史缓存数据时,从缓存服务层中的全量数据单元中获取目标展示数据。
在本申请实施例另一种可能设计中,处理模块112,还用于在根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据之前,根据数据展示请求,调用缓存服务层中获取接口,获取数据传输接口的使用方法;
处理模块112,具体用于根据预设数据处理规则和每个目标数据源的数据处理服务实例,调用数据传输接口和缓存服务层内的对象获取函数,从缓存服务层中获取目标数据源的目标展示数据。
在本申请实施例再一种可能设计中,获取模块111,还用于接收第一数据源的数据存储请求,数据存储请求包括:第一数据源的标识;
处理模块112,还用于:
基于缓存服务层内的对象存储函数和第一数据源的标识,从第一数据源接收待存储数据;
根据缓存服务层支持的数据存储模式和预设转换规则,将待存储数据转换成目标存储类型数据;
存储目标存储类型数据。
在该种可能设计中,处理模块112,还用于在发送模块113将目标展示数据通过结点层接口传输至目标数据源标识关联的数据展示平台中之前,确定目标数据源标识对应的初始数据类型,根据预设转换规则,将目标展示数据转换成初始数据类型的数据。
在本申请实施例又一种可能设计中,获取模块111,还用于接收第二数据源的缓存层接口调用请求,缓存层接口调用请求携带第二数据源的标识;
处理模块112,还用于根据缓存层接口调用请求,在缓存服务层,为第二数据源的部署数据处理服务实例,数据处理服务实例用于支持针对第二数据源的数据存储服务和数据读取服务。
在本申请实施例再一种可能设计中,处理模块112,还用于:
检测每个数据源未调用缓存层接口的连续时长;
将连续时长大于预设时长的数据源,确定为候选清理数据源,候选清理数据源包括:未配置清理规则的第一类候选数据源和配置有清理规则的第二类候选数据源;
对于第一类候选数据源,从缓存服务层中,删除第一类候选数据源的数据处理服务实例和第一类候选数据源的历史数据;
对于第二类候选数据源,根据预先配置的清理规则,清理第二类候选数据源的历史信息。
本实施例提供的数据处理装置,可用于执行上述实施例中的方案,其实现原理和技术效果类似,在此不再赘述。
需要说明的是,应理解以上装置的各个模块的划分仅仅是一种逻辑功能的划分,实际实现时可以全部或部分集成到一个物理实体上,也可以物理上分开。且这些模块可以全部以软件通过处理元件调用的形式实现;也可以全部以硬件的形式实现;还可以部分模块通过处理元件调用软件的形式实现,部分模块通过硬件的形式实现。例如,确定模块可以为单独设立的处理元件,也可以集成在上述装置的某一个芯片中实现,此外,也可以以程序代码的形式存储于上述装置的存储器中,由上述装置的某一个处理元件调用并执行以上确定模块的功能。其它模块的实现与之类似。此外这些模块全部或部分可以集成在一起,也可以独立实现。这里的处理元件可以是一种集成电路,具有信号的处理能力。在实现过程中,上述方法的各步骤或以上各个模块可以通过处理器元件中的硬件的集成逻辑电路或者软件形式的指令完成。
图12为本申请实施例提供的电子设备的结构示意图。如图12所示,该设备可以包括:处理器121、存储器122、系统总线123和收发器124。
处理器121执行存储器存储的计算机执行指令,使得处理器121执行上述实施例中的方案。处理器121可以是通用处理器,包括中央处理器CPU、网络处理器(networkprocessor,NP)等;还可以是数字信号处理器DSP、专用集成电路ASIC、现场可编程门阵列FPGA或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
存储器122和收发器124通过系统总线123与处理器121连接并完成相互间的通信,存储器122用于存储计算机程序指令。
系统总线123可以是外设部件互连标准(peripheral component interconnect,PCI)总线或扩展工业标准结构(extended industry standard architecture,EISA)总线等。系统总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。收发器用于实现数据库访问装置与其他设备(例如客户端、读写库和只读库)之间的通信。存储器可能包含随机存取存储器(randomaccess memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
收发器124用于和其他设备进行通信。可选的,在硬件实现上,上述图11所示实施例中的获取模块111和发送模块113对应于本实施例中的收发器124,该收发器124构成通信接口。
本申请实施例提供的电子设备,可用于执行上述实施例中的方案,其实现原理和技术效果类似,在此不再赘述。
本申请实施例还提供一种运行指令的芯片,该芯片用于执行上述实施例中的方案。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机指令,当该计算机指令在计算机上运行时,使得计算机执行上述实施例的方案。
上述的计算机可读存储介质,上述可读存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。可读存储介质可以是通用或专用计算机能够存取的任何可用介质。
可选的,将可读存储介质耦合至处理器,从而使处理器能够从该可读存储介质读取信息,且可向该可读存储介质写入信息。当然,可读存储介质也可以是处理器的组成部分。处理器和可读存储介质可以位于专用集成电路(Application Specific IntegratedCircuits,ASIC)中。当然,处理器和可读存储介质也可以作为分立组件存在于设备中。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求书来限制。
Claims (14)
1.一种数据处理方法,其特征在于,包括:
获取用户的数据展示请求,所述数据展示请求包括:至少一个目标数据源的标识;
根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据;
将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中;
所述根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,包括:
针对每个目标数据源,调用所述目标数据源的数据处理服务实例,判断所述缓存服务层中的缓存数据单元中是否存在所述目标数据源的实时缓存数据;
在所述缓存数据单元中存在所述目标数据源的实时缓存数据时,从所述缓存数据单元中获取所述目标展示数据;
在所述缓存数据单元中不存在所述目标数据源的实时缓存数据时,判断所述缓存服务层中的关系型数据单元中是否存在所述目标数据源的历史缓存数据;
在所述关系型数据单元中存在所述目标数据源的历史缓存数据时,从所述关系型数据单元中获取所述目标展示数据;
在所述关系型数据单元中不存在所述目标数据源的历史缓存数据时,从所述缓存服务层中的全量数据单元中获取所述目标展示数据。
2.根据权利要求1所述的方法,其特征在于,在所述根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据之前,所述方法还包括:
根据所述数据展示请求,调用所述缓存服务层中获取接口,获取数据传输接口的使用方法;
所述根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据,包括:
根据预设数据处理规则和每个目标数据源的数据处理服务实例,调用所述数据传输接口和所述缓存服务层内的对象获取函数,从缓存服务层中获取所述目标数据源的目标展示数据。
3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
接收第一数据源的数据存储请求,所述数据存储请求包括:第一数据源的标识;
基于所述缓存服务层内的对象存储函数和所述第一数据源的标识,从所述第一数据源接收待存储数据;
根据所述缓存服务层支持的数据存储模式和预设转换规则,将所述待存储数据转换成目标存储类型数据;
存储所述目标存储类型数据。
4.根据权利要求3所述的方法,其特征在于,在所述将所述目标展示数据通过结点层接口传输至所述目标数据源标识关联的数据展示平台中之前,所述方法还包括:
确定所述目标数据源标识对应的初始数据类型;
根据所述预设转换规则,将所述目标展示数据转换成所述初始数据类型的数据。
5.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
接收第二数据源的缓存层接口调用请求,所述缓存层接口调用请求携带所述第二数据源的标识;
根据所述缓存层接口调用请求,在所述缓存服务层,为所述第二数据源的部署数据处理服务实例,所述数据处理服务实例用于支持针对所述第二数据源的数据存储服务和数据读取服务。
6.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
检测每个数据源未调用缓存层接口的连续时长;
将所述连续时长大于预设时长的数据源,确定为候选清理数据源,所述候选清理数据源包括:未配置清理规则的第一类候选数据源和配置有清理规则的第二类候选数据源;
对于所述第一类候选数据源,从所述缓存服务层中,删除所述第一类候选数据源的数据处理服务实例和所述第一类候选数据源的历史数据;
对于所述第二类候选数据源,根据预先配置的清理规则,清理所述第二类候选数据源的历史信息。
7.一种数据处理装置,其特征在于,包括:获取模块、处理模块和发送模块;
所述获取模块,用于获取用户的数据展示请求,所述数据展示请求包括:至少一个目标数据源的标识;
所述处理模块,用于根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据;
所述发送模块,用于将每个目标数据源的目标展示数据通过结点层接口传输至对应目标数据源标识关联的数据展示平台中;
所述处理模块,具体用于:
针对每个目标数据源,调用所述目标数据源的数据处理服务实例,判断所述缓存服务层中的缓存数据单元中是否存在所述目标数据源的实时缓存数据;
在所述缓存数据单元中存在所述目标数据源的实时缓存数据时,从所述缓存数据单元中获取所述目标展示数据;
在所述缓存数据单元中不存在所述目标数据源的实时缓存数据时,判断所述缓存服务层中的关系型数据单元中是否存在所述目标数据源的历史缓存数据;
在所述关系型数据单元中存在所述目标数据源的历史缓存数据时,从所述关系型数据单元中获取所述目标展示数据;
在所述关系型数据单元中不存在所述目标数据源的历史缓存数据时,从所述缓存服务层中的全量数据单元中获取所述目标展示数据。
8.根据权利要求7所述的装置,其特征在于,所述处理模块,还用于在根据预设数据处理规则和每个目标数据源的数据处理服务实例,分别从缓存服务层中获取每个目标数据源的目标展示数据之前,根据所述数据展示请求,调用所述缓存服务层中获取接口,获取数据传输接口的使用方法;
所述处理模块,具体用于根据预设数据处理规则和每个目标数据源的数据处理服务实例,调用所述数据传输接口和所述缓存服务层内的对象获取函数,从缓存服务层中获取所述目标数据源的目标展示数据。
9.根据权利要求7或8所述的装置,其特征在于,所述获取模块,还用于接收第一数据源的数据存储请求,所述数据存储请求包括:第一数据源的标识;
所述处理模块,还用于:
基于所述缓存服务层内的对象存储函数和所述第一数据源的标识,从所述第一数据源接收待存储数据;
根据所述缓存服务层支持的数据存储模式和预设转换规则,将所述待存储数据转换成目标存储类型数据;
存储所述目标存储类型数据。
10.根据权利要求9所述的装置,其特征在于,所述处理模块,还用于在所述发送模块将所述目标展示数据通过结点层接口传输至所述目标数据源标识关联的数据展示平台中之前,确定所述目标数据源标识对应的初始数据类型,根据所述预设转换规则,将所述目标展示数据转换成所述初始数据类型的数据。
11.根据权利要求7或8所述的装置,其特征在于,
所述获取模块,还用于接收第二数据源的缓存层接口调用请求,所述缓存层接口调用请求携带所述第二数据源的标识;
所述处理模块,还用于根据所述缓存层接口调用请求,在所述缓存服务层,为所述第二数据源的部署数据处理服务实例,所述数据处理服务实例用于支持针对所述第二数据源的数据存储服务和数据读取服务。
12.根据权利要求7或8所述的装置,其特征在于,所述处理模块,还用于:
检测每个数据源未调用缓存层接口的连续时长;
将所述连续时长大于预设时长的数据源,确定为候选清理数据源,所述候选清理数据源包括:未配置清理规则的第一类候选数据源和配置有清理规则的第二类候选数据源;
对于所述第一类候选数据源,从所述缓存服务层中,删除所述第一类候选数据源的数据处理服务实例和所述第一类候选数据源的历史数据;
对于所述第二类候选数据源,根据预先配置的清理规则,清理所述第二类候选数据源的历史信息。
13.一种电子设备,包括处理器、存储器及存储在所述存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如上述权利要求1-6任一项所述的方法。
14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如权利要求1-6任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011197930.2A CN113779452B (zh) | 2020-10-30 | 2020-10-30 | 数据处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011197930.2A CN113779452B (zh) | 2020-10-30 | 2020-10-30 | 数据处理方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113779452A CN113779452A (zh) | 2021-12-10 |
CN113779452B true CN113779452B (zh) | 2024-04-16 |
Family
ID=78835162
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011197930.2A Active CN113779452B (zh) | 2020-10-30 | 2020-10-30 | 数据处理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113779452B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114637777A (zh) * | 2022-02-17 | 2022-06-17 | 深圳市双合电气股份有限公司 | 一种前后台系统数据实时交换处理方法和系统 |
CN115438279B (zh) * | 2022-08-10 | 2023-06-27 | 珠海金智维信息科技有限公司 | 数据可视化方法、装置、电子设备及介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306573A (zh) * | 2015-11-03 | 2016-02-03 | 浙江格林蓝德信息技术有限公司 | 医学影像原始数据调度方法和医学影像传输系统 |
CN107085574A (zh) * | 2016-02-15 | 2017-08-22 | 阿里巴巴集团控股有限公司 | 一种页面数据处理方法及服务器 |
CN108833543A (zh) * | 2018-06-15 | 2018-11-16 | 北京恒合信业技术股份有限公司 | 一种加油站在线监控网络平台 |
CN108959291A (zh) * | 2017-05-19 | 2018-12-07 | 腾讯科技(深圳)有限公司 | 查询方法及相关装置 |
CN109831244A (zh) * | 2019-03-19 | 2019-05-31 | 福建紫辰信息科技有限公司 | 一种基于一体机的卫星数据实时可控传输方法及系统 |
CN111104454A (zh) * | 2019-12-19 | 2020-05-05 | 国网湖南省电力有限公司 | 面向云上电网监视需求的多维度数据处理方法、系统及介质 |
WO2020147334A1 (zh) * | 2019-01-16 | 2020-07-23 | 苏宁云计算有限公司 | 基于ignite缓存架构的数据查询方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11240126B2 (en) * | 2019-04-11 | 2022-02-01 | Elasticsearch B.V. | Distributed tracing for application performance monitoring |
-
2020
- 2020-10-30 CN CN202011197930.2A patent/CN113779452B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306573A (zh) * | 2015-11-03 | 2016-02-03 | 浙江格林蓝德信息技术有限公司 | 医学影像原始数据调度方法和医学影像传输系统 |
CN107085574A (zh) * | 2016-02-15 | 2017-08-22 | 阿里巴巴集团控股有限公司 | 一种页面数据处理方法及服务器 |
CN108959291A (zh) * | 2017-05-19 | 2018-12-07 | 腾讯科技(深圳)有限公司 | 查询方法及相关装置 |
CN108833543A (zh) * | 2018-06-15 | 2018-11-16 | 北京恒合信业技术股份有限公司 | 一种加油站在线监控网络平台 |
WO2020147334A1 (zh) * | 2019-01-16 | 2020-07-23 | 苏宁云计算有限公司 | 基于ignite缓存架构的数据查询方法及系统 |
CN109831244A (zh) * | 2019-03-19 | 2019-05-31 | 福建紫辰信息科技有限公司 | 一种基于一体机的卫星数据实时可控传输方法及系统 |
CN111104454A (zh) * | 2019-12-19 | 2020-05-05 | 国网湖南省电力有限公司 | 面向云上电网监视需求的多维度数据处理方法、系统及介质 |
Non-Patent Citations (1)
Title |
---|
刘思晗 ; 唐晨海 ; 张龙庆 ; 陈哲 ; .海洋站观测资料监控可视化及系统设计研究.海洋预报.2017,(01),全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN113779452A (zh) | 2021-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11979300B2 (en) | Standardized format for containerized applications | |
CN110019080B (zh) | 数据访问方法和装置 | |
US8856365B2 (en) | Computer-implemented method, computer system and computer readable medium | |
CN113779452B (zh) | 数据处理方法、装置、设备及存储介质 | |
EP3035216A1 (en) | Cloud bursting a database | |
US11438423B1 (en) | Method, device, and program product for transmitting data between multiple processes | |
CN113961510B (zh) | 一种文件处理方法、装置、设备及存储介质 | |
CN111381820A (zh) | 一种基于gui自动生成api的方法及装置 | |
CN112100152A (zh) | 业务数据处理方法、系统、服务器和可读存储介质 | |
CN114244654B (zh) | 一种url的转发方法、装置、设备及计算机存储介质 | |
US11416283B2 (en) | Method and apparatus for processing data in process of expanding or reducing capacity of stream computing system | |
CN112926002A (zh) | 一种服务请求的处理方法及装置 | |
CN116647552A (zh) | 异构微服务集群中服务处理方法及系统、终端及存储介质 | |
CN111131497B (zh) | 文件传输方法、装置、电子设备及存储介质 | |
CN110688201B (zh) | 一种日志管理方法及相关设备 | |
CN114090127A (zh) | 电子设备及其配置文件的加载方法和介质 | |
CN112068899A (zh) | 插件加载方法、装置、电子设备及存储介质 | |
CN113556370A (zh) | 一种服务调用方法和装置 | |
CN111061468A (zh) | 一种映射方法及装置 | |
CN116594848B (zh) | 一种任务监控方法、装置、设备、终端设备及存储介质 | |
CN111314457B (zh) | 设置虚拟私有云的方法和装置 | |
CN114168652A (zh) | 一种智能合约交互方法、装置、设备以及存储介质 | |
CN116561203A (zh) | 一种数据访问方法及其数据访问系统 | |
CN115842733A (zh) | 资源共享方法及微前端系统、应用、计算机可读存储介质 | |
CN117493277A (zh) | 一种冷文件查找方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |