CN113672834A - 数据处理方法、装置、电子设备及计算机可读介质 - Google Patents
数据处理方法、装置、电子设备及计算机可读介质 Download PDFInfo
- Publication number
- CN113672834A CN113672834A CN202010412422.5A CN202010412422A CN113672834A CN 113672834 A CN113672834 A CN 113672834A CN 202010412422 A CN202010412422 A CN 202010412422A CN 113672834 A CN113672834 A CN 113672834A
- Authority
- CN
- China
- Prior art keywords
- data
- processed
- task
- magnitude
- data processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 35
- 238000012545 processing Methods 0.000 claims abstract description 149
- 238000013507 mapping Methods 0.000 claims abstract description 46
- 238000000034 method Methods 0.000 claims abstract description 42
- 238000004590 computer program Methods 0.000 claims description 3
- 230000008859 change Effects 0.000 abstract description 8
- 230000004044 response Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 12
- 239000000872 buffer Substances 0.000 description 11
- 238000007726 management method Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000003252 repetitive effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005111 flow chemistry technique Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/958—Organisation or management of web site content, e.g. publishing, maintaining pages or automatic linking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/957—Browsing optimisation, e.g. caching or content distillation
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Abstract
本公开实施例提供一种数据处理方法、装置、电子设备及计算机可读介质,该方法包括:获取待处理数据与待执行任务;根据预设映射表、待处理数据的数据量级与待执行任务的任务数量确定缓存的目标数量;根据缓存的目标数量获得具有目标数量个缓存的目标缓存;对待处理数据执行待执行任务的处理操作,获得数据处理结果并将数据处理结果写入目标缓存中。本公开实施例提供的技术方案,能够根据预设映射表、数据量级和任务数量自适应地确定缓存的目标数量,获得具有目标数量个缓存的目标缓存,基于目标缓存执行数据处理操作。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种数据处理方法、装置、电子设备及计算机可读介质。
背景技术
在网站运营过程中,会产生各类数据,例如在电商网站的应用场景中,会实时产生销量数据、销售额数据等,将这些实时产生的数据按照预设维度、预设规则进行排名的过程,称为实时排行榜。为保证数据的真实性,需要进行实时排行榜的数据刷新。实时排行榜的数据刷新是通过前端读取后端实时处理的数据来实现的。
然而,由于后端缓存结构单一,当面对规模不断变化的待处理数据时,后端必然无法保证快速响应。因此,在实时排行榜的数据刷新场景中,存在数据处理速度较慢,前端刷新展示的数据有延迟,无法保证展示数据的实时性的问题。
因此,需要一种新的数据处理方法、装置、电子设备及计算机可读介质。
在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解,因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
有鉴于此,本公开实施例提供一种数据处理方法、装置、电子设备及计算机可读介质,进而至少在一定程度上避免相关技术中由于缓存结构单一造成的数据处理速度较慢、延迟大的缺陷。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开实施例的第一方面,提出一种数据处理方法,该方法包括:获取待处理数据与待执行任务;根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量;根据所述缓存的目标数量获得具有目标数量个缓存的目标缓存;对所述待处理数据执行所述待执行任务的处理操作,获得数据处理结果并将所述数据处理结果写入所述目标缓存中。
在本公开的一种示例性实施例中获取待处理数据与待执行任务包括:接收目标对象的数据处理请求;在数据库中获取与所述数据请求对应的所述待处理数据;获得与所述数据处理请求对应的所述待执行任务。
在本公开的一种示例性实施例中,所述方法还包括:响应于所述数据处理请求,向所述目标对象发送所述数据处理结果。
在本公开的一种示例性实施例中,所述方法还包括:获取每个数据量级下,不同的任务数量对应的预设缓存数量;根据所述每个数据量级下,不同任务数量对应的所述预设缓存数量生成以数据量级、任务数量和缓存数量为字段的所述预设映射表。
在本公开的一种示例性实施例中,根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量,包括:根据所述待处理数据的数据量级在所述预设映射表中进行数据量级的字段匹配,获得第一匹配结果;根据所述待执行任务的任务数量在所述预设映射表中进行任务数量的字段匹配,获得第二匹配结果;根据所述第二匹配结果确定所述缓存的所述目标数量。
在本公开的一种示例性实施例中,在根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量之前,所述方法还包括:根据所述待处理数据的数据量确定所述待处理数据的数据量级。
在本公开的一种示例性实施例中,根据所述待处理数据的数据量确定所述待处理数据的数据量级包括:若所述待处理数据的数据量小于或等于第一数据量阈值,则确定所述待处理数据的数据量级为第一量级;若所述待处理数据的数据量大于第一数据量阈值且小于或等于第二数据量阈值,则确定所述待处理数据的数据量级为第二量级;若所述待处理数据的数据量大于第二数据量,则确定所述待处理数据的数据量级为第三量级。
根据本公开实施例的第二方面,提出一种数据处理装置,该装置包括:数据获取模块,配置为获取待处理数据与待执行任务;缓存匹配模块,配置为根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量;缓存确定模块,配置为根据所述缓存的目标数量获得具有目标数量个缓存的目标缓存;数据处理模块,配置为对所述待处理数据执行所述待执行任务的处理操作,获得数据处理结果并将所述数据处理结果写入所述目标缓存中。
根据本公开实施例的第三方面,提出一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一项所述的数据处理方法。
根据本公开实施例的第四方面,提出一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述任一项所述的数据处理方法。
根据本公开某些实施例提供的数据处理方法、装置、电子设备及计算机可读介质,能够根据预设映射表、待处理数据的数据量级和任务数量自适应地确定缓存的目标数量,获得具有目标数量个的缓存的目标缓存,基于目标缓存执行数据处理操作。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。下面描述的附图仅仅是本公开的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据一示例性实施例示出的一种数据处理方法及装置的系统框图;
图2是根据一示例性实施例示出的一种数据处理方法的流程图;
图3是根据一示例性实施例示出的一种数据处理方法的流程图;
图4是根据一示例性实施例示出的一种数据处理方法的流程图;
图5是根据一示例性实施例示出的一种数据处理方法的流程图;
图6是根据另一示例性实施例示出的一种数据处理方法与系统的架构图;
图7是根据一示例性实施例示出的缓存数量与响应时间的关系图;
图8是根据一示例性实施例示出的一种数据处理装置的框图;
图9是根据一示例性实施例示出的一种电子设备的框图;
图10是根据一示例性实施例示出一种计算机可读存储介质示意图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本发明将全面和完整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本发明的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而省略特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。
附图仅为本发明的示意性图解,图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和步骤,也不是必须按所描述的顺序执行。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
下面结合附图对本发明示例实施方式进行详细说明。
图1是根据一示例性实施例示出的一种数据处理方法及装置的系统框图。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所进行操作的数据处理系统提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的数据处理请求等数据进行分析等处理,并将数据处理结果(例如实时排行榜的数据刷新结果--仅为示例)反馈给终端设备。
服务器105可例如获取待处理数据与待执行任务;服务器105可例如根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量;服务器105可例如根据所述缓存的目标数量获得具有目标数量个缓存的目标缓存。服务器105可例如对待处理数据执行所述待执行任务的处理操作,获得数据处理结果并将所述数据处理结果写入所述目标缓存中。
服务器105可以是一个实体的服务器,还可例如为多个服务器组成,服务器105中的一部分可例如作为本公开中的数据处理任务提交系统,用于获取将要执行数据处理命令的任务;以及服务器105中的一部分还可例如作为本公开中的数据处理系统,用于获取待处理数据与待执行任务;根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量;根据所述缓存的目标数量获得具有目标数量个缓存的目标缓存;对待处理数据执行所述待执行任务的处理操作,获得数据处理结果并将所述数据处理结果写入所述目标缓存中。
根据本公开实施例提供的数据处理方法及装置,能够根据预设映射表、待处理数据的数据量级和任务数量自适应地确定缓存的目标数量,获得具有目标数量个缓存的目标缓存,基于目标缓存执行数据处理操作。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
图2是根据一示例性实施例示出的一种数据处理方法的流程图。本公开实施例提供的数据处理方法可以由任意具备计算处理能力的电子设备执行,例如终端设备101、102、103和/或服务器105,在下面的实施例中,以服务器执行所述方法为例进行举例说明,但本公开并不限定于此。
如图2所示,本公开实施例提供的数据处理方法20可以包括以下步骤。
在步骤S202中,获取待处理数据与待执行任务。
在步骤S204中,根据预设映射表、待处理数据的数据量级与待执行任务的任务数量确定缓存的目标数量。
在步骤S206中,根据缓存的目标数量获得具有目标数量个缓存的目标缓存。
在步骤S208中,对待处理数据执行待执行任务的处理操作,获得数据处理结果并将数据处理结果写入目标缓存中。
本公开实施例中,在步骤S202,待处理数据可例如但不限于获取于大数据平台、数据库等。在实时排行榜的数据刷新场景中,待执行任务可例如为计算实时排行榜所要求执行的计算任务。
在步骤S204,可根据待处理数据的数据量确定待处理数据的数据量级。例如,当待处理数据的数据量位于预设的阈值范围时,可确定待处理数据的数据量级为该预设的阈值范围所对应的数据量级。
预设映射表可描述待处理数据的数据量级、待执行任务的任务数量与预设缓存数量之间的对应关系。可根据待处理数据的数据量级、待执行任务的任务数量在预设映射表中进行匹配,根据匹配结果确定缓存的目标数量。
在步骤S206,可将缓存划分为目标数量个,以获得目标缓存。例如,当目标数量为3,可将缓存划分为3个,以获得目标缓存。其中,对缓存的划分可均匀划分,也可为不均匀划分,本公开的技术方案对此并不作特殊限定。
在示例性实施例中,在步骤S206,还可获取多个备用缓存,将目标数量个的备用缓存确定为目标缓存。
在示例性实施例中,可根据预设映射表确定缓存的划分模式,划分模式包括均匀划分和不均匀划分。
根据本公开实施例提供的数据处理方法,能够根据预设映射表、待处理数据的数据量级和任务数量自适应地确定缓存的目标数量,获得具有目标数量个缓存的目标缓存,基于目标缓存执行数据处理操作。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
图3是根据一示例性实施例示出的一种数据处理方法的流程图。
如图3所示,本公开实施例提供的数据处理方法30可以包括以下步骤。
在步骤S302中,接收目标对象的数据处理请求。
在步骤S304中,在数据库中获取与数据请求对应的待处理数据。
在步骤S306中,获得与数据处理请求对应的待执行任务。
在步骤S308中,根据预设映射表、待处理数据的数据量级与待执行任务的任务数量确定缓存的目标数量。
在步骤S310中,根据缓存的目标数量获得具有目标数量个缓存的目标缓存。
在步骤S312中,对待处理数据执行待执行任务的处理操作,获得数据处理结果并将数据处理结果写入目标缓存中。
在步骤S314中,响应于数据处理请求,向目标对象发送数据处理结果。
本公开实施例中,在步骤S302,目标对象可例如前端设备(例如图1的终端设备101、102或103)。在实时排行榜的数据刷新场景中,数据处理请求可例如为实时排行榜的数据计算请求。
在步骤S304,数据库可例如为后端数据库,也可为大数据平台,本公开的技术方案对此并不作特殊限定。
根据本公开实施例提供的数据处理方法,在接收到目标对象的数据处理请求后,根据预设映射表、待处理数据的数据量级和任务数量自适应地确定缓存的目标数量,获得具有目标数量个缓存的目标缓存,基于目标缓存执行数据处理操作,并响应于数据处理请求将数据处理结果发送至目标对象。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,实现对目标对象的数据处理请求的快速响应。解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
图4是根据一示例性实施例示出的一种数据处理方法的流程图。
如图4所示,本公开实施例提供的数据处理方法40可以包括以下步骤。
在步骤S402中,获取每个数据量级下,不同的任务数量对应的预设缓存数量。
在步骤S404中,根据每个数据量级下,不同任务数量对应的预设缓存数量生成以数据量级、任务数量和缓存数量为字段的预设映射表。
在步骤S406中,获取待处理数据与待执行任务。
在步骤S408中,根据待处理数据的数据量级在预设映射表中进行数据量级的字段匹配,获得第一匹配结果。
在步骤S410中,根据待执行任务的任务数量在第一匹配结果中进行任务数量的字段匹配,获得第二匹配结果。
在步骤S412中,根据第二匹配结果确定缓存的目标数量。
在步骤S414中,根据缓存的目标数量获得具有目标数量个缓存的目标缓存。
在步骤S416中,对待处理数据执行待执行任务的处理操作,获得数据处理结果并将数据处理结果写入目标缓存中。
本公开实施例中,在步骤S402,每个数据量级下,不同的任务数量对应的预设缓存数量可为每个数据量级下,不同的任务数量对应的具有最小响应时间的缓存数量,该具有最小响应时间的缓存数量可通过实验数据获得。图7是根据一示例性实施例示出的缓存数量与响应时间的关系图。如图7所示,在数据量级和任务数量确定的情况下,可确定不同的缓存数量的场景下数据处理的响应时间。例如图7示出的关系图中数据量级为1,任务数量为4,其中,缓存数量上限为3,任务数量的上限为4。可确定缓存数量为3时具有最小响应时间。则确定数量级为1,任务数量为4时对应的预设缓存数量为3。
在步骤S404,表1是根据一示例性实施例示出的预设映射表。如表1所示,以x=1,y=4,z=3为例,即当数据量级的字段值为1,任务数量的字段值为4时,对应的缓存数量的字段值为3。
表1
数据量级(x) | 任务数量(y) | 缓存数量(z) |
1 | 1 | 1 |
1 | 2 | 2 |
1 | 3 | 3 |
1 | 4 | 3 |
2 | 1 | 2 |
2 | 2 | 2 |
2 | 3 | 3 |
2 | 4 | 3 |
3 | 1 | 1 |
3 | 2 | 2 |
3 | 3 | 2 |
3 | 4 | 3 |
其中,以待处理数据的数据量级为1,待执行任务的任务数量为4为例,在步骤S408,可将待处理数据的数据量级(1)在预设映射表(表1)中进行数据量级的字段匹配。第一匹配结果包括:
x=1,y=1,z=1;
x=1,y=2,z=2;
x=1,y=3,z=3;
x=1,y=4,z=3;
在步骤S410,可将待执行任务的任务数量(4)在第一匹配结果中进行任务数量的字段匹配,获得第二匹配结果。第二匹配结果包括;
x=1,y=4,z=3
在步骤S412,可根据第二匹配结果(x=1,y=4,z=3)确定缓存的目标数量为3(z=3)。
根据本公开实施例提供的数据处理方法,根据每个数据量级下,不同的任务数量对应的预设缓存数量生成预设映射表,能够根据待处理数据的数据量级和待执行任务的任务数量和预设映射表进行匹配,自适应地确定缓存的目标数量,获得具有目标数量个缓存的目标缓存,基于目标缓存执行数据处理操作。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
图5是根据一示例性实施例示出的一种数据处理方法的流程图。
如图5所示,本公开实施例提供的数据处理方法50可以包括以下步骤。
在步骤S502中,获取待处理数据与待执行任务。
在步骤S504中,根据待处理数据的数据量确定待处理数据的数据量级。
在示例性实施例中,步骤S504可包括以下步骤S5041至S5043。
在步骤S5041中,若待处理数据的数据量小于或等于第一数据量阈值,则确定待处理数据的数据量级为第一量级。
在步骤S5042中,若待处理数据的数据量大于第一数据量阈值且小于或等于第二数据量阈值,则确定待处理数据的数据量级为第二量级。
在步骤S5043中,若待处理数据的数据量大于第二数据量,则确定待处理数据的数据量级为第三量级。
本公开实施例中,以实时排行榜的数据刷新场景为例,第一数据量阈值可例如为10M。第二数据量阈值可例如为100M。但此处仅为示例,本公开的技术方案对此并不作特殊限定。应该理解,本公开实施例对待处理数据的数据量级分为三个级别:第一量级、第二量级、第三量级,但此处仅为示例,本公开的技术方案对数据量级的具体个数并不作特殊限定。
其中,如表1所示,第一量级可对应表1中的数据量级为1,第二量级可对应表1中的数据量级为2,第三量级可对应表1中的数据量级为3。
在步骤S506中,根据预设映射表、待处理数据的数据量级与待执行任务的任务数量确定缓存的目标数量。
在步骤S508中,根据缓存的目标数量获得具有目标数量个缓存的目标缓存。
在步骤S510中,对待处理数据执行待执行任务的处理操作,获得数据处理结果并将数据处理结果写入目标缓存中。
根据本公开实施例提供的数据处理方法,根据待处理数据的数据量与第一数量阈值、第二数据量阈值进行比较,能够确定待处理数据的数据量级。基于待处理数据的数据量级,结合待执行任务的任务数量,能够与预设映射表进行匹配,自适应地确定缓存的目标数量,获得具有目标数量个缓存的目标缓存,基于目标缓存执行数据处理操作。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
图6是根据另一示例性实施例示出的一种数据处理方法与系统的架构图。
如图6所示,本公开实施例提供的数据处理方法60可以执行于数据处理系统中,数据处理系统包括:大数据平台61、负载控制台62、任务管理模块63、缓存管理模块64。其中,以实时排行榜的数据刷新场景为例,大数据平台61:负责实时计算存储各项原始数据,以实时排行榜的数据刷新场景的大数据平台为例,各项原始数据可例如但不限于为订单的销量、销售额数据。负载控制台62可包括流量监控器621、调度器622和映射关系库623。负载控制台62具有监控流量、调度任务与缓存之间匹配关系的功能。任务管理模块63负责管理数据处理的待执行任务(以实时排行榜的数据刷新场景为例,待执行任务可例如但不限于为数据清洗的计算处理、销售真实值的计算处理等)。缓存管理模块64管理着多个缓存,支持任务模块处理后的信息数据存储。前端页面65为目标对象的操作页面。在实时排行榜的数据刷新场景,前端页面65即为目标对象的操作用户可看到的排行榜网页,其通过实时请求缓存中的数据处理结果并作展示处理。本公开实施例提供的数据处理任务可包括以下步骤。
在步骤S602中,接收前端页面65的数据处理请求。
在步骤S604中,在大数据平台61中获取与数据处理请求对应的待处理数据。
在步骤S606中,通过流量监控器621确定待处理数据的数据量级并发送至调度器622,并透传待处理数据到调度器622。
在步骤S608中,通过调度器621同步获取任务管理模块63中正在启用的待执行任务的任务数量。
在步骤S610中,调度器621将待处理数据的数据量级和待执行任务的任务数量作为查询条件,从映射关系库623中进行查找,确定缓存的目标数量并发送至任务管理模块63,同时将待处理数据透传至任务管理模块63。
其中,映射关系库中记录了预设映射表。
在步骤S612中,任务管理模块63一方面将接收到的待处理数据按照待执行任务进行加工处理获得数据处理结果,另一方面按照从调度器621接收的缓存的目标数量确定目标缓存,将数据处理结果写入目标缓存中。
在步骤S614中,前端页面65实时获取目标缓存中的数据处理结果,对数据处理结果进行展示处理。
本公开实施例提供的数据处理方法,根据待处理数据的数据量级与待执行任务的任务数量,能够在映射关系表中查找获得缓存的目标数量,实时确定具有最佳响应速度的缓存数量。通过动态分配缓存,能够实现不同数据量级,不同任务数量的情况下,前端页面的展示数据都能做到秒级刷新的技术效果,能够提高数据的实时性,提高用户体验。
应清楚地理解,本公开描述了如何形成和使用特定示例,但本公开的原理不限于这些示例的任何细节。相反,基于本公开公开的内容的教导,这些原理能够应用于许多其它实施例。
本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由中央处理器(Central Processing Unit,CPU)执行的计算机程序。在该计算机程序被中央处理器CPU执行时,执行本公开提供的上述方法所限定的上述功能。的程序可以存储于一种计算机可读存储介质中,该存储介质可以是只读存储器,磁盘或光盘等。
此外,需要注意的是,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节,请参照本公开方法实施例。
图8是根据一示例性实施例示出的一种数据处理装置的框图。参照图8,本公开实施例提供的数据处理装置80可以包括:数据获取模块802、缓存匹配模块804、缓存确定模块806和数据处理模块808。
在数据处理装置80中,数据获取模块802可以配置为获取待处理数据与待执行任务。
缓存匹配模块804可以配置为根据预设映射表、待处理数据的数据量级与待执行任务的任务数量确定缓存的目标数量。
缓存确定模块806可以配置为根据缓存的目标数量获得具有目标数量个缓存的目标缓存。
数据处理模块808可以配置为对待处理数据执行待执行任务的处理操作,获得数据处理结果并将数据处理结果写入目标缓存中。
在示例性实施例中,数据获取模块802可以包括数据请求接收单元、数据获取单元和任务获取单元。其中,数据请求接收单元可以配置为接收目标对象的数据处理请求。数据获取单元可以配置为在数据库中获取与数据请求对应的待处理数据。任务获取单元可以配置为获得与数据处理请求对应的待执行任务。
在示例性实施例中,数据处理装置80还可包括数据请求响应模块,数据请求响应模块可以配置为响应于数据处理请求,向目标对象发送数据处理结果。
在示例性实施例中,数据处理装置80还可包括预设缓存数量接收模块和映射表生成模块。其中,预设缓存数量接收模块可以配置为获取每个数据量级下,不同的任务数量对应的预设缓存数量。映射表生成模块可以配置为根据每个数据量级下,不同任务数量对应的预设缓存数量生成以数据量级、任务数量和缓存数量为字段的预设映射表。
在示例性实施例中,缓存匹配模块804可以包括第一匹配单元、第二匹配单元和目标数量确定单元。其中,第一匹配单元可以配置为根据待处理数据的数据量级在预设映射表中进行数据量级的字段匹配,获得第一匹配结果。第二匹配单元可以配置为根据待执行任务的任务数量在第一匹配结果中进行任务数量的字段匹配,获得第二匹配结果。目标数量确定单元可以配置为根据第二匹配结果确定缓存的目标数量。
在示例性实施例中,数据处理装置80还可包括数据量级确定模块。其中,数据量级确定模块可配置为根据待处理数据的数据量确定待处理数据的数据量级。
在示例性实施例中,数据量级确定模块可包括第一量级确定单元,第二量级确定单元和第三量级确定单元。其中,第一量级确定单元可配置为若待处理数据的数据量小于或等于第一数据量阈值,则确定待处理数据的数据量级为第一量级。第二量级确定单元可配置为若待处理数据的数据量大于第一数据量阈值且小于或等于第二数据量阈值,则确定待处理数据的数据量级为第二量级。第三量级确定单元可配置为若待处理数据的数据量大于第二数据量,则确定待处理数据的数据量级为第三量级。
根据本公开实施例提供的数据处理装置,能够根据预设映射表、待处理数据的数据量级和任务数量自适应地确定缓存的目标数量,获得具有目标数量个缓存的目标缓存,基于目标缓存执行数据处理操作。能够在面对不同量级下的数据处理任务下,保证数据的快速处理,解决由于数据处理任务规模变化造成的耗时长、延迟高的问题。
图9是根据一示例性实施例示出的一种电子设备的框图。
下面参照图9来描述根据本公开的这种实施方式的电子设备200。图9显示的电子设备200仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示,电子设备200以通用计算设备的形式表现。电子设备200的组件可以包括但不限于:至少一个处理单元210、至少一个存储单元220、连接不同系统组件(包括存储单元220和处理单元210)的总线230、显示单元240等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元210执行,使得所述处理单元210执行本说明书上述电子处方流转处理方法部分中描述的根据本公开各种示例性实施方式的步骤。例如,所述处理单元210可以执行如图2,图3,图4,图5,图6中所示的步骤。
所述存储单元220可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)2201和/或高速缓存存储单元2202,还可以进一步包括只读存储单元(ROM)2203。
所述存储单元220还可以包括具有一组(至少一个)程序模块2205的程序/实用工具2204,这样的程序模块2205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线230可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备200也可以与一个或多个外部设备300(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备200交互的设备通信,和/或与使得该电子设备200能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口250进行。并且,电子设备200还可以通过网络适配器260与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器260可以通过总线230与电子设备200的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备200使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述方法。
图10示意性示出本公开示例性实施例中一种计算机可读存储介质示意图。
参考图10所示,描述了根据本公开的实施方式的用于实现上述方法的程序产品400,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该计算机可读介质实现如下功能:获取待处理数据与待执行任务;根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量;根据所述缓存的目标数量获得具有目标数量个缓存的目标缓存;对待处理数据执行所述待执行任务的处理操作,获得数据处理结果并将所述数据处理结果写入所述目标缓存中。
本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中,也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施例的方法。
以上具体地示出和描述了本公开的示例性实施例。应可理解的是,本公开不限于这里描述的详细结构、设置方式或实现方法;相反,本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
获取待处理数据与待执行任务;
根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量;
根据所述缓存的目标数量获得具有目标数量个缓存的目标缓存;
对所述待处理数据执行所述待执行任务的处理操作,获得数据处理结果并将所述数据处理结果写入所述目标缓存中。
2.如权利要求1所述的方法,其特征在于,获取待处理数据与待执行任务包括:
接收目标对象的数据处理请求;
在数据库中获取与所述数据请求对应的所述待处理数据;
获得与所述数据处理请求对应的所述待执行任务。
3.如权利要求2所述的方法,其特征在于,还包括:
响应于所述数据处理请求,向所述目标对象发送所述数据处理结果。
4.如权利要求1所述的方法,其特征在于,还包括:
获取每个数据量级下,不同的任务数量对应的预设缓存数量;
根据所述每个数据量级下,不同任务数量对应的预设缓存数量生成以数据量级、任务数量和缓存数量为字段的所述预设映射表。
5.如权利要求4所述的方法,其特征在于,根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量,包括:
根据所述待处理数据的数据量级在所述预设映射表中进行数据量级的字段匹配,获得第一匹配结果;
根据所述待执行任务的任务数量在所述第一匹配结果中进行任务数量的字段匹配,获得第二匹配结果;
根据所述第二匹配结果确定所述缓存的所述目标数量。
6.如权利要求1所述的方法,其特征在于,在根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量之前,所述方法还包括:
根据所述待处理数据的数据量确定所述待处理数据的数据量级。
7.如权利要求6所述的方法,其特征在于,根据所述待处理数据的数据量确定所述待处理数据的数据量级包括:
若所述待处理数据的数据量小于或等于第一数据量阈值,则确定所述待处理数据的数据量级为第一量级;
若所述待处理数据的数据量大于第一数据量阈值且小于或等于第二数据量阈值,则确定所述待处理数据的数据量级为第二量级;
若所述待处理数据的数据量大于第二数据量,则确定所述待处理数据的数据量级为第三量级。
8.一种数据处理装置,其特征在于,包括:
数据获取模块,配置为获取待处理数据与待执行任务;
缓存匹配模块,配置为根据预设映射表、所述待处理数据的数据量级与所述待执行任务的任务数量确定缓存的目标数量;
缓存确定模块,配置为根据所述缓存的目标数量获得具有目标数量个缓存的目标缓存;
数据处理模块,配置为对所述待处理数据执行所述待执行任务的处理操作,获得数据处理结果并将所述数据处理结果写入所述目标缓存中。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010412422.5A CN113672834A (zh) | 2020-05-15 | 2020-05-15 | 数据处理方法、装置、电子设备及计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010412422.5A CN113672834A (zh) | 2020-05-15 | 2020-05-15 | 数据处理方法、装置、电子设备及计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113672834A true CN113672834A (zh) | 2021-11-19 |
Family
ID=78537620
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010412422.5A Pending CN113672834A (zh) | 2020-05-15 | 2020-05-15 | 数据处理方法、装置、电子设备及计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113672834A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114866549A (zh) * | 2022-05-12 | 2022-08-05 | 中国建设银行股份有限公司 | 数据获取方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150074328A1 (en) * | 2012-05-04 | 2015-03-12 | Lsi Corporation | Dynamic map pre-fetching for improved sequential reads of a solid-state media |
US20190340016A1 (en) * | 2018-05-02 | 2019-11-07 | International Business Machines Corporation | Lazy data loading for improving memory cache hit ratio in dag-based computational system |
WO2019232980A1 (zh) * | 2018-06-05 | 2019-12-12 | 平安科技(深圳)有限公司 | 节点配置方法及装置、计算机可读存储介质和电子设备 |
CN110569123A (zh) * | 2019-07-31 | 2019-12-13 | 苏宁云计算有限公司 | 线程分配方法、装置、计算机设备和存储介质 |
CN110688066A (zh) * | 2019-09-06 | 2020-01-14 | 苏州浪潮智能科技有限公司 | 一种数据处理方法、系统、电子设备及存储介质 |
-
2020
- 2020-05-15 CN CN202010412422.5A patent/CN113672834A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150074328A1 (en) * | 2012-05-04 | 2015-03-12 | Lsi Corporation | Dynamic map pre-fetching for improved sequential reads of a solid-state media |
US20190340016A1 (en) * | 2018-05-02 | 2019-11-07 | International Business Machines Corporation | Lazy data loading for improving memory cache hit ratio in dag-based computational system |
WO2019232980A1 (zh) * | 2018-06-05 | 2019-12-12 | 平安科技(深圳)有限公司 | 节点配置方法及装置、计算机可读存储介质和电子设备 |
CN110569123A (zh) * | 2019-07-31 | 2019-12-13 | 苏宁云计算有限公司 | 线程分配方法、装置、计算机设备和存储介质 |
CN110688066A (zh) * | 2019-09-06 | 2020-01-14 | 苏州浪潮智能科技有限公司 | 一种数据处理方法、系统、电子设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
王灏;郝朝;山寿;: "基于VxWorks的网络数据实时处理软件的设计与实现", 计算机测量与控制, no. 03, 25 March 2020 (2020-03-25) * |
王鹏;: "WIS服务监视门户的设计与实现", 气象科技, no. 03, 15 June 2018 (2018-06-15) * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114866549A (zh) * | 2022-05-12 | 2022-08-05 | 中国建设银行股份有限公司 | 数据获取方法及装置 |
CN114866549B (zh) * | 2022-05-12 | 2024-04-19 | 中国建设银行股份有限公司 | 数据获取方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11327869B2 (en) | Distributed architecture for determining performance parameters | |
CN110502519B (zh) | 一种数据聚合的方法、装置、设备及存储介质 | |
CN111400600A (zh) | 一种消息推送方法、装置、设备和存储介质 | |
CN108205469B (zh) | 一种基于MapReduce的资源分配方法及服务器 | |
CN110335140B (zh) | 基于社交关系预测贷款黑中介的方法、装置、电子设备 | |
CN109815405B (zh) | 灰度分流方法与系统 | |
CN109597810B (zh) | 一种任务切分方法、装置、介质及电子设备 | |
CN112017042A (zh) | 基于tweedie分布的资源配额确定方法、装置和电子设备 | |
CN110502506B (zh) | 一种数据处理方法、装置、设备和存储介质 | |
CN110569190B (zh) | 交易压力测试方法和装置、以及电子设备和可读存储介质 | |
CN113672834A (zh) | 数据处理方法、装置、电子设备及计算机可读介质 | |
CN110515954B (zh) | 一种数据处理方法、装置、设备和存储介质 | |
CN110751227A (zh) | 数据处理方法、装置、设备及存储介质 | |
CN110909085A (zh) | 数据处理方法、装置、设备及存储介质 | |
US11627193B2 (en) | Method and system for tracking application activity data from remote devices and generating a corrective action data structure for the remote devices | |
CN110427377B (zh) | 数据处理方法、装置、设备和存储介质 | |
CN114676272A (zh) | 多媒体资源的信息处理方法、装置、设备及存储介质 | |
CN114547106A (zh) | 数据查询方法及装置、存储介质、计算机系统 | |
CN113436003A (zh) | 时长确定方法、装置、电子设备、介质和程序产品 | |
CN113592263A (zh) | 基于动态资源归还增比的资源归还增量预测方法和装置 | |
US20150134919A1 (en) | Information processing apparatus and data access method | |
CN111756590B (zh) | 用于信息展示流量控制的小流量测试方法和装置 | |
CN111046430B (zh) | 数据处理方法及装置、存储介质及电子设备 | |
CN112017062B (zh) | 基于客群细分的资源额度分配方法、装置及电子设备 | |
CN110704291B (zh) | 基于图标属性识别的用户流向获取方法、装置和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |