CN113220780A - 一种数据处理方法、装置、设备及介质 - Google Patents
一种数据处理方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN113220780A CN113220780A CN202110476876.3A CN202110476876A CN113220780A CN 113220780 A CN113220780 A CN 113220780A CN 202110476876 A CN202110476876 A CN 202110476876A CN 113220780 A CN113220780 A CN 113220780A
- Authority
- CN
- China
- Prior art keywords
- data
- task
- starting time
- same
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 18
- 238000012545 processing Methods 0.000 claims abstract description 51
- 238000000034 method Methods 0.000 claims abstract description 47
- 230000006870 function Effects 0.000 claims description 61
- 238000004590 computer program Methods 0.000 claims description 11
- 238000011161 development Methods 0.000 description 9
- 230000018109 developmental process Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 230000033772 system development Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000010419 fine particle Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开公开了一种数据处理方法、装置、设备及介质。所述方法包括:确定获取数据的起始时间;基于所述起始时间和获取周期,从数据库中获取数据;基于所获取数据进行设定操作处理;其中,同一任务获取数据的起始时间在不同设备上相同。利用该方法,不同的设备针对同一任务能够在相同的起始时间访问数据库获取数据,能够实现分布式场景下多个设备针对同一任务获取相同的数据。
Description
技术领域
本公开实施例涉及数据处理技术领域,尤其涉及一种数据处理方法、装置、设备及介质。
背景技术
数据库是按照数据结构来组织、存储和管理数据的仓库,是一个长期存储在计算机内的、有组织的、可共享的、统一管理的大量数据的集合。
由于不同的设备针对同一任务向数据库获取数据的时间不尽相同,若数据库数据刷新,则不同的设备针对同一任务所获取的数据存在不一致的问题,从而影响了用户体验。
故,如何确保不同设备针对同一任务所获取的数据的一致性是当前亟待解决的技术问题。
发明内容
本公开实施例提供了一种数据处理获取方法、装置、设备及介质,以实现不同设备针对同一任务获取相同的数据。
第一方面,本公开实施例提供了一种数据处理方法,包括:
确定获取数据的起始时间;
基于所述起始时间和获取周期,从数据库中获取数据;
基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
第二方面,本公开实施例还提供了一种数据处理装置,包括:
确定模块,用于确定获取数据的起始时间;
获取模块,用于基于所述起始时间和获取周期,从数据库中获取数据;
处理模块,用于基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
第三方面,本公开实施例还提供了一种设备,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现本公开实施例提供的方法。
第四方面,本公开实施例还提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现本公开实施例提供的方法。
本公开实施例提供了一种数据处理方法、装置、设备及介质,首先确定获取数据的起始时间;然后基于所述起始时间和获取周期,从数据库中获取数据;基于所获取数据进行设定操作处理;其中,同一任务获取数据的起始时间在不同设备上相同。利用上述技术方案,不同的设备针对同一任务能够在相同的起始时间访问数据库获取数据,能够实现分布式场景下多个设备针对同一任务获取相同的数据。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1为本公开实施例一提供的一种数据处理方法的流程示意图;
图2为本公开实施例二提供的一种数据处理方法的流程示意图;
图3为本公开实施例三提供的一种数据处理装置的结构示意图;
图4为本公开实施例四提供的一种设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下述各实施例中,每个实施例中同时提供了可选特征和示例,实施例中记载的各个特征可进行组合,形成多个可选方案,不应将每个编号的实施例仅视为一个技术方案。此外,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
实施例一
图1为本公开实施例一提供的一种数据处理方法的流程示意图,该方法可适用于分布式场景下设备向数据库获取数据的情况,该方法可以由数据处理装置来执行,其中该装置可由软件和/或硬件实现,并一般集成在设备上。该设备可以认为是数据处理设备,设备此处不作限定,可以为手机、电脑和个人数字助理等,也可以为后端系统开发过程中的服务器,后端系统可以指向用户提供数据的服务器、超级服务器、群集系统、中程系统,以及大型机。
以设备为后端系统中的服务器为例,目前,后端系统开发过程中大多需要访问数据库以获取数据。但是在分布式场景下,多个后端系统针对同一任务向数据库获取数据的时间不尽相同,故多个后端系统获取到的数据存在不一致的问题,从而影响了用户体验,如,当不同的后端系统从数据库获取的数据不同时,若用户的多次请求数据发送至不同的后端系统,则返回至用户的数据不同。
因此,如何保证分布式场景下多个后端系统针对同一任务所获取的数据一致是当前亟待解决的技术问题。
为了解决上述技术问题,如图1所示,本公开实施例一提供的一种数据处理方法,包括如下步骤:
S110、确定获取数据的起始时间,同一任务获取数据的起始时间在不同设备上相同。
起始时间可以为向数据库获取数据的时间。起始时间可以限定在一天的24小时内,细分粒度不作限定,可以为分钟或者秒。如,起始时间为一天中的第100分钟。此处不对数据的具体内容进行限定,可以基于设备所需完成的任务确定。如设备需要进行后端系统开发,则获取的数据可以为完成后端系统开发所需的数据,如缓存数据。如设备需要进行前端系统开发,则获取的数据可以为完成前端系统开发所需的数据。其中,前端系统主要关注客户相关内容的开发,如用户界面开发。
本公开中,向数据库请求数据时所对应的任务均可以通过起始时间进行定时,定时的任务可以称为定时任务,通过对任务进行定时能够保证不同设备针对同一任务获取相同的数据。
在获取数据前,本实施例可以预先确定获取数据的起始时间,此处不对确定起始时间的技术手段进行限定,只要保证不同设备中同一任务获取数据的起始时间相同即可。不同设备中同一任务获取数据的起始时间相同可以保证不同设备同时访问数据库读取数据,进而保证所获取的数据相同。需要注意的是,若不同设备不同时刻获取同一任务的数据,可能由于数据库数据刷新,导致不同设备所获取的数据不同。
此处不对确定起始时间的具体手段进行限定,只要保证同一任务获取数据的起始时间在不同设备上相同即可。示例性的,本实施例为了保证同一任务获取数据的起始时间相同,本步骤在确定获取数据的起始时间时,可以基于任务标识确定起始时间,任务标识可以为唯一标识任务的信息,如任务名称。不同的任务标识可以对应不同的起始时间,相同的任务标识对应相同的起始时间。
以设备完成后端系统开发为例,在开发后端系统之前,本公开可以将所有开发后端系统需要的任务所需获取的数据的起始时间均确定完成,再执行相应的任务。执行任务时,可以基于起始时间访问数据库,以获取对应的数据;本实施例还可以在执行任务时,先确定该任务的起始时间,然后在达到起始时间时,访问数据库获取该任务的数据。
在一个实施例中,所述数据为缓存数据。相应的,数据对应的任务可以为刷新本地缓存的任务。本实施例基于获取的缓存数据可以进行数据缓存。
S120、基于所述起始时间和获取周期,从数据库中获取数据。
获取周期可以认为是起始时间对应的任务获取数据的周期,如获取周期为每天获取一次,每两天获取一次或每五天获取一次等。获取周期的细分粒度不作限定,可以以天为单位,也可以以周为单位。
在确定完起始时间后,本实施例可以通过确定当前是否达到获取周期和起始时间,若是,则获取该起始时间对应任务所需的数据;若否,则继续监测。所获取数据的应用此处不作限定。
本实施例在确定当前是否达到周期和起始时间时,可以基于任务队列确定。任务队列中可以包括需要访问数据库获取数据的全部或部分任务。
S130、基于所获取数据进行设定操作处理。
从数据库获取数据后,本步骤可以基于所获取的数据进行设定操作处理。此处不对设定操作进行限定,如进行后端系统开发,或前端系统开发。
本公开实施例一提供的一种数据处理方法,首先确定获取数据的起始时间;然后基于所述起始时间和获取周期,从数据库中获取数据,基于所获取数据进行设定操作处理;其中,同一任务获取数据的起始时间在不同设备上相同。利用上述方法,不同的设备针对同一任务能够在相同的起始时间访问数据库获取数据,能够实现分布式场景下多个设备针对同一任务获取相同的数据,即保证了数据的一致性。
实施例二
图2为本公开实施例二提供的一种数据处理方法的流程示意图,本实施例二与上述实施例结合。在本实施例中,将确定获取数据的起始时间,进一步具体化为:通过哈希函数确定获取数据的起始时间,所述哈希函数的自变量为关键字信息。
进一步地,本实施例还将基于所述起始时间和获取周期,从数据库中获取数据,进一步具体化为:根据访问请求访问数据库,获取目标任务的数据,所述目标任务为任务队列中达到获取周期和起始时间的任务,所述访问请求包括所述目标任务的标识信息。
本实施例尚未详尽的内容请参考实施例一。
如图2所示,本公开实施例二提供的一种数据处理方法,包括如下步骤:
S210、通过哈希函数确定获取数据的起始时间,所述哈希函数的自变量为关键字信息。
本实施例可以基于哈希函数确定获取数据的起始时间,不同设备中通过哈希函数和关键字信息的设计保证哈希函数输出的同一任务获取数据的起始时间相同。
示例性的,在不同设备中,哈希函数相同,哈希函数的关键字信息,即key相同,则通过哈希函数确定的起始时间相同。为了保证设备同一任务获取数据的起始时间相同,关键字信息可以包括任务标识。
本实施例通过哈希函数确定起始时间,在保证不同设备同一任务获取数据的起始时间相同的基础上,还能够将不同任务的起始时间随机到一天内的任一时刻,当设备有较多数量的任务需要执行时,能够将任务分散到各个时刻执行,进而降低数据库的压力。
S220、根据访问请求访问数据库,获取目标任务的数据,所述目标任务为任务队列中达到获取周期和起始时间的任务,所述访问请求包括所述目标任务的标识信息。
本实施例中将达到获取周期和起始时间的任务称为目标任务。在达到目标任务的获取周期和起始时间时,本步骤可以根据访问请求访问数据库获取目标任务所需数据,以用于设定操作处理。访问请求可以认为是访问数据库以请求目标任务所需数据的请求。访问请求中可以包括目标任务的标识信息。标识信息可以为标识目标任务的信息。访问请求中还可以包括设备的标识信息,以便于数据库所在设备与设备通信。
在确定一个任务是否达到获取周期和起始时间时,可以先判断该任务当前是否达到获取周期,即该任务上一次获取数据距离当前是否达到获取周期,若达到可以进行时间匹配,即当前时间是否为起始时间,若是,则获取该任务的数据。
在一个实施例中,所述任务队列中包括各任务对应的任务标识、对应的获取周期和对应的起始时间。
任务队列中各任务的排列顺序不作限定,如可以基于起始时间或获取周期排列。在确定任务队列中任务是否达到获取周期和起始时间时,可以并行判断,也可以依次判断,此处不作限定。访问请求中的目标任务的标识信息可以基于任务队列中的任务标识确定,将任务队列中达到获取周期和起始时间的任务所对应的任务标识确定为目标任务的标识信息。
S230、基于所获取数据进行设定操作处理。
本公开实施例二提供的一种数据处理方法,具体化了确定起始时间和获取数据的步骤。利用该方法,能够有序执行任务队列中的各任务,即不同设备同一任务同时访问数据库,不同任务在不同时刻访问数据库,在保证获取数据一致性的前提下,减缓了数据库的压力。
在上述实施例的基础上,提出了上述实施例的变型实施例,在此需要说明的是,为了使描述简要,在变型实施例中仅描述与上述实施例的不同之处。
在一个实施例中,关键字信息为数值确定的信息,不同设备的哈希函数相同。
在基于哈希函数确定起始时间时,本实施例中可以将关键字信息确定为数值确定的信息,不同设备的哈希函数相同,故不同设备在确定起始时间时,若函数相同且自变量相同,故能够保证输出的起始时间相同。
在一个实施例中,所述通过哈希函数确定获取数据的起始时间,包括:
确定关键字信息;
基于所述关键字信息确定哈希函数输出的获取数据的起始时间;
其中,所述关键字信息为任务标识和获取周期或者,所述起始时间在设定时间范围内。
在本实施例中,哈希函数的关键字信息可以包括任务标识和获取周期,以保证同一任务获取数据的起始时间相同。
在本实施例中,起始时间设定在了设定时间范围内,以进一步保证起始时间相同。此处不对设定时间范围进行设定,如基于一天的24小时确定为设定时间范围。
在一个实施例中,该方法,还包括:
在不同任务对应的起始时间的密集度大于设定值的情况下,调整所述哈希函数的实现方式;
基于调整后的哈希函数重新确定各任务对应的起始时间。
设定值可以不作限定,可以基于数据库的属性确定。不同任务可以为任务队列中所包括的任务,在各任务确定完起始时间后,可以确定各起始时间的密集度,在密集度低于设定值的情况下,可以通过调整哈希函数的实现方式调整起始时间的密集度,从而进一步降低数据库的压力。
本实施例不对确定密集度的技术手段进行限定,也不对调整哈希函数的实现方式的具体手段进行限定。如本实施例可以通过调整哈希函数的复杂度调节实现方式;也可以通过调整哈希函数中参数与参数间的关系调整实现方式。哈希函数越复杂,输出的起始时间越稀疏,即起始时间的密集度越小。
以下对本公开进行示例性描述:
现在后端系统开发过程中,多使用本地缓存做一些简单的数据缓存,但是本地缓存缺少同步机制,在分布式场景下无法做到数据一致。当用户的多次请求数据打到不同的服务器,返回的数据不同,严重伤害用户的体验。同时本地缓存任务众多时,因多服务中的多个刷新本地缓存的任务无规划,容易造成刷新任务的扎堆现象,同时对数据库访问,容易给数据库较大压力,甚至造成数据库不可用。本公开提供的数据处理方法可以解决本地缓存在分布式场景下的数据一致性问题,和多个本地缓存扎堆刷新缓存造成数据库压力的问题。
本公开可以基于确定的刷新起始时刻,即起始时间和刷新周期,即获取周期,定时访问数据库,获取最新缓存数据。
为了确保定时任务(本公开中的任务可以认为是定时任务)在不同日期的执行时刻相同,则把定时任务的执行起始时刻限定在一天的24小时范围内,细分粒度做到分钟或者秒级别,即定时任务的执行时刻范围在0~24*60或者0~24*60*60范围内,因为哈希函数没有随机数的参与,则同一个任务的哈希值相同,同一个任务在不同机器运行的时刻相同,在不同日期运行的时刻相同。根据定时任务的名称和定时周期作为关键字信息,即key,通过哈希函数输出为0~24*60之间的数字,这个数值为任务的起始时间分钟值。在分布式系统中,不同服务器中,哈希函数相同,同一功能的定时任务名称和定时周期相同,则生成出来的任务的起始时间分钟值相同,则不同服务器上的同一个任务的运行时间相同,则刷新的缓存在忽略不同服务器细小时间差的情况下,能够保持不同服务器上的同一个任务的运行时间相同,从而达到分布式本地缓存数据的一致。采用哈希函数进行计算任务的起始时间,从而能够将不同任务的起始时刻随机到一天内的任意时刻,当服务器有较多数量的定时任务需要执行时,则能够实现定时任务分散到各个时刻执行,从而降低数据库峰值压力。
在一个实施例中,当定时任务数量高时,如果发现定时任务在某些时段比较密集时,则可以调整哈希函数的实现方法,来调整哈希值的打散程度,因为无随机数参与,这个过程是可控的,具有可调整性和运维性。
本公开将定时任务的执行起始时刻打散,降低数据库的峰值压力,如在本地缓存数据定时任务量大时,通过哈希函数的方式将起始时间分散到各个时刻,以降低数据库的瞬时压力。在分布式场景中,本地缓存同一个定时任务同时执行刷新本地缓存的方式,达到一定程度的本地缓存数据一致的效果。通过调整哈希函数的实现方式来调整定时任务的密集度。
实施例三
图3为本公开实施例三提供的一种数据处理装置的结构示意图,该装置可适用于分布式场景下设备向数据库获取数据的情况,其中该装置可由软件和/或硬件实现,并一般集成在设备上。
如图3所示,该装置包括:
确定模块31,用于确定获取数据的起始时间;
获取模块32,用于基于所述起始时间和获取周期,从数据库中获取数据;
处理模块33,用于基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
在本实施例中,该装置首先通过确定模块31确定获取数据的起始时间;然后通过获取模块32,用于基于所述起始时间和获取周期,从数据库中获取数据;通过处理模块33基于所获取数据进行设定操作处理;其中,同一任务获取数据的起始时间在不同设备上相同。
本实施例提供了一种数据处理装置,不同的设备针对同一任务能够在相同的起始时间访问数据库获取数据,能够实现分布式场景下多个设备针对同一任务获取相同的数据,即保证了数据的一致性。
进一步地,确定模块31,具体用于:
通过哈希函数确定获取数据的起始时间,所述哈希函数的自变量为关键字信息。
进一步地,所述关键字信息为数值确定的信息,不同设备的哈希函数相同。
进一步地,确定模块31通过哈希函数确定获取数据的起始时间,包括:
确定关键字信息;
基于所述关键字信息确定哈希函数输出的获取数据的起始时间;
其中,所述关键字信息为任务标识和获取周期或者,所述起始时间在设定时间范围内。
进一步地,该装置,还包括,调整模块,用于:
在不同任务对应的起始时间的密集度大于设定值的情况下,调整所述哈希函数的实现方式;
基于调整后的哈希函数重新确定各任务对应的起始时间。
进一步地,获取模块32,用于:
根据访问请求访问数据库,获取目标任务的数据,所述目标任务为任务队列中达到获取周期和起始时间的任务,,所述访问请求包括所述目标任务的标识信息。
进一步地,所述任务队列中包括各任务对应的任务标识、对应的获取周期和对应的起始时间。
进一步地,所述数据为缓存数据。
上述数据处理装置可执行本公开任意实施例所提供的数据处理方法,具备执行方法相应的功能模块和有益效果。
实施例四
图4为本公开实施例四提供的一种设备的结构示意图。图4示出了适于用来实现本公开实施例的设备400的结构示意图。本公开实施例中的设备400可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal Digital Assistant,PDA)、平板电脑(Portable Android Device,PAD)、便携式多媒体播放器(Portable MediaPlayer,PMP)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的设备400仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,设备400可以包括一个或多个处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(Read-Only Memory,ROM)402中的程序或者从存储装置408加载到随机访问存储器(Random Access Memory,RAM)403中的程序而执行各种适当的动作和处理。一个或多个处理装置401实现如本公开提供的方法。在RAM403中,还存储有设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM403通过总线404彼此相连。输入/输出(Input/Output,I/O)接口405也连接至总线404。
通常,以下装置可以连接至I/O接口405:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(Liquid CrystalDisplay,LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置408,存储装置408用于存储一个或多个程序;以及通信装置409。通信装置409可以允许设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置408被安装,或者从ROM402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如超文本传输协议(Hyper TextTransfer Protocol,HTTP)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(LAN),广域网(WAN),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述设备400中所包含的;也可以是单独存在,而未装配入该设备400中。
上述计算机可读介质存储有一个或者多个计算机程序,当上述一个或者多个程序被处理装置执行时实现如下方法:确定获取数据的起始时间;
基于所述起始时间和获取周期,从数据库中获取数据
基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FieldProgrammable Gate Array,FPGA)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、专用标准产品(Application Specific Standard Parts,ASSP)、片上系统(System on Chip,SOC)、复杂可编程逻辑设备(Complex Programming logic device,CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,示例1提供了一种数据处理方法,包括:
确定获取数据的起始时间;
基于所述起始时间和获取周期,从数据库中获取数据;
基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
根据本公开的一个或多个实施例,示例2根据示例1所述的方法,
所述确定获取数据的起始时间,包括:
通过哈希函数确定获取数据的起始时间,所述哈希函数的自变量为关键字信息。
根据本公开的一个或多个实施例,示例3根据示例2所述的方法,所述关键字信息为数值确定的信息,不同设备的哈希函数相同。
根据本公开的一个或多个实施例,示例4根据示例2所述的方法,所述通过哈希函数确定获取数据的起始时间,包括:
确定关键字信息;
基于所述关键字信息确定哈希函数输出的获取数据的起始时间;
其中,所述关键字信息为任务标识和获取周期或者,所述起始时间在设定时间范围内。
根据本公开的一个或多个实施例,示例5根据示例2所述的方法,还包括:
在不同任务对应的起始时间的密集度大于设定值的情况下,调整所述哈希函数的实现方式;
基于调整后的哈希函数重新确定各任务对应的起始时间。
根据本公开的一个或多个实施例,示例6根据示例1所述的方法,
所述基于所述起始时间和获取周期,从数据库中获取数据,包括:
根据访问请求访问数据库,获取目标任务的数据,所述目标任务为任务队列中达到获取周期和起始时间的任务,所述访问请求包括所述目标任务的标识信息。
根据本公开的一个或多个实施例,示例7根据示例6所述的方法,
所述任务队列中包括各任务对应的任务标识、对应的获取周期和对应的起始时间。
根据本公开的一个或多个实施例,示例8根据示例1-7所述的方法,
所述数据为缓存数据。
根据本公开的一个或多个实施例,示例9提供了一种数据处理装置,包括:
确定模块,用于确定获取数据的起始时间;
获取模块,用于基于所述起始时间和获取周期,从数据库中获取数据;
处理模块,用于基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
根据本公开的一个或多个实施例,示例10提供了一种设备,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如示例1-8中任一所述的方法。
根据本公开的一个或多个实施例,示例11提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现如示例1-8中任一所述的方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (11)
1.一种数据处理方法,其特征在于,包括:
确定获取数据的起始时间;
基于所述起始时间和获取周期,从数据库中获取数据;
基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
2.根据权利要求1所述的方法,其特征在于,所述确定获取数据的起始时间,包括:
通过哈希函数确定获取数据的起始时间,所述哈希函数的自变量为关键字信息。
3.根据权利要求2所述的方法,其特征在于,所述关键字信息为数值确定的信息,不同设备的哈希函数相同。
4.根据权利要求2所述的方法,其特征在于,所述通过哈希函数确定获取数据的起始时间,包括:
确定关键字信息;
基于所述关键字信息确定哈希函数输出的获取数据的起始时间;
其中,所述关键字信息为任务标识和获取周期,或者,所述起始时间在设定时间范围内。
5.根据权利要求2所述的方法,其特征在于,还包括:
在不同任务对应的起始时间的密集度大于设定值的情况下,调整所述哈希函数的实现方式;
基于调整后的哈希函数重新确定各任务对应的起始时间。
6.根据权利要求1所述的方法,其特征在于,所述基于所述起始时间和获取周期,从数据库中获取数据,包括:
根据访问请求访问数据库,获取目标任务的数据,所述目标任务为任务队列中达到获取周期和起始时间的任务,所述访问请求包括所述目标任务的标识信息。
7.根据权利要求6所述的方法,其特征在于,所述任务队列中包括各任务对应的任务标识、对应的获取周期和对应的起始时间。
8.根据权利要求1-7任一所述的方法,其特征在于,所述数据为缓存数据。
9.一种数据处理装置,其特征在于,包括:
确定模块,用于确定获取数据的起始时间;
获取模块,用于基于所述起始时间和获取周期,从数据库中获取数据;
处理模块,用于基于所获取数据进行设定操作处理;
其中,同一任务获取数据的起始时间在不同设备上相同。
10.一种设备,其特征在于,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如权利要求1-8中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现如权利要求1-8中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110476876.3A CN113220780B (zh) | 2021-04-29 | 2021-04-29 | 一种数据处理方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110476876.3A CN113220780B (zh) | 2021-04-29 | 2021-04-29 | 一种数据处理方法、装置、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113220780A true CN113220780A (zh) | 2021-08-06 |
CN113220780B CN113220780B (zh) | 2023-12-05 |
Family
ID=77090086
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110476876.3A Active CN113220780B (zh) | 2021-04-29 | 2021-04-29 | 一种数据处理方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113220780B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105989048A (zh) * | 2015-02-05 | 2016-10-05 | 浙江大华技术股份有限公司 | 一种数据记录处理方法、设备及系统 |
CN109918382A (zh) * | 2019-03-18 | 2019-06-21 | Oppo广东移动通信有限公司 | 数据处理方法、装置、终端及存储介质 |
CN110245008A (zh) * | 2018-03-09 | 2019-09-17 | 阿里巴巴集团控股有限公司 | 定时任务处理方法、系统和设备 |
CN111371753A (zh) * | 2020-02-24 | 2020-07-03 | 中国建设银行股份有限公司 | 一种资源共享方法和装置 |
CN111427706A (zh) * | 2020-03-20 | 2020-07-17 | 中国联合网络通信集团有限公司 | 数据处理方法、多服务器系统、数据库、电子设备及存储介质 |
WO2020228036A1 (zh) * | 2019-05-16 | 2020-11-19 | 深圳市欢太科技有限公司 | 任务处理方法、装置、系统、电子设备及存储介质 |
WO2020259017A1 (zh) * | 2019-06-24 | 2020-12-30 | 同方威视科技江苏有限公司 | 时序数据处理方法、装置、系统、服务器及可读存储介质 |
-
2021
- 2021-04-29 CN CN202110476876.3A patent/CN113220780B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105989048A (zh) * | 2015-02-05 | 2016-10-05 | 浙江大华技术股份有限公司 | 一种数据记录处理方法、设备及系统 |
CN110245008A (zh) * | 2018-03-09 | 2019-09-17 | 阿里巴巴集团控股有限公司 | 定时任务处理方法、系统和设备 |
CN109918382A (zh) * | 2019-03-18 | 2019-06-21 | Oppo广东移动通信有限公司 | 数据处理方法、装置、终端及存储介质 |
WO2020228036A1 (zh) * | 2019-05-16 | 2020-11-19 | 深圳市欢太科技有限公司 | 任务处理方法、装置、系统、电子设备及存储介质 |
WO2020259017A1 (zh) * | 2019-06-24 | 2020-12-30 | 同方威视科技江苏有限公司 | 时序数据处理方法、装置、系统、服务器及可读存储介质 |
CN111371753A (zh) * | 2020-02-24 | 2020-07-03 | 中国建设银行股份有限公司 | 一种资源共享方法和装置 |
CN111427706A (zh) * | 2020-03-20 | 2020-07-17 | 中国联合网络通信集团有限公司 | 数据处理方法、多服务器系统、数据库、电子设备及存储介质 |
Non-Patent Citations (3)
Title |
---|
孙乔;付兰梅;裴旭斌;孙甲松;: "基于一致性哈希的分布式数据库性能拓展", 计算机应用, no. 2, pages 223 - 225 * |
徐芳芳;张劲松;: "一种基于Redis的车辆轨迹信息的获取方式", 电子设计工程, no. 17, pages 59 - 62 * |
武英豪: "非关系型数据库中轨迹大数据时空索引研究及应用", 中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑, no. 01, pages 034 - 1258 * |
Also Published As
Publication number | Publication date |
---|---|
CN113220780B (zh) | 2023-12-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110147398B (zh) | 一种数据处理方法、装置、介质和电子设备 | |
US11146502B2 (en) | Method and apparatus for allocating resource | |
CN111581563B (zh) | 页面响应方法、装置、存储介质和电子设备 | |
CN110909521B (zh) | 在线文档信息的同步处理方法、装置及电子设备 | |
CN112711730B (zh) | 一种数据的缓存方法、装置、存储介质及电子设备 | |
CN111246228B (zh) | 直播间礼物资源更新方法、装置、介质及电子设备 | |
CN111163336B (zh) | 视频资源推送方法、装置、电子设备及计算机可读介质 | |
CN110636367A (zh) | 一种视频加载方法、装置、终端设备及介质 | |
WO2022228390A1 (zh) | 媒体内容处理方法、装置、设备和存储介质 | |
CN112099982A (zh) | 一种崩溃信息定位方法、装置、介质和电子设备 | |
CN111596992B (zh) | 导航栏展示方法、装置和电子设备 | |
CN111225255B (zh) | 目标视频推送播放方法、装置、电子设备及存储介质 | |
CN112181733A (zh) | 一种服务请求的处理方法、装置、设备及存储介质 | |
CN113220780B (zh) | 一种数据处理方法、装置、设备及介质 | |
CN112100211B (zh) | 数据存储方法、装置、电子设备和计算机可读介质 | |
CN111625745B (zh) | 推荐方法、装置、电子设备和计算机可读介质 | |
CN112163176A (zh) | 数据存储方法、装置、电子设备和计算机可读介质 | |
CN112149019A (zh) | 用于显示信息的方法、装置、电子设备和计算机可读介质 | |
CN115314718B (zh) | 一种直播数据处理方法、装置、设备及介质 | |
WO2022206474A1 (zh) | 数据获取方法, 装置, 电子设备及计算机可读存储介质 | |
CN110727694A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN112948108B (zh) | 请求处理方法、装置和电子设备 | |
CN113342837B (zh) | 数据发送方法、装置、电子设备和计算机可读介质 | |
CN111258670B (zh) | 组件数据的管理方法、装置、电子设备和存储介质 | |
CN114741629A (zh) | 页面加载方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |