CN111427706B - 数据处理方法、多服务器系统、数据库、电子设备及存储介质 - Google Patents
数据处理方法、多服务器系统、数据库、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111427706B CN111427706B CN202010203363.0A CN202010203363A CN111427706B CN 111427706 B CN111427706 B CN 111427706B CN 202010203363 A CN202010203363 A CN 202010203363A CN 111427706 B CN111427706 B CN 111427706B
- Authority
- CN
- China
- Prior art keywords
- processing
- heartbeat
- information
- task
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 37
- 238000000034 method Methods 0.000 claims abstract description 283
- 230000008569 process Effects 0.000 claims abstract description 267
- 238000004891 communication Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 11
- 230000003993 interaction Effects 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/543—User-generated data transfer, e.g. clipboards, dynamic data exchange [DDE], object linking and embedding [OLE]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本公开提供的数据处理方法、多服务器系统、数据库、电子设备及存储介质,针对多服务器系统中的任一目标服务器,目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供数据库对心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;目标服务器的分配进程获取数据库存储的各心跳信息,并根据各心跳信息生成任务信息,将任务信息发送至数据库以供其存储;目标服务器的多个处理进程获取数据库存储的任务信息,并根据任务信息执行处理任务,从而多服务器多处理进程同步处理同一任务,提高了处理效率。
Description
技术领域
本公开涉及数据处理领域,尤其涉及一种数据处理方法、多服务器系统、数据库、电子设备及存储介质。
背景技术
服务器和数据库之间的数据交互和信息交互是维持通信的基础。传统的通信是基于java程序实现的。
在现有的通信架构中,基于java程序是不借助spark、mapreduce等框架的,这也使得不同服务器或不同进程间无法通信。因此,在处理同一任务时,仅能采用同一服务器的同一进程多线程处理任务,其容易出现多线程锁而导致通信延迟的问题。
发明内容
针对上述提出的问题,本公开提供了一种数据处理方法、多服务器系统、数据库、电子设备及存储介质。
第一方面,本公开提供了数据处理方法,所述处理方法适用于多服务器系统,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
所述处理方法包括:
针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务。
可选的,所述任务所需的多个数据源的源标识是数据库对任务所需数据的字段进行哈希处理获得的。
可选的,所述多服务器系统中还包括容器,所述容器用于存储多服务器中的各服务器的各进程在一段时间内向数据库发送的信息;
相应的,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,包括:
所述目标服务器的多个处理进程按照预设时间间隔向容器发送心跳信息,以使所述容器生成包括有多个连续的预设时间间隔的处理进程的心跳信息集合;
所述容器将各处理进程的各心跳信息集合批量发送至数据库。
可选的,所述目标服务器的分配进程,和/或,各处理进程,采用异步接收的方式,接收所述数据库发送的各心跳信息,和/或,任务信息。
可选的,所述目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,包括:
根据所述各心跳信息中的心跳时间,确定处于活动状态的至少一个目标处理进程;
将任务分配至所述至少一个目标处理进程的处理进程,并生成相应的生成任务信息。
第二方面,本公开提供了一种数据处理方法,所述处理方法适用于数据库,所述数据库用于与多服务器系统进行交互,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
所述处理方法包括:
接收多服务器系统中的任一目标服务器中的各处理进程按照预设时间间隔发送心跳信息,并将所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,接收所述分配进程发送的任务信息并存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
向目标服务器的多个处理进程发送所述任务信息,以供所述各处理进程根据所述任务信息执行处理任务。
可选的,所述向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,还包括:
对任务所需数据的字段进行哈希处理,并将处理获得的所述任务所需的多个数据源的源标识发送至分配进程。
可选的,该处理方法还包括:
向所述目标服务器的分配进程,和/或,各处理进程,异步发送各心跳信息,和/或,任务信息。
第三方面,本公开提供了一种多服务器系统,包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
其中,针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程用于按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
目标服务器的分配进程用于获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
目标服务器的多个处理进程用于获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务。
第四方面,本公开提供了一种数据库,所述数据库用于与多服务器系统进行交互,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
其中,所述数据库包括:
接收模块,用于接收多服务器系统中的任一目标服务器中的各处理进程按照预设时间间隔发送心跳信息,并将所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
发送模块,用于向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,接收所述分配进程发送的任务信息并存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
所述发送模块还用于向目标服务器的多个处理进程发送所述任务信息,以供所述各处理进程根据所述任务信息执行处理任务。
第五方面,本公开提供了一种电子设备,包括:
处理器和存储器;
其中,所述存储器用于存储所述处理器的可执行指令;
当所述处理器执行所述可执行指令时,可以执行上述任一项所述的方法。
第六方面,本公开提供了一种存储介质,包括指令,当所述指令在计算机上运行时,所述计算机可以执行上述任一项所述的方法。
本公开提供的数据处理方法、多服务器系统、数据库、电子设备及存储介质,针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务,从而多服务器多处理进程同步处理同一任务,提高了处理效率。
附图说明
通过上述附图,已示出本公开明确的示例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围,而是通过参考特定示例为本领域技术人员说明本公开的概念。
图1是本公开所基于的网络架构示意图;
图2为本公开提供的一种数据处理方法的流程示意图;
图3为本公开示例提供的另一数据处理方法的流程示意图;
图4为本公开提供的一种多服务器系统的结构示意图;
图5为本公开提供的一种数据库的结构示意图;
图6为本公开实施例提供的电子设备的硬件结构示意图。
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的示例,并与说明书一起用于解释本公开的原理。
具体实施方式
为使本公开示例的目的、技术方案和优点更加清楚,下面将结合本公开示例中的附图,对本公开示例中的技术方案进行清楚、完整地描述。
服务器和数据库之间的数据交互和信息交互是维持通信的基础。传统的通信是基于java程序实现的。
在现有的通信架构中,基于java程序是不借助spark、mapreduce等框架的,这也使得不同服务器或不同进程间无法通信。因此,在处理同一任务时,仅能采用同一服务器的同一进程多线程处理任务,其容易出现多线程锁而导致通信延迟的问题。
图1是本公开所基于的网络架构示意图,如图1所示的,本公开所基于的网络架构包括多服务器系统1以及数据库2,其中,多服务器系统1中包括有多个服务器,其每一服务器中均设置有多个处理进程和一个分配进程。通过网络,该各服务器种的各进程可于数据库取得信息交互并进行数据传输,从而完成对于通信任务和数据的处理。其中,多服务器系统1以及数据库2均可为设置在云端的服务器或服务器集群。
在本公开提供的技术方案中,通过在服务器中设置有分配进程,以使得分配进程可针对于任务处理进行有效分配,即使得多个处理进程可针对同一任务,同时执行处理,有效提高了处理效率。
第一方面,本公开提供了一种数据处理方法,图2为本公开提供的一种数据处理方法的流程示意图。
如图2所示的,该数据处理方法,包括:
步骤101、针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间。
步骤102、目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的。
步骤103、目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务。
本公开示例提供的数据处理方法的执行主体为前述的多服务器系统,该多服务器系统可与存储有数据的数据库通过网络进行连接,以实现数据交互和信息交互。需要说明的是,该数据库中存储的数据可包括多种,其包括但不限于通信用户的用户数据、通信连接的联通数据、通信分析中的通信产生的过程数据等等;相应的,其多服务器系统执行的任务将于数据对应,如数据为通信分析中的通信产生的过程数据时,其任务可为通信分析任务。
具体来说,在本公开实施例中,该多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程。其中,在面对多服务器系统中的任一服务器时,均可将其作为目标服务器。随后,该目标服务器内的多个处理进程将向数据库发送心跳信息,其中,该心跳信息是按照预设时间间隔发送的,预设时间间隔则可由本领域技术人员自行设置。此外,心跳信息用于表示处理进程的当前状态,具体的,心跳信息中可包括处理进程标识和目标服务器标识,以及心跳时间。其中的处理进程标识和目标服务器标识分别用于表示处理进程的身份以及目标服务器的身份;而心跳时间则指代的是生成心跳信息的时间。
随后,分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的。
具体的,针对多线程锁造成延迟的问题,在本公开实施例中,在分配进程分配任务时,可为每一处理进程分配与之相应的数据源,即多个处理进程理的是不同的源数据,所以不需要前述的线程锁,从而大大减少延迟。具体的任务所需的多个数据源的源标识是数据库对任务所需数据的字段进行哈希处理获得的,即分配进程将依据一个字段(比如号码)做哈希运算,以将数据源分配给不同的处理进程。
此外,在分配进程进行任务分配的过程中,其还根据所述各心跳信息中的心跳时间,确定处于活动状态的至少一个目标处理进程;将任务分配至所述至少一个目标处理进程的处理进程,并生成相应的生成任务信息,即分配进程从数据库存储的心跳信息中对保持活动状态的处理进程进行识别,一般的当心跳时间与当前时间之间的差值超过一段时间时,该处理进程则为死亡状态,死亡状态下的处理进程将不被分配任务;反之,当心跳时间与当前之间的差值不超过一段时间时,该处理状态为活动状态,活动状态下的处理进程将被分配任务。
最后,目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务。
此外,目标服务器的分配进程,和/或,各处理进程,采用异步接收的方式,接收所述数据库发送的各心跳信息,和/或,任务信息。具体的,在接收数据库发送的各心跳信息,和/或,任务信息时,由于数据库在基于kafka的单线程进行消息发送时容易出现信息发送延迟的问题,在本公开实施例中,目标服务器的分配进程,和/或,各处理进程将通过不同线程对应的队列接收来自数据库的信息,即数据库在发送信息时会将待发送的信息通过各线程放到一个或多个队列中,每个队列将采用批量异步的方式发送这些信息,有效提高信息的传输效率。
在可选实施例中,针对数据库在读写时容易产生延迟的问题,本公开采用了每隔一段时间或一定数量,批量读写数据库中信息的方案,从而在很大程度减少延迟。
具体的,服务器系统中还包括容器,所述容器用于存储多服务器中的各服务器的各进程在一段时间内向数据库发送的信息;相应的,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,包括:所述目标服务器的多个处理进程按照预设时间间隔向容器发送心跳信息,以使所述容器生成包括有多个连续的预设时间间隔的处理进程的心跳信息集合;所述容器将各处理进程的各心跳信息集合批量发送至数据库。话句话说,通过每隔一段时间或一定数量,处理进程把相应的要处理的数据和操作类型放到一个容器里面,比如hashMap;随后由容器基于pipeline批量提交一个容器所有的数据至数据库中,以降低批量读写中的延迟。
本公开提供的数据处理方法,针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务,从而多服务器多处理进程同步处理同一任务,提高了处理效率。
图3为本公开示例提供的另一数据处理方法的流程示意图,如图3所示的,该数据处理方法,包括:
步骤201、接收多服务器系统中的任一目标服务器中的各处理进程按照预设时间间隔发送心跳信息,并将所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
步骤202、向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,接收所述分配进程发送的任务信息并存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
步骤203、向目标服务器的多个处理进程发送所述任务信息,以供所述各处理进程根据所述任务信息执行处理任务。
具体来说,本实施例提供的处理方法适用于数据库,所述数据库用于与多服务器系统进行交互,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程。
可选的,所述向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,还包括:
对任务所需数据的字段进行哈希处理,并将处理获得的所述任务所需的多个数据源的源标识发送至分配进程。
具体的,数据库在面对对多线程锁造成延迟的问题时,将会对任务所需数据的字段进行哈希处理,以供分配进程将数据源分配给不同的处理进程。
可选的,在其他可选的实施例中,数据库向所述目标服务器的分配进程,和/或,各处理进程,异步发送各心跳信息,和/或,任务信息。
在本公开实施例中,目标服务器的分配进程,和/或,各处理进程将通过不同线程对应的队列接收来自数据库的信息,即数据库在发送信息时会将待发送的信息通过各线程放到一个或多个队列中,每个队列将采用批量异步的方式发送这些信息,有效提高信息的传输效率。
本公开提供的数据处理方法,针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务,从而多服务器多处理进程同步处理同一任务,提高了处理效率。
图4为本公开提供的一种多服务器10系统的结构示意图,如4所示的,多服务器10系统,包括:
包括多个服务器10,每个服务器10包括有多个处理进程101和一个分配进程102;
其中,针对多服务器10系统中的任一目标服务器10,所述目标服务器10的多个处理进程101用于按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程101标识和目标服务器10标识,以及心跳时间;
目标服务器10的分配进程102用于获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程101标识,所述处理每个数据源的一一对应的处理进程101标识是根据所述心跳时间确定的;
目标服务器10的多个处理进程101用于获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务。
可选的,所述任务所需的多个数据源的源标识是数据库对任务所需数据的字段进行哈希处理获得的。
可选的,所述多服务器10系统中还包括容器,所述容器用于存储多服务器10中的各服务器10的各进程在一段时间内向数据库发送的信息;
相应的,所述目标服务器10的多个处理进程101按照预设时间间隔向容器发送心跳信息,以使所述容器生成包括有多个连续的预设时间间隔的处理进程101的心跳信息集合;
所述容器将各处理进程101的各心跳信息集合批量发送至数据库。
可选的,所述目标服务器10的分配进程102,和/或,各处理进程101,采用异步接收的方式,接收所述数据库发送的各心跳信息,和/或,任务信息。
可选的,所述目标服务器10的分配进程102根据所述各心跳信息中的心跳时间,确定处于活动状态的至少一个目标处理进程101;
将任务分配至所述至少一个目标处理进程101的处理进程101,并生成相应的生成任务信息。
所述领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统的具体工作过程以及相应的有益效果,可以参考前述方法示例中的对应过程,在此不再赘述。
本公开提供的多服务器系统,针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务,从而多服务器多处理进程同步处理同一任务,提高了处理效率。
图5为本公开提供的一种数据库的结构示意图,如5所示的,数据库包括:
数据库用于与多服务器系统进行交互,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
其中,所述数据库包括:
接收模块20,用于接收多服务器系统中的任一目标服务器中的各处理进程按照预设时间间隔发送心跳信息,并将所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
发送模块21,用于向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,接收所述分配进程发送的任务信息并存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
所述发送模块21还用于向目标服务器的多个处理进程发送所述任务信息,以供所述各处理进程根据所述任务信息执行处理任务。
可选的,还包括:处理模块;
处理模块用于对任务所需数据的字段进行哈希处理,以使发送模块21将处理获得的所述任务所需的多个数据源的源标识发送至分配进程。
可选的,所述发送模块21用于向所述目标服务器的分配进程,和/或,各处理进程,异步发送各心跳信息,和/或,任务信息。
所述领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统的具体工作过程以及相应的有益效果,可以参考前述方法示例中的对应过程,在此不再赘述。
本公开提供的数据处理方法,针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务,从而多服务器多处理进程同步处理同一任务,提高了处理效率。
下一方面,本实施例还提供了电子设备,可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,本实施例此处不再赘述。
参考图6,其示出了适于用来实现本公开实施例的电子设备900的结构示意图,该电子设备900可以为终端设备或服务器。其中,终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal Digital Assistant,简称PDA)、平板电脑(Portable Android Device,简称PAD)、便携式多媒体播放器(Portable MediaPlayer,简称PMP)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备900可以包括处理装置(例如中央处理器、图形处理器等)901,其可以根据存储在只读存储器(Read Only Memory,简称ROM)902中的程序或者从存储装置908加载到随机访问存储器(Random Access Memory,简称RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中,还存储有电子设备900操作所需的各种程序和数据。处理装置901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
通常,以下装置可以连接至I/O接口905:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置906;包括例如液晶显示器(Liquid CrystalDisplay,简称LCD)、扬声器、振动器等的输出装置907;包括例如磁带、硬盘等的存储装置908;以及通信装置909。通信装置909可以允许电子设备900与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备900,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置909从网络上被下载和安装,或者从存储装置908被安装,或者从ROM 902被安装。在该计算机程序被处理装置901执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述实施例所示的方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network,简称LAN)或广域网(Wide Area Network,简称WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (12)
1.一种数据处理方法,其特征在于,所述处理方法适用于多服务器系统,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
所述处理方法包括:
针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
目标服务器的多个处理进程获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务。
2.根据权利要求1所述的处理方法,其特征在于,所述任务所需的多个数据源的源标识是数据库对任务所需数据的字段进行哈希处理获得的。
3.根据权利要求1所述的处理方法,其特征在于,所述多服务器系统中还包括容器,所述容器用于存储多服务器中的各服务器的各进程在一段时间内向数据库发送的信息;
相应的,所述目标服务器的多个处理进程按照预设时间间隔向数据库发送心跳信息,包括:
所述目标服务器的多个处理进程按照预设时间间隔向容器发送心跳信息,以使所述容器生成包括有多个连续的预设时间间隔的处理进程的心跳信息集合;
所述容器将各处理进程的各心跳信息集合批量发送至数据库。
4.根据权利要求1所述的处理方法,其特征在于,所述目标服务器的分配进程,和/或,各处理进程,采用异步接收的方式,接收所述数据库发送的各心跳信息,和/或,任务信息。
5.根据权利要求1-4任一项所述的处理方法,其特征在于,所述目标服务器的分配进程获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,包括:
根据所述各心跳信息中的心跳时间,确定处于活动状态的至少一个目标处理进程;
将任务分配至所述至少一个目标处理进程的处理进程,并生成相应的生成任务信息。
6.一种数据处理方法,其特征在于,所述处理方法适用于数据库,所述数据库用于与多服务器系统进行交互,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
所述处理方法包括:
接收多服务器系统中的任一目标服务器中的各处理进程按照预设时间间隔发送心跳信息,并将所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,接收所述分配进程发送的任务信息并存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
向目标服务器的多个处理进程发送所述任务信息,以供所述各处理进程根据所述任务信息执行处理任务。
7.根据权利要求6所述的处理方法,其特征在于,所述向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,还包括:
对任务所需数据的字段进行哈希处理,并将处理获得的所述任务所需的多个数据源的源标识发送至分配进程。
8.根据权利要求6或7所述的处理方法,其特征在于,还包括:
向所述目标服务器的分配进程,和/或,各处理进程,异步发送各心跳信息,和/或,任务信息。
9.一种多服务器系统,其特征在于,包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
其中,针对多服务器系统中的任一目标服务器,所述目标服务器的多个处理进程用于按照预设时间间隔向数据库发送心跳信息,以供所述数据库对所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
目标服务器的分配进程用于获取所述数据库存储的各心跳信息,并根据所述各心跳信息生成任务信息,将所述任务信息发送至数据库以供其存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
目标服务器的多个处理进程用于获取所述数据库存储的任务信息,并根据所述任务信息执行处理任务。
10.一种数据库,其特征在于,所述数据库用于与多服务器系统进行交互,所述多服务器系统包括多个服务器,每个服务器包括有多个处理进程和一个分配进程;
其中,所述数据库包括:
接收模块,用于接收多服务器系统中的任一目标服务器中的各处理进程按照预设时间间隔发送心跳信息,并将所述心跳信息进行存储;其中,心跳信息包括处理进程标识和目标服务器标识,以及心跳时间;
发送模块,用于向目标服务器的分配进程发送各心跳信息,以供所述分配进程根据所述各心跳信息生成任务信息,接收所述分配进程发送的任务信息并存储;其中,所述任务信息包括有任务所需的多个数据源的源标识以及处理每个数据源的一一对应的处理进程标识,所述处理每个数据源的一一对应的处理进程标识是根据所述心跳时间确定的;
所述发送模块还用于向目标服务器的多个处理进程发送所述任务信息,以供所述各处理进程根据所述任务信息执行处理任务。
11.一种电子设备,其特征在于,包括:
处理器和存储器;
其中,所述存储器用于存储所述处理器的可执行指令;
当所述处理器执行所述可执行指令时,可以执行上述权利要求1-8中任一项所述的方法。
12.一种存储介质,其特征在于,包括指令,当所述指令在计算机上运行时,所述计算机可以执行上述权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010203363.0A CN111427706B (zh) | 2020-03-20 | 2020-03-20 | 数据处理方法、多服务器系统、数据库、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010203363.0A CN111427706B (zh) | 2020-03-20 | 2020-03-20 | 数据处理方法、多服务器系统、数据库、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111427706A CN111427706A (zh) | 2020-07-17 |
CN111427706B true CN111427706B (zh) | 2023-06-20 |
Family
ID=71548484
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010203363.0A Active CN111427706B (zh) | 2020-03-20 | 2020-03-20 | 数据处理方法、多服务器系统、数据库、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111427706B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114095523B (zh) * | 2020-07-30 | 2023-03-14 | 比亚迪股份有限公司 | 综合调度系统中的通信数据处理方法、设备及系统 |
CN112532704B (zh) * | 2020-11-20 | 2023-07-28 | 京东方科技集团股份有限公司 | 数据传输方法、装置、电子设备及存储介质 |
CN113220780B (zh) * | 2021-04-29 | 2023-12-05 | 北京字跳网络技术有限公司 | 一种数据处理方法、装置、设备及介质 |
CN113242284B (zh) * | 2021-04-30 | 2022-11-22 | 北京有竹居网络技术有限公司 | 通信方法、装置及通信系统 |
CN113438122B (zh) * | 2021-05-14 | 2022-05-17 | 济南浪潮数据技术有限公司 | 一种服务器的心跳管理方法、装置、计算机设备及介质 |
CN114844810B (zh) * | 2022-05-30 | 2024-04-26 | 中国建设银行股份有限公司 | 心跳数据处理方法、装置、设备及介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106547670A (zh) * | 2016-10-10 | 2017-03-29 | 许昌许继软件技术有限公司 | 远程读、写嵌入式Linux应用程序内存变量值的方法及装置 |
CN106933659A (zh) * | 2015-12-30 | 2017-07-07 | 华为技术有限公司 | 管理进程的方法和装置 |
CN108337314A (zh) * | 2018-02-07 | 2018-07-27 | 北京百度网讯科技有限公司 | 分布式系统、用于主服务器的信息处理方法和装置 |
CN109725999A (zh) * | 2018-12-26 | 2019-05-07 | 亚信科技(中国)有限公司 | 一种调度进程的管理方法和装置 |
CN109814998A (zh) * | 2019-01-22 | 2019-05-28 | 中国联合网络通信集团有限公司 | 一种多进程任务调度的方法及装置 |
CN110377416A (zh) * | 2018-12-04 | 2019-10-25 | 天津京东深拓机器人科技有限公司 | 分布式分区任务调度方法和装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8549536B2 (en) * | 2009-11-30 | 2013-10-01 | Autonomy, Inc. | Performing a workflow having a set of dependancy-related predefined activities on a plurality of task servers |
US9710306B2 (en) * | 2012-04-09 | 2017-07-18 | Nvidia Corporation | Methods and apparatus for auto-throttling encapsulated compute tasks |
US9459933B1 (en) * | 2015-01-30 | 2016-10-04 | Amazon Technologies, Inc. | Contention and selection of controlling work coordinator in a distributed computing environment |
-
2020
- 2020-03-20 CN CN202010203363.0A patent/CN111427706B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106933659A (zh) * | 2015-12-30 | 2017-07-07 | 华为技术有限公司 | 管理进程的方法和装置 |
CN106547670A (zh) * | 2016-10-10 | 2017-03-29 | 许昌许继软件技术有限公司 | 远程读、写嵌入式Linux应用程序内存变量值的方法及装置 |
CN108337314A (zh) * | 2018-02-07 | 2018-07-27 | 北京百度网讯科技有限公司 | 分布式系统、用于主服务器的信息处理方法和装置 |
CN110377416A (zh) * | 2018-12-04 | 2019-10-25 | 天津京东深拓机器人科技有限公司 | 分布式分区任务调度方法和装置 |
CN109725999A (zh) * | 2018-12-26 | 2019-05-07 | 亚信科技(中国)有限公司 | 一种调度进程的管理方法和装置 |
CN109814998A (zh) * | 2019-01-22 | 2019-05-28 | 中国联合网络通信集团有限公司 | 一种多进程任务调度的方法及装置 |
Non-Patent Citations (2)
Title |
---|
Cumulus: A distributed and flexible computing testbed for edge cloud computational offloading;Hend Gedawy 等;《2016 Cloudification of the Internet of Things (CIoT)》;1-6 * |
基于Web技术的物联网数据云平台的设计与实现;卢培鹏;《中国优秀硕士学位论文全文数据库 信息科技辑》(第2期);I138-1544 * |
Also Published As
Publication number | Publication date |
---|---|
CN111427706A (zh) | 2020-07-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111427706B (zh) | 数据处理方法、多服务器系统、数据库、电子设备及存储介质 | |
CN114020470B (zh) | 资源分配方法、装置、可读介质及电子设备 | |
CN109582310B (zh) | 数据处理方法、装置、电子设备及计算机可读存储介质 | |
CN112379982B (zh) | 任务处理方法、装置、电子设备及计算机可读存储介质 | |
CN111625422B (zh) | 线程监控方法、装置、电子设备及计算机可读存储介质 | |
CN113722056A (zh) | 任务调度方法、装置、电子设备和计算机可读介质 | |
CN110673959A (zh) | 用于处理任务的系统、方法和装置 | |
CN115237589A (zh) | 一种基于sr-iov的虚拟化方法、装置和设备 | |
CN110910469A (zh) | 一种绘制笔迹的方法、装置、介质和电子设备 | |
CN111596992B (zh) | 导航栏展示方法、装置和电子设备 | |
CN112418389A (zh) | 数据处理方法、装置、电子设备及计算机可读存储介质 | |
CN112100211B (zh) | 数据存储方法、装置、电子设备和计算机可读介质 | |
CN111459893B (zh) | 文件处理方法、装置和电子设备 | |
CN111538717A (zh) | 数据处理的方法、装置、电子设备及计算机可读介质 | |
CN114153620B (zh) | Hudi运行环境资源优化分配方法及装置 | |
CN114651237A (zh) | 数据处理方法、装置、电子设备及计算机可读存储介质 | |
CN115225586B (zh) | 数据包发送方法、装置、设备及计算机可读存储介质 | |
CN113792869B (zh) | 基于神经网络芯片的视频处理方法、装置和电子设备 | |
CN116755889B (zh) | 应用于服务器集群数据交互的数据加速方法、装置与设备 | |
CN117170986B (zh) | 芯片一致性处理系统,及其方法、装置、设备及介质 | |
CN111309549B (zh) | 监控方法、系统、可读介质及电子设备 | |
CN110633324B (zh) | 用于同步数据的方法、装置、电子设备和计算机可读介质 | |
CN117640796A (zh) | 网络报文处理方法及设备 | |
CN116821379A (zh) | 一种多媒体数据处理方法、装置、电子设备及介质 | |
CN114968516A (zh) | 调度方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |