CN114428682B - 一种超时任务处理方法、系统、存储介质及设备 - Google Patents
一种超时任务处理方法、系统、存储介质及设备 Download PDFInfo
- Publication number
- CN114428682B CN114428682B CN202210076085.6A CN202210076085A CN114428682B CN 114428682 B CN114428682 B CN 114428682B CN 202210076085 A CN202210076085 A CN 202210076085A CN 114428682 B CN114428682 B CN 114428682B
- Authority
- CN
- China
- Prior art keywords
- task
- overtime
- master node
- message body
- configuration information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 61
- 238000003672 processing method Methods 0.000 title claims description 16
- 238000000034 method Methods 0.000 claims abstract description 27
- 230000008569 process Effects 0.000 claims abstract description 8
- 230000006870 function Effects 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000001360 synchronised effect Effects 0.000 description 8
- 230000008901 benefit Effects 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000035755 proliferation Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种超时任务处理方法、系统、存储介质及设备，方法包括：响应于分布式存储系统接收到超时任务配置信息，将其发送至分布式存储系统所处集群内的多个主节点中的任务接收主节点；由任务接收主节点将超时任务配置信息发送至其超时任务定义模块，并由其对超时任务配置信息进行第一处理，以得到消息体；分别建立多个主节点与消息体的订阅关系，并由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块；由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点；由执行主节点对消息体进行第二处理，以得到多个超时任务，并对多个超时任务分别进行处理。本发明提升了集群处理超时任务的效率和可靠性。
Description
技术领域
本发明涉及大数据技术领域，尤其涉及一种超时任务处理方法、系统、存储介质及设备。
背景技术
随着数字经济的繁荣发展，数据存储的需求日益旺盛，分布式存储系统的规模也在持续扩大。在大规模集群中，各种业务配置、数据读写、迁移备份等功能对存储系统的要求越来越高。超时任务处理作为分布式集群的标配，也具有重要的地位。传统的超时任务处理大多采用对超时任务进行定时扫描、在内存中读取、前端定时轮询以及中间以缓存层加持来依次应对大批量超时任务的调度、分析、提交以及处理。但在大规模集群下(例如超过30个节点的集群规模)，该方案存在以下问题：
(1)分布式超时任务数据库的维护成本太高，且容易出现数据库损坏、任务丢失问题。传统模式下超时任务在数据库中存储，数据大多位于分布式存储集群的主节点，定时扫描主节点带来的节点压力集中在主节点上，导致集群负载不均衡，以及节点间IO(Input/Output，数据输入输出)繁忙度不均衡。
(2)超时任务以定时器扫描数据库，节点故障时，主节点被重新选取，需要新增逻辑处理超时任务数据库同步至新的主节点带来的任务丢失、数据库记录被覆盖的问题。
(3)不同业务逻辑的超时任务分散在各个业务层，单主节点超时任务的数量限制了存储集群处理超时任务的并发能力；超时任务的逻辑分散夹杂在各业务逻辑之间，分层分库处理麻烦，缺少管理模块以及服务化流程。
发明内容
有鉴于此，本发明的目的在于提出一种超时任务处理方法、系统、存储介质及设备，用以解决现有技术中超时任务处理不稳定且效率低的问题。
基于上述目的，本发明提供了一种超时任务处理方法，包括以下步骤：
响应于分布式存储系统接收到超时任务配置信息，将超时任务配置信息发送至分布式存储系统所处集群内的多个主节点中的任务接收主节点；
由任务接收主节点将接收到的超时任务配置信息发送至其超时任务定义模块，并由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体；
分别建立多个主节点与消息体的订阅关系，并由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块；
由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点；
由执行主节点对消息体进行第二处理，以得到多个超时任务，并对多个超时任务分别进行处理。
在一些实施例中，由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点包括：
由任务接收主节点的调度模块基于多个主节点的负载情况选取出多个主节点中负载压力最小的主节点作为执行主节点。
在一些实施例中，由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体包括：
由超时任务定义模块对超时任务配置信息进行编码，以得到消息体。
在一些实施例中，由执行主节点对消息体进行第二处理，以得到多个超时任务包括：
由执行主节点对消息体进行解码，以得到解码数据，并对解码数据进行拆分处理，以得到多个超时任务。
在一些实施例中，分别建立多个主节点与消息体的订阅关系包括：
利用多个主节点各自的订阅模块分别建立多个主节点与消息体的订阅关系。
在一些实施例中，由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块包括：
由任务接收主节点基于订阅关系通过消息中间件将消息体同步至多个主节点的多个调度模块。
在一些实施例中，超时任务配置信息至少包括超时任务标识号、超时任务名称、超时任务状态以及超时任务关联的功能业务。
本发明的另一方面，还提供了一种超时任务处理系统，包括：
任务配置信息发送模块，配置用于响应于分布式存储系统接收到超时任务配置信息，将超时任务配置信息发送至分布式存储系统所处集群内的多个主节点中的任务接收主节点；
消息体获得模块，配置用于由任务接收主节点将接收到的超时任务配置信息发送至其超时任务定义模块，并由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体；
同步模块，配置用于分别建立多个主节点与消息体的订阅关系，并由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块；
选取模块，配置用于由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点；以及
超时任务获得模块，配置用于由执行主节点对消息体进行第二处理，以得到多个超时任务，并对多个超时任务分别进行处理。
本发明的又一方面，还提供了一种计算机可读存储介质，存储有计算机程序指令，该计算机程序指令被处理器执行时实现上述方法。
本发明的再一方面，还提供了一种计算机设备，包括存储器和处理器，存储器中存储有计算机程序，该计算机程序被处理器执行时执行上述方法。
本发明至少具有以下有益技术效果：
本发明通过设置多个主节点，并在每个主节点中设置超时任务定义模块和调度模块，可以在多个主节点之间进行信息同步，避免超时任务丢失；通过根据预设调度策略来选取合适的执行主节点，可以避免现有技术中一个主节点在负载压力大的情况下还需要承担对超时任务的监控或处理，从而避免了集群对超时任务处理的性能下降情况，有效提升了集群对超时任务处理的效率和可靠性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的实施例。
图1为根据本发明实施例提供的超时任务处理方法的示意图；
图2为根据本发明实施例提供的实现超时任务处理方法的结构示意图；
图3为根据本发明实施例提供的超时任务处理系统的示意图；
图4为根据本发明实施例提供的实现超时任务处理方法的计算机可读存储介质的示意图；
图5为根据本发明实施例提供的执行超时任务处理方法的计算机设备的硬件结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。
需要说明的是，本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称的非相同的实体或者非相同的参量，可见“第一”“第二”仅为了表述的方便，不应理解为对本发明实施例的限定。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备固有的其他步骤或单元。
基于上述目的，本发明实施例的第一个方面，提出了一种超时任务处理方法的实施例。图1示出的是本发明提供的超时任务处理方法的实施例的示意图。如图1所示，本发明实施例包括如下步骤：
步骤S10、响应于分布式存储系统接收到超时任务配置信息，将超时任务配置信息发送至分布式存储系统所处集群内的多个主节点中的任务接收主节点；
步骤S20、由任务接收主节点将接收到的超时任务配置信息发送至其超时任务定义模块，并由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体；
步骤S30、分别建立多个主节点与消息体的订阅关系，并由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块；
步骤S40、由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点；
步骤S50、由执行主节点对消息体进行第二处理，以得到多个超时任务，并对多个超时任务分别进行处理。
本发明实施例中，通过设置多个主节点，并在每个主节点中设置超时任务定义模块和调度模块，可以在多个主节点之间进行信息同步，避免超时任务丢失；通过根据预设调度策略来选取合适的执行主节点，可以避免现有技术中一个主节点在负载压力大的情况下还需要承担对超时任务的监控或处理，从而避免了集群对超时任务处理的性能下降情况，有效提升了集群对超时任务处理的效率和可靠性。
在一些实施例中，由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点包括：由任务接收主节点的调度模块基于多个主节点的负载情况选取出多个主节点中负载压力最小的主节点作为执行主节点。
图2示出了根据本发明实施例提供的实现超时任务处理方法的结构示意图。如图2所示，以集群中有3个主节点为例，节点1、节点2、节点3均为集群中的主节点，且节点2为任务接收主节点，集群中的子节点未示出。节点2的超时任务调度模块会评估节点1、节点2、节点3的负载情况，从中选出负载压力最小的主节点作为执行主节点。如果节点2负载压力最小，会继续由节点2来担任执行主节点；如果是节点1负载压力最小，则由节点1担任执行主节点；如果是节点3负载压力最小，则由节点3担任执行主节点。
在一些实施例中，由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体包括：由超时任务定义模块对超时任务配置信息进行编码，以得到消息体。
本实施例中，超时任务定义模块会对超时任务配置信息进行解码，生成消息通道可传输的数据格式，从而得到消息体。
在一些实施例中，由执行主节点对消息体进行第二处理，以得到多个超时任务包括：由执行主节点对消息体进行解码，以得到解码数据，并对解码数据进行拆分处理，以得到多个超时任务。
本实施例中，超时任务配置信息中具有多项超时任务的信息，因而通过对消息体进行解码处理和拆分处理，从而得到多个超时任务。
在一些实施例中，分别建立多个主节点与消息体的订阅关系包括：利用多个主节点各自的订阅模块分别建立多个主节点与消息体的订阅关系。
本实施例中，订阅是一种消息范式，通常是更大的面向消息中间件系统的一部分。大多数消息系统在API(Application Programming Interface，应用程序编程接口)中同时支持消息队列模型和发布/订阅模型。这种模式提供了更大的网络可扩展性和更动态的网络拓扑。
在一些实施例中，由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块包括：由任务接收主节点基于订阅关系通过消息中间件将消息体同步至多个主节点的多个调度模块。
本实施例中，消息中间件是基于队列与消息传递技术，在网络环境中为应用系统提供同步或异步、可靠的消息传输的支撑性软件系统。消息中间件适用于需要可靠的数据传送的分布式环境。采用消息中间件机制的系统中，不同的对象之间通过传递消息来激活对方的事件，完成相应的操作。发送者将消息发送给消息服务器，消息服务器将消息存放在若干队列中，在合适的时候再将消息转发给接收者。消息中间件能在不同平台之间通信，它常被用来屏蔽掉各种平台及协议之间的特性，实现应用程序之间的协同，其优点在于能够在客户和服务器之间提供同步和异步的连接，并且在任何时刻都可以将消息进行传送或者存储转发，这也是它比远程过程调用更进一步的原因。
在一些实施例中，超时任务配置信息至少包括超时任务标识号、超时任务名称、超时任务状态以及超时任务关联的功能业务。
本实施例中，在存储管理软件上按照业务类型可以配置超时任务的详细参数或者通过模板提供超时任务配置。内部逻辑层约定超时任务数据库记录表统一的格式和参数描述符，对外提供统一的超时任务定义、注册接口。表1示出了超时任务配置信息表格式：
表1 超时任务配置信息表结构
本发明实施例的第二个方面，还提供了一种超时任务处理系统。图3示出的是本发明提供的超时任务处理系统的实施例的示意图。如图3所示，一种超时任务处理系统包括：任务配置信息发送模块10，配置用于响应于分布式存储系统接收到超时任务配置信息，将超时任务配置信息发送至分布式存储系统所处集群内的多个主节点中的任务接收主节点；消息体获得模块20，配置用于由任务接收主节点将接收到的超时任务配置信息发送至其超时任务定义模块，并由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体；同步模块30，配置用于分别建立多个主节点与消息体的订阅关系，并由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块；选取模块40，配置用于由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点；以及超时任务获得模块50，配置用于由执行主节点对消息体进行第二处理，以得到多个超时任务，并对多个超时任务分别进行处理。
在一些实施例中，选取模块40进一步配置用于由任务接收主节点的调度模块基于多个主节点的负载情况选取出多个主节点中负载压力最小的主节点作为执行主节点。
在一些实施例中，消息体获得模块20包括第一处理模块，配置用于由超时任务定义模块对超时任务配置信息进行编码，以得到消息体。
在一些实施例中，超时任务获得模块50包括第二处理模块，配置用于由执行主节点对消息体进行解码，以得到解码数据，并对解码数据进行拆分处理，以得到多个超时任务。
在一些实施例中，同步模块30包括订阅关系建立模块，配置用于利用多个主节点各自的订阅模块分别建立多个主节点与消息体的订阅关系。
在一些实施例中，同步模块30包括消息体同步模块，配置用于由任务接收主节点基于订阅关系通过消息中间件将消息体同步至多个主节点的多个调度模块。
在一些实施例中，超时任务配置信息至少包括超时任务标识号、超时任务名称、超时任务状态以及超时任务关联的功能业务。
本发明实施例的超时任务处理系统，通过设置多个主节点，并在每个主节点中设置超时任务定义模块和调度模块，可以在多个主节点之间进行信息同步，避免超时任务丢失；通过根据预设调度策略来选取合适的执行主节点，可以避免现有技术中一个主节点在负载压力大的情况下还需要承担对超时任务的监控或处理，从而避免了集群对超时任务处理的性能下降情况，有效提升了集群对超时任务处理的效率和可靠性。
本发明实施例的第三个方面，还提供了一种计算机可读存储介质，图4示出了根据本发明实施例提供的实现超时任务处理方法的计算机可读存储介质的示意图。如图4所示，计算机可读存储介质3存储有计算机程序指令31。该计算机程序指令31被处理器执行时实现如下步骤：
响应于分布式存储系统接收到超时任务配置信息，将超时任务配置信息发送至分布式存储系统所处集群内的多个主节点中的任务接收主节点；
由任务接收主节点将接收到的超时任务配置信息发送至其超时任务定义模块，并由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体；
分别建立多个主节点与消息体的订阅关系，并由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块；
由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点；
由执行主节点对消息体进行第二处理，以得到多个超时任务，并对多个超时任务分别进行处理。
在一些实施例中，由任务接收主节点的调度模块按照预设调度策略在多个主节点中选取出执行主节点包括：由任务接收主节点的调度模块基于多个主节点的负载情况选取出多个主节点中负载压力最小的主节点作为执行主节点。
在一些实施例中，由超时任务定义模块对超时任务配置信息进行第一处理，以得到消息体包括：由超时任务定义模块对超时任务配置信息进行编码，以得到消息体。
在一些实施例中，由执行主节点对消息体进行第二处理，以得到多个超时任务包括：由执行主节点对消息体进行解码，以得到解码数据，并对解码数据进行拆分处理，以得到多个超时任务。
在一些实施例中，分别建立多个主节点与消息体的订阅关系包括：利用多个主节点各自的订阅模块分别建立多个主节点与消息体的订阅关系。
在一些实施例中，由任务接收主节点基于订阅关系将消息体同步至多个主节点的多个调度模块包括：由任务接收主节点基于订阅关系通过消息中间件将消息体同步至多个主节点的多个调度模块。
在一些实施例中，超时任务配置信息至少包括超时任务标识号、超时任务名称、超时任务状态以及超时任务关联的功能业务。
应当理解，在相互不冲突的情况下，以上针对根据本发明的超时任务处理方法阐述的所有实施方式、特征和优势同样地适用于根据本发明的超时任务处理系统和存储介质。
本发明实施例的第四个方面，还提供了一种计算机设备，包括如图5所示的存储器402和处理器401，该存储器402中存储有计算机程序，该计算机程序被该处理器401执行时实现上述任意一项实施例的方法。
如图5所示，为本发明提供的执行超时任务处理方法的计算机设备的一个实施例的硬件结构示意图。以如图5所示的计算机设备为例，在该计算机设备中包括一个处理器401以及一个存储器402，并还可以包括：输入装置403和输出装置404。处理器401、存储器402、输入装置403和输出装置404可以通过总线或者其他方式连接，图5中以通过总线连接为例。输入装置403可接收输入的数字或字符信息，以及产生与超时任务处理系统的用户设置以及功能控制有关的键信号输入。输出装置404可包括显示屏等显示设备。
存储器402作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本申请实施例中的超时任务处理方法对应的程序指令/模块。存储器402可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储超时任务处理方法的使用所创建的数据等。此外，存储器402可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，存储器402可选包括相对于处理器401远程设置的存储器，这些远程存储器可以通过网络连接至本地模块。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
处理器401通过运行存储在存储器402中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例的超时任务处理方法。
最后需要说明的是，本文的计算机可读存储介质(例如，存储器)可以是易失性存储器或非易失性存储器，或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的，非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦写可编程ROM(EEPROM)或快闪存储器。易失性存储器可以包括随机存取存储器(RAM)，该RAM可以充当外部高速缓存存储器。作为例子而非限制性的，RAM可以以多种形式获得，比如同步RAM(DRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDRSDRAM)、增强SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)、以及直接Rambus RAM(DRRAM)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。
本领域技术人员还将明白的是，结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性，已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现的功能，但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。
结合这里的公开所描述的各种示例性逻辑块、模块和电路可以利用被设计成用于执行这里功能的下列部件来实现或执行：通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。通用处理器可以是微处理器，但是可替换地，处理器可以是任何传统处理器、控制器、微控制器或状态机。处理器也可以被实现为计算设备的组合，例如，DSP和微处理器的组合、多个微处理器、一个或多个微处理器结合DSP和/或任何其它这种配置。
以上是本发明公开的示例性实施例，但是应当注意，在不背离权利要求限定的本发明实施例公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本发明实施例公开的元素可以以个体形式描述或要求，但除非明确限制为单数，也可以理解为多个。
应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。上述本发明实施例公开实施例序号仅仅为了描述，不代表实施例的优劣。
所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。
Claims (9)
1.一种超时任务处理方法，其特征在于，包括以下步骤：
响应于分布式存储系统接收到超时任务配置信息，将所述超时任务配置信息发送至所述分布式存储系统所处集群内的多个主节点中的任务接收主节点；
由所述任务接收主节点将接收到的所述超时任务配置信息发送至其超时任务定义模块，并由所述超时任务定义模块对所述超时任务配置信息进行第一处理，以得到消息体；
分别建立所述多个主节点与所述消息体的订阅关系，并由所述任务接收主节点基于所述订阅关系将所述消息体同步至所述多个主节点的多个调度模块；
由所述任务接收主节点的调度模块按照预设调度策略在所述多个主节点中选取出执行主节点；
由所述执行主节点对所述消息体进行第二处理，以得到多个超时任务，并对所述多个超时任务分别进行处理；
所述由所述任务接收主节点的调度模块按照预设调度策略在所述多个主节点中选取出执行主节点包括：
由所述任务接收主节点的调度模块基于所述多个主节点的负载情况选取出所述多个主节点中负载压力最小的主节点作为执行主节点。
2.根据权利要求1所述的方法，其特征在于，由所述超时任务定义模块对所述超时任务配置信息进行第一处理，以得到消息体包括：
由所述超时任务定义模块对所述超时任务配置信息进行编码，以得到消息体。
3.根据权利要求1所述的方法，其特征在于，由所述执行主节点对所述消息体进行第二处理，以得到多个超时任务包括：
由所述执行主节点对所述消息体进行解码，以得到解码数据，并对所述解码数据进行拆分处理，以得到多个超时任务。
4.根据权利要求1所述的方法，其特征在于，分别建立所述多个主节点与所述消息体的订阅关系包括：
利用所述多个主节点各自的订阅模块分别建立所述多个主节点与所述消息体的订阅关系。
5.根据权利要求1所述的方法，其特征在于，由所述任务接收主节点基于所述订阅关系将所述消息体同步至所述多个主节点的多个调度模块包括：
由所述任务接收主节点基于所述订阅关系通过消息中间件将所述消息体同步至所述多个主节点的多个调度模块。
6.根据权利要求1所述的方法，其特征在于，所述超时任务配置信息至少包括超时任务标识号、超时任务名称、超时任务状态以及超时任务关联的功能业务。
7.一种超时任务处理系统，其特征在于，包括：
任务配置信息发送模块，配置用于响应于分布式存储系统接收到超时任务配置信息，将所述超时任务配置信息发送至所述分布式存储系统所处集群内的多个主节点中的任务接收主节点；
消息体获得模块，配置用于由所述任务接收主节点将接收到的所述超时任务配置信息发送至其超时任务定义模块，并由所述超时任务定义模块对所述超时任务配置信息进行第一处理，以得到消息体；
同步模块，配置用于分别建立所述多个主节点与所述消息体的订阅关系，并由所述任务接收主节点基于所述订阅关系将所述消息体同步至所述多个主节点的多个调度模块；
选取模块，配置用于由所述任务接收主节点的调度模块按照预设调度策略在所述多个主节点中选取出执行主节点；以及
超时任务获得模块，配置用于由所述执行主节点对所述消息体进行第二处理，以得到多个超时任务，并对所述多个超时任务分别进行处理；
所述选取模块进一步配置用于：由所述任务接收主节点的调度模块基于所述多个主节点的负载情况选取出所述多个主节点中负载压力最小的主节点作为执行主节点。
8.一种计算机可读存储介质，其特征在于，存储有计算机程序指令，所述计算机程序指令被处理器执行时实现如权利要求1-6任意一项所述的方法。
9.一种计算机设备，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时执行如权利要求1-6任意一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210076085.6A CN114428682B (zh) | 2022-01-23 | 2022-01-23 | 一种超时任务处理方法、系统、存储介质及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210076085.6A CN114428682B (zh) | 2022-01-23 | 2022-01-23 | 一种超时任务处理方法、系统、存储介质及设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114428682A CN114428682A (zh) | 2022-05-03 |
| CN114428682B true CN114428682B (zh) | 2023-11-03 |
Family
ID=81313428
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210076085.6A Active CN114428682B (zh) | 2022-01-23 | 2022-01-23 | 一种超时任务处理方法、系统、存储介质及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114428682B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110389961A (zh) * | 2019-07-26 | 2019-10-29 | 苏州浪潮智能科技有限公司 | 定时任务处理方法、装置、设备及计算机可读存储介质 |
| CN111221632A (zh) * | 2019-10-15 | 2020-06-02 | 中国平安财产保险股份有限公司 | 分布式并行任务调度方法、装置、计算机设备和存储介质 |
| CN112463144A (zh) * | 2020-12-02 | 2021-03-09 | 苏州浪潮智能科技有限公司 | 分布式存储的命令行服务方法、系统、终端及存储介质 |
| CN113448749A (zh) * | 2021-06-04 | 2021-09-28 | 山东英信计算机技术有限公司 | 一种优化执行预期定时任务的方法、系统、设备及介质 |
-
2022
- 2022-01-23 CN CN202210076085.6A patent/CN114428682B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110389961A (zh) * | 2019-07-26 | 2019-10-29 | 苏州浪潮智能科技有限公司 | 定时任务处理方法、装置、设备及计算机可读存储介质 |
| CN111221632A (zh) * | 2019-10-15 | 2020-06-02 | 中国平安财产保险股份有限公司 | 分布式并行任务调度方法、装置、计算机设备和存储介质 |
| CN112463144A (zh) * | 2020-12-02 | 2021-03-09 | 苏州浪潮智能科技有限公司 | 分布式存储的命令行服务方法、系统、终端及存储介质 |
| CN113448749A (zh) * | 2021-06-04 | 2021-09-28 | 山东英信计算机技术有限公司 | 一种优化执行预期定时任务的方法、系统、设备及介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114428682A (zh) | 2022-05-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111756811B (zh) | 一种分布式系统的主动推送的方法、系统、设备及介质 | |
| WO2016184175A1 (zh) | 数据库处理方法及装置 | |
| US20140280398A1 (en) | Distributed database management | |
| US20140222886A1 (en) | Generic distributed processing for multi-agent systems | |
| CN103927218A (zh) | 事件分发方法及系统 | |
| US10997000B1 (en) | Event publishing system for heterogeneous events | |
| CN100450105C (zh) | 一种基于java消息服务的同步消息接口实现方法 | |
| US8326913B2 (en) | Method and system for service contract discovery | |
| CN111064626A (zh) | 配置更新方法、装置、服务器及可读存储介质 | |
| CN113419876A (zh) | 远程接口代理调用方法、装置以及计算机设备、存储介质 | |
| CN111309691A (zh) | 基于总线架构的数据共享交换系统和交换方法 | |
| CN114428682B (zh) | 一种超时任务处理方法、系统、存储介质及设备 | |
| CN103338160B (zh) | 基于缓存队列的轮询业务的优化系统及优化方法 | |
| CN111475315A (zh) | 服务器及订阅通知推送控制、执行方法 | |
| CN114598662A (zh) | 消息队列集群联邦管理系统以及方法 | |
| CN114501347A (zh) | 异构系统间信息交互方法、装置及系统 | |
| CN111953760B (zh) | 数据同步方法、装置、多活系统及存储介质 | |
| CN116405547A (zh) | 消息推送方法、装置及处理器、电子设备、存储介质 | |
| CN111711620B (zh) | 实现应用间双向通信的方法、装置、设备和存储介质 | |
| CN113438281B (zh) | 一种分布式消息队列的存储方法、装置、设备及可读介质 | |
| CN115865552A (zh) | 基于消息总线的消息重发方法及装置、电子设备 | |
| CN117812134A (zh) | 物联网数据接入方法、设备及存储介质 | |
| CN114490128A (zh) | 一种异地多活架构下的数据存储方法和装置 | |
| CN116708565A (zh) | 一种基于mqtt服务的客户端与主题隔离方法及系统 | |
| CN116319988A (zh) | 一种数据处理方法、系统、存储介质及设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |