CN105426236A - 高并发状态机的实现方法、实现装置及系统 - Google Patents

Abstract

本发明提供一种高并发状态机的实现方法、实现装置及系统。所述高并发状态机的实现方法将事件索引发送至事件通知队列，并将事件指针进行保存，所述事件指针对应于事件的处理状态；根据事件的优先级将事件信息保存至事件缓存中；根据事件的优先级以事件索引为提取条件提取对应的事件信息；在调用底层处理完成事件的处理后，更新事件的处理状态；根据事件指针、事件索引获取事件的处理状态以完成事件的处理。本发明通过优化状态机的内存分配、释放机制，并引入优先级机制，提高了平台的性能、任务执行策略、响应能力及吞吐量；在高并发环境下，大大提升系统平台的接入能力以及更好的用户体验。

Description

高并发状态机的实现方法、实现装置及系统

技术领域

本发明涉及计算机领域，特别是涉及一种高并发状态机的实现方法、实现装置及系统。

背景技术

计算机应用系统已涉及当今很多业务领域，系统也日趋复杂，对性能、扩展性的要求越来越高。状态机及其理论被提出并得到了广泛的接受，并被引入到很多信息系统中。从状态的角度，信息系统在不同阶段会呈现出不同的运行状态，在某一时刻一定会处于其所有状态中的一个状态，此时它接收一部分允许的输入，产生一部分可能的响应，并且迁移到一部分可能的状态。

目前，很多软件系统都呈现日益多样、复杂的趋势，特别是多任务、高并发的环境下，多数情况下使用状态机框架是首选。在这些框架内为状态机执行定义了事件队列、事件订阅、事件分发等机制，使用的时候可以让用户更关注具体的逻辑，这也是状态机框架日益被关注、且不断进行优化、发展的原因所在。

状态机目前大致有两种类型：异步类状态机、同步类状态机。然而，面对现实情况是大量用户可能同时涌入一个应用系统时，带来的高并发只有采用异步处理方可应对，所以，异步状态机是绝大多数应用系统的首选。异步状态机是一种基于任务运行逻辑的状态机，任务在等待某个条件达到，也就是任务处于“等待状态”。任务状态的变迁由某个条件的达成触发。同步状态机则基于算法逻辑，通常嵌入在算法函数内部，一次事件就是一次入口函数调用过程。入口函数调用返回时，状态机必须处于一个明确定义的状态，不能是不确定的中间状态，而且存在阻塞的必然性。

但上述两种类型状态机，都会存在在某个状态发生等待、阻塞的情况，从而影响了系统的响应能力，因此，如何有效的提高系统的响应能力就成为本领域技术人员亟待解决的问题之一。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种高并发状态机的实现方法、实现装置及系统，用于解决现有技术中状态机的响应能力较差的问题。

为实现上述目的及其他相关目的，本发明提供一种高并发状态机的实现方法，所述高并发状态机的实现方法包括以下步骤：将事件索引发送至事件通知队列，并将事件指针进行保存，所述事件指针对应于事件的处理状态；根据事件的优先级将事件信息保存至事件缓存中；根据事件的优先级以事件索引为提取条件提取对应的事件信息；在调用底层处理完成事件的处理后，更新事件的处理状态；根据事件指针、事件索引获取事件的处理状态以完成事件的处理。

于本发明的一实施例中，以通知的形式将事件索引发送至事件通知队列。

于本发明的一实施例中，所述事件信息包括：事件索引、任务优先级和事件参数。

于本发明的一实施例中，底层处理以异步的任务处理方式对事件进行处理。

本发明提供一种高并发状态机的实现装置，所述高并发状态机的实现装置包括：事件发送单元，用于将事件索引发送至事件通知队列，并将事件指针进行保存，所述事件指引对应于事件的处理状态；事件信息保存单元，用于根据事件的优先级将事件信息保存至事件缓存中；事件信息提取单元，用于根据事件的优先级以事件索引为提取条件提取对应的事件信息；更新单元，用于在调用底层处理完成事件的处理后，更新事件的处理状态；状态获取单元，用于根据事件指针、事件索引获取事件的处理状态以完成事件的处理。

于本发明的一实施例中，所述事件发送单元以通知的形式将事件索引发送至事件通知队列。

于本发明的一实施例中，所述事件信息包括：事件索引、任务优先级和事件参数。

于本发明的一实施例中，底层处理以异步的任务处理方式对事件进行处理。

本发明提供一种高并发状态机的实现系统，包括前述任一项所述的高并发状态机的实现装置。

如上所述，本发明的高并发状态机的实现方法、实现装置及系统，具有以下有益效果：

本发明的高并发状态机的实现方法中，将事件信息按照优先级保存至事件缓存中，在对事件处理时，以事件索引为提取条件直接提取缓存中的事件信息，从而简化了事件信息在处理过程中的流转，即通过减少内存数据多次存取、存储、再分配实现了高命中率的内存释放，从而提高了系统资源的利用率。

附图说明

图1显示为现有技术中状态机的实现流程示意图。

图2显示为本发明的高并发状态机的实现方法于一实施例中的流程示意图。

图3和图4显示为本发明的高并发状态机的实现方法的数据流转的示意图。

图5显示为本发明的高并发状态机的实现装置于一实施例中的结构示意图。

元件标号说明

2高并发状态机的实现装置

21事件发送单元

22事件信息保存单元

23事件信息提取单元

24更新单元

25状态获取单元

S11～S15步骤

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需说明的是，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制，其实际实施时各组件的型态、数量及比例可为一种随意的改变，且其组件布局型态也可能更为复杂。

正如背景技术中所述的，目前在使用状态机时，经常会发生阻塞从而影响系统的响应能力。本发明的发明人对现有的状态机机制进行了研究，现有的状态机框架如图1所示：

首先，普通应用通过发布事件来触发下层调用；然后，状态机通过订阅事件的方式，被上层应用触发；其次，状态机在被触发后，会继续分发事件，并向下层发布事件；最后，底层的中断服务例程采用和状态机相似的机制，被上层事件调用。

参考图1，在每个调用环节有会涉及到数据交换这个过程，而这个交换过程通常的做法是：内存数据包要经过一次拷贝被重新分配存储，作为下层调用的传递参数。那么一次任务完整调用如果经过多次发布、分发、订阅，就会涉及多次的数据交换，这带来的效率问题可以想见，而且一旦遇到高并发的情况，效率、性能的问题会更加明显。

而本发明正是在基于目前通用的以拷贝为主要数据交换方式的情况下，提出一种新的通过建立事件登记缓存实现数据无需拷贝，数据快速传递及内存高效释放的技术方案。数据可以直接从缓存中被取出，事件的发布只需一个简单的通知消息。同时，引入优先级策略，在任务处理策略方面得以优化，达到提高性能、效率的目的。

请参阅图2，本发明提供一种高并发状态机的实现方法，所述高并发状态机的实现方法包括以下步骤：

S11，将事件索引发送至事件通知队列，并将事件指针进行保存，所述事件指针对应于事件的处理状态；本实施例中，前台以通知的形式将事件索引发送至事件通知队列。

S12，根据事件的优先级将事件信息保存至事件缓存中；所述事件信息包括：事件索引、任务优先级和事件参数。

S13，根据事件的优先级以事件索引为提取条件提取对应的事件信息；

S14，在调用底层处理完成事件的处理后，更新事件的处理状态；在本实施例中，底层处理以异步的任务处理方式对事件进行处理。

S15，根据事件指针、事件索引获取事件的处理状态以完成事件的处理。

下面再结合图3和图4对本实施例的高并发状态机的实现方法的具体数据流转过程做详细说明。

参考图3，本实施例中，前台以通知的形式将事件索引发送至事件通知队列(FIFO)；并且，前台发布事件至事件队列后直接返回；同时记录下每个事件的ID(事件索引)，供后续的分发事件、提取事件等处理。在发布事件的同时将事件指针存储起来，供状态返回之用。

由于一般的并发问题实际上最关键的都是由于慢速外部设备导致的各种等待、竞争等问题，通过异步策略，在把数据交给下层慢速接口后，使其在状态机中处于这种类似等待处理的状态，并退出处理。之后慢速接口完成处理后，用事件状态通知该状态机调用已经完成，这样能够保障系统最高效的响应，任务则以异步的执行方式完成并更新状态。本实施例中发布事件是以通知的形式来实现，从而大大提高了系统的响应。

接着，将事件详细信息注册至事件缓存中；例如分配一块内存空间，按照优先级,分别将事件的详细信息如事件ID、任务(task)优先级等详细信息一次性注册至事件缓存区中对应的优先级队列中。

为了保障系统的对外响应能力，中断服务例程须对处理速度有极高的要求。因此在把关键数据、信号处理缓存之后，立即退出中断状态，以便最小化对中断的占用；通过事件登记缓存机制，一次性为事件详细信息分配内存，供后续下层处理直接抽取，并释放对应内存，保障内存的高效利用。

继续参考图3，系统分发机构根据优先级依次处理所订阅的事件；系统分发机构会从事件缓存区中注册的高优先级队列，以事件ID作为抽取条件从缓存中提取事件详细参数，保障优先级高的关键任务得到优先处理。

本实施例中，可以把文件系统服务等系统服务和应用系统进行隔离，在分发机构的事件登记队列中采用优先级机制来实现任务的优先级分配。高优先级的登记队列如果有事件，分发机构会在高优先级任务全部处理完成之后才处理下一优先级的登记队列。通过结合事件缓存机制来改善事件的参数传递机制，不必再次为事件的入口参数分配内存，通过事件索引快速抽取事件传入参数，交由下层处理。通过为任务分配优先级，可以让特殊的非常关键的任务得到优先处理，便于系统提供灵活的任务执行策略。

然后，系统分发机构调用底层处理后，更新事件缓存中的事件处理状态；以异步的任务处理方式，任务执行完成后将任务的执行状态更新至状态机事件缓存中。

最后，前台根据事件指针、事件索引、回调机制取得事件处理结果。前台通过事件指针索引以及回调机制获得任务执行后的状态，完成一次任务的异步调用。

本实施例中的方法中，在内存管理方面，事件的参数传递过程中不再需要单独分配内存，事件是以通知的性质体现，参数数据只保存在事件登记缓存中。数据保存好后，直接通知目标应用。目标应用在收到通知后才到事件登记缓存中取得参数数据并释放对应的内存。通过减少内存数据多次存取、存储、再分配和高命中率的内存释放，提高了系统资源的利用率。

总之，本发明的高并发状态机的实现装置通过优化状态机的内存分配、释放机制，并引入优先级机制，优化平台的性能、任务执行策略、响应能力及吞吐量。在高并发环境下，提升系统平台的接入能力以及更好的用户体验。

相应地，本发明提供一种高并发状态机的实现装置，参考图5，所述高并发状态机的实现装置包括：事件发送单元21，事件信息保存单元22，事件信息提取单元23，更新单元24，以及状态获取单元25。

所述事件发送单元21用于将事件索引发送至事件通知队列，并将事件指针进行保存，所述事件指引对应于事件的处理状态；

本实施例中，所述事件发送单元21设置于前台中，以通知的形式将事件索引发送至事件通知队列。

所述事件信息保存单元22用于根据事件的优先级将事件信息保存至事件缓存中；所述事件信息包括：事件索引、任务优先级和事件参数。

所述事件信息提取单元23用于根据事件的优先级以事件索引为提取条件提取对应的事件信息；

所述更新单元24用于在调用底层处理完成事件的处理后，更新事件的处理状态；本实施例中，底层处理以异步的任务处理方式对事件进行处理。所述底层处理可采用图4所示的中断服务例程来实现。

所述状态获取单元25用于根据事件指针、事件索引获取事件的处理状态以完成事件的处理。

本实施例中，所述事件信息保存单元22、事件信息提取单元23和更新单元24设置于状态机内。本实施例的高并发状态机的实现装置的具体数据流转过程可参考图3、图4以及前述关于高并发状态机的实现方法中的详细描述，在此不再赘述。

相应地，本发明还提供一种高并发状态机的实现系统，包括前述的高并发状态机的实现装置。所述高并发状态机的实现装置包括事件发送单元，事件信息保存单元，事件信息提取单元，更新单元，以及状态获取单元。前述关于所述高并发状态机的实现装置中的详细描述，在此不再赘述。

综上所述，本发明通过对分发机制进行重新规划，并通过引入事件登记缓存机制、优先级机制来优化状态机的内存分配机制以及任务执行策略，提升了系统资源的利用率，从而大大提高系统性能及吞吐量的目的；并且，在提升系统快速响应能力的同时，增强了用户体验。所以，本发明有效克服了现有技术中的种种缺点而具高度产业利用价值。

上述实施例仅例示性说明本发明的原理及其功效，而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下，对上述实施例进行修饰或改变。因此，举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变，仍应由本发明的权利要求所涵盖。

Claims (9)

1.一种高并发状态机的实现方法，其特征在于，所述高并发状态机的实现方法包括以下步骤：

将事件索引发送至事件通知队列，并将事件指针进行保存，所述事件指针对应于事件的处理状态；

根据事件的优先级将事件信息保存至事件缓存中；

根据事件的优先级以事件索引为提取条件提取对应的事件信息；

在调用底层处理完成事件的处理后，更新事件的处理状态；

根据事件指针、事件索引获取事件的处理状态以完成事件的处理。

2.根据权利要求1所述的高并发状态机的实现方法，其特征在于，以通知的形式将事件索引发送至事件通知队列。

3.根据权利要求1所述的高并发状态机的实现方法，其特征在于，所述事件信息包括：事件索引、任务优先级和事件参数。

4.根据权利要求1所述的高并发状态机的实现方法，其特征在于，底层处理以异步的任务处理方式对事件进行处理。

5.一种高并发状态机的实现装置，其特征在于，所述高并发状态机的实现装置包括：

事件发送单元，用于将事件索引发送至事件通知队列，并将事件指针进行保存，所述事件指引对应于事件的处理状态；

事件信息保存单元，用于根据事件的优先级将事件信息保存至事件缓存中；

事件信息提取单元，用于根据事件的优先级以事件索引为提取条件提取对应的事件信息；

更新单元，用于在调用底层处理完成事件的处理后，更新事件的处理状态；

状态获取单元，用于根据事件指针、事件索引获取事件的处理状态以完成事件的处理。

6.根据权利要求5所述的高并发状态机的实现装置，其特征在于，所述事件发送单元以通知的形式将事件索引发送至事件通知队列。

7.根据权利要求5所述的高并发状态机的实现装置，其特征在于，所述事件信息包括：事件索引、任务优先级和事件参数。

8.根据权利要求5所述的高并发状态机的实现装置，其特征在于，底层处理以异步的任务处理方式对事件进行处理。

9.一种高并发状态机的实现系统，其特征在于：包括权利要求5～8任一项所述的高并发状态机的实现装置。