CN102176705A - 群发业务的处理方法及装置 - Google Patents

Abstract

本发明公开了一种群发业务的处理方法及装置。其中，该群发业务的处理方法包括：将所述群发系统接收到的群发业务进行缓存；以及在所述缓存的群发业务中取出一个或多个群发业务进行下发。通过本发明，能够提高群发系统的效率，进而防止群发系统过载。

Description

群发业务的处理方法及装置

技术领域

本发明涉及通信领域，具体而言，涉及一种群发业务的处理方法及装置。

背景技术

消息群发系统(也称作群发系统)广泛存在于现有的通讯系统和互联网应用中，例如手机短信群发，电子邮件群发，SNS用户动态群发，微博博文推送等等，并且可以预见到在未来的创新应用中也仍然会需要这样的信息传递模式。在这样的应用中，存在着大量的并发的群发业务，每一个群发业务都要将一个特定的源消息通过应用系统的消息传送机制推送给若干个特定的接收者。有时候，这个数量扩大到系统内所有的接受者数量，这就演变成了消息广播。另外，众多的消息源可能会因业务需要源源不断地群发不同的消息。

在现有技术的消息群发系统中，处理这类群发业务时，一般采取先到先服务，顺序逐一处理的模式。在处理每一个群发业务时，群发系统会首先根据某种机制映射出此次群发的所有目标接收者列表，然后逐一对列表中的目标接收者进行单独发送。这里讨论的目标接收者是一般所指，具体来说可能是人，也可能是终端设备，也可能是服务器，或者是其他的实体对象。当业务量增大时，有的群发系统会增加多台群发服务器并行处理群发业务，以提高系统处理能力。即使如此，这样的群发系统仍然存在一些问题。试想若一个消息群发系统平均要将每条消息群发到N个目标接收者，而这样的群发业务平均每秒有M个，那就要求群发系统能够达到每秒N*M的消息发送能力。当N和M不断增长时，就会对群发系统造成冲击。

在上述的群发机制中主要存在的问题：一是系统效率低，群发服务器的负担重，可能会因过载而瘫痪；二是服务不均衡，常常在处理一个或少数几个目标接收者数量较大的群发业务时而阻塞了对其他群发业务的处理，三是无法感知接收者处理能力而可能造成接收者过载。

针对相关技术中群发系统的效率比较低的问题，目前尚未提出有效的解决方案。

发明内容

针对相关技术中群发系统的效率比较低的问题而提出本发明，为此，本发明的主要目的在于提供一种群发业务的处理方法及装置，以解决上述问题。

为了实现上述目的，根据本发明的一个方面，提供了一种群发业务的处理方法。该群发业务的处理方法包括：将群发系统接收到的群发业务进行缓存；以及在缓存的群发业务中取出一个或多个群发业务进行下发。

进一步地，将群发系统接收到的群发业务进行缓存包括：将群发系统接收到的群发业务缓存在第一队列中，在缓存的群发业务中取出一个或多个群发业务进行下发包括：从第一队列中取出一个或多个群发业务进行下发。

进一步地，在将群发系统接收到的群发业务缓存在第一队列中之后，方法还包括：将第一队列中的群发业务进行列表解析后送入第二队列，在缓存的群发业务中取出一个或多个群发业务进行下发包括：从第二队列中取出一个或多个群发业务进行下发。

进一步地，该群发业务的处理方法还包括：控制一个或多个群发业务下发的速度。

进一步地，控制一个或多个群发业务下发的速度包括：读取第二队列的长度；以及在第二队列的长度超过第一预设长度时，则减慢从第一队列读取一个或多个群发业务的速度。

进一步地，控制一个或多个群发业务下发的速度包括：读取一个或多个群发业务的下发速度；以及根据下发速度和预设速度的关系对下发速度进行调整。

进一步地，在缓存的群发业务中取出一个或多个群发业务进行下发包括：获取接收者标识的列表；在列表中的接收者标识超过预定个数时，对接收者标识进行拆分；按照拆分后的接收者标识分批发送一个或多个群发业务。

进一步地，在列表中的接收者标识超过预定个数时，上述方法还包括：将部分数量的接收者标识列入第一群发业务中并推送至第二队列中等待发送处理；以及将第一群发业务进行标记后重新送入第一队列等待下次处理剩余未完成的群发部分。

进一步地，在缓存的群发业务中取出一个或多个群发业务进行下发包括：获取接收者标识；根据接收者标识采用以下方式对一个或多个群发业务进行下发：横向批量发送；或者，纵向批量发送。

为了实现上述目的，根据本发明的另一方面，提供了一种群发业务的处理装置。该群发业务的处理装置包括：缓存模块，用于将群发系统接收到的群发业务进行缓存；以及下发模块，用于在缓存的群发业务中取出一个或多个群发业务进行下发。

进一步地，缓存模块用于将群发系统接收到的群发业务缓存在第一队列中；下发模块用于从第一队列中取出一个或多个群发业务进行下发。

进一步地，下发模块包括：获取子模块，用于获取接收者标识的列表；拆分子模块，用于在列表中的接收者标识超过预定个数时，对接收者标识进行拆分；以及下发子模块，用于按照拆分后的接收者标识分批发送一个或多个群发业务。

通过本发明，采用将群发系统接收到的群发业务进行缓存；以及在缓存的群发业务中取出一个或多个群发业务进行下发的方法，解决了相关技术中群发系统的效率比较低的问题，进而达到了提高群发系统的效率，进而防止群发系统过载的效果。

附图说明

构成本申请的一部分的附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的群发业务的处理系统的示意图；

图2是根据本发明第一实施例的群发业务的处理装置的示意图；

图3是根据本发明第二实施例的群发业务的处理装置的示意图；

图4是根据本发明实施例的群发业务的处理方法的流程图；

图5是根据本发明的群发业务的处理方法的优选实施例的流程图；以及

图6是根据本发明实施例的群发业务的处理流程图。

具体实施方式

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。

图1是根据本发明实施例的群发业务的处理系统的示意图。

如图1所示，该群发业务的处理系统包括群发业务的处理装置10和群发系统20。

其中，群发业务的处理装置10用于将群发系统20接收到的群发业务进行缓存；以及在缓存的群发业务中取出一个或多个群发业务进行下发。

在上述的群发业务的处理系统中，通过设置一个群发业务的处理装置，使得群发业务的处理装置对群发系统接收到的群发业务进行缓存，以及通过在缓存的群发业务中取出一个或多个群发业务进行下发，能够防止群发系统在下发群发业务时的过载现象，进而能够提高群发业务的处理效率。

图2是根据本发明第一实施例的群发业务的处理装置的示意图。

如图2所示，该群发业务的处理装置10包括缓存模块102和下发模块104。

缓存模块102用于将群发系统接收到的群发业务进行缓存；下发模块104用于在缓存的群发业务中取出一个或多个群发业务进行下发。

优选地，缓存模块用于将群发系统接收到的群发业务缓存在第一队列中；下发模块用于从第一队列中取出一个或多个群发业务进行下发。

图3是根据本发明第二实施例的群发业务的处理装置的示意图。

如图3所示，该群发业务的处理装置10包括缓存模块102和下发模块104。

其中，下发模块104包括：获取子模块1042、拆分子模块1044和下发子模块1046。

获取子模块1042用于获取接收者标识的列表；拆分子模块1044用于在列表中的接收者标识超过预定个数时，对接收者标识进行拆分；以及下发子模块1046用于按照拆分后的接收者标识分批发送一个或多个群发业务。

图4是根据本发明实施例的群发业务的处理方法的流程图。

如图4所示，该群发业务的处理方法包括以下步骤：

步骤S502，将群发系统接收到的群发业务进行缓存。

优选地，将群发系统接收到的群发业务进行缓存包括：将群发系统接收到的群发业务缓存在第一队列中。通过采用队列进行缓存，能够简单、方便地实现抑制消息群发系统的过载。

步骤S504，在缓存的群发业务中取出一个或多个群发业务进行下发。

由于方案的出发点借鉴了水利防洪系统的“蓄洪”措施，所以称本方案具有“蓄洪”机制，能够有效抑制消息群发系统的“洪流”并保证服务的正常稳定。

优选地，在通过将群发系统接收到的群发业务缓存在第一队列中进行缓存时，在缓存的群发业务中取出一个或多个群发业务进行下发包括：从第一队列(即缓冲队列)中取出一个或多个群发业务进行下发。

其中，在缓存的群发业务中取出一个或多个群发业务进行下发可以包括：获取接收者标识的列表；在列表中的接收者标识超过预定个数时，对接收者标识进行拆分；按照拆分后的接收者标识分批发送一个或多个群发业务。由于在列表中的接收者标识超过预定个数时，采用对接收者列表进行拆分的方式进行发送，能够防止在一次发送过程中发送过多的数据，也即防止了数据发送的过载问题。

优选地，在列表中的接收者标识超过预定个数时，上述方法还包括：将部分数量的接收者标识列入第一群发业务中并推送至第二队列(即优化队列)中等待发送处理；以及将第一群发业务进行标记后重新送入第一队列等待下次处理剩余未完成的群发部分。此时，由于在列表中的接收者标识超过预定个数时采用分批发送的方法，因而能够防止在一次发送过程中发送过多的数据，也即防止了数据发送的过载问题。

其中，在缓存的群发业务中取出一个或多个群发业务进行下发还可以包括：获取接收者标识；根据接收者标识采用以下方式对一个或多个群发业务进行下发：横向批量发送；或者，纵向批量发送。

优选地，在将群发系统接收到的群发业务缓存在第一队列中之后，该群发业务的处理方法还可以包括：将第一队列中的群发业务进行列表解析后送入第二队列，在缓存的群发业务中取出一个或多个群发业务进行下发包括：从第二队列中取出一个或多个群发业务进行下发。通过采用多级队列(包括两级队列及两级以上队列)进行缓存，能够对来自群发系统的数据进行更好地缓存，从而能够更好地解决数据发送的过载问题。

优选地，该群发业务的处理方法还可以包括：控制一个或多个群发业务下发的速度。除了通过控制发送量对群发业务进行下发之外，结合对群发业务下发数据的控制，能够更好地解决数据发送的过载问题。

优选地，控制一个或多个群发业务下发的速度包括：读取第二队列的长度；以及在第二队列的长度超过第一预设长度时，则减慢从第一队列读取一个或多个群发业务的速度。在采用多级队列进行缓存时，通过在后续队列长度的判断，以及在后续缓冲队列的长度过长时减慢对上级队列的数据读取速度，能够防止后续队列的长度过长，进而防止的数据堵塞。

优选地，控制一个或多个群发业务下发的速度包括：读取一个或多个群发业务的下发速度；以及根据下发速度和预设速度的关系对下发速度进行调整。由于设置了一个预设速度作为基准速度，在群发业务的下发速度过高时可以基于该基准数据进行调整，从而能够防止速度过高，也进一步地防止了数据发送过程中的过载现象。

图5是根据本发明的群发业务的处理方法的优选实施例的流程图。

如图5所示，该群发业务的处理方法包括以下步骤：

步骤S602，将群发系统接收到的群发业务缓存在第一队列中。

步骤S604，将第一队列中的群发业务进行列表解析后送入第二队列。该步骤还包括：从第一队列读取一个或多个群发业务。

步骤S606，从第二队列中取出一个或多个群发业务进行下发。

步骤S608，读取第二队列的长度。

步骤S610，在第二队列的长度超过第一预设长度时，则减慢从第一队列读取一个或多个群发业务的速度。

需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图6是根据本发明实施例的群发业务的处理流程图。

如图所示，该群发业务处理的主要流程是：

首先，将群发系统接收到的群发业务进行封装并送入缓冲队列的队尾等待处理。

然后，流量控制线程或进程从队列的队首取到一个待处理的群发业务，进行某些诸如格式转换，接收者列表解析等处理后将群发业务送入优化队列的队尾。

最后，由发送控制线程或进程从优化队列队首取得一个待发送群发业务进行下发处理，这个下发过程中进行合并或批量发送的优化处理。

优选地，在该实施例中，大量并发的群发业务请求首先被大量缓冲在缓冲队列中，在这里仅仅是排队等待处理，这就好比水库的蓄积洪水的功能。即使在蓄积较多业务请求的情况下，系统仍能正常响应新的群发请求。

优选地，流量控制线程或进程除了按照常规从缓冲队列中取出群发业务进行有关业务处理外，还负责控制群发节奏，这就好比水库泄洪的闸门，通过闸门大小的控制，来调节下游洪水流量的大小。这个流量控制在本方案中主要表现在以下几个方面。首先，流量控制会在读取缓冲队列中的新群发业务之前，先行读取优化队列的长度，当该队列的长度超过一定的阈值后，将减慢读取缓存队列的速度，在某些条件下甚至会暂停一段时间。因为方案认为当优化队列的长度较长时，说明系统的下发压力较大，应当降低请求处理速度以减缓发送控制的下发压力。其次，流量控制会定期读取状态记录，状态记录是一组状态数据统计，主要包括最近一段时间内发送控制进行每一次下发消息的平均完成时间，以及其他的描述全部或部分接收者响应消息群发速度和能力的指标。根据这样的数据统计指标，流量控制会感知群发业务接收者的接收能力，防止接收者过载。某些群发系统的接收者是一些服务器实体，这样的实体有一定处理能力的限制，当这样的实体受到过大的输入消息压力时有可能过载甚至瘫痪。因此，流量控制会参考这些统计指标，当超过一定阈值时也会减慢甚至暂停从缓存队列读取群发业务。最后，流量控制会在读取到群发业务后进行必要的格式转换，接收者列表解析等业务处理。很多时候，群发业务里只指定了虚拟的接收者列表，而由群发系统来将虚拟的接收者列表变换成具体的每一个接收者的ID的列表；另一些群发系统里会要求在群发业务里指定了包含每一个具体接收者ID的列表，但这个列表有时候会过大。这个时候，流量控制就会采用拆分后分批群发的方法，一次仅将部分数量的接收者ID的列入群发业务中并推送至优化队列中等待发送处理，然后将这个群发业务进行标记后重新送入缓冲队列等待下次处理剩余未完成的群发部分。这样的过程可以进行多次迭代，以达到有节奏的群发的目标，与此同时，新来的群发业务也有平等机会的被系统处理了。当系统中同时有小规模群发业务和大规模群发业务时，先到的大规模群发不至于堵塞小规模群发业务的处理。

优选地，发送控制线程或进程并不是简单的每次从优化队列中读取经过处理后的群发业务并根据每个接收者ID一一进行发送，而是采取优化的批量发送法。一种是横向批量发送，就是说发送控制从优化队列中读取一个待发送的群发业务，取出这一次群发的所有接收者ID列表，然后根据网络拓扑或传输信道等信息对这些接收者ID进行集合划分，每次发送一个消息，而消息的接收者包括一个集合内的全部接收者ID。这样能够降低系统要最终发送的消息数量。在某些群发系统里的接收者是服务器，例如邮件群发系统或是微博系统，就可以采用这样的批量发送模式。另一种是纵向批量发送，就是说发送控制从整个优化队列里搜索，将接收者ID列表里都包含某个ID的多个群发消息进行合并，合并后将消息一次发送给对应的接收者。当然发送完成后，将此ID在相应的群发业务接收者ID列表中删除。然后如此反复处理每一个目标接收者的群发消息。在某些群发系统里的接收者是用户的终端设备，如短信群发系统，就可以使用这样的批量发送模式。当然，更复杂的情况可以将横向批量发送和纵向批量发送结合起来进行优化。经过这样的批量发送优化后，可以有效减少群发系统最终需要发送的消息数量，降低系统压力，节省带宽资源。另外，发送控制还可以在实施下发消息的过程中进行数据搜集，将有关接收者的响应速度等信息写入状态记录中，供流量控制进行参考。

综上所述，缓冲队列和优化队列实现了消息洪流的“蓄洪”，可以有效消除消息“洪峰”；而发送控制实现了消息流量的节奏控制，保证群发系统能够在稳定流量的情况下平稳工作；而发送控制实现最终的群发处理并大幅优化群发消息的数量。

从以上的描述中，可以看出，本发明实现了如下技术效果：

1、具有“蓄洪”能力，业务承载能力强，可以同时接受大量的群发业务，也能轻松处理接收者数量庞大的大规模群发业务。

2、能够平稳的输出群发消息数量，或者说群发输出“功率”平稳，当输入系统的群发请求数量多，规模大时不会过度冲击群发系统本身以及众多群发接收者，不会因峰值冲击而导致系统内外的可能的瘫痪。

3、能够平衡地处理大规模群发业务与小规模群发业务并同时兼顾先到先服务原则。

4、对群发进行批量优化，从整体上降低最终群发消息的数量，节省各方面的资源。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (11)

1.一种群发业务的处理方法，其特征在于，包括：

将所述群发系统接收到的群发业务进行缓存；以及

在所述缓存的群发业务中取出一个或多个群发业务进行下发。

2.根据权利要求1所述的群发业务的处理方法，其特征在于，

将所述群发系统接收到的群发业务进行缓存包括：

将所述群发系统接收到的群发业务缓存在第一队列中；以及

将所述第一队列中的群发业务进行列表解析后送入第二队列，

在所述缓存的群发业务中取出一个或多个群发业务进行下发包括：

从所述第二队列中取出一个或多个群发业务进行下发。

3.根据权利要求2所述的群发业务的处理方法，其特征在于，所述方法还包括：控制所述一个或多个群发业务下发的速度。

4.根据权利要求3所述的群发业务的处理方法，其特征在于，控制所述一个或多个群发业务下发的速度包括：

读取所述第二队列的长度；以及

在所述第二队列的长度超过第一预设长度时，则减慢从所述第一队列读取所述一个或多个群发业务的速度。

5.根据权利要求3所述的群发业务的处理方法，其特征在于，控制所述一个或多个群发业务下发的速度包括：

读取所述一个或多个群发业务的下发速度；以及

根据所述下发速度和预设速度的关系对所述下发速度进行调整。

6.根据权利要求1所述的群发业务的处理方法，其特征在于，在所述缓存的群发业务中取出一个或多个群发业务进行下发包括：

获取接收者标识的列表；

在所述列表中的接收者标识超过预定个数时，对所述接收者标识进行拆分；

按照拆分后的接收者标识分批发送所述一个或多个群发业务。

7.根据权利要求6所述的群发业务的处理方法，其特征在于，在所述列表中的接收者标识超过预定个数时，所述方法还包括：

将部分数量的接收者标识列入第一群发业务中并推送至所述第二队列中等待发送处理；以及

将所述第一群发业务进行标记后重新送入所述第一队列等待下次处理剩余未完成的群发部分。

8.根据权利要求1所述的群发业务的处理方法，其特征在于，在所述缓存的群发业务中取出一个或多个群发业务进行下发包括：

获取接收者标识；

根据所述接收者标识采用以下方式对所述一个或多个群发业务进行下发：

横向批量发送；或者

纵向批量发送。

9.一种群发业务的处理装置，其特征在于，包括：

缓存模块，用于将所述群发系统接收到的群发业务进行缓存；以及

下发模块，用于在所述缓存的群发业务中取出一个或多个群发业务进行下发。

10.根据权利要求9所述的群发业务的处理装置，其特征在于：

所述缓存模块用于将所述群发系统接收到的群发业务缓存在第一队列中；

所述下发模块用于从所述第一队列中取出一个或多个群发业务进行下发。

11.根据权利要求9所述的群发业务的处理装置，其特征在于，所述下发模块包括：

获取子模块，用于获取接收者标识的列表；

拆分子模块，用于在所述列表中的接收者标识超过预定个数时，对所述接收者标识进行拆分；以及

下发子模块，用于按照拆分后的接收者标识分批发送所述一个或多个群发业务。

Images