CN110417902A - 流式网络服务负载方法、相关设备及可读存储介质 - Google Patents

Abstract

本申请公开了一种流式网络服务负载方法、相关设备及可读存储介质，流式网络服务系统中的负载均衡服务器获得目标客户端的流式网络服务请求之后，通过与配置中心服务器进行交互确定可用流式网络服务器；通过与可用流式网络服务器以及缓存中心服务器进行交互确定目标流式网络服务器；将目标流式网络服务器分配给目标客户端，并将目标流式网络服务器的分配信息发送至缓存中心服务器。本申请实施例公开的方案能够保证流式网络服务器集群中各个流式网络服务器的负载均衡。

Description

流式网络服务负载方法、相关设备及可读存储介质

技术领域

本申请涉及负载均衡技术领域，更具体的说，是涉及一种流式网络服务负载方法、相关设备及可读存储介质。

背景技术

随着大数据时代的到来，音频、视频、文字日益成为文化信息传播的主流方式，其中文字这种载体表现形式最为直观。无论是政企会议、公检法办案，还是教学培训、记者采访、个人录音等场合均需要形成完整的文字记录材料，音视频文件也需要形成字幕。为解决各类场景下的音频转文字问题，语音转写应运而生。语音转写能将已录制音频数据或实时音频数据转换成文本数据。

在用户请求对实时音频数据进行语音转写时，用户客户端需要同语音处理服务器之间建立流式会话，基于建立好的流式会话实现对实时音频数据的语音转写。如果大量用户同时请求对实时音频数据进行语音转写，则需要建立多个用户客户端与语音处理服务器之间的多个流式会话，为了承载大量用户的语音转写请求，多采用语音处理服务器集群对大量用户的语音转写请求进行处理。

语音处理服务器集群中包含多个语音处理服务器，因此，为了保证语音处理服务器集群中各个语音处理服务器的负载均衡，需要一种优化的语音处理服务器负载均衡方式。

发明内容

鉴于上述问题，提出了本申请以便提供一种流式网络服务负载方法、相关设备及可读存储介质。具体方案如下：

一种流式网络服务负载方法，应用于流式网络服务系统中的负载均衡服务器，所述流式网络服务系统还包括配置中心服务器以及缓存中心服务器，所述方法包括：

获得目标客户端的流式网络服务请求；

通过与所述配置中心服务器进行交互确定可用流式网络服务器；

通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器；

将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

可选地，所述通过与所述配置中心服务器进行交互确定可用流式网络服务器，包括：

从所述配置中心服务器获得流式网络服务器集群中各个在线的流式网络服务器的配置信息；

根据所述流式网络服务器集群中各个在线的流式网络服务器的配置信息确定可用流式网络服务器。

可选地，所述通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器，包括：

获得所述可用流式网络服务器的空闲服务信息；

从所述缓存中心服务器获得所述可用流式网络服务器的分配信息；

根据所述可用流式网络服务器的空闲服务信息以及所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的可用服务数量；

根据所述可用流式网络服务器的可用服务数量确定目标流式网络服务器。

可选地，所述流式网络服务器的配置信息包括服务语种信息，则所述根据所述流式网络服务器集群中各个在线的流式网络服务器的配置信息确定可用流式网络服务器，包括：

确定服务语种信息与所述流式网络服务请求的服务语种信息一致的流式网络服务器为可用流式网络服务器。

可选地，所述根据所述可用流式网络服务器的空闲服务信息以及所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的可用服务数量，包括：

根据所述可用流式网络服务器的空闲服务信息确定所述可用流式网络服务器的空闲服务数量；

根据所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的被锁定的服务数量；

根据所述可用流式网络服务器的空闲服务数量以及所述可用流式网络服务器的被锁定的服务数量确定所述可用流式网络服务器的可用服务数量。

可选地，在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，所述方法还包括：

在监控到所述目标客户端与所述目标流式网络服务器之间的流式会话之后，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

可选地，在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，所述方法还包括：

启动定时器开始计时；

当计时时长达到预设时长时，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

一种流式网络服务负载装置，应用于流式网络服务系统中的负载均衡服务器，所述流式网络服务系统还包括配置中心服务器以及缓存中心服务器，所述装置包括：

请求获得单元，用于获得目标客户端的流式网络服务请求；

可用流式网络服务器确定单元，用于通过与所述配置中心服务器进行交互确定可用流式网络服务器；

目标流式网络服务器确定单元，用于通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器；

分配单元，用于将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

可选地，所述可用流式网络服务器确定单元，包括：

配置信息获取单元，用于从所述配置中心服务器获得流式网络服务器集群中各个在线的流式网络服务器的配置信息；

第一确定单元，用于根据所述流式网络服务器集群中各个在线的流式网络服务器的配置信息确定可用流式网络服务器。

可选地，所述目标流式网络服务器确定单元，包括：

空闲服务信息获得单元，用于获得所述可用流式网络服务器的空闲服务信息；

分配信息获得单元，用于从所述缓存中心服务器获得所述可用流式网络服务器的分配信息；

可用服务数量确定单元，用于根据所述可用流式网络服务器的空闲服务信息以及所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的可用服务数量；

第二确定单元，用于根据所述可用流式网络服务器的可用服务数量确定目标流式网络服务器。

可选地，所述流式网络服务器的配置信息包括服务语种信息，则所述第一确定单元包括：

第三确定单元，用于确定服务语种信息与所述流式网络服务请求的服务语种信息一致的流式网络服务器为可用流式网络服务器。

可选地，所述可用服务数量确定单元，包括：

空闲服务数量确定单元，用于根据所述可用流式网络服务器的空闲服务信息确定所述可用流式网络服务器的空闲服务数量；

被锁定的服务数量确定单元，用于根据所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的被锁定的服务数量；

第四确定单元，用于根据所述可用流式网络服务器的空闲服务数量以及所述可用流式网络服务器的被锁定的服务数量确定所述可用流式网络服务器的可用服务数量。

可选地，所述装置还包括：

监控单元，用于在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，监控所述目标客户端与所述目标流式网络服务器之间的流式会话；

第一分配信息删除单元，用于在监控到所述目标客户端与所述目标流式网络服务器之间的流式会话之后，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

可选地，所述装置还包括：

定时单元，用于在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，启动定时器开始计时；

第二分配信息删除单元，用于当计时时长达到预设时长时，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

一种流式网络服务系统，所述系统包括：

配置中心服务器，用于记录流式网络服务器集群中各个在线的流式网络服务器的配置信息；

缓存中心服务器，用于记录已被分配的流式网络服务器的分配信息；

负载均衡服务器，用于执行权利要求1至7中任意一项所述的流式网络负载方法。

一种负载均衡服务器，包括存储器和处理器；

所述存储器，用于存储程序；

所述处理器，用于执行所述程序，实现如上所述的流式网络服务负载方法的各个步骤。

一种可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时，实现如上所述的流式网络服务负载方法的各个步骤。

借由上述技术方案，本申请公开了一种流式网络服务负载方法、相关设备及可读存储介质，流式网络服务系统中的负载均衡服务器获得目标客户端的流式网络服务请求之后，通过与配置中心服务器进行交互确定可用流式网络服务器；通过与可用流式网络服务器以及缓存中心服务器进行交互确定目标流式网络服务器；将目标流式网络服务器分配给目标客户端，并将目标流式网络服务器的分配信息发送至缓存中心服务器。本申请实施例公开的方案能够保证流式网络服务器集群中各个流式网络服务器的负载均衡。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本申请的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1为本申请实施例公开的一种流式网络服务系统的结构示意图；

图2为本申请实施例公开的一种流式网络服务负载方法的流程示意图；

图3为本申请实施例公开的一种通过与可用流式网络服务器以及缓存中心服务器进行交互确定目标流式网络服务器的具体实现过程的流程示意图；

图4为本申请实施例公开的一种流式网络服务负载装置结构示意图；

图5为本申请实施例公开的一种负载均衡服务器的硬件结构框图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

为了实现语音处理服务器的负载均衡，本案发明人进行研究，起初的思路为：基于开源负载均衡服务器Ngnix实现语音处理服务器集群中各个语音处理服务器的负载均衡。

然而，发明人经研究发现，上述采用开源负载均衡服务器Ngnix实现语音处理服务器集群中各个语音处理服务器的负载均衡的思路存在如下问题：

开源负载均衡服务器Ngnix的负载均衡调度算法主要有轮询调度算法、IP地址的权重轮询调度算法、IP地址的HASH表调度算法、URL(Uniform Resource Locator，统一资源定位符)的HASH表调度算法以及网络请求响应时间调度算法。如果基于开源负载均衡服务器Ngnix的负载均衡调度算法实现语音处理服务器集群中各个语音处理服务器的负载均衡，无法将语音处理场景中特有的语种信息结合进去。

另外，用户客户端与语音处理服务器之间建立流式会话，到语音处理服务器基于建立好的流式会话为用户客户端提供服务的过程中存在握手协议确认过程。如果基于开源负载均衡服务器Ngnix的负载均衡调度算法实现语音处理服务器集群中各个语音处理服务器的负载均衡，无法将上述握手协议确认过程结合进去。

还有，如果基于开源负载均衡服务器Ngnix实现语音处理服务器集群中各个语音处理服务器的负载均衡，在需要扩展语音处理服务器集群的情况下，必须手动修改并重新加载开源负载均衡服务器Ngnix的配置信息才能实现，因此，开源负载均衡服务器Ngnix不利于语音处理服务器集群的扩展。

鉴于上述思路存在的问题，本案发明人进行了深入研究，最终提出了一种流式网络服务系统，如图1所示，该系统包括流式网络服务器集群10，负载均衡服务器11，缓存中心服务器12、配置中心服务器13以及客户端14，其中：

流式网络服务器集群10中包括N个流式网络服务器，N为大于等于1的整数。流式网络服务器即需要通过与客户端建立流式会话，并基于建立好的流式会话处理客户端的流式网络业务的服务器。流式网络业务即客户端将生成的流媒体(如视频、音频)通过网络传送至流式网络服务器处进行处理的业务。

负载均衡服务器可以为一台独立的服务器，也可以为服务器集群，或者由多台服务器构成的分布式集群。

缓存中心服务器可以为一台独立的服务器，也可以为服务器集群，或者由多台服务器构成的分布式集群。作为一种可实施方式，缓存中心服务器可基于Redis实现。

配置中心服务器可以为一台独立的服务器，也可以为服务器集群，或者由多台服务器构成的分布式集群。作为一种可实施方式，配置中心服务器可基于Zookeeper实现。

当然，负载均衡服务器、缓存中心服务器以及配置中心服务器可以基于同一台服务器或同一个服务器集群实现，对此本申请不进行任何限定。

客户端的数量为M，M为大于等于1的整数。

需要说明的是，在将上述系统应用于语音处理场景时，流式网络服务器为具有与至少一个客户端建立流式会话实现对实时音频数据进行语音处理的功能的语音处理服务器，此处的语音处理功能具体可以是对实时音频数据进行语音转写的功能，也可以是对实时音频数据进行语音翻译的功能。客户端具有语音输入功能，能够生成实时音频数据。客户端的流式网络服务请求即为实时音频数据语音处理请求。

当然，上述系统还可应用于其他有流式网络业务处理需求的场景，对此本申请不进行任何限定。

下面对流式网络服务系统的工作原理进行介绍。

每个流式网络服务器启动后都向配置中心服务器上报自身的配置信息，其中，每个流式网络服务器的配置信息主要包括该流式网络服务器的名称、该流式网络服务器的地址信息以及该流式网络服务器的服务语种信息。每个流式网络服务器的地址信息包括该流式网络服务器的IP地址以及该流式网络服务器的端口信息。配置中心服务器在收到各个流式网络服务器的配置信息之后，进行记录。

缓存中心服务器记录有已被分配的流式网络服务器的分配信息，每个已被分配的流式网络服务器的分配信息中包括该流式网络服务器的地址信息以及为该流式网络服务器分配的流式网络服务请求信息。根据分配信息可以确定各个流式网络服务器的被锁定的服务数量。

当第一客户端(即，N个客户端中的任意一个客户端)有流式网络业务处理的需求时，生成流式网络服务请求，该流式网络服务请求中至少包括时间戳信息、请求标识信息以及待处理的目标流式网络业务的语种信息中的任意一种或多种。该流式网络服务请求可以为对实时音频数据的语音处理请求，比如，可以为对实时音频数据的语音转写请求，也可以为对实时音频数据的语音翻译请求。

负载均衡服务器获取第一客户端的流式网络服务请求，然后，负载均衡服务器与配置中心服务器交互确定可用流式网络服务器，比如，可以确定服务语种信息与流式网络业务的语种信息一致的流式网络服务器作为可用流式网络服务器，再然后，负载均衡服务器基于各个可用流式网络服务器的地址信息调用各个可用流式网络服务器的RESTful接口查询各个可用流式网络服务器的状态信息，每个可用流式网络服务器的状态信息至少包括该可用流式网络服务器的空闲服务信息。另外，负载均衡服务器还与缓存中心服务器交互确定各个可用流式网络服务器暂时锁定的服务信息。之后，负载均衡服务器基于各个可用流式网络服务器的空闲服务信息与各个可用流式网络服务器暂时锁定的服务信息确定各个可用流式网络服务器的可用服务数量。最后，负载均衡服务器根据各个可用流式网络服务器的可用服务数量从各个可用流式网络服务器中确定出目标流式网络服务器，并将目标流式网络服务器的地址信息发送至客户端。

作为一种可实施方式，目标流式网络服务器具体可以为可用服务数量最多的可用流式网络服务器，当可用服务数量最多的可用流式网络服务器有多个时，可从中任意选取一个作为目标流式网络服务器。

作为又一种可实施方式，目标流式网络服务器具体可以为可用流式网络服务器中的任意一个流式网络服务器。

需要说明的是，负载均衡服务器将目标流式网络服务器的地址信息发送至客户端的同时，负载均衡服务器还根据目标流式网络服务器的地址信息以及第一客户端生成的流式网络服务请求信息生成目标流式网络服务器的分配信息并发送至缓存中心服务器，由缓存中心服务器记录。

需要说明的是，如果客户端在收到负载均衡服务器发送的目标流式网络服务器的地址信息之后，在预设时间内建立了与目标流式网络服务器的流式会话，则负载均衡服务器在预设时间内能够监听到流式会话传递的目标请求标识信息，该目标请求标识信息即为第一客户端发送的流式网络服务请求对应的请求标识信息，此时，负载均衡服务器会控制缓存中心服务器删除之前记录的目标语言处理服务器暂时锁定的目标服务信息。或者，由目标流式网络服务器控制缓存中心服务器删除之前记录的目标语言处理服务器暂时锁定的目标服务信息。

如果客户端在收到负载均衡服务器发送的目标流式网络服务器的地址信息之后，在预设时间内未建立与目标流式网络服务器的会话连接，则负载均衡服务器在预设时间内未监听到流式会话传递的目标请求标识信息，负载均衡服务器也需要控制缓存中心服务器删除之前记录的目标语言处理服务器暂时锁定的服务信息。作为一种可实施方式，预设时间的具体值可以基于流式网络服务器与客户端之间的握手协议确定过程的持续时间来设置。

基于上述流式网络服务系统，本案发明人提出了一种流式网络服务负载方法，该方法能够实现流式网络服务器集群中各个流式网络服务器的负载均衡。该方法可应用于负载均衡服务器。接下来，通过下述实施例对本申请提供的流式网络服务负载方法进行介绍。

请参阅图2，示出了本申请实施例提供的流式网络服务负载方法的流程示意图，该方法可以包括：

步骤S201：获得目标客户端的流式网络服务请求。

目标客户端即流式网络服务系统中的任一客户端。流式网络服务请求用于指示请求处理流式网络业务，具体包括流式网络业务的类型信息，流式网络业务即客户端将生成的流媒体(如视频、音频)通过网络传送至流式网络服务器处进行处理的业务。作为一种可实施方式，流式网络业务可以为对实时音频数据的语音处理业务，其对应的类型信息即服务语种信息。对实时音频数据的语音处理业务可以为对实时音频数据的语音转写，也可以为对实时音频数据的语音翻译。

步骤S202：通过与所述配置中心服务器进行交互确定可用流式网络服务器。

配置中心服务器中记录有在线的各个流式网络服务器的配置信息，每个流式网络服务器的配置信息包括该流式网络服务器的名称、该流式网络服务器的地址信息以及该流式网络服务器的服务业务类型信息。每个流式网络服务器的地址信息包括该流式网络服务器的IP地址以及该流式网络服务器的端口信息。根据不同的应用场景，流式网络服务器的服务业务类型信息不同，比如对于语音处理场景中的流式网络服务器，其服务业务类型信息可以为服务语种信息。

作为一种可实施方式，可先从所述配置中心服务器获得流式网络服务器集群中各个在线的流式网络服务器的配置信息，再根据所述流式网络服务器集群中各个在线的流式网络服务器的配置信息确定可用流式网络服务器。

需要说明的是，可用流式网络服务器即能够对流式网络服务请求指示请求处理的流式网络业务进行处理的流式网络服务器。因此，在本步骤中，可以根据流式网络服务器的服务业务类型信息确定可用流式网络服务器。具体的，服务业务类型信息与所述流式网络服务请求服务业务类型信息一致的流式网络服务器为可用流式网络服务器。示例如：如果所述流式网络服务器的配置信息包括服务语种信息，则确定服务语种信息与所述流式网络服务请求的服务语种信息一致的流式网络服务器为可用流式网络服务器。

步骤S203：通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器。

本步骤中，可以通过与可用流式网络服务器以及缓存中心服务器进行交互获取目标信息，并根据目标信息从可用流式网络服务器中确定出目标流式网络服务器。目标流式网络服务器是可用流式网络服务器中满足预设策略的一个流式网络服务器，预设策略可以为最空闲策略，也可以为随机策略。

步骤S204：将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

在确定出目标流式网络服务器之后，即可将目标流式网络服务器分配给目标客户端，具体的，可将目标流式网络服务器的地址信息发送给目标客户端，以使目标客户端建立与目标流式网络服务器的流式会话。同时，负载均衡服务器还生成目标流式网络服务器的分配信息，并将该分配信息发送至缓存中心服务器，由缓存中心服务器进行缓存。目标流式网络服务器的分配信息包括目标流式网络服务器的地址信息以及目标客户端的流式网络服务请求信息。

本实施例公开了一种流式网络服务负载方法，流式网络服务系统中的负载均衡服务器获得目标客户端的流式网络服务请求之后，通过与配置中心服务器进行交互确定可用流式网络服务器；通过与可用流式网络服务器以及缓存中心服务器进行交互确定目标流式网络服务器；将目标流式网络服务器分配给目标客户端，并将目标流式网络服务器的分配信息发送至缓存中心服务器。本实施例公开的方案能够保证流式网络服务器集群中各个流式网络服务器的负载均衡。

在本申请的一个实施例中，介绍了上述步骤S203，通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器的具体实现过程。结合图3示例的流程，对通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器的具体实现过程进行介绍，如图3所示，该过程可以包括：

步骤S2031：获得所述可用流式网络服务器的空闲服务信息。

本步骤中，负载均衡服务器通过与所述可用流式网络服务器进行交互即可获得可用流式网络服务器的空闲服务信息。作为一种可实施方式，负载均衡服务器基于各个可用流式网络服务器的地址信息调用各个可用流式网络服务器的RESTful接口查询各个可用流式网络服务器的状态信息，每个可用流式网络服务器的状态信息至少包括该可用流式网络服务器的空闲服务信息。

步骤S2032：从所述缓存中心服务器获得所述可用流式网络服务器的分配信息。

缓存中心服务器记录有已被分配的流式网络服务器的分配信息，每个已被分配的流式网络服务器的分配信息中包括该流式网络服务器的地址信息以及为该流式网络服务器分配的流式网络服务请求信息。

步骤S2033：根据所述可用流式网络服务器的空闲服务信息以及所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的可用服务数量。

作为一种可实施方式，可根据所述可用流式网络服务器的空闲服务信息确定所述可用流式网络服务器的空闲服务数量；再根据所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的被锁定的服务数量；最后，根据所述可用流式网络服务器的空闲服务数量以及所述可用流式网络服务器的被锁定的服务数量确定所述可用流式网络服务器的可用服务数量。每个可用流式网络服务器的可用服务数量可以为该流式网络服务器的空闲服务数量与该可用流式网络服务器的被锁定的服务数量之间的差值。每个可用流式网络服务器的空闲服务数量为该可用流式网络服务器的总服务数量与该可用流式网络服务器的已用服务数量之间的差值。

步骤S2034：根据所述可用流式网络服务器的可用服务数量确定目标流式网络服务器。

目标流式网络服务器是可用流式网络服务器中满足预设策略的一个流式网络服务器，预设策略可以为最空闲策略，也可以为随机策略。当预设策略为最空闲策略时，目标流式网络服务器是可用流式网络服务器中可用服务数量最多的一个流式网络服务器，当可用服务数量最多的可用流式网络服务器有多个时，可从中任意选取一个作为目标流式网络服务器。当预设策略为随机策略时，目标流式网络服务器是可用流式网络服务器中的任意一个流式网络服务器。

示例如，假设流式网络服务器集群中包括A、B两个流式网络服务器，A的总服务数量为6路，B的总服务数量为4路，如果10个客户端同时向负载均衡服务器发送流式网络服务请求，按照本申请实施例提供的流式网络服务负载方法，实际请求与返回情况如下表所示：

另外，在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，负载均衡服务器还可监控所述目标客户端与所述目标流式网络服务器之间的流式会话，并在监控到所述目标客户端与所述目标流式网络服务器之间的流式会话之后，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。或者，由目标流式网络服务器控制缓存中心服务器删除之前记录的目标语言处理服务器暂时锁定的目标服务信息。示例如，当监控到会话传递的标识信息与目标客户端发送的请求中的标识一致时，则确定监控到目标客户端与目标流式网络服务器之间的流式会话。这种情况下，目标流式网络服务器的已占用服务数量将增加一，空闲服务数量将减少一。

需要说明的是，如果所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，在预设时间内未建立与目标流式网络服务器的会话连接，则负载均衡服务器在预设时间内未监听到流式会话传递的目标请求标识信息，负载均衡服务器也需要控制缓存中心服务器删除之前记录的目标语言处理服务器暂时锁定的服务信息，以将该目标语言处理服务器的服务释放出来，避免不必要的资源占用。具体的，可在将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，启动定时器开始计时，当计时时长达到预设时长时，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。作为一种可实施方式，预设时间的具体值可以基于流式网络服务器与客户端之间的握手协议确定过程的持续时间来设置。

下面对本申请实施例公开的流式网络服务负载装置进行描述，下文描述的流式网络服务负载装置与上文描述的流式网络服务负载方法可相互对应参照。

参照图4，图4为本申请实施例公开的一种流式网络服务负载装置结构示意图。该流式网络服务负载装置应用于流式网络服务系统中的负载均衡服务器，如图4所示，该流式网络服务负载装置可以包括：

请求获得单元41，用于获得目标客户端的流式网络服务请求；

可用流式网络服务器确定单元42，用于通过与所述配置中心服务器进行交互确定可用流式网络服务器；

目标流式网络服务器确定单元43，用于通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器；

分配单元44，用于将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

可选地，所述可用流式网络服务器确定单元，包括：

配置信息获取单元，用于从所述配置中心服务器获得流式网络服务器集群中各个在线的流式网络服务器的配置信息；

第一确定单元，用于根据所述流式网络服务器集群中各个在线的流式网络服务器的配置信息确定可用流式网络服务器。

可选地，所述目标流式网络服务器确定单元，包括：

空闲服务信息获得单元，用于获得所述可用流式网络服务器的空闲服务信息；

分配信息获得单元，用于从所述缓存中心服务器获得所述可用流式网络服务器的分配信息；

可用服务数量确定单元，用于根据所述可用流式网络服务器的空闲服务信息以及所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的可用服务数量；

第二确定单元，用于根据所述可用流式网络服务器的可用服务数量确定目标流式网络服务器。

可选地，所述流式网络服务器的配置信息包括服务语种信息，则所述第一确定单元包括：

第三确定单元，用于确定服务语种信息与所述流式网络服务请求的服务语种信息一致的流式网络服务器为可用流式网络服务器。

可选地，所述可用服务数量确定单元，包括：

空闲服务数量确定单元，用于根据所述可用流式网络服务器的空闲服务信息确定所述可用流式网络服务器的空闲服务数量；

被锁定的服务数量确定单元，用于根据所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的被锁定的服务数量；

第四确定单元，用于根据所述可用流式网络服务器的空闲服务数量以及所述可用流式网络服务器的被锁定的服务数量确定所述可用流式网络服务器的可用服务数量。

可选地，所述装置还包括：

监控单元，用于在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，监控所述目标客户端与所述目标流式网络服务器之间的流式会话；

第一分配信息删除单元，用于在监控到所述目标客户端与所述目标流式网络服务器之间的流式会话之后，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

可选地，所述装置还包括：

定时单元，用于在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，启动定时器开始计时；

第二分配信息删除单元，用于当计时时长达到预设时长时，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

图5示出了负载均衡服务器的硬件结构框图，参照图5，负载均衡服务器的硬件结构可以包括：至少一个处理器1，至少一个通信接口2，至少一个存储器3和至少一个通信总线4；

在本申请实施例中，处理器1、通信接口2、存储器3、通信总线4的数量为至少一个，且处理器1、通信接口2、存储器3通过通信总线4完成相互间的通信；

处理器1可能是一个中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路等；

存储器3可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatilememory)等，例如至少一个磁盘存储器；

其中，存储器存储有程序，处理器可调用存储器存储的程序，所述程序用于：

获得目标客户端的流式网络服务请求；

通过与所述配置中心服务器进行交互确定可用流式网络服务器；

通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器；

将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

可选的，所述程序的细化功能和扩展功能可参照上文描述。

本申请实施例还提供一种存储介质，该存储介质可存储有适于处理器执行的程序，所述程序用于：

获得目标客户端的流式网络服务请求；

通过与所述配置中心服务器进行交互确定可用流式网络服务器；

通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器；

将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

可选的，所述程序的细化功能和扩展功能可参照上文描述。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (11)

1.一种流式网络服务负载方法，其特征在于，应用于流式网络服务系统中的负载均衡服务器，所述流式网络服务系统还包括配置中心服务器以及缓存中心服务器，所述方法包括：

获得目标客户端的流式网络服务请求；

通过与所述配置中心服务器进行交互确定可用流式网络服务器；

通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器；

将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

2.根据权利要求1所述的方法，其特征在于，所述通过与所述配置中心服务器进行交互确定可用流式网络服务器，包括：

从所述配置中心服务器获得流式网络服务器集群中各个在线的流式网络服务器的配置信息；

根据所述流式网络服务器集群中各个在线的流式网络服务器的配置信息确定可用流式网络服务器。

3.根据权利要求1所述的方法，其特征在于，所述通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器，包括：

获得所述可用流式网络服务器的空闲服务信息；

从所述缓存中心服务器获得所述可用流式网络服务器的分配信息；

根据所述可用流式网络服务器的空闲服务信息以及所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的可用服务数量；

根据所述可用流式网络服务器的可用服务数量确定目标流式网络服务器。

4.根据权利要求2所述的方法，其特征在于，所述流式网络服务器的配置信息包括服务语种信息，则所述根据所述流式网络服务器集群中各个在线的流式网络服务器的配置信息确定可用流式网络服务器，包括：

确定服务语种信息与所述流式网络服务请求的服务语种信息一致的流式网络服务器为可用流式网络服务器。

5.根据权利要求3所述的方法，其特征在于，所述根据所述可用流式网络服务器的空闲服务信息以及所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的可用服务数量，包括：

根据所述可用流式网络服务器的空闲服务信息确定所述可用流式网络服务器的空闲服务数量；

根据所述可用流式网络服务器的分配信息确定所述可用流式网络服务器的被锁定的服务数量；

根据所述可用流式网络服务器的空闲服务数量以及所述可用流式网络服务器的被锁定的服务数量确定所述可用流式网络服务器的可用服务数量。

6.根据权利要求1至5中任意一项所述的方法，其特征在于，在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，所述方法还包括：

在监控到所述目标客户端与所述目标流式网络服务器之间的流式会话之后，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

7.根据权利要求1至5中任意一项所述的方法，其特征在于，在所述将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器之后，所述方法还包括：

启动定时器开始计时；

当计时时长达到预设时长时，控制删除所述缓存中心服务器存储的所述目标流式网络服务器的分配信息。

8.一种流式网络服务负载装置，其特征在于，应用于流式网络服务系统中的负载均衡服务器，所述流式网络服务系统还包括配置中心服务器以及缓存中心服务器，所述装置包括：

请求获得单元，用于获得目标客户端的流式网络服务请求；

可用流式网络服务器确定单元，用于通过与所述配置中心服务器进行交互确定可用流式网络服务器；

目标流式网络服务器确定单元，用于通过与所述可用流式网络服务器以及所述缓存中心服务器进行交互确定目标流式网络服务器；

分配单元，用于将所述目标流式网络服务器分配给所述目标客户端，并将所述目标流式网络服务器的分配信息发送至所述缓存中心服务器。

9.一种流式网络服务系统，其特征在于，

所述系统包括：

配置中心服务器，用于记录流式网络服务器集群中各个在线的流式网络服务器的配置信息；

缓存中心服务器，用于记录已被分配的流式网络服务器的分配信息；

负载均衡服务器，用于执行权利要求1至7中任意一项所述的流式网络负载方法。

10.一种负载均衡服务器，其特征在于，包括存储器和处理器；

所述存储器，用于存储程序；

所述处理器，用于执行所述程序，实现如权利要求1至7中任一项所述的流式网络服务负载方法的各个步骤。

11.一种可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时，实现如权利要求1至7中任一项所述的流式网络服务负载方法的各个步骤。