CN110324370B - 服务端向客户端推送数据的方法和装置 - Google Patents
服务端向客户端推送数据的方法和装置 Download PDFInfo
- Publication number
- CN110324370B CN110324370B CN201810270948.7A CN201810270948A CN110324370B CN 110324370 B CN110324370 B CN 110324370B CN 201810270948 A CN201810270948 A CN 201810270948A CN 110324370 B CN110324370 B CN 110324370B
- Authority
- CN
- China
- Prior art keywords
- data
- client
- server
- data object
- queue
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/55—Push-based network services
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明公开了一种服务端向客户端推送数据的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:获取客户端可创建的处理线程的个数;生成与客户端相对应的数据对象,并将生成的数据对象添加到推送集合中;每次从推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将该数据对象放入等待集合中;待对应的客户端数据处理完成后,从等待集合中取出该数据对象并将该数据对象放入推送集合中,以便再次进行数据推送。该实施方式能够差异化对待每个客户端,且能够感知每个客户端处理能力的上限,避免客户端负载过高,以及使所有客户端都能公平的接收到服务端推送的数据。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种服务端向客户端推送数据的方法和装置。
背景技术
客户端/服务器(Client/Server)结构,简称C/S结构,是一种基于网络的系统体系架构结构。在C/S结构的系统中,应用程序分为客户端和服务端两大部分。客户端部分为每个用户所专有,而服务端则由所有用户共享其信息与功能。
当需要把服务端上的大量数据源源不断的推送给若干客户端去处理时,若服务端需要推送的数据量非常大,而且客户端处理数据又非常耗时,那么就需要一种高效的服务端向客户端推送数据的负载均衡技术,在每个客户端可接受的负载压力范围之内,让服务端尽可能多的推送数据给客户端。
如图1所示,现有的服务端向客户端推送数据的过程如下:
1、服务端接收到由若干个客户端发来的数据推送请求,以请求服务端将数据推送给客户端;
2、服务端从数据集合中选取一条数据;
3、服务端选择一个客户端并推送数据,然后,服务端重复执行步骤2和3,以实现依次向若干客户端推送数据;
4、客户端处理接收到的数据。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
当服务端需要推送的数据量非常大,而且客户端处理数据又非常耗时的时候,现有的技术方案存在以下三个缺点:
1、每个客户端机器的性能不一样,而服务端没有对这些客户端差别化对待;
2、当服务端向客户端推送数据时,无法感知客户端处理数据的能力极限,可能会造成低性能的客户端负载过高而卡死;
3、服务端的数据推送没有考虑公平性,无法保证所有客户端都能公平的接收到服务端发送的数据。
发明内容
有鉴于此,本发明实施例提供一种服务端向客户端推送数据的方法和装置,能够根据客户端机器的性能,差异化对待每个客户端,且能够感知每个客户端处理能力的上限,避免客户端负载过高,以及公平地进行数据推送,使所有客户端都能公平的接收到服务端推送的数据。
为实现上述目的,根据本发明实施例的一个方面,提供了一种服务端向客户端推送数据的方法。
一种服务端向客户端推送数据的方法,包括:获取客户端可创建的处理线程的个数;生成与所述客户端相对应的数据对象,并将生成的数据对象添加到推送集合中,其中,所述生成的数据对象的个数与所述处理线程的个数相关;每次从所述推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述推送集合中,以便再次进行数据推送。
可选地,所述推送集合中的数据对象以队列的形式保存,并且,将生成的数据对象添加到所述队列中;每次从所述队列的头部取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;以及,待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述队列的尾部,以便再次进行数据推送。
可选地,将生成的数据对象添加到所述队列中之后,还包括:将所述队列中的数据对象进行乱序处理。
可选地,所述客户端可创建的处理线程的个数是根据所述客户端的性能数据确定的。
根据本发明实施例的另一方面,提供了一种服务端向客户端推送数据的装置。
一种服务端向客户端推送数据的装置,包括:信息获取模块,用于获取客户端可创建的处理线程的个数;对象添加模块,用于生成与所述客户端相对应的数据对象,并将生成的数据对象添加到推送集合中,其中,所述生成的数据对象的个数与所述处理线程的个数相关;数据推送模块,用于每次从所述推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;对象循环模块,用于待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述推送集合中,以便再次进行数据推送。
可选地,所述推送集合中的数据对象以队列的形式保存,并且,将生成的数据对象添加到所述队列中;每次从所述队列的头部取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;以及,待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述队列的尾部,以便再次进行数据推送。
可选地,还包括乱序处理模块,用于:在将生成的数据对象添加到所述队列中之后,将所述队列中的数据对象进行乱序处理。
可选地,所述客户端可创建的处理线程的个数是根据所述客户端的性能数据确定的。
根据本发明实施例的又一方面,提供了一种服务端向客户端推送数据的电子设备。
一种服务端向客户端推送数据的电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例所提供的服务端向客户端推送数据的方法。
根据本发明实施例的再一方面,提供了一种计算机可读介质。
一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例所提供的服务端向客户端推送数据的方法。
上述发明中的一个实施例具有如下优点或有益效果:通过获取客户端可创建的处理线程的个数,并根据处理线程的个数生成相应个数的与客户端对应的数据对象,可以使服务端根据每个客户端的性能数据来为每个客户端分配不同的负载,使得每个客户端都能在自己能力范围之内合理的处理数据;在推送数据时,通过每次从推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,并将数据对象放入等待集合中,以及待对应的客户端处理完成后,从等待集合中取出数据对象并放入推送集合中,可以确保服务端能够感知每个客户端处理能力的上限,服务端可以在每个客户端处理能力的上限范围之内向客户端推送数据,从而避免了客户端负载过高,实现了服务端向客户端推送数据的负载均衡。并且,通过将推送集合中的数据对象以队列的形式进行保存,推送线程从发送队列的头部取出数据对象,且在客户端处理完成后将数据对象放入发送队列的尾部,由于队列的先进先出的特性,可以确保每个客户端的每个线程能够公平的接收到服务端推送过来的数据。另外,每当有新的客户端需要与服务端连接以请求推送数据时,在服务端与该客户端建立连接,将该客户端对应的数据对象添加到推送队列后,推送队列都会进行一次乱序处理,从而避免在推送数据时,压力暂时集中在一个客户端上,这样即可使得每个客户端的负载基本是均衡的。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是现有的服务端向客户端推送数据的过程的示意图;
图2是本发明一个实施例的服务端向客户端推送数据的原理示意图;
图3是根据本发明实施例的服务端向客户端推送数据的方法的主要流程的示意图;
图4是本发明一个实施例的客户端与服务端建立连接的过程的原理示意图;
图5是本发明一个实施例的服务端生成的推送队列的结构示意图;
图6是本发明一个实施例的服务端生成的推送队列进行乱序处理后的推送队列示意图;
图7是本发明一个实施例的数据推送的过程的示意图;
图8是根据本发明实施例的服务端向客户端推送数据的装置的主要模块的示意图;
图9是本发明实施例可以应用于其中的示例性系统架构图;
图10是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
为了解决现有技术中提到的问题,本发明提供了一种服务端向客户端推送数据的方法,服务端能够根据客户端机器的性能,差异化对待每个客户端,即机器性能好的客户端能够尽可能多的收到服务端推送过来的数据;服务端能够感知每个客户端处理能力的上限,在每个客户端处理能力上限范围之内向客户端推送数据,避免客户端负载过高而导致卡死等异常;服务端的数据推送满足公平性,所有客户端都能公平的接收到服务端推送的数据。
由于本发明在进行数据推送时,客户端与服务端需要频繁的进行网络通信,为了避免由于大量的TCP(Transmission Control Protocol传输控制协议)连接的创建和关闭带来的资源消耗,因此本发明客户端与服务端之间使用TCP长连接。长连接是指客户端与服务端建立连接之后,客户端与服务端一直使用此连接来通信,直到客户端或服务端关闭此连接。
如图2所示,是本发明一个实施例的服务端向客户端推送数据的原理示意图。在该实施例中,有3个客户端,分别与服务端建立连接,每个客户端与服务端建立一个TCP长连接以进行网络通信。连接建立后,客户端生成一个数据对象,例如为Java中的Channel(通道)对象,同时,服务端也生成一个与此客户端连接相对应的Channel对象。本发明中,客户端和服务端根据生成的相对应的数据对象进行数据通信。如此,当需要进行数据推送时,大致过程如下:
1、服务端的推送线程从数据集合中取出一个数据;
2、推送线程选取一个Channel对象;
3、推送线程通过该Channel对象向客户端推送数据,例如:假设数据对象Channel1是与客户端1对应的,那么当推送线程选取的数据对象是Channel1时,则将向客户端1发送数据。
其中,推送线程如何选取Channel对象是本发明技术方案的关键。
图3是根据本发明实施例的服务端向客户端推送数据的方法的主要流程的示意图。如图3所示,本发明实施例的服务端向客户端推送数据的方法主要包括如下的步骤S301至步骤S304。
步骤S301:获取客户端可创建的处理线程的个数;
步骤S302:生成与客户端相对应的数据对象,并将生成的数据对象添加到推送集合中。其中,生成的数据对象的个数与处理线程的个数相关;
步骤S303:每次从推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将该数据对象放入等待集合中;
步骤S304:待对应的客户端数据处理完成后,从等待集合中取出该数据对象并将该数据对象放入推送集合中,以便再次进行数据推送。
步骤S301和步骤S302用于实现客户端与服务端建立连接,以完成数据推送前的系统初始化工作。其中,客户端可创建的处理线程的个数是根据客户端的性能数据确定的。具体地,客户端可创建的处理线程的个数可以由客户端根据客户端的性能数据确定并发送给服务端;也可以由服务端根据客户端的性能数据确定。
当应用安装到客户端时,即可获取客户端自身机器的性能数据,例如:中央处理器CPU(Central Processing Unit)的核数,内存大小,硬盘大小等。之后,即可由客户端根据预定的规则计算该客户端可以创建的用于进行数据处理的处理线程个数,并将处理线程个数保存到客户端上的应用的配置文件中。如此,当客户端启动并请求推送数据时,将该客户端可创建的处理线程的个数发送给服务端,以便服务端可以根据客户端机器的性能差异化对待不同的客户端。也可以是在应用安装到客户端后,客户端将获取到的自身机器的性能数据发送给服务端,然后,由服务端根据预定的规则计算该客户端可以创建的用于进行数据处理的处理线程个数,并将处理线程个数与客户端的对应关系进行保存。如此,当客户端启动并请求推送数据时,服务端即可根据客户端的标识来获取客户端对应的可创建的处理线程的个数,以便可以根据客户端机器的性能差异化对待不同的客户端。
其中,在计算客户端可以创建的用于进行数据处理的处理线程个数时,预定的规则例如是:每个CPU核对应一个线程,或者每两个CPU核对应一个线程,又或者是将CPU核数与内存大小进行运算后得到线程个数,等等。另外,客户端可创建的处理线程的个数还可以由系统管理员进行人工设定或调整。并且,客户端可创建的处理线程的个数可以只设定一次,也可以在客户端每次启动前都设定一次。一般地,可以预先根据机器性能取一个设定值,运行一段时间后根据具体情况调整为一个更合理的值。本发明中,客户端可创建的处理线程的个数的确定方式比较灵活,并不局限于以上所列出的方案。
由于客户端可创建的处理线程的个数由客户端根据自身机器的性能数据来确定并发送给服务端,如此可以减小服务端的压力且更便于进行灵活调整,故而在本发明的后续实施例中,以客户端可创建的处理线程的个数为由客户端根据自身机器的性能数据来确定并发送给服务端为例来进行介绍。
在获取客户端可创建的处理线程的个数之后,服务端将执行步骤S302生成与客户端相对应的数据对象,并将生成的数据对象添加到推送集合中,其中,生成的数据对象的个数与处理线程的个数相关。具体例如,生成的数据对象的个数与处理线程的个数相等。在服务端生成数据对象的同时,客户端创建用于进行数据处理的线程池。如此,即已完成数据推送前的系统初始化工作。
在完成数据推送前的系统初始化工作后,服务端将根据步骤S303和步骤S304进行数据推送。每次从推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,并在数据发送完成后将该数据对象放入等待集合中;待对应的客户端处理完成后,从等待集合中获取该数据对象并放入推送集合中,以再次进行数据推送。采用此种技术方案,当推送集合中有数据对象时,则说明该数据对象的客户端仍有空闲线程,故服务端可通过推送集合中的数据对象向该客户端推送数据;当推送集合中没有数据对象时,则说明所有的客户端均无空闲线程,达到了处理能力的上限,故服务端将不再向客户端推送数据。如此,即可使得服务端能够感知每个客户端处理能力的上限,在每个客户端处理能力的上限范围内向客户端推送数据,从而避免了客户端负载过高的问题,实现了服务端向客户端推送数据的负载均衡。
另外,为了使每个客户端的每个线程都能公平的接收到数据,避免出现服务端将数据集中在某个或某些客户端进行处理,或将数据集中在客户端的某个或某些线程进行处理的情况,本发明在将生成的数据对象添加到推送集合中之后,将推送集合中的数据对象以队列的形式进行保存,根据队列的先进先出的特性,可以实现对数据对象进行排序,从而使每个客户端的每个线程都能公平的接收到数据。
当推送集合中的数据对象以队列的形式保存时,将生成的数据对象添加到推送集合时,即是将生成的数据对象添加到推送队列的尾部,且每次取出数据对象时,是从推送队列的头部取出数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将该数据对象放入等待集合中;以及,待接收到对应的客户端数据处理完成的反馈后,从等待集合中取出该数据对象并将该数据对象放入推送队列的尾部,以便再次进行数据推送。
下面结合附图介绍本发明的具体实施过程。在后续的实施例介绍中,均以将数据对象保存到推送队列中为例。
图4是本发明一个实施例的客户端与服务端建立连接的过程的原理示意图。如图4所示,客户端与服务端建立连接的过程大致如下:
1、客户端1在未启动前,根据自身机器性能确定可创建的处理线程的个数Num,并写入配置文件中;
2、客户端1启动,读取配置文件中的处理线程的个数Num的值3,然后创建有3个处理线程的线程池;
3、客户端1与服务端建立TCP长连接,并在连接成功后,客户端和服务端分别创建一个数据对象,如Channel对象,客户端1将处理线程的个数值3发送给服务端;
4、服务端把与客户端1对应的数据对象Channel1复制3份并编号,以得到与客户端1对应的3个数据对象Channel1-1、Channel1-2和Channel1-3,并将这3个数据对象添加到推送队列中。
在客户端与服务端建立连接后,服务端将生成一个推送队列。图5是本发明一个实施例的服务端生成的推送队列的结构示意图。如图5所示,假设有3个客户端分别与服务端建立连接,客户端1的处理线程的个数设定为3,客户端2的处理线程的个数设定为1,客户端3的处理线程的个数设定为2。那么,服务端在与客户端连接后,根据客户端对应的处理线程的个数,生成与客户端对应的数据对象。具体地,服务端在与客户端1连接后,将与客户端1对应的数据对象Channel1复制3份并编号,以得到与客户端1对应的3个数据对象C1-1、C1-2和C1-3,并将这3个数据对象添加到推送队列中;服务端在与客户端2连接后,将与客户端2对应的数据对象Channel2复制1份并编号,以得到与客户端2对应的1个数据对象C2-1,并将这个数据对象添加到推送队列中;服务端在与客户端3连接后,将与客户端3对应的数据对象Channel3复制2份并编号,以得到与客户端3对应的2个数据对象C3-1和C3-2,并将这2个数据对象添加到推送队列中。如此,即可得到多个客户端与服务端进行连接时生成的推送队列。
另外,本发明在将数据对象添加到推送队列中之后,还可以将推送队列中的数据对象进行乱序处理,从而避免在推送数据时,压力暂时集中在一个客户端上,这样即可使得每个客户端的负载基本是均衡的。其中,在数据推送过程中,每当有新的客户端需要与服务端连接以请求推送数据时,在服务端与该客户端建立连接,将该客户端对应的数据对象添加到推送队列后,推送队列都会进行一次乱序处理。在进行乱序处理时,只要把初始的按顺序排列的数据对象的顺序打乱即可,每种计算机开发语言都会提供API实现此功能。以最常用的Java语言为例,调用如下API即可实现需要的功能:Collections.shuffle(channel_List)。
图6是本发明一个实施例的服务端生成的推送队列进行乱序处理后的推送队列示意图。如图6所示,为图5所示的实施例中,服务端生成的推送队列进行乱序处理后得到的推送队列。由此可以看出,进行乱序处理后,服务端推送数据时会将数据均衡地推送给多个客户端。
生成推送队列后,服务端将进行数据推送。由于队列具有先进先出的特性,因此,服务端在推送数据时,每次从推送队列的头部取出一个数据对象,并通过该取出的数据对象将数据发送给对应的客户端,并在数据发送完成后,将该数据对象放入等待集合中;待对应的客户端数据处理完成后,从等待集合中取出该数据对象并放入推送队列尾部,以便再次进行数据推送。
根据本发明实施例的技术方案,服务端从推送队列的头部取出一个Channel对象,然后向此Channel对象对应的客户端发送数据时会附带发送此数据的Channel对象的标识;对应客户端的线程处理完此数据向服务端发送反馈时,反馈信息中也包括此数据的Channel对象的标识。如此,服务端即可根据这个标识,将在等待集合中的对应Channel对象取出并放入推送队列的尾部。例如:假设初始时推送队列的顺序是C1-1、C1-2和C1-3(假设只有一个客户端1,且只有这3个数据对象)。服务端的推送线程依次使用C1-1、C1-2和C1-3这3个数据对象向客户端1发送数据,然后将这三个数据对象都放入等待集合中。假设C1-2发送的数据被客户端1的某个处理线程首先完成了数据处理,此时,客户端1向服务端发送数据处理完成的反馈(反馈信息中包含了对应Channel对象的标识“C1-2”);服务端收到此反馈后会把标识为“C1-2”的Channel对象从等待集合中取出并放入推送队列的尾部。由于此时C1-1和C1-3对应的客户端1的处理线程还没有反馈,所以推送队列中就只有C1-2且C1-2位于推送队列的头部。这样当推送线程再次发送数据时,就会选择C1-2来发送下一条数据。
图7是本发明一个实施例的数据推送的过程的示意图。如图7所示,为图6所示的实施例进行数据推送的过程。假设服务端已通过数据对象C3-2向客户端3发送一条数据,且等待客户端3的反馈,此时,C3-2在等待集合中;服务端已通过数据对象C1-1向客户端1发送一条数据且等待客户端1的反馈,此时,C1-1也在等待集合中。之后,服务端向客户端推送数据的过程如下:
1、服务端的推送线程从数据集合中取出一个数据;
2、推送线程从推送队列的头部取出数据对象C2-1;
3、推送线程通过该数据对象C2-1向客户端2(C2-1与客户端2连接)发送数据;
4、推送线程把数据对象C2-1放入等待集合中;
5、客户端2收到数据后,从线程池中取出一个处理线程来处理数据;
6、客户端2的线程处理完数据之后,向服务端反馈数据已处理完成(反馈信息中包括数据对象C2-1的标识);
7、服务端收到客户端2的反馈信息后,从等待集合中取出数据对象C2-1;
8、服务端将数据对象C2-1放入推送队列的尾部。
根据本发明的实施例,首先根据客户端自身机器性能确定客户端可创建的处理线程的个数,这样服务端就能根据每个客户端的处理线程的个数来为每个客户端分配不同的负载,从而使每个客户端都能在自己能力范围之内合理的处理数据。客户端的处理线程在处理完数据后,会向服务端反馈数据已处理完成;服务端收到反馈后,才会从等待集合中取出数据对象并放入推送队列的尾部,如此,即可确保服务端能够感知每个客户端的处理能力上限,使得服务端可以在每个客户端处理能力的上限范围之内向客户端推送数据,从而避免客户端负载过高,即:实现了服务端向客户端推送数据的负载均衡。另外,服务端在推送队列中有新增数据对象时,会把推送队列做乱序处理,这可以确保开始发送数据的阶段每个客户端的负载是均衡的,即初始发送阶段满足公平性。由于推送线程是从推送队列的头部取出数据对象,如Channel对象,且服务端收到客户端反馈后是把Channel对象放入推送队列的尾部,根据队列的先进先出的特性,可以确保每个客户端的每个线程能够公平的接收到服务端推送过来的数据,即在后续发送数据的阶段也满足公平性。
图8是根据本发明实施例的服务端向客户端推送数据的装置的主要模块的示意图。如图8所示,本发明实施例的服务端向客户端推送数据的装置800主要包括信息获取模块801、对象添加模块802、数据推送模块803和对象循环模块804。
信息获取模块801,用于获取客户端可创建的处理线程的个数;
对象添加模块802,用于生成与客户端相对应的数据对象,并将生成的数据对象添加到推送集合中,其中,生成的数据对象的个数与处理线程的个数相关;
数据推送模块803,用于每次从推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将该数据对象放入等待集合中;
对象循环模块804,用于待对应的客户端数据处理完成后,从等待集合中取出该数据对象并将该数据对象放入推送集合中,以便再次进行数据推送。
根据本发明的实施例的技术方案,推送集合中的数据对象以队列的形式保存,并且,本发明实施例的服务端向客户端推送数据的装置800还可以用于将生成的数据对象添加到队列中;每次从队列的头部取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将数据对象放入等待集合中;以及,待对应的客户端数据处理完成后,从等待集合中取出该数据对象并将该数据对象放入队列的尾部,以便再次进行数据推送。
另外,本发明实施例的服务端向客户端推送数据的装置800还可以包括乱序处理模块(图中未示出),用于:
在将生成的数据对象添加到推送队列中之后,将队列中的数据对象进行乱序处理。
根据本发明的实施例,客户端可创建的处理线程的个数是根据客户端的性能数据确定的。具体地,客户端可创建的处理线程的个数由客户端根据客户端的性能数据确定并发送给服务端,或者由服务端根据客户端的性能数据确定。
根据本发明实施例的技术方案,通过获取客户端可创建的处理线程的个数,并根据处理线程的个数生成相应个数的与客户端对应的数据对象,可以使服务端根据每个客户端的性能数据来为每个客户端分配不同的负载,使得每个客户端都能在自己能力范围之内合理的处理数据;在推送数据时,通过每次从推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,并将数据对象放入等待集合中,以及待对应的客户端处理完成后,从等待集合中取出数据对象并放入推送集合中,可以确保服务端能够感知每个客户端处理能力的上限,服务端可以在每个客户端处理能力的上限范围之内向客户端推送数据,从而避免了客户端负载过高,实现了服务端向客户端推送数据的负载均衡。并且,通过将推送集合中的数据对象以队列的形式进行保存,推送线程从发送队列的头部取出数据对象,且在客户端处理完成后将数据对象放入发送队列的尾部,由于队列的先进先出的特性,可以确保每个客户端的每个线程能够公平的接收到服务端推送过来的数据。另外,每当有新的客户端需要与服务端连接以请求推送数据时,在服务端与该客户端建立连接,将该客户端对应的数据对象添加到推送队列后,推送队列都会进行一次乱序处理,从而避免在推送数据时,压力暂时集中在一个客户端上,这样即可使得每个客户端的负载基本是均衡的。
图9示出了可以应用本发明实施例的服务端向客户端推送数据的方法或服务端向客户端推送数据的装置的示例性系统架构900。
如图9所示,系统架构900可以包括终端设备901、902、903,网络904和服务器905。网络904用以在终端设备901、902、903和服务器905之间提供通信链路的介质。网络904可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备901、902、903通过网络904与服务器905交互,以接收或发送消息等。终端设备901、902、903上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备901、902、903可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器905可以是提供各种服务的服务器,例如对用户利用终端设备901、902、903所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的服务端向客户端推送数据的方法一般由服务器905执行,相应地,服务端向客户端推送数据的装置一般设置于服务器905中。
应该理解,图9中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图10,其示出了适于用来实现本发明实施例的终端设备或服务器的计算机系统1000的结构示意图。图10示出的终端设备或服务器仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图10所示,计算机系统1000包括中央处理单元(CPU)1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。在RAM 1003中,还存储有系统1000操作所需的各种程序和数据。CPU 1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
以下部件连接至I/O接口1005:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被中央处理单元(CPU)1001执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元或模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中,例如,可以描述为:一种处理器包括信息获取模块、对象添加模块、数据推送模块和对象循环模块。其中,这些单元或模块的标识在某种情况下并不构成对该单元或模块本身的限定,例如,信息获取模块还可以被描述为“用于获取客户端可创建的处理线程的个数的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:获取客户端可创建的处理线程的个数;生成与所述客户端相对应的数据对象,并将生成的数据对象添加到推送集合中,其中,所述生成的数据对象的个数与所述处理线程的个数相关;每次从所述推送集合中取出一个数据对象,并通过所述数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述推送集合中,以便再次进行数据推送。
根据本发明实施例的技术方案,通过获取客户端可创建的处理线程的个数,并根据处理线程的个数生成相应个数的与客户端对应的数据对象,可以使服务端根据每个客户端的性能数据来为每个客户端分配不同的负载,使得每个客户端都能在自己能力范围之内合理的处理数据;在推送数据时,通过每次从推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,并将数据对象放入等待集合中,以及待对应的客户端处理完成后,从等待集合中取出数据对象并放入推送集合中,可以确保服务端能够感知每个客户端处理能力的上限,服务端可以在每个客户端处理能力的上限范围之内向客户端推送数据,从而避免了客户端负载过高,实现了服务端向客户端推送数据的负载均衡。并且,通过将推送集合中的数据对象以队列的形式进行保存,推送线程从发送队列的头部取出数据对象,且在客户端处理完成后将数据对象放入发送队列的尾部,由于队列的先进先出的特性,可以确保每个客户端的每个线程能够公平的接收到服务端推送过来的数据。另外,每当有新的客户端需要与服务端连接以请求推送数据时,在服务端与该客户端建立连接,将该客户端对应的数据对象添加到推送队列后,推送队列都会进行一次乱序处理,从而避免在推送数据时,压力暂时集中在一个客户端上,这样即可使得每个客户端的负载基本是均衡的。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种服务端向客户端推送数据的方法,其特征在于,包括:
获取客户端可创建的处理线程的个数;
生成与所述客户端相对应的数据对象,并将生成的数据对象添加到推送集合中,其中,所述生成的数据对象的个数与所述处理线程的个数相关;
每次从所述推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;
待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述推送集合中,以便再次进行数据推送。
2.根据权利要求1所述的方法,其特征在于,所述推送集合中的数据对象以队列的形式保存,并且,
将生成的数据对象添加到所述队列中;
每次从所述队列的头部取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;以及,
待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述队列的尾部,以便再次进行数据推送。
3.根据权利要求2所述的方法,其特征在于,将生成的数据对象添加到所述队列中之后,还包括:
将所述队列中的数据对象进行乱序处理。
4.根据权利要求1所述的方法,其特征在于,所述客户端可创建的处理线程的个数是根据所述客户端的性能数据确定的。
5.一种服务端向客户端推送数据的装置,其特征在于,包括:
信息获取模块,用于获取客户端可创建的处理线程的个数;
对象添加模块,用于生成与所述客户端相对应的数据对象,并将生成的数据对象添加到推送集合中,其中,所述生成的数据对象的个数与所述处理线程的个数相关;
数据推送模块,用于每次从所述推送集合中取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;
对象循环模块,用于待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述推送集合中,以便再次进行数据推送。
6.根据权利要求5所述的装置,其特征在于,所述推送集合中的数据对象以队列的形式保存,并且,
将生成的数据对象添加到所述队列中;
每次从所述队列的头部取出一个数据对象,并通过取出的数据对象将数据发送给对应的客户端,然后,将所述数据对象放入等待集合中;以及,
待所述对应的客户端数据处理完成后,从所述等待集合中取出所述数据对象并将所述数据对象放入所述队列的尾部,以便再次进行数据推送。
7.根据权利要求6所述的装置,其特征在于,还包括乱序处理模块,用于:
在将生成的数据对象添加到所述队列中之后,将所述队列中的数据对象进行乱序处理。
8.根据权利要求5所述的装置,其特征在于,所述客户端可创建的处理线程的个数是根据所述客户端的性能数据确定的。
9.一种服务端向客户端推送数据的电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-4中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810270948.7A CN110324370B (zh) | 2018-03-29 | 2018-03-29 | 服务端向客户端推送数据的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810270948.7A CN110324370B (zh) | 2018-03-29 | 2018-03-29 | 服务端向客户端推送数据的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110324370A CN110324370A (zh) | 2019-10-11 |
CN110324370B true CN110324370B (zh) | 2023-05-30 |
Family
ID=68110788
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810270948.7A Active CN110324370B (zh) | 2018-03-29 | 2018-03-29 | 服务端向客户端推送数据的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110324370B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113419869B (zh) | 2021-08-25 | 2021-12-03 | 苏州浪潮智能科技有限公司 | 一种乱序数据的产生方法、装置、设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103731476A (zh) * | 2013-12-10 | 2014-04-16 | 乐视网信息技术(北京)股份有限公司 | 一种提高信息推送速度的方法和装置 |
CN105939312A (zh) * | 2015-08-26 | 2016-09-14 | 杭州迪普科技有限公司 | 一种数据的传输方法和装置 |
WO2016177285A1 (zh) * | 2015-05-07 | 2016-11-10 | 阿里巴巴集团控股有限公司 | 一种数据推送方法及装置 |
WO2018014771A1 (zh) * | 2016-07-21 | 2018-01-25 | 阿里巴巴集团控股有限公司 | 一种数据对象推送的方法、装置及系统 |
-
2018
- 2018-03-29 CN CN201810270948.7A patent/CN110324370B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103731476A (zh) * | 2013-12-10 | 2014-04-16 | 乐视网信息技术(北京)股份有限公司 | 一种提高信息推送速度的方法和装置 |
WO2016177285A1 (zh) * | 2015-05-07 | 2016-11-10 | 阿里巴巴集团控股有限公司 | 一种数据推送方法及装置 |
CN105939312A (zh) * | 2015-08-26 | 2016-09-14 | 杭州迪普科技有限公司 | 一种数据的传输方法和装置 |
WO2018014771A1 (zh) * | 2016-07-21 | 2018-01-25 | 阿里巴巴集团控股有限公司 | 一种数据对象推送的方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN110324370A (zh) | 2019-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108696374B (zh) | 更新客户端配置的方法和装置 | |
CN109844727B (zh) | 用于管理应用程序配置和相关联凭证的技术 | |
CN111258627B (zh) | 一种接口文档生成方法和装置 | |
US11632247B2 (en) | User security token invalidation | |
CN109218356B (zh) | 管理服务器上有状态应用的方法和设备 | |
CN111478781B (zh) | 一种消息广播的方法和装置 | |
US20210216981A1 (en) | Method and device for processing virtual cards | |
CN110650209A (zh) | 实现负载均衡的方法和装置 | |
CN109428926B (zh) | 一种调度任务节点的方法和装置 | |
CN112104679B (zh) | 处理超文本传输协议请求的方法、装置、设备和介质 | |
CN114296953A (zh) | 一种多云异构系统及任务处理方法 | |
CN110113176B (zh) | 用于配置服务器的信息同步方法及装置 | |
CN112084042A (zh) | 一种消息处理的方法和装置 | |
CN110324370B (zh) | 服务端向客户端推送数据的方法和装置 | |
CN112685481B (zh) | 一种数据处理方法和装置 | |
CN113541987A (zh) | 一种更新配置数据的方法和装置 | |
CN111831503A (zh) | 一种基于监控代理的监控方法和监控代理装置 | |
CN112948138A (zh) | 一种处理消息的方法和装置 | |
CN109088907B (zh) | 文件传递方法及其设备 | |
CN109284177B (zh) | 一种数据更新方法和装置 | |
CN112784139B (zh) | 查询方法、装置、电子设备和计算机可读介质 | |
CN110765445B (zh) | 处理请求的方法和装置 | |
CN113127561B (zh) | 业务单号的生成方法、装置、电子设备和存储介质 | |
CN111786801B (zh) | 一种基于数据流量进行计费的方法和装置 | |
CN109213815B (zh) | 控制执行次数的方法、装置、服务器终端以及可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |