CN117041235A - 一种基于Web应用的实时通信方法、设备及介质 - Google Patents
一种基于Web应用的实时通信方法、设备及介质 Download PDFInfo
- Publication number
- CN117041235A CN117041235A CN202310889255.7A CN202310889255A CN117041235A CN 117041235 A CN117041235 A CN 117041235A CN 202310889255 A CN202310889255 A CN 202310889255A CN 117041235 A CN117041235 A CN 117041235A
- Authority
- CN
- China
- Prior art keywords
- message
- communication
- processing
- messages
- web application
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000006854 communication Effects 0.000 title claims abstract description 335
- 238000004891 communication Methods 0.000 title claims abstract description 334
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000012545 processing Methods 0.000 claims abstract description 214
- 239000012634 fragment Substances 0.000 claims description 45
- 230000004044 response Effects 0.000 claims description 22
- 230000005540 biological transmission Effects 0.000 claims description 21
- 230000006870 function Effects 0.000 claims description 14
- 238000012544 monitoring process Methods 0.000 claims description 9
- 239000002699 waste material Substances 0.000 abstract description 8
- 230000000903 blocking effect Effects 0.000 abstract description 7
- 230000008569 process Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 238000004590 computer program Methods 0.000 description 7
- 230000009286 beneficial effect Effects 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 238000013500 data storage Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L49/00—Packet switching elements
- H04L49/90—Buffering arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/16—Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
- H04L69/161—Implementation details of TCP/IP or UDP/IP stack architecture; Specification of modified or new header fields
- H04L69/162—Implementation details of TCP/IP or UDP/IP stack architecture; Specification of modified or new header fields involving adaptations of sockets based mechanisms
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Computer And Data Communications (AREA)
Abstract
本说明书实施例公开了一种基于Web应用的实时通信方法、设备及介质,涉及网络通信技术领域,方法包括:接收指定Web应用发送的多个通信请求消息,将多个通信请求消息添加至预设的消息缓存队列中;通过预先设置的消息处理线程组,获取消息缓存队列中的多个通信请求信息,对每个通信请求信息进行处理,生成多个处理通信消息;获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,每个指定处理通信消息为待发送消息的消息数据;通过预先设置的消息转发线程组,对消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。充分考虑了IO阻塞对线程资源造成的浪费,将数据的转发作为异步任务处理,避免对线程资源的浪费。
Description
技术领域
本说明书涉及网络通信技术领域,尤其涉及一种基于Web应用的实时通信方法、设备及介质。
背景技术
当前的互联网环境下,网络实时通信已经遍布互联网的各个角落,得益于开放式互联(Open System Interconnection,OSI)七层网络模型的广泛推广,众多基于互联网通信的应用之间的数据交流越来越频繁,其中基于TCP协议通信的客户机和服务器结构(Client/Server)应用占据着互联网应用通信场景中的主流地位,这其中就有很多用于实时通信的应用。
网络实时通信的核心要义就是要完成消息的转发,消息转发的主要工作就是Socket消息传递,然而Socket消息传递是一个网络输入输出(Input/Output,IO)操作,消息传递过程中的网络质量直接决定了消息传递所需时间的大小,传统的网络编程模型中,Socket消息的接收处理是在一个单独的线程中执行的,消息的转发会占用一个线程资源直至消息转发完毕,也就是说线程会被阻塞,直至IO响应结束后才会继续运行,这样就造成了线程资源的浪费,线程资源的限制决定了单一应用同一时刻可以进行多少个消息转发的操作。
在现有的网络应用体系中,比如以Java语言编写的Tomcat容器上运行的Web应用,其对网络请求的处理是接收到数据后开启一个新的线程对接收的数据进行处理,这样的处理通过利用应用运行环境的剩余线程资源,达到了同时处理多个Socket请求的目的,但是这样的设计仅考虑了Web应用接收请求的场景,实际上应用在接收到请求后可能会在进行一些IO处理,比如进行一次远程调用或将数据存储到数据库等,这些IO操作都会对线程造成堵塞。综上所述,在Web应用接收请求需要对消息进行IO处理的场景中,由于IO操作会对线程造成堵塞,导致现有技术的消息转发受到线程资源的限制,实时通信存在局限性。
发明内容
本说明书一个或多个实施例提供了一种基于Web应用的实时通信方法、设备及介质,用于解决如下技术问题:在Web应用接收请求需要对消息进行IO处理的场景中,由于IO操作会对线程造成堵塞,导致现有技术的消息转发受到线程资源的限制,实时通信存在局限性。
本说明书一个或多个实施例采用下述技术方案:
本说明书一个或多个实施例提供一种基于Web应用的实时通信方法,其特征在于,所述方法包括:接收指定Web应用发送的多个通信请求消息,将所述多个通信请求消息添加至预设的消息缓存队列中;通过预先设置的消息处理线程组,获取所述消息缓存队列中的多个通信请求信息,对每个所述通信请求信息进行处理,生成多个处理通信消息;获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个所述指定处理通信消息为待发送消息的消息数据;通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
进一步地,接收指定Web应用发送的多个通信请求消息,具体包括:预先设置消息接收线程组,其中,所述消息接收线程组;通过所述消息接收线程组,对Web应用对应的Socket端口进行循环监听,以获取指定Web应用发送的多个通信请求消息。
进一步地,将所述多个通信请求消息添加至预设的消息缓存队列中之后,所述方法还包括:获取所述消息缓存队列中的多个通信请求信息,其中,所述通信请求消息包括待通信的通信消息和所述通信消息对应的IO处理标识;根据每个通信请求消息对应的IO处理标识,将所述多个通信请求消息进行消息分类,得到多个第一通信请求消息和多个第二通信请求消息,其中,所述第一通信请求消息的IO处理标识为通信消息需要进行IO处理,所述第二通信请求消息的IO处理标识为所述通信消息无需进行IO处理;将所述多个第一通信请求消息和所述多个第二通信请求消息,分别存储在所述消息缓存队列的对应缓存队列组中。
进一步地,对每个所述通信请求信息进行处理,生成多个处理通信消息,具体包括:获取每个所述通信请求信息中的IO处理标识;基于每个所述通信请求信息中的IO处理标识,确定所述IO处理标识对应的指定消息处理组件;将每个所述通信请求消息中的通信消息,发送至对应的所述指定消息处理组件,通过所述指定消息处理组件,对所述通信消息进行处理,生成处理通信消息。
进一步地,基于每个所述通信请求信息中的IO处理标识,确定所述IO处理标识对应的指定消息处理组件,具体包括:获取预先设置的配置文件,其中,所述配置文件包括多种消息处理组件的组件标识,其中,所述组件标识用于表示消息处理组件的消息处理功能;基于每个所述通信请求信息中的IO处理标识和所述配置文件中的组件标识,确定与所述IO处理标识对应的指定组件标识;通过所述指定组件标识,在所述配置文件中确定对应的指定消息处理组件。
进一步地,通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,具体包括:通过预先设置的消息转发线程组,轮询所述消息发送队列中的多个指定处理通信消息,获取多个待发送通信消息;通过所述消息转发线程组中的多个IO线程,对多个待发送通信消息进行消息发送。
进一步地,通过所述消息转发线程组中的多个IO线程,对多个待发送通信消息进行消息发送,具体包括:预先将每个所述待发送通信消息进行分段处理,得到多个通信消息片段,并获取每个通信消息片段在每个所述待发送通信消息的片段位置顺序;根据每个通信消息片段在每个所述待发送通信消息的片段位置顺序,生成每个通信消息片段设置优先级标识;通过所述消息转发线程组中的多个IO线程,按照所述优先级标识对所述多个通信消息片段进行轮询,依次对所述多个通信消息片段进行发送,以实现对多个待发送通信消息进行消息发送。
进一步地,通过所述消息转发线程组中的多个IO线程,对所述多个通信消息片段进行轮询,依次对所述多个通信消息片段进行发送之后,所述方法还包括:获取每个所述通信消息片段的发送响应时间;基于每个所述通信消息片段的发送响应时间,对所述IO线程的消息转发进行监测;当存在第一通信消息片段的发送响应时间大于预设时间阈值时,将所述第一通信消息片段的优先级标识设置为指定优先级标识,其中,所述指定优先级标识对应的发送优先级,低于所述消息发送队列中任意一个未发送通信消息片段的发送优先级;将所述多个通信消息片段均发送成功之后,按照所述优先级标识对应的片段位置顺序,将多个通信消息片段进行组装,得到通信消息。
本说明书一个或多个实施例提供一种基于Web应用的实时通信设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
接收指定Web应用发送的多个通信请求消息,将所述多个通信请求消息添加至预设的消息缓存队列中;通过预先设置的消息处理线程组,获取所述消息缓存队列中的多个通信请求信息,对每个所述通信请求信息进行处理,生成多个处理通信消息;获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个所述指定处理通信消息为待发送消息的消息数据;通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
本说明书一个或多个实施例提供的一种非易失性计算机存储介质,存储有计算机可执行指令,所述计算机可执行指令设置为:
接收指定Web应用发送的多个通信请求消息,将所述多个通信请求消息添加至预设的消息缓存队列中;通过预先设置的消息处理线程组,获取所述消息缓存队列中的多个通信请求信息,对每个所述通信请求信息进行处理,生成多个处理通信消息;获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个所述指定处理通信消息为待发送消息的消息数据;通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:通过上述技术方案,消息的接收、处理和发送,均由独立的线程完成,消息接收完成后将消息添加到待处理的消息队列中;由消息处理线程组接收待处理消息队列中的消息,对消息做业务处理,将需要发送的消息添加到待发送消息队列中;由消息转发线程组将待发送消息队列中的消息通过Socket发送给相应的用户,在Web应用接收请求需要对消息进行IO处理的场景中,消息的接收、处理和发送,均由独立的线程完成,避免了IO操作会对线程造成的堵塞,充分考虑了IO阻塞对线程资源造成的浪费,结合实时通信场景,将数据的转发作为异步任务处理,避免IO阻塞对线程资源的浪费,提升了实时通信的应用覆盖程度。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1为本说明书实施例提供的一种基于Web应用的实时通信方法的流程示意图;
图2为本说明书实施例提供的一种基于Web应用的实时通信方法的应用示意图;
图3为本说明书实施例提供的一种基于Web应用的实时通信设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本说明书保护的范围。
当前的互联网环境下,网络实时通信已经遍布互联网的各个角落,得益于开放式互联(Open System Interconnection,OSI)七层网络模型的广泛推广,众多基于互联网通信的应用之间的数据交流越来越频繁,其中基于TCP协议通信的客户机和服务器结构(Client/Server)应用占据着互联网应用通信场景中的主流地位,这其中就有很多用于实时通信的应用。
网络实时通信的核心要义就是要完成消息的转发,消息转发的主要工作就是Socket消息传递,然而Socket消息传递是一个网络输入输出(Input/Output,IO)操作,消息传递过程中的网络质量直接决定了消息传递所需时间的大小,传统的网络编程模型中,Socket消息的接收处理是在一个单独的线程中执行的,消息的转发会占用一个线程资源直至消息转发完毕,也就是说线程会被阻塞,直至IO响应结束后才会继续运行,这样就造成了线程资源的浪费,线程资源的限制决定了单一应用同一时刻可以进行多少个消息转发的操作。
在现有的网络应用体系中,比如以Java语言编写的Tomcat容器上运行的Web应用,其对网络请求的处理是接收到数据后开启一个新的线程对接收的数据进行处理,这样的处理通过利用应用运行环境的剩余线程资源,达到了同时处理多个Socket请求的目的,但是这样的设计仅考虑了Web应用接收请求的场景,实际上应用在接收到请求后可能会在进行一些IO处理,比如进行一次远程调用或将数据存储到数据库等,这些IO操作都会对线程造成堵塞。综上所述,在Web应用接收请求需要对消息进行IO处理的场景中,由于IO操作会对线程造成堵塞,导致现有技术的消息转发受到线程资源的限制,实时通信存在局限性。
本说明书实施例提供一种基于Web应用的实时通信方法,需要说明的是,本说明书实施例中的执行主体可以是服务器,也可以是任意一种具备数据处理能力的设备。图1为本说明书实施例提供的一种基于Web应用的实时通信方法的流程示意图,如图1所示,主要包括如下步骤:
步骤S101,接收指定Web应用发送的多个通信请求消息,将多个通信请求消息添加至预设的消息缓存队列中。
接收指定Web应用发送的多个通信请求消息,具体包括:预先设置消息接收线程组,其中,该消息接收线程组;通过该消息接收线程组,对Web应用对应的Socket端口进行循环监听,以获取指定Web应用发送的多个通信请求消息。
在本说明书的一个实施例中,在Web应用中,对消息的接收、消息的处理和消息的发送分别设置线程组,由专门的消息接收线程组中的线程循环监听Socket端口,获取新的Socket消息,需要说明的是,此处的Socket消息可以理解为通信请求消息,在通信请求消息中包括待通信的通信消息。由于在一些指定的业务场景中,实时通信的消息量较大,通过设置专门的消息接收线程组,通过消息接收线程组中的消息接收线程对Socket端口进行监听,可以满足数据量大的应用场景的负载需求。
在本说明书的一个实施例中,将获取到的消息添加到预先设置的消息缓存队列中,需要说明的是,此处的消息缓存队列的选型可以为本地缓存队列,记为“队列1”。
将该多个通信请求消息添加至预设的消息缓存队列中之后,该方法还包括:获取该消息缓存队列中的多个通信请求信息,其中,该通信请求消息包括待通信的通信消息和该通信消息对应的IO处理标识;根据每个通信请求消息对应的IO处理标识,将该多个通信请求消息进行消息分类,得到多个第一通信请求消息和多个第二通信请求消息,其中,该第一通信请求消息的IO处理标识为通信消息需要进行IO处理,该第二通信请求消息的IO处理标识为该通信消息无需进行IO处理;将该多个第一通信请求消息和该多个第二通信请求消息,分别存储在该消息缓存队列的对应缓存队列组中。
在本说明书的一个实施例中,由于实时通信过程中存在两种场景,一种是Web应用接收请求的场景,另一种是接收请求之后进行IO处理的场景,例如远程调用、数据存储到指定数据库中,为了区分两种场景,还可以在消息接收阶段对消息进行分类。将通信请求消息存储在消息缓存队列中之后,获取存储的通信请求信息中的IO处理标识,此处的标识可以用指定标识符,例如,IO处理标识为0时表示无需进行IO处理,也就是说属于Web应用接收请求的场景,只需要将数据进行转发即可;IO处理标识为1时表示需要进行第一种IO处理,例如本地存储;IO为2时表示需要进行第二种IO处理,例如本地数据融合处理。具体的标识符与对应IO处理操作的设置可以根据实际需求。根据通信请求消息中的IO处理标识,将通信请求消息进行分类,分为无需进行IO处理的请求消息和需要进行IO处理的请求消息。并将两类请求消息分别存储在消息缓存队列的不同缓存队列组中,为方便论述,可将存储需要进行IO处理的请求消息记为缓存队列1,将存储无需进行IO处理的请求消息记为缓存队列2。当消息处理线程调用队列1中的请求消息时,若调用缓存队列1,则按照数据处理线程进行处理,若调用缓存队列2,则直接将缓存队列2中的内容存储在预设的消息发送队列中,以便于消息发送线程将缓存队列2中的消息进行转发。
步骤S102,通过预先设置的消息处理线程组,获取消息缓存队列中的多个通信请求信息,对每个通信请求信息进行处理,生成多个处理通信消息。
对每个该通信请求信息进行处理,生成多个处理通信消息,具体包括:获取每个该通信请求信息中的IO处理标识;基于每个该通信请求信息中的IO处理标识,确定该IO处理标识对应的指定消息处理组件;将每个该通信请求消息中的通信消息,发送至对应的该指定消息处理组件,通过该指定消息处理组件,对该通信消息进行处理,生成处理通信消息。
在本说明书的一个实施例中,通过每个通信请求信息中的IO处理标识,确定IO处理标识对应的指定消息处理组件,此处的消息处理组件可以是具备对应IO处理功能的功能插件。通过指定消息处理组件,对通信消息进行处理,生成处理通信消息。
基于每个该通信请求信息中的IO处理标识,确定该IO处理标识对应的指定消息处理组件,具体包括:获取预先设置的配置文件,其中,该配置文件包括多种消息处理组件的组件标识,其中,该组件标识用于表示消息处理组件的消息处理功能;基于每个该通信请求信息中的IO处理标识和该配置文件中的组件标识,确定与该IO处理标识对应的指定组件标识;通过该指定组件标识,在该配置文件中确定对应的指定消息处理组件。
在实际的应用过程中,需要将IO处理标识与消息处理组件进行对应,可以通过设置配置文件的方式,根据实际的应用需求设置每种IO处理对应的IO处理标识,并对每个消息处理组件按照IO处理功能设置组件标识,需要说明的是,在设置IO处理标识和组件标识时,需要考虑两者对应的处理功能的一致性,例如,IO处理标识中的标识1标识数据存储功能,则在设置数据存储组件时,需要将该数据存储组件的组件标识也设置为1。基于多种消息处理组件的组件标识生成配置文件,以建立消息处理组件与IO处理功能之间的对应关系。
在本说明书的一个实施例中,获取预先设置配置文件中的多种消息处理组件的组件标识,将每个该通信请求信息中的IO处理标识和配置文件中的组件标识进行对比,确定与IO处理标识对应的指定组件标识。通过指定组件标识,确定出对应的指定消息处理组件。
步骤S103,获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中。
在本说明书的一个实施例中,在得到多个处理通信消息之后,将多个处理通信消息中待发送的指定处理通信消息存储在预设的消息发送队列中,此处的消息发送队列为缓存队列,为避免队列中的消息积压导致内存溢出问题,该缓存队列的选型可以使用具有队列功能的中间件实现,记该队列为“队列2”。
步骤S104,通过预先设置的消息转发线程组,对消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
通过预先设置的消息转发线程组,对该消息发送队列中的多个指定处理通信消息进行数据转发,具体包括:通过预先设置的消息转发线程组,轮询该消息发送队列中的多个指定处理通信消息,获取多个待发送通信消息;通过该消息转发线程组中的多个IO线程,对多个待发送通信消息进行消息发送。
在本说明书的一个实施例中,预先设置消息转发线程组,在消息转发线程组中包括多个IO线程,通过消息转发线程组不断轮询队列2中待发送的指定处理通信消息,获取“队列2”中待发送的消息数据。通过消息转发线程组中的多个IO线程发送待发送通信消息,实现Web应用的实时通信。
通过该消息转发线程组中的多个IO线程,对多个待发送通信消息进行消息发送,具体包括:预先将每个该待发送通信消息进行分段处理,得到多个通信消息片段,并获取每个通信消息片段在每个该待发送通信消息的片段位置顺序;根据每个通信消息片段在每个该待发送通信消息的片段位置顺序,生成每个通信消息片段设置优先级标识;通过该消息转发线程组中的多个IO线程,按照该优先级标识对该多个通信消息片段进行轮询,依次对该多个通信消息片段进行发送,以实现对多个待发送通信消息进行消息发送。
在本说明书的一个实施例中,为避免消息输出时网络IO占用时间过长,消息可以采用分段发送处理的方式,线程获取到待发送的消息后将消息进行分段并加入线程池共享的消息发送池,由线程组不断轮询进行分段消息的发送。
将每个待发送通信消息进行分段处理,每个待发送通信消息对应多个通信消息片段,在进行分段处理时,可以按照通信消息的长度,以设置分隔符的形式进行分段,也可以结合线程组中各个线程的负载进行分段,结合实际的数据发送需求设置即可。由于待发送通信消息较多,在进行分段处理之后,需要发送的消息片段较多,在IO线程轮询发送时,需要考虑发送优先级。通过获取每个通信消息片段在待发送通信消息中的片段位置顺序,生成每个片段的优先级标识,需要说明的是,此处片段位置顺序越小,说明该片段的位置越靠前,则该片段的优先级标识对应的优先级越高,即优先发送位置前靠的消息片段。通过多个IO线程,按照优先级标识对多个通信消息片段进行轮询,依次对多个通信消息片段进行发送,以实现对多个待发送通信消息进行消息发送。
通过该消息转发线程组中的多个IO线程,对该多个通信消息片段进行轮询,依次对该多个通信消息片段进行发送之后,该方法还包括:获取每个该通信消息片段的发送响应时间;基于每个该通信消息片段的发送响应时间,对该IO线程的消息转发进行监测;当存在第一通信消息片段的发送响应时间大于预设时间阈值时,将该第一通信消息片段的优先级标识设置为指定优先级标识,其中,该指定优先级标识对应的发送优先级,低于该消息发送队列中任意一个未发送通信消息片段的发送优先级;将该多个通信消息片段均发送成功之后,按照该优先级标识对应的片段位置顺序,将多个通信消息片段进行组装,得到通信消息。
在本说明书的一个实施例中,消息发送过程中,可能会存在消息发送响应时间过长占用IO线程的情况,为避免上述情况,需要对IO线程的消息转发进行监测。获取每个通信消息片段的发送响应时间,判断发送响应时间和预设的响应时间阈值之间的关系,基于两者的关系,对IO线程的消息转发进行监测。需要说明的是,此处的响应时间阈值也就是预设时间阈值,可以根据实际需求设置,例如每个线程发送对应规格的消息片段时的历史响应时间。当存在第一通信消息片段的发送响应时间大于预设时间阈值时,将第一通信消息片段的优先级标识设置为指定优先级标识,并保存修改记录,需要说明的是,指定优先级标识对应的发送优先级,低于该消息发送队列中任意一个未发送通信消息片段的发送优先级,也就是降低该通信消息片段的发送优先级,将该通信消息片段放至所有未发送消息片段的末端。将多个通信消息片段均发送成功之后,按照初始的优先级标识对应的片段位置顺序,将多个通信消息片段进行组装,得到通信消息。由于初始的优先级标识与片段的位置顺序相关,并且在后续的过程中,可能会出现响应时间过长导致的优先级标识修改的情况,因此,通过初始的优先级标识进行组装可以保证组装后的消息片段与待发送的通信消息的一致性。
图2为本说明书实施例提供的一种基于Web应用的实时通信方法的应用示意图,如图2所示,消息的接收由独立的线程完成,消息接收完成后将消息添加到待处理的消息队列中。消息的处理由一组线程完成,接收待处理消息队列中的消息,对消息做业务处理,将需要发送的消息添加到待发送消息队列中。消息发送由一组线程单独处理,将待发送消息队列中的消息通过Socket发送给相应的用户。
如图2所示,消息的接收由专门的独立线程循环监听Socket端口,获取新的Socket消息,并将获取到的消息添加到消息缓存队列中.此处的缓存队列选型为本地缓存队列,记为“队列1”。消息处理由一组线程完成,可以为工作者线程,也就是Worker线程组,消息处理线程从”队列1”获取待处理的消息,消息处理完毕后,将需要发送的消息添加到待发送的消息缓存队列,为避免队列中的消息积压导致内存溢出问题,该缓存队列的选型可以使用具有队列功能的中间件实现,记该队列为“队列2”。消息发送由专门的IO线程组完成,该线程组不断轮询获取“队列2”中待发送的消息数据,为避免消息输出时网络IO占用时间过长,消息发送采用分段发送处理,线程获取到待发送的消息后将消息进行分段并加入线程池共享的消息发送池,由线程组不断轮询进行分段消息的发送,对于响应时间较长的分段消息,降低该消息的发送优先级。
通过上述技术方案,消息的接收、处理和发送,均由独立的线程完成,消息接收完成后将消息添加到待处理的消息队列中;由消息处理线程组接收待处理消息队列中的消息,对消息做业务处理,将需要发送的消息添加到待发送消息队列中;由消息转发线程组将待发送消息队列中的消息通过Socket发送给相应的用户,在Web应用接收请求需要对消息进行IO处理的场景中,消息的接收、处理和发送,均由独立的线程完成,避免了IO操作会对线程造成的堵塞,充分考虑了IO阻塞对线程资源造成的浪费,结合实时通信场景,将数据的转发作为异步任务处理,避免IO阻塞对线程资源的浪费,提升了实时通信的应用覆盖程度。
本说明书实施例还提供一种基于Web应用的实时通信设备,如图3所示,设备包括:至少一个处理器;以及,与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够:
接收指定Web应用发送的多个通信请求消息,将该多个通信请求消息添加至预设的消息缓存队列中;通过预先设置的消息处理线程组,获取该消息缓存队列中的多个通信请求信息,对每个该通信请求信息进行处理,生成多个处理通信消息;获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个该指定处理通信消息为待发送消息的消息数据;通过预先设置的消息转发线程组,对该消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
本说明书实施例还提供一种非易失性计算机存储介质,存储有计算机可执行指令,计算机可执行指令设置为:
接收指定Web应用发送的多个通信请求消息,将该多个通信请求消息添加至预设的消息缓存队列中;通过预先设置的消息处理线程组,获取该消息缓存队列中的多个通信请求信息,对每个该通信请求信息进行处理,生成多个处理通信消息;获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个该指定处理通信消息为待发送消息的消息数据;通过预先设置的消息转发线程组,对该消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、设备、非易失性计算机存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本说明书实施例提供的设备和介质与方法是一一对应的,因此,设备和介质也具有与其对应的方法类似的有益技术效果,由于上面已经对方法的有益技术效果进行了详细说明,因此,这里不再赘述设备和介质的有益技术效果。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上所述仅为本说明书的一个或多个实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书的一个或多个实施例可以有各种更改和变化。凡在本说明书的一个或多个实施例的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种基于Web应用的实时通信方法,其特征在于,所述方法包括:
接收指定Web应用发送的多个通信请求消息,将所述多个通信请求消息添加至预设的消息缓存队列中;
通过预先设置的消息处理线程组,获取所述消息缓存队列中的多个通信请求信息,对每个所述通信请求信息进行处理,生成多个处理通信消息;
获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个所述指定处理通信消息为待发送消息的消息数据;
通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
2.根据权利要求1所述的一种基于Web应用的实时通信方法,其特征在于,接收指定Web应用发送的多个通信请求消息,具体包括:
预先设置消息接收线程组,其中,所述消息接收线程组;
通过所述消息接收线程组,对Web应用对应的Socket端口进行循环监听,以获取指定Web应用发送的多个通信请求消息。
3.根据权利要求1所述的一种基于Web应用的实时通信方法,其特征在于,将所述多个通信请求消息添加至预设的消息缓存队列中之后,所述方法还包括:
获取所述消息缓存队列中的多个通信请求信息,其中,所述通信请求消息包括待通信的通信消息和所述通信消息对应的IO处理标识;
根据每个通信请求消息对应的IO处理标识,将所述多个通信请求消息进行消息分类,得到多个第一通信请求消息和多个第二通信请求消息,其中,所述第一通信请求消息的IO处理标识为通信消息需要进行IO处理,所述第二通信请求消息的IO处理标识为所述通信消息无需进行IO处理;
将所述多个第一通信请求消息和所述多个第二通信请求消息,分别存储在所述消息缓存队列的对应缓存队列组中。
4.根据权利要求1所述的一种基于Web应用的实时通信方法,其特征在于,对每个所述通信请求信息进行处理,生成多个处理通信消息,具体包括:
获取每个所述通信请求信息中的IO处理标识;
基于每个所述通信请求信息中的IO处理标识,确定所述IO处理标识对应的指定消息处理组件;
将每个所述通信请求消息中的通信消息,发送至对应的所述指定消息处理组件,通过所述指定消息处理组件,对所述通信消息进行处理,生成处理通信消息。
5.根据权利要求4所述的一种基于Web应用的实时通信方法,其特征在于,基于每个所述通信请求信息中的IO处理标识,确定所述IO处理标识对应的指定消息处理组件,具体包括:
获取预先设置的配置文件,其中,所述配置文件包括多种消息处理组件的组件标识,其中,所述组件标识用于表示消息处理组件的消息处理功能;
基于每个所述通信请求信息中的IO处理标识和所述配置文件中的组件标识,确定与所述IO处理标识对应的指定组件标识;
通过所述指定组件标识,在所述配置文件中确定对应的指定消息处理组件。
6.根据权利要求1所述的一种基于Web应用的实时通信方法,其特征在于,通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,具体包括:
通过预先设置的消息转发线程组,轮询所述消息发送队列中的多个指定处理通信消息,获取多个待发送通信消息;
通过所述消息转发线程组中的多个IO线程,对多个待发送通信消息进行消息发送。
7.根据权利要求6所述的一种基于Web应用的实时通信方法,其特征在于,通过所述消息转发线程组中的多个IO线程,对多个待发送通信消息进行消息发送,具体包括:
预先将每个所述待发送通信消息进行分段处理,得到多个通信消息片段,并获取每个通信消息片段在每个所述待发送通信消息的片段位置顺序;
根据每个通信消息片段在每个所述待发送通信消息的片段位置顺序,生成每个通信消息片段设置优先级标识;
通过所述消息转发线程组中的多个IO线程,按照所述优先级标识对所述多个通信消息片段进行轮询,依次对所述多个通信消息片段进行发送,以实现对多个待发送通信消息进行消息发送。
8.根据权利要求7所述的一种基于Web应用的实时通信方法,其特征在于,通过所述消息转发线程组中的多个IO线程,对所述多个通信消息片段进行轮询,依次对所述多个通信消息片段进行发送之后,所述方法还包括:
获取每个所述通信消息片段的发送响应时间;
基于每个所述通信消息片段的发送响应时间,对所述IO线程的消息转发进行监测;
当存在第一通信消息片段的发送响应时间大于预设时间阈值时,将所述第一通信消息片段的优先级标识设置为指定优先级标识,其中,所述指定优先级标识对应的发送优先级,低于所述消息发送队列中任意一个未发送通信消息片段的发送优先级;
将所述多个通信消息片段均发送成功之后,按照所述优先级标识对应的片段位置顺序,将多个通信消息片段进行组装,得到通信消息。
9.一种基于Web应用的实时通信设备,其特征在于,所述设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
接收指定Web应用发送的多个通信请求消息,将所述多个通信请求消息添加至预设的消息缓存队列中;
通过预先设置的消息处理线程组,获取所述消息缓存队列中的多个通信请求信息,对每个所述通信请求信息进行处理,生成多个处理通信消息;
获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个所述指定处理通信消息为待发送消息的消息数据;
通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
10.一种非易失性计算机存储介质,存储有计算机可执行指令,其特征在于,所述计算机可执行指令设置为:
接收指定Web应用发送的多个通信请求消息,将所述多个通信请求消息添加至预设的消息缓存队列中;
通过预先设置的消息处理线程组,获取所述消息缓存队列中的多个通信请求信息,对每个所述通信请求信息进行处理,生成多个处理通信消息;
获取符合要求的多个指定处理通信消息,并存储在预设的消息发送队列中,其中,每个所述指定处理通信消息为待发送消息的消息数据;
通过预先设置的消息转发线程组,对所述消息发送队列中的多个指定处理通信消息进行数据转发,实现Web应用的实时通信。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310889255.7A CN117041235A (zh) | 2023-07-19 | 2023-07-19 | 一种基于Web应用的实时通信方法、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310889255.7A CN117041235A (zh) | 2023-07-19 | 2023-07-19 | 一种基于Web应用的实时通信方法、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117041235A true CN117041235A (zh) | 2023-11-10 |
Family
ID=88636353
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310889255.7A Pending CN117041235A (zh) | 2023-07-19 | 2023-07-19 | 一种基于Web应用的实时通信方法、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117041235A (zh) |
-
2023
- 2023-07-19 CN CN202310889255.7A patent/CN117041235A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109376020B (zh) | 多区块链交互并发下的数据处理方法、装置及存储介质 | |
CN113891114B (zh) | 转码任务调度方法及装置 | |
CN112579148A (zh) | 基于业务代理的业务消息处理方法、装置及电子设备 | |
CN105516086A (zh) | 业务处理方法及装置 | |
CN112839239B (zh) | 一种音视频加工的方法、装置及服务器 | |
CN111338803B (zh) | 一种线程处理方法和装置 | |
CN114710549B (zh) | 一种容器平台中网卡的动态管理方法、系统及业务节点 | |
CN113556389B (zh) | 一种rpc式的云边端通信方法、系统及存储介质 | |
CN110868323A (zh) | 一种带宽控制方法、装置、设备及介质 | |
CN115550354A (zh) | 一种数据处理方法、装置及计算机可读存储介质 | |
WO2023231723A1 (zh) | 流媒体数据处理方法及系统 | |
CN114579303B (zh) | 一种工业互联网的业务数据处理方法、设备及介质 | |
CN117041235A (zh) | 一种基于Web应用的实时通信方法、设备及介质 | |
CN116016644A (zh) | 业务请求处理方法、网络设备及计算机可读存储介质 | |
CN114090409A (zh) | 一种消息处理方法及装置 | |
CN114968482A (zh) | 无服务器处理方法、装置和网络设备 | |
CN108255820B (zh) | 分布式系统中数据入库的方法、装置以及电子设备 | |
CN113391927A (zh) | 一种业务事件的处理方法、装置、系统及存储介质 | |
CN114531602A (zh) | 基于动态资源释放的视频直播性能优化方法及装置 | |
CN114095760B (zh) | 一种数据传输的方法及其数据传输装置 | |
CN111885198B (zh) | 消息处理方法、系统、装置及电子设置 | |
CN110290202A (zh) | 一种业务网关的信息附带方法、装置及相关设备 | |
CN117519988B (zh) | 一种基于raid的内存池动态调配方法、装置 | |
CN117879687A (zh) | 数据处理方法、电子设备及可读存储介质 | |
CN114756378A (zh) | 单机系统改造方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |