CN112437124A - 流量镜像请求的处理方法、装置及负载均衡服务器 - Google Patents
流量镜像请求的处理方法、装置及负载均衡服务器 Download PDFInfo
- Publication number
- CN112437124A CN112437124A CN202011243371.4A CN202011243371A CN112437124A CN 112437124 A CN112437124 A CN 112437124A CN 202011243371 A CN202011243371 A CN 202011243371A CN 112437124 A CN112437124 A CN 112437124A
- Authority
- CN
- China
- Prior art keywords
- request
- server
- mirroring
- service request
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
Abstract
本发明实施例涉及一种流量镜像请求的处理方法、装置及负载均衡服务器,该方法包括:接收前端设备发送的业务请求,业务请求包括目的IP地址和镜像需求参数;将业务请求发送至与目的IP地址对应的业务服务器;接收业务服务器的对业务请求的处理结果,并将处理结果返回给前端设备;根据镜像需求参数确定是否对业务请求进行流量镜像操作;如果确定进行流量镜像操作,则向业务服务器的镜像服务器发送流量镜像请求。而通过该种方式,可以解决主请求和镜像请求之间的耦合关系,通过旁路实现流量镜像。避免子请求堵塞主请求的关闭和释放问题,大大提升负载均衡服务器的性能。
Description
技术领域
本发明实施例涉及计算机技术领域,尤其涉及一种流量镜像请求的处理方法、装置及负载均衡服务器。
背景技术
流量镜像,指的是将发送至某个接收端的网络请求复制一份发送到另一个接收端。
现有技术中,在OSI参考模型的第七层(应用层)的流量镜像方案中(OSI是OpenSystem Interconnect的缩写,该模型提出七层包括:物理层、数据链路层、网络层、传输层、会话层、表示层和应用层),使用nginx服务器(一个高性能的HTTP和反向代理web服务器,该nginx服务器也可以提供应用层的负载均衡服务)的mirror module模块来实现。这种实现方案中,由于mirror module模块复用了nginx服务器内置的子请求功能,即将流量镜像请求作为了一个待镜像请求的子请求,由于nginx服务器内置的主请求和子请求之间存在耦合关系,进而导致了流量镜像请求和待镜像的请求也存在耦合关系,这种耦合关系存在以下缺点:
1、流量镜像子请求会阻塞主请求的关闭和释放;
2、流量镜像子请求,需要走完整的一个请求的生命周期,增加用于处理主请求的业务服务器的资源开销,从而影响业务服务器的性能。
发明内容
鉴于此,为解决现有技术中上述技术问题,本发明实施例提供一种流量镜像请求的处理方法、装置及负载均衡服务器。
第一方面,本发明实施例提供一种流量镜像请求的处理方法,该方法应用于负载均衡服务器,包括:
接收前端设备发送的业务请求,业务请求包括目的IP地址和镜像需求参数;
将业务请求发送至与目的IP地址对应的业务服务器,其中,业务服务器用于处理业务请求;
接收业务服务器对业务请求进行处理后生成的处理结果,并将处理结果返回给前端设备;
根据镜像需求参数确定是否对业务请求进行流量镜像操作;
如果确定进行流量镜像操作,则向业务服务器的镜像服务器发送流量镜像请求。
在一个可能的实施方式中,在向镜像服务器发送流量镜像请求后,与镜像服务器建立长连接,并通过长连接向镜像服务器发送业务请求的镜像数据。
在一个可能的实施方式中,在接收前端设备发送的业务请求后,对业务请求进行缓存;
流量镜像请求中包括数据指针,数据指针用于指示业务请求的缓存区的地址,镜像服务器根据数据指针从缓存区中获取业务请求的缓存数据作为业务请求的镜像数据。
在一个可能的实施方式中,在向镜像服务器发送流量镜像请求后,并在接收到镜像服务器返回的响应结果时,清理业务请求的缓存区。
在一个可能的实施方式中,如果镜像服务器的数量为至少两个,则通过以下步骤确定向所有的镜像服务器均发送流量镜像请求:
在每向一个镜像服务器发送流量镜像请求后,记录一次数据指针的引用次数,并确定当前数据指针的引用次数是否小于镜像服务器的数量;
如果小于,则继续向第i个镜像服务器发送流量镜像请求;其中,i为正整数,且依次递进取值,i初始取值为2;
如果不小于,则停止发送流量镜像请求。
在一个可能的实施方式中,其中,在检测到启动对业务请求进行日志打印任务时,执行根据镜像需求参数确定是否对业务请求进行流量镜像操作的步骤。
第二方面,本发明实施例提供一种流量镜像请求的处理装置,该装置包括:
接收单元,用于接收前端设备发送的业务请求,业务请求包括目的IP地址和镜像需求参数;
发送单元,用于将业务请求发送至与目的IP地址对应的业务服务器,其中,业务服务器用于处理业务请求;
接收单元还用于,接收业务服务器对业务请求进行处理后生成的处理结果,并将处理结果返回给前端设备;
确定单元,用于根据镜像需求参数确定是否对业务请求进行流量镜像操作;
发送单元还用于,当确定单元确定进行流量镜像操作时,则向业务服务器的镜像服务器发送流量镜像请求。
在一个可能的实施方式中,该装置还包括:建立单元,用于发送单元在向镜像服务器发送流量镜像请求后,与镜像服务器建立长连接;
发送单元还用于,通过长连接向镜像服务器发送业务请求的镜像数据。
第三方面,本发明实施例提供一种负载均衡服务器,该系统包括:至少一个处理器和存储器;
处理器用于执行存储器中存储的流量镜像请求的处理程序,以实现如第一方面任一实施方式所介绍的流量镜像请求的处理方法。
第四方面,本发明实施例提供一种计算机存储介质,该计算机存储介质存储有一个或者多个程序,一个或者多个程序可被如第三方面所介绍的负载均衡服务器执行,以实现如第一方面任一实施方式所介绍的流量镜像请求的处理方法。
本发明实施例提供的一种流量镜像请求的处理方法,首先接收前端设备发送的业务请求,然后将业务请求发送至目的IP地址对应的业务服务器,由业务服务器对业务请求进行处理,获取处理结果。并将业务处理结果反馈至前端设备。此后,才会根据镜像请求参数确定是否对业务请求进行流量镜像操作。再确定进行流量进行操作后,向业务服务器的镜像服务器发送流量镜像请求。
该过程区别于现有技术中,需要将镜像请求作为业务请求的子请求,等待镜像请求完毕之后,再返回业务请求的方式。本申请中是在返回业务请求之后进行镜像请求,业务请求和镜像请求之间不存在耦合关系,由此缩短业务请求的响应时间,避免阻塞主请求的关闭和释放等问题。而且,流量镜像不需要再走完业务请求对应的整个生命周期,大大降低用于处理主请求的业务服务器的资源开销,从而避免对负载均衡服务器的性能影响。
附图说明
图1为本发明提供的一种流量镜像请求的处理方法在一个应用场景中的网络关系示意图;
图2为本发明实施例提供的一种流量镜像请求的处理方法流程示意图;
图3为本发明提供的现有技术方案对负载均衡服务器性能损失,与本实施例提供的方案对负载均衡服务器性能损失之间的效果对比图;
图4为本发明实施例提供的一种流量镜像请求的处理装置结构示意图;
图5为本发明实施例提供的一种负载均衡服务器结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
现有技术中的流量镜像技术一般分为两种,一种是在OSI参考模型中的第一二/三层(数据链路层或网络层)中进行(OSI,英文名称为Open System Interconnect,中文名称为开放式系统互连,是ISO组织在1985年研究的网络互连模型,该体系结构标准定义了网络互连的七层框架:物理层、数据链路层、网络层、传输层、会话层、表示层和应用层),另一种是在第七层(应用层)中进行,两种技术的实现原理完全不同,本发明中的流量镜像指的是第七层(应用层)中进行的技术。
第七层(应用层)的流量镜像技术,可以很好地对部署的业务服务的访问流量进行统计以及监控管理,节约业务服务器的性能开销,另外,在网络出故障的时候,可以快速地定位故障等。
相关技术中,在第七层的流量镜像解决方案中,使用nginx服务器的mirrormodule模块来实现。mirror module模块复用了nginx服务器内置的子请求功能,即将流量镜像请求作为了一个待镜像的业务请求的子请求。由于nginx服务器内置的主请求和子请求之间存在耦合关系,进而导致了流量镜像请求和待镜像的业务请求也存在耦合关系,这种耦合关系存在以下缺点:
1、子请求会阻塞主请求的关闭和释放;
2、子请求,需要走完整的一个请求的生命周期,增加用于处理主请求的业务服务器的资源开销,从而影响业务服务器的性能。
为便于对本发明实施例的理解,下面将结合附图以具体实施例做进一步的解释说明,实施例并不构成对本发明实施例的限定。
图1为本发明实施例提供的一种流量镜像请求的处理方法在一个应用场景中的网络关系示意图。
图1示意出多个终端设备10,也即是下文中所要说明的前端设备。每一个前端设备均通过互联网20与负载均衡服务器30建立通信连接。前端设备发送的业务请求,均先通过互联网20达到负载均衡服务器30。负载均衡服务器30通过一定的调度算法将业务请求分发到不同的应用服务器上,以此达到负载均衡的目的。因此,负载均衡服务器30将与应用服务器之间建立通信连接。具体参见图1所示,负载均衡服务器30同样包括多个,用于处理不同前端设备发送的业务请求。此外,当某个负载均衡服务器30存在故障时,也可以由其他负载均衡服务器30替代当前故障的负载均衡服务器30,以完成负载均衡任务,进而提高工作效率。在一个具体实施方式中,负载均衡服务器可以采用nginx服务器。
每一个负载均衡服务器30分别与多个业务服务器(例如图1中的41和42)和多个流量镜像服务器(例如图1中的51和52)之间建立通信连接。每一个业务服务器对应一个流量进行服务器。业务服务器,用于处理业务请求。在业务请求处理完成后,再根据业务请求中的镜像需求参数确定是否需要对业务请求进行流量镜像操作,如果确定进行流量镜像操作时,则向业务服务器对应的镜像服务器(例如图1中业务服务器41对应的镜像服务器为51,业务服务器42对应的镜像服务器为52)发送流量镜像请求,进而通过图1所示的与业务服务器对应的流量镜像服务器完成镜像操作。具体的操作流程参见图2所示。
图2为本发明实施例提供的一种流量镜像请求的处理方法流程示意图,如图2所示,该方法应用于负载均衡服务器,包括:
步骤210,接收前端设备发送的业务请求,业务请求包括目的IP地址和镜像需求参数。
具体的,如图1所介绍的,负载均衡服务器和前端设备之间通过互联网建立通信连接。前端设备发送业务请求时,并不是直接发送到应用服务器。而是需要通过负载均衡服务实现中转。负载均衡服务器接收前端设备发送的业务请求。会对业务请求进行解析。其中,业务请求中可以包括目的IP地址和镜像需求参数。目的IP地址,也即是即将对业务请求进行处理的业务服务器所对应的IP地址。
因此,负载均衡服务器在分析业务请求,获取到目的IP地址后,会将业务请求发送至与目的IP地址对应的业务服务器,用以业务服务器处理业务请求,即执行步骤220。
步骤220,将业务请求发送至与目的IP地址对应的业务服务器。
可选的,业务请求中除了包括目的IP地址外,还可以包括五元组信息中的其他信息,例如源IP地址、源端口号、目的端口号以及传输层协议等等。
步骤230,接收业务服务器对业务请求进行处理后生成的处理结果,并将处理结果返回给前端设备。
具体的,业务服务器在对业务请求进行处理后,会生成处理结果。并将处理结果反馈至负载均衡服务器。当负载均衡服务器接收到处理结果后,会将处理结果反馈至前端设备。以便前端设备根据该处理结果,完成后续操作。
在业务服务器完成对业务请求的处理后,才会执行如下操作:
步骤240,根据镜像需求参数确定是否对业务请求进行流量镜像操作。
具体的,区别于现有技术中将镜像请求作为业务请求的子请求,等待镜像请求执行完毕后,才会反馈对业务请求的处理结果的操作,本实施例中是在业务服务器对业务请求进行处理后,才会根据镜像需求参数确定是否对业务请求进行流量镜像操作。通过这样的方式来解耦业务请求和镜像请求。由此,缩短了业务请求的响应时间,避免阻塞主请求的关闭和释放。这样一来,流量镜像请求也不需要走完处理业务请求的整个周期,也不会增加主请求的业务服务器的资源开销,进而影响业务服务器的性能。
在具体执行时,镜像需求参数例如可以是布尔值,布尔值是一个逻辑值,只有true和false(真和假)两个值。因此,如果根据镜像需求参数确定需要对业务请求进行镜像操作时,则执行步骤250,否则,结束操作。
步骤250,如果确定进行流量镜像操作,则向业务服务器的镜像服务器发送流量镜像请求。
可选的,在向镜像服务器发送流量进行请求后,该方法还可以包括:
与镜像服务器建立长连接,并通过长连接向镜像服务器发送业务请求的镜像数据。
相较于现有技术中,子请求无法支持长连接的方式,本实施例中可以通过与镜像服务器建立长连接的方式,向镜像服务器发送业务请求的镜像数据,从而提升工作效率,进一步降低对业务服务器的性能影响。
进一步可选的,在执行接收前端设备发送的业务请求后,该方法还可以包括:对业务请求进行缓存。
而流量镜像请求中还可以包括数据指针,该数据指针用于指示业务请求的缓存区的地址。
由此,镜像服务器根据数据指针从缓存区中获取业务请求的缓存数据作为业务请求的镜像数据。
在本实施方式中,之所以直接向镜像服务器发送流量镜像请求中包括数据指针,镜像服务器根据数据指针获取数据。而不是直接发送流量镜像数据,是考虑到数据量大的情况下,数据传输将会影响工作效率,还会降低负载均衡服务器性能。又或者,如果重新生成业务请求对应的镜像数据,同样会增加负载均衡服务器的性能开销。本实施方式将数据存储到缓存区,利用业务请求的缓存得到镜像数据,然后仅仅向镜像服务器发送一个数据指针,则不会占用系统资源,对于工作效率和负载均衡服务器的性能方面都有很大益处。
进一步可选的,因为流量镜像请求所要调取数据的地址与主请求所要调取数据的地址相同。因此可以直接使用主请求时生成的数据指针,也可以是重新生成的数据指针。
进一步可选的,为了防止占用缓存区的资源。该方法还可以包括:在向镜像服务器发送流量镜像请求后,并在接收到镜像服务器返回的响应结果时,清理业务请求的缓存区。
可选的,在上述情况中,并没有限定镜像服务器的数量。可以理解为上文所介绍的方法步骤中所指的镜像服务器的数量仅有一个。而当镜像服务器的数量不仅仅包括一个,而是包括至少两个时,则可以通过如下步骤确定向所有的镜像服务器发送流量镜像请求:
在每向一个镜像服务器发送流量镜像请求后,记录一次数据指针的引用次数,并确定当前数据指针的引用次数是否小于镜像服务器的数量;
如果小于,则继续向第i个镜像服务器发送流量镜像请求;其中,i为正整数,且依次递进取值,i初始取值为2;
如果不小于,则停止发送流量镜像请求。
具体的,在每向一个镜像服务器发送流量镜像请求后,记录一次数据指针的引用次数,可以随时统计已经向多少个镜像服务器发送了流量镜像请求。如果引用次数小于镜像服务器的数量,则说明当前还没有将流量镜像请求发送至所有镜像服务器。需要继续向第i个镜像服务器发送该流量进行请求。相反,如果引用次数不小于镜像服务器的数量,则说明已经将流量镜像请求发送至所有镜像服务器,则可以停止发送该流量镜像请求。
进一步可选的,执行根据镜像需求参数确定是否对业务请求进行流量镜像操作的步骤的操作时机,可以是在检测到启动对业务请求进行日志打印任务时执行。
在一个具体的例子中,当检测到启动对业务请求进行日志打印任务时,根据镜像需求参数确定是否对业务请求进行流量镜像操作。
如上文中所介绍的,镜像需求参数可以是布尔值,也或者采用0/1值。布尔值对应的具体值可以由用户预先配置,负载均衡服务器读取布尔值后,根据布尔值判断是否需要进行流量镜像。当确定执行流量镜像操作时,则当检测到启动对业务请求进行日志打印任务时,根据镜像需求参数向业务服务器的镜像服务器发送流量镜像请求。例如,可以将发起流量镜像请求的任务封装成一个函数mirror,并将该函数的句柄handler放置在日志打印任务中,从而实现了当负载均衡服务器执行日志打印任务时,能够调用mirrorhandler函数向镜像服务器发送流量镜像请求。
其中,镜像请求中可以包括数据指针,以便镜像服务器组根据数据指针获取镜像数据,完成流量镜像操作。具体参见上文,这里不再过多赘述。图3示意出了现有技术中方案对负载均衡服务器性能损失和本实施例的技术方案对负载均衡服务器性能损失对比图,可以从图3中清楚的看到本发明对性能的提升,在使用现有技术中的流量镜像方案时,在相同条件下,损失性能为37%,采用本实施例方案开启流量镜像后的损失为18%,在性能损失方面,减少了接近一半,同时完全去除了已有方案主请求和镜像请求的依赖关系,能够旁路实现。
本发明实施例提供的流量镜像请求的处理方法,首先接收前端设备发送的业务请求,然后将业务请求发送至目的IP地址对应的业务服务器,由业务服务器对业务请求进行处理,获取处理结果。并将业务处理结果反馈至前端设备。此后,才会根据镜像请求参数确定是否对业务请求进行流量镜像操作。再确定进行流量进行操作后,向业务服务器的镜像服务器发送流量镜像请求。
该过程区别于现有技术中,需要将镜像请求作为业务请求的子请求,等待镜像请求完毕之后,再返回业务请求的方式。本申请中是在返回业务请求之后进行镜像请求,业务请求和镜像请求之间不存在耦合关系,由此缩短业务请求的响应时间,避免阻塞主请求的关闭和释放等问题。而且,流量镜像不需要再走完业务请求对应的整个生命周期,大大降低用于处理主请求的业务服务器的资源开销,从而避免对负载均衡服务器的性能影响。
图4为本发明实施例提供的一种流量镜像请求的处理装置,该装置包括:接收单元401、发送单元402,以及确定单元403。
接收单元401,用于接收前端设备发送的业务请求,业务请求包括目的IP地址和镜像需求参数;
发送单元402,用于将业务请求发送至与目的IP地址对应的业务服务器,其中,业务服务器用于处理业务请求;
接收单元401还用于,接收业务服务器对业务请求进行处理后生成的处理结果,并将处理结果返回给前端设备;
确定单元403,用于根据镜像需求参数确定是否对业务请求进行流量镜像操作;
发送单元402还用于,当确定单元403确定进行流量镜像操作时,则向业务服务器的镜像服务器发送流量镜像请求。
可选的,该装置还包括:建立单元,用于发送单元402在向镜像服务器发送流量镜像请求后,与镜像服务器建立长连接;
发送单元402还用于,通过长连接向镜像服务器发送业务请求的镜像数据。
可选的,该装置还包括:缓存单元404。
用于在接收单元401接收前端设备发送的业务请求后,对业务请求进行缓存;
流量镜像请求中包括数据指针,数据指针用于指示业务请求的缓存区的地址,镜像服务器根据数据指针从缓存区中获取业务请求的缓存数据作为业务请求的镜像数据。
可选的,装置还包括:清理单元405,用于在发送单元402向镜像服务器发送流量镜像请求后,并在接收单元401接收到镜像服务器返回的响应结果时,清理业务请求的缓存区。
可选的,该装置还包括:记录单元406和处理单元407;
如果镜像服务器的数量为至少两个,则发送单元402通过以下步骤确定向所有的镜像服务器均发送流量镜像请求:
在每向一个镜像服务器发送流量镜像请求后,记录单元406记录一次数据指针的引用次数;
处理单元407还用于,确定当前数据指针的引用次数是否小于镜像服务器的数量;
如果小于,则发送单元402继续向第i个镜像服务器发送流量镜像请求;其中,i为正整数,且依次递进取值,i初始取值为2;
如果不小于,则发送单元402停止发送流量镜像请求。
可选的,处理单元407,还用于在检测到启动对业务请求进行日志打印任务时,执行根据镜像需求参数确定是否对业务请求进行流量镜像操作的步骤。
本实施例提供的流量镜像请求的处理装置中各功能部件所执行的功能均在图2对应的实施例中做了详细介绍,因此这里不再赘述。
本发明实施例提供的一种流量镜像请求的处理装置,首先接收前端设备发送的业务请求,然后将业务请求发送至目的IP地址对应的业务服务器,由业务服务器对业务请求进行处理,获取处理结果。并将业务处理结果反馈至前端设备。此后,才会根据镜像请求参数确定是否对业务请求进行流量镜像操作。再确定进行流量进行操作后,向业务服务器的镜像服务器发送流量镜像请求。
该过程区别于现有技术中,需要将镜像请求作为业务请求的子请求,等待镜像请求完毕之后,再返回业务请求的方式。本申请中是在返回业务请求之后进行镜像请求,业务请求和镜像请求之间不存在耦合关系,由此缩短业务请求的响应时间,避免阻塞主请求的关闭和释放等问题。而且,流量镜像不需要再走完业务请求对应的整个生命周期,大大降低用于处理主请求的业务服务器的资源开销,从而避免对负载均衡服务器的性能影响。
图5为本发明实施例提供的一种负载均衡服务器的结构示意图,图5所示的负载均衡服务器500包括:至少一个处理器501、存储器502、至少一个网络接口503和其他用户接口504。负载均衡服务器500中的各个组件通过总线系统505耦合在一起。可理解,总线系统505用于实现这些组件之间的连接通信。总线系统505除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图5中将各种总线都标为总线系统505。
其中,用户接口504可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等。
可以理解,本发明实施例中的存储器502可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable ROM,PROM)、可擦除可编程只读存储器(Erasable PROM,EPROM)、电可擦除可编程只读存储器(Electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(Static RAM,SRAM)、动态随机存取存储器(Dynamic RAM,DRAM)、同步动态随机存取存储器(Synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(Double Data RateSDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(Synch link DRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambus RAM,DRRAM)。本文描述的存储器502旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器502存储了如下的元素,可执行单元或者数据结构,或者他们的子集,或者他们的扩展集:操作系统5021和应用程序5022。
其中,操作系统5021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序5022,包含各种应用程序,例如媒体播放器(Media Player)、浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序5022中。
在本发明实施例中,通过调用存储器502存储的程序或指令,具体的,可以是应用程序5022中存储的程序或指令,处理器501用于执行各方法实施例所提供的方法步骤,例如包括:
接收前端设备发送的业务请求,业务请求包括目的IP地址和镜像需求参数;
将业务请求发送至与目的IP地址对应的业务服务器,其中,业务服务器用于处理业务请求;
接收业务服务器对业务请求进行处理后生成的处理结果,并将处理结果返回给前端设备;
根据镜像需求参数确定是否对业务请求进行流量镜像操作;
如果确定进行流量镜像操作,则向业务服务器的镜像服务器发送流量镜像请求。
可选的,在向镜像服务器发送流量镜像请求后,与镜像服务器建立长连接,并通过长连接向镜像服务器发送业务请求的镜像数据。
可选的,在接收前端设备发送的业务请求后,对业务请求进行缓存;
流量镜像请求中包括数据指针,数据指针用于指示业务请求的缓存区的地址,镜像服务器根据数据指针从缓存区中获取业务请求的缓存数据作为业务请求的镜像数据。
可选的,在向镜像服务器发送流量镜像请求后,并在接收到镜像服务器返回的响应结果时,清理业务请求的缓存区。
可选的,如果镜像服务器的数量为至少两个,则通过以下步骤确定向所有的镜像服务器均发送流量镜像请求:
在每向一个镜像服务器发送流量镜像请求后,记录一次数据指针的引用次数,并确定当前数据指针的引用次数是否小于镜像服务器的数量;
如果小于,则继续向第i个镜像服务器发送流量镜像请求;其中,i为正整数,且依次递进取值,i初始取值为2;
如果不小于,则停止发送流量镜像请求。
可选的,在检测到启动对业务请求进行日志打印任务时,执行根据镜像需求参数确定是否对业务请求进行流量镜像操作的步骤。
上述本发明实施例揭示的方法可以应用于处理器501中,或者由处理器501实现。处理器501可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器501中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器501可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(FieldProgrammable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件单元组合执行完成。软件单元可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器502,处理器501读取存储器502中的信息,结合其硬件完成上述方法的步骤。
可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecific Integrated Circuits,ASIC)、数字信号处理器(Digital Signal Processing,DSP)、数字信号处理设备(DSPDevice,DSPD)、可编程逻辑设备(Programmable LogicDevice,PLD)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请功能的其它电子单元或其组合中。
对于软件实现,可通过执行本文功能的单元来实现本文的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
本实施例提供的负载均衡服务器可以是如图5中所示的负载均衡服务器,可执行如图2中流量镜像请求的处理方法的所有步骤,进而实现图2所示流量镜像请求的处理方法的技术效果,具体请参照图2相关描述,为简洁描述,在此不作赘述。
本发明实施例还提供了一种存储介质(计算机可读存储介质)。这里的存储介质存储有一个或者多个程序。其中,存储介质可以包括易失性存储器,例如随机存取存储器;存储器也可以包括非易失性存储器,例如只读存储器、快闪存储器、硬盘或固态硬盘;存储器还可以包括上述种类的存储器的组合。
当存储介质中一个或者多个程序可被一个或者多个处理器执行,以实现上述在负载均衡服务器侧执行的流量镜像请求的处理方法。
处理器用于执行存储器中存储的流量镜像请求的处理程序,以实现以下在负载均衡服务器侧执行的流量镜像请求的处理方法的步骤:
接收前端设备发送的业务请求,业务请求包括目的IP地址和镜像需求参数;
将业务请求发送至与目的IP地址对应的业务服务器,其中,业务服务器用于处理业务请求;
接收业务服务器对业务请求进行处理后生成的处理结果,并将处理结果返回给前端设备;
根据镜像需求参数确定是否对业务请求进行流量镜像操作;
如果确定进行流量镜像操作,则向业务服务器的镜像服务器发送流量镜像请求。
可选的,在向镜像服务器发送流量镜像请求后,与镜像服务器建立长连接,并通过长连接向镜像服务器发送业务请求的镜像数据。
可选的,在接收前端设备发送的业务请求后,对业务请求进行缓存;
流量镜像请求中包括数据指针,数据指针用于指示业务请求的缓存区的地址,镜像服务器根据数据指针从缓存区中获取业务请求的缓存数据作为业务请求的镜像数据。
可选的,在向镜像服务器发送流量镜像请求后,并在接收到镜像服务器返回的响应结果时,清理业务请求的缓存区。
可选的,如果镜像服务器的数量为至少两个,则通过以下步骤确定向所有的镜像服务器均发送流量镜像请求:
在每向一个镜像服务器发送流量镜像请求后,记录一次数据指针的引用次数,并确定当前数据指针的引用次数是否小于镜像服务器的数量;
如果小于,则继续向第i个镜像服务器发送流量镜像请求;其中,i为正整数,且依次递进取值,i初始取值为2;
如果不小于,则停止发送流量镜像请求。
可选的,在检测到启动对业务请求进行日志打印任务时,执行根据镜像需求参数确定是否对业务请求进行流量镜像操作的步骤。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种流量镜像请求的处理方法,其特征在于,所述方法应用于负载均衡服务器,所述方法包括:
接收前端设备发送的业务请求,所述业务请求包括目的IP地址和镜像需求参数;
将所述业务请求发送至与所述目的IP地址对应的业务服务器,其中,所述业务服务器用于处理所述业务请求;
接收所述业务服务器对所述业务请求进行处理后生成的处理结果,并将所述处理结果返回给所述前端设备;
根据镜像需求参数确定是否对所述业务请求进行流量镜像操作;
如果确定进行流量镜像操作,则向所述业务服务器的镜像服务器发送流量镜像请求。
2.根据权利要求1所述的方法,其中,在向所述镜像服务器发送流量镜像请求后,与所述镜像服务器建立长连接,并通过所述长连接向所述镜像服务器发送所述业务请求的镜像数据。
3.根据权利要求1或2所述的方法,其中,在接收前端设备发送的业务请求后,对所述业务请求进行缓存;
所述流量镜像请求中包括数据指针,所述数据指针用于指示所述业务请求的缓存区的地址,所述镜像服务器根据所述数据指针从所述缓存区中获取所述业务请求的缓存数据作为所述业务请求的镜像数据。
4.根据权利要求2所述的方法,其中,在向所述镜像服务器发送流量镜像请求后,并在接收到所述镜像服务器返回的响应结果时,清理所述业务请求的缓存区。
5.根据权利要求4所述的方法,其特征在于,如果所述镜像服务器的数量为至少两个,则通过以下步骤确定向所有的镜像服务器发送流量镜像请求:
在每向一个镜像服务器发送流量镜像请求后,记录一次数据指针的引用次数,并确定当前数据指针的引用次数是否小于镜像服务器的数量;
如果小于,则继续向第i个镜像服务器发送流量镜像请求;其中,i为正整数,且依次递进取值,i初始取值为2;
如果不小于,则停止发送流量镜像请求。
6.根据权利要求1或2所述的方法,其中,在检测到启动对所述业务请求进行日志打印任务时,执行所述根据镜像需求参数确定是否对所述业务请求进行流量镜像操作的步骤。
7.一种流量镜像请求的处理装置,其特征在于,所述装置包括:
接收单元,用于接收前端设备发送的业务请求,所述业务请求包括目的IP地址和镜像需求参数;
发送单元,用于将所述业务请求发送至与所述目的IP地址对应的业务服务器,其中,所述业务服务器用于处理所述业务请求;
所述接收单元还用于,接收所述业务服务器对所述业务请求进行处理后生成的处理结果,并将所述处理结果返回给所述前端设备;
确定单元,用于根据镜像需求参数确定是否对所述业务请求进行流量镜像操作;
所述发送单元还用于,当所述确定单元确定进行流量镜像操作时,则向所述业务服务器的镜像服务器发送流量镜像请求。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
建立单元,用于所述发送单元在向所述镜像服务器发送流量镜像请求后,与所述镜像服务器建立长连接;
所述发送单元还用于,通过所述长连接向所述镜像服务器发送所述业务请求的镜像数据。
9.一种负载均衡服务器,其特征在于,所述负载均衡服务器包括:至少一个处理器和存储器;
所述处理器用于执行所述存储器中存储的流量镜像请求的处理程序,以实现权利要求1~6中任一项所述的流量镜像请求的处理方法。
10.一种计算机存储介质,其特征在于,所述计算机存储介质存储有一个或者多个程序,所述一个或者多个程序可被如权利要求9所述的负载均衡服务器执行,以实现权利要求1~6中任一项所述的流量镜像请求的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011243371.4A CN112437124B (zh) | 2020-11-09 | 2020-11-09 | 流量镜像请求的处理方法、装置及负载均衡服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011243371.4A CN112437124B (zh) | 2020-11-09 | 2020-11-09 | 流量镜像请求的处理方法、装置及负载均衡服务器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112437124A true CN112437124A (zh) | 2021-03-02 |
CN112437124B CN112437124B (zh) | 2022-05-06 |
Family
ID=74699762
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011243371.4A Active CN112437124B (zh) | 2020-11-09 | 2020-11-09 | 流量镜像请求的处理方法、装置及负载均衡服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112437124B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050256972A1 (en) * | 2004-05-11 | 2005-11-17 | Hewlett-Packard Development Company, L.P. | Mirroring storage interface |
CN105743734A (zh) * | 2016-01-22 | 2016-07-06 | 北京航空航天大学 | 虚拟机镜像流量传输的控制方法和装置 |
CN107734026A (zh) * | 2017-10-11 | 2018-02-23 | 郑州云海信息技术有限公司 | 一种网络附加存储集群的设计方法、装置及设备 |
CN107819802A (zh) * | 2016-09-13 | 2018-03-20 | 华为软件技术有限公司 | 一种在节点集群中的镜像获取方法、节点设备及服务器 |
CN108664354A (zh) * | 2017-04-01 | 2018-10-16 | 华为技术有限公司 | 一种数据镜像方法及存储系统 |
CN109274669A (zh) * | 2018-09-18 | 2019-01-25 | 四川长虹电器股份有限公司 | 一种基于在线流量镜像旁路waf反向代理方法 |
WO2019170396A1 (en) * | 2018-03-06 | 2019-09-12 | International Business Machines Corporation | Flow management in networks |
CN110417886A (zh) * | 2019-07-29 | 2019-11-05 | 广州竞远安全技术股份有限公司 | 一种综合业务的负载均衡方法、装置及系统 |
CN111741120A (zh) * | 2020-07-01 | 2020-10-02 | 支付宝(杭州)信息技术有限公司 | 一种流量镜像方法、装置及设备 |
CN111756800A (zh) * | 2020-05-21 | 2020-10-09 | 网宿科技股份有限公司 | 一种处理突发流量的方法和系统 |
-
2020
- 2020-11-09 CN CN202011243371.4A patent/CN112437124B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050256972A1 (en) * | 2004-05-11 | 2005-11-17 | Hewlett-Packard Development Company, L.P. | Mirroring storage interface |
CN105743734A (zh) * | 2016-01-22 | 2016-07-06 | 北京航空航天大学 | 虚拟机镜像流量传输的控制方法和装置 |
CN107819802A (zh) * | 2016-09-13 | 2018-03-20 | 华为软件技术有限公司 | 一种在节点集群中的镜像获取方法、节点设备及服务器 |
CN108664354A (zh) * | 2017-04-01 | 2018-10-16 | 华为技术有限公司 | 一种数据镜像方法及存储系统 |
CN107734026A (zh) * | 2017-10-11 | 2018-02-23 | 郑州云海信息技术有限公司 | 一种网络附加存储集群的设计方法、装置及设备 |
WO2019170396A1 (en) * | 2018-03-06 | 2019-09-12 | International Business Machines Corporation | Flow management in networks |
CN109274669A (zh) * | 2018-09-18 | 2019-01-25 | 四川长虹电器股份有限公司 | 一种基于在线流量镜像旁路waf反向代理方法 |
CN110417886A (zh) * | 2019-07-29 | 2019-11-05 | 广州竞远安全技术股份有限公司 | 一种综合业务的负载均衡方法、装置及系统 |
CN111756800A (zh) * | 2020-05-21 | 2020-10-09 | 网宿科技股份有限公司 | 一种处理突发流量的方法和系统 |
CN111741120A (zh) * | 2020-07-01 | 2020-10-02 | 支付宝(杭州)信息技术有限公司 | 一种流量镜像方法、装置及设备 |
Non-Patent Citations (2)
Title |
---|
王晶等: "基于开源平台的网络镜像部署方案", 《微型电脑应用》 * |
陈闻宇等: "基于主动测量的CN权威镜像选址效果评估", 《科技导报》 * |
Also Published As
Publication number | Publication date |
---|---|
CN112437124B (zh) | 2022-05-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3503503B1 (en) | Health status monitoring for services provided by computing devices | |
US11729260B2 (en) | Internet-of-things resource access system and method | |
JP6276273B2 (ja) | 分散型データグリッドクラスタにおけるメッセージ前処理をサポートするシステムおよび方法 | |
US7702796B2 (en) | Recovering a pool of connections | |
US9244817B2 (en) | Remote debugging in a cloud computing environment | |
US10708156B2 (en) | Event-triggered, graph-centric predictive cache priming | |
US20170063717A1 (en) | Method and system for network access request control | |
CN106911735B (zh) | 数据获取方法及装置 | |
CN110870286B (zh) | 容错处理的方法、装置和服务器 | |
US20100205381A1 (en) | System and Method for Managing Memory in a Multiprocessor Computing Environment | |
CN112437124B (zh) | 流量镜像请求的处理方法、装置及负载均衡服务器 | |
US9537799B2 (en) | Phase-based packet prioritization | |
CN113179210A (zh) | 一种bfd检测方法、装置、电子设备及存储介质 | |
CN113065957A (zh) | 一种期货交易系统 | |
WO2015085794A1 (en) | Data transmission method, related apparatus, and communications system | |
CN114138371B (zh) | 配置动态加载方法、装置及计算机设备、存储介质 | |
CN106911733B (zh) | 云代理的网址访问方法及装置 | |
CN113132273B (zh) | 一种数据转发方法及装置 | |
CN113965367A (zh) | 策略对象上限控制方法、系统、计算机及存储介质 | |
CN116032498A (zh) | 一种内存区域注册方法、装置及设备 | |
US20210382888A1 (en) | Hedged reads | |
CN114466032B (zh) | 一种cdn系统合并回源方法、装置及存储介质 | |
US11249986B2 (en) | Managing stale connections in a distributed system | |
CN115622929B (zh) | 远程直接数据存取rdma的测试方法及相关装置 | |
CN114584518B (zh) | 基于资源池的websocket负载均衡方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |