CN108270693A - 网站访问的自适应优化疏导方法及装置 - Google Patents

网站访问的自适应优化疏导方法及装置 Download PDF

Info

Publication number
CN108270693A
CN108270693A CN201711473314.3A CN201711473314A CN108270693A CN 108270693 A CN108270693 A CN 108270693A CN 201711473314 A CN201711473314 A CN 201711473314A CN 108270693 A CN108270693 A CN 108270693A
Authority
CN
China
Prior art keywords
queue
request
main
resource
rapid requests
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711473314.3A
Other languages
English (en)
Inventor
杨立群
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhuhai Hotdoor Technology Co Ltd
Original Assignee
Zhuhai Hotdoor Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhuhai Hotdoor Technology Co Ltd filed Critical Zhuhai Hotdoor Technology Co Ltd
Priority to CN201711473314.3A priority Critical patent/CN108270693A/zh
Publication of CN108270693A publication Critical patent/CN108270693A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/50Queue scheduling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources

Abstract

本发明公开了一种网站访问的自适应优化疏导方法,包括以下步骤:创建请求的主请求队列和快速请求队列,并对主请求队列和快速请求队列清空以实现主请求队列和快速请求队列的初始化;接收客户端发出的请求,并预估所述请求执行时调用的资源数量;获取当前主请求队列的长度,若当前主请求队列的长度大于预设的主请求队列阈值长度,且请求的执行时调用的资源数量小于预设的资源阈值时,所述请求插入到快速请求队列的队尾,否则所述请求插入到主请求队列的队尾;以及按照次序分别从主请求队列的队头和快速请求队列的队头获取请求。本发明的有益效果为:通过执行时调用的资源数量较少的请求被尽快响应,缩短整体请求的响应时间。

Description

网站访问的自适应优化疏导方法及装置
技术领域
本发明涉及互联网技术领域,尤其涉及一种网站访问的自适应优化疏导方法及装置。
背景技术
随着互联网技术的快速发展,互联网已经成为人们生活必不可少的部分。用户可以根据自己的需要访问各类网站。网站为了吸引更多用户浏览访问,除了提高网页的内容本身的质量之外,还以各种形式美化加工网页,例如在网页内引用大量的资源(图片、音频或视频等等)或引用大量的美术设计(例如通过指层叠样式表CSS预设大量设计样式)。
当网站访问流量过大的时候,用户进入网站或载入网站下的网页时,往往由于其处理访问量的服务器能力而限制了网站访问的速度。目前,上述问题的一种解决方案是部署多台网站服务器并在服务器上配置网站镜像,以分流网站访问。该方案需要同时设置一个调度中心,根据客户的访问分配请求的服务器。具体地,调度中心首先获取网站调度的URL(统一资源定位符,Uniform Resource Locator),然后返回与网站调度的URL相关联的网站资源的URL。
然而,由于网站资源的URL是基于IP地址访问的,因此客户端需要直接访问到网站的源以获取资源数据。这导致CDN(Content Distribution Network,内容分发网络)无法直接对其进行加速处理,从而使得当用户访问某些带有大量资源的网站(例如视频网站或者带有多幅图片的网站)时,因需要请求的内容过多而导致网站刷新较慢,影响网站的用户体验。
发明内容
本发明的目的是解决现有技术的不足,提供一种网站访问的自适应优化疏导方法及装置,能够获得加快网站资源的整体加载速度以缩短网站响应时间的效果。
为了实现上述目的,本发明采用以下的技术方案。
首先,本发明提出一种网站访问的自适应优化疏导方法,包括以下步骤:创建请求的主请求队列和快速请求队列,并对主请求队列和快速请求队列清空以实现主请求队列和快速请求队列的初始化;接收客户端发出的请求,并预估所述请求执行时调用的资源数量;获取当前主请求队列的长度,若当前主请求队列的长度大于预设的主请求队列阈值长度,且请求的执行时调用的资源数量小于预设的资源阈值时,所述请求插入到快速请求队列的队尾,否则所述请求插入到主请求队列的队尾;以及按照次序分别从主请求队列的队头和快速请求队列的队头获取请求。
在本发明的一个方法实施例中,接收网站访问的请求后,检查所述请求数据是否正常,并抛弃异常的请求。
在本发明的一个方法实施例中,当请求插入到快速请求队列的队尾后,快速请求队列根据请求执行时调用的资源数量排序。
在本发明的一个方法实施例中,当快速请求队列的长度大于预设的快速请求队列阈值长度时,提高主请求队列阈值长度和/或降低资源阈值。
在本发明的一个方法实施例中,当主请求队列长度大于预设的主请求队列阈值长度时,主请求队列中请求执行时调用的资源数量小于资源阈值的请求被提出并插入到快速请求队列的队尾。
在本发明的一个方式实施例中,当快速请求队列的占用的资源数量大于预设的快速请求队列阈值且主请求队列的占用资源总量小于主请求队列阈值时,位于快速请求队列的队尾且超出预设的快速请求队列阈值部分的请求被提出并插入到主请求队列的队尾。
在本发明的一个方法实施例中,主请求队列和快速请求队列的请求将分配到当前访问量最小的网站服务器处理。
进一步地,在本发明的上述方法实施例中,请求执行时调用的资源数量是资源的大小。
可替代地,在本发明的上述方法实施例中,请求执行时调用的资源数量是非缓存资源的大小。
再进一步地,在本发明的上述方法实施例中,周期性预估缓存资源的有效性以更新对应请求执行时非缓存资源的大小。
其次,本发明还提出一种网站访问的自适应优化疏导装置,包括以下模块:初始化模块,用于创建请求的主请求队列和快速请求队列,并对主请求队列和快速请求队列清空以实现主请求队列和快速请求队列的初始化;预估模块,用于接收客户端发出的请求,并预估所述请求执行时调用的资源数量;入队模块,用于获取当前主请求队列的长度,若当前主请求队列的长度大于预设的主请求队列阈值长度,且请求的执行时调用的资源数量小于预设的资源阈值时,所述请求插入到快速请求队列的队尾,否则所述请求插入到主请求队列的队尾;以及出队模块,用于按照次序分别从主请求队列的队头和快速请求队列的队头获取请求。
在本发明的一个装置实施例中,接收网站访问的请求后,预估模块检查所述请求数据是否正常,并抛弃异常的请求。
在本发明的一个装置实施例中,当入队模块将请求插入到快速请求队列的队尾后,入队模块根据请求执行时调用的资源数量排序快速请求队列。
在本发明的一个装置实施例中,当快速请求队列的长度大于预设的快速请求队列阈值长度时,入队模块提高主请求队列阈值长度和/或降低资源阈值。
在本发明的一个装置实施例中,当主请求队列长度大于预设的主请求队列阈值长度时,入队模块提出主请求队列中请求执行时调用的资源数量小于资源阈值的请求并插入到快速请求队列的队尾。
在本发明的一个装置实施例中,当快速请求队列的占用的资源数量大于预设的快速请求队列阈值且主请求队列的占用资源总量小于主请求队列阈值时,入队模块将位于快速请求队列的队尾且超出预设的快速请求队列阈值部分的请求提出并插入到主请求队列的队尾。
在本发明的一个装置实施例中,出队模块将主请求队列和快速请求队列的请求分配到当前访问量最小的网站服务器处理。
进一步地,在本发明的上述装置实施例中,请求执行时调用的资源数量是资源的大小。
可替代地,在本发明的上述装置实施例中,请求执行时调用的资源数量是非缓存资源的大小。
再进一步地,在本发明的上述装置实施例中,预估模块周期性预估缓存资源的有效性以更新对应请求执行时非缓存资源的大小。
最后,本发明还公开了一种计算机可读存储介质,其上存储有计算机指令,该指令被处理器执行时实现如前述任一项所述方法的步骤。
本发明的有益效果为:通过分别构造并维护请求的主请求队列和快速请求队列,使得执行时调用的资源数量较少的请求可以被尽快响应,从而缩短整体请求的响应时间。
附图说明
图1所示为本发明所公开的网站访问的自适应优化疏导方法的方法流程图;
图2所示为图1中判断请求是否插入快速请求队列的具体判断过程的方法流程图;
图3所示为在本发明的一个实施例中主请求队列中的请求插入快速请求队列的示意图;
图4所示为在本发明的另一个实施例中主请求队列的状态变化示意图;
图5所示为图4中抽调快速请求队列中的请求的方法流程图;
图6所示为在本发明的一个实施例中请求插入到快速请求队列后的状态变化示意图;
图7所示为在本发明的一个实施例中主请求队列阈值调整示意图;
图8所示为本发明所公开的网站访问的自适应优化疏导装置的模块结构图。
具体实施方式
以下将结合实施例和附图对本发明的构思、具体结构及产生的技术效果进行清楚、完整的描述,以充分地理解本发明的目的、方案和效果。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。附图中各处使用的相同的附图标记指示相同或相似的部分。
参照图1所示的方法流程图,在本发明的一个实施例中,网站访问的自适应优化疏导方法包括以下步骤:创建请求的主请求队列和快速请求队列,并对主请求队列和快速请求队列清空以实现主请求队列和快速请求队列的初始化;接收客户端发出的请求,并预估所述请求执行时调用的资源数量;获取当前主请求队列的长度,若当前主请求队列的长度大于预设的主请求队列阈值长度,且请求的执行时调用的资源数量小于预设的资源阈值时,所述请求插入到快速请求队列的队尾,否则所述请求插入到主请求队列的队尾;以及按照次序分别从主请求队列的队头和快速请求队列的队头获取请求。具体地,用户在进入网站或载入网站下的网页时,将请求网站上的各类资源(例如文本资源、图片资源和音频资源等等)。这些请求将被分割,使得一些调用的资源数量较少的请求(例如请求文本资源)可与其他调用的资源数量较大的请求(例如请求视频资源)分开处理,使得部分网页可以优先显示,以缩短整体响应时间。其中,主请求队列阈值和资源阈值可在初始化时设置。例如,主请求队列阈值可初始化为500K,即主请求队列中的请求需要占用500K缓存空间。此时,可参考图2所示的子方法流程图,当主请求队列的占用资源总量小于500K时,从请求池中新获取的请求将直接插入到主请求队列的队尾。主请求队列中的所有请求按照先进先出的顺序依次执行。当主请求队列的占用资源总量大于或等于500K时,从请求池中新获取的请求将被预处理,以预估所述请求执行时占用的资源数量,若所述请求执行时占用的资源数量较少(例如只占用少量缓存空间),则被插入到快速请求队列的队尾优先处理;否则插入到主请求队列的队尾,按照正常次序处理。由于调用的资源数量较少的请求与调用的资源数量较大的请求不是在同一个队列内,因此缩短整体请求的响应时间。
在获取请求后,也可以对所述请求的进行检查,以确定请求是否包含异常数据(例如是否出现超越账号角色权限的请求或未知类型的请求等情况),可将此类明显错误的请求从请求池中过滤出来。
参照图3所示的主请求队列和快速请求队列状态变化示意图(图中请求右侧方格内的数值是该请求执行时所需要占用的缓存空间,作为衡量该请求的执行时占用的资源数量),在本发明的一个实施例中,当主请求队列的占用资源总量大于预设的主请求队列阈值时,主请求队列中请求执行时占用的资源数量小于资源阈值的请求被提出并插入到快速请求队列的队尾。具体地,如图3中所示,若此时主请求队列阈值为250K,而主请求队列的占用资源总量为259K。若预设的资源阈值是20K,则主请求队列中占用资源数量小于阈值的请求(即图中“请求A”、“请求C”和“请求H”对应的请求)将从主请求队列中提取出来,插入到快速请求队列的队尾,使得主请求队列中执行时占用的资源数量较少的请求可以被及时执行。
相反,参照图4所示的另一个实施例中主请求队列的状态变化示意图,当快速请求队列的占用资源总量大于预设的快速请求队列阈值且主请求队列的占用资源总量小于主请求队列阈值时,快速请求队列中请求执行效率将小于主请求队列。为了提高请求的整体执行效率,参照图5所示的子方法流程图,可将位于快速请求队列的队尾且超出预设的快速请求队列阈值部分的请求(即图4中的“f请求”和“g请求”)提出并插入到主请求队列的队尾。
参照图6所示的请求插入快速请求队列的示意图,在本发明的一个实施例中,当请求插入到快速请求队列的队尾后,快速请求队列根据请求执行时占用的资源数量排序。图中请求右侧方格内的数值是该请求执行时所需要占用的缓存空间(类似地,a请求的“5K”表示该请求大约需要使用5K缓存空间),作为衡量该请求的执行时占用的资源数量。如图中所示,新的f请求大约需要占用缓存空间为7K。此时由于主请求队列的占用资源总量大于主请求队列阈值,因此f请求将先被插入到快速请求队列的队尾,然后再对快速请求队列排序。因为执行时占用资源数量较少的请求将被排在快速请求队列的前方,所以这些请求可以被尽快执行。此外,由于快速请求队列是被维护成有序的,所以新的请求可以较短的时间插入到快速请求队列的正确位置(事实上,该操作的时间复杂度是当前队列长度的对数)。
参照图7所示的方法流程图,在本发明的一个实施例中,当快速请求队列的占用资源总量大于预设的快速请求队列阈值时,此时快速请求队列内的请求执行效率将下降,甚至等于或低于主请求队列。为了保证分配到快速请求队列内的请求能被优先执行,需要提高插入到快速请求队列的门槛。在本实施例中,主请求队列阈值被提高(可提高至当前主请求队列的占用资源总量或更高),以减少分配到快速请求队列的请求。可替代地,插入到快速请求队列的门槛也可以通过降低资源阈值的方式提高,使得请求较难分配到快速请求队列。
对于在多台服务器上配置有镜像的网站,在本发明的一个实施例中,出队模块将请求分配到所访问网站当前的访问量是网站及其各个镜像中访问量的最小者,使得网站及其各个镜像可以均衡负载客户端的访问请求,从而缩短整体响应时间。
在本发明的前述几个实施例中,用于衡量请求执行时调用的资源数量是资源的大小,尤其是多媒体资源(图片、音频和视频)的大小。因为该数值可以方便地获取,且该数值通常与载入该资源所花费的时间成正比,所以其可较为准确客观地衡量请求的执行成本。可替代地,另一种可用于衡量请求执行时调用的资源数量是非缓存资源的大小,使得一些已经缓存在本地的网页资源可被排除(此类资源可以便捷地载入),从而更为准确地衡量请求的执行成本。前述几个实施例可相应地采用处理器的使用频率衡量请求。进一步地,由于缓存资源存在有效期,因此可周期性预估缓存资源的有效性以更新对应请求执行时非缓存资源的大小。
参照图8所示的模块结构图,在本发明的一个实施例中,网站访问的自适应优化疏导装置包括以下模块:初始化模块,用于创建请求的主请求队列和快速请求队列,并对主请求队列和快速请求队列清空以实现主请求队列和快速请求队列的初始化;预估模块,用于接收客户端发出的请求,并预估所述请求执行时调用的资源数量;入队模块,用于获取当前主请求队列的长度,若当前主请求队列的长度大于预设的主请求队列阈值长度,且请求的执行时调用的资源数量小于预设的资源阈值时,所述请求插入到快速请求队列的队尾,否则所述请求插入到主请求队列的队尾;以及出队模块,用于按照次序分别从主请求队列的队头和快速请求队列的队头获取请求。具体地,用户在进入网站或载入网站下的网页时,将请求网站上的各类资源(例如文本资源、图片资源和音频资源等等)。这些请求将被分割,使得一些调用的资源数量较少的请求(例如请求文本资源)可与其他调用的资源数量较大的请求(例如请求视频资源)分开处理,使得部分网页可以优先显示,以缩短整体响应时间。其中,主请求队列阈值和资源阈值可在初始化时设置。例如,主请求队列阈值可初始化为500K,即主请求队列中的请求需要占用500K缓存空间。此时,当主请求队列的占用资源总量小于500K时,入队模块从请求池中新获取的请求将直接插入到主请求队列的队尾。主请求队列中的所有请求按照先进先出的顺序由出队模块依次执行。当主请求队列的占用资源总量大于或等于500K时,预估模块从请求池中新获取的请求将被预处理,以预估所述请求执行时占用的资源数量,若所述请求执行时占用的资源数量较少(例如只占用少量缓存空间),则入队模块将其插入到快速请求队列的队尾优先处理;否则入队模块将其插入到主请求队列的队尾,按照正常次序处理。由于调用的资源数量较少的请求与调用的资源数量较大的请求不是在同一个队列内,因此缩短整体请求的响应时间。
在获取请求后,也可以对所述请求的进行检查,以确定请求是否包含异常数据(例如是否出现超越账号角色权限的请求或未知类型的请求等情况),可将此类明显错误的请求从请求池中过滤出来。
参照图3所示的主请求队列和快速请求队列状态变化示意图(图中请求右侧方格内的数值是该请求执行时所需要占用的缓存空间,作为衡量该请求的执行时占用的资源数量),在本发明的一个实施例中,当主请求队列的占用资源总量大于预设的主请求队列阈值时,入队模块将主请求队列中请求执行时占用的资源数量小于资源阈值的请求提出并插入到快速请求队列的队尾。具体地,如图3中所示,若此时主请求队列阈值为250K,而主请求队列的占用资源总量为259K。若预设的资源阈值是20K,则入队模块将主请求队列中占用资源数量小于阈值的请求(即图中“请求A”、“请求C”和“请求H”对应的请求)从主请求队列中提取出来,插入到快速请求队列的队尾,使得主请求队列中执行时占用的资源数量较少的请求可以被及时执行。
相反,参照图4所示的另一个实施例中主请求队列的状态变化示意图,当快速请求队列的占用资源总量大于预设的快速请求队列阈值且主请求队列的占用资源总量小于主请求队列阈值时,快速请求队列中请求执行效率将小于主请求队列。为了提高请求的整体执行效率,入队模块可将位于快速请求队列的队尾且超出预设的快速请求队列阈值部分的请求(即图4中的“f请求”和“g请求”)提出并插入到主请求队列的队尾。
参照图6所示的请求插入快速请求队列的示意图,在本发明的一个实施例中,当入队模块将请求插入到快速请求队列的队尾后,快速请求队列根据请求执行时占用的资源数量排序。图中请求右侧方格内的数值是该请求执行时所需要占用的缓存空间(类似地,a请求的“5K”表示该请求大约需要使用5K缓存空间),作为衡量该请求的执行时占用的资源数量。如图中所示,新的f请求大约需要占用缓存空间为7K。此时由于主请求队列的占用资源总量大于主请求队列阈值,因此f请求将先被插入到快速请求队列的队尾,然后再对快速请求队列排序。因为执行时占用资源数量较少的请求将被排在快速请求队列的前方,所以这些请求可以被尽快执行。此外,由于快速请求队列是被维护成有序的,所以新的请求可以较短的时间插入到快速请求队列的正确位置(事实上,该操作的时间复杂度是当前队列长度的对数)。
在本发明的一个实施例中,当快速请求队列的占用资源总量大于预设的快速请求队列阈值时,此时快速请求队列内的请求执行效率将下降,甚至等于或低于主请求队列。为了保证分配到快速请求队列内的请求能被优先执行,需要提高插入到快速请求队列的门槛。在本实施例中,主请求队列阈值被提高(可提高至当前主请求队列的占用资源总量或更高),以减少分配到快速请求队列的请求。可替代地,插入到快速请求队列的门槛也可以通过降低资源阈值的方式提高,使得请求较难分配到快速请求队列。
对于在多台服务器上配置有镜像的网站,在本发明的一个实施例中,出队模块将请求分配到所访问网站当前的访问量是网站及其各个镜像中访问量的最小者,使得网站及其各个镜像可以均衡负载客户端的访问请求,从而缩短整体响应时间。
在本发明的前述几个实施例中,用于衡量请求执行时调用的资源数量是资源的大小,尤其是多媒体资源(图片、音频和视频)的大小。因为该数值可以方便地获取,且该数值通常与载入该资源所花费的时间成正比,所以其可较为准确客观地衡量请求的执行成本。可替代地,另一种可用于衡量请求执行时调用的资源数量是非缓存资源的大小,使得一些已经缓存在本地的网页资源可被排除(此类资源可以便捷地载入),从而更为准确地衡量请求的执行成本。前述几个实施例可相应地采用处理器的使用频率衡量请求。进一步地,由于缓存资源存在有效期,因此可周期性预估缓存资源的有效性以更新对应请求执行时非缓存资源的大小。
尽管本发明的描述已经相当详尽且特别对几个所述实施例进行了描述,但其并非旨在局限于任何这些细节或实施例或任何特殊实施例,而是应当将其视作是通过参考所附权利要求考虑到现有技术为这些权利要求提供广义的可能性解释,从而有效地涵盖本发明的预定范围。此外,上文以发明人可预见的实施例对本发明进行描述,其目的是为了提供有用的描述,而那些目前尚未预见的对本发明的非实质性改动仍可代表本发明的等效改动。

Claims (10)

1.一种网站访问的自适应优化疏导方法,其特征在于,包括以下步骤:
创建请求的主请求队列和快速请求队列,并对主请求队列和快速请求队列清空以实现主请求队列和快速请求队列的初始化;
接收客户端发出的请求,并预估所述请求执行时调用的资源数量;
获取当前主请求队列占用的资源总量,若当前主请求队列占用的资源总量大于预设的主请求队列阈值,且请求的执行时调用的资源数量小于预设的资源阈值时,所述请求插入到快速请求队列的队尾,否则所述请求插入到主请求队列的队尾;以及
按照次序分别从主请求队列的队头和快速请求队列的队头获取请求。
2.根据权利要求1所述方法,其特征在于,接收网站访问的请求后,预估所述请求数据是否正常,并抛弃异常的请求。
3.根据权利要求1所述方法,其特征在于,当主请求队列长度大于预设的主请求队列阈值时,主请求队列中请求执行时调用的资源数量小于资源阈值的请求被提出并插入到快速请求队列的队尾。
4.根据权利要求1所述方法,其特征在于,当快速请求队列占用的资源总量大于预设的快速请求队列阈值时,提高主请求队列阈值和/或降低资源阈值。
5.根据权利要求1所述方法,其特征在于,当请求插入到快速请求队列的队尾后,快速请求队列根据请求执行时调用的资源数量排序。
6.根据权利要求1所述方法,其特征在于,当快速请求队列的占用的资源数量大于预设的快速请求队列阈值且主请求队列的占用资源总量小于主请求队列阈值时,位于快速请求队列的队尾且超出预设的快速请求队列阈值部分的请求被提出并插入到主请求队列的队尾。
7.根据权利要求1至6中任一所述方法,其特征在于,请求执行时调用的资源数量是非缓存资源的大小。
8.根据权利要求7所述方法,其特征在于,周期性预估缓存资源的有效性以更新对应请求执行时非缓存资源的大小。
9.一种网站访问的自适应优化疏导装置,其特征在于,包括以下模块:
初始化模块,用于创建请求的主请求队列和快速请求队列,并对主请求队列和快速请求队列清空以实现主请求队列和快速请求队列的初始化;
预估模块,用于接收客户端发出的请求,并预估所述请求执行时调用的资源数量;
入队模块,用于获取当前主请求队列占用的资源总量,若当前主请求队列占用的资源总量大于预设的主请求队列阈值,且请求的执行时调用的资源数量小于预设的资源阈值时,所述请求插入到快速请求队列的队尾,否则所述请求插入到主请求队列的队尾;以及
出队模块,用于按照次序分别从主请求队列的队头和快速请求队列的队头获取请求。
10.一种计算机可读存储介质,其上存储有计算机指令,其特征在于该指令被处理器执行时实现如权利要求1至8中任一项所述的方法的步骤。
CN201711473314.3A 2017-12-29 2017-12-29 网站访问的自适应优化疏导方法及装置 Pending CN108270693A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711473314.3A CN108270693A (zh) 2017-12-29 2017-12-29 网站访问的自适应优化疏导方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711473314.3A CN108270693A (zh) 2017-12-29 2017-12-29 网站访问的自适应优化疏导方法及装置

Publications (1)

Publication Number Publication Date
CN108270693A true CN108270693A (zh) 2018-07-10

Family

ID=62772971

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711473314.3A Pending CN108270693A (zh) 2017-12-29 2017-12-29 网站访问的自适应优化疏导方法及装置

Country Status (1)

Country Link
CN (1) CN108270693A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110888628A (zh) * 2019-10-12 2020-03-17 中国平安财产保险股份有限公司 生成控制工具的方法、装置、设备和存储介质

Citations (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040059879A1 (en) * 2002-09-23 2004-03-25 Rogers Paul L. Access priority protocol for computer system
US20060080486A1 (en) * 2004-10-07 2006-04-13 International Business Machines Corporation Method and apparatus for prioritizing requests for information in a network environment
CN101414915A (zh) * 2007-10-19 2009-04-22 英业达股份有限公司 远程复制的发送请求处理系统及其方法
CN101459966A (zh) * 2009-01-06 2009-06-17 北京交通大学 基于IEEE802.16的Ad Hoc网络MAC层QoS保障方法
CN101576831A (zh) * 2008-05-07 2009-11-11 万德洪 一种分布式计算系统及实现方法
CN101702833A (zh) * 2009-10-27 2010-05-05 武汉理工大学 一种移动网格任务调度方法
CN102170400A (zh) * 2010-07-22 2011-08-31 杨喆 一种防止Web网站访问拥塞的方法
CN102915374A (zh) * 2012-11-07 2013-02-06 北京搜狐新媒体信息技术有限公司 一种控制数据库资源访问的方法、装置及系统
CN102946362A (zh) * 2012-09-13 2013-02-27 杭州华三通信技术有限公司 一种套接字资源分配方法及设备
CN103136056A (zh) * 2013-03-04 2013-06-05 浪潮电子信息产业股份有限公司 一种云计算平台调度方法
CN103414761A (zh) * 2013-07-23 2013-11-27 北京工业大学 一种基于Hadoop架构的移动终端云资源调度方法
CN103516536A (zh) * 2012-06-26 2014-01-15 重庆新媒农信科技有限公司 基于线程数量限制的服务器业务请求并行处理方法及系统
US8635256B2 (en) * 2003-07-17 2014-01-21 Silicon Graphics International, Corp. Network filesystem asynchronous I/O scheduling
CN104202261A (zh) * 2014-08-27 2014-12-10 华为技术有限公司 一种业务请求处理方法及装置
CN104219167A (zh) * 2013-05-31 2014-12-17 中国电信股份有限公司 网络资源调度方法和服务器
CN104468413A (zh) * 2014-11-27 2015-03-25 中国联合网络通信集团有限公司 一种网络服务方法及系统
US9229949B2 (en) * 2011-10-07 2016-01-05 Microsoft Technology Licensing, Llc Extensible and generic framework for managing resources for data warehousing loads
CN105718317A (zh) * 2016-01-15 2016-06-29 浪潮(北京)电子信息产业有限公司 一种任务调度方法及装置
CN105718393A (zh) * 2016-01-23 2016-06-29 中国人民解放军国防科学技术大学 用于网络接口芯片的寄存器多源访问调度方法及装置
CN105897601A (zh) * 2016-06-20 2016-08-24 乐视控股(北京)有限公司 业务请求的处理方法及装置
CN106470169A (zh) * 2015-08-19 2017-03-01 阿里巴巴集团控股有限公司 一种业务请求调整方法及设备
US20170171132A1 (en) * 2015-12-10 2017-06-15 Facebook, Inc. Techniques for ephemeral messaging with a message queue
CN106897124A (zh) * 2015-12-18 2017-06-27 华为软件技术有限公司 一种多租户请求处理方法、装置及设备
CN107018175A (zh) * 2017-01-11 2017-08-04 杨立群 移动云计算平台的调度方法和装置
CN108200152A (zh) * 2017-12-29 2018-06-22 珠海国芯云科技有限公司 用于网购系统的优化疏导方法及装置

Patent Citations (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040059879A1 (en) * 2002-09-23 2004-03-25 Rogers Paul L. Access priority protocol for computer system
US8635256B2 (en) * 2003-07-17 2014-01-21 Silicon Graphics International, Corp. Network filesystem asynchronous I/O scheduling
US20060080486A1 (en) * 2004-10-07 2006-04-13 International Business Machines Corporation Method and apparatus for prioritizing requests for information in a network environment
CN101414915A (zh) * 2007-10-19 2009-04-22 英业达股份有限公司 远程复制的发送请求处理系统及其方法
CN101576831A (zh) * 2008-05-07 2009-11-11 万德洪 一种分布式计算系统及实现方法
CN101459966A (zh) * 2009-01-06 2009-06-17 北京交通大学 基于IEEE802.16的Ad Hoc网络MAC层QoS保障方法
CN101702833A (zh) * 2009-10-27 2010-05-05 武汉理工大学 一种移动网格任务调度方法
CN102170400A (zh) * 2010-07-22 2011-08-31 杨喆 一种防止Web网站访问拥塞的方法
US9229949B2 (en) * 2011-10-07 2016-01-05 Microsoft Technology Licensing, Llc Extensible and generic framework for managing resources for data warehousing loads
CN103516536A (zh) * 2012-06-26 2014-01-15 重庆新媒农信科技有限公司 基于线程数量限制的服务器业务请求并行处理方法及系统
CN102946362A (zh) * 2012-09-13 2013-02-27 杭州华三通信技术有限公司 一种套接字资源分配方法及设备
CN102915374A (zh) * 2012-11-07 2013-02-06 北京搜狐新媒体信息技术有限公司 一种控制数据库资源访问的方法、装置及系统
CN103136056A (zh) * 2013-03-04 2013-06-05 浪潮电子信息产业股份有限公司 一种云计算平台调度方法
CN104219167A (zh) * 2013-05-31 2014-12-17 中国电信股份有限公司 网络资源调度方法和服务器
CN103414761A (zh) * 2013-07-23 2013-11-27 北京工业大学 一种基于Hadoop架构的移动终端云资源调度方法
CN104202261A (zh) * 2014-08-27 2014-12-10 华为技术有限公司 一种业务请求处理方法及装置
CN104468413A (zh) * 2014-11-27 2015-03-25 中国联合网络通信集团有限公司 一种网络服务方法及系统
CN106470169A (zh) * 2015-08-19 2017-03-01 阿里巴巴集团控股有限公司 一种业务请求调整方法及设备
US20170171132A1 (en) * 2015-12-10 2017-06-15 Facebook, Inc. Techniques for ephemeral messaging with a message queue
CN106897124A (zh) * 2015-12-18 2017-06-27 华为软件技术有限公司 一种多租户请求处理方法、装置及设备
CN105718317A (zh) * 2016-01-15 2016-06-29 浪潮(北京)电子信息产业有限公司 一种任务调度方法及装置
CN105718393A (zh) * 2016-01-23 2016-06-29 中国人民解放军国防科学技术大学 用于网络接口芯片的寄存器多源访问调度方法及装置
CN105897601A (zh) * 2016-06-20 2016-08-24 乐视控股(北京)有限公司 业务请求的处理方法及装置
CN107018175A (zh) * 2017-01-11 2017-08-04 杨立群 移动云计算平台的调度方法和装置
CN108200152A (zh) * 2017-12-29 2018-06-22 珠海国芯云科技有限公司 用于网购系统的优化疏导方法及装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110888628A (zh) * 2019-10-12 2020-03-17 中国平安财产保险股份有限公司 生成控制工具的方法、装置、设备和存储介质

Similar Documents

Publication Publication Date Title
US11140211B2 (en) Systems and methods for caching and serving dynamic content
US10812358B2 (en) Performance-based content delivery
JP5450841B2 (ja) ユーザコンテンツフィードをサポートするための機構
TWI620075B (zh) 用於雲端巨量資料運算架構之伺服器及其雲端運算資源最佳化方法
CN104573025B (zh) 一种提高页面加载速度的方法及系统
Tang et al. The impact of data replication on job scheduling performance in the data grid
US10027739B1 (en) Performance-based content delivery
JP6167493B2 (ja) 情報を管理するための方法、コンピュータプログラム、記憶媒体及びシステム
WO2015074500A1 (zh) 一种基于cdn的广告素材下载方法、装置及设备
CN101706827B (zh) 一种嵌入式浏览器文件缓存方法
CN106294365A (zh) 一种单页web应用的页面数据处理方法及设备
CN109978177B (zh) 模型训练方法、业务处理方法、装置及相关设备
WO2023050712A1 (zh) 一种深度学习业务的任务调度方法及相关装置
CN106681990B (zh) 一种移动云存储环境下缓存数据的预取方法
EP3049940B1 (en) Data caching policy in multiple tenant enterprise resource planning system
US20210004693A1 (en) Real-Time On the Fly Generation of Feature-Based Label Embeddings Via Machine Learning
CN108270693A (zh) 网站访问的自适应优化疏导方法及装置
WO2020076393A1 (en) Stream allocation using stream credits
EP3885910A1 (en) Dynamic quality of service management for deep learning training communication
EP3851967A1 (en) Smart network interface controller for caching distributed data
CN110020297A (zh) 一种网页内容的加载方法、装置及系统
CN112218114A (zh) 视频缓存控制方法、装置和计算机可读存储介质
CN103442000B (zh) Web缓存置换方法及装置、http代理服务器
Schaarschmidt et al. Learning runtime parameters in computer systems with delayed experience injection
CN108200152B (zh) 用于网购系统的优化疏导方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20180710

RJ01 Rejection of invention patent application after publication