CN113905033A - 一种网页跳转处理方法、装置、存储介质及电子设备 - Google Patents

Abstract

本申请提出一种网页跳转处理方法、装置、存储介质及电子设备，通过接收服务器根据第一http请求反馈的响应报文，第一http请求包括目标访问地址，响应报文为包含目标访问地址的响应结果的报文；在响应头部中的响应状态码为部分响应状态，且响应头部包含第一地址语句的情况下，对第一地址语句进行解析，以获取跳转后的目标访问地址，响应头部为响应报文的头部；向服务器发送第二http请求，第二http请求包括跳转后的目标访问地址。以使服务器在接收到第二http请求后，将新的响应报文反馈至客户端，新的响应报文为包含跳转后的目标访问地址的响应结果的报文。从而完成网页跳转，高效获取足量的网页信息。

Description

一种网页跳转处理方法、装置、存储介质及电子设备

技术领域

本申请涉及互联网领域，具体而言，涉及一种网页跳转处理方法、装置、存储介质及电子设备。

背景技术

在互联网技术飞快发展的今天，网页交互技术作为互联网交互中的重要一环，如何更加全面准确的获取网页内容也被本领域技术人员所关注。

现有技术中往往通过爬虫技术获取网页信息，但是在网页发生跳转时，现阶段的爬虫技术或是无法处理网页跳转导致无法获取足量的网页信息，或是使用chromedp(Chrome DevTools协议客户端)来模拟浏览器导致资源占用较高，效率低。因此，如何快速高效地实现网页跳转，成为了亟待本领域技术人员攻克的一个难题。

发明内容

本申请的目的在于提供一种网页跳转处理方法、装置、存储介质及电子设备，以至少部分改善上述问题。

为了实现上述目的，本申请实施例采用的技术方案如下：

第一方面，本申请实施例提供一种网页跳转处理方法，应用于客户端，所述方法包括：

接收服务器根据第一http请求反馈的响应报文，其中，所述第一http请求包括目标访问地址，所述响应报文为包含所述目标访问地址的响应结果的报文；

在响应头部中的响应状态码为部分响应状态，且所述响应头部包含第一地址语句的情况下，对所述第一地址语句进行解析，以获取跳转后的目标访问地址，其中，所述响应头部为所述响应报文的头部；

向所述服务器发送第二http请求，其中，所述第二http请求包括跳转后的目标访问地址。

第二方面，本申请实施例提供一种网页跳转处理装置，应用于客户端，所述装置包括：

信息收发单元，用于接收服务器根据第一http请求反馈的响应报文，其中，所述第一http请求包括目标访问地址，所述响应报文为包含所述目标访问地址的响应结果的报文；

处理单元，用于在响应头部中的响应状态码为部分响应状态，且所述响应头部包含第一地址语句的情况下，对所述第一地址语句进行解析，以获取跳转后的目标访问地址，其中，所述响应头部为所述响应报文的头部；

所述信息收发单元还用于向所述服务器发送第二http请求，其中，所述第二http请求包括跳转后的目标访问地址。

第三方面，本申请实施例提供一种存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述的方法。

第四方面，本申请实施例提供一种电子设备，所述电子设备包括：处理器和存储器，所述存储器用于存储一个或多个程序；当所述一个或多个程序被所述处理器执行时，实现上述的方法。

相对于现有技术，本申请实施例所提供的一种网页跳转处理方法、装置、存储介质及电子设备，通过接收服务器根据第一http请求反馈的响应报文，其中，第一http请求包括目标访问地址，响应报文为包含目标访问地址的响应结果的报文；在响应头部中的响应状态码为部分响应状态，且响应头部包含第一地址语句的情况下，对第一地址语句进行解析，以获取跳转后的目标访问地址，其中，响应头部为响应报文的头部；向服务器发送第二http请求，其中，第二http请求包括跳转后的目标访问地址。以使服务器在接收到第二http请求后，将新的响应报文反馈至客户端，新的响应报文为包含跳转后的目标访问地址的响应结果的报文。从而完成网页跳转，高效获取足量的网页信息。

为使本申请的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本申请实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它相关的附图。

图1为本申请实施例提供的电子设备的结构示意图；

图2为本申请实施例提供的网页跳转处理方法的流程示意图；

图3为本申请实施例提供的网页跳转处理方法的流程示意图之一；

图4为本申请实施例提供的网页跳转处理方法的流程示意图之一；

图5为本申请实施例提供的网页跳转处理装置的单元示意图。

图中：10-处理器；11-存储器；12-总线；13-通信接口；201-信息收发单元；202-处理单元。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

在本申请的描述中，需要说明的是，术语“上”、“下”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该申请产品使用时惯常摆放的方位或位置关系，仅是为了便于描述本申请和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本申请的限制。

在本申请的描述中，还需要说明的是，除非另有明确的规定和限定，术语“设置”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本申请中的具体含义。

下面结合附图，对本申请的一些实施方式作详细说明。在不冲突的情况下，下述的实施例及实施例中的特征可以相互组合。

本申请实施例提供了一种电子设备，可以是计算机设备或便携式移动终端。请参照图1，电子设备的结构示意图。电子设备包括处理器10、存储器11、总线12。处理器10、存储器11通过总线12连接，处理器10用于执行存储器11中存储的可执行模块，例如计算机程序。

处理器10可以是一种集成电路芯片，具有信号的处理能力。在实现过程中，网页跳转处理方法的各步骤可以通过处理器10中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器10可以是通用处理器，包括中央处理器(CentralProcessing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DigitalSignal Processor，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field－Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

存储器11可能包含高速随机存取存储器(RAM：Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。

总线12可以是ISA(Industry Standard Architecture)总线、PCI(PeripheralComponent Interconnect)总线或EISA(Extended Industry Standard Architecture)总线等。图1中仅用一个双向箭头表示，但并不表示仅有一根总线12或一种类型的总线12。

存储器11用于存储程序，例如网页跳转处理装置对应的程序。网页跳转处理装置包括至少一个可以软件或固件(firmware)的形式存储于存储器11中或固化在电子设备的操作系统(operating system，OS)中的软件功能模块。处理器10在接收到执行指令后，执行所述程序以实现网页跳转处理方法。

可能地，本申请实施例提供的电子设备还包括通信接口13。通信接口13通过总线与处理器10连接。电子设备可以通过通信接口13与服务器进行通讯。

应当理解的是，图1所示的结构仅为电子设备的部分的结构示意图，电子设备还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。

本申请实施例提供的一种网页跳转处理方法，可以但不限于应用于图1所示的电子设备，具体的流程，请参考图2，网页跳转处理方法包括：

S102，接收服务器根据第一http请求反馈的响应报文。

其中，第一http请求包括目标访问地址，响应报文为包含目标访问地址的响应结果的报文。

可选地，服务器在接收到第一http请求后，会根据第一http请求生成响应报文，并将响应报文反馈给客户端。

S105，在响应头部中的响应状态码为部分响应状态，且响应头部包含第一地址语句的情况下，对第一地址语句进行解析，以获取跳转后的目标访问地址。

其中，响应头部为响应报文的头部。

可以理解地，响应头部中的响应状态码为部分响应状态且响应头部包含第一地址语句，表示第一地址语句中的访问地址对应的网页内容相对于当前响应报文中的网页内容更加丰富。所以此时需要进行网页跳转处理，具体地，对第一地址语句进行解析，以获取跳转后的目标访问地址。

S113，向服务器发送第二http请求。

其中，响应头部为所述响应报文的头部。

因为跳转后的新地址包含的网页信息内容更加丰富，重新构建请求是为了获取更加丰富的信息。

可以理解地，服务器在接收到第二http请求后，会生成新的响应报文，新的响应报文为包含跳转后的目标访问地址的响应结果的报文。服务器将新的响应报文反馈至客户端，从而完成网页跳转，高效获取足量的网页信息。并且不需要使用chromedp(ChromeDevTools协议客户端)来模拟浏览器，资源占用较低，效率高。

综上所述，本申请实施例提供了一种网页跳转处理方法，通过接收服务器根据第一http请求反馈的响应报文，其中，第一http请求包括目标访问地址，响应报文为包含目标访问地址的响应结果的报文；在响应头部中的响应状态码为部分响应状态，且响应头部包含第一地址语句的情况下，对第一地址语句进行解析，以获取跳转后的目标访问地址，其中，响应头部为响应报文的头部；向服务器发送第二http请求，其中，第二http请求包括跳转后的目标访问地址。以使服务器在接收到第二http请求后，将新的响应报文反馈至客户端，新的响应报文为包含跳转后的目标访问地址的响应结果的报文。从而完成网页跳转，高效获取足量的网页信息。

在图2的基础上，关于如何准确地获取跳转后的目标访问地址，本申请实施例还提供了一种可能的实现方式，请参考图3，网页跳转处理方法还包括：

S103，判断响应状态码是否为部分响应状态。若是，则执行S104；若否，则执行S106。

在一种可能的实现方式中，响应状态码例如为301、302等3xx系列，第一地址语句例如为location语句。

可以理解地，在S102之后，执行S103，对响应状态码的状态进行确认。响应状态码可以为完全响应状态、部分响应状态以及未响应状态。当响应状态码为完全响应状态时，表示网页信息内容足够丰富，不需要再进行跳转。当响应状态码可以为部分响应状态，则表示需要进行网页跳转，此时需要进一步处理，确定跳转后的目标访问地址，即执行S104，当响应状态码并非部分响应状态时，需要判断响应状态码是否为未响应状态，即执行S106。

S104，判断响应头部是否包含第一地址语句。若是，则执行S105；若否，则执行S107。

当响应头部包含第一地址语句时，可以直接从第一地址语句解析获得跳转后的目标访问地址，即执行S105，对第一地址语句进行解析，以获取跳转后的目标访问地址；反之，则需要进一步处理以获取跳转后的目标访问地址，即执行S107。

S106，判断响应状态码是否为未响应状态。若是，则执行S107；若否，则跳过。

可以理解地，在S103之后，执行S106，若响应状态码不是未响应状态，则表示响应状态码为完全响应状态，此时不需要在进行网页跳转，可以直接跳过。若响应状态码为未响应状态，则需要进一步获取跳转后的目标访问地址，执行S107。

在一种可能的实现方式中，也可以先执行S106，若S106的执行结果为否，再执行S103。

S107，判断响应报文中的响应体是否包含第二地址语句。若是，则执行S108；若否，则执行S109。

可以理解地，响应体为响应报文中的主体部分。第二地址语句例如为<meta http-equiv＝"Refresh"content＝"0；URL＝http://example.com/"/>语句。当响应体包含第二地址语句时，需要对第二地址语句进行解析，以获取跳转后的目标访问地址，目标访问地址例如为URL的后续部分，此时执行S108；反之，则需要从其他途径获取跳转后的目标访问地址，即执行S109。

S108，对第二地址语句进行解析，以获取跳转后的目标访问地址。

在S108之后，可以执行S113，向服务器发送第二http请求。

S109，判断响应体是否包含第三地址语句。若是，则执行S110；若否，则跳过。

可选地，第三地址语句例如为window.location语句。当响应体包含第三地址语句时，需要对第三地址语句进行解析，以获取跳转后的目标访问地址，即执行S110；反之，则不包含跳转后的目标访问地址，直接跳过。

S110，依据javascript语法对第三地址语句进行解析，以获取跳转后的目标访问地址。

可选地，在S110后，可以执行S113，向服务器发送第二http请求。

在图3的基础上，当跳转后的目标访问地址的数量大于或等于2时，为了避免重复发送请求，本申请实施例还提供了一种可能的实现方式，请参考图4，网页跳转处理方法还包括：

S111，对跳转后的目标访问地址进行去重处理，从而剔除跳转后的目标访问地址中的重复地址。

可选地，在执行S105、S108或者S110之后，若跳转后的目标访问地址的数量大于或等于2，可以执行S111。将跳转后目标访问地址中的重复剔除，从而避免重复发送相同的第二请求，避免造成资源浪费。

在图3的基础上，为了保障目标访问地址的正确性，本申请实施例还提供了一种可能的实现方式，请继续参考图4，网页跳转处理方法还包括：

S112，对跳转后的目标访问地址进行格式校验，从而剔除跳转后的目标访问地址中格式错误的地址。

可选地，在执行S105、S108或者S110之后，可以执行S112。通过剔除跳转后的目标访问地址中格式错误的地址，保留正确的跳转后的目标访问地址，在正确的地址的基础上，发送第二http请求。

需要说明的是，S112和S111可以不同时执行，也可以是S112先于S111执行，在此不做限定。

请继续参考图4，在一种可能的实现方式中，网页跳转处理方法还包括：

S101，向服务器发送第一http请求。

本申请实施例提供的网页跳转处理方法的核心构思在于充分理解网页跳转的原理，将其划分为三种类别，即HTTP 3xx跳转、HTML标签跳转、javascript动态跳转。针对不同的情况使用不同的方法，尽可能的仅使用Go语言自身的HTTP客户端，不依赖外部的组件(如浏览器等)，做到高效率的获取全量网页信息。

请参阅图5，图5为本申请实施例提供的一种网页跳转处理装置，可选的，该网页跳转处理装置被应用于上文所述的电子设备。

网页跳转处理装置包括：信息收发单元201和处理单元202。

信息收发单元201，用于接收服务器根据第一http请求反馈的响应报文，其中，所述第一http请求包括目标访问地址，所述响应报文为包含所述目标访问地址的响应结果的报文。可选地，信息收发单元201还可以执行上述的S102。

处理单元202，用于在响应头部中的响应状态码为部分响应状态，且所述响应头部包含第一地址语句的情况下，对所述第一地址语句进行解析，以获取跳转后的目标访问地址，其中，所述响应头部为所述响应报文的头部。可选地，处理单元202还可以执行上述的S105。

所述信息收发单元201还用于向所述服务器发送第二http请求，其中，所述第二http请求包括跳转后的目标访问地址。可选地，信息收发单元201还可以执行上述的S113。

在一种可能的实现方式中，信息收发单元201还可以执行上述的S101；处理单元202还可以执行上述的S103-S112。

需要说明的是，本实施例所提供的网页跳转处理装置，其可以执行上述方法流程实施例所示的方法流程，以实现对应的技术效果。为简要描述，本实施例部分未提及之处，可参考上述的实施例中相应内容。

本申请实施例还提供了一种存储介质，该存储介质存储有计算机指令、程序，该计算机指令、程序在被读取并运行时执行上述实施例的网页跳转处理方法。该存储介质可以包括内存、闪存、寄存器或者其结合等。

下面提供一种电子设备，可以是计算机设备或便携式移动终端，该电子设备如图1所示，可以实现上述的网页跳转处理方法；具体的，该电子设备包括：处理器10，存储器11、总线12。处理器10可以是CPU。存储器11用于存储一个或多个程序，当一个或多个程序被处理器10执行时，执行上述实施例的网页跳转处理方法。

在本申请所提供的实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其它的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

Claims (10)

1.一种网页跳转处理方法，其特征在于，应用于客户端，所述方法包括：

接收服务器根据第一http请求反馈的响应报文，其中，所述第一http请求包括目标访问地址，所述响应报文为包含所述目标访问地址的响应结果的报文；

在响应头部中的响应状态码为部分响应状态，且所述响应头部包含第一地址语句的情况下，对所述第一地址语句进行解析，以获取跳转后的目标访问地址，其中，所述响应头部为所述响应报文的头部；

向所述服务器发送第二http请求，其中，所述第二http请求包括跳转后的目标访问地址。

2.如权利要求1所述的网页跳转处理方法，其特征在于，在接收服务器根据第一http请求反馈的响应报文之后，所述方法还包括：

判断所述响应状态码是否为部分响应状态；

若所述响应状态码为部分响应状态，判断所述响应头部是否包含第一地址语句；

若所述响应头部不包含第一地址语句，则判断所述响应报文中的响应体是否包含第二地址语句；

若所述响应体包含所述第二地址语句，则对所述第二地址语句进行解析，以获取跳转后的目标访问地址。

3.如权利要求1所述的网页跳转处理方法，其特征在于，在接收服务器根据第一http请求反馈的响应报文之后，所述方法还包括：

判断所述响应状态码是否为未响应状态；

若所述响应状态码为未响应状态，则判断所述响应报文中的响应体是否包含第二地址语句；

若所述响应体包含所述第二地址语句，则对所述第二地址语句进行解析，以获取跳转后的目标访问地址。

4.如权利要求3所述的网页跳转处理方法，其特征在于，所述方法还包括：

若所述响应体不包含所述第二地址语句，则判断所述响应体是否包含第三地址语句；

若是，则依据javascript语法对所述第三地址语句进行解析，以获取跳转后的目标访问地址。

5.如权利要求1-4中任意一项所述的网页跳转处理方法，其特征在于，当跳转后的目标访问地址的数量大于或等于2时，在获取跳转后的目标访问地址之后，所述方法还包括：

对跳转后的目标访问地址进行去重处理，从而剔除跳转后的目标访问地址中的重复地址。

6.如权利要求1-4中任意一项所述的网页跳转处理方法，其特征在于，在获取跳转后的目标访问地址之后，所述方法还包括：

对跳转后的目标访问地址进行格式校验，从而剔除跳转后的目标访问地址中格式错误的地址。

7.如权利要求1所述的网页跳转处理方法，其特征在于，在接收服务器根据第一http请求反馈的响应报文之前，所述方法还包括：

向所述服务器发送所述第一http请求。

8.一种网页跳转处理装置，其特征在于，应用于客户端，所述装置包括：

信息收发单元，用于接收服务器根据第一http请求反馈的响应报文，其中，所述第一http请求包括目标访问地址，所述响应报文为包含所述目标访问地址的响应结果的报文；

处理单元，用于在响应头部中的响应状态码为部分响应状态，且所述响应头部包含第一地址语句的情况下，对所述第一地址语句进行解析，以获取跳转后的目标访问地址，其中，所述响应头部为所述响应报文的头部；

所述信息收发单元还用于向所述服务器发送第二http请求，其中，所述第二http请求包括跳转后的目标访问地址。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。

10.一种电子设备，其特征在于，包括：处理器和存储器，所述存储器用于存储一个或多个程序；当所述一个或多个程序被所述处理器执行时，实现如权利要求1-7中任一项所述的方法。

Images