CN115037794B - 一种数据采集方法、装置、计算机设备及可读存储介质 - Google Patents
一种数据采集方法、装置、计算机设备及可读存储介质 Download PDFInfo
- Publication number
- CN115037794B CN115037794B CN202210636695.7A CN202210636695A CN115037794B CN 115037794 B CN115037794 B CN 115037794B CN 202210636695 A CN202210636695 A CN 202210636695A CN 115037794 B CN115037794 B CN 115037794B
- Authority
- CN
- China
- Prior art keywords
- information
- response
- request
- target
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 90
- 230000004044 response Effects 0.000 claims abstract description 536
- 238000012545 processing Methods 0.000 claims abstract description 18
- 230000010076 replication Effects 0.000 claims description 14
- 238000012986 modification Methods 0.000 claims description 11
- 230000004048 modification Effects 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 8
- 238000004806 packaging method and process Methods 0.000 claims description 5
- 230000008569 process Effects 0.000 abstract description 7
- 230000000875 corresponding effect Effects 0.000 description 58
- 238000010586 diagram Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 8
- 238000012546 transfer Methods 0.000 description 8
- 238000013480 data collection Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 229940004975 interceptor Drugs 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种数据采集方法、装置、计算机设备及可读存储介质,其中,该方法包括:基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;从第一响应信息中读取第一请求信息、以及第一响应头信息,并在第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;接收第二目标对象基于复制指令对第一响应体信息进行复制处理后得到的第二响应体信息;将第一请求信息、第一响应头信息、以及第二目标对象发送的第二响应体信息进行关联存储。本公开实施例通过对目标数据实行拦截、读取、复制等操作,无需借助其他代理服务器即可实现对于目标数据的采集,因此可以简化采集目标数据的相关流程,提高目标数据的采集效率。
Description
技术领域
本公开涉及软件开发技术领域,具体而言,涉及一种数据采集方法、装置、计算机设备及可读存储介质。
背景技术
在软件或是网站开发之后,需要对目标开发的软件或是开发的网站进行测试,其中一个重要的环节便是采集运行前后的目标数据,并通过对采集到的目标数据进行分析来确定软件或网站的运行状态是否稳定、或是运行效果是否符合预期等,并基于测试结果对所开发的软件或网站进行修正或优化。
目前的数据采集方法主要是利用数据代理中转并配合在线的测试网站对流入的网络数据进行拦截采集,但是上述方法较为繁琐,数据采集的效率较低。
发明内容
本公开实施例至少提供一种数据采集方法、装置、计算机设备及可读存储介质。
第一方面,本公开实施例提供了一种数据采集方法,包括:
基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;所述第一响应信息包括:与所述第一响应信息对应的请求信息、响应头信息、以及响应体信息;
从所述第一响应信息中读取第一请求信息、以及第一响应头信息,并在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理;
向所述第二目标对象发送所述目标第一响应信息,并接收所述第二目标对象基于所述复制指令对所述第一响应体信息进行复制处理后得到的第二响应体信息;
将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储。
一种可选的实施方式中,基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息之前,包括:
注册基于OkHTTP的拦截器;
利用所述拦截器拦截所述第一目标对象对所述第一网络请求的第一响应信息。
一种可选的实施方式中,所述从所述第一响应信息中读取第一请求信息、以及第一响应头信息,包括:
从所述第一响应信息中用于保存所述请求信息的第一字段中,读取与请求字段对应的第一请求信息,并从所述第一响应信息中用于保存所述响应头信息的第二字段中,读取所述第一响应头信息。
一种可选的实施方式中,所述在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息,包括:
基于所述复制指令,对所述第一响应信息进行封装处理,得到所述第一目标响应体消息。
一种可选的实施方式中,所述将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储,包括:
按照所述第一响应信息的拦截顺序,为从同一第一响应信息中获取的第一请求信息、第一响应头信息、以及第二响应体信息分配相同的顺序标识;
基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件,并将所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别存储在对应文件中。
一种可选的实施方式中,所述基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件,包括:
从所述第一请求信息中解析用于表征第一目标对象身份的第一信息、以及用于表征向所述第一请求信息对应路径的第二信息;
基于所述第一信息、以及所述第二信息,确定所述文件的创建路径;
在所述创建路径下,基于所述顺序标识,创建所述请求信息、响应头信息、以及响应体信息分别对应的文件。
一种可选的实施方式中,还包括:
基于本地注册的拦截器拦截所述第二目标对象发送的第二网络请求;
基于所述第二网络请求,确定是否存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息;
响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
向所述第二目标对象发送所述第二响应信息。
一种可选的实施方式中,所述响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息,包括:
响应于存在一组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
响应于存在多组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与各组第一响应头信息、以及第二响应体信息分别对应的顺序标识,构建与所述顺序标识对应的第二响应信息;
所述项所述第二目标对象发送所述第二响应信息,包括:
按照第二响应信息分别对应的顺序标识指示的顺序,向所述第二目标对象发送所述第二响应信息。
一种可选的实施方式中,还包括:
基于本地注册的拦截器拦截第二目标对象的第三网络请求;
响应于拦截的所述第三网络请求符合预设的拦截条件,
对所述第三网络请求进行解析,得到所述第一网络请求信息中的目标修改条件;
对所述本地存储位置中存储的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息进行修改;
生成并返回包括修改后的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息的返回数据。
第二方面,本公开实施例还提供一种数据采集装置,包括:
第一拦截模块,用于基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;所述第一响应信息包括:与所述第一响应信息对应的请求信息、响应头信息、以及响应体信息;
读取模块,用于从所述第一响应信息中读取第一请求信息、以及第一响应头信息,并在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理;
接收模块,用于向所述第二目标对象发送所述目标第一响应信息,并接收所述第二目标对象基于所述复制指令对所述第一响应体信息进行复制处理后得到的第二响应体信息;
存储模块,用于将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储。
一种可选的实施方式中,所述第一拦截模块具体用于:
注册基于OkHTTP的拦截器;
利用所述拦截器拦截所述第一目标对象对所述第一网络请求的第一响应信息。
一种可选的实施方式中,所述读取模块具体用于:
从所述第一响应信息中用于保存所述请求信息的第一字段中,读取与请求字段对应的第一请求信息,并从所述第一响应信息中用于保存所述响应头信息的第二字段中,读取所述第一响应头信息。
一种可选的实施方式中,所述读取模块还用于:
基于所述复制指令,对所述第一响应信息进行封装处理,得到所述第一目标响应体消息。
一种可选的实施方式中,所述存储模块包括:
获取单元,用于按照所述第一响应信息的拦截顺序,为从同一第一响应信息中获取的第一请求信息、第一响应头信息、以及第二响应体信息分配相同的顺序标识;
存储单元,用于基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件,并将所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别存储在对应文件中。
一种可选的实施方式中,所述存储单元具体用于:
从所述第一请求信息中解析用于表征第一目标对象身份的第一信息、以及用于表征向所述第一请求信息对应路径的第二信息;
基于所述第一信息、以及所述第二信息,确定所述文件的创建路径;
在所述创建路径下,基于所述顺序标识,创建所述请求信息、响应头信息、以及响应体信息分别对应的文件。
一种可选的实施方式中,还包括:
第二拦截模块,用于基于本地注册的拦截器拦截所述第二目标对象发送的第二网络请求;
确定模块,用于基于所述第二网络请求,确定是否存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息;
构建模块,用于响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
发送模块,用于向所述第二目标对象发送所述第二响应信息。
一种可选的实施方式中,所述构建模块具体用于:
响应于存在一组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
响应于存在多组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与各组第一响应头信息、以及第二响应体信息分别对应的顺序标识,构建与所述顺序标识对应的第二响应信息;
所述项所述第二目标对象发送所述第二响应信息,包括:
按照第二响应信息分别对应的顺序标识指示的顺序,向所述第二目标对象发送所述第二响应信息。
一种可选的实施方式中,还包括:
第三拦截模块,用于基于本地注册的拦截器拦截第二目标对象的第三网络请求;
解析模块,用于响应于拦截的所述第三网络请求符合预设的拦截条件,对所述第三网络请求进行解析,得到所述第一网络请求信息中的目标修改条件;
修改模块,用于对所述本地存储位置中存储的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息进行修改;
生成模块,用于生成并返回包括修改后的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息的返回数据。
第三方面,本公开实施例还提供一种计算机设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
第四方面,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
本公开实施例提供的一种数据采集方法、装置、计算机设备及可读存储介质,通过在本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息,从中读取出第一请求信息、以及第一响应头信息,并复制第一响应体信息得到目标第一响应体信息,向第二目标对象发送目标第一响应信息,并接收第二目标对象基于复制指令对第一响应体信息进行复制处理后得到的第二响应体信息,将第一请求信息、第一响应头信息、以及第二响应体信息进行关联存储,从而利用了本地的拦截器对目标数据实行拦截、读取、复制等操作,无需借助其他代理服务器即可以实现对于目标数据的采集,因此可以简化采集目标数据的相关流程,提高目标数据的采集效率。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种数据采集方法的流程图;
图2示出了本公开实施例所提供的一种第一响应信息的示例图;
图3示出了本公开实施例所提供的另一种数据采集方法的流程图之一;
图4示出了本公开实施例所提供的另一种数据采集方法的流程图之二;
图5示出了本公开实施例所提供的一种数据采集装置的示意图;
图6示出了本公开实施例所提供的数据采集装置中,存储模块的具体示意图;
图7示出了本公开实施例所提供的另一种数据采集装置的示意图之一;
图8示出了本公开实施例所提供的另一种数据采集装置的示意图之二;
图9示出了本公开实施例所提供的一种计算机设备的示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
经研究发现,在软件或是网站开发之后,需要对目标开发的软件或是开发的网站进行测试,其中一个重要的环节便是采集运行前后的目标数据,并通过对采集到的目标数据进行分析来确定软件或网站的运行状态是否稳定、或是运行效果是否符合预期等,并基于测试结果对所开发的软件或网站进行修正或优化。目前,针对于网络数据测试过程中,目标数据的采集方法往往是利用代理服务器(Charles)作为代理中转,并配合在线的测试网站(-mocky.io)等进行目标数据的采集工作。
针对于上述目标数据采集工作需要以下几个步骤:
(1)下载、安装Charles;
(2)终端服务器连接Charles代理;
(3)访问mock.io创建模拟数据网址;
(4)使用Charles将需要模拟的接口映射到该网址。
由此可知,目前的数据采集方法主要是利用数据代理中转并配合在线的测试网站对流入的网络数据进行拦截采集,但是上述方法较为繁琐,数据采集的效率较低。此外,如果为超文本传输安全协议(Hypertext Transfer Protocol Secure,HTTPs)请求,还需要在终端服务器上安装对应的证书等,其过程会更加繁琐,数据采集的效率更低。
基于上述研究,本公开提供了一种数据采集方法,通过在本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息,从中读取出第一请求信息、以及第一响应头信息,并复制第一响应体信息得到目标第一响应体信息,向第二目标对象发送目标第一响应信息,并接收第二目标对象基于复制指令对第一响应体信息进行复制处理后得到的第二响应体信息,将第一请求信息、第一响应头信息、以及第二响应体信息进行关联存储,从而利用了本地的拦截器对目标数据实行拦截、读取、复制等操作,无需借助其他代理服务器即可以实现对于目标数据的采集,因此可以简化采集目标数据的相关流程,提高目标数据的采集效率。
针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案,都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解,首先对本公开实施例所公开的一种数据采集方法进行详细介绍,本公开实施例所提供的数据采集方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括:终端设备或服务器或其它处理设备。在一些可能的实现方式中,该数据采集方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
下面以执行主体为终端设备为例对本公开实施例提供的数据采集方法加以说明。
参见图1所示,为本公开实施例提供的一种数据采集方法的流程图,所述方法包括步骤S101~S104,其中:
S101:基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;所述第一响应信息包括:与所述第一响应信息对应的请求信息、响应头信息、以及响应体信息。
其中,所述第一目标对象为待测试的在线测试网站或待测试的应用程序(Application,APP)等,第一网络请求为超文本传输协议(HyperText Transfer Protocol,HTTP)请求、超文本传输安全协议(Hypertext Transfer Protocol Secure,HTTPS)请求等。
在本公开实施例中,在发出第一网络请求之后,第一目标对象会返回对应第一网络请求的第一响应信息。例如,在向A网站发出HTTP请求之后,A网站会返回对应发出的HTTP请求的第一响应信息。
参见图2所示,为本公开实施例所提供的一种第一响应信息的示例图。如图2所示,第一响应信息(Response)包括:与所述第一响应信息对应的请求信息(request)、响应头信息(headers)、以及响应体信息(body)。其中,请求信息包括统一资源定位符(UniformResource Locator,URL)、请求方法(method)、请求头信息(headers)以及请求体信息(body)。
在一可能的实施方式中,通过第一响应信息的请求信息字段可以采集到请求信息,通过第一响应信息的响应头信息字段可以采集到基于请求信息的响应头信息,通过第一响应信息的响应体信息字段可以采集到基于请求信息的响应体信息
在本公开一可能的实施例中,为了获取第一目标对象对第一网络请求的第一响应信息,需要基于一定的拦截器拦截第一目标对象对第一网络请求的第一响应信息。具体的,在本公开实施例中,基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息之前,可以注册基于OkHTTP的拦截器,并利用所述拦截器拦截所述第一目标对象对所述第一网络请求的第一响应信息。
示例性的,okHTTP适用于安卓(android)系统平台,其具有接收并处理网络请求、完成文件的上传下载、加载图片(内部会图片大小自动压缩)、支持请求回调,直接返回对象、对象集合等功能。okHTTP可以允许连接到同一个主机地址的所有请求,提高请求效率,共享套接字(Socket),减少对服务器的请求次数,通过连接池,减少了请求延迟,缓存响应数据来减少重复的网络请求,减少了对数据流量的消耗,自动处理GZip压缩等。
示例性的,可以基于okHTTP注册一拦截器(Interceptor),从而发出的请求信息会流经注册的拦截器,并且,当基于请求信息返回第一响应信息时,第一响应信息也会流经注册的拦截器。这样,便可以拦截到第一影响信息,以及所述第一响应信息对应的请求信息、响应头信息、以及响应体信息。
承接于上述S101,所述方法还包括:
S102:从所述第一响应信息中读取第一请求信息、以及第一响应头信息,并在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理。
在本公开实施例中,在拦截第一目标对象对第一网络请求的第一响应信息的同时可以读取到第一响应信息的第一请求信息、以及第一响应头信息。
具体的,通过下述方法从所述第一响应信息中读取第一请求信息、以及第一响应头信息:
从所述第一响应信息中用于保存所述请求信息的第一字段中,读取与请求字段对应的第一请求信息,并从所述第一响应信息中用于保存所述响应头信息的第二字段中,读取所述第一响应头信息。
示例性的,如图2所示,通过Response的request字段可以采集到与HTTP请求字段对应的第一请求信息,具体包括:请求链接-url、请求方法method、请求头信息-headers、请求体信息-body,并且通过Response的headers字段可以采集到第一响应头信息。
在本公开一可能的实施例中,第一响应信息中的响应体信息不能像其他字段一样直接读取获得,而是需要通过替换第一响应信息中的响应体信息来采集数据。这是由于如果直接将第一响应信息中的响应体信息读取过来,用户或其他使用人员便无法获取该响应体数据,无法完成正常的访问或测试过程。因此,可以在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理。其中,所述第二目标对象用于进行复制操作。
具体的,通过下述方法在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息:
基于所述复制指令,对所述第一响应信息进行封装处理,得到所述第一目标响应体消息。
示例性的,在初始化的时候,可以将Response的body字段由原本响应体信息(RealResponse Body)替换为可以控制实现的复制第一目标响应体消息(Copying ResponseBody),两者都继承于第一响应体信息(Response Body)。在用户读取数据的时候,可以先调用Response Body的可替换资源(source())的方法,来获取一个缓冲资源(BufferedSource)实例。由于Response Body被替换成了Copying Response Body,所以会调用到Copying Response Body的source()方法;当Copying Response Body的source()方法被调用到时候,可以返回一个继承于Buffered Source的Copying Buffered Source实例;用户读取请求信息的操作是通过调用Buffered Source的各种读取(read)方法实现的。由于Buffered Source被替换成了Copying Buffered Source,所以请求信息可以在CopyingBuffered Source的各种read方法中获取到。总而言之,当用户读取第一响应体信息的时候,可以随着拷贝一份第一响应体信息,这样即保证了用户可以获得第一响应体信息,同时也可以采集到第一响应体信息。
承接于上述S102,所述方法还包括:
S103:向所述第二目标对象发送所述目标第一响应信息,并接收所述第二目标对象基于所述复制指令对所述第一响应体信息进行复制处理后得到的第二响应体信息。
具体的,用于进行复制操作的第二目标对象在接收到封装后的目标第一响应信息以及对应的复制指令之后,执行对应的复制操作,得到基于所述复制指令对所述第一响应体信息进行复制处理后的第二响应体信息,并将该第二响应体信息下发至后续处理过程。
承接于上述S103,所述方法还包括:
S104:将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储。
具体的,在获取到第一请求信息、第一响应头信息已经第二响应头信息之后,便可以基于一定的存储规则对上述信息进行存储,便于读取调用等后续处理过程。
在本公开一个实施例中,通过以下步骤一一至步骤一二将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储:
步骤一一:按照所述第一响应信息的拦截顺序,为从同一第一响应信息中获取的第一请求信息、第一响应头信息、以及第二响应体信息分配相同的顺序标识。
具体的,为了表明不同第一响应信息的获取时间、顺序等信息,当接收到一个第一响应信息后,可以对从同一第一响应信息中获取的第一请求信息、第一响应头信息、以及第二响应体信息分配一个严格递增的请求序号(request-number)例如:(1、2、3、...),request-number是用来区别相同头文件(host)以及访问路径文件(path)的第一请求信息、第一响应头信息、以及第二响应体信息。
步骤一二:基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件,并将所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别存储在对应文件中。
其中,通过以下方法基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件:
从所述第一请求信息中解析用于表征第一目标对象身份的第一信息、以及用于表征向所述第一请求信息对应路径的第二信息;
基于所述第一信息、以及所述第二信息,确定所述文件的创建路径;
在所述创建路径下,基于所述顺序标识,创建所述请求信息、响应头信息、以及响应体信息分别对应的文件。
具体的,表征第一目标对象身份的第一信息即为头文件(host),表征向所述第一请求信息对应路径的第二信息即为访问路径文件(path),基于host文件以及path文件确定出针对所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件的创建路径,并基于该创建录取,顺序标识生成对应的文件名称,并将对应的请求信息、响应头信息、以及响应体信息添加到对应的文件中,创建所述请求信息、响应头信息、以及响应体信息分别对应的文件。
示例性的,以同时包括host字段以及path字段的网络连接或网址https://search.AAA.com/book/subject_search?search_text8&cat=1001为例。host是指//和/之间的字段,即search.AAA.com,path是指/到?之间的字段(包括左边的/),即/book/subject_search。
示例性的,将第一请求信息、第一响应头信息、以及第二响应体信息按host/path文件数的形式组织进行存储,将采集到的第一请求信息、第一响应头信息、以及第二响应体信息依次存储在request、header、data、meta四个文件中。各个文件存储的内容如下:
(a)request:存储请求头信息;
(b)header:存储响应头信息;
(c)data:存储响应体信息;
(d)meta:存储额外元信息。
示例性的,假设此时分配到的request-number是x。那么,将会创建search.AAA.com的文件夹,并在该文件夹中创建存储(book)文件夹,在book文件夹中创建subject_search文件夹。在subject_search文件夹中创建request-x、header-x、data-x、meta-x四个文件,并在这四个文件中存储对应的信息,即request-x存储请求头信息、header-x存储响应头信息、data-x存储响应体信息;、meta-x存储额外元信息。
参见图3所示,为本公开实施例所提供的另一种数据采集方法的流程图之一。在本公开另一实施例中,所述方法还包括:
S301:基于本地注册的拦截器拦截所述第二目标对象发送的第二网络请求;
S302:基于所述第二网络请求,确定是否存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息;
S303:响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
S304:向所述第二目标对象发送所述第二响应信息。
其中,所述第二网络请求为网络回放请求。
具体的,在接收到网络回放请求时,可以判断在基于上述方法在本地存储的文件中是否存在第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息。若存在,可以基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息,并向第二目标对象发送该第二响应信息。
在本公开一实施例中,通过以下方法响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息:
响应于存在一组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
响应于存在多组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与各组第一响应头信息、以及第二响应体信息分别对应的顺序标识,构建与所述顺序标识对应的第二响应信息;
所述项所述第二目标对象发送所述第二响应信息,包括:
按照第二响应信息分别对应的顺序标识指示的顺序,向所述第二目标对象发送所述第二响应信息。
示例性的,解析拦截到的第二目标对象发出的请求信息url,获得其中的host和path信息,根据获得的host和path信息在本地存储中查找满足条件的存储信息(request、header、data、meta)。如果只有一组存储信息符合host和path信息对应的获取条件,则直接返回即可。如果有多组信息符合获取条件,则根据request-number的数值循环返回。假设根据host和path信息找到了两组信息符合获取条件:信息1(request-1、header-1、data-1、meta-1)、信息2(request-2、header2、data-2、meta-2),则第一次请求返回数据-1,第二次请求返回数据-2,第三次请求返回数据-1......以此类推,循环往复。
本公开实施例便于对于历史信息的查找、使得用户可以方便、快捷的恢复曾经录制的网络环境。
参见图4所示,为本公开实施例所提供的另一种数据采集方法的流程图之二。在本公开另一实施例中,所述方法还包括:
S401:基于本地注册的拦截器拦截第二目标对象的第三网络请求;
S402:响应于拦截的所述第三网络请求符合预设的拦截条件,对所述第三网络请求进行解析,得到所述第一网络请求信息中的目标修改条件;
S403:对所述本地存储位置中存储的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息进行修改;
S404:生成并返回包括修改后的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息的返回数据。
具体的,所述第三网络请求为信息修改请求,基于该信息修改请求确定其包括的目标修改条件,基于该目标修改条件,对本地存储位置中存储的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息进行修改,生成并返回修改后的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息的返回数据。
示例性的,用户需要注册一个transformer,同时指明这个transformer所能够拦截的host信息和url信息。在这个transformer里,可以对服务端内存储的信息进行修改并返回,也可以不使用服务端内存储的信息,耳熟直接生成信息并返回。由此用户可以动态修改请求信息对应的响应信息。
本公开实施例通过在本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息,从中读取出第一请求信息、以及第一响应头信息,并复制第一响应体信息得到目标第一响应体信息,向第二目标对象发送目标第一响应信息,并接收第二目标对象基于复制指令对第一响应体信息进行复制处理后得到的第二响应体信息,将第一请求信息、第一响应头信息、以及第二响应体信息进行关联存储,从而利用了本地的拦截器对目标数据实行拦截、读取、复制等操作,无需借助其他代理服务器即可以实现对于目标数据的采集,因此可以简化采集目标数据的相关流程,提高目标数据的采集效率。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思,本公开实施例中还提供了与数据采集方法对应的数据采集装置,由于本公开实施例中的装置解决问题的原理与本公开实施例上述数据采集方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
参照图5所示,为本公开实施例提供的一种数据采集装置的示意图,所述装置包括:第一拦截模块510、读取模块520、接收模块530、存储模块540;其中,
第一拦截模块510,用于基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;所述第一响应信息包括:与所述第一响应信息对应的请求信息、响应头信息、以及响应体信息;
读取模块520,用于从所述第一响应信息中读取第一请求信息、以及第一响应头信息,并在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理;
接收模块530,用于向所述第二目标对象发送所述目标第一响应信息,并接收所述第二目标对象基于所述复制指令对所述第一响应体信息进行复制处理后得到的第二响应体信息;
存储模块540,用于将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储。
一种可选的实施方式中,所述第一拦截模块510具体用于:
注册基于OkHTTP的拦截器;
利用所述拦截器拦截所述第一目标对象对所述第一网络请求的第一响应信息。
一种可选的实施方式中,所述读取模块520具体用于:
从所述第一响应信息中用于保存所述请求信息的第一字段中,读取与请求字段对应的第一请求信息,并从所述第一响应信息中用于保存所述响应头信息的第二字段中,读取所述第一响应头信息。
一种可选的实施方式中,所述读取模块520还用于:
基于所述复制指令,对所述第一响应信息进行封装处理,得到所述第一目标响应体消息。
一种可选的实施方式中,参照图6所示,为本公开实施例所提供的数据采集装置中,存储模块的具体示意图;所述存储模块540包括:
获取单元541,用于按照所述第一响应信息的拦截顺序,为从同一第一响应信息中获取的第一请求信息、第一响应头信息、以及第二响应体信息分配相同的顺序标识;
存储单元542,用于基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件,并将所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别存储在对应文件中。
一种可选的实施方式中,所述存储单元542具体用于:
从所述第一请求信息中解析用于表征第一目标对象身份的第一信息、以及用于表征向所述第一请求信息对应路径的第二信息;
基于所述第一信息、以及所述第二信息,确定所述文件的创建路径;
在所述创建路径下,基于所述顺序标识,创建所述请求信息、响应头信息、以及响应体信息分别对应的文件。
一种可选的实施方式中,参照图7所示,为本公开实施例所提供的另一种数据采集装置的示意图之一;还包括:
第二拦截模块710,用于基于本地注册的拦截器拦截所述第二目标对象发送的第二网络请求;
确定模块720,用于基于所述第二网络请求,确定是否存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息;
构建模块730,用于响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
发送模块740,用于向所述第二目标对象发送所述第二响应信息。
一种可选的实施方式中,所述构建模块730具体用于:
响应于存在一组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
响应于存在多组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与各组第一响应头信息、以及第二响应体信息分别对应的顺序标识,构建与所述顺序标识对应的第二响应信息;
所述项所述第二目标对象发送所述第二响应信息,包括:
按照第二响应信息分别对应的顺序标识指示的顺序,向所述第二目标对象发送所述第二响应信息。
一种可选的实施方式中,参照图8所示,为本公开实施例所提供的另一种数据采集装置的示意图之二;还包括:
第三拦截模块810,用于基于本地注册的拦截器拦截第二目标对象的第三网络请求;
解析模块820,用于响应于拦截的所述第三网络请求符合预设的拦截条件,对所述第三网络请求进行解析,得到所述第一网络请求信息中的目标修改条件;
修改模块830,用于对所述本地存储位置中存储的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息进行修改;
生成模块840,用于生成并返回包括修改后的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息的返回数据。
本公开实施例通过在本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息,从中读取出第一请求信息、以及第一响应头信息,并复制第一响应体信息得到目标第一响应体信息,向第二目标对象发送目标第一响应信息,并接收第二目标对象基于复制指令对第一响应体信息进行复制处理后得到的第二响应体信息,将第一请求信息、第一响应头信息、以及第二响应体信息进行关联存储,从而利用了本地的拦截器对目标数据实行拦截、读取、复制等操作,无需借助其他代理服务器即可以实现对于目标数据的采集,因此可以简化采集目标数据的相关流程,提高目标数据的采集效率。
关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明,这里不再详述。
基于同一技术构思,本公开实施例还提供了一种计算机设备。参照图9所示,为本公开实施例提供的计算机设备900的结构示意图,包括处理器901、存储器902、和总线903。其中,存储器902用于存储执行指令,包括内存9021和外部存储器9022;这里的内存9021也称内存储器,用于暂时存放处理器901中的运算数据,以及与硬盘等外部存储器9022交换的数据,处理器901通过内存9021与外部存储器9022进行数据交换,当计算机设备900运行时,处理器901与存储器902之间通过总线903通信,使得处理器901在执行以下指令:
基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;所述第一响应信息包括:与所述第一响应信息对应的请求信息、响应头信息、以及响应体信息;
从所述第一响应信息中读取第一请求信息、以及第一响应头信息,并在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理;
向所述第二目标对象发送所述目标第一响应信息,并接收所述第二目标对象基于所述复制指令对所述第一响应体信息进行复制处理后得到的第二响应体信息;
将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储。
本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的数据采集方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例所提供的数据采集方法的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行上述方法实施例中所述的数据采集方法的步骤,具体可参见上述方法实施例,在此不再赘述。
本公开实施例还提供一种计算机程序,该计算机程序被处理器执行时实现前述实施例的任意一种方法。该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software DevelopmentKit,SDK)等等。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本公开的具体实施方式,用以说明本公开的技术方案,而非对其限制,本公开的保护范围并不局限于此,尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应所述以权利要求的保护范围为准。
Claims (12)
1.一种数据采集方法,其特征在于,包括:
基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;所述第一响应信息包括:与所述第一响应信息对应的请求信息、响应头信息、以及响应体信息;
从所述第一响应信息中读取第一请求信息、以及第一响应头信息,并在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理;
向所述第二目标对象发送所述目标第一响应体信息,并接收所述第二目标对象基于所述复制指令对所述第一响应体信息进行复制处理后得到的第二响应体信息;
将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储。
2.根据权利要求1所述的方法,其特征在于,所述基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息之前,包括:
在本地注册基于OkHTTP的拦截器。
3.根据权利要求1所述的方法,其特征在于,所述从所述第一响应信息中读取第一请求信息、以及第一响应头信息,包括:
从所述第一响应信息中用于保存所述请求信息的第一字段中,读取与请求字段对应的第一请求信息,并从所述第一响应信息中用于保存所述响应头信息的第二字段中,读取所述第一响应头信息。
4.根据权利要求1所述的方法,其特征在于,所述在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息,包括:
基于所述复制指令,对所述第一响应信息进行封装处理,得到所述目标第一响应体信息。
5.根据权利要求1所述的方法,其特征在于,所述将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储,包括:
按照所述第一响应信息的拦截顺序,为从同一第一响应信息中获取的第一请求信息、第一响应头信息、以及第二响应体信息分配相同的顺序标识;
基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件,并将所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别存储在对应文件中。
6.根据权利要求5所述的方法,其特征在于,所述基于所述顺序标识,创建所述第一请求信息、所述第一响应头信息、以及所述第二响应体信息分别对应的文件,包括:
从所述第一请求信息中解析用于表征第一目标对象身份的第一信息、以及用于表征向所述第一请求信息对应路径的第二信息;
基于所述第一信息、以及所述第二信息,确定所述文件的创建路径;
在所述创建路径下,基于所述顺序标识,创建所述请求信息、响应头信息、以及响应体信息分别对应的文件。
7.根据权利要求1-6任一项所述的方法,其特征在于,还包括:
基于本地注册的拦截器拦截所述第二目标对象发送的第二网络请求;
基于所述第二网络请求,确定是否存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息;
响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
向所述第二目标对象发送所述第二响应信息。
8.根据权利要求7所述的方法,其特征在于,所述响应于存在与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息,包括:
响应于存在一组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,构建第二响应信息;
响应于存在多组与所述第二网络请求中携带的请求信息关联存储的第一响应头信息、以及第二响应体信息,基于与各组第一响应头信息、以及第二响应体信息分别对应的顺序标识,构建与所述顺序标识对应的第二响应信息;
所述向所述第二目标对象发送所述第二响应信息,包括:
按照第二响应信息分别对应的顺序标识指示的顺序,向所述第二目标对象发送所述第二响应信息。
9.根据权利要求1-6任一项所述的方法,其特征在于,还包括:
基于本地注册的拦截器拦截第二目标对象的第三网络请求;
响应于拦截的所述第三网络请求符合预设的拦截条件,对所述第三网络请求进行解析,得到所述第一网络请求中的目标修改条件;
对本地存储位置中存储的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息进行修改;
生成并返回包括修改后的目标请求信息、目标响应头信息、目标响应体信息、以及其他信息的返回数据。
10.一种数据采集装置,其特征在于,包括:
第一拦截模块,用于基于本地注册的拦截器拦截第一目标对象对第一网络请求的第一响应信息;所述第一响应信息包括:与所述第一响应信息对应的请求信息、响应头信息、以及响应体信息;
读取模块,用于从所述第一响应信息中读取第一请求信息、以及第一响应头信息,并在所述第一响应信息中的第一响应体信息中添加复制指令,得到目标第一响应体信息;其中,所述复制指令用于指示用于消费所述第一响应信息的第二目标对象对所述第一响应体信息进行复制处理;
接收模块,用于向所述第二目标对象发送所述目标第一响应体信息,并接收所述第二目标对象基于所述复制指令对所述第一响应体信息进行复制处理后得到的第二响应体信息;
存储模块,用于将所述第一请求信息、所述第一响应头信息、以及所述第二目标对象发送的所述第二响应体信息进行关联存储。
11.一种计算机设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过所述总线通信,所述机器可读指令被所述处理器执行时执行如权利要求1至9任一项所述的数据采集方法的步骤。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求1至9任一项所述的数据采集方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210636695.7A CN115037794B (zh) | 2022-06-07 | 2022-06-07 | 一种数据采集方法、装置、计算机设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210636695.7A CN115037794B (zh) | 2022-06-07 | 2022-06-07 | 一种数据采集方法、装置、计算机设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115037794A CN115037794A (zh) | 2022-09-09 |
CN115037794B true CN115037794B (zh) | 2024-06-14 |
Family
ID=83122805
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210636695.7A Active CN115037794B (zh) | 2022-06-07 | 2022-06-07 | 一种数据采集方法、装置、计算机设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115037794B (zh) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112817857A (zh) * | 2021-02-05 | 2021-05-18 | 深圳市世强元件网络有限公司 | 基于JMeter和JenKins的自动监控网站异常方法及计算机设备 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9141481B1 (en) * | 2010-08-06 | 2015-09-22 | Open Invention Network, Llc | System and method for reliable non-blocking messaging for multi-process application replication |
FR2904710B1 (fr) * | 2006-08-01 | 2008-12-19 | Thales Sa | Procede de lancement d'une application par un raccourci |
US10691659B2 (en) * | 2015-07-01 | 2020-06-23 | Actifio, Inc. | Integrating copy data tokens with source code repositories |
US10437428B2 (en) * | 2017-05-23 | 2019-10-08 | Microsoft Technology Licensing, Llc | Scatter copy supporting partial paste functionality |
EP3679700A1 (en) * | 2017-10-18 | 2020-07-15 | BlackBerry Limited | Detecting remote application profiling |
CN110008197B (zh) * | 2019-04-12 | 2020-07-07 | 苏州浪潮智能科技有限公司 | 一种数据处理方法、系统及电子设备和存储介质 |
CN110727588B (zh) * | 2019-09-29 | 2023-12-12 | 浙江大搜车软件技术有限公司 | 网络应用的测试方法、系统、计算机设备和可读存储介质 |
CN111405035A (zh) * | 2020-03-13 | 2020-07-10 | 北京旷视科技有限公司 | 数据的传输方法及数据通道系统 |
CN113111005A (zh) * | 2021-05-06 | 2021-07-13 | 腾讯科技(深圳)有限公司 | 应用程序测试方法和装置 |
-
2022
- 2022-06-07 CN CN202210636695.7A patent/CN115037794B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112817857A (zh) * | 2021-02-05 | 2021-05-18 | 深圳市世强元件网络有限公司 | 基于JMeter和JenKins的自动监控网站异常方法及计算机设备 |
Also Published As
Publication number | Publication date |
---|---|
CN115037794A (zh) | 2022-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108848092B (zh) | 基于调用链的微服务灰度发布的处理方法及装置 | |
US10027564B2 (en) | Unobtrusive methods and systems for collecting information transmitted over a network | |
EP1576487B1 (en) | Web server hit multiplier and redirector | |
CN111475376B (zh) | 处理测试数据的方法、装置、计算机设备和存储介质 | |
JP2004258911A (ja) | サーバ、情報収集方法及びプログラム | |
CN110365724B (zh) | 任务处理方法、装置及电子设备 | |
CN106603296A (zh) | 日志的处理方法及装置 | |
CN106412975B (zh) | 一种内容计费漏洞的测试方法和装置 | |
CN110519127B (zh) | 网络延时的探测方法、装置和存储介质 | |
CN112732572A (zh) | 服务的测试方法、装置及系统、存储介质、电子装置 | |
CN110413594A (zh) | 一种Redis多实例压力测试方法和装置 | |
US20090259666A1 (en) | Unobtrusive methods and systems for collecting information transmitted over a network | |
CN112615759A (zh) | 全链路压测组件、全链路压测方法及装置 | |
CN113704790A (zh) | 一种异常日志信息汇总方法及计算机设备 | |
CN112671574B (zh) | 前后端联调方法、装置、代理设备及存储介质 | |
CN113885797A (zh) | 一种数据存储方法、装置、设备及存储介质 | |
CN106789446A (zh) | 一种节点对等的集群分布式测试框架和方法 | |
CN113114794A (zh) | 一种基于二次代理处理域名的方法及设备 | |
CN115037794B (zh) | 一种数据采集方法、装置、计算机设备及可读存储介质 | |
CN107239475B (zh) | 一种调用文件方法及装置 | |
CN113282347B (zh) | 插件运行方法、装置、设备及存储介质 | |
CN112162873B (zh) | 一种远程调用方法、电子装置和存储介质 | |
US11729246B2 (en) | Apparatus and method for determining types of uniform resource locator | |
CN113626295A (zh) | 压测数据的处理方法、系统及计算机可读存储介质 | |
CN117632445B (zh) | 请求处理方法以及装置、任务执行方法以及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing. Applicant after: Douyin Vision Co.,Ltd. Address before: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing. Applicant before: Tiktok vision (Beijing) Co.,Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |