CN112650905A - 基于标签的反爬虫方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本申请实施例属于信息安全领域，涉及一种基于标签的反爬虫方法，包括在接收到客户端发送的对目标网页的操作请求时，解析目标网页，获取目标网页的第一标签标识，为目标网页分配第二标签标识，将第一标签标识替换为第二标签标识，使用配置的标签工具生成随机数据，将随机数据添加至第二标签标识中，得到目标网页新的标签标识。本申请还提供一种基于标签的反爬虫装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，第二标签标识可存储于区块链中。本申请实现对目标网页中标签标识的进行更改，改变了爬虫爬取数据的路径，使得爬虫无法使用，使得爬虫得到的数据除出现混乱，有效提高了网站安全性能。

Description

基于标签的反爬虫方法、装置、计算机设备及存储介质

技术领域

本申请涉及信息安全的安全防护技术领域，尤其涉及一种基于标签的反爬虫方法、装置、计算机设备及存储介质。

背景技术

近些年，互联网已经逐步向大数据方向进行转移，在大数据环境下，数据的获取至关重要。在数据获取的方法中，通常采用爬虫技术进行数据抓取。爬虫技术是一种通过网页的链接地址寻找网页，并按照一定的规则，自动获取网页内容的程序。目前的爬虫技术已经很普遍，通过设定的规则，爬虫可以轻易地抓取网页中一些重要信息，例如，内容类网站上提供线上咨询服务的真实有价值的数据，造成网站信息泄漏，降低网站安全性能。

为了在大数据环境下保护自己的网页内容，需要对爬虫进行反爬虫处理。传统的反爬虫技术有封IP、封USERAGENT(用户代理)以及封COOKIES等，但是现有反爬虫技术都是在运维上进行实现的，按照这个反爬虫规则来进行数据抓取只是时间长短的问题，这样数据还是容易被爬虫采集，影响网站安全性能。

发明内容

本申请实施例的目的在于提出一种基于标签的反爬虫方法、装置、计算机设备及存储介质，以解决相关技术中反爬虫技术不能从根本上解决爬虫容易抓取数据，造成网站安全性能降低的问题。

为了解决上述技术问题，本申请实施例提供一种基于标签的反爬虫方法，采用了如下所述的技术方案：

在接收到客户端发送的对目标网页的操作请求时，解析所述目标网页，获取所述目标网页的第一标签标识；

为所述目标网页分配第二标签标识，将所述第一标签标识替换为所述第二标签标识；

使用配置的标签工具生成随机数据，将所述随机数据添加至所述第二标签标识中，得到所述目标网页新的标签标识。

进一步的，所述解析目标网页，获取所述目标网页的第一标签标识的步骤包括：

对所述目标网页进行解析，得到所述目标网页的第一网页标签，并获取第一网页标签标识；

根据所述第一网页标签获得所述目标网页的第一层叠样式标签，并从所述第一层叠样式标签中获得第一层叠样式标签标识。

进一步的，所述对所述目标网页进行解析，得到所述目标网页的第一网页标签，并获取第一网页标签标识的步骤包括：

通过HTML解析器对所述目标网页进行HTML解析，得到所述目标网页HTML结构；

根据所述HTML结构获取所述第一网页标签，并从所述第一网页标签中得到所述目标网页的第一网页标签标识。

进一步的，所述根据所述第一网页标签获得所述目标网页的第一层叠样式标签的步骤包括：

根据所述第一网页标签对所述目标网页的全文进行查询；

根据查询结果获取所述第一层叠样式标签。

进一步的，所述为所述目标网页分配第二标签标识，将所述第一标签标识替换为所述第二标签标识的步骤包括：

为所述目标网页分配第二网页标签标识和第二层叠样式标签标识；

用所述第二网页标签标识替换所述第一网页标签标识，用所述第二层叠样式标签标识替换所述第一层叠样式标签标识。

进一步的，所述将所述随机数据添加至所述第二标签标识中，得到所述目标网页新的标签标识的步骤包括：

将所述随机数据分别添加至所述第二网页标签标识和第二层叠样式标签标识中，得到第三网页标签标识和第三层叠样式标签标识。

进一步的，在所述得到所述目标网页新的标签标识的步骤之后还包括：

将所述目标网页的网页数据放进所述目标网页对应的具有所述新的标签标识的标签中，对所述目标网页进行渲染。

为了解决上述技术问题，本申请实施例还提供一种基于标签的反爬虫装置，采用了如下所述的技术方案：

解析模块，用于在接收到客户端发送的对目标网页的操作请求时，解析所述目标网页，获取所述目标网页的第一标签标识；

分配模块，用于为所述目标网页分配第二标签标识，将所述第一标签标识替换为所述第二标签标识；

添加更新模块，用于使用配置的标签工具生成随机数据，将所述随机数据添加至所述第二标签标识中，得到所述目标网页新的标签标识。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：

该计算机设备包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如上所述的基于标签的反爬虫方法的步骤。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：

所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上所述的基于标签的反爬虫方法的步骤。

与现有技术相比，本申请实施例主要有以下有益效果：

本申请通过在接收到客户端发送的对目标网页的操作请求时，解析目标网页，获取目标网页的第一标签标识，为目标网页分配第二标签标识，将第一标签标识替换为第二标签标识，使用配置的标签工具生成随机数据，将随机数据添加至第二标签标识中，得到目标网页新的标签标识；本申请通过配置的标签工具生成随机数据，并加入到目标网页的标签标识中，可以实现对目标网页中标签标识的进行更改，改变了爬虫爬取数据的路径，使得爬虫无法使用，使得爬虫得到的数据除出现混乱，有效提高了网站安全性能。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2根据本申请的基于标签的反爬虫方法的一个实施例的流程图；

图3是图2中步骤S201的一种具体实施方式的流程图；

图4是根据本申请的基于标签的反爬虫装置的一个实施例的结构示意图；

图5是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

在对本申请实施例进行进一步详细说明之前，对本申请实施例中涉及的名词和术语进行说明，本申请实施例中涉及的名词和术语适用于如下的解释。

1)爬虫(web crawler)，又称网页蜘蛛，网络机器人，是指按照一定的规则，自动地抓取网络信息的程序或者脚本。

2)反爬虫，是指为了避免爬虫自动抓取网络信息而采用的相关技术，如根据IP访问频率、账户登陆权限、验证码、flash封装、js加密等来避免爬虫获取数据的反爬虫技术。

3)HTML(HyperTextMackeup Language，超文本标记语言)，是一种描述性的标记语言，用于描述超文本中内容的显示方式。

4)标签，也称为标记，是一种HTML的网络术语，每一种标签用于规定特定的含义。

5)网页，由各种标记组成的页面。

6)渲染，是指将HTML代码根据CSS定义的规则显示在浏览器窗口的过程。

在相关技术的反爬虫技术都是在运维上进行，这种反爬虫技术对于爬虫抓取数据只是时间长短的问题，为了解决相关技术中反爬虫技术不能从根本上解决爬虫容易抓取数据，造成网站安全性能降低的问题，本申请提供了一种基于标签的反爬虫方法，可以应用于如图1所示的系统架构100中，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的基于标签的反爬虫方法一般由服务器执行，相应地，基于标签的反爬虫装置一般设置于服务器中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的基于标签的反爬虫的方法的一个实施例的流程图，包括以下步骤：

步骤S201，在接收到客户端发送的对目标网页的操作请求时，解析目标网页，获取目标网页的第一标签标识。

在本实施例中，通过后端监听前端网页的操作请求，后端根据接收到的操作请求对网页进行相应操作，该网页即为目标网页。需要说明的是，前端为网站前台部分，运行在PC端、移动端等浏览器上展现给用户浏览的网页；后端为网站后台部分，指网站的数据内容管理部分，通过后端数据管理决定前端用户浏览的内容。

具体地，目标网页为H5，H5是基于HTML5实现的。第一标签包括网页标签和层叠样式标签，第一标签中的内容包括但不限于位置、大小和颜色，第一标签标识可以为第一标签的标签名称，具体为网页标签的标签名称以及层叠样式标签的标签名称。

在本实施例中，基于标签的反爬虫方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式接收客户端发送的操作请求。需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。

在本实施例的一些可选的实现方式中，解析目标网页，获取所述目标网页的第一标签标识的步骤具体如下：

步骤S301，对目标网页进行解析，得到目标网页的第一网页标签，并获取第一网页标签标识。

第一网页标签标识为目标网页的标签名称，解析目标网页可以得到目标网页的网页标签。具体地，通过HTML解析器对目标网页进行HTML解析，得到目标网页HTML结构，根据HTML结构获取所述第一网页标签，并从第一网页标签中得到目标网页的第一网页标签标识。

通过HTML解析器对待测网页数据进行HTML解析，生成DOM树。DOM树是HTML解析器输出的解析树，是由DOM元素及属性结点组成的，它是HTML文档的对象表示，作为HTML元素的外部接口供JS等调用，根据DOM树可以获取目标网页的HTML结构，HTML结构中包含有网页标签。

在本实施例中，网页的标签定义是基于H5基本标签来完成布局的定义，可以是通过<div>标签进行定义，在<div>中定义好了网页的名称、位置、样式等。

通过对网页特征进行解析来获取到网页标签，能够准确地获取到目标网页的网页标签。

步骤S302，根据第一网页标签获得目标网页的第一层叠样式标签，并从第一层叠样式标签中获得第一层叠样式标签标识。

层叠样式标签为层叠样式表的标签，层叠样式标签标识为层叠样式表的标签名称。层叠样式表(Cascading Style Sheets，CSS)是一种用来表现HTML(标准通用标记语言的一个应用)或XML(标准通用标记语言的一个子集)等文件样式的计算机语言。CSS不仅可以静态地修饰网页，还可以配合各种脚本语言动态地对网页各元素进行格式化。

CSS引入网页有如下三种方式：

1、内联式：通过标签的style属性，在标签上直接写样式，比如，<divstyle＝"width:100px；height:100px；background:red">......</div>；

2、嵌入式：通过style标签，在网页上创建嵌入的样式表，比如，<styletype＝"text/css">

div{width:100px；height:100px；background:red}

......

</style>

3、外链式：通过link标签，链接外部样式文件到页面中，比如，

<linkrel＝"stylesheet"type＝"text/css"href＝"css/main.css">

在本实施例中，网页是由各种标签组成的页面，CSS又是网页样式，CSS标签与网页标签是对应的，根据第一网页标签对目标网页的全文进行查询，根据查询结果获取第一层叠样式标签。具体地，可以通过<div>定义CSS中标签的名称name、唯一标识ID和类名class，采用的标签结构为<div class＝‘name’>的标签格式。

本实施例通过根据网页标签来获取层叠样式标签，可以提高获取层叠样式标签标识的效率和准确度。

步骤S202，为目标网页分配第二标签标识，将第一标签标识替换为第二标签标识。

监听到用户对目标网页的操作，比如刷新等，后端会为目标网页随机分配一个新的标签标识，替换初始标签标识。需要说明的是，标签标识是自定义的，可以预先设置好格式，根据监听结果按照预设格式进行随机生成分配。

在本实施例中，第二标签标识包括第二网页标签标识和第二层叠样式标签标识，具体地，为目标网页分配第二网页标签标识和第二层叠样式标签标识，用第二网页标签标识替换第一网页标签标识，用第二层叠样式标签标识替换第一层叠样式标签标识。

应当理解，爬虫在爬取数据时，会对网页进行动作，接收到对网页的动作后，为网页随机分配第二网页标签标识和第二层叠样式标签标识，替换下原来的第一网页标签标识和第一层叠样式标签标识。

爬虫工具在进行数据爬取时，是将网页的标签作为路径进行爬取，通过这种方式，由于层叠样式表的标签名称和网页的标签名称已经进行修改，即爬虫抓取数据的路径已经改变，原先的爬虫便无法使用。

需要强调的是，为进一步保证上述第二标签标识的私密和安全性，第二标签标识还可以存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

步骤S203，使用配置的标签工具生成随机数据，将随机数据添加至第二标签标识中，得到目标网页新的标签标识。

在本实施例中，第二标签标识包括第二网页标签标识和第二层叠样式标签标识，第二网页标签标识是为目标网页随机分配的网页标签名称，第二层叠样式标签标识是为目标网页随机分配的层叠样式表的标签名称。具体地，在为目标网页和层叠样式表随机分配标签名称后，标签工具会随机生成随机数据，并将随机数据加入随机分配的标签名称中，得到了新的标签名称。标签工具作为一个服务于线上网站的前端网页和层叠样式，可以不断更新随机数据，更有利于反爬虫。

在本实施例的一些可选的实现方式中，将随机数据添加至第二标签标识中，得到目标网页新的标签标识的步骤具体如下：

将随机数据分别添加至第二网页标签标识和第二层叠样式标签标识中，得到第三网页标签标识和第三层叠样式标签标识。

新的标签标识包括第三网页标签标识和第三层叠样式标签标识，具体地，随机数据为随机值，标签工具会不定时更新随机值，网页标签和层叠样式标签是对应的，将随机值分别加入到目标网页的网页标签名称和层叠样式标签名称中。

本实施例中通过用随机分配的第二网页标签标识和第二层叠样式标签标识替换第一网页标签标识和第一层叠样式标签标识，又分别在第二网页标签标识和第二层叠样式标签标识中加入随机值，对爬虫抓取数据的路径进行双重修改，进一步提高了网站的安全性能；同时，对目标网页的网页标签标识和层叠样式标签标识进行更新修改，这样并不会破坏目标网页的内容和样式，在保证目标网页样式的基础上实现反爬虫。

在本实施例的一种具体实现方式中，爬虫抓取数据时会刷新数据，通过前端对网页进行监听，监听到对网页的刷新操作，将监听结果传送给后端进行网页刷新。具体地，解析网页，获取网页中的网页标签名称，然后根据网页标签名称进行全文搜索整个网页的层叠样式，找到层叠样式中的层叠样式标签名称，同时为层叠样式标签名称和网页标签名称重新进行随机分配，由标签工具生成随机值，并将随机值分别添加至网页标签名称中和层叠样式标签名称中，得到新的层叠样式标签名称和网页标签名称。

本申请通过在接收到客户端发送的对目标网页的操作请求时，解析目标网页，获取目标网页的第一标签标识，为目标网页分配第二标签标识，将第一标签标识替换为第二标签标识，使用配置的标签工具生成随机数据，将随机数据添加至第二标签标识中，得到目标网页新的标签标识；本申请通过配置的标签工具生成随机数据，并加入到目标网页的标签标识中，可以实现对目标网页中标签标识的进行更改，改变了爬虫爬取数据的路径，使得爬虫无法使用，使得爬虫得到的数据除出现混乱，有效提高了网站安全性能。

在本实施例的一些可选的实现方式中，在步骤203之后，还包括以下步骤：

将目标网页的网页数据放进目标网页的对应的具有新的标签标识的标签中，并对目标网页进行渲染。

在本实施例中，在对目标网页进行解析可以获得目标网页的HTML结构，根据HTML结构中的标签可以提取到网页数据，网页数据放进目标网页对应的更改标签标识的标签中，对目标网页进行渲染，展示给用户。通过这种方式可以有效保护网页数据，同时确保网页数据的正常展示。

本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图4，作为对上述图2所示方法的实现，本申请提供了一种基于标签的反爬虫装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图4所示，本实施例所述的基于标签的反爬虫装置400包括：解析模块401、分配模块402以及计算模块403。其中：

解析模块401用于在接收到客户端发送的对目标网页的操作请求时，解析所述目标网页，获取所述目标网页的第一标签标识；

分配模块402用于为所述目标网页分配第二标签标识，将所述第一标签标识替换为所述第二标签标识；

添加更新模块403用于使用配置的标签工具生成随机数据，将所述随机数据添加至所述第二标签标识中，得到所述目标网页新的标签标识。

需要强调的是，为进一步保证上述第二标签标识的私密和安全性，第二标签标识还可以存储于一区块链的节点中。

上述的基于标签的反爬虫装置，通过配置的标签工具生成随机数据，并加入到目标网页的标签标识中，可以实现对目标网页中标签标识的进行更改，改变了爬虫爬取数据的路径，使得爬虫无法使用，使得爬虫得到的数据除出现混乱，有效提高了网站安全性能。

在本实施例中，解析模块401包括解析子模块和获取子模块，解析子模块用于对所述目标网页进行解析，得到所述目标网页的第一网页标签；获取子模块用于获取第一网页标签标识，以及用于根据所述第一网页标签获得所述目标网页的第一层叠样式标签，并从所述第一层叠样式标签中获得第一层叠样式标签标识。

本实施例通过根据网页标签来获取层叠样式标签，可以提高获取层叠样式标签标识的效率和准确度。

在本实施例中，解析子模块进一步用于通过HTML解析器对所述目标网页进行HTML解析，得到所述目标网页HTML结构；获取子模块进一步用于根据所述HTML结构获取所述第一网页标签，并从所述第一网页标签中得到所述目标网页的第一网页标签标识。

本实施例通过对网页特征进行解析来获取到网页标签，能够准确地获取到目标网页的网页标签。

在本实施例中，获取子模块进一步包括查询单元和获取单元，查询单元用于根据所述第一网页标签对所述目标网页的全文进行查询；获取单元用于根据查询结果获取所述第一层叠样式标签。

在本实施例的一些可选的实现方式中，分配模块402包括分配子模块和替换子模块，分配子模块用于为所述目标网页分配第二网页标签标识和第二层叠样式标签标识；替换子模块用于用所述第二网页标签标识替换所述第一网页标签标识，用所述第二层叠样式标签标识替换所述第一层叠样式标签标识。

通过这种方式，由于层叠样式表的标签名称和网页的标签名称已经进行修改，即爬虫抓取数据的路径已经改变，原先的爬虫便无法使用。

在本实施例的一些可选的实现方式中，添加更新模块403进一步用于将所述随机数据分别添加至所述第二网页标签标识和第二层叠样式标签标识中，得到第三网页标签标识和第三层叠样式标签标识。

本实施例中通过用随机分配的第二网页标签标识和第二层叠样式标签标识替换第一网页标签标识和第一层叠样式标签标识，又分别在第二网页标签标识和第二层叠样式标签标识中加入随机值，对爬虫抓取数据的路径进行双重修改，进一步提高了网站的安全性能。

在本实施例的一些可选的实现方式中，基于标签的反爬虫装置400还包括渲染模块，渲染模块用于将所述目标网页的网页数据放进所述目标网页对应的具有新的标签标识的标签中，并对所述目标网页进行渲染；通过这种方式可以有效保护网页数据，同时确保网页数据的正常展示。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图5，图5为本实施例计算机设备基本结构框图。

所述计算机设备5包括通过系统总线相互通信连接存储器51、处理器52、网络接口53。需要指出的是，图中仅示出了具有组件51-53的计算机设备5，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器51至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器51可以是所述计算机设备5的内部存储单元，例如该计算机设备5的硬盘或内存。在另一些实施例中，所述存储器51也可以是所述计算机设备5的外部存储设备，例如该计算机设备5上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器51还可以既包括所述计算机设备5的内部存储单元也包括其外部存储设备。本实施例中，所述存储器51通常用于存储安装于所述计算机设备5的操作系统和各类应用软件，例如基于标签的反爬虫方法的计算机可读指令等。此外，所述存储器51还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器52在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器52通常用于控制所述计算机设备5的总体操作。本实施例中，所述处理器52用于运行所述存储器51中存储的计算机可读指令或者处理数据，例如运行所述基于标签的反爬虫方法的计算机可读指令。

所述网络接口53可包括无线网络接口或有线网络接口，该网络接口53通常用于在所述计算机设备5与其他电子设备之间建立通信连接。

本实施例通过处理器执行存储在存储器的计算机可读指令时实现如上述实施例基于标签的反爬虫的步骤，过配置的标签工具生成随机数据，并加入到目标网页的标签标识中，可以实现对目标网页中标签标识的进行更改，改变了爬虫爬取数据的路径，使得爬虫无法使用，使得爬虫得到的数据除出现混乱，有效提高了网站安全性能。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的基于标签的反爬虫方法的步骤，过配置的标签工具生成随机数据，并加入到目标网页的标签标识中，可以实现对目标网页中标签标识的进行更改，改变了爬虫爬取数据的路径，使得爬虫无法使用，使得爬虫得到的数据除出现混乱，有效提高了网站安全性能。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种基于标签的反爬虫方法，其特征在于，包括下述步骤：

在接收到客户端发送的对目标网页的操作请求时，解析所述目标网页，获取所述目标网页的第一标签标识；

为所述目标网页分配第二标签标识，将所述第一标签标识替换为所述第二标签标识；

使用配置的标签工具生成随机数据，将所述随机数据添加至所述第二标签标识中，得到所述目标网页新的标签标识。

2.根据权利要求1所述的基于标签的反爬虫方法，其特征在于，所述解析目标网页，获取所述目标网页的第一标签标识的步骤包括：

对所述目标网页进行解析，得到所述目标网页的第一网页标签，并获取第一网页标签标识；

根据所述第一网页标签获得所述目标网页的第一层叠样式标签，并从所述第一层叠样式标签中获得第一层叠样式标签标识。

3.根据权利要求2所述的基于标签的反爬虫方法，其特征在于，所述对所述目标网页进行解析，得到所述目标网页的第一网页标签，并获取第一网页标签标识的步骤包括：

通过HTML解析器对所述目标网页进行HTML解析，得到所述目标网页HTML结构；

根据所述HTML结构获取所述第一网页标签，并从所述第一网页标签中得到所述目标网页的第一网页标签标识。

4.根据权利要求3所述的基于标签的反爬虫方法，其特征在于，所述根据所述第一网页标签获得所述目标网页的第一层叠样式标签的步骤包括：

根据所述第一网页标签对所述目标网页的全文进行查询；

根据查询结果获取所述第一层叠样式标签。

5.根据权利要求2至4任一项所述的基于标签的反爬虫方法，其特征在于，所述为所述目标网页分配第二标签标识，将所述第一标签标识替换为所述第二标签标识的步骤包括：

为所述目标网页分配第二网页标签标识和第二层叠样式标签标识；

用所述第二网页标签标识替换所述第一网页标签标识，用所述第二层叠样式标签标识替换所述第一层叠样式标签标识。

6.根据权利要求5所述的基于标签的反爬虫方法，其特征在于，所述将所述随机数据添加至所述第二标签标识中，得到所述目标网页新的标签标识的步骤包括：

将所述随机数据分别添加至所述第二网页标签标识和第二层叠样式标签标识中，得到第三网页标签标识和第三层叠样式标签标识。

7.根据权利要求6所述的基于标签的反爬虫方法，其特征在于，在所述得到所述目标网页新的标签标识的步骤之后还包括：

将所述目标网页的网页数据放进所述目标网页对应的具有所述新的标签标识的标签中，并对所述目标网页进行渲染。

8.一种基于标签的反爬虫装置，其特征在于，包括：

解析模块，用于在接收到客户端发送的对目标网页的操作请求时，解析所述目标网页，获取所述目标网页的第一标签标识；

分配模块，用于为所述目标网页分配第二标签标识，将所述第一标签标识替换为所述第二标签标识；

添加更新模块，用于使用配置的标签工具生成随机数据，将所述随机数据添加至所述第二标签标识中，得到新的所述目标网页的标签标识。

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的基于标签的反爬虫方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于标签的反爬虫方法的步骤。

Images