CN108664511B - 获取网页信息方法和装置 - Google Patents

Abstract

本申请公开了获取网页信息的方法和装置。该方法的一具体实施方式包括：获取网页集合，其中，上述网页集合中的网页的网页布局相同；对上述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；从上述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串；对于上述去噪网页集合中的每个去噪网页，基于上述网页关键字符串提取该去噪网页的信息；该实施方式提高了获取网页信息的效率。

Description

获取网页信息方法和装置

技术领域

本申请涉及计算机技术领域，具体涉及互联网技术领域，尤其涉及获取网页信息方法和装置。

背景技术

在大数据时代，数据至关重要，数据的获取犹为重要，于是海量数据抓取系统孕育而生。数据抓取系统的核心，是对网页的解析，互联网上的网页成千上万，如果每个网站都要由技术人员写一套解析的规则，会消耗大量的人力物力。在相关技术中，技术人员必须针对不同的网站，编写不同的解析表达式，导致获取网页信息效率较低。

发明内容

本申请实施例的目的在于提出一种获取网页信息方法和装置，来解决以上背景技术部分提到的技术问题。

第一方面，本申请实施例提供了一种获取网页信息方法，获取网页集合，其中，上述网页集合中的网页的网页布局相同；对上述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；从上述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串；对于上述去噪网页集合中的每个去噪网页，基于上述网页关键字符串提取该去噪网页的信息。

在一些实施例中，对所述网页集合中的各个网页进行去噪处理之前，将获取上述网页集合中的各个网页的网页源码；对上述网页集合中的每个网页，基于该网页的网页源码中的标签生成该网页的结构树。

在一些实施例中，上述网页关键字符串在所述目标网页对的每个网页中是唯一存在的字符串。

在一些实施例中，对上述网页集合中的每个网页进行去噪处理，包括：根据正则表达式对上述网页集合中的每个网页进行去噪处理。

在一些实施例中，上述编辑距离用于表示两个字符串之间、由一个字符串转成另一个字符串所需的最少编辑操作次数。

第二方面，本申请实施例提供了一种获取网页信息装置，该装置包括：获取单元，配置用于获取网页集合，其中，上述网页集合中的网页的网页布局相同；处理单元，配置用于对上述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；选择单元，配置用于从上述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；提取单元，配置用于基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串；生成单元，配置用于对于上述去噪网页集合中的每个去噪网页，基于上述网页关键字符串提取该去噪网页的信息。

在一些实施例中，该装置还包括：解析单元：配置用于获取上述网页集合中的各个网页的网页源码；第一生成单元，配置用于根据上述页面源码生成上述网页的结构树，其中，上述网页的结构树中包含多个标签。

在一些实施例中，网页关键字符串在上述目标网页对的每个网页中是唯一存在的字符串。

在一些实施例中，去噪模块，配置用于根据正则表达式对所述网页集合中的每个网页进行去噪处理。

在一些实施例中，编辑距离用于表示两个字串之间、由一个字符串转成另一个字符串所需的最少编辑操作次数。

本申请实施例提供的获取网页信息的方法和装置，该网页集合中的网页的网页布局相同；对上述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；从上述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串；对于上述去噪网页集合中的每个去噪网页，基于上述网页关键字符串提取该去噪网页的信息。从而提高了获取网页信息的效率。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请可以应用于其中的示例性系统架构图；

图2是根据本申请的获取网页信息方法的一个实施例的流程图；

图3是根据本申请的获取网页信息方法的一个应用场景的示意图；

图4是根据本申请的获取网页信息方法的又一个实施例的流程图；

图5是根据本申请的获取网页信息装置的一个实施例的结构示意图；

图6是适于用来实现本申请实施例的服务器的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的获取网页信息的方法或获取网页信息的装置的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的网页提供获取网页信息的网页处理服务器。网页处理服务器可以对获取到的网页数据进行去噪处理，提取网页集合中每个网页的网页信息。

需要说明的是，本申请实施例所提供的获取网页信息的方法一般由服务器105执行，相应地，获取网页信息的装置一般设置于服务器105中。在一些情况下，服务器105也可以对本地预存的网页集合进行网页信息的提取，这时，上述系统架构100也可以不具有所显示的终端设备101、102、103。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，其示出了根据本申请的获取网页信息方法的一个实施例的流程200。该获取网页信息方法，包括以下步骤：

步骤201，获取网页集合。

在本实施例中，获取网页信息方法运行于其上的电子设备(例如图1所示的服务器105)可以通过有线连接方式或者无线连接方式从用户利用其进行网页浏览的终端获取网页集合，其中，上述网页集合中的网页的网页布局相同。实践中，网页布局一般是指网页结构，网页结构是对导航栏、栏目、及正文内容这三大页面基本组成元素在网页上的位置布局。

作为示例，用户浏览的网站的某一个具体分类下的网页，一般是网页布局相同的网页。用户浏览的网站具有相同的网段的网页一般也是网页布局相同的网页，例如：网页集合中的网页可以是通过网页抓取工具抓取网页，再利用URL(Uniform Resource Locator，统一资源定位符)对抓取到的网页分组得到的具有相似或相近特征的网页。而上述网页抓取工具可以是网路爬虫等，上述利用URL进行分组可以是将具有相同的网段的网页组成网页集合。如在网址含有“a.com”的网站的多个网页里，选取网址含有“a.com/b*”的网页组成网页集合。在本实施例中，上述网页可以包括html格式、xhtml格式、asp格式、php格式、jsp格式、shtml格式、nsp格式、xml格式的网页或者其它未来将开发的格式的网页(只要这种格式的网页文件可以用浏览器打开并浏览其包含的图片、动画、文字等内容)。

步骤202，对上述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合。

在本实施例中，上述电子设备(例如图1所示的服务器105)也可以对上述步骤201获取的网页集合中各个具有网页源码的网页进行去噪处理，获得去噪后的网页，将去噪后的网页生成去噪后的网页的网页集合。

在本实施例的一些可选的实现方式中，根据正则表达式对所述网页集合中的每个网页进行去噪处理。上述电子设备也可以利用正则表达式删除网页集合中各个网页的网页源码中的一些标签。例如，直译式脚本语言JavaScript的标签和CSS(Cascading StyleSheets，层叠样式表)语言的标签及标签内的数据。实践中，开发者在编写HTML(Hyper TextMark-up Language，超文本标记语言)源码的时候并不一定严格按照XHTML(可扩展超文本标记语言)的规范去编写，去噪处理也可以是将不遵循W3C规范化的HTML网页转换成严格按照W3C规范的XHTML网页。在该去噪处理步骤完成后，去噪处理后的HTML网页满足以下特点：(1)严格遵循XHTML规范；(2)标签是闭合标签。作为示例，HTML源码中的标签可以包括但不限于：用于插入CSS语言的标签、用于嵌入图片的标签、用于定义超链接的标签、用于定义内部样式的标签、用于定义行内框架的标签。

在本实施例的一些可选的实现方式中，上述电子设备在执行步骤202之前，可以基于上述步骤201获取的网页集合，获取该网页集合中的各个网页的网页源码；对于该网页集合中的每个网页，基于该网页的网页源码中的标签生成该网页的结构树。具体地，可以首先对该网页集合中各个网页进行解析，解析出网页的编码，例如，可以解析出网页的HTML编码。上述网页的编码由多个编码标签嵌套而成，由上述树的每个编码标签生成网页树形结构的结构树。作为示例，可以将上述网页集合中的一个网页解析为HTML编码，或DOM(Document Object Model，文档对象模型)编码，以HTML编码、或DOM编码的编码标签生成该网页的结构树。

步骤203，从去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对。

在本实施例中，上述电子设备可以对基于步骤202去噪处理后的网页的网页源码进行编辑距离(Edit Distance，又称Levenshtein距离)的计算，通过编辑距离的计算，确定每个网页对的编辑距离的数值，将上述编辑距离的数值按照从大到小的顺序进行排序，选择编辑距离最大的网页对作为目标网页对。

在本实施例的一些可选的实现方式中，编辑距离是两个字串之间，由一个字符串转成另一个字符串所需的最少编辑操作次数。具体的，设A和B是两个字符串。将字符串A转换为字符串B所用的最少字符操作数称为字符串A到字符串B的编辑距离。这里所说的字符操作包括：删除一个字符、插入一个字符和修改一个字符。作为示例，以计算字符串“GGATCGA”和字符串“GAATTCAGTTA”的编辑距离来进行说明。字符串“GGATCGA”和字符串“GAATTCAGTTA”在结构上非常的相似，通过添加“-”字符，可以让字符串“GGATCGA”变为字符串“GGA-TC-G--A”。通过计算就确定了从字符串“GGATCGA”转换为字符串“GAATTCAGTTA”应用的最少字符操作次数(4次)，我们就将得到的操作次数称之为字符串“GGATCGA”和字符串“GAATTCAGTTA”的编辑距离。

在本实施例中，可选地，上述电子设备可以基于步骤202去噪处理后的网页的网页集合中选择网页对，提取上述网页对中相同的标签内的字符串对，首先确定上述相同标签内的字符串对的两个字符串长度是否相同；若长度不同，将该长度相同的两个字符串进行对齐；若长度不同，将上述字符串对中的两个字符串补全为长度相同的两个字符串，并对该长度相同的两个字符串进行对齐；当获得对齐的两个字符串后，计算该标签内的每个字符串对的编辑距离，确定各个网页对的编辑距离的数值；并将获得的编辑距离的数值按照从大到小的顺序进行排序，通过排序确定编辑距离的数值最大的网页对，并作为目标网页对。

步骤204，基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串。

在本实施例中，基于步骤203选择的编辑距离最大的网页对作为目标网页对，上述电子设备可以首先提取目标网页对中网页的结构树中相同的标签内的多个字符串对，而后，将各个字符串对进行比对分析，最后，确定相同的标签内对应位置相同、字符也相同的字符串为网页的关键字符串。作为示例，网页A和网页B是目标网页对，网页A和网页B是去噪后的网页，提取相同的标签内的字符串对，将相同标签内的多个字符串对进行比较分析，得到字符串“abcd”是相同的字符串，确定网页A和网页B的关键字符串为字符串“abcd”。

在本实施例的一些可选的实现方式中，网页关键字符串在该目标网页对的每个网页中是唯一存在的。网页关键字符串在网页中具有提示性作用，关键字符串所指示的数据一般是有价值的数据，实践中，有价值的数据的含义由提示性语句确定的，网页的信息即有价值的数据，并且是与其它网页不同的字符串。作为示例，关于手机参数介绍的网页1和网页2，网页1和网页2的网页布局相同，确定两个网页中的关键字符串：网页1中“品牌”：“abcd”，网页2中“品牌”：“efgh”，品牌称为关键字符串，在网页中具有提示性作用，并且在网页1中是唯一存在的字符串，在网页2中也是唯一存在的字符串。

步骤205，对于去噪网页集合中的每个去噪网页，基于上述网页关键字符串提取该去噪网页的信息。

在本实施例中，基于步骤204确定的目标网页对中的关键字符串，上述电子设备可以首先利用确定的关键字符串，提取去噪网页集合中的每个去噪网页中包含上述关键字符串的字符串或者是与上述关键字符串相似度达到一定预设阈值(例如95％)的字符串。之后获取提取的字符串所指示的字符串作为去噪网页的信息。

可以确定关键字符串所在的标签，在关键字符串所在的标签内，该关键字符串所指示的字符串就是网页的网页信息。

举例来说，网页a中有“古典音乐-献给爱丽丝”，网页b中有“古典音乐-欢乐颂”，这两个网页中的“古典音乐”为关键字符串，“献给爱丽丝”和“欢乐颂”是这两个关键字符串所指示的字符串，也即“献给爱丽丝”和“欢乐颂”是网页a和网页b的信息。

继续参见图3，图3是根据本实施例的获取网页信息的方法的应用场景的一个示意图300。在图3的应用场景中，移动设备301与服务器303相连接，且上述移动设备301安装有网页浏览器。首先，服务器303获取一组网页布局相同的包括网页1、网页2、网页3、网页4的网页集合302，解析网页1、网页2、网页3、网页4，获得这四个网页的页面源码，进行去噪处理。之后服务器303选择上述网页集合302中编辑距离最大的两个网页：网页1和网页3，将这两个网页作为目标网页对，提取该目标页面对中的关键字符串“古典音乐”，应用304中获得的关键字符串去提取网页集合302中网页的网页的信息“献给爱丽丝”、“欢乐颂”、“月光奏鸣曲”和“小步舞曲”。

本申请的上述实施例提供的方法通过获取网页集合，对该网页集合中的每个网页进行去噪处理，而后，从该去噪后的网页生成的网页集合中选择网页对进行编辑距离的计算，确定编辑距离的数值最大的网页对作为目标网页对；从目标网页对中提取相同的字符串作为网页关键字符串；最后，基于网页关键字符串提取上述去噪后网页的网页信息。从而提高了获取网页信息的效率。

进一步参考图4，其示出了获取网页信息方法的又一个实施例的流程400。该获取网页信息方法的流程400，包括以下步骤：

步骤401，获取网页集合。

在本实施例中，获取网页信息方法运行于其上的电子设备(例如图1所示的服务器105)可以通过有线连接方式或者无线连接方式从用于用户进行网页浏览的终端获取网页集合，其中，上述网页集合中的网页的网页布局相同。实践中，网页布局一般是指网页结构，网页结构是对导航栏、栏目、及正文内容这三大页面基本组成元素在网页上的位置布局。

步骤402，解析网页集合中各个网页。

在本实施例中，基于步骤401获得的网页集合，上述电子设备将该网页集合中各个网页解析出该网页的页面源码；根据该页面源码生成该网页的结构树，其中，该网页的结构树中包含多个标签。在这里，可以首先将该网页集合中各个网页进行解析，解析出网页的代码或编码，例如，可以解析出网页的HTML编码。上述网页的编码由多个编码标签嵌套而成，由上述每个编码标签生成网页树形结构的结构树。

步骤403，对解析后的网页进行去噪处理。

在本实施例中，用于获取网页信息的方法运行于其上的电子设备(例如图1所示的服务器105)对步骤402解析后的网页的网页集合中的每个网页的源码进行去噪处理，利用正则表达式删除一些无价值的标签。

步骤404，对网页集合中各个网页对进行编辑距离的计算。

在本实施例中，上述电子设备可以提取对步骤403去噪网页集合中网页对中相同标签内的字符串对，确定相同标签内的字符串对的两个字符串长度是否相同；若长度不同，将该长度相同的两个字符串进行对齐；若长度不同，将上述字符串对中的两个字符串补全为长度相同的两个字符串，并对该长度相同的两个字符串进行对齐；当获得对齐的两个字符串后，计算该标签内的每个字符串对的编辑距离，确定各个网页对的编辑距离的数值；而后对各个字符串对的编辑距离求和，计算得到各个网页对的编辑距离。

步骤405，从网页集合中选择编辑距离的数值最大的网页对作为目标网页对。

在本实施例中，上述电子设备可以基于步骤404获得网页集合中各个网页对的编辑距离的数值，按照从大到小的顺序进行排序，选择编辑距离的数值最大的网页对作为目标网页对。

步骤406，提取目标网页对的关键字符串。

在本实施例中，上述电子设备可以基于步骤405选择的目标网页对，对上述目标网页对中网页的源码进行比较，提取该目标网页对中相同的字符串作为网页关键字符串。具体地，对目标网页对中选择相同标签内的两个字符串进行比对分析，确定相同标签内的相同的字符串为网页的关键字符串。

在本实施例的一些可选的实现方式中，网页关键字符串在该目标网页对的每个网页中是唯一存在的。网页关键字符串在网页中具有提示性作用，关键字符串所指示的数据一般是有价值的数据即网页的信息，是与其它网页不同的字符串。

步骤407，基于关键字符串提取网页集合中网页的信息。

在本实施例中，基于步骤406确定的目标网页对中的关键字符串，上述电子设备可以首先利用确定的网页关键字符串，提取去噪网页集合中的每个去噪网页中包含上述关键字符串的字符串或者是与上述关键字符串相似度达到一定预设阈值(例如95％)的字符串。之后获取提取的字符串所指示的字符串作为去噪网页的信息。

可选地，确定关键字符串所在的标签，在关键字符串所在的标签内，该关键字符串所对应的字符串是网页的信息。上述电子设备可以利用关键字符串提取上述去噪后的网页的信息，其中，网页的信息是与该网页关键字符串相对应的字符串。具体地，首先利用确定的网页关键字符串，确定关键字符串所在的标签，在关键字符串所在的标签内，与该关键字符串所指示的字符串就是网页的信息，并且该网页的信息与网页集合中的其它网页中的字符串不同。

从图4中可以看出，与图2对应的实施例相比，本实施例中的获取网页信息方法的流程400突出了对网页集合中网页的解析处理、网页集合中网页对的编辑距离的计算的步骤。由此，本实施例描述的方案可以实现在网页布局相同的网页集合中，通过提取目标网页对中的关键字符串，利用关键字符串提取网页集合中各个网页的信息，进一步提高了获取网页信息的效率。

进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种获取网页信息的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例上述获取网页信息的装置500可以包括：获取单元，配置用于获取网页集合，其中，上述网页集合中的网页的网页布局相同；处理单元，配置用于对上述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；选择单元，配置用于从上述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；提取单元，配置用于基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串；生成单元，配置用于对于上述去噪网页集合中的每一个去噪网页，基于上述网页关键字符串提取该去噪网页的信息。

在本实施例中，上述获取网页信息的装置500的获取单元501可以获取网页集合，其中，上述网页集合中的网页的网页布局相同。通常，可以通过有线连接方式或者无线连接方式从用户利用其进行网页浏览的终端获取网页集合，其中，上述网页集合中的网页的网页布局相同。

在本实施例的一些可选的实现方式中，上述获取网页信息的装置500还包括解析单元(未示出)配置用于将上述网页集合中各个网页解析出所述网页的页面源码；第一生成单元(未示出)，配置用于根据上述页面源码生成上述网页的结构树，其中，上述网页的结构树中包含多个标签。实践中，将该网页集合中各个网页进行解析，解析出网页的代码或编码，例如，可以解析出网页的HTML编码。上述网页的编码由多个编码标签嵌套而成，由上述树的每个编码标签生成网页树形结构的结构树。作为示例，可以将上述网页集合中的一个网页解析为HTML编码，或DOM编码，以HTML编码、或DOM编码的编码标签生成该网页的结构树。

在本实施例中，上述处理单元502可以将接收到的网页集合中的各个网页进行去噪处理，获得包含网页源码的去噪后的网页，并生成上述去噪网页集合。

在本实施例的一些可选的实现方式中，上述处理单元502还包括去噪模块(未示出)，配置用于根据正则表达式对上述网页集合中的每个网页进行去噪处理。

在本实施例中，上述选择单元503，配置用于从上述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的。

在本实施例的一些可选的实现方式中，上述编辑距离是两个字串之间，由一个字符串转成另一个字符串所需的最少编辑操作次数；从去噪网页集合中选择网页对，提取上述网页对中相同的标签内的字符串对，首先确定上述相同的标签内的字符串对的两个字符串长度是否相同；若长度不同，将该长度相同的两个字符串进行对齐；若长度不同，将上述字符串对中的两个字符串补全为长度相同的两个字符串，并对该长度相同的两个字符串进行对齐；当获得对齐的两个字符串后，计算该标签内的每个字符串对的编辑距离，确定各个网页对的编辑距离的数值；并将获得的编辑距离的数值按照从大到小的顺序进行排序，通过排序确定编辑距离的数值最大的网页对，并作为目标网页对。

在本实施例中，上述提取单元504，配置用于基于目标网页对中的网页源码，提取目标网页对中相同的字符串作为网页关键字符串。具体地，对目标网页对中选择相同的标签，对相同的标签内的两个字符串进行比对分析，确定相同标签内的相同字符串为网页的关键字符串。

在本实施例的一些可选的实现方式中，网页关键字符串在上述目标网页对的每个网页中是唯一存在的字符串。

在本实施例中，上述生成单元505，配置用于基于上述网页关键字符串提取所述去噪后的网页的信息。具体地，首先利用确定的网页关键字符串，提取待提取网页信息的网页的关键字符串在网页中的位置，确定关键字符串所在的标签内，与该关键字符串所对应的字符串就是网页的信息，并且该网页的信息是与网页集合中的其它网页不相同的字符串。

本申请的上述实施例提供的装置，通过获取单元获取网页集合，利用处理单元对上述网页集合中的每个网页进行去噪处理，生成包含网页源码的去噪后的网页；而后，利用选择单元从上述去噪网页集合中选择网页对进行编辑距离的计算，选择编辑距离的数值最大的网页对作为目标网页对；最后，利用提取单元基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串；最终，利用生成单元对于上述去噪网页集合中的每个去噪网页，基于上述网页关键字符串提取该去噪网页的信息，从而提高了获取网页信息的效率。

下面参考图6，其示出了适于用来实现本申请实施例的终端设备的计算机系统600的结构示意图。图6示出的终端设备/服务器仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM603中，还存储有系统600操作所需的各种程序和数据。CPU601、ROM602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括触摸屏、触摸板等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部608。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、处理单元、选择单元、提取单元和生成单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取网页集合的单元”。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的装置中所包含的；也可以是单独存在，而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该装置执行时，使得该装置：获取网页集合，其中，上述网页集合中的网页的网页布局相同；对上述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；从上述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；基于上述目标网页对中的网页源码，提取上述目标网页对中相同的字符串作为网页关键字符串；对于上述去噪网页集合中的每个去噪网页，基于上述网页关键字符串提取该去噪网页的信息。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种获取网页信息方法，其特征在于，所述方法包括：

获取网页集合，其中，所述网页集合中的网页的网页布局相同；

对所述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；

从所述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；

基于所述目标网页对中的网页源码，提取所述目标网页对中相同的字符串作为网页关键字符串；

对于所述去噪网页集合中的每个去噪网页，基于所述网页关键字符串提取该去噪网页的信息。

2.根据权利要求1所述的获取网页信息方法，其特征在于，所述对所述网页集合中的各个网页进行去噪处理之前，所述方法还包括：

获取所述网页集合中的各个网页的网页源码；

对于所述网页集合中的每个网页，基于该网页的网页源码中的标签生成该网页的结构树。

3.根据权利要求1所述的获取网页信息方法，其特征在于，所述网页关键字符串在所述目标网页对的每个网页中是唯一存在的字符串。

4.根据权利要求1所述的获取网页信息方法，其特征在于，所述对所述网页集合中的每个网页进行去噪处理，包括：

根据正则表达式对所述网页集合中的每个网页进行去噪处理。

5.根据权利要求1-4之一所述的获取网页信息方法，其特征在于，

所述编辑距离用于表示两个字串之间、由一个字符串转成另一个字符串所需的最少编辑操作次数。

6.一种获取网页信息装置，其特征在于，所述装置包括：

获取单元，配置用于获取网页集合，其中，所述网页集合中的网页的网页布局相同；

处理单元，配置用于对所述网页集合中的每个网页进行去噪处理，生成相应的、包含网页源码的去噪后的网页，并基于各个去噪后的网页生成去噪网页集合；

选择单元，配置用于从所述去噪网页集合中选择网页对进行编辑距离的计算，确定计算出的、编辑距离的数值最大的网页对作为目标网页对，其中，编辑距离的计算是基于网页源码而进行的；

提取单元，配置用于基于所述目标网页对中的网页源码，提取所述目标网页对中相同的字符串作为网页关键字符串；

生成单元，配置用于对于所述去噪网页集合中的每个去噪网页，基于所述网页关键字符串提取该去噪网页的信息。

7.根据权利要求6所述的获取网页信息装置，其特征在于，所述装置还包括：

解析单元，配置用于获取所述网页集合中的各个网页的网页源码；

第一生成单元，配置用于根据所述网页源码生成所述网页的结构树，其中，所述网页的结构树中包含多个标签。

8.根据权利要求6所述的获取网页信息装置，其特征在于，所述网页关键字符串在所述目标网页对的每个网页中是唯一存在的字符串。

9.根据权利要求6所述的获取网页信息装置，其特征在于，所述处理单元包括：

去噪模块，配置用于根据正则表达式对所述网页集合中的每个网页进行去噪处理。

10.根据权利要求6-9之一所述的获取网页信息装置，其特征在于，

所述编辑距离用于表示两个字串之间、由一个字符串转成另一个字符串所需的最少编辑操作次数。

11.一种服务器，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。

12.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-5中任一所述的方法。

Images