CN109325197A - 用于提取信息的方法和装置 - Google Patents
用于提取信息的方法和装置 Download PDFInfo
- Publication number
- CN109325197A CN109325197A CN201810941006.7A CN201810941006A CN109325197A CN 109325197 A CN109325197 A CN 109325197A CN 201810941006 A CN201810941006 A CN 201810941006A CN 109325197 A CN109325197 A CN 109325197A
- Authority
- CN
- China
- Prior art keywords
- data block
- data
- dom
- text
- page
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本申请实施例公开了用于提取信息的方法和装置。该方法的一具体实施方式包括：获取目标页面的DOM数据，其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合；从DOM数据中，删除符合预设删除条件的数据，得到目标数据，其中，目标数据包括页面主体数据，页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的URL集合；对目标数据进行分块，得到数据块集合；从数据块集合中，确定目标数据块，其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块；提取目标数据块中的以下至少一项：文本节点，URL。该实施方式提高了信息提取的灵活性，有助于提高信息提取的准确性和自动化程度。
Description
技术领域
本申请实施例涉及计算机技术领域，具体涉及用于提取信息的方法和装置。
背景技术
随着互联网数据量的增长，互联网上五花八门的网站页面越来越多，信息量越来越大，网站页面也越来越复杂。页面主体信息的提取难度随之增加。页面主体信息通常为我们在获取页面信息时，所希望获取的网站的内容主体部分，页面主体信息通常对于我们提取出页面最有意义的信息非常有帮助。
通常，在获取页面主体信息时，还涉及剔除无关紧要的部分的步骤，以便于页面主体信息的提取。
发明内容
本申请实施例提出了用于提取信息的方法和装置。
第一方面，本申请实施例提供了一种用于提取信息的方法，该方法包括：获取目标页面的文档对象模型DOM数据，其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合；从DOM数据中，删除符合预设删除条件的数据，得到目标数据，其中，目标数据包括页面主体数据，页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的统一资源定位符URL集合；对目标数据进行分块，得到数据块集合；从数据块集合中，确定目标数据块，其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块；提取目标数据块中的以下至少一项：文本节点，URL。
在一些实施例中，获取目标页面的DOM数据，包括：响应于目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和小于预设阈值，获取动态加载后的目标页面的DOM数据。
在一些实施例中，DOM数据包括DOM节点集合；以及预设删除条件包括以下至少一项：DOM节点是预先确定的行内元素；DOM节点是预先确定的第一DOM节点集合中的第一DOM节点；DOM节点非预先确定的第二DOM节点集合中的第二DOM节点；DOM数据非文本、URL、换行标签。
在一些实施例中，从数据块集合中，确定目标数据块，包括：从数据块集合中，确定第一数据块和第二数据块，其中，第一数据块是目标页面包括的页面区域集合中、面积最大的页面区域对应的数据块，第二数据块是页面区域集合中、面积第二大的页面区域对应的数据块，页面区域是目标页面中的区域；确定第一数据块的评分和第二数据块的评分，其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小；将第一数据块和第二数据块中评分较大的数据块确定为目标数据块。
在一些实施例中，第一数据块的评分是根据第一位置、第一长段落比例和第一相似度确定的，其中，第一位置是第一数据块呈现在目标页面的位置，第一长段落比例是第一数据块中文本的数量超过预设数量阈值的段落的数量与第一数据块中的段落的总数量的比，第一相似度是第一数据块中的标签中除文本标签和图像标签之外的标签的集合与预先提取的标签集合之间的相似度。
在一些实施例中，第二数据块的评分是根据第二位置、第二长段落比例和第二相似度确定的，其中，第二位置是第二数据块呈现在目标页面的位置，第二长段落比例是第二数据块中文本的数量超过预设数量阈值的段落的数量与第二数据块中的段落的总数量的比，第二相似度是第二数据块中的标签中除文本标签和图像标签之外的标签的集合与标签集合之间的相似度。
第二方面，本申请实施例提供了一种用于提取信息的装置，该装置包括：获取单元，被配置成获取目标页面的文档对象模型DOM数据，其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合；删除单元，被配置成从DOM数据中，删除符合预设删除条件的数据，得到目标数据，其中，目标数据包括页面主体数据，页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的统一资源定位符URL集合；分块单元，被配置成对目标数据进行分块，得到数据块集合；确定单元，被配置成从数据块集合中，确定目标数据块，其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块；提取单元，被配置成提取目标数据块中的以下至少一项：文本节点，URL。
在一些实施例中，获取单元进一步被配置成：响应于目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和小于预设阈值，获取动态加载后的目标页面的DOM数据。
在一些实施例中，DOM数据包括DOM节点集合；以及预设删除条件包括以下至少一项：DOM节点是预先确定的行内元素；DOM节点是预先确定的第一DOM节点集合中的第一DOM节点；DOM节点非预先确定的第二DOM节点集合中的第二DOM节点；DOM数据非文本、URL、换行标签。
在一些实施例中，确定单元进一步被配置成：从数据块集合中，确定第一数据块和第二数据块，其中，第一数据块是目标页面包括的页面区域集合中、面积最大的页面区域对应的数据块，第二数据块是页面区域集合中、面积第二大的页面区域对应的数据块，页面区域是目标页面中的区域；确定第一数据块的评分和第二数据块的评分，其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小；将第一数据块和第二数据块中评分较大的数据块确定为目标数据块。
在一些实施例中，第一数据块的评分是根据第一位置、第一长段落比例和第一相似度确定的，其中，第一位置是第一数据块呈现在目标页面的位置，第一长段落比例是第一数据块中文本的数量超过预设数量阈值的段落的数量与第一数据块中的段落的总数量的比，第一相似度是第一数据块中的标签中除文本标签和图像标签之外的标签的集合与预先提取的标签集合之间的相似度。
在一些实施例中，第二数据块的评分是根据第二位置、第二长段落比例和第二相似度确定的，其中，第二位置是第二数据块呈现在目标页面的位置，第二长段落比例是第二数据块中文本的数量超过预设数量阈值的段落的数量与第二数据块中的段落的总数量的比，第二相似度是第二数据块中的标签中除文本标签和图像标签之外的标签的集合与标签集合之间的相似度。
第三方面，本申请实施例提供了一种用于提取信息的电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当上述一个或多个程序被上述一个或多个处理器执行，使得该一个或多个处理器实现如上述用于提取信息的方法中任一实施例的方法。
第四方面，本申请实施例提供了一种用于提取信息的计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上述用于提取信息的方法中任一实施例的方法。
本申请实施例提供的用于提取信息的方法和装置，通过获取目标页面的DOM数据，然后，从DOM数据中，删除符合预设删除条件的数据，得到目标数据，之后，从数据块集合中，确定目标数据块，最后，提取目标数据块中的以下至少一项：文本节点，URL，从而提高了信息提取的灵活性，有助于提高信息提取的准确性和自动化程度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本申请的一个实施例可以应用于其中的示例性系统架构图；
图2是根据本申请的用于提取信息的方法的一个实施例的流程图；
图3是根据本申请的用于提取信息的方法的一个实施例的目标页面示意图；
图4A是目标页面呈现的页面主体信息包括的文字的示意图；
图4B是上述页面主体信息对应的DOM数据中的页面主体数据的示意图；
图4C示出了根据本申请的用于提取信息的方法的一个实施例的删除预先确定的行内元素的操作示意图；
图5A是根据本申请实施例的用于提取信息的方法的一个DOM数据的示意图；
图5B是针对图5A的删除DOM中的数据的一个示意图；
图5C是针对图5A的删除DOM中的数据的又一个示意图；
图6是根据本申请实施例的用于提取信息的方法的又一个DOM数据的示意图；
图7是根据本申请实施例的用于提取信息的方法的目标数据的示意图；
图8是根据本申请的用于提取信息的方法的又一个实施例的流程图；
图9是根据本申请的用于提取信息的装置的一个实施例的结构示意图；
图10是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
还需要说明的是，附图中所包括的内容为页面的DOM数据的一部分(并未全部示出)。其中的程序代码(包括HTML、CSS，还可以包括Javascript等等)为本领域的技术人员所公知，本申请对此不再赘述。
图1示出了可以应用本申请实施例的用于提取信息的方法或用于提取信息的装置的实施例的示例性系统架构100。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如页面浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏并且支持页面浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。
终端设备101、102、103也可以通过网络104获取服务器所支持的网站的某个页面(例如发布有新闻的页面)的DOM(Document Object Mode，文档对象模型)数据，从而对DOM数据进行解析，以提取出页面主体信息(例如新闻信息所包括的文字和图像)。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台页面服务器。后台页面服务器可以对接收到的页面请求等数据进行分析等处理，并将处理结果(例如页面数据)反馈给终端设备。
需要说明的是，本申请实施例所提供的用于提取信息的方法可以由终端设备101、102、103执行，也可以由服务器105执行，相应地，用于提取信息的装置可以设置于终端设备101、102、103中，也可以设置于服务器105中。
需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。当信息处理方法运行于其上的电子设备不需要与其他电子设备进行数据传输(例如从本地即可获取数据)时，该系统架构可以不包括网络和除用于提取信息的方法的执行主体之外的其他电子设备。
继续参考图2，示出了根据本申请的用于提取信息的方法的一个实施例的流程200。该用于提取信息的方法，包括以下步骤：
步骤201，获取目标页面的DOM数据。
在本实施例中，用于提取信息的方法的执行主体(例如图1所示的服务器或终端设备)可以通过有线连接方式或者无线连接方式从其他电子设备，或者本地，获取目标页面的DOM数据。其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合。页面主体信息可以是目标页面中的内容主体部分。
在本实施例中，DOM数据即HTTP(超级文本标记语言，HyperText MarkupLanguage)DOM数据。其定义了访问和操作HTML文档的标准方法。DOM将HTML文档表达为树结构。
实践中，目标页面可以是待对其所包括的信息进行提取的页面。示例性的，目标页面可以是但不限于以下网站的页面：资讯类网站、购物类网站、论坛类网站、问答类网站等等。可以理解，当目标页面是包括新闻的页面时，页面主体信息可以包括新闻中的文字和新闻中的图像。
可以理解，在一些使用情况下，目标页面还可以包括但不限于以下至少一项：导航栏、其他平台的推送信息(例如广告)、搜索框、网站标志图像等等。目标页面所包括的信息通常对应目标页面的DOM数据中的数据。
作为示例，请参考图3，图3示出了根据本申请的一个实施例的目标页面示意图。如图，该目标页面包括导航栏页面区域、其他平台的推送信息页面区域、页面主体信息页面区域301和评论页面区域302。其中,页面主体信息页面区域301包括的内容均为页面主体信息。
可选的，上述执行主体可以基于python库的requests(一个Python HTTP客户端库)对页面的DOM数据进行获取，也可以基于php中的phpspider(一款基于PHP开发蜘蛛爬虫)对页面的DOM数据进行获取，还可以基于java中的crawler(一个开源的Java抓取Web(全球广域网或万维网)爬虫，提供了一个简单的抓取Web的界面)对页面的DOM数据进行获取，或者使用phantomjs获取目标页面的DOM数据等等。其中，phantomjs是一个JavaScript API(Application Programming Interface，应用程序编程接口)。应该理解，上述获取目标页面的DOM数据的技术为本领域的技术人员广泛研究的公知技术，在此不再赘述。
在本实施例的一些可选的实现方式中，该步骤201可以包括：响应于目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和小于预设阈值，获取动态加载后的目标页面的DOM数据。
需要说明的是，通常，对于页面的加载，可以采用静态加载或者动态加载的形式。随着技术的发展，目前的网站中的页面很多都是动态加载的页面。基于此，上述执行主体可以首先基于python库的requests(也可以是php中的phpspider或者java中的crawler等等)对页面的DOM数据进行获取。然后，上述执行主体可以判断目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和是否小于预设阈值(例如200，300等)，如果小于，则上述执行主体可以使用phantomjs获取动态加载后的目标页面的DOM数据。
下面返回图2。
步骤202，从DOM数据中，删除符合预设删除条件的数据，得到目标数据。
在本实施例中，基于步骤201中得到的DOM数据，上述执行主体可以从DOM数据中，删除符合预设删除条件的数据，得到目标数据。其中，预设删除条件是预先确定的用于删除DOM数据中的数据的条件。
实践中，预设删除条件可以是技术人员根据实际需求、DOM数据的特点等，而设置的条件。例如，当技术人员想要得到DOM数据中的图像的统一资源定位符URL时，预设删除条件可以是：DOM数据非URL。
在本实施例中，目标数据包括页面主体数据。页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的URL集合。
可以理解，DOM数据中包括的页面主体数据，与页面呈现的页面主体信息是相对应的。页面主体信息可以是呈现在页面的页面主体数据。例如，当页面主体数据为图像的URL时，该页面主体数据对应的页面主体信息可以是该图像。
在一些使用情况下，上述预设删除条件可以包括：数据是DOM数据中的javascript代码。
在本实施例的一些可选的实现方式中，DOM数据包括DOM节点集合，由此，预设删除条件也可以包括以下至少一项：DOM节点是预先确定的行内元素；DOM节点是预先确定的第一DOM节点集合中的第一DOM节点；DOM节点非预先确定的第二DOM节点集合中的第二DOM节点；DOM数据非文本、URL、换行标签。
在这里，上述预先确定的行内元素(即行内标签)可以包括但不限于以下至少一项：a，abbr，acronym，b，bdo，big，cite，code，dfn，em，font，i，input，kbd，label，q，s，samp，select，small，span，strike等等。上述预先确定的行内元素可以是技术人员根据待提取的页面主体信息和页面特点确定的行内元素。可以理解，上述行内元素是HTML中的行内元素，在此不再赘述。
可选的，由于行内元素内部的文本数据可能对应页面主体信息中的信息，因此，当预设删除条件包括DOM节点是预先确定的行内元素时，上述执行主体可以删除DOM数据中的上述行内元素，但保留行内元素内部的文本数据。由此，有助于提高页面主体信息提取的准确性。
作为示例，请参考图4A-图4C，如图4A所示，图4A是目标页面呈现的页面主体信息包括的文字的示意图。在图4A中，目标页面呈现有“数学是上帝用来书写宇宙的文字。——伽利略”。图4B是上述页面主体信息对应的DOM数据中的页面主体数据的示意图。其中，标签“<a>”属于预先确定的行内元素。当上述执行主体获取上述内部文字(即数学是上帝用来书写宇宙的文字。——伽利略)的时候，如果不提前将标签“<a>”去掉，则获取到的文字将出现错行的情况(例如“数学是上帝用来书写宇宙的文字。——”与“伽利略”分别位于不同的两行)。此外，在一些情况下，还有可能出现行内元素嵌套的情况。因此，将上述行内元素删除，则可以避免上述错行的情况发生。由此，可以提高信息提取的准确性。如图4C所示，图4C示出了根据本申请的用于提取信息的方法的一个实施例的删除预先确定的行内元素的操作示意图。其中，上述执行主体删除了DOM数据中的上述行内元素，但保留行内元素内部的文本数据。
上述第一DOM节点集合可以是技术人员确定的、不可能出现在页面主体数据中的标签(例如，head、iframe等)。
上述第二DOM节点可以是HTML4和HTML5中的标签。作为示例，上述第二DOM节点集合可以是HTML4和HTML5中的所有标签的交集，也可以是HTML4和HTML5中的部分标签。
在这里，上述执行主体可以使用BeautifulSoup(一个可以从HTML或XML文件中提取数据的Python库)对DOM数据进行提取，如果存在非预先确定的第二DOM节点集合中的第二DOM节点的DOM节点，则标记该DOM节点。
在本实施例的一些可选的实现方式中，上述执行主体还可以按照如下步骤执行该步骤202：
首先，上述执行主体可以删除预先确定的行内元素(例如上述预先确定的行内元素)，保留预先确定的行内元素内部的文本数据。
然后，上述执行主体可以通过BeautifulSoup对DOM数据中的数据进行提取，如果有标签不在第二DOM节点集合(例如上述第二DOM节点集合)中，则标记该标签。
随后，上述执行主体可以标记DOM数据中出现在第一DOM节点集合(例如上述第一DOM节点集合)中的标签。
之后，对于以上标记的标签(包括DOM数据中不在第二DOM节点集合中的标签和DOM数据中在第一DOM节点集合中的标签)中的每个标签，向上遍历确定该标签所在节点的父节点是否包含除该标记的标签包括的文本或URL之外的其他文本或URL，一旦有就停止遍历，取之前节点(即停止遍历时，所遍历的节点的子节点)，对该节点进行去重操作(即删除与该节点相同的节点)，然后再删除DOM上的该节点。
最后，上述执行主体可以将DOM数据中除文本(即文本节点)、URL、换行标签之外的数据删除，由此，得到仅包含文本、URL和换行标签的目标数据(如图7所示)。
在这里，对上述删除标记的DOM这一步骤作如下说明：
请参考图5A，图5A是根据本申请实施例的用于提取信息的方法的一个DOM数据的示意图。假设上述执行主体需要删除“我喜欢吃苹果”。由于“我喜欢吃苹果”的标签为id＝“p2”的p标签，此时，如果直接删除这个p标签(如图5B所示)，则会留下id＝“child2”的div节点。此时，由于所留下的div节点的高度(height)为50px(即50像素)，因此，在前端展示的时候，将呈现有高度为50像素的空白区域。此外，这种情况下，对后续确定目标数据块将产生不必要的影响，因此，对于id＝“child2”的div节点也需要删除(如图5C所示，其示出了删除id＝“child2”的div节点后的DOM数据)。
可以理解，技术人员可以预先根据目标页面的特点，来设置上述预设删除条件。由此，在保证信息提取的准确性的前提下，减少甚至避免了技术人员针对每个页面分别进行分析、标注的步骤。此外，当页面被前端人员修改后，基于预设删除条件，对DOM数据中的数据进行删除，则可以适应于修改后的页面的页面主体信息的提取，无需多次重复修改用于提取页面主体信息的代码，有助于提高页面提取的自动化程度。
下面，请参考图6，图6是根据本申请实施例的用于提取信息的方法的又一个DOM数据的示意图。假设上述执行主体需要删除“我喜欢吃苹果”，但不删除“我喜欢吃香蕉”。基于此，上述执行主体可以按照如下步骤确定需删除的数据：
第一步骤，上述执行主体可以向上遍历“我喜欢吃苹果”所在的p标签的父标签，在这里，上述执行主体遍历到了id＝“grandchild”的div标签。
第二步骤，上述执行主体可以确定当前父标签下是否有除“我喜欢吃苹果”之外的文字或图像。在这里，上述执行主体第二次向上遍历时，遍历到了id＝“child2”的div标签，该id＝“child2”的div标签下面包括“我喜欢吃香蕉”。即存在除“我喜欢吃苹果”之外的文字或图像。此时，上述执行主体可以停止遍历，将停止遍历前的节点确定为目标节点。
如果不存在除“我喜欢吃苹果”之外的文字或图像。此时，上述执行主体可以继续执行上述两个步骤(即第一步骤和第二步骤)，以确定目标节点。
在这里，由于可能存在一些与目标节点相同的节点，此时，上述执行主体可以将与目标节点相同的节点和目标节点一起删除。
步骤203，对目标数据进行分块，得到数据块集合。
在本实施例中，上述执行主体可以对目标数据进行分块，得到数据块集合。
作为示例，上述执行主体可以通过以下方式，对目标数据进行分块，以得到数据块集合：基于HTML标签结构(DOM数据)的页面分块、基于视觉的WEB页面分块等等，可选的，上述执行主体也可以采用现有的其他分块技术，对目标数据进行分块，从而得到数据块集合。
下面返回图2。
步骤204，从数据块集合中，确定目标数据块。
在本实施例中，上述执行主体可以从数据块集合中，确定目标数据块。其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块。
在本实施例的一些可选的实现方式中，上述执行主体可以按照如下步骤执行该步骤204：
首先，从数据块集合中，确定第一数据块和第二数据块。其中，第一数据块是目标页面包括的页面区域集合中、面积最大的页面区域对应的数据块，第二数据块是页面区域集合中、面积第二大的页面区域对应的数据块，页面区域是目标页面中的区域。
然后，确定第一数据块的评分和第二数据块的评分。其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小。
随后，将第一数据块和第二数据块中评分较大的数据块确定为目标数据块。
需要说明的是，当第一数据块和第二数据块的评分相等时，上述执行主体可以将第一数据块和第二数据块中的任意一个数据块确定为目标数据块。
在这里，上述执行主体可以根据数据块对应的页面区域在目标页面的显示位置确定该数据块的评分。例如，上述执行主体可以首先确定目标页面的中间位置，由此确定出目标页面的中间位置的水平线(表征目标页面的中间位置)，然后，根据数据块与中间位置的距离，确定出该数据块的评分(例如距离水平线越接近，则数据块的评分越高)。
可选的，上述执行主体还可以将数据块包括的文字的数量和图像的数量的和确定为该数据块的评分。
在本实施例的一些可选的实现方式中，上述执行主体可以按照如下步骤执行该步骤204：
首先，从数据块集合中，确定第一数据块和第二数据块。其中，第一数据块是目标页面包括的页面区域集合中、文字的数量与图片的数量的和最大的页面区域对应的数据块。第二数据块是页面区域集合中、文字的数量与图片的数量的和第二大的页面区域对应的数据块。页面区域是目标页面中的区域。
然后，确定第一数据块的评分和第二数据块的评分。其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小。
随后，将第一数据块和第二数据块中评分较大的数据块确定为目标数据块。
在这里，上述执行主体可以根据数据块对应的页面区域的面积，确定该数据块的评分。例如将数据块对应的页面区域的像素数，确定为该数据块的评分。
可以理解，对于一些页面(例如包括新闻的页面)，可能存在文章的面积(或者行数)小于该文章的评论的面积(或者行数)。作为示例，请参考图3，其中，页面主体信息页面区域301的面积小于评论页面区域302的面积。基于此，对于这类页面，如果简单将数据块集合中、面积(或者行数)最大的数据块确定为目标数据块，从而进行文字和URL的提取，则可能导致提取错误。由此，通过确定第一数据块和第二数据块，可以提高信息提取的准确性。
作为又一示例，请参考图7。图示中“我是导航条”与“我喜欢吃苹果”间隔为2(实践中，网页的视觉认为的分块在dom数据中间隔一般都很大)，“我喜欢吃苹果”与“我喜欢吃香蕉我喜欢吃芒果”间隔为1，“我喜欢吃香蕉我喜欢吃芒果”与“我是其他平台的推送信息”间隔为2，假设页面主体数据为“我喜欢吃苹果我喜欢吃香蕉我喜欢吃芒果”，去掉上部“我是导航条我是导航条”和下部“我是其他平台的推送信息”。
那么，技术人员可以预先设置一个块长度阈值(例如2)，如果超过2就停止，从上往下计算。例如，从“我是导航条”向下遍历，合并了第二个我是导航条(合并的原因是不存在换行符，如果存在换行符则不合并)，这时候空白块长度为0没有超过2。接下来是两个空白，则空白块长度为2，其结果为两个我是导航条。我喜欢吃香蕉的时候得到最大块(即目标数据块)。
需要说明的是，从“我喜欢吃香蕉”向上遍历时，虽然遇到第一个空白，但是一旦遇到一个文字或者图片，块长度则重新置为0。
由此，上述执行主体可以从数据块集合中，确定出目标数据块。
下面返回图2.
步骤205，提取目标数据块中的以下至少一项：文本节点，URL。
在本实施例中，上述执行主体可以提取目标数据块中的以下至少一项：文本节点，URL。其中，文本节点是目标数据块中的文字，对于DOM|数据而能言，文本节点为未被DOM数据中的标签包围的文本。
作为示例，当目标数据块仅包括文本节点而不包括URL时，上述执行可以仅仅提取目标数据块中的文本节点；当目标数据块仅包括URL而不包括文本节点时，上述执行可以仅仅提取目标数据块中的URL；当目标数据块包括文本节点和URL时，上述执行可以提取目标数据块中的文本节点和URL。
在一些使用情况下，上述执行主体在将目标数据块中的文本节点和/或URL提取出来之后，可以将其转换为HTML结构，以供相关人员查看。
本申请的上述实施例提供的方法，通过获取目标页面的DOM数据，然后，从DOM数据中，删除符合预设删除条件的数据，得到目标数据，之后，对目标数据进行分块，得到数据块集合，再从数据块集合中，确定目标数据块，最后，提取目标数据块中的以下至少一项：文本节点、URL，从而提高了信息提取的灵活性，有助于提高信息提取的准确性和自动化程度。
进一步参考图8，其示出了用于提取信息的方法的又一个实施例的流程800。该用于提取信息的方法的流程800，包括以下步骤：
步骤801，获取目标页面的DOM数据。
步骤802，从DOM数据中，删除符合预设删除条件的数据。
步骤803，对目标数据进行分块，得到数据块集合。
在本实施例中，步骤801-803与图2对应实施例中的步骤201-203基本一致，这里不再赘述。
步骤804，从数据块集合中，确定第一数据块和第二数据块。
在本实施例中，用于提取信息的方法的执行主体(例如图1所示的服务器或终端设备)可以从步骤803得到的数据块集合中，确定第一数据块和第二数据块。其中，第一数据块是目标页面包括的页面区域集合中、面积最大的页面区域对应的数据块，第二数据块是页面区域集合中、面积第二大的页面区域对应的数据块，页面区域是目标页面中的区域。
步骤805，确定第一数据块的评分和第二数据块的评分。
在本实施例中，上述执行主体还可以确定步骤804确定的第一数据块的评分和804确定的第二数据块的评分。其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小。
在这里，上述执行主体可以采用上述列举的方法，来确定第一数据块的评分和第二数据块的评分。
可选的，上述执行主体(或其他电子设备)也可以采用如下方式确定第一数据块的评分和第二数据块的评分：
首先，根据第一位置、第一长段落比例和第一相似度，确定第一数据块的评分。
在这里，第一位置是第一数据块呈现在目标页面的位置，即第一数据块对应的页面区域在目标页面的位置。
第一长段落比例是第一数据块中文本的数量超过预设数量阈值的段落的数量与第一数据块中的段落的总数量的比。例如，第一数据块包括100个段落，其中，10个段落的文字的数量超过预设数量阈值(例如200)，则第一场段落比为10与100的比值，即0.1。
第一相似度是第一数据块中的标签中除文本标签和图像标签之外的标签的集合与预先提取的标签集合之间的相似度。
在这里，上述预先提取的标签集合可以是上述执行主体或者其他电子设备提取的、目标页面所在的网站中的、包括页面主体信息的其他页面的数据块中的标签中除文本标签和图像标签之外的标签的集合。
需要说明的是，上述相似度的方法可以是现有的各种计算相似度的方法，例如，TF-IDF(term frequency–inverse document frequency，词频-逆文本频率指数)算法、杰卡德(Jaccard)相似系数算法。
可选的，上述执行主体或其他电子设备可以预先提取多个(例如50个)标签集合，然后分别计算每个标签集合和第一数据块中的标签中除文本标签和图像标签之外的标签的集合的相似度，然后再计算第一相似度(例如将各个标签集合和第一数据块中的标签中除文本标签和图像标签之外的标签的集合的相似度之和，或者平均数，确定为第一相似度)。
然后，根据第二位置、第二长段落比例和第二相似度，确定第二数据块的评分。
在这里，第二位置是第二数据块呈现在目标页面的位置，即第二数据块对应的页面区域在目标页面的位置。第二长段落比例是第二数据块中文本的数量超过预设数量阈值的段落的数量与第二数据块中的段落的总数量的比。第二相似度是第二数据块中的标签中除文本标签和图像标签之外的标签的集合与标签集合之间的相似度。
在这里，确定第二数据块的评分的方法可以与上述确定第一数据块的评分的方法相同，在此不再赘述。
可以理解，同一网站上，包括页面主体信息的页面的DOM结构通常具有较大的相似度，由此，将第一相似度和第二相似度作为判断数据块是否包含页面主体数据的依据，可以提高所提取的文本和URL是页面主体信息对应的文本和URL的准确性。
步骤806，将第一数据块和第二数据块中评分较大的数据块确定为目标数据块。
在本实施例中，上述执行主体可以将第一数据块和第二数据块中评分较大的数据块确定为目标数据块。
步骤807，提取目标数据块中的以下至少一项：文本节点，URL。
在本实施例中，步骤807与图2对应实施例中的步骤205基本一致，这里不再赘述。
从图8中可以看出，与图2对应的实施例相比，本实施例中的用于提取信息的方法的流程800突出了确定目标数据块(即数据块集合中包括页面主体数据的概率最大的数据块)的步骤。由此，本实施例描述的方案可以引入更多的确定目标数据块的方式，从而进一步提高了信息提取的准确性。
进一步参考图9，作为对上述各图所示方法的实现，本申请提供了一种用于提取信息的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，除下面所记载的特征外，该装置实施例还可以包括与图2所示的方法实施例相同或相应的特征。该装置具体可以应用于各种电子设备中。
如图9所示，本实施例的用于提取信息的装置900包括：获取单元901、删除单元902、分块单元903、确定单元904和提取单元905。其中，获取单元901被配置成获取目标页面的文档对象模型DOM数据，其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合；删除单元902被配置成从DOM数据中，删除符合预设删除条件的数据，得到目标数据，其中，目标数据包括页面主体数据，页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的统一资源定位符URL集合；分块单元903被配置成对目标数据进行分块，得到数据块集合；确定单元904被配置成从数据块集合中，确定目标数据块，其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块；提取单元905被配置成提取目标数据块中的以下至少一项：文本节点，URL。
在本实施例中，用于提取信息的装置900的获取单元901可以通过有线连接方式或者无线连接方式从其他电子设备，或者本地，获取目标页面的DOM数据。其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合。页面主体信息可以是目标页面中的内容主体部分。
在本实施例中，DOM数据即HTTP(超级文本标记语言，HyperText MarkupLanguage)DOM数据。其定义了访问和操作HTML文档的标准方法。DOM将HTML文档表达为树结构。
实践中，目标页面可以是待对其所包括的信息进行提取的页面。示例性的，目标页面可以是但不限于以下网站的页面：资讯类网站、购物类网站、论坛类网站、问答类网站等等。可以理解，当目标页面是包括新闻的页面时，页面主体信息可以包括新闻和新闻对应的图像。
在本实施例中，基于获取单元901得到的网址，上述删除单元902可以从DOM数据中，删除符合预设删除条件的数据，得到目标数据。其中，预设删除条件是预先确定的用于删除DOM数据中的数据的条件。
实践中，预设删除条件可以是技术人员根据实际需求、DOM数据的特点等，而设置的条件。例如，当技术人员想要得到DOM数据中的图像的统一资源定位符URL时，预设删除条件可以是数据非URL。
在本实施例中，目标数据包括页面主体数据。页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的URL集合。
在本实施例中，上述分块单元903可以对目标数据进行分块，得到数据块集合。
作为示例，上述执行主体可以通过以下方式，对目标数据进行分块，以得到数据块集合：基于HTML标签结构(DOM数据)的页面分块、基于视觉的WEB页面分块等等，可选的，上述执行主体也可以采用现有的分块技术，对对目标数据进行分块，从而得到数据块集合。
在本实施例中，上述确定单元904可以从数据块集合中，确定目标数据块。其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块。
在本实施例中，上述提取单元905可以提取目标数据块中的以下至少一项：文本节点，URL。其中，文本节点是目标数据块中的文字，对于DOM|数据而能言，文本节点为未被DOM数据中的标签包围的文本。
在本实施例的一些可选的实现方式中，获取单元901进一步被配置成：响应于目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和小于预设阈值，获取动态加载后的目标页面的DOM数据。
需要说明的是，通常，对于页面的加载，可以采用静态加载或者动态加载的形式。随着技术的发展，目前的网站中的页面很多都是动态加载的页面。基于此，上述述执行主体可以首先基于python库的requests(也可以是php中的phpspider或者java中的crawler等等)对页面的DOM数据进行获取。然后，上述执行主体可以判断目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和是否小于预设阈值(例如200，300等)，如果小于，则上述执行主体可以使用phantomjs获取动态加载后的目标页面的DOM数据。
在本实施例的一些可选的实现方式中，DOM数据包括DOM节点集合，由此，预设删除条件包括以下至少一项：DOM节点是预先确定的行内元素；DOM节点是预先确定的第一DOM节点集合中的第一DOM节点；DOM节点非预先确定的第二DOM节点集合中的第二DOM节点；DOM数据非文本、URL、换行标签。
在这里，上述预先确定的行内元素(即行内标签)可以是但不限于：a，abbr，acronym，b，bdo，big，cite，code，dfn，em，font，i，input，kbd，label，q，s，samp，select，small，span，strike等等。上述预先确定的行内元素可以是技术人员根据待提取的页面主体信息和页面特点确定的行内元素。可以理解，上述行内元素是HTML中的行内元素，在此不再赘述。
上述第一DOM节点集合可以是技术人员确定的、不可能出现在页面主体数据中的标签(例如，head、iframe等)。
上述第二DOM节点可以是HTML4和HTML5中的标签。作为示例，上述第二DOM节点集合可以是HTML4和HTML5中的所有标签的交集，也可以是HTML4和HTML5中的部分标签。
在本实施例的一些可选的实现方式中，确定单元904进一步被配置成：从数据块集合中，确定第一数据块和第二数据块，其中，第一数据块是目标页面包括的页面区域集合中、面积最大的页面区域对应的数据块，第二数据块是页面区域集合中、面积第二大的页面区域对应的数据块，页面区域是目标页面中的区域；确定第一数据块的评分和第二数据块的评分，其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小；将第一数据块和第二数据块中评分较大的数据块确定为目标数据块。
在本实施例的一些可选的实现方式中，第一数据块的评分是根据第一位置、第一长段落比例和第一相似度确定的，其中，第一位置是第一数据块呈现在目标页面的位置，第一长段落比例是第一数据块中文本的数量超过预设数量阈值的段落的数量与第一数据块中的段落的总数量的比，第一相似度是第一数据块中的标签中除文本标签和图像标签之外的标签的集合与预先提取的标签集合之间的相似度。
在本实施例的一些可选的实现方式中，第二数据块的评分是根据第二位置、第二长段落比例和第二相似度确定的，其中，第二位置是第二数据块呈现在目标页面的位置，第二长段落比例是第二数据块中文本的数量超过预设数量阈值的段落的数量与第二数据块中的段落的总数量的比，第二相似度是第二数据块中的标签中除文本标签和图像标签之外的标签的集合与标签集合之间的相似度。
本申请的上述实施例提供的装置900，通过获取单元901获取目标页面的文档对象模型DOM数据，然后，删除单元902从DOM数据中，删除符合预设删除条件的数据，得到目标数据，之后，分块单元903对目标数据进行分块，得到数据块集合，随后，确定单元904从数据块集合中，确定目标数据块，最后，提取单元905提取目标数据块中的以下至少一项：文本节点，URL，从而提高了信息提取的灵活性，有助于提高信息提取的准确性和自动化程度。
下面参考图10，其示出了适于用来实现本申请实施例的区块链的节点、第一终端设备或第二终端设备的计算机系统1000的结构示意图。图10示出的区块链的节点、第一终端设备或第二终端设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图10所示，计算机系统1000包括中央处理单元(CPU)1001，其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。在RAM 1003中，还存储有系统1000操作所需的各种程序和数据。CPU 1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
以下部件连接至I/O接口1005：包括键盘、鼠标等的输入部分1006；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007；包括硬盘等的存储部分1008；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1010上，以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1009从网络上被下载和安装，和/或从可拆卸介质1011被安装。在该计算机程序被中央处理单元(CPU)1001执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向目标的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、删除单元、分块单元、确定单元和提取单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取目标页面的DOM数据的单元”。
作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取目标页面的DOM数据，其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合；从DOM数据中，删除符合预设删除条件的数据，得到目标数据，其中，目标数据包括页面主体数据，页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的URL集合；对目标数据进行分块，得到数据块集合；从数据块集合中，确定目标数据块，其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块；提取目标数据块中的以下至少一项：文本节点，URL。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (14)
1.一种用于提取信息的方法，包括：
获取目标页面的文档对象模型DOM数据，其中，所述目标页面包括页面主体信息，所述页面主体信息包括以下至少一项：文本集合，图像集合；
从所述DOM数据中，删除符合预设删除条件的数据，得到目标数据，其中，所述目标数据包括页面主体数据，所述页面主体数据包括以下至少一项：所述文本集合对应的文本节点集合，所述图像集合的统一资源定位符URL集合；
对所述目标数据进行分块，得到数据块集合；
从所述数据块集合中，确定目标数据块，其中，所述目标数据块是所述数据块集合中包括所述页面主体数据的概率最大的数据块；
提取所述目标数据块中的以下至少一项：文本节点，URL。
2.根据权利要求1所述的方法，其中，所述获取目标页面的DOM数据，包括：
响应于目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和小于预设阈值，获取动态加载后的所述目标页面的DOM数据。
3.根据权利要求1所述的方法，其中，所述DOM数据包括DOM节点集合；以及
所述预设删除条件包括以下至少一项：
DOM节点是预先确定的行内元素；
DOM节点是预先确定的第一DOM节点集合中的第一DOM节点；
DOM节点非预先确定的第二DOM节点集合中的第二DOM节点；
DOM数据非文本、URL、换行标签。
4.根据权利要求1-3之一所述的方法，其中，所述从所述数据块集合中，确定目标数据块，包括：
从所述数据块集合中，确定第一数据块和第二数据块，其中，所述第一数据块是所述目标页面包括的页面区域集合中、面积最大的页面区域对应的数据块，所述第二数据块是所述页面区域集合中、面积第二大的页面区域对应的数据块，页面区域是所述目标页面中的区域；
确定所述第一数据块的评分和所述第二数据块的评分，其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小；
将所述第一数据块和所述第二数据块中评分较大的数据块确定为目标数据块。
5.根据权利要求4所述的方法，其中，所述第一数据块的评分是根据第一位置、第一长段落比例和第一相似度确定的，其中，所述第一位置是所述第一数据块呈现在所述目标页面的位置，所述第一长段落比例是所述第一数据块中文本的数量超过预设数量阈值的段落的数量与所述第一数据块中的段落的总数量的比，所述第一相似度是所述第一数据块中的标签中除文本标签和图像标签之外的标签的集合与预先提取的标签集合之间的相似度。
6.根据权利要求4所述的方法，其中，所述第二数据块的评分是根据第二位置、第二长段落比例和第二相似度确定的，其中，所述第二位置是所述第二数据块呈现在所述目标页面的位置，所述第二长段落比例是所述第二数据块中文本的数量超过所述预设数量阈值的段落的数量与所述第二数据块中的段落的总数量的比，所述第二相似度是所述第二数据块中的标签中除文本标签和图像标签之外的标签的集合与所述标签集合之间的相似度。
7.一种用于提取信息的装置，包括：
获取单元，被配置成获取目标页面的文档对象模型DOM数据，其中，目标页面包括页面主体信息，页面主体信息包括以下至少一项：文本集合，图像集合；
删除单元，被配置成从DOM数据中，删除符合预设删除条件的数据，得到目标数据，其中，目标数据包括页面主体数据，页面主体数据包括以下至少一项：文本集合对应的文本节点集合，图像集合的统一资源定位符URL集合；
分块单元，被配置成对目标数据进行分块，得到数据块集合；
确定单元，被配置成从数据块集合中，确定目标数据块，其中，目标数据块是数据块集合中包括页面主体数据的概率最大的数据块；
提取单元，被配置成提取目标数据块中的以下至少一项：文本节点，URL。
8.根据权利要求7的装置，其中，所述获取单元进一步被配置成：
响应于目标页面的DOM数据中的文本节点中的文本的数量与URL集合中的URL的数量之和小于预设阈值，获取动态加载后的目标页面的DOM数据。
9.根据权利要求7的装置，其中，DOM数据包括DOM节点集合；以及
预设删除条件包括以下至少一项：
DOM节点是预先确定的行内元素；
DOM节点是预先确定的第一DOM节点集合中的第一DOM节点；
DOM节点非预先确定的第二DOM节点集合中的第二DOM节点；
DOM数据非文本、URL、换行标签。
10.根据权利要求7-9之一的装置，其中，所述确定单元进一步被配置成：
从数据块集合中，确定第一数据块和第二数据块，其中，第一数据块是目标页面包括的页面区域集合中、面积最大的页面区域对应的数据块，第二数据块是页面区域集合中、面积第二大的页面区域对应的数据块，页面区域是目标页面中的区域；
确定第一数据块的评分和第二数据块的评分，其中，评分表征数据块中的文本节点和URL为待提取数据的概率的大小；
将所述第一数据块和所述第二数据块中评分较大的数据块确定为目标数据块。
11.根据权利要求10的装置，其中，所述第一数据块的评分是根据第一位置、第一长段落比例和第一相似度确定的，其中，第一位置是第一数据块呈现在目标页面的位置，第一长段落比例是第一数据块中文本的数量超过预设数量阈值的段落的数量与第一数据块中的段落的总数量的比，第一相似度是第一数据块中的标签中除文本标签和图像标签之外的标签的集合与预先提取的标签集合之间的相似度。
12.根据权利要求10的装置，其中，所述第二数据块的评分是根据第二位置、第二长段落比例和第二相似度确定的，其中，第二位置是第二数据块呈现在目标页面的位置，第二长段落比例是第二数据块中文本的数量超过预设数量阈值的段落的数量与第二数据块中的段落的总数量的比，第二相似度是第二数据块中的标签中除文本标签和图像标签之外的标签的集合与标签集合之间的相似度。
13.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
14.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810941006.7A CN109325197B (zh) | 2018-08-17 | 2018-08-17 | 用于提取信息的方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810941006.7A CN109325197B (zh) | 2018-08-17 | 2018-08-17 | 用于提取信息的方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109325197A true CN109325197A (zh) | 2019-02-12 |
| CN109325197B CN109325197B (zh) | 2022-07-15 |
Family
ID=65263309
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810941006.7A Active CN109325197B (zh) | 2018-08-17 | 2018-08-17 | 用于提取信息的方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109325197B (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110401697A (zh) * | 2019-06-26 | 2019-11-01 | 苏州浪潮智能科技有限公司 | 一种并发处理http请求的方法、系统及设备 |
| CN111144355A (zh) * | 2019-12-31 | 2020-05-12 | 北京师范大学 | 数据采集方法、装置、设备及计算机可读存储介质 |
| CN111966932A (zh) * | 2019-05-20 | 2020-11-20 | 富士通株式会社 | 信息处理方法和信息处理设备 |
| CN112766997A (zh) * | 2019-11-01 | 2021-05-07 | 百度在线网络技术（北京）有限公司 | 图片投放方法、装置、设备和存储介质 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050066269A1 (en) * | 2003-09-18 | 2005-03-24 | Fujitsu Limited | Information block extraction apparatus and method for Web pages |
| CN102253979A (zh) * | 2011-06-23 | 2011-11-23 | 天津海量信息技术有限公司 | 基于视觉的web页面萃取方法 |
| JP2012059225A (ja) * | 2010-09-13 | 2012-03-22 | Seiko Epson Corp | 情報処理装置，情報処理方法及びそのプログラム |
| US20130073514A1 (en) * | 2011-09-20 | 2013-03-21 | Microsoft Corporation | Flexible and scalable structured web data extraction |
| US20130138655A1 (en) * | 2011-11-30 | 2013-05-30 | Microsoft Corporation | Web Knowledge Extraction for Search Task Simplification |
| CN103488746A (zh) * | 2013-09-22 | 2014-01-01 | 成都锐理开创信息技术有限公司 | 一种获取业务信息的方法及装置 |
| CN103491116A (zh) * | 2012-06-12 | 2014-01-01 | 深圳市世纪光速信息技术有限公司 | 正文相关的结构化数据的处理方法及装置 |
| CN103514234A (zh) * | 2012-06-30 | 2014-01-15 | 北京百度网讯科技有限公司 | 一种页面信息提取方法和装置 |
| CN106055667A (zh) * | 2016-06-06 | 2016-10-26 | 北京林业大学 | 一种基于文本‑标签密度的网页核心内容提取方法 |
| CN107590219A (zh) * | 2017-09-04 | 2018-01-16 | 电子科技大学 | 网页人物主题相关信息提取方法 |
-
2018
- 2018-08-17 CN CN201810941006.7A patent/CN109325197B/zh active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050066269A1 (en) * | 2003-09-18 | 2005-03-24 | Fujitsu Limited | Information block extraction apparatus and method for Web pages |
| JP2012059225A (ja) * | 2010-09-13 | 2012-03-22 | Seiko Epson Corp | 情報処理装置，情報処理方法及びそのプログラム |
| CN102253979A (zh) * | 2011-06-23 | 2011-11-23 | 天津海量信息技术有限公司 | 基于视觉的web页面萃取方法 |
| US20130073514A1 (en) * | 2011-09-20 | 2013-03-21 | Microsoft Corporation | Flexible and scalable structured web data extraction |
| US20130138655A1 (en) * | 2011-11-30 | 2013-05-30 | Microsoft Corporation | Web Knowledge Extraction for Search Task Simplification |
| CN103491116A (zh) * | 2012-06-12 | 2014-01-01 | 深圳市世纪光速信息技术有限公司 | 正文相关的结构化数据的处理方法及装置 |
| CN103514234A (zh) * | 2012-06-30 | 2014-01-15 | 北京百度网讯科技有限公司 | 一种页面信息提取方法和装置 |
| CN103488746A (zh) * | 2013-09-22 | 2014-01-01 | 成都锐理开创信息技术有限公司 | 一种获取业务信息的方法及装置 |
| CN106055667A (zh) * | 2016-06-06 | 2016-10-26 | 北京林业大学 | 一种基于文本‑标签密度的网页核心内容提取方法 |
| CN107590219A (zh) * | 2017-09-04 | 2018-01-16 | 电子科技大学 | 网页人物主题相关信息提取方法 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111966932A (zh) * | 2019-05-20 | 2020-11-20 | 富士通株式会社 | 信息处理方法和信息处理设备 |
| CN110401697A (zh) * | 2019-06-26 | 2019-11-01 | 苏州浪潮智能科技有限公司 | 一种并发处理http请求的方法、系统及设备 |
| CN112766997A (zh) * | 2019-11-01 | 2021-05-07 | 百度在线网络技术（北京）有限公司 | 图片投放方法、装置、设备和存储介质 |
| CN111144355A (zh) * | 2019-12-31 | 2020-05-12 | 北京师范大学 | 数据采集方法、装置、设备及计算机可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109325197B (zh) | 2022-07-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11042542B2 (en) | Method and apparatus for providing aggregate result of question-and-answer information | |
| US8880990B2 (en) | Information processing device, information processing method, information processing program, and recording medium on which information processing program is recorded | |
| CN109325197A (zh) | 用于提取信息的方法和装置 | |
| US20120216107A1 (en) | Characteristic content determination program, characteristic content determination device, characteristic content determination method, recording medium, content generation device, and related content insertion device | |
| CN104969162A (zh) | 用于显示多个应用程序的系统和方法 | |
| US20150227276A1 (en) | Method and system for providing an interactive user guide on a webpage | |
| CN101765979A (zh) | 用于移动设备的文档处理 | |
| CN110020312B (zh) | 提取网页正文的方法和装置 | |
| US10755091B2 (en) | Method and apparatus for retrieving image-text block from web page | |
| US20220121668A1 (en) | Method for recommending document, electronic device and storage medium | |
| US20220292160A1 (en) | Automated system and method for creating structured data objects for a media-based electronic document | |
| WO2014000130A1 (en) | Method or system for automated extraction of hyper-local events from one or more web pages | |
| US8819537B2 (en) | Information generation device, information generation method, information generation program, and recording medium | |
| CN110737824B (zh) | 内容查询方法和装置 | |
| CN111314388A (zh) | 用于检测sql注入的方法和装置 | |
| CN109522399A (zh) | 用于生成信息的方法和装置 | |
| US20110197133A1 (en) | Methods and apparatuses for identifying and monitoring information in electronic documents over a network | |
| CN113609308B (zh) | 知识图谱构建方法、装置、存储介质及电子设备 | |
| CN113360106B (zh) | 一种网页打印方法和装置 | |
| CN108256078B (zh) | 信息获取方法和装置 | |
| US20130073944A1 (en) | Method and system for dynamically providing contextually relevant posts on an article | |
| US10452727B2 (en) | Method and system for dynamically providing contextually relevant news based on an article displayed on a web page | |
| US20160085730A1 (en) | Debugging and Formatting Feeds for Presentation Based on Elements and Content Items | |
| CN113312568B (zh) | 一种基于HTML源代码和网页快照的Web信息抽取方法与系统 | |
| CN103246680A (zh) | 一种在浏览器中将网页内容聚合展现的方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |