CN107391675A - 用于生成结构化信息的方法和装置 - Google Patents

Abstract

本申请实施例公开了用于生成结构化信息的方法和装置。方法的一具体实施方式包括：抓取预定领域的企业网站的所有页面内容；根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面；对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；根据抽取的信息，构建结构化信息。该实施方式保证了信息来源的多样性，使得生成的结构化信息所呈现的内容特征丰富且减少了冗余信息。

Description

用于生成结构化信息的方法和装置

技术领域

本申请涉及计算机技术领域，具体涉及计算机网络技术领域，尤其涉及用于生成结构化信息的方法和装置。

背景技术

随着互联网技术的不断发展，互联网的网页所承载的信息量日益膨胀。如何在海量的互联网网页信息中，抽取出某个行业所需要的结构化信息，是目前急需解决的一个问题。

目前的行业结构化信息，通常是根据抽取规则从行业网站的网页信息中抽取信息，但由于网页结构的复杂性及不规范性，往往需要针对特定的数据来源，编写特定的抽取规则。

然而，这种行业结构化信息的生成方法，需要设计大量的抽取规则，并且由于抽取规则的适用于性较差，生成的结构化信息所呈现的内容特征较为单薄且冗余信息较多。

发明内容

本申请的目的在于提出一种改进的用于生成结构化信息的方法和装置，来解决以上背景技术部分提到的技术问题。

第一方面，本申请实施例提供了一种用于生成结构化信息的方法，方法包括：抓取预定领域的企业网站的所有页面内容；根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面；对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；根据抽取的信息，构建结构化信息。

在一些实施例中，页面内容的特征包括以下一项或多项：经由以下步骤获取的URL特征：对已标注的页面样本的URL进行切分，得到URL分词，统计URL分词的特性，得到URL特征；经由以下步骤获取的锚点文本特征：对页面样本的锚点文本进行切词、过滤停用词并统计词频特性，得到锚点文本特征；经由以下步骤获取的标题特征：对页面样本的标题进行切词、过滤停用词并统计词频特性，得到标题的特征。

在一些实施例中，将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面包括：响应于从分类页面中抽取到正文，对正文分块，根据分块后的正文，确定分类页面为表单页面或内容页面，并根据确定的结果标记分类页面；以及响应于未从分类页面中抽取到正文，确定页面内容为表单页面，将表单页面作为标签，标记分类页面。

在一些实施例中，对正文分块包括：根据以下一项或多项标签分类元素对正文分块：非块元素、文本元素、图片元素、格式元素、层级元素、叶子元素、标题元素和链接元素。

在一些实施例中，根据分块后的正文，确定分类页面为表单页面或内容页面包括：根据以下一项或多项对分块后的正文的判断结果，确定分类页面为表单页面或内容页面：判断分块后的正文的节点是否为空节点；判断分块后的正文的节点是否可视节点；判断分块后的正文的节点是否为叶子节点；判断分块后的正文的节点是否为文本节点；判断分块后的正文的节点是否为非块节点；判断分块后的正文的节点是否为导航栏节点；判断分块后的正文的节点是否为重复结构；判断分块后的正文的节点中字符串的长度占比是否超过阈值；以及判断分块后的正文的节点是否为结构格式标签。

在一些实施例中，图文块抽取包括：从分类页面的DOM树中抽取包含图片和文本的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

在一些实施例中，列表块抽取包括：从分类页面的DOM树中抽取包含超链接且是列表形式的结构或包含短文本且是列表形式的结构的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

在一些实施例中，根据抽取的信息，构建结构化信息包括：根据过滤规则过滤抽取的信息，得到分类页面的专项信息；对分类页面的专项信息进行文本处理，得到结构化信息。

在一些实施例中，预先构建的企业信息的类别包括以下一项或多项：企业介绍类别、企业荣誉资质类别、企业专业人员类别、企业优势设备类别、企业优势业务类别、企业案例新闻类别、企业联系方式类别和企业优势类别。

在一些实施例中，对分类页面的专项信息进行文本处理，得到结构化信息包括以下至少一项：采用实体知识和正则规则对分类页面的专项信息进行关键片段召回，对召回的片段进行过滤和清洗，得到分类页面的关键内容；从对应专业人员页面的分类页面的专项信息中，采用命名实体识别技术抽取出专家信息；从对应优势业务页面的专项信息中，采用基于标签的关键词抽取算法进行短摘要抽取，得到优势业务。

第二方面，本申请实施例提供了一种用于生成结构化信息的装置，装置包括：页面内容抓取单元，用于抓取预定领域的企业网站的所有页面内容；页面内容分类单元，用于根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；分类页面标记单元，用于将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面；标记页面抽取单元，用于对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；结构化信息构建单元，用于根据抽取的信息，构建结构化信息。

在一些实施例中，页面内容分类单元中页面内容的特征包括以下一项或多项：经由以下步骤获取的URL特征：对已标注的页面样本的URL进行切分，得到URL分词，统计URL分词的特性，得到URL特征；经由以下步骤获取的锚点文本特征：对页面样本的锚点文本进行切词、过滤停用词并统计词频特性，得到锚点文本特征；经由以下步骤获取的标题特征：对页面样本的标题进行切词、过滤停用词并统计词频特性，得到标题的特征。

在一些实施例中，分类页面标记单元包括：确定结果标记单元，用于响应于从分类页面中抽取到正文，对正文分块，根据分块后的正文，确定分类页面为表单页面或内容页面，并根据确定的结果标记分类页面；以及表单页面标记单元，用于响应于未从分类页面中抽取到正文，确定页面内容为表单页面，将表单页面作为标签，标记分类页面。

在一些实施例中，确定结果标记单元进一步用于：根据以下一项或多项标签分类元素对正文分块：非块元素、文本元素、图片元素、格式元素、层级元素、叶子元素、标题元素和链接元素。

在一些实施例中，确定结果标记单元进一步用于：根据以下一项或多项对分块后的正文的判断结果，确定分类页面为表单页面或内容页面：判断分块后的正文的节点是否为空节点；判断分块后的正文的节点是否可视节点；判断分块后的正文的节点是否为叶子节点；判断分块后的正文的节点是否为文本节点；判断分块后的正文的节点是否为非块节点；判断分块后的正文的节点是否为导航栏节点；判断分块后的正文的节点是否为重复结构；判断分块后的正文的节点中字符串的长度占比是否超过阈值；以及判断分块后的正文的节点是否为结构格式标签。

在一些实施例中，标记页面抽取单元中的图文块抽取包括：从分类页面的DOM树中抽取包含图片和文本的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

在一些实施例中，标记页面抽取单元中的列表块抽取包括：从分类页面的DOM树中抽取包含超链接且是列表形式的结构或包含短文本且是列表形式的结构的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

在一些实施例中，结构化信息构建单元包括：专项信息确定单元，用于根据过滤规则过滤抽取的信息，得到分类页面的专项信息；专项信息处理单元，用于对分类页面的专项信息进行文本处理，得到结构化信息。

在一些实施例中，页面内容分类单元中预先构建的企业信息的类别包括以下一项或多项：企业介绍类别、企业荣誉资质类别、企业专业人员类别、企业优势设备类别、企业优势业务类别、企业案例新闻类别、企业联系方式类别和企业优势类别。

在一些实施例中，专项信息处理单元进一步用于以下至少一项：采用实体知识和正则规则对分类页面的专项信息进行关键片段召回，对召回的片段进行过滤和清洗，得到分类页面的关键内容；从对应专业人员页面的分类页面的专项信息中，采用命名实体识别技术抽取出专家信息；从对应优势业务页面的专项信息中，采用基于标签的关键词抽取算法进行短摘要抽取，得到优势业务。

第三方面，本申请实施例提供了一种设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上任意一项用于生成结构化信息的方法。

第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如上任意一项用于生成结构化信息的方法。

本申请实施例提供的用于生成结构化信息的方法和装置，首先抓取预定领域的企业网站的所有页面内容；之后，根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；之后，将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面；之后，对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；最后，根据抽取的信息，构建结构化信息。本实施例提供的用于生成结构化信息的方法和装置，通过抓取预定领域的企业网站的所有页面内容，根据页面内容的特征分类，保证了结构化信息的多样性；之后将分类页面进一步分为内容页面和表单页面，并根据分类后的内容页面和表单页面，抽取信息，最后根据抽取的信息构建结构化信息，从而保证了信息来源的多样性，使得生成的结构化信息所呈现的内容特征丰富且减少了冗余信息。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是根据本申请的用于生成结构化信息的方法的一个实施例的示意性流程图；

图2是根据本申请的用于生成结构化信息的方法的又一个实施例的示意性流程图；

图3是根据本申请实施例的用于生成结构化信息的方法的一个应用场景的示意图；

图4是根据本申请的用于生成结构化信息的装置的一个实施例的示例性结构图；

图5是适于用来实现本申请实施例的终端设备或服务器的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了根据本申请的用于生成结构化信息的方法的一个实施例的流程100。该用于生成结构化信息的方法包括：

在步骤110中，抓取预定领域的企业网站的所有页面内容。

在本实施例中，运行用于生成结构化信息的方法的电子设备可以通过预定领域的企业网站的入口页面的URL，进行预定领域的网站中所有页面内容的抓取。抓取的方法可以为现有技术或未来发展的技术中的抓取网页内容的方法，本申请对此不做限定。

在步骤120中，根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面。

在本实施例中，页面内容的特征，可以包括页面中一件事物异于其它事物的特点。例如URL特征、锚点文本特征和标题特征等。预先构建的企业信息的类别，可以经由对预定领域的企业网站的页面内容进行统计得到，也可以经由人工设定得到。例如：预先构建的企业信息的类别可以包括：企业介绍类、企业荣誉资质类、企业专业人员类、企业优势设备类、企业优势业务类、企业案例新闻类、企业联系方式类和企业优势类等。这里的其它类别，是指除预先构建的企业信息的类别之外的类别。

在步骤130中，将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面。

在本实施例中，内容页面是指详情页对应的页面；表单页面是指是指除了详情页之外的页面。在具体应用中，有时候只需要详情页的内容，例如企业介绍和企业案例新闻，更希望从详情页进行抽取。在将分类页面分为内容页面和表单页面之后，可以将内容页面和表单页面作为标签，标记分类页面。例如，若某一页面为内容页面，那么可以在该页面的标签中标明“内容页面”。

在步骤140中，对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化抽取。

在本实施例中，对于标记后的分类页面，可以通过以下一项或多项抽取步骤来抽取信息：正文块抽取步骤、正文内容结构化抽取步骤、图文块抽取步骤、列表块抽取步骤和预定位置内容结构化抽取步骤，从而得到抽取的信息。

示例性地，在上述的具体抽取步骤中，正文块抽取可以采用正文块抽取工具进行抽取，输入：页面HTML源码，输出：正文块。正文内容结构化抽取可以采取相应结构化抽取工具进行抽取，对已经生成的网页正文数据，识别其中出现的子标题和分段内容，并将其整理归纳到一起，形成“标题(Title)-内容(Content)-段落(Paragraph)”文本对的数据格式，输入：正文块，输出：“Title-Content-Paragraph”文本对。图文块抽取，可以从分类页面的文档对象模型(DOM)树中抽取包含图片和文本的叶子节点，并对抽取的叶子节点进行可扩展标记语言(Xml)的路径语言(XPath)的合并和过滤，输入：页面HTML源码，输出：图文块。列表块抽取，可以从分类页面的DOM树中抽取包含超链接且是列表形式的结构或包含短文本且是列表形式的结构的叶子节点，并对抽取的叶子节点进行XPath合并和过滤，输入：页面HTML源码，输出：列表块。预定位置内容结构化，是指对指定位置的数据结构的抽取。例如，对Title节点的数据结构的抽取，以“荣誉资质”这一标题为例，在点击“荣誉资质”对应块时，结合具体知识，且具有比较明显的特征，例如位置信息，相邻节点信息以及文本信息等等，可以依据具体业务进行定制，输入：页面HTML源码，输出：指定位置结构块。

在步骤150中，根据抽取的信息，构建结构化信息。

在本实施例中，可以采用抽取的信息直接构建结构化信息，也可以对抽取的信息进行进一步的数据处理之后构建结构化信息。在进行进一步的数据处理时，可以根据用户需要设定的结构来进行数据处理，或者根据预先构建的企业信息的类别来进行数据处理。

本申请的上述实施例提供的用于生成结构化信息的方法，可以将企业网站的页面内容根据预先构建的企业信息进行分类，并进一步将分类页面分类并标记标签，得到标记后的分类页面，之后对标记后的分类页面进行信息抽取，最后根据抽取的信息生成结构化信息。这一生成结构化信息的过程，可以适用于各种结构的企业网站，保证了生成的结构化信息的来源的多样性，以及生成的结构化信息所呈现的内容特征的丰富性，还减少了结构化信息中的冗余信息。

进一步地，请参考图2，图2示出了根据本申请的用于生成结构化信息的方法的又一个实施例的示意性流程图。

如图2所示，该用于生成结构化信息的方法200包括：

在步骤210中，抓取预定领域的企业网站的所有页面内容。

在本实施例中，运行用于生成结构化信息的方法的电子设备可以通过预定领域的企业网站的入口页面的URL，进行预定领域的网站中所有页面内容的抓取。抓取的方法可以为现有技术或未来发展的技术中的抓取网页内容的方法，本申请对此不做限定。

在步骤220中，根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面。

在本实施例中，页面内容的特征，可以包括页面中一件事物异于其它事物的特点。例如URL特征、锚点文本特征和标题特征等。这里的预先构建的企业信息的类别，可以经由对预定领域的企业网站的页面内容进行统计得到，也可以经由人工设定得到。例如：预先构建的企业信息的类别可以包括：企业介绍类、企业荣誉资质类、企业专业人员类、企业优势设备类、企业优势业务类、企业案例新闻类、企业联系方式类和企业优势类等。这里的其它类别，是指除预先构建的企业信息的类别之外的类别。

示例性地，页面内容的特征可以包括以下一项或多项：经由以下步骤获取的URL特征：对已标注的页面样本的URL进行切分，得到URL分词，统计URL分词的特性，得到URL特征；经由以下步骤获取的锚点文本特征：对页面样本的锚点文本进行切词、过滤停用词并统计词频特性，得到锚点文本特征；以及经由以下步骤获取的标题特征：对页面样本的标题进行切词、过滤停用词并统计词频特性，得到标题的特征。

在步骤230中，响应于从分类页面中抽取到正文，对正文分块，根据分块后的正文，确定分类页面为表单页面或内容页面，并根据确定的结果标记分类页面。

在本实施例中，内容页面是指详情页对应的页面；表单页面是指是指除了详情页之外的页面。这里是在正文抽取的基础上判断分类页面为表单页面或内容页面，如果无法抽取出正文，则把该页面归为表单页面类别；抽出正文之后，进行结构化，对正文进行分块，再对每一块进行表单页面-内容页面的判断，最后结合所有块对正文进行总体判断。

在这里，分块的方法可以采用现有技术或未来发展的技术中的分块方法，本申请对此不做限定。示例性地，对正文分块可以包括：根据以下一项或多项标签分类元素对正文分块：非块元素、文本元素、图片元素、格式元素、层级元素、叶子元素、标题元素和链接元素。

在这里，根据分块后的正文确定分类页面为表单页面或内容页面的方法，也可以采用现有技术或未来发展的技术中根据分块后的正文确定分类页面为表单页面或内容页面的方法，本申请对此不做限定。示例性地，可以根据以下一项或多项对分块后的正文的判断结果，确定分类页面为表单页面或内容页面：判断分块后的正文的节点是否为空节点；判断分块后的正文的节点是否可视节点；判断分块后的正文的节点是否为叶子节点；判断分块后的正文的节点是否为文本节点；判断分块后的正文的节点是否为非块节点；判断分块后的正文的节点是否为导航栏节点；判断分块后的正文的节点是否为重复结构；判断分块后的正文的节点中字符串的长度占比是否超过阈值；以及判断分块后的正文的节点是否为结构格式标签。

在步骤240中，响应于未从分类页面中抽取到正文，确定页面内容为表单页面，将表单页面作为标签，标记分类页面。

在本实施例中，若未从分类页面中抽取到正文，也即分类页面并非详情页，那么可以判定该页面内容为表单页面。

在步骤250中，对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化抽取。

在本实施例中，可以采用现有技术或未来发展的技术中的抽取方法来进行抽取。示例性地，在上述的具体抽取步骤中，正文块抽取可以采用正文块抽取工具进行抽取，输入：页面HTML源码，输出：正文块。正文内容结构化抽取可以采取相应结构化抽取工具进行抽取，对已经生成的网页正文数据，识别其中出现的子标题和分段内容，并将其整理归纳到一起，形成“标题(Title)-内容(Content)-段落(Paragraph)”文本对的数据格式，输入：正文块，输出：“Title-Content-Paragraph”文本对。图文块抽取，可以从分类页面的文档对象模型(DOM)树中抽取包含图片和文本的叶子节点，并对抽取的叶子节点进行可扩展标记语言(Xml)的路径语言(XPath)的合并和过滤，输入：页面HTML源码，输出：图文块。列表块抽取，可以从分类页面的DOM树中抽取包含超链接且是列表形式的结构或包含短文本且是列表形式的结构的叶子节点，并对抽取的叶子节点进行XPath合并和过滤，输入：页面HTML源码，输出：列表块。预定位置内容结构化，是指对指定位置的数据结构的抽取。例如，对Title节点的数据结构的抽取，以“荣誉资质”这一标题为例，在点击“荣誉资质”对应块时，结合具体知识，且具有比较明显的特征，例如位置信息，相邻节点信息以及文本信息等等，可以依据具体业务进行定制，输入：页面HTML源码，输出：指定位置结构块。

在步骤260中，根据过滤规则过滤抽取的信息，得到分类页面的专项信息。

在本实施例中，过滤规则可以为允许抽取的白名单以及禁止抽取的黑名单。这里通过过滤规则过滤抽取的信息，可以得到分类页面的专项信息，提升了数据的准确性。

在步骤270中，对分类页面的专项信息进行文本处理，得到结构化信息。

在本实施例中，进行文本处理时可以过滤杂质，挖掘可直接使用的信息。例如，对分类页面的专项信息进行文本处理，得到结构化信息可以包括以下至少一项：采用实体知识和正则规则对分类页面的专项信息进行关键片段召回，对召回的片段进行过滤和清洗，得到分类页面的关键内容；从对应专业人员页面的分类页面的专项信息中，采用命名实体识别技术抽取出专家信息；从对应优势业务页面的专项信息中，采用基于标签的关键词抽取算法(Tag-TextRank)进行短摘要抽取，得到优势业务。这里的优势业务，是企业网站希望呈现的与其它企业网站相比具有优势的业务。

本申请上述实施例提供的用于生成结构化信息的方法，细化了将分类页面分为内容页面和表单页面的方式，并且根据过滤规则过滤抽取的信息，得到分类页面的专项信息，最后对分类页面的专项信息进行文本处理，得到结构化信息。这一得到结构化信息的过程，适用于各种结构的企业网站，丰富了结构化信息所呈现的内容特征，并且基于过滤进一步提升数据的相关性，减少数据冗余，为结构化信息的后续使用带来了便利。

以下结合图3，描述本申请实施例的用于生成结构化信息的方法的示例性应用场景。

如图3所示，图3示出了根据本申请实施例的用于生成结构化信息的方法的一个应用场景的示例性结构图。

在图3中，以医疗领域为例，用于生成结构化信息的方法运行于服务器301上。首先，可以根据医院网站的所有页面内容302的特征，将其分类至预先构建的医疗信息类别，这里的医疗信息类别包括：医院介绍类别、医院专家医生类别、医院特色疗法类别等以及其它类别，从而得到医院介绍页面311、医院专家医生页面312、医院特色疗法页面313等以及其它页面31L等分类页面。之后，再将分类页面分类至内容页面，例如，将医院介绍页面分类至内容页面321和表单页面322，将医院专家医生页面312分类至内容页面323和表单页面324，将医院特色疗法页面313分类至内容页面325和表单页面326，将其它页面31L分类至内容页面32M和表单页面32N。之后，对于上述得到的内容页面321至表单页面32N的页面内容，分别进行以下抽取：进行正文块抽取，得到正文块抽取信息331；进行正文内容结构化抽取，得到正文内容结构化抽取信息332；进行图文块抽取，得到图文块抽取信息333；进行列表块抽取，得到列表块抽取信息334；进行预定位置内容结构化抽取，得到预定位置内容结构化抽取信息335。最后，可以根据上述各个页面内容321至32N分别抽取的信息331至335，构建结构化信息341。

应当理解，上述图3中所示出的用于生成结构化信息的方法，仅为用于生成结构化信息的方法的示例性实施例，并不代表对本申请的限定。例如，在根据医院网站的所有页面内容302的特征将其分类至预先构建的医疗信息类别时，预先构建的医疗信息类别还可以包括：医院荣誉资质、医院先进设备、医院案例新闻、医院联系方式等，与其相对应，得到的分类页面还可以包括：预先构建的医疗信息类别还可以包括：医院荣誉资质页面、医院先进设备页面、医院案例新闻页面、医院联系方式页面等。

本申请的上述应用场景中提供的用于生成结构化信息的方法，通过挖掘全网数据中的谣言信息，可以快速有效地发现已经存在的谣言和即将爆发的谣言，并且通过搜索引擎对辟谣进行广泛传播，有效触达搜索用户。

进一步参考图4，作为对上述方法的实现，本申请实施例提供了一种用于生成结构化信息的装置的一个实施例，该用于生成结构化信息的装置的实施例与图1至图3所示的用于生成结构化信息的方法的实施例相对应，由此，上文针对图1至图3中用于生成结构化信息的方法描述的操作和特征同样适用于用于生成结构化信息的装置400及其中包含的单元，在此不再赘述。

如图4所示，该配置用于生成结构化信息的装置400包括：页面内容抓取单元410，用于抓取预定领域的企业网站的所有页面内容；页面内容分类单元420，用于根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；分类页面标记单元430，用于将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面；标记页面抽取单元440，用于对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；结构化信息构建单元450，用于根据抽取的信息，构建结构化信息。

在本实施例的一些可选实现方式中，页面内容分类单元420中页面内容的特征包括以下一项或多项：经由以下步骤获取的URL特征：对已标注的页面样本的URL进行切分，得到URL分词，统计URL分词的特性，得到URL特征；经由以下步骤获取的锚点文本特征：对页面样本的锚点文本进行切词、过滤停用词并统计词频特性，得到锚点文本特征；经由以下步骤获取的标题特征：对页面样本的标题进行切词、过滤停用词并统计词频特性，得到标题的特征。

在本实施例的一些可选实现方式中，分类页面标记单元430包括：确定结果标记单元431，用于响应于从分类页面中抽取到正文，对正文分块，根据分块后的正文，确定分类页面为表单页面或内容页面，并根据确定的结果标记分类页面；以及表单页面标记单元432，用于响应于未从分类页面中抽取到正文，确定页面内容为表单页面，将表单页面作为标签，标记分类页面。

在本实施例的一些可选实现方式中，确定结果标记单元431进一步用于：根据以下一项或多项标签分类元素对正文分块：非块元素、文本元素、图片元素、格式元素、层级元素、叶子元素、标题元素和链接元素。

在本实施例的一些可选实现方式中，确定结果标记单元431进一步用于：根据以下一项或多项对分块后的正文的判断结果，确定分类页面为表单页面或内容页面：判断分块后的正文的节点是否为空节点；判断分块后的正文的节点是否可视节点；判断分块后的正文的节点是否为叶子节点；判断分块后的正文的节点是否为文本节点；判断分块后的正文的节点是否为非块节点；判断分块后的正文的节点是否为导航栏节点；判断分块后的正文的节点是否为重复结构；判断分块后的正文的节点中字符串的长度占比是否超过阈值；以及判断分块后的正文的节点是否为结构格式标签。

在本实施例的一些可选实现方式中，标记页面抽取单元440中的图文块抽取包括：从分类页面的DOM树中抽取包含图片和文本的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

在本实施例的一些可选实现方式中，标记页面抽取单元440中的列表块抽取包括：从分类页面的DOM树中抽取包含超链接且是列表形式的结构或包含短文本且是列表形式的结构的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

在本实施例的一些可选实现方式中，结构化信息构建单元450包括：专项信息确定单元451，用于根据过滤规则过滤抽取的信息，得到分类页面的专项信息；专项信息处理单元452，用于对分类页面的专项信息进行文本处理，得到结构化信息。

在本实施例的一些可选实现方式中，页面内容分类单元420中预先构建的企业信息的类别包括以下一项或多项：企业介绍类别、企业荣誉资质类别、企业专业人员类别、企业优势设备类别、企业优势业务类别、企业案例新闻类别、企业联系方式类别和企业优势类别。

在本实施例的一些可选实现方式中，专项信息处理单元452进一步用于以下至少一项：采用实体知识和正则规则对分类页面的专项信息进行关键片段召回，对召回的片段进行过滤和清洗，得到分类页面的关键内容；从对应专业人员页面的分类页面的专项信息中，采用命名实体识别技术抽取出专家信息；从对应优势业务页面的专项信息中，采用基于标签的关键词抽取算法进行短摘要抽取，得到优势业务。

本申请还提供了一种设备的实施例，包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上任意一项所述的用于生成结构化信息的方法。

本申请还提供了一种计算机可读存储介质的实施例，其上存储有计算机程序，该程序被处理器执行时实现如上任意一项所述的用于生成结构化信息的方法。

下面参考图5，其示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图5所示，计算机系统500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，所述计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本申请的方法中限定的上述功能。

需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个单元、程序段、或代码的一部分，所述单元、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括页面内容抓取单元、页面内容分类单元、分类页面标记单元、标记页面抽取单元和结构化信息构建单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，页面内容抓取单元还可以被描述为“抓取预定领域的企业网站的所有页面内容的单元”。

作为另一方面，本申请还提供了一种非易失性计算机存储介质，该非易失性计算机存储介质可以是上述实施例中所述装置中所包含的非易失性计算机存储介质；也可以是单独存在，未装配入终端中的非易失性计算机存储介质。上述非易失性计算机存储介质存储有一个或者多个程序，当所述一个或者多个程序被一个设备执行时，使得所述设备：抓取预定领域的企业网站的所有页面内容；根据页面内容的特征，将页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；将分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记分类页面；对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；根据抽取的信息，构建结构化信息。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (22)

1.一种用于生成结构化信息的方法，其特征在于，所述方法包括：

抓取预定领域的企业网站的所有页面内容；

根据所述页面内容的特征，将所述页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；

将所述分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记所述分类页面；

对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；

根据抽取的信息，构建结构化信息。

2.根据权利要求1所述的方法，其特征在于，所述页面内容的特征包括以下一项或多项：

经由以下步骤获取的URL特征：对已标注的页面样本的URL进行切分，得到URL分词，统计所述URL分词的特性，得到URL特征；

经由以下步骤获取的锚点文本特征：对所述页面样本的锚点文本进行切词、过滤停用词并统计词频特性，得到锚点文本特征；

经由以下步骤获取的标题特征：对所述页面样本的标题进行切词、过滤停用词并统计词频特性，得到标题的特征。

3.根据权利要求1所述的方法，其特征在于，所述将所述分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记所述分类页面包括：

响应于从所述分类页面中抽取到正文，对所述正文分块，根据分块后的正文，确定所述分类页面为表单页面或内容页面，并根据确定的结果标记所述分类页面；以及

响应于未从所述分类页面中抽取到正文，确定所述页面内容为表单页面，将所述表单页面作为标签，标记所述分类页面。

4.根据权利要求3所述的方法，其特征在于，所述对所述正文分块包括：

根据以下一项或多项标签分类元素对所述正文分块：非块元素、文本元素、图片元素、格式元素、层级元素、叶子元素、标题元素和链接元素。

5.根据权利要求3所述的方法，其特征在于，所述根据分块后的正文，确定所述分类页面为表单页面或内容页面包括：

根据以下一项或多项对分块后的正文的判断结果，确定所述分类页面为表单页面或内容页面：

判断分块后的正文的节点是否为空节点；

判断分块后的正文的节点是否可视节点；

判断分块后的正文的节点是否为叶子节点；

判断分块后的正文的节点是否为文本节点；

判断分块后的正文的节点是否为非块节点；

判断分块后的正文的节点是否为导航栏节点；

判断分块后的正文的节点是否为重复结构；

判断分块后的正文的节点中字符串的长度占比是否超过阈值；以及

判断分块后的正文的节点是否为结构格式标签。

6.根据权利要求1所述的方法，其特征在于，所述图文块抽取包括：

从所述分类页面的DOM树中抽取包含图片和文本的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

7.根据权利要求1所述的方法，其特征在于，所述列表块抽取包括：

从所述分类页面的DOM树中抽取包含超链接且是列表形式的结构或包含短文本且是列表形式的结构的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

8.根据权利要求1所述的方法，其特征在于，所述根据抽取的信息，构建结构化信息包括：

根据过滤规则过滤抽取的信息，得到所述分类页面的专项信息；

对所述分类页面的专项信息进行文本处理，得到结构化信息。

9.根据权利要求8所述的方法，其特征在于，预先构建的企业信息的类别包括以下一项或多项：企业介绍类别、企业荣誉资质类别、企业专业人员类别、企业优势设备类别、企业优势业务类别、企业案例新闻类别、企业联系方式类别和企业优势类别。

10.根据权利要求9所述的方法，其特征在于，所述对所述分类页面的专项信息进行文本处理，得到结构化信息包括以下至少一项：

采用实体知识和正则规则对所述分类页面的专项信息进行关键片段召回，对召回的片段进行过滤和清洗，得到所述分类页面的关键内容；

从对应所述专业人员页面的所述分类页面的专项信息中，采用命名实体识别技术抽取出专家信息；

从对应所述优势业务页面的所述专项信息中，采用基于标签的关键词抽取算法进行短摘要抽取，得到优势业务。

11.一种用于生成结构化信息的装置，其特征在于，所述装置包括：

页面内容抓取单元，用于抓取预定领域的企业网站的所有页面内容；

页面内容分类单元，用于根据所述页面内容的特征，将所述页面内容分类至预先构建的企业信息的类别以及其它类别，得到分类页面；

分类页面标记单元，用于将所述分类页面分为内容页面和表单页面，并将内容页面和表单页面作为标签，标记所述分类页面；

标记页面抽取单元，用于对标记后的分类页面进行以下至少一项抽取，得到抽取的信息：正文块抽取、正文内容结构化抽取、图文块抽取、列表块抽取和预定位置内容结构化；

结构化信息构建单元，用于根据抽取的信息，构建结构化信息。

12.根据权利要求11所述的装置，其特征在于，所述页面内容分类单元中所述页面内容的特征包括以下一项或多项：

经由以下步骤获取的URL特征：对已标注的页面样本的URL进行切分，得到URL分词，统计所述URL分词的特性，得到URL特征；

经由以下步骤获取的锚点文本特征：对所述页面样本的锚点文本进行切词、过滤停用词并统计词频特性，得到锚点文本特征；

经由以下步骤获取的标题特征：对所述页面样本的标题进行切词、过滤停用词并统计词频特性，得到标题的特征。

13.根据权利要求11所述的装置，其特征在于，所述分类页面标记单元包括：

确定结果标记单元，用于响应于从所述分类页面中抽取到正文，对所述正文分块，根据分块后的正文，确定所述分类页面为表单页面或内容页面，并根据确定的结果标记所述分类页面；以及

表单页面标记单元，用于响应于未从所述分类页面中抽取到正文，确定所述页面内容为表单页面，将所述表单页面作为标签，标记所述分类页面。

14.根据权利要求13所述的装置，其特征在于，所述确定结果标记单元进一步用于：

根据以下一项或多项标签分类元素对所述正文分块：非块元素、文本元素、图片元素、格式元素、层级元素、叶子元素、标题元素和链接元素。

15.根据权利要求13所述的装置，其特征在于，所述确定结果标记单元进一步用于：

根据以下一项或多项对分块后的正文的判断结果，确定所述分类页面为表单页面或内容页面：

判断分块后的正文的节点是否为空节点；

判断分块后的正文的节点是否可视节点；

判断分块后的正文的节点是否为叶子节点；

判断分块后的正文的节点是否为文本节点；

判断分块后的正文的节点是否为非块节点；

判断分块后的正文的节点是否为导航栏节点；

判断分块后的正文的节点是否为重复结构；

判断分块后的正文的节点中字符串的长度占比是否超过阈值；以及

判断分块后的正文的节点是否为结构格式标签。

16.根据权利要求11所述的装置，其特征在于，所述标记页面抽取单元中的图文块抽取包括：

从所述分类页面的DOM树中抽取包含图片和文本的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

17.根据权利要求11所述的装置，其特征在于，所述标记页面抽取单元中的列表块抽取包括：

从所述分类页面的DOM树中抽取包含超链接且是列表形式的结构或包含短文本且是列表形式的结构的叶子节点，并对抽取的叶子节点进行XPath合并和过滤。

18.根据权利要求11所述的装置，其特征在于，所述结构化信息构建单元包括：

专项信息确定单元，用于根据过滤规则过滤抽取的信息，得到所述分类页面的专项信息；

专项信息处理单元，用于对所述分类页面的专项信息进行文本处理，得到结构化信息。

19.根据权利要求18所述的装置，其特征在于，所述页面内容分类单元中预先构建的企业信息的类别包括以下一项或多项：企业介绍类别、企业荣誉资质类别、企业专业人员类别、企业优势设备类别、企业优势业务类别、企业案例新闻类别、企业联系方式类别和企业优势类别。

20.根据权利要求19所述的装置，其特征在于，所述专项信息处理单元进一步用于以下至少一项：

采用实体知识和正则规则对所述分类页面的专项信息进行关键片段召回，对召回的片段进行过滤和清洗，得到所述分类页面的关键内容；

从对应所述专业人员页面的所述分类页面的专项信息中，采用命名实体识别技术抽取出专家信息；

从对应所述优势业务页面的所述专项信息中，采用基于标签的关键词抽取算法进行短摘要抽取，得到优势业务。

21.一种设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-10中任意一项所述的用于生成结构化信息的方法。

22.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-10中任意一项所述的用于生成结构化信息的方法。