CN116028750A - 网页文本审核方法及装置、电子设备和介质 - Google Patents

Abstract

本公开提供了一种网页文本审核方法、装置、电子设备、计算机可读存储介质和计算机程序产品，涉及人工智能领域，尤其涉及自然语言处理技术领域。实现方案为：获取待审核的网页文本；将网页文本分别输入经训练的多个第一神经网络中进行语义识别，以获得多个第一神经网络各自输出的识别结果；将网页文本分别与预设的多个敏感词库进行匹配，以获得与多个敏感词库各自对应的匹配结果；以及将识别结果以及匹配结果输入经训练的第二神经网络，以获得对网页文本的审核结果。

Description

网页文本审核方法及装置、电子设备和介质

技术领域

本公开涉及人工智能领域，尤其涉及自然语言处理技术领域，具体涉及一种网页文本审核方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术

网页文本审核是指判断一个网页的文本内容是否遵循互联网、媒体等平台内容规范。相关技术中，采用人工构建词典以与网页文本进行内容匹配的方法实现网页文本审核，然而，此种方法需要人工构建覆盖范围足够大的敏感词词典，效率低且工作成本高，并且缺乏泛化能力，适用范围较小。相关技术中，还采用基于浅层模型(例如，TextCNN模型或者RNN模型)的机器学习方法进行网页文本审核。然而，此种方式所使用的模型结构较为简单，导致识别效果较差。并且，机器学习模型需要大量的人工标注数据进行模型训练，同样会耗费巨大的人工成本。

发明内容

本公开提供了一种网页文本审核方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面，提供了一种网页文本审核方法，包括：获取待审核的网页文本；将所述网页文本分别输入经训练的多个第一神经网络中进行语义识别，以获得所述多个第一神经网络各自输出的识别结果，其中，所述多个第一神经网络分别用于识别相应的预设类型的敏感内容；将所述网页文本分别与预设的多个敏感词库进行匹配，以获得与所述多个敏感词库各自对应的匹配结果，其中，所述多个敏感词库分别包括所述相应的预设类型的敏感内容；以及将所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果。

根据本公开的另一方面，提供了网页文本审核装置，包括：文本获取单元，用于获取待审核的网页文本；语义识别单元，用于将所述网页文本分别输入经训练的多个第一神经网络中进行语义识别，以获得所述多个第一神经网络各自输出的识别结果，其中，所述多个第一神经网络分别用于识别相应的预设类型的敏感内容；词库匹配单元，用于将所述网页文本分别与预设的多个敏感词库进行匹配，以获得与所述多个敏感词库各自对应的匹配结果，其中，所述多个敏感词库分别包括所述相应的预设类型的敏感内容；以及结果确定单元，用于将所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器能够执行如上所述的网页文本审核方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行如上所述的网页文本审核方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现如上所述的网页文本审核方法。

根据本公开的一个或多个实施例，提供了一种端到端的网页文本审核方法，通过对待审核网页进行文本内容抽取、文本内容审核、敏感词词库匹配和匹配结果处理，实现了端到端地对网页中的文本内容是否存在违规情况进行确定，在有效地筛选出违规敏感内容的同时，极大地提高了网页文本内容审核的效率，降低了审核成本。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图示例性地示出了实施例并且构成说明书的一部分，与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的，并不限制权利要求的范围。在所有附图中，相同的附图标记指代类似但不一定相同的要素。

图1示出了根据本公开的实施例的可以在其中实施本文描述的各种方法的示例性系统的示意图；

图2示出了根据本公开的实施例的网页文本审核方法的示意性流程图；

图3示出了根据本公开的另一实施例的网页文本审核方法的示意性流程图；

图4示出了根据本公开的实施例的对待审核的网页文本进行切片的示意性流程图；

图5示出了根据本公开的实施例的网页文本审核装置的结构框图；以及

图6示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

在本公开中，除非另有说明，否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系，这种术语只是用于将一个元件与另一元件区分开。在一些示例中，第一要素和第二要素可以指向该要素的同一实例，而在某些情况下，基于上下文的描述，它们也可以指代不同实例。

在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的，而并非旨在进行限制。除非上下文另外明确地表明，如果不特意限定要素的数量，则该要素可以是一个也可以是多个。此外，本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。

下面将结合附图详细描述本公开的实施例。

图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性系统100的示意图。参考图1，该系统100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。

在本公开的实施例中，服务器120可以运行使得能够执行网页文本审核方法的一个或多个服务或软件应用。

在某些实施例中，服务器120还可以提供其他服务或软件应用，这些服务或软件应用可以包括非虚拟环境和虚拟环境。在某些实施例中，这些服务可以作为基于web的服务或云服务提供，例如在软件即服务(SaaS)模型下提供给客户端设备101、102、103、104、105和/或106的用户。

在图1所示的配置中，服务器120可以包括实现由服务器120执行的功能的一个或多个组件。这些组件可以包括可由一个或多个处理器执行的软件组件、硬件组件或其组合。操作客户端设备101、102、103、104、105和/或106的用户可以依次利用一个或多个客户端应用程序来与服务器120进行交互以利用这些组件提供的服务。应当理解，各种不同的系统配置是可能的，其可以与系统100不同。因此，图1是用于实施本文所描述的各种方法的系统的一个示例，并且不旨在进行限制。

用户可以使用客户端设备101、102、103、104、105和/或106来对网页文本进行审核。客户端设备可以提供使客户端设备的用户能够与客户端设备进行交互的接口。客户端设备还可以经由该接口向用户输出信息。尽管图1仅描绘了六种客户端设备，但是本领域技术人员将能够理解，本公开可以支持任何数量的客户端设备。

客户端设备101、102、103、104、105和/或106可以包括各种类型的计算机设备，例如便携式手持设备、通用计算机(诸如个人计算机和膝上型计算机)、工作站计算机、可穿戴设备、智能屏设备、自助服务终端设备、服务机器人、游戏系统、瘦客户端、各种消息收发设备、传感器或其他感测设备等。这些计算机设备可以运行各种类型和版本的软件应用程序和操作系统，例如MICROSOFT Windows、APPLE iOS、类UNIX操作系统、Linux或类Linux操作系统(例如GOOGLE Chrome OS)；或包括各种移动操作系统，例如MICROSOFT WindowsMobile OS、iOS、Windows Phone、Android。便携式手持设备可以包括蜂窝电话、智能电话、平板电脑、个人数字助理(PDA)等。可穿戴设备可以包括头戴式显示器(诸如智能眼镜)和其他设备。游戏系统可以包括各种手持式游戏设备、支持互联网的游戏设备等。客户端设备能够执行各种不同的应用程序，例如各种与Internet相关的应用程序、通信应用程序(例如电子邮件应用程序)、短消息服务(SMS)应用程序，并且可以使用各种通信协议。

网络110可以是本领域技术人员熟知的任何类型的网络，其可以使用多种可用协议中的任何一种(包括但不限于TCP/IP、SNA、IPX等)来支持数据通信。仅作为示例，一个或多个网络110可以是局域网(LAN)、基于以太网的网络、令牌环、广域网(WAN)、因特网、虚拟网络、虚拟专用网络(VPN)、内部网、外部网、区块链网络、公共交换电话网(PSTN)、红外网络、无线网络(例如蓝牙、WIFI)和/或这些和/或其他网络的任意组合。

服务器120可以包括一个或多个通用计算机、专用服务器计算机(例如PC(个人计算机)服务器、UNIX服务器、中端服务器)、刀片式服务器、大型计算机、服务器群集或任何其他适当的布置和/或组合。服务器120可以包括运行虚拟操作系统的一个或多个虚拟机，或者涉及虚拟化的其他计算架构(例如可以被虚拟化以维护服务器的虚拟存储设备的逻辑存储设备的一个或多个灵活池)。在各种实施例中，服务器120可以运行提供下文所描述的功能的一个或多个服务或软件应用。

服务器120中的计算单元可以运行包括上述任何操作系统以及任何商业上可用的服务器操作系统的一个或多个操作系统。服务器120还可以运行各种附加服务器应用程序和/或中间层应用程序中的任何一个，包括HTTP服务器、FTP服务器、CGI服务器、JAVA服务器、数据库服务器等。

在一些实施方式中，服务器120可以包括一个或多个应用程序，以分析和合并从客户端设备101、102、103、104、105和106的用户接收的数据馈送和/或事件更新。服务器120还可以包括一个或多个应用程序，以经由客户端设备101、102、103、104、105和106的一个或多个显示设备来显示数据馈送和/或实时事件。

在一些实施方式中，服务器120可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器120也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。云服务器是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大、业务扩展性弱的缺陷。

系统100还可以包括一个或多个数据库130。在某些实施例中，这些数据库可以用于存储数据和其他信息。例如，数据库130中的一个或多个可用于存储诸如网页文本的信息。数据库130可以驻留在各种位置。例如，由服务器120使用的数据库可以在服务器120本地，或者可以远离服务器120且可以经由基于网络或专用的连接与服务器120通信。数据库130可以是不同的类型。在某些实施例中，由服务器120使用的数据库例如可以是关系数据库。这些数据库中的一个或多个可以响应于命令而存储、更新和检索到数据库以及来自数据库的数据。

在某些实施例中，数据库130中的一个或多个还可以由应用程序使用来存储应用程序数据。由应用程序使用的数据库可以是不同类型的数据库，例如键值存储库，对象存储库或由文件系统支持的常规存储库。

图1的系统100可以以各种方式配置和操作，以使得能够应用根据本公开所描述的各种方法和装置。

网页文本审核是指判断一个网页的文本内容是否遵循互联网、媒体等平台内容规范。相关技术中，采用人工构建词典以与网页文本进行内容匹配的方法实现网页文本审核，然而，此种方法需要人工构建覆盖范围足够大的敏感词词典，效率低且工作成本高，并且缺乏泛化能力，适用范围较小。相关技术中，还采用基于浅层模型(例如，TextCNN模型或者RNN模型)的机器学习方法进行网页文本审核。然而，此种方式所使用的模型结构较为简单，导致识别效果较差。并且，机器学习模型需要大量的人工标注数据进行模型训练，同样会耗费巨大的人工成本。

为此，图2示出了根据本公开的实施例的网页文本审核方法的示意性流程图。可以利用图1中示出的客户端或服务器实现图2中的方法200。

如图2所示，根据本公开的实施例提供了一种网页文本审核方法200，包括：获取待审核的网页文本(步骤210)；将网页文本分别输入经训练的多个第一神经网络中进行语义识别，以获得多个第一神经网络各自输出的识别结果，其中，多个第一神经网络分别用于识别相应的预设类型的敏感内容(步骤220)；将网页文本分别与预设的多个敏感词库进行匹配，以获得与多个敏感词库各自对应的匹配结果，其中，多个敏感词库分别包括相应的预设类型的敏感内容(步骤230)；以及将识别结果以及匹配结果输入经训练的第二神经网络，以获得对网页文本的审核结果(步骤240)。

根据本公开的实施例提供了一种端到端的网页文本审核方法，通过对待审核网页进行文本内容抽取、文本内容审核、敏感词词库匹配和匹配结果处理，实现了端到端地对网页中的文本内容是否存在违规情况进行确定，在有效地筛选出违规敏感内容的同时，极大地提高了网页文本内容审核的效率，降低了审核成本。

图3示出了根据本公开的另一实施例的网页文本审核方法300的示意性流程图。

需要说明的是，方法200与方法300的区别在于，方法300中是对网页文本切片后对文本切片进行内容审核，但是应当理解，以下对方法300中各个步骤的说明同样可以适用于方法200中的相应步骤。

根据一些实施例，如图3所示，根据本公开的另一实施例提供了一种网页文本审核方法300，包括：获取待审核的网页文本(步骤310)；对待审核的网页文本进行切片以获得多个文本切片(步骤320)；对于多个文本切片中的每一个文本切片，将该文本切片分别输入经训练的多个第一神经网络中，以获得多个第一神经网络各自输出的与该文本切片相对应的识别结果(步骤330)；对于多个文本切片中的每一个文本切片，将该文本切片分别与预设的多个敏感词库进行匹配，以获得与多个敏感词库各自对应的与该文本切片相对应的匹配结果(步骤340)；以及将多个文本切片分别对应的识别结果以及匹配结果输入经训练的第二神经网络，以获得对网页文本的审核结果(步骤350)。

在步骤310，获取待审核的网页文本。

在一些实施例中，待审核的网页文本数据存储在如图1所示的数据库130中，可以直接从数据130中提取网页文本进行审核。在一些实施例中，也可以通过网络爬取的方式获取网络中任意网页的文本数据作为待审核的网页文本，对此不作限制。

在步骤320，对待审核的网页文本进行切片以获得多个文本切片。

在一些实施例中，一个网页可以包括多种类型的文本数据。例如，一个新闻网站的首页可能包括“体育新闻”板块、“娱乐新闻”板块和“财经新闻”板块等。而对于不同板块中的文本内容，其对应的敏感词库也不同。基于此，可以根据不同类型的板块对网页文本进行切片，然后针对不同的文本切片进行相应的审核处理，从而能够降低文本识别的难度的，同时也能够提高审核效率和审核效果。

图4示出了根据本公开实施例的对待审核的网页文本进行切片的示意性流程图。

根据一些实施例，如图4所示，步骤320包括：获取待审核的网页文本所对应的超文本标记语言文档(步骤421)；获取超文本标记语言文档中的网页正文节点对应的第一文本内容，对第一文本内容进行切片，以获得一个或多个文本切片(步骤422)；以及获取超文本标记语言文档中的标题节点对应的第二文本内容，以将第二文本内容作为一个文本切片与一个或多个文本切片作为所获得的多个文本切片(步骤423)。

在一些实施例中，对于获取到的超文本标记语言(HTML，Hyper Text MarkupLanguage)文档，可以先使用正则表达式去除CSS(层叠样式表，Cascading Style Sheets)和JS(一种计算机编程语言，JavaScript)中的脚本和标签，以去除与网页文本无关的数据内容，从而能够更有效地进行网页文本抽取。

在一些示例中，可以使用etree包(一种用于从HTML源码中进行数据提取的工具包)将网页超文本标记语言(HTML，Hyper Text Markup Language)文档的源码加载到树结构中，以获取文档中的head节点(标题节点)和body节点(正文节点)。并且基于此，可以将head节点内的文本内容作为上述第二文本内容。

根据一些实施例，步骤422包括：获取网页正文节点下的div(分块)节点、h1(标题标签)节点、table(表格)节点和header(文档头部)节点各自对应的文本内容，以基于所获取的div节点、h1节点、table节点和header节点所对应的文本内容进行切片，以获得一个或多个文本切片。

在一些示例中，从树结构中获取到body节点后，可以获取body节点下的所有div节点、h1节点、table节点和header节点，并分别获取每个节点内的文本内容作为上述第二文本内容进行切片，从而能够获得一个或多个文本切片。

在一些实施例中，由于正文节点通常是从相应的标题节点中延伸出来的分支，因此，也可以将同一标题节点下的多个正文节点对应的文本切片合并为同一文本切片，或者，同一标题节点下的多个正文节点对应的文本切片与该标题对应的文本切片共同合并为同一文本切片，以降低后续的数据处理难度，进一步提高审核效率。

应当理解，上述对网页文本进行切片的示例流程仅作举例说明之用，并不因此将其限制于此。

在步骤330，对于多个文本切片中的每一个文本切片，将该文本切片分别输入经训练的多个第一神经网络中，以获得多个第一神经网络各自输出的与该文本切片相对应的识别结果。

在一些实施例中，上述第一神经网络模型包括预训练的ERNIE模型(知识增强语义表示模型，Enhanced Representation from Knowledge Integration)。ERNIE模型的训练数据包括超大规模数据中的词、实体以及实体之间的关系，从而很好地学习到真实世界中的语义知识，能够适用于需要进行文本语义理解的场景。

在一些示例中，只需根据使用少量的人工标注数据对预训练的ERNIE模型进行微调，就能够得到效果优异的任务定制化ERNIE模型，以直接使用ERNIE模型实现对本公开实施例中的文本切片进行文本识别。

在一些示例中，敏感内容包括三种类型，分别为A类敏感内容、B类敏感内容和C类敏感内容。可以针对不同的敏感内容类型分别对三个ERNIE模型的进行微调，以得到每类敏感内容对应的一个ERNIE模型。

需要说明的是，本公开不对敏感内容的类型和数量作具体限制。

在一些示例中，上述识别结果包括针对文本切片进行敏感内容相关程度的打分。例如，ERNIE模型为二分类模型，输出为0或1，其中，0表示当前处理的文本切片与ERNIE模型相应的敏感内容不相关，1表示当前处理的文本切片与ERNIE模型相应的敏感内容相关。

需要说明的是，上述二分类模型和打分方式仅作举例说明之用，并不因此将其限制于此。

在一些实施例中，也可以使用ERNIE模型处理部分文本切片，以得到第一识别数据，利用第一识别数据训练相应的TextCNN二分类模型，以利用训练得到的TextCNN二分类模型对剩余文本切片进行文本识别处理。基于此，能够将大模型(ERNIE)的能力蒸馏到小模型(TexrCNN)中，以得到预测效果与大模型持平但预测速度远高于大模型的小模型，从而进一步提高网页文本审核的数据处理效率。

在步骤340，对于多个文本切片中的每一个文本切片，将该文本切片分别与预设的多个敏感词库进行匹配，以获得与多个敏感词库各自对应的与该文本切片相对应的匹配结果。

在一些实施例中，敏感词库的类型与第一神经网络对应的敏感类型相对应。例如，多个第一神经网络分别对应上述三类敏感内容，则敏感词库对应地包括A类敏感词库、B类敏感词库和C类敏感词库。

应当理解，此处敏感词库的数量和类型仅作举例说明之用，并不因此将其限制于此。

在一些实施例中，使用AC自动机(一种多模匹配算法，Aho-Corasick automaton)来识别文本切片中包括的敏感词。

需要说明的是，文本切片与敏感词库之间的匹配结果可能并非一一对应的。例如，一个文本切片可能与多个敏感词库相匹配，对此不作限制。

在步骤350，将多个文本切片分别对应的识别结果以及匹配结果输入经训练的第二神经网络，以获得对网页文本的审核结果。

根据一些实施例，步骤350包括：将网页文本统计信息、识别结果以及匹配结果输入经训练的第二神经网络，以获得对网页文本的审核结果，其中网页文本统计信息包括以下项中的至少一项：待审核的网页文本的文本切片数量、待审核的网页文本的总文本长度。

根据一些实施例，上述识别结果包括以下项中的至少一项：每个文本切片所对应的每个类型的敏感内容的评分、多个文本切片所对应的每个类型的敏感内容的平均评分；以及

上述匹配结果包括：多个文本切片在每个敏感词库中匹配到的相应类型敏感词的总数量。

需要说明的是，可以对第二神经网络输入的特征的类型和数量进行设置，对此不作具体限制。

在一些实施例中，上述第二神经网络可以包括XGBoost模型。利用XGBoost模型将上述识别结果和匹配结果进行特征合并，从而能够得到对于网页文本整体的审核结果。例如，XGBoost模型的输入可以为待审核的网页文本的文本切片数量、多个文本切片所对应的每个类型的敏感内容的平均评分和多个文本切片在每个敏感词库中匹配到的相应类型敏感词的总数量，输出可以为1或0，其中，1表示待审核网页为违规网页，0表示待审核网页为正常网页。

应当理解，上述模型的类型、输入输出的类型和数量仅作举例说明之用，并不因此将其限制于此。

根据本公开的实施例，还提供了一种网页文本审核装置500，如图5所示，包括：文本获取单元510，用于获取待审核的网页文本；语义识别单元520，用于将网页文本分别输入经训练的多个第一神经网络中进行语义识别，以获得多个第一神经网络各自输出的识别结果，其中，多个第一神经网络分别用于识别相应的预设类型的敏感内容；词库匹配单元530，用于将网页文本分别与预设的多个敏感词库进行匹配，以获得与多个敏感词库各自对应的匹配结果，其中，多个敏感词库分别包括相应的预设类型的敏感内容；以及结果确定单元540，用于将识别结果以及匹配结果输入经训练的第二神经网络，以获得对网页文本的审核结果。

这里，网页文本审核装置500的上述各单元510～540的操作分别与前面描述的步骤210～240的操作类似，在此不再赘述。

根据本公开的示例性实施例，还提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述网页文本审核方法。

根据本公开的示例性实施例，还提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行上述网页文本审核方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现上述网页文本审核方法。

参考图6，现将描述可以作为本公开的服务器或客户端的电子设备600的结构框图，其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示，电子设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM603中，还可存储电子设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

电子设备600中的多个部件连接至I/O接口605，包括：输入单元606、输出单元607、存储单元608以及通信单元609。输入单元606可以是能向电子设备600输入信息的任何类型的设备，输入单元606可以接收输入的数字或字符信息，以及产生与电子设备的用户设置和/或功能控制有关的键信号输入，并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元607可以是能呈现信息的任何类型的设备，并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元608可以包括但不限于磁盘、光盘。通信单元609允许电子设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据，并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组，例如蓝牙设备、802.11设备、WiFi设备、WiMa6设备、蜂窝通信设备和/或类似物。

计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如方法666。例如，在一些实施例中，方法666可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到电子设备600上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的方法666的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法666。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、互联网和区块链网络。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

虽然已经参照附图描述了本公开的实施例或示例，但应理解，上述的方法、系统和设备仅仅是示例性的实施例或示例，本发明的范围并不由这些实施例或示例限制，而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外，可以通过不同于本公开中描述的次序来执行各步骤。进一步地，可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进，在此描述的很多要素可以由本公开之后出现的等同要素进行替换。

Claims (15)

1.一种网页文本审核方法，包括：

获取待审核的网页文本；

将所述网页文本分别输入经训练的多个第一神经网络中进行语义识别，以获得所述多个第一神经网络各自输出的识别结果，其中，所述多个第一神经网络分别用于识别相应的预设类型的敏感内容；

将所述网页文本分别与预设的多个敏感词库进行匹配，以获得与所述多个敏感词库各自对应的匹配结果，其中，所述多个敏感词库分别包括所述相应的预设类型的敏感内容；以及

将所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果。

2.如权利要求1所述的方法，还包括：对所述待审核的网页文本进行切片以获得多个文本切片，并且其中，

将所述网页文本分别输入经训练的多个第一神经网络中以进行语义识别以获得所述多个第一神经网络各自输出的识别结果包括：对于所述多个文本切片中的每一个文本切片，将该文本切片分别输入经训练的多个第一神经网络中，以获得所述多个第一神经网络各自输出的与该文本切片相对应的识别结果，

将所述网页文本分别与预设的多个敏感词库进行匹配以获得与所述多个敏感词库各自对应的匹配结果包括：对于所述多个文本切片中的每一个文本切片，将该文本切片分别与预设的多个敏感词库进行匹配，以获得与所述多个敏感词库各自对应的与该文本切片相对应的匹配结果，以及

将所述识别结果以及所述匹配结果输入经训练的第二神经网络包括：将所述多个文本切片分别对应的所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果。

3.如权利要求2所述的方法，其中，对所述待审核的网页文本进行切片以获得多个文本切片包括：

获取所述待审核的网页文本所对应的超文本标记语言文档；

获取所述超文本标记语言文档中的网页正文节点对应的第一文本内容，以对所述第一文本内容进行切片，以获得一个或多个文本切片；以及

获取所述超文本标记语言文档中的标题节点对应的第二文本内容，以将所述第二文本内容作为一个文本切片与所述一个或多个文本切片作为所获得的所述多个文本切片。

4.如权利要求3所述的方法，其中，获取所述超文本标记语言文档中的网页正文节点对应的第一文本内容以对所述第一文本内容进行切片包括：

获取所述网页正文节点下的div节点、h1节点、table节点和header节点各自对应的文本内容，以基于所获取的所述div节点、h1节点、table节点和header节点所对应的文本内容进行切片，以获得所述一个或多个文本切片。

5.如权利要求2所述的方法，其中，将所述识别结果以及所述匹配结果输入经训练的第二神经网络以获得对所述网页文本的审核结果包括：

将网页文本统计信息、所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果，其中所述网页文本统计信息包括以下项中的至少一项：所述待审核的网页文本的文本切片数量、所述待审核的网页文本的总文本长度。

6.如权利要求2或5所述的方法，其中，

所述识别结果包括以下项中的至少一项：每个文本切片所对应的每个类型的敏感内容的评分、所述多个文本切片所对应的每个类型的敏感内容的平均评分，并且其中，

所述匹配结果包括：所述多个文本切片在每个敏感词库中匹配到的相应类型敏感词的总数量。

7.一种网页文本审核装置，包括：

文本获取单元，用于获取待审核的网页文本；

语义识别单元，用于将所述网页文本分别输入经训练的多个第一神经网络中进行语义识别，以获得所述多个第一神经网络各自输出的识别结果，其中，所述多个第一神经网络分别用于识别相应的预设类型的敏感内容；

词库匹配单元，用于将所述网页文本分别与预设的多个敏感词库进行匹配，以获得与所述多个敏感词库各自对应的匹配结果，其中，所述多个敏感词库分别包括所述相应的预设类型的敏感内容；以及

结果确定单元，用于将所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果。

8.如权利要求7所述的装置，还包括：

文本切片单元，用于对所述待审核的网页文本进行切片以获得多个文本切片，并且其中，

所述语义识别单元包括语义识别子单元，所述语义识别子单元用于：对于所述多个文本切片中的每一个文本切片，将该文本切片分别输入经训练的多个第一神经网络中，以获得所述多个第一神经网络各自输出的与该文本切片相对应的识别结果，

所述词库匹配单元包括词库匹配子单元，所述词库匹配子单元用于：对于所述多个文本切片中的每一个文本切片，将该文本切片分别与预设的多个敏感词库进行匹配，以获得与所述多个敏感词库各自对应的与该文本切片相对应的匹配结果，以及

所述结果确定单元包括结果确定子单元，所述结果确定子单元用于：将所述多个文本切片分别对应的所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果。

9.如权利要求8所述的装置，其中，文本切片单元包括：

文档获取子单元，用于获取所述待审核的网页文本所对应的超文本标记语言文档；

第一切片子单元，用于获取所述超文本标记语言文档中的网页正文节点对应的第一文本内容，以对所述第一文本内容进行切片，以获得一个或多个文本切片；以及

第二切片子单元，用于获取所述超文本标记语言文档中的标题节点对应的第二文本内容，以将所述第二文本内容作为一个文本切片与所述一个或多个文本切片作为所获得的所述多个文本切片。

10.如权利要求9所述的装置，其中，文档获取子单元包括：

节点获取子单元，用于获取所述网页正文节点下的div节点、h1节点、table节点和header节点各自对应的文本内容，以基于所获取的所述div节点、h1节点、table节点和header节点所对应的文本内容进行切片，以获得所述一个或多个文本切片。

11.如权利要求8所述的装置，其中，结果确定单元包括：

结果确定子单元，用于将网页文本统计信息、所述识别结果以及所述匹配结果输入经训练的第二神经网络，以获得对所述网页文本的审核结果，其中所述网页文本统计信息包括以下项中的至少一项：所述待审核的网页文本的文本切片数量、所述待审核的网页文本的总文本长度。

12.如权利要求8或11所述的装置，其中，

所述识别结果包括以下项中的至少一项：每个文本切片所对应的每个类型的敏感内容的评分、所述多个文本切片所对应的每个类型的敏感内容的平均评分，并且其中，

所述匹配结果包括：所述多个文本切片在每个敏感词库中匹配到的相应类型敏感词的总数量。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。

15.一种计算机程序产品，包括计算机程序，其中，所述计算机程序在被处理器执行时实现权利要求1-6中任一项所述的方法。

Images