CN115330337A - 数据内容的处理方法、装置、电子设备及存储介质 - Google Patents

Abstract

本公开提供了一种数据内容的处理方法、装置、电子设备及存储介质，涉及计算机技术领域，尤其涉及数据内容的审核管理技术领域。具体实现方案为：展示审核策略的上线配置界面；响应于上线配置界面中的信息输入操作，确定新增审核策略的使用参数；响应于为目标审核环节配置新增审核策略的配置操作，确定在目标审核环节中、基于使用参数调用新增审核策略进行数据内容审核。当新审核策略上线时，通过可视化的上线配置实现审核策略的灵活上线，由此能够灵活适应不断变化的审核策略。还可以通过可视化操作将新增审核策略配置给目标审核环节，以进行数据内容审核，由此，通过可视化配置操作能够提高审核管理的效率。

Description

数据内容的处理方法、装置、电子设备及存储介质

技术领域

本公开涉及计算机技术领域，尤其涉及数据内容的审核管理技术领域。

背景技术

数据内容通过指定渠道发布到网络上时往往需要审核。例如短视频在发布之前需要通过短视频平台的审核，审核通过之后该短视频方可发布到网上。审核方式可包括机器审核，有必要的情况下还可以通过人工审核方式进行审核。但无论是机器审核还是人工审核，不同数据内容的发布方，对数据内容的审核方式有着不同的要求，且机器审核方式和人工审核方式所采用的审核策略也有很多种、且审核策略也总有更新。采用硬编码的方式实现发布方的要求导致审核管理复杂且耗时较长。

发明内容

本公开提供了一种数据内容的处理方法、装置、电子设备及存储介质。

根据本公开的第一方面，提供了一种数据内容的处理方法，包括：

展示审核策略的上线配置界面；

响应于上线配置界面中的信息输入操作，确定新增审核策略的使用参数；

响应于为目标审核环节配置新增审核策略的配置操作，确定在目标审核环节中、基于使用参数调用新增审核策略进行数据内容审核。

根据本公开的第二方面，提供了一种数据内容的处理装置，包括：

展示模块，用于展示审核策略的上线配置界面；

配置模块，用于响应于上线配置界面中的信息输入操作，确定新增审核策略的使用参数；

确定模块，用于响应于为目标审核环节配置新增审核策略的配置操作，确定在目标审核环节中、基于使用参数调用新增审核策略进行数据内容审核。

根据本公开的第三方面，提供了一种电子设备，包括：

至少一个处理器；以及

与该至少一个处理器通信连接的存储器；其中，

该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行前述第一方面的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使该计算机执行前述第一方面的方法。

根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现前述第一方面的方法。

本实施例提供的方案，当新审核策略上线时，通过可视化的上线配置界面，可实现对审核策略的灵活配置，实现审核策略的灵活上线，由此能够灵活适应不断变化的审核策略。此外，还可以通过可视化操作将新增审核策略配置给目标审核环节，以便于该目标审核环节能够使用新增审核策略进行数据内容审核，由此，通过可视化配置操作能够提高审核管理的效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是本公开一实施例的数据内容的处理方法的流程示意图；

图2是本公开一实施例的新增审核策略的上线配置界面的示意图；

图3是本公开一实施例的审核流程进行可视化配置的流程示意图；

图4是本公开一实施例的审核流程配置界面的示意图；

图5是本公开一实施例的审核环节配置审核策略的界面示意图；

图6是本公开一实施例的多种审核策略并行执行的流程示意图；

图7是本公开一实施例提供的配置策略组的界面示意图；

图8是本公开一实施例基于阻塞参数审核待发布数据的流程示意图；

图9是本公开一实施例配置新增审核策略的使用条件的界面示意图；

图10是本公开一实施例为基于使用条件使用目标审核策略审核待发布数据的流程示意图；

图11是本公开一实施例的断言判断方式确定是否采用审核策略的示意图；

图12是本公开一实施例的更新审核策略后进行回滚的流程示意图；

图13是本公开一实施例数据内容审核所需的字段进行可视化配置的流程示意图；

图14是本公开一实施例一种字段配置界面的示意图；

图15是本公开一实施例的人工审核分区进行可视化配置的流程示意图；

图16是本公开一实施例的分区配置界面的示意图；

图17是本公开一实施例的待发布数据分配到默认分区的处理流程示意图；

图18是本公开一实施例的仿真校验审核流程的流程示意图；

图19是本公开一实施例提供的采用测试数据编辑界面进行仿真校验的界面示意图；

图20是本公开一实施例数据内容的处理方法的框架示意图；

图21是本公开一实施例提供的产品线配置界面的示意图；

图22a是本公开一实施例的数据内容的管理方法的另一流程示意图；

图22b是本公开一实施例的数据内容的管理方法的另一流程示意图

图23是本公开一实施例的一种数据内容的处理装置的结构示意图；

图24是本公开一实施例的另一种数据内容的处理装置的另一结构示意图；

图25是用来实现本公开实施例的数据内容的处理方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

本公开的说明书实施例和权利要求书的术语“第一”和“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元。方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

内容发布平台例如短视频发布平台、影视娱乐节目等多媒体内容发布平台。这些平台对接发布方，基于发布方的要求或内容发布规范对数据内容进行审核，审核通过的数据内容方可发布到网络上。

在数据内容审核管理方面，为了提高审核管理的效率，本公开实施例提供一种数据内容的处理方法，该方法可以应用于内容发布平台，内容发布平台可依赖于电子设备实现，该电子设备包括但不限于固定设备和/或移动设备，固定设备包括但不限于服务器，服务器可以是云服务器或普通服务器，移动设备如手机、平板电脑等。

如图1所示为本公开实施例提供的数据内容的处理方法的流程示意图，包括：

S101，展示审核策略的上线配置界面。

S102，响应于上线配置界面中的信息输入操作，确定新增审核策略的使用参数。

S103，响应于为目标审核环节配置新增审核策略的配置操作，确定在目标审核环节中、基于使用参数调用新增审核策略进行数据内容审核。

由此可见，本公开实施例中当新审核策略上线时，用户在上线配置界面输入信息即可完成对新增审核策略的上线配置。由此，针对任一新增审核策略，通过可视化的上线配置界面，可实现对审核策略的灵活配置，实现审核策略的灵活上线，由此能够灵活适应不断变化的审核策略，提高审核管理的效率。本公开实施例中不仅支持本地开发的审核策略，还可兼容第三方开发的审核策略。通过可视化的上线配置新增审核策略，相较于硬编码实现审核策略上线，本公开实施例新增策略的上线配置直观、简单方便。此外，不光新增审核策略的上线可以实现可视化配置，本公开实施例中，还可以通过可视化操作将新增审核策略配置给目标审核环节，以便于该目标审核环节能够使用新增审核策略进行数据内容审核，由此，通过可视化配置操作能够提高审核管理的效率。

在一些实施方式中，新增审核策略的使用参数包括以下至少一种：新增审核策略的调用路径、调用参数、调用方式、审核结果返回规则以及超时时间等。其中：

调用路径，用于指示新增审核策略的路径，以便于通过该路径调用审核策略；

调用参数，用于指示调用新增审核策略所需的参数；

调用方式，用于指示新增审核策略的调用方式，调用方式可包括POST(发送)方式或GET(获取)方式等。

除了上述使用参数可配置外，还可以根据业务需求配置更多的使用参数。如图2所示，为新增审核策略的上线配置界面的示意图。

图2中的“策略标识”配置项，能够可视化的配置新增审核策略的策略名称；

图2中的“策略标识”这一配置项，能够可视化的配置新增审核策略的唯一标识；

图2中的“适用业务”这一配置项，能够可视化的配置新增审核策略能够适用的业务数据类型。业务数据类型如图2所示可包括图文、视频、直播、语言和评论文本等。

除此之外，通过图2中的“依赖字段选取”这一配置项，能够可视化的配置该审核策略依赖哪个或哪几个字段实现。

图2中“是否第三方服务”这一配置项，用于标记新增审核策略是本地开发的策略还是第三方接入的策略。以便于对审核策略进行追踪溯源。

此外，如图2所示，本公开实施例中，“请求头信息”这一配置项中，用于可视化的配置新增审核策略的调用路径以及策略类型。

图2中“请求方式”这一配置项，用于可视化的配置新增审核策略的调用方式是POST方式还是其他方式。

图2中“超时时间”这一配置项、可以配置新增审核策略的超时时间，该超时时间定义了多长时间未返回结果则审核策略执行失败。

图2的“调用参数”这一配置项，能够可视化的定义调用审核策略所需的参数。例如，图2中定义了待发布数据的路径url(Uniform Resource Locator，统一资源定位符)以及参数类型为String。此外，对调用参数进行配置时，还可根据规范要求增加调用参数。

图2的“返回结果规则”这一配置项，用于配置新增审核策略的审核结果的返回规则。可包括审核策略执行成功时返回的结果，和执行失败时返回的结果。

由此可见，本公开实施例中，任意审核策略上线时，均可以根据可视化的上线配置界面确定审核策略的关键使用参数，可视化界面能够简化对关键使用参数的配置操作，使得审核策略的上线配置简单灵活。

在一些实施例中，前述目标审核环节为审核流程中的审核环节之一。本公开实施例中不仅上线审核策略能够可视化配置，还可以对审核流程进行可视化配置。例如，可实施为如图3所示，包括以下步骤：

S301,在确定接入目标业务的情况下，响应于对包括目标审核环节在内的多个审核环节的选择操作，确定审核流程中包括的多个审核环节。

S302，针对每个审核环节，响应于为审核环节配置下一审核环节的操作，确定审核环节在审核流程中的执行顺序。

也即，本公开实施例中可配置不同审核环节之间的依赖关系，由此可确定不同审核环节的执行顺序。

S303，基于各审核环节的执行顺序，生成目标业务的审核流程。

如图4所示，为本公开实施例提供的一种审核流程配置界面的示意图。如图4所示，每个审核环节可单独配置。例如：

图4中“审核环节”这一配置项可选择具体的审核环节类型，可配置审核环节为安全机审或其他审核环节、例如同步机审、安全人审(即安全人工审核环节)等，具体的审核环节可基于业务需求设置，均是用于本公开实施例。

图4中“依赖服务”这一配置项，可配置该审核环节依赖的服务，例如依赖物料库执行还是语料库执行。其中物料库和语料库是预先配置的好的，物料库用于存储物料信息，物料信息用于记录数据内容发布方的信息、语料库用于存储一些设置好的语料。

图4中的“词表策略类型”这一配置项，在目标业务需要使用词表策略时进行配置，可以为目标业务选择适用的词表策略类型，具体的词表策略类型可根据业务需要配置，本公开实施例对此不作限定。需要说明的是，目标业务可选择一种或多种词表策略类型。

如图4所示，“通过”这一配置项，可以配置审核环节审核通过之后执行的操作是回调还是继续送审。如果回调的话则将审核结果返回给调用该审核环节的业务方，如果送审的话则送审到下一审核环节。

如图4所示，“送审”这一配置项，可配置当前审核环节审核结束之后是否送审到下一审核环节。

本公开实施例中，在“通过”配置项下可以选择“回调”、同时在“送审”配置项下可以选择送审，这样实现了审核通过的情况下即回调又送审。当然，也可以在“通过”和“送审”配置项下都选择“送审”，最终的结果是，在审核通过的情况下送审。

图4中“送审环节”这一配置项，用于配置下一审核环节，由此可确定不同审核环节的执行顺序。如图4所示配置的下一审核环节为“安全人审”。相应的如图4所示下方虚线框中的内容，也对应配置了“安全人审”相关的信息。“安全人审”环节的配置项和“安全机审”相同，实施时，可以根据安全人审的要求进行配置，本公开实施例对此不再赘述。

如图4所示，“拒绝”这一配置项，配置了待发布数据未通过当前审核环节的情况下的操作，其中回调指将审核结果反馈给业务方，送审指将交由下一审核环节继续审核。

需要说明的是，同一审核流程中机审环节和人审环节的数量不受限，且人审环节结束后还仍可交由机审环节执行。如图4所示，“安全人审”环节的“送审环节”为结束，则说明审核到此为止，当将该“送审环节”配置为“安全机审”则可以继续返回执行“安全机审”环节的操作。由此能够实现安全机审环节和安全人审环节的循环。

综上，通过可视化的配置实现下一审核环节依赖上一审核环节执行，由此实现审核环节之间的依赖关系。

此外，本公开实施例中，如图4所示，通过“新增”这一配置项，可以增加新的审核环节。可视化的配置审核流程相对于硬编码实现审核流程，耗时端、管理简单且对人员的专业要求低。减少跨部门协商合作，能够缩短审核流程的上线周期，节约时间成本。

本公开实施例中通过审核流程可视化配置，使得对数据内容审核的管理工作更加直观和便捷，提升了数据内容的审核管理的效率。

在一些实施例中，配置好审核环节之后，每个审核环节采用的审核策略可以通过图4示例的可视面界面进行配置。例如，可如图4中“词表策略类型”的配置。

当然，在另一个实施例中，还可以提供额外的审核环节配置界面来配置各审核环节采用的审核策略。如图5所示，示例性示出了一种为审核环节配置审核策略的界面示意图。在图5中可以选择审核流程中的审核环节，并为该审核环节配置相应的审核策略。同一审核环节的审核策略可以是一种也可以选择多种，本公开实施例对此不作限定。针对新增审核策略，当通过图1所示的方法进行上线配置后，新增审核策略将注册到审核策略集合中，以便于在本公开实施例中相关示例性界面中能够将审核策略配置到相应的审核环节。

除此之外，当采用多种审核策略审核待发布数据的时候，为了提高审核效率，本公开实施例中，可配置同一审核环节的多个审核策略可并行执行。以添加有新增审核策略的目标审核环节为例，该目标审核环节包括多个策略组，同一策略组内的审核策略并行执行，不同策略组之间具有依赖关系。具有依赖关系的策略组依序执行，例如策略组1依赖策略组2执行，则先执行玩策略组2再执行策略组1。为了实现并行执行多种审核策略，在进行审核管理时，为目标审核环节配置新增审核策略的配置操作中还配置了新增审核策略归属的目标策略组，由此可以实现为同一策略组配置多个可并行执行的审核策略，如图6所示，该方法可实施为：

S601，响应于将新增审核策略添加到目标审核环节的目标策略组的配置操作，确定新增审核策略属于目标策略组。

S602，响应于为目标策略组配置除新增审核策略之外的其他审核策略的配置操作，确定采用其他审核策略和新增审核策略并行审核目标业务的待发布数据。

例如，新增审核策略A添加到策略组1，其他审核策略B和C也添加到策略组1，则对待发布数据进行审核时，执行到策略组1时，将采用新增审核策略A、其他审核策略B和C并行审核待发布数据，由此提高审核效率。当然，在另一些实施例中，当具有多个策略组时，可并行执行的审核策略也可以配置到不同策略组，对待发布数据进行审核时，虽然按照策略组的依赖关系进行审核，但也不会影响审核的正确性，故此，策略组的设置是灵活的，便于管理审核策略。

由此，本公开实施例中同一策略组内包括的审核策略，可以根据实际业务需要灵活配置，不仅可以配置一个审核策略还可以配置多个审核策略，当配置多个审核策略时实现了同一策略组内不同审核策略并行审核待发布数据，从而提高数据审核的效率。可视化的配置，还可以实现不同策略组按照依赖关系依序审核待发布数据，由此保证待发布数据能够按照要求审核完毕，保证完成针对待发布数据的数据内容的所有审核。

如图7所示，为本公开实施例提供的配置策略组的界面示意图。图7中示出的“选择策略”这一配置项，用于选择需要配置的审核策略，图7中示出了选择“人脸识别”作为需要配置的审核策略。

图7中的“同步机审”这一配置项，用于可视化配置“人脸识别”这一审核策略所归属的审核环节为“同步机审”。图7中还提供了其他的审核环节，如“安全机审”、“质量机审”，当然具体审核环节可以根据实际需求确定，均适用于本公开实施例。

图7中的“策略组”这一配置项，用于配置“选择策略”选择的“人脸识别”这一审核策略所归属的策略组。图7中示出了，“人脸识别”这一审核策略归属的目标策略组为“group_1”，“group_1”表示“同步机审”环节中编号为1的策略组。

实施时可配置审核环节的策略组数量和依赖关系，例如“同步机审”环节可配置3个策略组，分别命名为group_1、group_2、group_3。其中group_2依赖group_1执行、group_3依赖group_2执行。由此，在审核待发布数据的数据内容时，按照编号升序执行各策略组进行内容审核。也可以默认group_1依赖group_2执行、group_2依赖group_3执行，在审核待发布数据的数据内容时，按照编号降序执行各策略组进行内容审核。

同理，还可以按照图7所示的例子，将其他审核策略关联到“同步机审”的group_1中。由此，对目标任务的待发布数据进行审核时，“同步机审”环节的group_1中具有多个审核策略，对数据内容进行审核时，group_1将采用目标审核策略和其他审核策略并行对待发布数据进行审核以提高审核效率。

图7中“是否命中中断”这一配置项，用于配置在命中指定条件的情况下是否中断审核操作，例如待发布数据命中涉政的情况下，待发布数据不宜发布出去，可采用中断策略中断对待发布数据的审核，并将审核结果为“涉政”返回给业务方，拒绝发布这条待发布数据。通过中断，可以及早的发现不适应发布的数据，无需执行其他的审核策略，从而节约资源，提高审核效率。而对中断的灵活配置，可以提高审核管理的效率。

除了可配置策略组及其依赖关系之外，本公开实施例中为目标审核环节配置新增审核策略的配置操作中还配置了新增审核策略的阻塞参数。如图7所示，图7中“策略是否阻塞”这一配置项用于配置阻塞参数，阻塞参数用于表示审核策略执行失败情况下的处置方式。如图7所示，对“策略是否阻塞”这一配置项选择“是”表示目标审核策略执行失败的情况下，则结束审核操作，选择“否”则表示目标审核策略执行失败的情况下则继续审核流程。基于阻塞参数审核待发布数据可实施为如图8所示的步骤，包括以下内容：

S801，获取新增审核策略对目标业务的待发布数据的第一审核结果。

S802，在第一审核结果为新增审核策略执行失败的情况下，获取新增审核策略的阻塞参数。

S803，在阻塞参数指示阻塞处理的情况下，结束对目标业务的待发布数据的审核操作。

S804，在阻塞参数指示非阻塞处理的情况下，跳过新增审核策略并继续采用目标业务的审核流程中的未执行的审核策略对目标业务的待发布数据进行内容审核。

例如，用于识别涉政的审核策略执行失败，则需要进一步检查待发布数据是否涉政，可以继续后面的审核流程将其分配到人工审核环节进行涉政审核。

再例如，涉政的审核策略1执行失败，并不影响涉黄的审核模型继续审核待发布数据，由此可以继续涉黄的审核模型的审核。

由此，本公开实施例中，对每个审核策略可以灵活配置执行失败情况下的处理方式，即是否中断审核流程，由此提高审核管理的灵活性，相较于硬编码实现是否阻塞，本公开实施例可视化界面配置简单，无需修改复杂的代码，提高了审核管理的效率。

除此之外，每种审核策略也可以配置相应的使用条件。本公开实施例中，为目标审核环节配置新增审核策略的配置操作中还配置了新增审核策略的使用条件，基于使用条件可确定在何种情况下方可使用目标审核策略。如图9所示，为配置新增审核策略的使用条件的界面示意图。在图9中，可以为新增审核策略配置该策略的使用条件，该使用条件可通过图9所示的“使用条件配置”这一配置项进行设置。“使用条件配置”这一配置项中包括“条件选择”配置项，该配置项用于从已知的多种条件中选择适用于新增审核策略的使用条件。除此之外，还可以通过图9中所示的“代码”配置项来配置新增审核策略的使用条件，该配置项支持用户输入代码来编辑新增审核策略的使用条件。基于可视化的“条件选择”配置项和“代码”配置项，能够适用各种需求，由此提高使用条件配置的灵活性。

如图10所示，为基于使用条件使用目标审核策略审核待发布数据的流程示意图，可包括以下步骤：

S1001，基于使用条件，从目标业务的待发布数据中提取指定信息。

其中，该指定信息例如一些指定的字符串，这些指定的字符串可以在新增审核策略的上线配置界面的调用参数中进行配置。例如，业务A的数据标识为id1，业务B的数据标识为id2，可以在新增审核策略时，将不同业务的id配置为使用条件的变量的参数。

S1002，将指定信息转换为对象。

S1003，采用对象替换使用条件中的变量。

S1004，替换变量后使用条件成立的情况下，确定采用新增审核策略审核目标业务的待发布数据。

本公开实施例中可采用断言判断方式，确定替换变量后的使用条件是否成立。使用条件可采用表达式来表示。例如新增审核策略的表达式为$a＝＝1。如果$a等于1那么表达式成立即使用条件成立，如果$a不等于1则表达式不成立即使用条件不成立。所以，在判定表达式是否成立时，需要将表达式拆解成三部分，包括：

第一部分、左值：$a；

第二部分、中间值：可以是>、<、＝＝、！＝等逻辑与运算表达式；

第三部分、又值:常量。

在执行时，如图11所示，从待发布数据中匹配指定参数，将指定参数提取出来，然后可将指定参数中的字符串转换为对象，用该对象替换表达式中的变量即$a，然后采用断言判断表达式是否成立，并返回判断结果。若判断结果为表达式成立，则命中新增审核策略，若判断结果为表达式不成立，则未命中新增审核策略。

本公开实施例中，新增审核策略的使用条件可采用可视化界面灵活配置，由此来提高审核策略管理的灵活性，提高管理效率。

在一些实施例中，新增审核策略配置好之后，还可以根据业务需要进行更新，更新后的审核策略可直接用于审核目标业务的待发布数据。由此提高审核策略上线的速度，保证目标业务不中断或中断较短时间。

审核策略的更新可能会带来问题，例如更新错误。出现错误的审核版本，会导致数据内容的审核结果不准确。本公开实施例中可支持审核策略回滚机制来及时纠错，保证数据内容的正常审核。如图12所示，可实施为以下步骤：

S1201，更新新增审核策略，得到新增审核策略的更新版本。

S1202，采用新增审核策略的更新版本对目标业务的待发布数据进行内容审核，得到第二审核结果。

S1203，在确定第二审核结果出错的情况下，响应于对新增审核策略进行版本回滚的请求，将新增审核策略回滚到目标版本。

本公开实施中，在新版本的审核策略上线之后，可以将第二审核结果可视化的展示出来，以便于用户查看是否审核有误，有误的情况下可以根据用户的要求，对审核策略进行版本回滚。还可以对新版本审核的业务数据进行重新审核。

例如，本公开实施例中，审核策略配置好之后可以在审核策略管理界面更新审核策略，当发现更新的审核策略与预期不一致时，可触发回滚控件将新增审核策略恢复到目标版本。例如当审核策略具有版本1、版本2和版本3时，更新至版本4发现数据审核有误，则可以指定恢复到目标版本3。

综上，本公开实施例中能够通过对审核策略的版本回滚，实现对错误更新的审核策略的及时纠正，保证发布方的业务数据能够按照正确的审核策略审核，能够保证业务数据的及时发布不会导致业务数据积压。

本公开实施例中，对数据内容的审核需要依赖一些字段进行，为了提高审核管理的效率，还可以实现对字段进行可视化配置。如图13所示，可实施为以下步骤：

S1301，响应于字段配置操作，配置目标字段。

本公开实施例中，可基于字段配置界面管理数据内容审核所需的字段内容。一种可能的实施方式中，如图14所示，示出了一种字段配置界面的示意图，基于该字段配置界面，可响应于字段配置操作，配置目标字段的以下至少一种信息：字段的解析规则、字段来源、字段类型、字段操作符以及适用场景等。

其中，字段的解析规则如图14所示采用“字段解析”这一配置项进行配置，字段的解析规则顾名思义定义了如何解析该字段。例如可确定需要解析字段的地址，然后采用该地址配置“字段解析”这一配置项。

图14中的“字段来源”用于选择字段来源于物料库、或者语料库等业务配置的已知库。

图14中的“字段名称”这一配置项可自定义字段名称，便于后续根据字段名称进行运维管理。

图14中的“命中字段类型”这一配置项，可灵活配置字段类型例如字符串型、数值型字段。

图14中的“字段操作符”这一配置项，可灵活配置字段支持的操作，例如等于、不等于、大于、是否为空、模糊匹配、匹配开头、匹配结尾等等可参照图14中罗列的操作符，但不局限于图14所示的操作符。

图14中“适用场景”这一配置项，可灵活配置管理的字段可应用于哪些场景，例如可应用于图14所示的“机审策略”、可应用于“人审分区”、也可以用于“任务权重”的配置或某个“业务套餐”。其中“任务权重”可用于配置不同审核任务的优先等级。“人审分区”指的是当机器审核无法识别待发布数据的是否应该拒绝还是通过的情况下，可交由人工审核，人工审核的待发布数据会存放到人审分区中进行人审。

图14中的“字段添加”这一配置行，可用于新增新的字段，并对新增字段进行可视化的灵活配置。

综上，本公开实施例中，可视化的操作可灵活配置字段的多种参数，便于灵活管理字段，提高管理的效率。

S1302，响应于关联关系的配置操作，建立新增审核策略的审核结果与目标字段的关联关系。

S1303，响应于目标处置策略的配置操作，确定在新增审核策略的审核结果满足关联关系的情况下、对待发布数据执行目标处置策略。

其中，关联关系为新增审核策略如何配合字段进行数据内容审核。如图9所示，“策略判断规则”这一配置项中可配置新增审核策略和目标字段之间的关联关系。在图9中，示例性配置了“物料库的词表异步策略”的审核结果中若包括目标字段“Reject”时，配置处置策略(即图9中的审核结果)为最终审核结果为拒绝，即审核不通过。

如图9所示，可通过“添加条件”这一配置项增加审核策略和字段的关联关系，当添加关联关系时，表示配置的多个关联关系均成立的情况下，最终的审核结果为“拒绝”。

可通过“新增”配置项，配置更多的审核策略和字段之间的管理关系，并可以配置新增的关联关系的处置策略。

综上，本公开实施例中通过可视化配置，可以灵活配置审核策略和字段之间的关联关系和处置策略，由此提高字段管理的灵活性，提高审核策略和字段联动审核的灵活性，由此提高审核策略管理的灵活性。

前文阐述了需要人工审核时，需要将待发布数据存储到人审分区中。由于人工审核的业务有多重，所以人审分区也有多种，不同的人审分区存储不同人审环节的待发布数据。本公开实施例中，对前述的人审分区也可以灵活配置。一种可能的实施方式中，如图15所示，可包括以下步骤：

S1501，展示分区配置界面。

分区配置界面用于配置新增审核策略适用的目标分区的分区信息，目标分区用于存储人工审核环节所需的待发布数据。

S1502，响应于分区配置操作，确定新增审核策略适用的目标分区的分区信息，目标分区用于存储人工审核环节所需的待发布数据。

本公开实施例中，可视化的配置分区信息，能够直观的管理分区信息，提高分区信息管理的灵活性。

在一些实施例中，能够可视化配置以下至少一种分区信息，包括：分配到目标分区的分配条件、目标分区所属的分区组、目标分区所归属的人工审核环节、目标分区的分区名称和存储优先级；存储优先级用于表示在多个分区共享同一分配条件的情况下、目标分区存储数据的优先级。基于这些分区信息，能够对分区进行可视化配置，相较于硬编码方式实现不同的分区，能够提高分区管理的灵活性。

本公开实施例中内容发布平台中可配置审核平台，任何发布方的待发布数据可接入审核平台进行审核。审核平台可以不同的业务划分到相应的业务线。审核平台中可包括一级业务线和二级业务线。一级业务线例如包括图像类型业务、文字类型业务、视频类型业务、直播类型业务等。二级业务线是对一级业务线的进一步细分，具体的细分规则可根据业务需求进行，本公开实施例对此不作限定。所有的审核策略都配置到相应的二级业务线以作用于相应的业务数据。对于新接入的目标业务，可将其划分到相应的二级业务线之下为其配置审核流程。分区配置界面如图16所示，可通过“二级业务线”这一配置项配置分区所属的二级业务线。

图16中的“人审环节”这一配置项可配置分区所属的人审环节，人审环节可包括安全人审，安全人审用于审核内容安全问题；人审环节还可以包括质量人审，质量人审用于审核产品质量。具体实施时，设置哪些人审环节可根据业务需求设置。

图16中的“分区名”这一配置项，可用于自定义分区的名称。当人工审核该分区的待发布数据时，会一并显示该分区名以便于审核人员审核数据内容。

图16中的“配置方式”这一配置项，用于配置什么情况下待发布数据分配到该分区中存储。如图16所示，可基于分区配置界面中的“条件选择”项或“代码”编辑项配置目标分区的分配条件；其中，条件选择项用于从已知条件集合中选择目标分区的分配条件；代码编辑项用于输入代码；输入的代码用于识别出满足分配条件的情况。分区的分配条件通过选择或编辑代码的方式能够灵活适用不同分区的要求，提高分区管理的灵活性和效率。

如图16所示，“入审优先级”这一配置项可配置分区的存储优先级。例如，分区1和分区2具有同样的分配条件，当审核过程中的中间审核结果满足该分配条件时，可优先存储到存储优先级高的分区1中。当分区1数据量达到数据量上限时，再将数据分配到分区2中存储。例如入审优先级的取值区间为0-1000，取值越高则相应的入审优先级越高，存储优先级越高。

由此，基于存储优先级能够合理利用分区，提高分区管理的灵活性。

图16中，“组别id(identity，标识)”这一配置项，用于将分区划分到指定的分区组中。当有多个分区时，为了便于管理，可采用分区组管理多个分区。实施时，输入一个组别id可查找到该组别下的所有分区，后续可对同一组别id的多个分区进行管理。

由此可见，当满足分区的分配条件时会将待发布数据存储到相应分区中，考虑到会出现未匹配到分区的情况，本公开实施例中也提供默认分区。可以在分区配置界面中设置有配置默认分区的配置项，例如通过图16中的“分区添加”这一配置项增加分区。或者，业务逻辑默认存在默认分区。采用默认分区时，对待发布数据的处理流程可实施为如图17所示，包括以下步骤：

S1701，获取新增审核策略对目标业务的待发布数据的第一审核结果。

S1702，在第一审核结果指示需要人工审核的情况下，将第一审核结果与目标分区的分配条件进行匹配。

S1703，在第一审核结果与目标分区的分配条件不匹配的情况下，将目标业务的待发布数据存储到默认分区中。

由此，当需要人工审核、且未匹配到任意分区时，通过将待发布数据存储到默认分区，默认分区用于实现对待发布数据的人工审核，从而避免漏掉人工审核环节。

本公开实施例中，在配置好字段、分区和审核流程之后，可以对配置结果进行仿真校验，如图18所示可实施为以下步骤：

S1801，展示测试数据编辑界面。

S1802，响应于测试数据编辑界面中的信息输入操作，获取目标业务的测试数据。

S1803，采用审核流程处理测试数据，得到测试数据的测试结果。

S1804，展示测试数据的测试结果。

S1805，在确定测试结果正确的情况下，确定审核流程配置无误。

如图19所示，为该测试数据便捷界面的示意图，基于该测试数据编辑界面能够可视化的配置审核的数据路径以及需要测试的目标业务，配置审核的数据路径时，可设置审核的数据类型，例如图19中示出了需要审核的数据为“图片”。通过点击图19中的“提交”控件可对目标业务进行审核得到审核结果。选择图19中的“点击查看结果”控件可以查看审核结果，基于审核结果可确定审核流程是否有误。通过图19中的“扩展字段”的配置项，可输入审核所需的一些扩展字段以便于帮助审核流程完成审核。

当然，在另一种实施例中，不仅可以对整个审核流程进行校验，还可以对审核流程中任一审核环节或审核策略进行校验。校验的方式类似，即通过可视化界面操作选择要校验的审核环节或审核策略之后，提供测试数据编辑界面，基于该界面输入测试数据然后得到审核结果并进行查看，以确认审核结果是否有误。

本公开实施例中，通过校验能够确认配置的审核流程是否有误，以便于发现问题及早解决，确保审核流程配置的正确性。

在一些实施例中，还可以复用已配置好的审核流程给目标业务。可以选择已有的审核流程进行复制，然后通过可视化界面配置给目标业务。由此提高审理流程配置的效率。

为便于系统理解本公开实施例提供的数据内容的处理方法，下面结合图20对此进行说明。审核平台可包括接入层、服务层、监控&容错功能、数据层和依赖组件层，其中：

接入层，用于接入目标业务的业务数据，接入层支持的业务数据可包括图文、视频、评论、直播等；

服务层，包括基础服务和规则引擎，其中基础服务用于进行产品线配置、审核流程配置、物料类型配置和物料字段配置、策略配置和分区配置。产品线配置用于配置目标业务所属的一级产品线和二级产品线，如图21所示，为产品线配置界面示意图。在图21中可配置目标业务的一级产品线标识如video、一级产品线名称如视频、二级产品线标识、二级产品线名称，还可以配置适用的业务。如图21所示，供选择的适用业务包括图片、视频、指标、音频和文本。此外，如图21所示，还可以为目标业务配置产品简介，该简介可限定在500字以内，以便于了解目标业务。当然简介字数限制可根据实际需要配置，本公开实施例对此不作限定；

审理流程配置如前文图4所示，用于配置目标业务的整体审核流程。

物料类型配置和字段配置参照图14所示，用于配置字段来源(即物料类型配置)、配置字段信息(即物料字段配置)；

策略配置，包括与审核策略相关的配置，如图2所示的策略上线、图5和图7所示的审核策略绑定审核环节、图9所示的和字段的关联配置等等。

分区配置，如图16所示对分区信息进行配置，以便于管理分区；

规则解析&匹配，用于配置一些解析规则，例如审核策略的使用条件配置、字段的解析规则等；

权重计算，用于配置审核优先级，例如分区1相对于分区2优先审核，当然也可以配置不同审核策略的优先级，也适用于本公开实施例；

分区调度，用于配置分区的分配条件，已实现将不同待发布数据分配到适用的分区中进行人工审核；

规则仿真验证，用于验证审核流程、审核环节或审核策略的配置是否正确；

权限控制，用于控制不同人工审核业务的审核人员对审核平台的使用权限；例如，安全人审环节的用户能够查看安全人审分区的数据，质量人审环节的用户能够查看质量人审分区的数据；不同业务的用户之间保持业务独立、互不干扰；

操作日志，用于记录对审核平台的操作记录，可包括配置记录、权限更新记录和数据内容的审核记录等；

监控&容错，用于对审核的整体流程进行监控，并提供容错机制；如包括基础服务监控用于监控审核平台的基础服务是否报错、出现异常、规则匹配监控用于监控是否有分配条件或审核策略没有匹配上规则；默认分区设置用于实现容错机制，以便于当需要人工审核确没有匹配到合适的分区时，将待发布数据分发到默认分区中进行人工审核，避免漏掉任务；规则下线或回滚，指审核策略可以下线，可以对审核策略的版本进行回滚；

数据层，支持采用一种或多种数据库支撑审核平台，可包括Mysql数据库、ES(ElasticSearch)数据库、Redis数据库和本地文本存储服务；

依赖组件层，包括用于支持规则引擎的组件gengine、服务框架组件GDP和代码托管组件tower。

本公开实施例整体的配置流程如图22a所示，包括以下步骤：

S2201，配置目标业务的产品线信息。

如图21所示，配置一级产品线和二级产品线。

S2202，在需要增加新增审核策略的情况下，基于上线配置界面，配置新增审核策略的上线配置信息，确定新增审核测策略的使用参数。

S2203，基于审核流程配置界面，生成目标业务的审核流程。

S2204，配置字段、配置分区。

S2205，校验审核流程配置是否有误。

S2206，对新增审核策略进行更新，得到新增审核策略的更新版本。

S2207，基于新增审核策略的更新版本审核目标业务的待发布数据。

S2208，确定新增审核策略的更新版本对待发布数据的审核有误，则将新增审核策略回滚到目标版本。

在实施时，如图22b所示，包括以下步骤：

S22b1，针对新业务，发起业务申请接入请求。

S22b2，判定业务申请接入请求是否通过，若通过执行步骤S22b3，若未通过则执行S22b1，重启发起接入请求。

S22b3，当业务申请接入请求通过时，执行步骤S2201的操作进行产品线信息配置。

S22b4，进行审核流程配置。

审核流程配置中会进行流转判定，流转判定适用任一审核环节。例如S22b5，若需要机审策略，则在步骤S22b6中进行机审策略配置，并在步骤S22b7中，对机审结果处置方式进行配置，例如需要回调时在步骤S22b8中配置实现需要回调业务，若配置需要回调业务，则在步骤S22b9中将审核结果回调给业务。

此外，如图22b所示，对机审结果处置还需要进行流转判定，以需要流转，则在步骤S22b10中，判定是否需要进行人工审核，若不需要人工审核，则在步骤S22b11中审核结束，若需要进行人工审核，则在步骤S22b12中，通过人审规则配置进入人审分区的分配条件。对待发布数据进行审核审核时在步骤S22b13中将审核结果和人审分区的分配条件进行匹配，在步骤S22b14中，判定是否成功匹配人审分区的分配条件，若和任一人审分区的分配条件均不匹配则分配到默认分区，若匹配则按照分配条件分配到规则对应分区中进行人工审核。

根据本公开第二方面的实施例，还提供一种数据内容的处理装置，如图23所示，包括：

展示模块2301，用于展示审核策略的上线配置界面；

配置模块2302，用于响应于上线配置界面中的信息输入操作，确定新增审核策略的使用参数；

确定模块2303，用于响应于为目标审核环节配置新增审核策略的配置操作，确定在目标审核环节中、基于使用参数调用新增审核策略进行数据内容审核。

在一些实施例中，新增审核策略的使用参数包括以下至少一种：新增审核策略的调用路径、调用参数、调用方式、审核结果返回规则以及超时时间。

在一些实施例中，目标审核环节为审核流程中的审核环节之一。配置模块2302，还用于：

在确定接入目标业务的情况下，响应于对包括目标审核环节在内的多个审核环节的选择操作，确定审核流程中包括的多个审核环节；

针对每个审核环节，响应于为审核环节配置下一审核环节的操作，确定审核环节在审核流程中的执行顺序；

基于各审核环节的执行顺序，生成目标业务的审核流程。

在一些实施例中，在图23的基础上，数据内容的处理装置如图24所示，还包括：

提取模块2401，用于基于使用条件，从目标业务的待发布数据中提取指定信息；

转换模块2402，用于将指定信息转换为对象；

替换模块2403，用于采用对象替换使用条件中的变量；

第一匹配模块2404，用于替换变量后使用条件成立的情况下，确定采用新增审核策略审核目标业务的待发布数据。

在一些实施例中，针对目标审核环节的配置操作中还配置了新增审核策略的阻塞参数，在图23的基础上，数据内容的处理装置如图24所示，还包括：

第一获取模块2405，用于获取新增审核策略对目标业务的待发布数据的第一审核结果；

第二获取模块2406，用于在第一审核结果为新增审核策略执行失败的情况下，获取阻塞参数；

结束模块2407，用于在阻塞参数指示阻塞处理的情况下，结束对目标业务的待发布数据的审核操作；

第一审核模块2408，用于在阻塞参数指示非阻塞处理的情况下，跳过新增审核策略并继续采用审核流程中的未执行的审核策略对目标业务的待发布数据进行内容审核。

在一些实施例中，目标审核环节包括多个策略组，同一策略组内的审核策略并行执行，不同策略组之间具有依赖关系，针对目标审核环节的配置操作中还配置了新增审核策略归属的目标策略组，配置模块2302，还用于响应于为目标策略组配置除新增审核策略之外的其他审核策略的配置操作，确定采用其他审核策略和新增审核策略并行审核目标业务的待发布数据。

在一些实施例中，展示模块2301，还用于展示测试数据编辑界面；

配置模块2302，还用于响应于测试数据编辑界面中的信息输入操作，获取目标业务的测试数据；

展示模块2301，还用于展示测试数据的测试结果；

确定模块2303，还用于在确定测试结果正确的情况下，确定审核流程配置无误。

在一些实施例中，在图23的基础上，数据内容的处理装置如图24所示，还包括：

更新模块2409，用于更新新增审核策略，得到新增审核策略的更新版本；

第二审核模块2410，用于采用新增审核策略的更新版本对目标业务的待发布数据进行内容审核，得到第二审核结果；

回滚模块2411，用于在确定第二审核结果出错的情况下，响应于对新增审核策略进行版本回滚的请求，将新增审核策略回滚到目标版本。

在一些实施例中，配置模块2302，还用于：

响应于字段配置操作，配置目标字段；

响应于关联关系的配置操作，建立新增审核策略的审核结果与目标字段的关联关系；

响应于目标处置策略的配置操作，确定在新增审核策略的审核结果满足关联关系的情况下、对待发布数据执行目标处置策略。

在一些实施例中，配置模块2302，具体用于响应于字段配置操作，配置目标字段的以下至少一种信息：字段的解析规则、字段来源、字段类型、字段操作符以及适用场景。

在一些实施例中，配置模块2302，还用于响应于分区配置操作，确定新增审核策略适用的目标分区的分区信息，目标分区用于存储人工审核环节所需的待发布数据。

在一些实施例中，目标分区的分区信息包括以下至少一种：分配到目标分区的分配条件、目标分区所属的分区组、目标分区所归属的人工审核环节、目标分区的分区名称和存储优先级；存储优先级用于表示在多个分区共享同一分配条件的情况下、目标分区存储数据的优先级。

在一些实施例中，配置模块2302，具体用于基于分区配置界面中的条件选择项或代码编辑项配置目标分区的分配条件；其中，条件选择项用于从已知条件集合中选择目标分区的分配条件；代码编辑项用于输入代码；代码用于识别出满足分配条件的情况。

在一些实施例中，在图23的基础上，数据内容的处理装置如图24所示，还包括：

第三获取模块2412，用于获取新增审核策略对目标业务的待发布数据的第一审核结果；

第二匹配模块2413，用于在第一审核结果指示需要人工审核的情况下，将第一审核结果与目标分区的分配条件进行匹配；

存储模块2414，用于在第一审核结果与目标分区的分配条件不匹配的情况下，将目标业务的待发布数据存储到默认分区中。

图25示出了可以用来实施本公开的实施例的示例电子设备2500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图25所示，电子设备2500包括计算单元2501，其可以根据存储在只读存储器(ROM)2502中的计算机程序或者从存储单元2508加载到随机访问存储器(RAM)2503中的计算机程序，来执行各种适当的动作和处理。在RAM 2503中，还可存储电子设备2500操作所需的各种程序和数据。计算单元2501、ROM 2502以及RAM 2503通过总线2504彼此相连。输入/输出(I/O)接口2505也连接至总线2504。

电子设备2500中的多个部件连接至I/O接口2505，包括：输入单元2506，例如键盘、鼠标等；输出单元2507，例如各种类型的显示器、扬声器等；存储单元2508，例如磁盘、光盘等；以及通信单元2509，例如网卡、调制解调器、无线通信收发机等。通信单元2509允许电子设备2500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元2501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元2501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元2501执行上文所描述的数据内容的处理方法。在一些实施例中，数据内容的处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元2508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 2502和/或通信单元2509而被载入和/或安装到电子设备2500上。当计算机程序加载到RAM2503并由计算单元2501执行时，可以执行数据内容的处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元2501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行数据内容的处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入、或者触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (31)

1.一种数据内容的处理方法，包括：

展示审核策略的上线配置界面；

响应于所述上线配置界面中的信息输入操作，确定新增审核策略的使用参数；

响应于为目标审核环节配置所述新增审核策略的配置操作，确定在所述目标审核环节中、基于所述使用参数调用所述新增审核策略进行数据内容审核。

2.根据权利要求1所述的方法，所述新增审核策略的使用参数包括以下至少一种：所述新增审核策略的调用路径、调用参数、调用方式、审核结果返回规则以及超时时间。

3.根据权利要求1所述的方法，所述目标审核环节为审核流程中的审核环节之一，还包括基于以下方法生成所述审核流程：

在确定接入目标业务的情况下，响应于对包括所述目标审核环节在内的多个审核环节的选择操作，确定所述审核流程中包括的多个审核环节；

针对每个审核环节，响应于为所述审核环节配置下一审核环节的操作，确定所述审核环节在所述审核流程中的执行顺序；

基于各审核环节的执行顺序，生成所述目标业务的所述审核流程。

4.根据权利要求1-3中任一项所述的方法，针对所述目标审核环节的所述配置操作中还配置了所述新增审核策略的使用条件，还包括：

基于所述使用条件，从目标业务的待发布数据中提取指定信息；

将所述指定信息转换为对象；

采用所述对象替换所述使用条件中的变量；

替换所述变量后所述使用条件成立的情况下，确定采用所述新增审核策略审核所述目标业务的待发布数据。

5.根据权利要求1-3中任一项所述的方法，针对所述目标审核环节的所述配置操作中还配置了所述新增审核策略的阻塞参数，还包括：

获取所述新增审核策略对目标业务的待发布数据的第一审核结果；

在所述第一审核结果为所述新增审核策略执行失败的情况下，获取所述阻塞参数；

在所述阻塞参数指示阻塞处理的情况下，结束对所述目标业务的待发布数据的审核操作；

在所述阻塞参数指示非阻塞处理的情况下，跳过所述新增审核策略并继续采用所述目标业务的审核流程中的未执行的审核策略对所述目标业务的待发布数据进行内容审核。

6.根据权利要求1-3中任一项所述的方法，所述目标审核环节包括多个策略组，同一策略组内的审核策略并行执行，不同策略组之间具有依赖关系，针对所述目标审核环节的所述配置操作中还配置了所述新增审核策略归属的目标策略组，还包括：

响应于为所述目标策略组配置除所述新增审核策略之外的其他审核策略的配置操作，确定采用所述其他审核策略和所述新增审核策略并行审核所述目标业务的待发布数据。

7.根据权利要求3所述的方法，还包括：

展示测试数据编辑界面；

响应于所述测试数据编辑界面中的信息输入操作，获取所述目标业务的测试数据；

采用所述审核流程处理所述测试数据，得到所述测试数据的测试结果；

展示所述测试数据的测试结果；

在确定所述测试结果正确的情况下，确定所述审核流程配置无误。

8.根据权利要求1所述的方法，还包括：

更新所述新增审核策略，得到所述新增审核策略的更新版本；

采用所述新增审核策略的更新版本对目标业务的待发布数据进行内容审核，得到第二审核结果；

在确定所述第二审核结果出错的情况下，响应于对所述新增审核策略进行版本回滚的请求，将所述新增审核策略回滚到目标版本。

9.根据权利要求1-8中任一项所述的方法，还包括：

响应于字段配置操作，配置目标字段；

响应于关联关系的配置操作，建立所述新增审核策略的审核结果与所述目标字段的关联关系；

响应于目标处置策略的配置操作，确定在所述新增审核策略的审核结果满足所述关联关系的情况下、对待发布数据执行所述目标处置策略。

10.根据权利要求9所述的方法，其中，所述响应于字段配置操作，配置目标字段，包括：

响应于字段配置操作，配置所述目标字段的以下至少一种信息：字段的解析规则、字段来源、字段类型、字段操作符以及适用场景。

11.根据权利要求1-10中任一项所述的方法，还包括：

响应于分区配置操作，确定所述新增审核策略适用的目标分区的分区信息，所述目标分区用于存储人工审核环节所需的待发布数据。

12.根据权利要求11所述的方法，所述目标分区的分区信息包括以下至少一种：分配到所述目标分区的分配条件、所述目标分区所属的分区组、所述目标分区所归属的人工审核环节、所述目标分区的分区名称和存储优先级；所述存储优先级用于表示在多个分区共享同一分配条件的情况下、所述目标分区存储数据的优先级。

13.根据权利要求12所述的方法，响应于分区配置操作，确定所述目标分区的分配条件，包括：

基于所述分区配置界面中的条件选择项或代码编辑项配置所述目标分区的分配条件；

其中，所述条件选择项用于从已知条件集合中选择所述目标分区的分配条件；

所述代码编辑项用于输入代码；所述代码用于识别出满足所述分配条件的情况。

14.根据权利要求12所述的方法，还包括：

获取所述新增审核策略对目标业务的待发布数据的第一审核结果；

在所述第一审核结果指示需要人工审核的情况下，将所述第一审核结果与所述目标分区的分配条件进行匹配；

在所述第一审核结果与所述目标分区的分配条件不匹配的情况下，将所述目标业务的待发布数据存储到默认分区中。

15.一种数据内容的处理装置，包括：

展示模块，用于展示审核策略的上线配置界面；

配置模块，用于响应于所述上线配置界面中的信息输入操作，确定新增审核策略的使用参数；

确定模块，用于响应于为目标审核环节配置所述新增审核策略的配置操作，确定在所述目标审核环节中、基于所述使用参数调用所述新增审核策略进行数据内容审核。

16.根据权利要求15所述的装置，所述新增审核策略的使用参数包括以下至少一种：所述新增审核策略的调用路径、调用参数、调用方式、审核结果返回规则以及超时时间。

17.根据权利要求15所述的装置，所述目标审核环节为审核流程中的审核环节之一，所述配置模块，还用于：

在确定接入目标业务的情况下，响应于对包括所述目标审核环节在内的多个审核环节的选择操作，确定所述审核流程中包括的多个审核环节；

针对每个审核环节，响应于为所述审核环节配置下一审核环节的操作，确定所述审核环节在所述审核流程中的执行顺序；

基于各审核环节的执行顺序，生成所述目标业务的所述审核流程。

18.根据权利要求15-17中任一项所述的装置，针对所述目标审核环节的所述配置操作中还配置了所述新增审核策略的使用条件，还包括：

提取模块，用于基于所述使用条件，从目标业务的待发布数据中提取指定信息；

转换模块，用于将所述指定信息转换为对象；

替换模块，用于采用所述对象替换所述使用条件中的变量；

第一匹配模块，用于替换所述变量后所述使用条件成立的情况下，确定采用所述新增审核策略审核所述目标业务的待发布数据。

19.根据权利要求15-17中任一项所述的装置，针对所述目标审核环节的所述配置操作中还配置了所述新增审核策略的阻塞参数，还包括：

第一获取模块，用于获取所述新增审核策略对目标业务的待发布数据的第一审核结果；

第二获取模块，用于在所述第一审核结果为所述新增审核策略执行失败的情况下，获取所述阻塞参数；

结束模块，用于在所述阻塞参数指示阻塞处理的情况下，结束对所述目标业务的待发布数据的审核操作；

第一审核模块，用于在所述阻塞参数指示非阻塞处理的情况下，跳过所述新增审核策略并继续采用所述目标业务的审核流程中的未执行的审核策略对所述目标业务的待发布数据进行内容审核。

20.根据权利要求15-17中任一项所述的装置，所述目标审核环节包括多个策略组，同一策略组内的审核策略并行执行，不同策略组之间具有依赖关系，针对所述目标审核环节的所述配置操作中还配置了所述新增审核策略归属的目标策略组；

所述配置模块，还用于响应于为所述目标策略组配置除所述新增审核策略之外的其他审核策略的配置操作，确定采用所述其他审核策略和所述新增审核策略并行审核所述目标业务的待发布数据。

21.根据权利要求17所述的装置，

所述展示模块，还用于展示测试数据编辑界面；

所述配置模块，还用于响应于所述测试数据编辑界面中的信息输入操作，获取所述目标业务的测试数据；

所述展示模块，还用于展示所述测试数据的测试结果；

所述确定模块，还用于在确定所述测试结果正确的情况下，确定所述审核流程配置无误。

22.根据权利要求15所述的装置，还包括：

更新模块，用于更新所述新增审核策略，得到所述新增审核策略的更新版本；

第二审核模块，用于采用所述新增审核策略的更新版本对目标业务的待发布数据进行内容审核，得到第二审核结果；

回滚模块，用于在确定所述第二审核结果出错的情况下，响应于对所述新增审核策略进行版本回滚的请求，将所述新增审核策略回滚到目标版本。

23.根据权利要求15-22中任一项所述的装置，所述配置模块，还用于：

响应于字段配置操作，配置目标字段；

响应于关联关系的配置操作，建立所述新增审核策略的审核结果与所述目标字段的关联关系；

响应于目标处置策略的配置操作，确定在所述新增审核策略的审核结果满足所述关联关系的情况下、对待发布数据执行所述目标处置策略。

24.根据权利要求23所述的装置，所述配置模块，具体用于响应于字段配置操作，配置所述目标字段的以下至少一种信息：字段的解析规则、字段来源、字段类型、字段操作符以及适用场景。

25.根据权利要求15-24中任一项所述的装置，所述配置模块，还用于响应于分区配置操作，确定所述新增审核策略适用的目标分区的分区信息，所述目标分区用于存储人工审核环节所需的待发布数据。

26.根据权利要求25所述的装置，所述目标分区的分区信息包括以下至少一种：分配到所述目标分区的分配条件、所述目标分区所属的分区组、所述目标分区所归属的人工审核环节、所述目标分区的分区名称和存储优先级；所述存储优先级用于表示在多个分区共享同一分配条件的情况下、所述目标分区存储数据的优先级。

27.根据权利要求26所述的装置，所述配置模块，具体用于基于所述分区配置界面中的条件选择项或代码编辑项配置所述目标分区的分配条件；

其中，所述条件选择项用于从已知条件集合中选择所述目标分区的分配条件；

所述代码编辑项用于输入代码；所述代码用于识别出满足所述分配条件的情况。

28.根据权利要求26所述的装置，还包括：

第三获取模块，用于获取所述新增审核策略对目标业务的待发布数据的第一审核结果；

第二匹配模块，用于在所述第一审核结果指示需要人工审核的情况下，将所述第一审核结果与所述目标分区的分配条件进行匹配；

存储模块，用于在所述第一审核结果与所述目标分区的分配条件不匹配的情况下，将所述目标业务的待发布数据存储到默认分区中。

29.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-14中任一项所述的方法。

30.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行权利要求1-14中任一项所述的方法。

31.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现权利要求1-14中任一项所述的方法。

Images