CN116028748A - 基于联盟链的内容审核系统和方法及标准统一和监管方法 - Google Patents

Abstract

本发明提出了一种基于联盟链的内容审核系统和方法及标准统一和监管方法，内容审核系统包括：内容审核支撑域、内容审核功能域、链下内容存储域及由多个节点构成的联盟链网络，本发明基于联盟链的内容审核平台，内容发布机构经由区块链平台进行验证，只有足够数量的节点统一才允许发布。区块链技术具有分布式账本、时间戳、篡改难度大、防欺诈等特性，可追溯到内容发布者，确保媒体发布内容的可信度。而且，监管机构可以定期对历史记录进行分析，并且根据监管结果形成审查平台安全态势分析，构建内容审核链安全监测平台。对恶性审核行为和安全风险进行监测预警，并基于链上的信誉记录机制，促进内容提供商提供健康优质的内容。

Description

基于联盟链的内容审核系统和方法及标准统一和监管方法

技术领域

本发明涉及媒体内容审核领域，尤其涉及一种基于联盟链的内容审核系统和方法及标准统一和监管方法。

背景技术

内容审核是依据国家和行业相关法律法规、自律公约等对广播电视节目和网络视听节目进行审核把关，通过识别节目包含的文字、图片、音频、视频中的涉黄、涉暴涉恐、虚假信息、违规广告等内容，来决定其是否适宜在相应平台上传播。对于适合传播的内容进行确认，确保其能够顺畅传播，并得到推荐；对于不适宜向特定用户(如未成年人)传播的内容进行甄别和处理，防止其传播扩散；对于违反法律法规和有害的内容，则严禁播出并追究上传者和上传单位的责任，从而达到净化网络空间的目的。

相关行政和行业主管部门也陆续出台了一系列监管措施，但由于在具体的业务工作中，缺乏具体可操作实施的流程和办法，目前不同地区、不同平台审核标准不一致，技术手段不足，因此劣质内容的管控效果不太理想，亟待建设良性的、可持续的内容审核能力体系。

发明内容

本发明要解决的技术问题是如何提高媒体内容审核的效率及审核标准的一致性，本发明提出一种基于联盟链的内容审核系统和方法及标准统一和监管方法。

根据本发明实施例的基于联盟链的内容审核系统，包括：

内容审核支撑域，用于对内容审核提供管理和支撑；

内容审核功能域，用于通过与联盟链网络之间的协同，负责对内容审核、打标；

链下内容存储域，用于内容审核过程中文件的存储；

及由多个节点构成的联盟链网络，包括：内容审核需求方节点、多个内容审核机构节点、监管机构节点及运营机构节点。

根据本发明的一些实施例，所述内容审核支撑域提供统一的审核策略或标准，保证各所述内容审核机构节点审核标准的一致性，并实现审核结果的共享。

在本发明的一些实施例中，所述内容审核支撑域包括：

统一数字身份管理系统，用于负责所述联盟链网路中各节点的身份管理和身份认证，确认对内容资源的访问权限；

内容审核业务引擎，用于负责面提供内容审核业务接入服务，为内容审核提供业务的接入和提交，以及数据交换服务功能；

信用资质评价系统，用于负责数据采集、积分管理及策略管理，通过建立完善的积分评价体系督促各内容审核机构节点提升审核质量；

任务管理系统，用于对内容审核任务进行统一管理，并对内容审核任务的状态进行监控；

统一策略管理系统，用于对内容审核规则进行统一管理维护，通过实时主动获取审核标准和规则，保障审核规则的完整性和及时性，并将规范化的审核标准数据进行分析处理，转换为通用的基础审核策略；

链管理系统，用于负责对联盟链网络中各节点进行信息查询、服务控制、状态监控、授权管理操作，具有节点服务器信息查询、节点服务启动关闭控制、节点服务配置、节点网络状态监控及节点授权管理功能。

根据本发明的一些实施例，所述内容审核功能域包括：

智能音视频文件审核设备，用于对音视频文件及文本文件进行机器审核；

智能标签识别设备，用于进行内容标签识别和打标；

链接口系统，用于负责内容审核功能域与联盟链网络之间的协同。

在本发明的一些实施例中，所述内容审核功能域还包括：本地内容存储，用于存储被审核文件、审核结果文件及审核证据文件。

根据本发明的一些实施例，所述链下内容存储域存储有被审核内容文件、审核过程文件、恶意内容存档文件、二次编辑文件，所述链下视频内容存储域采用传统的集中式存储。

在本发明的一些实施例中，所述链下内容存储域具备云化部署的内容审核工具和内容编辑工具，提供线上审核平台。

根据本发明实施例的基于联盟链的内容审核方法，所述方法采用如上所述的基于联盟链的内容审核系统进行内容审核，所述方法包括：

A100，内容审核需求方向内容审核业务引擎提交审核请求；

A200，内容审核业务引擎根据内容大小为被审核内容分配链下内容存储位置，并将存储位置返回给内容审核需求方；

A300，内容需求方向指定存储位置上传待审核内容；

A400，内容审核业务引擎对待审核内容进行预处理，生成审核内容的内容标识；

A500，内容审核业务引擎将审核任务提交给任务管理系统；

A600，任务管理系统分配任务，将确认好的内容审核机构返回给内容审核业务引擎；

A700，内容审核业务引擎将对内容审核机构分配审核权限；

A800，内容审核业务引擎将内容标识、内容存储信息、审核时限及内容审核机构信息上链；

A900，内容审核机构根据内容存储信息对内容进行审核，审核完成后，将审核结果上链。

根据本发明实施例的审核标准统一方法，所述方法用于如上所述的基于联盟链的内容审核系统进行审核标准的统一，所述方法包括：

B100，实时标准同步模块实时或定期获取内容审核标准；

B200，审核标准管理模块将收集到的内容审核标准进行统一管理，记录标准来源、日期、发布部门及标准间的相关性，形成规范化的审核标准和审核规则，提交给审核策略分析模块；

B300，审核策略分析模块将规范化的审核标准和审核规则进行统计、对比和分析后，转换为通用的基础审核策略，并将基础审核策略与审核业务需求、审核系统能力因素进行综合考虑，生成统一的通用审核策略；

B400，统一策略发布模块将通用审核策略上链，实现各内容审核机构内容审核标准的统一。

根据本发明实施例的内容审核监管方法，所述方法采用如上所述的基于联盟链的内容审核系统进行内容审核监管，所述方法包括：

C100，播出机构在进行各类内容审核同时将审核操作信息上链；

C200，监管机构通过查询链上审核记录，以确定播出机构是否完成内容审核；

C300，若出现播出事故，监管机构通过查询链上信息获取对应内容的审核信息，定位责任方。

本发明提出的基于联盟链的内容审核系统和方法及标准统一和监管方法，具有如下优点：

提升媒体内容传播的可信度。通过基于联盟链的内容审核平台，内容发布机构经由区块链平台进行验证，只有足够数量的节点统一才允许发布。区块链技术具有分布式账本、时间戳、篡改难度大、防欺诈等特性，可追溯到内容发布者，确保媒体发布内容的可信度。

支持内容审核的安全监管溯源。基于区块链数据的不可篡改性，监管机构可以定期对历史记录进行分析，并且根据监管结果形成审查平台安全态势分析，构建内容审核链安全监测平台。一方面，可以对恶性审核行为和安全风险进行监测预警；另一方面，基于链上的信誉记录机制，促进内容提供商持续制作和提供健康优质的内容。

附图说明

图1为根据本发明实施例的基于联盟链的内容审核系统示意图；

图2为根据本发明实施例的内容审核支撑域示意图；

图3为根据本发明实施例的信用资质评价系统示意图；

图4为根据本发明实施例的内容审核业务引擎工作流程；

图5为根据本发明实施例的基于联盟链的内容审核方法流程图；

图6为根据本发明实施例的审核标准统一方法流程图；

图7为根据本发明实施例的内容审核监管方法流程图。

具体实施方式

为更进一步阐述本发明为达成预定目的所采取的技术手段及功效，以下结合附图及较佳实施例，对本发明进行详细说明如后。

本发明中说明书中对方法流程的描述及本发明说明书附图中流程图的步骤并非必须按步骤标号严格执行，方法步骤是可以改变执行顺序的。而且，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。

相关技术中，内容审核主要基于人工智能、大数据等机器审核技术，包括：语音识别、图像识别、图像分类等。实现色情识别、暴恐审核、违禁品检测等多个维度的审核，一定程度上降低人力资源成本消耗。但是由于机器审核技术存在精确度问题，因此，人工审核仍然是必不可少的。存在重复审核，工作量大的问题。

其他相关技术中，通过第三方审核云进行内容审核。例如：网易云盾、七牛云、阿里云、百度云、华为云等都面向各类内容服务平台和用户，提供机器审核和人工审核相结合的内容审核服务。用户只需将被审核内容上传至云端，就可以等待审核结果。第三方审核云服务使得视听服务平台无需建立庞大的审核团队，也不需要购买和维护复杂的机器审核系统，可以较大程度降低人工成本和运维成本。但由于内容安全责任的主体仍然是播出机构，第三方内容审核云缺乏必要的评价约束机制来保证审核质量。

针对现有内容审核方法的缺陷，本发明提出了基于联盟链的内容审核解决方案，充分运用大数据、人工智能等先进技术，结合区块链技术，整合具有审批资质机构的专业内容审核资源，基于统一导向、统一尺度的内容审核标准规范，为广播电视机构和各类网络视听服务单位及其他内容审核需求方提供高效可靠的内容审核方案，有助于加强对内容传播的安全管控，进一步引导和规范网络内容传播秩序，为打造良好的视听媒体内容生态环境提供基础保障。

如图1所示，根据本发明实施例的基于联盟链的内容审核系统，包括：内容审核支撑域，内容审核功能域，链下内容存储域及由多个节点构成的联盟链网络。

其中，内容审核支撑域用于对内容审核提供管理和支撑；

内容审核功能域用于通过与联盟链网络之间的协同，负责对内容审核、打标；

链下内容存储域用于内容审核过程中文件的存储；

联盟链网络由多个节点构成，包括：内容审核需求方节点、多个内容审核机构节点、监管机构节点及运营机构节点。

根据本发明的一些实施例，内容审核支撑域提供统一的审核策略或标准，保证各内容审核机构节点审核标准的一致性，并实现审核结果的共享。

在本发明的一些实施例中，如图2所示，内容审核支撑域包括：统一数字身份管理系统、内容审核业务引擎、信用资质评价系统、任务管理系统、统一策略管理系统及链管理系统。

其中，统一数字身份管理系统用于负责联盟链网路中各节点的身份管理和身份认证，确认对内容资源的访问权限；

内容审核业务引擎用于负责面提供内容审核业务接入服务，为内容审核提供业务的接入和提交，以及数据交换服务功能；

信用资质评价系统用于负责数据采集、积分管理及策略管理，通过建立完善的积分评价体系督促各内容审核机构节点提升审核质量；

任务管理系统用于对内容审核任务进行统一管理，并对内容审核任务的状态进行监控；

统一策略管理系统用于对内容审核规则进行统一管理维护，通过实时主动获取审核标准和规则，保障审核规则的完整性和及时性，并将规范化的审核标准数据进行分析处理，转换为通用的基础审核策略；

链管理系统用于负责对联盟链网络中各节点进行信息查询、服务控制、状态监控、授权管理操作，具有节点服务器信息查询、节点服务启动关闭控制、节点服务配置、节点网络状态监控及节点授权管理功能。

根据本发明的一些实施例，内容审核功能域包括：智能音视频文件审核设备，智能标签识别设备及链接口系统。

其中，智能音视频文件审核设备用于对音视频文件及文本文件进行机器审核；

智能标签识别设备用于进行内容标签识别和打标；

链接口系统用于负责内容审核功能域与联盟链网络之间的协同。

在本发明的一些实施例中，内容审核功能域还包括：本地内容存储，用于存储被审核文件、审核结果文件及审核证据文件。

根据本发明的一些实施例，链下内容存储域存储有被审核内容文件、审核过程文件、恶意内容存档文件、二次编辑文件，链下视频内容存储域采用传统的集中式存储。

在本发明的一些实施例中，链下内容存储域具备云化部署的内容审核工具和内容编辑工具，提供线上审核平台。

根据本发明实施例的基于联盟链的内容审核方法，方法采用如上所述的基于联盟链的内容审核系统进行内容审核，如图4和图5所示，方法包括：

A100，内容审核需求方向内容审核业务引擎提交审核请求；

A200，内容审核业务引擎根据内容大小为被审核内容分配链下内容存储位置，并将存储位置返回给内容审核需求方；

A300，内容需求方向指定存储位置上传待审核内容；

A400，内容审核业务引擎对待审核内容进行预处理，生成审核内容的内容标识；

A500，内容审核业务引擎将审核任务提交给任务管理系统；

A600，任务管理系统分配任务，将确认好的内容审核机构返回给内容审核业务引擎；

A700，内容审核业务引擎将对内容审核机构分配审核权限；

A800，内容审核业务引擎将内容标识、内容存储信息、审核时限及内容审核机构信息上链；

A900，内容审核机构根据内容存储信息对内容进行审核，审核完成后，将审核结果上链。

根据本发明实施例的审核标准统一方法，方法用于如上的基于联盟链的内容审核系统进行审核标准的统一，方法包括：

B100，实时标准同步模块实时或定期获取内容审核标准；

B200，审核标准管理模块将收集到的内容审核标准进行统一管理，记录标准来源、日期、发布部门及标准间的相关性，形成规范化的审核标准和审核规则，提交给审核策略分析模块；

B300，审核策略分析模块将规范化的审核标准和审核规则进行统计、对比和分析后，转换为通用的基础审核策略，并将基础审核策略与审核业务需求、审核系统能力因素进行综合考虑，生成统一的通用审核策略；

B400，统一策略发布模块将通用审核策略上链，实现各内容审核机构内容审核标准的统一。

根据本发明实施例的内容审核监管方法，方法采用如上的基于联盟链的内容审核系统进行内容审核监管，方法包括：

C100，播出机构在进行各类内容审核同时将审核操作信息上链；

C200，监管机构通过查询链上审核记录，以确定播出机构是否完成内容审核；

C300，若出现播出事故，监管机构通过查询链上信息获取对应内容的审核信息，定位责任方。

本发明提出的基于联盟链的内容审核系统和方法及标准统一和监管方法，具有如下优点：

1)提升媒体内容传播的可信度。

通过基于联盟链的内容审核平台，内容发布机构经由区块链平台进行验证，只有足够数量的节点统一才允许发布。区块链技术具有分布式账本、时间戳、篡改难度大、防欺诈等特性，可追溯到内容发布者，确保媒体发布内容的可信度。

2)支持内容审核的安全监管溯源。

基于区块链数据的不可篡改性，监管机构可以定期对历史记录进行分析，并且根据监管结果形成审查平台安全态势分析，构建内容审核链安全监测平台。一方面，可以对恶性审核行为和安全风险进行监测预警；另一方面，基于链上的信誉记录机制，促进内容提供商持续制作和提供健康优质的内容。

下面参照附图详细描述根据本发明的基于联盟链的内容审核系统和方法及标准统一和监管方法。值得理解的是，下述描述仅是示例性描述，而不应理解为对本发明的具体限制。

基于联盟链的内容审核系统平台如图1所示。

基于联盟链的内容审核系统包括：内容审核支撑域、内容审核功能域、链下内容存储域和联盟链网络四部分。通过引入具有代表性的内容审核需求方、内容审核机构、监管机构和运营机构，保证视听内容审核区块链业务的真实性。

1、内容审核支撑域。

内容审核支撑域负责对视听内容审核提供管理和支撑功能，提供统一的审核策略或标准的分析、生成、发布，保证各机构审核标准的一致性，并实现审核结果的共享。内容审核支撑域包括统一数字身份管理系统、内容审核业务引擎、信用资质评价系统、任务管理系统、统一策略管理系统和链管理系统。如下图所示。

1)统一数字身份管理系统。

统一数字身份管理系统负责内容审核机构及相关的内容提供机构、播出机构和监管机构等各参与方的身份管理和身份认证，确认用户对资源的访问权限，保障访问控制策略的可靠运行。统一数字身份管理系统包括机构准入、账号认证和权限控制模块。

a、机构准入。

为保证内容审核区块链中的所有节点可追溯、节点行为所属机构可追溯，节点身份与实体机构一一对应，做到节点行为所属机构可追溯。机构准入模块为所有节点颁发CA证书，为各机构备案公钥证书到区块链，节点连接时通过验证颁发的CA机构证书有效性来判断节点是否准入，对已连接的节点行为进行追溯。

b、账号认证。

账号认证模块通过数字签名实现对请求发起各类交易、存证以及他证等操作的授权。在内容审核区块链中，每个账户拥有一对公私钥对，其中公钥作为公开信息，生成的地址作为账号ID使用。私钥作为不公开信息，结合密码学及公开的公钥，用以判断是否真正持有该账号的管理权限。

c、权限控制。

权限控制模块的主要功能是用户身份管理、用户角色管理和权限配置。按访问或读取资源的权限不同定义多个角色，按角色授权不同用户访问或使用资源的权限及安全规则，使用户只能在有限范围内进行写入或读取数据资源，而在其读取范围外的数据则会进行加密保护。

2)内容审核业务引擎。

内容审核业务引擎负责面向各参与机构提供内容审核业务接入服务，包括业务查询、业务接入、文件唯一ID分配、存储空间分配等功能，为内容审核各参与方提供业务的接入和提交，以及数据交换服务等功能。包括业务预处理、内容存储管理、权限配置、链接口模块。

a、业务预处理。

业务预处理模块负责向各参与机构提供内容审核业务接入服务和审核流程管理。主要功能包括业务接入、文件预处理、任务分配。业务接入为各参与方提供内容审核服务请求接入，也为审核机构提供审核结果反馈接入。文件与处理分配负责为审核内容进行处理，生成唯一内容标识。任务分配负责将业务提交给任务管理系统，并获取已分配的内容审核机构。

b、内容存储管理。

内容存储管理模块用于内容文件库存储空间管理，为需要进行存储的被审核内容文件、审核过程文件、不同审核版本文件等提供存储空间管理。

c、权限配置。

权限配置模块为媒体内容相关文件配置访问权限，包括访问时间和访问方式等，只有授权用户才能够访问内容文件。

d、链接口模块。

链接口模块负责将用户请求、用户结果等信息进行结构化处理，生成区块哈希值，使之可以与联盟链网络进行交互。具体来说，把数据打包为交易，通过P2P网络进行广播，最终被超级节点接受处理，完成上链操作。

3)信用资质评价系统。

信用资质评价系统负责数据采集、积分管理、策略管理等功能，通过建立完善的积分评价体系督促内容审核机构提升审核质量，也进一步降低重复审核的工作量，打造良性运转的内容审核环境。信用资质评价系统模块如图3所示。

a、数据采集。

数据采集模块负责统计内容审核机构的审核失误、审核校正、事故发生率等数据。

b、积分管理。

积分管理模块包括奖惩执行、操作回退、证据记录、评价报告等功能。奖惩执行负责管理各内容审核机构的积分，依据评价策略进行加分、扣分、取消等操作。操作回退提供积分操作的回退功能。证据记录负责将证据信息打包于交易中进行全网广播，作为后续惩罚的凭证。评价报告提供按时段的积分评价报告。

c、策略管理。

策略管理模块包括策略制定、策略更新、奖励机制、惩罚机制等功能。策略制定根据现有内容审核评价策略进行制定，包括积分增加、积分扣除等策略。策略更新根据新的政策、标准、规范、制度等进行策略修订。奖励机制用于鼓励内容审核区块链参与方积极参与共识，也鼓励内容审核机构提升审核质量，对一定时间内严格遵照审核标准，并且内容审核事故发生率在某一阈值下的审核人及其节点进行奖励。惩罚机制用于对交易行为异常、审核失误率超过阈值的机构实施进行惩罚。

4)任务管理系统。

任务管理系统对各项审核任务进行统一管理，包括任务进度查询、资源配置情况查询等，并对所有审核任务的状态进行监控。具体包括业务管理、内容管理、智能调度、审核结果记录与共享、监控管理、溯源管理等功能。

a、业务管理。

业务管理模块负责对内容审核区块链相关的所有业务记录进行管理，包括业务请求、内容审核、重审、纠错等业务记录、交易记录、审核结果记录、文件播出(发布)记录等进行管理，并提供相应的业务查询接口。

b、内容管理。

内容管理模块提供所有文件内容及多版本文件的管理，包括原始文件、被审核过程文件、恶意内容文件、问题快照文件等管理，包括文件ID、文件哈希、文件存储位置索引等信息，可通过区块头或内容ID进行检索。

c、智能调度。

可根据内容审核优先级、审核业务量等因素以及审核历史信用情况、当前服务能力情况等，为审核任务匹配符合要求的第三方审核服务平台，实现审核任务的智能化调度。

d、监控管理。

监控管理模块负责区块链运行状态监控和故障监测，并提供事故和问题报告的收集。

e、溯源管理。

溯源管理模块负责在安全审计或安全播出事故时提供内容审核记录查询溯源，以及问题的跟踪及报告服务。

5)统一策略管理系统。

统一策略管理系统的主要功能是对内容审核规则进行统一管理维护，通过实时主动获取广电总局、网信办等部门的内容审核标准和规则，保障审核规则的完整性和及时性。将规范化的审核标准数据进行分析处理，转换为通用的基础审核策略。

a、实时标准同步。

从广电总局、网信办等管理部门网站获取内容审核标准和规则，保障实时同步。

b、审核标准管理

将收集到的内容审核标准进行统一管理，记录标准来源、日期、发布部门、其他标准的相关性等，形成规范化的信息数据。

c、审核策略分析。

将规范化的审核标准和审核规则进行统计、对比和分析后，转换为通用的基础审核策略。将基础审核策略与审核业务需求、审核系统能力等因素进行综合考虑，生成统一的通用审核策略。

d、统一策略发布。

统一策略发布模块通过将策略上链，实现内容审核策略与监测监管机构、广播电视台和融媒体机构、视听服务机构、短视频机构的共享发布，实现各机构内容审核标准的统一，保障审核质量。

6)链管理系统。

链管理系统负责对联盟链节点进行信息查询、服务控制、状态监控、授权管理等操作，具有节点服务器信息查询、节点服务启动关闭控制、节点服务配置、节点网络状态监控、节点授权管理等功能。

2、内容审核功能域。

内容审核功能域负责内容审核、打标以及内容审核功能域与联盟链网络之间的协同，同时提供本地存储用于存储被审核文件、审核结果文件、审核证据文件等。包括智能音视频文件审核设备、智能标签识别设备、链接口系统和本地内容存储。

1)智能音视频文件审核设备。

智能音视频文件审核设备用于对对不同格式不同码率的长视频、短视频进行机器审核，包括文本、音频、视频/图像等内容，具备音频识别、文字识别、图像/视频识别功能。利用人工智能和大数据技术，采用异构多模态的分布式弹性计算框架技术构建，主要包括文字校对、智能语音识别、智能语音合成、智能语音转写、视频标签分析、视频OCR、敏感内容识别、智能人物识别搜索、兴趣点识别、NLP语义分析、视频景别搜索分析、新闻内容数据分析等基础能力。

2)智能标签识别设备。

智能标签识别设备具备内容标签识别和打标功能，采用机器审核和人工审核相协同的方式。智能标签识别设备在对审核对象进行特征识别的同时，采集审核对象的关键信息，并标注相应的内容标签，包括关键人物、时间、主要事件、关联人物、关联事件等。内容标签将被审核对象进行标签化，当需要重播重审、审核规则或策略发生变更时，内容标签可以迅速定位被审核对象，大大提升审核效率。

3)链接口系统。

链接口系统负责内容审核功能域与联盟链网络之间的协同，主要功能有三项，一是接收来自内容审核能力支撑平台发布的内容审核标准、算法、策略等信息；二是在内容审核工作完成后，将审核结果、审核证据和内容标签通过接口模块打包发送给内容审核区块链；三是查询链上存储的内容审核相关信息。

4)本地内容存储。

本地内容存储是部署于内容审核机构的存储设备，用于存储被审核文件、审核结果文件、审核证据文件等。

4、链下内容存储域。

由于区块链的容量限制问题，内容审核区块链采用链下存储的方式对视频类文件进行存储，保障视频类文件的持久化存储，支持向获得授权者提供真实的文件。链下主要存储被审核内容文件、审核过程文件、恶意内容存档文件、二次编辑文件等。对于同一视频文件的多次审核保存全部版本文件以及相应的恶意内容文件，便于审核记录跟踪溯源。链下视频内容存储采用传统的集中式存储，避免单点故障风险。

同时，链下内容存储域具备云化部署的内容审核工具和内容编辑工具，可为审核机构、审核专家提供线上审核平台，避免内容完全下载到内容审核机构，增加内容泄露风险。

4、联盟链网络。

联盟链网络包括内容审核需求方节点(包括广播电视、网络视听、短视频、直播流等机构)、内容审核机构、监管机构节点和平台管理机构节点。

内容审核业务流程如图4所示，包括：

A100，内容审核需求方通过Web页面的方式向内容审核业务引擎提交审核请求，填写信息包括：内容类型、审核时限、内容大小、编码格式等；

A200，内容审核业务引擎根据内容大小为被审核内容分配链下内容存储位置，并将存储位置返回给内容审核需求方；

A300，内容需求方向指定存储位置上传待审核内容，内容上传采用加密方式；

A400，内容审核业务引擎对待审核内容进行预处理，通过计算文件哈希生成唯一ID，作为被审核内容的内容标识；

A500，内容审核业务引擎将审核任务提交给任务管理系统；

A600，任务管理系统通过分析现有内容审核机构任务情况、信用积分、审核业务优势等多个维度信息分配任务，将确认好的内容审核机构返回给内容审核业务引擎；

A700，内容审核业务引擎将对内容审核机构分配审核权限，只有获取权限的审核机构才能访问该内容；

A800，内容审核业务引擎将内容标识、内容存储信息、审核时限、内容审核机构等信息上链；

A900，内容审核机构根据内容存储信息对内容进行审核，审核完成后，将审核结果上链，包括内容标识、审核后内容标识、审核后内容存储信息、审核人员、审核日期等。

统一审核标准获取及分发流程：

统一策略管理系统的主要功能是对内容审核规则进行统一管理维护，通过实时主动获取广电总局、网信办等部门的内容审核标准和规则，保障审核规则的完整性和及时性。将规范化的审核标准数据进行分析处理，转换为通用的基础审核策略。

B100，实时标准同步模块实时或定期从广电总局、网信办等管理部门网站获取内容审核标准和规则。

B200，审核标准管理模块将收集到的内容审核标准进行统一管理，记录标准来源、日期、发布部门、其他标准的相关性等，形成规范化的信息数据。提交给审核策略分析模块。

B300，审核策略分析模块将规范化的审核标准和审核规则进行统计、对比和分析后，转换为通用的基础审核策略。将基础审核策略与审核业务需求、审核系统能力等因素进行综合考虑，生成统一的通用审核策略。

B400，统一策略发布模块将策略上链，实现内容审核策略与监测监管机构、广播电视台和融媒体机构、视听服务机构、短视频机构的共享发布，实现各机构内容审核标准的统一，保障审核质量。

由此，通过统一审核标准获取及分发流程，通过统一策略管理系统实现统一导向、统一尺度的审核标准制定能力，基于区块链网络保障提供统一高质量的审核服务。

内容审核工作监管流程：

播出机构需严格执行“谁播出谁负责”的政策要求，为了监督播出机构是否按规定严格执行内容审核工作，有必要进行内容审核工作监管。基于本系统可以实现内容审核的监管，确保播出单位按规定完成内容审核。基于区块链数据的不可篡改性，监管机构可以定期对历史记录进行分析，并且根据监管结果形成审查平台安全态势分析，构建内容审核链安全监测平台。一方面，可以对恶性审核行为和安全风险进行监测预警；另一方面，基于链上的信誉记录机制，促进内容提供商持续制作和提供健康优质的内容。

流程如下：

C100，播出机构在进行各类内容审核同时将审核操作信息上链，包括审核内容ID、审核内容类型、审核人员等信息，对于网络直播内容，还应上传审核时间点信息；

C200，监管机构通过查询链上审核记录，以确定播出机构是否完成内容审核；

C300，一旦出现播出事故，监管机构可以通过查询链上信息迅速获取该内容的相关审核信息，定位责任单位和责任人。

由此，监管机构可以定期对历史记录进行分析，并且根据监管结果形成审查平台安全态势分析，保障内容审核业务安全监测。

综上所述，本发明提出了一种基于联盟链的内容审核系统，由内容审核支撑域、内容审核功能域、链下视频内容存储域、区块链网络组成。

内容审核支撑域提供内容审核的管理和支撑功能，提供统一的审核策略或标准的分析、生成、发布，保证各机构审核标准的一致性，并实现审核结果的共享。内容审核支撑域包括统一数字身份管理系统、内容审核业务引擎、信用资质评价系统、任务管理系统、统一策略管理系统和链管理系统。统一数字身份管理系统和链管理系统可以采用本领域常规方案。

基于本发明可以实现监管机构对于播出机构的内容审核工作监管，确保播出单位按规定完成内容审核。

通过具体实施方式的说明，应当可对本发明为达成预定目的所采取的技术手段及功效得以更加深入且具体的了解，然而所附图示仅是提供参考与说明之用，并非用来对本发明加以限制。

Claims (10)

1.一种基于联盟链的内容审核系统，其特征在于，包括：

内容审核支撑域，用于对内容审核提供管理和支撑；

内容审核功能域，用于通过与联盟链网络之间的协同，负责对内容审核、打标；

链下内容存储域，用于内容审核过程中文件的存储；

及由多个节点构成的联盟链网络，包括：内容审核需求方节点、多个内容审核机构节点、监管机构节点及运营机构节点。

2.根据权利要求1所述的基于联盟链的内容审核系统，其特征在于，所述内容审核支撑域提供统一的审核策略或标准，保证各所述内容审核机构节点审核标准的一致性，并实现审核结果的共享。

3.根据权利要求1所述的基于联盟链的内容审核系统，其特征在于，所述内容审核支撑域包括：

统一数字身份管理系统，用于负责所述联盟链网路中各节点的身份管理和身份认证，确认对内容资源的访问权限；

内容审核业务引擎，用于负责面提供内容审核业务接入服务，为内容审核提供业务的接入和提交，以及数据交换服务功能；

信用资质评价系统，用于负责数据采集、积分管理及策略管理，通过建立完善的积分评价体系督促各内容审核机构节点提升审核质量；

任务管理系统，用于对内容审核任务进行统一管理，并对内容审核任务的状态进行监控；

统一策略管理系统，用于对内容审核规则进行统一管理维护，通过实时主动获取审核标准和规则，保障审核规则的完整性和及时性，并将规范化的审核标准数据进行分析处理，转换为通用的基础审核策略；

链管理系统，用于负责对联盟链网络中各节点进行信息查询、服务控制、状态监控、授权管理操作，具有节点服务器信息查询、节点服务启动关闭控制、节点服务配置、节点网络状态监控及节点授权管理功能。

4.根据权利要求1所述的基于联盟链的内容审核系统，其特征在于，所述内容审核功能域包括：

智能音视频文件审核设备，用于对音视频文件及文本文件进行机器审核；

智能标签识别设备，用于进行内容标签识别和打标；

链接口系统，用于负责内容审核功能域与联盟链网络之间的协同。

5.根据权利要求4所述的基于联盟链的内容审核系统，其特征在于，所述内容审核功能域还包括：本地内容存储，用于存储被审核文件、审核结果文件及审核证据文件。

6.根据权利要求1所述的基于联盟链的内容审核系统，其特征在于，所述链下内容存储域存储有被审核内容文件、审核过程文件、恶意内容存档文件、二次编辑文件，所述链下视频内容存储域采用传统的集中式存储。

7.根据权利要求1所述的基于联盟链的内容审核系统，其特征在于，所述链下内容存储域具备云化部署的内容审核工具和内容编辑工具，提供线上审核平台。

8.一种基于联盟链的内容审核方法，其特征在于，所述方法采用如权利要求1-7中任一项所述的基于联盟链的内容审核系统进行内容审核，所述方法包括：

A100，内容审核需求方向内容审核业务引擎提交审核请求；

A200，内容审核业务引擎根据内容大小为被审核内容分配链下内容存储位置，并将存储位置返回给内容审核需求方；

A300，内容需求方向指定存储位置上传待审核内容；

A400，内容审核业务引擎对待审核内容进行预处理，生成审核内容的内容标识；

A500，内容审核业务引擎将审核任务提交给任务管理系统；

A600，任务管理系统分配任务，将确认好的内容审核机构返回给内容审核业务引擎；

A700，内容审核业务引擎将对内容审核机构分配审核权限；

A800，内容审核业务引擎将内容标识、内容存储信息、审核时限及内容审核机构信息上链；

A900，内容审核机构根据内容存储信息对内容进行审核，审核完成后，将审核结果上链。

9.一种审核标准统一方法，其特征在于，所述方法用于如权利要求1-7中任一项所述的基于联盟链的内容审核系统进行审核标准的统一，所述方法包括：

B100，实时标准同步模块实时或定期获取内容审核标准；

B200，审核标准管理模块将收集到的内容审核标准进行统一管理，记录标准来源、日期、发布部门及标准间的相关性，形成规范化的审核标准和审核规则，提交给审核策略分析模块；

B300，审核策略分析模块将规范化的审核标准和审核规则进行统计、对比和分析后，转换为通用的基础审核策略，并将基础审核策略与审核业务需求、审核系统能力因素进行综合考虑，生成统一的通用审核策略；

B400，统一策略发布模块将通用审核策略上链，实现各内容审核机构内容审核标准的统一。

10.一种内容审核监管方法，所述方法采用如权利要求1-7中任一项所述的基于联盟链的内容审核系统进行内容审核监管，所述方法包括：

C100，播出机构在进行各类内容审核同时将审核操作信息上链；

C200，监管机构通过查询链上审核记录，以确定播出机构是否完成内容审核；

C300，若出现播出事故，监管机构通过查询链上信息获取对应内容的审核信息，定位责任方。

Images