CN113495920A - 一种基于区块链的内容审核系统、方法、装置和存储介质 - Google Patents

Abstract

本发明提出了一种基于区块链的内容审核系统、方法、装置和存储介质，用以提高内容审核结果的准确性和审核效率。基于区块链的内容审核系统，包括：审核打标系统，用于接收内容审核请求，其中携带有内容审核对象标识；针对内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断是否包含可疑内容；如果确定包含可疑内容，则标注可疑原因和可疑类型；在进行特征识别的同时，采集内容审核对象的关键信息，根据采集的关键信息为内容审核对象添加内容标签；根据审核结果生成相应的审核证书；向区块链节点发送所述审核证书；区块链节点，用于存储接收到的审核证书，并通过共识机制将审核证书同步到内容审核区块链上的其他区块链节点。

Description

一种基于区块链的内容审核系统、方法、装置和存储介质

技术领域

本发明涉及区块链技术领域，尤其涉及一种基于区块链的内容审核系统、方法、装置和存储介质。

背景技术

随着UGC(User Generated Content，用户原创内容)时代的到来，用户可以在互联网上自主生产和发布信息，用户自主生产的内容数量与日俱增，导致互联网空间内未经审核的内容，尤其是以视听为主的音视频内容快速增长。这些内容由于未经过专业机构的遴选和甄别，内容质量良莠不齐，低俗虚假内容泛滥、违法违规等内容危害青少年成长、社会安定乃至国家安全，非主流、亚文化甚至扭曲价值观的内容元素夹杂在节目中传播。这对国家的文化安全、社会的和谐安定，特别是对青少年健康成长都造成了极其不良的影响。

这对内容审核提出了更高的要求，相关行政和行业主管部门也陆续出台了一系列监管措施，但由于在具体的业务工作中，缺乏具体可操作实施的流程和办法，目前不同地区、不同平台审核标准不一致，技术手段不足，因此劣质内容的管控效果不太理想，亟待建设良性的、可持续的内容审核能力体系。

目前，内容审核主要基于人工智能、大数据等机器审核技术，包括：语音识别、图像识别、图像分类等。实现色情识别、暴恐审核、涉政敏感、违禁品检测等多个维度的审核，一定程度上降低人力资源成本消耗。但是由于机器审核技术存在精确度问题，因此，人工审核仍然是必不可少的，从而降低了审核结果的可靠性和审核效率。

发明内容

本发明实施例提供一种基于区块链的内容审核系统、方法、装置和存储介质，用以提高内容审核结果的准确性和审核效率。

第一方面，提供一种基于区块链的内容审核系统，包括内容审核区块链和审核打标系统，所述内容审核区块链包含若干区块链节点，其中：

所述审核打标系统，用于接收内容审核机构用户或者内容提供用户发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容；如果确定所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；以及在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；向所述区块链节点发送所述审核证书；

所述区块链节点，用于存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

在一种实施方式中，所述内容审核区块链采用联盟链，所述区块链节点包括记账节点、数据同步普通全节点和轻节点三种类型；其中，所述记账节点用于对各用户的交易请求、智能合约部署及执行进行打包和共识，具体用于底层数据共识、存储记账、合约执行及账本防篡改功能；数据同步普通全节点用于同步并维护完整的账本数据；轻节点用于维护信息的完整性和数据的更新，以及对其相关的区块和交易信息进行验证；所述联盟链中根据参与用户的不同角色为其分配不同的访问权限，其中，监管机构部署多个记账节点；内容审核机构至少部署一个记账节点和一个普通节点；用户角色包括以下至少一项链管理用户，系统管理用户，内容审核用户，业务交易用户，监管机构用户和应用开发用户，其中，用户账号与用户角色的对应关系是N：1，N为整数，用户角色与用户权限的对应关系是N：M，M为整数；每个用户账号拥有唯一的公私钥对，业务交易发起用户使用私钥进行签名；业务交易接收用户使用公钥进行验证。

所述区块链节点，还用于在向所述内容审核区块链上的其他区块链节点同步所述审核证书之前，利用内容审核用户的私钥结合内容审核信息生成数字签名，所述内容审核信息包括以下至少一项审核日期，内容审核对象标识和审核形式。

在一种实施方式中，所述区块链节点之间交互的交易信息包括以下至少一项：交易的哈希值、交易体数据大小、交易信息和数字签名；所述区块链节点存储的区块信息包括以下至少一项：区块高度、区块的哈希值、交易体数据大小、时间戳、交易量、父区块、默克尔树根、交易哈希值和交易信息；内容审核信息包括以下至少一项：审核标识ID、审核人、审核机构、审核信息的哈希值、账号地址、信息数据大小、时间戳、过期时间、视频信息、表现证据、审核类型、审核结果、结果解释和数字签名；视频信息包括以下至少一项：视频标识ID、提供机构、播出机构和内容标签。

在一种实施方式中，所述内容标签中还携带有关联人物和关联事件；以及

所述审核打标系统，还用于接收内容播出机构用户发送的内容重审请求，所述内容重审请求中携带有内容审核对象标识；根据所述内容标签对所述内容重审请求中携带的内容审核对象标识所对应的内容审核对象进行重审，并生成审核证书后发送给所述区块链节点。

第二方面，提供一种基于区块链的内容审核方法，包括：

接收内容审核机构用户或者内容提供用户通过区块链节点发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；

针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容；

如果确定所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；

在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；

根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；

向所述区块链节点发送所述审核证书，所述区块链节点存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

在一种实施方式中，在向所述内容审核区块链上的其他区块链节点同步所述审核证书之前，还包括：

利用内容审核用户的私钥结合内容审核信息生成数字签名，所述内容审核信息包括以下至少一项：审核日期，内容审核对象标识和审核形式。

在一种实施方式中，所述内容标签中还携带有关联人物和关联事件；以及

所述方法，还包括：

接收内容播出机构用户发送的内容重审请求，所述内容重审请求中携带有内容审核对象标识；

根据所述内容标签对所述内容重审请求中携带的内容审核对象标识所对应的内容审核对象进行重审，并生成审核证书后发送给所述区块链节点。

第三方面，提供一种基于区块链的内容审核装置，包括：

接收单元，用于接收内容审核机构用户或者内容提供用户通过区块链节点发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；

判断单元，用于针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容；

标注单元，用于如果所述判断单元判断出所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；

标签添加单元，用于在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；

生成单元，用于根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；

发送单元，用于向所述区块链节点发送所述审核证书，所述区块链节点存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

第四方面，提供一种计算装置，所述计算装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现上述任一方法所述的步骤。

第五方面，提供一种计算机存储介质，所述计算机存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述任一方法所述的步骤。

采用上述技术方案，本发明至少具有下列优点：

本发明所述的基于区块链的内容审核系统、方法、装置和存储介质中，审核打标系统在接收到内容审核请求之后，结合人工智能技术判断内容审核对象是否包含可疑内容，如果包含，则标注可疑原因和可疑类型，同时，采集内容审核对象的关键信息，并据此为其添加内容标签，从而提升了内容审核效率和内容审核结果的准确性。

附图说明

图1为根据本发明实施方式的基于区块链的内容审核系统结构示意图；

图2为根据本发明实施方式的内容区块链的结构示意图；

图3为根据本发明实施方式的一般审核流程示意图；

图4为根据本发明实施方式的基于第三方审核机构的审核流程示意图；

图5为根据本发明实施方式的上级二审流程示意图；

图6为根据本发明实施方式的定责流程示意图；

图7为根据本发明实施方式的纠错流程示意图；

图8为根据本发明实施方式的重审流程示意图；

图9为根据本发明实施方式的基于区块链的内容审核方法流程示意图；

图10为根据本发明实施方式的基于区块链的内容审核装置的结构示意图；

图11为根据本发明实施方式的计算装置的结构示意图。

具体实施方式

为更进一步阐述本发明为达成预定目的所采取的技术手段及功效，以下结合附图及较佳实施例，对本发明进行详细说明如后。

首先，对本发明实施例中涉及的部分用语进行说明，以便于本领域技术人员理解。

需要说明的是，本发明实施例中的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。

在本文中提及的“多个或者若干个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。

基于区块链的内容审核方案通过打造以区块链为基础的分布式内容审核体系，依托区块链技术支撑的全流程防篡改、可追溯数据链条，结合人工智能、大数据等智能审核能力，为内容服务商、审核机构、播出机构搭建一个效率高、可信赖的集智能审核、追溯、认证、评分于一体的内容审核工作平台，提升审核效率、降低审核成本。

如图1所示，其为本发明实施例提供的基于区块链的内容审核系统结构示意图，包括内容审核区块链11和审核打标系统12，所述内容审核区块链包含若干区块链节点，其中：

所述审核打标系统12，用于接收内容审核机构用户或者内容提供用户通过所述区块链节点发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容；如果确定所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；以及在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；向所述区块链节点发送所述审核证书。在一种实施方式中，所内容审核记录中还包括内容审核对象标识、审核日期、内容审核对象标识和签名；其中，所述内容审核对象标识为针对所述内容审核对象进行哈希计算生成的。

所述区块链节点，用于存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

本发明实施例中，通过建设内容审核区块链网络，将内容服务商、审核机构、电视台/播出机构和国家级审核监管部门连接起来。通过区块链特有的共识机制，在机构间实时同步内容审核结果和审核标准，从而实现审核链条在联盟体系内的公开透明，让不同机构间的信息流通阻碍降至最低，从而实现以最终审核效果为导向的可追溯、可定位的高效透明的审核机制。

具体实施时，内容审核区块链12由区块链底层、区块链服务层和用户构成。用户包含监管机构用户、内容提供机构用户(或内容服务商)、内容审核机构用户、内容播出机构用户(或内容发布机构用户)四类用户，用户根据业务需求调用区块链服务层的一般审核、上级二审、重审、审核评分、用户注册等功能组件。区块链底层包含共识机制、跨链服务、节点管理、数据存储等功能。底层节点逻辑与上层用户逻辑分离，区块链底层节点的所有者可以是用户角色中的任意一种，具体选择规则由相关用户能力或政策规则需求决定。

内容审核机构或者内容提供机构将内容审核结果信息(本发明实施例中亦称为内容审核记录)发送给内容审核区块链，内容审核区块链对信息进行处理，基于哈希赋予的文件唯一性标识和可追溯的公开审核记录，减少不必要的重复审核，并定位审核问题的环节，实现不可篡改、可追溯、高效率的内容审核服务。

在一种实施例中，审核打标系统可以结合人工智能实现色情、暴恐、涉政敏感、违禁品检测等智能识别。其中，内容审核对象可以包括视频审核对象和音频审核对象。针对视频审核对象中的视频，审核打标系统按设定的频率进行截帧(如可以自行设定每秒截取1-24帧画面)，对截取画面(含画面上的人物、特定对象、字幕、广告等)进行特征识别、分析、比对，自动根据敏感库、特征库及自我学习库中的数据判断是否包含可疑内容，并标注可疑原因、类型(涉黄、政、暴、恐、军、外等)和等级(如初步可疑、重点可疑、禁止播出)。针对内容审核对象中的音频部分进行自动获取和识别，并进行对应的分析、比对和判断；在对审核对象进行特征识别的同时，采集审核对象的关键信息，并标注相应的内容标签，包括关键人物、时间、事件等信息。

在一个实施例中，审核打标系统还用于在向区块链节点发送所述内容审核记录之前，对所述内容审核对象进行分类和分级，将不同类型和等级的内容审核对象分配给相应类型和等级的复核用户进行复核；以及接收所述复核用户回填的复核结果，具体地，审核打标系统对审核对象进行分类和分级，对应审核人员的分类和分级，将不同类型和等级的内容匹配派单给相应类型和等级的审核人员进行复核。

人力审核的主要任务如下：

基于智能审核的结果进行相应的审核操作。对于文字类的待复审内容，审核人员根据AI标记进行复核确认；对视频类的待复审内容，审核人员进行视频播放审核，重点审核关键帧(含标记图片)，并进行必要的编辑和点评。审核人员对审核对象的标签进行复核，所有完成审核的内容都建议添加内容标签。审核人员对复核结果进行回填，进一步提升同类可疑内容提取和横向对比分析等能力。

内容审核工作完成后，审核机构节点智能审核模块将审核信息和内容标签信息打包发送给内容审核区块链。

上述过程中，在对审核对象标注必要的标签，可以大大提升后续重审的效率。另外，在进行机器审核的基础上，结合必要的人力审核，协同保障智能审核的质量。

根据本发明实施例，内容审核区块链通过存证接口进行将内容审核记录上链，并通过底层节点的共识将包含该记录的交易打包进区块，通过区块链的P2P网络、密码学算法、时间戳等技术，保证了内容及审核结果的公开、透明和不可篡改。

内容审核区块链以适当的手段激励各个节点参与区块链共识。业务发生时数据多方同时确认并提供不可篡改记录。内容审核区块链可以极大地提升内容的审核效率和可信度，保障内容流转及内容审核信息历史追溯。可以克服传统模式存在的缺陷，任何节点都可以记录审核信任授权信息，且不可更改。

当需要提取内容流转及审查记录时，可以依据内容审核对象标识提取不同时间段的内容流转审核记录历史信息，这些信息都是基于区块链技术的共识和验证存储和记录的，在可信度和可靠性方面得到了区块链各参与方的共同验证，可以将可信的内容审核历史纪录发布到应用平台，支撑安全监管。

在一种实施方式，所述内容标签中还携带有关联人物和关联事件。所述审核打标系统，还可以用于接收内容播出机构用户发送的内容重审请求，所述内容重审请求中携带有内容审核对象标识；根据所述内容标签对所述内容重审请求中携带的内容审核对象标识所对应的内容审核对象进行重审，并生成审核证书后发送给所述区块链节点。

根据初审时为内容审核对象添加的内容标签，使得后续重审时可以根据该内容标签中的关键人物、关联人物、关键事件和关联事件等进行审核，提高了重审效率。

本发明实施例中，内容审核区块链以联盟链作为基础架构。与公有链相比，联盟链能更好地实施各项规章制度，灵活可控，操作性强；联盟链节点数量精简，交易处理更快。与私有链相比，联盟链由各节点共同维护，可信度高；由于节点预先指定，验证效率更高，运行成本较低。所述联盟链中根据参与用户的不同角色为其分配不同的访问权限，其中，用户角色包括以下至少一项链管理用户，系统管理用户，内容审核用户，业务交易用户，监管机构用户和应用开发用户，其中，用户账号与用户角色的对应关系是N：1，N为整数，用户角色与用户权限的对应关系是N：M，M为整数；每个用户账号拥有唯一的公私钥对，业务交易发起用户使用私钥进行签名；业务交易接收用户使用公钥进行验证。

基于联盟链的节点准入机制，联盟链的所有节点身份与各参与方机构相互对应，保障节点行为所属机构可追溯。同时，基于数字身份和权限控制机制，写入区块链的数据都包含各参与方的数字签名，每一条审核信息任何人无法篡改且随时可追溯。因此，更适合于内容审核领域，一旦发现数据真实性问题，相关参与方都无法抵赖，造假操作会对其诚信造成恶劣影响，甚至要付法律责任。

内容审核区块链参与方包括内容提供机构、内容审核机构、内容播出机构(或内容发布机构)和监管部门。其中：

内容提供机构是内容发行机构或内容制作机构，为内容播出机构提供内容源。

内容审核机构由政府部门组织确定并给予权威审查授权的审核节点，经过授权的审核机构可以加入内容审核区块链。

内容播出机构包括电视台、有线网络服务商、IPTV播控平台、爱奇艺、优酷、腾讯等机构。

监管部门是具有公信力的监管部门，具有审核联盟成员的权利，监管部门保存全量数据，并拥有查看每一笔交易以及参与者管理的权限。

在多方参与的联盟链中，各参与方在分工协作的同时要职责分明、各司其职。各参与各方根据用户角色具有不同的权限，包括各类业务数据的写入、读取、业务权限控制，由区块链数字身份系统实现，底层链节点负责对这些权限进行验证、响应和处理。

根据本发明实施例，内容审核区块链节点分为记账节点、数据同步普通全节点和轻节点三种类型。

记账节点负责对各用户的交易请求、智能合约部署及执行等进行打包和共识，具体包括底层数据共识、存储记账、合约执行及账本防篡改等功能。普通全节点同步并维护完整的账本数据。轻节点负责维护信息的完整性和数据的更新，对其相关的区块及交易信息进行验证，只存储区块头，可运行在小容量的个人PC等终端设备上。

在内容审核区块链中，建议监管机构建设多个记账节点；内容审核机构起码建设一个记账节点和一个普通节点；内容播出机构可以建设普通节点，也可以根据需求建设轻节点，或者不建设节点直接作为用户加入到区块链系统中。记账节点加入系统后，成为区块链上的共识单位。多个节点参与共识，确保了区块链上交易的一致性。

节点具有底层数据操作权限，可根据权限不同实现对节点的加入、退出、记账权、数据同步权等控制功能，也可以对不同分区或子链的数据访问权限进行控制，底层链节点的权限和应用权限是相对独立的。

内容审核记录由内容审核机构节点通过存证接口进行上链，并通过底层节点的共识将包含该记录的交易打包进区块，通过区块链的P2P网络、密码学算法、时间戳等技术，保证了内容及审核结果的公开、透明和不可篡改。

具体实施时，用户账号和角色的对应关系是N:1，即一个账号只能对应一个角色，但一个角色可以包含零到多个账号，N为整数。在实际操作中，同一角色可能有多个账号，但每个账号使用独立且拥有唯一的公私钥对，发起交易时使用私钥进行签名，接收方通过公钥进行验签，以确认交易由哪个账号发出，实现交易的可控及后续监管的追溯。

角色与权限的对应关系为N:M，即同一角色拥有多个权限的集合，即同一权限也能分属于多个角色。权限粒度细化到合约的接口级别，即某一角色下的账号如拥有某个权限，则该账号能调用该权限下合约的一个或多个接口，M为整数。

需要说明的是，如果某个机构同时兼顾多个角色的职责，这个机构的人员需要进行交易，又可以作为运维人员参与系统维护，那么应给该机构分配多个账号，每个账号的私钥掌握在不同的人员手里，每个人员只负责一种角色的工作，以规范操作流程。

内容审核区块链上的各参与方各司其职、分工合作，以避免越权操作带来的风险。面向角色的权限控制和合理的帐号分配管理，使对应到不同角色的帐号职责清晰，活动行为可控，容易追溯。角色设计如下：

(1)链管理员

由内容审核联盟链的各参与方共同选出一个委员会，一个或多个机构可获得链管理员权限，负责组织各机构加入联盟链，为各机构分配对应的机构管理员和交易员权限、管理链上应用的生命周期等。链管理员根据管理策略，依次给其他系统管理员账户分配节点管理权限、系统参数修改权限、CNS权限、部署合约和建表权限等。链管理员对联盟链的日常运营负责，一般不直接参与链上业务交易。

(2)系统管理员

实施联盟链的部署和运维活动的人员。通常为各参与方机构的运维团队承担，或者由平台运营管理者统一组织运维管理，运维人员负责发布和管理应用，管理区块链的节点物理资源，启停节点服务，修改本地节点的系统配置参数，一般不会参与业务交易。链管理员可以根据约定的治理规则来分配系统管理员权限，例如：只允许指定的账户部署合约，则设定合约部署权限，这样其他账户则不能随意部署合约。

(3)内容审核员

实施内容审核职能的人员或机构。可以由具有资质的第三方内容审核机构承担，或者由其他机构的内容审核部门或团队承担。内容审核员负责处理全链各类型内容的审核服务需求，审核接入记录、审核执行记录、审核结果信息均作为区块信息写入区块链，实现审核信息在全链公开透明。

(4)交易用户

交易用户发起业务交易，用户向区块链发送业务交易请求，业务交易主要是调用合约和读写用户表，可以根据业务逻辑，结合用户表权限和合约接口权限来进行灵活的控制。

(5)监管机构

监管机构负责制定业务规范、审查业务数据、监督管理联盟链的运行状态，维护服务的合法、稳健运行。监管机构保存全量数据，并拥有查看每一笔交易以及参与者管理的权限，一般不参与联盟链的日常运作管理。

(6)应用开发者

应用开发者负责将可发行的软件提交到平台的应用仓库，包括智能合约、APP等。在DO分离的管理模式中，开发者不直接对联盟链进行操作，由运维管理者进行软件发布、参数配置等操作。为了跟踪应用的使用情况，开发者有查看相关应用的统计数据的权限。

为了更好的理解本发明实施例，以下对内容审核区块链功能架构进行详细介绍。

内容审核区块链功能架构包括基础层、核心层、服务层、应用层和跨层的安全。如图2所示。

其中，应用层是内容审核区块链系统面向用户的入口，为参与方访问区块链服务提供交互界面，并负责用户相关的管理服务。用户层由数字身份模块、内容审核模块、奖惩模块、管理服务模块和应用门户模块组成，以下一一介绍。

一、数字身份模块

区块链技术通过密码学算法的不可篡改性解决了链上数据的信任问题，但数据上链之前的真实性需要通过数字身份实现。数字身份模块负责内容审核区块链各参与方的身份管理和身份认证，确认用户对资源的访问权限，保障区块链访问控制策略的可靠运行。数字身份模块包括账号认证功能组件和权限控制功能组件。

(1)账号认证

账号认证功能组件通过数字签名实现对请求发起各类交易、存证、以及他证等操作的授权。在内容审核区块链中，每个账户拥有一对公私钥对，其中公钥作为公开信息，生成的地址作为账号ID使用。私钥作为不公开信息，结合密码学及公开的公钥，用以判断是否真正持有对该账号的管理权限。例如，当内容审核机构完成对某一内容的审核后，先用私钥对内容进行签名，然后上链。其他节点收到消息后，通过对数字签名进行验证完成对于该内容审核机构的验证，以判断是否进行审核或是否进行播出。

(2)权限控制

权限控制功能组件是区块链安全的重要部分，功能包括联盟用户身份管理、用户角色管理和权限配置。按访问或读取资源的权限不同定义多个角色，按角色授权不同用户访问或使用资源的权限及安全规则，使得用户只能在有限范围内进行写入或读取数据资源，而在其读取范围外的数据则会进行加密保护。

在本发明实施例中，可以由监管方通过为其他节点注册生成密钥，或采用CA证书的管理方式，由监管机构作为CA根节点，为其他用户生成子节点CA证书，以此标识相关用户身份，达成链上数据合理确权的目的。对于其他用户，也可以为其相对应的下一级子用户生成相关的密钥或CA证书，使整个系统实现树状多层级管理结构，由上级节点监管下级节点。对于监管方，通过掌握根密钥或CA根证书，实现对于链上数据的“穿透式监管”。相关密钥或证书可以根据相关用户涉及的数据安全需要，选用硬件或软件作为载体进行存储。

二、内容审核模块

内容审核模块一方面接入链下智能审核模块的审核结果信息，一方面为内容审核各参与方提供业务的接入和提交，以及数据交换服务等功能。审核接口模块基于智能审核模块提交的结果，把审核记录数据打包为交易，通过P2P/RPC网络进行广播，最终被超级节点接受处理，完成“上链”操作。

在内容审核工作中，被审核对象(视频、音频、文本等格式)通过进行哈希运算，可以快速生成唯一的内容ID(内容审核对象标识)。内容ID唯一标识被审核内容，并与合作伙伴共享信息。审核记录数据包括内容ID、审核日期、审核人员、签名、内容标签等。

内容审核模块主要包括信息验证、信息溯源、重播重审和事故定责四个功能组件。

信息验证：审核机构发布的每一条审核信息包含由审核人账号的私钥结合相关信息(包括：审核日期、内容ID、审核形式等)生成的数字签名。应用层模块在处理信息时，通过审核人已公开的公钥信息对其合法性进行验证

信息溯源：由于每一条审核信息都包含了账号及其数字签名信息，因此可以通过两者确定其相应的审核人信息。

重播重审：根据需要，引用已完成审核程序的内容包含于新审核信息当中，审核人对内容进行重播重审，并包含审核人的私钥结合相关信息生成的数字签名。

事故定责：对于播出事故中涉及到的相关内容，通过其内容ID等标识，收集相关联的审核信息，并通过信息溯源模块追责相关审核人，并把相关信息打包于交易中，进行全网广播，用以后续惩罚系统模块的运行。

三、积分评价模块

建立审核评分体系的目的是督促内容服务商提升审核质量，并依据审核评分的结果形成专业化分工。随着评分体系的建立，可以诞生一批高质量的审核机构，提供优质专业的审核服务。

审核评分体系包含以下三方面要点：

(1)原始分：依据不同内容审核机构的资质、实力、背景和基本信息，每个内容审核机构都有一个原始分，作为评价其审核能力的初始参考。

(2)分数加减：根据内容审核机构在实际审核中的表现，对其审核能力进行加分或扣分操作。比如自身出现一次审核失误扣XX分，发现一次别人的审核失误加XX分。

(3)打分机构：对于失误与否、失误的严重程度，需要有一个权威机构进行判断并进行加减分评定。

积分评价模块包括数据采集、积分管理、证据处理、积分评价四个功能组件。

数据采集：负责统计内容审核机构的审核失误、事故发生率。

积分管理：负责管理各内容审核机构的积分，依据规则实施加分、扣分、取消等操作，并时段提供积分报告。

证据记录：对于恶意攻击节点，进行诸如多次投票、广播大量无效信息堵塞网络等行为，进行记录并把相应证据信息打包于交易中进行全网广播，作为后续惩罚的凭证。

评价策略：制定积分增加、积分扣除的规则；对一定时间内严格遵照审核标准且内容审核事故发生率在某一阈值下的审核人及其节点进行奖励。

评分体系的最终建立，将会带来两方面的正面影响：一是评分代表了审核主体在审核领域的专业度，这个分数可以成为其他机构判定审核后是否可上线的依据，也可以督促审核主体提升审核质量；二是随着这一模式的运行，会有一些机构的审核能力得到认可，它们可以成为专业的审核服务机构，提供商业化的审核服务。

四、管理服务模块

运行管理模块包括用户管理、监控管理、事件管理、问题管理和安全管理服务。

策略管理提供区块链服务的定义、更新、访问策略管理，包括业务、技术、安全、隐私和认证等策略。

异常问题管理提供事故和问题报告的收集能力，

交付管理提供服务交付管理能力。

监控管理负责区块链运行状态监控和故障监测。

事件管理提供预定义或自定义事件的服务以及区块链网络问题跟踪及报告服务。

安全管理提供账号安全性服务。

五、应用门户模块

应用门户提供内容审核区块链业务访问和业务查询功能。由用户界面和事务提交两个模块组成。用户界面为内容审核区块链用户与区块链提供的服务提供交互功能。事务提交模块实现将用户的事务请求(例如：内容审核交易申请、内容审核记录查询等)提交到区块链网络的功能。

服务层为用户层提供可靠高效的区块链访问和监控功能。服务层通过调用核心层功能组件，提供统一的接入和节点管理服务，同时通过高效缓存、可靠存储、负载均衡等技术，提供可靠的区块链服务能力。服务层包括接入服务访问接口，以及接入管理、节点管理和账本应用，其中：

一、接入管理模块

接入管理模块提供跨进程调用功能，为应用层提供核心层功能接入服务。

功能包括：

账户信息查询：提供内容审核区块链账户的基本信息查询服务。

账本信息查询：提供内容审核区块链区块、事务详情等查询服务，包括内容审核记录、内容交易、奖惩记录等。

事务操作处理：将用户事务请求提交给区块链网络。包括接口服务能力管理和接口访问权限管理，接口服务能力管理支持接口调用频度设置和事务操作及账本查询缓存设置；接口访问权限管理对不同用户配置不同的访问权限。

二、节点管理模块

节点管理模块负责对区块链节点进行信息查询、服务控制、状态监控、授权管理等操作。节点管理模块具有节点服务器信息查询、节点服务启动关闭控制、节点服务配置、节点网络状态监控、节点授权管理等功能，说明如下：

节点服务器信息查询，提供区块链节点服务器的节点状态信息查询服务。

节点服务启动关闭控制：提供区块链节点服务器的启动和关闭服务。

节点服务配置：提供区块链节点服务器的节点服务能力配置。

节点网络状态监控：提供区块链节点服务器网络连接状态监控。

节点授权管理：提供区块链节点准入准出配置和节点事务处理及账本查询授权配制。

三、账本应用模块

账本应用模块通过调用核心层的账本记录模块实现基于区块链的账本应用。账本应用模块具有内容发行和交换、逻辑验证、权限控制、合约执行等功能。交易作为触发区块链各节点状态改变的主体，需要对其合法性进行验证。由于交易的数据结构中包含交易发送人对其的数字签名，因此可通过已公开的公钥信息，对交易中的数字签名进行验证。

实现链上内容的发行和交换。

共识前的逻辑验证和共识后的结果验算。

多签名权限控制设置等功能。

基于合约服务模块执行合约逻辑。

四、合约服务模块

智能合约是一种可自动执行的数字化协议，可按照预设合约条款自动执行。内容审核区块链可以选择使用智能合约，在网络启动时，部署一套功能强大、结构灵活且支持自定义扩展的智能合约，实现准入控制、身份认证、配置管理、权限管理等功能。原则上由管理员在网络启动时部署全网生效。

系统合约原则上由区块链管理员在网络启动之初部署全网生效。若是在网络运行期间重新部署变更升级，则需要在全网所有节点许可的情况下由区块链管理员来执行操作。

五、服务访问接口

服务访问接口为应用层发起的查询、交易、配置和监控等操作提供接口服务。

核心层是内容审核区块链系统的核心功能层，包括共识机制、账本记录、加密、摘要、数字签名、时序服务等，为服务层提供相关功能的支持。节点间的共识机制，以及基于共识机制的数据和账本记录是区块链系统的基础。时序服务模块为区块链系统提供统一的时序。加密、摘要、数字签名等模块，保证了区块链系统的安全合规和防篡改能力，其中：

一、共识机制

共识机制是区块链中各分散节点对事务状态的验证、记录、修改等行为的有效性达成快速共识的基础，为了确保信息的准确性和有效性，区块与区块之间通过共识机制判断数据有效性。共识机制结合容错机制的应用，达成对某一数值或区块链状态的一致性共识。

共识机制具备以下功能：

支持多个节点参与共识和确认。

支持独立节点对区块链网络提交的信息进行有效性验证。

防止任何独立的共识节点未经其他共识节点确认而在区块链系统中进行信息记录或修改。

具有一定的容错性，包括节点物理或网络故障的非恶意错误，以及节点遭受非法控制的恶意错误，以及节点产生不确定行为的不可控错误。

区块链的共识算法主要包括工作量证明(POW)、权益证明(POS)、委托权益证明(DPOS)、可用拜占庭容错算法(PBFT)等，其中POW、POS、DPOS适用于公有链，PBFT是一种适用于传统分布式系统的拜占庭容错算法。

没有一种共识机制是完美无缺的，内容审核区块链应选取可管可控的共识机制，在保证安全的前提下，提升全网验证出块的效率和去中心化程度的取舍来提升性能。本方案建议选择PBFT共识协议,并对既有PBFT的leader机制进行改进，引入随机化选择leader节点机制，避免leader节点受到DoS攻击。联盟链交易延迟低，不需要消耗大量的计算资源，更注重各节点信息的统一，具有高度的事务确定性，能达到秒级出块，无分叉快速确认的效果，从而保证快速、可靠地完成上链请求。

二、账本记录模块

账本记录模块负责内容审核区块链的信息存储，是分布式数据存储机制，的通过不同节点对账本的共同记录和维护，形成区块链系统中公共管理、防篡改、可信任机制。

账本记录模块具有收集交易数据、生产数据区块、本地数据合法性校验、将校验通过的区块添加到链上等功能。账本记录模块应支持持久化存储，支持多节点拥有完整的数据记录，支持向获得授权者提供真实的数据记录，确保相同账本记录的各节点的数据一致性。

三、加密模块

加密模块是区块链底层安全机制的核心。加密功能组件应支持国际主流加密算法，如AES256等对称加密算法和RSA、ECC等非对称加密算法；支持国密算法，如SM4、SM7等对称加密算法和SM2、SM9等非对称加密算法；应具备明确的密钥管理方案，确保区块链底层安全机制正常运行。加密算法应具备抵御破解的能力，并定期审核加密算法的安全性，必要时采用更高复杂性的加密算法。

四、数字摘要模块

数字摘要模块保证给定的数据明文和摘要不被篡改，对数据的完整行提供保护。该组件通过对任意长度的输入消息进行哈希运算转化成固定长度的短消息输出，输出值称为哈希值。摘要功能组件应支持国际主要摘要算法，如SHA256等；支持我国商密算法，如SM3等，摘要算法应具备抵御破解的能力，并定期审核摘要算法的安全性，必要时采用更高复杂性的摘要算法。

五、数字签名模块

数字签名模块用于保证数据的完整性和不可伪造性，通过对数据确权，保证了数据确定是由签发方签署。数据签名的功能包括：对转账交易、合约执行进行签名授权；通过签名实现权限控制，同时证明授权不可否认；确保交易数据经过签名后没有也不能被其他任何人修改。

六、时序服务模块

时序服务为区块链系统中的行为或数据记录提供一致性的时序。时序服务支持统一的账本记录时序，具备时序容错性。

基础层提供了区块链系统正常运行所需要的运行环境和基础组件，包括数据存储、运行容器、通信网络等。是区块链系统的基础支撑。基础层功能组件包括P2P对等网络、分布式数据存储和计算功能。

一、P2P网络

P2P网络主要为共识达成及数据通信提供底层支持。区块链的网络层本质上是一个P2P(Peer to Peer，点对点)网络，基于其点对点传输特性，实现分布式网络的联络机制，以及交易和共识信息的接收与广播。网络中的资源和服务分散在区块链节点上，每一个节点作为独立个体进行信息的接收、处理和反馈，这些节点既接收信息也产生信息，节点之间通过维护共同的区块链实现信息的同步。

二、数据结构

本发明实施例给出了内容审核区块链相关的主要数据结构，作为参考。交易信息数据结构如表1所示，区块信息数据结构如表2所示，内容审核信息数据结构如表3所示，视频信息数据结构如表4所示。

表1

表2

表3

表4

五、安全

区块链出现至今遭遇了大量的网络攻击，根据区块链安全信息平台BCSEC的统计，2011年到2019年上半年，全球范围内因区块链安全事件造成的损失多达43.35亿美元。涉及的安全威胁包括获得取服务器权限、修改关键信息，盗取密钥、篡改交易金额、泄露敏感信息等。

内容审核区块链的安全保障采用分层的思想建立逐级防御体系，为区块链各层及层间协议提供保密性、完整性、可用性和隐私保护等安全保障。主要功能包括密钥安全、合约安全、网络安全、存储安全、数据安全等。同时，在保障技术安全的基础上，人员的安全意识培养和安全管理也是区块链安全的重要组成部分。

由于区块链具有不可篡改的特点，智能合约一旦发布极难修改，合约的安全也决定了区块链的安全。

智能合约本质上是代码程序，难免会有考虑缺失导致的漏洞。合约安全威胁主要包括可重入攻击、调用深度攻击、交易顺序依赖攻击、整数溢出攻击等。为保障智能合约的安全，应保证开发安全和全面的安全审计。

(1)安全开发

智能合约安全开发包括开发工具、编译工具及安全编程规范等方面的保障。

首先，智能合约应采用规范的工具进行开发和编译，使用安全统一的编译器和链接器选项，以便保证编译器所提供的最新的安全保护机制。同时，应使用同一来源的开发工具集，避免攻击者在软件供应链中植入恶意代码。

第二，智能合约的编写应基于严格的安全编程规范。常见的安全编码规范包括弃用一些存在注入或内存破坏危险的第三方函数，采用智能合约的checks-effects-interactions原则进行合约编写等。

第三，在智能合约编码中尽可能少地暴露被外部调用的接口。建议采用进程间隔离的技术将智能合约进程与系统隔离，通过socket通信方式远程调用智能合约。

(2)安全审计

在发布智能合约之前，做好全面的安全审计工作，有效防范已知风险。首先，选择对应的虚拟机语言扫描工具对合约代码进行静态扫描，扫描事先建模的漏洞类型，第二，为了避免静态扫描可能产生误报的情况，应邀请安全专家进行交互式代码审计，避免重入攻击、未授权访问攻击、Solidity开发安全等。

(3)安全测试

智能合约部署前必须经过大量的测试。在模拟环境中对智能合约进行攻击测试，挖掘可被利用的漏洞。

区块链的网络安全主要从P2P网络安全和网络验证机制方面进行提升。

(1)P2P网络安全

区块链的信息传播采用P2P网络，P2P网络是分布式自组织网络，依赖附近的节点来进行信息传输，需要互相暴露对方的IP，若网络中存在一个攻击者，就很容易给其他节点带来安全威胁。针对P2P网络的攻击有日食攻击、窃听攻击、BGP劫持攻击、节点客户端漏洞、拒绝服务攻击等。

P2P网络安全应做到以下几方面

在网络传输过程中，使用可靠的加密算法进行传输，防止恶意攻击者对节点网络进行流量窃取或劫持。如开启JSONRPC的节点强制使用HTTPS传输，而不是HTTP协议。

加强对网络中传输数据的有效性、合理性、安全性进行验证，防止出现整数溢出等情况导致出现的数据错误。

加强节点网咯安全性。对重要操作和信息客户端节点做必要的验证。

(2)网络验证机制

区块链的运行为了维持其数据的有效性与真实性，必须要有相应的验证机制来限制节点必须将真实信息写入区块中。验证机制的代码是区块链应用的核心之一，一旦出现问题将直接导致区块链的数据混乱，而且核心代码的修改与升级都涉及到区块链分叉的问题，所以验证机制的严谨性就显得尤为重要。因此，需要结合验证机制代码的语言特性来进行大量的白盒审计或模糊测试，来保证验证机制的不可绕过。

(3)节点安全

区块链节点的RPC(Remote Procedure Call，远程过程调用)接口以JSON-RPC的形式对外提供调用，节点维护者可以利用节点的RPC接口控制节点的行为，如签署和发布交易信息。对于轻节点这类因载体限制无法进行信息全存储或全验证的节点，需通过RPC接口进行收发信息或数据请求。由于RPC底层为HTTP协议，缺乏对于调用者的身份验证，RPC攻击是节点安全的重要风险。

对于必须启用RPC端口的节点，应采取修改RPC端口号、采用基于TLS传输层安全加密协议的RPC接口(RPC based on TLS)、设置防火墙策略等方式保障节点安全。

区块链的存储安全主要包括数据自身安全和加密算法的安全。

数据自身的安全通过对用户输入的数据进行过滤检查，防止恶意利用或滥用。

加密算法的安全性和数学难度相关，但是随着高性能计算和量子计算的发展，加密算法还是存在破解的可能性。因此建议使用成熟可靠的算法，避免由于算法漏洞的攻击和安全风险。此外，应建立密码算法使用规范，避免发生密码学误用。

加密算法是区块链的核心技术之一，非对称加密算法中，在加密时使用公钥，解密时使用私钥，公钥一般是公开的，私钥由个人持有，是用户拥有数字资产的唯一凭证。传统的中心化机构(例如银行等)可以通过实名认证等手段，实现账户的冻结和恢复。而区块链网络中，一旦私钥丢失或泄露，可能对区块链系统造成不可估量的影响。因此，私钥安全是区块链安全的重要组成部分。

私钥安全遵从生命周期安全的思想，从私钥的生成安全、存储安全和使用安全三各环节进行保障。

(1)私钥的生成安全

私钥的质量取决于产生私钥的随机数的质量，高质量的随机数具有不可预测性。随机数分为伪随机数和真随机数两种，伪随机数依靠种子和算法产生，具有可预测性，安全性较差。真随机数基于硬件设计，根据温度、电压、磁场、环境噪声等产生随机数，具有不可预测性。

(2)私钥的存储安全

私钥的存储和使用一般分为软实现和硬实现。软实现使用软件形式进行存储和实现，密钥生成后作为文件或字符串保存在用户终端或托管到服务器，使用时直接或通过口令读取私钥明文到内存。这种方式安全风险较大，容易被复制、窃取或暴力破解，攻击者一旦攻破节点就可以窃取到签名私钥，并使用签名私钥进行签名。

硬实现依托于专用密码安全芯片或密码设备，具有无力保护、敏感数据保护、密钥保护等机制，私钥由专用硬件产生，且不以明文形式出现在密码设备外。密码设备内部存储的密钥具备有效的密钥保护机制，防止探测和非法读取。

(3)私钥的使用安全

私钥在使用一定周期后应该更换密钥。私钥由用户拥有和控制，在风险发生时，可以通过线下实名方式或者权威机构监督的方式找回密钥。

内容审核区块链的建设可以自建或引入第三方PKI基础设施，实现密钥的加密分发、更新、失效等完善的密钥安全管理机制。

区块数据是分布在多个节点上的链式结构数据，单一或少部分节点的区块数据篡改不会影响整个区块链的运行。区块链的数据安全风险主要包括利用数据不可删除的特性进行的恶意信息攻击，利用大量垃圾信息进行的资源滥用攻击。

针对以上风险，内容审核区块链采用多层次的安全保障机制实现数据安全，包括准入控制、数据脱敏、数据加密和隐私保护。

准入控制：用户需要经过审核和身份验证才能加入联盟，通过准入控制机制验证参与者的身份和证书，确认用户对数据的访问权限。

权限控制：结合角色设计和权限控制，实现对数据读写权限的过滤，持有密钥的用户才能解密和访问数据。对系统资源采用最小权限原则来进行权限管理；

数据脱敏：对于用户资料等敏感数据，采用伪码上链或不上链，只将哈希摘要和少量元数据上链。

数据加密：加密算法保证区块链的安全和不可篡改性。采用算法复杂度较高的对称加密、非对称加密算法，用密码信封完成加密数据分享。

隐私保护：采用承诺系统、零知识证明、同态加密等方式规避隐私暴露。

根据本发明实施例，内容审核区块链通过联盟链的方式将内容服务商、内容审核机构、电视台/播出机构和国家级审核监管部门连接起来。通过区块链特有的共识机制，在机构间实时同步电视剧内容的审核结果和审核标准，从而实现审核链条在联盟体系内的公开透明，让不同机构间的信息流通阻碍降至最低，从而实现以最终审核效果为导向的可追溯、可定位的高效透明审核机制。

本发明实施例中，内容审核区块链包含一般审核、上级二审、定责、纠错、重审、审核评分等六个方面的流程设计。

如图3所示，其为一般审核流程示意图，包括以下步骤：

步骤1、内容提供机构向内容审核机构发起审核申请，同时将待审核内容进行签名后传输给内容审核机构。

步骤2、内容审核机构对内容进行线下审核，完成审核后对被审核内容颁发审核证书。证书包括内容ID、机构ID、审核员、文件哈希、内容标签等关键信息。

步骤3、基于联盟链的共识机制，审核证书将同步到联盟内所有机构的节点，一旦上链，该证书信息不可篡改。

步骤4、内容提供机构在将内容推送/交易给内容播出机构前，可选择对内容进行自审，并将自审的结果同步到链上的审核证书。

步骤5、内容播出机构发起购买内容交易申请。

步骤6内容提供机构将完成审核的内容文件传输给发起交易的内容播出机构。

步骤7、内容播出机构如果采信内容提供机构的审核结果，则将播放文件的哈希与链上审核证书的文件哈希进行对比。若一致，则表示文件无误，可以播出；若不一致，则表示文件有误，将其打回内容提供机构，要求传输正确文件。

步骤8、内容播出机构如果不信任之前的审核结果，可以选择进行自审或者委托给第三方审核机构进行审核。审核后的结果，无论是否对播放内容有改动，都会同步到联盟内其他机构。

步骤9、如果下一家内容播出机构选择购买同一内容，重复流程(5)-(8)，下一家播出机构同样需要比对哈希确定播放文件无误。

网络短视频内容一般由个人账户或机构账户上传至内容播出机构，内容播出机构按照“先审后播”的制度选择自审或交由第三方播出机构审核。如图4所示，其为基于第三方审核机构的流程示意图，包括以下步骤：

步骤1、内容播出机构向内容审核机构发起审核申请，同时将待审核内容进行签名后传输给内容审核机构。

步骤2、内容审核机构对内容进行线下审核，完成审核后对被审核内容颁发审核证书。证书包括内容ID、机构ID、审核员、文件哈希、内容标签等关键信息。

步骤3、基于联盟链的共识机制，审核证书将同步到联盟内所有机构的节点，一旦上链，该证书信息不可篡改。

步骤4、内容播出机构如果采信内容审核机构的审核结果，则将播放文件的哈希与链上审核证书的文件哈希进行对比。若一致，则表示文件无误，可以播出；若不一致，则表示文件有误，将其打回内容提供机构，要求传输正确文件。

步骤5、内容播出机构也可以选择对关键内容进行自审以进一步确认审核质量，审核后的结果，无论是否对播放内容有改动，都会同步到区块链。

如图5所示，其为上级二审流程示意图，适用于需要国家级审核委员会进行二审的内容，包括以下步骤：

步骤1、内容审核机构将审核结果同步到区块链上后，国家级审核委员会进行二审，并在链上同步最终审核结果。

步骤2、内容提供机构选择进行自审，将结果同步到区块链，并将内容文件传输给内容播出机构，后续播出流程与一般审核流程相同。

具体实施时，如果在播出过程中，发现内容不符合审核要求，监管机构可依据审核证书和内容文件进行定责。如图6所示，其为定责流程示意图，包括以下步骤：

步骤1、监管机构根据播出事故中所涉及内容ID、内容标签，检索过往区块中的审核记录。

步骤2、对于通过上述收集的审核信息，通过审核人，审核机构ID或节点地址确定相关负责人。

步骤3、基于审核信息中的证据，结合应用层的积分评价模块对相关人员及机构进行合理的惩罚。

具体实施时，当内容提供机构通过自审或第三方审核机构完成内容审核后，通过区块链将自审后审查证书同步给播出机构。此后不管是否播出，其他内容播出机构、内容审核机构或公众发现任何问题，都可将审核失误情况通知内容提供机构或监管机构。如图7所示，其为根据本发明实施例的纠错流程示意图，可以包括以下步骤：

步骤1、内容播出机构通过自审或委托第三方审核机构审核发现新的问题，会反馈问题给内容提供机构，并传输对应的内容文件。

步骤2、内容播出机构采取自审或委托第三方审核机构对内容进行重审，将更新后的审核证书同步到区块链上。

基于区块链数据防篡改、可追溯的特性，针对特定播放文件的所有审核记录都可在链上查证，便于对内容审核机构的专业能力进行可观评价。

如果在播出过程中，审核标准或审核规则发生变动，则需要进行重审。如图8所示，其为根据本发明实施例的重审流程示意图，包括以下步骤：

步骤1、监管机构将更新后的审核标准或审核规则广播到区块链上。

步骤2、基于内容标签进行检索，对于和更新后的审核标准或规则相关的内容，由正在播出的机构或即将播出的机构对内容进行重审，并将重审结果公布在区块链上。

步骤3、更新后的重审结果通过区块链同步到相关机构。

本发明实施例提供的基于区块链的内容审核系统中，通过建设内容审核区块链网络，通过联盟链的方式将内容服务商、审核机构、电视台/播出机构和国家级审核监管部门连接起来。通过区块链特有的共识机制，在机构间实时同步内容审核结果和审核标准，从而实现审核链条在联盟体系内的公开透明，让不同机构间的信息流通阻碍降至最低，从而实现以最终审核效果为导向的可追溯、可定位的高效透明的审核机制。

基于相同的技术构思，本发明实施例还提供了一种基于区块链的内容审核方法，如图9所示，包括以下步骤：

S91、接收内容审核机构用户或者内容提供用户通过区块链节点发送的内容审核请求。

其中，所述内容审核请求中携带有内容审核对象标识；在一种可能的实施方式中，内容审核请求中还可以携带有内容审核机构用户或者内容提供用户的数字签名。

S92、针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容，如果是，执行步骤S93，否则，执行步骤S94；

S93、标注可疑原因和可疑类型；

S94、在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签。

所述内容标签包括以下至少一项：关键人物、时间和事件；

S95、根据审核结果生成相应的审核证书。

所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；

S96、向区块链节点发送所述审核证书。

所述区块链节点存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

在一种实施方式中，在向所述内容审核区块链上的其他区块链节点同步所述审核证书之前，还包括：

利用内容审核用户的私钥结合内容审核信息生成数字签名，所述内容审核信息包括以下至少一项审核日期，内容审核对象标识和审核形式。

基于相同的技术构思，本发明实施例还提供了一种基于区块链的内容审核装置，如图10所示，包括：

接收单元101，用于接收内容审核机构用户或者内容提供用户通过区块链节点发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；

判断单元102，用于针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容；

标注单元103，用于如果所述判断单元判断出所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；

标签添加单元104，用于在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；

生成单元105，用于根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；

发送单元106，用于向所述区块链节点发送所述审核证书，所述区块链节点存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

为了描述的方便，以上各部分按照功能划分为各模块(或单元)分别描述。当然，在实施本发明时可以把各模块(或单元)的功能在同一个或多个软件或硬件中实现。

在介绍了本发明示例性实施方式的基于区块链的内容审核方法和装置之后，接下来，介绍根据本发明的另一示例性实施方式的计算装置。

所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

在一些可能的实施方式中，根据本发明的计算装置可以至少包括至少一个处理器、以及至少一个存储器。其中，所述存储器存储有程序代码，当所述程序代码被所述处理器执行时，使得所述处理器执行本说明书上述描述的根据本发明各种示例性实施方式的基于区块链的内容审核方法中的步骤。例如，所述处理器可以执行如图9中所示的步骤S91、接收内容审核机构用户或者内容提供用户通过区块链节点发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；步骤S92、针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容，如果是，执行步骤S93，否则，执行步骤S94；步骤S93、如果确定所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；步骤S94、在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；步骤S95、根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；步骤S96、向所述区块链节点发送所述审核证书，所述区块链节点存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

下面参照图11来描述根据本发明的这种实施方式的计算装置110。图11显示的计算装置110仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图11所示，计算装置110以通用计算设备的形式表现。计算装置110的组件可以包括但不限于：上述至少一个处理器111、上述至少一个存储器112、连接不同系统组件(包括存储器112和处理器111)的总线113。

总线113表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器、外围总线、处理器或者使用多种总线结构中的任意总线结构的局域总线。

存储器112可以包括易失性存储器形式的可读介质，例如随机存取存储器(RAM)1121和/或高速缓存存储器1122，还可以进一步包括只读存储器(ROM)1123。

存储器112还可以包括具有一组(至少一个)程序模块1124的程序/实用工具1125，这样的程序模块1124包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

计算装置110也可以与一个或多个外部设备114(例如键盘、指向设备等)通信，还可与一个或者多个使得用户能与计算装置110交互的设备通信，和/或与使得该计算装置110能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口115进行。并且，计算装置110还可以通过网络适配器116与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器116通过总线113与用于计算装置110的其它模块通信。应当理解，尽管图中未示出，可以结合计算装置110使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

在一些可能的实施方式中，本发明提供的基于区块链的内容审核方法的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在计算机设备上运行时，所述程序代码用于使所述计算机设备执行本说明书上述描述的根据本发明各种示例性实施方式的基于区块链的内容审核方法中的步骤，例如，所述计算机设备可以执行如图9中所示的S91、接收内容审核机构用户或者内容提供用户通过区块链节点发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；步骤S92、针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容，如果是，执行步骤S93，否则，执行步骤S94；步骤S93、如果确定所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；步骤S94、在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；步骤S95、根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；步骤S96、向所述区块链节点发送所述审核证书，所述区块链节点存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

本发明的实施方式的用于基于区块链的内容审核的程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在计算设备上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

通过具体实施方式的说明，应当可对本发明为达成预定目的所采取的技术手段及功效得以更加深入且具体的了解，然而所附图示用于提供参考与说明，并非用来对本发明加以限制。

Claims (10)

1.一种基于区块链的内容审核系统，其特征在于，包括内容审核区块链和审核打标系统，所述内容审核区块链包含若干区块链节点，其中：

所述审核打标系统，用于接收内容审核机构用户或者内容提供用户发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容；如果确定所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；以及在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；向所述区块链节点发送所述审核证书；

所述区块链节点，用于存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

2.根据权利要求1所述的系统，其特征在于，所述内容审核区块链采用联盟链，所述区块链节点包括记账节点、数据同步普通全节点和轻节点三种类型；其中，所述记账节点用于对各用户的交易请求、智能合约部署及执行进行打包和共识，具体用于底层数据共识、存储记账、合约执行及账本防篡改功能；数据同步普通全节点用于同步并维护完整的账本数据；轻节点用于维护信息的完整性和数据的更新，以及对其相关的区块和交易信息进行验证；所述联盟链中根据参与用户的不同角色为其分配不同的访问权限，其中，用户角色包括以下至少一项链管理用户，系统管理用户，内容审核用户，业务交易用户，监管机构用户和应用开发用户，其中，监管机构部署多个记账节点；内容审核机构至少部署一个记账节点和一个普通节点；用户账号与用户角色的对应关系是N：1，N为整数，用户角色与用户权限的对应关系是N：M，M为整数；每个用户账号拥有唯一的公私钥对，业务交易发起用户使用私钥进行签名；业务交易接收用户使用公钥进行验证。

3.根据权利要求2所述的系统，其特征在于，

所述区块链节点，还用于在向所述内容审核区块链上的其他区块链节点同步所述审核证书之前，利用内容审核用户的私钥结合内容审核信息生成数字签名，所述内容审核信息包括以下至少一项审核日期，内容审核对象标识和审核形式。

4.根据权利要求3所述的系统，其特征在于，所述区块链节点之间交互的交易信息包括以下至少一项：交易的哈希值、交易体数据大小、交易信息和数字签名；所述区块链节点存储的区块信息包括以下至少一项：区块高度、区块的哈希值、交易体数据大小、时间戳、交易量、父区块、默克尔树根、交易哈希值和交易信息；内容审核信息包括以下至少一项：审核标识ID、审核人、审核机构、审核信息的哈希值、账号地址、信息数据大小、时间戳、过期时间、视频信息、表现证据、审核类型、审核结果、结果解释和数字签名；视频信息包括以下至少一项：视频标识ID、提供机构、播出机构和内容标签。

5.根据权利要求1所述的系统，其特征在于，所述内容标签中还携带有关联人物和关联事件；以及

所述审核打标系统，还用于接收内容播出机构用户发送的内容重审请求，所述内容重审请求中携带有内容审核对象标识；根据所述内容标签对所述内容重审请求中携带的内容审核对象标识所对应的内容审核对象进行重审，并生成审核证书后发送给所述区块链节点。

6.一种基于区块链的内容审核方法，其特征在于，包括：

接收内容审核机构用户或者内容提供用户通过区块链节点发送的内容审核请求，所述内容审核请求中携带有内容审核对象标识；

针对所述内容审核对象标识对应的内容审核对象，进行特征识别、分析和比对，判断所述内容审核对象是否包含可疑内容；

如果确定所述内容审核对象包含可疑内容，则标注可疑原因和可疑类型；

在进行特征识别的同时，采集所述内容审核对象的关键信息，根据采集的关键信息为所述内容审核对象添加内容标签，所述内容标签包括以下至少一项：关键人物、时间和事件；

根据审核结果生成相应的审核证书，所述审核证书中包括内容审核记录，所述内容审核记录至少包括内容标签；

向所述区块链节点发送所述审核证书，所述区块链节点存储接收到的审核证书，并通过共识机制将所述审核证书同步到所述内容审核区块链上的其他区块链节点。

7.根据权利要求6所述的方法，其特征在于，在向所述内容审核区块链上的其他区块链节点同步所述审核证书之前，还包括：

利用内容审核用户的私钥结合内容审核信息生成数字签名，所述内容审核信息包括以下至少一项：审核日期，内容审核对象标识和审核形式。

8.根据权利要求6所述的方法，其特征在于，所述内容标签中还携带有关联人物和关联事件；以及

所述方法，还包括：

接收内容播出机构用户发送的内容重审请求，所述内容重审请求中携带有内容审核对象标识；

根据所述内容标签对所述内容重审请求中携带的内容审核对象标识所对应的内容审核对象进行重审，并生成审核证书后发送给所述区块链节点。

9.一种计算装置，其特征在于，所述计算装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求6、7或8所述的方法的步骤。

10.一种计算机存储介质，所述计算机存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求6、7或8所述方法的步骤。

Images