CN111782832A - 一种基于联盟链的审查方法、装置及系统 - Google Patents
一种基于联盟链的审查方法、装置及系统 Download PDFInfo
- Publication number
- CN111782832A CN111782832A CN202010639155.5A CN202010639155A CN111782832A CN 111782832 A CN111782832 A CN 111782832A CN 202010639155 A CN202010639155 A CN 202010639155A CN 111782832 A CN111782832 A CN 111782832A
- Authority
- CN
- China
- Prior art keywords
- examination
- task
- review
- chain
- result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 230000000977 initiatory effect Effects 0.000 claims abstract description 12
- 238000012552 review Methods 0.000 claims description 127
- 238000012545 processing Methods 0.000 claims description 48
- 238000012216 screening Methods 0.000 claims description 38
- 238000007689 inspection Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 14
- 230000006854 communication Effects 0.000 claims description 11
- 238000012550 audit Methods 0.000 claims description 10
- 238000004891 communication Methods 0.000 claims description 10
- 238000013473 artificial intelligence Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 11
- 230000006399 behavior Effects 0.000 description 9
- 208000001613 Gambling Diseases 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 241000208125 Nicotiana Species 0.000 description 2
- 235000002637 Nicotiana tabacum Nutrition 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 229940079593 drug Drugs 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 239000002574 poison Substances 0.000 description 2
- 231100000614 poison Toxicity 0.000 description 2
- 238000011161 development Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/45—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0241—Advertisements
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- General Engineering & Computer Science (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
- Marketing (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Game Theory and Decision Science (AREA)
- Databases & Information Systems (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- General Business, Economics & Management (AREA)
- Data Mining & Analysis (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供一种基于联盟链的审查方法、装置及系统，涉及内容审查的技术领域。该基于联盟链的审查方法包括：先判断联盟链是否正在派发审查任务，当判断出联盟链正在派发审查任务时，先获取审查任务，然后根据审查任务进行内容审查，得到审查结果；最后输出审查结果至联盟链，以使联盟链转发审查结果至发起审查任务的客户端，能够降低审核成本，并实现审核标准化。
Description
技术领域
本申请涉及内容审查的技术领域，具体而言，涉及一种基于联盟链的审查方法、装置及系统。
背景技术
随着科技的发展，共享充电宝一体机、商超互动屏、无人售卖机等等智能设备出现在了人们的面前，并为人们带来了极大的便利。在实践中发现，这些智能终端往往不仅具有相应的基本功能，通常还会具有音视频播放的功能，这就使得这些只能设备在正常使用之余还能够播放一些音视频内容。但是，目前的这些智能设备所播放的音视频内容通常需要先经过人工审核才能够播放，从而导致了审核成本巨大；同时，进行审核的审核人员不同很有可能导致审核结果的差异，从而导致了审核无法标准化的问题。
发明内容
本申请实施例的目的在于提供一种基于联盟链的审查方法、装置及系统，能够降低审核成本，并实现审核标准化。
本申请实施例第一方面提供了一种基于联盟链的审查方法，所述方法应用于与所述联盟链通信连接的审查装置，其中，所述方法包括：
判断所述联盟链是否正在派发审查任务；
当所述联盟链正在派发所述审查任务时，获取所述审查任务；
根据所述审查任务进行内容审查，得到审查结果；
输出所述审查结果至所述联盟链，以使所述联盟链转发所述审查结果至发起所述审查任务的客户端。
在上述实现过程中，在判断出联盟链正在派发审查任务时，先获取审查任务，然后根据审查任务进行内容审查，得到审查结果；最后输出审查结果至联盟链，以使联盟链转发审查结果至发起审查任务的客户端，能够降低审核成本，并实现审核标准化。
进一步地，所述方法还包括：
当所述联盟链正在派发所述审查任务时，生成与所述审查任务相对应的处理合约；
发送所述处理合约至所述联盟链以使联盟链存储所述处理合约。
在上述实现过程中，通过处理的合约的形式派发审查任务，能够保证审查任务的完全执行，保证处理任务的完整性。
进一步地，所述判断所述联盟链是否正在派发审查任务的步骤之前，所述方法还包括：
发送注册信息至所述联盟链，以使所述联盟链根据所述注册信息建立所述审查装置与所述联盟链的通信连接。
在上述实现过程中，在判断联盟链是否正在派发审查任务之前，还需要通过向联盟链发送注册信息以建立审查装置与联盟链的通信连接。
进一步地，所述根据所述审查任务进行内容审查，得到审查结果的步骤包括：
获取所述审查任务包括的多媒体内容；
根据预设的敏感内容库对所述多媒体内容进行违法违规甄别审查，得到甄别结果；
根据所述甄别结果匹配相对应的处理方案；
组合所述甄别结果和所述处理方案，得到审查结果。
在上述实现过程中，预设的敏感内容库是基于分布式边缘AI算力集群进行构建得到的，能够对多媒体内容进行智能审查，得到的审查结果准确度高，误差小。
进一步地，所述根据预设的敏感内容库对所述多媒体内容进行违法违规甄别审查，得到甄别结果的步骤之前，所述方法还包括：
获取所述联盟链存储的敏感内容库；其中，所述敏感内容库由所述客户端修订上传。
在上述实现过程中，该敏感内容库可以由客户端修订上传，能够随时对敏感内容库进行更新修改，保证之后审查结果的准确性。
本申请实施例第二方面提供了一种基于联盟链的审查装置，所述基于联盟链的审查装置包括：
判断单元，用于判断所述联盟链是否正在派发审查任务；
获取单元，用于在所述联盟链正在派发所述审查任务时，获取所述审查任务；
审查单元，用于根据所述审查任务进行内容审查，得到审查结果；
输出单元，用于输出所述审查结果至所述联盟链，以使所述联盟链转发所述审查结果至发起所述审查任务的客户端。
在上述实现过程中，在判断单元判断出联盟链正在派发审查任务时，获取单元先获取审查任务，然后审查单元根据审查任务进行内容审查，得到审查结果；最后输出单元输出审查结果至联盟链，以使联盟链转发审查结果至发起审查任务的客户端，能够降低审核成本，并实现审核标准化。
进一步地，所述审查单元包括：
获取子单元，用于获取所述审查任务包括的多媒体内容；
审查子单元，用于根据预设的敏感内容库对所述多媒体内容进行违法违规甄别审查，得到甄别结果；
匹配子单元，用于根据所述甄别结果匹配相对应的处理方案；
组合子单元，用于组合所述甄别结果和所述处理方案，得到审查结果。
在上述实现过程中，预设的敏感内容库是基于分布式边缘AI算力集群进行构建得到的，能够对多媒体内容进行智能审查，得到的审查结果准确度高，误差小。
本申请实施例第三方面提供了一种基于联盟链的审查系统，所述审查系统包括审查装置、联盟链以及客户端，其中，
所述客户端发送审查任务至所述联盟链；
所述联盟链接收所述审查任务，并派发所述审查任务；
所述审查装置判断所述联盟链是否正在派发审查任务；
所述审查装置在判断出所述联盟链正在派发所述审查任务时，获取所述审查任务；
所述审查装置根据所述审查任务进行内容审查，得到审查结果；
所述审查装置输出所述审查结果至所述联盟链；
所述联盟链接收所述审查结果，并转发所述审查结果至所述客户端。
在上述实现过程中，客户端向联盟链发送审查任务，联盟链接收审查任务，并派发审查任务，审查装置在判断出联盟链正在派发审查任务时，获取审查任务，在获取到审查任务时，向联盟链发送接收并锁定该审查任务的请求，进一步地，审查装置对该审查任务进行内容审查处理，得到审查结果，并将该审查结果发送至联盟链，最后，联盟链将该审查结果发送至客户端，进而完成对审查任务的审查处理，能够降低审核成本，并实现审核标准化。
本申请实施例第四方面提供了一种计算机设备，包括存储器以及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述计算机设备执行根据本申请实施例第一方面中任一项所述的基于联盟链的审查方法。
本申请实施例第五方面提供了一种计算机可读存储介质，其存储有计算机程序指令，所述计算机程序指令被一处理器读取并运行时，执行本申请实施例第一方面中任一项所述的基于联盟链的审查方法。
附图说明
为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1为本申请实施例一提供的一种基于联盟链的审查方法的流程示意图；
图2为本申请实施例二提供的一种基于联盟链的审查方法的流程示意图；
图3为本申请实施例三提供的一种基于联盟链的审查装置的结构示意图；
图4为本申请实施例三提供的另一种基于联盟链的审查装置的结构示意图；
图5为本申请实施例四提供的一种基于联盟链的审查系统的系统构架示意图；
图6是本申请实施例四提供的一种基于联盟链的审查系统的信息流示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
实施例1
请参看图1，图1为本申请实施例提供的一种基于联盟链的审查方法的流程示意图。如图1所示，该基于联盟链的审查方法包括：
S101、判断联盟链是否正在派发审查任务，如果是，执行步骤S102～步骤S104；如果否，结束本流程。
本申请实施例中，该方法应用于与联盟链通信连接的审查装置，具体可以为计算机、服务器等计算装置，对此本实施例中不作任何限定。
本申请实施例中，联盟链，一种区块链，只针对特定某个群体的成员和有限的第三方，内部指定多个预选的节点为记账人，每个块的生成由所有的预选节点共同决定，其他接入节点可以参与交易，但不过问记账过程，其他第三方可以通过该区块链开放的API(Application Programming Interface，应用程序接口)进行限定查询。
本申请实施例中，基于联盟链的密码学能力，构建了近乎不可破解的通信加密能力，保护通信的过程和文件签名指纹的安全性。
本申请实施例中，该基于联盟链的审查方法具体应用于对于多媒体数据(文字数据、图片数据、语音数据、视频数据等)的审查。
本申请实施例中，审查任务为客户端发起的，客户端本身为联盟链的节点。
本申请实施例中，该审查任务包括需要进行审核的素材文件地址和验证指纹，其中素材文件地址为素材文件在客户端上的存储地址，验证指纹为客户端对应的验证指纹。
S102、当联盟链正在派发审查任务时，获取审查任务。
本申请实施例中，发起审查任务的客户端本身为联盟链的节点，可通过联盟链将客户端的这一节点授权给审计装置进行访问，然后审计装置可以通过访问客户端的这一节点以获取审查任务。
本申请实施例中，客户端本身为联盟链的节点，基于联盟链实现所有用户共同维护一份敏感内容库，用户的参与度高，公信度更好。
S103、根据审查任务进行内容审查，得到审查结果。
本申请实施例中，审计装置先根据审查任务获取对应的多媒体内容，然后通过人工智能技术对多媒体内容进行内容审查，得到审查结果。
本申请实施例中，采用基于边缘计算的分布式异步AI(人工智能)算力集群来对审查任务包括的多媒体内容进行审查处理。
本申请实施例中，采用分布式边缘AI算力集群，审计装置包括的边缘模块数量很多，少数节点宕机或网络抖动的情况下，并不影响整体的功能调用，稳定性好，可靠性好。
本申请实施例中，分布式边缘AI算力集群包括边缘模块的闲置算力，成本低，计算力强，稳定性好。
本申请实施例中，分布式边缘AI算力集群可通过SDK的方式实现开放平台，扩展性好。
本申请实施例中，该审查结果包括敏感词指数、违法指数、广告违规指数、涉黄指数、其他违规行为甄别指数、综合评定结果等中的一种或者多种，对此本申请实施例不作限定。
作为一种可选的实施方式，根据审查任务进行内容审查，得到审查结果，可以包括以下步骤：
提取多媒体内容中的文字数据；
将该文字数据与预设的文字敏感词库进行匹配比较，确定敏感词指数；
根据预设的违法行为甄别库和该文字数据进行违法行为甄别处理，得到违法指数；
根据预设的广告法数据库和该文字数据进行广告法违规甄别处理，得到违规指数；
通过预先构建的人工智能鉴黄模型对多媒体内容进行鉴黄计算处理，得到涉黄指数。
通过预设的其他违规数据库对多媒体内容进行其他违规行为(例如)甄别处理，得到其他违规行为甄别指数；
根据敏感词指数、违法指数、广告违规指数、涉黄指数和其他违规行为甄别指数，生成甄别结果。
在上述实施方式中，违法行为包括毒品、赌博、政治、宗教等；其他违规行为包括赌、毒、政治、宗教等等违法行为以及涉及医疗、烟草等不允许投放的违规行为等，对此本申请实施例不作限定。
作为进一步可选的实施方式，在得到甄别结果之后，还可以包括以下步骤：
根据处理方案和甄别结果，生成审查结果。
在上述实施方式中，处理方案包括甄别结果中各个指数的定级规则以及审查结果确定规则，其中，各个指数的定级规则包括各个指数的级别以及与每个级别对应的指数阈值。
举例来说，当指数的定级分为下、中、高时，该审查结果确定规则可以包括：甄别结果中任一指数的定级为高时，审查结果为审查不合格；甄别结果中任一指数的定级为中时，审查结果为需要二次审查；甄别结果中所有指数的定级均为低时，审查结果为审查合格。
在步骤S103之后，还包括：
S104、输出审查结果至联盟链，以使联盟链转发审查结果至发起审查任务的客户端。
本申请实施例中，在实际使用中，当需要推送和播放某一多媒体数据时，采用基于联盟链的审查方法进行审查处理，得到相应的审查结果，如果该审查结果表示该多媒体数据审核通过时，则可以进行该多媒体数据的推送和播放。
可见，实施图1所描述的基于联盟链的审查方法，能够降低审核成本，并实现审核标准化。
实施例2
请参看图2，图2为本申请实施例提供的一种基于联盟链的审查方法的流程示意图。如图2所示，该基于联盟链的审查方法包括：
S201、发送注册信息至联盟链，以使联盟链根据注册信息建立审查装置与联盟链的通信连接。
本申请实施例中，首先需要审查装置包括的边缘模块自动注册到联盟链上，以建立审查装置与联盟链的通信连接。然后启动任务监听模式，以监听联盟链是否正在派发审查任务。
S202、判断联盟链是否正在派发审查任务，如果是，执行步骤S203～步骤S209；如果否，结束本流程。
作为一种可选的实施方式，当判断出联盟链正在派发审查任务时，还可以包括以下步骤：
生成与审查任务相对应的处理合约；
发送处理合约至联盟链以使联盟链存储处理合约。
上述实施方式中的步骤发生于步骤S203之前。
在上述实施方式中，审查任务的派发，是以处理合约的形式进行派发的，并能够通过处理合约调用审查装置的AI(人工智能)算力集群。
在上述实施方式中，边缘设备启动后自动注册到区块链上，并启动任务监听模式，监听链上派发的计算任务合约；
在上述实施方式中，当判断出联盟链正在派发审查任务时，表明需要调用AI算力集群，则自动以处理合约的形式向联盟链派发一个计算任务，,执行步骤S203～步骤208，并开始监听步骤208的处理结果(审查结果)。
在上述实施方式中，由审查装置包括的边缘模块监听联盟链是否正在派发审查任务，当监听出联盟链正在派发审查任务时，向联盟链请求消费任务，每个消费任务只能被一个发起审查任务的客户端消费成功并形成合约。
在上述实施方式中，审查装置包括的边缘模块在进行内容审查处理时，能够调用本地预设的人工智能算力群和算法，在得到审查结果之后，将该审查结果发送至联盟链，进而完成上述处理合约。
在上述实施方式中，联盟链接收到审查结果之后，将该审查结果发送至客户端，至此处理合约结束。
在步骤S202之后，还包括：
S203、获取审查任务。
S204、获取审查任务包括的多媒体内容。
S205、获取联盟链存储的敏感内容库；其中，敏感内容库由客户端修订上传。
S206、根据预设的敏感内容库对多媒体内容进行违法违规甄别审查，得到甄别结果。
本申请实施例中，预设的敏感内容库是基于分布式边缘AI算力集群进行构建得到的，能够对多媒体内容进行智能审查，得到的审查结果准确度高，误差小。
本申请实施例中，预设的敏感内容库包括文字敏感词库、违法行为甄别库、广告法数据库、人工智能鉴黄模型、其他违规数据库等，对此本申请实施例不作限定。
本申请实施例中，该审查结果包括敏感词指数、违法指数、广告违规指数、涉黄指数、其他违规行为甄别指数、综合评定结果等中的一种或者多种，对此本申请实施例不作限定。
作为一种可选的实施方式，根据审查任务进行内容审查，得到审查结果，可以包括以下步骤：
提取多媒体内容中的文字数据；
将该文字数据与预设的文字敏感词库进行匹配比较，确定敏感词指数；
根据预设的违法行为甄别库和该文字数据进行违法行为甄别处理，得到违法指数；
根据预设的广告法数据库和该文字数据进行广告法违规甄别处理，得到违规指数；
通过预先构建的人工智能鉴黄模型对多媒体内容进行鉴黄计算处理，得到涉黄指数。
通过预设的其他违规数据库对多媒体内容进行其他违规行为(例如)甄别处理，得到其他违规行为甄别指数；
根据敏感词指数、违法指数、广告违规指数、涉黄指数和其他违规行为甄别指数，生成甄别结果。
在上述实施方式中，违法行为包括毒品、赌博、政治、宗教等；其他违规行为包括赌、毒、政治、宗教等等违法行为以及涉及医疗、烟草等不允许投放的违规行为等，对此本申请实施例不作限定。
在步骤S206之后，还包括：
S207、根据甄别结果匹配相对应的处理方案。
S208、组合甄别结果和处理方案，得到审查结果。
本申请实施例中，处理方案包括甄别结果中各个指数的定级规则以及审查结果确定规则，其中，各个指数的定级规则包括各个指数的级别以及与每个级别对应的指数阈值。
举例来说，当指数的定级分为下、中、高时，该审查结果确定规则可以包括：甄别结果中任一指数的定级为高时，审查结果为审查不合格；甄别结果中任一指数的定级为中时，审查结果为需要二次审查；甄别结果中所有指数的定级均为低时，审查结果为审查合格。
本申请实施例中，实施上述步骤S204～步骤S208，能够根据审查任务进行内容审查，得到审查结果。
S209、输出审查结果至联盟链，以使联盟链转发审查结果至发起审查任务的客户端。
本申请实施例中，审查装置在进行内容审查处理时，能够调用本地预设的人工智能算力群和算法，在得到审查结果之后，将该审查结果发送至联盟链。
可见，实施图2所描述的基于联盟链的审查方法，能够降低审核成本，并实现审核标准化。
实施例3
请参看图3，图3为本申请实施例提供的一种基于联盟链的审查装置的结构示意图。如图3所示，该基于联盟链的审查装置包括：
判断单元310，用于判断联盟链是否正在派发审查任务。
获取单元320，用于在联盟链正在派发审查任务时，获取审查任务。
审查单元330，用于根据审查任务进行内容审查，得到审查结果。
输出单元340，用于输出审查结果至联盟链，以使联盟链转发审查结果至发起审查任务的客户端。
请一并参阅图4，图4是本申请实施例提供的另一种基于联盟链的审查装置的结构示意图。其中，图4所示的基于联盟链的审查装置是由图3所示的基于联盟链的审查装置进行优化得到的。如图4所示，该基于联盟链的审查装置还包括：
生成单元350，用于当联盟链正在派发审查任务时，生成与审查任务相对应的处理合约。
发送单元360，用于发送处理合约至联盟链以使联盟链存储处理合约。
作为一种可选的实施方式，发送单元360，还用于在判断单元310判断联盟链是否正在派发审查任务之前，发送注册信息至联盟链，以使联盟链根据注册信息建立审查装置与联盟链的通信连接。
作为一种可选的实施方式，审查单元330包括：
获取子单元331，用于获取审查任务包括的多媒体内容。
审查子单元332，用于根据预设的敏感内容库对多媒体内容进行违法违规甄别审查，得到甄别结果。
匹配子单元333，用于根据甄别结果匹配相对应的处理方案。
组合子单元334，用于组合甄别结果和处理方案，得到审查结果。
作为一种可选的实施方式，获取子单元331，还用于在审查子单元332根据预设的敏感内容库对多媒体内容进行违法违规甄别审查，得到甄别结果的步骤之前，获取联盟链存储的敏感内容库；其中，敏感内容库由客户端修订上传。
可见，实施本实施例所描述的基于联盟链的审查装置，能够降低审核成本，并实现审核标准化。
实施例4
请参看图5，图5为本申请实施例提供的一种基于联盟链的审查系统的系统构架示意图。如图5所示，该基于联盟链的审查系统包括审查装置410、联盟链420以及客户端430，其中，
客户端430发送审查任务至联盟链420。
本申请实施例中，该客户端430具体可以为客户所使用的智能手机、计算机、平板电脑等智能终端，对此本申请实施例不作限定。
本申请实施例中，联盟链420，一种区块链，只针对特定某个群体的成员和有限的第三方，内部指定多个预选的节点为记账人，每个块的生成由所有的预选节点共同决定，其他接入节点可以参与交易，但不过问记账过程，其他第三方可以通过该区块链开放的API(Application Programming Interface，应用程序接口)进行限定查询。
本申请实施例中，客户端430可以作为联盟链420中的一个节点。
联盟链420接收审查任务，并派发审查任务。
审查装置410判断联盟链420是否正在派发审查任务。
本申请实施例中，审查装置410具体可以为装载有AI算力集群和算法的计算机、服务器等计算装置，对此本申请实施例不作限定。
审查装置410在判断出联盟链420正在派发审查任务时，获取审查任务。
审查装置410根据审查任务进行内容审查，得到审查结果。
审查装置410输出审查结果至联盟链420。
联盟链420接收审查结果，并转发审查结果至客户端430。
请一并参阅图6，图6是本申请实施例提供的一种基于联盟链420的审查系统的信息流示意图。如图6所示，首先，审查装置410发送注册信息至联盟链420，以使联盟链420根据注册信息建立审查装置410与联盟链420的通信连接，此时联盟链420向审查装置410发送注册成功的信息，客户端430在向联盟链420发送审计任务之前，也需要向联盟链420发送注册信息，以使联盟链420根据该注册信息建立联盟链420与客户端430之间的通信连接，此时联盟链420向客户端430发送注册成功的信息。然后客户端430向联盟链420发送审查任务，联盟链420接收审查任务，并派发审查任务，审查装置410在监听到联盟链420正在派发审查任务时，获取审查任务，在获取到审查任务时，向联盟链420发送接收并锁定该审查任务的请求，进一步地，审查装置410对该审查任务进行内容审查处理，得到审查结果，并将该审查结果发送至联盟链420，最后，联盟链420将该审查结果发送至客户端430，进而完成对审查任务的审查处理。
可见，实施本实施例所描述的基于联盟链的审查系统，能够降低审核成本，并实现审核标准化。
此外，本发明还提供了一种计算机设备。该计算机设备包括存储器和处理器，存储器可用于存储计算机程序，处理器通过运行计算机程序，从而使该计算机设备执行上述方法或者上述基于联盟链的审查装置中的各个模块的功能。
存储器可包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据移动终端的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
本实施例还提供了一种计算机存储介质，用于储存上述计算机设备中使用的计算机程序。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的实施例而已，并不用于限制本申请的保护范围，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应所述以权利要求的保护范围为准。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (10)
1.一种基于联盟链的审查方法，其特征在于，所述方法应用于与所述联盟链通信连接的审查装置，其中，所述方法包括：
判断所述联盟链是否正在派发审查任务；
当所述联盟链正在派发所述审查任务时，获取所述审查任务；
根据所述审查任务进行内容审查，得到审查结果；
输出所述审查结果至所述联盟链，以使所述联盟链转发所述审查结果至发起所述审查任务的客户端。
2.根据权利要求1所述的基于联盟链的审查方法，其特征在于，所述方法还包括：
当所述联盟链正在派发所述审查任务时，生成与所述审查任务相对应的处理合约；
发送所述处理合约至所述联盟链以使联盟链存储所述处理合约。
3.根据权利要求1所述的基于联盟链的审查方法，其特征在于，所述判断所述联盟链是否正在派发审查任务的步骤之前，所述方法还包括：
发送注册信息至所述联盟链，以使所述联盟链根据所述注册信息建立所述审查装置与所述联盟链的通信连接。
4.根据权利要求1所述的基于联盟链的审查方法，其特征在于，所述根据所述审查任务进行内容审查，得到审查结果的步骤包括：
获取所述审查任务包括的多媒体内容；
根据预设的敏感内容库对所述多媒体内容进行违法违规甄别审查，得到甄别结果；
根据所述甄别结果匹配相对应的处理方案；
组合所述甄别结果和所述处理方案，得到审查结果。
5.根据权利要求4所述的基于联盟链的审查方法，其特征在于，所述根据预设的敏感内容库对所述多媒体内容进行违法违规甄别审查，得到甄别结果的步骤之前，所述方法还包括：
获取所述联盟链存储的敏感内容库；其中，所述敏感内容库由所述客户端修订上传。
6.一种基于联盟链的审查装置，其特征在于，所述基于联盟链的审查装置包括：
判断单元，用于判断所述联盟链是否正在派发审查任务；
获取单元，用于在所述联盟链正在派发所述审查任务时，获取所述审查任务；
审查单元，用于根据所述审查任务进行内容审查，得到审查结果；
输出单元，用于输出所述审查结果至所述联盟链，以使所述联盟链转发所述审查结果至发起所述审查任务的客户端。
7.根据权利要求6所述的基于联盟链的审查装置，其特征在于，所述审查单元包括：
获取子单元，用于获取所述审查任务包括的多媒体内容；
审查子单元，用于根据预设的敏感内容库对所述多媒体内容进行违法违规甄别审查，得到甄别结果；
匹配子单元，用于根据所述甄别结果匹配相对应的处理方案；
组合子单元，用于组合所述甄别结果和所述处理方案，得到审查结果。
8.一种基于联盟链的审查系统，其特征在于，所述审查系统包括审查装置、联盟链以及客户端，其中，
所述客户端发送审查任务至所述联盟链；
所述联盟链接收所述审查任务，并派发所述审查任务；
所述审查装置判断所述联盟链是否正在派发审查任务；
所述审查装置在判断出所述联盟链正在派发所述审查任务时，获取所述审查任务；
所述审查装置根据所述审查任务进行内容审查，得到审查结果；
所述审查装置输出所述审查结果至所述联盟链；
所述联盟链接收所述审查结果，并转发所述审查结果至所述客户端。
9.一种电子设备，其特征在于，所述电子设备包括存储器以及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述电子设备执行权利要求1至5中任一项所述的基于联盟链的审查方法。
10.一种可读存储介质，其特征在于，所述可读取存储介质中存储有计算机程序指令，所述计算机程序指令被一处理器读取并运行时，执行权利要求1至5任一项所述的基于联盟链的审查方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010639155.5A CN111782832A (zh) | 2020-07-02 | 2020-07-02 | 一种基于联盟链的审查方法、装置及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010639155.5A CN111782832A (zh) | 2020-07-02 | 2020-07-02 | 一种基于联盟链的审查方法、装置及系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111782832A true CN111782832A (zh) | 2020-10-16 |
Family
ID=72759560
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010639155.5A Pending CN111782832A (zh) | 2020-07-02 | 2020-07-02 | 一种基于联盟链的审查方法、装置及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111782832A (zh) |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101035281A (zh) * | 2007-04-19 | 2007-09-12 | 鲍东山 | 分级内容审核系统 |
| CN105205697A (zh) * | 2015-09-15 | 2015-12-30 | 北京合盒互动科技有限公司 | 公共场所的屏幕广告交易方法 |
| US20160371436A1 (en) * | 2014-12-12 | 2016-12-22 | Draeger Medical Systems, Inc. | Selective censoring of medical procedure video |
| CN107025564A (zh) * | 2016-01-29 | 2017-08-08 | 深圳市艾特大师网络科技有限公司 | 一种针对作品的处理方法、装置及系统 |
| CN107979632A (zh) * | 2016-10-25 | 2018-05-01 | 腾讯科技（北京）有限公司 | 推送信息的处理方法、装置及系统 |
| CN109886039A (zh) * | 2019-01-23 | 2019-06-14 | 深圳壹账通智能科技有限公司 | 基于区块链的金融系统合规检测方法及相关设备 |
| CN110443624A (zh) * | 2019-07-31 | 2019-11-12 | 中国工商银行股份有限公司 | 基于区块链的收单商户审查方法及节点装置 |
| CN110633309A (zh) * | 2019-08-30 | 2019-12-31 | 阿里巴巴集团控股有限公司 | 一种区块链交易处理方法及装置 |
| CN110688634A (zh) * | 2019-09-19 | 2020-01-14 | 杭州云象网络技术有限公司 | 一种联盟链事务智能执行的方法 |
-
2020
- 2020-07-02 CN CN202010639155.5A patent/CN111782832A/zh active Pending
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101035281A (zh) * | 2007-04-19 | 2007-09-12 | 鲍东山 | 分级内容审核系统 |
| US20160371436A1 (en) * | 2014-12-12 | 2016-12-22 | Draeger Medical Systems, Inc. | Selective censoring of medical procedure video |
| CN105205697A (zh) * | 2015-09-15 | 2015-12-30 | 北京合盒互动科技有限公司 | 公共场所的屏幕广告交易方法 |
| CN107025564A (zh) * | 2016-01-29 | 2017-08-08 | 深圳市艾特大师网络科技有限公司 | 一种针对作品的处理方法、装置及系统 |
| CN107979632A (zh) * | 2016-10-25 | 2018-05-01 | 腾讯科技（北京）有限公司 | 推送信息的处理方法、装置及系统 |
| CN109886039A (zh) * | 2019-01-23 | 2019-06-14 | 深圳壹账通智能科技有限公司 | 基于区块链的金融系统合规检测方法及相关设备 |
| CN110443624A (zh) * | 2019-07-31 | 2019-11-12 | 中国工商银行股份有限公司 | 基于区块链的收单商户审查方法及节点装置 |
| CN110633309A (zh) * | 2019-08-30 | 2019-12-31 | 阿里巴巴集团控股有限公司 | 一种区块链交易处理方法及装置 |
| CN110688634A (zh) * | 2019-09-19 | 2020-01-14 | 杭州云象网络技术有限公司 | 一种联盟链事务智能执行的方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2017202006A1 (zh) | 数据处理方法和装置、计算机存储介质 | |
| US11025693B2 (en) | Event detection from signal data removing private information | |
| CN106874253A (zh) | 识别敏感信息的方法及装置 | |
| CN116432247A (zh) | 一种基于区块链的侵权存证方法及设备 | |
| CN109299995B (zh) | 一种虚拟物品发送方法、装置、服务器以及存储介质 | |
| CN111090615A (zh) | 混合资产的分析处理方法、装置、电子设备及存储介质 | |
| US10958780B1 (en) | Decentralized automatic phone fraud risk management | |
| CN111488594B (zh) | 一种基于云服务器的权限检查方法、装置、存储介质及终端 | |
| CN110851872A (zh) | 针对隐私数据泄漏的风险评估方法及装置 | |
| CN108600250A (zh) | 认证方法 | |
| CN116150349A (zh) | 一种数据产品安全合规性检查方法、装置及服务器 | |
| CN112686631A (zh) | 任务事项处理方法、装置、计算机设备及存储介质 | |
| CN112217841A (zh) | 直播间管理的方法、装置、计算机设备及存储介质 | |
| CN111666298A (zh) | 基于flink的用户服务类别检测方法、装置、计算机设备 | |
| CN112099870B (zh) | 文档处理方法、装置、电子设备及计算机可读存储介质 | |
| CN111222181B (zh) | Ai模型的监管方法、系统、服务器及存储介质 | |
| CN111027065B (zh) | 一种勒索病毒识别方法、装置、电子设备及存储介质 | |
| CN109857748B (zh) | 一种合同数据处理方法、装置及电子设备 | |
| CN111523297A (zh) | 一种数据处理方法及装置 | |
| CN111782832A (zh) | 一种基于联盟链的审查方法、装置及系统 | |
| WO2019187107A1 (ja) | 情報処理装置、制御方法、及びプログラム | |
| CN111539028B (zh) | 档案存储方法、装置、存储介质及电子设备 | |
| CN114817346A (zh) | 一种业务处理方法、装置、电子设备及计算机可读介质 | |
| CN107172106B (zh) | 安全信息交互方法和系统 | |
| CN112508472A (zh) | 多人查看同一账号下订单信息的方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |