CN112765518A - 一种内容审核方法、装置及设备 - Google Patents
一种内容审核方法、装置及设备 Download PDFInfo
- Publication number
- CN112765518A CN112765518A CN202110069594.1A CN202110069594A CN112765518A CN 112765518 A CN112765518 A CN 112765518A CN 202110069594 A CN202110069594 A CN 202110069594A CN 112765518 A CN112765518 A CN 112765518A
- Authority
- CN
- China
- Prior art keywords
- content
- review
- reviewed
- audited
- manual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000012552 review Methods 0.000 claims abstract description 137
- 238000012550 audit Methods 0.000 claims abstract description 72
- 238000012545 processing Methods 0.000 claims abstract description 35
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 238000007689 inspection Methods 0.000 description 6
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000007789 sealing Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/958—Organisation or management of web site content, e.g. publishing, maintaining pages or automatic linking
- G06F16/986—Document structures and storage, e.g. HTML extensions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/103—Workflow collaboration or project management
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Economics (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Storage Device Security (AREA)
Abstract
本申请公开了一种内容审核方法、装置及设备，包括：获取第一待审核内容；采用预置审核策略对第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的第二待审核内容；将第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；将第三待审核内容加入到审核结果队列；依次对审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。本申请使得业务系统快速全面接入内审中台，并能保证审核内容的安全。
Description
技术领域
本申请涉及内容审核技术领域，尤其涉及一种内容审核方法、装置及设备。
背景技术
目前国家对于互联网产生的内容采用比较严格的管控，要求内容产生者，必须接入内容审核系统，内容必须经过机器审核或人工审核才允许发布出去，必须保证内容的安全、合法。
现有技术主要包括两种情况：一是调用第三方的ai审核平台，二是自研审核系统。这两种的技术实现思路存在以下缺点，包括：
1)对于业务系统的原有内容生产的逻辑代码改动较大，会导致业务系统接入审核进度有延期，从而会导致未经审核的内容发布到线上，存在内容安全风险；
2)业务系统需要根据不同的业务模块内容不同进行定制化开发接入内容审核，接入效率较低，从而会导致未经审核的内容发布到线上，存在内容安全风险；
3)依赖第三方ai审核平台，机审后的结果没有人工审核的介入，严重依赖机器算法和模型，对于最新的违规内容、违规形式无法及时发现，存在内容安全风险；
4)对于违规内容的处理，如删除内容、放行内容，全由程序自动化执行，会存在误判、漏判情况较多，如果需要修正，需要第三方ai平台进行处理，效率较低；
5)现有审核系统处罚，只能针对内容进行处理，不能针对内容生产的用户、所在的房间进行连带处罚，无法从根本上控制不健康内容的产生和传播。
发明内容
本申请提供了一种内容审核方法、装置及设备，使得业务系统快速的全面接入内审中台，并能保证审核内容的安全。
有鉴于此，本申请第一方面提供了一种内容审核中台与业务系统结合的方法，所述方法包括：
获取第一待审核内容；
采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容；
将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；
将所述第三待审核内容加入到审核结果队列；
依次对所述审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。
可选的，在所述采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容，之前还包括：
将所述第一待审核内容中的文本、图片、音频和视频，转换成预置规范格式，使得所述第一待审核内容的输入格式符合机审的格式规范。
可选的，在所述采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容，之后还包括：
若所述第二待审核内容属于预置可信内容，则将所述第二审核内容加入到所述审核结果队列。
可选的，在所述采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容，之后还包括：
若所述第二待审核内容属于预置标签内容，则将所述第二待审核内容加入到所述审核结果队列。
可选的，所述将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容，包括：
将所述第二待审核内容，按照预置的分配策略分配给审核人员，得到人工审核通过以及人工审核不通过的第三待审核内容。
可选的，在所述将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容，之后还包括：
将人工审核不通过的所述第三待审核内容进行多次复审；
若多次复审仍不通过，则根据预置处罚规则对所述第三待审核内容对应的对象进行处罚。
本申请第二方面提供一种内容审核装置，所述装置包括：
获取单元，用于获取第一待审核内容；
机审单元，用于采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容；
人审单元，用于将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；
审核结果队列单元，用于将所述第三待审核内容加入到审核结果队列；
结果处理单元，用于依次对所述审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。
可选的，还包括：
格式转换单元，用于将所述第一待审核内容中的文本、图片、音频和视频，转换成预置规范格式，使得所述第一待审核内容的输入格式符合机审的格式规范。
可选的，还包括：
复审单元，用于将人工审核不通过的所述第三待审核内容进行多次复审；
处罚单元，用于若多次复审仍不通过，则根据预置处罚规则对所述第三待审核内容对应的对象进行处罚。
本申请第三方面提供一种内容审核设备，所述设备包括处理器以及存储器：
所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
所述处理器用于根据所述程序代码中的指令，执行如上述第一方面所述的内容审核的方法的步骤。
从以上技术方案可以看出，本申请具有以下优点：
本申请中，提供了一种内容审核方法，包括：获取第一待审核内容；采用预置审核策略对第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的第二待审核内容；将第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；将第三待审核内容加入到审核结果队列；依次对审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。
本申请通过采用机审和人审的结合，使得避免了机审造成的审核不充分的问题，保证的审核后的数据安全性；另外，通过对待审核内容执行预置的内容通过处理或者内容不通过处理，使得审核内容能够根据预置的要求进行处理。
附图说明
图1为本申请一种内容审核方法的一个实施例的方法流程图；
图2为本申请一种内容审核方法的另一个实施例的方法流程图；
图3为本申请一种内容审核装置的一个实施例的装置结构图；
图4为本申请一种内容审核方法的一个具体的实施方式的流程图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
图1为本申请一种内容审核中台与业务系统结合的方法的一个实施例的方法流程图，如图1所示，图1中包括：
101、获取第一待审核内容；
需要说明的是，本申请可以获取各类业务系统中的待审核内容，获取的待审核内容可以包括文本、图片、音频、视频以及其中多种内容的组合。
102、采用预置审核策略对第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的第二待审核内容；
需要说明的是，本申请可以将第一待审核内容输入到第三方平台，根据预置审核策略对第一待审核内容进行审核，可以对审核通过以及审核不通过的第一待审核内容打上机审通过标签、机审不通过标签或机审不确定标签，从而得到带有机审通过标签、机审不通过标签或机审不确定标签的第二待审核内容。
103、将第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；
需要说明的是，将带有机审通过标签、机审不通过标签或机审不确定标签的第二待审核内容进行人工审核，可以对第二待审核内容打上人审通过和人审不通过的标签，得到带有人审通过标签和人审不通过标签的第三待审核内容。
104、将第三待审核内容加入到审核结果队列；
需要说明的是，将通过机审和人审之后得到的第三待审核内容加入到审核结果队列中，以方便对审核结果按照预置的处理方式进行处理。
105、依次对审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。
需要说明的是，本申请可以依次对审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。例如，对于机审和人审都通过的第三待审核内容，包括合规的头像、昵称等，可以对第三待审核内容进行发布通过等处理；而对于机审和人审不通过的第三待审核内容，包括违规的头像、昵称等，可以对第三待审核内容进行删除内容并替换默认合规的默认头像、昵称等处理。
本申请通过采用机审和人审的结合，使得避免了机审造成的审核不充分的问题，保证的审核后的数据安全性；另外，通过对待审核内容执行预置的内容通过处理或者内容不通过处理，使得审核内容能够根据预置的要求进行处理。
本申请还提供了一种内容审核方法的另外一个实施例，如图2所示，图2中包括：
201、获取第一待审核内容；
202、将第一待审核内容中的文本、图片、音频和视频，转换成预置规范格式，使得第一待审核内容的输入格式符合机审的格式规范。
需要说明的是，本申请可以将第一待审核内容中的文本、图片、音频和视频的文件格式分别转换成符合机审格式规范的文件格式；具体的，若第一待审核内容中包括多种文件格式，则将多种文件格式分解成文本、图片、音频和视频，再对分解后的第一待审核内容按照预置审核策略进行全面审核。
另外，本申请还可以对分解后的第一待审核内容的数据进行分级，从而确定第一待审核内容的重要程度；还可以对数据进行分类；以及对数据进行标签，突出优质的第一待审核内容。从而可以判断审核内容是否是可信的内容或者是私密的内容。
203、采用预置审核策略对第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的第二待审核内容；
需要说明的是，本申请可以将第一待审核内容输入到第三方平台，根据预置审核策略对第一待审核内容进行审核，可以对审核通过以及审核不通过的第一待审核内容打上机审通过标签和机审不通过标签，从而得到带有机审通过标签和机审不通过标签的第二待审核内容。
本申请中可以调用不同的第三方ai机审平台，并能够根据机审结果进行配置是否需要再对机审后的审核内容进行人工审核，实现机审加人审的双重审核保障。机审的审核策略可以配置的参数包括：审核策略(先发后审、先审后发、白名单先发后审)、人工不审场景、人工审核数据(机审通过数据、机审拒绝数据、机审ReView数据)。如果机审通过也可以直接根据预置处罚规则直接进行处罚。
204、若第二待审核内容属于预置可信内容，则将第二审核内容加入到审核结果队列。
需要说明的是，预置可信内容可以是来源于政府的新闻信息或者其他带有可信标识的用户的数据信息；当检测到第二待审核内容带有可信标签时，则表示第二待审核内容属于预置可信内容，则将第二审核内容加入到审核结果队列，不做人工审核。
205、若第二待审核内容属于预置标签内容，则将第二待审核内容加入到审核结果队列。
需要说明的是，预置标签内容可以是私人房间的聊天数据或者其他私密性质的内容；当检测到预置标签内容带有预置标签时，则将属于预置标签内容的第二待审核内容直接加入到审核结果队列，不做人工审核。
206、将第二待审核内容，按照预置的分配策略分配给审核人员，得到人工审核通过以及人工审核不通过的第三待审核内容。
需要说明的是，为提高审核效率，对于接入的第二待审核内容，可以根据数据场景进行管理，并对数据场景进行审核角色分配。可以根据待审核内容的重要层度进行分级，在审核时，以审核角色为通道，将相应的待审核内容放到对应的通道，加速内容审核的分发，并可根据数据场景的重要程度，优先分发更重要的审核角色进行人工审核，以确保待审核内容分级进入人工审核。
207、将第三待审核内容加入到审核结果队列；
需要说明的是，可以将人工审核完成后的第三待审核内容加入到审核结果队列，以方便对审核结果按照预置的处理方式进行处理。
208、依次对审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理；
需要说明的是，本申请可以依次对审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。例如，对于机审和人审都通过的第三待审核内容，包括合规的头像、昵称等，可以对第三待审核内容进行发布通过等处理；而对于机审和人审不通过的第三待审核内容，包括违规的头像、昵称等，可以对第三待审核内容进行删除内容并替换默认合规的默认头像、昵称等处理。
209、将人工审核不通过的第三待审核内容进行多次复审；
需要说明的是，本申请可以对人工审核的不通过的第三待审核内容进行多次复审；具体为，将人工审核不通过的第三待审核内容交由第一巡查进行内容审查，若第一巡查复审后仍然不通过，则将第一巡查复审后的审核内容交由第二巡查进行再次复审，若第二巡查仍不通过，则针对审核内容进行相应的处罚。
210、若多次复审仍不通过，则根据预置处罚规则对第三待审核内容对应的对象进行处罚。
需要说明的是，对于多次复审仍然不通过的第三待审核内容，可以根据预置处罚规则对第三待审核内容对应的对象进行处罚。其中，第三待审核内容对应的对象可以包括审核内容对应的用户、审核内容本身以及审核内容的主体，本申请的内容审核方法中的具体的实施方式可参考图4。
为解决内审在审核时，如何快速与业务系统进行结合，可实时对违规的审核内容或审核内容生产的主体进行及时的处罚；本申请可以定义SPI，包括：
1)SPI定义：内审中台针对处罚先定义好处罚的接口参数，(不同的违规级别和违规次数，对应不同的惩罚)由业务系统进行实现该SPI具体逻辑；
2)注册SPI：在内审中台注册业务系统的SPI实现服务地址；
3)处罚SPI配置和执行：在业务场景违规表，配置选择哪些处罚的SPI。当业务系的审核内容发生违规时，会根据违规的级别，违规的次数，自动调用相应的SPI实现方法进行处罚，包括对内容本身，内容生产的用户、或内容所在的房间进行处罚。
具体的处罚包括：主体处罚、内容处罚和用户处罚。
主体处罚包括封号、封房、删帖、商品下架等；
内容处罚包括：删除昵称、删除个性签名、删图片、删语音、删视频、删帖子、删回帖、删评论等；
用户处罚包括：封号、禁言、禁止登陆、禁止发帖、禁止创建房间。
本申请通过对接入的审核内容的结构进行分解，并对分解后的数据进行格式转换，再对格式转换后的第一待审核内容按照预置审核策略进行全面审核，使得本申请可以支持各行各业，各种业务的审核内容，具有更强的兼容性，可以实现业务的快速接入并投入使用。本申请中业务系统只需要将待审核内容上报到中台，并提供惩罚处理的SPI接口即可实现快速落地，对业务系统原逻辑改动较少，所以审核相关业务和操作与业务系统解耦，可以实现业务系统的快速接入并投入使用。
以上是本申请的方法的实施例，本申请还包括一种内容审核装置的实施例，如图3所示，图3中包括：
获取单元301，用于获取第一待审核内容；
机审单元302，用于采用预置审核策略对第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的第二待审核内容；
人审单元303，用于将第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；
审核结果队列单元304，用于将第三待审核内容加入到审核结果队列；
结果处理单元305，用于依次对审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。
还包括：
格式转换单元，用于将第一待审核内容中的文本、图片、音频和视频，转换成预置规范格式，使得第一待审核内容的输入格式符合机审的格式规范。
还包括：
复审单元，用于将人工审核不通过的第三待审核内容进行多次复审；
处罚单元，用于若多次复审仍不通过，则根据预置处罚规则对第三待审核内容对应的对象进行处罚。
本申请还提供了一种内容审核设备，设备包括处理器以及存储器：存储器用于存储程序代码，并将程序代码传输给处理器；处理器用于根据程序代码中的指令执行本申请一种内容审核方法的实施例。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解，在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
以上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (10)
1.一种内容审核方法，其特征在于，包括：
获取第一待审核内容；
采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容；
将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；
将所述第三待审核内容加入到审核结果队列；
依次对所述审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。
2.根据权利要求1所述的内容审核方法，其特征在于，在所述采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容，之前还包括：
将所述第一待审核内容中的文本、图片、音频和视频，转换成预置规范格式，使得所述第一待审核内容的输入格式符合机审的格式规范。
3.根据权利要求1所述的内容审核方法，其特征在于，在所述采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容，之后还包括：
若所述第二待审核内容属于预置可信内容，则将所述第二审核内容加入到所述审核结果队列。
4.根据权利要求1所述的内容审核方法，其特征在于，在所述采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容，之后还包括：
若所述第二待审核内容属于预置标签内容，则将所述第二待审核内容加入到所述审核结果队列。
5.根据权利要求1所述的内容审核方法，其特征在于，所述将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容，包括：
将所述第二待审核内容，按照预置的分配策略分配给审核人员，得到人工审核通过以及人工审核不通过的第三待审核内容。
6.根据权利要求1所述的内容审核方法，其特征在于，在所述将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容，之后还包括：
将人工审核不通过的所述第三待审核内容进行多次复审；
若多次复审仍不通过，则根据预置处罚规则对所述第三待审核内容对应的对象进行处罚。
7.一种内容审核装置，其特征在于，包括：
获取单元，用于获取第一待审核内容；
机审单元，用于采用预置审核策略对所述第一待审核内容进行机审，得到机审通过、机审不通过或机审不确定的所述第二待审核内容；
人审单元，用于将所述第二待审核内容进行人工审核，得到人工审核通过以及人工审核不通过的第三待审核内容；
审核结果队列单元，用于将所述第三待审核内容加入到审核结果队列；
结果处理单元，用于依次对所述审核结果队列中的待审核内容执行预置的内容通过处理或者内容不通过处理。
8.根据权利要求7所述的内容审核装置，其特征在于，还包括：
格式转换单元，用于将所述第一待审核内容中的文本、图片、音频和视频，转换成预置规范格式，使得所述第一待审核内容的输入格式符合机审的格式规范。
9.根据权利要求7所述的内容审核装置，其特征在于，还包括：
复审单元，用于将人工审核不通过的所述第三待审核内容进行多次复审；
处罚单元，用于若多次复审仍不通过，则根据预置处罚规则对所述第三待审核内容对应的对象进行处罚。
10.一种内容审核设备，其特征在于，所述设备包括处理器以及存储器：
所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
所述处理器用于根据所述程序代码中的指令执行权利要求1-6任一项所述的内容审核方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110069594.1A CN112765518A (zh) | 2021-01-19 | 2021-01-19 | 一种内容审核方法、装置及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110069594.1A CN112765518A (zh) | 2021-01-19 | 2021-01-19 | 一种内容审核方法、装置及设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112765518A true CN112765518A (zh) | 2021-05-07 |
Family
ID=75703225
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110069594.1A Pending CN112765518A (zh) | 2021-01-19 | 2021-01-19 | 一种内容审核方法、装置及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112765518A (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113537940A (zh) * | 2021-07-22 | 2021-10-22 | 北京华雨天成文化传播有限公司 | 基于区块链技术的视听类节目内容审核管理方法及系统 |
| CN113613028A (zh) * | 2021-08-03 | 2021-11-05 | 北京达佳互联信息技术有限公司 | 直播数据处理方法、装置、终端、服务器及存储介质 |
| CN113779472A (zh) * | 2021-07-30 | 2021-12-10 | 阿里巴巴（中国）有限公司 | 内容审核方法、装置及电子设备 |
| CN114827732A (zh) * | 2022-04-25 | 2022-07-29 | 康键信息技术（深圳）有限公司 | 一种多通道内容审核方法、平台及存储介质 |
| CN115330337A (zh) * | 2022-08-04 | 2022-11-11 | 北京百度网讯科技有限公司 | 数据内容的处理方法、装置、电子设备及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107633433A (zh) * | 2017-09-29 | 2018-01-26 | 北京奇虎科技有限公司 | 广告的审核方法及装置 |
| CN109492952A (zh) * | 2018-12-28 | 2019-03-19 | 广州华多网络科技有限公司 | 审核数据处理方法、装置、电子设备及存储介质 |
| CN109660823A (zh) * | 2018-12-28 | 2019-04-19 | 广州华多网络科技有限公司 | 视频发布方法、装置、电子设备及存储介质 |
| CN111383659A (zh) * | 2018-12-28 | 2020-07-07 | 广州市百果园网络科技有限公司 | 分布式语音监控方法、装置、系统、存储介质和设备 |
-
2021
- 2021-01-19 CN CN202110069594.1A patent/CN112765518A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107633433A (zh) * | 2017-09-29 | 2018-01-26 | 北京奇虎科技有限公司 | 广告的审核方法及装置 |
| CN109492952A (zh) * | 2018-12-28 | 2019-03-19 | 广州华多网络科技有限公司 | 审核数据处理方法、装置、电子设备及存储介质 |
| CN109660823A (zh) * | 2018-12-28 | 2019-04-19 | 广州华多网络科技有限公司 | 视频发布方法、装置、电子设备及存储介质 |
| CN111383659A (zh) * | 2018-12-28 | 2020-07-07 | 广州市百果园网络科技有限公司 | 分布式语音监控方法、装置、系统、存储介质和设备 |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113537940A (zh) * | 2021-07-22 | 2021-10-22 | 北京华雨天成文化传播有限公司 | 基于区块链技术的视听类节目内容审核管理方法及系统 |
| CN113779472A (zh) * | 2021-07-30 | 2021-12-10 | 阿里巴巴（中国）有限公司 | 内容审核方法、装置及电子设备 |
| CN113613028A (zh) * | 2021-08-03 | 2021-11-05 | 北京达佳互联信息技术有限公司 | 直播数据处理方法、装置、终端、服务器及存储介质 |
| CN113613028B (zh) * | 2021-08-03 | 2023-08-08 | 北京达佳互联信息技术有限公司 | 直播数据处理方法、装置、终端、服务器及存储介质 |
| CN114827732A (zh) * | 2022-04-25 | 2022-07-29 | 康键信息技术（深圳）有限公司 | 一种多通道内容审核方法、平台及存储介质 |
| CN115330337A (zh) * | 2022-08-04 | 2022-11-11 | 北京百度网讯科技有限公司 | 数据内容的处理方法、装置、电子设备及存储介质 |
| CN115330337B (zh) * | 2022-08-04 | 2024-01-02 | 北京百度网讯科技有限公司 | 数据内容的处理方法、装置、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112765518A (zh) | 一种内容审核方法、装置及设备 | |
| CN107679045A (zh) | 版权授权管理方法及系统 | |
| CN109660823A (zh) | 视频发布方法、装置、电子设备及存储介质 | |
| JP5989004B2 (ja) | ロゴ認証 | |
| CN108132926A (zh) | 合同生成装置及系统 | |
| CN109871791A (zh) | 图像处理方法和装置 | |
| CN111327607A (zh) | 一种基于大数据的安全威胁情报管理方法、系统、存储介质及终端 | |
| CN107995104A (zh) | 一种基于即时消息推送业务消息的系统及方法 | |
| CN110928534B (zh) | 一种基于区块链的工作流节点认证方法及装置 | |
| CN114827732A (zh) | 一种多通道内容审核方法、平台及存储介质 | |
| CN107888989A (zh) | 一种基于互联网直播的交互系统及方法 | |
| CN114444131A (zh) | 文档审核方法及计算机存储介质 | |
| CN109862399A (zh) | 显示富媒体信息的方法、处理富媒体信息的方法、计算机装置及计算机可读存储介质 | |
| CN108985178A (zh) | 用于生成信息的方法和装置 | |
| CN108921838A (zh) | 用于检测图像的方法和装置 | |
| CN112328686A (zh) | 一种基于数字证书的区块链节点共享方法及其相关产品 | |
| CN109857748B (zh) | 一种合同数据处理方法、装置及电子设备 | |
| CN113596587B (zh) | 弹幕实现的方法、装置、电子设备和可读介质 | |
| CN106713297A (zh) | 基于云服务的电子数据固定平台 | |
| CN107346197A (zh) | 一种信息显示方法及装置 | |
| CN108171572A (zh) | 招标筛选方法、设备、存储介质及计算机 | |
| CN113537931A (zh) | 电子印章的生成及使用电子印章进行验证的方法及装置 | |
| CN111177661B (zh) | 建筑信息模型构件版权认证方法及相关产品 | |
| CN113012021A (zh) | 一种图像加密及解密方法、计算机及可读存储介质 | |
| CN114677138A (zh) | 一种数据处理方法、设备以及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210507 |