CN109561322A - 一种视频审核的方法、装置、设备和存储介质 - Google Patents
一种视频审核的方法、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN109561322A CN109561322A CN201811614979.6A CN201811614979A CN109561322A CN 109561322 A CN109561322 A CN 109561322A CN 201811614979 A CN201811614979 A CN 201811614979A CN 109561322 A CN109561322 A CN 109561322A
- Authority
- CN
- China
- Prior art keywords
- video
- classification
- history
- audit
- pending
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012550 audit Methods 0.000 title claims abstract description 156
- 238000000034 method Methods 0.000 title claims abstract description 64
- 239000000203 mixture Substances 0.000 claims abstract description 29
- 238000012795 verification Methods 0.000 claims description 45
- 239000000284 extract Substances 0.000 claims description 24
- 238000000605 extraction Methods 0.000 claims description 20
- 238000012552 review Methods 0.000 claims description 13
- 230000005484 gravity Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 3
- 238000012549 training Methods 0.000 abstract description 31
- 238000003062 neural network model Methods 0.000 abstract description 15
- 230000008569 process Effects 0.000 description 20
- 230000015654 memory Effects 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 208000001491 myopia Diseases 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种视频审核的方法、装置、设备和存储介质，其中，该方法包括：提取待审核视频的特征向量；将待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到待审核视频在对应视频类别下的分类得分；如果待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到待审核视频的审核类别组成。本发明实施例提供的技术方案，由于通过多个不同视频类别的二分类模型对待审核视频进行分类，每个二分类模型仅针对某一对应视频类别进行判定，相对单一的深度神经网络模型的规模较小，对分类能力的精度要求相对较低，便于训练出更为准确的分类模型，从而提高视频审核的准确性。
Description
技术领域
本发明实施例涉及内容审核技术领域，尤其涉及一种视频审核的方法、装置、设备和存储介质。
背景技术
随着互联网技术的不断发展，尤其是移动互联网的兴起以及4G通信技术和半导体技术的进步，网络上的流媒体信息量呈爆炸趋势增长，使得在互联网上传播的各类短视频或网络直播的内容越来越丰富。此时，对互联网视频中敏感信息和违规信息也提出了更高的审核要求，仅凭借人工审核难以有效对所有视频数据进行审核，而且人工审核必然需要消耗大量人力成本，效率较低。
目前，现有的视频审核系统通常借助单一的深度神经网络模型来对视频内容进行自动审核，虽然在一定程度上提高了视频审核效率，但由于需要通过单一的深度神经网络模型在视频分类任务中直接统一输出对应视频在不同分类类别下的概率，此时要求该深度神经网络模型具有高精度的分类能力，使得该深度神经网络模型的规模较大，训练过程极为繁琐，因此在训练中该深度神经网络模型的可能存在一定的误差从而导致视频审核的准确性较低。
发明内容
本发明实施例提供了一种视频审核的方法、装置、设备和存储介质，以解决现有技术中模型训练过程复杂的问题，提高视频审核的准确性。
第一方面，本发明实施例提供了一种视频审核的方法，该方法包括：
提取待审核视频的特征向量；
将所述待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到所述待审核视频在对应视频类别下的分类得分；
如果所述待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到所述待审核视频的审核类别组成。
第二方面，本发明实施例提供了一种视频审核的装置，该装置包括：
特征向量提取模块，用于提取待审核视频的特征向量；
分类得分确定模块，用于将所述待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到所述待审核视频在对应视频类别下的分类得分；
审核类别确定模块，用于如果所述待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到所述待审核视频的审核类别组成。
第三方面，本发明实施例提供了一种设备，该设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例所述的视频审核的方法。
第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任意实施例所述的视频审核的方法。
本发明实施例提供的一种视频审核的方法、装置、设备和存储介质，通过不同视频类别的二分类模型分别对待审核视频进行审核，从而根据对应视频类别下的分类得分确定待审核视频的审核类别中是否应包含该视频类别，实现对待审核视频的多类别判定，由于通过多个不同视频类别的二分类模型对待审核视频进行分类，每个二分类模型仅针对某一对应视频类别进行判定，此时每个二分类模型相对单一的深度神经网络模型的规模较小，对分类能力的精度要求相对较低，解决了通过单一的深度神经网络模型实现待审核视频的多类别判定时，训练过程复杂的问题，便于训练出更为准确的分类模型，从而提高视频审核的准确性。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：
图1A为本发明实施例一提供的一种视频审核的方法的流程图；
图1B为本发明实施例一提供的方法中人工审核过程的原理示意图；
图2为本发明实施例二提供的方法中二分类模型的分类阈值确定过程的原理示意图；
图3A和图3B分别为本发明实施例三提供的视频审核的方法中对不同视频类型的二分类模型的构建原理图；
图4A为本发明实施例四提供的一种视频审核的方法所适用的应用场景的场景架构图；
图4B为本发明实施例四提供的视频审核过程的原理示意图；
图5为本发明实施例五提供的一种视频审核的装置的结构示意图；
图6为本发明实施例六提供的一种设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。此外，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
本发明实施例主要针对通过单一的深度神经网络模型对待审核视频进行多类别判定时，存在的训练过程复杂，且视频审核准确性较低的问题，通过训练多个不同视频类别的二分类模型，分别对待审核视频进行多分类判定，二分类模型的规模相对较为简单，便于通过训练样本尽快地训练出更为准确的分类模型，从而提高视频审核的准确性。
实施例一
图1A为本发明实施例一提供的一种视频审核的方法的流程图，本实施例可应用于任一种可以对用户上传的短视频或网络直播等互联网视频进行审核的视频审核终端中。本发明实施例的技术方案适用于如何准确对待审核视频的多分类类别进行审核的情况中。本实施例提供的一种视频审核的方法可以由本发明实施例提供的视频审核的装置来执行，该装置可以通过软件和/或硬件的方式来实现，并集成在执行本方法的设备中，该设备可以是承载有相应的视频审核能力的任一种智能终端设备。
具体的，参考图1A，该方法可以包括如下步骤：
S110，提取待审核视频的特征向量。
其中，待审核视频是指任一用户可以通过各类应用程序上传至互联网中进行传播的、需要审核的用户原创视频以及任一种需要分析视频类型的网络流媒体视频；如用户录制的想要在互联网中传播的短视频或者网络直播视频等；特征向量是指能够明确代表待审核视频中的一类标志信息、并采用某一特定格式设置的特征集合。
本实施例中为了防止存在违规内容或者敏感内容的视频数据在互联网中的快速传播，需要在视频传播之前，对上传的各类视频中包含的内容信息进行审核，从而将存在违规内容的视频过滤出来。具体的，在待审核视频所属的视频类别进行审核时，首选需要获取待审核视频中的标志信息，也就是提取待审核视频的特征向量，以便后续对该特征向量进行分析，判断待审核视频的审核类别。可选的，本实施例中可以通过现有的神经网络、支持向量机、随机森林或大数据分析等方法设定对应的特征提取网络，通过该特征提取网络提取待审核视频的特征向量。
具体的，本实施例中针对二分类模型的分类精度要求不同，可以通过不同的方式提取待审核视频的特征向量。可选的，提取待审核视频的特征向量，具体可以包括：通过单个特征提取网络提取待审核视频的特征向量；或者，通过两个或两个以上特征提取网络分别提取待审核视频的特征向量。
具体的，在对不同视频类别的二分类模型的分类精度要求相差不大时，可以通过单个特征提取网络提取待审核视频的特征向量，此时将同一特征提取网络提取出的特征向量分别输入到不同视频类别的二分类模型中进行融合分析。
可选的，由于实际审核业务中，不同视频类别的待审核视频的差异可能较大，某些视频类别的待审核视频出现频率较高，此时的分类精度对审核效果影响很大；而一些类别的待审核视频出现频率较低，此时的分类精度对审核效果影响较小，因此针对不同视频类别的二分类模型对待审核视频的分类精度要求不同，可以通过不同的特征提取网络中提取不同精度的特征向量，分别输入到不同视频类别的二分类模型中进行融合分析，提高特征向量的准确性。
S120，将待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到待审核视频在对应视频类别下的分类得分。
其中，二分类模型是一种能够将待审核视频分类成两种互斥类别的神经网络模型，二分类模型中包含的分类结果为属于某一设定类别和不属于该设定类别两种；视频类别是指待审核视频可能属于的任意一种视频类型，可以包括正常类别和违规类别，其中违规类别中具体还可以包括暴力类别、恐怖类别、枪战类别、色情类别以及政治敏感类别等含有各种违规内容的违规类型。需要说明的是，由于本实施例中主要判断待审核视频中是否存在违规内容，且每一待审核视频可能包含有多种不同类型的违规内容，因此本实施例中的视频类别主要是针对待审核视频可能所属的不同违规类别，若待审核视频不属于违规类别中包含每种细分类型，则说明该待审核视频为正常类别。
同时，不同视频类别的二分类模型是指每一个二分类模型仅用于判断待审核视频中是否存在该二分类模型对应的视频类别下的内容，也就是判断待审核视频的审核类别中是否包括该二分类模型对应的视频类别，如通过暴力类别对应的二分类模型对待审核视频进行的审核，主要是用于判断该待审核视频是否属于暴力类别；此时不同视频类别的二分类模型分别对待审核视频所属的不同视频类别进行判断。
可选的，在提取出待审核视频的特征向量时，可以通过将该待审核视频的特征向量分别输入到预先构建的不同视频类别的二分类模型中，用于对该待审核视频的特征向量进行不同的分析，从而分别判断该待审核视频与各个二分类模型的对应视频类别下所包含该视频类别的相应视频之间的区别程度，进而根据各个二分类模型分析出的区别程度确定该待审核视频在各个二分类模型的对应视频类别下的分类得分，以便后续根据该分类得分判断待审核视频的审核类别中是否包含该对应视频类别。可选的，本实施例中可以通过各个二分类模型分析不同视频类别下的大量历史视频的特征，从而分析出不同视频类别下所包含的视频中应该存在的共性特征，后续通过分析待审核视频的特征向量与不同视频类别下所应包含的共性特征之间的区别程度，确定待审核视频在对应视频类别下的分类得分。
此外，本实施例中根据不同视频类别的二分类模型对分类精度的不同要求，可以在提取待审核视频的特征向量时，为各个二分类模型设定不同精度的特征提取网络，将在各个特征提取网络中提取出的待审核视频的特征向量分别对应输入到各特征提取网络对应的二分类模型中，以便对待审核视频进行不同精度的分类，提高视频审核效率和准确性。
S130，如果待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到待审核视频的审核类别组成。
其中，分类阈值是一种预先设定的能够准确区分待审核视频是否属于对应视频类别的一种判定临界值。本实施例中不同视频类别下的二分类模型中均会预先设定一个对应的分类阈值，用于判断待审核视频是否属于对应的视频类型。
具体的，在通过不同视频类别的二分类模型得到待审核视频在对应视频类别下的分类得分时，可以将该待审核视频在对应视频类别下的分类得分分别与预先设定的对应视频类别下的分类阈值进行比对，由于本实施例中的不同视频类别主要是违规类别下的具体细分类别，因此根据对应的比对结果可以判断该待审核视频中是否存在该对应视频类别下的违规内容。此时如果待审核视频在各个二分类模型的对应视频类别下的分类得分大于等于对应的分类阈值，则说明该待审核视频中存在对应视频类别下的违规内容，此时将该视频类别作为待审核视频最终的审核类别的组成之一；通过对待审核视频在各个对应视频类别下的分类得分与对应的分类阈值进行比对，能够得到该待审核视频的审核类别中所包含的各视频类别，从而实现待审核视频的多类别判定。
此外，为了避免机器审核对待审核视频的审核类别中所包括的视频类别的审核误差，如图1B所示，本实施例中还可以通过机器审核和人工审核相结合的方式，进一步提升对待审核视频的审核精确度；此时，该视频类别作为审核类别组成之一，还需要进一步满足下述条件：将待审核视频和该视频类别发送给人工审核平台；如果收到人工审核平台对待审核视频的审核类别包括该视频类别的反馈，则该视频类别作为审核类别组成之一。
具体的，本实施例中在判断待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值后，为了避免机器审核造成的审核误差，可以将待审核视频和本次确定分类得分大于等于对应的分类阈值的对应视频类别同一发送给人工审核平台，由人工审核平台的工作人员进一步对该待审核视频进行人工审核，进一步确定该待审核视频的审核类别中所属的视频类型，并将该待审核视频中通过人工审核的审核类别包括的视频类别反馈给视频审核终端，由视频审核终端根据人工审核平台的反馈信息再次判断该待审核视频的审核类别，此时如果收到人工审核平台对待审核视频的审核类别包括该视频类别的反馈，则将该视频类别作为待审核视频最终的审核类别的组成之一，对于每一个二分类模型中对应视频类别下的分类得分大于等于对应的分类阈值的情况，均可以发送给人工审核平台进行再次审核，提高视频审核的准确性，直至得到该待审核视频的审核类别中最终包括的多视频类别，以实现对待审核视频的多类别判定。
本实施例提供的技术方案，通过不同视频类别的二分类模型分别对待审核视频进行审核，从而根据对应视频类别下的分类得分确定待审核视频的审核类别中是否包含应该视频类别，实现对待审核视频的多类别判定，由于通过多个不同视频类别的二分类模型对待审核视频进行分类，此时每个二分类模型相对单一的深度神经网络模型的规模较小，对分类能力的精度要求相对较低，解决了通过单一的深度神经网络模型实现待审核视频的多类别判定时，训练过程复杂的问题，便于训练出更为准确的分类模型，从而提高视频审核的准确性。
实施例二
图2为本发明实施例二提供的方法中二分类模型的分类阈值确定过程的原理示意图。本实施例是在上述实施例的基础上进一步优化得到。具体的，由于待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值时，需要将该待审核视频和该审核类别发送给人工审核平台进行再次审核，此时为了保证发送至人工审核平台的待审核视频数量不会过多，而超出审核人员的负荷能力，造成待审核视频在人工审核平台的积压等问题，还可以根据人工审核平台的实际审核业务情况确定的违规推送比例来设定不同视频类别的二分类模型中对应的分类阈值，进而对发送至人工审核平台的待审核视频的数量进行控制。可选的，如图2所示，本实施例中针对实际审核业务中的历史视频的推送情况对不同视频类别的二分类模型中对应的分类阈值的具体确定过程进行详细的解释说明。
可选的，本实施例中可以包括如下步骤：
S210，获取历史审核周期内的历史视频和违规推送比例，并确定历史视频的分类标签。
其中，本实施例中对于不同视频类别的二分类模型中对应的分类阈值是在线下预先对大量历史视频进行训练，并根据训练过程中向人工审核平台推送的历史视频数量设定的。违规推送比例是根据人工审核平台中的实际业务审核情况预先确定的允许推送给人工审核平台的违规视频数量占审核视频总量的上限值，为了保证发送至人工审核平台的待审核视频数量不会过多，而超出审核人员的负荷能力，此时要求违规推送比例不能超出人工审核平台中对待审核视频进行人工审核的吞吐量与待审核视频的总数据流量的比值，因此可以根据人工审核平台中的实际业务审核情况来确定该违规推送比例。
可选的，本实施例中在对不同视频类型的二分类模型对应的分类阈值进行确定时，首先可以获取历史审核周期内的大量历史视频和根据历史审核周期内的实际业务审核情况确定的所有二分类模型整体所允许推送给人工审核平台的违规推送比例，同时对历史视频的实际分类类别进行标注，得到各个历史视频的分类标签，该分类标签中包括各个历史视频实际所属的多个视频类别，该分类标签可以根据对应的人工标注信息确定。本实施例中可以根据各个二分类模型的对应视频类别对分类标签进行不同标注，如若历史视频为暴力类别和恐怖类别，则在分类标签中表示暴力类别和恐怖类别的对应位置处标注为“1”，在其他视频类别的对应位置处标注为“0”。
S220，根据历史视频的分类标签分别确定不同视频类别的比重。
具体的，在得到历史审核周期内大量历史视频的分类标签后，可以根据各个分类标签中的标注信息，确定出实际业务审核中不同视频类别下的历史视频的数量，也就是不同违规类别下的历史视频数量，以及全部违规视频的总量，从而根据不同视频类别下的历史视频的数量与全部违规视频的总量的比值确定不同视频类别分别在各个二分类模型包括的全部视频类别中所占的比重，后续根据该比重来分析允许在各个二分类模型中的不同对应视频类型下，向人工审核平台推送待审核视频的比例。
S230，根据违规推送比例和不同视频类别的比重，确定不同视频类别下的违规推送子比例。
本实施例中在确定允许全部二分类模型整体向人工审核平台发送待审核视频的违规推送比例，以及各个二分类模型的对应视频类别在全部二分类模型包括的各个视频类别中所占的比重时，可以将该违规推送比例与不同视频类别下的比重分别作乘积，并将不同视频类别下的乘积结果作为该视频类别下的违规推送子比例。
S240，提取历史视频的历史特征向量，并分别输入不同视频类别的二分类模型中，得到历史视频在对应视频类别下的分类得分。
具体的，本实施例中得到历史审核周期内的历史视频时，还可以通过预先设定的特征提取网络提取各个历史视频的历史特征向量，并将该历史特征向量分别输入到不同视频类别的二分类模型中，对各个历史视频的历史特征向量进行不同视频类别的分析，从而分别判断各个历史视频与各个二分类模型的对应视频类别下所包含该视频类别的相应视频之间的区别程度，进而得到各个历史视频在各个二分类模型的对应视频类别下的分类得分。需要说明的是，在将各个历史视频的历史特征向量输入到不同视频类别的二分类模型中确定对应的分类得分时，需要根据各个二分类模型的对应视频类别不同，而对历史视频的分类标签中各个视频类别对应位置处的标注信息进行重新调整，如某一历史视频为暴力类别和恐怖类别，在将该历史视频的历史特征向量输入暴力类别对应的二分类模型时，此时将分类标签中的暴力类别对应位置处的标注信息调整为“1”，而将恐怖类别对应位置处的标注信息调整为“0”，表示在暴力类别的二分类模型中暴力类别对应的分类标签为正样本，恐怖类别和其他类别对应的分类标签对负样本。可选的，本实施例中S240和S220可以同时执行，无先后顺序之分。
S250，根据对应视频类别下的分类得分以及枚举的不同预设分类阈值确定历史视频在对应视频类别下的不同假正类率。
其中，预设分类阈值是由用户设定的多个不同的分类临界值，用于判断根据多个分类临界值进行视频分类时的不同情况。假正类率是指预测需要推送给人工审核平台的违规视频数量与审核的历史视频总量的比值，此时预测需要推送给人工审核平台的违规视频中包括实际的违规视频和将正常视频预测的违规视频两种，审核的历史视频包括实际的违规视频和实际的正常视频两种；此时由于实际审核业务中实际的违规视频数量极少，大部分都是正常视频，因此可以将实际的违规视频忽略，此时假正类率则为将正常视频预测为违规视频的数量与正常视频总量的比值，本实施例中可以通过fpr＝fp/(tn+fp)来计算；其中，fpr为假正类率，fp为将负样本预测为正样本的数量，tn为将负样本预测为负样本的数量，tn+fp则是实际的负样本数量；而本实施例中主要用于对违规视频的审核，此时负样本为正常视频，正样本为违规视频。
可选的，在得到各个历史视频对各个二分类模型的对应视频类别下的分类得分时，可以通过在各个二分类模型中枚举的不同预设分类阈值对每个历史视频的审核类别进行判定，此时根据不同预设分类阈值确定各个历史视频中预测得到的将正常视频预测为违规视频的数量和分类标签中实际的正常视频总量，从而确定各个二分类模型中对于不同预设分类阈值所确定的不同假正类率。此时，每一个二分类模型中均存在与枚举的不同预设分类阈值对应的在对应视频类别下的不同假正类率。
S260，选取与对应视频类别下的违规推送子比例相近的假正类率所对应的预设分类阈值，作为对应视频类别下的分类阈值。
可选的，由于实际业务审核中实际的违规视频数量极少，大部分都是正常视频，因此本实施例中可以将对应视频类别下的违规推送子比例近似作为该视频类别下的假正类率，此时在得到对应视频类别下的违规推送子比例，以及对应视频类别下与不同预设分类阈值对应的不同假正类率时，可以在不同视频类别的二分类模型中通过枚举不同预设分类阈值得到的不同假正类率中，选取出与该对应视频类别的违规推送子比例大小相近的假正类率，并将该假正类率对应的预设分类阈值作为该对应视频类别下的分类阈值，对每一个二分类模型的对应视频类别均进行上述选取过程，从而得到各个二分类模型的对应视频类别中的分类阈值，以便后续在实际视频审核时直接采用本次为各个二分类模型确定的分类阈值，对待审核视频的审核类别进行判定。
本实施例提供的技术方案，通过历史视频的分类标签确定不同视频类别的比重，并根据违规推送比例该比重确定不同视频类别下的违规推送子比例，同时通过枚举的不同预设分类阈值对大量历史视频确定在不同视频类别下的不同假正类率，从而将不同视频类别下与违规推送子比例相似的假正类率所对应的预设分类阈值作为该视频类别的分类阈值，实现分类阈值的自动确定，从而保证发送至人工审核平台的待审核视频数量不会过多，而超出审核人员的负荷能力，提高人工审核的审核效率。
实施例三
图3A和图3B分别为本发明实施例三提供的视频审核的方法中对不同视频类型的二分类模型的构建原理图。本实施例是在上述实施例的基础上进行优化，本实施例中主要对不同视频类别的二分类模型的具体训练过程进行详细的解释说明。
可选的，本实施例中可以包括如下步骤：
S310，提取历史视频的历史特征向量，并确定历史视频的分类标签。
其中，历史视频为实际审核业务中已经确定审核类别的视频。具体的，在对各个二分类模型进行训练时，首先需要获取大量已经确定所属视频类别的历史视频，作为模型训练是的训练样本，并通过预先构建的特征提取网络来提取各个历史视频的历史特征向量，同时对历史视频的实际分类类别进行标注，得到各个历史视频的分类标签，该分类标签中包括各个历史视频实际所属的多个视频类别。
本实施例中针对二分类模型的训练要求不同，可以通过不同的方式提取历史视频的历史特征向量。可选的，提取历史视频的历史特征向量，具体可以包括：通过单个特征提取网络提取历史视频的历史特征向量；或者，通过两个或两个以上特征提取网络分别提取历史视频的历史特征向量。
具体的，在对不同视频类别的二分类模型的分类精度要求相差不大时，如图3A所示，可以通过单个特征提取网络提取历史视频的历史特征向量，此时将同一特征提取网络提取出的历史特征向量分别输入到不同视频类别的二分类模型中进行训练。
可选的，由于实际审核业务中，不同视频类别的待审核视频的差异可能较大，某些视频类别的待审核视频出现频率较高，此时的分类精度对审核效果影响很大；而一些类别的待审核视频出现频率较低，此时的分类精度对审核效果影响较小，因此针对不同视频类别的二分类模型对待审核视频的分类精度要求不同，可以通过不同的特征提取网络中提取不同精度的特征向量，从而相对调整不同视频类别的二分类模型的规模，如图3B所示，使得对审核效果影响较大的二分类模型使用较大规模的网络，此时分类精度高，特征处理的计算量大；对审核效果影响较小的二分类模型使用较小规模的网络，此时分类精度低，特征处理的计算量小。此时通过为不同视频类别的二分类模型分别设定对应的特征提取网络，从而通过两个或两个以上的特征提取网络分别提取历史视频的历史特征向量，从而训练具有不同分类精度要求的不同视频类别的二分类模型。
S320，将历史特征向量分别输入不同视频类别的学习模型中，得到历史视频在对应视频类别下的分类得分。
具体的，在提取到历史视频的历史特征向量时，可以将该历史特征向量分别输入对应的不同视频类别的学习模型中，该学习模型为对应预先设定参数的二分类模型；此时各个学习模型对该历史视频的历史特征向量进行不同的分析，从而分别判断历史视频与各个学习模型的对应视频类别下所包含该视频类别的相应视频之间的区别程度，进而根据各个学习模型分析出的区别程度确定该历史视频在各个学习模型的对应视频类别下的分类得分，后续根据该分类得分判断该历史视频是否属于对应的视频类别。
S330，根据历史视频在对应视频类别下的分类得分和对应的分类阈值，确定历史视频的审核类别。
具体的，在得到历史视频在对应视频类别下的分类得分时，可以将该历史视频在对应视频类别下的分类得分分别与预先设定的对应视频类别下的分类阈值进行比对，此时如果历史视频在各个学习模型的对应视频类别下的分类得分大于等于对应的分类阈值，则说明该历史视频中存在对应视频类别下的违规内容，此时将该视频类别作为历史视频最终的审核类别的组成之一，对每一个学习模型中的分类阈值均与对应视频类别下的分类得分进行比对，得到该历史视频的审核类别中包括的多个视频类型。
S340，根据历史视频的审核类别和分类标签确定不同视频类别下的分类损失，对不同视频类别的学习模型进行修正，并获取新的历史视频，直至不同视频类别下的分类损失低于预设损失阈值，则将对应视频类别的学习模型作为该视频类别的二分类模型。
具体的，在将各个历史视频的历史特征向量输入到不同视频类别的学习模型中确定对应的分类得分时，需要根据各个学习模型的对应视频类别不同，而对历史视频的分类标签中各个视频类别对应位置处的标注信息进行重新调整，如某一历史视频为暴力类别和恐怖类别，在将该历史视频的历史特征向量输入暴力类别对应的二分类模型时，此时将分类标签中的暴力类别对应位置处的标注信息调整为“1”，而将恐怖类别对应位置处的标注信息调整为“0”，表示在暴力类别的二分类模型中暴力类别对应的分类标签为正样本，恐怖类别和其他类别对应的分类标签对负样本。在得到历史视频的审核类别时，该审核类别为预估值，可以将该预估值分别与各个学习模型中调整的分类标签进行比对，从而确定各个学习模型在不同视频类别下对历史视频的分类类别进行预测的分类损失，该分类损失可以明确表明当前训练的各个学习模型针对该对应视频类型的分类准确程度。可选的，可以采用任一种现有的损失函数来判断本次训练的分类损失，对此不作限定。本实施例中采用交叉熵对历史视频在不同视频类别下的审核类别和分类标签进行判断，求取各个学习模型对应的分类损失。同时，本实施例中在得到分类损失后，还需要对不同视频类别的分类损失进行判断，若本次训练的对应视频类别下的分类损失超出预设损失阈值，说明本次训练的该对应视频类别的学习模型对视频审核的准确性还不高，需要再次进行训练；此时将本次训练得到的分类损失按照该学习模型训练过程进行反向传播，并根据该分类损失对不同视频类别的学习模型中的训练参数进行修正，从而不断调整各学习模型中的训练参数，不断提高各学习模型的分类准确度。同时，获取新的历史视频，通过修正后的不同视频类别的学习模型中的训练参数再次判断新的历史视频的审核类别，得到对该新的历史视频进行训练时确定不同视频类别下新的分类损失，依次循环，直至对应视频类别下的分类损失低于预设损失阈值，说明本次训练的对应视频类别下的学习模型对视频审核已经达到一定的准确性，无需对对应视频类别下的学习模型再次训练，此时将对应视频类别的学习模型作为该视频类别的二分类模型，对每一个视频类别的分类模型均进行同样的训练，直至不同视频类别下的分类损失均低于预设损失阈值，则将此时训练的不同视频类别的学习模型作为不同视频类别对应的二分类模型，以便后续对待审核视频进行准确审核。
本实施例提供的技术方案，通过将大量历史视频的历史特征向量分别输入到不同视频类别的学习模型中进行训练，构建能够对待审核视频中的不同视频类别均进行准确判定的多个二分类模型，从而实现多类型判定的视频审核，解决了通过单一的深度神经网络模型实现待审核视频的多类别判定时，训练过程复杂的问题，便于训练出更为准确的分类模型，提高了视频审核的准确性。
实施例四
图4A为本发明实施例四提供的一种视频审核的方法所适用的应用场景的场景架构图，图4B为本发明实施例四提供的视频审核过程的原理示意图。本实施例中主要以特定的应用场景对视频审核的具体过程进行详细描述。参照图4A，本实施例中包括视频审核终端40、用户终端41和人工审核平台42；视频审核终端40分别与用户终端41和人工审核平台42建立无线连接。
可选的，用户可以通过所在的用户终端41上传对应的待审核视频，在待审核视频在互联网中传播之前，视频审核终端40首先会获取用户终端41上用户新上传的待审核视频，并采用本发明实施例中提供的视频审核的方法对该待审核视频进行审核，通过不同视频类别的二分类模型得到该待审核视频在不同视频类别下的分类得分，此时如果待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，可以将该待审核视频和该视频类别发送给相应的人工审核平台42，由该人工审核平台42端的工作人员进一步对该待审核视频再次进行人工审核，从而确定该待审核视频的审核类别，并在人工审核完成后，由人工审核平台42将人工审核结果作为对应的反馈信息返回给视频审核终端40中，从而使该视频审核终端40判断该反馈信息中的人工审核的审核类别中是否应包括该视频类别，若是则将该视频类别作为该待审核视频的审核类别组成之一，直至得到包括待审核视频所属的全部视频类别的审核类别组成。本实施例中通过机器审核和人工审核相结合的方式，进一步提升视频审核的精确度。
具体的，参照图4B，视频审核终端40在对该待审核视频进行审核时，首先通过特征提取网络提取待审核视频的特征向量，并将该特征向量分别输入到不同视频类别的二分类模型中，分别输出待审核视频在对应视频类别下的分类得分，此时将待审核视频在对应视频类别下的分类得分与对应的分类阈值进行比对，如果待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为待审核视频的审核类别组成之一，直至得到该待审核视频在包含二分类模型中确定存在的视频类别的审核类别组成。
需要说明的是，本实施例中对于用户终端41的数量不作限定，根据上传视频的用户数量确定。
本实施例提供的技术方案，通过不同视频类别的二分类模型分别对待审核视频进行审核，从而根据对应视频类别下的分类得分确定待审核视频的审核类别中是否包含该视频类别，实现对待审核视频的多类别判定，由于通过多个不同视频类别的二分类模型对待审核视频进行分类，此时每个二分类模型相对单一的深度神经网络模型的规模较小，对分类能力的精度要求相对较低，解决了通过单一的深度神经网络模型实现待审核视频的多类别判定时，训练过程复杂的问题，便于训练出更为准确的分类模型，从而提高视频审核的准确性。
实施例五
图5为本发明实施例五提供的一种视频审核的装置的结构示意图，具体的，如图5所示，该装置可以包括：
特征向量提取模块510，用于提取待审核视频的特征向量；
分类得分确定模块520，用于将待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到待审核视频在对应视频类别下的分类得分；
审核类别确定模块530，用于如果待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到待审核视频的审核类别组成。
本实施例提供的技术方案，通过不同视频类别的二分类模型分别对待审核视频进行审核，从而根据对应视频类别下的分类得分确定待审核视频的审核类别中是否应包含该视频类别，实现对待审核视频的多类别判定，由于通过多个不同视频类别的二分类模型对待审核视频进行分类，此时每个二分类模型相对单一的深度神经网络模型的规模较小，对分类能力的精度要求相对较低，解决了通过单一的深度神经网络模型实现待审核视频的多类别判定时，训练过程复杂的问题，便于训练出更为准确的分类模型，从而提高视频审核的准确性。
进一步的，上述审核类别确定模块，可以包括人工审核单元和审核类别确定单元，其中：人工审核单元用于将待审核视频和该视频类别发送给人工审核平台；
审核类别确定单元用于如果收到人工审核平台对待审核视频的审核类别包括该视频类别的反馈，则该视频类别作为审核类别组成之一。
进一步的，上述特征向量提取模块510，具体可以用于：
通过单个特征提取网络提取待审核视频的特征向量；或者，通过两个或两个以上特征提取网络分别提取待审核视频的特征向量。
进一步的，上述分类阈值可以通过执行下述操作确定：获取历史审核周期内的历史视频和违规推送比例，并确定历史视频的分类标签；根据历史视频的分类标签分别确定不同视频类别的比重；根据违规推送比例和不同视频类别的比重，确定不同视频类别下的违规推送子比例；
提取历史视频的历史特征向量，并分别输入不同视频类别的二分类模型中，得到历史视频在对应视频类别下的分类得分；根据对应视频类别下的分类得分以及枚举的不同预设分类阈值确定历史视频在对应视频类别下的不同假正类率；选取与对应视频类别下的违规推送子比例相近的假正类率所对应的预设分类阈值，作为对应视频类别下的分类阈值。
进一步的，上述分类标签根据对应的人工标注信息确定。
进一步的，上述二分类模型可以通过执行下述操作构建：提取历史视频的历史特征向量，并确定历史视频的分类标签；将历史特征向量分别输入不同视频类别的学习模型中，得到历史视频在对应视频类别下的分类得分；根据历史视频在对应视频类别下的分类得分和对应的分类阈值，确定历史视频的审核类别；根据历史视频的审核类别和分类标签确定不同视频类别下的分类损失，对不同视频类别的学习模型进行修正，并获取新的历史视频，直至不同视频类别下的分类损失低于预设损失阈值，则将对应视频类别的学习模型作为该视频类别的二分类模型。
进一步的，上述二分类模型在构建过程中的历史特征向量可以通过下述步骤获取：
通过单个特征提取网络提取历史视频的历史特征向量；或者，通过两个或两个以上特征提取网络分别提取历史视频的历史特征向量。
本实施例提供的视频审核的装置可适用于上述任意实施例提供的视频审核的方法，具备相应的功能和有益效果。
实施例六
图6为本发明实施例六提供的一种设备的结构示意图，如图6所示，该设备包括处理器60、存储装置61和通信装置62；设备中处理器60的数量可以是一个或多个，图6中以一个处理器60为例；设备中的处理器60、存储装置61和通信装置62可以通过总线或其他方式连接，图6中以通过总线连接为例。
存储装置61作为一种计算机可读存储介质，可用于存储软件程序、计算机可执行程序以及模块，如本发明实施例中提供的视频审核的方法对应的程序指令/模块。处理器60通过运行存储在存储装置61中的软件程序、指令以及模块，从而执行设备的各种功能应用以及数据处理，即实现上述视频审核的方法。
存储装置61可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据终端的使用所创建的数据等。此外，存储装置61可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储装置61可进一步包括相对于处理器60远程设置的存储器，这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
通信装置62可用于实现设备间的网络连接或者移动数据连接。
本实施例提供的一种设备可用于执行上述任意实施例提供的视频审核的方法，具备相应的功能和有益效果。
实施例七
本发明实施例七还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时可实现上述任意实施例中的视频审核的方法。该方法具体可以包括：提取待审核视频的特征向量；将待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到待审核视频在对应视频类别下的分类得分；如果待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到待审核视频的审核类别组成。
当然,本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的视频审核的方法中的相关操作。
通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本发明可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
值得注意的是，上述视频审核的装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。
以上所述仅为本发明的优选实施例，并不用于限制本发明，对于本领域技术人员而言，本发明可以有各种改动和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种视频审核的方法，其特征在于，包括：
提取待审核视频的特征向量；
将所述待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到所述待审核视频在对应视频类别下的分类得分；
如果所述待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到所述待审核视频的审核类别组成。
2.根据权利要求1所述的方法，其特征在于，所述该视频类别作为审核类别组成之一，进一步满足如下条件：
将待审核视频和对应的视频类别发送给人工审核平台；
如果收到所述人工审核平台对所述待审核视频的审核类别包括该视频类别的反馈，则该视频类别作为审核类别组成之一。
3.根据权利要求1所述的方法，其特征在于，所述提取待审核视频的特征向量，包括：
通过单个特征提取网络提取所述待审核视频的特征向量；或者，
通过两个或两个以上特征提取网络分别提取所述待审核视频的特征向量。
4.根据权利要求1或2所述的方法，其特征在于，所述分类阈值通过执行下述操作确定：
获取历史审核周期内的历史视频和违规推送比例，并确定所述历史视频的分类标签；
根据所述历史视频的分类标签分别确定不同视频类别的比重；
根据所述违规推送比例和不同视频类别的比重，确定不同视频类别下的违规推送子比例；
提取所述历史视频的历史特征向量，并分别输入不同视频类别的二分类模型中，得到所述历史视频在对应视频类别下的分类得分；
根据对应视频类别下的分类得分以及枚举的不同预设分类阈值确定所述历史视频在对应视频类别下的不同假正类率；
选取与对应视频类别下的违规推送子比例相近的假正类率所对应的预设分类阈值，作为对应视频类别下的分类阈值。
5.根据权利要求4所述的方法，其特征在于，所述分类标签根据对应的人工标注信息确定。
6.根据权利要求1所述的方法，其特征在于，所述二分类模型通过执行下述操作构建：
提取历史视频的历史特征向量，并确定所述历史视频的分类标签；
将所述历史特征向量分别输入不同视频类别的学习模型中，得到所述历史视频在对应视频类别下的分类得分；
根据所述历史视频在对应视频类别下的分类得分和对应的分类阈值，确定所述历史视频的审核类别；
根据所述历史视频的审核类别和分类标签确定不同视频类别下的分类损失，对不同视频类别的学习模型进行修正，并获取新的历史视频，直至不同视频类别下的分类损失低于预设损失阈值，则将对应视频类别的学习模型作为该视频类别的二分类模型。
7.根据权利要求6所述的方法，其特征在于，所述提取历史视频的历史特征向量，包括：
通过单个特征提取网络提取所述历史视频的历史特征向量；或者，
通过两个或两个以上特征提取网络分别提取所述历史视频的历史特征向量。
8.一种视频审核的装置，其特征在于，包括：
特征向量提取模块，用于提取待审核视频的特征向量；
分类得分确定模块，用于将所述待审核视频的特征向量分别输入不同视频类别的二分类模型中，得到所述待审核视频在对应视频类别下的分类得分；
审核类别确定模块，用于如果所述待审核视频在对应视频类别下的分类得分大于等于对应的分类阈值，则该视频类别作为审核类别组成之一，直至得到所述待审核视频的审核类别组成。
9.一种设备，其特征在于，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的视频审核的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的视频审核的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811614979.6A CN109561322B (zh) | 2018-12-27 | 2018-12-27 | 一种视频审核的方法、装置、设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811614979.6A CN109561322B (zh) | 2018-12-27 | 2018-12-27 | 一种视频审核的方法、装置、设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109561322A true CN109561322A (zh) | 2019-04-02 |
| CN109561322B CN109561322B (zh) | 2021-06-15 |
Family
ID=65871639
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811614979.6A Active CN109561322B (zh) | 2018-12-27 | 2018-12-27 | 一种视频审核的方法、装置、设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109561322B (zh) |
Cited By (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110333886A (zh) * | 2019-07-02 | 2019-10-15 | 上海企创信息科技有限公司 | 一种审核程序迭代更新方法、装置、服务器及存储介质 |
| CN110740347A (zh) * | 2019-10-31 | 2020-01-31 | 北京金山云网络技术有限公司 | 视频内容检测系统、方法、装置、服务器及存储介质 |
| CN111090776A (zh) * | 2019-12-20 | 2020-05-01 | 广州市百果园信息技术有限公司 | 一种视频审核的方法、装置、审核服务器和存储介质 |
| CN111225234A (zh) * | 2019-12-23 | 2020-06-02 | 广州市百果园信息技术有限公司 | 视频审核方法、视频审核装置、设备和存储介质 |
| CN112016613A (zh) * | 2020-08-26 | 2020-12-01 | 广州市百果园信息技术有限公司 | 视频内容分类模型的训练方法、装置、计算机设备及介质 |
| CN112468842A (zh) * | 2020-12-09 | 2021-03-09 | 北京有竹居网络技术有限公司 | 一种直播审核方法及装置 |
| CN112579771A (zh) * | 2020-12-08 | 2021-03-30 | 腾讯科技（深圳）有限公司 | 一种内容的标题检测方法及装置 |
| EP3809668A1 (en) * | 2019-10-14 | 2021-04-21 | Sandvine Corporation | System and method for monitoring and managing video stream content |
| CN113010739A (zh) * | 2021-03-18 | 2021-06-22 | 北京奇艺世纪科技有限公司 | 一种视频标签审核方法、装置及电子设备 |
| WO2021237570A1 (zh) * | 2020-05-28 | 2021-12-02 | 深圳市欢太科技有限公司 | 影像审核方法及装置、设备、存储介质 |
| CN113946703A (zh) * | 2021-10-20 | 2022-01-18 | 天翼数字生活科技有限公司 | 一种图片漏检处理方法及其相关装置 |
| CN114302171A (zh) * | 2021-12-28 | 2022-04-08 | 新瑞鹏宠物医疗集团有限公司 | 视频审核方法、装置与存储介质 |
| WO2022083401A1 (zh) * | 2020-10-22 | 2022-04-28 | 百果园技术(新加坡)有限公司 | 资源审核模型的训练方法、装置、服务器和存储介质 |
| CN114760484A (zh) * | 2021-01-08 | 2022-07-15 | 腾讯科技（深圳）有限公司 | 直播视频识别方法、装置、计算机设备和存储介质 |
| US11461698B2 (en) * | 2018-07-09 | 2022-10-04 | Athene Noctua LLC | Integrated machine learning audiovisual application for a defined subject |
| CN117177012A (zh) * | 2023-06-09 | 2023-12-05 | 青岛尘元科技信息有限公司 | 视频播出监测方法、系统、设备及存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8510252B1 (en) * | 2007-12-07 | 2013-08-13 | Google, Inc. | Classification of inappropriate video content using multi-scale features |
| CN103838835A (zh) * | 2014-02-25 | 2014-06-04 | 中国科学院自动化研究所 | 一种网络敏感视频检测方法 |
| CN107205162A (zh) * | 2016-03-16 | 2017-09-26 | 阿里巴巴集团控股有限公司 | 视频识别方法及装置 |
| US20170289624A1 (en) * | 2016-04-01 | 2017-10-05 | Samsung Electrônica da Amazônia Ltda. | Multimodal and real-time method for filtering sensitive media |
| CN107729917A (zh) * | 2017-09-14 | 2018-02-23 | 北京奇艺世纪科技有限公司 | 一种标题的分类方法及装置 |
-
2018
- 2018-12-27 CN CN201811614979.6A patent/CN109561322B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8510252B1 (en) * | 2007-12-07 | 2013-08-13 | Google, Inc. | Classification of inappropriate video content using multi-scale features |
| CN103838835A (zh) * | 2014-02-25 | 2014-06-04 | 中国科学院自动化研究所 | 一种网络敏感视频检测方法 |
| CN107205162A (zh) * | 2016-03-16 | 2017-09-26 | 阿里巴巴集团控股有限公司 | 视频识别方法及装置 |
| US20170289624A1 (en) * | 2016-04-01 | 2017-10-05 | Samsung Electrônica da Amazônia Ltda. | Multimodal and real-time method for filtering sensitive media |
| CN107729917A (zh) * | 2017-09-14 | 2018-02-23 | 北京奇艺世纪科技有限公司 | 一种标题的分类方法及装置 |
Cited By (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11669777B2 (en) * | 2018-07-09 | 2023-06-06 | Athene Noctua LLC | Integrated machine learning audiovisual application for a defined subject |
| US20220414546A1 (en) * | 2018-07-09 | 2022-12-29 | Athene Noctua LLC | Integrated machine learning audiovisual application for a defined subject |
| US11461698B2 (en) * | 2018-07-09 | 2022-10-04 | Athene Noctua LLC | Integrated machine learning audiovisual application for a defined subject |
| CN110333886A (zh) * | 2019-07-02 | 2019-10-15 | 上海企创信息科技有限公司 | 一种审核程序迭代更新方法、装置、服务器及存储介质 |
| US11743195B2 (en) | 2019-10-14 | 2023-08-29 | Sandvine Corporation | System and method for monitoring and managing video stream content |
| EP3809668A1 (en) * | 2019-10-14 | 2021-04-21 | Sandvine Corporation | System and method for monitoring and managing video stream content |
| US11431638B2 (en) | 2019-10-14 | 2022-08-30 | Sandvine Corporation | System and method for monitoring and managing video stream content |
| CN110740347A (zh) * | 2019-10-31 | 2020-01-31 | 北京金山云网络技术有限公司 | 视频内容检测系统、方法、装置、服务器及存储介质 |
| CN111090776A (zh) * | 2019-12-20 | 2020-05-01 | 广州市百果园信息技术有限公司 | 一种视频审核的方法、装置、审核服务器和存储介质 |
| CN111225234A (zh) * | 2019-12-23 | 2020-06-02 | 广州市百果园信息技术有限公司 | 视频审核方法、视频审核装置、设备和存储介质 |
| WO2021237570A1 (zh) * | 2020-05-28 | 2021-12-02 | 深圳市欢太科技有限公司 | 影像审核方法及装置、设备、存储介质 |
| CN112016613A (zh) * | 2020-08-26 | 2020-12-01 | 广州市百果园信息技术有限公司 | 视频内容分类模型的训练方法、装置、计算机设备及介质 |
| WO2022083401A1 (zh) * | 2020-10-22 | 2022-04-28 | 百果园技术(新加坡)有限公司 | 资源审核模型的训练方法、装置、服务器和存储介质 |
| CN112579771A (zh) * | 2020-12-08 | 2021-03-30 | 腾讯科技（深圳）有限公司 | 一种内容的标题检测方法及装置 |
| CN112579771B (zh) * | 2020-12-08 | 2024-05-07 | 腾讯科技（深圳）有限公司 | 一种内容的标题检测方法及装置 |
| CN112468842A (zh) * | 2020-12-09 | 2021-03-09 | 北京有竹居网络技术有限公司 | 一种直播审核方法及装置 |
| CN114760484A (zh) * | 2021-01-08 | 2022-07-15 | 腾讯科技（深圳）有限公司 | 直播视频识别方法、装置、计算机设备和存储介质 |
| CN114760484B (zh) * | 2021-01-08 | 2023-11-07 | 腾讯科技（深圳）有限公司 | 直播视频识别方法、装置、计算机设备和存储介质 |
| CN113010739A (zh) * | 2021-03-18 | 2021-06-22 | 北京奇艺世纪科技有限公司 | 一种视频标签审核方法、装置及电子设备 |
| CN113010739B (zh) * | 2021-03-18 | 2024-01-26 | 北京奇艺世纪科技有限公司 | 一种视频标签审核方法、装置及电子设备 |
| CN113946703A (zh) * | 2021-10-20 | 2022-01-18 | 天翼数字生活科技有限公司 | 一种图片漏检处理方法及其相关装置 |
| CN113946703B (zh) * | 2021-10-20 | 2024-04-19 | 天翼视联科技有限公司 | 一种图片漏检处理方法及其相关装置 |
| CN114302171A (zh) * | 2021-12-28 | 2022-04-08 | 新瑞鹏宠物医疗集团有限公司 | 视频审核方法、装置与存储介质 |
| CN117177012A (zh) * | 2023-06-09 | 2023-12-05 | 青岛尘元科技信息有限公司 | 视频播出监测方法、系统、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109561322B (zh) | 2021-06-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109561322A (zh) | 一种视频审核的方法、装置、设备和存储介质 | |
| CN108921206B (zh) | 一种图像分类方法、装置、电子设备及存储介质 | |
| CN110147722A (zh) | 一种视频处理方法、视频处理装置及终端设备 | |
| CN111090776A (zh) | 一种视频审核的方法、装置、审核服务器和存储介质 | |
| CN109635292B (zh) | 基于机器学习算法的工单质检方法和装置 | |
| CN110956123B (zh) | 一种富媒体内容的审核方法、装置、服务器及存储介质 | |
| CN108416032A (zh) | 一种文本分类方法、装置及存储介质 | |
| CN112507167A (zh) | 一种识别视频合集的方法、装置、电子设备及存储介质 | |
| CN110968689A (zh) | 罪名及法条预测模型的训练方法以及罪名及法条预测方法 | |
| CN110442842A (zh) | 合同内容的提取方法及装置、计算机设备、存储介质 | |
| CN112182269B (zh) | 图像分类模型的训练、图像分类方法、装置、设备及介质 | |
| CN110619535B (zh) | 一种数据处理方法及其装置 | |
| CN110458600A (zh) | 画像模型训练方法、装置、计算机设备及存储介质 | |
| CN107704869B (zh) | 一种语料数据抽样方法及模型训练方法 | |
| CN112949459A (zh) | 吸烟图像的识别方法及装置、存储介质、电子设备 | |
| CN114648680A (zh) | 图像识别模型的训练方法、装置、设备、介质及程序产品 | |
| CN112446441A (zh) | 模型训练数据筛选方法、装置、设备及存储介质 | |
| CN117409419A (zh) | 图像检测方法、设备及存储介质 | |
| CN112308148A (zh) | 缺陷类别识别、孪生神经网络训练方法、装置及存储介质 | |
| CN105323763B (zh) | 一种垃圾短消息的识别方法及装置 | |
| CN112995690B (zh) | 直播内容品类识别方法、装置、电子设备和可读存储介质 | |
| CN113743522A (zh) | 违规行为的检测方法及装置、电子设备 | |
| CN109657710B (zh) | 数据筛选方法、装置、服务器及存储介质 | |
| CN110852064B (zh) | 关键句提取方法及装置 | |
| CN111404835A (zh) | 流量控制方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20211208 Address after: 31a, 15 / F, building 30, maple mall, bangrang Road, Brazil, Singapore Patentee after: Baiguoyuan Technology (Singapore) Co.,Ltd. Address before: 511400 floor 23-39, building B-1, Wanda Plaza North, Wanbo business district, 79 Wanbo 2nd Road, Nancun Town, Panyu District, Guangzhou City, Guangdong Province Patentee before: GUANGZHOU BAIGUOYUAN INFORMATION TECHNOLOGY Co.,Ltd. |