CN111783649A - 视频类型检测方法、装置、电子设备与存储介质 - Google Patents
视频类型检测方法、装置、电子设备与存储介质 Download PDFInfo
- Publication number
- CN111783649A CN111783649A CN202010617343.8A CN202010617343A CN111783649A CN 111783649 A CN111783649 A CN 111783649A CN 202010617343 A CN202010617343 A CN 202010617343A CN 111783649 A CN111783649 A CN 111783649A
- Authority
- CN
- China
- Prior art keywords
- video
- type
- key frames
- video type
- algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 42
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 75
- 230000004927 fusion Effects 0.000 claims abstract description 21
- 238000000034 method Methods 0.000 claims description 30
- 238000007635 classification algorithm Methods 0.000 claims description 25
- 230000015654 memory Effects 0.000 claims description 19
- 238000013145 classification model Methods 0.000 claims description 8
- 238000012549 training Methods 0.000 claims description 6
- 238000012795 verification Methods 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000004880 explosion Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/809—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/48—Matching video sequences
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
本申请公开了一种视频类型检测方法、装置、电子设备与存储介质，涉及计算机视觉领域。具体实现方案为：获取第一视频的N个关键帧，其中所述N为大于1的整数，所述第一视频的类型待检测；将所述N个关键帧的每一个分别通过第一视频类型对应的M个算法模型，获取所述N个关键帧的每一个对应的M个置信度分数，所述M为大于1的整数；根据所述N个关键帧的N×M个置信度分数，通过融合策略算法模型确定所述第一视频的置信度分数；以及将所述第一视频的置信度分数与所述第一视频类型对应的置信度分数阈值进行比较，以确定所述第一视频的类型是否为第一视频类型。
Description
技术领域
本申请实施例涉及计算机技术领域中的计算机视觉领域，尤其涉及一种视频类型检测方法、装置、电子设备与存储介质。
背景技术
随着互联网不断发展，互联网上出现的视频也越来越多，同时也会存在一些安全隐患，比如有一些恐怖主义将暴恐视频上传到互联网中进行宣传，容易给社会稳定造成较大的危害。因此有必要在海量的视频中对敏感视频进行分类和筛选，建立一个安全的网络环境。
发明内容
本申请提供了一种视频类型检测方法、装置、电子设备与存储介质。
根据本申请的第一方面，提供了一种视频类型检测方法，包括：
获取第一视频的N个关键帧，其中所述N为大于1的整数，所述第一视频的类型待检测；
将所述N个关键帧的每一个分别通过第一视频类型对应的M个算法模型，获取所述N个关键帧的每一个对应的M个置信度分数，所述M为大于1的整数；
根据所述N个关键帧的N×M个置信度分数，通过融合策略算法模型确定所述第一视频的置信度分数；以及
将所述第一视频的置信度分数与所述第一视频类型对应的置信度分数阈值进行比较，以确定所述第一视频的类型是否为第一视频类型。
根据本申请的第二方面，提供了一种视频类型检测装置，包括：
第一获取模块，用于获取第一视频的N个关键帧，其中所述N为大于1的整数，所述第一视频的类型待检测；
第二获取模块，用于将所述N个关键帧的每一个分别通过第一视频类型对应的M个算法模型，获取所述N个关键帧的每一个对应的M个置信度分数，所述M为大于1的整数；
确定模块，用于根据所述N个关键帧的N×M个置信度分数，通过融合策略算法模型确定所述第一视频的置信度分数；以及
比较模块，用于将所述第一视频的置信度分数与所述第一视频类型对应的置信度分数阈值进行比较，以确定所述第一视频的类型是否为第一视频类型。
根据本申请的第三方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上述本申请第一方面所述的方法。
根据本申请的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行如上述本申请第一方面所述的方法。
根据本申请的技术解决了现有技术中在进行视频类型检测时容易出现误判的问题，提高了视频类型检测的准确性。
应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是根据本申请实施例提供的视频类型检测方法适用的场景示意图；
图2是根据本申请实施例提供的视频类型检测方法的流程示意图；
图3是根据本申请另一个实施例提供的视频类型检测方法的流程示意图；
图4是根据本申请还一个实施例提供的视频类型检测方法实施例的流程示意图；
图5是根据本申请实施例提供的视频类型检测装置的模块结构图；
图6是用来实现本申请实施例的视频类型检测方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
随着互联网不断发展，互联网上出现的视频也越来越多，同时也会存在一些安全隐患，比如有一些恐怖主义将一些不良视频，如图1所示，包括涉政内容，暴恐内容，违禁内容等的视频，在互联网中流通，达到某种宣传效果，容易给社会稳定造成较大的危害。因此有必要在海量的视频中对该类视频进行分类和筛选，建立一个安全的网络环境。通常的，这些不良视频，例如暴恐视频，一般包含特定标识(logo)，如旗帜、杀人、血腥、爆炸、暴乱、暴恐人物等一种或者多种元素。
现有技术中，以检测暴恐视频为例，通常是，对于给定的一段视频，先对该视频进行关键帧抽取，得到一系列图像，然后用暴恐分类模型对每帧图像是否为暴恐图像进行分类，并用logo检测模型对每帧图像检测特定的暴恐logo和旗帜，得到每帧是否包含暴恐元素的结果。暴恐视频策略方案是设定一个固定的阈值，如果该视频中对于关键帧，采用暴恐分类模型或者logo检测模型检测的包含暴恐元素的结果的次数超过特定的分类阈值，则判定为该视频的类型为暴恐类型。然而使用该方法，对于短视频或者其他噪声视频(例如战争片、军事片等)，容易出现误判，准确率不高。并且该阈值通常是手动设置的，需要大量的时间来进行手动调参以获得一个合理的阈值，存在效率低下的问题。
考虑到上述问题，本申请提供一种视频类型检测方法、装置、电子设备与存储介质，应用于计算机技术领域中的计算机视觉处理领域，通过将待检测类型的视频进行关键帧抽取，并将关键帧通过待检测类型对应的所有算法模型(例如M个)，以确定关键帧的置信度分数，并根据关键帧的置信度分数通过融合策略算法模型确定待检测类型的视频的置信度分数，进而可以将待检测类型的置信度分数与某一视频类型对应的置信度分数阈值进行比较以确定该视频的类型是否为该视频类型，从而提高视频类型检测的准确性。
本申请实施例提供的视频类型检测方法，可以应用于对互联网上流传的不良视频(如暴恐视频，违禁视频等)进行检测，也可以应用于在视频上传至网络之前对其类型进行检测，以禁止不良视频上传至互联网。
图2是根据本申请实施例提供的视频类型检测方法的流程示意图，如图2所示，该方法包括以下步骤S201-S204。
S201：获取第一视频的N个关键帧，其中所述N为大于1的整数，所述第一视频的类型待检测。
在一些实施例中，对输入的第一视频可以采用快进动态图像专家组(fastforward moving picture experts group，FFMPEG)进行视频抽帧，以获取第一视频的N个关键帧。在一个实施例中，可以采用FFMPEG对第一视频进行等间隔抽帧，该间隔时间可以根据需要调整，例如可以以间隔为2s对第一视频进行等间隔抽帧。在一个实施例中，N的选取可以根据需要指定，例如可以为100。以间隔为2s对第一视频进行等间隔抽帧，直到抽取100个关键帧为止，当第一视频较短，抽取的帧不够100个时，其余帧可以用0填充。例如以间隔为2s对第一视频抽帧，仅抽取了50个帧，则剩余的50个帧用0填充。
S202：将所述N个关键帧的每一个分别通过第一视频类型对应的M个算法模型，获取所述N个关键帧的每一个对应的M个置信度分数，所述M为大于1的整数。
在一个实施例中，该第一视频类型可以包括以下之一：暴恐视频类型、涉政视频类型、违禁视频类型，但不限于此。M个分类算法模型可以包括分类算法模型、特征标识算法模型和特征人物算法模型，在一个实施例中分类算法模型可以包括粗分类算法模型和细分类算法模型。以第一视频类型为暴恐视频类型为例，M个算法模型可以包括4个算法模型：暴恐粗分类算法模型，暴恐细分类算法模型，暴恐特征标识算法模型和暴恐特征人物算法模型，相应的，每一个关键帧分别通过暴恐粗分类算法模型，暴恐细分类算法模型，暴恐特征标识算法模型和暴恐特征人物算法模型，可以得到4个置信度分数。
在一些实施例中，每一个关键帧通过每一个算法模型进行处理和归一化可以得到一个[0,1]之间的置信度分数。例如，将关键帧通过暴恐粗分类算法模型，得到的置信度分数为[0.6,0.4],其中0.6为正常分数，0.4为暴恐分数，用1-正常分数＝1-0.6＝0.4，作为该图像的暴恐粗分类的置信度分数。暴恐分数越高，代表该关键帧为暴恐的可能性越大。对于其他算法模型也是类似地，当通过暴恐细分类算法模型得到的置信度分数越高，代表该关键帧包含的暴恐要素(如血腥，爆炸火灾等)的可能性越大；当通过暴恐特征标识算法模型得到的置信度分数越高，代表该关键帧包含的暴恐标识(如旗帜等)的可能性越大；当通过暴恐特征人物算法模型得到的置信度分数越高，代表该关键帧包含的暴恐人物的可能性越大。
S203：根据所述N个关键帧的N×M个置信度分数，通过融合策略算法模型确定所述第一视频的置信度分数。
在一个实施例中，可以将步骤S202中获取的每个关键帧的M个置信度分数，即N×M个置信度分数，通过融合策略算法模型，确定第一视频的置信度分数。在一个实施例中，融合策略算法模型可以采用极端梯度提升(XGBOOST)分类器来确定第一视频的置信度的分数。
在一个实施例中，还可以为给所述M个算法模型分配相应的权重；相应的，所述步骤203，包括：
根据所述N个关键帧的N×M个置信度分数以及所述M个算法模型相应的权重，确定所述第一视频的置信度分数。
通过给每个算法模型分配不同的权重，例如可以给特征标识算法模型、特征人物算法模型等分配较高的权重，以进一步提高视频类型检测的准确性。
S204：将所述第一视频的置信度分数与所述第一视频类型对应的置信度分数阈值进行比较，以确定所述第一视频的类型是否为第一视频类型。
在一个实施例中，当所述第一视频的置信度分数高于所述第一视频类型对应的置信度分数阈值时，代表所述第一视频的类型为第一视频类型的可能性比较高，可以确定所述第一视频的类型为第一视频类型。例如，当第一视频类型为暴恐视频类型时，可以确定所述第一视频为暴恐视频。对于其他类型的视频，其确定方式是类似的，此处不再赘述。
图3是根据本申请另一个实施例提供的视频类型检测方法的流程示意图，如图3所示，该方法可以包括步骤301至步骤305。
步骤301，根据多个第二视频确定所述第一视频类型对应的置信度分数阈值，其中所述第二视频的类型为第一视频类型。
在一个实施例中，步骤301，可以包括：
获取每一个所述第二视频的N个关键帧；
将每一个所述第二视频的N个关键帧分别通过第一视频类型对应的M个算法模型，获得所述每一个所述第二视频的N个关键帧的每一个对应的M个置信度分数；以及
将每一个所述第二视频以及其对应的N×M个置信度分数分别输入所述融合策略算法模型进行训练和验证，以确定所述第一视频类型对应的置信度分数阈值。
对于每一个第二视频，确定其置信度分数的方式与确定第一视频的置信度分数的方式类似，可以参见前述相关步骤，此处不再赘述。
在一个实施例中，第一个视频类型对应的置信度分数阈值可以通过标注多个已知为第一视频类型的第二视频作为训练，对每一个第二视频关键帧为N，每个关键帧的置信度分数为M个，每个第二视频的N个关键帧对应的置信度分数长度固定为N×M，可以将每一个所述第二视频以及其对应的N×M个置信度分数分别输入所述融合策略算法模型进行训练和验证以确定所述第一视频类型对应的置信度分数阈值。在一个实施例中，融合策略算法模型可以采用XGBOOST作为分类器，采用自动调参机制，按照输入数据格式为一个第二视频一行特征(N×M个置信度分数)，将多个第二视频通过多行输入，进行训练和验证，让机器自动学习判定为第一视频类型(例如暴恐视频类型)的置信度分数阈值。
通过采用XGBOOST作为分类器，可以实现自动学习判定视频类型对应的置信度分数阈值，避免了手动调参，有助于提高视频类型检测的效率。
图4是根据本申请还一个实施例提供的视频类型检测方法实施例的流程示意图，如图4所示，该方法包括步骤401至步骤405，其中包含步骤4031至步骤4034。
步骤401，输入待检测类型的视频；
步骤402，对步骤401中输入的视频进行关键帧提取；
步骤4031，将提取的关键帧通过粗分类算法模型确定关键帧的第一置信度分数；
步骤4032，将提取的关键帧通过细分类算法模型确定关键帧的第二置信度分数；
步骤4033，将提取的关键帧通过特征标识算法模型确定关键帧的第三置信度分数；
步骤4034，将提取的关键帧通过特征人物算法模型确定关键帧的第四置信度分数；
步骤404，将第一置信度分数、第二置信度分数、第三置信度分数以及第四置信度分数通过融合策略算法模型确定待检测类型的视频的置信度分数，并根据置信度分数与相应阈值进行比较；以及
步骤405，根据置信度分数与相应阈值的比较结果，输出检测结果。
具体实现过程，可以参考前述方法实施例中的相关步骤的实现方式，此处不再赘述。
图5是根据本申请实施例提供的视频类型检测装置的模块结构图；如图5所示，该视频类型检测装置500，可以包括第一获取模块501，第二获取模块502，确定模块503和比较模块504，其中：
第一获取模块501，用于获取第一视频的N个关键帧，其中所述N为大于1的整数，所述第一视频的类型待检测；
第二获取模块502，用于将所述N个关键帧的每一个分别通过第一视频类型对应的M个算法模型，获取所述N个关键帧的每一个对应的M个置信度分数，所述M为大于1的整数；
确定模块503，用于根据所述N个关键帧的N×M个置信度分数，通过融合策略算法模型确定所述第一视频的置信度分数；以及
比较模块504，用于将所述第一视频的置信度分数与所述第一视频类型对应的置信度分数阈值进行比较，以确定所述第一视频的类型是否为第一视频类型。
所述第二获取模块502还用于：
根据多个第二视频确定所述第一视频类型对应的置信度分数阈值，其中所述第二视频的类型为第一视频类型。
所述第一获取模块501还用于获取每一个所述第二视频的N个关键帧；
所述第二获取模块502，还用于将每一个所述第二视频的N个关键帧分别通过第一视频类型对应的M个算法模型，获得所述每一个所述第二视频的N个关键帧的每一个对应的M个置信度分数；以及
所述确定模块503，还用于将每一个所述第二视频以及其对应的N×M个置信度分数分别输入所述融合策略算法模型进行训练和验证，以确定所述第一视频类型对应的置信度分数阈值。
在一个实施例中，所述融合策略算法模型采用极端梯度提升XGBOOST分类器进行训练和验证。
在一个实施例中，所述第一获取模块501，用于：
对所述第一视频进行等间隔采样，抽取所述N个关键帧。
在一个实施例中，所述第一获取模块501，用于：
以间隔为2秒对所述第一视频进行等间隔采样。
在一个实施例中，所述确定模块503，用于：
给所述M个算法模型分配相应的权重；
根据所述N个关键帧的N×M个置信度分数以及所述M个算法模型相应的权重，通过所述融合策略算法模型确定所述第一视频的置信度分数。
在一个实施例中，所述M个分类算法模型，包括：分类模型算法、特征标识算法模型和特征人物算法模型。
在一个实施例中，所述分类模型算法，包括：粗分类算法模型和细分类算法模型。
在一个实施例中，所述第一视频类型包括以下之一：暴恐视频类型、涉政视频类型、违禁视频类型。
本申请实施例所提供的视频类型检测装置，其实现原理和技术效果与前述方法实施例类似，具体不再赘述。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图6所示，是根据本申请实施例的视频类型检测方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的视频类型检测方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的视频类型检测方法。
存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的视频类型检测方法对应的程序指令/模块(例如，附图5所示的第一获取模块501、第二获取模块502、确定模块503和比较模块504)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的视频类型检测方法。
存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据用于视频类型检测方法的电子设备的使用所创建的数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至用于视频类型检测的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
用于视频类型检测方法的电子设备还可以包括：输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接，图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息，以及产生与用于视频类型检测方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算机程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算机程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案，通过将待检测类型的视频进行关键帧抽取，并将关键帧通过待检测类型对应的所有算法模型(例如粗分类算法模型、细分类算法模型、特征标识算法模型和特征人物算法模型)，以确定关键帧的置信度分数，并根据关键帧的置信度分数通过融合策略算法模型确定待检测类型的视频的置信度分数，进而可以将待检测类型的置信度分数与某一视频类型对应的置信度分数阈值进行比较以确定该视频的类型是否为该视频类型，从而提高视频类型检测的准确性。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (22)
1.一种视频类型检测方法，包括：
获取第一视频的N个关键帧，其中所述N为大于1的整数，所述第一视频的类型待检测；
将所述N个关键帧的每一个分别通过第一视频类型对应的M个算法模型，获取所述N个关键帧的每一个对应的M个置信度分数，所述M为大于1的整数；
根据所述N个关键帧的N×M个置信度分数，通过融合策略算法模型确定所述第一视频的置信度分数；以及
将所述第一视频的置信度分数与所述第一视频类型对应的置信度分数阈值进行比较，以确定所述第一视频的类型是否为第一视频类型。
2.根据权利要求1所述的方法，还包括：
根据多个第二视频确定所述第一视频类型对应的置信度分数阈值，其中所述第二视频的类型为第一视频类型。
3.根据权利要求2所述的方法，其中所述根据多个第二视频确定所述第一视频类型对应的置信度分数阈值，包括：
获取每一个所述第二视频的N个关键帧；
将每一个所述第二视频的N个关键帧分别通过第一视频类型对应的M个算法模型，获得所述每一个所述第二视频的N个关键帧的每一个对应的M个置信度分数；以及
将每一个所述第二视频以及其对应的N×M个置信度分数分别输入所述融合策略算法模型进行训练和验证，以确定所述第一视频类型对应的置信度分数阈值。
4.根据权利要求3所述的方法，其中，所述融合策略算法模型采用极端梯度提升XGBOOST分类器进行训练和验证。
5.根据权利要求1所述的方法，其中所述获取第一视频的N个关键帧，包括：
对所述第一视频进行等间隔采样，抽取所述N个关键帧。
6.根据权利要求5所述的方法，其中所述对所述第一视频进行等间隔采样包括：
以间隔为2秒对所述第一视频进行等间隔采样。
7.根据权利要求1所述的方法，还包括：
给所述M个算法模型分配相应的权重；
所述根据所述N个关键帧的N×M个置信度分数，通过所述融合策略算法模型确定所述第一视频的置信度分数，包括：
根据所述N个关键帧的N×M个置信度分数以及所述M个算法模型相应的权重，确定所述第一视频的置信度分数。
8.根据权利要求1所述的方法，其中所述M个分类算法模型，包括：分类模型算法、特征标识算法模型和特征人物算法模型。
9.根据权利要求8所述的方法，其中所述分类模型算法，包括：粗分类算法模型和细分类算法模型。
10.根据权利要求1所述的方法，其中所述第一视频类型包括以下之一：暴恐视频类型、涉政视频类型、违禁视频类型。
11.一种视频类型检测装置，包括：
第一获取模块，用于获取第一视频的N个关键帧，其中所述N为大于1的整数，所述第一视频的类型待检测；
第二获取模块，用于将所述N个关键帧的每一个分别通过第一视频类型对应的M个算法模型，获取所述N个关键帧的每一个对应的M个置信度分数，所述M为大于1的整数；
确定模块，用于根据所述N个关键帧的N×M个置信度分数，通过融合策略算法模型确定所述第一视频的置信度分数；以及
比较模块，用于将所述第一视频的置信度分数与所述第一视频类型对应的置信度分数阈值进行比较，以确定所述第一视频的类型是否为第一视频类型。
12.根据权利要求11所述的装置，其中所述第二获取模块还用于：
根据多个第二视频确定所述第一视频类型对应的置信度分数阈值，其中所述第二视频的类型为第一视频类型。
13.根据权利要求12所述的装置，其中所述第一获取模块还用于获取每一个所述第二视频的N个关键帧；
所述第二获取模块，还用于将每一个所述第二视频的N个关键帧分别通过第一视频类型对应的M个算法模型，获得所述每一个所述第二视频的N个关键帧的每一个对应的M个置信度分数；以及
所述确定模块，还用于将每一个所述第二视频以及其对应的N×M个置信度分数分别输入所述融合策略算法模型进行训练和验证，以确定所述第一视频类型对应的置信度分数阈值。
14.根据权利要求13所述的装置，其中，所述融合策略算法模型采用极端梯度提升XGBOOST分类器进行训练和验证。
15.根据权利要求11所述的装置，其中所述第一获取模块，用于：
对所述第一视频进行等间隔采样，抽取所述N个关键帧。
16.根据权利要求15所述的装置，其中所述第一获取模块，用于：
以间隔为2秒对所述第一视频进行等间隔采样。
17.根据权利要求11所述的装置，所述确定模块，用于：
给所述M个算法模型分配相应的权重；
根据所述N个关键帧的N×M个置信度分数以及所述M个算法模型相应的权重，通过所述融合策略算法模型确定所述第一视频的置信度分数。
18.根据权利要求11所述的装置，其中所述M个分类算法模型，包括：分类模型算法、特征标识算法模型和特征人物算法模型。
19.根据权利要求18所述的装置，其中所述分类模型算法，包括：粗分类算法模型和细分类算法模型。
20.根据权利要求11所述的装置，其中所述第一视频类型包括以下之一：暴恐视频类型、涉政视频类型、违禁视频类型。
21.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-10中任一项所述的方法。
22.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-10中任一项所述的方法。
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010617343.8A CN111783649B (zh) | 2020-06-30 | 2020-06-30 | 视频类型检测方法、装置、电子设备与存储介质 |
| US17/124,542 US11544927B2 (en) | 2020-06-30 | 2020-12-17 | Video type detection method and apparatus based on key frame, and storage medium |
| JP2020212520A JP7164588B2 (ja) | 2020-06-30 | 2020-12-22 | 映像タイプの検出方法、装置、電子機器、記憶媒体及びコンピュータプログラム |
| KR1020210041410A KR102503201B1 (ko) | 2020-06-30 | 2021-03-30 | 비디오 타입 검출 방법, 장치, 전자기기 및 저장매체 |
| EP21176585.4A EP3905122B1 (en) | 2020-06-30 | 2021-05-28 | Video type detection method, apparatus, electronic device and storage medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010617343.8A CN111783649B (zh) | 2020-06-30 | 2020-06-30 | 视频类型检测方法、装置、电子设备与存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111783649A true CN111783649A (zh) | 2020-10-16 |
| CN111783649B CN111783649B (zh) | 2024-01-23 |
Family
ID=72760418
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010617343.8A Active CN111783649B (zh) | 2020-06-30 | 2020-06-30 | 视频类型检测方法、装置、电子设备与存储介质 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US11544927B2 (zh) |
| EP (1) | EP3905122B1 (zh) |
| JP (1) | JP7164588B2 (zh) |
| KR (1) | KR102503201B1 (zh) |
| CN (1) | CN111783649B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113191205A (zh) * | 2021-04-03 | 2021-07-30 | 国家计算机网络与信息安全管理中心 | 一种识别视频中特殊场景、物体、人物和噪声因素的方法 |
| CN113221690A (zh) * | 2021-04-28 | 2021-08-06 | 上海哔哩哔哩科技有限公司 | 视频分类方法及装置 |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114445896B (zh) * | 2022-01-28 | 2024-04-05 | 北京百度网讯科技有限公司 | 视频中人物陈述内容可置信度的评估方法及装置 |
| CN114697761B (zh) * | 2022-04-07 | 2024-02-13 | 脸萌有限公司 | 一种处理方法、装置、终端设备及介质 |
| CN115652003B (zh) * | 2022-09-06 | 2024-01-09 | 中南大学 | 一种基于两阶段分类的高炉堵铁口时间在线监测方法及系统 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140177733A1 (en) * | 2012-12-20 | 2014-06-26 | Hulu, LLC | Keyframe Alignment for Encoding Video at Multiple Bitrates |
| CN111090778A (zh) * | 2019-12-26 | 2020-05-01 | 北京百度网讯科技有限公司 | 一种图片生成方法、装置、设备及存储介质 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| AU2007345938B2 (en) * | 2007-02-01 | 2011-11-10 | Briefcam, Ltd. | Method and system for video indexing and video synopsis |
| CN103299324B (zh) * | 2010-11-11 | 2016-02-17 | 谷歌公司 | 使用潜在子标记来学习用于视频注释的标记 |
| WO2019191002A1 (en) * | 2018-03-26 | 2019-10-03 | Nvidia Corporation | Object movement behavior learning |
| CN110334689B (zh) | 2019-07-16 | 2022-02-15 | 北京百度网讯科技有限公司 | 视频分类方法和装置 |
| CN111090776B (zh) | 2019-12-20 | 2023-06-30 | 广州市百果园信息技术有限公司 | 一种视频审核的方法、装置、审核服务器和存储介质 |
-
2020
- 2020-06-30 CN CN202010617343.8A patent/CN111783649B/zh active Active
- 2020-12-17 US US17/124,542 patent/US11544927B2/en active Active
- 2020-12-22 JP JP2020212520A patent/JP7164588B2/ja active Active
-
2021
- 2021-03-30 KR KR1020210041410A patent/KR102503201B1/ko active IP Right Grant
- 2021-05-28 EP EP21176585.4A patent/EP3905122B1/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140177733A1 (en) * | 2012-12-20 | 2014-06-26 | Hulu, LLC | Keyframe Alignment for Encoding Video at Multiple Bitrates |
| CN111090778A (zh) * | 2019-12-26 | 2020-05-01 | 北京百度网讯科技有限公司 | 一种图片生成方法、装置、设备及存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| PHIVOS MYLONAS等: "Using Visual Context and Region Semantics for High-Level Concept Detection", 《IEEE TRANSACTIONS ON MULTIMEDIA》 * |
| 宋伟;杨培;于京;姜薇;: "基于视觉语义概念的暴恐视频检测", 信息网络安全, no. 09 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113191205A (zh) * | 2021-04-03 | 2021-07-30 | 国家计算机网络与信息安全管理中心 | 一种识别视频中特殊场景、物体、人物和噪声因素的方法 |
| CN113221690A (zh) * | 2021-04-28 | 2021-08-06 | 上海哔哩哔哩科技有限公司 | 视频分类方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| US11544927B2 (en) | 2023-01-03 |
| EP3905122A3 (en) | 2021-12-22 |
| KR102503201B1 (ko) | 2023-02-23 |
| JP2021064385A (ja) | 2021-04-22 |
| US20210192218A1 (en) | 2021-06-24 |
| KR20210042284A (ko) | 2021-04-19 |
| EP3905122A2 (en) | 2021-11-03 |
| JP7164588B2 (ja) | 2022-11-01 |
| EP3905122B1 (en) | 2023-06-07 |
| CN111783649B (zh) | 2024-01-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111783649A (zh) | 视频类型检测方法、装置、电子设备与存储介质 | |
| CN112560912B (zh) | 分类模型的训练方法、装置、电子设备和存储介质 | |
| CN111107392B (zh) | 视频处理方法、装置和电子设备 | |
| JP2020513127A (ja) | 環境センサデータを用いる効率的な画像解析 | |
| CN111753701B (zh) | 应用程序的违规检测方法、装置、设备和可读存储介质 | |
| US20180130194A1 (en) | Processing images froma a gaze tracking device to provide location information for tracked entities | |
| WO2021041176A1 (en) | Shuffle, attend, and adapt: video domain adaptation by clip order prediction and clip attention alignment | |
| CN111767858A (zh) | 图像识别方法、装置、设备和计算机存储介质 | |
| CN111967493B (zh) | 图像审核方法、装置、电子设备和存储介质 | |
| CN111178323B (zh) | 基于视频的群体行为识别方法、装置、设备及存储介质 | |
| CN110717933B (zh) | 针对运动物体漏检的后处理方法、装置、设备和介质 | |
| CN111783639A (zh) | 图像检测方法、装置、电子设备及可读存储介质 | |
| CN112560772B (zh) | 人脸的识别方法、装置、设备及存储介质 | |
| CN111626956A (zh) | 图像去模糊方法和装置 | |
| CN111738263A (zh) | 目标检测方法、装置、电子设备及存储介质 | |
| CN111967490A (zh) | 用于地图检测的模型训练方法和地图检测方法 | |
| CN111984825A (zh) | 用于搜索视频的方法和装置 | |
| CN112001265A (zh) | 视频事件识别方法、装置、电子设备及存储介质 | |
| CN111444819B (zh) | 切割帧确定方法、网络训练方法、装置、设备及存储介质 | |
| CN112016521A (zh) | 视频处理的方法及装置 | |
| CN111949820B (zh) | 视频关联兴趣点的处理方法、装置及电子设备 | |
| CN112949467A (zh) | 人脸检测方法、装置、电子设备和存储介质 | |
| CN112329732A (zh) | 模型生成方法、装置、电子设备及存储介质 | |
| CN111783644A (zh) | 检测方法、装置、设备和计算机存储介质 | |
| CN112508830B (zh) | 图像处理模型的训练方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |