CN110191356A - 视频审核方法、装置和电子设备 - Google Patents
视频审核方法、装置和电子设备 Download PDFInfo
- Publication number
- CN110191356A CN110191356A CN201910493540.0A CN201910493540A CN110191356A CN 110191356 A CN110191356 A CN 110191356A CN 201910493540 A CN201910493540 A CN 201910493540A CN 110191356 A CN110191356 A CN 110191356A
- Authority
- CN
- China
- Prior art keywords
- picture frame
- pending picture
- target object
- pending
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000012545 processing Methods 0.000 claims abstract description 51
- 238000012550 audit Methods 0.000 claims abstract description 19
- 230000008859 change Effects 0.000 claims description 11
- 230000001052 transient effect Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 241001465754 Metazoa Species 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000005611 electricity Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012552 review Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000005291 magnetic effect Effects 0.000 description 2
- 208000001491 myopia Diseases 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 208000003464 asthenopia Diseases 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000004218 nerve net Anatomy 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本公开公开一种视频审核方法、装置和电子设备。其中，该视频审核方法包括：获取待审核图像帧；识别所述待审核图像帧中的目标对象；根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。本公开实施例的视频审核方法中，预先对待审核视频进行目标对象的识别，并根据目标对象对待审核图像帧进行预设处理后再输出给审核人员，通过这种方式能够提醒审核人员待审核图像帧中存在目标对象，防止审核人员由于一些特殊情况而忽略掉待审核图像帧中的重要内容，并且能够加快审核速度，一定程度上能够减少审核工作量。
Description
技术领域
本公开涉及图像处理领域，特别是涉及一种视频审核方法、装置和电子设备。
背景技术
目前短视频内容繁多，需要对短视频的内容进行审核以对视频内容进行监管。然而，现在的审核一般是机器审核结合人工审核，一般机器审核之后分类出来的问题视频，会转到人工审核并打标签，人工审核时一般是对一个视频抽取关键帧，审核人员通过观看关键帧，对关键帧打标签，确定视频是否违规。然而，通常情况每个视频都需要抽取8个关键帧，审核人员需要逐一审核8帧图片并打标签，由于审核人员无法知道图片的违规种类，因此需要仔细观察图片之后再打标签，费时费力，而在长时间进行审核的状态下，容易漏掉违规视频。
因此亟需一种速度快、对能节省审核人力成本的视频审核方法。
发明内容
根据本公开的一个方面，提供以下技术方案：
一种视频审核方法，包括：
获取待审核图像帧；
识别所述待审核图像帧中的目标对象；
根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。
进一步的，所述获取待审核图像帧，包括：
从待审核视频中获取关键帧，将所述关键帧作为所述待审核图像帧。
进一步的，所述识别所述待审核图像帧中的目标对象，包括：
利用预先训练好的目标识别模型识别所述待审核图像帧中的像素属于所述目标对象的概率。
进一步的，根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，包括：
根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，并输出处理后的所述待审核图像帧。
进一步的，根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，包括：
根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色。
进一步的，根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色，包括：
根据所述概率生成与所述待审核图像帧对应的热力图；其中，所述热力图中像素的颜色与所述概率相关；
将所述热力图叠加在所述待审核图像帧上。
进一步的，所述热力图中像素的颜色值与所述概率成正比。
进一步的，根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，包括：
在所述待审核图像帧中使用外接框标识出所述概率大于预设阈值的像素，并输出标识有所述外接框的所述待审核图像帧。
进一步的，根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，包括
在所述待审核图像帧中高亮显示所述概率大于预设阈值的像素，并输出高亮显示所述像素的所述待审核图像帧。
进一步的，所述方法还包括：
接收对处理后的所述待审核图像帧的审核结果。
根据本公开的另一个方面，还提供以下技术方案：
一种视频审核装置，包括：
获取模块，用于获取待审核图像帧；
识别模块，用于识别所述待审核图像帧中的目标对象；
处理模块，用于根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。
进一步的，所述获取模块，包括：
获取子模块，用于从待审核视频中获取关键帧，将所述关键帧作为所述待审核图像帧。
进一步的，所述识别模块，包括：
识别子模块，用于利用预先训练好的目标识别模型识别所述待审核图像帧中的像素属于所述目标对象的概率。
进一步的，所述处理模块，包括：
处理子模块，用于根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，并输出处理后的所述待审核图像帧。
进一步的，所述处理子模块，包括：
改变子模块，用于根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色。
进一步的，所述改变子模块，包括：
生成子模块，用于根据所述概率生成与所述待审核图像帧对应的热力图；其中，所述热力图中像素的颜色与所述概率相关；
叠加子模块，用于将所述热力图叠加在所述待审核图像帧上。
进一步的，所述热力图中像素的颜色值与所述概率成正比。
进一步的，所述处理模块，包括：
标识子模块，用于在所述待审核图像帧中使用外接框标识出所述概率大于预设阈值的像素，并输出标识有所述外接框的所述待审核图像帧。
进一步的，所述处理模块，包括
高亮显示子模块，用于在所述待审核图像帧中高亮显示所述概率大于预设阈值的像素，并输出高亮显示所述像素的所述待审核图像帧。
进一步的，所述视频审核装置还包括：
接收模块，用于接收对处理后的所述待审核图像帧的审核结果。
根据本公开的又一个方面，还提供以下技术方案：
一种电子设备，包括：存储器，用于存储非暂时性计算机可读指令；以及处理器，用于运行所述计算机可读指令，使得所述处理器执行时实现上述任一方法中所述的步骤。
根据本公开的又一个方面，还提供以下技术方案：
一种计算机可读存储介质，用于存储非暂时性计算机可读指令，当所述非暂时性计算机可读指令由计算机执行时，使得所述计算机执行上述任一方法中所述的步骤。
本公开公开一种视频审核方法、装置和电子设备。其中，该视频审核方法包括：获取待审核图像帧；识别所述待审核图像帧中的目标对象；根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。本公开实施例的视频审核方法中，预先对待审核视频进行目标对象的识别，并根据目标对象对待审核图像帧进行预设处理后再输出给审核人员，通过这种方式能够提醒审核人员待审核图像帧中存在目标对象，防止审核人员由于一些特殊情况而忽略掉待审核图像帧中的重要内容，并且能够加快审核速度，一定程度上能够减少审核工作量。
上述说明仅是本公开技术方案的概述，为了能更清楚了解本公开的技术手段，而可依照说明书的内容予以实施，并且为让本公开的上述和其他目的、特征和优点能够更明显易懂，以下特举较佳实施例,并配合附图，详细说明如下。
附图说明
图1为根据本公开一个实施例的视频审核方法的流程示意图；
图2为根据本公开一个实施例的目标对象颜色改变部分的流程示意图；
图3为根据本公开一个实施例的视频审核装置的结构示意图；
图4为根据本公开实施例提供的电子设备的结构示意图。
具体实施方式
以下通过特定的具体实例说明本公开的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本公开的精神下进行各种修饰或改变。需说明的是，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
需要说明的是，下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见，本文中所描述的方面可体现于广泛多种形式中，且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开，所属领域的技术人员应了解，本文中所描述的一个方面可与任何其它方面独立地实施，且可以各种方式组合这些方面中的两者或两者以上。举例来说，可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外，可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是，以下实施例中所提供的图示仅以示意方式说明本公开的基本构想，图式中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制，其实际实施时各组件的型态、数量及比例可为一种随意的改变，且其组件布局型态也可能更为复杂。
另外，在以下描述中，提供具体细节是为了便于透彻理解实例。然而，所属领域的技术人员将理解，可在没有这些特定细节的情况下实践所述方面。
本公开实施例提供一种视频审核方法。本实施例提供的该视频审核方法可以由一计算装置来执行，该计算装置可以实现为软件，或者实现为软件和硬件的组合，该计算装置可以集成设置在服务器、终端设备等中。如图1所示，该视频审核方法主要包括如下步骤S101至步骤S103。其中：
步骤S101：获取待审核图像帧；
在本公开实施例中，待审核图像帧可以是从待审核视频中截取的图像帧，待审核视频可以是上传到任何线上平台的短视频，或者直播用户在直播平台上正在直播的视频流。随着互联网技术的发展，网络上发布的视频资源越来越丰富，尤其近两年视频直播也越来越多，鉴于视频监管及审核的要求，视频直播的识别及审核规格较为严格，如果由于平台审核疏漏，导致违规视频被发布出来，有可能会影响到平台的正常运营。因此对于相关的平台而言，视频审核工作极为重要。
在视频审核过程中，可以从待审核视频中截取一些图像帧，并将其存储为待审核图像帧，进而由机器和/或人工方式对待审核图像帧进行审核。对待审核图像帧进行审核的主要目的是确定待审核视频中是否存在暴力、色情等违规内容，如果发现违规内容，则可以禁封该待审核视频。
在本公开实施例一可选的实现方式中，步骤S101中获取待审核图像帧的步骤，还可以包括以下步骤：
从待审核视频中获取关键帧，将所述关键帧作为所述待审核图像帧。
该可选的实现方式中，待审核图像帧可以是从待审核视频中截取的关键帧。本领域技术人员都知道，视频由多个连续的GOP(画面组)构成，而一个GOP可以包括一个关键帧I、多个非关键帧P和B，I帧是一个完整的画面，而P帧和B帧记录的是相对于I帧的变化，没有I帧，P帧和B帧就无法解码。如果从待审核视频中获取到的是关键帧I，则可以直接输出，而如果获取的是帧或B帧，则还需要根据就近获得的I帧对P帧或B帧进行解码。因此，为了加快审核速度，降低审核成本，可以从待审核视频中直接获取关键帧I进行审核。
当然可以理解的是，在不考虑审核速度和成本的情况下，也可以从待审核视频中获取非关键帧进行审核，具体可以根据实际情况而定，在此不做限制。
步骤S102：识别所述待审核图像帧中的目标对象；
在本公开实施例中，目标对象可以是待审核图像帧中除了背景图像之外的前景目标，如人、车辆、动物等。目标对象的识别可以利用已有的目标检测方法，本公开实施例中所要识别的目标对象可以是特定的目标对象，例如利用预先训练好的目标识别模型识别已知类型的目标对象，如人、车辆、动物等目标对象，本公开实施例中所要识别的目标对象也可以不是特定的目标对象，例如可以通过常用的目标检测方法检测出非背景的前景目标，包括运动目标对象(例如人、动物、车辆等)和/或静止目标(如建筑物、树木等)，具体识别的目标对象可以根据所要进行审核的视频以及审核要求等实际情况而定，在此不做限制。
在本公开实施例一可选的实现方式中，步骤S102中识别所述待审核图像帧中的目标对象的步骤，还可以包括以下步骤：
利用预先训练好的目标识别模型识别所述待审核图像帧中的像素属于所述目标对象的概率。
该可选的实现方式中，可以预先训练得到目标识别模型，而该目标识别模型能够识别出待审核图像帧中属于目标对象的像素的概率。目标识别模型可以选用神经网络等人工智能模型，并且通过收集样本数据对选取的该人工智能模型进行训练得到。
例如，目标识别模型可以选用已知的神经网络，假如该目标识别模型的任务是用于识别待审核图像中的人、车辆或动物等特定目标对象，并输出属于该特定目标对象的像素的概率，那么所要收集的样本数据可以包括多个样本图像以及每个样本图像的标签，该标签用于标识属于人、车辆或动物等特定目标对象的像素；在训练过程中，可以将样本图像输入至神经网络，并通过比较神经网络的输出与该样本图像对应的标签，进而调整神经网络中的网络参数；经过多个样本图像的多轮训练，直到训练次数达到预定次数或者网络参数收敛，则可以停止训练，此时得到的神经网络的网络参数即为训练好的目标识别模型的模型参数。在审核过程中，获取到待审核图像帧之后，可以将该待审核图像帧输入至目标识别模型中，目标识别模型采用上述训练得到的模型参数及内部处理对待审核图像帧进行处理后，输出该待审核图像帧中的像素属于人、车辆或动物等目标对象的概率。例如，待审核图像帧中包括人，那么该目标识别模型的输出结果中该人所在区域的像素属于目标对象的概率较大，越接近人体中心的像素对应的概率越大，而越处于人体边缘的像素对应的概括可能越小，而其他区域属于目标对象的概率可能为0或者非常小。
步骤S103：根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。
在本公开实施例中，识别出待审核图像帧中的目标对象后，可以根据目标对象对待审核图像帧进行预设处理，并将处理后的待审核图像帧输出给审核人员。预设处理可以是能够将待审核图像中的目标对象以醒目的方式标识出来的处理，例如高亮显示目标对象所在的区域，或者用线条圈出目标对象所在的区域等。
审核人员对于待审核图象帧的审核过程通常是逐帧进行观看的方式。本公开实施例通过识别待审核图像帧中的目标对象，并根据目标对象对待审核图像帧中进行预设处理后，使得审核人员能够更加快速而直观地看到待审核图像帧中的目标对象。例如，根据目标对象对待审核图像帧的预设处理可以是高亮显示待审核视频帧中的目标对象，通过这种方式可以提醒审核人员当前的待审核图像帧中存在目标对象，避免由于目标对象在待审核图像帧中不太明显和/或审核人员视觉疲劳等原因导致审核人员忽略掉重要内容的情形。
在本公开实施例一可选的实现方式中，步骤S103中根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧的步骤，还可以包括以下步骤：
根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，并输出处理后的所述待审核图像帧。
在一些实施例中，目标识别模型可以输出待审核图像帧中像素属于目标对象的概率，为了标识出待审核图像帧中的目标对象，可以根据该概率对待审核图像中的像素进行处理，例如可以将概率大于预设值如0的像素高亮显示，或者将概率大于预设值如0的像素用外接框圈起来，具体可以根据实际情况而定，在此不做限制。
在本公开实施例一可选的实现方式中，根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，可以包括：
根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色。
该可选的实现方式中，为了能够使得目标对象在待审核图像中较为醒目，可以通过改变属于目标对象的像素的颜色，例如加深属于目标对象的像素颜色，使得该目标对象与背景颜色更易区分。
在本公开实施例一可选的实现方式中，如图2所示，根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色，可以包括如下步骤：
在步骤S201中，根据所述概率生成与所述待审核图像帧对应的热力图；其中，所述热力图中像素的颜色与所述概率相关；
在步骤S202中，将所述热力图叠加在所述待审核图像帧上。
该可选的实现方式中，可以根据属于目标对象的像素的概率生成热力图，热力图中的像素与目标对象中的像素相对应，而热力图中的像素的颜色值与概率相关，例如像素的颜色值(像素值)与概率呈正比关系，也即待审核图像中属于目标对象的像素的概率越大，热力图中对应像素的颜色越深，这样形成的热力图中越接近目标对象中心的像素的颜色越深，而越边缘的像素的颜色越浅；通过这种方式形成的热力图叠加在待审核图像上能够较为醒目地标识出目标对象所在的区域，达到了提醒审核人员目标对象所在区域的目的。
在本公开实施例一可选的实现方式中，步骤S103中根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，可以包括如下步骤：
在所述待审核图像帧中使用外接框标识出所述概率大于预设阈值的像素，并输出标识有所述外接框的所述待审核图像帧。
该可选的实现方式中，可以通过将属于目标对象的概率大于预设阈值的像素使用外接框圈起的形式标识出目标对象所在区域。在一些实施例中，目标识别模型的输出可以是待审核图像帧上每个像素属于目标对象的概率，而概率较大的可以认为是目标对象上的像素，概率较小的可以认为不是目标对象上的像素，因此可以通过经验、实验等方式确定出预设阈值，并通过比较预设阈值与每个像素对应的该概率来确定像素是否是目标对象上的像素，通过这种方式确定出了属于目标对象上的像素后，可以利用外接框将这些像素圈起形成目标对象区域；外接框可以是将属于目标对象的最外界的像素采用连线连接起来，而最终形成的闭合曲线，外接框的形状可以是任意的，取决于所识别出来的目标对象的形状。在一些实施例中，还可以通过改变外接框上线条的颜色、粗细等较为醒目地标识出目标对象，达到提醒审核人员目标对象所在区域的目的。
在本公开实施例一可选的实现方式中，步骤S103中根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，可以包括如下步骤：
在所述待审核图像帧中高亮显示所述概率大于预设阈值的像素，并输出高亮显示所述像素的所述待审核图像帧。
该可选的实现方式中，可以通过高亮显示待审核图像帧中属于目标对象的概率大于预设阈值的像素的方式标识出目标对象所在区域。在一些实施例中，目标识别模型的输出可以是待审核图像帧上每个像素属于目标对象的概率，而概率较大的可以认为是目标对象上的像素，概率较小的可以认为不是目标对象上的像素，因此可以通过经验、实验等方式确定出预设阈值，并通过比较预设阈值与每个像素对应的该概率来确定像素是否是目标对象上的像素，通过这种方式确定出了属于目标对象上的像素后，可以通过高亮显示这些像素进而使得目标对象所在区域在待审核图像上较为醒目，能够达到提醒审核人员的目的。
在本公开实施例一可选的实现方式中，视频审核方法还包括：
接收对处理后的所述待审核图像帧的审核结果。
该可选的实现方式中，在将经过醒目标识过目标对象的待审核图像帧输出之后，审核人员可以通过人工方式查看该待审核图像帧中的目标对象是否存在违规内容，并且可以输入审核结果。本公开实施例接收到待审核图像帧的审核结果后，可以进行后续处理，例如该待审核图像帧中不存在违规内容时，继续输出经过本公开实施例中的方法处理过后的下一待审核图像帧，而该待审核图像帧中存在违规内容时，可以将该待审核图像帧及该待审核视频记录下来，并反馈给相关人员，由相关人员禁封该待审核视频。
在一些实施例中，还可以接收审核人员对待审核图像帧中目标对象是否标识正确的反馈结果，在该反馈结果表明该待审核图像帧中目标对象标识不准确的情况下，还可以根据该反馈结果调整目标识别模型，例如采用该待审核图像帧以及正确的目标对象标识结果对目标识别模型进行进一步地训练，以增加目标识别模型的识别精度。
本公开公开一种视频审核方法、装置和电子设备。其中，该视频审核方法包括：获取待审核图像帧；识别所述待审核图像帧中的目标对象；根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。本公开实施例的视频审核方法中，预先对待审核视频进行目标对象的识别，并根据目标对象对待审核图像帧进行预设处理后再输出给审核人员，通过这种方式能够提醒审核人员待审核图像帧中存在目标对象，防止审核人员由于一些特殊情况而忽略掉待审核图像帧中的重要内容，并且能够加快审核速度，一定程度上能够减少审核工作量。
在上文中，虽然按照上述的顺序描述了上述方法实施例中的各个步骤，本领域技术人员应清楚，本公开实施例中的步骤并不必然按照上述顺序执行，其也可以倒序、并行、交叉等其他顺序执行，而且，在上述步骤的基础上，本领域技术人员也可以再加入其他步骤，这些明显变型或等同替换的方式也应包含在本公开的保护范围之内，在此不再赘述。
下面为本公开装置实施例，本公开装置实施例可用于执行本公开方法实施例实现的步骤，为了便于说明，仅示出了与本公开实施例相关的部分，具体技术细节未揭示的，请参照本公开方法实施例。
本公开实施例提供一种视频审核装置。该装置可以执行上述视频审核方法实施例中所述的步骤。如图3所示，该装置300主要包括：获取模块301、失败模块302和处理模块303。其中，
获取模块301，用于获取待审核图像帧；
识别模块302，用于识别所述待审核图像帧中的目标对象；
处理模块303，用于根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。
进一步的，所述获取模块301，包括：
获取子模块，用于从待审核视频中获取关键帧，将所述关键帧作为所述待审核图像帧。
进一步的，所述识别模块302，包括：
识别子模块，用于利用预先训练好的目标识别模型识别所述待审核图像帧中的像素属于所述目标对象的概率。
进一步的，所述处理模块303，包括：
处理子模块，用于根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，并输出处理后的所述待审核图像帧。
进一步的，所述处理子模块，包括：
改变子模块，用于根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色。
进一步的，所述改变子模块，包括：
生成子模块，用于根据所述概率生成与所述待审核图像帧对应的热力图；其中，所述热力图中像素的颜色与所述概率相关；
叠加子模块，用于将所述热力图叠加在所述待审核图像帧上。
进一步的，所述热力图中像素的颜色值与所述概率成正比。
进一步的，所述处理模块303，包括：
标识子模块，用于在所述待审核图像帧中使用外接框标识出所述概率大于预设阈值的像素，并输出标识有所述外接框的所述待审核图像帧。
进一步的，所述处理模块303，包括
高亮显示子模块，用于在所述待审核图像帧中高亮显示所述概率大于预设阈值的像素，并输出高亮显示所述像素的所述待审核图像帧。
进一步的，所述视频审核装置还包括：
接收模块，用于接收对处理后的所述待审核图像帧的审核结果。
图3所示装置可以执行图1所示实施例的方法，本实施例未详细描述的部分，可参考对图1所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1所示实施例中的描述，在此不再赘述。
下面参考图4，其示出了适于用来实现本公开实施例的电子设备400的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示，电子设备400可以包括处理装置(例如中央处理器、图形处理器等)401，其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中，还存储有电子设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
通常，以下装置可以连接至I/O接口405：包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置406；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407；包括例如磁带、硬盘等的存储装置408；以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置409从网络上被下载和安装，或者从存储装置408被安装，或者从ROM 402被安装。在该计算机程序被处理装置401执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取待审核图像帧；识别所述待审核图像帧中的目标对象；根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (13)
1.一种视频审核方法，包括：
获取待审核图像帧；
识别所述待审核图像帧中的目标对象；
根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。
2.如权利要求1中所述的方法，其中所述获取待审核图像帧，包括：
从待审核视频中获取关键帧，将所述关键帧作为所述待审核图像帧。
3.如权利要求1或2中所述的方法，其中所述识别所述待审核图像帧中的目标对象，包括：
利用预先训练好的目标识别模型识别所述待审核图像帧中的像素属于所述目标对象的概率。
4.如权利要求3中所述的方法，其中根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，包括：
根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，并输出处理后的所述待审核图像帧。
5.如权利要求3中所述的方法，其中根据所述概率对所述待审核图像帧中属于所述目标对象的像素进行处理，包括：
根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色。
6.如权利要求5中所述的方法，其中根据所述概率改变所述待审核图像帧中属于所述目标对象的像素的颜色，包括：
根据所述概率生成与所述待审核图像帧对应的热力图；其中，所述热力图中像素的颜色与所述概率相关；
将所述热力图叠加在所述待审核图像帧上。
7.如权利要求6中所述的方法，其中所述热力图中像素的颜色值与所述概率成正比。
8.如权利要求3中所述的方法，其中根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，包括：
在所述待审核图像帧中使用外接框标识出所述概率大于预设阈值的像素，并输出标识有所述外接框的所述待审核图像帧。
9.如权利要求3中所述的方法，其中根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧，包括
在所述待审核图像帧中高亮显示所述概率大于预设阈值的像素，并输出高亮显示所述像素的所述待审核图像帧。
10.如权利要求1-9任一项中所述的方法，其中所述方法还包括：
接收对处理后的所述待审核图像帧的审核结果。
11.一种视频审核装置，包括：
获取模块，用于获取待审核图像帧；
识别模块，用于识别所述待审核图像帧中的目标对象；
处理模块，用于根据所述目标对象对所述待审核图像帧进行预设处理，并输出处理后的所述待审核图像帧。
12.一种电子设备，包括：
存储器，用于存储计算机可读指令；以及
处理器，用于运行所述计算机可读指令，使得所述处理器运行时实现根据权利要求1-10中任意一项所述的方法。
13.一种非暂态计算机可读存储介质，用于存储计算机可读指令，当所述计算机可读指令由计算机执行时，使得所述计算机执行权利要求1-10中任意一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910493540.0A CN110191356A (zh) | 2019-06-06 | 2019-06-06 | 视频审核方法、装置和电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910493540.0A CN110191356A (zh) | 2019-06-06 | 2019-06-06 | 视频审核方法、装置和电子设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110191356A true CN110191356A (zh) | 2019-08-30 |
Family
ID=67720934
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910493540.0A Pending CN110191356A (zh) | 2019-06-06 | 2019-06-06 | 视频审核方法、装置和电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110191356A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112446295A (zh) * | 2020-10-30 | 2021-03-05 | 四川天翼网络服务有限公司 | 一种考试作弊行为分析方法及系统 |
| CN112818888A (zh) * | 2021-02-09 | 2021-05-18 | 广州市百果园信息技术有限公司 | 视频审核模型训练方法、视频审核方法及相关装置 |
| CN113627330A (zh) * | 2021-08-10 | 2021-11-09 | 北京百度网讯科技有限公司 | 识别目标类型动态图像的方法、装置及电子设备 |
| CN114821378A (zh) * | 2021-01-22 | 2022-07-29 | 百度在线网络技术（北京）有限公司 | 图像审核方法、装置、电子设备以及存储介质 |
Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN203299150U (zh) * | 2013-06-09 | 2013-11-20 | 北京华力兴科技发展有限责任公司 | 一种用于检查海关进口“三废”的设备 |
| US20150222951A1 (en) * | 2004-08-09 | 2015-08-06 | The Nielsen Company (Us), Llc | Methods and apparatus to monitor audio/visual content from various sources |
| CN105741334A (zh) * | 2014-12-11 | 2016-07-06 | 阿里巴巴集团控股有限公司 | 热力图提供方法及装置 |
| CN106454492A (zh) * | 2016-10-12 | 2017-02-22 | 武汉斗鱼网络科技有限公司 | 一种基于延时传送的直播色情内容审核系统及方法 |
| CN107622466A (zh) * | 2017-07-31 | 2018-01-23 | 上海与德科技有限公司 | 信息审核系统及方法 |
| WO2018016694A1 (ko) * | 2016-07-22 | 2018-01-25 | 전자부품연구원 | 복호 정보 고속 취득이 가능한 방송 송신기와 수신기 및 그 방법 |
| KR101850100B1 (ko) * | 2016-11-23 | 2018-04-19 | 권순철 | 감시 영상 기반 방범 시스템 |
| CN109080819A (zh) * | 2018-08-29 | 2018-12-25 | 深圳市旭发智能科技有限公司 | 一种用于新闻追踪的无人机及存储介质 |
| CN109151499A (zh) * | 2018-09-26 | 2019-01-04 | 央视国际网络无锡有限公司 | 视频审核方法及装置 |
| CN109660823A (zh) * | 2018-12-28 | 2019-04-19 | 广州华多网络科技有限公司 | 视频发布方法、装置、电子设备及存储介质 |
| CN109658455A (zh) * | 2017-10-11 | 2019-04-19 | 阿里巴巴集团控股有限公司 | 图像处理方法和处理设备 |
| CN109697392A (zh) * | 2017-10-23 | 2019-04-30 | 北京京东尚科信息技术有限公司 | 绘制目标对象热力图的方法及装置 |
| CN109803152A (zh) * | 2018-12-28 | 2019-05-24 | 广州华多网络科技有限公司 | 违规审核方法、装置、电子设备以及存储介质 |
-
2019
- 2019-06-06 CN CN201910493540.0A patent/CN110191356A/zh active Pending
Patent Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150222951A1 (en) * | 2004-08-09 | 2015-08-06 | The Nielsen Company (Us), Llc | Methods and apparatus to monitor audio/visual content from various sources |
| CN203299150U (zh) * | 2013-06-09 | 2013-11-20 | 北京华力兴科技发展有限责任公司 | 一种用于检查海关进口“三废”的设备 |
| CN105741334A (zh) * | 2014-12-11 | 2016-07-06 | 阿里巴巴集团控股有限公司 | 热力图提供方法及装置 |
| WO2018016694A1 (ko) * | 2016-07-22 | 2018-01-25 | 전자부품연구원 | 복호 정보 고속 취득이 가능한 방송 송신기와 수신기 및 그 방법 |
| CN106454492A (zh) * | 2016-10-12 | 2017-02-22 | 武汉斗鱼网络科技有限公司 | 一种基于延时传送的直播色情内容审核系统及方法 |
| KR101850100B1 (ko) * | 2016-11-23 | 2018-04-19 | 권순철 | 감시 영상 기반 방범 시스템 |
| CN107622466A (zh) * | 2017-07-31 | 2018-01-23 | 上海与德科技有限公司 | 信息审核系统及方法 |
| CN109658455A (zh) * | 2017-10-11 | 2019-04-19 | 阿里巴巴集团控股有限公司 | 图像处理方法和处理设备 |
| CN109697392A (zh) * | 2017-10-23 | 2019-04-30 | 北京京东尚科信息技术有限公司 | 绘制目标对象热力图的方法及装置 |
| CN109080819A (zh) * | 2018-08-29 | 2018-12-25 | 深圳市旭发智能科技有限公司 | 一种用于新闻追踪的无人机及存储介质 |
| CN109151499A (zh) * | 2018-09-26 | 2019-01-04 | 央视国际网络无锡有限公司 | 视频审核方法及装置 |
| CN109660823A (zh) * | 2018-12-28 | 2019-04-19 | 广州华多网络科技有限公司 | 视频发布方法、装置、电子设备及存储介质 |
| CN109803152A (zh) * | 2018-12-28 | 2019-05-24 | 广州华多网络科技有限公司 | 违规审核方法、装置、电子设备以及存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| FADRATUL HAFINAZ HASSAN: "Using microscopic pedestrian simulation statistics to find clogging regions", 《2016 SAI COMPUTING CONFERENCE (SAI)》 * |
| 赵婷等: "一种基于Heat Map的地理标签数据可视化表达的研究", 《测绘工程》 * |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112446295A (zh) * | 2020-10-30 | 2021-03-05 | 四川天翼网络服务有限公司 | 一种考试作弊行为分析方法及系统 |
| CN114821378A (zh) * | 2021-01-22 | 2022-07-29 | 百度在线网络技术（北京）有限公司 | 图像审核方法、装置、电子设备以及存储介质 |
| CN114821378B (zh) * | 2021-01-22 | 2024-02-23 | 百度在线网络技术（北京）有限公司 | 图像审核方法、装置、电子设备以及存储介质 |
| CN112818888A (zh) * | 2021-02-09 | 2021-05-18 | 广州市百果园信息技术有限公司 | 视频审核模型训练方法、视频审核方法及相关装置 |
| WO2022171011A1 (zh) * | 2021-02-09 | 2022-08-18 | 百果园技术(新加坡)有限公司 | 视频审核模型训练方法、视频审核方法及相关装置 |
| CN113627330A (zh) * | 2021-08-10 | 2021-11-09 | 北京百度网讯科技有限公司 | 识别目标类型动态图像的方法、装置及电子设备 |
| CN113627330B (zh) * | 2021-08-10 | 2024-05-14 | 北京百度网讯科技有限公司 | 识别目标类型动态图像的方法、装置及电子设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110191356A (zh) | 视频审核方法、装置和电子设备 | |
| CN110399848A (zh) | 视频封面生成方法、装置及电子设备 | |
| CN110381368A (zh) | 视频封面生成方法、装置及电子设备 | |
| CN110276346A (zh) | 目标区域识别模型训练方法、装置和计算机可读存储介质 | |
| CN109976620A (zh) | 列表项展现属性信息的确定方法、装置、设备及存储介质 | |
| CN109993150A (zh) | 用于识别年龄的方法和装置 | |
| US11856266B2 (en) | Bullet-screen comment display method and apparatus, electronic device, and computer storage medium | |
| CN110046310A (zh) | 分析页面中的跳转链接的方法和装置 | |
| CN110222726A (zh) | 图像处理方法、装置及电子设备 | |
| CN110070551A (zh) | 视频图像的渲染方法、装置和电子设备 | |
| CN110278447A (zh) | 基于连续特征的视频推送方法、装置及电子设备 | |
| CN112241327A (zh) | 分享信息处理方法、装置、存储介质与电子设备 | |
| CN110287810A (zh) | 车门动作检测方法、装置和计算机可读存储介质 | |
| CN110287816A (zh) | 车门动作检测方法、装置和计算机可读存储介质 | |
| CN109977839A (zh) | 信息处理方法和装置 | |
| CN109408754A (zh) | 网页操作数据的处理方法、装置、电子设备及存储介质 | |
| CN110321447A (zh) | 重复图像的确定方法、装置、电子设备及存储介质 | |
| CN110288037A (zh) | 图像处理方法、装置及电子设备 | |
| CN109471976A (zh) | 网页操作数据的处理方法、装置、电子设备及存储介质 | |
| CN111538852A (zh) | 多媒体资源处理方法、装置、存储介质及设备 | |
| CN110008926A (zh) | 用于识别年龄的方法和装置 | |
| CN110223124A (zh) | 数据处理方法、装置、电子设备及计算机可读介质 | |
| CN110059064A (zh) | 日志文件处理方法、装置和计算机可读存储介质 | |
| CN110287954A (zh) | 目标区域确定模型的训练方法、装置和计算机可读存储介质 | |
| CN110188782A (zh) | 图像相似性确定方法、装置、电子设备及可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190830 |
|
| RJ01 | Rejection of invention patent application after publication |