CN114650447A - 一种确定视频内容异常程度的方法、装置及计算设备 - Google Patents
一种确定视频内容异常程度的方法、装置及计算设备 Download PDFInfo
- Publication number
- CN114650447A CN114650447A CN202210288880.1A CN202210288880A CN114650447A CN 114650447 A CN114650447 A CN 114650447A CN 202210288880 A CN202210288880 A CN 202210288880A CN 114650447 A CN114650447 A CN 114650447A
- Authority
- CN
- China
- Prior art keywords
- content
- abnormal
- degree
- frames
- video content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002159 abnormal effect Effects 0.000 title claims abstract description 178
- 238000000034 method Methods 0.000 title claims abstract description 67
- 230000005856 abnormality Effects 0.000 claims abstract description 57
- 238000012545 processing Methods 0.000 claims abstract description 22
- 230000002452 interceptive effect Effects 0.000 claims abstract description 15
- 230000015654 memory Effects 0.000 claims description 21
- 238000004458 analytical method Methods 0.000 claims description 10
- 230000005540 biological transmission Effects 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000011218 segmentation Effects 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 14
- 238000011156 evaluation Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 238000007726 management method Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000003062 neural network model Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000010485 coping Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 238000004445 quantitative analysis Methods 0.000 description 2
- 208000001613 Gambling Diseases 0.000 description 1
- 230000009102 absorption Effects 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000035622 drinking Effects 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003340 mental effect Effects 0.000 description 1
- 230000004630 mental health Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000012954 risk control Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 230000000391 smoking effect Effects 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开公开了一种确定视频内容异常程度的方法、装置及计算设备。其中，方法包括步骤：确定用于描述视频内容异常的异常类别；从视频图像帧中提取出至少一个关键帧；对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别；至少基于异常帧的数量及对应的异常类别，确定出视频内容的异常程度。其中，视频内容的异常至少包括视频内容中含有不良内容和/或干扰内容，异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容。
Description
技术领域
本公开涉及视频处理技术领域，尤其涉及对视频内容的异常程度的计算方案。
背景技术
随着5G时代的来临，互联网受众的内容喜好更加娱乐化、碎片化，视频将成为互联网内容的主流。互联网平台多媒体内容爆发带来海量信息的同时，也带来了色情、暴恐、涉政、不良场景等负面内容。传播负面内容破坏了精神文明建设，败坏了社会风气，尤其对青少年网民的身心健康有着重要影响。视频在公开到网络之前，需要进行内容安全管理。视频内容安全作为网络内容安全的一部分，对其有效地管理和控制需求愈加迫切。
现有的方法中，视频内容安全分析缺乏评价指标体系，以及对视频内容安全的预测能力。因此，有必要提供一种对不安全(即，异常)视频内容进行综合评估方法和系统，以更加全面、客观地反映视频内容的安全程度，也为媒体平台降低人员工作强度，提高处理视频内容中的不良问题的效率，节约成本，规避风险提供帮助。
发明内容
本公开提供了一种确定视频内容异常程度的方法、装置及计算设备，以力图解决或者至少缓解上面存在的至少一个问题。
根据本公开的一个方面，提供了一种确定视频内容异常程度的方法，包括步骤：确定用于描述视频内容异常的异常类别，其中，视频内容的异常至少包括视频内容中含有不良内容和/或干扰内容，异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容；从视频图像帧中提取出至少一个关键帧；对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别；至少基于异常帧的数量及对应的异常类别，确定出视频内容的异常程度。
可选地，在根据本公开的方法中，至少基于异常帧的数量及对应的异常类别，确定出视频内容的异常程度的步骤包括：基于异常类别为干扰内容的异常帧，确定出干扰内容的异常程度；若干扰内容的异常程度大于阈值，则将干扰内容的异常程度作为视频内容的异常程度；若干扰内容的异常程度不大于阈值，则分别确定各异常类别对应的异常程度，并基于各异常类别对应的异常程度，确定出视频内容的异常程度。
可选地，在根据本公开的方法中，确定各异常类别对应的异常程度的步骤包括：统计各异常类别对应的异常帧的数量；基于各异常类别对应的异常帧的数量及关键帧的数量，来分别计算出各异常类别对应的异常程度。通过如下公式来确定各异常类别对应的异常程度：
其中，
表示Mi异常类别的异常程度，
且
Pi表示Mi异常类别对应的异常帧的数量，K表示关键帧的数量，i＝1,2,3,4,5。
可选地，在根据本公开的方法中，从视频图像帧中提取出至少一个关键帧的步骤包括：针对视频中的所有图像帧，计算相邻两个图像帧间的差异值；当相邻两帧的差异值大于预设值时，将这两个图像帧作为分割点；利用分割点，将视频分割为至少一个片段；从各片段中提取至少一个图像帧，生成关键帧。
可选地，在根据本公开的方法中，对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别的步骤包括：将关键帧对应的信息，分别输入识别模型，以识别出存在不良内容的图像帧及对应的异常类别；通过判断各关键帧对应的信息是否一致，来识别出存在干扰内容的图像帧；将存在不良内容的图像帧和存在干扰内容的图像帧，作为异常帧。
可选地，在根据本公开的方法中，将关键帧对应的信息，分别输入识别模型，以识别出存在不良内容的图像帧及对应的异常类别的步骤包括：将关键帧对应的图像信息，分别输入图像识别模型进行处理，来得到第一预测结果，第一预测结果指示关键帧的图像信息中存在不良内容的图像帧及对应的异常类别；将关键帧对应的音频信息，分别输入声音识别模型进行处理，来得到第二预测结果，第二预测结果指示关键帧的音频信息中存在不良内容的图像帧及对应的异常类别；基于第一预测结果和第二预测结果，确定出存在不良内容的图像帧。
可选地，在根据本公开的方法中，通过判断各关键帧对应的信息是否一致，来识别出存在干扰内容的图像帧的步骤包括：获取各关键帧对应的信息，包括图像信息、音频信息和/或文本信息；针对每个关键帧，利用模糊匹配方法，判断关键帧对应的图像信息、音频信息、文本信息是否一致；若不一致，则确定对应的关键帧为存在干扰内容的图像帧。
可选地，根据本公开的方法还包括步骤：对各异常类别对应的异常程度进行加权计算，得到视频内容的异常程度。通过如下公式计算所述视频内容的异常程度：
其中，Risk表示视频内容的异常程度，
表示Mi异常类别的异常程度，wi为权重，且
根据本公开的另一方面，提供了一种确定视频内容异常程度的装置，包括：第一指标确定模块，适于确定用于描述视频内容异常的异常类别，其中，视频内容的异常至少包括视频内容中含有不良内容和/或干扰内容，异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容；镜头切割模块，适于从视频图像帧中提取出至少一个关键帧；视频内容分析模块，适于对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别；内容异常程度确定模块，适于至少基于所述异常帧的数量及对应的异常类别，确定出视频内容的异常程度。
根据本公开的另一方面，提供了一种视频内容安全保障系统，包括：视频传输接口，适于获取视频内容；确定视频内容异常程度的装置；视频内容安全保障装置，包括：第二指标确定模块，适于确定用于描述视频内容安全保障的指标；内容安全保障程度确定模块，适于基于所述指标，确定视频内容安全保障程度。
根据本公开的再一方面，提供了一种计算设备，包括：一个或多个处理器存储器；一个或多个程序，其中所述一个或多个程序存储在存储器中并被配置为由一个或多个处理器执行，一个或多个程序包括用于执行如上任一方法的指令。
根据本公开的再一方面，提供了一种存储一个或多个程序的计算机可读存储介质，一个或多个程序包括指令，指令在被计算设备执行时，使得计算设备执行如上所述的任一方法。
综上所述，根据本公开的方案，围绕视频内容安全风险，综合考虑异常内容的特点及种类，从五个方面设计了视频内容的异常类别，即，形成了视频内容安全评价指标体系。针对该指标体系，提出了视频内容异常程度的计算过程。基于本方案，可以更加全面、客观地反映视频内容的安全程度，也为媒体平台降低人员工作强度，提高处理视频内容中的不良问题的效率，节约成本，规避风险提供帮助。
附图说明
为了实现上述以及相关目的，本文结合下面的描述和附图来描述某些说明性方面，这些方面指示了可以实践本文所公开的原理的各种方式，并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述，本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开，相同的附图标记通常指代相同的部件或元素。
图1示出了根据本公开一些实施例的视频内容安全保障系统100的示意图；
图2示出了根据本公开一些实施例的计算设备200的示意图；
图3示出了根据本公开一些实施例的确定视频内容异常程度的方法300的流程示意图；
图4示出了根据本公开一些实施的确定视频内容异常程度的装置120的示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
视频内容安全主要通过内容匹配、分类、过滤等方式解决严重污染网络环境，或者对社会公众、国家安全造成潜在威胁的不良视频。视频内容安全评价为保障视频内容安全提供了有效手段。按照科学的程序和方法，从系统工程的角度出发，对视频或制作视频中潜在的风险进行预先识别、分析和评价，提出风险控制措施，确保技术方案体现管理需求、日常操作实现安全管控、技术手段保证安全实施等。根据本公开的实施方式，通过视频内容安全评价，对视频内容安全做定量或定性表示，把视频内容安全从抽象概念转化为具体指标，能更加直观地了解视频的不良程度，为明确审核优先级、制定管理决策提供科学依据。
图1示出了根据本公开一些实施例的视频内容安全保障系统100的示意图。
保障系统100至少包括：视频传输接口110、确定视频内容异常程度的装置120和视频内容安全保障装置130。
在保障系统100实施的最初阶段，需要具有一定专业背景知识的人员组建评价小组，由小组负责有序推进评价活动并监督整个评价过程；明确被评价视频对象或范围，定义视频中不安全语义，明确哪些指标可实现目标需求，收集相关法律法规、技术标准及工程、系统的技术资料，便于相关人员查找阅读，并在后续阶段及时更新。
具体而言，保障系统100构建视频内容安全和保障指标体系，包括用于描述视频内容异常的安全指标、用于描述视频内容安全保障的保障指标。保障系统100还可以包含指标变更模块，当安全需求有变更时，修改相关指标并录入系统中；还可展示当前使用的指标信息以及历史使用过的指标信息，以保证系统的灵活性。本公开对此不做限制。
视频传输接口110获取视频内容。根据一种实施例，所获取的视频可以是用户上传到网络上的视频。视频内容通常包括图像信息、音频信息、字幕信息等。
一方面，视频传输接口110将获取的视频内容传送至确定视频内容异常程度的装置120。由其通过构建的描述视频内容异常的指标，利用关键帧抽取等技术对视频内容中的关键帧的图像、音频、字幕等进行分析，确定出包含异常内容的视频帧(称之为“异常帧”)。根据一种实施例，视频内容的异常至少包括视频内容中包含不良内容和干扰内容。鉴于此，异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容。
并且，装置120还可以确定出异常帧的异常程度。根据本公开的实施例，通过定量的方式，计算出表征视频内容异常程度的分值，以直观地说明该视频的异常程度。还可以基于该分值，进一步对异常程度进行分级，在一种实施例中，将异常程度分为3个等级：低、中、高，当然不限于此。
关于装置120的进一步阐述，可参考下文中图3和图4对应的相关描述，此处不做展开。
另一方面，视频传输接口110将获取的视频内容传送至视频内容安全保障装置130，由其通过构建的描述视频内容安全保障的指标，计算系统100的保障能力，判断当前的风险应对程度。
根据一种实施方式，装置130又进一步包括第二指标确定模块132和内容安全保障程度确定模块134。
第二指标确定模块132确定用于描述视频内容安全保障的指标。根据本公开的一些实施方式，描述视频内容安全保障的指标及其含义如表1所示，其反映在一定时间t内视频内容安全保障程度。
表1描述视频内容安全保障的指标示例
在一种实施例中，定期采集上述指标，邀请专家对完整度、实施度、应急度进行打分；专业度根据培训次数和参与人员的专业程度确定；过滤度以t时间内的视频过滤百分比确定。
内容安全保障程度确定模块134基于所确定的指标，确定视频内容安全保障程度。
在一种实施例中，对完整度(In)、实施度(Im)、专业度(Pr)、过滤度(Fi)、应急度(Em)进行加权求和，得到视频内容安全保障程度Guarantee。如下公式所示：
Guarantee＝w′×(In+Im+Pr+Fi+Em)
其中，权重w′可以由相关专家来设定。在一种实施例中，w′取0.25。保障程度Guarantee的值越大，表示视频内容安全管理能力越强，应对风险的能力越强。
保障系统100包含两方面内容。第一，针对未上线视频，利用装置120，评估视频中存在异常内容的可能性、以及不安全内容(即，异常内容)的视频的异常程度。异常程度所对应的风险等级，可以为后续的内容审核确定优先顺序，减轻繁重的工作紧迫程度；同时，从统计的角度，也便于了解当前平台整体的不安全视频或不良视频的存在情况。第二，为了解视频内容安全保障能力，利用装置130，针对视频内容安全管理(VSM，Video securitymanagement)情况做出评价。
综上，保障系统100实现了量化分析视频内容安全，健全了当前对于视频内容安全管理的评价机制，为市场上基于内容识别的视频安全评价提供了更高的参考价值。
此外，还可以在保障系统100的计算资源空闲时，利用装置120来对视频内容进行评估，以便发现其他可能的情况，应对未发生的风险。
此外，保障系统100还可以包含数据中台模块，统一管理上述涉及的指标数据和计算结果等数据，以整合当前各视频的异常程度。保障系统100还可以包括趋势分析模块，将数据中台模块整合的数据导入趋势分析模块，进行线性回归，分析视频内容安全风险的整体趋势或者分类别趋势。此外，趋势分析结果还可以通过显示模块显示。
根据本公开，保障系统100及其中的各组件，可通过一个或多个计算设备来实现。图2是示例性的计算设备200的构造图。
如图2所示，在基本配置202中，计算设备200典型地包括系统存储器206和一个或者多个处理器204。存储器总线208可以用于在处理器204和系统存储器206之间的通信。
取决于期望的配置，处理器204可以是任何类型的处理，包括但不限于：微处理器(μP)、微控制器(μC)、数字信息处理器(DSP)或者它们的任何组合。处理器204可以包括诸如一级高速缓存210和二级高速缓存212之类的一个或者多个级别的高速缓存、处理器核心214和寄存器216。示例的处理器核心214可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器218可以与处理器204一起使用，或者在一些实现中，存储器控制器218可以是处理器204的一个内部部分。
取决于期望的配置，系统存储器206可以是任意类型的存储器，包括但不限于：易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。计算设备中的物理内存通常指的是易失性存储器RAM，磁盘中的数据需要加载至物理内存中才能够被处理器204读取。系统存储器206可以包括操作系统220、一个或者多个应用222以及程序数据224。在一些实施方式中，应用222可以布置为在操作系统上由一个或多个处理器204利用程序数据224执行指令。操作系统220例如可以是Linux、Windows等，其包括用于处理基本系统服务以及执行依赖于硬件的任务的程序指令。应用222包括用于实现各种用户期望的功能的程序指令，应用222例如可以是浏览器、即时通讯软件、软件开发工具(例如集成开发环境IDE、编译器等)等，但不限于此。当应用222被安装到计算设备200中时，可以向操作系统220添加驱动模块。
在计算设备200启动运行时，处理器204会从存储器206中读取操作系统220的程序指令并执行。应用222运行在操作系统220之上，利用操作系统220以及底层硬件提供的接口来实现各种用户期望的功能。当用户启动应用222时，应用222会加载至存储器206中，处理器204从存储器206中读取并执行应用222的程序指令。
计算设备200还包括存储设备232，存储设备232包括可移除存储器236和不可移除存储器238，可移除存储器236和不可移除存储器238均与存储接口总线234连接。
计算设备200还可以包括有助于从各种接口设备(例如，输出设备242、外设接口244和通信设备246)到基本配置202经由总线/接口控制器230的通信的接口总线240。示例的输出设备242包括图形处理单元248和音频处理单元250。它们可以被配置为有助于经由一个或者多个A/V端口252与诸如显示器253或者扬声器之类的各种外部设备进行通信。示例外设接口244可以包括串行接口控制器254和并行接口控制器256，它们可以被配置为有助于经由一个或者多个I/O端口258和诸如输入设备(例如，键盘、鼠标、笔、语音输入设备、触摸输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备246可以包括网络控制器260，其可以被布置为便于经由一个或者多个通信端口264与一个或者多个其他计算设备262通过网络通信链路的通信。
网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块，并且可以包括任何信息递送介质。“调制数据信号”可以是这样的信号，它的数据集中的一个或者多个或者它的改变可以在信号中编码信息的方式进行。作为非限制性的示例，通信介质可以包括诸如有线网络或者专线网络之类的有线介质，以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。
计算设备200还包括与总线/接口控制器230相连的存储接口总线234。存储接口总线234与存储设备232相连，存储设备232适于进行数据存储。示例的存储设备232可以包括可移除存储器236(例如CD、DVD、U盘、可移动硬盘等)和不可移除存储器238(例如硬盘驱动器HDD等)。
一般地，计算设备200可以实现为小尺寸便携(或者移动)电子设备的一部分，这些电子设备可以是诸如蜂窝电话、数码照相机、个人数字助理(PDA)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。
在根据本公开的计算设备200中，应用222包括用于执行本公开的确定视频内容异常程度的方法300的指令。上述指令可以指示处理器204执行本公开的上述方法，以实现对传感器数据的处理及对异常驾驶行为的判定等。
图3示出了根据本公开一些实施例的确定视频内容异常程度的方法300的流程示意图。如图3所示，方法300始于步骤S310。
在步骤S310中，确定用于描述视频内容异常的异常类别。
如前文所述，视频内容的异常至少包括视频内容中含有不良内容和/或干扰内容。基于此，在根据本公开的一些实施例中，异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容。对应地，指示视频内容异常的指标包括：内容恶意度、内容敏感度、内容暴露度、内容倾向度和内容干扰度。
如表2示出了根据一些实施例的描述视频内容异常的指标示例及其说明。
表2描述视频内容异常的指标示例
| 指标 | 含义 |
| 内容恶意度(Malice) | 视频中暴恐类型出现的程度 |
| 内容敏感度(Sensitivity) | 视频中涉政敏感信息表达的程度 |
| 内容暴露度(Exposure) | 视频中敏感部位裸露的程度 |
| 内容倾向度(Tendency) | 视频表达内容反映某一不良内容场景的程度 |
| 内容干扰度(Interference) | 对信息内容进行主动干扰的程度 |
具体而言，各异常类别及其对应的指标的描述如下。
1)内容恶意度，用于描述常人无法接受的暴力恐怖、民族分裂与宗教极端等场面。
2)内容敏感度，用于识别国内国际政要、官员、革命英烈等与敏感政治有关的情形。
3)内容暴露度，主要描述色情识别的效果。
4)内容倾向度，用于描述不良场景的出现情况，除暴恐、涉政、色情外的违法违规内容可看作不良场景，如地图的不完整性也可认为是对社会有负面影响的不良场景的一种。由于不良价值观对未成年人影响较大，故将未成年画面问题单独列出，包括不限于：吸毒、吸烟、喝酒、赌博、未成年人画面等。
5)内容干扰度，来自包括声音、图像、文本不相符的情况，广告、虚假、未证实等干扰原内容的情况，以及对敏感关键词进行各种变形的情况。尤其是视频中主动干扰技术对违法违规内容进行各种变形，变形后的敏感内容难以被检测和提取，但又不影响信息内容的表达。内容干扰度越高，信息内容的不安全性越高。
应当指出，如前文所述，指标通常由专家依据需求来制定，在使用过程中，也可以依据安全需求，对指标进行变更，本公开对此不做限制。
随后在步骤S320中，从视频图像帧中提取出至少一个关键帧。
为快速确定视频的异常情况，根据本公开的实施方式，利用关键帧(Key frame)来进行分析，通过关键帧尽可能表达视频的主要内容。如下示出根据一种实施例的提取关键帧的方法。
首先，针对视频中的所有图像帧，计算相邻两个图像帧间的差异值。在一种实施例中，基于直方图差异，来计算相邻两个图像帧间的差异值。简单来说，利用直方图统计视频中各图像帧的颜色信息(如，亮度信息、色度信息等)，之后，计算相邻每两帧的直方图差异值，记作D。
其次，当相邻两帧的差异值D大于预设值(记作T1)时，将这两个图像帧作为分割点，在根据本公开的实施例中，分割点表示两个镜头的边界处。依次循环，遍历视频中的所有帧，得到各分割点。
接着，利用分割点，将视频分割为至少一个片段。举例来说，若得到1个分割点，则利用该分割点，将视频分割成两个片段；若得到2个分割点，则利用这2个分割点，将视频分割成3个片段；以此类推，即，利用所得到的的n个分割点，将视频分割成(n+1)个片段。
应当指出，若视频段中所有相邻帧的差异值均不大于T1，则表示该视频段无需分割，将其作为一个片段即可。
最后，从各片段中提取至少一个图像帧，生成关键帧。从各片断中提取出能代表该片段的一个或多个图像帧，共同组成该视频的关键帧。在一种实施例中，分别提取各个片段内的首帧、中间帧和尾帧，作为对应片段的代表帧，针对(n+1)个片段，共可以得到K个关键帧(K＝3(n+1))。
随后在步骤S330中，对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别。
根据一种实施方式，异常帧至少包括：存在不良内容的图像帧和存在干扰内容的图像帧。在一种实施方式中，分别检测出存在不良内容和干扰内容的图像帧。如下示出检测的过程。
一方面，将关键帧对应的信息，分别输入识别模型，以识别出存在不良内容的图像帧及对应的异常类别。
如前文所述，关键帧对应的信息可能有图像信息、音频信息等，在一种实施例中，对这些信息分别进行识别处理。
将关键帧对应的图像信息，分别输入图像识别模型进行处理，来得到第一预测结果。图像识别模型可以是基于深度学习的神经网络模型，通过对输入的关键帧的图像信息进行卷积、激活、池化等处理，输出第一预测结果。第一预测结果可以以概率的形式来指示图像信息中存在不良内容的概率值及类别。例如，针对不良内容中的4种异常类别(恶意内容、敏感内容、暴露内容、不良倾向内容)，输出的第一预测结果可以是{p1,p2,p3,p4}，分别对应4种类别，当某一类别的概率值大于预设概率值时，就判定该关键帧为异常帧，且其对应的图像信息存在该异常类别。当各类别的概率值均不大于预设概率值时，就判定该关键帧不是异常帧。
将关键帧对应的音频信息，分别输入声音识别模型进行处理，来得到第二预测结果。声音识别模型可以是基于深度学习的神经网络模型，通过对输入的关键帧的音频信息进行卷积、激活、池化等处理，输出第二预测结果。第二预测结果可以以概率的形式来指示音频信息中存在不良内容的概率值及类别。关于第二预测结果的内容，可参考上文中对第一预测结果的描述，此处不再赘述。
之后，基于第一预测结果和第二预测结果，综合得到存在不良内容的图像帧。
需要说明的是，方法300还包括训练生成上述图像识别模型和声音识别模型的过程。可以采集涉及色情、暴恐、涉政、不良场景的图像、音频，建立样本库，用样本库来分别训练图像识别模型和声音识别模型。对神经网络模型的训练属于本领域技术人员的已知内容，故具体训练过程此处不再赘述。
另一方面，通过判断各关键帧对应的信息是否一致，来识别出存在干扰内容的图像帧。
根据一种实施方式，获取各关键帧对应的信息，包括图像信息、音频信息和/或文本信息。文本信息例如可以是字幕。针对每个关键帧，利用模糊匹配方法，判断关键帧对应的图像信息、音频信息、文本信息是否一致；若不一致，则确定对应的关键帧为存在干扰内容的图像帧。在一种实施例中，按照模糊匹配方法，先将图像信息、音频信息和/或文本信息分别转换成字符串，判断音频信息或文本信息与图像信息是否一致、音频信息与文本信息是否一致，只要出现不一致，则判定该关键帧是存在干扰内容的图像帧。关于模糊匹配的具体方式，本公开对此不做限制。本公开旨在提供一种确定视频内容异常程度的方法，任何对信息的模糊匹配方式，均可与本公开相结合，来实现本公开的方法。
根据再一种实施方式，建立干扰数据库，包括干扰字符特征、中英文干扰关键词、干扰模式等，并且，干扰数据库是不断更新的。提取关键帧中的文字信息，包括中文文字、英文文字。之后，基于干扰数据库，来确定关键帧中是否存在中文文字混淆、英文文字混淆、中英文混淆等情况，若存在上述情况，则判定该关键帧为存在干扰内容的图像帧。
最后，将存在不良内容的图像帧和存在干扰内容的图像帧，作为异常帧。其中，存在不良内容的异常帧对应的异常类别包括：恶意内容、敏感内容、暴露内容、不良倾向内容；存在干扰内容的异常帧对应的异常类别为干扰内容。
随后在步骤S340中，至少基于异常帧的数量及对应的异常类别，确定出视频内容的异常程度。
根据本公开的实施方式，先基于异常帧的数量及对应的异常类别，确定各异常类别对应的异常程度。之后，基于各类别对应的异常程度，来确定出视频内容的异常程度。
具体地，确定各异常类别对应的异常程度的步骤包括：先统计各异常类别对应的异常帧的数量；之后，基于各异常类别对应的异常帧的数量及关键帧的数量，来分别计算出各异常类别对应的异常程度。
在一种实施例中，用M＝{Mi|Malic,Sensi,Expos,Tende,Intrf}表示各异常类别，分别为恶意内容、敏感内容、暴露内容、不良倾向内容、干扰内容。
通过如下公式来确定各异常类别对应的异常程度：
其中，
表示Mi异常类别的异常程度，i＝1,2,3,4,5，可以将其与表2中的5个指标一一对应。
且
Pi表示Mi异常类别对应的异常帧的数量，K表示关键帧的数量。
根据一种实施例，在确定视频内容的异常程度时，可以采用如下方式。
先基于异常类别为干扰内容的异常帧，确定出干扰内容的异常程度，即内容干扰度DIntrf。
若DIntrf大于阈值，则将DIntrf作为视频内容的异常程度Risk，即，Risk＝DIntrf。
若DIntrf不大于阈值，则分别确定各异常类别对应的异常程度，并基于各异常类别对应的异常程度，确定出视频内容的异常程度。在一种实施例中，对各异常类别对应的异常程度进行加权计算，得到该视频内容的异常程度。可选地，通过如下公式计算视频内容的异常程度Risk：
其中，
表示Mi异常类别的异常程度，wi为权重，且
根据本公开的实施方式，每个行业的视频数据都有其独特性，且内容安全的侧重点不同，因此，根据实际需求，权重wi的具体值基于实际场景来选取。例如，可以由专家讨论设计。通过邀请l个相关领域专家，每个专家对5个指标给出权重，形成权重矩阵R5l，如下所示：
之后，利用平均数得到wi，
进一步地，根据Risk的值，对照表3，能够确定视频内容的安全风险严重等级。
表3
| 异常程度的取值范围 | 严重程度 |
| [0，3) | 低(low) |
| [3，7) | 中(medium) |
| [7，10] | 高(high) |
根据本公开的实施方式，可以根据安全风险严重等级，确定内容审核的优先顺序，减轻繁重的工作紧迫程度。同时，从统计的角度，也便于了解当前平台整体的异常视频的存在情况。
本公开针对目前没有全面、客观、系统性的视频内容安全评价指标体系与评估方法的问题，提供了一种基于层次分析的视频内容的异常程度的确定方法，基于该方法，能够量化评估视频内容安全、定量分析视频内容的异常程度。基于本方案，可以更加全面、客观地反映视频内容的安全程度，也为媒体平台降低人员工作强度，提高处理视频内容中的不良问题的效率，节约成本，规避风险提供帮助。
本公开围绕视频内容安全风险，综合考虑异常内容的特点及种类，从五个方面设计了视频内容的异常类别，即，形成了视频内容安全评价指标体系。针对指标体系，提出了视频内容安全风险计算的过程，基于层次分析的量化方法，计算视频内容的异常程度，即视频内容安全风险值。并且，在计算异常程度时，权重的选择还考虑了专家意见，换言之，视频内容安全风险值考虑了决策的主客观特征。
此外，从高、中、低三个等级评价视频内容风险严重性的总体水平，使视频内容安全结果排序更有质量，不仅提高检测发现安全风险的效率，也为视频内容分级提供数据支撑。
相应地，图4示出了根据本公开一些实施的确定视频内容异常程度的装置120的示意图。该装置120布置在保障系统100中，应当了解，装置120与确定视频内容异常程度的方法300互为补充，鉴于此，相同之处不再重复，方法300的相关描述与装置120的相关描述，相互补充说明。
如图4所示，装置120包括：第一指标确定模块122、镜头切割模块124、视频内容分析模块126和内容异常程度确定模块128。
第一指标确定模块122确定用于描述视频内容异常的异常类别。如前文所述，在一种实施例中，视频内容的异常至少包括视频内容中含有不良内容和/或干扰内容，对应的异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容。
镜头切割模块124从视频图像帧中提取出至少一个关键帧。根据本公开的实施方式，关键帧尽可能分布在视频中的每个镜头中，以尽可能表达出视频的主要内容。因此，通过计算相邻两个图像帧的差异值，来确定出镜头切换的分割点，并据此提取出关键帧。具体可参考前文关于步骤S320的相关描述。
视频内容分析模块126对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别。具体可参考前文关于步骤S330的相关描述。
内容异常程度确定模块128至少基于异常帧的数量及对应的异常类别，确定出视频内容的异常程度。具体可参考前文关于步骤S340的相关描述。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本公开的实施例可以在没有这些具体细节的情况下被实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个公开方面中的一个或多个，在上面对本公开的示例性实施例的描述中，本公开的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本公开要求比在每个权利要求中所明确记载的特征更多特征。更确切地说，如下面的权利要求书所反映的那样，公开方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本公开的单独实施例。
本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中，或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本公开的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
此外，所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此，具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外，装置实施例的在此所述的元素是如下装置的例子：该装置用于实施由为了实施该公开的目的的元素所执行的功能。
如在此所使用的那样，除非另行规定，使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例，并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。
尽管根据有限数量的实施例描述了本公开，但是受益于上面的描述，本技术领域内的技术人员明白，在由此描述的本公开的范围内，可以设想其它实施例。此外，应当注意，本说明书中使用的语言主要是为了可读性和教导的目的而选择的，而不是为了解释或者限定本公开的主题而选择的。因此，在不偏离所附权利要求书的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本公开的范围，对本公开所做的公开是说明性的，而非限制性的，本公开的范围由所附权利要求书限定。
Claims (14)
1.一种确定视频内容异常程度的方法，包括步骤：
确定用于描述视频内容异常的异常类别，其中，视频内容的异常至少包括视频内容中含有不良内容和/或干扰内容，所述异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容；
从视频图像帧中提取出至少一个关键帧；
对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别；
至少基于所述异常帧的数量及对应的异常类别，确定出视频内容的异常程度。
2.如权利要求1所述的方法，其中，所述至少基于异常帧的数量及对应的异常类别，确定出视频内容的异常程度的步骤包括：
基于异常类别为干扰内容的异常帧，确定出干扰内容的异常程度；
若所述干扰内容的异常程度大于阈值，则将所述干扰内容的异常程度作为所述视频内容的异常程度；
若所述干扰内容的异常程度不大于阈值，则分别确定各异常类别对应的异常程度，并基于各异常类别对应的异常程度，确定出视频内容的异常程度。
3.如权利要求2所述的方法，其中，确定各异常类别对应的异常程度的步骤包括：
统计各异常类别对应的异常帧的数量；
基于各异常类别对应的异常帧的数量及所述关键帧的数量，来分别计算出各异常类别对应的异常程度。
4.如权利要求1-3中任一项所述的方法，其中，所述从视频图像帧中提取出至少一个关键帧的步骤包括：
针对所述视频中的所有图像帧，计算相邻两个图像帧间的差异值；
当相邻两帧的差异值大于预设值时，将这两个图像帧作为分割点；
利用所述分割点，将所述视频分割为至少一个片段；
从各片段中提取至少一个图像帧，生成所述关键帧。
5.如权利要求1-4中任一项所述的方法，其中，所述对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别的步骤包括：
将所述关键帧对应的信息，分别输入识别模型，以识别出存在不良内容的图像帧及对应的异常类别；
通过判断各关键帧对应的信息是否一致，来识别出存在干扰内容的图像帧；
将所述存在不良内容的图像帧和所述存在干扰内容的图像帧，作为所述异常帧。
6.如权利要求5所述的方法，其中，所述将关键帧对应的信息，分别输入识别模型，以识别出存在不良内容的图像帧及对应的异常类别的步骤包括：
将所述关键帧对应的图像信息，分别输入图像识别模型进行处理，来得到第一预测结果，所述第一预测结果指示所述关键帧的图像信息中存在不良内容的图像帧及对应的异常类别；
将所述关键帧对应的音频信息，分别输入声音识别模型进行处理，来得到第二预测结果，所述第二预测结果指示所述关键帧的音频信息中存在不良内容的图像帧及对应的异常类别；
基于所述第一预测结果和所述第二预测结果，确定出存在不良内容的图像帧。
7.如权利要求5或6所述的方法，其中，所述通过判断各关键帧对应的信息是否一致，来识别出存在干扰内容的图像帧的步骤包括：
获取各关键帧对应的信息，包括图像信息、音频信息和/或文本信息；
针对每个关键帧，利用模糊匹配方法，判断所述关键帧对应的图像信息、音频信息、文本信息是否一致；
若不一致，则确定对应的关键帧为存在干扰内容的图像帧。
8.如权利要求3所述的方法，其中，通过如下公式来确定各异常类别对应的异常程度：
其中，
表示Mi异常类别的异常程度，
且
Pi表示Mi异常类别对应的异常帧的数量，K表示关键帧的数量，i＝1,2,3,4,5。
9.如权利要求2所述的方法，其中，基于各异常类别对应的异常程度，确定出视频内容的异常程度的步骤包括：
对各异常类别对应的异常程度进行加权计算，得到所述视频内容的异常程度。
10.如权利要求9所述的方法，其中，通过如下公式计算所述视频内容的异常程度：
其中，Risk表示视频内容的异常程度，
表示Mi异常类别的异常程度，wi为权重，且
11.一种确定视频内容异常程度的装置，包括：
第一指标确定模块，适于确定用于描述视频内容异常的异常类别，其中，视频内容的异常至少包括视频内容中含有不良内容和/或干扰内容，所述异常类别至少包括：恶意内容、敏感内容、暴露内容、不良倾向内容和干扰内容；
镜头切割模块，适于从视频图像帧中提取出至少一个关键帧；
视频内容分析模块，适于对所提取的关键帧进行处理，以分析出存在异常内容的异常帧及对应的异常类别；
内容异常程度确定模块，适于至少基于所述异常帧的数量及对应的异常类别，确定出视频内容的异常程度。
12.一种视频内容安全保障系统，包括：
视频传输接口，适于获取视频内容；
如权利要求11所述的确定视频内容异常程度的装置；
视频内容安全保障装置，包括：
第二指标确定模块，适于确定用于描述视频内容安全保障的指标；
内容安全保障程度确定模块，适于基于所述指标，确定视频内容安全保障程度。
13.一种计算设备，包括：
一个或多个处理器；
存储器；
一个或多个程序，其中所述一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序包括用于执行如权利要求1-10中任一方法的指令。
14.一种存储一个或多个程序的计算机可读存储介质，所述一个或多个程序包括指令，所述指令在被计算设备执行时，使得所述计算设备执行如权利要求1-10任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210288880.1A CN114650447B (zh) | 2022-03-22 | 2022-03-22 | 一种确定视频内容异常程度的方法、装置及计算设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210288880.1A CN114650447B (zh) | 2022-03-22 | 2022-03-22 | 一种确定视频内容异常程度的方法、装置及计算设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114650447A true CN114650447A (zh) | 2022-06-21 |
| CN114650447B CN114650447B (zh) | 2024-05-14 |
Family
ID=81996377
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210288880.1A Active CN114650447B (zh) | 2022-03-22 | 2022-03-22 | 一种确定视频内容异常程度的方法、装置及计算设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114650447B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115205766A (zh) * | 2022-09-16 | 2022-10-18 | 北京吉道尔科技有限公司 | 基于区块链的网络安全异常视频大数据检测方法及系统 |
| CN116714021A (zh) * | 2023-07-26 | 2023-09-08 | 上海迪成智能科技有限公司 | 基于数据分析的单轨吊巡检机器人智能测试方法 |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102236796A (zh) * | 2011-07-13 | 2011-11-09 | Tcl集团股份有限公司 | 数字视频不良内容的分类方法和系统 |
| CN102930553A (zh) * | 2011-08-10 | 2013-02-13 | 中国移动通信集团上海有限公司 | 不良视频内容识别方法及装置 |
| CN105554509A (zh) * | 2015-12-14 | 2016-05-04 | 上海交通大学 | 基于宏块类型变化特征的视频帧间篡改检测方法 |
| CN107590419A (zh) * | 2016-07-07 | 2018-01-16 | 北京新岸线网络技术有限公司 | 视频分析中的镜头关键帧提取方法及装置 |
| US10303950B1 (en) * | 2017-12-19 | 2019-05-28 | Adobe Inc. | Automated video correction |
| CN110517246A (zh) * | 2019-08-23 | 2019-11-29 | 腾讯科技（深圳）有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
| CN110852231A (zh) * | 2019-11-04 | 2020-02-28 | 云目未来科技(北京)有限公司 | 违规视频检测方法、装置以及存储介质 |
| CN111090776A (zh) * | 2019-12-20 | 2020-05-01 | 广州市百果园信息技术有限公司 | 一种视频审核的方法、装置、审核服务器和存储介质 |
| CN111405241A (zh) * | 2020-02-21 | 2020-07-10 | 中国电子技术标准化研究院 | 一种用于视频监控的边缘计算方法和系统 |
| CN112733629A (zh) * | 2020-12-28 | 2021-04-30 | 上海眼控科技股份有限公司 | 异常行为判断方法、装置、设备和存储介质 |
| CN113887432A (zh) * | 2021-09-30 | 2022-01-04 | 瑞森网安(福建)信息科技有限公司 | 一种视频审核方法及系统 |
-
2022
- 2022-03-22 CN CN202210288880.1A patent/CN114650447B/zh active Active
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102236796A (zh) * | 2011-07-13 | 2011-11-09 | Tcl集团股份有限公司 | 数字视频不良内容的分类方法和系统 |
| CN102930553A (zh) * | 2011-08-10 | 2013-02-13 | 中国移动通信集团上海有限公司 | 不良视频内容识别方法及装置 |
| CN105554509A (zh) * | 2015-12-14 | 2016-05-04 | 上海交通大学 | 基于宏块类型变化特征的视频帧间篡改检测方法 |
| CN107590419A (zh) * | 2016-07-07 | 2018-01-16 | 北京新岸线网络技术有限公司 | 视频分析中的镜头关键帧提取方法及装置 |
| US10303950B1 (en) * | 2017-12-19 | 2019-05-28 | Adobe Inc. | Automated video correction |
| CN110517246A (zh) * | 2019-08-23 | 2019-11-29 | 腾讯科技（深圳）有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
| CN110852231A (zh) * | 2019-11-04 | 2020-02-28 | 云目未来科技(北京)有限公司 | 违规视频检测方法、装置以及存储介质 |
| CN111090776A (zh) * | 2019-12-20 | 2020-05-01 | 广州市百果园信息技术有限公司 | 一种视频审核的方法、装置、审核服务器和存储介质 |
| CN111405241A (zh) * | 2020-02-21 | 2020-07-10 | 中国电子技术标准化研究院 | 一种用于视频监控的边缘计算方法和系统 |
| CN112733629A (zh) * | 2020-12-28 | 2021-04-30 | 上海眼控科技股份有限公司 | 异常行为判断方法、装置、设备和存储介质 |
| CN113887432A (zh) * | 2021-09-30 | 2022-01-04 | 瑞森网安(福建)信息科技有限公司 | 一种视频审核方法及系统 |
Non-Patent Citations (3)
| Title |
|---|
| YIHAO ZHANG 等: "A new approach for extracting and summarizing abnormal activities in surveillance videos", 《2014 IEEE INTERNATIONAL CONFERENCE ON MULTIMEDIA AND EXPO WORKSHOPS (ICMEW)》, 8 September 2014 (2014-09-08) * |
| 于京: "特殊视频内容分析算法研究", 《万方学位论文》, 1 February 2021 (2021-02-01) * |
| 李晗曦: "视频中敏感信息识别技术研究与实现", 《 CNKI优秀硕士学位论文全文库》, 15 August 2021 (2021-08-15) * |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115205766A (zh) * | 2022-09-16 | 2022-10-18 | 北京吉道尔科技有限公司 | 基于区块链的网络安全异常视频大数据检测方法及系统 |
| CN116714021A (zh) * | 2023-07-26 | 2023-09-08 | 上海迪成智能科技有限公司 | 基于数据分析的单轨吊巡检机器人智能测试方法 |
| CN116714021B (zh) * | 2023-07-26 | 2024-01-23 | 上海迪成智能科技有限公司 | 基于数据分析的单轨吊巡检机器人智能测试方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114650447B (zh) | 2024-05-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN114650447B (zh) | 一种确定视频内容异常程度的方法、装置及计算设备 | |
| CN109189767B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
| CN109492395B (zh) | 一种检测恶意程序的方法、装置及存储介质 | |
| WO2021164232A1 (zh) | 用户识别方法、装置、设备及存储介质 | |
| CN108550054B (zh) | 一种内容质量评估方法、装置、设备和介质 | |
| JP5723067B1 (ja) | データ分析システム、データ分析方法、および、データ分析プログラム | |
| US9514496B2 (en) | System for management of sentiments and methods thereof | |
| US11809519B2 (en) | Semantic input sampling for explanation (SISE) of convolutional neural networks | |
| CN108509561B (zh) | 基于机器学习的岗位招聘数据筛选方法、系统及存储介质 | |
| CN109101574B (zh) | 一种数据防泄漏系统的任务审批方法和系统 | |
| CN111191591A (zh) | 一种水印检测、视频处理方法和相关设备 | |
| CN114817933A (zh) | 评估业务预测模型鲁棒性的方法、装置及计算设备 | |
| CN114118398A (zh) | 目标类型网站的检测方法、系统、电子设备及存储介质 | |
| CN111163332A (zh) | 视频色情度检测方法、终端及介质 | |
| CN113836297B (zh) | 文本情感分析模型的训练方法及装置 | |
| KR101837003B1 (ko) | 온라인 커뮤니티 모니터링 방법 | |
| Thanos et al. | Combined deep learning and traditional NLP approaches for fire burst detection based on twitter posts | |
| CN114639056A (zh) | 直播内容的识别方法、装置、计算机设备及存储介质 | |
| CN114417860A (zh) | 一种信息检测方法、装置及设备 | |
| US10841653B2 (en) | Method and system for preventing upload of multimedia content with objectionable content into a server | |
| JP5118707B2 (ja) | 検索ログ悪用防止方法及び装置 | |
| CN113033500A (zh) | 动作片段检测方法、模型训练方法及装置 | |
| KR100926448B1 (ko) | 성인물 판단 방법 및 시스템 | |
| CN112801492B (zh) | 基于知识阶层的数据质检的方法、装置及计算机设备 | |
| CN114925373B (zh) | 基于用户评语的移动应用隐私保护政策漏洞自动识别的方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |