CN114155461A - 微小视频内容过滤与净化的方法和系统 - Google Patents

微小视频内容过滤与净化的方法和系统 Download PDF

Info

Publication number
CN114155461A
CN114155461A CN202111431381.5A CN202111431381A CN114155461A CN 114155461 A CN114155461 A CN 114155461A CN 202111431381 A CN202111431381 A CN 202111431381A CN 114155461 A CN114155461 A CN 114155461A
Authority
CN
China
Prior art keywords
data stream
video data
video
filtering
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111431381.5A
Other languages
English (en)
Inventor
苏长君
曾祥禄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zhimei Internet Technology Co ltd
Original Assignee
Beijing Zhimei Internet Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Zhimei Internet Technology Co ltd filed Critical Beijing Zhimei Internet Technology Co ltd
Priority to CN202111431381.5A priority Critical patent/CN114155461A/zh
Publication of CN114155461A publication Critical patent/CN114155461A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明提供一种微小视频内容过滤与净化的方法和系统，通过将接收的微小视频数据流经过两重视频采样，得到携带有边界和区域局部特征的高维图像，从而能够识别出物体和运动方式，判断是否合规，再经过情感分类处理，根据情感类型再次判断是否合规。

Description

微小视频内容过滤与净化的方法和系统
技术领域
本申请涉及网络多媒体领域，尤其涉及一种微小视频内容过滤与净化的方法和系统。
背景技术
随着网络视频快速普及，越来越多的小视频，例如抖音、广告等，其中很多小视频会涉及不合规的内容。然而由于视频比较短小，现有的视频内容检测方法难以取得好的效果。
因此，急需一种针对性的微小视频内容过滤与净化的方法和系统。
发明内容
本发明的目的在于提供一种微小视频内容过滤与净化的方法和系统，通过将接收的微小视频数据流经过两重视频采样，得到携带有边界和区域局部特征的高维图像，从而能够识别出物体和运动方式，判断是否合规，再经过情感分类处理，根据情感类型再次判断是否合规。
第一方面，本申请提供一种微小视频内容过滤与净化的方法，所述方法包括：
服务器接收微小视频数据流，所述微小视频是指播放时间长度小于10分钟的视频，将接收后的所述微小视频数据流进行视频采样，所述视频采样使用基础过滤单元来提取第一图像特征，将所述第一图像特征进行向量化，输入到N层卷积单元，根据所述N层卷积单元的输出结果，得到第一中间结果；
所述第一中间结果的每一个点生成一个锚点，锚点的值是由每个点的特征与四周相邻点的特征加权平均计算得到的；若干个锚点组成一个滑动窗，组成该滑动窗所需的锚点数目由最中间锚点所属的点的特征大小决定；
使用所述滑动窗再次对视频流量进行视频采样，提到第二图像特征，将所述第二图像特征进行向量化，输入到N层卷积单元，根据所述N层卷积单元的输出结果，得到第二中间结果；
对所述第二中间结果进行平滑处理，得到携带有边界和区域局部特征的高维图像，分析该高维图像，识别图像中的物体和运动方式，检测出该物体和运动方式是否合规，如果不合规则将该微小视频数据流过滤除去，如果合规则将该微小视频数据流传递到情感分类模型；
所述情感分类模型按照语义逐项分析，判断所述微小视频数据流是否包括指定关键词、语句含义、以及提取语境特征，根据所述语境特征和所述语句含义，判断弹幕的情感类型；
根据所述情感分类模型确定的情感类型，判断所述微小视频数据流携带的指定关键词是否符合该情感类型限定的合理范围，如果是则认定该微小视频数据流合规，允许播放，反之则认定该微小视频数据流不合规，将该微小视频数据流过滤除去。
结合第一方面，在第一方面第一种可能的实现方式中，所述N层卷积单元是由N个依次连接的卷积运算模块组成，N的值反映服务器负载处理的能力。
结合第一方面，在第一方面第二种可能的实现方式中，所述语句含义是指弹幕语句所指代的意思，所述语境特征是指弹幕语句所处的场景，该场景是根据语义分析模拟推测的。
结合第一方面，在第一方面第三种可能的实现方式中，所述识别图像中的物体和运动方式的过程中采用了神经网络模型。
第二方面，本申请提供一种微小视频内容过滤与净化的系统，所述系统包括处理器以及存储器：
所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
所述处理器用于根据所述程序代码中的指令执行第一方面四种可能中任一项所述的方法。
第三方面，本申请提供一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行第一方面四种可能中任一项所述的方法。
本发明提供一种微小视频内容过滤与净化的方法和系统，通过将接收的微小视频数据流经过两重视频采样，得到携带有边界和区域局部特征的高维图像，从而能够识别出物体和运动方式，判断是否合规，再经过情感分类处理，根据情感类型再次判断是否合规。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明方法的流程图。
具体实施方式
下面结合附图对本发明的优选实施例进行详细阐述，以使本发明的优点和特征能更易于被本领域技术人员理解，从而对本发明的保护范围做出更为清楚明确的界定。
图1为本申请提供的微小视频内容过滤与净化的方法的流程图，包括：
服务器接收微小视频数据流，所述微小视频是指播放时间长度小于10分钟的视频，将接收后的所述微小视频数据流进行视频采样，所述视频采样使用基础过滤单元来提取第一图像特征，将所述第一图像特征进行向量化，输入到N层卷积单元，根据所述N层卷积单元的输出结果，得到第一中间结果；
所述第一中间结果的每一个点生成一个锚点，锚点的值是由每个点的特征与四周相邻点的特征加权平均计算得到的；若干个锚点组成一个滑动窗，组成该滑动窗所需的锚点数目由最中间锚点所属的点的特征大小决定；
使用所述滑动窗再次对视频流量进行视频采样，提到第二图像特征，将所述第二图像特征进行向量化，输入到N层卷积单元，根据所述N层卷积单元的输出结果，得到第二中间结果；
对所述第二中间结果进行平滑处理，得到携带有边界和区域局部特征的高维图像，分析该高维图像，识别图像中的物体和运动方式，检测出该物体和运动方式是否合规，如果不合规则将该微小视频数据流过滤除去，如果合规则将该微小视频数据流传递到情感分类模型；
所述情感分类模型按照语义逐项分析，判断所述微小视频数据流是否包括指定关键词、语句含义、以及提取语境特征，根据所述语境特征和所述语句含义，判断弹幕的情感类型；
根据所述情感分类模型确定的情感类型，判断所述微小视频数据流携带的指定关键词是否符合该情感类型限定的合理范围，如果是则认定该微小视频数据流合规，允许播放，反之则认定该微小视频数据流不合规，将该微小视频数据流过滤除去。
在一些优选实施例中，所述N层卷积单元是由N个依次连接的卷积运算模块组成，N的值反映服务器负载处理的能力。
在一些优选实施例中，所述语句含义是指弹幕语句所指代的意思，所述语境特征是指弹幕语句所处的场景，该场景是根据语义分析模拟推测的。
在一些优选实施例中，所述识别图像中的物体和运动方式的过程中采用了神经网络模型。
本申请提供一种微小视频内容过滤与净化的系统，所述系统包括：所述系统包括处理器以及存储器：
所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
所述处理器用于根据所述程序代码中的指令执行第一方面所有实施例中任一项所述的方法。
本申请提供一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行第一方面所有实施例中任一项所述的方法。
具体实现中，本发明还提供一种计算机存储介质，其中，该计算机存储介质可以存储有程序，该程序执行时可包括本发明各个实施例中的部分或全部步骤。所述的存储介质可以为磁碟、光盘、只读存储记忆体(简称：ROM)或随机存储记忆体(简称：RAM)等。
本领域的技术人员可以清楚地了解到本发明实施例中的技术可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明实施例中的技术方案本质上或者对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。
本说明书各个实施例之间相同相似的部分互相参见即可。尤其，对于实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例中的说明即可。
以上所述的本发明实施方式并不构成对本发明保护范围的限定。

Claims (6)

1.一种微小视频内容过滤与净化的方法，其特征在于，所述方法包括：
服务器接收微小视频数据流，所述微小视频是指播放时间长度小于10分钟的视频，将接收后的所述微小视频数据流进行视频采样，所述视频采样使用基础过滤单元来提取第一图像特征，将所述第一图像特征进行向量化，输入到N层卷积单元，根据所述N层卷积单元的输出结果，得到第一中间结果；
所述第一中间结果的每一个点生成一个锚点，锚点的值是由每个点的特征与四周相邻点的特征加权平均计算得到的；若干个锚点组成一个滑动窗，组成该滑动窗所需的锚点数目由最中间锚点所属的点的特征大小决定；
使用所述滑动窗再次对视频流量进行视频采样，提到第二图像特征，将所述第二图像特征进行向量化，输入到N层卷积单元，根据所述N层卷积单元的输出结果，得到第二中间结果；
对所述第二中间结果进行平滑处理，得到携带有边界和区域局部特征的高维图像，分析该高维图像，识别图像中的物体和运动方式，检测出该物体和运动方式是否合规，如果不合规则将该微小视频数据流过滤除去，如果合规则将该微小视频数据流传递到情感分类模型；
所述情感分类模型按照语义逐项分析，判断所述微小视频数据流是否包括指定关键词、语句含义、以及提取语境特征，根据所述语境特征和所述语句含义，判断弹幕的情感类型；
根据所述情感分类模型确定的情感类型，判断所述微小视频数据流携带的指定关键词是否符合该情感类型限定的合理范围，如果是则认定该微小视频数据流合规，允许播放，反之则认定该微小视频数据流不合规，将该微小视频数据流过滤除去。
2.根据权利要求1所述的方法，其特征在于：所述N层卷积单元是由N个依次连接的卷积运算模块组成，N的值反映服务器负载处理的能力。
3.根据权利要求1-2任一项所述的方法，其特征在于：所述语句含义是指弹幕语句所指代的意思，所述语境特征是指弹幕语句所处的场景，该场景是根据语义分析模拟推测的。
4.根据权利要求1-3任一项所述的方法，其特征在于：所述识别图像中的物体和运动方式的过程中采用了神经网络模型。
5.一种微小视频内容过滤与净化的系统，其特征在于，所述系统包括处理器以及存储器：
所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
所述处理器用于根据所述程序代码中的指令执行实现权利要求1-4任一项所述的方法。
6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行实现权利要求1-4任一项所述的方法。
CN202111431381.5A 2021-11-29 2021-11-29 微小视频内容过滤与净化的方法和系统 Pending CN114155461A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111431381.5A CN114155461A (zh) 2021-11-29 2021-11-29 微小视频内容过滤与净化的方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111431381.5A CN114155461A (zh) 2021-11-29 2021-11-29 微小视频内容过滤与净化的方法和系统

Publications (1)

Publication Number Publication Date
CN114155461A true CN114155461A (zh) 2022-03-08

Family

ID=80784161

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111431381.5A Pending CN114155461A (zh) 2021-11-29 2021-11-29 微小视频内容过滤与净化的方法和系统

Country Status (1)

Country Link
CN (1) CN114155461A (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120069028A1 (en) * 2010-09-20 2012-03-22 Yahoo! Inc. Real-time animations of emoticons using facial recognition during a video chat
CN109918987A (zh) * 2018-12-29 2019-06-21 中国电子科技集团公司信息科学研究院 一种视频字幕关键词识别方法及装置
US20190278978A1 (en) * 2018-03-08 2019-09-12 Electronics And Telecommunications Research Institute Apparatus and method for determining video-related emotion and method of generating data for learning video-related emotion
CN111507421A (zh) * 2020-04-22 2020-08-07 上海极链网络科技有限公司 一种基于视频的情感识别方法及装置
CN112244873A (zh) * 2020-09-29 2021-01-22 陕西科技大学 一种基于混合神经网络的脑电时空特征学习与情感分类方法
CN113496217A (zh) * 2021-07-08 2021-10-12 河北工业大学 视频图像序列中人脸微表情识别方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120069028A1 (en) * 2010-09-20 2012-03-22 Yahoo! Inc. Real-time animations of emoticons using facial recognition during a video chat
US20190278978A1 (en) * 2018-03-08 2019-09-12 Electronics And Telecommunications Research Institute Apparatus and method for determining video-related emotion and method of generating data for learning video-related emotion
CN109918987A (zh) * 2018-12-29 2019-06-21 中国电子科技集团公司信息科学研究院 一种视频字幕关键词识别方法及装置
CN111507421A (zh) * 2020-04-22 2020-08-07 上海极链网络科技有限公司 一种基于视频的情感识别方法及装置
CN112244873A (zh) * 2020-09-29 2021-01-22 陕西科技大学 一种基于混合神经网络的脑电时空特征学习与情感分类方法
CN113496217A (zh) * 2021-07-08 2021-10-12 河北工业大学 视频图像序列中人脸微表情识别方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
朱思淼等: "基于弹幕情感分析和主题模型的视频推荐算法", 《计算机应用》, vol. 41, no. 10, 10 October 2021 (2021-10-10), pages 2813 - 2819 *

Similar Documents

Publication Publication Date Title
CN112559800B (zh) 用于处理视频的方法、装置、电子设备、介质和产品
CN105744292A (zh) 一种视频数据的处理方法及装置
CN111783712A (zh) 一种视频处理方法、装置、设备及介质
CN111310476A (zh) 一种使用基于方面的情感分析方法的舆情监控方法和系统
CN112188306B (zh) 一种标签生成方法、装置、设备及存储介质
CN112528637A (zh) 文本处理模型训练方法、装置、计算机设备和存储介质
CN111488813B (zh) 视频的情感标注方法、装置、电子设备及存储介质
CN114268747A (zh) 基于虚拟数字人的访谈业务处理方法及相关装置
CN112800919A (zh) 一种检测目标类型视频方法、装置、设备以及存储介质
CN115238105A (zh) 融合多媒体的违规内容检测方法及系统、设备和介质
CN113903361A (zh) 基于人工智能的语音质检方法、装置、设备及存储介质
CN112926341A (zh) 文本数据处理方法、装置
Cheng et al. Activity guided multi-scales collaboration based on scaled-CNN for saliency prediction
CN110516086B (zh) 一种基于深度神经网络影视标签自动获取方法
CN114155461A (zh) 微小视频内容过滤与净化的方法和系统
CN111008579A (zh) 专注度识别方法、装置和电子设备
CN106959945B (zh) 基于人工智能的为新闻生成短标题的方法和装置
CN115550684B (zh) 一种改进的视频内容过滤方法和系统
CN114610576A (zh) 一种日志生成监控方法和装置
CN114302227A (zh) 基于容器采集的网络视频采集与解析的方法和系统
CN111599363B (zh) 一种语音识别的方法及其装置
CN112632229A (zh) 文本聚类方法及装置
CN115019235B (zh) 一种场景划分和内容检测的方法和系统
CN107977360A (zh) 一种影视剧本中人物阵营的识别和划分方法
CN115550672B (zh) 网络直播环境下弹幕爆发行为识别方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 607a, 6 / F, No. 31, Fuchengmenwai street, Xicheng District, Beijing 100037

Applicant after: Beijing Guorui Digital Intelligence Technology Co.,Ltd.

Address before: 607a, 6 / F, No. 31, Fuchengmenwai street, Xicheng District, Beijing 100037

Applicant before: Beijing Zhimei Internet Technology Co.,Ltd.

CB02 Change of applicant information