CN110796012B - 图像处理方法、装置、电子设备及可读存储介质 - Google Patents

图像处理方法、装置、电子设备及可读存储介质 Download PDF

Info

Publication number
CN110796012B
CN110796012B CN201910936022.1A CN201910936022A CN110796012B CN 110796012 B CN110796012 B CN 110796012B CN 201910936022 A CN201910936022 A CN 201910936022A CN 110796012 B CN110796012 B CN 110796012B
Authority
CN
China
Prior art keywords
video image
video
frame
image
processed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910936022.1A
Other languages
English (en)
Other versions
CN110796012A (zh
Inventor
黄晓政
郑云飞
闻兴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Dajia Internet Information Technology Co Ltd
Original Assignee
Beijing Dajia Internet Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dajia Internet Information Technology Co Ltd filed Critical Beijing Dajia Internet Information Technology Co Ltd
Priority to CN201910936022.1A priority Critical patent/CN110796012B/zh
Publication of CN110796012A publication Critical patent/CN110796012A/zh
Priority to PCT/CN2020/110771 priority patent/WO2021057359A1/zh
Priority to US17/706,457 priority patent/US20220222831A1/en
Application granted granted Critical
Publication of CN110796012B publication Critical patent/CN110796012B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本公开提供了一种图像处理方法、装置、电子设备及可读存储介质,属于视频处理技术领域。本公开实施例中,可以提取待处理视频中的至少一帧基准视频图像,其中,基准视频图像的数量小于待处理视频中包含的视频图像的数量,根据基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧基准视频图像中的目标区域,对于每帧基准视频图像,根据基准视频图像中的目标区域,确定待处理视频中与基准视频图像关联的其他视频图像中的目标区域。这样,一定程度上可以降低确定各个视频图像中目标区域所耗费的计算资源及时间,提高确定效率。

Description

图像处理方法、装置、电子设备及可读存储介质
技术领域
本公开属于视频处理技术领域,特别是涉及一种图像处理方法、装置、电子设备及可读存储介质。
背景技术
为了提高视频的观看效果,经常需要对视频中包含的视频图像进行特定处理,例如,对视频图像进行超分辨率处理,进行图像增强处理,等等。在进行特定处理时,可能需要仅对视频图像中的目标区域进行该特定处理,例如,该目标区域可以为该视频图像中的显著区域,该显著区域可以是视频图像中是更容易被人们关注到的区域。
相关技术中,在确定视频图像中的目标区域时,往往是根据待处理视频中的每帧视频图像中的任意像素点与其周边背景的对比,对待处理视频中的每帧视频图像逐个进行区域识别,以确定出每一帧视频图像中的目标区域,示例的,该目标区域检测算法可以为显著区域检测算法。由于根据视频图像中的任意像素点与其周边背景的对比,对视频图像进行目标区域确定时,往往会耗费较多的计算资源,而待处理视频中包含的视频图像的数量也往往比较多,因此,相关技术中往往会耗费较多的计算资源及时间,整体效率较低。
发明内容
为克服相关技术中存在的问题,本公开提供一种图像处理方法、装置、电子设备及可读存储介质。
依据本公开的第一方面,提供了一种图像处理方法,该方法包括:
提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域;
对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域。
可选的,所述提取待处理视频中的至少一帧基准视频图像,包括:
从所述待处理视频的首帧视频图像开始,每间隔N帧视频图像选择一帧视频图像,得到至少一帧所述基准视频图像;或者,
从所述待处理视频包含的视频图像中任选至少一帧视频图像,得到至少一帧所述基准视频图像。
可选的,所述根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域,包括:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,基于预设的图像跟踪算法,确定所述其他视频图像的前一帧视频图像中的目标区域在所述其他视频图像中对应的区域,得到所述其他视频图像中的目标区域;
其中,图像时序最早的其他视频图像的前一帧视频图像为所述基准视频图像。
可选的,所述根据所述基准视频图像中的目标区域,确定与所述待处理视频中所述基准视频图像关联的其他视频图像中的目标区域,包括:
从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息;
根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
可选的,所述根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域,包括:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,将所述其他视频图像划分为多个视频图像块;
对于每个所述视频图像块,若所述运动信息中包含所述视频图像块对应的运动信息,则基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域;所述相邻视频图像至少包括所述基准视频图像;
若所述对应的区域位于所述相邻视频图像的目标区域内,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分;
将所有组成部分组成的区域确定为所述其他视频图像的目标区域。
其中,所述运动信息包括所述视频图像块中的每个像素点相对于所述前一帧视频图像中对应像素点的位移量以及位移方向。
可选的,所述方法还包括:
若所述运动信息中不包含所述视频图像块对应的运动信息,则确定所述视频图像块的相邻图像块是否为所述其他视频图像的目标区域组成部分;
若是,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分。
可选的,所述待处理视频为已编码视频;
所述从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息之前,还包括:
将已编码的所述待处理视频的编码结果作为所述待处理视频对应的编码结果;或者,对所述待处理视频进行重新编码,得到所述待处理视频的重新编码结果,以作为所述待处理视频对应的编码结果。
可选的,所述基准视频图像关联的其他视频图像是所述基准视频图像与后一帧基准视频图像之间的视频图像,所述相邻视频图像为所述视频图像块的前一帧视频图像;
所述基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域,包括:
对于所述视频图像块中的每个像素点,按照所述视频图像块中每个所述像素点的位移方向的反方向,将每个所述像素点移动所述位移量;
将移动后的每个所述像素点在所述前一帧视频图像中对应的像素点组成的区域,确定为所述对应的区域。
依据本公开的第二方面,提供了一种图像处理装置,该装置包括:
提取模块,被配置为提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
识别模块,被配置为根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域;
确定模块,被配置为对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域。
可选的,所述提取模块,被具体配置为:
从所述待处理视频的首帧视频图像开始,每间隔N帧视频图像选择一帧视频图像,得到至少一帧所述基准视频图像;或者,
从所述待处理视频包含的视频图像中任选至少一帧视频图像,得到至少一帧所述基准视频图像。
可选的,所述确定模块,被具体配置为:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,基于预设的图像跟踪算法,确定所述其他视频图像的前一帧视频图像中的目标区域在所述其他视频图像中对应的区域,得到所述其他视频图像中的目标区域;
其中,图像时序最早的其他视频图像的前一帧视频图像为所述基准视频图像。
可选的,所述确定模块,被具体配置为:
从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息;
根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
可选的,所述确定模块,还被具体配置为:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,将所述其他视频图像划分为多个视频图像块;
对于每个所述视频图像块,若所述运动信息中包含所述视频图像块对应的运动信息,则基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域;所述相邻视频图像至少包括所述基准视频图像;
若所述对应的区域位于所述相邻视频图像的目标区域内,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分;
将所有组成部分组成的区域确定为所述其他视频图像的目标区域。
其中,所述运动信息包括所述视频图像块中的每个像素点相对于所述前一帧视频图像中对应像素点的位移量以及位移方向。
可选的,所述确定模块,还被具体配置为:
若所述运动信息中不包含所述视频图像块对应的运动信息,则确定所述视频图像块的相邻图像块是否为所述其他视频图像的目标区域组成部分;
若是,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分。
可选的,所述待处理视频为已编码视频;
所述确定模块,还被具体配置为:
将已编码的所述待处理视频的编码结果作为所述待处理视频对应的编码结果;或者,对所述待处理视频进行重新编码,得到所述待处理视频的重新编码结果,以作为所述待处理视频对应的编码结果。
可选的,所述基准视频图像关联的其他视频图像是所述基准视频图像与后一帧基准视频图像之间的视频图像,所述相邻视频图像为所述视频图像块的前一帧视频图像;
所述确定模块,还被具体配置为:
对于所述视频图像块中的每个像素点,按照所述视频图像块中每个所述像素点的位移方向的反方向,将每个所述像素点移动所述位移量;
将移动后的每个所述像素点在所述前一帧视频图像中对应的像素点组成的区域,确定为所述对应的区域。
依据本公开的第三方面,提供了一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域;
对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域。
依据本公开的第四方面,提供了一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行一种图像处理方法,所述方法包括:提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域;
对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域。
本公开相比于相关技术,具有如下的优点和积极效果:
可以先提取待处理视频中的至少一帧基准视频图像,其中,基准视频图像的数量小于待处理视频中包含的视频图像的数量,接着,根据基准视频图像中任意像素点与其周边背景的对比,对至少一帧基准视频图像进行区域识别,以确定每帧基准视频图像中的目标区域,最后,对于每帧基准视频图像,根据基准视频图像中的目标区域,确定待处理视频中与基准视频图像关联的其他视频图像中的目标区域。本公开实施例中,仅需根据基准视频图像中任意像素点与其周边背景的对比,对待处理视频中的部分基准视频图像进行区域识别,其他视频图像中的目标区域可以基于这些基准视频图像中的目标区域进行确定,这样,由于无需根据视频图像中任意像素点与其周边背景的对比,对所有视频图像均进行区域识别,因此,一定程度上可以降低确定各个视频图像中目标区域所耗费的计算资源及时间,提高确定效率。
上述说明仅是本公开技术方案的概述,为了能够更清楚了解本公开的技术手段,而可依照说明书的内容予以实施,并且为了让本公开的上述和其它目的、特征和优点能够更明显易懂,以下特举本公开的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本公开的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1是本公开实施例提供的一种图像处理方法的步骤流程图;
图2是本公开实施例提供的另一种图像处理方法的步骤流程图;
图3-1是本公开实施例提供的又一种图像处理方法的步骤流程图;
图3-2是本公开实施例提供的一种检测示意图;
图4是本公开实施例提供的一种图像处理装置的框图;
图5是根据一示例性实施例示出的一种用于图像处理的装置的框图;
图6是根据一示例性实施例示出的一种用于图像处理的装置的框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
图1是本公开实施例提供的一种图像处理方法的步骤流程图,如图1所示,该方法可以包括:
步骤101、提取待处理视频中的至少一帧基准视频图像。
本公开实施例中,待处理视频是需要确定目标区域的视频,示例的,假设该目标区域为显著区域,需要对视频A中视频图像的显著区域进行图像增强处理,那么可以将视频A作为待处理视频。进一步地,该基准视频图像可以是从待处理视频选出的部分视频图像,该基准视频图像的数量小于该待处理视频中包含的视频图像的数量。
步骤102、根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域。
本公开实施例中,可以是基于区域检测算法实现根据基准视频图像中任意像素点与其周边背景的对比进行区域识别的。示例的,该区域检测算法可以为显著区域检测算法,该目标区域可以为显著区域。例如,可以将每帧基准视频图像分别作为该显著区域检测算法的输入,显著区域检测算法可以确定该基准视频图像中每个像素点的显著值,进而输出一张显著图,其中,该显著值可以是基于像素点在颜色、亮度、方位与周边背景的对比确定出的,也可以是基于像素点与其周边背景中的像素点在距离上的对比确定出的,本公开实施例对此不作限定。在生成显著图时,可以对基准视频图像进行多次高斯模糊,并且向下取样,以产生不同尺度下的多组图像,对于每一尺度下的图像,提取该图像的颜色特征、亮度特征及方位特征,得到每一尺度下的特征图,接着,可以对每个特征图进行归一化,并对每个特征图分别用二维高斯差函数进行卷积,并把卷积结果叠加回原特征图,最后将所有特征图叠加得到显著图,其中,该显著图可以为一个灰度图。在得到显著图之后,可以基于显著图中每个像素点的显著值,从该基准视频图像划出显著值大于预设阈值的像素点组成的区域,将该区域标注为显著区域。
步骤103、对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域。
本公开实施例中,每个基准视频图像可以关联有其他视频图像,示例的,基准视频图像关联的其他视频图像可以是该基准视频图像与另一个基准视频图像之间的非基准视频图像,相应地,所有的基准视频图像与所有的其他视频图像组成该待处理视频图像。进一步地,实际应用场景中,视频中包含的各帧视频图像之间的差异,往往是由像素点发生的相对变化引起的,例如,相邻两帧视频图像之间可能存在部分像素点发生了移动,进而形成了两帧不同的视频图像。因此,本公开实施例中,在确定了部分视频图像中的目标区域之后,可以基于这些基准视频图像中的目标区域以及基准视频图像中各个像素点与关联的其他视频图像中各个像素点之间的相对变化信息,确定出其他视频图像中的目标区域,进而省略基于目标区域检测算法对其他视频图像进行区域识别的操作,进而一定程度上节省计算资源及时间。
综上所述,本公开实施例提供的图像处理方法,可以先提取待处理视频中的至少一帧基准视频图像,其中,基准视频图像的数量小于待处理视频中包含的视频图像的数量,接着,根据基准视频图像中任意像素点与其周边背景的对比,对至少一帧基准视频图像进行区域识别,以确定每帧基准视频图像中的目标区域,最后,对于每帧基准视频图像,根据基准视频图像中的目标区域,确定待处理视频中与基准视频图像关联的其他视频图像中的目标区域。本公开实施例中,仅需根据基准视频图像中任意像素点与其周边背景的对比,对待处理视频中的部分基准视频图像进行区域识别,其他视频图像中的目标区域可以基于这些基准视频图像中的目标区域进行确定,这样,由于无需根据视频图像中任意像素点与其周边背景的对比,对所有视频图像均进行区域识别,因此,一定程度上可以降低确定各个视频图像中目标区域所耗费的计算资源及时间,提高确定效率。
图2是本公开实施例提供的另一种图像处理方法的步骤流程图,如图2所示,该方法可以包括:
步骤201、提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量。
具体的,在确定基准视频图像的一种实现方式中,可以是从待处理视频的首帧视频图像开始,每间隔N帧视频图像选择一帧视频图像,得到至少一帧所述基准视频图像。其中,N越小,需要根据视频图像中任意像素点与其周边背景的对比,进行识别的视频图像越多,即,需要基于区域检测算法识别的视频图像越多,所需消耗的计算时间及资源也越多,但是N越小,基准视频图像关联的其他视频图像的数量往往会越少,这样,确定的目标区域的准确度往往越高,相反地,N越大,需要基于根据视频图像中任意像素点与其周边背景的对比,进行识别的视频图像越少,所需消耗的计算时间及资源也越少,但是N越大,基准视频图像关联的其他视频图像的数量往往会越多,这样,确定的目标区域的准确度可能会越低,因此,N的具体值可以根据实际需要进行设置,例如,N可以为5,本公开实施例对此不作限定。示例的,假设待处理视频图像中包括100帧视频图像,那么,可以将第一帧视频图像、第6帧视频图像、第11帧视频图像,……,第11帧视频图像,作为基准视频图像,得到20帧基准视频图像。
本公开实施例中,通过间隔固定帧视频图像进行选择,可以使得每帧基准视频图像关联的其他视频图像的数量相同,这样,可以避免某些基准视频图像的关联的其他视频图像过多,导致基于该基准视频图像中的目标区域确定的其他视频图像中的目标区域不准确,进而可以区域确定的效果。
进一步地,在确定基准视频图像的另一种实现方式中,可以从待处理视频包含的视频图像中任选至少一帧视频图像,得到至少一帧基准视频图像。示例的,可以间隔2帧视频图像选择一帧视频图像,接着,间隔5帧视频图像选择一帧视频图像,接着,间隔4帧视频图像选择一帧视频图像,等等,最后,将选择的视频图像作为基准视频图像。本实现方式中,可以不受预设值N的限制,每次选择时候,可以随机间隔任意数量的帧视频图像进行选择,即,通过非等间距的方式进行选择,这样,可以提高选择操作的灵活性。
步骤202、根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域。
具体的,本步骤的实现方式可以参照上述步骤102,本公开实施例在此不做赘述。
步骤203、对于每帧所述基准视频图像,按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,基于预设的图像跟踪算法,确定所述其他视频图像的前一帧视频图像中的目标区域在所述其他视频图像中对应的区域,得到所述其他视频图像中的目标区域。
本步骤中,图像时序表示视频图像在待处理视频中出现的时间先后顺序,示例的,假设视频图像a在待处理视频的第10秒出现,视频图像b在待处理视频的第30秒出现,视频图像c在待处理视频的第20秒出现,那么视频图像a的图像时序早于视频图像c的的图像时序,视频图像c的图像时序早于视频图像b的的图像时序。
进一步地,基准视频图像关联的其他视频图像可以是该基准视频图像与后一帧基准视频图像之间的非基准视频图像,这些其他视频图像中,图像时序最早的其他视频图像的前一帧视频图像即为该基准视频图像,因此,本步骤中可以基于预设的图像跟踪算法,对该基准视频图像中的目标区域进行跟踪,以确定出该基准视频图像中的目标区域在该其他视频图像中对应的区域,得到该其他视频图像的目标区域,接着可以对该其他视频图像的目标区域进行跟踪,以确定出图像时序仅晚于该帧其他视频图像的其他视频图像中的目标区域。具体的,该预设的跟踪算法可以是光流跟踪算法,其中,光流跟踪算法可以基于亮度恒定原则,即,同一点随着时间的变化,其亮度不会发生改变,以及空间一致原则,即,一个像素点邻近的像素点投影到下一帧图像上也是邻近点,且速度一致,基于前一帧视频图像中的目标区域中像素点的亮度特征及邻近像素点的速度特征,预测该像素点在该其他视频图像中对应的像素点,进而得到该其他视频图像中的目标区域。本公开实施例中,仅需将前一帧视频图像作为预设的跟踪算法的输入,即可确定出其他视频图像中的目标区域,进而可以一定程度上可以提高确定其他视频图像中目标区域的效率。
同时,本步骤中,由于相邻的视频图像之间的差异往往较小,因此,按照图像时序依次确定的方式,可以使得每次要跟踪的图像的差异较小,进而一定程度上可以使得基于跟踪算法能够准确的跟踪到对应的区域,提高确定效果。
综上所述,本公开实施例提供的图像处理方法,可以先提取待处理视频中的至少一帧基准视频图像,其中,基准视频图像的数量小于待处理视频中包含的视频图像的数量,接着,根据基准视频图像中任意像素点与其周边背景的对比,对至少一帧基准视频图像进行区域识别,以确定每帧基准视频图像中的目标区域,最后,对于每帧基准视频图像关联的其他视频图像,按照每帧其他视频图像的图像时序,基于预设的图像跟踪算法,确定其他视频图像的前一帧视频图像中的目标区域在其他视频图像中对应的区域,得到其他视频图像中的目标区域。本公开实施例中,仅需根据基准视频图像中任意像素点与其周边背景的对比,对待处理视频中的部分基准视频图像进行区域识别,其他视频图像中的目标区域可以基于这些基准视频图像中的目标区域进行确定,这样,由于无需根据视频图像中任意像素点与其周边背景的对比,对所有视频图像均进行区域识别,因此,一定程度上可以降低确定各个视频图像中目标区域所耗费的计算资源及时间,提高确定效率。
图3-1是本公开实施例提供的又一种图像处理方法的步骤流程图,如图301所示,该方法可以包括:
步骤301、提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量。
具体的,本步骤的实现方式可以参照前述步骤202,本公开实施例对此不作限定。
步骤302、根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域。
具体的,本步骤的实现方式可以参照上述步骤102,本公开实施例在此不做赘述。
步骤303、对于每帧所述基准视频图像,从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息。
本步骤中,对待处理视频进行编码操作时,通常是提取待处理视频中包含的每个关键帧图像,对于每个关键帧图像,会获取该关键帧图像后边邻接的多个非关键帧图像中的各个像素点相对于该关键帧图像中对应的像素点的位置量及位移方向,进而得到运动信息,最后,将关键帧图像及非关键帧图像对应的运动信息作为编码结果。因此,本公开实施例中,可以从待处理视频对应的编码结果中,获取其他视频图像对应的运动信息,以便于后续过程中基于这些信息进行识别。
相应地,在从待处理视频对应的编码结果中,获取其他视频图像对应的运动信息之前,还可以先获取该待处理视频对应的编码结果。具体的,在视频流媒体的点播场景中,视频生产者将待处理视频上传至服务器时候,往往会对该待处理视频进行一次编码,即,该待处理视频是已编码的视频。因此,本步骤中,可以将已编码的待处理视频的编码结果作为待处理视频对应的编码结果。进一步地,由于实际应用场景中,视频平台方可能会有自定义的视频编码标准,相应地,可能会按照自定义的视频编码标准,对接收的待处理视频进行重新编码,因此,该待处理视频对应的编码结果也可以为重新编码操作的结果,相应地,在本步骤之前,可以对待处理视频进行编码操作,得到待处理视频的重新编码结果,然后将该重新编码结果作为待处理视频对应的编码结果。具体的,该重新编码操作可以是以该已编码的待处理视频的编码结果为基础,基于该编码结果中的内容进行重新编码,由于该编码结果的内容的数据量小于待处理视频本身的数据量,因此,基于该编码结果进行重新编码操作的方式,一定程度上可以减少处理资源的占用,进而避免出现卡顿的问题。
步骤304、根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
由于运动信息可以体现视频图像之间的像素点的相对变化,因此,本公开实施例中,可以结合基准视频图像中的目标区域及其他视频图像对应的运动信息,确定其他视频图像中的目标区域。这样,仅需根据基准视频图像中任意像素点与其周边背景的对比,确定出待处理视频中部分基准视频图像中的目标区域,后续结合其他视频图像对应的运动信息,即可确定出其他视频图像中的目标区域,进而可以一定程度上可以提高确定待处理视频中的所有视频图像中目标区域的效率。
具体的,本步骤可以通过下述子步骤(1)~子步骤(4)实现:
子步骤(1):按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,将所述其他视频图像划分为多个视频图像块。
本步骤中,可以按照预设尺寸将该其他视频图像划分为多个预设尺寸的视频图像块,其中,该预设尺寸的具体值,可以是基于实际需求设置的,预设尺寸越小,视频图像块越多,相应地,基于该视频图像块确定的目标区域越精确,但是耗费的处理资源越多。而预设尺寸越大,视频图像块越少,相应地,基于该视频图像块确定的目标区域的精确程度越低,但是耗费的处理资源越少。
子步骤(2):对于每个所述视频图像块,若所述运动信息中包含所述视频图像块对应的运动信息,则基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域。
本步骤中,该相邻视频图像中至少包括基准视频图像,该视频图像块对应的运动信息包括该视频图像块中的每个像素点相对于前一帧视频图像中对应像素点的位移量以及位移方向。进一步地,由于实际应用场景中,可能会出现运动信息缺失的问题,因此,本步骤中,可以先判断运动信息中是否包含该视频图像块对应的运动信息,如果包含,则可以基于视频图像块对应的运动信息,确定该视频图像块在视频图像块的相邻视频图像中对应的区域。
具体的,基准视频图像关联的其他视频图像可以是基准视频图像与后一帧基准视频图像之间的视频图像,即,基准视频图像关联的其他视频图像的图像时序均晚于该基准视频图像的图像时序。相应地,该视频图像块的相邻视频图像可以是该视频图像块的前一帧视频图像。
由于该视频图像块对应的运动信息包括的是该视频图像块中的每个像素点相对于前一帧视频图像中对应像素点的位移量以及位移方向,因此,要确定出该视频图像块在前一帧视频图像中对应的区域时,可以基于该视频图像块中的每个像素点相对于前一帧视频图像中对应像素点的位移量以及位移方向,将该视频图像块中的每个像素点,按照每个像素点的位移方向的反方向,将每个像素点移动该位移量,接着,将移动后的每个像素点在前一帧视频图像中对应的像素点组成的区域,确定为对应的区域。示例的,位移量可以是坐标值,坐标值的正负性可以表示不同的位移方向。这样,基于视频图像块中的每个像素对应的位移量及位移方向,对视频图像块中的每个像素进行移动,可以实现将视频图像块映射至前一帧视频图像中,进而得到该视频图像块对应的区域。
子步骤(3):若所述对应的区域位于所述相邻视频图像的目标区域内,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分。
本步骤中,可以判断该对应的区域是否落入该相邻视频图像的目标区域内,如果位于则可以认为该视频图像块的内容是该相邻视频图像的目标区域中的内容,相应地,可以将该视频图像块确定为该其他视频图像的目标区域组成部分。
示例的,图3-2是本公开实施例提供的一种检测示意图,如图3-2所示,A表示已经确定出目标区域的相邻视频图像,B表示其他视频图像,其中,a区域表示该相邻视频图像中的目标区域,b区域表示一个其他视频图像中的视频图像块,c区域表示其他视频图像中的另一个视频图像块,d区域是b区域在相邻视频图像中对应的区域,e区域是c区域在相邻视频图像中对应的区域,可以看出,d区域位于相邻视频图像的目标区域中,e区域不位于相邻视频图像的目标区域。因此,可以将b区域表示的视频图像块确定为目标区域组成部分。本公开实施例中,仅需基于运动信息,确定其他视频图像的视频图像块对应的区域是否位于前一帧视频图像的目标区域中,即可确定出该其他视频图像中的目标区域,这样,仅需根据基准视频图像中任意像素点与其周边背景的对比,对待处理视频中的部分基准视频图像进行区域识别,即可实现对所有视频图像均进行区域识别。因此,一定程度上可以降低确定各个视频图像中目标区域所耗费的计算资源及时间,提高确定效率。
进一步地,若运动信息中不包含视频图像块对应的运动信息,则可以确定该视频图像块的相邻图像块是否为其他视频图像的目标区域组成部分。若是,则可以将该视频图像块,确定为该其他视频图像的目标区域组成部分。其中,该视频图像块的相邻图像块可以是与该视频图像块邻接的图像块,该相邻图像块可以是任一邻接的图像块。如果视频图像块的相邻图像块是该其他视频图像的目标区域组成部分,则可以认为该视频图像块很大概率也属于目标区域组成部分,因此,可以直接基于相邻图像块来进行确定。这样,对于运动信息缺失视频图像块,也能快速的确定出该视频图像块是否为目标区域组成部分,进而确保目标区域检测的效率。
子步骤(4):将所有组成部分组成的区域确定为所述其他视频图像的目标区域。
假设该其他视频图像中有3个视频图像块对应的区域位于相邻视频图像的目标区域内,这3个视频图像块组成的区域即为该其他视频图像的目标区域。
进一步地,假设基准视频图像为图像X,关联的其他视频图像分别为:图像Y及图像Z,其中,图像X的图像时序最早、图像Y的图像时序次之及图像Z的图像时序最晚,那么可以先基于图像Y的运动信息,确定图像Y中每个视频图像块在图像X中对应的区域,将对应的区域位于图像X的目标区域的视频图像块所组成的区域,确定为图像b中的目标区域,进而得到图像b中的目标区域。接着,可以确定图像Z中每个视频图像块在图像Y中对应的区域,将对应的区域位于图像Y的目标区域的视频图像块所组成的区域,确定为图像Z中的目标区域,进而得到图像Z中的目标区域。
综上所述,本公开实施例提供的图像处理方法,可以先提取待处理视频中的至少一帧基准视频图像,其中,基准视频图像的数量小于待处理视频中包含的视频图像的数量,接着,根据基准视频图像中任意像素点与其周边背景的对比,对至少一帧基准视频图像进行区域识别,以确定每帧基准视频图像中的目标区域,然后,对于每帧基准视频图像,从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息,最后,根据基准视频图像中的目标区域及基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧其他视频图像中的目标区域。这样,由于无需根据视频图像中任意像素点与其周边背景的对比,对所有视频图像均进行区域识别,即可确定出待处理视频中的所有视频图像中的目标区域。因此,一定程度上可以降低确定各个视频图像中目标区域所耗费的计算资源及时间,提高确定效率。
图4是本公开实施例提供的一种图像处理装置的框图,如图4所示,该装置40可以包括:
提取模块401,被配置为提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量。
识别模块402,被配置为根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域。
确定模块403,被配置为对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域。
综上所述,本公开实施例提供的图像处理装置,可以先提取待处理视频中的至少一帧基准视频图像,其中,基准视频图像的数量小于待处理视频中包含的视频图像的数量,接着,根据基准视频图像中任意像素点与其周边背景的对比,对至少一帧基准视频图像进行区域识别,以确定每帧基准视频图像中的目标区域,最后,对于每帧基准视频图像,根据基准视频图像中的目标区域,确定待处理视频中与基准视频图像关联的其他视频图像中的目标区域。本公开实施例中,仅需根据基准视频图像中任意像素点与其周边背景的对比,对待处理视频中的部分基准视频图像进行区域识别,其他视频图像中的目标区域可以基于这些基准视频图像中的目标区域进行确定,这样,由于无需根据视频图像中任意像素点与其周边背景的对比,对所有视频图像均进行区域识别,因此,一定程度上可以降低确定各个视频图像中目标区域所耗费的计算资源及时间,提高确定效率。
可选的,所述提取模块401,被具体配置为:
从所述待处理视频的首帧视频图像开始,每间隔N帧视频图像选择一帧视频图像,得到至少一帧所述基准视频图像。
或者,从所述待处理视频包含的视频图像中任选至少一帧视频图像,得到至少一帧所述基准视频图像。
可选的,所述确定模块403,被具体配置为:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,基于预设的图像跟踪算法,确定所述其他视频图像的前一帧视频图像中的目标区域在所述其他视频图像中对应的区域,得到所述其他视频图像中的目标区域。
其中,图像时序最早的其他视频图像的前一帧视频图像为所述基准视频图像。
可选的,所述确定模块403,被具体配置为:
从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息。
根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
可选的,所述确定模块403,还被具体配置为:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,将所述其他视频图像划分为多个视频图像块。
对于每个所述视频图像块,若所述运动信息中包含所述视频图像块对应的运动信息,则基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域;所述相邻视频图像至少包括所述基准视频图像;。
若所述对应的区域位于所述相邻视频图像的目标区域内,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分。
将所有组成部分组成的区域确定为所述其他视频图像的目标区域。
其中,所述运动信息包括所述视频图像块中的每个像素点相对于所述前一帧视频图像中对应像素点的位移量以及位移方向。
可选的,所述确定模块403,还被具体配置为:
若所述运动信息中不包含所述视频图像块对应的运动信息,则确定所述视频图像块的相邻图像块是否为所述其他视频图像的目标区域组成部分。
若是,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分。
可选的,所述待处理视频为已编码视频。
所述确定模块403,还被具体配置为:
将已编码的所述待处理视频的编码结果作为所述待处理视频对应的编码结果;或者,对所述待处理视频进行重新编码,得到所述待处理视频的重新编码结果,以作为所述待处理视频对应的编码结果。
可选的,所述基准视频图像关联的其他视频图像是所述基准视频图像与后一帧基准视频图像之间的视频图像,所述相邻视频图像为所述视频图像块的前一帧视频图像。
所述确定模块403,还被具体配置为:
对于所述视频图像块中的每个像素点,按照所述视频图像块中每个所述像素点的位移方向的反方向,将每个所述像素点移动所述位移量。
将移动后的每个所述像素点在所述前一帧视频图像中对应的像素点组成的区域,确定为所述对应的区域。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
根据本公开的一个实施例,提供了一种电子设备,包括:处理器、用于存储处理器可执行指令的存储器,其中,处理器被配置为执行时实现如上述任一个实施例中的图像处理方法中的步骤。
根据本公开的一个实施例,还提供了一种非临时性计算机可读存储介质,当存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行如上述任一个实施例中的图像处理方法中的步骤。
根据本公开的一个实施例,还提供了一种应用程序,当应用程序由移动终端的处理器执行时,使得移动终端能够执行如上述任一个实施例中的图像处理方法中的步骤。
图5是根据一示例性实施例示出的一种用于图像处理的装置的框图。例如,装置500可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图5,装置500可以包括以下一个或多个组件:处理组件502,存储器504,电力组件506,多媒体组件508,音频组件510,输入/输出(I/O)的接口512,传感器组件514,以及通信组件516。
处理组件502通常控制装置500的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件502可以包括一个或多个处理器520来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件502可以包括一个或多个模块,便于处理组件502和其他组件之间的交互。例如,处理组件502可以包括多媒体模块,以方便多媒体组件508和处理组件502之间的交互。
存储器504被配置为存储各种类型的数据以支持在设备500的操作。这些数据的示例包括用于在装置500上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件506为装置500的各种组件提供电力。电源组件506可以包括电源管理系统,一个或多个电源,及其他与为装置500生成、管理和分配电力相关联的组件。
多媒体组件508包括在所述装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件508包括一个前置摄像头和/或后置摄像头。当设备500处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件510被配置为输出和/或输入音频信号。例如,音频组件510包括一个麦克风(MIC),当装置500处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件516发送。在一些实施例中,音频组件510还包括一个扬声器,用于输出音频信号。
I/O接口512为处理组件502和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件514包括一个或多个传感器,用于为装置500提供各个方面的状态评估。例如,传感器组件514可以检测到设备500的打开/关闭状态,组件的相对定位,例如所述组件为装置500的显示器和小键盘,传感器组件514还可以检测装置500或装置500一个组件的位置改变,用户与装置500接触的存在或不存在,装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件514还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件516被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件516经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件516还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器504,上述指令可由装置500的处理器520执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图6是根据一示例性实施例示出的一种用于图像处理的装置的框图。例如,装置600可以被提供为一服务器。参照图6,装置600包括处理组件622,其进一步包括一个或多个处理器,以及由存储器632所代表的存储器资源,用于存储可由处理组件622的执行的指令,例如应用程序。存储器632中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件622被配置为执行指令,以执行上述图像处理方法。
装置600还可以包括一个电源组件626被配置为执行装置600的电源管理,一个有线或无线网络接口650被配置为将装置600连接到网络,和一个输入输出(I/O)接口658。装置600可以操作基于存储在存储器632的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (16)

1.一种图像处理方法,其特征在于,所述方法包括:
提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域,包括:将每帧所述基准视频图像分别作为显著区域检测算法的输入,得到显著图,所述显著区域检测算法用于确定所述基准视频图像中每个像素点的显著值,其中,所述显著值是基于所述像素点在颜色、亮度、方位与其所述周边背景的对比确定得到的,或者,所述显著值是基于所述像素点与其所述周边背景中的像素点在距离上的对比确定得到的;基于所述显著图中每个像素点的显著值,将所述基准视频图像中显著值大于预设阈值的像素点组成的区域确定为目标区域;
对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域;
其中,所述根据所述基准视频图像中的目标区域,确定与所述待处理视频中所述基准视频图像关联的其他视频图像中的目标区域,包括:
从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息;
根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
2.根据权利要求1所述的方法,其特征在于,所述提取待处理视频中的至少一帧基准视频图像,包括:
从所述待处理视频的首帧视频图像开始,每间隔N帧视频图像选择一帧视频图像,得到至少一帧所述基准视频图像;或者,
从所述待处理视频包含的视频图像中任选至少一帧视频图像,得到至少一帧所述基准视频图像。
3.根据权利要求1所述的方法,其特征在于,所述根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域,包括:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,基于预设的图像跟踪算法,确定所述其他视频图像的前一帧视频图像中的目标区域在所述其他视频图像中对应的区域,得到所述其他视频图像中的目标区域;
其中,图像时序最早的其他视频图像的前一帧视频图像为所述基准视频图像。
4.根据权利要求3所述的方法,其特征在于,所述根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域,包括:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,将所述其他视频图像划分为多个视频图像块;
对于每个所述视频图像块,若所述运动信息中包含所述视频图像块对应的运动信息,则基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域;所述相邻视频图像至少包括所述基准视频图像;
若所述对应的区域位于所述相邻视频图像的目标区域内,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分;
将所有组成部分组成的区域确定为所述其他视频图像的目标区域;
其中,所述运动信息包括所述视频图像块中的每个像素点相对于所述前一帧视频图像中对应像素点的位移量以及位移方向。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若所述运动信息中不包含视频图像块对应的运动信息,则确定所述视频图像块的相邻图像块是否为所述其他视频图像的目标区域组成部分;
若是,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分。
6.根据权利要求1所述的方法,其特征在于,所述待处理视频为已编码视频;
所述从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息之前,还包括:
将已编码的所述待处理视频的编码结果作为所述待处理视频对应的编码结果;或者,对所述待处理视频进行重新编码,得到所述待处理视频的重新编码结果,以作为所述待处理视频对应的编码结果。
7.根据权利要求4所述的方法,其特征在于,所述基准视频图像关联的其他视频图像是所述基准视频图像与后一帧基准视频图像之间的视频图像,所述相邻视频图像为所述视频图像块的前一帧视频图像;
所述基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域,包括:
对于所述视频图像块中的每个像素点,按照所述视频图像块中每个所述像素点的位移方向的反方向,将每个所述像素点移动所述位移量;
将移动后的每个所述像素点在所述前一帧视频图像中对应的像素点组成的区域,确定为所述对应的区域。
8.一种图像处理装置,其特征在于,所述装置包括:
提取模块,被配置为提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
识别模块,被配置为根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域,包括:将每帧所述基准视频图像分别作为显著区域检测算法的输入,得到显著图,所述显著区域检测算法用于确定所述基准视频图像中每个像素点的显著值,其中,所述显著值是基于所述像素点在颜色、亮度、方位与其所述周边背景的对比确定得到的,或者,所述显著值是基于所述像素点与其所述周边背景中的像素点在距离上的对比确定得到的;基于所述显著图中每个像素点的显著值,将所述基准视频图像中显著值大于预设阈值的像素点组成的区域确定为目标区域;
确定模块,被配置为对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域;
其中,所述根据所述基准视频图像中的目标区域,确定与所述待处理视频中所述基准视频图像关联的其他视频图像中的目标区域,包括:
从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息;
根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
9.根据权利要求8所述的装置,其特征在于,所述提取模块,被具体配置为:
从所述待处理视频的首帧视频图像开始,每间隔N帧视频图像选择一帧视频图像,得到至少一帧所述基准视频图像;或者,
从所述待处理视频包含的视频图像中任选至少一帧视频图像,得到至少一帧所述基准视频图像。
10.根据权利要求8所述的装置,其特征在于,所述确定模块,被具体配置为:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,基于预设的图像跟踪算法,确定所述其他视频图像的前一帧视频图像中的目标区域在所述其他视频图像中对应的区域,得到所述其他视频图像中的目标区域;
其中,图像时序最早的其他视频图像的前一帧视频图像为所述基准视频图像。
11.根据权利要求10所述的装置,其特征在于,所述确定模块,还被具体配置为:
按照所述基准视频图像关联的每帧所述其他视频图像的图像时序,对于每帧所述其他视频图像,将所述其他视频图像划分为多个视频图像块;
对于每个所述视频图像块,若所述运动信息中包含所述视频图像块对应的运动信息,则基于所述视频图像块对应的运动信息,确定所述视频图像块在所述视频图像块的相邻视频图像中对应的区域;所述相邻视频图像至少包括所述基准视频图像;
若所述对应的区域位于所述相邻视频图像的目标区域内,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分;
将所有组成部分组成的区域确定为所述其他视频图像的目标区域;
其中,所述运动信息包括所述视频图像块中的每个像素点相对于所述前一帧视频图像中对应像素点的位移量以及位移方向。
12.根据权利要求8所述的装置,其特征在于,所述确定模块,还被具体配置为:
若所述运动信息中不包含视频图像块对应的运动信息,则确定所述视频图像块的相邻图像块是否为所述其他视频图像的目标区域组成部分;
若是,则将所述视频图像块,确定为所述其他视频图像的目标区域组成部分。
13.根据权利要求8所述的装置,其特征在于,所述待处理视频为已编码视频;
所述确定模块,还被具体配置为:
将已编码的所述待处理视频的编码结果作为所述待处理视频对应的编码结果;或者,对所述待处理视频进行重新编码,得到所述待处理视频的重新编码结果,以作为所述待处理视频对应的编码结果。
14.根据权利要求11所述的装置,其特征在于,所述基准视频图像关联的其他视频图像是所述基准视频图像与后一帧基准视频图像之间的视频图像,所述相邻视频图像为所述视频图像块的前一帧视频图像;
所述确定模块,还被具体配置为:
对于所述视频图像块中的每个像素点,按照所述视频图像块中每个所述像素点的位移方向的反方向,将每个所述像素点移动所述位移量;
将移动后的每个所述像素点在所述前一帧视频图像中对应的像素点组成的区域,确定为所述对应的区域。
15.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域,包括:将每帧所述基准视频图像分别作为显著区域检测算法的输入,得到显著图,所述显著区域检测算法用于确定所述基准视频图像中每个像素点的显著值,其中,所述显著值是基于所述像素点在颜色、亮度、方位与其所述周边背景的对比确定得到的,或者,所述显著值是基于所述像素点与其所述周边背景中的像素点在距离上的对比确定得到的;基于所述显著图中每个像素点的显著值,将所述基准视频图像中显著值大于预设阈值的像素点组成的区域确定为目标区域;
对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域;
其中,所述根据所述基准视频图像中的目标区域,确定与所述待处理视频中所述基准视频图像关联的其他视频图像中的目标区域,包括:
从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息;
根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
16.一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行一种图像处理方法,所述方法包括:
提取待处理视频中的至少一帧基准视频图像;所述基准视频图像的数量小于所述待处理视频中包含的视频图像的数量;
根据至少一帧所述基准视频图像中任意像素点与其周边背景的对比,对至少一帧所述基准视频图像进行区域识别,以确定每帧所述基准视频图像中的目标区域,包括:将每帧所述基准视频图像分别作为显著区域检测算法的输入,得到显著图,所述显著区域检测算法用于确定所述基准视频图像中每个像素点的显著值,其中,所述显著值是基于所述像素点在颜色、亮度、方位与其所述周边背景的对比确定得到的,或者,所述显著值是基于所述像素点与其所述周边背景中的像素点在距离上的对比确定得到的;基于所述显著图中每个像素点的显著值,将所述基准视频图像中显著值大于预设阈值的像素点组成的区域确定为目标区域;
对于每帧所述基准视频图像,根据所述基准视频图像中的目标区域,确定所述待处理视频中与所述基准视频图像关联的其他视频图像中的目标区域;
其中,所述根据所述基准视频图像中的目标区域,确定与所述待处理视频中所述基准视频图像关联的其他视频图像中的目标区域,包括:
从所述待处理视频对应的编码结果中,获取所述基准视频图像关联的其他视频图像对应的运动信息;
根据所述基准视频图像中的目标区域及所述基准视频图像关联的每帧其他视频图像对应的运动信息,确定每帧所述其他视频图像中的目标区域。
CN201910936022.1A 2019-09-29 2019-09-29 图像处理方法、装置、电子设备及可读存储介质 Active CN110796012B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201910936022.1A CN110796012B (zh) 2019-09-29 2019-09-29 图像处理方法、装置、电子设备及可读存储介质
PCT/CN2020/110771 WO2021057359A1 (zh) 2019-09-29 2020-08-24 图像处理方法、电子设备及可读存储介质
US17/706,457 US20220222831A1 (en) 2019-09-29 2022-03-28 Method for processing images and electronic device therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910936022.1A CN110796012B (zh) 2019-09-29 2019-09-29 图像处理方法、装置、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN110796012A CN110796012A (zh) 2020-02-14
CN110796012B true CN110796012B (zh) 2022-12-27

Family

ID=69439960

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910936022.1A Active CN110796012B (zh) 2019-09-29 2019-09-29 图像处理方法、装置、电子设备及可读存储介质

Country Status (3)

Country Link
US (1) US20220222831A1 (zh)
CN (1) CN110796012B (zh)
WO (1) WO2021057359A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110796012B (zh) * 2019-09-29 2022-12-27 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及可读存储介质
CN111294512A (zh) * 2020-02-10 2020-06-16 深圳市铂岩科技有限公司 图像处理方法、装置、存储介质及摄像装置
CN113553963A (zh) * 2021-07-27 2021-10-26 广联达科技股份有限公司 安全帽的检测方法、装置、电子设备及可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104301596A (zh) * 2013-07-11 2015-01-21 炬芯(珠海)科技有限公司 一种视频处理方法及装置
CN105631803A (zh) * 2015-12-17 2016-06-01 小米科技有限责任公司 滤镜处理的方法和装置
CN107277301A (zh) * 2016-04-06 2017-10-20 杭州海康威视数字技术股份有限公司 监控视频的图像分析方法及其系统
CN107295309A (zh) * 2017-07-29 2017-10-24 安徽博威康信息技术有限公司 一种基于多监控视频的目标人物锁定显示系统
CN108961304A (zh) * 2017-05-23 2018-12-07 阿里巴巴集团控股有限公司 识别视频中运动前景的方法和确定视频中目标位置的方法
CN109635657A (zh) * 2018-11-12 2019-04-16 平安科技(深圳)有限公司 目标跟踪方法、装置、设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103116896B (zh) * 2013-03-07 2015-07-15 中国科学院光电技术研究所 一种基于视觉显著性模型的自动检测跟踪方法
CN106611412A (zh) * 2015-10-20 2017-05-03 成都理想境界科技有限公司 贴图视频生成方法及装置
CN110189378B (zh) * 2019-05-23 2022-03-04 北京奇艺世纪科技有限公司 一种视频处理方法、装置及电子设备
CN110267010B (zh) * 2019-06-28 2021-04-13 Oppo广东移动通信有限公司 图像处理方法、装置、服务器及存储介质
CN110796012B (zh) * 2019-09-29 2022-12-27 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及可读存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104301596A (zh) * 2013-07-11 2015-01-21 炬芯(珠海)科技有限公司 一种视频处理方法及装置
CN105631803A (zh) * 2015-12-17 2016-06-01 小米科技有限责任公司 滤镜处理的方法和装置
CN107277301A (zh) * 2016-04-06 2017-10-20 杭州海康威视数字技术股份有限公司 监控视频的图像分析方法及其系统
CN108961304A (zh) * 2017-05-23 2018-12-07 阿里巴巴集团控股有限公司 识别视频中运动前景的方法和确定视频中目标位置的方法
CN107295309A (zh) * 2017-07-29 2017-10-24 安徽博威康信息技术有限公司 一种基于多监控视频的目标人物锁定显示系统
CN109635657A (zh) * 2018-11-12 2019-04-16 平安科技(深圳)有限公司 目标跟踪方法、装置、设备及存储介质

Also Published As

Publication number Publication date
US20220222831A1 (en) 2022-07-14
CN110796012A (zh) 2020-02-14
WO2021057359A1 (zh) 2021-04-01

Similar Documents

Publication Publication Date Title
CN106651955B (zh) 图片中目标物的定位方法及装置
US9674395B2 (en) Methods and apparatuses for generating photograph
EP3125135A1 (en) Picture processing method and device
CN107480665B (zh) 文字检测方法、装置及计算机可读存储介质
CN109889724B (zh) 图像虚化方法、装置、电子设备及可读存储介质
CN110557547B (zh) 镜头位置调整方法及装置
US10212386B2 (en) Method, device, terminal device, and storage medium for video effect processing
CN106778773B (zh) 图片中目标物的定位方法及装置
US20220222831A1 (en) Method for processing images and electronic device therefor
CN108154466B (zh) 图像处理方法及装置
CN106557759B (zh) 一种标志牌信息获取方法及装置
CN107944367B (zh) 人脸关键点检测方法及装置
CN109784164B (zh) 前景识别方法、装置、电子设备及存储介质
CN106534951B (zh) 视频分割方法和装置
CN109509195B (zh) 前景处理方法、装置、电子设备及存储介质
CN112927122A (zh) 水印去除方法、装置及存储介质
CN110286813B (zh) 图标位置确定方法和装置
CN108596957B (zh) 物体跟踪方法及装置
CN108154090B (zh) 人脸识别方法及装置
CN107730443B (zh) 图像处理方法、装置及用户设备
CN106469446B (zh) 深度图像的分割方法和分割装置
CN113761275A (zh) 视频预览动图生成方法、装置、设备及可读存储介质
CN114430457A (zh) 拍摄方法、装置、电子设备和存储介质
CN109447929B (zh) 图像合成方法及装置
CN114693702B (zh) 图像处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant