CN109858449B - 图像处理方法、装置、介质及系统 - Google Patents
图像处理方法、装置、介质及系统 Download PDFInfo
- Publication number
- CN109858449B CN109858449B CN201910103548.1A CN201910103548A CN109858449B CN 109858449 B CN109858449 B CN 109858449B CN 201910103548 A CN201910103548 A CN 201910103548A CN 109858449 B CN109858449 B CN 109858449B
- Authority
- CN
- China
- Prior art keywords
- sub
- area
- motion
- histogram
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本申请涉及一种图像处理方法,包括,接收包含帧序列的视频,从视频中提取与运动物体相关的信息;对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除了运动子区之外的其他子区作为非运动子区;以及统计多个子区中的每个子区的灰度级分布,得到每个子区的灰度直方图,对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,其中,对于运动子区的对比度的限制小于对于非运动子区的对比度的限制。本申请能够有效改善运动物体信息相关区域的动态范围。此外,本申请还涉及图像处理装置、介质及系统。
Description
技术领域
本申请涉及一种图像处理方法、装置、介质及系统。
背景技术
目前,在图像信号处理领域,物体检测和识别是一个重要议题。高动态的场景是人脸、车牌号码等等的检测和识别中的一个主要挑战。在很多高动态场景中,运动物体出现有价值的信息的概率会更高,通常是检测与识别系统的目标,但它通常只占据图像的一部分区域,其动态范围很大程度上会受背景场景的影响,若运动物体所在区域的对比度、色调等图像特性较差,会影响后续目标检测与识别系统的准确率。
发明内容
本申请的目的在于利用视频中的运动信息调整图像的局部动态范围,改善运动物体所在区域的动态范围。
本申请的一些方面提供了一种图像处理方法,包括,
接收包含帧序列的视频,从视频中提取与运动物体相关的信息;对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除了运动子区之外的其他子区作为非运动子区;以及统计多个子区中的每个子区的灰度级分布,得到每个子区的灰度直方图,对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,其中,对于运动子区的对比度的限制小于对于非运动子区的对比度的限制。
本申请通过运动信息调整图像的局部动态范围,能够有效改善运动信息相关区域的动态范围,有助于提高后期检测或识别性能。
本申请的一些方面提供了一种图像处理装置,包括,
运动检测单元,被配置为接收包含帧序列的视频,从视频中提取与运动物体相关的信息;像素区域划分单元,被配置为对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除运动子区之外的其他子区作为非运动子区;和直方图均衡单元,被配置为使用低通滤波的加权矩阵对多个子区中的非边缘子区及与非边缘子区相邻的子区的经过直方图均衡化处理后的灰度直方图进行空间滤波,得到非边缘子区的空间滤波后的灰度直方图,其中非边缘子区是位于帧的边缘以外的子区,其中,非边缘子区中的运动子区的低通滤波的截止频率高于非边缘子区中的非运动子区的低通滤波的截止频率,使得非边缘子区中,运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差大于非运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差。
本申请的一些方面提供了一种系统,包括:
存储器,存储器中包含要被处理器执行的指令,和
处理器,用于读取存储器中的指令,以:
接收包含帧序列的视频,从视频中提取与运动物体相关的信息;
对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除运动子区之外的其他子区作为非运动子区;并基于时域滤波系数、当前帧的子区的经过直方图均衡化处理后的灰度直方图、以及前一帧中处于相同位置的子区的时域滤波后的灰度直方图,得到当前帧的子区的时域滤波后的灰度直方图,其中,时域滤波系数为前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重,并且其中,作为运动子区的子区的时域滤波系数低于作为非运动子区的子区的时域滤波系数。
本申请的一些方面提供了一种机器可读介质,该机器可读介质中存储了指令,该指令被机器运行时,机器执行前述方法。
本申请根据帧序列检测运动信息,再根据运动信息的检测结果,通过直方图均衡方法来对图像进行色调映射,有效改善运动物体所在区域的动态范围,可用于但不限于目标检测、识别等任务,有助于提高后期检测或识别的成功率。
附图说明
图1示出了不同场景中的车牌检测示例。
图2是根据本申请的实施例的改善视频序列的局部动态范围的装置的框图。
图3是根据本申请的实施例的图像处理方法的流程图。
图4是根据本申请的实施例的具体处理方法示例的流程图。
图5是根据本申请的实施例的待处理图像示例。
图6是图5中所示的图像的灰度直方图。
图7是根据本申请的实施例对图5中所示图像进行直方图均衡化处理之后的灰度直方图。
图8是根据本申请的实施例对图5中所示的图像进行直方图均衡化处理之后的图像。
图9是根据本申请的实施例划分子区后的非边缘子区C及其相邻子区的示意图。
图10是根据本申请的实施例的空间滤波器的示意图。
图11是根据本申请的实施例的高截止频率的空间滤波器的示意图。
图12是根据本申请的实施例的低截止频率的空间滤波器的示意图。
图13根据本申请的实施例,示出从图像的直方图映射到CDF曲线的示意图。
图14是根据本申请的实施例的图像信号处理器的架构示例。
图15A是示出根据本申请实施例的示例性处理器流水线的框图。
图15B是示出根据本申请实施例的将包括在处理器中的架构核的框图。
图15C是根据本申请实施例的可具有超过一个核的处理器的框图。
图16是根据本申请实施例的系统的框图。
图17是根据本申请实施例的一种片上系统(SoC)的框图。
具体实施方式
本公开的说明性实施例包括但不限于图像处理的方法、系统和装置。
以下由特定的具体实施例说明本申请的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本申请的其他优点及功效。虽然本申请的描述将结合较佳实施例一起介绍,但这并不代表此发明的特征仅限于该实施方式。恰恰相反,结合实施方式作发明介绍的目的是为了覆盖基于本申请的权利要求而有可能延伸出的其它选择或改造。为了提供对本申请的深度了解,以下描述中将包含许多具体的细节。本申请也可以不使用这些细节实施。此外,为了避免混乱或模糊本申请的重点,有些具体细节将在描述中被省略。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
此外,各种操作将以最有助于理解说明性实施例的方式被描述为多个离散操作;然而,描述的顺序不应被解释为暗示这些操作必须依赖于顺序。特别是,这些操作不需要按呈现顺序执行。
除非上下文另有规定,否则术语“包含”,“具有”和“包括”是同义词。短语“A/B”表示“A或B”。短语“A和/或B”表示“(A和B)或者(A或B)”。
如这里所使用的,术语“模块”或“单元”可以指代、是或者包括:专用集成电路(ASIC)、电子电路、执行一个或多个软件或固件程序的(共享、专用或组)处理器和/或存储器、组合逻辑电路和/或提供所描述的功能的其他合适的组件。
在一些情况下,所公开的实施例可以以硬件、固件、软件或其任何组合来实现。所公开的实施例还可以被实现为由一个或多个暂时或非暂时性机器可读(例如,计算机可读)存储介质承载或存储在其上的指令,其可以由一个或多个处理器读取和执行。例如,指令可以通过网络或通过其他计算机可读介质的途径分发。因此,机器可读介质可以包括用于以机器(例如,计算机)可读的形式存储或传输信息的任何机制、但不限于、软盘、光盘、光盘、只读存储器(CD-ROM)、磁光盘、只读存储器(ROM)、随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、磁卡或光卡、闪存、或用于通过电、光、声或其他形式的传播信号(例如,载波、红外信号、数字信号等)通过因特网传输信息的有形的机器可读存储器。因此,机器可读介质包括适合于以机器(例如,计算机)可读的形式存储或传输电子指令或信息的任何类型的机器可读介质。
在附图中,以特定布置和/或顺序示出一些结构或方法特征。然而,应该理解,可以不需要这样的特定布置和/或排序。在一些实施例中,这些特征可以以不同于说明性附图中所示的方式和/或顺序来布置。另外,在特定图中包含结构或方法特征并不意味着暗示在所有实施例中都需要这样的特征,并且在一些实施例中,可以不包括这些特征或者可以与其他特征组合。
应注意的是,在本说明书中,相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请的实施方式作进一步地详细描述。
一般而言,图像传感器接收到的图像内容可能有较高的动态范围,而电子显示器通常具有较低的动态范围,导致某些区域的动态范围可能不理想。在一些场景中,视频中的运动物体通常是检测与识别的目标,若运动物体所在区域的对比度、色调等图像特性较差,会影响后续目标检测与识别系统的准确率。例如图1显示了不同场景中的车牌,从图1可以看出,在不同的背景中,图像中车牌所在区域的动态范围差别很大。
根据本申请的一些实施例,本申请利用视频中的运动信息调整图像的局部动态范围,以帮助后期的检测与识别模块提高识别率。具体而言,根据本申请的一种实施方式,提供一种图像处理装置40,如图2所示,包括:运动检测单元401,被配置为接收包含帧序列的视频,从视频中提取与运动物体相关的信息;像素区域划分单元402,被配置为对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除运动子区之外的其他子区作为非运动子区;和直方图均衡单元403,被配置为统计多个子区中的每个子区的灰度级分布,得到每个子区的灰度直方图,对每个子区的灰度直方图进行直方图均衡化处理。
其中,直方图均衡单元403可以进一步包括空间滤波子单元4031、时域滤波子单元4032和对比度限制子单元4033。
空间滤波子单元4031用于对除了帧的边缘外的其他非边缘子区中的每一个,使用低通滤波的加权矩阵对非边缘子区及与该非边缘子区相邻的子区的均衡后的灰度直方图进行空间滤波,得到非边缘子区的空间滤波后的灰度直方图,其中,运动子区的低通滤波的截止频率高于非运动子区的低通滤波的截止频率。
时域滤波子单元4032用于使用预设的时域滤波系数对子区的均衡后的灰度直方图进行时域滤波,通过时域滤波系数、前一帧中处于相同位置的子区的时域滤波后的灰度直方图和当前帧的子区的均衡后的灰度直方图得到当前帧的子区的时域滤波后的灰度直方图,其中,时域滤波系数为:在对当前帧中的子区的均衡后的灰度直方图进行滤波处理时,前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重,其中,运动子区的时域滤波系数低于非运动子区的时域滤波系数。
对比度限制子单元4033用于对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,其中,对于运动子区的对比度的限制小于对于非运动子区的对比度的限制。
以上关于图像处理装置40的配置框图及其说明仅仅是示意性的,其中的单元与子单元可以进行各种合理的组合和拆分,例如,运动检测单元401也可以被包括在直方图均衡单元403中,作为直方图均衡单元403的一个子单元;或者,直方图均衡单元403也可以仅包括空间滤波子单元4031、时域滤波子单元4032和对比度限制子单元4033中的任意一个或多个等。在一些实施方式中,图像处理装置40中还可以包括图像传感器,用于采集包含帧序列的视频,并发送给运动检测单元。
下面结合图3详细说明利用上述图像处理装置进行图像处理的示例。根据本申请的一个实施例,提供一种图像处理方法,如图3所示,该方法可以具体包括以下步骤:
步骤S101,接收包含帧序列的视频,从视频中提取与运动物体相关的信息,该步骤可由运动检测单元401或其他单元来执行。与运动物体相关的信息可以指,例如,运动物体本身或者由运动物体带来的其他信息等,例如:运动物体的位置信息、与运动物体相邻的信息、受运动物体影响的信息等。该步骤的目的是从图像序列中将有运动信息的区域从背最图像中提取出来,使得之后的处理过程可以着重考虑图像中对应于运动区域的像素。
在一种实施方式中,运动物体信息的提取可以通过利用当前图像与背景图像的差分来进行,例如,可以从视频中的相邻多帧中提取静态背景,随后对于帧序列中每一帧,比较该帧与静态背景的差异,从而得到运动物体信息。这种方式一般能够提供较为完全的特征数据。可选择地,在一些实施方式中,还可以在连续的图像序列中两个或三个相邻帧间采用基于像素的时间差分并且阈值化来提取出图像中的运动区域;或者,利用运动目标随时间变化的光流特性,通过计算位移向量光流场来初始化基于轮廓的跟踪算法,从而有效地提取和跟踪运动目标;或者通过消除背景中的振动像素,使某一方向的运动对象更加突出的显示出来以检测运动等等。除此之外,也可以采用其他各种已有或未来将会出现的运动检测手段来提取运动物体信息,本申请并不对此作出限制。
随后,步骤S102,对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并对这多个子区进行分类,分为运动子区和非运动子区,其中,运动子区指的是包括与运动物体相关的信息的子区,而除了运动子区之外的其他子区作为非运动子区该步骤可由像素区域划分单元402或其它单元来执行。
随后,步骤S103,统计多个子区中的每个子区的灰度级分布,得到每个子区的灰度直方图,分别对多个子区中的每一个进行直方图均衡化处理,并对运动子区和非运动子区的灰度直方图做不同处理,使运动子区的对比度相对于非运动子区来说,更为明显,该步骤可由直方图均衡单元403或其它单元执行。
举例来说,根据本申请的一个实施例,直方图均衡单元403可以进一步包括对比度限制子单元4033,其可以对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,并使得对于运动子区的对比度的限制小于对于非运动子区对比度的限制,从而使得运动子区的对比度相对于非运动子区来说更为明显。
例如,在一种实施方式中,直方图均衡的具体操作可以如下:首先,对于多个子区中的每个子区,统计灰度级分布,得到每个子区的灰度直方图。例如,假设一个子区的图像如图5所示,如果以8位表示灰度级,则可以将整图像划分为256个灰度级,以灰度级0-255作为横轴,以图像中每个灰度级有多少个像素作为纵轴,可以得到如图6所示的灰度直方图。随后,对灰度直方图进行均衡化处理,即把图6所示的直方图变换为更为均匀的分布的形式,从而增加像素灰度值的动态范围,以可达到增强图像整体对比度的效果。直方图均衡化处理之后的灰度直方图如图7所示,而图5所示的图像将变为如图8所示的图像,从图8与图5的对比中可以看出,图像的对比度明显增强。在一些实施方式中,直接进行直方图均衡后,增强图像对比度的同时,也会放大图像中的噪声,这对于图像的质量来说是不利因素。对此,可以进行限制对比度的直方图均衡,对对比度进行限幅,以克服普通的自适应直方图均衡化时可能会过度放大噪音的问题,并在限制时,对于运动子区的对比度的限制小于对于非运动子区对比度的限制,从而使得运动子区的对比度相对于非运动子区来说更为明显。
在一个实施例中,对于对比度的限制可以通过限制因子来进行,限制因子可以定义为通过累积分布函数(cumulative distribution function,CDF)将灰度直方图映射为CDF曲线后,该CDF曲线的最大斜率。
通过累积分布函数将直方图映射为CDF曲线时,CDF曲线的横坐标同样是灰度级,而纵坐标则是图像中所有小于等于某个像素值的像素数目,用函数可以表达为:
FX(x)=P(X≤x) (1)
其中P为直方图分布。
例如,图13示出了从图像的直方图映射到CDF曲线的示意图,图13中,上方为直方图,下方为CDF曲线。
CDF曲线的斜率可以对应于原直方图中相邻像素值之间的变化程度,而这个变化程度代表了在直方图均衡中图像的增强程度,因此,将斜率作为限制因子,可以用来调节直方图均衡的强度。也就是说,CDF曲线的最大斜率可以作为限制因子,来限制直方图均衡化处理后的最大对比度。
那么,在根据限制因子所限制的强度内增强每个子区的对比度时,可以使运动子区的限制因子的值小于非运动子区的限制因子的值,即,使运动子区的CDF曲线的最大斜率小于非运动子区的CDF曲线的最大斜率,从而使得运动子区的对比度相对于非运动子区来说更为明显。
由此,本申请能够运动检测结果,通过直方图均衡算法对图像进行色调映射,有效改善运动物体所在区域的动态范围,以提高后期检测和/或识别模块的识别率。
前面结合部分附图描述了本申请的图像处理方法,然而,在一些实施方式中,由于各个子区分别进行各自的直方图均衡,各个子区之间的过渡可能会十分突兀,影响帧画面的整体效果,为了使各个子区之间平滑过渡,可以在做直方图均衡时进行进一步处理,以得到光滑过渡。例如,可以将当前子区的直方图与周围相邻子区的直方图进行加权平均以获得光滑的边界变化,即,进行空间滤波;或者,可以在对当前帧进行处理时考虑前一帧的处理结果,以使前后帧之间平滑过渡,即进行时域滤波。这可以通过图2中所示的直方图均衡单元403中的空间滤波子单元4031和时域滤波子单元4032来进行的操作。在进行空间滤波和时域滤波时,同样可以考虑运动子区与非运动子区的不同处理,以为后期的检测、识别等其他处理提供帮助。
图4示出了根据本申请的实施例的一种更为具体的图像处理方法示例。其中的步骤S101和步骤S102与上文中结合图3所描述的相同,为了简洁起见,此处省略描述。而随后的步骤可以视作步骤S103的具体操作说明或者步骤S103的进一步补充,以下将详细说明。
如图4所示,在步骤S102,对于视频中包含运动物体信息的帧,将像素区域划分为运动子区和非运动子区后,对于该帧中的每个子区:
步骤S1030,判断该子区是运动子区还是非运动子区。若是运动子区,则步骤S1031,对该子区的灰度直方图进行限制对比度的直方图均衡化处理,且其对比度的限制小于非运动子区;若是非运动子区,则步骤S1032,对该子区的灰度直方图进行限制对比度的直方图均衡化处理,其对比度的限制大于运动子区。
例如,对于对比度的限制可以通过上文所述的CDF曲线的最大斜率所定义的限制因子来限制。使运动子区的CDF曲线的最大斜率小于非运动子区的CDF曲线的最大斜率,从而使得运动子区的对比度相对于非运动子区来说更为明显。
举例来说,在具体实施时,可以将CDF曲线的最大斜率(即,限制因子)设为S_C_P(Slope_Constrain_Parameter),对于非运动子区,S_C_P_NoMotion可以取一个较小的值,例如可以设置为1,即直方图中相邻直方的斜率最大只能到1;而对于运动子区,S_C_P_Motion则可以取一个较大的值,例如可以设置为2,即直方图中相邻直方的斜率最大可以到2。这样,可以使得运动子区的直方图相对于非运动子区可以被拉伸的更多,调整后的局部图像对比度更大。这样,在一帧中,运动物体所在区域的动态范围将显著大于非运动区域,有助于提高后期检测和识别模块的识别率。
随后,如图4所示,对于运动子区的处理和对于非运动子区的处理分别进入步骤S1033-S1041和步骤S1034-S1042,两处理流程类似,区别仅在于参数的选取。下面以运动子区的处理步骤S1033-S1041为主进行说明,非运动子区的处理步骤S1034-S1042与之对应。
步骤S1033,判断该子区是否是边缘子区。在本申请中,边缘子区指的是位于该帧的边缘处的子区,而除了边缘子区以外的其他子区作为非边缘子区。
如果步骤S1033判断为否,则进入步骤S1035-步骤S1037,确定低通滤波器的截止频率并使用低通滤波的加权矩阵对非边缘子区及与该非边缘子区相邻的子区的均衡后的灰度直方图进行空间滤波,得到非边缘子区的空间滤波后的灰度直方图,其中,步骤S1035中确定的运动子区的低通滤波的截止频率高于与之对应的步骤S1036中确定的非运动子区的低通滤波的截止频率。
举例来说,对视频中的一帧,可以划分为例如M*N个子区,对于这M*N个子区,除了边缘处的子区外,任何一个子区C都有8个相邻的子区R1,R2,…,R8,如图9所示。
假设图9中这9个子区的原始直方图分别为H_ori_1,H_ori_2,…,H_ori_C,…,H_ori_8。
首先,分别对9个直方图进行直方图均衡化处理,可以得到9个新的直方图H_eq_1,H_eq_2,…,H_eq_C,…,H_eq_8。
随后,可以使用3*3低通滤波的加权矩阵对这9个直方图进行滤波,其中低通滤波截止频率F_S_LP(Frequency_Spatial_LowPass)为可调参数。例如,可以通过以下公式(2)对非边缘子区进行空间滤波:
H_flt_C=(a1*H_eq_1+a2*H_eq_2+…+a5*H_eq_C+…+a9*H_eq_8)/(a1+a2+…+a9)
(2)
其中,H_flt_C为该非边缘子区C的空间滤波后的灰度直方图,H_eq_C为对非边缘子区C进行直方图均衡后得到的直方图,H_eq_1,H_eq_2,…,H_eq_8为对非边缘子区C的相邻八个子区进行直方图均衡后得到的直方图,a1,a2,…,a9为根据低通滤波器的截止频率得到的空间加权矩阵中的元素,代表非边缘子区C及相邻八个子区的权重。在一个实施例中,a1,a2,…,a9可以通过以下方式得到:设置频域的低通滤波截止频率F_S_LP,经过傅里叶变换可以得到空域的数字滤波器,截取空域的数字滤波器的中心元素及其周围的8个元素得到3*3的低通滤波的加权矩阵a1,a2,…,a9。
例如,取低通滤波截止频率为1/5奈奎斯特频率时,可以得到如图10所示的数字滤波矩阵,那么,通过公式(2),即可得到图9中的子区C的最终直方图H_flt_C=(1*H_eq_1+2*H_eq_2+…+4*H_eq_C+…+1*H_eq_8)/16
在进行空间滤波时,可以在运动子区取一个较高的低通滤波截止频率,而在非运动子区取一个较低的低通滤波截止频率。例如,在运动子区,取一个较高的截止频率F_S_LP_Moiton=4/5奈奎斯特频率,得到的数字滤波矩阵如图11所示,使得周围子区对当前子区的影响较小;而在非运动子区,取一个较低的截止频率F_S_LP_NoMotion=1/5奈奎斯特频率,得到的数字滤波矩阵如图12所示,使得周围子区对当前子区的影响较大。从而使运动子区的变化更为明显,利于后期的识别与检测。
随后,对于任何非边缘子区或边缘子区,都可以进入步骤S1039-步骤S1041,使用预设的时域滤波系数对该子区的均衡后的灰度直方图进行时域滤波,得到子区的时域滤波后的灰度直方图,其中,时域滤波系数为:在对当前帧中的子区的均衡后的灰度直方图进行滤波处理时,前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重。其中,步骤S1039中所确定的运动子区的时域滤波系数低于与之相应的步骤S1040中确定的非运动子区的时域滤波系数。
举例来说,对于视频中的一帧,假设某一子区的均衡后的直方图为H_eq_t1,而当前帧的前一帧中同一位置处的子区的直方图为H_eq_t0,除了第一帧以外,前一帧的直方图可以是已经经过了时域滤波处理后的直方图。
对于该子区,可以使用时域滤波系数F_T_LP(Frequency_Temporal_LowPass)通过公式(3)对其进行时域上的滤波,
H=F_T_LP*H_eq_t0+(1-F_T_LP)*H_eq_t1 (3)
其中,H为子区的时域滤波后的灰度直方图,F_T_LP为时域滤波系数,H_eq_t1为该帧中的子区的均衡后的灰度直方图,而H_eq_t0为该帧的前一帧中同一位置处的子区的时域滤波后的灰度直方图。
与空间滤波类似,对时域滤波,在运动子区和费运动子区也可以设置不同的F_T_LP,例如,对于非运动子区,可以取一个较大的时域滤波系数,例如,使非运动子区的时域滤波系数F_T_LP_NoMotion取为0.9,使前一帧对当前帧的影响较大;而对于运动子区,可以取一个较小的时域滤波系数,例如,使运动子区的时域滤波系数F_T_LP_Motion取为0.1,使得前序帧对当前帧的影响较小,从而使当前帧的变化可以立即被显示出来。
需要注意的是,虽然流程图将各项操作描述成顺序的处理,但是其中的许多操作不需要按呈现顺序执行。此外,在一些实施方式中,也可以包括更多或更少的步骤,并且以上步骤也可以同时进行,或者可以按照与图示顺序不同的顺序进行。例如,在一些实施方式中,可以先执行步骤S1039-步骤S1041所示的时域滤波处理,再执行步骤S1033-步骤S1037所示的空间滤波处理。此外,各项操作也不是都必须被包含在内,例如,在一些实施方式中,可以只执行步骤S1031所示的限制对比度的直方图均衡化处理,或者只执行步骤S1033-步骤S1037所示的空间滤波处理,或者只执行步骤S1039-步骤S1041所示的时域滤波处理,或者执行以上操作的任意组合。
总之,通过在运动子区和非运动子区使用不同的空域滤波、时域滤波和直方图均衡化的限制参数,可以在检测到与运动物体相关的信息时,对运动信息相关区域做不同的局部色调映射处理,以改进局部动态范围等图像特性。
一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
上述由图像处理装置40执行的图像处理方法可以被实现在图像信号处理器中,或者,图像处理装置40可以被实现为图像信号处理器。在一些实施方式中,图像处理装置40中可以包括图像传感器,用于采集包含帧序列的视频,并发送给运动检测单元,也就是说,图像传感器可以和图像处理器一体设置,也可以分开设置。
图14示出了根据本申请的实施例的图像信号处理器的一种架构示例。图像信号处理器通常由一些相对独立的模块顺序连接而成,视频数据能够在串联的模块中以数据流的方式顺序流动。例如,如图14所示,典型的图像信号处理器10可以包括:数字增益模块、缺陷像素校正模块、降噪模块、黑度校正模块、镜头阴影校正模块、白平衡增益模块、色调映射模块以及色彩校正模块等,本申请的实施例所提供的图像处理装置可以被实现在色调映射模块中,或者作为色调映射模块的补充。需要注意的是,图14中示出的架构仅仅是举例说明,并不构成对本申请的限制,在不同的实施方式中,以上模块可以被合并、拆分或者任意组合,或者可以仅包括一部分模块,或者可以包括更多的模块。
图15A是示出根据本申请的实施例的一种处理器流水线。图15B是示出根据本申请的实施例的将包括在处理器中的一种架构核。
在图15A中,处理器流水线1000包括,但不局限于,指令取出级1010、指令解码级1020、指令执行和存储器访问级1030、写回/写入级1040、指令引退级1050,和/或其他流水线级,等等。虽然图15A示例地示出了一种有序流水线,本技术领域的人员应理解其他技术可以对图15A所示的处理器流水线实现其他实施方案。例如,处理器流水线1000可以包含其他或者不同的处理级,诸如寄存器重命名、无序发布/执行流水线等。具体而言,处理器流水线1000还可以包括,但是不局限于,对取出指令进行长度解码的长度解码级(未示出);对已解码的指令进行分配级(未示出)、寄存器重命名级(未示出)、调度级(也称为分派或发布级)(未示出);异常处理级和提交级(未示出),等等的无序发布/执行流水线。
在图15B中,处理器核1100包括,但不局限于,L1指令高速缓存单元1110、指令取出和解码单元1120、寄存器1130、执行单元1140、载入/存出单元1150、L1数据高速缓存单元1160,和/或其他单元。处理器核1100可以是精简指令集计算(RISC)核、复杂指令集计算(CISC)核、超长指令字(VLIW)核或混合或期待核类型。作为另一选项,处理器核1100可以是专用核,诸如网络或通信核、压缩引擎、协处理器核、通用计算图形处理器单元(GPGPU)核、或图形核等等。
根据本申请的一些实施例,指令取出和解码单元1120从L1指令高速缓存1110中获取指令并实现指令解码功能,从而生成从原始指令解码出的、或以其他方式反映原始指令的、或从原始指令导出的一个或多个微操作、微代码进入点、微指令、其他指令、或其他控制信号作为输出。指令解码单元1120可使用各种不同的机制来实现。合适的机制的示例包括,但不限于,查找表、硬件实现、可编程逻辑阵列(PLA)、微代码只读存储器(ROM)等。在一个实施例中,核1100包括用于存储某些宏指令的微代码的微代码ROM或其他介质。指令解码单元1120可以通过寄存器单元1130耦合到执行单元1140和/或载入/存出单元1150。寄存器单元1130包括一个或多个寄存器,其中不同的寄存器存储一种或多种不同的数据类型,术语标量整数、标量浮点、打包整数、打包浮点、向量整数、向量浮点、状态(作为要执行的下一个指令的地址的指令指针)等。
本申请领域的技术人员应该可以理解,其他技术可以实施本申请的其他方面。例如,指令解码单元1120还可以不通过寄存器单元1130耦合到执行单元1140和/或载入/存出单元1150(未示出)。
执行单元1140和载入/存出单元1150实施处理器流水线中的执行功能。根据本申请的一些实施例,一个或多个执行单元1140的集合和一个或多个载入/存出单元1150的集合可以构成处理器的执行引擎。执行单元1140可以对各种类型的数据(例如,标量浮点、打包整数、打包浮点、向量整型、向量浮点)执行各种操作(例如,移位、加法、减法、乘法)。相应的,执行单元1140可以包括,但不局限于,标量算术逻辑运算单元、矢量算术逻辑运算单元、固定功能单元(fix function unit)、和/或类似单元等。尽管一些实施例可以包括,但不局限于,专用于特定功能或功能集合的多个执行单元,但其他实施例可包括,但不局限于,全部执行所有功能的仅一个执行单元或多个执行单元。寄存器单元1130和L1数据高速存储器单元1160实现了流水线中的写回/写入以及指令引退功能。
应当理解,其他技术可以对图15B的处理器核构架实现其他的实施方案。例如,处理器核1100还可包括,但不局限于,执行长度解码级的指令取出单元1120;耦合在解码单元1120和寄存器单元1130之间的寄存器重命名/分配单元(未示出)和调度单元(未示出),其中,寄存器重命名/分配单元执行寄存器重命名级/分配级以及调度单元执行调度级;各单元可涉及到异常处理级,等等的无序发布/执行核构架。
在本申请的一些实施例中,处理器核1100耦合到L2存储器单元1170,该存储器单元包括,但不局限于,二级(L2)高速缓存单元(未示出),该L2高速缓存单元还可进一步被耦合到一个或多个其他级的高速缓存,并最终耦合到主存储器(未示出)。
应当理解,核1100可支持多线程化(执行两个或更多个并行的操作或线程的集合),并且可以按各种方式来完成该多线程化,此各种方式包括,但不局限于,时分多线程化、同步多线程化(其中单个物理核为物理核正在同步多线程化的各线程中的每一个线程提供逻辑核)、或其组合。
尽管在无序执行的上下文中描述了寄存器重命名,但应当理解,可以在有序架构中使用寄存器重命名。尽管所示出的处理器的实施例还包括,但不局限于,分开的指令和数据高速缓存单元1110/1160以及共享L2高速缓存单元1170,但替代实施例可以具有用于指令和数据两者的单个内部高速缓存,诸如例如一级(L1)内部高速缓存或多个级别的内部高速缓存。在一些实施例中,该系统可包括,但不局限于,内部高速缓存和外部高速缓存的组合,其中外部高速缓存是在核外和/或处理器外部。或者,所有高速缓存都可以在核内和/或处理器的外部。
图15C是根据本申请实施例的可具有超过一个核的处理器的框图。在一个实施例中,处理器1200可包括,但不局限于,一个或多个处理器核1202A-1202N。其中,每个处理器核1202A-1202N可包括,但不局限于,高速缓存单元1204A-1204N以及寄存器单元1206A-1206N。应理解,根据另一实施例,处理器核1202A-1202N还可包括其他处理器核单元,但是为了简化描述,这里就不一一重复了。
应理解,其他技术可以对图15C所示的处理器核构架实现其他的实施方案。例如,处理器1200还可包括系统代理单元(未示出)、一个或多个总线控制器单元(未示出),等等。根据一个实施例,处理器核1202A-1202N中的一个或多个可以是通用核(例如,通用的有序核、通用的无序核、这两者的组合);也可以是,主要用于图形和/或科学(吞吐量)的专用核。因此,处理器1200可以是通用处理器、协处理器或专用处理器,诸如网络或通信处理器、压缩引擎、图形处理器、GPGPU(通用图形处理单元)、高吞吐量的集成众核(MIC)协处理器、或嵌入式处理器等。该处理器可以被实现在一个或多个芯片上。处理器1200可以是一个或多个衬底的一部分,和/或可以使用诸如BiCMOS、CMOS或NMOS等的多个加工技术中的任何一个技术将处理器1200实现在一个或多个衬底上。
处理器的存储器层次结构包括在各核内的一个或多个级别的高速缓存(例如,高速缓存单元1204A-1204N),以及一个或多个共享高速缓存单元的集合(未示出)。该共享高速缓存单元的集合可以包括一个或多个中间级高速缓存,诸如二级(L2)、三级(L3)、四级(L4)或其他级别的高速缓存、末级高速缓存(LLC)、和/或其组合。在一个实施例中,处理器1200还可包括基于环的互连单元(未示出)将专用逻辑、共享高速缓存单元的集合(未示出)以及上述系统代理单元(未示出)互连,但替代实施例可使用任何数量的公知技术来将这些单元互连。
在一些实施例中,核1202A-N中的一个或多个核能够多线程化。上述系统代理单元(未示出)包括,但不局限于,协调和操作核1202A-N的组件,例如功率控制单元(PCU)和显示单元。PCU可以是或包括用于调整核1202A-N和/或上述专用逻辑(未示出)的功率状态所需的逻辑和组件。显示单元用于驱动一个或多个外部连接的显示器。
核1202A-N在架构指令集方面可以是同构的或异构的;即,这些核1202A-N中的两个或更多个核可能能够执行相同的指令集,而其他核可能能够执行该指令集的仅仅子集或不同的指令集。
根据本申请的另一个实施例,还提供了一种机器可读介质,该介质中存储了指令,该指令被机器运行时,机器能够执行前面结合图3或图4所描述的方法。
根据本申请的另一个实施例,还提供了一种系统,图16是根据本申请实施例的系统的框图。该系统包括,但不局限于,膝上型设备、台式机、手持PC、个人数字助理、工程工作站、服务器、网络设备、网络集线器、交换机、嵌入式处理器、数字信号处理器(DSP)、图形设备、视频游戏设备、机顶盒、微控制器、蜂窝电话、便携式媒体播放器、手持设备以及各种其他电子设备的其他系统。一般地,能够包含本文中所公开的处理器和/或其它执行逻辑的多个系统和电子设备一般都是合适的。
现在参见图16,所示为根据本申请的一个实施例的系统1300的框图。系统1300可以包括耦合到控制器中枢1303的一个或多个处理器1301。
在一个实施例中,控制器中枢1303包括,但不局限于,图形存储器控制器中枢(GMCH)(未示出)和输入/输出中枢(IOH)(其可以在分开的芯片上)(未示出),其中GMCH包括存储器和图形控制器并与IOH耦合。系统1300还可以包括耦合到控制器中枢1303的协处理器1302和存储器1304。或者,存储器和GMCH中的一个或两者可以被集成在处理器内(如本文中所描述的),存储器1304和协处理器1302直接耦合到处理器1301以及控制器中枢1303,控制器中枢1303与IOH处于单个芯片中。
附加处理器1302的任选性质用虚线表示在图16中。处理器1301可包括本文中描述的处理核中的一个或多个,并且可以是处理器1200的某一版本。
存储器1304可以是例如动态随机存取存储器(DRAM)、相变存储器(PCM)或这两者的组合。对于至少一个实施例,控制器中枢1303经由诸如前端总线(FSB)之类的多分支总线、诸如快速通道互连(QPI)之类的点对点接口、或者类似的连接1306与处理器1301进行通信。
在一个实施例中,处理器1301执行控制一般类型的数据处理操作的指令。协处理器指令可嵌入在这些指令中。处理器1301将这些协处理器指令识别为应当由附连的协处理器1302执行的类型。因此,处理器1301在协处理器总线或者其他互连上将这些协处理器指令(或者表示协处理器指令的控制信号)发布到协处理器1302。协处理器1302接受并执行所接收的协处理器指令。
现在参考图17,所示为根据本申请的一实施例的SoC1400的框图。其中,应用处理器1410和/或协处理器1420可包括本文中描述的处理核中的一个或多个,并且可以是处理器1200的某一版本。在图17中,互连单元1450被耦合至应用处理器1410;系统代理单元1480;总线控制器单元1490;集成存储器控制器单元1440;一组或一个或多个协处理器1420,其可包括集成图形逻辑、图像处理器、音频处理器和视频处理器;静态随机存取存储器(SRAM)单元143;直接存储器存取(DMA)单元1460。在一个实施例中,协处理器1420包括专用处理器,诸如例如网络或通信处理器、压缩引擎、GPGPU、高吞吐量MIC处理器、或嵌入式处理器等等。
本文公开的机制的各实施例可以被实现在硬件、软件、固件或这些实现方法的组合中。本申请的实施例可实现为在可编程系统上执行的计算机程序或程序代码,该可编程系统包括至少一个处理器、存储系统(包括易失性和非易失性存储器和/或存储元件)、至少一个输入设备以及至少一个输出设备。
可将程序代码应用于输入指令,以执行本文描述的各功能并生成输出信息。可以按已知方式将输出信息应用于一个或多个输出设备。为了本申请的目的,处理系统包括具有诸如例如数字信号处理器(DSP)、微控制器、专用集成电路(ASIC)或微处理器之类的处理器的任何系统。
程序代码可以用高级程序化语言或面向对象的编程语言来实现,以便与处理系统通信。在需要时,也可用汇编语言或机器语言来实现程序代码。事实上,本文中描述的机制不限于任何特定编程语言的范围。在任一情形下,该语言可以是编译语言或解释语言。
至少一个实施例的一个或多个方面可以由存储在机器可读介质上的表示性指令来实现,指令表示处理器中的各种逻辑,指令在被机器读取时使得该机器制作用于执行本文所述的技术的逻辑。被称为“IP核”的这些表示可以被存储在有形的机器可读介质上,并被提供给多个客户或生产设施以加载到实际制造该逻辑或处理器的制造机器中。
这样的机器可读存储介质可以包括但不限于通过机器或设备制造或形成的物品的非瞬态的有形安排,其包括存储介质,诸如:硬盘任何其它类型的盘,包括软盘、光盘、紧致盘只读存储器(CD-ROM)、紧致盘可重写(CD-RW)以及磁光盘;半导体器件,例如只读存储器(ROM)、诸如动态随机存取存储器(DRAM)和静态随机存取存储器(SRAM)之类的随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、闪存、电可擦除可编程只读存储器(EEPROM);相变存储器(PCM);磁卡或光卡;或适于存储电子指令的任何其它类型的介质。
因此,本申请的各实施例还包括非瞬态的有形机器可读介质,该介质包含指令或包含设计数据,诸如硬件描述语言(HDL),它定义本文中描述的结构、电路、装置、处理器和/或系统特征。这些实施例也被称为程序产品。
上面结合附图对本申请的实施例做了详细说明,但本申请技术方案的使用不仅仅局限于本专利实施例中提及的各种应用,各种结构和变型都可以参考本申请技术方案轻易地实施,以达到本文中提及的各种有益效果。在本领域普通技术人员所具备的知识范围内,在不脱离本申请宗旨的前提下做出的各种变化,均应归属于本申请专利涵盖范围。
本申请可以包括以下公开的各种实施例示例或其组合:
示例1可以包括一种图像处理方法,该方法包括,
接收包含帧序列的视频,从视频中提取与运动物体相关的信息;对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除了运动子区之外的其他子区作为非运动子区;以及统计多个子区中的每个子区的灰度级分布,得到每个子区的灰度直方图,对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,其中,对于运动子区的对比度的限制小于对于非运动子区的对比度的限制。
示例2可以包括示例1的主旨,并且可选择地,其中,还包括,将每个子区的灰度直方图映射为累积分布函数曲线,并将累积分布函数曲线的最大斜率作为限制因子;并且其中,限制对比度的直方图均衡化处理还包括,根据限制因子来限制每个子区的对比度。
示例3可以包括示例1-2的主旨,并且可选择地,其中,还包括:
使用低通滤波的加权矩阵对多个子区中的非边缘子区及与非边缘子区相邻的子区的均衡化后的灰度直方图进行空间滤波,得到非边缘子区的空间滤波后的灰度直方图,其中非边缘子区是位于帧的边缘以外的子区。
示例4可以包括示例1-3的主旨,并且可选择地,其中,非边缘子区中的运动子区的低通滤波的截止频率高于非边缘子区中的非运动子区的低通滤波的截止频率,使得非边缘子区中,运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差大于非运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差。
示例5可以包括示例1-4的主旨,并且可选择地,其中,限制对比度的直方图均衡化处理还包括:
基于时域滤波系数、当前帧的子区的均衡后的灰度直方图、以及前一帧中处于相同位置的子区的时域滤波后的灰度直方图,得到当前帧的子区的时域滤波后的灰度直方图,其中,时域滤波系数为:前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重。
示例6可以包括示例1-5的主旨,并且可选择地,其中,运动子区的时域滤波系数低于非运动子区的时域滤波系数。
示例7可以包括示例1-6的主旨,并且可选择地,其中,
从视频中的相邻多帧中提取静态背景;对于帧序列中每一帧,比较该帧与静态背景的差异,得到运动物体信息。
示例8可以包括一种图像处理装置,该装置包括,
运动检测单元,被配置为接收包含帧序列的视频,从视频中提取与运动物体相关的信息;像素区域划分单元,被配置为对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除运动子区之外的其他子区作为非运动子区;和直方图均衡单元,被配置为使用低通滤波的加权矩阵对多个子区中的非边缘子区及与非边缘子区相邻的子区的经过直方图均衡化处理后的灰度直方图进行空间滤波,得到非边缘子区的空间滤波后的灰度直方图,其中非边缘子区是位于帧的边缘以外的子区,其中,非边缘子区中的运动子区的低通滤波的截止频率高于非边缘子区中的非运动子区的低通滤波的截止频率,使得非边缘子区中,运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差大于非运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差。
示例9可以包括示例8的主旨,并且可选择地,其中,直方图均衡单元进一步被配置为,对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,并且对于运动子区的对比度的限制小于对于非运动子区的对比度的限制。
示例10可以包括示例8-9的主旨,并且可选择地,其中,直方图均衡单元进一步被配置为,对于每个子区的灰度直方图,将灰度直方图映射为累积分布函数曲线,并将累积分布函数曲线的最大斜率作为限制因子,如果进行限制对比度的直方图均衡化处理,根据限制因子来限制每个子区的对比度。
示例11可以包括示例8-10的主旨,并且可选择地,其中,直方图均衡单元进一步被配置为,基于时域滤波系数、当前帧的子区的均衡后的灰度直方图、以及前一帧中处于相同位置的子区的时域滤波后的灰度直方图,得到当前帧的子区的时域滤波后的灰度直方图,其中,时域滤波系数为:前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重。
示例12可以包括示例8-11的主旨,并且可选择地,其中,运动子区的时域滤波系数低于非运动子区的时域滤波系数。
示例13可以包括示例8-12的主旨,并且可选择地,其中,运动检测单元进一步被配置为,从视频中的相邻多帧中提取静态背景;对于帧序列中每一帧,比较该帧与静态背景的差异,得到运动物体信息。
示例14可以包括示例8-13的主旨,并且可选择地,其中,还包括图像传感器,用于采集包含帧序列的视频,并发送给运动检测单元。
示例15可以包括一种系统,该系统包括:
存储器,存储器中包含要被处理器执行的指令,和
处理器,用于读取存储器中的指令,以:
接收包含帧序列的视频,从视频中提取与运动物体相关的信息;对于视频中包含运动物体信息的帧,将该帧的像素区域划分为多个子区,并将多个子区分为运动子区和非运动子区,其中,运动子区中包括与运动物体相关的信息,而除运动子区之外的其他子区作为非运动子区;并且基于时域滤波系数、前一帧中处于相同位置的子区的时域滤波后的灰度直方图和当前帧的子区的经过直方图均衡化处理后的灰度直方图得到当前帧的子区的时域滤波后的灰度直方图,其中,时域滤波系数为:前一帧中处于相同位置的子区的均衡时域滤波后的灰度直方图在对当前帧中的子区的均衡后的灰度直方图进行滤波处理中的权重,其中,运动子区的时域滤波系数低于非运动子区的时域滤波系数。
示例16可以包括示例15的主旨,并且可选择地,其中,处理器,对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,并且对于运动子区的对比度的限制小于对于非运动子区的对比度的限制。
示例17可以包括示例15-16的主旨,并且可选择地,其中,对于每个子区的灰度直方图,通过累积分布函数将灰度直方图映射为CDF曲线,并将CDF曲线的最大斜率作为限制因子,如果进行限制对比度的直方图均衡化处理,根据限制因子来限制每个子区的对比度。
示例18可以包括示例15-17的主旨,并且可选择地,其中,处理器,使用低通滤波的加权矩阵对多个子区中的非边缘子区及与非边缘子区相邻的子区的均衡化后的灰度直方图进行空间滤波,得到非边缘子区的空间滤波后的灰度直方图,其中非边缘子区是位于帧的边缘以外的子区。
示例19可以包括示例15-18的主旨,并且可选择地,其中,运动子区的低通滤波的截止频率高于非运动子区的低通滤波的截止频率,使得非边缘子区中,运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差大于非运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差。
示例20可以包括示例15-19的主旨,并且可选择地,其中,运动物体信息的提取通过以下方式进行:
从视频中的相邻多帧中提取静态背景;对于帧序列中每一帧,比较该帧与静态背景的差异,得到运动物体信息。
示例21可以包括一种机器可读介质,该机器可读介质中存储了指令,该指令被机器运行时,机器可以执行示例1-7中描述的方法。
示例22可以包括示例1-21的主旨,并且可选择地,其中,可以通过以下公式对非边缘子区进行空间滤波:
H_flt_C=(a1*H_eq_1+a2*H_eq_2+…+a5*H_eq_C+…+a9*H_eq_8)/(a1+a2+…+a9)
其中,H_flt_C为该非边缘子区C的空间滤波后的灰度直方图,H_eq_C为对非边缘子区C进行直方图均衡后得到的直方图,H_eq_1,H_eq_2,…,H_eq_8为对非边缘子区C的相邻八个子区进行直方图均衡后得到的直方图,a1,a2,…,a9为根据低通滤波器的截止频率得到的空间加权矩阵中的元素,代表非边缘子区C及相邻八个子区的权重。
示例23可以包括示例1-22的主旨,并且可选择地,其中,可以通过以下公式对子区进行时域滤波:
H=F_T_LP*H_eq_t0+(1-F_T_LP)*H_eq_t1
其中,H为子区的时域滤波后的灰度直方图,F_T_LP为时域滤波系数,H_eq_t1为该帧中的子区的均衡后的灰度直方图,而H_eq_t0为该帧的前一帧中同一位置处的子区的时域滤波后的灰度直方图。
Claims (12)
1.一种图像处理方法,其特征在于,包括,
接收包含帧序列的视频,从所述视频中提取包含运动物体相关的信息的帧;
对于所述视频中包含运动物体相关的信息的帧,
将所述帧的像素区域划分为多个子区,并将所述多个子区分为运动子区和非运动子区,其中,所述运动子区中包括所述运动物体相关的信息,而除了运动子区之外的其他子区作为非运动子区;以及
统计所述多个子区中的每个子区的灰度级分布,得到每个子区的灰度直方图,对所述每个子区的灰度直方图进行限制对比度的直方图均衡化处理,其中,对于所述运动子区的对比度的限制小于对于所述非运动子区的对比度的限制;还包括:将所述每个子区的灰度直方图映射为累积分布函数曲线,并将所述累积分布函数曲线的最大斜率作为限制因子;并且其中,所述限制对比度的直方图均衡化处理还包括,根据所述限制因子来限制每个子区的对比度,使运动子区的累积分布函数曲线的最大斜率小于非运动子区的累积分布函数曲线的最大斜率;
使用低通滤波的加权矩阵对所述多个子区中的非边缘子区及所述非边缘子区的八个相邻子区的均衡化后的灰度直方图进行空间滤波,得到所述非边缘子区的空间滤波后的灰度直方图,其中所述非边缘子区是位于所述帧的边缘以外的子区;所述非边缘子区中的所述运动子区的低通滤波的截止频率高于所述非边缘子区中的所述非运动子区的低通滤波的截止频率,使得所述非边缘子区中,所述运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差大于所述非运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差。
2.根据权利要求1所述的图像处理方法,其特征在于,所述限制对比度的直方图均衡化处理还包括在进行空间滤波之后进行时域滤波,包括:
基于时域滤波系数、当前帧的子区的均衡后的灰度直方图、以及前一帧中处于相同位置的子区的时域滤波后的灰度直方图,得到所述当前帧的所述子区的时域滤波后的灰度直方图,其中,所述时域滤波系数为:所述前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重。
3.根据权利要求2所述的图像处理方法,其特征在于,
作为所述运动子区的所述子区的时域滤波系数低于作为所述非运动子区的所述子区的时域滤波系数。
4.根据权利要求1所述的图像处理方法,其特征在于,所述运动物体相关的信息的提取通过以下方式进行:
从所述视频中的相邻多帧中提取静态背景;对于所述帧序列中的每一帧,比较该帧与所述静态背景的差异,得到运动物体相关的信息。
5.一种图像处理装置,其特征在于,包括,
运动检测单元,被配置为接收包含帧序列的视频,从所述视频中提取包含运动物体相关的信息的帧;
像素区域划分单元,被配置为对于所述视频中包含运动物体相关的信息的帧,将该帧的像素区域划分为多个子区,并将所述多个子区分为运动子区和非运动子区,其中,所述运动子区中包括所述运动物体相关的信息,而除运动子区之外的其他子区作为非运动子区;和
直方图均衡单元,被配置为对每个子区的灰度直方图进行限制对比度的直方图均衡化处理,并且对于所述运动子区的对比度的限制小于对于所述非运动子区的对比度的限制;还被配置为使用低通滤波的加权矩阵对所述多个子区中的非边缘子区及所述非边缘子区的八个相邻子区的经过直方图均衡化处理后的灰度直方图进行空间滤波,得到所述非边缘子区的空间滤波后的灰度直方图,其中所述非边缘子区是位于所述帧的边缘以外的子区,其中,所述非边缘子区中的所述运动子区的低通滤波的截止频率高于所述非边缘子区中的所述非运动子区的低通滤波的截止频率,使得所述非边缘子区中,所述运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差大于所述非运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差;进一步被配置为,对于每个子区的灰度直方图,将所述灰度直方图映射为累积分布函数曲线,并将所述累积分布函数曲线的最大斜率作为限制因子,进行所述限制对比度的直方图均衡化处理时,根据所述限制因子来限制每个子区的对比度,使运动子区的累积分布函数曲线的最大斜率小于非运动子区的累积分布函数曲线的最大斜率。
6.根据权利要求5所述的图像处理装置,其特征在于,所述直方图均衡单元进一步被配置为在进行空间滤波之后进行时域滤波,基于时域滤波系数、当前帧的子区的均衡后的灰度直方图、以及前一帧中处于相同位置的子区的时域滤波后的灰度直方图,得到所述当前帧的所述子区的时域滤波后的灰度直方图,其中,所述时域滤波系数为:所述前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重。
7.根据权利要求6所述的图像处理装置,其特征在于,作为所述运动子区的所述子区的时域滤波系数低于作为所述非运动子区的所述子区的时域滤波系数。
8.根据权利要求5所述的图像处理装置,其特征在于,所述运动检测单元进一步被配置为,从所述视频中的相邻多帧中提取静态背景;对于所述帧序列中的每一帧,比较该帧与所述静态背景的差异,得到运动物体相关的信息。
9.根据权利要求5所述的图像处理装置,其特征在于,还包括图像传感器,用于采集包含帧序列的视频,并发送给所述运动检测单元。
10.一种计算机系统,其特征在于,包括:
存储器,所述存储器中包含要被处理器执行的指令,和
处理器,用于读取所述存储器中的指令,以:
接收包含帧序列的视频,从所述视频中提取包含运动物体相关的信息的帧;
对于所述视频中包含运动物体相关的信息的帧,
将所述帧的像素区域划分为多个子区,并将所述多个子区分为运动子区和非运动子区,其中,所述运动子区中包括所述运动物体相关的信息,而除运动子区之外的其他子区作为非运动子区;并且
统计所述多个子区中的每个子区的灰度级分布,得到每个子区的灰度直方图,对所述每个子区的灰度直方图进行限制对比度的直方图均衡化处理,其中,对于所述运动子区的对比度的限制小于对于所述非运动子区的对比度的限制;还包括:将所述每个子区的灰度直方图映射为累积分布函数曲线,并将所述累积分布函数曲线的最大斜率作为限制因子;并且其中,所述限制对比度的直方图均衡化处理还包括,根据所述限制因子来限制每个子区的对比度,使运动子区的累积分布函数曲线的最大斜率小于非运动子区的累积分布函数曲线的最大斜率;
使用低通滤波的加权矩阵对所述多个子区中的非边缘子区及所述非边缘子区的八个相邻子区的均衡化后的灰度直方图进行空间滤波,得到所述非边缘子区的空间滤波后的灰度直方图,其中所述非边缘子区是位于所述帧的边缘以外的子区;所述非边缘子区中的所述运动子区的低通滤波的截止频率高于所述非运动子区的低通滤波的截止频率,使得所述非边缘子区中,所述运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差大于所述非运动子区的灰度直方图的权重与其相邻子区的灰度直方图的权重差;
所述限制对比度的直方图均衡化处理还包括在进行空间滤波之后进行时域滤波,包括:基于时域滤波系数、当前帧的子区的经过直方图均衡化处理后的灰度直方图、以及前一帧中处于相同位置的子区的时域滤波后的灰度直方图,得到所述当前帧的所述子区的时域滤波后的灰度直方图,其中,所述时域滤波系数为所述前一帧中处于相同位置的子区的时域滤波后的灰度直方图的权重,并且其中,作为所述运动子区的所述子区的时域滤波系数低于作为所述非运动子区的所述子区的时域滤波系数。
11.根据权利要求10所述的计算机系统,其特征在于,所述运动物体相关的信息的提取通过以下方式进行:
从所述视频中的相邻多帧中提取静态背景;对于所述帧序列中的每一帧,比较该帧与所述静态背景的差异,得到运动物体相关的信息。
12.一种计算机可读介质,其特征在于,所述计算机可读介质中存储了指令,该指令被计算机运行时,所述计算机执行如权利要求1-4中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910103548.1A CN109858449B (zh) | 2019-02-01 | 2019-02-01 | 图像处理方法、装置、介质及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910103548.1A CN109858449B (zh) | 2019-02-01 | 2019-02-01 | 图像处理方法、装置、介质及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109858449A CN109858449A (zh) | 2019-06-07 |
CN109858449B true CN109858449B (zh) | 2022-08-16 |
Family
ID=66897467
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910103548.1A Active CN109858449B (zh) | 2019-02-01 | 2019-02-01 | 图像处理方法、装置、介质及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109858449B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110992239B (zh) * | 2019-11-14 | 2023-03-24 | 中国航空工业集团公司洛阳电光设备研究所 | 一种基于单片ddr3芯片的图像时域滤波与显示的方法 |
CN111311526B (zh) * | 2020-02-25 | 2023-07-25 | 深圳市朗驰欣创科技股份有限公司 | 视频增强方法、视频增强装置及终端设备 |
CN113160097B (zh) * | 2021-03-26 | 2023-12-22 | 中国航空无线电电子研究所 | 一种基于直方图变换的红外图像量化方法 |
CN113314080A (zh) * | 2021-05-31 | 2021-08-27 | 锐迪科微电子科技(上海)有限公司 | 一种背光亮度的控制方法及电子设备 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1901620A (zh) * | 2005-07-19 | 2007-01-24 | 中兴通讯股份有限公司 | 一种基于运动检测和自适应滤波的视频图像降噪方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7430335B2 (en) * | 2003-08-13 | 2008-09-30 | Apple Inc | Pre-processing method and system for data reduction of video sequences and bit rate reduction of compressed video sequences using spatial filtering |
CN101114340A (zh) * | 2007-09-06 | 2008-01-30 | 成都方程式电子有限公司 | 直方图均衡化图像处理的vlsi实现系统及方法 |
CN101706953B (zh) * | 2009-11-13 | 2015-07-01 | 北京中星微电子有限公司 | 基于直方图均衡的图像增强方法和装置 |
CN104320575B (zh) * | 2014-09-30 | 2019-01-15 | 百度在线网络技术(北京)有限公司 | 一种用于便携式终端的图像处理方法及图像处理装置 |
US10115187B2 (en) * | 2015-01-30 | 2018-10-30 | Raytheon Company | Apparatus and processes for classifying and counting corn kernels |
CN104966272A (zh) * | 2015-05-29 | 2015-10-07 | 中国农业大学 | 一种水下海参图像处理方法及系统 |
CN105404862A (zh) * | 2015-11-13 | 2016-03-16 | 山东大学 | 一种基于手部跟踪的安全驾驶检测方法 |
CN105551061A (zh) * | 2015-12-09 | 2016-05-04 | 天津大学 | 高动态范围图像融合中保留无鬼影运动物体处理方法 |
CN105608676B (zh) * | 2015-12-23 | 2018-06-05 | 浙江宇视科技有限公司 | 一种视频图像的增强方法及装置 |
CN108062746A (zh) * | 2016-11-09 | 2018-05-22 | 深圳市优朋普乐传媒发展有限公司 | 一种视频图像处理方法与装置、视频编码系统 |
CN107481202B (zh) * | 2017-08-14 | 2020-08-04 | 深圳市华星光电半导体显示技术有限公司 | 一种图像动态范围增强的方法 |
CN107945122B (zh) * | 2017-11-07 | 2021-10-22 | 武汉大学 | 基于自适应直方图分段的红外图像增强方法及系统 |
-
2019
- 2019-02-01 CN CN201910103548.1A patent/CN109858449B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1901620A (zh) * | 2005-07-19 | 2007-01-24 | 中兴通讯股份有限公司 | 一种基于运动检测和自适应滤波的视频图像降噪方法 |
Non-Patent Citations (2)
Title |
---|
Motion Detection Based on Frame Difference Method;Nishu Singla;《International Journal of Information & Computation Technology》;20141231;第4卷(第15期);第1559-1565页 * |
一种新的基于H.246压缩域的运动对象分割算法;冯杰 等;《光电子·激光》;20091231;第20卷(第12期);第1641-1645页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109858449A (zh) | 2019-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109858449B (zh) | 图像处理方法、装置、介质及系统 | |
US11882357B2 (en) | Image display method and device | |
CN107278314B (zh) | 用于非局部均值图像去噪的装置、移动计算平台和方法 | |
US20210004962A1 (en) | Generating effects on images using disparity guided salient object detection | |
WO2020051816A1 (en) | Condense-expansion-depth-wise convolutional neural network for face recognition | |
US10198801B2 (en) | Image enhancement using self-examples and external examples | |
CN110930301B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP2023503355A (ja) | 画像センサデータの画像解析への直接変換を実行するためのシステム及び方法 | |
US20170091575A1 (en) | Method and system of low-complexity histrogram of gradients generation for image processing | |
TW202220433A (zh) | 圖框處理及/或擷取指令系統及技術 | |
US11100192B2 (en) | Apparatus and methods for vector operations | |
US10831861B2 (en) | Apparatus and methods for vector operations | |
CN111340732B (zh) | 一种低照度视频图像增强方法及装置 | |
CN107424124B (zh) | 一种图像增强方法及装置 | |
Wang et al. | Enhancement for dust-sand storm images | |
CN112927144A (zh) | 图像增强方法、图像增强装置、介质和电子设备 | |
CN105046278B (zh) | 基于Haar特征的Adaboost检测算法的优化方法 | |
CN109146780A (zh) | 一种影像质量优化方法、计算机装置及可读存储介质 | |
CN114267089A (zh) | 一种伪造图像的识别方法、装置及设备 | |
US12094079B2 (en) | Reference-based super-resolution for image and video enhancement | |
CN114119377B (zh) | 一种图像处理方法及装置 | |
CN112200730B (zh) | 图像滤波处理方法、装置、设备及存储介质 | |
CN115760658A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
WO2022178834A1 (zh) | 一种图像处理的方法和装置 | |
CN115222940B (zh) | 一种语义分割方法、系统、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |