CN101175151A - 用于进行快速和有效噪声减小的方法和设备 - Google Patents
用于进行快速和有效噪声减小的方法和设备 Download PDFInfo
- Publication number
- CN101175151A CN101175151A CNA2007101849720A CN200710184972A CN101175151A CN 101175151 A CN101175151 A CN 101175151A CN A2007101849720 A CNA2007101849720 A CN A2007101849720A CN 200710184972 A CN200710184972 A CN 200710184972A CN 101175151 A CN101175151 A CN 101175151A
- Authority
- CN
- China
- Prior art keywords
- filter
- time domain
- frame
- vision signal
- carried out
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000009467 reduction Effects 0.000 title abstract description 7
- 238000001914 filtration Methods 0.000 claims abstract description 36
- 230000004044 response Effects 0.000 claims abstract description 12
- 230000033001 locomotion Effects 0.000 claims description 108
- 238000001514 detection method Methods 0.000 claims description 35
- 230000008859 change Effects 0.000 claims description 26
- 239000013598 vector Substances 0.000 claims description 21
- 230000003247 decreasing effect Effects 0.000 claims description 8
- 230000006978 adaptation Effects 0.000 claims description 5
- BTCSSZJGUNDROE-UHFFFAOYSA-N gamma-aminobutyric acid Chemical compound NCCCC(O)=O BTCSSZJGUNDROE-UHFFFAOYSA-N 0.000 claims description 5
- 230000002123 temporal effect Effects 0.000 abstract description 5
- 230000000694 effects Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 230000003044 adaptive effect Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000012797 qualification Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/911—Television signal processing therefor for the suppression of noise
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Picture Signal Circuits (AREA)
- Image Processing (AREA)
Abstract
本发明涉及噪声减小领域。本发明具体地涉及用于时域噪声减小的滤波器以及涉及用于图像序列的时域噪声减小的方法、设备和计算机软件。用于时域噪声减小的滤波器用来在有限脉冲响应滤波器特性与无限脉冲响应滤波器特性之间切换。有利地,有限脉冲响应滤波器特性是平均滤波器的脉冲响应特性。用于时域噪声减小的滤波器有利地在用于对包括按帧索引排序的图像帧的视频信号进行时域噪声减小的设备包括滤波器,用于接连地滤波视频信号的图像帧,其中滤波器的滤波系数是帧计数索引的函数,帧计数索引对应于被移位一个偏移量的帧索引。
Description
技术领域
本发明涉及噪声减小领域。本发明具体地涉及用于时域噪声减小的滤波器以及涉及用于图像序列的时域噪声减小的方法、设备和计算机软件。
背景技术
在给定图像序列后,时域噪声减小可以超过空域噪声减小。这样的图像序列例如可以通过视频信号的图像帧序列被给出。术语‘图像帧’或简称为‘帧’,在下面被利用来表示‘图像序列的一个图像’以及不应当限于通常的视频信号的上下文。虽然空间滤波往往使得图像模糊,但时间滤波不会造成图像模糊。这提供时间滤波超过空间滤波的优点。通常,通过时间滤波得到的噪声减小效果远高于通过空间滤波得到的效果。然而,当出现情景改变时或当在图像序列中存在运动时,时域噪声减小遇到问题。情景改变的概念作为空间情形可包括图像序列的开始。事实上,三种情形--情景开始、情景改变和运动--都导致图像之间减小的相关性。在技术上,情景改变可被看作为或多或少影响整个图像的运动。以下的例子将阐述现有技术时域噪声减小技术遇到的问题。
递归滤波器广泛地被利用于时域噪声减小。图1显示一阶递归滤波器。在图1上,T代表延迟时间,T例如可以具有一半的帧/场周期的值。延迟可以通过帧/场存储器被实现。变量c具有在零与1之间的值,它是递归滤波器的零阶系数。1-c是递归滤波器的一阶系数。由于在一阶递归滤波器的情形下一阶系数完全由零阶系数确定,所以只要规定零阶系数就足以完全确定滤波器。系数c越小,这个滤波器的平滑效果或噪声减小效果或噪声减小能力越强,以及反之亦然。图1显示以下的滤波器公式的图形表示。
y(t)=c*x(t)+(1-c)*y(t-T) (1)
其中y(t)是在时间t的滤波器输出,y(t-T)时间t-T的滤波器输出,x(t)是在时间t的滤波器输入,t=1,T,2T,3T,..以及c∈[0,1]。在噪声减小实践中,不采用零,而是小的正值被设置为c的下限。显然,对于序列的第一图像可以不进行时间噪声减小,通常滤波器通过设置y(0)=x(0)而被初始化。一阶递归滤波器的输出是实际的输入与以前的滤波器输出的混合。在高阶递归滤波器的情形下,输出是实际的输入与以前的输出的混合。因此,在当前的输出与以前的输出之间的改变比起在当前的输入与以前的输入之间的改变被减小,结果噪声被减小。
滤波是按像素进行的,因此,对于图像的每个像素,实行如公式(1)描述的滤波操作。由多个x(t)给出的每个输入图像,与由多个y(t)给出的对应的输出图像关联。输入图像也称为‘原先的图像’或‘未滤波的图像’,对应的输出图像被称为‘滤波的图像’。当提及像素,即‘未滤波的像素’,‘滤波的像素’等等时,利用对应的概念。
使用时间噪声减小滤波器,如果不实行运动补偿,不应当试图减小在运动区域中的噪声--否则,将出现运动伪像。为了处理运动,时间递归滤波器通常被自适应地实现,即,系数c被适配于例如在两个接连的图像上两个像素的差值,并把所讨论的像素的差值与阈值相比较。如果这个差值小于预定的阈值,则假设差值是由于噪声而不是由于运动造成的,因此选择小的系数c,以使得达到强的噪声减小。如果差值变为更大的,具体地大于预定的阈值,则假设差值多半不是或不仅仅是由噪声而还是由于运动造成的。在这种情形下,选择较大的系数c,以使得实际的输入被减少地滤波。如果选择系数c的上限1(即,c=1),则输入x(t)实际上没有被滤波以及保持y(t)=x(t),即,滤波的图像是与未滤波的图像相同的。
自适应时间递归滤波器的缺点在于,在达到噪声减小效果之前,即,在滤波器收敛之前,需要许多图像。这即使在图像序列中没有运动或没有情景改变的情形下也成立。时间递归滤波器的慢的收敛速度在模拟时代不是主要关心的问题。在数字时代,慢的收敛速度直接影响编码效率,这又影响传输频率。对于医学应用,低的收敛速度意味着将要避免的增加的辐射。对于某些应用,甚至目前技术水平的自适应时间递归滤波器也完全不能应用。
本发明的目的是与现有技术相比较能够达到更好的时域噪声减小。本发明的其它目的可以从本发明的详细说明获知。
发明内容
这个目的是通过按照独立的权利要求1,20和36的、用于对视频信号进行时域噪声减小的设备、方法、和软件产品和通过按照权利要求2的、用于时域噪声减小的滤波器而达到的。
用于对包括按帧索引排序的图像帧的视频信号进行时域噪声减小的设备包括用于接连地滤波视频信号的图像帧的滤波器,其中滤波器的滤波系数是帧计数索引的函数,所述帧计数索引对应于被移位一个偏移量的帧索引。滤波器系数对于帧计数索引的相关性允许自适应时间滤波器的更快速的收敛。
用于时域噪声减小的滤波器用来在有限脉冲响应滤波器特性与无限脉冲响应滤波器特性之间进行切换。有利地,有限脉冲响应滤波器特性是平均滤波器的脉冲响应特性。用于时域噪声减小的滤波器有利地在用于对包括按帧索引排序的图像帧的视频信号进行时域噪声减小的设备中被利用,其中滤波器用来接连地滤波视频信号的图像帧,滤波器的滤波系数是帧计数索引的函数,以及所述帧计数索引对应于被移位一个偏移量的帧索引。
有利地,滤波器系数的相关性是如此的以使得滤波器的噪声减小能力是非恒定的,随帧计数索引单调地增加。这提供达到高的噪声减小的优点。滤波器的高的适应性对应于高的瞬时收敛速度。由于滤波器的噪声减小能力和适应性是冲突的特性,滤波器的收敛速度在开始端可以是高的,并且用于对视频信号进行时域噪声减小的设备有利地特征在于,滤波器系数的相关性是如此的以使得滤波器的适应性是非恒定的,并随帧计数索引单调地减小。
有利地,滤波器系数是零阶滤波器系数。
有利地,滤波器系数是非恒定的,并且是帧计数索引的单调递减函数。熟知的数学概念‘非恒定的’允许部分恒定性。熟知的数学概念‘单调递减’被理解为具有‘不增加’的意义。
有利地,除非根据不同于帧计数索引相关性的滤波器系数的相关性将滤波器系数设置为零值,滤波器系数的绝对值大于预定的正值。滤波器系数的这个限制意味着,保证滤波器的最小适应性,即,滤波器能够跟随输入信号。因此,需要对于帧计数索引的相关性来保证最小适应性。然而,可能希望没有或非常弱的适应性,所以,允许滤波器系数的绝对值变为小于预定的正值。
有利地,滤波器系数包括与帧计数索引无关的第一因子,和第二因子,该第二因子是非恒定的以及是帧计数索引的单调递减函数。在这种情形下,第二因子的绝对值有利地大于预定的正值。
有利地,滤波器系数,直到帧计数索引的最大值,反比于帧计数索引。在这种情形下,有利地,从最大值开始,滤波器系数与帧计数索引无关。滤波器系数的这个特定的相关性提供以上教导在计算上有效的实施方案。
有利地,用于对视频信号进行时域噪声减小的设备包括用于检测情景改变的情景改变检测设备,其中滤波器适配于当检测到情景改变时复位帧计数索引。
有利地,用于对视频信号进行时域噪声减小的设备包括用于检测运动的运动检测设备,其中滤波器适配于当检测到情景改变时复位帧计数索引。运动检测可以对于非运动补偿的和运动补偿的图像序列实行。在这种情形下,有利地,滤波器系数依赖于由运动检测设备提供的运动检测信息,其中滤波器系数对于相对较高的运动概率取相对较高的值,或替换地,滤波器系数对于相对较高的运动概率取相对较低的值。替换例对应于不同的应用例。在包括运动检测的设备的情形下,设备还有利地包括图像分析器,用于确定多个运动向量,每个运动向量表征在图像序列中出现的运动类型,处理设备适配于对于每个运动向量操作单独的帧计数索引,计算在第一图像帧的第一像素与第二图像帧的对应像素之间的差值,其中对应像素的每个像素相对于第一像素移位一个不同的运动向量,以及选择与产生最小的像素值差值的运动向量相对应的帧计数索引,其中滤波器系数是选择的帧计数索引的函数以及滤波器适配于滤波第一像素。
有利地,滤波器是递归滤波器。
本发明同样地可以在用于对视频信号进行时域噪声减小的方法中看到,其中视频信号的图像帧按帧索引被排序以及由滤波器接连地滤波,由此滤波器的滤波器系数是帧计数索引的函数,所述帧计数索引对应于被移位一个偏移量的帧索引。用于对视频信号进行时域噪声减小的方法的有利的实施例在各个从属权利要求中被规定。
本发明同样地可以在包括当在计算设备上被执行时用来实行用于时域噪声减小的发明性方法的程序信息的软件产品中看到。
附图说明
图1显示现有技术时域递归滤波器的图形表示。
图2显示由递归滤波器实施的平均滤波器的图形表示。
图3显示构成本发明的实施例的依赖于时间的自适应递归滤波器的图形表示。
图4显示描绘确定图3的递归滤波器的滤波器系数c的处理过程的流程图。
图5显示本发明的实施例的功能块组。
具体实施方式
用来平均图像序列中的图像的滤波器,即平均滤波器,可以由递归滤波器实施,如果公式(1)中的系数c被定义为1/n的话,其中n从1开始计数图像帧,以及被称为帧计数索引。这里应当指出,帧计数索引不一定取整数值,而可以例如由帧时间给出。以下的实施例的、借助于线性变换对于非整数情形的适配,是对于本领域技术人员直观的,在下面不作进一步考虑。而且,应当指出,平均滤波器是有限脉冲响应(FIR)滤波器,而递归滤波器是无限脉冲响应(IIR)滤波器。借助于滤波器系数对于帧索引或时间的相关性,有可能用IIR滤波器实施FIR滤波器。图2显示具有c=1/n的图1的递归滤波器,其中显示不同的但数学上等价的实施方案,它消除一阶滤波器系数1-c,由此具有仅仅需要计算上一个强度的乘法的优点。图2的滤波器由以下公式代表
y(t)=c*x(t)+(1-c)*y(t-T)
=y(t-T)+c*[x(t)-y(t-T)] 其中c=1/n (2)
FIR滤波器的噪声减小效果比起递归滤波器的噪声减小效果是不重要的。然而,递归滤波器收敛得很慢。FIR滤波器可以比起递归滤波器更快地达到噪声减小效果;例如,约7dB的噪声减小可以在5帧后达到。现在,如果不允许n增加到超过给定的nmax,但在达到nmax后保持为恒定的,则由公式(2)描述的滤波器在图像序列的开始端实施平均滤波器,而在达到nmax后对于序列的其余部分实施递归滤波器。因此,把平均滤波器的快速收敛与递归滤波器的强的噪声减小能力相组合。滤波器系数c对于帧计数索引n的相关性c=1/n具有适应性和瞬时收敛速度随帧计数索引而减小以及噪声减小能力随帧计数索引n而增加的效果。利用公式(2)的递归滤波器和从1开始计数图像帧和上限由nmax限制的n的用于时域噪声减小的方法构成本发明的第一实施例。
为了应付情景改变和运动,滤波器系数c=1/n被做成经由因子k的取决于情景和运动检测结果,这样,c=k/n。这个自适应滤波器由以下公式代表:
y(t)=y(t-T)+k/n*[x(t)-y(t-T)] (3)
它可被看作为平均滤波器与自适应递归滤波器的组合。图3示出按照公式(3)的滤波器。滤波器系数c包括两个因子。一个因子与帧计数索引无关,而另一个因子是非恒定的以及它是帧计数索引的单调递减函数。通常,滤波是按像素进行的,且是对于对应像素实行的。‘对应的’可以是指‘位于相同的图像位置’,例如由水平和垂直坐标x和y表示,但不限于这个意义,下面描述的第七实施例提供在不同的图像位置处对应像素的例子。
运动检测可以通过在两个接连的图像帧中取两个对应像素的差值而被实施。由此,时间上在前面的图像可以是未滤波的或对应的滤波图像,但有利地被取为滤波的图像。一个优点在于,滤波的图像包含较少的噪声,这样,得到的差值是对于真正的(无噪声的)像素值差值的更好的估值。这个差值信号在图2和3上被表示为‘diff’。对应的两个像素由此可以位于相同的图像位置,但也可以位于不同的图像位置。下面描述的第七实施例通过在不同的图像位置处的对应像素的例子。通常,运动检测可以对于非运动补偿的和运动补偿的图像序列实行。
利用公式(3)的递归滤波器和从1开始计数图像帧和上限由nmax限制的n的用于时域噪声减小的方法构成本发明的第二实施例。
接着,更详细地说明用于噪声减小的公式(3)的组合滤波器的某些应用例。
I.
所考虑的第一应用例是对诸如电影图像序列那样的图像序列进行时间噪声减小。这个应用例对应于本发明的第三实施例。这里,所有的图像以相同的着重点被显示,在这个意义上,可以看作为相等的。在这种情形下,k从范围[1,n]中间进行选择,即,k可以取其间除了1和n以外的所有的值,由此n从1开始计数图像帧和上限由nmax限制。
首先,说明k对于情景改变和运动检测结果的相关性。在没有情景改变和没有运动的情形下,选择k=1。k=1意味着--见公式(3)--最强的噪声减小。在情景改变的情形下和运动的情形下,选择k=n。k=n意味着--见公式(3)-没有噪声减小。由于问题‘是否发生情景改变’和问题‘是否出现运动’不是总能肯定地判断,k也可以取其间所有的值。因此,对于发生情景改变或运动的相对较高的概率,k取相对较高的值,以及对于发生情景改变或运动的相对较低的概率,k取相对较低的值。k的选择过程可以通过查找表来实施。查找表为情景改变检测和运动检测的给定的结果提供k的值。
其次,说明n对于情景改变和运动检测的相关性。正如上面说明的,n从1开始计数图像帧,但上限由nmax限制,以及在达到nmax后保持为恒定的(n∈[1,nmax])。当检测到情景改变或运动时,n被复位到它的初始值,即,n=1。因此,帧计数索引n对应于被移位一个偏移量的总帧计数索引。帧计数索引可被看作为相对帧索引。由于n在情景改变和运动的情形下被复位,所以该偏移量是可变的。偏移量可以取零值。如上所述,情景改变或运动检测可以仅仅表示情景改变或运动的概率。所以,如果情景改变或运动的概率高于给定的阈值,则帧计数索引n被设置为它的初始值,即,n=1。否则,不采取动作,即,n按以上所述地变化:或者增大1或者保持为恒定的。n可以由寄存器实现。三位寄存器提供达2^3=8的nmax,四位寄存器提供达2^4=16的nmax,以及五位寄存器提供高达2^5=32的nmax。因此,具有在[5,8],[9,16],或[17,32]的范围内的nmax的n分别有利地由三、四和五位寄存器实现。nmax=16的值表明为对于许多应用例如电影有良好的值。
尽管说明了k和n对于情景改变和运动检测的结果的相关性,实际上和理论上有价值的是考虑其中k和/或n仅仅依赖于情景改变的情形。这里,k和/或n的行为仅仅是好像没有检测到运动那样。当然,这个减小行为的技术实施方案比起对于情景改变和运动的完全相关性的实施方案具有较小的复杂性,因为不需要实施运动检测以及k和/或n对于运动检测结果的相关性。
因此,首先考虑纯情景改变情形--对应于第四实施例。如果例如在序列开始端发生情景改变,则k等于n。所以,y(t)=x(t),这意味着没有噪声减小,以及避免运动伪像。另外,n被复位到它的初始值。假设没有发生另外的情景改变,k等于1。所以,在达到nmax之前滤波器就像平均滤波器那样工作,噪声减小的起动是快速的。换句话说,滤波器快速收敛,比起具有恒定的滤波器系数1/nmax的递归滤波器收敛得更快。当达到nmax时,滤波器就像具有时不变系数c=1/nmax的递归滤波器那样工作,以及递归滤波器的高的噪声减小能力是可以看到的。在滤波器输出信号中的稳态噪声被称为残余噪声。在未滤波的图像中存在的噪声与滤波的图像的残余噪声的比值由系数c给出。在四位寄存器的情形下,nmax可以取16的值。在这种情形下,噪声被减小1/16的因子,对应于原先的噪声电平的6.25%。
纯情景改变情形通过图4的流程图以至今考虑的细节水平进行概述。步骤S2表示图像序列的开始。方法从步骤S4从初始化帧计数索引n开始,即,把n设置为1。另外的k被设置为n,所以c=1,在图像序列的第一图像上,没有噪声减小。此后,方法进到步骤S6,在其中判断是否发生情景改变。如果是的话,则方法回到步骤S4。然而,如果不是的话,则方法进到步骤S8。在步骤S8,n被增大1,以及确定滤波器系数c=k/n=1/n。此后,方法进到步骤S10,其中当前的图像用在步骤S8确定的系数c限定的递归滤波器进行滤波。此后,方法进到步骤S12,在其中判断帧计数索引n是否达到nmax。如果不是的话,方法回到步骤S6,如果是的话,方法进到步骤S14。在步骤S14,判断是否发生情景改变。如果是的话,方法回到步骤S4,如果不是的话,方法进到步骤S16。在步骤S16,确定c的数值。由于n=nmax且k=1,所以c=1/nmax以及方法进到步骤S18。在步骤S18,当前的图像用在步骤S16确定的系数c限定的递归滤波器进行滤波。此后,方法进到步骤S20,在其中确定是否发生情景改变。如果不是的话,方法回到步骤S8,如果是的话,方法返回到步骤S4。每个分支步骤S6,S14和S20表示在接连地滤波图像帧序列的处理过程中从一个图像帧到下一个图像帧的进程。
正如已经提到的,是否发生情景改变的判断不总是清楚的。因此,实际上,k不是突然从1改变到n,或反之亦然,而是在[1,n]范围内平滑地变化,这取决于情景改变检测结果,其中对于情景改变的相对较高的概率,选择相对较高的k值。通过选择k的适当的中间值,考虑判断的不确定性。n的行为不受不确定性影响--k单独承受情景检测过程的不确定性。流程图的结构由此保持为同样的-只有步骤S6,S14和S20被修改,另外,在范围[1,n]中的k值根据情景改变检测结果被选择。因此,在步骤S8和S16,k不一定是1并且c分别由k/n和k/nmax给出。
现在其次地,且对应于第五实施例,考虑其中k依赖于运动检测结果和n不依赖于它的情形。在这种情形下,保存帧计数索引的寄存器如在图4显示的纯情景改变情形下那样工作。在静止图像区域中,组合滤波器的全部优点保持不变。然而,在运动区域中,组合滤波器的优点将消失。无论如何,滤波器以与现有技术自适应时间递归滤波器相类似的方式来减小噪声和避免运动伪像。
现在在第三方面,考虑k和n依赖于运动检测结果的情形。为了处理运动情形,硬件复杂性将变为较高的,因为有静止的和活动的图像区域以及在原理上,每个像素需要单独的帧计数索引n。每个n例如由一个寄存器实现。帧计数索引n不再等于相对于最后的情景改变的图像帧号:在静止区域中,n等于相对图像帧号,在运动区域中,n小于相对图像帧号。
处理运动的最直接方法--对应于第六实施例--是为图像的每个像素提供帧计数索引n。对于情景改变影响整个图像的差值,而运动仅仅影响检测到运动的像素,k和n适配于运动与在以上的纯情景改变改变情形中描述的k和n适配于情景改变是相同的。也就是,对于相对较高的运动概率,选择相对较高的k值,以及在检测到运动(具有相当高的概率)的情形下,n被复位。然而,这个直接方法是存储器密集的。例如,给定四位寄存器来实施每个帧计数索引n和8位像素深度,将需要图像存储器的24/28=1/16的部分来实现所有的像素的帧计数索引n。本发明的第七实施例也考虑运动,但需要较少的存储器。
如在下面描述的第七实施例使用比起像素更少的帧计数索引。帧计数索引的数目由图像序列中运动类型的实际的或预期的数目判断。运动类型由运动速度和运动方向表征。通过运动方向和对应的运动速度的组合给出的信息被称为‘运动向量’,以及例如可以由水平位移dx和垂直位移dy给出。具有相同的运动速度和运动方向的所有运动物体属于相同的运动类型。除了对应于实际的运动的运动类型以外,有对应于不运动的运动类型。这种运动类型对应于长度为零的运动向量。对于运动类型m,有帧计数索引nm。
现在,对于每个像素选择一个nm。在nm中间的选择由以下事实监管,即所确定的那种运动类型提供最好的噪声抑制效果。也就是,nm将被选择为使对应的运动向量引起在对应的两个像素之间的最小差值。对应的两个像素在位置上被描述运动类型的运动向量移位。这明显地包括在相同的空间位置处的像素,因为运动类型包括对应于不运动的运动类型。
按照经验,在图像序列中的运动类型常常不超过4。除了这种适当的运动类型以外,还有不运动区域。所以,对应于五种运动类型的五个帧计数索引通常对于描述图像序列的运动是足够的。
II.
要被考虑的第二应用例--对应于第八实施例--是对于从其得到单个图像的图像序列进行时间噪声减小。这样的序列例如在诊断或监视时遇到。
在这种情形下,单个图像是通过滤波图像序列或通过滤波图像序列的一部分而得到的。在后者的情形下,‘多个的单个图像’可以从整个序列得到。典型地,被称为参考帧的图像帧是突出的,而序列的其它图像帧支持参考图像,以便通过时间噪声减小来提高它的质量。
因为如由公式(1)描述的现有技术自适应时间递归滤波器跟随实际的输入,所以如果图像不直接互相接着的话,它不能减小参考图像的噪声。例如,如果帧j是参考帧和在帧j-1中出现运动,但帧j-J(J≠1)反映与帧J相同的情景,现有技术自适应时间滤波器不能利用在帧j与帧j-J之间的相关性。它只能利用在直接相邻的帧之间的相关性,用于时间噪声减小。一个例子是在图像序列中出现覆盖的和未覆盖的背景(封闭区域)。如果利用现有技术自适应时间递归滤波器,由于不是所有的图像都可被利用来减小噪声,这阻止有效地减小噪声。
为了处理这样的图像序列,可以再次利用由公式(3)描述的滤波器。在这个第二应用例中,k是从范围[0,n]选择的。正如在第一应用例中那样,大的k值导致弱的噪声减小,小的k值导致强的噪声减小。这里,具体地,k=n对应于没有噪声减小以及k=0对应于最强的噪声减小。在后者的情形下,y(t)=y(t-N)成立,即,信号被冻结。然而,与第一应用例相比较,k的选择过程是相反的。即,如果运动被检测,则选择k=0。如果没有运动被检测,则选择k=n。当运动检测没有提供清楚的结果时,k取中间值。即,对于相对较高的运动的概率,k取相对较小的数值。所以,滤波器输出被保持且不是像在现有技术自适应时间递归滤波器那样被丢弃或改变。结果,如果以下的图像是与参考图像相关的,则它们将有助于参考图像的噪声减小,不管它们具有哪个帧号码,即,不管帧是否直接相邻。这与需要帧是直接相邻的现有技术自适应时间递归滤波器相反。对于第二应用例,整个图像序列通常被存储。所以,不但进入的图像,而且以前的图像都可以有助于参考图像的噪声减小,只要它们是与参考图像相关的。
在本实施例中,k对于情景改变检测结果的相关性可以是与对应于第一应用例的任何实施例相同的,即,在对于相对较高的情景改变的概率的情形下,选择相对较大的k值。在本实施例中,帧计数索引n对于情景改变检测结果和/或运动检测结果的相关性可以是与对应于第一应用例的任何实施例相同的。这显然包括帧计数索引n与检测的运动无关的情形,即,在检测的运动的情形下不复位n的情形;以及包括在检测的运动的情形下复位帧计数索引n的情形。这也包括在检测的情景改变的情形下复位帧计数索引n的情形。然而,存在这些应用方案,其中在检测的情景改变的情形下不复位n的应用方案以及其中在相对较大的情景改变的概率的情形下选择k的相对较小的数值的应用方案。然而,其它的或修改的相关性方案也是可能的。
本发明的实际的实施方案显示于图5。图5显示用于对视频信号进行时域噪声减小的设备,用来实施上述的第一到第七实施例的任何方法。设备包括滤波器1,用于选择地滤波视频信号的图像帧;情景检测设备2,用于检测情景改变;运动检测设备3,用于检测运动;图像分析器4,用于确定多个运动向量,每个运动向量表征在情景改变中存在的运动类型;以及处理设备5。由于设备配备有情景检测设备2、运动检测设备3、图像分析器4和处理设备5,因此设备5从情景检测设备2、运动检测设备3和图像分析器4收集必要的信息,以便选择k和n的值,和由此确定滤波器1的滤波器系数c。滤波器1、情景检测设备2、运动检测设备3、图像分析器4和处理设备5例如可以通过例如在可编程DSP处理器上或在通用处理器上的软件,通过专用或或硬连线的分立电路或集成电路,或通过它们的组合被实施。设备10的部件1-5可以共享资源(例如,帧存储器)以及可以共享各种中间计算结果(例如,像素差值)。
本发明和本发明的实施例可以与空间滤波方案相组合。虽然本发明是参照递归滤波器说明的,但可以利用非递归滤波器来实施本发明。虽然本发明是参照一阶递归滤波器说明的,但也可以利用任何更高阶的递归滤波器来实施本发明。虽然本发明是参照具体实施例说明的,但这仅仅是说明性的,以及本领域技术人员将会看到,可以作出各种修改而不背离以下的权利要求的范围。
Claims (36)
1.一种用于对包括按帧索引排序的图像帧的视频信号进行时域噪声减小的设备(10),该设备包括:
滤波器(1),用于接连地滤波视频信号的图像帧,其中
滤波器(1)的滤波系数是帧计数索引的函数,其中所述帧计数索引对应于被移位一个偏移量的帧索引。
2.一种用于时域噪声减小的滤波器(1),用来在有限脉冲响应滤波器特性与无限脉冲响应滤波器特性之间切换。
3.按照权利要求2的用于时域噪声减小的滤波器(1),其中有限脉冲响应滤波器特性是平均滤波器的脉冲响应特性。
4.一种用于对包括按帧索引排序的图像帧的视频信号进行时域噪声减小的设备(10),该设备包括:
按照权利要求2或3的滤波器(1),用于接连地滤波视频信号的图像帧,其中
滤波器(1)的滤波系数是帧计数索引的函数,其中所述帧计数索引对应于被移位一个偏移量的帧索引。
5.按照权利要求1或4的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数的相关性是如此的以使得滤波器(1)的噪声减小能力是非恒定的,并随帧计数索引单调地增加。
6.按照权利要求1,4或5的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数的相关性是如此的以使得滤波器(1)的适应性是非恒定的,并随帧计数索引单调地减小。
7.按照权利要求1,4,5或6的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数是零阶滤波器系数。
8.按照权利要求1和4到7的任一项的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数是非恒定的以及是帧计数索引的单调递减函数。
9.按照权利要求1和4到8的任一项的用于对视频信号进行时域噪声减小的设备(10),其中
除非根据不同于帧计数索引相关性的滤波器系数的相关性将滤波器系数设置为零值,滤波器系数的绝对值大于预定的正值。
10.按照权利要求1和4到9的任一项的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数包括第一因子和第二因子,该第一因子与帧计数索引无关;该第二因子是非恒定的以及是帧计数索引的单调递减函数。
11.按照权利要求10的用于对视频信号进行时域噪声减小的设备(10),其中
第二因子的绝对值大于预定的正值。
12.按照权利要求1和4到11的任一项的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数,直到帧计数索引的最大值,反比于帧计数索引。
13.按照权利要求12的用于对视频信号进行时域噪声减小的设备(10),其中
从最大值开始,滤波器系数与帧计数索引无关。
14.按照权利要求1和4到13的任一项的用于对视频信号进行时域噪声减小的设备(10),其中
情景改变检测设备(2),用于检测情景改变,其中
滤波器适配于当检测到情景改变时复位帧计数索引。
15.按照权利要求1和4到14的任一项的用于对视频信号进行时域噪声减小的设备(10),包括:
用于检测运动的运动检测设备(3),其中
滤波器适配于当检测到运动时复位帧计数索引。
16.按照权利要求15的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数依赖于由运动检测设备(3)提供的运动检测信息,其中滤波器系数对于相对较高的运动概率取相对较高的值。
17.按照权利要求15的用于对视频信号进行时域噪声减小的设备(10),其中
滤波器系数依赖于由运动检测设备(3)提供的运动检测信息,其中滤波器系数对于相对较高的运动概率取相对较低的值。
18.按照权利要求15,16或17的用于对视频信号进行时域噪声减小的设备(10),包括:
图像分析器(4),用于确定多个运动向量,每个运动向量表征在图像序列中出现的运动类型,
处理设备(5),适配于
对于每个运动向量操作单独的帧计数索引,
计算在第一图像帧的第一像素与第二图像帧的对应像素之间的差值,其中对应像素的每个像素相对于第一像素移位一个不同的运动向量,以及
选择与产生最小的像素值差值的运动向量相对应的帧计数索引,其中
滤波器系数是所选择的帧计数索引的函数以及滤波器(1)适配于滤波第一像素。
19.按照权利要求1和4到18的任一项的用于对视频信号进行时域噪声减小的设备(10),其中滤波器(1)是递归滤波器。
20.一种用于对视频信号进行时域噪声减小的方法,其中视频信号的图像帧按帧索引被排序以及由滤波器接连地滤波,其中
滤波器的滤波器系数是帧计数索引的函数,其中所述帧计数索引对应于被移位一个偏移量的帧索引。
21.按照权利要求20的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数对于帧索引的相关性是如此的以使得滤波器的噪声减小能力是非恒定的,并随帧计数索引单调地增加。
22.按照权利要求20或21的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数对于帧计数索引的相关性是如此的以使得滤波器的适应性是非恒定的,并随帧计数索引单调地减小。
23.按照权利要求20,21或22的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数是零阶滤波器系数。
24.按照权利要求20到23的任一项的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数是非恒定的以及是帧计数索引的单调递减函数。
25.按照权利要求20到24的任一项的用于对视频信号进行时域噪声减小的方法,其中
除非根据不同于帧计数索引相关性的滤波器系数的相关性将滤波器系数设置为零值,滤波器系数的绝对值大于预定的正值。
26.按照权利要求20到25的任一项的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数包括第一因子和第二因子,该第一因子与帧计数索引无关;该第二因子是非恒定的以及是帧计数索引的单调递减函数。
27.按照权利要求26的用于对视频信号进行时域噪声减小的方法,其中
第二因子的绝对值大于预定的正值。
28.按照权利要求20到27的任一项的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数,直到帧计数索引的最大值,反比于帧计数索引。
29.按照权利要求28的用于对视频信号进行时域噪声减小的方法,其中
从最大值开始,滤波器系数与帧计数索引无关。
30.按照权利要求20到29的任一项的用于对视频信号进行时域噪声减小的方法,包括以下步骤:
检测情景改变,以及
当检测到情景改变时复位帧计数索引。
31.按照权利要求20到30的任一项的用于对视频信号进行时域噪声减小的方法,包括以下步骤:
检测运动,以及
当检测到运动时复位帧计数索引。
32.按照权利要求31的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数依赖于运动检测的结果,其中滤波器系数对于相对较高的运动概率取相对较高的值。
33.按照权利要求32的用于对视频信号进行时域噪声减小的方法,其中
滤波器系数依赖于运动检测的结果,其中滤波器系数对于相对较高的运动概率取相对较低的值。
34.按照权利要求31,32或33的用于对视频信号进行时域噪声减小的方法,包括以下步骤:
确定多个运动向量,每个运动向量表征在图像序列中出现的运动类型,
对于每个运动向量操作单独的帧计数索引,
计算在第一图像帧的第一像素与第二图像帧的对应像素之间的差值,其中对应像素的每个像素相对于第一像素移位一个不同的运动向量,以及
选择与产生最小的像素值差值的运动向量相对应的帧计数索引,
其中滤波器系数是所选择的帧计数索引的函数以及滤波器被利用来滤波第一像素。
35.按照权利要求20到34的任一项的用于对视频信号进行时域噪声减小的方法,其中滤波器(1)是递归滤波器。
36.一种软件产品,包括程序信息,当在计算设备上被执行时用来实行按照权利要求20到35的任一项的用于对视频信号进行时域噪声减小的发明性方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP06123273.2 | 2006-10-31 | ||
EP06123273A EP1919209A1 (en) | 2006-10-31 | 2006-10-31 | Method and device for fast and effective noise reduction |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101175151A true CN101175151A (zh) | 2008-05-07 |
CN101175151B CN101175151B (zh) | 2012-07-18 |
Family
ID=37898460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200710184972.0A Expired - Fee Related CN101175151B (zh) | 2006-10-31 | 2007-10-31 | 用于进行快速和有效噪声减小的方法和设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20080100748A1 (zh) |
EP (1) | EP1919209A1 (zh) |
JP (1) | JP2008118647A (zh) |
CN (1) | CN101175151B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103135811A (zh) * | 2011-11-24 | 2013-06-05 | 联咏科技股份有限公司 | 噪声过滤方法 |
CN104871209A (zh) * | 2013-01-04 | 2015-08-26 | 高通股份有限公司 | 减少数字视频流中的随机噪声的方法和设备 |
CN110445951A (zh) * | 2018-05-02 | 2019-11-12 | 腾讯科技(深圳)有限公司 | 视频的滤波方法和装置、存储介质、电子装置 |
US20220405898A1 (en) * | 2021-06-21 | 2022-12-22 | Qualcomm Incorporated | Temporal filtering restart for improved scene integrity |
CN116860124A (zh) * | 2023-09-04 | 2023-10-10 | 深圳市坤巨实业有限公司 | 一种触摸屏的噪声控制方法及系统 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102007037857A1 (de) * | 2007-08-10 | 2009-02-12 | Micronas Gmbh | Verfahren zur Reduktion von Bildartefakten |
CN101321015B (zh) * | 2008-06-20 | 2011-02-09 | 中国科学院上海光学精密机械研究所 | 全数字化的脉冲位置调制信号接收机及接收方法 |
DK2663076T3 (en) * | 2009-04-20 | 2016-12-05 | Dolby Laboratories Licensing Corp | Filter Selection for video preprocessing of video applications |
TW201322070A (zh) * | 2011-11-21 | 2013-06-01 | Novatek Microelectronics Corp | 雜訊過濾方法 |
US9041864B2 (en) * | 2012-11-19 | 2015-05-26 | Nokia Technologies Oy | Method and apparatus for temporal stabilization of streaming frames |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4823184A (en) * | 1984-04-09 | 1989-04-18 | Corporate Communications Consultants, Inc. | Color correction system and method with scene-change detection |
US5005082A (en) * | 1989-10-03 | 1991-04-02 | General Electric Company | Video signal compander adaptively responsive to predictions of the video signal processed |
US5905533A (en) * | 1992-05-20 | 1999-05-18 | Nikon Corporation | Image processing apparatus |
JPH07162718A (ja) * | 1993-12-10 | 1995-06-23 | Nikon Corp | 巡回型ノイズ低減装置 |
US5959693A (en) * | 1997-05-07 | 1999-09-28 | General Instrument Corporation | Pixel adaptive noise reduction filter for digital video |
CN1223181C (zh) * | 2000-01-13 | 2005-10-12 | 皇家菲利浦电子有限公司 | 信号的噪声滤波方法、设备和视频系统 |
KR100327385B1 (en) * | 2000-07-18 | 2002-03-13 | Lg Electronics Inc | Spatio-temporal three-dimensional noise filter |
WO2002043401A1 (en) * | 2000-11-22 | 2002-05-30 | Koninklijke Philips Electronics N.V. | Video signal processing |
WO2002059835A1 (en) * | 2001-01-26 | 2002-08-01 | Koninklijke Philips Electronics N.V. | Spatio-temporal filter unit and image display apparatus comprising such a spatio-temporal filter unit |
EP1417845A1 (en) * | 2001-04-09 | 2004-05-12 | Koninklijke Philips Electronics N.V. | Filter device |
US6912012B2 (en) * | 2001-07-20 | 2005-06-28 | Texas Instruments Incorporated | Video decoder having lock algorithm that distinguishes between a noisy television signal input and a video recorder signal |
-
2006
- 2006-10-31 EP EP06123273A patent/EP1919209A1/en not_active Withdrawn
-
2007
- 2007-09-04 US US11/849,795 patent/US20080100748A1/en not_active Abandoned
- 2007-10-31 JP JP2007283387A patent/JP2008118647A/ja not_active Withdrawn
- 2007-10-31 CN CN200710184972.0A patent/CN101175151B/zh not_active Expired - Fee Related
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103135811A (zh) * | 2011-11-24 | 2013-06-05 | 联咏科技股份有限公司 | 噪声过滤方法 |
CN104871209A (zh) * | 2013-01-04 | 2015-08-26 | 高通股份有限公司 | 减少数字视频流中的随机噪声的方法和设备 |
CN110445951A (zh) * | 2018-05-02 | 2019-11-12 | 腾讯科技(深圳)有限公司 | 视频的滤波方法和装置、存储介质、电子装置 |
CN110445951B (zh) * | 2018-05-02 | 2022-02-22 | 腾讯科技(深圳)有限公司 | 视频的滤波方法和装置、存储介质、电子装置 |
US20220405898A1 (en) * | 2021-06-21 | 2022-12-22 | Qualcomm Incorporated | Temporal filtering restart for improved scene integrity |
CN116860124A (zh) * | 2023-09-04 | 2023-10-10 | 深圳市坤巨实业有限公司 | 一种触摸屏的噪声控制方法及系统 |
CN116860124B (zh) * | 2023-09-04 | 2024-05-03 | 深圳市坤巨实业有限公司 | 一种触摸屏的噪声控制方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
US20080100748A1 (en) | 2008-05-01 |
EP1919209A1 (en) | 2008-05-07 |
JP2008118647A (ja) | 2008-05-22 |
CN101175151B (zh) | 2012-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101175151B (zh) | 用于进行快速和有效噪声减小的方法和设备 | |
Lukac | Adaptive color image filtering based on center-weighted vector directional filters | |
Dong et al. | A new directional weighted median filter for removal of random-valued impulse noise | |
US6396876B1 (en) | Preprocessing process and device for motion estimation | |
EP0549681B2 (en) | Video image processing | |
Kim et al. | Spatio-temporal adaptive 3-D Kalman filter for video | |
KR100339323B1 (ko) | 잡음감소필터,영상신호수신기,및영상데이터잡음감소필터링방법 | |
WO2009034493A2 (en) | Method, apparatus, system, and module for up-conversion of video image data | |
KR100914619B1 (ko) | 디인터레이싱 방법, 장치 및 시스템 | |
EP1358629A1 (en) | Spatio-temporal filter unit and image display apparatus comprising such a spatio-temporal filter unit | |
EP0762738B1 (en) | Ringing detector and filter | |
KR100206319B1 (ko) | 비디오 신호의 로컬 콘트라스트 개선을 위한 방법및장치 | |
WO2009052430A1 (en) | Systems and methods of motion and edge adaptive processing including motion compensation features | |
CN101141655A (zh) | 影像信号像素点色彩值调整方法 | |
KR20020093076A (ko) | 화상 노이즈 저감 방법 및 장치 | |
Melendez et al. | Spatiotemporal multiscan adaptive matched filtering | |
US5659370A (en) | Fuzzy logic based filter architecture for video applications and corresponding filtering method | |
Katsuyama et al. | Color image interpolation for impulsive noise removal using interactive evolutionary computing | |
KR100772405B1 (ko) | 전역 움직임 추정에 근거한 적응성 잡음 감쇄 방법 및 영상처리 시스템 | |
KR101775273B1 (ko) | 이미지들 사이의 상관관계 획득 방법 및 시스템 | |
JP3781387B2 (ja) | リンギング検出器およびフィルタ | |
Deka et al. | A noncausal linear prediction based switching median filter for the removal of salt and pepper noise | |
JPH08223540A (ja) | 動きベクトルを用いた動き内挿方法および動き内挿回路ならびに動きベクトル検出方法および動きベクトル検出回路 | |
KR100192777B1 (ko) | 다양한 윈도우 크기를 갖는 메디안 필터 | |
Hanji et al. | Impulse Noise suppression and edge preservation of digital images using image fusion |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20120718 Termination date: 20131031 |