CN104574342A - 视差深度图像的噪声识别方法和噪声识别装置 - Google Patents
视差深度图像的噪声识别方法和噪声识别装置 Download PDFInfo
- Publication number
- CN104574342A CN104574342A CN201310478587.2A CN201310478587A CN104574342A CN 104574342 A CN104574342 A CN 104574342A CN 201310478587 A CN201310478587 A CN 201310478587A CN 104574342 A CN104574342 A CN 104574342A
- Authority
- CN
- China
- Prior art keywords
- parallax
- value
- image block
- span
- noise
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 86
- 230000008569 process Effects 0.000 claims description 28
- 238000009826 distribution Methods 0.000 claims description 25
- 238000010586 diagram Methods 0.000 description 26
- 238000004590 computer program Methods 0.000 description 10
- 238000001914 filtration Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000005291 magnetic effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
提供了一种识别视差深度图像中噪声的噪声识别方法和装置。该噪声识别方法可以包括:将视差深度图像分成多个图像块;针对每一个图像块,确定该图像块的视差值取值范围中的可信视差取值范围;对于该图像块中的每一个像素,判断其视差值是否落入该图像块的可信视差取值范围,以及如果该像素的视差值没有落入该可信视差取值范围,则判定该像素的视差值为噪声。利用本发明的噪声识别方法和装置,能够对图像块取较大的大小,从而具有较高的计算效率,并且后续的噪声去除处理可以仅对识别出的噪声像素进行,不会影响到非噪声像素。
Description
技术领域
本发明涉及视差深度图像处理方法,具体地,涉及视差深度图像的噪声识别方法和噪声识别装置。
背景技术
图像匹配是计算机视觉和图像理解领域的基础研究问题之一,已广泛应用于多源图像融合、目标识别、三维重建等诸多领域。
随着三维重建技术、虚拟现实等领域的兴起,人们对视差图的精度和密度的要求越来越高,力图得出图像中的每一个像素点的可靠的深度信息。立体图像匹配的目的就是在相同三维场景的两幅成像平面中找到匹配的像素点对,计算出每个像素点坐标对应的视差值d,进而可以准确的描述场景的三维空间信息。
视差图可以利用各种传统的计算视差值的方法得出,例如块匹配、动态规划法、图割法、半全局匹配法(SGM)等等。然后不论什么方法得到的视差图,往往有或多或少的噪声,即一些像素的视差值,与周围像素的视差值差别很大,形成错误的凹凸点。
现有技术中已经提出一些视差图像噪声去除方法。
传统的图像噪声去除方法常常应用各种滤波方法。例如,中值滤波作为非线性的数字滤波方法应用就非常广泛。然而中值滤波方法中,图像窗口的尺寸是受限制的,如果窗口尺寸太大,图像就会变得很模糊,不利于后续的图像处理;但如果窗口设定较小,则有的噪声不能去除,且执行效率也较低。其次,在中值滤波中,每个像素点的视差值都会改变,包括原本正确的视差值,引来更多的噪声。另外,中值滤波需要对每个像素进行处理,非常耗费时间。
美国专利No.US7,570,804B2提出一个基于动态规划和GGCP的视差计算方法,该专利的噪声处理是在视差计算的同时完成的。在该方法中,在视差计算时,会得到一个匹配代价值,如果最低的代价值和第二最低的代价值差距小于一个阈值,就判定这个视差计算的可信度不高,将视作噪声去除。这种噪声去除方法的效率很高,因而实际应用很广泛,缺点就在于很多正确的视差值也同样被当成噪声去除了。
沈严,杨志卿等的“距离图像的分层滤波处理算法”,西安电子科技大学学报(自然科学版),2003年1期中提出了一种距离图像的分层滤波处理算法,该方法将图像分割成多个层次,然后在各层采用低通滤波,最后将各层合并形成最终的距离图像。这种方法因为还是采用滤波方式,因而很多正确的视差值也必定受到影响。
发明内容
本发明的一个目的在于提供一种噪声识别方法和装置,其能够快速识别噪声,同时不会影响正确的视差值。
根据本发明的一个方面,提供了一种识别视差深度图像中噪声的噪声识别方法,可以包括:将视差深度图像分成多个图像块;针对每一个图像块,确定该图像块的视差值取值范围中的可信视差取值范围;对于该图像块中的每一个像素,判断其视差值是否落入该图像块的可信视差取值范围,以及如果该像素的视差值没有落入该可信视差取值范围,则判定该像素的视差值为噪声。
根据一个实施例的噪声识别方法,确定该图像块的视差值取值范围中的可信视差取值范围可以包括:计算该图像块的视差分布直方图;利用视差分布直方图将视差值取值划分成多个范围;以及从该多个范围中找到置信度最高的一个或多个范围或置信度大于预定阈值的一个或多个范围作为可信视差取值范围。
根据再一个实施例的噪声识别方法,将图像分成多个图像块可以包括:将整个图像等分成彼此不重叠的多个图像块;或者将整个图像分成图像块具有重叠的多个图像块。
根据再一个实施例的噪声识别方法,图像块的尺寸可以随图像块的代表性视差值的大小不同而不同,其中当图像块的代表性视差值较大时,图像块的尺寸较大。
根据再一个实施例的噪声识别方法,计算视差分布直方图可以包括:将该图像块的视差值取值范围或者整个图像的视差值取值范围平均分成m个范围,[a0,a1),[a1,a2),…,[a(m-1),am),其中a0和am分别为该图像块的视差值取值的最小值和最大值或者整幅图像的视差值取值的最小值和最大值,m为大于2的正整数;以及扫描图像块内各个像素的视差值,统计落入每个视差值范围内的像素的个数。
根据再一个实施例的噪声识别方法,将视差分布直方图中的视差值取值范围划分成多个范围,可以包括:以视差分布直方图的统计计算中涉及的各个取值范围作为初始划分的视差范围;计算每两个相邻视差范围的代表性视差值之间的距离;如果该两个相邻视差范围的代表性视差值之间的距离小于预定阈值,合并两个视差范围;以及重复上述距离计算和视差范围合并过程,一直到没有合并操作为止。
根据再一个实施例的噪声识别装置,所述计算每两个相邻视差范围的代表性视差值之间的距离可以包括:找到每个视差范围中取其值的像素个数最多的视差值作为该视差范围的代表性视差值;以及计算相邻视差范围的代表性视差值之差作为每两个相邻视差范围的代表性视差值之间的距离。
根据本发明的另一方面,提供了一种识别视差深度图像中噪声的噪声识别装置,可以包括:图像块划分部件,用于将视差深度图像分成多个图像块;可信视差取值范围确定部件,用于针对每一个图像块,确定该图像块的视差值取值范围中的可信视差取值范围;以及噪声识别部件,用于对于一个图像块中的每一个像素,判断其视差值是否落入该图像块的可信视差取值范围,以及如果该像素的视差值没有落入该可信视差取值范围,则判定该像素的视差值为噪声。
利用本发明的噪声识别方法和装置,能够对图像块取较大的大小,从而具有较高的计算效率,并且后续的噪声去除处理可以仅对识别出的噪声像素进行,不会影响到非噪声像素。
附图说明
从下面结合附图对本发明实施例的详细描述中,本发明的这些和/或其它方面和优点将变得更加清楚并更容易理解,其中:
图1示出了根据本发明一个实施例的包含初始视差图生成和初始视差图噪声去除的功能部件的示例性系统功能图。
图2示出了通过立体匹配得到的初始视差图的一个示例。
图3示出了根据本发明实施例的识别视差深度图像中噪声的噪声识别方法示例的总体流程图。
图4(a)示出了图像块的视差分布直方图含有一个峰值的例子,图4(b)示出了图像块的视差分布直方图含有多个峰值的例子。
图5示出了本发明一个实施例的确定图像块的视差值取值范围中的可信视差取值范围的示例性方法230的流程图。
图6示出了根据本发明实施例的一种识别视差深度图像中噪声的噪声识别装置的配置框图。
图7示出了适于用来实现本发明实施方式的示例性计算系统400的框图。
具体实施方式
为了使本领域技术人员更好地理解本发明,下面结合附图和具体实施方式对本发明作进一步详细说明。
图1示出了根据本发明一个实施例的包含初始视差图生成和初始视差图噪声去除的功能部件的示例性系统功能图。如图1所示,双目相机100拍摄得到左图像102(1)和右图像102(2),输入到视差图生成部件103,通过视差图生成算法得到了初始视差图104,该视差图生成部件可以集成到双目相机中,或者集成到外部的计算装置,或者为一个单独的硬件装置。生成的视差图输入到噪声去除装置101,经噪声去除处理后,得到了经去除噪声的视差图105。需要说明的是,该噪声去除装置101可以与立体相机100集成为一个硬件,或者也可以作为单独的硬件或者作为其他计算机器的一个组件来实现。
图2示出了通过立体匹配得到的初始视差图的一个示例。其中,噪声以圆圈1和2示意性标出。
下面参考附图3描述根据本发明实施例的识别视差深度图像中噪声的噪声识别方法。
图3示出了根据本发明实施例的识别视差深度图像中噪声的噪声识别方法示例200的总体流程图。
在步骤S210中,将视差深度图像分成多个图像块。
首先说明一下,这里并不限制视差深度图像的来源,该视差深度图像可以是本地生成的,或者从外部接收的,其来源不构成对本发明的限制。另外视差深度图像可以是通过任何计算视差值的方法得出的,例如块匹配、动态规划法、图割法、半全局匹配法(SGM)等等,视差深度图像的生成方法不构成对本发明的限制。另外,在传递到本发明的噪声识别方法的处理之前,该视差深度图像可以经过任何其它处理。
另外需要说明的是,这里的视差深度图像可以是原始获得的整幅图像,也可以是从整幅图像中取出的部分图像。也就是说,本发明对于作为处理对象的图像的大小、形状等没有限制。
作为图像块划分方法的示例,在一个例子中,可以将整个图像等分成彼此不重叠的多个图像块。在另一个例子中,可以将整个图像分成图像块具有重叠的多个图像块,例如每个图像块和其例如水平相邻的图像块之间在水平方向具有1/2的重叠,即彼此有一半是重叠的。通过使得图像块之间具有重叠,让每一个像素点都有机会处于某一个图像块的较中间位置,使得图像块中的物体能够有更多机会完整地存在于一个图像块中,而不被图像块切割。
关于图像块的大小,应尽量避免将视差图像中的一个物体拆分开为最佳,换句话说,应尽量使得一个物体出现在同一个图像块中,而避免出现在多个不同的图像块中。
在传统的基于滤波的噪声去除方法中,每个图像块的尺寸非常小,例如3*3,5*5。大多数情况下,较小图像块仅仅只包含一个物体,因而如果从视差值的直方图分布来看,仅仅存在一个峰值,例如图4(a)所示。针对于图4(a)的例子,基于滤波的方法一般能取得较好的效果,然而针对图4(b)的例子,一个图像块中包含多个物体,从直方图看,可能存在多个峰值,如图4(b)所示。如果对于图4(b)的例子,依然采用基于滤波的噪声去除方法,结果处理后的图像块往往会变得很模糊,而且不同物体之间的分割会变得更不明显。
相比于例如中值滤波方法中的图像块的大小,本发明实施例中的图像块的大小可以大得多。在一个示例中,本发明实施例的图像块的大小为30*30。在另一个示例中,本发明实施例的图像块的大小为40*40。不过这仅为示例,本发明实施例的图像块的大小可以更小或更大。
如后续所说明的,本发明实施例的方法中,对图像块的视差值进行分析,找到正确的或可信的视差取值范围,并将图像块中未落入可信视差取值范围的像素判定为噪声。由此,本发明实施例中的图像块可以取较大的大小,从而本发明实施例的噪声去除方法或装置能够以较高的计算效率运行,而且不会影响正确的视差值。
在一个示例中,图像块的尺寸随图像块的代表性视差值的大小不同而不同,其中当图像块的代表性视差值较大时,图像块的尺寸较大。这是因为,视差值越大,意味着被摄对象距离拍摄相机的距离越近,因此该部分的图像像素代表的实际尺寸较小,因此图像块的尺寸可以大些,以便同一个物体有更大概率出现在同一个图像块中。相反,视差值越小,意味着被摄对象距离拍摄相机的距离越远,因此图像块的尺寸可以小些。
在一个示例中,图像块的代表性视差值可以计算为图像块的所有有效像素(不包含视差值为零的像素)的视差值之和的均值。需要说明的是,在本文中,除非特别说明,否则像素或有效像素是指具有有效视差值(非零视差值)的像素。在另一个示例中,图像块的代表性视差值可以为图像块的所有视差取值之中取其值的像素个数最多的视差值。不过,代表性视差值的定义不构成对本发明的限制,可以根据需要限定其它意义上的代表性视差值。
在另一个示例中,为了尽量避免将视差图像中的一个物体拆分开,可以在图像块划分之前,进行粗略的物体检测,并基于物体检测的结果来进行图像块划分,使得避免在一个图像块中,包括不同的物体,尤其是明显视差不同的物体。
在步骤S220中,取出第一个图像块。
这里对于图像块选取的顺序没有限制,可以按从上到下或从下到上的顺序进行从左到右或者从右到左的行扫描,或者也可以按其它顺序例如随机顺序进行图像块选取,只要能够以某种方式遍历所有图像块即可。
在步骤S230中,确定该图像块的视差值取值范围中的可信视差取值范围。
所谓可信视差取值范围,是指该图像块在理想的没有噪声的情况下所应表现出来的视差取值范围。在实际操作中,可以指图像块的视差值取值范围中置信度较高的一个或多个部分取值范围。
下面参考图5描述根据本发明一个实施例的确定图像块的视差值取值范围中的可信视差取值范围的示例性方法230。
图5示出了本发明一个实施例的确定图像块的视差值取值范围中的可信视差取值范围的示例性方法230的流程图。
如图5所示,在步骤S231中,计算该图像块的视差分布直方图。
在一个示例中,计算视差分布直方图可以包括下述操作。
首先,将该图像块的视差值取值范围或者整个图像的视差值取值范围平均分成m个范围,[a0,a1),[a1,a2),…,[a(m-1),am),其中a0和am分别为该图像块的视差值取值的最小值和最大值或者整幅图像的视差值取值的最小值和最大值,m为大于2的正整数。
在一个示例中,对于所有图像块,a0和am为整幅图像的视差值取值的最小值和最大值。考虑到在本发明噪声去除中不考虑视差值为零的像素(视差图中的黑色像素),因此可以将a0设置为一个极小值,例如0.0001。最大值am可以根据例如立体相机的取值极限来确定,例如,对于特定相机,可以为70。在一个示例中,每个范围的间距为3。在另一个示例中,每个范围的间距为5。可以根据需要设定不同的间距。
在划分得到m个范围之后,扫描图像块内各个像素的视差值,统计落入每个视差值范围内的像素的个数。从而得到类似于诸如图4中(a)和(b)形式的视差分布直方图。
在步骤S231计算得到视差分布直方图之后,前进到步骤S232。
在步骤S232中,利用视差分布直方图将视差值取值范围划分成多个范围。
此步骤的划分多个范围的操作旨在为后续从中选择可信视差取值范围做准备。
在一个示例中,将视差分布直方图中的视差值取值范围划分成多个范围可以包含下述操作。
首先,以视差分布直方图的统计计算中涉及的各个取值范围作为初始划分的视差范围。
然后,计算每两个相邻视差范围的代表性视差值之间的距离。在一个示例中,可以找到每个视差范围中取其值的像素个数最多的视差值作为该视差范围的代表性视差值。或者,如上所述,可以以视差取值落入该视差范围中的所有像素的视差值的均值作为该视差范围的代表性视差。在一个示例中,确定了视差范围的代表性视差值之后,代表性视差值之间的距离可以计算为该代表性视差值之间的差的绝对值。当然,例如,可以用代表性视差值之间的差的平方作为代表性视差值之间的距离。
接下来,判断所计算的相邻视差范围的代表性视差值之间的距离是否小于预定阈值。如果该两个相邻视差范围的代表性视差值之间的距离小于预定阈值,合并两个视差范围。在一个示例中,例如,在初始视差范围的间距为5的情况下,预定阈值例如可以取为3。在另一个示例中,阈值可以是动态变化的,例如可以根据视差范围的大小而适应性地调整。
重复上述距离计算和视差范围合并过程,一直到没有合并操作为止。
换句说话,上述代表性视差值距离计算和视差范围合并为一个迭代过程。每一轮迭代针对当前的各个视差范围进行,例如,假设当前具有k个视差范围,1,2,…,k,则计算1和2之间的距离并判断是否合并,然后依序进行,假设在处理完第k个范围后得到了新的假设j个视差范围,则前进到下一轮,对此j个视差范围进行类似处理。重复上述迭代,一直到在某轮迭代中,未进行任何合并操作为止。
在步骤S232中,完成将视差分布直方图中的视差值取值范围划分成多个范围之后,前进到步骤S233。
在步骤S233中,从该多个范围中找到置信度最高的一个或多个范围或置信度大于预定阈值的一个或多个范围作为可信视差取值范围。
关于各个范围的置信度的计算,可以根据该范围内像素点的个数和该范围本身来进行。一般地,一个范围内的像素点的个数越多,则该范围的置信度越高;以及一个范围本身自身的视差值例如代表性视差值越小,则该范围的置信度越高。在一个示例中,可以预先准备一置信度阈值的表格,例如,阈值用阈值像素个数来表示,将阈值像素个数和视差值之间相关联的存储,例如特定视差值都具有相关联的阈值像素个数。这样,对于一个范围,计算得到该范围的代表性视差值和相关联的像素个数,基于计算得到的代表性视差值,在置信度阈值表格中查找对应的阈值像素个数,如果与代表性视差值相关联的像素个数大于查找到的阈值像素个数,则认为该范围是可信视差范围。
由上,可以得到一个或多个可信视差范围。
上面参考图5描述了根据本发明一个实施例的确定该图像块的视差值取值范围中的可信视差取值范围的方法示例。不过可以根据其他方法来确定图像块的可信视差取值范围,例如,针对图像块中各个像素的视差值,采用聚类算法例如K-Means,K-Medoids,GMM,FCM等等得到聚类结果。然后基于聚类的密度(类别内,相对于类别的空间范围,样本点的个数)和范围大小确定置信度较高的一个或多个聚类,以这样的一个或多个聚类的视差取值范围该作为可信视差取值范围。
回到图3,在步骤S230中确定该图像块的视差值取值范围中的可信视差取值范围完成之后,前进到步骤S240。
在步骤S240中,对于该图像块中的每一个像素,判断其视差值是否落入该图像块的可信视差取值范围,以及如果该像素的视差值没有落入可信视差取值范围,则判定该像素的视差值为噪声。
在完成步骤S240的处理之后,前进到步骤S250中。
在步骤S250中,判定当前的图像块是否是最后一个图像块。如果是最后一个图像块,则处理结束,否则前进到步骤S260。
在步骤S260中,获取下一个图像块,然后前进到步骤S230,继续对该图像块进行可信视差取值范围确定(步骤S230)、依据图像块的视差值是否落入可信视差取值范围来识别噪声(步骤S240)、判定是否是最后一个图形块(步骤S250)的操作。如此循环下去,直到完成对最后一个图像块的处理为止。
根据本发明实施例的视差噪声识别方法,能够对图像块取较大的大小,从而具有较高的计算效率,并且后续的噪声去除处理可以仅对识别出的噪声像素进行,不会影响到非噪声像素。
对于识别出的噪声像素,可以进行各种处理。在一个示例中,可以将该噪声像素视为无效像素,将其视差值设置为零。在另一个示例中,可以根据该噪声像素周围的像素的视差值对该噪声像素进行视差值填充处理。
下面参考图6描述根据本发明实施例的一种识别视差深度图像中噪声的噪声识别装置300的功能配置。
图6示出了根据本发明实施例的一种识别视差深度图像中噪声的噪声识别装置的配置框图。
如图6所示,噪声识别装置300可以包括:图像块划分部件310,用于将视差深度图像分成多个图像块;可信视差取值范围确定部件320,用于针对每一个图像块,确定该图像块的视差值取值范围中的可信视差取值范围;以及噪声识别部件330,用于对于一个图像块中的每一个像素,判断其视差值是否落入该图像块的可信视差取值范围,以及如果该像素的视差值没有落入该可信视差取值范围,则判定该像素的视差值为噪声。有关图像块划分部件310、可信视差取值范围确定部件320、噪声识别部件330的功能和操作可以参考图3中关于步骤S210、S230、S240的描述。
需要说明的是,图6中所示的噪声识别装置300仅为示例,可以根据需要进行其他配置,例如可以包括额外的噪声像素填充部件等等。
本发明还可以通过一种用于识别视差深度图像中噪声的计算系统来实施。图7示出了适于用来实现本发明实施方式的示例性计算系统400的框图。如图7所示,计算系统400可以包括:CPU(中央处理单元)401、RAM(随机存取存储器)402、ROM(只读存储器)403、系统总线404、硬盘控制器405、键盘控制器406、串行接口控制器407、并行接口控制器408、显示控制器409、硬盘410、键盘411、串行外部设备412、并行外部设备413和显示器414。在这些设备中,与系统总线404耦合的有CPU401、RAM402、ROM403、硬盘控制器405、键盘控制器406、串行接口控制器407、并行接口控制器408和显示控制器409。硬盘410与硬盘控制器405耦合,键盘411与键盘控制器406耦合,串行外部设备412与串行接口控制器407耦合,并行外部设备413与并行接口控制器48耦合,以及显示器414与显示控制器409耦合。应当理解,图7所述的结构框图仅仅是为了示例的目的,而不是对本发明范围的限制。在某些情况下,可以根据具体情况增加或减少某些设备。
所属技术领域的技术人员知道,本发明可以实现为系统、装置、方法或计算机程序产品。因此,本发明可以具体实现为以下形式,即:可以是完全的硬件、也可以是完全的软件(包括固件、驻留软件、微代码等),还可以是硬件和软件结合的形式,本文一般称为“电路”、“模块”、“装置”或“系统”。此外,在一些实施例中,本发明还可以实现为在一个或多个计算机可读介质中的计算机程序产品的形式,该计算机可读介质中包含计算机可读的程序代码。
可以采用一个或多个计算机可读介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、电线、光缆、RF等等,或者上述任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
上面参照本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本发明。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机程序指令实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,这些计算机程序指令通过计算机或其它可编程数据处理装置执行,产生了实现流程图和/或框图中的方框中规定的功能/操作的装置。
也可以把这些计算机程序指令存储在能使得计算机或其它可编程数据处理装置以特定方式工作的计算机可读介质中,这样,存储在计算机可读介质中的指令就产生出一个包括实现流程图和/或框图中的方框中规定的功能/操作的指令装置(instruction means)的制造品(manufacture)。
也可以把计算机程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机或其它可编程装置上执行的指令能够提供实现流程图和/或框图中的方框中规定的功能/操作的过程。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本发明的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (10)
1.一种识别视差深度图像中噪声的噪声识别方法,包括:
将视差深度图像分成多个图像块;
针对每一个图像块,
确定该图像块的视差值取值范围中的可信视差取值范围;
对于该图像块中的每一个像素,判断其视差值是否落入该图像块的可信视差取值范围,以及如果该像素的视差值没有落入该可信视差取值范围,则判定该像素的视差值为噪声。
2.如权利要求1所述的噪声识别方法,所述确定该图像块的视差值取值范围中的可信视差取值范围包括:
计算该图像块的视差分布直方图;
利用视差分布直方图将视差值取值范围划分成多个范围;以及
从该多个范围中找到置信度最高的一个或多个范围或置信度大于预定阈值的一个或多个范围作为可信视差取值范围。
3.如权利要求1所述的噪声识别方法,其中,所述将图像分成多个图像块,包括:
将整个图像等分成彼此不重叠的多个图像块;或者
将整个图像分成图像块具有重叠的多个图像块。
4.如权利要求3所述的噪声识别方法,其中图像块的尺寸随图像块的代表性视差值的大小不同而不同,其中当图像块的代表性视差值较大时,图像块的尺寸较大。
5.如权利要求2所述的噪声识别方法,所述计算视差分布直方图包括:
将该图像块的视差值取值范围或者整个图像的视差值取值范围平均分成m个范围,[a0,a1),[a1,a2),…,[a(m-1),am),其中a0和am分别为该图像块的视差值取值的最小值和最大值或者整幅图像的视差值取值的最小值和最大值,m为大于2的正整数;以及
扫描图像块内各个像素的视差值,统计落入每个视差值范围内的像素的个数。
6.如权利要求2所述的噪声识别方法,所述将视差分布直方图中的视差值取值范围划分成多个范围,包括:
以视差分布直方图的统计计算中涉及的各个取值范围作为初始划分的视差范围;
计算每两个相邻视差范围的代表性视差值之间的距离;
如果该两个相邻视差范围的代表性视差值之间的距离小于预定阈值,合并两个视差范围;以及
重复上述距离计算和视差范围合并过程,一直到没有合并操作为止。
7.如权利要求6所述的噪声识别方法,其中,所述计算每两个相邻视差范围的代表性视差值之间的距离,包括:
找到每个视差范围中取其值的像素个数最多的视差值作为该视差范围的代表性视差值;以及
计算相邻视差范围的代表性视差值之差作为每两个相邻视差范围的代表性视差值之间的距离。
8.一种识别视差深度图像中噪声的噪声识别装置,包括:
图像块划分部件,用于将视差深度图像分成多个图像块;
可信视差取值范围确定部件,用于针对每一个图像块,确定该图像块的视差值取值范围中的可信视差取值范围;以及
噪声识别部件,用于对于一个图像块中的每一个像素,判断其视差值是否落入该图像块的可信视差取值范围,以及如果该像素的视差值没有落入该可信视差取值范围,则判定该像素的视差值为噪声。
9.如权利要求8所述的噪声识别装置,所述可信视差取值范围确定部件确定该图像块的视差值取值范围中的可信视差取值范围包括:
计算该图像块的视差分布直方图;
利用视差分布直方图将视差值取值范围划分成多个范围;
从该多个范围中找到置信度最高的一个或多个范围或置信度大于预定阈值的一个或多个范围作为可信视差取值范围。
10.如权利要求9所述的噪声识别装置,其中,所述利用视差分布直方图将视差值取值范围划分成多个范围,包括:
以视差分布直方图的统计计算中涉及的各个取值范围作为初始划分的视差范围;
计算每两个相邻视差范围的代表性视差值之间的距离;
如果该两个相邻视差范围的代表性视差值之间的距离小于预定阈值,合并两个视差范围;以及
重复上述距离计算和视差范围合并过程,一直到没有合并操作为止。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310478587.2A CN104574342B (zh) | 2013-10-14 | 2013-10-14 | 视差深度图像的噪声识别方法和噪声识别装置 |
JP2014208616A JP6471448B2 (ja) | 2013-10-14 | 2014-10-10 | 視差深度画像のノイズ識別方法及びノイズ識別装置 |
EP14188769.5A EP2860695B1 (en) | 2013-10-14 | 2014-10-14 | Method and apparatus for identifying noise in disparity depth image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310478587.2A CN104574342B (zh) | 2013-10-14 | 2013-10-14 | 视差深度图像的噪声识别方法和噪声识别装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104574342A true CN104574342A (zh) | 2015-04-29 |
CN104574342B CN104574342B (zh) | 2017-06-23 |
Family
ID=51786800
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310478587.2A Active CN104574342B (zh) | 2013-10-14 | 2013-10-14 | 视差深度图像的噪声识别方法和噪声识别装置 |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP2860695B1 (zh) |
JP (1) | JP6471448B2 (zh) |
CN (1) | CN104574342B (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105812769A (zh) * | 2016-04-06 | 2016-07-27 | 四川大学 | 基于相位相关高精度视差跟踪器 |
TWI553591B (zh) * | 2015-12-28 | 2016-10-11 | 緯創資通股份有限公司 | 深度影像處理方法及深度影像處理系統 |
CN107945234A (zh) * | 2016-10-12 | 2018-04-20 | 杭州海康威视数字技术股份有限公司 | 一种立体摄像机外部参数的确定方法及装置 |
CN108133493A (zh) * | 2018-01-10 | 2018-06-08 | 电子科技大学 | 一种基于区域划分和渐变映射的异源图像配准优化方法 |
CN108182666A (zh) * | 2017-12-27 | 2018-06-19 | 海信集团有限公司 | 一种视差校正方法、装置和终端 |
CN108369729A (zh) * | 2015-12-22 | 2018-08-03 | 高通股份有限公司 | 用于结构光深度图的离群值检测和校正的方法和设备 |
WO2018157562A1 (zh) * | 2017-02-28 | 2018-09-07 | 北京大学深圳研究生院 | 基于图像局部分割的虚拟视点合成方法 |
CN109816709A (zh) * | 2017-11-21 | 2019-05-28 | 深圳市优必选科技有限公司 | 基于单目摄像头的深度估计方法、装置及设备 |
CN110458155A (zh) * | 2015-07-29 | 2019-11-15 | 雅马哈发动机株式会社 | 异常图像检测装置、图像处理系统及车辆 |
CN111260592A (zh) * | 2020-03-17 | 2020-06-09 | 北京华捷艾米科技有限公司 | 一种深度图像去噪方法及装置 |
US10834374B2 (en) | 2017-02-28 | 2020-11-10 | Peking University Shenzhen Graduate School | Method, apparatus, and device for synthesizing virtual viewpoint images |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016092532A1 (en) * | 2014-12-09 | 2016-06-16 | Inuitive Ltd. | A method for determining depth for stereoscopic reconstruction of three dimensional images |
CN104835164B (zh) * | 2015-05-11 | 2017-07-28 | 京东方科技集团股份有限公司 | 一种双目摄像头深度图像的处理方法及装置 |
JP6805534B2 (ja) * | 2015-07-02 | 2020-12-23 | 株式会社リコー | 視差画像生成装置、視差画像生成方法及び視差画像生成プログラム、物体認識装置、機器制御システム |
JP6657034B2 (ja) * | 2015-07-29 | 2020-03-04 | ヤマハ発動機株式会社 | 異常画像検出装置、異常画像検出装置を備えた画像処理システムおよび画像処理システムを搭載した車両 |
KR101690645B1 (ko) * | 2015-09-21 | 2016-12-29 | 경북대학교 산학협력단 | 다단계 시차영상 분할이 적용된 시차탐색범위 추정 방법 및 이를 이용한 스테레오 영상 정합장치 |
CN109389629B (zh) * | 2018-09-30 | 2022-04-15 | 国网黑龙江省电力有限公司电力科学研究院 | 立体匹配自适应视差等级的确定方法 |
CN110533710B (zh) * | 2019-08-22 | 2023-07-14 | 桂林电子科技大学 | 一种基于gpu的双目匹配算法的方法及处理装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3539788B2 (ja) * | 1995-04-21 | 2004-07-07 | パナソニック モバイルコミュニケーションズ株式会社 | 画像間対応付け方法 |
JP3850541B2 (ja) * | 1998-02-18 | 2006-11-29 | 富士重工業株式会社 | 高度計測装置 |
KR100603603B1 (ko) | 2004-12-07 | 2006-07-24 | 한국전자통신연구원 | 변위 후보 및 이중 경로 동적 프로그래밍을 이용한 스테레오 변위 결정 장치 및 그 방법 |
KR101526866B1 (ko) * | 2009-01-21 | 2015-06-10 | 삼성전자주식회사 | 깊이 정보를 이용한 깊이 노이즈 필터링 방법 및 장치 |
EP2293586A1 (en) * | 2009-08-04 | 2011-03-09 | Samsung Electronics Co., Ltd. | Method and system to transform stereo content |
TR201010436A2 (tr) * | 2010-12-14 | 2012-07-23 | Vestel Elektron�K Sanay� Ve T�Caret A.�. | Aykırılık aralığının tespiti için bir yöntem ve cihaz. |
JP5845780B2 (ja) * | 2011-09-29 | 2016-01-20 | 株式会社Jvcケンウッド | 立体画像生成装置及び立体画像生成方法 |
US9819879B2 (en) * | 2011-07-12 | 2017-11-14 | Samsung Electronics Co., Ltd. | Image filtering apparatus and method based on noise prediction using infrared ray (IR) intensity |
CN102567964B (zh) * | 2011-12-08 | 2014-08-27 | 北京控制工程研究所 | 一种用于立体视觉视差图的滤波方法 |
-
2013
- 2013-10-14 CN CN201310478587.2A patent/CN104574342B/zh active Active
-
2014
- 2014-10-10 JP JP2014208616A patent/JP6471448B2/ja active Active
- 2014-10-14 EP EP14188769.5A patent/EP2860695B1/en active Active
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110458155B (zh) * | 2015-07-29 | 2023-04-07 | 雅马哈发动机株式会社 | 异常图像检测装置、图像处理系统及车辆 |
CN110458155A (zh) * | 2015-07-29 | 2019-11-15 | 雅马哈发动机株式会社 | 异常图像检测装置、图像处理系统及车辆 |
CN108369729A (zh) * | 2015-12-22 | 2018-08-03 | 高通股份有限公司 | 用于结构光深度图的离群值检测和校正的方法和设备 |
CN108369729B (zh) * | 2015-12-22 | 2019-11-12 | 高通股份有限公司 | 用于结构光深度图的离群值检测和校正的方法和设备 |
TWI553591B (zh) * | 2015-12-28 | 2016-10-11 | 緯創資通股份有限公司 | 深度影像處理方法及深度影像處理系統 |
CN105812769B (zh) * | 2016-04-06 | 2018-04-03 | 四川大学 | 基于相位相关的高精度视差跟踪器 |
CN105812769A (zh) * | 2016-04-06 | 2016-07-27 | 四川大学 | 基于相位相关高精度视差跟踪器 |
CN107945234A (zh) * | 2016-10-12 | 2018-04-20 | 杭州海康威视数字技术股份有限公司 | 一种立体摄像机外部参数的确定方法及装置 |
US10834374B2 (en) | 2017-02-28 | 2020-11-10 | Peking University Shenzhen Graduate School | Method, apparatus, and device for synthesizing virtual viewpoint images |
US10887569B2 (en) | 2017-02-28 | 2021-01-05 | Peking University Shenzhen Graduate School | Virtual viewpoint synthesis method based on local image segmentation |
WO2018157562A1 (zh) * | 2017-02-28 | 2018-09-07 | 北京大学深圳研究生院 | 基于图像局部分割的虚拟视点合成方法 |
CN109816709A (zh) * | 2017-11-21 | 2019-05-28 | 深圳市优必选科技有限公司 | 基于单目摄像头的深度估计方法、装置及设备 |
CN108182666A (zh) * | 2017-12-27 | 2018-06-19 | 海信集团有限公司 | 一种视差校正方法、装置和终端 |
CN108182666B (zh) * | 2017-12-27 | 2021-11-30 | 海信集团有限公司 | 一种视差校正方法、装置和终端 |
CN108133493B (zh) * | 2018-01-10 | 2021-10-22 | 电子科技大学 | 一种基于区域划分和渐变映射的异源图像配准优化方法 |
CN108133493A (zh) * | 2018-01-10 | 2018-06-08 | 电子科技大学 | 一种基于区域划分和渐变映射的异源图像配准优化方法 |
CN111260592A (zh) * | 2020-03-17 | 2020-06-09 | 北京华捷艾米科技有限公司 | 一种深度图像去噪方法及装置 |
CN111260592B (zh) * | 2020-03-17 | 2023-10-31 | 北京华捷艾米科技有限公司 | 一种深度图像去噪方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6471448B2 (ja) | 2019-02-20 |
EP2860695A1 (en) | 2015-04-15 |
EP2860695B1 (en) | 2017-12-06 |
JP2015079505A (ja) | 2015-04-23 |
CN104574342B (zh) | 2017-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104574342A (zh) | 视差深度图像的噪声识别方法和噪声识别装置 | |
EP3510561B1 (en) | Predicting depth from image data using a statistical model | |
Dai et al. | Mvs2: Deep unsupervised multi-view stereo with multi-view symmetry | |
US11274922B2 (en) | Method and apparatus for binocular ranging | |
US6856314B2 (en) | Method and system for 3D reconstruction of multiple views with altering search path and occlusion modeling | |
US7031512B2 (en) | Method and system for 3D smoothing within the bound of error regions of matching curves | |
US8977052B2 (en) | Apparatus and method for detecting error in lesion contour, apparatus and method for correcting error in lesion contour, and apparatus for inspecting error in lesion contour | |
US9361699B2 (en) | Imaging system and method | |
US9269018B2 (en) | Stereo image processing using contours | |
US8989481B2 (en) | Stereo matching device and method for determining concave block and convex block | |
KR20130112311A (ko) | 고밀도 삼차원 영상 재구성 장치 및 방법 | |
EP3001382B1 (en) | Method and apparatus for generating disparity map based on image frames photographed by stereo camera | |
Wang et al. | Mv-fcos3d++: Multi-view camera-only 4d object detection with pretrained monocular backbones | |
Dinh et al. | Disparity estimation using stereo images with different focal lengths | |
Hermann et al. | Inclusion of a second-order prior into semi-global matching | |
KR101868017B1 (ko) | 스테레오 매칭 방법 및 그 장치 | |
Yang et al. | Depth-reliability-based stereo-matching algorithm and its VLSI architecture design | |
Choi et al. | Implementation of Real‐Time Post‐Processing for High‐Quality Stereo Vision | |
CN109784315B (zh) | 3d障碍物的跟踪检测方法、装置、系统及计算机存储介质 | |
Xu et al. | State measurement of isolating switch using cost fusion and smoothness prior based stereo matching | |
CN112686155A (zh) | 图像识别方法、装置、计算机可读存储介质及处理器 | |
KR101804157B1 (ko) | 개선된 sgm 기반한 시차 맵 생성 방법 | |
Zhang et al. | Joint motion model for local stereo video-matching method | |
KR102187192B1 (ko) | 영상시차 획득방법 및 장치 | |
KR20150130078A (ko) | 신장 트리 생성 방법 및 장치,스테레오 매칭 방법 및 장치,업 샘플링 방법 및 장치,및 기준 픽셀 생성 방법 및 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |