CN103384895A - 快速图像增强和三维深度计算 - Google Patents
快速图像增强和三维深度计算 Download PDFInfo
- Publication number
- CN103384895A CN103384895A CN2012800086228A CN201280008622A CN103384895A CN 103384895 A CN103384895 A CN 103384895A CN 2012800086228 A CN2012800086228 A CN 2012800086228A CN 201280008622 A CN201280008622 A CN 201280008622A CN 103384895 A CN103384895 A CN 103384895A
- Authority
- CN
- China
- Prior art keywords
- image data
- digital input
- input image
- transmission vector
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004364 calculation method Methods 0.000 title claims description 19
- 230000005540 biological transmission Effects 0.000 claims abstract description 227
- 238000012545 processing Methods 0.000 claims abstract description 86
- 238000003384 imaging method Methods 0.000 claims abstract description 53
- 238000001228 spectrum Methods 0.000 claims description 150
- 230000003595 spectral effect Effects 0.000 claims description 147
- 238000004590 computer program Methods 0.000 claims description 66
- 238000005286 illumination Methods 0.000 claims description 29
- 238000003672 processing method Methods 0.000 claims description 22
- 230000000007 visual effect Effects 0.000 claims description 22
- 238000010606 normalization Methods 0.000 claims description 18
- 230000003287 optical effect Effects 0.000 claims description 18
- 238000001429 visible spectrum Methods 0.000 claims description 18
- 238000005070 sampling Methods 0.000 claims description 16
- 238000003860 storage Methods 0.000 claims description 15
- 239000006185 dispersion Substances 0.000 claims description 13
- 238000005375 photometry Methods 0.000 claims description 12
- 238000001069 Raman spectroscopy Methods 0.000 claims description 9
- 239000003086 colorant Substances 0.000 claims description 9
- 241001269238 Data Species 0.000 claims description 7
- 238000000149 argon plasma sintering Methods 0.000 claims description 7
- 238000001914 filtration Methods 0.000 claims description 6
- 238000006243 chemical reaction Methods 0.000 claims description 5
- 238000002329 infrared spectrum Methods 0.000 claims description 5
- 238000004040 coloring Methods 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 15
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 abstract description 5
- 239000000779 smoke Substances 0.000 abstract description 4
- 239000008280 blood Substances 0.000 abstract description 3
- 210000004369 blood Anatomy 0.000 abstract description 3
- 238000000034 method Methods 0.000 description 183
- 238000005516 engineering process Methods 0.000 description 23
- 230000008569 process Effects 0.000 description 23
- 238000009877 rendering Methods 0.000 description 17
- 239000003595 mist Substances 0.000 description 13
- 239000007787 solid Substances 0.000 description 13
- 230000002708 enhancing effect Effects 0.000 description 11
- 235000019988 mead Nutrition 0.000 description 9
- 235000019504 cigarettes Nutrition 0.000 description 8
- 230000033001 locomotion Effects 0.000 description 8
- 230000005855 radiation Effects 0.000 description 8
- 239000000243 solution Substances 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000009102 absorption Effects 0.000 description 6
- 238000010521 absorption reaction Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000007613 environmental effect Effects 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 239000000203 mixture Substances 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000008447 perception Effects 0.000 description 4
- 238000007639 printing Methods 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000011960 computer-aided design Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 239000000428 dust Substances 0.000 description 3
- 230000008030 elimination Effects 0.000 description 3
- 238000003379 elimination reaction Methods 0.000 description 3
- 238000000904 thermoluminescence Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 239000010437 gem Substances 0.000 description 2
- 229910001751 gemstone Inorganic materials 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000004575 stone Substances 0.000 description 2
- 238000005728 strengthening Methods 0.000 description 2
- CCEKAJIANROZEO-UHFFFAOYSA-N sulfluramid Chemical group CCNS(=O)(=O)C(F)(F)C(F)(F)C(F)(F)C(F)(F)C(F)(F)C(F)(F)C(F)(F)C(F)(F)F CCEKAJIANROZEO-UHFFFAOYSA-N 0.000 description 2
- 241000581364 Clinitrachus argentatus Species 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- CBENFWSGALASAD-UHFFFAOYSA-N Ozone Chemical compound [O-][O+]=O CBENFWSGALASAD-UHFFFAOYSA-N 0.000 description 1
- 235000006040 Prunus persica var persica Nutrition 0.000 description 1
- 240000006413 Prunus persica var. persica Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 239000003570 air Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 238000013016 damping Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000002224 dissection Methods 0.000 description 1
- 238000005553 drilling Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 238000000295 emission spectrum Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 239000003500 flue dust Substances 0.000 description 1
- 238000004374 forensic analysis Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 238000001746 injection moulding Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 230000002045 lasting effect Effects 0.000 description 1
- 230000001795 light effect Effects 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000007170 pathology Effects 0.000 description 1
- 239000004033 plastic Substances 0.000 description 1
- 229920003023 plastic Polymers 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 239000011540 sensing material Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 231100000331 toxic Toxicity 0.000 description 1
- 230000002588 toxic effect Effects 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Images
Classifications
-
- G06T5/94—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/529—Depth or shape recovery from texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明的实施方式涉及对通过透过介质而对物理对象成像而生成的数字图像数据进行处理。例如,介质可以是空气,并且空气可以具有一些固有属性,诸如雾气、雾或者烟。另外,介质可以是不同于空气的介质,例如,水或者血液。可以存在一种或者更多种介质妨碍物理对象,并且介质在物理对象和成像传感器之间至少驻留在物理对象前面。物理对象可以是作为视场一部分的一种或者更多种物理对象(例如,山脉、森林、停车场中的车辆等的图画)。基于数字输入图像数据来确定介质的估计透射向量。在确定了透射向量后,可从数字输入图像数据中去除由于散射引起的影响,产生增强了数字输入图像的数字输出图像使得进一步细节可以被感知。另外,估计透射向量可以用于确定图像内的各可寻址位置的深度数据。深度信息可以用于从二维图像创建三维图像。
Description
优先权
本专利合作条约专利申请要求2011年2月18日提交的美国专利申请No.13/030,534的优先权,并且要求2011年6月6日提交的美国部分连续申请No.13/154,200的优先权,这两个申请的公开内容在此通过引用整体并入。
技术领域
本发明涉及图像分析,更具体地涉及通过去除不希望的视觉缺陷和产生三维图像数据来进行图像增强。
背景技术
很多彩色摄影图像,特别是通过使用模拟或者数字感测装置在户外记录的彩色摄影图像都具有对所记录的对象造成妨碍的雾气。这个问题在假彩色图像或者在非空气环境中拍摄的图像中也会发生,例如,在红外摄影、X射线摄影、照片显微和水下和太空摄影这样的多种应用中发现的那样。所以就需要一种能够从图像中迅速去除雾气的方法。虽然期望接近实时性能,但是通过使用目前可用的任何实际图像处理计算技术还没有实现。已知可以通过柯西米德(Koschmieder)方程来表示雾气;然而,这种方程的解需要大量的计算,这对于静止照片或者视频序列的实时增强而言太慢了。
发明内容
本发明的实施方式涉及数字图像数据的处理,这种数字图像数据是通过透过介质对物理对象成像而生成的。例如,介质可以是空气,其可以具有一些固有属性,诸如雾气或者烟雾。另外,介质可以是不同于空气的介质,例如,水或者血液。可以存在一种或者更多种介质妨碍物理对象(例如,第二介质),并且该介质至少位于物理对象和成像传感器之间、该物理对象的前面。物理对象可以是作为视场一部分的一种或者更多种物理对象(例如,山脉、森林、停车场中的车辆等的图画)。
首先,基于数字输入图像数据来确定介质的估计透射向量。在确定了透射向量时,可从数字输入图像数据去除由于散射引起的效果,产生增强了数字输入图像数据的数字输出图像数据使得可以感知进一步细节。例如,可以减少雾、烟雾或者烟的效应,使得通过增加可视性,增强了代表物理对象的信息。雾、烟雾或者烟用作将来自物理对象的光散射的滤波器。另外,估计透射向量可以用于确定针对图像内的各可寻址位置的深度数据。深度信息可以用于从二维图像创建三维图像。因而,数字输出图像可以包含比数字输入图像数据更少的雾,可以是三维图像,可以是解滤波光散射摄影图像等。第二个连续频谱带可以用于确定估计透射向量。第二个连续频谱带还可以用于确定估计透射向量,其中透过一个以上(例如至少两个)介质对物理对象成像。
在一个实施方式中,公开了利用计算机实现的基于数字输入图像数据的生成深度数据的方法。在计算机实现的第一处理中,确定介质的估计透射向量。在计算机实现的第二处理中,基于估计透射向量得到深度数据。估计透射向量的至少一个分量大致等于数字输入图像数据的至少一个归一化频谱通道值。另外,归一化频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射中的至少一个的贡献。在附加实施方式中,所述估计透射向量的分量随着不同频谱带的频谱特性而改变。在进一步实施方式中,基于预定准则来选择所述频谱带。预定准则可以基于介质的频谱特性、物理对象的频谱特性、或者在其它判据中基于距离(例如,到物理对象的距离)。在一些实施方式中,所述预定准则优化了距离分辨率。
频谱带可以包括一个或者更多个可见频谱带、紫外频谱带、X射线频谱带和红外频谱带。附加地,光的散射可以是由于米氏散射、拉曼散射、瑞利散射或者康普顿散射。本发明的实施方式可以进一步基于所述介质的已知匹配特性来补偿估计透射向量的至少一个分量。还可以基于所述介质的已知频谱特性来选择所述一个频谱带。还可以基于所述介质来选择所述频谱带。频谱带还可以被加权,使得加权形成滤波器。例如,通过不同加权使用原色可以形成任意颜色。其它实施方式可以还基于所述数字图像输入数据的第二连续频谱带来补偿估计透射向量的至少一个分量。因而,例如,通过具有连续或者断续的限定的频谱带的集合,(例如,模拟或者数字多部分滤波器),传感器拍摄频谱范围的传感器可以被滤波。
在一些实施方式中,频谱带可以对应于来自数字输入图像数据的蓝色、黄色、绿色和红色颜色数据中的一个。可以根据指定的颜色编码来定义频谱带。可以由于自然照明或者由于定制照明通过传感器对物理对象成像。在特定实施方式中,定制照明可以是由于非热发光器(例如,黑体)。可以基于所述非热发光体的频谱特性来确定所述一个连续频谱带中以减少散射。可以通过方程1确定深度值,其中,d(x,y)是坐标(x,y)处的像素的深度值,β是散射因子,t(x,y)是估计透射向量,ln()是对数函数。
d(x,y)=-β*ln(t(x,y)) (方程1)
可以采用归一化参数,使得估计透射向量分量在0.0到1.0之间取值。归一化参数可以是数字输入图像数据中的散射环境光。进一步基于归一化参数来计算估计透射向量(例如,数字输入图像数据中的散射环境光的值)。在特定实施方式中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与所述图像内的各位置相关联的强度值。在一个实施方式中,通过找到全部颜色通道的最小值中的最大那个来确定针对散射环境光的值。在一些实施方式中,散射环境光是向量并且向量的分量可以用于确定估计透射向量。可以通过使用散射环境光的各向量分量的来自所述数字输入图像数据的各颜色通道的关注图像区域的最大强度值,并且用散射环境光的各向量分量除以关注图像区域内的全部所述数字输入图像数据的均方根值,来确定所述数字输入图像中的所述散射环境光的所述向量,关注区域可以是所述数字输入图像数据的子区间或者整个数字输入图像数据。
在另一个实施方式中,基于所述介质的散射属性从所述连续频谱带中的所述数字输入图像数据得到所述透射向量的分量。在又一个实施方式中,通过基于从摄像机到数字输入图像数据内的预定位置表示的对象的已知距离进行确定,基于数字输入图像数据中的散射环境光的值计算数字输出图像数据。
在本发明的实施方式中,可以选择所述频谱通道以使得视场中的透射向量的值的范围最大化。
在另外的其它实施方式中,公开基于数字输入图像数据生成数字输出图像数据的利用计算机实现的方法。数字输入图像表示透过至少一种介质成像的视场中的物理对象。如之前,该方法要求确定介质的估计透射向量。接着使用估计透射向量与输入数字图像数据组合来得到数字输出图像数据。估计透射向量的分量大致等于数字输入图像数据的至少一个归一化频谱通道值。另外,归一化频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射中的至少一个的贡献。
为了确定数字输出图像数据,针对位于坐标(x,y)的像素针对J(x,y)解方程2,其中I(x,y)是从数字输入图像数据得到的频谱带向量,J(x,y)是代表来自输入图像中的对象的光的颜色向量,t(x,y)是估计透射向量,A是代表数字输入图像数据中散射的环境光的常数。
I(x,y)=J(x,y)*t(x,y)+A*(1-t(x,y)) (方程2)
“A”的值可以是图像中的全部颜色上的常数,或者可以随着频谱带改变,但是总体上被认为是独立于位置。“A”的值可以被考虑归一化参数。可以在数字输入图像数据中确定“A”的值。在一个实施方式中,基于数字输入图像数据确定A的值包括在所述数字输入图像数据中二次采样。
以上引用的限制中的任意限制可以类似地应用于确定估计透射向量,用于确定数字输出图像数据。例如,可以基于介质的频谱特性或者物理对象的频谱特性来选择频谱通道。
类似地,以上描述的用于确定深度数据或者用于确定数字输出图像数据的方法可以被实现为在非瞬时计算机可读介质上的计算机程序代码以便通过计算机使用。
本发明还可以在图像处理系统中实现,包括多个模块。模块可以是在处理器上操作的计算机软件,其中处理器被认为是模块的一部分,该模块还可以在计算机硬件中实现,诸如ASIC(专用集成电路)或者该模块可以是集成电路和支持计算机代码的组合。
在特定实施方式中图像处理系统可以包括输入模块,所述输入模块接收通过介质成像的物理对象的数字输入图像数据。附加地,所述图像处理系统还包括:大气光计算模块,所述大气光计算模块从所述输入模块接收所述数字输入图像数据并且计算大气光信息。此外,该系统包括:透射向量估计模块,所述透射向量估计模块从所述输入模块接收所述数字输入图像数据,并且基于所述数字输入图像数据的频谱带和所述大气光信息估计所述介质的透射向量。最终,所述系统包括:增强图像模块,所述增强图像模块接收所述数字图像输入图像数据和所述透射向量并且生成输出图像数据。所述系统可以还包括用于透过所述介质照明所述物理对象的照明源;以及用于透过所述介质接收表示所述物理对象的能量并且将所述能量转换为数字输入图像数据的传感器。
图像处理系统的实施方式可以还包括:输出模块,所述输出模块接收所述输出图像数据并且向数字存储设备和显示器中的至少一种输出所述输出图像数据。
图像处理系统的实施方式可以适用于确定深度数据。在这些实施方式中,所述深度计算模块接收数字图像输入图像数据和所述透射向量并且生成深度图。深度图可以用于创建三维图像数据。在这些系统中,包括三维图像生成模块。所述三维图像生成模块接收所述数字输入图像数据和所述深度图并且使用所述数字输入图像数据和所述深度图生成三维输出图像数据。三维输出图像可以被提供到输出模块,并且输出模块可以提供三维输出图像数据以便在显示设备上显示或者用于存储在存储器中。在另一个实施方式中,数字输出数据的计算包括确定至少一个深度值。所述至少一个深度值对应于所述数字输入图像数据的深度图。
在另外的其它实施方式中,公开了从数字输入图像数据生成数字输出图像数据的图像处理方法。数字输入图像数据是透过至少一种介质具体地两种介质成像的物理对象的表示。另外,介质介于所述物理对象和成像传感器之间,所述成像传感器产生得到所述数字输入图像数据的输出。
针对至少一种介质来确定估计透射向量,其中,所述估计透射向量基于所述数字图像输入数据的至少一种连续频谱带。具体地,所述估计透射向量基于所述数字图像输入数据的两种连续频谱带。优选地,至少一种连续频谱带是基于至少一种介质而选择的和/或被加权的。
估计透射向量可以是基于所述数字图像输入数据的第一连续频谱带和第二连续频谱带,其中,所述数字图像输入数据的所述第一连续频谱带确定所述估计透射向量的散射信息,估计透射向量可以还被确定以包括基于所述数字输入图像数据的所述第二连续频谱带确定针对所述估计透射向量的衰减信息。
估计透射向量可以还被确定以包括至少基于所述至少一种接着或者所述物理对象的已知频谱特性来补偿估计透射向量的至少一个分量。另外,或者另选地,基于所述数字图像输入数据的第一连续频谱带和第二连续频谱带,补偿估计透射向量。可以基于数字输入数据的第二连续频谱带,进一步通过估计透射向量的至少一个分量补偿估计透射向量。
基于所述至少一种介质的散射属性、尤其是由于米氏散射、拉曼散射、瑞利散射和康普顿散射中的至少一种的散射属性从所述至少一个连续频谱带中的所述数字输入图像数据,可以得到所述透射向量的分量。
可以基于估计透射向量计算数字输出图像数据,尤其是其中所述数字输出图像数据是三维图像或者解滤波光散射摄影图像。可以从方程2求解出数字输出图像数据,其中可以针对坐标(x,y)处的像素来确定J(x,y)的值,其中I(x,y)是从数字输入图像数据得到的频谱带向量,J(x,y)是代表来自输入图像中的对象的光的频谱带向量,t(x,y)是估计透射向量,A是表示所述数字输入图像数据中的散射的环境光的常数。具体地,可以基于所述数字输入图像数据来确定“A”的值,优选地通过所述数字输入图像数据中的二次采样。
通过确定至少一个深度值,可以计算出数字输出数据。深度值可以具体地对应于数字输入图像数据的深度图。深度图可以接着用于生成三维图像。通过解d(x,y),可以从方程1确定深度值,其中β是散射因子,t(x,y)是透射向量,ln()是对数函数。可以基于预定准则来选择至少一个连续频谱带。该预定准则可以是(a)基于到物理对象的距离,(b)基于非热发光体的频谱特性以减少散射和/或(c)所述预定准则优化距离分辨率。
连续频谱带可以是可见频谱带、紫外频谱带、红外频谱带和X射线频谱带中的至少一个,对应于所述数字输入图像数据中的蓝色数据、红色数据、黄色数据和绿色数据;或者是根据指定的颜色编码而限定的。
在所述图像处理方法中,还可以针对数字输入图像数据中的散射环境光确定值或者向量,具体地是基于从创建所述数字输入图像数据的摄像机到在所述数字输入图像数据内的预定位置处表示的对象已知距离。可以基于针对所述数字输入图像数据中的散射环境光的值或者向量来计算数字输出图像。所述数字输入图像数据可以包括多个颜色通道,各颜色通道具有与所述图像内的各位置相关联的强度值。可以通过找到全部颜色通道的最小值中的最大值来确定针对散射环境光的值。通过使用针对散射环境光的各向量分量的来自数字输入图像数据的各颜色通道的图像关注区域的最大强度值,可以确定针对数字输入图像中的散射环境光的向量。针对散射环境光的各向量分量可以除以图像关注区域内的全部数字输入图像数据的均方根值,具体地其中关注区域包括数字输入图像数据的子区间或者数字输入图像数据的全部。
数字输入图像数据可以基于自然照明的结果或者定制照明(特别是非热发光体)的结果。优选地,基于所述非热发光体的频谱特性确定所述一个连续频谱带中以减少散射。可以基于预先确定准则确定连续频谱带,优选地基于至少一个介质和所述物理对象中的至少一个的频谱特性。
数字输入图像可以是透过至少一种介质成像的视场内的物理对象的数据表示,其中估计透射向量是基于数字图像输入数据的第一和第二连续频谱带。估计透射向量的至少一个分量可以大致等于数字输入图像数据的至少一个归一化的频谱通道值。在特定实施方式中,估计透射向量的分量可以是可见频谱带、紫外频谱带、红外频谱带和X射线频谱带中的至少一个,并且各频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射中的至少一方的贡献。可以选择所述至少一个频谱通道以使得视场中的估计透射向量的值的范围最大化。
所述估计透射向量的分量可以随着有区分的频谱带的频谱特性改变。
在再一个实施方式中,公开一种图像处理系统。输入模块,所述输入模块接收针对透过至少一种介质成像的物理对象的数字输入图像数据,尤其是其中,所述数字输入图像数据包含针对所成像的物理对象成像的颜色信息;大气光计算模块,所述大气光计算模块从所述输入模块接收所述数字输入图像数据并且计算大气光信息。透射向量估计模块,所述透射向量估计模块从所述输入模块接收所述数字输入图像数据,并且基于所述数字输入图像数据的至少一个频谱带和所述大气光信息估计所述至少一种介质的透射向量;增强图像模块,所述增强图像模块接收数字输入图像数据和所述透射向量并且生成输出图像数据,优选地三维图像或者解滤波光散射摄影图像;具体地利用透过所述至少一种介质对所述物理对象照明的照明源。用于透过所述至少一种介质接收表示所述物理对象的能量并且将所述能量转换为数字输入图像数据的传感器。
该系统可以还包括输出模块和/或深度计算模块。输出模块,所述输出模块接收所述输出图像数据并且向数字存储设备和显示器中的至少一种输出所述输出图像数据。深度计算模块,所述深度计算模块接收数字图像输入图像数据和所述透射向量并且生成深度图。尤其是利用三维图像生成模块,所述三维图像生成模块接收所述数字输入图像数据和所述深度图并且使用所述数字输入图像数据和所述深度图生成三维输出图像数据。
还可以在计算机产品中实现本发明,根据以上讨论的利用计算机实现的方法。计算机程序产品可以存储在机器可读介质中或者计算机数据信号。可以通过包括用于进行图像处理方法的程序代码的电磁波实现计算机程序产品,具体地如果在计算机中执行程序。
附图说明
通过参考以下详细描述,结合附图,实施方式的上述特征将变得容易理解。在附图中:
图1是根据本发明的实施方式的用于增强图像数据的处理的流程图;
图2和图2A是根据本发明的实施方式的用于使用估计透射向量来生成图像数据的处理的流程图;
图2B和图2C是图2和图2A的另选实施方式的流程图;
图3和图3A是用于确定在图2和图2A中估计透射向量而使用的值的处理的流程图;
图4是根据本发明的实施方式的图像处理系统的框图;
图5A-图5L是摄影图像,每对图像(图5A和图5B、图5C和图5D、图5E和图5F、图5G和图5H、图5I和图5J以及图5K和图5L)都示出了原始带雾图像和增强的去雾图像。
图6A-图6L是摄影图像,每对图像(图6A和图6B、图6C和图6D、图6E和图6F、图6G和图6H、图6I和图6J以及图6K和图6L)都示出了原始图像和表示深度数据的图像。
具体实施方式
本发明的各个实施方式能够在没有可感知延迟的情况下(即,“实时地”)从图像和视频中去除衰减效果并且计算三维距离信息。对于基于可见大气光的光栅图像和视频,诸如通过数码摄像机生成的图像和视频,此处公开的方法和系统能够去除雾气、烟雾、烟尘、非不透明云层和其它空气散射现象的表现,并且还原被这些现象部分妨碍的视觉元素的表现。这个技术还可应用于使用属于电磁波谱的其它部分的传感器数据的图像。与此同时,这些方法和系统允许计算各像素的“深度”;也就是说,从成像设备到与像素相对应的物理对象的距离。本发明的各个实施方式还可以用于检测诸如声波或者其它压力波这样的其它波状现象或者能够被测量并且表示为图像或者视频的现象的传感器或者检测器。可以在Applied Optics(John Wiley & Sons,1980)找到本发明的各个实施方式所基于的有关的光学原理的优异的背景讨论,包括散射和吸收。与此处的讨论有关的部分包括关于空气成像的第12章和涉及瑞利散射和米氏散射的附录12.1。在诸如液体或者固体这样的其它非空气介质中,诸如电磁波谱中的红外中的拉曼散射或者X射线部分中康普顿散射的这样的非弹性散射过程也可以构成此处描述的技术。
定义
本说明书和所附的权利要求中使用的以下术语将具有所指示的含义,除非上下文进行相反地要求:
如此处所用的,术语“传感器”可以指代感测装置的整体,并且可以接着组成具有特定频谱或者空间特异性的子传感器的阵列。各子传感器对与子传感器相关联的视场内的辐射灵敏。被感测的辐射通常是诸如电磁辐射这样的辐射能量,更具体地,光辐射;然而,诸如声音(介质中的纵波)或者物质微粒(诸如中子)这样的其它辐射模式也被包括在本发明的范围内。
术语“图像”是指以一个或者更多个维度无论是非实体还是否则可感知的形式或者相反的任何表示,因而(诸如,例如光强度,或者作为另一个示例,特定频带内的光强度)一些特性的值与对应于物理空间中的维度坐标的多个位置的各位置相关联,尽管不必须一对一映射到坐标上。类似地,“成像”是指呈现一个或者更多个图像中所称的物理特性。
“数字图像”是一个或者更多个变量的函数,变量的值可以被作为数字数据存储在计算系统中。“实体图像”是可被人感知的数字图像,不论是否通过投射到显示设备上或者相反。如果实体图像视觉上可感知,则其函数的值可以根据诸如RGB、YUV、CMYK这样的颜色模型或者本领域已知的其它颜色模型而被编码为具有多个颜色分量的像素数据。类似地,当假彩色图像包括紫外线和红外线时,可以使用例如UVBRI颜色系统。还可以根据黑白或者灰阶模型来编码像素数据。
作为具体示例,二维实体图像可以将特定RGB值与像素的集合的坐标(x,y)关联。该二维实体图像可以被称为“颜色向量”。像素值可以按表示“x”和“y”坐标的行和列来排布。各像素的强度值由数字表示。强度值可以在0.0到1.0的范围中(其与位深度无关),或者可以依赖于对其编码而使用的位数而被存储为整数值。例如,八位整数值可以在0到255时间,十位值在0到1023之间,12位值在0到4095之间。
图像得到中使用的传感器可以在此并且在任何所附权利要求中被称为“成像传感器”。
与传感器及其子传感器进行的信号强度的测量结果对应的信号值在此总体上称为“输入图像数据”,并且在被数字化时,称为“数字输入图像数据”。
传感器的“频谱范围”是可以被传感器测量的频率的集合。“频谱带”是频谱范围内的连续频率范围。传感器的频谱范围可以包括多个(可能交叠的)频谱带、从频谱带的干扰形成的频率、贡献频谱带中的频率的谐振等。
“频谱通道”是指定义的频谱带,或者频谱带的加权组合。
“频谱通道值”是指在针对特定应用的一个或者更多个频谱带上收集的测量强度,不论使用什么单位,都是用来表示强度。因而,在蓝色频带上收集的数据例如组成了频谱通道值。蓝色频带和红色频带中的强度测量结果的加权混合体在其它应用中可以用作频谱通道值。
当被布置在0.0到1.0之间的真实值的标尺上时,频谱通道值可以被称为“归一化的”。
术语“源强度”是指像素内成像的光源照射的光的能流,也就是说,随着像素的视场的区域上积分的场景内照明并且在特定频谱带或者频谱通道上积分的光源的频谱辐照度。
“透射系数”是0.0到1.0之间的值,表示在频谱带中的能量的检测的强度和光源强度的比。“透射向量”是指由透射系数构成的向量,透射向量的各分量表示与指定频谱带相关联的透射系数。如以下更详细描述的,可以通过使用多个频谱带中的每个频谱带中的检测强度和估计透射向量等来计算置于之间的介质的衰减效应所掩盖的在给定频谱范围上的能量源的光源强度。
数字图像数据的像素的“颜色通道”是指像素中的颜色分量中的一个的值,并且“颜色通道值”是指在该通道中感测到的信号的强度单位的值。例如,RGB型像素将具有红色颜色通道值、绿色颜色通道值和蓝色颜色通道值。
数字图像的“颜色通道”是指与特定颜色有关或者更具体地与特定频谱带有关的图像数据的子集合。例如,在包括RGB型像素的数字图像中,图像的蓝色颜色通道是指针对图像中的各像素的蓝色颜色通道的集合。总体上,通过频谱带的数字图像数据可以被称为“颜色图像数据”。
对象的摄影图像中的“雾气(haze)”是指位于对象和摄像机之间的使得源能量(例如,可见光)在被摄像机检测到之前通过反射或者透射通过对象而扩散的任何事物。雾气包括诸如空气、灰尘、雾和烟的混合物。雾气在地面摄影的领域造成问题,具体地,为了对与远距离物体成像,光穿过大量的浓密空气可能是必需的。由于通过雾气颗粒的光散射效应,雾气的存在导致物体的对比度损失的视觉效应。散射光的亮度趋向于主导图像的强度,导致对比度降低。
根据本发明的各个实施方式,通过首先确定图像中的各像素的估计透射向量,接着部分地基于估计透射向量来计算数字输出图像中的对应像素,去除了由于介质造成的散射效应。一旦知道了输入图像中的像素的透射向量,通过使用简单公式,就可以确定从传感器到被该像素成像的对象的距离(下文称为“像素深度”或者“对象深度”),因而基于二维输入图像数据来创建三维数据。
有利地这些处理可以实时进行,因为公开的技术是基于用于估计包括周围照明(例如,大气光)和透射向量在内的未知变量的特别有效的方法。具体地,这些处理可以应用于数字图像,因而,在完全没有可感知延迟的情况下,减少或者去除了雾气和其它散射效应的出现,恢复了通过雾气成像的对象的真实颜色并且计算出各成像像素的深度。
下面参照图1来描述根据本发明的各个实施方式的用于增强摄影图像的方法。摄影图像可以存储在图像处理系统中作为发源于数字源的数字数据,其中数字数据被编码为颜色信息(例如,RGB、YUV等)。在处理11,图像处理系统接收输入图像数据。在一些实施方式中,输入图像数据可以是包括一系列静止图像的视频数据。图像数据可以具有本领域已知的任何数字图像形式,包括但不限于,比特图、GIF TIFF,JPEG,MPEG,AVI,Quicktime和PNG格式。还可以从非数字数据产生数字数据。例如,胶卷负片或者印刷照片可以被转换为数字格式以便处理。另选地,可以通过数字摄像机设备直接拍摄数字摄影图像。
在处理12,图像处理系统接着处理输入图像数据以生成增强图像数据。增强图像数据的类型是数字输出图像数据。根据一些实施方式,相对于输入图像数据,增强图像数据具有减少量的散射(例如,大气雾气)。图像中的雾气的减少增强了图像内存在的信息,但是在雾气图像中对人眼不立即可见。另选地,或者附加地,增强图像数据可以包括深度信息。例如,二维(2D)输入图像数据可以被转化为三维(3D)图像数据。下面将结合图2、图2A、图3和图3A来描述本发明的实施方式创建这些增强的图像数据的具体方法。
图像处理系统接着输出增强图像数据13。数据可以被输出以在数字存储介质中存储。另选地,或者附加地,数据可以被输出到显示器作为实体图像,在显示器上可以被观察者观看。
下面将更详细地描述根据本发明的各个实施方式的用于去除图像中的散射效应的技术。根据已知的柯西米德方程,图像数据可以被建模为方程2,其中“I(x,y)”是在位置(x,y)处记录的图像的值,“J(x,y)”是表示来自图像中的物理对象的光的值,“A”表示从大气或者雾(即“雾气”)散射的光,并且“t(x,y)”是表示衰减效应的场景的透射向量。“A”通常被认为是在整个视场的一些指定部分上独立于位置的。
I(x,y)=J(x,y)*t(x,y)+A*(1-t(x,y)) (方程2,如以上所示)
在物理上,J(x,y)*t(x,y)可以被视为来自物理对象的能量强度流被置于之间的介质衰减,并且A*(1-t)表示被介质散射的能量。具体地在大气可见光摄影中,被摄像机传感器检测到的颜色是来自场景中的物理对象的(衰减的)可见光以及来自太阳的被大气雾气散射的热光。
“I(x,y)”的值是颜色图像数据的输入值,并且I(x,y)是指位于图像中的位置(x,y)的像素。各像素具有多个颜色通道值,通常是三个,即,红、绿和蓝(RGB),尽管可以采用其它颜色系统。“J(x,y)”的值是未添加任何雾气的像素的颜色值的理论值。以下描述的一些方法确定如何修改“I(x,y)”的已知值来生成将构成减少雾气的图像的“J(x,y)”的值。如果可以找到“A”和t(x,y)两者的值,则通过使用算术运算求解柯西米德方程(方程2),可以得到“J(x,y)”的值。不同于随着坐标(x,y)改变的I(x,y)、J(x,y)和t(x,y),A是用于整个图像的单个值。传统地,“A”可以具有0.0到1.0之间的任意值。对于通常的明亮日光图像,“A”将明显地更接近1.0而不是接近0.0,包括主要在约0.8到0.99之间的值。然而,对于更暗的图像,“A”可以明显地更低,包括0.7以下的值。下面将详细描述根据本发明的实施方式的用于实时地估计“A”和t(x,y)的过程。
现在将参照图2描述用于减少图像数据中的散射的出现的处理。在处理21,图像处理系统首先接收颜色图像数据,如以上参照图1中的11描述的。颜色图像数据可以包括多个颜色通道。例如,在一个有用的实施方式中,图像数据包括红色颜色通道、绿色颜色通道和蓝色颜色通道。各颜色通道可以表示(通过一个或者更多个滤色器或者通过感测材料的固有的灵敏度)调谐到特定连续频谱带的传感器检测到的图像数据。另选地,颜色通道可以表示来自多个这种传感器的数据的加权平均。知道对图像进行检测的传感器或者多个传感器的频谱范围在以下描述的特定实施方式中是有用的。然而,这种知道对于实现图2的实施方式不是必要的;仅仅需要图像数据。请注意,尽管被颜色通道表示的颜色可以在可见频谱内,使得人可以感知实体图像,但是可以从表示位于可见频谱外的检测能量传感器数据得到被各颜色通道表示的数据。
接收了图像数据之后,在处理22,图像处理系统接着基于数字输入图像数据的一个连续频谱带频谱信息来估计图像数据的透射向量。透射向量描述了辐射能量经过介质后的衰减,包括其吸收和散射属性。因而,在一个实施方式中,透射向量描述了拍摄摄影图像时存在的光通过空气的透射。根据本发明的一个实施方式,基于图像数据中的单个颜色通道来估计透射向量,而不需要考虑任何其它颜色通道。
例如,在具有通过地球的大气的对象的RGB摄影图像的通常实施方式中使用蓝色通道。在使用了不同于RGB的颜色系统的实施方式中,可以从颜色模型中使用的颜色通道得到蓝色通道值(或者适当地用作透射系数估计的基础的其它值)。根据这些实施方式,基于来自表示连续频谱带(在此情况下,蓝色频谱带)的多个颜色带的加权组合的图像数据来估计透射向量。
对光通过大气的透射进行建模可以还包括计算A的值,其为表示从图像数据中的大气或者雾(即,雾气)散射光的常数,如以下参照图3和图3A描述的。根据本发明的一些特别有用的实施方式,接着估计场景的透射向量(例如,t(x,y))作为等于针对颜色的蓝色颜色通道的逆,被参数“A”归一化,其中I蓝色(x,y)是位于位置(x,y)的像素的蓝色通道。见方程3。
t(x,y)=1-(I蓝色(x,y)/A) (方程3)
术语颜色的“逆”是指计算出的具有与原始颜色通道互补的值的颜色通道。颜色通道中的值具有关联的最大可能值,并且从最大可能值减去颜色的值给出构成逆的互补值。在一些实施方式中,从多个像素得到的“A”的均方根值在方程3中用于估计t(x,y),但是当解柯西米德方程2时从单个像素得到的“A”的值用于表示由于介质引起的衰减。下面结合图3和图3A更详细地说明这些方法。
实验已经示出通过地球的大气观看的对于位于场景内的物理对象的图像这个估计非常准确,得到快速和有效的去雾和深度映射。在透射的建模中,蓝色通道的有效性可以与太阳光在大气中的瑞利散射的物理现象有关。在柯西米德方程(方程2)中使用透射的这个估计允许在不损失细节的情况下迅速地进行图像数据的对比度增强。
在估计了透射向量后,图像处理系统可以生成增强图像数据24。通过如上所述求解柯西米德方程(方程2)中的J(x,y),生成增强图像数据(在此也可以被称为“输出图像数据”或者“数字输出图像数据”)。例如,如以下的伪码所示,可以计算J(x,y):
在这个示例中,值255表示颜色通道的最大亮度值,并且使用蓝色颜色通道来估计透射向量。
在处理25,增强图像数据被图像处理系统的输出模块输出。该数据可以被输出到易失性存储器、非易失性存储器、显示器或者其它装置。图5A-图5L给出了示例性的之前和之后图像,在上部示出了原始图像,在下部示出了增强图像。
将理解的是基于介质和相关散射颗粒的大小,其它光衰减现象可以在不同频谱带中起主导作用,并且通过使用不同于蓝色的颜色可以快速地定制这些现象的图像。例如,红色对于血液摄影特别有用,黄色是对于从森林火灾的图像中滤除烟雾有用的颜色,并且绿色对于水下摄影有用。为了估计透射向量而进行的频谱通道的选择可以基于预定准则,诸如被成像的物理对象的频谱特性或者置于之间的介质的频谱特性。更具体地,在深度图的上下文中,如以下讨论的,预定准则可以有利地被选择以对距离分辨率进行优化。本领域技术人员可以认识到在其它应用中的所公开的快速估计技术中,使用其它颜色更有利。
更一般地来讲,通过使用相同技术,使用包括实体图像的颜色图像数据,可以定制可见光谱之外的辐射的伪色图像。例如,使用X射线发射器和传感器可以创建人体的X射线图像,并且映射在可见颜色上以便在实体图像中使用。在此示例中,人体起到了衰减介质的作用。由于发射频谱中各个频率的辐射在人体中造成的散射可以在实体图像中作为“雾气”出现。如上所述,可以使用实体图像中的颜色的颜色通道来去除这些散射效应,因而得到更锐利的数字输出图像。
因而,透射向量的估计可以基于介质的已知散射属性。具体地,各个应用中的介质的成分和能量的入射波长可能需要基于瑞利散射或者米氏散射的任一种的估计,并且在红外或者X射线成像的情况下,例如拉曼散射或者康普顿散射。在这些情况下,可以使用不同于蓝色的颜色。因而,如上所述,透射向量可以是基于黄色频谱带而不是基于蓝色频谱带,以消除烟的出现。由于黄色不是RGB图像数据中的颜色通道,所以作为RGB图像中的红色、绿色和蓝色值的加权组合而得到黄色频谱带。
在一些实施方式中,透射向量的估计包括初始估计,随后是基于介质的已知频谱特性(诸如吸收)来补偿至少一个分量。已知大气在其组成分子的频率特性吸收入射辐射;例如,臭氧吸收来自太阳的紫外辐射。因而,例如在伪色UV图像中,基于整个已知吸收可以补偿透射向量的至少一个分量。实际上,可以基于对介质的频谱特性的了解来选择用于估计透射向量的频谱带。
类似地,基于被成像的物理对象的已知匹配特性可以估计、补偿或者定制估计透射向量的至少一个分量。例如,考虑看上去为粉红色的通过大气拍摄的屋顶的实体图像。如果已知屋顶是红色的特定阴影,则可以精确和快速测量包括屋顶的图像在内的像素的衰减(因而针对这些像素的整个透射向量)。这个原理可以容易地适用于更广泛的情形,其中关于物理对象知道比其可视表象更多的频谱信息。类似于以上描述的实施方式,可以基于对物理对象的频谱特性的了解来选择用于估计透射向量的频谱带。
在扩展这些概念的进一步实施方式中,可以使用多个频谱带来估计透射向量。例如,可以选择一个频谱带来确定由于吸收(例如,基于对介质的成分的了解)而引起的衰减,而可以选择第二频谱带来确定散射。通过组合应用于各频谱带的以上技术,可以获得关于透射向量的精确信息。可以使用这种技术,例如,以比照建立的标准来测量宝石的切口、清晰度或者颜色。实际上,基于散射量,如上所述,可以确定包括宝石的像素的深度,因而确定石头的体积(以及因此克拉重量)。这些技术还可以用于通过使用蓝色颜色通道以除雾并且使用红色颜色通道以识别刹车灯,来穿过雾而检测车辆刹车灯。在另一个实施方式中,在非大气环境中可以获得更锐利的图像。因而,可以使用绿色颜色通道来去除雾气水下,并且可以使用蓝色或者红外颜色通道来获得远距离对象的颜色或者其它信息。
以上技术在通过控各个制成像传感器可以控制场景的光和介质的成分的情形中特别有用。例如,可以用已知强(或者弱)散射的具有特定频率的光照射场景,以增强(或者削弱)场景的图像中的散射的效果。通过这样做,有利地可以增加图像的有用的频谱质量,因而允许以上技术提供关于场景的更准确的信息。光源可以是热学的,或者非热学的,并且可以针对特定介质或者被成像的物理对象而定制。此外,可以改变介质自身,例如,通过引入具有特定吸收频谱和期望散射属性的气溶胶。
因为t(x,y)可以用于生成描述到图像中的各像素的景深的针对图像的深度图,所以得到t(x,y)的值也是有用的。深度图可以接着用于多个特定应用,包括从2D图像生成3D图像,如图2A所示。尽管相关技术包括用于组合多个2D图像以得到3D图像的技术,快速并且准确地从单个2D图像生成3D图像还是不实际的。然而,本发明的实施方式可以从单个图像计算出t(x,y),其允许根据方程4确定像素的深度d(x,y),其中β是散射因子。在一些应用中,可以基于要被处理的图像的一般本质的知识来预先确定散射因子。
d(x,y)=-β*ln(t(x,y)) (方程4)
在其它应用中,使用诸如光检测和测距(LIDAR)系统这样的单独测距系统来确定特定像素的已知深度,并且基于这个像素的已知深度来计算整个图像的散射因子。因为散射因子是给定场景的常数,对单个像素的深度和该像素处的透射向量的知识允许通过算术运算来计算出散射因子。例如在从空中摄影(诸如从无人飞行器、卫星)的地理空间图像的应用中,可以知道到中心像素的深度,允许针对各图像计算散射因子。
类似于图2,图2A示出了基于此技术生成3D图像数据的方法。如上所述进行在处理21A接收图像数据并且在处理22A估计透射向量。然而,在此方法中,在处理23A,图像处理系统基于透射向量来生成深度图。在处理24A,接着使用深度图来生成3D图像数据。在处理25A,接着输出3D图像数据。图6A-图6L给出了示例性的之前和之后图像,在上部示出了原始图像,在下部示出了计算出的深度信息。
通过在方程5中求解“d(x,y)”计算用于生成3D图像数据的深度图:
d(x,y)=-β*ln(t(x,y)) (方程5)
例如,如以下的伪码所示,可以计算d(x,y):
for x=0 to width-1
for y=0 to height-1
d(x,y)=-beta*ln(t(x,y))
本发明的实施方式生成的深度图具有多种实际用途。根据广泛的类别分组,这些用途包括:分析静止图像;分析具有静止传感器的视频;分析具有运动传感器的视频;二维图像和视频实时转换为三维图像和数据;多频带和多效果无源计量;以及创建通过二维像素阵列实现的三维(立体)电视显示器。使用自动算法或者传感器定制可以改进任何这些用途。现在举出广泛的实际用途中的一些。
用于从静止图像创建实时深度信息的这个技术存在很多想到的应用。可以从地面或者空中摄影通过创建深度图,生成地形图,以确定地形中的点的相对海拔高度,例如,图6A到图6D所示。通过分析针对不期望的深度图可以快速并且容易地检测医疗照片。例如,如果两个照片已经被组合以创建看上去是单个城市天际线,则当看图像的深度图时整个组合变得明显,因为被组合的图像很有可能是在距场景不同距离处拍摄的。深度图在与周围图像的深度不一致的深度上将具有突然变化。类似地,可以通过分析深度图以找到异常区域来检测包含隐写图信息的图画。具有隐写图形数据的图像可以具有像素深度的非常急剧的改变,其中编码已经改变,即使这些改变对于人眼是不可见的。因而,这些技术可应用于法医分析和图像的验证。附加应用包括被成像的对象的边缘检测(通过定位深度上的曲线断续),以及阴影检测和消除。
使用此处描述的技术的静态图像分析允许基于频谱响应、散射和衰减行为的差异和纹路来识别其它结构内的结构。例如,诸如X射线和MRI这样的二维医疗图像可以被给予第三维度,如图6I到图6L所示,允许医生观察从二维图像可能不明显的各个身体结构的缺陷。类似地,通过分析静态医疗图像可以描述痣的结构和皮肤上的病变。可以分析诸如飞机转子叶片这样的特定产品的图像以检测由于它们的大小或者它们在周围结构中的位置引起的肉眼不可见的结构缺陷。这个应用对于例如通过使用X射线检测用于将部件紧固在一起的螺丝或者铆钉的内部腐蚀特别有用,而不必拆开部件来视觉上检测紧固件。可以通过将理想铸模的散射图案与目标铸模的散射图案进行比较,查找作为塑料散射介质的不均匀厚度的结果而出现在目标模具中的不规则或者异常,来识别注塑模制(诸如该领域使用的术语“欠注”和“欠模”)中的缺陷。基于飓风空气和周围空气之间的不同吸收或者散射特性可以从航空图像或者卫星图像中检测飓风。类似地,可以分析火山烟柱以基于颗粒大小分离烟从灰从石头、岩浆或者其它喷发物。可以分析森林火灾的图像以透过烟识别火焰的前进线路。并且,基于具有可见频谱之内(或者之外)的频率的能量的散射可以透过衣服识别隐藏的武器。
本发明的其它实施方式提供具有静止传感器的视频的分析。在这些实施方式中,分析相同场景的多个按时间排序的图像,因而允许计算三维运动向量和其它深度特性。这些计算允许3D空间中的对象识别和跟踪。例如,通过3D运动向量相同的像素的集合来识别运动对象。这个信息接着可以用于测量对象并且预测它们的运动。在一个这种应用中,使用此处公开的视频后处理效果,标准视频摄像机被转换为“雷达枪”。这种后处理效果可以实现为软件应用,以便在具有集成摄像机的智能电话或者其它这种设备上执行。安全摄像机通过监测摄像机视场的深度图中的变化可以针对运动和外来对象(例如人)智能地监测禁止区域。类似地,这些深度计算技术可以用于预测关注的人的移动,并且指引摄像机自动地跟踪他们。具有静止传感器的视频的分析还可以用于跟踪用身体作为控制器玩视频游戏的人的移动。类似地,游戏摄像机可以跟踪手持控制器的3D位置和方向,而不需要在控制器自身中使用惯性测量单元(IMU)。在另外其它应用中,通过分析废气排放(特别是发出的通常气体所散射的不可见波长)的时间序列图像可以预测火山喷发。或者通常基于不同散射可以预测或者描绘喷发的火山的烟柱的灰尘的路径,而不需要飞机进入烟柱。在森林和农业应用中,通过针对织物的生长造成的散射的差异来分析时间序列图像,更具体地,叶、杆和其它生长部位的厚度的增加,可以测量生长。本领域技术人员可以看到其它应用。
此处描述的技术可以还应用于分析具有运动传感器的视频。一个应用包括例如使用实时深度信息来去除电影制作过程中的“摄像机摇摆”,在家庭视频和专业市场中都可以。在医疗机器人手术领域中实时深度信息可能是非常有价值的,其中医生控制安装有摄像机的移动装置,其图像在操作室中显示。摄像机拍摄的图像的实时深度信息在与涉及患者的解剖分析3D信息相关时,(可能还通过这些技术实时获得),可以辅助医生准确地知道仪器通过身体。这些技术还可以应用于同时位置和映射(SLAM)用途,诸如确定人在诸如建筑物或者隧道这样的封闭或者遮蔽区域中的位置。在这种环境中,GPS跟踪不可用,并且使用多个IMU的跟踪方案实施起来可能昂贵。
进一步的应用包括二维图像和视频实时转换为三维图像和数据。在此领域中用于计算深度的所公开的技术的一个用途是产生二维图像和视频信号的摄像机的廉价的后处理以容易地提供三维数据,而不需要购买昂贵的新硬件。硬件或者软件后处理模块可以与例如拍摄新闻或者体育事件的摄像机耦合,使得这些摄像机现在发送3D视频。或者,这种后处理模块可以被包括在消费者电视机中,因而提供可选地将任何进入的2D电视信号转换为3D信号以便显示的功能。在另一个实施方式中,特定2D医疗图像,例如X射线图像、CAT扫描图、MRT扫描图、PET扫描图和超声波扫描图可以被转换为3D数据以便进一步诊断。具体地,由于透射向量t(x,y)的估计的迅速本质,超声波扫描图可以被实时地转换为3D数据,因而允许使用已有的超声波技术开发3D超声波机。后处理还可以在车辆环境中使用,以允许安装在车上的已有摄像机获得诸如其它车的附近对象的实时距离信息。
在其它实施方式中,作为2D视频记录的电影可以被实时转换为3D视频,而不需要特殊的3D摄像机设备。可以针对视频的各连续帧来计算深度图,接着可以使用该深度图输出3D视频的连续帧。在晚间使用头顶安装的红外摄像机,另一个实施方式使用例如电子眼镜来创建3D虚拟现实模型以便显示。该实施方式可以与3D位置数据组合以提供位置警觉。在再一个实施方式中,可以重构照片中示出的项目的3D模型。这些实施方式对于老照片或者不再生产的对象的照片特别有用,以获得关于表示可能不再可能拍摄新图像的被成像的人或者对象的数据。使用这些技术从多个照片提取深度信息允许迅速、准确地构建3D模型以便在宽范围的应用中使用。例如,视频游戏“级别”可以被迅速地原型化,并且视频游戏可以从仅仅几个摄像机图像生成高度现实的3D背景图像,而不需要立体摄影或者复杂并且在处理器上昂贵的修饰处理。作为另一个示例,执法者可以创建嫌疑人的头部的3D模型,其可以用作标识的另选形式,或者可以使用这些深度数据以将嫌疑人照片和从现场摄像机拍摄的图像比较。全景摄像机数据可以被映射到柱或坐标者球坐标以允许构建虚拟现实环境,允许例如虚拟游览房产。
在一些情况下与除雾组合,使用其它数据或者自动传感器定制,可以改进任何这些用途。例如,在从大气场景的图像中去除了雾气时,可以获得关于之前被雾掩盖的对象的深度信息。特定掩盖对象的揭示可以暗示使用第二频谱带来使用这些技术的迭代应用,以进一步精炼和锐化图像。另外,诸如预先存在的地形图这样的其它信息可以与通过上述方法获得的深度信息组合使用以校准成像系统以允许更准确地除雾,或者允许成像系统更准确地定义其在三维中的位置。诸如通过作为成像系统的一部分的IMU产生的数据这样的其它信息可以与计算出的深度信息组合使用来辅助这个处理。这个对散射效应的实时去除的其它应用包括锐化例如通过使用地震数据获得的地质特征的次表面的图像;以及锐化被灰尘云或者其它星际间介质部分掩盖的星际现象的图像。
图2B和图2C分别提供了图2和图2A的另选实施方式。图2B示出本发明的实施方式,其为计算机实现的并且基于输入图像数据生成输出图像数据。输入图像数据在此实施方式中是通过透过介质对视场中的物理对象成像获得的。尽管术语物理对象是单数,但是本领域技术人员将理解的是在输入图像数据内可以存在多个物理对象。在第一计算机处理中,基于输入图像数据来确定估计透射向量22B。估计透射向量可以是基于柯西米德方程(方程2)。此外,可以进行一个或者更多个假定来确定估计透射向量。例如,可以假定散射是由于特定频谱频率带引起的。如以上所讨论的,可以假定如果图像在自然阳光下拍摄,则蓝色颜色通道基本上导致全部散射。在传感器和对象之间存在其它介质的其它实施方式中,其它频谱频率带可以更显著地对散射有贡献。例如,如果介质是烟,则黄色频谱中的频谱频率带可以对散射有贡献,并且如果介质是水则绿色频谱的频谱频率带可以有贡献。可以使用其它频谱频率带来确定关于对象的衰减信息。例如,包括红色的频谱频率带可以用于确定衰减。在此实施方式中,估计透射向量的至少一个分量大致等于数字输入图像数据的至少一个归一化频谱通道值。另外,各频谱通道值包括来自第一频谱带中的衰减和第二频谱带中的散射中的至少一方的贡献。在第二计算机处理中,基于估计透射向量来确定输出图像数据24B。输出图像数据提供关于物理对象的更多信息并且去除由于光的散射效应引起的信息。
图2C是用于从输入图像数据确定深度信息的另选实施方式。在第一个计算机处理中,确定估计透射向量。估计透射向量的至少一个分量大致等于数字输入图像数据的至少一个归一化频谱通道值。应认识到的是,归一化频谱通道可以包括多个并且离散的频率带。归一化频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射中的至少一个的贡献。因而,归一化频谱通道值具有0.0到1.0之间的可能值,其中第一频率带可以对散射有贡献,并且第二频率带可以对从物理对象得到的光的衰减有贡献。在特定应用和实施方式中,归一化频谱通道值可以包括估计透射向量的分量来自衰减和散射两方的贡献,在确定了估计透射向量时,第二计算机处理使用数字输入图像数据和估计透射向量来确定与数字输入图像内的数字数据的可寻址位置相关联的深度值。如上所述,估计透射向量、深度信息和输出图像数据可用于不同应用。
参照图3,现在描述用于确定表示图像数据中的诸如大气光这样的环境能量的值(柯西米德方程中的未知变量“A”)的方法。图3的方法识别图像数据中的特定代表像素,并且使用代表像素的强度(或者来自代表像素的一个或者更多个颜色通道的值)作为“A”的值。
为了开始该方法,在处理31,图像处理系统可以对图像数据进行二次采样(subsample)。通过对数据二次采样,计算处理加速,因为要求更少的步骤。可以根据指定应用的特定需要来选择二次采样频率。通过在更高的频率二次采样,即,在计算中包括更多数据,为了可能的准确性提高,牺牲了处理速度。通过在更低的频率二次采样,即,在计算中包括更少数据,提高了处理速度,但是可能牺牲了准确性。每16行的每16个像素二次采样的一个实施方式发现提供可接受的准确性和速度。因而,在计算中将考虑在第一行中的每16个像素。第二到第十六行中任意行的像素都不被包括在计算中。接着在第17行(行1+16=17)中,考虑每16行。针对第33行(17+16=33)继续二次采样处理,并且通过整个图像进行。二次采样频率可以选择为2的幂,例如8、16、32等,因为使用2的幂在图像处理的特定编程实现中可以更有效。如本领域技术人员将理解的,根据特定实现方式的需要,还可以使用其它二次采样频率。
在处理32,被二次采样的像素的数据集合接着被处理以确定被二次采样的像素的颜色通道的最小值。例如,对于将具有红色、绿色和蓝色(RGB)颜色通道的像素,比较这三个颜色通道的每一个颜色通道的值以确定最小值。例如,如果第一像素具有R=130,G=0,B=200的RGB值,则该像素的最小值是0。如果第二像素具有R=50,G=50,B=50的RGB值,则该像素的最小值是50。
图像处理系统在处理33接着将确定具有最大的最小值的选择像素。对于刚刚提到的第一和第二示例性像素,第一像素的最小值是0,第二像素的最小值是50,所以第二像素具有最大的最小值。因此,如果只考虑这些像素,那么第二像素将是选定像素。
图像处理系统在处理34接着基于选定像素来确定“A”的值。根据一些实施方式,图像处理系统使用选定像素的颜色通道的值计算选定像素的强度值。本领域已知例如通过计算红色、绿色和蓝色颜色通道的值的线性组合来计算像素的强度值。计算出的强度接着被用作A的值。根据“A”应落在0到1的范围内的规定,“A”的值可以被归一化以表示最大强度的百分比。
通过以下伪码进一步展示刚刚描述的用于确定A的值的处理:
在图像数据是包括图像数据的一系列帧的视频数据的一些实施方式中,可以针对各连续图像来重新计算“A”。针对各连续图像计算“A”在全部时间提供最准确和新鲜的“A”的值。在另一个实施方式中,可以较不频繁地计算“A”。在视频图像数据中,连续图像经常彼此非常类似,其中颜色数据的大部分可能非常接近在时间上接近的数据的帧的值,表示类似的光状况、因此,针对数据的一个帧计算的“A”的值还可以用于多个随后帧,之后可以计算“A”的新的值。在场景的大气光相对恒定的特定情形中,在第一次之后,可能甚至根本不需要重新计算“A”。
现在参照图3A来描述用于确定“A”的值的另选处理。图像数据中的像素被组织为一系列像素块。例如,块可以是15个像素宽乘以15像素高。描述150个像素乘以150个像素图像的图像数据则将包含100个像素块。图像是10个块宽(15x10=150)并且10个块高(15x10=150)。另选地,可以设计任意大小的像素块作为观众的关注区域。在此情况下,以下算法仅仅应用于关注区域中的像素。
在各块中,在处理31A,像素被处理以确定该块中的具有最小强度的像素。在我们以上的示例中,将识别100个像素,从每个块中识别一个。对于各块,将计算各像素的强度,接着选择块中具有最小强度的像素。在针对各像素块确定了最小强度像素时,在处理32A,针对其最小强度像素,图像处理系统确定具有最大强度的块。如果例如100个选定像素的最高强度是从块25选择的像素,则块25具有最大的最小强度。图像处理系统在处理33A接着基于选择块中的选定像素来确定“A”的值。在我们的示例中,被选择为具有块25中的最小强度的像素,其具有比来自任何其它块的任何其它最小强度像素都要大的强度。这个选定像素的强度可以接着被用作A的值。根据“A”应落在0到1的范围内的规定,“A”的值可以被归一化以表示最大强度的百分比。
通过以下伪码进一步展示刚刚描述的用于确定A的值的处理:
以上描述的用于确定“A”的值的两个过程仅仅是示例性的。根据本发明的实施方式的特定要求,还可以遵循其它过程。可以从雾最大不透明像素来估计“A”的值。例如可以是具有图像中的任意像素的最高强度的像素。图3A的过程包括确定多个像素块的每一个像素块中的最小强度像素,并且确定最小像素中的最高强度。这个过程还可以被修改以包括确定各块中的最小强度像素中的最小颜色通道值,并且确定最小颜色通道值的最高值。该过程可以被进一步修改以包括选择具有最小颜色通道值的最高值的多个像素,而不仅仅是一个最高值。接着针对这些像素可以比较强度值,并且可以选择具有最高强度的像素。除了在此给出的其它变型和修改将对于本领域技术人员是明显的。
在一些另选实施方式中,使用“A”的两个值。第一个值用于在计算出估计透射向量时求解柯西米德方程。在一个实施方式中,“A”的第一个值被确定为图像中的任意像素的最大强度。在第二个实施方式中,该第一个值是二次采样中的像素中的最大强度。在第三个实施方式中,“A”的第一个值是关注区域中的像素的最大强度。。
“A”的第二个值被用于估计透射向量t(x,y)。这个第二个值被计算为多个代表像素的强度的均方根(RMS)。在各个实施方式中,代表像素包括整个图像、图像的二次采样或者关注区域,如上所述。
因为很多原因,使用针对环境能量的两个不同值提供了改进的结果。用于确定“A”的这些两个值使用的计算比图3和图3A的计算更简单,并且可以在在全部有关像素上单次进行。“A”的这两个值不是标量而是向量,并且可以在各颜色通道具有不同值。因为不同颜色通道在给定介质中可以反映出具有不同吸收或者散射特性的频率,所以这是重要的。并且,使用RMS强度值而不是绝对强度值,更好地反映了与组合多个颜色通道的强度为单个像素强度有关的物理现象。
现在参照图4描述根据本发明的实施方式的图像处理系统。图4中呈现的图像处理系统包括用于帮助从二维图像数据创建三维图像数据以及从二维输入图像创建增强的图像数据(例如,对烟、雾的去除等)的模块。本领域技术人员应认识的是图4呈现的全部模块不需要存在并且依赖于图像处理系统的目的,可以是可选的。图像处理系统49在图像输入模块40处接收数字输入图像数据。如上所述,数字输入图像数据代表了透过介质51被传感器53成像的物理对象52,并且包含具有相关联的坐标(x,y)的多个像素。图像处理系统49将从传感器53接收的图像数据从输入模块40传递到环境能量计算模块42并且传递到透射向量估计模块42。环境能量计算模块41根据如上所述的方法中的一种方法处理图像数据以生成“A”的值,并且向透射估计模块42提供“A”的值。透射估计模块42至少基于数字输入图像数据的一个连续频谱带确定针对数字输入图像数据的估计透射向量。使用如以上结合图3或者图3A描述的环境能量的值可以进行确定。
透射估计模块42接着向图像增强模块43和/或深度计算模块47中的至少一方投送输入图像数据、“A”的值和估计透射向量。当图像增强模块43接收到数据时,其如以上参照图2所述对图像数据进行增强,并且向图像输出模块44提供得到的增强图像数据。当深度计算模块接收到47数据时,其如以上参照图2A所述生成深度图,并且向3D图像生成模块48提供该深度图和图像数据。3D图像生成模块48处理深度图和图像数据以生成3D图像数据,3D图像数据被传递到图像输出模块44。在一些情况下,图像处理系统49通过将图像增强模块43的输出传递到3D图像生成模块48或者相反,可以生成经增强并且转换为3D的图像数据,之后生成增强3D图像数据并且传递到图像输出模块44。图像输出模块44接着输出该输出图像数据,基于是否进行了3D图像生成,该输出图像数据可以是2D数据或者3D数据。如以上提到的,图像处理系统中并不需要所有这些模块。例如,如果仅仅期望增强图像,则深度计算模块47和3D图像生成模块48不需要在这种实施方式中存在。
输出图像数据可以被发送到存储器45以便存储。存储器45可以是计算机中的RAM或者其它易失性存储器,或者可以是硬盘驱动器、磁带备份、CD-ROM、DVD-ROM、蓝光光盘、闪存或者其它适当电子存储。输出图像数据还可以被发送到显示器46以便观看。显示器46可以是监视器、电视机屏幕、投影仪等,或者还可以是照片打印装置等用于创建持久物理图像。显示器46还可以是诸如全息图生成器这样的立体或者其它适当显示设备用于观看3D图像数据。另选地,3D图像数据可以被发送到3D打印机,例如,用于图像数据的物理模型的独立的自由形式制造。
可以按照很多不同形式实现本发明,包括但是不限于通过处理器(例如微处理器、微控制器、数字信号处理器或者通用计算机)使用的计算机程序逻辑、通过可编程路基器件(例如,现场可编程门阵列(FPGA))或者其它可编程逻辑器件(PLD))使用的可编程逻辑、分立元件、集成电路(例如,专用集成电路(ASIC))或者包括其任意组合的任何其它装置。
实现先前提到的功能的全部或者一部分的计算机程序逻辑可以按照很多形式实现,包括但是不限于源代码形式、计算机可执行形式和各种中间形式(例如,汇编器、编译器、连接器或定位器)。源代码可以包括通过各种编程语言实现的一系列计算机程序指令(例如,对象码、汇编语言或者例如Fortran、C、C++、JAVA或者HTML这样的高级语言)以便通过各种操作系统或者操作环境使用。源代码可以定义并且使用各种数据结构和通信消息。源代码可以处于计算机可执行形式(例如,经由解析器)或者源代码可以(例如,经由转换器、汇编器或者编译器)被转换为计算机可执行形式。
计算机程序可以按照任意形式(例如,源代码形式、计算机可执行形式或者中间形式)固定在实体存储介质中,诸如半导体存储器装置(例如,RAM、ROM、PROM、EEPROM或者闪存可编程存储器)、磁存储器装置(例如,磁带或者固定盘)、光存储器装置(例如,CD-ROM)、PC卡(例如PCMCIA卡)或者其它存储器装置。计算机程序可以按照任意形式作为伴有印刷或者电子文档(例如,收缩包装的软件)的可去除存储介质来分配,预加载在计算机系统(例如,在系统ROM或者固定盘上),或者从服务器或者电子公告牌经过通信系统(例如,因特网或者万维网)分配。
可以使用传统人工方法设计实现此处先前描述的功能的全部或者一部分的硬件逻辑(包括通过可编程逻辑器件使用的可编程逻辑),或者可以使用各种工具来设计、拍摄、激励或者电子地存档,诸如计算机辅助设计(CAD)、硬件描述语言(例如,VHDL或者AHDL)或者PLD编程语言(例如,PALASM、ABEL或者CUPL)。
可编程逻辑可以永久或者临时固定在实体存储介质中,诸如半导体存储器装置(例如,RAM、ROM、PROM、EEPROM或者闪存可编程存储器)、磁存储器装置(例如,磁带或者固定盘)、光存储器装置(例如,CD-ROM)或者其它存储器装置。可编程逻辑可以作为伴有印刷或者电子文档(例如,收缩包装的软件)的可去除存储介质来分配,预加载在计算机系统(例如,在系统ROM或者固定盘上),或者从服务器或者电子公告牌经过通信系统(例如,因特网或者万维网)分配。
以上描述的本发明的实施方式旨在仅仅是示例性的;许多变化和修改对于本领域的技术人员是明显的。全部这些变化和修改旨在落入由所附的任何权利要求限定的本发明的范围内。
本发明的另选实施方式
在不进行限制的情况下,在下文列出本发明的附加实施方式。以下提供的实施方式被描述为利用计算机实现的方法权利要求。然而,本领域技术人员将认识到方法步骤可以被实现为计算机代码并且计算机代码可以被布置在定义计算机程序产品的非瞬时计算机可读介质上。
在第一个另选实施方式中,列出了权利要求1-111。
1、一种计算机实现的基于数字输入图像数据来生成深度数据的方法,所述数字输入图像数据代表了通过介质而成像的视场中的物理对象,所述数字输入图像数据与频谱通道相关联,所述方法包括以下步骤:
在计算机实现的第一处理中,确定针对介质的估计透射向量;以及
在计算机实现的第二处理中,基于估计透射向量得到深度数据,其中:
估计透射向量的分量大致等于针对数字输入图像数据的至少一个归一化频谱通道值,并且各频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射的至少一个的贡献。
2、根据权利要求1所述的计算机实现的方法,其中,所述估计透射向量的分量随着不同频谱带的频谱特性而改变。
3、根据权利要求1所述的计算机实现的方法,其中,基于预定准则来选择所述频谱带。
4、根据权利要求3所述的计算机实现的方法,其中,所述预定准则基于所述介质的频谱特性。
5、根据权利要求3所述的计算机实现的方法,其中,所述预定准则基于所述物理对象的频谱特性。
6、根据权利要求3所述的计算机实现的方法,其中,所述预定准则基于距离。
7、根据权利要求3所述的计算机实现的方法,其中,所述预定准则优化了距离分辨率。
8、根据权利要求1所述的计算机实现的方法,其中,所述频谱通道包括可见频谱带。
9、根据权利要求1所述的计算机实现的方法,其中,所述频谱通道包括紫外或者红外频带中的至少一个。
10、根据权利要求1所述的计算机实现的方法,其中,所述散射包括由于米氏散射。
11、根据权利要求1所述的计算机实现的方法,其中,所述散射包括拉曼散射。
12、根据权利要求1所述的计算机实现的方法,其中,所述散射包括瑞利散射。
13、根据权利要求1所述的计算机实现的方法,其中,所述散射包括康普顿散射。
14、根据权利要求1所述的计算机实现的方法,其中,估计透射向量还包括:
基于所述介质的已知匹配特性来补偿所述估计透射向量的至少一个分量。
15、根据权利要求1所述的计算机实现的方法,其中,基于所述介质的已知频谱特性来选择所述一个频谱带。
16、根据权利要求1的计算机实现的方法,所述方法还包括:
基于所述物理对象的已知匹配特性来补偿所述估计透射向量的至少一个分量。
17、根据权利要求1所述的计算机实现的方法,其中,所述频谱带中的至少一个被加权。
18、根据权利要求1所述的计算机实现的方法,其中,一个频谱带对应于来自数字输入图像数据的蓝色、黄色、绿色和红色颜色数据中的一个。
19、根据权利要求1所述的计算机实现的方法,其中,所述数字输入图像数据是自然照明的结果。
20、根据权利要求1所述的计算机实现的方法,其中,所述数字输入图像数据是定制照明的结果。
21、根据权利要求1所述的计算机实现的方法,其中,所述定制照明是非热发光体的照明。
22、根据权利要求21所述的计算机实现的方法,其中,基于所述非热发光体的频谱特性来确定所述频谱带中的一个以减少散射。
23、根据权利要求1所述的计算机实现的方法,其中,所述频谱通道至少包括可见频谱带。
24、根据权利要求1所述的计算机实现的方法,其中,确定所述深度值包括:
d(x,y)=-β*ln(t(x,y))
其中,d(x,y)是坐标(x,y)处的像素的深度值,β是散射因子,t(x,y)是估计透射向量。
25、根据权利要求1所述的计算机实现的方法,其中,所述介质至少介于所述物理对象和成像传感器之间,其中,所述成像传感器产生得到所述数字输入图像数据的输出。
26、根据权利要求1的计算机实现的方法,所述方法还包括:
确定所述输入图像数据中的散射环境光的值,其中,计算估计透射向量进一步基于所述输入图像数据中的散射环境光的值。
27、根据权利要求26所述的计算机实现的方法,其中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与图像内的各位置相对应的强度值,并且通过找到针对所有颜色通道的最小值的最大值来确定散射环境光的值。
28、根据权利要求1的计算机实现的方法,所述方法还包括:
确定所述数字输入图像数据中的散射环境光的向量,其中,计算所述估计透射向量进一步基于所述数字输入图像数据中的散射环境光的向量。
29、根据权利要求1所述的计算机实现的方法,其中,选择所述频谱通道以使得视场中的透射向量的值的范围最大化。
30、一种计算机实现的基于数字输入图像数据来生成输出数字图像数据的方法,所述数字输入图像数据代表了通过介质而成像的视场中的物理对象,所述方法包括以下步骤:
在计算机实现的第一处理中,确定针对介质的估计透射向量;以及
在计算机实现的第二处理中,基于估计透射向量得到输出数字图像数据,其中:
估计透射向量的至少一个分量大致等于针对数字输入图像数据的至少一个归一化频谱通道值,并且各频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射的至少一个的贡献。
31、根据权利要求1所述的计算机实现的方法,其中,所述估计透射向量的分量随着不同频谱带的频谱特性而改变。
32、根据权利要求30所述的计算机实现的方法,其中,选择所述频谱通道以使得视场中的透射向量的值的范围最大化。
33、根据权利要求30所述的计算机实现的方法,其中,基于预定准则选择所述频谱带。
34、根据权利要求33所述的计算机实现的方法,其中,所述预定准则基于所述介质的频谱特性。
35、根据权利要求33所述的计算机实现的方法,其中,所述预定准则基于所述物理对象的频谱特性。
36、根据权利要求33所述的计算机实现的方法,其中,所述预定准则基于距离。
37、根据权利要求33所述的计算机实现的方法,其中,所述预定准则优化了距离分辨率。
38、根据权利要求30所述的计算机实现的方法,其中,所述频谱通道包括可见频谱带。
39、根据权利要求30所述的计算机实现的方法,其中,所述频谱通道包括紫外或者红外频带中的至少一个。
40、根据权利要求30所述的计算机实现的方法,其中,估计透射向量还包括:
基于所述介质的已知匹配特性来补偿所述估计透射向量的至少一个分量。
41、根据权利要求30所述的计算机实现的方法,其中,基于所述介质来选择所述频谱带。
42、根据权利要求30所述的计算机实现的方法,所述方法还包括:
基于所述物理对象的已知匹配特性来补偿所述估计透射向量的至少一个分量。
43、根据权利要求30所述的计算机实现的方法,其中,所述频谱带中的至少一个被加权。
44、根据权利要求30所述的计算机实现的方法,其中,所述频谱带中的一个对应于数字输入图像数据中的蓝色、黄色、绿色和红色颜色数据中的一个。
45、根据权利要求30所述的计算机实现的方法,其中,所述频谱通道是根据指定的颜色编码而限定的。
46、根据权利要求30所述的计算机实现的方法,所述方法还包括:
确定所述输入图像数据中的散射环境光的值,其中,计算所述估计透射向量进一步基于所述输入图像数据中的散射环境光的值。
47、根据权利要求46所述的计算机实现的方法,其中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与图像内的各位置相对应的强度值,并且通过找到针对所有颜色通道的最小值的最大值来确定散射环境光的值。
48、根据权利要求30所述的计算机实现的方法,所述方法还包括:
确定所述数字输入图像数据中的散射环境光的向量,其中,计算所述估计透射向量进一步基于所述数字输入图像数据中的散射环境光的向量。
49、根据权利要求30所述的计算机实现的方法,其中,计算所述输出图像包括解以下方程:
I(x,y)=J(x,y)*t(x,y)+A*(1-t(x,y))
以确定J的值,其中I是从输入图像数据得到的输入图像的颜色向量,J是代表来自输入图像中的对象的光的颜色向量,t是估计透射向量,A是表示散射在所述输入图像数据中的环境光的常数。
50、根据权利要求49所述的计算机实现的方法,其中,解所述方程还包括:
基于所述数字输入图像数据来确定A的值。
51、根据权利要求30所述的计算机实现的方法,其中,所述数字输入图像数据是自然照明的结果。
52、根据权利要求30所述的计算机实现的方法,其中,所述数字输入图像数据是定制照明的结果。
53、一种包括非瞬时计算机可读介质的计算机程序产品,该介质上具有计算机代码,该计算机代码用于基于数字输入图像数据来生成深度数据,所述数字输入图像数据代表了通过介质而成像的视场中的物理对象,所述数字输入图像数据与频谱通道相关联,该计算机代码包括:
用于确定针对介质的估计透射向量的计算机代码;和
用于基于估计透射向量得到深度数据的计算机代码,其中:
估计透射向量的分量大致等于针对数字输入图像数据的至少一个归一化频谱通道值,并且各频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射的至少一个的贡献。
54、根据权利要求53所述的计算机实现的方法,其中,所述估计透射向量的分量随着不同频谱带的频谱特性而改变。
55、根据权利要求53所述的计算机程序产品,其中,选择所述频谱通道以使得视场中的透射向量的值的范围最大化。
56、根据权利要求53所述的计算机程序产品,其中,基于预定准则来选择所述频谱带。
57、根据权利要求56所述的计算机程序产品,其中,所述预定准则基于所述介质的频谱特性。
58、根据权利要求56所述的计算机程序产品,其中,所述预定准则基于所述物理对象的频谱特性。
59、根据权利要求56所述的计算机程序产品,其中,所述预定准则基于距离。
60、根据权利要求56所述的计算机程序产品,其中,所述预定准则优化了距离分辨率。
61、根据权利要求53所述的计算机程序产品,其中,所述频谱通道包括可见频谱带。
62、根据权利要求53所述的计算机程序产品,其中,所述频谱通道包括紫外或者红外频带中的至少一个。
63、根据权利要求53所述的计算机程序产品,其中,所述散射包括由于米氏散射。
64、根据权利要求53所述的计算机程序产品,其中,所述散射包括拉曼散射。
65、根据权利要求53所述的计算机程序产品,其中,所述散射包括瑞利散射。
66、根据权利要求53所述的计算机程序产品,其中,所述散射包括康普顿散射。
67、根据权利要求53所述的计算机程序产品,其中,估计透射向量还包括:
用于基于所述介质的已知频谱特性来补偿所述估计透射向量的至少一个分量的计算机代码。
68、根据权利要求53所述的计算机程序产品,其中,基于所述介质的已知频谱特性来选择所述一个频谱带。
69、根据权利要求53所述的计算机程序产品,所述计算机程序产品还包括:
用于基于所述物理对象的已知频谱特性来补偿所述估计透射向量的至少一个分量的计算机代码。
70、根据权利要求53所述的计算机程序产品,其中,所述频谱带中的至少一个被加权。
71、根据权利要求53所述的计算机程序产品,其中,一个频谱带对应于来自数字输入图像数据的蓝色、黄色、绿色和红色颜色数据中的一个。
72、根据权利要求53所述的计算机程序产品,其中,所述数字输入图像数据是自然照明的结果。
73、根据权利要求53所述的计算机程序产品,其中,所述数字输入图像数据是定制照明的结果。
74、根据权利要求53所述的计算机程序产品,其中,所述定制照明是非热发光体的照明。
75、根据权利要求74所述的计算机程序产品,其中,基于所述非热发光体的频谱特性来确定所述频谱带中的一个以减少散射。
76、根据权利要求53所述的计算机程序产品,其中,所述频谱通道至少包括可见频谱带。
77、根据权利要求53所述的计算机程序产品,其中,确定所述深度值包括:
d(x,y)=-β*ln(t(x,y))
其中,d(x,y)是坐标(x,y)处的像素的深度值,β是散射因子,t(x,y)是估计透射向量。
78、根据权利要求53所述的计算机程序产品,其中,所述介质至少介于所述物理对象和成像传感器之间,其中,所述成像传感器产生得到所述数字输入图像数据的输出。
79、根据权利要求53所述的计算机程序产品,所述计算机程序产品还包括:
用于确定所述输入图像数据中的散射环境光的值的计算机代码,其中,计算所述估计透射向量进一步基于所述输入图像数据中的散射环境光的值。
80、根据权利要求79所述的计算机程序产品,其中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与图像内的各位置相对应的强度值,并且通过找到针对所有颜色通道的最小值的最大值来确定散射环境光的值。
81、根据权利要求53所述的计算机程序产品,所述计算机程序产品还包括:
用于确定所述数字输入图像数据中的散射环境光的向量的计算机代码,其中,计算所述估计透射向量进一步基于所述数字输入图像数据中的散射环境光的向量。
82、一种包括非瞬时计算机可读介质的计算机程序产品,该介质上具有计算机代码,该计算机代码用于基于数字输入图像数据来生成数字输出图像数据,所述数字输入图像数据代表了通过介质而成像的视场中的物理对象,所述数字输入图像数据与频谱通道相关联,该计算机代码包括:
用于确定针对介质的估计透射向量的计算机代码;和
用于基于估计透射向量得到所述输出数字图像数据的计算机代码,其中:
估计透射向量的至少一个分量大致等于针对数字输入图像数据的至少一个归一化频谱通道值,并且各频谱通道值包括第一频谱带中的衰减和第二频谱带中的散射的至少一个的贡献。
83、根据权利要求82所述的计算机程序产品,其中,所述估计透射向量的分量随着不同频谱带的频谱特性改变。
84、根据权利要求82所述的计算机程序产品,其中,选择所述频谱通道以使得视场中的透射向量的值的范围最大化。
85、根据权利要求82所述的计算机程序产品,其中,基于预定准则来选择所述频谱带。
86、根据权利要求85所述的计算机程序产品,其中,所述预定准则基于所述介质的频谱特性。
87、根据权利要求85所述的计算机程序产品,其中,所述预定准则基于所述物理对象的频谱特性。
88、根据权利要求85所述的计算机程序产品,其中,所述预定准则基于距离。
89、根据权利要求85所述的计算机程序产品,其中,所述预定准则优化了距离分辨率。
90、根据权利要求82所述的计算机程序产品,其中,所述频谱通道包括可见频谱带。
91、根据权利要求82所述的计算机程序产品,其中,所述频谱通道包括紫外或者红外频带中的至少一个。
92、根据权利要求82所述的计算机程序产品,其中,估计透射向量还包括:
基于所述介质的已知匹配特性来补偿所述估计透射向量的至少一个分量。
93、根据权利要求82所述的计算机程序产品,其中,基于所述介质来选择所述频谱带。
94、根据权利要求82所述的计算机程序产品,所述计算机程序产品还包括:
基于所述物理对象的已知匹配特性来补偿所述估计透射向量的至少一个分量。
95、根据权利要求82所述的计算机程序产品,其中,所述频谱带中的至少一个被加权。
96、根据权利要求82所述的计算机程序产品,其中,所述频谱带中的一个对应于数字输入图像数据中的蓝色、黄色、绿色和红色颜色数据中的一个。
97、根据权利要求82所述的计算机程序产品,其中,所述频谱通道是根据指定的颜色编码而限定的。
98、根据权利要求82所述的计算机程序产品,所述计算机程序产品还包括:
确定所述输入图像数据中的散射环境光的值,其中,计算所述估计透射向量进一步基于所述输入图像数据中的散射环境光的值。
99、根据权利要求98所述的计算机程序产品,其中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与图像内的各位置相对应的强度值,并且通过找到针对所有颜色通道的最小值的最大值来确定散射环境光的值。
100、根据权利要求82所述的计算机程序产品,所述计算机程序产品还包括:
确定所述数字输入图像数据中的散射环境光的向量,其中,计算所述估计透射向量进一步基于所述数字输入图像数据中的散射环境光的向量。
101、根据权利要求82所述的计算机程序产品,其中,计算所述输出图像包括解以下方程:
I(x,y)=J(x,y)*t(x,y)+A*(1-t(x,y))
以确定J的值,其中I是从输入图像数据得到的输入图像的颜色向量,J是代表来自输入图像中的对象的光的颜色向量,t是估计透射向量,A是表示散射在所述输入图像数据中的环境光的常数。
102、根据权利要求101所述的计算机程序产品,其中,解所述方程还包括:
基于所述数字输入图像数据来确定A的值。
103、根据权利要求82所述的计算机程序产品,其中,所述数字输入图像数据是自然照明的结果。
104、根据权利要求82所述的计算机程序产品,其中,所述数字输入图像数据是定制照明的结果。
105、一种图像处理系统,所述图像处理系统包括:
输入模块,所述输入模块接收通过介质而成像的物理对象的数字输入图像数据;
大气光计算模块,所述大气光计算模块从所述输入模块接收所述数字输入图像数据并且计算大气光信息;
透射向量估计模块,所述透射向量估计模块从所述输入模块接收所述数字输入图像数据,并且基于所述数字输入图像数据的频谱带和所述大气光信息来估计所述介质的透射向量;以及
增强图像模块,所述增强图像模块接收所述数字图像输入数据和所述透射向量并且生成输出图像数据。
106、根据权利要求105所述的图像处理系统,其中,所述图像处理系统还包括:
用于透过所述介质来照明所述物理对象的照明源;以及
用于透过所述介质接收表示所述物理对象的能量并且将所述能量转换为数字输入图像数据的传感器。
107、根据权利要求105所述的图像处理系统,所述图像处理系统还包括:
输出模块,所述输出模块接收所述输出图像数据并且将所述输出图像数据输出至数字存储设备和显示器中的至少一种。
108、一种图像处理系统,所述图像处理系统包括:
输入模块,所述输入模块接收包含通过介质而成像的成像物理对象的颜色信息的数字输入图像数据;
大气光计算模块,所述大气光计算模块从所述输入模块接收所述数字输入图像数据并且计算大气光信息;
透射向量估计模块,所述透射向量估计模块从所述输入模块接收所述数字输入图像数据,并且基于所述数字输入图像数据的频谱带和所述大气光信息来估计所述介质的透射向量;以及
深度计算模块,所述深度计算模块接收数字图像输入图像数据和所述透射向量并且生成深度图。
109、根据权利要求108所述的图像处理系统,所述图像处理系统还包括:
三维图像生成模块,所述三维图像生成模块接收所述数字输入图像数据和所述深度图并且使用所述数字输入图像数据和所述深度图来生成三维输出图像数据。
110、根据权利要求109所述的图像处理系统,所述图像处理系统还包括:
输出模块,所述输出模块接收所述三维输出图像数据并且将所述三维输出图像数据输出至数字存储设备和显示器中的至少一种。
111、根据权利要求107所述的图像处理系统,其中,所述图像处理系统还包括:
用于透过所述介质来照明所述物理对象的照明源;以及
用于透过所述介质接收表示所述物理对象的能量并且将所述能量转换为数字输入图像数据的传感器。
在第二个另选实施方式中,列出了权利要求1-67。
1、一种根据数字输入图像数据来生成至少一个深度值的计算机实现的方法,所述数字输入图像数据代表透过介质而成像的物理对象,所述计算机实现的方法包括以下步骤:
在计算机实现的第一个处理中,确定所述介质的估计透射向量,其中估计透射向量基于所述数字输入图像数据的一个连续频谱带;以及
在计算机实现的第二处理中,基于估计透射向量根据所述数字输入图像数据来确定所述深度值。
2、根据权利要求1所述的计算机实现的方法,其中,所述至少一个深度值对应于所述数字输入图像数据的深度图。
3、根据权利要求1所述的计算机实现的方法,其中,确定所述估计透射向量至少基于第二连续频谱带。
4、根据权利要求3所述的计算机实现的方法,其中,基于预定准则来选择所述连续频谱带。
5、根据权利要求3所述的计算机实现的方法,其中,基于预定准则来选择所述连续频谱带。
6、根据权利要求4所述的计算机实现的方法,其中,所述预定准则基于所述介质的频谱特性。
7、根据权利要求4所述的计算机实现的方法,其中,所述预定准则基于所述物理对象的频谱特性。
8、根据权利要求4所述的计算机实现的方法,其中,所述预定准则基于距离。
9、根据权利要求4所述的计算机实现的方法,其中,所述预定准则优化了距离分辨率。
10、根据权利要求1所述的计算机实现的方法,其中,所述一个连续频谱带是可见频谱带。
11、根据权利要求1所述的计算机实现的方法,其中,基于所述介质的散射属性根据所述连续频谱带中的所述数字输入图像数据得到所述透射向量的分量。
12、根据权利要求11所述的计算机实现的方法,其中,所述散射属性是由于米氏散射。
13、根据权利要求11所述的计算机实现的方法,其中,所述散射属性是由于拉曼散射。
14、根据权利要求11所述的计算机实现的方法,其中,所述散射属性是由于瑞利散射。
15、根据权利要求11所述的计算机实现的方法,其中,所述散射属性是由于康普顿散射。
16、根据权利要求1所述的计算机实现的方法,其中,估计透射向量还包括:
基于所述介质的已知匹配特性来补偿所述估计透射向量的至少一个分量。
17、根据权利要求1所述的计算机实现的方法,其中,基于所述介质来选择所述一个连续频谱带。
18、根据权利要求1所述的计算机实现的方法,所述方法还包括:
基于所述物理对象的已知匹配特性来补偿所述估计透射向量的至少一个分量。
19、根据权利要求1所述的计算机实现的方法,所述方法还包括:
基于所述数字图像输入数据的第二连续频谱带来补偿所述估计透射向量的至少一个分量。
20、根据权利要求1所述的计算机实现的方法,其中,所述连续频谱带可以是加权的。
21、根据权利要求1所述的计算机实现的方法,其中,所述一个连续频谱带对应于所述数字输入图像数据中的红颜色数据。
22、根据权利要求1所述的计算机实现的方法,其中,所述一个连续频谱带对应于从所述数字输入图像数据得出的黄颜色数据。
23、根据权利要求1所述的计算机实现的方法,其中,所述一个连续频谱带对应于所述数字输入图像数据中的绿颜色数据。
24、根据权利要求1所述的计算机实现的方法,其中,所述一个连续频谱带是根据指定的颜色编码而限定的。
25、根据权利要求1所述的计算机实现的方法,其中,所述数字输入图像数据是自然照明的结果。
26、根据权利要求1所述的计算机实现的方法,其中,所述数字输入图像数据是定制照明的结果。
27、根据权利要求26所述的计算机实现的方法,其中,所述定制照明是非热发光体的照明。
28、根据权利要求27所述的计算机实现的方法,其中,基于所述非热发光体的频谱特性来确定所述一个连续频谱带中以减少散射。
29、根据权利要求1所述的计算机实现的方法,其中,所述数字图像输入数据的所述一个连续频谱带确定所述估计透射向量的散射信息,并且其中,确定所述估计透射向量还包括基于所述数字输入图像数据的第二连续频谱带来确定所述估计透射向量的衰减信息。
30、根据权利要求1所述的计算机实现的方法,其中,确定估计透射向量还要求所述估计透射向量还基于第二连续频谱带并且所述物理对象透过第二介质而成像。
31、根据权利要求1所述的计算机实现的方法,其中,所述一个连续频谱带是可见频谱带。
32、根据权利要求1所述的计算机实现的方法,其中,确定所述深度值包括:
d(x,y)=-β*ln(t(x,y))
其中,d(x,y)是坐标(x,y)处的像素的深度值,β是散射因子,t(x,y)是透射向量。
33、一种根据数字输入图像数据来生成数字输出图像数据的计算机实现的方法,所述数字输入图像数据代表了透过介质而成像的物理对象,所述计算机实现的方法包括以下步骤:
在计算机实现的第一个处理中,确定所述介质的估计透射向量,其中,所述估计透射向量基于所述数字图像输入数据的一个连续频谱带;以及
在计算机实现的第二个处理中,部分地基于所述估计透射向量来计算数字输出图像。
34、根据权利要求33所述的计算机实现的方法,其中,所述介质至少介于所述物理对象和成像传感器之间,其中,所述成像传感器产生得到所述数字输入图像数据的输出。
35、根据权利要求33所述的计算机实现的方法,其中,所述数字图像输入数据的所述一个连续频谱带确定所述估计透射向量的散射信息,并且其中,确定所述估计透射向量还包括基于所述数字输入图像数据的第二连续频谱带来确定所述估计透射向量的衰减信息。
36、根据权利要求33所述的计算机实现的方法,其中,确定估计透射向量还要求所述估计透射向量还基于第二连续频谱带并且所述物理对象透过第二介质而成像。
37、根据权利要求33所述的计算机实现的方法,其中,所述一个连续频谱带是可见频谱带。
38、根据权利要求33所述的计算机实现的方法,其中,基于所述介质的散射属性从所述连续频谱带中的所述数字输入图像数据得到所述透射向量的分量。
39、根据权利要求38所述的计算机实现的方法,其中,所述散射属性是由于米氏散射。
40、根据权利要求38所述的计算机实现的方法,其中,所述散射属性是由于拉曼散射。
41、根据权利要求38所述的计算机实现的方法,其中,所述散射属性是由于瑞利散射。
42、根据权利要求38所述的计算机实现的方法,其中,所述散射属性是由于康普顿散射。
43、根据权利要求33所述的计算机实现的方法,其中,估计透射向量还包括:
基于所述介质的已知匹配特性来补偿所述估计透射向量的至少一个分量。
44、根据权利要求33所述的计算机实现的方法,其中,基于所述介质来选择所述一个连续频谱带。
45、根据权利要求33所述的计算机实现的方法,所述方法还包括:
基于所述物理对象的已知匹配特性来补偿所述估计透射向量的至少一个分量。
46、根据权利要求33所述的计算机实现的方法,所述方法还包括:
基于所述数字图像输入数据的第二连续频谱带来补偿所述估计透射向量的至少一个分量。
47、根据权利要求33所述的计算机实现的方法,其中,所述连续频谱带可以是加权的。
48、根据权利要求33所述的计算机实现的方法,其中,所述一个连续频谱带对应于所述数字输入图像数据中的红颜色数据。
49、根据权利要求33所述的计算机实现的方法,其中,所述一个连续频谱带对应于从所述数字输入图像数据得到的黄颜色数据。
50、根据权利要求33所述的计算机实现的方法,其中,所述一个连续频谱带对应于所述数字输入图像数据中的绿颜色数据。
51、根据权利要求33所述的计算机实现的方法,其中,所述一个连续频谱带是根据指定的颜色编码而限定的。
52、根据权利要求33的计算机实现的方法,所述方法还包括:确定所述输入图像数据中的散射环境光的值,并且其中,计算数字输出图像进一步基于所述输入图像数据中的散射环境光的值。
53、根据权利要求52所述的计算机实现的方法,其中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与图像内的各位置相对应的值,并且通过找到针对所有颜色通道的最小值的最大值来确定散射环境光的值。
54、根据权利要求33的计算机实现的方法,所述方法还包括:确定所述数字输入图像数据中的散射环境光的向量,并且计算所述数字输出图像进一步基于所述数字输入图像数据中的散射环境光的向量,并且其中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与所述图像内的各位置相关联的强度值,并且通过使用针对散射环境光的各向量分量的来自所述数字输入图像数据的各颜色通道的关注图像区域的最大强度值并将散射环境光的各向量分量除以关注图像区域内的所有所述数字输入图像数据的均方根值,来确定所述数字输入图像中的所述散射环境光的所述向量。
55、根据权利要求54所述的计算机实现的方法,其中,关注区域包括所述数字输入图像数据的子区间。
56、根据权利要求55所述的计算机实现的方法,其中,关注区域包括所有所述数字输入图像数据。
57、根据权利要求33所述的计算机实现的方法,其中,计算所述输出图像包括解以下方程:
I(x,y)=J(x,y)*t(x,y)+A*(1-t(x,y))
以确定J的值,其中I是从输入图像数据得到的输入图像的颜色向量,J是代表来自输入图像中的对象的光的颜色向量,t是估计透射向量,A是表示散射在所述输入图像数据中的环境光的常数。
58、根据权利要求22所述的计算机实现的方法,其中,解所述方程还包括:
基于所述数字输入图像数据来确定A的值。
59、根据权利要求33所述的计算机实现的方法,其中,所述数字输入图像数据是自然照明的结果。
60、根据权利要求33所述的计算机实现的方法,其中,所述数字输入图像数据是定制照明的结果。
61、根据权利要求33所述的计算机实现的方法,其中,基于预定准则来选择所述连续频谱带。
62、根据权利要求26所述的计算机实现的方法,其中,所述预定准则基于所述介质的频谱特性。
63、根据权利要求27所述的计算机实现的方法,其中,所述预定准则基于所述物理对象的频谱特性。
64、一种根据由数字数据组成的二维摄影图像来产生三维图像数据集合的计算机实现的方法,所述方法包括:
在计算机实现的第一个处理中,基于单个颜色来确定拍摄所述摄影图像时存在的光的透射特性;
在利用计算机实现的第二个处理中,将所述透射属性应用于所述摄影图像的数据以生成所述摄影图像的深度图;
在利用计算机实现的第三个处理中,将所述深度图应用于所述摄影图像以生成三维输出图像数据集合;以及
将所述输出图像数据集合存储在数字存储介质中。
65、一种存储了可执行程序的非瞬时计算机可读存储介质,该可执行程序用于处理具有包括至少蓝色通道在内的多个颜色通道的二维数字输入图像数据以生成三维输出图像数据,其中,所述程序指示微处理器执行以下步骤:
在计算机实现的第一个处理中,接收所述二维数字输入图像数据;
在计算机实现的第二个处理中,基于估计透射向量来生成输入图像的深度图,大致等于所述数字输入图像数据的逆蓝色通道;
在计算机实现的第三个处理中,使用所述深度图基于所述二维数字输入图像数据来生成三维数字输出图像数据;以及
经由输出设备输出所述三维数字输出图像数据。
66、根据权利要求65所述的方法,其中,生成深度图包括:基于以下公式来确定所述输入图像中的像素的深度值
d(x,y)=-β*ln(t(x,y))
其中,d(x,y)是坐标(x,y)处的像素的深度值,β是散射因子,t(x,y)是透射向量。
67、一种图像处理系统,所述图像处理系统包括:
颜色输入模块,所述颜色输入模块接收具有包括至少蓝色通道在内的多个颜色通道的二维数字输入图像数据;
大气光计算模块,所述大气光计算模块从所述颜色输入模块接收所述数字输入图像数据并且计算大气光信息;
透射估计模块,所述透射估计模块从所述颜色输入模块接收所述数字输入图像数据,从所述大气光计算模块接收大气光信息,并且基于单个颜色通道来估计所述数字输入图像数据的透射特性;
深度计算模块,所述深度计算模块接收所述数字输入图像数据和所述透射特性并且使用所述数字输入图像数据和所述透射特性来计算深度图;
三维图像生成模块,所述三维图像生成模块接收所述数字输入图像数据和所述深度图并且使用所述数字输入图像数据和所述深度图来生成三维输出图像数据;以及
输出模块,所述输出模块接收所述三维输出图像数据并且将所述三维输出图像数据输出至数字存储设备和显示器中的至少一种。
Claims (19)
1.一种根据数字输入图像数据来生成数字输出图像数据的图像处理方法,所述数字输入图像数据代表了透过至少一种介质、尤其是两种介质而成像的物理对象,所述图像处理方法包括以下步骤:
确定所述至少一种介质的估计透射向量,其中,所述估计透射向量基于所述数字图像输入数据的至少一个连续频谱带,尤其是所述数字图像输入数据的两个连续频谱带,优选地其中,所述至少一个连续频谱带是基于所述至少一个介质而选择的和/或是加权的;以及
部分地基于所述估计透射向量来计算所述数字输出图像数据,尤其是其中,所述数字输出图像数据是三维图像或者解滤波光散射摄影图像。
2.根据权利要求1所述的图像处理方法,其中,所述至少一种介质至少介于所述物理对象和成像传感器之间,其中,所述成像传感器产生得到所述数字输入图像数据的输出。
3.根据权利要求1或2所述的图像处理方法,
其中,所述估计透射向量基于所述数字图像输入数据的第一连续频谱带和第二连续频谱带,
其中,所述数字图像输入数据的所述第一连续频谱带决定了所述估计透射向量的散射信息,并且
其中,确定所述估计透射向量还包括基于所述数字输入图像数据的所述第二连续频谱带来确定所述估计透射向量的衰减信息。
4.根据上述任一项权利要求所述的图像处理方法,其中,
确定所述估计透射向量的步骤还包括:至少基于所述至少一种介质或者所述物理对象的已知频谱特性来补偿所述估计透射向量的至少一个分量,并且/或者
所述估计透射向量基于所述数字图像输入数据的第一连续频谱带和第二连续频谱带,其中,确定所述估计透射向量的步骤还包括:基于所述数字输入数据的所述第二连续频谱带来补偿所述估计透射向量的至少一个分量。
5.根据上述任一项权利要求所述的图像处理方法,其中,所述至少一个连续频谱带是可见频谱带、紫外频谱带、红外频谱带和X射线频谱带中的至少一个;
所述至少一个连续频谱带对应于所述数字输入图像数据中的蓝色数据、红色数据、黄色数据和绿色数据中的至少一个;或者
所述至少一个连续频谱带是根据指定的颜色编码而限定的。
6.根据上述任一项权利要求所述的图像处理方法,其中,基于所述至少一种介质的散射属性,尤其是由于米氏散射、拉曼散射、瑞利散射和康普顿散射中的至少一种而导致的散射属性,从所述至少一个连续频谱带中的所述数字输入图像数据得到所述透射向量的分量。
7.根据上述任意一项权利要求所述的图像处理方法,所述图像处理方法还包括以下步骤:
确定所述数字输入图像数据中的散射环境光的值或者向量,尤其是基于从创建所述数字输入图像数据的摄像机到所述数字输入图像数据内的预定位置处表示的对象的已知距离,
其中,计算所述数字输出图像的步骤还基于所述数字输入图像数据中的散射环境光的值或者向量。
8.根据权利要求7所述的图像处理方法,
其中,所述数字输入图像数据包括多个颜色通道,各颜色通道具有与所述图像内的各位置相关联的强度值,并且
通过找到所有颜色通道的最小值中的最大值来确定所述散射环境光的值,或者
通过使用针对散射环境光的各向量分量的来自所述数字输入图像数据的各颜色通道的关注图像区域的最大强度值,并且将散射环境光的各向量分量除以所述关注图像区域内的所有所述数字输入图像数据的均方根值,来确定所述数字输入图像中的所述散射环境光的所述向量,尤其是其中,所述关注区域包括所述数字输入图像数据的子区间或者所有所述数字输入图像数据。
9.根据上述任一项权利要求所述的图像处理方法,其中,计算所述数字输出图像数据的步骤包括解以下方程:
I(x,y)=J(x,y)*t(x,y)+A*(1-t(x,y))
以确定位于坐标(x,y)处的像素的值J(x,y),其中I(x,y)是从所述数字输入图像数据得到的输入图像的频谱带向量,J(x,y)是代表来自所述输入图像中的对象的光的频谱带向量,t(x,y)是所述估计透射向量,A是表示所述数字输入图像数据中的散射环境光的常数,尤其是通过基于所述数字输入图像数据来确定A的值,优选地包括对所述数字输入图像数据中的像素进行二次采样。
10.根据上述任一项权利要求所述的图像处理方法,
其中所述数字输入图像数据是自然照明的结果或者定制照明的结果,尤其是非热发光体的结果,优选地基于所述非热发光体的频谱特性来确定所述至少一个连续频谱带以减少散射;和/或
其中,基于预定准则,优选地基于所述至少一种介质和所述物理对象中的至少一个的频谱特性,来确定所述至少一个连续频谱带。
11.根据上述任一项权利要求所述的图像处理方法,其中,计算所述数字输出数据的步骤包括确定至少一个深度值,尤其是与所述数字输入图像数据的深度图相对应的深度值,优选地其中,所述深度图用于生成三维图像。
12.根据权利要求11所述的图像处理方法,其中,确定所述深度值包括:
d(x,y)=-β*ln(t(x,y))
其中,d(x,y)是坐标(x,y)处的像素的深度值,β是散射因子,t(x,y)是透射向量,ln()是对数函数。
13.根据权利要求11或12所述的图像处理方法,其中,基于预定准则来选择所述至少一个连续频谱带,所述预定准则基于到所述物理对象的距离、所述非热发光体的频谱特性以减少散射和/或所述预定准则优化了距离分辨率。
14.根据上述任一项权利要求所述的图像处理方法,
其中,所述数字输入图像是代表了透过所述至少一种介质而成像的视场中的物理对象的数据,
其中,所述估计透射向量基于所述数字图像输入数据的第一连续频谱带和第二连续频谱带,以及
其中,所述估计透射向量的至少一个分量大致等于所述数字输入图像数据的至少一个归一化频谱通道值,尤其是可见频谱带、紫外频谱带、红外频谱带和X射线频谱带中的至少一个,并且各频谱通道值包括所述第一连续频谱带中的衰减和所述第二连续频谱带中的散射中的至少一个的贡献。
15.根据权利要求14所述的图像处理方法,其中,选择所述至少一个频谱通道以使所述视场中的所述估计透射向量的值的范围最大化。
16.根据上述任一项权利要求所述的图像处理方法,其中,所述估计透射向量的分量随着不同频谱带的频谱特性而改变。
17.一种图像处理系统,所述图像处理系统包括:
输入模块,其接收透过至少一种介质而成像的物理对象的数字输入图像数据,尤其是其中,所述数字输入图像数据包含所成像的物理对象的颜色信息;
大气光计算模块,其从所述输入模块接收所述数字输入图像数据并且计算大气光信息;
透射向量估计模块,其从所述输入模块接收所述数字输入图像数据,并且基于所述数字输入图像数据的至少一个频谱带和所述大气光信息来估计所述至少一种介质的透射向量;以及
增强图像模块,其接收数字输入图像数据和所述透射向量并且生成输出图像数据,优选地三维图像或者解滤波光散射摄影图像;
具体地具有用于透过所述至少一种介质对所述物理对象照明的照明源;以及
传感器,其用于透过所述至少一种介质而接收代表所述物理对象的能量并且将所述能量转换为数字输入图像数据。
18.根据权利要求17所述的图像处理系统,所述图像处理系统还包括:
输出模块,其接收所述输出图像数据并且将所述输出图像数据输出至数字存储设备和显示器中的至少一种;和/或
深度计算模块,其接收数字输入图像数据和所述透射向量并且生成深度图;尤其是具有三维图像生成模块,所述三维图像生成模块接收所述数字输入图像数据和所述深度图并且利用所述数字输入图像数据和所述深度图来生成三维输出图像数据。
19.一种存储在机器可读介质上的计算机程序产品,或者通过电磁波实现的计算机数据信号,其包括用于执行权利要求1到16中任一项所述的图像处理方法的程序代码,具体地,如果该程序在计算机中被执行的话。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/030,534 | 2011-02-18 | ||
US13/030,534 US20120212477A1 (en) | 2011-02-18 | 2011-02-18 | Fast Haze Removal and Three Dimensional Depth Calculation |
US13/154,200 US20120213436A1 (en) | 2011-02-18 | 2011-06-06 | Fast Image Enhancement and Three-Dimensional Depth Calculation |
US13/154,200 | 2011-06-06 | ||
PCT/US2012/025604 WO2012112866A1 (en) | 2011-02-18 | 2012-02-17 | Fast image enhancement and three-dimensional depth calculation |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103384895A true CN103384895A (zh) | 2013-11-06 |
Family
ID=45757805
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2012800086228A Pending CN103384895A (zh) | 2011-02-18 | 2012-02-17 | 快速图像增强和三维深度计算 |
Country Status (8)
Country | Link |
---|---|
US (1) | US20120213436A1 (zh) |
EP (1) | EP2676239A1 (zh) |
CN (1) | CN103384895A (zh) |
AU (1) | AU2012219327A1 (zh) |
BR (1) | BR112013020478A2 (zh) |
CA (1) | CA2829298A1 (zh) |
IL (1) | IL227620A0 (zh) |
WO (1) | WO2012112866A1 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104298240A (zh) * | 2014-10-22 | 2015-01-21 | 湖南格兰博智能科技有限责任公司 | 导游机器人及其控制方法 |
CN107209499A (zh) * | 2015-01-30 | 2017-09-26 | 惠普发展公司有限责任合伙企业 | 生成子物体的控制数据 |
CN107710009A (zh) * | 2015-02-27 | 2018-02-16 | 威尔乌集团 | 虚拟和增强现实环境中的控制器可视化 |
JP2020134273A (ja) * | 2019-02-18 | 2020-08-31 | キヤノン株式会社 | 画像処理装置、画像処理方法およびコンピュータプログラム |
CN112364728A (zh) * | 2020-10-28 | 2021-02-12 | 中标慧安信息技术股份有限公司 | 一种垃圾遗留监管系统 |
US11045725B1 (en) | 2014-11-10 | 2021-06-29 | Valve Corporation | Controller visualization in virtual and augmented reality environments |
Families Citing this family (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9197789B2 (en) * | 2011-08-03 | 2015-11-24 | Indian Institute Of Technology, Kharagpur | Method and system for removal of fog, mist, or haze from images and videos |
KR101582478B1 (ko) * | 2012-05-03 | 2016-01-19 | 에스케이 텔레콤주식회사 | 정지영상에 포함된 헤이즈 제거를 위한 영상 처리 장치 및 그 방법 |
KR101582479B1 (ko) * | 2012-05-15 | 2016-01-19 | 에스케이 텔레콤주식회사 | 동영상에 포함된 헤이즈 제거를 위한 영상 처리 장치 및 그 방법 |
US9536345B2 (en) * | 2012-12-26 | 2017-01-03 | Intel Corporation | Apparatus for enhancement of 3-D images using depth mapping and light source synthesis |
US9383478B2 (en) | 2013-01-25 | 2016-07-05 | The United States Of America, As Represented By The Secretary Of The Navy | System and method for atmospheric parameter enhancement |
US9449219B2 (en) * | 2013-02-26 | 2016-09-20 | Elwha Llc | System and method for activity monitoring |
KR101445577B1 (ko) * | 2013-03-11 | 2014-11-04 | 주식회사 브이아이티시스템 | 안개제거 추정 모델을 이용한 안개 낀 휘도영상 개선 시스템 |
US9503696B2 (en) * | 2013-11-15 | 2016-11-22 | The Boeing Company | Visual detection of volcanic plumes |
JP6282095B2 (ja) * | 2013-11-27 | 2018-02-21 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム。 |
WO2015085483A1 (en) | 2013-12-10 | 2015-06-18 | SZ DJI Technology Co., Ltd. | Sensor fusion |
US10785905B2 (en) | 2014-05-08 | 2020-09-29 | Precision Planting Llc | Liquid application apparatus comprising a seed firmer |
JP6228670B2 (ja) * | 2014-06-12 | 2017-11-08 | Eizo株式会社 | 霧除去装置および画像生成方法 |
JP6181300B2 (ja) | 2014-09-05 | 2017-08-16 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 無人航空機の速度を制御するシステム |
CN105492985B (zh) | 2014-09-05 | 2019-06-04 | 深圳市大疆创新科技有限公司 | 一种用于在环境内控制可移动物体的系统及方法 |
CN105517666B (zh) | 2014-09-05 | 2019-08-27 | 深圳市大疆创新科技有限公司 | 基于情景的飞行模式选择 |
US9710715B2 (en) * | 2014-12-26 | 2017-07-18 | Ricoh Company, Ltd. | Image processing system, image processing device, and image processing method |
JP6635799B2 (ja) * | 2016-01-20 | 2020-01-29 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
US10259164B2 (en) * | 2016-06-22 | 2019-04-16 | Massachusetts Institute Of Technology | Methods and apparatus for 3D printing of point cloud data |
EP3484342B1 (en) * | 2016-07-14 | 2023-03-15 | Intuitive Surgical Operations, Inc. | Compact binocular image capture device |
US10192147B2 (en) * | 2016-08-30 | 2019-01-29 | Microsoft Technology Licensing, Llc | Foreign substance detection in a depth sensing system |
US10269098B2 (en) * | 2016-11-01 | 2019-04-23 | Chun Ming Tsang | Systems and methods for removing haze in digital photos |
WO2018118716A1 (en) * | 2016-12-19 | 2018-06-28 | The Climate Corporation | Systems, methods and apparatus for soil and seed monitoring |
US10594931B2 (en) | 2017-12-12 | 2020-03-17 | Verily Life Sciences Llc | Reducing smoke occlusion in images from surgical systems |
US20190204718A1 (en) * | 2017-12-29 | 2019-07-04 | Hollywood South Digital Post, Inc. | One or more camera mounts for a radar gun assembly |
CN108629819B (zh) * | 2018-05-15 | 2019-09-13 | 北京字节跳动网络技术有限公司 | 图像染发处理方法和装置 |
CN110072107B (zh) * | 2019-04-25 | 2022-08-12 | 南京理工大学 | 一种基于运动估计共享的雾霾视频压缩方法 |
WO2020234886A1 (en) * | 2019-05-21 | 2020-11-26 | Carmel Haifa University Economic Corporation Ltd. | Physics-based recovery of lost colors in underwater and atmospheric images under wavelength dependent absorption and scattering |
CN113763254B (zh) * | 2020-06-05 | 2024-02-02 | 中移(成都)信息通信科技有限公司 | 一种图像处理方法、装置、设备及计算机存储介质 |
CN116664413B (zh) * | 2023-03-27 | 2024-02-02 | 北京拙河科技有限公司 | 一种基于阿贝尔收敛算子的图像体积雾消除方法及装置 |
CN116380140B (zh) * | 2023-06-07 | 2023-11-03 | 山东省科学院激光研究所 | 基于均值滤波技术的分布式声波传感系统及其测量方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101901473A (zh) * | 2009-05-31 | 2010-12-01 | 汉王科技股份有限公司 | 单帧图像自适应去雾增强方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6792162B1 (en) * | 1999-08-20 | 2004-09-14 | Eastman Kodak Company | Method and apparatus to automatically enhance the quality of digital images by measuring grain trace magnitudes |
US7710418B2 (en) * | 2005-02-04 | 2010-05-04 | Linden Acquisition Corporation | Systems and methods for the real-time and realistic simulation of natural atmospheric lighting phenomenon |
US8350933B2 (en) * | 2009-04-08 | 2013-01-08 | Yissum Research Development Company Of The Hebrew University Of Jerusalem, Ltd. | Method, apparatus and computer program product for single image de-hazing |
-
2011
- 2011-06-06 US US13/154,200 patent/US20120213436A1/en not_active Abandoned
-
2012
- 2012-02-17 BR BR112013020478A patent/BR112013020478A2/pt not_active Application Discontinuation
- 2012-02-17 EP EP12705962.4A patent/EP2676239A1/en not_active Withdrawn
- 2012-02-17 CA CA2829298A patent/CA2829298A1/en not_active Abandoned
- 2012-02-17 WO PCT/US2012/025604 patent/WO2012112866A1/en active Application Filing
- 2012-02-17 CN CN2012800086228A patent/CN103384895A/zh active Pending
- 2012-02-17 AU AU2012219327A patent/AU2012219327A1/en not_active Abandoned
-
2013
- 2013-07-24 IL IL227620A patent/IL227620A0/en unknown
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101901473A (zh) * | 2009-05-31 | 2010-12-01 | 汉王科技股份有限公司 | 单帧图像自适应去雾增强方法 |
Non-Patent Citations (2)
Title |
---|
KAIMING HE等: "Single Image Haze Removal Using Dark Channel Prior", 《COMPUTER VISION AND PATTERN RECOGNITION,2009》 * |
LIU CHAO等: "Removal of Water Scattering", 《2010 2ND INTERNATIONAL CONFERENCE ON COMPUTER ENGINEERING AND TECHNOLOGY》 * |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104298240A (zh) * | 2014-10-22 | 2015-01-21 | 湖南格兰博智能科技有限责任公司 | 导游机器人及其控制方法 |
US11045725B1 (en) | 2014-11-10 | 2021-06-29 | Valve Corporation | Controller visualization in virtual and augmented reality environments |
CN107209499A (zh) * | 2015-01-30 | 2017-09-26 | 惠普发展公司有限责任合伙企业 | 生成子物体的控制数据 |
CN107710009A (zh) * | 2015-02-27 | 2018-02-16 | 威尔乌集团 | 虚拟和增强现实环境中的控制器可视化 |
CN107710009B (zh) * | 2015-02-27 | 2021-06-29 | 威尔乌集团 | 虚拟和增强现实环境中的控制器可视化 |
JP2020134273A (ja) * | 2019-02-18 | 2020-08-31 | キヤノン株式会社 | 画像処理装置、画像処理方法およびコンピュータプログラム |
JP7227785B2 (ja) | 2019-02-18 | 2023-02-22 | キヤノン株式会社 | 画像処理装置、画像処理方法およびコンピュータプログラム |
CN112364728A (zh) * | 2020-10-28 | 2021-02-12 | 中标慧安信息技术股份有限公司 | 一种垃圾遗留监管系统 |
CN112364728B (zh) * | 2020-10-28 | 2021-06-22 | 中标慧安信息技术股份有限公司 | 一种垃圾遗留监管系统 |
Also Published As
Publication number | Publication date |
---|---|
BR112013020478A2 (pt) | 2016-10-25 |
WO2012112866A1 (en) | 2012-08-23 |
EP2676239A1 (en) | 2013-12-25 |
AU2012219327A1 (en) | 2013-08-15 |
IL227620A0 (en) | 2013-09-30 |
CA2829298A1 (en) | 2012-08-23 |
US20120213436A1 (en) | 2012-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103384895A (zh) | 快速图像增强和三维深度计算 | |
US9064315B2 (en) | System and processor implemented method for improved image quality and enhancement | |
US8948539B2 (en) | System and method for image improvement and enhancement | |
US10929966B2 (en) | System and method for imaging underwater environments using fluid lensing | |
US8594455B2 (en) | System and method for image enhancement and improvement | |
US9727959B2 (en) | System and processor implemented method for improved image quality and generating an image of a target illuminated by quantum particles | |
US20180293740A1 (en) | Data fusion processing to identify obscured objects | |
US9131128B2 (en) | System and processor implemented method for improved image quality and generating an image of a target illuminated by quantum particles | |
US8149268B1 (en) | System and method for determining three-dimensional information from two-dimensional images | |
KR102146287B1 (ko) | 임의의 풍경 사진 영상을 이용한 대기 중 미세 먼지의 소산 및 크기 정보 추출 시스템 | |
Kocak et al. | The current art of underwater imaging–with a glimpse of the past and vision of the future | |
US9218690B2 (en) | Method for simulating hyperspectral imagery | |
CN106537454A (zh) | 用于图像的摄影测量处理的方法和系统 | |
Lu et al. | Computer vision for ocean observing | |
Filhol et al. | Time‐Lapse Photogrammetry of Distributed Snow Depth During Snowmelt | |
Gaudin et al. | Pyroclast tracking velocimetry: A particle tracking velocimetry‐based tool for the study of Strombolian explosive eruptions | |
Colefax et al. | Identifying optimal wavelengths to maximise the detection rates of marine fauna from aerial surveys | |
Singh et al. | Visibility enhancement and dehazing: Research contribution challenges and direction | |
Grossmann et al. | Digital twinning in the ocean-chanllenges in multimodal sensing and multiscale fusion based on faithful visual models | |
Toet et al. | INVIS: integrated night vision surveillance and observation system | |
Kolb et al. | Digital imaging and remote sensing image generator (DIRSIG) as applied to NVESD sensor performance modeling | |
White et al. | Measuring sky view factor of urban canyons using hacked Gopro hemispheric video processing | |
Agagliate et al. | Polarimetric imaging of the ocean surface for satellite-based ocean color applications | |
Wong | Lumenhancement: Exploiting appearance for planetary modeling | |
Edwards | Signal processing opens new views on imaging [special reports] |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20131106 |