CN104813652A - 热图像中的像素的降噪 - Google Patents
热图像中的像素的降噪 Download PDFInfo
- Publication number
- CN104813652A CN104813652A CN201380059706.9A CN201380059706A CN104813652A CN 104813652 A CN104813652 A CN 104813652A CN 201380059706 A CN201380059706 A CN 201380059706A CN 104813652 A CN104813652 A CN 104813652A
- Authority
- CN
- China
- Prior art keywords
- pixel
- row
- noise
- counter
- picture frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000009467 reduction Effects 0.000 title description 11
- 238000000034 method Methods 0.000 claims abstract description 195
- 238000012937 correction Methods 0.000 claims abstract description 134
- 230000008569 process Effects 0.000 claims description 108
- 238000012545 processing Methods 0.000 claims description 74
- 238000003384 imaging method Methods 0.000 claims description 28
- 230000002829 reductive effect Effects 0.000 claims description 23
- 238000013016 damping Methods 0.000 claims description 4
- 238000003331 infrared imaging Methods 0.000 abstract description 82
- 238000001914 filtration Methods 0.000 description 94
- 238000005516 engineering process Methods 0.000 description 65
- 230000033001 locomotion Effects 0.000 description 45
- 238000010586 diagram Methods 0.000 description 39
- 230000008901 benefit Effects 0.000 description 34
- 230000008859 change Effects 0.000 description 27
- 238000003860 storage Methods 0.000 description 11
- 230000036961 partial effect Effects 0.000 description 10
- 238000001514 detection method Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 9
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 9
- 230000004044 response Effects 0.000 description 8
- 239000000758 substrate Substances 0.000 description 8
- 238000005538 encapsulation Methods 0.000 description 7
- 238000010438 heat treatment Methods 0.000 description 7
- 239000000463 material Substances 0.000 description 7
- 238000011282 treatment Methods 0.000 description 7
- 238000003705 background correction Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000009825 accumulation Methods 0.000 description 5
- 238000013459 approach Methods 0.000 description 5
- 238000013517 stratification Methods 0.000 description 5
- 238000003491 array Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 238000001931 thermography Methods 0.000 description 4
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 3
- 229910052782 aluminium Inorganic materials 0.000 description 3
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 239000011248 coating agent Substances 0.000 description 3
- 238000000576 coating method Methods 0.000 description 3
- 229910052802 copper Inorganic materials 0.000 description 3
- 239000010949 copper Substances 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 230000000977 initiatory effect Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 230000005855 radiation Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- PXHVJJICTQNCMI-UHFFFAOYSA-N Nickel Chemical compound [Ni] PXHVJJICTQNCMI-UHFFFAOYSA-N 0.000 description 2
- HCHKCACWOHOZIP-UHFFFAOYSA-N Zinc Chemical compound [Zn] HCHKCACWOHOZIP-UHFFFAOYSA-N 0.000 description 2
- 239000004411 aluminium Substances 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 239000004020 conductor Substances 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000007812 deficiency Effects 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 229920000642 polymer Polymers 0.000 description 2
- 238000011112 process operation Methods 0.000 description 2
- 201000007094 prostatitis Diseases 0.000 description 2
- 238000009416 shuttering Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 229910001935 vanadium oxide Inorganic materials 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 229910052725 zinc Inorganic materials 0.000 description 2
- 239000011701 zinc Substances 0.000 description 2
- PFNQVRZLDWYSCW-UHFFFAOYSA-N (fluoren-9-ylideneamino) n-naphthalen-1-ylcarbamate Chemical compound C12=CC=CC=C2C2=CC=CC=C2C1=NOC(=O)NC1=CC=CC2=CC=CC=C12 PFNQVRZLDWYSCW-UHFFFAOYSA-N 0.000 description 1
- FYYHWMGAXLPEAU-UHFFFAOYSA-N Magnesium Chemical compound [Mg] FYYHWMGAXLPEAU-UHFFFAOYSA-N 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- XHCLAFWTIXFWPH-UHFFFAOYSA-N [O-2].[O-2].[O-2].[O-2].[O-2].[V+5].[V+5] Chemical compound [O-2].[O-2].[O-2].[O-2].[O-2].[V+5].[V+5] XHCLAFWTIXFWPH-UHFFFAOYSA-N 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000005266 casting Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000000919 ceramic Substances 0.000 description 1
- 229910010293 ceramic material Inorganic materials 0.000 description 1
- 239000005387 chalcogenide glass Substances 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000000151 deposition Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 229920002457 flexible plastic Polymers 0.000 description 1
- 229910052732 germanium Inorganic materials 0.000 description 1
- GNPVGFCGXDBREM-UHFFFAOYSA-N germanium atom Chemical compound [Ge] GNPVGFCGXDBREM-UHFFFAOYSA-N 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 230000017525 heat dissipation Effects 0.000 description 1
- 238000002329 infrared spectrum Methods 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000011031 large-scale manufacturing process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011777 magnesium Substances 0.000 description 1
- 229910052749 magnesium Inorganic materials 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 229910052759 nickel Inorganic materials 0.000 description 1
- 238000007747 plating Methods 0.000 description 1
- 238000005498 polishing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 229910052704 radon Inorganic materials 0.000 description 1
- SYUHGPGVQRZVTB-UHFFFAOYSA-N radon atom Chemical compound [Rn] SYUHGPGVQRZVTB-UHFFFAOYSA-N 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
- H04N25/677—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction for reducing the column or line fixed pattern noise
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J5/80—Calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/20—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
- H04N23/23—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only from thermal infrared radiation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
- H04N25/673—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction by using reference sources
- H04N25/674—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction by using reference sources based on the scene itself, e.g. defocusing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Toxicology (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
- Photometry And Measurement Of Optical Pulse Characteristics (AREA)
Abstract
提供了减少热图像中噪声的方法和系统。在一个实例中,方法包括接收包括布置成多个行和列的多个像素的图像帧。该像素包括与场景有关的热图像数据和由红外成像装置引入的噪声。该图像帧可被处理成确定多个列校正项,每个列校正项都与对应的一个列有关并基于对应列的像素和邻近列的像素之间的相对关系来确定。在另一个实例中,该图像帧可被处理成确定多个非均匀校正项,每个非均匀校正项都与对应的一个像素有关并基于对应的一个像素和在选择距离范围内的相关邻近像素之间的对应关系来确定。
Description
相关申请的交叉参考
本申请主张了2012年12月21日提出的且名称为“ROW ANDCOLUMN NOISE REDUCTION IN THERMAL IMAGES”的U.S.临时专利申请No.61/745,489的权益,藉此通过援引将其整体并入本文。
本申请主张了2012年12月21日提出的且名称为“PIXEL-WISENOISE REDUCTION IN THERMAL IMAGES”的U.S.临时专利申请No.61/745,504的权益,藉此通过援引将其整体并入本文。
本申请是2012年9月18日提出的且名称为“SYSTEMS ANDMETHODS FOR PROCESSING INFRARED IMAGES”的U.S.专利申请No.13/622,178的部分继续申请案,藉此通过援引将其整体并入本文。
技术领域
本发明的一个或多个实施例通常涉及热成像装置,且尤其涉及例如热图像中的降噪技术。
背景技术
红外成像装置(例如,热成像器)通常会受到各种类型的噪声,诸如高空间频率固定图形噪声(FPN)的影响。一些FPN可以与红外传感器的行和/或列相关。例如,呈现为列噪声的FPN噪声可由列放大器的变化引起并包括1/f部分。这种列噪声能抑制区分场景所需的垂直特征和垂直FPN的能力。其它FPN可以是空间不相关的,诸如由也可以包括1/f部分的像素到像素的信号漂移引起的噪声。
去除FPN的一个常规方法依赖于内部或外部快门,其可选择性布置在红外成像装置的红外传感器的前面以提供基本均匀的场景。当快门位于红外传感器的前面时,红外传感器可基于捕获基本均匀场景的图像来校准。不幸地是,这种快门易出现机械故障和潜在的非均匀性(例如,由于温度或其它参数变化),这使得难以实现。而且,在期望具有小形状因素的红外成像装置的应用中,快门会增加这种装置的尺寸和成本。
发明内容
在一个实施例中,一种方法包括接收包括布置成多个行和列的多个像素的图像帧,其中该像素包括与场景有关的热图像数据和由红外成像装置引入的噪声;和处理图像帧来确定多个列校正项以减少至少部分噪声,其中每个列校正项与对应的一个列有关,并每个列校正项基于对应列的像素和邻近列的像素之间的相对关系来确定。
在另一个实施例中,一种系统包括存储部件,其适合接收包括布置成多个行和列的多个像素的图像帧,其中该像素包括与场景有关的热图像数据和由红外成像装置引入的噪声;和处理器,其适合执行处理图像帧的指令以确定多个列校正项来减少至少部分噪声,其中每个列校正项与对应的一个列有关,并每个列校正项基于对应列的像素和邻近列的像素之间的相对关系来确定。
在另一个实施例中,一种方法包括接收包括布置成多个行和列的多个像素的图像帧,其中该像素包括与场景有关的热图像数据和由红外成像装置引入的噪声;和处理图像帧以确定多个非均匀校正(NUC)项以减少至少部分噪声,其中每个NUC项与对应的一个像素有关,并每个NUC项基于对应的一个像素和在距对应的一个像素的选择距离内的相关的邻近像素之间的相对关系来确定。
在另一个实施例中,一种系统包括存储部件,其适合于接收包括布置成多个行和列的多个像素的图像帧,其中该像素包括与场景有关的热图像数据和由红外成像装置引入的噪声;和处理器,其适合于执行处理图像帧的指令以确定多个非均匀校正(NUC)项以减少至少部分噪声,其中每个NUC项与对应的一个像素有关,并每个NUC项基于对应的一个像素和在距对应的一个像素的选择距离内的相关的邻近像素之间的相对关系来确定。
本发明的范围通过权利要求书来限定,该权利要求书通过引用并入该部分。通过考虑一个或多个实施例的下面的详细描述,将使本领域的技术人员更全面的理解本发明的实施例,以及认识其附加优势。参考首先将简略描述的附图。
附图说明
图1示例了根据该公开实施例的被配置成在主机装置中实现的红外成像模块。
图2示例了根据该公开实施例的装配好的红外成像模块。
图3示例了根据该公开实施例的并置在插口上的红外成像模块的分解图。
图4示例了根据该公开实施例的包括红外传感器阵列的红外传感器组件的框图。
图5示例了根据该公开实施例的确定非均匀校正(NUC)项的各种操作的流程图。
图6示例了根据该公开实施例的邻近像素之间的差异。
图7示例了根据该公开实施例的平场校正技术。
图8示例了根据该公开实施例的图5的各种图像处理技术和图像处理流水线中应用的其它操作。
图9示例了根据该公开实施例的时域降噪过程。
图10示例了根据该公开实施例的图8的图像处理流水线的几个过程的具体实施细节。
图11示例了根据该公开实施例的像素的邻近区域中的空间相关的固定图形噪声(FPN)。
图12示例了根据该公开实施例的包括红外传感器阵列和低压差稳压器的红外传感器组件的另一实现的框图。
图13示例了根据该公开实施例的图12的红外传感器组件的一部分的电路图。
图14示出了根据该公开实施例的用于红外图像处理的系统的框图。
图15A-C是示例根据该公开实施例的噪声滤波红外图像的方法的流程图。
图16A-C是示例根据该公开实施例的红外图像数据和红外图像的处理的图表。
图17示出了根据该公开实施例的详述处理技术的传感器数据行的一部分。
图18A-C示出了根据该公开实施例的用于红外图像的列和行噪声滤波的示范性实现。
图19A示出了根据该公开实施例的包括小的垂直结构的场景的红外图像。
图19B示出了根据该公开实施例的图19A的红外图像的校正版。
图20A示出了根据该公开实施例的包括大的垂直结构的场景的红外图像。
图20B示出了根据该公开实施例的图20A的红外图像的校正版。
图21是示例根据该公开实施例的噪声滤波红外图像的另一个方法的流程图。
图22A示出了根据该公开实施例的准备用于图19A的红外图像的直方图。
图22B示出了根据该公开实施例的准备用于图20A的红外图像的直方图。
图23A示例了根据该公开实施例的场景的红外图像。
图23B是示例根据该公开实施例的噪声滤波红外图像的又一个方法的流程图。
图23C-E示出了根据该公开实施例的准备用于图23A的红外图像的所选像素周围的邻近像素的直方图。
通过参考下面的具体实施方式,将更好地理解该发明的实施例和它们的优势。应该意识到,相同的附图标记用于确定在一个或多个图中示例的相同元件。
具体实施方式
图1示例了根据本公开实施例的被配置成在主机装置102中实现的红外成像模块100(例如,红外摄像机或红外成像装置)。用小形状因素和按照晶片级封装技术或其它封装技术,可以实现用于一个或多个实施例的红外成像模块100。
在一个实施例中,可以配置红外成像模块100以在小的便携式主机装置102(诸如手机、平板电脑装置、膝上型电脑装置、个人数字助理、可见光摄像机、音乐播放机或者其它任何适当的移动装置)中实现。在这一点上,红外成像模块100可用于将红外成像特征提供给主机装置102。例如,红外成像模块100可以配置成捕获、处理和/或以其它方式管理红外图像(例如,也被称为图像帧)并将这种红外图像提供给主机装置102以用于任何期望形式(例如,用于进一步处理,以存储在存储器中、显示、由运行于主机装置102的各种应用使用、输出到其它装置或者其它用途)。
在各种实施例中,红外成像模块100可以配置成在低电压电平和在宽温度范围内操作。例如,在一个实施例中,红外成像模块100可使用约2.4伏特、2.5伏特、2.8伏特或者更低电压的电源来操作,并在约-20℃至约+60℃的温度范围内操作(例如,在约80℃的环境温度范围内提供适当的动态范围和特性)。在一个实施例中,通过在低电压电平操作红外成像模块100,红外成像模块100可经受与其它类型的红外成像装置相比减少的自热量。结果,红外成像模块100可以用这种减少的程度来操作以补偿这种自热。
如图1所示,主机装置102可以包括插口104、快门105、运动传感器194、处理器195、存储器196、显示器197和/或其它部件198。插口104可以配置成接收红外成像模块100,如由箭头101所示。在这一点上,图2示例了根据该公开实施例的装配在插口104中的红外成像模块100。
运动传感器194可以通过可用于检测主机装置102的运动的一个或多个加速度表、陀螺仪或其它适当的装置来实现。运动传感器194可以通过向处理模块160或者处理器195提供信息被监测以检测运动。在各种实施例中,运动传感器194可被实现为主机装置102(如图1所示)、红外成像模块100、或附着到或以其它方式与主机装置102接口的其它装置的一部分。
处理器195可以被实现为可以由主机装置102使用的任何适当的处理装置(例如,逻辑装置、微控制器、处理器、专用集成电路(ASIC)或其它装置)以执行适当的指令,诸如提供在存储器196中的软件指令。显示器197可用于显示捕获的和/或处理的红外图像和/或其它图像、数据和信息。其它部件198可用于将主机装置102的任何特征实现为各种应用(例如,时钟、温度传感器、可见光摄像机或者其它部件)所期望的特征。另外,可以提供机器可读介质193用于存储用于加载到存储器196中的并由处理器195执行的非暂时性指令。
在各种实施例中,红外成像模块100和插口104可用大规模生产来实现以促进高容量应用,诸如手机或其它装置(例如,需要小形状因素)的实现。在一个实施例中,当将红外成像模块100安装在插口104中时,红外成像模块100和插口104的组合可展示出约8.5mm乘8.5mm乘5.9mm的总尺寸。
图3示例了根据该公开实施例的并置在插口104上的红外成像模块100的分解图。红外成像模块100可以包括透镜镜筒110、外壳120、红外传感器组件128、电路板170、基座150和处理模块160。
透镜镜筒110可至少部分地包围光学元件180(例如,透镜),该光学元件180经由透镜镜筒110中的孔112在图3中部分可视。透镜镜筒110可以包括基本上圆柱形的延伸部114,其可用于使透镜镜筒110与外壳120中的孔122接口。
红外传感器组件128可以用例如安装到基板140上的帽盖130(例如,盖子)来实现。红外传感器组件128可以包括以阵列或其它方法在基板140上实现的并被帽盖130覆盖的多个红外传感器132(例如,红外探测器)。例如,在一个实施例中,红外传感器组件128可实现为焦平面阵列(FPA)。这种焦平面阵列可被实现为例如真空封装组件(例如,被盖130和基板140密封)。在一个实施例中,红外传感器组件128可以实现为晶片级封装(例如,红外传感器组件128可由提供在晶片上的一组真空封装组件切单而成)。在一个实施例中,红外传感器组件128可以实现为使用约2.4伏特、2.5伏特、2.8伏特或者类似电压的电源操作。
可以配置红外传感器132以从目标场景检测红外辐射(例如,红外能量),该目标场景包括例如中波红外波段(MWIR)、长波红外波段(LWIR)和/或具体实现中所期望的其它热成像波段。在一个实施例中,红外传感器组件128可根据晶片级封装技术来提供。
红外传感器132可以实现为例如微测辐射热仪或以任何期望的阵列图案排列用以提供多个像素的其它类型的热成像红外传感器。在一个实施例中,红外传感器132可以实现为具有17μm像素间距的氧化钒(VOx)探测器。在各种实施例中,可以使用约32乘32红外传感器132阵列、约64乘64红外传感器132阵列、约80乘64红外传感器132阵列或其它阵列尺寸。
基板140可以包括例如在一个实施例中包括具有小于约5.5mm乘5.5mm尺寸的读出集成电路(ROIC)的各种电路。基板140还可以包括接合垫142,当如图3所示装配红外成像模块100时,接合垫142可用于接触位于外壳120内表面上的补充连接。在一个实施例中,ROIC可以用低压差调压器(LDO)实现以执行电压调节,从而减小引入到红外传感器组件128的电源噪声并因此提供改善的电源抑制比(PSRR)。另外,通过用ROIC实现LDO(例如,在晶片级封装范围内),可以消耗较少的管芯面积且需要更小的分立管芯(或芯片)。
图4示例了根据该公开实施例的包括红外传感器132阵列的红外传感器组件128的框图。在示例的实施例中,将红外传感器132提供为ROIC 402的单位单元阵列的一部分。ROIC 402包括偏压产生和定时控制电路404、列放大器405、列多路复用器406、行多路复用器408和输出放大器410。可以通过输出放大器410将由红外传感器132捕获的图像帧(例如,热图像)提供到处理模块160、处理器195和/或任何其它适当的部件以执行本文中描述的各种处理技术。虽然图4中示出了8乘8阵列,但是在其它实施例中可以使用任何期望的阵列配置。在2000年2月22日发布的U.S.专利No.6,028,309中可以找到ROIC和红外传感器(例如,微测辐射热仪电路)的进一步描述,藉此通过援引将其整体并入本文。
红外传感器组件128可以捕获图像(例如,图像帧)并由它的ROIC以各种速率提供这种图像。处理模块160可用于执行捕获的红外图像的适当的处理且可根据任何适当的体系结构来实现。在一个实施例中,处理模块160可实现为ASIC。在这一点上,可以配置这种ASIC以用高性能和/或高效率执行图像处理。在另一个实施例中,处理模块160可以用通用的中央处理单元(CPU)来实现,该中央处理单元(CPU)可以配置成实施执行图像处理的适当的软件指令、用各种图像处理块协调并执行图像处理、协调处理模块160和主机装置102之间的接口和/或其它操作。在又一实施例中,处理模块160可以用现场可编程门阵列(FPGA)来实现。正如本领域的技术人员应理解的,在其它实施例中处理模块160可以用其它类型的处理和/或逻辑电路来实现。
在这些和其它实施例中,处理模块160还可以用其它部件来实现,所述其他部件适合诸如易失存储器、非易失存储器和/或一个或多个接口(例如,红外探测器接口、内部集成电路(I2C)接口、移动产业处理器接口(MIPI)、联合检测活动小组(JTAG)接口(例如,IEEE 1149.1标准测试访问端口和边界扫描结构和/或其它接口)。
在一些实施例中,红外成像模块100可以进一步包括可用于调整由红外传感器组件128捕获的红外图像帧的焦点的一个或多个致动器199。例如,致动器199可用于相对彼此移动光学元件180、红外传感器132和/或其它部件,以根据本文中描述的技术选择性地聚焦或散焦红外图像帧。致动器199可以根据任何类型的运动感测设备或机构来实现,且可以位于适合不同应用的红外成像模块100的内部或外部的任何位置。
当装配红外成像模块100时,外壳120可以基本上密封红外传感器组件128、基座150和处理模块160。外壳120可以使红外成像模块100的各种部件的连接便利。例如,在一个实施例中,外壳120可以提供进一步描述的连接各个部件的电连接126。
当装配红外成像模块100时,电连接126(例如,导电路径、迹线或其它类型的连接)可以与接合垫142电连接。在各种实施例中,电连接126可嵌入在外壳120中,提供在外壳120的内表面上,和/或由外壳120以其它方式提供。电连接126可以以如图3所示的从外壳120的底表面伸出的连接124终止。当装配红外成像模块100时(例如,在各种实施例中外壳120可以依托在电路板170的顶上),连接124可以与电路板170连接。处理模块160可以经由适当的电连接与电路板170电连接。结果,红外传感器组件128可以经由例如由接合垫142、外壳120内表面上的补充连接、外壳120的电连接126、连接124和电路板170提供的导电路径与处理模块160电连接。有利地,这种布置可以在不需要在红外传感器组件128和处理模块160之间设置引线接合的情况下来实现。
在各种实施例中,外壳120中的电连接126可以由任何期望的材料制成(例如,铜或任何其它适当的导电材料)。在一个实施例中,电连接126可以有助于从红外成像模块100散热。
在其它实施例中,可以使用其它连接。例如,在一个实施例中,可以经由由引线接合连接到传感器组件128的陶瓷板将传感器组件128粘附到处理模块160,以及经由球栅阵列(BGA)连接到处理模块160。在另一个实施例中,可以将传感器组件128直接安装在刚性柔性板上并与引线接合电连接,并且可以用引线接合或BGA将处理模块160安装并连接到刚性柔性板。
出于示例而不是限制的目的,提供了本文中阐述的红外成像模块100和主机装置102的各种实现。在这一点上,可以将本文中描述的各种技术的任何技术应用于执行红外/热成像的任何红外摄像机系统、红外成像器或其它装置。
红外传感器组件128的基板140可以安装在基座150上。在各种实施例中,基座150(例如,底座)可以由例如由金属注射成型(MIM)形成的铜制成并提供有黑色氧化物或镍涂层抛光。在各种实施例中,基座150可以由指定应用所期望的任何期望的材料(例如锌、铝或镁)制成,并且可以用任何期望的可应用处理(例如具体应用所期望的铝铸造、MIM或锌的快速铸造)来形成。在各种实施例中,可以实现基座150以提供支撑结构、各种电路路径、热的散热特性和其它适当特性。在一个实施例中,基座150可以是至少部分使用陶瓷材料实现的多层结构。
在各种实施例中,电路板170可以承受外壳120并因此可以物理支撑红外成像模块100的各个部件。在各种实施例中,电路板170可以实现为印刷电路板(例如,FR4电路板或其它类型的电路板)、刚性或柔性互连(例如,带或其它类型的互连)、柔性电路基板、柔性塑料基板或其它适当的结构。在各种实施例中,基座150可以用描述电路板170的各种特征和特性来实现,反之亦然。
插口104可以包括配置成接收红外成像模块100的空腔106(例如,如图2的装配图所示)。红外成像模块100和/或插口104可以包括适当的突出部、臂、插脚、紧固件或任何其它适当的接合构件,其可用于使用磨擦、张力、粘附力和/或任何其它适当的方式使红外成像模块100固定到插口104或其内部。当将红外成像模块100插入到插口104的空腔106中时,插口104可以包括可啮合外壳120的表面109的啮合构件107。在其它实施例中可以使用其它类型的啮合构件。
红外成像模块100可以经由适当的电连接(例如,触点、插脚、引线或任何其它适当的连接)与插口104电连接。例如,插口104可以包括电连接108,其可接触红外成像模块100的对应的电连接(例如,电路板170的侧面或底表面上的互连垫、触点或其它电连接、基座150上的接合垫142或其它电连接、或其它连接)。电连接108可以由任何期望的材料(例如,铜或任何其它适当的导电材料)制成。在一个实施例中,当将红外成像模块100插入到插口104的空腔106中时,电连接108可以被机械地偏置成按压住红外成像模块100的电连接。在一个实施例中,电连接108可以至少部分地固定插口104中的红外成像模块100。在其它实施例中可以使用其它类型的电连接。
插口104可以经由类似类型的电连接与主机装置102电连接。例如,在一个实施例中,主机装置102可以包括与通过孔190的电连接108相连接的电连接(例如,焊接头、咬合连接或其它连接)。在各种实施例中,可以将这种电连接制造到插口104的侧面和/或底部。
在没有引线接合连接通常所需的额外间隙的情况下,可以用可用于将组件直接安装到电路板的倒装芯片技术来实现红外成像模块100的各种部件。作为实例,可以使用倒装芯片连接以减小红外成像模块100的总尺寸,以用于紧凑的小形状因素的应用。例如,在一个实施例中,可以使用倒装芯片连接将处理模块160安装到电路板170。例如,可以用这种倒装芯片配置实现红外成像模块100。
在各种实施例中,可以根据在2010年7月27日提交的U.S.专利申请No.12/844,124和在2011年3月30日提交的U.S.临时专利申请No.61/469,651中所述的各种技术(例如,晶片级封装技术)实现红外成像模块100和/或相关部件,藉此通过援引将它们整体并入本文。此外,根据一个或多个实施例,可以根据例如在2008年12月30日公布的U.S.专利No.7,470,902、在2000年2月22日公布的U.S.专利No.6,028,309、在2004年11月2日公布的U.S.专利No.6,812,465、在2006年4月25日公布的U.S.专利No.7,034,301、在2010年3月16日公布的U.S.专利No.7,697,048、在2008年12月30日公布的U.S.专利No.7,470,904、在2008年9月2日提交的U.S.专利申请No.12/202,880和在2008年9月2日提交的U.S.专利申请No.12/202,896中所述的各种技术,可以实现、校正、测试和/或使用红外成像模块100和/或相关部件,藉此通过援引将它们整体并入本文。
再次参考图1,在各种实施例中,主机装置102可以包括快门105。在这一点上,当将红外成像模块100安装在其中时,可以使快门105选择性地定位于插口104上(例如,如箭头103所示)。在这一点上,快门105在不使用时可以用于例如保护红外成像模块100。正如本领域的技术人员应该理解的,快门105还可以用作为红外成像模块100的部分校正过程(例如,NUC过程或其它校正过程)的温度基准。
在各种实施例中,快门105可以由各种材料(例如聚合物、玻璃、铝(例如,着色的或阳极化处理的))或其它材料制成。在各种实施例中,快门105可以包括一个或多个涂层以选择性滤波电磁辐射和/或调整快门105的各种光学特性(例如,均匀的黑体涂层或反射的金涂层)。
在另一个实施例中,可以将快门105固定在适当的位置以随时保护红外成像模块100。在这种情况下,快门105或快门105的一部分可以由基本上不滤波所期望红外波长的适当的材料(例如,聚合物或红外传输材料,诸如硅、锗、硒化锌或硫化物玻璃)制成。在另一个实施例中,正如本领域的技术人员应该理解的,快门可以实现为红外成像模块100的一部分(例如,在透镜镜筒内部或作为它的一部分或红外成像模块100的其它部件)。
备选地,在另一实施例中,不需要提供快门(例如,快门105或其它类型的外部的或内部的快门),而是可以使用无快门技术执行NUC过程或其它类型的校正。在另一实施例中,可以结合基于快门的技术,执行使用无快门技术的NUC处理或其它类型的校正。
可以根据在2011年6月10日提交的U.S.临时专利申请No.61/495,873、在2011年6月10日提交的U.S.临时专利申请No.61/495,879和在2011年6月10日提交的U.S.临时专利申请No.61/495,888中所述的各种技术中的任何技术,实现红外成像模块100和主机装置102,藉此通过援引将它们整体并入本文。
在各种实施例中,主机装置102和/或红外成像模块100的部件可以实现为具有通过有线和/无线网络相互通信的部件的本地或分布式系统。因此,可以通过具体实现中所期望的本地和/或远程部件执行在该公开中确定的各种操作。
图5示例了根据该公开实施例确定UNC项的各种操作的流程图。在一些实施例中,可以通过对红外传感器132捕获的图像帧操作的处理模块160或处理器195(两者通常还称为处理器)执行图5的操作。
在方框505中,红外传感器132开始捕获场景的图像帧。通常,场景将是其中主机装置102当前位于的真实世界环境。在这一点上,可以打开快门105(如果选择性提供)以允许红外成像模块从场景接收红外辐射。红外传感器132在图5示出的所有操作期间可以继续捕获图像帧。在这一点上,连续捕获的图像帧可以用于进一步详述的各种操作。在一个实施例中,在将捕获的图像帧用于图5示出的操作之前,通过其它项(例如,本文中进一步描述的关于图8的工厂增益项812、工厂补偿项816、先前确定的NUC项817、列FPN项820和行FPN项824),可以时域滤波(例如,根据本文中进一步描述的关于图8的方框826的过程)并处理捕获的图像帧。
在方框510中,检测NUC过程发起事件。在一个实施例中,可以响应于主机装置102的物理运动发起NUC过程。例如,可以通过可被处理器轮询的运动传感器194检测这种运动。在一个实例中,用户可以以特定方式移动主机装置102,诸如通过有意地以“清除”或“挥击”运动来回摇摆主机装置102。在这一点上,用户可以根据预定的速度和方向(速率)(诸如上下、左右或其它形式)移动主机装置102以发起NUC过程。在该实例中,使用这种运动可以允许用户直观地操作主机装置102以模拟图像帧捕获中的噪声“清除”。
在另一实例中,如果检测到运动超过了阈值(例如,运动大于正常使用的预期),则可以用主机装置102发起NUC过程。可以预期是,主机装置102的任何期望类型的空间平移都可用于发起NUC过程。
在又一实例中,如果自从先前执行的NUC过程之后已消逝了最小时间,则可以用主机装置102发起NUC过程。在进一步的实例中,如果自从先前执行的NUC过程之后红外成像模块100已经历了最小温度变化,则可以用主机装置102发起NUC过程。在进一步的实例中,可以连续地发起并重复NUC过程。
在方框515中,在检测到NUC过程发起事件之后,确定是否确实应执行NUC过程。在这一点上,基于是否满足一个或多个附加条件,可以选择性发起NUC过程。例如,在一个实施例中,除非自从先前执行的NUC过程之后已消逝最小时间,否则可以不执行NUC过程。在另一实施例中,除非自从先前执行的NUC过程之后红外成像模块100已经历最小温度变化,否则可以不执行NUC过程。在其它实施例中可以使用其它标准或条件。如果适当的标准或条件满足,则流程图继续到方框520。否则,流程图返回到方框505。
在NUC过程中,模糊的图像帧可用于确定可应用于捕获的图像帧以校正FPN的NUC项。如所述,在一个实施例中,通过累积多个移动场景的图像帧(例如,当场景和/或热成像器处于运动状态时捕获的)可以得到模糊的图像帧。在另一实施例中,通过使热成像器的光学元件或其它部件散焦可以得到模糊的图像帧。
因此,在方框520中,提供了一种可选择的方法。如果使用基于运动的方法,则流程图继续到方框525。如果使用基于散焦的方法,则流程图继续到方框530。
现在参考基于运动的方法,在方框525中检测运动。例如,在一个实施例中,可以基于由红外传感器132捕获的图像帧检测运动。在这一点上,可以将适当的运动检测过程(例如,图像配准过程、帧间差分计算或其它适当过程)应用于捕获的图像帧以确定是否存在运动(例如,是否已经捕获静止的图像帧或者移动的图像帧)。例如,在一个实施例中,可以确定连续图像帧的像素附近的像素或区域是否已经变化了多于用户定义的量(例如,百分比和/或阈值)。如果至少指定的像素百分比已改变了至少用户定义的量,将有足够的把握检测运动以进行到方框535。
在另一个实施例中,可以确定在每个像素基础上的运动,其中只累积表现显著变化的像素以提供模糊的图像帧。例如,可以为每个像素提供计数器,并且该计数器用于确保为每个像素累积相同数量的像素值,或用于基于为每个像素实际累积的像素值的数量来平均像素值。可以执行其它类型的基于图像运动的检测,诸如执行拉东变换。
在另一实施例中,可以基于由运动传感器194提供的数据检测运动。在一个实施例中,这种运动检测可以包括检测主机装置102是否经由空间沿相对直线轨迹移动。例如,如果主机装置102沿相对直线轨迹移动,则成像场景中出现的某一目标可能不会十分模糊(例如,场景中的物体可以与直线轨迹对齐或基本平行地移动)。因此,在这种实施例中,由运动传感器194检测的运动的条件是主机装置102展示或不展示特定轨迹。
在另一个实施例中,可以使用运动检测过程和运动传感器194两者。因此,使用这些不同实施例中的任何实施例,当至少部分场景和主机装置102相对于彼此运动时(例如,其可以由主机装置102相对于场景移动、至少部分场景相对于主机装置102移动,或者这两种情况),可以确定是否捕获了每个图像帧。
由于红外传感器132的热时间常数(例如,微测辐射热仪热时间常数)与场景运动互相影响,所以希望运动被检测的图像帧可以展示被捕获的场景的一些次要的模糊(例如,有关场景的模糊的热图像数据)。
在方框535中,累积运动被检测的图像帧。例如,如果检测连续系列的图像帧的运动,则可以累积该系列的图像帧。作为另一个实例,如果检测仅一些图像帧的运动,则不移动的图像帧可被跳过且不被包括在累积中。因此,基于检测的运动,可以选择连续或不连续系列的图像帧来累积。
在方框540中,平均累积的图像帧以提供模糊的图像帧。由于在运动期间捕获了累积的图像帧,所以希望真实的场景信息将在图像帧之间改变,并因此导致场景信息在产生的模糊的图像帧中被进一步变模糊(方框545)。
相比之下,在运动期间,FPN(例如,由红外成像模块100的一个或多个部件引起的)将在至少短时间周期内并在至少受限的场景辐照度变化的期间内保持固定。结果,在运动期间在时间和空间紧密靠近情况下捕获的图像帧将会受到完全相同的或者至少是非常相似的FPN的影响。因此,虽然场景信息可以在连续的图像帧中变化,但是FPN将会保持基本恒定。通过平均,在运动期间捕获的多个图像帧将使场景信息变模糊,但不会使FPN变模糊。结果,与场景信息相比,FPN将保持更清晰地限定在方框545提供的模糊图像帧中。
在一个实施例中,在方框535和540中累积并平均32个或更多个图像帧。然而,在其它实施例中可以使用任何所期望数量的图像帧,但是当帧数减少时通常会降低校正精度。
现在参考基于散焦的方法,在方框530中,可以执行散焦操作以有意使红外传感器132捕获的图像散焦。例如,在一个实施例中,可以使用一个或多个致动器199调整、移动或以其它方式平移红外成像模块100的光学元件180、红外传感器组件128和/或其它部件,以使红外传感器132捕获场景的模糊(例如,未聚焦的)图像帧。为了有意散焦红外图像帧,例如手动(例如,用户发起的)散焦,还可考虑基于非致动器的其它技术。
虽然在图像帧中该场景看起来模糊不清,但是FPN(例如,由红外成像模块100的一个或多个部件引起的)将保持不受散焦操作的影响。结果,场景的模糊的图像帧将被提供(方框545)有在模糊图像中比场景信息更清晰的定义的FPN。
在上面的论述中,关于单个捕获图像帧描述了基于散焦的方法。在另一个实施例中,基于散焦的方法可以包括在红外成像模块100已经被散焦时累积多个图像帧,以及平均散焦的图像帧以去除时间噪声的影响并在方框545中提供了模糊的图像帧。
因此,将意识到,可以通过基于运动的方法或者基于散焦的方法在方框545中提供模糊的图像帧。因为通过运动、散焦或者这两种方法将使大部分场景信息变模糊,所以可以有效地认为模糊的图像帧是关于场景信息的原始捕获图像帧的低通滤波版本。
在方框550中,处理模糊的图像帧以确定更新的行和列FPN项(例如,如果没有事先确定行和列FPN项,则在方框550的第一循环中更新的行和列FPN项可以是新的行和列FPN项)。作为在该公开中使用的,根据红外成像模块100的红外传感器132和/或其它部件的定向,可以交替地使用术语行和列。
在一个实施例中,方框550包括确定用于每行模糊图像帧的空间FPN校正项(例如,每行都可以有它自己的空间FPN校正项),以及还确定用于每列模糊图像帧的空间FPN校正项(例如,每列都可以有它自己的空间FPN校正项)。这种处理可以用于减小例如由ROIC 402中的放大器的1/f噪声特性引起的热成像器中固有的空间的和缓变的(1/f)行和列FPN,该1/f噪声特性在图像帧中可以表现为垂直和水平条纹。
有利地,通过使用模糊的图像帧确定空间行和列FPN项,将会减少将真实成像场景中的垂直和水平目标弄错为行和列噪声的风险(例如,当FPN保持不模糊时,真实场景内容将是模糊的)。
在一个实施例中,通过考虑模糊图像帧的邻近像素之间的差异可以确定行和列FPN项。例如,图6示例了根据该公开实施例的邻近像素之间的差异。具体地,在图6中,比较像素610和它的8个最近的水平邻近:一边的d0-d3以及另一边的d4-d7。可以平均邻近像素之间的差异以得到示例的像素组的偏移误差的估值。可以按行或列为每个像素计算偏移误差,并可以使用该平均结果校正整个行或列。
为了防止真实场景数据被解释为噪声,可以使用上下阈值(thPix和-thPix)。不使用落在这些阈值外面的像素值(在该实例中为像素d1和d4)以得到偏移误差。另外,通过这些阈值可以限制行和列FPN校正的最大量。
在2009年3月2日提交的U.S.专利申请No.12/396,340中,阐述了用于执行空间行或列FPN校正处理的进一步技术,藉此通过援引将其整体并入本文。
再次参考图5,将在方框550中确定的更新的行和列FPN项存储(方框552)并应用(方框555)于在方框545中提供的模糊图像帧。在应用这些项之后,可以减少模糊图像帧中的一些空间行和列FPN。然而,因为通常将这种项应用于行和列,所以附加的FPN可以保持诸如与像素间漂移或其它原因相关的空间不相关的FPN。空间相关的FPN的近邻还可以保持与单独行和列不直接相关。因此,可以执行如下所述的进一步处理以确定NUC项。
在方框560中,确定模糊图像帧中的本地对比值(例如,邻近或小组像素之间梯度的边缘或绝对值)。如果模糊图像帧中的场景信息包括未明显变模糊(例如,在原始场景数据中的高对比值边缘)的对比区域,则通过方框560中的对比确定过程可以识别这种特征。
例如,可以计算模糊图像帧中的本地对比值,或者可以应用任何其它期望类型的边缘检测过程以将模糊图像中的某些像素识别为本地对比区域的一部分。可以认为在该方法中作标记的像素包含应被解释为FPN的过高的空间频率场景信息(例如,这种区域可以对应于未充分模糊的场景的一部分)。因此,这些像素不能被用于NUC项的进一步确定中。在一个实施例中,这种对比检测处理可以依赖于比与FPN相关的预期对比值高的阈值(例如,可将展示对比值高于阈值的像素认为是场景信息,可将低于阈值的像素认为是展示FPN)。
在一个实施例中,在将行和列FPN项应用于模糊图像帧之后(例如,如图5所示),可以对模糊图像帧执行方框560的对比确定。在另一个实施例中,在确定行和列FPN项之前,可以先于方框550执行方框560以确定对比(例如,防止基于对比的场景帮助这种项的确定)。
方框560之后,期望通常可以将模糊图像帧中剩余的任何高空间频率含量归因于空间不相关的FPN。在这一点上,在方框560之后,由于:有意模糊图像帧(例如,通过方框520至545中的运动或散焦)、应用行和列FPN项(方框555)和对比确定(方框560),从模糊图像帧中去除或排除了许多其它噪声或基于实际所需场景的信息。
因此,可以期望在方框560之后,任何剩余的高空间频率含量(例如,展示为模糊图像帧的对比区域或差异)可归因于空间不相关的FPN。因此,在方框565中,高通滤波模糊的图像帧。在一个实施例中,这可以包括应用高通滤波器以从模糊图像帧提取高空间频率含量。在另一个实施例中,这可以包括将低通滤波器应用于模糊图像帧并获得低通滤波的图像帧和未滤波的模糊图像帧之间的差异以得到高空间频率含量。根据本公开的各种实施例,高通滤波器可以通过计算传感器信号(例如,像素值)与其近邻之间的平均差来实现。
在方框570中,可以对高通滤波的模糊图像帧执行平场校正过程以确定更新的NUC项(例如,如果没有事先执行NUC过程,则在方框570的第一循环中更新的NUC项可以是新的NUC项)。
例如,图7示例了根据该公开实施例的平场校正技术700。在图7中,使用每个像素710的邻近像素712至726的值可以确定用于模糊图像帧的每个像素710的NUC项。对于每个像素710,基于各个邻近像素值之间的绝对差可以确定几个梯度。例如,在像素712和714之间(从左到右的对角梯度(diagonal gradient))、像素716和718之间(从上到下的垂直梯度)、像素720和722之间(从右到左的对角梯度)、以及像素724和728之间(从左到右的水平梯度)之间可以确定绝对值差。
可以求这些绝对差之和以提供像素710的总梯度。可以确定与总梯度成反比的像素710的权重。可以对模糊图像帧的所有像素710执行该过程直到提供每个像素710的权重。对于低梯度区域(例如,模糊的或具有低对比的区域),权重将接近一。相反地,对于高梯度区域,权重将是零或接近零。将通过高通滤波器估算的NUC项的更新与权重相乘。
在一个实施例中,通过将一定量的时间衰减应用到NUC项确定过程,可以进一步减少将场景信息引入到NUC项中的风险。例如,可以选择0和1之间的时间衰减因子λ,以使存储的新的NUC项(NUCNEW)为旧NUC项(NUCOLD)和估算的更新的NUC项(NUCUPDATE)的加权平均值。在一个实施例中,这个可以表示为NUCNEW=λ·NUCOLD+(1-λ)·(NUCOLD+NUCUPDATE)。
虽然描述了有关梯度的NUC项的确定,但是适当代替地可以使用本地对比值。也可以使用其它技术,例如标准偏差计算。可以执行其它类型的平场校正过程,以确定包括例如在2000年2月22日公布的U.S.专利No.6,028,309、在2004年11月2日公布的U.S.专利No.6,812,465和在2008年5月5日提交的U.S.专利申请No.12/114,865中识别的各种过程的NUC项,藉此通过援引将它们整体并入本文。
再次参考图5,方框570可以包括NUC项的附加处理。例如,在一个实施例中,为了保持场景信号均值,通过由每个NUC项减去NUC项均值,可以使所有NUC项之和规格化到零。而且在方框570中,为了避免行和列噪声影响NUC项,可以由用于每行和列的NUC项减去每行和列的均值。结果,在将NUC项应用于捕获的图像之后(例如,在本文中进一步详述的方框580中),使用在方框550中确定的行和列FPN项的行和列FPN滤波器可以在进一步循环中能更好地滤除行和列噪声(例如,进一步如图8所示)。在这一点上,行和列FPN滤波器通常可以使用更多数据以计算每行和每列偏移系数(例如,行和列FPN项),并因此可以提供比基于高通滤波的NUC项更强大的用于降低空间相关的FPN的替代物,以捕获空间不相关噪声。
在方框571-573中,可以选择性执行附加的高通滤波和更新NUC项的进一步确定,以去除具有比先前被行和列FPN项移除的空间频率低的空间频率的空间相关的FPN。在这一点上,红外成像模块100的红外传感器132或其它部件的一些可变性会引起不易建模为行和列噪声的空间相关的FPN噪声。这种空间相关的FPN可以包括例如与邻近的红外传感器132不同地响应辐照度的传感器封装或者红外传感器132集群上的窗口缺陷。在一个实施例中,可以用偏差校正来缓和这种空间相关的FPN。如果这种空间相关的FPN的量是显著的,则在模糊图像帧中也可以检测噪声。由于该类型的噪声可以影响近邻的像素,所以具有小核心的高通滤波器可以不检测近邻中的FPN(例如,用于高通滤波器的所有值可以从受影响的像素近邻中得到并因此可以受相同偏移误差的影响)。例如,如果用小核心(例如,仅考虑落入受空间相关的FPN影响的像素近邻内的直接邻近的像素)执行方框565的高通滤波,则可以不检测广泛分布的空间相关的FPN。
例如,图11示例了根据本公开实施例的像素近邻中的空间相关的FPN。如样品图像帧1100所示,像素1110的近邻可以展示未精确校正为单独行和列的并分布在几个像素近邻内的空间相关的FPN(例如,在该实例中约4乘4的近邻)。样品图像帧1100还包括在滤波计算中不使用的展示基本均匀响应的一组像素1120以及用于估算像素1110的近邻的低通值的一组像素1130。在一个实施例中,为了便利于有效的硬件或软件计算,像素1130可以是可除以2的多个像素。
再次参考图5,在方框571-573中,可以选择性执行附加的高通滤波和更新的NUC项的进一步确定以去除诸如用像素1110展示的空间相关的FPN。在方框571中,将在方框570中确定的更新的NUC项应用于模糊图像帧。因此,此时,模糊图像帧首先将被做空间相关的FPN校正(例如,通过在方框555中应用更新的行和列FPN项),并且首先还被做空间不相关的FPN校正(例如,通过应用在方框571中应用的更新的NUC)。
在方框572中,用比在方框565中使用的更大的核心来应用进一步的高通滤波,并可以在方框573中确定进一步更新的NUC项。例如,为了检测像素1110中存在的空间相关的FPN,在方框572中应用的高通滤波器可以包括来自像素的足够大的邻近的数据,以在不受影响的像素(例如,像素1120)和受影响的像素(例如,像素1100)之间能够确定差异。例如,可以使用具有大核心的低通滤波(例如,比3乘3像素大很多的N乘N核心),并减去该结果以执行适当的高通滤波。
在一个实施例中,为了计算效率,可以使用稀疏的核心,以使得仅使用在N乘N近邻内的少数邻近像素。对于使用远邻(例如,大的核心)的任何指定的高通滤波器操作,有将真实(可能模糊的)场景信息建模为空间相关的FPN的风险。因此,在一个实施例中,可以将时间衰减因子λ设置为接近1以用于在方框573中确定的更新的NUC项。
在各种实施例中,可以重复方框571-573(例如,级联的)以重复执行具有增大的核心尺寸的高通滤波,从而提供进一步更新的NUC项以进一步校正期望的近邻尺寸的空间相关的FPN。在一个实施例中,通过空间相关的FPN是否已被方框571-573的先前执行的更新的NUC项移除,可以确定执行这种循环的判定。
在方框571-573完成之后,进行关于是否将更新的NUC项应用到捕获的图像帧(574)的判定。例如,如果用于整个图像帧的NUC项的绝对值的平均数小于最小阈值或者大于最大阈值,则该NUC项可以被视为假的或者不可能提供有意义的校正。备选地,可以将阈值标准应用于单独像素以确定哪个像素接收更新的NUC项。在一个实施例中,该阈值可以对应于新计算的NUC项和先前计算的NUC项之间的差。在另一个实施例中,该阈值可以与先前计算的NUC项无关。可以应用其它检测(例如,空间相关检测)以确定是否应该应用NUC项。
如果NUC项被视为假的或者不可能提供有意义的校正,则流程图返回到方框505。否则,将存储新确定的NUC项(方框575)以替换先前的NUC项(例如,通过图5的事先执行的循环确定的)并应用到捕获的图像帧(方框580)。
图8示例了根据该公开实施例的图5的各种图像处理技术和图像处理流水线800中应用的其它操作。在这一点上,流水线800识别整体迭代的图像处理方案背景下的图5的各种操作以用于校正由红外成像模块100提供的图像帧。在一些实施例中,可以用对红外传感器132捕获的图像帧操作的处理模块160或处理器195(这两者通常还称为处理器)来提供流水线800。
可以将由红外传感器132捕获的图像帧提供到结合多个图像帧的帧平均器804以提供具有改良的信噪比的图像帧802。帧平均器804可以用被实现为支持高图像捕获速率的红外传感器组件128的红外传感器132、ROIC 402和其它部件来有效地提供。例如,在一个实施例中,红外传感器组件128可以以240Hz的帧速率(例如,每秒240个图像)捕获红外图像帧。在该实施例中,可以例如通过以相对低电压(例如,与移动电话电压兼容的)操作红外传感器组件128并通过使用相对小阵列的红外传感器132(例如,在一个实施例中是64乘64的红外传感器阵列)来实现这种高帧速率。
在一个实施例中,这种红外图像帧可以由红外传感器组件128以高帧速率(例如,240Hz或其它帧速率)提供给处理模块160。在另一个实施例中,红外传感器组件128可以整合较长时间段或多个时间段,以便以较低帧速率(例如30Hz、9Hz或其它帧速率)向处理模块160提供整合的(例如,平均的)红外图像帧。在本文中先前引用的U.S.临时专利申请No.61/495,597中可以找到关于可用于提供高图像捕获速率的关于实现的进一步信息。
图像帧802继续通过流水线800,其中它们被各种项调整、时域滤波的、用于确定各种调整项的和增益补偿。
在方框810和814中,将工厂增益项812和工厂偏移项816应用于图像帧802,以分别补偿在制造和试验期间确定的红外成像模块100的各个红外传感器132和/或其它部件之间的增益和偏移差。
在方框580中,将NUC项817应用到图像帧802以校正所述的FPN。在一个实施例中,如果NUC项817还未被确定(例如,在发起NUC过程之前),则可以不执行方框580或可以将初始化值用于使图像数据不发生变化(例如,每个像素将等于零的偏移)的NUC项817。
在方框818和822中,将列FPN项820和行FPN项824分别应用于图像帧802。列FPN项820和行FPN项824可以根据所述的方框550来确定。在一个实施例中,如果列FPN项820和行FPN项824还未被确定(例如,在发起NUC过程之前),则可以不执行方框818和822或可以将始化值用于使图像数据不发生变化(例如,每个像素将等于零的偏移)的列FPN项820和行FPN项824。
在方框826中,根据时域降噪(TNR)过程对图像帧802执行时域滤波。图9示例了根据该公开实施例的TNR过程。在图9中,处理当前接收的图像帧802a和先前时域滤波的图像帧802b以确定新的时域滤波的图像帧802e。图像帧802a和802b包括分别集中在像素805a和805b附近的像素803a和803b的本地近邻。近邻803a和803b对应于图像帧802a和802b内的同一位置且是图像帧802a和802b中的总像素的子集。在示例的实施例中,近邻803a和803b包括5乘5像素的区域。在其它实施例中可以使用其它近邻尺寸。
确定并平均近邻803a和803b的对应像素之间的差异,以提供用于对应于像素805a和805b位置的平均变量值805c。可以使用平均的变量值805c以确定方框807中的待应用于图像帧802a和802b的像素805a和805b的权重。
在一个实施例中,如图表809所示,方框807中确定的权重可以与平均的变量值805c成反比,以便当近邻803a和803b之间的差异大时,使权重迅速朝零下降。在这一点上,近邻803a和803b之间的大的差异可以表明变化已出现在场景内(例如,由于运动),并且在一个实施例中,可以适当地加权像素802a和802b,以避免引入跨越帧到帧场景变化的模糊。权重和平均的变量值805c之间的其他关联可以用于各个实施例中。
可以将方框807中确定的权重应用到像素805a和805b以确定用于图像帧802e的对应像素805e的值(方框811)。在这一点上,像素805e可以具有取决于平均的变量值805c和方框807中确定的权重的像素805a和805b的加权平均(或其它组合)值。
例如,时域滤波图像帧802e的像素805e可以是图像帧802a和802b的像素805a和805b的加权和。如果像素805a和805b之间的平均差异归因于噪声,则期望近邻805a和805b之间的平均变化将接近于零(例如,对应于未校正变化的的平均)。在这种情况下,期望近邻805a和805b之间的差异之和将接近于零。这样,可以使图像帧802a的像素805a适当地加权以有助于像素805e的值。
然而,如果这种差异之和不为零(例如,在一个实施例中甚至少量的不同于零),则该变化可被解释为归因于运动而不是噪声。因此,基于近邻805a和805b展示的平均变化可以确定运动。在这些情况下,在图像帧802b的像素805b可被小量加权的同时,图像帧802a的像素805a也可被大量加权。
也可以考虑其它实施例。例如,虽然已将平均变量值805c描述为基于近邻805a和805b确定,但在其它实施例中平均变量值805c可以基于任何期望标准(例如,基于单独像素或其它类型的组的像素)来确定。
在上述实施例中,将图像帧802a描述为当前接收的图像帧,且将图像帧802b描述为先前时域滤波的图像帧。在另一个实施例中,图像帧802a和802b可以是由红外成像模块100捕获的未被时域滤波的第一和第二图像帧。
图10示例了关于方框826的TNR过程的进一步实现细节。如图10所示,可以将图像帧802a和802b分别读入到行缓冲区1010a和1010b中,并且可以在将图像帧802b(例如,先前的图像帧)读入到行缓冲区1010b之前,将它存储在帧缓冲器1020中。在一个实施例中,行缓冲器1010a-b和帧缓冲器1020可以用由红外成像模块100和/或主机装置102的任何适当部件提供的随机读取存储器(RAM)块来实现。
再次参考图8,可以将图像帧802e传输到用于进一步处理的自动增益补偿块828,以提供可被所需的主机装置102使用的结果图像帧830。
图8进一步示例了可被执行来确定所述的行和列FPN项以及NUC项的各种操作。在一个实施例中,这些操作可以使用如图8所示的图像帧802e。因为图像帧802e已被时域滤波,所以至少一些时间噪声可以被去除,因此将无意影响行和列FPN项824和820以及NUC项817的确定。在另一实施例中,可以使用未时域滤波的图像帧802。
在图8中,将图5的方框510、515和520共同表现在一起。如所述的,可以响应于各种NUC过程发起事件并基于各种标准或条件,选择性发起和执行NUC过程。而且还如所述的,根据提供模糊图像帧(方框545)的基于运动的方法(方框525、535和540)或基于散焦的方法(方框530),可以执行NUC过程。图8还示例了有关图5的先前详述的各种附加方框550、552、555、560、565、570、571、572、573和575。
如图8所示,可以以迭代的方法确定并应用行和列FPN项824和820以及NUC项817项,以便使用已经应用有先前帧的图像帧802确定更新的项。结果,图8的整个过程可以重复地更新并应用这种项以连续地减小主机装置102所使用的图像帧830的噪声。
再次参考图10,示例了有关流水线800的图5和8的各个方框的进一步的实现细节。例如,方框525、535和540被示出为以流水线800接收的图像帧802的正常帧速率操作。在图10示出的实施例中,方框525中进行的确定被表现为用于确定指定图像帧802是否充分改变的菱形判定,使得可认为它是如果增加到其它图像帧将增强模糊的图像帧,因此累积(在该实施例中方框535用箭头表示)和平均(方框540)该图像帧。
此外,在图10中,列FPN项820(方框550)的确定被示出为以更新的速率操作,在该实例中,由于在方框540中执行平均,所以该更新的速率是传感器帧速率(例如,正常帧速率)的1/32。在其它实施例中,可以使用其它更新的速率。虽然在图10中仅识别了列FPN项820,但是可以用类似方法以降低的帧速率实现行FPN项824。
图10还示例了与方框570的NUC项确定过程有关的进一步实现细节。在这一点上,可以将模糊图像帧读到行缓冲器1030(例如,用红外成像模块100和/或主机装置102的任何适当部件提供的RAM块来实现)。可以对模糊图像帧执行图7的平场校正技术700。
鉴于本公开,将意识到可以使用本文中描述的技术去除各种类型的FPN(例如,包括非常高振幅的FPN),诸如空间相关的行和列FPN和空间不相关的FPN。
也可以考虑其它实施例。例如,在一个实施例中,更新行和列FPN项和/或NUC项的速率可以与估计的模糊图像帧中的模糊量成反比,和/或与本地对比值(例如,在方框560中确定的)的量级成反比。
在各种实施例中,所描述的技术可以提供超过常规的基于快门的噪声校正技术的优势。例如,通过使用无快门过程,不需要提供快门(例如,诸如快门105),因此允许减小尺寸、重量、成本和机械复杂性。如果快门不需要被机械操作,则还可以降低提供到红外成像模块100的或由红外成像模块100产生的功率和最大电压。通过移除作为潜在故障点的快门将改善可靠性。无快门过程还可以消除用快门的成像场景的临时堵塞引起的可能的图像中断。
同样,通过使用有意模糊的从真实世界场景(用快门提供的非均匀场景)捕获的图像帧校正噪声,可以对具有与成像真实场景所需的辐照度相似的辐照度的图像帧执行噪声校正。这能够提高根据各种描述的技术确定的噪声校正项的精确性和有效性。
如所述的,在各种实施例中,红外成像模块100可以配置成在低电压电平操作。尤其是,红外成像模块100可以用配置成以低功率操作的电路来实现,和/或根据允许红外成像模块100在各种类型的主机装置102(诸如手机或其它装置)中方便且有效地实现的其它参数来实现。
例如,图12示例了根据该公开实施例的包括红外传感器132和LDO1220的红外传感器组件128的另一个实现的框图。如所示,图12还示例了各种部件1202、1204、1205、1206、1208和1210,其可以以与有关图4的先前描述的对应部件相同或类似的方式实现。图12还示例了可用于调整一个或多个提供到红外传感器132的偏置电压(例如,补偿温度变化、自热和/或其它因素)的偏压校正电路1212。
在一些实施例中,LDO 1220可被提供为红外传感器组件128的一部分(例如,在同一芯片上和/或像ROIC一样的晶片级封装)。例如,LDO 1220可被提供为具有红外传感器组件128的FPA的一部分。如所述的,这种实现可以降低引入到红外传感器组件128的电源噪声,并由此提供改良的PSRR。另外,通过用ROIC实现LDO,可以消耗较小的管芯面积且需要更少的分立管芯(或者芯片)。
LDO 1220接收由电源1230通过电源线1232提供的输入电压。LDO1220通过电源线1222向红外传感器组件128的各种部件提供输出电压。在这一点上,LDO 1220可响应从电源1230接收的单个输入电压,向红外传感器组件128的各种部件提供基本上相同的整流输出电压。
例如,在一些实施例中,电源1230可以提供在约2.8伏特至约11伏特范围中的输入电压(例如,在一个实施例中约2.8伏特),LDO 1220可以提供在约1.5伏特至约2.8伏特范围中的输出电压(例如,在一个实施例中约2.5伏特)。在这一点上,LDO 1220可用于提供一致的整流输出电压,不管电源1230是用约9伏特至约11伏特的常规电压范围实现,还是用诸如约2.8伏特的低电压实现。因此,虽然为输入和输出电压提供了各种电压范围,但可预期的是尽管输入电压有变化,LDO 1220的输出电压也将保持固定不变。
作为红外传感器组件128的一部分的LDO 1220的实现在用于FPA的常规电力实现上提供了各种优势。例如,常规的FPA通常依赖于多个电源,每个电源可被分别提供给FPA,且分别分配到FPA的各个部件。通过用LDO 1220调整单个电源1230,可分别(例如,尽可能减少噪声)向降低复杂性的红外传感器组件128的所有部件提供适当的电压。LDO 1220的使用还能允许红外传感器组件128以一致的方式操作,即使来自电源1230的输入电压改变(例如,如果输入电压由于电池或者用于电源1230的其它类型的装置的充电或放电而升高或降低)。
图12示出的红外传感器组件128的各种部件还可被实现为以比常规装置低的电压操作。例如,如所述的,LDO 1220可被实现为提供低电压(例如,约2.5伏特)。这与通常用于给常规FPA供电的多个较高电压形成对比,诸如:用于给数字电路供电的约3.3伏特至约5伏特;用于给模拟电路供电的约3.3伏特;和用于给负载供电的约9伏特至约11伏特。此外,在一些实施例中,LDO 1220的使用可以减少或消除对提供到红外传感器组件128的单独的负参考电压的需要。
参考图13,可进一步理解红外传感器组件128的低电压操作的另一方面。图13示例了根据该公开实施例的图12的红外传感器组件128的一部分的电路图。尤其是,图13示例了连接到LDO 1220和红外传感器132的偏压校正电路1212的附加部件(例如,部件1326、1330、1332、1334、1336、1338和1341)。例如,偏置校正电路1212根据本公开实施例可用于补偿随温度而变的偏置电压。参考在2010年3月16日公布的U.S.专利No.7,679,048中确定的类似部件,可进一步理解这种附加部件的操作,通过援引将其整体并入本文。红外传感器组件128还可以按照在2004年11月2日公布的U.S.专利No.6,812,465中确定的各种部件来实现,通过援引将其整体并入本文。
在各种实施例中,一些或所有偏压校正电路1212可以在如图13所示的整个阵列基础上(例如,在阵列中共同用于所有红外传感器132)实现。在其它实施例中,一些或所有偏压校正电路1212可以在单个传感器基础上(例如,完全或部分复制用于每个红外传感器132)实现。在一些实施例中,图13的偏压校正电路1212和其它部件可实现为ROIC 1202的一部分。
如图13所示,LDO 1220沿着一条电源线1222向偏压校正电路1212提供负载电压Vload。如所述的,在一些实施例中,Vload可约为2.5伏特,其与在常规红外成像装置中可用作为负载电压的约9伏特至约11伏特的较大的电压形成对比。
基于Vload,偏压校正电路1212在节点1360处提供了传感器偏置电压Vbolo。Vbolo可经由适当的转换电路1370(例如,在图13中用虚线表示)分配到一个或多个红外传感器132。在一些实施例中,转换电路1370可按照在本文先前引用的U.S.专利No.6,812,465和7,679,048中确定的各种部件来实现。
每个红外传感器132包括经由转换电路1370接收Vbolo的节点1350,和可连接到接地端、基板和/或负参考电压的另一节点1352。在一些实施例中,节点1360处的电压可与节点1350处提供的Vbolo基本相同。在其它实施例中,可将节点1360处的电压调整成补偿与转换电路1370和/或其它因素有关的可能的电压降。
Vbolo可用比通常用于常规红外传感器偏压更低的电压来实现。在一个实施例中,Vbolo可在约0.2伏特到约0.7伏特的范围中。在另一个实施例中,Vbolo可在约0.4伏特至0.6伏特的范围中。在另一个实施例中,Vbolo可以约为0.5伏特。相比之下,常规红外传感器通常使用约1伏特的偏置电压。
与常规红外成像装置相比,根据本公开的红外传感器132的较低偏置电压的使用允许红外传感器组件128表现出显著降低的功耗。尤其是,每个红外传感器132的功耗被降低了偏置电压的平方。结果,例如从1.0伏特至0.5伏特的降低提供了功率的显著降低,尤其当施加到红外传感器阵列中的许多红外传感器132时。功率的降低还会导致红外传感器组件128的自热的降低。
根据本公开的附加实施例,提供各种技术以用于减少由以低电压操作的红外成像装置提供的图像帧中的噪声影响。在这一点上,当用如所述的低电压操作红外传感器组件128时,如果未校正,噪声、自热和/或其它现象在由红外传感器组件128中提供图像帧中会变得更加明显。
例如,参考图13,当LDO 1220以在此描述的方式保持Vload在低电压时,Vbolo也将保持在其对应的低电压并其输出信号的相对尺可以被降低。结果,噪声、自热和/或其它现象可以对从红外传感器132读出的较小的输出信号具有较大的影响,导致输出信号的变化(例如,错误)。如果未校正,这些变化在图像帧中可表现为噪声。而且,虽然低电压操作可减少某些现象(例如,自热)的总量,但较小的输出信号可允许剩余的错误源(例如,残留的自热)在低电压操作期间对输出信号具有不均衡的影响。
为了补偿这种现象,红外传感器组件128、红外成像模块100和/或主机装置102可用各种阵列尺寸、帧速率和/或帧平均技术实现。例如,如所述的,对于红外传感器132考虑多种不同阵列尺寸。在一些实施例中,红外传感器132可用范围从32乘32至160乘120红外传感器132的阵列尺寸实现。其它例举的阵列尺寸包括80乘64、80乘60、64乘64和64乘32。可以使用任何期望的阵列尺寸。
有利地,当用这种相对小的阵列尺寸实现时,红外传感器组件128可在不需要显著改变ROIC和相关电路的情况下以相对高的帧速率提供图像帧。例如,在一些实施例中,帧速率范围从约120Hz至约480Hz。
在一些实施例中,可以使阵列尺寸和帧速率相对彼此缩放(例如,以反比例方式或其它方式),使得较大的阵列可用较低的帧速率实现,而较小的阵列可用较高的帧速率实现。例如,在一个实施例中,160乘120的阵列可提供约120Hz的帧速率。在另一实施例中,80乘60的阵列可提供约240Hz的相对较高的帧速率。也可考虑其它帧速率。
不管实际的FPA的尺寸和帧速率,通过使阵列尺寸和帧速率相对彼此缩放,可使FPA的行和/或列的具体读出时间保持一致。在一个实施例中,读出时间可约为每行或列63微秒。
如先前关于图8所述的,由红外传感器132捕获的图像帧可提供到整合多个图像帧的帧平均器804以提供具有较低帧速率(例如,约30Hz、约60Hz或其它帧速率)且具有改良的信噪比的图像帧802(例如,处理的图像帧)。尤其是,通过平均由相对小的FPA提供的高帧速率图像帧,可有效平均和/或充分降低图像帧802中由低电压操作引起的图像噪声。因此,红外传感器组件128可以在帧平均器804处理之后产生的图像帧802中以由所述的LDO 1220提供的相对低的电压操作,而不遭受的附加噪声和相关副作用。
也可考虑其它实施例。例如,虽然示例了红外传感器132的单个阵列,但可预期的是,可一起使用多个这种阵列以提供较高分辨率的图像帧(例如,场景可横跨多个这种阵列成像)。这种阵列可提供在多个红外传感器组件128中和/或提供在同一红外传感器组件128中。每个这种阵列都可以以如所述的低电压操作,且还可以提供有相关的ROIC电路,以使每个阵列仍可以以相对高的帧速率操作。通过共用或专用帧平均器804可平均由这种阵列提供的高帧速率图像帧,以减少和/或消除与低电压操作有关的噪声。结果,以低电压操作时仍可得到高分辨率红外图像。
在各种实施例中,红外传感器组件128可用适当尺寸来实现以允许红外成像模块100用于小形状因素插口104,诸如用于移动装置的插口。例如,在一些实施例中,红外传感器组件128可用范围在约4.0mm乘约4.0mm至约5.5mm乘约5.5mm中(例如,在一个实施例中约4.0mm乘约5.5mm)的芯片尺寸来实现。红外传感器组件128可用这种尺寸或其它适当的尺寸来实现以允许用于插口104,插口104可用各种尺寸(诸如:8.5mm乘8.5mm、8.5mm乘5.9mm、6.0mm乘6.0mm、5.5mm乘5.5mm、4.5mm乘4.5mm)和/或其它插口尺寸(例如,在本文前面引用的U.S.临时专利申请No.61/495,873的表1中确定的那些插口尺寸)来实现。
如关于图14-23E的进一步描述,描述了各种图像处理技术,其可应用于例如红外图像(例如,热图像)以降低红外图像内的噪声(例如,改善图像细节和/或图像质量)和/或提供非均匀性校正。
虽然图14-23E将主要针对系统2100描述,但描述的技术可通过对红外传感器132捕获的图像帧进行操作的处理模块160或处理器195(两者通常还称为处理器)来执行,反之亦然。
在一些实施例中,有关图14-22B描述的技术用于执行方框550(见图5和8)的操作以确定行和/或列FPN项。例如,这种技术可应用于图5和8的方框545提供的有意模糊的图像。在一些实施例中,有关图23A-E描述的技术可用于代替和/或附加到方框565-573(见图5和8)的操作以估算FPN和/或确定NUC项。
现在参考图14-22B,噪声的重要部分可被定义为行和列噪声。这种类型的噪声在读出集成电路(ROIC)中可由非线性说明。这种类型的噪声,如果不消除,在最终的图像中会显示为垂直和水平条纹且人类观察者会尤其感受到这种类型的图像伪影。如果行和列噪声存在,依赖于来自红外传感器的成像的其它系统(诸如自动目标跟踪器)也会遭受到性能退化。
由于红外探测器和读出集成电路(ROIC)组件的非线性行为,所以即使当执行快门操作或外部黑体标定时,也会存在残留的行和列噪声(例如,成像的场景可能不具有与快门精确相同的温度)。行和列噪声的量可在偏移校准之后随着时间增加,渐近地增加到某个最大值。在一个方面,这可被称为1/f类型噪声。
在任何指定的帧中,行和列噪声可被看作是高频率空间噪声。通常,这种类型的噪声可使用空间域(例如,局部线性或非线性低通滤波器)或频率域(例如,傅里叶或微波空间低通滤波器)滤波器来降低。然而,这些滤波器有负面影响,诸如图像模糊和微弱细节的潜在损失。
本领域的技术人员应该意识到,关于列或行的任何引用可以包括部分列或部分行,且术语“行”和“列”是可互换的且不是限制的。因此,在不偏离该发明的范围的情况下,基于该申请,术语“行”可用于描述一行或一列,同样地,术语“列”也可用于描述一行或一列。
图14示出了根据实施例的红外图像捕获和处理的系统2100(例如,红外摄像机)的框图。在一些实施例中,系统2100可用红外成像模块100、主机装置102、红外传感器组件128和/或本文描述的各种部件(例如,参见图1-13)来实现。因此,虽然描述了关于系统2100的各种技术,但是这种技术可类似地应用于红外成像模块100、主机装置102、红外传感器组件128和/或本文描述的各种部件,反之亦然。
在一个实现中,系统2100包括处理部件2110、存储部件2120、图像捕获部件2130、控制部件2140和显示部件2150。可选地,系统2100可包括传感部件2160。
系统2100可表示捕获和处理图像(诸如场景2170的视频图像)的红外成像装置,诸如红外摄像机。系统2100可表示适合检测红外辐射的任何类型的红外摄像机并提供代表性数据和信息(例如,场景的红外图像数据)。例如,系统2100可表示用于近、中和/或远红外频谱的红外摄像机。在另一个实例中,红外图像数据可包括用于如本文所述的处理的场景2170的非均匀性数据(例如,不是从快门或黑体得到的真实图像数据)。系统2100可包括便携装置并可被并入到例如车辆中(例如,汽车或其它类型的地面车辆、飞机或宇宙飞船)或要求存储和/或显示的红外图像的非移动安装。
在各种实施例中,处理部件2110包括处理器,诸如微处理器、单核处理器、多核处理器、微控制器、逻辑装置(例如,配置成执行处理功能的可编程逻辑装置(PLD))、数字信号处理(DSP)装置等中的一个或多个。处理部件2110可适合与部件2120、2130、2140和2150接口和通信,以执行本文所述的方法和处理步骤和/或操作。处理部件2110可包括适合实现噪声减少和/或消除算法(例如,噪声滤波算法,诸如本文描述的任何算法)的噪声滤波模块2112。在一个方面,处理部件2110可适合执行包括缩放红外图像数据的各种其他图像处理算法,或者作为噪声滤波算法的一部分或者与噪声滤波算法分离。
应该意识到,噪声滤波模块2112可整合在作为处理部件2110的一部分的软件和/或硬件中,其中用于噪声滤波模块2112的编码(例如,软件或配置数据)存储在例如存储部件2120中。如本文公开的噪声滤波算法的实施例可通过由计算机(例如,逻辑系统或基于处理器的系统)执行的单独的计算机可读介质(例如,存储器,诸如硬盘、光盘、数字视频光盘或闪速存储器)来存储以执行本文公开的各种方法和操作。在一个方面,计算机可读介质可以是便携的和/或与具有存储的噪声滤波算法的系统2100分开,该存储的噪声滤波算法通过将计算机可读介质耦合到系统2100和/或通过系统2100从计算机可读介质下载(例如,经由有线链接和/或无线链接)噪声滤波算法来提供到系统2100。
在一个实施例中,存储部件2120包括适合存储包括红外数据和信息的数据和信息的一个或多个存储装置。存储装置2120可包括一个或多个各种类型的存储装置,其包括易失性和非易失性存储装置,诸如RAM(随机存取存储器)、ROM(只读存储器)、EEPROM(电可擦除只读存储器)、闪速存储器等。处理部件2110可适合执行存储在存储部件2120中的软件以执行本文描述的方法和处理步骤和/或操作。
在一个实施例中,图像捕获部件2130包括用于捕获代表图像(诸如场景2170)的红外图像数据(例如,静止图像数据和/或视频数据)的一个和多个红外传感器(例如,任何类型的多像素红外探测器,诸如焦平面阵列)。在一个实施例中,图像捕获部件2130的红外传感器用于将捕获的图像数据表示(例如,转换)为数字数据(例如,经由作为红外传感器的一部分而被包括的或作为系统2100的一部分而与红外传感器分开的模数转换器)。在一个方面,红外图像数据(例如,红外视频数据)可包括图像(诸如场景2170)的非均匀性数据(例如,真实图像数据)。处理部件2110可适合处理红外图像数据(例如,提供处理的图像数据)、在存储部件2120中存储红外图像数据、和/或从存储部件2120中检索存储的红外图像数据。例如,处理部件2110可适合处理存储在存储部件2120中的红外图像数据以提供处理的图像数据和信息(例如,捕获和/或处理的红外图像数据)。
在一个实施例中,控制部件2140包括用户输入和/或适合产生用户输入信号的接口装置,诸如可旋转旋钮(例如,电位器)、按钮、滑杆、键盘等。处理部件2110可适合经由控制部件2140感测用户的输入信号并响应从那接收的任何感测的控制输入信号。处理部件2110可适合将这种控制输入信号解释为通常被本领域的技术人员理解的值。
在一个实施例中,控制部件2140可包括具有适合与用户接口并接收用户输入控制值的按钮的控制单元(例如,有线或无线手持控制单元)。在一个实现中,控制单元的按钮可用于控制系统2100的各种功能,诸如自动聚焦、菜单启用和选择、视野、亮度、对比度、噪声滤波、高通滤波、低通滤波和/或本领域的技术人员所理解的各种其它特征。在另一个实现中,一个或多个按钮可用于提供噪声滤波算法的输入值(例如,一个或多个噪声滤波器值、调整参数、特性等)。例如,一个或多个按钮可用于调整由系统2100捕获和/或处理的红外图像的噪声滤波特性。
在一个实施例中,显示装置2150包括图像显示装置(例如,液晶显示器(LCD))或各种其它类型的通常已知的视频显示器或监视器。处理部件2110可适合在显示部件2150上显示图像数据和信息。处理部件2110可适合从存储部件2120检索图像数据和信息并在显示部件2150上显示任何检索到的图像数据和信息。显示部件2150可包括电子显示屏,其可被处理部件2110用于显示图像数据和信息(例如,红外图像)。显示部件2150可适合经由处理部件2110直接从图像捕获部件2130接收图像数据和信息,或者图像数据和信息可以经由处理部件2110从存储部件2120转移。
在一个实施例中,正如本领域的技术人员将理解的,根据应用或实施要求,可选的传感部件2160包括一个或多个各种类型的传感器。可选的传感部件2160的传感器至少向处理部件2110提供数据和/或信息。在一个方面,处理部件2110可适合与传感部件2160通信(例如,通过从传感部件2160接收传感器信息)和与图像捕获部件2130通信(例如,通过从图像捕获部件2130接收数据和信息以及向系统2100的一个或多个其它部件提供指令、控制和/或其它信息和/或从系统2100的一个或多个其他部件接收指令、控制和/或其他信息)。
在各种实现中,传感部件2160可提供有关环境条件的信息,诸如外部温度、照明条件(例如,白天、晚上、黄昏和/或黎明)、湿度水平、特定天气条件(例如,晴天、下雨和/或下雪)、距离(例如,激光测距)和/或是否已进入或退出通道或其它类型的外壳。传感部件2160可表示本领域的技术人员通常已知的用于监测各种条件(例如,环境条件)的常规传感器,该常规传感器可对由图像捕获部件2130提供的数据有影响(例如,对图像外观)。
在一些实现中,可选的传感部件2160(例如,一个或多个传感器)可包括经由有线和/或无线通信将信息中继给处理部件2110的装置。例如,可选的传感部件2160可适合通过本地广播(例如,无线电频率(RF))传输、通过移动或蜂窝网络和/或通过基础设施中的信息信标(例如,运输或公路信息信标基础设施)或各种其它有线和/或无线技术从卫星接收信息。
在各种实施例中,根据期望或根据应用或要求,系统2100的部件可与或者不与表示相关系统的各种功能块的系统2100组合和/或实现。在一个实例中,处理部件2110可与存储部件2120、图像捕获部件2130、显示部件2150和/或可选的传感部件2160组合。在另一个实例中,处理部件2110可与图像捕获部件2130组合,其中处理部件2100仅有某些功能由图像捕获部件2130内的电路(例如,处理器、微处理器、逻辑装置、微控制器等)执行。而且,系统2100的各种部件可以彼此远离(例如,图像捕获部件2130可包括具有处理部件2110等的远程传感器,处理部件2110表示可与或者不可与图像捕获部件2130通信的计算机)。
按照该公开的实施例,图15A示出了噪声滤波红外图像的方法2220。在一个实现中,该方法2220涉及减少和/或去除红外成像装置(诸如图14的红外成像系统2100)的时域、1/f和/或固定空间噪声。方法2220适合在噪声滤波算法中利用红外图像数据的基于行和列的噪声分量。在一个方面,基于行和列的噪声分量可控制红外传感器成像中的噪声(例如,在典型的基于微测辐射热仪的系统中,总噪声的约2/3可以是空间的)。
在一个实施例中,图15A的方法2220包括行和列噪声滤波算法的高级框图。在一个方面,可最优化行和列噪声滤波算法以使用最小硬件资源。
参考图15A,方法2220的工艺流程实行操作的递归模式,其中在计算行和列噪声之前应用先前校正项,这可能会允许较低空间频率的校正。在一个方面,当空间校正行和列噪声时,递归方法是有用的。这有时也被称为条带,且在列噪声情况下,可显现为受类似偏移误差影响的几个邻近列。当用于差分计算的几个近邻受到类似误差时,可能会使用于计算误差的平均差偏离,且该误差仅可以被部分校正。通过在计算当前帧的误差之前应用部分校正,误差校正可被递归减少直到使误差最小或被消除。在递归情况下,如果不应用HPF(方框2208),则当混入噪声模型时,作为图像部分的自然梯度在几个反复之后可能会被扭曲。在一个方面,自然水平梯度可呈现为低的空间相关的列噪声(例如,严重的条带)。在另一方面,HPF可防止极低的频率场景信息干扰噪声估算,因此限制了递归滤波的负面影响。
参考图15A的方法2220,将红外图像数据(例如,原始视频源,诸如来自图14的图像捕获部件2130的)接收为输入视频数据(方框2200)。接下来,将列校正项应用于输入视频数据(方框2201),将行校正项应用于输入视频数据(方框2202)。接下来,在将列和行校正应用于输入视频数据之后将视频数据(例如,“清洁的”视频数据)提供为输出视频数据(2219)。在一个方面,术语“清洁的”指的是经由例如噪声滤波算法的一个或多个实施例从输入视频数据去除或减少噪声(方框2201、2202)。
参考图15A的处理部分(例如,递归处理),经由数据信号路径2219a将HPF应用于(方框2208)输出视频数据2219。在一个实现中,将高通滤波的数据分别提供给列噪声滤波部分2201a和行噪声滤波部分2202a。
参考列噪声滤波部分2201a,方法2220可适合如下处理输入视频数据2200和/或输出视频数据2219:
1.将在先前帧中计算的先前列噪声校正项应用于当前帧(方框2201)。
2.例如,如参考图16A-16C所述,通过减去低通滤波(LPF)操作的结果高通滤波当前帧的行(方框2208)。
3.对于每个像素,计算中心像素和一个或多个(例如,八个)最近近邻之间的差值(方框2214)。在一个实现中,最近近邻包括一个或多个最近的水平近邻。在不偏离该发明的范围的情况下,最近近邻可包括一个或多个垂直的或其它非水平的近邻(例如,不纯水平,即在同一行上)。
4.如果计算出的差值低于预定阈值,则将计算出的差值增加到特定列的差的直方图(方框2209)。
5.在当前帧的末端,通过检测累积差值的直方图找到中间差值(方框2210)。在一个方面,为了增加稳健性,可以仅使用与出现的一些特定最小量有关的差值。
6.延迟当前校正项达一个帧(方框2211),即将它们应用于下一个帧。
7.将中间差值(方框2210)增加到先前列校正项以提供更新的列校正项(方框2213)。
8.在下一个帧中应用更新的列噪声校正项(方框2201)。
参考行噪声滤波部分2202a,方法2220可适合如下处理输入视频数据2200和/或输出视频数据2219:
1.将在先前帧中计算的先前行噪声校正项应用于当前帧(方框2202)。
2.如类似于上述列噪声滤波部分2201a所述,通过减去低通滤波(LPF)操作的结果高通滤波当前帧的列(方框2208)。
3.对于每个像素,计算中心像素和一个或多个(例如,八个)最近近邻之间的差值(方框2215)。在一个实现中,最近近邻包括一个或多个最近的垂直近邻。在不偏离该发明的范围的情况下,最近近邻可包括一个或多个水平的或其它非垂直的近邻(例如,不纯垂直,即在同一列上)。
4.如果计算出的差值低于预定阈值,则将计算出的差值增加到特定行的差值的直方图(方框2207)。
5.在当前行(例如,排)的末端,通过检测累积差值的直方图找到中间差值(方框2206)。在一个方面,为了增加稳健性,可以仅使用与出现的一些特定最小量有关的差值。
6.使当前帧延长一个与使用的最近垂直近邻的量(例如八个)相等的时间周期。
7.将中间差值(方框2204)增加到先前帧的行校正项(方框2203)。
8.在当前帧中应用更新的行噪声校正项(方框2202)。在一个方面,这可能需要行缓冲器(例如,如在6中所提到的)
在一个方面,对于每列中的所有像素(或者它们的至少大子集),可将同一偏移项(或项组)应用于每个相关的列。这可以防止滤波器在空间上使局部细节模糊。
类似地,在一个方面,对于每行中的所有像素(或者它们的至少大子集),可分别应用同一偏移项(或项组)。这可以抑制滤波器空间模糊局部细节。
在一个实例中,列偏移项的估算可以仅使用行的子集(例如,前32行)来计算。在这种情况下,仅需要32行延迟在当前帧中应用列校正项。这可以改善滤波器消除高时域频率列噪声的性能。备选地,可设计具有最小延迟的滤波器,且一旦(例如,使用32行的数据)计算出适当的估算就只应用校正项一次。在这种情况下,只有33行及以上的可被最佳过滤。
在一个方面,可以不需要所有样品,且在这种情况下,例如仅使用每个第2或第4行计算列噪声。在另一方面,当计算行噪声时同样可以应用,在这种情况下,例如只可以使用每个第4列的数据。本领域的技术人员应该意识到,在不偏离该发明的范围的情况下可以使用各种其它迭代法。
在一个方面,滤波器可以递归模式操作,其中代替被滤波的原始数据,经滤波的数据被过滤。在另一个方面,如果使用递归(IIR)滤波器计算估算的相继平滑值,则可以以有效的方式使一行中的像素和邻近行中的像素之间的平均差值逼近。例如,代替获得平均近邻差值(例如,八个近邻的差值),可计算像素和平均近邻之间的差值。
按照该公开的实施例,图15B示出了噪声滤波红外图像数据的替代方法2230。参考图15A和15B,改变了图15A的方法2220的一个或多个过程步骤和/或操作的顺序,或者改变或组合成图15B的方法2230。例如,计算行和列近邻差值的操作(方框2214、2215)可被消除,或者与其它操作诸如产生行和列近邻差值的直方图(方框2207、2209)组合在一起。在另一个实例中,可在找到中间差值(方框2206)之后执行延迟操作(方框2205)。在各种实例中,应该意识到,类似的过程步骤和/或操作具有与图15A中先前描述的类似的范围,因此将不再重复描述。
在关于方法2220和2230的其它替代方法中,实施例可以不包括直方图,且代替计算中值差异而来依赖于计算平均差异。在一个方面,这可以略微降低稳健性但可以允许类似实现列和行噪声滤波器。例如,通过实现为无限冲击响应(IIR)滤波器的相继平滑值可使邻近行和列的各个平均值逼近。在行噪声的情况下,IIR滤波器实现可减少或甚至消除对平均计算几行数据的缓冲器的需要。
在关于方法2220和2230的其它替代方法中,可在视频数据的每个帧中计算新噪声估算并将其仅应用在下一个帧中(例如,在噪声估算之后)。在一个方面,这种替代方法可提供较少的性能但可易于实现。在另一个方面,这种替代方法可称为如本领域的技术人员所理解的非递归方法。
例如,在一个实施例中,图15C的方法2240包括行和列噪声滤波算法的高级框图。在一个方面,可最优化行和列噪声滤波算法以使用最小硬件资源。参考图15A和15B,类似的过程步骤和/或操作可具有类似的范围,因此不再重复描述。
参考图15C,方法2240的工艺流程实行操作的非递归模式。如所示的,方法2240将列偏移校正项2201和行偏移校正项2202应用于视频源2200的未校正的输入视频数据,以产生例如校正的或清洁的输出视频信号2219。在列噪声滤波部分2201a中,列偏移校正项2213基于特定列中的像素值和属于邻近列2214的一个或多个像素之间的平均差2210来计算。在行噪声滤波部分2202a中,行偏移校正项2203基于特定行中的像素值和属于邻近行2215的一个或多个像素之间的平均差2206来计算。在一个方面,可将其中将行或列偏移校正项2203、2213应用于视频源2200的输入视频数据的顺序(例如,行第一或列第一)考虑为随意的。在另一方面,行和列校正项在视频帧终止之前不是完全已知的,因此,如果不延迟视频源2200的输入视频数据,则不可以将行和列校正项2203、2213应用于由它们计算的输入视频数据。
在该发明的一个方面,列和行噪声滤波器算法可对由红外成像传感器(图14的图像捕获部件)提供的图像数据进行连续操作。与需要均匀场景(例如,如由快门或外部校准黑体所提供的)估算空间噪声的常规方法不同,如一个或多个实施例所述的,列和行噪声滤波算法可以对实时场景数据进行操作。在一个方面,假定对于位置[x,y]附近的一些小的近邻,由于它们是紧密接近的场景成像部分,所以邻近红外传感器元件应该提供类似的值。如果特定红外传感器元件的红外传感器读数不同于近邻,则这可能是空间噪声的结果。然而,在一些情况下,对于特定行和列中的每个传感器元件(例如,由于属于场景正常部分的局部梯度)这可能不是真的,但平均起来,行和列可具有与邻近行和列的值接近的值。
对于一个或多个实施例,通过首先去除一个或多个低空间频率(例如,使用高通滤波器(HPF)),可最小化场景贡献以去除与真实行和列空间噪声高度相关的差异。在一个方面,通过使用边缘保持滤波器,诸如中值滤波器或双边滤波器,由于图像中的强边,所以一个或多个实施例可以最小化伪影。
按照该公开的一个或多个实施例,图16A至16C示出了滤波红外图像的图形化实现(例如,数字计数对数据列)。图16A示出了在成像场景时作为实例的来自传感器元件行的典型值的图解说明(例如,图2300)。图16B示出了图16A的图像数据值的低通滤波(LPF)结果的图解说明(例如,图2310)。图16C示出了从图16A的原始图像数据减去图16B的低通滤波器(LPF)输出的图解说明,这产生了从图16A的原始图像数据场景去除低和中频率分量的高通滤波器(HPF)轮廓。因此,图16A-16C示例了可用于一个或多个实施例(例如,如同方法2220和/或2230)的HPF技术。
在该发明的一个方面,列和/或行噪声的最终估算可称为所有测量差异的平均或中值估算。由于通常已知红外传感器的噪声特性,所以可以将一个或多个阈值应用于噪声估算。例如,如果测量60数字计数的差异,但已知噪声通常小于10数字计数,则可以忽略该测量结果。
按照该公开的一个或多个实施例,图17示出了具有列5数据2402和八个最邻近近邻的数据(例如,最邻近像素近邻,列5数据2402左边的4列2410和列5数据2402右边的4列2411)的传感器数据行2401(例如,用于行中多个像素的像素数据行)的图解说明2400(例如,数字计数对数据列)。在一个方面,参考图17,传感器数据行2401是由多像素红外传感器或探测器(例如,图14的图像捕获部件2130)捕获图像或场景的传感器数据行的一部分。在一个方面,列5数据2402是被校正的数据列。对于该传感器数据行2401,列5数据2402和其邻近列(2410、2411)的平均数2403之间的差用箭头2404表示。因此,基于近邻数据可得到并解释的噪声估算。
按照该公开的一个或多个实施例,图18A至18C示出了列和行噪声滤波红外图像(例如,来自红外视频数据的图像帧)的示范性实现。图18A示出了具有从存在严重的行和列噪声的场景估算的列噪声的红外图像2500和列校正项的对应图表2502。图18B示出了红外图像2510和行校正项的对应图表2512,红外图像2520的列噪声消除且空间行噪声仍然存在,其中行校正项从图18A的场景估算。图18C示出了图18A中场景的作为行和列噪声消除(例如,应用图18A-18B的列和行校正项)的纯净的红外图像的红外图像2520。
在一个实施例中,图18A示出了具有严重行和列噪声的红外视频帧(即,红外图像2500)。如本文所述的,计算列噪声校正系数以产生例如639校正项,即每列一个校正项。图表2502示出了列校正项。从图18A的红外视频帧2500减去这些偏移校正项以产生图18B中的红外图像2510。如图18B所示,行噪声依然存在。如本文所述的,计算行噪声校正系数以产生例如639行项,即每行一个校正项。图表2512示出了行偏移校正项,从图18B中的红外图像2510减去它以产生图18C中的具有显著减少或消除的行和列噪声的清洁的红外图像2520。
在各种实施例中,应该理解不需要行和列两种滤波。例如,可在方法2220、2230或2240中或者执行列噪声滤波2201a或者执行行噪声滤波2202a。
应该意识到,对一列或一行的任何引用可包括一部分列或一部分行,且术语“行”和“列”是可互换的且不是限制的。例如,在不偏离该发明的范围的情况下,基于该申请,术语“行”可用于描述一行或一列,同样地,术语“列”可用于描述一行或一列。
在各种方面,按照如本文所述的噪声滤波算法的实施例,列和行噪声可通过查看真实场景(例如,不是快门或黑体)来估算。列和行噪声可通过测量特定行(和/或列)中元件的传感器读数和邻近行(和/或列)的传感器读数之间的中值或平均差来估算。
可选地,可在测量差异之前将高通滤波器应用于图像数据,这样可减少或至少最小化使属于场景部分的梯度变形和/或引入伪影的风险。在一个方面,在平均值和中值估算中只可以使用相差少于可配置阈值的传感器读数。可选地,直方图可用于有效地估算中值。可选地,当从直方图中找出中值估算时,只可以使用超过最小计数的直方图。可选地,递归IIR滤波器可用于估算像素和其近邻之间的差异,这可以减少或至少使存储用于处理例如行噪声部分(例如,如果从传感器的行方向读出图像数据)的图像数据的需要最小化。在一个实现中,用于行j的列i的当前平均列值可使用下面的递归滤波器算法来估算。
在该等式中,α是阻尼系数且可以设置为例如0.2,在这种情况下,处于行j的特定列i的相继平滑值的估算将是处于行j的列i-1的估算的相继平滑值和处于行j和列i的当前像素值的加权和。通过得到每个值Ci,j和上述行近邻的相继平滑的递归值i之间的差,现在可使行j的值和近邻行的值之间的估算差异逼近。由于仅使用上述行,但与存储几行的真实像素值相比,它需要仅存储一行的相继平滑值,所以估算平均差的这种方式不像得到的真实平均差一样精确。
在一个实施例中,参考图15A,方法2220的工艺流程可实行操作的递归模式,其中在计算行和列噪声之前应用先前的列和行校正项,当在估算噪声前高通滤波图像时,这允许了较低空间频率的校正。
通常,在处理期间,递归滤波器会重新使用至少部分的输出数据作为输入数据。递归滤波器的反馈输入可称为无限脉冲响应(IIR),其特征在于例如指数增长输出数据、指数下降输出数据或正弦输出数据。在一些实现中,递归滤波器可不具有无限脉冲响应。因此,例如,移动平均滤波器的一些实现起到递归滤波器的作用但具有有限脉冲响应(FIR)。
如图19A至22B描述的进一步所述,考虑确定行和/或列校正项的附加技术。例如,在一些实施例中,这种技术可用于在不过度补偿在场景2170中的存在的垂直和/或水平对象的情况下提供校正项。这种技术可用在可频繁捕获这种对象的任何适当的环境中,包括例如市内应用、乡下应用、车辆应用以及其它等等。在一些实施例中,与用于确定校正项的其它方法相比,这种技术可提供具有减小的存储器和/或减少的处理开销的校正项。
图19A示出了根据该公开实施例的场景2170的红外图像2600(例如,红外图像数据)。虽然将红外图像2600描绘为具有16行和16列,但可以考虑其它图像尺寸的红外图像2600和本文论述的各种其它的红外图像。例如,在一个实施例中,红外图像2600可以具有640列和512行。
在图19A中,红外图像2600描绘了相对均匀的场景2170,其中红外图像2600的大多数像素2610具有相同或类似强度(例如,相同或类似数字计数数量)。而且在该实施例中,场景2170包括出现在红外图像2600的列2620A的像素2622A-D中的对象2621。在这一点上,描述了稍微暗于红外图像2600的其它像素2610的像素2622A-D。为了论述的目的,假定较暗色像素可与较高数字计数数量相关,然而,如果期望,较浅色像素可与其它实现中的较高数字计数数量相关。如所示的,列2620A的剩余像素2624具有与像素2610基本一致的强度。
在一些实施例中,对象2621可以是垂直对象,诸如建筑物、电话杆、灯杆、输电线、蜂窝塔、树、人类和/或其它对象。如果将图像捕获部件2130布置在接近对象2621的车辆中,则当车辆不动地充分远离对象2621时,对象2621也可以相对固定地出现在红外图像2600中(例如,对象2621可依然主要用像素2622A-D表示且可在红外图像2600内没有明显的偏移位置)。如果将图像捕获部件2130布置在相对于对象2621的固定位置,则对象2621也可以相对固定地出现在红外图像2600中(例如,如果对象2621被固定和/或位于充分远离的位置)。也可以考虑图像捕获部件2130相对于对象2621的其它布置。
红外图像2600还包括由例如时域噪声、固定空间噪声、故障传感器/电路、真实场景信息和/或其它源引起的另一个像素2630。如图19A所示,像素2630比所有的像素2610和2622A-D暗(例如,具有较高数字计数数量)。
对于一些列校正技术,垂直对象(诸如用像素2622A-D描绘的对象)2621通常是不确定的。在这一点上,当在不考虑出现在场景2170中的小的垂直对象的可能存在的情况下计算列校正项时,依然主要布置在一个或几个列中的对象可能会导致过度补偿。例如,当比较列2620A的像素2622A-D和附近列2620B-E的像素时,一些列校正技术可以将像素2622A-D解释为列噪声,而不是真实场景信息。实际上,相对于像素2610的像素2622A-D的明显较暗的外观和布置在列2620A中的相对小的宽度可偏离充分校正整个列2620A的列校正项的计算,虽然列2620A的仅有小部分实际上包括较暗的场景信息。结果,为了补偿假定的列噪声,针对列2620A确定的列校正项可明显使列2620A变亮(例如,增加或减少数字计数的数量)。
例如,图19B示出了图19A的红外图像2600的校正版2650。如图19B所示,已显著变亮列2620A。使像素2622A-D显著变亮以与像素2610大致一样,且像素2622A-D中包含的真实场景信息(例如,对象2621的描绘)已大部分丢失。另外,显著变亮列2620A的剩余像素2624以使它们不再与像素2610基本一致。实际上,应用于列2620A的列噪声校正项在相对于场景2170的剩余部分的像素2624中实际上引入了新的非均匀性。
本文描述的各种技术可用于在不过度补偿可出现在场景2170的各种垂直对象的外观的情况下确定列校正项。例如,在一个实施例中,当将这种技术应用于图19A的列2620A时,暗像素2622A-D的存在可以不对列2620A的列校正项引起任何进一步变化(例如,应用校正之后,列2620A可以呈现为如图19A所示而不是如图19B所示)。
按照本文进一步描述的各种实施例,在不过度补偿出现在场景2170中的垂直对象的存在的情况下,可确定用于每列红外图像的对应列校正项。在这一点上,可以比较红外图像的选择列的第一像素(例如,存在于特定行中的列的像素)和在与第一像素有关的在近邻内的对应的一组其它像素(例如,也称为邻近像素)。在一些实施例中,近邻可对应于与在列范围内的第一像素同一行中的像素。例如,近邻可用交叉点来定义:与第一像素相同的行;和预先确定的列的范围。
列的范围可以是选择列的左侧、右侧或左和右两侧上的任何期望的列数。在这一点上,如果列的范围对应于选择列两侧上的两列,则可以进行第一像素的四个比较(例如,选择列左边的两列和选择列右边的两列)。虽然在此进一步描述了选择列两侧上的两列的范围,但也可以考虑其它范围(例如,5列、8列或任何期望的列数)。
基于比较,调整(例如,增加、减少或以其它方式更新)一个或多个计数器(例如,记录器、存储位置、累加器和/或在处理部件2110、噪声滤波模块2112、存储部件2120和/或其它部件中的其它实现)。在这一点上,对于其中选择列的像素小于比较像素的每个比较,可以调整计数器A。对于其中选择列的像素具有与比较像素相等(例如,精确等于或充分等于)的值的每个比较,可以调整计数器B。对于其中选择列的像素具有比比较像素大的值的每个比较,可以调整计数器C。因此,如果列范围对应于如上述实例中确定的选择列任一侧上的两列,则总共4个调整(例如,计数)可由计数器A、B和C共同拥有。
在比较选择列的第一像素和其对应近邻中的所有像素之后,对选择列中的所有剩余像素(例如,红外图像每行的一个像素)重复该过程,并响应对剩余像素执行的比较继续调整计数器A、B和C。在这一点上,在一些实施例中,可比较选择列的每个像素和像素的不同对应近邻(例如,像素属于:与选择列的像素在同一行中;和在列范围内),并基于这种比较结果调整计数器A、B和C。
结果,在比较选择列的所有像素之后,计数器A、B和C可以确定选择列像素大于、等于或小于邻近像素的比较数量。因此,继续上述实例,如果红外图像具有16行,则可以分布穿过计数器A、B和C的用于选择列的总共64个计数(例如,每行4个计数x16行=64个计数)。考虑可以使用其它计数数量。例如,在具有512行且使用10列范围的大阵列中,可使用5120个计数(例如,512行x 10列)确定每列校正项。
基于计数器A、B和C中的计算的分布,基于使用一个或多个计数器A、B和/或C的值执行的一个或多个计算,可使选择列的列校正项选择性的增加、减少或保持相同。例如,在一个实施例中:如果计数器A-计数器B-计数器C>D,则可增加列校正项;如果计数器C-计数器A-计数器B>D,则可减少列校正项;在所有其它情况下列校正项可保持相同。在这种实施例中,D可以是小于由每列的计数器A、B和C累积的比较总量的值,诸如常数。例如,在一个实施例中,D可具有等于(行数)/2的值。
为了确定(例如,计算和/或更新)用于红外图像每列的对应列校正项,可对红外图像的剩余列重复执行该过程。另外,在确定用于一列或多列的列校正项之后,可在将列校正项应用于同一红外图像和/或另一个红外图像(例如,随后捕获的红外图像)之后,对一列或多列重复该过程(例如,增加、减少或不改变一列或多列校正项)。
如所述的,计数器A、B和C识别小于、等于或大于选择列像素的比较像素的数量。这与用于确定列校正项的的各种其它技术形成了对比,在各种其他技术中可使用比较像素之间的实际差异(例如,计算的差值)。
通过基于小于、等于或大于关系(例如,而不是不同像素的数字计数之间的实际数值差异)确定列校正项,列校正项可能会因为出现在红外图像中的小的垂直对象的存在而出现较小偏离。在这一点上,通过使用该方法,具有高数字计数数量的小的对象(诸如对象2621)不会无故计算过度补偿这种对象的列校正项(例如,导致如图19B所示的不期望的红外图像2650)。相反,使用这种方法,对象2621不会对列校正项产生任何变化(例如,导致如图19A所示的未变化的红外图像2600)。然而,通过列校正的项的调整可适当减少可合理识别为列噪声的较大的对象(诸如2721)(例如,导致如图20B所示的校正的红外图像2750)。
另外,使用该方法可减少其它类型的场景信息对列校正项值的影响。在这一点上,计数器A、B和C识别选择列像素和邻近像素之间的相对关系(例如,小于、等于或大于关系)。在一些实施例中,这种相对关系可对应于例如选择列的像素的值和邻近像素的值之间差异的符号(例如,正、负或零)。通过使用这种相对关系而不是实际数值差,指数场景变化(例如,非线性场景信息梯度)可较少对列校正项确定起作用。例如,为了比较的目的,某些像素中的指数较高的数字计数可被处理成简单地大于或小于其它像素,因此将不过分偏离列校正项。
另外,通过识别这种相对关系而不是计数器A、B和C的实际数值差,在一些实施例中能够减少高通滤波。在这一点上,在低频率场景信息或噪声在整个比较的像素近邻保持相当一致的情况下,这种低频率含量不会显著影响比较像素之间的相对关系。
有利地,计数器A、B和C提供了计算列校正项的一种有效方法。在这一点上,在一些实施例中,只使用三个计数器器A、B和C来存储对选择列执行的所有像素比较的结果。这与存储更多唯一值(例如,其中存储特定数值差,或这种数值差的出现次数)的各种其它方法形成了对比。
在一些实施例中,其中红外图像的总行数是已知的,通过省略计数器B可实现进一步的效率。在这一点上,基于用于比较的列范围和红外图像的行数,可知道计数的总数。另外,可假定不会导致计数器A或计数器C被调整的任何比较将对应于像素具有相等值的那些比较。因此,计数器B具有的值可由与计数器A和C来确定(例如,(行数x范围)-计数器A值-计数器B值=计数器C值)。
在一些实施例中,可以仅使用单个计数器。在这一点上,对于其中选择列像素具有比比较像素大的值的每个比较,单个计数器可被选择性以第一方式(例如,增加或减少)调整;对于其中选择列像素具有比比较像素小的值的每个比较,单个计数器可被选择性以第二方式调整(例如,减少或增加);以及对于其中选择列像素具有与比较像素相等(例如,精确等于或充分等于)的值的每个比较,单个计数器不被调整(例如,保持其现存值)。因此,单个计数器的值可以表示大于或小于选择列像素的比较像素的相对数量(例如,在比较选择例的所有像素和对应邻近像素之后)。
基于单个计数器的值,可以更新(例如,增加、减少或保持相同)选择列的列校正项。例如,在一些实施例中,如果在执行比较之后单个计数器表现出基准值(例如,零或其它数),则列校正项可以保持相同。在一些实施例中,如果单个计数器大于或小于基准值,则列校正项可选择性地适当增加或减少以降低比较像素和选择列像素之间的整体差异。在一些实施例中,更新列校正项的条件是:基于具有不同于选择列像素值的比较像素的限制数量,单个计数器具有不同于基准值至少阈值量的值以防止列校正项过度偏离。
这些技术也可用于适当地补偿红外图像中的较大的垂直异常现象。例如,图20A示例了根据该公开实施例的场景2170的红外图像2700。类似于红外图像2600,红外图像2700描绘了相对均匀的场景2170,其中红外图像2700的大多数像素2710具有相同或类似强度。而且在该实施例中,红外图像2700的列2720A包括稍微暗于像素2710的像素2711A-M,而列2720A的剩余像素2724具有与像素2710基本一致的强度。
然而,与图19A的像素2622A-D相比,图20A的像素2722A-M占了列2720A的绝大多数。如此,用像素2722A-M描绘的对象2721实际上可能是异常现象(诸如列噪声)或其它不期望的源,而不是真实结构或其它真实场景信息。例如,在一些实施例中,考虑到占用至少一列的绝大多数的真实场景信息将也可能占一行或多行的大部分水平部分。例如,紧密接近于图像捕获部件2130的垂直结构可能会占红外图像2700的多列和/或多行。由于对象2721呈现为仅占一列2721A的绝大多数的高窄波带,所以对象2721实际上很可能是列噪声。
图20B示出了图20A的红外图像2700的校正版2750。如图20B所示,列2720A已经变亮,但不像红外图像2650的列2620A一样明显。像素2722A-M已经变亮,但看上去仍然稍微暗于像素2710。在另一个实施例中,可校正列2720A以使像素2722A-M约与像素2710一致。还如图20B所示,列2720A的剩余像素2724已经变亮,但不像红外图像2650的像素2624一样明显。在另一个实施例中,可以进一步变亮像素2724或者可保持与像素2710基本一致。
关于图21和22A-B,进一步说明了这些技术的各种方面。在这一点上,图21是示出根据该公开实施例的噪声滤波红外图像的方法2800的流程图。虽然引用了与图21的特定方框有关的系统2100的特定部件,但是关于图21的各种操作可以通过任何适当部件来执行,诸如图像捕获部件2130、处理部件2110、噪声滤波模块2112、存储部件2120、控制部件2140和/或其它等。
在方框2802中,图像捕获部件2310捕获场景2170的红外图像(例如,红外图像2600或2700)。在方框2804中,噪声滤波模块2112将现有的行和列校正项应用于红外图像2600/2700。在一些实施例中,这种现有的行和列校正项可用本文描述的各种技术、工厂校准操作和/或其它适当的技术中的任何一种技术来确定。在一些实施例中,应用在方框2804中的列校正项在方框2804的第一循环期间可不确定(例如,零),可在图21的一个或多个循环期间确定并更新。
在方框2806中,噪声滤波模块2112选择红外图像2600/2700的列。虽然在下面的描述中将引用列2620A和2720A,但是可以使用任何期望的列。例如,在一些实施例中,在方框2806的第一循环可以选择红外图像2600/2700的最右边或最左边的列。在一些实施例中,方框2806还可以包括将计数器A、B和C重新设置为零或其它适当的缺省值。
在方框2808中,噪声滤波模块2112选择红外图像2600/2700的行。例如,在方框2808的第一循环可以选择红外图像2600/2700的最上边的行。在其它实施例中可以选择其它行。
在方框2810中,噪声滤波模块2112选择附近的另一列以比较列2620A。在该实例中,近邻具有列2620A/2720A两侧上的两列(例如,列2620B-E/2720B-E)的范围,对应于像素2602A/2702A的任一侧上的行2601A/2701A中的像素2602B-E/2702B-E。因此,在一个实施例中,在方框2810的该循环中可选择列2620B/2720B。
在方框2812中,噪声滤波模块2112比较像素2602B/2702B和像素2602A/2702A。在方框2814中,如果像素2602A/2702A具有小于像素2602B/2702B的值,则调整计数器A。如果像素2602A/2702A具有等于像素2602B/2702B的值,则调整计数器B。如果像素2602A/2702A具有大于像素2602B/2702B的值,则调整计数器C。在该实例中,像素2602A/2702A具有等于像素2602B/2702B的值。因此将调整计数器B,且在方框2814的该循环中将不调整计数器A和C。
在方框2816中,如果依然比较近邻中的附加列(例如,列2620C-E/2720C-E),则重复方框2810-2816以比较近邻的剩余像素和像素2602A/2702A(例如,属于列2620C-E/2720C-E中和行2601A/2701A中的像素2602B-E/2702B-E)。在图19A/20A中,像素2602A/2702A具有与所有像素2602B-E/2702B-E相等的值。因此,在比较像素2602A/2702A和其近邻的所有像素之后,计数器B将被调整4个计数,且计数器A和C将不被调整。
在方框2818中,如果附加行依然在红外图像2600/2700中(例如,行2601B-P/2701B-P),则以如上所述的一行行为基础地重复方框2808-2818,以比较列2620A/2720A的剩余像素和列2602B-E/2702B-E的剩余像素。
方框2818之后,将列2620A/2720A的16个像素中的每个像素与4个像素比较(例如,列2620A/2720A的每个比较像素一样的属于同一行中的列2620B-E的像素),总共64次比较。64个调整的结果由计数器A、B和C共享。
图22A示出了根据该公开实施例的在列2620A的所有像素与包括在列2620B-E中的像素的各个近邻比较之后用直方图2900表示的计数器A、B和C的值。在该实例中,计数器A、B和C的值分别为1、48和15。因为列2620A的像素2622A具有小于列2620B的像素2630的值,所以计数器A仅被调整了一次。因为当与列2620B-E的邻近像素比较时(例如,除如上指出的像素2630之外)像素2622A-D每个都具有较大值,所以计数器C被调整了15次。因为列2620A的剩余像素2624具有与列2620B-E的剩余邻近像素相等的值,所以计数器B被调整了48次。
图22B示出了根据该公开实施例的在列2720A的所有像素与包括在列2720B-E中的像素的各个近邻比较之后用直方图2950表示的计数器A、B和C的值。在这种情况下,计数器A、B和C的值分别为1、12和51。与图22A类似,因为列2720A的像素2722A具有小于列2720B的像素2730的值,所以图22B中计数器A仅被调整一次。因为当与列2720B-E的邻近像素比较时(例如,除如上指出的像素2730之外)像素2722A-M每个都具有较大值,所以计数器C被调整了51次。因为列2720A的剩余像素具有与列2720B-E的剩余近邻比较像素相等的值,所以计数器B被调整了12次。
再次参考图21,在方框2820中,基于计数器A、B和C的值,更新(例如,选择性增加、减少或保持相同)列2620A/2720A的列校正项。例如,如上所述,在一个实施例中,如果计数器A-计数器B-计数器C>D,则可以增加列校正项;如果计数器C-计数器A-计数器B>D,则可以减少列校正项;在所有其它情况下,列校正项可以保持相同。
在红外图像2600的实例中,将上述计算应用于图22A中确定的计数器值导致列校正项没有变化(例如,1(计数器A)-48(计数器B)-15(计数器C)=-62,其不大于D,其中D等于(16行)/2;和15(计数器C)-1(计数器A)-48(计数器B)=-34,其也不大于D,其中D等于(16行)/2)。因此,在这种情况下,计数器A、B和C的值和其上执行计算表示像素2622A-D的值与场景2710的真实对象(例如,对象2621)相关。因此,用像素2622A-D表示的小的垂直结构2621将不会导致在列2620A的列校正项中的任何过度补偿。
在红外图像270的实例中,将上述计算应用于图22B中确定的计数器值导致列校正项减少(例如,51(计数器C)-1(计数器A)-12(计数器B)=38,其大于D,其中D等于(16行)/2)。因此,在这种情况下,计数器A、B和C的值和其上执行计算表示像素2722A-M的值与列噪声相关。因此,用像素2722A-M表示的大的垂直结构2721将会使导致2720A变亮以改善如20B所示的校正的红外图像2750的均匀性。
在方框2822,如果附加列依然使它们的列校正项更新,则该过程返回到方框2806,其中重复方框2806-2822以更新另一列的列校正项。在所有列校正项更新之后,该过程返回到捕获另一红外图像的方框2802。在该方式中,可重复图21以便为每个新捕获的红外图像更新列校正项。
在一些实施例中,每个新捕获的红外图像都可充分不同于新近的前面的红外图像。这可以由例如基本静态场景2170、缓变场景2170、红外图像的时域滤波和/或其它传感器产生。在这些情况下,由图21确定的列校正项的精确性可以改善,像在图21的每个循环中可选择性的增加、减少它们或使它们保持不变一样。结果,在一些实施例中,许多列校正项最终可达到基本稳定状态,其中在图21的足够数量的循环之后和当红外图像基本不变时,它们保持相对不变。
也可以考虑其它实施例。例如,可重复方框2820多次以使用用于每个更新的相同的红外图像更新一个或多个列校正项。在这一点上,在方框2820中更新一个或多个列校正项之后,图21的过程可以返回到方框2804以将更新的列校正项应用于用于确定更新的列校正项的相同的红外图像。结果,使用相同红外图像可反复更新列校正项。这种方法可用在例如脱机(非实时)处理中和/或用在具有足够处理能力的实时实现中。
另外,可适当地将关于图19A-22B描述的各种技术中任何一种技术与本文描述的其它技术组合在一起。例如,可以如期望地组合本文描述的各种技术的一些或所有部分以执行噪声滤波。
虽然关于图19A-22B主要论述了列校正项,但也可以将描述的技术应用于基于行的处理。例如,这种技术可用于在不过度补偿出现在场景2170中的小的水平结构的情况下确定并更新行校正项,同时适当地补偿真实行噪声。除了或替代本文描述的基于列的各种处理之外,可执行这种基于行的处理。例如,可以为这种基于行的处理提供附加计数器A、B和/或C的实现。
在一些以行为基础读出红外图像的实施例中,由于行校正项被更新,可以迅速地提供行校正的红外图像。类似地,在一些以列为基础读出红外图的实施例中,由于列校正项被更新,可以迅速地提供列校正的红外图像。
现在参考图23A-E,如所述的,在一些实施例中,关于图23A-E描述的技术可用于替代和/或附加到方框565-573(参照图5和8)的一个或多个操作以估算FPN和/或确定NUC项(例如,平场校正项)。例如,在一些实施例中,这种技术可用于在不需要高通滤波器的情况下确定NUC项以校正空间相关的FPN和/或空间不相关(例如,随意的)的FPN。
图23A示例了根据该公开实施例的场景2170的红外图像3000(例如,红外图像数据)。虽然描绘了具有16行和16列的红外图像3000,但可考虑其它图像尺寸的红外图像3000和本文论述的各种其它红外图像。
在图23A中,红外图像3000描述了相对均匀的场景2170,其中红外图像3000的多数像素3010具有相同或类似强度(例如,相同或类似数字计数数量)。而且在该实施例中,红外图像3000包括描绘得比红外图像3000的其它像素3010稍微暗的像素3020和描绘得稍微亮的像素3030。正如前面所提到的,为了论述的目的,假定较暗的像素可与较高数字计数数量相关,然而,如果期望,较亮的像素可与其它实现中的较高数字计数数量相关。
在一些实施例中,红外图像3000可以是在本文先前描述的图5和8的方框560和/或方框565接收的图像帧。在这一点上,红外图像3000可以是由方框555和/或560提供的有意模糊的图像帧,其中多数高频率含量因为例如时域滤波、散焦、运动、累积的图像帧和/或其它适当的技术而被滤出。如此,在一些实施例中,仍然在红外图像3000中的任何剩余的高空间频率含量(例如,呈现为对比区域或模糊图像帧中的差异)可被认为是空间相关的FPN和/或空间不相关的FPN。
因此,假定基本均匀像素3010通常对应于模糊的场景信息,像素3020和3030对应于FPN。例如,如图23A所示,像素3020和3030被布置在几个组中,它们中每个都被放置在贯穿多行和列的红外图像3000的总区域中,但不与单行或列相关。
本文描述的各种技术可用于在不过度补偿附近暗或亮像素的存在的情况下确定NUC项。如本文的进一步描述,当这种技术用于确定红外图像3000的单个像素(例如,3040、3050和3060)的NUC项时,在不过度补偿FPN的其它情况下,可以确定适当的NUC项以在某些情况下适当地补偿FPN。
按照本文进一步描述的各种实施例,可以为红外图像的每个像素确定对应的NUC项。在这一点上,可以将红外图像的所选像素与对应组的在与所选像素有关的近邻范围内的其它像素(例如,也称为邻近像素)比较。在一些实施例中,近邻可以对应于在所选像素的选择的距离范围内(例如,在选择的核心尺寸范围内)的像素(例如,在所选像素周围和/或邻近所选像素的像素的N乘N近邻)。例如,在一些实施例中,可使用5的核心,但也可以考虑更大或更小的尺寸。
如关于图19A-22B的类似论述,基于比较调整(例如,增加、减少或以其它方式更新)一个或多个计数器(例如,记录器、存储位置、累加器和/或在处理部件2110、噪声滤波模块2112、存储部件2120和/或其它部件中的其它实现)。在这一点上,对于所选像素具有比近邻比较像素小的值的每个比较,可以调整计数器E。对于所选像素具有等于(例如,精确等于或充分等于)近邻比较像素的值的每个比较,可以调整计数器F。对于所选像素具有比近邻比较像素大的值的每个比较,可以调整计数器G。因此,如果近邻使用5的核心,则在所选像素和其邻近像素之间产生总共24个比较。因此,总共24个调整(例如,计数)可由计数器E、F和G共同拥有。在这一点上,计数器E、F和G可以识别邻近像素大于、等于或小于所选像素的比较数量。
在比较所选像素和其近邻中的所有像素之后,基于计数器E、F和G的值,可为像素确定(例如,调整)NUC项。基于计数器E、F和G中计数的分布,所选像素的NUC项可以基于使用一个或多个计数器E、F和/或G的值执行的一个或多个计算选择性增加、减少或保持相同。
NUC项的这种调整可按照任何期望的计算来执行。例如,在一些实施例中,如果计数器F明显大于计数器E和G或者在特定阈值以上(例如,表示大量邻近像素精确等于或充分等于所选像素),则可以判定NUC项应保持相同。在这种情况下,即使几个邻近像素展现出明显高于或低于所选像素的值,那些邻近像素也不会偏离在其它的基于平均值或基于中值的计算中出现的NUC项。
作为另一个实例,在一些实施例中,如果计数器E或计数G在特定阈值以上(例如,表示大量邻近像素大于或小于所选像素),则可以判定NUC项应该适当地增加或减少。在这种情况下,由于基于大量大于、等于或小于所选像素的邻近像素,可增加或减少NUC项(例如,而不是这种邻近像素的真实像素值),所以在不引入非故意过度补偿像素值差异的迅速变化的情况下,可以渐进的方式调整NUC项。
通过重新设置计数器E、F和G、选择红外图像3000的另一个像素、执行与其邻近像素的比较并基于计数器E、F和G的新值确定它的NUC项,可重复该过程。这些操作可以如期望地重复,直到为红外图像3000的每个像素确定NUC项。
在一些实施例中,在为所有像素确定NUC项之后,该过程可被重复以使用同一红外图像3000(例如,在应用NUC项之后)和/或另一红外图像(例如,随后捕获的红外图像)进一步更新NUC项。
如所述的,计数器E、F和G识别大于、等于或小于所选像素的邻近像素的数量。这与用于确定NUC项的各种其它技术形成对比,在各种其他技术中可使用比较像素之间的真实差异(例如,计算差值)。
计数器E、F和G识别所选像素和其邻近像素之间的相对关系(例如,小于、等于或大于关系)。在一些实施例中,这种相对关系可对应于例如所选像素和其邻近像素的值之间差异的符号(例如,正、负或零)。通过基于相对关系而不是实际数值差确定NUC项,NUC项可以不会因为具有数字计数的广泛偏离所选像素的少量邻近像素而出现了偏离。
另外,使用该方法可以减少其它类型场景信息对NUC项值的影响。在这一点上,由于计数器E、F和G识别像素之间的相对关系而不是实际数值差,指数场景变化(例如,非线性场景信息梯度)可对NUC项确定起较少作用。例如,为了比较的目的,某些像素中的指数较高的数字计数可被处理为简单地大于或小于其它像素,因此将不过分偏离列校正项。而且,在不需要无意使表示非线性斜率的红外图像变形的情况下,可以使用该方法。
有利地,计数器E、F和G提供了计算NUC项的有效方法。在这一点上,在一些实施例中,仅三个计数器E、F和G用于存储对所选像素执行的所有邻近像素比较的结果。这与各种其它方法形成了对比,在各种其他方法中存储更多唯一值(例如,其中存储特定数值差,或这种数值差的出现次数)、使用中值滤波器(例如,其需要存储并利用包括计算密集型除法运算的高通或低通滤器以得到邻近像素值的加权平均值)。
在一些近邻和/或核心的尺寸是已知的实施例中,通过省略计数器E可实现进一步的效率。在这一点上,基于在该近邻中已知的像素的数量,可以知道计数的总数。另外,可假定不会导致计数器E或计数器G调整的任何比较将对应于像素具有相等值的那些比较。因此,计数器F拥有的值可由计数器E和G来确定(例如,(邻近像素数)-计数器E值-计数器G值=计数器F值)。
在一些实施例中,可以仅使用单个计数器。在这一点上,对于所选像素具有比邻近像素大的值的每个比较,单个计数器可被选择性地以第一方式(例如,增加或减少)调整,对于所选像素具有比邻近像素小的值的每个比较,单个计数器可被选择性地以第二方式调整(例如,减少或增加),对于所选像素具有等于(例如,精确等于或充分等于)邻近像素的值的每个比较,单个计数器可以不被调整(例如,保持其现存值)。因此,单个计数器的值可以表示大于或小于所选像素的比较像素的相对数量(例如,在比较所选像素和所有其对应的邻近像素之后)。
基于单个计数器的值,可以更新(例如,增加、减少或保持相同)所选像素的NUC项。例如,在一些实施例中,如果单个计数器在执行比较之后表现出基准值(例如,零或其它数),则NUC项可以保持相同。在一些实施例中,如果单个计数器大于或小于基准值,则NUC项可选择性地适当增加或减少以降低所选像素和其对应邻近像素之间的整体差异。在一些实施例中,更新NUC项的条件是:基于具有不同于所选像素值的邻近像素的限制数量,单个计数器具有不同于基准值至少阈值量的值以防止NUC项过度偏离。
关于图23B-E,进一步说明了这些技术的各种方面。在这一点上,图23B是示出根据该公开实施例的噪声滤波红外图像的方法3100的流程图。虽然引用了与图23B的特定方框有关的系统2100的特定部件,但是关于图23B描述的各种操作可以通过任何适当部件来执行,诸如图像捕获部件2130、处理部件2110、噪声滤波模块2112、存储部件2120、控制部件2140和/或其它等。在一些实施例中,可例如代替图5和8的方框565-573执行图23B的操作。
在方框3110中,接收图像帧(例如,红外图像3000)。例如,如所述的,红外图像3000可以是由方框555和/或560提供的有意模糊的图像帧。
在方框3120中,噪声滤波模块2112选择将要确定NUC项的红外图像3000的像素。例如,在一些实施例中,所选像素可以是像素3040、3050或3060。然而,可以选择红外图像3000的任何像素。在一些实施例中,方框3120还可以包括将计数器E、F和G重新设置为零或其它适当的缺省值。
在方框3130中,噪声滤波模块2112选择与所选像素有关的近邻(例如,像素近邻)。如所述的,在一些实施例中,这些近邻可对应于在所选像素的选择距离范围内的像素。在所选像素3040的情况中,5的核心对应于近邻3042(例如,包括在所选像素3040周围的24个邻近像素)。在所选像素3050的情况中,5的核心对应于近邻3052(例如,包括在所选像素3050周围的24个邻近像素)。在所选像素3060的情况中,5的核心对应于近邻3062(例如,包括在所选像素3060周围的24个邻近像素)。如所述的,也可以考虑更大和更小核心尺寸。
在方框3140和3150中,噪声滤波模块2112比较所选像素和其邻近像素并基于在方框3140中执行的比较调整计数器E、F和G。可以以期望的组合执行方框3140和3150,以在执行每个比较之后和/或在所有比较之后更新计数器E、F和G。
在所选像素3040的情况中,图23C示出了在所选像素3040与邻近像素3042比较之后用直方图3200表示的计数器E、F和G的调整值。与所选像素3040相比,近邻3042包括具有高值的4个像素、具有等值的17个像素和具有低值的3个像素。因此,计数器E、F和G可被调整为图23C示出的值。
在所选像素3050的情况中,图23D示出了在所选像素3050与邻近像素3052比较之后用直方图3250表示的计数器E、F和G的调整值。与所选像素3050相比,近邻3052包括具有高值的0个像素、具有等值的6个像素和具有低值的18个像素。因此,计数器E、F和G可被调整为图23D示出的值。
在所选像素3060的情况中,图23E示出了在所选像素3060与邻近像素3062比较之后用直方图3290表示的计数器E、F和G的调整值。与所选像素3060相比,近邻3062包括具有高值的19个像素、具有等值的5个像素和具有低值的0个像素。因此,计数器E、F和G可被调整为图23E示出的值。
在方框3160中,基于计数器E、F和G的值更新(例如,选择性增加、减少或保持相同)所选像素的NUC项。这种更新可按照使用计数器E、F和G的值的任何适当的计算来执行。
例如,在所选像素3040的实例中,图23C中的计数器F表示大多数邻近像素(例如,17个邻近像素)具有等于所选像素3040的值,而计数器E和G表示少量邻近像素具有大于(例如,4个邻近像素)或小于(例如,3个邻近像素)所选像素3040的值。而且,具有大于和小于所选像素3040的值的邻近像素的数量是类似的(例如,分别是4个和3个邻近像素)。因此,在这种情况下,由于所选像素3040的进一步偏移很可能会将额外的非均匀性引入到红外图像3000中,所以噪声滤波模块2112可选择保持所选像素3040的NUC项相同(例如,不变化)。
在所选像素3050的情况中,图23D中的计数器G表示大多数邻近像素(例如,18个邻近像素)具有小于所选像素3050的值,而计数器F表示少量邻近像素(例如,6个邻近像素)具有等于所选像素3050的值,计数器E表示没有邻近像素(例如,0个邻近像素)具有大于所选像素3050的值。这些计数器值表明所选像素3050正展示出暗于大多数邻近像素的FPN。因此,在这种情况下,噪声滤波模块2112可选择减少所选像素3050的NUC项(例如,变亮所选像素3050),以使它和具有较低值的大量邻近像素呈现出更多均匀性。
在所选像素3060的情况中,图23E中的计数器E表示大多数邻近像素(例如,19个邻近像素)具有大于所选像素3060的值,而计数器F表示少量邻近像素(例如,5个邻近像素)具有等于所选像素3060的值,计数器G表示没有邻近像素(例如,0个邻近像素)具有小于所选像素3060的值。这些计数器值表明所选像素3060正展示出亮于大多数邻近像素的FPN。因此,在这种情况下,噪声滤波模块2112可选择增加所选像素3060的NUC项(例如,使所选像素3060变暗),以使它和具有更高值的大量邻近像素呈现出更多均匀性。
在方框3160中,可以递增地进行对所选像素的NUC的变化。例如,在一些实施例中,在方框3160中NUC项可以增加或减少小的量(例如,在一些实施例中仅一个或几个数字计数)。这种递增量可以防止NUC项大量快速变化,该NUC项可能会非故意地在红外图像3000中引入不期望的非均匀性。在图5和8的每个循环期间可以重复图23B的过程(例如,代替方框565和/或570)。因此,如果需要NUC项的大量变化,则在每个循环期间可重复地增加和/或减少NUC项,直到NUC值变稳定(例如,在进一步循环期间保持基本相同)。在一些实施例中,方框3160可进一步包括基于局部梯度和/或本文所述的时间阻尼加权于更新的NUC项。
在方框3170,如果仍然选择红外图像3000的附加像素,则该过程返回到方框3120,其中重复方框3120-3170以更新另一个所选像素的NUC项。在这一点上,方框3120-3170对红外图像3000的每个像素可至少循环一次以更新每个像素的NUC项(例如,可选择红外图像3000的每个像素并在方框3120-3170的对应循环期间更新其对应的NUC项)。
在方框3180中,在对红外图像3000的所有像素更新NUC项之后,该过程继续到图5和8的方框575。除了图23B的过程之外,也可以执行一个或多个方框565-573的操作。
图23B的过程可重复用于由方框555和/或560提供的每个有意模糊的图像帧。在一些实施例中,在方框3110接收的每个新图像帧都可基本不同于其它新近接收的图像帧(例如,在图23B过程的先前循环中)。这可以由例如基本静态场景2170、缓变场景2170、红外图像时域滤波和/或其它传感器产生。在这些情况下,因为在图23B的每个循环中可选择性的增加、减少它们或使它们保持不变一样,由图23B确定的NUC项的精确性会提高。结果,在一些实施例中,许多NUC项最终可达到基本稳定状态,其中在图23B的足够数量的循环之后和当图像帧基本不变时,它们保持相对不变。
也可以考虑其它实施例。例如,可重复方框3160多次以使用用于每个更新的同一红外图像更新一个或多个NUC项。在这一点上,在方框3160中更新一个或多个NUC项之后,或者在方框3160的附加循环中更新多个NUC项之后,图23B的过程可首次将一个或多个更新的NUC项(例如,还在方框3160中)应用于用于确定更新的NUC项的同一红外图像并返回到方框3120,以使用该实施例中的同一红外图像反复更新一个或多个NUC项。这种方法可用在例如脱机(非实时)处理中和/或用在具有足够处理能力的实时实现中。
可适当地将关于图23A-E描述的各种技术中任何一种技术与本文描述的其它技术组合在一起。例如,可以如期望地组合本文描述的各种技术的一些或所有部分以执行噪声滤波。
本文描述的各种方法、过程和/或操作中的任何一种都可以通过本文描述的适当的各种系统、装置和/或部件中的任何一种来执行。
应用时,本公开提供的各种实施例可以使用硬件、软件或硬件和软件的组合来实现。而且应用时,在不偏离本公开的精神的情况下,本文中阐述的各种硬件部件和/或软件部件可以组合成包括软件、硬件和/或两者的复合部件。应用时,在不偏离本公开的精神的情况下,本文中阐述的各种硬件部件和/或软件部件可以分离成包括软件、硬件或两者的子部件。另外,应用时,可以预期的是,软件部件可以实现为硬件部件,反之亦然。
根据本公开的软件,诸如非持续性指令、程序编码和/或数据可以存储在一个或多个非持续性机器可读介质上。还可以预期的是,本文中确定的软件可以使用网络式和/或其它方式的一个或多个通用或专用计算机和/或计算机系统来实现。应用时,本文中描述的各种步骤的顺序可以改变、组合成复合步骤,和/或被分离成子步骤以提供本文中描述的特征。
上述实施例示例但不限制该发明。还应该理解,根据该发明的原则可以进行许多修改和变更。因此,本发明的范围仅用下面的权利要求来限定。
Claims (25)
1.一种方法,包括:
接收包括布置成多个行和列的多个像素的图像帧,其中像素包括与场景有关的热图像数据和由红外成像装置引入的噪声;和
处理图像帧以确定多个非均匀校正(NUC)项来减少至少噪声的一部分,其中每个NUC项与对应的一个像素有关,并且每个NUC项基于对应的一个像素和在距对应的一个像素的选择距离内的相关的邻近像素之间的相对关系来确定。
2.根据权利要求1所述的方法,其中该处理包括:
对于图像帧的每个像素,比较该像素与每个其相关的邻近像素;
对于每个比较,如果该像素具有比比较的邻近像素大的值,则调整第一计数器;
对于每个比较,如果该像素具有比比较的邻近像素小的值,则调整第二计数器;和
基于第一计数器和第二计数器选择性地更新与该像素有关的NUC项。
3.根据权利要求2所述的方法,进一步包括:对于每个比较,如果该像素具有等于比较的邻近像素的值,则调整第三计数器,其中该更新也基于第三计数器。
4.根据权利要求1所述的方法,其中该处理包括:
对于图像帧的每个像素,比较该像素与每个其相关的邻近像素;
对于每个比较,如果该像素具有比比较的邻近像素大的值,则以第一方式调整计数器,或者如果该像素具有比比较的邻近像素小的值,则以第二方式调整计数器;和
基于该计数器选择性地更新与该像素有关的NUC项。
5.根据权利要求1所述的方法,其中相关的邻近像素包括在不同于对应的一个像素的列和行中的至少一个像素。
6.根据权利要求1所述的方法,其中距离是第一距离,其中所述噪声的一部分是第一部分,该方法进一步包括使用第二距离重复更新NUC项的处理以减少至少噪声的第二部分。
7.根据权利要求1所述的方法,其中噪声包括空间不相关的固定图形噪声(FPN)和空间相关的FPN。
8.根据权利要求1所述的方法,进一步包括将该NUC项应用于图像帧以去除所述噪声的一部分。
9.根据权利要求1所述的方法,进一步包括时域阻尼NUC项。
10.根据权利要求1所述的方法,进一步包括基于像素之间的梯度使NUC项加权。
11.根据权利要求1所述的方法,进一步包括:
处理图像帧以确定多个空间相关的固定图形噪声(FPN)项以减少包括与红外成像装置的红外传感器的行和列有关的空间相关的FPN的所述噪声的一部分;和
在确定NUC项之前,将该空间相关的FPN项应用于图像帧。
12.根据权利要求1所述的方法,其中图像帧是有意模糊的图像帧,其中热图像数据是模糊的热图像数据。
13.一种系统,包括:
存储部件,其适合于接收包括布置在多个行和列中的多个像素的图像帧,其中像素包括与场景有关的热图像数据和由红外成像装置引入的噪声;和
处理器,其适合于执行处理图像帧的指令以确定多个非均匀校正(NUC)项以减少至少噪声的一部分,其中每个NUC项与对应的一个像素有关,并且每个NUC项基于对应的一个像素和在距对应的一个像素的选择距离内的相关的邻近像素之间的相对关系来确定。
14.根据权利要求13所述的系统,其中处理图像帧的指令适合于使处理器来:
对于图像帧的每个像素,比较该像素与每个其相关的邻近像素;
对于每个比较,如果该像素具有比比较的邻近像素大的值,则调整第一计数器;
对于每个比较,如果该像素具有比比较的邻近像素小的值,则调整第二计数器;和
基于第一计数器和第二计数器选择性地更新与该像素有关的NUC项。
15.根据权利要求14所述的系统,其中:
对于每个比较,如果该像素具有等于比较的邻近像素的值,则处理器适合于执行调整第三计数器的指令;和
更新NUC项的指令适合于使处理器来基于第三计数器选择性地更新NUC项。
16.根据权利要求13所述的系统,其中处理图像帧的指令适合于使处理器来:
对于图像帧的每个像素,比较该像素与每个其相关的邻近像素;
对于每个比较,如果该像素具有比比较的邻近像素大的值,则以第一方式调整计数器,或者如果该像素具有比比较的邻近像素小的值,则以第二方式调整计数器;和
基于该计数器选择性地更新与该像素有关的NUC项。
17.根据权利要求13所述的系统,其中相关的邻近像素包括在不同于对应的一个像素的列和行中的至少一个像素。
18.根据权利要求13所述的系统,其中距离是第一距离,其中所述噪声的一部分是第一部分,其中该处理器适合于执行使用第二距离重复更新NUC项处理以减少至少噪声的第二部分的指令。
19.根据权利要求13所述的系统,其中噪声包括空间不相关的固定图形噪声(FPN)和空间相关的FPN。
20.根据权利要求13所述的系统,其中处理器适合于执行将该NUC项应用于图像帧以去除所述噪声的一部分的指令。
21.根据权利要求13所述的系统,其中处理器适合执行时域阻尼NUC项的指令。
22.根据权利要求13所述的系统,其中处理器适合于执行基于像素之间的梯度使NUC项加权的指令。
23.根据权利要求13所述的系统,其中处理器适合于执行指令以:
处理图像帧以确定多个空间相关的固定图形噪声(FPN)项以减少包括与红外成像装置的红外传感器的行和列有关的空间相关的FPN的所述噪声的一部分;和
在确定NUC项之前,将该空间相关的FPN项应用于图像帧。
24.根据权利要求13所述的系统,其中图像帧是有意模糊的图像帧,其中热图像数据是模糊的热图像数据。
25.根据权利要求13所述的系统,进一步包括适合于提供图像帧的焦平面阵列(FPA),其中FPA包括适合于接收从约0.2至约0.7伏特的范围选择的偏置电压的微测辐射热仪的阵列。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/622,178 US9237284B2 (en) | 2009-03-02 | 2012-09-18 | Systems and methods for processing infrared images |
US13/622,178 | 2012-09-18 | ||
US201261745504P | 2012-12-21 | 2012-12-21 | |
US201261745489P | 2012-12-21 | 2012-12-21 | |
US61/745,489 | 2012-12-21 | ||
US61/745,504 | 2012-12-21 | ||
PCT/US2013/060216 WO2014047076A1 (en) | 2012-09-18 | 2013-09-17 | Pixel-wise noise reduction in thermal images |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104813652A true CN104813652A (zh) | 2015-07-29 |
CN104813652B CN104813652B (zh) | 2018-03-09 |
Family
ID=49237723
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380059706.9A Active CN104813652B (zh) | 2012-09-18 | 2013-09-17 | 热图像中的像素的降噪 |
CN201380059705.4A Active CN104782116B (zh) | 2012-09-18 | 2013-09-17 | 热图像中的行和列降噪 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380059705.4A Active CN104782116B (zh) | 2012-09-18 | 2013-09-17 | 热图像中的行和列降噪 |
Country Status (3)
Country | Link |
---|---|
EP (2) | EP2898670B1 (zh) |
CN (2) | CN104813652B (zh) |
WO (2) | WO2014047076A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106506999A (zh) * | 2016-10-18 | 2017-03-15 | 天津大学 | 基于矩匹配的tdi‑cmos图像传感器fpn校正方法 |
CN111784599A (zh) * | 2020-06-24 | 2020-10-16 | 西北工业大学 | 一种消除红外图像条纹噪声的方法 |
CN114697574A (zh) * | 2020-12-30 | 2022-07-01 | 菲力尔商业系统公司 | 异常像素检测系统和方法 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104867122B (zh) * | 2015-05-29 | 2017-08-01 | 北京理工大学 | 一种红外自适应非均匀性校正及细节增强级联处理方法 |
CN104917936B (zh) * | 2015-05-29 | 2018-05-18 | 北京理工大学 | 一种基于灰度相关的时域高通非均匀性校正方法 |
CN107370962B (zh) * | 2016-07-29 | 2019-10-15 | Oppo广东移动通信有限公司 | 高动态范围图像拍摄方法、装置和终端设备 |
CN107179128A (zh) * | 2017-05-02 | 2017-09-19 | 浙江悍马光电设备有限公司 | 一种制冷型红外热成像仪外校正方法 |
JP2018200252A (ja) * | 2017-05-29 | 2018-12-20 | アズビル株式会社 | 熱画像処理装置およびオフセット量算出方法 |
DE102018207265A1 (de) * | 2018-05-09 | 2019-11-14 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Korrelation thermischer satellitenbilddaten zur generierung räumlich hochaufgelöster wärmekarten |
CN109512402B (zh) * | 2018-11-09 | 2021-04-02 | 吉林大学 | 近距离多维度的精准医用人体红外热成像的方法 |
CN110400271B (zh) * | 2019-07-09 | 2021-06-15 | 浙江大华技术股份有限公司 | 一种条纹非均匀性校正方法、装置、电子设备及存储介质 |
CN110445953B (zh) * | 2019-08-02 | 2020-11-06 | 浙江大华技术股份有限公司 | 降低动态条纹噪声的方法、装置、电子设备及存储装置 |
CN111028179B (zh) * | 2019-12-20 | 2023-04-28 | 浙江大华技术股份有限公司 | 一种条纹校正方法、装置、电子设备及存储介质 |
CN113128141B (zh) * | 2021-04-19 | 2023-03-24 | 电子科技大学 | 一种基于无误差随机计算的中值滤波系统 |
CN113538286B (zh) * | 2021-07-29 | 2023-03-07 | 杭州微影软件有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN113643257B (zh) * | 2021-08-12 | 2023-09-22 | 北京百度网讯科技有限公司 | 图像噪点检测方法、装置、设备、存储介质及程序产品 |
CN117372285B (zh) * | 2023-12-05 | 2024-02-20 | 成都市晶林科技有限公司 | 一种静态和动态区域区分的时域高通滤波方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5903659A (en) * | 1997-04-17 | 1999-05-11 | Raytheon Company | Adaptive non-uniformity compensation algorithm |
US8203116B2 (en) * | 2010-10-19 | 2012-06-19 | Raytheon Company | Scene based non-uniformity correction for infrared detector arrays |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6028309A (en) | 1997-02-11 | 2000-02-22 | Indigo Systems Corporation | Methods and circuitry for correcting temperature-induced errors in microbolometer focal plane array |
US7034301B2 (en) | 2002-02-27 | 2006-04-25 | Indigo Systems Corporation | Microbolometer focal plane array systems and methods |
US6812465B2 (en) | 2002-02-27 | 2004-11-02 | Indigo Systems Corporation | Microbolometer focal plane array methods and circuitry |
US7463753B2 (en) * | 2004-09-15 | 2008-12-09 | Raytheon Company | FLIR-to-missile boresight correlation and non-uniformity compensation of the missile seeker |
US7470902B1 (en) | 2006-03-20 | 2008-12-30 | Flir Systems, Inc. | Infrared camera electronic architectures |
US7470904B1 (en) | 2006-03-20 | 2008-12-30 | Flir Systems, Inc. | Infrared camera packaging |
US7995859B2 (en) * | 2008-04-15 | 2011-08-09 | Flir Systems, Inc. | Scene based non-uniformity correction systems and methods |
US7679048B1 (en) | 2008-04-18 | 2010-03-16 | Flir Systems, Inc. | Systems and methods for selecting microbolometers within microbolometer focal plane arrays |
US8208026B2 (en) * | 2009-03-02 | 2012-06-26 | Flir Systems, Inc. | Systems and methods for processing infrared images |
US9167179B2 (en) * | 2011-02-21 | 2015-10-20 | Vectronix, Inc. | On-board non-uniformity correction calibration methods for microbolometer focal plane arrays |
WO2018227003A1 (en) | 2017-06-08 | 2018-12-13 | Superior Energy Services, Llc | Deep set safety valve |
-
2013
- 2013-09-17 CN CN201380059706.9A patent/CN104813652B/zh active Active
- 2013-09-17 EP EP13767228.3A patent/EP2898670B1/en active Active
- 2013-09-17 WO PCT/US2013/060216 patent/WO2014047076A1/en active Application Filing
- 2013-09-17 EP EP13766872.9A patent/EP2898669A1/en not_active Withdrawn
- 2013-09-17 CN CN201380059705.4A patent/CN104782116B/zh active Active
- 2013-09-17 WO PCT/US2013/060210 patent/WO2014047075A1/en unknown
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5903659A (en) * | 1997-04-17 | 1999-05-11 | Raytheon Company | Adaptive non-uniformity compensation algorithm |
US8203116B2 (en) * | 2010-10-19 | 2012-06-19 | Raytheon Company | Scene based non-uniformity correction for infrared detector arrays |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106506999A (zh) * | 2016-10-18 | 2017-03-15 | 天津大学 | 基于矩匹配的tdi‑cmos图像传感器fpn校正方法 |
CN111784599A (zh) * | 2020-06-24 | 2020-10-16 | 西北工业大学 | 一种消除红外图像条纹噪声的方法 |
CN111784599B (zh) * | 2020-06-24 | 2022-04-29 | 西北工业大学 | 一种消除红外图像条纹噪声的方法 |
CN114697574A (zh) * | 2020-12-30 | 2022-07-01 | 菲力尔商业系统公司 | 异常像素检测系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
EP2898669A1 (en) | 2015-07-29 |
CN104782116B (zh) | 2016-12-14 |
WO2014047075A1 (en) | 2014-03-27 |
CN104813652B (zh) | 2018-03-09 |
CN104782116A (zh) | 2015-07-15 |
EP2898670B1 (en) | 2018-10-10 |
WO2014047076A1 (en) | 2014-03-27 |
EP2898670A1 (en) | 2015-07-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104813652A (zh) | 热图像中的像素的降噪 | |
CN105191288B (zh) | 异常像素检测 | |
US9235876B2 (en) | Row and column noise reduction in thermal images | |
US9208542B2 (en) | Pixel-wise noise reduction in thermal images | |
US9756264B2 (en) | Anomalous pixel detection | |
US9843742B2 (en) | Thermal image frame capture using de-aligned sensor array | |
KR101778353B1 (ko) | 적외선 이미징 장치용 불균일성 교정 기술 | |
KR101808375B1 (ko) | 저전력 소형 폼 팩터 적외선 이미징 | |
CN205160655U (zh) | 用于交通工具的红外成像系统 | |
US9292909B2 (en) | Selective image correction for infrared imaging devices | |
US9235023B2 (en) | Variable lens sleeve spacer | |
WO2014143338A2 (en) | Imager with array of multiple infrared imaging modules | |
CN104995909A (zh) | 时间间隔的红外图像增强 | |
US10079982B2 (en) | Determination of an absolute radiometric value using blocked infrared sensors | |
EP2764685A1 (en) | Determination of an absolute radiometric value using blocked infrared sensors |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |