CN105191288A - 异常像素检测 - Google Patents
异常像素检测 Download PDFInfo
- Publication number
- CN105191288A CN105191288A CN201380074083.2A CN201380074083A CN105191288A CN 105191288 A CN105191288 A CN 105191288A CN 201380074083 A CN201380074083 A CN 201380074083A CN 105191288 A CN105191288 A CN 105191288A
- Authority
- CN
- China
- Prior art keywords
- pixel
- row
- value
- infrared
- infrared image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/68—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
- H04N25/683—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
Abstract
提供了识别成像装置捕获的图像中异常像素的各种技术。在一个示例中,接收红外图像帧。多个红外传感器基于通过光学元件的红外辐射捕获红外图像帧。选择红外图像帧的像素。选择红外图像帧的多个邻域像素。处理选择的像素和邻域像素的值以确定选择的像素的值是否展现与邻域像素相比的差异,该差异超过与光学元件和红外传感器的配置关联的最大差异。基于所述处理,选择性地将选择的像素指定为异常像素。
Description
相关申请的交叉引用
本申请要求申请号为61/747,844,申请日为2012年12月31日,题为“ANOMALOUSPIXELDETECTION”的美国临时专利申请的权益,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/029,683,申请日为2013年9月17日,题为“PIXEL-WISENOISEREDUCTIONINTHERMALIMAGES”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/029,716,申请日为2013年9月17日,题为“ROWANDCOLUMNNOISEREDUCTIONINTHERMALIMAGES”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/101,245,申请日为2013年12月9日,题为“LOWPOWERANDSMALLFORMFACTORINFRAREDIMAGING”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/099,818,申请日为2013年12月6日,题为“NON-UNIFORMITYCORRECTIONTECHNIQUESFORINFRAREDIMAGINGDEVICES”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/101,258,申请日为2013年12月9日,题为“INFRAREDCAMERASYSTEMARCHITECTURES”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/138,058,申请日为2013年12月21日,题为“COMPACTMULTI-SPECTRUMIMAGINGWITHFUSION”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
申请号为14/138,058的美国专利申请要求申请号为61/748,018,申请日为2012年12月31日,题为“COMPACTMULTI-SPECTRUMIMAGINGWITHFUSION”的美国临时专利申请的权益,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/138,040,申请日为2013年12月21日,题为“TIMESPACEDINFRAREDIMAGEENHANCEMENT”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
申请号为14/138,040的美国专利申请要求申请号为61/792,582,申请日为2013年3月15日,题为“TIMESPACEDINFRAREDIMAGEENHANCEMENT”的美国临时专利申请的权益,通过引用的方式将其作为整体合并于此。
本申请是申请号为14/138,052,申请日为2013年12月21日,题为“INFRAREDIMAGINGENHANCEMENTWITHFUSION”的美国专利申请的部分继续申请,通过引用的方式将其作为整体合并于此。
申请号为14/138,052的美国专利申请要求申请号为61/793,952,申请日为2013年3月15日,题为“INFRAREDIMAGINGENHANCEMENTWITHFUSION”的美国临时专利申请的权益,通过引用的方式将其作为整体合并于此。
技术领域
本发明的一个或者多个实施方式总体上涉及成像装置,更具体地,例如,涉及对图像中异常像素的检测。
背景技术
数字图像包括以行和列布置的多个像素。例如,每个单独的像素可以与诸如红外传感器(例如,微测热辐射计)、可见光谱传感器和/或其他合适的传感元件关联。
这些传感器或成像装置的其他部件中的故障和/或缺陷会导致一个或多个单独的像素或像素群组展现异常行为(例如,“坏像素”)。由于与大尺寸阵列中的像素相比,每个像素对于整体图像可能具有比例上较大的贡献,因此异常像素对于具有小阵列尺寸(例如,相应具有小数量的像素)的成像装置来说可能是特别成问题的。
常规质量控制技术一般包括在从工厂装运成像装置之前对捕获的图形的基于人和/或基于机器的评估以识别异常像素。然而,常规技术可能不总是可靠地识别异常像素,特别是在间歇性操作的情况下。另外,基于人的评估对于大批量生产可能是不实际或成本有效的。
发明内容
提供了用于识别成像装置捕获的图像中的异常像素的各种技术。在一个实施方式中,一种方法包括接收多个红外传感器基于通过光学元件的红外辐射捕获的红外图像帧;选择红外图像帧的像素;选择红外图像帧的多个邻域像素;处理选择的像素和邻域像素的值,以确定选择的像素的值是否展现与邻域像素相比的差异,该差异超过与光学元件和红外传感器的配置关联的最大差异;以及基于所述处理,选择性地将选择的像素指定为异常像素。
在另一实施方式中,一种系统包括适于接收多个红外传感器基于通过光学元件的红外辐射而捕获的红外图像帧的存储器;以及适于执行指令以进行下述操作的处理器:选择红外图像帧的像素,选择红外图像帧的多个邻域像素,处理选择的像素和邻域像素的值以确定选择的像素的值是否展现与邻域像素相比的差异,该差异超过与光学元件和红外传感器的配置关联的最大差异,以及基于所述处理选择性地将选择的像素指定为异常像素。
本发明的范围由权利要求书限定,通过引用的方式将这部分合并于此。通过考虑下面对一个或者多个实施方式的详细描述,将会向本领域技术人员提供对本发明实施方式的更加完整的理解以及其中附加的优点的实现。下面将参考首先会简要描述的附图。
附图说明
图1示出了根据本公开实施方式的、被配置为在主机装置中实现的红外成像模块。
图2示出了根据本公开实施方式的、装配后的红外成像模块。
图3示出了根据本公开的实施方式的、并列的置于插座之上的红外成像模块的分解图。
图4示出了根据本公开的实施方式的、包括红外传感器阵列的红外传感器组件的框图。
图5示出了根据本公开实施方式的、确定非均匀校正(NUC)项的各种操作的流程图。
图6示出了根据本公开实施方式的、相邻像素之间的差值。
图7示出了根据本公开实施方式的平场校正技术。
图8示出了根据本公开实施方式的、应用在图像处理流水线中的图5的各种图像处理技术和其他操作。
图9示出了根据本公开实施方式的时域噪声削减步骤。
图10示例了根据该公开实施方式的图8的图像处理流水线的几个过程的具体实施细节。
图11示例了根据该公开实施方式的像素的邻近区域中的空间相关的固定图形噪声(FPN)。
图12示出了根据本公开实施方式的、包括红外传感器阵列和低压差稳压器的红外传感器组件的另一个实现方式的框图。
图13示出了根据本公开实施方式的、图12的红外传感器组件的一部分的电路图。
图14示出了根据该公开实施方式的用于红外图像处理的系统的框图。
图15A-C是示例根据该公开实施方式的噪声滤波红外图像的方法的流程图。
图16A-C是示例根据该公开实施方式的红外图像数据和红外图像的处理的图表。
图17示出了根据该公开实施方式的详述处理技术的传感器数据行的一部分。
图18A-C示出了根据该公开实施方式的用于红外图像的列和行噪声滤波的示范性实现。
图19A示出了根据该公开实施方式的包括小的垂直结构的场景的红外图像。
图19B示出了根据该公开实施方式的图19A的红外图像的校正版。
图20A示出了根据该公开实施方式的包括大的垂直结构的场景的红外图像。
图20B示出了根据该公开实施方式的图20A的红外图像的校正版。
图21是示例根据该公开实施方式的噪声滤波红外图像的另一个方法的流程图。
图22A示出了根据该公开实施方式的准备用于图19A的红外图像的直方图。
图22B示出了根据该公开实施方式的准备用于图20A的红外图像的直方图。
图23A示例了根据该公开实施方式的场景的红外图像。
图23B是示例根据该公开实施方式的噪声滤波红外图像的又一个方法的流程图。
图23C-E示出了根据该公开实施方式的准备用于图23A的红外图像的所选像素周围的邻近像素的直方图。
图24示例了根据该公开实施方式的艾里斑(AiryDisk)以及在焦平面阵列(FPA)上其强度对位置的对应图表。
图25示例了根据该公开实施方式的识别异常像素的技术。
图26示例了根据该公开实施方式的识别异常像素的另一技术。
图27是示例了根据该公开实施方式的识别异常像素的过程的流程图。
通过参考下面的详细说明,将会更好的理解本发明的实施方式及其优点。应当理解的是,相同的参考数字用于表示在一副或者多幅附图中示出的相同元件。
具体实施方式
图1示出了根据本公开实施方式的、被配置为在主机装置102中实现的红外成像模块100(例如,红外照相机或者红外成像装置)。在一个或者多个实施方式中,可根据晶圆级封装技术或者其他封装技术,实现小形状因子的红外成像模块100。
在一个实施方式中,可以配置红外成像模块100以在小的便携式主机装置102(诸如手机、平板电脑装置、膝上型电脑装置、个人数字助理、可见光摄像机、音乐播放机或者其它任何合适的移动装置)中实现。在这一点上,红外成像模块100可用于将红外成像特征提供给主机装置102。例如,红外成像模块100可以配置成捕获、处理和/或以其它方式管理红外图像(例如,也被称为图像帧)并将这种红外图像提供给主机装置102以用于任何期望形式(例如,用于进一步处理,以存储在存储器中、显示、由运行于主机装置102的各种应用使用、输出到其它装置或者其它用途)。
在各种实施方式中,红外成像模块100可被配置为在低电压电平和宽温度范围内工作。例如,在一个实施方式中,红外成像模块100可使用约2.4伏、2.5伏、2.8伏或更低的电压的电源工作,并且可在约-20℃到约+60℃的温度范围中工作(例如,在约80℃的环境温度范围中提供合适的动态范围和性能)。在一个实施方式中,通过使红外成像模块100在低电压电平下工作,与其他类型的红外成像装置相比,红外成像模块100自身所产生的热量较少。因此,红外成像模块100在工作时,可利用简化的措施来补偿这种自身产生的热量。
如图1所示,主机装置102可包括插座104、快门105、运动传感器194、处理器195、存储器196、显示器197和/或其他部件198。插座104可被配置为如箭头101所示的接收红外成像模块100。就这方面而言,图2示出了根据本公开实施方式的、装配在插座104中的红外成像模块100。
可由一个或者多个加速度计、陀螺仪或者可用于检测主机装置102的运动的其他合适的装置来实现运动传感器194。处理模块160或者处理器195可对运动传感器194进行监控并且运动传感器194向处理模块160或者处理器195提供信息,以检测运动。在各种实施方式中,运动传感器194可实现为主机装置102的一部分(如图1所示),也可实现为红外成像模块100、或者连接到主机装置102或与主机装置102接触的其他装置的一部分。
处理器195可实现为任何合适的处理装置(例如,逻辑装置、微控制器、处理器、专用集成电路(ASIC)或者其他装置),主机装置102可使用上述处理装置来执行合适的指令,例如,存储在存储器196中的软件指令。显示器197可用于显示捕获的和/或处理后的红外图像和/或其他图像、数据和信息。其他部件198可用于实现主机装置102的任何功能,如可能期望的各种应用(例如,时钟、温度传感器、可见光照相机或者其他部件)。另外,机器可读介质193可用于存储非临时性指令,可将该非临时性指令加载到存储器196中并由处理器195执行。
在各种实施方式中,可大量生产红外成像模块100和插座104,以推动它们的广泛应用,例如,其可应用在移动电话或者其他装置(例如,需要小形状因子的装置)中。在一个实施方式中,当红外成像模块100安装到插座104中时,红外成像模块100和插座104的组合所显示出的整体尺寸大约为8.5mm×8.5mm×5.9mm。
图3示出了根据本公开的实施方式的、并列的置于插座104之上的红外成像模块100的分解图。红外成像模块100可包括透镜镜筒110、外壳120、红外传感器组件128、电路板170、基座150和处理模块160。
透镜镜筒110可至少部分的装入光学元件180(例如,透镜),通过透镜镜筒110中的孔112,所述光学元件180在图3中部分的可见。透镜镜筒110可包括大致呈圆柱形的延长部分114,其可用于使透镜镜筒110与外壳120中的孔122接触。
例如,可由安装在基板140上的帽130(例如,盖子)来实现红外传感器组件128。红外传感器组件128可包括按列或者其他方式设置在基板140上并由帽130覆盖的多个红外传感器132(例如,红外探测器)。例如,在一个实施方式中,红外传感器组件128可实现为焦平面阵列(FPA)。这种焦平面阵列可实现为例如真空封装的组件(例如,由帽130和基板140密封)。在一个实施方式中,红外传感器组件128可实现为晶片级封装(例如,红外传感器组件128可以是与设置在晶片上一组真空包装组件相分离的单片)。在一个实施方式中,红外传感器组件128可实现为使用约2.4伏、2.5伏、2.8伏或者类似的电压的电源来工作。
红外传感器132可被配置为检测目标场景的红外辐射(例如,红外能量),所述目标场景包括:例如中波红外波段(MWIR)、长波红外波段(LWIR)、和/或如在特定应用中所期望的其他热成像波段。在一个实施方式中,可根据晶片级封装技术来提供红外传感器组件128。
红外传感器132可实现为例如微测热辐射计,或者以任意期望的阵列方向图案配置以提供多个像素的其他类型的热成像红外传感器。在一个实施方式中,红外传感器132可实现为具有17微米像素间距的氧化钒(VOx)探测器。在各种实施方式中,可使用约32×32阵列的红外传感器132、约64×64阵列的红外传感器132、约80×64阵列的红外传感器132或者其他大小的阵列。
基板140可包括各种电路,其中包括例如读出集成电路(ROIC),在一个实施方式中,该读出集成电路(ROIC)的尺寸比约5.5mm×5.5mm小。基板140还可包括接合焊盘142,其可用于当如图5A,5B和5C所示的那样装配好红外成像模块100时,与放置在外壳120的内表面上的相辅相成的连接点相接触。在一个实施方式中,可利用执行电压调节的低压差稳压器(LDO)来实现ROIC,以降低引入到红外传感器组件128中的噪声,从而提供改进的电源抑制比(PSRR)。另外,通过实现具有ROIC的LDO(例如,在晶圆级封装内),可消耗更少的管芯面积并且需要的离散管芯(或者芯片)较少。
图4示出了根据本公开的实施方式的、包括红外传感器132阵列的红外传感器组件128的框图。在示出的实施方式中,红外传感器132作为ROIC402的单位晶格阵列的一部分。ROIC402包括偏压产生和定时控制电路404、列放大器405、列多路复用器406、行多路复用器408和输出放大器410。可通过输出放大器410将红外传感器132捕获的图像帧(即,热图像)提供给处理模块160、处理器195和/或任何其他合适的部件,以执行本文所描述的各种处理技术。尽管图4示出的是8×8的阵列,但是任何期望的阵列配置均可用于其他实施方式中。ROIC和红外传感器的进一步描述可在2000年2月22日公开的美国专利No.6,028,309中找到,通过引用的方式将其作为整体合并于此。
红外传感器阵列128可捕获图像(例如,图像帧),并以各种速率从它的ROIC提供这种图像。处理模块160可用于对捕获的红外图像执行合适的处理,并且可以根据任何合适的结构来实现该处理模块160。在一个实施方式中,处理模块160可实现为ASIC。就这方面而言,这种ASIC可被配置为高性能的和/或高效率的执行图像处理。在另一个实施方式中,可利用通用中央处理单元(CPU)来实现处理模块160,所述CPU可被配置为执行合适的软件指令,以进行图像处理、调整以及通过各种图像处理块进行图像处理、处理模块160和主机装置102之间的互相配合的交互和/或其他操作。在另一个实施方式中,可利用现场可编程门阵列(FPGA)来实现处理模块160。在其他实施方式中,如本领域技术人员所理解的,可利用其他类型的处理和/或逻辑电路来实现处理模块160。
在这些和其他实施方式中,处理模块160还可与其他合适的部件来实现,例如,易失性存储器、非易失性存储器和/或一个或者多个接口(例如,红外检测器接口、内部集成电路(I2C)接口、移动行业处理器接口(MIPI)、联合测试行动组(JTAG)接口(例如,IEEE1149.1标准测试访问端口和边界扫描结构)、和/或其他接口)。
在一些实施方式中,红外成像模块100可进一步包括一个或者多个致动器199,其可用于调整红外传感器组件128捕获的红外图像帧的焦点。例如,致动器199可用于移动光学元件180、红外传感器132和/或彼此相关的其他部件,以根据本文所描述的技术来选择性地聚焦和散焦红外图像帧。可根据任何类型的运动感应设备或者装置来实现致动器199,并且可将致动器199放置在红外成像模块100内部或者外部的任何位置,以适应不同的应用。
当将红外成像模块100装配好后,外壳120随后可将红外传感器组件128、基座150以及处理模块160完全的密封起来。外壳120可便于红外成像模块100的各种部件的连接。例如,在一个实施方式中,外壳120可提供用于连接各种部件的电连接部件126,下面将对其进行详细描述。
当将红外成像模块100装配好时,电连接部件126(例如,导电路径、电气轨迹或者其他类型的电连接部件)可与接合焊盘142电气连接。在各种实施方式中,可将电连接部件126嵌入到外壳120中、设置在外壳120的内表面上和/或由外壳120提供所述电连接部件126。如图3所示,电连接部件126可终止于突出于外壳120的底表面的连接部件124中。当将红外成像模块100装配好时,连接部件124可与电路板170连接(例如,在各种实施方式中,外壳120可置于电路板170的顶部)。处理模块160可通过合适的电连接部件与电路板170电连接。因此,红外传感器组件128可例如通过导电路径与处理模块160电连接,所述导电路径可由接合焊盘142、外壳120内部表面上的相辅相成的连接点、外壳120的电连接部件126、连接部件124及电路板170提供。有利的是,这种布置的实现可无需在红外传感器组件128和处理模块160之间设置焊线。
在各种实施方式中,可使用任何期望的材料(例如,铜或者任何其他合适的导电材料)来制造外壳120中的电连接部件126。在一个实施方式中,电连接部件126可有助于对红外成像模块100产生的热量进行散热。
其他连接可用于其他实施方式中。例如,在一个实施方式中,传感器组件128可通过陶瓷板连接到处理模块160,所述陶瓷板通过焊线连接到传感器组件128并通过球栅阵列(BGA)连接到处理模块160。在另一个实施方式中,传感器组件128可直接安装到刚柔性板上并与焊线电连接,并且可利用焊线或者BGA将处理模块160安装并且连接到刚柔性板。
本文所阐述的红外成像模块100和主机装置102的各种应用只是为了举例,而不是限制。就这方面而言,本文所描述的各种技术中的任何一个均可应用到任何红外照相机系统、红外成像器或者用于进行红外/热成像的其他装置。
红外传感器组件128的基板140可安装到基座150上。在各种实施方式中,基座150(例如,底座)可例如由通过金属注射成形(MIM)形成的铜制造,并且对所述基座150进行黑色氧化处理或者镍涂层处理。在各种实施方式中,基座150可由任何期望的材料制造,例如,可根据特定应用,由例如锌、铝或者镁制造,并且,基座150可通过任何期望的应用流程形成,例如,可根据特定应用,例如通过铝铸件、MIM或者锌的快速铸造来形成。在各种实施方式中,基座150可用于提供结构支撑、各种电路路径、热散热器性能以及其他合适的功能。在一个实施方式中,基座150可以是至少部分使用陶瓷材料实现的多层结构。
在各种实施方式中,电路板170可容纳外壳120,从而可在物理上支撑红外成像模块100的各种部件。在各种实施方式中,电路板170可实现为印刷电路板(例如,FR4电路板或者其他类型的电路板)、刚性或者柔性的互连设备(例如,互连带或者其他类型的互连设备)、柔性电路基板、柔性塑料基板或者其他合适的结构。在各种实施方式中,基座150可实现为具有描述的电路板170的各种功能和属性,反之亦然。
插座104可包括被配置为容纳红外成像模块100(例如,如图2所示的装配后的视图)的腔体106。红外成像模块100和/或插座104可包括合适的卡片、臂、销、紧固件或者任何其他合适的接合部件,所述接合部件可用于通过摩擦、张力、粘附和/或任何其他合适的方式将红外成像模块100固定到插座104,或者将红外成像模块100固定到插座104内部。插座104可包括接合部件107,其可在当红外成像模块100插入到插座104的腔体106中时,接合外壳120的表面109。其他类型的接合部件可用于其他实施方式中。
红外成像模块100可通过合适的电连接部件(例如,触点、销、电线或者任何其他合适的连接部件)与插座104电连接。例如,插座104可包括电连接部件108,其可与红外成像模块100的相应的电连接部件(例如,互连焊盘、触点、或者在电路板170侧面或者底表面上的其他电连接部件、接合键盘142或者基座150上的其他电连接部件、或者其他连接部件)接触。电连接部件108可由任何期望的材料(例如,铜或者任何其他合适的导电材料)制造。在一个实施方式中,电连接部件108可被机械的压扁,以当红外成像模块100插入到插座104的腔体106中时可贴着红外成像模块100的电连接部件。在一个实施方式中,电连接部件108可至少部分的将红外成像模块100固定到插座104中。其他类型的电连接部件可用于其他实施方式中。
插座104可通过类似类型的电连接部件与主机102电连接。例如,在一个实施方式中,主机102可包括穿过孔190与电连接部件108连接的电连接部件(例如,焊接连接、搭扣式连接或者其他连接)。在各种实施方式中,这种电连接部件可置于插座104的侧面和/或底部。
可通过倒装芯片技术来实现红外成像模块100的各种部件,所述倒装芯片技术可用于将部件直接安装到电路板上,而无需通常用于焊线连接的额外的间隙。倒装芯片连接例如可用于在紧凑小形状因子应用中减少红外成像模块100的整体尺寸。例如,在一个实施方式中,可使用倒装芯片连接部件将处理模块160安装到电路板170。例如,可使用这种倒装芯片配置来实现红外成像模块100。
在各种实施方式中,可根据如申请号为12/844,124,申请日为2010年7月27日的美国专利申请和申请号为61/469,651,申请日为2011年3月30日的美国临时专利申请所记载的各种技术(例如,圆晶级封装技术),来实现红外成像模块100和/或相关的部件,通过引用的方式将其作为整体合并于此。另外,根据一个或者多个实施方式,可根据如下所述文献记载的各种技术来实现、校正、测试和/或使用红外成像模块100和/或相关的部件,所述文献例如为:如公开号为7,470,902、公开日为2008年12月30日的美国专利,公开号为6,028,309、公开日为2000年2月22日的美国专利,公开号为6,812,465、公开日为2004年11月2日的美国专利,公开号为7,034,301、公开日为2006年4月25日的美国专利,公开号为7,679,048、公开日为2010年3月16日的美国专利,公开号为7,470,904、公开日为2008年12月30日的美国专利,申请号为12/202,880、申请日为2008年9月2日的美国专利申请以及申请号为12/202,896、申请日为2008年9月2日的美国专利申请,通过引用的方式将上述文献作为整体合并于此。
在一些实施方式中,主机装置102可包括诸如非热摄像机(例如,可见光摄像机或其他类型的非热成像器)的其他部件。非热摄像机可以是小形状因子成像模块或成像装置,并且在一些实施方式中,可以利用响应非热光谱中的辐射(例如,可见光波长、紫外波长和/或其他非热波长中的辐射)的一个或多个传感器和/或传感器阵列,以类似于本文公开的红外成像模块100的各种实施方式的方式来实施。例如,在一些实施方式中,非热摄像机可以利用电荷耦合器件(CCD)传感器、电子倍增CCD(EMCCD)传感器、互补金属氧化物半导体(CMOS)传感器、科学级CMOS传感器或其他过滤器和或传感器来实现。
在一些实施方式中,非热摄像机可以与红外成像模块100共驻并定向成使得非热相机的视场(FOV)至少部分重叠红外成像模块100的FOV。在一个示例中,根据申请号为61/748,018、申请日为2012年12月31日的美国临时专利申请中描述的各种技术,红外成像模块100和非热摄像机可以实施为共享共同基板的双传感器模块。
对于具有这种非热摄像机的实施方式,各种部件(例如,处理器195、处理模块160和/或其他处理部件)可以配置成叠置、融合、混合或以其他方式组合红外成像模块100捕获的红外图像(例如,包括热图像)和非热摄像机捕获的非热图像(例如,包括可见光图像),而不管红外图像和非热图像是基本同时捕获的还是在不同时间(例如,时间间隔超过数小时、数天,白天对夜间和/或其他不同时间)捕获的。
在一些实施方式中,可以处理热和非热图像以生成组合图像(例如,在一些实施方式中,在这些图像上执行一个或多个过程)。例如,可以执行基于场景的NUC处理(本文将进一步描述),执行真实色彩处理和/或可以执行高对比度处理。
关于真实色彩处理,可以例如通过将热图像的辐射测定分量与非热图像的对应分量根据混合参数混合来将热图像与非热图像混合,在一些实施方式中可以由用户和/或机器调整混合参数。例如,可以根据混合参数来组合热和非热图像的亮度分量和色度分量。在一个实施方式中,这种混合技术可以成为真彩色红外成像。例如,在白天成像中,混合的图像可包括非热彩色图像,其包括亮度分量和色度分量,其中其亮度值被来自热图像的亮度值取代和/或被混合有来自热图像的亮度值。对来自热图像的亮度数据的使用使得真实非热彩色图像的强度基于对象的温度亮化或变暗。这样,这些混合技术提供了对于白天或可见光图像的热成像。
关于高对比度处理,可以从一个或多个热和非热图像获得高空间频率内容(例如,通过执行高通滤波、差分成像和/或其他技术)。组合图像可包括热图像的辐射测定分量和混合分量,混合分量包括根据混合参数混合有高空间频率内容的场景的红外(例如,热)特征,在一些实施方式中可以由用户和/或机器调整混合参数。在一些实施方式中,可以通过将高空间频率内容叠置到热图像上来将来自非热图像的高空间频率内容与热图像混合,其中高空间频率内容取代或覆盖热图像的对应于高空间频率内容存在位置的那些部分。例如,高空间频率内容可包括在场景的图像中描述的对象的边缘,但是高空间频率内容可不存在于这些对象内部中。在这样的实施方式中,混合图像数据可简单地包括高空间频率内容,其可以随后被编码成组合图像的一个或多个分量。
例如,热图像的辐射测定分量可以是热图像的色度分量,并且可以从非热图像的亮度和/或色度分量导出高空间频率内容。在该实施方式中,组合图像可包括编码成组合图像的色度分量的辐射测定分量(例如,热图像的色度分量)和直接编码(例如,作为混合图像数据但不具有热图像贡献)成组合图像的亮度分量的高空间频率内容。通过这样做,可以保留热图像的辐射测定分量的辐射测定校准。在类似的实施方式中,混合图像数据可包括加到热图像的亮度分量的高空间频率内容,以及编码成产生的组合图像的亮度分量的产生的混合数据。
例如,下述申请中描述的任何技术都可以用于各种实施方式中:申请号为12/477,828、申请日为2009年6月3日的美国专利申请;申请号为12/766,739、申请日为2010年4月23日的美国专利申请;申请号为13/105,765、申请日为2011年5月11日的美国专利申请;申请号为13/437,645、申请日为2012年4月2日的美国专利申请;申请号为61/473,207、申请日为2011年4月8日的美国临时专利申请;申请号为61/746,069、申请日为2012年12月26日的美国临时专利申请;申请号为61/746,074、申请日为2012年12月26日的美国临时专利申请;申请号为61/748,018、申请日为2012年12月31日的美国临时专利申请;申请号为61/792,582、申请日为2013年3月15日的美国临时专利申请;申请号为61/793,952、申请日为2013年3月15日的美国临时专利申请;申请号为PCT/EP2011/056432、申请日为2011年4月21日的国际专利申请;申请号为14/138,040、申请日为2013年12月21日的美国专利申请;申请号为14/138,052、申请日为2013年12月21日的美国专利申请;申请号为14/138,058、申请日为2013年12月21日的美国专利申请;申请号为14/101,245、申请日为2013年12月9日的美国专利申请;申请号为14/101,258、申请日为2013年12月9日的美国专利申请;申请号为14/099,818、申请日为2013年12月6日的美国专利申请;申请号为14/029,683、申请日为2013年9月17日的美国专利申请;申请号为14/029,716、申请日为2013年9月17日的美国专利申请;申请号为61/745,489、申请日为2012年12月21日的美国临时专利申请;申请号为61/745,504、申请日为2012年12月21日的美国临时专利申请;申请号为No.13/622,178、申请日为2012年9月18日的美国专利申请;申请号为13/529,772、申请日为2012年6月21日的美国专利申请;和申请号为12/396,340、申请日为2009年3月2日的美国专利申请,所有这些申请通过整体引用的方式结合于本文。本文描述的或本文参考的其他申请或母案描述的任何技术都可以应用于本文描述的热装置、非热装置和应用中的任何一者。
再次参考图1,在各种实施方式中,主机装置102可包括快门105。就这方面而言,可在红外成像模块100安装在插座中时,将快门105选择性的放置在插座104上(例如,如箭头103所确定的方向)。就这方面而言,快门105例如可用于在红外成像模块100不使用时对其进行保护。快门105还可用作温度参考,如本领域技术人员所应当理解的,所述温度参考作为红外成像模块100的校正过程(例如,非均匀性校正(NUC)过程或者其他校正过程)的一部分。
在各种实施方式中,快门105可由各种材料制造,例如,聚合物、玻璃、铝(例如,涂漆的或者经过阳极氧化处理后的)或者其他材料。在各种实施方式中,快门105可包括一个或者多个涂层(例如,均匀的黑体涂层或者反射性的镀金涂层),其用于选择性地过滤电磁辐射和/或调整快门105的各种光学属性。
在另一个实施方式中,可将快门105固定在合适位置以全天候的保护红外成像模块100。在这种情况下,快门105或者快门105的一部分可由基本上不会过滤掉需要的红外线波长的合适的材料(例如,聚合物,或者诸如硅、锗、硒化锌或硫系玻璃的红外透射材料)制造。如本领域技术人员所应当理解的,在另一个实施方式中,快门可实现为红外成像模块100的一部分(例如,在透镜镜筒或者红外成像模块100的其他部件内,或者作为透镜镜筒或者红外成像模块100的其他部件的一部分)。
可选地,在另一个实施方式中,无需提供快门(例如,快门105或者其他类型的外部或者内部快门),而是可使用无快门的技术进行NUC步骤或者其他类型的校正。在另一个实施方式中,使用无快门技术的NUC步骤或者其他类型的校正可与基于快门的技术结合进行。
可根据下述文献记载的各种技术中的任意一种来实现红外成像模块100和主机装置102,所述文献为:申请号为61/495,873,申请日为2011年6月10日的美国临时专利申请;申请号为61/495,879,申请日为2011年6月10日的美国临时专利申请;以及申请号为61/495,888,申请日为2011年6月10日的美国临时专利申请。通过引用的方式将上述文献作为整体合并于此。
在各种实施方式中,主机装置102和/或红外成像模块100的部件可实现为本地系统,或者实现为部件之间通过有线和/或无线网络进行通信的分布式系统。因此,可根据特定实施的需要,通过本地和/或远程部件来执行本公开所提及的各种操作。
图5示出了根据本公开实施方式的、确定NUC项的各种操作的流程图。在一些实施方式中,可由对红外传感器132捕获的图像帧进行处理的处理模块160或者处理器195(二者通常也指处理器)来执行图5的操作。
在块505,红外传感器132开始捕获场景的图像帧。通常,场景将会是主机装置102当前处于的真实环境。就这方面而言,快门105(如果可选的提供)可打开以允许红外成像模块从场景接收红外辐射。在图5所示的所有操作期间,红外传感器132可连续地捕获图像帧。就这方面而言,连续地捕获图像帧可用于如下文所进一步讨论的各种操作。在一个实施方式中,可对捕获的图像帧进行时域滤波(例如,根据块826的步骤对捕获的图像帧进行时域滤波,本文将根据图8对其进一步描述),并且在所述图像帧被用于图5所示的操作之前,由其他项(例如,工厂增益项812、工厂偏移项816、先前确定的NUC项817、列FPN项820以及行FPN项824,本文将根据图8对其做进一步描述)对它们进行处理。
在块510,检测到NUC步骤的启动事件。在一个实施方式中,NUC步骤可响应于主机装置102的物理移动而启动。例如,可由被处理器轮询的运动传感器194来检测这种移动。在一个例子中,用于可能会以特定的方式来移动主机装置102,例如,通过有意的来回移动主机装置102,使主机装置102做“消除”或者“重击”运动。就这方面而言,用户可根据预定的速率和方向(速度),例如,通过上下、左右或者其他类型的运动来移动主机装置102从而启动NUC步骤。在这个例子中,这种移动的使用可允许用户直观的操作主机装置102,以模拟对捕获的图像帧的噪声“消除”。
在另一个例子中,如果检测到运动超过阈值(例如,运动大于期望的正常使用),则可由主机装置102来启动NUC步骤。可以预期的是,主机装置102的任何期望类型的空间移位均可用于启动NUC步骤。
在再另一个例子中,如果自从先前执行的NUC步骤以来,已经过去了最小时间,则可由主机装置102启动NUC步骤。在另一个例子中,如果自从先前执行的NUC步骤以来,红外成像模块100已经经历了最小的温度改变,则可由主机装置102启动NUC步骤。在另外的例子中,可连续地启动并重复NUC步骤。
在块515,检测到NUC步骤启动事件之后,确定是否应该真正地执行NUC步骤。就这方面而言,可基于一个或者多个附加条件是否满足,来选择性地启动NUC步骤。例如,在一个实施方式中,除非自从先前执行的NUC步骤以来,已经过去了最小时间,否则不会执行NUC步骤。在另一个实施方式中,除非自从先前执行的NUC步骤以来,红外成像模块100已经经历了最小的温度变化,否则不会执行NUC步骤。其他标准或者条件可用于其他实施方式中。如果已经满足合适的标准或者条件,流程图就会继续到块520。否则,流程图返回到块505。
在NUC步骤中,模糊图像帧可用于确定NUC项,所述NUC项可应用于捕获的图像帧以校正FPN。如所讨论的,在一个实施方式中,可通过累加运动场景的多个图像帧(例如,当场景和/或热成像仪处于运动的状态时捕获的图像帧)来获得模糊图像帧。在另一个实施方式中,可通过使热成像仪的光学元件或者其他部件散焦,来获得模糊图像帧。
因此,块520提供了两种方法的选择。如果使用基于运动的方法,则流程图继续到块525。如果使用基于散焦的方法,则流程图继续到块530。
现在参考基于运动的方法,在块525,检测到运动。例如,在一个实施方式中,可基于红外传感器132捕获的图像帧检测运动。就这方面而言,合适的运动检测步骤(例如,图像配准步骤、帧到帧的差值计算或者其他合适的步骤)可应用于捕获的图像帧,以确定是否存在运动(例如,是否已经捕获到静态的或者运动的图像帧)。例如,在一个实施方式中,能够确定连续图像帧的像素的周围的像素或者区域发生改变的数量已经超过了用户定义的数量(例如,百分比和/或阈值)。如果至少给定百分比的像素已经发生改变且发生改变的像素的数量至少为用户定义的数量,则可以非常肯定的检测到运动,从而流程图转到块535。
在另一个实施方式中,可以在每个像素的基础上确定运动,其中,只累加那些显示出明显变化的像素,以提供模糊图像帧。例如,可以为每个像素设置计数器,所述计数器用于保证每个像素累加的像素值的数量相同,或者用于根据每个像素实际上累加的像素值的数量来对像素值取平均。可执行其他类型的基于图像的运动检测,例如,执行拉东(Radon)变换。
在另一个实施方式中,可基于运动传感器194提供的数据来检测运动。在一个实施方式中,这种运动检测可包括检测主机装置102是否在空间中沿着相对笔直的轨迹移动。例如,如果主机装置102正沿着相对笔直的轨迹移动,那么下述情况是可能的:出现在成像后的场景中的某些对象可能不够模糊(例如,场景中的对象与笔直轨迹对准或者基本上沿着平行于所述笔直轨迹的方向移动)。因此,在该实施方式中,只有主机装置102显示出运动、或者没有显示出运动但沿着特定轨迹运动时,运动传感器194才能检测到运动。
在另一个实施方式中,可使用运动检测步骤和运动传感器194二者。因此,使用这些各种实施方式中任意一个,能够确定在场景的至少一部分和主机装置102相对于彼此之间运动的同时(例如,这可由主机装置102相对于场景移动、场景的至少一部分相对于主机装置102移动或者上述两种情况引起),是否捕获到每个图像帧。
可以预期的是,检测到运动的图像帧可显示出捕获的场景的某些次级模糊(例如,与场景相关的模糊的热图像数据),所述次级模糊是由于红外传感器132的热时间常数(例如,微测辐射热计热时间常数)与场景移动交互而引起的。
在块535,对检测到运动的图像帧进行累加。例如,如果检测到连续的一系列图像帧的运动,则可对系列图像帧进行累加。做为另外一个例子,如果只检测到某些图像帧的运动,则可忽略掉没有运动的图像帧并不对这些没有运动的图像帧进行累加。因此,可基于检测到的运动,选择连续的或者不连续的一系列图像帧进行累加。
在块540,对累加的图像帧进行平均以提供模糊图像帧。因为累加的图像帧是在运动期间捕获到的,所以我们期望图像帧之间实际的场景信息将会不同,从而导致模糊之后的图像帧中的场景信息被进一步的模糊(块545)。
与此相反,在运动期间,在至少短时间内以及场景辐射的至少有限变化时,FPN(例如,由红外成像模块100的一个或者多个部件引起的)保持不变。结果是,在运动期间捕获到的时间和空间上接近的图像帧将会遭受相同的或者至少类似的FPN。因此,尽管连续图像帧中的场景信息可能会改变,但是FPN将保持基本不变。通过对运动期间捕获到的多个图像帧进行平均,所述多个图像帧将会模糊场景信息,但是不会模糊FPN。结果是,与场景信息相比,FPN将在块545提供的模糊图像帧中保持的更加清楚。
在一个实施方式中,在块535和540中,对32个或者更多图像帧进行累加和平均。然而,任何期望数量的图像帧均可用在其他实施方式中,只是随着帧的数量的减少,校正精度通常会降低。
现在参考基于散焦的方法,在块530,进行散焦操作以有意地使红外传感器132捕获的图像帧散焦。例如,在一个实施方式中,一个或者多个致动器199可用于调整、移动或者平移光学元件180、红外传感器组件128和/或红外成像模块100的其他部件,以使得红外传感器132捕获场景的模糊的(例如,没有聚焦)图像帧。也可考虑使用其他不基于致动器的技术来有意地使红外图像帧散焦,例如,如人工(例如,用户启动的)散焦。
尽管图像帧中的场景可能会出现模糊,但是通过散焦操作,FPN(例如,由红外成像模块100的一个或者多个部件引起)将会保持不受影响。结果是,场景的模糊图像帧(块545)将会具有FPN,并且与场景信息相比,所述FPN将在所述模糊图像中保持的更加清楚。
在上面的讨论中,已经描述的基于散焦的方法与单个捕获的图像帧有关。在另一个实施方式中,基于散焦的方法可包括当红外成像模块100已经被散焦时对多个图像帧进行累加,并且对散焦的图像帧进行平均以消除时域噪声的影响并在块545提供模糊图像帧。
因此,可以理解的是,既可通过基于运动的方法也可通过基于散焦的方法来在块545提供模糊的图像帧。因为运动、散焦或者上述二者均会使很多的场景信息模糊,所以可实际上将模糊图像帧认为是原始捕获的有关场景信息的图像帧的低通滤波版本。
在块505,对模糊图像帧进行处理以确定更新的行和列的FPN项(例如,如果之前没有确定行和列的FPN项,那么更新的行和列的FPN项可以是块550的第一次迭代中的新的行和列的FPN项)。如本公开所使用的,根据红外传感器132和/或红外成像模块100的其他部件的方向,术语行和列可互换的使用。
在一个实施方式中,块550包括确定每行模糊图像帧(例如,每行模糊图像帧可具有其自身的空间FPN校正项)的空间FPN校正项,以及还确定每列模糊图像帧(例如,每列模糊图像帧可具有其自身的空间FPN校正项)的空间FPN校正项。这种处理可用于减少空间并减少热成像仪固有的行和列FPN的缓慢变化(1/f),这种缓慢变化例如是由ROIC402中的放大器的1/f噪声特征引起,所述1/f噪声特征可表现为图像帧中的垂直和水平条。
有利的是,通过利用模糊图像帧确定空间行和列的FPN,会降低将实际成像的场景中的垂直和水平物体误认为是行和列噪声的风险(例如,真实场景内容被模糊,而FPN保持不被模糊)。
在一个实施方式中,可通过考虑模糊图像帧的相邻像素之间的差值来确定行和列FPN项。例如,图6示出了根据本公开实施方式的、相邻像素之间的差值。具体地,在图6中,将像素610与它附近的8个水平相邻像素进行比较:d0-d3在一侧,d4-d7在另一侧。可对相邻像素之间的差值进行平均,以获得示出的像素组的偏移误差的估计值。可对行或者列中的每个像素的偏移误差均进行计算,并且得到的平均值可用于校正整个行或者列。
为了防止将真实的场景数据解释为噪声,可使用上限阈值和下限阈值(thPix和-thPix)。落入该阈值范围之外的像素值(在该例子中,是像素d1和d4)不用于获得偏移误差。另外,这些阈值可限制行和列FPN校正的最大量。
申请号为12/396,340,申请日为2009年3月2日的美国专利申请记载了执行空间行和列FPN校正处理的更具体的技术,通过引用的方式将其作为整体合并于此。
再次参考图5,将在块550确定的更新的行和列FPN项进行存储(块552)并将其应用于(块555)块545提供的模糊图像帧。在应用这些项之后,可降低模糊图像帧中的一些空间行和列的FPN。然而,因为这些项通常应用于行和列,所以附加的FPN可保持,例如,空间不相关的FPN与像素到像素的偏移或者其他原因相关。与单个行和列可能不直接相关的、空间相关的FPN的邻域也可保持不变。因此,可进行进一步的处理以确定NUC项,下面将对其进行描述。
在块560,确定模糊图像帧中的局部反差值(例如,相邻像素或者小组像素之间的梯度边缘值或者绝对值)。如果模糊图像帧中的场景信息包括还没有被明显模糊的反差区域(例如,原始场景数据中的高反差边缘),那么可由块560的反差确定步骤来识别这些特征。
例如,可计算模糊图像帧中的局部反差值,或者任何其他类型的边缘检测步骤可应用于识别作为局部反差区域的一部分的、模糊图像中的某些像素。可以认为以这种方式标记的像素包含很高空间频率的场景信息,可将该很高空间频率的场景信息解释为FPN(例如,这种区域可对应于还没有被充分模糊的场景的部分)。因此,可将这些像素排除在用于进一步确定NUC项的处理之外。在一个实施方式中,这种反差检测处理可依赖于高于与FPN相关的期望反差值的阈值(例如,可以认为显示出的反差值高于阈值的像素是场景信息,而认为那些低于阈值的像素是显示FPN)。
在一个实施方式中,在行和列FPN项已经应用于模糊图像帧之后,可对模糊图像帧执行块560的反差确定(例如,如图5所示)。在另一个实施方式中,可在块550之前执行块560,以在确定行和列FPN项之前确定反差(例如,以防止基于场景的反差对于确定该项有影响)。
在块560之后,可以预期的是,残留在模糊图像帧中的任何高空间频率分量可一般的归因于空间不相关的FPN。就这方面而言,在块560之后,已经将很多其他噪声或者真正需要的基于场景的信息去除或者排除在模糊图像帧之外,这是因为:对图像帧的有意地模糊(例如,通过从块520到545的运动或者散焦)、行和列FPN项的应用(块555)以及反差的确定(块560)。
因此,可以预期的是,在块560之后,任何残留的高空间频率分量(例如,显示为模糊图像帧中的反差或者差别区域)均可归因于空间不相关的FPN。因此,在块565,对模糊图像帧进行高通滤波。在一个实施方式中,这可包括应用高通滤波器以从模糊图像帧中提取高空间频率分量。在另一个实施方式中,这可包括对模糊图像帧应用低通滤波器,并提取低通滤波后的图像帧和没有滤波的图像帧之间的差值以获得高空间频率分量。根据本公开的各种实施方式,可通过计算传感器信号(例如,像素值)和其相邻信号之间的平均差值来实现高通滤波器。
在块570,对高通滤波后的模糊图像帧进行平场校正处理,以确定更新的NUC项(例如,如果先前没有进行NUC步骤,那么更新的NUC项可以是块570的第一次迭代中的新的NUC项)。
例如,图7示出了根据本公开实施方式的平场校正技术700。在图7中,可通过使用像素710的相邻像素712到726的值来确定模糊图像帧的每个像素710的NUC项。对于每个像素710来说,可基于各种相邻像素的值之间的绝对差值来确定数个梯度。例如,可确定下述像素之间的绝对差值:像素712和714之间(从左到右的对角梯度)、像素716和718之间(从上到下的垂直梯度)、像素720和722之间(从右到左的对角梯度)以及像素724和726之间(从左到右的水平梯度)。
可对这些绝对差值进行求和,以提供像素710的求和梯度。可确定像素710的权重值,所述权重值与求和梯度成反比。可对模糊图像帧的全部像素710执行该步骤,直到为每个像素710提供加权值。对于具有低梯度的区域(例如,被模糊的区域或者具有低对比度的区域)来说,权重值将会接近1。相反,对于具有高梯度的区域来说,权重值将会为0或者接近0。如由高通滤波器估计的NUC项的更新值与权重值相乘。
在一个实施方式中,通过将一定量的时间衰减应用到NUC项确定步骤,能够进一步地降低将场景信息引入到NUC项的风险。例如,可选择位于0和1之间的时间衰减因子λ,这样存储的新的NUC项(NUCNEW)是旧的NUC项(NUCOLD)和估计的更新的NUC项(NUCUPDATE)的平均加权值。在一个实施方式中,这可表示为:NUCNEW=λ·NUCOLD+(1-λ)·(NUCOLD+NUCUPDATE)。
尽管已经描述了根据梯度来确定NUC项,但是合适的时候也可使用局部反差值来代替梯度。也可使用其他技术,例如,标准偏差计算。可执行其他类型的平场校正步骤以确定NUC项,包括:例如公开号为6,028,309,公开日为2000年2月22日的美国专利;公开号为6,812,465,公开日为2004年11月2日的美国专利;以及申请号为12/114,865,申请日为2008年5月5日的美国专利申请所记载的各种步骤。通过引用的方式将上述文献作为整体合并于此。
再次参考图5,块570可包括对NUC项的附加处理。例如,在一个实施方式中,为了保留场景信号的平均值,可通过从每个NUC项中减去NUC项的平均值来将全部NUC项的和归一化到0。同样的在块570,为了避免行和列噪声影响NUC项,可从每行和列的NUC项中减去每行和列的平均值。结果是,使用在块550确定的行和列FPN项的行和列FPN滤波器可以更好地过滤掉将NUC项应用到捕获的图像之后(例如,在块580所进行的步骤,本文将对此作进一步地描述)的进一步的迭代中(例如,如图8所详细示出的)的行和列噪声。就这方面而言,行和列FPN滤波器通常可使用更多的数据来计算每行和每列的偏移系数(例如,行和列的FPN项),并且与基于高通滤波器来捕获空间上不相关的噪声的NUC项相比,可从而提供更加可靠的、用于减少空间相关的FPN的可选项。
在块571-573,可以可选地对更新的NUC项执行附加高通滤波和进一步的确定处理以消除空间相关的FPN,所述空间相关的FPN具有比先前由行和列FPN项消除的空间频率更低的空间频率。就这方面而言,红外传感器132或者红外成像模块100的其他部件的一些变化可产生空间相关的FPN噪声,不能容易地将所产生的空间相关的FPN噪声建模为行或者列噪声。这种空间相关的FPN可包括例如传感器组件或者红外传感器132组上的窗样缺损,所述红外传感器132组与相邻的红外传感器132相比,其响应不同的辐射度。在一个实施方式中,可使用偏移校正来减少这种空间相关的FPN。如果这种空间相关的FPN的数量很多,则也可在模糊图像帧中检测到噪声。由于这种类型的噪声可影响相邻像素,具有很小内核的高通滤波器可能不能检测到相邻像素中的FPN(例如,高通滤波器使用的全部值可从与受到影响的像素附近的像素中提取,从而所述全部值可被同样的偏移误差影响)。例如,如果使用小的内核执行块565的高通滤波(例如,只考虑落入受到空间相关的FPN影响的像素的附近范围中的直接相邻的像素),则可能不能检测到广泛分布的空间相关的FPN。
例如,图11示出了根据本公开实施方式的、附近像素中的空间相关的FPN。如采样的图像帧1100所示,像素1110附近的像素可表现出空间相关的FPN,所述空间相关的FPN不准确的与单个行和列相关,并且分布于附近的多个像素(例如,在该例子中,附近的像素约为4×4的像素)。采样的图像帧1100还包括一组像素1120和一组像素1130,所述像素1120表现出在滤波计算中没有使用的基本上均匀的响应,所述像素1130用于估计像素1110附近的像素的低通值。在一个实施方式中,像素1130可以是可分为2个的多个像素,以便于硬件或者软件的有效计算。
再次参考图5,在块571-573,可以可选的对更新的NUC项执行附加高通滤波和进一步的确定处理,以消除空间相关的FPN,例如,像素1110表现出的空间相关的FPN。在块571,将在块570确定的更新的NUC项应用到模糊图像帧。因此,此时,模糊图像帧将会已经用于初步校正空间相关的FPN(例如,通过在块555应用更新的行和列FPN项),并且也用于初步校正空间不相关的FPN(例如,通过在块571应用更新的NUC项)。
在块572,进一步的应用高通滤波器,该高通滤波器的核比块565中使用的高通滤波器的核大,并且可在块573进一步地确定更新的NUC项。例如,为了检测像素1110中存在的空间相关的FPN,在块572应用的高通滤波器可包括来自像素的足够大的相邻区域的数据,从而能够确定没有受到影响的像素(例如,像素1120)和受到影响的像素(例如,像素1110)之间的差值。例如,可使用具有大核的低通滤波器(例如,远大于3×3像素的N×N内核),并且可减去得到的结果以进行合适的高通滤波。
在一个实施方式中,为了提高计算效率,可使用稀疏内核,从而仅使用N×N附近区域内的较少数量的相邻像素。对于任何给定的使用较远的相邻像素的高通滤波器操作(例如,具有大核的高通滤波器)来说,存在将实际的(可能模糊的)场景信息建模为空间相关的FPN的风险。因此,在一个实施方式中,可将用于在块573确定的更新的NUC项的时间衰减因子λ设置为接近1。
在各种实施方式中,可重复块571-573(例如,级联),以利用递增的核尺寸迭代地执行高通滤波,从而提供进一步更新的NUC项,所述进一步更新的NUC项用于进一步校正需要的相邻尺寸区域的空间相关的FPN。在一个实施方式中,可根据通过块571-573的先前操作所得到的更新的NUC项是否已经将空间相关的FPN真正的消除,来确定执行这种迭代的决定。
在块571-573完成之后,作出是否将更新的NUC项应用到捕获的图像帧的决定(块574)。例如,如果整个图像帧的NUC项的绝对值的平均值小于最小的阈值,或者大于最大的阈值,则可认为该NUC项是假的或者不能提供有意义的校正。可选的,可将阈值标准应用到各个像素,以确定哪个像素接收到更新的NUC项。在一个实施方式中,阈值可对应于新计算的NUC项和先前计算的NUC项之间的差值。在另一个实施方式中,阈值可独立于先前计算的NUC项。可应用其他测试(例如,空间相关性测试)以确定是否应用该NUC项。
如果认为NUC项是假的或者不可能提供有意义的校正,则流程图返回到块505。否则,存储最新确定的NUC项(块575)以替代先前的NUC项(例如,由图5中先前执行的迭代确定),并将所述最新确定的NUC项应用到(块580)捕获的图像帧。
图8示出了根据本公开实施方式的、应用在图像处理流水线800中的图5的各种图像处理技术和其他操作。就这方面而言,流水线800标识了在用于校正红外成像模块100提供的图像帧的全部迭代图像的处理方案的情况下,图5的各种操作。在一些实施方式中,可由对通过红外传感器132捕获的图像帧进行操作的处理模块160或者处理器195(二者通常也指处理器)来提供流水线800。
可将红外传感器132捕获的图像帧提供给帧平均器804,所述帧平均器804求多个图像帧的积分以提供具有改进的信噪比的图像帧802。可通过红外传感器132、ROIC402以及实现为支持高图像捕获速率的红外传感器组件128的其他组件来有效地提供帧平均器804。例如,在一个实施方式中,红外传感器组件128可以以240Hz的帧速率(例如,每秒捕获240幅图像)来捕获红外图像帧。在该实施方式中,例如可通过使红外传感器组件128工作在相对较低的电压(例如,与移动电话的电压相兼容),以及通过使用相对较小的红外传感器132阵列(例如,在一个实施方式中,为64×64的红外传感器阵列),来实现这样高的帧速率。
在一个实施方式中,可以以高帧速率(例如,240Hz或者其他帧速率)将这种来自红外传感器组件128的红外图像帧提供给处理模块160。在另一个实施方式中,红外传感器组件128可以在较长的时间段或者多个时间段进行积分,从而以较低的帧速率(例如,30Hz、9Hz或者其他帧速率)将积分后的(例如,取平均后的)红外图像帧提供给处理模块160。有关可用于提供高图像捕获速率的实现方案的进一步信息可在申请号为61/495,879、申请日为2011年6月10日的美国临时专利申请中找到,该申请通过全文引用的方式结合于本文。
通过流水线800处理的图像帧802用于确定各种调整项和增益补偿,其中,由各种项、时域滤波来对所述图像帧802进行调整。
在块810和814,将工厂增益项812和工厂偏移项816应用于图像帧802,以分别补偿在制造和测试期间所确定的各种红外传感器132和/或红外成像模块100的其他部件之间的增益和偏移差。
在块580,将NUC项817应用于图像帧802,以如上所述的校正FPN。在一个实施方式中,如果还没有确定NUC项817(例如,在已经启动NUC步骤之前),则可能不会执行块580,或者可将初始值用于不会导致图像数据改变的NUC项817(例如,每个像素的偏移值将等于0)。
在块818到822,分别将列FPN项820和行FPN项824应用到图像帧802。如上所述可根据块550来确定列FPN项820和行FPN项824。在一个实施方式中,如果还没有确定列FPN项820和行FPN项824(例如,在已经启动NUC步骤之前),则可能不会执行块818和822,或者可将初始值用于不会导致图像数据改变的列FPN项820和行FPN项824(例如,每个像素的偏移值将等于0)。
在块826,根据时域噪声消减(TNR)步骤对图像帧802执行时域滤波。图9示出了根据本公开实施方式的TNR步骤。在图9中,对当前接收到的图像帧802a和先前时域滤波后的图像帧802b进行处理以确定新的时域滤波后的图像帧802e。图像帧802a和802b包括分别以像素805a和805b为中心的局部相邻像素803a和803b。相邻像素803a和803b对应于图像帧802a和802b内的相同位置,并且是图像帧802a和802b全部像素的子集。在示出的实施方式中,相邻像素803a和803b包括5×5像素的区域。其他尺寸的相邻像素可用于其他实施方式中。
确定相邻像素803a和803b对应的像素的差值并对其求平均,以为对应于像素805a和805b的位置提供平均增量值805c。平均增量值805c可用于在块807确定权重值,以将其应用到图像帧802a和802b的像素805a和805b。
在一个实施方式中,如曲线图809所示,在块807确定的权重值可与平均增量值805c成反比,以使得当相邻像素803a和803b之间差别较大时,权重值迅速的降低到0。就这方面而言,相邻像素803a和803b之间较大差别可表示场景内已经发生了变化(例如,由于运动而发生的变化),并且在一个实施方式中,可对像素802a和802b进行合适的加权,以避免在遇到帧到帧的场景改变时引入模糊。权重值和平均增量值805c之间的其他关联可用于其他实施方式中。
在块807确定的权重值可用于像素805a和805b,以确定图像帧802e的相应像素805e的值(块811)。就这方面而言,像素805e可具有根据在块807确定的平均增量值805c和权重值对像素805a和805b加权平均(或者其他组合)后的值。
例如,时域滤波后的图像帧802e的像素805e可能是图像帧802a和802b的像素805a和805b的加权和。如果像素805a和805b之间的平均差别是由于噪声引起的,那么可以预期的是,相邻像素805a和805b之间的平均值的变化将会接近于0(例如,对应于不相关的变化的平均值)。在这种情况下,可以预期的是,相邻像素805a和805b之间的差值的和将会接近于0。在这种情况下,可对图像帧802a的像素805a进行合适的加权,以有助于生成像素805e的值。
然而,如果该差值的和不为0(例如,在一个实施方式中,甚至很接近于0),那么可将变化解释为是由运动引起的,而不是由噪声引起的。因此,可基于相邻像素805a和805b所表现出的平均值的变化来检测运动。在这种情况下,可对图像帧802a的像素805a施加较大的权重,而对图像帧802b的像素805b施加较小的权重。
其他实施方式也是可以考虑的。例如,尽管描述的是根据相邻像素805a和805b来确定平均增量值805c,但是在其他实施方式中,可根据任何期望的标准(例如,根据单个像素或者其他类型的由一系列像素组成的像素组)来确定平均增量值805c。
在上面的实施方式中,已经将图像帧802a描述为当前接收到的图像帧,并且已经将图像帧802b描述为先前经过时域滤波后的图像帧。在另一个实施方式中,图像帧802a和802b可以是红外成像模块100捕获到的还没有经过时域滤波的第一和第二图像帧。
图10示出了与块826所执行的TNR步骤有关的详细的实施细节。如图10所示,分别将图像帧802a和802b读入到行缓冲器1010a和1010b,并且在将图像帧802b(例如,先前图像帧)读入到行缓冲器1010b之前,可将其存储到帧缓冲器1020中。在一个实施方式中,可由红外成像模块100和/或主机装置102的任何合适的部件提供的一块随机存储器(RAM)来实现行缓冲器1010a-b和帧缓冲器1020。
再次参考图8,可将图像帧802e传送到自动增益补偿块828,其对图像帧802e进行进一步地处理,以提供主机装置102可根据需要使用的结果图像帧830。
图8进一步地示出了用于如所讨论的确定行和列FPN项以及NUC项所执行的各种操作。在一个实施方式中,这些操作可使用如图8所示的图像帧802e。因为已经对图像帧802e进行了时域滤波,所以可消除至少某些时域噪声,从而不会不经意的影响对行和列FPN项824和820以及NUC项817的确定。在另一个实施方式中,可使用没有经过时域滤波的图像帧802。
在图8中,图5的块510、515和520集中的表示在一起。如所讨论的,可响应于各种NUC步骤启动事件以及基于各种标准或者条件来选择性地启动和执行NUC步骤。还如所讨论的,可根据基于运动的方法(块525、535和540)或者基于散焦的方法(块530)来执行NUC步骤,以提供模糊的图像帧(块545)。图8进一步地示出了先前所讨论的关于图5的各种附加块550、552、555、560、565、570、571、572、573和575。
如图8所示,可确定行和列FPN项824和820以及NUC项817,并且以迭代的方式应用上述项,以使得使用已经应用了先前项的图像帧802来确定更新的项。结果是,图8的所有步骤可重复地更新,并应用这些项以连续地减少主机装置102将要使用的图像帧830中的噪声。
再次参考图10,其示出了图5和图8中与流水线800有关的各种块的详细的实施细节。例如,将块525、535和540显示为以通过流水线800接收的图像帧802的正常帧速率操作。在图10所示的实施方式中,将在块525所做的决定表示为决定菱形(decisiondiamond),其用于确定给定图像帧802是否已经充分的改变,从而可以认为如果将图像帧加入到其他图像帧中,该图像帧将会增强模糊,因此将该图像帧进行累加(在该实施方式中,通过箭头来表示块535)和平均(块540)。
同样的在图10中,将对列FPN项820的确定(块550)显示为以更新速率操作,在该例子中,由于在块540执行的平均处理,该更新速率为传感器帧速率(例如,正常帧速率)的1/32。其他更新速率可用于其他实施方式中。尽管图10仅标识出了列FPN项820,但是可以以相同的方式,以降低的帧速率来实现行FPN项824。
图10还示出了与块570的NUC确定步骤有关的详细的实施细节。就这方面而言,可将模糊图像帧读入到行缓冲器1030(例如,由红外成像模块100和/或主机装置102的任何合适的部件提供的一块RAM来实现)。可对模糊图像帧执行图7的平场校正技术700。
鉴于本公开的内容,应当理解的是,本文描述的技术可用于消除各种类型的FPN(例如,包括很高幅度的FPN),例如,空间相关的行和列FPN以及空间不相关的FPN。
其他实施方式也是可以考虑的。例如,在一个实施方式中,行和列FPN项和/或NUC项的更新速率可与模糊图像帧中的模糊的估计数量成反比,和/或与局部反差值(例如,在块560确定的局部反差值)的大小成反比。
在各种实施方式中,描述的技术优于传统的基于快门的噪声校正技术。例如,通过使用无快门的步骤,不需要设置快门(例如,如快门105),从而可以减少尺寸、重量、成本和机械复杂度。如果不需要机械的操作快门,还可降低提供给红外成像模块100或者由红外成像模块100产生的电源和最大电压。通过将作为潜在的故障点的快门去除,将会提高可靠性。无快门的步骤还消除了由通过快门成像的场景的暂时性堵塞所引起的潜在的图像中断。
同样的,通过有意地使用从真实场景(不是快门提供的均匀场景)捕获的模糊图像帧来校正噪声,可对辐射水平与期望成像的那些真实场景类似的图像帧进行噪声校正。这能够改进根据各种描述的技术所确定的噪声校正项的精度和效率。
如所讨论的,在各种实施方式中,红外成像模块100可被配置为在低电压下工作。特别的,可通过被配置为在低功耗下工作和/或根据其他参数工作的电路来实现红外成像模块100,所述其他参数允许红外成像模块100方便有效地在各种类型的主机装置102(例如,移动装置及其他装置)中实现。
例如,图12示出了根据本公开实施方式的、包括红外传感器132和低压差稳压器(LDO)1220的红外传感器组件128的另一个实现方式的框图。如图所示,图12还示出了各种部件1202、1204、1205、1206、1208和1210,可以以与先前描述的有关图4的相应的部件相同或者相似的方式来实现这些部件。图12还示出了偏压校正电路1212,其可用于对提供给红外传感器132的一个或者多个偏压电压进行调整(例如,以补偿温度改变、自热和/或其他因素)。
在一些实施方式中,可将LDO1220设置为红外传感器组件128的一部分(例如,位于相同的芯片上和/或晶片级封装为ROIC)。例如,可将LDO1220设置为具有红外传感器组件128的FPA的一部分。如所讨论的,这种实现可减少引入到红外传感器组件128中的电源噪声,从而提供改进的PSRR。另外,通过利用ROIC来实现LDO,可消耗较少的模片面积,并且需要较少的分离模片(或者芯片)。
LDO1220通过馈电线1232接收电源1230提供的输入电压。LDO1220通过馈电线1222向红外传感器组件128的各种部件提供输出电压。就这方面而言,根据在例如申请号为14/101,245、申请日为2013年12月9日的美国专利申请中描述的各种技术,LDO1220可响应于从电源1230接收到的单输入电压,向红外传感器组件128的各个部件提供基本上相同的调节输出电压,通过全文引用的方式将该美国专利申请结合于此文。
例如,在一些实施方式中,电源1230可提供从大约2.8v到大约11v范围的输入电压(例如,在一个实施方式中为大约2.8v),并且LDO1220可提供从大约1.5v到大约2.8v范围的输出电压(例如,在各种实施方式中,大约为2.8v、2.5v、2.4v和或更低的电压)。就这方面而言,无论电源1230是提供大约9v到大约11v的传统电压范围,还是提供低电压(例如,大约2.8v),LDO1220都可用于提供恒定的调节输出电压。因此,尽管为输入和输出电压提供了多种电压范围,但是可以预期的是,不管输入电压如何变化,LDO1220的输出电压将会保持不变。
与用于FPA的传统电源相比,将LDO1220实现为红外传感器组件128的一部分具有很多优点。例如,传统的FPA通常依赖于多个电源,所述多个电源中的每一个可分开的向FPA供电,并且分开的分布于FPA的各个部件。通过由LDO1220对单电源1230进行调节,合适的电压可分别的提供给(例如,以减少可能的噪声)低复杂性的红外传感器组件128的所有部件。即使来自电源1230的输入电压发生改变(例如,如果由于电池或者用于电源1230的其他类型的装置的充电或者放电而使输入电压增加或者降低),LDO1220的使用还使得红外传感器组件128仍能以恒定的方式工作。
图12中示出的红外传感器组件128的各种部件也可实现为在比传统装置使用的电压更低的电压下工作。例如,如所讨论的,LDO1220可实现为提供低电压(例如,大约2.5v)。这与通常用于为传统的FPA供电的多个较高电压形成了鲜明的对比,所述多个较高电压例如为:用于为数字电路供电的大约3.3v到大约5v的电压;用于为模拟电路供电的大约3.3v的电压;以及用于为负载供电的大约9v到大约11v的电压。同样的,在一些实施方式中,LDO1220的使用可减少或者消除对提供给红外传感器组件128的单独负参考电压的需要。
参考图13,可进一步地理解红外传感器组件128的低电压操作的其他方面。图13示出了根据本公开实施方式的、图12的红外传感器组件128的一部分的电路图。特别的,图13示出了连接到LDO1220和红外传感器132的偏压校正电路1212的其他部件(例如,部件1326、1330、1332、1334、1336、1338和1341)。例如,根据本公开的实施方式,偏压校正电路1212可用于补偿偏置电压中依赖于温度的变化。通过参考公开号为7,679,048、公开日为2010年3月16的美国专利中指示的相似的部件,可进一步地理解这些其他附件的操作,通过引用的方式将其作为整体合并于此。还可根据公开号为6,812,465、公开日为2004年11月2日的美国专利中指示的各种部件来实现红外传感器组件128,通过引用的方式将其作为整体合并于此。
在各种实施方式中,全部或者部分偏压校正电路1212可实现在如图13所示的整体阵列基础上(例如,用于集中在阵列中的所有红外传感器132)。在其他实施方式中,可在单个传感器基础上实现全部或者部分偏压校正电路1212(例如,对每个传感器132都全部或者部分地复制)。在一些实施方式中,图13的偏压校正电路1212和其他部件可实现为ROIC1202的一部分。
如图13所示,LDO1220向沿着馈电线1222中的一个的偏压校正电路1212提供负载电压Vload。如所讨论的,在一些实施方式中,Vload可以大约为2.5v,与此形成对比的是,可用作传统红外成像装置中的负载电压的大小大约为9v到大约11v的较高的电压。
基于Vload,偏压校正电路1212在节点1360提供传感器偏置电压Vbolo。Vbolo可通过适合的开关电路1370(例如,由图13中的虚线表示的)分发至一个或者多个红外传感器132。在一些例子中,可根据本文之前引用的公开号为6,812,465和7,679,048的专利中指示出的合适的部件来实现开关电路1370。
每个红外传感器132均包括通过开关电路1370接收Vbolo的节点1350以及可接地的另一个节点1352、基底和/或负参考电压。在一些实施方式中,节点1360处的电压与节点1350处的Vbolo基本相同。在其他实施方式中,可调整在节点1360处的电压,以补偿与开关电路1370和/或其他因素有关的可能的压降。
可利用通常比传统红外传感器偏压所使用的电压较低的电压来实现Vbolo。在一个实施方式中,Vbolo可以在从大约0.2v到大约0.7v的范围。在另一个实施方式中,Vbolo可以在大约0.4v到大约0.6v的范围。在另一个实施方式中,Vbolo大约为0.5v。相比之下,传统红外传感器通常使用的偏置电压大约为1v。
与传统的红外成像装置相比,根据本公开的红外传感器132的较低偏置电压的使用使得红外传感器组件128能够具有显著降低的功耗。特别的,每个红外传感器132的功耗以偏置电压的平方减少。因此,电压的降低(例如,从1.0v降到0.5v)提供了显著的功耗的降低,特别是当所述电压的降低应用到红外传感器阵列中的多个红外传感器132时。这种功率的降低还可导致红外传感器阵列128的自热的减少。
根据本公开的其他实施方式,提供了用于降低由工作在低电压的红外成像装置提供的图像帧中的噪声效应的各种技术。就这方面而言,当红外传感器组件128以所描述的低电压工作时,如果不对噪声、自热和/或其他现象进行校正,所述噪声、自热和/或其他现象会在红外传感器组件128所提供的图像帧中变得更加明显。
例如,参考图13,当LDO1220以本文所述的方式保持在低电压Vload时,Vbolo也将保持在它的相应的低电压,并且可降低它的输出信号的相对尺寸。因此,噪声、自热和/或其他现象可对从红外传感器132读出的较小的输出信号产生较大的影响,从而导致输出信号的变化(例如,错误)。如果不进行校正,这些变化可能表现为图像帧中的噪声。此外,尽管低电压工作可以降低某些现象(例如,自热)的总体数量,但是较小的输出信号可使得残留的误差源(例如,残留的自热)在低电压工作期间对输出信号产生不成比例的影响。
为了补偿这种现象,可利用各种阵列尺寸、帧率和/或帧平均技术来实现红外传感器组件128、红外成像模块100和/或主机装置102。例如,如所讨论的,各种不同的阵列尺寸可考虑用于红外传感器132。在一些实施方式中,可利用范围从32×32到160×120的阵列尺寸的红外传感器132来实现红外传感器132。其他例子的阵列尺寸包括80×64、80×60、64×64以及64×32。可使用任何期望的尺寸。
有利的是,当利用这种相对小的阵列尺寸实现红外传感器组件128时,所述红外传感器组件128可以在无需对ROIC及相关电路进行较大变动的情况下,以相对高的帧率来提供图像帧。例如,在一些实施方式中,帧率的范围可以从大约120Hz到大约480Hz。
在一些实施方式中,阵列尺寸和帧率可以相对于彼此之间增减(例如,以成反比例的方式或者其他方式),以使得较大的阵列实现为具有较低的帧率,而较小的阵列实现为具有较高的帧率。例如,在一个例子中,160×120的阵列可提供大约为120Hz的帧率。在另一个实施方式中,80×60的阵列可提供相应的大约为240Hz的较高的帧率。其他帧率也是可以考虑的。
通过阵列尺寸和帧率相对于彼此之间的增减,无论实际的FPA阵列尺寸或者帧率为多少,FPA阵列的行和/或列的特定读出定时都可以保持不变。在一个实施方式中,读出定时可以为大约每行或列63微秒。
如之前关于图8的讨论,红外传感器132捕获的图像帧可提供给帧平均器804,所述帧平均器804求多个图像帧的积分以提供具有低帧率(例如,大约30Hz、大约60Hz或者其他帧率)和改进的信噪比的图像帧802(例如,处理后的图像帧)。特别的,通过对由相对小的FPA阵列提供的高帧率图像帧进行平均,可将图像帧802中由于低电压工作而产生的图像噪声有效的平均掉和/或显著的减少。因此,红外传感器组件128可以工作在由如所讨论的LDO1220提供的相对低的电压,并且在帧平均器804对产生的图像帧802进行处理之后,红外传感器组件128不会受到所述产生的图像帧802中的额外的噪声及相关的副作用的影响。
其他实施方式也是可以考虑的。例如,尽管示出了红外传感器132的单个阵列,但是可以预期的是,可一起使用多个这样的阵列以提供较高分辨率的图像帧(例如,一个场景可以在多个这样的阵列上成像)。这种阵列可设置在多个红外传感器组件128和/或设置在同样的红外传感器组件128中。如所描述的,每个这样的阵列均可工作在低电压,并且也可为每个这样的阵列配置相关的ROIC电路,以使得每个阵列仍然可以相对高的帧率工作。共享或者专用帧平均器804可对由这种阵列提供的高帧率图像帧进行平均,以减少和/或消除与低电压工作相关的噪声。因此,当工作在低电压时仍然可获得高分辨率红外图像。
在各种实施方式中,可将红外传感器组件128实现为合适的尺寸,以使得红外成像模块100能够与小形状因子的插座104(例如,用于移动装置的插座)一起使用。例如,在一些实施方式中,可将红外传感器组件128实现为范围为大约4.0mm×大约4.0mm到大约5.5mm×大约5.5mm(例如,在一个实施例中,大约4.0mm×大约5.5mm)的芯片尺寸。可将红外传感器组件128实现为这种尺寸或者其他合适的尺寸,以使得能够与实现为各种尺寸的插座104一起使用,所述插座104的尺寸例如为:8.5mm×8.5mm、8.5mm×5.9mm、6.0mm×6.0mm、5.5mm×5.5mm、4.5mm×4.5mm和/或其他插座尺寸,例如,如申请号为61/495,873、申请日为2011年6月10中的美国临时专利申请表1所示的那些尺寸,通过全文引用的方式将该美国临时专利申请结合于本文。
如关于图14-23E的进一步描述,描述了各种图像处理技术,其可应用于例如红外图像(例如,热图像)以降低红外图像内的噪声(例如,改善图像细节和/或图像质量)和/或提供非均匀性校正。
虽然图14-23E将主要针对系统2100描述,但描述的技术可通过对红外传感器132捕获的图像帧进行操作的处理模块160或处理器195(两者通常还称为处理器)来执行,反之亦然。
在一些实施例中,有关图14-22B描述的技术用于执行方框550(见图5和8)的操作以确定行和/或列FPN项。例如,这种技术可应用于图5和8的方框545提供的有意模糊的图像。在一些实施例中,有关图23A-E描述的技术可用于代替和/或附加到方框565-573(见图5和8)的操作以估算FPN和/或确定NUC项。
现在参考图14-22B,噪声的重要部分可被定义为行和列噪声。这种类型的噪声在读出集成电路(ROIC)中可由非线性说明。这种类型的噪声,如果不消除,在最终的图像中会显示为垂直和水平条纹且人类观察者会尤其感受到这种类型的图像伪影。如果行和列噪声存在,依赖于来自红外传感器的成像的其它系统(诸如自动目标跟踪器)也会遭受到性能退化。
由于红外探测器和读出集成电路(ROIC)组件的非线性行为,所以即使当执行快门操作或外部黑体标定时,也会存在残留的行和列噪声(例如,成像的场景可能不具有与快门精确相同的温度)。行和列噪声的量可在偏移校准之后随着时间增加,渐近地增加到某个最大值。在一个方面,这可被称为1/f类型噪声。
在任何指定的帧中,行和列噪声可被看作是高频率空间噪声。通常,这种类型的噪声可使用空间域(例如,局部线性或非线性低通滤波器)或频率域(例如,傅里叶或微波空间低通滤波器)滤波器来降低。然而,这些滤波器有负面影响,诸如图像模糊和微弱细节的潜在损失。
本领域的技术人员应该意识到,关于列或行的任何引用可以包括部分列或部分行,且术语“行”和“列”是可互换的且不是限制的。因此,在不偏离该发明的范围的情况下,基于该申请,术语“行”可用于描述一行或一列,同样地,术语“列”也可用于描述一行或一列。
图14示出了根据实施例的红外图像捕获和处理的系统2100(例如,红外摄像机)的框图。在一些实施例中,系统2100可用红外成像模块100、主机装置102、红外传感器组件128和/或本文描述的各种部件(例如,参见图1-13)来实现。因此,虽然描述了关于系统2100的各种技术,但是这种技术可类似地应用于红外成像模块100、主机装置102、红外传感器组件128和/或本文描述的各种部件,反之亦然。
在一个实现中,系统2100包括处理部件2110、存储部件2120、图像捕获部件2130、控制部件2140和显示部件2150。可选地,系统2100可包括传感部件2160。
系统2100可表示捕获和处理图像(诸如场景2170的视频图像)的红外成像装置,诸如红外摄像机。系统2100可表示适合检测红外辐射的任何类型的红外摄像机并提供代表性数据和信息(例如,场景的红外图像数据)。例如,系统2100可表示用于近、中和/或远红外频谱的红外摄像机。在另一个实例中,红外图像数据可包括用于如本文所述的处理的场景2170的非均匀性数据(例如,不是从快门或黑体得到的真实图像数据)。系统2100可包括便携装置并可被并入到例如车辆中(例如,汽车或其它类型的地面车辆、飞机或宇宙飞船)或要求存储和/或显示的红外图像的非移动安装。
在各种实施例中,处理部件2110包括处理器,诸如微处理器、单核处理器、多核处理器、微控制器、逻辑装置(例如,配置成执行处理功能的可编程逻辑装置(PLD))、数字信号处理(DSP)装置等中的一个或多个。处理部件2110可适合与部件2120、2130、2140和2150接口和通信,以执行本文所述的方法和处理步骤和/或操作。处理部件2110可包括适合实现噪声减少和/或消除算法(例如,噪声滤波算法,诸如本文描述的任何算法)的噪声滤波模块2112。在一个方面,处理部件2110可适合执行包括缩放红外图像数据的各种其他图像处理算法,或者作为噪声滤波算法的一部分或者与噪声滤波算法分离。
应该意识到,噪声滤波模块2112可整合在作为处理部件2110的一部分的软件和/或硬件中,其中用于噪声滤波模块2112的编码(例如,软件或配置数据)存储在例如存储部件2120中。如本文公开的噪声滤波算法的实施例可通过由计算机(例如,逻辑系统或基于处理器的系统)执行的单独的计算机可读介质(例如,存储器,诸如硬盘、光盘、数字视频光盘或闪速存储器)来存储以执行本文公开的各种方法和操作。在一个方面,计算机可读介质可以是便携的和/或与具有存储的噪声滤波算法的系统2100分开,该存储的噪声滤波算法通过将计算机可读介质耦合到系统2100和/或通过系统2100从计算机可读介质下载(例如,经由有线链接和/或无线链接)噪声滤波算法来提供到系统2100。
在一个实施例中,存储部件2120包括适合存储包括红外数据和信息的数据和信息的一个或多个存储装置。存储装置2120可包括一个或多个各种类型的存储装置,其包括易失性和非易失性存储装置,诸如RAM(随机存取存储器)、ROM(只读存储器)、EEPROM(电可擦除只读存储器)、闪速存储器等。处理部件2110可适合执行存储在存储部件2120中的软件以执行本文描述的方法和处理步骤和/或操作。
在一个实施例中,图像捕获部件2130包括用于捕获代表图像(诸如场景2170)的红外图像数据(例如,静止图像数据和/或视频数据)的一个和多个红外传感器(例如,任何类型的多像素红外探测器,诸如焦平面阵列)。在一个实施例中,图像捕获部件2130的红外传感器用于将捕获的图像数据表示(例如,转换)为数字数据(例如,经由作为红外传感器的一部分而被包括的或作为系统2100的一部分而与红外传感器分开的模数转换器)。在一个方面,红外图像数据(例如,红外视频数据)可包括图像(诸如场景2170)的非均匀性数据(例如,真实图像数据)。处理部件2110可适合处理红外图像数据(例如,提供处理的图像数据)、在存储部件2120中存储红外图像数据、和/或从存储部件2120中检索存储的红外图像数据。例如,处理部件2110可适合处理存储在存储部件2120中的红外图像数据以提供处理的图像数据和信息(例如,捕获和/或处理的红外图像数据)。
在一个实施例中,控制部件2140包括用户输入和/或适合产生用户输入信号的接口装置,诸如可旋转旋钮(例如,电位器)、按钮、滑杆、键盘等。处理部件2110可适合经由控制部件2140感测用户的输入信号并响应从那接收的任何感测的控制输入信号。处理部件2110可适合将这种控制输入信号解释为通常被本领域的技术人员理解的值。
在一个实施例中,控制部件2140可包括具有适合与用户接口并接收用户输入控制值的按钮的控制单元(例如,有线或无线手持控制单元)。在一个实现中,控制单元的按钮可用于控制系统2100的各种功能,诸如自动聚焦、菜单启用和选择、视野、亮度、对比度、噪声滤波、高通滤波、低通滤波和/或本领域的技术人员所理解的各种其它特征。在另一个实现中,一个或多个按钮可用于提供噪声滤波算法的输入值(例如,一个或多个噪声滤波器值、调整参数、特性等)。例如,一个或多个按钮可用于调整由系统2100捕获和/或处理的红外图像的噪声滤波特性。
在一个实施例中,显示装置2150包括图像显示装置(例如,液晶显示器(LCD))或各种其它类型的通常已知的视频显示器或监视器。处理部件2110可适合在显示部件2150上显示图像数据和信息。处理部件2110可适合从存储部件2120检索图像数据和信息并在显示部件2150上显示任何检索到的图像数据和信息。显示部件2150可包括电子显示屏,其可被处理部件2110用于显示图像数据和信息(例如,红外图像)。显示部件2150可适合经由处理部件2110直接从图像捕获部件2130接收图像数据和信息,或者图像数据和信息可以经由处理部件2110从存储部件2120转移。
在一个实施例中,正如本领域的技术人员将理解的,根据应用或实施要求,可选的传感部件2160包括一个或多个各种类型的传感器。可选的传感部件2160的传感器至少向处理部件2110提供数据和/或信息。在一个方面,处理部件2110可适合与传感部件2160通信(例如,通过从传感部件2160接收传感器信息)和与图像捕获部件2130通信(例如,通过从图像捕获部件2130接收数据和信息以及向系统2100的一个或多个其它部件提供指令、控制和/或其它信息和/或从系统2100的一个或多个其他部件接收指令、控制和/或其他信息)。
在各种实现中,传感部件2160可提供有关环境条件的信息,诸如外部温度、照明条件(例如,白天、晚上、黄昏和/或黎明)、湿度水平、特定天气条件(例如,晴天、下雨和/或下雪)、距离(例如,激光测距)和/或是否已进入或退出通道或其它类型的外壳。传感部件2160可表示本领域的技术人员通常已知的用于监测各种条件(例如,环境条件)的常规传感器,该常规传感器可对由图像捕获部件2130提供的数据有影响(例如,对图像外观)。
在一些实现中,可选的传感部件2160(例如,一个或多个传感器)可包括经由有线和/或无线通信将信息中继给处理部件2110的装置。例如,可选的传感部件2160可适合通过本地广播(例如,无线电频率(RF))传输、通过移动或蜂窝网络和/或通过基础设施中的信息信标(例如,运输或公路信息信标基础设施)或各种其它有线和/或无线技术从卫星接收信息。
在各种实施例中,根据期望或根据应用或要求,系统2100的部件可与或者不与表示相关系统的各种功能块的系统2100组合和/或实现。在一个实例中,处理部件2110可与存储部件2120、图像捕获部件2130、显示部件2150和/或可选的传感部件2160组合。在另一个实例中,处理部件2110可与图像捕获部件2130组合,其中处理部件2100仅有某些功能由图像捕获部件2130内的电路(例如,处理器、微处理器、逻辑装置、微控制器等)执行。而且,系统2100的各种部件可以彼此远离(例如,图像捕获部件2130可包括具有处理部件2110等的远程传感器,处理部件2110表示可与或者不可与图像捕获部件2130通信的计算机)。
按照该公开的实施例,图15A示出了噪声滤波红外图像的方法2220。在一个实现中,该方法2220涉及减少和/或去除红外成像装置(诸如图14的红外成像系统2100)的时域、1/f和/或固定空间噪声。方法2220适合在噪声滤波算法中利用红外图像数据的基于行和列的噪声分量。在一个方面,基于行和列的噪声分量可控制红外传感器成像中的噪声(例如,在典型的基于微测辐射热仪的系统中,总噪声的约2/3可以是空间的)。
在一个实施例中,图15A的方法2220包括行和列噪声滤波算法的高级框图。在一个方面,可最优化行和列噪声滤波算法以使用最小硬件资源。
参考图15A,方法2220的工艺流程实行操作的递归模式,其中在计算行和列噪声之前应用先前校正项,这可能会允许较低空间频率的校正。在一个方面,当空间校正行和列噪声时,递归方法是有用的。这有时也被称为条带,且在列噪声情况下,可显现为受类似偏移误差影响的几个邻近列。当用于差分计算的几个近邻受到类似误差时,可能会使用于计算误差的平均差偏离,且该误差仅可以被部分校正。通过在计算当前帧的误差之前应用部分校正,误差校正可被递归减少直到使误差最小或被消除。在递归情况下,如果不应用HPF(方框2208),则当混入噪声模型时,作为图像部分的自然梯度在几个反复之后可能会被扭曲。在一个方面,自然水平梯度可呈现为低的空间相关的列噪声(例如,严重的条带)。在另一方面,HPF可防止极低的频率场景信息干扰噪声估算,因此限制了递归滤波的负面影响。
参考图15A的方法2220,将红外图像数据(例如,原始视频源,诸如来自图14的图像捕获部件2130的)接收为输入视频数据(方框2200)。接下来,将列校正项应用于输入视频数据(方框2201),将行校正项应用于输入视频数据(方框2202)。接下来,在将列和行校正应用于输入视频数据之后将视频数据(例如,“清洁的”视频数据)提供为输出视频数据(2219)。在一个方面,术语“清洁的”指的是经由例如噪声滤波算法的一个或多个实施例从输入视频数据去除或减少噪声(方框2201、2202)。
参考图15A的处理部分(例如,递归处理),经由数据信号路径2219a将HPF应用于(方框2208)输出视频数据2219。在一个实现中,将高通滤波的数据分别提供给列噪声滤波部分2201a和行噪声滤波部分2202a。
参考列噪声滤波部分2201a,方法2220可适合如下处理输入视频数据2200和/或输出视频数据2219:
1.将在先前帧中计算的先前列噪声校正项应用于当前帧(方框2201)。
2.例如,如参考图16A-16C所述,通过减去低通滤波(LPF)操作的结果高通滤波当前帧的行(方框2208)。
3.对于每个像素,计算中心像素和一个或多个(例如,八个)最近近邻之间的差值(方框2214)。在一个实现中,最近近邻包括一个或多个最近的水平近邻。在不偏离该发明的范围的情况下,最近近邻可包括一个或多个垂直的或其它非水平的近邻(例如,不纯水平,即在同一行上)。
4.如果计算出的差值低于预定阈值,则将计算出的差值增加到特定列的差的直方图(方框2209)。
5.在当前帧的末端,通过检测累积差值的直方图找到中间差值(方框2210)。在一个方面,为了增加稳健性,可以仅使用与出现的一些特定最小量有关的差值。
6.延迟当前校正项达一个帧(方框2211),即将它们应用于下一个帧。
7.将中间差值(方框2210)增加到先前列校正项以提供更新的列校正项(方框2213)。
8.在下一个帧中应用更新的列噪声校正项(方框2201)。
参考行噪声滤波部分2202a,方法2220可适合如下处理输入视频数据2200和/或输出视频数据2219:
1.将在先前帧中计算的先前行噪声校正项应用于当前帧(方框2202)。
2.如类似于上述列噪声滤波部分2201a所述,通过减去低通滤波(LPF)操作的结果高通滤波当前帧的列(方框2208)。
3.对于每个像素,计算中心像素和一个或多个(例如,八个)最近近邻之间的差值(方框2215)。在一个实现中,最近近邻包括一个或多个最近的垂直近邻。在不偏离该发明的范围的情况下,最近近邻可包括一个或多个水平的或其它非垂直的近邻(例如,不纯垂直,即在同一列上)。
4.如果计算出的差值低于预定阈值,则将计算出的差值增加到特定行的差值的直方图(方框2207)。
5.在当前行(例如,排)的末端,通过检测累积差值的直方图找到中间差值(方框2206)。在一个方面,为了增加稳健性,可以仅使用与出现的一些特定最小量有关的差值。
6.使当前帧延长一个与使用的最近垂直近邻的量(例如八个)相等的时间周期。
7.将中间差值(方框2204)增加到先前帧的行校正项(方框2203)。
8.在当前帧中应用更新的行噪声校正项(方框2202)。在一个方面,这可能需要行缓冲器(例如,如在6中所提到的)
在一个方面,对于每列中的所有像素(或者它们的至少大子集),可将同一偏移项(或项组)应用于每个相关的列。这可以防止滤波器在空间上使局部细节模糊。
类似地,在一个方面,对于每行中的所有像素(或者它们的至少大子集),可分别应用同一偏移项(或项组)。这可以抑制滤波器空间模糊局部细节。
在一个实例中,列偏移项的估算可以仅使用行的子集(例如,前32行)来计算。在这种情况下,仅需要32行延迟在当前帧中应用列校正项。这可以改善滤波器消除高时域频率列噪声的性能。备选地,可设计具有最小延迟的滤波器,且一旦(例如,使用32行的数据)计算出合适的估算就只应用校正项一次。在这种情况下,只有33行及以上的可被最佳过滤。
在一个方面,可以不需要所有样品,且在这种情况下,例如仅使用每个第2或第4行计算列噪声。在另一方面,当计算行噪声时同样可以应用,在这种情况下,例如只可以使用每个第4列的数据。本领域的技术人员应该意识到,在不偏离该发明的范围的情况下可以使用各种其它迭代法。
在一个方面,滤波器可以递归模式操作,其中代替被滤波的原始数据,经滤波的数据被过滤。在另一个方面,如果使用递归(IIR)滤波器计算估算的相继平滑值,则可以以有效的方式使一行中的像素和邻近行中的像素之间的平均差值逼近。例如,代替获得平均近邻差值(例如,八个近邻的差值),可计算像素和平均近邻之间的差值。
按照该公开的实施例,图15B示出了噪声滤波红外图像数据的替代方法2230。参考图15A和15B,改变了图15A的方法2220的一个或多个过程步骤和/或操作的顺序,或者改变或组合成图15B的方法2230。例如,计算行和列近邻差值的操作(方框2214、2215)可被消除,或者与其它操作诸如产生行和列近邻差值的直方图(方框2207、2209)组合在一起。在另一个实例中,可在找到中间差值(方框2206)之后执行延迟操作(方框2205)。在各种实例中,应该意识到,类似的过程步骤和/或操作具有与图15A中先前描述的类似的范围,因此将不再重复描述。
在关于方法2220和2230的其它替代方法中,实施例可以不包括直方图,且代替计算中值差异而来依赖于计算平均差异。在一个方面,这可以略微降低稳健性但可以允许类似实现列和行噪声滤波器。例如,通过实现为无限冲击响应(IIR)滤波器的相继平滑值可使邻近行和列的各个平均值逼近。在行噪声的情况下,IIR滤波器实现可减少或甚至消除对平均计算几行数据的缓冲器的需要。
在关于方法2220和2230的其它替代方法中,可在视频数据的每个帧中计算新噪声估算并将其仅应用在下一个帧中(例如,在噪声估算之后)。在一个方面,这种替代方法可提供较少的性能但可易于实现。在另一个方面,这种替代方法可称为如本领域的技术人员所理解的非递归方法。
例如,在一个实施例中,图15C的方法2240包括行和列噪声滤波算法的高级框图。在一个方面,可最优化行和列噪声滤波算法以使用最小硬件资源。参考图15A和15B,类似的过程步骤和/或操作可具有类似的范围,因此不再重复描述。
参考图15C,方法2240的工艺流程实行操作的非递归模式。如所示的,方法2240将列偏移校正项2201和行偏移校正项2202应用于视频源2200的未校正的输入视频数据,以产生例如校正的或清洁的输出视频信号2219。在列噪声滤波部分2201a中,列偏移校正项2213基于特定列中的像素值和属于邻近列2214的一个或多个像素之间的平均差2210来计算。在行噪声滤波部分2202a中,行偏移校正项2203基于特定行中的像素值和属于邻近行2215的一个或多个像素之间的平均差2206来计算。在一个方面,可将其中将行或列偏移校正项2203、2213应用于视频源2200的输入视频数据的顺序(例如,行第一或列第一)考虑为随意的。在另一方面,行和列校正项在视频帧终止之前不是完全已知的,因此,如果不延迟视频源2200的输入视频数据,则不可以将行和列校正项2203、2213应用于由它们计算的输入视频数据。
在该发明的一个方面,列和行噪声滤波器算法可对由红外成像传感器(图14的图像捕获部件)提供的图像数据进行连续操作。与需要均匀场景(例如,如由快门或外部校准黑体所提供的)估算空间噪声的常规方法不同,如一个或多个实施例所述的,列和行噪声滤波算法可以对实时场景数据进行操作。在一个方面,假定对于位置[x,y]附近的一些小的近邻,由于它们是紧密接近的场景成像部分,所以邻近红外传感器元件应该提供类似的值。如果特定红外传感器元件的红外传感器读数不同于近邻,则这可能是空间噪声的结果。然而,在一些情况下,对于特定行和列中的每个传感器元件(例如,由于属于场景正常部分的局部梯度)这可能不是真的,但平均起来,行和列可具有与邻近行和列的值接近的值。
对于一个或多个实施例,通过首先去除一个或多个低空间频率(例如,使用高通滤波器(HPF)),可最小化场景贡献以去除与真实行和列空间噪声高度相关的差异。在一个方面,通过使用边缘保持滤波器,诸如中值滤波器或双边滤波器,由于图像中的强边,所以一个或多个实施例可以最小化伪影。
按照该公开的一个或多个实施例,图16A至16C示出了滤波红外图像的图形化实现(例如,数字计数对数据列)。图16A示出了在成像场景时作为实例的来自传感器元件行的典型值的图解说明(例如,图2300)。图16B示出了图16A的图像数据值的低通滤波(LPF)结果的图解说明(例如,图2310)。图16C示出了从图16A的原始图像数据减去图16B的低通滤波器(LPF)输出的图解说明,这产生了从图16A的原始图像数据场景去除低和中频率分量的高通滤波器(HPF)轮廓。因此,图16A-16C示例了可用于一个或多个实施例(例如,如同方法2220和/或2230)的HPF技术。
在该发明的一个方面,列和/或行噪声的最终估算可称为所有测量差异的平均或中值估算。由于通常已知红外传感器的噪声特性,所以可以将一个或多个阈值应用于噪声估算。例如,如果测量60数字计数的差异,但已知噪声通常小于10数字计数,则可以忽略该测量结果。
按照该公开的一个或多个实施例,图17示出了具有列5数据2402和八个最邻近近邻的数据(例如,最邻近像素近邻,列5数据2402左边的4列2410和列5数据2402右边的4列2411)的传感器数据行2401(例如,用于行中多个像素的像素数据行)的图解说明2400(例如,数字计数对数据列)。在一个方面,参考图17,传感器数据行2401是由多像素红外传感器或探测器(例如,图14的图像捕获部件2130)捕获图像或场景的传感器数据行的一部分。在一个方面,列5数据2402是被校正的数据列。对于该传感器数据行2401,列5数据2402和其邻近列(2410、2411)的平均数2403之间的差用箭头2404表示。因此,基于近邻数据可得到并解释的噪声估算。
按照该公开的一个或多个实施例,图18A至18C示出了列和行噪声滤波红外图像(例如,来自红外视频数据的图像帧)的示范性实现。图18A示出了具有从存在严重的行和列噪声的场景估算的列噪声的红外图像2500和列校正项的对应图表2502。图18B示出了红外图像2510和行校正项的对应图表2512,红外图像2520的列噪声消除且空间行噪声仍然存在,其中行校正项从图18A的场景估算。图18C示出了图18A中场景的作为行和列噪声消除(例如,应用图18A-18B的列和行校正项)的纯净的红外图像的红外图像2520。
在一个实施例中,图18A示出了具有严重行和列噪声的红外视频帧(即,红外图像2500)。如本文所述的,计算列噪声校正系数以产生例如639校正项,即每列一个校正项。图表2502示出了列校正项。从图18A的红外视频帧2500减去这些偏移校正项以产生图18B中的红外图像2510。如图18B所示,行噪声依然存在。如本文所述的,计算行噪声校正系数以产生例如639行项,即每行一个校正项。图表2512示出了行偏移校正项,从图18B中的红外图像2510减去它以产生图18C中的具有显著减少或消除的行和列噪声的清洁的红外图像2520。
在各种实施例中,应该理解不需要行和列两种滤波。例如,可在方法2220、2230或2240中或者执行列噪声滤波2201a或者执行行噪声滤波2202a。
应该意识到,对一列或一行的任何引用可包括一部分列或一部分行,且术语“行”和“列”是可互换的且不是限制的。例如,在不偏离该发明的范围的情况下,基于该申请,术语“行”可用于描述一行或一列,同样地,术语“列”可用于描述一行或一列。
在各种方面,按照如本文所述的噪声滤波算法的实施例,列和行噪声可通过查看真实场景(例如,不是快门或黑体)来估算。列和行噪声可通过测量特定行(和/或列)中元件的传感器读数和邻近行(和/或列)的传感器读数之间的中值或平均差来估算。
可选地,可在测量差异之前将高通滤波器应用于图像数据,这样可减少或至少最小化使属于场景部分的梯度变形和/或引入伪影的风险。在一个方面,在平均值和中值估算中只可以使用相差少于可配置阈值的传感器读数。可选地,直方图可用于有效地估算中值。可选地,当从直方图中找出中值估算时,只可以使用超过最小计数的直方图。可选地,递归IIR滤波器可用于估算像素和其近邻之间的差异,这可以减少或至少使存储用于处理例如行噪声部分(例如,如果从传感器的行方向读出图像数据)的图像数据的需要最小化。在一个实现中,用于行j的列i的当前平均列值可使用下面的递归滤波器算法来估算。
在该方程中,α是阻尼系数且可以设置为例如0.2,在这种情况下,处于行j的特定列i的相继平滑值的估算将是处于行j的列i-1的估算的相继平滑值和处于行j和列i的当前像素值的加权和。通过得到每个值Ci,j和上述行近邻的相继平滑的递归值之间的差,现在可使行j的值和近邻行的值之间的估算差异逼近。由于仅使用上述行,但与存储几行的真实像素值相比,它需要仅存储一行的相继平滑值,所以估算平均差的这种方式不像得到的真实平均差一样精确。
在一个实施例中,参考图15A,方法2220的工艺流程可实行操作的递归模式,其中在计算行和列噪声之前应用先前的列和行校正项,当在估算噪声前高通滤波图像时,这允许了较低空间频率的校正。
通常,在处理期间,递归滤波器会重新使用至少部分的输出数据作为输入数据。递归滤波器的反馈输入可称为无限脉冲响应(IIR),其特征在于例如指数增长输出数据、指数下降输出数据或正弦输出数据。在一些实现中,递归滤波器可不具有无限脉冲响应。因此,例如,移动平均滤波器的一些实现起到递归滤波器的作用但具有有限脉冲响应(FIR)。
如图19A至22B描述的进一步所述,考虑确定行和/或列校正项的附加技术。例如,在一些实施例中,这种技术可用于在不过度补偿在场景2170中的存在的垂直和/或水平对象的情况下提供校正项。这种技术可用在可频繁捕获这种对象的任何合适的环境中,包括例如市内应用、乡下应用、车辆应用以及其它等等。在一些实施例中,与用于确定校正项的其它方法相比,这种技术可提供具有减小的存储器和/或减少的处理开销的校正项。
图19A示出了根据该公开实施例的场景2170的红外图像2600(例如,红外图像数据)。虽然将红外图像2600描绘为具有16行和16列,但可以考虑其它图像尺寸的红外图像2600和本文论述的各种其它的红外图像。例如,在一个实施例中,红外图像2600可以具有640列和512行。
在图19A中,红外图像2600描绘了相对均匀的场景2170,其中红外图像2600的大多数像素2610具有相同或类似强度(例如,相同或类似数字计数数量)。而且在该实施例中,场景2170包括出现在红外图像2600的列2620A的像素2622A-D中的对象2621。在这一点上,描述了稍微暗于红外图像2600的其它像素2610的像素2622A-D。为了论述的目的,假定较暗色像素可与较高数字计数数量相关,然而,如果期望,较浅色像素可与其它实现中的较高数字计数数量相关。如所示的,列2620A的剩余像素2624具有与像素2610基本一致的强度。
在一些实施例中,对象2621可以是垂直对象,诸如建筑物、电话杆、灯杆、输电线、蜂窝塔、树、人类和/或其它对象。如果将图像捕获部件2130布置在接近对象2621的车辆中,则当车辆不动地充分远离对象2621时,对象2621也可以相对固定地出现在红外图像2600中(例如,对象2621可依然主要用像素2622A-D表示且可在红外图像2600内没有明显的偏移位置)。如果将图像捕获部件2130布置在相对于对象2621的固定位置,则对象2621也可以相对固定地出现在红外图像2600中(例如,如果对象2621被固定和/或位于充分远离的位置)。也可以考虑图像捕获部件2130相对于对象2621的其它布置。
红外图像2600还包括由例如时域噪声、固定空间噪声、故障传感器/电路、真实场景信息和/或其它源引起的另一个像素2630。如图19A所示,像素2630比所有的像素2610和2622A-D暗(例如,具有较高数字计数数量)。
对于一些列校正技术,垂直对象(诸如用像素2622A-D描绘的对象)2621通常是不确定的。在这一点上,当在不考虑出现在场景2170中的小的垂直对象的可能存在的情况下计算列校正项时,依然主要布置在一个或几个列中的对象可能会导致过度补偿。例如,当比较列2620A的像素2622A-D和附近列2620B-E的像素时,一些列校正技术可以将像素2622A-D解释为列噪声,而不是真实场景信息。实际上,相对于像素2610的像素2622A-D的明显较暗的外观和布置在列2620A中的相对小的宽度可偏离充分校正整个列2620A的列校正项的计算,虽然列2620A的仅有小部分实际上包括较暗的场景信息。结果,为了补偿假定的列噪声,针对列2620A确定的列校正项可明显使列2620A变亮(例如,增加或减少数字计数的数量)。
例如,图19B示出了图19A的红外图像2600的校正版2650。如图19B所示,已显著变亮列2620A。使像素2622A-D显著变亮以与像素2610大致一样,且像素2622A-D中包含的真实场景信息(例如,对象2621的描绘)已大部分丢失。另外,显著变亮列2620A的剩余像素2624以使它们不再与像素2610基本一致。实际上,应用于列2620A的列噪声校正项在相对于场景2170的剩余部分的像素2624中实际上引入了新的非均匀性。
本文描述的各种技术可用于在不过度补偿可出现在场景2170的各种垂直对象的外观的情况下确定列校正项。例如,在一个实施例中,当将这种技术应用于图19A的列2620A时,暗像素2622A-D的存在可以不对列2620A的列校正项引起任何进一步变化(例如,应用校正之后,列2620A可以呈现为如图19A所示而不是如图19B所示)。
按照本文进一步描述的各种实施例,在不过度补偿出现在场景2170中的垂直对象的存在的情况下,可确定用于每列红外图像的对应列校正项。在这一点上,可以比较红外图像的选择列的第一像素(例如,存在于特定行中的列的像素)和在与第一像素有关的在近邻内的对应的一簇其它像素(例如,也称为邻近像素)。在一些实施例中,近邻可对应于与在列范围内的第一像素同一行中的像素。例如,近邻可用交叉点来定义:与第一像素相同的行;和预先确定的列的范围。
列的范围可以是选择列的左侧、右侧或左和右两侧上的任何期望的列数。在这一点上,如果列的范围对应于选择列两侧上的两列,则可以进行第一像素的四个比较(例如,选择列左边的两列和选择列右边的两列)。虽然在此进一步描述了选择列两侧上的两列的范围,但也可以考虑其它范围(例如,5列、8列或任何期望的列数)。
基于比较,调整(例如,增加、减少或以其它方式更新)一个或多个计数器(例如,记录器、存储位置、累加器和/或在处理部件2110、噪声滤波模块2112、存储部件2120和/或其它部件中的其它实现)。在这一点上,对于其中选择列的像素小于比较像素的每个比较,可以调整计数器A。对于其中选择列的像素具有与比较像素相等(例如,精确等于或充分等于)的值的每个比较,可以调整计数器B。对于其中选择列的像素具有比比较像素大的值的每个比较,可以调整计数器C。因此,如果列范围对应于如上述实例中确定的选择列任一侧上的两列,则总共4个调整(例如,计数)可由计数器A、B和C共同拥有。
在比较选择列的第一像素和其对应近邻中的所有像素之后,对选择列中的所有剩余像素(例如,红外图像每行的一个像素)重复该过程,并响应对剩余像素执行的比较继续调整计数器A、B和C。在这一点上,在一些实施例中,可比较选择列的每个像素和像素的不同对应近邻(例如,像素属于:与选择列的像素在同一行中;和在列范围内),并基于这种比较结果调整计数器A、B和C。
结果,在比较选择列的所有像素之后,计数器A、B和C可以确定选择列像素大于、等于或小于邻近像素的比较数量。因此,继续上述实例,如果红外图像具有16行,则可以分布穿过计数器A、B和C的用于选择列的总共64个计数(例如,每行4个计数x16行=64个计数)。考虑可以使用其它计数数量。例如,在具有512行且使用10列范围的大阵列中,可使用5120个计数(例如,512行x10列)确定每列校正项。
基于计数器A、B和C中的计算的分布,基于使用一个或多个计数器A、B和/或C的值执行的一个或多个计算,可使选择列的列校正项选择性的增加、减少或保持相同。例如,在一个实施例中:如果计数器A-计数器B-计数器C>D,则可增加列校正项;如果计数器C-计数器A-计数器B>D,则可减少列校正项;在所有其它情况下列校正项可保持相同。在这种实施例中,D可以是小于由每列的计数器A、B和C累积的比较总量的值,诸如常数。例如,在一个实施例中,D可具有等于(行数)/2的值。
为了确定(例如,计算和/或更新)用于红外图像每列的对应列校正项,可对红外图像的剩余列重复执行该过程。另外,在确定用于一列或多列的列校正项之后,可在将列校正项应用于同一红外图像和/或另一个红外图像(例如,随后捕获的红外图像)之后,对一列或多列重复该过程(例如,增加、减少或不改变一列或多列校正项)。
如所述的,计数器A、B和C识别小于、等于或大于选择列像素的比较像素的数量。这与用于确定列校正项的的各种其它技术形成了对比,在各种其他技术中可使用比较像素之间的实际差异(例如,计算的差值)。
通过基于小于、等于或大于关系(例如,而不是不同像素的数字计数之间的实际数值差异)确定列校正项,列校正项可能会因为出现在红外图像中的小的垂直对象的存在而出现较小偏离。在这一点上,通过使用该方法,具有高数字计数数量的小的对象(诸如对象2621)不会无故计算过度补偿这种对象的列校正项(例如,导致如图19B所示的不期望的红外图像2650)。相反,使用这种方法,对象2621不会对列校正项产生任何变化(例如,导致如图19A所示的未变化的红外图像2600)。然而,通过列校正的项的调整可合适减少可合理识别为列噪声的较大的对象(诸如2721)(例如,导致如图20B所示的校正的红外图像2750)。
另外,使用该方法可减少其它类型的场景信息对列校正项值的影响。在这一点上,计数器A、B和C识别选择列像素和邻近像素之间的相对关系(例如,小于、等于或大于关系)。在一些实施例中,这种相对关系可对应于例如选择列的像素的值和邻近像素的值之间差异的符号(例如,正、负或零)。通过使用这种相对关系而不是实际数值差,指数场景变化(例如,非线性场景信息梯度)可较少对列校正项确定起作用。例如,为了比较的目的,某些像素中的指数较高的数字计数可被处理成简单地大于或小于其它像素,因此将不过分偏离列校正项。
另外,通过识别这种相对关系而不是计数器A、B和C的实际数值差,在一些实施例中能够减少高通滤波。在这一点上,在低频率场景信息或噪声在整个比较的像素近邻保持相当一致的情况下,这种低频率含量不会显著影响比较像素之间的相对关系。
有利地,计数器A、B和C提供了计算列校正项的一种有效方法。在这一点上,在一些实施例中,只使用三个计数器器A、B和C来存储对选择列执行的所有像素比较的结果。这与存储更多唯一值(例如,其中存储特定数值差,或这种数值差的出现次数)的各种其它方法形成了对比。
在一些实施例中,其中红外图像的总行数是已知的,通过省略计数器B可实现进一步的效率。在这一点上,基于用于比较的列范围和红外图像的行数,可知道计数的总数。另外,可假定不会导致计数器A或计数器C被调整的任何比较将对应于像素具有相等值的那些比较。因此,计数器B具有的值可由与计数器A和C来确定(例如,(行数x范围)-计数器A值-计数器B值=计数器C值)。
在一些实施例中,可以仅使用单个计数器。在这一点上,对于其中选择列像素具有比比较像素大的值的每个比较,单个计数器可被选择性以第一方式(例如,增加或减少)调整;对于其中选择列像素具有比比较像素小的值的每个比较,单个计数器可被选择性以第二方式调整(例如,减少或增加);以及对于其中选择列像素具有与比较像素相等(例如,精确等于或充分等于)的值的每个比较,单个计数器不被调整(例如,保持其现存值)。因此,单个计数器的值可以表示大于或小于选择列像素的比较像素的相对数量(例如,在比较选择例的所有像素和对应邻近像素之后)。
基于单个计数器的值,可以更新(例如,增加、减少或保持相同)选择列的列校正项。例如,在一些实施例中,如果在执行比较之后单个计数器表现出基准值(例如,零或其它数),则列校正项可以保持相同。在一些实施例中,如果单个计数器大于或小于基准值,则列校正项可选择性地合适增加或减少以降低比较像素和选择列像素之间的整体差异。在一些实施例中,更新列校正项的条件是:基于具有不同于选择列像素值的比较像素的限制数量,单个计数器具有不同于基准值至少阈值量的值以防止列校正项过度偏离。
这些技术也可用于合适地补偿红外图像中的较大的垂直异常现象。例如,图20A示例了根据该公开实施例的场景2170的红外图像2700。类似于红外图像2600,红外图像2700描绘了相对均匀的场景2170,其中红外图像2700的大多数像素2710具有相同或类似强度。而且在该实施例中,红外图像2700的列2720A包括稍微暗于像素2710的像素2711A-M,而列2720A的剩余像素2724具有与像素2710基本一致的强度。
然而,与图19A的像素2622A-D相比,图20A的像素2722A-M占了列2720A的绝大多数。如此,用像素2722A-M描绘的对象2721实际上可能是异常现象(诸如列噪声)或其它不期望的源,而不是真实结构或其它真实场景信息。例如,在一些实施例中,考虑到占用至少一列的绝大多数的真实场景信息将也可能占一行或多行的大部分水平部分。例如,紧密接近于图像捕获部件2130的垂直结构可能会占红外图像2700的多列和/或多行。由于对象2721呈现为仅占一列2721A的绝大多数的高窄波带,所以对象2721实际上很可能是列噪声。
图20B示出了图20A的红外图像2700的校正版2750。如图20B所示,列2720A已经变亮,但不像红外图像2650的列2620A一样明显。像素2722A-M已经变亮,但看上去仍然稍微暗于像素2710。在另一个实施例中,可校正列2720A以使像素2722A-M约与像素2710一致。还如图20B所示,列2720A的剩余像素2724已经变亮,但不像红外图像2650的像素2624一样明显。在另一个实施例中,可以进一步变亮像素2724或者可保持与像素2710基本一致。
关于图21和22A-B,进一步说明了这些技术的各种方面。在这一点上,图21是示出根据该公开实施例的噪声滤波红外图像的方法2800的流程图。虽然引用了与图21的特定方框有关的系统2100的特定部件,但是关于图21的各种操作可以通过任何合适部件来执行,诸如图像捕获部件2130、处理部件2110、噪声滤波模块2112、存储部件2120、控制部件2140和/或其它等。
在方框2802中,图像捕获部件2310捕获场景2170的红外图像(例如,红外图像2600或2700)。在方框2804中,噪声滤波模块2112将现有的行和列校正项应用于红外图像2600/2700。在一些实施例中,这种现有的行和列校正项可用本文描述的各种技术、工厂校准操作和/或其它合适的技术中的任何一种技术来确定。在一些实施例中,应用在方框2804中的列校正项在方框2804的第一循环期间可不确定(例如,零),可在图21的一个或多个循环期间确定并更新。
在方框2806中,噪声滤波模块2112选择红外图像2600/2700的列。虽然在下面的描述中将引用列2620A和2720A,但是可以使用任何期望的列。例如,在一些实施例中,在方框2806的第一循环可以选择红外图像2600/2700的最右边或最左边的列。在一些实施例中,方框2806还可以包括将计数器A、B和C重新设置为零或其它合适的缺省值。
在方框2808中,噪声滤波模块2112选择红外图像2600/2700的行。例如,在方框2808的第一循环可以选择红外图像2600/2700的最上边的行。在其它实施例中可以选择其它行。
在方框2810中,噪声滤波模块2112选择附近的另一列以比较列2620A。在该实例中,近邻具有列2620A/2720A两侧上的两列(例如,列2620B-E/2720B-E)的范围,对应于像素2602A/2702A的任一侧上的行2601A/2701A中的像素2602B-E/2702B-E。因此,在一个实施例中,在方框2810的该循环中可选择列2620B/2720B。
在方框2812中,噪声滤波模块2112比较像素2602B/2702B和像素2602A/2702A。在方框2814中,如果像素2602A/2702A具有小于像素2602B/2702B的值,则调整计数器A。如果像素2602A/2702A具有等于像素2602B/2702B的值,则调整计数器B。如果像素2602A/2702A具有大于像素2602B/2702B的值,则调整计数器C。在该实例中,像素2602A/2702A具有等于像素2602B/2702B的值。因此将调整计数器B,且在方框2814的该循环中将不调整计数器A和C。
在方框2816中,如果依然比较近邻中的附加列(例如,列2620C-E/2720C-E),则重复方框2810-2816以比较近邻的剩余像素和像素2602A/2702A(例如,属于列2620C-E/2720C-E中和行2601A/2701A中的像素2602B-E/2702B-E)。在图19A/20A中,像素2602A/2702A具有与所有像素2602B-E/2702B-E相等的值。因此,在比较像素2602A/2702A和其近邻的所有像素之后,计数器B将被调整4个计数,且计数器A和C将不被调整。
在方框2818中,如果附加行依然在红外图像2600/2700中(例如,行2601B-P/2701B-P),则以如上所述的一行行为基础地重复方框2808-2818,以比较列2620A/2720A的剩余像素和列2602B-E/2702B-E的剩余像素。
方框2818之后,将列2620A/2720A的16个像素中的每个像素与4个像素比较(例如,列2620A/2720A的每个比较像素一样的属于同一行中的列2620B-E的像素),总共64次比较。64个调整的结果由计数器A、B和C共享。
图22A示出了根据该公开实施例的在列2620A的所有像素与包括在列2620B-E中的像素的各个近邻比较之后用直方图2900表示的计数器A、B和C的值。在该实例中,计数器A、B和C的值分别为1、48和15。因为列2620A的像素2622A具有小于列2620B的像素2630的值,所以计数器A仅被调整了一次。因为当与列2620B-E的邻近像素比较时(例如,除如上指出的像素2630之外)像素2622A-D每个都具有较大值,所以计数器C被调整了15次。因为列2620A的剩余像素2624具有与列2620B-E的剩余邻近像素相等的值,所以计数器B被调整了48次。
图22B示出了根据该公开实施例的在列2720A的所有像素与包括在列2720B-E中的像素的各个近邻比较之后用直方图2950表示的计数器A、B和C的值。在这种情况下,计数器A、B和C的值分别为1、12和51。与图22A类似,因为列2720A的像素2722A具有小于列2720B的像素2730的值,所以图22B中计数器A仅被调整一次。因为当与列2720B-E的邻近像素比较时(例如,除如上指出的像素2730之外)像素2722A-M每个都具有较大值,所以计数器C被调整了51次。因为列2720A的剩余像素具有与列2720B-E的剩余近邻比较像素相等的值,所以计数器B被调整了12次。
再次参考图21,在方框2820中,基于计数器A、B和C的值,更新(例如,选择性增加、减少或保持相同)列2620A/2720A的列校正项。例如,如上所述,在一个实施例中,如果计数器A-计数器B-计数器C>D,则可以增加列校正项;如果计数器C-计数器A-计数器B>D,则可以减少列校正项;在所有其它情况下,列校正项可以保持相同。
在红外图像2600的实例中,将上述计算应用于图22A中确定的计数器值导致列校正项没有变化(例如,1(计数器A)-48(计数器B)-15(计数器C)=-62,其不大于D,其中D等于(16行)/2;和15(计数器C)-1(计数器A)-48(计数器B)=-34,其也不大于D,其中D等于(16行)/2)。因此,在这种情况下,计数器A、B和C的值和其上执行计算表示像素2622A-D的值与场景2710的真实对象(例如,对象2621)相关。因此,用像素2622A-D表示的小的垂直结构2621将不会导致在列2620A的列校正项中的任何过度补偿。
在红外图像270的实例中,将上述计算应用于图22B中确定的计数器值导致列校正项减少(例如,51(计数器C)-1(计数器A)-12(计数器B)=38,其大于D,其中D等于(16行)/2)。因此,在这种情况下,计数器A、B和C的值和其上执行计算表示像素2722A-M的值与列噪声相关。因此,用像素2722A-M表示的大的垂直结构2721将会使导致2720A变亮以改善如20B所示的校正的红外图像2750的均匀性。
在方框2822,如果附加列依然使它们的列校正项更新,则该过程返回到方框2806,其中重复方框2806-2822以更新另一列的列校正项。在所有列校正项更新之后,该过程返回到捕获另一红外图像的方框2802。在该方式中,可重复图21以便为每个新捕获的红外图像更新列校正项。
在一些实施例中,每个新捕获的红外图像都可充分不同于新近的前面的红外图像。这可以由例如基本静态场景2170、缓变场景2170、红外图像的时域滤波和/或其它传感器产生。在这些情况下,由图21确定的列校正项的精确性可以改善,像在图21的每个循环中可选择性的增加、减少它们或使它们保持不变一样。结果,在一些实施例中,许多列校正项最终可达到基本稳定状态,其中在图21的足够数量的循环之后和当红外图像基本不变时,它们保持相对不变。
也可以考虑其它实施例。例如,可重复方框2820多次以使用用于每个更新的相同的红外图像更新一个或多个列校正项。在这一点上,在方框2820中更新一个或多个列校正项之后,图21的过程可以返回到方框2804以将更新的列校正项应用于用于确定更新的列校正项的相同的红外图像。结果,使用相同红外图像可反复更新列校正项。这种方法可用在例如脱机(非实时)处理中和/或用在具有足够处理能力的实时实现中。
另外,可合适地将关于图19A-22B描述的各种技术中任何一种技术与本文描述的其它技术组合在一起。例如,可以如期望地组合本文描述的各种技术的一些或所有部分以执行噪声滤波。
虽然关于图19A-22B主要论述了列校正项,但也可以将描述的技术应用于基于行的处理。例如,这种技术可用于在不过度补偿出现在场景2170中的小的水平结构的情况下确定并更新行校正项,同时合适地补偿真实行噪声。除了或替代本文描述的基于列的各种处理之外,可执行这种基于行的处理。例如,可以为这种基于行的处理提供附加计数器A、B和/或C的实现。
在一些以行为基础读出红外图像的实施例中,由于行校正项被更新,可以迅速地提供行校正的红外图像。类似地,在一些以列为基础读出红外图的实施例中,由于列校正项被更新,可以迅速地提供列校正的红外图像。
现在参考图23A-E,如所述的,在一些实施例中,关于图23A-E描述的技术可用于替代和/或附加到方框565-573(参照图5和8)的一个或多个操作以估算FPN和/或确定NUC项(例如,平场校正项)。例如,在一些实施例中,这种技术可用于在不需要高通滤波器的情况下确定NUC项以校正空间相关的FPN和/或空间不相关(例如,随意的)的FPN。
图23A示例了根据该公开实施例的场景2170的红外图像3000(例如,红外图像数据)。虽然描绘了具有16行和16列的红外图像3000,但可考虑其它图像尺寸的红外图像3000和本文论述的各种其它红外图像。
在图23A中,红外图像3000描述了相对均匀的场景2170,其中红外图像3000的多数像素3010具有相同或类似强度(例如,相同或类似数字计数数量)。而且在该实施例中,红外图像3000包括描绘得比红外图像3000的其它像素3010稍微暗的像素3020和描绘得稍微亮的像素3030。正如前面所提到的,为了论述的目的,假定较暗的像素可与较高数字计数数量相关,然而,如果期望,较亮的像素可与其它实现中的较高数字计数数量相关。
在一些实施例中,红外图像3000可以是在本文先前描述的图5和8的方框560和/或方框565接收的图像帧。在这一点上,红外图像3000可以是由方框555和/或560提供的有意模糊的图像帧,其中多数高频率含量因为例如时域滤波、散焦、运动、累积的图像帧和/或其它合适的技术而被滤出。如此,在一些实施例中,仍然在红外图像3000中的任何剩余的高空间频率含量(例如,呈现为对比区域或模糊图像帧中的差异)可被认为是空间相关的FPN和/或空间不相关的FPN。
因此,假定基本均匀像素3010通常对应于模糊的场景信息,像素3020和3030对应于FPN。例如,如图23A所示,像素3020和3030被布置在几个组中,它们中每个都被放置在贯穿多行和列的红外图像3000的总区域中,但不与单行或列相关。
本文描述的各种技术可用于在不过度补偿附近暗或亮像素的存在的情况下确定NUC项。如本文的进一步描述,当这种技术用于确定红外图像3000的单个像素(例如,3040、3050和3060)的NUC项时,在不过度补偿FPN的其它情况下,可以确定合适的NUC项以在某些情况下合适地补偿FPN。
按照本文进一步描述的各种实施例,可以为红外图像的每个像素确定对应的NUC项。在这一点上,可以将红外图像的所选像素与对应组的在与所选像素有关的近邻范围内的其它像素(例如,也称为邻近像素)比较。在一些实施例中,近邻可以对应于在所选像素的选择的距离范围内(例如,在选择的核心尺寸范围内)的像素(例如,在所选像素周围和/或邻近所选像素的像素的N乘N近邻)。例如,在一些实施例中,可使用5的核心,但也可以考虑更大或更小的尺寸。
如关于图19A-22B的类似论述,基于比较调整(例如,增加、减少或以其它方式更新)一个或多个计数器(例如,记录器、存储位置、累加器和/或在处理部件2110、噪声滤波模块2112、存储部件2120和/或其它部件中的其它实现)。在这一点上,对于所选像素具有比近邻比较像素小的值的每个比较,可以调整计数器E。对于所选像素具有等于(例如,精确等于或充分等于)近邻比较像素的值的每个比较,可以调整计数器F。对于所选像素具有比近邻比较像素大的值的每个比较,可以调整计数器G。因此,如果近邻使用5的核心,则在所选像素和其邻近像素之间产生总共24个比较。因此,总共24个调整(例如,计数)可由计数器E、F和G共同拥有。在这一点上,计数器E、F和G可以识别邻近像素大于、等于或小于所选像素的比较数量。
在比较所选像素和其近邻中的所有像素之后,基于计数器E、F和G的值,可为像素确定(例如,调整)NUC项。基于计数器E、F和G中计数的分布,所选像素的NUC项可以基于使用一个或多个计数器E、F和/或G的值执行的一个或多个计算选择性增加、减少或保持相同。
NUC项的这种调整可按照任何期望的计算来执行。例如,在一些实施例中,如果计数器F明显大于计数器E和G或者在特定阈值以上(例如,表示大量邻近像素精确等于或充分等于所选像素),则可以判定NUC项应保持相同。在这种情况下,即使几个邻近像素展现出明显高于或低于所选像素的值,那些邻近像素也不会偏离在其它的基于平均值或基于中值的计算中出现的NUC项。
作为另一个实例,在一些实施例中,如果计数器E或计数G在特定阈值以上(例如,表示大量邻近像素大于或小于所选像素),则可以判定NUC项应该合适地增加或减少。在这种情况下,由于基于大量大于、等于或小于所选像素的邻近像素,可增加或减少NUC项(例如,而不是这种邻近像素的真实像素值),所以在不引入非故意过度补偿像素值差异的迅速变化的情况下,可以渐进的方式调整NUC项。
通过重新设置计数器E、F和G、选择红外图像3000的另一个像素、执行与其邻近像素的比较并基于计数器E、F和G的新值确定它的NUC项,可重复该过程。这些操作可以如期望地重复,直到为红外图像3000的每个像素确定NUC项。
在一些实施例中,在为所有像素确定NUC项之后,该过程可被重复以使用同一红外图像3000(例如,在应用NUC项之后)和/或另一红外图像(例如,随后捕获的红外图像)进一步更新NUC项。
如所述的,计数器E、F和G识别大于、等于或小于所选像素的邻近像素的数量。这与用于确定NUC项的各种其它技术形成对比,在各种其他技术中可使用比较像素之间的真实差异(例如,计算差值)。
计数器E、F和G识别所选像素和其邻近像素之间的相对关系(例如,小于、等于或大于关系)。在一些实施例中,这种相对关系可对应于例如所选像素和其邻近像素的值之间差异的符号(例如,正、负或零)。通过基于相对关系而不是实际数值差确定NUC项,NUC项可以不会因为具有数字计数的广泛偏离所选像素的少量邻近像素而出现了偏离。
另外,使用该方法可以减少其它类型场景信息对NUC项值的影响。在这一点上,由于计数器E、F和G识别像素之间的相对关系而不是实际数值差,指数场景变化(例如,非线性场景信息梯度)可对NUC项确定起较少作用。例如,为了比较的目的,某些像素中的指数较高的数字计数可被处理为简单地大于或小于其它像素,因此将不过分偏离列校正项。而且,在不需要无意使表示非线性斜率的红外图像变形的情况下,可以使用该方法。
有利地,计数器E、F和G提供了计算NUC项的有效方法。在这一点上,在一些实施例中,仅三个计数器E、F和G用于存储对所选像素执行的所有邻近像素比较的结果。这与各种其它方法形成了对比,在各种其他方法中存储更多唯一值(例如,其中存储特定数值差,或这种数值差的出现次数)、使用中值滤波器(例如,其需要存储并利用包括计算密集型除法运算的高通或低通滤器以得到邻近像素值的加权平均值)。
在一些近邻和/或核心的尺寸是已知的实施例中,通过省略计数器E可实现进一步的效率。在这一点上,基于在该近邻中已知的像素的数量,可以知道计数的总数。另外,可假定不会导致计数器E或计数器G调整的任何比较将对应于像素具有相等值的那些比较。因此,计数器F拥有的值可由计数器E和G来确定(例如,(邻近像素数)-计数器E值-计数器G值=计数器F值)。
在一些实施例中,可以仅使用单个计数器。在这一点上,对于所选像素具有比邻近像素大的值的每个比较,单个计数器可被选择性地以第一方式(例如,增加或减少)调整,对于所选像素具有比邻近像素小的值的每个比较,单个计数器可被选择性地以第二方式调整(例如,减少或增加),对于所选像素具有等于(例如,精确等于或充分等于)邻近像素的值的每个比较,单个计数器可以不被调整(例如,保持其现存值)。因此,单个计数器的值可以表示大于或小于所选像素的比较像素的相对数量(例如,在比较所选像素和所有其对应的邻近像素之后)。
基于单个计数器的值,可以更新(例如,增加、减少或保持相同)所选像素的NUC项。例如,在一些实施例中,如果单个计数器在执行比较之后表现出基准值(例如,零或其它数),则NUC项可以保持相同。在一些实施例中,如果单个计数器大于或小于基准值,则NUC项可选择性地合适增加或减少以降低所选像素和其对应邻近像素之间的整体差异。在一些实施例中,更新NUC项的条件是:基于具有不同于所选像素值的邻近像素的限制数量,单个计数器具有不同于基准值至少阈值量的值以防止NUC项过度偏离。
关于图23B-E,进一步说明了这些技术的各种方面。在这一点上,图23B是示出根据该公开实施例的噪声滤波红外图像的方法3100的流程图。虽然引用了与图23B的特定方框有关的系统2100的特定部件,但是关于图23B描述的各种操作可以通过任何合适部件来执行,诸如图像捕获部件2130、处理部件2110、噪声滤波模块2112、存储部件2120、控制部件2140和/或其它等。在一些实施例中,可例如代替图5和8的方框565-573执行图23B的操作。
在方框3110中,接收图像帧(例如,红外图像3000)。例如,如所述的,红外图像3000可以是由方框555和/或560提供的有意模糊的图像帧。
在方框3120中,噪声滤波模块2112选择将要确定NUC项的红外图像3000的像素。例如,在一些实施例中,所选像素可以是像素3040、3050或3060。然而,可以选择红外图像3000的任何像素。在一些实施例中,方框3120还可以包括将计数器E、F和G重新设置为零或其它合适的缺省值。
在方框3130中,噪声滤波模块2112选择与所选像素有关的近邻(例如,像素近邻)。如所述的,在一些实施例中,这些近邻可对应于在所选像素的选择距离范围内的像素。在所选像素3040的情况中,5的核心对应于近邻3042(例如,包括在所选像素3040周围的24个邻近像素)。在所选像素3050的情况中,5的核心对应于近邻3052(例如,包括在所选像素3050周围的24个邻近像素)。在所选像素3060的情况中,5的核心对应于近邻3062(例如,包括在所选像素3060周围的24个邻近像素)。如所述的,也可以考虑更大和更小核心尺寸。
在方框3140和3150中,噪声滤波模块2112比较所选像素和其邻近像素并基于在方框3140中执行的比较调整计数器E、F和G。可以以期望的组合执行方框3140和3150,以在执行每个比较之后和/或在所有比较之后更新计数器E、F和G。
在所选像素3040的情况中,图23C示出了在所选像素3040与邻近像素3042比较之后用直方图3200表示的计数器E、F和G的调整值。与所选像素3040相比,近邻3042包括具有高值的4个像素、具有等值的17个像素和具有低值的3个像素。因此,计数器E、F和G可被调整为图23C示出的值。
在所选像素3050的情况中,图23D示出了在所选像素3050与邻近像素3052比较之后用直方图3250表示的计数器E、F和G的调整值。与所选像素3050相比,近邻3052包括具有高值的0个像素、具有等值的6个像素和具有低值的18个像素。因此,计数器E、F和G可被调整为图23D示出的值。
在所选像素3060的情况中,图23E示出了在所选像素3060与邻近像素3062比较之后用直方图3290表示的计数器E、F和G的调整值。与所选像素3060相比,近邻3062包括具有高值的19个像素、具有等值的5个像素和具有低值的0个像素。因此,计数器E、F和G可被调整为图23E示出的值。
在方框3160中,基于计数器E、F和G的值更新(例如,选择性增加、减少或保持相同)所选像素的NUC项。这种更新可按照使用计数器E、F和G的值的任何合适的计算来执行。
例如,在所选像素3040的实例中,图23C中的计数器F表示大多数邻近像素(例如,17个邻近像素)具有等于所选像素3040的值,而计数器E和G表示少量邻近像素具有大于(例如,4个邻近像素)或小于(例如,3个邻近像素)所选像素3040的值。而且,具有大于和小于所选像素3040的值的邻近像素的数量是类似的(例如,分别是4个和3个邻近像素)。因此,在这种情况下,由于所选像素3040的进一步偏移很可能会将额外的非均匀性引入到红外图像3000中,所以噪声滤波模块2112可选择保持所选像素3040的NUC项相同(例如,不变化)。
在所选像素3050的情况中,图23D中的计数器G表示大多数邻近像素(例如,18个邻近像素)具有小于所选像素3050的值,而计数器F表示少量邻近像素(例如,6个邻近像素)具有等于所选像素3050的值,计数器E表示没有邻近像素(例如,0个邻近像素)具有大于所选像素3050的值。这些计数器值表明所选像素3050正展示出暗于大多数邻近像素的FPN。因此,在这种情况下,噪声滤波模块2112可选择减少所选像素3050的NUC项(例如,变亮所选像素3050),以使它和具有较低值的大量邻近像素呈现出更多均匀性。
在所选像素3060的情况中,图23E中的计数器E表示大多数邻近像素(例如,19个邻近像素)具有大于所选像素3060的值,而计数器F表示少量邻近像素(例如,5个邻近像素)具有等于所选像素3060的值,计数器G表示没有邻近像素(例如,0个邻近像素)具有小于所选像素3060的值。这些计数器值表明所选像素3060正展示出亮于大多数邻近像素的FPN。因此,在这种情况下,噪声滤波模块2112可选择增加所选像素3060的NUC项(例如,使所选像素3060变暗),以使它和具有更高值的大量邻近像素呈现出更多均匀性。
在方框3160中,可以递增地进行对所选像素的NUC的变化。例如,在一些实施例中,在方框3160中NUC项可以增加或减少小的量(例如,在一些实施例中仅一个或几个数字计数)。这种递增量可以防止NUC项大量快速变化,该NUC项可能会非故意地在红外图像3000中引入不期望的非均匀性。在图5和8的每个循环期间可以重复图23B的过程(例如,代替方框565和/或570)。因此,如果需要NUC项的大量变化,则在每个循环期间可重复地增加和/或减少NUC项,直到NUC值变稳定(例如,在进一步循环期间保持基本相同)。在一些实施例中,方框3160可进一步包括基于局部梯度和/或本文所述的时间阻尼加权于更新的NUC项。
在方框3170,如果仍然选择红外图像3000的附加像素,则该过程返回到方框3120,其中重复方框3120-3170以更新另一个所选像素的NUC项。在这一点上,方框3120-3170对红外图像3000的每个像素可至少循环一次以更新每个像素的NUC项(例如,可选择红外图像3000的每个像素并在方框3120-3170的对应循环期间更新其对应的NUC项)。
在方框3180中,在对红外图像3000的所有像素更新NUC项之后,该过程继续到图5和8的方框575。除了图23B的过程之外,也可以执行一个或多个方框565-573的操作。
图23B的过程可重复用于由方框555和/或560提供的每个有意模糊的图像帧。在一些实施例中,在方框3110接收的每个新图像帧都可基本不同于其它新近接收的图像帧(例如,在图23B过程的先前循环中)。这可以由例如基本静态场景2170、缓变场景2170、红外图像时域滤波和/或其它传感器产生。在这些情况下,因为在图23B的每个循环中可选择性的增加、减少它们或使它们保持不变一样,由图23B确定的NUC项的精确性会提高。结果,在一些实施例中,许多NUC项最终可达到基本稳定状态,其中在图23B的足够数量的循环之后和当图像帧基本不变时,它们保持相对不变。
也可以考虑其它实施例。例如,可重复方框3160多次以使用用于每个更新的同一红外图像更新一个或多个NUC项。在这一点上,在方框3160中更新一个或多个NUC项之后,或者在方框3160的附加循环中更新多个NUC项之后,图23B的过程可首次将一个或多个更新的NUC项(例如,还在方框3160中)应用于用于确定更新的NUC项的同一红外图像并返回到方框3120,以使用该实施例中的同一红外图像反复更新一个或多个NUC项。这种方法可用在例如脱机(非实时)处理中和/或用在具有足够处理能力的实时实现中。
可合适地将关于图23A-E描述的各种技术中任何一种技术与本文描述的其它技术组合在一起。例如,可以如期望地组合本文描述的各种技术的一些或所有部分以执行噪声滤波。
各种技术都可以用于识别(例如,检测、指示或以其他方式分类)图像帧中的异常像素。在一些实施方式中,这些技术可以与本文描述的其他处理组合(例如,之前、之后和/或同时)使用。还可以执行修正动作。
不同类型的异常像素可展现不同类型的异常行为。例如,如果红外传感器132变得完全不响应(例如,由于失去电连接或其他原因),则与红外传感器关联的异常像素可能展现极端偏差的非均匀性,可能展现对辐射照度的变化无响应,以及可能在变化的场景条件下总是保持非均匀。例如,不管成像场景中的变化,这样的像素可展现固定值。因此,其他像素相比,该像素可展现大的值差异并且在高对比度场景中可能是明显的。
另一类型的异常像素可展现相比于其他像素的显著偏差并且可响应辐射照度中的至少一些变化。再另一类型的异常像素可展现断续的或阶梯式的操作。例如,像素可闪烁使得其处于两个显著不同的输出水平之间的双稳态。
可利用本文进一步描述的各种技术来识别这些不同类型的异常像素中的任何一种以及其他合适类型的异常像素。
基于PFA的成像系统一般包括传感器和光学器件。例如,红外成像模块100包括(例如,布置在红外传感器组件128提供的PFA中的)红外传感器132和光学元件180。当从场景接收红外辐射时,红外辐射通过光学元件180并由红外传感器132接收。来自场景中任何点的红外辐射可以以取决于光学元件180和红外传感器组件128的特定实现的方式分布在红外传感器组件128的区域内(例如,跨越多个红外传感器132)。
例如,在一些实施方式中,这种分布可以由点扩散函数(PSF)确定。就这一点而言,通过光圈(例如,光学元件180的圆形光圈)的衍射可担充当自场景中无穷小点(例如,点源)的辐射照度可被聚焦的极限。在一些实施方式中,电源可聚焦为斑点宽度(例如,衍射斑点),其由下述方程确定:
斑点宽度=2.44*λ*F/#
在上面的方程中,λ是由红外传感器132成像的辐射的波长(例如,在一些实施方式中,约8μm到约13μm),而F/#是光学元件180的f数(例如,在一些实施方式中,约10.到约1.4)。
更一般地,来自点源通过光学元件180的圆形光圈的衍射的能量分布称为艾里斑并且由下面的方程描述:
在上面的方程中,a是圆形光源的半径,k等于2π/λ并且J1是贝塞尔(Bessel)函数。
图24示意了根据本公开的实施方式的艾里斑4000和在FPA上其强度对位置的图表4050。例如,在一些实施方式中,艾里斑4000和图表4050可以与红外成像模块100的红外传感器132和光学元件180和/或各种系统、装置中的任一者和/或本文描述的部件关联。
在图24中,艾里斑4000展示了在图表4050中由第一极小值4020表示的宽度4010(其在一些实施方式中可以利用上面讨论的斑点宽度方程确定)。从点源接收的辐射可通过光学元件180并有效地被光学元件180散焦以在宽度4010上分布艾里斑4000。宽度4010可对应于红外传感器组件128的的多个红外传感器132(例如,与点源关联的艾里斑4000的第一极小值4020之间的宽度4010可以大于对应于两个相邻像素的红外传感器132中的至少两个相邻的红外传感器的宽度)。
在一些实施方式中,除了上述的衍射,点源还可以被散焦,其原因例如光学元件180中可能的非理想行为(例如,相差)、制造误差和/或光学元件180的聚焦位置(例如,光学元件180和红外传感器132之间的距离)的误差。
再次参考上面讨论的斑点宽度方程,当斑点宽度(例如,点扩散函数)对应于比与单独像素关联的单独红外传感器132大的宽度时,对于在单独像素和其邻域像素之间可能存在的对比度的量,存在极限。
例如,如果用以17μm间隔开的红外传感器132实现红外成像模块100来检测具有10μm的波长和F/1.1的f数的红外辐射,艾里斑4000的到第一极小值的宽度4010为:
2.44*10um*1.1=26.8um
在该示例中,如果红外传感器132居中于点源的艾里斑4000上,则红外传感器的关联的像素可具有与点源相关的总红外能量(例如,辐射照度)的约75%的值,并且其最近接的邻域像素中的每一个都可具有对应于总红外能量的约5%的值。
因此,在上面的示例中,没有单独像素将展现响应于辐射照度的、比最接近的邻域像素(例如,直接相邻的像素)的值的15倍(例如,75%/5%=15)大的值(例如,该值也指计数或信号水平)。这样,在该示例中,对于成像场景中的点源,相邻像素的值将预期展示15的最大比率(例如,也称为因子)。在一些情形中,当包括像差、制造容差、失焦和或/其他方面时,该比率可以甚至更低。
根据本文进一步描述的各种技术,可以确定和利用像素值来识别异常像素。在一些情形中,异常像素可以是展现相比于它们的邻域像素、在值上大的差异性(例如,也称为局部对比度)的单独像素。特别地,这些差异性可超过上面讨论的对于点源期待的最大比率。因此,如果像素展现的差异性大于上面讨论的PSF计算(例如,在上面的示例中大于15的因子)和/或特定光学元件(例如,透镜)的具体PSF理论上可允许的差异性(例如,值的比率更大),则可以确定这样的相异像素值与一个或多个异常像素关联。
图25示例了根据该公开实施方式的利用PSF识别异常像素的技术。在一些实施方式中,关于图25描述的技术可以尤其有用于在成像低对比度场景时识别异常像素。
在图25中,示出了红外图像的像素4100A-E(例如,其可以是本文描述的各种红外图像帧中的任何一者的一部分)。特别地,像素4100A-E是红外图像的行或列的五个像素并且在该情形中对应于在像素4100C的任一侧上具有两个像素的距离的邻域。像素4100A-E的值展现分布4150并可被评估以确定像素4100C是否是异常像素。
如讨论的,如果红外图像的像素展现与其相邻像素相比的、超过PSF计算期望的理论最大差异性,则在一些实施方式中,该像素可识别为异常像素。根据图25中明示的技术,如果选择的像素(例如,像素4100C)的值大于阈值(例如,选择的阈值指示异常像素行为),则选择的像素可被确定为是异常的,其中该阈值对应于与包括选择的像素和邻域像素的像素组关联的数字计数(例如,像素值)的总数(例如,加和)的一部分的比率。可以对红外图像的所有像素重复这种过程以确定任何像素是否是异常的。
在图25中指明的特定实施方式中,如果像素4100C的值超过像素4100A-C的值的加和的90%(例如,“deadpsl”为真),则其可以视为相对于包括左侧像素4100A-B的邻域是异常的(例如,“死的”)。类似地,如果像素4100C的值超过像素4100C-E的值的加和的90%(例如,“deadpsr”为真),则其可以视为相对于包括右侧像素4100D-E的邻域是异常的。如果上述两种情形中的任一者为真,则可以确定像素4100C展现现对于领域像素4100A-B和/或4100D-E的异常值,并且因此可以被识别为异常像素(例如,“deadps”为真)。尽管在图25中明示了特定尺寸和值,然而在合适时可以使用其他尺寸和值。
图26示例了根据该公开实施方式的利用故意模糊的图像帧4210来识别异常像素的技术。在一些实施方式中,模糊了图像帧4210中的高对比度边缘。结果,关于图26描述的技术可特别有用于在成像高对比度场景的实施方式中识别异常像素。
在图26中,通过平均N个图像帧4200来提供模糊图像帧4210。例如,在一些实施方式中,模糊图像帧4210可以是在块545中提供的、作为先前讨论的累加(块535)和平均(块540)的结果而获得的图像帧。
可以利用其他技术提供模糊图像帧4210。例如,在一些实施方式中,模糊图像帧4210可以是在块545中提供的、作为先前讨论的块530中散焦的结果而获得的图像帧。在一些实施方式中,模糊图像帧4210可以是通过在先前讨论的块826中执行的时域滤波而获得时域滤波的图像帧802e。还可以考虑到,模糊图像帧4210可以通过合适的其他数据获得。
在图26中,示出了模糊图像帧4210的像素。特别地,用在对应于核心(例如,3乘3核心或任何其他合适尺寸)的邻域4230中的邻域像素示出像素4220。
如所讨论的,如果红外图像的像素展现与其相邻像素相比的、超过PSF计算期望的理论最大差异性,则在一些实施方式中,该像素可识别为异常像素。根据图26中明示的技术,如果选择的像素(例如,像素4220)不同于一组邻域像素值的平均值超过阈值(例如,选择的阈值指示异常像素行为),则选择的像素可以被确定为是异常的。可以对红外图像的所有像素重复这种过程以确定任何像素是否是异常的。
在图26示出的特定示例中,如果像素4220(例如,Cp)和邻域像素4240的平均(例如,nhood_avg)之间差异的绝对值大于阈值(例如,在该示例中为200),则像素4220可以被确定为是异常的(例如,“deadta”为真)。尽管在图26中明示了特定尺寸和值,然而在合适时可以使用其他尺寸和值。
在一些实施方式中,关于图25和26描述的技术可以选择性地一起或分开执行以识别图像帧的异常像素。
图27是示例了根据该公开实施方式的识别异常像素的过程的流程图。尽管相对于图27的特定块参考了特定部件,然而可以使用任何合适的部件,比如本文描述的各种部件。
在块4310中,由红外传感器132捕获红外图像帧(例如,红外图像)。在块4315中,处理器195在捕获的图像帧上执行对比度确定。例如,处理器195可确定捕获的图像总体上是低对比度图像还是高对比度图像。就这方面而言,如讨论的,关于图25说明的技术可以有用于在成像低对比度场景时识别异常像素,而关于图26说明的技术可以有用于在成像高对比度场景时识别异常像素。因此,在一些实施方式中,图27的过程可以基于块4315的低或高对比度确定有选择地执行图25和/或26的技术。如果捕获的图像是高对比度图像,则过程继续到块4230。否则,过程继续到块4325。
在块4320中,根据图26的技术,例如使用本文描述的各种技术而获得模糊图像帧。
在块4323中,对模糊图像帧可选地高通滤波和/或以其他方式处理以去除与背景噪声关联的像素值贡献。就这方面而言,在一些实施方式中,可以基于相对于背景像素值的像素值(例如,与基本均匀的场景背景关联的像素值)执行参考图24-27描述的处理技术。例如,背景像素值可能基本大于零计数(例如,作为红外传感器132自发热和/或其他原因的结果)。
为了减少这种背景像素值对于异常像素确定的贡献,可以在处理像素值之前,对图像帧高通滤波和/或以其他方式处理以去除与背景噪声关联的像素值贡献(例如,在块4323中)。结果,可以更准确地确定异常像素值。例如,即使在选择的像素展现相对于比较的领域像素相对小的差异,在高通滤波之后,这种差异相对于其他像素(例如,与背景辐射照度关联的那些像素)也可更加明显。在一些实施方式中,可以按需要设定或调整本文描述的各种阈值以使用高通滤波后的像素值来识别异常像素。
在块4325中,处理器195选择第一像素。如果使用图25的技术(例如,低对比度图像确定),则选择的像素可以是先前在块4310中捕获的图像帧的像素。如果使用图26的技术(例如,高对比度图像确定),则选择的像素可以是在块4320中获得的模糊图像帧的像素。可以捕获并使用一个或多个附加图像帧用于块4325中的像素选择,并且可以合适地使用任何单个图像帧或图像帧的组合。
在块4330中,处理器195选择邻域。如果使用图25的技术,则邻域可以是例如包括在选择的像素的至少一侧的两个像素的邻域(例如,如果选择了像素4100C,则是像素4100A-B和/或像素4100D-E)。如果使用图26的技术,则邻域可以是例如有核心确定的邻域(例如,如果选择了像素4220,则是像素4240)。
在块4330中,处理器195基于选择的像素和邻域像素的像素值执行计算。如果使用图25的技术,则处理器195可计算像素4100A-C和/或像素4100C-D的值的加和的百分率。如果使用图26的技术,则处理器195可计算像素4240的平均值和平均值与像素4220之间的绝对差值。
在块4340中,处理器195确定是否满足阈值(例如,在一些实施方式中,超过阈值)。如果使用图25的技术,则处理器195可使用在块4335中确定的结果作为阈值并将其与像素4100C的值比较。如果使用图26的技术,则处理器195可将在块4335中确定的绝对差值与阈值比价。如果满足阈值,则过程继续到块4350。否则,过程继续到块4345。
在块4345中,处理器195确定对于选择的像素是否剩余一个或多个要评估的附加邻域。就这方面而言,在一些实施方式中,在做出关于选择的像素是否异常的确定之前,评估附加领域可能是合意的。如果剩余附加邻域,则过程返回到块4330。否则,过程继续到块4355。
例如,如果在块4330-4340的迭代过程中利用包括像素4100A-B的邻域使用图25的技术,则过程可返回到块4330以使用包括像素4100D-E的不同邻域。作为另一示例,如果在块4330-4340的迭代过程中利用仅包括单个行或单个列的邻域使用图25的技术,则过程可返回到块4330以利用列而不是行,或者,反之亦然。作为另一示例,如果在块4330-4340的迭代过程中将图26的技术用于使用特定核心的邻域,则过程可返回到块4330以利用具有不同核心的不同邻域。
再次参考块4340,如果在先前块4340中满足了阈值,则选择的像素将已经满足了将指示为异常的至少初步条件。在块4350中,可以评估一个或多个附加标准以进一步确定是否应当将选择的像素识别为异常像素。在各种实施方式中,可以在图27的其他操作之前、之后或期间评估块4340的标准。
在一些实施方式中,如果这样的指示会造成一群大于期望尺寸的异常像素,则块4340可包括处理器195执行指令(例如,条件性逻辑指令)以阻止选择的像素被识别为是异常的(例如,以确保修正动作的可靠操作,比如像素取代操作)。
在一些实施方式中,块4340可包括处理器195执行指令以评估相关于背景噪声水平的选择的像素和/或邻域像素的像素值。例如,在一些实施方式中,如果选择的像素的值在时域噪声阈值内(例如,小于阈值)(例如,在相对于背景噪声水平的8倍标准偏差内),则选择的像素可被识别为是非异常的。
如果满足块4350的标准,则过程继续到块4355。否则,过程继续到块4360。
在块4355中,处理器195将选择的像素指示(例如,识别)为异常像素。例如,在一些实施方式中,块4355可包括更新(例如,存储在合适的存储器或其他机器可读介质中的)坏像素分布图以将选择的像素识别为异常。
在块4360中,如果剩余捕获的图像帧的附加的像素要被评估,则过程返回到块4325,其中选择图像帧的另一像素。否者,过程继续到块4365。
在块4365中,对已经被识别(例如,被指示)的任何异常像素采取校正动作。在一些实施方式中,这样的校正动作可包括对于异常像素替换其他值(例如,像素取代)、执行本文讨论的减少噪声和/或其他非均匀性(例如,以较小或消除异常像素的影响)的各种过程中的任何一者、其他校正动作(例如,使用本文所述的各种技术的行和/列校正项的确定和应用)和/或合适的这些动作的各种组合。
在一些实施方式中,图27的过程的一个或多个块可在同一或不同图像帧上以迭代的方式重复以继续识别异常像素(例如,继续更新坏像素分布图)。例如,在一些实施方式中,随着图27的过程迭代,可确定附加的异常像素(异常像素的簇)。在一些实施方式中,在块4365中采取的校正动作可以被执行持续有限的时间段和/或直到在图27的过程的进一步迭代期间不再将特定像素识别为异常。另外,选择的像素可以在图27的过程的一个或多个块的各种迭代期间选择性地被指示为异常或非异常(例如,在各种迭代期间,选择的像素可在被指示为异常和被指示为非异常之间转换)。
有利地,关于图24-27描述的各种技术可以在成像装置已经从工厂装运走之后响应于自动或手动触发而在现场执行。结果,在制造过程中没有被识别出的、或者可能在装运后开始展现异常行为的异常像素可以在现场识别和校正(例如,在使用成像装置过程中)。
关于图24-27描述的各种技术允许识别和校正多种类型的异常像素。例如,可以识别和校正与完全不响应的红外传感器132关联的像素。
作为另一示例,可以识别和校正展现显著偏移但是还响应至少一些变化的红外传感器信号的像素。在一些实施方式中,可以通过不断的取代来校正这些像素。在一些实施方式中,可以最初取代这些像素而随后使用诸如本文描述的那些技术的各种非均匀性技术校正这些像素。
作为另一示例,可以识别和校正闪烁的像素。在一些实施方式中,通过迭代地执行图24-27的各种技术,这些像素在它们转变到未校正值后可以被快速地识别为异常并被校正,并且在它们转变到正常的期望值后可以被快速地识别为非异常并保持未校正。
本文描述的各种方法、过程和/或操作中的任一者可以通过各种系统、装置和/或本文描述的合适部件执行。另外,尽管在本文中关于红外图像描述了各种方法、过程和/或操作,然而在合适的情况下这些技术也可适用于其他图像(例如,可见光谱图像和/或其他光谱图像)。
在合适的情况下,可通过硬件、软件或者硬件和软件的结合来实现本公开所提供的各种实施方式。同样的在合适的情况下,在不脱离本公开的精神的情况下,可将本文所提出的各种硬件部件和/或软件部件合并为包括软件、硬件和/或二者的复合部件。在合适的情况下,在不脱离本公开的精神的情况下,可将本文所提出的各种硬件部件和/或软件部件分离为包括软件、硬件或二者的子部件。另外,在合适的情况下,可以预期的是,软件部件能够实现为硬件部件,反之亦然。
根据本公开的软件,例如,非暂时性指令、程序代码和/或数据可存储在一个或者多个非暂时性机器可读介质中。还可以预期的是,可使用一个或者多个通用或者专用计算机和/或计算机系统、网络和/或其他方式来实现本文所提及的软件。在合适的情况下,本文所描述的各种步骤的顺序可以改变、合并为复合步骤和/或分离为子步骤,以提供本文所描述的功能。
以上所描述的实施方式仅为了举例说明,而不是限制本发明。还应当理解的是,根据本发明的原理,许多修改和改变是可能的。因此,本发明的范围仅由下面的权利要求书限定。
Claims (29)
1.一种方法,该方法包括:
接收由多个红外传感器基于通过光学元件的红外辐射捕获的红外图像帧;
选择红外图像帧的像素;
选择红外图像帧的多个邻域像素;
处理选择的像素和邻域像素的值,以确定选择的像素的值是否展现与邻域像素相比的差异,该差异超过与光学元件和红外传感器的配置关联的最大差异;以及
基于所述处理,选择性地将选择的像素指定为异常像素。
2.根据权利要求1所述的方法,其中,与光学元件关联的艾里斑的极小值之间的宽度大于红外传感器中至少两个相邻的红外传感器的宽度。
3.根据权利要求1所述的方法,其中,所述处理包括确定选择的像素的值是否超过阈值,该阈值包括选择的像素和邻域像素的值的加和的百分率。
4.根据权利要求1所述的方法,其中,所述处理包括确定选择的像素的值和邻域像素的值的平均之间的绝对差值是否超过阈值。
5.根据权利要求1所述的方法,还包括在所述处理之前高通滤波红外图像帧。
6.根据权利要求1所述的方法,其中,如果选择的像素的值小于背景噪声阈值,则不将选择的像素指定为异常像素。
7.根据权利要求1所述的方法,还包括:如果选择的像素被指定为异常像素,则在坏像素分布图中识别选择的像素。
8.根据权利要求1所述的方法,其中,红外图像帧是第一红外图像帧,其中,选择的像素在该方法的第一次迭代过程中被指定为异常像素,该方法还包括:
使用第二红外图像帧执行该方法的第二次迭代;和
基于所述处理的第二次迭代,将选择的像素指定为非异常像素。
9.根据权利要求1所述的方法,还包括:如果选择的像素被指定为异常像素,则校正选择的像素的值。
10.根据权利要求9所述的方法,其中,所述校正包括确定与选择的像素关联的非均匀校正(NUC)项。
11.根据权利要求10所述的方法,其中,红外图像帧是有意模糊的图像帧。
12.根据权利要求1所述的方法,还包括处理红外图像帧以确定多个列校正项以减少由红外成像装置引入的噪声,其中,每个列校正项与红外图像帧的对应列关联并基于对应列的像素和列的邻域的像素之间的相对关系来确定。
13.根据权利要求1所述的方法,其中,红外图像帧是热图像帧。
14.根据权利要求1所述的方法,还包括:
使红外辐射通过光学元件;和
使用红外传感器捕获红外图像帧。
15.一种系统,该系统包括:
存储器,其适于接收由多个红外传感器基于通过光学元件的红外辐射捕获的红外图像帧;和
处理器,其适于执行进行下述操作的指令:
选择红外图像帧的像素;
选择红外图像帧的多个邻域像素;
处理选择的像素和邻域像素的值以确定选择的像素的值是否展现与邻域像素相比的差异,该差异超过与光学元件和红外传感器的配置关联的最大差异;以及
基于所述处理,选择性地将选择的像素指定为异常像素。
16.根据权利要求15所述的系统,其中,与光学元件关联的艾里斑的极小值之间的宽度大于红外传感器中至少两个相邻的红外传感器的宽度。
17.根据权利要求15所述的系统,其中,处理选择的像素和邻域像素的值的指令适于致使处理器确定选择的像素的值是否超过阈值,该阈值包括选择的像素和邻域像素的值的加和的百分率。
18.根据权利要求15所述的系统,其中,处理选择的像素和邻域像素的值的指令适于致使处理器确定选择的像素的值和邻域像素的值的平均之间的绝对差值是否超过阈值。
19.根据权利要求15所述的系统,其中,处理器适于执行指令以在所述处理之前高通滤波红外图像帧。
20.根据权利要求15所述的系统,其中,如果选择的像素的值小于背景噪声阈值,则不将选择的像素指定为异常像素。
21.根据权利要求15所述的系统,其中,处理器适于执行指令以:如果选择的像素被指定为异常像素,则在坏像素分布图中识别选择的像素。
22.根据权利要求15所述的系统,其中,红外图像帧是第一红外图像帧,其中,选择的像素在指令的第一次执行过程中被指定为异常像素,其中处理器适于:
使用第二红外图像执行指令的第二次执行;和
基于所述处理的第二次执行,执行附加指令以将选择的像素指定为非异常像素。
23.根据权利要求15所述的系统,其中,处理器适于执行附加指令以:如果选择的像素被指定为异常像素,则校正选择的像素的值。
24.根据权利要求23所述的系统,其中,校正选择的像素的值的指令适于致使处理器确定与选择的像素关联的非均匀校正(NUC)项。
25.根据权利要求24所述的系统,其中,红外图像帧是有意模糊的图像帧。
26.根据权利要求15所述的系统,其中,处理器适于执行附加指令以处理红外图像帧,从而确定多个列校正项以减少由红外成像装置引入的噪声,其中,每个列校正项与红外图像帧的对应列关联并基于对应列的像素和列的邻域的像素之间的相对关系来确定。
27.根据权利要求15所述的系统,其中,红外图像帧是热图像帧。
28.根据权利要求15所述的系统,还包括:
光学元件;和
红外传感器。
29.根据权利要求28所述的系统,其中,红外传感器是适于接收选自约0.2伏特到约0.7伏特的范围的偏置电压的微测热辐射计。
Applications Claiming Priority (25)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261747844P | 2012-12-31 | 2012-12-31 | |
US201261748018P | 2012-12-31 | 2012-12-31 | |
US61/747,844 | 2012-12-31 | ||
US61/748,018 | 2012-12-31 | ||
US201361793952P | 2013-03-15 | 2013-03-15 | |
US201361792582P | 2013-03-15 | 2013-03-15 | |
US61/793,952 | 2013-03-15 | ||
US61/792,582 | 2013-03-15 | ||
US14/029,683 | 2013-09-17 | ||
US14/029,716 US9235876B2 (en) | 2009-03-02 | 2013-09-17 | Row and column noise reduction in thermal images |
US14/029,683 US9208542B2 (en) | 2009-03-02 | 2013-09-17 | Pixel-wise noise reduction in thermal images |
US14/029,716 | 2013-09-17 | ||
US14/099,818 | 2013-12-06 | ||
US14/099,818 US9723227B2 (en) | 2011-06-10 | 2013-12-06 | Non-uniformity correction techniques for infrared imaging devices |
US14/101,245 US9706139B2 (en) | 2011-06-10 | 2013-12-09 | Low power and small form factor infrared imaging |
US14/101,258 US9723228B2 (en) | 2011-06-10 | 2013-12-09 | Infrared camera system architectures |
US14/101,245 | 2013-12-09 | ||
US14/101,258 | 2013-12-09 | ||
US14/138,058 | 2013-12-21 | ||
US14/138,052 US9635285B2 (en) | 2009-03-02 | 2013-12-21 | Infrared imaging enhancement with fusion |
US14/138,040 | 2013-12-21 | ||
US14/138,052 | 2013-12-21 | ||
US14/138,058 US10244190B2 (en) | 2009-03-02 | 2013-12-21 | Compact multi-spectrum imaging with fusion |
US14/138,040 US9451183B2 (en) | 2009-03-02 | 2013-12-21 | Time spaced infrared image enhancement |
PCT/US2013/078554 WO2014106278A1 (en) | 2012-12-31 | 2013-12-31 | Anomalous pixel detection |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105191288A true CN105191288A (zh) | 2015-12-23 |
CN105191288B CN105191288B (zh) | 2018-10-16 |
Family
ID=51022138
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380074083.2A Active CN105191288B (zh) | 2012-12-31 | 2013-12-31 | 异常像素检测 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN105191288B (zh) |
WO (1) | WO2014106278A1 (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106780480A (zh) * | 2017-01-06 | 2017-05-31 | 惠州Tcl移动通信有限公司 | 基于移动终端的自动识别图片异常像素处理方法及系统 |
CN108093182A (zh) * | 2018-01-26 | 2018-05-29 | 广东欧珀移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
CN108388837A (zh) * | 2017-02-03 | 2018-08-10 | 福特全球技术公司 | 一种用于评估自主车辆的内部的系统和方法 |
CN108419045A (zh) * | 2018-02-11 | 2018-08-17 | 浙江大华技术股份有限公司 | 一种基于红外热成像技术的监控方法及装置 |
CN109791699A (zh) * | 2016-07-20 | 2019-05-21 | 以色列国家农业和农村发展农业研究组织沃尔坎尼中心 | 辐射成像 |
CN109900707A (zh) * | 2019-03-20 | 2019-06-18 | 湖南华曙高科技有限责任公司 | 一种铺粉质量检测方法、设备以及可读存储介质 |
CN110235434A (zh) * | 2017-02-01 | 2019-09-13 | 索尼半导体解决方案公司 | 摄像系统、摄像装置和控制装置 |
CN110542482A (zh) * | 2018-05-29 | 2019-12-06 | 杭州海康威视数字技术股份有限公司 | 一种盲元检测方法、装置及电子设备 |
CN110542480A (zh) * | 2018-05-29 | 2019-12-06 | 杭州海康威视数字技术股份有限公司 | 一种盲元检测方法、装置及电子设备 |
CN110663061A (zh) * | 2017-03-31 | 2020-01-07 | 奥斯兰姆施尔凡尼亚公司 | 热图像占用者检测 |
CN111487257A (zh) * | 2020-04-01 | 2020-08-04 | 武汉精立电子技术有限公司 | 一种显示面板异常像素实时检测修复方法及装置 |
CN111783876A (zh) * | 2020-06-30 | 2020-10-16 | 西安全志科技有限公司 | 自适应智能检测电路及图像智能检测方法 |
WO2021134714A1 (zh) * | 2019-12-31 | 2021-07-08 | 深圳市大疆创新科技有限公司 | 红外图像处理方法、坏点标记方法及相关装置 |
WO2022227328A1 (en) * | 2021-04-30 | 2022-11-03 | Zhejiang Dahua Technology Co., Ltd. | Image processing systems and methods |
CN115578382A (zh) * | 2022-11-23 | 2023-01-06 | 季华实验室 | 图像异常检测方法、装置、设备及计算机可读存储介质 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104867122B (zh) * | 2015-05-29 | 2017-08-01 | 北京理工大学 | 一种红外自适应非均匀性校正及细节增强级联处理方法 |
FR3038194B1 (fr) * | 2015-06-26 | 2017-08-11 | Ulis | Correction de pixels parasites dans un capteur d'image infrarouge |
CN107454349A (zh) * | 2017-09-29 | 2017-12-08 | 天津工业大学 | 一种基于sCMOS相机的固定噪声自适应检测与校正方法 |
US20220210399A1 (en) * | 2020-12-30 | 2022-06-30 | Flir Commercial Systems, Inc. | Anomalous pixel detection systems and methods |
CN114264933B (zh) * | 2021-12-21 | 2024-02-13 | 厦门宇昊软件有限公司 | 一种集成电路板的故障检测方法和故障检测系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030146975A1 (en) * | 2002-02-07 | 2003-08-07 | Shi-Chang Joung | Time variant defect correcting method and apparatus in infrared thermal imaging system |
CN101701906A (zh) * | 2009-11-13 | 2010-05-05 | 江苏大学 | 基于近红外超光谱成像技术的仓储害虫检测方法和装置 |
US8208755B1 (en) * | 2008-04-15 | 2012-06-26 | Flir Systems, Inc. | Scene based non-uniformity correction systems and methods |
US8208026B2 (en) * | 2009-03-02 | 2012-06-26 | Flir Systems, Inc. | Systems and methods for processing infrared images |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6028309A (en) | 1997-02-11 | 2000-02-22 | Indigo Systems Corporation | Methods and circuitry for correcting temperature-induced errors in microbolometer focal plane array |
US7034301B2 (en) | 2002-02-27 | 2006-04-25 | Indigo Systems Corporation | Microbolometer focal plane array systems and methods |
US6812465B2 (en) | 2002-02-27 | 2004-11-02 | Indigo Systems Corporation | Microbolometer focal plane array methods and circuitry |
US7470904B1 (en) | 2006-03-20 | 2008-12-30 | Flir Systems, Inc. | Infrared camera packaging |
US7470902B1 (en) | 2006-03-20 | 2008-12-30 | Flir Systems, Inc. | Infrared camera electronic architectures |
US8189050B1 (en) * | 2006-07-19 | 2012-05-29 | Flir Systems, Inc. | Filtering systems and methods for infrared image processing |
US7679048B1 (en) | 2008-04-18 | 2010-03-16 | Flir Systems, Inc. | Systems and methods for selecting microbolometers within microbolometer focal plane arrays |
CN103875235B (zh) * | 2011-06-10 | 2018-10-12 | 菲力尔系统公司 | 用于红外成像装置的非均匀性校正技术 |
BR112019025668B1 (pt) | 2017-06-08 | 2024-03-12 | Superior Energy Services, L.L.C | Válvula de segurança de subsuperfície |
-
2013
- 2013-12-31 CN CN201380074083.2A patent/CN105191288B/zh active Active
- 2013-12-31 WO PCT/US2013/078554 patent/WO2014106278A1/en active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030146975A1 (en) * | 2002-02-07 | 2003-08-07 | Shi-Chang Joung | Time variant defect correcting method and apparatus in infrared thermal imaging system |
US8208755B1 (en) * | 2008-04-15 | 2012-06-26 | Flir Systems, Inc. | Scene based non-uniformity correction systems and methods |
US8208026B2 (en) * | 2009-03-02 | 2012-06-26 | Flir Systems, Inc. | Systems and methods for processing infrared images |
CN101701906A (zh) * | 2009-11-13 | 2010-05-05 | 江苏大学 | 基于近红外超光谱成像技术的仓储害虫检测方法和装置 |
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109791699A (zh) * | 2016-07-20 | 2019-05-21 | 以色列国家农业和农村发展农业研究组织沃尔坎尼中心 | 辐射成像 |
CN109791699B (zh) * | 2016-07-20 | 2023-08-15 | 以色列国家农业和农村发展农业研究组织沃尔坎尼中心 | 辐射成像 |
CN106780480A (zh) * | 2017-01-06 | 2017-05-31 | 惠州Tcl移动通信有限公司 | 基于移动终端的自动识别图片异常像素处理方法及系统 |
CN110235434A (zh) * | 2017-02-01 | 2019-09-13 | 索尼半导体解决方案公司 | 摄像系统、摄像装置和控制装置 |
CN110235434B (zh) * | 2017-02-01 | 2022-03-18 | 索尼半导体解决方案公司 | 摄像系统、摄像装置和控制装置 |
CN108388837A (zh) * | 2017-02-03 | 2018-08-10 | 福特全球技术公司 | 一种用于评估自主车辆的内部的系统和方法 |
CN110663061B (zh) * | 2017-03-31 | 2023-09-19 | 奥斯兰姆施尔凡尼亚公司 | 热图像占用者检测 |
CN110663061A (zh) * | 2017-03-31 | 2020-01-07 | 奥斯兰姆施尔凡尼亚公司 | 热图像占用者检测 |
CN108093182A (zh) * | 2018-01-26 | 2018-05-29 | 广东欧珀移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
CN108419045A (zh) * | 2018-02-11 | 2018-08-17 | 浙江大华技术股份有限公司 | 一种基于红外热成像技术的监控方法及装置 |
CN108419045B (zh) * | 2018-02-11 | 2020-08-04 | 浙江大华技术股份有限公司 | 一种基于红外热成像技术的监控方法及装置 |
CN110542482A (zh) * | 2018-05-29 | 2019-12-06 | 杭州海康威视数字技术股份有限公司 | 一种盲元检测方法、装置及电子设备 |
CN110542480A (zh) * | 2018-05-29 | 2019-12-06 | 杭州海康威视数字技术股份有限公司 | 一种盲元检测方法、装置及电子设备 |
CN110542482B (zh) * | 2018-05-29 | 2020-11-13 | 杭州海康微影传感科技有限公司 | 一种盲元检测方法、装置及电子设备 |
CN110542480B (zh) * | 2018-05-29 | 2020-11-13 | 杭州海康微影传感科技有限公司 | 一种盲元检测方法、装置及电子设备 |
CN109900707B (zh) * | 2019-03-20 | 2021-07-02 | 湖南华曙高科技有限责任公司 | 一种铺粉质量检测方法、设备以及可读存储介质 |
CN109900707A (zh) * | 2019-03-20 | 2019-06-18 | 湖南华曙高科技有限责任公司 | 一种铺粉质量检测方法、设备以及可读存储介质 |
WO2021134714A1 (zh) * | 2019-12-31 | 2021-07-08 | 深圳市大疆创新科技有限公司 | 红外图像处理方法、坏点标记方法及相关装置 |
CN111487257A (zh) * | 2020-04-01 | 2020-08-04 | 武汉精立电子技术有限公司 | 一种显示面板异常像素实时检测修复方法及装置 |
CN111783876A (zh) * | 2020-06-30 | 2020-10-16 | 西安全志科技有限公司 | 自适应智能检测电路及图像智能检测方法 |
CN111783876B (zh) * | 2020-06-30 | 2023-10-20 | 西安全志科技有限公司 | 自适应智能检测电路及图像智能检测方法 |
WO2022227328A1 (en) * | 2021-04-30 | 2022-11-03 | Zhejiang Dahua Technology Co., Ltd. | Image processing systems and methods |
CN115578382B (zh) * | 2022-11-23 | 2023-03-07 | 季华实验室 | 图像异常检测方法、装置、设备及计算机可读存储介质 |
CN115578382A (zh) * | 2022-11-23 | 2023-01-06 | 季华实验室 | 图像异常检测方法、装置、设备及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN105191288B (zh) | 2018-10-16 |
WO2014106278A1 (en) | 2014-07-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105191288A (zh) | 异常像素检测 | |
CN104782116B (zh) | 热图像中的行和列降噪 | |
US9756264B2 (en) | Anomalous pixel detection | |
US11445131B2 (en) | Imager with array of multiple infrared imaging modules | |
CN104995910A (zh) | 利用融合的红外图像增强 | |
US9235876B2 (en) | Row and column noise reduction in thermal images | |
US9208542B2 (en) | Pixel-wise noise reduction in thermal images | |
CN205160655U (zh) | 用于交通工具的红外成像系统 | |
CN103748867B (zh) | 低功耗和小形状因子红外成像 | |
US9635285B2 (en) | Infrared imaging enhancement with fusion | |
CN205265783U (zh) | 成像系统 | |
US9451183B2 (en) | Time spaced infrared image enhancement | |
US10232237B2 (en) | Thermal-assisted golf rangefinder systems and methods | |
US20150319379A1 (en) | Infrared detector array with selectable pixel binning systems and methods | |
CN105027557A (zh) | 补偿红外成像装置中校准漂移的技术 | |
CN205080731U (zh) | 用于遥控交通工具的系统 | |
CN105009169B (zh) | 用于抑制图像中的天空区域的系统和方法 | |
CN205157061U (zh) | 红外传感器模块和红外成像设备 | |
CN104981905A (zh) | 成像传感器阵列中的异常时钟频率检测 | |
CN204996085U (zh) | 确定高尔夫球场上距离的设备、系统及旗杆 | |
WO2014105897A1 (en) | Infrared detector array with selectable pixel binning systems and methods |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |