CN112567217A - 与未冷却热成像相机兼容的光学气体成像系统和方法 - Google Patents
与未冷却热成像相机兼容的光学气体成像系统和方法 Download PDFInfo
- Publication number
- CN112567217A CN112567217A CN201980049386.6A CN201980049386A CN112567217A CN 112567217 A CN112567217 A CN 112567217A CN 201980049386 A CN201980049386 A CN 201980049386A CN 112567217 A CN112567217 A CN 112567217A
- Authority
- CN
- China
- Prior art keywords
- image
- gas
- infrared
- image data
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 281
- 238000001931 thermography Methods 0.000 title claims abstract description 149
- 238000003384 imaging method Methods 0.000 title claims abstract description 144
- 230000003287 optical effect Effects 0.000 title claims description 265
- 230000008569 process Effects 0.000 claims abstract description 203
- 230000006641 stabilisation Effects 0.000 claims abstract description 50
- 238000011105 stabilization Methods 0.000 claims abstract description 50
- 238000012937 correction Methods 0.000 claims abstract description 10
- 230000033001 locomotion Effects 0.000 claims description 88
- 238000001914 filtration Methods 0.000 claims description 56
- 230000005855 radiation Effects 0.000 claims description 54
- 238000012545 processing Methods 0.000 claims description 49
- 239000003550 marker Substances 0.000 claims description 34
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000004891 communication Methods 0.000 claims description 11
- 238000003825 pressing Methods 0.000 claims description 5
- 230000000994 depressogenic effect Effects 0.000 claims description 2
- 230000000881 depressing effect Effects 0.000 claims 1
- 239000007789 gas Substances 0.000 description 582
- 230000008859 change Effects 0.000 description 34
- 238000002156 mixing Methods 0.000 description 21
- 238000004458 analytical method Methods 0.000 description 18
- 238000006073 displacement reaction Methods 0.000 description 17
- 238000012935 Averaging Methods 0.000 description 16
- 230000000694 effects Effects 0.000 description 16
- 230000007246 mechanism Effects 0.000 description 16
- 230000004044 response Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 239000013598 vector Substances 0.000 description 14
- 238000001514 detection method Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- VNWKTOKETHGBQD-UHFFFAOYSA-N methane Chemical compound C VNWKTOKETHGBQD-UHFFFAOYSA-N 0.000 description 12
- 238000003331 infrared imaging Methods 0.000 description 11
- 230000002238 attenuated effect Effects 0.000 description 10
- 238000010521 absorption reaction Methods 0.000 description 7
- 239000000203 mixture Substances 0.000 description 7
- 238000003491 array Methods 0.000 description 6
- 238000010438 heat treatment Methods 0.000 description 6
- 239000003086 colorant Substances 0.000 description 5
- 238000007689 inspection Methods 0.000 description 5
- ATUOYWHBWRKTHZ-UHFFFAOYSA-N Propane Chemical compound CCC ATUOYWHBWRKTHZ-UHFFFAOYSA-N 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000009529 body temperature measurement Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000001143 conditioned effect Effects 0.000 description 3
- 230000000977 initiatory effect Effects 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 230000003595 spectral effect Effects 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000012800 visualization Methods 0.000 description 3
- XEEYBQQBJWHFJM-UHFFFAOYSA-N Iron Chemical compound [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000001444 catalytic combustion detection Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000001294 propane Substances 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000005355 Hall effect Effects 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000002329 infrared spectrum Methods 0.000 description 1
- 229910052742 iron Inorganic materials 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000005043 peripheral vision Effects 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 238000005067 remediation Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 238000004513 sizing Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000002076 thermal analysis method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J5/02—Constructional details
- G01J5/07—Arrangements for adjusting the solid angle of collected radiation, e.g. adjusting or orienting field of view, tracking position or encoding angular position
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0286—Constructional arrangements for compensating for fluctuations caused by temperature, humidity or pressure, or using cooling or temperature stabilization of parts of the device; Controlling the atmosphere inside a spectrometer, e.g. vacuum
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/2803—Investigating the spectrum using photoelectric array detector
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J5/02—Constructional details
- G01J5/025—Interfacing a pyrometer to an external device or network; User interface
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J5/02—Constructional details
- G01J5/026—Control of working procedures of a pyrometer, other than calibration; Bandwidth calculation; Gain control
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J5/02—Constructional details
- G01J5/0265—Handheld, portable
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/27—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
- G01N21/274—Calibration, base line adjustment, drift correction
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/31—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
- G01N21/35—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light
- G01N21/3504—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light for analysing gases, e.g. multi-gas analysis
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N25/00—Investigating or analyzing materials by the use of thermal means
- G01N25/72—Investigating presence of flaws
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/57—Control of contrast or brightness
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J2005/0077—Imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N2021/1793—Remote sensing
- G01N2021/1795—Atmospheric mapping of gases
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/31—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
- G01N21/35—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light
- G01N21/3504—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light for analysing gases, e.g. multi-gas analysis
- G01N2021/3531—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light for analysing gases, e.g. multi-gas analysis without instrumental source, i.e. radiometric
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
Abstract
热成像系统可以包括红外相机模块、用户接口、处理器和存储器。存储器可以包括指令,以使得处理器在检测到来自用户接口的致动时执行方法。该方法可以包括执行非均匀性校正,以降低或消除来自红外图像数据的固定模式噪声,该红外图像数据来自红外相机模块。该方法可以包括多次捕获红外图像,以及经由稳定化过程配准所捕获的图像。配准的非均匀性校正图像可以用于执行气体成像过程。处理器可以被配置为将红外图像数据的多个区域中的每一个中的表观背景温度与目标气体温度进行比较。处理器可以确定这样的区域是否缺乏足够的对比度来可靠地观察目标气体。
Description
相关事项
本申请要求2018年5月25日提交的美国临时专利申请号62/676,700的权益。该美国临时专利申请的全部内容通过引用并入本文中。
背景技术
红外成像相机在多种情形中使用。例如,红外成像相机经常在维护检查期间用于热检查装备。除了其他类型的装备之外,示例装备还可以包括旋转机械、电气面板或多排断路器。红外检查可以检测诸如过热的机械或电气部件的装备热点,从而有助于确保在更显著的问题发展之前及时修理或更换过热的装备。
取决于相机的配置,红外成像相机也可以生成相同对象的可见光图像。相机可以以协调的方式显示红外图像和可见光图像,例如,以帮助操作员解释由热成像相机生成的热成像。
可见光和/或红外成像已经应用于气体成像领域,其中用户将检查目标场景中目标气体的存在,例如,执行泄漏检测和补救(LDAR)过程。各种方法包括主动气体成像技术,诸如通过利用一个或多个特定波长的光主动地照射目标场景,或者通过被动气体成像技术。
由于气体云可以在总体红外图像上具有的经常小的改变,因此光学气体成像系统可能难以在现场中有效地使用。这样的改变可能太小,无法在典型的相机操作期间观察到。附加地,在热相机中没有足够高的信噪比的情况下,噪声(例如,由于传感器/电子器件漂移、热波动、部件自加热或其他因素)可能使由于气体所致的图像中的细微改变模糊,从而使得气体识别非常困难。此外,气体云对红外图像的影响将取决于大小(例如,路径厚度)和气体云的密度,此二者贯穿气体云不一定是恒定的。因此,在气体云随时间改变形状时,来自气体云的衰减或增强的程度和形状将在场景内变化。图像中这样的改变可以由相机运动或场景内的运动合成,使得这样的系统难以操作。这些困难可能是有问题的,因为它们中的任何一个都可能引起相机显示可能使场景内的气体模糊的伪像,从而使得用户难以观察。
此外,气体选择性地吸收/发射在特定波长的红外辐射,并且可以在某些条件之下例如通过使用对吸收/发射波长(例如,红外波长)敏感的相机使得通常不可见的气体可见。各种因素有助于例如在光学气体成像期间气体是否将经由红外成像而可见,所述各种因素包括气体与场景背景的表观温度之间的温差。例如在泄漏检测检查期间,该温差经常对光学气体成像相机的实际效果具有显著影响。然而,取决于环境条件和相机操作员对观察位置的选择,表观温差可能变化很大,这经常需要对相机操作员进行高水平的训练,以确保正确的查看位置,并且经常导致操作员与在不同时间取得的气体成像或LDAR调查之间的不一致结果。
用于气体成像的红外相机经常使用低温冷却的传感器阵列、特殊的光谱滤波器和/或其他光学器件来提供光谱分离,以便实现充足的信噪比来在噪声和其他图像杂波之中观察场景中的气体。未冷却红外传感器阵列具有其宽带IR响应,并且鉴于气体的典型窄IR吸收带,经常具有低或不充足的信噪比和/或气体信号相对于背景场景对比度(例如,杂波)在不需要这些特殊的光谱方法的情况下进行有效的光学气体成像。
附加地,未冷却红外传感器阵列经常受制于固定模式的噪声,例如,由于传感器阵列中像素到像素的非均匀性和/或与相机自加热和/或环境温度中的改变相关联的改变的杂散IR,这可以使场景杂乱并且提供假数据和/或使观察场景中气体的能力模糊。
发明内容
本公开的方面涉及热成像系统,其具有红外相机模块、用户接口、显示器、与用户接口、显示器和红外相机模块通信的处理器以及与处理器通信的存储器。处理器可以被配置为经由红外相机模块捕获红外图像。存储器可以包括引起处理器执行各种动作的指令,诸如在检测到来自用户接口的驱动时。
在一些示例中,处理器可以被配置为执行非均匀性校正过程,以降低或消除来自红外图像数据的固定模式噪声,所述红外图像数据来自红外相机模块。处理器可以经由红外相机模块多次捕获红外场景的红外图像。每个捕获的红外图像都可以经受非均匀性校正,并经由图像稳定化过程进行配准。
处理器可以执行光学气体成像过程以生成强调红外场景中的改变的光学气体图像数据,并且生成包括所生成的光学气体图像数据的显示图像以供在显示器上呈现。
在一些情况下,显示图像可以包括指示红外相机模块相对于参考位置的相对运动的漂移指示符。这可以帮助用户维持相机模块静止,以减少捕获的图像数据之间的未对准。在一些示例中,漂移指示符包括指示参考位置的第一标记和指示红外相机模块相对于参考位置的位置的第二标记。
在一些示例中,只要用户接口被致动,就可以重复捕获图像、配准图像、执行光学气体成像过程以及生成显示图像的过程。例如,在一些情况下,用户接口包括可按压的触发器,并且只要触发器被按压,就可以执行和重复这样的步骤,并且当触发器被释放时停止这样的步骤。在一些示例中,在释放触发器时,处理器被配置为执行新的非均匀性校正过程,并且然后执行并重复这样的过程,直到触发器被释放。
在一些方面中,热成像系统可以包括处理器,该处理器被配置为从红外相机模块接收红外图像数据,并确定红外图像数据中的多个区域中的每一个的表观背景温度。在一些示例中,处理器可以接收代表目标气体温度的数据,并且对于所接收的红外图像数据中的多个区域中的每一个,将该区域的表观背景温度与目标气体的温度进行比较,以确定温差值。处理器可以将温差值与同目标气体相关联的最小温差值进行比较,并且如果温差值在最小温差值以下,则认为该区域缺乏足够的对比度来可靠地观察该区域内的目标气体。
一些系统可以包括与处理器通信的空气温度传感器,其中接收代表目标气体温度的数据可以包括从空气温度传感器接收空气温度信息。
在一些示例中,系统可以包括与处理器通信的显示器。在一些这样的实施例中,处理器可以生成光学气体图像数据,该光学气体图像数据包括与捕获的红外图像数据中的多个区域相对应的多个区域。处理器可以进一步被配置为生成包括光学气体图像数据的显示图像数据,显示图像数据具有与光学气体图像数据和红外图像数据中的多个区域相对应的多个区域。处理器可以输出显示图像以供在显示器上呈现。在一些示例中,显示图像中与被认为缺乏足够对比度以可靠地观察该区域内的目标气体的区域相对应的区域以视觉上可区分于被认为不缺乏足够对比度以可靠地观察该区域内的目标气体的区域的方式呈现。
附图说明
图1是示例热成像相机的透视正视图。
图2是图1的示例热成像相机的透视后视图。
图3是图示图1和图2的热成像相机的示例部件的功能框图。
图4A和图4B示出了气体冲击热图像的示意图示。
图5A-5C示意性地示出了红外成像如何可以检测目标场景中气体的存在。
图6是在帧缓冲器中捕获的多个图像帧的示意图示。
图7是图示用于生成和更新滤波的前景和背景以继续更新光学气体图像的示例性过程的过程流程图。
图8是用于生成光学气体图像的过程的示意图示。
图9是图示可以用于生成显示图像的图像数据的组合的示意图。
图10是示出用于执行气体成像操作的用户可选选项的示例性用户接口。
图11示出了用于确定在气体温度与表观背景温度之间的所需差的示例性查找表,以便由于给定的气体类型和气体量而实现特定的最小对比度。
图12是示出用于确定像素是否可以可靠地用于检测给定气体类型和量以及用于显示此类确定的示例性过程的过程流程图。
图13是用于实时生成光学气体图像的过程的示意图示,该光学气体图像包括关于在光学气体图像内的不同位置是否可观察到给定气体类型和气体量的信息。
图14是图示在光学气体成像过程期间适应于相机运动的过程的过程流程图。
图15是图示在光学气体成像过程期间适应于热改变的过程的过程流程图。
图16A和图16B是在光学气体成像过程期间模拟相机运动的示意图示。
图17是示出在使用图像稳定化的光学气体成像过程之前和/或期间执行NUC过程的示例性组合的过程流程图。
图18A和图18B示出了在光学气体成像期间向用户指示相机漂移量的示例性显示接口。
具体实施方式
以下详细描述本质上是示例性的,并且不旨在以任何方式限制本发明的范围、适用性或配置。相反,以下描述提供了用于实现本发明的各种实施例的一些实践说明。为所选元件提供了构造、材料、尺寸和制造过程的示例,并且所有其他元件采用本发明领域的普通技术人员已知的元件。本领域技术人员将认识到,许多所指出的示例具有多种合适的替代方案。
热成像相机可以用于检测跨场景的热模式,其包括被观察的一个或多个对象。热成像相机可以检测场景发出的红外辐射,并将红外辐射转换成指示热模式的红外图像。在一些实施例中,热成像相机还可以从场景捕获可见光,并将可见光转换成可见光图像。取决于热成像相机的配置,相机可以包括将红外辐射聚焦在红外传感器上的红外光学器件和将可见光聚焦在可见光传感器上的可见光光学器件。
各种实施例提供了用于使用取平均技术产生具有降低的噪声的热图像的方法和系统。为了进一步改进图像质量并且消除可能由取平均引起的问题(例如,模糊、重影等),在取平均之前,对热图像执行图像对准过程。
图1和图2分别示出了示例热成像相机100的前透视图和后透视图,其包括外壳102、红外透镜组装件104、可见光透镜组装件106、显示器108、激光器110和触发控制部112。外壳102容纳热成像相机100的各种部件。热成像相机100的底部包括用于经由一只手握持和操作相机的提手118。红外透镜组装件104接收来自场景的红外辐射,并将该辐射聚焦在红外传感器上,以生成场景的红外图像。可见光透镜组装件106接收来自场景的可见光,并将该可见光聚焦在可见光传感器上,以生成相同场景的可见光图像。热成像相机100响应于按压触发控制部112来捕获可见光图像和/或红外图像。此外,热成像相机100控制显示器108显示由相机生成的红外图像和可见光图像,以例如帮助操作员对场景进行热检查。热成像相机100还可以包括耦合到红外透镜组装件104的聚焦机构,该聚焦机构被配置为移动红外透镜组装件的至少一个透镜,以便调整热成像相机生成的红外图像的焦点。附加地或替代地,聚焦机构可以相对于红外透镜组装件的一个或多个透镜移动FPA。
在操作中,热成像相机100通过接收从场景发射的红外波长光谱中的能量并处理红外能量以生成热图像来检测场景中的热模式。热成像相机100还可以通过接收可见光波长光谱中的能量并处理可见光能量以生成可见光图像来生成相同场景的可见光图像。如下文更详细描述的,热成像相机100可以包括被配置为捕获场景的红外图像的红外相机模块和被配置为捕获相同场景的可见光图像的可见光相机模块。红外相机模块可以接收通过红外透镜组装件104投射的红外辐射,并由此生成红外图像数据。可见光相机模块可以接收通过可见光透镜组装件106投射的光,并由此生成可见光数据。
在一些示例中,热成像相机100基本上同时(例如,在相同的时间)收集或捕获红外能量和可见光能量,使得由相机生成的可见光图像和红外图像基本上在相同的时间属于相同场景。在这些示例中,由热成像相机100生成的红外图像指示在特定时间段场景内的局部化温度,而由相机生成的可见光图像指示在相同时间段的相同场景。在其他示例中,热成像相机可以在不同的时间段从场景捕获红外能量和可见光能量。
可见光透镜组装件106包括将可见光能量聚焦在可见光传感器上以生成可见光图像的至少一个透镜。可见光透镜组装件106限定了穿过该组装件的至少一个透镜的曲率中心的可见光光轴。可见光能量通过透镜的前部投射,并且聚焦在透镜的相对侧上。可见光透镜组装件106可以包括串联布置的单个透镜或多个透镜(例如,两个、三个或更多个透镜)。此外,可见光透镜组装件106可以具有固定焦点,或者可以包括用于改变可见光光学器件的焦点的焦点调整机构。在其中可见光透镜组装件106包括焦点调整机构的示例中,焦点调整机构可以是手动调整机构或自动调整机构。
红外透镜组装件104还包括至少一个透镜,该至少一个透镜将红外能量聚焦在红外传感器上,以生成热成像。红外透镜组装件104限定了穿过该组装件的透镜曲率中心的红外光轴。在操作期间,红外能量被引导通过透镜的前部并聚焦在透镜的相对侧上。红外透镜组装件104可以包括可以串联布置的单个透镜或多个透镜(例如,两个、三个或更多个透镜)。在一些示例中,红外透镜组装件104可以包括具有衍射或反射特性或元件的透镜。诸如反射镜(例如,菲涅尔反射镜)等之类的附加光学部件可以包括在红外透镜组装件104内或以其他方式接近红外透镜组装件104。
如以上简要描述的,热成像相机100包括聚焦机构,用于调整由相机捕获的红外图像的焦点。在图1和图2中所示的示例中,热成像相机100包括聚焦环114。聚焦环114可操作地耦合(例如,机械和/或电耦合)到红外透镜组装件104的至少一个透镜,并被配置为将FPA和至少一个透镜中的一个或两个移动到各种聚焦位置,以便聚焦由热成像相机100捕获的红外图像。聚焦环114可以围绕外壳102的至少一部分手动旋转,以便移动聚焦环可操作地耦合到的至少一个透镜。在一些示例中,聚焦环114也可操作地耦合到显示器108,使得聚焦环114的旋转引起同时显示在显示器108上的可见光图像的至少一部分和红外图像的至少一部分相对于彼此移动。在不同的示例中,热成像相机100可以包括以除聚焦环114之外的配置实现的手动焦点调整机构,或者在其他实施例中,可以简单地维持固定焦点。
在一些示例中,除了手动调整聚焦机构之外或代替手动调整聚焦机构,热成像相机100可以包括自动调整聚焦机构。自动调整聚焦机构可以可操作地耦合到红外透镜组装件104的至少一个透镜,并被配置为例如响应于来自热成像相机100的指令自动将至少一个透镜移动到各种聚焦位置。在这样的示例的一个应用中,热成像相机100可以使用激光器110来电子测量相机与目标场景中的对象之间的距离,其被称为到目标的距离。热成像相机100然后可以控制自动调整聚焦机构以将红外透镜组装件104的至少一个透镜移动到与热成像相机100确定的到目标的距离数据相对应的聚焦位置。聚焦位置可以对应于到目标的距离数据,因为聚焦位置可以被配置为将目标场景中的对象放置在焦点中的确定距离处。在一些示例中,由自动调整聚焦机构设置的聚焦位置可以由操作员例如通过旋转聚焦环114来手动覆盖。
在热成像相机100的操作期间,操作员可能希望查看由相机生成的场景的热图像和/或相同场景的可见光图像。出于该原因,热成像相机100可以包括显示器。在图1和图2的示例中,热成像相机100包括显示器108,该显示器108位于外壳102的背面,与红外透镜组装件104和可见光透镜组装件106相对。显示器108可以被配置为显示可见光图像、红外图像和/或包括可见光图像和红外图像的同时显示的组合图像。在不同的示例中,显示器108可以是在热成像相机100的红外透镜组装件104和可见光透镜组装件106的远程(例如,与热成像相机100的红外透镜组装件104和可见光透镜组装件106分离),或者显示器108可以相对于红外透镜组装件104和/或可见光透镜组装件106处于不同的空间布置中。因此,尽管显示器108在图2中示出在红外透镜组装件104和可见光透镜组装件106后面,但显示器108的其他位置也是可能的。
热成像相机100可以包括多种用户输入介质,用于控制相机的操作和调整相机的不同设置。示例控制功能可以包括调整红外和/或可见光光学器件的焦点、打开/关闭快门、捕获红外和/或可见光图像等。在图1和图2的示例中,热成像相机100包括用于捕获红外和可见光图像的可按压触发控制部112,以及形成用户接口的部分的用于控制相机操作的其他方面的按钮116。不同数量或布置的用户输入介质是可能的,并且应当领会,本公开不限于此方面。例如,热成像相机100可以包括触摸屏显示器108,其通过按压屏幕的不同部分来接收用户输入。
图3是图示热成像相机100的示例的部件的功能框图。热成像相机100包括IR相机模块200、前端电路202。IR相机模块200和前端电路202有时组合地被称为红外相机100的前端级或前端部件204。热成像相机100还可以包括可见光相机模块206、显示器108、用户接口208和输出/控制设备210。
红外相机模块200可以被配置为接收由目标场景发射的红外能量,并将该红外能量聚焦在红外传感器上,以生成红外能量数据,例如,该红外能量数据可以以红外图像的形式显示在显示器108上和/或存储在存储器中。红外相机模块200可以包括任何合适的部件,用于执行在本文中归于该模块的功能。在图3的示例中,红外相机模块200被图示为包括红外透镜组装件104和红外传感器220。如以上参考图1和图2所述,红外透镜组装件104包括至少一个透镜,该至少一个透镜取得由目标场景发射的红外能量并将该红外能量聚焦在红外传感器220上。红外传感器220通过生成电信号来响应聚焦的红外能量,该电信号可以被转换为红外图像并且在显示器108上显示为红外图像。
红外传感器220可以包括一个或多个焦平面阵列(FPA),其响应于通过红外透镜组装件104接收的红外能量来生成电信号。每个FPA可以包括多个红外传感器元件,包括例如测辐射热计、光子检测器或其他合适的红外传感器元件。在操作中,每个传感器元件(每个可以被称为传感器像素)可以响应于吸收从目标场景接收的红外能量而改变电特性(例如,电压或电阻)。反过来,电特性的改变可以提供电信号,该电信号可以被处理器222接收并被处理成显示在显示器108上的红外图像。
例如,在其中红外传感器220包括多个测辐射热计的示例中,每个测辐射热计可以吸收通过红外透镜组装件104聚焦的红外能量,并响应于吸收的能量而增加温度。每个测辐射热计的电阻可以随着测辐射热计的温度改变而改变。利用作为传感器像素的每个检测器元件,可以通过将每个检测器元件的电阻改变转化成时分复用电信号来进一步生成红外辐射的二维图像或图片表示,该时分复用电信号可以被处理用于显示器上的可视化或存储在(例如,计算机的)存储器中。处理器222可以通过向每个测辐射热计施加电流(或电压)来测量每个测辐射热计的电阻改变,并且测量跨测辐射热计两端的所得电压(或电流)。基于这些数据,处理器222可以确定由目标场景的不同部分发射的红外能量的量,并控制显示器108显示目标场景的热图像。
独立于包括在红外传感器220的FPA中的具体类型的红外传感器元件,FPA阵列可以定义任何合适的大小和形状。在一些示例中,红外传感器220包括以网格模式布置的多个红外传感器元件,诸如例如,以垂直列和水平行布置的传感器元件阵列。在各种示例中,红外传感器220可以包括垂直列×水平行的阵列,例如,16 x 16、50 x 50、160 x 120、120 x160或650 x 480。在其他示例中,红外传感器220可以包括更小数量的垂直列和水平行(例如,1×1)、更大数量的垂直列和水平行(例如,1000×1000)或者不同的列与行的比率。
在某些实施例中,读出集成电路(ROIC)并入在IR传感器220上。ROIC用于输出与每个传感器像素相对应的信号。这样的ROIC通常被制造为在硅基板上的集成电路。多个检测器元件可以制造在ROIC顶上,其中它们的组合提供了IR传感器220。在一些实施例中,ROIC可以包括直接并入到FPA电路上的在本公开中的其他地方讨论的部件(例如,模数转换器(ADC))。ROIC的这样的集成、或者没有明确讨论的其他另外的集成级别应当被认为在本公开的范围内。
如上所述,IR传感器220生成与由每个红外检测器元件接收的红外辐射相对应的一系列电信号,以表示热图像。当通过扫描构成IR传感器220的所有行来获得来自每个红外检测器元件的电压信号时,生成热图像数据的“帧”。同样,在涉及测辐射热计作为红外检测器元件的某些实施例中,这样的扫描是通过将对应的检测器元件切换到系统电路中并且跨这样的接通元件之上施加偏置电压来完成的。通过重复扫描IR传感器220的行来生成连续的热图像数据帧,其中以足以生成热图像数据的视频表示的速率(例如,30 Hz或60 Hz)来产生这样的帧。
前端电路202包括用于与IR相机模块200对接并控制IR相机模块200的电路。此外,前端电路202最初处理收集的红外图像数据并且经由它们之间的连接将其传输到处理器222。更具体地,由IR传感器220生成的信号最初由热成像相机100的前端电路202调节。在某些实施例中,如所示出的,前端电路202包括偏置生成器224和前置放大器/积分器226。除了提供检测器偏置之外,偏置生成器224可以可选地从为每个接通的检测器元件生成的总电流中添加或减去平均偏置电流。可以改变平均偏置电流,以便(i)补偿由热成像相机100内部的环境温度改变导致的检测器元件的整个电阻阵列的偏差,以及(ii)补偿IR传感器220的平均检测器元件中的阵列到阵列的变化。这样的偏置补偿可以由热成像相机100或软件自动控制,或者可以由用户经由输入到输出/控制设备210或处理器222来控制。在提供检测器偏置和可选的平均偏置电流的减法或加法之后,信号可以通过前置放大器/积分器226。典型地,前置放大器/积分器226用于调节传入信号,例如在传入信号的数字化之前调节传入信号。因此,可以将传入信号调整到能够更有效地解释信号的形式,并且进而可以导致所创建图像的更有效的分辨率。随后,经调节的信号被向下游发送到热成像相机100的处理器222中。
在一些实施例中,前端电路202可以包括一个或多个附加元件,例如附加传感器228或ADC 230。附加传感器228可以包括例如温度传感器、可见光传感器(诸如CCD)、压力传感器、磁传感器等。此类传感器可以提供附加的校准和检测信息,以增强热成像相机100的功能。例如,温度传感器可以在IR传感器220附近提供环境温度读数,以帮助辐射测量计算。诸如霍尔效应传感器的磁传感器可以与安装在透镜上的磁体组合使用,以提供透镜聚焦位置信息。此类信息对于计算距离或确定视差偏移可以是有用的,该视差偏移与从可见光传感器收集的可见光场景数据一起使用。
ADC 230可以提供与下面讨论的相同的功能,并以与下面讨论的基本上相同的方式操作,然而,其包含在前端电路202中可以提供某些益处,例如,在经由场景和其他传感器信息之间的连接传输到处理器222之前,对场景和其他传感器信息进行数字化。在一些实施例中,如以上讨论的,ADC 230可以集成到ROIC中,从而消除对于单独安装和装入的ADC 230的需要。
在一些实施例中,前端部件可以进一步包括快门(shutter)240。快门240可以相对于透镜位于外部或内部,并且操作以打开或关闭由IR透镜组装件104提供的视图。如本领域中已知的,快门240可以是机械可定位的,或者可以由诸如DC马达或螺线管之类的机电设备来致动。本发明的实施例可以包括校准或设置软件实现的方法或设置,其利用快门240来为每个检测器元件建立适当的偏置水平。
包括处理器222的被描述为热成像相机100内的处理器的部件可以被实现为一个或多个处理器,诸如或者单独或者以任何合适的组合的一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、可编程逻辑电路等。处理器222还可以包括存储程序指令和相关数据的存储器,程序指令和相关数据当被处理器222执行时,引起热成像相机100和处理器222执行本公开中归于它们的功能。存储器可以包括任何固定或可移动的磁、光或电介质,诸如RAM、ROM、CD-ROM、硬磁盘或软磁盘、EEPROM等。存储器还可以包括可移动存储器部分,其可以用于提供存储器更新或增加存储器容量。可移除存储器还可以允许图像数据被容易地传送到另一计算设备,或者在热成像相机100被用在另一应用中之前被移除。处理器222也可以被实现为片上系统,其将计算机或其他电子系统的一些或所有部件集成到单个芯片中。这些元件操纵从前端级204递送的经调节的场景图像数据,以便提供可以显示或存储以供用户使用的输出场景数据。随后,处理器222(处理电路)将经处理的数据发送到显示器108或其他输出/控制设备210。
在热成像相机100的操作期间,处理器222可以控制红外相机模块200生成用于创建红外图像的红外图像数据。处理器222可以生成红外图像数据的数字“帧”。通过生成红外图像数据的帧,处理器222基本上在给定的时间点捕获目标场景的红外图像。也就是说,在一些示例中,可以同时捕获组成红外图像的多个像素。在其他实施例中,一个或多个像素的集合可以被连续捕获,直到每个像素都已经被捕获。
处理器222可以通过单次测量红外传感器220的FPA中包括的每个红外传感器元件的电信号来捕获目标场景的单个红外图像或“快照”。替代地,处理器222可以通过重复测量包括在红外传感器220的FPA中的每个红外传感器元件的电信号来捕获目标场景的多个红外图像。在其中处理器222重复测量包括在红外传感器220的FPA中的每个红外传感器元件的电信号的示例中,处理器222可以生成目标场景的动态热图像(例如,视频表示)。例如,处理器222可以以足以生成热图像数据的视频表示的速率测量包括在FPA中的每个红外传感器元件的电信号,所述速率诸如例如是30 Hz或60 Hz。处理器222可以在捕获红外图像中执行其他操作,诸如顺序地致动快门240以打开和关闭红外透镜组装件104的光圈等。
利用作为传感器像素的红外传感器220的每个传感器元件,处理器222可以通过将每个传感器元件的电特性(例如电阻)的改变转化成可以被处理的时分复用电信号,来生成来自目标场景的红外辐射的二维图像或图片表示,例如用于显示器108上的可视化和/或存储在存储器中。红外图像当显示在显示器108上时,可以包括多个显示像素。显示像素可以与对应的传感器像素具有任何定义的关系。在一些示例中,每个传感器像素对应于红外数据的图像表示中的显示像素。在其他示例中,多个传感器像素可以被组合(例如,取平均)以提供单个显示像素的红外信息。在仍其他示例中,单个传感器像素可以对多个显示像素做出贡献。例如,诸如在简单的上采样程序中,来自单个传感器像素的值可以在附近的像素处被复制。在其他示例中,诸如在插值程序中,可以对相邻或其他附近的像素取平均以创建新的像素值。因为显示像素与传感器像素之间的关系是相对于相机操作来定义的,所以除非另有说明,否则通用术语“像素”可以指代传感器像素、显示像素或从传感器像素到显示像素被处理的数据。处理器222可以执行计算以将原始红外图像数据转换成场景温度(辐射测量),该场景温度(辐射测量)在一些示例中包括对应于场景温度的颜色。
处理器222可以控制显示器108显示捕获的目标场景的红外图像的至少一部分。在一些示例中,处理器222控制显示器108,使得红外传感器220的每个传感器元件的电响应与显示器108上的单个像素相关联。在其他示例中,处理器222可以增加或减小红外图像的分辨率,使得存在比红外传感器220中存在的传感器元件更多或更少的在显示器108上显示的像素。处理器222可以控制显示器108显示整个红外图像(例如,热成像相机100捕获的目标场景的所有部分)或少于整个红外图像(例如,热成像相机100捕获的整个目标场景的较小部分)。处理器222可以执行其他图像处理功能,如下面更详细描述的。
独立于特定电路,热成像相机100可以被配置为操纵表示目标场景的数据,以便提供可以被用户显示、存储、传输或以其他方式利用的输出。
热成像相机100包括可见光相机模块206。可见光照相机模块通常是公知的。例如,各种可见光相机模块包括在智能电话和许多其他设备中。在一些实施例中,可见光相机模块206可以被配置为从目标场景接收可见光能量,并将该可见光能量聚焦在可见光传感器上,以生成可见光能量数据,例如,该可见光能量数据可以以可见光图像的形式显示在显示器108上和/或存储在存储器中。可见光相机模块206可以包括任何合适的部件,用于执行在本文中归于该模块的功能。在图3的示例中,可见光相机模块206被图示为包括可见光透镜组装件106和可见光传感器242。如以上参考图1和图2所述,可见光透镜组装件106包括至少一个透镜,该至少一个透镜取得由目标场景发射的可见光能量并将该可见光能量聚焦在可见光传感器242上。可见光传感器242通过生成电信号来响应聚焦的能量,该电信号可以被转换为可见光图像并且在显示器108上显示为可见光图像。在一些示例中,可见光模块206可由用户配置,并且可以以多种格式向例如显示器108提供输出。可见光相机模块206可以包括用于改变照明或其他操作条件或用户偏好的补偿功能。可见光相机模块可以提供包括图像数据的数字输出,该图像数据可以包括多种格式的数据(例如,RGB、CYMK、YCbCr等)。
可见光传感器242可以包括多个可见光传感器元件,诸如例如,CMOS 检测器、CCD检测器、PIN二极管、雪崩光电二极管等。可见光传感器元件的数量可以与红外光传感器元件的数量相同或不同。
在操作中,从目标场景接收的光能可以穿过可见光透镜组装件106并聚焦在可见光传感器242上。当光能撞击到可见光传感器242的可见光传感器元件上时,光电检测器内的光子可以被释放并转换成检测电流。处理器222可以处理该检测电流以形成目标场景的可见光图像。
在热成像相机100的使用期间,处理器222可以控制可见光相机模块206从捕获的目标场景生成可见光数据,用于创建可见光图像。可见光数据可以包括指示与所捕获的目标场景的不同部分相关联的(一个或多个)颜色和/或与所捕获的目标场景的不同部分相关联的光量值的光度数据。处理器222可以通过单次测量热成像相机100的每个可见光传感器元件的响应来生成可见光图像数据的“帧”。通过生成可见光数据的帧,处理器222在给定时间点捕获目标场景的可见光图像。处理器222还可以重复测量热成像相机100的每个可见光传感器元件的响应,以便生成目标场景的动态热图像(例如,视频表示),如以上关于红外相机模块200所述。在一些示例中,可见光相机模块206可以包括能够操作可见光相机模块206的其自己的专用处理器或其他电路(例如,ASIC)。在一些这样的实施例中,专用处理器与处理器222通信,以将可见光图像数据(例如,RGB图像数据)提供到处理器222。在替代实施例中,用于可见光相机模块206的专用处理器可以集成到处理器222中。
在可见光相机模块206的每个传感器元件用作传感器像素的情况下,处理器222可以通过将每个传感器元件的电响应转化成可以被处理的时分复用电信号来生成来自目标场景的可见光的二维图像或图片表示,例如用于显示器108上的可视化和/或存储在存储器中。
处理器222可以控制显示器108显示捕获的目标场景的可见光图像的至少一部分。在一些示例中,处理器222控制显示器108,使得可见光相机模块206的每个传感器元件的电响应与显示器108上的单个像素相关联。在其他示例中,处理器222可以增加或减小可见光图像的分辨率,使得存在比可见光相机模块206中存在的传感器元件更多或更少的在显示器108上显示的像素。处理器222可以控制显示器108显示整个可见光图像(例如,热成像相机100捕获的目标场景的所有部分)或小于整个可见光图像(例如,热成像相机100捕获的整个目标场景的较小部分)。
在一些实施例中,用于获取IR和VL图像数据的红外200和可见光206相机模块中的一个或两个可以包括在图像采集模块280中。图像采集模块可以与包括诸如222的处理器的处理模块290进行有线或无线通信。处理模块290可以从图像采集模块280接收图像数据,并且执行如将在本文中描述的后续处理步骤。在一些示例中,处理模块290可以包括便携式处理设备,便携式处理设备诸如是智能电话、平板计算机、诸如膝上型或台式PC的独立计算机等。在一些这样的实施例中,前端电路202的各种部件可以包括在图像采集模块280、处理模块290或二者中。
在这些和其他示例中,处理器222可以控制显示器108同时显示由热成像相机100捕获的可见光图像的至少一部分和由热成像相机100捕获的红外图像的至少一部分。这样的同时显示可能是有用的,因为操作员可以参考可见光图像中显示的特征来帮助理解同时显示在红外图像中的特征,因为操作员可以比红外图像更容易识别和区分可见光图像中的不同现实世界特征。在各种示例中,处理器222可以控制显示器108以并排布置、画中画布置(其中一个图像围绕另一个图像)、或者其中同时显示可见光和红外图像的任何其他合适的布置来显示可见光图像和红外图像。
例如,处理器222可以控制显示器108以组合布置显示可见光图像和红外图像。在这样的布置中,对于可见光图像中表示目标场景的一部分的一个像素或像素集合,在红外图像中存在对应的该像素或像素集合,其表示目标场景的基本上相同的部分。在各种实施例中,IR和VL图像的大小和/或分辨率不必相同。因此,在IR或VL图像中的一个图像中可能存在与IR或VL图像中的另一个图像中的单个像素相对应的像素集合,或者不同大小的像素集合。类似地,在VL或IR图像中的一个图像中可能存在与该另一个图像中的像素集合相对应的像素。因此,如本文中所使用的,对应不需要一对一的像素关系,而是可以包括不匹配的像素或像素组的大小。可以执行图像的大小不匹配的区域的各种组合技术,诸如对图像之一进行上采样或下采样,或者将像素与对应像素集合的平均值进行组合。其他示例是已知的,并且在本公开的范围内。
因此,对应的像素不需要具有直接的一对一关系。相反,在一些实施例中,单个红外像素具有多个对应的可见光像素,或者可见光像素具有多个对应的红外像素。附加地或替代地,在一些实施例中,并非所有可见光像素都具有对应的红外像素,或者反之亦然。这样的实施例可以指示例如如先前所讨论的画中画类型的显示器。因此,可见光像素在可见光图像内不一定与对应的红外像素具有相同的像素坐标。因此,如本文中所使用的,对应的像素通常指代来自任何图像(例如,可见光图像、红外图像、组合图像、显示图像等)的像素,其包括来自目标场景的基本上相同部分的信息。这样的像素不需要在图像之间具有一对一的关系,并且不需要在它们相应的图像内具有相似的坐标位置。
类似地,具有对应像素(即,表示目标场景的相同部分的像素)的图像可以被称为对应图像。因此,在一些这样的布置中,对应的可见光图像和红外图像可以在对应的像素处叠加在彼此顶部。操作员可以与用户界面208交互,以控制显示器108上显示的一个或两个图像的透明度或不透明度。例如,操作员可以与用户界面208交互,以在完全透明和完全不透明之间调整红外图像,并且还在完全透明和完全不透明之间调整可见光图像。可以称为阿尔法混合布置的这样的示例性组合布置可以允许操作员调整显示器108来显示纯红外图像、纯可见光图像、或者在纯红外图像和纯可见光图像的极端之间的两个图像的任何重叠组合。处理器222还可以将场景信息与诸如辐射测量数据、警报数据等之类的其他数据相组合。一般而言,可见光和红外图像的阿尔法混合组合可以包括从百分之100红外和百分之0可见光到百分之0红外和百分之100可见光的任何地方。在一些实施例中,混合的量可以由相机的用户来调整。因此,在一些实施例中,混合图像可以在百分之100可见光和百分之100红外之间调整。
附加地,在一些实施例中,处理器222可以解释和执行来自用户界面208和/或输出/控制设备210的命令。这可以牵涉到处理各种输入信号,并经由它们之间的连接将那些信号传送到前端电路202。前端电路202附近的部件(例如,马达或螺线管)可以被致动以实现期望的控制功能。示例性控制功能可以包括调整焦点、打开/关闭快门、触发传感器读数、调整偏置值等。此外,输入信号可以用于更改发生在处理器222中的图像数据的处理。
处理器可以进一步包括其他部件,以帮助红外成像相机100的处理和控制。例如,如以上讨论的,在一些实施例中,ADC可以并入处理器222中。在这样的情况下,由前端级204调节的模拟信号直到到达处理器222才被数字化。此外,一些实施例可以包括附加的机载存储器,用于在传输到显示器108或输出/控制设备210之前存储处理命令信息和场景数据。
操作员可以经由用户接口208与热成像相机100交互,该用户接口208可以包括按钮、按键或用于接收来自用户的输入的另一种机制。操作员可以经由显示器108从热成像相机100接收输出。显示器108可以被配置为以任何可接受的调色板或配色方案显示红外图像和/或可见光图像,并且调色板可以例如响应于用户控制而变化。在一些示例中,显示器108被配置为以单色调色板(诸如灰度)显示红外图像。在其他示例中,显示器108被配置为以颜色调色板显示红外图像,所述颜色调色板诸如例如是琥珀色、铁弓色、蓝红色或其他高对比度配色方案。也设想灰度和颜色调色板显示的组合。在一些示例中,被配置为显示这样的信息的显示器可以包括用于生成和呈现这样的图像数据的处理能力。在其他示例中,被配置为显示这样的信息可以包括从其他部件(诸如处理器222)接收图像数据的能力。例如,处理器222可以对于将被显示的每个像素生成值(例如,RGB值、灰度值或其他显示选项)。显示器108可以接收这样的信息,并将每个像素映射到视觉显示器中。
虽然处理器222可以控制显示器108以任何合适的布置同时显示红外图像的至少一部分和可见光图像的至少一部分,但是画中画布置可以帮助操作员通过相邻对准地显示相同场景的对应可见图像来容易地聚焦和/或解释热图像。
电源(未示出)向热成像相机100的各种部件递送操作功率,并且在一些示例中可以包括可充电或不可充电电池和发电电路。
在热成像相机100的操作期间,处理器222借助于与存储在存储器中的程序信息相关联的指令来控制红外相机模块200和可见光相机模块206,以生成目标场景的可见光图像和红外图像。处理器222进一步控制显示器108显示由热成像相机100生成的可见光图像和/或红外图像。
在一些情况下,热成像相机可以用于检测场景中红外吸收气体的存在。图4A和图4B示出了气体冲击热图像的示意图示。图4A示出了气体云460和红外辐射源462。射束464a-464d表示来自源462的红外辐射,其光波长基本上不被气体云460中的气体吸收。图4B类似地示出了气体云460和红外辐射源462。射束466a-466d表示来自源462的红外辐射,其光波长被气体云460中的气体吸收。如图4B的说明性示例中所示,使用虚线,在穿过气体云460之后,射束466b和466c被气体吸收而衰减,而没有穿过气体云460的射束466a和466d不受影响。将领会,虽然被描述为辐射被气体云(例如,460)“衰减”,但是在一些情况下,气体云可以增强特定波长的辐射。例如,在其中气体处于比背景场景更高的温度的环境中,气体可以相对于背景场景添加(增强)一个或多个波长的辐射,而不是衰减这样的波长。
图5A-5C示意性地示出了红外成像如何可以检测目标场景中气体的存在。图5A示出了以特定波长发射并具有均匀幅度A的红外辐射源572。红外辐射的射束574a、574b、574d和574e不穿过气体云570a,而射束574c穿过气体云570a。在图示的示例中,气体云570a使波长衰减至1/5。因此,在平面578处,由源572发射的在区域580和584处接收的辐射量仍然将具有幅度A,而在区域582处接收的辐射量将具有幅度A/2,因为辐射被气体云570a衰减。在平面578处拍摄的红外图像将包括具有幅度A的区域(580,584)和具有幅度A/2的其他区域(582)。
图5B类似地示出了以特定波长发射并具有均匀幅度A的红外辐射源572,然而图5B中的气体云570b比图5A中的大(例如,由于气体膨胀)。在这种情况下,红外辐射的射束574a和574e不穿过气体云570b,而射束574b-574d穿过气体云570b。由于气体云570b使来自源572的波长衰减至1/2,因此在区域586和591处接收的辐射量仍然将具有幅度A,而在区域588处接收的辐射量将具有幅度A/2。在平面578处拍摄的红外图像Y将包括具有幅度A的区域(586,590)和具有幅度A/2的其他区域(588)。
如果源572仅发射由气体云(570a,570b)以均匀幅度A衰减的波长,则图像X(图5A)或Y(图5B)将示出气体云的存在,这是由于在平面578处接收到的辐射的差异。例如,图5C示出了图像X,该图像X拥有具有幅度A的区域和被具有幅度A/2的气体云570a衰减的区域。类似地,图像Y包括具有幅度A的区域和被具有幅度A/2的气体云570b衰减的区域。然而,如果源572发射附加的红外辐射,诸如典型的黑体,则图像数据内的单个波长或窄波段的衰减(或增强)将不一定仅在图像X或Y中明显。也就是说,(一个或多个)辐射波长的衰减或增强将不一定在图像中产生显著量的对比度,这是因为,由于气体所致的小波段的衰减或增强与图像中的总体辐射幅度相比可能小。因此,在一般的气体成像过程中,由于辐射的衰减或增强,气体云通常可以影响从目标场景接收的波长或波长带的辐射。
然而,通过从一个图像减去另一个图像而取得的差异图像X-Y将消除未被气体云(570a,570b)衰减的任何恒定背景数据。在这样的图像中,在一个图像(Y)中被气体云衰减但在另一个图像(X)中没有衰减的区域将在差异图像X-Y中表现为非零区域(在这种情况下,A/2),从而至少指示场景中气体的存在。因此,在一些情况下,这样的差异图像可以包括光学气体图像,该光学气体图像可以用于标识气体云的当前状态。也就是说,在一些情况下,可以通过确定示出当前气体效果的当前场景(“前景”图像)与示出反映气体先前效果的图像数据的历史场景(“背景”图像)之间的差异来生成光学气体图像。利用静止相机,场景中的固定部件(例如,非气体)很可能在前景图像和背景中基本上相同,但是气体云将很可能已经演化和/或移动。因此,使用前景图像与背景图像之间的差异生成的光学气体图像将包括其中气体对接收到的辐射的影响(例如,衰减或增强)在图像之间已经改变、但是来自固定分量的贡献将不存在的区域,因为这样的贡献在前景和背景图像二者中存在。
将领会,参照图5A-5C描述的示例是简化的示例,其图示了使用气体相对于至少一个红外波长的吸收特性的气体成像的概念。然而,在各种示例中,气体云对接收到的辐射的影响将取决于大小(例如,路径厚度)和气体云的密度,二者贯穿气体云都不一定是恒定的。因此,在气体云随时间改变形状时,来自气体云的衰减或增强的程度和形状可以在场景内变化。
实现气体检测图像的一种常见方式是通常执行图5C中图示的步骤,其中从较早时间拍摄的图像(背景图像)中减去一次拍摄的图像(前景图像)。图像中的差异将表示目标场景中的任何改变,并且由于气体云不断改变,因此气体云表现在图像中。可以执行该图像减法的一种方式是通过从场景缓冲器内减去两个图像,例如从缓冲器中最近获取的图像中减去缓冲器中最早的图像。将领会,相对于源572的幅度A的发射和衰减的相对量是任意的,并且出于易于解释而被使用。通常,由于气体存在所致的红外辐射的衰减和/或发射的量与从背景(例如,源572)发射的红外辐射的量值相比将是非常小的,使得通常难以使用标准成像技术对气体进行成像,例如,诸如通过执行如通常在图5C中所示的减法过程,在不执行附加处理的情况下查看红外图像数据。
图6是在帧缓冲器中捕获的多个图像帧的示意图示。如所示出的,帧缓冲器600中存在120个图像(帧1-帧120)。在示例性实施例中,图6中的120个图像可以表示以60 Hz的帧率获取的两秒缓冲器中的120帧。在这样的示例中,帧120在帧1之后近似两秒拍摄。因此,从帧120(更近的“前景”图像)中减去帧1(历史的“背景”图像)将产生光学气体图像,该光学气体图像示出在近似两秒的时间帧之内场景中的改变,这可以示出在目标场景内存在演变的气体云。每当缓冲器600中的帧被替换时(例如,利用帧121来替换帧1),就可以比较第一帧和最后一帧(现在的帧2和帧121)以生成新的光学气体图像。因此,光学气体图像可以以与获取图像相同的帧率来被更新。
如所描述的,气体云对到达热相机中成像平面的场景的红外辐射的效果取决于若干个特征,诸如气体的量和密度。附加地,典型的目标场景将发射宽范围的红外波长,所述红外波长中的一些将被气体吸收或发射到比其红外波长他更大的程度,并且由于气体而对接收到的辐射的影响可能非常小。结果,由于气体云中的存在或改变所致的图像中的改变可能在热相机的噪声阈值以下。也就是说,在热相机中没有足够高的信噪比的情况下,噪声(例如,由于传感器/电子器件漂移、热波动、元件自加热或其他因素)可能掩盖由于气体所致的图像中的细微改变,使得气体识别不可能或不实际。
因此,降低用于观察和/或检测气体的红外图像中的噪声可以增加从热场景中的噪声中分辨气体的能力。降低场景中噪声的一些方式包括诸如在低温冷却的红外相机中使用高灵敏度的相机传感器或FPA。然而,这样的装备可以是成本高的,并且使用困难或不方便。例如,这样的装备可能体积庞大,难以携带和/或操纵,可能需要延长的操作时间(例如,冷却下来的时间)等。
改进在建立气体图像中使用的图像数据的信噪比的其他技术包括生成图像数据的平均以降低前景和/或背景图像中存在的噪声。例如,在示例性实施例中,参考图6,图像1-5可以被一起取平均以创建滤波的背景图像,而图像116-120可以被取平均以创建滤波的前景图像。这通常将前景和背景图像中的噪声降低至1/(平均帧数的平方根)。在经滤波的前景图像与经滤波的背景图像之间的差异将表示场景中的改变(例如,在气体云的大小、密度等方面)具有降低的噪声,使得由于降低的噪声可以观察到场景中更小的改变。
一般而言,可以采用多种取平均和/或滤波技术中的任何一种来降低用于创建光学气体图像的前景和背景图像中的噪声。在一些实施例中,如所描述的,经滤波的前景图像可以从第一多个帧的平均中生成,而经滤波的背景图像可以从第二多个帧的平均中生成。在一些这样的示例中,第一多个帧和第二多个帧可以彼此完全不同(例如,如上所述的帧1-5和帧120)。在其他示例中,第一多个帧和第二多个帧至少部分重叠。在一些实施例中,第一多个图像中的中间帧是在比第二多个图像中的中间帧更近的时间捕获的。因此,经滤波的前景图像通常将表示比经滤波的背景图像更近的时间点。
在一些示例中,经滤波的前景和/或经滤波的背景图像分别使用跨第一和第二多个帧取得的传统平均来计算。如果执行多个帧的传统平均,则第一多个图像和第二多个图像不能是相同的多个图像,因为否则减去经滤波的前景图像和经滤波的背景图像将导致空白图像。
在其他示例中,对多个帧取平均可以包括对多个帧执行加权平均。例如,在计算多个帧的平均中,可以对更近的帧、不太近的帧或基于多种参数中的任何一种放置更大的权重。这样的取加权平均可以在第一和第二多个帧上执行,以便分别生成经滤波的前景和背景图像。在一些示例中,当使用加权平均时,第一多个图像和第二多个图像可以是相同的多个图像。例如,在一些实施例中,可以根据多个帧的加权平均来计算经滤波的背景图像,其中,较早捕获的帧比在较晚时间捕获的帧更重地加权。类似地,可以根据相同的多个帧的加权平均来计算经滤波的前景图像,其中时间较晚捕获的帧比时间较早捕获的帧更重地加权。因此,经滤波的背景图像通常在比经滤波的前景图像更早的时间表示平均的目标场景。
公式(1)和(2)示出了用于对单个多个N图像执行加权平均以计算经滤波的前景图像和经滤波的背景图像的简化技术。例如,关于公式(1)和(2),多个图像包括N个帧F1、F2,…,FN,其中图像F1是在最早时间捕获的多个帧中的帧,并且帧FN是在最近时间点捕获的帧。
如所示出的,根据公式(1),在计算经滤波的背景图像Fbackground中,较早的图像比较晚的图像对平均贡献大得多。类似地,根据公式(2),在计算经滤波的前景图像Fforeground中,较晚的图像比较早的图像对平均贡献大得多。公式(1)和(2)图示了在生成经滤波的前景和背景图像中如何可以对在不同时间捕获的图像进行不同加权的一个示例性过程。将领会,为了使用不同的加权技术对单个多个图像取平均以生成不同的前景和背景图像,许多可能的取平均形式是可能的。用于组合多个缓冲帧以生成经滤波的前景和背景图像的示例性过程可以包括将一个或多个有限脉冲响应(FIR)滤波器应用于缓冲器内的多个图像。
关于图6,在一些示例中,缓冲器600中的所有帧可以被一起取平均以创建供在光学气体成像过程中使用的前景和背景图像。例如,诸如使用公式(1),帧1-120可以经由第一取平均技术被一起取平均,以计算经滤波的背景图像。类似地,诸如使用公式(2),帧1-120可以经由第二取平均技术被一起取平均,以计算经滤波的前景图像。如本文中其他地方所述,光学气体图像可以通过比较经滤波的前景和背景图像、诸如经由减法Fforgreonnd–Fbackground来被计算,并且被显示。光学气体图像可以示出气体云在其在目标场景中随时间改变时的表示,如本文中其他地方所述。
在一些示例中,为了充分执行某些成像技术,处理来自帧缓冲器的帧可能需要不期望的存储器量和/或处理能力。例如,在参照图6描述的示例性实施例中,为了处理和显示基本上“实时”的光学气体图像以图示目标场景中气体的存在,相机需要存储器在缓冲器600中包括120帧。这样的相机还将需要足够的处理能力来执行包括两次多达所有120帧的计算,以便足够快地计算经滤波的前景和经滤波的背景图像二者,从而连续计算和呈现光学气体图像,以示出基本上“实时”的更新图像。这样的要求可以增加相机的成本和复杂性。
在一些实施例中,可执行替代技术来确定经滤波的背景和前景图像,以计算可以用于标识成像场景中的气体云的光学气体图像。图7是图示用于生成和更新经滤波的前景和背景图像以继续更新光学气体图像的示例性过程的过程流程图。该过程包括建立经滤波的前景图像(702)和建立经滤波的背景图像(704)的步骤。这可以包括例如捕获单个帧并将该帧称为经滤波的前景图像和经滤波的背景图像二者。在其他示例中,第一图像可以被捕获并建立为经滤波的背景帧,并且第二图像可以随后被捕获并建立为经滤波的前景帧。在任一种情况下,在经滤波的前景图像(702)和经滤波的背景(704)图像中的每一个被建立之后,随着每一个图像经由图7的过程被更新,在图7的方法的后续迭代期间,在经滤波的前景与背景图像之间通常将存在非零差异。
此时,两个图像——经滤波的前景图像和经滤波的背景图像——存储在存储器中。接下来,捕获(706)新图像。该过程包括通过将在步骤706处捕获的新图像与先前建立的经滤波的前景图像混合来建立新的经滤波的前景图像的步骤(708)。类似地,该方法包括通过将在步骤706处捕获的新图像与先前建立的经滤波的背景图像混合来建立新的经滤波的背景图像的步骤(710)。步骤708和710有效地利用先前的数据对新帧取平均,所述先前的数据作用于通过并入新的图像数据来更新经滤波的前景和背景图像中的每一个,同时维持对图像进行滤波/取平均的降噪益处。
根据图7的方法,新的经滤波的前景图像(来自步骤708)和新的经滤波的背景图像(来自步骤710)被比较以建立新的光学气体图像(712)。如本文中其他地方所述,比较前景和背景图像可以包括从一个图像减去另一个图像。通常,由于图像数据中的改变最终表示图像中的气体,因此可以通过确定背景与前景图像之间的差异的绝对值或者通过从前景图像和背景图像中的任一个减去另一个来计算光学气体图像。
在建立新的光学气体图像(712)之后,捕获新的图像(706)。新图像与先前建立的经滤波的前景图像(来自通过该方法的先前迭代)混合,以建立又一个新的经滤波的前景图像(708)。类似地,新图像与先前建立的经滤波的背景图像(来自通过该方法的先前迭代)混合,以建立又一个新的经滤波的背景图像(710)。可以比较新的前景和背景图像,以建立又一个新的光学气体图像(712)。
在一些示例中,图7的过程中的步骤可以顺序地执行,诸如建立初始的和新的经滤波的前景和背景图像。在其他示例中,一些这样的步骤可以并行执行。例如,在一些实施例中,经滤波的前景和经滤波的背景图像可以彼此并行处理和更新。在示例性实施例中,步骤702和704并行执行。附加地或替代地,并行执行步骤708和710。在一些这样的示例中,在被比较以建立新的光学气体图像数据(712)之前,可以并行生成和更新经滤波的前景和经滤波的背景图像。
在一些示例中,可以使用一个或多个无限脉冲响应(IIR)滤波器来执行将新图像与先前的背景或前景图像混合以递归更新经滤波的背景和/或前景图像。在一些这样的示例中,新图像和先前图像被缩放因子加权并组合。公式3和4提供了用于根据示例性一阶IIR滤波器将新图像与先前的前景和背景图像混合以分别计算新的前景和背景图像的示例性计算。
其中
并且
如公式3中所示,经更新的前景图像Fforeground是新的图像Fnew和先前的前景图像Fprev_foreground的混合。新图像按因子缩放,而先前的前景图像按因子缩放。类似地,经更新的背景图像Fbackground是新的图像Fnew和先前的背景图像Fprev_background的混合。新图像按因子缩放,而先前的背景图像按因子缩放。
将领会,虽然被称为无限脉冲响应滤波器,但是在一些示例中,由于有限的计算准确度(例如,在数字处理中),在滤波器的若干次迭代之后,来自先前图像的贡献在数字滤波过程中可能等于零。也就是说,如果值与计算精度相比变得足够小,则由于处理限制,该值可以有效地变为零。因此,在一些实施例中,在IIR滤波过程期间拍摄的图像实际上可能在足够高次数的IIR滤波器迭代之后对经滤波的背景或前景图像没有贡献。然而,如本文中所使用的,无限脉冲响应(IIR)滤波器也将包含这样的滤波器,其中由于计算精度限制,这样的值可能在超过一定的迭代次数之后变为零,但是在概念上将不一定在无限计算准确度的情况下精确地变为零。
图8是使用公式3和4生成光学气体图像的过程的示意图示。如所示出的,使用缩放因子和将新图像804与先前经滤波的前景图像800阿尔法混合,以创建新的经滤波的前景图像820。类似地,使用缩放因子和将新图像804与先前的经滤波的背景图像802阿尔法混合,以创建新的经滤波的背景图像830。可以比较新的经滤波的前景图像820和新的经滤波的背景图像830(在图8中所示,作为图像之间差异的绝对值)来建立光学气体图像840。
如箭头822和832分别所指示的,对于光学气体成像840的后续迭代,新的经滤波的前景图像820变成先前的经滤波的前景图像800,并且新的经滤波的背景图像830变成先前的经滤波的背景图像802。也就是说,如关于图7的重复方法所描述的,在一些实施例中,在生成光学气体图像840之后,另一个新图像804被捕获并与先前使用的前景和背景图像混合,以生成经更新的前景和背景图像,其然后被用于生成新的光学气体图像。
如本文中其他地方所述,不应当使用相同的取平均过程来确定前景图像和背景图像二者,因为否则,从一个图像减去另一个图像将导致空白帧。因此,关于公式3和4,并且。这确保了背景和前景图像不一定相同。类似地,当使用例如更高阶的IIR滤波器时,在前景与背景滤波技术之间具有至少一个不同的滤波器参数导致不恒为零的差异图像。
在仍另外的示例中,可以对前景图像流和背景图像流一起使用不同的滤波器,以确保前景和背景滤波过程不导致恒为零的差异图像。例如,在一些实施例中,可以使用一阶IIR滤波器、高阶IIR滤波器或FIR滤波器中的一个来确定经滤波的背景图像,而可以使用一阶IIR滤波器、高阶IIR滤波器或FIR滤波器中的不同一个来确定经滤波的背景图像。
在进一步参考公式3和4的情况下,明显的是,从历史图像对新图像的贡献量随着值而增加。也就是说,更大的值(以及对应的更小的值)对应于给予先前图像(例如,图8中的800或802)比新获取的图像(例如,804)更大权重的图像。 因此,在一些实施例中,,使得背景图像通常朝向历史图像数据被更强地加权,而前景图像朝向当前图像被更强地加权。
此外,随着该过程被重复并且前景和背景图像被更新越来越多的次数,不同混合比例的效果将合成,从而建立由前景和背景图像表示的时间差异。
在前景和背景图像随时间演变对前景和背景图像进行解释的另一方式是考虑时间常数。一般而言,对于给定的或值,经滤波的前景和背景图像将具有来自随着时间被连续捕获的若干个“新”图像的贡献。然而,在给定时间对经滤波的前景和背景图像有显著贡献的图像数量(例如,阈值百分比)将是和的函数。此外,如果图像是以特定的帧率捕获的,则有贡献的图像的数量类似于在其期间捕获有显著贡献的图像的时间跨度。也就是说,对于给定的和混合比,将存在一定量的时间,在此之前,获取的图像不再对经滤波的图像有显著贡献。这可以称为与给定和相关联的时间常数。
因此,经滤波的背景图像将具有时间常数,使得在新捕获的图像之前在比更早的时间捕获的图像将不对背景图像有显著贡献。类似地,经滤波的前景图像将具有时间常数,使得在新捕获的图像之前在比更早的时间捕获的图像将不对前景图像有显著贡献。将领会到,对更新图像没有显著贡献的图像必然没有贡献。在一些情况下,迭代更新的背景和前景图像将包括来自超过在比新捕获的图像更早的时间常数捕获的图像的贡献,然而,该贡献与总体图像相比将相对小(例如,小于1/e的因数等)。根据该解释,连续更新的背景图像的时间常数将大于连续更新的前景图像的时间常数()。因此,背景图像通常比前景图像并入在更长时间段之内拍摄的图像。附加地,由于较长的时间常数(较大的和)通常并入来自较长时间段之内图像数据的较大贡献,因此较大的时间常数通常相当于在经滤波的图像中的更多滤波和降噪。
在一些示例中,关于公式3和公式4,在给定图像被添加之后,在近似帧已经被添加到经滤波的图像之后,来自给定图像的贡献将对最终图像贡献小于1/e的因子。也就是说,如果 = 0.1,则在先前图像对经滤波的图像的贡献小于1/e的因子之前,经滤波的图像将利用新捕获的图像更新10次。如果使用1/e阈值来确定时间常数,则可以根据公式5基于帧率和值来确定时间常数。
在示例性实施例中:
使用公式5和60 Hz的帧率,
因此,在这样的示例性实施例中,经滤波的前景图像近似是在先前0.17秒之内捕获的先前10帧的加权平均,而经滤波的背景图像近似是在先前1.67秒之内捕获的先前100帧的加权平均。可以确定在经滤波的前景图像与经滤波的背景图像之间的差异,以计算场景的光学气体图像。将领会,在最近的图像之前比一个时间常数更早捕获的图像对经滤波的图像仍然将具有较小的贡献。在经过更多时间之后,诸如经过两个、三个或更多个时间常数之后,来自这样的图像的贡献将继续减小。例如,在三个时间常数之后,图像的贡献近似为5%。
在一些实施例中,诸如、、或其他更高阶的IIR滤波器参数或FIR滤波器参数之类的滤波器参数被应用于整个图像。在其他示例中,可以在图像内逐区域或逐像素的基础上应用这样的滤波器参数。例如,在一些实施例中,基于第一集合滤波器参数,经滤波的背景图像的一些像素与新图像中的对应像素相组合,而基于不同于第一集合滤波器参数的第二集合滤波器参数,相同经滤波的背景图像的其他像素与新图像中的对应像素相组合。
参照图7和图8描述的过程可以以例如相机的图像采集帧率(例如,30 Hz、60 Hz等)重复。每次捕获新图像时,可以将其与先前建立的前景和背景图像混合,以创建具有降低的噪声和更新的内容的更新的经滤波图像。新图像可以用于以与相机捕获图像相同的速率生成经更新的光学气体图像。
此外,在这样的方法的一些实现方式中,相机的存储器不需要许多帧的缓冲器以便创建具有降低的噪声且足够不同的经滤波的前景图像和经滤波的背景图像,以创建光学气体图像。在一些示例中,相机可以包括三个图像流——随着捕获新图像而被重复更新的背景图像流、随着捕获新图像而被重复更新的前景图像流、以及在更新的前景和背景图像的情况下而被重复更新的光学气体图像流。附加地,对将新图像与先前的背景图像和先前的前景图像混合以生成新的背景、前景和光学气体图像而言仅必要小量的处理能力。因此,在一些示例中,采用图7和图8中描述的降噪过程可以降低对用于执行适当的光学气体成像过程的热成像相机的处理能力、存储器和/或热分辨率的需求。
如本文中其他地方所述,减去前景和背景图像数据将揭示图像中的改变(例如,气体云的演化),并且将减掉图像中保持恒定的部分。因此,在一些情况下,示出另外静止目标场景中的气体的光学气体图像可以排除图像中的重要特征,所述重要特征存在于用于生成光学气体图像的前景和背景图像二者中,并且因此在光学气体图像的生成期间被减掉。在一些这样的示例中,光学气体图像的示出演变的气体云的部分将是非零的,而诸如任何静止的背景、装备等之类的场景的其余部分将近似为零。
因此,在一些示例中,光学气体图像可以与一个或多个附加图像数据流相组合,以便生成既示出气体的存在(例如,来自光学气体图像)并且还提供场景内的背景(诸如,来自红外和/或可见光图像数据)的图像。例如,在一些实施例中,光学气体图像数据可以与可见光图像数据相组合,以便说明目标场景中气体的存在/位置,同时保留由可见光图像数据提供的场景背景。附加地或替代地,可以包括红外图像数据来提供场景的热信息。在一些示例中,光学气体图像数据可以与红外和可见光图像数据的组合相组合,诸如,例如在美国专利号7,994,480中所描述的,该美国专利被转让给本申请的受让人并通过引用并入本文中。在各种示例中,可以使用与红外和可见光图像数据的组合类似的技术、诸如使用警报阈值、画中画显示模式等来执行光学气体图像数据和红外和/或可见光图像数据的组合。
图9是图示可以用于生成显示图像的图像数据的组合的示意图。在图示的示例中,光学气体图像数据900、红外图像数据902和可见光图像数据904经受图像数据混合/处理908以生成显示图像910。图像数据混合和处理908可以包括多种功能,诸如组合或重叠数据流、对图像数据流进行调色板化/彩色化等。
在一些示例中,诸如经由图像数据的混合,可以一次处理所有数据流。例如,根据公式6,显示图像910可以包括光学气体图像数据900、红外图像数据902和可见光图像数据904的混合:
在其他示例中,光学气体图像数据900可以与红外图像数据902、可见光图像数据904或其组合混合和/或覆盖在其上。例如,如本文中其他地方所述,红外902和可见光904图像数据可以混合在一起,以画中画格式组合,或者以多种方式组合。这样的组合的红外图像数据902和可见光图像数据904可以随后与光学气体图像数据900组合以生成显示图像910。在一些这样的示例中,光学气体图像数据900可以与组合的红外902和可见光904图像数据混合(例如,阿尔法混合)。在其他示例中,光学气体图像数据900可以覆盖在组合的红外902和可见光904图像数据顶上。
在一些实施例中,在将光学气体图像数据900与其他图像数据流组合之前,根据调色板化方案将光学气体图像数据900调色板化,使得气体图像数据900在显示图像910中更容易地可见。例如,在一些实施例中,光学气体图像数据900根据与其中显示红外图像数据902的调色板化方案形成对比的调色板化方案被调色板化,使得光学气体图像数据900可以容易地被看到。在其他示例中,公式6中的被设置为零,使得光学气体图像数据与可见光图像数据相组合。在一些这样的示例中,光学气体图像数据可以被调色板化以与可见光图像数据形成对比。附加地或替代地,光学气体图像数据900可以诸如经由画中画模式与一些或全部可见光图像数据相组合。在各种示例中,光学气体图像数据可以覆盖在可见光图像数据上和/或与可见光图像数据混合。
附加地或替代地,可以对一个或多个图像数据流执行其他图像处理技术。例如,诸如在美国专利申请号14/837,757或14/222,153(其中每一个被转让给本申请的受让人并特此通过引用并入)中描述的,可以采用边缘增强技术以便强调图像数据中对象和/或气体云的边缘。其他图像处理技术可以包括使用某些气体检测技术来确定和显示关于在目标场景中观察气体云的可能性的信息,诸如在美国专利号9,464,984中描述的,该美国专利被转让给本申请的受让人并特此通过引入并入。
在一些示例中,热成像相机可以在显示器上示出实时光学气体图像,使得用户可以观察场景中气体随时间的演变。例如,在一些实施例中,在每次捕获新图像时执行图7的过程,并且每个新的光学气体图像例如作为实时光学气体视频在显示器上呈现给用户。这样的显示可以单独地呈现为光学气体图像数据(例如,900),或者作为例如包括可见光和/或红外图像数据的经处理的显示图像(例如,910)。在其他示例中,热成像相机可以在显示器上呈现传统图像,诸如红外图像、可见光图像或可见光和红外图像数据的组合,同时在背景中执行光学气体成像分析。在一些这样的实施例中,甚至当实时显示不一定包括光学气体图像数据时,热成像相机也可以用于获取光学气体图像(或包括光学气体图像数据的显示图像)。
在各种实施例中,用户可以例如经由用户接口选择实时显示和/或任何捕获的图像和/或视频数据是否包括光学气体图像数据。在一些示例中,使用热成像相机捕获图像数据包括基本上同时捕获红外图像数据902、可见光图像数据904和计算的光学气体图像数据900。这样的图像数据可以根据特定的混合/处理方案(例如,在908中)被实时呈现在显示器上,和/或可以在事实之后以用户所期望的任何方式组合以供例如在相机本身或独立的工作站上显示。在各种实施例中,对于显示图像910的实时显示所采用的混合/处理技术可以由用户调整。在一些示例中,可用的混合/处理技术可从一系列预定义的图像组合技术中选择,和/或可以由相机操作员完全可定制。
由于光学气体成像通常利用气体在红外光谱中的吸收能力来对另外的透明气体成像,因此经常使用红外图像数据(例如902)来生成光学气体图像数据。因此,在一些实施例中,不必结合光学气体图像数据900的生成和红外图像数据902来捕获可见光图像数据904。在示例性实施例中,根据图8中所示的过程生成光学气体图像数据900。对于图8的过程的每次迭代,当捕获新图像804以便生成光学气体图像840时,新图像804包括红外图像数据902,而对应的光学气体图像840包括对应于红外图像数据902的光学气体图像数据900。在一些这样的实施例中,可见光图像数据904可以连同红外图像数据902一起被捕获。换句话说,在一些示例中,红外图像数据902和可选的可见光图像数据904是以帧率(例如,60 Hz)捕获的。在图8的过程中,捕获的红外图像数据902被用作新图像804,用于生成包括光学气体图像数据900的光学气体图像840。将领会,如果可见光图像数据904用于生成光学气体图像数据900,则可以排除红外图像数据902,并且可以使用可见光图像数据904执行类似的过程。
在示例性气体成像过程期间,如果热成像相机足够静止(例如,在三脚架上),则长时间常数和可以用于增加滤波量并减少经滤波的前景和背景图像中的噪声量。然而,如在本文中其他地方所指出的,时间常数和应该彼此充分不同,使得经滤波的前景与背景图像之间的差异不近似为零。
附加地,在一些情况下,时间常数不应当太长,以至于某些伪像有效地使热图像数据模糊。例如,在一些情况下,诸如包括未冷却传感器组装件的热成像相机之类的热成像相机将经受内部加热,这可能引起热成像数据随时间漂移。在一些示例中,使用不同的图像处理技术来减少图像数据中出现的这样的热伪像。然而,如果图像滤波时间常数太长(例如,包括来自出自足够长时间之前的图像的显著贡献),则具有和不具有热漂移或者具有不同程度的热漂移的场景的组合可以使得难以补偿漂移。因此,在一些示例中,虽然稍微长的时间常数通常是有利的,但是时间常数可以被限制到最大值,以便减少例如由相机的自加热引入的任何可能的伪像。
附加地或替代地,其他事件可能导致包括来自在一段时间之内捕获的图像数据的贡献的滤波图像中的不准确性。例如,如果由热成像相机成像的目标场景改变(例如,对相机运动而言改变),则表示先前目标场景的图像仍然可能对经滤波的图像有贡献。例如,如果生成经滤波的背景和前景图像,该经滤波的背景和前景图像包括来自在相机运动之前捕获的图像数据的贡献,则来自不同场景的图像数据的混合将使结果得到的图像模糊。此外,比较这样的图像,例如,当至少一个图像包括来自多个目标场景的贡献时,如本文中其他地方所述,从经滤波的前景图像中减去经滤波的背景图像的结果将很可能模糊到在差异图像中不能合理地检测到气体的点。也就是说,直到先前的背景场景从图像中被有效地衰减之前,图像通常将不适合用于生成光学气体图像。
类似地,如果用户在他或她的手中持有相机,则当与固定在三脚架上的相机捕获的图像相比时,图像很可能不太稳定。因此,有效地将许多图像平均成滤波图像的长时间常数更可能包括当相机在用户手中摇晃时从若干个稍微不同的视角拍摄的图像。这还可能导致(一个或多个)滤波图像中的伪像、杂波和一般的不准确性,并且可能使光学气体图像中的气体模糊。
因此,在使用足够的滤波(例如,足够大的帧样本、足够大的时间常数等)来尽可能地降低经滤波的前景和背景图像中的噪声与不使用太多的滤波来冒险将伪像或不准确性传递到经滤波的图像中(例如,由于相机运动、自加热等)之间存在折衷。此外,最佳滤波量可以取决于多种参数,诸如相机是安装的还是手持的,或者相机是否移动以拍摄不同的目标场景。
先前背景场景从前景和/或背景图像有效地衰减所需的时间量取决于用于生成经滤波的前景和背景图像的滤波技术。例如,关于图6,如果帧1-5(在最早时间拍摄的帧)被平均以从两秒的缓冲器生成经滤波的背景图像,则背景图像将包括在场景改变之后长达两秒的来自场景的贡献。也就是说,如果相机指向被改变,使得相机从对第一目标场景成像改变到对第二目标场景成像,则在相机指向被改变之后,经滤波的背景图像将包括长达两秒的来自第一目标场景的贡献。不仅相机将不太能够在这两秒内执行光学气体成像,而且生成的图像将很可能杂乱并且难以理解,因为它可能基于来自两个不同场景的图像数据(例如,第一目标场景与第二目标场景之间的差异)。
类似地,例如,如果公式3和4分别用于计算经滤波的前景和背景图像,则在来自第一目标场景的图像数据将从滤波图像中有效地被衰减之后的时间量是滤波过程的时间常数的函数。如所述,一般而言,,并且如果近似是图像衰减以将1/e因子贡献到经滤波的背景图像中该图像所花费的时间,则在从第一目标场景改变到第二目标场景之后,将花费近似三个时间常数( )来使得来自先前场景的贡献下降到5%。在上述示例中,其中,在先前场景将衰减到5%的贡献之前,这将等于近似秒。在一些情况下,这可能使用户感到沮丧,因为在移动相机之后的近似5秒内,相机通常将不能提供可观察的场景或可靠的光学气体图像。
图10是示出用于执行气体成像操作的用户可选选项的示例性用户接口。在图10的实施例中,用户可以使用开(ON)和关(OFF)按钮选择启用或禁用气体检测模式。当气体检测模式关闭时,热成像相机将不在显示器上示出光学气体图像数据,例如,当呈现所获取的图像数据的基本上实时的显示时。在一些示例中,当光学气体成像被关闭时,热成像相机计算但不显示光学气体图像数据。在其他示例中,当光学气体成像被关闭时,热成像相机不计算光学气体图像数据。
图10的接口进一步包括可选的图像捕获或视频捕获操作模式。用户可以选择保存光学气体图像数据是作为独立的光学气体图像还是作为光学气体图像的视频流(光学气体图像或视频可选地与红外和/或可见光图像数据组合)来完成。
如本文中其他地方所述,在光学气体成像过程期间相机的运动可能对图像质量有负面影响。例如,在获取对经滤波的前景或背景图像有贡献的图像的过程内,相机运动可能导致成像场景的微小改变,这可能导致图像数据中出现伪像。在图10的实施例中,用户能够在三脚架操作模式与手持操作模式之间进行选择。在一些示例中,三脚架操作模式和手持操作模式中的每一个都与影响先前捕获的图像的贡献量的预定光学气体成像滤波参数相关联。这样预定义的滤波参数可以包括例如用于生成经滤波的前景或背景图像的在缓冲器600中被平均的帧数(例如,根据公式1和2)或与公式3-5相关联的时间常数和。
因为由三脚架支撑的热成像相机通常将经历较少的无意运动,所以用于生成经滤波的前景和背景图像的时间常数和/或帧数可以更长,以便进一步降低图像中的噪声,而没有由于相机运动而引入到场景中的那么多伪像。因此,在一些示例中,与在手持模式下相比,在三脚架操作模式下,来自缓冲器600的被平均以生成经滤波的背景图像的帧数更大。在其他示例中,与三脚架模式相关联的背景和/或前景时间常数(和/或)比与手持操作模式相关联的背景时间常数长。类似地,滤波参数 。
由于前景时间常数通常比背景时间常数短,因此随着时间推移,它通常不太容易发展伪像。因此,在一些示例中,对于三脚架和手持操作模式二者,前景时间常数()可以相同。在其他示例中,类似于背景时间常数,前景时间常数在三脚架模式下比在手持模式下长。类似地,在其他示例中,在三脚架模式下来自缓冲器600的被平均以生成经滤波的前景图像的图像数量可以大于或等于在手持模式下使用的数量。
根据图10的示例性用户接口,用户可以基于热成像相机的预期使用来选择操作模式。当在传统热成像模式下使用热成像相机时,用户可以禁用气体检测模式,并且可以启用气体检测模式以便执行光学气体成像过程。在一些示例中,用户可以选择在气体检测的图像或视频模式下操作。此外,用户可以选择是在三脚架模式还是手持模式下操作热成像相机,这可以指示当生成光学气体图像时使用预定义的滤波参数集中的哪一个。
在一些示例中,光学气体检测接口进一步包括“定制”选项,其中用户可以定制用于执行光学气体成像的设置。例如,在一些这样的实施例中,热成像相机可以被配置为在光学气体成像过程期间使用一个或多个可调整滤波器参数来执行图像滤波。这样的可调整滤波器参数可以包括来自缓冲器600的被平均以生成经滤波的背景和/或前景图像的帧数、或者混合比和、以及类似的公式3-5的时间常数。用户可以类似地调整其他滤波参数,例如,与高阶IIR滤波器等相关的参数。附加地或替代地,用户可能能够选择用于生成经滤波的背景和/或前景图像的滤波器的类型,诸如在FIR滤波器、一阶IIR滤波器和更高阶的IIR滤波器中的任何一个或多个之间进行选择。其他用户可调整参数可以包括混合和/或处理参数(例如,908),用于从光学气体图像数据900和其他图像数据流生成显示图像910。
如所述,相机可以用预定义的滤波参数编程,当在其中相机运动或多或少可能发生的特定操作模式(例如,手持操作相对于三脚架操作)下进行操作时,可以使用所述预定义的滤波参数。然而,即使在这样的操作模式内,相机也可以移动显著的量,诸如从一个场景平移到另一个场景,或者当用户移动到新的成像位置时。该运动可以类似地引起目标场景改变,从而导致对来自不同场景的滤波图像的可能贡献,并导致滤波图像相对于相机的当前目标场景杂乱和不准确。
如在本文中其他地方所述,调整滤波参数(例如,来自缓冲器600的被平均的帧数、来自公式3-5的参数、、等)可以通过减少来自出自较早时间的帧的贡献来影响目标场景中运动的影响。例如,关于图6,以60 Hz的帧率对帧60-120取平均将仅对返回一秒的图像取平均,而不是对例如帧1-120取平均——这将对返回两秒的图像取平均。因此,当在缓冲器的较新部分之上进行滤波时,来自先前目标场景的图像贡献将在较短时间内影响滤波图像。
类似地,相对于关于公式3-5所述的滤波,近似1.67秒的时间常数(,)将导致滤波图像在近似先前的5秒之内具有近似5%或更多的图像贡献。相比之下,近似0.17秒的时间常数(, )将导致滤波图像在近似先前的0.5秒之内具有近似5%或更多的图像贡献。因此,减少(或类似地,增加或减小)减少了来自返回时间上更久远的图像的图像的贡献。
除了气体吸收和红外辐射的衰减之外,目标场景中存在的气体也发射红外辐射,该红外辐射可以经由红外成像设备来检测。例如,关于图5A和图5C,在X处接收到的具有A/2幅度的射束574c通常将由于气体云570a对从源572发射的红外辐射(幅度为A)的衰减和气体云570a本身的红外辐射二者所致。
然而,如果气体云(例如,570a)在给定的波长下同等地吸收和发射红外辐射,则可能出现问题,因为气体的辐射吸收和发射的影响将相互抵消,并且对于红外成像相机将是不可见的。例如,关于图5A,如果气体将来自源572的辐射衰减一半(例如,从幅度A到幅度A/2),但是还以幅度A/2发射红外辐射,则在区域582中的X处接收的总红外辐射将是A/2(来自场景572) + A/2(从气体发射)= A,并且因此气体将对成像的场景没有影响。换句话说,气体将从背景提供不足的对比度来观察场景中的气体,甚至使用诸如图像减法的各种处理技术来强调气体的位置和/或运动。将领会,相对于源572的幅度A的发射和衰减的相对量是任意的,并且用于便于解释。经常,与从背景(例如,源572)发射的红外辐射的幅度相比,由于气体的存在所致的红外辐射的衰减和/或发射量将非常小,使得通常难以使用标准成像技术对气体进行成像,例如,在不执行诸如在本文中其他地方所述的背景减法过程之类的背景减法过程的情况下查看红外图像数据。
在一些情况下,气体在红外图像中引起的对比度的量、或者气体在红外图像中是否将是可观察的,取决于三个主要因素。气体的类型影响成像设备波段内的吸收/发射线。气体量——取决于气体羽流(plume)内气体的浓度和接收到的红外辐射行进通过的气体羽流的大小(路径长度)二者——通常表示在光到达相机之前光经历的气体分子的数量。在一些示例中,这可以量化为浓度路径长度(例如,以ppm-米为单位)。最后,气体的温度与场景背景的表观温度之间的差异可能影响查看气体的能力。表观背景温度可以是例如基于接收的红外辐射计算的背景温度(在一些情况下,表观温度是基于接收的辐射和对象的预期发射率计算的,并且由于背景发射率的变化,可能不完全等于实际温度)。从数学上讲,在一些情况下,由于目标场景中的气体所致的红外图像中的视觉对比度是如下这些特征的函数:
图像中有资格使图像中的对象“可见”的对比度的量可以被量化,例如作为信噪比,其中信号(在一些情况下,例如在光学气体图像中,由于气体所致的信号)的水平当与图像中存在的噪声相比时必须显著地大。换句话说,为了合理地观察气体对光学气体图像数据的效果,光学气体图像中减去的像素之间的表观温差相对于光学气体图像中的噪声等效温差(NETD)必须足够大。
当在如本文中其他地方和在2017年5月16日提交的美国临时申请号62/507,203(特此通过引用以其整体并入)中所述的光学气体图像数据的上下文中查看时,其中计算在前景图像与背景图像之间的差异以强调场景内气体的运动,由于气体对总体图像数据的效果相对小,因此该减法从总体场景中消除了大部分静止或不变的信号。因此,在一些这样的示例中,光学气体图像中的剩余数据(在减法之后)通常包括由于移动气体和剩余噪声所致的场景的差异。如果剩余气体信号与剩余噪音相比足够大,则气体将是“可见的”。在一些情况下,鉴于光学气体图像中存在的噪声,1.0的信噪比对于观察表示光学气体图像中的气体的数据是足够的,尽管在一些情况下,用户可以在小于1的信噪比下观察气体的效果。
通常,气体提供的对比度的量随着气体量以及随着气体温度与表观背景温度之间的差异而增加。因此,在这样的示例中,在气体量增加时,由气体引起的对比度增加。类似地,在这样的示例中,在气体温度与表观背景温度之间的差异增加时,由气体引起的对比度增加。因此,在这样的示例中,给定特定类型的气体,为了满足对确保气体可见性所期望的最小对比度阈值,气体量和温差必须足够高。此外,在一些示例中,如果存在在气体成像期间必须使其充分可见的最小量的气体(例如,在其之上的浓度可能变得危险的气体阈值水平),则气体温度与表观背景温度之间的差异必须足以确保最小量的气体导致可以观察到的对比度水平。
气体成像实践中存在各种标准,其要求特定类型的气体在特定浓度或量下是可见的。例如,OOOOa(Quad-OA)标准要求光学气体成像能够“看到”甲烷和丙烷的50/50混合物以每百万分之10000(ppm)从直径孔口以60克/小时的流率泄漏。该标准提供了一种气体(甲烷和丙烷)和一定量的气体(每百万分之10000(ppm)从直径孔口以60克/小时的流率泄漏)。根据上述关系,给定这些标准,为了使气体引起的对比度达到气体对其可见的水平,气体温度与表观背景温度之间的差异必须显著地大。
在一些实施例中,执行光学气体成像过程的热成像相机——诸如在本文中和在2017年5月16日提交的美国临时申请号62/507,203(特此通过引用以其整体并入)中描述的——不断地获取新图像(例如,图7中的步骤706)用于与先前的前景和背景图像组合来建立新的经滤波的前景和背景图像,以进行比较来建立新的光学气体图像。在一些示例中,经由热成像相机获取的每个新图像可以被辐射测量地校准,以提供图像中多个像素中的每一个的表观温度值。因此,借助于获取用于执行光学气体成像过程的新图像,热成像相机还获取关于表观场景温度的信息。该信息可以暂时保存或出于长期存储而保存在存储器中,以供进一步分析,例如如下所述。
如上所述,气体温度与热成像相机观察到的表观背景温度之间的差异可以指示给定量和给定类型的气体是否可以使用热成像相机有效地成像。在一些实施例中,热成像相机可以被配置为接收表示位于目标场景中的气体温度的气体温度输入。在各种示例中,可以以多种方式接收气体温度输入。例如,在一些实施例中,热成像相机可以包括空气温度测量工具或者以其他方式与空气温度测量工具通信,例如,如在2015年9月16日提交的美国专利申请号14/855,884(特此通过引用以其整体并入)中描述的。在一些这样的示例中,当环境中的气体很可能快速地平衡到近似空气温度、从而使气体温度和空气温度近似相等时,测量的空气温度可以用作气体温度输入。附加地或替代地,热成像相机可以用于捕获表示包含气体的储层的热图像数据,将在气体成像程序中寻找该储层,其中罐的辐射测量的红外图像数据可以被用作气体温度输入。附加地或替代地,气体温度输入值可以由用户手动输入。
热成像相机可以被配置为例如经由处理器将与辐射测量的红外图像数据中的多个像素中的每一个相关联的温度值与气体温度输入值进行比较,以针对每个这样的像素确定在气体温度与IR图像数据的表观温度之间的差异。如上所述,对于给定的气体类型和量,气体是否可以经由红外成像相机被观察到(具有足够的对比度)取决于该温差。因此,相机可以被配置为分析每个像素,并确定在该像素处的气体温度与表观背景温度之间的差异是否足够大,使得该像素将对于所标识的气体量和类型示出预定的最小量的对比度。在一些实施例中,热成像相机可以被配置为修改在气体温度与表观背景温度之间缺乏足够差异的像素的显示,以实现对于给定类型的气体和要被检测的最小量气体的红外图像数据中的最小对比度。
热成像相机可以确定气体温度与表观背景温度之间的差异是否大到足以实现期望的对比度值,这可以以多种方式来执行。在一些实施例中,相机可以用公式编程,该公式对于给定类型的气体,涉及待观察的最小气体量的定量测量、图像中期望的最小对比度量的定量测量以及温差。附加地或替代地,热成像相机可以包括存储器中的一个或多个查找表,该一个或多个查找表可以用于针对给定类型的气体和要观察的最小量的气体,标识气体温度与表观背景温度之间的所需差,以实现观察气体的最小对比度量。
图11示出了用于确定气体温度与表观背景温度之间的所需差的示例性查找表,以便由于给定的气体类型和气体量而实现特定的最小对比度。在图11的示例性查找表中,包括N种不同气体类型和M种不同气体量。气体类型表中的交叉点(例如,气体类型n)和气体量(例如,气体量m)提供所需的最小温差值(例如,)以便实现足够的对比度,从而在给定的气体量下观察给定的气体类型。
在一些实施例中,例如在热成像相机的工厂校准期间,可以根据经验生成诸如图11中所示的表的查找表。在一些这样的示例中,技术人员可以观察气体类型、气体量以及气体温度与表观背景温度之间的差异的各种组合,以确定给定气体类型和气体量在光学气体图像中提供足够对比度时的温差()。在各种实施例中,用户可以主观地标识足够的对比度,其中用户观察以给定量的给定气体在图像中变得足够显著所在的点。在其他示例中,可以对图像数据执行统计分析,以确定在光学气体图像中由于气体所致的对比度引起统计上足够的对比度所在的点。在一些实施例中,不同的查找表可以用于不同的对比度量和/或用于建立“足够”对比度的不同方法,以便能够容易地观察气体。在一些实施例中,热成像相机可以向终端用户提供执行自校准的选项,其中用户生成诸如图11中所示的查找表之类的查找表。在包括与用于确定足够对比度以观察气体的不同级别和/或方法相关联的多个查找表的相机中,可以向用户提供选择供使用的表的选项。例如,在一些示例中,当相机处于手持模式相对于三脚架模式时,可以使用诸如图11中所示的表格之类的不同表格。
一旦热成像相机例如经由处理器确定哪些像素包括和不包括明显的与气体温度足够不同的背景温度,并且因此哪些像素将包括和将不包括由场景中的气体引起的足够的对比度。处理器可以被配置为,当生成光学气体图像数据和/或显示包括光学气体图像数据的图像数据时,以视觉上可区分的方式显示与包括足够温差的像素相比不包括足够温差的像素。也就是说,给定气体温度与表观背景温度之间的差异,其中所选量和类型的气体将提供足够对比度的那些像素看起来不同于将不提供足够对比度的那些像素。该显示的信息可以诸如经由实况视频基本上实时地呈现给用户。这样,用户可以快速地观察到在场景中期望的气体类型和量甚至将可能被查看到(即,提供足够的对比度)的地方以及气体(例如,在最小期望量下)将不可能被查看到(即,将不提供足够的对比度)的地方。
图12是示出用于确定像素是否能够可靠地用于检测给定气体类型和量以及用于显示这样的确定的示例性过程的过程流程图。图12的过程包括接收所选的气体类型和气体量(1200)。在一些示例中,热成像相机可以被预编程以搜索最小量的预定类型的气体。在其他示例中,相机可以用气体类型(例如,单种气体、气体混合物等)和/或将经由气体成像观察的最小气体量的列表来编程,用户可以从该列表选择所期望的气体类型和/或量。
在各种示例中,可以用多种不同的方式来标识气体的“量”。例如,在一些示例中,量可以对应于气体的浓度路径长度。在其他示例中,量可以包括特定参数的组合,所述特定参数诸如是诸如可以在特定气体观察标准(例如,OOOOa)中定义的浓度、流率和/或孔口泄漏大小。在一些这样的示例中,不需要计算气体“量”的单个值,但可以是值的组合。这样的参数可以预编程到相机(例如,被编程为满足OOOOa标准的相机)中或者可以由用户输入(例如,诸如由OOOOa标准定义的,通过单独地选择参数或者通过选择预定义的参数集)。
附加地或替代地,其他因素可以有助于气体在场景中是否将是可见的,其他因素诸如是风速、距可疑泄漏源的距离等。在一些示例中,热成像相机可以包括一个或多个工具或以其他方式与一个或多个工具通信,以测量一个或多个这样的参数,一个或多个工具诸如是风速计、测距仪等。附加地或替代地,一些这样的参数可以由用户手动输入。这样的数据可能影响在给定特定温差()的情况下可能出现的气体量,或者类似地,影响对查看给定气体量所必需的温差量。因此,在一些实施例中,这样的参数可以用于确定对观察给定气体量/类型所必需的温差。
如所述,可以使用若干个参数来确定例如对在给定量下观察给定类型的气体所必需的温差量。在一些这样的实施例中,一个或多个这样的参数(例如,风速、距离等)可以通过用户选择选择性地并入到分析中。例如,用户可以选择将风速测量并入到对观察以给定量的给定气体类型所必需的最小温差的确定中,或者可以选择忽略这样的数据。在各种示例中,可以使用包括多个变量的公式或多维查找表来执行对观察以给定量的给定气体类型所必需的最小温差的确定,以适应附加参数。例如,在一些示例中,多个查找表中的每一个,诸如图11中所示的查找表可以对应于针对给定风速和/或至目标的距离的值。
该方法进一步包括确定在气体成像过程中超过对比度阈值所必需的最小温差(例如,气体温度与表观背景温度之间的最小温差)(1202)。在一些示例中,对比度阈值可以是接收到的对比度阈值选择(1201)。在其他示例中,可以例如基于工厂校准或先前的用户校准在热成像相机内预先设置对比度阈值。例如,可以使用查找表(例如,如图11中所示)、使用公式等来确定超过对比度阈值的最小温差。在示例性实施例中,用于确定最小温差(1202)的查找表对应于所选的气体类型和/或气体量。
该方法进一步包括确定气体温度(1204)和获取场景的辐射测量校准的红外图像数据(1206)的步骤。如本文中其他地方所述,在各种实施例中,确定气体温度可以包括测量气体温度,例如,使用空气温度测量工具,或者手动接收用户输入的气体温度值。可以使用热成像相机捕获辐射测量校准的红外图像数据。
该过程包括从获取的红外图像数据选择像素(1208),以及确定在所确定的气体温度与所选像素的表观温度之间的差异(1210)。该方法进一步包括确定温差()是否在所确定的最小温差以上(1212)。如果是,则像素可以以等于或大于所选量的量可靠地显示所选气体类型(1214),并且根据光学气体成像过程的显示设置正常地显示像素。然而,如果温差在所确定的最小值以下,则像素不能可靠地显示图像中以所选量存在的所选气体(1218),并且在光学气体图像视图中以可区分的方式呈现像素(1220)。如所示,可以针对多个像素重复该过程,以便标识多个像素中的哪一个可以适合于以所选的量执行所选气体类型的可靠成像。将领会,虽然在图12中示出为连续分析多个像素(例如,确定值是否在给定像素的最小值以上,然后选择新像素并重复分析),但在各种示例中,可以针对多个像素并行执行这样的分析。例如,在一些示例中,可以同时或基本上同时针对一个或多个像素执行图12中所示的过程。在一些这样的示例中,可以同时或基本上同时分析每个要分析的像素。可以暂时重复该过程,以提供实时或基本上实时的像素分析。
在示例性用例期间,参考图12,用户希望以等于或大于10000 ppm-米的量(气体量表示为浓度路径长度)观察甲烷(气体类型),并且在步骤1200将这样的参数输入到接收参数的热成像相机中。相机1202例如经由查找表来确定气体与场景之间的最小温差,以便实现足够的对比度来可靠地查看以10000 ppm-米的甲烷。热成像相机可以从与相机通信(有线或无线)的空气温度测量工具确定气体温度信息,并且捕获场景的辐射测量校准的红外图像数据。
针对多个像素中的每一个,相机将与该像素处的图像数据相关联的温度与气体温度进行比较,并将温差与所确定的最小温差进行比较。如果对于给定的像素,在气体温度与图像数据中的表观温度之间的差异在最小值以上,则在该像素处存在的以10000 ppm-米(或更大)的甲烷气体将在光学气体图像中提供可见的对比度。另一方面,如果在气体温度与给定像素处的图像数据中的表观温度之间的差异在最小值以下,则在该像素处存在的以10000 ppm-米(或更大)的甲烷气体将不在光学气体图像中提供可见的对比度。
在显示的图像中,其中以所选量的所选气体可以可见(例如,由于足够的对比度)的那些像素将以与其中以所选量的所选气体将不可见(例如,由于不足的对比度)的那些像素可区分的方式显示。示出了具有足够温差来观察所选气体/量的那些像素不同于没有足够温差来观察所选气体/量的那些像素的显示图像可以包括光学气体图像数据(例如,图9中的900)和/或显示图像(例如,图9中的910)。
在示例性实施例中,根据规定的显示方案(例如,利用特定的调色板化、不同数据流之间的特定混合比等),正常呈现被确定为包括足够的温差以便实现足够的对比度来观察所选气体/量的像素。在一些这样的示例中,不预期示出足够的对比度来观察所选气体/量的像素可以由预定的指示符颜色替换或与之混合,以向用户清楚地传达这样的像素不包括足以产生足够的对比度来能够观察所选气体/量的背景场景。
在各种示例中,这样的预定指示符颜色可以由用户手动选择,或者可以自动编程到相机中。在一些示例中,指示符颜色被自动选择,使得指示符颜色与以其他方式在图像中使用的调色板化方案形成清楚对比。例如,当利用灰度调色板来执行气体成像程序时,其中所选气体/量将不产生足够对比度的像素可以用非灰色颜色(诸如红色)来替换或与之混合,以清楚地指示这样的像素的存在以及在这样的像素处不能可靠地查看以所选量的所选气体。
在一些示例中,可以使用多个指示符颜色。例如,在一些实施例中,可以发起场景分析模式,其中缺少足够的温差以可靠地显示以所选量的所选气体的像素可以包括第一指示符颜色,并且具有足够的温差以可靠地显示以所选量的所选气体的像素可以包括第二指示符颜色。因此,用户可能能够查看场景并且容易地在场景中能够和不能可靠地查看以所选量的所选气体的部分之间进行区分。
附加地或替代地,在一些实施例中,任何数量的指示符颜色可以对应于相等数量的温差值,气体温度与表观像素温度之间的差异可以与该温差值进行比较。这可以用于建立在特定场景中查看以所选量的所选气体的能力的可能性范围。
参照图9,当执行气体成像过程时,用户可以在显示器上查看实时现场图像,以便检查目标场景中的气体。在各种实施例中,用户可以选择在显示器上一起查看光学气体图像数据900、红外图像数据902和可见光图像数据904的混合。在一些示例中,在与其他图像流进行任何组合以产生显示图像910之前,指示符颜色可以与光学气体图像数据900中的像素混合或者以其他方式替换光学气体图像数据900中的像素。在一些这样的示例中,可以(手动或自动)选择指示符颜色来与光学气体图像调色板化和红外图像调色板化方案二者形成对比。在其他示例中,在光学气体图像数据900、红外图像数据902和可见光图像数据904的处理/混合908之后,指示符颜色可以与显示图像910中的这样的像素混合或者以其他方式替换显示图像910中的这样的像素。
在一些示例中,在气体成像过程期间,用户可以选择在显示器上专门查看光学气体图像数据900。在这样的示例中,指示符颜色与光学气体图像数据900中的像素相组合或者用于替换光学气体图像数据900中的像素,以便于显示。
在一些实施例中,给定固定的对比度阈值和气体温度以及给定的气体类型和气体量,对于给定像素,气体温度与表观场景温度之间的差异是否满足最小温差的唯一贡献因素是背景的表观温度。也就是说,在一些示例中,所选的气体类型和量是否能够产生足够的对比度来被观察(例如,图12中的步骤1212)仅取决于在给定像素处的表观温度。因此,调整相机的定位以改变背景场景将改变哪些像素具有将在给定所选气体类型和量的情况下产生足够对比度的表观温度。因此,在根据一些实施例的使用期间,用户可以注意到显示器上的大量像素包括指示符颜色,这表明无论气体是否存在,这样的像素都将不提供充足的对比度来示出以所选量的所选气体。因此,用户可以选择重新定位相机,以便改变背景,以增加像素的数量和/或位置,这将提供充足的对比度,以示出以所选浓度的所选气体。在这样做时,可以通过基本上实时的更新向用户提供,该更新不仅显示场景中气体的存在,而且还显示场景中由于不足的背景温度对比度而在某个量处所选气体可能不可见的部分。
图13是用于实时生成光学气体图像的过程的示意图示,该过程包括关于在光学气体图像内的不同位置是否可观察到给定气体类型和气体量的信息。类似于图8中图示并且参照图8描述的过程,图13的过程包括使用经滤波的前景图像和经滤波的背景图像来生成(例如,经由减法)光学气体图像1340。新图像1304被捕获并与先前/现有的经滤波的背景图像1302组合,以创建新的经滤波的背景图像1330。新图像1304被类似地捕获并与先前/现有的经滤波的前景图像1300组合,以创建新的经滤波的前景图像1320。新滤波的前景1320和背景1330图像可以用于生成光学气体图像1340。在一些实施例中,当捕获新图像1304时,在该过程的后续迭代期间,新前景1320和背景1330图像分别变成先前的前景1300和背景1302图像。根据各种实施例,新图像1304如何与先前/现有前景1300和背景1302图像组合以达到新前景1320和背景1330图像、以及如何从新前景1320和背景1330图像创建光学气体图像1340的细节在本文中其他地方(例如,参照图8)描述,并且此处不再重复。取而代之,为了方便起见,在图13的框1335中对该过程进行了高度概述。
在一些示例中,除了在光学气体成像过程(通常在框1335中示出)中使用之外,可以如上所述处理新图像1304,以便确定在图像数据中的何处可以观察到特定类型和量的气体。在图13图示的示例中,新红外图像1304中的各种像素的表观像素温度与气体温度值1310进行比较,以建立气体温度1310与来自多个像素中的每一个的新图像1304的表观背景场景温度之间的差异,其通常示出为 1312。在一些实施例中,气体温度1310的值包括单个值,诸如经由空气温度传感器测量、手动输入等,而来自新图像1304的表观像素温度包括新图像1304内的温度值的二维阵列。在这样的示例中, 1312处的温差值也将是值的二维阵列,其表示气体温度1310与来自新图像1304的每个表观像素温度之间的差异。
1312的每个值可以与最小值1350进行比较,最小值1350可以取决于特定的气体类型1352和气体量1354,如本文中其他地方所述,以确定的值是否在最小值以上(1360)。在图示的示例中,如果给定像素的值1312在最小值1350以上,则当观察与最小值1350相关联的气体类型1352和量1354时,该像素将包括足够的对比度。然而,如果对于给定的像素,值1312不在最小值1350以上,则可以例如通过如本文中其他地方所述的那样包括(例如,经由混合或叠加)指示符颜色而使光学气体图像1340中的对应像素在视觉上与具有在最小值1350以上的对应值1312的像素可区分。可以针对多个像素中的每一个执行该过程(两个或更多个像素的串联或并联处理),并且针对多个像素中的每一个重复该过程,以提供实时或基本上实时的光学气体图像1340。
图13中所示的过程可以在每次获取新图像1304时例如以热成像相机的帧率重复。在一些这样的示例中,该过程以足够的帧率重复,以便生成光学气体图像数据1340的实时或近似实时显示,包括(例如,经由指示符颜色)指示图像数据中的哪些位置可能不能充分显示所选的气体和量。
如本文中其他地方所述,查看光学气体图像(或包括光学气体图像数据的显示图像)的热成像相机的用户可以观察被标识为缺乏足够温差以示出对于所选气体类型和量的足够对比度的像素,并且可以选择调整相机的位置,以便更新背景场景,以努力减少这样不足像素的数量。附加地或替代地,在一些实施例中,热成像相机在实时或近似实时地产生包括光学气体图像数据的光学气体图像或显示图像时,可以分析图像以确定与被认为具有不足以观察所选气体类型和量的温差的像素的数量和/或位置相关的信息。在一些这样的示例中,热成像相机可以被配置为提示用户调整相机的位置,以便改进热成像相机以所选量对所选气体成像的能力。
例如,在示例性实施例中,热成像相机可以被配置为针对所选类型和量的气体跟踪具有在所确定的最小温差以下的气体温度与表观背景场景温度之间的差异的像素的数量。如果具有在最小值以下的温差的像素数量大于预定阈值(例如,在预定百分比的分析像素以上,在预定的像素总数以上,等等),则相机可以向用户输出警报(例如,音频警报、视觉警报、振动警报等),建议用户重新定位相机以包括不同的背景场景,并潜在地增加具有在阈值以上的温差的像素数量。
附加地或替代地,在一些示例中,相机可以确定缺少足够温差以很可能观察以所选量的所选气体的像素的位置,并且如果像素位于标识的位置,则建议用户重新定位相机。例如,在一些实施例中,如果图像数据的中心(例如,近似位于图像数据中心的圆形、矩形或其他形状的像素区域)包括具有在最小值以下的温差的足够大数量的像素,则相机可以建议用户重新定位相机,以努力改进在图像中心观察以所选量的所选气体的可能性。
将领会,虽然经常关于确定哪些像素包括用于执行气体成像的气体温度与表观背景温度之间的足够差异进行描述,但是在一些实施例中,这样的分析可以在不一定是单像素区域的多个区域中执行。例如,在一些实施例中,包括多个像素的区域可以被分配表观温度(例如,该区域内像素的最小温度、最大温度或平均温度),其可以与气体温度进行比较。如上所述的类似分析可以应用于作为整体的区域,而不是单独的每个像素,例如,以减少对给定图像执行分析的次数,并节省处理时间和要求。一般而言,可以对多个区域执行区域分析,每个区域包括一个或多个像素,其中这样的区域不需要是相同大小的。
在一些实施例中,热成像相机可以被配置为检测相机的运动。例如,热成像相机可以包括一个或多个加速度计或其他运动传感器(例如,MEM、陀螺仪等),其被配置为感测相机的运动。这样的传感器可以向处理器提供数据,处理器可以使用该数据来确定相机已经移动或正在移动。附加地或替代地,相机可以被配置为分析所捕获的帧以确定场景间运动,诸如使用图像配准处理来确定相机从一帧移动到另一帧的量。在一些实施例中,热成像相机可以使用检测到的运动数据来确定相机是否已经移动了足够的量来影响当前滤波参数的功效,以生成高质量的光学气体图像,而没有来自先前目标场景的杂波或伪像。
例如,在一些示例中,光学气体成像过程(例如,如图8中所示并且参照图8所述)包括从彼此减去图像,从而仅留下剩余的差异。然而,如果该差异具有相对低的幅度(例如,由于场景中吸收气体的存在所致的小量衰减),则在不放大信号的情况下,或者类似地在热图像数据处理的意义上,减小显示调色板中可见的温度范围(例如,温差)以便将信号与背景区分的情况下,可能难以观察到差异图像。这导致在光学气体图像中强烈强调运动——这在试图查看气体(例如,目标气体)中经常是有益的,但是也经常诸如由于照相机运动而放大不期望的移动。
图14是图示了在光学气体成像过程期间适应于相机运动的过程的过程流程图。该方法包括确定相机的当前操作模式(1400)——诸如例如三脚架模式或手持模式,以及设置用于生成经滤波的背景和前景图像的滤波参数(1402)。如本文中其他地方所述,这样的滤波参数可以是基于热成像相机的当前操作状态的预定义参数。
该方法包括获取图像和生成光学气体成像数据的步骤(1404)。这可以包括例如诸如使用图7-9或公式1-5中的一个或多个来执行本文中描述的任何过程。热成像相机可以继续例如以热成像相机的图像采集帧率获取图像(例如,图8中的新图像804)并且生成光学气体图像数据(例如,光学气体图像840)。
当执行光学气体成像过程时,相机可以分析相机的运动数据(1406)。可以由多种源中的任何一种——例如一个或多个硬件部件(例如,加速度计等)、图像分析(例如,配准处理)等——提供运动数据。相机可以确定是否存在过度运动(1408)。在一些实施例中,相机将运动量(例如,旋转量、基于配准分析的连续场景中的图像数据内的线性运动量等)与第一阈值比较。如果没有检测到相机的过度运动,则相机根据典型操作继续获取图像并生成光学气体成像数据(1404)。
然而,如果检测到过度运动,则相机可以暂时调整或禁用光学气体成像过程中使用的滤波参数(1410)。例如,如果根据公式3-5执行一阶IIR滤波过程,则在步骤1408中感测到过度运动时,相机可以降低值(特别是),以便降低或消除在检测到过度运动之前获取的帧对滤波图像的贡献。这样做可以有助于消除图像中可能使用户困惑或烦恼的杂波或伪像。
在一些示例中,滤波参数中的这样的减小发生在预定的时间段之内,诸如在一秒、半秒等之内。在一些这样的实施例中,在这样的时间段期满之后,根据诸如在步骤1400中建立的正常操作模式(1412)重置滤波参数,并且光学气体成像在步骤1404处继续。
在其他示例中,在调整滤波参数(1410)之后,相机可以继续分析如由1410与1406之间的虚线表示的运动数据(1406),并且确定是否仍然存在过度运动(1408)。如果是,则相机维持减小的滤波参数并继续分析运动直到检测到的运动(例如,在连续帧之间)降低到第二阈值以下。在一些这样的示例中,第二阈值可以等于第一阈值,或者可以不同于第一阈值。如果在1408不再检测到过度运动,则在光学气体成像恢复之前,根据操作模式重置滤波参数(1412)。
在一些示例中,对经滤波的图像(例如,经滤波的背景图像)中的杂波或混乱有贡献的场景改变是由于除相机运动之外的改变所致。目标场景中的热改变有效地改变了跨多个帧捕获的图像数据,这可能导致如本文中其他地方所述的由相机运动带来的类似误差。例如,如果一个人意外地走过目标场景,则即使在该人离开目标场景之后,来自该人的残余热伪像也可能保留在滤波图像中。在示例性实施例中,如果一个人移动到目标场景中,则表示该人的热图像数据通常将在几个时间常数的过程之中在经滤波的背景图像中被构建。然而,由于前景时间常数通常比背景时间常数短,因此表示该人的热图像数据将在经滤波的前景图像中比在背景图像中构建得更快。因此,当比较经滤波的背景和前景图像以生成光学气体图像数据时,背景和前景图像中该人的热特征之间的差异将使移动的人出现在光学气体图像中。
相同的原理将适用于目标场景中任何实质性的热改变。类似于相机的运动,目标场景的热特性的改变将倾向于引起由于在热数据改变之前的先前场景的残余伪像所致的图像的杂乱。如同本文中其他地方描述的运动一样,这样的残余伪像通常将持续若干个时间常数,直到最终从滤波图像数据衰减。
由于目标场景中的热改变所致的滤波图像中的伪像可以以类似于解决由于场景运动(例如,相机运动/抖动)所致的伪像的方式来解决。图15是图示在光学气体成像过程期间适应于热改变的过程的过程流程图。图15的方法类似于图14中所示的方法。该方法类似地包括确定相机的当前操作模式(1500)和设置用于生成经滤波的背景和前景图像的滤波参数(1502)。该方法包括获取图像和生成光学气体成像数据的步骤(1504)。
根据图15的方法,在执行光学气体成像过程时,相机可以分析由相机成像的目标场景的热数据(1506)。热改变可以由任何多种源引起,所述多种源诸如是对象进入或离开场景,或者场景中发生的引起显著热改变的事件。相机可以例如通过将检测到的改变与阈值进行比较来确定是否存在过度的热改变(1508)。阈值可以包括例如超过阈值的绝对温度改变或超过阈值的温度改变率。在示例性实施例中,相机将目标场景中温度的改变率(例如,帧到帧的改变)与第一阈值比较。如果没有检测到过度的热改变,则相机根据典型操作继续获取图像并生成光学气体成像数据(1504)。
然而,如果检测到过度的热改变,则相机可以暂时调整或禁用在光学气体成像过程中使用的滤波参数(1510)。例如,如果根据公式3-5执行一阶IIR滤波过程,则在步骤1508中感测到过度的热改变时,相机可以减小值(特别是),以便减小或消除在检测到过度热改变之前获取的对滤波图像的贡献帧。这样做可以有助于消除图像中可能使用户困惑或烦恼的杂波或伪像。
如本文中其他地方所述,在一些示例中,滤波器参数(例如,、等。)可以在示例性滤波过程期间在图像内变化。例如,在一阶IIR滤波过程中,一些像素或像素组可以用与其他像素或像素组不同的时间常数来更新。关于图14和图15,在检测到的图像数据中的某些改变可以被局部化到图像内的某些区域。例如,关于图15,在一些环境中,由于图像中出现局部化热点(例如,人进入场景的一部分),可能发生过度的热改变(1508),而不影响场景的其他部分。在一些示例中,受热改变影响的像素或区域(例如,包括进入场景的人的像素)可以被标识并与未受改变影响的像素或区域区分。在一些这样的示例中,可以仅针对其中检测到过度热改变(1508)的像素或区域执行暂时调整或禁用滤波参数(1510)。在示例性实施例中,可以通过分析连续或几乎连续的未滤波(例如,新的)红外图像来检测这样的热改变。这样的图像的比较可以用于确定可能对光学气体成像有负面影响的过度温度改变的存在和位置。
类似地,关于图14,如本文中其他地方所述,可以分析某些视频压缩标准(例如,MPEG)以检测场景内的运动(例如,经由运动矢量分析)。在一些实施例中,可以使用这样的视频分析来检测整个场景的运动(例如,由于相机运动)。然而,在其他示例中,这样的分析可以用于确定经历场景到场景运动的图像的部分(例如,受场景内移动影响的部分)。类似地,在一些这样的示例中,与经历过度运动的单个区域或像素相关联的滤波参数(1408)可以被暂时调整或禁用(1410),而其他区域(例如,没有经历过度运动)的滤波参数可以保持不受影响。在一些实施例中,可以针对红外图像数据执行确定过度运动的图像处理。附加地或替代地,可以针对对应的可见光图像数据执行这样的图像处理。在一些示例中,可见光图像数据提供了更清楚的图像,其中可以比在红外图像数据中更容易地执行这样的运动分析。
在仍另外的实施例中,由于检测到的场景改变(例如,场景内运动或孤立的温度改变)而调整的滤波参数的量可以取决于作为这样的位置检测到的场景改变的量。例如,在一些实施例中,经历过度热改变的区域或像素的滤波参数的量(1508)被调整了取决于检测到的热改变量的量。
图14和图15的过程通常有效地最小化由于场景中的大量相机运动或温度改变所致的光学气体图像中的伪像,诸如当用户从一个场景移动到另一个场景时或者当暂时热异常出现在场景中时。然而,其他问题也可能对光学气体成像过程有负面影响。在一些情况下,相机可能始终受制于小量运动,诸如相机操作员的手抖动。在一些示例中,这样的运动在量值上可以足够小,以至于不构成图14中在步骤1408中的“过度运动”,并且因此将不导致根据图14的方法调整的滤波参数。在其他示例中,如果在步骤1408中手抖动确实构成了“过度运动”,但是始终在发生,则可能过于频繁地调整或禁用滤波参数以执行任何适当的气体成像过程。附加地,如本文中其他地方所述,在手持模式下操作相机可以用于最小化手运动的影响,但经常伴随有更短的取平均时间以及因此更低的信噪比,从而降低了光学气体成像灵敏度。
在一些示例中,可以通过使用图像配准和/或稳定化技术来补偿小量运动,这可以使用硬件和/或软件解决方案来执行。例如,陀螺仪稳定化的万向架平台可以用于近似实时地物理补偿相机自身的帧到帧位移。在一些示例中,可以使用诸如加速度计和/或陀螺仪传感器之类的硬件部件来确定相机位移。
数字校正可以利用搜索表示在当前帧与先前(例如,参考)帧之间的位移的帧到帧位移矢量的方法。一些这样的过程迭代地搜索在当前帧与先前帧之间提供最强相关性的位移矢量。来自硬件运动传感器(例如加速度计、陀螺仪传感器等)的输入可以用作输入“种子”来帮助图像稳定化算法。然而,在热成像相机中采用的各种这样的方法是计算密集型和高成本的。
此外,当这样的稳定化算法被应用于背景减法红外光学气体成像过程(诸如本文所述的一个或多个过程)时,存在各种挑战。未冷却的热成像相机经常经历与未冷却的IR传感器相关联的固定模式噪声(“FPN”),这可能是由于若干个因素,例如增益和偏移参数中的像素到像素变化、1/f像素噪声、相机内的内部红外辐射等。已知用于校正FPN的各种技术,诸如,如例如在2011年1月21日提交的美国申请号13/011,846(其在2014年6月24日发布为美国专利号8,760,509,特此通过引用以其整体并入)中所述的非均匀性校正(“NUC”)过程。一些技术包括向热成像相机的红外传感器呈现基本上均匀的热场景(例如,百叶窗、天空等)以及为每个像素建立NUC减法值,以便移除在该像素处的FPN。
然而,当利用图像稳定化技术执行光学气体成像过程时,FPN可以创建独特的问题,如将参照图16A和图16B所述。图16A和图16B是在光学气体成像过程期间模拟相机运动的示意图示。图16A示出了在热成像相机的16个像素处的示例性热成像数据,其被布置成行a、b、c和d以及列w、x、y和z。一般而言,每个像素将包括与该像素相关联的唯一的FPN量。例如,像素坐标(a,w)包括与其相关联的固定模式噪声FPNa,w。
如所示,对象1600位于图16A中的像素坐标(b,z)处。然而,在图示的示例中,在短时间之后,在图16B的图像中,对象1600位于像素坐标(a,y)处,由于热成像相机在图16A的图像与图16B的图像时间之间的运动被捕获。
如本文中其他地方所述,光学气体成像过程可以被配置为强调场景中的改变,以便观察气体的存在。因此,差异不是由于气体,诸如由于相机运动(例如,在图16A与图16B之间)可能引起运动伪像出现在光学气体图像中。如上所述,可以使用图像稳定化和/或配准过程来校正该差异。例如,如果热成像相机被配置为执行图像稳定化过程以配准图16A和图16B的图像,则这样的过程通常将导致例如图16B中的图像向右移位一个像素,并且向下移位一个像素,使得对象1600在每个捕获的图像中处在相同的位置上。
然而,如果在不同像素位置的图像中存在唯一的FPN,则很可能的是像素坐标(b,z)和像素坐标(a,y)具有与其相关联的不同的FPN量。因此,在图16A中的图像中,与像素(b,z)相关联的IR强度值Ib,z将归因于来自对象1600的贡献Iobj和与像素相关联的FPN FPNb,z的组合。也就是说,相对于图16A:
类似地,在图16B中的图像中,与像素(a,y)相关联的IR强度值Ia,y将归因于来自对象1600的贡献Iobj和与像素相关联的FPN FPNa,y的组合。也就是说,相对于图16B:
因此,如果图16A和图16B的图像在光学气体成像过程期间被配准,则与像素坐标(b,z)和(a,y)相关联的FPN的差异将表现为在单个位置(对象1600在配准图像堆栈中的位置)处的红外图像数据的差异,诸如以上参照图15所述。光学气体成像过程可以起到强调红外图像数据随时间的该明显改变的作用,从而模糊了准确地观察光学气体图像中气体的能力,尽管场景保持静止并且明显改变的来源归因于在不同像素处的不同FPN值这一事实。此外,虽然为了简单起见在本文中描述了图16A和图16B中的对象1600的位置,但是被配准以校正相机运动的一对红外图像中的每个像素通常将具有一些明显的温度改变,这仅仅是由于在成像目标场景的类似部分(例如,对象1600)的不同像素处存在的FPN的差异。
诸如通过执行NUC程序来消除跨场景的FPN可以减轻或消除在使用图像稳定化算法的光学气体成像中出现的这样的问题。然而,FPN可以随着时间推移而演变,并且因此即使执行NUC过程,也可以在光学气体成像期间引起问题。例如,对负面影响光学气体成像过程所需的FPN量通常比对负面影响典型热成像过程将需要的FPN量低得多。因此,在一些这样的情况下,在利用图像稳定化的光学气体成像过程之前短时间执行NUC过程和/或贯穿这样的光学气体成像过程周期性地执行NUC过程可以是有益的,以便最小化在光学气体成像过程期间出现的FPN量。
图17是示出在使用图像稳定化的光学气体成像过程之前和/或期间执行NUC过程的示例性组合的过程流程图。该过程包括发起光学气体成像过程(1700)和执行NUC过程(1700)。在一些示例中,用户可以经由用户接口上的选择来发起光学气体成像过程(1700),诸如图10中所示。在一些实施例中,热成像相机可以自动执行第一NUC过程(1702),或者以其他方式指令用户在发起光学气体成像过程(1700)时执行这样的过程。
在执行NUC过程之后,该方法包括为光学气体成像过程捕获图像(1704)。捕获的图像可以包括例如图8中的新图像804,以供在光学气体成像过程期间使用。接下来,执行图像稳定化过程以将捕获的图像配准到参考位置(1706)。参考位置可以例如通过在过程被发起之后捕获的第一图像的位置来确定。例如,关于图8,第一新图像804可以建立参考位置,并且在稳定化的光学气体成像过程期间捕获的后续“新图像”804可以被配准到该参考位置。因此,如果图像是在稳定化的光学气体成像过程期间第一次捕获的,则配准过程可以包括定义在随后的稳定化配准期间使用的参考位置。
在配准图像之后,可以执行稳定化的光学气体成像过程(1708),诸如图8中所示的气体成像过程,例如同时利用图像稳定化技术将新图像配准到参考位置。图像配准(1706)和NUC过程(1702)的组合有助于补偿相机运动(例如,相机抖动)和/或可能在稳定化的光学气体成像过程期间出现的FPN伪像。
在一些示例中,热成像相机可以被配置为周期性地执行NUC过程或者以其他方式提示用户执行NUC过程。在一些这样的示例中,热成像相机在预定量的时间和/或预定数量的图像帧已经被捕获之后这样做。在一些示例中,在所执行的和/或提示的NUC过程之间的时间量和/或捕获的帧的数量可以取决于一个或多个相机设置。例如,在一些实施例中,在手持光学气体成像模式期间比在三脚架光学气体成像模式期间更频繁地执行和/或提示NUC,因为由于手持抖动所致的更大量的配准可能更快和/或更严重地将FPN伪像包括到光学气体图像数据中。
因此,图17的过程可以包括确定是否更新NUC的步骤(1710)。如果不是,则可以捕获新图像(1704),并且可以使用所捕获的图像来执行稳定化/配准(1706)和光学气体成像(1708)过程,诸如根据图8中所示的过程。如果在步骤1710要更新NUC,则在为光学气体成像过程捕获新图像(1704)之前,可以执行NUC过程(1702)。
在示例性实施例中,用户可以发起类似于图17中所示过程的过程。例如,用户可以通过按压触发器、诸如图1中所示的触发器112,来发起稳定化的光学气体成像过程(1700)。在示例性用例中,用户可以在发起稳定化的光学气体成像过程之前、在不使用图像稳定化的情况下(例如,在手持模式下)执行光学气体成像过程。在按压触发器时,相机可以自动执行NUC过程(1702),并且然后执行稳定化的光学气体成像过程(1708),同时捕获图像(1704)并执行图像稳定化(1706),直到触发器被释放。在一些这样的示例中,用户可以多次执行这样的过程。例如,在示例性气体检查期间,用户可以按压触发器来执行光学气体成像并且观察第一场景中的气体(例如,所选的气体),释放触发器,移动相机以查看第二场景,并且按压触发器以执行光学气体成像并观察第二场景中的气体。
使用图像稳定化过程执行光学气体成像可以允许使用更长的时间常数来改进光学气体成像过程的灵敏度。例如,图像稳定化可以消除定位误差,该定位误差经常使手持光学气体成像容易受到噪声和由于相机运动所致的其他伪像所影响。因此,在一些示例中,相机可以自动地和/或经由用户选择而被配置为在以利用图像稳定化的手持模式进行操作时使用“三脚架模式”光学气体成像时间常数。
例如,进一步参考图10,在一些实施例中,用户可以在三脚架模式与手持模式之间进行选择。在一些实施例中,选择手持模式导致其中用户可以选择启用或禁用图像稳定化的另一屏幕。在一些这样的实施例中,在手持模式下启用图像稳定化比禁用图像稳定化导致更长的时间常数。在一些示例中,使用图像稳定化的手持模式的时间常数与三脚架模式的时间常数近似相同。
在另一个示例中,手持模式自动包括图像稳定化。在一些这样的实施例中,当使用三脚架模式或者当使用利用图像稳定化的手持模式时,光学气体成像时间常数是相同的。在各种示例中,用户可以根据用户设置手动调整一个或多个时间常数,而不管相机采用的默认时间常数。
在利用图像稳定化的光学气体成像过程期间,即使图像被正确配准,在一些情况下,太多的相机指向漂移也导致在要配准的图像之间的非常小的重叠,从而导致用于执行光学气体成像过程的非常小的可用区域。在一些实施例中,相机可以被配置为向用户提供关于在光学气体成像过程期间相机指向正在漂移多少的实时或基本上实时的反馈。
图18A和图18B示出了在光学气体成像期间向用户指示相机指向漂移量的示例性显示接口。图18A示出了示例性显示器1800a,其例如可呈现在图1中的显示器108上。显示器1800a包括指向漂移指示符1810a,其可以用于向用户指示在光学气体成像过程期间(例如,在稳定化的光学气体成像过程期间)相机的指向从参考位置漂移的量和/或方向。在图18A的示例中,指向漂移指示符1810a包括第一标记1820和第二标记1830,第二标记1830稍微小于第一标记1820并且定位在第一标记1820内。在一些实施例中,使用第一1820和第二1830标记实时或基本上实时地更新显示器1800a以指示相机运动。
在示例性实施例中,相机被配置为感测相机的运动或指向漂移,指向漂移例如表示在最近捕获的图像与参考帧(诸如光学气体成像背景图像)之间的相机瞄准的差异。这样的指向漂移可以例如使用一个或多个运动传感器、诸如加速度计和/或陀螺仪传感器来确定。在一些这样的示例中,相机处理器(或另一个系统处理器)可以被配置为从运动传感器接收运动数据,以确定相机相对于先前或参考位置的位移量。附加地或替代地,运动量可以经由图像配准计算来确定,其诸如在图像稳定化过程期间执行。
一旦已经确定了运动量,第一标记1820和第二标记1830就可以相对于彼此被定位以表示运动量。例如,在示例性实施例中,第一标记1820的位置在显示器1800a中是固定的,并且表示参考位置。第二标记1830的位置随着每一帧而更新,以指示捕获图像相对于参考位置的定位。例如,在一些这样的实施例中,如果相机指向在光学气体成像过程期间向上漂移,则在光学气体成像过程期间,第二标记1830将类似地相对于第一标记1820向上移动。因此,向用户提供了关于相机定位的实时或基本上实时的反馈,以帮助用户在光学气体成像过程期间最小化指向漂移。
指向漂移指示符1810a被示为定位在图18A 中显示器1800a中的左上角。 该位置可以允许用户使用他或她的周边视觉来大致查看第二标记1830相对于第一标记1820的运动,同时仍然观察显示器的中心,同时寻找场景中存在的气体的指示。在一些示例中,第一标记1820和/或第二标记1830可以以与场景调色板和/或彼此形成对比的一种颜色或多种颜色来呈现,以便帮助用户观察显示器1800a上第二标记1830相对于第一标记1820的运动。
图18B示出了示例性显示器1800b,其例如可呈现在图1中的显示器108上。显示器1800b包括指向漂移指示符1810b,其可以用于向用户指示在光学气体成像过程期间相机的指向与参考位置漂移的量和/或方向。在图18B的示例中,指向漂移指示符1810b包括第一标记1840和第二标记1850,第二标记1850稍微小于第一标记1840并且定位在第一标记1840内。在一些实施例中,类似于关于图18A描述的显示器1800a,显示器1800b被实时或基本上实时地更新,以使用第一1840和第二1850标记来指示相机运动。
一般而言,图18B中的第一1840和第二1850标记可以类似于图18A中的标记1820和1830起作用,其中第二标记1850相对于第一标记1840移动,以指示相机相对于参考位置的运动。然而,第一1840和第二1850标记不是定位在显示器的角落,而是围绕场景的大部分,从而允许用户观察显示器1800b的中心,并观察在屏幕边缘的第二标记1850的运动。
指向漂移指示符虽然在图18A和图18B中示出为矩形,但通常可以包括任何一个或多个形状,在相机的指向在光学气体成像过程期间漂移时,用户可以观察到所述任何一个或多个形状相对于彼此移动。
在利用图像稳定化的光学气体成像过程期间,诸如通过使用指向漂移指示符1810a或1810b,限制相机的指向漂移可以改进图像稳定化过程的效率。例如,包括一个或多个指向漂移指示符以帮助用户手动校正任何相机位移的实施例可以减少在稳定化过程期间在捕获的图像与参考位置之间的最佳位移矢量的搜索区域。例如,在示例性实施例中,当执行图像稳定化过程时,相机可以利用来自一个或多个位置传感器的数据和/或指向漂移指示符的相对位置(例如,标记1820和1830)来标识参考位置与捕获图像时相机位置之间的近似位移矢量。附加地或替代地,相机可以将最佳位移矢量的搜索区域限制到将导致指示最大指向漂移的指向漂移指示符的那些矢量。例如,在关于图18A的示例性实施例中,执行图像稳定化过程的相机可以将所分析的位移矢量限制到仅将导致使第二标记1830完全保持在第一标记1820的边界内的位移的那些矢量。因此,在这样的实施例中,只要用户在操作期间将第二标记1830维持在第一标记1820内,最适合于将新捕获的图像配准到参考位置的位移矢量就将在所分析的位移矢量内。
在一些示例中,当执行图像稳定化过程时,限制最佳位移矢量的搜索区域减少了使用稳定化过程仍然产生实时或基本上实时的光学气体图像所需的处理负荷。在一些实施例中,减少的处理负载使得能够执行附加的或计算需求更高的处理步骤,同时仍然产生实时或基本上实时的图像数据。例如,在一些实施例中,图像稳定化技术可以利用亚像素图像配准技术来在实时或近似实时的光学气体成像期间实现捕获图像到参考位置的进一步改进的配准。
附加地或替代地,通过使用用于配准的可用像素的子集来执行稳定化过程,可以减少图像稳定化的计算需求。在一些这样的示例中,用户可以在图像中定义用于执行稳定化计算的子区域。在各种实施例中,这可以包括绘制区域或图像的轮廓或者将预定义的形状覆盖在图像上,以标识将在图像稳定化期间使用的区域。
利用图像数据子集进行图像稳定化可以减少用于实现准确配准所必需的处理时间和/或资源。附加地或替代地,在一些示例中,如果场景的一部分包括移动对象(例如,云),则稳定化过程可以被限制到图像的某个区域,该区域通常不包括可能以其他方式干扰配准过程的这样的移动对象。此外,在一些示例中,在生成图像数据(例如,红外图像数据)中使用的透镜在结果得到的图像数据中提供一定程度的图像失真(例如,桶形失真)。在一些这样的情况下,由于这样的失真,用于执行图像稳定化的最佳位移矢量在图像域之上变化,导致不可靠的配准和/或用于确定最佳位移矢量的增加的计算需求。在一些这样的情况下,图像稳定化计算可以被限制到在最不可能受到失真影响的图像区域、诸如位于中心的小区域中执行。
在各种示例中,可以以多种方式选择在图像稳定化计算期间使用的区域。在一些实施例中,用户可以从预定义的选项列表选择区域,该区域诸如例如是全图像、被预定义为减少透镜筒形失真影响的区域、由指向漂移指示符(诸如第一标记1820)定义的区域等。附加地或替代地,如本文中其他地方所指出的,用户可以定义定制区域,在该定制区域中限制图像稳定化过程,诸如通过在图像之上定位预定义的形状和/或为预定义的形状定大小,或者在图像之上绘制定制形状。
本文中所述的图像滤波、稳定化和光学气体成像技术可以用于降低热图像的噪声,使得可以从噪声中分辨出由于目标场景中存在红外吸收气体所致的场景之间的改变。类似地,滤波技术的适应性可以适用于手持和三脚架安装的相机二者,从而使噪声降低最大化,而不将错误的残余伪像引入到图像数据中。
滤波和对应的光学气体成像技术可以例如在包括未冷却感测阵列的热成像相机中使用,并且不需要昂贵的光学陷波和/或带通滤波器,从而大大降低了用于执行这样的过程的便携式系统的成本和复杂性。类似地,与更复杂的冷却热成像相机相比,这样的未冷却相机本身可以更小、更轻,并且更容易从一个位置运输到另一个位置,从而增加了使用单个相机在多个位置上执行高质量的光学气体成像过程的容易性和能力。
可以使用一个或多个处理器来执行本文中描述的过程,诸如生成经滤波的背景和前景图像以及光学气体图像数据,所述一个或多个处理器诸如是嵌入热成像相机中的处理器222,所述热成像相机被配置为捕获被滤波的图像。在一些实施例中,被配置为执行这样的过程中的一些或全部的处理器可以与获取图像数据的(一个或多个)热成像相机分离地定位。
例如,在一些实施例中,热成像相机可以固定地定位在适当的位置,用于被测装备的连续热分析。热成像相机可以被配置为获取目标场景的热图像数据,并且将热图像数据传送到外部设备以供后续处理,所述外部设备诸如是工作站、云、技术人员的移动设备(例如,智能电话、平板计算机等)等等。在一些这样的示例中,可以诸如经由在工作站上操作的软件、在技术人员的移动设备上运行的应用(“app”)、云计算等在外部设备处采取各种处理步骤。
在一些示例中,可以通过在外部设备处理所捕获的图像来执行基本上实时的光学气体成像过程。在这样的示例中,用于获取图像数据的热成像相机可以是便宜的并且包括最小的处理能力,但是可以捕获用于光学气体成像分析的图像。附加地或替代地,在一些示例中,在本文中描述的各种过程中的处理步骤可以在多种部件之间被划分,所述多种部件诸如是捕获热图像的热成像相机、外部设备等。
已经描述了各种实施例。这样的示例是非限制性的,并且不以任何方式限定或限制本发明的范围。相反,这些和其他示例在以下权利要求书的范围内。
Claims (22)
1.一种热成像系统,包括:
红外相机模块;
用户接口;
显示器
与用户接口、显示器和红外相机模块通信的处理器,所述处理器被配置为经由红外相机模块捕获红外图像;和
存储器,与处理器通信并且包括用于执行光学气体成像过程的指令,其中所述指令使得处理器在检测到来自用户接口的致动时:
(a)执行非均匀性校正过程,以降低或消除来自红外图像数据的固定模式噪声,所述红外图像数据来自红外相机模块;
(b)经由红外相机模块多次捕获红外场景的红外图像,每个捕获的红外图像经受非均匀性校正;
(c)经由图像稳定化过程配准多个捕获的图像;
(d)执行光学气体成像过程以生成强调红外场景中的改变的光学气体图像数据;和
(e)生成包括所生成的光学气体图像数据的显示图像,以供呈现在显示器上。
2.根据权利要求1所述的系统,其中光学气体图像数据和显示图像是通过重复地执行步骤(b)-(e)来实时或基本上实时生成的。
3.根据权利要求2或任何前述权利要求所述的系统,其中显示图像实时或基本上实时地呈现在显示器上。
4.根据权利要求3或任何前述权利要求所述的系统,其中显示图像进一步包括漂移指示符,所述漂移指示符指示红外相机模块与参考位置的相对运动。
5.根据权利要求4或任何前述权利要求所述的系统,其中漂移指示符包括指示参考位置的第一标记和指示红外相机模块相对于参考位置的位置的第二标记。
6.根据权利要求2至权利要求5或任何前述权利要求中的任一项所述的系统,其中重复步骤(b)-(e),而不重复步骤(a),直到用户接口不再被致动。
7.根据权利要求6或任何前述权利要求所述的系统,其中用户接口包括可按压的触发器,并且其中用户接口的致动包括按压触发器,使得当触发器被按压时重复步骤(b)-(e),并且在触发器被释放之后,步骤(b)-(e)中的至少一个不再被重复。
8.根据权利要求7或前述权利要求中任一项所述的系统,其中,在释放触发器之后,在随后按压触发器时,处理器被配置为执行新的非均匀性校正过程,并且然后实时或基本上实时地执行并重复步骤(b)-(e),直到触发器被释放。
9.根据前述权利要求中任一项所述的系统,其中处理器被配置为通过使用第一滤波过程组合来自由红外相机模块捕获的第一多个红外图像的红外图像数据来创建经滤波的背景图像,第一滤波过程包括第一滤波参数;和
通过使用第二滤波过程组合来自由红外相机模块捕获的第二多个红外图像的红外图像数据来创建经滤波的前景图像,第二滤波过程包括第二滤波参数;其中生成光学气体图像数据包括比较经滤波的背景图像和经滤波的前景图像。
10.根据前述权利要求中任一项所述的系统,其中热成像系统被并入到手持热成像相机中。
11.一种用于执行光学气体成像的方法,包括:
(a)接收用于执行光学气体成像过程的命令;
(b)执行非均匀性校正过程以消除或降低来自红外相机模块的固定模式噪声;
(c)随时间捕获多个红外图像;
(d)经由实时或基本上实时的图像稳定化过程来配准多个捕获的红外图像;
(e)处理捕获的多个图像以实时或基本上实时地生成光学气体图像数据;
(f)实时或基本上实时地生成并且显示包括所生成的光学气体图像数据的显示图像;和
(g)实时或基本上实时地重复步骤(b)-(f)。
12.根据权利要求11所述的方法,进一步包括接收用于停止执行光学气体成像过程的命令,并且其中在接收到用于停止执行光学气体成像过程的命令时停止步骤(b)-(f)的重复。
13.根据权利要求12或权利要求11所述的方法,其中所接收的用于执行光学气体成像过程的命令包括检测触发器的按压,并且其中所接收的用于停止执行光学气体成像过程的命令包括检测触发器的释放。
14.根据权利要求11、12或13所述的方法,其中在步骤(d)中经由实时或基本上实时的图像稳定化过程配准多个捕获的图像包括将多个捕获的图像中的每一个配准到参考图像,并且进一步包括针对所述多个图像中的每一个,使用捕获图像和参考图像执行相关性计算,并且其中使用图像数据的子区域执行相关性计算。
15.一种热成像系统,包括:
红外相机模块,被配置为捕获红外辐射并且生成包括红外图像数据的目标场景的红外图像;
存储器;和
与红外相机模块和存储器通信的处理器,所述处理器被配置为:
从红外相机模块接收红外图像数据;
确定红外图像数据中多个区域中的每一个的表观背景温度;
接收表示目标气体温度的数据;和
针对所述多个区域中的每一个:
基于接收到的数据将所述区域中的表观背景温度与目标气体的温度进行比较,以确定温差值;
将温差值与同目标气体相关联的最小温差值进行比较;和
如果温差值在最小温差值以下,则认为这样的区域缺乏足够的对比度来可靠地观察所述区域内的目标气体。
16.根据权利要求15所述的系统,进一步包括与处理器通信并且被配置为向处理器提供空气温度信息的空气温度传感器,并且其中接收表示目标气体温度的数据包括从空气温度传感器接收空气温度信息。
17.根据权利要求15或16所述的系统,其中处理器进一步被配置为:
经由用户接口接收选择,所述选择指示被认为是目标气体的气体类型;
经由用户接口接收选择,所述选择指示将经由光学气体成像过程来查看的目标气体的最小量;和
基于接收到的目标气体的选择和接收到的目标气体的最小量的选择来确定最小温差值,使得如果温差值在给定区域的最小温差值以下,则将认为这样的区域缺乏足够的对比度来可靠地观察以所选最小量的所选目标气体。
18.根据权利要求17或权利要求15或16所述的系统,其中气体类型和目标气体的最小量的选择对应于行业标准。
19.根据权利要求17或18或权利要求15或16所述的系统,其中使用存储在存储器中的查找表,基于接收到的目标气体的选择和接收到的目标气体的最小量的选择来确定最小温差值。
20.根据权利要求15至权利要求19中任一项所述的系统,进一步包括与处理器通信的显示器,并且其中处理器进一步被配置为:
经由光学气体成像过程生成光学气体图像数据,光学气体图像数据包括与捕获的红外图像数据中的多个区域相对应的多个区域;
生成包括光学气体图像数据的显示图像数据,显示图像数据具有与光学气体图像数据和红外图像数据中的多个区域相对应的多个区域;和
输出用于在显示器上呈现的显示图像;其中
显示图像中与被认为缺乏足够对比度来可靠地观察所述区域内的目标气体的区域相对应的区域以视觉上可区分于被认为缺乏足够对比度来可靠地观察所述区域内的目标气体的区域的方式呈现。
21.根据权利要求20或权利要求15至19中任一项所述的系统,其中处理器被配置为:
通过使用第一滤波过程组合来自由红外相机模块捕获的第一多个红外图像的红外图像数据来创建经滤波的背景图像,第一滤波过程包括第一滤波参数;和
通过使用第二滤波过程组合来自由红外相机模块捕获的第二多个红外图像的红外图像数据来创建经滤波的前景图像,第二滤波过程包括第二滤波参数;其中
生成光学气体图像数据包括比较经滤波的背景图像和经滤波的前景图像。
22.根据权利要求15-21中任一项所述的系统,其中热成像系统被并入到手持热成像相机中。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862676700P | 2018-05-25 | 2018-05-25 | |
US62/676700 | 2018-05-25 | ||
PCT/US2019/033779 WO2019226908A1 (en) | 2018-05-25 | 2019-05-23 | Optical gas imaging systems and method compatible with uncooled thermal imaging cameras |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112567217A true CN112567217A (zh) | 2021-03-26 |
Family
ID=66858016
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980049386.6A Pending CN112567217A (zh) | 2018-05-25 | 2019-05-23 | 与未冷却热成像相机兼容的光学气体成像系统和方法 |
Country Status (4)
Country | Link |
---|---|
US (2) | US11641441B2 (zh) |
EP (1) | EP3803298A1 (zh) |
CN (1) | CN112567217A (zh) |
WO (1) | WO2019226908A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114782902A (zh) * | 2022-06-22 | 2022-07-22 | 中国科学技术大学先进技术研究院 | 石化气体泄露检测方法、系统、设备及存储介质 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018183973A1 (en) * | 2017-03-31 | 2018-10-04 | Flir Systems Ab | Gas imaging systems and methods |
US11598716B2 (en) * | 2017-09-27 | 2023-03-07 | Konica Minolta, Inc. | Gas image device and image acquisition method |
EP3707497B1 (en) * | 2017-11-09 | 2022-09-28 | Rebellion Photonics, Inc. | Window obscuration sensors for mobile gas and chemical imaging cameras |
FR3094792B1 (fr) * | 2019-04-08 | 2021-10-15 | Office National Detudes Rech Aerospatiales | Detecteur de gaz |
US11386530B2 (en) * | 2020-02-26 | 2022-07-12 | Flir Systems Ab | Digital filter for turbulence reduction and gas detection in thermal images |
CN111751003B (zh) * | 2020-06-10 | 2022-12-13 | 四川省东宇信息技术有限责任公司 | 一种热像仪温度修正系统、方法及热像仪 |
US11881129B2 (en) * | 2021-04-30 | 2024-01-23 | Microsoft Technology Licensing, Llc | Systems and methods for adding persistence to single photon avalanche diode imagery |
US20220353489A1 (en) * | 2021-04-30 | 2022-11-03 | Microsoft Technology Licensing, Llc | Systems and methods for efficient generation of single photon avalanche diode imagery with persistence |
US20230175958A1 (en) * | 2021-12-06 | 2023-06-08 | Honeywell International Inc. | Vibration correction methods and systems for gas detecting apparatuses |
DE102022105056A1 (de) | 2022-03-03 | 2023-09-07 | Grandperspective GmbH | Mobiler Gassensor und Verfahren zur Detektion und Abbildung von Gasemissionen |
US11867559B2 (en) | 2022-04-25 | 2024-01-09 | Snap-On Incorporated | Thermal imager devices |
CN116095914B (zh) * | 2023-04-10 | 2023-08-25 | 同方德诚(山东)科技股份公司 | 一种基于大数据的智慧建筑照明调节方法及系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100131225A1 (en) * | 2008-11-26 | 2010-05-27 | Fluke Corporation | System and method for detecting thermographic anomalies |
US20100292952A1 (en) * | 2009-03-27 | 2010-11-18 | Fluke Corporation | System and method for determining accuracy of an infrared thermometer measurement |
CN101960489A (zh) * | 2007-12-31 | 2011-01-26 | 真实成像有限公司 | 用于分析热图像的方法、设备和系统 |
US20110254952A1 (en) * | 2008-08-04 | 2011-10-20 | Redshift Systems Corporation | System for producing enhanced thermal images |
US20130321637A1 (en) * | 2009-03-02 | 2013-12-05 | Flir Systems, Inc. | Monitor and control systems and methods for occupant safety and energy efficiency of structures |
US20160238451A1 (en) * | 2015-02-18 | 2016-08-18 | Providence Photonics, Llc | Apparatus and method for validating leak survey results |
CN107864375A (zh) * | 2016-09-22 | 2018-03-30 | 弗兰克公司 | 带对准分析的成像设备 |
Family Cites Families (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5656813A (en) | 1995-04-04 | 1997-08-12 | Gmd Systems, Inc. | Apparatus for imaging gas |
US7035475B1 (en) * | 1999-06-17 | 2006-04-25 | Raytheon Company | Non-traditional adaptive non-uniformity compensation (ADNUC) system employing adaptive feedforward shunting and operating methods therefor |
WO2002027297A1 (en) | 2000-09-28 | 2002-04-04 | Sandia Corporation | Pulsed laser linescanner for a backscatter absorption gas imaging system |
US7189970B2 (en) | 2003-08-29 | 2007-03-13 | Power Diagnostic Technologies Ltd. | Imaging of fugitive gas leaks |
US8531562B2 (en) | 2004-12-03 | 2013-09-10 | Fluke Corporation | Visible light and IR combined image camera with a laser pointer |
WO2006060746A2 (en) | 2004-12-03 | 2006-06-08 | Infrared Solutions, Inc. | Visible light and ir combined image camera with a laser pointer |
EP1828749A1 (en) | 2004-12-17 | 2007-09-05 | Honeywell Analytics AG | Transmitter unit for open path gas detector |
US7851758B1 (en) | 2005-09-29 | 2010-12-14 | Flir Systems, Inc. | Portable multi-function inspection systems and methods |
US7649174B2 (en) * | 2008-02-11 | 2010-01-19 | Flir Systems, Inc. | Thermography camera configured for gas leak detection |
US7995859B2 (en) * | 2008-04-15 | 2011-08-09 | Flir Systems, Inc. | Scene based non-uniformity correction systems and methods |
BRPI0921770A2 (pt) | 2008-11-04 | 2016-01-05 | Univ Rice William M | espectrômetros de mapeamento de imagem |
US20160156880A1 (en) * | 2009-06-03 | 2016-06-02 | Flir Systems, Inc. | Durable compact multisensor observation devices |
US9292909B2 (en) * | 2009-06-03 | 2016-03-22 | Flir Systems, Inc. | Selective image correction for infrared imaging devices |
EP2604033A2 (en) | 2010-08-11 | 2013-06-19 | Flir Systems, Inc. | Infrared camera detection systems and methods |
US8760509B2 (en) * | 2010-12-31 | 2014-06-24 | Fluke Corporation | Thermal imager with non-uniformity correction |
WO2012142048A2 (en) * | 2011-04-11 | 2012-10-18 | Flir Systems, Inc. | Techniques for selective noise reduction and imaging system characterization |
US20130278771A1 (en) | 2011-06-10 | 2013-10-24 | Flir Systems, Inc. | Systems and methods for monitoring vehicle wheel assembly |
EP2590138B1 (en) * | 2011-11-07 | 2019-09-11 | Flir Systems AB | Gas visualization arrangements, devices, and methods |
DE102013004073A1 (de) | 2013-03-11 | 2014-09-11 | Martin Vorbach | Videostromauswertung |
JP6221333B2 (ja) | 2013-05-07 | 2017-11-01 | 富士通株式会社 | 画像処理装置、画像処理回路及び画像処理方法 |
CA2870419C (en) | 2013-11-12 | 2023-05-16 | Rebellion Photonics, Inc. | Divided-aperture infra-red spectral imaging system |
US9436367B2 (en) | 2013-12-18 | 2016-09-06 | Flir Systems Ab | Processing an infrared (IR) image based on swipe gestures |
US9990730B2 (en) | 2014-03-21 | 2018-06-05 | Fluke Corporation | Visible light image with edge marking for enhancing IR imagery |
US20170026588A1 (en) | 2014-05-01 | 2017-01-26 | Rebellion Photonics, Inc. | Dual-band divided-aperture infra-red spectral imaging system |
US9464984B2 (en) * | 2014-06-20 | 2016-10-11 | Fluke Corporation | Laser illuminated gas imaging device for determining inoperable gas detection pixels |
US20160080666A1 (en) | 2014-09-17 | 2016-03-17 | Fluke Corporation | Test and measurement system with removable imaging tool |
JP5996687B2 (ja) | 2015-02-10 | 2016-09-21 | 浜松ホトニクス株式会社 | 検査装置及び検査方法 |
WO2016197010A1 (en) * | 2015-06-05 | 2016-12-08 | Flir Systems, Inc. | Systems and methods for enhanced dynamic range infrared imaging |
US10152811B2 (en) | 2015-08-27 | 2018-12-11 | Fluke Corporation | Edge enhancement for thermal-visible combined images and cameras |
WO2017100099A1 (en) * | 2015-12-07 | 2017-06-15 | Flir Systems, Inc. | Uncooled gas imaging camera |
US10038849B2 (en) | 2016-03-16 | 2018-07-31 | Panasonic Intellectual Property Mangement Co., Ltd. | Imaging device with controlled timing of images to be synthesized based on shake residual |
US10931901B2 (en) * | 2016-08-31 | 2021-02-23 | Flir Systems Ab | Method and apparatus for selectively correcting fixed pattern noise based on pixel difference values of infrared images |
CN108419062B (zh) * | 2017-02-10 | 2020-10-02 | 杭州海康威视数字技术股份有限公司 | 图像融合设备和图像融合方法 |
US11022546B2 (en) * | 2017-05-16 | 2021-06-01 | Fluke Corporation | Optical gas imaging systems and methods |
US10701296B2 (en) * | 2017-10-18 | 2020-06-30 | RPX Technologies, Inc. | Thermal camera with image enhancement derived from microelectromechanical sensor |
-
2019
- 2019-05-23 US US17/054,096 patent/US11641441B2/en active Active
- 2019-05-23 EP EP19730626.9A patent/EP3803298A1/en active Pending
- 2019-05-23 CN CN201980049386.6A patent/CN112567217A/zh active Pending
- 2019-05-23 WO PCT/US2019/033779 patent/WO2019226908A1/en unknown
-
2023
- 2023-04-11 US US18/298,864 patent/US20230247171A1/en active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101960489A (zh) * | 2007-12-31 | 2011-01-26 | 真实成像有限公司 | 用于分析热图像的方法、设备和系统 |
US20110254952A1 (en) * | 2008-08-04 | 2011-10-20 | Redshift Systems Corporation | System for producing enhanced thermal images |
US20100131225A1 (en) * | 2008-11-26 | 2010-05-27 | Fluke Corporation | System and method for detecting thermographic anomalies |
US20130321637A1 (en) * | 2009-03-02 | 2013-12-05 | Flir Systems, Inc. | Monitor and control systems and methods for occupant safety and energy efficiency of structures |
US20100292952A1 (en) * | 2009-03-27 | 2010-11-18 | Fluke Corporation | System and method for determining accuracy of an infrared thermometer measurement |
US20160238451A1 (en) * | 2015-02-18 | 2016-08-18 | Providence Photonics, Llc | Apparatus and method for validating leak survey results |
CN107864375A (zh) * | 2016-09-22 | 2018-03-30 | 弗兰克公司 | 带对准分析的成像设备 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114782902A (zh) * | 2022-06-22 | 2022-07-22 | 中国科学技术大学先进技术研究院 | 石化气体泄露检测方法、系统、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2019226908A1 (en) | 2019-11-28 |
US20210218909A1 (en) | 2021-07-15 |
US11641441B2 (en) | 2023-05-02 |
US20230247171A1 (en) | 2023-08-03 |
EP3803298A1 (en) | 2021-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11641441B2 (en) | Optical gas imaging systems and method compatible with uncooled thermal imaging cameras | |
US10726559B2 (en) | Visible light image with edge marking for enhancing IR imagery | |
US11022546B2 (en) | Optical gas imaging systems and methods | |
US10015474B2 (en) | Methods for end-user parallax adjustment | |
JP6430447B2 (ja) | 可視光画像データ及び赤外線画像データの組合せシステム、熱画像カメラ、赤外線画像を強調する方法を実行する命令を記録したコンピュータ読み取り可能な記録媒体 | |
US10713781B2 (en) | Systems and methods for determining regions suitable for gas imaging processes | |
EP2741491B1 (en) | Camera and method for thermal image noise reduction using post processing techniques | |
US9635283B2 (en) | Thermal imager with large dynamic range and improved signal-to-noise ratio | |
US10965889B2 (en) | Thermal imager that analyzes temperature measurement calculation accuracy | |
CN107836111B (zh) | 用于增强动态范围红外成像的系统和方法 | |
US20140267757A1 (en) | Parallax correction in thermal imaging cameras | |
US20120320189A1 (en) | Thermal imager that analyzes temperature measurement calculation accuracy | |
EP3403397B1 (en) | Through-focus image combination |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |