JP7373777B2 - 赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラム - Google Patents

赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラム Download PDF

Info

Publication number
JP7373777B2
JP7373777B2 JP2021561179A JP2021561179A JP7373777B2 JP 7373777 B2 JP7373777 B2 JP 7373777B2 JP 2021561179 A JP2021561179 A JP 2021561179A JP 2021561179 A JP2021561179 A JP 2021561179A JP 7373777 B2 JP7373777 B2 JP 7373777B2
Authority
JP
Japan
Prior art keywords
thermal image
temperature
infrared
output signal
temperature correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021561179A
Other languages
English (en)
Other versions
JPWO2021106322A1 (ja
Inventor
良太 須藤
那由多 南
延亮 島本
直紀 小林
翔也 木田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2021106322A1 publication Critical patent/JPWO2021106322A1/ja
Application granted granted Critical
Publication of JP7373777B2 publication Critical patent/JP7373777B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • H04N23/23Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only from thermal infrared radiation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/0022Radiation pyrometry, e.g. infrared or optical thermometry for sensing the radiation of moving bodies
    • G01J5/0025Living bodies
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/80Calibration
    • G01J5/802Calibration by correcting for emissivity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/20Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming only infrared radiation into image signals
    • H04N25/21Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming only infrared radiation into image signals for transforming thermal infrared radiation into image signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J2005/0077Imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/10Radiation pyrometry, e.g. infrared or optical thermometry using electric radiation detectors
    • G01J2005/106Arrays

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • General Health & Medical Sciences (AREA)
  • Vascular Medicine (AREA)
  • Radiation Pyrometers (AREA)

Description

本開示は、赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラムに関する。より詳細には、本開示は、物体からの赤外線を受光することで物体を撮像する赤外線処理システム、赤外線処理システムを用いた赤外線センサシステム、赤外線処理方法、及び、プログラムに関する。
特許文献1に記載の赤外線カメラは、赤外線センサと、補正候補特定部と、差分算出部と、補正処理部とを備えている。補正候補特定部は、赤外線センサの各画素のうちで、画素値が所定の閾値以下の画素を画像中の背景を撮像した画素とみなして、この画素を補正候補として特定する。差分算出部は、補正候補の画素のうちで、画素値が基準値と異なる画素に対して、その差分を補正係数として設定する。補正処理部は、補正係数が設定された画素の画素値をその補正係数を用いて補正して、補正した値を出力値として出力する。
特許文献1には、赤外線カメラの検出可能な温度範囲については、特に記載されていない。一般的に、赤外線カメラの検出可能な温度範囲は、色々な物体の温度が検出できるように、広く設定されている。このため、赤外線カメラの出力信号(電圧)を温度に変換して熱画像を生成するとき、誤差が発生し易い。したがって、赤外線カメラの熱画像の温度分布には、誤差が多く含まれる。この結果、撮像対象の物体の温度を赤外線カメラの熱画像から検出するとき、精度よく検出できない。また、赤外線カメラで異なる温度の物体の温度を精度よく検出したいという要求がある。
特開2003-259217号公報
本開示は、異なる温度の物体の温度を精度よく検出できる赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラムを提供することを目的とする。
本開示の一態様の赤外線処理システムは、物体からの赤外線を受光する撮像素子の出力信号を処理する処理部を備える。前記処理部は、第1熱画像生成部と、物体抽出部と、第2熱画像生成部と、物体温度算出部と、を備える。前記第1画像生成部は、第1温度補正値を用いて前記撮像素子の出力信号から第1熱画像を生成する。前記物体抽出部は、前記第1熱画像生成部で生成された前記第1熱画像から前記物体を抽出する。第2熱画像生成部は、前記物体抽出部で抽出された前記物体に対応した第2温度補正値を用いて、前記撮像素子の出力信号から第2熱画像を生成する。前記物体温度算出部は、前記第2熱画像生成部で生成された前記第2熱画像に基づいて、前記物体抽出部で抽出された前記物体の温度を算出する。
本開示の一態様の赤外線センサシステムは、前記赤外線処理システムと、前記撮像素子と、を備える。
本開示の一態様の赤外線処理方法は、物体からの赤外線を受光する複数の受光素子を有する撮像素子の出力信号を処理する処理工程を有する。前記処理工程は、第1熱画像生成工程と、物体抽出工程と、第2熱画像生成工程と、物体温度算出工程と、を含む。前記第1画像生成工程は、第1温度補正値を用いて前記撮像素子の出力信号から第1熱画像を生成する。前記物体抽出工程は、前記第1熱画像生成工程で生成された前記第1熱画像から前記物体を抽出する。第2熱画像生成工程は、前記物体抽出工程で抽出された前記物体に対応した第2温度補正値を用いて、前記撮像素子の出力信号から第2熱画像を生成する。前記物体温度算出工程は、前記第2熱画像生成工程で生成された前記第2熱画像に基づいて、前記物体抽出工程で抽出された前記物体の温度を算出する。
本開示の一態様のプログラムは、前記赤外線処理方法をコンピュータシステムに実行させるためのプログラムである。
図1は、実施形態に係る赤外線センサシステムのブロック図である。 図2Aは、第1熱画像の一例を説明する説明図である。図2Bは、物体情報の一例を説明する説明図である。 図3は、同上の赤外線センサシステムのフローチャートである。 図4は、変形例3に係る赤外線センサシステムのブロック図である。
(実施形態)
図1~図3を参照して、本実施形態に係る赤外線センサシステム10について説明する。
図1に示すように、赤外線センサシステム10は、撮像対象の物体からの赤外線を受光することで物体を熱画像として撮像し、撮像対象の物体の温度を熱画像から検出するシステムである。以下の説明では、撮像対象の物体として、例えば人の顔及び胴体(衣服)が撮像され、人の顔及び胴体(衣服)の温度が検出される場合を例示する。
赤外線センサシステム10は、撮像素子1と、赤外線処理システム2とを備えている。
撮像素子1は、撮像対象の物体(例えば人の顔及び胴体)からの赤外線を受光することで物体を撮像する素子である。撮像素子1は、複数の赤外線受光素子3と、基板4とを備えている。赤外線受光素子3は、基板4の一方の主面に縦横(すなわちマトリクス状)に並べられて配置されている。各赤外線受光素子3は、物体からの赤外線を受光し、受光した赤外線を、赤外線の持つ熱エネルギに応じた電圧の電気信号に変換する。複数の赤外線受光素子3は、熱画像を構成する複数の画素に1対1で対応し、各赤外線受光素子3の出力信号は、対応する画素の画素信号を構成する。撮像素子1は、複数の赤外線受光素子3で変換された上記の電気信号を出力信号として、赤外線処理システム2に出力する。
赤外線処理システム2は、撮像素子1の出力信号から熱画像を生成し、撮像対象の物体の温度を、生成した熱画像から検出する。赤外線処理システム2は、撮像素子1の出力信号を処理する処理部21を備えている。
処理部21は、入力部21aと、2つの出力部21b,21cとを有する。入力部21aは、撮像素子1の出力信号(アナログ信号)を入力する。出力部21bは、処理部21において撮像素子1の出力信号から生成された熱画像(後述の第1熱画像)を外部に出力する。出力部21cは、処理部21において検出された撮像対象の物体の温度を示す温度データを外部に出力する。
処理部21は、信号処理部22(第1熱画像生成部、第2熱画像生成部)と、物体抽出部23と、物体温度算出部24と、記憶部25(第1記憶部、第2記憶部)とを備えている。
記憶部25は、各種情報及びデータを記憶可能な不揮発性の記憶部であり、例えばSSD(Solid State Drive)又はHDD(hard disk drive)などで構成されている。記憶部25には、後述の第1温度補正値A1~F1、及び、複数組の第2温度補正値A2~F2が記憶されている。複数組の第2温度補正値A2~F2は、撮像対象となる複数の物体に1対1に対応している。また、記憶部25には、後述のように、撮像素子1の出力信号が元データD1として記憶される。
信号処理部22は、入力部21aに入力された撮像素子1の出力信号をAD(アナログ・デジタル)変換して取り込む。信号処理部22は、式1に基づいて、第1温度補正値を用いて、入力部21aに入力された撮像素子1の出力信号から第1熱画像を生成し、生成した第1熱画像を物体抽出部23及び出力部21bに出力する。なお、第1熱画像が出力部21bに出力されることで、第1熱画像を出力部21bから外部に出力可能である。なお、熱画像とは、撮像対象を温度分布で表した画像である。より詳細には、信号処理部22は、式1に基づいて、撮像素子1の各赤外線受光素子3の出力信号(すなわち各画素の画素信号)の電圧Voutを温度Toに変換することで、撮像素子1の出力信号から熱画像を生成する。温度Toは、熱画像において、赤外線受光素子3に対応する画素の温度を与える。
Figure 0007373777000001
なお、式1において、符号A~Fは、温度補正値であり、符号Tsは、撮像対象の物体の周囲温度(背景温度とも言う)である。すなわち、式1において、温度補正値A~Fとして第1温度補正値A1~F1が代入されることで、撮像素子1の出力信号から第1熱画像が生成される。第1熱画像が生成されるときは、周囲温度(背景温度)Tsは、例えば予め設定された周囲温度の代表値が代入される。
第1熱画像が生成される段階では、撮像対象の物体が特定されていない。このため、第1温度補正値は、色々な物体に対応できるように、比較的広い温度範囲(例えば-40℃以上85℃以下の温度範囲)に対応した温度補正値に設定されている。
より詳細には、信号処理部22は、撮像素子1の出力信号から第1熱画像を生成するとき、撮像素子1の出力信号をゲイン調整すると共に撮像素子1の出力信号の電圧範囲を比較的広い第1電圧範囲(後述の第2電圧範囲よりも広い電圧範囲)に調整する。第1熱画像を生成する段階では、撮像対象の物体が特定されていない。このため、信号処理部22は、色々な物体に対応できるように、撮像素子1の出力信号のゲイン及び電圧範囲を調整する。具体的には、電圧範囲は、比較的広い範囲に調整され、ゲインも電圧範囲が比較的広い電圧範囲に調整可能なように調整される。
また、信号処理部22は、入力部21aに入力された撮像素子1の出力信号を元データD1として記憶部25に記憶させる。後述のように、信号処理部22は、物体抽出部23の抽出処理の後、第2温度補正値A2~F2を用いて撮像素子1の出力信号から第2熱画像を生成するが、その際は、記憶部25に記憶された撮像素子1の出力信号(元データD1)を用いて第2熱画像を生成する。
物体抽出部23は、信号処理部22で生成された第1熱画像から撮像対象の物体(例えば人の顔及び胴体(衣服))を抽出する。より詳細には、物体抽出部23は、第1熱画像に基づいて物体の画素位置を抽出する。更に詳細には、物体抽出部23は、第1熱画像の温度分布から、顔領域、胴体領域及び背景領域を分離する。この分離結果に基づいて、物体抽出部23は、物体情報を生成し、生成した物体情報を信号処理部22及び物体温度算出部24に出力する。
なお、顔領域は、人の顔が映る領域であり、例えば30℃以上且つ40℃未満の温度領域として設定されている。胴体領域は、人の胴体(すなわち衣服)が映る領域であり、例えば0℃以上且つ30℃未満の温度領域として設定されている。背景領域(周囲領域とも言う)は、熱画像のうち、顔領域及び胴体領域以外の領域として設定されている。すなわち、物体抽出部23は、第1熱画像のうち、30℃以上且つ40℃未満の温度領域を顔領域として抽出し、0℃以上且つ30℃未満の温度領域を胴体領域として抽出し、顔領域及び胴体領域以外を背景領域として抽出する。
なお、上記の顔の温度及び胴体(衣服)の温度は、一例である。例えば、周囲温度及び日射の条件によって衣服の温度が30℃以上になる場合もある。この場合の衣服の温度は、例えば0℃以上且つ50℃未満に設定されてもよい。また、衣服と顔を温度で分けることが出来ない場合は、以下の(1)又は(2)を採用してもよい。(1)車等の顔の位置があまり動かない場合は、予め、顔と認識するエリアを設定しておいて、そのエリアにある温度領域を顔と判定し、その下にある温度領域を胴体(衣服)と判定する。(2)本システム10から物体までの距離があまり変わらない場合は、特定の大きさの温度領域を顔と判定し、その下にある温度領域を胴体(衣服)と判定する。なお、上記(1)(2)ともに顔の下に胴体があるとして胴体を特定している。上記(1)は、エリアを設定することで顔を特定し、上記(2)は、大きさを設定することで顔を特定している。
上記の物体情報は、種類情報と、画素位置情報と、背景温度情報とを含む。種類情報は、第1熱画像から抽出された物体の種類(例えば顔又は胴体)を特定する情報である。画素位置情報は、第1熱画像における抽出された物体(例えば顔及び胴体)の画素位置を特定する情報である。背景温度情報は、背景領域の温度の情報であり、例えば、背景領域の温度の平均値である。背景温度情報は、無くてもよい。この場合は、第1熱画像と、上記の画素位置情報との組みあわせで、背景領域の温度を特定することになる。
図2A及び図2Bは、第1熱画像G1及び物体情報J1の一例を示す。図2Aの例では、第1熱画像G1のうち、領域R1が顔領域であり、領域R2が胴体領域であり、領域R3が背景領域(周囲領域)である。図2Bの例では、物体情報J1は、種類情報及び画素位置情報として、例えば、第1熱画像G1と同じサイズの画像において、領域R1が顔領域である旨の情報、領域R2が胴体である旨の情報、及び領域R3(領域R1,R2以外の領域)が背景領域である旨の情報が付加されて構成されている。図2Bの例では、物体情報J1は、更に、顔の中心K1を示す情報を含んでいる。
図1に戻って、信号処理部22は、物体抽出部23からの物体情報に基づいて、複数組の第2温度補正値A2~F2のうち、物体抽出部23で抽出された物体に対応した第2温度補正値A2~F2を選択する。より詳細には、信号処理部22は、物体抽出部23で抽出された物体(顔又は胴体)の温度が第1閾値(30℃)以上であるか否かに応じて、用いる第2温度補正値A2~F2を変える。すなわち、顔領域の温度は、例えば30℃以上40℃以下に設定され、胴体領域(衣服領域)は、例えば0℃以上30℃以下に設定されている。このため、物体抽出部23で抽出された物体の温度が30℃以上の場合は、信号処理部22は、その物体を顔と判断して、複数の第2温度補正値A2~F2のうち、顔に対応した第2温度補正値A2~F2を選択する。また、物体抽出部23で抽出された物体の温度が30℃未満の場合は、信号処理部22は、その物体を胴体と判断して、複数の第2温度補正値A2~F2のうち、胴体(物体)に対応した第2温度補正値A2~F2を選択する。
そして、信号処理部22は、式1に基づいて、選択した第2温度補正値(すなわち物体抽出部23で抽出された物体に対応した第2温度補正値)A2~F2を用いて、記憶部25に記憶された元データD1(すなわち撮像素子1の出力信号)から第2熱画像を生成する。
信号処理部22は、式1に基づいて第2画像を生成するとき、温度補正値A~Fとして、選択した第2温度補正値A2~F2を用い、周囲温度Tsとして、物体抽出部23からの物体情報に含まれる背景温度(周囲温度)情報を用いる。
第2熱画像が生成される段階では、物体抽出部23によって撮像対象の物体(例えば顔及び胴体)が特定されている。このため、第2温度補正値は、特定された物体に対応して、比較的狭い温度範囲に対応した温度補正値に設定されている。本実施形態では、第1熱画像には、撮像対象として人の顔及び胴体(衣服)が映っている。顔に対応した第2温度補正値は、温度範囲が顔の温度範囲(30℃~40℃)に対応した温度補正値である。胴体(衣服)に対応した第2温度補正値は、温度範囲が胴体(衣服)の温度範囲(0℃~30℃)に対応した温度補正値である。
信号処理部22は、物体抽出部23からの物体情報に基づいて、元データD1における顔領域及び胴体領域を特定する。そして、信号処理部22は、元データD1のうちの顔領域に対応する赤外線受光素子3の出力信号に対しては、顔(物体)に対応した第2温度補正値A2~F2を用いて、胴体領域に対応した赤外線受光素子3の出力信号に対しては、胴体(物体)に対応した第2温度補正値A2~F2を用いて、背景領域に対応する赤外線受光素子3の出力信号に対しては、温度補正値を用いずに(すなわち補正せずに)、元データD1から第2熱画像を生成する。すなわち、本実施形態では、信号処理部22は、物体に対応した第2温度補正値A2~F2を用いて、撮像素子1の出力信号のうち、物体抽出部23で抽出された物体に対応する出力信号のみを補正する。なお、第2熱画像の背景領域は、本実施形態では特に利用されないので、第2温度補正値A2~F2を用いての補正は、行われない。
信号処理部22は、元データD1(すなわち撮像素子1の出力信号)から第2熱画像を生成するとき、撮像素子1の出力信号をゲイン調整すると共に撮像素子1の出力信号の電圧範囲を比較的狭い第2電圧範囲(上記の第1電圧範囲よりも狭い電圧範囲)に調整する。第2熱画像を生成する段階では、物体抽出部23によって撮像対象の物体(例えば人及び胴体)が特定されている。このため、信号処理部22は、第2熱画像に映る物体の温度分布の温度分解能が最大限に細かくなるように、撮像素子1の出力信号のゲイン及び電圧範囲を調整する。具体的には、ゲインは比較的大きな値(例えば最大値又は飽和値)に調整され、電圧範囲は比較的狭い電圧範囲に調整される。
信号処理部22は、生成した第2熱画像を物体温度算出部24に出力する。
物体温度算出部24は、信号処理部22からの第2熱画像に基づいて、物体抽出部23で抽出された物体(例えば顔及び胴体)、すなわち撮像対象の物体の温度を算出する。より詳細には、物体温度算出部24は、物体抽出部23からの物体情報に含まれる物体(顔及び胴体)の画素位置情報に基づいて、第2熱画像に映る物体の画素位置を特定する。そして、物体温度算出部24は、第2熱画像に基づいて、上記の特定された画素位置の温度を検出する。第2熱画像における物体の画素領域の温度分布の温度分解能は最大限に細かく調整されている。このため、物体温度算出部24は、第2熱画像から、物体の温度を精度よく検出可能である。物体温度算出部24は、検出した物体の温度を出力部21bに出力する。これにより、検出された物体の温度が外部に出力される。
次に図3に基づいて、赤外線センサシステム10の動作を説明する。
撮像素子1の出力信号が入力部21aを介して処理部21に入力される(S1)。処理部21では、信号処理部22が撮像素子1の出力信号を元データD1として記憶部25に記憶する(S2)。また、信号処理部22は、第1温度補正値を用いて撮像素子1の出力信号から第1熱画像を生成し(S3)、生成した第1熱画像を物体抽出部23に出力する。また、信号処理部22は、第1熱画像を出力部21bから外部に出力する(S4)。そして、物体抽出部23が第1熱画像から撮像対象の物体(例えば人の顔及び胴体)を抽出し、その抽出結果に基づいて物体情報を生成する(S5)。物体抽出部23は、生成した物体情報を信号処理部22及び物体温度算出部24に出力する。信号処理部22は、物体抽出部23からの物体情報に基づいて、複数の第2温度補正値の中から、抽出された物体に対応した第2温度補正値を選択する(S6)。
そして、信号処理部22は、選択した第2温度補正値(すなわち、物体抽出部23で抽出された物体に対応した第2温度補正値)を用いて、記憶部25に記憶された元データD1から第2熱画像を生成する(S7)。そして、信号処理部22は、生成した第2熱画像を物体温度算出部24に出力する。そして、物体温度算出部24は、信号処理部22からの第2熱画像に基づいて、物体抽出部23からの物体情報で特定される物体の温度を算出する(S8)。そして、物体温度算出部24は、検出結果(物体の温度)を出力部21cに出力する(S9)。
以上のように、本実施形態に係る赤外線センサシステム100及び赤外線処理システム2によれば、第1温度補正値A1~F1を用いて撮像素子11の出力信号から第1熱画像を生成し、生成した第1熱画像から物体(例えば顔及び胴体)を抽出する。このため、第1温度補正値A1~F1として比較的広い温度範囲に対応した温度補正値を用いることで、第1熱画像から異なる温度の物体(顔及び胴体)を適度な精度で抽出することができる。そして、第1熱画像から抽出した物体に対応した第2温度補正値A2~F2を用いて、撮像素子11の出力信号から第2熱画像を生成し、生成した第2熱画像に基づいて、抽出した物体の温度を算出する。このため、物体の温度を精度よく算出することができる。以上より、熱画像から異なる温度の物体の温度を精度よく算出することができる。
(変形例)
以下に説明する変形例は、適宜組み合わせて適用可能である。また、赤外線処理システム2と同様の機能は、赤外線処理方法又はコンピュータプログラムで具現化されてもよい。
一態様に係る赤外線処理方法は、物体からの赤外線を受光する複数の受光素子を有する撮像素子の出力信号を処理する処理工程を有する。上記の処理工程は、第1熱画像生成工程と、物体抽出工程と、第2熱画像生成工程と、物体温度算出工程と、を含む。第1熱画像生成工程は、第1温度補正値を用いて撮像素子1の出力信号から第1熱画像を生成する。物体抽出工程は、第1熱画像生成工程で生成された第1熱画像から物体を抽出する。第2熱画像生成工程は、物体抽出工程で抽出された物体に対応した第2温度補正値を用いて撮像素子1の出力信号から第2熱画像を生成する。物体温度算出工程は、前記第2熱画像生成工程で生成された第2熱画像に基づいて、物体抽出工程で抽出された物体の温度を算出する物体温度算出工程と、を備える。
一態様に係るコンピュータプログラムは、上記の赤外線処理方法をコンピュータシステムに実行させるためのプログラムである。
以下に説明する変形例では、上記の実施形態と異なる点を中心に説明する。また、以下の変形例では、上記の実施形態と同じ部分については、同じ符号を付して説明を省略する場合がある。
(変形例1)
上記の実施形態では、信号処理部22は、第2温度補正値を用いて、撮像素子1の出力信号のうち、物体抽出部23で抽出された物体に対応する出力信号のみを補正するが、信号処理部22は、第2温度補正値を用いて、撮像素子1の出力信号の全体に(すなわち物体に対応する出力信号だけでなく背景領域に対応する出力信号にも)補正を行ってもよい。つまり、第2熱画像の背景領域は、特に利用されないので、第2温度補正値を用いて、物体領域と共に背景領域を補正してもよい。
(変形例2)
上記の実施形態において、記憶部25に記憶された第1温度補正値及び第2温度補正値の少なくとも一方は、書き換え可能であってもよい。これにより、赤外線処理システム2の製造後(出荷後)に、第1温度補正値及び第2温度補正値の少なくとも一方を書き換えることができる。
(変形例3)
上記の実施形態において、図4に示すように、撮像対象の物体を撮像する可視カメラ27(例えばCCD(imagesensor)イメージセンサ)を更に備えてもよい。可視カメラ27の撮像範囲は、撮像素子1の撮像範囲と重なっている。撮像素子1の撮像画像上の座標系と可視カメラ27の撮像画像上の座標系は、一致している。可視カメラ27の出力信号(撮像画像)は、処理部21の入力部21dを介して物体抽出部23に出力される。
本変形例では、物体抽出部23は、可視カメラ27の撮像画像から、撮像対象の物体を抽出する。より詳細には、物体抽出部23は、例えば、可視カメラ27の撮像画像を二値化処理し、二値化処理後の画像から特徴抽出を行って、撮像対象の物体を抽出し、その抽出結果に基づいて物体情報を生成する。信号処理部22は、物体抽出部23で生成された物体情報に基づいて、元データD1から第2熱画像を生成する。この場合、信号処理部22は、上記の実施形態と同様に第1熱画像を生成し、生成した第1熱画像から、式2の計算で必要となる周囲温度Tsを算出する。また、物体温度算出部24は、物体抽出部23から物体情報(すなわち可視カメラ27の撮像画像に映った物体の位置)に基づいて、第2熱画像から物体の温度を算出する。
本変形例によれば、可視カメラ27の撮像画像から物体を抽出するため、より精度よく、第2熱画像における物体の画素位置を特定できる。
(まとめ)
第1の態様に係る赤外線処理システム(2)は、物体からの赤外線を受光する撮像素子(1)の出力信号を処理する処理部(21)を備える。処理部(21)は、第1熱画像生成部(22)と、物体抽出部(23)と、第2熱画像生成部(22)と、物体温度算出部(24)と、を備える。第1熱画像生成部(22)は、第1温度補正値(A1~F1)を用いて撮像素子(1)の出力信号から第1熱画像を生成する。物体抽出部(23)は、第1熱画像生成部(22)で生成された第1熱画像から物体を抽出する。第2熱画像生成部(22)は、物体抽出部(23)で抽出された物体に対応した第2温度補正値(A2~F2)を用いて、撮像素子(1)の出力信号から第2熱画像を生成する。物体温度算出部(24)は、第2熱画像生成部(22)で生成された第2熱画像に基づいて、物体抽出部(23)で抽出された物体の温度を算出する。
この構成によれば、第1温度補正値(A1~F1)を用いて撮像素子(1)の出力信号から第1熱画像を生成し、生成した第1熱画像から物体を抽出する。このため、第1温度補正値(A1~F1)として比較的広い温度範囲に対応した温度補正値を用いることで、第1熱画像から異なる温度の物体を適度な精度で抽出することができる。そして、第1熱画像から抽出した物体に対応した第2温度補正値(A2~F2)を用いて、撮像素子(1)の出力信号から第2熱画像を生成し、生成した第2熱画像に基づいて、抽出した物体の温度を算出する。このため、物体の温度を精度よく算出することができる。以上より、熱画像から異なる温度の物体の温度を精度よく算出することができる。
第2の態様に係る赤外線処理システム(2)は、第1の態様において、撮像素子(1)の出力信号を記憶する第1記憶部(25)を更に備える。第2熱画像生成部(22)は、第2温度補正値(A2~F2)を用いて、第1記憶部(25)に記憶された出力信号から第2熱画像を生成する。
この構成によれば、第2熱画像生成部(22)は、第1記憶部(25)に記憶された撮像素子(1)の出力信号を用いることで、第1熱画像生成部(22)の処理後に第2熱画像を生成することができる。
第3の態様に係る赤外線処理システム(2)は、第1又は第2の態様において、物体抽出部(23)で抽出された物体に応じた複数の第2温度補正値(A2~F2)を記憶する第2記憶部(25)を備える。
この構成によれば、物体抽出部(23)で抽出された物体に応じて第2温度補正値(A2~F2)を変更することができる。この結果、物体の温度を精度よく算出することができる。
第4の態様に係る赤外線処理システム(2)では、第1~第3の態様の何れか1つの態様において、第2熱画像生成部(22)は、第2温度補正値(A2~F2)を用いて、撮像素子(1)の出力信号のうち、物体抽出部(23)で抽出された物体に対応する出力信号のみを補正する。
この構成によれば、第2熱画像生成部(22)は、撮像素子(1)の出力信号のうち物体に対応する出力信号のみを補正するため、第2熱画像生成部(22)の処理負担を軽減することができる。
第5の態様に係る赤外線処理システム(2)では、第1~第4の態様の何れか1つの態様において、第2熱画像生成部(22)は、物体抽出部(23)で抽出された物体の温度が閾値以上であるか否かに応じて、用いる第2温度補正値(A2~F2)を変える。
この構成によれば、物体の温度と閾値との大小比較によって、第2熱画像生成部(22)で用いられる第2温度補正値(A2~F2)を物体に応じて変えることができる。
第6の態様に係る赤外線処理システム(2)では、第1~第5の態様の何れか1つの態様において、第2熱画像生成部(22)は、第2熱画像を生成するときに、撮像素子(1)の出力信号に、物体抽出部(23)で抽出された物体に対応したゲイン調整を行う。
この構成によれば、第2熱画像の温度分解能をより細かくできる。
第7の態様に係る赤外線処理システム(2)では、第1~第6の態様の何れか1つの態様において、第2熱画像生成部(22)は、第2熱画像を生成するとき、撮像素子(1)の出力信号の電圧範囲を、抽出した物体に対応した電圧範囲に変更する。
この構成によれば、第2熱画像の温度分解能をより細かくできる。
第8の態様に係る赤外線処理システム(2)は、第1~第7の態様の何れか1つの態様において、物体を撮像する可視カメラ(27)を更に備える。物体抽出部(23)は、第1熱画像の代わりに可視カメラ(27)の撮像画像から物体を抽出する。
この構成によれば、より精度よく、第1熱画像から物体を抽出することができる。
第9の態様に係る赤外線処理システム(2)では、第1~第8の態様の何れか1つの態様において、第1温度補正値(A1~F1)及び第2温度補正値(A2~F2)の少なくとも一方は、書き換え可能に記憶部(25)に記憶されている。
この構成によれば、赤外線処理システム(2)の製造後(出荷後)に、第1温度補正値(A1~F1)及び第2温度補正値(A2~F2)の少なくとも一方を書き換えることができる。
第10の態様に係る赤外線センサシステム(10)は、第1~第9の態様の何れか1つの赤外線処理システム(2)と、撮像素子(1)と、を備える。
この構成によれば、上記の赤外線処理システム(2)を用いた赤外線センサシステム(10)を提供できる。
第11の態様に係る赤外線処理方法は、物体からの赤外線を受光する複数の受光素子(3)を有する撮像素子(1)の出力信号を処理する処理工程を有する。処理工程は、第1熱画像生成工程と、物体抽出工程と、第2熱画像生成工程と、物体温度算出工程と、を含む。第1画像生成工程は、第1温度補正値(A1~F1)を用いて撮像素子(1)の出力信号から第1熱画像を生成する。物体抽出工程は、第1熱画像生成工程で生成された第1熱画像から物体を抽出する。第2熱画像生成工程は、物体抽出工程で抽出された物体に対応した第2温度補正値(A2~F2)を用いて、撮像素子(1)の出力信号から第2熱画像を生成する。物体温度算出工程は、第2熱画像生成工程で生成された第2熱画像に基づいて、物体抽出工程で抽出された物体の温度を算出する。
この構成によれば、第1温度補正値(A1~F1)を用いて撮像素子(1)の出力信号から第1熱画像を生成し、生成した第1熱画像から物体を抽出する。このため、第1温度補正値(A1~F1)として比較的広い温度範囲に対応した温度補正値を用いることで、第1熱画像から異なる温度の物体を適度な精度で抽出することができる。そして、第1熱画像から抽出した物体に対応した第2温度補正値(A2~F2)を用いて、撮像素子(1)の出力信号から第2熱画像を生成し、生成した第2熱画像に基づいて、抽出した物体の温度を算出する。このため、物体の温度を精度よく算出することができる。以上より、熱画像から異なる温度の物体の温度を精度よく算出することができる。
第12の態様に係るプログラムは、第11の態様の赤外線処理方法をコンピュータシステムに実行させるためのプログラムである。
この構成によれば、赤外線処理方法をコンピュータシステムに実行させるためのプログラムを提供することができる。
1 撮像素子
2 赤外線処理システム
21 処理部
22 第2熱画像生成部
23 物体抽出部
24 物体温度算出部
25 記憶部(第1記憶部、第2記憶部)
27 可視カメラ
A1~F1 第1温度補正値
A2~F2 第2温度補正値

Claims (12)

  1. 物体からの赤外線を受光する撮像素子の出力信号を処理する処理部を備え、
    前記処理部は、
    第1温度補正値を用いて前記撮像素子の出力信号から第1熱画像を生成する第1熱画像生成部と、
    前記第1熱画像生成部で生成された前記第1熱画像から前記物体を抽出する物体抽出部と、
    前記物体抽出部で抽出された前記物体に対応した第2温度補正値を用いて、前記撮像素子の出力信号から第2熱画像を生成する第2熱画像生成部と、
    前記第2熱画像生成部で生成された前記第2熱画像に基づいて、前記物体抽出部で抽出された前記物体の温度を算出する物体温度算出部と、を備える、
    赤外線処理システム。
  2. 前記撮像素子の出力信号を記憶する第1記憶部を更に備え、
    前記第2熱画像生成部は、前記第2温度補正値を用いて、前記第1記憶部に記憶された前記出力信号から前記第2熱画像を生成する、
    請求項1に記載の赤外線処理システム。
  3. 前記物体抽出部で抽出された前記物体に応じた複数の前記第2温度補正値を記憶する第2記憶部を備える、
    請求項1又は2に記載の赤外線処理システム。
  4. 前記第2熱画像生成部は、前記第2温度補正値を用いて、前記撮像素子の出力信号のうち、前記物体抽出部で抽出された前記物体に対応する出力信号のみを補正する、
    請求項1~3のいずれか1項に記載の赤外線処理システム。
  5. 前記第2熱画像生成部は、前記物体抽出部で抽出された前記物体の温度が閾値以上であるか否かに応じて、用いる前記第2温度補正値を変える
    請求項1~4の何れか1項に記載の赤外線処理システム。
  6. 前記第2熱画像生成部は、前記第2熱画像を生成するときに、前記撮像素子の出力信号に、前記物体抽出部で抽出された前記物体に対応したゲイン調整を行う、
    請求項1~5の何れか1項に記載の赤外線処理システム。
  7. 前記第2熱画像生成部は、前記第2熱画像を生成するとき、前記撮像素子の出力信号の電圧範囲を、抽出した前記物体に対応した電圧範囲に変更する、
    請求項1~6の何れか1項に記載の赤外線処理システム。
  8. 前記物体を撮像する可視カメラを更に備え、
    前記物体抽出部は、前記第1熱画像の代わりに前記可視カメラの撮像画像から前記物体を抽出する、
    請求項1~7の何れか1項に記載の赤外線処理システム。
  9. 前記第1温度補正値及び前記第2温度補正値の少なくとも一方は、書き換え可能に記憶部に記憶されている、
    請求項1~8の何れか1項に記載の赤外線処理システム。
  10. 請求項1~9の何れか1項に記載の赤外線処理システムと、
    前記撮像素子と、を備える、
    赤外線センサシステム。
  11. 物体からの赤外線を受光する複数の受光素子を有する撮像素子の出力信号を処理する処理工程を有し、
    前記処理工程は、
    第1温度補正値を用いて前記撮像素子の出力信号から第1熱画像を生成する第1熱画像生成工程と、
    前記第1熱画像生成工程で生成された前記第1熱画像から前記物体を抽出する物体抽出工程と、
    前記物体抽出工程で抽出された前記物体に対応した第2温度補正値を用いて前記撮像素子の出力信号から第2熱画像を生成する第2熱画像生成工程と、
    前記第2熱画像生成工程で生成された前記第2熱画像に基づいて、前記物体抽出工程で抽出された前記物体の温度を算出する物体温度算出工程と、を含む、
    赤外線処理方法。
  12. 請求項11に記載の赤外線処理方法をコンピュータシステムに実行させるための、
    プログラム。
JP2021561179A 2019-11-27 2020-09-16 赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラム Active JP7373777B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019214469 2019-11-27
JP2019214469 2019-11-27
PCT/JP2020/035100 WO2021106322A1 (ja) 2019-11-27 2020-09-16 赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JPWO2021106322A1 JPWO2021106322A1 (ja) 2021-06-03
JP7373777B2 true JP7373777B2 (ja) 2023-11-06

Family

ID=76130490

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021561179A Active JP7373777B2 (ja) 2019-11-27 2020-09-16 赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラム

Country Status (4)

Country Link
US (1) US20220408037A1 (ja)
JP (1) JP7373777B2 (ja)
CN (1) CN114729838A (ja)
WO (1) WO2021106322A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001349786A (ja) 2000-06-06 2001-12-21 Denso Corp 非接触温度センサの校正方法
US20130048855A1 (en) 2011-08-26 2013-02-28 Custom Scene Technology, Inc. Camera, computer program and method for measuring thermal radiation and thermal rates of change
WO2015029378A1 (ja) 2013-08-28 2015-03-05 三菱電機株式会社 熱画像センサ及び空気調和機
WO2017073401A1 (ja) 2015-10-29 2017-05-04 富士フイルム株式会社 赤外線撮像装置および赤外線撮像装置による信号補正方法
JP2018185108A (ja) 2017-04-26 2018-11-22 パナソニックIpマネジメント株式会社 温冷感推定装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320258A (ja) * 1995-05-25 1996-12-03 Matsushita Electric Ind Co Ltd 熱画像情報と位置情報を利用した物体検出方法およびその装置
JP2009014475A (ja) * 2007-07-04 2009-01-22 Sony Corp 遠赤外線画像処理装置、遠赤外線撮像装置、遠赤外線画像処理方法および遠赤外線画像処理プログラム
US9900526B2 (en) * 2011-06-10 2018-02-20 Flir Systems, Inc. Techniques to compensate for calibration drifts in infrared imaging devices
JP6001183B2 (ja) * 2014-02-17 2016-10-05 パナソニック株式会社 空気調和機及び熱画像センサシステム
JP6368593B2 (ja) * 2014-09-02 2018-08-01 任天堂株式会社 画像処理プログラム、情報処理システム、画像処理方法
JP2019052889A (ja) * 2017-09-13 2019-04-04 サクサ株式会社 画像処理装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001349786A (ja) 2000-06-06 2001-12-21 Denso Corp 非接触温度センサの校正方法
US20130048855A1 (en) 2011-08-26 2013-02-28 Custom Scene Technology, Inc. Camera, computer program and method for measuring thermal radiation and thermal rates of change
WO2015029378A1 (ja) 2013-08-28 2015-03-05 三菱電機株式会社 熱画像センサ及び空気調和機
WO2017073401A1 (ja) 2015-10-29 2017-05-04 富士フイルム株式会社 赤外線撮像装置および赤外線撮像装置による信号補正方法
JP2018185108A (ja) 2017-04-26 2018-11-22 パナソニックIpマネジメント株式会社 温冷感推定装置

Also Published As

Publication number Publication date
WO2021106322A1 (ja) 2021-06-03
JPWO2021106322A1 (ja) 2021-06-03
US20220408037A1 (en) 2022-12-22
CN114729838A (zh) 2022-07-08

Similar Documents

Publication Publication Date Title
US11470245B2 (en) System and method for fault detection and correction
US10469747B2 (en) Infrared imaging device and signal correction method using infrared imaging device
KR101379075B1 (ko) 초점면 어레이에 대한 적응적 비-균일성 보상을 위한 시스템 및 방법
JP6036824B2 (ja) 画角変動検知装置、画角変動検知方法および画角変動検知プログラム
JP5176289B2 (ja) 赤外線目標選択装置
US8878946B2 (en) Image processing apparatus and control method therefor
JP2009087232A (ja) 人物認証装置および人物認証方法
TWI363179B (en) Apparatus,system,and method for image sensor defect identification using blurring techniques
JP2010045770A (ja) 画像処理装置及び画像処理方法
US9894300B2 (en) Image sensing device for measuring temperature without temperature sensor and method for driving the same
JP5903308B2 (ja) 画像監視装置
US8520101B2 (en) Image sensor and black level calibration method thereof
JP2007156655A (ja) 変動領域検出装置及びその方法
JP7373777B2 (ja) 赤外線処理システム、赤外線センサシステム、赤外線処理方法、及び、プログラム
CN107079114B (zh) 红外线摄像装置及固定图案噪声计算方法
KR100874670B1 (ko) 이미지 프로세서, 이미지 처리 장치 및 결함 픽셀 보정 방법
JP4626418B2 (ja) 対象物検出装置、及び対象物検出方法
US10742914B2 (en) Head-wearable imaging apparatus with two imaging elements corresponding to a user left eye and right eye, method, and computer readable storage medium for correcting a defective pixel among plural pixels forming each image captured by the two imaging elements based on defective-pixel related position information
JP2013207611A (ja) 撮像装置
JP5754931B2 (ja) 画像解析装置、画像解析方法及びプログラム
JP2009009206A (ja) 画像中の輪郭抽出方法及びその画像処理装置
JP2018160024A (ja) 画像処理装置、画像処理方法及びプログラム
KR101621157B1 (ko) Mct를 이용한 얼굴 인식 장치 및 그 방법
CN115698656A (zh) 红外线拍摄装置
JP7193359B2 (ja) 画像処理システムおよびカメラシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231013

R151 Written notification of patent or utility model registration

Ref document number: 7373777

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151