JP7024713B2 - 画像処理装置、及び画像処理方法 - Google Patents

画像処理装置、及び画像処理方法 Download PDF

Info

Publication number
JP7024713B2
JP7024713B2 JP2018531746A JP2018531746A JP7024713B2 JP 7024713 B2 JP7024713 B2 JP 7024713B2 JP 2018531746 A JP2018531746 A JP 2018531746A JP 2018531746 A JP2018531746 A JP 2018531746A JP 7024713 B2 JP7024713 B2 JP 7024713B2
Authority
JP
Japan
Prior art keywords
conversion
temperature
image
conversion function
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018531746A
Other languages
English (en)
Other versions
JPWO2018025466A1 (ja
Inventor
卓 青木
厚史 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018025466A1 publication Critical patent/JPWO2018025466A1/ja
Application granted granted Critical
Publication of JP7024713B2 publication Critical patent/JP7024713B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/90
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/48Thermography; Techniques using wholly visual means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V8/00Prospecting or detecting by optical means
    • G01V8/10Detecting, e.g. by using light barriers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K15/00Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers
    • G06K15/02Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers using printers
    • G06K15/18Conditioning data for presenting it to the physical printing elements
    • G06K15/1867Post-processing of the composed and rasterized print image
    • G06K15/1872Image enhancement
    • G06K15/1878Adjusting colours
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J2005/0077Imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Geophysics (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Radiation Pyrometers (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本開示は、画像処理装置、及び画像処理方法に関する。
近年、赤外線カメラにより取得される温度画像を用いて、物体認識を行う技術が開発されている。例えば夜間又は悪天候時のように可視光画像から人体等の物体を検出することが困難な場合であっても、温度画像から物体を検出することが可能な場合がある。
温度画像は、一般的な画像処理における画像よりもビット数が大きい場合が多いため、処理量やデータ量を削減するため、温度画像における各画素の温度(画素値)を、より小さいビット数の階調値(画素値)に変換する階調変換が行われている。物体認識は、階調変換が施された画像に対して行われるため、物体認識の精度は、階調変換の影響を受ける。
例えば、特許文献1には、検出対象物の検出精度を向上させるため、環境温度と距離に応じたルックアップテーブルを用いて、赤外線センサの出力(温度画像の画素値)を階調値に変換した後に、検出処理を行う技術が記載されている。
特開2012-247225号公報
上記のような、温度画像から物体検出等の物体認識を行う技術においては、さらなる認識精度の向上が望まれていた。
本開示によれば、対象物体に関するデータに基づく変換関数を用いて、温度画像に対して階調変換を施す変換部を備える、画像処理装置が提供される。
また、本開示によれば、プロセッサが、対象物体に関するデータに基づく変換関数を用いて、温度画像に対して階調変換を施すこと、を含む画像処理方法が提供される。
また、本開示によれば、複数の変換関数から距離に基づいて特定される変換関数を用いて、温度画像に対して階調変換を施すことで、前記温度画像の被写体に係る被写体温度を推定する変換部を備える、画像処理装置が提供される。
以上説明したように本開示によれば、温度画像を用いた物体認識における認識精度が向上する。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
温度画像からの物体認識が行われるシナリオの一例を示す説明図である。 本開示の第一の実施形態に係る画像処理装置の構成例を示すブロック図である。 同実施形態に係る変換関数の例を説明するための説明図である。 同実施形態に係る変換関数の例を説明するための説明図である。 同実施形態に係る変換関数の例を説明するための説明図である。 同実施形態に係る変換関数の例を説明するための説明図である。 同実施形態に係る変換関数の例を説明するための説明図である。 同実施形態に係る変換関数の例を説明するための説明図である。 同実施形態に係る画像処理装置10の動作例を示すフローチャート図である。 本開示の第二の実施形態に係る画像処理装置の構成例を示す説明図である。 距離、環境温度、被写体温度、及び観測温度の関係を模式的に示す説明図である。 観測温度から被写体温度を推定するための変換関数の例を示す説明図である。 同実施形態に係る画像処理装置20の動作例を示すフローチャート図である。 本開示の第三の実施形態に係る画像処理装置の構成例を示す説明図である。 同実施形態に係る認識部346による物体認識の具体例を示す模式図である。 同実施形態に係る画像処理装置30の動作例を示すフローチャート図である。 同実施形態の変形例に係る物体認識の具体例を示す模式図である。 本開示の第四の実施形態に係る画像処理装置の構成例を示す説明図である。 同実施形態に係る画像処理装置40の動作例を示すフローチャート図である。 ハードウェア構成例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
<<1.概要>>
<<2.第一の実施形態>>
<2-1.構成>
<2-2.動作>
<2-3.効果>
<<3.第二の実施形態>>
<3-1.構成>
<3-2.動作>
<3-3.効果>
<3-4.変形例>
<<4.第三の実施形態>>
<4-1.構成>
<4-2.動作>
<4-3.効果>
<4-4.変形例>
<<5.第四の実施形態>>
<5-1.構成>
<5-2.動作>
<5-3.効果>
<<6.ハードウェア構成例>>
<<7.むすび>>
<<1.概要>>
まず、図1を参照して本開示の一実施形態の概要を説明する。図1は、温度画像からの物体認識が行われるシナリオの一例を示す説明図である。図1を参照すると、まず、温度画像を撮像(センシング)する赤外線カメラ(温度画像取得部の一例)により温度画像P1が取得される(S10)。
なお、温度画像は、例えば物体からの黒体放射によって発せられる遠赤外線を赤外線カメラの撮像素子により捕捉することによって生成される。遠赤外線は例えば4μm~1000μmの波長を有する光線とされることが多いが、赤外線の分類の境界値には様々な定義が存在しており、本開示に係る技術の後述する利点は、いかなる定義の下でも享受され得る。
続いて、温度画像P1に階調変換が施され(S12)、変換画像P2が得られる。本明細書において、階調変換により得られる画像を変換画像と呼ぶ。また、本明細書において、階調変換とは、変換関数を用いて、画像における各画素値の変換を行うことであり、変換の前後で画像のビット数が異なる場合も、同一の場合も含む。また、本明細書における変換関数は、変換前後の画素値の対応を表す規則であり、例えばルックアップテーブル、数式等、多様な形態を含みうる。また、以下の説明において、変換画像における画素値を輝度と呼ぶ場合がある。なお、変換関数の例については後述する。
続いて、変換画像P2に対して物体認識が行われる(S14)。図1では、物体認識の一例として、人体検出を示しているが、本開示に係る物体認識は人体検出に限定されず、顔、車両等の様々な物体の検出や、人物の識別、顔向きの認識等であってもよい。なお、以下では、人体検出における人体や、顔検出における顔、車両検出における車両、人物の識別における人物、顔向きの認識における顔等、物体認識において対象となる物体を、対象物体と呼ぶ。最後に、物体認識の結果画像P3がディスプレイに表示される(S18)。
ここで、上述したステップS14における物体認識の精度は、ステップS12における階調変換に応じて変化し得る。例えば、14bitの温度画像に階調変換を施した8bitの変換画像に対して物体検出を行う場合、14bitの温度レンジを8bitの階調値に単純に圧縮して割り当てると、物体検出に係る対象物体の領域における階調がつぶれて(階調が少なくなって)しまう。その結果、認識精度が低下する恐れがある。そこで、本明細書では、より認識精度を向上させる階調変換の仕組みを提案する。
なお、上述した一連の処理は、温度画像を撮像し又は撮像された温度画像を処理する任意の種類の装置上で実行され得る。いくつかの例を挙げるだけでも、温度画像を撮像する装置は、デジタルビデオカメラ、デジタルスチルカメラ、テレビジョン放送用カメラ、監視カメラ、モニター付きインターホン、車載カメラ、スマートフォン、PC(Personal Computer)、HMD(Head Mounted Display)端末、ゲーム端末、医療機器、診断機器及び検査機器などを含み得る。また、温度画像を処理する装置は、上述した様々な撮像装置に加えて、テレビジョン受像機、コンテンツプレーヤ、コンテンツレコーダ及びオーサリング機器などを含み得る。以下で言及する画像処理装置は、ここに例示した装置に搭載され又は当該装置に接続されるモジュールであってもよい。
<<2.第一の実施形態>>
<2-1.構成>
図2は、本開示の第一の実施形態に係る画像処理装置の構成例を示すブロック図である。図2に示すように、本実施形態に係る画像処理装置10は、温度画像取得部110、環境温度取得部120、操作部130、制御部140、記憶部150、及び表示部160を備える。
温度画像取得部110は、センシングにより温度画像を取得するセンサである。例えば、温度画像取得部110は、物体からの黒体放射によって発せられる遠赤外線を捕捉する撮像素子を有する赤外線カメラ(赤外線センサ)であってもよい。また、温度画像取得部110はセンシングにより温度画像を取得可能な他のセンサであってもよい。温度画像取得部110により取得された温度画像は、制御部140に提供される。
環境温度取得部120は、センシングにより画像処理装置10の周囲の環境温度を取得する温度センサである。環境温度取得部120により取得された環境温度は、制御部140に提供される。
操作部130は、ユーザによる入力を受け付け、制御部140に提供する。例えば、ユーザは、操作部130を操作して、複数の対象物体から1の対象物体を選択するための入力を行ってもよいし、複数の変換関数から1の変換関数を選択するための入力を行ってもよい。なお、操作部130は、例えばマウス、キーボード、タッチパネル、ボタン、スイッチ、レバー、またはダイヤルなどにより実現されてもよい。
制御部140は、画像処理装置10の各構成を制御する。また、本実施形態による制御部140は、図2に示すように、変換関数特定部142、変換部144、認識部146(検出部)、及び表示制御部148としても機能する。
変換関数特定部142は、後述する記憶部150に記憶された複数の変換関数から、1の変換関数を特定し、特定された変換関数を変換部144に提供する。例えば、変換関数特定部142は、環境温度取得部120から提供される環境温度、及び操作部130から提供されるユーザの入力に応じて、複数の変換関数から、1の変換関数を特定してもよい。係る構成により、適切な変換関数による階調変換が行われて、温度画像からの物体認識における認識精度が向上し得る。
本実施形態に係る変換関数は、対象物体に関するデータに基づく変換関数であり、例えば予め画像処理装置10または他の装置により生成され、記憶部150に記憶される。例えば、変換関数は、対象物体に関するデータに基づき、変換画像における対象物体領域内のダイナミックレンジをより大きくするように生成されてもよい。以下、本実施形態に係る変換関数の例について、図3~図8を参照して説明を行う。
なお、以下では、14bitの温度画像から、8bitの変換画像に変換するための変換関数の例を説明するが、本実施形態に係る変換関数は係る例に限定されない。例えば、本実施形態に係る変換関数は、変換の前後における画像のビット数が他の組み合わせである変換関数であってもよいし、変換の前後における画像のビット数が同一である変換関数であってもよい。
図3は、本実施形態に係る変換関数の例を説明するための説明図である。図3のグラフG1、及びグラフG2は、対象物体の温度レンジ(対象物体に関するデータの一例)に応じた範囲において所定の変換を行うための変換関数を示すグラフである。なお、以下の説明において、温度は温度画像における画素値であり、輝度は変換画像における画素値である。
図3のグラフG1は、事前に求められた対象物体(例えば人体)の温度レンジR1(温度レンジに応じた範囲の一例)のみを14bitの温度から8bitの輝度に変換する変換関数F1を示すグラフである。例えば、変換関数F1は、温度レンジR1(温度T12~温度T14)の範囲で、温度に対応する輝度が最小値である0から最大値である255まで変化するような変換関数である。また、変換関数F1において、温度T10~温度T12の範囲の温度に対応する輝度は0であり、温度T14以上の温度に対応する輝度は255である。
係る構成によれば、変換画像において、対象物体領域により多くbit数が割り当てられやすくなり、物体認識精度を向上させることが可能である。
また、図3のグラフG2は、事前に求められた対象物体の温度レンジR1にオフセットを持たせた範囲(温度レンジに応じた範囲の一例)を設定して、当該範囲の中と外でそれぞれ傾きが異なるように変換を行う変換関数F2を示すグラフである。
例えば、図3に示すように、温度レンジR1にオフセットを持たせた範囲(温度T22~温度T24)の中と外で、変換関数F2の傾きが異なり、当該範囲の中での傾きの方が当該範囲の外での傾きよりも大きい。
係る構成によれば、例えば対象物体の温度が、事前に求められた対象物体の温度レンジから外れた温度を含んでいる場合であっても、物体認識精度を向上させることが可能である。
なお、図3では、変換関数F1、及び変換関数F2が、対象物体の温度レンジに応じた範囲(温度レンジR1、及び温度レンジR1にオフセットを持たせた範囲)において線形である例を示したが、本実施形態に係る変換関数は係る例に限定されない。例えば、本実施形態に係る変換関数は、温度レンジに応じた範囲において、非線形であってもよく、係る変換関数も、温度レンジに応じた範囲において所定の変換を行う変換関数に含まれ得る。
図4は、本実施形態に係る変換関数の他の例を説明するための説明図である。図4のグラフG11は、事前に求められた対象物体(例えば人体)の温度ヒストグラムH11と、温度ヒストグラムH11の累積密度関数F11を示すグラフである。なお、以下の説明において、温度ヒストグラムに対応する軸は頻度の軸であり、累積密度関数に対応する軸は割合の軸である。
図4のグラフG12は、上記の累積密度関数F11に応じた変換関数F12を示すグラフである。例えば、図4に示す変換関数F12は、累積密度関数F11における最小値と最大値が、それぞれ変換関数F12における最小値と最大値(すなわち、8bitの輝度における最小値と最大値)に対応するように生成された変換関数である。
係る構成によれば、対象物体の温度ヒストグラムにおいて、より頻度が多い温度範囲に、より多くのbit数が割り当てられやすくなり、物体認識精度を向上させることが可能である。
図5~図7は、本実施形態に係る変換関数の他の例を説明するための説明図である。図5~図7は、それぞれ、異なる環境温度における対象物体(例えば人体)に関するデータに基づく変換関数の例を示すグラフである。
図5のグラフG21は、低い環境温度において、事前に求められた対象物体の温度ヒストグラムH21と、温度ヒストグラムH21の累積密度関数F21を示すグラフである。また、図5のグラフG22は、上記の累積密度関数F21に応じた変換関数F22を示すグラフである。累積密度関数F21と変換関数F22の関係は、上述した累積密度関数F11と変換関数F12の関係と同様であるため、説明を省略する。
図6のグラフG23は、通常(中程度)の環境温度において、事前に求められた対象物体の温度ヒストグラムH23と、温度ヒストグラムH23の累積密度関数F23を示すグラフである。また、図6のグラフG24は、上記の累積密度関数F23に応じた変換関数F24を示すグラフである。累積密度関数F23と変換関数F24の関係は、上述した累積密度関数F11と変換関数F12の関係と同様であるため、説明を省略する。
図7のグラフG25は、高い環境温度において、事前に求められた対象物体の温度ヒストグラムH25と、温度ヒストグラムH25の累積密度関数F25を示すグラフである。また、図7のグラフG26は、上記の累積密度関数F25に応じた変換関数F26を示すグラフである。累積密度関数F25変換関数F26の関係は、上述した累積密度関数F11と変換関数F12の関係と同様であるため、説明を省略する。
例えば、変換関数特定部142は、環境温度に応じて、上述した変換関数F22、F24、F26の変換関数のうち、最も近い環境温度における対象物体の温度ヒストグラムに基づく変換関数を、変換部144に提供する変換関数として特定してもよい。
なお、上記では、3の環境温度における対象物体に関するデータに基づく変換関数について説明したが、本実施形態は係る例に限定されない。例えば、2、または4以上の環境温度における対象物体に関するデータに基づく変換関数が記憶部150に記憶され、変換関数特定部142は、環境温度に応じて上記の変換関数のうち、いずれか1の変換関数を特定してもよい。
図8は、本実施形態に係る変換関数の他の例を説明するための説明図である。図8に示すグラフG31、G32、G33は、それぞれ人体、顔、車両(対象物体の例)の温度ヒストグラムH31、H32、H33を示すグラフである。図4~図7を参照して説明したように、対象物体(人体、顔、車両)ごとに、対象物体の温度ヒストグラムの累積密度関数に応じた変換関数が生成され、記憶部150に記憶され得る。
例えば、変換関数特定部142は、操作部130を介したユーザ入力により選択される対象物体に応じて、記憶部150に記憶された上記変換関数のうち、1の変換関数を、変換部144に提供する変換関数として特定してもよい。
係る構成により、複数種類の対象物体のうち、ユーザが認識したい対象物体に応じた変換関数が特定され、当該対象物体に係る物体認識精度を向上させることが可能である。
以上、本実施形態に係る変換関数の例、及び変換関数特定部142の変換関数の特定例について説明した。なお、上述した変換関数、及び変換関数の特定は一例であって、本実施形態は係る例に限定されない。例えば、変換関数特定部142は、環境温度、及びユーザ入力により選択される対象物体の組み合わせに応じて、変換関数を特定してもよい。また、変換関数特定部142は、記憶部150に記憶された複数の変換関数のうち、ユーザ入力により選択される1の変換関数を、変換部144に提供する変換関数として特定してもよい。
変換部144は、変換関数特定部142により特定された変換関数を用いて、温度画像に対して階調変換を施し、階調変換により得られた変換画像を認識部146に提供する。変換部144による階調変換は、変換関数に応じて、変換の前後における画像のビット数が異なる変換であってもよいし、変換の前後における画像のビット数が同一である変換であってもよい。
認識部146は、変換部144が階調変換を施して生成した変換画像に対して物体認識を行う。認識部146が行う物体認識は特に限定されないが、例えば認識部146は、変換画像から物体(人体、顔、車両等)を検出する検出部としての機能を有してもよい。また、認識部146は、変換画像から検出された人物を識別する機能や、変換画像から検出された顔の向きを認識する機能を有してもよい。なお、操作部130を介してユーザ入力により対象物体が選択される場合、認識部146は、当該選択された対象物体に係る物体認識を行う。
また、認識部146が行う物体認識の手法は特に限定されず、例えば事前に用意されたテンプレート画像を用いたテンプレートマッチングや、機械学習による手法等であってもよい。
表示制御部148は、表示部160の表示を制御する。例えば、表示制御部148は、認識部146による物体認識の結果(認識結果)を表示部160に表示させる。認識部146が変換画像から人体の検出を行う場合、表示制御部148は、変換画像に、検出された人体の領域を囲う枠を重畳した画像を認識結果(検出結果)として表示させてもよい。
記憶部150は、画像処理装置10の各構成が機能するためのプログラムやパラメータを記憶する。例えば、記憶部150は、複数の変換関数を記憶していてもよい。
表示部160は、表示制御部148に制御されて、様々な画面を表示するディスプレイである。例えば、表示部160は、認識部146による物体認識の結果を表示する。
以上、本実施形態に係る画像処理装置10の構成について説明した。なお、図2に示す構成は一例であって、本実施形態はこれに限定されない。例えば、本実施形態に係る制御部140の各機能、及び記憶部150の機能は、不図示の通信部を介して接続されるクラウド上にあってもよい。
<2-2.動作>
次に、本実施形態に係る画像処理装置10の動作について、図9を参照して説明する。図9は、本実施形態に係る画像処理装置10の動作例を示すフローチャート図である。
図9に示すように、まず、温度画像取得部110がセンシング(撮像)により温度画像を取得する(S100)。続いて、環境温度取得部120が、センシングにより画像処理装置10の周囲の環境温度を取得する(S102)。続いて、操作部130を介したユーザ入力に基づき、対象物体に関する情報が選択(取得)される(S104)。
変換関数特定部142は上記ステップS102、S104で得られた環境温度、対象物体に応じて、記憶部150に記憶された複数の変換関数から1の変換関数を特定する(S106)。
続いて、変換部144は、ステップS106で特定された変換関数を用いて、ステップS100で取得された温度画像に対して階調変換を施す(S108)。ここで、変換部144は、例えば温度画像の画素ごとに、変換関数を参照して、温度を輝度に変換する。全ての画素について、階調変換が完了していない場合(S110においてNO)、処理はステップS108に戻り、階調変換が継続される。
全ての画素について、階調変換が完了した場合(S110においてYES)、認識部146が、階調変換により得られた変換画像に対して物体認識を行う(S112)。最後に、表示制御部148がステップS112における物体認識の結果を表示部160に表示させる(S114)。
<2-3.効果>
以上説明したように、本開示の第一の実施形態によれば、対象物体のデータに基づき、対象物体領域内のダイナミックレンジをより大きくするように生成された変換関数を用いて階調変換が施され、階調変換が施された変換画像に対して物体認識が行われる。係る構成により、物体認識精度が向上する。
<<3.第二の実施形態>>
以上、本開示の第一の実施形態を説明した。続いて、本開示の第二の実施形態を説明する。以下に説明する第二の実施形態では、環境温度の影響を補正して、温度画像の被写体に係る被写体温度を推定することで、物体認識の精度を向上させることが可能である。
<3-1.構成>
図10は、本開示の第二の実施形態に係る画像処理装置の構成例を示す説明図である。図10に示すように、本実施形態に係る画像処理装置20は、距離取得部270を新たに備え、制御部240、及び記憶部250の機能構成が図2の制御部140、及び記憶部150の機能構成と一部異なる点において、図2の画像処理装置10と異なる。なお、図10に示す各構成のうち、図2に示した各構成と実質的に同様の構成については同一の符号を付してあるため、説明を省略する。
距離取得部270は、温度画像の取得に係る温度画像取得部110から、被写体までの距離をセンシングにより取得する。距離取得部270による距離センシングの手法は特に限定されないが、温度画像の画素ごとに、被写体までの距離が取得されることが望ましい。例えば、距離取得部270は、温度画像に対応する距離画像を取得するデプスセンサであってもよい。距離取得部270により取得された温度画像の各画素における被写体までの距離は、制御部240に提供される。
図10に示す制御部240は、画像処理装置20の各構成を制御する。また、本実施形態による制御部240は、図10に示すように、変換関数特定部242、変換部244、認識部146、及び表示制御部148としても機能する。
本実施形態に係る変換関数特定部242は、第一の実施形態に係る変換関数特定部142と同様に、記憶部250に記憶された複数の変換関数から、1の変換関数を特定し、特定された変換関数を変換部244に提供する。例えば、変換関数特定部242は、環境温度取得部120から提供される環境温度、及び操作部130から提供されるユーザの入力に応じて、温度を輝度に変換するための変換関数を特定してもよい。
また、本実施形態に係る変換関数特定部242は、環境温度取得部120から提供される環境温度、及び距離取得部270により取得された距離に応じて、被写体温度を推定するための変換関数を、さらに特定する。以下、温度画像からの被写体温度の推定に関して、図11を参照して説明を行う。
図11は、距離D、環境温度T、被写体温度T、及び観測温度T(温度画像における画素値)の関係を模式的に示す説明図である。図11に示すように、観測温度Tは、被写体温度Tだけでなく、環境温度Tの影響を受け、その影響の大きさは、被写体から温度画像取得部までの距離Dに依存する。
したがって、環境温度Tと距離Dに基づく階調変換により、観測温度Tから被写体温度Tを得ることが可能となる。そこで、事前に、距離D、環境温度T、被写体温度T、及び観測温度Tの関係を計測することで、複数の変換関数(ルックアップテーブル)を生成して記憶部250に記憶させ、変換関数特定部242は、当該複数の変換関数から1の変換関数を特定する。
図12は、観測温度Tから被写体温度Tを推定するための変換関数の例を示す説明図である。図12のグラフG42は、環境温度T=10℃における変換関数F42、F43を、グラフG44は、環境温度T=20℃における変換関数F44、F45を、グラフG46は、環境温度T=30℃における変換関数F46、F47を示すグラフである。なお、なお、変換関数F42、F44、F46、及び変換関数F43、F45、F47は、それぞれ距離Dが小さい(近距離の)場合の変換関数、及び距離Dが大きい(遠距離の)場合の変換関数を示している。
図12に示す例において、変換関数特定部242は、環境温度取得部120から提供される環境温度、及び距離取得部270により取得された距離に応じて、上記変換関数F42~F47から、被写体温度を推定するための変換関数を特定する。なお、変換関数F42~F47は、例えば14bitの観測温度Tを14bitの被写体温度Tに変換するための変換関数である。
なお、図12では、3の環境温度、及び2の距離の組み合わせに対応する6の変換関数の例を示したが、本実施形態は係る例に限定されず、より多様な組み合わせに対応するより多数の変換関数が記憶部250に記憶されていてもよい。変換関数特定部242は、記憶部250に記憶された複数の変換関数のうち、環境温度取得部120から提供される環境温度、及び距離取得部270により取得された距離に応じて、最も近い環境温度と距離の組み合わせに対応する変換関数を特定すればよい。
本実施形態に係る変換部244は、第一の実施形態に係る変換部144と同様に、変換関数特定部242により特定された変換関数を用いて、温度画像に対して、温度を輝度に変換する階調変換を施し、得られた変換画像を認識部146に提供する。
また、本実施形態に係る変換部244は、さらに、変換関数特定部242が距離に基づいて特定した変換関数を用いて、温度画像に階調変換を施すことで、当該温度画像の被写体に係る被写体温度を推定してもよい。なお、推定された被写体温度を各画素の画素値とする温度画像が、さらに他の変換関数を用いた階調変換の対象となってもよい。
本実施形態に係る記憶部250は、第一の実施形態に係る記憶部150と同様に、画像処理装置10の各構成が機能するためのプログラムやパラメータを記憶する。例えば、記憶部250は、記憶部150と同様に、温度を輝度に変換するための複数の変換関数を有してもよいし、さらに、観測温度から被写体温度を推定する(観測温度を被写体温度に変換する)ための複数の変換関数を記憶していてもよい。
<3-2.動作>
以上、本実施形態に係る画像処理装置20の構成について説明した。続いて、本実施形態に係る画像処理装置20の動作について、図13を参照して説明する。図13は、本実施形態に係る画像処理装置20の動作例を示すフローチャート図である。
図13に示すように、まず、温度画像取得部110がセンシング(撮像)により温度画像を取得する(S200)。続いて、環境温度取得部120が、センシングにより画像処理装置20の周囲の環境温度を取得する(S202)。続いて、距離取得部270が、温度画像取得部110から被写体までの距離をセンシングにより取得する(S204)。
変換関数特定部242は、上記ステップS202、及びステップS204で取得された環境温度、及び距離に応じて、被写体温度を推定するための変換関数を特定する(S206)。なお、ステップS206において、変換関数は温度画像の画素ごとに特定されてもよい。
続いて、変換部244は、ステップS206で特定された変換関数を用いて、ステップS200で取得された温度画像に対して階調変換を施す(S208)。ここで、変換部244は、例えば温度画像の画素ごとに、変換関数を参照して、観測温度を被写体温度に変換する。全ての画素について、階調変換が完了していない場合(S210においてNO)、処理はステップS208に戻り、階調変換が継続される。
全ての画素について、階調変換が完了した場合(S210においてYES)、操作部130を介したユーザ入力に基づき、対象物体に関する情報が選択(取得)される(S212)。続くステップS214~S222の処理は、温度画像の各画素値がステップS208で得られた被写体温度であることを除いて、図9を参照して説明したステップS106~S114の処理と同様であるため、説明を省略する。
<3-3.効果>
以上説明したように、本開示の第二の実施形態によれば、温度画像の被写体に係る被写体温度が推定される。また、被写体温度を画素値とする温度画像に対して階調変換が行われる。係る構成により、物体認識の精度を向上させることが可能である。
<3-4.変形例>
なお、上記では、図10に示す画像処理装置20が距離取得部270を備える例を説明したが、本実施形態は係る例に限定されない。例えば、画像処理装置20が距離取得部270を備えず、温度画像取得部110から被写体までの正確な距離を取得することが出来なくても、本実施形態を適用することは可能である。以下、変形例として、画像処理装置20が距離取得部270を備えない場合の変換関数特定部242による変換関数の特定について説明する。
例えば、変換関数特定部242は、認識部146が対象物体を検出しようとする距離に応じて、変換関数を特定してもよい。認識部146が対象物体を検出しようとする距離について、以下に説明を行う。
例えば、認識部146が、スキャニングに係るウィンドウのサイズを変化させながら変換画像に対するスキャニングを行い、ウィンドウ内の画素値と、予め用意されたテンプレート画像の画素値を比較することで対象物体の検出を行う場合を考える。係る場合、ウィンドウサイズがより大きいほど、検出しようとする対象物体がより大きく映っていることが想定されるため、対象物体は温度画像取得部110により近いと考えられる。したがって、ウィンドウサイズがより大きいほど、対象物体を検出しようとする距離は小さい距離となり、ウィンドウサイズがより小さいほど、対象物体を検出しようとする距離は大きい距離となる。
また、認識部146が、変換画像を縮小して、複数サイズの画像ピラミッドを生成し、生成された異なるサイズの画像ピラミッドに対して、同一のウィンドウサイズでスキャニングを行うことで対象物体を検出する場合を考える。係る場合、画像ピラミッドのサイズがより小さい程、検出しようとする対象物体がより大きく映っていることが想定されるため、対象物体は温度画像取得部110により近いと考えられる。したがって、画像ピラミッドのサイズがより小さいほど、対象物体を検出しようとする距離は小さい距離となり、画像ピラミッドのサイズがより大きいほど、対象物体を検出しようとする距離は大きい距離となる。
上述したように、画像処理装置20が距離取得部270を備えない場合であっても、認識部146が対象物体を検出しようとする距離が特定され、変換関数特定部242は、当該距離に応じて、変換関数を特定することが可能である。
<<4.第三の実施形態>>
以上、本開示の第一の実施形態、及び第二の実施形態を説明した。続いて、本開示の第三の実施形態を説明する。本開示の第三の実施形態による画像処理装置は、温度画像のうち、検出された第一の対象物体に対応する領域に対して、階調変換を施した後に、第二の対象物体に係る物体認識を行うことで、第二の対象物体に係る物体認識の精度を向上させることが可能である。
<4-1.構成>
図14は、本開示の第三の実施形態に係る画像処理装置の構成例を示す説明図である。図14に示すように、本実施形態に係る画像処理装置30は、制御部340の機能構成が図10の制御部240の機能構成と一部異なる点において、図10の画像処理装置20と異なる。なお、図14に示す各構成のうち、図2、及び図10に示した各構成と実質的に同様の構成については同一の符号を付してあるため、説明を省略する。
図14に示す制御部340は、画像処理装置30の各構成を制御する。また、本実施形態による制御部340は、図14に示すように、変換関数特定部342、変換部344、認識部346、及び表示制御部148としても機能する。
本実施形態に係る変換関数特定部342は、第二の実施形態に係る変換関数特定部242と同様に、記憶部250に記憶された複数の変換関数から、1の変換関数を特定し、特定された変換関数を変換部344に提供する。例えば、変換関数特定部342は、環境温度取得部120から提供される環境温度、及び操作部130から提供されるユーザの入力に応じて、温度を輝度に変換するための変換関数を特定してもよい。また、変換関数特定部342は、環境温度取得部120から提供される環境温度、及び距離取得部270により取得された距離に応じて、被写体温度を推定するための変換関数を特定してもよい。
本実施形態に係る変換関数特定部342は、温度を輝度に変換するための変換関数を、少なくとも2つ(2回)特定する点で、第一の実施形態に係る変換関数特定部142、及び第二の実施形態に係る変換関数特定部242と異なる。例えば、変換関数特定部342は、第一の対象物体に関するデータに基づく第一の変換関数と、第二の対象物体に関するデータに基づく第二の変換関数と、を特定してもよい。本実施形態に係る変換関数特定部342により特定される、第一の変換関数、及び第二の変換関数の具体例については、図15を参照して後述する。
本実施形態に係る変換部344は、第二の実施形態に係る変換部244と同様に、変換関数特定部342が距離に基づいて特定した変換関数を用いて、温度画像に階調変換を施すことで、当該温度画像の被写体に係る被写体温度を推定する。なお、推定された被写体温度を各画素の画素値とする温度画像が、さらに以下で説明する階調変換の対象となってもよい。
また、本実施形態に係る変換部344は、変換関数特定部342により特定される、第一の変換関数を用いて、温度画像に対して、温度を輝度に変換する階調変換を施して生成された第一の変換画像を認識部346に提供する。さらに、本実施形態に係る変換部344は、温度画像のうち、認識部346(検出部)により検出された第一の対象物体に対応する領域に対して、変換関数特定部342により特定される第二の変換関数を用いて階調変換を施して第二の変換画像を生成する。生成された第二の変換画像は認識部346に提供される。
本実施形態に係る認識部346は、第一の実施形態に係る認識部146と同様に、変換部344が階調変換を施して生成した変換画像に対して物体認識を行う。本実施形態に係る認識部346は、変換部344から提供される第一の変換画像から、第一の対象物体を検出する検出部として機能してもよい。また、本実施形態に係る認識部346は、変換部344から提供される第二の変換画像に対して、第二の対象物体に係る物体認識を行ってもよい。
図15は、本実施形態に係る認識部346による物体認識の具体例を示す模式図である。以下では、図15に示す例において、顔の検出が認識部346による物体認識の目的であるものとする。
図15に示す温度画像P12は、変換部344が、被写体温度を推定するための変換関数を用いた階調変換を行って推定した被写体温度を画素値とする温度画像である。ここで、温度画像P12に対して階調変換を施して得られた変換画像に対して、顔検出を行うと、誤検出が多くなる場合がある。そこで、人体を検出した後に、検出された人体領域を顔が含まれる候補領域とし、当該候補領域を対象とした顔検出を行うことで、顔検出の精度向上が期待される。
しかし、人体検出に用いる変換画像を生成するための階調変換と、顔検出に用いる変換画像を生成するための階調変換は異なる変換関数を用いて行われることが望ましい。例えば、人体に関するデータに基づく変換関数を用いた階調変換を行うと、顔領域の階調がつぶれ、顔領域の輝度が一様となってしまい、顔検出の精度が低下する恐れがある。そこで、以下に説明するように、例えば変換部344は2つの異なる変換関数を用いて、人体検出のための階調変換と、顔検出のための階調変換を行う。
まず、変換関数特定部342は、人体(第一の対象物体)に関するデータに基づく第一の変換関数を特定する。そして、変換部344が第一の変換関数を用いて温度画像P12に階調変換を施して生成される第一の変換画像から、認識部346による人体検出が行われる(図15に示す画像P14)。ここで、画像P14に示すように、認識部346は、ウィンドウW14をずらしながらスキャニングして、人体領域R14を検出する。
また、変換関数特定部342は、顔(第二の対象物体)に関するデータに基づく第二の変換関数を特定する。温度画像P12のうち、認識部346により検出された第一の対象物体に対応する候補領域P16に対し、変換部344が第二の変換関数を用いて階調変換を施して第二の変換画像を生成する。そして認識部346は、生成された第二の変換画像から、顔検出を行う(図15に示す画像P18)。ここで、画像P18に示すように、認識部346は、ウィンドウW18をずらしながらスキャニングして、顔領域R18を検出する。
なお、上述した人体、及び顔は、第一の対象物体、及び第二の対象物体の一例であって、本実施形態は係る例に限定されず、第一の対象物体、及び第二の対象物体は、例えば第一の対象物体に第二の対象物体が含まれる関係を有する多様な物体であり得る。
<4-2.動作>
以上、本実施形態に係る画像処理装置30の構成について説明した。続いて、本実施形態に係る画像処理装置30の動作について、図16を参照して説明する。図16は、本実施形態に係る画像処理装置30の動作例を示すフローチャート図である。
図16に示すステップS300~S310の処理は、図13を参照して説明したステップS200~S210の処理と同様であるため、説明を省略する。
続いて、ステップS312において、操作部130を介したユーザ入力に基づき、対象物体に関する情報が選択(取得)される。なお、ここで、第一の対象物体と第二の対象物体とが選択されてもよい。
続いて、変換関数特定部342は上記ステップS302、S312で得られた環境温度、第一の対象物体に応じて、記憶部250に記憶された複数の変換関数から第一の変換関数を特定する(S314)。続いて、変換部344は、第一の変換関数を用いて、温度画像に対して、温度を輝度に変換する階調変換を施す(S316)。全ての画素について、階調変換が完了していない場合(S318においてNO)、処理はステップS316に戻り、階調変換が継続される。
全ての画素について、階調変換が完了した場合(S318においてYES)、認識部346は、ステップS316の階調変換により得られた第一の変換画像に対して、第一の対象物体の検出(物体認識)を行う(S320)。続いて、変換関数特定部342は上記ステップS302、S312で得られた環境温度、第二の対象物体に応じて、記憶部250に記憶された複数の変換関数から第二の変換関数を特定する(S322)。
続いて、変換部344は、第二の変換関数を用いて、ステップS320検出された第一の対象物体に対応する候補領域に対し、温度を輝度に変換する階調変換を施す(S324)。全ての画素について、階調変換が完了していない場合(S326においてNO)、処理はステップS324に戻り、階調変換が継続される。
全ての画素について、階調変換が完了した場合(S326においてYES)、認識部346は、ステップS324の階調変換により得られた第二の変換画像に対して、第二の対象物体に係る物体認識を行う(S328)。最後に、表示制御部148がステップS328における物体認識の結果を表示部160に表示させる(S330)。
<4-3.効果>
以上説明したように、本開示の第三の実施形態によれば、第一の対象物体の検出を行った後に、検出された第一の対象物体領域に対応する温度画像の領域を候補領域とし、当該候補領域に対して階調変換と第二の対象物体に係る物体認識を行う。また、第一の対象物体の検出の対象となる変換画像、及び第二の対象物体の検出の対象となる変換画像の生成に、それぞれ第一の対象物体、及び第二の対象物体のデータに基づく変換関数を用いる。係る構成により、例えば誤検出を低減させることが可能となり、物体認識精度が向上する。
<4-4.変形例>
なお、上記で説明した図15では、第一の変換画像、及び第二の変換画像の階調数が同一(bit数が同一)である例を示したが、本実施形態は係る例に限定されない。例えば、第一の変換画像の階調数は、第二の変換画像の階調数よりも小さくてもよい。以下に、第一の変換画像の階調数が第二の変換画像の階調数よりも小さい場合の例を変形例として説明する。
図17は、本変形例に係る物体認識の具体例を示す模式図である。以下では、図15に示した例と同様、図17に示す例において、顔の検出が物体認識の目的であるものとする。
図15に示す温度画像P22は、変換部344が、被写体温度を推定するための変換関数を用いた階調変換を行って推定した被写体温度を画素値とする温度画像である。ここで、図15を参照して説明したように、変換関数特定部342は、人体(第一の対象物体)に関するデータに基づく第一の変換関数を特定する。ただし、本変形例に係る変換関数特定部342は変換後の画像(第一の変換画像)のbit数が4(階調数が16)である変換関数を第一の変換関数として特定する。
そして、変換部344が温度画像P22に第一の変換関数を用いた階調変換を施して生成される第一の変換画像から、認識部346による人体検出が行われる(図17に示す画像P24)。ここで、画像P24に示すように、認識部346は、ウィンドウW24をずらしながらスキャニングして、人体領域R24を検出する。
また、変換関数特定部342は、顔(第二の対象物体)に関するデータに基づく第二の変換関数を特定する。本変形例に係る変換関数特定部342は変換後の画像(第二の変換画像)のbit数が8(階調数が256)である変換関数を第二の変換関数として特定する。
温度画像P22のうち、認識部346により検出された第一の対象物体に対応する候補領域P26に対し、変換部344が第二の変換関数を用いて階調変換を施して第二の変換画像を生成する。そして認識部346は、生成された第二の変換画像から、顔検出を行う(図17に示す画像P28)。ここで、画像P28に示すように、認識部346は、ウィンドウW28をずらしながらスキャニングして、顔領域R28を検出する。
以上説明したように、図17に示す例では、第一の変換画像の階調数は、第二の変換画像の階調数よりも小さい。係る構成により、図15の例と比較して、第一の変換画像に対する物体認識(人体検出)におけるデータ量、及び処理量が削減されつつ、第二の変換画像に対する物体認識(顔検出)の精度は低下し難いという効果がある。
<<5.第四の実施形態>>
以上、本開示の第一の実施形態、第二の実施形態、及び第三の実施形態を説明した。続いて、本開示の第四の実施形態を説明する。本開示の第四の実施形態による画像処理装置は、被写体温度を推定するための階調変換を行い、対象物体に係るデータに基づく変換関数を用いた階調変換を行わなくてもよい。
<5-1.構成>
図18は、本開示の第四の実施形態に係る画像処理装置の構成例を示す説明図である。図18に示すように、本実施形態に係る画像処理装置40は、操作部130を備えない点と、制御部440、及び記憶部450の機能構成が図10の制御部240、及び記憶部250の機能構成と一部異なる点と、において、図10の画像処理装置20と異なる。なお、図18に示す各構成のうち、図2、及び図10に示した各構成と実質的に同様の構成については同一の符号を付してあるため、説明を省略する。
図18に示す制御部440は、画像処理装置40の各構成を制御する。また、本実施形態による制御部440は、図18に示すように、変換関数特定部442、変換部444、認識部446、及び表示制御部148としても機能する。
本実施形態に係る変換関数特定部442は、記憶部450に記憶された複数の変換関数から、1の変換関数を特定し、特定された変換関数を変換部444に提供する。例えば、変換関数特定部442は、第二の実施形態に係る変換関数特定部242と同様に、環境温度取得部120から提供される環境温度、及び距離取得部270により取得された距離に応じて、被写体温度を推定するための変換関数を特定してもよい。なお、本実施形態に係る変換関数特定部442は、温度を輝度に変換するための変換関数を特定する機能を有していない点で、第二の実施形態に係る変換関数特定部242と異なる。
本実施形態に係る変換部444は、第二の実施形態に係る変換部344と同様に、距離に基づいて特定される変換関数を用いて、温度画像に対して階調変換を施すことで、当該温度画像の被写体に係る被写体温度を推定する。また、本実施形態に係る変換部444は、推定された被写体温度を各画素の画素値とする温度画像を認識部446に提供する点で、第二の実施形態に係る変換部344と異なる。
本実施形態に係る認識部446は、変換部444が階調変換を施して生成した被写体温度を各画素の画素値とする温度画像に対して物体認識を行う。
本実施形態に係る記憶部450は、第二の実施形態に係る記憶部250と同様に、画像処理装置40の各構成が機能するためのプログラムやパラメータを記憶する。例えば、記憶部450は、記憶部250と同様に、観測温度から被写体温度を推定する(観測温度を被写体温度に変換する)ための複数の変換関数を記憶するが、記憶部250と異なり、温度を輝度に変換するための変換関数を記憶していなくてもよい。
<5-2.動作>
以上、本実施形態に係る画像処理装置40の構成について説明した。続いて、本実施形態に係る画像処理装置40の動作について、図19を参照して説明する。図19は、本実施形態に係る画像処理装置40の動作例を示すフローチャート図である。
図19に示すステップS400~S410の処理は、図13を参照して説明したステップS200~S210の処理と同様であるため、説明を省略する。
続いて、ステップS412において、認識部446は、ステップS408の階調変換により得られた被写体温度を各画素の画素値とする温度画像に対して、物体認識を行う(S412)。最後に、表示制御部148がステップS412における物体認識の結果を表示部160に表示させる(S414)。
<5-3.効果>
以上説明したように、本開示の第四の実施形態によれば、温度画像の被写体に係る被写体温度が推定される。係る構成により、物体認識の精度を向上させることが可能である。
<<6.ハードウェア構成例>>
以上、本開示の実施形態を説明した。最後に、図20を参照して、本実施形態に係る画像処理装置のハードウェア構成について説明する。図20は、本実施形態に係る画像処理装置のハードウェア構成の一例を示すブロック図である。なお、図20に示す画像処理装置900は、例えば、図2、10、14、18にそれぞれ示した画像処理装置10、20、30、40を実現し得る。本実施形態に係る画像処理装置10、20、30、40による情報処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
図20に示すように、画像処理装置900は、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903及びホストバス904aを備える。また、画像処理装置900は、ブリッジ904、外部バス904b、インタフェース905、入力装置906、出力装置907、ストレージ装置908、ドライブ909、接続ポート911、通信装置913、及びセンサ915を備える。画像処理装置900は、CPU901に代えて、又はこれとともに、DSP若しくはASIC等の処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って画像処理装置900内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。CPU901は、例えば、図2、10、14、18にそれぞれ示した制御部140、240,340、440を形成し得る。
CPU901、ROM902及びRAM903は、CPUバスなどを含むホストバス904aにより相互に接続されている。ホストバス904aは、ブリッジ904を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス904bに接続されている。なお、必ずしもホストバス904a、ブリッジ904および外部バス904bを分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置906は、例えば、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、ユーザによって情報が入力される装置によって実現される。また、入力装置906は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、画像処理装置900の操作に対応した携帯電話やPDA等の外部接続機器であってもよい。さらに、入力装置906は、例えば、上記の入力手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などを含んでいてもよい。画像処理装置900のユーザは、この入力装置906を操作することにより、画像処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。上記入力装置906は、例えば、図2、10、14に示す操作部130を形成し得る。
出力装置907は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で形成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置及びランプ等の表示装置や、スピーカ及びヘッドホン等の音声出力装置や、プリンタ装置等がある。出力装置907は、例えば、画像処理装置900が行った各種処理により得られた結果を出力する。具体的には、表示装置は、画像処理装置900が行った各種処理により得られた結果を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。上記出力装置907は、例えば、図2、10、14、18に示す表示部160を形成し得る。
ストレージ装置908は、画像処理装置900の記憶部の一例として形成されたデータ格納用の装置である。ストレージ装置908は、例えば、HDD等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現される。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置908は、CPU901が実行するプログラムや各種データ及び外部から取得した各種のデータ等を格納する。上記ストレージ装置908は、例えば、図2、10、14、18に示す記憶部150、250、450を形成し得る。
ドライブ909は、記憶媒体用リーダライタであり、画像処理装置900に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体に記録されている情報を読み出して、RAM903に出力する。また、ドライブ909は、リムーバブル記憶媒体に情報を書き込むこともできる。
接続ポート911は、外部機器と接続されるインタフェースであって、例えばUSB(Universal Serial Bus)などによりデータ伝送可能な外部機器との接続口である。
通信装置913は、例えば、ネットワーク920に接続するための通信デバイス等で形成された通信インタフェースである。通信装置913は、例えば、有線若しくは無線LAN(Local Area Network)、LTE(Long Term Evolution)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置913は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置913は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。
なお、ネットワーク920は、ネットワーク920に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク920は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク920は、IP-VPN(Internet Protocol-Virtual Private Network)などの専用回線網を含んでもよい。
センサ915は、例えば、加速度センサ、ジャイロセンサ、地磁気センサ、光センサ、音センサ、測距センサ、力センサ等の各種のセンサである。センサ915は、画像処理装置900の姿勢、移動速度等、画像処理装置900自身の状態に関する情報や、画像処理装置900の周辺の明るさや騒音等、画像処理装置900の周辺環境に関する情報を取得する。また、センサ915は、GPS信号を受信して装置の緯度、経度及び高度を測定するGPSセンサを含んでもよい。センサ915は、例えば、図2、10、14、18に示した温度画像取得部110、環境温度取得部120、距離取得部270を形成し得る。
以上、本実施形態に係る画像処理装置900の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて実現されていてもよいし、各構成要素の機能に特化したハードウェアにより実現されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
なお、上述のような本実施形態に係る画像処理装置900の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
<<7.むすび>>
以上、説明したように、本開示の実施形態によれば、温度画像を用いた物体認識における認識精度を向上させることが可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態における各ステップは、必ずしもフローチャート図として記載された順序に沿って時系列に処理される必要はない。例えば、上記実施形態の処理における各ステップは、フローチャート図として記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
対象物体に関するデータに基づく変換関数を用いて、温度画像に対して階調変換を施す変換部を備える、画像処理装置。
(2)
前記変換関数は、前記変換部が前記階調変換を施して生成する変換画像における前記対象物体の領域内のダイナミックレンジをより大きくするように、前記対象物体に関するデータに基づいて生成される、前記(1)に記載の画像処理装置。
(3)
前記変換部が前記階調変換を施して生成した変換画像から、前記対象物体を検出する検出部をさらに備える、前記(1)または(2)に記載の画像処理装置。
(4)
前記検出部は、前記変換部により第一の対象物体に関するデータに基づく第一の変換関数を用いて前記階調変換が施された第一の変換画像から、前記第一の対象物体を検出し、
前記変換部は、前記温度画像のうち、前記検出部により検出された前記第一の対象物体に対応する領域に対して、第二の対象物体に関するデータに基づく第二の変換関数を用いて前記階調変換を施して第二の変換画像を生成する、前記(3)に記載の画像処理装置。
(5)
前記第一の変換画像の階調数は、前記第二の変換画像の階調数よりも小さい、前記(4)に記載の画像処理装置。
(6)
複数の前記変換関数から1の変換関数を特定する変換関数特定部をさらに備え、
前記変換部は、前記変換関数特定部により特定された前記変換関数を用いて、前記階調変換を施す、前記(1)~(5)のいずれか一項に記載の画像処理装置。
(7)
前記変換関数特定部は、環境温度に応じて前記変換関数を特定する、前記(6)に記載の画像処理装置。
(8)
前記変換関数特定部は、ユーザ入力により選択される前記対象物体に応じて前記変換関数を特定する、前記(6)または(7)に記載の画像処理装置。
(9)
前記変換関数特定部は、距離に応じて前記変換関数を特定する、前記(6)~(8)のいずれか一項に記載の画像処理装置。
(10)
前記変換部は、前記距離に応じて特定された前記変換関数を用いて、前記階調変換を施すことで、前記温度画像の被写体に係る被写体温度を推定する、前記(9)に記載の画像処理装置。
(11)
前記距離は、前記温度画像の取得に係る温度画像取得部から前記被写体までの距離である、前記(10)に記載の画像処理装置。
(12)
前記距離は、前記対象物体を検出しようとする距離である、前記(10)に記載の画像処理装置。
(13)
前記温度画像を取得する、温度画像取得部をさらに備える、前記(1)~(12)のいずれか一項に記載の画像処理装置。
(14)
前記対象物体に関するデータは前記対象物体の温度レンジであり、前記変換関数は、前記温度レンジに応じた範囲において所定の変換を行うための関数である、前記(1)~(13)のいずれか一項に記載の画像処理装置。
(15)
前記対象物体に関するデータは前記対象物体に関する温度ヒストグラムであり、前記変換関数は、前記温度ヒストグラムの累積密度関数に応じた関数である、前記(1)~(14)のいずれか一項に記載の画像処理装置。
(16)
プロセッサが、対象物体に関するデータに基づく変換関数を用いて、温度画像に対して階調変換を施すこと、を含む画像処理方法。
(17)
複数の変換関数から距離に基づいて特定される変換関数を用いて、温度画像に対して階調変換を施すことで、前記温度画像の被写体に係る被写体温度を推定する変換部を備える、画像処理装置。
10 画像処理装置
110 温度画像取得部
120 環境温度取得部
130 操作部
140 制御部
142 変換関数特定部
144 変換部
146 認識部
148 表示制御部
150 記憶部
160 表示部

Claims (17)

  1. 対象物体に関するデータに基づく変換関数を用いて、温度画像に対して階調変換を施す変換部
    前記変換部により第一の対象物体に関するデータに基づく第一の変換関数を用いて前記階調変換が施された第一の変換画像から、前記第一の対象物体を検出する検出部と、を備え、
    前記変換部は、前記温度画像のうち、前記検出部により検出された前記第一の対象物体に対応する領域に対して、第二の対象物体に関するデータに基づく第二の変換関数を用いて前記階調変換を施して第二の変換画像を生成する、
    画像処理装置。
  2. 前記変換関数は、前記変換部が前記階調変換を施して生成する変換画像における前記対象物体の領域内のダイナミックレンジをより大きくするように、前記対象物体に関するデータに基づいて生成される、請求項1に記載の画像処理装置。
  3. 前記第一の変換画像の階調数は、前記第二の変換画像の階調数よりも小さい、請求項に記載の画像処理装置。
  4. 複数の前記変換関数から1の変換関数を特定する変換関数特定部をさらに備え、
    前記変換部は、前記変換関数特定部により特定された前記変換関数を用いて、前記階調変換を施す、請求項1~3のいずれか一項に記載の画像処理装置。
  5. 前記変換関数特定部は、環境温度に応じて前記変換関数を特定する、請求項に記載の画像処理装置。
  6. 前記変換関数特定部は、ユーザ入力により選択される前記対象物体に応じて前記変換関数を特定する、請求項4または5に記載の画像処理装置。
  7. 前記変換関数特定部は、距離に応じて前記変換関数を特定する、請求項4~6のいずれか一項に記載の画像処理装置。
  8. 前記変換部は、前記距離に応じて特定された前記変換関数を用いて、前記階調変換を施すことで、前記温度画像の被写体に係る被写体温度を推定する、請求項に記載の画像処理装置。
  9. 前記距離は、前記温度画像の取得に係る温度画像取得部から前記被写体までの距離である、請求項に記載の画像処理装置。
  10. 前記距離は、前記対象物体を検出しようとする距離である、請求項に記載の画像処理装置。
  11. 前記温度画像を取得する、温度画像取得部をさらに備える、請求項1~10のいずれか一項に記載の画像処理装置。
  12. 前記対象物体に関するデータは前記対象物体の温度レンジであり、前記変換関数は、前記温度レンジに応じた範囲において所定の変換を行うための関数である、請求項1~11のいずれか一項に記載の画像処理装置。
  13. 前記対象物体に関するデータは前記対象物体に関する温度ヒストグラムであり、前記変換関数は、前記温度ヒストグラムの累積密度関数に応じた関数である、請求項1~12のいずれか一項に記載の画像処理装置。
  14. プロセッサが、対象物体に関するデータに基づく変換関数を用いて、温度画像に対して階調変換を施す変換ステップと、
    プロセッサが、前記変換ステップにより第一の対象物体に関するデータに基づく第一の変換関数を用いて前記階調変換が施された第一の変換画像から、前記第一の対象物体を検出する検出ステップと、を含み、
    前記変換ステップでは、前記温度画像のうち、前記検出ステップにより検出された前記第一の対象物体に対応する領域に対して、第二の対象物体に関するデータに基づく第二の変換関数を用いて前記階調変換を施して第二の変換画像を生成する、
    画像処理方法。
  15. 複数の変換関数から被写体温度を推定するための変換関数を特定する特定部と、
    特定された変換関数を用いて、温度画像に対して階調変換を施すことで、前記温度画像の被写体に係る被写体温度を推定する変換部と、
    推定された被写体温度を各画素の画素値とする温度画像に対して物体認識を行う認識部と、を備える画像処理装置。
  16. 前記特定部は、複数の変換関数から環境温度及び距離に応じて変換関数を特定する、請求項15に記載の画像処理装置。
  17. プロセッサが、複数の変換関数から被写体温度を推定するための変換関数を特定することと、
    プロセッサが、特定された変換関数を用いて、温度画像に対して階調変換を施すことで、前記温度画像の被写体に係る被写体温度を推定することと、
    プロセッサが、推定された被写体温度を各画素の画素値とする温度画像に対して物体認識を行ことと、
    を含む画像処理方法。
JP2018531746A 2016-08-04 2017-05-16 画像処理装置、及び画像処理方法 Active JP7024713B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016153471 2016-08-04
JP2016153471 2016-08-04
PCT/JP2017/018378 WO2018025466A1 (ja) 2016-08-04 2017-05-16 画像処理装置、及び画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2018025466A1 JPWO2018025466A1 (ja) 2019-05-30
JP7024713B2 true JP7024713B2 (ja) 2022-02-24

Family

ID=61072784

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018531746A Active JP7024713B2 (ja) 2016-08-04 2017-05-16 画像処理装置、及び画像処理方法

Country Status (4)

Country Link
US (1) US11035736B2 (ja)
EP (1) EP3496032A4 (ja)
JP (1) JP7024713B2 (ja)
WO (1) WO2018025466A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190202372A1 (en) * 2018-01-03 2019-07-04 Getac Technology Corporation Vehicular image pickup device and image capturing method
JP7274909B2 (ja) * 2019-03-29 2023-05-17 株式会社タムロン 遠赤外線カメラ
CN110966716A (zh) * 2019-11-12 2020-04-07 珠海格力电器股份有限公司 一种室内冷血动物培养的热成像精密恒温空调及控制方法
JP6979103B2 (ja) * 2020-04-08 2021-12-08 三菱電機インフォメーションシステムズ株式会社 画像生成装置、画像生成方法及び画像生成プログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001023095A (ja) 1999-07-12 2001-01-26 Mazda Motor Corp 車両の周囲情報報知装置
JP2003296728A (ja) 2002-03-29 2003-10-17 Fujitsu Ltd 赤外線画像信号処理装置
JP2004212349A (ja) 2003-01-08 2004-07-29 Nec San-Ei Instruments Ltd 赤外画像表示装置及びその表示方法
JP2011039732A (ja) 2009-08-10 2011-02-24 Ihi Corp 車両操縦用画像表示装置および方法
JP2012053724A (ja) 2010-09-02 2012-03-15 Suzuki Motor Corp 歩行者検出装置
JP2012247225A (ja) 2011-05-25 2012-12-13 Seiko Epson Corp 検出装置及び検出方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320258A (ja) * 1995-05-25 1996-12-03 Matsushita Electric Ind Co Ltd 熱画像情報と位置情報を利用した物体検出方法およびその装置
EP1026521B1 (en) 1995-04-12 2004-09-29 Matsushita Electric Industrial Co., Ltd. Method and apparatus for detecting an object
JP3414634B2 (ja) * 1998-01-30 2003-06-09 株式会社山武 人数計測システム
KR100944595B1 (ko) 2007-04-24 2010-02-25 가부시끼가이샤 르네사스 테크놀로지 표시 장치, 표시 장치 구동 회로, 화상 표시 방법, 전자기기 및 화상 표시 장치 구동 회로
US7924312B2 (en) 2008-08-22 2011-04-12 Fluke Corporation Infrared and visible-light image registration
US9135888B2 (en) 2013-03-15 2015-09-15 L-3 Communications Cincinnati Electronics Corporation System and method for converting an image to an intensity based colormap
US9990730B2 (en) 2014-03-21 2018-06-05 Fluke Corporation Visible light image with edge marking for enhancing IR imagery
CA2955976A1 (en) * 2014-07-24 2016-01-28 University Health Network Collection and analysis of data for diagnostic purposes
JP6822122B2 (ja) * 2016-12-19 2021-01-27 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP6822121B2 (ja) * 2016-12-19 2021-01-27 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
KR20210052465A (ko) * 2018-08-08 2021-05-10 쉘터드 윙스, 인크. 디/비/에이 보텍스 옵틱스 시야 광학체를 위한 디스플레이 시스템
EP3911909A4 (en) * 2019-01-18 2023-03-08 Sheltered Wings d/b/a Vortex Optics VIEW OPTICS WITH ROUND COUNTER SYSTEM

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001023095A (ja) 1999-07-12 2001-01-26 Mazda Motor Corp 車両の周囲情報報知装置
JP2003296728A (ja) 2002-03-29 2003-10-17 Fujitsu Ltd 赤外線画像信号処理装置
JP2004212349A (ja) 2003-01-08 2004-07-29 Nec San-Ei Instruments Ltd 赤外画像表示装置及びその表示方法
JP2011039732A (ja) 2009-08-10 2011-02-24 Ihi Corp 車両操縦用画像表示装置および方法
JP2012053724A (ja) 2010-09-02 2012-03-15 Suzuki Motor Corp 歩行者検出装置
JP2012247225A (ja) 2011-05-25 2012-12-13 Seiko Epson Corp 検出装置及び検出方法

Also Published As

Publication number Publication date
EP3496032A1 (en) 2019-06-12
JPWO2018025466A1 (ja) 2019-05-30
WO2018025466A1 (ja) 2018-02-08
US11035736B2 (en) 2021-06-15
EP3496032A4 (en) 2020-03-25
US20190285479A1 (en) 2019-09-19

Similar Documents

Publication Publication Date Title
JP7024713B2 (ja) 画像処理装置、及び画像処理方法
CN110602473B (zh) 一种白平衡校准方法及装置
CN111476780B (zh) 一种图像检测方法、装置、电子设备以及存储介质
CN107566749B (zh) 拍摄方法及移动终端
CN109068116B (zh) 基于补光的图像处理方法、装置、移动终端和存储介质
US10388005B2 (en) Sensor system for data enhancement
CN110868544B (zh) 一种拍摄方法及电子设备
WO2021190387A1 (zh) 检测结果输出的方法、电子设备及介质
CN109151348B (zh) 一种图像处理方法、电子设备及计算机可读存储介质
CN109104578B (zh) 一种图像处理方法及移动终端
CN107807488B (zh) 一种摄像头组件、光圈调整方法及移动终端
CN109639981B (zh) 一种图像拍摄方法及移动终端
CN111145151A (zh) 一种运动区域确定方法及电子设备
US20190394377A1 (en) Information processing device, image capturing device, and electronic apparatus
CN107798662B (zh) 一种图像处理方法及移动终端
CN107734269B (zh) 一种图像处理方法及移动终端
CN107817963B (zh) 一种图像显示方法、移动终端及计算机可读存储介质
CN110930372B (zh) 一种图像处理方法、电子设备及计算机可读存储介质
CN113455013B (zh) 用于处理图像的电子设备及其图像处理方法
JP5929535B2 (ja) エフェクト制御装置、エフェクト制御方法、およびプログラム
CN112150357B (zh) 一种图像处理方法及移动终端
CN109257543B (zh) 拍摄模式控制方法及移动终端
CN109729269B (zh) 一种图像处理方法、终端设备及计算机可读存储介质
CN114119413A (zh) 图像处理方法及装置、可读介质和移动终端
CN107194363B (zh) 图像饱和度处理方法、装置、存储介质及计算机设备

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210803

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220124

R151 Written notification of patent or utility model registration

Ref document number: 7024713

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151