JP2021111892A - 画像生成装置、画像生成方法 - Google Patents

画像生成装置、画像生成方法 Download PDF

Info

Publication number
JP2021111892A
JP2021111892A JP2020003503A JP2020003503A JP2021111892A JP 2021111892 A JP2021111892 A JP 2021111892A JP 2020003503 A JP2020003503 A JP 2020003503A JP 2020003503 A JP2020003503 A JP 2020003503A JP 2021111892 A JP2021111892 A JP 2021111892A
Authority
JP
Japan
Prior art keywords
storage unit
charge storage
coefficient
light
charge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020003503A
Other languages
English (en)
Inventor
裕太 飯田
Yuta IIDA
裕太 飯田
祐介 森山
Yusuke Moriyama
祐介 森山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2020003503A priority Critical patent/JP2021111892A/ja
Priority to PCT/JP2020/043241 priority patent/WO2021145065A1/ja
Publication of JP2021111892A publication Critical patent/JP2021111892A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation

Abstract

【課題】モーションブラーを低減させた赤外線画像を生成する。【解決手段】本技術に係る画像生成装置は、第1期間に光の照射を継続して行う光照射部と、光電変換を行うことにより得た電荷が蓄積される第1電荷蓄積部と第2電荷蓄積部と、前記第1期間の開始に同期させて前記第1電荷蓄積部への電荷の蓄積を開始させる処理と、前記第1電荷蓄積部への電荷の蓄積が開始されてから第2期間経過後に前記第1電荷蓄積部から前記第2電荷蓄積部へと電荷が蓄積される蓄積部を切り換える処理と、を行う切換制御部と、前記第1電荷蓄積部から出力される第1信号と前記第2電荷蓄積部から出力される第2信号に基づいて赤外線画像を生成する画像生成部と、を備えたものとした。【選択図】図7

Description

本技術は、赤外線画像を生成する画像生成装置及び画像生成方法についての技術分野に関する。
赤外線画像の生成には、複数回の撮像を要するものがある。例えば、生成する赤外線画像からフレアを除去するために4枚の画像を撮像し、4枚の画像からフレアが除去された1枚の赤外線画像を生成する。
しかし、4枚の画像を撮影する間に被写体が動く可能性があり、その場合には生成された赤外線画像にブラーの影響が出てしまう。
特許文献1では、生成された画像にブラーが発生していないかを判断し、ブラーが発生した場合に周辺の正常のピクセル値を用いて除去する構成が開示されている。
特表2014−528059号公報
ところが、特許文献1に記載した方法は、ブラーが発生した領域のピクセル値をその周辺でブラーが発生していない領域のピクセル値で代替することから、画像が劣化してしまう虞がある。
そこで、モーションブラーを低減させた赤外線画像を生成することを目的とする。
本技術に係る画像生成装置は、第1期間に光の照射を継続して行う光照射部と、光電変換を行うことにより得た電荷が蓄積される第1電荷蓄積部と第2電荷蓄積部と、前記第1期間の開始に同期させて前記第1電荷蓄積部への電荷の蓄積を開始させる処理と、前記第1電荷蓄積部への電荷の蓄積が開始されてから第2期間経過後に前記第1電荷蓄積部から前記第2電荷蓄積部へと電荷が蓄積される蓄積部を切り換える処理と、を行う切換制御部と、前記第1電荷蓄積部から出力される第1信号と前記第2電荷蓄積部から出力される第2信号に基づいて赤外線画像を生成する画像生成部と、を備えたものである。
複数の電荷蓄積部が設けられることにより、1回の撮像動作で第1信号と第2信号を含む複数の信号が出力される。
上記した画像生成装置においては、前記第2電荷蓄積部への電荷の蓄積は第3期間に行われ、前記第1期間と前記第2期間と前記第3期間は同じ時間長とされていてもよい。
これにより、第1信号に含まれる環境光の成分と第2信号に含まれる環境光の成分が略同じ強度となる。
上記した画像生成装置における前記画像生成部は、前記第2信号に係数γを乗算して得られた信号と前記第1信号を加算することにより前記赤外線画像を生成してもよい。但し、−1≦γ≦1を満たす。
これにより、被写体までの距離が近く環境光の成分が第2信号に含まれる支配的な成分となった場合に、照射光が被写体に反射した反射光の成分を多く含む第1信号に含まれる環境光の成分を細かく調整することができる。
上記した画像生成装置における前記画像生成部は、係数γを調整する調整処理を実行してもよい。
これにより、フレアが除去されると共に照射光が被写体に反射した反射光の成分を多く含む赤外線画像を生成するための係数γが算出される。
上記した画像生成装置における前記画像生成部は、係数γの初期値を設定する初期値設定処理を実行してもよい。
係数γの初期値が適切に設定されることにより、フレアの除去と照射光が被写体に反射した反射光の成分の確保の両立がしやすくなる。
上記した画像生成装置における前記初期値設定処理では、撮像画像におけるフレアの有無に基づいて係数γの初期値を設定してもよい。
これにより、係数γの調整がし易くなる。
上記した画像生成装置における前記初期値設定処理では、フレアの発生有りと判定した場合に係数γの初期値として負の値を設定してもよい。
例えば、屋外などの環境光が強い場所での撮像に基づいて被写体を認識しやすい赤外線画像を生成するためには、第1信号から環境光の成分を除去した信号を用いることが考えられる。この場合の最適な係数γは負の値とされる。本構成によれば、係数γの初期値が負の値に設定される。
上記した画像生成装置における前記初期値設定処理では、フレアの発生無しと判定した場合に係数γの初期値として正の値を設定してもよい。
例えば、屋内などの環境光が弱い場所での撮像に基づいて被写体を認識しやすい赤外線画像を生成するためには、第2信号に含まれる照射光が被写体に反射した反射光の成分を第1信号に加算することが考えられる。この場合の最適な係数γは正の値とされる。本構成によれば、係数γの初期値が正の値に設定される。
上記した画像生成装置における前記調整処理では、前記光照射部が照射した光が被写体に反射した反射光の受光量と環境光の受光量の比率を画素ごとに算出し、前記比率に応じて係数γを調整してもよい。
これにより、照射光が被写体に反射した反射光の成分と環境光の成分の比率に基づいた係数γの調整が行われる。
上記した画像生成装置における前記調整処理では、前記反射光の受光量より前記環境光の受光量の方が大きい画素が多いほど係数γをマイナス方向へ調整し、前記反射光の受光量より前記環境光の受光量の方が大きい画素が少ないほど係数γをプラス方向へ調整してもよい。
これにより、環境光の大きさに応じて係数γの調整が行われる。
上記した画像生成装置においては、検出対象物が含まれる領域を対象領域として指定する領域指定部を備え、前記調整処理は、前記対象領域ごとに実行されてもよい。
これにより、対象領域ごとに係数γが調整される。
上記した画像生成装置における前記画像生成部は、検出対象物と特徴が一致する領域を検出する第1検出処理と前記領域に検出対象物が含まれるか否かを判定する第2検出処理とを実行し、前記調整処理では、前記第1検出処理及び前記第2検出処理の検出結果に応じて係数γを調整してもよい。
即ち、検出対象物と特徴が一致する領域を第1検出処理で特定し、該特定した領域に対して第2検出処理が実行される。
上記した画像生成装置においては、前記第1期間は前記前記第2期間よりも短い期間とされてもよい。
これにより、被写体までの距離を遠くしても照射光が被写体に反射した反射光の成分が第1信号に全て含まれやすくなる。即ち、第1信号から第2信号を減算したとしても、照射光が被写体に反射した反射光の成分が減少しない。
上記した画像生成装置においては、前記光照射部が照射する光は70MHz以下の変調周波数によって強度変調された光とされてもよい。
これにより、第1信号に含まれる照射光が被写体に反射した反射光の成分の割合が多くなり、第2信号に含まれる照射光が被写体に反射した反射光の成分の割合が小さくされる。
上記した画像生成装置においては、前記光照射部が照射する光は矩形波の信号に基づいて強度変調された光とされてもよい。
これにより、照射光を生成するための回路等のハードウェアの構成が簡易化される。
上記した画像生成装置における前記切換制御部は、一回の撮像動作において前記第1電荷蓄積部から前記第2電荷蓄積部への切り換えと前記第2電荷蓄積部から前記第1電荷蓄積部への切り換えをそれぞれ複数回行い、前記画像生成部は、複数回に亘って前記第1電荷蓄積部に蓄積された電荷に基づいた前記第1信号と複数回に亘って前記第2電荷蓄積部に蓄積された電荷に基づいた前記第2信号を用いて赤外線画像を生成してもよい。
蓄積が第1電荷蓄積部及び第2電荷蓄積部のそれぞれにおいて複数回の電荷の蓄積が行われることにより、第1信号及び第2信号の強度を増すことができる。
本技術に係る画像生成方法は、第1期間に光の照射を継続して行い、前記第1期間の開始に同期させて第1電荷蓄積部への電荷の蓄積を開始させ、前記第1電荷蓄積部への電荷の蓄積が開始されてから第2期間経過後に前記第1電荷蓄積部から第2電荷蓄積部へと電荷が蓄積される蓄積部を切り換え、前記第1電荷蓄積部から出力される第1信号と前記第2電荷蓄積部から出力される第2信号に基づいて赤外線画像を生成するものである。
本技術の実施の形態の画像生成装置の構成を示すブロック図である。 画素の構成の一例を示す概略図である。 露光に用いる制御信号と照射光信号と各電荷蓄積部に与える制御信号を示すタイミングチャートである。 照射信号と反射光信号と各電荷蓄積部に与える制御信号を示すタイミングチャートである。 フレアが発生した画像の例である。 フレアの発生を抑えた画像の例である。 係数γ設定処理の第1例のフローチャートである。 係数γ設定処理の第1例のフローチャートである。 係数γ設定処理の第2例のフローチャートである。 フレアが発生しにくい環境における比率αのヒストグラムの例である。 フレアが発生しやすい環境における比率αのヒストグラムの例である。 変形例における露光に用いる制御信号と照射光信号と各電荷蓄積部に与える制御信号を示すタイミングチャートである。 変形例における照射信号と反射光信号と各電荷蓄積部に与える制御信号を示すタイミングチャートである。 照射光のDuty比が50%の場合における被写体との距離と第1反射光の信号量の関係を示す図である。 照射光のDuty比が25%の場合における被写体との距離と第1反射光の信号量の関係を示す図である。
以下、実施の形態を次の順序で説明する。
<1.画像生成装置の構成>
<2.係数γ設定処理の第1例>
<3.係数γ設定処理の第2例>
<4.変形例>
<5.まとめ>
<6.本技術>
<1.画像生成装置の構成>
実施の形態における画像生成装置1の構成について、図1を参照して説明する。
図1は、画像生成装置1のブロック図である。画像生成装置1は、強度変調された赤外光を照射する光照射部2と、照射光が被写体100に反射した反射光が入光されるレンズ系3と、レンズ系3を通過した光を受光し光電変換を行う撮像素子4と、画像生成装置1の各部の制御を行う制御部5と、レンズ系3を駆動するドライバ部6とを備えている。
光照射部2は、強度変調された赤外光を被写体100に向けて照射するための光源を備えている。該光源は、例えば赤外線(IR:Infrared)LED(Light Emitting Diode)とされている。
レンズ系3は、ズームレンズやフォーカスレンズなどの各種レンズや絞り機構などを備えている。レンズ系3により被写体100からの反射光が導かれ撮像素子4へ集光される。
撮像素子4は、例えば、CMOS(Complementary Metal Oxide Semiconductor)型やCCD(Charge Coupled Device)型などのイメージセンサとされ、2次元配列された受光素子(PD:Photodiode)を有している。本例における撮像素子4が有する受光素子は、例えば、赤外領域の光についての感度を有するものとされている。
なお、以下の説明においては、光照射部2からの照射光が被写体100で反射して撮像素子4に入射される光を「第1反射光」と記載する。また、太陽光や蛍光灯などの環境光が被写体100で反射して撮像素子4に入射される光を「第2反射光」と記載する。
各受光素子は受光した光を光電変換して電荷を生成する。生成された電荷は、後述する電荷蓄積部に蓄積される。
撮像素子4は、読み出し信号に基づいて電荷蓄積部に蓄積された電荷を電気信号として出力する。
撮像素子4は、該電気信号に対してCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。そして撮像素子4は、デジタルデータとしての撮像信号を後段の制御部に出力する。
撮像素子4の各画素の構成について、図2を参照して説明する。
画素11は、PD12と、二つの電荷蓄積部(第1電荷蓄積部C1と第2電荷蓄積部C2)と、電荷蓄積部ごとに設けられたスイッチSW1,SW2とを備えている。
スイッチSW1とスイッチSW2は一方がON状態に制御された場合に他方がOFF状態に制御される。即ち、スイッチSW1とスイッチSW2の双方が共にON状態とならないように制御される。
第1電荷蓄積部C1は、スイッチSW1がON状態とされた場合にPD12における光電変換で得られた電荷が蓄積される。
第2電荷蓄積部C2は、スイッチSW2がON状態とされた場合にPD12における光電変換で得られた電荷が蓄積される。
第1電荷蓄積部C1に蓄積された電荷は、読み出し信号に応じて第1信号S1として制御部5に出力される。
第2電荷蓄積部C2に蓄積された電荷は、読み出し信号に応じて第2信号S2として制御部5に出力される。
図1の説明に戻る。
制御部5は、変調制御部5a、切換制御部5b、初期値設定部5c、調整部5d、フレア判定部5e、検出部5f、領域特定部5g、赤外線画像生成部5hを備えている。
変調制御部5aは、光照射部2が強度変調された光を照射するために低周波数(例えば70MHzやそれ以下など)の駆動信号を光照射部2に供給する。光照射部2は、供給された低周波の矩形波の駆動信号に基づいて強度変調された光を照射する(パルス発光)。なお、光照射部2は正弦波の駆動信号に基づいて強度変調された光を照射してもよい。
切換制御部5bは、スイッチSW1及びスイッチSW2の制御を行うことにより、電荷が蓄積される電荷蓄積部を切り換える。切り換え周波数は、光照射部2から照射される照射光の変調周波数と同じものとされている。例えば、70MHzの矩形波の駆動信号によって強度変調された照射光を光照射部2が照射する場合、切換制御部5bのスイッチの切り換えも70MHzで行われる。
1回の露光時間において、切換制御部5bは複数回(例えば数百回から数万回など)のスイッチの切り換えを行う。具体的に図3を用いて説明する。図3は、露光制御に用いる制御信号Seと、所定の変調周波数で強度変調させた光を照射させるために光照射部2に付与される照射光信号SLと、第1電荷蓄積部C1に与えられる制御信号Sc1と、第2電荷蓄積部C2に与えられる制御信号Sc2の関係を示した図である。
スイッチSW1は制御信号Sc1に基づいてON/OFF制御される。また、スイッチSW2は制御信号Sc2に基づいてON/OFF制御される。
図示するように、露光時間Teの間に、第1期間T1に亘る光の照射が複数回行われる。複数回の光の照射は、光の照射期間と非照射期間が交互に繰り返されることで行われる。光の非照射期間は、第1期間T1と同じ時間長とされる。即ち、Duty比は50%とされている。
切換制御部5bは、光の照射に同期させて、即ち第1期間T1に同期させて、第1電荷蓄積部C1へ第2期間T2に亘って電荷が蓄積され、続けて第2電荷蓄積部C2へ第3期間T3に亘って電荷が蓄積されるようにスイッチSW1及びスイッチSW2を用いた切替制御を行う。第1期間T1と第2期間T2は同じ時間長とされている。また、第2期間T2と第3期間T3は同じ時間長とされている。
これにより、第1電荷蓄積部C1及び第2電荷蓄積部C2には強度変調数百回や数千回或いは数万回に亘って電荷が断続的に蓄積される。
照射光の一周期分についての光の受光量がごく微量である場合には、有意なデータが取得できない可能性があるため、数千、数万周期分についての光に基づいて電荷を蓄積することにより、十分な受光量を得ることができ有意な情報を取得することが可能となる。
なお、1回の露光時間において第1電荷蓄積部C1と第2電荷蓄積部C2がそれぞれ1回ずつ電荷を蓄積するようにスイッチの切り換えを1回行うようにしてもよい。即ち、露光時間Teの前半に第1電荷蓄積部C1が電荷を蓄積するようにスイッチSW1をON状態に制御し、露光時間Teの後半の開始時にスイッチSW1をOFF状態且つスイッチSW2をON状態に切り換える切替制御を行うことにより露光時間の後半は第2電荷蓄積部C2に電荷が蓄積されるようにしてもよい。
初期値設定部5cは、第2電荷蓄積部C2に蓄積された電荷e2の係数γの初期値を設定する処理を行う。
ここで、係数γについて説明する。
図4は、照射光が被写体100に反射した光である第1反射光と第1電荷蓄積部C1及び第2電荷蓄積部C2に蓄積される電荷の関係を示す図である。反射光信号SRは、照射光信号SLによって照射された照射光が被写体100に反射された第1反射光が画像生成装置1に到達することにより画像生成装置1が検出する信号である。
図示するように、反射光信号SRは照射光信号SLに対して時間Tdだけ遅れる。時間Tdの長さは画像生成装置1と被写体100の距離に比例する。
画像生成装置1と被写体100の距離が所定の距離以下とされることにより、時間Tdが0よりも大きく且つ第2期間T2(=第3期間T3)未満とされる。これにより、第1反射光の受光に基づき生成された電荷の一部は第1電荷蓄積部C1に蓄積され(図4に示す領域AR1)、残りの電荷は第2電荷蓄積部C2に蓄積される(図4に示す領域AR2)。
ここで、時間Tdが第2期間T2に対して十分に小さい場合には、第1反射光の受光に基づき生成された電荷の大部分が第1電荷蓄積部C1に蓄積される(図4参照)。特に本例のように、変調周波数が低周波とされている場合には、第1期間T1が時間Tdに対して相対的に長くなるため、第1反射光の受光に基づき生成された電荷の大部分が第1電荷蓄積部C1に蓄積されることとなる。
この場合には、第1電荷蓄積部C1から出力される第1信号S1は、第1反射光と第2反射光の双方に基づく信号とされる。また、第2電荷蓄積部C2から出力される第2信号S2は略第2反射光に基づく信号とされる。これにより、第1信号S1から第2信号S2を減算することにより、第2反射光の成分をキャンセルし第1反射光の成分を取り出すことができる。
また、第1信号S1と第2信号S2に含まれる第1反射光の成分が略同じ場合などには、第1信号S1と第2信号S2を加算することにより、第1反射光の成分を増やすことができる。
係数γはこのような信号量の調整を行うために用いられる係数であり、具体的には第2信号S2に乗算する係数である。例えば、「第1信号S1+係数γ×第2信号S2」で表される式を用いることにより適切な信号を得ることができる。但し、係数γは−1以上且つ1以下の実数とされる。
調整部5dは、係数γの調整処理を行う。具体的な調整処理については後述する。
設定される係数γと生成される赤外線画像の関係について、図5及び図6を参照して説明する。
例えば、晴れた日の屋外など、画像にフレアが発生し易い状況において、係数γを1に設定すると、太陽光が被写体100で反射した光である第2反射光が大きいことにより、図5に示すように画像にフレアFLが発生してしまう。
そこで、画像にフレアが発生し易い状況においては、係数γを−1に設定することで、第2反射光の成分を除去した図6に示すような画像を生成することができる。
なお、係数γは+0.5や−0.5などのように整数でなくてもよい。
フレア判定部5eは、画像にフレアが発生しているか否かを判定する処理を行う。
検出部5fは、画像から検出対象物を検出する処理を行う。具体的には、検出対象物と特徴量が一致する領域を判定する第1検出処理と、特徴量が一致すると判定した領域に実際に検出対象物が含まれているか否かを判定する第2検出処理を実行する。
後述する例では、検出対象物が人物の顔である例を説明するが、これに限られることはない。例えば、検出対象物が車や動物などであってもよい。
第1検出処理及び第2検出処理では、例えばCNN(Convolutional Neural Network)などのディープラーニングなどを用いた検出処理が行われてもよい。
領域特定部5gは、画像における一部の領域をROI(Region Of Interest)として設定する処理を行う。具体的には、第1検出処理において特徴量が一致する領域をROIとして設定する。なお、一枚の画像に複数の検出対象物が含まれている場合や含まれている可能性がある場合は、複数の領域がROIとして設定される。
また、前述した係数γは、設定されたROIごとに設定されてもよい。
赤外線画像生成部5hは、赤外線画像(IR画像)を生成する処理を行う。例えば、検出対象物が認識し易いように適切な係数γが設定された赤外線画像を生成する。
なお、複数のROIが設定されている場合は、それぞれのROIに含まれる全ての検出対象物が認識しやすいように領域ごとに異なる係数γが設定された1枚の赤外線画像を生成してもよいし、ROIに含まれる検出対象物ごとに赤外線画像を生成してもよい。検出対象物ごとに赤外線画像を生成する場合は、検出対象物ごと、或いはROIごとに係数γが設定されてもよい。
図1に示すドライバ部6は、例えばズームレンズ駆動モータに対するモータドライバ、フォーカスレンズ駆動モータに対するモータドライバ、絞り機構のモータに対するモータドライバ等を備えている。
これらのモータドライバは制御部5からの指示に応じた駆動電流を対応するドライバに印加し、フォーカスレンズやズームレンズの移動、絞り機構の絞り羽根の開閉等を実行させることになる。
画像生成装置1は、他にも図示しないメモリ部や記録部や出力部を有していてもよい。また、画像生成装置1の姿勢等を検出するIMU(Inertial Measurement Unit)などのセンサ類を備えていてもよい。
<2.係数γ設定処理の第1例>
制御部5が実行する係数γ設定処理の第1例について、図7及び図8を参照して説明する。
制御部5は、先ずステップS101において、フレア検出を行う。フレア検出の対象とされる画像は、例えば、第1信号S1に基づいて生成された赤外線画像であってもよいし、第1信号S1及び第2信号S2の双方を用いて生成された赤外線画像であってもよい。
フレア検出は、例えば、信号レベルが飽和した領域が画像内に存在するか否かを判定することにより検出してもよいし、信号レベルが飽和した所定面積以上の領域が存在するか否かを判定することにより検出してもよい。また、信号レベルの飽和だけでなく信号レベルが閾値よりも大きな領域が存在するか否かを判定してもよい。フレア検出は、公知の多様な技術を用いて行うことが可能である。
制御部5はステップS102において、フレアを検出したか否かに応じた分岐処理を行う。フレアを検出していないと判定した場合、制御部5はステップS103において係数γの初期値γ0に正の値を設定する。正の値は、例えば、0.1であってもよいし、0.5であってもよい。
一方、フレアを検出したと判定した場合、制御部5はステップS104において係数γの初期値γ0に負の値を設定する。負の値を、例えば、−0.1であってもよいし、−0.5であってもよい。
ステップS103またはステップS104のいずれかの処理を行うことにより、係数γの初期値γ0が設定される。
なお、ステップS102において、画像にフレアが発生したか否かを判定するのではなく、画像にフレアが発生しやすい状況であるか否かを判定してもよい。これによりフレアが発生するか否かを確認するためだけに行われる画像の生成処理を行わなくて済む。また、この場合には、ステップS101の検出処理も不要となる。
初期値γ0の設定を終えた制御部5は、続いてステップS105において、初期値γ0に応じた赤外線画像を生成する。具体的には、「第1信号S1+γ0×第2信号S2」に基づく赤外線画像が生成される。
ステップS102,S103,S104及びS105の各処理が実行されることにより、フレアが発生しやすいシーンにおいては、初期値γ0に負の値が設定され、ステップS105で第2信号S2に含まれる第2反射光の成分が減少されたフレアが発生し難い赤外線画像が生成される。
また、フレアが発生し難いシーンにおいては、初期値γ0に正の値が設定され、ステップS105で第1信号S1及び第2信号S2に含まれる第1反射光の成分が確保された赤外線画像が生成される。
赤外線画像を生成した後、制御部5はステップS106において、第1検出処理を行う。本例における検出対象物は人物の顔であるため、第1検出処理では、人物の顔と特徴が一致する領域を検出する処理である。例えば、瞳検出を行うことにより、人物の顔が含まれている可能性がある領域を検出する。
第1検出処理は、あくまで検出対象物と特徴が一致する領域を検出する処理であるため、木目などが検出される場合もある。
なお、検出する特徴量は検出対象物によって異なる。例えば、検出対象物が車である場合には、第1検出処理において車と特徴が一致する領域を検出する。
制御部5は、ステップS107において、第1検出処理の処理結果に応じた分岐処理を行う。検出対象物と特徴が一致する領域を検出したと判定した場合、制御部5は係数γの調整処理を行う。
具体的には、ステップS108において初期値γ0の符号に応じた分岐処理を行う。初期値γ0が正の値である場合、制御部5はステップS109で係数γをプラス方向に調整する。係数γの調整処理は、現在の係数γの値に0.1を加減算することにより行う。即ち、現在の係数γが初期値である0.1とされている場合は、プラス方向の調整として0.1を加算した0.2が係数γの新しい値とされる。
ステップS108で初期値γ0が正の値でない場合、制御部5はステップS110で係数γをマイナス方向に調整する。例えば、係数γの値が−0.1である場合はマイナス方向の調整として0.1を減算した−0.2が係数γの新しい値とされる。
係数γの調整を行った後、制御部5はステップS111で調整された係数γの値が所定範囲内に収まっているか否かを判定する。具体的には、ステップS109またはステップS110で算出した新たな係数γが−1以上且つ1以下の値であるか否かを判定する。
係数γが所定範囲に収まっている場合、制御部5はステップS109またはステップS110で調整された新たな係数γを用いてステップS105の赤外線画像の生成を行う。
制御部5は、検出対象物と特徴が一致している領域を検出するか、或いは、検出できずに所定範囲外の値が係数γに設定されるまで、ステップS105乃至ステップS111の各処理を繰り返し実行する。
検出できずに所定範囲外の値が係数γに設定された場合、制御部5は図7及び図8に示す係数γ設定処理を終了する。
ステップS107において検出対象物と特徴が一致している領域を検出した場合、制御部5は図8のステップS112において第2検出処理を行う。
第2検出処理は、第1検出処理で検出した領域に実際に検出対象物が含まれているか否かを判定する処理である。
先の第1検出処理において瞳検出に基づく領域特定がなされた場合であれば、第2検出処理では、例えば、瞳以外の鼻や口を検出する処理を行う。
第2検出処理を実行した後、制御部5はステップS113において、対象領域に写ったものを特定できたか否かを判定する。
瞳検出に加えて適切な位置に人物の鼻や人物の口を検出できた場合には、検出対象物としての人物の顔が特定できたと判定し、ステップS119へと進む。一方、人物の鼻や人物の口が検出できなかった場合は、ステップS114の処理へと進む。
なお、人物の鼻や人物の口が検出できなかった場合であっても、人物の顔とは違う特徴を検出することにより人物の顔以外のものであると特定した場合、例えば、猫のひげや耳などを検出したことにより、対象領域には写っているものが猫であると特定した場合には、画像認識の結果写っているものが特定できたとして、ステップS119の処理へと進む。
なお、ステップS112の第2検出処理では、CNNなどのディープラーニングを用いた画像認識を実行してもよい。その場合には、対象領域に写っているものに応じてラベル付けを行い、ラベル付けの確度に応じて特定できたか否かの判定を行ってもよい。例えば、80%以上の確率で人物の顔であると特定できた場合にステップS119の処理へと進んでもよい。
ステップS113で特定できなかったと判定した場合、制御部5はステップS114において、初期値γ0の符号に応じた分岐処理を行う。
初期値γ0の符号が正である場合、制御部5はステップS115において、係数γをプラス方向へ調整する。一方、初期値γ0の符号が正でない場合、制御部5はステップS116において、係数γをマイナス方向へ調整する。
これらの調整処理は、図7のステップS109及びS110の各処理と同様の処理であり、例えば、現在の係数γに0.1を加算或いは減算することにより新たな係数γを設定する処理である。
ステップS115またはステップS116により係数γの調整を行った後、制御部5はステップS117において、調整後の係数γが所定範囲内に入っているか否かを判定する。
具体的には、図7のステップS111と同様に、ステップS115またはステップS116で算出した新たな係数γが−1以上且つ1以下の値であるか否かを判定する。
係数γが所定範囲に収まっている場合、制御部5はステップS118で新たな係数γを用いた赤外線画像の生成を行い、再度ステップS113の処理へと戻る。
制御部5は、対象領域に写ったものを特定できるか、或いは、特定できずに所定範囲外の値が係数γに設定されるまで、ステップS113乃至ステップS118の各処理を繰り返し実行する。
検出できずに所定範囲外の値が係数γに設定された場合、制御部5は図7及び図8に示す係数γ設定処理を終了する。
ステップS113において検出対象物としての人物の顔が特定できたと判定した場合、制御部5はステップS119で特定したものが検出対象物であるか否かを判定する。特定したものが検出対象物である場合、即ち、人物の顔である場合、制御部5はステップS120で赤外線画像を出力する。
一方、特定はできたものの検出対象物でなかった場合、制御部5は図7及び図8に示す係数γ設定処理を終了する。
制御部5は、図7及び図8に示す一連の処理を実行することにより、係数γの値を適切に設定すると共に、検出対象物が認識しやすい赤外線画像を生成することができる。
なお、ステップS106の第1検出処理において人物の顔と特徴が一致する領域を検出した際に、当該領域をROIとして設定してもよい。
また、人物の顔と特徴が一致する領域が画像内に複数検出された場合には、複数のROIを設定してもよい。
その場合には、図8のステップS112乃至ステップS120の各処理をROIごとに実行してもよい。即ち、ROIごとに係数γが適切に設定され赤外線画像が生成される。或いは、係数γはROIごとに設定されるが、生成される赤外線画像はROIごとに係数γが適切に設定された一枚の画像であってもよい。
<3.係数γ設定処理の第2例>
係数γ設定処理の第2例では、図7のステップS107の分岐処理において検出対象物と特徴が一致する領域を検出したと判定した後の処理が第1例と異なる。
具体的に図9を参照して説明する。
なお、本例では、ステップS106の第1検出処理において複数の領域がROIとして設定された場合を例に挙げる。
制御部5はステップS131において、複数設定されたROIから一つのROIを選択する。
続いて、制御部5は、ステップS132において第2検出処理を行い、ステップS133においてROIに写ったものを特定できたか否かを判定する。これらの処理は、図8のステップS112及びS113の各処理と同様の処理である。
特定できなかった場合、制御部5はステップS134でROI内の画素ごとに比率αを算出する処理を行う。
比率αは、第1反射光と第2反射光の比を示す数値である。具体的には、第2反射光の成分を第1反射光の成分で除算したものが比率αである。
本例では、光照射部2から照射される光の変調周波数は低周波とされるため、第1反射光に基づく電荷は第1電荷蓄積部C1に略蓄積される。
従って、比率αは、第2電荷蓄積部C2に蓄積された電荷に基づいて出力される第2信号S2を第1電荷蓄積部C1に蓄積された電荷に基づいて出力される第1信号S1で除算することで算出することができる。即ち比率αは以下の式1で算出できる。
[数1]
α=S2/S1・・・(式1)
式1で算出される比率αはROIに含まれる画素ごとに算出される。制御部5は、比率αのヒストグラムから係数γを算出する。ヒストグラムの例について図10及び図11に示す。
図10に示すように、比率αが小さい画素が多い場合、即ち、第1反射光の成分が多い場合、フレアが発生し難い環境であるため、係数γをプラス方向に調整する。
一方、図11に示すように、比率αが大きい画素が多い場合、即ち、第2反射光の成分が多い場合、フレアが発生しやすい環境であるため、係数γをマイナス方向に調整する。
具体的に、例えば、図9のステップS135の処理では、ヒストグラムの形状に応じて−1.0から1.0まで0.1刻みで設定された候補値の中から係数γの値を決定する。即ち、比率αが小さい画素が多いほど1.0に近い値が係数γに設定され、比率αが大きい画素が多いほど−1.0に近い値が係数γに設定される。
ステップS134で比率αを画素ごとに算出し、比率αの分布に基づいて係数γを適切に選択することにより、係数γの調整と第2検出処理を繰り返すことが不要となり、処理負担の軽減が図られる。
なお、画素ごとの比率αのヒストグラムに応じて係数γを設定した後に、第2検出処理を実行し検出できなかった場合、即ち、ROIに写っているものが何か判別できなかった場合は、係数γ設定処理の第1例のように係数γを0.1ずつ変更していく処理を行ってもよい。
制御部5はステップS136において、新たな係数γに基づく赤外線画像を生成する。
制御部5はステップS137において、未処理のROIがあるか否かに基づく分岐処理を行う。未処理のROIがある場合、制御部5は未処理のROIに対してステップS131乃至S137の各処理を再度実行する。
未処理のROIがない場合、制御部5はステップS138において、赤外線画像の出力をする。
これにより、ROIごとに赤外線画像が出力される。
なお、複数のROIが設定された1枚の赤外線画像を出力してもよい。その場合には、ROIごとに適切な係数γが設定されることにより、各ROIに写った検出対象物が視認しやすい赤外線画像が1枚生成される。
なお、図9に示す例は、あるROIにおいて第2検出処理で特定したものが検出対象物でなかったとしても、当該ROIに写ったものが認識しやすい赤外線画像が出力されるものである。しかし、係数γ設定処理の第1例のように、検出対象物ではない場合は赤外線画像を出力しなくてもよい。
なお、図9に示す例では、ヒストグラムを用いる例を説明したが、LUT(Lookup Table)を用いてもよい。具体的には、比率αごとの係数γが対応付けられたLUTを予め作成しておく。そして、ROIにおいて画素ごとの比率αを算出したあと、ROIにおける比率αの代表値として例えば比率αの平均値を算出し、比率αの平均値に基づいてLUTから一つの係数γを取得する。この処理をROIごとに行うことにより、ROIごとに係数γを設定する。
このような処理を図9のステップS135の処理の代わりに実行することにより、赤外線画像を出力することができる。
<4.変形例>
変形例では、光照射部2によって照射される照射光のDuty比が前述した例とは異なる。図3では、光照射部2の光の照射時間と非照射時間が同じ時間長、即ち第1期間T1と同じ時間長とされている。即ち、前述の例では、光の照射のDuty比は50%とされている。
本変形例では、Duty比は25%とされている。
具体的に図12を参照して説明する。
図示するように、光の非照射期間は光の照射期間である第1期間T1の3倍の時間長とされている。
Duty比を25%とした場合の反射光信号SRと第1電荷蓄積部C1及び第2電荷蓄積部C2に蓄積される電荷の関係を図13に示す。
図示するように、Duty比を小さくすることにより、第1反射光の受光により発生した電荷の全てが第1電荷蓄積部C1に蓄積されやすくなる(図13における領域AR1)。また、第1反射光の受光により発生した電荷の一部が第2電荷蓄積部C2に蓄積され始めるまでの被写体100との距離を長くすることができる。
Duty比を50%とした場合と25%とした場合の第1反射光の信号量の比較、即ち、第1反射光を受光したことにより生成される電荷の大きさの比較について、図14及び図15に示す。
図示するように、Duty比を25%とすることにより、第1反射光の信号量は小さくなる。しかし、Duty比を25%とすることにより、被写体100との距離が一定以上離れるまで第1反射光の信号量(図中のS1−S2)を一定に保つことができる。これにより、係数γの調整がしやすくされる。
なお、上述した構成においては、第1電荷蓄積部C1と第2電荷蓄積部C2はそれぞれ一つの電荷蓄積部によって構成されていたが、第1電荷蓄積部C1及び第2電荷蓄積部C2がそれぞれ複数の電荷蓄積部によって構成されていてもよい。例えば、四つの電荷蓄積部のうちの二つの電荷蓄積部によって第1電荷蓄積部C1が構成され、残りの二つの電荷蓄積部によって第2電荷蓄積部C2が構成されていてもよい。
また、画像生成装置1が備える撮像素子4は、ToF(Time of Flight)による測距とフレアが除去された赤外線画像の生成の双方に用いられるものであってもよい。
<5.まとめ>
上述した各例で説明したように、画像生成装置1は、第1期間T1に光の照射を継続して行う光照射部2と、光電変換を行うことにより得た電荷が蓄積される第1電荷蓄積部C1と第2電荷蓄積部C2と、第1期間T1の開始に同期させて第1電荷蓄積部C1への電荷の蓄積を開始させる処理と、第1電荷蓄積部C1への電荷の蓄積が開始されてから第2期間T2経過後に第1電荷蓄積部C1から第2電荷蓄積部C2へと電荷が蓄積される蓄積部を切り換える処理と、を行う切換制御部5bと、第1電荷蓄積部C1から出力される第1信号S1と第2電荷蓄積部C2から出力される第2信号S2に基づいて赤外線画像を生成する画像生成部(赤外線画像生成部5h)と、を備えている。
複数の電荷蓄積部が設けられることにより、1回の撮像動作で第1信号S1と第2信号S2を含む複数の信号が出力される。
即ち、複数の信号を取得するための撮像回数を減らすことができる。従って、モーションブラーが発生する可能性を低減させることができる。
また、図3に示すように、第2電荷蓄積部C2への電荷の蓄積は第3期間T3に行われ、第1期間T1と第2期間T2と第3期間T3は同じ時間長とされてもよい。
これにより、第1信号S1に含まれる環境光の成分(第2反射光)と第2信号S2に含まれる環境光の成分(第2反射光)が略同じ強度となる。
従って、第1信号S1と第2信号S2に基づいて環境光の成分をキャンセルすることが容易となり、フレアが除去された赤外線画像を生成することが可能となる。
各例で説明したように、画像生成部(赤外線画像生成部5h)は、第2信号S2に係数γを乗算して得られた信号と第1信号S1を加算することにより赤外線画像を生成してもよい。但し、−1≦γ≦1を満たす。
これにより、被写体100までの距離が近く環境光の成分(第2反射光)が第2信号S2に含まれる支配的な成分となった場合に、照射光が被写体に反射した反射光(第1反射光)の成分を多く含む第1信号S1に含まれる環境光の成分を細かく調整することができる。
従って、フレアの除去と被写体100の認識のし易さの両立を図ることが容易となる。
係数γ設定処理の各例(図7,図8及び図9)で説明したように、画像生成部(赤外線画像生成部5h)は、係数γを調整する調整処理を実行してもよい。
これにより、フレアが除去されると共に照射光が被写体100に反射した反射光(第1反射光)の成分を多く含む赤外線画像を生成するための係数γが算出される。
従って、被写体100を認識しやすい赤外線画像を生成することができる。
係数γ設定処理の第1例(図7)で説明したように、画像生成部(赤外線画像生成部5h)は、係数γの初期値(初期値γ0)を設定する初期値設定処理を実行してもよい。
係数γの初期値が適切に設定されることにより、フレアの除去と照射光が被写体100に反射した反射光(第1反射光)の成分の確保の両立がしやすくなる。
従って、被写体100を認識しやすい赤外線画像を生成することができる。
係数γ設定処理の第1例(図7)で説明したように、初期値設定処理では、撮像画像におけるフレアの有無に基づいて係数γの初期値(初期値γ0)を設定してもよい。
これにより、係数γの調整がし易くなる。
従って、被写体100を認識しやすい赤外線画像を生成することができる。
係数γ設定処理の第1例(図7)で説明したように、初期値設定処理では、フレアの発生有りと判定した場合に係数γの初期値(初期値γ0)として負の値を設定してもよい。
例えば、屋外などの環境光が強い場所での撮像に基づいて被写体100を認識しやすい赤外線画像を生成するためには、第1信号S1から環境光の成分を除去した信号を用いることが考えられる。この場合の最適な係数γは負の値とされる。本構成によれば、係数γの初期値が負の値に設定される。
これにより、係数γの調整処理に要する時間を短縮化することができる。
係数γ設定処理の第1例(図7)で説明したように、初期値設定処理では、フレアの発生無しと判定した場合に係数γの初期値(初期値γ0)として正の値を設定してもよい。
例えば、屋内などの環境光が弱い場所での撮像に基づいて被写体100を認識しやすい赤外線画像を生成するためには、第2信号に含まれる照射光が被写体に反射した反射光(第1反射光)の成分を第1信号に加算することが考えられる。この場合の最適な係数γは正の値とされる。本構成によれば、係数γの初期値が正の値に設定される。
これにより、係数γの調整処理に要する時間を短縮化することができる。
係数γ設定処理の第2例(図9)で説明したように、調整処理では、光照射部2が照射した光が被写体100に反射した反射光(第1反射光)の受光量と環境光(第2反射光)の受光量の比率αを画素11ごとに算出し、比率αに応じて係数γを調整してもよい。
これにより、照射光が被写体100に反射した反射光(第1反射光)の成分と環境光(第2反射光)の成分の比率に基づいた係数γの調整が行われる。
従って、被写体100を認識しやすい赤外線画像を生成することができる。
係数γ設定処理の第2例(図9)で説明したように、調整処理では、反射光(第1反射光)の受光量より環境光(第2反射光)の受光量の方が大きい画素11が多いほど係数γをマイナス方向へ調整し、反射光の受光量より環境光の受光量の方が大きい画素11が少ないほど係数γをプラス方向へ調整してもよい。
これにより、環境光の大きさに応じて係数γの調整が行われる。
従って、環境光が大きくフレアが発生しそうな撮影環境であっても、環境光が小さく被写体100が不鮮明になりがちな撮影状況であっても係数γの調整が適切に行われ、被写体100を認識しやすい赤外線画像を生成することができる。
係数γ設定処理の第2例(図9)などで説明したように、検出対象物が含まれる領域を対象領域(ROI)として指定する領域指定部5gを備え、調整処理は、対象領域ごとに実行されてもよい。
これにより、対象領域ごとに係数γが調整される。
従って、複数の検出対象物が写っていたとしても、それぞれの検出対象物が認識しやすい赤外線画像を生成することができる。
係数γ設定処理の第1例(図7,図8)及び第2例(図9)で説明したように、画像生成部(赤外線画像生成部5h)は、検出対象物と特徴が一致する領域を検出する第1検出処理と領域に検出対象物が含まれるか否かを判定する第2検出処理とを実行し、調整処理では、第1検出処理及び第2検出処理の検出結果に応じて係数γを調整してもよい。
即ち、検出対象物と特徴が一致する領域を第1検出処理で特定し、該特定した領域に対して第2検出処理が実行される。
これにより、第2検出処理の対象領域が一部の領域とされるため、画像生成装置1の処理負担の軽減を図ることができる。
変形例(図13)で説明したように、第1期間T1は前記第2期間T2よりも短い期間とされてもよい。
これにより、被写体100までの距離を遠くしても照射光が被写体100に反射した反射光(第1反射光)の成分が第1信号S1に全て含まれやすくなる。即ち、第1信号S1から第2信号S2を減算したとしても、照射光が被写体に反射した反射光の成分が減少しない。
従って、被写体100を認識しやすい赤外線画像を生成することができる。
前述したように、光照射部2が照射する光は70MHz以下の変調周波数によって強度変調された光とされてもよい。
これにより、第1信号S1に含まれる照射光が被写体に反射した反射光(第1反射光)の成分の割合が多くなり、第2信号S2に含まれる照射光が被写体に反射した反射光の成分の割合が小さくされる。
従って、被写体100を認識しやすい赤外線画像を生成することができる。
図3等で説明したように、光照射部2が照射する光は矩形波の信号に基づいて強度変調された光とされてもよい。
これにより、照射光を生成するための回路等のハードウェアの構成が簡易化される。
従って、回路部品の削減やコスト削減に寄与することができる。
上述したように、切換制御部5bは、一回の撮像動作において第1電荷蓄積部C1から第2電荷蓄積部C2への切り換えと第2電荷蓄積部C2から第1電荷蓄積部C1への切り換えをそれぞれ複数回行い、画像生成部(赤外線画像生成部5h)は、複数回に亘って第1電荷蓄積部C1に蓄積された電荷に基づいた第1信号S1と複数回に亘って第2電荷蓄積部C2に蓄積された電荷に基づいた第2信号S2を用いて赤外線画像を生成してもよい。
蓄積が第1電荷蓄積部C1及び第2電荷蓄積部C2のそれぞれにおいて複数回の電荷の蓄積が行われることにより、第1信号S1及び第2信号S2の強度を増すことができる。
従って、被写体100を認識しやすい赤外線画像を生成することができる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
<6.本技術>
なお本技術は以下のような構成も採ることができる。
(1)
第1期間に光の照射を継続して行う光照射部と、
光電変換を行うことにより得た電荷が蓄積される第1電荷蓄積部と第2電荷蓄積部と、
前記第1期間の開始に同期させて前記第1電荷蓄積部への電荷の蓄積を開始させる処理と、前記第1電荷蓄積部への電荷の蓄積が開始されてから第2期間経過後に前記第1電荷蓄積部から前記第2電荷蓄積部へと電荷が蓄積される蓄積部を切り換える処理と、を行う切換制御部と、
前記第1電荷蓄積部から出力される第1信号と前記第2電荷蓄積部から出力される第2信号に基づいて赤外線画像を生成する画像生成部と、を備えた
画像生成装置。
(2)
前記第2電荷蓄積部への電荷の蓄積は第3期間に行われ
前記第1期間と前記第2期間と前記第3期間は同じ時間長とされた
上記(1)に記載の画像生成装置。
(3)
前記画像生成部は、前記第2信号に係数γを乗算して得られた信号と前記第1信号を加算することにより前記赤外線画像を生成する
上記(1)から上記(2)の何れかに記載の画像生成装置。
但し、−1≦γ≦1を満たす。
(4)
前記画像生成部は、係数γを調整する調整処理を実行する
上記(3)に記載の画像生成装置。
(5)
前記画像生成部は、係数γの初期値を設定する初期値設定処理を実行する
上記(3)から上記(4)の何れかに記載の画像生成装置。
(6)
前記初期値設定処理では、撮像画像におけるフレアの有無に基づいて係数γの初期値を設定する
上記(5)に記載の画像生成装置。
(7)
前記初期値設定処理では、フレアの発生有りと判定した場合に係数γの初期値として負の値を設定する
上記(6)に記載の画像生成装置。
(8)
前記初期値設定処理では、フレアの発生無しと判定した場合に係数γの初期値として正の値を設定する
上記(6)から上記(7)の何れかに記載の画像生成装置。
(9)
前記調整処理では、前記光照射部が照射した光が被写体に反射した反射光の受光量と環境光の受光量の比率を画素ごとに算出し、前記比率に応じて係数γを調整する
上記(4)に記載の画像生成装置。
(10)
前記調整処理では、前記反射光の受光量より前記環境光の受光量の方が大きい画素が多いほど係数γをマイナス方向へ調整し、前記反射光の受光量より前記環境光の受光量の方が大きい画素が少ないほど係数γをプラス方向へ調整する
上記(9)に記載の画像生成装置。
(11)
検出対象物が含まれる領域を対象領域として指定する領域指定部を備え、
前記調整処理は、前記対象領域ごとに実行される
上記(4)、上記(9)または上記(10)の何れかに記載の画像生成装置。
(12)
前記画像生成部は、検出対象物と特徴が一致する領域を検出する第1検出処理と前記領域に検出対象物が含まれるか否かを判定する第2検出処理とを実行し、
前記調整処理では、前記第1検出処理及び前記第2検出処理の検出結果に応じて係数γを調整する
上記(4)、上記(9)、上記(10)または上記(11)の何れかに記載の画像生成装置。
(13)
前記第1期間は前記前記第2期間よりも短い期間とされた
上記(1)から上記(12)の何れかに記載の画像生成装置。
(14)
前記光照射部が照射する光は70MHz以下の変調周波数によって強度変調された光とされた
上記(1)から上記(13)の何れかに記載の画像生成装置。
(15)
前記光照射部が照射する光は矩形波の信号に基づいて強度変調された光とされた
上記(1)から上記(14)の何れかに記載の画像生成装置。
(16)
前記切換制御部は、一回の撮像動作において前記第1電荷蓄積部から前記第2電荷蓄積部への切り換えと前記第2電荷蓄積部から前記第1電荷蓄積部への切り換えをそれぞれ複数回行い、
前記画像生成部は、複数回に亘って前記第1電荷蓄積部に蓄積された電荷に基づいた前記第1信号と複数回に亘って前記第2電荷蓄積部に蓄積された電荷に基づいた前記第2信号を用いて赤外線画像を生成する
上記(1)から上記(15)の何れかに記載の画像生成装置。
(17)
第1期間に光の照射を継続して行い、
前記第1期間の開始に同期させて第1電荷蓄積部への電荷の蓄積を開始させ、
前記第1電荷蓄積部への電荷の蓄積が開始されてから第2期間経過後に前記第1電荷蓄積部から第2電荷蓄積部へと電荷が蓄積される蓄積部を切り換え、
前記第1電荷蓄積部から出力される第1信号と前記第2電荷蓄積部から出力される第2信号に基づいて赤外線画像を生成する
画像生成方法。
1…画像生成装置
2…光照射部
5…制御部
5b…切換制御部
5g…領域特定部
5h…赤外線画像生成部
C1…第1電荷蓄積部
C2…第2電荷蓄積部
S1…第1信号
S2…第2信号
T1…第1期間
T2…第2期間
T3…第3期間
γ…係数
γ0…初期値
α…比率
100…被写体

Claims (17)

  1. 第1期間に光の照射を継続して行う光照射部と、
    光電変換を行うことにより得た電荷が蓄積される第1電荷蓄積部と第2電荷蓄積部と、
    前記第1期間の開始に同期させて前記第1電荷蓄積部への電荷の蓄積を開始させる処理と、前記第1電荷蓄積部への電荷の蓄積が開始されてから第2期間経過後に前記第1電荷蓄積部から前記第2電荷蓄積部へと電荷が蓄積される蓄積部を切り換える処理と、を行う切換制御部と、
    前記第1電荷蓄積部から出力される第1信号と前記第2電荷蓄積部から出力される第2信号に基づいて赤外線画像を生成する画像生成部と、を備えた
    画像生成装置。
  2. 前記第2電荷蓄積部への電荷の蓄積は第3期間に行われ、
    前記第1期間と前記第2期間と前記第3期間は同じ時間長とされた
    請求項1に記載の画像生成装置。
  3. 前記画像生成部は、前記第2信号に係数γを乗算して得られた信号と前記第1信号を加算することにより前記赤外線画像を生成する
    請求項1に記載の画像生成装置。
    但し、−1≦γ≦1を満たす。
  4. 前記画像生成部は、係数γを調整する調整処理を実行する
    請求項3に記載の画像生成装置。
  5. 前記画像生成部は、係数γの初期値を設定する初期値設定処理を実行する
    請求項3に記載の画像生成装置。
  6. 前記初期値設定処理では、撮像画像におけるフレアの有無に基づいて係数γの初期値を設定する
    請求項5に記載の画像生成装置。
  7. 前記初期値設定処理では、フレアの発生有りと判定した場合に係数γの初期値として負の値を設定する
    請求項6に記載の画像生成装置。
  8. 前記初期値設定処理では、フレアの発生無しと判定した場合に係数γの初期値として正の値を設定する
    請求項6に記載の画像生成装置。
  9. 前記調整処理では、前記光照射部が照射した光が被写体に反射した反射光の受光量と環境光の受光量の比率を画素ごとに算出し、前記比率に応じて係数γを調整する
    請求項4に記載の画像生成装置。
  10. 前記調整処理では、前記反射光の受光量より前記環境光の受光量の方が大きい画素が多いほど係数γをマイナス方向へ調整し、前記反射光の受光量より前記環境光の受光量の方が大きい画素が少ないほど係数γをプラス方向へ調整する
    請求項9に記載の画像生成装置。
  11. 検出対象物が含まれる領域を対象領域として指定する領域指定部を備え、
    前記調整処理は、前記対象領域ごとに実行される
    請求項4に記載の画像生成装置。
  12. 前記画像生成部は、検出対象物と特徴が一致する領域を検出する第1検出処理と前記領域に検出対象物が含まれるか否かを判定する第2検出処理とを実行し、
    前記調整処理では、前記第1検出処理及び前記第2検出処理の検出結果に応じて係数γを調整する
    請求項4に記載の画像生成装置。
  13. 前記第1期間は前記前記第2期間よりも短い期間とされた
    請求項1に記載の画像生成装置。
  14. 前記光照射部が照射する光は70MHz以下の変調周波数によって強度変調された光とされた
    請求項1に記載の画像生成装置。
  15. 前記光照射部が照射する光は矩形波の信号に基づいて強度変調された光とされた
    請求項1に記載の画像生成装置。
  16. 前記切換制御部は、一回の撮像動作において前記第1電荷蓄積部から前記第2電荷蓄積部への切り換えと前記第2電荷蓄積部から前記第1電荷蓄積部への切り換えをそれぞれ複数回行い、
    前記画像生成部は、複数回に亘って前記第1電荷蓄積部に蓄積された電荷に基づいた前記第1信号と複数回に亘って前記第2電荷蓄積部に蓄積された電荷に基づいた前記第2信号を用いて赤外線画像を生成する
    請求項1に記載の画像生成装置。
  17. 第1期間に光の照射を継続して行い、
    前記第1期間の開始に同期させて第1電荷蓄積部への電荷の蓄積を開始させ、
    前記第1電荷蓄積部への電荷の蓄積が開始されてから第2期間経過後に前記第1電荷蓄積部から第2電荷蓄積部へと電荷が蓄積される蓄積部を切り換え、
    前記第1電荷蓄積部から出力される第1信号と前記第2電荷蓄積部から出力される第2信号に基づいて赤外線画像を生成する
    画像生成方法。
JP2020003503A 2020-01-14 2020-01-14 画像生成装置、画像生成方法 Pending JP2021111892A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020003503A JP2021111892A (ja) 2020-01-14 2020-01-14 画像生成装置、画像生成方法
PCT/JP2020/043241 WO2021145065A1 (ja) 2020-01-14 2020-11-19 画像生成装置、画像生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020003503A JP2021111892A (ja) 2020-01-14 2020-01-14 画像生成装置、画像生成方法

Publications (1)

Publication Number Publication Date
JP2021111892A true JP2021111892A (ja) 2021-08-02

Family

ID=76864119

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020003503A Pending JP2021111892A (ja) 2020-01-14 2020-01-14 画像生成装置、画像生成方法

Country Status (2)

Country Link
JP (1) JP2021111892A (ja)
WO (1) WO2021145065A1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6193227B2 (ja) * 2011-07-12 2017-09-06 サムスン エレクトロニクス カンパニー リミテッド ブラー処理装置及び方法
JPWO2017022220A1 (ja) * 2015-08-04 2018-05-31 パナソニックIpマネジメント株式会社 固体撮像装置
WO2017064829A1 (ja) * 2015-10-15 2017-04-20 ソニー株式会社 映像信号処理装置、映像信号処理方法およびプログラム
JP6985054B2 (ja) * 2017-08-01 2021-12-22 スタンレー電気株式会社 撮像装置

Also Published As

Publication number Publication date
WO2021145065A1 (ja) 2021-07-22

Similar Documents

Publication Publication Date Title
JP5981053B2 (ja) シーン適応型自動露出補正を伴う撮像装置
CN101889435B (zh) 照相机闪光模块及其控制方法
US7884868B2 (en) Image capturing element, image capturing apparatus, image capturing method, image capturing system, and image processing apparatus
US8553134B2 (en) Imager processing a captured image
US20180124372A1 (en) Systems And Methods For Active Depth Imager With Background Subtract
US20190037120A1 (en) Imaging apparatus and electronic apparatus
US8294785B2 (en) Method for adjusting photosensitiveness of digital camera
US9456145B2 (en) Apparatus for photographing that carries out a pre-flash photography
US9462191B2 (en) Image processing apparatus, image pickup apparatus, method of controlling the image processing apparatus, and non-transitory computer-readable storage medium
JP2006270218A (ja) 電子カメラおよび電子カメラシステム
WO2015083539A1 (ja) 撮像装置および方法、並びにプログラム
JP6373577B2 (ja) 撮像制御装置
CN104811593A (zh) 摄像装置、摄像方法以及对焦控制装置
US20150080651A1 (en) Endoscope apparatus
US20080018777A1 (en) Image pickup apparatus and image pickup control method
JP2009009072A (ja) カメラの動的フォーカスゾーン
WO2021145065A1 (ja) 画像生成装置、画像生成方法
JP6336337B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP7167708B2 (ja) 距離情報生成装置
JP2006217413A (ja) 電子カメラ
JP2020067503A (ja) 撮像装置、監視システム、撮像装置の制御方法およびプログラム
JP2004349837A (ja) 撮像装置及び撮像方法
US11115603B2 (en) Image pickup apparatus that reduces time required for light control processing and method of controlling same
CN115314629B (zh) 一种成像方法、系统及摄像机
CN114762313B (zh) 图像处理方法、装置、存储介质及电子设备