JP2017130858A - 撮像装置及び故障検出方法、並びにプログラム及び記録媒体 - Google Patents
撮像装置及び故障検出方法、並びにプログラム及び記録媒体 Download PDFInfo
- Publication number
- JP2017130858A JP2017130858A JP2016010225A JP2016010225A JP2017130858A JP 2017130858 A JP2017130858 A JP 2017130858A JP 2016010225 A JP2016010225 A JP 2016010225A JP 2016010225 A JP2016010225 A JP 2016010225A JP 2017130858 A JP2017130858 A JP 2017130858A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- unit
- frame period
- failure detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】撮像部(10)からの撮像画像を信号処理する信号処理部(21)と、信号処理部(21)から出力される画像に対して、撮像部(10)における撮像の頻度よりも低い頻度で処理を行う低頻度処理部(24、28)とを備え、低頻度処理部(24、28)における処理で用いられる画像(F、Re)が信号処理部(21)で信号処理される期間又は撮像で得られる期間以外の期間を利用して故障検出処理を行う。低頻度処理部(24、28)は、例えば、画像合成部(24)或いは画像認識部(28)である。
【選択図】図1
Description
被写体からの光を受けて撮像フレーム期間毎に撮像を行う撮像部と、
前記撮像部における撮像フレーム期間毎の露光条件を制御する撮像制御部と、
前記撮像部で、それぞれの撮像フレーム期間における撮像で得られた撮像画像に対して、対応する信号処理フレーム期間に信号処理を行い、処理画像を生成する信号処理部と、
前記撮像部における撮像の頻度よりも低い頻度で前記処理画像を用いた処理を行う低頻度処理部と、
前記低頻度処理部における処理で用いられる処理画像に対応する撮像画像以外の撮像画像が前記撮像部での撮像により得られる少なくとも一つの撮像フレーム期間、又は当該撮像フレーム期間に対応する少なくとも一つの信号処理フレーム期間を利用して、前記撮像部及び前記信号処理部の少なくとも一方の故障検出処理を行う故障検出処理部とを有する
ことを特徴とする。
図1は、本発明の実施の形態1の撮像装置1の構成を概略的に示す。この撮像装置1は、撮像部10と、画像処理部20と、メモリ30とを有する。
図2に示されるように、撮像部10は、撮像光学系12、固体撮像素子13、フロントエンド部14及び駆動回路15を有する。
CDS処理は、固体撮像素子13から出力されるアナログ撮像信号Raからノイズなどの不要な成分を除去する処理である。
これらの構成要素21〜25は、バス(信号伝達路)26を介して相互に接続されるとともに、メモリ30とも接続されている。
区別のため、信号処理部21から出力される画像Reを「処理画像」と言い、撮像部10から出力される画像Fを「撮像画像」と言うことがある。
生成された輝度ヒストグラムは、メモリ30のヒストグラム格納領域309に格納されるとともに、撮像制御部23に供給される。
撮像制御部23は、ヒストグラム生成部22で生成された輝度ヒストグラムと、メモリ30の露光条件テーブル格納領域302に予め格納されている露光条件テーブルTecとを用いて、撮像部10の露光条件を制御する。
撮像制御部23はまた、後述の故障検出処理中に、故障検出処理を終了させるべき条件が満たされたか否かの判定を行い、上記の条件が満たされたと判断したときは、故障検出処理を終了させる。
制御信号ECsは、固体撮像素子13の露光時間(電荷蓄積時間)の制御のためのものであり、駆動回路15に供給され、駆動回路15が、露光時間(電荷蓄積時間)の制御を行う。露光時間の制御のため、駆動回路15は、制御信号ECsに応じて固体撮像素子13を駆動する駆動信号を発生し、固体撮像素子13に供給する。
制御信号ECgは、フロントエンド部14内の増幅器のゲイン(増幅率)の制御のためのものであり、フロントエンド部14に供給される。
第1の露光量よりも第2の露光量が大きい場合、第1の露光量での撮像を低露光撮像と言い、その撮像で得られた撮像画像を低露光画像と言い、第2の露光量での撮像を高露光撮像と言い、その撮像で得られた撮像画像を高露光画像と言う。
区別のため、低露光画像を符号「Fs」で表し、高露光画像を符号「Ft」で表す場合がある。さらにどのフレームの画像であるかを示すため、括弧付きの数字「(i)」(iは整数)を付すこともある。低露光画像Fs及び高露光画像Ftはいずれも撮像部10から出力される画像(撮像画像)であり、両者を区別しないとき、或いは両者に共通の説明に際しては、符号「F」が用いられる。
低露光撮像と高露光撮像を交互に行う結果、低露光画像と高露光画像が交互に得られる。
ここで言う「画像合成に用いるべき画像」には、HDR合成されるべき1対の画像を指す場合もあり、選択されてそのまま合成画像Rhとして用いられるべき画像を指す場合もある。
即ち、撮像部10で第iのフレーム期間における撮像で得られた撮像画像は、それより少し遅れて信号処理部21で処理されるが、この処理が行われる期間が、撮像部10における第iのフレーム期間に対応する期間であり、信号処理部21での処理に関しての第iのフレーム期間であると見ることができる。
区別のため、撮像部10での撮像に関してのフレーム期間を「撮像フレーム期間」と言い、信号処理部21での信号処理に関してのフレーム期間を「信号処理フレーム期間」と言うことがある。
画像合成部24では、信号処理部21で第iの信号処理フレーム期間における処理の結果生成された処理画像と、それより一つ前の信号処理フレーム期間における処理の結果生成された処理画像とが合成される。この合成が行われる期間を、画像合成に関しての第iのフレーム期間と見ることができる。
撮像制御部23の露光制御に関しての第iのフレーム期間は、第iの撮像フレーム期間における撮像のための露光制御が行われる期間を意味する。
図5の「信号処理部21」の行には、信号処理部21で、低露光画像Fs(Fs(1)、Fs(3)、Fs(5)、Fs(7))に対する処理と、高露光画像Ft(Ft(2)、Ft(4)、Ft(6)、Ft(8))に対する処理とが交互に行われ、処理画像Re(1)〜Re(8)が出力されることが示されている。例えば、第1のフレーム期間の欄における「Fs(1)→Re(1)」は、低露光画像Fs(1)に対する信号処理の結果、処理画像Re(1)が生成されることを示す。他のフレーム期間についても同様である。
図6及び図7において、横軸は階調値を示し、縦軸は各階調値を有する画素の出現度数を示している。
各フレームの低露光画像の撮像の際の露光条件は、直近に、即ち2フレーム期間前における撮像で得られた低露光画像から生成された輝度ヒストグラムHsに基づいて決定される。
一方、各フレームの高露光画像の撮像の際の露光条件は、直近に、即ち2フレーム期間前における撮像で得られた高露光画像から生成された輝度ヒストグラムHtに基づいて決定される。
撮像制御部23は、決定された値を有する制御信号ECa、ECs、ECgを撮像部10に供給して、撮像部10を制御する。
露光時間としては、例えば図8に示される、高露光撮像の露光時間と低露光撮像の露光時間の組合せとして、5つの組合せパターンP1〜P5が用意されており、それらの組合せパターンのうちのいずれかが選択される。
一方、低露光撮像用の露光時間(短露光時間)は、図8に示されるように、組合せパターンによって異なり、組合せパターンP1で2ミリ秒、組合せパターンP2で4ミリ秒、組合せパターンP3で8ミリ秒、組合せパターンP4で16ミリ秒、組合せパターンP5で32ミリ秒である。
「低露光画像が撮像により得られる撮像フレーム期間に対応する信号処理フレーム期間」は、「撮像部10から出力された低露光画像が、HDRモードであれば、信号処理部21で処理される信号処理フレーム期間」を意味する。
「画像合成に用いられる処理画像Reに対応する撮像画像F以外の撮像画像Fが撮像により得られる撮像フレーム期間に対応する信号処理フレーム期間」は、「画像合成に用いられる処理画像Reが信号処理部21で処理される信号処理フレーム期間以外の信号処理フレーム期間」と言い換えることができる。
「画像合成に用いられる処理画像Reに対応する撮像画像F以外の撮像画像Fの撮像のための撮像フレーム期間」は、「画像合成に用いられる処理画像Reに対応する撮像画像Fの撮像のための撮像フレーム期間以外の撮像フレーム期間」と言い換えることができる。
なお、「画像合成で用いられる処理画像Reに対応する撮像画像F」を、単に、「画像合成で用いられる撮像画像F」或いは「画像合成で用いられる画像F」と言うことがある。当該画像Fも、信号処理を受けたのちに画像合成で用いられるからである。
撮像装置が非HDRモードで動作する状態になったら、撮像制御部23は、故障検出処理部25に対して、故障検出処理を実行するよう指示する。
図5には、撮像制御部23の「故障検出処理開始」の行に、「Hs(1)」、「Hs(3)」、「Hs(5)」、「Hs(7)」と記入されており、これにより撮像制御部23が、輝度ヒストグラムHs(1)、Hs(3)、Hs(5)又はHs(7)から得られたパラメータYo200、Yu100、Yu50、Yu12に基づいて(より具体的には、組合せパターンP5が選択されたか否かに基づいて)故障検出処理を開始すべきか否かの判断を行うことが示されている。
故障検出処理としては、既定画像利用検査及びフレーム間相関検査の少なくとも一方が行われる。
既定画像としては、メモリ30の既定画像格納領域304に記憶されているものが用いられる。故障検出用の処理条件としては、メモリ30の信号処理条件格納領域305に記憶されているものが用いられる。
上記の他の撮像フレーム期間は、高露光撮像が行われる撮像フレーム期間であっても良く、低露光撮像が行われる撮像フレーム期間であっても良い。
相互間の変化、例えば比が求められる画像は、処理画像であっても良く、撮像画像を用いても良い。
図10に示される例では、8フレーム期間を一つの故障検出処理サイクルとして、各故障検出処理サイクルに一度検査を行うこととしている。図10の最も上の行の「フレーム番号」は各故障検出処理サイクル内における各フレームの順番を示す。
上記のタイミングとしては、画像合成に用いられない、低露光画像が撮像により得られる撮像フレーム期間に対応する少なくとも一つの信号処理フレーム期間が指定される。以下では、上記のタイミングとして第3の信号処理フレーム期間が指定されたものとする。
また、上記の既定画像としては、メモリ30の既定画像格納領域304に予め格納されている故障検出用の既定画像Fkが指定されたものとする。
さらに、上記の信号処理の条件としては、メモリ30の信号処理条件格納領域305に予め格納されている信号処理の条件が指定されたものとする。
このような指示に従って、故障検出処理部25が既定画像利用検査を行う。
後述のヒストグラム生成部22についても同様である。
以下では、第3のフレーム以外の奇数番目のフレームの画像については信号処理が行われず、処理画像が生成されないものとして説明する。偶数番目フレームの画像に対する信号処理は、図5の場合と同様に行われる。そのことが、図10の「信号処理部21」の行に、「Ft(2)→Re(2)」などで示されている。
これらの輝度ヒストグラムの生成が、図10の「ヒストグラム生成部22」の行に「Re(2)→Ht(2)」、「Re(3)→Hk(3)」などで示されている。
このうち、輝度ヒストグラムHt(2)、Ht(4)、Ht(6)及びHt(8)はヒストグラム格納領域309に格納され、輝度ヒストグラムHk(3)は検査データ格納領域307に格納される。
輝度ヒストグラムHk(3)のメモリ30への書き込みが完了すると、ヒストグラム生成部22は、処理完了を故障検出処理部25に通知する。
予め定められた処理を施すことで得られる値は、例えばチェックサム値である。この場合、チェックサム値の期待値がメモリ30の期待値格納領域308に格納されている。なお、チェックサム値の生成規則も、メモリ30に記憶されており、故障検出処理部25は、メモリ30に記憶されている生成規則に従って、処理画像Re(3)から、チェックサム値を生成する。
チェックサム以外の、予め定められた処理を施すことで得られる値を用いる場合にも、当該予め定められた処理を表す情報がメモリ30に記憶されている。
期待される通りのものでないと判定されたときは、撮像部10、信号処理部21、メモリ30の低露光画像用フレームバッファ領域301s、及びバス26のいずれかに故障があると判断する。
変化としては、フレーム間の変化、即ち一つのフレームにおける値と別のフレームにおける値との差が用いられる。
「変化が生じた」とは、フレーム間での変化の量が閾値以上であることを意味する。
上記のタイミングとしては、画像合成に用いられない、低露光画像が撮像により得られる少なくとも一つの撮像フレーム期間が指定される。以下では、上記のタイミングとして第7の撮像フレーム期間が指定されたものとする。
また、上記の故障検出用の露光条件として、撮像制御部23において、第6の撮像フレーム期間における露光条件EB(6)に基づいて決定された露光条件EB(a)が指定されるものとする。具体的には第6の撮像フレーム期間における露光条件EB(6)に対して、予め定められた比を有する露光量を与える露光条件が指定されるものとする。撮像制御部23は、上記のようにして故障検出用の露光条件EB(6)を決定し、決定された露光条件を故障検出処理部25に通知する。
この指示に従って、故障検出処理部25がフレーム間相関検査を行う。
なお、信号処理部21における信号処理の条件がフレーム毎に変わる場合には、第7のフレームの撮像画像F(a)に対する信号処理の条件を、第6のフレームの撮像画像Ft(6)に対する信号処理の条件と同じにする。
後述のヒストグラム生成部22についても同様である。
以下では、第7のフレーム以外の奇数番目のフレームの画像については信号処理が行われず、処理画像が生成されないものとして説明する。
このうち、輝度ヒストグラムHt(2)、Ht(4)、Ht(6)及びHt(8)はヒストグラム格納領域309に格納され、輝度ヒストグラムHa(7)は検査データ格納領域307に格納される。
輝度ヒストグラムHt(6)及びHa(7)のメモリ30への書き込みが完了すると、ヒストグラム生成部22は、処理完了を故障検出処理部25に通知する。
例えば、故障検出処理部25は、撮像によって得られた撮像画像に対応する処理画像Re(6)及びRe(7)の明るさ相互間の比が、それらの撮像で用いられた露光条件EB(6)及びEB(a)で決まる露光量相互間の比に対し相関を有するか否かの判定を行う。
故障検出処理部25はまた、撮像によって得られた撮像画像に対応する処理画像Re(6)及びRe(7)の輝度ヒストグラムHt(6)及びHa(7)で示される画像の明るさ相互間の比が、それらの撮像で用いられた露光条件EB(6)及びEB(a)で決まる露光量相互間の比に対し相関を有するか否かの判定を行う。
明るさの比が1/2に近い値であるか否かは、算出された明るさの比と1/2との差が予め定められた閾値以下であるか否かで判断することができる。
相関がないと判定されたときは、撮像部10、信号処理部21、メモリ30の低露光画像用フレームバッファ領域301s、及びバス26のいずれかに故障があると判断する。
撮像装置が非HDRモードで動作する状態になったら、撮像制御部23は、既定画像利用検査及びフレーム間相関検査を行うべきことを故障検出処理部25に指示する。
以下では、第3の信号処理フレーム期間を利用して既定画像利用検査を行うべきこと、及び第6及び第7の撮像フレーム期間を利用してフレーム間相関検査を行うべきことが指示されたものとする。
この指示に従って、故障検出処理部25が既定画像利用検査及びフレーム間相関検査を行う。
図12に示される例では、8フレーム期間を一つの故障検出処理サイクルとして、各故障検出処理サイクルに一度ずつ、既定画像利用検査及びフレーム間相関検査既定画像故障検出が行われる。
また、図11の場合と同様に、第7の撮像フレーム期間における露光条件として、故障検出用の露光条件を設定し、その撮像で得られた撮像画像F(a)に対応する処理画像Re(7)と、その直前の撮像フレーム期間、即ち、第6の撮像フレーム期間の撮像で得られた高露光画像Ft(6)に対応する処理画像Re(6)とを利用してフレーム間相関検査が行われる。
しかしながら、本発明はこれに限定されない。例えば、各回の検査(既定画像利用検査又はフレーム間相関検査)が終了したら、故障検出処理部25がその旨を撮像制御部23に伝え、それに応じて直ちに或いはある時間の経過後に、撮像制御部23が次の検査(既定画像利用検査又はフレーム間相関検査)の開始の指示を与えるようにしても良い。
以下では、既定画像利用検査を先に行う場合について具体的に説明する。
この通知を受けて、撮像制御部23は、故障検出処理部25に、フレーム間相関検査の開始を指示する。この指示には、フレーム間相関判別を行うべきタイミングの指定が含まれる。故障検出処理部25はこの指示に従って、フレーム間相関検査を実行する。フレーム間相関検査が終了すると、故障検出処理部25は、その終了を撮像制御部23に通知する。
例えば、既定画像利用検査及びフレーム間相関検査の一方を複数回繰り返して行った後、他方の検査を1回又は複数回行うこととしても良い。
また、既定画像利用検査及びフレーム間相関検査の双方を行う場合、既定画像利用検査とフレーム間相関検査とを異なる時間間隔で行うようにしても良い。
上記の信号処理の条件を変更することで、画像処理内部の特定部位の故障検出を行うこととしても良い。故障部位を特定することができれば、その後故障部位を回避するように制御を行うことが可能となる。
このような構成であれば、既定画像(Fk)を保持するための格別のメモリ領域(304)が不要になるとともに、通常の処理で使用されるメモリ30の低露光画像用フレームバッファ領域301sの故障を検出することが可能となる。この場合、既定画像を指定する情報として、既定画像を生成する規則を示す情報、又は当該規則が記憶された部位例えばメモリ30内のアドレスを示す情報を与えることとすれば良い。
本発明は、これに限定されない。
例えば、画像を複数の領域に分割し、分割領域毎の輝度値の平均値或いは積算値を、予め求められた期待値と比較し、比較結果を総合的に判断することとしても良い。この場合には、上記の分割領域毎の輝度値の平均値或いは積算値が、画像に対して、「予め定められた処理を施すことで得られる値」に相当する。要するに、画像に対して、予め定められた処理を施すことで得られる値が期待値との相関をチェックすることとすれば良い。より一般的には、既定画像を処理した結果得られた処理画像と期待画像との相関の有無の判定を行うこととすれば良い。
図13は、本発明の実施の形態2の撮像装置1aの構成を概略的に示す。この撮像装置1aは、図1の撮像装置1と概して同じであるが、画像処理部20の代わりに画像処理部20aを備えている。画像処理部20aは、画像処理部20と概して同じであるが、ヒストグラム生成部22の代わりに平均輝度値算出部27が設けられ、画像合成部24の代わりに画像認識部28が設けられている点で異なる。
例えば、予め定められたフレーム数毎の画像を抽出する。以下では、8フレームのうちの1フレームの画像を抽出し、抽出した画像について、画像認識を行う場合について説明する。
図15には、信号処理部21で、撮像画像F(F(1)〜F(8))に対する処理がそれぞれの信号処理フレーム期間に行われ、処理画像Re(Re(1)〜Re(8))が出力されることが示されている。例えば、第1のフレーム期間の欄における「F(1)→Re(1)」は、撮像画像F(1)に対する処理が行われてその結果、処理画像Re(1)が生成されることを示す。他のフレーム期間についても同様である。
図15には、平均輝度値算出部27で、それぞれのフレーム期間に、処理画像Re(1)〜Re(8)の平均輝度値Ya(1)〜Ya(8)の算出が行われることが示されている。
各撮像フレーム期間における撮像の際の露光条件EB(i)は、直近の、即ち一つ前のフレーム期間における撮像で得られた撮像画像Fを信号処理することで得られた処理画像Reの平均輝度値Ya(i−1)に基づいて決定される。逆に言えば、各撮像フレーム期間における撮像で得られた撮像画像Fを信号処理することで得られた処理画像Reの平均輝度値Ya(i)に基づいて次の撮像フレーム期間で用いられる露光条件EB(i+1)が決定される。
図15の、撮像制御部23の「露光制御」の行の第2のフレーム期間の欄における「Ya(1)→EB(2)」は、第1のフレームの平均輝度値Ya(1)に基づいて、第2の撮像フレーム期間の露光条件EB(2)が決定されて、決定された露光条件を用いて、第2の撮像フレーム期間における露光制御が行われることを示す。他のフレーム期間についても同様である。
画像認識に用いるべき処理画像Reの特定を可能にするため、処理画像Reにフレーム番号を示すデータを付加しておくこととしても良い。この場合、画像認識部28は、このフレーム番号を示すデータに基づいて、画像認識に用いるべき処理画像Reを特定することができる。
図15には、第3の撮像フレーム期間における撮像で得られた撮像画像F(3)に対応する処理画像Re(3)について画像認識が行われ、認識結果Rr(3)が出力されることが「画像認識部28」の行の、第3のフレーム期間の欄における「Re(3)→Rr(3)」で示されている。
例えば、図示の例では、撮像部10から出力される画像のフレームレートに対し、画像認識で用いられる画像のフレームレートは1/8である。
従って、画像認識部28は、撮像部10における撮像よりも低い頻度で処理を行う低頻度処理部の一態様であるということができる。
例えば、画像の明るさが大幅に変化したとき、或いはシーンチェンジが検出されたときに画像認識を行うこととしても良く、外部から指示が与えられたときにのみ画像認識が行われることとしても良い。
このような場合、画像認識に用いるべき画像の特定を可能にするため、また、画像の明るさが大幅に変化したこと、或いはシーンチェンジが検出されたことを示す情報を付加しておくこととしても良い。この場合、画像認識部28が、この付加情報に基づいて、画像認識に用いるべき画像を特定することができる。
「画像認識に用いられるフレームの処理画像に対応する撮像画像以外の撮像画像が撮像により得られる撮像フレーム期間に対応する信号処理フレーム期間」は、「画像認識で用いられないフレームの撮像画像が撮像部10から出力されて、通常動作状態(故障検出を行わない状態)であれば、信号処理部21により処理される信号処理フレーム期間」を意味し、「画像認識に用いられるフレームの処理画像が信号処理部21で処理される信号処理フレーム期間以外の信号処理フレーム期間」と言い換えることができる。
「画像認識に用いられる処理画像に対応する撮像画像以外の撮像画像が撮像により得られる撮像フレーム期間」は、「画像認識に用いられる処理画像に対応する撮像画像が撮像により得られる撮像フレーム期間以外の撮像フレーム期間」と言い換えることができる。
以下では、実施の形態1に関し、図12を参照して説明したのと同様に、8フレーム期間を一つの故障検出処理サイクルとし、各故障検出処理サイクル内で、既定画像利用検査及びフレーム間相関検査の双方を行う場合について説明する。
図16は、そのように故障検出処理を行う場合の、撮像部10及び画像処理部20aにおける動作を示す、図15と同様の図である。
図16の最も上の行の「フレーム番号」は各故障検出処理サイクル内における各フレームの順番を示す。
この指示には、既定画像利用検査を行うべきタイミングの指定、検査で用いるべき既定画像の指定、及び当該既定画像に対する信号処理の条件の指定、並びにフレーム間相関検査を行うべきタイミングの指定、及び検査のための撮像で用いるべき、故障検出用の露光条件を示す情報が含まれる。
既定画像利用検査を行うべきタイミングとしては、画像認識で用いられるフレームの画像以外の画像が撮像により得られる撮像フレーム期間に対応する少なくとも一つの信号処理フレーム期間が指定される。
フレーム間相関検査を行うべきタイミングとしては、画像認識で用いられるフレームの画像以外の画像が撮像により得られる少なくとも一つの撮像フレーム期間が指定される。
以下では、第5の信号処理フレーム期間を利用して既定画像利用検査を行うべきこと、及び第6及び第7の撮像フレーム期間を利用してフレーム間相関検査を行うべきことが指示されたものとする。
この指示に従って、故障検出処理部25が既定画像利用検査及びフレーム間相関検査を行う。
信号処理部21が、第5の信号処理フレーム期間に、既定画像Fkに対する処理を行って、処理画像Re(5)を出力することが、図16の「信号処理部21」の行の、第5のフレーム期間の欄に「Fk→Re(5)」で示されている。
撮像制御部23は、メモリ30の露光条件格納領域306に記憶されている露光条件EB(d)、EB(e)を読出して、読み出した露光条件EB(d)、EB(e)で第6及び第7の撮像フレーム期間における撮像を行わせる。そのために、撮像制御部23は、露光条件EB(d)、EB(e)に対応する制御信号群ECを生成して、撮像部10に供給する。
撮像制御部23は、さらに、露光条件EB(d)、EB(e)が検査に使用されることを故障検出処理部25に通知する。
信号処理部21における撮像画像F(d)に対する信号処理の条件と撮像画像F(e)に対する信号処理の条件は互いに同じである。
図16にはまた、第6及び第7の信号処理フレーム期間に、撮像画像F(d)、F(e)に対する信号処理が行われて処理画像Re(6)、Re(7)が生成されることが、「信号処理部21」の行の、第6及び第7のフレーム期間の欄に「F(d)→Re(6)」、「F(e)→Re(7)」で示されている。
第5〜第7の信号処理フレーム期間以外の信号処理フレーム期間においては、図15の場合と同様に信号処理が行われる。
そのことが図16の「平均輝度値算出部27」の行に「Re(1)→Ya(1)」などで示されている。
予め定められた処理を施すことで得られる値は、例えばチェックサム値である。この場合、チェックサム値の期待値がメモリ30の期待値格納領域308に格納されている。なお、チェックサム値の生成規則も、メモリ30に記憶されており、故障検出処理部25は、メモリ30に記憶されている生成規則に従って、処理画像Re(5)から、チェックサム値を生成する。
チェックサム以外の、予め定められた処理を施すことで得られる値を用いる場合にも、当該予め定められた処理を表す情報がメモリ30に記憶されている。
例えば、故障検出処理部25は、露光条件EB(d)、EB(e)で決まる露光量相互間の比と、平均輝度値Ya(6)、Ya(7)相互間の比との間に相関があるか否かの判定を行う。
平均輝度値Ya(6)、Ya(7)はそれぞれ画像Re(6)、Re(7)の明るさを表すものであり、従って、上記の判定は、露光条件EB(d)、EB(e)で決まる露光量相互間の比と、平均輝度値Ya(6)、Ya(7)で表される画像Re(6)、Re(7)の明るさ相互間の比との間に相関があるか否かの判定と言い換えることができる。
逆に、相関がないと判断されたときは、撮像部10、信号処理部21、メモリ30のフレームバッファ領域301、及びバス26のいずれかに故障があると判断する。
実施の形態1に関して説明した、上記以外の変形例も、実施の形態2にも適用し得る。
画像合成部24及び画像認識部28は、いずれも、撮像部10における撮像の頻度よりも低い頻度で、処理画像Reを用いた処理を行う点で共通であり、各々低頻度処理部の一態様であると見ることができる。
しかしながら、本発明は、上記の構成に限定されず、画像合成部24及び画像認識部28以外の、撮像部10における撮像の頻度よりも低い頻度で、処理画像Reを用いた処理を行う、低頻度処理部が用いられる構成において適用可能である。
例えば、図1又は図13の各部分の機能をそれぞれ別個の処理回路で実現してもよいし、複数の部分の機能をまとめて一つの処理回路で実現しても良い。
このように、処理回路は、ハードウェア、ソフトウェア、ファームウェア、又はこれらの組み合わせによって、上述の各機能を実現することができる。
図17に示されるコンピュータ50は、CPU51と、メモリ52と、第1のインターフェース53と、第2のインターフェース54とを備え、これらはバス55で接続されている。
第1のインターフェース53には、撮像部10からの撮像画像Fを表す信号が入力される。また、第1のインターフェース53を介して制御信号群ECが撮像部10に供給される。
Claims (16)
- 被写体からの光を受けて撮像フレーム期間毎に撮像を行う撮像部と、
前記撮像部における撮像フレーム期間毎の露光条件を制御する撮像制御部と、
前記撮像部で、それぞれの撮像フレーム期間における撮像で得られた撮像画像に対して、対応する信号処理フレーム期間に信号処理を行い、処理画像を生成する信号処理部と、
前記撮像部における撮像の頻度よりも低い頻度で前記処理画像を用いた処理を行う低頻度処理部と、
前記低頻度処理部における処理で用いられる処理画像に対応する撮像画像以外の撮像画像が前記撮像部での撮像により得られる少なくとも一つの撮像フレーム期間、又は当該撮像フレーム期間に対応する少なくとも一つの信号処理フレーム期間を利用して、前記撮像部及び前記信号処理部の少なくとも一方の故障検出処理を行う故障検出処理部とを有する
撮像装置。 - 前記信号処理部は、前記低頻度処理部における処理で用いられる処理画像に対応する撮像画像以外の撮像画像が前記撮像部での撮像で得られる撮像フレーム期間に対応する少なくとも一つの信号処理フレーム期間に、前記撮像部での撮像で得られた撮像画像の代わりに、故障検出用の画像の供給を受け、供給された画像に対し、故障検出用の処理条件で信号処理を行い、
前記故障検出処理部は、前記故障検出用の画像に対して信号処理を行った結果生成された処理画像が、期待される通りのものであるか否かの判定を行う
ことを特徴とする請求項1に記載の撮像装置。 - 前記故障検出用の画像を記憶するメモリをさらに有し、
前記故障検出処理部は、前記メモリから前記故障検出用の画像を読み出して前記故障検出用の画像として前記信号処理部に供給する
ことを特徴とする請求項2に記載の撮像装置。 - 前記信号処理部が、故障検出用の画像を生成する規則に従って、前記故障検出用の画像を生成する
ことを特徴とする請求項2に記載の撮像装置。 - 前記故障検出処理部は、前記故障検出用の画像に対して、信号処理を行った結果生成された処理画像に対して、予め定められた処理を施すことで得られる値と、予め記憶されている期待値との相関が、予め定められた閾値以上であるか否かにより故障の有無を判定することを特徴とする請求項3又は4に記載の撮像装置。
- 前記撮像制御部は、前記低頻度処理部における処理で用いられる処理画像に対応する撮像画像以外の撮像画像が前記撮像部での撮像により得られる撮像フレーム期間に、前記撮像部に、故障検出用の露光条件で撮像を行わせ、
前記故障検出処理部は、前記故障検出用の露光条件での撮像で得られた画像と、他の撮像フレーム期間における撮像で得られた画像との間の変化が、前記故障検出用の露光条件と、前記他の撮像フレーム期間における露光条件との間の変化に対応するものであるか否かの判定を行う
ことを特徴とする請求項1から5のいずれか1項に記載の撮像装置。 - 前記撮像制御部は、前記判定として、前記故障検出用の露光条件での撮像で得られた画像の明るさと、他の撮像フレーム期間における撮像で得られた画像の明るさとの比と、前記故障検出用の露光条件で決まる露光量と、前記他の撮像フレーム期間における露光条件で決まる露光量との比との間に相関があるか否かの判定を行う
ことを特徴とする請求項6に記載の撮像装置。 - 前記他の撮像フレーム期間が、前記低頻度処理部における処理で用いられる処理画像に対応する撮像画像が撮像により得られる撮像フレーム期間であり、
前記撮像制御部は、
前記故障検出用の露光条件を、前記他の撮像フレーム期間における露光条件を基準として定める
ことを特徴とする請求項6又は7に記載の撮像装置。 - 前記他の撮像フレーム期間が、前記低頻度処理部における処理で用いられる処理画像に対応する撮像画像以外の撮像画像が撮像により得られる撮像フレーム期間であり、
前記撮像制御部は、前記他の撮像フレーム期間における露光条件として、前記故障検出用の露光条件とは異なる、さらなる故障検出用の露光条件を用いる
ことを特徴とする請求項6又は7に記載の撮像装置。 - 前記画像の明るさが、前記画像の輝度ヒストグラムで示される画像の明るさであることを特徴とする請求項7に記載の撮像装置。
- 前記画像の明るさが、前記画像の平均輝度値で表される明るさであることを特徴とする請求項7に記載の撮像装置。
- 前記低頻度処理部が、
第1の撮像フレーム期間に前記撮像部での撮像により得られた撮像画像に対して、前記信号処理部で信号処理することで生成された第1の処理画像と、第2の撮像フレーム期間に前記撮像部での撮像により得られた撮像画像に対して、前記信号処理部で信号処理することで生成された第2の処理画像とに基づいて合成画像を生成して出力する画像合成部であり、
第1の撮像モードでは、
前記撮像制御部は、前記撮像部に、前記第1の撮像フレーム期間における露光量と前記第2の撮像フレーム期間における露光量とが互いに異なる値となるように露光条件を設定して撮像を行わせ、
前記画像合成部は、前記第1の処理画像と前記第2の処理画像とを合成して、前記合成画像としてダイナミックレンジが拡大された画像を出力し、
第2の撮像モードでは、
前記画像合成部は、前記第1の処理画像をそのまま前記合成画像として出力し、
前記故障検出処理部は、前記第2の撮像フレーム期間、又は前記第2の撮像フレーム期間に対応する信号処理フレーム期間を利用して、前記故障検出処理を行う
ことを特徴とする請求項1から11のいずれか1項に記載の撮像装置。 - 前記低頻度処理部が、
前記撮像部による撮像で得られた複数のフレームの撮像画像をそれぞれ前記信号処理部で信号処理することで得られる複数のフレームの処理画像のうちの一部のフレームの処理画像に対し画像認識を行う画像認識部であり、
前記故障検出処理部は、前記複数のフレームの処理画像のうち、前記画像認識で用いられるフレームの処理画像に対応する撮像画像以外の撮像画像が前記撮像部での撮像により得られる少なくとも一つの撮像フレーム期間、又は当該撮像フレーム期間に対応する少なくとも一つの信号処理フレーム期間を利用して、前記故障検出処理を行う
ことを特徴とする請求項1から11のいずれか1項に記載の撮像装置。 - 被写体からの光を受けて撮像フレーム期間毎に撮像を行う撮像部と、
前記撮像部における撮像フレーム期間毎の露光条件を制御する撮像制御部と、
前記撮像部で、それぞれの撮像フレーム期間における撮像で得られた撮像画像に対して、対応する信号処理フレーム期間に信号処理を行い、処理画像を生成する信号処理部と、
前記撮像部における撮像の頻度よりも低い頻度で前記処理画像を用いた処理を行う低頻度処理部とを有する撮像装置において、
前記低頻度処理部における処理で用いられる処理画像に対応する撮像画像以外の撮像画像が前記撮像部での撮像により得られる少なくとも一つの撮像フレーム期間、又は当該撮像フレーム期間に対応する少なくとも一つの信号処理フレーム期間を利用して、前記撮像部及び前記信号処理部の少なくとも一方の故障検出処理を行う
ことを特徴とする故障検出方法。 - 請求項14に記載の故障検出方法の処理をコンピュータに実行させるためのプログラム。
- 請求項15に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016010225A JP6407176B2 (ja) | 2016-01-22 | 2016-01-22 | 撮像装置及び故障検出方法、並びにプログラム及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016010225A JP6407176B2 (ja) | 2016-01-22 | 2016-01-22 | 撮像装置及び故障検出方法、並びにプログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017130858A true JP2017130858A (ja) | 2017-07-27 |
JP6407176B2 JP6407176B2 (ja) | 2018-10-17 |
Family
ID=59396321
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016010225A Expired - Fee Related JP6407176B2 (ja) | 2016-01-22 | 2016-01-22 | 撮像装置及び故障検出方法、並びにプログラム及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6407176B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180091359A (ko) * | 2017-02-06 | 2018-08-16 | 삼성전자주식회사 | 파노라마 이미지 또는 동영상을 생성하는 전자 장치 및 그 방법 |
KR20190130404A (ko) * | 2018-05-14 | 2019-11-22 | 한화테크윈 주식회사 | 영상 제공 장치 및 방법 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7218216B2 (ja) | 2019-03-08 | 2023-02-06 | 株式会社東芝 | 画像処理装置、及び、検出方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005143083A (ja) * | 2003-10-15 | 2005-06-02 | Fujitsu Ten Ltd | 画像処理装置、運転支援装置および運転支援システム |
JP2014523716A (ja) * | 2011-07-05 | 2014-09-11 | オムロン株式会社 | 射影空間監視のための方法および装置 |
WO2015104915A1 (ja) * | 2014-01-10 | 2015-07-16 | 日立オートモティブシステムズ株式会社 | 車載カメラ画像処理装置 |
-
2016
- 2016-01-22 JP JP2016010225A patent/JP6407176B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005143083A (ja) * | 2003-10-15 | 2005-06-02 | Fujitsu Ten Ltd | 画像処理装置、運転支援装置および運転支援システム |
JP2014523716A (ja) * | 2011-07-05 | 2014-09-11 | オムロン株式会社 | 射影空間監視のための方法および装置 |
WO2015104915A1 (ja) * | 2014-01-10 | 2015-07-16 | 日立オートモティブシステムズ株式会社 | 車載カメラ画像処理装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180091359A (ko) * | 2017-02-06 | 2018-08-16 | 삼성전자주식회사 | 파노라마 이미지 또는 동영상을 생성하는 전자 장치 및 그 방법 |
KR102609477B1 (ko) | 2017-02-06 | 2023-12-04 | 삼성전자주식회사 | 파노라마 이미지 또는 동영상을 생성하는 전자 장치 및 그 방법 |
KR20190130404A (ko) * | 2018-05-14 | 2019-11-22 | 한화테크윈 주식회사 | 영상 제공 장치 및 방법 |
KR102525182B1 (ko) | 2018-05-14 | 2023-04-24 | 한화비전 주식회사 | 영상 제공 장치 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
JP6407176B2 (ja) | 2018-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5161706B2 (ja) | 撮像装置及びその制御方法 | |
US9094586B2 (en) | Flash band correction apparatus, flash band correction method, and image pickup apparatus | |
US8982249B2 (en) | Image capturing apparatus and method for controlling an image capturing apparatus for capturing and processing a plurality of pieces of exposure and dark image data to correct combined exposure image data in accordance with combined dark image data | |
CN102572273B (zh) | 摄像装置 | |
US8648941B2 (en) | Image processor, method of controlling the same, and storage medium | |
JP5417746B2 (ja) | 動き適応型ノイズ低減装置、画像信号処理装置、画像入力処理装置、および、動き適応ノイズ低減方法 | |
JP6407176B2 (ja) | 撮像装置及び故障検出方法、並びにプログラム及び記録媒体 | |
JP2008005048A (ja) | 撮像装置及び信号処理装置 | |
JP5056501B2 (ja) | 撮像装置及びこれに用いる欠陥画素補正方法 | |
KR20160044945A (ko) | 이미지 촬영 장치 | |
JP2018160777A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
US8699827B2 (en) | Imaging apparatus, signal processing method, and program | |
JP5829122B2 (ja) | 撮像装置および評価値生成装置 | |
JP4616794B2 (ja) | 画像データのノイズ低減装置およびその制御方法 | |
JP6517573B2 (ja) | 画像処理装置および内視鏡装置 | |
JP2014220690A (ja) | 信号処理装置、信号処理方法 | |
JP5202277B2 (ja) | 撮像装置 | |
JP6196105B2 (ja) | 撮像装置および電子内視鏡装置 | |
JP6075829B2 (ja) | 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体 | |
JP5022802B2 (ja) | 撮像装置及びその制御方法 | |
US9648232B2 (en) | Image processing apparatus, image capturing apparatus, control method and recording medium | |
JP4998009B2 (ja) | 画像処理装置及び撮像装置 | |
JP7379217B2 (ja) | 撮像システム | |
JPH1175106A (ja) | 静止画カメラ | |
JP2002185867A (ja) | 撮像装置、撮像装置の制御装置及び光量制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170925 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180604 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180626 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180809 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180821 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180918 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6407176 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |