JP4980089B2 - ステレオ画像処理装置 - Google Patents

ステレオ画像処理装置 Download PDF

Info

Publication number
JP4980089B2
JP4980089B2 JP2007022135A JP2007022135A JP4980089B2 JP 4980089 B2 JP4980089 B2 JP 4980089B2 JP 2007022135 A JP2007022135 A JP 2007022135A JP 2007022135 A JP2007022135 A JP 2007022135A JP 4980089 B2 JP4980089 B2 JP 4980089B2
Authority
JP
Japan
Prior art keywords
data
matching circuit
unit
circuit unit
stereo
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007022135A
Other languages
English (en)
Other versions
JP2008190868A (ja
Inventor
修弘 遠田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2007022135A priority Critical patent/JP4980089B2/ja
Publication of JP2008190868A publication Critical patent/JP2008190868A/ja
Application granted granted Critical
Publication of JP4980089B2 publication Critical patent/JP4980089B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、ステレオカメラで撮像した複数枚の画像間の相関を演算するマッチング回路部の異常の有無を診断する機能を有するテレオ画像処理装置に関する。
従来、画像による三次元計測の技術として、ステレオカメラで対象物を異なる位置から撮像した複数の画像間の相関を求め、同一物体に対する視差からステレオカメラの取り付け位置や焦点距離等のカメラパラメータを用いて三角測量の原理により距離を求める、いわゆるステレオ法による技術が知られている。このステレオ法による画像処理技術は、例えば自動車等に適用され、車両に搭載したステレオカメラで車外風景を撮像し、ステレオ撮像した複数枚の画像をステレオ処理して車外の立体物を検出することにより、先行車に追従しながら車間距離を安全に維持したり、障害物との衝突を未然に回避するといった高度な制御を実現することができる。
このようなステレオ画像処理技術の適用においては、複数枚の画像間の相関を演算して対応点の視差を検出するステレオマッチング回路部の信頼性が最も重要であり、このステレオマッチング回路の故障を診断する必要がある。しかしながら、現在のところ、ステレオマッチング回路に特化して故障を診断する技術は確立されておらず、従来の画像処理装置における故障診断の技術を適用せざるを得ないのが現状である。
従来の画像処理装置の故障診断技術としては、例えば、特許文献1や特許文献2に開示の技術があり、これらの技術をステレオマッチング回路の診断に適用することが可能である。特許文献1は、試験用信号を故障監視対象回路に入力し、故障監視対象回路から出力される信号が、入力した試験用信号から推定して不適当な信号の場合、故障診断対象回路に故障があると判断するものである。また、特許文献2は、カラー複写機等の情報処理装置における画像処理部の故障診断に関して、所定のテストデータの入力による処理結果と、正常時に得られるであろう所定の期待値とを比較することにより、故障診断を行うものである。
特開平11−154101号公報 特開2004−287673号公報
しかしながら、前述の特許文献1や特許文献2の技術を適用することにより、ステレオマッチング回路の故障診断は可能であるものの、ステレオ画像処理においては、複数枚の画像間でマッチング処理を行うことから、処理すべき複数枚の画像に対応した膨大な試験用データが必要となる。
このため、従来の画像処理における故障診断の技術を一義的に適用するのみでは、試験用データを記憶するためのメモリ容量が増大し、コスト増加の要因となるばかりでなく、診断に要する時間が増大して診断効率が悪化する虞がある。
本発明は上記事情に鑑みてなされたもので、故障診断用のデータを記憶するメモリ容量を低減し、コスト低減を図りつつ診断効率を向上することのできるステレオ画像処理装置を提供することを目的としている。
本発明による第のステレオ画像処理装置は、ステレオカメラで撮像した複数枚の画像間の相関を所定のブロック毎に演算し、対応するブロック間の視差を演算するステレオ画像処理装置において、故障診断用のテストデータを、乱数データとして発生する乱数データ発生手段と、上記乱数データを遅延させるディレイ手段と、上記相関を演算するマッチング回路部に所定の診断タイミングで上記乱数データを入力すると共に、同じ乱数データを上記ディレイ手段で遅延させて上記マッチング回路部に入力し、上記マッチング回路部の出力データが一定値であるか否かにより、上記マッチング回路部の異常の有無を診断する診断手段とを備えることを特徴とする。
本発明による第のステレオ画像処理装置は、ステレオカメラで撮像した複数枚の画像間の相関を所定のブロック毎に演算し、対応するブロック間の視差を演算するステレオ画像処理装置において、上記複数枚の画像のうちの一部の画像データを遅延するディレイ手段と、上記相関を演算するマッチング回路部に所定の診断タイミングで上記複数枚の画像のうちの一部の画像データを入力すると共に、同じ画像データを上記ディレイ手段で遅延させて上記マッチング回路部に入力し、上記マッチング回路部の出力データが一定値であるか否かにより、上記マッチング回路部の異常の有無を診断する診断手段とを備えることを特徴とする。
本発明によれば、故障診断用のデータを記憶するメモリ容量を低減し、コスト低減を図りつつ診断効率を向上することができる。
以下、図面を参照して本発明の実施の形態を説明する。図1〜図5は本発明の実施の第1形態に係り、図1はステレオ画像処理装置の構成図、図2は動作モードの説明図、図3はトレーニングデータの適用を示す説明図、図4は演算結果を示す説明図、図5は図1のステレオ画像処理装置の変形例を示す構成図である。
本発明のステレオ画像処理装置は、ステレオマッチング回路部の動作を監視し、故障の有無を診断する機能を有するものであり、本形態においては、特に専用のハードウエアチップとして構成されるステレオマッチング回路部の異常を自己診断する。本形態におけるステレオ画像処理装置1は、図1に示すように、2台のカメラを所定の基線長で略平行に配置して構成されるステレオカメラに対して、2台のカメラのCCDやCMOS等の撮像素子2a,2bからの撮像信号に基づく画像データをマッチング処理する平行ステレオ法による画像処理装置である。
ステレオ画像処理装置1の構成としては、左右一対の画像間でステレオマッチングを行って視差を検出するマッチング回路部10、マッチング回路部10の処理結果に基づいて各種認識処理を行う認識処理部20、マッチング回路部10の動作を監視して異常の有無を診断する診断手段としてのシステム監視部30、故障診断用のテストデータを記憶するテストデータ記憶手段としてのテストデータ記憶部40を主要構成として備えている。テストデータ記憶部40は、メモリ或いはハードディスク装置等によって構成される。
尚、システム監視部30は、ステレオ画像処理装置1のマッチング回路部10や認識処理部20、その他の回路部と同一筐体内に設けるものに限定されることなく、外部装置として接続するようにしても良い。
各撮像素子2a,2bからの2系統のアナログ撮像信号は、それぞれ、ビデオプロセス回路3a,3bに入力され、ノイズ除去、ゲイン調整、γ補正等の処理が施されたビデオ信号がA/D変換器4a,4bに出力される。A/D変換器4a,4bは、アナログビデオ信号を、例えば256階調のグレースケールのデジタル画像信号に変換し、このデジタル画像信号を、後述するデータセレクタ5a,5bを介してマッチング回路部10の画像補正部11a,11bに出力する。
マッチング回路部10は、FPGA(Field Programmable Gate Array)等の再構築可能な集積回路、或いはASIC(Application Specific Integrated Circuit)等の特定用途向けにカスタムメイドされる集積回路を用いた専用のファームウエアによって構成されるものである。マッチング回路部10の機能は、2台のカメラの撮像素子2a,2bに対応した左右2系統の画像補正部11a,11bと、ステレオマッチング演算部12と、視差算出部13とを主として形成されている。
画像補正部11a,11bは、左右画像に対する光学的な感度補正、幾何学的な位置補正、ノイズ除去等を行うものであり、固有ゲインの相違等を補正するためのLUT(ルックアップテーブル)、カメラ光学系に発生するシェーディング現象による輝度低下を補正するためのシェーディング補正テーブル、各画像の低輝度部分のコントラストを改善するためのログ補正テーブル、2つのカメラ光学系の位置ずれを幾何学的に補正するアフィン変換回路、ノイズ除去用のフィルタ回路等から構成される。
画像補正部11a,11bで補正された左右画像は、画像データメモリ15に出力されて認識処理における左右元画像として記憶されると共に、ステレオマッチング演算部12に出力される。ステレオマッチング演算部12は、例えば、演算器と加算器とをピラミッド状に接続したパイプライン構造の演算回路等を主として構成され、左右画像間の相関値を演算し、対応点を探索する。
左右画像間の相関演算は、例えば周知の領域探索法を用いて、一方の画像を基準画像、他方の画像を比較画像として、基準画像内の或る1つの点の周囲に小領域(ブロック)を設定し、比較画像内の或る点の周囲に同じ大きさの小領域を設け、比較画像上でブロックをずらしながら互いのブロックの相関演算を行う。
この相関演算における評価関数としては、基準画像のブロックと比較画像のブロックとの間のピクセル値(一般的に、各画素の輝度値)の差分(絶対値)の総和(SAD;Sum of Absolute Difference)を用いる。SADによる評価関数の値は、シティブロック距離と称されるものであり、ブロック間の相関が高い程(類似している程)、シティブロック距離の値が小さくなり、シティブロック距離が最小値を取るブロック間の水平方向のシフト量により、視差が与えられる。
シティブロック距離CBは、画像平面上の位置を、水平方向をi座標、垂直方向をj座標とする直交座標で定義し、互いの相関度を探索するブロックを、i×j(i=0〜n,j=0〜n)の探索ブロックとするとき、以下の(1)式に示すように、基準画像の探索ブロックmain(i,j)と比較画像の探索ブロックsub(i,j)とのSAD値を、i軸上を所定のシフト値ずつずらしながら演算することにより得られる。
CB=Σ│main(i,j)−sub(i,j)│…(1)
ステレオマッチング演算部12では、例えば、4×4画素の探索ブロックを対象として、基準画像の探索ブロック(以下、「メインブロック」と記載する)に対して比較画像の探索ブロック(以下、「サブブロック」と記載する)の位置を水平ライン上を1画素ずつずらしながらSAD演算を行う。
尚、探索ブロック(小領域)間のステレオマッチングについての詳細は、本出願人の特許第3167752号に詳述されている。
視差算出部13は、演算器やラッチを組み合わせた最小値検出回路を中心として構成され、ステレオマッチング演算部12で演算したシティブロック距離が最小値となる点をメインブロックとサブブロックとの相関度が最も高い対応位置(一致点)として求め、この一致点におけるメインブロックとサブブロックとの1画素単位のズレ量(水平方向のメインブロックの位置imとサブブロックの位置isとの差)を視差として算出する。算出された視差すなわちズレ量は、画像座標系の対応する位置の輝度値に置き換えられて画像形態の距離画像として生成され、距離データメモリ16に格納・記憶される。
認識処理部20は、マイクロコンピュータによって構成され、画像データメモリ15に格納された撮像元画像と距離データメモリ16に格納された距離画像とを用いて、三次元の実空間における立体物の形状や種類、位置を認識する。例えば、自動車への適用においては、距離画像内から同一距離データの密集箇所を抽出する等して先行車を認識し、実空間における先行車までの距離を距離データを用いて算出すると共に、距離のフレーム間差分を取ることにより先行車の速度を算出する。認識処理部20における認識結果は、図示しない他の車両制御装置等に出力され、車間距離制御や障害物回避制御等における制御データとして利用される。
一方、システム監視部30は、マッチング回路部10を中心とする画像処理システムとは独立してシステムの動作を監視するものであり、マイクロコンピュータやFPGA等によって構成される。システム監視部30による動作状態の監視は、主として、テストデータ記憶部40のテストデータを用いたマッチング回路部10の動作の検証であり、以下の(a),(b),(c)に示す条件を考慮し、これらのうちの少なくとも1つの条件に基づいて診断タイミングを決定する。
(a)回路素子の温度条件
マッチング回路部10を形成するFPGA(或いはASIC)のチップ温度(或いは雰囲気温度でも良い)を温度センサによって検出し、図2に示すように、温度に応じて、通常動作モード、セーフモード、フェイルモードの各動作モードを切り換える。ここで、通常動作モードは、正常動作を保証される温度(例えば80°C)以下で、通常のステレオ画像処理を実行するモードであり、セーフモードは、動作が不安定となる虞がある温度(例えば、80°C〜100°C)でテストデータを用いた動作検証を行いながらステレオ画像処理を実行するモードである。また、フェイルモードは、動作保障温度(例えば、100°C)を超えたとき、或いは超えそうなときに、撮像画像データに代えてテストデータを教師データとして用いることで、システムの動作状況を確認するモードであり、信頼性を向上することができる。
(b)本ステレオ画像処理装置1を搭載するシステム全体の動作条件
本ステレオ画像処理装置1を車両に搭載して運転支援システムを構築する場合には、システム監視部30によるマッチング回路部10の検証タイミングを、システム全体の支援動作に影響がないタイミングとする必要がある。従って、その場合には、車両停止時、エンジン始動時、運転支援動作停止中に、テストデータを用いてマッチング回路部10の動作を診断する。
(c)撮像条件
夜間や逆光時等の条件下においては、CCDやCMOS等の撮像素子2a,2bに入力される入射光の輝度が撮像素子のダイナミックレンジを外れ、入力データのそのものに意味がなく、処理をしても意味をなさない場合がある。このような場合には、撮像画像データに代えて、テストデータを教師データとして用いることで、システムの動作状態を確認することができる。
また、車両の場合には、例えばトンネルを走っていて出口にきた場合、カメラのシャッタースピードのコントロールが間に合わず、画像が飽和する時間が存在する。このような場合にも、撮像画像データを教師データに切り換えることで、システムの動作状態を確認する。
テストデータ記憶部40には、マッチング回路部10の故障診断に用いるテストデータとしてマッチング回路部10に入力するトレーニングデータ、及びトレーニングデータの演算結果(マッチング回路部10が正常動作しているときに得られる処理結果)である演算結果データが保持されている。
トレーニングデータは、予め設定された輝度値を有する画像データであり、例えば、0〜255階調の輝度をランダムに発生させたモザイク状の画像データとしてテストデータ記憶部40に記憶されている。また、演算結果データは、トレーニングデータを教師データとしてマッチング回路部10に入力したときに演算される視差データ(距離データ)であり、演算結果データとしてテストデータ記憶部40に記憶されている。
システム監視部30は、所定の診断タイミングでデータセレクタ5a,5bにデータ切換信号を出力し、テストデータ記憶部40から読み出したトレーニングデータをデータセレクタ5a,5bからマッチング回路部10の画像補正部11a,11bに入力する。システム監視部30では、マッチング回路部10で処理されて画像データメモリ15及び距離データメモリ16に書き込まれる内容と、テストデータ記憶部40に保持しているトレーニングデータ及び演算結果データとを比較し、両者が一致すれば正常動作と判定し、両者が一致しない場合、異常発生と判断する。
この場合、テストデータ記憶部40に保持されるトレーングデータは、カメラ撮像画像の1フレーム以上に対応する教師データとして保持しても良いが、左画像の1フレーム分の教師データ、右画像の1フレーム分の教師データ、及び左右の教師データの演算結果分の1フレーム分のデータを保存する必要があるため、メモリ容量の増大を招く。従って、本形態においては、ステレオマッチングの演算特性を考慮した必要最小限のデータ容量としている。
例えば、撮像画像の1フレームが縦480画素×横640画素の大きさである場合、図3に示すように、1フレーム中の縦4ライン分だけの教師データを左右画像に対して用意する。前述したように、マッチング回路部10におけるステレオマッチング演算は、4×4画素の探索ブロックを対象として、基準画像の探索ブロックに対して比較画像の探索ブロックの位置を水平ライン上を1画素ずつずらしながらSAD演算を行っている。
従って、探索ブロックのサイズに対応して縦4ライン分のトレーニングデータをテストデータ記憶部40に記憶し、このトレーニングデータを図3に示すように縦方向に繰り返し使用することで、フレームサイズの教師データを生成することができる。この縦4ライン分のトレーニングデータを用いた演算結果は、縦方向に同じ値であるため、図4に示すように、縦4ライン分の演算結果データを保持するのみで、マッチング回路部10からの出力と繰り返し比較することにより、1フレーム分の診断を行うことができる。
このように、本実施形態においては、ステレオマッチング処理の特性を考慮したサイズのトレーニングデータとすることにより、フレームサイズの教師データを生成することができ、1フレーム全体の教師データが不要になるため、メモリ容量を小規模化することが可能となり、コストを低減することが可能となる。
尚、図1においては、認識処理部20とシステム監視部30とは、互いに独立した処理を行う例を示しているが、両者を互いに接続し、互いの異常を相互監視するようにしても良い。すなわち、図5に示すように、認識処理部20とシステム監視部30とを互いに双方向通信可能に接続すると共に、CAN(Controller Area Network;コントローラ・エリア・ネットワーク)等のネットワークに対して、CANデータセレクタ50を介して接続する。
そして、一定時間毎に互いの状態を監視することにより、一方に異常が発生した場合でも、正常な他方が最低限の演算結果や情報を、CANデータセレクタ50を介して出力することが可能となり、システム全体の信頼性を向上させることが可能となる。
次に、本発明の実施の第2形態について説明する。図6は本発明の実施の第2形態に係り、ステレオ画像処理装置の構成図である。
第2形態は、故障診断用のテストデータとして、左右画像毎に予め決められたデータを保持することなく、同じトレーニングデータを左右に適用するものである。
図6に示すように、第2形態のステレオ画像処理装置1Aは、第1形態のステレオ画像処理装置1に対して、システム監視部30Aを変更すると共に、テストデータを保持するテストデータ記憶部40を廃止し、ディレイ回路45を設けたものであり、他の構成は、第1形態と同様である。
図6においては、システム監視部30Aから、一方の撮像素子2aの撮像系統のデータセレクタ5aに、トレーニングデータを出力すると共に、この同じトレーニングデータをディレイ回路45を介して他方の撮像素子2bの撮像系統のデータセレクタ5bに出力する例を示している。尚、ディレイ回路45は、逆に、撮像素子2aの撮像系統側に設けても良い。
システム監視部30Aは、診断手段としての機能に加え、トレーニングデータを乱数データとして発生する乱数データ発生手段としての機能を有しており、同じ乱数トレーニングデータが2つの経路を通ってマッチング回路部10に入力される。一方の経路は、直接データセレクタ5aに入力される経路であり、他方の経路は、ディレイ回路45を通ってデータセレクタ5bに入力される経路である。ディレイ回路45は、システム監視部30Aによって発生された乱数トレーニングデータに対して、水平方向すなわちステレオマッチングにおける一致点の探索方向に各乱数の位置が移動されたトレーニングデータを生成する。
これらの乱数トレーニングデータを、正常にステレオマッチング処理すると、演算結果は全てのブロックで或る一定の定数となる。或る一定の定数とは、ディレイ回路45でのディレイ分に相当する値であり、システム監視部30Aは、この定数を演算結果データとして記憶・保持しておく。
システム監視部30Aは、診断タイミングでデータセレクタ5a,5bにデータ切換信号を出力し、マッチング回路部10に、乱数トレーニングデータを直接及び遅延させて入力したとき、その演算結果がディレイ回路45でのディレイ分に相当する一定の定数となるか否かを確認することにより、マッチング回路部10が正常に動作しているか否かを診断し、乱数トレーニングデータの入力結果が一定の定数になったとき、正常であると判断する。
第2形態においては、システム監視部30Aにて乱数トレーニングデータを発生し、それを教師データとすることで、第1形態に比較して、診断のテストデータを保持するメモリ容量をより低減することができ、コストを低減しつつシステムの信頼性を向上させることが可能となる。
更に、第2形態においては、第1形態に比較して診断処理が簡素化されることから、システム監視部30の機能を、認識処理部20で実現するようにしても良く、部品点数を削減して、よりコスト低減を図ることが可能となる。
次に、本発明の実施の第3形態について説明する。図7は本発明の実施の第3形態に係り、ステレオ画像処理装置の構成図である。
第3形態は、故障診断用のテストデータとして、実際の撮像画像データを用いるものである。すなわち、図7に示すように、第3形態のステレオ画像処理装置1Bは、第1形態のステレオ画像処理装置1に対して、システム監視部30、テストデータ記憶部40、2系統の撮像系統に対応するデータセレクタ5a,5bを廃止し、認識処理部20Aに、通常のステレオ処理結果に基づく認識処理とマッチング回路10の診断処理との2つの処理を実行する機能を備える。
認識処理部20Aによるマッチング回路10の故障診断は、1つのデータセレクタ46とディレイ回路47とを用いて実施される。図7においては、一方の撮像系統のA/D変換器4aの出力をマッチング回路部10の画像補正部11aに入力すると共に、ディレイ回路47を介してデータセレクタ46へ入力し、他方の撮像系統のA/D変換器4bの出力をデータセレクタ46へ入力し、データセレクタ46の出力をマッチング回路部10の画像補正部11bに入力する例を示している。ディレイ回路47は、A/D変換器4aから入力される画像に対して各画素位置が水平方向に移動された画像を生成する。尚、ディレイ回路47及びデータセレクタ46を挿入する撮像系統は、逆でも良い。
第3形態では、マッチング回路部10への教師データとして一方の撮像素子の画像データを用いるようにしており、撮像画像データを直接マッチング回路部10に入力する経路と、ディレイ回路47及びデータセレクタ46を経由して入力する経路の2つの経路が存在する。これらのデータを、マッチング回路部10で処理を行うと、演算結果はすべてのブロックで、或る一定の定数となる。或る一定の定数とは、ディレイ回路47のディレイ分に相当するものである。
認識処理部20は、認識処理を行っていない所定の診断タイミングでデータセレクタ46にデータ切換信号を出力し、一方の撮像素子2aで撮像した画像データを、マッチング回路部10の一方の画像補正部11aに入力すると共に、同じ画像データを、ディレイ回路47で遅延させてデータセレクタ46を介してマッチング回路部10の他方の画像補正部11bに入力する。
そして、認識処理部20Aは、マッチング回路部10の演算結果がディレイ回路47でのディレイ分に相当する或る定数であるか否かを確認することにより、マッチング回路部10が正常に動作しているか確認する。マッチング回路部10の演算結果がディレイ回路47でのディレイ分に相当する定数であれば、マッチング回路部10は正常であると判断する。
第3形態では、一方の撮像素子の画像データを分岐、遅延を持たせて教師データとすることにより、第1形態のようなテストデータ記憶部40を必要とせず、且つシステム監視部30も必要とせず、非常にコンパクトで低コストな構成としつつ、システムの信頼性を向上させることが可能となる。
この場合、ディレイ回路47のディレイ量を固定値とすることなく、図7に破線で示すように、認識処理部20Aからディレイ回路47に出力するコントロール信号によってディレイ量を可変できるようにしても良く、認識処理部20Aは、必要に応じて、フレーム毎にディレイ回路47を制御し、ディレイ回路47のディレイ量を変化させる。これらのデータをマッチング回路部10で処理すると、演算結果は全てのブロックで、認識処理部20Aがディレイ回路47に指示をしたディレイ量が解となる。
従って、認識処理部20Aは、マッチング回路部10の演算結果がディレイ回路47に指示したディレイ量に相当する定数であるかを確認することにより、マッチング回路部10が正常に動作しているか否かを確認することができる。このディレイ回路47のディレイ量を可変することにより、ステレオマッチングのマッチングポイント探索スキャン量の全ての演算検証が可能となり、システムの信頼性を更に向上させることが可能となる。
本発明の実施の第1形態に係り、ステレオ画像処理装置の構成図 同上、動作モードの説明図 同上、トレーニングデータの適用を示す説明図 同上、演算結果を示す説明図 同上、図1のステレオ画像処理装置の変形例を示す構成図 本発明の実施の第2形態に係り、ステレオ画像処理装置の構成図 本発明の実施の第3形態に係り、ステレオ画像処理装置の構成図
符号の説明
1,1A,1B ステレオ画像処理装置
10 マッチング回路部
20,20A 認識処理部
30,30A システム監視部
40 テストデータ記憶部
45,47 ディレイ回路

Claims (4)

  1. ステレオカメラで撮像した複数枚の画像間の相関を所定のブロック毎に演算し、対応するブロック間の視差を演算するステレオ画像処理装置において、
    故障診断用のテストデータを、乱数データとして発生する乱数データ発生手段と、
    上記乱数データを遅延させるディレイ手段と、
    上記相関を演算するマッチング回路部に所定の診断タイミングで上記乱数データを入力すると共に、同じ乱数データを上記ディレイ手段で遅延させて上記マッチング回路部に入力し、上記マッチング回路部の出力データが一定値であるか否かにより、上記マッチング回路部の異常の有無を診断する診断手段と
    を備えることを特徴とするステレオ画像処理装置。
  2. ステレオカメラで撮像した複数枚の画像間の相関を所定のブロック毎に演算し、対応するブロック間の視差を演算するステレオ画像処理装置において、
    上記複数枚の画像のうちの一部の画像データを遅延するディレイ手段と、
    上記相関を演算するマッチング回路部に所定の診断タイミングで上記複数枚の画像のうちの一部の画像データを入力すると共に、同じ画像データを上記ディレイ手段で遅延させて上記マッチング回路部に入力し、上記マッチング回路部の出力データが一定値であるか否かにより、上記マッチング回路部の異常の有無を診断する診断手段と
    を備えることを特徴とするステレオ画像処理装置。
  3. 上記診断手段は、
    上記ディレイ手段を制御して上記遅延量を可変し、上記マッチング回路部の出力データが上記遅延量に応じた一定値であるか否かにより、上記マッチング回路部の異常の有無を診断することを特徴とする請求項1又は2記載のステレオ画像処理装置。
  4. 上記診断タイミングを、上記マッチング回路部の温度条件と上記ステレオカメラの撮像条件とシステムの動作条件との少なくとも1つに基づいて決定することを特徴とする請求項1〜の何れか一に記載のステレオ画像処理装置。
JP2007022135A 2007-01-31 2007-01-31 ステレオ画像処理装置 Expired - Fee Related JP4980089B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007022135A JP4980089B2 (ja) 2007-01-31 2007-01-31 ステレオ画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007022135A JP4980089B2 (ja) 2007-01-31 2007-01-31 ステレオ画像処理装置

Publications (2)

Publication Number Publication Date
JP2008190868A JP2008190868A (ja) 2008-08-21
JP4980089B2 true JP4980089B2 (ja) 2012-07-18

Family

ID=39751123

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007022135A Expired - Fee Related JP4980089B2 (ja) 2007-01-31 2007-01-31 ステレオ画像処理装置

Country Status (1)

Country Link
JP (1) JP4980089B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6566302B2 (ja) * 2014-07-22 2019-08-28 株式会社リコー 撮像装置、撮像装置のエラー確認方法及びプログラム
JP6458579B2 (ja) * 2014-10-27 2019-01-30 株式会社デンソー 画像処理装置
WO2018055914A1 (ja) * 2016-09-23 2018-03-29 日立オートモティブシステムズ株式会社 画像処理装置
JP2019145571A (ja) * 2018-02-16 2019-08-29 株式会社東芝 半導体装置
US10965866B2 (en) 2018-03-20 2021-03-30 Panasonic Intellectual Property Management Co., Ltd. Image generation system, image display system, image generation method, and moving vehicle
US10816979B2 (en) * 2018-08-24 2020-10-27 Baidu Usa Llc Image data acquisition logic of an autonomous driving vehicle for capturing image data using cameras
JP7550554B2 (ja) 2020-03-27 2024-09-13 住友重機械工業株式会社 画像処理システム、画像処理方法及び画像処理プログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3206256B2 (ja) * 1993-11-11 2001-09-10 日本電気株式会社 対物距離計測装置
JP3400643B2 (ja) * 1996-05-28 2003-04-28 三菱電機株式会社 車載用画像処理装置
JP3516127B2 (ja) * 1997-12-09 2004-04-05 オムロン株式会社 画像処理方法およびその装置
JP2001211466A (ja) * 2000-01-27 2001-08-03 Toshiba Corp 自己診断機能を有する画像処理システム
JP4537597B2 (ja) * 2001-02-22 2010-09-01 オリンパス株式会社 視差量測定装置
JP2006300890A (ja) * 2005-04-25 2006-11-02 Toyota Motor Corp 画像処理検査装置及び画像処理検査方法
JP4539427B2 (ja) * 2005-05-09 2010-09-08 トヨタ自動車株式会社 画像処理装置

Also Published As

Publication number Publication date
JP2008190868A (ja) 2008-08-21

Similar Documents

Publication Publication Date Title
JP4980089B2 (ja) ステレオ画像処理装置
JP6060282B2 (ja) 車載カメラ画像処理装置
JP4388909B2 (ja) 画素欠陥補正装置
JP6259132B2 (ja) 車載用カメラ装置
JP2013530466A (ja) ステレオカメラシステムの光学式自己診断
JP2008039491A (ja) ステレオ画像処理装置
US9836847B2 (en) Depth estimation apparatus, imaging device, and depth estimation method
JP6221464B2 (ja) ステレオカメラ装置、移動体制御システム及び移動体、並びにプログラム
CN102870402A (zh) 成像设备和成像方法
JP6970568B2 (ja) 車両の周辺監視装置と周辺監視方法
WO2017042998A1 (ja) 車載用ステレオカメラ装置、およびその補正方法
JP4539427B2 (ja) 画像処理装置
JP2006300890A (ja) 画像処理検査装置及び画像処理検査方法
CN107888851B (zh) 成像设备、成像系统、移动体和控制方法
JP4605582B2 (ja) ステレオ画像認識装置及びその方法
JP6039381B2 (ja) 焦点検出装置、撮像装置、撮像システム、および、焦点検出方法
JP2008042227A (ja) 撮像装置
JP4435525B2 (ja) ステレオ画像処理装置
JP2005210164A5 (ja)
JP5904886B2 (ja) 撮像装置、欠陥処理方法、欠陥処理プログラムおよび電子情報機器
JP2005210164A (ja) 欠陥画素補正装置
JP6742423B2 (ja) 画像処理装置
JP6784047B2 (ja) 監視装置、処理方法、プログラム
JP2020017824A (ja) 鉄道車両用撮像システム
WO2022080147A1 (ja) 車載カメラ装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111227

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120418

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150427

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4980089

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees