JP2016009427A - 画像処理装置、画像処理方法、機器制御システム - Google Patents
画像処理装置、画像処理方法、機器制御システム Download PDFInfo
- Publication number
- JP2016009427A JP2016009427A JP2014131215A JP2014131215A JP2016009427A JP 2016009427 A JP2016009427 A JP 2016009427A JP 2014131215 A JP2014131215 A JP 2014131215A JP 2014131215 A JP2014131215 A JP 2014131215A JP 2016009427 A JP2016009427 A JP 2016009427A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- pixels
- parallax
- shift register
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】第1の撮像手段10Rにより撮像された第1の画像と第2の撮像手段10Lにより撮像された第2の画像から視差情報を生成する画像処理装置100であって、前記第2の画像の画素又は画素ブロックを、探索幅の前記第1の画像の画素又は画素ブロックで探索して視差情報を検出する視差検出手段30と、前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトするシフト手段13、17と、を有することを特徴とする。
【選択図】図2
Description
ステレオカメラの距離レンジを近距離側に拡大することが望まれる場合がある。
まず、図1を用いて、回路規模の増大について説明する。図1(a)は8画素を探索幅とした場合の視差演算処理部30の構成例を示す図の一例である。図1は、入力される画素に対して順次視差を求める構成例を示している。
図2は、本実施形態の視差演算処理部30の概略的な構成図の一例である。本実施形態の視差演算処理部30は、探索幅は変更することなく、走査する画像領域などの条件に応じて、比較画像の探索範囲をシフトすることが特徴の1つとなっている。
図3は、4つのステレオカメラ10の搭載位置を模式的に示す図の一例である。複数のステレオカメラ10を区別するため、ステレオカメラの符号を1〜4とした。ステレオカメラ1は前方に、ステレオカメラ2は右側方に、ステレオカメラ3は左側方に、ステレオカメラ4は後部に、それぞれ配置されている。ステレオカメラ1は、室内ルームミラーや車両前部バンパに、車両前方のやや水平下向きに光軸を向けて配置される。ステレオカメラ2は、例えば、右ドアミラー、車両右側面のドアノブ設置部分の窪み、ドアウィンドウのフレーム、Aピラー、Bピラー又はCピラーなどに、車両右側方、車両右側方よりもやや後方又は車両右側方よりもやや前方に光軸を向けて配置される。ステレオカメラ3は、例えば、左ドアミラー、車両左側面のドアノブ設置部分の窪み、ドアウィンドウのフレーム、Aピラー、Bピラー又はCピラーなどに、車両左側方、車両左側方よりもやや後方又は車両左側方よりもやや前方に光軸を向けて配置される。ステレオカメラ4は、後部ナンバープレートの周辺や、後部バンパなどに配置されている。
<探索範囲の変更>
次に、図8を用いて探索範囲のシフトについて説明する。図8は、視差演算処理部30の探索範囲のシフトを説明する図の一例である。
図9は、視差演算処理部30の探索範囲のシフトを説明する別の図の一例である。図9では、視差演算処理部30は、図8に対し8画素分の第3シフトレジスタ19を有している。また、第2シフトレジスタ13とシフトレジスタ12の間のセレクタは不要になり、シフトレジスタ12と第3シフトレジスタ19の画素を切り替える第2セレクタ18が設けられている。第2セレクタ18は、シフトレジスタ12と第3シフトレジスタ19の対応する記憶素子ごとに、シフトレジスタ12と第3シフトレジスタ19のいずれかを視差演算器15と接続する。
次に、探索範囲設定部50の探索範囲の設定動作について説明する。距離情報を利用したアプリケーションによっては、視差を求める画像領域に応じて遠距離側又は近距離側のみの情報が得られれば良い場合が多い。よって、画像領域などの条件に応じて探索範囲を切り替えることで、回路を増大させずに画像全体としての測距レンジを拡大できる。
図12は、画像処理ICが視差を検出する手順を示すフローチャート図の一例である。図12のフローチャート図では画像データの下方の画像領域で近距離の探索範囲が設定されている場合を例にしている。
S1:ステレオカメラ10は基準画像と比較画像を撮像し画像処理IC100に入力する。なお、探索範囲設定部50は画像の入力前に、近距離又は遠距離の少なくとも一方の探索範囲を設定している。
S2:視差演算処理部30は、視差の計測対象の画素が画像データの下方領域112に含まれるか否かを判定する。
S3:ステップS2の判定がNoの場合、視差演算処理部30は探索範囲を遠距離側に切り替える(又は遠距離側のままとする)。
S4:ステップS2の判定がYesの場合、視差演算処理部30は探索範囲を近距離側に切り替える(又は近距離側のままとする)。
S5:視差演算処理部30は視差を演算する。なお、視差演算処理部30は、整数単位の視差とサブピクセル単位の視差を求め、両者の合計を視差dとする。整数単位の視差は、探索範囲で相関が最も良くなる(相関値が最も小さい)演算結果を出力した視差演算器C0〜C7により求められる。サブピクセル単位の視差は、最も小さい相関値とその前後のいくつかの相関値を取得して、等角直線フィッティング、パラボラフィッティング、高次多項式推定(4次)、又は、高次多項式推定(6次)などの演算方法で算出する。
S1:ステレオカメラ10は基準画像と比較画像を撮像し画像処理ICに入力する。なお、探索範囲設定部50は画像の入力前に、近距離又は遠距離の少なくとも一方の探索範囲を設定している。
S2:視差演算処理部30は、視差の検出対象の画素が画像の右領域又は左領域に含まれるか否かを判定する。ステップS2の判定がYesの場合、処理はステップS5に進む。
S3:ステップS2の判定がNoの場合、視差演算処理部30は、前のサイクルの画像の右領域又は左領域に路面よりも近距離の対象が検出されたか否かを判定する。
S4:ステップS3の判定がNoの場合、中央領域には遠方の対象しか存在しないと判断して、視差演算処理部30は、探索範囲を遠距離側に切り替える(又は遠距離側のままとする)。
S5:ステップS2、3の判定がYesの場合、視差演算処理部30は、探索範囲を近距離側に切り替える(又は近距離側のままとする)。これにより、ステップS2のNo,S3のYesの場合に、直前のサイクルの画像により次のサイクルの画像において近距離と遠距離の探索範囲を切り替えることができる。
20 ステレオ画像校正部
30 視差演算処理部
40 視差データ記憶部
50 探索範囲設定部
100 画像処理IC
700 ステレオカメラシステム
1000 車載システム
Claims (9)
- 第1の撮像手段により撮像された第1の画像と第2の撮像手段により撮像された第2の画像から視差情報を生成する画像処理装置であって、
前記第2の画像の画素又は画素ブロックを、探索幅の前記第1の画像の画素又は画素ブロックで探索して視差情報を検出する視差検出手段と、
前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトするシフト手段と、
を有することを特徴とする画像処理装置。 - 前記シフト手段は、前記探索幅の前記第1の画像の画素又は画素ブロックが、視差の検出対象となるまでの時間を遅延させることで、前記探索幅の前記第1の画像の画素又は画素ブロックを前記第2の画像の画素又は画素ブロックに対しシフトする、
ことを特徴とする請求項1記載の画像処理装置。 - 前記視差検出手段は、
前記探索幅の前記第1の画像の画素又は画素ブロックを記憶するシフトレジスタと、
前記第1の画像の画素又は画素ブロックが前記シフトレジスタに出力される第1の経路と、
前記第1の画像の画素又は画素ブロックが第2のシフトレジスタを経由して前記シフトレジスタに出力される第2の経路と、
前記第1の経路と前記第2の経路のいずれかを前記シフトレジスタに接続する切替手段と、を有し、
前記切替手段は、前記第2の経路を前記シフトレジスタに接続することで、前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトする、ことを特徴とする請求項1又は2記載の画像処理装置。 - 前記視差検出手段は、
前記探索幅の前記第1の画像の画素又は画素ブロックを記憶するシフトレジスタと、
前記探索幅の前記第1の画像の画素又は画素ブロックを記憶する第3のシフトレジスタと、
前記シフトレジスタの手前に設けられ前記第1の画像の画素又は画素ブロックを記憶する第2のシフトレジスタと、
前記シフトレジスタの各記憶素子又は前記第3のシフトレジスタの各記憶素子のどちらかを、視差演算器と接続する第2の切替手段と、を有し、
前記第2の切替手段は、前記シフトレジスタの各記憶素子を前記視差演算器に接続することで、前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトする、
ことを特徴とする請求項1又は2記載の画像処理装置。 - 前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトする画像領域を設定する画像領域設定手段を有し、
前記シフト手段は、視差情報が求められる画素が前記画像領域に含まれる場合、前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトする、ことを特徴とする請求項1〜4いずれか1項記載の画像処理装置。 - 前記視差検出手段が、前記画像領域で、閾値未満の距離の対象を検出した場合、
前記シフト手段は、次のサイクルで入力された前記第1の画像と前記第2の画像に対し、視差情報が求められる画素が前記画像領域でない領域に含まれる場合でも、前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトする、ことを特徴とする請求項5記載の画像処理装置。 - 前記第1の画像の画素及び前記第2の画像の画素が入力されるごとに、
前記視差検出手段は、前記探索幅の前記第1の画像の画素又は画素ブロックと、前記第2の画像の画素又は画素ブロックとの相関値を並列に演算し、
前記探索幅の数の相関値のうち最も相関がよい前記第1の画像の画素又は画素ブロックの位置に基づき視差情報を演算する、
ことを特徴する請求項1〜6いずれか1項記載の画像処理装置。 - 第1の撮像手段により撮像された第1の画像と第2の撮像手段により撮像された第2の画像から視差情報を生成する画像処理方法であって、
視差検出手段が、前記第2の画像の画素又は画素ブロックを、探索幅の前記第1の画像の画素又は画素ブロックで探索して視差情報を検出するステップと、
シフト手段が、前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトするステップと、
を有することを特徴とする画像処理方法。 - 撮像手段により撮像した画像を処理して機器の制御を行う機器制御システムであって、
第1の画像を撮像する第1の撮像手段及び第2の画像を撮像する第2の撮像手段と、
前記第2の画像の画素又は画素ブロックを、探索幅の前記第1の画像の画素又は画素ブロックで探索して視差情報を検出する視差検出手段と、
前記探索幅の前記第1の画像の画素又は画素ブロックを、前記第2の画像の画素又は画素ブロックに対しシフトするシフト手段と、
を有することを特徴とする機器制御システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014131215A JP6435660B2 (ja) | 2014-06-26 | 2014-06-26 | 画像処理装置、画像処理方法、機器制御システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014131215A JP6435660B2 (ja) | 2014-06-26 | 2014-06-26 | 画像処理装置、画像処理方法、機器制御システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016009427A true JP2016009427A (ja) | 2016-01-18 |
JP6435660B2 JP6435660B2 (ja) | 2018-12-12 |
Family
ID=55226919
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014131215A Active JP6435660B2 (ja) | 2014-06-26 | 2014-06-26 | 画像処理装置、画像処理方法、機器制御システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6435660B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017162265A (ja) * | 2016-03-10 | 2017-09-14 | 日本電気株式会社 | 誤差演算装置 |
JP2018078517A (ja) * | 2016-11-11 | 2018-05-17 | 株式会社東芝 | 処理装置、撮像装置、及び自動制御システム |
JP2020020657A (ja) * | 2018-07-31 | 2020-02-06 | 株式会社リコー | ステレオカメラ装置、ステレオカメラシステム、及び移動体 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10334244A (ja) * | 1997-06-04 | 1998-12-18 | Matsushita Electric Ind Co Ltd | ステレオマッチング装置 |
JP2013178664A (ja) * | 2012-02-28 | 2013-09-09 | Fuji Heavy Ind Ltd | 車外環境認識装置 |
-
2014
- 2014-06-26 JP JP2014131215A patent/JP6435660B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10334244A (ja) * | 1997-06-04 | 1998-12-18 | Matsushita Electric Ind Co Ltd | ステレオマッチング装置 |
JP2013178664A (ja) * | 2012-02-28 | 2013-09-09 | Fuji Heavy Ind Ltd | 車外環境認識装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017162265A (ja) * | 2016-03-10 | 2017-09-14 | 日本電気株式会社 | 誤差演算装置 |
JP2018078517A (ja) * | 2016-11-11 | 2018-05-17 | 株式会社東芝 | 処理装置、撮像装置、及び自動制御システム |
JP2020020657A (ja) * | 2018-07-31 | 2020-02-06 | 株式会社リコー | ステレオカメラ装置、ステレオカメラシステム、及び移動体 |
JP7180177B2 (ja) | 2018-07-31 | 2022-11-30 | 株式会社リコー | ステレオカメラシステム、移動体及びステレオカメラ装置の形成方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6435660B2 (ja) | 2018-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6417729B2 (ja) | 画像処理装置、画像処理方法、プログラム、視差データの生産方法、機器制御システム | |
JP6202367B2 (ja) | 画像処理装置、距離測定装置、移動体機器制御システム、移動体及び画像処理用プログラム | |
JP6197291B2 (ja) | 複眼カメラ装置、及びそれを備えた車両 | |
JP6137081B2 (ja) | 車載機器 | |
JP6565188B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
US20170357863A1 (en) | Object detection apparatus and object detection method | |
JP6209825B2 (ja) | 視差検出装置、視差検出方法 | |
JP2011013064A (ja) | 位置検出装置 | |
WO2016063545A1 (ja) | ステレオカメラ装置及びステレオカメラ装置を備える車両 | |
US9813694B2 (en) | Disparity value deriving device, equipment control system, movable apparatus, robot, and disparity value deriving method | |
EP3470780A1 (en) | Object distance detection device | |
JP2013174494A (ja) | 画像処理装置、画像処理方法、及び車両 | |
JP6337504B2 (ja) | 画像処理装置、移動体、ロボット、機器制御方法およびプログラム | |
JP6435660B2 (ja) | 画像処理装置、画像処理方法、機器制御システム | |
JP6564127B2 (ja) | 自動車用視覚システム及び視覚システムを制御する方法 | |
JP2013161190A (ja) | 物体認識装置 | |
JP5821408B2 (ja) | 画像処理方法、ステレオカメラシステム | |
JP2006236094A (ja) | 障害物認識システム | |
JP2014130429A (ja) | 撮像装置及び立体物領域検出用プログラム | |
JP6899673B2 (ja) | 物体距離検出装置 | |
JP2019053685A (ja) | 画像処理装置 | |
JP2006072757A (ja) | 物体検出装置 | |
JP6891082B2 (ja) | 物体距離検出装置 | |
JP2013161187A (ja) | 物体認識装置 | |
JP4900377B2 (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170607 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180510 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180515 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180717 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181016 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181029 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6435660 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |