JP2014503408A - ステレオセンサシステムにおける、画像検出に適した2つのセンサの画像情報の処理方法および装置 - Google Patents
ステレオセンサシステムにおける、画像検出に適した2つのセンサの画像情報の処理方法および装置 Download PDFInfo
- Publication number
- JP2014503408A JP2014503408A JP2013542435A JP2013542435A JP2014503408A JP 2014503408 A JP2014503408 A JP 2014503408A JP 2013542435 A JP2013542435 A JP 2013542435A JP 2013542435 A JP2013542435 A JP 2013542435A JP 2014503408 A JP2014503408 A JP 2014503408A
- Authority
- JP
- Japan
- Prior art keywords
- sensor
- image information
- image
- line
- stereo
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Image Input (AREA)
- Image Analysis (AREA)
Abstract
本発明は、ステレオセンサシステムにおける画像検出に適した2つのセンサ(201,203)の画像情報の処理方法に関する。各センサ(201,203)は、画像情報を、各センサ(201,203)の種々の位置に配置されたセンサ部分において部分ごとに検出するように構成されている。本発明の方法は、それぞれ対応する画像情報(105)を有する第1および第2のセンサ(201,203)の2つのセンサ部分の各位置間の幾何学的ずれ(107)に関する情報(807)を形成するステップと、第1および第2のセンサ(201,203)の画像情報を、これらが読み出されるセンサ部分の位置に関連して、幾何学的ずれ(107)を用いて読み出す(861)ステップとを含む。
Description
本発明は、車両内で使用されるステレオセンサシステムにおける、画像検出に適した2つのセンサの画像情報の処理方法および装置に関する。
ステレオビデオ画像処理は、運転支援システム、ロボティクスおよびその他のオートメーション技術のアプリケーションにおける環境検出にとっていよいよその重要性が増している。ステレオビデオシステムによって、その検出領域におけるオブジェクトの空間的位置が求められ、これにより例えばドライバーアシストシステムにおいて歩行者を識別することができるようになる。
ディジタル画像からのステレオ測定は、画像処理の教科書(例えば、Trucco&Verrri, Introductory techniques for 3-D Computer Vision, Springer Verlag, 1998)に説明されている。ステレオ測定の基礎は、左方センサと右方センサとの間の対応する画像部分を探索し、光学結像およびセンサの幾何学的配置を考慮して、各画像部分の3D再構成を行うことにある。
対応する画像部分の探索を簡単化するために画像調整がしばしば行われる。この画像調整により、対応する画像部分の探索を画像ラインに沿って行うことができる。
国際公開第02/095681号には、カメラ光学装置によって歪んでしまったソース画像を、テーブルの形態の結像プロトコルを用いて、歪みのない目標画像へ移行させる方法が記載されている。ただし、この場合、ソース画像の各ソースピクセルと目標画像の1つまたは複数の目標ピクセルとが対応していない。
発明の開示
こうした背景技術から出発して、本発明では、独立請求項に記載されている、ステレオセンサシステムにおける画像検出に適した2つのセンサの画像情報の処理方法、この方法を利用した画像処理装置、および、相応のコンピュータプログラム製品を提供する。有利な実施形態は従属請求項および以下の説明から得られる。
こうした背景技術から出発して、本発明では、独立請求項に記載されている、ステレオセンサシステムにおける画像検出に適した2つのセンサの画像情報の処理方法、この方法を利用した画像処理装置、および、相応のコンピュータプログラム製品を提供する。有利な実施形態は従属請求項および以下の説明から得られる。
ステレオセンサシステムの2つのセンサで得られた各記録画像は、典型的には、幾何学的ずれを有する。つまり、センサによって検出された現実のオブジェクトの像が記録画像内の異なる幾何学的位置に見出される。本発明では、この幾何学的ずれに関する情報を用いて、一方ではセンサによる画像情報の検出が最適化され、他方ではセンサからの画像情報の読み出しが最適化される。読み出しに関しては、幾何学的ずれが既知となれば、センサの異なる部分を同時に読み出すことができる。このため、各センサの同じ部分が同時に読み出される公知の方法に比べて、読み出されたデータをさらなる処理のために一時記憶しておくバッファメモリの大きさを小さくできる。また、さらなる処理を加速することもできる。画像情報の検出に関しては、幾何学的ずれが既知となれば、各センサの種々の部分を、画像情報の検出のために同時に駆動することができる。この場合、ずれのない画像情報もしくは少なくともずれの低減された画像情報を複数のセンサで同時に形成できるという利点が得られる。
本発明のアプローチは有利にはステレオビデオシステムを用いた3Dステレオ測定に対するハードウェアベースの方法で用いられる。
特に、ステレオビデオシステムのビデオセンサの最適な読み出し方法が実現される。この場合、例えば右方の画像センサおよび左方の画像センサの読み出しが較正情報に依存して行われる。例えば、各画像センサは、較正過程において求められたラインずれに基づいて時間的なラインずれをともなって読み出される。また、画像センサでは、左方カメラおよび右方カメラにおいて較正過程で生じるラインずれに基づいて、センサの種々の部分、いわゆる関心領域ROIが読み出される。ここから得られる利点として、ステレオ測定ハードウェアの入力バッファの必要サイズが低減されること、および、ステレオ測定にローリングシャッタセンサが使用される場合の3D測定誤差が低減されることが挙げられる。
本発明は、ステレオセンサシステムにおける、画像検出に適した2つのセンサの画像情報の処理方法であって、各センサが、複数の画像情報を、各センサの種々の位置に配置された複数のセンサ部分において部分ごとに検出するように構成されている方法に関する。本発明の方法は、それぞれ対応する画像情報を有する、第1のセンサおよび第2のセンサの2つのセンサ部分の各位置間の幾何学的ずれに関する情報を形成するステップと、各画像情報が読み出されるセンサ部分の位置に関連して、幾何学的ずれを用いて、第1のセンサの画像情報および第2のセンサの画像情報を読み出すステップとを含む。
ステレオセンサシステムは2つのビデオセンサを備えたステレオビデオシステムである。ステレオビデオシステムにより、各センサの検出領域におけるオブジェクトの空間的位置が求められる。ステレオセンサシステムは例えば車両の運転支援システムに対する情報を形成する。各センサは、センサによって検出される現実の環境を結像する画像情報を、部分ごと、例えばラインごとに検出する。各画像情報は1つまたは複数の輝度値を含む。したがって、センサ部分とは、ラインであり、センサ部分の位置とはライン番号である。複数のセンサはそれぞれ同様に構成され、センサ部分の個数および配置に関して同形式で設けられる。このため、2つのセンサ部分はセンサ内部の位置に関して2つのセンサに相当する。
各センサ部分は複数のピクセルを有する。各ピクセルはセンサによって検出された環境の所定の領域を結像する画像情報を含む。個々のセンサ部分は複数の画像情報を同時に、または、時間的に連続して検出することができる。幾何学的ずれに関連して、対応する画像情報とは、センサによって検出される環境のうち同じ領域もしくはほぼ同様の領域を結像する画像情報であると理解されたい。よって、対応する画像情報は画像内容に関して対応する。幾何学的ずれに関する情報は、較正過程において求められた情報を表す。各情報はメモリに格納され、そこから読み出される。幾何学的ずれは、対応する画像情報を有するピクセルを含む2つのセンサ部分の各位置間の差を定める。第1のセンサのセンサ部分の位置に基づき、位置ずれ量を用いて、第1のセンサのセンサ部分に対応する画像情報を含む第2のセンサのセンサ部分の位置が求められる。各センサ部分がラインごとに配置されている場合、位置ずれ量はラインの本数を表す。
第1のセンサおよび第2のセンサの画像情報は直接にセンサもしくはバッファメモリから読み出される。なお、第1のセンサおよび第2のセンサの画像情報は共通の読み出しステップにおいて読み出すことができる。例えば、第1のセンサの画像情報を読み出す直前、またはこれと同時、またはその直後に、第2のセンサの画像情報を読み出すことができる。このように、1回の読み出しステップで、2つのセンサの異なる位置から画像情報が読み出される。したがって、読み出しにより、画像情報間の対応づけが行われる。読み出された画像情報は直接に処理されてもよいし、さらなる処理のためにバッファメモリに一時記憶されてもよい。例えば、画像内容に関して対応する、読み出された画像情報に基づいて、ステレオ測定を行うことができる。
有利な実施形態では、本発明の方法は幾何学的ずれを求めるステップを含む。幾何学的ずれは、第1のセンサのセンサ部分の画像情報と第2のセンサのセンサ部分の画像情報との間の比較に基づいて求められる。比較により、対応する画像内容を含むセンサ部分が求められ、これらのセンサ部分間の方向距離が幾何学的ずれとして記憶される。幾何学的ずれは1回のみ求められてもよいし、連続して、または、例えばステレオビデオシステムの使用開始ごとに求められてもよい。
読み出しステップでは、第1のセンサの画像情報が第1のセンサ部分のみから読み出され、第2のセンサの画像情報が第2のセンサ部分のみから読み出される。ここで、第1のセンサ内での第1のセンサ部分の配置は第2のセンサ内での第2のセンサ部分の配置に対して異なっている。第1のセンサ部分と第2のセンサ部分とは同じ大きさを有することができる。有利には、第1のセンサ部分と第2のセンサ部分とは対応する画像内容を含む。理想的には、読み出されたセンサ部分は、続くステップで、画像調整を必要とすることなく、直接に処理可能となる。
この場合、本発明の方法は、第1のセンサ部分内の第1のピクセルと第2のセンサ部分内の第2のピクセルとの間の移動量を求め、第1のピクセルと第2のピクセルとを検出された画像情報に関して相互に対応させるステップを含む。ここで、第1のセンサ部分の第1の領域は第2のセンサ部分の第2の領域に対して移動量の値だけシフトされる。このようにすれば、2つのセンサの対応するセンサ部分内で、画像情報に関して対応する領域間のずれを求めることができる。
別の有利な実施形態では、本発明の方法は、第1のセンサの第1の位置に配置されたセンサ部分によって第1のセンサの画像情報の検出をトリガするように構成された第1のトリガ信号を形成するステップと、第1のトリガ信号を形成するステップの時間的後または時間的前に、第2のセンサの第1の位置に配置されたセンサ部分によって第2のセンサの画像情報の検出をトリガするように構成された第2のトリガ信号を形成するステップとを含む。このように、読み出しの連続ステップで一緒に読み出される、対応するそれぞれの画像情報を種々の時点で検出できる。ただし、この場合、検出された画像情報の一時記憶が必要である。
これに代えて、本発明の方法が、第1のセンサの第1の位置に配置されたセンサ部分による第1のセンサの画像情報と、第1の位置に対してずれを生じている第2のセンサの第2の位置に配置されたセンサ部分による第2のセンサの画像情報との同時検出をトリガするように構成されている1つのトリガ信号を形成するステップを含む構成であってもよい。このようにすれば、読み出しの連続ステップで一緒に読み出される、対応するそれぞれの画像情報を同時に検出できる。この場合には検出された画像情報を一時記憶する必要はない。
別の有利な実施形態では、読み出しステップにおいて、第1のセンサの画像情報が第1のセンサの1つのラインから読み出され、第2のセンサの画像情報が第2のセンサの1つのラインから読み出される。ここでは幾何学的ずれは第2のセンサのラインのライン番号と第1のセンサのラインのライン番号との差として求められる。
また、本発明の方法が、第1のセンサの別の画像情報および第2のセンサの別の画像情報を読み出す少なくとも1つの別のステップを含み、当該別のステップでの読み出しを、当該別の画像情報が読み出される別のセンサ部分の別の位置に関連して、幾何学的ずれを用いて行ってもよい。このようにすれば、そのつどずれをともなって配置される画像情報を連続的に2つのセンサから読み出すことができる。例えば、読み出しステップのたびに、センサごとに、先行の読み出しステップで読み出されたセンサ部分に直接に接するセンサ部分から画像情報を読み出すことができる。
本発明は、さらに、ステレオセンサシステムにおける、画像検出に適した2つのセンサの画像情報の処理装置であって、複数の画像情報を、センサの種々の位置に配置された複数のセンサ部分において部分ごとに検出するように構成されている装置に関する。本発明の処理装置は、それぞれ対応する画像情報を有する、第1のセンサおよび第2のセンサの2つのセンサ部分の各位置間の幾何学的ずれに関する情報を形成する情報形成装置と、第1のセンサの画像情報および第2のセンサの画像情報を読み出す読み出し装置とを備え、ここで、読み出しは、画像情報が読み出されるセンサ部分の位置に関連して、幾何学的ずれを用いて行われることを特徴とする。
本発明の装置の形式の実施形態により、本発明の基礎となる課題を迅速かつ効率的に解決することができる。本発明の装置は、ステレオセンサシステムの一部もしくは後置接続される処理ユニットの一部であってよい。ここでの装置とは、センサ信号を処理し、これに基づいて制御信号を出力する電気機器であると理解されたい。こうした装置はハードウェアおよび/またはソフトウェアとして構成可能なインタフェースを含む。ハードウェアとしての構成では、インタフェースは、例えば、装置の種々の機能を含むいわゆるシステムASICの一部であることができる。また、インタフェースが適切な集積回路もしくは少なくとも部分的に個別の回路素子から成っていてもよい。ソフトウェアとしての構成では、インタフェースは例えば他のソフトウェアと並んでマイクロコントローラ上に設けられるソフトウェアモジュールとして実現できる。
有利には、本発明は、プログラムがコンピュータに相応する機器で実行される際に、機械的に読み出し可能な担体、例えば半導体メモリ、固体ディスクメモリ、光学メモリなど上に記憶された、前述の形態の方法を実行するためのプログラムコードを含む、コンピュータプログラム製品であってよい。
本発明の有利な実施例を図示し、以下に詳細に説明する。なお、複数の実施例を複数の図に示してあるが、各図中、同一の素子もしくは同様の機能を有する素子には同じ参照番号を付し、繰り返しての説明は省略する。
図1には、画像調整をともなうステレオ測定の基本方式が示されている。ここには、ステレオ画像検出システムの左方センサのオリジナルセンサ画像101と右方センサのオリジナルセンサ画像103とが示されている。オリジナルセンサ画像101は左方のビデオ画像であり、オリジナルセンサ画像103は右方のビデオ画像である。オリジナルセンサ画像101,103のそれぞれにおいて車両の形態のオブジェクトが識別される。当該車両は各オリジナルセンサ画像101,103でそれぞれ異なる位置にある。このため、オブジェクト、例えば車両の右上方コーナー領域105の対応領域間に、ラインずれ107が生じている。よって、オリジナルセンサ画像101,103には、同じ画像ラインでのステレオ対応部109は存在しない。
画像調整110により、オリジナルセンサ画像101から第1の調整画像111が形成され、オリジナルセンサ画像103から第2の調整画像113が形成される。調整画像111,113では、車両の右上方コーナー領域105は同じラインに位置しているので、同じ画像ラインでのステレオ対応部109が存在する。
図2には、ステレオ測定のためのハードウェアの基本構造が示されている。ここには2つの画像センサ201,203が示されている。画像センサ201は左方の画像センサであり、画像センサ203は右方の画像センサである。画像センサ201の画像情報は、左方センサのシリアル線路221を介して、左方の入力バッファ222から、続いて左方の画像調整論理回路223へ、さらに調整画像に対する左方のラインバッファ224へ供給される。調整により車両の位置が変更される。画像センサ203の画像情報は、右方センサのシリアル線路231を介して、右方の入力バッファ232から、続いて右方の画像調整論理回路233へ、さらに調整画像に対する右方のラインバッファ234へ供給される。調整により車両の位置が変更される。ラインバッファ224,234からのデータは不均衡性測定のための論理回路240へ供給される。この論理回路240は3D座標242を形成するように構成されている。
ハードウェア支援型のリアルタイムステレオ測定では、一般に、オリジナルセンサ画像101,103の画像調整すなわち歪み除去が行われて調整画像111,113が得られる。続いて、調整画像111,113では、左方画像と右方画像との間の特徴の対応探索が1つの画像ラインに沿って行われる。これはハードウェア、例えばFPGAもしくはASICでの実行にとって有利である。図1にはこのフローが概略的に示されている。
ステレオ測定のハードウェア、例えばFPGAでのビデオ画像データの処理は、ラインごとにシーケンシャルに編成される。図2には相応のハードウェアの概略的構造が示されている。
各センサ201,203に対して1つずつシリアルデータ線路221,231が存在しており、このシリアルデータ線路はカメラ画像データすなわち輝度値をセンサ201,203から例えばLVDS(ローボルテージディファレンシャルシグナリング)を含む評価ハードウェアへ伝送する。評価ハードウェアには、制限された数の入力画像ラインを一時記憶する入力バッファ222,232が設けられている。画像調整論理回路223,233は入力バッファ222,232から画像情報を個別に読み出し、調整画像情報を形成する。これらは次のデータ用ラインバッファ224,234にラインごとに格納される。左方カメラ画像および右方カメラ画像の調整画像データを含むラインバッファ224,234のライン間でステレオ測定が行われ、最終的に3D再構成が形成される。
ステレオカメラシステムの機械的アセンブリでは、実際には、各カメラの相互の配向状態の精度が制限されている。このため、特に、あらかじめのステレオカメラシステムの較正、すなわち、カメラ相互の幾何学的位置の決定を行い、光学的に記録しておくことが、有意なステレオ測定のために必要となる。画像調整により、評価中に較正情報を使用して、位置および結像誤差が補償される。
最近のステレオビデオシステムでは、通常、左方カメラおよび右方カメラの画像が時間同期されて記録され、ダイナミックに運動するオブジェクトの正確なステレオ測定が可能となっている。また、このことに関連して、左方センサおよび右方センサの画像ラインをステレオ測定用の処理ハードウェアへ時間同期されて連続輸送することも行われている。
これは、図2の連続処理において、左方カメラと右方カメラとの間の幾何学的位置に差がある場合、図1に示されているように、対応するラインにずれが生じることを意味する。このラインずれは歪み除去ハードウェアにおいて必要となる入力バッファを増大させる。当該バッファメモリはFPGAの実現形態では高価なので、好ましくない。
本発明のアプローチによれば、ハードウェアの入力バッファに必要なメモリを低減できる。
画像記録のためにローリングシャッタモードを有するCMOSセンサが用いられる場合、各ラインに対する画像記録は種々の時点で行われる。このことは図6,図7に概略的に示されている。カメラの実装状態に機械的不都合があってラインずれが大きくなっている場合、ステレオ測定に必要な各対応特徴が種々の時点で記録される。これは特に、高速で移動する車両でのステレオ測定において、画像内の画像特徴の迅速な運動のために左方の画像ラインと右方の画像ラインとの対応測定に誤りをもたらす。
本発明のアプローチによれば、ステレオ測定にローリングシャッタセンサを使用すると、対応する画像特徴の測定における時間ずれが低減され、3Dステレオ測定の誤りも低減される。複数の点特徴およびそれらの対応関係をステレオ測定する方法は、図1に概略的に示されており、特にここにはステレオ画像対に対する過程が示されている。
上方のステレオ画像対201,203はカメラによる記録後のオリジナル画像対を示している。カメラの実装および光学記録による機械的不精確性のために、結像されている車両リア面において対応するはずのコーナー領域105はライン数本分ずれている。ラインずれ107は概略的にグラフィック表示されている。
オリジナル画像101,103につきカメラシステムごとに専用かつ個別に求められた較正パラメータを用いて画像調整110を行った後は、それぞれ1つの画像ライン内に左方調整画像111および右方調整画像113内の対応する画像特徴105が存在する。ここで、1つのラインでの対応探索が可能となり、これにより計算ハードウェアのリアルタイム手段の実現がいちじるしく簡単化される。ステレオビデオシステムのハードウェアの構造は図2に示されている。
2つの画像センサ201,203から、そのつど画像内容が連続的に読み出され、ハードウェアの各入力バッファ222,232へ一時記憶される。入力バッファ222,232は複数の画像ラインに対するメモリから形成されており、入力画像の一部を含む。
画像調整論理回路223,233は、ラインごとに、調整のためのラインバッファ224,234を連続的に充填する。次の論理回路240は左方のラインバッファ224と右方のラインバッファ234との間でラインごとのステレオ測定を行い、移動量測定値を形成する。ここから画像特徴の3D座標242が導出される。
機械的な製造差のために、ステレオシステムの実装精度は制限されている。アライメントされていないステレオカメラシステムではラインずれが不可避である。画像センサ201,203の同期読み出しを行う図2のハードウェアコンセプトでは、ラインずれは相応のラインずれ分だけハードウェア内の入力バッファ222,232を必然的に増大させる。しかし、本発明によれば、画像センサ201,203が時間シフトをともなって読み出されることにより、入力バッファ222,232の大きさを低減できる。時間シフトの制御は較正情報に依存して行われる。
図3,図4には、図2に示されているカメラ線路221,231での読み出しのフローが概略的に示されている。
図3には、左方画像センサおよび右方画像センサのライン同期した読み出しの際の、シリアルデータ線路上の各センサの信号の特性が示されている。上方の特性は左方画像センサに対応し、下方の特性は右方画像センサに対応する。時間tに関して、左方画像センサおよび右方画像センサの第1のライン351,第2のライン352,第3のライン353…の画像情報がそれぞれ同時に読み出され、シリアルデータ線路を介して伝送される。各ライン351,352,353は複数の輝度値356を有するが、わかりやすくするために、ライン351の最初の2つの輝度値のみが示されている。
ステレオ評価ハードウェアへデータを読み込む通常の動作が概略的に示されている。2つのセンサはクロック同期されて順次に読み出される。そのつど左方および右方のセンサからの同じラインが時間同期されて線路上を伝送される。
図4には、図3に相応に、本発明の実施例において、較正情報にしたがって画像センサの時間シフトされた読み出しが行われる場合の、画像センサ読み出し時のシリアルデータ線路上の信号の特性が示されている。上方の特性は左方センサに対応し、下方の特性は右方センサに対応する。時間tに関して、左方センサの第1のライン351,第2のライン352,第3のライン353,…が読み出され、これと同時に、右方センサのj番目のライン451,j+1番目のライン452,j+2番目のライン453,…が読み出される。或る読み出しステップではライン351,451が読み出され、次の読み出しステップではライン352,452が読み出され、さらに次の読み出しステップではライン353,453が読み出される。
ここに図示されているのは本発明による最適な手法である。幾何学的に近似に対応するラインが時間同期されて画像センサから伝送される。どのラインが近似に相互に対応するかが較正情報から計算され、センサ構造ごとに個別に対応づけられる。時間シフトの制御はハードウェアそのものによって行われる。これにより入力バッファの大きさを低減できる。
図5には、本発明の実施例にしたがって、較正情報に応じたステレオ測定のために、左方画像センサ201および右方画像センサ203から領域501,503が読み出される様子が示されている。領域501,503は同じ大きさであるが、センサ201,203の異なるセンサ領域をカバーしている。この場合、領域501,503はセンサ201,203の或るラインに関して相互にずれている。つまり、左方画像センサ201の領域501に対して、右方画像センサ203の領域503は距離507だけ上方へずれている。この場合、距離507はライン数を表している。さらに、領域501,503はセンサ201,203のカラムに関しても相互にずれていることがある。領域501,503内では、対応する画像内容105が各領域501,503内の同一もしくはほぼ等しい位置に配置される。
複数のCMOSセンサにより、画像センサ201,203の領域501,503を選択的に読み出すことができる。これにより、ステレオ測定に対して、較正データに基づいて、左方画像センサ201および右方画像センサ203の各領域を所望に応じて個別に、左方画像および右方画像における領域501,503間のずれがきわめて小さくなるかもしくは全く生じなくなるように選定できる。
このようにすれば、ステレオハードウェアの入力バッファの大きさも低減できる。相応の手法が図5に概略的に示されている。
ローリングシャッタセンサが用いられる場合、撮像装置のラインは時間的に連続して露光され、読み出される。このことは図6,図7に概略的に示されている。
図6には、ローリングシャッタセンサによる撮像の時間フローが概略的に示されている。ここでは、左方画像センサと右方画像センサとにより、時間同期した記録が行われる。
ここでは、左方画像センサ201および右方画像センサ203のそれぞれによって車両のコーナー領域105が検出されることが示されている。コーナー領域105は距離107すなわちライン数本分ずれている。左方センサ201および右方センサ203の同期露光および同期読み出しが行われることが示されている。さらに、記録時点t0,t1および時間差dtと、左方画像センサ201および右方画像センサ203の同期露光および同期読み出しとが示されている。ラインごとの露光は時点t0で開始され、続いて、センサ201,203のラインが順次に露光されて読み出される。このことは各画像の左側の矢印によって表される。
これにより、図1に示されているような幾何学的ラインずれを利用するステレオ構造のために、左方画像の図示されている画像特徴105が右方画像よりも時間dtだけ遅れて記録される。
これは、実際には次のことを意味する。すなわち、画像周波数25Hz,分解能500ラインで、画像ラインごとのクロック時間が約80μsとなる。ラインずれがライン20本分である場合、左方のラインと右方のラインとの間の露光の時間ずれは約1.6μsとなる。特に、画像内に迅速に運動するオブジェクトが存在する場合、例えば、近傍領域に他車両が存在する場合、画像ごとに25ピクセルのオブジェクトの垂直運動速度が調整画像における1ピクセルの視差を生じさせる。つまり、ダイナミックに変化するオブジェクトの対応特徴105は調整後にもライン1本分ずれている。このためステレオ測定は困難となる。
図7には、図6に相応に、ローリングシャッタセンサによる画像記録の時間フローの概略図が示されている。ここでは、時間シフトをともなうシャッタモードが本発明の実施例にしたがって実行される。
ここでは、左方画像センサ201および右方画像センサ203によって車両のコーナー領域105が検出される様子が示されている。
ステレオシステムにおけるローリングシャッタプロセスの時間シフト動作により、図6に即して説明した、ダイナミックに運動するオブジェクトの対応特徴105が画像調整後にもまだずれているという作用が有利に低減される。時間シフト量は較正情報に依存して、図7に示されているように選択される。左方センサ201による画像記録の開始は時間dtだけ遅延される。遅延量dtも較正情報から計算され、ステレオシステムごとに個別に定められる。
こうした手法により、ローリングシャッタセンサが使用される際のステレオ測定の精度および信頼性が向上する。
図8には、ステレオセンサシステムの画像検出に適した2つのセンサ201,203からの画像情報の処理方法の概略図が示されている。センサ201,203は、画像情報を、それぞれ異なる位置に配置されたセンサ部分において部分ごとに検出するように構成されている。センサ部分の例として、ここでは、それぞれ7本のラインが示されている。センサ201,203による記録間の画像ずれ107を補償するために、センサ201,203の各画像部分から画像情報が相互にシフトされて読み出される。読み出しは読み出し装置861によって制御される。読み出し装置861は、画像ずれ107に関する情報を受信し、これに基づいて1回の読み出しステップでセンサ201のセンサ部分およびセンサ203のセンサ部分の双方を読み出すように構成されている。例として、読み出し装置861が1回の読み出しステップでセンサ201の第2のラインとセンサ203の第6のラインとからそれぞれの画像情報を読み出す様子が示されている。センサ201の第2のラインおよびセンサ203の第6のラインはそれぞれ対応する画像内容105を有する。このように、有利な実施例によれば、4つのラインのずれを含む各センサ部分が読み出される。次の読み出しステップでは、センサ201の第3のラインとセンサ203の第7のラインとからそれぞれの画像情報が読み出される。読み出された画像情報は処理装置865へ出力され、そこでさらに処理されるかまたは評価される。
画像情報は各センサ部分によって検出され、一時記憶される。この場合、読み出し装置861はバッファから画像情報を読み出すように構成される。これに代えて、読み出し装置861を、相応のセンサ部分により画像情報の検出をトリガするように構成してもよい。この場合、読み出し装置861はセンサ部分から直接に画像情報を読み出すことができる。
有利な実施例によれば、複数のセンサ部分のうち一部の部分領域のみがそのつど読み出し装置861によって読み出される。この場合、読み出し装置861は、ずれ量807に加え、個々のセンサ部分内のずれに関する別の情報、ここでは水平方向ずれに関する情報を受信し、これに基づいて相応の部分領域のみを読み出すように構成される。例えば、ずれがライン長さの1/4である場合、図示の読み出しステップでは、左方センサ201の第2のラインの1/4部の左2つ分と、右方センサ203の第6のラインの1/4部の中央2つ分とが読み出される。
本発明での、画像センサの時間シフト読み出しのアプローチ、または、較正情報に依存した領域選択のアプローチは、例えば自動車の運転支援システムに関連して使用される。
上述した図示の実施例は例示のためのものに過ぎない。種々の実施例は、単独で、または、個々の特徴に関連して相互に組み合わせて実施可能である。また、或る実施例を別の実施例の特徴によって補充することもできる。さらに、本発明の各方法ステップは、反復して、または、異なる順序で実行可能である。
Claims (10)
- ステレオセンサシステムにおける、画像検出に適した2つのセンサ(201,203)の画像情報の処理方法であって、
各センサは、複数の画像情報を、各センサの種々の位置に配置された複数のセンサ部分において部分ごとに検出するように構成されている、
画像情報の処理方法において、
それぞれ対応する画像情報を有する第1のセンサおよび第2のセンサの2つのセンサ部分の各位置間の幾何学的ずれ(107)に関する情報(807)を形成するステップと、
前記第1のセンサ(201)の画像情報および前記第2のセンサ(203)の画像情報を、各画像情報が読み出される各センサ部分の位置に関連して、前記幾何学的ずれを用いて読み出す(861)ステップと
を含む
ことを特徴とする画像情報の処理方法。 - さらに、前記幾何学的ずれ(107)を、前記第1のセンサ(201)のセンサ部分の画像情報と前記第2のセンサ(203)のセンサ部分の画像情報との比較に基づいて求めるステップを含む、請求項1記載の画像情報の処理方法。
- 前記読み出す(861)ステップにおいて、前記第1のセンサ(201)の画像情報を第1のセンサ部分のみから読み出し、前記第2のセンサ(203)の画像情報を第2のセンサ部分のみから読み出す、ただし、前記第1のセンサ内の前記第1のセンサ部分の幾何学的配置は前記第2のセンサ内の前記第2のセンサ部分の幾何学的配置に対して異なっている、請求項1または2記載の画像情報の処理方法。
- さらに、前記第1のセンサ部分内の第1のピクセル(105)と前記第2のセンサ部分内の第2のピクセル(105)との間の移動量を求め、前記第1のピクセルと前記第2のピクセルとを検出された画像情報に関して相互に対応させるステップを含む、請求項3記載の画像情報の処理方法。
- さらに、前記第1のセンサの第1の位置に配置されたセンサ部分による前記第1のセンサ(201)の画像情報の検出をトリガするように構成されている第1のトリガ信号を形成するステップと、該第1のトリガ信号を形成するステップの時間的後または時間的前に、前記第2のセンサの第1の位置に配置されたセンサ部分による前記第2のセンサの画像情報の検出をトリガするように構成されている第2のトリガ信号を形成するステップとを含む、請求項1から4までのいずれか1項記載の画像情報の処理方法。
- さらに、前記第1のセンサの第1の位置に配置されたセンサ部分による前記第1のセンサ(201)の画像情報と、前記第1の位置に対してずれを生じている前記第2のセンサの第2の位置に配置されたセンサ部分による前記第2のセンサ(203)の画像情報との同時検出をトリガするように構成されている1つのトリガ信号を形成するステップを含む、請求項1または2記載の画像情報の処理方法。
- 前記読み出す(861)ステップにおいて、前記第1のセンサ(201)の画像情報を前記第1のセンサの1つのラインから読み出し、前記第2のセンサ(203)の画像情報を前記第2のセンサの1つのラインから読み出す、請求項1から6までのいずれか1項記載の画像情報の処理方法。
- さらに、前記第1のセンサ(201)の別の画像情報および前記第2のセンサ(203)の別の画像情報を、該別の画像情報が読み出される別のセンサ部分の別の位置に関連して、前記幾何学的ずれを用いて読み出す、少なくとも1つの別のステップを含む、請求項1から7までのいずれか1項記載の画像情報の処理方法。
- ステレオセンサシステムにおける、画像検出に適した2つのセンサ(201,203)の画像情報の処理装置であって、
各センサは、複数の画像情報を、各センサの種々の位置に配置された複数のセンサ部分において部分ごとに検出するように構成されている、
画像情報の処理装置において、
それぞれ対応する画像情報を有する第1のセンサおよび第2のセンサの2つのセンサ部分の各位置間の幾何学的ずれ(107)に関する情報(807)を形成する情報形成装置と、
前記第1のセンサの画像情報および前記第2のセンサの画像情報を、各画像情報が読み出されるセンサ部分の位置に関連して、前記幾何学的ずれを用いて読み出す読み出し装置(861)と
を備えている
ことを特徴とする画像情報の処理装置。 - プログラムがコンピュータ上で実行される際に、請求項1から8までのいずれか1項記載の画像情報の処理方法を実行するためのプログラムコードを含むコンピュータプログラム製品。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102010062496.9A DE102010062496B4 (de) | 2010-12-07 | 2010-12-07 | Verfahren und Vorrichtung zum Verarbeiten von Bildinformationen zweier zur Bilderfassung geeigneter Sensoren eines Stereo-Sensor-Systems |
DE102010062496.9 | 2010-12-07 | ||
PCT/EP2011/069617 WO2012076274A1 (de) | 2010-12-07 | 2011-11-08 | Verfahren und vorrichtung zum verarbeiten von bildinformationen zweier zur bilderfassung geeigneter sensoren eines stereo-sensor-systems |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014503408A true JP2014503408A (ja) | 2014-02-13 |
Family
ID=44992889
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013542435A Pending JP2014503408A (ja) | 2010-12-07 | 2011-11-08 | ステレオセンサシステムにおける、画像検出に適した2つのセンサの画像情報の処理方法および装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US9414044B2 (ja) |
EP (1) | EP2649802A1 (ja) |
JP (1) | JP2014503408A (ja) |
CN (1) | CN103444191B (ja) |
DE (1) | DE102010062496B4 (ja) |
WO (1) | WO2012076274A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016513804A (ja) * | 2013-03-15 | 2016-05-16 | ウーバー テクノロジーズ,インコーポレイテッド | ロボット用多重知覚ステレオ視のための方法、システム、および装置 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2254091B1 (en) * | 2009-05-19 | 2020-03-25 | Veoneer Sweden AB | Vision system and method for a motor vehicle |
EP2946336B1 (en) | 2013-01-15 | 2023-06-21 | Mobileye Vision Technologies Ltd. | Stereo assist with rolling shutters |
US10412600B2 (en) * | 2013-05-06 | 2019-09-10 | Itron Networked Solutions, Inc. | Leveraging diverse communication links to improve communication between network subregions |
US20140348416A1 (en) * | 2013-05-23 | 2014-11-27 | Himax Media Solutions, Inc. | Stereo image rectification apparatus and method |
TWI520098B (zh) * | 2014-01-28 | 2016-02-01 | 聚晶半導體股份有限公司 | 影像擷取裝置及其影像形變偵測方法 |
CN104811680B (zh) * | 2014-01-28 | 2017-04-12 | 聚晶半导体股份有限公司 | 图像获取装置及其图像形变校正方法 |
CN104811688B (zh) * | 2014-01-28 | 2017-09-01 | 聚晶半导体股份有限公司 | 图像获取装置及其图像形变检测方法 |
US8988509B1 (en) * | 2014-03-20 | 2015-03-24 | Gopro, Inc. | Auto-alignment of image sensors in a multi-camera system |
CN104954776A (zh) * | 2014-03-24 | 2015-09-30 | 宏达国际电子股份有限公司 | 图像校正方法及其图像撷取装置 |
KR102425895B1 (ko) * | 2015-12-24 | 2022-07-27 | 삼성전자주식회사 | 전자장치의 데이터 동기 장치 및 방법 |
DE102016104731A1 (de) * | 2016-03-15 | 2017-09-21 | Connaught Electronics Ltd. | Verfahren zum Detektieren eines Rolling-Shutter-Effekts in Bildern eines Umgebungsbereichs eines Kraftfahrzeugs, Rechenvorrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug |
DE102023108151A1 (de) | 2023-03-30 | 2023-06-15 | Daimler Truck AG | Verfahren zum Betreiben eines Stereokamerasystems für ein Nutzfahrzeug |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5007A (en) * | 1847-03-13 | Improvement in steam-presses | ||
US8012A (en) * | 1851-04-01 | Improved machine for forming a lock on sheet metal | ||
JPH07107517A (ja) * | 1993-09-30 | 1995-04-21 | Sanyo Electric Co Ltd | 立体撮像装置 |
JPH10224823A (ja) * | 1997-02-05 | 1998-08-21 | Sanyo Electric Co Ltd | 立体映像表示方法および立体映像表示装置 |
JP2006270265A (ja) * | 2005-03-22 | 2006-10-05 | Fuji Photo Film Co Ltd | 複眼撮影装置及びその調整方法 |
JP2008123141A (ja) * | 2006-11-09 | 2008-05-29 | Yamatake Corp | 対応点探索方法および3次元位置計測方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE50103815D1 (de) | 2001-05-25 | 2004-10-28 | Siemens Ag | Vorrichtung und verfahren zur verarbeitung von bilddaten |
US20040070667A1 (en) * | 2002-10-10 | 2004-04-15 | Fuji Photo Optical Co., Ltd. | Electronic stereoscopic imaging system |
US7112774B2 (en) * | 2003-10-09 | 2006-09-26 | Avago Technologies Sensor Ip (Singapore) Pte. Ltd | CMOS stereo imaging system and method |
US8456515B2 (en) | 2006-07-25 | 2013-06-04 | Qualcomm Incorporated | Stereo image and video directional mapping of offset |
WO2008128205A1 (en) * | 2007-04-13 | 2008-10-23 | Presler Ari M | Digital cinema camera system for recording, editing and visualizing images |
DE102008040985B4 (de) | 2008-08-05 | 2021-05-27 | Robert Bosch Gmbh | Verfahren zur Kalibrierung eines Mehrkamerasystems |
-
2010
- 2010-12-07 DE DE102010062496.9A patent/DE102010062496B4/de active Active
-
2011
- 2011-11-08 WO PCT/EP2011/069617 patent/WO2012076274A1/de active Application Filing
- 2011-11-08 EP EP11784451.4A patent/EP2649802A1/de not_active Withdrawn
- 2011-11-08 JP JP2013542435A patent/JP2014503408A/ja active Pending
- 2011-11-08 CN CN201180058509.6A patent/CN103444191B/zh active Active
- 2011-11-08 US US13/992,500 patent/US9414044B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5007A (en) * | 1847-03-13 | Improvement in steam-presses | ||
US8012A (en) * | 1851-04-01 | Improved machine for forming a lock on sheet metal | ||
JPH07107517A (ja) * | 1993-09-30 | 1995-04-21 | Sanyo Electric Co Ltd | 立体撮像装置 |
JPH10224823A (ja) * | 1997-02-05 | 1998-08-21 | Sanyo Electric Co Ltd | 立体映像表示方法および立体映像表示装置 |
JP2006270265A (ja) * | 2005-03-22 | 2006-10-05 | Fuji Photo Film Co Ltd | 複眼撮影装置及びその調整方法 |
JP2008123141A (ja) * | 2006-11-09 | 2008-05-29 | Yamatake Corp | 対応点探索方法および3次元位置計測方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016513804A (ja) * | 2013-03-15 | 2016-05-16 | ウーバー テクノロジーズ,インコーポレイテッド | ロボット用多重知覚ステレオ視のための方法、システム、および装置 |
Also Published As
Publication number | Publication date |
---|---|
US9414044B2 (en) | 2016-08-09 |
WO2012076274A1 (de) | 2012-06-14 |
EP2649802A1 (de) | 2013-10-16 |
CN103444191A (zh) | 2013-12-11 |
DE102010062496B4 (de) | 2022-01-20 |
DE102010062496A1 (de) | 2012-06-14 |
CN103444191B (zh) | 2017-06-06 |
US20130321588A1 (en) | 2013-12-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014503408A (ja) | ステレオセンサシステムにおける、画像検出に適した2つのセンサの画像情報の処理方法および装置 | |
US11131753B2 (en) | Method, apparatus and computer program for a vehicle | |
US20190149753A1 (en) | Stereo assist with rolling shutters | |
JP5615441B2 (ja) | 画像処理装置及び画像処理方法 | |
US8922626B2 (en) | Stereo camera apparatus and method of obtaining image | |
JP5057936B2 (ja) | 鳥瞰画像生成装置および方法 | |
JP5003395B2 (ja) | 車両周辺画像処理装置及び車両周辺状況提示方法 | |
US11509813B2 (en) | Image processing device | |
JP2015186085A (ja) | 移動量導出装置、及び、移動量導出方法 | |
JP2010288060A (ja) | 周辺表示装置 | |
JP2018074411A (ja) | 物体検出装置及び物体検出方法 | |
JP6887356B2 (ja) | ステレオ画像処理装置 | |
JP2012227773A (ja) | 画像認識装置 | |
JP6466679B2 (ja) | 物体検出装置 | |
JP5395373B2 (ja) | 周辺監視装置 | |
JP2018186455A (ja) | 撮像装置、撮像システム、移動体、チップ | |
JP2015042004A (ja) | 撮像装置、撮像システムおよび車両 | |
JP7247063B2 (ja) | 画像処理装置、及びそれを用いたステレオカメラ装置 | |
WO2018203507A1 (ja) | 信号処理装置 | |
JP2016105547A (ja) | 画像処理装置および画像処理方法 | |
JP2015226240A (ja) | 車両姿勢判定装置 | |
CN117636294A (zh) | 距离推测装置及距离推测方法 | |
JP2001155153A (ja) | 距離画像生成装置及び方法 | |
JP2003344016A (ja) | 物体認識方法および物体認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140507 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20141027 |