JP2018179911A - 測距装置及び距離情報取得方法 - Google Patents
測距装置及び距離情報取得方法 Download PDFInfo
- Publication number
- JP2018179911A JP2018179911A JP2017083782A JP2017083782A JP2018179911A JP 2018179911 A JP2018179911 A JP 2018179911A JP 2017083782 A JP2017083782 A JP 2017083782A JP 2017083782 A JP2017083782 A JP 2017083782A JP 2018179911 A JP2018179911 A JP 2018179911A
- Authority
- JP
- Japan
- Prior art keywords
- image
- angle
- color
- wide
- imaging unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/05—Geographic models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30236—Traffic on road, railway or crossing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Computer Graphics (AREA)
- Signal Processing (AREA)
- Remote Sensing (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Studio Devices (AREA)
Abstract
【課題】モノクロ/カラー及び広角/狭角のそれぞれの特性を有効に活用した、車載用の測距装置を実現する。【解決手段】測距装置1は、広角モノクロカメラ2aと狭角カラーカメラ2bと画像処理部3とを備える。画像処理部3は、広角モノクロ画像及び狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、共通の視野に含まれる被写体までの絶対的な距離を導出する。また、画像処理部3は、異なるタイミングで撮像された複数の広角モノクロ画像を用いて被写体の相対的な三次元形状を導出する。そして、画像処理部3は、導出された絶対的な距離を用いて、導出された相対的な三次元形状を絶対的な距離に補正した情報を距離情報として導出する。【選択図】図1
Description
本開示は、車両に搭載される測距装置及び距離情報取得方法に関する。
特許文献1には、カラー撮像装置及びモノクロ撮像装置からなるステレオカメラで構成された測距装置が記載されている。特許文献1に記載のステレオカメラは、撮像された画像を用いたステレオマッチングにより、撮像された被写体までの距離を算出するように構成されている。また、このステレオカメラは、カラー撮像装置により撮像されたカラー画像に基づいて、色を認識の特性として用いることが定められた特定の物体を認識するように構成されている。
一般的に、モノクロ撮像装置により撮像されたモノクロ画像と、カラー撮像装置により撮像されたカラー画像とでは、モノクロ画像の方が解像度が高く、物体認識における形状の検出精度が高いことが知られている。一方、カラー画像を用いることで、色情報を用いなければ認識できない物体を認識することができる。したがって、モノクロ撮像装置とカラー撮像装置とで構成されたステレオカメラ装置によれば、モノクロ画像及びカラー画像の両方の利点を得ることができる。
ところで、車載用の撮像装置として比較的画角の広い広角カメラを用いる場合、交差点等で広い範囲での物体認識を要する場面において有利である。一方、車載用の撮像装置として比較的画角の狭い狭角カメラを用いる場合、遠距離の物体が大きく写るために遠距離の信号や車両等を認識するのに有利である。
そこで、発明者は、車載用の測距装置において、モノクロ撮像装置とカラー撮像装置とを併用する利点に加え、更に広角の撮像装置及び狭角の撮像装置の利点を併せ持つ構成について検討した。本開示の一局面は、モノクロ/カラー及び広角/狭角のそれぞれの特性を有効に活用した、車載用の測距装置を実現することが好ましい。
本開示の一態様に係る測距装置は、車両に搭載される測距装置であって、共通の視野を含む範囲を撮像するように設置されている第1撮像部(2a)及び第2撮像部(2b)と、画像処理部(3)とを備える。なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
第1撮像部は、第2撮像部よりも広い画角によってモノクロームの画像である広角モノクロ画像を撮像するように構成されている。第2撮像部は、第1撮像部よりも狭い画角によってカラーの画像である狭角カラー画像を撮像するように構成されている。
画像処理部は、第1撮像部及び第2撮像部により撮像された画像を取得し、取得された画像に基づいて、撮像された被写体までの距離を表す情報を含む距離情報と、被写体の色を表す情報を含む色情報とを導出するように構成されている。この画像処理部は、第1導出部(3,S106)と、第2導出部(3,S102)と、距離補正部(3,S108)とを備える。
第1導出部は、広角モノクロ画像及び狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、共通の視野に含まれる被写体までの絶対的な距離を導出するように構成されている。第2導出部は、異なるタイミングで撮像された複数の広角モノクロ画像を用いて被写体の相対的な三次元形状を導出するように構成されている。距離補正部は、第1導出部により導出された距離を用いて、第2導出部により導出された相対的な三次元形状を絶対的な距離に補正した情報を距離情報として導出するように構成されている。
上記構成によれば、モノクロ/カラー及び広角/狭角のそれぞれの特性を有効に活用した、車載用の測距装置を実現できる。すなわち、広角モノクロ画像と狭角カラー画像とを用いることにより、ステレオマッチングの手法による距離の情報を取得できると共に、被写体の色に関する情報も取得できる。ここで、解像度の高いモノクロ画像を広角側とすることで、たとえ遠距離であっても狭角のカラー画像に対して遜色のない解像度を得ることができ、遠距離における物体の認識性能を向上できる。
さらに、異なるタイミングで撮像された複数の広角モノクロ画像を用いて被写体の相対的な三次元形状を導出することで、広角モノクロ画像と狭角カラー画像とのステレオマッチングだけでは認識できない広範囲の被写体に関する三次元形状を認識できる。ただし、複数の広角モノクロ画像から相対的な三次元形状を導出する手法においては、対応点同士の相対的な位置関係を復元することはできるが、被写体の絶対的なスケールを復元できないというスケールの不定性の問題がある。
そこで、本開示では、距離補正部により、ステレオマッチングにおいて導出された絶対的な距離を基準にして、広角モノクロ画像におけるステレオマッチングの対象の領域以外の相対的な三次元形状を絶対的な距離に補正することができる。
以下、本開示の実施形態を図面に基づいて説明する。なお、本開示は下記の実施形態に限定されるものではなく様々な態様にて実施することが可能である。
[測距装置の構成の説明]
実施形態の測距装置1の構成について、図1及び図2を参照しながら説明する。図1に例示されるとおり、測距装置1は、ステレオカメラ2と画像処理部3とを備える。この測距装置1は、図2に例示されるとおり、車両5のフロントウィンドウの近傍に設置され、車両5の前方に存在する物体に関する距離情報を取得する。
[測距装置の構成の説明]
実施形態の測距装置1の構成について、図1及び図2を参照しながら説明する。図1に例示されるとおり、測距装置1は、ステレオカメラ2と画像処理部3とを備える。この測距装置1は、図2に例示されるとおり、車両5のフロントウィンドウの近傍に設置され、車両5の前方に存在する物体に関する距離情報を取得する。
ステレオカメラ2は、モノクロームの画像を撮像するモノクロカメラ2a、及びカラーの画像を撮像するカラーカメラ2bからなる一対の撮像装置を備える。また、モノクロカメラ2a及びカラーカメラ2bは、それぞれ画角が異なるカメラとして構成されている。具体的には、モノクロカメラ2aは、カラーカメラ2bよりも画角が広い画像である広角モノクロ画像を撮像する。また、カラーカメラ2bは、モノクロカメラ2aよりも画角が狭い画像である狭角カラー画像を撮像する。
これらのモノクロカメラ2a及びカラーカメラ2bは、共通の被写体を視差が生じるように撮影できるように、車両5の前方に向けて所定の間隔で離間させた平行等位の位置に配置されている。モノクロカメラ2a及びカラーカメラ2bは、互いに共通する領域を含む車両5の前方領域を所定の周期ごとに同一タイミングで撮像し、左右一対の画像を表す画像データを画像処理部3に入力する。
モノクロカメラ2aは、広角光学系21a及びモノクロ撮像素子部22aを備える。広角光学系21aは、モノクロ撮像素子部22aの受光面上に被写体の像を生じさせる器具であり、比較的広い画角を有する。モノクロ撮像素子部22aは、例えばCMOSイメージセンサ等の撮像素子と、この撮像素子を駆動して画像を得る信号処理回路とを含み、広角光学系21aにより撮像素子の受光面上に結像された像を、画像として撮像する。
このモノクロ撮像素子部22aは、受光面にカラーフィルタを備えず、各画素に色情報を補完してカラー画像を得るデモザイク処理が不要である。そのため、カラーフィルタを有するイメージセンサよりも解像度の高いモノクロ画像を得ることができる。以降の説明において、モノクロカメラ2aにより撮像された画像を、広角モノクロ画像と称する。
カラーカメラ2bは、狭角光学系21b及びカラー撮像素子部22bを備える。狭角光学系21bは、カラー撮像素子部22bの受光面上に被写体の像を生じさせる器具であり、比較的狭い画角を有する。カラー撮像素子部22bは、例えばCMOSイメージセンサ等の撮像素子と、この撮像素子を駆動して画像を得る信号処理回路とを含み、狭角光学系21bにより撮像素子の受光面上に結像された像を、画像として撮像する。
このカラー撮像素子部22bは、受光面にベイヤー配列のカラーフィルタを備えている。したがって、撮像素子により撮像される画像の各画素はカラーフィルタの色に対応する単色の色情報を持つ。そこで、モノクロ撮像素子部22aは、撮像素子により撮像された原画像に対して、各画素に足りない色情報を補完するデモザイク処理を施すことにより、自然に近い色を再現したカラー画像を得る。このようにして得られたカラー画像は、一般的に、同等のサイズの撮像素子を有するモノクロカメラにより撮像された画像と比較して解像度が劣る。以降の説明において、カラーカメラ2bにより撮像された画像を、狭角カラー画像と称する。
なお、本実施形態では、モノクロカメラ2a及びカラーカメラ2bは、ローリングシャッタ方式により画像を撮像するように構成されていることを前提とする。ローリングシャッタ方式とは、複数の画素が水平方向及び垂直方向に配列した撮像素子について、水平方向の画素列である水平ラインごとに順次画像を取得して1枚分の画像を形成する周知の手法である。
図2において、符号200は、モノクロカメラ2aの視野(すなわち、撮像範囲)を示している。また、符号300は、カラーカメラ2bの視野を示している。図2の事例では、モノクロカメラ2aの視野200内にカラーカメラ2bの視野300が含まれている。視野200と視野300とが重なる範囲が、本開示における共通の視野に相当する。このような視野を持つステレオカメラ2により同時に撮像された一対のステレオ画像の一例を図3に示す。
図3において、符号60は、広角モノクロ画像の一例を示している。また、符号70は、狭角カラー画像の一例を示している。なお、狭角カラー画像70は、実際には有彩色を含む。また、符号62は、広角モノクロ画像60において、狭角カラー画像70と共通する視野に対応する画像領域を示している。なお、符号62で示される矩形の波線自体は、実際に広角モノクロ画像60を構成するものではなく、共通の視野の範囲を表すものとして便宜的に記載したものである。
広角モノクロ画像60及び狭角カラー画像70には、それぞれ、被写体である前方車両の画像61及び画像71が含まれている。仮に、モノクロカメラ2a及びカラーカメラ2bの撮像素子のサイズが同一であるとするならば、図3に例示されるとおり、広角モノクロ画像60では、狭角カラー画像70より視野が広い分、画角の比に応じて被写体が小さく写る。
このような広角モノクロ画像60及び狭角カラー画像70を用いて、ステレオマッチングにより距離情報を得る場合、広角モノクロ画像60のうち狭角カラー画像70と共通の視野に相当する画像領域62と、狭角カラー画像70全体との間で視差を演算すればよい。なお、モノクロカメラ2aとカラーカメラ2bとが厳密にキャリブレーションされることにより、広角モノクロ画像60と狭角カラー画像70との画像座標が対応付けられ、共通の視野に相当する画像座標の範囲が既知であることが前提となる。
ただし、ローリングシャッタ方式により撮像素子の水平ラインごとに露光を行うカメラにおいては、次のような問題が生じ得る。すなわち、画像領域62に対応する撮像素子の露光期間と、狭角カラー画像70全体に対応する撮像素子の露光期間とが一致していない場合、広角モノクロ画像60の画像領域62に写る被写体と狭角カラー画像70全体に写る被写体との間に時間差が生じる。その結果、画像領域62と狭角カラー画像70との間の視差に基づいて導出される距離情報に誤差が含まれ得る。なお、ここでいう露光期間とは、ある画像領域に対応する撮像素子の画素群についてローリングシャッタ方式による露光を開始してから完了するまでの期間である。
そこで、本実施形態では、画像領域62に対する露光期間と、狭角カラー画像70全体に対する露光期間とに同時性を持たせるため、モノクロ撮像素子部22a及びカラー撮像素子部22bが次のように構成されている。すなわち、モノクロ撮像素子部22aにおいて水平ラインごとに画像を取込む露光周期と、カラー撮像素子部22bにおいて水平ラインごとに画像を取込む露光周期とを設計的に異ならせることで、露光期間が同期するように構成されている。
具体的には、モノクロカメラ2a及びカラーカメラ2bにおいて、撮像素子の水平ラインの数が等しいことを前提に、画像領域62に対応する画素群を含む水平ラインに対する露光周期と、狭角カラー画像70全体の水平ラインに対する露光周期とは、行数の比に応じて定まる。つまり、広角モノクロ画像60の画像領域62については、画角の比に応じて露光周期が相対的に長く設定し、狭角カラー画像70全体については、画角の比に応じて露光周期が相対的に短く設定すればよい。
図1の説明に戻る。画像処理部3は、図示しないCPU、RAM、ROM、フラッシュメモリ等の半導体メモリ、入出力インタフェース等を中心に構成された情報処理装置である。画像処理部3は、例えば、コンピュータシステムとしての機能が集約されたマイクロコントローラ等により具現化される。画像処理部3の機能は、CPUがROMや、半導体メモリ等の非遷移的実体的記憶媒体に格納されたプログラムを実行することにより実現される。画像処理部3を構成するマイクロコントローラの数は1つでも複数でもよい。
画像処理部3は、ステレオカメラ2から入力された左右一対の画像を用いて画像認識処理を行うことにより、被写体までの距離を表す距離情報や、被写体の色を表す色情報を含む画像認識情報を、車両5に搭載された所定の車載機器に対して出力する機能を有する。画像処理部3の機能を実現する手法はソフトウェアに限るものではなく、その一部又は全部の要素を論理回路やアナログ回路等を組合せたハードウェアを用いて実現してもよい。
[測距処理の説明]
画像処理部3が実行する測距処理の手順について、図4のフローチャートを参照しながら説明する。この測距処理は所定の制御周期ごとに繰返し実行される。
画像処理部3が実行する測距処理の手順について、図4のフローチャートを参照しながら説明する。この測距処理は所定の制御周期ごとに繰返し実行される。
ステップ(以降、S)100では、画像処理部3は、モノクロカメラ2aにより撮像された広角モノクロ画像を作業用メモリに取込む。S102では、画像処理部3は、S100において取得された広角モノクロ画像と、過去に取得された広角モノクロ画像とを含む、時間において連続な複数の広角モノクロ画像を用いて、これらの広角モノクロ画像に含まれる被写体の三次元形状を導出する。
具体的には、画像処理部3は、公知のSFM等の手法を用いて被写体の三次元形状を導出する。なお、SFMは、Structure from motionの略語である。SFMは、カメラの視点を変えながら被写体を撮像した複数の画像の対応点から、その被写体の相対的な三次元形状を復元する手法である。ただし、SFMの手法により復元された三次元形状にはスケールの不定性があり、対応点同士の相対的な位置関係は復元できるものの、被写体の絶対的なスケールは復元できない。
一方、S104では、画像処理部3は、S100で取得される広角モノクロ画像と同時期にカラーカメラ2bにより撮像された狭角カラー画像を、作業用メモリに取込む。S106では、画像処理部3は、S100において取得された広角モノクロ画像と、S104において取得された狭角モノクロ画像とを用いて、ステレオマッチングにより被写体との距離を導出する。
具体的には、画像処理部3は、広角モノクロ画像から、狭角カラー画像と共通の視野に相当する画像領域を抽出する。つまり、図3の事例では、広角モノクロ画像60から、画像領域62の部分を抽出する。そして、画像処理部3は、抽出された画像領域と狭角カラー画像との間でステレオマッチングによる視差計算を行い、ステレオカメラ2から共通の視野内の被写体までの距離を導出する。なお、広角モノクロ画像から抽出された画像領域と、狭角カラー画像とのサイズが異なる場合、画像処理部3は、適宜な画像変換により画像のサイズを統一してからステレオマッチングを行う。
次のS108では、画像処理部3は、S102において導出された被写体の三次元形状のスケールを、S106のステレオマッチングにより導出された絶対的な距離を用いて補正する。つまり、広角モノクロ画像からSFMの手法により得られた三次元形状のうち、共通の視野内の被写体については、ステレオマッチングによりステレオカメラ2の絶対的な距離が取得されている。そこで、画像処理部3は、共通の視野内の被写体についてステレオマッチングにより得られた距離を基準にして、三次元形状における相対的な位置関係から広角モノクロ画像60における共通の視野以外の領域の被写体までの距離を算出する。これにより、広角モノクロ画像と狭角カラー画像との共通の視野だけでなく、広角モノクロ画像全体の視野について、被写体までの絶対的な距離が得られる。
S110では、画像処理部3は、S110において補正された広角領域全体の三次元形状を含む情報を距離情報として出力する。
[認識結果統合処理の説明]
画像処理部3が実行する認識結果統合処理の手順について、図5のフローチャートを参照しながら説明する。この認識結果統合処理は所定の制御周期ごとに繰返し実行される。
[認識結果統合処理の説明]
画像処理部3が実行する認識結果統合処理の手順について、図5のフローチャートを参照しながら説明する。この認識結果統合処理は所定の制御周期ごとに繰返し実行される。
S200では、画像処理部3は、取得された広角モノクロ画像について、周知のパターンマッチング等の手法により、特定の物体を認識する。ここでいう特定の物体とは、例えば、車両や歩行者等の他の交通移動体、道路標識、道路標示等が挙げられる。モノクロカメラ2aは、カラーフィルタを備えてない。そのため、撮像される広角モノクロ画像は、解像度が高く物体の輪郭が鮮明に写ることから、パターンマッチング等の画像認識により物体を精度よく認識し得る。また、広角モノクロ画像は、画角が比較的広いため、広範囲にわたって物体を検出し得る。
一方、S202では、画像処理部3は、取得された狭角カラー画像について色の分布を認識する。そして、S204では、画像処理部3は、S202において認識された色の分布状況に基づき、狭角カラー画像の外縁部に相当する画像領域から、特定の色を示す画像領域を色の認識結果として取得する。ここでいう外縁部とは、狭角カラー画像の上下左右の端から所定の範囲内の画像領域を表している。また、ここでいう特定の色とは、例えば、車両の灯火や信号の灯色、標識、道路標示等に使用され得る、赤、黄、緑、白等の色が挙げられる。
S206では、画像処理部3は、S204において取得された色の認識結果と、当該色認識結果で示される画像領域に対応する、広角モノクロ画像上の画像領域における物体の認識結果とを統合する。S208では、画像処理部3は、S206において統合された認識結果を表す物体認識情報を出力する。
上述の認識結果統合処理の具体例について、図6を参照しながら説明する。図6において、符号63は広角モノクロ画像を示している。また、符号72は狭角カラー画像を示している。符号62は、広角モノクロ画像63と狭角カラー画像72との共通の視野に相当する画像領域を示している。
広角モノクロ画像63においては、画像認識によって符号64で示される車両が検出されていることを前提とする。車両64は、後端部が僅かに画像領域62に含まれるものの、大半は共通の視野以外の画像領域に分布している。一方、狭角カラー画像72においては、左端部において赤色に発光する画像領域である赤色領域74が検出されていることを前提とする。
赤色領域74は、狭角カラー画像72の左端部に写り込んでいる車両の後端部73の一部である。しかし、狭角カラー画像72に写り込んだ後端部73のみの画像では、パターンマッチング等により車両と判別することは困難である。つまり、狭角カラー画像72から得られる情報のみでは、赤色領域74が車両のテールランプであることを推定することは難しい。
そこで、画像処理部3は、広角モノクロ画像63と狭角カラー画像72との画像座標の対応関係に基づき、広角モノクロ画像63において検出された車両64の認識結果と、狭角カラー画像72において検出された赤色領域74の認識結果とを統合する。その結果、符合75で示されるとおり、車両のテールランプが赤く点灯しているという認識結果が得られる。
[効果]
実施形態の測距装置1によれば、以下の効果を奏する。
広角モノクロ画像と狭角カラー画像とを用いることにより、ステレオマッチングの手法で距離情報を取得できると共に、被写体の色に関する情報も取得できる。特に、解像度の高いモノクロ画像を広角側とすることで、たとえ遠距離であっても狭角のカラー画像に対して遜色のない解像度を得ることができ、遠距離における物体の認識性能を向上できる。
実施形態の測距装置1によれば、以下の効果を奏する。
広角モノクロ画像と狭角カラー画像とを用いることにより、ステレオマッチングの手法で距離情報を取得できると共に、被写体の色に関する情報も取得できる。特に、解像度の高いモノクロ画像を広角側とすることで、たとえ遠距離であっても狭角のカラー画像に対して遜色のない解像度を得ることができ、遠距離における物体の認識性能を向上できる。
また、SFM等の手法により広角モノクロ画像から被写体の相対的な三次元形状を導出することで、広角モノクロ画像と狭角カラー画像とのステレオマッチングだけでは認識できない広範囲の被写体に関する三次元形状を認識できる。さらに、SFM等の手法により認識された被写体の三次元形状について、ステレオマッチングにより導出された距離を基準にすることで、共通の視野以外の被写体について絶対的な距離を導出できる。
また、ローリングシャッタ方式による撮像について、モノクロ撮像素子部22aにおいて水平ラインごとに画像を取込む露光周期と、カラー撮像素子部22bにおいて水平ラインごとに画像を取込む露光周期とを、画角の比に応じて異ならせる構成を適用した。これにより、広角モノクロ画像及び狭角カラー画像における共通の視野に対する露光期間に同時性を持たせることができる。
また、広角モノクロ画像に対する物体認識処理により得られた物体の認識結果と、狭角カラー画像に対する色認識処理により得られた色の認識結果とを統合することにより、それぞれの画像から得られる認識結果を相互に補完できる。
[特許請求の範囲に記載の構成との対応]
実施形態の各構成と、特許請求の範囲に記載の構成との対応は次のとおりである。
モノクロカメラ2aが、第1撮像部の一例に相当する。カラーカメラ2bが、第2撮像部の一例に相当する。画像処理部3が実行するS106の処理が、第1導出部として処理の一例に相当する。画像処理部3が実行するS102の処理が、第2導出部として処理の一例に相当する。画像処理部3が実行するS108の処理が、距離補正部として処理の一例に相当する。
実施形態の各構成と、特許請求の範囲に記載の構成との対応は次のとおりである。
モノクロカメラ2aが、第1撮像部の一例に相当する。カラーカメラ2bが、第2撮像部の一例に相当する。画像処理部3が実行するS106の処理が、第1導出部として処理の一例に相当する。画像処理部3が実行するS102の処理が、第2導出部として処理の一例に相当する。画像処理部3が実行するS108の処理が、距離補正部として処理の一例に相当する。
画像処理部3が実行するS200の処理が、物体認識部として処理の一例に相当する。画像処理部3が実行するS204の処理が、色認識部として処理の一例に相当する。画像処理部3が実行するS208の処理が、統合部として処理の一例に相当する。
[変形例]
上記各実施形態における1つの構成要素が有する機能を複数の構成要素に分担させたり、複数の構成要素が有する機能を1つの構成要素に発揮させたりしてもよい。また、上記各実施形態の構成の一部を省略してもよい。また、上記各実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。なお、特許請求の範囲に記載の文言から特定される技術思想に含まれるあらゆる態様が、本開示の実施形態である。
上記各実施形態における1つの構成要素が有する機能を複数の構成要素に分担させたり、複数の構成要素が有する機能を1つの構成要素に発揮させたりしてもよい。また、上記各実施形態の構成の一部を省略してもよい。また、上記各実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。なお、特許請求の範囲に記載の文言から特定される技術思想に含まれるあらゆる態様が、本開示の実施形態である。
上述した測距装置1を構成要件とするシステム、画像処理部3としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移的実態的記録媒体、距離情報取得方法等の種々の形態で本開示を実現することもできる。
1…測距装置、2…ステレオカメラ、2a…モノクロカメラ、21a…広角光学系、22a…モノクロ撮像素子部、2b…カラーカメラ、21b…狭角光学系、22b…カラー撮像素子部、3…画像処理部。
Claims (4)
- 車両に搭載される測距装置であって、
共通の視野を含む範囲を撮像するように設置されている第1撮像部(2a)及び第2撮像部(2b)と、
前記第1撮像部及び前記第2撮像部により撮像された画像を取得し、取得された画像に基づいて、撮像された被写体までの距離を表す情報を含む距離情報と、前記被写体の色を表す情報を含む色情報とを導出するように構成された画像処理部(3)とを備え、
前記第1撮像部は、前記第2撮像部よりも広い画角によってモノクロームの画像である広角モノクロ画像を撮像するように構成されており、
前記第2撮像部は、前記第1撮像部よりも狭い画角によってカラーの画像である狭角カラー画像を撮像するように構成されており、
前記画像処理部は、
前記広角モノクロ画像及び前記狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、前記共通の視野に含まれる被写体までの絶対的な距離を導出するように構成された第1導出部(3,S106)と、
異なるタイミングで撮像された複数の前記広角モノクロ画像を用いて被写体の相対的な三次元形状を導出するように構成された第2導出部(3,S102)と、
前記第1導出部により導出された距離を用いて、前記第2導出部により導出された相対的な三次元形状を絶対的な距離に補正した情報を前記距離情報として導出するように構成された距離補正部(3,S108)とを備える、
測距装置。 - 前記第1撮像部及び前記第2撮像部は、複数の画素が水平方向及び垂直方向に配列した撮像素子をローリングシャッタ方式により駆動することにより画像を撮像するように構成されており、
前記第1撮像部において前記共通の視野に対応する前記撮像素子の画素群に対して露光を開始してから完了するまで露光期間と、前記第2撮像部において前記共通の視野に対応する前記撮像素子の画素群に対して露光を開始してから完了するまで期間とが同時性を有するように、前記第1撮像部及び前記第2撮像部において前記撮像素子の水平ラインごとに露光を行う周期が、前記第1撮像部と前記第2撮像部との画角の比に応じて異なるように構成されている、
請求項1に記載の測距装置。 - 前記画像処理部は、
前記広角モノクロ画像について特定の物体を認識するように構成された物体認識部(3,S200)と、
前記狭角カラー画像について特定の色を示す画像領域を認識するように構成された色認識部(3,S204)と、
前記色認識部によって前記狭角カラー画像の外縁部において認識された特定の色を示す画像領域に関する情報である特定色情報と、前記物体認識部により認識された物体であって、前記特定色情報で示される画像領域に対応する前記広角モノクロ画像の画像領域において認識された物体に関する情報である特定物体情報とを統合するように構成された統合部(3,S208)とを、
を更に備える請求項1又は請求項2に記載の測距装置。 - 共通の視野を含む範囲を撮像するように設置されている第1撮像部及び第2撮像部であって、前記第2撮像部よりも広い画角によってモノクロームの画像を撮像するように構成された第1撮像部により撮像された広角モノクロ画像と、前記第1撮像部よりも狭い画角によってカラーの画像を撮像するように構成された第2撮像部により撮像された狭角カラー画像とを取得するステップ(S100,S104)と、
前記広角モノクロ画像及び前記狭角カラー画像における共通の視野に対応する画像領域間の視差に基づいて、前記共通の視野に含まれる被写体までの絶対的な距離を導出するステップ(S106)と、
異なるタイミングで撮像された複数の前記広角モノクロ画像を用いて被写体の相対的な三次元形状を導出するステップ(S102)と、
導出された前記絶対的な距離を用いて、導出された前記相対的な三次元形状を絶対的な距離に補正した情報である距離情報を導出するステップ(S108)と、
を含む距離情報取得方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017083782A JP2018179911A (ja) | 2017-04-20 | 2017-04-20 | 測距装置及び距離情報取得方法 |
US15/956,215 US20180308282A1 (en) | 2017-04-20 | 2018-04-18 | Shape measuring apparatus and method |
DE102018206027.4A DE102018206027A1 (de) | 2017-04-20 | 2018-04-19 | Formmessvorrichtung und formmessverfahren |
CN201810353736.5A CN108734697A (zh) | 2017-04-20 | 2018-04-19 | 形状测量设备和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017083782A JP2018179911A (ja) | 2017-04-20 | 2017-04-20 | 測距装置及び距離情報取得方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018179911A true JP2018179911A (ja) | 2018-11-15 |
Family
ID=63715022
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017083782A Pending JP2018179911A (ja) | 2017-04-20 | 2017-04-20 | 測距装置及び距離情報取得方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20180308282A1 (ja) |
JP (1) | JP2018179911A (ja) |
CN (1) | CN108734697A (ja) |
DE (1) | DE102018206027A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023218761A1 (ja) * | 2022-05-09 | 2023-11-16 | 日立Astemo株式会社 | 異常診断装置 |
US11982805B2 (en) | 2019-03-29 | 2024-05-14 | Samsung Electronics Co., Ltd. | Wide-angle, high-resolution distance measurement device |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016172619A1 (en) | 2015-04-23 | 2016-10-27 | Apple Inc. | Digital viewfinder user interface for multiple cameras |
US9912860B2 (en) | 2016-06-12 | 2018-03-06 | Apple Inc. | User interface for camera effects |
DK180859B1 (en) | 2017-06-04 | 2022-05-23 | Apple Inc | USER INTERFACE CAMERA EFFECTS |
US11012632B2 (en) * | 2018-01-03 | 2021-05-18 | Getac Technology Corporation | Vehicular image pickup device and method of configuring same |
US11112964B2 (en) | 2018-02-09 | 2021-09-07 | Apple Inc. | Media capture lock affordance for graphical user interface |
US10375313B1 (en) | 2018-05-07 | 2019-08-06 | Apple Inc. | Creative camera |
US11722764B2 (en) | 2018-05-07 | 2023-08-08 | Apple Inc. | Creative camera |
WO2019233169A1 (zh) * | 2018-06-06 | 2019-12-12 | Oppo广东移动通信有限公司 | 图像处理方法和装置、电子装置、计算机设备和存储介质 |
DK201870623A1 (en) | 2018-09-11 | 2020-04-15 | Apple Inc. | USER INTERFACES FOR SIMULATED DEPTH EFFECTS |
US10674072B1 (en) | 2019-05-06 | 2020-06-02 | Apple Inc. | User interfaces for capturing and managing visual media |
US11770601B2 (en) | 2019-05-06 | 2023-09-26 | Apple Inc. | User interfaces for capturing and managing visual media |
US11128792B2 (en) | 2018-09-28 | 2021-09-21 | Apple Inc. | Capturing and displaying images with multiple focal planes |
US11321857B2 (en) | 2018-09-28 | 2022-05-03 | Apple Inc. | Displaying and editing images with depth information |
KR102177879B1 (ko) * | 2019-02-26 | 2020-11-12 | 현대모비스 주식회사 | 차량의 객체 검출 장치 및 방법 |
US11706521B2 (en) | 2019-05-06 | 2023-07-18 | Apple Inc. | User interfaces for capturing and managing visual media |
CN111901479B (zh) * | 2019-05-06 | 2021-05-25 | 苹果公司 | 一种用于显示相机用户界面的方法、电子设备和非暂态计算机可读存储介质 |
US20230351621A1 (en) * | 2019-12-09 | 2023-11-02 | Telefonaktiebolaget Lm Ericsson (Publ) | Joint visual object detection and object mapping to a 3d model |
US11054973B1 (en) | 2020-06-01 | 2021-07-06 | Apple Inc. | User interfaces for managing media |
US11212449B1 (en) | 2020-09-25 | 2021-12-28 | Apple Inc. | User interfaces for media capture and management |
CN112396831B (zh) * | 2020-10-23 | 2021-09-28 | 腾讯科技(深圳)有限公司 | 一种交通标识的三维信息生成方法和装置 |
US11778339B2 (en) | 2021-04-30 | 2023-10-03 | Apple Inc. | User interfaces for altering visual media |
US11539876B2 (en) | 2021-04-30 | 2022-12-27 | Apple Inc. | User interfaces for altering visual media |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015219212A (ja) | 2014-05-21 | 2015-12-07 | 京セラ株式会社 | ステレオカメラ装置及び距離算出方法 |
JP6628556B2 (ja) | 2015-10-30 | 2020-01-08 | キヤノン株式会社 | ズームレンズ及びそれを有する撮像装置 |
-
2017
- 2017-04-20 JP JP2017083782A patent/JP2018179911A/ja active Pending
-
2018
- 2018-04-18 US US15/956,215 patent/US20180308282A1/en not_active Abandoned
- 2018-04-19 DE DE102018206027.4A patent/DE102018206027A1/de not_active Withdrawn
- 2018-04-19 CN CN201810353736.5A patent/CN108734697A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11982805B2 (en) | 2019-03-29 | 2024-05-14 | Samsung Electronics Co., Ltd. | Wide-angle, high-resolution distance measurement device |
WO2023218761A1 (ja) * | 2022-05-09 | 2023-11-16 | 日立Astemo株式会社 | 異常診断装置 |
Also Published As
Publication number | Publication date |
---|---|
CN108734697A (zh) | 2018-11-02 |
DE102018206027A1 (de) | 2018-10-25 |
US20180308282A1 (en) | 2018-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2018179911A (ja) | 測距装置及び距離情報取得方法 | |
US10834324B2 (en) | Image distortion correction of a camera with a rolling shutter | |
WO2014073322A1 (ja) | 物体検出装置及び物体検出方法 | |
JP3983573B2 (ja) | ステレオ画像特性検査システム | |
CN109751973B (zh) | 三维测量装置、三维测量方法以及存储介质 | |
CN109831660B (zh) | 深度图像获取方法、深度图像获取模组及电子设备 | |
US8917929B2 (en) | Image processing apparatus, method, program, and recording medium | |
KR102166691B1 (ko) | 객체의 3차원 형상을 산출하는 장치 및 방법 | |
US20080013789A1 (en) | Apparatus and System for Recognizing Environment Surrounding Vehicle | |
WO2015125298A1 (ja) | 自己位置算出装置及び自己位置算出方法 | |
US9542608B2 (en) | Image processing apparatus | |
US10719949B2 (en) | Method and apparatus for monitoring region around vehicle | |
WO2015125300A1 (ja) | 自己位置算出装置及び自己位置算出方法 | |
US20140055572A1 (en) | Image processing apparatus for a vehicle | |
JP2013025528A (ja) | 車両用画像生成装置及び車両用画像生成方法 | |
JP2006322795A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP5548212B2 (ja) | 横断歩道標示検出方法および横断歩道標示検出装置 | |
JP6536529B2 (ja) | 車載カメラのキャリブレーション装置及び車載カメラのキャリブレーション方法 | |
JP3666348B2 (ja) | 距離認識装置 | |
JP2014130429A (ja) | 撮像装置及び立体物領域検出用プログラム | |
KR102065337B1 (ko) | 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법 | |
US20230386082A1 (en) | Unified calibration between dvs and camera | |
CN114599999A (zh) | 移动量估计装置、移动量估计方法、移动量估计程序以及移动量估计系统 | |
WO2011090053A1 (ja) | 障害物検知警報装置 | |
WO2023067867A1 (ja) | 車載制御装置、および、3次元情報取得方法 |