JPWO2015125744A1 - 測距装置および測距方法 - Google Patents
測距装置および測距方法 Download PDFInfo
- Publication number
- JPWO2015125744A1 JPWO2015125744A1 JP2016504091A JP2016504091A JPWO2015125744A1 JP WO2015125744 A1 JPWO2015125744 A1 JP WO2015125744A1 JP 2016504091 A JP2016504091 A JP 2016504091A JP 2016504091 A JP2016504091 A JP 2016504091A JP WO2015125744 A1 JPWO2015125744 A1 JP WO2015125744A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- imaging
- imaging optical
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 110
- 238000003384 imaging method Methods 0.000 claims abstract description 233
- 230000003287 optical effect Effects 0.000 claims abstract description 167
- 238000005259 measurement Methods 0.000 claims abstract description 110
- 150000001875 compounds Chemical class 0.000 claims abstract description 7
- 238000012545 processing Methods 0.000 claims description 136
- 238000004364 calculation method Methods 0.000 claims description 33
- 238000006243 chemical reaction Methods 0.000 claims description 15
- 239000000203 mixture Substances 0.000 claims description 12
- 239000003086 colorant Substances 0.000 claims description 6
- 238000003491 array Methods 0.000 claims 1
- 230000008569 process Effects 0.000 description 49
- 238000010586 diagram Methods 0.000 description 23
- 239000011159 matrix material Substances 0.000 description 10
- 238000001914 filtration Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003252 repetitive effect Effects 0.000 description 4
- 238000000691 measurement method Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/232—Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
- G01C3/085—Use of electric radiation detectors with electronic parallax measurement
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/30—Systems for automatic generation of focusing signals using parallactic triangle with a base line
- G02B7/305—Systems for automatic generation of focusing signals using parallactic triangle with a base line using a scanner
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/32—Means for focusing
- G03B13/34—Power focusing
- G03B13/36—Autofocus systems
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
- G03B35/10—Stereoscopic photography by simultaneous recording having single camera with stereoscopic-base-defining system
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Optics & Photonics (AREA)
- Measurement Of Optical Distance (AREA)
- Cameras In General (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
測距装置は、一体に配列された複数の第1撮像光学系を備える複眼カメラで少なくとも2つの第1撮像光学系を用いて撮像された画像と、単眼カメラで撮像された画像とに基づいて測定対象までの距離を求める装置であって、前記2つの第1撮像光学系のうちの1つの第1撮像光学系と前記第2撮像光学系との第1基線長と前記2つの第1撮像光学系の間の第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記第1および第2基線長の換算値が非整数倍の関係となるように設定される。
Description
本発明は、測定対象までの距離を測定する測距装置および測距方法に関し、特に、複数の画像に基づいて距離を測定する測距装置および測距方法に関する。
測定対象までの距離を測定する測距技術は、単に測量に用いられるだけでなく、様々な分野に利用されている。例えば、測距技術は、測定対象の三次元形状を測定する三次元形状測定装置や、車両やロボット等の移動体の周辺を監視する周辺監視装置等にも利用されている。このような測距技術の代表例として、例えば、超音波、電磁波およびレーザ光等の波を送信して測定対象で反射した前記波の反射波を受信し、その送信から受信までの時間を計測することによって測定対象までの距離を測定する測距技術がある。この測距技術は、波の送受信によって測距するため、比較的正確に測距できるが、測距範囲が比較的狭いという不都合がある。このため、複数の画像に対し対応点探索を行って、これら複数の画像における視差を求めることによって測定対象までの距離を測定する測距技術がある。この測距技術では、複数の画像を撮像する1対の撮像光学系間の距離(基線長)が長いほど、遠方の測定対象までの距離を精度よく測定することができる。そこで、基線長をできるだけ長くする技術が、例えば特許文献1に開示されている。
この特許文献1に開示された距離画像取得装置は、同じ曲率半径を有するレンズペアを複数備える、いわゆるアレイレンズを用いて被写体を撮像する。このアレイレンズの各レンズペアの曲率半径は互いに異なり、合焦距離が長いレンズペアはレンズ間隔(基線長)が長くなるように配置され、合焦距離が短いレンズペアは基線長が短くなるように配置されている。そして、距離画像取得装置は、レンズペアに対応する個眼像ペアのうち最も焦点があった個眼像ペアを抽出し、抽出した個眼像ペアを用いて被写体までの距離を算出する。
しかし、上述の特許文献1の技術では、測距精度はアレイレンズのサイズに左右されることになるので、より測距精度を上げようとすると測距装置の小型化が図れないこととなり得る。
本発明は、上述の事情に鑑みて為された発明であり、装置の小型化を図りながら、測距精度を上げることができる測距装置及び方法を提供することを目的とする。
本発明にかかる測距装置は、一体に配列された複数の第1撮像光学系を備える複眼カメラで少なくとも2つの第1撮像光学系を用いて撮像された画像と、第2撮像光学系を備える単眼カメラで撮像された画像とに基づいて測定対象物までの距離を求める装置であって、前記2つの第1撮像光学系のうちの1つの第1撮像光学系と前記第2撮像光学系との第1基線長と前記2つの第1撮像光学系の間の第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記第1および第2基線長の換算値が非整数倍の関係となるように設定される。そのため、このような測距装置は、装置の小型化を図りながら、測距精度を上げることができる。
上記並びにその他の本発明の目的、特徴及び利点は、以下の詳細な記載と添付図面から明らかになるであろう。
以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
<第1実施形態>
図1は、第1実施形態における測距装置の構成を示すブロック図である。図2は、第1実施形態の前記測距装置における画像取得部の構成を示すブロック図である。図3は、前記画像取得部におけるアレイカメラ及び単眼カメラの構成を示す斜視図である。図3Aは、アレイカメラを示し、図3Bは、単眼カメラを示す。図4は、アレイカメラのレンズおよび単眼カメラのレンズの配置を示す図である。図5は、アレイカメラおよび単眼カメラの撮像部(撮像画像)を示す。図6は、アレイカメラ及び単眼カメラの撮像画像の例を示す図である。
図1は、第1実施形態における測距装置の構成を示すブロック図である。図2は、第1実施形態の前記測距装置における画像取得部の構成を示すブロック図である。図3は、前記画像取得部におけるアレイカメラ及び単眼カメラの構成を示す斜視図である。図3Aは、アレイカメラを示し、図3Bは、単眼カメラを示す。図4は、アレイカメラのレンズおよび単眼カメラのレンズの配置を示す図である。図5は、アレイカメラおよび単眼カメラの撮像部(撮像画像)を示す。図6は、アレイカメラ及び単眼カメラの撮像画像の例を示す図である。
実施形態における測距装置は、ステレオ法(立体視法)で得られた複数の画像に対し対応点探索を行って前記複数の画像間における視差を求めることによって測定対象である所定の物体までの距離を測定する装置である。前記複数の画像は、前記測定対象の物体(被写体)を含み、例えば、予め定める基線長間隔だけ離間しかつそれらの各光軸が互いに平行となるように配置されたいわゆるステレオカメラによって得られる。前記対応点探索は、2個の画像に対し、一方を基準画像とし他方を参照画像とした場合に、基準画像上における所定の点に対応する参照画像上における点を探索する処理である。実施形態における測距装置は、所定の基線長間隔だけ離間されたアレイカメラと単眼カメラとにより取得された複数の画像に基づいて測定対象までの距離を求めるものである。
このような測距装置Dの各実施形態を以下に説明するが、まず、第1実施形態における測距装置Daは、例えば、図1に示すように、制御処理部1aと、記憶部2と、画像取得部3aと、入力部4と、出力部5とを備える。
画像取得部3aは、制御処理部1aに接続され、同一の測定対象(物体、被写体)を撮像した複数の画像を取得するものである。このような画像取得部3aは、例えば、図2に示すように、アレイカメラ31aと、単眼カメラ32aとを備える。
アレイカメラ31aは、複数の個眼レンズ(第1撮像光学系)を有するアレイレンズ部311aと、この複数の個眼レンズそれぞれによって結像された物体の光学像をそれぞれ撮像する複数の個眼撮像部(第1撮像部)を有するアレイ撮像部312aとを備える。
単眼カメラ32aは、単眼レンズ部321a(第2撮像光学系)と、この単眼レンズ部321aによって結像された物体の光学像を撮像する単眼撮像部322a(第2撮像部)とを備える。
図3Aに示すように、アレイレンズ部311aは、複数の個眼レンズ3111を備える。1個の個眼レンズ3111は、その光軸に沿って1または複数の光学レンズを備えて構成される。複数の個眼レンズ3111は、図3Aに示す例では、各光軸が互いに略平行となるように、そして、線形独立な2方向、より具体的には互いに直交するX方向およびY方向の2方向に2次元マトリクス状に配列される。図3Aに示す例では、複数の個眼レンズ3111は、3行3列に2次元マトリクス状に配列された9個の個眼レンズ3111−11〜3111−33として示されている。
アレイ撮像部312aは、複数の個眼撮像部3121を備える。1個の個眼撮像部3121は、2次元マトリクス状に配列された複数の光電変換素子(複数の画素)を備え、各光電変換素子は、それぞれ、受光した光の光量に応じて変換した電気信号を画像における各画素のデータとして出力する。複数の個眼撮像部3121は、アレイレンズ部311aにおける複数の個眼レンズ3111に対応し、各撮像面が互いに同一平面となるように配列される。図3Aに示す例では、複数の個眼撮像部3121は、線形独立な2方向、より具体的には互いに直交するX方向およびY方向の2方向に2次元マトリクス状に配列されている。図3Aに示す例では、複数の個眼撮像部3121は、3行3列に2次元マトリクス状に配列された9個の個眼撮像部3121−11〜3121−33として示されている。これら複数の個眼撮像部3121は、同一の基板上に2次元マトリクス状に配列された複数の前記固体撮像素子を備えて構成されて良いが、図3Aに示す例では、1個の前記固体撮像素子を備えて構成される。この場合、図5の左側の図に示すように、1個の前記固体撮像素子における有効画素領域が、各個眼撮像部3121に対応するように、2次元マトリクス状に配列された複数の領域に分割され、これら各領域が各個眼撮像部3121として利用されるものとする。図5の左側の図では、各個眼撮像部3121として利用される領域が、グレーの矩形で示されている。例えば、個眼撮像部3121−11に対応する領域は、「1」が記載されている矩形の領域である。
なお、一般に、撮像装置(カメラ)は、イメージセンサから出力される画像信号に対し、ホワイトバランス処理、フィルタ処理、階調変換処理および色空間変換処理等のいわゆる通常の画像処理を施し、最終的な画像信号を生成する。
単眼カメラ32aは、図3Bに示すように、単眼レンズ部321a(第2撮像光学系)と、この単眼レンズ部321aによって結像された物体の光学像を撮像する単眼撮像部322aとを備える。単眼レンズ部321aは、その光軸に沿って1または複数の光学レンズを備えて構成される。単眼撮像部322aは、1個の前記固体撮像素子を備えて構成され、この1個の前記固体撮像素子における有効画素領域が、単眼撮像部322aとして利用される。図5の右側の図において、単眼撮像部322aがグレーの矩形として示されている。
個眼撮像部3121及び単眼撮像部322aの各光電変換素子は、それぞれ、その受光した光をその光量に応じた電気信号に光電変換し、この電気信号を画像における各画素のデータとして制御処理部1aへ出力する。複数の個眼撮像部3121は、同じ被写体を写した略視差だけずれた画像データを出力する。
アレイカメラ31aと単眼カメラ32aは、予め定める基線長間隔だけ離間しかつそれらの各光軸が互いに平行となるように配置される。図4に示すように、アレイカメラ31aと単眼カメラ32aとは、アレイカメラ31aのレンズアレイにおける中央の個眼レンズ3111−22と単眼カメラ32aの単眼レンズ部321aとが、基線長Bbだけ離間するよう配置される。また、アレイカメラ31aの各個眼レンズ3111間は、基線長Baだけ離間するように配置されている。なお、アレイカメラ31aのレンズアレイにおける中央の個眼レンズ3111−22の光軸位置と、個眼レンズ3111−23の光軸位置と、単眼カメラ32aの単眼レンズ部321aの光軸位置とは、同一線上に配置されるものとする。
以下、アレイカメラ31aのアレイレンズ部311aを構成する各個眼レンズ3111は、図5に示されているアレイ撮像部312aの番号に合わせて、個眼レンズL1〜L9と呼称される。具体的には、個眼レンズ3111−11は個眼レンズL1と、個眼レンズ3111−12は個眼レンズL2と、個眼レンズ3111−13は個眼レンズL3と、個眼レンズ3111−21は個眼レンズL4と、個眼レンズ3111−22は個眼レンズL5と、個眼レンズ3111−23は個眼レンズL6と、個眼レンズ3111−31は個眼レンズL7と、個眼レンズ3111−32は個眼レンズL8と、個眼レンズ3111−33は個眼レンズL9と、それぞれ呼称される。そして、個眼レンズL1〜L9によって結像された物体の光学像が撮像された画像は、撮像画像P1〜P9と呼称される。また、単眼カメラ32aの単眼レンズ部321aによって結像された物体の光学像が撮像された画像は、撮像画像P0と呼称される。
図6で示すように、例えば、アレイカメラ31aの個眼レンズL5で撮像された撮像画像P5と、単眼カメラ32aの単眼レンズ部321aで撮像された撮像画像P0とが、ステレオ法で得られた画像となる。
第1実施形態では、アレイカメラ31aのアレイレンズ部311aの各個眼レンズ3111および単眼カメラ32aの単眼レンズ部321aは、画角が同じである。各個眼撮像部3121と単眼撮像部322aとは、同じ画素数(例えば、800画素×600画素)の画像データを出力する。
図1に戻って、入力部4は、制御処理部1aに接続され、例えば、測距の開始を指示するコマンド等の各種コマンド、および、例えば測定対象の物体を写した画像における識別子(ファイルネーム)の入力等の測距処理を実行する上で必要な各種データを測距装置Daに入力する機器であり、例えば、キーボードやマウス等である。
出力部5は、制御処理部1aに接続され、入力部4から入力されたコマンドやデータ、および、測距装置Daによって測距された測定対象までの距離や測距の際に用いた画像等を出力する機器であり、例えばCRT(Cathode Ray Tube)ディスプレイ、LCD(Liquid Crystal Display)および有機EL(Electroluminescence)ディスプレイ等の表示装置やプリンタ等の印刷装置等である。
なお、入力部4および出力部5からタッチパネルが構成されてもよい。このタッチパネルを構成する場合において、入力部4は、例えば抵抗膜方式や静電容量方式等の操作位置を検出して入力する位置入力装置であり、出力部5は、表示装置である。このタッチパネルでは、表示装置の表示面上に位置入力装置が設けられ、表示装置に入力可能な1または複数の入力内容の候補が表示され、ユーザが、入力したい入力内容を表示した表示位置を触れると、位置入力装置によってその位置が検出され、検出された位置に表示された表示内容がユーザの操作入力内容として測距装置Daに入力される。このようなタッチパネルでは、ユーザは、入力操作を直感的に理解し易いので、ユーザにとって取り扱い易い測距装置Daが提供される。
記憶部2は、制御処理部1aに接続され、測距処理を実行する上で必要な各種プログラムや各種データを記憶する装置であり、例えば、ROM(Read Only Memory)やEEPROM(Electrically Erasable Programmable Read Only Memory)等の不揮発性記憶素子、RAM(Random Access Memory)等の揮発性記憶素子およびその周辺回路等を備えて構成される。記憶部2は、例えばハードディスク等の大容量記憶装置を備えても良い。
そして、記憶部2は、画像データを記憶し、この画像データに対し制御処理部1aによって後述の測距処理を行うための作業領域として用いられる。
制御処理部1aは、所定の測距処理プログラムに基づき後述の測距処理を実行するべく、測距装置Daの各部を当該各部の機能に応じてそれぞれ制御するものである。前記所定の測距処理プログラムは、ステレオ法で得られた複数の画像に対し対応点探索を行って前記複数の画像間における視差を求めることによって測定対象の物体までの距離を測定するためのプログラムである。制御処理部1aは、例えば、CPU(Central Processing Unit)およびその周辺回路を備えて構成され、所定の測距処理プログラムを実行することによって、制御処理部1aには、機能的に、制御部11および距離演算部12aが構成される。
制御部11は、所定の測距処理を実行するために、測距装置Daの各部を当該各部の機能に応じてそれぞれ制御するものである。
距離演算部12aは、アレイカメラ31aおよび単眼カメラ32aによって得られた複数の画像データに基づいて測定対象の物体までの距離を求めるものである。
距離演算部12aは、例えば、図1に示すように、遠距離測距処理部121a、近距離測距処理部122aおよび距離算出部123を備える。
遠距離測距処理部121aは、アレイカメラ31aの所定の個眼レンズ(個眼レンズL5)による1つの撮像画像と、単眼カメラ32aによる撮像画像を用いて、測定対象物までの測距処理を行う。また、近距離測距処理部122aは、アレイカメラ31a内の個眼レンズ3111のペアによる撮像画像を用いて、測定対象物までの距離を算出する。アレイカメラ31aと単眼カメラ32aとを用いる場合は、図4に示すように、基線長Bbが基線長Baに比べて長いので、より遠くにある測定対象物までの距離を求めるのに適している。また、アレイカメラ31aの個眼レンズ3111同士を用いる場合は、図4に示すように、基線長Baが基線長Bbより短いので、より近くにある測定対象物までの距離を求めるのに適している。従って、距離演算部12aは、このような2つの処理を用いて、より正確な測距処理を行う。
ここで、遠距離測距処理部121aの行う処理について説明する。遠距離測距処理部121aが行う処理を示すフローチャートが図7に示されている。
遠距離測距処理部121aは、アレイカメラ31aのアレイレンズ部311aの個眼レンズL5を用いて作成された撮像画像P5と、単眼カメラ32aの単眼レンズ部321aを用いて作成された撮像画像P0とを、記憶部2を介して取得する(ステップS11、ステップS12、図8参照)。
次に、遠距離測距処理部121aは、撮像画像P5を基準画像とし、撮像画像P0を参照画像として対応点探索を行い(ステップS13)、視差(ずれ画素数)から距離を算出する(ステップS14)。
対応点探索処理では、まず、基準画像上で、対応点を探索したい所定の画素位置を中心に所定の大きさを持つウィンドウ(テンプレートT0)が設定される。同様に、参照画像上にも同じ大きさを持つウィンドウWが、いわゆるエピポーララインE0上に複数設定される。図8では、1個のウィンドウW0が例示されている。そして、基準画像上におけるテンプレートT0に対する、参照画像上における各ウィンドウWの一致度(相関度)が所定の手法で求められ(テンプレートマッチング)、最も一致度の高いウィンドウWにおける中心位置の画素が対応点として求められる。テンプレートT0の中心位置の画素と、対応点との差がずれ量となる。
実施形態では、図8の上段に示すように、撮像画像P5および撮像画像P0は、800画素×600画素の画像であり、テンプレートT0は、17画素×17画素のテンプレートである。
一致度を求める前記所定の手法には、公知の常套手段、例えば、SAD(Sum of Absolute Difference)法(絶対誤差法)が用いられる。SAD値は、以下の式を用いて算出する。T(i,j)は、テンプレートTの画素の輝度値であり、I(i,j)は、参照画像のウィンドウWの画素の輝度値である。座標(i,j)は、テンプレートTの幅をM画素、高さをN画素としたとき、テンプレートの左上の座標を(0,0)、右下を(M−1,N−1)とする場合の座標である。
SAD法は、テンプレートをラスタスキャンし、同じ位置の画素の輝度値の差の絶対値の合計であるので、似ているほど(近いパターンになるほど)、小さい値を示すことになる。
図8の下段の図に、遠距離測距処理部121aが求めたSAD値のグラフを示す。このグラフの横軸は、測定対象物(被写体)のまでの距離Zの逆数を表し、縦軸は、エピポーラライン上の複数のウィンドウWとテンプレートT0との一致度をSAD法により求めた値を示す。SAD法を用いた場合は、似ているほど小さい値を示すことから、「正解」の矢印が示すSAD値と対応する値が、対象物までの距離Zの逆数を示すことになる。
測定対象物までの距離は、視差、すなわち、対応点探索により求めた基準画像と参照画像とのずれ量に比例する。ここで、距離の算出について、図9を用いて説明する。予め定める間隔(基線長)だけ離間して設けられた一対のカメラによって被写体(測定対象物)の各画像が得られ、これら各画像に対し対応点探索がピクセル単位で実行され、これら各画像から前記離間方向における前記一対のカメラ間の視差がピクセル単位で求められ、この求められた視差に基づいて被写体までの距離がいわゆる三角測量の原理に基づいて求められる。より具体的には、図9において、少なくとも焦点距離(f)、撮像面(個眼撮像部3121または単眼撮像部322a)の画素数、1画素の大きさ(μ)が相互に等しい2台の第1および第2カメラが、所定の基線長(B)だけ左右に離間させてそれぞれの光軸を平行に配置され、これら第1および第2カメラで物体(被写体)Obが撮影された場合に、撮像面IP−1、IP−2上の視差(ずれ画素数)がdであるとすると、前記物体(被写体)Obまでの距離(Z)は、
Z:f=B:(d×μ)
の関係があり、
Z=(B×f)/(d×μ)
で求めることができる。
Z:f=B:(d×μ)
の関係があり、
Z=(B×f)/(d×μ)
で求めることができる。
次に、近距離測距処理部122aの処理について説明する。近距離測距処理部122aは、アレイカメラ31aで撮像された画像のみを用いて処理を行う。図10に示すように、近距離測距処理部122aは、個眼レンズL5を用いて撮像された(アレイ撮像部312により出力された)撮像画像P5と、他の個眼レンズL1〜L4、個眼レンズL6〜L9を用いて撮像された8つの撮像画像Pそれぞれと対応点探索を行う。この近距離測距処理部122aが行う処理を示すフローチャートが図11に示されている。
近距離測距処理部122aは、アレイカメラ31aのアレイレンズ部311aの個眼レンズL5を用いて撮像された撮像画像P5を参照画像として取得し(ステップS21)、個眼レンズL1〜4、個眼レンズL6〜9を用いて撮像された撮像画像P1〜4、撮像画像P6〜9を取得する(ステップS22)。
次に、近距離測距処理部122aは、撮像画像P5を基準画像とし、撮像画像P1〜P4、撮像画像P6〜P9の8つの撮像画像をそれぞれ参照画像として対応点探索を行い、SAD値を求める(ステップS23、ステップS24:No)。具体的には、図12Aに示すように、対応点探索処理では、まず、基準画像である撮像画像P5上に、テンプレートT0が設定され、参照画像である撮像画像P1上にも同じ大きさを持つウィンドウW1が、いわゆるエピポーララインE1上に複数設定される。そして、テンプレートT0に対する、撮像画像P1における各ウィンドウWの一致度(相関度)がSAD法で求められる。参照画像を撮像画像P1とした場合の、SAD値のグラフが、図12Bの最上段のグラフとして示されている。同様に、参照画像として撮像画像P2〜P4、撮像画像P6〜P9を用いて、それぞれのペアのSAD値のグラフが求められる。なお、エピポーララインとは、基準画像側のカメラの視線を参照画像上に投影した線であるので、撮像画像P1〜P4および撮像画像P6〜P9の各参照画像内のエピポーララインはそれぞれ異なっている。例えば、基準画像の個眼レンズL5の右上の個眼レンズL3の撮像画像P3内のエピポーララインE3は、個眼レンズL5と個眼レンズL3との基線長分ずれた位置から右上がりのラインとなっている。
近距離測距処理部122aは、8つの撮像画像について、参照画像とのペアでSAD値を求めると(ステップS24:Yes)、求めた8つのSAD値を加算した加算SAD値を求める(ステップS25)。図12Bの最下段に、加算SDA値のグラフを示す。
加算SAD値を求めた近距離測距処理部122aは、「正解」の矢印が示す最も小さいSAD値に対応するウィンドウWの中心位置の画素を対応点とし、テンプレートT0の中心位置の画素とのずれ量を求め、測定対象物までの距離を算出する(ステップS26)。近距離測距処理部122aの場合、基準画像と複数の参照画像とのペアを用いて距離を算出できるので、テンプレートTのサイズは、遠距離測距処理部121aで用いるテンプレートTよりも小さくできる。例えば、撮像画像P5内のテンプレートT0のサイズは、5画素×5画素である。
図1に戻って、距離算出部123は、遠距離測距処理部121aおよび近距離測距処理部122aそれぞれが算出した距離を取得し、取得した距離に基づいて、測定対象物までの距離を算出する。例えば、距離算出部123は、それぞれの距離の平均を測定対象物までの距離とする、または、信頼性の高い方の距離を採用するなどである。
<基線長について>
ここで、アレイカメラ31aと単眼カメラ32aの基線長について、図13、14を用いて説明する。ここでは、撮像画像P内の繰り返し模様(パターン)上に、エピポーララインが重なった場合を考える。図13は、アレイカメラ31aの個眼レンズL5と、単眼カメラ32aの単眼レンズ部321aとの基線長Bbが、個眼レンズL5と個眼レンズL6との基線長Baの2倍(整数倍)であった場合を説明するための図である。
ここで、アレイカメラ31aと単眼カメラ32aの基線長について、図13、14を用いて説明する。ここでは、撮像画像P内の繰り返し模様(パターン)上に、エピポーララインが重なった場合を考える。図13は、アレイカメラ31aの個眼レンズL5と、単眼カメラ32aの単眼レンズ部321aとの基線長Bbが、個眼レンズL5と個眼レンズL6との基線長Baの2倍(整数倍)であった場合を説明するための図である。
図13の、部分画像60は、個眼レンズL5による撮像画像P5の一部分を示す部分画像であり、縦縞の模様の画像である。部分画像70は、個眼レンズL6による撮像画像P6の一部分を示す部分画像であり、エピポーララインE6上の画像である。つまり、基線長がBaの場合である。
部分画像60上のテンプレートT0の中心位置の画素が、縦縞模様の縁部分にあるものとする。テンプレートマッチングにおいて、エピポーララインE6上の或る点から所定数の画素ずらした点を内包するウィンドウWとテンプレートT0との一致度(相関値)を算出し、更に、所定数の画素ずらした点(走査点)を内包するウィンドウWとテンプレートT0との一致度を算出することが繰り返えされる(以下、この処理は、「エピポーララインEを走査する」と呼称される。)。エピポーララインE6上を走査する場合、走査点が縦縞模様の縁部分にあるときの一致度が高くなる。このような場合は、例えば、走査点71、72の場合である。正しい対応点は、走査点71であるとする。なお、走査点73は、1/Z=0で無限遠を示し、この走査点からの画素のずれ量が、視差と呼称される。
測定対象物までの距離は、図9を用いて説明したように、Z=(B×f)/(d×μ)であるので、1/Z=(d×μ)/(B×f)である。よって、1/Zobj=(dobj×μ)/(Ba×f)となる。Zは、算出した測定対象物までの距離であり、Zobjは、撮影時の測定対象物までの距離(正しい距離)であり、dobjは視差を示す。
走査点71における算出距離Z71は、以下のようになる。
1/Z71=1/Zobj
Z71=Zobj
1/Z71=1/Zobj
Z71=Zobj
走査点72における算出距離Z72は、視差がdobj×2で2倍あるため、以下のようになる。
1/Z72=(dobj×2×μ)/(Ba×f)=2/Zobj
Z72=Zobj/2
つまり、走査点72の場合は、一致度は高いが、正しい対応点とは異なる走査点であり、間違った距離が算出されることになる。
1/Z72=(dobj×2×μ)/(Ba×f)=2/Zobj
Z72=Zobj/2
つまり、走査点72の場合は、一致度は高いが、正しい対応点とは異なる走査点であり、間違った距離が算出されることになる。
次に、部分画像80は、単眼カメラ32aの単眼レンズ部321aによる撮像画像P0の一部分を示す部分画像であり、エピポーララインE0上の画像である。つまり、基線長がBb=Ba×2の場合である。この場合、例えば、走査点81、82において、一致度は高くなる。正しい対応点は、走査点81であるとする。
測定対象物までの距離は、図9を用いて説明したように、Z=(B×f)/(d×μ)であるので、1/Z=(d×μ)/(B×f)である。ただし、Bb=Ba×2である。
走査点81における、算出距離Z81は以下のようになる。
1/Z81=(dobj×2×μ)/(Ba×2×f)=(dobj×μ)/(Ba×f)=1/Zobj
Z81=Zobj
すなわち、視差は基線長に比例し、2倍の長さとなることが分かる。
1/Z81=(dobj×2×μ)/(Ba×2×f)=(dobj×μ)/(Ba×f)=1/Zobj
Z81=Zobj
すなわち、視差は基線長に比例し、2倍の長さとなることが分かる。
走査点82における、算出距離Z82は以下のようになる。
1/Z82=(dobj×4×μ)/(Ba×2×f)=2/Zobj
Z82=Zobj/2
つまり、走査点82の場合は、一致度は高いが、正しい対応点とは異なる走査点であり、間違った距離が算されることになる。なお、走査点83は、1/Z=0であり、無限遠を示す。
1/Z82=(dobj×4×μ)/(Ba×2×f)=2/Zobj
Z82=Zobj/2
つまり、走査点82の場合は、一致度は高いが、正しい対応点とは異なる走査点であり、間違った距離が算されることになる。なお、走査点83は、1/Z=0であり、無限遠を示す。
図13の下段に、SAD値のグラフが示されている。このグラフにおいて、実線のグラフは、参照画像として個眼レンズL6による撮像画像P6(部分画像70)を用いた場合のSAD値を表し、破線のグラフは、参照画像として単眼レンズ部321aによる撮像画像P0(部分画像80)を用いた場合のSAD値を表す。このグラフのように、基線長が2倍になると周波数も2倍になり、基線長が整数倍である場合、周期が同期してしまうことがわかる。そこで、正解の距離(1/Zobj)において(走査点71、81)、双方のグラフは小さい値を示すが、間違いの距離(2/Zobj)においても(走査点72、82)、小さい値を示す。つまり、画像内の繰り返しパターンが、上述のような特定のパターン(視差の間隔で模様が繰り返されるパターン)である場合、図13の下段のグラフが示すように、間違いの距離も正しいかのようなSAD値が示されることになり、正しい判断が難しくなる。言い換えれば、個眼レンズL6による撮影画像でのある視差量(ずれ量)の走査点と、同じ視差量(ずれ量)となる単眼レンズ部321aによる撮像画像での走査点との、両走査点の横軸(1/Z)上での座標値が整数倍になっているためにSAD値の周期が同期してしまう。例えば、個眼レンズL6による撮影画像での走査点72の横軸(1/Z)上での座標値(2/Zobj)は、同じ視差量(ずれ量)である単眼レンズ部321aによる撮像画像での走査点81の横軸(1/Z)上での座標値(1/Zobj)の整数倍である。
次に、図14を用いて、アレイカメラ31aの個眼レンズL5と、単眼カメラ32aの単眼レンズ部321aとの基線長Bbが、個眼レンズL5と個眼レンズL6との基線長Baの2.15倍、つまり、整数倍でない場合を説明する。
図14において、部分画像70のエピポーララインE6上をテンプレートマッチングにより走査する場合は、図13における場合と同様に、走査点71、72において一致度が高くなる。
部分画像80は、図13と同様に、単眼カメラ32aの単眼レンズ部321aによる撮像画像P0の一部分を示す部分画像であり、エピポーララインE0上の画像である。但し、基線長がBb=Ba×2.15の場合である点が異なる。この場合、走査点84が正しい対応点であるとする。この場合の測定対象物までの距離Zは、図9を用いて説明したように、Z=(B×f)/(μ×d)であるので、1/Z=(d×μ)/(B×f)である。ただし、Bb=Ba×2.15であり、視差は、図13の場合と同様に、2.15×dobjと2.15倍になる。
走査点84における、算出距離Z84は、以下のようになる。
1/Z84=1/Zobj
Z84=Zobj
1/Z84=1/Zobj
Z84=Zobj
走査点85における、算出距離Z85は以下のようになる。
1/Z85=2/Zobj
Z85=Zobj/2
しかし、走査点85の場合は、一致度は高くならないので、正しい対応点とは判断されない。
1/Z85=2/Zobj
Z85=Zobj/2
しかし、走査点85の場合は、一致度は高くならないので、正しい対応点とは判断されない。
図14の下段に、SAD値のグラフが示されている。このグラフにおいて、実線のグラフが、参照画像として個眼レンズL6による撮像画像P6(部分画像70)を用いた場合のSAD値を表し、破線のグラフが、参照画像として単眼レンズ部321aによる撮像画像P0(部分画像80)を用いた場合のSAD値を表す。このグラフを参照すると、正解の距離(1/Zobj)において(走査点71、84)、双方のグラフは小さい値を示すが、間違いの距離(2/Zobj)において、走査点72のSAD値は小さい値となるが、走査点85のSAD値は大きい値を示す。つまり、基線長が非整数倍の2.15倍であることで破線の周波数が2.15倍となり、正解の位置では、2つのグラフでゼロに近いピークが示されるが、それ以外では、2つのグラフのピークはずれることになる。言い換えれば、個眼レンズL6による撮影画像でのある視差量(ずれ量)の走査点と、同じ視差量(ずれ量)となる単眼レンズ部321aによる撮像画像での走査点との、両走査点の横軸(1/Z)上での座標値が非整数倍になっているためにSAD値のピークがずれている。
従って、アレイカメラ31aの個眼レンズL5と、単眼カメラ32aの単眼レンズ部321aとの基線長Bbが、個眼レンズL5と個眼レンズL6との基線長Baの整数倍でない場合、言い換えれば、個眼レンズL6による撮影画像でのある視差量(ずれ量)の走査点と、同じ視差量(ずれ量)となる単眼レンズ部321aによる撮像画像での走査点との、両走査点の横軸(1/Z)上での座標値が非整数倍になっている場合には、SAD値を加算すれば、正しい位置でピークが表れるので、測定対象物までの正しい距離を算出することが可能となる。この場合、距離算出部123において、遠距離測距処理部121aが作成したSAD値と、近距離測距処理部122aが作成したSAD値とを加算して、加算SAD値に基づいて、測定対象物までの距離を算出することにより、より正しい距離が算出可能となる。アレイカメラ31aの個眼レンズL5と単眼カメラ32aの単眼レンズ部321aとの基線長Bbが、個眼レンズL5と個眼レンズL6との基線長Baの非整数倍であれば測距精度に効果があるが、この非整数は、整数から1%程度違っていれば効果がある。
<測距装置Dの動作>
次に、本実施形態における測距装置の動作について説明する。測距装置Daは、例えば、ユーザの操作によって入力部4から起動コマンドを受け付けると、測距処理プログラムを実行する。この画像処理プログラムの実行によって、制御処理部1aに制御部11および距離演算部12aが機能的に構成され、そして、遠距離測距処理部121a、近距離測距処理部122a、および、距離算出部123が機能的に構成される。そして、測距装置Daは、例えば、ユーザの操作によって入力部4から測距開始コマンドを受け付けると、測距を実行する。
次に、本実施形態における測距装置の動作について説明する。測距装置Daは、例えば、ユーザの操作によって入力部4から起動コマンドを受け付けると、測距処理プログラムを実行する。この画像処理プログラムの実行によって、制御処理部1aに制御部11および距離演算部12aが機能的に構成され、そして、遠距離測距処理部121a、近距離測距処理部122a、および、距離算出部123が機能的に構成される。そして、測距装置Daは、例えば、ユーザの操作によって入力部4から測距開始コマンドを受け付けると、測距を実行する。
距離演算部12aは、遠距離測距処理部121aおよび近距離測距処理部122aに測距処理を指示する。遠距離測距処理部121aおよび近距離測距処理部122aは、上述のようにそれぞれ測距処理を行い、算出した距離を距離算出部123に出力する。
遠距離測距処理部121aおよび近距離測距処理部122aから距離を受信した距離算出部123は、上述したように、測定対象物までの距離を算出する。
距離演算部12aは、距離算出部123が算出した距離を、出力部5に出力する。
<第2実施形態>
第1実施形態の測距装置Daでは、画像取得部3aにおいて、アレイカメラ31aの個眼レンズLと、単眼カメラ32aの単眼レンズ部321aとは、同じ特性を持つ。一方、第2実施形態の測距装置Dbでは、画像取得部3bにおいて、図15に示すように、単眼カメラ32bは、アレイカメラ31aの個眼レンズLとは異なる特性を有する単眼レンズ部321bを備える。なお、画像取得部3bは、アレイカメラとして、実施形態1と同じアレイカメラ31aを備える。図16の左側の図には、アレイ撮像部312aにおいて各個眼撮像部3121として利用される領域が、グレーの矩形で示されており、右側の図には、単眼撮像部322bがグレーの矩形として示されている。
第1実施形態の測距装置Daでは、画像取得部3aにおいて、アレイカメラ31aの個眼レンズLと、単眼カメラ32aの単眼レンズ部321aとは、同じ特性を持つ。一方、第2実施形態の測距装置Dbでは、画像取得部3bにおいて、図15に示すように、単眼カメラ32bは、アレイカメラ31aの個眼レンズLとは異なる特性を有する単眼レンズ部321bを備える。なお、画像取得部3bは、アレイカメラとして、実施形態1と同じアレイカメラ31aを備える。図16の左側の図には、アレイ撮像部312aにおいて各個眼撮像部3121として利用される領域が、グレーの矩形で示されており、右側の図には、単眼撮像部322bがグレーの矩形として示されている。
単眼レンズ部321bは、測距したい遠距離の範囲に性能が出ているレンズであれば、どのような特性を有していてもよく、その例が、図17に示されている。図17は、レンズの光学性能を表すグラフであり、縦軸にMTF(Modulation Transfer Function)を表し、横軸に被写体までの距離を表す。MTFとは、レンズ性能を評価する指標のひとつであり、レンズの結像性能を知るために、被写体の持つコントラストをどの程度忠実に再現できるかを空間周波数特性として表現したものである。アレイカメラ31aの個眼レンズLの特性が破線のグラフで示され、単眼カメラ32bの単眼レンズ部321bの特性が実線で示されている。個眼レンズLは、比較的近距離から性能が出ており、単眼レンズ部321bは比較的遠距離から性能が出ている。レンズ性能がこのグラフのような場合、比較的近距離では、アレイカメラ31aのみを用いて測距を行い、遠距離では、アレイカメラ31aと単眼カメラ32bとを用いて測距を行うのが良いことがわかる。
第2実施形態では、単眼レンズ部321bは、個眼レンズLと、画角(焦点距離)とセンサーサイズ(撮像画像の画素数)が異なる。画角と画素数が異なる場合の、撮像画像の例が、図18に示されている。
図18Aは、アレイカメラ31aの個眼レンズL5による撮像画像P5と、単眼カメラ32bの単眼レンズ部321bによる撮像画像P10を示す図である。図18Bは、画角と画素数の関係を示す図である。
図18Bに示すように、単眼レンズ部321bの画角が、個眼レンズL5の画角よりも大きい場合には、撮影範囲が大きく(広く)なる。従って、図18Aに示すように、撮像画像P5は、800画素×600画素の画像となり、撮像画像P10は、撮像画像P5よりも大きい1024画素×768画素の画像となる。但し、画角が、単眼レンズ部321bの方が個眼レンズL5よりも大きいため、同一視野で比較すると、撮像画像P5は、撮像画像P10内の破線の矩形で示す720画素×540画素の領域を占めることになる。
第2実施形態の遠距離測距処理部121bが行う処理を示すフローチャートが、図19に示されている。遠距離測距処理部121bは、対応点探索を行う前に、基準画像と参照画像における同一視野の領域が、同じ画素数となるように解像度の変換を行うものである。
遠距離測距処理部121bは、アレイカメラ31aのアレイレンズ部311aの個眼レンズL5を用いて作成された撮像画像P5と、単眼カメラ32bの単眼レンズ部321bを用いて作成された撮像画像P10とを、記憶部2を介して取得する(ステップS31、ステップS32、図18A参照)。
次に、遠距離測距処理部121bは、撮像画像P10の解像度変換を行う(ステップS33)。詳細には、図20に示すように、遠距離測距処理部121bは、撮像画像P10内における、撮像画像P5と同一視野の領域(同一画角領域(破線の矩形領域)、720画素×540画素)を、撮像画像P5の画素値(800画素×600画素)に変換して、画像P11を作成する。解像度の変換は、例えば、バイキュービック補間により行う。
次に、遠距離測距処理部121bは、図21に示すように、撮像画像P5を基準画像とし、解像度変換により作成した画像P11を参照画像として対応点探索を行い(ステップS34)、ずれ量(画素数)から距離を算出する(ステップS35)。距離を算出する際、遠距離測距処理部121bは、解像度変換により1画素の大きさが変わっていることを考慮して、距離を算出する。遠距離測距処理部121bは、例えば、図21の画像P11において、ずれ画素数が8画素である場合には、7.2画素のずれとみなして距離を算出する。
なお、上記説明では、遠距離測距処理部121bは、単眼カメラ32bによる撮像画像P10を解像度変換したが、アレイカメラ31による撮像画像P5を解像度変換してもよく、双方を変換してもよい。つまり、遠距離測距処理部121bは、撮像画像P10および撮像画像P5それぞれの画像内の所定の画角領域の画素数が同じになるように、撮像画像P10および撮像画像P5の少なくとも一方の画素数を変換する。
解像度変換する場合、2つの画像を正確に同じ画素数にするように変換する必要はない。例えば、撮像画像P10内における、撮像画像P5と同一視野の領域(破線の矩形領域、720画素×540画素)から、撮像画像P5の画素値(800画素×600画素)ピッタリの画像P11が作成されなくてもよい。つまり、テンプレートマッチングにおいて所定の精度が出るような画素数の画像が変換されればよい。例えば、撮像画像P5内のテンプレートTが17画素×17画素である場合、画像P11におけるウィンドウが、16.5画素〜17.5画素の範囲となるように解像度が変換されていればよい。
<基線長について>
第1実施形態の測距装置Daにおいて、図13、14を用いて、撮像画像に繰り返し模様(パターン)が現れる場合を考慮して、アレイカメラ31aの個眼レンズL5と単眼カメラ32aの単眼レンズ部321aとの基線長Bbを、個眼レンズL5と個眼レンズL6との基線長Baの非整数倍にすることが望ましいことを説明した。第2実施形態においても、同様の不都合が発生しうる。第2実施形態の測距装置Dbは、単眼レンズ部321bの性能が個眼レンズLと画角が異なることから、焦点距離の考慮が必要となる。
第1実施形態の測距装置Daにおいて、図13、14を用いて、撮像画像に繰り返し模様(パターン)が現れる場合を考慮して、アレイカメラ31aの個眼レンズL5と単眼カメラ32aの単眼レンズ部321aとの基線長Bbを、個眼レンズL5と個眼レンズL6との基線長Baの非整数倍にすることが望ましいことを説明した。第2実施形態においても、同様の不都合が発生しうる。第2実施形態の測距装置Dbは、単眼レンズ部321bの性能が個眼レンズLと画角が異なることから、焦点距離の考慮が必要となる。
図22を用いて、測距装置Dbの基線長について説明する。図22Aは、アレイカメラ31a内の個眼レンズL5と個眼レンズL6とを用いた場合を説明するための図である。この場合の測定対象物までの距離Zは、図9を用いて説明したように、Z=(B×f)/(d×μ)であるので、1/Z=(d×μ)/(B×f)である。よって、1/Zobj=(dobj×μ)/(Ba×f)となる。Zは、算出した測定対象物までの距離であり、基線長がBa、Zobjは、撮影時の測定対象物までの距離(正しい距離)であり、dobjは視差を示す。
従って、以下の場合に、一致度が高くなる。
1/Z=1/Zobj
1/Z=2/Zobj
但し、個眼レンズL5と個眼レンズL6とは、焦点距離(f)、撮像面の画素数(画角、焦点距離)が等しい。
1/Z=1/Zobj
1/Z=2/Zobj
但し、個眼レンズL5と個眼レンズL6とは、焦点距離(f)、撮像面の画素数(画角、焦点距離)が等しい。
図22Bは、アレイカメラ31aの個眼レンズL5と単眼カメラ32bの単眼レンズ部321bを用いて場合を説明するための図である。単眼レンズ部321の焦点距離が、個眼レンズL5の焦点距離fの1.5倍であり、基線長が、図22Aの場合の基線長Baの2倍であるとする。
図22Bの場合の測定対象物までの距離Zは、図9を用いて説明したように、Z=(B×f)/(d×μ)であるので、1/Z=(d×μ)/(B×f)である。Bb=Ba×2であり、焦点距離がf×1.5である。よって、1/Zobj=(dobj×3×μ)/(Ba×2×f×1.5)となる。
従って、以下の場合に、一致度が高くなる。
1/Z=1/Zobj
1/Z=2/Zobj
つまり、図13の下段に示すようなSAD値のグラフを作成すると、dobjの3倍の周期でSAD値が小さい場合が、画像内の繰り返しパターンと同期して現れることになる。
1/Z=1/Zobj
1/Z=2/Zobj
つまり、図13の下段に示すようなSAD値のグラフを作成すると、dobjの3倍の周期でSAD値が小さい場合が、画像内の繰り返しパターンと同期して現れることになる。
測距装置Dbのように、個眼レンズLと単眼レンズ部321との焦点距離が異なる場合には、このように焦点距離と基線長との組み合わせによって、上述したような周期性の問題が起こるため、焦点距離と基線長の積が非整数倍となるように、基線長を設定する必要がある。
<オクルージョンについて>
ここで、オクルージョンに対する対策ついて説明する。ステレオ画像では、撮影対象の空間のうち、いずれか一方の撮像画像にしか映らない空間が発生する場合がある。いわゆるオクルージョン部分(隠れによる非共通領域)が発生する場合がある。
ここで、オクルージョンに対する対策ついて説明する。ステレオ画像では、撮影対象の空間のうち、いずれか一方の撮像画像にしか映らない空間が発生する場合がある。いわゆるオクルージョン部分(隠れによる非共通領域)が発生する場合がある。
このオクルージョン領域の大きさは、測定対象物までの距離によって異なる。図23は、遠距離の測定対象物Obを撮影する場合を示し、図24は、近距離の測定対象物Obを撮影する場合を示す。
図23には、アレイカメラ31aの個眼レンズL5による撮像画像P5と、単眼カメラ32bの単眼撮像部322bによる撮像画像P10とが示されている。撮像画像P5と撮像画像P10とでは、オクルージョン部分は限定的であり、テンプレートマッチングで対応点が見つかる可能性はかなり高い。
また、図24には、アレイカメラ31aの個眼レンズL4、個眼レンズL5、個眼レンズL6による撮像画像P4、撮像画像P5、撮像画像P6が示されている。撮像画像P4、撮像画像P5、撮像画像P6のそれぞれでは、撮像対象の人の頭部分Hにより、オクルージョン部分が大きくなっている。
従って、測距装置Dbでは、近距離測距処理部122において、アレイカメラ31aの個眼レンズL同士で対応点探索を行って測距処理を行う場合、多くのペアにおいて対応点探索を行うことで、オクルージョンが発生しても、より正確な距離を算出することが可能となる。これは、撮像画像の中央を基準に、異なる方向を見ると、いずれかの方向にはオクルージョンではない領域が存在するためである。つまり、例えば、個眼レンズL5と、周囲のいずれかの個眼レンズLとのペアでは、対応点探索が成功する可能性が高いことになる。
<第3実施形態>
第2実施形態の測距装置Dbでは、画像取得部3bにおいて、図15に示すように、単眼カメラ32bは、アレイカメラ31aの個眼レンズLと異なる特性を有する単眼レンズ部321bを備え、アレイカメラ31aの各個眼レンズLは同一特性を有する。一方、第3実施形態の測距装置Dcでは、画像取得部3cが有するアレイカメラ31cの複数の個眼レンズLのうちの1つ(個眼レンズL1)が、他の個眼レンズLと異なる特性を有する。この個眼レンズL1は、その光学性能のピーク位置を遠くに持つレンズであり、他の8つの個眼レンズLは、その光学性能のピーク位置を近くに持つ。単眼カメラ32cの単眼レンズ部321cは、その光学性能のピーク位置を遠くに持つレンズである。なお、個眼レンズL1は、単眼カメラ32cの単眼レンズ部321cと同じ特性を有するものであっても、異なってもよい。尚、実施形態でのレンズの光学性能とは、例えば、前記MTF(Modulation Transfer Function)で表されるレンズ性能である。ピーク位置とは、MTFが所定の閾値よりも高い距離をいう。
第2実施形態の測距装置Dbでは、画像取得部3bにおいて、図15に示すように、単眼カメラ32bは、アレイカメラ31aの個眼レンズLと異なる特性を有する単眼レンズ部321bを備え、アレイカメラ31aの各個眼レンズLは同一特性を有する。一方、第3実施形態の測距装置Dcでは、画像取得部3cが有するアレイカメラ31cの複数の個眼レンズLのうちの1つ(個眼レンズL1)が、他の個眼レンズLと異なる特性を有する。この個眼レンズL1は、その光学性能のピーク位置を遠くに持つレンズであり、他の8つの個眼レンズLは、その光学性能のピーク位置を近くに持つ。単眼カメラ32cの単眼レンズ部321cは、その光学性能のピーク位置を遠くに持つレンズである。なお、個眼レンズL1は、単眼カメラ32cの単眼レンズ部321cと同じ特性を有するものであっても、異なってもよい。尚、実施形態でのレンズの光学性能とは、例えば、前記MTF(Modulation Transfer Function)で表されるレンズ性能である。ピーク位置とは、MTFが所定の閾値よりも高い距離をいう。
図25に示すように、測距装置Dcでは、アレイカメラ31cと単眼カメラ32cとは、アレイカメラ31cのアレイレンズ部311cの左上の個眼レンズ3111−11(L1)と単眼カメラ32cの単眼レンズ部321cとが、基線長Bb2だけ離間するように、配置される。アレイカメラ31cの個眼レンズL1以外の各個眼レンズL間は、基線長Baだけ離間するように配置されている。つまり、個眼レンズ3111−22(L5)の光軸位置と個眼レンズ3111−23(L6)の光軸位置とを結ぶ直線と、個眼レンズ3111−11(L1)の光軸位置と、単眼レンズ部321cの光軸位置とを結ぶ直線とが、交わらない位置関係である。図26の左側の図には、アレイ撮像部312cにおいて各個眼撮像部3121として利用される領域が、グレーの矩形で示されており、右側の図には、単眼撮像部322cがグレーの矩形として示されている。
なお、単眼レンズ部321cは、個眼レンズL1とペアになっているが、他の1つの個眼レンズLとペアであってもよい。ペアとなるレンズは、個眼レンズL1および単眼レンズ部321b共に、測距したい遠距離の範囲に性能が出ているレンズであればよい。
測距装置Dcのように、アレイカメラ31cの単眼レンズ部321cに、近距離用の個眼レンズLと遠距離用の個眼レンズLとを持つ場合には、図25に示すように、近距離用の個眼レンズLを多く持つことにより、オクルージョンが発生しても、正確な測距を行える可能性が高くなる。
アレイ撮像部312cの個眼レンズL1、個眼レンズL2〜9、単眼レンズ部321cの各特性の例が、図27に示されている。図27は、レンズの光学性能のグラフであり、縦軸にMTFを表し、横軸に被写体までの距離を表す。アレイカメラ31cの個眼レンズL2〜9の特性が破線のグラフで示され、個眼レンズL1の特性が一点鎖線のグラフで示され、単眼カメラ32cの単眼レンズ部321cの特性が実線で示されている。個眼レンズL2〜9は、近距離にのみ性能が出ており、個眼レンズL1は比較的遠距離から性能が出ている。単眼レンズ部321cは、個眼レンズL2〜9と個眼レンズL1との間の距離から性能が出ている。レンズ性能がこのグラフのような場合、近距離では、アレイカメラ31cのみを用いて、個眼レンズL2〜9同士のペアで測距を行い、遠距離では、アレイカメラ31cの個眼レンズL1と単眼カメラ32cとを用いて測距を行うのが良いことがわかる。
次に、近距離測距処理部122cの処理について説明する。近距離測距処理部122cは、アレイカメラ31cで撮像された画像のみを用いて処理を行う。図28に示すように、近距離測距処理部122cは、個眼レンズL5を用いて撮像された撮像画像P5と、他の個眼レンズL2〜L4、個眼レンズL6〜L9を用いて撮像された7つの撮像画像Pそれぞれと対応点探索を行う。この近距離測距処理部122cが行う処理を示すフローチャートが図29に示されている。
近距離測距処理部122cは、アレイカメラ31cのアレイレンズ部311cの個眼レンズL5を用いて撮像された撮像画像P5を参照画像として取得し(ステップS41)、個眼レンズL2〜4、個眼レンズL6〜9を用いて撮像された撮像画像P2〜4、撮像画像P6〜9を取得する(ステップS42)。
次に、近距離測距処理部122cは、撮像画像P5を基準画像とし、撮像画像P2〜P4、撮像画像P6〜P9の7つの撮像画像をそれぞれ参照画像として対応点探索を行い、SAD値を求める(ステップS43、ステップS44:No)。
近距離測距処理部122cは、7つの撮像画像について、参照画像とのペアでSAD値を求めると(ステップS44:Yes)、求めた7つのSAD値を加算した加算SAD値を求める(ステップS45)。
加算SAD値を求めた近距離測距処理部122cは、最も小さいSAD値に対応するウィンドウWの中心位置の画素を対応点とし、テンプレートT0の中心位置の画素とのずれ量を求め、測定対象物までの距離を算出する(ステップS46)。
遠距離測距処理部121cは、個眼レンズL1と単眼レンズ部321cの特性が同じ場合には、図7を用いて説明した処理を行い、個眼レンズL1と単眼レンズ部321cの特性(画角)が異なる場合には、図19を用いて説明した処理を行って、測定対象物までの距離を求める。
<第4実施形態>
第4実施形態では、画像取得部3dのアレイカメラ31dおよび単眼カメラ32dが、それぞれ色フィルタを備える。
第4実施形態では、画像取得部3dのアレイカメラ31dおよび単眼カメラ32dが、それぞれ色フィルタを備える。
図30は、第4実施形態の測距装置Ddにおける画像取得部3dの構成を示すブロック図である。画像取得部3dは、アレイカメラ31dと、単眼カメラ32dとを備える。
アレイカメラ31dは、複数の個眼レンズを有するアレイレンズ部311aと、この複数の個眼レンズそれぞれによって結像された物体の光学像をそれぞれ撮像する複数の個眼撮像部を有するアレイ撮像部312aと、アレイ色フィルタ部313aとを備える。
アレイ色フィルタ部313aは、複数の色フィルタ部を備える。複数の色フィルタ部は、アレイレンズ部311aにおける複数の個眼レンズ3111に対応し、各受光面が互いに同一平面となるように配列される。本実施形態では、複数の色フィルタ部は、線形独立な2方向、より具体的には互いに直交するX方向およびY方向の2方向に2次元マトリクス状に配列されている。より具体的には、例えば、複数の色フィルタ部3は、3行3列に2元マトリクス状に配列された9個の色フィルタ部(不図示)を備える。
これら複数の色フィルタ部それぞれは、互いに異なる単色の色フィルタを備えて構成される。図31は、アレイレンズ部311aの各個眼レンズLと色フィルタの色の対応関係を示す。図31に示すように、アレイレンズ部311aの各個眼レンズLに、互いに異なる単色の色フィルタが対応して配置される。具体的には、個眼レンズL1、個眼レンズL3、個眼レンズL6、個眼レンズL7および個眼レンズL8には、緑色(G)のフィルタが配置され、個眼レンズL2および個眼レンズL8には、赤色(R)のフィルタが配置され、個眼レンズL4および個眼レンズL6には、青色(B)のフィルタが配置される。図32の左側の図には、アレイ撮像部312aにおいて各個眼撮像部3121として利用される領域が、グレーの矩形で示されており、右側の図には、単眼撮像部322aがグレーの矩形として示されている。
なお、アレイレンズ部311aのようなアレイレンズの場合、同じレンズを使って、異なる色フィルタを配置すると、合焦位置が少しずれてしまう場合がある。このような合焦のずれを防止するため、各個眼が異なるレンズ設計であってもよい。
単眼カメラ32dは、単眼レンズ部321aと、この単眼レンズ部321aによって結像された物体の光学像を撮像する単眼撮像部322aと、単眼色フィルタ部323とを備える。
単眼色フィルタ部323は、単眼レンズ部321aに対応して配置される。この単眼色フィルタ部323部は、図33に示すような、赤色を透過する赤色フィルタ(R)、緑色を透過する緑色フィルタ(G)、および、青色を透過する青色フィルタ(B)を2行2列で2次元マトリックス状に配置した配列の、いわゆるベイヤー配列のフィルタを、さらに2次元アレイ状に配列したフィルタである。従って、単眼撮像部322aから、ベイヤー配列に応じた色の各画素データが出力される。
測距装置Ddの遠距離測距処理部121dは、個眼レンズL5と単眼レンズ部321aの特性が同じ場合には、図7を用いて説明した処理が行われ、個眼レンズL5と単眼レンズ部321aの特性(画角)が異なる場合には、図19を用いて説明した処理が行われ、これによって、測定対象物までの距離が求められる。
ただし、対応点探索(図7のステップS13、図19のステップS34)では、参照画像として用いる単眼レンズ部321aによる撮像画像Pのうちの、緑色(G)の画素のみを用いて、テンプレートマッチングが行われる。これは、基準画像として個眼レンズL5による撮像画像P5が用いられるが、個眼レンズL5には、緑色のフィルタ(G)が配置されているためである。
具体的には、例えば、17画素×17画素のテンプレートTを用いる場合を考える。図34は、テンプレートマッチングを行う場合の、参照画像に設けるウィンドウW(17画素×17画素)を示す。小さい矩形が、1画素を表す。参照画像(ベイヤー配列)のウィンドウWにおける注目画素Qが緑色(G)である場合には、黒の矩形で示す画素を用いて、テンプレートマッチングが行われる。また、注目画素Qが、赤色(R)または青色(B)である場合には、白の矩形で示す画素を用いてテンプレートマッチングが行われる。
次に、測距装置Ddの近距離測距処理部122dの処理について説明する。近距離測距処理部122dは、アレイカメラ31dで撮像された画像のみを用いて処理を行う。図35に示すように、近距離測距処理部122dは、個眼レンズL5を用いて撮像された撮像画像P5と、個眼レンズL1、個眼レンズL3、個眼レンズL7、個眼レンズL9を用いて撮像された4つの撮像画像Pそれぞれと対応点探索を行う。つまり、近距離測距処理部122dは、個眼レンズL5と同じ緑色(G)のフィルタが配置された個眼レンズLによる撮像画像Pを用いて、テンプレートマッチングを行う。この近距離測距処理部122dが行う処理を示すフローチャートが図36に示されている。
近距離測距処理部122dは、アレイカメラ31dのアレイレンズ部311aの個眼レンズL5を用いて撮像された撮像画像P5を参照画像として取得し(ステップS51)、個眼レンズL1、L3、L7、L9を用いて撮像された撮像画像P1、P3、P7、P9を取得する(ステップS52)。
次に、近距離測距処理部122dは、撮像画像P5を基準画像とし、撮像画像P1、P3、P7、P9の4つの撮像画像をそれぞれ参照画像として対応点探索を行い、SAD値を求める(ステップS53、ステップS54:No)。
近距離測距処理部122dは、4つの撮像画像について、参照画像とのペアでSAD値を求めると(ステップS54:Yes)、求めた4つのSAD値を加算した加算SAD値を求める(ステップS55)。
加算SAD値を求めた近距離測距処理部122dは、最も小さいSAD値に対応するウィンドウWの中心位置の画素を対応点とし、テンプレートTの中心位置の画素とのずれ量を求め、測定対象物までの距離を算出する(ステップS56)。
<第5実施形態>
第4実施形態では、アレイカメラ31dが、アレイ色フィルタ部313aとして各個眼レンズLごとに色が異なるフィルタを備え、単眼カメラ32dが、単眼色フィルタ部323としてベイヤー型のフィルタを備えていた。第5実施形態の測距装置Deでは、画像取得部3eは、アレイ色フィルタ部313bとして、各個眼レンズLごとにベイヤー型フィルタを備える。
第4実施形態では、アレイカメラ31dが、アレイ色フィルタ部313aとして各個眼レンズLごとに色が異なるフィルタを備え、単眼カメラ32dが、単眼色フィルタ部323としてベイヤー型のフィルタを備えていた。第5実施形態の測距装置Deでは、画像取得部3eは、アレイ色フィルタ部313bとして、各個眼レンズLごとにベイヤー型フィルタを備える。
測距装置Deでは、遠距離測距処理部121e、および、近距離測距処理部122eは、対応点探索を行う際に、例えば、基準画像のテンプレートTのうちの緑色(G)の画素と、参照画像のウィンドウWのうちの緑色(G)の画素とを用いて、テンプレートマッチングを行う。
また、基準画像、参照画像それぞれをモノクロ(単色)画像に変換して、テンプレートマッチングが行われてもよい。互いにモノクロ画像とすることで、全画素を用いたテンプレートマッチングを行うことが可能となる。テンプレートマッチングは、基本的に、同じ色同士でしか行うことができないからである。全画素を用いたテンプレートマッチングを行うことにより、マッチングの精度が上がり、結果として測距処理の精度が上がることになる。
ここで、測距装置Deの遠距離測距処理部121eが行う処理を示すフローチャートを、図37に示す。遠距離測距処理部121eは、対応点探索を行う前に、ベイヤー画像である基準画像および参照画像を、それぞれモノクロ画像への変換を行うものである。
遠距離測距処理部121eは、アレイカメラ31dのアレイレンズ部311aの個眼レンズL5を用いて作成された撮像画像P5と、単眼カメラ32eの単眼レンズ部321aを用いて作成された撮像画像P0とを、記憶部2を介して取得する(ステップS61、ステップS62)。
次に、遠距離測距処理部121eは、撮像画像P5および撮像画像P0のモノクロ化(フィルタリング)を行う(ステップS63)。モノクロ化の処理は、以下の<モノクロ化(フィルタリング)>の項で説明する。
次に、遠距離測距処理部121eは、モノクロ化された撮像画像P5を基準画像とし、モノクロ化された画像P0を参照画像として対応点探索を行い(ステップS64)、ずれ量(画素数)から距離を算出する(ステップS65)。
次に、近距離測距処理部122eの処理について説明する。近距離測距処理部122eは、アレイカメラ31eで撮像された画像のみを用いて処理を行う。この近距離測距処理部122eが行う処理を示すフローチャートが図38に示されている。
近距離測距処理部122eは、アレイカメラ31eのアレイレンズ部311aの個眼レンズL5を用いて撮像された撮像画像P5を基準画像として取得し(ステップS71)、個眼レンズL1〜4、個眼レンズL6〜9を用いて撮像された撮像画像P1〜4、撮像画像P6〜9を取得する(ステップS72)。
近距離測距処理部122eは、撮像画像P1〜9のモノクロ化(フィルタリング)を行う(ステップS73)。
次に、近距離測距処理部122eは、モノクロ化された撮像画像P5を基準画像とし、モノクロ化された撮像画像P1〜P4、撮像画像P6〜P9の8つの撮像画像をそれぞれ参照画像として対応点探索を行い、SAD値を求める(ステップS74、ステップS75:No)。
近距離測距処理部122eは、8つの撮像画像について、参照画像とのペアでSAD値を求めると(ステップS75:Yes)、求めた8つのSAD値を加算した加算SAD値を求める(ステップS76)。
加算SAD値を求めた近距離測距処理部122eは、最も小さいSAD値に対応するウィンドウWの中心位置の画素を対応点とし、テンプレートT0の中心位置の画素とのずれ量を求め、測定対象物までの距離を算出する(ステップS77)。
なお、図37、38で示した遠距離測距処理部121e、および、近距離測距処理部122eの処理は、アレイカメラ31e及び単眼カメラ32eのレンズ配置及びレンズ性能が、第1実施形態のレンズ配置および性能と同じである場合の処理である(図4参照)。アレイカメラ31e及び単眼カメラ32eのレンズ配置および性能が、他の実施形態のレンズ配置および性能と同じである場合は、その実施形態に応じた処理が行われる。
<モノクロ化処理(フィルタリング)>
図39は、ベイヤー型フィルタを用いて作成したベイヤー(多色)画像と、変換処理後のモノクロ画像とを対比した一例を示す図である。図39Aに、ベイヤー画像の例を示し、図39Bに、ガウシアンフィルタを用いたフィルタリングによって作成したモノクロ画像を示す。
図39は、ベイヤー型フィルタを用いて作成したベイヤー(多色)画像と、変換処理後のモノクロ画像とを対比した一例を示す図である。図39Aに、ベイヤー画像の例を示し、図39Bに、ガウシアンフィルタを用いたフィルタリングによって作成したモノクロ画像を示す。
ベイヤー画像を、モノクロ画像に変換する方法を説明する。図40は、ベイヤー画像からモノクロ画像への変換処理を説明するための図である。図40Aは、画像の各画素と画像フィルタとの関係を示し、図40Bは、画像フィルタを示し、図40Cは、フィルタリング後画像を示す。図40Bに示す画像フィルタFL1aは、3行3列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の2行2列に位置するフィルタ係数は、4/16であり、1行2列、2行1列、2行3列および3行2列それぞれに位置する各フィルタ係数は、2/16であり、そして、1行1列、1行3列、3行1列および3行3列それぞれに位置する各フィルタ係数は、1/16である。このようなフィルタ係数を持つ画像フィルタFL1aは、ガウシアンフィルタでもある。
ベイヤー画像ISに対応した画像フィルタFL1aが用いられ、フィルタリングは、ベイヤー画像ISにおける最初の1行1列に位置する画素に対応するデータから最終の最終行最終列に位置する画素に対応するデータまで順次に実行される。
例えば、図40A上段に示す2行2列に位置するG画素に対し画像フィルタFL1aでフィルタリングすると、2行2列に位置するG画素に対応するフィルタリング後の画像BISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のG画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(1/16)×4+(4/16)×1=8/16=1/2となる。したがって、画像フィルタFL1aの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となる。
図40A下段に示す3行2列に位置するR画素に対し前記画像フィルタFL1aでフィルタリングすると、3行2列に位置するR画素に対応するフィルタリング後画像BISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のR画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(4/16)×1=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(1/16)×4=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(2/16)×4=8/16=1/2となる。したがって、画像フィルタFL1aの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となる。
2行3列に位置するB画素に対し前記画像フィルタFL1aでフィルタリングすると、2行3列に位置するB画素に対応する前処理後画像データBISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のB画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(1/16)×4=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(4/16)×1=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(2/16)×4=8/16=1/2となる。したがって、画像フィルタFL1aの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となる。
そして、3行3列に位置するG画素に対し前記画像フィルタFL1aでフィルタリングすると、3行3列に位置するG画素に対応するフィルタリング後画像BISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のG画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(1/16)×4+(4/16)×1=8/16=1/2となる。したがって、画像フィルタFL1aの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となる。
画像フィルタFL1aは、ベイヤー画像ISにおける単位配列の色組成比と同じ色組成比のフィルタ係数を備えるから、ベイヤー画像ISに画像フィルタFL1aを作用させた場合において、ベイヤー画像ISのR画素に対応するフィルタ係数の総計と、ベイヤー画像ISのB画素に対応するフィルタ係数の総計と、ベイヤー画像ISのG画素に対応するフィルタ係数の総計は、ベイヤー画像ISにおける単位配列の色組成比と同じになる。
このようにベイヤー画像ISの単位配列におけるいずれの画素のデータも画像フィルタFL1aによって同じ色組成比でフィルタリングされる。したがって、ベイヤー画像ISにおける全ての画素のデータが画像フィルタFL1aによって同じ色組成比でフィルタリングされることになる。この結果、フィルタリング後画像データBISにおける全ての画素のデータは、図40Cに示すように、(G/2+R/4+B/4)で合成された同じ色成分を持つデータとして扱うことが可能となる。よって、対応点探索では、フィルタリング後画像BISにおける全ての画素のデータが使用可能となる。
上記では、画像フィルタFL1aを用いる場合を説明したが、他の画像フィルタを用いてもよく、その例を、図41に示す。
図41Aに示す画像フィルタFL1bは、5行5列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の3行3列に位置するフィルタ係数は、36/256であり、2行3列、3行2列、3行4列および4行3列それぞれに位置する各フィルタ係数は、24/256であり、2行2列、2行4列、4行2列および4行4列それぞれに位置する各フィルタ係数は、16/256であり、1行3列、3行1列、3行5列および5行3列それぞれに位置する各フィルタ係数は、6/256であり、1行2列、1行4列、2行1列、2行5列、4行1列、4行5列、5行2列および5行4列それぞれに位置する各フィルタ係数は、4/256であり、そして、1行1列、1行5列、5行1列および5行5列それぞれに位置する各フィルタ係数は、1/256である。
図41Bに示す画像フィルタFL1cは、7行7列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の4行4列に位置するフィルタ係数は、400/4096であり、3行4列、4行3列、4行5列および5行4列それぞれに位置する各フィルタ係数は、300/4096であり、3行3列、3行5列、5行3列および5行5列それぞれに位置する各フィルタ係数は、225/4096であり、2行4列、4行2列、4行6列および6行4列それぞれに位置する各フィルタ係数は、200/4096であり、2行3列、2行5列、3行2列、3行6列、5行2列、5行5列、6行3列および6行5列それぞれに位置する各フィルタ係数は、90/4096であり、2行2列、2行6列、6行2列および6行6列それぞれに位置する各フィルタ係数は、36/4096であり、1行4列、4行1列、4行7列および7行4列それぞれに位置する各フィルタ係数は、20/4096であり、1行3列、1行5列、3行1列、3行7列、5行1列、5行7列、7行3列および7行5列それぞれに位置する各フィルタ係数は、15/256であり、1行2列、1行6列、2行1列、2行7列、6行1列、6行7列、7行2列および7行6列それぞれに位置する各フィルタ係数は、6/256であり、そして、1行1列、1行7列、7行1列および7行7列それぞれに位置する各フィルタ係数は、1/4096である。
図41Cに示す画像フィルタFL1dは、5行5列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の3行3列に位置するフィルタ係数は、16/144であり、2行3列、3行2列、3行4列および4行3列それぞれに位置する各フィルタ係数は、12/144であり、2行2列、2行4列、4行2列および4行4列それぞれに位置する各フィルタ係数は、9/144であり、1行3列、3行1列、3行5列および5行3列それぞれに位置する各フィルタ係数は、4/144であり、1行2列、1行4列、2行1列、2行5列、4行1列、4行5列、5行2列および5行4列それぞれに位置する各フィルタ係数は、3/144であり、そして、1行1列、1行5列、5行1列および5行5列それぞれに位置する各フィルタ係数は、1/144である。
このような画像フィルタFL1a〜FL1dに対し、高周波のモアレ成分が残ると対応点探索が誤判定する虞があるので、画像フィルタFL1は、例えば、原画像データの画像に含まれる高周波成分の割合に応じて適宜に選択されることが好ましい。例えば、原画像データの画像に含まれる高周波成分の割合が多いほど、よりボケさせる画像フィルタFL1が選択される。
<第6実施形態>
実施形態1では、アレイカメラ31aと単眼カメラ32aは、図4に示すように、アレイカメラ31aと単眼カメラ32aとは、アレイカメラ31aのレンズアレイの中央の個眼レンズ3111−22と単眼カメラ32aの単眼レンズ部321aとが、基線長Bbだけ離間するよう配置され、アレイカメラ31aの各個眼レンズ3111間は、基線長Baだけ離間するように配置されており、個眼レンズ3111−22と、個眼レンズ3111−23と、単眼カメラ32aの単眼レンズ部321aとは、同一線上に配置されている。第6実施形態では、図42に示すように、単眼レンズ部321aが、個眼レンズ3111−22と個眼レンズ3111−23とを結ぶ直線上に配置されないものである。言い換えれば、個眼レンズ3111−22の光軸位置と個眼レンズ3111−23の光軸位置とを結ぶ直線と、個眼レンズ3111−22の光軸位置と、単眼レンズ部321aの光軸位置とを結ぶ直線とが、交わるような位置である。
実施形態1では、アレイカメラ31aと単眼カメラ32aは、図4に示すように、アレイカメラ31aと単眼カメラ32aとは、アレイカメラ31aのレンズアレイの中央の個眼レンズ3111−22と単眼カメラ32aの単眼レンズ部321aとが、基線長Bbだけ離間するよう配置され、アレイカメラ31aの各個眼レンズ3111間は、基線長Baだけ離間するように配置されており、個眼レンズ3111−22と、個眼レンズ3111−23と、単眼カメラ32aの単眼レンズ部321aとは、同一線上に配置されている。第6実施形態では、図42に示すように、単眼レンズ部321aが、個眼レンズ3111−22と個眼レンズ3111−23とを結ぶ直線上に配置されないものである。言い換えれば、個眼レンズ3111−22の光軸位置と個眼レンズ3111−23の光軸位置とを結ぶ直線と、個眼レンズ3111−22の光軸位置と、単眼レンズ部321aの光軸位置とを結ぶ直線とが、交わるような位置である。
図42において、個眼レンズ3111−22と単眼カメラ32aの単眼レンズ部321aとが、基線長Bcだけ離間するよう配置され、アレイカメラ31aの各個眼レンズ3111間は、基線長Baだけ離間して配置されている。基線長Bcの個眼レンズ3111間の基線長Baへの射影成分をBbとする。
この場合の基線長について考える。
図43は、アレイカメラ31aの個眼レンズL5と、単眼カメラ32aの単眼レンズ部321aとの基線長Bbが、個眼レンズL5と個眼レンズL6との基線長Baの2倍(整数倍)であった場合を説明するための図である。
図43の、部分画像60は、個眼レンズL5による撮像画像P5の一部分を示す部分画像であり、縦縞の模様の画像である。部分画像70は、個眼レンズL6による撮像画像P6の一部分を示す部分画像であり、エピポーララインE6上の画像である。
部分画像60上のテンプレートT0の中心位置の画素が、縦縞模様の縁部分にあるものとする。テンプレートマッチングにおいて、エピポーララインE6上を走査する場合、走査点が縦縞模様の縁部分にあるときの一致度が高くなる。例えば、走査点71、72の場合である。正しい対応点は、走査点71であるとする。
つまり、走査点72の場合は、一致度は高いが、正しい対応点とは異なる走査点であり、間違った距離が算出されることになる。
次に、部分画像90は、単眼カメラ32aの単眼レンズ部321aによる撮像画像P0の一部分を示す部分画像であり、エピポーララインE9上の画像である。つまり、基線長BcのエピポーララインE6方向への射影成分であるBb=Ba×2の場合である。この場合は、例えば、走査点91、92において、一致度は高くなる。正しい対応点は、走査点91であるとする。
つまり、走査点92の場合は、一致度は高いが、正しい対応点とは異なる走査点であり、間違った距離が算されることになる。
従って、基線長Bcの射影成分であるBbが、個眼レンズL5と個眼レンズL6との基線長Baの整数倍である場合、距離が正しく算出されないことになる。つまり、基線長Bcの射影成分であるBbが、個眼レンズL5と個眼レンズL6との基線長Baの非整数倍となるように、基線長Bcが決められる。
<対応点探索手法>
上述した第1〜6の実施形態では、近距離測距処理部122が行う対応点探索の画像のペア数に比べて、遠距離測距処理部121が行うペア数が少ない。つまり、遠距離測距処理部121では、測距の精度が落ちる場合がある。そこで、上述のよう、テンプレートサイズが変換されていた。例えば、遠距離測距処理部121は、17画素×17画素のテンプレートTを用い、近距離測距処理部122は、5画素×5画素のテンプレートTを用いる等である。
上述した第1〜6の実施形態では、近距離測距処理部122が行う対応点探索の画像のペア数に比べて、遠距離測距処理部121が行うペア数が少ない。つまり、遠距離測距処理部121では、測距の精度が落ちる場合がある。そこで、上述のよう、テンプレートサイズが変換されていた。例えば、遠距離測距処理部121は、17画素×17画素のテンプレートTを用い、近距離測距処理部122は、5画素×5画素のテンプレートTを用いる等である。
しかし、対応点探索手法として、よりロバストな手法が用いられてもよい。
例えば、近距離測距処理部122は、SAD法、または、SDD(Sum of Squared Difference)法を用い、遠距離測距処理部121は、処理は重いが精度の出やすいNCC(正規化相互相関:Normalized Cross Correlation)法、ZNCC(正規化相互相関:Zero−mean Normalized Cross Correlation)法、または、相関度を求めてサブピクセルレベルで求めるPOC(位相限定相関:Phase−Only Correlation、特開2008−216127号公報参照)法を用いてもよい。
SDDは、以下の式を用いて算出する。T(i,j)は、テンプレートTの画素の輝度値であり、I(i,j)は、参照画像のウィンドウWの画素の輝度値である。座標(i,j)は、テンプレートTの幅をM画素、高さをN画素としたとき、テンプレートの左上の座標を(0,0)、右下を(M−1,N−1)とする場合の座標である。
SSDは、テンプレートをラスタスキャンし、同じ位置の画素の輝度値の差の2乗の合計であり、値が小さい程、似ていることになる。
NCCは、以下の式を用いて類似度RNCCを算出する。算出された類似度RNCCが1に近い程、似ていることを示す。
ZNCCは、以下の式を用いて類似度RZNCCを算出する。
なお、アレイカメラ31は、個眼レンズLのレンズ性能と個眼撮像部3121のセンサーピッチに応じて、高周波モアレを出さないように、光学LPF(Low Pass Filter)を、アレイカメラ31のアレイ撮像部312より物体側の光軸上に配置してもよい。また、超解像処理等を行う場合には、光学LPFを、アレイカメラ31のアレイ撮像部312より物体側の光軸上に設けないこととしてもよい。
本明細書は、上記のように様々な態様の技術を開示しているが、そのうち主な技術を以下に纏める。
一態様にかかる測距装置は、複数の第1撮像光学系が一体に配列され、前記複数の第1撮像光学系に対応し、前記複数の第1撮像光学系それぞれによって結像された測定対象物の光学像を撮像する一つまたは複数の第1撮像部を備える複眼カメラと、1つの第2撮像光学系と、前記第2撮像光学系に対応し、前記第2撮像光学系によって結像された前記測定対象物の光学像を撮像する1つの第2撮像部とを備える単眼カメラと、前記複数の第1撮像光学系のうち少なくとも2つの第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とに基づいて前記測定対象までの距離を求める距離演算部とを備え、前記2つの第1撮像光学系のうちの1つの第1撮像光学系と前記第2撮像光学系との第1基線長と前記2つの第1撮像光学系の間の第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記第1および第2基線長の換算値が非整数倍の関係となる。
他の一態様にかかる測距方法は、複数の第1撮像光学系が一体に配列され、前記複数の第1撮像光学系に対応し、前記複数の第1撮像光学系それぞれによって結像された測定対象物の光学像を撮像する一つまたは複数の第1撮像部を備える複眼カメラと、1つの第2撮像光学系と、前記第2撮像光学系に対応し、前記第2撮像光学系によって結像された前記測定対象物の光学像を撮像する1つの第2撮像部とを備える単眼カメラとを備える測距装置で用いられる測距方法であって、前記複数の第1撮像光学系のうち少なくとも2つの第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とに基づいて前記測定対象までの距離を求める距離演算ステップを備え、前記2つの第1撮像光学系のうちの1つの第1撮像光学系と前記第2撮像光学系との第1基線長と前記2つの第1撮像光学系の間の第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記第1及び第2基線長の換算値が非整数倍の関係となる。
このような測距装置及び測距方法は、複眼カメラ以外に、単眼カメラを備えるので、複数の基線長の複数のステレオ画像を得ることができる。従って、測定対象物までの距離に応じて適切な画像により、精度のよい測距処理が可能となる。更に、第1撮像光学系と前記第2撮像光学系との第1基線長を、前記2つの第1撮像光学系間の第2基線長に基づき定める、つまり、第1基線長と第2基線長との関係が、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、第1及び第2基線長の換算値が非整数倍の関係になるように、第1及び第2基線長を設定するので、同じ形状の図を繰り返した繰り返し模様を有する画像を用いた測距処理を、より精度良くできる可能性が高くなる。一方がいわゆるアレイレンズを備えるカメラであり、他方のカメラが単眼であるので、装置の小型化、薄型化を図り、より安価とすることが可能となる。
他の一態様では、上述の測距装置において、前記距離演算部は、前記第1撮像光学系の画角と前記第2撮像光学系の画角とが互いに異なる場合には、前記第1撮像光学系から撮像された第1画像及び前記第2撮像光学系から撮像された第2画像の少なくとも一方を、ほぼ同一画角領域の画像サイズが同じになるように、画素数を変更する前記第1画像及び前記第2画像のうち少なくとも一方の画素数を変更する。
このような測距装置では、同一視野が同一画素の画像を用いて測距処理を行うので、画角が互いに異なるレンズによるステレオ画像を用いても、精度のよい測距処理が可能となる。
他の一態様では、これら上述の測距装置において、前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とを用いて対応点探索を行い、前記第2撮像部で撮像された画像が多色画像である場合、当該多色画像を構成する画素のうち、最も多い色の画素を用いて、対応点探索を行う。
このような測距装置では、一方が多色画像であっても、一色の画素のみで対応点探索を行うので、より精度のよい測距処理が可能となる。
他の一態様では、これら上述の測距装置において、前記第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像された画像は、多色画像であって、前記多色画像を画像フィルタでフィルタリングする画像フィルタ処理部をさらに備え、前記多色画像は、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備え、前記距離演算部は、前記画像フィルタ処理部でフィルタリングされた、第1撮像部で撮像された多色画像と前記第2撮像部で撮像された多色画像とを用いて、対応点探索を行う。
このような測距装置では、対応点探索で用いる画像を、単色の画像に変換して対応点探索を行うので、全画像を用いることができ、精度のよい測距処理が可能となる。
他の一態様では、これら上述の測距装置において、前記複数の第1撮像光学系のうち少なくとも1つの第1撮像光学系、及び、前記第2撮像光学系は、他の第1撮像光学系よりも所定の光学性能のピーク位置が遠方の範囲にある。
このような測距装置では、所定の光学性能のピーク位置が遠方の範囲にあるレンズにより、基線長が長いレンズのペアを作ることができるので、測定対象物が遠くに在る場合に、精度のよい測距処理が可能となる。
他の一態様では、これら上述の測距装置において、前記複数の第1撮像光学系は、所定の光学性能のピーク位置が互いに異なる第1撮像光学系を有し、近距離の範囲で前記ピーク位置をもつ第1撮像光学系の数は、より遠距離の範囲で前記ピーク位置をもつ第1撮像光学系の数よりも多い。
このような測距装置では、近距離の範囲で所定の光学性能のピーク位置をもつレンズにより、基線長が短いレンズのペアを多く作ることができるので、測定対象物が近くに在る場合に、オクルージョンの影響を少なくでき、より精度のよい測距処理が可能となる。
他の一態様では、これら上述の測距装置において、前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像と、前記2撮像部で撮像された画像とを用いて対応点探索を行う場合のテンプレートのサイズは、前記第1撮像部で撮像された画像同士を用いて対応点探索を行う場合のテンプレートのサイズよりも大きい。
このような測距装置では、基線長が長いレンズのペアを用いた対応点探索でのテンプレートの方が、基線長が短いレンズのペアを用いた対応点探索で用いるテンプレートより大きいので、基線長が長いレンズのペアの数がすくなくても、より精度のよい測距処理が可能となる。なお、テンプレートとは、テンプレートマッチングを行う際の、基準画像上の注目点を中心とする矩形画像をいう。
他の一態様では、これら上述の測距装置において、前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像と、前記2撮像部で撮像された画像とを用いて対応点探索を行う場合に用いるテンプレートとウィンドウとの相関値を求める方法は、前記第1撮像部で撮像された画像同士を用いて対応点探索を行う場合に用いる前記相関値を求める方法と異なる。
他の一態様では、これら上述の測距装置において、前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とを用いて対応点探索を行う場合に用いる前記相関値を求める方法として、NCC法、ZNCC法、及び、POC法のうちのいずれか1つを用いる。
他の一態様では、これら上述の測距装置において、前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像同士を用いて対応点探索を行う場合に用いる前記相関値を求める方法として、SAD法及びSDD法のうちのいずれか1つを用いる。
このような測距装置では、基線長が長いレンズのペアを用いた対応点探索での対応点探索手法の方が、基線長が短いレンズのペアを用いた対応点探索で用いる対応点探索手法より正確な対応点探索が行えるので、基線長が長いレンズのペアの数がすくなくても、より精度のよい測距処理が可能となる。なお、ウィンドウとは、テンプレートマッチングを行う際に、テンプレートと一致度を求める参照画像内の矩形画像をいう。
他の一態様では、これら上述の測距装置において、前記2つの第1撮像光学系のうちの1つの第1撮像光学系の光軸位置と前記第2撮像光学系の光軸位置とを結ぶ直線と、前記2つの第1撮像光学系の光軸位置とを結ぶ直線とが交差する場合は、前記第1基線長の前記第2基線長への射影成分を、新たな第1基線長とし、新たな第1基線長と前記第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記新たな第1基線長及び第2基線長の換算値が非整数倍の関係となる。
このような測距装置では、前記第2撮像光学系の光軸位置と前記2つの第1撮像光学系の光軸位置とが同一直線上に配置されない場合であっても、同じ形状の図を繰り返した繰り返し模様を有する画像を用いた測距処理を、より精度良くできる可能性が高くなる。
このような測距装置では、前記第2撮像光学系の光軸位置と前記2つの第1撮像光学系の光軸位置とが同一直線上に配置されない場合であっても、同じ形状の図を繰り返した繰り返し模様を有する画像を用いた測距処理を、より精度良くできる可能性が高くなる。
本発明にかかる測距装置および測距方法は、装置の小型化を図りながら、測距精度を上げることができる。
この出願は、2014年2月18日に出願された日本国特許出願特願2014−028762を基礎とするものであり、その内容は、本願に含まれるものである。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
本発明によれば、測距装置および測距方法を提供することができる。
Claims (12)
- 複数の第1撮像光学系が一体に配列され、前記複数の第1撮像光学系に対応し、前記複数の第1撮像光学系それぞれによって結像された測定対象物の光学像を撮像する一つまたは複数の第1撮像部を備える複眼カメラと、
1つの第2撮像光学系と、前記第2撮像光学系に対応し、前記第2撮像光学系によって結像された前記測定対象物の光学像を撮像する1つの第2撮像部とを備える単眼カメラと、
前記複数の第1撮像光学系のうち少なくとも2つの第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とに基づいて前記測定対象までの距離を求める距離演算部とを備え、
前記2つの第1撮像光学系のうちの1つの第1撮像光学系と前記第2撮像光学系との第1基線長と前記2つの第1撮像光学系の間の第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記第1および第2基線長の換算値が非整数倍の関係となる
測距装置。 - 前記距離演算部は、前記第1撮像光学系の画角と前記第2撮像光学系の画角とが互いに異なる場合には、前記第1撮像光学系から撮像された第1画像及び前記第2撮像光学系から撮像された第2画像の少なくとも一方を、ほぼ同一画角領域の画像サイズが同じになるように、画素数を変更する
請求項1に記載の測距装置。 - 前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とを用いて対応点探索を行い、前記第2撮像部で撮像された画像が多色画像である場合、当該多色画像を構成する画素のうち、最も多い色の画素を用いて、対応点探索を行う
請求項1又は2に記載の測距装置。 - 前記第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像された画像は、多色画像であって、
前記多色画像を画像フィルタでフィルタリングする画像フィルタ処理部をさらに備え、
前記多色画像は、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、
前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備え、
前記距離演算部は、前記画像フィルタ処理部でフィルタリングされた、第1撮像部で撮像された多色画像と前記第2撮像部で撮像された多色画像とを用いて、対応点探索を行う
請求項1又は2に記載の測距装置。 - 前記複数の第1撮像光学系のうち少なくとも1つの第1撮像光学系、及び、前記第2撮像光学系は、他の第1撮像光学系よりも所定の光学性能のピーク位置が遠方の範囲にある
請求項1〜4のいずれか一項に記載の測距装置。 - 前記複数の第1撮像光学系は、所定の光学性能のピーク位置が互いに異なる第1撮像光学系を有し、近距離の範囲で前記ピーク位置をもつ第1撮像光学系の数は、より遠距離の範囲で前記ピーク位置をもつ第1撮像光学系の数よりも多い
請求項1〜5のいずれか一項に記載の測距装置。 - 前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像と、前記2撮像部で撮像された画像とを用いて対応点探索を行う場合のテンプレートのサイズは、前記第1撮像部で撮像された画像同士を用いて対応点探索を行う場合のテンプレートのサイズよりも大きい
請求項1〜6のいずれか一項に記載の測距装置。 - 前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像と、前記2撮像部で撮像された画像とを用いて対応点探索を行う場合に用いるテンプレートとウィンドウとの相関値を求める方法は、前記第1撮像部で撮像された画像同士を用いて対応点探索を行う場合に用いる前記相関値を求める方法と異なる
請求項1〜7のいずれか一項に記載の測距装置。 - 前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とを用いて対応点探索を行う場合に用いる前記相関値を求める方法として、NCC法、ZNCC法、及び、POC法のうちのいずれか1つを用いる
請求項1〜8のいずれか一項に記載の測距装置。 - 前記距離演算部は、前記第1撮像光学系に対応する第1撮像部で撮像された画像及び前記第2撮像部で撮像された画像を用いて対応点探索を行い、前記第1撮像部で撮像された画像同士を用いて対応点探索を行う場合に用いる前記相関値を求める方法として、SAD法及びSDD法のうちのいずれか1つを用いる
請求項1〜9のいずれか一項に記載の測距装置。 - 前記2つの第1撮像光学系のうちの1つの第1撮像光学系の光軸位置と前記第2撮像光学系の光軸位置とを結ぶ直線と、前記2つの第1撮像光学系の光軸位置とを結ぶ直線とが交差する場合は、前記第1基線長の前記第2基線長への射影成分を、新たな第1基線長とし、新たな第1基線長と前記第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記新たな第1基線長及び第2基線長の換算値が非整数倍の関係となる
請求項1〜10のいずれか一項に記載の測距装置。 - 複数の第1撮像光学系が一体に配列され、前記複数の第1撮像光学系に対応し、前記複数の第1撮像光学系それぞれによって結像された測定対象物の光学像を撮像する一つまたは複数の第1撮像部を備える複眼カメラと、1つの第2撮像光学系と、前記第2撮像光学系に対応し、前記第2撮像光学系によって結像された前記測定対象物の光学像を撮像する1つの第2撮像部とを備える単眼カメラとを備える測距装置で用いられる測距方法であって、
前記複数の第1撮像光学系のうち少なくとも2つの第1撮像光学系に対応する第1撮像部で撮像された画像と、前記第2撮像部で撮像された画像とに基づいて前記測定対象までの距離を求める距離演算ステップを備え、
前記2つの第1撮像光学系のうちの1つの第1撮像光学系と前記第2撮像光学系との第1基線長と前記2つの第1撮像光学系の間の第2基線長とは、同じ視差量を前記測定対象物までの距離の逆数に換算した際に、前記第1及び第2基線長の換算値が非整数倍の関係となる
測距方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014028762 | 2014-02-18 | ||
JP2014028762 | 2014-02-18 | ||
PCT/JP2015/054181 WO2015125744A1 (ja) | 2014-02-18 | 2015-02-16 | 測距装置および測距方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2015125744A1 true JPWO2015125744A1 (ja) | 2017-03-30 |
Family
ID=53878247
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016504091A Pending JPWO2015125744A1 (ja) | 2014-02-18 | 2015-02-16 | 測距装置および測距方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPWO2015125744A1 (ja) |
WO (1) | WO2015125744A1 (ja) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7718940B2 (en) * | 2005-07-26 | 2010-05-18 | Panasonic Corporation | Compound-eye imaging apparatus |
JP2009048033A (ja) * | 2007-08-22 | 2009-03-05 | Panasonic Corp | 立体画像撮像装置 |
JP5375531B2 (ja) * | 2009-11-06 | 2013-12-25 | 株式会社リコー | 距離画像取得装置及び距離画像取得処理方法 |
JP5929553B2 (ja) * | 2012-06-28 | 2016-06-08 | ソニー株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP2014202661A (ja) * | 2013-04-08 | 2014-10-27 | 株式会社リコー | 測距装置 |
-
2015
- 2015-02-16 JP JP2016504091A patent/JPWO2015125744A1/ja active Pending
- 2015-02-16 WO PCT/JP2015/054181 patent/WO2015125744A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2015125744A1 (ja) | 2015-08-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11985293B2 (en) | System and methods for calibration of an array camera | |
JP7043085B2 (ja) | 視点から距離情報を取得するための装置及び方法 | |
CN102227746B (zh) | 立体图像处理装置、方法和立体成像设备 | |
CN110809786B (zh) | 校准装置、校准图表、图表图案生成装置和校准方法 | |
US20110249117A1 (en) | Imaging device, distance measuring method, and non-transitory computer-readable recording medium storing a program | |
JP2017531976A (ja) | アレイカメラを動的に較正するためのシステム及び方法 | |
WO2021054140A1 (ja) | 画像処理装置および画像処理方法、撮像装置、プログラム | |
WO2014084181A1 (ja) | 画像計測装置 | |
JP6804056B2 (ja) | 投写型表示装置、投写型表示装置の制御方法、及びプログラム | |
JP7378219B2 (ja) | 撮像装置、画像処理装置、制御方法、及びプログラム | |
US11175568B2 (en) | Information processing apparatus, information processing method, and program as well as in interchangeable lens | |
JP2011149931A (ja) | 距離画像取得装置 | |
KR20160074223A (ko) | 영상 획득 장치 및 이를 포함하는 휴대용 단말기와 그 장치의 영상 획득 방법 | |
TWI571099B (zh) | 深度估測裝置及方法 | |
JP2020021126A (ja) | 画像処理装置およびその制御方法、距離検出装置、撮像装置、プログラム | |
JP2015148498A (ja) | 測距装置および測距方法 | |
JP5996233B2 (ja) | 画像撮像装置 | |
WO2015159791A1 (ja) | 測距装置および測距方法 | |
WO2015125744A1 (ja) | 測距装置および測距方法 | |
JP2013120435A (ja) | 画像処理装置および画像処理方法、プログラム | |
WO2016056202A1 (en) | Image processing apparatus, image processing method, and program | |
JP6045280B2 (ja) | 撮像装置 | |
JP2016062447A (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JP2015106168A (ja) | 視差測定装置、及び、視差測定方法 | |
JP2017083817A (ja) | ズレ量取得装置、撮像装置、およびズレ量取得方法 |