JP2020140497A - 演算装置、視差算出方法 - Google Patents

演算装置、視差算出方法 Download PDF

Info

Publication number
JP2020140497A
JP2020140497A JP2019036151A JP2019036151A JP2020140497A JP 2020140497 A JP2020140497 A JP 2020140497A JP 2019036151 A JP2019036151 A JP 2019036151A JP 2019036151 A JP2019036151 A JP 2019036151A JP 2020140497 A JP2020140497 A JP 2020140497A
Authority
JP
Japan
Prior art keywords
parallax
block
candidate
image
arithmetic unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019036151A
Other languages
English (en)
Other versions
JP7136721B2 (ja
Inventor
稲田 圭介
Keisuke Inada
圭介 稲田
裕介 内田
Yusuke Uchida
裕介 内田
野中 進一
Shinichi Nonaka
進一 野中
雅士 高田
Masashi Takada
雅士 高田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Priority to JP2019036151A priority Critical patent/JP7136721B2/ja
Priority to PCT/JP2020/004342 priority patent/WO2020175063A1/ja
Priority to EP20762912.2A priority patent/EP3933341B1/en
Publication of JP2020140497A publication Critical patent/JP2020140497A/ja
Application granted granted Critical
Publication of JP7136721B2 publication Critical patent/JP7136721B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • G01C3/085Use of electric radiation detectors with electronic parallax measurement
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/10Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
    • G01C3/14Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument with binocular observation at a single point, e.g. stereoscopic type
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09623Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】算出する距離の精度を向上できる。【解決手段】演算装置は、第1のブロック単位で視差を示す粗距離画像を格納する記憶部と、第1のカメラで撮影して得られた画像である基準画像、および第2のカメラで撮影して得られた画像である参照画像を用いて、第1のブロック以下の大きさである第2のブロック単位で、第2のブロックごとに視差の候補である視差候補に基づき、基準画像における視差を算出して詳細な距離画像である詳細距離画像を生成する第1視差探索部と、第1視差探索部が視差を算出する第2のブロックを含む第1のブロックの大きさを有する領域である親ブロックの視差、親ブロックに隣接する第1のブロックの大きさを有する領域である隣接ブロックの視差、および探索条件に基づき視差候補を算出する候補算出部とを備える。【選択図】図3

Description

本発明は、演算装置、および視差算出方法に関する。
一対のカメラを有するステレオカメラで撮影されたステレオ画像を用いて、カメラ視野内に存在する物体までの距離を三角測量の原理で計測する位置測定装置が知られている。特許文献1には、複数の撮像装置により物体を撮像し、得られた一方の画像から複数の小領域画像を切り出し照合領域とし、各照合領域と他方との画像との相関演算により前記撮像装置から前記物体までの距離分布又は該物体を形成する面の面方向を検出する画像における相関演算方法であって、前記複数の画像に対してそれぞれ解像度の異なる複数の画像を生成し、解像度別に階層構造に画像を形成する多重解像度画像生成手段を備え、N,Mを整数とする時、N層間の相関演算によって前記各照合領域に対する各視差を求め、該各視差に基づいてM層の相関演算に対する照合領域とその探索領域を確定し、その確定された各照合領域と各探索領域で前記相関演算を行うことによって前記物体までの距離分布、又は前記物体を形成する面の面方向を検出することを特徴とする画像における相関演算方法が開示されている。
特開2001−319229号公報
特許文献1に記載されている発明では、精度を向上する余地がある。
本発明の第1の態様による演算装置は、第1のブロック単位で視差を示す粗距離画像を格納する記憶部と、第1のカメラで撮影して得られた画像である基準画像、および第2のカメラで撮影して得られた画像である参照画像を用いて、前記第1のブロック以下の大きさである第2のブロック単位で、前記第2のブロックごとに視差の候補である視差候補に基づき、前記基準画像における視差を算出して詳細な距離画像である詳細距離画像を生成する第1視差探索部と、前記第1視差探索部が視差を算出する前記第2のブロックを含む前記第1のブロックの大きさを有する領域である親ブロックの視差、前記親ブロックに隣接する前記第1のブロックの大きさを有する領域である隣接ブロックの視差、および探索条件に基づき前記視差候補を算出する候補算出部とを備える。
本発明の第2の態様による視差算出方法は、第1のブロック単位で視差を示す粗距離画像を格納する記憶部を備える演算装置が実行する視差算出方法であって、第1のカメラで撮影して得られた画像である基準画像、および第2のカメラで撮影して得られた画像である参照画像を用いて、前記第1のブロック以下の大きさである第2のブロック単位で、前記第2のブロックごとに視差の候補である視差候補に基づき、前記基準画像における視差を算出して詳細な距離画像である詳細距離画像を生成することと、視差の算出対象である前記第2のブロックを含む前記第1のブロックの大きさを有する領域である親ブロックの視差、前記親ブロックに隣接する前記第1のブロックの大きさを有する領域である隣接ブロックの視差、および探索条件に基づき前記視差候補を算出することとを含む。
本発明によれば、算出する距離の精度を向上できる。
車両9のハードウエア構成図 左画像21、右画像31、粗距離画像41、および詳細距離画像46の比較を説明する図 演算装置1の機能ブロック図 親ブロックと子ブロックの関係を説明する図 図5は候補算出部106の動作を説明する図 第1視差探索部103Aによる視差の決定を説明する概念図 第1の実施の形態における演算装置1の動作を示すフローチャート 変形例1における演算装置1の機能ブロック図 変形例3における演算装置1の動作を示すフローチャート 探索条件のバリエーションを示す図 変形例7における第1視差探索部103Aの動作を説明する図 変形例8における第1視差探索部103Aの出力を示す概念図 変形例10における詳細距離画像46を出力するタイミングを示す概念図 第2の実施の形態における演算装置1Aの機能ブロック図 第2の実施の形態における演算装置1Aの処理を示すフローチャート 第2の実施の形態の変形例2における演算装置1Aの機能ブロック図
―第1の実施の形態―
以下、図1〜図5を参照して、本発明に係る演算装置の第1の実施の形態を説明する。
(ハードウエア構成)
図1は、本発明に係る演算装置1を搭載する車両9のハードウエア構成図である。車両9は、演算装置1と、左カメラ2と、右カメラ3と、車両制御装置4と、距離センサ5とを備える。演算装置1および車両制御装置4は電子制御装置(Electronic Control Unit)である。左カメラ2および右カメラ3は、車両9の周囲を撮影して得られた撮影画像を演算装置1に出力する。左カメラ2および右カメラ3は、水平方向に並んで配置される。以下では、左カメラ2の撮影画像を左画像21、右カメラ3の撮影画像を右画像31と呼ぶ。また左カメラ2を「第1のカメラ」と呼び、右カメラ3を「第2のカメラ」と呼ぶこともある。
左カメラ2および右カメラ3は水平方向を向くように配置されるので、左画像21および右画像31のいずれも、鉛直方向および水平方向に広がりのある3次元空間を撮影して得られた画像である。ただしここでいう水平や垂直は厳密な意味ではなく、左画像21および右画像31の左右方向が天地ではなく左右方向に対応するという程度の意味である。たとえば、左カメラ2および右カメラ3が光軸を回転中心として最大で30度程度傾いてもよい。
距離センサ5は、距離情報を取得なセンサ、たとえばレーザレンジファインダ、超音波センサ、およびLiDAR(Light Detection and Ranging)などである。距離センサ5は、左カメラ2および右カメラ3と同一の方向を向いている。距離センサ5は粗距離画像41を生成し、演算装置1に出力する。なお粗距離画像41は便宜的な名称であり、実際には所定の規則で記載された距離情報の羅列であってもよい。所定の規則とはたとえば、左上から5度ずつ右方向に走査し、120度走査すると下方向に10度移動させて再び左から5度ずつ走査することを繰り返して得られる順番に記載する規則である。
左画像21、右画像31、および粗距離画像41に記録されている三次元空間は少なくとも一部が重複していればよい。左カメラ2、右カメラ3、および距離センサ5の車両9における取り付け位置や取り付け姿勢は既知であり、左画像21、右画像31、および粗距離画像41の相互の位置関係も既知である。そのため、左画像21における所定の画素の三次元空間における位置が、粗距離画像41のどの位置に相当するかも既知である。左画像21、右画像31、および粗距離画像41の相互の位置関係は、演算で求めてもよいしあらかじめルックアップテーブルなどを用意して参照して求めてもよい。
左カメラ2と右カメラ3の相対位置は既知であり、2つのカメラの内部パラメータも既知なので、被写体のカメラまでの距離と視差の関係も既知である。本実施の形態では、距離と視差の関係は、後述する視差テーブル121として演算装置1に格納される。本実施の形態では距離と視差の関係は既知なので、視差は「距離に対応する情報」と呼ぶこともできる。また本実施の形態では、距離と視差は相互に容易に変換可能なので、両者は実質的に同一の情報とみなせる。
演算装置1は、中央演算装置であるCPU11、読み出し専用の記憶装置であるROM12、読み書き可能な記憶装置であるRAM13、およびインタフェース14を備える。CPU11がROM12に格納されるプログラムをRAM13に展開して実行することで後述する複数の機能を実現する。ただし演算装置1は、CPU11、ROM12、およびRAM13の組み合わせの代わりに、書き換え可能な論理回路であるFPGA(Field Programmable Gate Array)や特定用途向け集積回路であるASIC(Application Specific Integrated Circuit)により実現されてもよい。また演算装置1は、CPU11、ROM12、およびRAM13の組み合わせの代わりに、異なる構成の組み合わせ、たとえばCPU11、ROM12、RAM13とFPGAの組み合わせにより実現されてもよい。
インタフェース14は、左画像21、右画像31、粗距離画像41を受信し、CPU11に提供する。ただしCPU11に備えられるレジスタにはわずかな情報しか格納できないので、CPU11が自由にそれらの情報を参照できるように、インタフェース14は受信した左画像21、右画像31、および粗距離画像41をRAM13に格納する。
演算装置1は、入力される左画像21、右画像31および粗距離画像41を用いて詳細距離画像46を作成し、車両制御装置4に出力する。演算装置1が詳細距離画像46を作成する過程は図2以降を参照してのちに詳述する。粗距離画像41や詳細距離画像46とは、二次元平面における距離の遠近を色の濃淡や色の彩度で表したものである。粗距離画像41と詳細距離画像46のフォーマットは同一であってもよいし異なっていてもよい。本実施の形態では説明を簡略にするために、粗距離画像41および詳細距離画像46のいずれも、各画素には距離の遠近を表す「0」〜「255」の整数値が格納されるとして説明する。
詳細距離画像46に示される範囲は、左画像21および右画像31と略同一である。ただし詳細距離画像46に示される範囲は、左画像21および右画像31に示される範囲よりも狭くてもよい。詳細距離画像46の画素数は、左画像21および右画像31と略同一でもよいし、数分の一程度でもよい。
車両制御装置4は、演算装置1から入力される詳細距離画像46を用いて車両9を制御する。車両制御装置4はたとえば、詳細距離画像46から車両9の周辺に存在する障害物を検出し、車両9と検出した障害物との衝突を避けるように車両9を制御する。車両制御装置4による車両9の制御は、たとえば車両制御装置4が不図示の操舵装置および不図示の制動装置に動作指令を出力することにより実現される。
(画像)
図2は、左画像21、右画像31、粗距離画像41、および詳細距離画像46に格納される情報の解像度の比較を説明する図である。ただしここでいう解像度とは、奥行き方向の距離ではなく、画像上の上下方向や左右方向の分解能の高さを意味する。
図2(a)は車両9の周辺の様子を示す図であり、車両901が存在している。図2(b)は粗距離画像41の解像度を示す概念図、図2(c)は詳細距離画像46の解像度を示す概念図である。図2(b)に示す粗距離画像41には、図2(a)に示す領域を縦と横のそれぞれを5分割した合計25個の領域ごとの距離情報が格納される。図2(c)に示す詳細距離画像46には、図2(a)に示す領域を縦と横のそれぞれを10分割した合計100個の領域ごとの距離情報が格納される。粗距離画像41および詳細距離画像46は、図示上下が天地方向に、図示左右が水平方向に対応する。
本実施の形態では、図2(b)に示すように粗距離画像41に含まれる1つの距離情報が示す領域を「第1のブロック」と呼び、図2(c)に示すように詳細距離画像46に含まれる1つの距離情報が示す領域を「第2のブロック」と呼ぶ。第1のブロックは第2のブロックよりも大きい。図2に示す例および本実施の形態では、第1のブロックは第2のブロックに比べて幅と高さがそれぞれ2倍であり、面積は4倍である。ただし第1のブロックが第2のブロックよりも大きければよく、倍数は特に制限されない。
なお距離センサ5が出力する1点の距離情報は、必ずしも第1のブロック全体を測定して得られた距離情報ではないが、本実施の形態ではその距離情報が便宜的に第1のブロック全体を代表する距離情報とみなしている。また詳細距離画像46における第2のブロックのそれぞれが、粗距離画像41におけるいずれの第1のブロックの領域に含まれるかも既知である。
左画像21および右画像31のそれぞれは、第2のブロックと同等以上の解像度で輝度や彩度の情報を有する。図2の例に即すると、左画像21および右画像31のそれぞれは図2(a)に示す範囲について縦と横ともに少なくとも10画素、すなわち全部で100画素以上の情報を有する。左画像21と右画像31は、詳細距離画像46と略同一の画素数でもよいし、縦方向や横方向が2倍や10倍の画素を有していてもよい。本実施の形態では、左画像21と右画像31は、詳細距離画像46と略同一の画素数とする。
(機能ブロック)
図3は、演算装置1が有する機能を機能ブロックとして示した機能ブロック図である。ただし図3には、説明の便宜のために、記憶部131およびROM12に格納される情報も示している。演算装置1はその機能として、第1視差探索部103Aと、候補算出部106と、記憶部131とを備える。記憶部131はたとえばRAM13により実現される。記憶部131には距離センサ5から入力される粗距離画像41が格納される。粗距離画像41は、距離センサ5から新たな粗距離画像41が入力されるたびに上書きされる。なお厳密には左画像21および右画像31もRAMである記憶部131に入力されるが、図3では記載を省略している。
ROM12に格納される視差テーブル121は、左カメラ2と右カメラ3についての視差と距離との関係を示すテーブルである。念のために記載すると、視差と距離の関係は、2つのカメラの相対位置や内部パラメータの影響を受ける。ROM12に格納されている視差テーブル121は、本実施の形態における左カメラ2と右カメラ3の位置関係や内部パラメータにあわせてあらかじめ作成されたものである。
第1視差探索部103Aには、左画像21および右画像31が入力される。第1視差探索部103Aは、まず左画像21および右画像31のいずれか一方を基準画像、他方を参照画像とする。第1視差探索部103Aは基準画像として左画像21と右画像31のいずれを選択してもよいが、この選択は本実施の形態では一貫させる。第1視差探索部103Aは、基準画像を第2のブロックごとに処理し、基準画像の全領域についてそれぞれの第2のブロックに対応する参照画像の領域を探索する。第1視差探索部103Aは、参照画像におけるエピポーラ線上のすべての領域を探索するのではなく、全域視差候補43に基づき参照画像の特定の領域のみを探索する。
第1視差探索部103Aによる探索には、既知の手法を用いる。たとえば第1視差探索部103Aは探索範囲についてSAD(Sum of Absolute Differences)により非類似度を算出し、非類似度が最も小さい参照画像上の領域を探索する。第1視差探索部103Aは、SADの代わりに、ZSAD(Zero-mean Sum of Absolute Differences)、ZSSD(Zero-mean Sum of Squared Differences)、BM(Block Matching)、SGM(Semi Global Matching)、NCC(Normalized Cross Correlation)、およびZNCC(Zero-mean Normalized Cross Correlation)のいずれかを用いてもよい。
第1視差探索部103Aはたとえば、基準画像を第2のブロックの大きさに区切り、1つ目の第2のブロックについて、全域視差候補43に基づき定められた領域を対象として参照画像における対応する領域を探索し、その第2のブロックの視差を決定する。そして次に第1視差探索部103Aは、基準画像の2つ目の第2のブロックについて、全域視差候補43に基づき定められた領域を対象として参照画像における対応する領域を探索し、その第2のブロックの視差を決定する。このように第1視差探索部103Aは基準画像を第2のブロックの大きさに区切り、各ブロックの視差を算出して詳細距離画像46を作成する。第1視差探索部103Aによる全域視差候補43を用いた探索の動作は後述する。
候補算出部106は、次の2つの処理を実行する。候補算出部106は第1の処理として、粗距離画像41および視差テーブル121を読み込み、粗距離画像41における第1のブロックごとの距離情報を左カメラ2および右カメラ3の視差に変換する。候補算出部106は第2の処理として、あらかじめ定められた探索条件に基づき、基準画像の第2のブロックの大きさに区切られた領域ごとに視差候補43aを作成し、すべてのブロックについての視差候補43aを全域視差候補43として第1視差探索部103Aに出力する。すなわち全域視差候補43は、基準画像を第2のブロックの大きさに区切った領域の数と同じ数だけ視差候補43aを含む。本実施の形態における探索条件は、「親ブロックおよび親ブロックの水平方向に隣接するブロック」である。視差候補43aおよび全域視差候補43の作成については後述する。探索条件はたとえば設計者によりあらかじめ決定され、ROM12に格納されるプログラムにハードコーディングされる。
図4は、親ブロックと子ブロックの関係を説明する図である。図4(a)は粗距離画像41の概念図であり図2(b)と同一である。図4(b)は左画像21の概念図であり、本実施の形態では左画像21と詳細距離画像46は略同一の画素数を有するので、図2(c)と同一のように図示されている。図4(a)に示す粗距離画像41におけるある1つの第1のブロックである領域902は、図4(b)に示す左画像21では領域903に相当する。図4(b)に示すある1つの第2のブロックである領域904は、領域903に含まれる。
このような関係にある場合に本実施の形態では、領域902と領域904の関係を「親ブロック」と「子ブロック」の関係と呼ぶ。具体的には、領域902の子ブロックが領域904であり、領域904の親ブロックが領域902である。
(候補算出部106の動作)
図5は候補算出部106の動作を説明する図である。図5(a)および図5(b)は粗距離画像41の概念図、図5(c)は全域視差候補43の概念図である。厳密には図5(c)は、左画像21を構成する第2のブロックの領域に、そのブロックの視差候補43aの基準値を記載したものである。ただし図5(a)〜(c)のいずれも粗距離画像41や全域視差候補43の一部のみを示している。また図5(a)および図5(b)における四角の枠は第1のブロックを表しており、図5(c)における四角の枠は第2のブロックを表している。なお図5(b)と図5(c)の太線の枠は対応しており、図5(b)の四角の枠で示す第2のブロックと、図5(c)の四角の枠に含まれる4つの小さな第2のブロックのそれぞれは、親ブロックと子ブロックの関係にある。
ただし厳密には全域視差候補43のそれぞれの要素、すなわちそれぞれの視差候補43aは第2のブロックの大きさを有するわけではなく、それぞれの視差候補43aを利用する対象が第2のブロックの大きさを有する。そのため厳密には”図5(b)と図5(c)が親ブロックと子ブロックの関係にある”という説明も正しくはないが、対応関係を示すためにそのように表現している。
図5(a)に示す粗距離画像41は、第1のブロックごとの距離情報を示している。距離センサ5の出力はメートル単位に限定されず、たとえば距離に対応する符号でもよいが、図5(a)に示す例では一般化してメートル単位で記載している。図5(b)は、候補算出部106が視差テーブル121を用いて粗距離画像41の距離情報を視差、すなわち画素数に変換したものである。ただし図5(b)では作図の都合により「画素」を「pxl」として表記している。
候補算出部106は、第1の処理として図5(a)の情報と視差テーブル121を用いて図5(b)に示す情報を作成する。候補算出部106はたとえば「200m」を「5画素」に置き換え、「80m」を「30画素」に置き換え。候補算出部106は第2の処理として、探索条件にしたがって図5(b)に示す情報を用いて図5(c)に示す情報を作成する。前述のとおり、本実施の形態における探索条件は親ブロックおよび親ブロックの水平方向に隣接するブロックである。
候補算出部106は、処理対象とする第2のブロックの視差の基準値を、親ブロックの視差、および3次元空間において親ブロックの水平方向に隣接する第1のブロックの視差とする。簡潔に記載すると、ある第2のブロックの視差の基準値は、親ブロックの視差、親ブロックの右隣のブロックの視差、および親ブロックの左隣のブロックの視差である。そして候補算出部106は、視差候補43aの基準値から所定の範囲、たとえばプラスマイナス20画素を視差候補43aとする。
本実施の形態では、図5(c)に示すように親ブロックが同一であれば子ブロックの視差候補43aの基準値は同一である。そのため同一の親ブロックを有する子ブロックは、いずれか1つの子ブロックについて視差候補43aを作成・記録すればよい。
(第1視差探索部103Aの動作)
図6は、第1視差探索部103Aによる視差の決定を説明する概念図である。図6(a)に左画像21と右画像31が示されている。この例では、基準画像である左画像21の領域911に対応する参照画像、すなわち右画像31の領域を探索している。本実施の形態では左カメラ2と右カメラ3が水平方向に並んで設置されているので、エピポーラ線は符号912で示す水平方向に延びる破線である。左画像21および右画像31の図示横方向の幅が800画素であり、領域911の中心が左端から200画素目の場合に、参照画像である右画像31には図示するように−200〜+600の数値が振られる。たとえば参照画像の左から600画素を中心とする領域903が基準画像の領域901に対応する、すなわち非類似度が最も低いと判断された場合には、視差は「400」と算出される。
図6(b)は、参照画像の破線912上の位置ごとの領域911との非類似度の一例を示す図である。前述のように、非類似度の算出にはSADなどが用いられる。なお図6(b)では−200〜+600の全域にわたって非類似度を示しているが、本実施の形態では全域視差候補43に含まれる処理対象の領域の視差候補43aのみ非類似度を算出すればよい。図5(c)に示す例によれば視差候補43aの基準値が50、100、400なので、視差候補43aはそれぞれを中心としたプラスマイナス20画素、すなわち30〜70、80〜120、380〜420となる。
そのため第1視差探索部103Aは、図6(b)に示すハッチングを施した領域は非類似度の算出は不要であり、視差が30〜70、80〜120、380〜420の範囲のみ非類似度を算出すればよい。図6(b)に示す例では、視差候補43aである30〜70、80〜120、380〜420のうち、最少となるピークが「400」なので視差は「400」と算出される。
(フローチャート)
図7は、第1の実施の形態における演算装置1の動作を表すフローチャートである。以下に説明する各ステップの実行主体は演算装置1のCPU11である。ステップS301では候補算出部106は、記憶部131から粗距離画像41を取得する。続くステップS302では候補算出部106は、ROM12から視差テーブル121を読み込み、粗距離画像41に格納されている距離を視差に変換する。続くステップS303では候補算出部106は、左画像21の全ての第2ブロックを処理対象として、粗距離画像41における親ブロックおよび親ブロックの左右に隣接するブロックから視差を取得する。なおこの視差は視差候補43aの基準値として扱われる。
続くステップS304では候補算出部106は、ステップS303において取得した視差に対して所定の範囲、たとえばプラスマイナス20画素を設定して各ブロックの視差候補43aを作成し、全ブロックの視差候補43aをまとめて全域視差候補43として出力する。続くステップS305では第1視差探索部103Aは、左画像21の全ての第2のブロックを処理対象とし、ブロックごとに視差候補43aの全範囲について非類似度を算出して視差を探索する。続くステップS306では第1視差探索部103Aは、ステップS305において探索した視差を用いて詳細距離画像46を生成して出力し、図7に示す処理を終了する。
上述した第1の実施の形態によれば、次の作用効果が得られる。
(1)演算装置1は、第1のブロック単位で二次元平面の視差を示す粗距離画像41を格納する記憶部131と、第1のカメラすなわち左カメラ2で撮影して得られた画像である左画像21すなわち基準画像、および第2のカメラすなわち右カメラ3で撮影して得られた画像である右画像31すなわち参照画像を用いて、第1のブロック以下の大きさである第2のブロック単位で、第2のブロックごとに視差の候補である視差候補43aに基づき基準画像における視差を算出して詳細な距離画像である詳細距離画像46を生成する第1視差探索部103Aと、第1視差探索部103Aが視差を算出する第2のブロックを含む第1のブロックの大きさを有する領域である親ブロックの視差、親ブロックに隣接する第1のブロックの大きさを有する領域である隣接ブロックの視差、および探索条件に基づき視差候補43aを算出する候補算出部106とを備える。そのため、親ブロックだけでなく親ブロックに隣接するブロックの視差も用いて視差候補43aを決定するので、算出する距離の精度を向上できる。この利点を詳述する。
図4(b)の領域902などのように物体の輪郭が含まれる親ブロックでは、複数の子ブロックの視差が異なるため1つの親ブロックの視差だけを用いて視差を算出すると精度の低下が避けられない。仮に1つの親ブロックの視差のみを使って子ブロックの視差を探索すると、最適な視差が探索できず親ブロックの視差付近の値となってしまう。なお範囲を限定せずにエピポーラ線上のすべての領域を探索することも可能であるが、その場合は計算量が増加する問題、および全く異なる視差が選択されてしまう問題が生じうる。その一方で、本実施の形態では親ブロックに隣接するブロックの視差も用いるため、適切な範囲を探索でき、全探索を行うよりも計算量は少なく、親ブロックのみの視差を用いる場合や全探索をする場合よりも精度を向上できる。
(2)演算装置1は、粗距離画像41を受信し記憶部131に格納するインタフェース14を備える。そのため演算装置1は、粗距離画像41を計算することなく容易に取得できるので計算量を削減できる。
(3)候補算出部106は、粗距離画像41において親ブロックおよび隣接ブロックのそれぞれに設定されている視差を用いて視差候補43aを探索する。具体的には候補算出部106は粗距離画像41から親ブロックおよび隣接ブロックの視差の値を読み込んで視差候補43aの基準値とし、基準値に所定の幅を持たせたものを視差候補43aとし、その全域を探索する。そのため、より確からしい視差を算出できる。
(4)基準画像および参照画像のいずれも、鉛直方向および水平方向に広がりのある3次元空間を撮影して得られた画像である。候補算出部106は、3次元空間において親ブロックの水平方向に存在する第1のブロックを隣接ブロックとする。たとえば自動車用のアプリケーションでは、鉛直方向の距離精度よりも水平方向の距離精度が必要とされる傾向にあり、候補算出部106が参照する候補を増やすほど第1視差探索部103Aの計算量は増加する。そのため、参照する親ブロックの位置を精度確保の要請が強い水平方向に限定することで、要求制度を満たしつつ計算量を削減できる。
(変形例1)
上述した第1の実施の形態では、粗距離画像41は距離センサ5が出力した。しかし演算装置1が粗距離画像41を生成する第2視差探索部を備えてもよい。この場合は車両9は距離センサ5を備えなくてもよい。
図8は、変形例1における演算装置1の機能ブロック図である。図8に示す機能ブロック図は、図3に比べて第2視差探索部103Bが追加されている。第1視差探索部103Aの動作は第1の実施の形態と同様である。候補算出部106は、距離を視差に変換する第1の処理を行わなくてよい。第2視差探索部103Bには、左画像21および右画像31が入力される。第2視差探索部103Bは、粗距離画像41を生成して記憶部131に格納する。
第2視差探索部103Bの動作を詳述すると次のとおりである。第2視差探索部103Bはまず、左画像21を基準画像、右画像31を参照画像として、第1のブロックの単位で基準画像の各領域に対応する参照画像の領域を特定して視差を算出する。そして第2視差探索部103Bは、算出したそれぞれの第1のブロックの視差をそのまま粗距離画像41として出力する。第2視差探索部103Bによる視差の算出は次のとおりである。
第2視差探索部103Bは視差を算出するために、参照画像におけるエピポーラ線上の全ての第1のブロックを対象として非類似度を算出し、非類似度が最も小さいブロックを探索する。そして第2視差探索部103Bは、処理対象の基準画像のブロックの基準画像上の座標と、非類似度が最も小さいブロックの参照画像上の座標との差を視差とする。なお第2視差探索部103Bによる非類似度の算出は、SAD、ZSAD、ZSSD、BM、SGM、NCC、およびZNCCのいずれを用いてもよい。
第1視差探索部103Aと第2視差探索部103Bの動作の違いは、処理対象とするブロックの大きさと、探索対象が制限されるか否かである。第1視差探索部103Aは処理対象が第2のブロックであり、第2視差探索部103Bは処理対象が第1のブロックである。第1視差探索部103Aは、処理対象の視差の算出にあたりエピポーラ線上でありかつ視差候補43aで示される範囲のみ視差の探索を行う。第2視差探索部103Bは、探索範囲を特に限定せずエピポーラ線上の全ての領域を探索する。ただし第2視差探索部103B一律に探索範囲を制限し、たとえば水平方向の全域ではなく60%の範囲のみ、具体的には視差がゼロの位置を中心に800画素の60%である480画素の範囲を探索範囲としてもよい。
この変形例1によれば、次の作用効果が得られる。
(5)演算装置1は、基準画像および参照画像を用いて粗距離画像41を作成し記憶部131に格納する第2視差探索部103Bを備える。そのため車両9が距離センサ5を備えなくても詳細距離画像46を作成できる。
なお変形例1において、第1視差探索部103Aと第2視差探索部103Bは共通のプログラム部品やハードウエア回路を用いて実現してもよい。
(変形例2)
上述した第1の実施の形態では、第1のブロックは第2のブロックよりも大きかった。しかし第1のブロックと第2のブロックは同一のサイズであってもよい。すなわちこの場合は、処理対象とするブロックの視差、すなわち距離の情報を、周辺のブロックの視差を利用して改めて算出する。そのため、詳細距離画像46に格納される距離情報は、粗距離画像41に格納される距離情報よりも精度が高くなる利点があり、一定の有用性が認められる。
(変形例3)
上述した第1の実施の形態では、候補算出部106は親ブロックと親ブロックの左右に隣接するブロックの視差の全てを視差候補43aの基準値とした。しかし候補算出部106は視差候補43aの基準値を1つに絞り、1つの基準値から所定の範囲を視差候補43aとしてもよい。この場合に候補算出部106は、それぞれの視差候補43aの基準値について非類似度を算出し、最も確からしい視差、すなわち非類似度が最も低い基準値を採用する。
たとえば左画像21におけるある第2のブロックをブロックXとしたときに、ブロックXの親ブロックとその親ブロックの左右に隣接するブロックの視差が、50、100、400画素であったとする。この場合に候補算出部106は、ブロックXと、ブロックXに対して視差が50、100、400画素である右画像31の領域との非類似度を算出し、非類似度が最小の領域の視差を視差の基準値とする。そしてその基準値から所定の範囲、たとえばプラスマイナス20画素を視差候補43aとする。
図9は、本変形例における演算装置1の動作を表すフローチャートである。本フローチャートは第1の実施の形態における図7に比べて、ステップS303Aが追加されている点が異なる。ステップS303Aでは候補算出部106は、ステップS303において取得した視差のうち最も確からしい視差、すなわち非類似度が最も低い基準値を特定する。続くステップS304ではステップS303Aにおいて特定した視差から所定の範囲を視差候補43aとして出力する。ステップS305以降の処理は第1の実施の形態と同様なので説明を省略する。
この変形例3によれば、次の作用効果が得られる。
(6)候補算出部106は、粗距離画像41において親ブロックおよび隣接ブロックのそれぞれに設定されている視差からいずれか1つの視差を選択し、選択した視差を用いて視差候補43aを決定する。そのため、計算量を削減することができる。
(変形例4)
上述した第1の実施の形態では、候補算出部106の探索条件は「親ブロックおよび親ブロックの水平方向に隣接するブロック」であった。しかし探索条件はこれに限定されない。
図10は探索条件のバリエーションを示す図である。図10(a)は第1の実施の形態における探索条件を示す図、図10(b)〜図10(e)は本変形例で例示する探索条件を示す図である。図10におけるそれぞれのアルファベットは、粗距離画像41における第1のブロックに便宜的に付した名称である。図10に示すアルファベットのうち、「P」は親ブロックを示しており、他のアルファベットに特別な意味はない。
図10(a)に示すように第1の実施の形態では、親ブロックおよび親ブロックの水平方向に隣接するブロック、すなわちブロックE、P、Fの視差を候補の基準値とした。しかし図10(b)〜図10(e)に示すように探索条件を変化させてもよい。図10(b)に示す例における探索条件は、親ブロックを中心とする全9ブロックである。この場合にはブロックPおよびブロックB〜Iの視差が候補の基準値となる。
図10(c)における探索条件は親ブロックおよび親ブロックの上下左右である。この場合にはブロックP、C、E、F、Hの視差が候補の基準値となる。図10(d)における探索条件は親ブロック、親ブロックの左上、親ブロックの左、および親ブロックの上である。この場合にはブロックP、B、C、Eの視差が候補の基準値となる。図10(e)における探索条件は親ブロックおよび左右2ブロックである。この場合にはブロックP、K、E、F、Nの視差が候補の基準値となる。この変形例4によれば、様々な探索条件を設定できる。
(変形例5)
候補算出部106および第1視差探索部103Aは、詳細距離画像46を用いてさらに詳細な距離画像を作成してもよい。換言すると演算装置1は、第1の実施の形態における粗距離画像41から詳細距離画像46を作成する処理を、詳細距離画像46からさらに詳細な距離画像の作成に適用してもよい。さらに演算装置1は、この処理を繰り返し実行して距離画像の解像度を徐々に向上させ、最終的には1画素ごとに距離を算出してもよい。
本変形例では第2のブロック以下のサイズを有する第3のブロックを定義し、第1視差探索部103Aが詳細距離画像46を作成した後に、候補算出部106が基準画像における第3のブロックごとに詳細距離画像46を用いて視差候補を作成する。そして第1視差探索部103Aは、候補算出部106が詳細距離画像46を用いて作成した視差候補に基づき第3のブロックごとにより詳細な距離画像を作成する。この変形例5によれば、より詳細な距離画像を作成できる。
(変形例6)
候補算出部106は、取得した視差候補43aの基準値からあらかじめ定めた所定の範囲を視差候補43aとした。たとえば上述した第1の実施の形態では、所定の範囲はプラスマイナス20画素として説明した。しかし候補算出部106は、この範囲を距離に応じて可変としてもよい。被写体までの距離が遠く視差が小さい場合には変化量も小さいが、被写体までの距離が近く視差が大きい場合には変化量が大きい傾向にあるためである。
たとえば候補算出部106は、親ブロックの距離の遠近に応じてこの範囲を決定してもよい。この場合に候補算出部106は、親ブロックの距離が近いほど範囲を広く設定し、親ブロックの距離が近いほど範囲を狭く設定する。別な一例として候補算出部106は、基準となる視差の値の大小に応じてこの範囲を決定してもよい。この場合には、視差候補43aの基準値が大きいほど範囲を広く設定し、比佐の候補の基準値が小さいほど範囲を狭く設定する。
(変形例7)
上述した第1の実施の形態では、第1視差探索部103Aは、非類似度を算出する領域と視差を設定する領域を一致させていた。しかし第1視差探索部103Aは、非類似度を算出する領域よりも視差を設定する領域を狭く設定してもよい。非類似度の算出、すなわち対応する位置の探索を広い領域で行い、視差は狭い範囲で行うことによりノイズの影響を受けにくくする利点を有する。
図11は、変形例7における第1視差探索部103Aの動作を説明する図である。図11に示す内側の四角が視差を設定する領域であり、外側の四角が非類似度を算出する領域である。図11に示すでは視差を設定する領域に対して非類似度を算出する領域は9倍の面積を有するが、この面積の比率は任意である。また、図示縦方向の比率と図示横方向の比率も任意であり、たとえば視差を設定する領域に対して非類似度を算出する領域が図示横方向には4倍、図示縦方向には1.5倍の長さを有してもよい。
(変形例8)
上述した第1の実施の形態では、候補算出部106は処理対象の第2のブロックの親ブロックの視差および親ブロックの左右に隣接するブロックの視差を視差候補43aの基準値とした。しかし所定の場合には、親ブロックの視差のみを視差候補43aの基準値としてもよい。所定の場合とはたとえば、親ブロックの視差の値と、親ブロックの左右に隣接するブロックの視差との差が所定値以下の場合である。別の所定の場合とは、親ブロックの視差の値が非常に大きい、または非常に小さい場合である。
また演算装置1が車両9に搭載された速度センサから車両9の速度の情報を取得可能な場合は、次の2つの変形例も採用可能である。車両9の速度が所定の閾値より速くかつ親ブロックの視差の値が所定の閾値よりも大きい場合には親ブロックの視差のみを視差候補43aの基準値としてもよい。また車両9の速度が所定の閾値より遅くかつ親ブロックの視差の値が所定の閾値よりも小さい場合には親ブロックの視差のみを視差候補43aの基準値としてもよい。この2つの変形例は、車速が早い場合の近い距離の情報や車速が遅い場合の遠い距離の情報は重要性が低いため精度の向上をよりも計算用の低減を重視するものである。
さらに本変形例では第1視差探索部103Aは、詳細距離画像46に第2のブロックごとの処理経過を示す付加情報を付加して出力してもよい。具体的には付加情報は、第2のブロックごとに視差の基準値が親ブロックの視差のみであるか、親ブロックおよび親ブロックの左右に隣接するブロックの視差であるかを示す情報である。付加情報は第1視差探索部103Aが作成してもよいし、候補算出部106が作成してもよい。
図12は第1視差探索部103Aの出力を示す概念図である。図12に示す符号3001が付加情報を表している。図12に示すように付加情報3001は詳細距離画像46の先頭に付加されてもよいし、図12とは逆に付加情報3001が詳細距離画像46の末尾に付加されてもよい。また付加情報3001と詳細距離画像46の情報がたとえば1ブロックずつ交互に記載されてもよい。
この変形例8によれば、次の作用効果が得られる。
(7)演算装置1、左カメラ2、および右カメラ3は車両9に搭載される。候補算出部106は、車両9の速度および親ブロックの視差に基づき、親ブロックの視差のみを用いて視差候補43aを決定するか否かを決定する。そのため、不要な演算を削減できる。
(変形例9)
特定の条件を満たす場合には、第1視差探索部103Aは探索を行わず、親ブロックの視差の値をそのまま子ブロックの視差としてもよい。本変形例では、候補算出部106は以下に述べる所定の場合に、第2のブロックごとに、第1視差探索部103Aに探索が不要な旨の特別な信号および親ブロックの視差を出力し、この特別な信号を受信した第1視差探索部103Aは受信した親ブロックの視差を子ブロックの視差とする。
候補算出部106は親ブロックの視差の値と、親ブロックの左右に隣接するブロックの視差との差が所定値以下の場合に、前述の特別な信号および親ブロックの視差の値を出力してもよい。また候補算出部106は、親ブロックの視差の値が非常に大きい、または非常に小さい場合に前述の特別な信号および親ブロックの視差の値を出力してもよい。
また演算装置1が車両9に搭載された速度センサから車両9の速度の情報を取得可能な場合は、次の2つの変形例も採用可能である。車両9の速度が所定の閾値より速くかつ親ブロックの視差の値が所定の閾値よりも大きい場合には、候補算出部106は前述の特別な信号および親ブロックの視差の値を出力してもよい。また車両9の速度が所定の閾値より遅くかつ親ブロックの視差の値が所定の閾値よりも小さい場合には、候補算出部106は前述の特別な信号および親ブロックの視差の値を出力してもよい。この2つの変形例は、車速が早い場合の近い距離の情報や車速が遅い場合の遠い距離の情報は重要性が低いため精度の向上をよりも計算用の低減を重視するものである。
さらに本変形例では第1視差探索部103Aは、詳細距離画像46に第2のブロックごとの処理経過を示す付加情報を付加して出力してもよい。具体的には付加情報は、第2のブロックごとに探索を行って視差を決定したのか、親ブロックの視差をそのまま使用したのかを示す情報である。付加情報は第1視差探索部103Aが作成してもよいし、候補算出部106が作成してもよい。
(変形例10)
上述した第1の実施の形態では、詳細距離画像46を出力するタイミングは特に規定しなかった。しかし以下に説明するように第1〜第4のいずれのタイミングで出力してもよい。第1のタイミングは、詳細距離画像46の全体が作成されたタイミングである。第1のタイミングで出力する場合には、詳細距離画像46の全体が一度に出力される。第2のタイミングは、詳細距離画像46の図示横方向の1ラインが作成されたタイミングである。第2のタイミングで出力する場合には、詳細距離画像46の1ラインが作成されるたびにその1ラインの情報が出力される。
第3のタイミングは、図示横方向に連続する4画素以上の所定の画素数の距離情報が作成されたタイミングである。第3のタイミングで出力する場合には、詳細距離画像46の所定の画素数の距離情報が作成されるたびにその所定の画素数の情報が出力される。第4のタイミングは、図示横方向に連続する3画素の距離情報が作成されたタイミングである。第4のタイミングで出力する場合には、詳細距離画像46の3画素の距離情報が作成されるたびにその3画素の情報が出力される。
図13は変形例10における詳細距離画像46を出力するタイミングを示す概念図である。図13(a)〜(d)のそれぞれは、上述した第1〜第4のタイミングに対応する。
(変形例11)
上述した第1の実施の形態では、第1視差探索部103Aが出力する詳細距離画像46には視差の値そのものが含まれた。しかし第1視差探索部103Aは、視差テーブル121を用いて詳細距離画像46に含まれる視差を距離に変換して出力してもよい。この場合に第1視差探索部103Aは、各画素の値が所定の範囲、たとえば0〜255となるように全画素の値に最適な係数を掛ける、いわゆる正規化処理をさらに施してもよい。
(変形例12)
第1の実施の形態において、説明した演算装置1の機能構成は一例に過ぎない。図2に示したいくつかの機能構成を一体に構成されてもよいし、図3では1つの機能ブロック図で表した構成を2以上の機能に分割してもよい。また各機能ブロックが有する機能の一部を他の機能ブロックが備える構成としてもよい。たとえば視差候補43aには基準値のみを含め、第1視差探索部103Aが基準値を中心とした所定の範囲を探索範囲としてもよい。たとえば本変形例では視差候補43aが「50、100、400画素」であり、第1視差探索部103Aはこの視差候補43aが入力されると「30〜70、80〜120、380〜420画素」を探索する。
―第2の実施の形態―
図14〜図15を参照して、本発明に係る演算装置の第2の実施の形態を説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、撮影画像からエッジを検出しエッジを利用して探索範囲を変化させる点で、第1の実施の形態と異なる。本実施の形態における演算装置1Aのハードウエア構成、および演算装置1Aを搭載する車両9のハードウエア構成は第1の実施の形態と同様なので説明を省略する。
(機能ブロック)
図14は、第2の実施の形態における演算装置1Aが有する機能を機能ブロックとして示した機能ブロック図である。第1の実施の形態との違いは、演算装置1Aが特徴情報算出部107をさらに備える点である。第1視差探索部103Aの動作は第1の実施の形態と同様である。候補算出部106の動作は後述するように第1の実施の形態と一部が異なる。
特徴情報算出部107には左画像21が入力される。特徴情報算出部107は左画像21からエッジを検出して特徴情報47を算出し、特徴情報47を候補算出部106に出力する。エッジの検出には種々の既知の手法を用いることができ、たとえばソーベルフィルタやガウシアンフィルタによりエッジを検出する。特徴情報算出部107は、検出したエッジの位置を特徴情報47として候補算出部106に出力する。
候補算出部106は、処理対象の第2のブロックの親ブロックがエッジ上であるか否かにより処理を次のように変化させる。候補算出部106は、処理対象の第2のブロックの親ブロックがエッジ上に存在する場合には、第1の実施の形態と同様に親ブロックと親ブロックの左右に隣接するブロックの視差を取得する。その一方で処理対象の第2のブロックの親ブロックがエッジ上にない場合は、候補算出部106は親ブロックの視差のみを取得する。親ブロックがエッジ上にない場合には、親ブロックの領域において急激な距離の変化はないと考えられるので、処理を軽減するために親ブロックの視差のみを視差候補43aの基準値とする。
図15は第2の実施の形態における演算装置1Aの処理を示すフローチャートである。第1の実施の形態との違いは、ステップS303の代わりにステップS303PおよびステップS303Qを備える点である。ステップS301およびステップS302の処理は第1の実施の形態と同様なので説明を省略する。ステップS303Pでは候補算出部106は、親ブロックがエッジ上にある第2のブロックについて、親ブロックとその親ブロックの左右に隣接するブロックの視差を取得する。ステップS303Qでは候補算出部106は、親ブロックがエッジ上にない第2のブロックについて、親ブロックの視差を取得する。
念のために記載すると、候補算出部106はステップS303PおよびステップS303Qを合わせると、基準画像におけるすべての第2のブロックを対象として何らかの視差を取得する。ステップS303PおよびステップS303Qにおいて取得した視差は、視差候補43aの基準値として使用される。ステップS304以降の処理は第1の実施の形態と同様なので説明を省略する。
上述した第2の実施の形態によれば、次の作用効果が得られる。
(8)演算装置1Aは、左画像21から特徴情報47を算出する特徴情報算出部107を備える。候補算出部106は、特徴情報算出部107が算出した特徴情報47に基づき、親ブロックの視差のみを用いて視差候補43aを決定するか否かを決定する。そのため、撮影した画像の特徴を利用して計算を削減できる。
(9)特徴情報47とは画像のエッジ情報である。候補算出部106は、親ブロックの領域が特徴情報算出部により算出されたエッジと重複する場合には親ブロックおよび隣接ブロックの視差を用いて視差候補43aを決定し、親ブロックの領域が特徴情報算出部により算出されたエッジと重複しない場合には親ブロックの視差のみを用いて視差候補43aを決定する。そのため、エッジの境界付近の距離精度を向上することができる。
(第2の実施の形態の変形例1)
上述した第2の実施の形態では、画像中の特徴情報としてエッジが用いられた。しかし特徴情報としてエッジの代わりにノイズを用いてもよい。特徴情報算出部107は、左画像21の細かい領域ごとにノイズレベルを評価し、領域ごとのノイズレベルの大きさを特徴情報47として候補算出部106に出力してもよい。ノイズの評価には既知の手法を用いることができ、たとえばRMS(root mean square)粒状度やウィーナースペクトルを用いて評価することができる。
候補算出部106は、親ブロックが存在する領域のノイズレベルが所定の閾値よりも低いことを親ブロックがエッジ上に存在することと同様に扱い、親ブロックが存在する領域のノイズレベルが所定の閾値以上であることを親ブロックがエッジ上に存在しないことと同様に扱う。なお特徴情報算出部107は、ノイズの評価とエッジの検出の両方を実行し、両方の情報を特徴情報47として出力してもよい。その場合は候補算出部106は、ノイズとエッジの両方の情報を用いて判断を行う。
本変形例によれば次の作用効果が得られる。
(10)特徴情報47とは画像のノイズ情報である。候補算出部106は、親ブロックの領域におけるノイズレベルが所定の閾値よりも低い場合には親ブロックおよび隣接ブロックの視差を用いて視差候補43aを決定し、親ブロックの領域におけるノイズレベルが所定の閾値以上の場合には親ブロックの視差のみを用いて視差候補43aを決定する。そのためノイズが多く参照量を増やしても距離精度の改善が見込めない領域の計算量を削減できる。
(第2の実施の形態の変形例2)
第2の実施の形態において、演算装置1Aが粗距離画像41を生成する第2視差探索部を備えてもよい。この場合は、車両9は距離センサ5を備えなくてもよい。なお本変形例は、第2の実施の形態の構成と、第1の実施の形態の変形例1とを組み合わせてもよいことを明示するものである。
図16は、第2の実施の形態の変形例2における演算装置1の機能ブロック図である。図16に示す機能ブロック図は、図14に比べて第2視差探索部103Bが追加されている。第1視差探索部103Aの動作は第1の実施の形態と同様である。候補算出部106は、距離を視差に変換する第1の処理を行わなくてよい。第2視差探索部103Bには、左画像21および右画像31が入力される。第2視差探索部103Bは、粗距離画像41を生成して記憶部131に格納する。これ以降の処理は、第1の実施の形態の変形例1および第2の実施の形態において説明済みなので説明を省略する。
上述した各実施の形態および変形例において、プログラムは不図示のROMに格納されるとしたが、プログラムは不図示の不揮発性記憶装置に格納されていてもよい。また、演算装置が不図示の入出力インタフェースを備え、必要なときに入出力インタフェースと演算装置が利用可能な媒体を介して、他の装置からプログラムが読み込まれてもよい。ここで媒体とは、例えば入出力インタフェースに着脱可能な記憶媒体、または通信媒体、すなわち有線、無線、光などのネットワーク、または当該ネットワークを伝搬する搬送波やディジタル信号、を指す。また、プログラムにより実現される機能の一部または全部がハードウエア回路やFPGAにより実現されてもよい。
上述した各実施の形態および変形例は、それぞれ組み合わせてもよい。上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
1、1A…演算装置
2…左カメラ
3…右カメラ
4…車両制御装置
5…距離センサ
9…車両
14…インタフェース
21…左画像
31…右画像
41…粗距離画像
43…視差候補a
43…全域視差候補
46…詳細距離画像
47…特徴情報
103A…第1視差探索部
103B…第2視差探索部
106…候補算出部
107…特徴情報算出部
121…視差テーブル
131…記憶部

Claims (11)

  1. 第1のブロック単位で視差を示す粗距離画像を格納する記憶部と、
    第1のカメラで撮影して得られた画像である基準画像、および第2のカメラで撮影して得られた画像である参照画像を用いて、前記第1のブロック以下の大きさである第2のブロック単位で、前記第2のブロックごとに視差の候補である視差候補に基づき、前記基準画像における視差を算出して詳細な距離画像である詳細距離画像を生成する第1視差探索部と、
    前記第1視差探索部が視差を算出する前記第2のブロックを含む前記第1のブロックの大きさを有する領域である親ブロックの視差、前記親ブロックに隣接する前記第1のブロックの大きさを有する領域である隣接ブロックの視差、および探索条件に基づき前記視差候補を算出する候補算出部とを備える演算装置。
  2. 請求項1に記載の演算装置において、
    前記基準画像および前記参照画像を用いて前記粗距離画像を作成し前記記憶部に格納する第2視差探索部をさらに備える演算装置。
  3. 請求項1に記載の演算装置において、
    前記粗距離画像を受信し前記記憶部に格納するインタフェースをさらに備える演算装置。
  4. 請求項1に記載の演算装置において、
    前記候補算出部は、前記粗距離画像において前記親ブロックおよび前記隣接ブロックのそれぞれに設定されている視差を用いて前記視差候補を探索する演算装置。
  5. 請求項1に記載の演算装置において、
    前記候補算出部は、前記粗距離画像において前記親ブロックおよび前記隣接ブロックのそれぞれに設定されている視差からいずれか1つの視差を選択し、前記選択した視差を用いて前記視差候補を探索する演算装置。
  6. 請求項1に記載の演算装置において、
    前記基準画像および前記参照画像のいずれも、鉛直方向および水平方向に広がりのある3次元空間を撮影して得られた画像であり、
    前記候補算出部は、3次元空間において前記親ブロックの水平方向に存在する前記第1のブロックを前記隣接ブロックとする演算装置。
  7. 請求項1に記載の演算装置において、
    前記演算装置、前記第1のカメラ、および前記第2のカメラは車両に搭載され、
    前記候補算出部は、前記車両の速度および前記親ブロックの視差に基づき、前記親ブロックの視差のみを用いて前記視差候補を決定するか、前記親ブロックおよび前記隣接ブロックの視差を用いて前記視差候補を決定するかを判断する演算装置。
  8. 請求項1に記載の演算装置において、
    前記基準画像から特徴情報を算出する特徴情報算出部をさらに備え、
    前記候補算出部は、前記特徴情報算出部が算出した前記特徴情報に基づき、前記親ブロックの視差のみを用いて前記視差候補を決定するか、前記親ブロックおよび前記隣接ブロックの視差を用いて前記視差候補を決定するかを判断する演算装置。
  9. 請求項8に記載の演算装置において、
    前記特徴情報とは画像のエッジであり、
    前記候補算出部は、前記親ブロックの領域が前記特徴情報算出部により算出されたエッジと重複する場合には前記親ブロックおよび前記隣接ブロックの視差を用いて前記視差候補を決定し、前記親ブロックの領域が前記特徴情報算出部により算出されたエッジと重複しない場合には前記親ブロックの視差のみを用いて前記視差候補を決定する演算装置。
  10. 請求項8に記載の演算装置において、
    前記特徴情報とは画像のノイズ情報であり、
    前記候補算出部は、前記親ブロックの領域におけるノイズレベルが所定の閾値よりも低い場合には前記親ブロックおよび前記隣接ブロックの視差を用いて前記視差候補を決定し、前記親ブロックの領域におけるノイズレベルが前記所定の閾値以上の場合には前記親ブロックの視差のみを用いて前記視差候補を決定する演算装置。
  11. 第1のブロック単位で視差を示す粗距離画像を格納する記憶部を備える演算装置が実行する視差算出方法であって、
    第1のカメラで撮影して得られた画像である基準画像、および第2のカメラで撮影して得られた画像である参照画像を用いて、前記第1のブロック以下の大きさである第2のブロック単位で、前記第2のブロックごとに視差の候補である視差候補に基づき、前記基準画像における視差を算出して詳細な距離画像である詳細距離画像を生成することと、
    視差の算出対象である前記第2のブロックを含む前記第1のブロックの大きさを有する領域である親ブロックの視差、前記親ブロックに隣接する前記第1のブロックの大きさを有する領域である隣接ブロックの視差、および探索条件に基づき前記視差候補を算出することとを含む視差算出方法。
JP2019036151A 2019-02-28 2019-02-28 演算装置、視差算出方法 Active JP7136721B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019036151A JP7136721B2 (ja) 2019-02-28 2019-02-28 演算装置、視差算出方法
PCT/JP2020/004342 WO2020175063A1 (ja) 2019-02-28 2020-02-05 演算装置、視差算出方法
EP20762912.2A EP3933341B1 (en) 2019-02-28 2020-02-05 Computation device and parallax calculation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019036151A JP7136721B2 (ja) 2019-02-28 2019-02-28 演算装置、視差算出方法

Publications (2)

Publication Number Publication Date
JP2020140497A true JP2020140497A (ja) 2020-09-03
JP7136721B2 JP7136721B2 (ja) 2022-09-13

Family

ID=72238348

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019036151A Active JP7136721B2 (ja) 2019-02-28 2019-02-28 演算装置、視差算出方法

Country Status (3)

Country Link
EP (1) EP3933341B1 (ja)
JP (1) JP7136721B2 (ja)
WO (1) WO2020175063A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023218844A1 (ja) * 2022-05-10 2023-11-16 日立Astemo株式会社 画像処理装置及び画像処理方法
JP7438713B2 (ja) 2019-10-28 2024-02-27 キヤノン株式会社 撮像装置、方法及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011013064A (ja) * 2009-07-01 2011-01-20 Nikon Corp 位置検出装置
TWI637350B (zh) * 2018-01-09 2018-10-01 緯創資通股份有限公司 產生視差圖的方法及其影像處理裝置與系統

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7137298B2 (ja) 2017-08-17 2022-09-14 株式会社富士通エフサス 評価装置、評価方法および評価プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011013064A (ja) * 2009-07-01 2011-01-20 Nikon Corp 位置検出装置
TWI637350B (zh) * 2018-01-09 2018-10-01 緯創資通股份有限公司 產生視差圖的方法及其影像處理裝置與系統
JP2019121349A (ja) * 2018-01-09 2019-07-22 緯創資通股▲ふん▼有限公司Wistron Corporation 視差マップを生成するための方法、画像処理デバイス、およびシステム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7438713B2 (ja) 2019-10-28 2024-02-27 キヤノン株式会社 撮像装置、方法及びプログラム
WO2023218844A1 (ja) * 2022-05-10 2023-11-16 日立Astemo株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
WO2020175063A1 (ja) 2020-09-03
EP3933341A4 (en) 2022-11-23
JP7136721B2 (ja) 2022-09-13
EP3933341B1 (en) 2024-05-22
EP3933341A1 (en) 2022-01-05

Similar Documents

Publication Publication Date Title
US11635767B2 (en) System and method of using multi-resolution camera clusters input data for controlling autonomous vehicles
US8224069B2 (en) Image processing apparatus, image matching method, and computer-readable recording medium
US10477178B2 (en) High-speed and tunable scene reconstruction systems and methods using stereo imagery
JP6561512B2 (ja) 視差値導出装置、移動体、ロボット、視差値導出方法、視差値生産方法及びプログラム
JP6417886B2 (ja) 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム
JP5752618B2 (ja) ステレオ視差算出装置
US8416989B2 (en) Image processing apparatus, image capture apparatus, image processing method, and program
US10977816B2 (en) Image processing apparatus, image processing program, and driving assistance system
US9813694B2 (en) Disparity value deriving device, equipment control system, movable apparatus, robot, and disparity value deriving method
WO2018147059A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP7136721B2 (ja) 演算装置、視差算出方法
KR101875532B1 (ko) 계층적 스테레오 매칭 장치 및 방법
JP6494402B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP6561511B2 (ja) 視差値導出装置、移動体、ロボット、視差値生産導出方法、視差値の生産方法及びプログラム
JP6395429B2 (ja) 画像処理装置、その制御方法及び記憶媒体
JP2014142832A (ja) 画像処理装置、画像処理装置の制御方法、およびプログラム
JP2020021126A (ja) 画像処理装置およびその制御方法、距離検出装置、撮像装置、プログラム
JP6057629B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP2019120590A (ja) 視差値算出装置、視差値算出方法及びプログラム
JP6614824B2 (ja) 画像処理装置、画像処理システム、撮像装置、画像処理方法およびプログラム
JP2016070774A (ja) 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム
JP6991700B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6604783B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP6351364B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP6655869B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220901

R150 Certificate of patent or registration of utility model

Ref document number: 7136721

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150