JP2013224919A - 校正装置、距離計測装置及び車両 - Google Patents

校正装置、距離計測装置及び車両 Download PDF

Info

Publication number
JP2013224919A
JP2013224919A JP2013002679A JP2013002679A JP2013224919A JP 2013224919 A JP2013224919 A JP 2013224919A JP 2013002679 A JP2013002679 A JP 2013002679A JP 2013002679 A JP2013002679 A JP 2013002679A JP 2013224919 A JP2013224919 A JP 2013224919A
Authority
JP
Japan
Prior art keywords
parallax
image
coordinate conversion
unit
feature points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013002679A
Other languages
English (en)
Other versions
JP6182866B2 (ja
Inventor
Shin Aoki
青木  伸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2013002679A priority Critical patent/JP6182866B2/ja
Priority to US13/798,425 priority patent/US9148657B2/en
Priority to EP13158920.2A priority patent/EP2642447A3/en
Priority to CN201310085503.9A priority patent/CN103322983B/zh
Publication of JP2013224919A publication Critical patent/JP2013224919A/ja
Application granted granted Critical
Publication of JP6182866B2 publication Critical patent/JP6182866B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】より高精度な距離計測を行うために、ステレオカメラの経時的な位置ずれを高精度に補正する。
【解決手段】2地点において一方の撮像装置で撮像された2つの基準画像と、2地点において他方の撮像装置で撮像された2つの対応画像と2つの基準画像とを用い、各地点につき基準画像と対応画像の中の共通する複数の特徴点の位置から算出された複数の視差データとの入力を受け付ける画像取得部(S50)と、2つの基準画像の中の共通する複数の特徴点を探索する特徴点探索部(S55)と、特徴点探索部により探索された各特徴点に対して、2つの基準画像の各特徴点における2つの視差データを、座標変換する座標変換部(S60)と、座標変換部の出力する変換された視差データから、撮像装置の位置に関するパラメータの補正値を算出する補正値計算部と、を備える。
【選択図】図12

Description

本発明は、ステレオカメラ方式の距離計測装置を校正するための校正装置及びそれを備えた距離計測装置、車両に関する。
近年、車載ステレオカメラが実用化されている。これは、自動車に搭載されたステレオカメラにより、車両前方の距離画像を生成し、その距離画像から障害物を認識して障害物までの距離を計測することにより、衝突防止や車間距離制御のために、運転者に警告を発報したり、ブレーキ、ステアリングなどの制御装置の操作を実行するものである。
特許文献1および2では、静止物体の形状を記憶しておき、記憶された形状と照合して静止物体を認識し、自車の速度センサなどから移動距離を求め、静止物体との距離変化と対応づけることで、視差オフセットを算出する。そして、2つの異なる地点で撮影したステレオ画像から視差オフセット量を計測するという技術が開示されている。
特許文献1および2では、まず1枚の輝度画像から静止被写体を認識するため、静止被写体の形状(例えば青信号)をあらかじめ記録しておく必要がある。なお、記憶している被写体が存在しなければ動作できなので、例えば高速道路上に信号は無いため動作できない。交通標識など静止被写体の形状や大きさは地方や国ごとに異なり、また将来変更される可能性がある。そのため、登録された形状による静止被写体の判別という方法は安定な動作をしない可能性がある。
特許文献3では、自車直前の路面上の濃淡模様から特徴点を抽出し、その特徴点を利用して距離計測を行い、路面の位置、方向を表す路面パラメータを計算し、この路面パラメータの変化から視差オフセットを算出する。
自動車が走行している限り、直前に平坦な路面が存在する可能性は非常に高く、この点、上述したように、対象物を発見できないという問題が生じる可能性は低い。なお、特許文献3に記載の技術によれば、特定形状の被写体を認識する必要がない。
しかし、この技術では、視差オフセットを計算する情報源を路面に限定されてしまい、壁、建物、電柱など平面以外の静止被写体を有効に活用できない。これは特に屋内など車載以外の利用環境では問題となる。
また(カメラ解像度や対応点探索手法に依存するが)、路面上の濃淡は細かく遠距離の特徴点は数が少なくなるため、近距離しか距離計測できず、校正には利用できない。車間距離自動調整など、利用目的によっては、(路面濃淡より大きな構造である)先行車をより遠距離まで計測範囲としたいこともあり、これが校正の精度に悪影響を及ぼす可能性がある。
そこで、より高精度な距離計測を行うために、ステレオカメラの経時的な位置ずれを高精度に補正することが切望されている。
本発明は、上記に鑑みてなされたもので、その目的としては、より高精度な距離計測を行うために、ステレオカメラの経時的な位置ずれを高精度に補正すること、特に、カメラ以外の車速センサなど、自位置情報を計測するセンサに依存せずに、また、特定の形状の被写体の存在を仮定せず、稼働中に撮影される様々な画像を利用して、視差オフセットを安定して検出できる校正装置を提供することにある。
上記の課題を解決するために、請求項1の発明は、2つの撮像装置を用いて距離計測を行う距離計測装置に設定される該撮像装置の位置に関するパラメータを校正するための校正装置であって、2地点において一方の前記撮像装置で撮像された2つの基準画像と、前記2地点において他方の前記撮像装置で撮像された2つの対応画像と前記2つの基準画像とを用い、各地点につき前記基準画像と前記対応画像の中の共通する複数の特徴点の位置から算出された複数の視差データとの入力を受け付ける画像取得部と、前記2つの基準画像の中の共通する複数の特徴点を探索する特徴点探索部と、該特徴点探索部により探索された各前記特徴点に対して、前記2つの基準画像の前記各特徴点における前記2つの視差データを、座標変換する座標変換部と、該座標変換部の出力する変換された視差データから、撮像装置の位置に関するパラメータの補正値を算出する補正値計算部と、を備える校正装置を特徴とする。
本発明によれば、2地点において一方の撮像装置で撮像された2つの基準画像と、この2地点において他方の撮像装置で撮像された2つの対応画像と2つの基準画像とを用い、各地点につき基準画像と対応画像の中の共通する複数の特徴点の位置から算出された複数の視差データとの入力を受け付け、2つの基準画像の中の共通する複数の特徴点を探索し、探索された各特徴点に対して、2つの基準画像の各特徴点における2つの視差データを座標変換し、座標変換された視差データから撮像装置の位置に関するパラメータの補正値を算出するので、ステレオカメラの経時的な位置ずれを高精度に補正すること、特に、カメラ以外の車速センサなど、自位置情報を計測するセンサに依存せずに、また、特定の形状の被写体の存在を仮定せず、稼働中に撮影される様々な画像を利用して、視差オフセットを安定して検出することができる。
この結果、信号機や路面平面などの特定の形状の被写体の存在を仮定せず、稼働中に撮影される様々な画像を利用して、視差オフセットを安定して検出することができる。
静止被写体の視差と視差の差データ対とをプロットしたグラフ図。 2地点からステレオ撮影を行うためのステレオカメラの配置を示す図。 フレームのステレオ画像を構成するためのクレーム画像を示す図。 特徴点番号毎に視差1(P0)、視差(P1)を関連付けしたことを示す図。 図1と同じパラメータ視差の逆数差プロットしたグラフ図。 視差の逆数差空間での視差オフセットを示すグラフ図。 視差比を示すグラフ図。 視差比空間での視差オフセットを示すグラフ図。 本発明の第1実施形態に係わる校正装置を含む距離計測装置、第1実施形態に係わる校正装置を含むハードウエアのブロック図。 図9に示す視差計算部12で実行されるソフトウエアモジュール全体を示すブロック図。 視差画像生成処理部14の処理動作を説明するためのフローチャート。 視差オフセット検出処理部15の1回分の処理を行うためのフローチャート。 本実施形態の距離計測装置を適用可能な車両を示す模式図。
以下に、図面を参照して、本発明の実施の形態を詳細に説明する。
本出願人が先に出願した特願2010−204328(以下、「先願」と記載する)には、例えば車両など移動体に搭載することを前提に、カメラ自身が移動することにより、地面に対して静止した複数の被写体が、同じ距離だけ移動することを利用した校正技術について記載されている。
この技術は、同一被写体を2地点からステレオ撮影することで得られる2つの視差の差を求めることで、視差オフセットの影響をキャンセルするために、「視差」と「視差の差」という2軸からなる空間で計測データをモデル化している。
例えば、基線長10cm、レンズ焦点距離5mm、センサ画素ピッチ3umという設定において、静止被写体の視差と視差の差データ対をプロットしたグラフを図1に示す。
図1に示すグラフの横軸は、代表視差(√p0*p1)、縦軸は視差の差(p1−p0)であり、グラフ中の各線、点の意味は以下の通りである。
(a)視差オフセットなし(0画素)、2地点間の移動距離3m
(b)視差オフセット1画素、2地点間の移動距離3m
(c)視差オフセット0画素、2地点間の移動距離3.3m
(d)(b)の理想視差データに振幅0.3画素の乱数を加えた仮想計測データ
ここで、図1を参照すると、
(1)(a)の視差オフセットなしと(b)視差オフセット=1画素の曲線にずれがあること、
(2)オフセットのある仮想的な計測データ(d)は確かに(b)の回りに分布していること、
が理解できる。実際にこの(d)のデータに2次曲線をフィットさせると、(b)の曲線に極く近い結果が得られる。
しかし同時に、オフセット0の代わりに移動距離が3.3mの曲線(c)は、(b)と非常に近く、(b)と(c)の隔たりは、0.3画素程度の視差計測誤差よりも小さいことが理解できる。つまり、実際の計測データに乗るノイズに微小の偏りがあれば、容易に(b)と(c)をとり違え、その結果0.3画素分の視差オフセットの推定誤差が生じる恐れがある。
したがって、自車両における移動距離センサの有無や、ステレオ画像の対応点探索誤差(視差検出誤差)など、様々な条件にもよるが、視差オフセット検出精度に限界があった。
そこで、視差オフセット検出精度を向上するための視差オフセットの補正方法が切望される。
<原理>
本発明による視差オフセットの補正方法の原理について説明する。
まず、図2、図3について
(1)直進移動するステレオカメラ10、11によって、2地点(第1地点P1、第2地点P2)から、地面に対して静止する被写体、および移動する被写体を含む、周囲の風景として基準画像、参照画像をそれぞれ2枚ずつ撮影する。
(2)第1地点及び第2地点について、基準画像と参照画像との間で対応点(対応する特徴点)を探索しそれぞれの地点での視差画像を算出する。ここで、視差画像とは、視差を画素値とした画像のことである。
(3)第1地点及び第2地点の基準画像間で対応点(対応する特徴点)を探索し、同一被写体を撮影した特徴点を対応づける。
このような処理により、同一被写体を2地点で撮影した2つの視差データの対を(特徴点ごとに)複数収集する。図4は特徴点番号毎に視差1(P0)、視差2(P1)を関連付けしたことを示す図である。
本発明も「先願」もともに、多くの被写体が地面に対して静止しており、カメラ自身の移動により静止被写体は(カメラに対して)同一方向に等距離移動するという事実から、静止物体を観測した場合に得られる2つの視差(p0,p1)が従う制約条件を利用して、ステレオカメラの視差オフセットを算出する。
2つの視差の差分(p1−p0)を利用する「先願」では、静止被写体は2次曲線上にのるという制約条件だったため、モデルフィットに課題があった。
一方、本発明では、この2つの視差データの比(p1/p0)や、逆数の差(1/p1−1/p0)を座標軸とする空間を利用することで、より安定したモデルフィッティングを行い、結果としてより信頼度の高い補正を実現する。
本発明では、視差−視差逆数差パラメータ空間横軸に2つの視差の逆数の平均((1/p0+1/p1)/2)、縦軸に視差の逆数の差(1/p0−1/p1)をとる。
図5に、図1と同じパラメータをこの空間にプロットしたグラフ図を示す。また、図6に、(a)と同じく移動距離3mのまま、視差オフセットを、−1、0、1、2画素と振ったグラフ図を示す。
視差の逆数は距離に比例するので、(静止被写体は同一距離移動するという前提から)逆数の差(1/p0−1/p1)は、視差オフセットが0画素ならば一定となる。
視差オフセットが存在する場合の制約の厳密解は複雑になるが、図6に示すように、視差オフセットが±1画素程度の範囲ではほぼ直線で、視差オフセット量に応じて直線の傾きが変化すると見なすことができる。
また、視差検出誤差を考慮すると、視差の逆数を求めているため、視差が小さい(=逆数が大きい)領域では、相対的にノイズが増えてしまう。しかし、視差の大きい領域(例えば図5の横軸:0から0.05の範囲)ならば、3.3mの移動量と1画素の視差オフセットは、図1とは異なり容易に区別できることが理解できる。
以上の点をまとめると、視差の逆数の和(平均)と差の2軸からなるこの空間では、静止被写体に対応するデータは、
(1)ほぼ直線状に分布する。
(2)移動距離は直線の高さ(y切片)に対応する(移動距離に応じてグラフ全体が縦軸方向に伸縮する)。
(3)視差オフセットは直線の傾きに対応する。
以上のことが理解できる。
フィットすべきモデルが直線ですむこと、未知数である移動距離と視差オフセットが、高さと傾きに分離されることから、この空間でのモデルフィットによる視差オフセットの推定が容易となり、安定して高精度な推定が期待できる。
そこで、視差−視差比パラメータ空間横軸に一方の視差そのもの(p0)、縦軸に視差の比(p0/p1)をとる。
図7は、図5と同様に、図1と同じパラメータをこの空間にプロットしたグラフ図を示す。また、図8に、(a)と同じく移動距離3mのまま、視差オフセットを、−1、0、1、2画素と振ったグラフ図を示す。
この空間は、図5ともまた違うが、以下の特徴を持つことが理解できる。
(1)静止被写体は(ほぼ)直線状にならぶ(ただし視差オフセット0でも水平ではない)
(2)移動距離に応じて直線は傾きが変化する
(3)視差オフセットに応じて直線は(ほぼ)平行移動する
(4)視差が小さい場合には視差検出誤差の影響が大きいが、視差が大きくなるにつればらつきは小さくなる。
よって、この空間でも、カメラ移動量と視差オフセットは、平行移動と傾きに(近似的に)分離され、3.3mの移動量と1画素の視差オフセットの区別も容易となる。
これらのように、2つの視差(p0,p1)を適切な座標系へ変換した後で評価することにより、未知数であるカメラ移動量と視差オフセットをより安定に推定することができるようになる。
「先願」では「視差変化量」として、視差の差(p1−p0)を算出していた。これに対して、本発明では、上記「視差の逆数の差」(1/p0−1/p1)や「視差の比」(p0/p1)を算出する。2地点でのステレオ画像から得られる視差データ対(p0,p1)を、(視差の差p1−p0以外の)適切な座標系に変換することで、後の視差オフセット推定(直線近似)の信頼性を向上させることを特徴とする。
本件は、「先願」において、オフセット値を求めるためにプロットした点から二次曲線を推定する際に、オフセット値が0で距離が異なっている二次曲線と似ていることがあるため混同しやすかった部分を、座標変換によって距離の差とオフセット値の差が切片と傾きに分離することで、より求め易くすることができる。
<第1実施形態>
以下、本発明の第1実施形態に係わる校正装置を含む距離計測装置について説明する。
図9は、本発明の第1実施形態に係わる校正装置を含む距離計測装置、第1実施形態に係わる校正装置を含むハードウエアのブロック図である。
第1カメラ11a、第2カメラ11bは、画像を撮影するために、平行配置された2台のカメラである。
視差計算部12は、2台のカメラ11a、11bで撮影された画像を入力し、視差画像データを出力する。
視差計算部12は、バス接続されたCPU(Central Processing Unit)、DRAM(Dynamic Random Access Memory)メモリ、不揮発性フラッシュメモリなどから構成される一般的な電子計算機であり、距離計測機能は、フラッシュメモリに記録され、CPU、DRAMなどを利用して実行されるソフトウエアプログラムの形態で実装する。
図10は、図9に示す視差計算部12で実行されるソフトウエアモジュール全体のブロック図である。
カメラ制御部13は、2台のカメラを制御し画像データの入力を行う。また、2台のカメラ同期、カメラ初期化、露光制御などを実行する。ここでは説明しないが、必要に応じ、光学系による歪曲、画像回転など、一般的にステレオ距離計測に有効とされる(視差オフセット以外の)画像補正処理を、入力直後に施すことが望ましい。
視差画像生成処理部14は、カメラ制御部13から入力されるステレオ画像から、視差画像を生成する。測距装置としての中心的な役割を果す。
視差画像生成処理部14は、「基準画像」が撮影された同じ複数地点(例えば2地点)において他方の撮像装置(第2カメラ11b)により撮像された2つの「対応画像」と、カメラ制御部13から入力される上記2つの「基準画像」と、を用いて各地点におけるステレオ画像の「基準画像」と「対応画像」とに共通する特徴点の位置から複数の「視差データ(視差画像)」を算出する。
図10に示すように、視差画像生成処理部14は、カメラ制御部13から複数地点におけるステレオ画像を取得するステレオ画像取得部30、各ステレオ画像における特徴点を抽出する特徴点抽出部31、基準画像と対応画像において対応する特徴点(対応点)を探索する対応点探索部32、対応点位置の差分から視差を算出する視差算出部33、算出された視差に基づく視差画像を出力する視差画像出力部34の各処理部を備えている。
視差オフセット検出処理部15は、カメラ制御部から入力される基準画像、および、視差画像生成処理部14から入力される視差画像を利用して、視差オフセットを算出する。算出した視差オフセットは視差画像生成処理部14に送られ、以降の視差画像生成処理に利用される。
図10に詳しく示すように、視差オフセット検出処理部15は、画像取得部20、特徴点探索部21、座標変換部22、補正値計算部23の各処理部を備えている。
これらの処理部において、画像取得部20は、複数地点(例えば2地点)において一方の撮像装置(例えば第1カメラ11a)で撮像された複数(例えば2つ)の「基準画像」をカメラ制御部13から取得する。
さらに、画像取得部20は、視差画像生成処理部14によって生成された「基準画像」(の特徴点)に対応する複数(2つ)の「視差データ(視差画像)」の入力を視差画像生成処理部14から受け付ける。
また、特徴点探索部21は、画像取得部20がカメラ制御部13より取得した2つの(2地点の)「基準画像」の中の共通する複数の特徴点を探索する。
また、座標変換部22は、特徴点探索部21により探索された「基準画像」に共通する特徴点に対して、2つの「視差データ(視差画像)」を下記に詳述するように座標変換する。
さらに、補正値計算部23は、座標変換部22が出力する座標変換された視差データから、撮像装置(第1カメラ11a、第2カメラ11b)の位置に関するパラメータの補正値(視差オフセット)を算出して視差画像生成処理部14に供給する。
視差画像生成処理部14は、一般的なステレオカメラによる距離計測処理を行う。ただし、視差オフセット検出処理部15により生成される視差オフセットを利用することで、ハードウエアの経時変化による計測精度劣化を低減する。
視差オフセット検出処理部15の各処理部における詳細な処理は、下記に詳述するものとする。
次に、図11に示すフローチャートを参照して、視差画像生成処理部14の処理動作を説明する。
ステップS10では、ステレオ画像取得部30(図10)によりステレオ画像を入力する。すなわち、平行配置された2台のカメラで同時に撮影されたステレオ画像を入力する。
ステップS15では、特徴点抽出部31(図10)によりステレオ画像における特徴点を抽出する。ステップS20では、対応点探索部32(図10)により対応点の探索を行う。
すなわち、まず基準となる(例えば左カメラ)画像から濃淡変化の激しい特徴点を複数抽出する(ステップS15)。次に反対の(右)カメラ画像から、基準画像上の各特徴点近傍領域(ブロック)と同じ被写体の写った対応点の位置を探索する(ステップS20)。対応点探索には、SAD(Sum of Absolute Difference)やPOC(位相限定相関)など周知の技術を利用することができる。
ステップS25では、視差算出部33(図10)により視差を算出する。すなわち、対応点探索処理で算出した左右画像上の対応点位置の差分を取り、視差を算出する。さらに視差オフセット検出処理から入力する視差オフセットを減算し、視差オフセット補正を実行する。後述の視差オフセット検出処理の結果が出るまでは、初期値として0を利用する。
ステップS30では、視差画像出力部34(図10)により視差画像を出力する。すなわち、視差オフセット補正がなされた視差を画素値とする視差画像を出力する。
以上の処理を定期的に繰返し実行することで、常にカメラ前方の視差画像を出力し続ける。
視差オフセット検出処理部15は、入力画像から視差のオフセットを算出する。この視差オフセット検出処理部15は、温度変化などに追従するため、ステレオカメラの使用中は、常時定期的に繰り返し実行する。図12は、視差オフセット検出処理部15の1回分の処理を行うためのフローチャートである。
ステップS50では、画像を入力する。すなわち、カメラ制御部13から第1地点及び第2地点の基準画像を入力する。また視差画像生成処理部14から、基準画像に対応する2枚の視差画像を入力する。これらの処理は、図10における画像取得部20によって行われる。
ステップS55では、同一被写体を撮影した特徴点を対応づけて対応点を探索する。すなわち、2枚の基準画像間で対応点(対応する特徴点)を探索する。視差画像生成処理部14内の対応点探索と同様にブロックごとにSADを計算し、最小値をとる位置を探索する。ただしステレオ画像の対応点探索とは異なり、放射状の探索範囲を設定する。このように探索範囲を設定することにより、対応点探索処理の演算量を低減し、同時に横方向への移動物体や自車の回転をある程度排除できる。かかる処理は、図10における特徴点探索部21によって行われる。
ステップS60では、視差データ座標を変換する。すなわち、特徴点ごとに、対応する2つの視差データ(p,p)から、以下の通り、視差の逆数の平均P、および逆数の差Qを算出する。
P=(1/2)×((1/p)+(1/p))…(1)
Q=(1/p)−(1/p)…(2)
これらの処理は、図10における座標変換部22によって行われる。
次に、補正値算出処理として、座標変換処理により変換された複数の視差データを直線近似し、上記近似直線の位置から補正値を算出する処理について説明する。
モデルフィットP−Qデータに対してハフ変換により、Q=aP+bなる直線を抽出する。
具体的には、決定したいパラメータa、bからなる2次元平面の、あらかじめ設定した範囲を所定の間隔で多数の領域に分割し、各領域に対応する2次元配列をメモリ上に用意する。Q=aP+bという式をa、b空間の直線とみなし、計測された各p0、p00に対して、上記a、b空間を表す2次元配列の、直線b=−aP+Q上に「投票」する。全てのデータ(P,Q)についての投票の結果、最も得票の多い領域に対応するa、bペアが、多くの計測値(P,Q)を通る直線を表すものと考えられるので、そのa、bペアをモデル直線として選択する。
このように、カメラ自身の移動距離と、視差オフセットの影響を分離しやすい座標系に変換することにより、適用可能性が高く、かつ精度の高い校正装置を実現できる。
計測データの単純な直線近似に基づき補正値を算出することにより、低コストで安定した校正装置を実現できる。
上記原理において説明したように、この直線の位置や傾きが、視差オフセット量およびカメラ移動量に応じて変化する。したがって、ここで得られるパラメータa、bから、視差オフセット推定値を決定することができる。図5、図6に示すような様々なカメラ移動量、視差オフセット量でのシミュレーションを行い、a、bから視差オフセット量への近似的な換算式をあらかじめ設定しておくことができる。ここでは、以下の式に従い視差オフセット推定値poffを算出する。
off=a/2b…(3)
なお、この視差オフセットの推定値は、曲線を直線近似した結果であり、モデル段階で推定誤差が避けられない。しかし、この視差オフセット検出処理と補正処理を繰返し実行するので、視差オフセットが0に近づくほど誤差が低減っていれば、多数回の繰返しの後では、0付近に落ち着くことが期待できる。
視差オフセット出力モデルフィットの結果得られた視差オフセットpoffを、視差画像生成処理部14(視差算出部33)へ送る。
以上の処理は、図10における補正値計算部23によって行われる。
なお、正規化と蓄積、信頼性評価も有効であり、実施することが望ましい。
また、本実施形態において説明した座標変換処理では、横軸に二つの視差の逆数の平均を求めたが、いずれかの視差の逆数(1/pまたは1/p)をとっても、類似した傾向となる。また、縦軸として、直接逆数の差を計算するのではなく、
(1/p−1/p)=(p−p)/p…(4)
を計算することで除算回数を1回減らすこともできる。
以上のように、地点で撮影されたステレオ画像のみから算出されるデータだけを利用して視差オフセット量を推定するので、カメラ以外の車速センサなど、自位置情報を計測するセンサの性能に依存せずに、また、例えば信号機や路面平面など、特定の形状の被写体の存在を仮定せず、稼働中に撮影される様々な画像を利用して、視差オフセットを安定して検出できる校正装置を実現することできる。
<第2実施形態>
次に、第2実施形態として、視差−視差比空間を利用する例について説明する。
本実施形態では、第1実施形態とほぼ同様であるので、ここでは第1実施形態と異なるソフトウエアプログラムである「視差オフセット検出処理」における視差データ座標変換処理とモデルフィット処理のみ説明する。
視差データ座標変換の特徴点ごとに、対応する2つの視差データ(p0,p1)から、以下の通り、視差比pを算出する。
p=p0/p1…(5)
次に、座標変換処理として、2つの視差の比を算出する処理について説明する。
第1実施形態において説明したモデルフィット処理と同様に、視差−視差比データに対してハフ変換処理により、p0=ap+bなる直線を抽出する。
ここで、得られるパラメータa、bから、視差オフセット推定値を決定する。図7、8に示すような様々なカメラ移動量、視差オフセット量でのシミュレーションを行い、a、bから視差オフセット量への近似的な換算式をあらかじめ設定しておくことができる。ここでは、以下の式に従い視差オフセット推定値(poff)を算出する。
off=(1−b)/2a…(6)
このように、探索された各特徴点に対して、2つの基準画像の各特徴点における2つの視差データから2つの視差比を算出し、視差−視差比データに対してハフ変換処理により、p0=ap+bなる直線を抽出することで、ステレオカメラの経時的な位置ずれを高精度に補正することができる。
特に、カメラ以外の車速センサなど、自位置情報を計測するセンサに依存せずに、また、特定の形状の被写体の存在を仮定せず、稼働中に撮影される様々な画像を利用して、視差オフセットを安定して検出することができる。
<その他の実施形態>
図13は、本実施形態の距離計測装置を適用可能な車両を示す模式図である。
本実施形態の画像処理システムは、車両前方の画像を取得するための撮像ユニット101と、取得した画像に基づいて車両100の前方に存在する他の車両までの距離を算出する等の処理を行う画像解析ユニット102を有している。撮像ユニット101は、車両100が走行する前方の画像を撮像できるように、座席のルームミラー位置等に設置されている。撮像ユニット101で撮像された車両前方の画像は、画像信号化されて画像解析ユニット102に入力される。画像解析ユニット102は、撮像ユニット101から出力された画像信号を解析する。
撮像ユニット101として、上記実施形態の第1カメラ11a、第2カメラ11bを適用できる。
また、画像解析ユニット102の一部の機能として、上記実施形態の視差計算部12を適用することが出来る。
車両走行制御ユニット108は、画像解析ユニット102で計算された距離に基づいてハンドルやブレーキの制御も行うことが出来る。
11a 第1カメラ、11b 第2カメラ、12 視差計算部、13 カメラ制御部、14 視差画像生成処理部、15 視差オフセット検出処理部
特許第3436074号 特開平10−341458号公報 特開2009−182879公報

Claims (6)

  1. 2つの撮像装置を用いて距離計測を行う距離計測装置に設定される該撮像装置の位置に関するパラメータを校正するための校正装置であって、
    2地点において一方の前記撮像装置で撮像された2つの基準画像と、前記2地点において他方の前記撮像装置で撮像された2つの対応画像と前記2つの基準画像とを用い、各地点につき前記基準画像と前記対応画像の中の共通する複数の特徴点の位置から算出された複数の視差データとの入力を受け付ける画像取得部と、
    前記2つの基準画像の中の共通する複数の特徴点を探索する特徴点探索部と、
    該特徴点探索部により探索された各前記特徴点に対して、前記2つの基準画像の前記各特徴点における前記2つの視差データを座標変換する座標変換部と、
    該座標変換部の出力する変換された視差データから、撮像装置の位置に関するパラメータの補正値を算出する補正値計算部と、を備えることを特徴とする校正装置。
  2. 前記座標変換部は、2つの視差の比を算出する手段を備えることを特徴とする請求項1に記載の校正装置。
  3. 前記座標変換部は、2つの視差量の逆数の差を算出する手段を備えることを特徴とする請求項1に記載の校正装置。
  4. 前記補正値計算部は、前記座標変換部で変換された複数の視差データを直線近似し、前記近似直線の位置から補正値を算出することを特徴とする請求項1に記載の校正装置。
  5. 2つの撮像装置を用いて距離計測を行う距離計測装置であって、前記撮像装置の位置に関するパラメータを校正する校正装置を備え、
    前記校正装置は、請求項1乃至4の何れか一項に記載の校正装置であることを特徴とする距離計測装置。
  6. 請求項5に記載の距離計測装置を備えたことを特徴とする車両。
JP2013002679A 2012-03-21 2013-01-10 校正装置、距離計測装置及び車両 Active JP6182866B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013002679A JP6182866B2 (ja) 2012-03-21 2013-01-10 校正装置、距離計測装置及び車両
US13/798,425 US9148657B2 (en) 2012-03-21 2013-03-13 Calibration device, range-finding system including the calibration device and stereo camera, and vehicle mounting the range-finding system
EP13158920.2A EP2642447A3 (en) 2012-03-21 2013-03-13 Device for the calibration of a stereo camera
CN201310085503.9A CN103322983B (zh) 2012-03-21 2013-03-15 校准装置、包含校准装置和立体相机的测距系统以及安装测距系统的车辆

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012063639 2012-03-21
JP2012063639 2012-03-21
JP2013002679A JP6182866B2 (ja) 2012-03-21 2013-01-10 校正装置、距離計測装置及び車両

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017144230A Division JP6365744B2 (ja) 2012-03-21 2017-07-26 プログラム、記録媒体、及び校正方法

Publications (2)

Publication Number Publication Date
JP2013224919A true JP2013224919A (ja) 2013-10-31
JP6182866B2 JP6182866B2 (ja) 2017-08-23

Family

ID=47884175

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013002679A Active JP6182866B2 (ja) 2012-03-21 2013-01-10 校正装置、距離計測装置及び車両

Country Status (4)

Country Link
US (1) US9148657B2 (ja)
EP (1) EP2642447A3 (ja)
JP (1) JP6182866B2 (ja)
CN (1) CN103322983B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016200557A (ja) * 2015-04-14 2016-12-01 国立大学法人東京工業大学 校正装置、距離計測装置及び校正方法

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5957359B2 (ja) * 2012-10-19 2016-07-27 日立オートモティブシステムズ株式会社 ステレオ画像処理装置及びステレオ画像処理方法
JPWO2014148031A1 (ja) * 2013-03-19 2017-02-16 パナソニックIpマネジメント株式会社 画像生成装置、撮像装置および画像生成方法
US9538096B2 (en) * 2014-01-27 2017-01-03 Raytheon Company Imaging system and methods with variable lateral magnification
US9451185B2 (en) 2014-03-07 2016-09-20 Raytheon Company Multi-spectral optical tracking system and methods
JP6427900B2 (ja) * 2014-03-07 2018-11-28 株式会社リコー 校正方法、校正システム、プログラム及び移動体
CN103871068B (zh) * 2014-03-31 2016-08-17 河海大学常州校区 一种基于遗传算法的高精度标定方法
US10186034B2 (en) 2015-01-20 2019-01-22 Ricoh Company, Ltd. Image processing apparatus, system, image processing method, calibration method, and computer-readable recording medium
JP6511283B2 (ja) * 2015-02-12 2019-05-15 日立オートモティブシステムズ株式会社 物体検知装置
US10007998B2 (en) 2015-03-20 2018-06-26 Ricoh Company, Ltd. Image processor, apparatus, and control system for correction of stereo images
JP6233345B2 (ja) * 2015-04-17 2017-11-22 トヨタ自動車株式会社 路面勾配検出装置
EP3139346B1 (en) * 2015-09-01 2019-01-16 Veoneer Sweden AB Vision system for a motor vehicle and method of controlling a vision system
TWI663466B (zh) * 2015-09-25 2019-06-21 佳能企業股份有限公司 攝像裝置及其操作方法
CN108028883B (zh) * 2015-09-30 2020-11-03 索尼公司 图像处理装置和图像处理方法
US10552966B2 (en) * 2016-03-07 2020-02-04 Intel Corporation Quantification of parallax motion
DE102016217792A1 (de) * 2016-09-16 2018-03-22 Xion Gmbh Justiersystem
US10250801B2 (en) * 2017-04-13 2019-04-02 Institute For Information Industry Camera system and image-providing method
JP6967715B2 (ja) * 2017-04-18 2021-11-17 パナソニックIpマネジメント株式会社 カメラ校正方法、カメラ校正プログラム及びカメラ校正装置
JP7043755B2 (ja) * 2017-08-29 2022-03-30 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラム、及び、移動体
JP6920159B2 (ja) * 2017-09-29 2021-08-18 株式会社デンソー 車両の周辺監視装置と周辺監視方法
CN109959920B (zh) * 2017-12-25 2021-11-12 比亚迪股份有限公司 车辆、基于路灯进行自动校正测距误差的方法和装置
KR102479492B1 (ko) 2018-01-08 2022-12-20 삼성전자주식회사 차량 주변의 이미지를 제공하는 전자 장치 및 방법
WO2019144289A1 (en) * 2018-01-23 2019-08-01 SZ DJI Technology Co., Ltd. Systems and methods for calibrating an optical system of a movable object
JP7253323B2 (ja) * 2018-02-14 2023-04-06 オムロン株式会社 3次元計測システム及び3次元計測方法
CN111971528B (zh) * 2018-04-23 2022-06-03 日立安斯泰莫株式会社 车载摄像机装置
TWI725522B (zh) * 2018-08-28 2021-04-21 鈺立微電子股份有限公司 具有校正功能的影像擷取系統
CN108972562B (zh) * 2018-09-13 2021-04-23 河南机电职业学院 一种校准分拣机器人工作站输送链CountsPerMeter参数的方法
CN109462746B (zh) * 2018-10-26 2020-11-06 北京双髻鲨科技有限公司 一种图像去抖的方法及装置
CN109782755B (zh) * 2018-12-27 2022-05-31 广东飞库科技有限公司 控制agv进行校准、agv校准位置的方法、计算机存储介质及agv
CN109520480B (zh) * 2019-01-22 2021-04-30 合刃科技(深圳)有限公司 基于双目立体视觉的测距方法及测距系统
DE102019212021B4 (de) * 2019-08-09 2024-02-08 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum Feststellen eines Parallaxenproblems in Sensordaten zweier Sensoren
JP7386098B2 (ja) * 2020-02-27 2023-11-24 株式会社日立製作所 測距センサの校正システム、及び測距センサの校正方法
TWI753760B (zh) * 2021-01-26 2022-01-21 神達數位股份有限公司 車距估測方法及系統

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10103949A (ja) * 1996-09-26 1998-04-24 Fuji Electric Co Ltd 距離検出値の補正方法
JPH10341458A (ja) * 1997-06-10 1998-12-22 Toyota Motor Corp 車載ステレオカメラの校正方法、および、その方法を適用した車載ステレオカメラ
JP2003329439A (ja) * 2002-05-15 2003-11-19 Honda Motor Co Ltd 距離検出装置
JP2009075124A (ja) * 2008-11-06 2009-04-09 Honda Motor Co Ltd 距離検出装置
JP2010097561A (ja) * 2008-10-20 2010-04-30 Honda Motor Co Ltd 車両周辺監視装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3522317B2 (ja) 1993-12-27 2004-04-26 富士重工業株式会社 車輌用走行案内装置
JP4573977B2 (ja) 1999-09-22 2010-11-04 富士重工業株式会社 監視システムの距離補正装置、および監視システムの消失点補正装置
JP3760068B2 (ja) 1999-12-02 2006-03-29 本田技研工業株式会社 画像認識装置
JP2001169310A (ja) 1999-12-06 2001-06-22 Honda Motor Co Ltd 距離検出装置
JP4363295B2 (ja) * 2004-10-01 2009-11-11 オムロン株式会社 ステレオ画像による平面推定方法
JP4748082B2 (ja) * 2007-02-23 2011-08-17 トヨタ自動車株式会社 車両用周辺監視装置及び車両用周辺監視方法
WO2008157622A1 (en) * 2007-06-18 2008-12-24 University Of Pittsburgh-Of The Commonwealth System Of Higher Education Method, apparatus and system for food intake and physical activity assessment
JP5234894B2 (ja) * 2007-06-28 2013-07-10 富士重工業株式会社 ステレオ画像処理装置
JP2009014445A (ja) 2007-07-03 2009-01-22 Konica Minolta Holdings Inc 測距装置
JP4894771B2 (ja) 2008-01-31 2012-03-14 コニカミノルタホールディングス株式会社 校正装置及び校正方法
CA2729106A1 (en) 2008-06-24 2009-12-30 Thomson Licensing System and method for depth extraction of images with motion compensation
JP5280768B2 (ja) 2008-08-18 2013-09-04 本田技研工業株式会社 車両周辺監視装置
JP4737573B2 (ja) * 2009-02-05 2011-08-03 富士フイルム株式会社 3次元画像出力装置及び方法
JP2011013803A (ja) * 2009-06-30 2011-01-20 Ihi Corp 周囲形状検出装置、自律移動装置、移動体の操縦補助装置、周囲形状検出方法、自律移動装置の制御方法及び移動体の操縦補助方法
KR101699920B1 (ko) * 2009-10-07 2017-01-25 삼성전자주식회사 깊이 조절 방법 및 장치
JP5440461B2 (ja) 2010-09-13 2014-03-12 株式会社リコー 校正装置、距離計測システム、校正方法および校正プログラム
JP5870510B2 (ja) 2010-09-14 2016-03-01 株式会社リコー ステレオカメラ装置、校正方法およびプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10103949A (ja) * 1996-09-26 1998-04-24 Fuji Electric Co Ltd 距離検出値の補正方法
US5915033A (en) * 1996-09-26 1999-06-22 Fuji Electric Co., Ltd. Method for correcting detected distance values
JPH10341458A (ja) * 1997-06-10 1998-12-22 Toyota Motor Corp 車載ステレオカメラの校正方法、および、その方法を適用した車載ステレオカメラ
JP2003329439A (ja) * 2002-05-15 2003-11-19 Honda Motor Co Ltd 距離検出装置
JP2010097561A (ja) * 2008-10-20 2010-04-30 Honda Motor Co Ltd 車両周辺監視装置
JP2009075124A (ja) * 2008-11-06 2009-04-09 Honda Motor Co Ltd 距離検出装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016200557A (ja) * 2015-04-14 2016-12-01 国立大学法人東京工業大学 校正装置、距離計測装置及び校正方法

Also Published As

Publication number Publication date
EP2642447A2 (en) 2013-09-25
EP2642447A3 (en) 2017-11-29
CN103322983B (zh) 2015-10-28
US9148657B2 (en) 2015-09-29
US20130250068A1 (en) 2013-09-26
JP6182866B2 (ja) 2017-08-23
CN103322983A (zh) 2013-09-25

Similar Documents

Publication Publication Date Title
JP6182866B2 (ja) 校正装置、距離計測装置及び車両
JP5440461B2 (ja) 校正装置、距離計測システム、校正方法および校正プログラム
AU2018282302B2 (en) Integrated sensor calibration in natural scenes
US10909395B2 (en) Object detection apparatus
JP6167525B2 (ja) 距離計測装置及び車両
KR102166691B1 (ko) 객체의 3차원 형상을 산출하는 장치 및 방법
JP6552448B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
US11527006B2 (en) System and method for dynamic stereoscopic calibration
JP2016200557A (ja) 校正装置、距離計測装置及び校正方法
JP2018077162A (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
CN105809669A (zh) 一种用于校准图像检测设备的方法和装置
JP6365744B2 (ja) プログラム、記録媒体、及び校正方法
WO2020113425A1 (en) Systems and methods for constructing high-definition map
JP6739367B2 (ja) カメラ装置
KR101266623B1 (ko) 차량간 거리 추정방법 및 그 장치
JP2017173343A (ja) 画像処理装置、撮影装置、制御システム、移動体、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170710

R151 Written notification of patent or utility model registration

Ref document number: 6182866

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151