JP4894771B2 - 校正装置及び校正方法 - Google Patents
校正装置及び校正方法 Download PDFInfo
- Publication number
- JP4894771B2 JP4894771B2 JP2008021951A JP2008021951A JP4894771B2 JP 4894771 B2 JP4894771 B2 JP 4894771B2 JP 2008021951 A JP2008021951 A JP 2008021951A JP 2008021951 A JP2008021951 A JP 2008021951A JP 4894771 B2 JP4894771 B2 JP 4894771B2
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- parallax
- calculated
- calibration
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 58
- 238000004364 calculation method Methods 0.000 claims abstract description 91
- 230000003287 optical effect Effects 0.000 claims abstract description 56
- 238000001514 detection method Methods 0.000 claims description 8
- 238000003384 imaging method Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 abstract description 29
- 238000010586 diagram Methods 0.000 description 21
- 238000012937 correction Methods 0.000 description 10
- 230000014509 gene expression Effects 0.000 description 6
- 238000009434 installation Methods 0.000 description 5
- 238000005259 measurement Methods 0.000 description 4
- 238000013519 translation Methods 0.000 description 3
- 239000013256 coordination polymer Substances 0.000 description 2
- 238000009795 derivation Methods 0.000 description 2
- 230000000452 restraining effect Effects 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Landscapes
- Measurement Of Optical Distance (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Description
前記校正値算出手段は、前記うねり検出手段により前記道路面がうねっていることが検出された場合、前記校正値を算出しないことが好ましい。
以下、本発明の実施の形態1による校正装置について説明する。図1は、本発明の実施の形態1による校正装置の全体構成図を示している。図1に示す校正装置は、自動車等の移動体に搭載され、複数の撮影手段を用いて撮影された画像を用いて移動体の動きを解析したり、撮影手段のカメラパラメータを校正したりするものであり、ステレオカメラ1(撮影手段の一例)、演算装置2、及び表示装置3を備えている。ステレオカメラ1は、左右一対のカメラ11,12により構成されている。図2は、ステレオカメラ1の設置箇所の一例を示した図である。ステレオカメラ1は、例えば、図2(a)、(b)に示すように移動体のルーフのフロントガラス側に取り付けられている。但し、これは一例であり、ステレオカメラ1は、移動体の前方に光軸が向く位置であればどのような位置に取り付けられていてもよい。
次に、実施の形態1による校正装置の動作について説明する。図4は、校正装置の動作を示すフローチャートである。ステップS1において、ステレオカメラ1は、移動体前方のシーンをとらえた基準画像と参照画像とを取得し、演算装置2に出力する。なお、ステレオカメラ1は、Δtの時間間隔で、すなわち、Δtのフレーム周期で基準画像及び参照画像を取得するものとする。
次に、式(A)〜(B)の導出について図10〜12を用いて説明する。
ステレオカメラ1と設置位置と撮影条件とは図10に示すような関係を有している。ステレオカメラ1は、前進方向Zに対して、ピッチ方向の傾きを持って設置されており、パン方向及びロール方向の傾きは略0とする。図11は、基準画像の座標系を示している。図11に示すように、基準画像は、中心が原点とされ、垂直成分がy軸によって規定され、水平成分がx軸によって規定されている。
但し、α=f/p=N/2θを示し、pは画素ピッチを示し、Nは画素数を示し、θは画角を示している。なお、本実施の形態では、例えば、Nとして1280×960画素、pとして0.00465mm、fとして15mm、Bとして210mmを採用することができる。
なお、式(2)より、基準画像上の座標yの道路面上の点Aまでの距離は、次式で表される。
一方、ステレオカメラ(平行ステレオ)の視差と道路面との距離の関係は、次式で表される。
式(4)と(3)とから視差と路面の画像上の点との関係が以下の関係式として得られる。
図12は、移動体の前進時における入力画像を示した図である。移動体が前進しているとき、道路面上の注目点のオプティカルフローは、(0,−αφ)に集まる。ここで、(0,−αφ)を通り、かつ、水平方向と平行な直線によって表される面が消失面となる。時刻t0及び時刻t0からΔt秒経過した時刻t1において、移動体からZ方向にD離れた道路面上の点Aの入力画像上の座標は、次式で計算できる。
y1=α・(h/(D−v・Δt)−φ) (6)
従って、その位置変化は、次式により得られる。
=α・(v・Δt・h/(D−v・Δt)・D)
≒α・v・Δt・h/D2 (7)
また、図12より、オプティカルフローの水平成分Δxは、Δyを用いて次式で計算できる。
式(3)を用いてDをyで表すと、移動体の前進によるオプティカルフローΔx,Δyは、式(7)、(8)を用いて次式で表すことができる。
Δx=(1/α)・(v・Δt/h)・(y+α・φ)・x・d (9)
時刻t0及び時刻t0からΔt秒経過した時刻t1において、移動体からD離れた道路面上の点Aの入力画像上の座標は、次式で表される。
y1=α・(h/D−(φ+ω・Δt)) (10)
よって、縦揺れによるオプティカルフローΔx・Δyは、式(10)から次式で表される。
Δx=0 (11)
移動体の操舵により、横方向の併進と横方向の回転が生じる。よって、移動体のパン方向の角速度をσとすると、車の横方向の併進量bは、以下で計算できる。
=v・Δt・(tan(σ・Δt)−sin(σ・Δt))/(sin(σ・Δt)・tan(σ・Δt))
≒(v・Δt/(σ・Δt)2)・(1/2)・(σ・Δt)3
=(1/2)・v・Δt・σ・Δt
入力画像上では、(5)式より、Δx=(b/h)・(y+α・φ)=(v・Δt/2h)・(y+α・φ)・σ・Δtのオプティカルフローが発生する。
Δy=0 (12)
(i)〜(iv)より移動体の前進、縦揺れ、及び操舵を加味した走行時に観測できるオプティカルフローΔx,Δyは、式(9)、(11)、(12)より次式によって表される。
Δx=(1/α)・(v・Δt/h)・(y+α・φ)・d・x−(α+(v・Δt/2h)・(y+α・φ))・σ・Δt (14)
式(5)を用いて式(13)、(14)から、以下のオプティカルフローと視差との関係が得られる(但し、α=f/p=N/2θ)
d=(B/h)・(y+α・φ) (5)
Δy=(1/α)・(v・Δt/1)・(h/B2)・d2−α・ω・Δt (15)
Δx=(1/α)・(v・Δt/1)・(1/B)・d・x−(α+(v・Δt/2)・(1/B)・d))σ・Δt (16)
そして、式(5)が上記式(A)となり、式(15)においてdとしてd+Δdを代入した式が式(B)となる。なお、式(5)、(15)、(16)において算出対象となるパラメータは以下の通りである。
ステレオカメラ1のピッチ方向の傾斜角度:φ
ステレオカメラ1の前進速度:v
ステレオカメラ1のパン方向の角速度:σ
ステレオカメラ1のピッチ方向の角速度:ω
また、式(5)、(15)、(16)において既知のパラメータは以下の通りである。
各注目点のオプディカルフロー:Δx,Δy
よって、道路面上の注目点における、ステレオ視差およびオプティカルフローは、式(5)及び式(15)、(16)の下記の拘束関係1〜3を持つことになる。
次に、ステップS3、S4で実行される対応点の探索処理の詳細について説明する。以下の説明では、視差演算部211による対応点の探索処理を例に挙げて説明する。OF演算部212による対応点の探索処理は、視差演算部211による対応点の探索処理において、基準画像を前フレームとし、参照画像を現フレームとすれば同様の処理となるため、説明を省略する。
次に、本発明の実施の形態2による校正装置について説明する。本校正装置は、実施の形態1におけるステップS4、S6、S7に示す処理が異なる点を特徴としている。なお、本実施の形態において実施の形態1と同一のものは説明を省略し、相違点のみ説明する。
次に、本発明の実施の形態3による校正装置について説明する。実施の形態3による校正装置は、図3に示すように、演算装置2がうねり検出部26を備えていることを特徴とする。うねり検出部26は、移動体が走行する道路面がうねっているか否かを検出する。なお、本実施の形態において実施の形態1、2と同一のものは説明を省略する。
次に、本発明の実施の形態4による校正装置について説明する。実施の形態4による校正装置は、校正値算出部23が、路面パラメータ推定部22により算出された路面パラメータから道路面上に位置する注目点を特定し、特定した注目点のみを処理対象の注目点とすることを特徴とする。
2 演算装置
3 表示装置
21 視差・フロー算出部
22 路面パラメータ推定部
23 校正値算出部
24 障害物検出部
25 障害物測距部
26 うねり検出部
231 回転成分演算部
232 補正パラメータ演算部
Claims (13)
- 移動体に搭載され、撮影手段のカメラパラメータを校正する校正装置であって、
前記撮影手段により所定のフレームレートで撮影された入力画像に複数の注目点を設定し、各注目点の視差と2次元のオプティカルフローとを算出する視差・フロー算出手段と、
前記視差と前記注目点の垂直成分とを基に、前記入力画像に含まれる道路面と前記撮影手段との関係を示す路面パラメータを算出する路面パラメータ推定手段と、
前記オプティカルフローと、前記視差と、前記路面パラメータとを基に、前記カメラパラメータの校正値を算出する校正値算出手段とを備えることを特徴とする校正装置。 - 前記路面パラメータは、前記撮影手段の道路面に対するピッチ方向の傾斜角度であり、
前記校正値算出手段は、
前記路面パラメータ推定手段により前フレームにおいて算出された傾斜角度と、現フレームにおいて算出された傾斜角度との差分を基に、前記撮影手段のピッチ方向の角速度を算出する第1の手段を備えることを特徴とする請求項1記載の校正装置。 - 前記校正値は、視差を校正するための視差オフセットであり、
前記校正値算出手段は、
前記視差オフセットの候補値で校正された視差の2乗を示す座標軸と、前記オプティカルフローの垂直成分を示す座標軸とで規定される2次座標元空間上に、前記候補値を変更させながら、各注目点をプロットすることで、前記道路面上に位置する注目点群を表す直線を前記候補値毎に求め、各直線の切片を基に前記候補値毎の角速度を算出する第2の手段と、
前記第1の手段により算出された角速度に近似する角速度を前記第2の手段により算出された角速度の中から特定し、特定した角速度に対応する候補値を前記視差オフセットとして算出する第3の手段とを更に備えることを特徴とする請求項2記載の校正装置。 - 前記校正値は、視差を校正するための視差オフセットであり、
前記校正値算出手段は、
前記視差と前記オプティカルフローの垂直成分と前記第1の手段により算出された角速度とを基に、前記移動体の前進速度と前記視差オフセットとを変数とし、前記道路面上に各注目点が存在すると仮定した場合に描かれる曲線を注目点毎に算出し、得られた曲線を、前記前進速度を示す座標軸と前記視差オフセットを示す座標軸とで規定される投票空間に投票することで、前記視差オフセットを算出する第2の手段を更に備えることを特徴とする請求項2記載の校正装置。 - 前記路面パラメータ推定手段は、前記視差を示す座標軸と前記注目点の垂直成分を示す座標軸とで規定される2次座標元空間上に各注目点をプロットすることで、前記入力画像に含まれる道路面上に位置する注目点群を表す直線を求め、当該直線の切片を基に前記撮影手段のピッチ方向の傾斜角度を算出することを特徴とする請求項3記載の校正装置。
- 前記路面パラメータ推定手段は、前記視差と前記注目点の垂直成分とを基に、前記撮影手段の前記道路面に対する高さとピッチ方向の傾斜角度とを変数とし、前記道路面上に各注目点が存在すると仮定した場合に描かれる直線を注目点毎に算出し、得られた直線を、前記高さを示す座標軸と前記ピッチ方向の傾斜角度を示す座標軸とで規定される投票空間に投票することで、前記撮影手段のピッチ方向の傾斜角度を算出することを特徴とする請求項4記載の校正装置。
- 前記校正値算出手段は、前記路面パラメータ推定手段により算出された路面パラメータを基に、道路面上に位置する注目点を特定し、特定した注目点を処理対象の注目点とすることを特徴とする請求項1〜6のいずれかに記載の校正装置。
- 前記路面パラメータ推定手段は、複数フレームの入力画像を用いて前記路面パラメータを算出し、
前記校正値算出手段は、複数フレームの入力画像を用いて前記校正値を算出することを特徴とする請求項1〜7のいずれかに記載の校正装置。 - 前記道路面がうねっているか否かを検出するうねり検出手段を更に備え、
前記校正値算出手段は、前記うねり検出手段により前記道路面がうねっていることが検出された場合、前記校正値を算出しないことを特徴とする請求項1〜8のいずれかに記載の校正装置。 - 前記路面パラメータ推定手段は、前記入力画像を複数の領域に分割し、各領域における路面パラメータを算出し、
前記うねり検出手段は、前記路面パラメータ推定手段により領域毎に算出された路面パラメータを基に、前記道路面がうねっているか否かを検出することを特徴とする請求項9記載の校正装置。 - 前記視差・フロー算出手段は、前記撮影手段により撮影された処理対象となる複数の入力画像のうち、1枚の入力画像を基準画像とし、前記基準画像上に設定された注目点を基準としてウインドウを設定すると共に、残りの処理対象となる1又は複数の入力画像にも前記ウインドウを設定し、設定したウインドウ内の画像を周波数分解し、振幅成分を抑制した信号同士の相関に基づいて対応点を探索することで、前記オプティカルフロー及び前記視差を算出することを特徴とする請求項1〜10のいずれかに記載の校正装置。
- 前記視差・フロー算出手段は、位相限定相関法により前記対応点を算出することを特徴とする請求項11記載の校正装置。
- 移動体に搭載された撮影手段のカメラパラメータを校正する校正方法であって、
前記撮影手段により所定のフレームレートで撮影された入力画像に複数の注目点を設定し、各注目点の視差と2次元のオプティカルフローとを算出する視差・フロー算出ステップと、
前記視差と前記注目点の垂直成分とを基に、前記入力画像に含まれる道路面と前記撮影手段との関係を示す路面パラメータを算出する路面パラメータ推定ステップと、
前記オプティカルフローと、前記視差と、前記路面パラメータとを基に、前記カメラパラメータの校正値を算出する校正値算出ステップとを備えることを特徴とする校正方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008021951A JP4894771B2 (ja) | 2008-01-31 | 2008-01-31 | 校正装置及び校正方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008021951A JP4894771B2 (ja) | 2008-01-31 | 2008-01-31 | 校正装置及び校正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009182879A JP2009182879A (ja) | 2009-08-13 |
JP4894771B2 true JP4894771B2 (ja) | 2012-03-14 |
Family
ID=41036460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008021951A Active JP4894771B2 (ja) | 2008-01-31 | 2008-01-31 | 校正装置及び校正方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4894771B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5440461B2 (ja) | 2010-09-13 | 2014-03-12 | 株式会社リコー | 校正装置、距離計測システム、校正方法および校正プログラム |
JP5870510B2 (ja) * | 2010-09-14 | 2016-03-01 | 株式会社リコー | ステレオカメラ装置、校正方法およびプログラム |
JP6182866B2 (ja) | 2012-03-21 | 2017-08-23 | 株式会社リコー | 校正装置、距離計測装置及び車両 |
WO2016027524A1 (ja) * | 2014-08-19 | 2016-02-25 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム及び電子光学機器 |
FR3026591B1 (fr) * | 2014-09-25 | 2016-10-21 | Continental Automotive France | Procede de calibration extrinseque de cameras d'un systeme de formation d'images stereos embarque |
CN110462682B (zh) | 2017-03-30 | 2023-05-02 | 三菱电机株式会社 | 物体检测装置以及车辆 |
CN114347064B (zh) * | 2022-01-31 | 2022-09-20 | 深圳市云鼠科技开发有限公司 | 基于光流的机器人碰撞检测方法、装置、计算机设备及存储介质 |
CN115436906B (zh) * | 2022-11-07 | 2023-03-14 | 成都远望探测技术有限公司 | 一种提升雷达探测目标位置及风场反演信息准确性的方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3436074B2 (ja) * | 1997-06-10 | 2003-08-11 | トヨタ自動車株式会社 | 車載ステレオカメラ |
JP4109077B2 (ja) * | 2002-10-11 | 2008-06-25 | 敬二 実吉 | ステレオカメラの調整装置およびステレオカメラの調整方法 |
JP4307283B2 (ja) * | 2004-02-17 | 2009-08-05 | 三菱電機株式会社 | ステレオカメラシステムおよび該システムのステレオカメラ同士のキャリブレーション方法 |
-
2008
- 2008-01-31 JP JP2008021951A patent/JP4894771B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2009182879A (ja) | 2009-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5109691B2 (ja) | 解析装置 | |
JP4894771B2 (ja) | 校正装置及び校正方法 | |
US20210334557A1 (en) | Monocular cued detection of three-dimensional strucures from depth images | |
JP4406381B2 (ja) | 障害物検出装置及び方法 | |
JP5588812B2 (ja) | 画像処理装置及びそれを用いた撮像装置 | |
US7697029B2 (en) | Image display apparatus and method | |
US20180292201A1 (en) | Calibration apparatus, calibration method, and calibration program | |
CN108692719B (zh) | 物体检测装置 | |
US20100246901A1 (en) | Operation Support System, Vehicle, And Method For Estimating Three-Dimensional Object Area | |
JP6552448B2 (ja) | 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム | |
US20110298988A1 (en) | Moving object detection apparatus and moving object detection method | |
CN102211523B (zh) | 用于跟踪对象标记位置的方法和装置 | |
JP2009014445A (ja) | 測距装置 | |
US20170091565A1 (en) | Object detection apparatus, object detection method, and program | |
JP5612915B2 (ja) | 移動体検出装置及び移動体検出方法 | |
JPWO2009099022A1 (ja) | 周辺監視装置及び周辺監視方法 | |
JP2008182652A (ja) | カメラ姿勢推定装置、車両、およびカメラ姿勢推定方法 | |
JP6032034B2 (ja) | 物体検知装置 | |
US20170028917A1 (en) | Driving assistance device and driving assistance method | |
JP2017004176A (ja) | 路面標示検出装置及び路面標示検出方法 | |
JP2019056629A (ja) | 距離推定装置及び方法 | |
JP5539250B2 (ja) | 接近物体検知装置及び接近物体検知方法 | |
JP5181602B2 (ja) | 物体検出装置 | |
JP2008309519A (ja) | 画像処理を用いた物体検出装置 | |
US20220309694A1 (en) | Electronic device and control method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100611 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20111122 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111129 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111212 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4894771 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150106 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |