JP2010177780A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2010177780A
JP2010177780A JP2009015562A JP2009015562A JP2010177780A JP 2010177780 A JP2010177780 A JP 2010177780A JP 2009015562 A JP2009015562 A JP 2009015562A JP 2009015562 A JP2009015562 A JP 2009015562A JP 2010177780 A JP2010177780 A JP 2010177780A
Authority
JP
Japan
Prior art keywords
correction
correction amount
output range
image
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009015562A
Other languages
English (en)
Inventor
Kazushi Kuroda
和士 黒田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2009015562A priority Critical patent/JP2010177780A/ja
Publication of JP2010177780A publication Critical patent/JP2010177780A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

【課題】物体等を適切な状態で撮像した画像を撮像可能とする撮像装置を提供する。
【解決手段】移動体に搭載され、当該移動体の周囲を撮像した撮像画像を取得する撮像手段と、撮像画像中において、移動体と同一軌道上を移動する他の移動体を示す補正基準画像を検出する補正基準画像検出手段と、撮像画像における少なくとも一部分の画像領域を出力範囲として設定する出力範囲設定手段と、出力範囲内の出力画像を出力する出力手段とを備え、出力範囲設定手段は、出力範囲の移動および回転の少なくとも一方を行って補正するための補正量を、補正基準画像に基づいて算出する補正量算出手段と、補正量に基づいて出力範囲の移動および回転の少なくとも一方を行って、当該出力範囲を補正する出力範囲補正手段とを含む、撮像装置である。
【選択図】図2

Description

本発明は撮像装置に関し、より特定的には、車両に搭載する撮像装置に関する。
従来、車両周囲の画像を撮像することを目的として車両に搭載される撮像装置が開発されている。一般的には、上記ような撮像装置で撮像された画像は、画像処理装置により処理され、車両周囲の障害物、人物、車線を示す白線等の検出に用いられる。そして、検出した車両周囲の障害物、人物、車線を示す白線等のデータに応じて車両を制御することによって、より安全な走行が可能となる。
ところで、上記のような撮像装置は、車両の走行中の振動等により、取り付け位置にずれが生じる場合がある。このようなずれが生じた場合、車両周囲の障害物、人物、車線を示す白線等を撮像範囲内に捉えることができなくなる可能性がある。そこで、近年、上記のような撮像装置の撮像範囲を補正する方法が開発されている。
上記のような撮像装置の撮像範囲を補正する方法が、例えば、特許文献1に開示されている。特許文献1に開示される撮像装置は、各時点で撮影した画像において、自車が走行する車線の両端を示す一対の車線区分線を検出し、当該区分線を各々延長して得られる交点を検出する。上記交点の画像中の位置は、車両が左右へ移動した場合、車両の動きに合わせて左右方向へ移動する。ここで、撮像装置がロール方向へ傾いていない場合、上記交点は略水平方向へ移動する。一方、撮像装置がロール方向へ傾いている場合、上記交点は当該傾きに応じて画像中斜め方向へ移動する。そこで、上記撮像装置は、上記交点の軌跡を直線近似し、当該近似直線の傾きから当該撮像装置のロール方向へのずれを検出する。そして、上記撮像装置は、撮像装置の撮像範囲を、検出した撮像装置のロール方向のずれに応じて補正する。
特開2007−34989号公報
しかしながら、上記特許文献1に開示される撮像装置のずれの補正方法では、撮像装置を搭載した自車両が左右へ移動しなければ、上記交点が移動することがなく、近似直線を求めることができない。そのため、上記特許文献1に開示される撮像装置では、例えば、車両が直進し続けている場合など、撮像装置のロール方向のずれを補正することができない場合がある。そのため、先行車や、車線を示す白線などの、車両の進行先に存在する物体を適切な状態で撮像した画像を取得することができない場合がある。
本発明は上記の課題を鑑みて成されたものであり、物体等を適切な状態で撮像した画像を取得可能とする撮像装置を提供することを目的とする。
上記の課題を解決するため、本願は以下の構成を採用した。すなわち、第1の発明は、移動体に搭載され、当該移動体の周囲を撮像した撮像画像を取得する撮像手段と、撮像画像中において、移動体と同一軌道上を移動する他の移動体を示す補正基準画像を検出する補正基準画像検出手段と、撮像画像における少なくとも一部分の画像領域を出力範囲として設定する出力範囲設定手段と、出力範囲内の出力画像を出力する出力手段とを備え、出力範囲設定手段は、出力範囲の移動および回転の少なくとも一方を行って補正するための補正量を、補正基準画像に基づいて算出する補正量算出手段と、補正量に基づいて出力範囲の移動および回転の少なくとも一方を行って、当該出力範囲を補正する出力範囲補正手段とを含む、撮像装置である。
第2の発明は、第1の発明において、補正量算出手段は、補正基準画像として撮像された他の移動体に対して縦方向に設けられる軸であり、当該軸を中心として当該他の移動体の左右が対称となる対称軸を検出する対称軸検出手段と、予め定められた出力範囲の基準軸と、対称軸とが成す角度を算出する角度算出手段と、出力範囲を回転させて補正する場合の回転方向の補正量を、少なくとも角度に基づいて算出する回転補正量算出手段とを含み、出力範囲補正手段は、出力範囲を、回転方向の補正量に応じて回転させて補正することを特徴とする。
第3の発明は、第1の発明において、補正量算出手段は、撮像画像中において、他の移動体が無限遠方へ進行した場合の到達点を算出する到達点算出手段と、予め定められた出力範囲の縦方向の基準軸から到達点までの距離に基づいて、出力範囲を撮像画像に対して左右方向に移動する補正量を算出する左右補正量算出手段とを含み、出力範囲補正手段は、出力範囲を、左右方向の補正量に応じて撮像画像に対して左右方向へ移動させて補正することを特徴とする。
第4の発明は、第1の発明において、補正量算出手段は、撮像画像中において、補正基準画像の中心点を検出する中心点検出手段と、予め定められた出力範囲の縦方向の基準軸から中心点までの距離に基づいて、出力範囲を撮像画像に対して左右方向に移動する補正量を算出する左右補正量算出手段とを含み出力範囲補正手段は、出力範囲を、左右方向の補正量に応じて撮像画像に対して左右方向へ移動させて補正することを特徴とする。
第5の発明は、第1の発明において、補正量算出手段は、撮像画像中において、他の移動体が無限遠方へ進行した場合の到達点を算出する到達点算出手段と、予め定められた出力範囲の縦方向の基準軸から到達点までの距離に基づいて、出力範囲を撮像画像に対して上下方向に移動する補正量を算出する上下補正量算出手段とを含み出力範囲補正手段は、出力範囲を、上下方向の補正量に応じて撮像画像に対して上下方向へ移動させて補正することを特徴とする。
第6の発明は、第1の発明において、補正量算出手段は、撮像画像中において、補正基準画像の中心点を検出する中心点検出手段と、予め定められた出力範囲の縦方向の基準軸から中心点までの距離に基づいて、出力範囲を撮像画像に対して上下方向に移動する補正量を算出する上下補正量算出手段とを含み出力範囲補正手段は、出力範囲を、上下方向の補正量に応じて上下方向へ移動させて撮像画像に対して補正することを特徴とする。
第7の発明は、第3または第5の発明において、補正量算出手段は、撮像画像中において、補正基準画像の左端点および当該補正基準画像の右端点をそれぞれ検出する端部検出手段と、左端点および右端点をそれぞれ記憶する端部記憶手段とを、さらに含み、到達点算出手段は、記憶された左端点の軌跡を直線近似して成る第1の直線と、記憶された右端点の軌跡を直線近似して成る第2の直線との交点を到達点として算出することを特徴とする。
第8の発明は、第1の発明において、移動体のヨーレートを取得するヨーレート取得手段と、移動体の速度を取得する速度取得手段とを、さらに備え、出力範囲設定手段は、補正量の算出に用いる係数を、速度が小さいほど係数が小さくなるよう、また、ヨーレートが大きいほど係数が小さくなるよう算出する係数算出手段を含み、補正量算出手段は、係数が小さい程、補正量を減少させて当該補正量を算出する補正量調整手段を含むことを特徴とする。
第9の発明は、第8の発明において、補正量調整手段は、係数の変化量が大きい場合、補正量の減少幅を大きくして当該補正量を算出することを特徴とする。
第10の発明は、第1の発明において、移動体のヨーレートを取得するヨーレート取得手段を、さらに備え、補正量算出手段は、ヨーレートが予め定められた閾値以下である場合にのみ、補正量を算出することを特徴とする。
第11の発明は、第1の発明において、移動体の速度を取得する速度取得手段を、さらに備え、補正量算出手段は、速度が予め定められた閾値以上である場合にのみ、補正量を算出することを特徴とする。
第12の発明は、第1の発明において、移動体は、車両であり、補正基準画像検出手段は、撮像装置が搭載される車両と同一車線上を走行する先行車を示す補正基準画像を検出することを特徴とする。
第13の発明は、移動体に搭載され、当該移動体の周囲を撮像した撮像画像を取得する撮像手段と、撮像画像中において、移動体と同一軌道上を移動する他の移動体を示す補正基準画像を検出する補正基準画像検出手段と、撮像画像の撮像範囲の移動および回転の少なくとも一方を行って補正するための補正量を、補正基準画像に基づいて算出する補正量算出手段と、撮像手段が撮像する方向を補正量に基づいて変化させることによって撮像範囲の移動および回転の少なくとも一方を行って、当該撮像範囲を補正する撮像範囲補正手段と、撮像画像における少なくとも一部分の画像領域を出力範囲として設定する出力範囲設定手段と、出力範囲内の出力画像を出力する出力手段とを備える、撮像装置である。
第1の発明によれば、略同一軌道上を移動する他の移動体の画像に基づいて撮像範囲が補正されるため、撮像装置が搭載される移動体の進行先に存在する物体等を適切な状態で撮像範囲に収めることが可能である。また、撮像範囲の補正のために、補正の基準となるターゲットを撮像装置の前に設置して撮影する必要がない。
第2の発明によれば、撮像装置の撮像面を前方とした場合に、撮像範囲をロール方向に回転して補正することができる。
第3の発明によれば、撮像画像において出力画像を取得する範囲を、撮像画像に対して左右方向に移動して補正することができる。すなわち、撮像装置の撮像面を前方とした場合に、ヨー方向に撮像装置を回転させて行う補正と同様の効果を得られる。また、同一軌道上に存在する他の移動体が無限遠方へ進行した場合の到達点に追従するように撮像範囲の位置が補正されるため、当該軌道の先を予測して撮像することができる。
第4の発明によれば、撮像画像において出力画像を取得する範囲を、撮像画像に対して左右方向に移動して補正することができる。すなわち、撮像装置の撮像面を前方とした場合に、ヨー方向に撮像装置を回転させて行う補正と同様の効果を得られる。また、同一軌道上の他の移動体に追従して、当該他の移動体を撮像画像の左右方向の略中心に捉えるよう、撮像範囲を補正することができる。
第5の発明によれば、撮像画像において出力画像を取得する範囲を、撮像画像に対して上下方向に移動して補正することができる。すなわち、撮像装置の撮像面を前方とした場合に、ピッチ方向に撮像装置を回転させて行う補正と同様の効果を得られる。また、同一軌道上に存在する他の移動体が無限遠方へ進行した場合の到達点に追従するように撮像範囲の位置が補正されるため、当該軌道の先を予測して撮像することができる。
第6の発明によれば、撮像画像において出力画像を取得する範囲を、撮像画像に対して上下方向に移動して補正することができる。すなわち、撮像装置の撮像面を前方とした場合に、ピッチ方向に撮像装置を回転させて行う補正と同様の効果を得られる。また、同一軌道上の他の移動体に追従して、当該他の移動体を撮像画像の上下方向の略中心に捉えるよう、撮像範囲を補正することができる。
第7の発明によれば、簡単な処理で、他の移動体の到達点を算出することができる。
第8の発明によれば、補正量の算出に用いる係数を、速度が小さいほど当該係数が小さくなるよう、また、ヨーレートが大きいほど当該係数が小さくなるよう算出できる。ここで、移動体の速度が遅く、且つヨーレートが大きい場合は、当該移動体は直進していない可能性が高い。したがって、上記の係数は、移動体が直進している可能性が高い場合に大きな値となり、移動体が直進している可能性が低い場合に小さな値となる。そして、移動体が直進していない状況では、撮像される他の移動体の画像が変形し易く、誤った補正が実行され易くなるため、当該状況では係数を小さくして補正量を小さくし、誤った補正が実行された場合の影響を小さくすることができる。
第9の発明によれば、係数が急激に増加した場合であっても、補正量の急激な増加を抑制することができる。すなわち、移動体の進行方向が激しく変化した場合でも、出力画像中において、撮影された物体の位置の急激な変動を抑制することができる。
第10の発明によれば、移動体が直進している可能性が高い状況、すなわち、他の移動体を正確に検出し易く正確な補正が行い易い状況においてのみ、撮像範囲を補正することができる。
第11の発明によれば、移動体が直進している可能性が高い状況、すなわち、他の移動体を正確に検出し易く正確な補正が行い易い状況においてのみ、撮像範囲を補正することができる。
第12の発明によれば、撮像装置を車両に搭載し、撮像した先行車の画像に基づいて撮像範囲を補正することができる。
第13の発明によれば、撮像装置を物理的に移動させる機構を備えることなく、撮像範囲を補正することができる。また、範囲の補正のために撮像装置を移動させるスペースを、搭載される移動体に空けておく必要がない。
撮像装置1、および、撮像装置1を搭載する車両100の構成を示すブロック図の一例 制御装置12が実行する処理を示すフローチャートの一例 周囲画像、および有効画像範囲Fの一例を示す図 画像範囲補正処理を示すフローチャートの一例 係数テーブルの一例を示す図 第1の実施形態に係るθ方向補正処理のサブルーチンを示すフローチャートの一例 回転補正後の有効画像範囲Fを示す図の一例 有効画像範囲Fの左端に先行車500が撮影された周囲画像を示す図 第1の実施形態に係るX方向補正処理のサブルーチンを示すフローチャートの一例 X方向の補正後の有効画像範囲Fを示す図 第1の実施形態に係るY方向補正処理のサブルーチンを示すフローチャートの一例 有効画像範囲Fの下方に先行車500が撮影された周囲画像を示す図 Y方向の補正後の有効画像範囲Fを示す図 第2の実施形態に係る画像範囲補正処理を示すフローチャートの一例 第2の実施形態に係るθ方向補正処理のサブルーチンを示すフローチャートの一例 第2の実施形態に係るX方向補正処理のサブルーチンを示すフローチャートの一例 第2の実施形態に係るY方向補正処理のサブルーチンを示すフローチャートの一例
(第1の実施形態)
以下、本発明の第1の実施形態に係る撮像装置1について説明する。なお、第1の実施形態では、撮像装置1が車両100に搭載される例について説明する。
先ず、撮像装置1、および、撮像装置1を搭載する車両100の構成について、図1を参照して説明する。図1は、撮像装置1、および、撮像装置1を搭載する車両100の構成を示すブロック図の一例である。図1に示すように、車両100は、撮像装置1、車速計21、ヨーレートセンサ22、および車両制御装置23を備える。撮像装置1は、イメージセンサ11および制御装置12を備える。
イメージセンサ11は、例えばCCD(Charge Coupled Device)センサ等の一般的なイメージセンサである。イメージセンサ11は、車両100の周囲を撮像可能な位置に配置され、車両周囲の画像(以下、周囲画像と呼称する)を撮像する。なお、第1の実施形態においては、イメージセンサ11により、車両100の前方の画像が撮像される例について説明する。イメージセンサ11は、撮像した周囲画像を制御装置12へ出力する。
制御装置12は、典型的には、CPU(Central Processing Unit:中央処理装置)などの情報処理装置、メモリなどの記憶装置、およびインターフェース回路などを備える処理装置である。制御装置12は、イメージセンサ11、車速計21、ヨーレートセンサ22、および車両制御装置23と接続される。制御装置12の処理の詳細については後述するが、制御装置12は、イメージセンサ11から得られた周囲画像のうち、有効とする範囲(以下、有効画像範囲Fと呼称する)に含まれる画像(以下、有効画像と呼称する)のみを、当該画像を車両制御装置23へ出力する。制御装置12は、イメージセンサ11、車速計21、およびヨーレートセンサ22から各々取得したデータに基づいて、有効画像範囲Fを補正する。
車速計21は、車両100の走行速度を計測する一般的なセンサ装置である。車速計21は、車両100の走行速度(以下、自車速度Vと呼称する)を計測し、当該速度を示すデータを制御装置12に対して出力する。
ヨーレートセンサ22は、車両100のヨーレートを計測する一般的なセンサ装置である。ヨーレートセンサ22は、車両100のヨーレートωを計測し、当該ヨーレートωを示すデータを制御装置12に対して出力する。
車両制御装置23は、車両100の動作を制御する装置である。車両制御装置23は、制御装置12から取得した有効画像を画像処理し、車両100の周囲の物体を検出する。そして、車両制御装置23は、検出した物体に応じて車両の走行を制御する。例えば、車両制御装置23は、車両100の前方に人を検出した場合には、車両100の走行速度を減速させるなどの制御を行う。
次いで、制御装置12の処理について図2を参照して説明する。図2は、制御装置12が実行する処理を示すフローチャートの一例である。制御装置12は、例えば、車両100のイグニッション電源がオンに設定されている間、図2に示す処理を実行する。なお、制御装置12は、車両100が走行している場合にのみ図2に示す処理を実行しても構わない。制御装置12は、図2のフローチャートの処理を開始すると、先ずステップA1の処理を実行する。
ステップA1において、制御装置12は、自車速度Vを取得する。具体的には、制御装置12は、車速計21から出力される自車速度Vを示すデータを取得し、記憶装置に記憶する。ステップA1の処理を完了すると制御装置12は処理をステップA2へ進める。
ステップA2において、制御装置12は、自車速度Vが閾値Vthより大きいか否かを判定する。閾値Vthは、制御装置12の記憶装置に予め記憶された任意の定数である。閾値Vthには、例えば、60km/h等の数値が設定される。制御装置12は、記憶装置から、自車速度Vの値、および閾値Vthの値を各々読み出し、自車速度Vの値と、当該閾値Vthとの大きさを比較する。制御装置12は、自車速度Vが閾値Vthより大きいと判定した場合。処理をステップA3へ進める。一方、制御装置12は、自車速度Vが閾値Vth未満であると判定した場合、処理をステップA7へ進める。
ステップA3において、制御装置12は、ヨーレートωを取得する。具体的には、制御装置12は、ヨーレートセンサ22から出力されるヨーレートωを示すデータを取得し、記憶装置に記憶する。ステップA3の処理を完了すると制御装置12は処理をステップA4へ進める。
ステップA4において、制御装置12は、ヨーレートωが閾値ωthより大きいか否かを判定する。閾値ωthは、制御装置12の記憶装置に予め記憶された任意の定数である。閾値ωthには、例えば、4deg/s等の数値が設定される。制御装置12は、記憶装置からヨーレートωの値、および閾値ωthの値を各々読み出し、ヨーレートωの値と閾値ωthと、の大きさを比較する。制御装置12は、ヨーレートωが閾値Vthより大きいと判定した場合。処理をステップA3へ進める。一方、制御装置12は、自車速度Vが閾値Vth以下であると判定した場合、処理をステップA7へ進める。
ステップA5において、制御装置12は、先行車を検出したか否かを判定する。具体的には、制御装置12は、イメージセンサ11から取得した周囲画像中の有効画像範囲F内において、先行車が撮影されているか否かを当該周囲画像を画像処理して判定する。
図3は、周囲画像、および有効画像範囲Fの一例を示す図である。以下では、周囲画像において左下端を原点とし、横方向をX軸、縦方向をY軸とする座標系を定義して説明する。また、有効画像範囲Fは長方形を成すものとする。また、以下では周囲画像中に先行車500、白線601、および白線602が各々撮像されている例について説明する。なお、白線601、および白線602は、道路上において車両100が走行する車線(以下、自車走行車線と呼称する)を示す白線である。また、先行車500は、車両100と同じ車線で前方を走行する車両である。
制御装置12は、例えば、有効画像範囲F内で、輝度値が所定値より明るく、且つ所定面積以上である領域を先行車500として検出する。そして、制御装置12は、有効画像範囲F中で上記の条件に適合する領域が存在する場合、先行車500が撮像されていると判定する。制御装置12は、先行車を検出したと判定した場合、処理をステップA6へ進める。一方、制御装置12は、先行車を検出していないと判定した場合、処理をステップA7へ進める。
なお、上記先行車の検出方法は一例であり、制御装置12は、従来既知の任意の画像処理手法を用いて周囲画像中の先行車を検出しても構わない。例えば、制御装置12は、予め一般的な車両形状を示すテンプレート画像を記憶しておき、有効画像範囲F中において、当該テンプレート画像と一致する領域が存在する場合、先行車500が撮像されていると判定する等しても構わない。また、上記では、制御装置12がイメージセンサ11から取得した画像に基づいて先行車を検出する例について説明したが、制御装置12は、当該画像以外のデータを用いて先行車の有無を判定しても構わない。例えば、車両100が、前方の物体を検出するレーダー装置を備えている場合、制御装置12は、当該レーダー装置による物体の検出情報を用いて、先行車の有無を判定しても構わない。さらに、制御装置12は、上記画像情報とレーダー装置による検出情報を組み合わせて、先行車の有無を判定しても構わない。
上記ステップA1からステップA5の処理によれば、制御装置12は、自車速度Vが閾値Vth以上であり、且つヨーレートωが閾値ωthより小さい場合であって、且つ先行車が検出されている場合にのみ、後述ステップA6の処理を実行して有効画像範囲Fを補正する。ここで、一般的に、車両が直進走行している場合、カーブ走行等している場合に比べ、自車速度Vが大きくなり、また、ヨーレートωが小さくなる。したがって、上記ステップA1からステップA5の処理によれば、制御装置12は、車両100が直進走行している可能性が高い場合であって、且つ先行車を検出した場合にのみ有効画像範囲Fを補正する。詳細は後述するが、制御装置12は、周囲画像中の先行車の画像に基づいて有効画像範囲Fの補正を行うため、周囲画像中で先行車を正確に検出することが望ましい。そして、車両100が直進走行している場合、カーブ走行等している場合に比べ、周囲画像中の先行車500の画像の形状が変形し難く、先行車500を正確に検出し易い。したがって、上記ステップA1からステップA5の処理によれば、制御装置12は、当該有効画像範囲Fを適切なタイミングで補正することができる。
一方、制御装置12は、自車速度Vが閾値Vth未満である場合や、ヨーレートωが閾値ωth以上である場合、または、先行車が検出されていない場合は、後述ステップA6の処理を省略して、後述のステップA7の処理を実行する。
ステップA6において、制御装置12は、画像範囲補正処理を実行する。画像範囲補正処理は有効画像範囲Fを補正する処理である。以下、図4を参照して画像範囲補正処理について説明する。図4は、画像範囲補正処理を示すフローチャートの一例である。制御装置12は、画像範囲補正処理を開始するとステップA60の処理を実行する。
ステップA60において、制御装置12は、補正係数kを算出する。補正係数kは、後述の有効画像範囲Fを補正する処理において、補正量の算出に用いる係数である。制御装置12は、予め記憶装置に記憶した係数テーブルに基づいて補正係数kを算出する。
図5は、係数テーブルの一例を示す図である。係数テーブルにおいて、各行は自車速度Vの値に対応する。具体的には、1行目は60≦V<80に、2行目は80≦V<100に、3行目は100≦V<120に、4行目は120≦Vに、各々対応する。また、係数テーブルにおいて、各列はヨーレートωの値に対応する。具体的には、1列目は0≦ω<2に、2列目は2≦ω<4に、3列目は4≦ωに各々対応する。そして、各行に示す自車速度V、および各列に示すヨーレートωの値に各々対応する補正係数kの値が、対応するセルに格納される。
例えば、制御装置12は、上記処理において取得した自車速度Vの値が92km/hである場合、係数テーブルにおいて、当該自車速度Vの値に対応する2行目のセルを参照する。また、制御装置12は、上記処理において取得したヨーレートωの値が2.7deg/sである場合、当該ヨーレートωの値に対応する2列目のセルを参照する。このようにして、制御装置12は、2行2列目のセルを参照して、補正係数kの値を4として算出する。
なお、係数テーブルにおいて、補正係数kの値は、自車速度Vの値が大きくなるほど、大きくなるよう設定される。また、係数テーブルにおいて、補正係数kの値は、ヨーレートωの値が小さくなるほど、大きくなるよう設定される。このように補正係数kを、自車速度Vおよびヨーレートωの値に応じて設定することにより、車両100が直進走行している可能性が高い場合に補正量(後述の、角度補正量θT、X方向補正量XT、Y方向補正量YT)を大きくし、車両100が直進走行していない可能性が高い場合には補正量を小さくすることができる。ここで、上述の通り、車両100が直進走行していない場合、車両100が直進走行している場合に比べ、正確な補正が困難となる。したがって、車両100が直進走行していない状況、すなわち正確な補正が困難な状況では、上記のように係数kを小さくして補正量を小さくすることで、誤った補正がされてもその影響を小さく抑えることがきる。
なお、上記ステップA60の処理では、制御装置12が自車速度Vおよびヨーレートωの値に応じて補正係数kを算出する例について説明したが、制御装置12は、自車速度Vおよびヨーレートωの何れか一つの値に応じて補正係数kを算出しても構わない。
ステップA60の処理を完了すると、制御装置12は、処理をステップA61へ進める。
ステップA61において、制御装置12は、先行車500の輪郭形状を取得する。具体的には、イメージセンサ11から取得した周囲画像中で、先行車の輪郭を示すピクセルの位置を各々検出する。例えば、制御装置12は、上記ステップA5の処理において検出した先行車の近傍において、隣り合うピクセルとの輝度値の差が所定値より大きな箇所を先行車の輪郭として検出する。なお、上記輪郭の検出方法は一例であり、制御装置12は従来既知の任意の手法を用いて上記輪郭を検出して構わない。ステップA61の処理を完了すると、制御装置12は処理をステップA62へ進める。
ステップA62において、制御装置12は、θ方向補正処理のサブルーチンを実行する。θ方向補正処理は、有効画像範囲を回転させて補正する処理である。以下、図6を参照してθ方向補正処理のサブルーチンについて説明する。なお、図6は、θ方向補正処理のサブルーチンを示すフローチャートの一例である。制御装置12は、θ方向補正処理を開始すると、先ず、図6のステップA621の処理を実行する。
ステップA621において、制御装置12は、先行車画像の対称軸ASを算出する。一般的な車両は、概ね左右対称的な外観形状をしているため、当該車両を撮影した画像中において、対称軸を定義することができる。制御装置12は、ステップA61において取得した先行車の輪郭に基づいて、周囲画像中における当該先行車の画像の対称軸ASを算出する。なお、図3では対称軸ASを破線で示す。ステップA621の処理を完了すると、制御装置12は、処理をステップA622へ進める。
ステップA622において、制御装置12は、先行車の中心点CPの位置を算出する。中心点CPは、周囲画像中における先行車の画像の中心点である(図3参照)。制御装置12は、ステップA61において取得した先行車の輪郭に基づいて、中心点CPの位置を算出する。例えば、制御装置12は、上記輪郭の左右端点を結ぶ直線と、上記輪郭の上下端点を結ぶ直線との交点を、中心点CPとして算出する。なお、上記中心点CPの検出方法は一例であり、制御装置12は、従来既知の任意の手法を用いて中心点CPを算出して構わない。制御装置12は、ステップA622の処理を完了すると、処理をステップA623へ進める。
ステップA623において、制御装置12は、角度ずれ量Δθを算出する。角度ずれ量Δθは、基準軸Baと対称軸ASとが成す角度である(図3参照)。基準軸Baは後述ステップA186において周囲画像中で定義され、記憶装置に記憶される軸線である。制御装置12は、当該基準軸Baと上記処理において算出した対称軸ASとが成す角度を、角度ずれ量Δθとして算出する。なお、対称軸ASが基準軸Baから時計回りに回転している場合、Δθの値が正の値となるものとし、対称軸ASが基準軸Baから反時計回りに回転している場合、Δθの値が負の値となるものとする。また、基準軸Baが未定義である場合、前記制御装置12は、例えば、中心点CPを通るY軸方向の直線を基準軸Baとして定義する。なお、上記基準軸Baの初期位置の定義方法は一例であり、基準軸Baの初期定義は任意に定義して構わない。ステップA623の処理を完了すると、制御装置12は、処理をステップA624へ進める。
ステップA624において、制御装置12は、補正係数kおよび角度ずれ量Δθに基づき角度補正量θTを算出する。角度補正量θTは、有効画像範囲Fを補正する際に用いる回転方向の補正量である。制御装置12は、角度補正量θTを下式(1)に基づいて算出する。
θT=k×Δθ …(1)
ステップA624の処理を完了すると、制御装置12は、処理をステップA625へ進める。
ステップA625において、制御装置12は、有効画像範囲Fを回転補正する。具体的には、制御装置12は、有効画像範囲Fを、中心点CPを中心として角度補正量θTだけ回転させる。なお、制御装置12は、θTの値が正である場合は、有効画像範囲Fを時計回りに回転させ、θTの値が負である場合は、有効画像範囲Fを反時計回りに回転させる。ステップA625の処理を完了すると、制御装置12は、処理をステップA626へ進める。
ステップA626において、制御装置12は基準軸Baを更新する。具体的には、基準軸Baを、中心点CPを中心に角度補正量θTだけ回転させた位置に、当該基準軸Baの位置を更新する。例えば、図3において、更新前の基準軸Baの位置が実線で示す基準軸Ba1であった場合、更新後の基準軸Baの位置は、図3中一点鎖線で示すBa2の位置に設定される。ステップA626の処理を完了すると、制御装置12は、処理を図4のフローチャートのステップA63へ進める。
例えば、イメージセンサ11から図3のように、周囲画像の左右方向と、水平方向とが互いに傾いてずれている周囲画像を取得している場合を想定する。このような場合、制御装置12は、上記θ方向補正処理に基づいて、有効画像範囲Fを図7に示すように回転して補正する。図7は、回転補正後の有効画像範囲Fを示す図である。図3に示す補正前の有効画像範囲Fでは、先行車500の画像は有効画像範囲Fに対して傾いた状態で当該範囲内に含まれている。そのため、有効画像範囲Fが補正されない場合、後述ステップA8の処理において、先行車500がロール方向へ傾いた状態で撮像された有効画像が生成されてしまう。一方、図7に示すように、補正後の有効画像範囲Fでは、先行車500の画像は有効画像範囲Fに対して概ね直立した状態で当該範囲内に含まれる。そのため、後述ステップA8の処理において、制御装置12は、先行車500が概ね直立した状態で撮像された有効画像を生成することができる。このように、上記θ方向補正処理によれば、例えば、イメージセンサ11の取り付け状態が、撮像面を前面として、ロール方向へずれる等して、周囲画像の左右方向と、水平方向とが当該ロール方向へ互いにずれた周囲画像が取得されている場合であっても、先行車500が概ね直立した状態で撮像された有効画像を取得することが可能である。
なお、上記では、制御装置12が、角度ずれ量Δθを対称軸ASと基準軸Baに基づいて算出する例について説明したが、制御装置12は、対称軸ASを基準として対称な位置に存在する2点を結ぶ直線を算出し、当該直線と基準軸Baとが成す角度を、角度ずれ量Δθとして算出しても構わない。なお、このような処理で角度ずれ量を算出する場合、前記制御装置12は、例えば、中心点CPを通るX軸方向の直線を基準軸Baとして定義する。
図4の説明に戻り、ステップA63において、制御装置12は、先行車の左端点ELおよび右端点ERの位置を検出する。具体的には、制御装置12は、上述の処理で取得した先行車の輪郭のうち最も左側の端点を左端点ELとして検出し、同輪郭のうち最も右側の端点を右端点ERとして検出して、各点の座標を記憶装置に記憶する。記憶された左端点ELおよび右端点ERの情報は、後述ステップA7の処理において初期化されるまで、記憶装置に保持される。ステップA63の処理を完了すると、制御装置12は処理をステップA64へ進める。
ステップA64において、制御装置12は、前回以前に検出した先行車の左端点ELおよび右端点ERの位置を記憶しているか否かを判定する。具体的には、制御装置12は、直前のステップA63の処理において先行車の左端点ELおよび右端点ERの位置を検出する以前の時点で検出した、左端点ELおよび右端点ERの位置を記憶装置が記憶しているか否かを判定する。制御装置12は、左端点ELおよび右端点ERの位置を記憶装置が記憶している場合、前回以前に検出した先行車の左端点ELおよび右端点ERの位置を記憶していると判定して処理をステップA65へ進める。一方、制御装置12は、左端点ELおよび右端点ERの位置を記憶装置が記憶していない場合、前回以前に検出した先行車の左端点ELおよび右端点ERの位置を記憶していないと判定して処理をステップA67へ進める。
ステップA65において、制御装置12は、近似直線LLおよび近似直線LRを算出する。近似直線LLは、左端点ELの軌跡を直線近似した直線である。また、近似直線LRは、右端点ERの軌跡を直線近似した直線である。図8に、近似直線LLおよび近似直線LRを示す。図8は有効画像範囲Fの左端に先行車500が撮影された周囲画像を示す図である。制御装置12は、記憶装置に記憶した左端点ELの位置情報に基づいて近似直線LLを算出する。また、制御装置12は、記憶装置に記憶した右端点ERの位置情報に基づいて近似直線LRを算出する。ステップA65の処理を完了すると、制御装置12は処理をステップA66へ進める。
なお、上記では、制御装置12が過去に記憶した左端点ELおよび右端点ERに基づいて、近似直線LLおよび近似直線LRを算出する例について説明したが、制御装置12は、過去の左端点ELおよび右端点ERを記憶することなく、現時点の左端点ELおよび右端点ERに基づいて、近似直線LLおよび近似直線LRを算出しても構わない。例えば、制御装置12は、現時点の左端点ELを通り、先行車500の左側の白線601に平行な直線を近似直線LLとして算出しても構わない。同様に、制御装置12は、現時点の左端点ERを通り、先行車500の左側の白線602に平行な直線を近似直線LRとして算出しても構わない。また、制御装置12は、現時点の左端点ELおよび右端点ERに基づいて、現時点以後の左端点ELおよび右端点ERの位置を従来既知の任意の手法で外挿し、当該位置に基づいて近似直線LLおよび近似直線LRを算出しても構わない。
ステップA66において、制御装置12は、交点NPの位置を算出する。交点NPは、近似直線LLおよび近似直線LRの交点である。制御装置12は、上記の処理で算出した近似直線LLおよび近似直線LRに基づいて交点NPの位置を算出する。ステップA66の処理を完了すると、制御装置12は、処理をステップA68へ進める。
上記ステップA63からステップA66の処理により算出される交点NPは、車両100および先行車500の進行先を示す点である。なお、上記に示した交点NPを算出する処理は一例であり、制御装置12は、周囲画像中における上記のような車両100および先行車500の進行先を示す点を、従来既知の任意の手法で算出して構わない。
ステップA67において、制御装置12は、先行車の中心点CPを交点NPとして設定する。具体的には、制御装置12は、上述ステップA622において算出した中心点CPの位置座標を、交点NPの位置座標として設定する。ステップA67の処理を完了すると、制御装置12は、処理をステップA68へ進める。
上記ステップA64および、ステップA67の処理によれば、制御装置12は、左端点ELおよび右端点ERが記憶していない場合であっても、交点NPの座標を設定することができる。そして、制御装置12は、後述ステップA68およびステップA69の処理において、有効画像範囲FのX方向の補正量、およびY方向の補正量を交点NPの座標に基づいて算出することができる。
ステップA68において、制御装置12は、X方向補正処理のサブルーチンを実行する。以下、図9を参照してX方向補正処理のサブルーチンについて説明する。図9はX方向補正処理のサブルーチンを示すフローチャートの一例である。制御装置12は、X方向補正処理を開始すると、先ずステップA681の処理を実行する。
ステップA681において、制御装置12は、X方向ずれ量ΔXを算出する。X方向ずれ量ΔXは、基準軸Bxから交点軸Nxまでの距離である(図8参照)。基準軸Bxは、後述ステップA684において周囲画像中で定義され、記憶装置に記憶されるY軸方向の軸線である。なお、図8では、現時点における基準軸Bxを基準軸Bx1として示す。交点軸Nxは、交点NPを通るY軸方向の軸線である。制御装置12は、交点NPの位置から交点軸Nxを算出し、予め記憶した基準軸Bxの位置を読み出して、X方向ずれ量ΔXを算出する。具体的には、制御装置12は、基準軸Bxを示すX座標から交点軸Nxを示すX座標を減算した値をX方向ずれ量ΔXの値として算出する。なお、後述ステップA684の処理が未実行である場合、基準軸Bxの位置は、予め任意に定められた初期位置に設定されるものとする。例えば、上記初期位置は、有効画像範囲Fの中心点を通る位置に設定されるものとする。ステップA681の処理を完了すると、制御装置12は、処理をステップA682へ進める。
ステップA682において、制御装置12は、補正係数kおよびX方向ずれ量ΔXに基づいて、X方向補正量XTを算出する。X方向補正量XTは、有効画像範囲F有効画像範囲Fを補正する際に用いるX方向の補正量である。制御装置12は、X方向補正量XTを下式(2)に基づいて算出する。
具体的には、制御装置12は、
XT=k×ΔX …(2)
ステップA682の処理を完了すると、制御装置12は、処理をステップA683へ進める。
ステップA683において、制御装置12は、有効画像範囲FをX方向に補正する。具体的には、制御装置12は、有効画像範囲Fを、X方向補正量XTだけX方向へ移動させる。ステップA683の処理を完了すると、制御装置12は、処理をステップA684へ進める。
ステップA684において、制御装置12は、基準軸Bxを更新する。具体的には、制御装置12は、基準軸Bxの位置を、X方向補正量XTだけX方向へ移動させた位置に更新する。例えば、図8において、更新前の基準軸Bxの位置を基準軸Bx1とすると、更新後の基準軸Bxの位置は基準軸Bx2で示される。ステップA684の処理を完了すると、制御装置12はX方向補正処理のサブルーチンを終了し、図4のフローチャートのステップA69へ処理を進める。
例えば、イメージセンサ11から図8に示す周囲画像を取得している場合、制御装置12は、上記X方向補正処理に基づいて、有効画像範囲Fを図10に示すようにX方向へ移動して補正する。図10は、X方向の補正後の有効画像範囲Fを示す図である。図8に示す補正前の有効画像範囲Fにおいては、先行車500および自車走行車線が、当該範囲中左端に含まれる。そのため、上記X方向補正処理が行われない場合、後述ステップA8の処理で生成される有効画像中において、先行車500および自車走行車線が左端に撮影されて、車両100の左前方に存在する物体を有効画像中に捉えることができない場合がある。一方、上記X方向補正処理によれば、有効画像範囲Fが、交点NPに追従して移動する。そのため、図10に示すように、制御装置12は、補正後の有効画像範囲F中において、先行車500および自車走行車線を、補正前に比べ中央寄りに捉えることができる。したがって、制御装置12は、後述ステップA8の処理において、先行車500および自車走行車線を略中央に撮像された有効画像を生成することができる。このように、上記X方向補正処理によれば、例えば、イメージセンサ11の取り付け状態が、ヨー方向へ傾いていたり、左右方向へずれていたりする場合であっても、有効画像範囲Fを左右方向へ補正して、自車の進行先の物体を略中央に撮像した有効画像を取得することが可能である。
ステップA69において、制御装置12は、Y方向補正処理のサブルーチンを実行する。以下、図11を参照してY方向補正処理のサブルーチンについて説明する。図11はY方向補正処理のサブルーチンを示すフローチャートの一例である。制御装置12は、Y方向補正処理を開始すると、先ずステップA691の処理を実行する。
ステップA691において、制御装置12は、Y方向ずれ量ΔYを算出する。Y方向ずれ量ΔYは、基準軸Byから交点軸Nyまでの距離である。図12において、周囲画像中におけるY方向ずれ量ΔY、基準軸By、および交点軸Nyを図示する。なお、図12は、有効画像範囲Fの下方に先行車500が撮影された周囲画像を示す図である。基準軸Byは、後述ステップA694において周囲画像中で定義され、記憶装置に記憶されるY軸方向の軸線である。なお、図12では、現時点における基準軸Byを基準軸By1として示す。交点軸Nyは、交点NPを通るY軸方向の軸線である。制御装置12は、交点NPの位置から交点軸Nyを算出し、予め記憶した基準軸Byの位置を読み出して、Y方向ずれ量ΔYを算出する。具体的には、制御装置12は、基準軸Byを示すY座標から交点軸Nyを示すY座標を減算した値をY方向ずれ量ΔYの値として算出する。なお、後述ステップA694の処理が未実行である場合、基準軸Byの位置は、予め任意に定められた初期位置に設定されるものとする。例えば、上記初期位置は、有効画像範囲Fの中心点を通る位置に設定されるものとする。ステップA691の処理を完了すると、制御装置12は、処理をステップA692へ進める。
ステップA692において、制御装置12は、補正係数kおよびY方向ずれ量ΔYに基づいて、Y方向補正量YTを算出する。Y方向補正量YTは、有効画像範囲F有効画像範囲Fを補正する際に用いるY方向の補正量である。制御装置12は、Y方向補正量YTを下式(3)に基づいて算出する。
具体的には、制御装置12は、
YT=k×ΔY …(3)
ステップA692の処理を完了すると、制御装置12は、処理をステップA693へ進める。
ステップA693において、制御装置12は、有効画像範囲FをY方向に補正する。具体的には、制御装置12は、有効画像範囲Fを、Y方向補正量YTだけY方向へ移動させる。ステップA693の処理を完了すると、制御装置12は、処理をステップA694へ進める。
例えば、イメージセンサ11から図12に示す周囲画像を取得している場合、制御装置12は、上記Y方向補正処理に基づいて、有効画像範囲Fを図13に示すようにY方向へ移動して補正する。図13は、Y方向の補正後の有効画像範囲Fを示す図である。図8に示す補正前の有効画像範囲Fにおいては、車両前方上方の画像が含まれ、車両100の近傍が当該範囲に含まれない。そのため、上記Y方向補正処理が行われない場合、後述ステップA8の処理で生成される有効画像中において、車両前方上方撮影されて、車両100の近傍に存在する物体を有効画像中に捉えることができない場合がある。一方、上記Y方向補正処理によれば、有効画像範囲Fが、交点NPに追従して移動する。そのため、図13に示すように、制御装置12は、補正後の有効画像範囲F中において、車両100の進行先を、補正前に比べ中央寄りに捉えることができる。したがって、制御装置12は、後述ステップA8の処理において、先行車500および自車走行車線を略中央に撮像された有効画像を生成することができる。このように、上記Y方向補正処理によれば、例えば、イメージセンサ11の取り付け状態が、車両100に対してピッチ方向へ傾いていたり、上下方向へずれている場合であっても、有効画像範囲Fを上下方向へ補正して、自車の進行先の物体を略中央に撮像した有効画像を取得することが可能である。
ステップA694において、制御装置12は、基準軸Byを更新する。具体的には、制御装置12は、基準軸Byの位置を、Y方向補正量YTだけY方向へ移動させた位置に更新する。例えば、図12において、更新前の基準軸Byの位置を基準軸By1とすると、更新後の基準軸Byの位置は基準軸By2で示される。ステップA694の処理を完了すると、制御装置12はY方向補正処理のサブルーチン、および図4の画像範囲補正処理を終了し、処理を図2のステップA8へ進める。
上記画像範囲補正処理によれば、有効画像範囲Fの位置を周囲画像に対して上下方向、および左右方向移動させ、また回転させて補正することができる。
図2の説明に戻り、ステップA7において、制御装置12は、記憶した左端点EL、および右端点ERのデータを初期化する。ステップA7の処理を完了すると、制御装置12は、処理をステップA8へ進める。
先行車500が検出されなくなった場合や、車両100が右左折した場合、車両100の走行環境が変わっている可能性がある。したがって、上記のような場合、次回画像範囲補正処理を行う際には、過去の左端点EL、および右端点ERの情報を考慮せずに近似直線LLおよび近似直線LRを算出した方が、交点NPを正確に算出することができる。上記ステップA7の処理によれば、先行車500が検出されなくなった場合や、車両100がカーブ走行中の場合、記憶した左端点EL、および右端点ERが一旦初期化されるため、交点NPを適切に算出することができる。
ステップA8において、制御装置12は、有効画像を出力する。具体的には、制御装置12は、周囲画像のうち、有効画像範囲Fに含まれる画像を有効画像として取得し、車両制御装置23へ出力する。車両制御装置23は、上述の通り、受信した有効画像に基づいて車両100を制御する。なお、制御装置12は、車両制御装置23以外の装置に有効画像を出力しても構わない。例えば、車両100に画像を表示する表示装置が備えられている場合、当該表示装置へ有効画像を出力して、当該有効画像を表示させても構わない。ステップA8の処理を完了すると、制御装置12は処理をステップA9へ進める。
ステップA9において、制御装置12は、終了処理が実行されたか否かを判定する。具体的には、制御装置12は、例えば、車両100のイグニッション電源がオフに設定されるなど、撮像装置1の動作を終了する処理する操作がユーザーにより実行されたか否かを判定する。制御装置12は、終了処理が実行されたと判定した場合、図2のフローチャートの処理を終了する。一方、制御装置12は、終了処理が実行されていないと判定した場合、処理をステップA1へ戻す。
以上より、本実施形態に係る撮像装置1によれば、撮像した画像中における先行車の位置に基づいて、有効画像範囲Fを補正することができる。したがって、車両100の進行先に存在する物体を撮像範囲内に収めることができる。
(第2の実施形態)
上記実施形態では、制御装置12が画像範囲補正処理において、角度補正量θT、X方向補正量XT、およびY方向補正量YTを、各時点における補正係数kに基づいて各々算出する例について説明したが、制御装置12は、過去に算出した補正係数kの値を学習して算出した学習係数に基づいて、角度補正量θT、X方向補正量XT、およびY方向補正量YTを算出しても構わない。以下、第2の実施形態に係る、撮像装置について説明する。
なお、第2の実施形態に係る撮像装置の構成は、上記第1の実施形態に係る撮像装置と同様であるので、詳細な説明を省略する。また、第2の実施形態に係る制御装置12の処理は、ステップA6の画像範囲補正処理を除いた、ステップA1乃至ステップA5の処理およびステップA7乃至ステップA9の処理は上述第1の実施形態と同様である。したがって以下では、第2の実施形態において制御装置12が実行する画像範囲補正処理について説明し、ステップA1乃至ステップA5の処理およびステップA7乃至ステップA9の処理については説明を省略する。図14は、第2の実施形態に係る画像範囲補正処理を示すフローチャートの一例である。制御装置12は、図14のフローチャートの処理を開始すると先ずステップB60の処理を実行する。
ステップB60において、制御装置12は、上記ステップA60と同様にして補正係数kを算出する。ステップB60の処理を完了すると、制御装置12は、処理をステップB61へ進める。
ステップB61において、制御装置12は、学習係数kLを算出する。具体的には、先ず、制御装置12は、係数加算値kAに補正係数kを加算する。係数加算値kAは、記憶装置に記憶される数値である。例えば、係数加算値kAの初期値は0に予め設定される。上記係数加算値kAに補正係数kを加算する処理が繰り返されることにより、係数加算値kAは、過去に算出した補正係数kを合算した値となる。そして、制御装置12は、学習係数kLを下式(4)に基づいて算出する。
kL=α×k/kA …(4)
なお、式(4)中において、αは、予め定められた任意の定数を示し、補正係数kは上述図5に示す係数テーブルに基づいて算出された係数である。上記のようにして算出された学習係数kLは、過去の補正係数kの値に反比例し、現在の補正係数kの値に比例する数値となる。ステップB61の処理を完了すると、制御装置12は、処理をステップB62へ進める。
ステップB62において、制御装置12は、上記ステップA61と同様にして先行車500の輪郭形状を取得する。ステップB62の処理を完了すると、処理をステップB63へ進める。
ステップB63において、制御装置12は、図15に示すθ方向補正処理を実行する。図15は、第2の実施形態に係るθ方向補正処理のサブルーチンを示すフローチャートの一例を示す図である。
制御装置12は、図15のフローチャートの処理を開始すると、ステップB631において対称軸ASを、ステップB632において角度ずれ量Δθを、ステップB633において中心点CPを、順に各々上記ステップA621乃至ステップA623の処理と同様にして算出する。そして、ステップB633の処理を完了すると制御装置12は、処理をステップB634へ進める。
ステップB634において、制御装置12は、学習係数kLおよび角度ずれ量Δθに基づいて角度補正量θTを算出する。制御装置12は、角度補正量θTを下式(5)に基づいて算出する。
θT=kL×Δθ …(5)
ステップB634の処理を完了すると、制御装置12は、処理をステップB635へ進める。
制御装置12は、ステップB635において、上記ステップA625と同様にして有効画像範囲Fを回転して補正する。そして、制御装置12は、ステップB636において、上記ステップA626と同様にして基準軸Baを更新する。ステップB636の処理を完了すると、制御装置12は、処理を図14のステップB64へ進める。
制御装置12は、ステップB65乃至ステップB68の処理において、上記ステップA64乃至ステップA67の処理と同様にして、交点NPを算出し、処理をステップB69へ進める。
ステップB69において、制御装置12は、図16に示すX方向補正処理を実行する。図16は、第2の実施形態に係るX方向補正処理のサブルーチンを示すフローチャートの一例を示す図である。
制御装置12は、図16のフローチャートの処理を開始すると、ステップB691においてX方向ずれ量ΔXを、上記ステップA681の処理と同様にして算出する。そして、ステップB691の処理を完了すると制御装置12は、処理をステップB692へ進める。
ステップB692において、制御装置12は、学習係数kLおよびX方向ずれ量ΔXに基づいてX方向補正量XTを算出する。制御装置12は、X方向補正量XTを下式(5)に基づいて算出する。
XT=kL×ΔX …(6)
ステップB692の処理を完了すると、制御装置12は、処理をステップB693へ進める。
制御装置12は、ステップB693において、上記ステップA683と同様にして有効画像範囲FをX方向に移動して補正した後、ステップB694において、上記ステップA684と同様にして基準軸Bxを更新する。ステップB694の処理を完了すると、制御装置12は、X方向補正処理を完了し、処理を図14のフローチャートのステップB70へ進める。
ステップB70において、制御装置12は、図17に示すY方向補正処理を実行する。図17は、第2の実施形態に係るY方向補正処理のサブルーチンを示すフローチャートの一例を示す図である。
制御装置12は、図16のフローチャートの処理を開始すると、ステップB701においてY方向ずれ量ΔYを、上記ステップA691の処理と同様にして算出する。そして、ステップB701の処理を完了すると制御装置12は、処理をステップB702へ進める。
ステップB702において、制御装置12は、学習係数kLおよびY方向ずれ量ΔYに基づいてY方向補正量YTを算出する。制御装置12は、Y方向補正量YTを下式(7)に基づいて算出する。
YT=kL×ΔY …(7)
ステップB702の処理を完了すると、制御装置12は、処理をステップB703へ進める。
制御装置12は、ステップB703において、上記ステップA693と同様にして有効画像範囲FをY方向に移動して補正した後、ステップB704において、上記ステップA694と同様にして基準軸Byを更新する。ステップB704の処理を完了すると、制御装置12は、Y方向補正処理を完了し、図14に示す画像範囲補正処理を完了する。
上記第2の実施形態に係る画像範囲補正処理によれば、現時点の補正係数kを、現在以前に算出した補正係数kの合算値kAで除算して求めた学習補正係数kLに基づいて各補正量(角度補正量θT、X方向補正量XT、Y方向補正量YT)を算出することができる。したがって、例えば、運転者の操作により自車速度Vおよびヨーレートωが大きく変動して、補正係数kが大きく変化した場合であっても、補正量の値の変化量を、第1の実施形態のように当該時点の補正係数kの値のみに基づいて補正量を算出した場合に比べ、小さくすることができる。そのため、有効画像範囲Fを急激に移動および回転させることなく、当該範囲を徐々に移動させて補正することができる。このように、有効画像範囲Fを徐々に移動させて補正することにより、有効画像中において撮像される物体の位置が、当該画像中で急激に移動することを防ぐことができる。
なお、上記第1の実施形態および第2の実施形態では、制御装置12が周囲画像中で設定された有効画像範囲Fを移動または回転して補正することによって、有効画像の撮像範囲を変更する例について示したが、制御装置12は、イメージセンサ11の向きを物理的に変更して、有効画像の撮像範囲を変更しても構わない。
この場合、イメージセンサ11には、その向きを変更するアクチュエータなどの移動機構が備えられる。そして、制御装置12は、有効画像範囲Fを移動させる代わりに、当該アクチュエータを制御してイメージセンサ11の向きを変更する処理を実行する。具体的には、ステップA625において、制御装置12は、角度補正量θTだけイメージセンサ11を、撮像面を前面として、ロール方向に回動させる。また、ステップA683において、制御装置12は、イメージセンサ11を、ヨー方向にX方向補正量XTに応じた角度だけ回動させる。また、ステップA693において、制御装置12は、イメージセンサ11を、ピッチ方向にY方向補正量YTに応じた角度だけ回動させる。
上記のようにイメージセンサ11の向きを変更して周囲画像の撮像範囲を補正する場合、制御装置12は、周囲画像全体の撮像範囲が変更されるため、周囲画像中で有効画像範囲Fを回転および移動させることなく、補正された有効画像を出力できる。また、上記のようにイメージセンサ11の向きを変更して撮像範囲を補正する場合、制御装置12は、有効画像範囲Fを定義することなく、周囲画像を有効画像として出力することも可能である。この場合、ステップA8等の処理を省略して、制御装置12の処理量を低減し、また、処理に必要とされる記憶領域を小さくすることができる。
また、上記第1の実施形態および第2の実施形態では、X方向補正処理およびY方向補正処理において、制御装置12が交点NPの位置に合わせて有効画像範囲Fを移動させて、当該有効画像範囲Fを補正する例について示したが、制御装置12は、先行車500の中心点CPの位置に合わせて有効画像範囲Fの位置を移動させて、当該有効画像範囲Fを補正しても構わない。
具体的には、制御装置12は、基準軸Bxから中心点CPまでの距離をX方向ずれ量ΔXとして算出し、基準軸Byから中心点CPまでの距離をY方向ずれ量ΔYとして算出して構わない。このようにして算出されたX方向ずれ量ΔX、およびY方向ずれ量ΔYに基づいて補正されることにより、有効画像範囲Fの位置は、中心点CPに追従して移動する。すなわち、制御装置12は、先行車を略中心に撮影した有効画像を常に出力することができる。
また、上記第1の実施形態および第2の実施形態では、θ方向補正処理において、制御装置12が中心点CPを中心に有効画像範囲Fを回転移動させて、当該有効画像範囲Fを補正する例について示したが、制御装置12は、先に交点NPの位置を算出し、交点NPを中心に有効画像範囲Fの位置を回転移動させて、当該有効画像範囲Fを補正しても構わない。
また、上記第1の実施形態および第2の実施形態では、撮像装置1が車両100に搭載される例について説明したが、撮像装置1は、例えば、鉄道車両等の他の移動体に搭載されても構わない。
本発明に係る撮像装置は、物体等を適切な状態で撮像した画像を撮像可能とする撮像装置などとして有用である。
1 撮像装置
11 イメージセンサ
12 制御装置
21 車速計
22 ヨーレートセンサ
23 車両制御装置
100 車両
500 先行車
601、602 白線

Claims (13)

  1. 移動体に搭載され、当該移動体の周囲を撮像した撮像画像を取得する撮像手段と、
    前記撮像画像中において、前記移動体と同一軌道上を移動する他の移動体を示す補正基準画像を検出する補正基準画像検出手段と、
    前記撮像画像における少なくとも一部分の画像領域を出力範囲として設定する出力範囲設定手段と、
    前記出力範囲内の出力画像を出力する出力手段とを備え、
    前記出力範囲設定手段は、
    前記出力範囲の移動および回転の少なくとも一方を行って補正するための補正量を、前記補正基準画像に基づいて算出する補正量算出手段と、
    前記補正量に基づいて前記出力範囲の移動および回転の少なくとも一方を行って、当該出力範囲を補正する出力範囲補正手段とを含む、撮像装置。
  2. 前記補正量算出手段は、
    前記補正基準画像として撮像された前記他の移動体に対して縦方向に設けられる軸であり、当該軸を中心として当該他の移動体の左右が対称となる対称軸を検出する対称軸検出手段と、
    予め定められた前記出力範囲の基準軸と、前記対称軸とが成す角度を算出する角度算出手段と、
    前記出力範囲を回転させて補正する場合の回転方向の前記補正量を、少なくとも前記角度に基づいて算出する回転補正量算出手段とを含み、
    前記出力範囲補正手段は、前記出力範囲を、前記回転方向の補正量に応じて回転させて補正する、請求項1に記載の撮像装置。
  3. 前記補正量算出手段は、
    前記撮像画像中において、前記他の移動体が無限遠方へ進行した場合の到達点を算出する到達点算出手段と、
    予め定められた前記出力範囲の縦方向の基準軸から前記到達点までの距離に基づいて、前記出力範囲を前記撮像画像に対して左右方向に移動する前記補正量を算出する左右補正量算出手段とを含み、
    前記出力範囲補正手段は、前記出力範囲を、前記左右方向の補正量に応じて前記撮像画像に対して左右方向へ移動させて補正する、請求項1に記載の撮像装置。
  4. 前記補正量算出手段は、
    前記撮像画像中において、前記補正基準画像の中心点を検出する中心点検出手段と、
    予め定められた前記出力範囲の縦方向の基準軸から前記中心点までの距離に基づいて、前記出力範囲を前記撮像画像に対して左右方向に移動する前記補正量を算出する左右補正量算出手段とを含み
    前記出力範囲補正手段は、前記出力範囲を、前記左右方向の補正量に応じて前記撮像画像に対して左右方向へ移動させて補正する、請求項1に記載の撮像装置。
  5. 前記補正量算出手段は、
    前記撮像画像中において、前記他の移動体が無限遠方へ進行した場合の到達点を算出する到達点算出手段と、
    予め定められた前記出力範囲の縦方向の基準軸から前記到達点までの距離に基づいて、前記出力範囲を前記撮像画像に対して上下方向に移動する前記補正量を算出する上下補正量算出手段とを含み
    前記出力範囲補正手段は、前記出力範囲を、前記上下方向の補正量に応じて前記撮像画像に対して上下方向へ移動させて補正する、請求項1に記載の撮像装置。
  6. 前記補正量算出手段は、
    前記撮像画像中において、前記補正基準画像の中心点を検出する中心点検出手段と、
    予め定められた前記出力範囲の縦方向の基準軸から前記中心点までの距離に基づいて、前記出力範囲を前記撮像画像に対して上下方向に移動する前記補正量を算出する上下補正量算出手段とを含み
    前記出力範囲補正手段は、前記出力範囲を、前記上下方向の補正量に応じて上下方向へ移動させて前記撮像画像に対して補正する、請求項1に記載の撮像装置。
  7. 前記補正量算出手段は、
    前記撮像画像中において、前記補正基準画像の左端点および当該補正基準画像の右端点をそれぞれ検出する端部検出手段と、
    前記左端点および前記右端点をそれぞれ記憶する端部記憶手段とを、さらに含み、
    前記到達点算出手段は、記憶された前記左端点の軌跡を直線近似して成る第1の直線と、記憶された前記右端点の軌跡を直線近似して成る第2の直線との交点を前記到達点として算出する、請求項3または請求項5に記載の撮像装置。
  8. 前記移動体のヨーレートを取得するヨーレート取得手段と、
    前記移動体の速度を取得する速度取得手段とを、さらに備え、
    前記出力範囲設定手段は、前記補正量の算出に用いる係数を、前記速度が小さいほど前記係数が小さくなるよう、また、前記ヨーレートが大きいほど前記係数が小さくなるよう算出する係数算出手段を含み、
    前記補正量算出手段は、前記係数が小さい程、前記補正量を減少させて当該補正量を算出する補正量調整手段を含む、請求項1に記載の撮像装置。
  9. 前記補正量調整手段は、前記係数の変化量が大きい場合、前記補正量の減少幅を大きくして当該補正量を算出する、請求項8に記載の撮像装置。
  10. 前記移動体のヨーレートを取得するヨーレート取得手段を、さらに備え、
    前記補正量算出手段は、前記ヨーレートが予め定められた閾値以下である場合にのみ、前記補正量を算出する、請求項1に記載の撮像装置。
  11. 前記移動体の速度を取得する速度取得手段を、さらに備え、
    前記補正量算出手段は、前記速度が予め定められた閾値以上である場合にのみ、前記補正量を算出する、請求項1に記載の撮像装置。
  12. 前記移動体は、車両であり、
    前記補正基準画像検出手段は、前記撮像装置が搭載される車両と同一車線上を走行する先行車を示す補正基準画像を検出する、請求項1に記載の撮像装置。
  13. 移動体に搭載され、当該移動体の周囲を撮像した撮像画像を取得する撮像手段と、
    前記撮像画像中において、前記移動体と同一軌道上を移動する他の移動体を示す補正基準画像を検出する補正基準画像検出手段と、
    前記撮像画像の撮像範囲の移動および回転の少なくとも一方を行って補正するための補正量を、前記補正基準画像に基づいて算出する補正量算出手段と、
    前記撮像手段が撮像する方向を前記補正量に基づいて変化させることによって前記撮像範囲の移動および回転の少なくとも一方を行って、当該撮像範囲を補正する撮像範囲補正手段と、
    前記撮像画像における少なくとも一部分の画像領域を出力範囲として設定する出力範囲設定手段と、
    前記出力範囲内の出力画像を出力する出力手段とを備える、撮像装置。
JP2009015562A 2009-01-27 2009-01-27 撮像装置 Pending JP2010177780A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009015562A JP2010177780A (ja) 2009-01-27 2009-01-27 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009015562A JP2010177780A (ja) 2009-01-27 2009-01-27 撮像装置

Publications (1)

Publication Number Publication Date
JP2010177780A true JP2010177780A (ja) 2010-08-12

Family

ID=42708336

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009015562A Pending JP2010177780A (ja) 2009-01-27 2009-01-27 撮像装置

Country Status (1)

Country Link
JP (1) JP2010177780A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9245184B2 (en) 2012-04-27 2016-01-26 Megachips Corporation Object detection apparatus and storage medium
US9330318B2 (en) 2012-04-26 2016-05-03 Megachips Corporation Object detection apparatus and storage medium
US9514545B2 (en) 2012-03-28 2016-12-06 Megachips Corporation Object detection apparatus and storage medium
JP2019140514A (ja) * 2018-02-09 2019-08-22 オリンパス株式会社 管内検査システム
DE112021006389T5 (de) 2021-03-01 2023-09-28 Hitachi Astemo, Ltd. Bildverarbeitungsvorrichtung

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9514545B2 (en) 2012-03-28 2016-12-06 Megachips Corporation Object detection apparatus and storage medium
US9330318B2 (en) 2012-04-26 2016-05-03 Megachips Corporation Object detection apparatus and storage medium
US9245184B2 (en) 2012-04-27 2016-01-26 Megachips Corporation Object detection apparatus and storage medium
JP2019140514A (ja) * 2018-02-09 2019-08-22 オリンパス株式会社 管内検査システム
DE112021006389T5 (de) 2021-03-01 2023-09-28 Hitachi Astemo, Ltd. Bildverarbeitungsvorrichtung

Similar Documents

Publication Publication Date Title
JP5820787B2 (ja) 画像処理装置、及びプログラム
JP6486045B2 (ja) 車載カメラのオンライン較正のためのシステム、車両及び方法
US8401714B2 (en) Apparatus for supporting drive of mobile object based on target locus thereof
JP2010177780A (ja) 撮像装置
US20120182426A1 (en) Vehicle-surroundings monitoring device
US20190033082A1 (en) Vehicle Position Estimation Device, Vehicle Position Estimation Method
JP6138881B2 (ja) 操舵支援制御装置
JP2007290557A (ja) 駐車支援装置及び駐車支援方法
JP7096053B2 (ja) 車両の車両カメラを較正するための方法および装置
JP2004354236A (ja) ステレオカメラ支持装置およびステレオカメラ支持方法ならびにステレオカメラシステム
US11747833B2 (en) Method and device for estimating distance to target, and unmanned aerial vehicle
CN109923028A (zh) 中立点检测装置以及转向操纵控制系统
JP2009025901A (ja) 車載画像処理装置
BR112019004631B1 (pt) Aparelho e método de assistência de estacionamento
CN106794798A (zh) 图像生成装置以及图像生成方法
WO2019156072A1 (ja) 姿勢推定装置
CN106595570A (zh) 车载单目摄像头与六轴传感器结合测距系统及其测距方法
JP5910180B2 (ja) 移動物体位置姿勢推定装置及び方法
KR20200070761A (ko) 선박용 장애물 거리측정 시스템 및 그 방법
WO2017010268A1 (ja) 推定装置及び推定プログラム
JP2002331849A (ja) 運転行動意図検出装置
JP2009237938A (ja) 運転支援装置および運転支援システム
CN206430715U (zh) 车载单目摄像头与六轴传感器结合测距系统
JP5098981B2 (ja) 顔部位検出装置
JP5272431B2 (ja) 対象物測距装置及びプログラム