JP4128991B2 - 車線認識画像処理装置および車線認識画像処理方法 - Google Patents

車線認識画像処理装置および車線認識画像処理方法 Download PDF

Info

Publication number
JP4128991B2
JP4128991B2 JP2004286312A JP2004286312A JP4128991B2 JP 4128991 B2 JP4128991 B2 JP 4128991B2 JP 2004286312 A JP2004286312 A JP 2004286312A JP 2004286312 A JP2004286312 A JP 2004286312A JP 4128991 B2 JP4128991 B2 JP 4128991B2
Authority
JP
Japan
Prior art keywords
lane marking
lane
aberration
point
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004286312A
Other languages
English (en)
Other versions
JP2006099541A (ja
Inventor
貴幸 山本
善行 藤井
一樹 阪田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2004286312A priority Critical patent/JP4128991B2/ja
Publication of JP2006099541A publication Critical patent/JP2006099541A/ja
Application granted granted Critical
Publication of JP4128991B2 publication Critical patent/JP4128991B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、自動車の予防安全を目的とした車線逸脱警報システム(LDWS:LaneDeparture Warning System)や、運転者の運転負荷軽減を目的とした車線維持制御システム(LKS:LaneKeep System)などに用いられ、車線内における自車両横位置情報を提供する車線認識画像処理装置および車線認識画像処理方法に関するものである。
近年、車載用のディスプレイ装置の普及やカメラなどの映像機器の低価格化に伴って、カメラにより車両の周辺を監視することによって安全運転を支援する装置が実用化され、普及してきている。
例えば特開2001−339716号公報には、車両に設置された複数のカメラで撮影された入力画像を表示する車両周辺監視装置であって、入力画像と歪み補正(収差補正)画像の対応関係を表す座標変換テーブルを記憶する座標変換テーブル記憶手段と、歪み補正画像と合成画像の対応関係を逐次計算して合成画像を生成する画像合成手段と、合成画像を生成するために必要となる仮想視点位置に関するパラメータを画像合成手段に供給する視点変換用パラメータ供給手段を有した車両周辺監視装置が開示されている。
そして、この車両周辺監視装置によれば、「視点位置をダイナミックに変更して、運転状況に応じて、最適な合成画像を車内の表示装置に表示することができる」ことが記載されている。
即ち、特開2001−339716号公報には、「入力画像と歪み補正画像との対応関係を表す座標変換テーブルを有し、複数のカメラからの歪み補正画像を一つの合成画像として、運転者に呈示する」車両周辺監視装置が開示されている。
また、特開平08−305841号公報には、入力部(魚眼レンズなどの広角レンズを搭載したITVカメラ)と、この入力部より入力された歪曲収差を持つ画像をデジタル信号情報に変換する変換部(イメージスキャナなど)と、その画像の全範囲もしくは指定した任意の範囲について歪曲収差のない画像へ補正する補正部(画像処理装置)と、補正された画像情報を表示する表示部を有した歪曲収差画像補正表示装置が開示されている。
即ち、特開平08−305841号公報には、「歪曲収差をもつ画像をデジタル信号情報に変換し、その画像の全範囲もしくは指定した任意の範囲について歪曲収差のない画像へ補正する歪曲収差画像補正表示装置」が開示されている。
車線認識画像処理装置とは、車線内における自車横位置情報(例えば、レーマーキングに対する自車の位置情報など)を提供することを目的とするものであり、従来の車線認識画像処理装置では、上述した特開2001−339716号公報あるいは特開平08−305841号公報などに開示されているような画像合成技術や歪曲収差画像補正技術などが用いられる。
従来の車線認識画像処理装置は、その車線認識画像処理において、カメラのレンズ系の歪曲収差によりレーンマーキングが本来あるべき位置からずれた位置に結像するために、レーンマーキング位置を基にして得られる自車横位置および道路推定曲率半径には誤差が発生する。
そのため、例えば、レーンマーキングから車線内側50cmの地点で車線逸脱警報を行おうとする場合に、自車両の絶対的な位置がずれる。
従って、従来の車線認識画像処理装置では、システムの要求仕様(例えば、レーンマーキング手前の一定距離内で車線逸脱警報を発生させるという要求仕様)を満足できない恐れがある。
さらに、車線維持制御システム(LKS)において、車線中央からのずれ量に応じて車線維持のためのステアリング戻しトルク制御を行う場合、自車横位置誤差のために車両の位置制御に不具合が生じる恐れがある。
また、数学的モデル式より得られる「道路の推定曲率半径の演算結果」にも誤差が含まれるため、前方の道路曲率半径に基づいて車線維持制御を行う場合、自車両の位置制御に不具合が生じるおそれがある。
これらの誤差発生の問題は、画像全体あるいは画像の一部の歪曲収差補正を行うことで解消される。
しかしながら、そのためには画像処理装置内に補正された画像を格納する画像メモリを搭載しなければならず、また、座標変換にかかる処理時間も膨大となるため、ハードウェア、ソフトウェアともに負荷が大きい。
座標変換処理において、ソフトウェアの負荷を軽減し、かつ画像処理のリアルタイム性を確保するには、専用ハードウェア(画像処理専用チップ)が必要となり、装置の小型化、低価格化の障害となる。
ハードウェア、ソフトウェアの負荷を抑えて、専用ハードウェア(画像処理専用チップ)を用いた場合と同様の効果を得るためには、レーンマーキング候補点のみを収差補正した座標に変換する方法が挙げられる。
しかしながら、この場合、車線認識画像処理装置がレーンマーキング候補点の集合について数学的モデル式を導出し、数学的モデル式を元に次回の探索基準点を設定するという方法を用いていると、探索基準点が画像上のレーンマーキング位置とずれるという問題が生じる。
特開2001−339716号公報(図1、段落0024) 特開2001−339716号公報(図1、段落0006)
以上のように、車線逸脱警報システム(LDWS)や車線維持制御システム(LKS)などに用いられる従来の車線認識画像処理装置は、カメラのレンズ系の歪曲収差によってレーンマーキングが本来あるべき位置からずれた位置に結像するため、レーンマーキング位置を基にして得られる自車横位置に誤差が発生するので、レーンマーキングに対して精度よく車両の位置を制御することができない。
なお、この誤差発生に起因する問題点は、カメラが撮影する画像全体あるいは画像の一部の歪曲収差補正を行うことで解消される。
しかしながら、そのためには、画像処理装置内に補正された画像を格納する画像メモリを搭載しなければならない。
また、従来の車線認識画像処理装置では、座標変換に要する処理時間も膨大となる。
従って、ソフトウェアの負荷を軽減し、かつ画像処理のリアルタイム性を確保するためには専用ハードウェア(画像処理専用チップ)が必要となり、装置の小型化、低価格化が図れないという問題点がある。
また、ハードウェア、ソフトウェアの負荷を抑えるために、レーンマーキング候補点の集合について数学的モデル式を導出し、この導出された数学的モデル式を元に次回の探索基準点を設定するという方法を用いると、探索基準点が画像上のレーンマーキング位置とずれるという問題が生じる。
この発明は、このように問題点を解決するためになされたものであり、ハードウエアおよびソフトウエアの負荷を大幅に低減することができ、装置の小型化、低価格化が図れると共に、レーンマーキング位置に対する高精度な車両の位置制御に適した車線認識画像処理装置および車線認識画像処理を提供することを目的とする。
この発明に係る車線認識画像処理装置は、走行方向前方車線のレーンマーキングを撮影する撮影手段と、上記撮影手段により得られる画像を一時記憶する画像記憶手段と、上記画像記憶手段に記憶された画像に対してレーンマーキング探索範囲を設定するレーンマーキング探索ウィンドウ設定手段と、上記レーンマーキング探索ウィンドウ設定手段により設定されたレーンマーキング探索範囲からレーンマーキング候補点を抽出するレーンマーキング候補点抽出手段と、上記レーンマーキング候補点抽出手段により抽出されたレーンマーキング候補点の座標を収差補正した座標に変換するレーンマーキング候補点収差補正手段と、上記レーンマーキング候補点収差補正手段により変換されたレーンマーキング候補点の集合を数学的モデル式で近似して、レーンマーキング数学的モデル式を導出する車線認識手段と、上記車線認識手段により導出されたレーンマーキング数学的モデル式から得られる車線認識結果を出力する車線認識結果出力手段とを備えるものである。
また、この発明に係る車線認識画像処理方法は、走行方向前方車線のレーンマーキングを撮影する撮影ステップと、上記撮影ステップにより得られる画像を一時記憶する画像記憶ステップと、上記画像記憶ステップで記憶された画像に対してレーンマーキング探索範囲を設定するレーンマーキング探索ウィンドウ設定ステップと、上記レーンマーキング探索ウィンドウ設定ステップで設定されたレーンマーキング探索範囲からレーンマーキング候補点を抽出するレーンマーキング候補点抽出ステップと、上記レーンマーキング候補点抽出ステップで抽出されたレーンマーキング候補点の座標を収差補正した座標に変換するレーンマーキング候補点収差補正ステップと、上記レーンマーキング候補点収差補正ステップで変換されたレーンマーキング候補点の集合を数学的モデル式で近似して、レーンマーキング数学的モデル式を導出する車線認識ステップと、上記車線認識ステップで導出されたレーンマーキング数学的モデル式から得られる車線認識結果を出力する車線認識結果出力ステップとを有するものである。
この発明による車線認識画像処理装置あるいは車線認識画像処理方法によれば、画像に対して収差補正を施す必要はなく、レーマーキング候補点座標のみを収差補正した座標に変換するだけで済むので、ハードウエアおよびソフトウエアの負荷を大幅に低減することが可能となり、装置の小型化、低価格化が図れる。
さらに、歪曲収差による精度低下をなくすことができるので、レーンマーキング位置に対する高精度な車両の位置制御が行える。
以下、図面に基づいて本発明の一実施の形態について説明する。
なお、各図間において、同一符合は、同一あるいは相当のものを表す。
実施の形態1.
図1は、本発明の実施の形態1による車線認識画像処理装置の構成を示すブロック図である。
なお、図1に示す各手段は、実施の形態1による車線認識画像処理装置におけるソフトウェア処理の各ステップも表しているものとする。
図1に基づいて、実施の形態1による車線認識画像処理装置の各手段の動作(処理)について説明する。
撮影手段100は、走行する車両の前方(例えば、走行方向前方車線のレーンマーキング)を撮影するカメラ1(図2参照)を表している。
図2は、撮影手段100であるカメラ1を車両へ取り付けた状態示す図である。
カメラ1は、図2に示すように、車両2のフロントウィンドウ内側などに取り付けられ、車両前方を撮影する。
図3は、車両前方を撮影したときのカメラ1の出力画像であり、カメラ1が撮影して得られた画像は、図3に示すように自車線の左レーンマーキング3および右レーンマーキング4が水平画角内に収まっているものとする。
画像記憶手段200は、画像メモリあるいはマイコンの内蔵RAMなどのメモリで構成され、図3に示すような画像をメモリに取り込み、記憶する。
図4は、カメラ1の出力画像に対してレーンマーキング探索ラインおよびレーンマーキング探索ウィンドウを重畳した状態を示す図である。
レーンマーキング探索ウィンドウ設定手段300は、画像記憶手段200(即ち、カメラ1)が取り込んだ画像に対して、図4に示すように探索走査線であるレーンマーキング探索ライン11(V、V、・・・VN−1)上でレーンマーキング候補点を探索するための水平方向走査範囲、即ち、左レーンマーキング探索ウィンドウ5および右レーンマーキング探索ウィンドウ6をN個ずつ設定する。
左右レーンマーキング探索ウィンドウ5、6は、前回の画像処理におけるレーンマーキング数学的モデル式により算出したレーンマーキング探索ライン上の位置(モデル点)を設定基準位置とする。
左右レーンマーキング探索ウィンドウ5、6のサイズは、前回画像と今回画像の時間差で生じるレーンマーキングの最大移動量に合わせて設定する。
即ち、処理周期が長いほど、レーンマーキング探索ウィンドウサイズは大きくなる。
レーンマーキング候補点抽出手段400は、左右レーンマーキング探索ウィンドウ5、6内を水平方向に走査し、画像記憶手段200のメモリより読み出した原画像輝度分布に対して、一次元画像フィルタ処理を施し、フィルタ出力結果を得る。
図5は、レーンマーキング探索ライン上のレーンマーキング候補点抽出手順を説明するための図である。
一次元画像フィルタ処理出力結果を閾値により二値化して、図5に示すような○で表すレーンマーキング候補点9、10を検出する。
この一連の処理を、図5に示すように、V(n=0、1、・・・、N−1)のN本設定したレーンマーキング探索ライン11に対して実施し、左右レーンマーキング3、4に沿った左右レーンマーキング候補点9、10の集合を得る。
ここでは、車線内側をレーンマーキング候補点の抽出位置としているが、レーンマーキングの中央あるいは左側としてもよく、車線内側に限定するものではない。
レーンマーキング候補点収差補正手段500は、レーンマーキング候補点9、10の集合に対して、収差補正を行う。
図6は、樽型レンズによって撮影した画像が歪曲中心に向かって収縮する様子を示す図である。
カメラ1のレンズが樽型であるとすると、歪曲中心に向かって歪曲し、図6に示すように格子上の点がドットの位置にずれて像を結ぶ。
つまり、格子状の対象を撮影したとき、画像周辺部は直線の格子には見えず、変形して歪んで見えることになる。
図7は、レーンマーキング候補点が収差補正された位置に変換されることを説明するための図である。
図7に示すように、レーンマーキング候補点9、10を収差補正すると、9a、10aの位置に座標変換される。この補正量は、座標変換テーブルとして格納しておく。
この収差補正テーブル(即ち、座標変換テーブル)は、図8に示すように、歪曲中心から外側へ拡大させる補正量となり、候補点座標(H detect, V detect)を指定すると補正座標(H true, V true)が得られるように構成する。
図9は、レーンマーキング探索ライン上のモデル点が原画像のレーンマーキング位置とずれることを説明するための図である。
車線認識手段600aにおいて、レーンマーキング候補9a、10aの集合を数学的モデル式、例えば、2次式で近似すると、図9に示すように車線を表すレーンマーキング数学的モデル式7a、8aが得られる。
なお、図9において、13aは収差補正された左レーンマーキングモデル点、14aは収差補正された右レーンマーキングモデル点を表している。
車線認識結果出力手段700は、車線認識結果、即ち、レーンマーキング数学的モデル式7a、8aより得られる自車横位置、道路曲率半径あるいはレーンマーキング数学的モデル式の係数そのものなどの情報を装置外部へ送信出力する。
車線認識結果出力手段700での処理が終われば、撮影手段100のステップに戻り、
次の一連の処理(即ち、上述した撮影手段100〜車線認識結果出力手段700での処理)が可能となる。
以上が、図1に示した実施の形態1による車線認識画像処理装置の全体の動作(処理)フローである。
次に、レーンマーキング候補点座標を収差補正座標へ変換する際の手順について説明しておく。
図10は、候補点座標が収差補正された座標に変換される様子を示す図であり、まず、図10に示すように、レーンマーキング候補点座標( H detect, V detect )について、歪曲中心からの距離即ち収差像高Xを求める。
収差像高Xは、水平画素サイズをp[mm/画素]、垂直画素サイズをq[mm/画素]とすると、下記の式(1)で表される。
X=[{(H detect−H center)・p}+{(V detect−Vcenter)・q}1/2
…(1)
収差像高Xと、レンズ設計値より導出した収差補正倍率Yとの関係式を二次近似式で表したものが下記の式(2)である。
Y=aX+bX+c …(2)
式(2)より任意の座標について収差補正倍率が求められ、収差補正座標(H true, V true)は、歪曲中心を基準点として下記の式(3)、式(4)で表される。
H true = H center + Y・(Hdetect−H center) …(3)
V true = V center + Y・(Vdetect−V center) …(4)
上記手順により、各(H,V)座標について収差補正座標(H true, V true)への座標変換テーブルを用意しておく。
以上説明したように、本実施の形態による車線認識画像処理装置は、走行方向前方車線のレーンマーキングを撮影する撮影手段100と、撮影手段100により得られる画像を一時記憶する画像記憶手段200と、画像記憶手段200に記憶された画像に対してレーンマーキング探索範囲を設定するレーンマーキング探索ウィンドウ設定手段300と、レーンマーキング探索ウィンドウ設定手段300により設定されたレーンマーキング探索範囲からレーンマーキング候補点を抽出するレーンマーキング候補点抽出手段400と、レーンマーキング候補点抽出手段400により抽出されたレーンマーキング候補点の座標を収差補正した座標に変換するレーンマーキング候補点収差補正手段500と、レーンマーキング候補点収差補正手段500により変換されたレーンマーキング候補点の集合を数学的モデル式で近似して、レーンマーキング数学的モデル式を導出する車線認識手段600aと、車線認識手段600aにより導出されたレーンマーキング数学的モデル式から得られる車線認識結果を出力する車線認識結果出力手段700とを備えている。
従って、本実施の形態による車線認識画像処理装置によれば、画像に対して収差補正を施す必要はなく、レーマーキング候補点座標のみを収差補正した座標に変換するだけでよく、ハードウエアおよびソフトウエアの負荷を大幅に低減することが可能となる。
さらに、歪曲収差による精度低下をなくすことができるので、レーンマーキング位置に対する高精度な車両の位置制御が行える。
実施の形態2.
図11は、本発明の実施の形態2による車線認識画像処理装置の構成を示すブロック図である。
なお、図11に示す各手段は、実施の形態2による車線認識画像処理装置におけるソフトウェア処理の各ステップも表しているものとする。
以下、図11に基づいて、本実施の形態による車線認識画像処理装置の各手段での動作(処理)について説明する。
撮影手段100〜車線認識手段600a、車線認識結果出力手段700までの各手段の動作(処理)は、実施の形態1の場合と同じであるので、説明は省略する。
本実施の形態による車線認識画像処理装置は、前述した実施の形態1による車線認識画像処理装置に対して、更に、車線認識手段600aが導出するレーンマーキング数学的モデル式によりレーンマーキングモデル点座標を演算するモデル点演算手段800aと、モデル点演算手段800aにより演算されたモデル点座標を歪曲収差分だけずれたモデル点収差座標へ変換するモデル点収差座標変換手段900を備え、レーンマーキング探索ウィンドウ設定手段300は、モデル点収差座標変換手段900により変換されたモデル点収差座標を次回の探索基準点とすることを特徴とする。
モデル点演算手段800aは、車線認識手段600aにより得られたレーンマーキング数学的モデル式よりレーンマーキング探索ライン上のモデル点を演算する。
車線認識手段600aは、収差補正されたレーンマーキング候補点を使用しているので、モデル点は収差補正された座標となる。
次に、モデル点収差座標変換手段900は、モデル点演算手段800aで得られる収差補正されたレーンマーキングモデル点に対して、収差補正と逆に歪曲収差だけずれた位置に座標変換する「モデル点収差座標変換」を実施する。
図12は、モデル点を収差分だけ移動させて、原画像のレーンマーキング位置と一致させる様子を説明するための図である。
図12に示すように、収差補正された左レーンマーキングモデル点13aを収差補正まえに相当する位置にある左レーンマーキングモデル点13へ移動することにより、原画像上の左レーンマーキング3と左レーンマーキングモデル点13を一致させるものである。
収差補正された左レーンマーキングモデル点13aから原画像上の左レーンマーキングモデル点13への座標変換はV座標の移動を含むため、原画像上の左レーンマーキングモデル点13のV座標がレーンマーキング探索ライン11のV座標と一致するように収差補正された左レーンマーキングモデル点13aを選ばねばならない。
従って、レーンマーキング探索ライン11のV座標が連続していなければ、無駄な演算が増える。
これは、原画像上の左レーンマーキングモデル点13のV座標を指定して収差補正された左レーンマーキングモデル点13aへの逆算はできないためである。
そこで、簡易的に原画像上の左レーンマーキングモデル点13の座標を求める方法として、図13に示すように、収差補正された左レーンマーキングモデル点13aをレーンマーキング探索ライン上のみの移動したモデル点13bを用いる。
厳密には歪曲収差分の移動とはならないが、探索基準位置としては実用上、あまり問題とならないレベルであることが多い。
以上、図12、図13を用いた説明では、便宜上、左レーンマーキングについて説明したが、右レーンマーキングモデル点14、収差補正された右レーンマーキングモデル点14a、14bについても同様である。
以上説明したように、本実施の形態による車線認識画像処理装置は、実施の形態1による車線認識画像処理装置に対して、更に、車線認識手段600aが導出するレーンマーキング数学的モデル式によりレーンマーキングモデル点座標を演算するモデル点演算手段800aと、モデル点演算手段800aにより演算されたモデル点座標を歪曲収差分だけずれたモデル点収差座標へ変換するモデル点収差座標変換手段900を備え、レーンマーキング探索ウィンドウ設定手段300は、モデル点収差座標変換手段900により変換されたモデル点収差座標を次回の探索基準点とする。
このように、本実施の形態では、モデル点を歪曲収差分だけ移動させることにより収差補正するので、次回の探索基準位置が画像上のレーンマーキング位置とずれてしまうことを回避できる。
従って、レーンマーキング認識性能を低下させることなく、自車横位置精度を向上させることができる。
実施の形態3.
図14は、本発明の実施の形態3による車線認識画像処理装置の構成を示すブロック図である。
なお、図14に示す各手段は、実施の形態3による車線認識画像処理装置におけるソフトウェア処理の各ステップも表しているものとする。
以下、図14に基づいて、本実施の形態による車線認識画像処理装置の各手段の動作(処理)について説明する。
撮影手段100〜車線認識手段600a、車線認識結果出力手段700までの各手段の動作(処理)は、実施の形態1の場合と同じであるので、説明は省略する。
本実施の形態による車線認識画像処理装置は、実施の形態1による車線認識画像処理装置に対して、更に、レーンマーキング候補点抽出手段400が抽出するレーンマーキング候補点の集合を数学的モデル式で近似して、収差補正前のレーンマーキング数学的モデル式を導出する収差補正前の車線認識手段600と、この収差補正前の車線認識手段600が導出する収差補正前のレーンマーキング数学的モデル式よりレーンマーキングモデル点座標を演算する収差補正前のモデル点演算手段800を備え、レーンマーキング探索ウィンドウ設定手段300は、収差補正前のモデル点演算手段800が演算するレーンマーキングモデル点座標を次回の探索基点とすることを特徴とする。
収差補正前の車線認識手段600は、収差補正前のレーンマーキング候補点により左レーンマーキング数学的モデル式7、左レーンマーキング数学的モデル式8を導出する点が車線認識手段600aと異なる。
これにより、本実施の形態では、車線認識手段600aにおける収差補正されたレーンマーキング候補点により導出したレーンマーキング数学的モデル式7a、8aと、収差補正前の車線認識手段600における収差補正前のレーンマーキング候補点により導出したレーンマーキング数学的モデル式7、8の二種類のモデル式を左右それぞれに持つことになる。
図15に示すように、レーンマーキング数学的モデル式7a、8aは収差補正されたレーンマーキング候補点を基にしているため、歪曲収差を含む原画像のレーンマーキングとは一致しない。
これに対して、レーンマーキング数学的モデル式7、8は収差補正されていないレーンマーキング候補点を基にしているため、原画像のレーンマーキングと一致する。
従って、図16に示すように、モデル点演算手段800においてレーンマーキング数学的モデル式7、8より求めたレーンマーキングモデル点13、14は、原画像のレーンマーキングと一致する。
即ち、レーンマーキングモデル点13、14は、次回の探索基準位置として収差補正の影響を受けない。
一方、車線認識結果出力手段700から装置外部へ送信出力されるレーンマーキング数学的モデル式7a、8aは、歪曲収差の影響を受けないものとなる。
以上説明したように、本実施の形態による車線認識画像処理装置は、収差補正まえのレーンマーキング候補点より導出したレーンマーキング数学的モデル式のモデル点を用いることにより、そのまま次回の探索基準位置として使用できる。
その結果、レーンマーキング認識性能を低下させることなく、自車横位置精度を向上させることができる。
なお、収差補正されたレーンマーキング数学的モデル式と収差補正まえのレーンマーキング数学的モデル式という二種類のモデル式を導出する必要があるが、個々のモデル点座標を収差分だけ移動させるよりは、レーンマーキング探索ライン数が増えるほど処理時間の面で有利になる。
実施の形態4.
図17は、本発明の実施の形態4による車線認識画像処理装置の構成を示すブロック図である。
なお、図17に示す各手段は、実施の形態4による車線認識画像処理装置におけるソフトウェア処理の各ステップも表しているものとする。
以下、図17に基づいて、本実施の形態による車線認識画像処理装置の各手段の動作(処理)について説明する。
図17において、撮影手段100〜レーンマーキング候補点抽出手段400までの動作(処理)は、前述の実施の形態1による車線認識画像処理装置と同じであるので、説明は省略する。
収差補正前の車線認識手段600は、レーンマーキング候補点抽出手段400によって抽出されたレーンマーキング候補点の座標を収差補正せず、そのまま用いて、レーンマーキング数学的モデル式を導出する。
次に、車線認識結果収差補正手段1000において、車線認識結果、即ち、収差補正前の車線認識手段600が導出するレーンマーキング数学的モデル式より得られる自車横位置,道路曲率半径に対して収差補正を行う。
例えば、自車横位置を出力する場合、横位置が既知である環境を用意し、横位置を逐次、変化させながら、横位置の真値と車線認識画像処理装置の出力値とのずれ量を記録し、テーブルとして格納しておく。このテーブルを横位置出力値に適用することにより、収差補正を行う。
ここで、横位置が既知となる環境とは、実物大の道路白線を撮影し、カメラ1を精密に水平移動できる設備を指す。
これは、ミニチュアの環境でもよい。道路白線がミニチュアとなる場合は、縮尺に合わせてカメラ取り付け高さを変えることで対応する。
また、カメラ1を精密に水平移動できない場合は、カメラ正面にチャートを設置し、各横位置に合わせてチャートを切り換えても良い。
道路曲率半径を出力する場合も同様に、チャートを用いてテーブルを作成し、格納することで対応する。
収差補正後の車線認識結果出力手段700aは、車線認識結果収差補正手段1000で収差補正された車線認識結果を装置外部へ送信出力する。
以上説明したように、本実施の形態による車線認識画像処理装置は、走行方向前方の車線のレーンマーキングを撮影する撮影手段100と、撮影手段100により得られた画像を一時記憶する画像記憶手段200と、画像記憶手段200に記憶された画像に対してレーンマーキング探索範囲を設定するレーンマーキング探索ウィンドウ設定手段300と、レーンマーキング探索ウィンドウ設定手段300により設定されたレーンマーキング探索範囲からレーンマーキング候補点を抽出するレーンマーキング候補点抽出手段400と、レーンマーキング候補点抽出手段400が抽出するレーンマーキング候補点の集合を数学的モデル式で近似して、収差補正前のレーンマーキング数学的モデル式を導出する収差補正前車線認識手段600と、収差補正前車線認識手段600により導出されたレーンマーキング数学的モデル式から得られる車線認識結果を収差補正する車線認識結果収差補正手段1000と、車線認識結果収差補正手段1000から得られる収差補正された車線認識結果を出力する収差補正後の車線認識結果出力手段700aとを備える。
これにより、送信出力する車線認識結果に対してのみテーブル(即ち、横位置の真値と車線認識結果出力手段700aの出力値のずれ量を記録したテーブル)を用意して、収差補正を実施すればよいので、ソフトウェア,ハードウェアの負荷を大幅に低減できる。
実施の形態5.
図18は、本発明の実施の形態5による車線認識画像処理装置の構成を示すブロック図である。
なお、図18に示す各手段は、実施の形態4による車線認識画像処理装置におけるソフトウェア処理の各ステップも表しているものとする。
以下、図18に基づいて、本実施の形態による車線認識画像処理装置の各手段の動作(処理)について説明する。
撮影手段100〜レーンマーキング候補点抽出手段400、収差補正前の車線認識手段600、車線認識結果収差補正手段1000、収差補正後の車線認識結果出力手段700aの動作(処理)は、前述の実施の形態4の場合同じであるので、説明は省略する。
収差補正前のモデル点演算手段800において、収差補正前の車線認識手段600より得られるレーンマーキング数学的モデル式よりレーンマーキング探索ライン上のモデル点を演算する。
収差補正前のモデル点演算手段800で演算されたモデル点座標は、レーンマーキング探索ウィンドウ設定手段300において、次回の探索基準点として使用する。
収差補正前のモデル点演算手段800により得られるモデル点座標は、収差補正前の車線認識手段600において収差補正を実施していない候補点座標の集合よりレーンマーキング数学的モデル式を導出しているため、画像上のレーンマーキング位置と一致する。
従って、本実施の形態によれば、収差補正前のモデル点演算手段800により得られるモデル点は、次回の探索基準点として座標変換などの加工をすることなく使用することができる。
この発明は、装置の小型化、低価格化が図れると共に、レーンマーキング位置に対する高精度な位置制御が行える車両用の車線認識画像処理装置の実現に有用である。
本発明の実施の形態1による車線認識画像処理装置の構成を示すブロック図である。 撮影手段であるカメラを車両へ取り付けた状態示す図である。 車両前方を撮影したときのカメラの出力画像である。 カメラ出力画像上に、レーンマーキング探索ラインおよびレーンマーキング探索ウィンドウを重畳した状態を示す図である。 レーンマーキング探索ライン上のレーンマーキング候補点抽出手順を説明するための図である。 樽型レンズによる画像が歪曲中心に向かって収縮する様子を示す図である。 レーンマーキング候補点が収差補正された位置に変換されることを説明するための図である。 収差補正によって格子上の点が画像の外側に向かって拡大される様子を示す図である。 レーンマーキング探索ライン上のモデル点が原画像のレーンマーキング位置とずれることを説明するための図である。 候補点座標が収差補正された座標に変換される様子を示す図である。 本発明の実施の形態2による車線認識画像処理装置の構成を示すブロック図である。 モデル点を収差分だけ移動させて、原画像のレーンマーキング位置と一致させる様子を説明するための図である。 モデル点の収差分の移動を、水平方向のみに行う様子を説明するための図である。 本発明の実施の形態3による車線認識画像処理装置の構成を示すブロック図である。 収差補正まえの候補点集合から導出したレーンマーキング数学的モデル式が原画像のレーンマーキング位置と一致することを説明するための図である。 収差補正まえの候補点集合から導出したレーンマーキング数学的モデル式によるモデル点が原画像のレーンマーキング位置と一致することを説明するための図である。 本発明の実施の形態4による車線認識画像処理装置の構成を示すブロック図である。 本発明の実施の形態5による車線認識画像処理装置の構成を示すブロック図である。
符号の説明
100 撮影手段
200 画像記憶手段
300 レーンマーキング探索ウィンドウ設定手段
400 レーンマーキング候補点抽出手段
500 レーンマーキング候補点収差補正手段
600 収差補正前の車線認識手段
600a 車線認識手段
700 車線認識結果出力手段
700a 収差補正後の車線認識結果出力手段
800a モデル点演算手段
800 収差補正前のモデル点演算手段
900 モデル点収差座標変換手段
1000 車線認識結果収差補正手段
1 カメラ 2 車両
3 左レーンマーキング 4 右レーンマーキング
5 左レーンマーキング探索ウィンドウ
6 右レーンマーキング探索ウィンドウ
7 左レーンマーキング数学モデル式
8 右レーンマーキング数学モデル式
7a 収差補正された候補点集合に基づく左レーンマーキング数学モデル式
8a 収差補正された候補点集合に基づく右レーンマーキング数学モデル式
9 左レーンマーキング候補点
10 右レーンマーキング候補点
9a 収差補正された左レーンマーキング候補点
10a 収差補正された右レーンマーキング候補点
11 レーンマーキング探索ライン
12 歪曲中心
13 左レーンマーキングモデル点
14 右レーンマーキングモデル点
13a 収差補正された左レーンマーキングモデル点
13b 13aを歪曲収差分水平移動した左レーンマーキングモデル点
14a 収差補正された右レーンマーキングモデル点
14b 14aを歪曲収差分、水平移動した右レーンマーキングモデル点

Claims (6)

  1. 走行方向前方車線のレーンマーキングを撮影する撮影手段と、
    上記撮影手段により得られる画像を一時記憶する画像記憶手段と、
    上記画像記憶手段に記憶された画像に対してレーンマーキング探索範囲を設定するレーンマーキング探索ウィンドウ設定手段と、
    上記レーンマーキング探索ウィンドウ設定手段により設定されたレーンマーキング探索範囲からレーンマーキング候補点を抽出するレーンマーキング候補点抽出手段と、
    上記レーンマーキング候補点抽出手段により抽出されたレーンマーキング候補点の座標を収差補正した座標に変換するレーンマーキング候補点収差補正手段と、
    上記レーンマーキング候補点収差補正手段により変換されたレーンマーキング候補点の集合を数学的モデル式で近似して、レーンマーキング数学的モデル式を導出する車線認識手段と、
    上記車線認識手段により導出されたレーンマーキング数学的モデル式から得られる車線認識結果を出力する車線認識結果出力手段とを備えることを特徴とする車線認識画像処理装置。
  2. 上記車線認識手段が導出するレーンマーキング数学的モデル式によりレーンマーキングモデル点座標を演算するモデル点演算手段と、
    上記モデル点演算手段により演算されたモデル点座標を歪曲収差分だけずれたモデル点収差座標へ変換するモデル点収差座標変換手段を備え、
    上記レーンマーキング探索ウィンドウ設定手段は、上記モデル点収差座標変換手段により変換されたモデル点収差座標を次回の探索基準点とすることを特徴とする請求項1記載の車線認識画像処理装置。
  3. 上記レーンマーキング候補点抽出手段が抽出するレーンマーキング候補点の集合を数学的モデル式で近似して、収差補正前のレーンマーキング数学的モデル式を導出する収差補正前車線認識手段と、
    上記収差補正前車線認識手段が導出する収差補正前のレーンマーキング数学的モデル式よりレーンマーキングモデル点座標を演算する収差補正前モデル点演算手段を備え、
    上記レーンマーキング探索ウィンドウ設定手段は、上記収差補正前モデル点演算手段が演算するレーンマーキングモデル点座標を次回の探索基点とすることを特徴とする請求項1記載の車線認識画像処理装置。
  4. 走行方向前方車線のレーンマーキングを撮影する撮影ステップと、
    上記撮影ステップにより得られる画像を一時記憶する画像記憶ステップと、
    上記画像記憶ステップで記憶された画像に対してレーンマーキング探索範囲を設定するレーンマーキング探索ウィンドウ設定ステップと、
    上記レーンマーキング探索ウィンドウ設定ステップで設定されたレーンマーキング探索範囲からレーンマーキング候補点を抽出するレーンマーキング候補点抽出ステップと、
    上記レーンマーキング候補点抽出ステップで抽出されたレーンマーキング候補点の座標を収差補正した座標に変換するレーンマーキング候補点収差補正ステップと、
    上記レーンマーキング候補点収差補正ステップで変換されたレーンマーキング候補点の集合を数学的モデル式で近似して、レーンマーキング数学的モデル式を導出する車線認識ステップと、
    上記車線認識ステップで導出されたレーンマーキング数学的モデル式から得られる車線認識結果を出力する車線認識結果出力ステップとを有することを特徴とする車線認識画像処理方法。
  5. 上記車線認識ステップで導出されるレーンマーキング数学的モデル式によりレーンマーキングモデル点座標を演算するモデル点演算ステップと、
    上記モデル点演算ステップで演算されたモデル点座標を歪曲収差分だけずれたモデル点収差座標へ変換するモデル点収差座標変換ステップを有し、
    上記レーンマーキング探索ウィンドウ設定ステップは、上記モデル点収差座標変換ステップで変換されたモデル点収差座標を次回の探索基準点とすることを特徴とする請求項4記載の車線認識画像処理方法。
  6. 上記レーンマーキング候補点抽出ステップで抽出されるレーンマーキング候補点の集合を数学的モデル式で近似して、収差補正前のレーンマーキング数学的モデル式を導出する収差補正前車線認識ステップと、
    上記収差補正前車線認識ステップで導出される収差補正前のレーンマーキング数学的モデル式よりレーンマーキングモデル点座標を演算する収差補正前モデル点演算ステップを有し、
    上記レーンマーキング探索ウィンドウ設定ステップは、上記収差補正前モデル点演算手ステップで演算されるレーンマーキングモデル点座標を次回の探索基点とすることを特徴とする請求項4記載の車線認識画像処理方法。
JP2004286312A 2004-09-30 2004-09-30 車線認識画像処理装置および車線認識画像処理方法 Expired - Fee Related JP4128991B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004286312A JP4128991B2 (ja) 2004-09-30 2004-09-30 車線認識画像処理装置および車線認識画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004286312A JP4128991B2 (ja) 2004-09-30 2004-09-30 車線認識画像処理装置および車線認識画像処理方法

Publications (2)

Publication Number Publication Date
JP2006099541A JP2006099541A (ja) 2006-04-13
JP4128991B2 true JP4128991B2 (ja) 2008-07-30

Family

ID=36239270

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004286312A Expired - Fee Related JP4128991B2 (ja) 2004-09-30 2004-09-30 車線認識画像処理装置および車線認識画像処理方法

Country Status (1)

Country Link
JP (1) JP4128991B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3885217A1 (en) * 2015-02-10 2021-09-29 Mobileye Vision Technologies Ltd. Sparse map for autonomous vehicle navigation

Also Published As

Publication number Publication date
JP2006099541A (ja) 2006-04-13

Similar Documents

Publication Publication Date Title
US8139114B2 (en) Surroundings monitoring apparatus and surroundings monitoring method for reducing distortion caused by camera position displacement
US5307136A (en) Distance detection system for vehicles
JP4863922B2 (ja) 運転支援システム並びに車両
JP3284190B2 (ja) ステレオカメラの画像補正装置
JP6473571B2 (ja) Ttc計測装置およびttc計測プログラム
US20150042800A1 (en) Apparatus and method for providing avm image
EP3539288B1 (en) Method of automatically correcting projection area based on image photographed by photographing device and system therefor
CN108805807B (zh) 环景图像的拼接方法及其系统
JPWO2010146695A1 (ja) 画像処理装置および画像処理方法
JP6891954B2 (ja) 物体検知装置、物体検知方法、及びプログラム
JP2003256874A (ja) 画像合成変換装置
JP4872890B2 (ja) 画像の歪曲補正方法
KR102089343B1 (ko) 어라운드 뷰 모니터링 시스템 및 카메라 공차 보정 방법
KR101808092B1 (ko) 어라운드뷰 모니터링 영상 자동 보정 및 생성 장치 및 방법
JP7150709B2 (ja) 画像処理装置、画像処理方法、及び、プログラム
CN109883433B (zh) 基于360度全景视图的结构化环境中车辆定位方法
KR20110116387A (ko) 촬상 장치 및 영상 왜곡 보정 방법
JP2007172501A (ja) 車両運転支援装置
JP4128991B2 (ja) 車線認識画像処理装置および車線認識画像処理方法
KR20190134303A (ko) 영상 인식 장치 및 그 방법
CN109801339B (zh) 图像处理方法、装置和存储介质
KR102076635B1 (ko) 산재된 고정 카메라를 이용한 파노라마 영상 생성 장치 및 방법
KR20140052769A (ko) 왜곡 영상 보정 장치 및 방법
CN112016568A (zh) 一种目标对象的图像特征点的跟踪方法及装置
CN110533586B (zh) 基于车载单目相机的图像拼接方法、装置、设备及系统

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071120

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080313

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080416

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080513

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080515

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110523

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4128991

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110523

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110523

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130523

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140523

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees