JP5908946B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP5908946B2 JP5908946B2 JP2014125142A JP2014125142A JP5908946B2 JP 5908946 B2 JP5908946 B2 JP 5908946B2 JP 2014125142 A JP2014125142 A JP 2014125142A JP 2014125142 A JP2014125142 A JP 2014125142A JP 5908946 B2 JP5908946 B2 JP 5908946B2
- Authority
- JP
- Japan
- Prior art keywords
- lane
- mode
- image
- color difference
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 134
- 238000001514 detection method Methods 0.000 claims description 105
- 230000007704 transition Effects 0.000 claims description 91
- 238000000034 method Methods 0.000 claims description 70
- 230000008569 process Effects 0.000 claims description 63
- 238000003384 imaging method Methods 0.000 claims description 32
- 230000004044 response Effects 0.000 claims description 9
- 230000005540 biological transmission Effects 0.000 description 14
- 230000006870 function Effects 0.000 description 5
- 230000015572 biosynthetic process Effects 0.000 description 4
- 239000000446 fuel Substances 0.000 description 4
- 238000003702 image correction Methods 0.000 description 4
- 238000002347 injection Methods 0.000 description 3
- 239000007924 injection Substances 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000000428 dust Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000010422 painting Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000498 cooling water Substances 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30256—Lane; Road marking
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
車線検出は、路面と白線との輝度差が比較的大きいことを利用して、輝度画像に基づいて行うことが一般的とされている。
なお、ここでの「車線」とは、路面に対し塗装等により形成されて走行レーンの境界を表す線のことを意味する。
但し、色差画像に基づく検出は、有色車線についての検出精度は向上できるものの、白色車線の検出精度については輝度画像に基づく検出を行う場合よりも低下してしまうため、白色車線と有色車線の双方を適切に検出するためには、共通の画像部分に対して輝度画像に基づく検出と色差画像に基づく検出の双方を実行することが考えられる。
また、通常、有色車線の出現率は白色車線に対して少ないため、色差画像に基づく車線検出を輝度画像に基づく車線検出と共に常時行うことは同様に処理負担の増大化の面で望ましくない。
これにより、白色車線と有色車線の双方を適切に検出可能とするにあたり、同一の行について輝度画像に基づく検出と色差画像に基づく検出の双方を行う必要がなくなる。
これにより、有色車線が進行方向の右側に存在する場合、及び左側に存在する場合の双方に対応可能となる。
これにより、例えば画像空間上での一定間隔とする場合と比較して有色車線のサンプリング間隔が適切となる。
これにより、同一車線探索範囲内に白色車線と有色車線の双方が存在する場合に、双方の車線を適切に検出可能とされる。
検出された車線部分の視差の値が所定範囲内にあるということは、該車線部分はステレオ撮像された他方の撮像画像(車線部分の検出に用いられていない側の画像)においても写し出されていると推測される。このため、上記のようにモード移行判定の条件として視差の値が所定範囲内であるとの条件を課すようにすれば、例えば片側のカメラにのみ付着したゴミ等による車線部分の誤検出に反応してモード移行判定で肯定結果が得られてしまうことの防止が図られる。
これにより、第2モードへの移行後、即座に第1モードに戻されてしまうことがない。
これにより、有色車線の色の特徴も加味したモード移行判定が実現される。
図1は、本発明に係る実施の形態としての画像処理装置を備えた車両制御システム1の構成を示している。なお、図1では、車両制御システム1の構成のうち主に本発明に係る要部の構成のみを抽出して示している。
車両制御システム1は、自車両に対して設けられた撮像部2、画像処理部3、メモリ4、運転支援制御部5、表示制御部6、エンジン制御部7、トランスミッション制御部8、ブレーキ制御部9、センサ・操作子類10、表示部11、エンジン関連アクチュエータ12、トランスミッション関連アクチュエータ13、ブレーキ関連アクチュエータ14、及びバス15を備えて構成されている。
運転支援制御部5は、同じくマイクロコンピュータで構成された表示制御部6、エンジン制御部7、トランスミッション制御部8、ブレーキ制御部9の各制御部とバス15を介して接続されており、これら各制御部との間で相互にデータ通信を行うことが可能とされる。運転支援制御部5は、上記の各制御部のうち必要な制御部に対して指示を行って運転支援に係る動作を実行させる。
また、操作子としては、エンジンの始動/停止を指示するためのイグニッションスイッチや、AT(オートマティックトランスミッション)車における自動変速モード/手動変速モードの選択や手動変速モード時におけるシフトアップ/ダウンの指示を行うためのセレクトレバーや、後述する表示部11に設けられたMFD(Multi Function Display)における表示情報の切り換えを行うための表示切換スイッチなどがある。
例えばエンジン制御部7は、前述したイグニッションスイッチの操作に応じてエンジンの始動/停止制御を行う。また、エンジン制御部7は、エンジン回転数センサやアクセル開度センサ10C等の所定のセンサからの検出信号に基づき、燃料噴射タイミング、燃料噴射パルス幅、スロットル開度等の制御も行う。
例えばトランスミッション制御部8は、前述したセレクトレバーによって自動変速モードが選択されている際には、所定の変速パターンに従い変速信号をコントロールバルブに出力して変速制御を行う。
また、トランスミッション制御部8は、手動変速モードの設定時には、セレクトレバーによるシフトアップ/ダウン指示に従った変速信号をコントロールバルブに出力して変速制御を行う。
図2により、本実施の形態で実行される画像処理について説明する。
なお、図2では画像処理について説明するため、画像処理部3の構成と共に図1に示した撮像部2の内部構成及びメモリ4も併せて示している。先ず、画像処理に用いる撮像画像データを得るための撮像部2について簡単に説明しておく。
撮像部2には、第1カメラ部20−1、第2カメラ部20−2、A/D変換器21−1、A/D変換器21−2、及び画像補正部22が設けられている。
第1カメラ部20−1、第2カメラ部20−2は、それぞれカメラ光学系とCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子とを備えて構成され、前記カメラ光学系により前記撮像素子の撮像面に被写体像が結像され、該撮像素子にて受光光量に応じた電気信号が画素単位で得られる。
第1カメラ部20−1、第2カメラ部20−2は、いわゆるステレオ撮像法による測距が可能となるように設置される。すなわち、視点の異なる複数の撮像画像が得られるように配置されている。本例における第1カメラ部20−1、第2カメラ部20−2は、自車両のフロントガラス上部近傍において、車幅方向に所定間隔を空けて配置されている。第1カメラ部20−1、第2カメラ部20−2の光軸は平行とされ、焦点距離はそれぞれ同値とされる。また、フレーム周期は同期し、フレームレートも一致している。
図2においては、画像処理部3が実行する各種の画像処理を機能ごとに分けてブロック化して示している。図のように画像処理部3は、機能ごとに大別すると、三次元位置情報生成処理部3A、車線検出処理部3B、車線モデル形成処理部3C、及び先行車両検出処理部3Dを有している。
上記のような視差dpとしての座標のずれを算出するにあたっては、予め第1撮像画像データ、第2撮像画像データのうちの一方が「基準画像」、他方が「比較画像」として定められている。比較画像は、基準画像上の水平方向端部に位置する物体についての視差dpの算出を可能とするため、基準画像よりも水平方向画素数が多い画像として生成されている。
三次元位置情報としてのX,Y,Zの各値は、基準画像における水平方向に平行な軸をi軸、垂直方向に平行な軸をj軸としたときの画素の座標を(i,j)で表し、一対のカメラの間隔をCD、1画素当たりの視野角をPW、一対のカメラの取り付け高さをCH、カメラ正面の無限遠点の基準画像上でのi座標、j座標をそれぞれIV、JVとしたときに、下記[式1]〜[式3]で表される座標変換により求まる。
X=CD/2+Z×PW×(i−IV) …[式1]
Y=CH+Z×PW×(j−JV) …[式2]
Z=CD/{PW×(dp−DP)} …[式3]
上記[式3]における「DP」は、消失点視差や無限遠対応点などとも称されるが、要するに基準画像と比較画像の間の対応点間の視差dpと、対応点までの実空間上での距離Zとが上記[式3]を満たすようにして決定される値である。以下、この「DP」については「視差オフセット値DP」と表記する。
なお、本実施の形態における車線検出処理の詳細については後に改めて説明する。
ここで、上記の距離画像はフレームごとに順次得られるものである。先行車両検出処理では、複数フレームにわたって検出物体の距離Zの情報をモニタすることで、自車両の走行路上に存在する物体であって、自車両と略同じ方向に所定の速度で移動するものを先行車両として抽出する。このとき、車両以外の物体の誤検出を抑制するために、基準画像を用いたパターンマッチング(例えばブレーキランプ部分等の車両の特徴点に基づくパターンマッチング)も併せて行う。
先行車両を検出した場合は、先行車両検出情報として先行車距離(=自車両との車間距離)、先行車速度(=車間距離の変化割合+自車速)、先行車加速度(=先行車速の微分値)を算出・保持する。
なお、上記の先行車両検出処理の手法は特開2012−66759号公報に開示された手法と同様であり、詳しくは該文献を参照されたい。
車線検出処理部3Bが実行する車線検出処理の詳細について説明する。
図2に示されるように、車線検出処理部3Bは、機能ごとに大別して、探索範囲設定処理部30、輝度重視モード処理部31、色差・輝度モード処理部32、及びモード移行制御処理部33を有しているものと表すことができる。
なお、右側車線探索範囲saRについて、左辺側が探索開始位置isR、右辺側が探索終了位置ieRとされているのは、右側車線探索範囲saRでは左側から右側にかけて車線の探索(後述するピーク値の探索)が行われることに由来している。一方、左側車線探索範囲saLについて右辺側が探索開始位置isL、左辺側が探索終了位置ieLと称されるのは、左側車線探索範囲saLでは逆に右側から左側にかけて車線の探索が行われることに由来している。なお、この点からも理解されるように、それぞれの車線探索範囲saにおける探索方向は、共に自車両の中心側から外側にかけての方向とされている。
図3Bは、右側と左側の双方の車線が検出された場合に対応して設定された右側車線探索範囲saR、左側車線探索範囲saLの例を示している。
この場合の右側車線探索範囲saRは、右側で検出された車線の開始位置dsRから左側に所定画素数分オフセットした位置を探索開始位置isRとし、該右側で検出された車線の終了位置deRから右側に所定画素数分オフセットした位置を探索終了位置ieRとした範囲として設定される。また、この場合の左側車線探索範囲saLは、左側で検出された車線の開始位置dsLから右側に所定画素数分オフセットした位置を探索開始位置isLとし、該左側で検出された車線の終了位置deLから左側に所定画素数分オフセットした位置を探索終了位置ieLとした範囲として設定される。
なお、車線探索範囲saの幅は実空間上での幅を略一定とするため、上記のように車線の開始位置dsや終了位置deに対して与えるオフセットは距離Zに応じて可変とする(遠いほど狭くする)。すなわち、jの値が大きい行(水平ライン)ほどオフセットが小さくなる傾向とする。
このように有色車線については、その輝度が路面輝度に対して同程度か或いは小さく撮像される場合がある。これら図4Aや図4Bのケースは、例えばコンクリート地の道路を走行中であるなど路面輝度が比較的高くなっている場合や、有色車線の色味が比較的濃く(例えば塗装間もない場合など)有色車線の輝度が比較的低くなっている場合など、実走行環境下において十分に生じ得るものである。
前述のように、有色車線については、色差画像に基づく検出を行うことが有効であるが、白色車線と有色車線の双方を適切に検出するために共通の画像部分に対して輝度画像に基づく検出と色差画像に基づく検出の双方を実行することは処理負担の増大化を招くため望ましくない。
また、通常、有色車線の出現率は白色車線に対して少ないため、色差画像に基づく車線検出を輝度画像に基づく車線検出と共に常時行うことは同様に処理負担の増大化の面で望ましくない。
図5Aは、輝度重視モードの説明図である。
先ず、輝度重視モードでは、右側車線探索範囲saR、左側車線探索範囲saLのそれぞれにおいて、輝度画像に基づき車線部分の検出を行う行が輝度重視時輝度行Lbvb(図中太実線で表す)として設定されていると共に、色差画像に基づき車線部分の検出を行う行が輝度重視時色差行Lbvc(図中太破線で表す)として設定されている。
一方、輝度重視時輝度行Lbvbは、輝度重視時色差行Lbvcとして設定された行以外の行として設定されている。この場合、輝度重視時色差行Lbvcの間隔は、少なくとも輝度重視時輝度行Lbvbの数が輝度重視時色差行Lbvcの数よりも多くなるように設定されている。
輝度画像に基づく車線部分の検出では、G画像のエッジ画像内における対象行について、探索開始位置isから探索終了位置ieにかけてエッジ値のピーク検出を行う。すなわち、右側車線探索範囲saRを対象とする場合には対象行における探索開始位置isRから探索終了位置ieRにかけて、左側車線探索範囲saLを対象とする場合には対象行における探索開始位置isLから探索終了位置ieLにかけて、それぞれエッジ値のピーク位置の検出を行う。
このとき、対象行における探索開始位置isから探索終了位置ieまでの範囲内に白色車線の一部(車線部分)が写し出されていれば、当該ピーク位置の検出によって車線部分の開始位置dsと終了位置deが検出される。輝度画像に基づく車線部分の検出では、これらの開始位置dsと終了位置deの情報を三次元位置情報として算出する。
前述した車線モデル形成処理部3Cでは、このように算出された開始位置dsと終了位置deのうち少なくとも開始位置dsの情報を用いて車線モデルが形成される。
色差画像に基づく車線部分の検出手法は、上記で説明した輝度画像に基づく車線部分の検出手法と比較して、エッジ値のピーク位置の検出を行う対象が色差画像における輝度重視時色差行Lbvcとなる以外は同様となるため重複説明は避ける。
色差・輝度モード処理は、色差画像に基づく車線部分の検出を輝度重視モード時よりも多くの行で行う処理である。
色差・輝度モードでは、右側車線探索範囲saR、左側車線探索範囲saLのそれぞれにおいて、輝度画像に基づき車線部分の検出を行う行が色差・輝度時輝度行Lcbb(図中太実線で表す)として設定されていると共に、色差画像に基づき車線部分の検出を行う行が色差・輝度時色差行Lcbc(図中太破線で表す)として設定されている。
本例の色差・輝度モードでは、図のように色差・輝度時輝度行Lcbbと色差・輝度時色差行Lcbcを1行おきに交互に配置することで、色差画像に基づく車線部分の検出を行う行を輝度重視モード時よりも増やしている。
色差・輝度モードにおいて、輝度画像に基づく車線部分の検出手法、色差画像に基づく車線部分の検出手法はそれぞれ輝度重視モードについて説明した手法と同様となるため重複説明は避ける。
モード移行制御処理は、色差画像に基づく車線部分の検出が行われた行のうち所定幅以上の車線部分が検出された行の数に基づいて、輝度重視モードと色差・輝度モードとの間のモード移行判定、及び判定結果に基づくモード移行制御を行う処理である。
具体的に、モード移行制御処理では、現在のモードが輝度重視モードである場合には、モード移行判定として、輝度重視時色差行Lbvcのうち所定幅以上の車線部分が検出された行の数に基づいて、色差・輝度モードへの移行を行うか否かの判定を行う。
本例の場合、輝度重視モード時におけるモード移行判定では、輝度重視時色差行Lbvcのうち
(1)検出された開始位置dsから終了位置deの実空間上での幅が所定幅以上
(2)視差dpの値が所定範囲内
の両条件を満たす行の数が、対象とする車線探索範囲sa内の輝度重視時色差行Lbvcの総数のα割以上(例えば8割以上)であるか否かを判定する。なお、(1)の条件における「所定幅」としては、実空間上における車線の幅に対応した値として設定する。本例において、(1)の条件としては、幅の下限値のみを設けるのではなく上限値も設けて、「検出された開始位置dsから終了位置deの実空間上での幅が所定範囲内」との条件とする。
本例では、モード移行判定はフレームごとに行っており、上記のように肯定結果が得られた場合は次のフレームから色差・輝度モードによる車線検出処理に切り換えられるものとなる。
このような色差・輝度モード時のモード移行判定としても、基準画像のフレームごとに繰り返し実行する。
上記した輝度重視モード処理、輝度・色差モード処理、及びモード移行制御処理による機能を実現するために画像処理部3が実行すべき具体的な処理の手順を図7及び図8のフローチャートを参照して説明する。図7は、輝度重視モード時に対応して実行されるべき輝度重視モード対応処理、図8は色差・輝度モード時に対応して実行されるべき色差・輝度モード対応処理を示している。
なお、図7に示す処理は、輝度重視モード時において基準画像のフレームごとに繰り返し実行されるものであり、図8に示す処理は色差・輝度モード時において基準画像のフレームごとに繰り返し実行されるものである。また、図7、図8に示す処理は、右側車線探索範囲saR、左側車線探索範囲saLのそれぞれについて実行されるものである。
ステップS103において、上記の両条件を満たす行の数が輝度重視時色差行Lbvcの総数のα割以上あった場合、画像処理部3はステップS104に進み、色差・輝度モード移行処理として、次フレームから色差・輝度モード処理を実行するように設定する処理を行う。
図8において、先ず、画像処理部3はステップS201で、色差・輝度時輝度行Lcbbについて輝度画像に基づく車線部分の検出を行い、続くステップS202で色差・輝度時色差行Lcbcについて色差画像に基づく車線部分の検出を行う。
なお、ステップS201の処理は、対象が色差・輝度時輝度行Lcbbとされる以外は先のステップS101の処理と同様であり、またステップS202の処理は対象が色差・輝度時色差行Lcbcとされる以外は先のステップS102の処理と同様である。従って、重複説明は避ける。
これらステップS201とS202の処理についても実行順序は逆であってもよい。
モード戻しカウント値が0ではなかった場合、画像処理部3はこの図に示す処理を終了する。一方、モード戻しカウント値が0であった場合、画像処理部3はステップS206に進み、輝度重視モード移行処理として次フレームから輝度重視モード処理を実行するように設定する処理を行い、この図に示す処理を終了する。
すなわち、ステップS203のモード移行判定によりモード移行を肯定する判定結果がN回(本例ではNフレーム)得られるまでは、輝度重視モードへの移行は行われず、モード移行が抑制される。
上記のように本実施の形態の画像処理装置(画像処理部3)は、自車両の進行方向を撮像してカラー画像としての撮像画像を得る撮像部(撮像部2)と、撮像部により得られた撮像画像に基づき被写体として写し出された車線を検出する車線検出部(車線検出処理部3B)とを備えている。
そして、車線検出部は、撮像画像に対して設定された車線探索範囲(sa)を対象とした車線検出処理として、車線探索範囲内における過半数以上の行について輝度画像に基づいた車線部分の検出を行い且つその他の行について色差画像に基づいた車線部分の検出を行う第1モード(輝度重視モード)による車線検出処理と、色差画像に基づく車線部分の検出を第1モード時よりも多くの行で行う第2モード(色差・輝度モード)による車線検出処理とを実行可能とされると共に、色差画像に基づく車線部分の検出が行われた行のうち所定幅以上の車線部分が検出された行の数に基づいて、第1モードと第2モードとの間のモード移行判定、及び判定結果に基づくモード移行制御を行うモード移行制御処理を実行している。
これにより、白色車線と有色車線の双方を適切に検出可能とするにあたり、同一の行について輝度画像に基づく検出と色差画像に基づく検出の双方を行う必要がなくなる。
従って、処理負担の軽減を図りつつ、白色車線と有色車線の双方を適切に検出できる。
これにより、有色車線が進行方向の右側に存在する場合、及び左側に存在する場合の双方に対応可能となる。
これにより、例えば画像空間上での一定間隔とする場合と比較して有色車線のサンプリング間隔が適切となる。
従って、適切なサンプリング結果に基づいてモード移行を適切に行うことができる。
これにより、同一車線探索範囲内に白色車線と有色車線の双方が存在する場合に、双方の車線を適切に検出可能となる。
従って、例えば図6に示したような二重ラインが出現した場合に、白色車線と有色車線の双方を適切に検出可能とできる。
検出された車線部分の視差dpの値が所定範囲内にあるということは、該車線部分はステレオ撮像された他方の撮像画像(基準画像でない方の撮像画像)においても写し出されていると推測される。このため、上記のようにモード移行判定の条件として視差dpの値が所定範囲内であるとの条件を課すようにすれば、例えば片側(基準画像側)のカメラにのみ付着したゴミ等による車線部分の誤検出に反応してモード移行判定で肯定結果が得られてしまうことの防止が図られる。
すなわち、車線部分の誤検出に伴う不適切なモード移行が行われてしまうことの防止を図ることができる。
これにより、第2モードへの移行後、即座に第1モードに戻されてしまうことがない。
従って、モード移行についてのハンチングを防止できる。
以上、本発明の実施の形態について説明したが、本発明は上記で説明した具体例に限定されず、多様な変形例が考えられるものである。
例えば、上記では、第2モード時(色差・輝度モード時)において、輝度画像に基づく車線部分の検出を行う行(Lcbb)と色差画像に基づく車線部分の検出を行う行(Lcbc)とを1行おきに交互配置する例を挙げたが、例えば先の図6のような二重ラインについて有色車線側のみを検出すればよいとされる場合等には、色差画像に基づく車線部分の検出を行う行を車線探索範囲sa内の全行に配置してもよい。第2モード時において色差画像に基づく車線部分の検出を行う行としては、輝度画像に基づく車線部分の検出を行う行と同数以上で、且つ有色車線の検出が可能(車線モデルの形成が可能)となるように配置されればよい。
上記のようにモード移行判定において車線部分の所定の色成分の含有率が所定の率以上であるとの条件を課すことで、有色車線の色の特徴も加味したモード移行判定が実現される。
従って、モード移行判定の精度をより向上できる。
Claims (7)
- 自車両の進行方向を撮像してカラー画像としての撮像画像を得る撮像部と、
前記撮像部により得られた撮像画像に基づき被写体として写し出された車線を検出する車線検出部とを備え、
前記車線検出部は、
前記撮像画像に対して設定された車線探索範囲を対象とした車線検出処理として、前記車線探索範囲内における過半数以上の行について輝度画像に基づいた車線部分の検出を行い且つその他の行について色差画像に基づいた車線部分の検出を行う第1モードによる車線検出処理と、前記色差画像に基づく車線部分の検出を前記第1モード時よりも多くの行で行う第2モードによる車線検出処理とを実行可能とされると共に、
前記色差画像に基づく車線部分の検出が行われた行のうち所定幅以上の車線部分が検出された行の数に基づいて、前記第1モードと前記第2モードとの間のモード移行判定、及び判定結果に基づくモード移行制御を行うモード移行制御処理を実行する
画像処理装置。 - 前記車線探索範囲は、前記撮像画像内の左右に離間して二つ設定されており、
前記車線検出部は、
前記モード移行制御処理を前記車線探索範囲ごとに実行する
請求項1に記載の画像処理装置。 - 前記第1モード時における前記色差画像に基づく車線部分の検出を行う行の間隔が、実空間上の一定距離間隔に相当する間隔に設定されている
請求項1又は請求項2に記載の画像処理装置。 - 前記第2モード時においては、前記輝度画像に基づいた車線部分の検出を行う行と前記色差画像に基づいた車線部分の検出を行う行とが1行おきに交互に配置されている
請求項1乃至請求項3の何れかに記載の画像処理装置。 - 前記撮像部は、自車両の進行方向をステレオ撮像して一対の撮像画像を得、
前記撮像部により得られた前記一対の撮像画像に基づいて被写体の視差を算出する視差算出部をさらに備え、
前記車線検出部は、
前記モード移行制御処理における前記モード移行判定を、前記色差画像に基づく車線部分の検出が行われた行のうち所定幅以上の車線部分が検出され且つ検出された車線部分の視差の値が所定範囲内である行の数に基づいて行う
請求項1乃至請求項4の何れかに記載の画像処理装置。 - 前記車線検出部は、前記モード移行制御処理として、
前記モード移行判定をフレームごとに行い、
前記第1モードから前記第2モードへの移行制御は、前記モード移行判定により移行を肯定する判定結果が得られたことに応じて行い、
前記第2モードから前記第1モードへの移行制御は、前記モード移行判定により移行を肯定する判定結果が得られた回数が所定回数に達したことに応じて行う
請求項1乃至請求項5の何れかに記載の画像処理装置。 - 前記車線検出部は、
前記モード移行制御処理における前記モード移行判定を、前記色差画像に基づく車線部分の検出が行われた行のうち所定幅以上の車線部分が検出され且つ検出された車線部分の所定の色成分の含有率が所定の率以上である行の数に基づいて行う
請求項1乃至請求項6の何れかに記載の画像処理装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014125142A JP5908946B2 (ja) | 2014-06-18 | 2014-06-18 | 画像処理装置 |
CN201510319970.2A CN105282498B (zh) | 2014-06-18 | 2015-06-11 | 图像处理装置 |
DE102015109564.5A DE102015109564B9 (de) | 2014-06-18 | 2015-06-16 | Bildverarbeitungsvorrichtung |
US14/742,418 US9690995B2 (en) | 2014-06-18 | 2015-06-17 | Image processing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014125142A JP5908946B2 (ja) | 2014-06-18 | 2014-06-18 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016004459A JP2016004459A (ja) | 2016-01-12 |
JP5908946B2 true JP5908946B2 (ja) | 2016-04-26 |
Family
ID=54768077
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014125142A Active JP5908946B2 (ja) | 2014-06-18 | 2014-06-18 | 画像処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9690995B2 (ja) |
JP (1) | JP5908946B2 (ja) |
CN (1) | CN105282498B (ja) |
DE (1) | DE102015109564B9 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6566737B2 (ja) * | 2015-06-18 | 2019-08-28 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
US9811743B2 (en) * | 2015-06-29 | 2017-11-07 | Sharp Laboratories Of America, Inc. | Tracking road boundaries |
WO2017099199A1 (ja) * | 2015-12-10 | 2017-06-15 | 株式会社リコー | 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム |
US11703326B2 (en) * | 2016-02-25 | 2023-07-18 | Kyocera Corporation | Stereo camera apparatus, vehicle, and parallax calculation method |
JP6256508B2 (ja) * | 2016-03-30 | 2018-01-10 | マツダ株式会社 | 電子ミラー制御装置 |
JP2019159529A (ja) * | 2018-03-09 | 2019-09-19 | パイオニア株式会社 | 線検出装置、線検出方法、プログラム、及び記憶媒体 |
CN108460776B (zh) * | 2018-04-12 | 2022-03-25 | 广东工业大学 | 一种基于机器视觉的刹车片尺寸检测方法及装置 |
CN110781816A (zh) * | 2019-10-25 | 2020-02-11 | 北京行易道科技有限公司 | 车辆在车道中的横向定位方法、装置、设备及存储介质 |
US10867190B1 (en) * | 2019-11-27 | 2020-12-15 | Aimotive Kft. | Method and system for lane detection |
US11505213B2 (en) * | 2020-07-24 | 2022-11-22 | Tusimple, Inc. | Visibility condition determinations for autonomous driving operations |
KR20220143323A (ko) * | 2021-04-16 | 2022-10-25 | 주식회사 에이치엘클레무브 | 차선 분류 딥러닝 모델의 학습데이터 생성 방법 및 장치 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04365350A (ja) | 1991-06-13 | 1992-12-17 | Hitachi Ltd | 論理素子配置方法および装置 |
CN1707224A (zh) * | 2004-06-07 | 2005-12-14 | 日产自动车株式会社 | 车载导航装置、岔道导向方法及行车道确定装置和方法 |
JP4365350B2 (ja) | 2005-06-27 | 2009-11-18 | 本田技研工業株式会社 | 車両及び車線認識装置 |
JP4365352B2 (ja) | 2005-07-06 | 2009-11-18 | 本田技研工業株式会社 | 車両及びレーンマーク認識装置 |
JP4185077B2 (ja) | 2005-07-15 | 2008-11-19 | 本田技研工業株式会社 | 車両、画像処理システム、画像処理方法、及び画像処理プログラム |
EP1968014B1 (en) * | 2005-12-28 | 2012-12-19 | Honda Motor Co., Ltd. | Vehicle and lane mark detection device |
EP2168079B1 (en) * | 2007-01-23 | 2015-01-14 | Valeo Schalter und Sensoren GmbH | Method and system for universal lane boundary detection |
JP4697480B2 (ja) * | 2008-01-11 | 2011-06-08 | 日本電気株式会社 | 車線認識装置、車線認識方法および車線認識プログラム |
US8681221B2 (en) | 2008-03-26 | 2014-03-25 | Honda Motor Co., Ltd. | Vehicular image processing device and vehicular image processing program |
JP5083658B2 (ja) * | 2008-03-26 | 2012-11-28 | 本田技研工業株式会社 | 車両用車線認識装置、車両、及び車両用車線認識プログラム |
CN102201167B (zh) * | 2010-04-07 | 2013-03-06 | 宫宁生 | 基于视频的汽车车道自动识别方法 |
JP5508205B2 (ja) | 2010-09-27 | 2014-05-28 | 富士重工業株式会社 | 車両の運転支援装置 |
KR101472615B1 (ko) * | 2010-12-21 | 2014-12-16 | 삼성전기주식회사 | 차선이탈 경보 시스템 및 방법 |
JP2012155612A (ja) * | 2011-01-27 | 2012-08-16 | Denso Corp | 車線検出装置 |
JP5921983B2 (ja) * | 2012-08-03 | 2016-05-24 | クラリオン株式会社 | 車載撮像装置 |
JP2014164492A (ja) * | 2013-02-25 | 2014-09-08 | Denso Corp | 区画線認識装置 |
-
2014
- 2014-06-18 JP JP2014125142A patent/JP5908946B2/ja active Active
-
2015
- 2015-06-11 CN CN201510319970.2A patent/CN105282498B/zh active Active
- 2015-06-16 DE DE102015109564.5A patent/DE102015109564B9/de active Active
- 2015-06-17 US US14/742,418 patent/US9690995B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
DE102015109564A1 (de) | 2015-12-24 |
CN105282498A (zh) | 2016-01-27 |
US9690995B2 (en) | 2017-06-27 |
CN105282498B (zh) | 2017-11-14 |
DE102015109564B4 (de) | 2019-06-13 |
DE102015109564B9 (de) | 2019-09-19 |
JP2016004459A (ja) | 2016-01-12 |
US20150371093A1 (en) | 2015-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5908946B2 (ja) | 画像処理装置 | |
JP5893601B2 (ja) | 車両制御システム | |
JP5863536B2 (ja) | 車外監視装置 | |
US9336447B2 (en) | Ambient environment determination apparatus | |
JP6156400B2 (ja) | 走行路面検出装置及び走行路面検出方法 | |
JP4714104B2 (ja) | 物体傾き検出装置 | |
JP4937933B2 (ja) | 車外監視装置 | |
JP6169949B2 (ja) | 画像処理装置 | |
JP6085522B2 (ja) | 画像処理装置 | |
JP5591730B2 (ja) | 環境認識装置 | |
US8477997B2 (en) | White road line recognition device for vehicle | |
JP6227898B2 (ja) | 画像処理装置 | |
JP2016068684A (ja) | 運転支援制御装置 | |
JP6185367B2 (ja) | 運転支援装置 | |
JP6683245B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム | |
JP6178632B2 (ja) | エンジンのサージ制御装置 | |
JP6151569B2 (ja) | 周囲環境判定装置 | |
JP6174884B2 (ja) | 車外環境認識装置および車外環境認識方法 | |
JP5452518B2 (ja) | 車両用白線認識装置 | |
JP6082293B2 (ja) | 車両用白線認識装置 | |
JP2015088049A (ja) | 車両制御システム | |
JP6099090B2 (ja) | 運転支援制御装置 | |
CN110871808B (zh) | 车外环境识别装置及车外环境识别方法 | |
JP6121244B6 (ja) | 画像処理装置 | |
JP6121244B2 (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160324 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5908946 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |