JP4910458B2 - 車両用交通標示検出装置、自動車及び車両用交通標示検出方法 - Google Patents

車両用交通標示検出装置、自動車及び車両用交通標示検出方法 Download PDF

Info

Publication number
JP4910458B2
JP4910458B2 JP2006101937A JP2006101937A JP4910458B2 JP 4910458 B2 JP4910458 B2 JP 4910458B2 JP 2006101937 A JP2006101937 A JP 2006101937A JP 2006101937 A JP2006101937 A JP 2006101937A JP 4910458 B2 JP4910458 B2 JP 4910458B2
Authority
JP
Japan
Prior art keywords
traffic sign
detection
correction
vehicle
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006101937A
Other languages
English (en)
Other versions
JP2007279818A (ja
Inventor
琢 高浜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2006101937A priority Critical patent/JP4910458B2/ja
Publication of JP2007279818A publication Critical patent/JP2007279818A/ja
Application granted granted Critical
Publication of JP4910458B2 publication Critical patent/JP4910458B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、自車両前方の撮像画像を画像処理して交通標示を検出する車両用交通標示検出装置、自動車及び車両用交通標示検出方法に関する。
従来、自車両前方の画像を撮影し、撮影した画像を基に交通標示を検出する技術が知られている。このような技術においては、交通標示を高精度に検出するための各種提案がなされている。
例えば、特許文献1では、画像処理による交通標示の検出性能(識別性能)を向上させるため、ナビゲーションシステムの情報(電子地図)を用いる方法が提案されている。この方法では、交通標示識別の対象となるエリアを走行中であることをナビゲーションシステムから把握した場合、画像処理におけるコントラストを向上させる処理等を行うことで、画像処理性能を向上させている。
特表2003−529043号公報
しかしながら、ナビゲーションシステムの位置精度は、誤差が数十メートルといったように低く、例えば、自車両の走行路に隣接する道路上に自車両位置があると誤認識される場合がある。そのため、特許文献1に記載の技術においては、自車両位置が誤認識されると、画像処理性能の向上が図れないこととなり、このような精度のナビゲーションシステムの情報だけでは、交通標示の検出精度を高めることは困難である。
このように、従来の技術においては、交通標示の検出精度において、さらなる改善が求められていた。
本発明の課題は、交通標示の検出精度を高めることができるようにすることである。
前記課題を解決するために、本発明に係る車両用交通標示検出装置は、
自車両前方を撮像するシャッタ速度が可変の撮像手段と、前記撮像手段が撮像して得た撮像画像から交通標示を検出する際の検出条件が設定されており、その検出条件に従って前記撮像画像から交通標示を検出する交通標示検出手段と、前記交通標示検出手段が前記撮像画像から交通標示を検出する際の前記検出条件を補正する補正手段と、自車両の状況に応じて、前記補正手段の補正を許可する補正許可手段と、を備え、前記補正許可手段は、前記撮像手段のシャッタ速度がシャッタ速度判定用閾値よりも大きい場合、前記補正手段の補正を許可することを特徴とする。
また、本発明に係る自動車は、
自車両前方を撮像するシャッタ速度が可変の撮像手段と、前記撮像手段が撮像して得た撮像画像から交通標示を検出する際の検出条件が設定されており、その検出条件に従って前記撮像画像から交通標示を検出する交通標示検出手段と、前記交通標示検出手段が前記撮像画像から交通標示を検出する際の前記検出条件を補正する補正手段と、自車両の状況に応じて、前記補正手段の補正を許可する補正許可手段と、を備え、前記補正許可手段は、前記撮像手段のシャッタ速度がシャッタ速度判定用閾値よりも大きい場合、前記補正手段の補正を許可することを特徴とする。
また、本発明に係る車両用交通標示検出方法は、
自車両周囲をシャッタ速度が可変の撮像手段によって撮像する撮像ステップと、前記撮像ステップで得た撮像画像から、交通標示を検出する交通標示検出ステップと、自車両の状況が前記検出条件の補正に適合しているか否かに応じて、前記交通標示検出ステップにおいて交通標示を検出する際の検出条件を補正する補正ステップと、を含み、前記補正ステップは、前記撮像ステップにおける前記撮像手段のシャッタ速度がシャッタ速度判定用閾値よりも大きい場合、前記検出条件を補正することを特徴とする。
本発明によれば、補正許可手段が自車両の状況に応じて補正手段に補正を許可し、それにより設定された検出条件に従って、撮像手段が撮像した自車両前方の画像から、交通標示検出手段が交通標示を検出することで、検出条件を適確に補正することができ、交通標示の検出精度を高めることが可能な車両用交通標示検出装置とできる。
また、本発明によれば、補正許可手段が自車両の状況に応じて補正手段に補正を許可し、それにより設定された検出条件に従って、撮像手段が撮像した自車両前方の画像から、交通標示検出手段が交通標示を検出する。したがって、検出条件を適確に補正することができ、交通標示の検出精度を高めることが可能な自動車とできる。
また、本発明によれば、自車両周囲を撮像して得た撮像画像から、交通標示を検出すると共に、その検出条件を、自車両の状況が補正に適合しているか否かに応じて補正するので、検出条件を適確に補正することができ、交通標示の検出精度を高めることが可能な車両用交通標示検出方法とできる。
本発明を実施するための最良の形態(以下、実施形態という。)を図面を参照しながら詳細に説明する。
(第1の実施形態)
先ず第1の実施形態を説明する。
第1の実施形態は、本発明を適用した車両であり、車両用交通標示検出装置を搭載した車両である。
(構成)
図1は、その車両の構成を示す。
図1に示すように、車両は、レーザレーダ1、レーダ処理装置2、外界認識装置3(コントローラ)、CCDカメラ4、画像処理装置5、情報提供装置6、操舵角検出装置7、車速検出装置8、制動力検出装置9、自動ブレーキ制御装置10及び負圧ブレーキブースタ11を搭載している。
レーザレーダ1は、自車両前方をレーザを走査して障害物を検出するスキャニング式のレーザレーダ1である。レーザレーダ1の走査結果は、レーダ処理装置2に入力される。レーダ処理装置2は、レーザレーダ1の走査結果に基づいて、障害物候補を抽出する。具体的には、レーダ処理装置2では一つ又は複数の障害物候補に対して自車両を原点とする2次元(走行方向と車幅方向)座標値を算出するとともに、当該障害物候補の幅(大きさ)を算出する。レーダ処理装置2は、その算出結果を外界認識装置3に出力する。
また、CCDカメラ4は、自車両前方の状況を高画質に撮像する。CCDカメラ4の撮像結果は、画像処理装置5に入力される。画像処理装置5は、撮像画像(静止画像)中から交通標示(交通標識)を検出する。画像処理装置5による処理については後で詳述する。画像処理装置5は、その検出結果を外界認識装置3に出力する。
また、車速検出装置8は、従動車輪速度に基づいて車速を検出する。さらに、操舵角検出装置7は、前輪操舵角(δ)を検出する。また、制動力検出装置9は、車輪に発生する制動力を検出する。車速検出装置8、操舵角検出装置7及び制動力検出装置9は、その検出結果を外界認識装置3に出力する。
外界認識装置3は、各装置の検出値等に基づいて所定の制御を行う。外界認識装置3は、その一つの制御として、レーダ処理装置2が検出した障害物候補までの距離と画像処理装置5が検出した走行路の停止線までの距離とを、自動ブレーキ制御装置10に出力して、自動ブレーキ制御装置10により自動ブレーキ制御を実施させる。前後輪には任意の制動力を達成する負圧ブレーキブースタ11が装着されており、自動ブレーキ制御装置10は、制動力指令電圧を負圧ブレーキブースタ11のソレノイドバルブに印加することで、自動ブレーキ制御を行う。
なお、各装置は、それぞれマイクロコンピュータとその周辺部品や各種アクチュエータの駆動回路等を備え、互いに通信回路を介して情報を送受信する。
図2及び図3は、交通標示を検出するための各装置による一連の処理手順を示す。例えば、本実施形態では、50(ms)周期で処理を実行している。
図2に示すように、処理を開始すると、ステップS1において、画像処理装置5は、CCDカメラ4から今回のサンプリングにおける撮像結果(画像)を取り込む。
続いてステップS2において、外界認識装置3は、自車両の挙動センサ(車速検出装置8、操舵角検出装置7及び制動力検出装置9等)から今回のサンプリングにおける自車速V_z0、舵角δ_z0、ピッチ角度α_z0、ブレーキ液圧Pb_z0及びスロットル開度TV0_z0等の自動車挙動データを読込む。
なお、各センサ値における接尾辞_z0は、今回のサンプリングで得た値であることを示し、接尾辞_z1は前回のサンプリングで得た値を示し、すなわち、各センサ値の接尾辞_zkは、当該センサ値がk回前のサンプリングで得た値であることを示す。
続いてステップS3において、画像処理装置5は、後述のステップS11でカウントアップしていく値であり、交通標示(例えば「止まれ」)を構成する個々のマーク(文字、以下、個別マークという。)の認識状態を表すカウンタ値(以下、認識状態カウンタ値という。)DetectStepの値(状態)を判定する。ここで、認識状態カウンタ値DetectStepが0の場合(DetectStep=0)、ステップS4に進み、認識状態カウンタ値DetectStepが4の場合(DetectStep=4)、図3に示すステップS18に進み、それ以外の場合(DetectStep≠0,4)、ステップS5に進む。なお、認識状態カウンタ値DetectStepは、初期値が0である。
ステップS4では、画像処理装置5は、交通標示を検出するための画像処理のための初期値を下記のように設定する。
obj_Y=20(m)
obj_X=0(m)
ProcessWide=1.5(m)
ProcessDist=10.0(m)
ここで、obj_Yは、画像処理領域を決める道路上の前後方向位置であって、obj_Xは、画像処理領域を決める道路上の左右方向位置である。左右方向位置obj_Xは、自車両正面が0になる。ProcessWideは、画像処理領域の横方向範囲の半分の値であり、ProcessDistは、画像処理領域の前後方向範囲の半分の値である。
続いてステップS5において、画像処理装置5は、前記ステップS3の設定値を用いて画像処理領域(探索領域)を下記(1)〜(4)式により算出する。
disp_obj_YA=yo+focusV・CAM_h/(obj_Y+ProcessDist ) ・・・ (1)
disp_obj_YB=yo+focusV・CAM_h/(obj_Y−ProcessDist ) ・・・ (2)
disp_obj_XL=xo+focusH・obj_X/obj_Y−focusH*ProcessWide/obj_Y ・・・(3)
disp_obj_XR=xo+focusH・obj_X/obj_Y+focusH*ProcessWide/obj_Y ・・・ (4)
ここで、disp_obj_YAは、画像処理領域の上側の座標値であり、disp_obj_YBは、画像処理領域の下側の座標値であり、disp_obj_XLは、画像処理領域の左側の座標値であり、disp_obj_XRは、画像処理領域の右側の座標値である。yoは、消失点の縦方向座標(pix:画素数)であり、xoは、消失点の横方向座標(pix:画素数)である。消失点の縦方向座標yo及び横方向座標xoは、カメラ取り付け位置と向きで決まる。同様に、focusV及びfocusHはそれぞれ、鉛直方向及び水平方向のカメラ焦点距離を画素換算した値(pix)である。画素換算値focusV,focusHは、カメラ画角及び受光素子の解像度で決まる。CAM_hは、カメラの取り付け高さ(m)である。
この(1)式〜(4)式により、画像処理領域は、左上座標が(disp_obj_XL,disp_obj_YA)となり、左下座標が(disp_obj_XL,disp_obj_YB)となり、右上座標が(disp_obj_XR,disp_obj_YA)となり、右下座標が(disp_obj_XR,disp_obj_YB)となる。
続いてステップS6において、画像処理装置5は、前記ステップS5で算出した画像処理領域について、個別マークを識別するための前処理を行う。例えば、前処理として、微分演算及び2値化処理を行う。微分演算では、微分画像を求める一般的な手法であるsobelフィルタにより微分演算を行う。sobelフィルタは、ある画素に隣接する画素同士の輝度変化を求める演算により実現されている。また、2値化処理では、求めた微分画像の輝度について、その平均値Av及び分散値Vrを算出し、これを所定の閾値(以下、2値化処理用閾値という。)として2値化処理する。2値化処理により、各画素の輝度(ここでは微分画像のため輝度変化)が2値化処理用閾値以下の場合には黒色、2値化処理用閾値よりも大きい場合には白色、といったように微分画像の濃淡を白/黒の2色に分ける。以上のような前処理のより得た画像を以下、前処理画像という。
続いてステップS7において、画像処理装置5は、 認識状態カウンタ値DetectStepに基づいて、各個別マークを個々に識別するための識別用の参照用パターンRef_Markを設定する(Ref_Mark=RefMarkPatten[DetectStep])。ここで、参照用パターンRef_Markによる検出対象となる交通標示は、走行路(交差点等)において停止線(「−」)の手前に書かれている「止まれ」であるとする。
DetectStep=0の場合:Ref_Mark=RefMarkPatten[0]=[れ]
DetectStep=1の場合:Ref_Mark=RefMarkPatten[1]=[ま]
DetectStep=2の場合:Ref_Mark=RefMarkPatten[2]=[止]
DetectStep=3の場合:Ref_Mark=RefMarkPatten[3]=[−]
ここで、RefMarkPattenは、検出対象となる交通標示の個別マークに対応して予め用意した参照用パターン(以下、参照用パターン記憶値という。)であり、認識状態カウンタ値DetectStepに対応する値が参照用パターンRef_Markに設定される。具体的には、DetectStep=0の場合、何も検出していないから、参照用パターンRef_Markを「れ」に設定し(RefMarkPatten[0]=「れ」)、DetectStep=1の場合、「れ」まで検出済みであるから、参照用パターンRef_Markを「ま」に設定し(RefMarkPatten[1]=「ま」)、DetectStep=2の場合、「ま」まで検出済みであるから、参照用パターンRef_Markを「止」に設定し(RefMarkPatten[2]=「止」)、DetectStep=3の場合、「止」まで検出済みであるから、参照用パターンRef_Markを「−」(停止線)に設定する(RefMarkPatten[3]=「−」)。なお、各参照用パターン記憶値RefMarkPatten[0]〜RefMarkPatten[3]は、座標変換(視点を変えること)により遠近感のあるマークに予め設定されているものとする。
続いてステップS8において、画像処理装置5は、前記ステップS6の前処理画像と前記ステップS7で設定した参照用パターンRef_Markとの類似度(類似性)を算出する。
続いてステップS9において、画像処理装置5は、前記ステップS8で算出した類似度に基づいて、自車両前方の道路標示の個別マークの認識判定処理を行う。
ここでは、参照用パターンRef_Markと2値化画像とのOCR(Optical Character Recognition)の認識手法を応用して、類似度が所定の閾値(以下、類似度判定用閾値という。)ThOCR以上の場合、その参照用パターンRef_Markに対応する個別マークを前処理画像中から認識できたことにする。例えば、類似度判定用閾値ThOCRは、後述のステップS22の処理で更新(学習)される値であり、初期値では70%に設定されている。これにより、類似度判定用閾値ThOCRが初期設定に設定されている場合、参照用パターンRef_Markとの類似度が70%以上の場合、参照用パターンRef_Markに対応する個別マークを前処理画像中から認識できたことになる。
ここで、画像処理装置5は、参照用パターンRef_Markとの類似度が類似度判定用閾値ThOCRよりも大きい場合(類似度>ThOCR)、個別マークを認識(検出)できたとして、ステップS10に進み、参照用パターンRef_Markと前処理画像との類似度が類似度判定用閾値ThOCR以下の場合(類似度≦ThOCR)、個別マークを認識(検出)できないとして、ステップS14に進む。
ステップS10では、画像処理装置5は、下記(5)式のように、前記ステップS9で検出した個別マーク(類似度>ThOCRとなる個別マーク)の前処理画像について前記ステップS6で算出した平均値Av及び分散値Vrを交通標示情報DetectedMarkPattern[DetectStep]として記憶メモリに記憶する(更新する)。
DetectedMarkPattern[DetectStep]← 今回の検出した交通標示情報(Av,Vr) ・・・(5)
続いてステップS11において、画像処理装置5は、認識状態カウンタ値DetectStepを1つ加算する(DetectStep=DetectStep+1)。そして、画像処理装置5は、当該加算後の認識状態カウンタ値DetectStepが4であるか否かを判定する。ここで、画像処理装置5は、認識状態カウンタ値DetectStepが4の場合(DetectStep=4)、ステップS15に進み、そうでない場合(DetectStep≠4)、ステップS12に進む。
なお、ステップS11で認識状態カウンタ値DetectStepが4になると、次回の処理タイミングの前記ステップS3の判定で、認識状態カウンタ値DetectStepが4であるとして、ステップS18に進むようになる。
ステップS12では、画像処理装置5は、道路標示の個別マークの探索領域(画像処理領域)の位置を変更しており、具体的には、画面上の位置に基づいて、下記(6)式及び(7)式により、前記ステップS4で初期設定されるobj_Y,obj_Xを変更して、次に探索する領域の位置を算出(変更)する。
obj_Y=focusV・CAM_h/(Ref_Mark_Center_y−yo)+2.0 ・・・(6)
obj_X=obj_Y(Ref_Mark_Center_x−xo)/focusH ・・・(7)
ここで、Ref_Mark_Center_yは、認識した個別マークの画面上の垂直方向(上下方向)位置であり、Ref_Mark_Center_xは、認識した個別マークの画面上の水平方向(左右方向)位置である。
続いてステップS13において、画像処理装置5は、個別マークの探索領域(画像処理領域)の大きさを変更しており、具体的には、前記ステップS9で検出した個別マークの画面上の大きさ(画素数)Rcg_Mark_SizeH,Rcg_Mark_SizeVに基づいて、下記(8)式及び(9)式により、前記ステップS4で初期設定されるProcessWide,ProcessDistを変更して、次に探索する領域の大きさを算出(変更)する。
ProcessWide=(Rcg_Mark_SizeH・obj_Y/focusH)/2 ・・・(8)
ProcessDist=(Rcg_Mark_SizeV・obj_Y/focusV)/2 ・・・(9)
ここで、Rcg_Mark_SizeHは、検出した個別マークの画面上における水平方向サイズ(画素数)であり、Rcg_Mark_SizeVは、検出した個別マークの画面上における鉛直方向サイズ(画素数)である。
続いてステップS14において、画像処理装置5は、運転者の運転操作状態や自車速等の自車両挙動の情報からなる前記ステップS2で読み込んだ自車挙動データ等を更新し、終了する(前記ステップS1から再び処理を開始する)。
続いて図3に示すステップS15において、外界認識装置3は、自車前方の一時停止マークを検出したとして、情報提供装置6により乗員にその旨を情報提供する。情報提供装置6である例えばスピーカ装置からの音声として、例えば「一時停止」や「一時停止です」等、車両停止領域に至っている旨を発話する。
続いてステップS16において、外界認識装置3は、前記ステップS2で読み込んだ自動車挙動データ(前記ステップS14で更新した自動車挙動データ)に基づいて、現時点から過去1秒間において、制動力が発生し、かつ車速が略0(停車状態)になっているか否かを判定する。ここで、外界認識装置3は、この条件を満たす場合、ステップS21に進み、この条件を満たさない場合、ステップS17に進む。
ここで、ステップS21に進む条件を、制動状態と車速の停止状態とのAND条件(両方を満たすことを条件)にしているが、OR条件(どちらか一方を満たすことを条件)とすることもできる。
ステップS17では、画像処理装置5は、検出後経過時間AfterDetectTimeを0.0(秒)に設定して(AfterDetectTime=0.0)、前記ステップS14に進む。
一方、前記ステップS3にて認識状態カウンタ値DetectStepが4の場合に進むステップS18では、画像処理装置5は、検出後経過時間AfterDetectTimeが0.5(秒)未満か否かを判定する。ここで、画像処理装置5は、検出後経過時間AfterDetectTimeが0.5未満の場合(AfterDetectTime<0.5)、ステップS20に進み、そうでない場合(AfterDetectTime≧0.5)、ステップS19に進む。
ステップS19では、画像処理装置5は、今回の検出に関しては学習(参照用パターンの学習)を行わないとして、認識状態カウンタ値DetectStepに0を設定して(DetectStep=0)、前記ステップS14に進む。
ステップS20では、画像処理装置5は、検出後経過時間AfterDetectTimeに0.05(秒)を加算する(AfterDetectTime=AfterDetectTime+0.05)。さらに、外界認識装置3は、前記ステップS2で読み込んだ自動車挙動データ(前記ステップS14で更新した自動車挙動データ)に基づいて、過去の時間AfterDetectTimeにおいて、制動力が発生し(又は運転者がブレーキ操作し)、かつ車速が略0(停車状態)であるか否かを判定する。ここで、外界認識装置3は、この条件を満たす場合、ステップS21に進み、この条件を満たさない場合、前記ステップS14に進む。
ステップS21では、画像処理装置5は、前記ステップS9で検出した個別マークの濃淡情報に基づいて、類似度判定用閾値の候補(閾値候補)ThOCR_candを下記(10)式により算出する。
ThOCR_cand=Σfunc1(Av_n,Vr_n)/MaxDetectStep ・・・ (10)
ここで、Av_nとVr_nとはそれぞれ、前記ステップS9で検出した個別マークについて前記ステップS10で記憶した平均値Av及び分散値Vrであり、各値Av,Vrの接尾辞nは、検出した個別マークを示す番号(DetectStep)である。また、関数func1は、図4に示すような特性を有する。図4に示すように、関数func1が示す値は、平均値Avが小さい領域と大きい領域とで小さくなり、分散値Vrが大きくなるほど大きくなる。また、Σは総和を意味する。また、MaxDetectStepは、参照用パターンRef_Markの種類の数(本実施形態では4)を意味しており、(10)式では、この値で除算することで、平均値の閾値候補ThOCR_candを算出している。この(10)式によれば、平均値Avが小さい領域と大きい領域とで閾値候補ThOCR_candが小さくなり、分散値Vrが大きくなるほど、閾値候補ThOCR_candが大きくなる。
続いてステップS22において、画像処理装置5は、前記ステップS21で算出した閾値候補ThOCR_candを用いて、下記(11)式により、前記ステップS9で用いる類似度判定用閾値ThOCRを算出(補正)する。
ThOCR=(ThOCR+ThOCR_cand )/2 ・・・ (11)
この(11)式により、最新値の類似度判定用閾値ThOCRと閾値候補ThOCR_candとの平均値になるように、類似度判定用閾値ThOCRを更新する。そして、画像処理装置5は、認識状態カウンタ値DetectStepに0を設定して(DetectStep=0)、前記ステップS14に進む。
(動作)
次に動作を説明する。
(1)個別マークを識別中の処理(DetectStep=1〜4の処理)
CCDカメラ4により自車両前方を撮像し、さらに、車速検出装置8、操舵角検出装置7及び制動力検出装置9等により、車速、舵角、ピッチ角度、ブレーキ液圧及びスロットル開度等を検出しており、画像処理装置5は、これらCCDカメラ4から撮像画像と車速検出装置8等から車速等とを取り込む(前記ステップS1、ステップS2)。
そして、画像処理装置5は、認識状態カウンタ値DetectStepが0の場合、交通標示検出のための画像処理の初期値を設定し(前記ステップS3の判定で“DetectStep=0”の場合、ステップS4)、その初期値に基づいて、画像処理領域を算出し(前記ステップS5)、その画像処理領域について個別マークを識別するための前処理(微分演算及び2値化処理)を行い(前記ステップS6)、参照用パターンRef_Markとして[れ](=RefMarkPatten[0])を用いて(前記ステップS7)、当該参照用パターンRef_Markと前処理画像との類似度(類似性)を算出する(前記ステップS8)。
ここで、算出した類似度と類似度判定用閾値ThOCRとを比較して、類似度が類似度判定用閾値ThOCRよりも大きい場合(前記ステップS9の判定で“Yes”の場合)、当該前処理画像(微分画像)の平均値Av及び分散値Vrを交通標示情報DetectedMarkPattern[DetectStep]として記憶メモリに記憶する(前記ステップS10)。さらに、認識状態カウンタ値DetectStepを1つ加算するとともに(前記ステップS11)、個別マークの探索領域の位置及び大きさを変更する(前記ステップS12、ステップS13)。
そして、認識状態カウンタ値DetectStepを1つずつ加算していくことで、認識状態カウンタ値DetectStepを1〜3で順番に変えていき、これに応じて参照用パターンRef_Markが[ま](=RefMarkPatten[1])、[](=RefMarkPatten[2])及び[−](=RefMarkPatten[3])の順番で変化させて(前記ステップS3の判定で“DetectStep=1〜3”の場合、ステップS7)、この参照用パターンRef_Markと、前述のように位置及び大きさを変更していく探索領域の前処理画像(前記ステップS12、ステップS13)との類似度を算出していく(前記ステップS8)。
そして、前記認識状態カウンタ値DetectStepが0の場合と同様に、類似度と類似度判定用閾値ThOCRとを比較して、類似度が類似度判定用閾値ThOCRよりも大きい場合(前記ステップS9の判定で“Yes”の場合)、検出した個別マークの前処理画像(微分画像)の平均値Av及び分散値Vrを交通標示情報DetectedMarkPattern[DetectStep]として記憶メモリに記憶する(前記ステップS10)。
(2)全ての個別マークの検出直後の処理(DetectStep=4になったときの処理)
画像処理装置5において認識状態カウンタ値DetectStepが4になると(前記ステップS11の判定で“Yes”の場合)、外界認識装置3は、スピーカ装置から「一時停止」等を発話する(前記ステップS15)。
なお、前記ステップS9とステップS11との関係から、認識状態カウンタ値DetectStepに対応する参照用パターンRef_Markについての類似度が類似度判定用閾値ThOCRよりも大きくならない限り(前記ステップS9)、認識状態カウンタ値DetectStepが加算されないことから(前記ステップS11)、認識状態カウンタ値DetectStepが4になる場合とは、道路標示を構成する全個別マークが認識されていること(全個別マークについて類似度が類似度判定用閾値ThOCRよりも大きいこと)が条件となる。
そして、スピーカ装置から「一時停止」等を発話した後、外界認識装置3が、先に読み込んでいる自動車挙動データに基づいて、過去1秒間(DetectStep=4となったタイミングから過去1秒間)において、制動力が発生し、かつ車速が略0(停車状態)になっていると判定した場合、画像処理装置5では、検出した全個別マークの濃淡情報(平均値Av_n及び分散値Vr_n)に基づいて、閾値候補ThOCR_candを算出するとともに、その閾値候補ThOCR_candを用いて、類似度判定用閾値ThOCRを補正し、かつ認識状態カウンタ値DetectStepに0に設定する(前記ステップS16の判定で“Yes”の場合、ステップS21、ステップS22)。
一方、外界認識装置3が、先に記憶した自動車挙動データに基づいて、過去1秒間において、制動力が発生してない、又は車速が略0(停車状態)でないと判定した場合、画像処理装置5では、検出後経過時間AfterDetectTimeを0.0(秒)に設定し(前記ステップS17)、その後、検出後経過時間AfterDetectTimeが0.5(秒)以上になるまで、検出後経過時間AfterDetectTimeにサンプリング周期と同値の0.05(秒)を加算していく(前記ステップS18、ステップS20)。ここで、画像処理装置5は、検出後経過時間AfterDetectTimeが0.5(秒)以上になった場合、認識状態カウンタ値DetectStepに0を設定する(前記ステップS18の判定で“No”の場合、ステップS19)。これにより、前記項目(1)個別マークを識別中の処理が再び開始されるようになる。
また、検出後経過時間AfterDetectTimeの加算を開始して、検出後経過時間AfterDetectTimeが0.5(秒)以上になるまでに、外界認識装置3が、制動力が発生し、かつ車速が略0(停車状態)にあると判定した場合、画像処理装置5では、検出した全個別マークの濃淡情報(平均値Av_n及び分散値Vr_n)に基づいて、閾値候補ThOCR_candを算出するとともに、その閾値候補ThOCR_candを用いて、類似度判定用閾値ThOCRを補正し、かつ認識状態カウンタ値DetectStepに0に設定する(前記ステップS20の判定で“Yes”の場合、ステップS21、ステップS22)。
以上のような動作により、車両用交通標示検出装置は、前処理画像と参照用パターンRef_Markとの類似度が類似度判定用閾値ThOCRよりも大きい場合に、認識状態カウンタ値DetectStepを1つずつ加算していくことで、前処理画像と参照用パターンRef_Markとの類似度が類似度判定用閾値ThOCRよりも大きくなる条件下で得た全ての個別マークの前処理画像(微分画像)の平均値Av及び分散値Vrを交通標示情報DetectedMarkPattern[DetectStep]として記憶メモリに記憶していく。
そして、車両用交通標示検出装置は、認識状態カウンタ値DetectStepが4になったタイミング、すなわち道路標示を構成する全個別マークを検出したタイミング或いは最後の個別マーク(本実施形態では「−」)を検出したタイミングで、スピーカ装置から「一時停止」等を発話する。さらに、車両用交通標示検出装置は、過去1秒間(DetectStep=4となったタイミングから過去1秒間)に、制動力が発生し、かつ車速が略0(停車状態)になっている場合、検出した全個別マークの濃淡情報(平均値Av_n及び分散値Vr_n)に基づいて、閾値候補ThOCR_candを算出するとともに、その閾値候補ThOCR_candを用いて、類似度判定用閾値ThOCRを補正(更新)する。
一方、車両用交通標示検出装置は、過去1秒間(DetectStep=4となったタイミングから過去1秒間)に、制動力が発生し、かつ車速が略0(停車状態)である条件を満たしていない場合でも、検出後経過時間AfterDetectTimeが0.5(秒)、すなわち、DetectStep=4となったタイミングから0.5秒経過するまでの間に、制動力が発生し、かつ車速が略0(停車状態)になった場合、検出した全個別マークの濃淡情報(平均値Av_n及び分散値Vr_n)に基づいて、閾値候補ThOCR_candを算出するとともに、その閾値候補ThOCR_candを用いて、類似度判定用閾値ThOCRを補正(更新)する。
以上のように類似度判定用閾値ThOCRを更新、すなわち類似度判定用閾値ThOCRを学習しており、以降の処理において、当該類似度判定用閾値ThOCRによる前記類似度の判定、すなわち道路標示の検出がなされる。そして、自動ブレーキ制御装置10は、画像処理装置5が検出した道路標示である停止線までの距離に基づいて自動ブレーキ制御を実施する。
(作用)
次に作用を説明する。
類似度判定用閾値ThOCRの学習(更新)では、前処理画像と参照用パターンRef_Markとの類似度が類似度判定用閾値ThOCRよりも大きくなる条件下で得た全個別マークの前処理画像(微分画像)の平均値Av_n及び分散値Vr_nに基づいて、類似度判定用閾値ThOCRを補正(更新)している。これにより、類似度判定用閾値ThOCRを現在の走行環境、撮像条件や被写体等の状況を考慮したものにすることができるので、類似度判定用閾値ThOCRに基づく前処理画像と参照用パターンRef_Markとの類似度の判定精度、すなわち道路標示の検出精度を高くすることができる。すなわち、現時点の状況に適合した類似度判定用閾値ThOCRにすることができるので、現時点の状況に適合させた交通標示の検出ができ、その検出精度を高くすることができる。
また、撮像画像からなる前処理画像(微分画像)の平均値Av及び分散値Vrは、撮像画像の濃淡情報や色彩情報を示すものとなるから、結果として、類似度判定用閾値ThOCRは、撮像画像の濃淡情報や色彩情報に基づいて補正されたことなる。日照状態、天候又は地域における文字のペイント手法等の種々の要因に影響されて交通標示の濃淡や色彩が異なるから、濃淡情報や色彩情報に基づいて類似度判定用閾値ThOCRを補正することで、類似度判定用閾値ThOCRを日照状態、天候又は地域における文字のペイント手法等の種々の要因を考慮したものにすることができるので、交通標示の検出精度を高くすることができる。
また、平均値Av及び分散値Vrから閾値候補ThOCR_candを算出し、その算出した閾値候補ThOCR_candにより類似度判定用閾値ThOCRを更新している。そして、閾値候補ThOCR_candを、図4に示すような特性図(テーブル)を用いて、平均値Av及び分散値Vrから算出しており、平均値Avが小さい領域と大きい領域とで、閾値候補ThOCR_candは小さくなり、分散値Vrが大きくなるほど、閾値候補ThOCR_candは大きくなる。
ここで、一般的に微分画像の平均値が大き過ぎると生画像がノイジーとなり、微分画像の平均値が小さ過ぎてもカメラ露光制御の限界付近の映像となる。一方、分散値が小さくなるほど、撮像結果における濃淡差が少なくなるため、道路と交通標示との識別が困難となる。このようなことを加味して、平均値Av及び分散値Vrに基づいて閾値候補ThOCR_candを算出して、その算出した閾値候補ThOCR_candを用いて類似度判定用閾値ThOCRを更新することで、結果として、交通標示の検出精度を高くすることができるようになる。
また、過去1秒間(DetectStep=4となったタイミングから過去1秒間)に、制動力が発生し、かつ車速が略0(停車状態)になっている場合やDetectStep=4となったタイミングから0.5秒経過するまでの間に、制動力が発生し、かつ車速が略0(停車状態)になっている場合、すなわち、「止まれ」の交通標示の検出前後に、制動力が発生し、かつ車速が略0(停車状態)になっている場合、検出した全個別マークの濃淡情報(平均値Av_n及び分散値Vr_n)に基づく類似度判定用閾値ThOCRの補正(更新)を許可している。運転者が「止まれ」の交通標示を認識した場合、運転操作状態やその運転操作により自車両挙動が変化するから、制動力が発生し、かつ車速が略0(停車状態)になっていることを条件に類似度判定用閾値ThOCRの補正(更新)を許可することで、交通標示の検出精度を高めた状態で類似度判定用閾値ThOCRの補正することができる。
なお、次のような構成により本発明を実現することもできる。
すなわち、前記第1の実施形態では、制動力が発生し、かつ車速が略0(停車状態)になっている場合、類似度判定用閾値ThOCRの補正(更新)を許可しているが、制動力が発生していること及び車速が略0(停車状態)であることの何れか一方の条件を満たす場合に、類似度判定用閾値ThOCRの補正(更新)を許可する。
なお、前記実施形態の説明において、CCDカメラ4は、自車両前方を撮像する撮像手段を実現しており、画像処理装置5は、前記撮像手段が撮像して得た撮像画像から交通標示を検出する際の検出条件が設定されており、その検出条件に従って前記撮像画像から交通標示を検出する交通標示検出手段を実現しており、画像処理装置5のステップS21の処理は、前記交通標示検出手段が前記撮像画像から交通標示を検出する際の前記検出条件を補正する補正手段を実現しており、画像処理装置5のステップS18及びステップS20の処理は、自車両の状況に応じて、前記補正手段の補正を許可する補正許可手段を実現している。ここで、類似度判定用閾値ThOCRは、検出条件に対応しており、自車両の状況とは、運転操作状態、自車両挙動及び自車両が置かれている周囲環境等である。
また、制動力検出装置9及び車速検出装置8は、前記交通標示検出手段による前記交通標示の検出時前後の運転者による運転操作状態及び自車両挙動のうちの少なくとも一方を検出する状態検出手段を実現している。
(効果)
(1) 自車両前方を撮像する撮像手段と、前記撮像手段が撮像して得た撮像画像から交通標示を検出する際の検出条件が設定されており、その検出条件に従って前記撮像画像から交通標示を検出する交通標示検出手段と、前記交通標示検出手段が前記撮像画像から交通標示を検出する際の前記検出条件を補正する補正手段と、自車両の状況に応じて、前記補正手段の補正を許可する補正許可手段と、を備える。これにより、補正許可手段が自車両の状況に応じて補正手段に補正を許可し、それにより設定された検出条件に従って、撮像手段が撮像した自車両前方の画像から、交通標示検出手段が交通標示を検出する。したがって、検出条件を適確に補正することができ、交通標示の検出精度を高めることが可能な車両用交通標示検出装置とできる。
(2)前記交通標示検出手段による前記交通標示の検出時前後の運転者による運転操作状態及び自車両挙動のうちの少なくとも一方を検出する状態検出手段を備え、前記補正許可手段は、前記状態検出手段が検出した運転操作状態及び自車両挙動のうちの少なくとも一方に基づいて、前記補正手段の補正を許可する。これにより、運転者が交通標示を認識した場合、運転操作状態やその運転操作により自車両状態が変化するから、このようなことから、交通標示の検出時前後の運転操作状態や自車両状態に連動して検出条件の補正を許可することで、実際の交通標示に基づく検出条件の補正精度を高めることができる。これにより、交通標示の検出精度が高くなる方向に検出条件を補正することができる。
(3)前記交通標示は、車両を停止させる標示であり、前記状態検出手段は、自車両を停止させる運転操作を検出し、前記補正許可手段は、前記状態検出手段が前記自車両を停止させる運転操作を検出した場合、前記補正手段の補正を許可する。運転者は、車両を停止させる交通標示を認識した場合、自車両を停止させる運転操作をすることから、自車両を停止させる運転操作に連動して検出条件の補正を許可することで、実際の交通標示に基づく検出条件の補正精度を高めることができる。これにより、交通標示の検出精度が高くなる方向に検出条件を補正することができる。
(4)前記交通標示は、車両を停止させる標示であり、前記補正許可手段は、前記状態検出手段が車速度がゼロであることを検出した場合、前記補正手段の補正を許可する。車両を停止させる交通標示付近では、車速度がゼロになるから、車速度がゼロなることに連動して検出条件の補正を許可することで、実際の交通標示に基づく検出条件の補正精度を高めることができる。これにより、交通標示の検出精度が高くなる方向に検出条件を補正することができる。
(5)前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との類似度が類似度判定用閾値よりも大きい場合、前記交通標示の検出を行っており、前記補正手段は、前記撮像画像の濃淡及び色彩のうちの少なくとも一方に基づいて、前記類似度判定用閾値を補正する。日照状態、天候又は地域における文字のペイント手法等の種々の要因に影響されて交通標示の濃淡や色彩が異なるから、濃淡情報や色彩情報に基づいて類似度判定用閾値を補正することで、交通標示の検出精度を高くすることができる。
(6)自車両周囲を撮像して得た撮像画像から、検出条件を補正しつつ交通標示を検出すると共に、自車両の状況が前記検出条件の補正に適合しているか否かに応じて、前記検出条件の補正の実行を制御する。これにより、検出条件を適確に補正することができ、交通標示の検出精度を高めることが可能な車両用交通標示検出装置とできる。
(7)自車両前方を撮像する撮像手段と、前記撮像手段が撮像して得た撮像画像から交通標示を検出する際の検出条件が設定されており、その検出条件に従って前記撮像画像から交通標示を検出する交通標示検出手段と、前記交通標示検出手段が前記撮像画像から交通標示を検出する際の前記検出条件を補正する補正手段と、自車両の状況に応じて、前記補正手段の補正を許可する補正許可手段と、を備える。これにより、補正許可手段が自車両の状況に応じて補正手段に補正を許可し、それにより設定された検出条件に従って、撮像手段が撮像した自車両前方の画像から、交通標示検出手段が交通標示を検出する。したがって、検出条件を適確に補正することができ、交通標示の検出精度を高めることが可能な自動車とできる。
(8)自車両周囲を撮像する撮像ステップと、前記撮像ステップで得た撮像画像から、交通標示を検出する交通標示検出ステップと、自車両の状況が前記検出条件の補正に適合しているか否かに応じて、前記交通標示検出ステップにおいて交通標示を検出する際の検出条件を補正する補正ステップと、を含む。これにより、検出条件を適確に補正することができ、交通標示の検出精度を高めることが可能な車両用交通標示検出方法とできる。
(第2の実施形態)
次に第2の実施形態を説明する。
第2の実施形態は、本発明を適用した車両であり、車両用交通標示検出装置を搭載した車両である。
(構成)
第2の実施形態の車両の構成は、前記第1の実施形態の車両の構成と同じである。しかし、第2の実施形態では、各装置による一連の処理手順が前記第1の実施形態のもの(図3、図4)と異なっている。
図5〜図7は、第2の実施形態における各装置により一連の処理手順を示す。
図5に示すように、処理を開始すると、ステップS41において、前記ステップS1と同様に、画像処理装置5は、CCDカメラ4から今回のサンプリングにおける撮像結果(画像)を取り込む。
続いてステップS42において、前記ステップS2と同様に、外界認識装置3は、自車両の挙動センサ(車速検出装置8、操舵角検出装置7及び制動力検出装置9等)から今回のサンプリングにおける車速V_z0、舵角δ_z0、ピッチ角度α_z0、ブレーキ液圧Pb_z0及びスロットル開度TV0_z0等の自動車挙動データを読込む。
続いてステップS43において、画像処理装置5は、検出後経過時間AfterDetectTimeに0.05(秒)を加算する(サンプリング周期に応じて0.05秒加算していく)。ここで、検出後経過時間AfterDetectTimeは、後述のステップS57で、道路標示が検出されているか否かを示す道路標示検出フラグDetectOKflagが1に設定されたときに初期化(AfterDetectTime=0)されている。
続いてステップS44において、画像処理装置5は、道路標示検出フラグDetectOKflagが1であり、かつ検出後経過時間AfterDetectTimeが5(秒)よりも大きいか否かを判定する。ここで、画像処理装置5は、道路標示検出フラグDetectOKflagが1であり(DetectOKflag=1)、かつ検出後経過時間AfterDetectTimeが5(秒)よりも大きい場合(AfterDetectTime>5)、図6に示すステップS59に進み、そうでない場合(DetectOKflag≠1又はAfterDetectTime≦5)、ステップS45に進む。
ステップS45では、画像処理装置5は、道路標示検出フラグDetectOKflagが0であり、かつ検出後経過時間AfterDetectTimeが3600(秒)よりも大きく、かつ検出後距離AfterDetectDistが50000(m)よりも大きいか否かを判定する。ここで、画像処理装置5は、道路標示検出フラグDetectOKflagが0であり(DetectOKflag=0)、かつ検出後経過時間AfterDetectTimeが3600(秒)よりも大きく(AfterDetectTime>3600)、かつ検出後距離AfterDetectDistが50000(m)よりも大きい場合(AfterDetectDist>50000)、図7に示すステップS63に進み、そうでない場合(DetectOKflag≠0、AfterDetectTime≦3600又はAfterDetectDist≦50000)、ステップS46に進む。
ここで、検出後距離AfterDetectDistは、後述のステップS57で、道路標示検出フラグDetectOKflagが1に設定されたときに初期化(AfterDetectDist=0)されている。
続いてステップS46において、画像処理装置5は、前記ステップS5と同様に、画像処理領域(探索領域)を設定する(前記(1)式〜(4)式参照)。なお、ここでは、その画像処理領域を決めるのに用いる下記の値を定常的な値(普遍的な値)にする。
obj_Y=20(m)
obj_X=0(m)
ProcessWide=1.5(m)
ProcessDist=10.0(m)
続いてステップS47において、画像処理装置5は、認識状態カウンタ値DetectStep及び今回(最新)のサンプリング周期で1文字でも検出できたことを示す今回マーク検出フラグThisTimeOKflag(後述のステップS52で設定)を初期化する(DetectStep=0、ThisTimeOKflag=0)。
続くステップS48〜ステップS51では、前記第1の実施形態と同様に、画像処理装置5は、ステップS48(前記ステップS6参照)において、前記ステップS46で決めた画像処理領域について、個別マークを識別するための前処理を行い、続くステップS49(前記ステップS7参照)において、認識状態カウンタ値DetectStepに基づいて、参照用パターンRef_Markを決め、続くステップS50(前記ステップS8参照)において、前記ステップS48の前処理画像と前記ステップS49の参照用パターンRef_Markとの類似度(類似性)を算出し、続くステップS51(ステップS9参照)において、前記ステップS50で算出した類似度(類似性)に基づいて、個別マークの認識の判定処理をする。
ここで、画像処理装置5は、類似度が類似度判定用閾値ThOCRよりも大きい場合(類似度>ThOCR)、個別マークを検出できたとして、ステップS52に進み、類似度が類似度判定用閾値ThOCR以下の場合(類似度≦ThOCR)、個別マークを検出できないとして、ステップS53に進む。
続いてステップS52において、画像処理装置5は、下記(12)式〜(15)式に示すように、交通標示情報等を記憶する。
ThisTimeOKflag=1 ・・・(12)
DetectedMark[DetectStep]=1 ・・・(13)
DetectedMarkPattern[DetectStep][rbAddr] ・・・(14)
CamShutterSpeed[rbAddr] ・・・(15)
ここで、(13)式のDetectedMark[DetectStep]とは、DetectStepに対応する個別マークの検出状態を示すフラグ(以下、個別マーク検出フラグという。)であり、DetectedMark[DetectStep]が“1”の場合は、DetectStepに対応する個別マークを検出できたことを示し、DetectedMark[DetectStep]が“0”の場合は、DetectStepに対応する個別マークを検出できなかったことを示す。
また、(14)式及び(15)式により、前記ステップS50で検出できた個別マークの前処理画像(類似度>ThOCRを満たす個別マーク)及び当該個別マークを検出した際のCCDカメラ4のシャッタ速度をリングバッファにそれぞれDetectedMarkPattern[DetectStep][rbAddr]及びCamShutterSpeed[rbAddr]として記憶する。
ここで、(14)式及び(15)式中の変数rbAddrは、リングバッファになっているメモリ上のDetectedMarkPattern及びCamShutterSpeedのアドレスを示しており、1回のサンプリング周期で1データ区間分をカウントアップする。すなわち、DetectedMarkPattern[DetectStep][rbAddr]は、アドレスrbAddrに記憶された個別マークの画像であり、CamShutterSpeed[rbAddr]は、アドレスrbAddrに記憶されたCCDカメラ4のシャッタ速度である。これにより、検出後経過時間AfterDetectTimeをサンプリング周期で除算した値(AfterDetectTime/サンプリング周期)により、アドレスrbAddrを特定して、過去に検出したマーク検出情報(個別マークの画像及びシャッタ速度)を参照することができる。CCDカメラ4のシャッタ速度は露光等、撮像環境に左右されて変化するから、CamShutterSpeed[rbAddr]には、DetectedMarkPattern[DetectStep][rbAddr]に記憶した個別マークの撮像時(個別マークを含む画像の撮像時)のCCDカメラ4のシャッタ速度が記憶される。
続いてステップS53において、画像処理装置5は、前記ステップS11と同様に、認識状態カウンタ値DetectStepを1つ加算する(DetectStep=DetectStep+1)。そして、画像処理装置5は、その1つ加算した認識状態カウンタ値DetectStepが4であるか否かを判定する。ここで、画像処理装置5は、認識状態カウンタ値DetectStepが4の場合(DetectStep=4)、ステップS54に進み、そうでない場合(DetectStep≠4)、前記ステップS49から再び処理を行う。
ステップS54では、画像処理装置5は、今回新たに文字(個別マーク)を検出し、かつ2文字(個別マークを2つ)以上検出したか否かを判定しており、具体的には、下記(16)式及び(17)式の両条件を満たすか否かを判定する。
ThisTimeOKflag=1 ・・・(16)
DetectedMark[0]+DetectedMark[1]+DetectedMark[2]+DetectedMark[3]>1 ・・・(17)
(17)式では、各個別マーク検出フラグDetectedMark[0]〜DetectedMark[3]はそれぞれ、対応する個別マークが検出されている場合には、前記ステップS52で“1”に設定されるから、(17)式を満たす場合、2文字以上検出されていることになる。
ここで、画像処理装置5は、前記両条件を満たす場合、ステップS55に進み、前記両条件を満たさない場合、ステップS58に進む。
ステップS55では、画像処理装置5は、道路標示検出フラグDetectOKflagが0か否かを判定する。ここで、画像処理装置5は、道路標示検出フラグDetectOKflagが0の場合(DetectOKflag=0)、ステップS56に進み、そうでない場合(DetectOKflag=1)、ステップS57に進む。
ステップS56では、外界認識装置3は、前記ステップS15と同様に、例えばスピーカ装置からの音声として、例えば「一時停止」又は「一時停止です」を発話する。そして、ステップS57に進む。
ステップS57では、画像処理装置5は、道路標示検出フラグDetectOKflagに1を設定するとともに、検出後経過時間AfterDetectTime及び検出後距離AfterDetectDistを初期化する(DetectOKflag=1、AfterDetectTime=0、AfterDitectDist=0)。
続いてステップS58において、画像処理装置5は、運転者の運転操作状態や自車速等の自車両挙動の情報からなる前記ステップS42で読み込んだ自車挙動データ等を更新する。さらに、画像処理装置5は、下記(18)式により、検出後距離AfterDetectDistを加算し、さらに、下記(19)式により、変数rbAddrを加算する(アドレスを更新する)。そして、当該図5に示す処理を終了する(前記ステップS41から再び処理を開始する)。
AfterDetectDist=AfterDetectDist+V_z0・0.05 ・・・(18)
rbAddr=rbAddr+1 ・・・(19)
なお、V_z0は、今回のサンプリングにおける自車速である。
一方、前記ステップS44にて道路標示検出フラグDetectOKflagが1であり(DetectOKflag=1)、かつ検出後経過時間AfterDetectTimeが5(秒)よりも大きい場合(AfterDetectTime>5)に進む図6に示すステップS59では、画像処理装置5は、過去の期間AfterDetectTime+1(=6秒+1秒=7秒)以内に、直進路で制動しているか、又は直進路でアクセルをOffからOnにしているか否かを判定しており、具体的には、下記(20)式及び(21)式の何れかの条件を満足するか否かを判定する。
条件1(直進路で制動しているか否かの判定):
Max(δ_z0〜δ_zt)≒0
かつ
Max(Pb_z0〜Pb_zt)>ThBrk
・・・(20)
条件2(直進路でアクセルをオフからオンにしているか否かの判定):
Max(δ_z0〜δ_zt)≒0
かつ
Max(TV0_z0 〜TV0_zt)>ThTVOn
かつ
Min(TV0_z0 〜TV0_zt) <ThTVOff
かつ
zn_tvoff>zn_tvon
・・・(21)
ここで、関数Max(A〜Z)は、AからZまでの範囲のなかの最大値を求める関数であり、関数Min(A〜Z)は、AからZまでの範囲のなかの最小値を求める関数である。各値における接尾辞_ztは、(AfterDetectTime+1)の過去の期間内で得た(AfterDetectTime+1)/0.05の数分の各サンプリング時の情報を示す。ThBrkとは、制動力が発生したと判定できる閾値を示し、ThTVOnは、運転者がアクセルペダルを踏み込むこと(アクセルオン)に相当するスロットル開度の閾値を示し、ThTVOffは、運転者がアクセルペダルから足を離したこと(アクセルオフ)に相当するスロットル開度の閾値を示す。zn_tvoffは、Min(TV0_z0〜TV0_zt)を満たすスロットル開度TV0を得たサンプリング時期を示し、zn_tvonは、Max(TV0_z0〜TV0_zt)を満たすスロットル開度TV0を得たサンプリング時期を示し、よって、これらをサンプリング時期zn_tvoffとサンプリング時期zn_tvonとを比較することで、zn_tvoff>zn_tvonであった場合、(AfterDetectTime+1)の過去の期間内にアクセルをオフした後にアクセルをオンしたことを意味する。
以上の(20)式及び(21)式の何れかの条件を満足する場合、ステップS60に進み、そうでない場合、ステップS62に進む。
ステップS60では、画像処理装置5は、前記ステップS59と同じ過去の時間AfterDetectTime+1(秒)以内に、シャッタ速度が所定値以上か否かを判定し、具体的には、下記(22)式を満たすか否かを判定する。
Min(CamShutterSpeed[c1]〜CamShutterSpeed[c2])<ThSht ・・・(22)
ThSht=func2(V_zt) ・・・(23)
ここで、CamShutterSpeedは、個別マークが検出された場合に前記ステップS52で記憶されたシャッタ速度(CamShutterSpeed[rbAddr])であり、c1,c2は、前記ステップS59の条件を満たす期間(過去の(AfterDetectTime+1)の期間)の始期(最初のアドレス)及び終期(最後のアドレス)を示す。関数Min(A〜Z)は、AからZまでの範囲のなかの最小値を求める関数であるから、CamShutterSpeed[c1]〜CamShutterSpeed[c2]のうちで最小となる値が、Min(CamShutterSpeed[c1]〜CamShutterSpeed[c2])の値(出力値)になり、この(22)式では、当該値がThShtよりも小さいか否か判定される。
ThShtは、カメラのシャッタ速度の閾値を示す。閾値ThShtは、その値が小さくなるほど、高速なシャッタ速度になることを意味しており、(23)式に示すように、自車速Vを変数とする関数func2により設定される。
図8は、自車速Vと関数func2(秒)(=ThSht)との関係を示す。図8に示すように、自車速Vが大きくなるほど関数func2の示す値(閾値ThSht)は小さくなる。ここで、(23)式において自車速V_ztの接尾辞をなすtは、Min(CamShutterSpeed[c1]〜CamShutterSpeed[c2])の値(出力値)を得たサンプリング時期であり、このようなことから、閾値ThShtは、当該サンプリング時の自車速Vに対応する値になる。すなわち、(22)式は、CamShutterSpeed[c1]〜CamShutterSpeed[c2]のうちで最小となる値が、当該最小となる値を得た時の自車速Vに対応する閾値ThShtよりも小さくなることを示す判定式となる。この(22)式を満たす場合、ステップS61に進み、そうでない場合、ステップS62に進む。
ステップS61では、画像処理装置5は、個別マーク検出フラグDetectedMark[0]〜DetectedMark[3]を参照して、前記検出した個別マークのみ(DetectedMarkPattern[dn])、参照用パターンを学習することとして、具体的には、下記(24)式及び(25)式のような参照用パターンの学習を行う。
先ず、下記(24)式を実行する。
index[dn]=MaxIdx(OCR(RM00[dn],DetectedMarkPattern [dn][rbAddr-t]),OCR(RM05[dn],DetectedMarkPattern[dn][rbAddr-t]),OCR(RM10[dn],DetectedMarkPattern [dn][rbAddr-t]),OCR(RM15[dn],DetectedMarkPattern [dn][rbAddr-t]))
・・・(24)
ここで、dnは、検出できた個別マークの番号(0は「れ」、1は「ま」、2は「止」、3は「−」(停止線))を示す。また、RM00[dn]は、車体のピッチ角が水平(0.0°)の場合の番号dnの参照用パターンであり、RM05[dn]は、車体のピッチ角が0.5°下向きの場合の番号dnの参照用パターンであり、RM10[dn]は、車体のピッチ角が1.0°下向き場合の番号dnの参照用パターンであり、RM15[dn]は、車体のピッチ角が1.5°下向きの場合の番号dnの参照用パターンである。
MaxIdx(a,b,c,d)は、a,b,c, dの中で最大値となる引数のインデックス番号を求める関数となる。具体的には、a,b,c, dの中で、aが最大値であれば、MaxIdx(a,b,c,d)=0、bが最大値であれば、MaxIdx(a,b,c,d)=1、cが最大値であれば、MaxIdx(a,b,c,d)=2、dが最大値であれば、MaxIdx(a,b,c,d)=3になる。また、OCR(a,b)は、aとbの類似度を求める関数である。tは、前記ステップS60で求めた値、すなわち、Min(CamShutterSpeed[c1]〜CamShutterSpeed[c2])の値(出力値)を得たサンプリング時期である。
前記(24)式により、検出した個別マークDetectedMarkPattern [dn][rbAddr-t]について、各ピッチ角0°,0.5°,1.0°,1.5°の参照用パターンRM00[dn],RM05[dn],RM10[dn],RM15[dn]との比較を行い、最も類似度が高い参照用パターンを選択している(引数のインデックス番号を決定している)。
そして、(24)式により得た引数のインデックス番号(0〜3の何れかの値)に基づいて、下記(25)式により、参照用パターンRefMarkPatten[dn]を更新する。
if(index[dn]=0)RefMarkPatten[dn]=RM00[dn]
if(index[dn]=1)RefMarkPatten[dn]=RM05[dn]
if(index[dn]=2)RefMarkPatten[dn]=RM10[dn]
if(index[dn]=3)RefMarkPatten[dn]=RM15[dn]
・・・(25)
ここで、関数if(a)bは、aを満たす場合、bを実施する関数である。
この(25)式により、検出した個別マークDetectedMark[dn]に対応する参照用パターンRefMarkPatten[dn]を最も類似度が高いピッチ角の参照用パターンに更新する。なお、初期状態では、全ての参照用パターンについて、RM00が設定(RefMarkPatten[dn]=RM00[dn]、dn=0〜3)されている。
続いてステップS62において、画像処理装置5は、道路標示検出フラグDetectOKflag及び各個別マーク検出フラグDetectedMark[0]〜DetectedMark[3]を初期化する(DetectOKflag=0、DetectedMark[0]〜DetectedMark[3]=0)。そして、前記図5に示すステップS58の処理に進む。
一方、前記ステップS45にて道路標示検出フラグDetectOKflagが0であり(DetectOKflag=0)、かつ検出後経過時間AfterDetectTimeが3600(秒)よりも大きく(AfterDetectTime>3600)、かつ検出後距離AfterDetectDistが50000(m)よりも大きい場合(AfterDetectDist>50000)に進む図7に示すステップS63では、画像処理装置5は、全ての参照用パターンRefMarkPatten[0]〜RefMarkPatten[3]を初期化する処理として、下記(26)式による全参照用パターンRefMarkPatten[0]〜RefMarkPatten[3]の設定を行う。
RefMarkPatten[0]=RM00[0]
RefMarkPatten[1]=RM00[1]
RefMarkPatten[2]=RM00[2]
RefMarkPatten[3]=RM00[3]
・・・(26)
すなわち、全参照用パターンについて、ピッチ角が0°に対応するRM00に設定する。
続いてステップS64において、画像処理装置5は、検出後経過時間AfterDetectTime及び検出後距離AfterDetectDistを初期化する(AfterDetectTime=0、AfterDetectDist=0)。
(動作)
次に動作を説明する。
(1)個別マークを識別中の処理(DetectStep=1〜4の処理)
CCDカメラ4により自車両前方を撮像し、さらに、車速検出装置8、操舵角検出装置7及び制動力検出装置9等により、車速、舵角、ピッチ角度、ブレーキ液圧及びスロットル開度等を検出しており、画像処理装置5は、これらCCDカメラ4から撮像画像と車速検出装置8等から車速等とを取り込む(前記ステップS41、ステップS42)。
そして、画像処理装置5は、検出後経過時間AfterDetectTimeに0.05(秒)を加算するとともに、道路標示検出フラグDetectOKflagが1であり、かつ検出後経過時間AfterDetectTimeが5(秒)よりも大きいか否かを判定する(前記ステップS43、ステップS44)。ここで、画像処理装置5は、道路標示検出フラグDetectOKflagが1でなく、又は検出後経過時間AfterDetectTimeが5(秒)以下であり(前記ステップS44の判定で“No”の場合)、さらに、道路標示検出フラグDetectOKflagが0でなく、又は検出後経過時間AfterDetectTimeが3600(秒)以下であり、又は検出後距離AfterDetectDistが50000(m)以下の場合(前記ステップS45の判定で“No”の場合)、画像処理領域(探索領域)を設定するとともに(前記ステップS46)、認識状態カウンタ値DetectStep及び今回マーク検出フラグThisTimeOKflagを初期化する(前記ステップS47)。
続いて、画像処理装置5は、前記第1の実施形態と同様に、先に設定した画像処理領域(前記ステップS46)について、個別マークを識別するための前処理を行うとともに、認識状態カウンタ値DetectStepに基づいて参照用パターンRef_Markを決めて、当該前処理画像と当該参照用パターンRef_Markとの類似度を算出し、その算出した類似度に基づいて個別マークの認識の判定処理をする(前記ステップS48〜ステップS50)。
ここで、画像処理装置5は、類似度が類似度判定用閾値ThOCRよりも大きい場合、個別マークを検出できたとして、当該個別マークについて、交通標示情報等の記憶をし(前記(12)式〜(15)式)、認識状態カウンタ値DetectStepを1つ加算する(前記ステップS51の判定で“Yes”の場合、ステップS52、ステップS53)。
一方、画像処理装置5は、類似度が類似度判定用閾値ThOCR以下の場合、個別マークを検出できないとして、交通標示情報等を記憶することなく、認識状態カウンタ値DetectStepを1つ加算する(前記ステップS51の判定で“No”の場合、ステップS53)。
ここで、前記前処理のステップ(前記ステップS49)から前記認識状態カウンタ値DetectStepの加算ステップ(前記ステップS53)の処理では、前処理画像の類似度に関係なく、認識状態カウンタ値DetectStepを加算していく(DetectStepを0〜3まで順番に変化させていく)ことで、全ての参照用パターンRef_Mark(RefMarkPatten[0]〜RefMarkPatten[3])について類似度に基づく判定を行い、類似度が高い(類似度>ThOCR)個別マークについて交通標示情報等を記憶している。
(2)個別マーク全てについて識別処理した後(DetectStep=4になったときの処理)
画像処理装置5が、認識状態カウンタ値DetectStepが4になると(前記ステップS53の判定で“Yes”の場合)、今回新たに文字(個別マーク)を検出し、かつ2文字(個別マークを2つ)以上検出したか否かを判定して、今回新たに文字(個別マーク)を検出し、かつ2文字(個別マークを2つ)以上検出しており、さらに、道路標示検出フラグDetectOKflagが0の場合、外界認識装置3は、スピーカ装置から「一時停止」等を発話する(前記ステップS54の判定で“Yes”の場合、前記ステップS55の判定で“Yes”の場合、ステップS56)。そして、画像処理装置5は、道路標示検出フラグDetectOKflagに1を設定するとともに、検出後経過時間AfterDetectTime及び検出後距離AfterDetectDistを初期化し(前記ステップS57)、自車挙動データの更新等をする(前記ステップS58)。
ここで、画像処理装置5は、認識状態カウンタ値DetectStepが4になったが(前記ステップS53の判定で“Yes”の場合)、今回新たに文字(個別マーク)を検出していなく、又は2文字(個別マークを2つ)以上検出していない場合、直ぐに自車挙動データの更新等をする(前記ステップS54の判定で“Yes”の場合、ステップS58)。また、画像処理装置5が、認識状態カウンタ値DetectStepが4になり(前記ステップS53の判定で“Yes”の場合)、今回新たに文字(個別マーク)を検出し、かつ2文字(個別マークを2つ)以上検出しているが、道路標示検出フラグDetectOKflagが1の場合、外界認識装置3によるスピーカ装置からの発話をすることなく、画像処理装置5が、道路標示検出フラグDetectOKflagに1を設定するとともに、検出後経過時間AfterDetectTime及び検出後距離AfterDetectDistを初期化し、さらに自車挙動データの更新等をする(前記ステップS54の判定で“Yes”の場合、前記ステップS55の判定で“No”の場合、ステップS57、ステップS58)。
それから、画像処理装置5は、検出後経過時間AfterDetectTimeが5(秒)よりも大きくなったときに、道路標示検出フラグDetectOKflagが1であれば、過去の時間AfterDetectTime+1以内に、直進路で制動しているか、又は直進路でアクセルをオフからオンにしているかを判定する(前記ステップS59)。
ここで、画像処理装置5は、過去の期間AfterDetectTime+1以内に、直進路で制動している場合、又は直進路でアクセルをオフからオンにしている場合で、かつその状況下でのCCDカメラ4のシャッタ速度が閾値ThShtよりも小さい場合、検出した個別マーク(DetectedMarkPattern[dn])についての参照用パターンの学習(更新)を実施する(前記ステップS59の判定で“Yes”の場合、ステップS60の判定で“Yes”の場合、ステップS61)。そして、画像処理装置5は、道路標示検出フラグDetectOKflag及び各個別マーク検出フラグDetectedMark[0]〜DetectedMark[3]を初期化する(前記ステップS62)。
一方、画像処理装置5は、過去の期間AfterDetectTime+1以内に、直進路で制動していなく、かつ直進路でアクセルをオフからオンにしていない場合、参照用パターンの学習を実施することなく、道路標示検出フラグDetectOKflag及び各個別マーク検出フラグDetectedMark[0]〜DetectedMark[3]を直ぐに初期化する(前記ステップS59の判定で“No”の場合、ステップS62)。また、画像処理装置5は、過去の期間AfterDetectTime以内に、直進路で制動している場合、又は直進路でアクセルをオフからオンにしている場合でも、その状況下でのCCDカメラ4のシャッタ速度が閾値ThSht以上の場合、参照用パターンの学習を実施することなく、道路標示検出フラグDetectOKflag及び各個別マーク検出フラグDetectedMark[0]〜DetectedMark[3]を直接初期化する(前記ステップS59の判定で“No”の場合、ステップS60の判定で“No”の場合、ステップS62)。
そして、画像処理装置5は、以上のような参照用パターンの学習を、道路標示検出フラグDetectOKflagが0になり、かつ検出後経過時間AfterDetectTimeが3600(秒)よりも大きく、かつ検出後距離AfterDetectDistが50000(m)よりも大きくなる条件を満たすまで行い(前記ステップS45の判定で“No”の場合)、当該条件を満たすと、全ての参照用パターンRefMarkPatten[0]〜RefMarkPatten[3]を初期化するとともに、検出後経過時間AfterDetectTime及び検出後距離AfterDetectDistを初期化する(前記ステップS45の判定で“Yes”の場合、ステップS63、ステップS64)。
以上のような動作により、第2の実施形態では、車両用交通標示検出装置は、前処理画像と参照用パターンRef_Markとの類似度が類似度判定用閾値ThOCRよりも大きい場合に交通標示情報等を記憶する((12)式〜(15)式)一方で、前処理画像と参照用パターンRef_Markとの類似度に関係なく認識状態カウンタ値DetectStepを1つずつ加算していく。すなわち、車両用交通標示検出装置は、認識状態カウンタ値DetectStepを1つずつ加算していくことで、参照用パターンRef_Markを次々と換えていき、類似度が類似度判定用閾値ThOCRよりも大きくなる場合だけ、個別マークを検出したとして、交通標示情報等を記憶している((12)式〜(15)式)。
そして、車両用交通標示検出装置は、DetectStep=4となったタイミング、すなわち最後の参照用パターンRef_Markについての識別処理を終了したタイミングで、今回新たに文字(個別マーク)を検出し、かつ2文字(個別マークを2つ)以上検出しており、さらに、道路標示検出フラグDetectOKflagが0になっている場合、スピーカ装置から「一時停止」等を発話する。そして、車両用交通標示検出装置は、道路標示検出フラグDetectOKflagに1を設定し、かつ検出後経過時間AfterDetectTime及び検出後距離AfterDetectDistを初期化するとともに、自車挙動データの更新等をする。
その後、車両用交通標示検出装置は、検出後経過時間AfterDetectTimeが5(秒)よりも大きくなったときに、道路標示検出フラグDetectOKflagが1であれば、過去の期間AfterDetectTime+1以内に、直進路で制動しているか、又は直進路でアクセルをオフからオンにしており、その状況下でのCCDカメラ4のシャッタ速度が閾値ThShtよりも小さい場合、検出した個別マーク(DetectedMarkPattern[dn])についての参照用パターンの学習(更新)を実施する。
そして、以降の処理において、そのようにして学習した参照用パターンによる前記類似度の判定、すなわち道路標示の検出がなされる。そして、自動ブレーキ制御装置10は、画像処理装置5が検出した道路標示である停止線までの距離に基づいて自動ブレーキ制御を実施する。
また、車両用交通標示検出装置は、道路標示検出フラグDetectOKflagが0になり、かつ検出後経過時間AfterDetectTimeが3600(秒)よりも大きく、かつ検出後距離AfterDetectDistが50000(m)よりも大きくなる条件を満たすまで参照用パターンの学習(更新)を実施し、当該条件を満たすと、全ての参照用パターンRefMarkPatten[0]〜RefMarkPatten[3]を初期化するとともに、検出後経過時間AfterDetectTime及び検出後距離AfterDetectDistを初期化する。これにより、学習した参照用パターンを初期化する。
(作用)
次に作用を説明する。
特に第2の実施形態では、検出した個別マーク(撮像画像)に基づいて参照用パターンを学習している。すなわち、検出した個別マーク(撮像画像)そのもので参照用パターンを更新している。地域における文字のペイント手法等の種々の要因で交通標示が異なるから、それら種々の要因が加味された検出個別マークに基づいて参照用パターンを学習することで、個別マーク、すなわち交通標示の検出精度を高くすることができる。さらに、その参照用パターンの学習では、車体のピッチ角に応じて種々の参照用パターンを用意しておき、それら各参照用パターンと、検出できた個別マークとの類似度を算出して、最も類似度が高いピッチ角の参照用パターンを更新している。そして、以降の処理で、更新した参照用パターンに基づいて、個別マークを検出している。このように、自車両にピッチ角変化が生じることを前提にして、各ピッチ角に対応する参照用パターンを用意して、参照用パターンを個別に更新していくことで、個別マーク、すなわち交通標示の検出精度を高くすることができる。
また、参照用パターンRef_Markを次々と換えて、類似度が類似度判定用閾値ThOCRよりも大きい場合に、個別マークを検出したとして交通標示情報等を記憶していく一方で、今回新たに文字(個別マーク)を検出し、かつ2文字(個別マークを2つ)以上の場合にのみ、検出できた個別マークについて参照用パターンの学習を実施している。すなわち、交通標示を構成する全ての個別マークを検出することを条件とはせず、交通標示を構成する一部の個別マークを検出できた場合でも、当該一部の個別マークについて参照用パターンの学習を実施している。これにより、参照用パターン毎に検出精度を高めることができるから、その結果として、交通標示の検出精度を高めることができるようになる。
また、参照用パターンの学習、すなわち参照用パターンの更新を実施する条件として、アクセルがオフからオンになっていることを条件としている。「止まれ」の交通標示付近では、自車両が停止状態から走行状態に変化する、すなわち自車両が加速することから、アクセル操作が自車両の加速方向に変化するのに連動して参照用パターンの学習の実施を許可することで、実際の交通標示に基づく学習精度を高めることができる。これにより、交通標示の検出精度が高い参照用パターンにすることができる。さらに、参照用パターンの学習を実施する条件として、直進走行していることを条件としている。自車速が直進走行しているのに連動して参照用パターンの学習の実施を許可することで、横方向のブレがある状況下でCCDカメラ4により撮像された撮像画像により、参照用パターンの学習がなされてしまうようなことがないため、実際の交通標示に基づく学習精度を高めることができる。これにより、交通標示の検出精度が高い参照用パターンにすることができる。
そして、そのCCDカメラ4のシャッタ速度が閾値ThShtよりも小さい場合、すなわちシャッタ速度がある程度高速であれば、参照用パターンの学習の実施を許可している。これにより、シャッタ速度が高速である場合の撮像画像、すなわち被写体(個別マーク)が鮮明に写る撮像画像により参照用パターンの学習が実施されるようになるから、実際の交通標示に基づく学習精度を高めることができる。これにより、交通標示の検出精度が高い参照用パターンにすることができる。さらに、自車速Vが大きくなるほど閾値ThShtを小さくしている。これにより、自車速Vが大きくなるほど、シャッタ速度が高速でなければ、参照用パターンの学習の実施を許可しないようにしている。これにより、実際の交通標示に基づく学習精度を高めることができる。
また、検出後経過時間AfterDetectTimeが3600(秒)よりも大きく、かつ検出後距離AfterDetectDistが50000(m)よりも大きくなると、全ての参照用パターンを初期化している。すなわち、参照用パターンの学習を実施してから、ある一定の時間や距離が経過すると、これまで学習した参照用パターンを初期化している。時間経過や走行距離により日照条件等の交通標示の検出環境が変化するから、この場合、当該検出環境にこれまで学習(更新)した参照用パターンが適合しなくなる。このようなことから、ある一定の時間や距離が経過したときには、これまで学習した参照用パターンを初期化することで、現在の検出環境に適合しない参照用パターンを用いることで交通標示の検出精度が低下してしまうのを抑制できる。
なお、前記第2の実施形態の説明において、画像処理装置5のステップS43、ステップS45及びステップS58の処理は、補正手段が検出条件を補正した時点からの経過時間及び自車両の走行距離のうちの少なくとも一方の計数を開始する計数手段を実現しており、画像処理装置5のステップS63の処理は、前記計数手段の計数値が計数値判定用閾値よりも大きい場合、前記検出条件を初期化する初期化手段を実現している。
(効果)
(1)交通標示は、車両を停止させる標示であり、前記補正許可手段は、前記状態検出手段が自車両が加速するのを検出した場合、前記補正手段の補正を許可する。車両を停止させる交通標示付近では、自車両が停止状態から走行状態に変化する、すなわち自車両が加速することから、自車両の加速に連動して検出条件の補正を許可することで、実際の交通標示に基づく検出条件の補正精度を高めることができる。これにより、交通標示の検出精度が高くなる方向に検出条件を補正することができる。
(2)前記補正許可手段は、前記状態検出手段が自車両が直進走行するのを検出した場合、前記補正手段の補正を許可する。自車速の直進走行に連動して検出条件の補正を許可することで、横方向のブレがある状況下で撮像手段により撮像された撮像画像を用いて、検出条件を補正してしまうようなことがないため、実際の交通標示に基づく検出条件の補正精度を高めることができる。これにより、交通標示の検出精度が高くすることができる。
(3)前記補正許可手段は、前記撮像手段のシャッタ速度がシャッタ速度判定用閾値よりも大きい場合、前記補正手段の補正を許可する。これにより、シャッタ速度が高速である場合の撮像画像、すなわち被写体が鮮明に写る撮像画像により検出条件の補正がなされるようになるから、実際の交通標示に基づく検出条件の補正精度を高めることができる。これにより、交通標示の検出精度を高くすることができる。
(4)前記シャッタ速度判定用閾値は、自車両が速くなるほど大きくなる。これにより、自車両が速くなるほど、より高速のシャッタ速度で撮像した撮像画像により検出条件の補正が許可されるようになるから、実際の交通標示に基づく検出条件の補正精度を高めることができる。これにより、交通標示の検出精度を高くすることができる。
(5)前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との比較結果に基づいて、前記交通標示の検出を行っており、前記補正手段は、前記撮像画像の状態に基づいて、前記交通標示認識用の情報を補正する。地域における文字のペイント手法等の種々の要因により交通標示が異なるから、それら種々の要因が加味された撮像画像(実際の交通表示)の状態に基づいて交通標示認識用の情報そのものを補正することで、交通標示の検出精度を高くすることができる。
(6)前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との比較結果に基づいて、前記交通標示の検出を行うとともに、前記交通標示認識用の情報を自車両のピッチ角に対応して複数用意しており、前記補正手段は、前記撮像画像の状態に基づいて、ピッチ角に対応する交通標示認識用の情報を補正する。自車両にピッチ角変化が生じることを前提として、各ピッチ角に対応する交通標示認識用の情報を用意して当該交通標示認識用の情報を個別に補正することで、交通標示の検出精度を高くすることができる。
(7)前記補正手段が前記検出条件を補正した時点からの経過時間及び自車両の走行距離のうちの少なくとも一方の計数を開始する計数手段と、前記計数手段の計数値が計数値判定用閾値よりも大きい場合、前記検出条件を初期化する初期化手段とを備える。検出条件を補正した時点からの計数値が計数値判定用閾値よりも大きい場合、検出条件を初期化することで、時間経過や走行距離により日照条件等の交通標示の検出環境が変化するから、現在の検出環境に適合しなくなった検出条件(以前の検出環境で補正された検出条件)を用いることで交通標示の検出精度が低下してしまうのを抑制できる。
(8)前記交通標示は、複数の文字及び記号のうちの少なくとも一方で構成されるものであり、前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した前記複数の文字及び記号に対応する複数の識別用の情報との比較結果に基づいて、前記交通標示の検出を行っており、前記補正手段は、前記複数の識別用の情報毎に補正をする。複数の識別用の情報毎に補正をすることで、交通標示を構成する文字又は記号毎の検出精度を高めることができ、その結果、交通標示の検出精度を高めることができる。
(第3の実施形態)
次に第3の実施形態を説明する。
第3の実施形態は、本発明を適用した車両であり、車両用交通標示検出装置を搭載した車両である。
(構成)
第3の実施形態の車両の構成は、前記第1の実施形態の車両の構成と同じである。図9及び図10は、第3の実施形態における各装置による一連の処理手順を示す。図9及び図10に示す処理手順の基本的な部分は、前記図2及び図3に示した第1の実施形態における処理手順と同一であるが、第3の実施形態における処理では、特に、前記ステップS2の処理内容を変更したステップS81を設け、また、前記ステップS9〜ステップS11の間に、ステップS82及びステップS83を設け、また、前記ステップS18の処理内容を変更したステップS84を設け、また、ステップS21の処理内容を変更したステップS85を設けている。以下の説明では、第3の実施形態における処理において、前記第1の実施形態における処理と同一符号を付してあるものについては、特に言及しない限りは同一である。
図9に示すように、ステップS1に続いてステップS81に進んでおり、このステップS81では、外界認識装置3は、前記ステップS2の処理(自動車挙動データの読込み)に加えて、ワイパーの作動状態を示すフラグ(以下、ワイパー作動状態フラグという。)WiperDutyを読込む。ここで、ワイパー作動状態フラグWiperDutyは、0〜1の範囲で変化するデューティー比であり、大きくなるほど(1に近づくほど)ワイパーが激しく作動することを示す。
また、ステップS9にて類似度が類似度判定用閾値ThOCRよりも大きい場合にステップS82に進んでおり、このステップS82では、画像処理装置5は、今回のサンプリングにおけるピッチ角Ap_z0が所定値以内にあるか否かを判定する処理として、ピッチ角Ap_z0の絶対値|Ap_z0|が閾値Th_Pitch未満か否かを判定する。ここで、閾値Th_Pitchは、車体が滑らかに走行していると判定できるピッチ角に相当する値である。このステップS82において、画像処理装置5は、ピッチ角Ap_z0の絶対値|Ap_z0|が閾値Th_Pitch未満の場合(|Ap_z0|<Th_Pitch)、ステップS10に進み、ピッチ角Ap_z0の絶対値|Ap_z0|が閾値Th_Pitch以上の場合(|Ap_z0|≧Th_Pitch)、ピッチ角がある程度生じているとして、ステップS83に進む。
ステップS83では、画像処理装置5は、ピッチの状態を示すフラグ(以下、ピッチ状態フラグという。)PitchConditionNGを1に設定する(PitchConditionNG=1)。そして、ステップS11に進む。なお、ピッチ状態フラグPitchConditionNGは、初期値として0が設定されている。ピッチ状態フラグPitchConditionNGが0の場合とは、ピッチ角が生じていない、又は生じているとしてもその値が小さい場合である。
なお、ステップS10では、画像処理装置5は、前記第1の実施形態と同様に、検出した個別マークの前処理画像(微分画像)の平均値Av及び分散値Vrを交通標示情報DetectedMarkPattern[DetectStep]として記憶メモリに記憶し(更新し)、ステップS11では、画像処理装置5は、前記第1の実施形態と同様に、認識状態カウンタ値DetectStepを1つ加算するとともに(DetectStep=DetectStep+1)、その1つ加算した認識状態カウンタ値DetectStepが4であるか否かを判定する。
また、ステップS3にて認識状態カウンタ値DetectStepが4の場合にステップS84に進んでおり、このステップS84では、画像処理装置5は、前記ステップS18の処理(検出後経過時間AfterDetectTimeが0.5(秒)未満か否かの判定)に加えて、ピッチ状態フラグPitchConditionNGが0か否かを判定する。このステップS84において、両条件と満たす場合(AfterDetectTime<0.5かつPitchConditionNG=0)、ステップS20に進み、そうでない場合、ステップS19に進む。
なお、ステップS19では、画像処理装置5は、前記第1の実施形態と同様に、認識状態カウンタ値DetectStepに0を設定し(DetectStep=0)、ステップS20では、前記第1の実施形態と同様に、画像処理装置5が、検出後経過時間AfterDetectTimeに0.05(秒)を加算するともに(AfterDetectTime=AfterDetectTime+0.05)、外界認識装置3が、過去の時間AfterDetectTimeにおいて、制動力が発生し、かつ車速が略0(停車状態)になっているか否かを判定する。
また、ステップS16にて現時点から過去1秒間において、制動力が発生し、かつ車速が略0(停車状態)になっている場合にステップS85に進んでおり、このステップS85では、前記ステップS9で検出した個別マークの濃淡情報に基づいて、類似度判定用閾値の候補(閾値候補)ThOCR_candを下記(27)式により算出する。
ThOCR_cand=Σfunc3(WiperDuty)・Σfunc1(Av_n,Vr_n)/MaxDetectStep ・・・ (27)
ここで、関数func3は、図11に示すような特性を有する。図11に示すように、関数func3が示す値は、0〜1の範囲で変化し、ワイパー作動状態フラグWiperDutyが大きくなるほど小さくなる。
この(27)式によれば、ワイパー作動状態フラグWiperDutyが大きくなるほど、すなわちワイパーが激しく動作するほど、閾値候補ThOCR_candは小さくなる。
(動作)
次に動作を説明する。
また、第3の実施形態では、前処理画像と参照用パターンRef_Markとの類似度が類似度判定用閾値ThOCRよりも大きい場合に(前記ステップS9の判定で“Yes”の場合)、今回のサンプリングにおけるピッチ角Ap_z0の絶対値|Ap_z0|が閾値Th_Pitch未満か否かを判定しており(前記ステップS82)、ここで、今回のサンプリングにおけるピッチ角Ap_z0の絶対値|Ap_z0|が閾値Th_Pitch未満の場合、PitchConditionNGを0に設定(維持)し(前記ステップS82の判定で“Yes”の場合)、今回のサンプリングにおけるピッチ角Ap_z0の絶対値|Ap_z0|が閾値Th_Pitch以上の場合、PitchConditionNGを1に設定する(前記ステップS82の判定で“No”の場合、ステップS83)。
これにより、検出後経過時間AfterDetectTimeが0.5(秒)以上、又はピッチ状態フラグPitchConditionNGが1の場合(|Ap_z0|≧Th_Pitch)、認識状態カウンタ値DetectStepに0を設定する(DetectStep=0)。
一方、検出後経過時間AfterDetectTimeが0.5(秒)未満で、かつピッチ状態フラグPitchConditionNGが0の場合(|Ap_z0|<Th_Pitch)、検出後経過時間AfterDetectTimeに0.05(秒)を加算するともに、外界認識装置3が、過去の期間AfterDetectTimeにおいて、制動力が発生し、かつ車速が略0(停車状態)であったか否かを判定する(前記ステップS84の判定で“Yes”の場合、ステップS20)。
ここで、過去の期間AfterDetectTimeに、制動力が発生し、かつ車速が略0(停車状態)である場合(前記ステップS20の判定で“Yes”の場合)、検出した個別マークの濃淡情報及びワイパーの作動状態を示すフラグWiperDuty(前記ステップS81で読み込んだ値)に基づいて、類似度判定用閾値の候補(閾値候補)ThOCR_candを前記(27)式により算出する(前記ステップS85)。これにより、ワイパー作動状態フラグWiperDutyが大きくなるほど、すなわちワイパーが激しく動作しているほど、閾値候補ThOCR_candを小さく設定する。この結果、ワイパー作動状態フラグWiperDutyが大きくなるほど、すなわちワイパーが激しく動作しているほど、類似度判定用閾値ThOCRが小さくなる(前記ステップS22)。
(作用)
次に作用を説明する。
通常、ワイパーを動作させる場合とは、雨や雪等が降っている場合であり、雨や雪等が降っている場合、水溜まりへの背景の映りこみや残雪等により交通標示が隠れてしまう場合がある。このようなことから、ワイパーが動作している場合に、類似度判定用閾値ThOCRを小さくする補正(ワイパー動作が激しいほど、より小さく補正)を許可することで、水溜まりへの背景の映りこみや残雪等により一部が隠れている交通標示を検出し易くすることができる。
(効果)
(1)前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との類似度が類似度判定用閾値よりも大きい場合、前記交通標示の検出を行っており、前記補正許可手段は、自車両のワイパーが作動する場合、前記補正手段による前記類似度判定用閾値を小さくする補正を許可する。ワイパーを作動させる場合とは、雨や雪等が降っている場合であり、雨や雪等が降っている場合、水溜まりへの背景の映りこみや残雪等により交通標示が隠れてしまう場合がある。このようなことから、ワイパーが作動している場合に、類似度判定用閾値を小さくする補正を許可することで、水溜まりへの背景の映りこみや残雪等により一部が隠れている交通標示を検出し易くすることができる。
本発明の第1の実施形態の車両の構成を示す図である。 第1の実施形態における交通標示検出処理の一部の処理手順を示すフローチャートである。 第1の実施形態における交通標示検出処理の一部の処理手順を示すフローチャートである。 平均値Av及び分散値Vrと関数func1との関係を示す特性図である。 第2の実施形態における交通標示検出処理の一部の処理手順を示すフローチャートである。 第2の実施形態における交通標示検出処理の一部の処理手順を示すフローチャートである。 第2の実施形態における交通標示検出処理の一部の処理手順を示すフローチャートである。 自車速Vと関数func2との関係を示す特性図である。 第3の実施形態における交通標示検出処理の一部の処理手順を示すフローチャートである。 第3の実施形態における交通標示検出処理の一部の処理手順を示すフローチャートである。 ワイパー作動状態フラグWiperDutyと関数func3との関係を示す特性図である。
符号の説明
1 レーザレーダ、2 レーダ処理装置、3 外界認識装置、4 CCDカメラ、5 画像処理装置、6 情報提供装置、7 操舵角検出装置、8 車速検出装置、9 制動力検出装置、10 自動ブレーキ制御装置、11 負圧ブレーキブースタ

Claims (15)

  1. 自車両前方を撮像するシャッタ速度が可変の撮像手段と、
    前記撮像手段が撮像して得た撮像画像から交通標示を検出する際の検出条件が設定されており、その検出条件に従って前記撮像画像から交通標示を検出する交通標示検出手段と、
    前記交通標示検出手段が前記撮像画像から交通標示を検出する際の前記検出条件を補正する補正手段と、
    自車両の状況に応じて、前記補正手段の補正を許可する補正許可手段と、
    を備え
    前記補正許可手段は、前記撮像手段のシャッタ速度がシャッタ速度判定用閾値よりも大きい場合、前記補正手段の補正を許可することを特徴とする車両用交通標示検出装置。
  2. 前記シャッタ速度判定用閾値は、自車両が速くなるほど大きくなることを特徴とする請求項に記載の車両用交通標示検出装置。
  3. 前記交通標示検出手段による前記交通標示の検出時前後の運転者による運転操作状態及び自車両挙動のうちの少なくとも一方を検出する状態検出手段を備え、前記補正許可手段は、前記撮像手段のシャッタ速度の他に、前記状態検出手段が検出した運転操作状態及び自車両挙動のうちの少なくとも一方に基づいて、前記補正手段の補正を許可することを特徴とする請求項1又は2に記載の車両用交通標示検出装置。
  4. 前記交通標示は、車両を停止させる標示であり、前記補正許可手段は、前記状態検出手段が自車両を停止させる運転操作を検出した場合、前記補正手段の補正を許可することを特徴とする請求項に記載の車両用交通標示検出装置。
  5. 前記交通標示は、車両を停止させる標示であり、前記補正許可手段は、前記状態検出手段が車速度がゼロであることを検出した場合、前記補正手段の補正を許可することを特徴とする請求項3又は4に記載の車両用交通標示検出装置。
  6. 前記交通標示は、車両を停止させる標示であり、前記補正許可手段は、前記状態検出手段が自車両が加速するのを検出した場合、前記補正手段の補正を許可することを特徴とする請求項3〜5の何れか1項に記載の車両用交通標示検出装置。
  7. 前記補正許可手段は、前記状態検出手段が自車両が直進走行するのを検出した場合、前記補正手段の補正を許可することを特徴とする請求項3〜6の何れか1項に記載の車両用交通標示検出装置。
  8. 前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との類似度が類似度判定用閾値よりも大きい場合、前記交通標示の検出を行っており、前記補正許可手段は、自車両のワイパーが作動する場合、前記補正手段による前記類似度判定用閾値を小さくする補正を許可することを特徴とする請求項1〜の何れか1項に記載の車両用交通標示検出装置。
  9. 前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との類似度が類似度判定用閾値よりも大きい場合、前記交通標示の検出を行っており、前記補正手段は、前記撮像画像の濃淡及び色彩のうちの少なくとも一方に基づいて、前記類似度判定用閾値を補正することを特徴とする請求項1〜の何れか1項に記載の車両用交通標示検出装置。
  10. 前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との比較結果に基づいて、前記交通標示の検出を行っており、前記補正手段は、前記撮像画像の状態に基づいて、前記交通標示認識用の情報を補正することを特徴とする請求項1〜の何れか1項に記載の車両用交通標示検出装置。
  11. 前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した交通標示認識用の情報との比較結果に基づいて、前記交通標示の検出を行うとともに、前記交通標示認識用の情報を自車両のピッチ角に対応して複数用意しており、前記補正手段は、前記撮像画像の状態に基づいて、ピッチ角に対応する交通標示認識用の情報を補正することを特徴とする請求項1〜10の何れか1項に記載の車両用交通標示検出装置。
  12. 前記補正手段が前記検出条件を補正した時点からの経過時間及び自車両の走行距離のうちの少なくとも一方の計数を開始する計数手段と、前記計数手段の計数値が計数値判定用値よりも大きい場合、前記検出条件を初期化する初期化手段とを備えることを特徴とする請求項1〜11の何れか1項に記載の車両用交通標示検出装置。
  13. 前記交通標示は、複数の文字及び記号のうちの少なくとも一方で構成されるものであり、前記交通標示検出手段は、前記撮像手段が撮像して得た撮像画像と予め用意した前記複数の文字及び記号に対応する複数の識別用の情報との比較結果に基づいて、前記交通標示の検出を行っており、前記補正手段は、前記複数の識別用の情報毎に補正をすることを特徴とする請求項1〜12の何れか1項に記載の車両用交通標示検出装置。
  14. 自車両前方を撮像するシャッタ速度が可変の撮像手段と、
    前記撮像手段が撮像して得た撮像画像から交通標示を検出する際の検出条件が設定されており、その検出条件に従って前記撮像画像から交通標示を検出する交通標示検出手段と、
    前記交通標示検出手段が前記撮像画像から交通標示を検出する際の前記検出条件を補正する補正手段と、
    自車両の状況に応じて、前記補正手段の補正を許可する補正許可手段と、
    を備え
    前記補正許可手段は、前記撮像手段のシャッタ速度がシャッタ速度判定用閾値よりも大きい場合、前記補正手段の補正を許可することを特徴とする自動車。
  15. 自車両周囲をシャッタ速度が可変の撮像手段によって撮像する撮像ステップと、
    前記撮像ステップで得た撮像画像から、交通標示を検出する交通標示検出ステップと、
    自車両の状況が前記検出条件の補正に適合しているか否かに応じて、前記交通標示検出ステップにおいて交通標示を検出する際の検出条件を補正する補正ステップと、
    を含み、
    前記補正ステップは、前記撮像ステップにおける前記撮像手段のシャッタ速度がシャッタ速度判定用閾値よりも大きい場合、前記検出条件を補正することを特徴とする車両用交通標示検出方法。
JP2006101937A 2006-04-03 2006-04-03 車両用交通標示検出装置、自動車及び車両用交通標示検出方法 Expired - Fee Related JP4910458B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006101937A JP4910458B2 (ja) 2006-04-03 2006-04-03 車両用交通標示検出装置、自動車及び車両用交通標示検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006101937A JP4910458B2 (ja) 2006-04-03 2006-04-03 車両用交通標示検出装置、自動車及び車両用交通標示検出方法

Publications (2)

Publication Number Publication Date
JP2007279818A JP2007279818A (ja) 2007-10-25
JP4910458B2 true JP4910458B2 (ja) 2012-04-04

Family

ID=38681233

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006101937A Expired - Fee Related JP4910458B2 (ja) 2006-04-03 2006-04-03 車両用交通標示検出装置、自動車及び車両用交通標示検出方法

Country Status (1)

Country Link
JP (1) JP4910458B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3041589B1 (fr) * 2015-09-24 2017-10-20 Renault Sas Dispositif d'aide a la conduite pour estimation du danger d'une situation
KR102333033B1 (ko) 2017-12-07 2021-12-01 삼성전자주식회사 차량 및 그 제어 방법
JP7006635B2 (ja) * 2019-02-28 2022-01-24 株式会社豊田中央研究所 制御装置、移動体、および学習方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002219998A (ja) * 2001-01-23 2002-08-06 Auto Network Gijutsu Kenkyusho:Kk 安全運転支援装置
JP3945305B2 (ja) * 2002-04-26 2007-07-18 日産自動車株式会社 運転者将来状況予測装置
JP4023228B2 (ja) * 2002-06-19 2007-12-19 日産自動車株式会社 車載用障害物検知装置
JP2005128790A (ja) * 2003-10-23 2005-05-19 Fuji Heavy Ind Ltd 制限速度認識装置、制限速度表示装置、速度警報装置及び速度制御装置
JP4134894B2 (ja) * 2003-12-09 2008-08-20 株式会社デンソー 車両運転支援装置
JP3722487B1 (ja) * 2004-05-19 2005-11-30 本田技研工業株式会社 車両用走行区分線認識装置

Also Published As

Publication number Publication date
JP2007279818A (ja) 2007-10-25

Similar Documents

Publication Publication Date Title
JP3722487B1 (ja) 車両用走行区分線認識装置
JP3898709B2 (ja) 車両用走行区分線認識装置
JP5206687B2 (ja) 路面標示画像処理装置,路面標示画像処理方法及びプログラム
JP4654163B2 (ja) 車両の周囲環境認識装置及びシステム
JP5747549B2 (ja) 信号機検出装置及びプログラム
JP4970516B2 (ja) 周囲確認支援装置
JP3780848B2 (ja) 車両の走行路認識装置
JP5682304B2 (ja) 画像提供装置
WO2014091877A1 (ja) 移動物体位置姿勢角推定装置及び移動物体位置姿勢角推定方法
KR102043089B1 (ko) 차선 검출 방법, 이를 수행하기 위한 장치 및 기록매체
JP3722486B1 (ja) 車両用走行区分線認識装置
WO2020090251A1 (ja) 物体認識装置、物体認識方法および物体認識プログラム
CN112389419B (zh) 识别停车位的方法和停车辅助系统
JP2005038407A (ja) 車両用外界認識装置
JP2009252198A (ja) 走行環境推測装置、方法及びプログラム並びに車線逸脱警報装置及び操舵アシスト装置
JP4296287B2 (ja) 車両認識装置
JP4910458B2 (ja) 車両用交通標示検出装置、自動車及び車両用交通標示検出方法
JP5090313B2 (ja) 路面標示認識装置
US11580695B2 (en) Method for a sensor-based and memory-based representation of a surroundings, display device and vehicle having the display device
JP2019158662A (ja) 物標認識装置及び車両走行制御システム
WO2005111964A1 (ja) 車両用走行区分線認識装置
KR20080004833A (ko) 주간 및 야간 주행 차량을 조도상황에 따라 검출하는 방법및 장치
JP2006012191A (ja) 車両用走行区分線認識装置
JP2010061375A (ja) 物体認識装置及びプログラム
JP2007018451A (ja) 道路区画線検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090225

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100917

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110628

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111220

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120102

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150127

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees