JP3552504B2 - 路面状態判別装置 - Google Patents

路面状態判別装置 Download PDF

Info

Publication number
JP3552504B2
JP3552504B2 JP32240797A JP32240797A JP3552504B2 JP 3552504 B2 JP3552504 B2 JP 3552504B2 JP 32240797 A JP32240797 A JP 32240797A JP 32240797 A JP32240797 A JP 32240797A JP 3552504 B2 JP3552504 B2 JP 3552504B2
Authority
JP
Japan
Prior art keywords
road surface
light
image
road
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP32240797A
Other languages
English (en)
Other versions
JPH10221043A (ja
Inventor
浩 福井
潤一 高木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP32240797A priority Critical patent/JP3552504B2/ja
Publication of JPH10221043A publication Critical patent/JPH10221043A/ja
Application granted granted Critical
Publication of JP3552504B2 publication Critical patent/JP3552504B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Description

【0001】
【産業上の利用分野】
この発明は、自動車などの車両が走行する道路において、路面上の水分の有無や凍結状態など、路面状態の判別を行うための装置に関する。
【0002】
【従来の技術】
特に寒冷地においては、冬季になると、路上に雪が積もったり路面が凍結したりして、スリップ事故が起こる可能性が高くなる。このため路面状態を速やかに判別して事故防止のための対策をとる必要がある。
【0003】
図32は、一般に用いられている路面状態の判別装置を示すもので、道路RDの側方の支柱44から路面LDの上方に向けてポール45を突出させ、このポール45により投光部40,受光部42,路面温度計41などを支持させている。また支柱44の適宜位置には、制御装置43が配備される。
【0004】
前記投光部40は、路面LDに向かって赤外線光を照射するためのもので、受光部42は路面からの拡散反射光を受光して、その受光量データを制御装置43へと出力する。また路面温度計41は、赤外線検知素子により路面温度を計測するもので、その計測値は同様に制御装置43へと出力される。
【0005】
制御装置43は、路面からの反射光量は、路面が乾燥した状態より濡れた状態にあるときに大きくなるという原理に基づき、前記受光部42からの受光量データを用いて、路面上の水分の有無を検知する。さらに制御装置43は、この受光量データから得られる反射光率や路面温度の計測値から路面LDの凍結や積雪の有無を判別し、その判別結果を道路の管理センターなどに送信する。
【0006】
【発明が解決しようとする課題】
路面からの反射光量により路面上の水分量を判別する場合、判別処理に必要な受光量データを得るためには、各光学系の設置位置の選択や設置角度の詳細な位置決めが必要となり、設置に手間がかかるという問題がある。
【0007】
また路面の凍結や湿潤時には正反射光量が大幅に増大するので、検出精度を向上させるために正反射光量も受光する必要があるが、この正反射光用の受光部を設置するには、図31中の点線で示すように、ポール45をさらに道路の中央よりに延ばす必要があって設置が難しくなる。
【0008】
そこでこの問題を解決するための装置として、投光部と受光部とを対向配備させるとともに、偏光板を用いて入射角および反射角がブリュースター角の近傍になるような光を受光し、その受光量により路面のぬれ状態を判別するようにしたものが提案されている(特開平5−264442号)。
【0009】
しかしながらこの装置では、路面上の数十cm四方の領域内の計測値に基づいて路面状態を判別するだけであるので、道路上のわだち部分と平坦部分とにおける路面状態の差異や、路面凍結などに生じる路面の凹凸状態のばらつきを詳細に判別することは不可能である。また入射角および反射角がブリュースター角近傍にある光を計測対象とするために、光学系の機構が複雑化し、装置コストが高くなるという問題がある。
【0010】
さらに実際に路面上に光を照射した場合、路面からの反射光は、その路面状態に応じて異なる反射パターンをとるので、前記図31や特開平5−264442号の装置のように、単に特定方向に向かう反射光の光量を抽出するだけでは、路面状態を詳細に判別することなど不可能である。
【0011】
この発明は上記問題点に着目してなされたもので、路面の上方に配備された光源より路面上に光を照射し、路面からの正反射光および拡散反射光を撮像して得られた画像上に所定のラインを複数設定し、各ラインに沿う光量分布を抽出することにより、路面状態を反映した正反射光および拡散反射光の特性に基づき路面状態を正確に判別することを技術課題とする。
【0013】
【課題を解決するための手段】
請求項1の発明にかかる路面状態判別装置は、路面の上方に長さ方向を道路の幅方向に対応させた状態で配備される所定長さの光源と、路面の上方に配備され撮像対象領域が路面上の光源の光照射位置を含む大きさとなるように位置および撮像角度が調整される撮像手段と、前記撮像手段が路面からの正反射光および拡散反射光を撮像して得られた画像上に前記光源の鏡面反射像の結像位置を通りかつその鏡面反射像の長さ方向に直交する複数のラインを設定するとともに、各ラインに沿う光量分布をそれぞれ抽出し、その抽出結果に基づいて路面状態の判別処理を行う制御手段とを備えている。
【0015】
請求項2の発明にかかる路面状態判別装置は、路面の上方に道路の幅方向に沿って配備される複数の光源と、路面の上方に配備され撮像対象領域が路面上の各光源の光照射位置を含む大きさとなるように位置および撮像角度が調整された撮像手段と、前記撮像手段が路面からの正反射光および拡散反射光を撮像して得られた画像上に各光源の鏡面反射像の結像位置を通りかつ各光源の鏡面反射像が並ぶ方向に直交する複数のラインを設定するとともに、各ラインに沿う光量分布を抽出し、その抽出結果に基づいて路面状態の判別処理を行う制御手段とを備えている。
【0020】
【作用】
この発明による路面状態判別装置では、路面の上方に長さ方向を道路の幅方向に対応させた状態で所定長さの光源を配備するか、路面の上方に道路の幅方向に沿って複数の光源を配備するかして、そのような光源より路面上に光を照射すると、その照射光は光照射位置の凹凸や水分の状態などに応じた反射パターンをもって反射する。路面からの正反射光および拡散反射光を撮像して得られた画像上に複数のラインを設定して各ラインに沿って光量分布をそれぞれ抽出するので、ライン毎に路面状態に応じた正反射光および拡散反射光の特性を反映した光量分布を得ることができ、ライン毎の光量分布の抽出結果から個別の路面判別処理を行ったり、これらの路面判別結果を統合することが可能となる。
【0028】
【発明の実施の態様】
以下に示す各実施例は、路面上の所定位置に光を照射してその反射光を受光した後、その受光量データにより反射光の特性を抽出して路面状態を判別する。ここでは反射光の特性として、1)受光手段に結像した反射光像の輝度の分布状態,2)反射光の空間周波数の分布状態,のいずれかを抽出しており、以下の(1)〜(4)は1)の方法を用いた実施例を、(5)〜(8)は2)の方法を用いた実施例を、それぞれ示す。
【0029】
【実施例】
(1)第1の装置構成
図1は、この発明にかかる路面状態判別装置の基本的な構成を示す。
この実施例の路面判別装置は、道路RDの側方に設置された支柱6と、この支柱6から路面上方の道路横断方向に突出させたポール7により支持されるもので、ポール7には投光部1, テレビカメラ2(以下単に「カメラ2」という),路面温度計3が、支柱6には制御装置4,外気温度計5が、それぞれ配備される。
なお図中、8は投光部1,カメラ2,路面温度計3を保護するためのカバー体を、9は道路RDに沿って配備されるガードレールを、それぞれ示す。
【0030】
前記投光部1は、複数個(図示例では6個)の光源1aを、ポール7の長さ方向に沿わせて配備したもので、各光源1aにより、道路RDの横断方向に沿う複数の位置に光が照射される。またカメラ2は、各光源の光照射位置を含む所定領域を撮像するようにその位置および撮像角度が調整される。
なおこの実施例の光源1aには、所定大きさの蛍光灯が用いられているが、これに限らず、赤外線LEDなど、所定の広がりをもった光を照射する光源を用いてもよい。
【0031】
図2は、前記路面状態判別装置の光学系の関係を示す。図中、θはカメラ2の視野角を、50は投光部1の仮想の鏡面像を、それぞれ示す。
いまカメラ2の視野角を20度、ポール7の高さを5mとすると、路面LD上における撮像対象領域は、約1.8mの大きさを具備することになる。また投光部1の長さを3mと想定し、路面LDが水分により鏡面になっているものと仮定すると、道路横断方向に沿う1.5mの範囲に各光源の鏡面反射像が生成されることになる。
【0032】
上記構成の装置において、投光部1の各光源1aから路面LDに向かって光を照射すると、その照射光に対する路面からの反射光は、その路面状態に応じて異なる反射パターンをとる。前記カメラ2は、その反射パターンの特性を捉えた画像を生成するためのもので、制御装置4は、このカメラ2からの画像信号を取り込んで後記する所定の処理を実施することにより、路面LDの水分,凍結などの有無を判別する。
【0033】
図3は、前記路面状態判別装置の電気的構成を示す。
前記投光部1は、各光源1aのほか、これら光源1aの順次点灯動作を制御するための投光制御部10を具備する。また制御装置4は、前記カメラ2からの画像を処理するのに必要なA/D変換部11,画像メモリ12,画像処理部13,タイミング制御部14のほか、制御の主体となるCPU15,制御用プログラムや作業用データを格納するためのメモリ16,送信部17などを構成として備えている。
【0034】
前記タイミング制御部14は、前記投光制御部10より各光源1aに出力される駆動信号に同期するタイミングで、カメラ2にタイミング信号を出力する。これによりカメラ2は、各光源1aが点灯および消灯する都度、撮像動作を行って、アナログ量の画像データを出力する。
【0035】
前記タイミング信号は、制御装置4内の画像処理に関わる各部にも与えられ、各撮像動作毎の画像データがA/D変換部11によりディジタル変換されて、画像メモリ12へと格納される。画像処理部13は、各光源1a毎に、点灯時の画像と消灯時の画像とを取り込んで後記する差分処理により影などのノイズを除去した後、その差分処理後の画像上において、反射光の特性を抽出する(抽出処理の詳細は後記する)。各光源1a毎の抽出結果は、順次CPU15へと出力されて前記した方法による路面状態の判別処理が実施されるもので、その判別結果は、送信部17を介して道路センターのホストコンピュータ(図示せず)などに送信される。
なお路面温度計3,外気温度計5の各計測値は、画像処理による判別結果を確認するためなどに用いられる。
【0036】
(2)路面状態毎の反射光の特性について
図4〜7は、それぞれ、通常の乾いたアスファルト路面(以下「乾燥路面」という),路上の水分が凍結した状態にある路面(以下「凍結路面」という),雨などにより濡れた状態にある路面(以下「湿潤路面」という),水たまりが生じた路面(以下「冠水路面」という)について、路面上に照射された光に対する反射光の反射パターンと、この反射光を前記カメラ2により撮像して得られた画像とを示す。以下、各図を参照しながら各路面毎の反射光の特性について、説明する。
【0037】
なお図4〜7の各下段の図はいずれも、実際の画像において、照明光により照らし出された部分に相当する高い輝度を有する画素を、黒の塗りつぶしにより示したものである。また各画像は、前記図1の各光源1aのうち中央部の光源1a(ここでは前記図1において、カメラ2側より数えて4番目の光源1aとする)を点灯して得られる画像を示すもので、y軸方向が道路RDの幅方向に、x軸方向が道路RDの長さ方向に、それぞれ相当する。
【0038】
通常の乾燥路面の表面は、アスファルト粒などによる微小凹凸面に形成されているため、図4(1)に示すように拡散反射光が優勢となる。この結果、カメラ2の撮像面の広い領域にわたって反射光が入射するので、図4(2)に示すような明るい画像が生成される。
【0039】
凍結路面の表面は、氷の粒などよる不均一な凹凸形状になっているため、拡散反射光が乾燥路面よりもさらに優勢となる(図5(1))。この結果、カメラ2の撮像面に、より強い拡散反射光が入射するので、図5(2)に示すような明度の高い画像が得られる。
【0040】
湿潤路面は、前記路面上の微小凹部を水が覆った状態になって路面が鏡面の状態に近づくので、図6(1)に示すように、拡散反射光成分が減少して正反射光が優勢となる。このためカメラ2の撮像面に入射する反射光が少なくなって、画像全体は暗くなるが、鏡面反射像の結像位置およびその周辺の画素における輝度は、乾燥,凍結の各路面よりも高くなる(図6(2))。
【0041】
冠水路面については、路面上の水たまりによる鏡面上に光が照射されるため、殆ど正反射光のみとなる(図7(1))。これを反映して、図7(2)に示すように、画像全体が暗く、鏡面反射像の結像位置付近の限られた画素のみ輝度が高くなる。
【0042】
(3)路面状態の判別処理 ▲1▼
この実施例では、前記投光部1の各光源1aを、それぞれ異なるタイミングで点灯させるとともに、各光源1aの照射光による反射光を順次撮像して、各画像上の輝度の分布状態により前記反射光の特性を抽出した後、各抽出結果を統合して路面状態を判別するようにしている。
【0043】
図8は、上記した反射光の特性を抽出するための具体的な方法を示す。
図示された画像は、前記図4〜7に示したのと同様の乾燥,凍結,湿潤,冠水の各路面状態を示す画像であって、いずれも所定の大きさの画像領域Rを、x,y各軸方向に均等分割することにより、複数個(7行×6列)の小領域rが設定されている。
【0044】
なお各小領域rは、領域内に1つの光源1aの鏡面反射像を含むのに十分な大きさであって、さらにy軸方向の各列位置が各鏡面反射像の結像位置に対応し、かつ各列毎に、中央の小領域(図中、左から4番目の小領域)内に、鏡面反射像の結像位置が含まれるように設定される。
【0045】
各光源1aが順次点灯してその照明下での画像が取り込まれると、制御装置4は、点灯した光源1aに対応する列を計測対象として設定し、その列の各小領域毎の輝度値を算出する。これにより前記光源1aからの照射光により道路の長さ方向がどのように照明されているかを示す輝度の分布状態が抽出される。
【0046】
以下の説明では、図8(1)〜(4)の各画像の下方向に前記図1のガードレール9が位置し、各画像は、いずれもカメラ2側から数えて4番目の光源1aが点灯している状態下で得られたものであるとする。この場合、矢印で示す4列目の各小領域が計測対象となり、各領域の輝度値が算出される。
【0047】
図9(1)〜(4)は、それぞれ前記図8(1)〜(4)の各画像について、計測対象の各小領域における輝度の分布状態を示す。図中D1〜D7は、前記計測対象の4列目に位置する各小領域に対し、x軸方向に沿って順に付与したラベルであって、それぞれそのラベルが付された小領域の輝度値が対応づけて示されている。
【0048】
図示例から明らかなように、乾燥路面の場合には、前記した拡散反射光が優勢となる事象を反映して、各小領域毎にほぼ一定の輝度値が抽出される。以下、凍結路面,湿潤路面の順に、正反射光の増大および拡散反射光の消失を反映して、中央部の小領域D4における輝度値が高くなるとともに、各小領域間における輝度値のばらつきが大きくなる。そして冠水路面では、正反射光をとらえた中央部の小領域D4の輝度値のみが突出し、他の小領域の輝度値は、著しく低くなる。
【0049】
したがって例えば正反射光成分を含む小領域D4の輝度値P4と、この小領域D4に隣接する小領域D3,D5の各輝度値P3,P5とに着目し、ピークの輝度値P4に対する隣接領域の輝度値P3,P5の比P3/P4,P5/P4により、各路面を識別することが可能となる。その他、各領域毎の輝度値の分散値によっても各路面を識別することが可能である。
【0050】
なお各画像を処理する際に、カメラ2の視野に何らかの影が入り込んで画像の明度が低下すると、計測すべき小領域内の輝度値が低下して、路面判別の精度が低減する虞がある。この問題を解決するためには、各光源1a毎に、点灯動作時の画像と消灯時の画像とを交互に取り込み、これら画像間の差分画像を用いて影の影響を除去するようにすればよい。
【0051】
図10(1)〜(3)は、上記差分処理の具体例を示すもので、所定の光源1aが点灯している時の画像(図10(1)に示す)と、消灯時の画像(図10(2)に示す)とには、ともに影の画像18が含まれている。なおこれら画像は、光源1aの点滅状態を連続的に捉えて生成されるものであるので、画像上の影の大きさや濃淡度には、殆ど差違がない。したがって両画像間で対応する画素毎の濃度値の差分演算を行うことにより、図10(3)に示すような影の影響のない画像が生成される。
【0052】
図11は、前記制御装置4の一連の手順を示す。なお図中、「ST」は各ステ
ップを示す。
前記投光部1の投光制御部10が第1の光源1aに対する投光制御を実施し、これを受けてカメラ2が光源1aの点灯時の画像と消灯時の画像とを生成すると、各画像データは、A/D変換部11によりディジタル変換されて画像メモリ12に格納される(ステップ1)。
【0053】
つぎのステップ2で、画像処理部13は、両画像の差分処理を実施して、影などのノイズを除去した後、この差分処理画像上に、前記図8に示した原理に基づき小領域を設定する。
【0054】
つぎに画像処理部13は、前記点灯動作した光源1aの鏡面反射光像の結像位置に対応する列の各小領域について、それぞれ輝度値を算出する(ステップ4)。なおこの領域内の輝度値としては、領域内の各画素の輝度の総和もしくは平均値が算出される。
【0055】
つぎにCPU15は、各小領域毎の輝度の算出値を取り込んで、前記した原理に基づき、正反射光を捉えた中央の小領域D4の輝度値P4に対する他の小領域の輝度値の比や、小領域間の輝度値の分散値を算出し、各算出結果を所定のしきい値と比較するなどして、路面状態を判別する(ステップ5)。
【0056】
以下、各光源1aの点灯制御動作に応じて、ステップ1〜5の手順が実施され、各光源1aに対応する小領域の列毎に路面の判別処理が実施される。すべての光源1aに対する判別処理が完了すると、ステップ6が「YES」となってステップ7へと移行し、CPU15は、各光源毎の判別結果を統合し、その結果を前記送信部を介して外部に出力する。
【0057】
なおこのステップ7の統合処理では、必ずしも各判別結果により限定された路面状態を特定する必要はなく、計測位置によって異なる判別結果が得られた場合には、各判別結果をその計測位置に対応させて出力するようにしてもよい。これにより、路面の一部に水たまりやわだちなど路面状態の異なる部分が存在する場合にも、路面状態を道路の幅方向に沿って切り分けて判別することができる。
【0058】
またこの実施例では、各光源1aを道路の幅方向に沿って配置し、各光源1a毎の反射光像の特性を、道路の長さ方向に沿って抽出しているが、これに限らず、各光源1aを道路の長さ方向に沿って配置し、道路の幅方向に沿って反射光像の特性を抽出するようにしてもよい。
【0059】
(4)第2の装置構成
上記した実施例では、カメラ2により撮像して得られた画像を用いて反射光の特性を抽出するようにしたが、このカメラ2に代えて、つぎの図12に示すような受光部20を設置すれば、光学系および制御装置4の構成をより簡易にすることができる。
【0060】
図12の受光部20は、路面側の複数の方向からの反射光を受光するための複数個(図示例では7個)の受光素子21と、各受光素子に入射させる光抽出用のレンズ22aを配列したレンズアレイ22と、路面からの正,拡散の各反射光を集光するための集光用レンズ23を具備する。前記受光素子21およびレンズアレイ22の配列方向は、各光源1aの並び方向に直交する方向に設定されており、光源1aから照射された光は路面LD上で反射して各方向に分散した後、集光用レンズ23により集められ、さらにレンズアレイ22の各レンズ22aにより各方向毎に分離されて受光素子21に入射する。したがって各受光素子21の受光量により、前記図6,7の各小領域毎の輝度値に相当するデータを得ることができる。
なおこの構成においても、各光源毎の正反射光は、中央の受光素子21に入射するように設定されるものとする。
【0061】
(5)路面状態の判別処理 ▲2▼
前記したように、路面LDからの反射光は、路面状態毎に異なる反射パターンをとるから、画面上の反射光像について空間周波数成分を抽出すると、その分布パターンには各路面状態間で顕著な差違が認められる。したがって前記輝度の分布状態に代えて、画像上の反射光像の空間周波数成分を分析することによっても、路面状態を判別することが可能である。
【0062】
なおこの判別処理を実施する場合の装置としては、図1〜図3と同様の構成のものを用いることができるが、投光部1の各光源1aとして、路面上の主要な凹凸模様よりも大きな範囲を照射可能な光源を採用する必要がある。
【0063】
図13は、乾燥,凍結,湿潤の各路面について、いずれかの光源1aを点灯させた状態で得られた画像上の反射光の空間周波数分布を示す。なおこの空間周波数の成分は、点灯した光源1aの鏡面反射像を含み、かつ光源の並び方向に直交する方向(すなわち図8の矢印の方向に相当する)に沿う1ないし複数のライン上において、ライン毎に、1画素分に対応する距離データとライン上の各画像毎の輝度値とを用いた高速フーリエ変換(FFT)を施すことにより抽出されるものである。なおこれらラインは、路面上の長さ570mmの範囲に対応するように設定される。
【0064】
図示のグラフの横軸には、FFTの各次数、すなわち前記ラインを分割する回数nに1を加えた数によるスケールが設定される。縦軸は、ラインをn回分割したときの1単位分の長さに対応する空間周波数成分の強度を示すもので、各分布曲線の変化の度合いを対比するために、それぞれの曲線を、0次の定常成分(横軸が1の地点における強度)により規格化して示してある。
【0065】
図中、Wで示す周波数帯域(0.1〜0.25mm−1の帯域)は、一般に路面の凹凸模様を表すと考えられるもので、湿潤路面では、路面上の水分の増加を反映して、この帯域の周波数成分強度が増加する。また凍結状態の路面においても、前記図5に示した拡散反射光の増加を反映して、この帯域における周波数成分が所定量だけ増加する。
【0066】
また路面が湿潤状態になると、もともとの路面の凹凸面上に薄い水の膜ができるが、この膜の厚みは不均一であるので、もともとの路面の凹部や凸部の中にさらに細かい凹凸成分が存在することになる。これを反映して、路面上の水分が多くなるほど、0.17mm−1を越える高周波領域Wにおける周波数成分の強度が大きくなるという結果が得られる。
【0067】
図14は、図13に示した各分布曲線毎に、前記周波数帯域W,Wにおける周波数成分強度の積算値をとり、凍結,湿潤の各路面状態における強度積算値S(B),S(C)について、それぞれ乾燥路面における強度積算値S(A)に対する比を算出した結果を示す。このように、各帯域W,Wにおける周波数成分の強度には、各路面状態の違いにより顕著な差違が認められる。
【0068】
したがって上記3種の路面状態のうち、乾燥路面における空間周波数の分布状態を事前に計測するとともに、前記図14に示した各比率の算出値をもとに、各路面状態を判別するためのしきい値を設定しておく。これら計測値や設定値は、ともにメモリ16内に記憶されるもので、CPU15は、以後、取り込まれた画像より得られた空間周波数分布曲線上で、前記各周波数帯域W,Wにおける周波数成分の強度積算値を算出し、その算出値の前記乾燥路面における強度積算値S(A)に対する比を前記しきい値と比較することにより、各路面状態を判別する。
【0069】
なおここでは図示していない冠水路面では、前記の実施例に示したように、他の路面状態に比べ、正反射光量が著しく増大するので、空間周波数分布によらずに、画像上の鏡面反射光像の結像位置における輝度値により、他の路面状態から識別することができる。しかしながら判別精度を期す場合には、後記する実施例のように、空間周波数の低周波成分の強度や鏡面反射像の結像位置における空間周波数分布の強度を用いた分析を加えてもよい。
【0070】
このように反射光の空間周波数分布は、光源1aからの照射光によって照明された路面の光沢度合いや路面の凹凸状態を的確に反映したものであるので、出現した周波数分布をさらに細かく分析すれば、より詳細な路面状態の判別が可能となる。そこで以下の実施例では、空間周波数分布を用いて路面状態を判別する際の種々の構成および処理方法を説明する。
【0071】
(6)第3の装置構成
図15に示す路面状態判別装置では、投光部1が、所定長さの蛍光灯より成る光源24により構成される。この光源24は、長手方向をポール7の長さ方向に沿わせて配備することにより、道路RDの横断方向に沿って帯状の光を照射するようにしたもので、カメラ2は、この光源24の光照射位置を含む所定領域を撮像するように、その位置および撮像角度が調整される。
なおその他の構成は、前記図1の装置と同様であるので、ここでは同一の符号を付すことにより詳細な説明を省略する。
【0072】
図16は、上記路面状態判別装置の電気的構成を示す。この路面状態判別装置も、前記第1の実施例と同様、光源24の点灯時の画像と点灯していない状況下での画像との差分処理によりノイズを取り除いてから、路面状態の判別処理を行うように設定されており、投光部1には、前記光源24の点灯動作を制御するための投光制御部10が配備される。
その他、制御装置4の構成および制御装置4に対する光源1およびカメラ2の関係は、前記図2と同様であるので、詳細な説明は省略する。
【0073】
(7) 路面状態の判別処理 ▲3▼
図17(1)(2)(3)は、上段に、湿潤路面,冠水路面,および雪が積もった路面(以下「積雪路面」という)のそれぞれを撮像して得られた画像を示す。なおこの図では、横軸(x軸)方向が道路の横断方向に、縦軸(y軸)方向が道路の走行方向に、それぞれ対応している。また図中の黒の塗りつぶしは、路面の湿潤部分からの鏡面反射光像を示す。
【0074】
図17の下段の各図は、それぞれ上段の対応する画像上で、点Aから点Bに至る垂直ライン上における光量分布を示す。この場合、湿潤,冠水の各路面状態では、水分が鏡面の役割を果たすため、前記光の照射位置における光量分布は、正反射光量が大幅に増加したことを反映したものとなっている(図17(1)(2))。
【0075】
一方、積雪路面においては、路上の雪により光が拡散反射するので、図17(3)に示すごとく、光照射位置のみならず、その周囲の反射光量が増加したような光量分布が得られる。
【0076】
図18(1)〜(4)は、それぞれ乾燥路面,水分の少ない湿潤路面,水分の多い湿潤路面,冠水路面について、画像上の1垂直ライン上の光量分布より得られた空間周波数分布を示す。なおここに示される各分布曲線は、前記図13のように正規化されたものではなく、実測値そのものを表している。
【0077】
この実施例では、路面LDの凹凸状態を表す帯域およびその近傍にあたる0.1〜0.3mm−1の周波数帯域に着目している(以下この帯域の周波数成分を「中心周波数帯域」と総称する)。この帯域の成分強度は、図18(1)〜(3)に示すように、路面LDが乾燥状態から湿潤状態へ移行するにつれ増加する。さらに路面上の水分が増加して冠水状態になると、光照射位置における正反射光量が激増することに伴い、図18(4)に示すごとく、道路の走行方向における光源幅を反映する空間周波数成分が優勢となる結果が得られる。
【0078】
なお、乾燥路面,湿潤路面それぞれについて得られる中心周波数成分のピーク値を比較すると、図19(1)(2)に示すごとく、湿潤路面でのピーク値は乾燥路面でのピーク値の約10倍となっている。このようにこの中心周波数帯域の成分強度により路面上の水分の有無を判別することが可能となる。
【0079】
図20(1)(2)は、乾燥路面と積雪路面とについて、前記図18と同様にして得られた空間周波数分布を対応づけて示す。
この場合、路面の凹凸状態を表す中心周波数成分の強度には有意な差は認められないが、前記したように雪により拡散反射光量が増加するため、積雪路面では、画像全体の明るさを示す0.1mm−1以下の低周波数帯域の成分強度が著しく増大する。したがって、前記中心周波数成分と低周波数成分との強度比により、乾燥路面と積雪路面とを判別することが可能となる。
【0080】
前記制御装置4は、カメラ2からの入力画像上で、道路横断方向における複数位置に前記垂直ラインを設定しており(以下この垂直ラインを「計測ライン」という)、各計測ライン毎に得られた空間周波数分布を用いて、上記原理に基づき路面状態を判別している。この場合、各計測ラインの平均的なデータを算出すれば、道路RDの広い範囲にわたる路面状態を総合的に判別できる。また各計測ライン毎の空間周波数分布を個別に処理すれば、わだちなど水のたまりやすい凹部と平坦な部位との路面状態の違いを判別することができる。
【0081】
図21は、前記計測ラインの設定例を示すもので、光の照射範囲において、道路の中心線に対応させた第1の計測ラインLと、車輪の通過位置(図中点線で示す)に対応させた第2の計測ラインLとが設定されるとともに、これら計測ラインの中間地点に第3の計測ラインLが設定されている。
【0082】
図示例は湿潤路面を前提としたもので、黒い塗りつぶしは、前記図17と同様、路面の湿潤部分からの鏡面反射光像を示している。この場合、計測ラインL,Lでは、前記図17(1)と同様の路面状態にあるので、図18(2)(3)に示した湿潤路面の特徴を示す空間周波数分布が抽出される。他方、計測ラインLの設定された車輪の通過箇所には窪みが生じて水がたまっており、図18(4)に示した冠水路面の特性を示す空間周波数分布が得られる。
【0083】
なお光源は1本に限らず、前記図1に示したように、複数個の光源により路面上に帯状の光を照射するようにしても良い。ただしこの場合、路面からの反射光に路面の凹凸状態を反映した空間周波数成分が含まれるように、各光源には、路面の凹凸部よりも大きな領域を照射可能なものを用いる必要がある。
【0084】
図22は、前記図15の光源24よりも長さの短い複数個の蛍光灯24a〜24dを、それぞれ長手方向を道路の横断方向に沿わせて並列配備した状態を示す。
【0085】
図23は、前記図22の構成の路面状態判別装置において、前記カメラ2により撮像してられた画像と計測ラインとの関係を示す。図中、25a〜25dは、各照射光による鏡面反射光像を示すもので、各鏡面反射光像25a〜25dの各幅に対応する位置に、少なくとも1本の計測ラインL〜Lが設定されている。これにより、各照射光に対する反射光の空間周波数分布を抽出して、各光照射位置毎の路面状態を判別することができる。
【0086】
図24は、投光部1として、2本の蛍光灯24A,24Bを道路の走行方向に沿って並列配備した例を示す。
図25(1)は、上記路面状態判別装置のカメラ2により撮像された冠水状態の路面の画像を、図25(2)はこの画像上の点Aから点Bに至る計測ライン上の光量分布を示す。このように画像上に各光源1A,1Bの鏡面反射光像が明確に現れるので、計測ライン上の空間周波数分布では、図26に示すように、道路の走行方向における各光源の光照射幅を反映した周波数成分の強度が大幅に増大し、路面の湿潤状態や凍結状態を精度良く検出することができる。
【0087】
図27(1)(2)は、1計測ライン上の光量分布について、正反射光と拡散反射光とを個別に処理する例を示す。
図27(1)は、湿潤路面における1計測ライン上の光量分布を示すもので、図中、光量の高いピーク値が多発する部分は光の正反射光像を反映し、その近傍部分は拡散反射光像を反映する。したがってこの光分布曲線を、前記ピーク値の多発部分を含む第1の処理範囲R1と、拡散反射光部分を示す第2の処理範囲R2とに分割し、それぞれの処理範囲に含まれる周波数成分を個別に抽出すると、図27(2)に示すごとく、各処理範囲間での中心周波数帯域に含まれる成分強度には大きな差異が認められる。
【0088】
なお同様の処理を乾燥路面について行った場合、大きな正反射光量は得られないので、各反射光の中心周波数成分には図27(2)のような著しい差異は認められなくなる。
このように各反射光の中心周波数成分の強度比を用いれば、乾燥路面と湿潤路面とを明確に判別できるだけでなく、路面の水分量の微妙な差異も精度よく検出することができる。
【0089】
図28は、前記CPU16による路面判別の一連の手順を示す。
なおここに示す判別処理は、単独の計測ライン上の空間周波数分布または複数本の計測ラインについて得られた空間周波数分布の平均化されたデータを用いて行われるもので、各計測ライン毎に判別処理を行う場合には、各ライン毎にこの判別処理手順が実行された後、前記図11と同様、各判別結果が統合されて出力される。
【0090】
まず最初のステップ1(図中「ST1」で示す)で、画像処理部13により抽出された計測ライン上の光量分布データが入力されると、CPU15は、つぎのステップ2で、前記高速フーリエ変換を実行して、計測ライン上における反射光の空間周波数分布を抽出する。
【0091】
つぎのステップ3で、CPU15は、抽出された空間周波数分布のうち前記中心周波数帯域の成分強度に着目する。この成分強度が前記図18(1)に示した範囲内であればステップ3からステップ13へと移行して、路面は乾燥状態にあると判別される。これに対し、中心周波数帯域の成分強度がこの乾燥路面における成分強度を大幅に上回る場合には、路面上には水分が存在するものと判断されてステップ3からステップ4へと移行し、路面温度が0度以下であるか否かがチェックされる。
なおこの路面温度の判別は、前記路面温度計3の計測値に基づき行われるもので、前記外気温度計5の計測値は路面温度計の計測誤差をチェックするために用いられる。
【0092】
路面温度が0度以下である場合、CPU15は、路面は凍結状態もしくは積雪状態のいずれかにあるものと判断して、ステップ4からステップ5へと移行し、前記図20に示した原理に基づき、中心周波数帯域の成分強度に対する低周波帯域の成分強度の比率をチェックする。この結果、所定のしきい値以上の成分強度比が得られた場合は、路面は積雪状態にあると判断される(ステップ8)。
【0093】
前記成分強度比がしきい値を下回る場合には、CPU16は、さらに前記図27に示した方法を適用して、前記計測ライン上の正反射光と拡散反射光との空間周波数分布を個別に抽出し、両反射光の中心周波数帯域の成分強度比をチェックする(ステップ6)。
【0094】
凍結した水分が融け始めた状態にある凍結路面上に光を照射すると、路面表面では、その解凍水分による正反射光量が増加するので、正反射光の中心周波数帯域の成分強度はますます増大する。
【0095】
したがってCPU15は、前記拡散反射光の中心周波数成分強度に対する正反射光の中心周波数成分強度が所定のしきい値を超えたとき、路面は凍結が融ける始めた状態にあると判断し(ステップ9)、この周波数成分強度比がしきい値以下であるときは、路面は固い凍結状態が保たれた状態にあると判断する(ステップ10)。
このように各反射光の中心周波数帯域の成分強度比を用いることにより、最も危険度の高い凍結路面の状態を精度良く判別することが可能となる。
【0096】
一方、路面温度が0度を上回る場合には、ステップ4からステップ7へと移行し、CPU15は、得られた空間周波数分布において、図18(4)に示したように光源の幅を示す空間周波数が優勢となるか否かをチェックする。この結果、判定が「YES」のときは路面は冠水路面であり、判定が「NO」のときは路面は湿潤路面であると判別される(ステップ11,12)。
【0097】
(8)路面状態の判別処理 ▲4▼ (応用編)
上記路面状態判別装置の制御装置4に画像上の車両を抽出する機能を付加し、車両が通過する前後での路面状態を判別するように構成することもできる。
図29は、上記機能を備えた路面状態判別装置の構成を示すもので、制御装置4には、複数フレーム分の入力画像を記憶する容量を具備する画像メモリ12´が配備される。また画像処理部13は、車両抽出部30と光量分布抽出部31との2つの機能を具備するように構成される。なお投光部1は、前記したいずれの構成でも良いため、図示を省略する。
【0098】
車両抽出部30は、典型的な車両の特徴を示す画像モデルを保持しており、画像入力毎に、入力画像上に前記画像モデルを走査してパターンマッチング処理を実行し、撮像領域内に車両が存在するか否かをチェックする。これにより撮像領域内における車両の通過が確認されると、光量分布抽出部31は、画像メモリ12´からこの車両の通過前後の入力画像を取り出し、各画像毎に前記と同様の光量分布の抽出処理を実行する。CPU15は、各抽出結果から得られる空間周波数分布を用いて、車両の通過による路面状態の変化を判別する。
【0099】
なおこの場合も、画像取込みの都度、光源を点滅させるようにして、光源点灯下での画像と光源が点灯していない状態下での画像との差分処理を行うようにすれば、影などのノイズを除去して、判別精度を向上することができる。
【0100】
図30(1)(2)は、冠水状態にある路面における車両の通過前後の画像を示すもので、各画像とも車輪の通過位置に計測ラインLが設定されている。
この場合、車両の通過により、車輪の通過位置の水膜が一時的に除去されるので、この位置における正反射光量は、車両の通過直後に大幅に減少する。
図30(3)は、前記各画像毎に計測ライン上で抽出された空間周波数分布を対応づけて示すもので、車両通過後の画像では、前記正反射光量の減少を反映して中心周波数帯域の成分強度が著しく低下している。
【0101】
図31(1)(2)は、積雪が融け始めた路面の画像であって、図31(1)は車両の通過前の画像を、図31(2)は車両通過直後の画像を、それぞれ示す。なお図31(2)中の符号32は、車輪の通過により形成されたわだちを示す画像である。
【0102】
これら各画像上で、前記図30(1)(2)と同様、車輪の通過位置に計測ラインLを設定して空間周波数分布を抽出すると、図31(3)に示すごとく、車両通過後の画像による空間周波数分布では、わだちの部分の融けた雪からの正反射光を反映して中心周波数帯域の成分強度が著しく増大している。
【0103】
このように実際に車両が通過する前後の路面状態の変化を判別することにより、路面状態が車両の走行に及ぼす影響を詳細に判別することができ、従来の装置では考えられなかった詳細な分析を行うことができる。
【0104】
【発明の効果】
この発明によれば、路面の上方に配備された光源より路面上に光を照射して路面からの正反射光および拡散反射光を撮像し、得られた画像上に設定したラインに沿って光量分布を抽出するので、光照射範囲の路面状態に応じた正反射光および拡散反射光の特性をもって路面状態を正確に判別することができる。しかも、複数のラインを設定することによって道路の長さ方向に沿う光量分布を道路の幅方向に沿って複数抽出することができるので、これらの抽出結果毎に個別の路面判別処理を行ったり、各路面判別結果を統合したりして、道路の幅方向に沿う広い範囲にわたる路面状態を判別することができる。特に、水たまりやわだちなど、路面の一部に路面状態の異なる部分が存在する場合には、光量分布毎に個別の路面状態を行うことにより、路面状態を道路の幅方向に沿って切り分けて判別することができる。
【図面の簡単な説明】
【図1】この発明の一実施例にかかる路面状態判別装置の構成例を示す説明図である。
【図2】図1の路面状態判別装置の光学系の関係を示す説明図である。
【図3】図1の路面状態判別装置の電気的構成を示すブロック図である。
【図4】乾燥路面における反射光の特性およびその反射光を撮像して得られる画像を示す説明図である。
【図5】凍結路面における反射光の特性およびその反射光を撮像して得られる画像を示す説明図である。
【図6】湿潤路面における反射光の特性およびその反射光を撮像して得られる画像を示す説明図である。
【図7】冠水路面における反射光の特性およびその反射光を撮像して得られる画像を示す説明図である。
【図8】反射光の特性を抽出するための具体的な方法を示す説明図である。
【図9】計測対象の小領域の輝度の分布状態を各路面毎に示す説明図である。
【図10】画像の差分処理の原理を説明する図である。
【図11】路面状態の判別処理手順を示すフローチャートである。
【図12】カメラに代わる受光部の構成を示す説明図である。
【図13】路面からの反射光の空間周波数分布を示す説明図である。
【図14】凍結,湿潤の各路面について、乾燥路面に対する周波数成分強度比を示す図である。
【図15】路面状態判別装置の他の構成を示す説明図である。
【図16】図15の路面状態判別装置の電気的構成を示すブロック図である。
【図17】路面状態の種毎に入力画像と光量分布との関係を対応づけて示す説明図である。
【図18】路面状態の種毎の空間周波数分布を示す説明図である。
【図19】路面状態の種毎の空間周波数分布を示す説明図である。
【図20】路面状態の種毎の空間周波数分布を示す説明図である。
【図21】計測ラインの設定例を示す説明図である。
【図22】路面状態判別装置の他の構成例を示す説明図である。
【図23】図22の装置における計測ラインの設定例を示す説明図である。
【図24】路面状態判別装置の他の構成例を示す説明図である。
【図25】図24の装置における入力画像と光量分布との関係を示す説明図である。
【図26】図25(2)の光量分布から抽出された空間周波数分布を示す説明図である。
【図27】1計測ライン上の光量分布について、正反射光と拡散反射光との空間周波数分布を個別に抽出する方法を示す説明図である。
【図28】路面状態の判別処理手順を示すフローチャートである。
【図29】車両抽出機能を備えた路面状態判別装置の電気的構成を示すブロック図である。
【図30】図29の路面状態判別装置による処理の具体例を示す説明図である。
【図31】図29の路面状態判別装置による処理の具体例を示す説明図である。
【図32】従来の路面状態判別装置の構成を示す説明図である。
【符号の説明】
1 投光部
2 テレビカメラ
4 制御装置
13 画像処理部
14 CPU
20 受光部
LD 路面

Claims (2)

  1. 路面の上方に長さ方向を道路の幅方向に対応させた状態で配備される所定長さの光源と、
    路面の上方に配備され撮像対象領域が路面上の光源の光照射位置を含む大きさとなるように位置および撮像角度が調整される撮像手段と、
    記撮像手段が路面からの正反射光および拡散反射光を撮像して得られた画像上に前記光源の鏡面反射像の結像位置を通りかつその鏡面反射像の長さ方向に直交する複数のラインを設定するとともに、各ラインに沿う光量分布をそれぞれ抽出し、その抽出結果に基づいて路面状態の判別処理を行う制御手段とを備えて成る路面状態判別装置。
  2. 路面の上方に道路の幅方向に沿って配備される複数の光源と、
    路面の上方に配備され撮像対象領域が路面上の各光源の光照射位置を含む大きさとなるように位置および撮像角度が調整された撮像手段と、
    前記撮像手段が路面からの正反射光および拡散反射光を撮像して得られた画像上に各光源の鏡面反射像の結像位置を通りかつ各光源の鏡面反射像が並ぶ方向に直交する複数のラインを設定するとともに、各ラインに沿う光量分布を抽出し、その抽出結果に基づいて路面状態の判別処理を行う制御手段とを備えて成る路面状態判別装置。
JP32240797A 1996-12-02 1997-11-08 路面状態判別装置 Expired - Fee Related JP3552504B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP32240797A JP3552504B2 (ja) 1996-12-02 1997-11-08 路面状態判別装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP8-337587 1996-12-02
JP33758796 1996-12-02
JP32240797A JP3552504B2 (ja) 1996-12-02 1997-11-08 路面状態判別装置

Publications (2)

Publication Number Publication Date
JPH10221043A JPH10221043A (ja) 1998-08-21
JP3552504B2 true JP3552504B2 (ja) 2004-08-11

Family

ID=26570804

Family Applications (1)

Application Number Title Priority Date Filing Date
JP32240797A Expired - Fee Related JP3552504B2 (ja) 1996-12-02 1997-11-08 路面状態判別装置

Country Status (1)

Country Link
JP (1) JP3552504B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3367084A4 (en) * 2015-10-22 2019-05-08 Kyocera Corporation DEVICE FOR DETERMINING THE SURFACE CONDITION OF A ROAD, IMAGING SYSTEM, AND METHOD FOR DETERMINING THE SURFACE CONDITION OF THE ROAD

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4120114B2 (ja) * 1999-11-04 2008-07-16 株式会社デンソー 路面状況推定装置
JP3783588B2 (ja) * 2001-08-20 2006-06-07 オムロン株式会社 路面判別装置
JPWO2005075959A1 (ja) * 2004-02-10 2008-01-10 学校法人日本大学 摩擦係数推定方法及び装置
KR101419407B1 (ko) * 2007-12-21 2014-07-16 재단법인 포항산업과학연구원 광학식 적설 계측 시스템 및 그 방법
KR101092093B1 (ko) 2010-04-29 2011-12-13 주식회사 케이티 침수 감지장치 및 이를 구비한 가로등
EP2574511B1 (en) * 2011-09-30 2016-03-16 Honda Research Institute Europe GmbH Analyzing road surfaces
JP6902246B2 (ja) * 2017-09-07 2021-07-14 岩崎工業株式会社 除雪車の自動制御システム
CN110146897A (zh) * 2019-05-24 2019-08-20 北京海益同展信息科技有限公司 积水检测装置及机器人

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3367084A4 (en) * 2015-10-22 2019-05-08 Kyocera Corporation DEVICE FOR DETERMINING THE SURFACE CONDITION OF A ROAD, IMAGING SYSTEM, AND METHOD FOR DETERMINING THE SURFACE CONDITION OF THE ROAD
US10501088B2 (en) 2015-10-22 2019-12-10 Kyocera Corporation Road surface state determination apparatus, imaging apparatus, imaging system, and road surface state determination method

Also Published As

Publication number Publication date
JPH10221043A (ja) 1998-08-21

Similar Documents

Publication Publication Date Title
JP4108631B2 (ja) 車両のヘッドライトを自動的に減光する制御システム
US8045760B2 (en) Automatic vehicle exterior light control systems
JP3783588B2 (ja) 路面判別装置
US7402786B2 (en) Vehicle headlight control using imaging sensor with spectral filtering
EP3850916B1 (en) Luminaire system for determining weather related information
US20030205661A1 (en) Vehicle headlight control using imaging sensor
JP3552504B2 (ja) 路面状態判別装置
KR101679205B1 (ko) 디바이스 결함 검출장치
JP2007179266A (ja) 減光式煙感知器及び減光式煙感知システム
JP2006308514A (ja) 路面の画像処理型積雪センサー及び積雪検出方法
JP2005337714A (ja) 鉄道車両用屋根上機器監視測定装置
JP2009510426A (ja) ディスク状対象物の複数画像の記録装置
KR102388804B1 (ko) 분광 데이터와 노면온도센서 데이터를 이용한 노면상태 분류 시스템 및 그 방법
JP4398282B2 (ja) パンタグラフのすり板検査装置。
JPH10221042A (ja) 路面状態判別装置
JP5190204B2 (ja) 路面積雪検出装置及び路面積雪検出方法
US20230143446A1 (en) Apparatus for detecting a specular surface in a scene and method for controlling an apparatus for detecting a specular surface in a scene
JP3733434B2 (ja) 路面上の水と氷と雪の検知方法および路面上の水と氷と雪の検知装置
JP6956004B2 (ja) 欠陥検査装置、及び、欠陥検査装置の製造方法
JP2004236087A (ja) 監視カメラシステム
JP3863098B2 (ja) 路面状態判別装置
JP3704564B2 (ja) 可視画像による夜間における路面状況判定方法およびその装置
JP2000193419A (ja) タイヤチェ―ン検出装置及びスタッドレスタイヤ検出装置
KR102716488B1 (ko) 패턴빔 레이저를 이용하여 도로 노면의 차선 상태를 인식하기 위한 방법 및 장치
JP6996721B2 (ja) 降積雪判定方法、降積雪判定装置及び降積雪判定コンピュータ・プログラム

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040120

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040310

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040413

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040426

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090514

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees