JPH11312299A - 自車位置認識装置、自車位置認識方法及びそのプログラムを記録した記録媒体 - Google Patents

自車位置認識装置、自車位置認識方法及びそのプログラムを記録した記録媒体

Info

Publication number
JPH11312299A
JPH11312299A JP11938398A JP11938398A JPH11312299A JP H11312299 A JPH11312299 A JP H11312299A JP 11938398 A JP11938398 A JP 11938398A JP 11938398 A JP11938398 A JP 11938398A JP H11312299 A JPH11312299 A JP H11312299A
Authority
JP
Japan
Prior art keywords
edge
image
line
vehicle
lane marking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11938398A
Other languages
English (en)
Other versions
JP3999345B2 (ja
Inventor
Keiichi Kimura
圭一 木村
Masao Kawai
正夫 川合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AQUEOUS Research KK
AQUEOUS RESERCH KK
Aisin AW Co Ltd
Original Assignee
AQUEOUS Research KK
AQUEOUS RESERCH KK
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by AQUEOUS Research KK, AQUEOUS RESERCH KK, Aisin AW Co Ltd filed Critical AQUEOUS Research KK
Priority to JP11938398A priority Critical patent/JP3999345B2/ja
Publication of JPH11312299A publication Critical patent/JPH11312299A/ja
Application granted granted Critical
Publication of JP3999345B2 publication Critical patent/JP3999345B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Navigation (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

(57)【要約】 【課題】コストを低くすることができ、信頼性を向上さ
せることができるとともに、演算回路に加わる負荷を小
さくすることができるようにする。 【解決手段】車両の前方を撮像する撮像手段と、該撮像
手段によって得られた画像に対してエッジ処理を行い、
画像の境界が強調されたエッジ画像を作成するエッジ強
調手段17と、前記エッジ画像に基づいてエッジ直線を
抽出する直線抽出手段18と、前記エッジ直線間の距離
が所定の範囲内にある場合に区分線を検出する区分線検
出手段19と、該区分線検出手段19による検出結果に
基づいて車両が走行している通行区分を判定する通行区
分判定手段20とを有する。エッジ直線間の距離を算出
し、該エッジ直線間の距離が所定の範囲内に収まるかど
うかを判断するだけでよい。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、自車位置認識装
置、自車位置認識方法及びそのプログラムを記録した記
録媒体に関するものである。
【0002】
【従来の技術】従来、道路上には、車両が通行するため
に走行車線、追越車線、登坂車線等の通行区分(車両が
走行する通行帯)が形成されていて、そのために、道路
上に白線、黄線等の区分線(線分自体)が塗布され、運
転者は通行区分内の走行領域で区分線に沿って車両を走
行させるようになっている。
【0003】ところで、車両の自動運転を行うために、
また、蛇行運転が行われていることを検出するために、
車両に搭載されたカメラによって車両の前方を撮影し、
撮影によって得られた画像に基づいて道路上の区分線を
認識するようにした自車位置認識装置が提供されている
(特開平7−85249号公報参照)。この場合、前記
画像において、道路上の区分線の両縁を表す部分、すな
わち、対象画像に対して複数の水平の走査線を設定し、
該各走査線上における輝度の変化を検出するようにして
いる。そして、輝度の変化のピーク値が得られる点をエ
ッジ点として抽出し、2個のエッジ点間の間隔が所定の
距離以内であるとき、前記エッジ点間の部分を区分線の
候補とし、さらに、各走査線間におけるエッジ点の関係
を評価して最終的に区分線を認識するようにしている。
【0004】また、画像に基づいて、車両が道路上の右
側の通行区分を走行しているか左側の通行区分を走行し
ているかを認識する認識装置が提供されている(特開平
8−320997号公報参照)。この場合、画像の濃度
を微分することによってエッジ点を抽出し、画像内にお
いて車両の付近に区分線が存在しそうな領域を設定し、
該領域内の直線のうち、エッジ点の数が最大になる直線
を区分線として検出するとともに、該区分線を更に直線
上のエッジ点の数が周期的に変化しない区分線は実線で
あると判定し、周期的に変化する区分線は破線であると
判定する。そして、例えば、車両の左右に区分線が存在
し、かつ、右の区分線が実線であり、左の区分線が破線
である場合、車両が右側の通行区分を走行していると認
識し、左の区分線が実線であり、右の区分線が破線であ
る場合、車両が左側の通行区分を走行していると認識す
るようにしている。
【0005】
【発明が解決しようとする課題】しかしながら、前記従
来の認識装置においては、車両に搭載されたカメラによ
って車両の前方を撮影し、撮影によって得られた画像に
基づいて区分線を認識する場合、各走査線間におけるエ
ッジ点の関係を評価して区分線を認識する必要があるの
で、処理に必要な時間が長くなり、高速処理を行うこと
が可能な演算回路が必要になる。
【0006】前記画像に基づいて、車両が道路上の右側
の通行区分を走行しているか左側の通行区分を走行して
いるかを認識する場合、1本の区分線を一つの直線上に
並ぶエッジ点群に基づいて検出するようにしているの
で、例えば、ガードレール、縁石等が路肩に存在してい
ると、ガードレール、縁石等の画像によって、エッジ点
が抽出されることになるので、区分線を誤って検出して
しまうことがある。
【0007】また、区分線のかすれ、前記画像の乱れ等
が存在すると、一時的に区分線を検出することができな
くなるが、その場合、区分線が実線であるか破線である
かを判断することができなくなってしまう(ハンチング
現象)。さらに、アルゴリズムが複雑であるので、演算
回路に加わる負荷が大きくなる。本発明は、前記従来の
認識装置の問題点を解決して、コストを低くすることが
でき、信頼性を向上させることができるとともに、演算
回路に加わる負荷を小さくすることができる自車位置認
識装置、自車位置認識方法及びそのプログラムを記録し
た記録媒体を提供することを目的とする。
【0008】
【課題を解決するための手段】そのために、本発明の自
車位置認識装置においては、車両の前方を撮像する撮像
手段と、該撮像手段によって得られた画像に対してエッ
ジ処理を行い、画像の境界が強調されたエッジ画像を作
成するエッジ強調手段と、前記エッジ画像に基づいてエ
ッジ直線を抽出する直線抽出手段と、前記エッジ直線間
の距離が所定の範囲内に収まる場合に区分線を検出する
区分線検出手段と、該区分線検出手段による検出結果に
基づいて車両が走行している通行区分を判定する通行区
分判定手段とを有する。
【0009】本発明の他の自車位置認識装置において
は、さらに、前記車両が走行している通行区分を区画す
る両側の各区分線の左縁及び右縁に対応させて、前記画
像の下部の所定の範囲に少なくとも4個の探索領域を設
定する探索領域設定手段を有する。そして、該探索領域
設定手段は、区分線検出手段によって検出された区分線
に対応させて探索領域の位置を更新する。
【0010】本発明の更に他の自車位置認識装置におい
ては、さらに、前記探索領域設定手段は、区分線検出手
段によって区分線を検出することができないとき、所定
の条件が満たされるまで前記探索領域を保持し、所定の
条件が満たされると、前記探索領域の位置を初期値にす
る。本発明の更に他の自車位置認識装置においては、さ
らに、前記通行区分判定手段は、前記区分線検出手段が
継続して区分線を検出している場合に、該区分線は実線
であると判定し、前記区分線検出手段が定期的に区分線
を検出している場合に、該区分線は破線であると判定す
る実線・破線判定手段を備える。
【0011】本発明の更に他の自車位置認識装置におい
ては、さらに、前記通行区分判定手段は、車両が走行し
ている通行区分を区画する両側の区分線が実線であるか
破線であるかの判断に基づいて通行区分を判定する。本
発明の自車位置認識方法においては、車両の前方を撮像
し、得られた画像に対してエッジ処理を行い、画像の境
界が強調されたエッジ画像を作成し、車両が走行してい
る通行区分を区画する両側の各区分線の左縁及び右縁に
対応させて、前記画像の下部の所定の範囲に少なくとも
4個の探索領域を設定し、該探索領域内の前記エッジ画
像に基づいてエッジ直線を抽出し、該エッジ直線間の距
離が所定の範囲内に収まる場合に区分線を検出し、該区
分線の検出結果に基づいて、車両が走行している通行区
分を判定する。
【0012】本発明の記録媒体においては、車両の前方
を撮像し、得られた画像に対してエッジ処理を行い、画
像の境界が強調されたエッジ画像を作成し、車両が走行
している通行区分を区画する両側の各区分線の左縁及び
右縁に対応させて、前記画像の下部の所定の範囲に少な
くとも4個の探索領域を設定し、該探索領域内の前記エ
ッジ画像に基づいてエッジ直線を抽出し、該エッジ直線
間の距離が所定の範囲内に収まる場合に区分線を検出
し、該区分線の検出結果に基づいて、車両が走行してい
る通行区分を判定する自車位置認識方法のプログラムを
記録する。
【0013】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照しながら詳細に説明する。図2は本発明の
第1の実施の形態における自車位置認識装置の制御回路
図である。図において、11は車両の前方を撮像する撮
像手段としての例えば、CCD等のカメラ、12は該カ
メラ11によって得られた画像に対してエッジ処理を行
い、画像の境界が強調されたエッジ画像を作成する画像
前処理プロセッサ、13は該画像前処理プロセッサ12
によって作成されたエッジ画像等が記録されるメモリ、
14は該メモリ13に記録されたエッジ画像から白線、
黄線等の区分線、及び車両の通行区分等を認識する認識
プロセッサ、15は該認識プロセッサ14を動作させる
プログラムを記録するプログラム用メモリである。な
お、前記メモリ13及びプログラム用メモリ15によっ
て記録媒体が構成され、該記録媒体として磁気テープ、
磁気ディスク、フロッピーディスク、磁気ドラム、C
D、MD、DVD、光ディスク、ICカード、光カード
等を使用することもできる。
【0014】本実施の形態において、前記プログラム用
メモリ15には各種のプログラムが記録され、前記メモ
リ13にはエッジ画像が記録されるようになっている
が、各種のプログラム及びエッジ画像を同じ外部の記録
媒体に記録することもできる。この場合、例えば、前記
自車位置認識装置に図示されないフラッシュメモリを配
設し、前記外部の記録媒体から前記各プログラム及びエ
ッジ画像を読み出してフラッシュメモリに書き込むこと
もできる。したがって、外部の記録媒体を交換すること
によって前記各プログラム及びエッジ画像を更新するこ
とができる。
【0015】図1は本発明の第1の実施の形態における
自車位置認識装置の機能ブロック図、図3は本発明の第
1の実施の形態における自車位置認識装置の動作を示す
メインフローチャート、図4は本発明の第1の実施の形
態における車両の前方を撮像することによって得られた
画像の例を示す図、図5は本発明の第1の実施の形態に
おける探索領域内のエッジ画像の例を示す図である。
【0016】図4に示されるように、CCDカメラ等の
カメラ11によって車両の前方が撮像され、前記カメラ
11によって得られた画像は、画像前処理プロセッサ1
2(図2)に送られる。この場合、図4に示されるよう
に、画像の左上が原点とされ、原点から右に向かってX
軸が、下に向かってY軸が設定される。なお、図4にお
いて、22は車両の左側の区分線、22Lは該区分線2
2の左縁、22Rは前記区分線22の右縁、23は車両
の右側の区分線、23Lは該区分線23の左縁、23R
は前記区分線23の右縁である。
【0017】そして、該画像前処理プロセッサ12のエ
ッジ強調手段17は、前記画像内に矩(く)形の探索領
域24〜27を設定し、探索領域24〜27内の画像に
対してエッジ強調を行い、前記画像をエッジ画像に変換
することによってエッジ画像を作成する。なお、前記エ
ッジ強調は、ソベル変換、ラプラシアン変換等の手法を
用いて行われ、画像において輝度が変化する境界が強調
される。
【0018】この場合、探索領域24は、区分線22の
左縁22Lに対応するエッジ点を検出するために、探索
領域25は、区分線22の右縁22Rに対応するエッジ
点を検出するために、探索領域26は、区分線23の左
縁23Lに対応するエッジ点を検出するために、探索領
域27は、区分線23の右縁23Rに対応するエッジ点
を検出するために設定される。なお、説明の便宜上、図
4においては、前記探索領域24と探索領域25とが、
また、探索領域26と探索領域27とが上下にずらして
示されているが、各探索領域24〜27のY座標は同じ
にされる。
【0019】そして、各探索領域24〜27の高さは、
探索領域24〜27を道路上に射影したときに高速道路
の通行区分を区画する破線の長さよりも短くなるように
設定される。また、前記各探索領域24〜27の幅は高
さと同じ程度にされるか、又は、車両が通行区分の中央
を走行していると仮定した場合に、撮影される車線が探
索領域内においてほぼ対角線になるように設定される。
【0020】さらに、各探索領域24〜27は、前記画
像の全体の領域における下部の所定の範囲に設定するよ
うになっていて、区分線22、23が検出されるたびに
各探索領域24〜27の位置が更新される。したがっ
て、X軸方向においては、各探索領域24〜27を前記
画像の左端から右端までの全範囲にわたって移動させる
ことができ、Y軸方向においては、各探索領域24〜2
7を前記画像の下端から所定の範囲にわたって移動させ
ることができる。そして、X軸方向における探索領域2
4〜27の位置の初期値は、車両が直進路の通行区分の
中央を走行していると仮定した場合の区分線が存在する
位置に基づいて設定され、前記プログラム用メモリ15
内にあらかじめ記録される。
【0021】なお、本実施の形態においては、エッジ処
理を行うのに必要な時間を短くするために、画像内に探
索領域24〜27を設定し、該探索領域24〜27内の
画像に対してエッジ強調を行うようにしているが、画像
の全体に対してエッジ強調を行った後、エッジ画像内に
探索領域を設定することもできる。次に、前記区分線2
2の左縁22L及び右縁22R、並びに前記区分線23
の左縁23L及び右縁23Rに対応する各エッジ点を検
出する方法について説明する。
【0022】まず、前記左縁22L、23Lに対応する
エッジ点を検出するための探索領域24、26において
は、探索領域24、26内に複数の走査線が設定され、
前記認識プロセッサ14の直線抽出手段18は、直線抽
出処理において、各走査線に沿って、左端から順に前記
画像を構成する各画素についてエッジ強度を検査し、該
各エッジ強度が所定の閾(しきい)値以上であるかどう
かを判断する。そして、前記直線抽出手段18は、エッ
ジ強度が前記閾値以上である画素(以下「エッジ画素」
という。)を検出し、該エッジ画素のX座標及びY座標
をメモリ13に書き込む。そして、検出されたエッジ画
素が3個になると、その走査線についてのエッジ強度の
検査を終了して次の走査線についてのエッジ強度の検査
を開始する。このようにして、各走査線ごとに画像の左
端から3個のエッジ画素が検出される。なお、1本の走
査線について3個のエッジ画素が検出されないまま、探
索領域24、26の右端に達した場合は、次の走査線に
ついてのエッジ強度の検査を開始する。
【0023】ところで、前記ソベル変換、ラプラシアン
変換等の手法を用いてエッジ強調を行うと、1本の走査
線上における輝度の境界線付近において少なくとも2個
のエッジ画素のエッジ強度が大きくなる。そこで、各走
査線ごとにエッジ画素を3個だけ検出するようにしてい
る。したがって、探索領域24、26において左端から
順に各エッジ画素についてエッジ強度を検査したとき
に、図5に示されるように、例えば、走査線Aにおいて
ノイズによって1個目のエッジ画素aが検出されても、
その後、2個目のエッジ画素b及び3個目のエッジ画素
cが連続して検出された時点でエッジ画素b、cによっ
て左縁22L、23Lに相当するエッジ点を検出するこ
とができる。また、ノイズが無い場合には、例えば、走
査線Bにおいて1個目のエッジ画素d及び2個目のエッ
ジ画素eが連続して検出された時点でエッジ画素d、e
によって左縁22L、23Lに相当するエッジ点を検出
することができる。その後、3個目のエッジ画素fによ
ってエッジ点が検出されるが、該エッジ点はノイズとな
る。
【0024】また、前記右縁22R、23Rに対応する
エッジ点を検出するための探索領域25、27において
は、該探索領域25、27内に複数の走査線が設定さ
れ、前記認識プロセッサ14の直線抽出手段18は、直
線抽出処理において、各走査線に沿って、右端から順に
前記各画素についてエッジ強度を検査し、該各エッジ強
度が所定の閾値以上であるかどうかを判断する。前記直
線抽出手段18は、エッジ画素を検出し、該エッジ画素
のX座標及びY座標をメモリ13に書き込む。そして、
検出されたエッジ画素が3個になると、その走査線につ
いてのエッジ強度の検査を終了して次の走査線について
のエッジ強度の検査を開始する。このようにして、各走
査線ごとに画像の右端から3個のエッジ画素が検出され
る。なお、1本の走査線について3個のエッジ画素が検
出されないまま、探索領域25、27の左端に達した場
合は、次の走査線についてのエッジ強度の検査を開始す
る。
【0025】次に、前記直線抽出手段18は、該探索領
域24〜27内において検出されたエッジ点に基づい
て、エッジ点の列から成る直線(以下「エッジ直線」と
いう。)を抽出する。なお、該エッジ直線は、前記エッ
ジ点の列に基づいて抽出され、例えば、ハフ変換、最小
自乗法等によって算出され、近似させられた直線の方程
式によって表される。
【0026】この場合、区分線22の左縁22L及び右
縁22Rに対応するエッジ点を検出するために探索領域
24、25が、区分線23の左縁23L及び右縁23R
に対応するエッジ点を検出するために探索領域26、2
7が設定されるので、各エッジ直線を独立に抽出するこ
とができる。前述されたように、本発明においては、各
走査線ごとにすべてのエッジ点を検出する必要はなく、
3個のエッジ点を検出するだけでよいので、エッジ直線
を注出するための対象になるエッジ点の数を極めて少な
くすることができる。したがって、直線注出処理の速度
を高くすることができる。
【0027】また、前記左縁22L、23Lに対応する
エッジ点を検出するために、探索領域24、25の左端
から3個のエッジ画素を検出し、右縁22R、23Rに
対応するエッジ点を検出するために、探索領域24、2
5の右端から3個のエッジ画素を検出するようになって
いる。そして、わずかなエッジ画素を検出するだけで、
任意の区分線の左縁又は右縁の近傍のエッジ点を高い確
率で検出することができる。なお、図5においては、走
査線A上において、1個のエッジ画素aによってノイズ
が、2個のエッジ画素b、cによって左縁22Lに対応
するエッジ点が検出される。また、走査線B上におい
て、2個のエッジ画素d、eによって左縁22Lに対応
するエッジ点が、1個のエッジ画素fによってノイズが
検出される。
【0028】この場合、1本の走査線に対して検出され
るエッジ画素を3個にしているが、該エッジ画素の数
は、カメラ11によって得られた画像に対してエッジ処
理を行ったときに走査線上に出現するエッジ画素の数の
平均値にほぼ等しい値にされる。なお、図5において
は、走査線上に出現するエッジ画素の数の平均値は2で
あるが、仮に、エッジ画素を2個だけ検出するようにす
ると、ノイズに対応するエッジ画素が1個存在する場
合、残りの1個のエッジ画素を検出するだけで左縁22
Lに対応するエッジ点を検出することが必要になり、ノ
イズを検出するためのエッジ画素とエッジ点を検出する
ためのエッジ画素との区別がつかなくなってしまう。し
たがって、エッジ点を高い確率で検出することができな
い。そこで、本実施の形態においては、1本の走査線に
対して検出されるエッジ画素が3個にされる。
【0029】また、本実施の形態においては、4個の探
索領域24〜27が設定されるようになっているが、1
個の長い探索領域を設定し、区分線22、23の左縁2
2L、23L及び右縁22R、23Rに対するエッジ点
を検出することもできる。次に、前記認識プロセッサ1
4の区分線検出手段19は、区分線検出処理において、
1本の区分線の右縁を表していると推定されるエッジ直
線(以下「右エッジ直線」という。)と左縁を表してい
ると推定されるエッジ直線(以下「左エッジ直線」とい
う。)との間のエッジ直線間の距離δを算出して、該距
離δが所定の範囲内に収まるかどうかを判断する。
【0030】そして、前記距離δが所定の範囲内に収ま
る場合は、前記エッジ直線は区分線によるものであると
判定し、区分線を検出する。この場合、前記距離δを算
出し、該距離δが所定の範囲内に収まるかどうかを判断
するだけでよいので、区分線を検出するための処理に必
要な時間を短くすることができるだけでなく、高速処理
を行うことが可能な演算回路を使用する必要がなくな
る。したがって、自車位置認識装置のコストを低くする
ことができるだけでなく、自車位置認識装置の信頼性を
高くすることができる。しかも、アルゴリズムを簡素化
することができるので、演算回路に加わる負荷を小さく
することができる。さらに、1本の区分線を2本のエッ
ジ直線によって検出しているので、例えば、ガードレー
ル、縁石等が路肩に存在していても、それらを区分線と
誤って検出してしまうことがなくなる。したがって、自
車位置認識装置の信頼性を向上させることができる。
【0031】なお、前記距離δが所定の範囲内に収まる
だけでなく、右エッジ直線が左エッジ直線より右に存在
する場合に、前記エッジ直線が区分線によるものである
と判定し、区分線を検出するようにしてもよい。また、
抽出されたエッジ直線が区分線によるものであると判断
されると、前記認識プロセッサ14の探索領域設定手段
21は、探索領域設定処理において、前記区分線検出手
段19の判定結果に基づいて、エッジ直線が探索領域2
4〜27内の設定位置、例えば、中央に位置するよう
に、次回の探索領域24〜27の位置を更新する。した
がって、探索領域設定手段21によって探索領域24〜
27の位置を連続的に更新することにより、探索領域2
4〜27において区分線を追跡することができる。
【0032】また、エッジ直線が抽出されない場合で
も、過去の所定回数のエッジ直接抽出処理において、エ
ッジ直線が抽出されている場合は、そのうちの最新のエ
ッジ直線の方程式に基づいて、探索領域24〜27の位
置を更新し、最新のエッジ直線の位置を探索領域24〜
27の中央に置く。したがって、区分線のかすれ、前記
画像の乱れ等によって一時的にエッジ直線を抽出するこ
とができない場合でも、その後、エッジ直線が再び抽出
されたときに、速やかに区分線の追跡を開始することが
できる。
【0033】なお、エッジ直線が抽出された後、設定さ
れた時間が経過してもエッジ直線が抽出されない場合は
探索領域24〜27の位置を更新する。また、認識プロ
セッサ14の通行区分判定手段20の図示されない実線
・破線判定手段は、実線・破線判定処理において、区分
線検出手段19が継続して区分線を検出しているか、定
期的に区分線を検出しているかを判断し、継続して区分
線を検出している場合、該区分線は実線であると判定
し、定期的に区分線を検出している場合、該区分線は破
線であると判定する。
【0034】次に、前記通行区分判定手段20は通行区
分を判定する。すなわち、通行区分判定手段20は、車
両の右側の区分線が実線であり、かつ、左側の区分線が
破線である場合は、車両は中央分離帯寄りの通行区分を
走行していると認識し、車両の右側の区分線が破線であ
り、かつ、車両の左側の区分線が実線である場合は、車
両は路肩寄りの通行区分を走行していると認識し、ま
た、車両の左右の区分線が共に破線である場合は、車両
は三つ以上の通行区分から成る道路において路肩寄り及
び中央分離帯寄り以外の通行区分を走行していると認識
し、さらに、車両の左右の区分線が共に実線である場合
は、車両は一つの通行区分から成る道路を走行している
と認識する。
【0035】次に、フローチャートについて説明する。 ステップS1 撮像手段によって得られた画像を取り込
む。 ステップS2 エッジ強調を行う。 ステップS3 エッジ点を検出する。 ステップS4 エッジ直線を抽出する。 ステップS5 区分線検出処理を行う。 ステップS6 探索領域更新処理を行う。 ステップS7 実線・破線判定処理を行う。 ステップS8 通行区分判定処理を行う。
【0036】次に、ステップS4のエッジ直線の抽出及
びステップS5の区分線検出処理のサブルーチンについ
て説明する。図6は本発明の第1の実施の形態における
区分線検出処理のサブルーチンを示すフローチャート、
図7は本発明の第1の実施の形態における区分線検出処
理の説明図である。なお、この場合、区分線22(図
4)を検出する例について説明する。
【0037】図において、24は探索領域、30は左縁
22Lに対応する複数のエッジ画素30aから成る左エ
ッジ画素群、31は右縁22Rに対応する複数のエッジ
画素31aから成る右エッジ画素群である。そして、前
記左エッジ画素群30と右エッジ画素群31とによって
挟まれた部分が区分線22に対応する。そして、本実施
の形態において、直線抽出手段18(図1)は、前記左
エッジ画素群30のうち、エッジ点に位置するエッジ画
素30aの座標に基づいてハフ変換を行い、左エッジ直
線32を検出する。また、前記右エッジ画素群31のう
ち、エッジ点に位置するエッジ画素31aの座標に基づ
いてハフ変換を行い、右エッジ直線33を検出する。
【0038】なお、前記ハフ変換においては、ハフ投票
空間における最大投票数が少ないと、左エッジ直線32
及び右エッジ直線33を誤検出してしまうので、最大投
票数が設定値以下である場合にハフ変換を行わないよう
にしている。前記設定値は、例えば、探索領域24〜2
7の高さ方向の画素数の1/3にされる。このようにし
て、左エッジ直線32及び右エッジ直線33が検出され
ると、直線抽出手段18は、探索領域24、25の中心
のY座標(YSW)における左エッジ直線32及び右エッ
ジ直線33の各X座標(XLL)、(XLR)を、それ
ぞれ左エッジ直線32及び右エッジ直線33の代表点と
して算出する。
【0039】次に、直線抽出手段18は、前記代表点間
のエッジ直線間の距離δ δ=XLR−XLL を算出し、該距離δが所定の範囲内に収まるかどうかを
判断する。この場合、該所定の範囲の下限値は、区分線
22の幅に相当する画像上の幅と等しくされ、上限値
は、前記区分線22の幅の3倍に相当する画像上の幅と
等しくされる。上限値を、前記区分線22の幅の3倍に
相当する画像上の幅と等しくするのは、中央分離帯を示
す白線の左右に追越禁止区域であることを表す黄線が併
せて塗布されることがあり、このとき、推定される区分
線の幅は、白線の幅と左右の2本の黄線の幅とを合計し
た値になるからである。
【0040】そして、前記距離δが前記所定の範囲内に
収まる場合、直線抽出手段18は、抽出された左エッジ
直線32及び右エッジ直線33によって区分線22を認
識することができると判断する。また、前記距離δが前
記所定の範囲内に収まらない場合、直線抽出手段18
は、抽出された左エッジ直線32及び右エッジ直線33
によって区分線22を認識することができないと判断す
る。
【0041】なお、左エッジ直線32及び右エッジ直線
33を抽出することができない場合、区分線22を認識
することができないと判断する。次に、フローチャート
について説明する。 ステップS5−1 左エッジ直線32のX座標(XL
L)を算出する。 ステップS5−2 右エッジ直線33のX座標(XL
R)を算出する。 ステップS5−3 左エッジ直線32のX座標(XL
L)と右エッジ直線33のX座標(XLR)との差が所
定範囲内に収まるかどうかを判断する。所定範囲内に収
まる場合はステップS5−4に、所定範囲内に収まらな
い場合はステップS5−5に進む。 ステップS5−4 区分線を認識する。 ステップS5−5 区分線を認識しない。
【0042】次に、図3のステップS7における実線・
破線判定処理について説明する。図8は本発明の第1の
実施の形態における実線・破線判定処理のサブルーチン
を示すフローチャートである。この場合、検出された区
分線22(図4)が実線であるか破線であるかを判定す
る。そのために、区分線検出手段19(図1)内には、
区分線検出処理において区分線22が検出されたときに
1になり、検出されなかったときに0になる変数Z
(i)(i=1、2、…、n)が用意され、該変数Z
(i)によって過去のn回分の区分線22の検出結果を
表すことができるようになっている。
【0043】そして、区分線検出手段19は、過去のn
回分の前記変数Z(i)の合計Zsu m を算出し、該合計
sum に基づいて、検出された区分線22が実線である
か破線であるかを判定する。なお、検出された区分線2
2が実線である場合は、理想的には変数Z(i)は常に
1であるので、合計Zsum はnになる。また、区分線2
2が破線である場合には、区分線22の検出が周期的に
検出されるので、合計Zsum はn/2に近い値になる。
実際には、道路上の区分線のかすれ等によって区分線2
2が常に検出されるとは限らないので、例えば、前記合
計Zsum が0.7n以上である場合は、区分線22が実
線であると判定し、合計Zsum が0.7nより小さく
0.3n以上である場合は、区分線22が破線であると
判定する。また、合計Zsum が0.3nより小さい場合
は、区分線22を検出することができないと判断する。
そして、前記区分線検出手段19は、前記区分線23が
実線であるか破線であるかの判定を同様の手順で行う。
【0044】なお、値nは、探索領域24、25に破線
が表れると仮定した場合に、破線が少なくとも2回は探
索領域24、25に表れる時間に相当する数とする。こ
のとき、例えば、車速vを入力として画像処理のサンプ
リングタイムをTS とした場合に、値v・n・TS が一
定になるように値nを調整することができる。この場
合、前記値v・n・TS は、n回のサンプリングの間に
車両が進む距離を表していて、この距離がほぼ破線二つ
分の距離に相当するように値nが調整される。
【0045】次に、フローチャートについて説明する。 ステップS7−1 変数Z(i)に1をセットする。 ステップS7−2 区分線22が検出されたかどうかを
判断する。区分線22が検出された場合はステップS7
−3に、検出されていない場合はステップS7−4に進
む。 ステップS7−3 変数Z(1)を1にする。 ステップS7−4 変数Z(1)を0にする。 ステップS7−5 変数Z(i)の合計Zsum を計算す
る。 ステップS7−6 合計Zsum が0.7n以上であるか
どうかを判断する。合計Zsum が0.7n以上である場
合はステップS7−8に、0.7より小さい場合はステ
ップS7−7に進む。 ステップS7−7 合計Zsum が0.7nより小さく
0.3n以上であるかどうかを判断する。合計Zsum
0.7nより小さく0.3n以上である場合はステップ
S7−9に、合計Zsum が0.3nより小さい場合はス
テップS7−10に進む。 ステップS7−8 実線であると判定する。 ステップS7−9 破線であると判定する。 ステップS7−10 区分線22を検出することができ
ないと判断する。 ステップS7−11 iに1を加算する。
【0046】次に、通行区分判定手段20による通行区
分判定処理について説明する。この場合、通行区分判定
手段20によって探索領域24〜27の位置の更新が行
われる。そのために、各探索領域24〜27ごとに、過
去のm回分の直線抽出処理において抽出された左エッジ
直線32及び右エッジ直線33のうち、最も新しい左エ
ッジ直線32及び右エッジ直線33の方程式がメモリ1
3に記録される。そして、通行区分判定手段20は、各
探索領域24〜27ごとに中心のY座標(YSW)におけ
る左エッジ直線32及び右エッジ直線33の各X座標
(XSW)を算出し、算出されたX座標(XSW)を、次回
の直線抽出処理における探索領域24〜27の中心とす
る。
【0047】このようにして、探索領域24〜27が更
新されるので、抽出された左エッジ直線32及び右エッ
ジ直線33を常に探索領域24〜27の中心に置くこと
ができる。なお、過去のm回とも左エッジ直線32及び
右エッジ直線33を検出することができなかった場合、
メモリ13内に記録されている探索領域24〜27の位
置を更新する。また、過去のm回のうちの最新の情報が
用いられるので、区分線22、23のかすれ、撮像によ
って得られた画像の乱れ等によって一時的に左エッジ直
線32及び右エッジ直線33を抽出することができない
場合でも、その後、左エッジ直線32及び右エッジ直線
33が再び抽出されたときに、速やかに区分線22、2
3の追跡を開始することができる。したがって、区分線
22、23を認識することができる確率を高くすること
ができる。
【0048】前記値mとしては、区分線22、23が破
線である場合、m回分の直線抽出処理を行っている間
に、破線と破線との間の切れ目から抜け出ることができ
るだけの時間に相当する数以上とする。なお、前記値m
と値nとを等しくすることもできる。また、更新された
探索領域24〜27が画像の中央、又は画像の端部に達
した場合、車両が通行区分を変更した可能性が高いの
で、探索領域24〜27の位置を更新する。
【0049】次に、車両が通行区分を変更したことを判
断することができるようにした本発明の第2の実施の形
態について説明する。なお、第1の実施の形態と同じ構
造を有するものについては、同じ符号を付与することに
よってその説明を省略する。図9は本発明の第2の実施
の形態における車両の前方を撮像することによって得ら
れた画像の例を示す図である。
【0050】図において、52、53は車両の左側の区
分線、52Lは該区分線52の左縁、52Rは前記区分
線52の右縁、23は車両の右側の区分線、23Lは該
区分線23の左縁、23Rは前記区分線23の右縁であ
る。前記区分線52は破線であり、区分線23、53は
実線である。車両が中央分離帯寄りから路肩寄りへ通行
区分を変更する場合、破線の区分線52を認識するのに
必要な探索領域24、25は画像の中央に移動し、同時
に、実線の区分線23を認識するのに必要な探索領域2
6、27は画像の右側の端部に移動させられる。
【0051】そこで、認識プロセッサ14(図2)の図
示されない通行区分変更調査手段は、探索領域24、2
5が画像の中央に移動した時点で、車両が通行区分を変
更したと判断する。そして、通行区分の変更が終了した
後に、前記探索領域24〜27において車両の左右の新
たな区分線を直ちに認識することができるように、探索
領域24〜27の位置を初期値にする。
【0052】一方、車両が路肩寄りから中央分離帯寄り
へ通行区分を変更する場合、破線の区分線を認識するの
に必要な探索領域26、27は画像の中央に移動し、同
時に、実線の区分線を認識するのに必要な探索領域2
4、25は画像の左側の端部に移動させられる。このよ
うに、探索領域24〜27の位置が画像の中央に移動し
たかどうかを判断するだけで、車両が通行区分を変更し
たかどうかを判断することができる。
【0053】したがって、車両がどの通行区分を走行し
ているかを認識することができるので、走行している通
行区分に対応させてエンジン、自動変速機等の制御の内
容、開始位置等を変更することができる。また、本発明
をナビゲーション装置に適用し、走行している通行区分
に対応させて経路案内の内容、開始位置等を変更した
り、検出された現在位置を補正したりすることもでき
る。例えば、左折するべき案内交差点に差し掛かるとき
に、中央分離帯寄りの通行区分を走行している場合に
は、通常より手前の位置で経路案内を開始するようにす
ることができる。
【0054】
【発明の効果】以上詳細に説明したように、本発明によ
れば、自車位置認識装置においては、車両の前方を撮像
する撮像手段と、該撮像手段によって得られた画像に対
してエッジ処理を行い、画像の境界が強調されたエッジ
画像を作成するエッジ強調手段と、前記エッジ画像に基
づいてエッジ直線を抽出する直線抽出手段と、前記エッ
ジ直線間の距離が所定の範囲内に収まる場合に区分線を
検出する区分線検出手段と、該区分線検出手段による検
出結果に基づいて車両が走行している通行区分を判定す
る通行区分判定手段とを有する。
【0055】この場合、車両の前方を撮像し、得られた
画像からエッジを抽出し、画像の境界が強調されたエッ
ジ画像を作成するようにしている。また、前記エッジ画
像に基づいてエッジ直線を抽出し、該エッジ直線間の距
離が所定の範囲内に収まる場合に区分線を検出する。
【0056】したがって、エッジ直線間の距離を算出
し、該エッジ直線間の距離が所定の範囲内に収まるかど
うかを判断するだけでよいので、区分線を検出するため
の処理に必要な時間を短くすることができるだけでな
く、高速処理を行うことが可能な演算回路を使用する必
要がなくなる。その結果、自車位置認識装置のコストを
低くすることができるだけでなく、自車位置認識装置の
信頼性を高くすることができる。しかも、アルゴリズム
を簡素化することができるので、演算回路に加わる負荷
を小さくすることができる。さらに、ガードレール、縁
石等が路肩に存在していても、区分線を誤って検出して
しまうことがなくなるので、自車位置認識装置の信頼性
を更に向上させることができる。
【0057】本発明の他の自車位置認識装置において
は、さらに、前記車両が走行している通行区分を区画す
る両側の各区分線の左縁及び右縁に対応させて、前記画
像の下部の所定の範囲に少なくとも4個の探索領域を設
定する探索領域設定手段を有する。そして、該探索領域
設定手段は、区分線検出手段によって検出された区分線
に対応させて探索領域の位置を更新する。
【0058】この場合、探索領域を連続的に更新するこ
とによって、探索領域において区分線を追跡することが
できる。本発明の更に他の自車位置認識装置において
は、さらに、前記探索領域設定手段は、区分線検出手段
によって区分線を検出することができないとき、所定の
条件が満たされるまで前記探索領域を保持し、所定の条
件が満たされると、前記探索領域の位置を初期値にす
る。
【0059】この場合、区分線のかすれ、撮影によって
得られた画像の乱れ等によって一時的にエッジ直線を抽
出することができなくても、その後、エッジ直線が再び
抽出されたときに、速やかに区分線の追跡を開始するこ
とができる。本発明の更に他の自車位置認識装置におい
ては、さらに、前記通行区分判定手段は、前記区分線検
出手段が継続して区分線を検出している場合に、該区分
線は実線であると判定し、前記区分線検出手段が定期的
に区分線を検出している場合に、該区分線は破線である
と判定する実線・破線判定手段を備える。
【0060】この場合、区分線が実線であるか破線であ
るかの判断を行うことができるので、自車位置認識装置
の信頼性を向上させることができる。本発明の更に他の
自車位置認識装置においては、さらに、前記通行区分判
定手段は、車両が走行している通行区分を区画する両側
の区分線が実線であるか破線であるかの判断に基づいて
通行区分を判定する。
【0061】この場合、通行区分を判定することができ
るので、自車位置認識装置の信頼性を向上させることが
できる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態における自車位置認
識装置の機能ブロック図である。
【図2】本発明の第1の実施の形態における自車位置認
識装置の制御回路図である。
【図3】本発明の第1の実施の形態における自車位置認
識装置の動作を示すメインフローチャートである。
【図4】本発明の第1の実施の形態における車両の前方
を撮像することによって得られた画像の例を示す図であ
る。
【図5】本発明の第1の実施の形態における探索領域内
のエッジ画像の例を示す図である。
【図6】本発明の第1の実施の形態における区分線検出
処理のサブルーチンを示すフローチャートである。
【図7】本発明の第1の実施の形態における区分線検出
処理の説明図である。
【図8】本発明の第1の実施の形態における実線・破線
判定処理のサブルーチンを示すフローチャートである。
【図9】本発明の第2の実施の形態における車両の前方
を撮影することによって得られた画像の例を示す図であ
る。
【符号の説明】
11 カメラ 13 メモリ 15 プログラム用メモリ 17 エッジ強調手段 18 直線抽出手段 19 区分線検出手段 20 通行区分判定手段 21 探索領域設定手段 22、23、52、53 区分線 22L、23L、52L 左縁 22R、23R、52R 右縁 24〜27 探索領域 32 左エッジ直線 33 右エッジ直線

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 車両の前方を撮像する撮像手段と、該撮
    像手段によって得られた画像に対してエッジ処理を行
    い、画像の境界が強調されたエッジ画像を作成するエッ
    ジ強調手段と、前記エッジ画像に基づいてエッジ直線を
    抽出する直線抽出手段と、前記エッジ直線間の距離が所
    定の範囲内に収まる場合に区分線を検出する区分線検出
    手段と、該区分線検出手段による検出結果に基づいて車
    両が走行している通行区分を判定する通行区分判定手段
    とを有することを特徴とする自車位置認識装置。
  2. 【請求項2】 前記車両が走行している通行区分を区画
    する両側の各区分線の左縁及び右縁に対応させて、前記
    画像の下部の所定の範囲に少なくとも4個の探索領域を
    設定する探索領域設定手段を有するとともに、該探索領
    域設定手段は、区分線検出手段によって検出された区分
    線に対応させて探索領域の位置を更新する請求項1に記
    載の自車位置認識装置。
  3. 【請求項3】 前記探索領域設定手段は、区分線検出手
    段によって区分線を検出することができないとき、所定
    の条件が満たされるまで前記探索領域を保持し、所定の
    条件が満たされると、前記探索領域の位置を初期値にす
    る請求項2に記載の自車位置認識装置。
  4. 【請求項4】 前記通行区分判定手段は、前記区分線検
    出手段が継続して区分線を検出している場合に、該区分
    線は実線であると判定し、前記区分線検出手段が定期的
    に区分線を検出している場合に、該区分線は破線である
    と判定する実線・破線判定手段を備える請求項1に記載
    の自車位置認識装置。
  5. 【請求項5】 前記通行区分判定手段は、車両が走行し
    ている通行区分を区画する両側の区分線が実線であるか
    破線であるかの判断に基づいて通行区分を判定する請求
    項4に記載の自車位置認識装置。
  6. 【請求項6】 車両の前方を撮像し、得られた画像に対
    してエッジ処理を行い、画像の境界が強調されたエッジ
    画像を作成し、車両が走行している通行区分を区画する
    両側の各区分線の左縁及び右縁に対応させて、前記画像
    の下部の所定の範囲に少なくとも4個の探索領域を設定
    し、該探索領域内の前記エッジ画像に基づいてエッジ直
    線を抽出し、該エッジ直線間の距離が所定の範囲内に収
    まる場合に区分線を検出し、該区分線の検出結果に基づ
    いて、車両が走行している通行区分を判定することを特
    徴とする自車位置認識方法。
  7. 【請求項7】 車両の前方を撮像し、得られた画像に対
    してエッジ処理を行い、画像の境界が強調されたエッジ
    画像を作成し、車両が走行している通行区分を区画する
    両側の各区分線の左縁及び右縁に対応させて、前記画像
    の下部の所定の範囲に少なくとも4個の探索領域を設定
    し、該探索領域内の前記エッジ画像に基づいてエッジ直
    線を抽出し、該エッジ直線間の距離が所定の範囲内に収
    まる場合に区分線を検出し、該区分線の検出結果に基づ
    いて、車両が走行している通行区分を判定することを特
    徴とする自車位置認識方法のプログラムを記録した記録
    媒体。
JP11938398A 1998-04-28 1998-04-28 自車位置認識装置、自車位置認識方法及びプログラム Expired - Fee Related JP3999345B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11938398A JP3999345B2 (ja) 1998-04-28 1998-04-28 自車位置認識装置、自車位置認識方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11938398A JP3999345B2 (ja) 1998-04-28 1998-04-28 自車位置認識装置、自車位置認識方法及びプログラム

Publications (2)

Publication Number Publication Date
JPH11312299A true JPH11312299A (ja) 1999-11-09
JP3999345B2 JP3999345B2 (ja) 2007-10-31

Family

ID=14760159

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11938398A Expired - Fee Related JP3999345B2 (ja) 1998-04-28 1998-04-28 自車位置認識装置、自車位置認識方法及びプログラム

Country Status (1)

Country Link
JP (1) JP3999345B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001263479A (ja) * 2000-03-17 2001-09-26 Equos Research Co Ltd 車両制御装置、車両制御方法及びそのプログラムを記録した記録媒体
JP2004086836A (ja) * 2002-07-03 2004-03-18 Isuzu Motors Ltd 走行車線誘導装置
JP2007072512A (ja) * 2005-09-02 2007-03-22 Toyota Motor Corp 道路区画線検出装置
JP2010271929A (ja) * 2009-05-21 2010-12-02 Denso Corp 車線境界線種別推定装置及び車線境界線種別推定方法
JP2018052461A (ja) * 2016-09-30 2018-04-05 株式会社デンソー 領域認識装置及び領域認識方法
WO2020217953A1 (ja) * 2019-04-23 2020-10-29 株式会社デンソー 車両用装置、車両用プログラムおよび記憶媒体

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001263479A (ja) * 2000-03-17 2001-09-26 Equos Research Co Ltd 車両制御装置、車両制御方法及びそのプログラムを記録した記録媒体
JP2004086836A (ja) * 2002-07-03 2004-03-18 Isuzu Motors Ltd 走行車線誘導装置
JP2007072512A (ja) * 2005-09-02 2007-03-22 Toyota Motor Corp 道路区画線検出装置
JP4532372B2 (ja) * 2005-09-02 2010-08-25 トヨタ自動車株式会社 道路区画線検出装置
JP2010271929A (ja) * 2009-05-21 2010-12-02 Denso Corp 車線境界線種別推定装置及び車線境界線種別推定方法
JP2018052461A (ja) * 2016-09-30 2018-04-05 株式会社デンソー 領域認識装置及び領域認識方法
WO2020217953A1 (ja) * 2019-04-23 2020-10-29 株式会社デンソー 車両用装置、車両用プログラムおよび記憶媒体
JP2020180791A (ja) * 2019-04-23 2020-11-05 株式会社デンソー 車両用装置、車両用プログラムおよび記憶媒体

Also Published As

Publication number Publication date
JP3999345B2 (ja) 2007-10-31

Similar Documents

Publication Publication Date Title
JP4157620B2 (ja) 移動物体検出装置及びその方法
JP3169483B2 (ja) 道路環境認識装置
CN110287779A (zh) 车道线的检测方法、装置及设备
EP1596322A2 (en) Driving lane recognizer and driving lane recognizing method
US20100110193A1 (en) Lane recognition device, vehicle, lane recognition method, and lane recognition program
JP2001134769A (ja) 対象物認識装置
JPH06107096A (ja) 車両用前方監視方法
JP2007179386A (ja) 白線認識方法及び白線認識装置
JP2018005618A (ja) 道路認識装置
JPH08156723A (ja) 車両用障害物検出装置
US20220219700A1 (en) Apparatus, method, and computer program for generating map
JPH07111734B2 (ja) 走行路判別方法
JP4631197B2 (ja) 分岐路判定装置、プログラム及び記録媒体
JPH10300494A (ja) 車輌位置検出装置および方法ならびに経路案内装置および方法
JP3999345B2 (ja) 自車位置認識装置、自車位置認識方法及びプログラム
JP3807651B2 (ja) 白線認識装置
JP5888275B2 (ja) 道路端検出システム、方法およびプログラム
JP3319401B2 (ja) 走行路認識装置
JP6608664B2 (ja) 自車位置認識装置
JPH07244717A (ja) 車両用走行環境認識装置
JP4419260B2 (ja) ナビゲーション装置、ナビゲーション装置の制御方法及び記録媒体
US20220309805A1 (en) Apparatus, method, and computer program for detecting lane boundary
JP6538514B2 (ja) 自車位置認識装置
KR101595317B1 (ko) 차량의 정밀 측위를 위한 노면 표시 검출 방법 및 그 시스템
JP2003187252A (ja) 車線境界検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050422

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070417

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070807

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070809

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100817

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110817

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110817

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120817

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130817

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees