JP4134862B2 - 移動体の視界支援装置 - Google Patents

移動体の視界支援装置 Download PDF

Info

Publication number
JP4134862B2
JP4134862B2 JP2003322976A JP2003322976A JP4134862B2 JP 4134862 B2 JP4134862 B2 JP 4134862B2 JP 2003322976 A JP2003322976 A JP 2003322976A JP 2003322976 A JP2003322976 A JP 2003322976A JP 4134862 B2 JP4134862 B2 JP 4134862B2
Authority
JP
Japan
Prior art keywords
moving object
image
vehicle
display
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003322976A
Other languages
English (en)
Other versions
JP2005094202A (ja
Inventor
俊典 笠井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2003322976A priority Critical patent/JP4134862B2/ja
Priority to DE102004042762A priority patent/DE102004042762A1/de
Publication of JP2005094202A publication Critical patent/JP2005094202A/ja
Application granted granted Critical
Publication of JP4134862B2 publication Critical patent/JP4134862B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/207Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using multi-purpose displays, e.g. camera image and navigation or video on same display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/404Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components triggering from stand-by mode to operation mode
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Description

本発明は、移動体に搭載されたカメラで取り込んだ画像を表示して、ユーザの視界を支援する移動体の視界支援装置に関する。
従来より、見通しの悪い交差点等においてユーザの死角となる範囲を表示する視界支援装置が知られている。このような視界支援装置として、車両の進行方向に対して右方向と左方向を撮影するためのカメラと、右方向と左方向のカメラ画像を一度に表示する画像表示部を備えるものが提案されている(例えば、特許文献1参照)。
特開2001−84500号公報
しかしながら、上記特許文献1に記載の装置では、1つの表示部を分割して複数の異なるカメラ映像を表示するため、ユーザの視界とカメラ映像との位置関係がわかりにくい。このため、ユーザが表示部を見てどこに何があるのか一瞬で判断できるまでに慣れを要するという問題がある。また、運転者の視野範囲とカメラによる視野範囲とでカバーできない範囲が存在する場合には死角が発生してしまうため、いろいろな方向を目視でも確認しなければならず、運転者の目視確認範囲は軽減されない。
本発明は上記点に鑑み、ユーザが目視可能な範囲と目視できない範囲との位置関係を容易に把握できるとともに、死角をなくすことが可能な移動体の視界支援装置を提供することを目的とする。
上記目的を達成するため、請求項1に記載の発明では、移動体に搭載され、ユーザの視野より広い画角で画像を取得可能な画像取得手段(10)と、画像取得手段(10)により取得した画像に含まれる画像歪みを補正する歪み補正処理を行う画像補正手段(32)と、画像補正手段により補正された補正画像を表示可能な表示手段(40)と、補正画像に基づいて移動物体を検出する移動物体検出手段(32)とを備え、表示手段(40)は、補正画像を自動的にスクロールして表示し、移動体検出手段(32)により、移動体が進行すると想定される移動体進行予定範囲内に存在する移動物体、あるいは移動体進行予定範囲に接近してくる移動物体を検出した場合には、表示手段(40)は補正画像の自動スクロールを停止するとともに、移動物体を自動追従表示することを特徴としている。このように、ユーザの視野より広い範囲の画像を取り込むことができる画像取得手段を用いることで、ユーザが目視可能な範囲と目視できない範囲との位置関係を容易に把握できるとともに、死角をなくすことが可能となる。
また表示手段(40)で補正画像を自動的に拡大スクロール表示することで、画角の小さな表示装置であっても画像全体を表示することが可能となり、表示が小さくなり見にくくなることを防止できる。
また移動体検出手段(32)により、移動体が進行すると想定される移動体進行予定範囲内に存在する移動物体、あるいは移動体進行予定範囲に接近してくる移動物体を検出した場合には、表示手段(40)は補正画像の自動スクロールを停止するとともに、移動物体を自動追従表示することで、移動物体の状態をユーザに視認させることができ、ユーザは表示手段を注視するだけで安全確認が可能となる。ここで、「自動追従表示」とは、表示手段(40)に移動物体を含む範囲の補正画像を表示することをいう。
また、請求項に記載の発明のように、移動物体を検出した旨をユーザに報知する報知手段(40、50)を備えることで、ユーザに対して移動物体の存在を積極的に知らせることができる。
また、請求項に記載の発明では、移動物体を検出した旨の移動物体検出情報を移動体の制御を行う制御手段(60)に送信することを特徴としている。この情報に基づいて制御手段(60)は移動体の走行等の制御を行うことができ、ユーザの安全運転をより積極的に支援することができる。
なお、上記各手段の括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示すものである。
以下、本発明の一実施形態について図1〜図5に基づいて説明する。本実施形態の視界支援装置は、移動体としての車両に搭載されて用いられる。この車両には図示しないナビゲーション装置が搭載されているものとする。
図1は、本実施形態の視界支援装置の全体構成を示す概念図である。図1に示すように、視界支援装置は、カメラ10、操作部20、制御部30、表示部40、音響装置50を備えている。
図2は、カメラ10の配置位置およびカメラ10の視野範囲を示している。図2は、見通しの悪い交差点(三叉路)に車両がさしかかった状態を示している。図2に示すように、カメラ10は車両前方側のバンパー等に前方に向けて設置されている。カメラ10は、ユーザとしての車両運転者の視野(通常水平方向100°程度)より広い範囲の画像を取り込むことができる広角レンズを備えている。本実施形態のカメラ10は、視野角(画角)が180°〜190°程度の魚眼レンズを備えたCCDカメラを用いている。図2の破線がカメラ10の視野範囲を示している。カメラ10にて撮影された画像は、アナログデータとして後述の制御部30に出力される。なお、カメラ10が本発明の画像取得手段を構成している。
図1に戻り、操作部20は、視界支援装置を作動開始あるいは作動終了させるための切替操作や各種設定を行うためのものである。操作部20は、例えばユーザが操作するハンドルに設けることができる。操作部20にて設定可能な内容としては、例えば視界支援装置によるユーザへの警報内容等がある。操作部20での設定内容は後述の制御部30に出力され、制御部30の記憶装置(図示せず)で記憶保持される。
制御部30は、A/Dコンバータ31と画像処理部32とを備えている。カメラ10から入力するアナログ形式の画像データはA/Dコンバータ31にてデジタル形式に変換される。また、魚眼レンズを含む広角レンズによる画像は広角レンズ特有の画像歪みを含んでいる。具体的には、広角レンズ、特に魚眼レンズによる画像では周辺部で直線が曲線となって表示される。また、魚眼特有の歪により距離感も狂ってしまう。このため、画像処理部32でカメラ10により撮影された画像を補正する歪み補正処理を行う。このとき、カメラ10により撮影した画像のうち上下の不要な範囲も削除する。画像処理部32では、後述のように画像処理後のカメラ画像の一部を左右方向にスクロールして表示させる自動スクロール表示を行う。さらに画像処理部32では、カメラ画像を監視して移動物体を検出する処理を行うとともに、移動物体を検出した場合には移動物体を含む範囲のカメラ画像を表示する自動追従表示を行うように構成されている。さらにまた制御部30では、音響装置50のブザー音や合成音声の出力を制御する。なお、画像処理部32が本発明の画像補正手段を構成している。
表示装置40は、ユーザが通常運転姿勢で視認可能な車室内前方側に設けられ、各種情報を表示可能なものである。表示装置40には、制御部30の画像処理部32にて画像処理されたカメラ画像が表示される。本実施形態では、表示装置40としてナビゲーション装置のモニターを用いている。なお、表示装置40が本発明の表示手段を構成している。
図3は、カメラ画像と表示装置40における表示との関係を示している。図3中の破線が、表示装置40の表示範囲を示している。図3に示すように、本実施形態の視界支援装置では、表示装置40でカメラ画像全体を一度に表示するのではなく、カメラ画像の一部を拡大して表示する。表示装置40による表示範囲を左右方向にスクロールすることで、カメラ画像の全体を表示する。表示装置40にて画面をスクロールさせる速さは、ユーザが目視で安全確認する場合と同程度の速さとする。本実施形態では、運転者の安全確認動作をシミュレートして、左側通行の場合には、右→正面→左→正面→右と連続的に画面表示を自動的にスクロールさせている。なお、右側通行の場合には、自動スクロールを左→正面→右→正面→左の順で行えばよい。
図1に戻り、音響装置50は、ブザー音や合成音声を出力してユーザに対して聴覚的に情報を報知可能なものであり、本実施形態ではオーディオ装置のスピーカを用いている。なお、表示部40および音響装置50が本発明の報知手段を構成している。
また、制御部30は車載LANに接続されている。車載LANには、車両に搭載された複数の車載ECU60が接続されており、これらの車載ECU60として、エンジンの作動を制御するエンジンECUやブレーキ装置の作動を制御するブレーキECU等の制御装置がある。なお、車載ECU60が本発明の走行等の制御手段を構成している。
次に、本実施形態の移動体の視界支援装置の作動について図4のフローチャートに基づいて説明する。視界支援装置の作動条件が満たされている場合に以下の処理を行う。視界支援装置の作動条件とは、(1)オートマチック車の場合にはシフトレバーが「P」または「R」以外に位置しており、(2)車速が10km/h以下であり、(3)ナビゲーション装置により自車位置がブラインドコーナ(見通しの悪い交差点等)に接近している場合、あるいは操作部20からユーザによる視界支援装置の作動開始指示があった場合である。
まず、カメラ10により取り込んだ画像の歪み補正処理を行うとともに、拡大する画像処理を行う(S10)。次に、表示装置40にてカメラ画像の自動スクロール表示を行う(S11)。次に、表示装置40にて自動スクロールが完了したか、すなわち右→正面→左→正面→右の順でスクロールしてカメラ画像をすべて表示したか否かを判定する(S12)。この結果、自動スクロールが完了している場合には、表示部40の画面を切り替える(S13)。本実施形態では、表示装置40の表示を視界支援装置のカメラ画像からナビゲーション装置の地図画像に切り替える。
一方、自動スクロールが完了していない場合、すなわちスクロールの途中である場合には、カメラ画像のなかに移動物体が存在するか否かを判定する(S14)。この結果、移動物体を検出しない場合には上記ステップS11に戻り、移動物体を検出した場合には、ユーザに移動物体が存在する旨の注意報知を行う(S15)。この注意報知は、ユーザが予め設定した注意報知条件に従って行われ、表示装置40による視覚的な報知と音声出力装置50による聴覚的な報知とを同時に、あるいはいずれ一方のみを行うことができる。表示装置40による報知としては、例えば移動物体を赤色で表示する等して強調表示することができる。さらに、車内LANを介して、車載ECU60に情報を送信することもできる。この情報に基づいて車載ECU60で車両走行制御を行うことができる。
次に、車両が所定の進行方向に進行した場合に車両が通過する車両通過予定範囲(移動体進行予定範囲)内に移動物体が存在する、あるいは移動物体が車両通過予定範囲内に接近中であるか否かを判定する(S16)。車両の進行方向は、ハンドルの角度やウィンカー等から判断することができる。図5は、車両通過予定範囲を示す説明図である。例えば車両が右折する場合には、図5中の破線で示すように正面から右側にかけて車両通過予定範囲となる。
この結果、移動物体を検出しない場合には、上記ステップS11に戻る。一方、車両通過予定範囲内に移動物体が存在あるいは接近している場合には、運転者に対して車両通過予定範囲内に移動物体が存在する旨の警告表示を行う(S17)。車両通過予定範囲内に移動物体が存在あるいは接近している場合にそのまま車両を進行させると、車両が移動物体に衝突する可能性があるので、警告表示は上記注意報知に対してより重要度の高い報知として行われる。この警告報知は、ユーザが予め設定した警告報知条件に従って行われ、表示装置40による視覚的な報知と音響装置50による聴覚的な報知とを同時に、あるいはいずれ一方のみを行うことができる。さらに、車載LANを介して、車載ECU60に情報を送信することもできる。この情報に基づいて車載ECU60で車両制御を行うことができる。例えば、ユーザがアクセルを踏み込んで車両を加速させようとした場合には、車両の走行を制限するように走行制御を行うことができる。
次に、表示装置40では自動スクロールを停止し(S18)、移動物体に自動追従を行う(S19)。これにより、ユーザに対して移動物体の状態を視認させることができる。その後上記ステップS16に戻る。移動物体が車両進行予定範囲内から遠ざかるかあるいは停止した場合、すなわち車両が移動物体に衝突する可能性がなくなり安全になったと判断したら、ステップS11の自動スクロール処理に復帰する。
以上のように、移動体の視界支援装置において、ユーザの視野より広い範囲の画像を取り込むことができる広角レンズを備えたカメラ10を用いることで、ユーザが目視可能な範囲と目視できない範囲との位置関係を容易に把握できるとともに、死角をなくすことが可能となる。また、表示装置40の大きさの制約から画角の大きいカメラ画像全体を一度に表示すると、表示内容が小さくなり見にくくなるため、本実施形態のようにカメラ画像の一部を拡大してスクロール表示させることで、ユーザに見やすくすることができる。また、表示装置40の画面スクロールをユーザの安全確認動作と同様にすることで、違和感を生じさせることなくユーザの安全確認を支援することができる。これにより、ユーザは表示装置40を注視するだけで安全確認が可能で、見落としや死角による事故を減し安全運転を支援できる。
(他の実施形態)
なお、上記実施形態では、表示装置40をナビゲーション装置のモニターと兼用するように構成したが、これに限らず、他の装置のモニターと兼用してもよく、あるいは視界支援装置専用のモニターを設けてもよい。
また、上記実施形態では、車載LANを介して車載ECU60に情報を送信するように構成したが、これに限らず、視界支援装置の制御部30が車載ECU60と車載LANを介さず直接接続されている場合には、制御部30から車載ECU60に直接情報を送信するように構成できる。
移動体の視界支援装置の全体構成を示す概念図である。 カメラの配置位置およびカメラの視野範囲を示す説明図である。 カメラ画像と表示装置における表示との関係を示す説明図である。 移動体の視界支援装置の作動を示すフローチャートである。 右折時の車両通過予定範囲(移動体通過予定範囲)を示す説明図である。
符号の説明
10…カメラ、20…操作部、30…制御部、40…表示装置、50…音声出力装置、60…車載ECU。

Claims (3)

  1. 移動体に搭載され、ユーザの視野より広い画角で画像を取得可能な画像取得手段(10)と、
    前記画像取得手段(10)により取得した画像に含まれる画像歪みを補正する歪み補正処理を行う画像補正手段(32)と、
    前記画像補正手段により補正された補正画像を表示可能な表示手段(40)と、
    前記補正画像に基づいて移動物体を検出する移動物体検出手段(32)とを備え、
    前記表示手段(40)は、前記補正画像を自動的にスクロールして表示し、
    前記移動体検出手段(32)により、前記移動体が進行すると想定される移動体進行予定範囲内に存在する移動物体、あるいは前記移動体進行予定範囲に接近してくる移動物体を検出した場合には、前記表示手段(40)は前記補正画像の自動スクロールを停止するとともに、前記移動物体を自動追従表示することを特徴とする移動体の視界支援装置。
  2. 前記移動物体を検出した旨をユーザに報知する報知手段(40、50)を備えていることを特徴とする請求項に記載の移動体の視界支援装置。
  3. 前記移動物体を検出した旨の移動物体検出情報を前記移動体の制御を行う制御手段(60)に送信することを特徴とする請求項1または2に記載の移動体の視界支援装置。
JP2003322976A 2003-09-16 2003-09-16 移動体の視界支援装置 Expired - Fee Related JP4134862B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003322976A JP4134862B2 (ja) 2003-09-16 2003-09-16 移動体の視界支援装置
DE102004042762A DE102004042762A1 (de) 2003-09-16 2004-09-03 Betrachtungswinkel-Unterstützungsvorrichtung für einen sich bewegenden Körper

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003322976A JP4134862B2 (ja) 2003-09-16 2003-09-16 移動体の視界支援装置

Publications (2)

Publication Number Publication Date
JP2005094202A JP2005094202A (ja) 2005-04-07
JP4134862B2 true JP4134862B2 (ja) 2008-08-20

Family

ID=34372705

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003322976A Expired - Fee Related JP4134862B2 (ja) 2003-09-16 2003-09-16 移動体の視界支援装置

Country Status (2)

Country Link
JP (1) JP4134862B2 (ja)
DE (1) DE102004042762A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE202006008112U1 (de) * 2006-05-20 2006-08-10 Sick Ag Optoelektronische Schutzeinrichtung
JP4528867B1 (ja) 2009-05-15 2010-08-25 株式会社東芝 画像処理装置、画像処理方法及び表示装置

Also Published As

Publication number Publication date
DE102004042762A1 (de) 2005-04-21
JP2005094202A (ja) 2005-04-07

Similar Documents

Publication Publication Date Title
JP5522485B2 (ja) 駐車支援装置
JP6205640B2 (ja) 車両用警告装置
JP2010130646A (ja) 車両周辺確認装置
JP2007223338A (ja) 表示システム、移動体、表示方法、表示プログラムおよびその記録媒体
JP2016182906A (ja) 運転支援システム
JP2007249364A (ja) 安全運転支援システム及び安全運転支援装置
JP2007304712A (ja) 運転支援装置
JP2010064750A (ja) 運転支援装置
JP2019116244A (ja) 車両
JP2006172215A (ja) 運転支援システム
JP4927933B2 (ja) 運転支援装置
JP2007118922A (ja) 車両後退運転支援装置
JP2004252837A (ja) 車両周辺表示装置および車両周辺表示プログラム
JP2010124300A (ja) 画像処理装置およびこれを用いたリヤビューカメラシステム
JP2010076765A (ja) 走行記録装置
JP2011211432A (ja) 車載用撮像装置
JP4134862B2 (ja) 移動体の視界支援装置
JP2009169991A (ja) 車両の運転支援装置
JP4927904B2 (ja) 車両の運転支援装置
JP6620775B2 (ja) 表示装置および表示方法
JP2012090087A (ja) 車両周辺の画像を用いた運転支援装置
JP2010143577A (ja) 運転支援装置
JP2004051063A (ja) 車両周辺視認装置
JP4825298B2 (ja) 運転支援装置
JP4353016B2 (ja) 車両用後退ガイド表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080311

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080408

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080507

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080520

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110613

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110613

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120613

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120613

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130613

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140613

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees