JP2006039359A - 頭部装着型表示装置 - Google Patents

頭部装着型表示装置 Download PDF

Info

Publication number
JP2006039359A
JP2006039359A JP2004221563A JP2004221563A JP2006039359A JP 2006039359 A JP2006039359 A JP 2006039359A JP 2004221563 A JP2004221563 A JP 2004221563A JP 2004221563 A JP2004221563 A JP 2004221563A JP 2006039359 A JP2006039359 A JP 2006039359A
Authority
JP
Japan
Prior art keywords
head
observer
line
sight
respect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004221563A
Other languages
English (en)
Other versions
JP4370997B2 (ja
Inventor
Yukinobu Matsubara
行信 松原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Priority to JP2004221563A priority Critical patent/JP4370997B2/ja
Publication of JP2006039359A publication Critical patent/JP2006039359A/ja
Application granted granted Critical
Publication of JP4370997B2 publication Critical patent/JP4370997B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】大きな作業負荷を要することなく画像と前方の景色とを重畳して視認できる頭部装着型表示装置を提供する。
【解決手段】表示器2から出射される画像表示用光束を光学系4によりコンバイナ3に導く。コンバイナ3により光路変更される画像表示用光束とコンバイナ3を透過する光束とが、表示器2、コンバイナ3、および光学系4を保持する頭部装着体5を装着する観察者の目に導かれる。視線センサ10により検出される観察者の頭部に対する視線方向に応じて、画像表示用光束の光路が変化するように光学系4を駆動する駆動装置4″を制御し、視線の先に画像を形成する。
【選択図】図1

Description

本発明は頭部装着型表示装置に関し、例えば航空機やヘリコプタのような飛行体の搭乗員や飛行訓練用シミュレータ等の体験者が使用するのに適する。
スクリーン上における観察者の中心視位置を視線方向や頭部方向から検出し、その検出した中心視位置に応じて画像投影装置による画像投影方向を変化させ、その中心視位置に所定の画像を形成する画像表示装置が知られている(特許文献1参照)。
特開平7−13497号公報
従来の画像表示装置は、固定されたスクリーン上における中心視位置に画像を形成するものである。これに対し、頭部に装着されるヘルメット等により保持されるコンバイナによって、表示器から出射される画像表示用光束の光路を変更し、観察者に導くことで画像を視認させる頭部装着型表示装置においては、画像だけでなくコンバイナを通して実在の景色も視認される。そのため、画像の結像位置が観察者に近接していると、画像と遠方の景色とに同時に焦点を合わせるのは困難ため画像と遠方の景色と同時に視認するのが困難になる。
また、従来の頭部装着型表示装置においては、観察者の視線が顔面の前方を向いているものとして画像表示用光束をコンバイナに導いていた。そのため、観察者が視線を顔面の前方に向けるのが困難な場合、例えば航空機のパイロットが観察者であり、加速度により頭部が傾いた状態で視線を機体前方に向けなければならない場合、観察者の視線方向の先に画像を形成することができない。
また、従来の頭部装着型表示装置においては、頭部及び視線の方向に応じて変化する情報に対応した画像を表示することができない。例えば航空機のパイロットが観察者である場合、パイロットの視線が機体の前方を向いているものとして他の飛行体等の視線方向に対する方向を画像情報として頭部装着型表示装置により表示する場合、視線方向や頭部の傾きや位置が変化しても画像は変化しないために正確な情報を表示できない。そのため、観察者は加速度等に抗して頭部を所定方向に向ける必要があり、大きな作業負荷に耐える必要がある。
さらに、従来の頭部装着型表示装置においては、画像表示用光束をコンバイナに導く光学系は、主にレンズにより構成され、収差により画像品質が低下するという問題があった。
本発明は、上記課題を解決することのできる頭部装着型表示装置を提供することを目的とする。
本発明は、画像表示用光束を出射する表示器と、コンバイナと、前記表示器から出射される画像表示用光束を前記コンバイナに導く光学系と、前記表示器、コンバイナ、および光学系を保持する頭部装着体とを備え、前記コンバイナにより光路変更される画像表示用光束と前記コンバイナを透過する光束とが、前記頭部装着体を装着する観察者の目に導かれる頭部装着型表示装置に適用される。
本発明の頭部装着型表示装置においては、前記画像表示用光束の光路が変化するように前記光学系を駆動する駆動装置と、観察者の頭部に対する視線方向を検出する視線センサと、視線の先に画像が形成されるように、観察者の頭部に対する視線方向に応じて前記駆動装置を制御する手段とが設けられている。これにより、観察者が視線を動かしても視線の先に常に画像を形成することができる。
本発明の一つの特徴は、前記表示器から出射される画像表示用光束を構成する光線はコリメートされている点にある。これにより、画像の結像位置を無限遠とし、観察書は画像と遠方の景色とに同時に焦点を合わせて視認できる。
本発明の別の一つの特徴は、観察者の頭部の設定方向に対する方向と設定位置に対する変位を検出する頭部検出センサと、観察者の頭部に対する視線方向と前記設定方向に対する頭部の方向とから、又は、観察者の頭部に対する視線方向と前記設定方向に対する頭部の方向と前記設定位置に対する頭部の変位とから、前記設定方向に対する視線方向を演算する手段と、前記設定方向に対する視線方向の変化に応じて前記画像表示方向が変化するように、前記表示器を制御する手段とが設けられている点にある。これにより、頭部の方向と位置に応じて変化する情報を視線の先に形成できる。
本発明のさらに別の一つの特徴は、前記光学系はミラーからなる点にある。これにより、その光学系をレンズにより構成した場合に生じる収差をなくすことができる。
本発明の頭部装着型表示装置によれば、大きな作業負荷を要することなく、頭部及び視線の方向に応じて変化する高品質の画像と遠方の景色とを同時に重畳して視認できる。
図1、図2に示す頭部装着型表示装置1は、表示器2、コンバイナ3、および光学系4を保持する頭部装着体5を備える。
頭部装着体5は、本実施形態ではヘルメットとされ、航空機やヘリコプター等の飛行体の搭乗員に装着されるが、これに限定されるものではなく、例えば飛行訓練用シミュレータやゲーム等の仮想現実体験装置等の体験者に装着されるものでよく、また、形態もヘルメットに限定されずヘッドギヤ状、ゴーグル状、あるいはベルト状のようなものであってもよい。
表示器2は、本実施形態では右目と左目用とに一つ宛備え、例えばバックライト付液晶表示素子や有機ELディスプレイ等の表示素子により構成され、制御装置6から送られる画像信号に応じた画像表示用光束を図中一点鎖線Lで示すように出射する。各表示器2から出射される画像表示用光束を構成する光線はコリメートされ、そのため、各表示器2は表示素子から出射される画像表示用光束を構成する光線をコリメートして互いに平行とするミラーにより構成される光学系(図示省略)を内蔵する。制御装置6は信号処理装置30に接続される。信号処理装置30は、例えばレーダーや高度計等の飛行情報31に応じて画像信号を生成し、その画像信号を制御装置6に出力する。これにより、例えば飛行体の高度を表す情報や、他の飛行体等の方向を表す情報に対応する画像表示用光束が各表示器2から出射される。
光学系4は、本実施形態では右目と左目用とに一つ宛備え、複数のミラー4′からなる。一方の表示器2から出射される画像表示用光束は、一方の光学系4によりコンバイナ3に導かれ、コンバイナ3により光路変更されることで観察者の一方の目7に導かれ、他方の表示器2から出射される画像表示用光束は、他方の光学系4によりコンバイナ3に導かれ、コンバイナ3により光路変更されることで観察者の他方の目7に導かれる。
コンバイナ3としては、例えばヘルメットのバイザーを兼用するハーフミラーやホログラム素子を用いることができ、ハーフミラーが用いられる場合は反射により画像表示用光束の光路が変更され、ホログラム素子が用いられる場合は回折により画像表示用光束の光路が変更される。これにより、コンバイナ3により光路変更される画像表示用光束とコンバイナ3を透過する光束とが、頭部装着体5を装着する観察者の目7に導かれる。
ミラー4′は、それぞれ駆動装置4″を介して頭部装着体5により保持される。駆動装置4″は、例えばミラー4′の向きを変化させる微小アクチュエータにより構成され、表示器2からコンバイナ3の間における画像表示用光束の光路が変化するように光学系4を駆動する。ミラー4′と駆動装置4″は、例えば微小電子機械システム(Micro Electro
Mechanical System)によっても構成できる。
頭部装着体5に一対の視線センサ10が取り付けられ、観察者の頭部に対する右目の視線方向が一方の視線センサ10により、左目の視線方向が他方の視線センサ10によりそれぞれ検出される。
駆動装置4″と視線センサ10は制御装置6に接続される。制御装置6は、観察者の視線の先に画像が形成されるように、視線センサ10により検出された観察者の頭部に対する視線方向に応じて駆動装置4″を制御し、観察者が視線を動かしても視線の先に常に画像を形成する。例えば、図3に示すように、観察者の頭部に対する視線方向が顔面の前方を向く場合、一方の表示器2から出射される画像表示用光束L1が顔面の前方に向かい進行して左目の視線の先でコンバイナ3により光路変更されるようにミラー4′の向きが駆動装置4″により変更され、他方の表示器2から出射される画像表示用光束L2が顔面の前方に向かい進行して右目の視線の先でコンバイナ3により光路変更されるようにミラー4′の向きが駆動装置4″により変更される。図4に示すように、観察者の頭部に対する視線方向が顔面の左方を向く場合、一方の表示器2から出射される画像表示用光束L1が左目の視線の先でコンバイナ3により光路変更されるようにミラー4′の向きが駆動装置4″により変更される。図示例の場合、右目の視線の先が、自分の鼻等による視認不可の領域であるため、他方の表示器2から画像表示用光束は出射されないが、視認可能な領域であれば、他方の表示器2からの画像表示用光束により画像を形成するようにしてもよい。図5に示すように、観察者の頭部に対する視線方向が顔面の右方を向く場合、他方の表示器2から出射される画像表示用光束L2が右目の視線の先でコンバイナ3により光路変更されるようにミラー4′の向きが駆動装置4″により変更され、図示例の場合、左目の視線の先が、自分の鼻等による視認不可の領域であるため、他方の表示器2から画像表示用光束は出射されないが、視認可能な領域であれば、他方の表示器2からの画像表示用光束により画像を形成するようにしてもよい。
観察者の頭部の設定方向に対する方向と設定位置に対する変位を検出する頭部検出センサとして、ヘッドモーショントラッカ20が設けられている。ヘッドモーショントラッカ20は、頭部装着体5に取り付けられるセンサ20aと、飛行体の機体側に取り付けられるソース20b及び信号処理装置30内にあるヘッドモーショントラッカ信号処理回路20cから構成され、そのセンサ20aでソース20bの信号を検知し、制御装置6を経由してヘッドモーショントラッカ信号処理回路20cに送り、信号処理して、予め定めた設定方向と設定位置に対する観察者の頭部の方向と変位を算出する。例えば、飛行体の前方が設定方向とされ、その設定方向に対して観察者の顔面が向く方向が設定方向に対する観察者の頭部の方向とされ、飛行体の頭部設計ノミナル位置が設定位置とされる。なお、ヘッドモーショントラッカ20は、信号処理回路20cからの駆動信号に応じてソース20bが発生する基準磁界信号をセンサ20aにより検出する磁気方式にて構成する例を示したが、光学方式等の他の方式でもよい。
制御装置6は、視線センサ10により検出された観察者の頭部に対する視線方向と、ヘッドモーショントラッカ20により検出された設定方向に対する観察者の頭部の方向と設定位置に対する変位から、その設定方向に対する視線方向を演算する。なお、制御装置6は、視線センサ10により検出された観察者の頭部に対する視線方向と、ヘッドモーショントラッカ20により検出された設定方向に対する観察者の頭部の方向とから、その設定方向に対する視線方向を演算してもよい。制御装置6は、その設定方向に対する視線方向の変化に応じて画像表示方向が変化するように表示器2及び駆動装置4″を制御する。例えば、飛行体の進行方向の右方30度に他の飛行体が存在する時に視線方向に対する他の飛行体の方向を表す画像情報を表示する場合において、観察者の頭部に対する視線方向が当初は顔面の前方を向き後に顔面の右方15度を向き、観察者の頭部が設定方向に対して当初は設定方向を向き後に左方20度を向き、観察者の頭部は設定位置から変位しないものとする。この場合、設定方向に対する視線方向は当初は零度で後に左方5度であるから、当初は別の飛行体が視線方向に対して右方30度の位置に存在することを表す画像を表示し、後に視線方向に対して右方35度の位置に存在することを表す画像を表示する。これにより、観察者は加速度に抗して頭部を所定方向に向ける必要がなく、特に飛行中に大きな加速度を受ける航空機においてパイロットの負荷を軽減できる。
上記実施形態によれば、観察者が視線を動かしても視線の先に常に画像を形成することができ、また、表示器2から出射される画像表示用光束を構成する光線はコリメートされているので、その画像の結像位置を無限遠とし、観察書は画像と遠方の景色との同時視認を容易に行え、さらに、作業負荷を要することなく頭部及び視線の方向に応じて変化する情報を画像として正確に表示できる。しかも、光学系4はミラー4′からなるので光学系4を主にレンズにより構成する場合に生じる収差をなくすことができ、高品質な画像を表示できる。
本発明は上記実施形態に限定されない。例えば、表示器2および光学系4を右目用と左目用とに2つ宛以上とし表示範囲を拡大してもよいし、右目用と左目用の区別なく一つ宛以上としてもよい。また、光学系4を構成するミラーの数は特に限定されず、ミラーの全てが駆動装置により駆動される必要はなく一部が頭部装着体5に固定されてもよく、さらに、ミラーの全部あるいは一部に代えてレンズやプリズム等の他の光学素子を用いて画像表示光の光路を変化させてもよい。また、例えば制御装置6にモード切換スイッチの操作信号が入力されることで、視線方向が変化しても光学系4が駆動されずに画像表示光を常に正面に投影し、頭部に対して一定方向に画像が形成されるモードを有するようにしてもよい。また、信号処理装置30と制御装置6を統合した形態でもよい。
本発明の実施形態の頭部装着型表示装置の側面視での構成説明図 本発明の実施形態の頭部装着型表示装置の平面視での構成説明図 本発明の実施形態の頭部装着型表示装置において観察者の視線方向が正面向きの場合の作用説明図 本発明の実施形態の頭部装着型表示装置において観察者の視線方向が左方向きの場合の作用説明図 本発明の実施形態の頭部装着型表示装置において観察者の視線方向が右方向きの場合の作用説明図
符号の説明
1 頭部装着型表示装置
2 表示器
3 コンバイナ
4 光学系
4′ ミラー
4″ 駆動装置
5 頭部装着体
6 制御装置
10 視線センサ
20 ヘッドモーショントラッカ(頭部検出センサ)
30 信号処理装置

Claims (4)

  1. 画像表示用光束を出射する表示器と、
    コンバイナと、
    前記表示器から出射される画像表示用光束を前記コンバイナに導く光学系と、
    前記表示器、コンバイナ、および光学系を保持する頭部装着体とを備え、
    前記コンバイナにより光路変更される画像表示用光束と前記コンバイナを透過する光束とが、前記頭部装着体を装着する観察者の目に導かれる頭部装着型表示装置において、
    前記画像表示用光束の光路が変化するように前記光学系を駆動する駆動装置と、
    観察者の頭部に対する視線方向を検出する視線センサと、
    視線の先に画像が形成されるように、観察者の頭部に対する視線方向に応じて前記駆動装置を制御する手段とが設けられることを特徴とする頭部装着型表示装置。
  2. 前記表示器から出射される画像表示用光束を構成する光線はコリメートされている請求項1に記載の頭部装着型表示装置。
  3. 観察者の頭部の設定方向に対する方向と設定位置に対する変位を検出する頭部検出センサと、
    観察者の頭部に対する視線方向と前記設定方向に対する頭部の方向とから、又は、観察者の頭部に対する視線方向と前記設定方向に対する頭部の方向と前記設定位置に対する頭部の変位とから、前記設定方向に対する視線方向を演算する手段と、
    前記設定方向に対する視線方向の変化に応じて前記画像表示方向が変化するように、前記表示器を制御する手段とが設けられている請求項1または2に記載の頭部装着型表示装置。
  4. 前記光学系はミラーからなる請求項1〜3の中の何れかに記載の頭部装着型表示装置。
JP2004221563A 2004-07-29 2004-07-29 頭部装着型表示装置 Expired - Fee Related JP4370997B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004221563A JP4370997B2 (ja) 2004-07-29 2004-07-29 頭部装着型表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004221563A JP4370997B2 (ja) 2004-07-29 2004-07-29 頭部装着型表示装置

Publications (2)

Publication Number Publication Date
JP2006039359A true JP2006039359A (ja) 2006-02-09
JP4370997B2 JP4370997B2 (ja) 2009-11-25

Family

ID=35904399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004221563A Expired - Fee Related JP4370997B2 (ja) 2004-07-29 2004-07-29 頭部装着型表示装置

Country Status (1)

Country Link
JP (1) JP4370997B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006118057A1 (ja) * 2005-04-26 2006-11-09 National University Corporation NARA Institute of Science and Technology 画像表示装置
JP2008015358A (ja) * 2006-07-07 2008-01-24 Univ Of Tokyo 投影装置およびそれを使用した航空機ならびに航空機用シミュレータ
JP2009069364A (ja) * 2007-09-12 2009-04-02 Shimadzu Corp 頭部装着型表示装置及び頭部装着型表示装置システム
CN103348278A (zh) * 2010-12-16 2013-10-09 洛克希德马丁公司 具有像素透镜的准直的显示器
JP5496425B2 (ja) * 2012-02-07 2014-05-21 オリンパス株式会社 表示装置
US9632315B2 (en) 2010-10-21 2017-04-25 Lockheed Martin Corporation Head-mounted display apparatus employing one or more fresnel lenses
US9939650B2 (en) 2015-03-02 2018-04-10 Lockheed Martin Corporation Wearable display system
US9995936B1 (en) 2016-04-29 2018-06-12 Lockheed Martin Corporation Augmented reality systems having a virtual image overlaying an infrared portion of a live scene
US10359545B2 (en) 2010-10-21 2019-07-23 Lockheed Martin Corporation Fresnel lens with reduced draft facet visibility
US10684476B2 (en) 2014-10-17 2020-06-16 Lockheed Martin Corporation Head-wearable ultra-wide field of view display device
US10754156B2 (en) 2015-10-20 2020-08-25 Lockheed Martin Corporation Multiple-eye, single-display, ultrawide-field-of-view optical see-through augmented reality system

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006118057A1 (ja) * 2005-04-26 2006-11-09 National University Corporation NARA Institute of Science and Technology 画像表示装置
JP2008015358A (ja) * 2006-07-07 2008-01-24 Univ Of Tokyo 投影装置およびそれを使用した航空機ならびに航空機用シミュレータ
JP4721283B2 (ja) * 2006-07-07 2011-07-13 国立大学法人 東京大学 投影装置およびそれを使用した航空機ならびに航空機用シミュレータ
JP2009069364A (ja) * 2007-09-12 2009-04-02 Shimadzu Corp 頭部装着型表示装置及び頭部装着型表示装置システム
US10359545B2 (en) 2010-10-21 2019-07-23 Lockheed Martin Corporation Fresnel lens with reduced draft facet visibility
US9632315B2 (en) 2010-10-21 2017-04-25 Lockheed Martin Corporation Head-mounted display apparatus employing one or more fresnel lenses
US10495790B2 (en) 2010-10-21 2019-12-03 Lockheed Martin Corporation Head-mounted display apparatus employing one or more Fresnel lenses
JP2014505271A (ja) * 2010-12-16 2014-02-27 ロッキード マーティン コーポレーション 画素レンズを有するコリメーティングディスプレイ
US9720228B2 (en) 2010-12-16 2017-08-01 Lockheed Martin Corporation Collimating display with pixel lenses
CN103348278A (zh) * 2010-12-16 2013-10-09 洛克希德马丁公司 具有像素透镜的准直的显示器
JP5496425B2 (ja) * 2012-02-07 2014-05-21 オリンパス株式会社 表示装置
JPWO2013118328A1 (ja) * 2012-02-07 2015-05-11 オリンパス株式会社 表示装置
US10684476B2 (en) 2014-10-17 2020-06-16 Lockheed Martin Corporation Head-wearable ultra-wide field of view display device
US9939650B2 (en) 2015-03-02 2018-04-10 Lockheed Martin Corporation Wearable display system
US10754156B2 (en) 2015-10-20 2020-08-25 Lockheed Martin Corporation Multiple-eye, single-display, ultrawide-field-of-view optical see-through augmented reality system
US9995936B1 (en) 2016-04-29 2018-06-12 Lockheed Martin Corporation Augmented reality systems having a virtual image overlaying an infrared portion of a live scene

Also Published As

Publication number Publication date
JP4370997B2 (ja) 2009-11-25

Similar Documents

Publication Publication Date Title
JP4686586B2 (ja) 車載用表示装置及び表示方法
JP5990998B2 (ja) 虚像表示装置
US8982471B1 (en) HMD image source as dual-purpose projector/near-eye display
KR101878520B1 (ko) 투시형 디스플레이를 위한 교감적 시각 적응
US20120139817A1 (en) Head up display system
US9678344B2 (en) Virtual image display apparatus with registration mechanism
WO2017163292A1 (ja) ヘッドアップディスプレイ装置、及び車両
US20130088413A1 (en) Method to Autofocus on Near-Eye Display
US20150153572A1 (en) Adjustment of Location of Superimposed Image
US20150085333A1 (en) Retinal display projection device
KR20180005170A (ko) 디스플레이 개선 방법
JP5960799B2 (ja) ヘッドマウントディスプレイ及び表示方法
US9261959B1 (en) Input detection
CN104067160A (zh) 使用眼睛跟踪在显示屏中使图像内容居中的方法
US10481686B2 (en) Image display device for changing focal point and convergence of display image
JP4370997B2 (ja) 頭部装着型表示装置
JP4614456B2 (ja) 再帰性反射材、投影装置、航空機、および航空機用シミュレータ
TW201843494A (zh) 具有視訊透視之顯示系統
JP2016186561A (ja) 表示装置、表示装置の制御方法、及び、プログラム
US10928635B1 (en) Curved display assembly for artificial reality headset
JPWO2020009217A1 (ja) ヘッドアップディスプレイ装置
Winterbottom et al. Helmet-Mounted Displays for use in Air Force Training and Simulation
US10690923B1 (en) Scanning system for a tiling display
JP2021063934A (ja) ヘッドマウントディスプレイ、及びその調整方法
JP2017079389A (ja) 表示装置、表示装置の制御方法、及び、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061005

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090731

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090811

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090824

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120911

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120911

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120911

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130911

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees