JP4148104B2 - 表示操作システム - Google Patents

表示操作システム Download PDF

Info

Publication number
JP4148104B2
JP4148104B2 JP2003373142A JP2003373142A JP4148104B2 JP 4148104 B2 JP4148104 B2 JP 4148104B2 JP 2003373142 A JP2003373142 A JP 2003373142A JP 2003373142 A JP2003373142 A JP 2003373142A JP 4148104 B2 JP4148104 B2 JP 4148104B2
Authority
JP
Japan
Prior art keywords
display
reaction force
data
operation button
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003373142A
Other languages
English (en)
Other versions
JP2005135324A (ja
Inventor
正人 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2003373142A priority Critical patent/JP4148104B2/ja
Publication of JP2005135324A publication Critical patent/JP2005135324A/ja
Application granted granted Critical
Publication of JP4148104B2 publication Critical patent/JP4148104B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Position Input By Displaying (AREA)

Description

本発明は、表示装置の表示画面にポインタが表示され、そのポインタの移動位置を指示する操作デバイスの指示部に対して、そのポインタの表示位置に応じた反力を付与する表示操作システムに関する。
近年、VR技術の進歩に伴い、これを応用した表示操作システムが普及しつつある。その一例として、表示画面上におけるポインタの表示位置と、表示画面上に画像と共に表示された操作ボタンの表示位置とに応じて、操作デバイスに反力を付与するシステムが考えられる。具体的には、システム本体と、これを操作する操作デバイスとの間で双方向通信が可能な構成とし、ユーザーが操作デバイスを操作すると、表示画面上におけるポインタの表示位置と、表示画面上に画像と共に表示された操作ボタンの表示位置とに応じた反力を、反力データに従って発生させ、操作デバイスに付与するのである。これにより、ユーザーは表示画面を見ながら、臨調感あふれる操作を行うことができる。
前述のシステムでは、その機能に応じた操作ボタンを表示画面に表示することとなるため、システムの有する機能が多くなると、全ての操作ボタンを表示画面に表示できなくなる。これに関しては、表示すべき操作ボタンを順番に重畳して表示する方法が考えられる。
しかしながら、この方法では、表示画面上における操作ボタン及びポインタの表示位置に応じた反力を操作デバイスに付与できない場合がある。すなわち、前述の反力データは、操作ボタンの画像データを表示画面に送信する際に、操作デバイスへ送信することとなるため、ある操作ボタンに対して他の操作ボタンを重畳表示する場合には、当該操作ボタンの画像データの送信とともに、反力データが操作デバイスへと送信される。ところが、重畳表示された操作ボタンを消去する場合には、表示画面に元の操作ボタンの画像データを再送する必要がない。すると、これに対応する反力データの送信が行われないこととなり、表示画面上における操作ボタン及びポインタの表示位置と、操作デバイスに付与される反力とが対応しなくなる。
本発明は、上記の問題に鑑みてなされたものであり、表示画面に操作ボタンの重畳表示を許可した場合でも、表示画面上における操作ボタン及びポインタの表示位置に応じた反力を操作デバイスに付与することが可能な表示操作システムの提供を目的とする。
上記目的を達成するために、請求項1に記載の表示操作システムでは、表示画面を有する表示部と、表示画面上に表示されるポインタの移動位置を指示する指示部を有し、当該指示部に対して反力データに従ってポインタの画面位置に応じた反力を付与する操作デバイスと、表示部に表示すべき操作ボタンの画像データを表示部へ出力するとともに、当該操作ボタンの画像データと対応する反力データを、画像データを表示部へ出力する際に、操作デバイスに出力するデータ出力手段とを備え、表示画面に表示された第1の操作ボタンに対し、第2の操作ボタンが重畳表示された後、第2の操作ボタンが消去された場合には、第1の操作ボタンに対応する反力データを操作デバイスに出力するよう、データ出力手段に対して指示する指示手段を設けることを特徴とする。
このように、本発明の表示操作システムでは、指示手段は、表示画面に表示された第1の操作ボタンに対して、第2の操作ボタンが重畳表示された後、これが消去されると、第1の操作ボタンに対応する反力データを操作デバイスに出力するよう、データ出力手段に指示する。これにより、重畳表示された操作ボタンが消去された場合でも、操作デバイスは元の操作ボタンに対応する反力データをデータ出力手段から取得することができる。そのため、表示画面に操作ボタンの重畳表示を許可した場合でも、操作デバイスは表示画面上の操作ボタン及びポインタの表示位置に応じた反力を、指示部に付与することが可能となる。
請求項2に記載のように、表示画面に表示される第2の操作ボタンは、表示画面の画質調整を行う操作ボタンであることが望ましい。表示画面の画質調整を行う操作ボタンは使用頻度が低いため、必要な場合のみ重畳表示することが好ましいのである。
請求項3に記載のように、画像データおよび反力データを伝送するための通信ラインを設け、データ出力手段は、通信ラインを利用して、画像データおよび反力データを、表示部および操作デバイスに送信することが望ましい。これにより、データ出力手段は画像データおよび反力データを高速に送信することが可能となる。
請求項4に記載のように、指示手段は、表示操作システムに設けられた汎用の通信ラインを利用して、データ出力手段に対する反力データの出力指示を行うことが望ましい。これにより、指示手段がデータ出力手段に対して行う、反力データ出力指示用のバスや通信回路を用意する必要がなく、本表示操作システムの構成を簡素化することができる。
請求項5に記載のように、表示操作システムは、車両に搭載されて動作するものであり、指示手段が、データ出力手段に対して反力データの出力指示を行う際に利用する、汎用の通信ラインは、車両の車内LANであることが望ましい。汎用の通信ラインとして車内LANを利用することで、本表示操作システムの構成をより簡素化することができる。
図1は、本発明の一実施形態における表示操作システムの全体構成を示すブロック図である。本実施形態の表示操作システムは、複数の車載機器を操作するシステムに適用したものである。
はじめに、本表示操作システムにおける各機器の接続構成について説明する。
図1に示すように、本表示操作システムは、LCD1、カーナビゲーション装置2、TVチューナー3、操作デバイス4、LCD1の表示制御を行う表示制御装置5とから構成される。操作デバイス4は、専用線6によって表示制御装置5に接続されるとともに、表示制御装置5の内部に設けられたゲートウェイ51を介して、カーナビゲーション装置2およびTVチューナー3とも接続されている。専用線6を利用することで、カーナビゲーション装置2およびTVチューナー3は、LCD1に表示する画像データを表示制御装置5へ高速に送信することができるとともに、後述する反力データを操作デバイス4へ高速に送信することができる。
また、表示制御装置5は、カーナビゲーション装置2およびTVチューナー3と車内LAN7を介して接続され、当該LANによって反力データの送信を要求する要求信号をカーナビゲーション装置2およびTVチューナー3へと送信する。車内LAN7を利用することで、要求信号を送信する専用の通信線を設ける必要がなく、システム構成が簡素化される。
次に、本表示操作システムの各部の構造を詳細に説明する。
図1に示すLCD1は、図示しない液晶表示パネルおよび画像信号入力回路から構成される。そして、公知のように、画像信号入力回路から入力した画像信号に従って、液晶表示パネルに画像を表示する。また、LCD1は、前述の画像と共に表示される操作ボタンを選択するためのポインタも表示する。なお、これらの表示に関しては、小型のCRTディスプレイを用いることとしても良いし、車両のフロントガラス等に画像を表示する車載用ヘッドアップディスプレイを用いることとしても良い。
カーナビゲーション装置2は、図示しない位置検出器、地図データ入力器、画像生成回路、及びこれらを制御する制御回路等から構成される。そして、公知のように、地図データ入力器から地図画像データを読み出し、位置検出器が検出した車両の現在位置に自車位置マークを重ねた画像データを作成するとともに、目的地や走行経路の設定等の操作を行うための操作ボタンの画像データを付与して表示画像データを作成し、表示制御装置5へと送信する。
さらに、カーナビゲーション装置2は、前述の表示画像データをLCD1上に表示した場合の操作ボタンの表示位置と、LCD1上のポインタの表示位置とに基づいて、操作デバイス4がジョイスティック41に付与する反力を発生させるための反力データを作成する。作成された反力データは、カーナビゲーション装置2が表示制御装置5からの要求信号を受信した場合に、表示制御装置5へと送信される。
また、カーナビゲーション装置2は、表示制御装置5から決定信号を受信すると、これと同時に受信した、LCD1上におけるポインタの表示位置(以下、ポインタ位置と記述する)と、作成した表示画像データとから、選択された操作ボタンを調べるとともに、当該操作ボタンに対応する動作を行う。
TVチューナー3は、図示しない検波・増幅回路、画像生成回路、音声変換回路、及びこれらを制御する制御回路から構成される。そして、公知のように、受信した電波を検波・増幅回路によって検波・増幅し、映像信号および音声信号を抽出する。画像生成回路は、抽出された映像信号から画像データを作成するとともに、チャンネル変更や音量変更等を行わせる操作ボタンの画像データを付与して表示画像データを作成し、これを表示制御装置5へと送信する。また、抽出した音声信号を音声変換回路によって音声変換して出力する。
さらに、TVチューナー3は、前述の表示画像データをLCD1上に表示した場合の操作ボタンの表示位置と、LCD1上のポインタの表示位置とに基づいて、操作デバイス4がジョイスティック41に付与する反力を発生させるための反力データを作成する。作成された反力データは、TVチューナー3が表示制御装置5からの要求信号を受信した場合に、表示制御装置5へと送信される。
また、TVチューナー3は、表示制御装置5から決定信号を受信すると、これと同時に受信したポインタ位置と、作成した表示画像データとから、選択された操作ボタンを調べるとともに、当該操作ボタンに対応する動作を行う。
操作デバイス4は、アナログのジョイスティック41、決定キー42、及び図示しない反力発生装置とを備えたリモコンであり、LCD1上に表示されるポインタを操作して、カーナビゲーション装置2およびTVチューナー3に各種動作の実行を指示する。具体的には、操作デバイス4はポインタ位置を記憶しており、ジョイスティック41が操作されると、その操作方向および操作量に応じて、ポインタの移動方向および移動量を決定し、移動後のポインタ位置を算出する。そして、算出されたポインタ位置を表示制御装置5に送信するとともに、記憶されたポインタ位置の更新を行う。また、決定キー42が押されると、決定信号を表示制御装置5へ送信する。その際には、記憶されたポインタ位置も表示制御装置5へ送信する。
さらに、操作デバイス4が有する反力発生装置は、ジョイスティック41が操作されると、記憶されたポインタ位置、および、表示制御装置5から取得した反力データに基づいて、ジョイスティック41が操作された方向と逆方向、すなわち、ジョイスティック41を中立位置へ戻す方向に反力を付与する。前述の反力データは、表示制御装置5から新たな反力データを受信するたびに更新される。
また、操作デバイス4は、表示制御装置5に対して、LCD1に表示される表示画面の切り換えを指示したり、LCD1の画質調整を行わせたりする。
表示制御装置5は、図示しない画像生成回路、VRAM、送信元メモリから構成され、カーナビゲーション装置2またはTVチューナー3から受信した表示画像データを画像信号に変換し、LCD1へ出力する。その際には、受信した表示画像データをVRAMに記憶し、当該データの送信元となる機器の名称を送信元メモリに記憶する。
また、表示制御装置5は、操作デバイス4から受信したポインタ位置に従って、LCD1に表示されるポインタの位置を移動させる。さらに、操作デバイス4から決定信号およびポインタ位置を受信すると、車内LAN7を利用して、これらを送信元メモリに記憶されている機器へと送信する。
ただし、操作デバイス4から受信したポインタ位置が、LCD1の画質調整を指示する画質調整ボタンの表示位置と一致する場合には、表示制御装置5は前述の動作を行わず、図示しない内部ROMに記憶されている、画質調整用の操作ボタンの画像データを読み出す。そして、読み出した画像データを画像信号に変換するとともに、その時点でLCD1上に表示されている操作ボタンに対し、画質調整用の操作ボタンを重畳表示させる(図2参照)。さらに、内部ROMに記憶されている、画質調整用の操作ボタンをLCD1に重畳表示させた場合の反力データ(画質調整画面の反力データ)を読み出し、これを操作デバイス4へと送信する。
その後、操作デバイス4から決定信号とともに受信したポインタ位置が、LCD1の画質調整を終了する調整終了ボタンの表示位置と一致した場合には、重畳表示した画質調整用の操作ボタンを消去し、元の操作ボタンを表示させる。そして、送信元メモリに記憶されている名称の機器へと要求信号を送信するとともに、当該機器から反力データを受信して、操作デバイス4へと送信する。
また、操作デバイス4から決定信号とともに受信したポインタ位置が、LCD1の表示画面を切り換える切換ボタンの表示位置と一致する場合、表示制御装置5は、送信元メモリに名称が記憶されていない機器へと要求信号を送信するとともに、当該機器から反力データを受信して、操作デバイス4へと送信する。その後、LCD1の表示画面を切り換える(図3参照)。その際には、送信元メモリに記憶された機器の名称を変更する。
図4は、本実施形態の表示操作システムにおいて、表示制御装置5がLCD1の表示画面を変更する処理に関するフローチャートである。本フローチャートの処理は、操作デバイス4から決定信号およびポインタ位置が出力されると、実行が開始される。
ステップ401では、表示制御装置5は、操作デバイス4から出力されたポインタ位置から、画質調整ボタンが選択されたか否かを判定する。画質調整ボタンが選択されたと判定された場合は、ステップ402へ進む。そうでない場合は、ステップ404へ進む。
ステップ402では、内部ROMから画質調整用の操作ボタンの画像データを読み出し、LCD1に表示された操作ボタンに対して画質調整用の操作ボタンを重畳表示させる。ステップ403では、内部ROMから画質調整画面の反力データを読み出して操作デバイス4へ送信し、処理を終了する。これにより、操作デバイス4の反力発生装置に記憶されている反力データは、画質調整画面の反力データに更新される。
ステップ404では、操作デバイス4から出力されたポインタ位置から、調整終了ボタンが選択されたか否かを判定する。調整終了ボタンが選択されたと判定された場合は、ステップ405へ進む。そうでない場合は、ステップ408へ進む。
ステップ405では、LCD1に重畳表示された画質調整用の操作ボタンを消去し、元の操作ボタンを表示させる。ステップ406では、車内LAN7を利用して、送信元メモリに記憶されている名称の機器へ要求信号を送信し、当該機器から専用線6を介して反力データを受信する。ステップ407では、ステップ406で受信した反力データを、専用線6を介して操作デバイス4へと送信する。これにより、操作デバイス4の反力発生装置に記憶されている反力データは、元の表示画面の反力データに更新される。
ステップ408では、操作デバイス4から出力されたポインタ位置から、切換ボタンが選択されたか否かを判定する。切換ボタンが選択されたと判定された場合は、ステップ409へ進む。そうでない場合は、ステップ412へ進む。
ステップ409では、車内LAN7を利用して、送信元メモリに名称が記憶されていない機器へ要求信号を送信し、当該機器から専用線6を介して反力データを受信する。ステップ410では、ステップ409で受信した反力データを、専用線6を介して操作デバイス4へと送信する。これにより、操作デバイス4の反力発生装置に記憶されている反力データは、切り換え後の表示画面の反力データに更新される。ステップ411では、送信元メモリに記憶されている機器の名称を変更して表示画面を切り換え、処理を終了する。
一方、ステップ412では、送信元メモリに記憶された名称の機器へ、決定信号とポインタ位置とを送信する。これにより、カーナビゲーション装置2およびTVチューナー3は、選択された操作ボタンに対応する動作を行うこととなる。
このように、本実施形態の表示操作システムでは、LCD1の画質調整を行う場合には、LCD1に表示された操作ボタンに対して、画質調整用の操作ボタンを重畳表示して表示する。その後、LCD1の画質調整が終了した場合には、重畳表示された画質調整用の操作ボタンを消去し、送信元メモリに記憶されている名称の機器へ要求信号を送信する。そして、当該機器から元の操作ボタンに対応する反力データを受信し、これを操作デバイスへと送信する。これにより、LCD1に操作ボタンの重畳表示を許可した場合でも、操作デバイス4はLCD1上の操作ボタン及びポインタの表示位置に応じた反力を、ジョイスティック41に付与することが可能となる。
本実施形態の表示操作システムでは、LCD1の画質調整を行う画質調整用の操作ボタンを重畳表示した。しかしながら、重畳表示する操作ボタンとしては、画質調整用の操作ボタンに限定されるものではなく、例えばカーナビゲーション装置2やTVチューナー3の電源投入に関する操作ボタン等を重畳表示することとしても良い。
また、本実施形態では、操作デバイス4の反力発生装置が利用する反力データは、カーナビゲーション装置2やTVチューナー3、表示制御装置5から取得していた。しかしながら、反力データに関しては、操作デバイス4に記憶させることとしても良い。この場合、表示制御装置5は、LCD1の表示画像に対応する反力データを操作デバイス4に送信する代わりに、操作デバイス4に記憶されている反力データの中から、LCD1の表示画像に対応する反力データを使用するよう指示することとなる。
本発明の一実施形態における表示操作システムの全体構成を示すブロック図である。 LCDに表示されたナビゲーション画像に対し、画質調整画面を重畳表示した例を示す図である。 LCDに表示されたナビゲーション画面を、TV画面に切り換えた例を示す図である。 本実施形態の表示操作システムにおいて、表示制御装置がLCDの表示画面を変更する処理に関するフローチャートである。
符号の説明
1…LCD
2…カーナビゲーション装置
3…TVチューナー
4…操作デバイス
41ジョイスティック
42…決定キー
5…表示制御装置
51…ゲートウェイ
6…専用線
7…車内LAN

Claims (5)

  1. 表示画面を有する表示部と、
    前記表示画面上に表示されるポインタの移動位置を指示する指示部を有し、当該指示部に対して反力データに従って前記ポインタの画面位置に応じた反力を付与する操作デバイスと、
    前記表示部に表示すべき操作ボタンの画像データを前記表示部へ出力するとともに、当該操作ボタンの画像データと対応する反力データを、前記画像データを前記表示部へ出力する際に、前記操作デバイスに出力するデータ出力手段とを備え、
    前記表示画面に表示された第1の操作ボタンに対し、第2の操作ボタンが重畳表示された後、前記第2の操作ボタンが消去された場合には、前記第1の操作ボタンに対応する反力データを前記操作デバイスに出力するよう、前記データ出力手段に対して指示する指示手段を設けることを特徴とする表示操作システム。
  2. 前記表示画面に表示される前記第2の操作ボタンは、前記表示画面の画質調整を行う操作ボタンであることを特徴とする請求項1記載の表示操作システム。
  3. 前記画像データおよび前記反力データを伝送するための通信ラインを設け、
    前記データ出力手段は、前記通信ラインを利用して、前記画像データおよび前記反力データを、前記表示部および前記操作デバイスに送信することを特徴とする請求項1記載の表示操作システム。
  4. 前記指示手段は、前記表示操作システムに設けられた汎用の通信ラインを利用して、前記データ出力手段に対する反力データの出力指示を行うことを特徴とする請求項1から請求項3のいずれかに記載の表示操作システム。
  5. 前記表示操作システムは、車両に搭載されて動作するものであり、
    前記指示手段が、前記データ出力手段に対して反力データの出力指示を行う際に利用する、前記汎用の通信ラインは、前記車両の車内LANであることを特徴とする請求項4記載の表示操作システム。
JP2003373142A 2003-10-31 2003-10-31 表示操作システム Expired - Fee Related JP4148104B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003373142A JP4148104B2 (ja) 2003-10-31 2003-10-31 表示操作システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003373142A JP4148104B2 (ja) 2003-10-31 2003-10-31 表示操作システム

Publications (2)

Publication Number Publication Date
JP2005135324A JP2005135324A (ja) 2005-05-26
JP4148104B2 true JP4148104B2 (ja) 2008-09-10

Family

ID=34649319

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003373142A Expired - Fee Related JP4148104B2 (ja) 2003-10-31 2003-10-31 表示操作システム

Country Status (1)

Country Link
JP (1) JP4148104B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4802859B2 (ja) 2005-07-04 2011-10-26 株式会社デンソー 手動操作装置
JP4840332B2 (ja) * 2007-11-06 2011-12-21 トヨタ自動車株式会社 遠隔操作装置
JP5170683B2 (ja) * 2008-11-04 2013-03-27 株式会社デンソー 車載用遠隔操作装置
JP5233644B2 (ja) * 2008-12-17 2013-07-10 トヨタ自動車株式会社 入力装置
JP5358474B2 (ja) 2010-02-12 2013-12-04 トヨタ自動車株式会社 入力装置

Also Published As

Publication number Publication date
JP2005135324A (ja) 2005-05-26

Similar Documents

Publication Publication Date Title
JP2011193040A (ja) 車両用入力装置、ポインタ表示方法
JP2012018587A (ja) 画像表示システム
WO2017002708A1 (ja) 画像表示制御装置
JP6362875B2 (ja) 車載装置、車載情報システム
JP4148084B2 (ja) 表示操作システム
JP4148104B2 (ja) 表示操作システム
US7627885B2 (en) In-vehicle image display system
JP2010130369A (ja) 車載装置および遠隔操作システム
JP4314927B2 (ja) ナビゲーション装置
JP2005265572A (ja) 車載情報端末の操作方法、車載情報端末、携帯端末用プログラム、携帯電話
JP5305034B2 (ja) 操作システム
US20130117706A1 (en) Vehicular manipulation apparatus
KR100698785B1 (ko) 통합 리모콘 겸용 차량 네비게이션 시스템
JP4343070B2 (ja) マルチモニタシステム
JPH11281375A (ja) 情報表示制御装置
JP5092841B2 (ja) 車載表示装置用の遠隔操作装置および遠隔装置用のプログラム
JP2007263839A (ja) ナビゲーションシステム
JPH11198744A (ja) 車載用装置の実行制御方式
JP5863100B2 (ja) ナビゲーションシステム
WO2021100708A1 (ja) 端末装置、情報処理方法及び端末装置用プログラム
JP2007104011A (ja) コンテンツ受信装置及びコンテンツ変換プログラム
JP4421904B2 (ja) 電子機器操作装置
JP5863099B2 (ja) ナビゲーションシステム
JP6416019B2 (ja) 車載装置
KR100947325B1 (ko) 차량용 비디오 시스템에서의 입력 모드 자동 전환 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080514

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080603

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080616

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4148104

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130704

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees