JP2006012184A - 表示装置、情報処理装置、及びその制御方法 - Google Patents

表示装置、情報処理装置、及びその制御方法 Download PDF

Info

Publication number
JP2006012184A
JP2006012184A JP2005222577A JP2005222577A JP2006012184A JP 2006012184 A JP2006012184 A JP 2006012184A JP 2005222577 A JP2005222577 A JP 2005222577A JP 2005222577 A JP2005222577 A JP 2005222577A JP 2006012184 A JP2006012184 A JP 2006012184A
Authority
JP
Japan
Prior art keywords
vibration
contact
display device
image
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005222577A
Other languages
English (en)
Other versions
JP4736605B2 (ja
Inventor
Shinichi Ogasawara
伸一 小笠原
Seiichi Misawa
誠一 三澤
Kazuyasu Takenaka
一康 竹中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005222577A priority Critical patent/JP4736605B2/ja
Publication of JP2006012184A publication Critical patent/JP2006012184A/ja
Application granted granted Critical
Publication of JP4736605B2 publication Critical patent/JP4736605B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Abstract

【課題】 単純な視覚的手段や聴覚的手段によるインタフェース機構に加えて、よりリアリティのあるインタフェース機能を有する表示装置を提供する。
【解決手段】 ディスプレイパネル100は、振動素子200によって振動を付与される状態で支持されている。ディスプレイパネル100の裏面には位置センサシート300が配置され、ディスプレイパネル100に対するペン500等の接触位置を検出する。位置センサシート300の裏面には、配線基板400が配置され、制御回路410と信号変換回路420が設けられている。制御回路410はペン500の接触位置と表示中の画像の内容に応じて、振動の種類を決定し、それを信号変換回路420に伝える。信号変換回路420は、制御回路410の指示に基づいて、振動素子200を駆動し、ディスプレイパネル100を振動させ、ペン500を介してオペレータに伝える。
【選択図】図1

Description

本発明は、各種情報を表示する表示画面を有する表示装置に関し、特に表示画面に表示した画像を手指やポインティングデバイス等で指定することにより、所定の入力を行う機能を有する表示装置に関する。
従来より、パーソナルコンピュータに設けられる表示装置において、表示画面上に座標検出装置を配置し、表示画面に表示されたアイコン等をタブレット等のペン入力装置によって指定することにより、この指定位置を座標検出装置によって検出し、その指定内容に応じて表示画面を切り換えたり、指定内容に対応したメッセージの音声合成出力を行うようにしたペン入力インタフェース機能を有するものが知られている。
しかしながら、従来のペン入力インタフェース機能を有する表示装置においては、視覚と聴覚とによるフィードバックインタフェースであるため、例えば3次元立体表現等のように、リアリティを志向するデジタルコンテンツの情報提供において、質や操作性に限界があるため、一層の直感的リアリティを実現することが望まれる。
また、上述した従来の表示装置では、画面とペン先との接触感覚が一様で滑り易く、硬質であるため、メタファーとする実際の紙とペンの触感覚と比べ、違和感、不確実感があり、ペン入力になじめないユーザが少なくない。
そこで本発明の目的は、単純な視覚的手段や聴覚的手段によるインタフェース機構に加えて、よりリアリティのあるインタフェース機能を有する表示装置を提供することにある。
本発明は前記目的を達成するため、各種情報を表示する表示画面を有する表示装置において、前記表示画面に所定の接触手段が接触した場合に、その接触条件を検出する接触条件検出手段と、前記表示画面に対する接触手段の接触条件に応じて特定の振動を生成し、前記表示画面を介して前記接触手段に伝達する振動生成手段とを有することを特徴とする。
本発明の表示装置では、例えば手指やペン等の接触手段によって表示画面の特定位置を指定した場合、その接触条件、例えば接触位置、接触圧力、移動速度、接触手段の種類等を接触条件検出手段が検出する。
そして、その検出した接触条件に応じて振動生成手段が特定の振動を生成し、これを表示画面を介して接触手段に伝達する。
この結果、オペレータの操作内容に応じた振動が接触手段を介してオペレータに伝わる。これにより、従来は無機質であった接触感覚を改善でき、オペレータに感覚的なリアリティを与えることができる。
本発明の表示装置では、表示画面に所定の接触手段が接触した場合に、その接触条件を検出し、その接触条件に応じて特定の振動を生成し、表示画面を介して接触手段に伝達するようにした。
このため、画面上の画像が単に視覚的要素として扱われるのでなく、接触手段を介して伝えられる振動により一定の触感をもった対象として捉え易くなり、従来は無機質であった接触感覚を改善でき、オペレータに感覚的なリアリティを与えることができる。
したがって、グラフィック−ユーザインタフェースの可能性を広げることができ、触感覚を生かしたデジタルコンテンツ(ゲーム、教育等)を構成することも可能となる。また、ペン入力装置と画面との間の接触感をペンと紙との接触感に近づけることができ、シミュレート装置としての表示装置の機能を向上することができる。
さらに、軽度視覚障害者に対して、グラフィック−ユーザインタフェースの補助機能としての利用も可能である。
以下、本発明による表示装置の実施の形態例について説明する。
図1は、本発明による表示装置の外観例を示す斜視図であり、図2は、図1に示す表示装置の構成を示す分解斜視図である。
本例の表示装置は、ディスプレイパネル100と、振動素子200と、位置センサシート300と、配線基板400とを有し、例えばペン500や手指等によってディスプレイパネル100上の表示領域を指定するものである。
ディスプレイパネル100は、LCD表示画面を構成するものであり、各種の画像や文字列を表示するものである。
振動素子200は、例えば圧電素子等より構成されたものであり、ディスプレイパネル100をその両側から微動可能に支持するとともに、ディスプレイパネル100に振動を付与するものである。
位置センサシート300は、ディスプレイパネル100に対するペン500等の接触位置を、電磁誘導方式や静電結合方式等の原理によって検出するものである。
配線基板400は、図示しないパーソナルコンピュータからの信号を入力してディスプレイパネル100への表示情報を出力したり、位置センサシート300からの検出信号を処理する制御回路410を設けたものである。
また、配線基板400には、制御回路410からの制御信号に基づいて振動素子200の駆動信号を出力する信号変換回路420が設けられている。
以上のような構成の表示装置において、制御回路410は、パーソナルコンピュータからの各種コマンドやデータに基づいて、ディスプレイパネル100への画像表示を行う。この画像表示には、オペレータがペン500により選択すべき選択肢をウインドウやアイコン等によって表示した画像や、オペレータがペン500により任意の描画を行うための画像が含まれる。
そして、このような画像表示制御を行っている状態おいて、ディスプレイパネル100上に接触しているペン500の位置を位置センサシート300で検出する。そして、位置センサシート300は、この位置検出データを制御回路410に出力する。
制御回路410は、位置センサシート300からの位置検出データに基づいて、例えばオペレータによる選択指示等を認識し、この指示に基づいて、画面の切り換えやデータの取り込み等の各種処理を行う。
また、制御回路410は、位置センサシート300からの位置検出データと、ディスプレイパネル100に表示している特定の画像(オブジェクト)の位置データとを照合し、一致している場合には、そのオブジェクトに対応した振動を所定のアルゴリスムに基づいてリアルタイムに決定する。なお、この決定は、予め制御回路410のメモリ内に、オブジェクトの位置データとともに、振動の種類を対応させたテーブルを記憶しておき、このテーブルを参照して振動の種類を決定してもよい。
そして、制御回路410は、その決定した振動に対応する制御信号を信号変換回路420に出力する。信号変換回路420は、この制御信号に対応して駆動信号を振動素子200に出力する。これにより、振動素子200が作動し、ディスプレイパネル100を振動させる。
そして、このディスプレイパネル100を振動させる場合の周波数や振幅等を変えることにより、オブジェクトに対応した振動をペン500等を介してオペレータに伝えることができ、よりリアリティのあるインタフェース機能を得ることができる。
次に、オブジェクトの種類と振動の種類との対応関係の具体例について説明する。
図3は、オブジェクトのコントラストによって振動の強弱、波形を変化させる例を示す説明図である。
図3(A)に示すように、ディスプレイパネル100には、輪郭のはっきりしたストライプ画像10Aと、輪郭のはっきりした細いストライプ画像10Bと、輪郭のはっきりしないストライプ画像10Cと、輪郭のはっきりしない太いストライプ画像10Dが表示されている。
そして、これらのストライプ画像10A〜10Dを横断するように、ペン50を進ませた場合、その接触点の変位に同期して、図3(B)に示すように、ストライプ画像10A〜10Dの輪郭の強弱と幅に応じた振動12A〜12Dを生成し、これをペン500を介してオペレータに伝える。
これによりオペレータは、ペン500を各ストライプ画像10A〜10D上で操作しているときには、そのストライプ画像10A〜10Dに応じた振動を受け、一定の抵抗感を感じることができる。
この結果、無機質で均一な接触感によりペン500を操作するのに比較して、よりリアルな操作感を与えることができる。したがって、このようなペン500より受ける振動による操作感の変化と、表示画像の切り換えによる視覚的な効果、さらには音声合成による聴覚的な効果とを連動させることで、よりリアリティのあるインタフェース機能を得ることができる。
なお、振動を選択する画像の条件としては、上述した画像のコントラストの他に、画像の色、意味性、画像属性等を用いることができる。ここで画像の意味性とは、例えば太陽を表した画像と月を表した画像とで振動を変えたり、人を表した画像と犬を表した画像とで振動を変えたりするものである。また、画像属性とは、例えば表示画像が文字列画像か、絵乃至図形の画像かで振動を変えるものである。
図4、図5は、以上のような各種オブジェクトの触感覚変換の例を示す説明図である。
図4(B)では、山の高さで振動の強度を示しており、図4(A)に示すような視覚的な表示画像に対し、図4(B)に示すような強度の振動を生成し、その強度に応じて、ペン500を移動した場合の抵抗感を変えることができる。
また、図5(B)では、斜線の種類によって振動の種類を示しており、図5(A)に示すような視覚的な表示画像に対し、図5(B)に示すように振動を変化させて、ペン500を移動した場合の抵抗感を変えることができる。
このような振動の変化によって各種オブジェクトの触感覚変換を行うことができ、立体感をもつオブジェクトとして認識させることができる。
また、以上の例では、ペン500の接触位置を検出し、この接触位置に応じて振動を生成するようにしたが、上述した位置センサシート300の代わりに、例えばディスプレイパネル100の上面に、透明の圧力センサシートや接触面を検出可能なセンサシートを設け、ペン500の接触圧力や接触面の大きさを検出することにより、この検出結果に基づいて振動を変化させるようにしてもよい。
例えば図6は、ペン500の接触圧や接触面の大きさに基づいて、ペン500の種類を識別し、その識別結果に応じて振動の強弱、波形を変化させる例を示す説明図である。
図6(A)に示すように、フェルトペンによる描画20Aと、チョークによる描画20Bと、クレヨンによる描画20Cとを識別することにより、図6(B)に示すように、各筆記具に応じた22A〜22Cを生成し、これをペン500を介してオペレータに伝える。
また、筆記具に限らず、他のマテリアル(例えば手指でもよい)を想定し、それに応じて振動を変えることも勿論可能である。また、同様にペン500による接触圧力を検出し、接触圧力に応じて振動を変化させることもできる。
また、接触位置の検出によって、マテリアルの移動速度を判定し、その結果によって振動を変化させることもできる。さらに、マテリアルの種類、接触圧力、移動速度の組み合わせによって、振動を変化させるようにしてもよい。
また、位置検出センサとパターン解析装置とを組み合わせることにより、入力途中の画像の属性や意味性を認識し、この認識結果に基づいて、振動を変化させるようにしてもよい。
例えば、ある選択肢に対し、YESならマル、NOならバツをペン500で入力することにより選択するようなシステムにおいて、ペン500の軌跡がマルかバツかを入力途中でリアルタイムに判断し、この判断に応じて振動の強度を徐々に変化させるような構成とすることも可能である。
本発明による表示装置の外観例を示す斜視図である。 図1に示す表示装置の構成を示す分解斜視図である。 図1に示す表示装置において、オブジェクトのコントラストによって振動を変化させる例を示す説明図である。 図1に示す表示装置において、オブジェクトの触感覚変換の例を示す説明図である。 図1に示す表示装置において、オブジェクトの触感覚変換の他の例を示す説明図である。 図1に示す表示装置において、ペンの接触圧や接触面の大きさに基づいて振動を変化させる例を示す説明図である。
符号の説明
100……ディスプレイパネル、200……振動素子、300……位置センサシート、400……配線基板、410……制御回路、420……信号変換回路、500……ペン。











Claims (13)

  1. 各種情報を表示する表示画面を有する表示装置において、
    前記表示画面に所定の接触手段が接触した場合に、その接触条件を検出する接触条件検出手段と、
    前記表示画面に対する接触手段の接触条件に応じて特定の振動を生成し、前記表示画面を介して前記接触手段に伝達する振動生成手段と、
    を有することを特徴とする表示装置。
  2. 前記接触条件検出手段は、前記接触条件として、表示画面に対する接触手段の接触位置を検出する機能を有し、前記振動生成手段は、前記接触手段の接触位置に表示された画像の内容に対応する振動を生成することを特徴とする請求項1記載の表示装置。
  3. 前記画像の内容には、画像のコントラスト、色、意味性、画像属性のいずれか1つまたは複数の組み合わせを含むことを特徴とする請求項2記載の表示装置。
  4. 前記画像属性とは、表示画像が文字列画像か、絵乃至図形の画像かを区別するものであることを特徴とする請求項3記載の表示装置。
  5. 前記接触条件検出手段は、前記接触条件として、表示画面に対する接触手段の接触状態を検出する機能を有し、前記振動生成手段は、前記接触手段の接触状態に対応する振動を生成することを特徴とする請求項1記載の表示装置。
  6. 前記接触手段の接触状態には、前記接触手段の接触圧力、移動速度、接触手段の種類のいずれか1つまたは複数の組み合わせを含むことを特徴とする請求項5記載の表示装置。
  7. 前記接触条件検出手段は、前記接触条件として、入力途中の画像の属性及び/または意味性を認識する機能を有し、前記振動生成手段は、入力途中の画像の属性及び/または意味性に対応する振動を生成することを特徴とする請求項1記載の表示装置。
  8. 前記接触条件検出手段によって検出される接触条件に応じて特定の音響出力を生成する音響出力生成手段を有することを特徴とする請求項1記載の表示装置。
  9. 前記接触条件検出手段によって検出される接触条件に応じて表示を切り換えるとともに、前記振動生成手段による振動を切り換えることを特徴とする請求項1記載の表示装置。
  10. 前記特定の振動とは、特定の周波数及び/または特定の振幅を有する振動であることを特徴とする請求項1記載の表示装置。
  11. 前記特定の振動とは、前記表示画面に表示された画像の意味性に対応して周波数及び/または振幅が変動する振動であることを特徴とする請求項1記載の表示装置。
  12. 前記表示画面を構成するディスプレイパネルと、前記ディスプレイパネルに振動を付与する振動生成手段としての振動素子と、前記ディスプレイパネルの裏面に配置され、前記ディスプレイパネルに対する接触手段の接触位置を検出する位置センサと、前記位置センサの検出出力に応じて振動の種類を決定する制御回路と、前記制御回路からの制御信号に基づいて前記振動素子へ駆動信号を出力する信号変換回路とを有することを特徴とする請求項2記載の表示装置。
  13. 前記制御回路と前記信号変換回路は、前記位置センサの裏面に配置された配線基板に設けられていることを特徴とする請求項2記載の表示装置。
JP2005222577A 2005-08-01 2005-08-01 表示装置、情報処理装置、及びその制御方法 Expired - Lifetime JP4736605B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005222577A JP4736605B2 (ja) 2005-08-01 2005-08-01 表示装置、情報処理装置、及びその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005222577A JP4736605B2 (ja) 2005-08-01 2005-08-01 表示装置、情報処理装置、及びその制御方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP24696997A Division JP4567817B2 (ja) 1997-09-11 1997-09-11 情報処理装置及びその制御方法

Publications (2)

Publication Number Publication Date
JP2006012184A true JP2006012184A (ja) 2006-01-12
JP4736605B2 JP4736605B2 (ja) 2011-07-27

Family

ID=35779287

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005222577A Expired - Lifetime JP4736605B2 (ja) 2005-08-01 2005-08-01 表示装置、情報処理装置、及びその制御方法

Country Status (1)

Country Link
JP (1) JP4736605B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010086471A (ja) * 2008-10-02 2010-04-15 Sony Corp 操作感提供装置、および操作感フィードバック方法、並びにプログラム
CN103793051A (zh) * 2012-10-31 2014-05-14 英默森公司 用于模拟具有触觉效果的用户界面上的表面特征的方法和装置
JP2014512619A (ja) * 2011-04-22 2014-05-22 イマージョン コーポレーション 電気振動型タクタイル・ディスプレイ
WO2014092512A1 (en) * 2012-12-14 2014-06-19 Samsung Electronics Co., Ltd. Method and apparatus for controlling haptic feedback of an input tool for a mobile terminal
US9292090B2 (en) 2012-01-31 2016-03-22 Panasonic Intellectual Property Management Co., Ltd. Haptic feedback device and haptic feedback method
JP2016057764A (ja) * 2014-09-08 2016-04-21 株式会社東海理化電機製作所 触覚呈示装置
US9600075B2 (en) 2006-10-04 2017-03-21 Immersion Corporation Haptic effects with proximity sensing

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06139018A (ja) * 1992-09-10 1994-05-20 Victor Co Of Japan Ltd 表示装置
JPH06274268A (ja) * 1993-03-24 1994-09-30 Nippon Telegr & Teleph Corp <Ntt> 操作押圧力検出形情報入力方法及びインターフェース装置
JPH08221173A (ja) * 1995-02-09 1996-08-30 Hitachi Ltd 入力装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06139018A (ja) * 1992-09-10 1994-05-20 Victor Co Of Japan Ltd 表示装置
JPH06274268A (ja) * 1993-03-24 1994-09-30 Nippon Telegr & Teleph Corp <Ntt> 操作押圧力検出形情報入力方法及びインターフェース装置
JPH08221173A (ja) * 1995-02-09 1996-08-30 Hitachi Ltd 入力装置

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9600075B2 (en) 2006-10-04 2017-03-21 Immersion Corporation Haptic effects with proximity sensing
US8330590B2 (en) 2008-10-02 2012-12-11 Sony Corporation User interface feedback apparatus, user interface feedback method, and program
JP2010086471A (ja) * 2008-10-02 2010-04-15 Sony Corp 操作感提供装置、および操作感フィードバック方法、並びにプログラム
JP2014512619A (ja) * 2011-04-22 2014-05-22 イマージョン コーポレーション 電気振動型タクタイル・ディスプレイ
US9292090B2 (en) 2012-01-31 2016-03-22 Panasonic Intellectual Property Management Co., Ltd. Haptic feedback device and haptic feedback method
CN103793051A (zh) * 2012-10-31 2014-05-14 英默森公司 用于模拟具有触觉效果的用户界面上的表面特征的方法和装置
US10591994B2 (en) 2012-10-31 2020-03-17 Immersion Corporation Method and apparatus for simulating surface features on a user interface with haptic effects
JP2014112357A (ja) * 2012-10-31 2014-06-19 Immersion Corp 触覚効果を用いてユーザインタフェース上で表面フィーチャをシミュレートする方法及び装置
CN103793051B (zh) * 2012-10-31 2019-07-23 意美森公司 用于模拟具有触觉效果的用户界面上的表面特征的方法和装置
US10139912B2 (en) 2012-10-31 2018-11-27 Immersion Corporation Method and apparatus for simulating surface features on a user interface with haptic effects
US9239622B2 (en) 2012-12-14 2016-01-19 Samsung Electronics Co., Ltd Method and apparatus for controlling haptic feedback of an input tool for a mobile terminal
US9483120B2 (en) 2012-12-14 2016-11-01 Samsung Electronics Co., Ltd Method and apparatus for controlling haptic feedback of an input tool for a mobile terminal
WO2014092512A1 (en) * 2012-12-14 2014-06-19 Samsung Electronics Co., Ltd. Method and apparatus for controlling haptic feedback of an input tool for a mobile terminal
JP2016057764A (ja) * 2014-09-08 2016-04-21 株式会社東海理化電機製作所 触覚呈示装置

Also Published As

Publication number Publication date
JP4736605B2 (ja) 2011-07-27

Similar Documents

Publication Publication Date Title
JP4567817B2 (ja) 情報処理装置及びその制御方法
US10775895B2 (en) Systems and methods for multi-pressure interaction on touch-sensitive surfaces
US9983676B2 (en) Simulation of tangible user interface interactions and gestures using array of haptic cells
CN101910977B (zh) 基于视觉环境的音频和触觉反馈
JP4736605B2 (ja) 表示装置、情報処理装置、及びその制御方法
US20140210799A1 (en) Interactive Display System and Method
Freeman et al. Multimodal feedback in HCI: haptics, non-speech audio, and their applications
JP2011501298A (ja) 音声、視覚、および触覚のフィードバックを使用した三次元オブジェクトシュミレーション
JP2005190290A (ja) 入力制御装置及び入力応答方法
WO2009124219A2 (en) Multi-modal learning system
WO2016120956A1 (ja) 駆動制御装置、電子機器、駆動制御プログラム、及び駆動制御方法
JP2006163206A (ja) 触覚提示装置
KR20190002525A (ko) 눈멀거나 시각적으로 손상된 사람용 컴퓨팅 장치의 멀티미디어 관리용 가제트
WO2013128989A1 (ja) 表示装置及びその動作方法
KR20100107997A (ko) 펜형태의 촉감 제시 장치와 그를 이용한 촉감 인터페이스 시스템
KR101234094B1 (ko) 촉각 피드백을 제공하는 모션 기반 포인팅 장치 및 그 제어방법
CA2923867C (en) Haptic rendering for a flexible computing device
JP2019082901A (ja) 入力装置及びプログラム
JP6494251B2 (ja) 電子情報機器およびその操作方法
KR20100107996A (ko) 터치면을 구비한 펜형 촉감 제시 장치와 그를 이용한 촉감 인터페이스 시스템
Pietrzak On the critical role of the sensorimotor loop on the design of interaction techniques and interactive devices
JP6904222B2 (ja) 駆動制御装置、電子機器、及び、駆動制御方法
KR20180033738A (ko) 디스플레이 장치에 설치되는 착탈식 터치 패널 장치
Pietrzak Habilitation à diriger des recherches
JP6399216B2 (ja) 駆動制御装置、電子機器、駆動制御プログラム、及び駆動制御方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071015

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090508

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090806

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091001

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100729

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110418

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term