JP4229244B2 - カーソル制御装置 - Google Patents

カーソル制御装置 Download PDF

Info

Publication number
JP4229244B2
JP4229244B2 JP52021898A JP52021898A JP4229244B2 JP 4229244 B2 JP4229244 B2 JP 4229244B2 JP 52021898 A JP52021898 A JP 52021898A JP 52021898 A JP52021898 A JP 52021898A JP 4229244 B2 JP4229244 B2 JP 4229244B2
Authority
JP
Japan
Prior art keywords
cursor
cursor control
pixel
feedback
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP52021898A
Other languages
English (en)
Other versions
JP2000504450A (ja
Inventor
リチャード デヴィッド ギャラリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2000504450A publication Critical patent/JP2000504450A/ja
Application granted granted Critical
Publication of JP4229244B2 publication Critical patent/JP4229244B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0383Signal control means within the pointing device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03543Mice or pucks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/014Force feedback applied to GUI
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/015Force feedback applied to a joystick

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)

Description

【発明の属する技術分野】
【0001】
本発明は、ユーザに示されたグラフィックユーザインタフェースに関するカーソルの動きを制御するためのユーザが操作できる装置を有するデータ処理装置に関係する。特に、本発明は、ユーザにフィードバック、特に、しかし排他的にではなく、触覚フィードバックを与え、ユーザにグラフィックユーザインタフェースの特徴に対するカーソルの現在の位置に関係する追加の情報を与える手段を有する装置に特に関係する。
【従来技術】
【0002】
このようなフィードバックメカニズムの一例は、欧州特許出願公開明細書第0607580号(セルカー/IBM)に記載されており、この既知のメカニズムにおいては、フィードバック信号をカーソルに関係するステータス情報において発生し、このようなステータス情報は、カーソルのウィンドウハンドルを含む。ロッドをアクチュエータにその一方の端において取り付けた指ロッドメカニズムが記載されており、ホストコンピュータ装置によってステータス情報に基づいて発生された一時的フィードバック信号がアクチュエータを作動し、指示ロッドに力を加える。ホストコンピュータ装置に、キーボードにおけるキーの間の位置決めスティック装置において、またはマウスカーソル制御内に搭載してもよいこのロッドを、ロッドの反対側の端に接続されたアクチュエータの作動によってユーザの指先を押すように配置する。ウィンドウ境界線およびハンドルのような特徴をロッドの動きによって示すようなステータス情報に基づく作動によって、前記欧州特許の装置は、カーソルが画面上に表示された特徴を操作する位置にある場合、表示されたカーソルの形状の変化を待つためか、カーソルの動きに対する物理的な抵抗の形態において与えられるフィードバックの結果として、画面に対するカーソルの動きを遅くしなければならないことなく、正確なユーザの認識を増すことを目的とする。
【0003】
カーソルの動きに伴うフィードバックの他の形態は、ユーザに対して隠され、部分的に表示されるコンピュータインタフェースを記載している米国特許明細書第5186629号(ロヘン/IBM)に記載されている。カーソル位置およびメニューの選択を、信号音発生および音声合成を含む聴覚フィードバックによって示す。さらに、触覚フィードバックを、ユーザの手にマウスにおけるパッドを通じて伝えられる弱い交流電流の形態において与える。この装置において、聴覚および触覚の合図は、ユーザがインタフェースの心象を構築するのを助ける。
【0004】
上述した双方の装置に伴う問題は、カーソルがウィンドウハンドル上に位置するか、アイコンを作動している場合のような、触覚または他のフィードバックの発生をトリガするためのカーソルステータス情報を与えるために、ユーザインタフェースの表現を特別に創作することにこれらが依存していることである。触覚および他のフィードバックメカニズムがより普及するにつれて、これらのようなメカニズムの作動に必要な合図を含むソフトウェアパッケージがより普及するであろう。現在これらは互いに依存し合っているため、期待または要求される特徴としての触覚および他のフィードバックメカニズムをユーザが受け取るのは遅くなるかもしれない。
【課題を解決するための手段】
【0005】
したがって、本発明の目的は、カーソル制御ユーザインタフェースに関してフィードバック合図を、インタフェースの動作を管理するどのような制御機能とも独立して発生する手段を提供することである。
【0006】
本発明によれば、画素ディスプレイにおいてカーソルを制御するカーソル制御装置であって、カーソル制御信号を発生し、このカーソル制御信号を前記画素ディスプレイに送信する制御手段と、前記カーソル制御装置のオペレータに、パラメータ設定を通知するフィードバック手段とを具えるカーソル制御装置において、監視手段を具え、この監視手段は、前記カーソルが上にある前記画素ディスプレイの少なくとも1つの画素すなわち第1の領域の色調レベルを決定し、前記第1の領域を取り囲む1つ以上の領域の色調レベルを決定し、前記第1の領域と前記1つ以上の領域とを経る、互いに垂直な2つの方向における色調変化を示す差分を決定するように構成され、前記フィードバック手段は、前記2つの方向における色調変化をそれぞれ通知する、2つの独立に動作するフィードバック手段を有し、ユーザに通知される前記パラメータ設定を、前記決定された差分から少なくとも部分的に、フィードバック制御手段によって導出することを特徴とするカーソル制御装置が提供される。
【0007】
また、本発明によれば、カーソルを表示する画素ディスプレイと、前記画素ディスプレイに接続されたホストコンピュータと、前記ホストコンピュータに接続され、カーソル制御信号を発生するカーソル制御手段とを具え、前記ホストコンピュータが、前記カーソル制御信号を受け取り、カーソル表示信号を発生し、前記カーソル表示信号を前記画素ディスプレイに送り、前記カーソル制御手段が、前記カーソル制御手段のオペレータにパラメータ設定を通知するフィードバック手段を有するコンピュータ装置において、監視手段を具え、この監視手段は、前記カーソルが上にある前記画素ディスプレイの少なくとも1つの画素すなわち第1の領域の色調レベルを決定し、前記第1の領域を取り囲む1つ以上の領域の色調レベルを決定し、前記第1の領域と前記1つ以上の領域とを経る、互いに垂直な2つの方向における色調変化を示す差分を決定するように構成され、前記フィードバック手段は、前記2つの方向における色調変化をそれぞれ通知する、2つの独立に動作するフィードバック手段を有し、ユーザに通知される前記パラメータ設定を、前記決定された差分から少なくとも部分的に、フィードバック制御手段によって導出することを特徴とするコンピュータ装置が提供される。
【0008】
前記決定された少なくとも1つの画素の色調レベルを、グレイレベルまたは1つ以上の画素色成分のレベルとすることができる。前記フィードバック手段は、前記決定された色調レベルが第1しきい値を越える場合に動作してもよく、または、瞬時の色調レベルによって直接決定される連続的に変化するフィードバックレベルを出力できるようにしてもよい。前記監視手段を、第1の領域を取り囲む1つ以上の他の領域における(例えば、第1の選択された画素を取り囲む8画素の各々における)色調レベルを決定し、前記第1の領域と他の領域とを経る少なくとも1つの方向における色調変化を示す差分を決定し、前記フィードバックを瞬時の差分によって決定されるレベルにおいてユーザに対して発生するように構成してもよい。このような構成において、前記監視手段を、好適には前記第1の領域とおよび他の領域とを経る2つの互いに直交する方向における差分を決定するように構成し、この場合前記フィードバック手段は、前記2方向における色調変化を各々示す2つの独立して動作するフィードバック手段を具える。
【0009】
代表的なウィンドウベースのコンピュータインタフェースにより、ウィンドウ境界線は、ボタンおよびスライダのように、グレイレベル(または、個々の色成分レベル)の変化によって明瞭に境界付けられる。現在のカーソル位置におけるXおよびY方向のうちの一方または双方における差分は、ウィンドウ境界を示すグレイレベルまたは色成分レベルの変化の量を示す値を発生する。他の構成において、前記監視手段は、上書きされるディスプレイ画素値の記録を保持するように構成されたカーソル画素格納手段を有し、前記色調変化を示す差分を、前記カーソルの最新の動きのラインに沿った前記色調変化から導出する。
【0010】
前記フィードバック手段は、前記決定された色調レベルによって制御されるレベルで、カーソル制御装置のユーザの身体に力を加えるように構成された力発生手段を有することができる。あるいはまた、このような力発生手段は、何か他の要因によって決定されるレベルの力を加えてもよく、このときこの力を前記決定された色調レベルから導出された量だけ変更(調節または補足)する。
【0011】
本発明は、2次元インタフェースに限定されず、ディスプレイがコンピュータが発生した3次元環境を表示し、カーソルが3次元においてユーザの制御の下で動くことができるアイコンである応用例を有し、このような使用に好適な装置は、カーソルが仮想環境のフィーチャと接触する場合を決定するように動作できる衝突(または接触)検知手段を含み、前記フィードバック手段は、このような接触が継続している間、動作可能になる。
【発明の実施の形態】
【0012】
本発明の他の特徴および利点は、一例として示される好適な実施の形態の説明を図面を参照して読むことによって明らかになるであろう。
【0013】
最初に、従来の2次元ユーザインタフェースと関連して触覚合図を与える本発明の簡単な実施を考える。図1は、キーボード12からの入力を受け、モニタ画面14を経て表示するパーソナルコンピュータ10から成る代表的なパーソナルコンピュータ(PC)装置を示す。図示したように、グラフィックユーザインタフェースを既知のウィンドウ形式のものとし、2つのウィンドウ16、18を「オープン」位置において示し、「クローズド」され、ユーザが利用可能な2つの他のウィンドウをアイコン20として示す。ウィンドウ16、18およびアイコン20は、一般的に背景「壁紙」22の上に位置し、この背景「壁紙」22は、単純な白または他の色の背景か、より複雑な模様のパターンを具えてもよく、種々の壁紙のメニューからのユーザの選択可能性は、多数の既知のグラフィックユーザインタフェースパッケージの特徴である。(関係するメニューボタンおよびスライダ制御と共に)アイコンおよびウィンドウのユーザの選択、作動および操作は、カーソル24を介して行われる。このカーソル24は、画面に対して、キーボード12における方向キーの操作によって、または、よりユーザに親切な方法において、マウス26、トラックボールまたはジョイスティック(図示せず)のような他のユーザ入力装置(UID)の使用によって、動かすことができる。マウス26または他のUIDには、代表的に、1つ以上のボタン28が設けられており、これらのボタン28によって、アイコン、カーソルボタンまたはメニュー項目の上にカーソル24が位置するときに、これらを作動させる。これらのようなグラフィックユーザインタフェースの発生およびカーソル操作の技術は、当業者にはよく知られており、本発明の動作の説明に必要なことを除いて、さらに説明はしない。
【0014】
動作中に、カーソル24がスクリーンに対して動くと、カーソルとアイコンのエッジまたはウィンドウの境界線との一致が、マウス26に搭載され、ユーザの手首の上部の下に位置する簡単なアクチュエータ30のような力フィードバックメカニズムを介してユーザに示され、アクチュエータ30は、ユーザの手を叩き、丁度境界を越えたことを示す。以下の記述から理解されるように、フィードバック装置の個々の形態は、本発明の動作に密接な関係はなく、大部分の基本的な実施において、ユーザに境界線を越えたことを示すことができることが単に必要であり、アクチュエータのような触覚手段および/または単純なビープ音のようなオーディオフィードバックを具えてもよい。より複雑な形態の装置を使用してもよく、説明のため、いくつかの異なる形態のフィードバック手段と、これらの有用な(しかし、任意の)特徴とを、以下に説明する。
【0015】
図2は、本発明の一実施形態による動作を図式的に説明し、図1のディスプレイにおけるウィンドウ18の右下角の周囲の部分を示す。このウィンドウは、ウィンドウ18内と画面壁紙22とに使用されているものとは異なる背景色を有する2画素幅の黒っぽい境界線を有する。ウィンドウ18の角部と交差するカーソル24の動きを、矢印38によって概略的に示す。3×3画素のパッチよりなる列A〜Gを、カーソルの経路に沿って示す。これらのパッチの各々について、グレイレベルおよび/または1つ以上の色成分レベル(一般的に、以下、色調レベルと呼ぶ)の変化を用いて、ユーザに対する触覚フィードバックをトリガし、好適にはさらに、色調レベルを各パッチについて設定する。図1のマウス26におけるアクチュエータ30のような触覚フィードバック装置を1つだけ設けた場合、パッチA〜Gの各々における異なる全部の色調レベルを用いて、カーソルが個々のパッチの中心に位置する場合の、アクチュエータの個々の力レベルを設定することができる。この例によれば、アクチュエータ30は、カーソルが位置B、C、E、Fにある場合に作動し、このとき一般的に位置BおよびFにおいてより大きい作動力で作動し(境界線36と壁紙22との間の色調コントラストは、境界線とウィンドウ18の背景との間の色調コントラストより大きいため)、カーソルがパッチを通じて一定の色調の位置A、D、Gにある場合には、フィードバックを発生しない。
【0016】
ユーザにフィードバックされる合図を改善するために、ユーザに水平または垂直境界線を横切っているときを確認させるために、フィードバックを互いに直交する2つの方向(好適には、画面のXおよびY座標)において導出して、与える。図2の例に戻って、これは、パッチA〜Gの各々のXおよびY方向における色調レベルの差分を得て、これらの方向の各々に別々のフィードバックを与えることによって達成される。この例によれば、位置A、DまたはGにおいて、いずれの方向においてもフィードバックはなく、位置BおよびCにおいて、Y方向においてフィードバックがあるが、水平エッジの故に色調はこれらのパッチのX方向において一定であり、したがってX方向のフィードバックは発生しない。これとは対照的に、位置EおよびFでは、色調はY方向において一定であり、この方向においてフィードバックは生じないが、X方向においてフィードバックの発生を導く色調勾配を有する。
【0017】
図3は、図1のPCベースの実施形態のブロック図である。一般的な従来方法では、中央処理ユニット40に読み出し専用メモリおよびランダムアクセスメモリ42、44を、データおよびアドレスバス46を介して結合する。データ入力は、キーボード12およびUID26(図1に示すマウスか、トラックボールまたはジョイスティックメカニズムのような)を介する。UID26を比較的簡単な装置とし、フィードバックレベルを導出する大部分の要素演算をPC内で実行してもよく、または、独立型PC程度の性能を有し、点線26’内に含まれるこれらの構成要素のいくつかまたはすべてを具えるより複雑な装置とすることもできる。
【0018】
表示する画像を、ディジタル形態においてフレーム格納部50に集め、このフレーム格納部50から、データを表示プロセッサ52によって読み出し、ディスプレイ14に供給する。フィードバックレベルを発生するために、CPU40は、パッチアドレスPADDRをライン54においてパッチバッファ56に対して発生する。このパッチアドレスは、現在のカーソル位置に中心がある3×3画素のパッチを識別する。このパッチアドレスの受け取りに応じて、パッチバッファ56は画素値をフレーム格納部50から読み出す。それに続いて、画素値を、パッチバッファ56から一対のフィルタ段58、60(XおよびY方向の各々用)の各々に、同期して読み出す。独立型UID装置に特に好適な他の装置(図示せず)において、パッチバッファの内容を、表示プロセッサ52からのアナログ出力を標本化し、次にフィルタ段に供給するためにディジタル化することによって得ることができる。個々の勾配DxおよびDyを与えるフィルタ処理に続いて、これらのフィルタ処理化値を、シリアルポートを経てユーザインタフェース装置26’内の力フィードバックメカニズム62に送ってもよく、または、これらの値に、最初に1つ以上の任意の他の処理を行ってもよい。ある任意の処理(図示せず)は、DxおよびDyの値を混合または加算し、1つのフィードバックレベル値を与えることであり、これは、例えば、力フィードバック装置を1つのみ有する図1に示すマウス26によって必要とされる。他の任意の処理は、DxおよびDyの個々の予め決められたしきい値以下の値を制限するため、DxおよびDyを個々のしきい値処理段64、66を経て送ることである。トグルスイッチ68によって切り替え可能で、そのレベルを(ライン69においてCPUの制御の下で)制御可能に変えることができるしきい値処理は、例えば、画面壁紙22を微細にテクスチャ化した場合、必要である。フィードバック手段が、カーソルが壁紙22の大きい領域を横切ってドラッグされる場合に作動するのを防止するために、ユーザは、触覚フィードバックをスイッチオフすることを選択してもよく、または、しきい値レベルをこのような壁紙の平均テクスチャ勾配よりもわずかに上に設定してもよい。後者の場合において、ウィンドウおよびアイコンの境界線は、背景に対して十分なコントラストを有し、これらをユーザが見ることができ、したがってしきい値を越える十分な色調勾配を有する。
【0019】
他の状況においては、フィードバックをすべてのレベルの色調勾配に与えることが望ましい。このような特定の例は、3次元コンピュータモデル化環境(いわゆる仮想風景)との相互作用に関係している。仮想風景では、カーソルを、1つ以上のユーザ入力装置の動作に応じて仮想風景内を3次元において動くことができるユーザの手を表す形態またはマニピュレータ他の形態とすることができる。動作において、ユーザに好適には力フィードバック手段を与え、動きを制限するか、あるいはカーソルが仮想風景内でモデル化された仮想上の「固体」対象に接触するときを、少なくとも通知する。従来は、テクスチャの印象を力フィードバックを通じて与えるために、例えば、カーソル(仮想手)が仮想風景内でレンガ壁の描写に沿って動く場合、個々のレンガとこれらレンガの間の隙間とをモデル化し、力フィードバックが基礎を置くことができる完全な3次元モデルを与えることが必要であった。本発明を取り入れることによって、レンガ壁の例のような対象を、レンガテクスチャを従来の方法でマッピングしたただの表面としてモデル化することができる。カーソルとレンガ壁との衝突または接触によって発生したフィードバック力を、従来どおり導出された色調差分によって調節して、3次元環境内で触覚フィードバックを与える。
【0020】
図4は、ユーザにこのような仮想風景を発生および表示するアーキテクチャの一部を図式的に説明する。風景のながめを、レンダリング段70によってCPU72の制御の下で発生させる。発生された画像は、仮想風景のレイアウトを指定する第1格納部74からのデータに基づき、およびプリセットできる、あるいは例えばユーザが身につけるヘッドマウントディスプレイの動きを監視する計算手段(図示せず)から(ライン76)から入力できる視点位置(X,Y,Z)および方向(θ,φ)にも基づく。メモリ74からのデータで特定される対象および特徴(フィーチャ)の基本的な幾何学的表面上に、レンダリング段70に接続された他のメモリ格納部78のデータから、種々のテクスチャをマッピングすることができる。テクスチャマッピングは、良く知られた技術であり、3次元モデルをきわめて微細に形成する必要性を回避する。
【0021】
上述した簡単な2次元インタフェースのように、手または他の仮想マニピュレータの形態とすることができるユーザ制御カーソルを設ける。このカーソルの外観を、その動作を管理するデータおよび/または規則と共に、他のメモリ80に格納し、レンダリング段70によって呼び出して、適切な場所で仮想風景の上にのせるカーソル表示を生成する(カーソルの位置および向きは、CPU72からレンダリング段に与えられる)。平面ディスプレイまたは立体ディスプレイへの表示のために1対または立体対の画像が生成されると、合成画像をフレームバッファ82に渡して、その後、表示装置に出力する。
【0022】
点線84によって概略的に示されるユーザ入力装置は、この装置の動きを検出し、それをCPU72に渡す手段86を有する。カーソル動きメモリ88に格納されたカーソルの最近の動き履歴の記録を参照して、CPU72は現在のカーソル位置を計算し、レンダリング段70に供給する。図示したように、UID84は、CPU72に対する他の接続部を有し、この接続部を通じて、2次元インタフェースによる従来のマウスボタンの操作と同様に、UID84における1つ以上の制御またはスイッチの動作をCPU72に通知し、おそらく、カーソルが仮想風景内の物体を掴むまたは離すことを通知する。認識されるように、UID84における制御部90の形態は、仮想風景要素のデザインや、カーソルのデザインや、これらがどのように相互作用できるかを決定する制限のような多数の特徴に依存する。
【0023】
図示したように、UID84は、第1および第2フィードバック機構92および94も有し、これらは各々、ユーザにXおよびY方向において力フィードバックを与え、仮想風景内のカーソルおよび物体間の衝突を示す。UID84を3次元において動くことができる装置とした場合、好適にはZ方向における力フィードバックも与える。衝突の発生を、CPU72およびZバッファ98に結合された比較器96によって決定し、このZバッファは、フレームバッファ82内の画面の基礎画素値に対して対応する深さ値を保持し、既知の方法で隠れた表面を除去するのに一般的に使用される。衝突が発生したのを検出すると、カーソル動きメモリ88に結合された衝撃計算段100は、UID84内のフィードバック装置92、94に供給すべきフィードバックの力および方向を、カーソルの以前の速度と、これらに割り当てられた公称の慣性とに基づいて決定する。
【0024】
力フィードバック装置92、94に用いる前に、水平および/または垂直衝撃力を、段102において、各段104および106においてレンダリング段70に結合されたパッチバッファ108から得られる個々の色調勾配の差分DxおよびDyによって調節する。図3の実施形態によるように、CPU72からのパッチアドレスPADDRは、色調勾配のパッチバッファ108への取り出しに使用すべき画素を識別する。段102によって加えられる調節を単純な加算とし、衝撃力フィードバックを仮想環境内の特定の構成要素位置に対して指定し、その位置の上において、力が上にあるテクスチャに対応するようにすることができる。このような調節によって、仮想風景の3次元環境内でモデル化された表面は、上述した簡単な2次元ユーザインタフェースと同じようにテクスチャフィードバックを与える。
【0025】
上述したように、触覚または力フィードバック装置の特定の形態は、本発明の制限的な特徴ではない。しかしながら説明のため、ここでいくつかの例の形態を図5〜8の参照と共に説明する。
【0026】
図5は、一対の操作スイッチ122を有する簡単なマウスコントローラ120の平面図であり、操作スイッチ122のうちの一方を使用し、触覚フィードバックをオンまたはオフに切り替えることができる。マウスの側部における第1アクチュエータ124は、ある程度の量、水平フィードバック力によって決定される速度で出入りし、ユーザの親指を打つ(マウスの反対側にアクチュエータ124を有するマウスが、左手操作用に必要である)。マウスの前部には、垂直方向において計算されたフィードバックを与えるためにユーザの指先に対して動く第2アクチュエータ126が設けられている。この構造は、マウス自体がある程度大きくなるかもしれないが、マウスの滑らかな動きが影響を受けないという利点を有する。動き制動を積極的に使用して力フィードバックを与えるマウスの他の構造を、図6の底面図によって図式的に説明する。従来の3つの保持および動き検出ローラ130に加えて、一対の摩擦ホイール132を、個々の制動モータ134の軸に設ける。力フィードバックを、モータ134の巻き線に制動電流を加え、摩擦ホイール132の回転方向に対して抵抗する形態において与える。
【0027】
トラックボール装置140用触覚フィードバックアクチュエータの構造を、図7Aおよび7Bの側面図および底面図において各々説明する。4つのアクチュエータ142をトラックボール装置の下側に設け、この装置の支持足として作用させる。アクチュエータ142の各々は、トラックボール装置の箱をXおよびY方向の双方において前方および後方に傾け、回転ボール144の動きに影響を与えることなく触覚フィードバックを与えられるように、水平および/または垂直方向において必要なフィードバックレベルによって決定される量だけ伸長または収縮を制御できる。
【0028】
ジョイスティック装置によるさらに他の実施形態を図8に示す。ジョイスティック150を回転ジョイント152に取り付け、XおよびY方向の動きの指示を出力する位置センサ154に結合する。ジョイスティック150の延長部分に垂直に取り付けられ、リンク158を介して結合された一対のアクチュエータ156によってフィードバックを与える。
【0029】
本明細書を読むことによって、他の変更および変形が当業者には明らかになるであろう。これらのような変更および変形は、当該技術分野において既知であり、ここにすでに開示した特徴の代わりに、またはこれらに追加して使用できる同等の特徴および他の特徴を含んでもよい。請求の範囲を本願において特徴の特定の組み合わせに対して述べたが、本願の開示の範囲は、ここに明示的であっても暗示的であっても開示されたあらゆる特徴または特徴のあらゆる組み合わせをも含み、どの請求の範囲において現在請求されているのと同じ発明に関係していてもいなくても、本発明と同じ技術的問題のいずれかまたはすべてを軽減してもしなくても、これらのあらゆる一般化をも含むことを理解すべきである。これにより、本願の手続き中にこれらのような特徴および/またはこれらのような特徴の組み合わせ、またはこれらから得られるなにか他の用途に対して新たな請求の範囲を形成できる。
【図面の簡単な説明】
【0030】
【図1】図1は、本発明を実行する、2次元グラフィックユーザインタフェースを有するパーソナルコンピュータ(PC)を示す図である。
【図2】図2は、本発明の動作を説明する図1の画素ディスプレイの一部の拡大図である。
【図3】図3は、図1の実施形態の機能的特徴を示すブロック図である。
【図4】図4は、本発明の他の実施形態による、3次元仮想環境を発生する手段と、同様に相互作用するユーザが操作可能な手段のブロック図である。
【図5】図5は、本発明と関連して好適に使用できる接触フィードバックメカニズムを取り入れたカーソル制御装置の一形態を示す図である。
【図6】図6は、本発明と関連して好適に使用できる接触フィードバックメカニズムを取り入れたカーソル制御装置の一形態を示す図である。
【図7A】図7Aは、本発明と関連して好適に使用できる接触フィードバックメカニズムを取り入れたカーソル制御装置の一形態を示す側面図である。
【図7B】図7Bは、本発明と関連して好適に使用できる接触フィードバックメカニズムを取り入れたカーソル制御装置の一形態を示す底面図である。
【図8】図8は、本発明と関連して好適に使用できる接触フィードバックメカニズムを取り入れたカーソル制御装置の一形態を示す図である。

Claims (9)

  1. 画素ディスプレイにおいてカーソルを制御するカーソル制御装置であって、
    カーソル制御信号を発生し、このカーソル制御信号を前記画素ディスプレイに送信する制御手段と、
    前記カーソル制御装置のオペレータに、パラメータ設定を通知するフィードバック手段とを具えるカーソル制御装置において、
    監視手段を具え、この監視手段は、
    前記カーソルが上にある前記画素ディスプレイの少なくとも1つの画素すなわち第1の領域の色調レベルを決定し、
    前記第1の領域を取り囲む1つ以上の領域の色調レベルを決定し、
    前記第1の領域と前記1つ以上の領域と経る、互いに垂直な2つの方向における色調変化を示す差分を決定するように、構成され、
    前記フィードバック手段は、前記2つの方向における色調変化をそれぞれ通知する、2つの独立に動作するフィードバック手段を有し、
    ユーザに通知される前記パラメータ設定を、前記決定された差分から少なくとも部分的に、フィードバック制御手段によって導出することを特徴とするカーソル制御装置。
  2. 請求項1に記載のカーソル制御装置において、前記決定された少なくとも1つの画素の色調レベルを、グレイレベルとしたことを特徴とするカーソル制御装置。
  3. 請求項1に記載のカーソル制御装置において、前記決定された少なくとも1つの画素の色調レベルを、1つ以上の画素色成分のレベルとしたことを特徴とするカーソル制御装置。
  4. 請求項1に記載のカーソル制御装置において、前記監視手段が、上書きされるディスプレイ画素値の記録を保持するように構成されたカーソル画素格納手段を含み、前記色調変化を示す差分を、前記カーソルの最新の動きのラインに沿った前記色調変化から導出することを特徴とするカーソル制御装置。
  5. 請求項1〜4のいずれか1つに記載のカーソル制御装置において、前記フィードバック手段は、前記決定された色調レベルによって制御されるレベルで、カーソル制御装置のユーザの身体に力を加えるように構成された力発生手段を有することを特徴とするカーソル制御装置。
  6. 請求項1〜4のいずれか1つに記載のカーソル制御装置において、前記フィードバック手段は、予め決められた外部条件によって決定され、および前記決定された色調レベルから導出された量だけ変更されたレベルで、カーソル制御装置のユーザの身体に力を加えるように構成された力発生手段を有することを特徴とするカーソル制御装置。
  7. カーソルを表示する画素ディスプレイと、前記画素ディスプレイに接続されたホストコンピュータと、前記ホストコンピュータに接続され、カーソル制御信号を発生するカーソル制御手段とを具え、前記ホストコンピュータが、前記カーソル制御信号を受け取り、カーソル表示信号を発生し、前記カーソル表示信号を前記画素ディスプレイに送り、前記カーソル制御手段が、前記カーソル制御手段のオペレータにパラメータ設定を通知するフィードバック手段を有するコンピュータ装置において、
    監視手段を具え、この監視手段は、
    前記カーソルが上にある前記画素ディスプレイの少なくとも1つの画素すなわち第1の領域の色調レベルを決定し、
    前記第1の領域を取り囲む1つ以上の領域の色調レベルを決定し、
    前記第1の領域と前記1つ以上の領域とを経る、互いに垂直な2つの方向における色調変化を示す差分を決定するように、構成され、
    前記フィードバック手段は、前記2つの方向における色調変化をそれぞれ通知する、2つの独立に動作するフィードバック手段を有し、
    ユーザに通知される前記パラメータ設定を、前記決定された差分から少なくとも部分的に、フィードバック制御手段によって導出することを特徴とするコンピュータ装置。
  8. 請求項7に記載のコンピュータ装置において、前記決定された少なくとも1つの画素の色調レベルを、グレイレベルとしたことを特徴とするコンピュータ装置。
  9. 請求項7に記載のコンピュータ装置において、前記決定された少なくとも1つの画素にの色調レベルを、1つ以上の画素色成分のレベルとしたことを特徴とするコンピュータ装置。
JP52021898A 1996-10-30 1997-09-03 カーソル制御装置 Expired - Fee Related JP4229244B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GBGB9622556.0A GB9622556D0 (en) 1996-10-30 1996-10-30 Cursor control with user feedback mechanism
GB9622556.0 1996-10-30
PCT/IB1997/001054 WO1998019228A1 (en) 1996-10-30 1997-09-03 Cursor control with user feedback mechanism

Publications (2)

Publication Number Publication Date
JP2000504450A JP2000504450A (ja) 2000-04-11
JP4229244B2 true JP4229244B2 (ja) 2009-02-25

Family

ID=10802148

Family Applications (1)

Application Number Title Priority Date Filing Date
JP52021898A Expired - Fee Related JP4229244B2 (ja) 1996-10-30 1997-09-03 カーソル制御装置

Country Status (7)

Country Link
US (1) US5973689A (ja)
EP (1) EP0882260B1 (ja)
JP (1) JP4229244B2 (ja)
KR (1) KR100502221B1 (ja)
DE (1) DE69724416T2 (ja)
GB (1) GB9622556D0 (ja)
WO (1) WO1998019228A1 (ja)

Families Citing this family (69)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5754023A (en) 1995-10-26 1998-05-19 Cybernet Systems Corporation Gyro-stabilized platforms for force-feedback applications
US5825308A (en) 1996-11-26 1998-10-20 Immersion Human Interface Corporation Force feedback interface having isotonic and isometric functionality
US8508469B1 (en) 1995-12-01 2013-08-13 Immersion Corporation Networked applications including haptic feedback
US6161126A (en) 1995-12-13 2000-12-12 Immersion Corporation Implementing force feedback over the World Wide Web and other computer networks
US6300936B1 (en) 1997-11-14 2001-10-09 Immersion Corporation Force feedback system including multi-tasking graphical host environment and interface device
US6374255B1 (en) * 1996-05-21 2002-04-16 Immersion Corporation Haptic authoring
US6411276B1 (en) 1996-11-13 2002-06-25 Immersion Corporation Hybrid control of haptic feedback for host computer and interface device
US6686911B1 (en) 1996-11-26 2004-02-03 Immersion Corporation Control knob with control modes and force feedback
US6128006A (en) * 1998-03-26 2000-10-03 Immersion Corporation Force feedback mouse wheel and other control wheels
US6292170B1 (en) 1997-04-25 2001-09-18 Immersion Corporation Designing compound force sensations for computer applications
US6285351B1 (en) 1997-04-25 2001-09-04 Immersion Corporation Designing force sensations for computer applications including sounds
US7472047B2 (en) * 1997-05-12 2008-12-30 Immersion Corporation System and method for constraining a graphical hand from penetrating simulated graphical objects
JPH1139135A (ja) * 1997-07-22 1999-02-12 Sanyo Electric Co Ltd カーソル表示装置
US6252579B1 (en) 1997-08-23 2001-06-26 Immersion Corporation Interface device and method for providing enhanced cursor control with force feedback
US6292174B1 (en) 1997-08-23 2001-09-18 Immersion Corporation Enhanced cursor control using limited-workspace force feedback devices
US6243078B1 (en) 1998-06-23 2001-06-05 Immersion Corporation Pointing device with forced feedback button
US6448977B1 (en) * 1997-11-14 2002-09-10 Immersion Corporation Textures and other spatial sensations for a relative haptic interface device
US6252583B1 (en) 1997-11-14 2001-06-26 Immersion Corporation Memory and force output management for a force feedback system
US6211861B1 (en) 1998-06-23 2001-04-03 Immersion Corporation Tactile mouse device
US8020095B2 (en) * 1997-11-14 2011-09-13 Immersion Corporation Force feedback system including multi-tasking graphical host environment
US6219034B1 (en) * 1998-02-23 2001-04-17 Kristofer E. Elbing Tactile computer interface
US6184868B1 (en) 1998-09-17 2001-02-06 Immersion Corp. Haptic feedback control devices
US6707443B2 (en) 1998-06-23 2004-03-16 Immersion Corporation Haptic trackball device
US6697043B1 (en) 1999-12-21 2004-02-24 Immersion Corporation Haptic interface device and actuator assembly providing linear haptic sensations
US6429846B2 (en) 1998-06-23 2002-08-06 Immersion Corporation Haptic feedback for touchpads and other touch controls
US6411280B1 (en) * 1998-07-31 2002-06-25 Koninklijke Philips Electronics N.V. Input device generating tactual cues
US6373463B1 (en) * 1998-10-14 2002-04-16 Honeywell International Inc. Cursor control system with tactile feedback
US6424356B2 (en) 1999-05-05 2002-07-23 Immersion Corporation Command of force sensations in a forceback system using force effect suites
DE20080209U1 (de) 1999-09-28 2001-08-09 Immersion Corp Steuerung von haptischen Empfindungen für Schnittstellenvorrichtungen mit Vibrotaktiler Rückkopplung
US6693626B1 (en) 1999-12-07 2004-02-17 Immersion Corporation Haptic feedback using a keyboard device
US6822635B2 (en) 2000-01-19 2004-11-23 Immersion Corporation Haptic interface for laptop computers and other portable devices
US7623114B2 (en) 2001-10-09 2009-11-24 Immersion Corporation Haptic feedback sensations based on audio output from computer devices
US20020171688A1 (en) * 2002-06-12 2002-11-21 Koncelik Lawrence J. Computer mouse with cursor placement device
US8830161B2 (en) 2002-12-08 2014-09-09 Immersion Corporation Methods and systems for providing a virtual touch haptic effect to handheld communication devices
AU2003293449A1 (en) 2002-12-08 2004-06-30 Immersion Corporation Methods and systems for providing a virtual touch haptic effect to handheld communication devices
US8059088B2 (en) 2002-12-08 2011-11-15 Immersion Corporation Methods and systems for providing haptic messaging to handheld communication devices
US7339574B2 (en) * 2003-01-16 2008-03-04 Korean Advanced Institute Of Science And Technology Haptic mouse interface system for providing force and tactile feedbacks to user's fingers and arm
US7280095B2 (en) * 2003-04-30 2007-10-09 Immersion Corporation Hierarchical methods for generating force feedback effects
JP2005044241A (ja) * 2003-07-24 2005-02-17 Nec Corp ポインティングデバイス通知装置および通知方法
FR2860308B1 (fr) * 2003-09-26 2006-01-13 Inst Nat Rech Inf Automat Modulation de position de curseur dans les donnees video pour ecran d'ordinateur
US7982711B2 (en) * 2003-12-19 2011-07-19 Immersion Corporation Haptic profiling system and method
US7742036B2 (en) 2003-12-22 2010-06-22 Immersion Corporation System and method for controlling haptic devices having multiple operational modes
US7667687B2 (en) * 2003-12-30 2010-02-23 Immersion Corporation Resistive and hybrid control schemes for haptic feedback interface devices
US20050227217A1 (en) * 2004-03-31 2005-10-13 Wilson Andrew D Template matching on interactive surface
US7394459B2 (en) * 2004-04-29 2008-07-01 Microsoft Corporation Interaction between objects and a virtual environment display
US7787706B2 (en) * 2004-06-14 2010-08-31 Microsoft Corporation Method for controlling an intensity of an infrared source used to detect objects adjacent to an interactive display surface
US7593593B2 (en) * 2004-06-16 2009-09-22 Microsoft Corporation Method and system for reducing effects of undesired signals in an infrared imaging system
US7636897B2 (en) 2004-11-19 2009-12-22 Microsoft Corporation System and method for property-based focus navigation in a user interface
US7631278B2 (en) * 2004-11-19 2009-12-08 Microsoft Corporation System and method for directional focus navigation
US7911444B2 (en) 2005-08-31 2011-03-22 Microsoft Corporation Input method for surface of interactive display
US8060840B2 (en) * 2005-12-29 2011-11-15 Microsoft Corporation Orientation free user interface
CN104063056B (zh) * 2006-04-06 2018-04-20 意美森公司 用于增强的触觉效果的系统和方法
US7549132B2 (en) * 2006-04-28 2009-06-16 International Business Machines Corporation Presenting identifiers and states of processes in a stacked cursor
EP2126667B1 (en) 2006-12-27 2020-06-24 Immersion Corporation Virtual detents through vibrotactile feedback
US8451215B2 (en) * 2007-01-12 2013-05-28 Capsom Co., Ltd. Display control device, program for implementing the display control device, and recording medium containing the program
US8212857B2 (en) 2007-01-26 2012-07-03 Microsoft Corporation Alternating light sources to reduce specular reflection
US8167813B2 (en) * 2007-05-17 2012-05-01 Immersion Medical, Inc. Systems and methods for locating a blood vessel
US8156809B2 (en) * 2008-03-27 2012-04-17 Immersion Corporation Systems and methods for resonance detection
EP2321019B1 (en) * 2008-08-11 2019-04-10 Immersion Corporation A haptic enabled gaming peripheral for a musical game
US20100295667A1 (en) * 2009-05-22 2010-11-25 Electronics And Telecommunications Research Institute Motion based pointing apparatus providing haptic feedback and control method thereof
US8875035B2 (en) * 2009-05-29 2014-10-28 Apple Inc. Graphical representation of out-of-bound image selection
US9030305B2 (en) * 2009-12-11 2015-05-12 Gwangju Institute Of Science And Technology Method for expressing haptic information using control information, and system for transmitting haptic information
TWI431516B (zh) * 2011-06-21 2014-03-21 Quanta Comp Inc 觸覺回饋方法及其電子裝置
US9582178B2 (en) 2011-11-07 2017-02-28 Immersion Corporation Systems and methods for multi-pressure interaction on touch-sensitive surfaces
US9569059B2 (en) * 2012-11-01 2017-02-14 Blackberry Limited Reference-point-based static-scale mapping application
US9547366B2 (en) 2013-03-14 2017-01-17 Immersion Corporation Systems and methods for haptic and gesture-driven paper simulation
US20160239085A1 (en) 2015-02-18 2016-08-18 Lenovo (Singapore) Pte, Ltd. Force indication of a boundary
US10691406B2 (en) 2017-02-16 2020-06-23 Microsoft Technology Licensing, Llc. Audio and visual representation of focus movements
US11226690B2 (en) * 2020-04-10 2022-01-18 Dell Products, L.P. Systems and methods for guiding a user with a haptic mouse

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL8602624A (nl) * 1986-10-20 1988-05-16 Oce Nederland Bv Invoerinrichting met taktiele terugkoppeling.
US4752772A (en) * 1987-03-30 1988-06-21 Digital Equipment Corporation Key-embedded Braille display system
JPH07120384B2 (ja) * 1987-12-14 1995-12-20 キヤノン株式会社 パターン読取装置
GB9014130D0 (en) * 1990-06-25 1990-08-15 Hewlett Packard Co User interface
US5270688A (en) * 1990-12-12 1993-12-14 Apple Computer, Inc. Apparatus for generating a cursor or other overlay which contrasts with the background on a computer output display
US5223828A (en) * 1991-08-19 1993-06-29 International Business Machines Corporation Method and system for enabling a blind computer user to handle message boxes in a graphical user interface
US5186629A (en) * 1991-08-22 1993-02-16 International Business Machines Corporation Virtual graphics display capable of presenting icons and windows to the blind computer user and method
DE4140780C2 (de) * 1991-12-06 1995-05-18 Matthias Dipl Ing Goebel Eingabevorrichtung für Bildschirmgeräte mit taktilem Feedback
US5287102A (en) * 1991-12-20 1994-02-15 International Business Machines Corporation Method and system for enabling a blind computer user to locate icons in a graphical user interface
EP0607580A1 (en) * 1993-01-21 1994-07-27 International Business Machines Corporation Tactile feedback mechanism for cursor control
DE4319795A1 (de) * 1993-06-15 1994-01-13 Jochen Dr Guelker Computerbildschirmzeigegerät
JP3236180B2 (ja) * 1994-12-05 2001-12-10 日本電気株式会社 座標指示装置
US5825308A (en) * 1996-11-26 1998-10-20 Immersion Human Interface Corporation Force feedback interface having isotonic and isometric functionality
SE519661C2 (sv) * 1996-02-23 2003-03-25 Immersion Corp Pekdon och förfarande för markering av grafiska detaljer på en display med sensorisk återkoppling vid påträffande av nämnda detalj

Also Published As

Publication number Publication date
GB9622556D0 (en) 1997-01-08
WO1998019228A1 (en) 1998-05-07
KR100502221B1 (ko) 2005-11-28
DE69724416D1 (de) 2003-10-02
DE69724416T2 (de) 2004-06-24
US5973689A (en) 1999-10-26
EP0882260B1 (en) 2003-08-27
EP0882260A1 (en) 1998-12-09
JP2000504450A (ja) 2000-04-11
KR19990076995A (ko) 1999-10-25

Similar Documents

Publication Publication Date Title
JP4229244B2 (ja) カーソル制御装置
JP5548285B2 (ja) 3次元ヒューマンコンピュータインタフェース
US7492362B2 (en) Virtual space rendering/display apparatus and virtual space rendering/display method
AU2001258539A1 (en) Three dimensional human-computer interface
JP2013029958A (ja) 情報処理装置、情報処理方法、及びプログラム
CN109725782B (zh) 一种实现虚拟现实的方法、装置及智能设备、存储介质
EP0360599B1 (en) A video processing system for movement simulation
JP2005527872A (ja) 3次元コンピュータモデルと相互作用するための方法および装置
JP3413145B2 (ja) 仮想空間の編集方法及び仮想空間の編集装置
JP2004362408A (ja) 3次元データ表示操作装置
JP2005078310A (ja) 触覚呈示装置、触覚呈示方法、及びプログラム
JP2000047563A (ja) 物体の把持動作シミュレーション装置
JP2746251B2 (ja) 体感入力装置
JPH07191800A (ja) 空間動作インターフェイス
Chen et al. A 3d mouse for interacting with virtual objects
JPH0997134A (ja) 座標入力装置
JP3196476B2 (ja) Cadシステム用表示ビュー変更装置
CN117427327A (zh) 选择从控制器接收的输入致动信息的解释
KR20230049520A (ko) 가상 현실 공간에 대한 제어를 수행하는 전자 시스템, 전자 장치 및 그 동작 방법
JPH05274421A (ja) カーソル制御装置
JPH05173705A (ja) 3次元モデルの姿勢入力用マウス
JPH07191798A (ja) 入力装置
JPH06138938A (ja) ロボット遠隔操作装置
JPH05204545A (ja) 3次元データ入力装置
JPH08155862A (ja) 回転作業模擬装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040901

A72 Notification of change in name of applicant

Free format text: JAPANESE INTERMEDIATE CODE: A721

Effective date: 20040901

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070724

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20071012

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20071119

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080124

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080311

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080612

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080612

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080710

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081028

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20081029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081126

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131212

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees