JP2003502699A - 電子データ表示システムのための触覚インターフェースシステム - Google Patents

電子データ表示システムのための触覚インターフェースシステム

Info

Publication number
JP2003502699A
JP2003502699A JP2001503585A JP2001503585A JP2003502699A JP 2003502699 A JP2003502699 A JP 2003502699A JP 2001503585 A JP2001503585 A JP 2001503585A JP 2001503585 A JP2001503585 A JP 2001503585A JP 2003502699 A JP2003502699 A JP 2003502699A
Authority
JP
Japan
Prior art keywords
data
display
format
edds
tactile
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001503585A
Other languages
English (en)
Inventor
ロマン ゴウズマン,
イゴール カラシン,
Original Assignee
ヴィアタッチ リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴィアタッチ リミテッド filed Critical ヴィアタッチ リミテッド
Publication of JP2003502699A publication Critical patent/JP2003502699A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03543Mice or pucks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03543Mice or pucks
    • G06F3/03544Mice or pucks having dual sensing arrangement, e.g. two balls or two coils used to track rotation of the pointing device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001Teaching or communicating with blind persons
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001Teaching or communicating with blind persons
    • G09B21/003Teaching or communicating with blind persons using tactile presentation of the information, e.g. Braille displays

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

(57)【要約】 電子データ表示システム(EDDS)は、表示可能なデータの一部分を含む複数のデータフィールド環境(MDFE)を含むシステムと;上記MDFE中に含まれるデータを表示し、上記MDFEの異なる部分から選択されたデータを表示することができる、少なくとも第1のディスプレイおよび第2のディスプレイであって、上記ディスプレイの少なくとも1つは触覚ディスプレイである、ディスプレイと;上記MDFEの第1の部分から、上記第1のディスプレイで表示するためのデータを選択する装置と上記第1の部分と異なるMDFEの第2の部分から、上記第1のディスプレイで表示するためのデータを選択する装置とを含む。

Description

【発明の詳細な説明】
【0001】 (発明の分野) 本発明は概して、電子データ表示システムと共に用いられる触覚インターフェ
ースシステムに関し、特に、複数の環境と共に用いられる触覚インターフェース
システムに関する。
【0002】 (定義) 「電子データ表示システム」(本明細書中、EDDSとも呼ぶ)という用語は
、本明細書およびその特許請求の範囲において、データを電子的に表示する任意
のコンピュータ化されたシステム(例えば、コンピュータディスプレイ、テレコ
ミュニケーションデバイス(例えば、携帯電話、衛星電話、パームデバイス等)
および双方向端末(例えば、現金自動預払機等)を含む)を意味するものとして
用いられる。
【0003】 「複数のデータフィールド環境」(本明細書中、MDFEとも呼ぶ)という用
語は、本明細書およびその特許請求の範囲において、以下のうち任意の異なる選
択部分を意味するために用いられる:1つのソフトウェアアプリケーション中の
1つのウィンドウ;1つのソフトウェアアプリケーションまたは複数のソフトウ
ェアアプリケーションのいずれかにおける複数のウィンドウ環境;マルチタスク
処理環境;および1つのアプリケーション中の複数の相関する層であって、この
層中には、例えば、1つの層が「トップレベルの」ソフトウェアによって生成さ
れた文書であり得、別の層が当該文書に関連するソースデータである、層。この
ようなMDFEは全て、EDDS中に常駐する。
【0004】 「触覚ディスプレイ」(本明細書中、TDとも呼ぶ)という用語は、本明細書
およびその特許請求の範囲において、熱または湿気に基づいた触覚ディスプレイ
と、表面から選択的に格納可能な複数のピンを有するエンボス型の触覚ディスプ
レイとのうち任意の種類のものを意味するものとして用いられる。このような表
示方法について、出願人の「Mouse−Like Input/Output
Device with Display Screen and Meth
od for Its Use」という名称の米国特許第5,912,660号
に記載がある。具体的にエンボス型の触覚ディスプレイを必要とする実施例にお
いて、ETDの頭文字が用いられている。
【0005】 (発明の背景) 従来の技術において、ユーザは、視覚ディスプレイならびにマウスおよびキー
ボード(これらは、ナビゲーションデバイスおよびデータ選択/入力デバイスと
して機能する)を用いることによってMDFEとインターフェースをとる。視覚
障害者がコンピュータディスプレイとのインターフェースをとるシステムは、当
該分野において公知である(例えば、Hasserらに付与された、「Tact
ile Graphics Display」という名称の米国特許第5,73
6,978号)。しかし、視覚に障害を持つユーザがMDFEとのインターフェ
ースをとることを可能にするシステムは存在しない。
【0006】 (発明の要旨) 本発明は、複数の環境(MDFE)で用いられる触覚インターフェースシステ
ム(TIS)を提供するものである。上記TISは、複数の触覚ディスプレイを
有する。上記複数の触覚ディスプレイを用いて、視覚認知の代替または補完およ
び他のデータインターフェース(例えば、音響およびモータ)の補完を行い、こ
れにより、ユーザにとって利用可能なデータ入力/出力オプションを増やすこと
が可能である。
【0007】 従って、本発明のTISは、視覚に障害を持つユーザ(例えば、盲人のユーザ
、聾者のユーザ、唖者のユーザ)によって用いられる任意のEDDSに対するア
クセスおよび相互作用を最大化することを意図するものであり、適切な場合、本
システムはまた、視覚を有するユーザによる使用も意図したものであり、EDD
Sとのさらなる次元での相互作用(すなわち、触覚による相互作用)を提供する
。これは、往々にして当該分野において視覚障害者だけの限定的なものであると
見なされている。
【0008】 従って、本発明の好適な実施形態によって、電子データ表示システム(EDD
S)が提供される。上記電子データ表示システム(EDDS)は、以下を含む。
表示可能なデータの一部を含む複数のデータフィールド環境(MDFE)を含む
コンピュータシステム;上記MDFE中に含まれたデータを表示し、上記MDF
Eの異なる部分から選択されたデータを表示することが可能な2つ以上のディス
プレイであって、上記ディスプレイの1つ以上は触覚ディスプレイである、2つ
以上のディスプレイ;上記MDFEの異なる部分からデータを、上記2つ以上の
ディスプレイによって表示するために選択する2つ以上のデータ選択装置。
【0009】 さらに、本発明の好適な実施形態によれば、上記ディスプレイのうち2つ以上
は触覚ディスプレイである。
【0010】 さらに、本発明の好適な実施形態によれば、本システムはまた、コンピュータ
システムおよび上記ディスプレイのうち1つ以上と関連付けられた2つ以上の選
択器デバイスも含み、これらの選択器デバイスは、上記コンピュータシステム中
へのコマンドの入力を、上記MDFEの選択された部分と関連してイネーブルす
る。
【0011】 本発明の別の好適な実施形態によれば、電子データ表示システム(EDDS)
が提供される。上記電子データ表示システム(EDDS)は、以下を含む。表示
可能なデータの一部を含む複数のデータフィールド環境(MDFE)を含むコン
ピュータシステム;上記MDFEに含まれるデータを表示する1つ以上の触覚デ
ィスプレイ;上記1つ以上の触覚ディスプレイによって表示するためのデータを
上記MDFEの第1の選択された部分から選択する第1の可動ナビゲーションデ
バイス;および上記1つ以上の触覚ディスプレイによって表示するためのデータ
を、上記第1の選択された部分とは異なる上記MDFEの第2の選択された部分
から選択し、上記第1のナビゲーションデバイスと同時に用いられる第2の可動
ナビゲーションデバイス。
【0012】 さらに、本発明の好適な実施形態によれば、上記ナビゲーションデバイスのう
ち1つ以上は、上記コンピュータシステムへのコマンドの入力を上記MDFEの
選択された部分と関連してイネーブルする選択器デバイスと関連する。
【0013】 本発明のさらなる好適な実施形態によれば、可動カーソルを用いて、コンピュ
ータ画面ディスプレイ上に視覚的に表示可能なデータへのアクセスを有するコン
ピュータと通信するインターフェースデバイスが提供される。上記インターフェ
ースデバイスは、以下を含む。ナビゲーションデバイスであって、ハウジングと
、上記ハウジングの裏面に隣接する平面上の初期位置に対する上記ハウジングの
位置を感知する装置であって、上記ナビゲーションデバイスは、上記ハウジング
の裏面に沿って移動する、装置、とを有するナビゲーションデバイス;上記ハウ
ジングと関連付けられて構成された1つ以上の触覚ディスプレイであって、位置
のアレイにおいて複数の触覚による別個の部分を規定し、上記コンピュータに格
納され、上記画面ディスプレイ上の位置において視覚的に表示される情報に対応
する選択情報の触覚表現を提供するように動作し、上記ナビゲーションデバイス
を移動させることにより上記カーソルを上記画面ディスプレイ上の位置に移動さ
せることができ、上記複数の触覚による別個の部分は、上記カーソル位置を表す
基準点を含む、1つ以上の触覚ディスプレイ;上記コンピュータへのコマンドの
入力をイネーブルする選択器デバイスであって、上記イネーブルは、上記基準点
の上記位置に対応し、上記1つ以上の触覚ディスプレイによって表示される上記
画面ディスプレイの上記選択された部分と関連して行なわれる、選択器デバイス
;および上記感知された位置を上記コンピュータに提供し、上記コンピュータに
格納されたデータに対応するコンピュータ信号からの受信を行い、上記触覚によ
る別個の部分を所定の様式で活性化させて上記格納されたデータを表示する、装
置。
【0014】 さらに、本発明の好適な実施形態によれば、上記1つ以上の触覚ディスプレイ
の上記ハウジングに対する位置を選択的に調節する装置も提供される。
【0015】 さらに、本発明の好適な実施形態によれば、可動カーソルを用いてコンピュー
タ画面ディスプレイ上に視覚的に表示可能なデータへのアクセスを有するコンピ
ュータと通信する触覚ディスプレイシステムがさらに提供される。上記システム
は、以下を含む。ナビゲーションデバイスであって、可動ハウジングと、上記ハ
ウジングの初期位置に対する上記ハウジングの位置を感知する装置と、上記感知
された位置を上記コンピュータに提供し、それに応じて上記カーソルを移動させ
る電子回路とを含むナビゲーションデバイス;位置のアレイにおいて複数の触覚
による別個の部分を規定し、上記コンピュータに格納され、上記画面ディスプレ
イの位置上に視覚的に表示される情報に対応する選択情報の触覚による表現を提
供するように動作し、上記ナビゲーションデバイスを移動させることによって上
記画面ディスプレイに亘って上記カーソルを移動させることができる、1つ以上
の触覚ディスプレイ;上記コンピュータに格納されたデータに対応するコンピュ
ータ信号からの受信を行い、上記触覚による別個の部分を所定の様式で活性化さ
せて、上記格納データを表示する装置;および上記カーソルの位置において表示
されたデータの種類を区別(distinguish)し、それに応じて上記1
つ以上の触覚ディスプレイを動作させるソフトウェア。
【0016】 さらに、本発明の好適な実施形態によれば、上記区別および動作を行なわせる
ソフトウェアは、以下を含む。上記カーソルの位置において表示されるデータの
タイプを決定し、上記データを第1のタイプまたは第2のタイプとして分類する
ためのサブルーチン;上記カーソルの位置において表示された上記データを抽出
するためのサブルーチン;および上記決定されたデータのタイプに従って上記抽
出されたデータを変換するサブルーチン。上記システムはまた、上記触覚による
別個の部分を活性化させる装置に上記変換されたデータを送信する装置も含む。
【0017】 さらに、本発明の好適な実施形態によれば、上記抽出されたデータを複数の予
め決定されたフォーマットから選択されたフォーマットで表示するためにフォー
マットするコマンドを入力するための選択器デバイスも提供される。上記フォー
マットは以下の種類のうち任意のものである。
【0018】 色フォーマット; 影付きフォーマット; グラフィックフォーマット; テキストフォーマット; フォントフォーマット; 1対1の2次元のジオメトリフォーマット; サイズ変更、スケーリングフォーマット; 形態学的フォーマット; 画像拡張フォーマット;および テキスト実行フォーマット。
【0019】 さらに、本発明の好適な実施形態によれば、上記ディスプレイ可能なデータは
テキストおよびグラフィックデータを含み、上記決定サブルーチンは、上記カー
ソルの位置において表示されたデータがテキストまたはグラフィックであるかを
決定するように動作する。
【0020】 本発明のさらなる好適な実施形態によれば、電子データを表示する方法が提供
される。上記方法は、以下の工程を含む。
【0021】 表示するためのデータを含む複数のデータフィールド環境(MDFE)をコン
ピュータ中に格納する工程; 上記MDFEの異なる部分に格納されたデータの2つ以上の異なる部分を表示
するために選択する工程;および 上記データの異なる部分の1つ以上を触覚による出力として表示するために提
供する工程。
【0022】 さらに、本発明の好適な実施形態によれば、上記触覚による出力として提供す
る工程は、上記データの異なる部分の2つ以上を触覚による出力として表示する
ために提供する工程を含む。
【0023】 さらに、本発明の好適な実施形態によれば、上記方法はまた、上記ディスプレ
イデータと関連付けられたコマンドを入力データとして上記コンピュータに提供
する工程も含む。
【0024】 また、本発明の上記方法のさらなる好適な実施形態によれば、手動による移動
が可能なナビゲーションデバイスによって、画面ディスプレイおよび可動カーソ
ルを有するコンピュータとのインターフェースをとる方法も提供される。上記方
法は、以下の工程を含む。
【0025】 上記ナビゲーションデバイスの自身の初期位置に対する位置を感知する工程; 上記感知された位置を上記コンピュータに提供し、それに応じて上記カーソル
を移動させる工程; 上記コンピュータに上記カーソル位置と関連して格納されたデータに対応する
コンピュータ信号からの受信を行う工程; アレイの別個の位置において、上記画面ディスプレイ上の上記カーソルの位置
において視覚的に表示された情報に対応するデータを触覚による出力として表示
する工程;および 上記カーソルの上記位置において表示されたデータのタイプを区別し、上記デ
ータの触覚による表示を提供する工程。
【0026】 さらに、本発明の好適な実施形態によれば、上記区別する工程は、以下のサブ
工程を含む。
【0027】 上記カーソルの上記位置において表示されたデータのタイプを判定し、上記デ
ータを第1のタイプまたは第2のタイプとして分類する工程; 上記カーソルの上記位置において表示されたデータを抽出する工程;および 上記判定されたデータのタイプに従って上記抽出されたデータを変換する工程
。上記方法はまた、触覚ディスプレイのために送信を行う工程も含む。
【0028】 さらに、本発明の好適な実施形態によれば、上記方法はまた、上記抽出された
データを表示のために複数の予め決定されたフォーマットから選択されたフォー
マットにフォーマットする工程も含む。
【0029】 さらに、本発明の好適な実施形態によれば、上記フォーマット工程は、以下か
ら選択されたフォーマットにフォーマットする工程を含む。
【0030】 色フォーマット; 影付きフォーマット; グラフィックフォーマット; テキストフォーマット; フォントフォーマット; 1対1の2次元のジオメトリフォーマット; サイズ変更、スケールリングフォーマット; 形態学的フォーマット; 画像拡張フォーマット;および テキスト実行フォーマット。
【0031】 さらに、本発明の好適な実施形態によれば、上記ディスプレイ可能なデータは
、テキストおよびグラフィックデータを含み、上記判定を行うサブ工程は、上記
カーソルの上記位置において表示されたデータがテキストまたはグラフィックの
いずれかであるかを判定する工程を含む。
【0032】 (発明の詳細な説明) 本発明は、以下の詳細な記述を図面と共に読めば、より深く理解され、認識さ
れ得る。
【0033】 先ず図1を参照して、従来技術によるシステムが図示されている。図1におい
て、EDDS(例えば、コンピュータ)とユーザとの間の相互作用は、視覚ディ
スプレイユニット(VDU)(参照符号10)と、ナビゲーションおよびデータ
選択/入力デバイスすなわちマウス(参照符号12)およびキーボード(参照符
号14)と、また通常はマルチメディアシステム(スピーカとして図示、参照符
号16)とを主に通じて容易化される。
【0034】 図示の従来技術のシステムは、コンピュータメモリ18およびデータ処理機能
へのアクセスをユーザに提供する。マウス12および/またはキーボード14は
、ユーザによる必要な情報へのアクセスを容易化し、ユーザによるデータ入力を
さらに容易化する。VDU10およびマルチメディアシステム16は、ユーザが
視覚データおよび音響データを見ることおよび聴くことを可能にする。図示する
ように、このシステムは、ユーザとEDDSとの間の視覚相互作用に大きく依存
するため、視覚障害者には不適切であり、これにより、このような人々にとって
EDDSは実質的にアクセス不可能となっている。
【0035】 多くの視覚に障害を持つユーザにとって(特に全盲の人にとって)、EDDS
とのデータ交換を行い得る唯一の方法は、触覚ディスプレイ(本明細書中、TD
とも呼ぶ)を介する方法である(このような方法は、例えば、出願人の「Mou
se−Like Input/Output Device with Dis
play Screen and Method for Its Use」と
いう名称の米国特許第5,912,660号中に記載される)。
【0036】 本発明のTIS(触覚インターフェースシステム)は、これまで標準的なパー
ソナルコンピュータシステムにおいて知られていないさらなる相互作用感覚を、
視覚を有するユーザに提供する。それと同時に、本発明は、より重要なことに、
上述したようなEDDSとのデータ交換を実質的に不可能にすることなく、充分
な相互作用感覚を、視覚に障害を持つユーザに提供する。
【0037】 本発明は、触覚を特徴付け、かつ/または触覚を考慮したユニークな特徴に基
づく。この特徴は、以下を含む。
【0038】 ・本発明は、人体の異なる部分に分散させることが可能である。これにより、
ユーザの身体の多くの部分に触覚による知覚を与えて、これにより、異なる種類
の触覚による出力信号をイネーブルして、異なる目的に用いることを可能にする
【0039】 ・触覚は、年齢、健康状態、様々な障害に関係無く、実質的に如何なる人間も
持つものである。盲人、聾者、唖者にとって、触覚は、情報に対する通信および
アクセスを行う唯一の方法である。
【0040】 ・触覚による知覚は、本質的に極めて動的なものである。人体は、殆ど同時に
触覚による知覚を認知して、さらに、静的な接触から生じる触覚による知覚は、
すぐに消滅する。
【0041】 ・触覚を用いて対象物をより良く知るためには、感知機能を担う身体部分(例
えば、指)と、そのような身体部分によって接触される対象物との間での相対的
な横方向の動きを触覚による知覚に付与する必要が往々にしてある。
【0042】 本発明は、触覚による知覚のこれらのユニークな特性を用いて、複数の触覚デ
ィスプレイ(TD)を通じて、EDDSからの(必要に応じて様々なデータ環境
から発生する)様々な種類のデータを表示する。本システムは、1つ以上のナビ
ゲーションデバイス(ND)をTDと共にさらに含む。EDDSと関連付けられ
た1つ以上の選択器デバイス(SD)を介して、様々なパラメータおよび他のデ
ータ入力の選択が提供される。
【0043】 本明細書中に図示および説明するTDは概して、出願人の「Mouse−Li
ke Input/Output Device with Display
Screen and Method for Its Use」という名称の
米国特許第5,912,660号に記載されているものと同様であり得、コンピ
ュータから受信した情報を、触覚によって認知することが可能な形式に変換する
ように動作する。ユーザは、複数の身体部分(例えば、指先、手首、手のひら、
肘、背中等)のうち任意の部分でTDに接触し、情報を認知し、これにより、適
切なEDDSとの相互作用を行うための情報基盤を提供することが可能となる。
【0044】 本発明において用いられる触覚ディスプレイは、位置のアレイにおいて複数の
触覚による別個の部分を規定し、コンピュータ中に格納された選択情報を触覚の
表現を提供するように動作可能である。ここで、「触覚による別個の」部分は、
触覚による知覚をユーザの触覚による認知の範囲内にある複数の別個の位置にお
いて提供する任意の手段である。本出願において、これを達成するための主な手
段は、典型的には高密度の伸展可能なピンディスプレイを用いたエンボス型の触
覚ディスプレイ(ETD)による。このエンボス型の触覚ディスプレイは、薄い
弾性膜で被覆してもしなくてもよい。熱生成手段および湿気生成手段を用いるこ
とにより、所望の種類の触覚ディスプレイも提供され得る。
【0045】 複数のTDを提供すると、それによりデータの表示が容易化される。これによ
り、TDは、これらのTDの1つ以上と同じタイプのデータまたは異なるタイプ
のデータ(例えば、MDFEにおいて見受けられるデータ)となり得る。
【0046】 例示目的のみのために、1つのディスプレイの異なる部分がシステム中の様々
なTDを介して異なる回数にわたってまたは同じ回数にわたってのいずれかで表
示されることを単に意味する均一の情報は、以下の非網羅的リスト中に含まれる
もののうち任意のものであり得る: 様々な種類のグラフィック(例えば、図面、図表、地図、回路図等); ブライユ式コードまたは印刷された記号と共に提示されるテキスト; アニメーション(例えば、ソフトウェアゲーム、アニメ化されたGIFおよび
アプレット;および 警告信号等。
【0047】 ここで図2を参照して、コンピュータ化されたEDDS中に常駐し、本発明の
TISによるアクセスが可能な例示的MDFEが示されている。便宜上、3つの
グループのTDを図示している。典型的には、3つまたは4つのTDを1つのN
Dと統合して1つのTISを構成し、そのTISの異なるTDを用いて、MDF
E中の様々なレベルの種類のデータにアクセスできるようにする。従って、図2
中に図示されているこれらの3つのグループのTDは典型的には、3つまたは4
つの使用中のTDを有する1つのTISを表し、MDFEの異なる部分にアクセ
スする。
【0048】 図面から分かるように、TISを用いて、図示のEDDSとの相互作用を以下
の状況のうちいずれかの状況において行うことが可能である。
【0049】 (1.1つのアプリケーション中の情報の異なる部分の表示) 図中のTDのうち、3つのTD(参照符号TD11、TD12およびTD13)を、
ワード処理プログラム(例えば、Microsoft(登録商標)のWord(
登録商標))の「編集」ボックスからの情報を表示するものとして図示している
【0050】 これらの3つのTDのうち、TD11およびTD13は、同一文書あるいは異なる
文書、さらには1つの段落の異なる部分の段落(すなわち、「段落1」および「
段落2」)からのテキストを表示する。TD12は、同じ編集ボックス中に含まれ
るグラフィック情報「ピクチャ」を表示するために用いられる。
【0051】 (2.異なる種類の情報の異なるレベルのアプリケーションでの表示) 図示されるTDのうち、TD21は、特殊なアプリケーションで実行される生産
工程のシミュレーションのための数学的モデルをグラフィック記述またはテキス
ト記述で表示するものとして例示されている。TD22は、現在のシミュレーショ
ンプロセスに適用されるフィルタのグラフィック記述またはテキスト記述を表示
するものとして図示される。TD23は、シミュレーションプロセスの最中または
終了時に生成された結果をグラフィック表示するものとして図示されている。
【0052】 (3.異なるアプリケーションにおける情報の表示) これは極めて柔軟性に富むモードであるため、ユーザは、任意の選択レベルで
異なるアプリケーションを操作することができる。
【0053】 例示目的のため、TD31は、Microsoft(登録商標)のWord(登
録商標)文書からのグラフィック画像「ピクチャ」の全体または一部を示す;T
32は、Microsoft(登録商標)のWord(登録商標)から選択され
たメニューを示す;TD33は、Microsoft(登録商標)のExcel(
登録商標)から選択されたメニューの内容を表示する;TD34は、さらなるユー
ザアプリケーションにおけるシミュレーション用の数学的モデルのグラフィック
記述またはテキスト記述を表示する。
【0054】 ここで図3を参照して、本発明のTIS(通常、参照符号98で表す)が1つ
以上のNDを含む様子が図示されており、NDは、実質的に上述したように1つ
以上のTDと関連付けられる。各TISは、EDDSからの触覚ディスプレイデ
ータを受信する受信器100と、TISからEDDSにナビゲーションデータお
よび選択データを送信する送信器102とを含む。TISは、EDDSから受信
器100を介して受信したデータを処理するプロセッサ104を含む。プロセッ
サ104は、TDと関連付けられたピンアクチュエータ108を制御するように
動作する制御器106と関連付けられる。1つ以上の選択器デバイス(SD)も
さらに提供され、これらの選択器デバイスは、必要に応じてNDに組み込まれ得
(例えば、ND3)、これらの選択器デバイスを介してコマンドをプロセッサ1
04および送信器102を介してEDDSに提供することができる。
【0055】 好適には、これらのNDは、出願人の「Mouse−Like Input/
Output Device with Display Screen an
d Method for Its Use」という名称の米国特許第5,91
2,660号に記載されているものに類似する。図中に示すように、1つのTI
S中に1つより多いNDならびに/または1つより多いTDおよびSDを提供す
ることが可能であり、これらは、1つのユーザによるか、または、同じEDDS
に共にアクセスする異なるユーザによるかのいずれかに用いられる。
【0056】 本発明のTIS 98はまた、ソフトウェアも含む。ソフトウェアは好適には
2つの主要部分を含み、一方の部分は、TIS 98のプロセッサ104のメモ
リ(図示せず)中に常駐し、様々な機能のためのソフトウェアを含む。ソフトウ
ェアの一例を以下に挙げる。
【0057】 1.TISとEDDSとの間のインターフェース化。
【0058】 2.NDおよびSDからの情報の収集。
【0059】 3.EDDSに送られる情報パッケージの作成。
【0060】 4.EDDSから受信された情報パッケージの復号化。
【0061】 5.TDを構成する触覚によるピンアレイ(図示せず)の活性化のための制御
器(単数または複数)106用のコマンドの作成。
【0062】 また、EDDSのメモリ中に常駐する一組のソフトウェアアプリケーションも
提供される。これらのアプリケーションは、様々な機能を行うように動作する。
機能の一例を以下に挙げる。
【0063】 1.EDDSとTISとの間のインターフェース化。
【0064】 2.TIS送信器102から受信されたデータの復号化および処理。
【0065】 3.EDDS中での必要な情報の検索その情報の表示ドライバへの送信。
【0066】 4.1つ以上の必要な視覚的フォーマット、触覚的フォーマットまたは音響フ
ォーマットでの出力用の情報の変換。
【0067】 5.TIS 98の受信器100への送信用の情報の作成。
【0068】 TISと、様々な標準的アプリケーション(例えば、インターネットブラウザ
プログラム、ワードプロセッサプログラムおよびグラフィックプログラム、なら
びに(触覚による出力、触覚によるコンピュータゲーム、および触覚による出力
チャネルを有するゲームを用いた)教育プログラム)との間のインターフェース
をとる。
【0069】 ここで図4を簡潔に参照して、このようにして、ユーザが本発明によるTIS
を1つ以上備えていれば、図1に関連して上記にて図示および説明したような情
報に加えて(またはそのような情報の代わりに)EDDS情報にアクセスするこ
とが可能となることが理解される。図示のように、本システムは、上述の従来技
術のシステムまたはその一部分を含むが、TIS 98を1つ以上追加すれば、
実質的に図2と関連して上記にて図示および説明した通り、EDDS中において
動作するMDFEの一部分にアクセスすることが可能となる。
【0070】 図示のシステムの利用状態は、視覚に障害を持つユーザにとって、それぞれが
(好適には複数のTDを有する)NDを有する1つ以上のTIS 98が、実質
的にVDU10を代替し、VDUのみを用いる視覚を有するユーザには通常利用
不可能なMDFE部分に同時にアクセスすることを潜在的に可能にする点を除い
て、従来技術システムの利用状態と類似する。あるいは、視覚を有するユーザに
とって、VDU10を介して受信した視覚ディスプレイがより快適となり、TI
S 98は、(特に警告信号に関して)EDDSとのさらなるレベルでのインタ
ーフェース化を提供することができる。
【0071】 さらに、本発明のTISを用いれば、典型的には産業デザイナーおよびエンジ
ニアリングデザイナーならびにインターネットベンダーにとって、テキストデー
タファイルまたは触覚によるデータファイルのダウンロードが可能となり、これ
により、今までは通常不可能であったさらなる次元が可能となる。
【0072】 ここで、図3および図4を参照して、本発明のシステムの動作について説明す
る。
【0073】 1つ以上のTISは、EDDSから情報を受信し、この情報は、TD(図3)
によって表示され、その後、ユーザは、適切なND(図3)を2次元空間または
3次元空間のいずれかに移動させて、利用可能な情報のうち次の所望のセグメン
トを待機または検索する。また、適切なSD(図3)も所望に用いて、適切なコ
マンドまたはメッセージを入力する。
【0074】 出願人の米国特許第5,912,660号に記載されるように、1つ以上のN
D(図3)の絶対座標または相対座標を、TIS 98のプロセッサ104に送
る。次いで、プロセッサ104中において、この座標データを、ユーザによって
1つ以上のSD(図3)を介して入力された信号データと組み合わせて、所定の
プロトコルに従ってメッセージを構築する。ついで、このメッセージを送信器1
02(図3)を介してEDDSへと送信する。
【0075】 次いで、EDDSは、メッセージ中に含まれているデータを処理し、TDによ
る表示用の任意のリクエストデータまたは追加データをTD(図3)に送る。必
要に応じて、このデータは、VDU10上にも表示され得る。
【0076】 TDは、上述したように、NDと一体型デバイスに形成される。しかし、本発
明の1つの実施形態によれば、これは必ずしも必要でないため、1つのTD(例
えば、グラフィック表示用に使用可能なTD)をSDと共にND上に取り付けて
、出願人の米国特許第5,912,660号に記載されるような一般的構成をと
らせる一方で、固定された第2のTDを、ユーザの別の手のための表示として機
能させ、必要に応じてさらなるSDと関連付け得、これを特にテキスト文字(例
えば、文字および数字)の表示用として提供してもよい。これらの文字は、ND
の位置および/または配向に応じて、または、SDを介した所定のコマンドの選
択結果に応じて変化することは明らかである。
【0077】 第3のTDは、例えば、腕または指を置く場所として構成され得、警告の機能
のみを行い得る。警告表示は、1つ以上のピンを瞬間的または定期的に延伸させ
ることにより行う。
【0078】 第4のTDは、例えばユーザの背中に触覚によって関連付けられた場所に取り
付けられるものとして構成され得、グリッドを有し得る。このグリッドは、矩形
または他の任意の好適な形状の移動ピンでよく、その間隔は例えば20〜30m
mである。このTDは、3次元領域の一部分としてまたはユーザの背後にまで延
伸し得る画像として特に有用であり、その場合、ピンの移動は、ユーザの背後に
あるターゲット部分の移動を示し、ユーザの背後にある画像の各セグメントを、
第1のTDを含むNDの位置および配向によって規定する。
【0079】 ここ主に図5A〜5Bを参照して、完全に一体化されたTISおよびその用途
について説明する。このTISは、ここまで説明してきた全ての機能を1つのデ
バイスに組み込んだものであり、適切なソフトウェアと共に用いられることで、
視覚を有するユーザによって使用される場合、今まで使用された従来のマウスお
よびVDUをEDDS(例えば、コンピュータ)で補完するものであり、また、
視覚に障害を持つユーザによる使用の場合、従来のマウスおよびVDUに完全に
代替することを意図する。実質的には、視覚に障害を持つユーザが従来のマウス
およびVDUを必要とし得る唯一の理由は、視覚に障害を持つユーザが持つよう
な触覚鋭敏性を持たない視覚を有するユーザが、同じEDDSを用いることを可
能にするためである。
【0080】 以下の記述は、上記にて規定したようなEDDSの一般性を損なうことなく、
EDDSが任意の種類のMDFEコンピュータである場合に関連する。さらに、
以下の記述において用いられる考慮事項はVDUの使用を含むが、これは、主に
以下に説明する本発明の理解を容易にするためである。
【0081】 以上のことをまとめてみると、完全に一体化されたTIS(本明細書中、以下
、FITISと呼ぶ)に関する以下の記述は、視覚に障害を持つユーザによるF
ITISの使用に関連し、視覚に障害を持つユーザは通常のマウスとVDUとの
間の相互作用によって得られる恩恵を受けられないため、FITISは、有視覚
ユーザがマウスとVDUとの間で共有する情報への唯一のチャンネルとなる。
【0082】 ここで特に図5Aおよび5Bを参照して、FITIS(通常、参照符号200
で表す)は典型的には、2〜5個のETD 202と、EDDSにコマンドを送
るSDとして機能する複数のボタン204と、1つのNDとを含む。ETD 2
02およびSD204は、人間工学的に形成されたハウジング206と関連付け
られて支持され、ハウジング206は、手のひら置き場207を有し、ハウジン
グ206は一般的には、ETD 202およびSD204が全てユーザの指と快
適かつ有用に接触するように配置されるように、構成される。ETD 202は
、ハウジング上に固定位置を有し得るか、あるいは、図7Aおよび7Bに関連し
て以下に図示および説明するように、任意の適切な手段(例えば、調整ねじ20
2’(図7A))を用いて機械的に調節可能でもあり、これにより、ETD 2
02の相対的位置を、ユーザの手との最も快適な適合性が得られるように変更す
ることができる。
【0083】 FITIS 200はまた、自身のハウジング中に、少なくとも1つのセンサ
208(図5B)も含む。図中、このセンサ208を、ハウジングの裏面から突
出しているトラックボールとして例示する。この少なくとも1つのセンサ208
は、位置センサおよび/または配向センサであり得、FITIS 200の2次
元ナビゲーションを支持する。
【0084】 移動面212上でのハウジング206を支持する複数の脚部210(図5B)
も提供され得、これにより、これらの1つ以上のトラックボールは摩擦係合する
が、自身の上にあるFITIS 200を機械的に支持しない。
【0085】 利用時において、有視覚者がマウスを動かす場合と同様の様式で、実質的に図
5c中に図示するように、FITIS 200を平面に沿って移動させる。FI
TIS 200にボールが1つしか無い場合、そのナビゲーション能力は、従来
のコンピュータマウスのナビゲーション能力と同じである(すなわち、任意の特
定の点における2つの座標を、マウスに対する2次元の座標空間において規定す
る)。この点の位置は、ETDの1つのピンに対応し、座標xf、yfを有するい
わゆる基準点となる。
【0086】 ユーザがFITIS 200を動かすと、基準点の座標が変化し、位置センサ
は、新規に感知した位置データを、FITIS 200の一部を構成する図5D
中に示すプロセッサ1104に送る。このデータを、選択器デバイス1113(
図5D)から受信された信号データとともに、プロセッサ1104中に常駐する
適切なソフトウェアを用いて処理し、送信器1102を介してコンピュータ(E
DDS)へと送る。コンピュータメモリ中に常駐するさらなるソフトウェアが、
受信されたデータを復号化し、基準点の座標xf、yfからカーソルの座標xc
cを計算するように動作する。
【0087】 上記の信号データおよび決定されたカーソル座標に応答して、EDDS中に様
々な信号が発生し、これらの信号は、受信器1100および次いでFITIS
200のプロセッサ1104(図5D)へと送られ、特定のETD 202のピ
ンを、制御器1106およびアクチュエータ1108(図5D)を介して選択的
に作動させる際に用いられる。このような信号はそれぞれ、各ピンの変位高さに
関する情報(例えば、実質的に米国特許第5,912,660号に記載のような
情報)を含む。TD202に触って、ユーザは、以下のことができる。
【0088】 ・このようにしてユーザに送信されたデータを受信、吸収および分析すること
【0089】 ・受信したデータに基づいて継続方法を決定すること。
【0090】 ・その後、FITIS 200を新規位置に移動させることおよび/またはボ
タン204の1つを押して所望のコマンドを入力することのいずれかを行うこと
により、FITIS 200を所望に動作させること。
【0091】 このようにして、視覚に障害を持つユーザは、通常は視覚的に表示されるデー
タのごく一部を用いてEDDSからの情報を見て、ユーザの環境中に実際に存在
するあらゆる対象物を触って「知る(see)」場合と同様に、その情報を自身
の脳中で再構築することができる。
【0092】 また、FITIS中には配向センサも提供され得る。配向センサは、図5B中
に例示するように任意に物理的または機械的に実現してよく、さらにはボールセ
ンサ(参照符号208)でもよい。これにより、第3の自由度をFITISの動
きに与える。本明細書中、これを「FITIS3」と呼ぶ。
【0093】 FITIS3は、上記のFITIS 200に相当し、FITISの動きは、
FITISの位置および配向の出力を生成し、この出力は、SD204を介して
入力されたコマンドと共にEDDSへと送られる。FITIS3の位置は、上記
のような基準点の座標によって、予め決定された(典型的には水平方向の)軸に
対するFITIS3の回転角度と共に決定される。この基準点の機能は、上記の
2つの座標FITISについて述べた内容と、米国特許第5,912,660号
に述べた内容と実質的に同じである。FITIS3とコンピュータディスプレイ
から受信される情報との間のジオメトリの対応性は、一般的には、本明細書中に
後述する図18に関連して説明する通りである。
【0094】 ここで簡潔に図6Aおよび6Bを参照して、ETD 202のピン構成の様々
な可能な代替例のうちの2つが図示されている。図6Aにおいて、ETD 20
2’は、ピン214を44本有するように構成した様子が図示されている。この
構成は、指先が比較的太い場合(例えば、成人男性の指の場合)に適切であり得
る。図6Bにおいて、ETD 202”は、ピン214をより少なく40本で構
成した様子が図示されている。この構成は、指先が細い場合(例えば、成人女性
または子供の指先の場合)に適切であり得る。他のサイズの構成も必要に応じて
(例えば、極めて小さな子供の場合)構成可能であることは明らかである。
【0095】 ピン構成が概して楕円形を描き、これにより、指先部分が平面を押して平面と
接触する際にその指先の形状とほぼ整合するようにすると、特に好適である。
【0096】 隣接するピン214間の距離「D」は、例えば、グラフィック認識に必要な解
像度およびETD全体のサイズによって異なる。そのため、図6A中に図示する
ようにETD 202’が大きい場合、ピン214間の距離DAは好適には、1
.5〜1.6mmである;一方、図6B中に示すようにETD 202”が小さ
い場合、ピン214間の距離DBは好適には1.1〜1.2mmである。これら
の間隔付けはどちらとも、グラフィックデータの触覚認識を可能にする解像度を
提供し、テキストをブライユ点字で読むことを確実に可能にする。多数のピンが
提供される場合を考慮すると、全てのピンをテキスト表示用に用いることは必ず
しも必要無く、図15Aおよび図15Bに関連して以下に説明するように、さら
なる情報をテキストの表示と並行して表示してもよい。
【0097】 ここで図7Aを参照して、一対のETD202が図示されている。ETD20
2は、任意の適切な手段(本明細書中では、簡単な調整ねじ202’として図示
)によって互いに移動可能である。
【0098】 ここで図7Bを参照して、図5Aおよび図5B中に図示したように3つのET
D202をFITIS 200のハウジング206に取り付けて構成した代表的
構成が図示されている。ETD202がより小さく、それぞれが40本のピンを
有する様子が図示されている。しかし、この図示は例示目的のみのためである。
図示のように、3つのETD202(図面中、左側(ETDL)、中央部(ET
DM)および右側(ETDR)としても特定される)の構成は、ユーザの手が通
常ハウジング206(図5Aおよび図5B)上の平面上に置かれたときに、ユー
ザの指先の相対位置とほぼ整合するようにされる。図示されるように、ETDM
は、典型的には最も長い指、中指と係合し、他の2つのETDよりも距離Hmだ
け手のひら置き場207からさらに離れた場所に配置される。
【0099】 上述したように、ETD202は可動であり、これにより、ETD202間の
間隔(寸法Hm、D1およびD2で図示)を調節することができる。
【0100】 使用前、ピン214の1つが、ユーザによってFITIS 200の基準点(
図7B中、Xとして図示)として選択される。本明細書中、以下においてこれに
ついて図9と関連して説明する。ユーザがFITIS 200を移動面212に
沿って動かすと、基準点Xはデバイスと共に移動する。
【0101】 ここで図8を参照して、3つのETD間において情報配信(IDP)をGRA
PHIC MODEで動作させる際の原理について説明する。実質的には、これ
は、1つのFITISの3つ以上のETDを用いて視覚的に表示される情報を表
示することができる様々なオプションを伴う。視覚ディスプレイは、以下の様式
のうち任意のものを用いて行なわれる。
【0102】 1.ETDの実際の相対位置に正確に対応した様式。
【0103】 2.ETDの相対位置に対応しない選択された構成。
【0104】 3.ETDの相対位置に対応せず、かつ、異なる寸法(画素領域)の領域を表
す位置で、異なるETD上の異なる解像度で表示を行う様式。
【0105】 これらの3つの場合は図8中に図示されており、図8において、GRAPHI
C MODEの場合、VDU220上に表示されるソース画像の部分A、Bおよ
びC間の各対応関係と、これらの部分を表示する宛先ETDとを矢印で図示する
。各ETDを3つの桁で識別して、文字数識別コードを有する矢印と共に、各E
TDによって表示される視覚ディスプレイの部分を容易化する。
【0106】 第1の実施例において、矢印A1、B2、C3は、コンピュータディスプレイ
上のソース矩形A、B、Cのジオメトリ的位置決めを示す。これらの位置は、F
ITIS 200上のETDのジオメトリ位置決めと完全に対応する。ソース画
像の左側部分AはETDLに送られ、中央部分BはETDMに送られ、ソース画
像の右側部分CはETDRにに送られる。
【0107】 第2の実施例において、対応関係は矢印D4、E5およびF6によって示され
る。ソース矩形D、EおよびFが配置されている様子が図示されている。これら
のソース矩形D、EおよびFは、自身の中指をわずかに曲げて自身の指先を互い
に並列させて物に触ることを望み得る盲人ユーザにとってより簡便である。
【0108】 第3の実施例において、対応関係は矢印G7、H8およびI9によって示され
、配置およびスケール寸法はどちらともユーザによって選択され、これにより、
ユーザは、VDUの異なる部分のデータを認識する(observe)ことがで
きる。これは、図2に関連して上述したようなMDFEの部分にも同様に適用可
能であることは明らかである。さらに、VDU上に表示されない情報からも1つ
以上のソース画像が生成され得る。例えば、ETDL上で表示される画像を、3
次元の対象物の前面から取り出し、ETDM上の表示用の画像を、同じ対象物の
裏面から取り出すことが可能である。
【0109】 動作時において、ユーザは、3つのETDに対応するソース矩形の各位置を(
作業が行なわれる前およびその最中に)選択することができる。典型的には、ソ
ース矩形のこの位置選択を達成するために、コンピュータキーボード(図示せず
)上に予めプログラムされた機能キーが提供される。
【0110】 その後、ユーザは、以下のアクションを行う。
【0111】 1.コンピュータキーボード上のキー(例えば、キーF2)を押して、FIT
IS設定を選択モードに切り換える。その後、音声表示がEDDS(典型的には
コンピュータ)から発生され、ユーザがメニューをスクロールする際に、様々な
利用可能な選択をユーザに知らせる。あるいは、これは、ETDの1つ上の触覚
による出力としても受信され得る。
【0112】 2.キーボード上の矢印キーまたはFITIS 200の1つ以上のSD20
4(図5Aおよび5B)のいずれかを用いて、ユーザは、ETDLおよびETD
Mに対応するソース矩形間の「水平方向の間隔の調節」を選択し、「+」キーを
押すことにより間隔を増加させ、「−」キーを押すことにより間隔を低減させる
【0113】 3.その後、「垂直方向の間隔の調節」(図7中にHmとして図示)および「
ズーム」調節を選択して、選択領域を変更し、よってETDの解像度を変更する
ことができる。ソース矩形のサイズが小さくなるほど、ETD上の解像度は大き
くなる。
【0114】 4.その後、同じプロセスについて反復することが可能な工程2および3を選
択して、ETDLとETDRとの間の垂直方向の間隔を変更することができる。
その後、ETDMおよびETDRの同様の再配置を行ってもよい。
【0115】 GRAPHIC MODEにおいて、画素間の別の「正確」かつ「変換された
」マッピングが存在する。マッピング結果はコンピュータ画面上に表示される一
方、各ETD上のピン214によって表示される。
【0116】 (正確なマッピング) ここで図9を参照して、正確なマッピングの場合、各ピンについて、コンピュ
ータ画面上にソースピクセルが存在する。このような対応関係は、ETD上の基
準点を参照点として用いて規定される。参照点の座標は、コンピュータ画面上の
いわゆる「ホット」ピクセル(HP)を規定する。この「ホットピクセル」は、
通常のコンピュータマウスのカーソルの「ホットポイント」に相当し、グラフィ
ックモードにおいて、そのX座標およびY座標はどちらとも、カーソルの北西方
向の端部の座標よりも1ピクセル分少ない。ユーザは、上記した様式に類似する
様式で「ホットピクセル」の配置をより快適に選択することができる。ホットピ
クセルの位置として、以下の2つの可能な位置を図示している:HPr(これは
、右利きの人が、右手の人指し指をETDに係合させて配置する際に有用であり
得る)およびHPl(これは、左利きの人が、左手の人指し指をETDに係合さ
せて配置する際に有用であり得る)。
【0117】 基準点の位置、およびそれによるホットピクセルの位置は、作業を行う前後に
ユーザによって(例えば、特殊なコマンドをキーボードから送ることにより)選
択され得る。この選択様式が用いられるの可能性が最も高い場合としては、ユー
ザが本発明のシステムに慣れた場合;ユーザが用いる手を変更した場合;ユーザ
が両手利きの場合;または別の人が本システムを用いる場合がある。
【0118】 基準点の選択は、以下の動作順序で行なわれ得る。 1.ユーザがコンピュータキーボード上のキー(例えば、キーF2)を押して、
FITISを設定選択モードに切り換える。その後、音響表示がEDDS(典型
的にはコンピュータ)から発せられ、ユーザがメニューをスクロールする際、ユ
ーザに様々な利用可能な選択肢を伝える。あるいは、これは、ETDの1つの上
の触覚出力としても受信され得る。 2.キーボード上の矢印キーまたはFITIS 200のSD204の1つ(図
5Aおよび5B)のいずれかを用いて、ユーザは、「基準点設定」を選択する。 3.次いで、ユーザは、自身の指をETD上に置いて、「+」キーおよび「−」
キーを用いて、基準点となるピンを選択する。典型的には、「+」キーが押され
るたびに、コンピュータからのFITIS 200へのコマンドが活性化されて
、基準点の前の位置に対応するピンが押し下げられ、同じ縦列中の後続ピンが延
伸または上昇する。縦列中の最終ピンまで来ると、基準点は、次の縦列の開始部
分に右方向に「ジャンプ」する。「−」キーが押されると、基準点の位置は反対
方向に移動する。 4.基準点位置は、選択プロセスを停止するだけで選択される。
【0119】 図9中に示す構成において、各ソース画像部分(SIP)中の最大幅横列の幅
において、左SIP、中央SIPおよび右SIPが図示されている(これらは、
SIPL、SIPMおよびSIPRとしても示される)。これは、各ETDの対
応関係はw1=w2=w3である。
【0120】 様々なSIP中の最長縦列の高さはhfである; 隣接するSIP間のピクセル距離(本明細書、これを「指の間の論理空間」と
もいう)は、d1およびd2である;かつ、 SIPLとSIPMとの間およびSIPRとSIPMとの間の垂直方向のピク
セルオフセット(本明細書中、「中指に対する論理高さ」ともいう)はh1およ
びh2である。
【0121】 本明細書の好適な実施形態によれば、TISは色を表示することもでき、その
場合、ピクセルの色と当該ピクセルに対応するピン高さとの間に対応関係が生じ
る。
【0122】 従来のシステムの場合、コンピュータ画面上のピクセル色はRGBシステムに
従って規定され、このシステムにおいて、rは赤であり、gは緑であり、bは青
である。これらの色成分はそれぞれ、ゼロから(画面の種類およびその設定によ
って規定される値である)値Mcまでの範囲で変化し、これにより、r、gおよ
びbは、0〜Mcの範囲内の整数となる。これらの値の組み合わせを用いて、こ
れらの基本色を混合してさらなる色を作る方法と殆ど同様の方法で、ピクセルの
色を規定することができる。例示目的のため、r=g=b=0である場合、ピク
セルの色は、黒色として認識され得る。しかし、r=g=b=Mcである場合、
ピクセルの色は白色として認識され得、中間値が他の色解釈に割り当てられ得る
【0123】 本発明の実施形態によれば、TD中のピン高さは、以下に説明するアルゴリズ
ムに従ってコンピュータ画面上のピクセル色によって規定される:従って、以下
の式に従って各ピクセルについて色値Cpを計算することができることが理解さ
れる: Cp=(r*δ1+g*δ2+b*δ3)の整数。 ここで、δ1、δ2、δ3は、色重み付けファクターの所定の定数であり、δ1+δ 2 +δ3=1である。
【0124】 従って、Cpは、同じ範囲(すなわち、0〜Mcの範囲)で変化し、黒の場合C p =0であり、白の場合Cp=Mcである。
【0125】 各ピン214は、N個のレベルL1、L2〜LNから選択された異なる高さにお
いて異なる色を表すように動作する。
【0126】 N=2である場合、各ピンは、可能な位置を2つしか持たず、これにより、C p =0または、Mcは、黒(この場合、ピンは上昇)または白(この場合、ピンは
上昇しない)のいずれかである。黒画像および白画像、バイナリ画像の例を図1
0A〜図10Cに示す。これらの画像は実質的には小さな正方形として形成され
、各画像は1ピクセルを表し、黒正方形は対応する上昇ピン(本明細書中、これ
を黒丸で示す)を有し。白正方形は対応する上昇しないピン(本明細書中、白丸
で示す)を有する。
【0127】 N>2である場合、[0、Mc]の範囲を、N個のサブ範囲[mi、mi+1]に
分割することができ、その場合、 i=0、2、...、N; m0=0および mN=Mcである。
【0128】 Cp∈[mi、mi+1]である場合、対応するピンを、i番目の高さレベルでレ
ベリングする。
【0129】 本明細書において用いられるETDにおいて利用可能な色レベルの数を規定す
る際の実用的な考慮事項として、利用可能なレベルの理論的数と、ユーザによっ
て感知され得る触覚定数の程度との間のトレードオフがある。
【0130】 従って本発明によって、好適には少なくとも4つのピンレベルが提供され、特
に感度が高い指先を持つユーザの場合、このレベル数を8つの異なるレベルに増
やしてもよい。
【0131】 色表示に関する上記の説明では例示目的のためにRGBシステムを用いたが、
当業者であれば、上記の説明を多くの異なるレベルの灰色を有し得る白黒画像の
コントラストの高い表示物(例えば、写真)にも用いることが可能であることを
理解する。
【0132】 (マッピング変換) ここで図10Dおよび図10Eを参照して、本発明はまた、画像のサイズ変更
またはズーミングも提供し、その場合、VDU上に表示されるソース画像のスケ
ールは不変であるが、ユーザは、触覚画像を異なるスケールで表示するように選
択することができる。これは、例えば、1つ以上のETD上の画像を1:1のス
ケールで「読んだ」後で、画像を拡大してその特定の小規模な詳細を理解するこ
と、または、ソース画像の当該一部分が画像全体の一部に対して小さ過ぎて当該
一部分を理解するのが困難である場合、ユーザがズーム拡大を選択して、表示さ
れたグラフィック情報の全体的構想を先ず得て、その後、当該画像を再度ズーミ
ングして、当該画像を詳細に調査することができること、のいずれかを決定する
ことにより、行なわれ得る。
【0133】 サイズ変更は、ソースピクセル数Pxと、ETD上の宛先ピン数Pnとの比を
変更することにより、行なわれる。例示目的のため、図10Dでは、ズーム拡大
またはサイズ変更を行い、触覚ディスプレイ画像を1:2に縮小して、これによ
り、ソース画像の縦列および横列の各2ピクセルを、ETDのピンアレイ上に表
示される宛先画像上に1つのピンのみで表す。
【0134】 逆に、図10Eの実施例において、ソース画像の各1つのピクセルを2:1の
比で拡大して、ETD上において各縦列および各横列中で2つのピンで表示する
。これは、詳細部分(例えば、小さなフォントのグラフィックで書かれたテキス
ト、デスクトップおよびツールバー上のアイコン等)を調査する際に有用である
【0135】 また、多くの従来のグラフィックプログラムにおいて公知のように、アスペク
ト比を変更して、縦列と横列との比を互いに変更することができることも理解さ
れる。
【0136】 画像ピンの表示に用いられる様々なピンの高さは好適には、当該分野において
周知の様々な方法(例えば、平均化、拡張、腐食等)によって用いられるソース
ピクセルの色に従って決定される。
【0137】 画像の認識および画像内配向の容易性を高めるためには、サイズ変更および色
表示を盲人にとって利用可能にすることが必要である。サイズ変更および色表示
をリアルタイムの選択肢として利用可能にし、これにより、コンピュータキーボ
ード上のキーまたはFITIS 200上の選択器デバイスボタンが押されると
、上述したような画像変換用途の所定のソフトウェアサブルーチンが活性化され
るようにする必要がある。
【0138】 図10Fは、画像処理の分野において周知の1つの手順(すなわち、エッジ抽
出)の一例を示す。この手順は、盲人用途の画像変換にとって特に有用であり得
る。
【0139】 本発明のTISの用途は、EDDS(例えば、コンピュータ)を視覚に障害を
持つ人のみが使用することを容易化することのみを意図しておらず、本発明のT
ISを用いて、視覚障害者および有視界者が共に作業を行えるようにすることも
可能である。典型的には、このような状況は、例えば参加者が2人必要なコンピ
ュータゲームは勿論のこと、職場または研究が行なわれている場所において、コ
ンピュータを用いてアイディアまたは提案を提示することが望まれる状況を含み
得る。
【0140】 これを行うためには、その目的がおおむねマウスカーソルの目的に類似し、か
つ、有視界パートナーには見えるが盲人ユーザには検出されない特定のカーソル
を提供することが必要であることは明らかである。カーソルをテキスト用に用い
る場合、このカーソルは好適には形状を変化させて、典型的には水平方向の線と
なってFITISに送られる文字数を強調し、水平方向線の動きと同期して移動
する。
【0141】 ここで図11を参照して、カーソルをグラフィック用途に用いる場合、カーソ
ルは本発明の一実施形態による適切なタイプのカーソルであれば任意のカーソル
でよく、グラフィックカーソル(通常参照符号250で示す)が提供され、グラ
フィックカーソルが拡大図として図示されている。このグラフィックカーソルは
、第1の矩形、第2の矩形および第3の矩形(これらの矩形をそれぞれ、参照符
号252、254および256で示す)で形成される。上述したようにカーソル
250がマウス矢印と類似の様式で移動する間、FITIS 200(図5Aお
よび5B)の動きを追跡し、FITISの2次元角度配向の表示をさらに提供す
る。これは、有視界ユーザが視覚障害者ユーザによるVDU上のFITISの動
きを視覚的に追随することを可能にするために明らかに必要である。
【0142】 カーソル250はETD202(図5Aおよび5B)を視覚的に表現したもの
であることを鑑み、またここで図9も参照すると、各カーソル矩形はW×Hの寸
法を有することが理解される。ここで、 W=(wi×Si)であり、 H=(hf×Si)であり、 ここでi=1、2、3であり、 Siは、TDiについて選択されたスケールファクターである。
【0143】 本発明の好適な実施形態によれば、FITIS 200(図5Aおよび5B)
は、テキスト(例えば、ブライユ点字のテキスト)を表示するための、「テキス
ト」モードでも用いられ得る。しかし、ETD 202中のピンはブライユ点字
を表示するために必要な密度よりもずっと高密度であるため、情報を新規な様式
で提示し、同時に、ユーザにさらなる情報を提供することが可能となる。
【0144】 ここで先ず図12を参照して、ETD 202がピン214のほぼ矩形のアレ
イを有する様子が図示されている。この矩形アレイ上には、8本のピン(これら
のピンを影色付きの参照符号214Bで示す)がある。これらのピンは、本発明
の一実施形態に従ってブライユ点字文字を表示するために用いられるピンである
【0145】 しかし、図5Aを簡潔に参照して、3つのETD 202を有するFITIS 200は、一度に3文字しか表示できないことが理解される。従って、テキス
トフローを提供して、視覚障害者が通常「読む」際に用いる方法と同様の方法で
テキスト文字の表示をシフトすることが必要である。
【0146】 このテキストフローは、以下の3種類の異なる様式で活性化され得、どの様式
もユーザによって選択可能である。
【0147】 1.テキストの最初の3文字が触覚ディスプレイされた後、キーボード上のL
EFT(左)矢印ボタンまたはRIGHT(右)矢印ボタンを押すと、それに続
く一連の3文字が触覚ディスプレイされる。このようにして、ユーザは、片方の
手を触覚ディスプレイを「読む」作業に用い、もう片方の手をテキストフローを
制御するのに用いる。
【0148】 2.視覚に障害を持つ人々の中には、両手で−すなわち、2本の人指し指およ
び1本の中指でテキストを読むことを好む人もいる。これを容易化するためには
、予めプログラムされたSD 204(図5Aおよび5B)を用いて、ユーザが
両手をFITIS 200上に置いたままでテキストフローを制御することがで
きるようすることにより、キーボードの矢印キーを用いるのと実質的に同様の様
式で、テキストフローを制御する。
【0149】 3.両腕をブライユ点字テキスト上に載せて移動する様式と同じ様式で本デバ
イスを動かすことを好む盲人の読者のための第3の制御方法において、FITI
S 200を水平方向のみに移動させて、テキスト動作を活性化させる。このモ
ードにおいて、垂直方向の動き成分は好適には、ソフトウェアプログラムによっ
て中和され、読者が誤って別の行にジャンプする事態を防ぐ。
【0150】 上記の3つの制御モードにおける行変更は全て、SD 204(図5Aおよび
5B)のうち予めプログラムされたSDまたは機能キー(例えば、コンピュータ
キーボード上の機能キー)の1つを押すことにより、提供される。
【0151】 上述したように、ブライユ点字文字を表示するために必要なピン214の数は
限られている。従って、各ETD中のピンのうち一部を用いて、他のタイプの情
報を、ブライユ点字文字表示のモードと異なるモードで提供することが可能であ
る。これは、例えば、ピンを異なる高さに延伸させるか、または、ピンを異なる
周波数で振動させることにより、行うことができる。
【0152】 テキスト実行の行の場合、上述したように、FITIS 200のETDを用
いると、文字の出現、消滅および変更が迅速に行なわれる。これは、ユーザに対
していくらかの困難性をもたらし、特に、使用または適応し始めてから日が浅い
ユーザにとってはそうである。しかし、解像度が高く、ETD中のピン密度も高
いため、ブライユ点字に用いられないピンそのものの使用は容易化され、摩擦が
シミュレートされる。典型的には、これは、ピンを振動させながらアクチュエー
トさせて、ランダムなまたは定期的な波動による凹部(impression)
をテキストの動きに対して反対方向に生成することにより、提供される。
【0153】 ここで図13を参照して、定期的波動による摩擦シミュレーションが図示され
ている。図13において、1つのETD 202が7つの状態のシーケンス(こ
れらの状態をそれぞれ、参照符号202a、202b、..、202gで図示す
る)にある様子が図示されている。図13中、「g」の文字を表すブライユ点字
文字は、ブライユ「数」文字で代替される。ブライユ点字を表示するために用い
られるピン214bは、その最大位置まで上昇し、黒丸で示される。波動を提供
するために用いられるピン214hはその最大高さの2/3まで上昇し、水平方
向に黒塗りされた(filled)半円で示される。やはり波動を提供するピン
214vは、その最大高さの1/3まで上昇し、垂直方向に黒塗りされた半円で
示される。
【0154】 図示されるシーケンスから、最初にETD状態202aにおいて、波動が無い
場合、ピン214vまたは214hは表示されず、これは、ETD状態202g
の場合にも当てはまることは明らかである。しかし、ETD状態202bにおい
て、2つのピンの縦列が、別のピンを部分的に上昇させ、次いで、これらのピン
は、ETD状態202c中に示すように(次の縦列中の並列ピンが上昇する間に
)下降する。このプロセスは、ETD状態202b〜202fにおいてずっと行
なわれ、これにより、定期的に移動する波動による凹部を提供する。
【0155】 ピンの動きを不定期にまたはランダムにすることにより生成されるパターンを
用いて、摩擦による凹部を提供してもよいことは明らかである。
【0156】 本発明のさらなる実施形態によれば、ピン作動を用いて摩擦をシミュレートす
る様式は、本発明のシステムをグラフィックモードで動作させる際にも用いるこ
とが可能である。
【0157】 この様式は、グラフィックオブジェクトが不変の特性(例えば、色付きの背景
またはオブジェクトの大部分がグラフィック的に変化しないなど)を有する際に
当該オブジェクトを調査する際に特に有用である。この場合、領域を走査するユ
ーザに触覚はフィードバックされず、ユーザは、方向が分からなくなる。
【0158】 従って、摩擦をシミュレートしてこのような不変の表面のタイプを表す(例え
ば、中間高さピンをランダムに動かす)によってこの問題を解決することが必要
である。
【0159】 とはいえ、ここで図14Aおよび14Bを参照すると、ユーザが不変部分に亘
って移動するにつれて、その代わりに、わずかな勾配が生じ得る。図14Bには
、複数のETD 202が、図5Aおよび5Bと関連して上記にて図示および説
明したような構成で設けられた様子が図示されている。図14Bは、FITIS
カーソル(これを、図14A中のVDU表示上に見受けられる3つの矩形で表す
)が、水平方向の線(参照符号260)−すなわち、図面の右下の角部から見て
図面の左上角部に向かう方向で−画像上を移動する際の、複数のETD 202
のそれぞれの状態の静止フレーム(freeze frame)を示す。ピン2
14vおよび214h(図14B)を選択し、複数の中間レベルのうち1つまで
ランダムに上昇させる。部分的に上昇したピンを示す表記法は、図13中の表記
法と同じである。
【0160】 制御ピン挙動および複数の利用可能なピンレベルを制御する能力が有れば、本
発明のシステムを用いたテキストを読むプロセスが容易化され、ひいては加速化
される。
【0161】 本発明の一実施形態によれば、読む速度を高速化するために本システムの使用
を最適化する方法には、以下のような複数の方法がある。
【0162】 1.ユーザが、上述した4つのレベルから、作業ピンレベルを選択する。これ
は、FITIS 200(図5Aおよび図5B)上のまたはキーボード上のSD
204を係合させ、これにより、EDDSにアクチュエータ108(図3)を
動作させて、作業ピンの動作高さを変更することにより、達成される。
【0163】 2.触覚感知が可能な所定の範囲内で、ピン振動周波数による振動モードを選
択する。公知のように、盲人の読者の中には、通常の紙またはブライユ点字文字
表示物からブライユ点字テキストを読む際、指先でブライユ点字文字周囲を軽く
走査する動作を用いて、その認識を容易化する人もいる。しかし、これは、読む
速度を低速化させる。本発明者は、2つの隣接する高さレベルの間で、低周波数
の振動(典型的には、3−5Hzの範囲)でETD上にブライユ点字文字を形成
するようにピンを振動させると、このような様式で表示された文字を素早く理解
することが容易になり、従って読む速度が速くなることを発見した。
【0164】 ブライユ式コードの問題は、文字が線形であることである。文字が線形である
と、非線形テキスト(例えば、べき乗を含む数学式、下付き文字および上付き文
字を含むテキスト、特殊なフォント(例えば、太字、イタリックおよび下線)を
含む場合等)のブライユ点字符号化を理解するのが大変困難になる。本発明では
、上述したように、ブライユ点字文字自体を表示するために実際に必要なピン数
はわずか8本であるが、典型的には、1つのETD 202中に44本ものピン
を設け、この問題を比較的容易に解決することができる。
【0165】 ここで図15Aおよび図15Bを簡潔に参照して、ETD 204のグループ
はそれぞれ、数字の「2/3」の分数を示す。しかし、図15Aでは、この分数
は、線形様式で(すなわち、2/3と)表示されており、これは、盲人の読者は
、表示物上の「テキスト」が実際に分数であることにすぐには気付かないことを
意味する。しかし、図15Bでは、2本の振動ピン214’を加えて、これらの
振動ピン214’を4段階〜8段階の利用可能なレベルの第2のレベルと第3の
レベルとの間で振動させると、盲人の読者は、表示物が一連の数字ではなく実際
は分数であることにすぐに気付く。これは、有視界読者にとって、2/3という
形式で書かれた式よりも、様式化された形式(すなわち、23)で書かれた式の
方が式の種類を理解しやすいこととおおむね同様のことである。
【0166】 詳細には、隣接文字間の下付き文字および上付き文字の相対レベルを示すため
の振動ピンの8つの代替位置の利用可能性を、下付き文字または上付き文字の不
在を示す振動ピンを提供しない選択肢と共に用いて、文字表示を9つの異なるレ
ベルで行うことができる。
【0167】 ここで図16を参照して、ブライユ点字文字を表示する能力さえも超えて、F
ITIS 200のETD 202は、その高密度なピンにより、4×32の最
小のアレイで、先に文字および他の記号をブライユ点字文字形式に変換する必要
無く、文字および他の記号をその「通常の」印刷形式で表示することができるこ
とが理解される。これを、図16のETDに示す文字A、BおよびCで示す。
【0168】 文字表示に用いられるフォントを調整する選択肢をユーザに与えることにより
、印刷物の文字を接触によって認識する際の問題を解決することが可能である。
フォントは、触覚ピンを活性化させるためのアレイを作成する段階において、所
定のフォント変更表を用いたプログラムによって決定される。ユーザがフォント
を自身が快適に感じるフォントに変更できるようにすれば、この問題は解決する
【0169】 ここで図17を参照して、図中に示すように、4列を越える縦列が必要な文字
(例えば、ラテン文字のMおよびW)を、変更した様式でまたは横向きに表示す
ることができる。
【0170】 上述したように、FITIS 200は、グラフィックモードでもテキストモ
ードでも動作可能である。ほとんどの従来のいわゆる「Windows(登録商
標)」アプリケーションの場合、VDUは、グラフィック情報およびテキスト情
報を複雑に集塊したものである。ユーザが、マウスカーソルを、図面(すなわち
、ビットマップ)からテキストへ、テキストから図面へ、または、異なるウィン
ドウ構成要素(例えば、メニュー、スクロールバー、ツールバー等)間で移動さ
せると、オペレーティングシステムは、カーソルの外観を変更し、これにより、
ユーザがカーソル位置にある情報を素早く理解することが可能となる。これらの
同じオペレーティングシステムコマンドをFITISと共に用いれば、カーソル
位置上のデータに従ってテキストモードとグラフィックモードとの間の自動切換
えを行うことおよび現在の画面の外観についてユーザを支持する感知可能な信号
(典型的には音響メッセージ)を生成することも行なわれる。
【0171】 ここで図23を参照して、ユーザがFITIS 200を新規位置へ移動させ
ると、コンピュータ10は、基準点の新規座標(xf、yf)を受信することが分
かる。コンピュータメモリ中に常駐するソフトウェアプログラムは、(ブロック
251において示すような)FITIS 200のホットポイントの新規座標を
計算する。ブロック252は、ホットポイントの近隣部に図示されている表示デ
ータを分析するためのサブルーチンを示し、一方、ブロック253は、ソース情
報を抽出するためのサブルーチンを示す。
【0172】 ブロック254は、ソース情報によって表現されたデータの種類を判定するた
めのサブルーチンを示す。
【0173】 ソース情報がグラフィックであると判定された場合、そのソース情報は、デー
タ変換サブルーチン256に提供され、データ変換サブルーチン256から、ブ
ロック258に示すように、FITIS 200へと送信されて、TD上に表示
される。
【0174】 ユーザ介入が可能であり、よって、変換のタイプを一連の利用可能な変換(例
えば、正確なマッピングまたは変換マッピング)から選択することができる(図
10A〜10F)。
【0175】 ソース情報がテキスト(すなわち、特定のフォントおよびサイズを有する一連
の文字)であると判定された場合、ユーザは、ブロック256または257のい
ずれかにおいて、ユーザがテキスト中に含まれる情報を読みたいだけなのか(ブ
ロック257)、または、そのテキストを「見」たいのかに応じて、そのテキス
トを変換サブルーチンに「送る」か否かを決定することができる。決定は、以下
の選択肢のうち任意のものから行なわれる。
【0176】 i)グラフィックによる表現(「テキストをグラフィックとして示す」という
コマンドを、選択器デバイスSDから受信する)。この場合、ソース情報は、必
要な変換を行うためにブロック253からブロック256へと移動し、次いで、
「ピン高さを送る」(ブロック258)を通ってFITISへと移動する。 ii)一連の特殊設計された記号(例えば、図12、13、15、16、17と
共に上記にて説明および図示したようなブライユ式コード、印刷文字)。この場
合、ホットポイント近隣からの一連の記号を、ブロック253によって抽出し、
ブロック257に送って、これらの記号を必要な種類に変換し、ブロック258
において、「ピン高さを送る」をFITISに送る。
【0177】 図18を参照して、FITIS 200は、新規位置に移動すると、位置座標
および回転座標をEDDSに送る。常駐型コンピュータプログラムを提供して、
先ず、FITIS 200カーソルのコンピュータ画面上の現在位置(すなわち
、図中に示すようなXc、Ycおよびαc)を計算する。XcおよびYcは、図9に
関連して上記にて図示および説明したようなホットピクセルの座標であり、αc
は線Q2−Q3の関数として計算され、これにより、当該カーソルの最端底部を連
結する。
【0178】 情報がビットマップである場合、プログラムは、以下の計算を行う。 1.矩形カーソルの包絡線を判定する。矩形カーソルの包絡線は、座標および回
転Xc、Yc、αcに従って点Q0123と、現在の画像スケールと、指間の論
理空間(d1、d2)(図9)と、中指の論理高さ(h1、h2)(図9)とによっ
て規定される。 2.X−Y方向に配向された矩形P0123(すなわち、横座標に対して並行
の側部を持つ矩形)を判定し、矩形Q0123を包絡線化する。 3.矩形P0123から、ピクセル色をメモリアレイに抽出する。 4.ファクター(例えば、現在の画像スケール、指と指の間の論理空間d1とd2 ならびに中指の論理高さh1およびh2)に従って、メモリアレイから、矩形A、
BおよびCに対応するピクセルのみの色を抽出する。 5.再スケーリングと、画像処理プロシージャ(但し、ユーザが選択した場合)
と、(例えば、4段階のグレーレベルでの)色変換とを行う。 6.適切なピン作動に関して、適切なコマンドをFITIS 200のプロセッ
サ104、制御器106およびアクチュエータ108(図3)に提供して、FT
D 202が情報を適切に表現できるようにする。
【0179】 しかし、情報がテキストとして認識された場合、プログラムは、先ず、垂直方
向の座標のインクリメントを無くして「現在の」テキスト線を判定し、その後、
そのテキスト線の最終部分まで、Xc(図18)からテキスト記号数NTを計算す
る。
【0180】 NT≧3である場合、ブライユ符号または通常のテキスト文字のいずれかで、
これらの3つのETD上に、カーソル位置を迅速に追随する3つの記号が表示さ
れる。NT<3である場合、線の最終部分までの残りの1文字または2文字が表
示され、表示用の画面文字を有さないETDは、「スペーサ」または「最終線」
文字(例えば、図19中に示す横向きの三角形)を表示するように動作する。
【0181】 システムがテキストモードである場合、上記の計算およびテキスト/記号表示
を繰り返し行う。
【0182】 グラフィックモードとテキストモードとの間での切換えが必要な別の例として
、テキストが図形の一部としてビットマップのテキスト形式で現れる場合がある
。これは、コンピュータディスプレイを触覚によって読む際に特有の問題となり
、有視界ユーザにとっては問題にははらない。なぜならば、テキストが実際にテ
キストであるのかそれともグラフィックであるのかは、テキストを単に読むだけ
であれば、有視界ユーザにとっては関係無いからである。
【0183】 本発明の一実施形態によれば、光学式文字認識アルゴリズムを用いてビットマ
ップからテキストを抽出し、その後、実質的に上述したような様式でこのテキス
トを表示することが可能である。
【0184】 ここでまた図20〜22も参照して、本発明の別の実施形態によって、図3に
関連して上記にて図示および説明したTIS 98の別の実現例が提供される。
これらの図において、一対の相補的に統合された触覚ディスプレイ(CITD)
(通常、参照符号300で示す)が提供される。2つのCITD 300を同時
にそれぞれの手で用いると、多くの盲人ユーザにとって簡便となるだけでなく、
両手を同時に用いることで、その快適性はさらに増す。
【0185】 各CITD 300は、マウス形状のナビゲーションデバイスであり、おおむ
ねFITIS 200(図5Aおよび5B)に類似し、右手用または左手用のい
ずれかの用途に具体的に作製される。従って、左利き用デバイスの様々な部分を
「L」の接尾辞を有する参照符号で示し、右利き用デバイスの様々な部分を「R
」の接尾辞を有する参照符号で示す。同様に、個々のデバイスを、300Lおよ
び300Rとして具体的に参照符号を付ける。
【0186】 本デバイスの追跡機能は、FITIS 200(図5Aおよび5B)について
上記にて図示および説明した機能と実質的に同じであるため、本明細書中、再度
詳しく図示および説明するのは控える。各CITD 300は、自身の表面上に
、ユーザの指が簡便に届く範囲で、第1の触覚ディスプレイおよび第2の触覚デ
ィスプレイ(それぞれ、参照符号302および303として示す)を取り付けて
いる。第1の触覚ディスプレイ302は、高密度のピンによる触覚ディスプレイ
(HTD)であり、図5A〜19に関連して上記にて図示および説明したETD
202のいずれにも、ピン構成の点において類似する。第2の触覚ディスプレ
イ303は、低密度のピンによる触覚ディスプレイ(LTD)であり、少数の触
覚部材305を有する。これらの触覚部材305は、情報または警告信号を提供
するためのものであって、VDU上に表示されるデータを表示するためのもので
はない。触覚部材305は、ピン(例えば、本明細書中において上記にて図示お
よび説明したピン214)または熱信号出力または湿度信号出力をユーザに提供
する他の触覚部材であり得る。また、図示のように、典型的にはCITD 30
0の上面および側面上に選択器デバイス(SD)304も提供される。CITD
300Lおよび300Rは、共通インターフェース(参照符号308)を介し
て、EDDSコンピュータに接続される。インターフェース308は、データを
コンピュータプロセッサに提供する前に2つのCITDからのデータを組み合わ
せるように、あるいは、各CITDからの別個のデータをコンピュータプロセッ
サに提供するように、動作し得ることが理解される。
【0187】 使用時において、CITD 300を共にまたは完全に別個に操作して、ユー
ザが、概して図2に関連して上述したような様式で、MDFEの異なる部分を見
る能力による恩恵を受けることが可能になる。しかし、各CITD 300の各
HTD 302によって表示可能な部分の数は2つしかない。従って、FITI
S 200を用いる場合、FITIS 200用の基準点は1つしかなく、本発
明のこの実施形態では、各CITD 300は別個の基準点を有し、これらの基
準点は別個に判定されなければならない。HTD 302およびLTD 303
用の触覚情報は、FITIS 200について上述したような様式と同様の様式
で生成されるため、本明細書中、再度詳細には説明しない。
【0188】 LTD 303は、グラフィックモードにおいて、画面エッジの接近、異なる
種類のWindows(登録商標)システムオブジェクト(例えば、ボタン、ス
クロールバー、ツールバー、リストボックス、アイコン等)上へのナビゲーショ
ン、活性ウィンドウおよび非活性ウィンドウならびにテキスト行の区別等の場合
において警告信号を提供する際に特に有用である。
【0189】 テキストモードにおいて、一対のHTD 302があると、両手の指を用いる
ことができるため、読む速度を高速化することができ、また、CITD 300
を両方用いて、垂直方向の動きが無くてもテキスト線の位置を保持することがで
きる。さらに、LTD 303の1つを用いてテキスト線の入来終端部を示し、
もう一方のLTD 303を用いて、テキスト線が到達した後のテキスト線の終
端部を実際に識別することができる。
【0190】 本発明のこの実施形態による一対のCITD 300を用いることにより得ら
れる顕著な利点として、上述した情報配信原理(IDP)の特定のさらなる局面
が容易になる点がある。例示目的のため、オブジェクトの非視覚的に表示される
部分に関する情報へのアクセスを可能にする周知の市販のソフトウェアパッケー
ジを挙げると、代表的なパッケージとしては、CorelDraw(登録商標)
、Adobe(登録商標)PhotoShop(登録商標)およびAutoca
d(登録商標)がある。
【0191】 これらのソフトウェアパッケージまたは他の類似のソフトウェアパッケージの
うち任意のものを、本発明の触覚ディスプレイ能力と組み合わせて用いると、オ
ブジェクトの異なる側面の3−D触覚表示を同時に行うことが容易になる。これ
は、FITIS 200の場合においても可能であるが、ユーザの各手が別個の
デバイスを動作させるこの実施形態において特に好都合であることは、明らかで
ある。
【0192】 しかし、3−Dグラフィックオブジェクトを触ることのできる能力は、視覚障
害のユーザにだけにではなく、有視界ユーザにも有用であることが理解される。
【0193】 既に理解されているように、本発明のナビゲーションデバイスは、原則として
基準点に対する位置上で動作する。この基準点は、ユーザによって、デバイスの
任意の絶対位置においてゼロにされ得る。
【0194】 ここで図21を参照して、CITD 300のいくつかの用途において発生し
得るような特定の方向感覚(特に盲人ユーザの方向感覚)の損失を補償するため
に、コンピュータ装置(概して参照符号350で示す)と共に、基準面デバイス
(参照符号352)を提供することができる。基準面デバイスは、境界エレメン
ト356によって境界付けられた平坦な移動面354で形成される。移動面35
4は、VDU 358に対応し、左CITDおよび右CITDをゼロにし得る配
置が容易な参照点を2つ有し、これにより、2つのCITDを、(視覚障害ユー
ザがシステムを用いる際に重要となる)相互参照システムに提供する。好適には
、これらの参照点は、移動面354の左下の点および右下の点(参照符号は36
0Lおよび360R)であり、各CITD 300のHTD 302のホットポ
イント(図20)と、同様の所定の空間関係を有する。特に境界エレメント35
6によって、CITD 300を移動面354の角部に配置する作業が容易化さ
れる。境界エレメント356は典型的には、CITD 300よりも1段高くさ
れたエッジ部分であり、CITD 300と隣接して配置され得る。これらの位
置において、これらの位置にデバイスを配置し、1つ以上の所定のSD 304
を通じて適切な信号入力をコンピュータ362に送ることにより、CITD 3
00をゼロにする。
【0195】 ここで図22を参照して、CITD 300とVDU表示との間の対応関係を
維持する別のシステムが提供される。このシステムは、実質的にX−Yテーブル
の形状であり、レールまたは他のロッド状の「X」取付け部材370を有する。
この「X」取付け部材370上に、CITD 300が取り付けられ、これによ
り、CITD 300のみに沿った平行な動きが、両方向に向かう矢印372で
示すようなX方向で生じる。部材370は、Yガイド上に取り付けられる。Yガ
イドは、任意の種類のサポートでよく、参照符号374で示す。Yガイドは、X
取付け部材370が、両方向に向かう矢印376で示すようにY方向のみにX方
向に対して垂直に移動することを可能にする。
【0196】 CITD 300上にETDをさらに提供することにより、テキスト的にもグ
ラフィック的にも、また複数のデータ環境を操作する能力の観点において、ET
Dの有用性を高めることができることが理解される。
【0197】 当業者であれば、本発明の範囲は、本明細書中の上記記載において単に例示目
的のみのために具体的に図示および説明してきた内容に限定されず、本発明の範
囲は、本明細書中の特許請求の範囲のみによって限定されることが理解される。
【図面の簡単な説明】
【図1】 図1は、従来技術のEDDSの概略を示したものである。
【図2】 図2は、本発明のTISによるアクセスが可能な典型的なMDFEの概略を示
したものである。
【図3】 図3は、本発明の好適な実施形態に従って構築され、動作するTISをブロッ
ク図として示したものである。
【図4】 図4は、本発明による、1つ以上のTISを組み込んだEDDSの概略を示し
たものである。
【図5A】 図5Aは、本発明のさらなる実施形態に従って構築された完全に一体化された
触覚インターフェースシステム(FITIS)の上面図である。
【図5B】 図5Bは、本発明のさらなる実施形態に従って構築された完全に一体化された
触覚インターフェースシステム(FITIS)の側面図である。
【図5C】 図5Cは、位置センサのみを用いた2次元FITISの使用を模式的に示す。
【図5D】 図5Dは、図5Cに示す装置をブロック図として示したものである。
【図6A】 図6Aは、図5Aおよび図5BのFITISにおいて使用可能な、様々に構成
されたエンボス型触覚ディスプレイ(ETD)におけるピン構成の模式図である
【図6B】 図6Bは、図5Aおよび図5BのFITISにおいて使用可能な様々に構成さ
れたエンボス型触覚ディスプレイ(ETD)におけるピン構成の模式図である。
【図7A】 図7Aは、相対位置を調節することが可能な一対のETDを模式的に示したも
のである。
【図7B】 図7Bは、図5Aおよび図5BのFITISのアレイETDの拡大平面図であ
る。
【図8】 図8は、本発明の情報配信原理(IDP)を模式的に示したものである。
【図9】 図9は、VDUに対する触覚ディスプレイのマッピングを模式的に示す。
【図10A】 図10Aは、VDUとETDとの間の対応関係の様々なシナリオを示す。
【図10B】 図10Bは、VDUとETDとの間の対応関係の様々なシナリオを示す。
【図10C】 図10Cは、VDUとETDとの間の対応関係の様々なシナリオを示す。
【図10D】 図10Dは、VDUとETDとの間の対応関係の様々なシナリオを示す。
【図10E】 図10Eは、VDUとETDとの間の対応関係の様々なシナリオを示す。
【図10F】 図10Fは、VDUとETDとの間の対応関係の様々なシナリオを示す。
【図11】 図11は、本発明のシステムとの使用が可能なグラフィックカーソルの模式図
である。
【図12】 図12は、ブライユ点字文字を表示する際に用いられるピンアレイを示す。
【図13】 図13は、ブライユ点字文字を連続的に表示し、摩擦の知覚をシミュレートす
る波動効果(wave effect)を提供する際に用いられ得るピンアレイ
を示す。
【図14A】 図14Aは、カーソルが不変の特性を有するグラフィック対象物上を移動する
際のVDU表示および触覚ディスプレイの動作を示す。
【図14B】 図14Bは、カーソルが不変の特性を有するグラフィック対象物上を移動する
際のVDU表示および触覚ディスプレイの動作を示す。
【図15A】 図15Aは、ブライユ点字の線状形式および様式化された形式での触覚ディス
プレイを示す。
【図15B】 図15Bは、ブライユ点字の線状形式および様式化された形式での触覚ディス
プレイを示す。
【図16】 図16は、本発明の触覚ディスプレイ上の通常のテキストを表示する様子を示
す。
【図17】 図17は、本発明の触覚ディスプレイ上において、側方位置に回転させた通常
のテキストを表示する様子を示す。
【図18】 図18は、グラフィックデータをVDUから抽出する様子を示す。
【図19】 図19は、触覚による形式で表示される可能な端部文字を示し、これは、テキ
スト線の端部を示す。
【図20】 図20は、本発明の別の実施形態に従って動作する、一対の相補性一体型触覚
ディスプレイ(CITD)を示す。
【図21】 図21は、図20のCITDをEDDSと共に用いる様子を示す。EDDSは
基準表面デバイスと関連付けられ、これにより、CITDとEDDSの基準シス
テムとの間の協調が保持される。
【図22】 図22は、図22の基準表面デバイスの代わりに使用されるX−Yテーブル構
築を示す。
【図23】 図23は、表示データをテキストまたはグラフィックとして分析し、このデー
タを触覚による形式でフォーマットおよび表示する様子を示すブロック図である
───────────────────────────────────────────────────── フロントページの続き (81)指定国 EP(AT,BE,CH,CY, DE,DK,ES,FI,FR,GB,GR,IE,I T,LU,MC,NL,PT,SE),OA(BF,BJ ,CF,CG,CI,CM,GA,GN,GW,ML, MR,NE,SN,TD,TG),AP(GH,GM,K E,LS,MW,MZ,SD,SL,SZ,TZ,UG ,ZW),EA(AM,AZ,BY,KG,KZ,MD, RU,TJ,TM),AE,AG,AL,AM,AT, AU,AZ,BA,BB,BG,BR,BY,CA,C H,CN,CR,CU,CZ,DE,DK,DM,DZ ,EE,ES,FI,GB,GD,GE,GH,GM, HR,HU,ID,IL,IN,IS,JP,KE,K G,KP,KR,KZ,LC,LK,LR,LS,LT ,LU,LV,MA,MD,MG,MK,MN,MW, MX,MZ,NO,NZ,PL,PT,RO,RU,S D,SE,SG,SI,SK,SL,TJ,TM,TR ,TT,TZ,UA,UG,US,UZ,VN,YU, ZA,ZW

Claims (13)

    【特許請求の範囲】
  1. 【請求項1】 電子データ表示システム(EDDS)であって、 表示可能なデータの一部を含む複数のデータフィールド環境(MDFE)を含
    むコンピュータシステムと、 該コンピュータシステムと関連付けられた少なくとも第1のデータ選択装置お
    よび第2のデータ選択装置であって、該MDFEの異なる部分からのデータを表
    示のために選択する、少なくとも第1のデータ選択装置および第2のデータ選択
    装置と、 該MDFEに含まれるデータを表示する、少なくとも第1の触覚ディスプレイ
    および第2の触覚ディスプレイであって、該MDFEの異なる部分から選択され
    たデータを同時に表示することが可能な、少なくとも第1の触覚ディスプレイお
    よび第2の触覚ディスプレイと、 該選択された異なる部分のデータを抽出し、該少なくとも第1の触覚ディスプ
    レイおよび第2の触覚ディスプレイによる同時表示のために該抽出データを変換
    するソフトウェアと、 を備えるEDDS。
  2. 【請求項2】 前記コンピュータシステムへのコマンドの入力を、前記MD
    FEの選択された部分と関連付けてイネーブルする少なくとも1つの選択器デバ
    イスを備える、請求項1に記載のEDDS。
  3. 【請求項3】 前記ソフトウェアは、前記抽出データを、変換フォーマット
    の所定の群から選択された少なくとも1つのフォーマットに変換するようにさら
    に動作可能である、請求項1に記載のEDDS。
  4. 【請求項4】 前記変換フォーマットの所定の群は、 色フォーマット; グラフィックフォーマット; 1対1の2次元のジオメトリフォーマット; 回転ジオメトリ変換; サイズ変更、スケーリングフォーマット; 摩擦動きシミュレーションによるグラフィックフォーマット; 画像拡張フォーマット; テキストフォーマット; フォントフォーマット; テキスト実行フォーマット; 摩擦動きシミュレーションによるテキスト実行フォーマット; 下付き文字フォーマットおよび上付き文字フォーマット;ならびに 揺動フォーマットおよび振動フォーマット を含む、請求項3に記載のEDDS。
  5. 【請求項5】 複数のデータフィールド環境(MDFE)を含むコンピュー
    タシステムへのアクセスをユーザに提供する、コンピュータと通信するためのイ
    ンターフェースデバイスであって、該インターフェースデバイスは、 ナビゲーションデバイスであって、 ハウジングと、 該ハウジングの裏面に隣接する平面上の初期位置に対する該ハウジングの位
    置を感知する装置であって、該ナビゲーションデバイスは、該ハウジングの裏面
    に沿って移動する、装置と を含むナビゲーションデバイスと、 該感知された位置を該コンピュータに提供する装置であって、該コンピュータ
    中に格納されたデータに対する該ナビゲーションデバイスの位置を、基準点によ
    って自身の内部に表す、装置と、 該基準点と関連するデータの異なる部分を抽出し、該抽出されたデータを選択
    されたフォーマットに変換するするソフトウェアと、 該ハウジングに取りつけられた少なくとも第1の触覚ディスプレイおよび第2
    の触覚ディスプレイであって、該フォーマットされたデータを受信するように動
    作可能であり、かつ、該データの異なる部分を該選択されたフォーマットで同時
    表示することが可能な、少なくとも第1の触覚ディスプレイおよび第2の触覚デ
    ィスプレイと、 を備える、インターフェースデバイス。
  6. 【請求項6】 前記コンピュータシステム中へのコマンドの入力を前記MD
    FEの選択された部分と関連付けてイネーブルする少なくとも1つの選択器デバ
    イスをさらに備える、請求項5に記載のインターフェースデバイス。
  7. 【請求項7】 前記ハウジングに対して、前記少なくとも第1の触覚ディス
    プレイおよび第2の触覚ディスプレイのうち少なくとも一方の位置を選択的に調
    整する装置も備える、請求項6に記載のインターフェースデバイス。
  8. 【請求項8】 前記ソフトウェアは、前記抽出データを、変換フォーマット
    の所定の群から選択された少なくとも1つのフォーマットに変換するように動作
    可能である、請求項5に記載のインターフェースデバイス。
  9. 【請求項9】 前記変換フォーマットの所定の群は、 色フォーマット; グラフィックフォーマット; 1対1の2次元のジオメトリフォーマット; 回転ジオメトリ変換; サイズ変更、スケーリングフォーマット; 摩擦動きシミュレーションによるグラフィックフォーマット; 画像拡張フォーマット; テキストフォーマット; フォントフォーマット; テキスト実行フォーマット; 摩擦動きシミュレーションによるテキスト実行フォーマット; 下付き文字フォーマットおよび上付き文字フォーマット;ならびに 揺動フォーマットおよび振動フォーマット を含む、 請求項8に記載のインターフェースデバイス。
  10. 【請求項10】 前記ナビゲーションデバイスは、1つの位置センサを含む
    、請求項5に記載のインターフェースデバイス。
  11. 【請求項11】 電子データ表示システム(EDDS)であって 表示可能なデータの一部を含む複数のデータフィールド環境(MDFE)を含
    むコンピュータシステムと、 該MDFEに含まれるデータを表示する少なくとも1つの触覚ディスプレイと
    、 該MDFEの第1の選択された部分から、該少なくとも1つの触覚ディスプレ
    イによって表示するためのデータを選択する第1の可動ナビゲーションデバイス
    と、 該第1のナビゲーションデバイスと同時に用いられる第2の可動ナビゲーショ
    ンデバイスであって、該第1の選択された部分と異なる該MDFEの第2の選択
    された部分から、該少なくとも1つの触覚ディスプレイによって表示するための
    データを選択する、第2の可動ナビゲーションデバイスと、 を備える、電子データ表示システム(EDDS)。
  12. 【請求項12】 前記ナビゲーションデバイスの少なくとも1つは、前記コ
    ンピュータシステムへのコマンドの入力を前記MDFEの選択された部分と関連
    付けてイネーブルする選択器デバイスに関連する、請求項11に記載のEDDS
  13. 【請求項13】 前記ナビゲーションデバイスの少なくとも1つは、1つの
    位置センサを含む、請求項11に記載のEDDS。
JP2001503585A 1999-06-14 2000-06-14 電子データ表示システムのための触覚インターフェースシステム Pending JP2003502699A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US09/332,830 1999-06-14
US09/332,830 US6278441B1 (en) 1997-01-09 1999-06-14 Tactile interface system for electronic data display system
PCT/IL2000/000348 WO2000077591A2 (en) 1999-06-14 2000-06-14 Tactile interface system for electronic data display system

Publications (1)

Publication Number Publication Date
JP2003502699A true JP2003502699A (ja) 2003-01-21

Family

ID=23300042

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001503585A Pending JP2003502699A (ja) 1999-06-14 2000-06-14 電子データ表示システムのための触覚インターフェースシステム

Country Status (6)

Country Link
US (1) US6278441B1 (ja)
EP (1) EP1204907A4 (ja)
JP (1) JP2003502699A (ja)
AU (1) AU5244000A (ja)
CA (1) CA2377283A1 (ja)
WO (1) WO2000077591A2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010128788A (ja) * 2008-11-27 2010-06-10 Mitsubishi Electric Corp 入力装置
JP2014072558A (ja) * 2012-09-27 2014-04-21 Kyocera Corp 携帯端末装置、プログラムおよび情報通知方法
JP2014514785A (ja) * 2010-11-30 2014-06-19 クリーンキーズ・インコーポレイテッド 動的配置オンスクリーンキーボード
WO2020129395A1 (ja) * 2018-12-20 2020-06-25 Necプラットフォームズ株式会社 表示装置及び表示方法
JP2022002129A (ja) * 2020-03-10 2022-01-06 株式会社村田製作所 触力覚情報提示システム

Families Citing this family (113)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7084859B1 (en) * 1992-09-18 2006-08-01 Pryor Timothy R Programmable tactile touch screen displays and man-machine interfaces for improved vehicle instrumentation and telematics
US9513744B2 (en) * 1994-08-15 2016-12-06 Apple Inc. Control systems employing novel physical controls and touch screens
US8228305B2 (en) 1995-06-29 2012-07-24 Apple Inc. Method for providing human input to a computer
US20090273574A1 (en) 1995-06-29 2009-11-05 Pryor Timothy R Programmable tactile touch screen displays and man-machine interfaces for improved vehicle instrumentation and telematics
US6762749B1 (en) * 1997-01-09 2004-07-13 Virtouch Ltd. Tactile interface system for electronic data display system
GB9722766D0 (en) 1997-10-28 1997-12-24 British Telecomm Portable computers
US9239673B2 (en) 1998-01-26 2016-01-19 Apple Inc. Gesturing with a multipoint sensing device
US9292111B2 (en) 1998-01-26 2016-03-22 Apple Inc. Gesturing with a multipoint sensing device
US7614008B2 (en) 2004-07-30 2009-11-03 Apple Inc. Operation of a computer with touch screen interface
US8479122B2 (en) 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
US8482535B2 (en) 1999-11-08 2013-07-09 Apple Inc. Programmable tactile touch screen displays and man-machine interfaces for improved vehicle instrumentation and telematics
US8576199B1 (en) 2000-02-22 2013-11-05 Apple Inc. Computer control systems
US20080122799A1 (en) * 2001-02-22 2008-05-29 Pryor Timothy R Human interfaces for vehicles, homes, and other applications
US6675028B1 (en) * 2000-05-03 2004-01-06 Nokia Mobile Phones, Ltd. Mobile station user interface, and an associated method, for facilitating usage by a visually-impaired user
SE519733C2 (sv) * 2000-07-05 2003-04-01 Olof Lindahl System och förfarande för tolkning av visuell information överför till en person genom taktil inverkan på känselorgan på personens kropp
US8287374B2 (en) * 2000-07-07 2012-10-16 Pryor Timothy R Reconfigurable control displays for games, toys, and other applications
US6377170B1 (en) * 2000-10-04 2002-04-23 Ming Der Chen Signal emitter having a testing device
US20020080111A1 (en) * 2000-12-27 2002-06-27 Lake Adam T. Method and apparatus to input and output haptic data
US20080024463A1 (en) * 2001-02-22 2008-01-31 Timothy Pryor Reconfigurable tactile control display applications
US7111083B2 (en) * 2001-03-30 2006-09-19 Intel Corporation Method and apparatus for use of power switch to control software
US6834373B2 (en) * 2001-04-24 2004-12-21 International Business Machines Corporation System and method for non-visually presenting multi-part information pages using a combination of sonifications and tactile feedback
US6636202B2 (en) * 2001-04-27 2003-10-21 International Business Machines Corporation Interactive tactile display for computer screen
US6502032B1 (en) * 2001-06-25 2002-12-31 The United States Of America As Represented By The Secretary Of The Air Force GPS urban navigation system for the blind
WO2003025886A1 (en) * 2001-09-18 2003-03-27 Research Foundation Of The City University Of New York Tactile graphic-based interactive overlay assembly and computer system for the visually impaired
EP1293950A1 (en) * 2001-09-18 2003-03-19 BRITISH TELECOMMUNICATIONS public limited company Haptic interface
FR2831428B1 (fr) * 2001-10-26 2004-09-03 Univ Compiegne Tech Procede permettant a au moins un utilisateur, notamment un utilisateur aveugle, de percevoir une forme et dispositif pour la mise en oeuvre du procede
WO2003050754A1 (en) * 2001-12-12 2003-06-19 Koninklijke Philips Electronics N.V. Display system with tactile guidance
US6703924B2 (en) * 2001-12-20 2004-03-09 Hewlett-Packard Development Company, L.P. Tactile display apparatus
US20030122775A1 (en) * 2001-12-27 2003-07-03 Ti Raymond A.K.A. Hwei-Ming Apparatus for controlling and selecting display content of a wireless device
US20030128235A1 (en) * 2002-01-10 2003-07-10 International Business Machines Corporation System for associating graphics frames with events and method therefor
US6961048B2 (en) * 2002-01-17 2005-11-01 Sun Microsystems, Inc. Displaying information on keys of a keyboard
JP3733075B2 (ja) * 2002-02-07 2006-01-11 株式会社国際電気通信基礎技術研究所 インタラクション・メディアシステム
US6864878B2 (en) * 2002-03-29 2005-03-08 Xerox Corporation Tactile overlays for screens
US7308314B2 (en) * 2002-06-06 2007-12-11 Advanced Medical Electronics Method and apparatus for sensory substitution, vision prosthesis, or low-vision enhancement utilizing thermal sensing
US6999066B2 (en) * 2002-06-24 2006-02-14 Xerox Corporation System for audible feedback for touch screen displays
US20030234763A1 (en) * 2002-06-24 2003-12-25 Xerox Corporation System and method for audible feedback for touch screen displays
US7958455B2 (en) * 2002-08-01 2011-06-07 Apple Inc. Mode activated scrolling
US7358963B2 (en) 2002-09-09 2008-04-15 Apple Inc. Mouse having an optically-based scrolling feature
US20040051746A1 (en) * 2002-09-13 2004-03-18 Xerox Corporation Embedded control panel for multi-function equipment
US7176898B2 (en) 2002-09-13 2007-02-13 Xerox Corporation Removable control panel for multi-function equipment
US20040090448A1 (en) * 2002-11-08 2004-05-13 Xerox Corporation Screen frame with raised tactile portions
US20040090428A1 (en) * 2002-11-08 2004-05-13 Xerox Corporation Overlays with raised portions for touch-sensitive screens
US20040090427A1 (en) * 2002-11-08 2004-05-13 Xerox Corporation Die-cut overlays for touch-sensitive screens
US7339574B2 (en) * 2003-01-16 2008-03-04 Korean Advanced Institute Of Science And Technology Haptic mouse interface system for providing force and tactile feedbacks to user's fingers and arm
KR100536621B1 (ko) * 2003-10-21 2005-12-14 한국과학기술원 촉감과 역감을 전달하는 마우스 인터페이스 장치
US7321796B2 (en) * 2003-05-01 2008-01-22 California Institute Of Technology Method and system for training a visual prosthesis
US8260428B2 (en) * 2003-05-01 2012-09-04 California Institute Of Technology Method and system for training a visual prosthesis
US7133030B2 (en) * 2003-07-31 2006-11-07 Microsoft Corporation Context sensitive labels for a hardware input device
JP3856774B2 (ja) 2003-08-29 2006-12-13 インターナショナル・ビジネス・マシーンズ・コーポレーション 音声出力装置、情報入力装置、ファイル選択装置、電話機、及びそのプログラムと記録媒体
DE10340188A1 (de) * 2003-09-01 2005-04-07 Siemens Ag Bildschirm mit einer berührungsempfindlichen Bedienoberfläche zur Befehlseingabe
US20050130604A1 (en) * 2003-11-26 2005-06-16 Nokia Corporation Electronic device having a physical configuration that is dependent upon its operational status
CA2460943A1 (en) * 2004-03-16 2005-09-16 Unknown Pocket size computers
JP3873993B2 (ja) * 2004-07-08 2007-01-31 セイコーエプソン株式会社 画像処理装置の画像処理方法、画像処理装置およびプログラム
US8381135B2 (en) 2004-07-30 2013-02-19 Apple Inc. Proximity detector in handheld device
US20060024647A1 (en) * 2004-07-30 2006-02-02 France Telecom Method and apparatus for communicating graphical information to a visually impaired person using haptic feedback
US20100231506A1 (en) * 2004-09-07 2010-09-16 Timothy Pryor Control of appliances, kitchen and home
US20060092177A1 (en) * 2004-10-30 2006-05-04 Gabor Blasko Input method and apparatus using tactile guidance and bi-directional segmented stroke
FR2882881B1 (fr) * 2005-03-01 2015-09-25 Commissariat Energie Atomique Procede et dispositifs de transmission d'informations tactiles
KR100626683B1 (ko) 2005-03-17 2006-09-22 한국과학기술원 촉감전달이 가능한 컴퓨터용 마우스 시스템 및 이를 이용한입체영상의 질감전달 방법
KR100639066B1 (ko) * 2005-07-22 2006-10-30 한국과학기술원 열전달이 가능한 컴퓨터용 마우스 시스템
US8077147B2 (en) 2005-12-30 2011-12-13 Apple Inc. Mouse with optical sensing surface
US8185957B2 (en) * 2006-10-30 2012-05-22 Lexmark International, Inc. Peripheral device
US8743388B2 (en) * 2006-10-31 2014-06-03 Lexmark International, Inc. Access to networked peripheral device for impaired users
US20080144134A1 (en) * 2006-10-31 2008-06-19 Mohamed Nooman Ahmed Supplemental sensory input/output for accessibility
US20080122589A1 (en) * 2006-11-28 2008-05-29 Ivanov Yuri A Tactile Output Device
US7844915B2 (en) 2007-01-07 2010-11-30 Apple Inc. Application programming interfaces for scrolling operations
US8594387B2 (en) * 2007-04-23 2013-11-26 Intel-Ge Care Innovations Llc Text capture and presentation device
DE102007057924B4 (de) 2007-06-14 2010-04-08 Thomas Deharde Verfahren für eine blindengerechte Benutzerschnittstelle zur Navigation und Kontrolle von Computern oder elektronisch- bzw. computergesteuerten Geräten
US9588683B2 (en) 2008-01-04 2017-03-07 Tactus Technology, Inc. Dynamic tactile interface
US8928621B2 (en) 2008-01-04 2015-01-06 Tactus Technology, Inc. User interface system and method
US8154527B2 (en) 2008-01-04 2012-04-10 Tactus Technology User interface system
US8547339B2 (en) 2008-01-04 2013-10-01 Tactus Technology, Inc. System and methods for raised touch screens
US20160187981A1 (en) 2008-01-04 2016-06-30 Tactus Technology, Inc. Manual fluid actuator
US8947383B2 (en) 2008-01-04 2015-02-03 Tactus Technology, Inc. User interface system and method
US9430074B2 (en) 2008-01-04 2016-08-30 Tactus Technology, Inc. Dynamic tactile interface
US9557915B2 (en) 2008-01-04 2017-01-31 Tactus Technology, Inc. Dynamic tactile interface
US8922510B2 (en) 2008-01-04 2014-12-30 Tactus Technology, Inc. User interface system
US9367132B2 (en) 2008-01-04 2016-06-14 Tactus Technology, Inc. User interface system
US9298261B2 (en) 2008-01-04 2016-03-29 Tactus Technology, Inc. Method for actuating a tactile interface layer
US9013417B2 (en) 2008-01-04 2015-04-21 Tactus Technology, Inc. User interface system
US9552065B2 (en) 2008-01-04 2017-01-24 Tactus Technology, Inc. Dynamic tactile interface
US8922503B2 (en) 2008-01-04 2014-12-30 Tactus Technology, Inc. User interface system
US9612659B2 (en) 2008-01-04 2017-04-04 Tactus Technology, Inc. User interface system
US9423875B2 (en) 2008-01-04 2016-08-23 Tactus Technology, Inc. Dynamic tactile interface with exhibiting optical dispersion characteristics
US9274612B2 (en) 2008-01-04 2016-03-01 Tactus Technology, Inc. User interface system
US8243038B2 (en) 2009-07-03 2012-08-14 Tactus Technologies Method for adjusting the user interface of a device
US8970403B2 (en) * 2008-01-04 2015-03-03 Tactus Technology, Inc. Method for actuating a tactile interface layer
US9128525B2 (en) 2008-01-04 2015-09-08 Tactus Technology, Inc. Dynamic tactile interface
US9063627B2 (en) 2008-01-04 2015-06-23 Tactus Technology, Inc. User interface and methods
US9280224B2 (en) 2012-09-24 2016-03-08 Tactus Technology, Inc. Dynamic tactile interface and methods
US8922502B2 (en) 2008-01-04 2014-12-30 Tactus Technology, Inc. User interface system
US9720501B2 (en) 2008-01-04 2017-08-01 Tactus Technology, Inc. Dynamic tactile interface
US9052790B2 (en) 2008-01-04 2015-06-09 Tactus Technology, Inc. User interface and methods
US8456438B2 (en) 2008-01-04 2013-06-04 Tactus Technology, Inc. User interface system
KR100907411B1 (ko) 2008-01-10 2009-07-10 에스케이 텔레콤주식회사 다중 접촉 입력 장치를 활용한 촉감 출력 시스템 및 방법
EP2144189A3 (en) * 2008-07-10 2014-03-05 Samsung Electronics Co., Ltd. Method for recognizing and translating characters in camera-based image
US8665216B2 (en) * 2008-12-03 2014-03-04 Tactile World Ltd. System and method of tactile access and navigation for the visually impaired within a computer system
US9588684B2 (en) 2009-01-05 2017-03-07 Tactus Technology, Inc. Tactile interface for a computing device
US20100299134A1 (en) * 2009-05-22 2010-11-25 Microsoft Corporation Contextual commentary of textual images
CN102483675B (zh) 2009-07-03 2015-09-09 泰克图斯科技公司 用户界面增强系统
US8606316B2 (en) * 2009-10-21 2013-12-10 Xerox Corporation Portable blind aid device
US9239623B2 (en) 2010-01-05 2016-01-19 Tactus Technology, Inc. Dynamic tactile interface
WO2012054780A1 (en) 2010-10-20 2012-04-26 Tactus Technology User interface system
US20130050222A1 (en) * 2011-08-25 2013-02-28 Dov Moran Keyboard with embedded display
US9240129B1 (en) * 2012-05-01 2016-01-19 Google Inc. Notifications and live updates for braille displays
US9405417B2 (en) 2012-09-24 2016-08-02 Tactus Technology, Inc. Dynamic tactile interface and methods
KR102047689B1 (ko) 2012-12-17 2019-11-22 엘지전자 주식회사 택타일 사용자 인터페이스의 미니-맵을 제공하는 터치 센서티브 디바이스 및 제어 방법
US9370299B2 (en) 2013-05-16 2016-06-21 Successfactors, Inc. Display accessibility for color vision impairment
US9557813B2 (en) 2013-06-28 2017-01-31 Tactus Technology, Inc. Method for reducing perceived optical distortion
US10238571B2 (en) 2016-06-22 2019-03-26 Toyota Motor Engineering & Manufacturing North America, Inc. Vision-assist devices and methods of calibrating image data of a vision-assist device
US10692400B2 (en) * 2017-08-08 2020-06-23 Educational Media Consulting, Llc Method of mechanically translating written text to Braille on computer programmed machine using motion haptic stimulation technology
EP3850469A4 (en) * 2019-01-15 2021-11-10 Huawei Technologies Co., Ltd. SYSTEMS AND PROCEDURES FOR HAPTIC STIMULATION
CN109978672A (zh) * 2019-04-10 2019-07-05 南京诺博灵信息科技有限公司 一种基于图像识别的销售系统及方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6411571A (en) * 1987-07-07 1989-01-17 Canon Kk Image converting apparatus
JPH04130921A (ja) * 1990-09-21 1992-05-01 Nec Corp 表示制御方式
US5466154A (en) * 1993-07-26 1995-11-14 Thompson; James M. Braille board with movable dot pins
JPH08161117A (ja) * 1994-12-05 1996-06-21 Nec Corp 座標指示方法及び装置
JP2571793B2 (ja) * 1986-10-20 1997-01-16 オセ−ネーデルランド・ベー・ヴエー 触覚フイードバツク式入力装置
JPH09258946A (ja) * 1996-03-26 1997-10-03 Fujitsu Ltd 情報処理装置
JPH1055252A (ja) * 1996-08-12 1998-02-24 Hitachi Microcomput Syst Ltd コンピュータシステム
JPH1069218A (ja) * 1996-08-29 1998-03-10 Yuseisho Tsushin Sogo Kenkyusho 視覚障害者用グラフィカルユーザーインターフェース方式
JPH10187025A (ja) * 1996-12-25 1998-07-14 K G S Kk マウス型触覚ディスプレイ装置
WO1998031005A1 (en) * 1997-01-09 1998-07-16 Virtouch Ltd. Mouse-like input/output device with display screen and method for its use
JP2904202B1 (ja) * 1997-11-21 1999-06-14 日本電気株式会社 触覚ディスプレイ装置及びプログラムを記録した機械読み取り可能な記録媒体

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4881900A (en) * 1986-07-23 1989-11-21 Canon Kabushiki Kaisha Sensing display apparatus of image pattern
NL8700164A (nl) * 1987-01-23 1988-08-16 Alva Werkstation, voorzien van een brailleleesregel.
JPH02257185A (ja) * 1989-03-30 1990-10-17 Canon Inc 画像情報処理装置
US5195894A (en) * 1991-05-15 1993-03-23 Nimbus, Inc. Braille mouse having character code member actuated by single solenoid
US5223828A (en) * 1991-08-19 1993-06-29 International Business Machines Corporation Method and system for enabling a blind computer user to handle message boxes in a graphical user interface
CA2068476C (en) * 1991-08-19 1996-07-23 Frank A. Mckiel, Jr. Audio user interface with stereo and filtered sound effects
US5186629A (en) * 1991-08-22 1993-02-16 International Business Machines Corporation Virtual graphics display capable of presenting icons and windows to the blind computer user and method
US6046722A (en) * 1991-12-05 2000-04-04 International Business Machines Corporation Method and system for enabling blind or visually impaired computer users to graphically select displayed elements
US5287102A (en) * 1991-12-20 1994-02-15 International Business Machines Corporation Method and system for enabling a blind computer user to locate icons in a graphical user interface
JP3086069B2 (ja) * 1992-06-16 2000-09-11 キヤノン株式会社 障害者用情報処理装置
US5461399A (en) * 1993-12-23 1995-10-24 International Business Machines Method and system for enabling visually impaired computer users to graphically select displayed objects
US5736978A (en) * 1995-05-26 1998-04-07 The United States Of America As Represented By The Secretary Of The Air Force Tactile graphics display
DE19646226A1 (de) * 1996-03-19 1998-05-14 Bayerische Motoren Werke Ag Bedienvorrichtung für menügesteuerte Funktionen eines Fahrzeugs
US5636038A (en) * 1996-06-24 1997-06-03 Lynt; Ingrid H. Apparatus for converting visual images into tactile representations for use by a person who is visually impaired
US5990869A (en) * 1996-08-20 1999-11-23 Alliance Technologies Corp. Force feedback mouse
DE19638015A1 (de) * 1996-09-18 1998-03-26 Mannesmann Vdo Ag Verfahren zur Erzeugung von haptischen Markierungen auf einer Eingabefläche und Anordnung zur Durchführung des Verfahrens
US6128671A (en) * 1998-05-18 2000-10-03 F.J. Tieman B.V. Tactile feel device having a plurality of pins that allow a user to read information from the pins and make selection by depressing the pins

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2571793B2 (ja) * 1986-10-20 1997-01-16 オセ−ネーデルランド・ベー・ヴエー 触覚フイードバツク式入力装置
JPS6411571A (en) * 1987-07-07 1989-01-17 Canon Kk Image converting apparatus
JPH04130921A (ja) * 1990-09-21 1992-05-01 Nec Corp 表示制御方式
US5466154A (en) * 1993-07-26 1995-11-14 Thompson; James M. Braille board with movable dot pins
JPH08161117A (ja) * 1994-12-05 1996-06-21 Nec Corp 座標指示方法及び装置
JPH09258946A (ja) * 1996-03-26 1997-10-03 Fujitsu Ltd 情報処理装置
JPH1055252A (ja) * 1996-08-12 1998-02-24 Hitachi Microcomput Syst Ltd コンピュータシステム
JPH1069218A (ja) * 1996-08-29 1998-03-10 Yuseisho Tsushin Sogo Kenkyusho 視覚障害者用グラフィカルユーザーインターフェース方式
JPH10187025A (ja) * 1996-12-25 1998-07-14 K G S Kk マウス型触覚ディスプレイ装置
WO1998031005A1 (en) * 1997-01-09 1998-07-16 Virtouch Ltd. Mouse-like input/output device with display screen and method for its use
JP2904202B1 (ja) * 1997-11-21 1999-06-14 日本電気株式会社 触覚ディスプレイ装置及びプログラムを記録した機械読み取り可能な記録媒体

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010128788A (ja) * 2008-11-27 2010-06-10 Mitsubishi Electric Corp 入力装置
JP2014514785A (ja) * 2010-11-30 2014-06-19 クリーンキーズ・インコーポレイテッド 動的配置オンスクリーンキーボード
JP2014072558A (ja) * 2012-09-27 2014-04-21 Kyocera Corp 携帯端末装置、プログラムおよび情報通知方法
WO2020129395A1 (ja) * 2018-12-20 2020-06-25 Necプラットフォームズ株式会社 表示装置及び表示方法
JP2020101637A (ja) * 2018-12-20 2020-07-02 Necプラットフォームズ株式会社 表示装置及び表示方法
JP2022002129A (ja) * 2020-03-10 2022-01-06 株式会社村田製作所 触力覚情報提示システム

Also Published As

Publication number Publication date
EP1204907A4 (en) 2009-05-06
WO2000077591A3 (en) 2001-02-22
US6278441B1 (en) 2001-08-21
WO2000077591A2 (en) 2000-12-21
CA2377283A1 (en) 2000-12-21
EP1204907A2 (en) 2002-05-15
AU5244000A (en) 2001-01-02

Similar Documents

Publication Publication Date Title
JP2003502699A (ja) 電子データ表示システムのための触覚インターフェースシステム
US6762749B1 (en) Tactile interface system for electronic data display system
US6611253B1 (en) Virtual input environment
CA2276322C (en) Mouse-like input/output device with display screen and method for its use
EP2717120B1 (en) Apparatus, methods and computer program products providing finger-based and hand-based gesture commands for portable electronic device applications
KR101945721B1 (ko) 미세유체 디스플레이를 위한 통합 사용자 인터페이스를 갖는 휴대용 장치
EP2676178B1 (en) Breath-sensitive digital interface
US10540792B2 (en) Accessibility techniques for presentation of symbolic expressions
US20100128112A1 (en) Immersive display system for interacting with three-dimensional content
EP2722742A1 (en) Information processing device, information processing method, content file data structure, gui placement simulator, and gui placement setting assistance method
CN107273027A (zh) 图像显示装置以及图像显示方法
GB2470654A (en) Data input on a virtual device using a set of objects.
JP4502990B2 (ja) 計算装置用のマン/マシンインタフェース
US20140253486A1 (en) Method Using a Finger Above a Touchpad During a Time Window for Controlling a Computerized System
US20140253515A1 (en) Method Using Finger Force Upon a Touchpad for Controlling a Computerized System
US10915242B1 (en) Interface to computer and other display information
CA2457956C (en) Haptic interface
JP3727490B2 (ja) 触覚情報伝達装置
US11435867B2 (en) Display method and electronic device using the same
JP2005332231A (ja) ポインティング方法およびポインティング装置、ならびにポインティングプログラム
Judge et al. Switch access to technology-A comprehensive Guide.
Ren Designing for Effective Freehand Gestural Interaction
JP2005258482A (ja) 仮想キーボード入力装置
Blundell 3D Displays and Spatial Interaction: Exploring the Science, Art, Evolution and Use of
KR20020000816A (ko) 온 스크린 키보드를 내장한 디스플레이 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070611

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20080617

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080617

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100624

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100924

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100924

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100924

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101021

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101025

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101028

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101122

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101130

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110308