JP2003532216A - ヒューマン・マシーンインターフェイス - Google Patents

ヒューマン・マシーンインターフェイス

Info

Publication number
JP2003532216A
JP2003532216A JP2001580609A JP2001580609A JP2003532216A JP 2003532216 A JP2003532216 A JP 2003532216A JP 2001580609 A JP2001580609 A JP 2001580609A JP 2001580609 A JP2001580609 A JP 2001580609A JP 2003532216 A JP2003532216 A JP 2003532216A
Authority
JP
Japan
Prior art keywords
panel
contact
human
machine interface
contact surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001580609A
Other languages
English (en)
Inventor
トゥルバート、デビッド、ジェイ.
Original Assignee
トゥルバート、デビッド、ジェイ.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by トゥルバート、デビッド、ジェイ. filed Critical トゥルバート、デビッド、ジェイ.
Publication of JP2003532216A publication Critical patent/JP2003532216A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0421Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
    • G06F3/0423Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen using sweeping light beams, e.g. using rotating or vibrating mirror
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04109FTIR in optical digitiser, i.e. touch detection by frustrating the total internal reflection within an optical waveguide due to changes of optical properties or deformation at the touch location

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Position Input By Displaying (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

(57)【要約】 【解決手段】 ヒューマン・マシーンインターフェイス(10)は、エネルギー伝達素材で形成されていて、コンタクト面(12a)を有しており、その面に1つまたはそれ以上の接触が同時に成されるようなパネル(12)を含む。エネルギー源(14)はパネルに向けてエネルギーを導く。前記パネル(12)はエネルギー源から受け取ったエネルギーを前記コンタクト面へ伝達する。前記パネルによって伝達されたエネルギーの少なくとも1つのパラメータは、前記コンタクト面(12a)に形成された接触領域で変化する。検出器(24)はパネルに連結していて、前記エネルギーの少なくとも1つのパラメータをコンタクト面のほぼ上に検出に、これに対応する値を出力する。処理器(26)は前記検出器と通信している。前記処理器(26)は出力値を処理し前記コンタクト面上の接触領域の位置と各々の接触に関連する他の属性のうち少なくとも1つを決定する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】
本発明は、一般には入力装置に、特に表面および対象との接触を検出するため
のヒューマン・マシーンインタフェースおよび方法に関する
【従来の技術】
プログラムコードを実行しているコンピュータにユーザー入力を容易にするマ
ウスおよびジョイスティックのような入力装置は、公知技術である。この性質の
入力装置を処理しているユーザーは、コンピュータによって実行されているソフ
トウェアアプリケーションと対話することが可能である。これらの入力装置が一
般的であるけれども、接触感知パネルはまた、ユーザーにコンピュータによって
実行されているソフトウェアアプリケーションと対話するのを可能にすると考慮
された。
【0002】 たとえば、Yasutakaに対する米国特許第5,483,261号は、後
部の取り付けられたビデオカメラによって撮像される複数の半透明の、光拡散パ
ネルを有する接触検出制御装置を含んでいる双方向グラフィックシステムを開示
する。ビデオカメラは、パネルに近接して対象(例えば指)によって生じるパネ
ル上の影を検出するために配置される。ビデオカメラ出力は、ユーザー制御可能
な対象を表示しているモニタを有するコンピュータへ伝えられる。コンピュータ
によって実行されるプログラムコードは、ビデオカメラ出力を処理して、パネル
上の影の動きに従ってユーザー制御可能な対象を動かすためにディスプレーをア
ップデートする。
【0003】 アイ・ビー・エムに対するヨーロッパの特許出願No.0 554 492は
、コンピュータに指令またはデータのオプティカル入力のための入力装置を開示
する。入力装置は、カメラの視界の範囲内で仮想キーボードを含む。カメラによ
って捕らえられた画像は、仮想キーボードのキーの上の手動きを検出するために
解析され解釈される。対応するデータ入力信号は、入力装置によって発生させら
れて、処理のためにコンピュータに伝えられる。
【0004】 Mallosに対する米国特許第4,346,376号は、陰極線管(CRT
)の上に位置し、それから放射された光を受ける接触位置感知パネルを開示する
。接触位置感覚パネルの端部には、パネルの中で閉じ込められる光を検出するた
めに光電検出器が取り付けられる。ユーザーがパネル表面と接触するときに、C
RTからの光は全反射によってパネルの中に閉じ込められ、光電検出器によって
検出される。光電検出器の出力は、接触された表面位置を決定するべきCRTラ
スター位置と比較される。
【0005】 Bergstromに対する米国特許第4,629,884号は、放射線源お
よび放射線検出器の間で配置される放射-伝搬性プリズムを含んでいる接触感知
キーを開示する。ユーザーがプリズムの上面と接触するときに、プリズムに入る
光源からの放射はプリズムの側面へ散乱して、放射線検出器によって検出される
【0006】 Kasdayに対する米国特許第4,710,760号は、スクリーンの2つ
の隅部に光反射型端および発光/受信モジュールを有する光弾性接触検知スクリ
ーンを開示する。光は、モジュールによるスクリーンに焦点に集まって、内面反
射によって広がって、スクリーンの端を離れて反射して、木工丸鋸歯研削盤偏光
子によって吸収のためのモジュールに復帰される。スクリーン上部の表面に接触
したときに、光の偏光は変わる。偏光変化の程度は、スクリーン上部の表面に加
えられる力に依存している。偏光変化は、分類学的位置を許している円偏波器お
よび決定されるスクリーン上部の表面上の接点のフォースによって検出される。
【0007】 上述の基準は、ユーザーとの接触を検出し、対応する出力信号を生成するため
に接触感知パネルを開示するが、ユーザー入力能力を強化するために改良された
接触感知パネルが要求される。従って、本発明の目的は、新しいヒューマン・マ
シーンインタフェース、および表面とオブジェクト間の接点を検出する方法を提
供することである。
【0008】
【発明の概要】
本発明の一態様では、ヒューマン・マシーンインターフェイスは以下から形成
されている: エネルギー伝達材料によって形成されたパネルであって、1もしくはそれ以上
の接触部が同時に形成されるであろうコンタクト面を有するパネルと; 前記パネルにエネルギーを導くエネルギー源であって、前記パネルは前記エネ
ルギー源から受け取ったエネルギーを前記コンタクト面に伝達し、前記パネルに
よって伝達されたエネルギーのパラメータは前記コンタクト面に形成された接触
部の領域で変化する、前記エネルギー源と; 検出器であって、前記コンタクト面上の接触領域に対応する前記エネルギーの
少なくとも1つのパラメータの変化を検出し、これに対応する値を出力する、検
出器と; 前記検出器と通信する処理器であって、この処理器は前記出力値を処理し前記
コンタクト面上の接触領域の位置と前記各接触部に関連する他の属性のうちの少
なくとも1つを決定する、処理器と。
【0009】 好適な実施例において、前記少なくとも1つの他の属性は、前記各接触領域で
前記パネルに適用される垂直方向の力を含む。属性が剪断力の最少の一つで、更
に含む少なくとも一つのその他が各々の接触領域でパネルに適用されて、瞬間接
触はパネルでなされる、そして、接触が終わる瞬間、各々の接触の継続および通
常の力の振動は接触の間、パネルに印加した。
【0010】 好適な実施例において、接点はユーザーの指を有するパネルの接触面に作られ
る。パネルおよび指間の接触するパネルによって伝送されるエネルギーの方向を
変える。この場合、接点領域は、形状において一般に楕円である。前記パネルの
直上領域は照明され、これによって一定間隔を介して接触面から離間する指また
はその部分を照明する。前記少なくとも1つの他の属性は、: 前記各接触領域で前記パネルに適用される垂直方向の力; 前記各接触領域で前記パネルに適用される剪断方向の力; 前記パネルに接触がなされた瞬間及び接触が終了した瞬間; 前記パネルに接触がなされる時の速度と、前記接触が終了される時の速度; 前記接触の存続期間; 前記接触の間に前記パネルに適用される垂直方向の力における振幅。
【0011】 前記垂直方向の力は、前記楕円形の接触領域の面積を決定することにより算出
される。前記接触領域の中心に対して置き換えられた指先の座標を決定すること
によって剪断方向の力を算出する。
【0012】 本発明の別の態様では、以下のものが、提供されている。コンタクト面を有し
かつエネルギー伝達材料によって形成されたパネル上で接触を検出する方法であ
って; パネルによって伝達されたエネルギーをパネルへ導き、パネルによって伝達さ
れたエネルギーの少なくとも1つのパラメータは、コンタクト面で接触が形成さ
れる領域で変化し; 前記コンタクト面上の接触領域に対応する前記エネルギーの少なくとも1つの
パラメータの変化を検出し、これに対応する値を出力し; 前記出力値を処理しコンタクト面上の接触領域の位置と各接触部に関連する他
の属性のうちの少なくとも1つを決定する方法である。
【0013】 本発明の更に別の態様によれば以下のものが、提供されている。: 検出器であって、前記コンタクト面上の接触領域に対応する前記エネルギーの
少なくとも1つのパラメータの変化を検出し、これに対応する値を出力する、検
出器と; 前記検出器と通信する処理器であって、この処理器は前記出力値を処理し前記
コンタクト面上の接触領域の位置と前記各接触部に関連する他の属性のうちの少
なくとも1つを決定する、処理器と、を有する。
【0014】 本発明の更に別の態様によれば、イメージを投影するディスプレイ装置は、提
供される: エネルギー伝達材料で形成されたパネルであって、前記像を見ることができる
ディスプレイ面を有するパネルと、 スキャナであって、前記パネルへ光線を導き、前記像を投影するためにラスタ
ーパターンで前記ディスプレイ面全体にわたって前記光線をスキャンする、スキ
ャナと、前記スキャナであって、前記光線を生成するための光源と前記光線の通
り道に配置されている可動性複合光学要素を有する、スキャナと、前記複合光学
要素であって、前記複合光学要素は、前記コンタクト面を横切るように前記複合
光学要素が動くことによって前記光線を前記ラスターパターンでスキャンする、
複合光学要素。
【0015】 好適な実施例において、前記複合光学要素は離間した回転式ホログラフィック
光学素子(HOE)を少なくとも2つ有し、各HOEは、円周上に離間して配置
された回折格子の環を有するのであって、前記各回折格子は前記複合光学要素が
回転し、前記光線がその上で衝突する場合、前記ラスターパターンの各列全体に
わたって前記光線をスキャンするものである。
【0016】 実施例において、前記コンタクト面と反対側の前記パネルの表面上に配置され
ている回折格子からなる配列をさらに有する。前記配列中の回折格子各列は、H
OE上の各回折格子と関連づけられていて、前記各列全体にわたる前記光線スキ
ャン中に、前記コンタクト面上で前記光線の集光を補助する。
【0017】 パネル接触面を有する複数の同時接点が高度な正確さによって検出されること
ができるという点で、本発明は利点を提供する。また、パネルに印加される接触
力は、高度な正確さによって検出されることができる。その結果、ユーザは複素
数および自然な人間のしぐさを使用しているヒューマンマシンインターフェース
と相互に作用することが可能である。これは、もちろんユーザーが仮想的により
よくヒューマンマシンインターフェースが接続されるあらゆるマシンと相互に作
用することができる。さらに、ユーザーが対応する出力信号を生成するためにパ
ネルの接触面に小さい力を与えるだけでよいという点で、本発明は利点を提供す
る。反復的な過労怪我(RSI)の危険性を減らすと共に、これは高度な触覚を
有する速いユーザーとの対話処理を可能にする。さらに、ユーザーが手動で指先
端の手のひら表面上の柔らかいパルプ組織を使用している接触面と相互に作用す
るという点で、本発明は利点を提供する。この組織は、体の他のいかなる皮膚よ
りも素晴らしい触覚受容体を高い記録密度で含んでいる。
【0018】 イメージ(例えばコンピュータ・ビデオスクリーンに表示される)がパネルの
接触面に表示されてもよいという点で、本発明も利点を提供する。そして、ユー
ザーが直接グラフィックオブジェクト(例えばメニュー、アイコン、仮想対象物
のイメージ又は操作を必要とするデータ)と相互に作用することができる。 前記イメージは、アップデートされてもよいか又はユーザーの必要を必要に応じ
て満たすリアルタイムおよび/またはヒューマンマシンインターフェースが接続
されるマシンにおいて修正されてもよい。イメージが接触面に表示した、そして
、ユーザーの手がユーザーの視野のままであるので、ユーザーの脳の手-目機構
は係合するままである。そして、手動の物標取得の速度の重大な増加に結果とし
てなる。加えて、標的の空間の場所のメモリー(直観像を見る人物標取得として
当業者にとって公知の)に基づく手動の物標取得にも対して責任があるユーザー
の脳の機構は、係合するままである。直観像を見る人物標取得によって本発明の
ユーザーがヘッドおよび/または目位置の変化のために、もはや視野の標的に触
れないことができる。そして、それは以前に見られた。
【0019】
【発明の実施の形態】
図1には、この発明によるヒューマン・マシーン・インタフェースが示され、
参照番号10によって一般に指示される。図示されるように、ヒューマン・マシ
ーン・インタフェース10は接触面12aと一般に平行して上側主要接触面12
aおよび下側主要な表面12bを有するエネルギ伝達パネル12を含む。本実施
例におけるパネル12は、ガラスのような光伝導性の材料で形づくられる。細長
い、コヒーレントでない光源14は、パネルの一方端16に沿って延在して、パ
ネル12に光エネルギを放射する。半円筒状反射鏡18は、光源14の露出側を
囲む。ミラー18は、パネルの横縁16から離れる方向に移動している光源14
から発した光を反射しパネル12の横縁へと戻す。接触面12aに標準を延在し
ている軸に関して測られるように、パネルの内面反射の臨界角より大きい角で、
横縁16を経たパネル12に入っている光の光線はパネル12の範囲内で閉じ込
められるままである。
【0020】 二次光源20は、パネル12の下に配置される。光源20は、それより上にパ
ネル12および領域を照らす波面22を放射する。光源20によって放射される
光の強度は、光源14によって放射される光の強度に関して選ばれる。その結果
、パネル12の接触面12aより上に僅かに間隔を置かれる対象または部分23
(図2参照)(例えば接触面12aに実際に接触していない部分の指)が光源2
0によって照らされる。しかしそれは光源14及び光源20の両方によって照ら
されている接触面12aに実際に接触している指の部分に対するものよりははる
かに小さい範囲である。
【0021】 固体CCDまたはCMOS面検出器カメラ24の形の画像捕捉素子24は、ま
た、パネルの画像を得るためにパネル12の下に配置される。カメラ24はデジ
タルフレームグラバー28に連結される。そして、それはパソコンであるプロセ
ッサ26に順番に連結される。フレーム・グラバー28は画像を捕らえて、格納
する。そして、その中のデジタル方式のメモリにおいて、カメラ24によって得
られる。パソコン26は、獲得した画像を解析して、パネル12の接触面12a
を有するユーザー接触に対応する出力信号を発生させるために影像解析ソフトウ
ェア30を実行する。影像解析の間、各々の獲得した画像のラフな走査は、画像
がパネル12を有するユーザー接触を示している一つ以上の明るい領域を含むか
どうか決定するために実行される。画像が一つ以上の明るい領域を含む場合、各
々の明るい領域はそれから接触面12a上の接触および接触(「接触計数値接触
属性」)の性質の位置を決定するために綿密に解析される。以下、ヒューマン・
マシンインタフェース10の具体例を、図1〜14を参照して説明する。
【0022】 このヒューマン・マシーン・インタフェース10によって、接触面12aの異
なる領域に対する複数の接触が検出されて、実際上同時に処理されることができ
る。ヒューマン・マシーン・インタフェース10が接触が起こる接触面12a上
の位置だけでなく接触と関連する一つ以上の接触計数値も検出するので、ヒュー
マン・マシーン・インタフェースはそれが高水準機能を行っているプロセッサー
を有するインタフェースに使われることができている各々の接触に対応する複数
の出力信号を出力することができる。
【0023】 指40または他の対象が図1で示す接触面12aと接触するときに、接触領域
でのパネル12の内面反射の臨界角は上がる。その結果、パネル12の閉じ込め
られた光は接触(すなわち明るい領域)の領域で、高められた照明に結果として
なっている接触の領域で、パネルから漏れる。そして、形において接触領域と一
致する。両者間に屈折率が空気のそれより大きい対象と接触する所で、これは各
々の領域で起こる、そして、接触面12aは起こる。接触領域で逃げている光の
強度は、対象によって接触面12aに適用される圧力に、依存していない。しか
し、指のような、パネル12と接触している対象が変形可能な場合、パネル12
の接触面12aに印加される増加する圧力は対象および接触面12a間のより大
きい接触領域に結果としてなる。これは、より大きい明るい領域に結果としてな
る。
【0024】 図3aおよび3bは、パネル12の下から見た接触検出パネルと接触する指を
図示するものである。図3aで分かるように、指40がパネル12と接触するよ
うに持ってこられて、小さい力が接触面12aに適用される際、指先端部の手の
ひら表面上の軟かいパルプ組織の小さい楕円形状領域42が接触面12aを有す
る実際の接触において生じる。指40によってパネル12に印加される力が増加
するときに、接触面12aを有する実際の接触の指40の楕円形状領域44は図
3bに示すように増加する。その結果、接触面12aを有する実際の接触の指4
0の楕円形状領域のサイズは、指40の弾性コンプライアンスの関数として、垂
直の方向の指によってパネル12に適用される圧力の指示を提供する。接触領域
の範囲内のいかなる点でも光の強さは同じものであって、それは印加圧力に依存
していないことはいうまでもない。
【0025】 印加法線圧力に加えて、他の接触計数値は、指40間の接触およびパネル12
の接触面12aの性質から決定されることができる。たとえば、指のパルプ組織
によって、接触面12aに印加される剪断力は、だ円接触領域の重心に関して、
光源20によってより明るく照らされない指外形の幾何学先端の移動を測定する
ことによって決定されることができる。
【0026】 図4aは、接触面12aと接触して幾何学の先端41を有する指40を示す。
この例では、指40によってパネル12に適用される力の方向は、接触面12a
の平面に垂直である。その結果、だ円接触領域46の重心47は、指外形40の
幾何学の先端41から、確定した水平および垂直線オフセットにおいて、指40
の肉趾に心出しされる。図4bは、下記から見られるときに、剪断力が左の方へ
曲がった状況を図で示す指40による接触面12aに印加する。この場合、だ円
接触領域46は、摩擦のために動かない。しかし、下記から見られるときに、骨
および下にある組織は左に引かれる。その結果、指外形40の幾何学的な先端4
1は、だ円接触領域46の重心47に関して、量48によって左にシフトされる
。図4cは、指の幾何学の先端41の方へ曲げられる剪断力が指40によって接
触面12aに適用される状況を図で示す。その結果、下記から見られる場合、指
外形40の幾何学の先端41は量49によってだ円接触領域46の重心47から
離れてシフトされる。
【0027】 カメラ24は、一体化された装置として動作するように構成される光検出器の
アレーを含む。各々の光検出器は、パネル12の領域と関連して、カメラ24に
よって得られる各々の画像のピクセルに対応する出力を発生させる。パネル12
に現れている明るい領域中の明るい点と関連する各々の光検出器は、各々の画像
フレームの間、あるピクセル強度値を獲得する。各々の光検出器が最大のピクセ
ル強度値を獲得するために、光検出器が画像フレームの比例してより少ない分の
ための明るい点にさらされる場合、光検出器が全体の画像フレームおよび比例し
てより小さいピクセル強度値のための明るい領域の明るい点に露出される場合、
カメラ24のコントラストおよび感度は選ばれる。したがって、与えられた画像
フレームの終わりに起こる画像ピクセル強度値のヒストグラムは、画像フレーム
の間、パネル12を有する接触の換算に関して、ヒストリーデータを提供する。
これらのヒストグラムの審査は、画像フレーム中の明るい領域の現在の変更につ
いて、有益な情報(直ちには得られない)を提供する。
【0028】 図5は、画像フレームの間変わらない接触領域のカメラ24によって得られる
画像を示す。図示されるように、だ円接触領域46と関連する画像ピクセルのピ
クセル強度値はすなわち白い最大のピクセル値を達成する。実際の接触領域46
の近くに、指の部分と関連する画像ピクセルのピクセル強度値はすなわちかなり
より低く灰色である。その一方で、指輪郭の外でエリアと関連する画像ピクセル
のピクセル強度値は最小値(すなわち黒)である。
【0029】 図6aおよび6bおよび7aおよび7bは、画像フレームの結論で、画像フレ
ーム(接触面12aに適用される垂直力の換算の結果として)の間の明るい領域
における換算および関連する画像ピクセルの強度値の換算間の関係を図で示して
いるグラフである。図6cおよび7cは、関連するピクセル強度値のヒストグラ
ムを示す。
【0030】 図6aで分かるように、前記グラフは、単一の画像フレームの上の発達する明
るい(増加している)領域の区域(面積)の変化を示す。すなわち、前記指40
および前記接触面12a間の前記実際の接触面積は、前記画像フレームの間、増
加する。図6bは、図6aに示される前記画像フレームの終端における前記明る
い領域と関連する前記像画素のピクセル強度値のグラフである。ピクセル強度値
は、画像ピクセルに対応する接触面点における接触の持続時間に線形に関連する
。図6cは、32個の箱にソートされる図6bのピクセル強度値のヒストグラム
である。前記箱番号が右から左に水平軸にグラフで示されると共に、前記箱の前
記計数(カウント)は垂直軸にグラフで示される。左上の箱0は、すなわち最大
のピクセル強度画像ピクセルが画像フレームの全体の継続期間の間の明るい領域
によって照らされた効果があっている画像フレームの範囲内で、画像ピクセルの
カウントを含む。全体の画像フレームの間、時間の最小の量のために明らかにさ
れた画像フレームの範囲内で、箱31は画像ピクセルのカウントを含む。画像フ
レームの間、まったく照らされなかった画像フレームの範囲内で、箱32は画像
ピクセルのカウントを含む。このように、したがって、箱32のカウントは、有
効な情報を提供しない。
【0031】 図7aは、単一の画像フレームの上の減少している明るい領域の区域の変化を
示しているグラフである。すなわち、前記指40および前記接触面12a間の前
記実際の接触面積は、前記画像フレームの間、減少する。図7bは、図7aに示
される前記画像フレームの終端の前記明るい領域と関連する前記像ピクセルの前
記ピクセル強度値のグラフである。図7cは、箱でソートされる図7bの前記ピ
クセル強度値のヒストグラムである。認識されるように、図6cおよび7cに示
される前記ヒストグラムは同一である。その結果、単に前記ヒストグラムを調べ
るだけでは、発達する明るい領域と減少している明るい領域とを区別することは
可能でない。前記ヒストグラムは、しかしながら明るい領域を複数のカテゴリに
ソートすることができる他の情報を提供する。たとえば、カウントがゼロに等し
い箱0を有するヒストグラムは、前記画像フレームを開始した後に起こっている
発達する明るい領域又は画像フレームの終わりの前に終わる減少している明るい
領域のいずれかを示す。
【0032】 通常操作の間、前記光源14および20の前記相対的な輝度、前記カメラ・レ
ンズ(前記カメラ24の前記露光時間)の前記Fストップおよび前記カメラ24
の前記コントラストが、調整され、それにより、前記表面12aと接触していな
い指40の領域と関連するカメラ・ピクセルが、約4から127までピクセル値
を獲得し、前記表面12aと接触している指40の領域と関連するカメラ・ピク
セルが、約128から255までピクセル値を獲得し、指40の領域と関連しな
いカメラ・ピクセルは、約0から3までピクセル値を獲得する。一旦パネル12
の画像がカメラ24によって得られると、画像を形づくる光検出器によって達成
されるピクセル強度値はフレーム・グラバー28によって捕らえられて、そのデ
ジタル方式のメモリにロードされる。ピクセル強度値は、それによりパソコンに
よって実行される画像解析ソフトウェア30によって、分析のためのパソコン2
6からアクセス可能である。図8は、画像解析ソフトウェア30の前記ロジック
を図解しているフローチャートである。
【0033】 まず最初に、前記画像解析ソフトウェア30は、像ピクセルと予め設定された
ピクセル値閾値127と間の比較演算を実行することにより、127を超えるピ
クセル強度値を有する像ピクセルの位置を決めるためにラフ走査ソフトウェア・
サブルーチン100を起動する。前記ラフな走査サブルーチン100は、速い動
作のために設計されて、前記パネル像をスキャンするために自己修正コードを使
用する。更に速度を改良するためにまばらに配置されたグリッド上のパネル像ピ
クセルのサブセットだけがこのルーチンの間、調べられる。域値より上の画像ピ
クセルが検出されるとすぐに、ラフな走査ソフトウェア・サブルーチン100は
サブルーチン102に分岐する。
【0034】 実行の間、前記明るい領域のエッジが検出されるまで、サブルーチン102は
前記明るいピクセルを囲んでいる前記近隣の像ピクセルを調べることによって前
記明るい領域を囲んでいる前記最も小さい直交座標表示領域の水平及び垂直境界
を決定する。記述されているように、サブルーチン102は、それからこの境界
データをデータベースに書き込む。コントロールはそれからソフトウェア・サブ
ルーチン104に移る。そして、それは前記楕円明るい領域の前記像ピクセルを
調べて、前記明るい領域の面積、その重心、その長軸、およびそのピクセル強度
値の前記ヒストグラムを計算する。サブルーチン104はまた、より明るく照ら
されなかった指輪郭の長軸、前記指輪郭の幾何学的図形の先端および前記指輪郭
の幅を計算する。これらの計算された値は、パソコン26のメモリの範囲内で、
接触(「RC」)データベース108の領域において記録される。図9は、画像
フレームの各々の明るい領域のための前記データベース108において記録され
る前記データのための前記記録フィールド形式を示す。各々の明るい領域につい
て、前記データベース108は、前記明るい領域が発生した前の各フレームの記
録を維持する。前記データベース108は、環状であってもよい。すなわち、前
記データベースに割り当てられる前記最後の空きメモリ場所が使われるときに、
前記ソフトウェア30は自動的に前記割り当てられたメモリーの初めに古いデー
タに上書きし始める。この場合、前記環状のデータベース108に割り当てられ
る前記メモリーは、上書きされたデータがもはや役立たないことを確実にするた
めに十分に大きい。前記メモリーは、代わりに記録の適当なサブセットを記憶す
るだけでも良い。これは、動作を遅くするけれども必要メモリーの量はかなり減
少する。
【0035】 一旦データがサブルーチン104によってデータベース108に格納されると
、それが割り込まれた点で、ラフな走査サブルーチン100は再開され、パネル
像の次の明るい領域が検出されることができる。パネル像の次の明るい領域が検
出されるときに、サブルーチン102および104は実行される、そして、上記
した同じ手順が再実行される。上記のプロセスは、パネル像に検出される各明る
い領域のために実行される。
【0036】 パネル像の更なる明るい領域が検出されないと、コントロールはサブルーチン
110に移る。実行の間、サブルーチン110は、電流画像フレームの各明るい
領域のためのデータベース108において記録されるデータを前の画像フレーム
に認められる明るい領域の全てのために記録されるデータと比較し、各現在の明
るい領域が前の画像フレームの明るい領域のうちの1つと実質的に同じ場所にあ
るかどうかを決定する。もしそうならば、サブルーチン110は現在の明るい領
域が前の画像フレームに存在する明るい領域と時間的に継続すると推定し、デー
タベース108のその明るい領域の記録の中のバイト0−3に前記明るい領域の
先例のレコード番号を記憶する。現在の明るい領域が前の画像フレームの明るい
領域の一つと実質的に同じ場所に現れない場合には、サブルーチン110は、明
るい領域が新規であると推定し、そして、データベース108の明るい領域の記
録のステータスバイト8にビット7をセットする。前記サブルーチン110は、
現在の画像フレームに現れていない、以前の画像フレームの全ての明るい領域の
ステータスバイト9(「トラッキング高さ」)のビット4のステータスを調べる
。このビットがセットされたなら、サブルーチン110はそれから後述するよう
に指高さ属性の計算ために、現在の画像フレーム内のその領域の指の輪郭の幅を
決定する。
【0037】 前記サブルーチン110は、それから14の可能なケースのうちの1に現在の
画像フレームの各明るい領域を分類する。前記14の可能なケースは、図10a
〜12cに関して後述する。
【0038】 図10a〜10eは、それらに関連するピクセル強度値のヒストグラムと共に
、画像フレーム中の明るい領域の5つの発達又は減少するケースを示したもので
ある。これらのケースそれぞれにおいて、全体画像フレームにこれらの領域の点
が存在しないため、各ヒストグラムの箱0のカウントはゼロに等しい。これらの
ケースは、RC_ON、FAST_RC_ON、DEAD_RC、FAST_R
C_OFFおよびRC_FAST_TAPと称する。前記RC_ONケースは新
規な明るい領域が現在の画像フレームにおいて発生して、すなわち現在の画像フ
レームの終りでまだストライク状態であるような条件を表現する。すなわち、ヒ
ストグラムの特性によって示されるように、明るい領域のエリアが現在の画像フ
レームの終わりにおいてもまだ増加しているような場合である。前記FAST_
RC_ONケースは、ヒストグラムの特性によって示されるように、新規な明る
い領域が現在の画像フレームで起こって、現在の画像フレームの終りで安定し最
大面積を獲得するような条件を表現する。前記DEAD_RCケースは、ヒスト
グラムの特性によって示されるように、明るい領域(それは前の画像フレームが
RC_OFFケース(下記参照)又はRC_DECLININGケース(下記参
照)であった)が現在の画像フレームで終わったような条件を表現する。前記F
AST_RC_OFFケースは、ヒストグラムの特性によって示されるように、
明るい領域(それは前の画像フレームがEND_RC_ONケース(下記参照)
(FAST_RC_ONケース)又はRC_OSCILLATINGケース(下
記参照)であった)のエリアが現在の画像フレーム中に安定値からゼロまで減少
した条件を表現する。前記RC_FAST_TAPケースは、ヒストグラムの特
性によって示されるように、新規な明るい領域が現在の画像フレームで起こるが
、画像フレームの終りまでにゼロに減少する条件を表現する。理解されるように
、各々の上記の5のケースにおいて、発達する又は減少している明るい領域すべ
てのものは現在の画像フレームに、始点若しくは終端として接続される。
【0039】 図11a〜11fは、それらに関連するピクセル強度値のヒストグラムと共に
、画像フレーム中の明るい領域の6つの発達又は減少するケースを示したもので
ある。これらの各ケースにおいて、各ヒストグラムの箱0のカウントは、ゼロよ
り大きい。これらのケースは、GROWING_RC、END_RC_ON、R
C_OFF、RC_DECLINING、RC_OSCILLATING(上方
)およびRC_OSCILLATING(下方)と称する。前記GROWING
_RCケースは、ヒストグラムの特性によって示されるように、明るい領域(そ
れは以前の画像フレームのRC_ONケース又はGROWING_RCケースで
あった)のエリアが現在の画像フレームにおいて成長し続けるような条件を表現
する。前記END_RC_ONケースは、ヒストグラムの特性によって示される
ように、明るい領域(それは以前の画像フレームのRC_ONケース又はGRO
WING_RCケースであった)のエリアが現在の画像フレームにおいて成長す
るのをやめるような条件を表現する。前記RC_OFFケースは、ヒストグラム
の特性によって示されるように、明るい領域(それは以前の画像フレームのEN
D_RC_ONケース(FAST_RC_ONケース)又はRC_OSCILL
ATINGケースであった)のエリアが画像解析ソフトウェア30にプログラム
される最小閾値より大きい一定量によって減少する条件を表現する。明るい領域
の範囲の減少がこの最小閾値より小さい場合、サブルーチン110は接触面12
aに適用された通常の力の発振が、意図的な圧力制御ユーザー入力を表現する明
るい領域範囲の変化を表現したと推定し、指を離すことを始めたと推定しない。
前記RC_DECLININGケースは、ヒストグラムの特性によって示される
ように、明るい領域(それは以前の画像フレームのRC_OFFケース又はRC
_DECLININGケースであった)が画像フレームの範囲内で完全に消える
ことのない範囲において減少し続けるような条件を表現する。前記RC_OSC
ILLATINGケースは、ヒストグラムの特性によって示されるように、明る
い領域(それは以前の画像フレームのEND_RC_ONケース(FAST_R
C_ONケース)又はRC_OSCILLATINGケースであった)の範囲が
上記で参照した最小閾値より小さい一定量だけ増加若しくは減少した条件を表現
する。明るい領域の範囲が減少する場合には、RC_OSCILLATINGケ
ースとしての資格を得るために、明るい領域が減少させる量はRC_OFFケー
スとしての資格を得ることを必要とする量未満でなければならない。理解される
ように、各々の上記のケースにおいて、明るい領域は以前の画像フレームから生
じた明るい領域の全ての継続である。
【0040】 図12a〜12cは、それらに関連するピクセル強度値のヒストグラムと共に
、画像フレーム中の明るい領域の3つの発達又は減少する特別なケースを示した
ものである。これらの各ケースにおいて、各ヒストグラムの箱0のカウントは、
また、ゼロより大きい。これらのケースは、SWITCH_RC、SWITCH
2_RCおよびSWITCH3_RCと称する。前記SWITCH_RCケース
は、以前の画像フレームがEND_RC_ONケース、RC_OFFケース、R
C_DECLININGケース又はRC_OSCILLATINGケースのいず
れかである明るい領域が、ヒストグラムに示されるように、現在の画像フレーム
中で突然の過渡増加を減る場合を表現する。前記上記の3のスペシャル・ケース
は、各ケースのための範囲増加の異なっている動きを原因として生じるので、僅
かに異なるヒストグラムとなる。しかしながら、全ての3のケースのためのヒス
トグラムは、箱0で右方でちょうど著しい凹面を示す。前記サブルーチン110
は、これらの発達する又は落ちている明るい領域を、マウス又はトラック・パッ
ド上の押しボタンの押下に対する類似する、スイッチの押下動作と解釈する。理
解されるように、各々の上記の3のスペシャル・ケースにおいて、明るい領域は
全て以前の画像フレームから生じた明るい領域の継続である。
【0041】 明らかであるように、通常操作の間、新規な明るい領域は一定のシーケンスで
展開する。具体的には、明るい領域は、成長し、場合によっては振動し、衰退し
、そして消える。サブルーチン110は、各明るい範囲の展開の進展の現在の状
態を決定する。これは、データベース108の記憶データである以前の画像フレ
ームの同じ明るい領域と関連するステータスバイト8および9のデータに関して
、現在の画像フレームの明るい領域と関連するヒストグラムを分析することによ
って完了する。明るい領域の進化のステータスの変化により、サブルーチン11
0は明るい領域のためのデータベースレコードのステータスバイト8および9を
修正する。どの時点においても、特定の新しい展開の状態のみが可能である。予
想されるように、進展のシーケンスが発生しない場合、サブルーチン110はし
たがって、エラー条件を生成する。
【0042】 明るい領域と関連するヒストグラムおよびデータベース108の以前の関連エ
ントリを調べることによって上記の14のケースのうちの1つに明るい領域を分
類した後に、それが存在する場合、明るい領域が新規な場合にはサブルーチン1
10はデータベース108に「ルート」エントリをつくり、明るい領域が実質的
に以前の画像フレームの同じ場所に存在する場合にはデータベース108に新規
な「子」エントリをつくる。
【0043】 画像フレームの明るい領域の全てが検出され分類されたとき、画像解析ソフト
ウェア30はサブルーチン112を起動する。そして、分類された明るい領域の
全てをもしあればそれらの先例と比較する。さらに新規な明るい領域のために、
サブルーチン112は接点属性を計算する。そして、それは後で説明するように
対応する出力コードを生成するために使用される。以前の画像フレームの中に存
在した明るい領域のために、その明るい領域と関連する接点属性の変化が計算さ
れて、対応する出力コードを生成されるために使用される。具体的には、明るい
領域の展開の状態およびユーザーの必要条件に適当であるように、画像フレーム
の各明るい領域のために、サブルーチン112は以下の接点属性のうちの1以上
を決定する: 各楕円状の明るい領域の重心の絶対XY座標; 基準ピッチ線と指輪郭の長軸とを比較することによる指の回転; 指皮膚組織の弾性コンプライアンス関連性を考慮に入れて楕円状の明るい領域
の範囲を調べることによる指によってパネル12に適用された通常の力; 明るい領域の重心に関する指先端のXおよびY変位を計算し、その変位をデー
タベース108のルート・エントリと比較し、弾性コンプライアンス関連性を考
慮に入れることによる、X及びYせん断力; 楕円状の明るい領域の長軸および指輪郭の長軸の間で弧に対される角度を決定
することによる、パネル12に適用された各回転力; 指がパネル12に最初に接触したときの指輪郭の幅とその指輪郭の現在の幅と
を比較することによる、もはや接触面12aと接触しない手の指が位置する接触
面12aからの高さ; 最初の接点の明るい領域が現れて、それから消える画像フレームを決定するこ
とによって、そして、より大きい正確さで明るい領域の最初及び最後のフレーム
のヒストグラムを調べることにより、最も古いピクセルが現れ最後のピクセルが
消える箱番号を決定することによる、パネル12に対する指の接触とリリースの
瞬間; 開始およびリリースインターバルの間、明るい領域の範囲の変化率と比例して
いるヒストグラム・プロファイルの傾きを計算することによるパネル12から接
触し離れる指の開始速度およびリリース速度; 上記で決定されたリリース瞬間を接点瞬間から減ずることによる指およびパネ
ル12間の接点の持続時間; そして、先に述べた通りに、現在の明るい領域のヒストグラムの輪郭を調べる
ことによるあらゆるスイッチ領域の存在。
【0044】 接触およびリリース瞬間の決定に関して、解像度は画像フレーム時間の1/M
である(Mはヒストグラムの箱の番号である)。この解像度は、カメラ24の強
度解像度の精度によって制限される。
【0045】 一旦さまざまな接触属性がパネル像の各明るい領域のために算出されると、サ
ブルーチン112は重要な接触属性に対応する制御コード又は重要な接触属性の
変化を計算する。前記制御コードは、それから出力のために待ち行列であるデー
タ・テーブル114に挿入される。データ・テーブル114の各制御コード・エ
ントリは、属性コード値ペアという形をとる。データ・テーブル114の前記デ
ータは、それですばやくユーザーがそれとともに相互に作用することができるよ
うにするためにパーソナルコンピュータ26又は他マシン又はプロセシング装置
によって実行される他のソフトウェアへ運ばれることができる。
【0046】 リアルタイムクロック118に応答するクロック割込みルーチン116によっ
て、データ・テーブル114の前記出力は、制御される。ヒューマンマシンイン
ターフェース10が動作を開始したあと、クロック割込みルーチン116はTf
r+Tmpr秒だけ実行し始める。ここで、Tfrはカメラ24のために画像フ
レームを得ることを必要とする時間である、そして、Tmprは画像解析ソフト
ウェア30が最大許容数の明るい領域を含んでいる画像フレームを処理するため
に必要とされる時間である。前記クロック割込みルーチン116は、各画像フレ
ーム中でN回発生するようにプログラムされている(Nは、1から、パーソナル
コンピュータ26の処理容量をオーバーロードさせない範囲で最大数を取る)。
【0047】 クロック割込みルーチン116が画像フレームにつき二回以上発生する場合(
すなわちN>1)、データ・テーブル114はNページにセグメント化される。
この場合、サブルーチン112はデータ・テーブル114の適当なページに一連
の内挿された制御コード・エントリを挿入する。いくつかの接触属性のために、
サブルーチン112は補間から得られるそれらより正確な現在の変化を計算する
ためにサブルーチン104によって計算される現在の又は以前の画像フレームと
関連するヒストグラム・データを分析してもよい。
【0048】 機械制御アプリケーションの1の実施例において、ヒューマンマシンインター
フェース10は、パーソナルコンピュータ26内部の又は別の外部のシャシーの
どちらかにハードウェアが設けられている電子音楽シンセサイザを制御するため
に用いられる。この種のシンセサイザは、16又はそれ以上の同時オーディオ出
力チャンネル上で楽音を生成する能力がある。前記ユーザーは「パッチ・プログ
ラム」をつくって、ロードすることによって各異なる音声の多くの属性を特定し
てもよい。そして、それは各チャンネルによって概して異なる。前記パッチ・プ
ログラムは、一定の値に対する音声のいくつかの属性をセットするが、リアル・
タイムでの外部制御シグナルにより多数の他の属性を制御することを許可する。
【0049】 従来技術のシステムにおいて、制御信号は「MIDIコントローラ」と呼ばれ
る独立したピアノ型のキーボード装置によって、典型的に生成される。前記制御
信号は、シンセサイザ内でチャンネルを特定している直列デジタルデータ、制御
される特定の属性、そして、コントロール値である。たとえば、音符の周波数は
シンセサイザに「音符オン」のシグナルを送ることによって通常制御される。そ
して、それはシンセサイザ・チャンネルおよび周波数を特定する。前記ユーザー
は、特定の白い又は黒い鍵を押し下げることによって音符のチャンネルおよび周
波数を特定する。前記MIDIコントローラは、鍵押下のストローク速度を測定
してもよくて、周波数情報とともにそれを伝送してもよい。前記ユーザーは、電
位差計ノブ、車輪又はMIDIコントローラの前面パネルの上に位置するスライ
ダの設定を処理することにより、音(例えば容量およびビブラート等)の他の属
性を制御する。前記最も高度なMIDIコントローラはまた、押し下げられた鍵
に印加される通常の力を表現している制御信号を生成する。
【0050】 残念なことに、MIDIコントローラは、一度に2、3の制御信号を生成する
ことが可能なだけであり、それは、第1に、それが限られた数の電位差計を含み
、第2に、鍵および電位差計がユーザーの手による最適で、高速で、機敏なイン
タラクションを許可しないからである。対照的に、シンセサイザは各チャンネル
の音声の動的に多くのより多くの属性を制御することが可能である。さらに、シ
ンセサイザが現実的な音声を作るためには、MIDIコントローラで許容されて
いるよりも多くの属性が制御される必要がある。その結果、電子音楽は現実の機
器を演奏している音楽家によってなされる音楽と比較して「フラット」で生命が
ないように聞こえる。たとえば、バイオリン・シンセサイザ・プログラムは非常
に生きているようなバイオリン音声を生産することで能力がある、しかし、MI
DIコントローラは良いバイオリン奏者が制御することができる優雅の程度の近
くでどこにも彼のバイオリンを有するプログラムを制御することができない。リ
スナーにそれらが合成であると実現するために時間がないために、MIDIコン
トローラを使用している現実的なアコースティックオーケストラの音楽を生産す
ることを望んでいる音楽家は概して比較的短い音符を使用する。
【0051】 このヒューマンマシンインターフェース10が人間の手の印象的な器用さを利
用するという理由から、現在のヒューマンマシンインターフェース10がMID
Iコントローラを作ることができて、適切にシンセサイザ・プログラムの多くの
制御可能な属性を制御することができる。さらに、パネル12の表面12a上の
接触および生成される対応する出力制御コードの領域間の関係は、あらゆる所望
のやり方でプログラムされることができて、仮想的に即座に変更されることがで
きる。それで、たとえば、バイオリン・シンセサイザ・プログラムのために、接
触面12aは現実のバイオリン又は他のいかなる望ましい形態もと同じ形態を仮
定するようにプログラムされることができる。
【0052】 この特定のアプリケーションにおいて、前記MIDI直列コントロールデータ
・プロトコルは、実行される。前記ユーザーは、画像解析ソフトウェア30によ
って指属性およびMIDI制御コード出力間の対応付けを特定することができる
。この場合、画像解析ソフトウェア30は、それらの属性に対応するMIDI制
御コードを生成して、出力データ・テーブル114の制御コードを挿入する。前
記ユーザーは、また、画像解析ソフトウェア30が制御コードの完全なシーケン
スを出力する1画像フレームについての回数を制御することができる。
【0053】 上記の実施例において、本発明は専門の機器(すなわちマシン)を制御するた
めに用いる。しかしながら、また、このヒューマンマシンインターフェース10
は、一般的なタイプの装置を制御することに用いることが可能である。たとえば
、ヒューマンマシンインターフェースがコンピュータCRT(CRT)ディスプ
レイ場合、仮想対象物、例えばメニューおよびアイコン、又はグラフィック表示
は、それらがワークトップ上の小さい現実の対象物である場合と同じ便利さで、
制御することが可能であろう。人体にかなり適している方法でこれを実行するた
め、小さい現実の対象物を処理するときに、画像解析ソフトウェア30は通常使
用する人間のジェスチャを認識するための付加ソフトウェア・サブルーチンを含
む。加えて、前記画像解析ソフトウェア30は、他特定のジェスチャを認識する
ようにプログラムされるかもしれなくて、制御コードをそれらに割り当てるかも
しれない。
【0054】 マシンを制御するために使用される場合、本発明は他の効果がある。「キース
トローク」を動かすことを必要とする前記力は非常に小さい。そして、それによ
ってマニュアル・インタラクションの速度を増やすと共に、反復的な過労怪我(
産業の重大な健康体問題)の発生率を減らす。加えて、ユーザーの視野において
直接マニュアル・インタラクションのための標的およびユーザーの手を配置する
ことによって、本発明は人間の手-目調整脳機構の完全な使用をなされる。これ
らの高度な仕組みは、何百万年以上もかけて進歩してきたもので、それによって
人間の手は現実の小さい対象物に対して迅速かつ機敏に動くことができる。加え
て、本発明は指先端の手のひら表面上の柔らかいパルプ組織を利用することによ
って肉塊から脳まで触覚フィードバックを最大にする、その組織は人体の触覚受
容体の最も高い密度を含む。
【0055】 図13aおよび13bに戻って、マンマシンインタフェースの他の実施例は、
本発明によれば示されて、参照番号110’によって一般に指示される。図示さ
れるように、ヒューマンマシンインターフェース110’は光源114’から光
を受け入れている接触検出パネル112’を含む。点光源120’およびカメラ
124’は、パネル112’の下に配置される。
【0056】 プロセシング・サーキットリ131’は、前記カメラ124’およびフレーム
グラバ128’の間で作用する。画像解析ソフトウェア130’を実行している
パーソナルコンピュータ126’は、フレームグラバ128’に連結する。前記
処理サーキットリ131’は、一定のICMIM 153’と同様にカメラ12
4’の出力を受け入れているコンパレータ151’を含む。コンパレータ151
’の前記出力は、マルチプレクサ155’に適用される。パーソナルコンピュー
タ126’によって計算される値をロードされる4つのルックアップ・テーブル
(LUTs)157’〜163’は、カメラ124’のビデオおよびクロック出
力によってアドレス指定を行われる。LUTsの前記出力は169’に乗算器1
65’に適用される。そして、それはマルチプレクサ155’に順番に出力を提
供する。
【0057】 前記ヒューマンマシンインターフェース110’は、この場合それを除いて以
前の実施例のそれに類似した方法で動き、パネル112’の接触面112a’よ
り上に間隔を介して位置する指の点における高さを算出することができる。この
計算は、点光源からの距離と照度(照明の強さ)間の逆二乗関係を使用すること
によってなされる。パネル112’と接触しない手上の点と関連する像ピクセル
のピクセル値強度は、光源120’からの距離の逆二乗によって変化する。
【0058】 指上の点が接触面112aから間隔を置いて配置される距離を算出するために
、手の一般的な形状を算出するのと同様に、デカルト座標系の使用が都合が良い
。図13bは、パネル112’の接触面112a’から間隔を置いて配置される
平面135’上の点133’を示す。前記光源120’は、また、距離Lによっ
てパネル112’の中心137’の下で配置されて示される。光源120’およ
び点133’間の前記距離は、ラインLLによって示される。接触面112a’
の中心137’での輝度がIoである場合、逆二乗則は以下の式をもたらすため
に適用することができる:
【数1】
【0059】 Inは、接触面112a’上若しくは上方のあらゆる点の強度である。前記ライ
ンLLは、それから以下の式で表されることができる:
【数2】
【0060】 前記デカルトの座標系の前記中心として、前記点光源120’を使用して、座標
は次のように表されることができる:
【数3】
【0061】
【数4】
【0062】
【数5】
【0063】 理解されるように、これらの同格の式がビデオレートで計算される場合、接触面
112a’より上の手の完全な三次元表示を計算することが可能である。
【0064】 ヒューマンマシンインターフェース110の動作の間、カメラ124’からの
ビデオ信号は定数ICMINにデジタル型比較器151’によって比較される。
そして、それは明るい領域のための最小ピクセル強度を表現する。ビデオ信号が
上記のICMINであるときに、コンパレータ151’はマルチプレクサ155
’を送る。これに応じて、像が以前に記述されている方法の画像解析ソフトウェ
ア130’によって処理される像の明るい領域として得られるように、マルチプ
レクサ155’はフレームグラバ128’にカメラ124’の生のディジタルビ
デオ信号出力を運ぶ。
【0065】 カメラ124’の前記生のディジタルビデオ信号出力もLUT157’のアド
レス線を制御する。そして、それは上式(2)を使用して、Inから計算される
LLの為の値を保つ。カメラ124’からの前記xおよびyピクセル・クロック
信号はLUTs159’、161’および163’のアドレス線を制御する。そ
して、それはそれぞれ式(3)、(4)および(5)の第2の項のための値を保
つ。乗算器165’、167’および169’はそれぞれ式(3)、(4)およ
び(5)に対する解を発生する。それはそれぞれLUTs159’、161’お
よび163’の出力にLUT157’の出力に掛けることによるZ、XおよびY
座標である。
【0066】 上記ピクセル値がICMINよりも下であるときに、マルチプレクサ155’
は乗算器出力をパーソナルコンピュータ126’へ運び、これによりフレームグ
ラバ128’が計算されたデカルトの座標データを解析のための画像解析ソフト
ウェア130’へ運ぶことができる。
【0067】 この場合、ソフトウェア・サブルーチン104は、それが異なるデータを処理
することができるために修正される。前記サブルーチン104は、デカルトの座
標データを使用し、指輪郭の長軸および幾何学的図形の先端を検出する。前記画
像解析ソフトウェア130’は、選択的により高いレベルのサブルーチンを含ん
でもよく、それにより点光源120’に関し接触面112a’と接触しない手の
一部の形状および位置を識別し、そして、そこから制御信号を引き出す。前記画
像解析ソフトウェア130’は、また、手動のしぐさを識別するためのパターン
認識サブルーチンを含んでもよい。手の形状および位置を決定するためのしぐさ
認識および関連したアルゴリズムは、当業者にとって周知である。
【0068】 光源120’の代わりに点光源の配列のような、より合成の光源が使われる場
合、接触面112a’上のあらゆるピクセル(x,y)のための検出強度Inの
訂正は必要である。これは、検出強度Inに複素数光源のジオメトリの機能であ
る補正率k(x,y)を掛けることによって完了している。ビデオレートにて訂
正を達成するために、補正率k(x,y)もLUTsに格納されることは、好ま
しい。
【0069】 図14に、ここで戻って、ヒューマンマシンインターフェースのための接触感
知パネルの本発明による他の実施例が示される。この実施例においては、二次光
源20は、パネル212の接触面212aより上に配置される二次光源220と
取り替えられる。前記光源220は、線状の白熱電球225および円柱レンズ2
27を含んで、ほぼ0.25インチだけ接触面212aより上に間隔を置かれる
光229のシートを放射する。前記光源220によって放射される光229の前
記シートは、厚さほぼ0.25インチであって、前記接触面212aに対して平
行である。
【0070】 指が接触面212aと接触して持ってこられるときに、月形のハイライト22
8は光229のシートによって指先端に発生される。前記月形のハイライトは、
カメラ(図示せず)によって得られるパネル像において捕らえられる。画像フレ
ームのプロセシングの間、接触属性(本実施例におけ画像解析ソフトウェア)を
算出することは、指輪郭の幾何学的図形の先端よりむしろ月形のハイライトの先
端を検出する。
【0071】 パネル像の明るい領域の場所及び各接触領域でパネル12に印加される通常の
力を決定することのみが臨まれる場合、二次光源は省略されることができる。
【0072】 図15に、ここで戻って、また、ヒューマンマシンインターフェースの他の実
施例が示され、これは参照番号310によって一般に識別される。本実施例にお
いて、パネルが内面反射導波管として作用するために、接触面312aおよびパ
ネル312の底面312bは平行である。カメラ324は、パネル312の一方
に配置されて、表面312aおよび312bから内部で反映されるレジスタ像を
、カメラで撮像するために結合プリズム321が配置される。光源(図示せず)
からの指向的な照射314は、カメラ324と同じ方向に向けられていて、鋭角
でパネル312の底面312bに衝突し、そして、パネルの接触面312aに対
して鋭角でパネル312に入射する。カメラ324の対向する、接触面312a
上のartifactualなグリーススポットによる光314の反射は、この
カメラおよび光源配置の結果、減少する。加えて、内面反射の規則によれば、接
触面312aによる導波管312に入っている全ての外来の環境の光は、底面3
12bを通過する。このように、外来の環境の光は、環境の光源に反応しない前
記マンマシンインタフェース310をなされている前記カメラ324の方へ、内
部で反映されない。二次元のマトリックス・シャッタ323は、導波管312に
異なる画角の選択を許容するためにプリズム321の露出した表面に配置される
【0073】 動作中に、方向付けられた光314は、導波管312の方へ光源によって発さ
れる。一般的に、前記光314は、導波管312を通過する。しかしながら、指
340のような対象物が前記接触面312aと接触して持ってこられるときに、
前記光源によって放射される光は前記指によって反射され全ての角度で前記導波
管の中へと戻る。角度が内面反射の臨界角より大きい反射は、プリズム321に
複数の内面反射を経て導波管312で伝播される。前記マトリックス・シャッタ
323は、前記カメラ324のための異なる画角を選ぶ。その結果、米国特許第
5,812,186号に記載されているように、前記カメラは、前記導波管31
2の異なる伝搬モードの画像フレームを得る。デジタル論理回路325は、マト
リックス・シャッタ323のビュー角度を高速で順番付けるためにパーソナルコ
ンピュータ326によってプログラムされ、それによって全ての接触面312a
のコヒ―レント走査を発生する。
【0074】 前記カメラ324によって得られる前記像は、前記フレームグラバ328によ
って捕らえられて、以前に記述されているそれと同様の方法の前記パーソナルコ
ンピュータによって実行される画像解析ソフトウェア330によって分析される
。本実施例において、画像解析ソフトウェアは、しかしながらモデルキャプチャ
方法論によって導入されるモデルアーチファクトを除去するための付加サブルー
チン(図示せず)を含む。
【0075】 それが導波管312と接触しない手の領域から反射される像光に所望の場合、
第2のカメラ350は図示するようにパネル312の下に配置されてもよい。あ
るいは、ミラー-シャッタ・システム(図示せず)を、カメラ324に下からパ
ネル312の像を捕らえるのを可能にするために用いてもよい。
【0076】 前記パネル312の前記表面312aおよび312bが並列であると共に近接
している場合、前記パネルは自己結像導波管として作用する。Shono and Inuzuk
a ("Modally Allotted Transmission of Optical Images through Homogeneous
Planar Waveguides", Japanese Journal of Applied Physics, 21, L135; 1982)
は、自己結像現象を通して、導波管に対するオブジェクトおよび入力プリズムの
間で配置されているレンズなしでさえ、この種の導波管が標準のカメラ・レンズ
を使用しているカメラ324に撮像されることができる結合プリズム321によ
る導波管の出力で、イメージを生産するためにコヒーレントでなく反射されたモ
ノクロもしくはカラー波頭を映するだろうことを示す。接触面312aと接触す
る対象物(例えば指)の反射によって導波管に導入される像は、同じメカニズム
によって撮像される。必要に応じて、ShonoおよびInuzukaによって
教示されるように、マトリックス・シャッタ323のためのニーズは非常に薄い
パネル312および適当な結像系を使用することによって取り除かれることがで
きる。
【0077】 図16に、ここで戻って、ヒューマンマシンインターフェースの更なる他の実
施例は、参照番号510によって一般に指示される。本実施例においては、蛍光
体が非常に速く衰えるCRT(CRT)514が、パネル512の下に配置され
る。前記CRT514は、赤青緑(RBG)強度シグナルおよび像生成ロジック
535により出力されたXおよびY走査信号出力に応答して像を表示する。前記
像は、無視してよい減衰列を有する浮動CRTスポット511によって記述され
る。小さいポジティブな強度オフセットがRBG強度シグナルに加えられるため
、CRTスポット511は決して黒くならない。前記CRT514によって表示
される像は、レンズ533を経て前記パネル512に投影される。接触面512
aを見ると、パネル512に投影された像が見える。
【0078】 本実施例において、接触がパネル表面512aになされる領域で、パネル51
2に映される像を記述している浮動CRTスポット511は反射される。内面反
射の臨界角未満の入射角を有する反射光線は、パネル512の底面を通過して、
レンズ537によって集められる。内面反射の臨界角より大きい入射角を有する
反射光線は、パネルの軽微なエッジに、内面反射を通って伝播する。レンズ53
7によって集められる前記光は、3のフォトダイオード524上へ、赤緑青フィ
ルタ(図示せず)を通って集光される。RGBチャンネルの反射率(すなわち入
射光に対する反射光の比率)は像生成ロジック535から受け取れるRGB強度
シグナルによってRGBフォトダイオード出力信号を分割するシグナル分割器5
39によってリアルタイムにおいて算出される。パネル512の後ろのエリアが
遠くて一般に非反射性であるので、ユーザーの指が接触面512aに接触してい
るか又は僅かに上にある場合を除き、シグナル分割器539により出力されたR
GB反射は0(黒い)である。
【0079】 示されているように、シグナル分割器539によって出力されるRGBシグナ
ルは回路550に通過し、この回路は、グレースケールイメージを発生するため
に正しい比例においてRGB像を一つに結合する。前記グレースケールイメージ
は、それから画像解析ソフトウェア530によって処理される前にフレームグラ
バ528へ運ばれる。接触領域に対応する前記グレースケール反射は、以前の実
施例で記述されているピクセル値強度と同じである、そして、したがって、画像
解析ソフトウェア530によって直ちに認識できる。あるいは、RGBシグナル
は、VLSIビデオプロセッサ551に発送されることができる、それはRGB
シグナルをクロマキーするかそれらのコントラスト、ペデスタルおよび色バラン
スを変化させ、ユーティリティーを特定の方法で改良することができる。たとえ
ば、人間の皮ふは赤い領域においてより反射する。その一方で、パネル512の
接触面512aのオイルマークは青い領域においてより反射する。RGBシグナ
ルの赤オレンジ領域のクロマ−キーイングは、したがって、この種のマークを異
ならせるのを助けることができる。前記RGBシグナルは、それから回路550
によってグレースケールイメージに変換される。回路550から、グレースケー
ルイメージは画像解析ソフトウェア530によって処理される前にフレームグラ
バ528へ運ばれる。ビデオプロセッサ551による色プロセシングが所望でな
い場合、RGBフォトダイオード537は直接グレースケールイメージを発生す
る単一のフォトダイオードに置換することができる。この配置によれば、回路5
50と同様にシグナル分割器539のうちの2つを除去されることができる。基
本の色プロセシングは、一つのフォトダイオードの上の所望の帯域通過特性を有
するカラーフィルタを配置することによって提供されることができる。
【0080】 パネル512に映される前記像は、独立した領域を識別してもよくておよび/
または指定された制御コードが割り当てられるグラフィック対象物を示してもよ
い。このように、パネル512の領域に成された接触又は接触面512aに見え
るグラフィック対象物は、ヒューマンマシンインターフェース510により出力
された特定の制御コードに結果としてなる。
【0081】 CRTが本実施例においてパネル512の方へ光を放射するために用いられる
ので、CRT蛍光体の減衰が遅い場合、反射率計測の精度はグレードを落される
。この場合、あらゆる瞬間でRGBフォトダイオード524で測定されるシグナ
ルは、下式であらわされる:
【数6】
【0082】 ここで、Vは瞬間的なフォトダイオード信号であり;tは、時間である;それ
は、時間t=0でのCRTスポットからの最初のエネルギーインシデントである
;rtは、動いている点の又はエネルギーを受け入れている表面より上のパーセ
ント反射率である;0<g(t)<1は、蛍光体の時制の減衰機能である;そして
、Tは強度がなんらかの最低値に減衰しなかったCRT上の以前のスポットの数
である。
【0083】 パネル512が遅い蛍光体減衰を有する典型的商用のCRT514から光によ
って放射されることである場合、それは蛍光体減衰の遅鈍を補償するのに必要で
ある。上の式(6)によれば、適当なロールオフ特性を有するアナログ・ローパ
スフィルタを使用しているシグナルVを微分することによって時間t=0で新規
なCRTスポット511によってなされるVに対する貢献(I0×R0)を算出
することが可能である。I0がロジック535を生成している像からの周知のデ
ータ入力であるので、CRTスポットによって照らされる点の反射率はI0によ
って単純な分割によってリアルタイムにおいて計算されることができる。
【0084】 ところで図17aを参照して、ヒューマンマシンインターフェースの更なる他
の実施例は、本発明によれば示されて、参照番号610によって一般に指示され
る。以前の実施例と同様に、遅い減衰蛍光体を使用している市販のCRT614
は、像をパネル612に映す。前記CRT614は、ビデオ供与源651からの
RGB強度シグナルおよびXY走査信号を受け入れて、パネル612全体のCR
Tスポットをスィープし、像を記述する。前記ビデオ供与源651も、ピクセル
時間によって同期するクロック信号を発生する。
【0085】 図16の実施例と異なって、レンズ513はCRT614がパネル612への
近接した隙間を介して置かれることができるように省略される。理解されるよう
に、CRTおよびパネル間の垂直線間距離は図17aにおいて誇張される。プラ
スチック653の薄いシートは、CRT614およびパネル612の間に挿入さ
れる。プラスチック・シート653の表面のうちの1つは、フレネルレンズ、小
さいレンズの配列又はその上のホログラフィック光学素子、のいずれかを有する
。前記レンズ、レンズ又はホログラフィック光学素子は、CRTスポットからパ
ネル612上の点まで、照度を集中させるように設計されている。
【0086】 パネル612にCRT614を近接させることはレンズ537の使用を排除し
、パネル612の接触面と接触する対象物によって反射される光をRGBフォト
ダイオードの上へ集光させる。したがって、接触面612aと接触して対象物に
よって反射される光を収集するために、RGBフォトダイオード655は、パネ
ル612の横縁に沿って配置される。この場合、RGBフォトダイオード655
は、パネル612において内部で反射される接触面612aと接触して、対象物
によって反射される光を収集する。本実施例において、2つの方法が、RGBフ
ォトダイオード・シグナルを処理するために備えられる。参照を簡略化するため
に、1の色チャンネルだけのためのサーキットリが示される。
【0087】 最初の方法において、RGBフォトダイオード出力信号は微分回路657へ運
ばれる。そして、それは残余減衰成分からRGBシグナルの現在のピクセル成分
を切り離す。CRT614からの定数照度の下で、RGBフォトダイオード65
5にストライクしている光の強度は、パネル612の範囲内で異なる経路の長さ
に応じて変化してもよい。しかしながら、これらの変異は、乗法的補正率をパネ
ル612上のCRTスポット像の各XおよびY位置のためのRGBシグナルに適
用するためにLUTsを使用することによってキャンセルされることができる。
【0088】 使用の前に、ヒューマンマシンインターフェース610はパネル612の増倍
率(multiplication factor)のアレイを得ることによっ
て調整される。前記増倍率は、パネルによって変化する。調節は、パネル612
の接触面612aに対する一定の反射率(例えば白いプレキシガラス)を有する
表面を一時的に貼ることによってRGBチャンネルのために完了する。白い照度
の一定のスポットは、それからCRTスポットによってパネル上の各(X,Y)
点に適用される。各点のために、DC RGBフォトダイオード出力はデジタル
化される、そして、倍率補正要素が決定されて、RGB LUTs670に格納
される。そして、それはビデオ・データ・レートでアドレス指定を行われること
ができる。
【0089】 前記LUTs670は好ましくはROMに格納される。その結果、外部データ
ソースは必要でない。前記LUTs670は、CRTスポットがパネル612に
集中するときに、各ピクセルのための正しい赤緑青増倍率を出力するためにXお
よびY走査信号によってアドレッシングされる。デジタルアナログ変換器(DA
C)672は増倍率をアナログ形式に対する変換する。アナログ乗算器674は
、訂正を微分回路657によって出力されるアナログRGBシグナルに適用する
。シグナル分割器639は、RGBチャンネルの反射率を決定するためにビデオ
供与源651から受信されたRGB強度シグナルによって、修正されたRGBシ
グナルを分ける。
【0090】 アナログ微分回路657を使用している信号処理は、RGBフォトダイオード
・シグナルが、式(6)に示すように、全てのT以前のピクセルのトータル光減
衰シグナルの絶対値への依存である効果がある。しかしながら、式(6)は、異
なる減衰しているピクセルのためのパネル612の範囲内で、異なる経路の長さ
の結果として、異なる必要な倍率補正要素のための項を含まない。これらの間違
いは、微分回路657のローパスおよび高域特性を微調整することによって部分
的に修正されることができるだけである。
【0091】 RGBフォトダイオード・シグナルを処理するための第2の方法において、I
oはより正確に算出されることができる。そして、図17aの破線によって示さ
れる代替電子的経路を使用する。以下、本実施例において、以下に説明するよう
に、オペアンプ680が、チャージ保存回路682によって計算される倍増率を
含む総合減衰シグナルをIoから減ずる。増幅器680によって出力される前記
シグナルは、したがって、より正確に現在のピクセルのRGB強度値を表現する
。これらの強度シグナルは、前述したように、アナログ乗算器674によって修
正される。
【0092】 乗算器674の前記修正された出力はチャージ保存回路682の動作を制御す
る。そして、それは電気チャージ保存ネットワーク682aによるフィードバッ
クループにおいて接続されるオペアンプ682bから成る。前記ネットワーク6
82aは、抵抗器、コンデンサ、誘導子および他要素を含んでもよくて、減衰が
カーブする積分器がRGB蛍光体のそれらと一致するように、オペアンプ682
bと連動して動くために構成される。それぞれチャージ記憶コンデンサ(図示せ
ず)を有する前記ネットワーク682aは、積分器のチャージ収納機能を提供す
る。電源がヒューマンマシンインターフェース610に適用されるときに、CR
T上の最後のTピクセルが黒かったと推定される、そして、記憶コンデンサの初
充電はしたがって、ゼロである。
【0093】 チャージ・ジェネレータ684は、チャージ記憶コンデンサに、チャージqR
、qGおよびqBを注射する低インピーダンス出力を提供する。これらのチャー
ジは、アナログ乗算器674によって生成される出力信号電圧に正比例する。乗
算器674の出力が安定値に定まるときに、前記チャージ・ジェネレータ684
はピクセル時間の終わりの前に、時間のインターバルだけの間、これらのチャー
ジを注入するためにピクセル・クロックによって計時される。それで、チャージ
保存回路は、全ての以前の減衰しているピクセルの強度に等しい瞬間的なシグナ
ルを計算する。各入力チャージは乗算器674によって修正される、そして、そ
れゆえに、トータル出力信号は経路の長さ差のために修正される。
【0094】 先に述べた通りに、シグナル分割器639は、RGBチャンネルの反射率を決
定するためにビデオ供与源651からRGB強度シグナルによって計算されたR
GBシグナルを分ける。前記RGB反射率シグナルは、それから以前に記述され
ている方法で処理される。
【0095】 前記RGBフォトダイオード655は、パネル612の範囲内で単に内面反射
だけによる光を受信する。内面反射の規則のために、パネル612の上面と接触
ない指の部分から下方へ反射された光線は一切内部で反射されない。その代わり
に、それらは下方へパネルを通り抜けて、下にあるCRTによって吸収される。
したがって、分割器639により出力された反射シグナルは、パネル612の上
面と接触しない指の部分のためのデータを含まない。このデータなしで、画像解
析ソフトウェア530は、指の先端の場所を決定することができなくて、それゆ
えに、指によってパネル612に印加される剪断力を決定することができない。
この状況は、図17bに示すように非常に微細に磨かれたトップの表面又は半透
明のきめのある表面コーティングを有するパネル612を使用することによって
修正されることができる。図示されるように、パネル612の磨かれ又はコーテ
ィングされた表面は表面が水平に関してtの角度を形成する多くのローカル微細
カーブ領域692を含む。これらの領域692で、指(それはパネル612の接
触面と接触してない)の部分614から反射される光線690は、全反射に結果
としてなっている角度でパネル612に入ることができる。光線694のように
前記光線690は、RGBフォトダイオード655にぶつかる。理想的には、角
度tが小さいために、表面特性は制御される。
【0096】 図18〜21に、ここで戻って、ヒューマンマシンインターフェースの更なる
他の実施例は、参照番号710によって一般に指示される。示されているように
、ヒューマンマシンインターフェース710はパネル712に光学上連結するパ
ネル712およびホログラフィック・スキャナ740を含む。前記ホログラフィ
ック・スキャナ740は、図の平易のためにパネル712に関して拡大される。
指715は、領域716でパネル712の上面712aと接触してある。前記ス
キャナ740は、表面712aを横切るラスター・パターンに光を導く。前記ラ
スター・パターンは、異なるY座標を有するX方向の複数の平行線を含む。スキ
ャナ740は、より携帯型、フラット・ヒューマンマシンインターフェースをつ
くって、CCD又はCMOSカメラのためのニーズを取り除くためにoff−a
xisプロジェクタとして構成される。ホログラフィック・スキャナの実施例は
、米国特許番号4,593,967で記述されている。
【0097】 前記スキャナ740は、近赤外域の光のビームを発しているモノクロの光源7
41を含む。前記光ビームは、ビーム調整オプティックス741bを通過し、薄
い、コリメートされた平面波ビーム743を発生させる。前記平行ビーム743
はそれから741cホログラフィック光学素子(HOE)を通過する。そして、
それは短波長位相変動によって生じるビーム変異を修正する。前記ビーム743
は、それからビームスプリッタ742を通過して、図19aの、そして、それか
ら一定の光学素子上の拡大図に示される環状の回転複合光学素子730を打つ。
回転及び固定の光学素子は、ラスター・パターンのパネル712全体のビーム7
43をスキャンするように機能する。
【0098】 前記複合光学素子730は、3つの間隔を置かれた、環状の、多面的なHOE
s731、734および736を含む。前記HOEsは、適切な透過的材料でで
きているディスク基板732および735に植えつけられるか、押されるか又は
マウントされている。環状の金属的な分離環733は、HOE731およびHO
E734間に一定の距離を維持する。HOEs間のY方向の距離が図19aにお
いて非常に誇張されるていることはいうまでもない。ディスク材料の独立した層
に複数のHOEsを含んでいる複合光学素子は、公知技術である。たとえば、米
国特許第5,471,326号は三次元領域の放射状の走査をつくるために複合
光学素子を開示する。前記複合光学素子730は、モータ720によって回転さ
せられる軸725にマウントされる。
【0099】 固定光学素子は、ブラケットによって適所に保持される一対の間隔を置かれたH
OEs737および738を含む。HOE738がHOE736およびパネル7
12の間に位置すると共に、HOEはHOEs731および734の間に位置す
る。
【0100】 本出願のコンテクストの範囲内で、用語ホログラフィック光学素子(HOE)
は、一般的な感覚において光学素子(すなわち、光手段によって発生される適切
な媒体干渉縞の記録によって作られる)の3つの一般のタイプのうちの1つを示
すために用いる;適切な媒体の記録によって作られるそれらは、コンピュータ制
御光源を使用している干渉縞を計算した;そして、それらは適切な媒体において
つくることによって印刷の又は関連した技術を使用している三次元状態構造を作
った。前記最後のHOE(一般に共通にバイナリ光学素子(BOE)と呼び出さ
れる)は、より高い伝送効率を提供する。
【0101】 図19bは、よりよくHOE731を図解する。図示されるように、HOE7
31は前記ラスター・パターンのX方針スキャンラインの前記所望の数に、数に
おいて等しい複数の回折格子770を含む。前記格子770は、環状の基板73
2の外側のエッジの近くで、環状アレイに配置される。各格子の大きさが基板の
大きさと比較して少ない限り、各格子の罫線ラインは実質的に格子を通過してい
る基板の半径に対して平行である。前記格子770は、米国特許第5,825,
523号で記述されていて、図20aにおいて図解される格子のような平行罫線
ラインを含む。隣接した罫線ライン間の前記距離は、格子機能G1(x)によっ
て与えられる。
【0102】 前記HOE737は、格子機能G2(x)を有する同じタイプの単一の格子で
あって、格子770に関して放射状に整列配置される。
【0103】 米国特許第5,825,523号において教示されるように、ビーム743が
格子770および737を通過するときに、そして、格子770が図20aの暗
い矢印によって示される線形方向にdxによってトランスレートされるときに、
HOE737が、図20bに示されるように、角度qによりビーム743を偏向
させるトランスレートの1ミリメータにつき10−20ラジアンオーダーの大き
い偏向は、回折が限定された精度によって可能である。したがって、小さい径の
光学ビーム743のために、HOE737上の格子770および格子は、役立つ
角偏向を発生しつつ、非常に小さく作られることができる。前記量dq/dxは
定数である。そして、それはHOEs、ビームの波長および特定の格子機能G1
(x)およびG2(x)間の距離dに依存する。HOEs731および737に
おいて、d、G1(x)およびG2(x)は、米国特許第5,825,523号
において教示される式によって選ばれ、これにより次の隣接した格子770に対
する1の格子770からの基板732の回転の間、ビーム743がX方向のパネ
ル712全体の必要距離を横切る。次の隣接した格子770がビーム743を従
事する瞬間で、ビームはその起動X−ポジションへスナップバックする。
【0104】 HOE734は、図19cにおいてよりよく図解されて、同様に基板735に
植えつけられるか、押されるか又はマウントされる複数の回折格子771を含む
。格子771の前記数は、X方向の平行スキャンラインの所望の数に等しい。前
記格子771は、格子770と一致するために整列配置される。格子771は、
また、米国特許第5,825,523号で記述されているタイプであって、格子
機能G3(x)を有する。図19cに示すように、格子771は格子770の罫
線ラインに関して、90度回転させられるそれらの罫線ラインの角度で、環状の
基板735の外側のエッジの近くで、放射状に配置される。各格子771の大き
さが基板735の大きさと比較して少ない限り、各格子771の罫線ラインは実
質的に格子を通過している基板735の半径に対して垂直である。
【0105】 前記HOE736は、基板735の反対の表面に、同様に植えつけられるか、
押されるか又はマウントされる。HOE736は、HOE734と同じ回折格子
の数を有し、格子機能G4(x)を有する。HOE736上の前記格子は、HO
E734上の格子と一致するために整列配置される。それで、米国特許第5,8
25,523号において教示されるように、HOEs734および736は複数
の格子対を提供する。
【0106】 HOE734の格子771がHOE736のその対応する格子に関して、一定
量dzによってZ方向で表現されることができる場合、格子を通過しているビー
ム743はYZ平面の同位角djで回転させられる。前記一定の量dj/dzは
、基板735、ビーム743の光の波長および特定の格子機能G3(x)および
G4(x)の厚みに依存する。しかしながら、格子対が基板735に永久に固定
されるので、本発明において、この種のトランスレーションは可能でない。した
がって、スキャナ740において、各格子771の格子ラインパターンは、僅か
に以前の格子771と異なるために作られる。より具体的には、ビーム743の
遠近法から、各連続した格子パターン771は、量dz.によって以前の格子7
71のリニア翻訳から生じるパターンを表現する。加えて、化合物光学素子73
0の1の完全な回転の間、ビーム743が、シーケンシャルに全ての格子771
を通過した後に、正確にスキャンラインの最も近い終わりから、スキャンライン
の最も遠い終わりまで、表面712a全体のY方向の距離を横切るために、基板
735の厚みおよび格子機能G3(x)およびG4(x)は選ばれる。
【0107】 スキャナ740の通常動作において、モータ720は、一定の角速度で回転し
、このことにより、コンパウンド光学素子730は回転し、それにより、ビーム
743は、パネル712に渡ってY方向に沿って僅かに異なる場所でX方向の複
数のNスキャンラインをトレースする。各々のNスキャンラインのために、最初
のビーム743は、ディスク731上の可動格子770および固定されたHOE
737上の回折格子によって構成される格子の最初の対を通過する。HOE73
7上の格子に関する格子770の前記運動によって、X次元の角度qによる走査
のためのビームを生じる。このX方向において走査すると共に、ビーム743は
格子737およびHOE734間の小さい区切りを横切る。前記ビームは、それ
からHOEs734および736上の整列配置された格子の対応する対を通過す
る。この対応する対の前記格子ラインは、ビームが走査されるX方向に対して実
質的に平行である。したがって、モータ軸725の回転によるHOEs734お
よび736の運動は、ビームにおいてX方向の付加走査運動誘導しない。しかし
ながら、Y次元のビームの固定された偏向は、各連続した格子771のための格
子ライン・パターンの上述した差によって発生する。
【0108】 HOEs731、734又は736のうちの1つ以上は、また、回折格子77
0の環に同心の環の基板に植えつけるか又は押される複数の暗いマーク772を
含む。これらのマークは、あるモータ720の速度を示しているクロック信号を
発生する電気光学(図示せず)によって読む。モータの前記速度は、一定のクロ
ック周波数を発生するために閉ループ・サーボシステム(図示せず)によって制
御される。
【0109】 理解されるように、(モータ軸725が一定の角速度でモータ720によって
回転させられる場合)、ホログラフィック・スキャナ740はビーム743にお
いて一定の角速度を有するが可変線速を有するX方向の直線走査を発生させる。
しかしながら、走査が一定の線速で発生することは、望ましい。一般的に、f−
Theta光学レンズは必要訂正を獲得することを必要とする。そして、それは
「f−Theta」訂正と呼ばれる。図18の実施例において、ビーム743は
パネル712(レンズで集中することの代わりに)に、直接ぶつかる。したがっ
て、f−Theta光学レンズを使用することよりむしろf−Theta訂正を
適用するための代替方式を使用することは、より実際的である。本実施例におい
て、f−Theta訂正は、格子機能G’1(x)の新規なセットを発生するた
めに全ての格子770のための同一の方法の格子機能G1(x)を変更すること
によって印加される。格子機能の前記新規なセットは、一定の線速、しかし、可
変角速度を有するビーム走査に結果としてなる。あるいは、f−Theta訂正
は、HOE737の後、配置される独立したHOE(図示せず)に組み込まれる
ことができる。
【0110】 ホログラフィック・スキャナ740がoff−axisであるビームを有する
パネル712をスキャンするので、「キーストーン」効果は導入される。その結
果、X方向において必要な角走査偏向の量は、Y方向の与えられたスキャンライ
ンの場所に従い変化する。したがって、各格子770のための格子機能G’1(
x)は、更に与えられたY位置のための適当なX走査偏向を提供する各格子77
0の為の新規な格子機能G’’1(x)を発生するようにされる。G’1(x)
は全ての格子770で同一である、しかし、G’’1(x)は各格子770のた
めに異なる。
【0111】 あるいは、X走査方向のための必要台形補正(keystone corre
ction)機能は、HOE738の後、配置される独立したHOE(図示せず
)に組み込まれることができる。この独立したHOEにおいて、ビーム743が
HOE(Y次元の異なるスキャンラインに対応する)にぶつかるZ方向の各位置
のための拡張の異なる程度については、X方向のビーム743の角偏向は、必要
に応じて拡張される。
【0112】 Y走査方向のための類似した訂正は、スキャンラインがY次元の各々から等距
離のことを確実にするためにいずれのG3(x)も又はG4(x)に適用される
【0113】 理解されるように、ホログラフィック・スキャナ740(それはY次元におい
てより顕著である)のoff−axis性質は楕円に走査ビーム743の所望の
環状のプロファイルを延長する。楕円の前記長軸が次元2r/cos Jを有す
るY方向に位置する。ここで、rは走査ビームの環状のプロファイルの半径であ
る、そして、jは走査ビーム743および交点の間際に接触面712aに垂直の
ライン間の角度である。それがパネル712にぶつかる前に、アナモルフィック
・レスポンス関数を有する付加固定されたHOE738はしたがって、Y次元の
ビームを圧縮するために提供される。ビーム圧縮の量がビーム743がHOE 73
8にぶつかるZ次元の位置に依存するために、前記HOE738は作られる。そ
の結果、HOE738は正しくY次元の各可能な偏角のためのビームを圧縮する
。HOE738の設計を単純化するために、最も近い光線750および最も遠い
光線760間の角度jの範囲が制限されることは、望ましい。前記HOE738
は、したがって、限られた範囲のアナモルフィック訂正を発生することを必要と
する。X方向のビーム743のなんらかの延長がまたあるけれども、これは、H
OE738の変換関数において、X次元のビーム圧縮の一定量を提供することに
よって修正されることができる。そして、それはビーム743がHOE738に
ぶつかるX次元の位置に依存する。
【0114】 ヒューマンマシンインターフェースが大きい場合、光学ビーム743が逸脱を
開始し始め、望ましくなく大きい画素を発生するという点で問題は起こる。この
問題を処理するために、付加レスポンス関数は、ベッセル・ビーム・プロファイ
ルにビーム743のプロファイルを変換するためにHOE738に加えられるこ
とができる。ベッセル・ビームは、非常により長い光学距離の上の定数であるよ
り小さいスポットサイズを呈する。米国特許第5,336,875号は、ビーム
をベッセル・ビームに変換するためのホログラフィック光学的方法を開示する。
前記ベッセル関数は、HOE738の後、配置される他のHOE(図示せず)に
よって、代わりに出力されることができる。
【0115】 HOE738を通過した後に、パネル712の底面712bを経たパネル71
2に入る前に、ビームは任意のHOE713を通過してもよい。一度パネル71
2内に入ると、ビームはトップの表面712aを打つ。ビーム743が表面71
2aと接触する領域716で又は表面712aと接触する指715の領域以外で
指715にぶつかるときに、光が反射されて、全方向でパネル712に入る。い
くつかの光は、複合光学素子730を通して、ビームスプリッタ742に復帰す
る。前記復帰された光は、それからフォトダイオード745の方向を目指す。フ
ォトダイオード745の前記出力は、以前に記述されている画像解析ソフトウェ
アによって、プロセシングに適している一連のピクセル・データを表現している
シグナルを発生するために増幅される。上述の暗いマーク772は、表面712
a上のピクセルの場所を特定しているクロック信号を発生する電気光学(図示せ
ず)による読取りである。
【0116】 前記フォトダイオード745は、より有利な動作を提供するために他の場所に
置かれてもよい。たとえば、フォトダイオード745およびビームスプリッタ7
42は、HOE738および両者間にHOE738および表面712bの近くに
配置されてもよい。復帰した光線は、それからスキャナ740の光学部品を通過
することなくフォトダイオード745にぶつかる。この位置において、フォトダ
イオード745は反射光の実質的により大きい部分を受信する。そして、より高
いSN比に結果としてなる。
【0117】 あるいは、図17の実施例にて説明したように、フォトダイオード745はパ
ネル712のエッジへの近接して置かれてもよい。この位置において、ビームス
プリッタ742は除去される。そして、それによって光量を表面712aにぶつ
かる光源741から増やす。しかしながら、この位置において、フォトダイオー
ド出力は、画像解析ソフトウェアによってプロセシングに適している形式にフォ
トダイオード出力を配置するため、図17の実施例に記述されている経路の長さ
補正率を掛けられなければならない。トップの表面712aが図17の実施例に
関して記述されている方法で修正されない限り、本実施例における画像解析ソフ
トウェアが剪断力を決定することができないことはいうまでもない。
【0118】 前記フォトダイオード745は、また、上方を向く底面712bの下に直ちに
配置されてもよい。この位置において、フォトダイオードが指で反射した光線の
大部分が受信するという理由から、ビームスプリッタ742は省略されることが
できる。この配置において、フォトダイオード745も図17の実施例に関して
記述されている方法のパネル712の表面712aを変えることなく、接触およ
び非接触の領域から反射される光線を受信する。しかしながら、この位置におい
て、フォトダイオード出力は、照らされた指およびフォトダイオード表面間の角
関係に依存する。前記フォトダイオード出力は、画像解析ソフトウェアによって
それをプロセシングに適している形式に入れるためにそれにパス角度補正率を掛
けることによって修正されることができる。この訂正は、図17の実施例に関し
て記述されている経路の長さ訂正方法と同一の手段を使用する。
【0119】 単一のフォトダイオード745の代わりに、パネルの底面712bの直下に配
置され上方を向く第2のフォトダイオードと共に、第1ののフォトダイオードが
パネル712のエッジへの近接して使われることができる。この配置は、上で議
論される利点を提供する。第1のフォトダイオードによって提供されるシグナル
が接触領域716だけに関するという点で、この配置も更なる利点を提供する。
その一方で、第2のフォトダイオードのシグナルから、第1のフォトダイオード
のシグナルを減ずることによって引き出されるシグナルは指の非接触の領域だけ
に関連がある。両方のシグナルのデータが画像解析ソフトウェアによって処理さ
れるときに、指715によってパネル712に印加される剪断力のより正確な計
算は可能である。
【0120】 好適な実施例において、スキャナ740は表面712bの近くに、そして、図
19aにて図示したように、角度off−axisで状態にある。そして、それ
によってフラットな装置をつくる。しかしながらスキャナ740および底面71
2b間の光学通路を長くするためにパネル712の下で一対のフォールディング
ミラー(図示せず)を取り入れることが可能である。前記折りたたんでいるミラ
ーは、最も近い光線750および最も遠い光線760間の焦点深度を非常に減少
させる。その結果フォールディング・ミラーは、スキャナ740および表面71
2b間に付加レンズ(図示せず)の移入を許可し、パネル上の点にビーム743
を結像させる。その場合、HOE738のベッセル変換関数は、除去されてもよ
い。
【0121】 フラットな装置が必要でない場合、スキャナ740はパネル712の中心を通
過している光軸上の遠い位置に配置することができる。この場合、ベッセル、キ
ーストーンおよび以前に記述されているアナモルフィック訂正の全てが除去され
てもよいこと、そして、スキャナ740および表面712b間に付加レンズ(図
示せず)が、パネル712への点にビーム743を結像させるために用いられて
も良い。
【0122】 前記HOEs731、734、736、737および738は、非常に安いコ
ストで大量生産されるものであってもよい。一般的に、前記回折格子の前記パタ
ーンは、数学的に決定されて、直接コンピュータ制御レーザー又は電子ビームを
使用しているマスタ光記憶装置媒体に書き込まれる。前記マスタは、それから従
来技術においてそれらにとって周知の手段によって複製されてもよい。前記HO
Es731、734、736、737および738は、バイナリ回析光学素子(
例えば米国特許5,477,38および5,448,403で記述されているそ
れら)であっても良い。バイナリ回析要素として、フォト・マイクロ・リソグラ
フィ又は集積回路を生産するための類似した方法が、三次元表面を有するマスタ
を生産するために用いる。前記マスタが、HOEsを大量生産するための型とし
て使われる。
【0123】 前記走査の前記精度は、前記パネル712の前記底面712b上に付加HOE
713をインプリンティング、押し付け若しくは取り付けることによって改良さ
れるかもしれない。前記HOE713は、図19dで示す回折格子780のマト
リックスを含む。前記ビームが前記パネル712に入るように、各々の回折格子
780は前記ビーム743を変えることによって前記パネル712に映される前
記像の前記特性を改良するように設計されている。すなわち、ビームは接触面7
12a上の所望の点の方へより正確にさらに集光され、成形され、方向付けされ
ることができる。
【0124】 たとえば、アナモルフィックHOE738は、ビームがHOE713にぶつか
るときに、X次元において伸びている小さいラインに、ビーム743のプロファ
イルを圧縮する単純な円柱レンズと取り替えられることができる。前記回折格子
780は、それから直角定規ピクセルを表面712aの上に形成するために適当
な量(それは、回折格子780の位置に依存する)によって、Y次元のビームを
拡張することができる。回折格子780(713が一連の帯番組ホログラムの中
で含んでもよいHOE)のマトリックスの代わりに、それぞれはX方向の表面7
12b全体に伸びる、そして、それは全ての表面をカバーするためにY次元にお
いてスタックされる。ビーム743の特定のトランスフォーメーションのために
、表面712b全体のビーム743のトランスレーションがX次元において連続
するので、X次元において連続する片ホログラムはより良い結果を提供するだろ
う。この場合、HOE713は片ホログラムの垂直スタックを含んでもよい。前
記HOE713は、また、パネル712の底面712bに取り付けられる単一の
大きいホログラム又は回折格子を含んでもよい。
【0125】 前記HOEs731、737、734、736および738は、また、スペク
トラムの可視域の光のために最適化される回折格子774の第2の類似した連続
を含んでもよい。HOEs731、734および736の場合、第2の回折格子
は、同心の回折格子770の環および環の内部に配置される。図21aは、格子
774の第2のリングを図解する。この第2のリングが事実HOEs731、7
34および7に含まれる格子の環の各格子に対応する1の格子を含む複合環であ
ることは、しかしながら理解される前記第2のリングは同様のラスタースキャン
をつくる、しかし、可視域の光のために設計した格子を使用する。前記ヒューマ
ンマシンインターフェース710もこの場合速くスイッチで切り替えができる第
2の光源(図示せず)を含む。そして、それは格子774に当たる可視の、平行
にされたモノクロの照明を発生する。軸725が複合光学素子730を回転させ
るときに、この第2のリングは表面712aに可視光の第2のラスタースキャン
を発生する。像のビデオ信号を有する可視の光源を調整することによって、像は
接触面712aに現れる。この配置は、像が低付加コストで表面712aに映さ
れることができる。前記像は、パネル712上の異なる機能の範囲を定義してい
るマップを含んでもよい。フルカラー像がまた、単一の第2の光源に連結する1
の環よりむしろ赤緑青のモノクロの光源に連結する3つの環を使用することによ
って発生されることができることはいうまでもない。
【0126】 第2の複合回折格子774の同心の環が使われるときに、任意のHOE713
は図21bで示す回折格子780の直交マトリックスを含む。回折格子780の
マトリックスの各行782は、回折格子784および786の上下のsub−r
owsを含む。回折格子の各上のsub−row784は、回折格子770のう
ちの1つと関連する。回折格子の各下段のsub−row786は、回折格子7
74のうちの1つと関連する。回折格子の各々のsub−rows784および
786は、2の光源のうちの1の波長のために最適化される。光の各波長のため
に、適当な同心の環は、適当な行に対する光およびマトリックスのsub−ro
w(サブ列)の点を導く。いうまでもなく、この場合、表面712aの各ピクセ
ル789のための2の回折格子787および788がある、そして、図21bに
示すように、回折格子はしたがって、少なくとも一つの次元において圧縮されな
ければならない。回折格子787および788の各対の前記光学関数は調整され
、それによって両方の格子が表面712aの同じピクセル789に映される。前
記任意のHOE713は多くの片ホログラムを含んでもよい。その場合には、各
片は、2の光源のうちの1の波長のために最適化される上下のsub−stri
p(サブ片)を含む、そして、全体ピクセル上にイメージするために調整される
【0127】 理解されるように、回折格子774の3つの環を提供することによって、複合
光学素子730はパネル712の上へ目指す赤外線走査ビームと同様にフルカラ
ー像を生成する。必要に応じて、スキャナ740がプロジェクタもon−axi
s又はoff−axis像として使われてもよいか又は接触検知なしで機能する
【0128】 図22aおよび22bは、本発明によるヒューマンマシンインターフェース8
10の更なる他の実施例を示す。図示されるように、ヒューマンマシンインター
フェース810はXYラスター・パターンのパネル表面全体にスィープされる光
のスポットを有するパネル812の上面112aをスキャンするためにスキャナ
840を含む。本実施例において、スキャナ840はX−次元スキャナ840a
そして、Y−次元スキャナ840aを含む。指815は、領域816でパネル8
12の接触面812aと接触して示される。前記スキャナ840は、近い赤外域
の光を好ましくは発しているモノクロの光源841を含む。前記光は、ビーム調
整オプティックス841bを通過し、薄く、平行化された、平面波ビーム843
を生成する。前記平行ビームはそれからHOE841cを通過する。そして、そ
れは短波長位相変動によって生じるビーム変化を修正する。前記ビーム843は
、それからX次元スキャナ840aに入る前にビームスプリッタ842を通過す
る。スキャナ840aは、米国特許第5,825,523号で記述されているタ
イプの、そして、以前に図18の実施例に関する2つの回折格子831および8
37を含む。前記格子831および837は格子機能G1(x)およびG2(x
)を所有して、それらの格子ラインが垂直であるように方向付けされる。格子8
31は、電子的アクチュエータ・ドライブ回路851(図23を見る)に応答し
て、往復型アクチュエータ850aによって格子837を通じて水平にトランス
レートされる。電気信号がアクチュエータを駆動するときに、それは水平方向の
格子831の比例した変位dxを発生する。前記変位dxによって、前記ビーム
843の水平偏向dqが生じる。
【0129】 前記Y次元スキャナ840bは、スキャナ840aからのビーム843を受信
して、更に2つの回折格子834および836を含む。格子837および格子8
34間の前記距離は小さいが、図22aおよび22bでは誇張された方法で表現
される。前記格子834および836は、格子機能G3(x)およびG4(x)
を所有する、そして、それらの格子ラインが水平であるように方向付けされてい
る。格子834は、アクチュエータ・ドライブ回路851に応答して往復型アク
チュエータ850bによって格子836を通じて垂直に翻訳される。
【0130】 本出願のコンテクストの範囲内で、用語「往復型アクチュエータ」は、小さい
回折格子の線形トランスレーションが生じることが可能なあらゆる装置を記述さ
れているために用いる。必要線形トランスレーションの前記速度および精度は、
ヒューマンマシンインターフェース810の所望の大きさ、解像度および速度に
依存する。したがって、用語「往復型アクチュエータ」は、ヒューマンマシンイ
ンターフェース810の特定の実施例のための設計要件を満たす圧電、elec
trostrictive、magnetostrictive、ボイスコイル
、電気機械又は他のタイプの往復型アクチュエータを指す。更に、X次元スキャ
ナ850bにおいて使用する往復型アクチュエータ850aは、Y次元スキャナ
840bにおいて使用する往復型アクチュエータ820bとは異なるタイプであ
っても良い。スキャナ840bを出た後の前記ビーム843はHOE838を通
過する。そして、先に述べた通りに、それは図18の実施例に関してベッセル・
ビーム・プロファイルにビーム843のプロファイルを変換する。
【0131】 前記ビーム843はそれからHOE839に入る。そして、先に述べた通りに
Y次元のビームを圧縮するために、それはアナモルフィック・レスポンス関数を
提供する。出力されるビーム圧縮の量がビーム843がHOE839にぶつかる
Z次元の位置に依存するように、前記HOE839は作られる。そして、それに
よってY次元の各可能な偏角のための正しいビーム圧縮を提供する。HOE83
9の設計を単純化するために、YZ平面の走査角度jの範囲が制限されることは
、望ましい。X次元のビーム843のなんらかの延長がまた、ある、これはある
ことができる修正されたによってビーム843がHOE839にぶつかるX次元
の位置への被支配頂であるX次元のビーム圧縮のHOE839の一定量の変換関
数の提供する。
【0132】 本実施例において、パネル812はフォールディング・ミラー870および8
71を含む。前記スキャナ840は、フォールディング・ミラー871の角度に
対してYZ平面のわずかな正の角で方向付けされる。
【0133】 以下、図22a〜図22dを参照してフォールディングミラー870及び87
1について説明する。透明性の上に横たわるように、図22aおよび22bはビ
ーム843の個々の折り目セグメント872〜875を示す。その一方で、図2
2cおよび22dは開いたビーム843の個々の折り目セグメント872〜87
5を示す。それがフォールディング・ミラー870および871によって囲まれ
る空間で移動するように、図面のセグメント872〜875が時間にわたって集
積化される走査ビーム843の軌跡を表現するために用いることはいうまでもな
い。あらゆる与えられた瞬間で、ビーム843は非常に薄い光線である。
【0134】 ビームがフォールディング・ミラー870の下で通過して、フォールディング
・ミラー871にぶつかるときに、走査ビーム843の前記第1の折り目セグメ
ント872は発生する。ビームがフォールディング・ミラー870の方へフォー
ルディング・ミラー871から反射され返されるときに、前記第2の折り目セグ
メント873は発生する。870がフォールディング・ミラー871の方へ逆行
させるフォールディング・ミラーから、ビームが反射されるときに、前記第3の
折り目セグメント874は発生する。図22bおよび22dの側面図のために、
位置および折り目セグメント874の大きさはビームに他折り目セグメントと重
ならせる、そして、それは図22dの分解図だけにおいて可視である。前記第4
の折り目セグメント875は、ビームが、フォールディング・ミラー871から
、パネル812の底面812bに、そして、それからそのトップの表面812a
に当たって反射するときに発生する。図22aおよび22cのXY平面の折られ
たビームの角度がY次元位置が表面812aの左端に最も近いラインのための正
しい角度であることはいうまでもない。表面812aの右方のエッジの近くのラ
イン877のために、図22dの三角形876の頂点は、折り返されたビームの
増加する角度を表現する。
【0135】 前記フォールディング・ミラー870および871は、角偏向qによって弧に
対される全長およびスキャナ840によって走査ビーム743において導入され
るjを拡大する。前記フォールディング・ミラーは、したがって、より小さい角
偏向を使用している表面812aのより大きい範囲の走査を許可する。より小さ
い角偏向を使用することは、より小さい回折格子831、837、834および
836(より小さい線形トランスレーションおよびより速いトランスレーション
時間を有する往復型アクチュエータ850aおよび850bの使用と同様に)の
使用を許可する。加えて、フォールディング・ミラー870および871がかな
り光学通路を長くするので、それらはスキャナ840によって投影される最も近
くて最も遠い光線間の焦点深度を減少させる。したがって、レンズ(図示せず)
は、表面812a上の点にビーム843を映すためにスキャナ840およびフォ
ールディング・ミラー870の間に位置してもよい。この場合、HOEs838
および839は除去されてもよい。本実施例がビーム843を4つのセグメント
に折りたたむけれども、より多くの又はより少しのセグメントが表面812a又
は異なる走査速度の異なる範囲のために、都合よくつくられてもよいことはいう
までもない。小さい装置の場合、フォールディング・ミラーの使用は、完全に除
去されてもよい。
【0136】 フォールディング・ミラー870および871を通過した後に、ビームはパネ
ル812の底面812bに押すか、植えつけるか又は取り付けられる任意のHO
E813の(図示せず)を通過してもよい。HOE813の前記機能および可能
な配位は、上記したHOE713のそれらと同一である。
【0137】 X次元スキャナ840aおよびY次元スキャナ840bを駆動している前記ア
クチュエータ・ドライブ回路851は、図23に関して概要で記述されている。
当業者は、往復型アクチュエータ850aおよび850bを駆動するために、多
くの異なるタイプの回路が造られてもよいと認識する。前記回路851は、後述
するようにデジタル波-テーブル合成を使用する。この設計は、VLSI製作プ
ロセスに対するその適合性と同時に、その固有のシンプルさ、精度および柔軟性
のために、選ばれた。前記往復型アクチュエータ850aおよび850bは、閉
回路配位において制御されて、適切な位置のフィードバック装置およびサーボア
ンプに接続していて、基準信号として波−テーブル・シンセサイザからの出力を
使用している。
【0138】 図示されるように、回路851は、水平同期(HSYNC)シグナル、ピクセ
ル・クロック(PCLOCK)シグナル、そして、END−OF−frame(
EOF)シグナルを入力としてとる。HYSYNCシグナルは、X次元の各新規
なスキャンラインの初めに生成されるパルスである。PCLOCKシグナルは、
与えられたスキャンラインの各ピクセルの初めに生成されるパルスである。
【0139】 前記PCLOCKおよびHSYNCシグナルはピクセル・アドレスバス854
上のディジィタル・アドレスをそれぞれ提供するためにバイナリデジタルカウン
タ852および853を計時する。そして、それはフレームの各ピクセルのため
にユニークである。前記計数器853もライン・アドレスバス855上のディジ
ィタル・アドレスを提供する。そして、それは各スキャンラインのためにユニー
クである。
【0140】 ピクセル・アドレスバス854上の前記アドレスは、出力にピクセルメモリ8
56aにピクセル・データバス858上の格納された値を引き起こす。前記出力
値は、それからマルチプレクサ869およびデータバス858を経た速いデジタ
ル/アナログ(D/A)コンバータ860に適用される。前記D/A変換器86
0はそれからデジタル量をアナログ電圧に変換する。そして、折返し雑音を除去
するローパスフィルタ862によるフィルタリングの後、それはX次元電子回路
サーボアンプ864のための基準信号になる。実際問題として、前記ピクセルメ
モリ856aの前記大きさはN×Mである。ここで、Nはラインにつきピクセル
の前記所望の数である、そして、Mはフレームにつきラインの前記所望の数であ
る。ピクセルメモリ856aの各記憶場所はデジタル量Bビットの幅を有する。
ここで、BはX次元基準信号の正確さの所望のレベルを提供するために十分に大
きい。
【0141】 一般的に9<B<12である。
【0142】 ライン・アドレスバス855上の前記アドレスによって加入者メモリ857a
を引き起こす。そして、ライン・データバス859上の格納された値を出力する
。前記出力値は、それからマルチプレクサ869およびデータバス859を経た
デジタル/アナログ(D/A)コンバータ861に印加される。前記D/A変換
器861はそれからデジタル量をアナログ電圧に変換する。そして、折返し雑音
を除去するローパスフィルタ863によるフィルタリングの後、それはY次元電
子回路サーボアンプ865のための基準信号になる。実務的には、ピクセルメモ
リの大きさは、1フレームにつきMラインである。ピクセルメモリ857aの各
記憶場所はデジタル量bビットの幅を有する。ここで、bはX次元基準信号の正
確さの所望のレベルを提供するために十分に大きい。
【0143】 一般的に9<b<12である。
【0144】 前記アクチュエータ850a及び850bは、増幅器864および865の前
記それぞれのアウトプットに応答して、それぞれ位置センサ866および867
を含む。前記位置センサは、電気抵抗歪ゲージ、線形可変差動変圧器(LVDT
)、capacitativeな位置センサ、光干渉計測センサ又は前記所望の
精度および速度を提供するいかなるタイプのセンサーであればよい。異なる電子
部品(図示せず)が、サーボアンプ864および865のエラー入力に接続する
前に位置センサ866および867のアウトプットを処理するために要求される
。前記サーボアンプ864および865は、所望のパフォーマンスを提供するあ
らゆるタイプの中であってもよくて、それぞれ、アクチュエータ850a及び8
50bに、正しい電気駆動シグナルを供給してもよい。
【0145】 スキャナ840の通常操作において、、計数器852および853はHSYN
C及びPCLOCKシグナルによって駆動され、ピクセルメモリ856aおよび
加入者メモリ857aを生じ、データ・バス858及び859上にM×Nラスタ
ー・シーケンスX及びY次元ビーム位置データ値を出力する。これらのデータ値
は、前記増幅器864および865へ運ばれる前に順番にアナログ値に変換され
る。前記増幅器の前記出力は、前記往復型アクチュエータ850a及び850b
に適用される。これは、スキャナ840a及び840bの格子834および83
6の相対的な運動に結果としてなる。その結果、前記ビーム843は、ラスター
・パターンの前記表面812a全体に走査する。各々の完全なラスタースキャン
の終わりに、前記EOFシグナルは、それらのRST入力による前記計数器85
2および853の前記値をリセットして、新規なラスタースキャンを始めるパル
スを提供する。
【0146】 光走査ビーム843が指815に、表面812aの接触点816若しくは表面
812aと接触しない指815の領域のどちらかでぶつかるときに、光は全方向
でパネルの下方へ反射される。いくつかの前記光は、前記ビームスプリッタ84
2に前記スキャナ840を通って戻る。前記戻った光は、それからフォトダイオ
ード845の方向を目指す。フォトダイオード845の前記アウトプットは、以
前に記述されている画像解析ソフトウェアによって、プロセシングに適している
一連のピクセル・データを表現しているシグナルを発生するために増幅される。
ピクセル・アドレスバス854上の前記データは、表面812a上のピクセルの
場所を特定する。
【0147】 前記フォトダイオード845は、図18の実施例に関して上記したようにより
有利な動作を提供するために他の場所に置かれてもよい。
【0148】 図18の実施例において、f−Thetaおよび台形補正(keystone
corrections)の適用が議論された。これらの訂正がまた、メモリ
ー856aに格納されるデータの一時変更で、又は光学上ヒューマンマシンイン
ターフェース810および857aまで印加されることができることは、理解さ
れる。
【0149】 好適な実施例において、スキャナ840は表面812bの近くに、そして、図
22bにて図示したように、角度off−axisで状態にある。そして、それ
によってフラットな装置をつくる。フラットな装置が必要でない場合、スキャナ
840はパネル812の中心を通過している光軸上で遠く離れた場所に位置する
ことができる。この場合、ベッセル、キーストーンおよび以前に記述されている
アナモルフィック訂正は全く除去されてもよい、そして、スキャナ840および
表面812b間の付加レンズ(図示せず)は812a表面に点にビーム843を
映すために用いてもよい。
【0150】 前記マルチプレクサ869は、調節コンピュータ868の使用による製造の間
、スキャナ840の極めて正確な調節を許可する。調節の間、調節コンピュータ
868は、マルチプレクサ869を引き起こしているそのCONTROLシグナ
ルがピクセルおよび行データをメモリー856aおよび857aからよりむしろ
調節コンピュータ868からデータ・バス858および859へ移すと主張する
。その結果、調節コンピュータは、ビーム843の偏向を制御する。前記調節コ
ンピュータは、表面812aの小さい部分を拡大された形式で映す電子カメラ(
図示せず)から入力を受信する。前記カメラの視野は、表面812aのあらゆる
所望の部分を映すために適切な手段(図示せず)によってコンピュータの制御の
下で前記表面をスキャンすることができる。
【0151】 調節の間、調節コンピュータ868のソフトウェアプログラムは、表面812
aの特定の部分のイメージを捕らえるためにカメラを配置する。トライアルデー
タ値の最初のセットを使用することで、調節コンピュータ868は、それから、
好ましくはそれらが通常計数器852および853によって駆動されるのと同じ
レートでマルチプレクサ869によるピクセルおよび行データ・バス858およ
び859を駆動することによって、表面の部分を走査するビーム843を発生す
る。前記調節コンピュータ868は、カメラによって表面の部分の上のビーム8
43の走査の像を同時に捕らえる。前記コンピュータ868は、それから各ピク
セルのための表面812a上のビーム843の位置を決定するためにイメージを
分析する。必要であるならば、コンピュータ868は精度を改良する適切なアル
ゴリズムおよび走査の直線性による試行のデータ値の新規なセットを計算して、
表面812aの同じ部分の他の目視検査を実行する。前記プロセスは、精度のあ
らゆる所望のレベルを達成する表面812aおよび走査の直線性の同じ部分のた
めの多くの時、繰り返されることができる。前記調節コンピュータは、それから
表面812aの次の部分にカメラの視野を変更する。
【0152】 各調整されたピクセルのために、ソフトウェアは調節コンピュータ868の範
囲内で最終的な試行のデータ値および関連ピクセルおよび行アドレスをメモリー
・テーブルに格納する。調整手順の最後で、コンピュータはそれからそれからソ
ケット856b及び857bに挿入される2つのEPROMメモリーに、完全な
メモリー・テーブルを書き込む。
【0153】 この方法を使用して、光学ビームはXYラスタースキャンの各点のための表面
812a上の大きい正確さによって配置されてもよい。それゆえに、f−The
taおよび上記した台形補正は、光学部品によるよりむしろアクチュエータ・ド
ライブ回路851によるスキャナ840aおよび840bに、充分な正確さによ
って適用されてもよい。このアプローチは、設計のシンプルさの利点を提供する
。訂正のカスタマイズされたセットが各製造されたユニットのために決定される
ことができるという点で、それは更なる利点を提供する。そして、このことによ
りはるかに走査の正確さを改善する。それがヒューマンマシンインターフェース
810が単にEPROM856a及び857aのデータ・テーブルの値を変更す
ることによって様々な走査解像度および速度で機能することができるという点で
、このアプローチは更なる利点を提供する。一群のデータ・テーブルがEPRO
M856a及び857aに書かれるかもしれないことは、そして、前記ユーザー
がそれから前記適当なテーブルを前記基から選択することによって前記マンマシ
ンインタフェースの前記動作特性を調整するかもしれないことは、明らかである
。アクチュエータのなんらかのタイプのために、上記した調節の電子的方法によ
ってスキャナ840が開ループ方法で動くことができてもよいことはまた、明ら
かである。そして、それによって位置センサ866および867およびそれらの
関連する電子部品(図示せず)を除去する。
【0154】 通常操作の間、X次元スキャナ840aは、Y次元スキャナ840bよりも非
常に高い速度で動く。ヒューマンマシンインターフェース810が特定のアプリ
ケーションの高走査速度で作動されることである場合、往復型アクチュエータ8
50aの速度は限定要因になるかもしれない。前記スキャナ840aはこの場合
、従来の技術において公知なように、電気光学又は音響光学的なビーム・デフレ
クタのいずれかと交換されてもよい。
【0155】 いうまでもなく、図18の実施例の様に、図22a〜22fの実施例は、付加
可視の光源を取り入れることによってイメージ・プロジェクタとして役立つこと
ができる。図24は3つの可視モノクロの光源841を含んでいるマンマシンイ
ンタフェースの他の実施例を示す。そして、前記スペクトラムが前記赤緑青領域
の3つのビーム光線を生成する。本実施例において、光ビームはビーム調整オプ
ティックス841bを通過し、薄い、平行な平面波ビーム843を生成する。 前記平行ビームはそれから複合HOE841cを通過する。そして、短波長位相
変動によって引き起こされるビーム変異を修正するために、3つの異なる波長の
ための独立したセクションを含む。前記ビーム843はそれから841dプリズ
ムを通過する。そして、それはビーム843間の区切りを減らす。前記ビーム8
43は、それからビームスプリッタ842および3のレンズ(符号をつけていな
い)を通過する。
【0156】 前記ビームはそれから格子831、837、834、836、838および8
39を通過する。そして、その全ては3つの要素からなる複合格子である。前記
要素は図22a〜22fの実施例の格子831、837、834、836、83
8および839に、同一の機能を実行する、しかし、各ケースにおいて、要素は
ビーム843の波長のために正規化される。表面812aの方へ、先に述べてい
たように、前記ビーム843はそれからフォールディング・ミラー870および
871によって定義される空間に入って、導かれる。HOE839をレンズと取
り替えることによって、複合HOE839の3の要素に又は適当な変換関数をH
OE813に取り入れることによって適当なレンズ機能を加えることによって、
ビームは表面812a(例えば代表的な点879)上の単一の点に互いに近よる
ために作られる。あるいは、複合格子834および836の3の格子機能は、表
面812a上の一つの点にビーム843の収束を発生するために修正されること
ができる。
【0157】 他の全ての注意において、図24の前記マンマシンインタフェースの前記機能は
、図22a〜22fの前記実施例のそれと同様である。
【0158】 ガラスの中で形成されるように、ヒューマンマシンインターフェースのパネル
が記述されていたけれども、いくつかの例ではパフォーマンスを他の表面を利用
することによって強化するようにしてもよい。唯一の制限は、表面が接触の領域
が検出されることができるためにエネルギーを伝送しなければならないというこ
とである。特に、特定のオプティカルコーティングは、イメージのコントラスト
を強化するため、又は接触面上のスクラッチおよび油によるartifactu
alなイメージ成分に対する感度を減少させるために用いてもよい。接触面に配
置されるマイラーの薄いフレキシブル・シート等は、また、コントラストを強化
するため及びartifactualなイメージおよびほこりに対する感度下げ
るために用いてもよい。また、平らであるように、パネルが記述されていたけれ
ども、非平面表面が特定のアプリケーションのエルゴノミクスの利点を提供して
もよいことはいうまでもない。加えて、ユーザーの手の型をとって、綿密にユー
ザーの手の輪郭に似ているパネル上の複素数凹曲面を発生することによって特定
の個体のためのパネルをカスタマイズすることは、また、有利でもよい。
【0159】 上記した実施例において、インシデント・エネルギーは、可視で又は赤外線に
最も近いことを示す。近い赤外線照明が可視光からの干渉による非感受のために
利点を提供することはいうまでもない。また、パネル上の指油アーチファクトは
、赤外線範囲の比較的低屈折率を有して、それでパネル・イメージの明るいイメ
ージを発生しない。他の波長、例えば紫外線又は遠赤外線でさえ、使われること
ができる。
【0160】 電磁放射の他に、他のタイプのエネルギーおよびイメージング、例えば音響イ
メージング、が使われてもよい。エネルギーの前記選択肢は、当然のことながら
、パネルと接触するどの指又は他の対象物が影響を及ぼすか及びどれがスキャン
されてパネルイメージを発生させるかというタイプに応じて制限される。
【0161】 上記した実施例において、インシデント・エネルギーは、変更されていない形
式で接触領域に分配される。インシデント照射が空間的に又は時間的に変化して
もよいことは、しかしながら理解される。たとえば、パルスされたインシデント
・エネルギー(例えばストロボスコープの光)は、接点の速く変更領域の検出を
強化するか又は環境光に排除を改良するために用いてもよい。
【0162】 また、上記した実施例において、パネルに対する接触による光の強度が、検出
される。しかしながら、偏光又は位相のような他エネルギー特性又はパラメータ
が測定されてもよいことはいうまでもない。また、エネルギーの複数のパラメー
タが測定されてもよい。同様に、特定の実施例が記述されているけれども、パネ
ルを有する接点に応答して検出しておよび/またはインシデント又は変更エネル
ギーを処理する他の方法は使用されることができる。
【0163】 本発明の好適な実施例が記述されていたけれども、当業者意志がそれを理解す
るように、他バリエーションおよび変更が、添付の請求の範囲に記載のそれの趣
旨および範囲から逸脱することなく行われても良い。
【図面の簡単な説明】
【図1】 図1は、この発明によるビューマンマシンインターフェースの、部分的に遠近
法で表した概略図である。
【図2】 図2は、図1の拡大した部分のブロック線図である。
【図3】 図3aおよび3bは、図1の前記ヒューマンマシンインターフェースの部品を
形成している接触感知パネルと接触している指を示している図である;
【図4】 図4a〜4cは、接触感知パネル接触している指を示している追加の図である
【図5】 図5は、図1の前記ヒューマンマシンインターフェースの部品を形成している
像取得装置によって捕らえられる前記接触感知パネルと接触している指の像を図
示するものである。
【図6】 図6a〜6cは、指と接触感知パネル間の接点の発達する領域から生じた、広
がる照明領域区域の変化と、画像フレームの間の像ピクセル強度との間の関係を
示すグラフ、及びそれに関連するピクセル強度ヒストグラムを示すものである。
【図7】 図7a〜7cは、指と接触感知パネル間の接点の発達する領域から生じた、広
がる照明領域区域の変化と、画像フレームの間の像ピクセル強度との間の関係を
示すグラフ、及びそれに関連するピクセル強度ヒストグラムを示すものである。
【図8】 図8は、指および前記接触感知パネル間の接点の領域を検出するために前記ヒ
ューマンマシンインターフェースの部品を構成するプロセッサによって実行され
る工程を示すフローチャートである。
【図9】 図9は、前記像取得装置によって得られる像のプロセシングの間、前記プロセ
ッサの範囲内でメモリーに格納されるデータを示す;
【図10】 図10a〜10eは、指および接触感知パネルとの接触の領域を例示している
グラフと、それに関連する、イメージ・フレーム中の異なるケースのピクセル強
度ヒストグラムを示すものである。
【図11】 図11a〜11fは、指および接触感知パネルとの接触の領域を例示している
グラフと、それに関連する、イメージ・フレーム中の異なるケースのピクセル強
度ヒストグラムを示すものである。
【図12】 図12a〜12cは、指および接触感知パネルとの接触の領域を例示している
グラフと、それに関連する、イメージ・フレーム中の異なるケースのピクセル強
度ヒストグラムを示すものである。
【図13a】 図13aは、この発明による別の実施形態のビューマンマシンインターフェー
スの、部分的に遠近法で表した概略図である。
【図13b】 図13bは、手上の点が図13aの前記ヒューマンマシンインターフェースの
部品を形成している前記接触感知パネルより上に間隔を置かれることを前記距離
の前記計算に明らかにしている表示である;
【図14】 図14は、この発明による別の実施形態のビューマンマシンインターフェース
の、部分的に遠近法で表した概略図である。
【図15】 図15は、本発明によればまだヒューマンマシンインターフェースの他の別の
実施例の側面図の概略図である;
【図16】 図16は、この発明による別の実施形態のビューマンマシンインターフェース
の、部分的に遠近法で表した概略図である。
【図17】 図17aは、この発明による別の実施形態のビューマンマシンインターフェー
スの、部分的に遠近法で表した概略図である。 図17bは、図17aの前記ヒューマンマシンインターフェースの部品を形成
している前記接触感知パネルの一部を表示するものである。
【図18】 図18は、本発明によれるヒューマンマシンインターフェースの更なる他の別
の実施例の側面図の概略図である。
【図19】 図19aは、図18の前記ヒューマンマシンインタフェースの一部の拡大側面
立面図である。 図19bおよび19cは、図18の前記ヒューマンマシンインターフェースの
部品を形成しているホログラフィック光学素子の平面図である。 図19dは、図18の前記ヒューマンマシンインターフェースの前記接触感知
パネルに配置されるパネル回折格子の配列の平面図である。
【図20】 図20aおよび20bは、従来技術の回折格子による光学パスを示すものであ
る。
【図21】 図21aは、図18の前記ヒューマンマシンインターフェースのためのホログ
ラフィック光学素子の別の実施例の平面図である; 図21bは、図18の前記ヒューマンマシンインターフェースのためのパネル
回折格子の配列の別の実施例の平面図である。
【図22a】 図22aは、本発明によるヒューマンマシンインターフェースの更なる他の実
施例の平面図である;
【図22b】 図22bは、図22aのヒューマンマシンインターフェースの側面立面図である
【図22c】 図22cは、図22aのヒューマンマシンインターフェースの部品を形成して
いるフォールディング・ミラーの側面立面図である。
【図22d】 図22dは、図22aのヒューマンマシンインターフェースの部品を形成して
いるフォールディング・ミラーの側面立面図である。
【図22e】 図22eは、図22aの一部のヒューマンマシンインターフェースの拡大頂部
および側面立面図である;
【図22f】 図22fは、図22aの一部のヒューマンマシンインターフェースの拡大頂部
および側面立面図である;
【図23】 図23は、図22aのヒューマンマシンインターフェースの部品を形成してい
るアクチュエータ・ドライブ回路の回路図である;
【図24】 図24は、本発明による図22aのヒューマンマシンインターフェースと同様
のヒューマンマシンインターフェースの更なる他の実施例の側面立面図である。
【図25】 図25は図24のヒューマンマシンインターフェースの一部の拡大側面立面図
である。
───────────────────────────────────────────────────── フロントページの続き (81)指定国 EP(AT,BE,CH,CY, DE,DK,ES,FI,FR,GB,GR,IE,I T,LU,MC,NL,PT,SE,TR),OA(BF ,BJ,CF,CG,CI,CM,GA,GN,GW, ML,MR,NE,SN,TD,TG),AP(GH,G M,KE,LS,MW,MZ,SD,SL,SZ,TZ ,UG,ZW),EA(AM,AZ,BY,KG,KZ, MD,RU,TJ,TM),AE,AG,AL,AM, AT,AU,AZ,BA,BB,BG,BR,BY,B Z,CA,CH,CN,CO,CR,CU,CZ,DE ,DK,DM,DZ,EE,ES,FI,GB,GD, GE,GH,GM,HR,HU,ID,IL,IN,I S,JP,KE,KG,KP,KR,KZ,LC,LK ,LR,LS,LT,LU,LV,MA,MD,MG, MK,MN,MW,MX,MZ,NO,NZ,PL,P T,RO,RU,SD,SE,SG,SI,SK,SL ,TJ,TM,TR,TT,TZ,UA,UG,US, UZ,VN,YU,ZA,ZW

Claims (69)

    【特許請求の範囲】
  1. 【請求項1】 ヒューマン・マシーンインターフェイスであって、 エネルギー伝達材料によって形成されたパネルであって、1もしくはそれ以上
    の接触部が同時に形成されるであろうコンタクト面を有するパネルと、 前記パネルにエネルギーを導くエネルギー源であって、前記パネルは前記エネ
    ルギー源から受け取ったエネルギーを前記コンタクト面に伝達し、前記パネルに
    よって伝達されたエネルギーのパラメータは前記コンタクト面に形成された接触
    部の領域で変化する、前記エネルギー源と、 検出器であって、前記コンタクト面上の接触領域に対応する前記エネルギーの
    少なくとも1つのパラメータの変化を検出し、これに対応する値を出力する、検
    出器と、 前記検出器と通信する処理器であって、この処理器は前記出力値を処理し前記
    コンタクト面上の接触領域の位置と前記各接触部に関連する他の属性のうちの少
    なくとも1つを決定する、処理器と、 を有するヒューマン・マシーンインターフェイス。
  2. 【請求項2】 請求項1記載のヒューマン・マシーンインターフェイスにおい
    て、前記少なくとも1つの他の属性は、前記各接触領域で前記パネルに適用され
    る垂直方向の力を含む。
  3. 【請求項3】 請求項2記載のヒューマン・マシーンインターフェイスにおい
    て、前記少なくとも1つの他の属性は、前記各接触領域で前記パネルに適用され
    る剪断方向の力を更に含む。
  4. 【請求項4】 請求項1記載のヒューマン・マシーンインターフェイスにおい
    て、 前記位置は、前記接触領域の座標を算出することによって決定される。
  5. 【請求項5】 請求項4記載のヒューマン・マシーンインターフェイスにおい
    て、前記位置は、前記接触領域の中心の座標を算出することによって決定される
  6. 【請求項6】 請求項2記載のヒューマン・マシーンインターフェイスにおい
    て、前記少なくとも1つの他の属性は、前記パネルに接触がなされた瞬間と、接
    触が終了した瞬間とを更に含む。
  7. 【請求項7】 請求項6記載のヒューマン・マシーンインターフェイスにおい
    て、前記少なくとも1つの他の属性は、前記各接触部の存続期間を更に含む。
  8. 【請求項8】 請求項2記載のヒューマン・マシーンインターフェイスにおい
    て、前記少なくとも1つの他の属性は、前記接触の間に前記パネルに適用される
    垂直方向の力における振幅を更に含む。
  9. 【請求項9】 請求項1記載のヒューマン・マシーンインターフェイスにおい
    て、前記接触は、前記パネルの接触面にユーザーの指が触れることによって形成
    され、パネルと前記指との間の接触は、前記パネルによって伝達されたエネルギ
    ーの方向を変更させ、前記接触領域は一般に楕円形である。
  10. 【請求項10】 請求項9記載のヒューマン・マシーンインターフェイスにお
    いて、前記パネルの直上領域は照明され、これによって一定間隔を介して接触面
    から離間する指またはその部分を照明する。
  11. 【請求項11】 請求項10記載のヒューマン・マシーンインターフェイスで
    あって、前記少なくとも1つの他の属性は、 前記各接触領域で前記パネルに適用される垂直方向の力、 前記各接触領域で前記パネルに適用される剪断方向の力、 前記パネルに接触がなされた瞬間及び接触が終了した瞬間、 前記パネルに接触がなされる時の速度と、前記接触が終了される時の速度、 前記接触の存続期間、 前記接触の間に前記パネルに適用される垂直方向の力における振幅、 のうち1つまたはそれ以上を有するものである。
  12. 【請求項12】 請求項11記載のヒューマン・マシーンインターフェイスに
    おいて、前記垂直方向の力は、前記楕円形の接触領域の面積を決定することによ
    り算出される。
  13. 【請求項13】 請求項12記載のヒューマン・マシーンインターフェイスに
    おいて、前記処理器は、前記パネルと接触している前記ユーザーの指先の位置を
    決定し、前記接触領域の中心に対して置き換えられた指先の座標を決定すること
    によって剪断方向の力を算出する。
  14. 【請求項14】 請求項11記載のヒューマン・マシーンインターフェイスに
    おいて、前記検出器は、選択された周期で前記パネルの像を獲得し、前記各像は
    多数のピクセルによって構成されているものであって、前記各ピクセルは、前記
    周期び間に前記エネルギーの少なくとも1つのパラメータの露光量に比例したピ
    クセル値に達しているものであって、前記検出器は、前記像内の接触領域に対応
    するピクセルのに対する前記ピクセル値のヒストグラムを生成する。
  15. 【請求項15】 請求項1記載のヒューマン・マシーンインターフェイスにお
    いて、前記パネルに導かれるエネルギーは、内面全反射により、前記パネル内で
    伝導される。
  16. 【請求項16】 請求項15記載のヒューマン・マシーンインターフェイスに
    おいて、前記エネルギー源は光源であり、前記パラメータの少なくとも1つは強
    度光線であり、前記パネル内で伝達された光線は、前記コンタクト面上に接触部
    が形成される領域で前記パネルから流出し、それによって前記エネルギーを変化
    させる。
  17. 【請求項17】 請求項16記載のヒューマン・マシーンインターフェイスに
    おいて、前記検出器は、選択された周期で前記パネルの像を取得し、各像は、多
    数のピクセルによって構成されていて、それは光線の強さの露出に比例したピク
    セル値を有し、前記ピクセル値は前記検出器によって出力される。
  18. 【請求項18】 請求項17記載のヒューマン・マシーンインターフェイスに
    おいて、前記光源は可視光線を放出し、前記検出器は、前記パネルの前記接触面
    と反対側に相対的に配置されていて、前記光線は前記接触領域で前記パネルから
    流出し、明るい領域として表れる。
  19. 【請求項19】 請求項18記載のヒューマン・マシーンインターフェイスに
    おいて、前記パネルの直上領域は照明され、これによって一定間隔を介して接触
    面から離間する指またはその部分を照明する。
  20. 【請求項20】 請求項19記載のヒューマン・マシーンインターフェイスに
    おいて、前記少なくとも1つの他の属性は、 前記各接触領域で前記パネルに適用される垂直方向の力、 前記各接触領域で前記パネルに適用される剪断方向の力、 前記パネルに接触がなさた瞬間と、前記接触が終了した瞬間、 前記パネルに接触がなされる時の速度と、前記接触が終了される時の速度、 前記接触の持続期間、 前記接触の間に前記パネルに適用される垂直方向の力における振幅、 のうち1つまたはそれ以上を有するものである。
  21. 【請求項21】 請求項20記載のヒューマン・マシーンインターフェイスで
    あって、垂直方向の力は、前記像内の明るい領域の面積を検定することによって
    決定される。
  22. 【請求項22】 請求項21記載のヒューマン・マシーンインターフェイスは
    、第二光源を更に含み、前記コンタクト面の直上領域を照明する。
  23. 【請求項23】 請求項22記載のヒューマン・マシーンインターフェイスに
    おいて、前記第二光源は、前記コンタクト面の直上に光のシートを生成し、前記
    光のシートは、指先を照明し、その当てた部分が前記コンタクト面に十分に接触
    することで、月のようなハイライト部を前記検出器により取得された像内に有し
    、前記処理器は、前記像内の月のようなハイライト部に対応するピクセル値を利
    用し、前記指の中心縦軸を決定する。
  24. 【請求項24】 請求項23記載のヒューマン・マシーンインターフェイスで
    あって、剪断方向の力は、幾何学的な月のようなハイライト部の先端について前
    記明るい領域の位置をなぞることにで決定される。
  25. 【請求項25】 請求項22記載のヒューマン・マシーンインターフェイスで
    あって、前記第二光源は、前記コンタクト面の反対側から前記パネルを照明する
    ものであって、前記第二光源は指を照明し、その当てた部分が前記コンタクト面
    に十分に接触することで、前記指の輪郭が前記検出器によって取得された像内に
    含まれるものであって、前記検出器は、前記像内の前記指の輪郭に対応するピク
    セル値を利用して前記指の中枢領域を決定するものである。
  26. 【請求項26】 請求項25記載のヒューマン・マシーンインターフェイスで
    あって、前記剪断方向の力は、幾何学的な指の輪郭の先端について、前記明るい
    領域の位置をなぞることで決定される。
  27. 【請求項27】 請求項1記載のヒューマン・マシーンインターフェイスであ
    って、前記エネルギー源は前記エネルギーを、前記コンタクト面と反対側の前記
    パネルの表面へ向けて導き、前記エネルギーは、前記パネルを通過して前記コン
    タクト面を経由して露出し、エネルギーは、前記コンタクト面と接触するオブジ
    ェクトから出て反射され、前記パネル内に戻り、前記検出器は、前記パネル内に
    戻るエネルギーを検出し、前記パネルで伝達するのであって、選択された周期で
    前記パネルの像を獲得する。
  28. 【請求項28】 請求項26記載のヒューマン・マシーンインターフェイスで
    あって、前記検出器は、プリズムに介して前記パネルに光学的に連結されていて
    、前記各像は、多数のピクセルによって構成され、そのピクセルは、前記エネル
    ギーの少なくとも1つのパラメータへの露光に比例してピクセル値に達し、前記
    ピクセル値は前記検出器によって出力される。
  29. 【請求項29】 請求項28記載のヒューマン・マシーンインターフェイスで
    あって、前記プリズムに関連した光バルブを更に含み、前記光バルブは起動可能
    で、前記検出器とパネルを連結する。
  30. 【請求項30】 請求項29記載のヒューマン・マシーンインターフェイスで
    あって、前記検出器は、前記パネルに対して鋭角に向けられている。
  31. 【請求項31】 請求項29記載のヒューマン・マシーンインターフェイスで
    あって、前記光バルブは、前記検出器のために異なる画角を選択するために起動
    可能なシャッターである。
  32. 【請求項32】 請求項27記載のヒューマン・マシーンインターフェイスで
    あって、前記エネルギー源は、表面に向けて光を鋭角に導く。
  33. 【請求項33】 請求項32記載のヒューマン・マシーンインターフェイスで
    あって、前記表面および前記接触面は平行で近接していて、セルフイイメージン
    グの導波管を定義する。
  34. 【請求項34】 請求項33記載のヒューマン・マシーンインターフェイスで
    あって、前記コンタクト面の上に配置されたほぼ透過性のシートを更に含み、前
    記シートは、表面に凸凹と前記パネルより低い屈射率を有する。
  35. 【請求項35】 請求項27記載のヒューマン・マシーンインターフェイスで
    あって、前記接点はユーザーの指によって前記パネルの上に形成され、前記接触
    はほぼ一般に楕円形である。
  36. 【請求項36】 請求項35記載のヒューマン・マシーンインターフェイスで
    あって、前記パネルの直上領域は照明され、これによって一定間隔を介して接触
    面から離間する指またはその部分を照明する。
  37. 【請求項37】 請求項36記載のヒューマン・マシーンインターフェイスで
    あって、前記少なくとも1つの他の属性は、 前記各接触領域の前記パネルに適用される垂直方向の力、 前記各接触領域で前記パネルに適用される剪断方向の力、 前記パネルに接触がなされた瞬間と接触が終了した瞬間、 前記パネルに接触がなされる時の速度と前記接触が終了される時の速度、 前記接触の存続期間、 前記接触の際に前記パネルに適用される垂直方向の力における振幅、 のうち1つまたはそれ以上を有する。
  38. 【請求項38】 請求項37記載のヒューマン・マシーンインターフェイスで
    あって、前記垂直方向の力は前記楕円形接触位置の面積を決定することによって
    算出される。
  39. 【請求項39】 請求項1記載のヒューマン・マシーンインターフェイスであ
    って、前記パネル上へ像を投影する方法を更に有し、前記像は前記コンタクト面
    を見た場合に可視である。
  40. 【請求項40】 請求項39記載のヒューマン・マシーンインターフェイスで
    あって、前記エネルギー源は、陰極線管(CRT)であり、前記コンタクト面と
    反対側に相対的に配置されていて、前記CRTは、エネルギー光線で前記表面を
    スキャンすることで、前記パネル上に前記像を投影し、前記コンタクト面と接触
    しているオブジェクトは、前記光線のエネルギーを反射して同じ物のように変化
    し、前記検出器は反射エネルギーを検出し、それに対応しているピクセル値を出
    力する。
  41. 【請求項41】 請求項40記載のヒューマン・マシーンインターフェイスで
    あって、前記検出器は赤・青・緑(RGB)フォトダイオードを有しており、前
    記反射エネルギーを検出する。
  42. 【請求項42】 請求項41記載のヒューマン・マシーンインターフェイスで
    あって、前記検出器は前記CRTを駆動する赤・緑・青の強度信号と前記フォト
    ダイオードの出力を受信する信号分割機器を更に有し、前記信号分割器は反射エ
    ネルギーの反射率を算出し、それによって前記ピクセル値を生成する。
  43. 【請求項43】 請求項42記載のヒューマン・マシーンインターフェイスで
    あって、前記CRTは前記パネルから離間していて、前記ヒューマン・マシーン
    インターフェイスは、前記CRTと前記パネルの間に配置された少なくとも1つ
    のレンズと、前記RGBフォトダイオードと前記パネルの間に配置された少なく
    とも1つのレンズを更に含む。
  44. 【請求項44】 請求項41記載のヒューマン・マシーンインターフェイスで
    あって、前記CRTは前記パネルに近接しており、前記ヒューマン・マシーンイ
    ンターフェイスは、伝達材料のシートを更に有しており、その中にモールディン
    グされた少なくとも1つのレンズを有し、前記パネル上に配置され、前記パネル
    と前記CRTの間に位置している。
  45. 【請求項45】 請求項44記載のヒューマン・マシーンインターフェイスで
    あって、前記接触面は凸凹の表面を有する。
  46. 【請求項46】 請求項1記載のヒューマン・マシーンインターフェイスであ
    って、前記エネルギー源は、光線を前記パネルへ導き、ラスターパターンで前記
    コンタクト面を横切るように前記光線をスキャンするスキャナを有する。
  47. 【請求項47】 請求項46記載のヒューマン・マシーンインターフェイスで
    あって、前記スキャナは、前記光線を生成する光源と前記光線の通り道に配置さ
    れている可動複合光学要素を有していて、前記複合光学要素は、前記コンタクト
    面を横切るように前記複合光学要素が動くことによって前記光線を前記ラスター
    パターンでスキャンするものである。
  48. 【請求項48】 請求項47記載のヒューマン・マシーンインターフェイスで
    あって、前記複合光学要素は離間した回転式ホログラフィック光学素子(HOE
    s)を少なくとも2つ有し、各HOEは、円周上に離間して配置された回折格子
    の環を少なくとも1つ有するのであって、前記各回折格子は前記複合光学要素が
    回転し、前記光線がその上で衝突する場合、前記ラスターパターンの各列全体に
    わたって前記光線をスキャンするものである。
  49. 【請求項49】 請求項48記載のヒューマン・マシーンインターフェイスで
    あって、前記スキャナはオフアクシス(off−axis)であって、前記回折
    格子は格子機能を有していてキーストン効果を補正するものである。
  50. 【請求項50】 請求48記載のヒューマン・マシーンインターフェイスであ
    って、前記各HOEは回折格子の同一中心の環を有し、1つの前記環の回折格子
    は、ラスターパターンで前記パネル全体にわたって前記光線をスキャンするもの
    であって、もう一方の前記環は、パネル上の像を投影し、それはコンタクト面を
    見た場合に可視である。
  51. 【請求項51】 請求項48記載のヒューマン・マシーンインターフェイスで
    あって、前記コンタクト面と反対側の前記パネルの表面上に配置されている複数
    列の回折格子からなる配列をさらに有し、前記配列中の回折格子各列は、HOE
    上の各回折格子と関連づけられていて、前記各列全体にわたる前記光線スキャン
    中に、前記コンタクト面上で前記光線の集光を補助する。
  52. 【請求項52】 請求項1記載のヒューマン・マシーンインターフェイスであ
    って、前記エネルギー源は一対のスキャナを有し、それは前記パネルへ光線を導
    くものであって、この光線をラスターパターンで前記コンタクト面を横切るよう
    にスキャンするものである。
  53. 【請求項53】 請求項52記載のヒューマン・マシーンインターフェイスで
    あって、前記各スキャナは、相対的に可動する一対の回折格子を有し、X方向に
    前記パネル全体にわたって前記光線をスキャンする片一方の前記スキャナの回折
    格子の動きと、Y方向に前記光線を動かすもう片方のスキャナの回折格子の動き
    を有する。
  54. 【請求項54】 請求項53記載のヒューマン・マシーンインターフェイスで
    あって、前記パネルはその反対端にミラーを有し、前記ミラーは前記コンタクト
    面上に前記光線が衝突する前に、前記パネル内部で前記光線の光学パスを延ばす
    ために、複数回にわたってあちこちに前記パネルに入ってくる光線を反射するも
    のである。
  55. 【請求項55】 コンタクト面を有しかつエネルギー伝達材料によって形成さ
    れたパネル上で接触を検出する方法であって、 パネルによって伝達されたエネルギーをパネルへ導き、パネルによって伝達さ
    れたエネルギーの少なくとも1つのパラメータは、コンタクト面で接触が形成さ
    れる領域で変化し、 前記コンタクト面上の接触領域に対応する前記エネルギーの少なくとも1つの
    パラメータの変化を検出し、これに対応する値を出力し、 前記出力値を処理しコンタクト面上の接触領域の位置と各接触部に関連する他
    の属性のうち少なくとも1つを決定する方法である。
  56. 【請求項56】 請求項55記載の方法であって、前記出力値は処理され、 各接触領域でパネルに適用される垂直方向の力、 各接触領域でパネルに適用される剪断方向の力、 パネルに接触がなされた瞬間と、接触が終了した瞬間、 パネルに接触がなされる時の速度と、接触が終了される時の速度、 接触の存続期間、 接触の間にパネルに適用される垂直方向の力における振幅、 のうち少なくともひとつを決定するものである。
  57. 【請求項57】 請求項56記載の方法であって、コンタクト面を見た場合に
    可視であるパネル上の像を投影する工程を更に有する。
  58. 【請求項58】 インターフェイスであって、エネルギー伝達材料で形成され
    かつ1つまたはそれ以上の接点が同時に形成されるであろうコンタクト面を有す
    るパネルとともに使用され、前記パネルはエネルギー源から受け取られたエネル
    ギーをコンタクト面へ伝達し、前記パネルによって伝達されるエネルギーの少な
    くとも1つのパラメータは、コンタクト面に形成された接触部の領域で変化され
    たものであって、前記インターフェイスは、 検出器であって、前記コンタクト面上で接触領域に対応する前記エネルギーの
    少なくとも1つのパラメータの変化を検出し、これに対応する値を出力する検出
    器と、 前記検出器と通信する処理器であって、この処理器は前記出力値を処理し前記
    コンタクト面上の前記接触領域の位置と前記各接触部に関連する他の属性のうち
    少なくとも1つを決定する処理器と、 を有する。
  59. 【請求項59】 請求項58記載のインターフェースであって、前記他の属性
    のうち少なくとも1つは前記各接触領域で前記パネルに適用される垂直方向の力
    を含む。
  60. 【請求項60】 請求項59記載のインターフェースであって、前記他の属性
    のうち少なくとも1つは前記各接触領域で前記パネルに適用される剪断方向の力
    を更に含む。
  61. 【請求項61】 請求項58記載のインターフェースであって、前記位置は前
    記接触領域の座標を算出することで決定される。
  62. 【請求項62】 請求項61記載のインターフェースであって、前記位置は前
    記接触領域中心部の座標を算出することで定義される。
  63. 【請求項63】 請求項59記載のインターフェースであって、前記少なくと
    も1つの他の属性は、前記パネルに接触がなされた瞬間と接触が終了した瞬間を
    更に含む。
  64. 【請求項64】 請求項63記載のインターフェースであって、前記少なくと
    も1つの他の属性は、前記各接触の存続期間を更に含む。
  65. 【請求項65】 請求項59記載のインターフェースであって、前記少なくと
    も1つの他の属性は、前記接触の間に前記パネルに適用される垂直方向の力にお
    ける振幅を更に含む。
  66. 【請求項66】 ディスプレイ装置は像を投影するものであって、 エネルギー伝達材料で形成されたパネルであって、前記像を見ることができる
    ディスプレイ面を有するパネルと、 スキャナであって、前記パネルへ光線を導き、前記像を投影するためにラスタ
    ーパターンで前記ディスプレイ面全体にわたって前記光線をスキャンする、スキ
    ャナと、前記スキャナであって、前記光線を生成するための光源と前記光線の通
    り道に配置されている可動性複合光学要素を有する、スキャナと、前記複合光学
    要素であって、前記複合光学要素は、前記コンタクト面を横切るように前記複合
    光学要素が動くことによって前記光線を前記ラスターパターンでスキャンする、
    複合光学要素と、 を有するインターフェイス。
  67. 【請求項67】 請求項66記載のディスプレイ装置であって、 前記複合光学要素は離間した回転式ホログラフィック光学素子(HOE)を少
    なくとも2つ有し、各HOEは、円周上に離間して配置された回折格子の環を有
    するのであって、前記各回折格子は前記複合光学要素が回転し、前記光線がその
    上で衝突する場合、前記ラスターパターンの各列全体にわたって前記光線をスキ
    ャンするものである。
  68. 【請求項68】 請求項67記載のディスプレイ装置であって、前記コンタク
    ト面と反対側の前記パネルの表面上に配置されている回折格子からなる配列をさ
    らに有し、前記配列中の回折格子各列は、HOE上の各回折格子と関連づけられ
    ていて、前記各列全体にわたる前記光線スキャン中に、前記コンタクト面上で前
    記光線の集光を補助する。
  69. 【請求項69】 請求項67記載のディスプレイ装置であって、前記スキャナ
    は、オフアクシス(off−axis)であって、前記回折格子は格子機能を有
    していてキーストン効果を補正するものである。
JP2001580609A 2000-05-01 2001-04-30 ヒューマン・マシーンインターフェイス Pending JP2003532216A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US09/562,987 US7859519B2 (en) 2000-05-01 2000-05-01 Human-machine interface
US09/562,987 2000-05-01
PCT/CA2001/000579 WO2001084251A2 (en) 2000-05-01 2001-04-30 Human-machine interface

Publications (1)

Publication Number Publication Date
JP2003532216A true JP2003532216A (ja) 2003-10-28

Family

ID=24248613

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001580609A Pending JP2003532216A (ja) 2000-05-01 2001-04-30 ヒューマン・マシーンインターフェイス

Country Status (5)

Country Link
US (2) US7859519B2 (ja)
EP (1) EP1287409A2 (ja)
JP (1) JP2003532216A (ja)
AU (1) AU2001252083A1 (ja)
WO (1) WO2001084251A2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005055029A1 (ja) * 2003-12-02 2005-06-16 Olympus Corporation ヒューマンインタフェース装置及びヒューマンインタフェースシステム
JP2005339444A (ja) * 2004-05-31 2005-12-08 Toshiba Matsushita Display Technology Co Ltd 表示装置
JP2006040271A (ja) * 2004-06-28 2006-02-09 Microsoft Corp ソフトウェアアプリケーションと対話するためのジェスチャの認識および使用
JP2006244446A (ja) * 2005-02-03 2006-09-14 Toshiba Matsushita Display Technology Co Ltd 表示装置
JP2008015915A (ja) * 2006-07-07 2008-01-24 Sony Computer Entertainment Inc 画像処理方法、入力インタフェース装置
WO2009113330A1 (ja) * 2008-03-14 2009-09-17 シャープ株式会社 エリアセンサ、およびエリアセンサ付き表示装置
US7800594B2 (en) 2005-02-03 2010-09-21 Toshiba Matsushita Display Technology Co., Ltd. Display device including function to input information from screen by light
JP2010539474A (ja) * 2007-09-10 2010-12-16 ネーデルランデ オルガニサティー ヴール トゥーヘパストナツールウェテンスハペライク オンデルズーク テーエヌオー 力分布測定用光学センサ
JP2011048665A (ja) * 2009-08-27 2011-03-10 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2011118533A (ja) * 2009-12-01 2011-06-16 Tokyo Denki Univ タッチ位置入力装置及びタッチ位置入力方法
KR20120090020A (ko) * 2009-06-01 2012-08-16 퍼셉티브 픽셀 인코포레이티드 터치 센싱
US8350973B2 (en) 2008-06-13 2013-01-08 Sharp Kabushiki Kaisha Area sensor and display device including area sensor
JP5435509B2 (ja) * 2009-05-25 2014-03-05 国立大学法人電気通信大学 操作情報入力システム及び方法
JP2015021747A (ja) * 2013-07-16 2015-02-02 国立大学法人広島大学 印加力推定方法、印加力推定プログラム、およびコンピュータ入力デバイス
JP2015114169A (ja) * 2013-12-10 2015-06-22 国立大学法人 奈良先端科学技術大学院大学 指先接触状態測定装置
JP2017514232A (ja) * 2014-04-28 2017-06-01 クアルコム,インコーポレイテッド 双方向ディスプレイスクリーン用の圧力、回転およびスタイラス機能

Families Citing this family (213)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6803906B1 (en) 2000-07-05 2004-10-12 Smart Technologies, Inc. Passive touch system and method of detecting user input
KR100827741B1 (ko) 2000-07-17 2008-05-07 보드 오브 리전츠, 더 유니버시티 오브 텍사스 시스템 임프린트 리소그래피 공정을 위한 자동 유체 분배 방법 및시스템
US7027628B1 (en) * 2000-11-14 2006-04-11 The United States Of America As Represented By The Department Of Health And Human Services Automated microscopic image acquisition, compositing, and display
US8035612B2 (en) 2002-05-28 2011-10-11 Intellectual Ventures Holding 67 Llc Self-contained interactive video display system
US8300042B2 (en) 2001-06-05 2012-10-30 Microsoft Corporation Interactive video display system using strobed light
US7071924B2 (en) * 2002-01-10 2006-07-04 International Business Machines Corporation User input method and apparatus for handheld computers
US7019736B2 (en) * 2002-03-20 2006-03-28 Hewlett-Packard Development Company, L.P. Method and apparatus for image display
US7053967B2 (en) 2002-05-23 2006-05-30 Planar Systems, Inc. Light sensitive display
WO2003073159A1 (en) * 2002-02-20 2003-09-04 Planar Systems, Inc. Light sensitive display
US7009663B2 (en) * 2003-12-17 2006-03-07 Planar Systems, Inc. Integrated optical light sensitive active matrix liquid crystal display
AU2003216481A1 (en) * 2002-03-01 2003-09-16 Planar Systems, Inc. Reflection resistant touch screens
DE60307077T2 (de) * 2002-03-13 2007-03-01 O-Pen Aps Berührungs-pad und verfahren zum betreiben des berührungs-pads
US20050122308A1 (en) * 2002-05-28 2005-06-09 Matthew Bell Self-contained interactive video display system
US7710391B2 (en) 2002-05-28 2010-05-04 Matthew Bell Processing an image utilizing a spatially varying pattern
US6900881B2 (en) * 2002-07-11 2005-05-31 Molecular Imprints, Inc. Step and repeat imprint lithography systems
JP4758594B2 (ja) 2002-09-24 2011-08-31 セイコーエプソン株式会社 入力装置、情報装置及び制御情報生成方法
US20060034492A1 (en) * 2002-10-30 2006-02-16 Roy Siegel Hand recognition system
US6954197B2 (en) 2002-11-15 2005-10-11 Smart Technologies Inc. Size/scale and orientation determination of a pointer in a camera-based touch system
AU2003301043A1 (en) * 2002-12-13 2004-07-09 Reactrix Systems Interactive directed light/sound system
US8508508B2 (en) 2003-02-14 2013-08-13 Next Holdings Limited Touch screen signal processing with single-point calibration
US7629967B2 (en) 2003-02-14 2009-12-08 Next Holdings Limited Touch screen signal processing
US8456447B2 (en) 2003-02-14 2013-06-04 Next Holdings Limited Touch screen signal processing
US20080084374A1 (en) 2003-02-20 2008-04-10 Planar Systems, Inc. Light sensitive display
US7532206B2 (en) 2003-03-11 2009-05-12 Smart Technologies Ulc System and method for differentiating between pointers used to contact touch surface
CN1777859B (zh) * 2003-03-12 2010-04-28 平蛙实验室股份公司 确定射线发射单元位置的系统和方法
US7442914B2 (en) * 2003-09-12 2008-10-28 Flatfrog Laboratories Ab System and method of determining a position of a radiation emitting element
EP1665024B1 (en) 2003-09-12 2011-06-29 FlatFrog Laboratories AB A system and method of determining a position of a radiation scattering/reflecting element
US7411575B2 (en) 2003-09-16 2008-08-12 Smart Technologies Ulc Gesture recognition method and touch system incorporating the same
DE10345352A1 (de) * 2003-09-18 2005-04-14 E.G.O. Elektro-Gerätebau GmbH Bedienvorrichtung und Bedienverfahren für ein elektrisches Haushaltsgerät
US7274356B2 (en) 2003-10-09 2007-09-25 Smart Technologies Inc. Apparatus for determining the location of a pointer within a region of interest
CN1902930B (zh) 2003-10-24 2010-12-15 瑞克楚斯系统公司 管理交互式视频显示系统的方法和系统
US20050134749A1 (en) * 2003-12-19 2005-06-23 Adiel Abileah Reflection resistant display
DE10360952A1 (de) * 2003-12-23 2005-07-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zur Interaktion zwischen einem Objekt und einer graphisch darstellbaren Benutzeroberfläche
US7355593B2 (en) 2004-01-02 2008-04-08 Smart Technologies, Inc. Pointer tracking across multiple overlapping coordinate input sub-regions defining a generally contiguous input region
US7773139B2 (en) 2004-04-16 2010-08-10 Apple Inc. Image sensor with photosensitive thin film transistors
US7460110B2 (en) 2004-04-29 2008-12-02 Smart Technologies Ulc Dual mode touch system
US7538759B2 (en) 2004-05-07 2009-05-26 Next Holdings Limited Touch panel display system with illumination and detection provided from a single edge
US8120596B2 (en) 2004-05-21 2012-02-21 Smart Technologies Ulc Tiled touch system
DE602005022874D1 (de) * 2004-06-03 2010-09-23 Molecular Imprints Inc Fluidausgabe und tropfenausgabe nach bedarf für die herstellung im nanobereich
US20070228593A1 (en) * 2006-04-03 2007-10-04 Molecular Imprints, Inc. Residual Layer Thickness Measurement and Correction
US7432917B2 (en) 2004-06-16 2008-10-07 Microsoft Corporation Calibration of an interactive display system
US7785526B2 (en) * 2004-07-20 2010-08-31 Molecular Imprints, Inc. Imprint alignment method, system, and template
US7724242B2 (en) 2004-08-06 2010-05-25 Touchtable, Inc. Touch driven method and apparatus to integrate and display multiple image layers forming alternate depictions of same subject matter
US7719523B2 (en) 2004-08-06 2010-05-18 Touchtable, Inc. Bounding box gesture recognition on a touch detecting interactive display
US7728821B2 (en) * 2004-08-06 2010-06-01 Touchtable, Inc. Touch detecting interactive display
US7939131B2 (en) * 2004-08-16 2011-05-10 Molecular Imprints, Inc. Method to provide a layer with uniform etch characteristics
US7811505B2 (en) 2004-12-07 2010-10-12 Molecular Imprints, Inc. Method for fast filling of templates for imprint lithography using on template dispense
US20060177532A1 (en) * 2005-02-04 2006-08-10 Molecular Imprints, Inc. Imprint lithography method to control extrusion of a liquid from a desired region on a substrate
US7636999B2 (en) * 2005-01-31 2009-12-29 Molecular Imprints, Inc. Method of retaining a substrate to a wafer chuck
US7635263B2 (en) * 2005-01-31 2009-12-22 Molecular Imprints, Inc. Chucking system comprising an array of fluid chambers
US9128519B1 (en) 2005-04-15 2015-09-08 Intellectual Ventures Holding 67 Llc Method and system for state-based control of objects
US20070228608A1 (en) * 2006-04-03 2007-10-04 Molecular Imprints, Inc. Preserving Filled Features when Vacuum Wiping
US8081822B1 (en) 2005-05-31 2011-12-20 Intellectual Ventures Holding 67 Llc System and method for sensing a feature of an object in an interactive video display
US7535463B2 (en) * 2005-06-15 2009-05-19 Microsoft Corporation Optical flow-based manipulation of graphical objects
US7995039B2 (en) * 2005-07-05 2011-08-09 Flatfrog Laboratories Ab Touch pad system
US8808808B2 (en) 2005-07-22 2014-08-19 Molecular Imprints, Inc. Method for imprint lithography utilizing an adhesion primer layer
US20070074635A1 (en) * 2005-08-25 2007-04-05 Molecular Imprints, Inc. System to couple a body and a docking plate
US20070064384A1 (en) * 2005-08-25 2007-03-22 Molecular Imprints, Inc. Method to transfer a template transfer body between a motion stage and a docking plate
US7665981B2 (en) * 2005-08-25 2010-02-23 Molecular Imprints, Inc. System to transfer a template transfer body between a motion stage and a docking plate
US7911444B2 (en) 2005-08-31 2011-03-22 Microsoft Corporation Input method for surface of interactive display
US7316554B2 (en) 2005-09-21 2008-01-08 Molecular Imprints, Inc. System to control an atmosphere between a body and a substrate
US8847924B2 (en) * 2005-10-03 2014-09-30 Hewlett-Packard Development Company, L.P. Reflecting light
US9046962B2 (en) * 2005-10-31 2015-06-02 Extreme Reality Ltd. Methods, systems, apparatuses, circuits and associated computer executable code for detecting motion, position and/or orientation of objects within a defined spatial region
US7803308B2 (en) 2005-12-01 2010-09-28 Molecular Imprints, Inc. Technique for separating a mold from solidified imprinting material
US7906058B2 (en) 2005-12-01 2011-03-15 Molecular Imprints, Inc. Bifurcated contact printing technique
US8098277B1 (en) 2005-12-02 2012-01-17 Intellectual Ventures Holding 67 Llc Systems and methods for communication between a reactive video system and a mobile communication device
WO2007067488A2 (en) 2005-12-08 2007-06-14 Molecular Imprints, Inc. Method and system for double-sided patterning of substrates
US7670530B2 (en) 2006-01-20 2010-03-02 Molecular Imprints, Inc. Patterning substrates employing multiple chucks
US8013845B2 (en) * 2005-12-30 2011-09-06 Flatfrog Laboratories Ab Optical touch pad with multilayer waveguide
US20070097096A1 (en) * 2006-03-25 2007-05-03 Outland Research, Llc Bimodal user interface paradigm for touch screen devices
US8218154B2 (en) * 2006-03-30 2012-07-10 Flatfrog Laboratories Ab System and a method of determining a position of a scattering/reflecting element on the surface of a radiation transmissive element
US7802978B2 (en) * 2006-04-03 2010-09-28 Molecular Imprints, Inc. Imprinting of partial fields at the edge of the wafer
US8850980B2 (en) 2006-04-03 2014-10-07 Canon Nanotechnologies, Inc. Tessellated patterns in imprint lithography
KR20090003153A (ko) 2006-04-03 2009-01-09 몰레큘러 임프린츠 인코퍼레이티드 다수의 필드와 정렬 마크를 갖는 기판을 동시에 패턴화하는방법
US8142850B2 (en) * 2006-04-03 2012-03-27 Molecular Imprints, Inc. Patterning a plurality of fields on a substrate to compensate for differing evaporation times
US8012395B2 (en) 2006-04-18 2011-09-06 Molecular Imprints, Inc. Template having alignment marks formed of contrast material
US7854867B2 (en) * 2006-04-21 2010-12-21 Molecular Imprints, Inc. Method for detecting a particle in a nanoimprint lithography system
US8031186B2 (en) * 2006-07-06 2011-10-04 Flatfrog Laboratories Ab Optical touchpad system and waveguide for use therein
US8094136B2 (en) * 2006-07-06 2012-01-10 Flatfrog Laboratories Ab Optical touchpad with three-dimensional position determination
US8441467B2 (en) * 2006-08-03 2013-05-14 Perceptive Pixel Inc. Multi-touch sensing display through frustrated total internal reflection
US20080084539A1 (en) * 2006-10-06 2008-04-10 Daniel Tyler J Human-machine interface device and method
US9063617B2 (en) * 2006-10-16 2015-06-23 Flatfrog Laboratories Ab Interactive display system, tool for use with the system, and tool management apparatus
US8269746B2 (en) * 2006-11-27 2012-09-18 Microsoft Corporation Communication with a touch screen
US8094129B2 (en) 2006-11-27 2012-01-10 Microsoft Corporation Touch sensing using shadow and reflective modes
US7924272B2 (en) * 2006-11-27 2011-04-12 Microsoft Corporation Infrared sensor integrated in a touch panel
US9442607B2 (en) 2006-12-04 2016-09-13 Smart Technologies Inc. Interactive input system and method
US8970503B2 (en) * 2007-01-05 2015-03-03 Apple Inc. Gestures for devices having one or more touch sensitive surfaces
US20080189046A1 (en) * 2007-02-02 2008-08-07 O-Pen A/S Optical tool with dynamic electromagnetic radiation and a system and method for determining the position and/or motion of an optical tool
JP4826512B2 (ja) * 2007-03-12 2011-11-30 セイコーエプソン株式会社 表示装置及び電子機器
EP2135155B1 (en) 2007-04-11 2013-09-18 Next Holdings, Inc. Touch screen system with hover and click input methods
US8094137B2 (en) 2007-07-23 2012-01-10 Smart Technologies Ulc System and method of detecting contact on a display
US9536275B1 (en) * 2007-07-31 2017-01-03 Nvidia Corporation Using a geometry shader for variable input and output algorithms
KR20100075460A (ko) 2007-08-30 2010-07-02 넥스트 홀딩스 인코포레이티드 저 프로파일 터치 패널 시스템
KR20100055516A (ko) 2007-08-30 2010-05-26 넥스트 홀딩스 인코포레이티드 개선된 조광을 가진 광학 터치 스크린
US20110310024A1 (en) * 2007-09-05 2011-12-22 Panasonic Corporation Portable terminal device and display control method
AU2008299883B2 (en) 2007-09-14 2012-03-15 Facebook, Inc. Processing of gesture-based user interactions
EP2212763A4 (en) * 2007-10-10 2012-06-20 Flatfrog Lab Ab TOUCH FIELD AND METHOD FOR OPERATING THE TOUCH FIELD
US8159682B2 (en) 2007-11-12 2012-04-17 Intellectual Ventures Holding 67 Llc Lens system
AR064377A1 (es) 2007-12-17 2009-04-01 Rovere Victor Manuel Suarez Dispositivo para sensar multiples areas de contacto contra objetos en forma simultanea
US9001036B2 (en) 2007-12-20 2015-04-07 University Of Central Florida Research Foundation, Inc. Systems and methods of camera-based fingertip tracking
US8199106B2 (en) * 2007-12-20 2012-06-12 University Of Central Florida Research Foundation, Inc. Systems and methods of camera-based fingertip tracking
US8405636B2 (en) 2008-01-07 2013-03-26 Next Holdings Limited Optical position sensing system and optical position sensor assembly
US20090180166A1 (en) * 2008-01-16 2009-07-16 Samsung Electronics Co., Ltd. Imaging using diffraction optics elements
US20090180187A1 (en) * 2008-01-16 2009-07-16 Samsung Electronics Co., Ltd. System and method for using diffractive elements for changing the optical pathway
US8259163B2 (en) 2008-03-07 2012-09-04 Intellectual Ventures Holding 67 Llc Display with built in 3D sensing
US20090278795A1 (en) * 2008-05-09 2009-11-12 Smart Technologies Ulc Interactive Input System And Illumination Assembly Therefor
US8902193B2 (en) 2008-05-09 2014-12-02 Smart Technologies Ulc Interactive input system and bezel therefor
TWI397838B (zh) * 2008-06-11 2013-06-01 Univ Nat Taiwan Virtual touch screen device
US8595218B2 (en) 2008-06-12 2013-11-26 Intellectual Ventures Holding 67 Llc Interactive display management systems and methods
TW201013492A (en) 2008-06-23 2010-04-01 Flatfrog Lab Ab Determining the location of one or more objects on a touch surface
TW201005606A (en) 2008-06-23 2010-02-01 Flatfrog Lab Ab Detecting the locations of a plurality of objects on a touch surface
US8542217B2 (en) 2008-06-23 2013-09-24 Flatfrog Laboratories Ab Optical touch detection using input and output beam scanners
TW201007530A (en) 2008-06-23 2010-02-16 Flatfrog Lab Ab Detecting the location of an object on a touch surface
US8159455B2 (en) * 2008-07-18 2012-04-17 Apple Inc. Methods and apparatus for processing combinations of kinematical inputs
JP4605280B2 (ja) * 2008-09-16 2011-01-05 セイコーエプソン株式会社 入力装置、情報装置及び制御情報生成方法
US20100079409A1 (en) * 2008-09-29 2010-04-01 Smart Technologies Ulc Touch panel for an interactive input system, and interactive input system incorporating the touch panel
US8810522B2 (en) * 2008-09-29 2014-08-19 Smart Technologies Ulc Method for selecting and manipulating a graphical object in an interactive input system, and interactive input system executing the method
US20100083109A1 (en) * 2008-09-29 2010-04-01 Smart Technologies Ulc Method for handling interactions with multiple users of an interactive input system, and interactive input system executing the method
US8339378B2 (en) 2008-11-05 2012-12-25 Smart Technologies Ulc Interactive input system with multi-angle reflector
SE533704C2 (sv) 2008-12-05 2010-12-07 Flatfrog Lab Ab Pekkänslig apparat och förfarande för drivning av densamma
US20100149113A1 (en) * 2008-12-15 2010-06-17 Sony Ericsson Mobile Communications Ab Proximity sensor device, electronic apparatus and method of sensing object proximity
WO2011003171A1 (en) * 2009-07-08 2011-01-13 Smart Technologies Ulc Three-dimensional widget manipulation on a multi-touch panel
JP5423222B2 (ja) * 2009-08-07 2014-02-19 ソニー株式会社 位置検出装置および位置検出方法
JP5310389B2 (ja) * 2009-08-27 2013-10-09 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP5304544B2 (ja) * 2009-08-28 2013-10-02 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
CA2772424A1 (en) * 2009-09-01 2011-03-10 Smart Technologies Ulc Interactive input system with improved signal-to-noise ratio (snr) and image capture method
JP4902714B2 (ja) * 2009-09-30 2012-03-21 シャープ株式会社 光ポインティング装置およびそれを備える電子機器、並びに、導光体および導光方法。
US20110095989A1 (en) * 2009-10-23 2011-04-28 Smart Technologies Ulc Interactive input system and bezel therefor
US8502789B2 (en) * 2010-01-11 2013-08-06 Smart Technologies Ulc Method for handling user input in an interactive input system, and interactive input system executing the method
TWI433009B (zh) * 2010-03-26 2014-04-01 Pixart Imaging Inc 光學式觸控裝置
TWI459239B (zh) * 2010-07-15 2014-11-01 Tpk Touch Solutions Inc 一種鍵盤
US20120069232A1 (en) * 2010-09-16 2012-03-22 Qualcomm Mems Technologies, Inc. Curvilinear camera lens as monitor cover plate
US10586036B2 (en) 2010-11-29 2020-03-10 Biocatch Ltd. System, device, and method of recovery and resetting of user authentication factor
US10834590B2 (en) 2010-11-29 2020-11-10 Biocatch Ltd. Method, device, and system of differentiating between a cyber-attacker and a legitimate user
US10949514B2 (en) 2010-11-29 2021-03-16 Biocatch Ltd. Device, system, and method of differentiating among users based on detection of hardware components
US10404729B2 (en) 2010-11-29 2019-09-03 Biocatch Ltd. Device, method, and system of generating fraud-alerts for cyber-attacks
US11223619B2 (en) 2010-11-29 2022-01-11 Biocatch Ltd. Device, system, and method of user authentication based on user-specific characteristics of task performance
US10747305B2 (en) 2010-11-29 2020-08-18 Biocatch Ltd. Method, system, and device of authenticating identity of a user of an electronic device
US10621585B2 (en) 2010-11-29 2020-04-14 Biocatch Ltd. Contextual mapping of web-pages, and generation of fraud-relatedness score-values
US10917431B2 (en) 2010-11-29 2021-02-09 Biocatch Ltd. System, method, and device of authenticating a user based on selfie image or selfie video
US11210674B2 (en) 2010-11-29 2021-12-28 Biocatch Ltd. Method, device, and system of detecting mule accounts and accounts used for money laundering
US10262324B2 (en) 2010-11-29 2019-04-16 Biocatch Ltd. System, device, and method of differentiating among users based on user-specific page navigation sequence
US10685355B2 (en) 2016-12-04 2020-06-16 Biocatch Ltd. Method, device, and system of detecting mule accounts and accounts used for money laundering
US20190158535A1 (en) * 2017-11-21 2019-05-23 Biocatch Ltd. Device, System, and Method of Detecting Vishing Attacks
US10069837B2 (en) 2015-07-09 2018-09-04 Biocatch Ltd. Detection of proxy server
US10298614B2 (en) * 2010-11-29 2019-05-21 Biocatch Ltd. System, device, and method of generating and managing behavioral biometric cookies
US10897482B2 (en) 2010-11-29 2021-01-19 Biocatch Ltd. Method, device, and system of back-coloring, forward-coloring, and fraud detection
US10970394B2 (en) 2017-11-21 2021-04-06 Biocatch Ltd. System, device, and method of detecting vishing attacks
US10776476B2 (en) 2010-11-29 2020-09-15 Biocatch Ltd. System, device, and method of visual login
US10949757B2 (en) 2010-11-29 2021-03-16 Biocatch Ltd. System, device, and method of detecting user identity based on motor-control loop model
US10474815B2 (en) 2010-11-29 2019-11-12 Biocatch Ltd. System, device, and method of detecting malicious automatic script and code injection
US10728761B2 (en) 2010-11-29 2020-07-28 Biocatch Ltd. Method, device, and system of detecting a lie of a user who inputs data
US11269977B2 (en) 2010-11-29 2022-03-08 Biocatch Ltd. System, apparatus, and method of collecting and processing data in electronic devices
EP2646896A4 (en) * 2010-12-01 2015-06-03 Smart Technologies Ulc MULTIPOINT TOUCH INPUT SYSTEM WITH RADIATION REDIRECTION
US9310923B2 (en) 2010-12-03 2016-04-12 Apple Inc. Input device for touch sensitive devices
US20120176341A1 (en) * 2011-01-11 2012-07-12 Texas Instruments Incorporated Method and apparatus for camera projector system for enabling an interactive surface
KR101942114B1 (ko) * 2011-02-02 2019-01-24 플라트프로그 라보라토리즈 에이비 접촉 감지 시스템용 광학식 인커플링
FR2972544B1 (fr) * 2011-03-10 2013-12-20 Intui Sense Systeme d'acquisition et de traitement d'images robuste pour facade interactive, facade et dispositif interactifs associes
US8970767B2 (en) 2011-06-21 2015-03-03 Qualcomm Mems Technologies, Inc. Imaging method and system with angle-discrimination layer
US8928635B2 (en) 2011-06-22 2015-01-06 Apple Inc. Active stylus
US8638320B2 (en) 2011-06-22 2014-01-28 Apple Inc. Stylus orientation detection
US9329703B2 (en) 2011-06-22 2016-05-03 Apple Inc. Intelligent stylus
US20120274596A1 (en) * 2011-07-11 2012-11-01 Ludwig Lester F Use of organic light emitting diode (oled) displays as a high-resolution optical tactile sensor for high dimensional touchpad (hdtp) user interfaces
GB201117542D0 (en) * 2011-10-11 2011-11-23 Light Blue Optics Ltd Touch-sensitive display devices
TW201331796A (zh) * 2012-01-20 2013-08-01 Univ Nat Taipei Technology 能根據環境光線變化來最佳化觸控亮點之多點觸控系統及其方法
US20130253332A1 (en) * 2012-03-20 2013-09-26 Nellcor Puritan Bennett Llc Tissue interface systems for application of optical signals into tissue of a patient
JP6135239B2 (ja) * 2012-05-18 2017-05-31 株式会社リコー 画像処理装置、画像処理プログラム、画像処理方法
US10168835B2 (en) 2012-05-23 2019-01-01 Flatfrog Laboratories Ab Spatial resolution in touch displays
TWI484379B (zh) * 2012-06-01 2015-05-11 Pixart Imaging Inc 光學感測裝置
WO2014007955A1 (en) * 2012-06-12 2014-01-09 University Of Central Florida Research Foundation, Inc. Systems and methods of camera-based body-motion tracking
US9176604B2 (en) 2012-07-27 2015-11-03 Apple Inc. Stylus device
US9652090B2 (en) 2012-07-27 2017-05-16 Apple Inc. Device for digital communication through capacitive coupling
US9557845B2 (en) 2012-07-27 2017-01-31 Apple Inc. Input device for and method of communication with capacitive devices through frequency variation
TW201415291A (zh) * 2012-10-08 2014-04-16 Pixart Imaging Inc 基於物件追蹤的手勢辨識方法及系統
US10048775B2 (en) 2013-03-14 2018-08-14 Apple Inc. Stylus detection and demodulation
WO2014168567A1 (en) 2013-04-11 2014-10-16 Flatfrog Laboratories Ab Tomographic processing for touch detection
WO2015005847A1 (en) 2013-07-12 2015-01-15 Flatfrog Laboratories Ab Partial detect mode
US9939935B2 (en) 2013-07-31 2018-04-10 Apple Inc. Scan engine for touch controller architecture
US10126882B2 (en) 2014-01-16 2018-11-13 Flatfrog Laboratories Ab TIR-based optical touch systems of projection-type
WO2015108479A1 (en) 2014-01-16 2015-07-23 Flatfrog Laboratories Ab Light coupling in tir-based optical touch systems
US9690478B2 (en) * 2014-03-04 2017-06-27 Texas Instruments Incorporated Method and system for processing gestures to cause computation of measurement of an angle or a segment using a touch system
US9921688B2 (en) 2014-03-04 2018-03-20 Qualcomm Incorporated Large area interactive display screen
US10161886B2 (en) 2014-06-27 2018-12-25 Flatfrog Laboratories Ab Detection of surface contamination
US11042047B1 (en) * 2014-08-22 2021-06-22 Sunlight Aerospace Inc. Mobile system incorporating flexible and tunable optically reflective skin and method of use
US10061449B2 (en) 2014-12-04 2018-08-28 Apple Inc. Coarse scan and targeted active mode scan for touch and stylus
EP3250993B1 (en) 2015-01-28 2019-09-04 FlatFrog Laboratories AB Dynamic touch quarantine frames
US10318074B2 (en) 2015-01-30 2019-06-11 Flatfrog Laboratories Ab Touch-sensing OLED display with tilted emitters
WO2016130074A1 (en) 2015-02-09 2016-08-18 Flatfrog Laboratories Ab Optical touch system comprising means for projecting and detecting light beams above and inside a transmissive panel
EP3265855A4 (en) 2015-03-02 2018-10-31 FlatFrog Laboratories AB Optical component for light coupling
GB2539705B (en) 2015-06-25 2017-10-25 Aimbrain Solutions Ltd Conditional behavioural biometrics
US10261619B2 (en) * 2015-08-31 2019-04-16 Synaptics Incorporated Estimating force applied by an input object to a touch sensor
US20170123622A1 (en) * 2015-10-28 2017-05-04 Microsoft Technology Licensing, Llc Computing device having user-input accessory
EP4075246A1 (en) 2015-12-09 2022-10-19 FlatFrog Laboratories AB Stylus for optical touch system
US10474277B2 (en) 2016-05-31 2019-11-12 Apple Inc. Position-based stylus communication
US20170366876A1 (en) * 2016-06-16 2017-12-21 Analog Devices Global Current sensing in two-dimensional area sensors
US10102423B2 (en) * 2016-06-30 2018-10-16 Snap Inc. Object modeling and replacement in a video stream
GB2552032B (en) 2016-07-08 2019-05-22 Aimbrain Solutions Ltd Step-up authentication
US10198122B2 (en) * 2016-09-30 2019-02-05 Biocatch Ltd. System, device, and method of estimating force applied to a touch surface
US10579784B2 (en) 2016-11-02 2020-03-03 Biocatch Ltd. System, device, and method of secure utilization of fingerprints for user authentication
US10761657B2 (en) 2016-11-24 2020-09-01 Flatfrog Laboratories Ab Automatic optimisation of touch signal
HUE059960T2 (hu) 2016-12-07 2023-01-28 Flatfrog Lab Ab Ívelt érintésérzékelõ eszköz
EP3458946B1 (en) 2017-02-06 2020-10-21 FlatFrog Laboratories AB Optical coupling in touch-sensing systems
WO2018174788A1 (en) 2017-03-22 2018-09-27 Flatfrog Laboratories Object characterisation for touch displays
EP3602259A4 (en) 2017-03-28 2021-01-20 FlatFrog Laboratories AB TOUCH DETECTION DEVICE AND ITS ASSEMBLY PROCESS
US10397262B2 (en) 2017-07-20 2019-08-27 Biocatch Ltd. Device, system, and method of detecting overlay malware
US11497569B2 (en) * 2017-08-01 2022-11-15 Intuitive Surgical Operations, Inc. Touchscreen user interface for interacting with a virtual model
CN117311543A (zh) 2017-09-01 2023-12-29 平蛙实验室股份公司 触摸感测设备
US11567610B2 (en) 2018-03-05 2023-01-31 Flatfrog Laboratories Ab Detection line broadening
FR3087024B1 (fr) * 2018-10-04 2021-04-16 Pixminds Procede de detection d'un contact contre un ecran
US11943563B2 (en) 2019-01-25 2024-03-26 FlatFrog Laboratories, AB Videoconferencing terminal and method of operating the same
EP4031832A4 (en) * 2019-09-17 2023-10-18 Carbon Autonomous Robotic Systems Inc. WEED ERADICATION BY AUTONOMOUS LASER
EP4104042A1 (en) 2020-02-10 2022-12-21 FlatFrog Laboratories AB Improved touch-sensing apparatus
US11606353B2 (en) 2021-07-22 2023-03-14 Biocatch Ltd. System, device, and method of generating and utilizing one-time passwords

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4305071A (en) * 1980-04-16 1981-12-08 Bell Telephone Laboratories, Incorporated Touch sensitive screen signal detection arrangement
US4346376A (en) * 1980-04-16 1982-08-24 Bell Telephone Laboratories, Incorporated Touch position sensitive surface
FR2485804B1 (fr) 1980-06-30 1987-03-20 Thomson Csf Ecran d'affichage a balayage muni d'un dispositif de detection de spot, et console de visualisation comprenant un tel ecran
US4340300A (en) * 1980-08-11 1982-07-20 Siemens Corporation Input sensor unit for a fingerprint identification system
US5696863A (en) * 1982-08-06 1997-12-09 Kleinerman; Marcos Y. Distributed fiber optic temperature sensors and systems
GB8302997D0 (en) * 1983-02-03 1983-03-09 Bergstrom A Electromagnetic radiation circuit element
US4561017A (en) * 1983-08-19 1985-12-24 Richard Greene Graphic input apparatus
US4710760A (en) * 1985-03-07 1987-12-01 American Telephone And Telegraph Company, At&T Information Systems Inc. Photoelastic touch-sensitive screen
US4746770A (en) * 1987-02-17 1988-05-24 Sensor Frame Incorporated Method and apparatus for isolating and manipulating graphic objects on computer video monitor
EP0322356A3 (de) * 1987-12-19 1991-06-12 Baumer Electric Ag Verfahren und Vorrichtung zur optischen Distanzmessung
US4968877A (en) * 1988-09-14 1990-11-06 Sensor Frame Corporation VideoHarp
US5230025A (en) * 1990-08-31 1993-07-20 Digital Biometrics, Inc. Method and apparatus for capturing skin print images
US5181108A (en) * 1991-10-07 1993-01-19 Greene Richard M Graphic input device with uniform sensitivity and no keystone distortion
US5467403A (en) * 1991-11-19 1995-11-14 Digital Biometrics, Inc. Portable fingerprint scanning apparatus for identification verification
EP0554492B1 (en) 1992-02-07 1995-08-09 International Business Machines Corporation Method and device for optical input of commands or data
US5483261A (en) * 1992-02-14 1996-01-09 Itu Research, Inc. Graphical input controller and method with rear screen image detection
US5982352A (en) * 1992-09-18 1999-11-09 Pryor; Timothy R. Method for providing human input to a computer
JPH0887380A (ja) 1994-09-19 1996-04-02 Tabai Espec Corp 操作体対応型操作パネル装置
US5591945A (en) * 1995-04-19 1997-01-07 Elo Touchsystems, Inc. Acoustic touch position sensor using higher order horizontally polarized shear wave propagation
US5764223A (en) * 1995-06-07 1998-06-09 International Business Machines Corporation Touch-screen input device using the monitor as a light source operating at an intermediate frequency
US6061177A (en) * 1996-12-19 2000-05-09 Fujimoto; Kenneth Noboru Integrated computer display and graphical input apparatus and method
US6501846B1 (en) * 1997-11-25 2002-12-31 Ethentica, Inc. Method and system for computer access and cursor control using a relief object image generator

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005055029A1 (ja) * 2003-12-02 2005-06-16 Olympus Corporation ヒューマンインタフェース装置及びヒューマンインタフェースシステム
JP2005339444A (ja) * 2004-05-31 2005-12-08 Toshiba Matsushita Display Technology Co Ltd 表示装置
JP2006040271A (ja) * 2004-06-28 2006-02-09 Microsoft Corp ソフトウェアアプリケーションと対話するためのジェスチャの認識および使用
JP2006244446A (ja) * 2005-02-03 2006-09-14 Toshiba Matsushita Display Technology Co Ltd 表示装置
US7800594B2 (en) 2005-02-03 2010-09-21 Toshiba Matsushita Display Technology Co., Ltd. Display device including function to input information from screen by light
JP4630744B2 (ja) * 2005-02-03 2011-02-09 東芝モバイルディスプレイ株式会社 表示装置
JP4707034B2 (ja) * 2006-07-07 2011-06-22 株式会社ソニー・コンピュータエンタテインメント 画像処理方法、入力インタフェース装置
JP2008015915A (ja) * 2006-07-07 2008-01-24 Sony Computer Entertainment Inc 画像処理方法、入力インタフェース装置
US8241122B2 (en) 2006-07-07 2012-08-14 Sony Computer Entertainment Inc. Image processing method and input interface apparatus
US8749522B2 (en) 2007-09-10 2014-06-10 Nederlandse Organisatie Voor Toegepast-Natuurwetenschappelijk Onderzoek Tno Optical sensor for measuring a force distribution
JP2010539474A (ja) * 2007-09-10 2010-12-16 ネーデルランデ オルガニサティー ヴール トゥーヘパストナツールウェテンスハペライク オンデルズーク テーエヌオー 力分布測定用光学センサ
JP5254311B2 (ja) * 2008-03-14 2013-08-07 シャープ株式会社 液晶表示装置
WO2009113330A1 (ja) * 2008-03-14 2009-09-17 シャープ株式会社 エリアセンサ、およびエリアセンサ付き表示装置
US8350973B2 (en) 2008-06-13 2013-01-08 Sharp Kabushiki Kaisha Area sensor and display device including area sensor
JP5435509B2 (ja) * 2009-05-25 2014-03-05 国立大学法人電気通信大学 操作情報入力システム及び方法
KR20120090020A (ko) * 2009-06-01 2012-08-16 퍼셉티브 픽셀 인코포레이티드 터치 센싱
KR101640632B1 (ko) 2009-06-01 2016-07-18 퍼셉티브 픽셀 인코포레이티드 터치 센싱
JP2011048665A (ja) * 2009-08-27 2011-03-10 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2011118533A (ja) * 2009-12-01 2011-06-16 Tokyo Denki Univ タッチ位置入力装置及びタッチ位置入力方法
JP2015021747A (ja) * 2013-07-16 2015-02-02 国立大学法人広島大学 印加力推定方法、印加力推定プログラム、およびコンピュータ入力デバイス
JP2015114169A (ja) * 2013-12-10 2015-06-22 国立大学法人 奈良先端科学技術大学院大学 指先接触状態測定装置
JP2017514232A (ja) * 2014-04-28 2017-06-01 クアルコム,インコーポレイテッド 双方向ディスプレイスクリーン用の圧力、回転およびスタイラス機能

Also Published As

Publication number Publication date
AU2001252083A1 (en) 2001-11-12
US20110214094A1 (en) 2011-09-01
WO2001084251A3 (en) 2003-01-03
US8937613B2 (en) 2015-01-20
US7859519B2 (en) 2010-12-28
US20030137494A1 (en) 2003-07-24
EP1287409A2 (en) 2003-03-05
WO2001084251A2 (en) 2001-11-08

Similar Documents

Publication Publication Date Title
JP2003532216A (ja) ヒューマン・マシーンインターフェイス
US20160209948A1 (en) Human-machine interface
TWI524243B (zh) 具壓力感測器之光學電容式拇指控制裝置
US8743345B2 (en) Three-dimensional imaging and display system
JP3321053B2 (ja) 情報入力装置及び情報入力方法及び補正データ生成装置
CN102622108B (zh) 一种交互式投影系统及其实现方法
US20130136305A1 (en) Pattern generation using diffractive optical elements
US8119975B2 (en) High speed deterministic, non-contact, 3-axis free trajectory measurement device and free trajectory imaging device
EP0837418A2 (en) Method and apparatus for generating information input using reflected light image of target object
JPH08506193A (ja) ペンの視覚的検出のための拡散支援による位置標定用装置および方法
FR2948471A1 (fr) Procede et dispositif de localisation d&#39;au moins un toucher sur une surface tactile d&#39;un objet
CA2433791A1 (en) A data input device
KR20120023631A (ko) 눈물막의 촬영, 처리 및/또는 표시, 및/또는 눈물막 층 두께(들)의 측정을 위한 눈 표면 간섭계(osi) 디바이스들, 시스템들 및 방법들
JP2005353071A (ja) アレーセンサーポインティング入力システム及びその方法(pointinginputsystemandmethodusingarraysensors)
NL8801680A (nl) Werkwijze en inrichting voor het bepalen van de stroomsnelheid van een stroommedium in een stroomleiding.
CN1666222A (zh) 输入数据的设备和方法
CN112422796B (zh) 摄像头结构、摄像控制方法、装置及电子设备
JPH1138967A (ja) 電子楽器
US20060132459A1 (en) Interpreting an image
JPH09503313A (ja) 小型映写照明装置および画像映写方法
EP2332027A1 (en) Interactive displays
Bandara A music keyboard with gesture controlled effects based on computer vision
US20220400203A1 (en) Omnidirectional ghost imaging method and system based on the mechanism of bio-inspired retina-like
WO2009123750A2 (en) High speed deterministic, non-contact, 3-axis free trajectory measurement device and free trajectory imaging device
CN109085939A (zh) 投影触控系统及其校正方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060412