JP5346081B2 - ペントラッキングを組み込んだマルチタッチ式タッチスクリーン - Google Patents
ペントラッキングを組み込んだマルチタッチ式タッチスクリーン Download PDFInfo
- Publication number
- JP5346081B2 JP5346081B2 JP2011517256A JP2011517256A JP5346081B2 JP 5346081 B2 JP5346081 B2 JP 5346081B2 JP 2011517256 A JP2011517256 A JP 2011517256A JP 2011517256 A JP2011517256 A JP 2011517256A JP 5346081 B2 JP5346081 B2 JP 5346081B2
- Authority
- JP
- Japan
- Prior art keywords
- touch
- display panel
- display system
- layer
- panel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
- G06F3/0317—Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
- G06F3/0317—Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
- G06F3/0321—Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface by optically sensing the absolute position with respect to a regularly patterned surface forming a passive digitiser, e.g. pen optically detecting position indicative tags printed on a paper sheet
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03545—Pens or stylus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0421—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/041—Indexing scheme relating to G06F3/041 - G06F3/045
- G06F2203/04109—FTIR in optical digitiser, i.e. touch detection by frustrating the total internal reflection within an optical waveguide due to changes of optical properties or deformation at the touch location
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/048—Indexing scheme relating to G06F3/048
- G06F2203/04808—Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen
Description
本発明は、マルチタッチ式タッチスクリーンに関し、特に、ペントラッキングとマルチタッチ式タッチスクリーンシステムとの組み込みに関する。
タッチスクリーンは、一般に表示パネルがタッチされた時および表示パネル内のタッチの位置を検出できる特別に構成されたディスプレイデバイスである。このタッチは、スタイラス(Stylus)、人間の指などによって行われ得る。タッチスクリーンは、販売時点情報管理装置、ハンドヘルド電子装置、対話式ディスプレイ、ワークステーション、パーソナルコンピュータ、現金自動支払機など幅広い電子機器のために、キーパッド、キーボード、マウスに対する更なるまたは代わりの入力デバイスを提供する。従来、これらタッチスクリーンシステムでは、タッチの位置を感知するために様々なタイプの技術が用いられてきたが、任意の時点でシングルタッチの位置しか検出できないという制約があった。
近年、同時に複数のタッチを感知できるマルチタッチ式タッチスクリーンが、開発されている。タッチスクリーンが複数のタッチを検出およびトラッキングできることは、インタフェース技術における革新的な前進をもたらす。このような技術が、グラフィックデザイナ、司会者、写真家、建築家のような専門分野のユーザ、および一般のコンピュータのユーザに与えることができることを、誰もが自由に容易に想像できる。マルチタッチ式タッチスクリーンを用いて、1人または複数のユーザは、複数の指を使用して、同時に、表示された対象を選択、操作およびドラッグすることができる。特に、マルチタッチ式タッチスクリーンのサイズが増大するにつれて、このような応用例の可能性は広い。
今日まで商業的に最も有名なマルチタッチ式タッチスクリーンは、アップル(登録商標)のiPhoneに搭載されている主要なインタフェースおよびディスプレイである。iPhoneは、ユーザが、2本の指を同時に使って、タッチスクリーンを介して様々な機能を実行することを可能にするものであり、タッチスクリーンの表面に沿ってそれぞれ指を離すようにスライドさせる、または互いに向かって指をスライドさせることによって表示されている対象を拡大または縮小することが含まれる。iPhoneのタッチスクリーンは、様々なタッチの座標および動きを検出する静電容量式グリッドに依拠するが、静電容量式グリッドの使用は、タッチスクリーンが、スタイラスのタッチまたは非導電性グローブを介しての人間によるタッチを検出できないことを意味する。さらに、静電容量式グリッドを使用することにより、タッチスクリーンのスケーラビリティ、および任意の時点でトラッキングできるタッチ数が実質的に制限される。iPhoneについては、一般的に、任意の時点で2タッチのみが使用される。したがって、比較的小さいディスプレイが、iPhoneのタッチスクリーン技術を組み込むことができるにすぎない。多くの他の現行のタッチスクリーン技術にも、同じ操作上およびサイズの制限がある。
有望な新しいマルチタッチ技術が、Perceptive Pixel社(www.perceptivepixel.com)およびMicrosoft社(www.microsoft.com/surface)などの企業によって大型表示パネル向けに開発されつつある。これら技術は、リアプロジェクション技術を用いて、表示内容を表示パネルの前から見ることができるように大型表示パネルの裏に表示内容を投影する。タッチ検出は、表示パネルの正面がタッチされることに応じて、表示パネルの裏から生じまたは反射する赤外(IR)光を感知することに依拠する。このIR光は、一般に、タッチされているスポットから生じるだけであり、IRセンサは、強度、位置、およびタッチに関連した任意の動きを検出できる。関連したプロセッサは、IRセンサから対応するタッチ情報を受け取り、タッチ情報をユーザ入力として処理する。このプロセッサは、タッチされている表示パネルから導出されるユーザ入力に基づいて表示内容を制御するように構成される。
これら技術は、優れたマルチタッチ対話性を実現するが、この技術は、人間によるタッチに本質的に限定され、一般に、ペンタイプの道具などのスタイラスのような、もっと小さい、人間以外の物体の接触および動きをトラッキングできない。表示パネルおよびIRセンサの実効タッチ感度は、比較的低いものであり、したがって、ユーザが操作できる分解能は、ユーザの指のサイズに制限される。よって、マルチタッチを使用するアプリケーションは、比較的高度の選択、動きおよびアウトライン機能に制限される。より高い分解能で操作することを必要とする小さな手書き、描画、選択などは、現在実施可能ではない。さらに、複数のユーザが、表示パネルと対話するときは、これらの技術では、表示パネルをタッチしている異なるユーザを区別することができない。
また、これら技術のさらなる欠点は、表示パネルの後部から生じまたは反射するIR光の検出に周りの光が与える影響である。周りの光はしばしば、白色光または自然光であり、この光は、比較的高いIR光成分を有する。周りのIR光は、タッチに応じて、表示パネルの後部から生じるまたは反射するIR光に干渉し、表示パネルがいつ、どのようにタッチされているかを検出するためのIRセンサの能力を事実上低下させる。例えば、タッチに関連した相対的な強度または力を測定する能力は、一般に、周りのIR光の量に反比例し、周りの光が変化しているときには発揮しにくい。
したがって、スタイラスおよび人間以外の他の物体からのタッチおよびタッチに関連した動きを検出できる大規模マルチタッチ式タッチスクリーンシステムが必要とされている。異なるユーザのタッチを区別することができるマルチタッチスクリーンシステムがさらに必要とされている。周りの白色光および自然光の中で、より効率的なやり方で操作できるマルチタッチスクリーンシステムが加えてさらに必要とされている。
本発明は、マルチタッチ式ヒューマン入力とデジタルペンからの入力のいずれにも対応するマルチタッチディスプレイシステムに関する。このディスプレイシステムは、前面部に沿った、人間によるタッチの検出およびトラッキングを可能にするように構成される表示パネルを有する。これら人間によるタッチは、ディスプレイシステム全体への入力として使用される。表示パネルは、好ましくは表示パネルを見ることが可能な領域を覆う配置パターンも備える。この配置パターンは、特定の位置に関連している表示パターンの一部を分析することによって配置パターン内の任意の位置を検出することを可能にするように構成される。デジタルペンは、表示パネルに「書き込む」ために使用され、このような書込み機能は、書込みが発生している位置を検出すること、および書き込まれているものを反映するように表示パネルに表示される表示内容を制御することを含む。このような書込みを容易にするために、任意の時点でデジタルペンが書き込んでいる配置パターンの一部が、書込みが表示パネルに発生している場所を決定するために分析される。表示内容は、書込みが書き込まれた通りに書込みが書き込まれた位置で書込みを含むように操作されてもよい。したがって、表示内容は、デジタルペンによって表示パネルに書き込まれているものを反映する。
一の実施形態では、配置パターンは、Anoto社によって開発されたアノトパターンである。アノトパターンのような配置パターンは、ドット、マーク、または他のグラフィックスを使用し、配置パターンの各固有部分が、配置パターンのこの部分の位置を識別するのに十分な情報をもたらす、連続的に変化するパターンを生み出す。配置パターンは、配置パターンが設けられている特定の表示パネルを識別するために符号化することもできる。したがって、異なる表示パネルを、配置パターンから識別することができる。
デジタルペンは、任意のタイプのデジタル書込みデバイスを表し、様々な形態をとり得る。一般に、デジタルペンは、配置パターンを検出し、対応する情報を有線通信または好ましくは無線通信を通じてディスプレイシステム用の中央処理システムに与えることができる。表示パネルは、ディスプレイ技術が、LCDディスプレイまたはプラズマベースのディスプレイに用いられるものなど、パネルの中に組み込まれる、集積表示パネルであってもよい。好ましい実施形態では、ディスプレイシステムは、リアプロジェクション技術を用い、プロジェクタは、表示パネルの後部に表示内容のイメージを投影するために使用され、このイメージは、表示パネルの正面から見ることができる。人間によるタッチを感知するためのマルチタッチ技術は、使用されるディスプレイ技術に適合する任意の公知技術を含んでいてもよい。しかし、本発明の好ましい実施形態は、リアプロジェクションディスプレイ技術およびマルチタッチ技術を用いており、マルチタッチ技術は、人間によるタッチに対応する赤外反射の感知に依拠する。
当業者は、添付図面の各図に関連して好ましい実施形態の以下の詳細な説明を読んだ後に本発明の範囲を理解し、本発明の更なる態様に気付くであろう。
本明細書に組み込まれると共に本明細書の一部を構成する添付図面の各図は、本発明の原理を説明する役割を果たす説明と共に、本発明のいくつかの態様を例示する。
下記の実施形態は、当業者による本発明の実施を可能にするために必要な情報を表しており、本発明の実施に関する最良の形態を示す。添付の各図面を踏まえて以下の説明を読むと、当業者は、本発明の概念を理解し、本明細書中では特には扱われていないこれら概念の適用例を認識するであろう。これら概念および適用例は、開示および添付の特許請求の範囲の範囲内に含まれる。
本発明は、マルチタッチ式ヒューマン入力とデジタルペンからの入力のいずれにも対応するマルチタッチディスプレイシステムに関する。このディスプレイシステムは、前面部に沿った、人間によるタッチの検出およびトラッキングを可能にするように構成される表示パネルを有する。これら人間によるタッチは、ディスプレイシステム全体への入力として使用される。表示パネルは、好ましくは表示パネルを見ることが可能な領域を覆う配置パターンも備える。この配置パターンは、特定の位置に関連している表示パターンの一部を分析することによって配置パターン内の任意の位置を検出することを可能にするように構成される。デジタルペンは、表示パネルに「書き込む」ために使用され、このような書込み機能は、書込みが発生している位置を検出すること、および書き込まれているものを反映するように表示パネルに表示される表示内容を制御することを含む。このような書込みを容易にするために、任意の時点でデジタルペンが書き込んでいる配置パターンの一部が、書込みが表示パネルに発生している場所を決定するために分析される。表示内容は、書込みが書き込まれた通りに書込みが書き込まれた位置で書込みを含むように操作されてもよい。したがって、表示内容は、デジタルペンによって表示パネルに書き込まれているものを反映する。
一の実施形態では、配置パターンは、Anoto社によって開発されたアノトパターンである。アノトパターンのような配置パターンは、ドット、マーク、または他のグラフィックスを使用し、配置パターンの各固有部分が、配置パターンのこの部分の位置を識別するのに十分な情報をもたらす、連続的に変化するパターンを生み出す。配置パターンは、配置パターンが設けられている特定の表示パネルを識別するために符号化することもできる。したがって、異なる表示パネルを、配置パターンから識別することができる。
デジタルペンは、任意のタイプのデジタル書込みデバイスを表し、様々な形態をとり得る。一般に、デジタルペンは、配置パターンを検出し、対応する情報を有線通信または好ましくは無線通信を通じてディスプレイシステム用の中央処理システムに与えることができる。表示パネルは、ディスプレイ技術が、LCDディスプレイまたはプラズマベースのディスプレイに用いられるものなど、パネルの中に組み込まれる、集積表示パネルであってもよい。好ましい実施形態では、ディスプレイシステムは、リアプロジェクション技術を用い、プロジェクタは、表示パネルの後部に表示内容のイメージを投影するために使用され、このイメージは、表示パネルの正面から見ることができる。人間によるタッチを感知するためのマルチタッチ技術は、使用されるディスプレイ技術に適合する任意の公知技術を含んでいてもよい。しかし、本発明の好ましい実施形態は、リアプロジェクションディスプレイ技術およびマルチタッチ技術を用いており、マルチタッチ技術は、人間によるタッチに対応する赤外反射の感知に依拠する。
本発明の詳細に入る前に、Perceptive Pixel社のJeff Hanによって開発されたより大型の表示パネル向けの有望なマルチタッチ式タッチスクリーン技術の概説を行う。更なる情報は、perceptivepixel.comで得ることができる。本発明の実施形態は、Perceptive Pixel技術に関連して用いることができるが、本発明は、Perceptive Pixel技術に関連して実施されることに限定されない。図1を詳細に参照すると、Jeff Hanなどによって開発されたマルチタッチディスプレイシステム10は、リアプロジェクションスクリーン及びマルチタッチ式タッチスクリーンパネルのいずれの機能も有する、特別に構成された表示パネル12の中心に位置する。表示パネル12の後部から投影されるイメージは、表示パネル12の正面から見ることができ、表示パネル12の正面は、入力をマルチタッチディスプレイシステム10に与えるときにユーザがタッチするための触覚表面またはタッチ表面を形成する。
マルチタッチディスプレイシステム10は、いつ、どこで、どのように表示パネル12がタッチされているかを検出するために全反射(Total Internal Reflection(TIR))および漏れ全反射(Frustrated Total Internal Reflection(FTIR))の光学現象に依拠する。マルチタッチディスプレイシステム10の様々な構成要素を概説した後に、これら現象をより詳細に説明する。一般に、表示パネル12の内側で進む光線が、表示パネル12内に維持され、事実上光線の一部たりとも表示パネル12の外側へ逃れ進まないときにTIR状態が発生する。マルチタッチディスプレイシステム10については、表示パネル12の少なくとも一部が、IR発光ダイオード(LED)14のアレイによって表示パネル12の中に導入される赤外(IR)光のための導波路として働く。IR LED14は、表示パネル12の周縁に沿って間隔をおいて配置され、表示パネル12がタッチされていないときにIR光が通常、表示パネル12中に維持されてTIRの状態を助けるように、IR光を表示パネル12の中に放射するように配置される。
FTIRの状態は、TIRの状態が、乱されまたは阻害されるときに発生する。このような乱れは、表示パネル12がタッチされることによって引き起こされ得る。表示パネル12がタッチされる箇所は、タッチポイント16と呼ばれる。表示パネル12の前面部のタッチポイント16がタッチされると、TIRの状態が乱される。その結果、一部のIR光(それ以外のIR光は表示パネル12内に維持される)は散乱し、表示パネル12の後部からFTIR18として放射される。
複数のFTIRセンサ20が、表示パネル12の背後に配置され、表示パネル12の後部から伝わるFTIR18の相対的な位置および強度を検出および監視するように構成される。表示パネル12からの光は、IR光であるので、FTIRセンサ20は、IR光検出器である。ここでは、IR光について述べたが、他のタイプの可視光または非可視光が、用いられてもよい。FTIRセンサ20は、FTIR18に関連したメトリクスを決定し、対応するFTIR情報を、パーソナルコンピュータ、サーバ、制御システムなどの形態をとり得るプロセッサ22に与える。プロセッサは、FTIR情報を処理し、どのように表示パネル12がタッチされているかを決定することができる。このシステムを用いると、任意の時点で複数のタッチを検出およびトラッキングすることができる。タッチは、単純なタッチから複雑なタッチおよびドラッグの動きまで多岐にわたり得るものであり、タッチの正確な経路が監視される。一般に、FTIR18の強度は各タッチに関連した圧力にほぼ比例するので、タッチの強度も、監視されてもよい。したがって、表示パネル12の複数のタッチの様々な態様は、任意の時点でプロセッサ22によってトラッキングできる。タッチおよびタッチの性質は、マルチタッチディスプレイシステム10へのタッチ入力として処理される。タッチ入力は、マルチタッチディスプレイシステム10の動作を制御するために使用される。
マルチタッチディスプレイシステム10は、静止画または動画の内容を表示パネル12の後部に投影できるプロジェクタ24も備える。上述の通り、表示パネル12は、従来のリアプロジェクション方式で、表示パネルの後部に投影されるイメージが、表示パネル12の正面から見ることができるように構成される。投影される内容は、マルチタッチディスプレイシステム10向けの表示内容である。この表示内容は、全部または一部がプロセッサ22によって生成されてもよく、プロジェクタ24に与えられ、プロジェクタ24は、表示内容を表示パネル12の後部に投影することになる。プロセッサ22は、全部または一部の表示内容にアクセスまたは表示内容を引き出すことを可能にするための任意の個数のメディア装置または再生装置を含んでもよく、またはこれらに関連していてもよい。少なくとも一部において、プロセッサ22は、タッチ入力に応じてプロジェクタ24に伝えられる、したがってプロジェクタ24によって投影される表示内容を制御して、対話型システムを実現する。特に、マルチタッチディスプレイシステム10全体は、単一の筺体内に設けられてもよく、少なくとも表示パネル12は、表示パネル12が、水平方向と垂直方向の間で回転することを可能にする連結部材に結合される。
以下、前述の表示パネル12に関連してTIRおよびFTIRの概念の概説を行う。図2を参照すると、表示パネル12が示されており、電源26が、表示パネル12の周縁の周りのIR LED14を駆動している。明確化のため、ここでは多数あるIR LED14のうちの1個のIR LED14を示す。表示パネル12は、導波路パネル28と、表層構造30とを含み、表層構造30は、導波路パネル28の上面に存在し、1以上の層を含んでもよいことが示される。導波路パネル28は、一般に、クリアアクリルまたはポリマーのようなものである。表層構造30は表示パネル12の正面を表し、タッチされる表面を形成する。表層構造30は、柔軟であることが好ましく、半透明表面を形成し、導波路28が透明素材から形成されるので、表示内容は、この半透明表面に投影される。導波路パネル28の底面は、プロジェクタ24に面する表示パネル12の後部を表す。
導波路パネル28の上面と表層構造30の底面との間には、境界が形成される。ここで、導波路パネル28のアクリルは、表層構造30の底層とは異なる屈折率を有する。一般に、導波路パネル28中を進むIR光線が、境界を横切り、表層構造30に入るとき、IR光線は、一部屈折し、一部反射する。屈折したIR光線は、境界で向きを変え、表層構造30の中に、表層構造30中を進む。反射したIR光線は、第1の材料の中に戻るように反射し、導波路パネル28中を進み続ける。大筋は、導波路パネル28の底面と空気の間に形成される境界の場合と同じである。
TIRの状態は、導波路パネル28中を進むIR光線の実質的に全てが、境界に到達した後に導波路パネル28の中に戻るように完全に反射するときに得られ、したがって、事実上、いずれのIR光線も、表層構造30、または導波路パネル28のいずれの側の空気中にも屈折しない。したがって、IR光線は、導波路パネル28内に留まる。導波路パネル28内に留まるこうしたIR光線は、内部反射32と呼ばれる。一般に、TIRには、ある条件が必要とされる。まず、導波路パネル28の屈折率は、表層構造30の底層の屈折率および導波路パネル28の他方の側の空気の屈折率より大きくなければならない。次に、IR光線の入射角は、導波路パネル28の関連する臨界角より大きくなければならない。入射角は、導波路パネル28の上面または底面に対して直角または垂直な線に対して光線が進む角度の尺度である。臨界角は、一般には導波路パネル28の構成に依存し、導波路パネル28内で生じるTIRを超える入射角に対応する。
図3を参照すると、TIRの状態が乱されるときに例示的なFTIR状態が発生し、通常第1の材料の中に戻るように反射するIR光線は、散乱し、FTIR18として導波路パネル28の外側へ進む。図示されるように、人が表層構造30をタッチポイント16でタッチすることにより、FTIR18が生じ得る。このようなタッチにより、柔軟表層構造30は圧縮し、これによって境界に沿って乱れが生じ、IR光線は、TIRの状態に関連した臨界角未満である入射角を有するように導波路パネル28の中に戻るように反射する。したがって、こうしたIR光線は、FTIR18として導波路パネル28の底面から放射され、FTIRセンサ20によって検出可能になる。FTIR18は、タッチポイント16のほぼ反対の箇所で導波路パネル28の底面から放射される。さらに、一般には、タッチポイント16でのタッチ力により、FTIR18の強度を制御する。周りの光の量によって、FTIRセンサ20は、持続期間、位置、およびタッチの相対的強度を測定し、タッチポイント16の任意の続く動きをトラッキングすることができる。任意の個数のタッチが、トラッキングされ、プロセッサ22への入力として使用することができる。ある実施形態では、任意の時点で10個以上のタッチが、トラッキングできる。
上述の通り、これらマルチタッチ式タッチスクリーン技術は、優れたマルチタッチ対話性を実現する。しかし、この技術は、人間によるタッチに本質的に限定され、一般に、ペンタイプの道具などのスタイラスなど、もっと小さい、人間以外の物体の接触および動きをトラッキングできない。従来技術の表示パネル12およびIRセンサ20の実効タッチ感度は、比較的低いものであり、したがって、ユーザが操作できる分解能は、ユーザの指のサイズに制限される。よって、マルチタッチアプリケーションは、比較的高度の選択、動きおよびアウトライン機能に制限される。より高い分解能で操作することを必要とする小さな手書き、描画、選択などは、実施可能ではない。さらに、これら技術は、表示パネル12をタッチしている異なるユーザを区別することができない。
本発明は、スタイラスのタッチおよびこの関連した強度を検出し、表示パネル12を横切るスタイラスの続く動きをトラッキングするためのこれらマルチタッチ式タッチスクリーン技術の機能を提供する。説明の都合上、スタイラスは、表示パネル12との対話のために使用されるペンデバイスなどの人間以外の道具の一部であるとする。
本発明の一の実施形態によれば、上記のマルチタッチディスプレイシステム10は、図4に示すように変更される。詳細には、ワイヤレスアクセスポイント36は、プロセッサ22に関連して設けられ、デジタルペン38とのワイヤレス通信に対応するように構成される。さらに以下に詳細に説明するように、デジタルペン38は、いつデジタルペン38が表示パネル12に「書き込む」ために使用されているか、何が表示パネル12に書き込まれているか、表示パネル12上でどこに書き込まれているかを決定するのに十分な書込み情報を集めることができる。さらに、書込み情報は、表示パネル12に対するそれぞれのペンのストローク中におけるデジタルペン38の位置を特定する。用語「書き込む(write)」、「書込み中(writing)」、および「書き込まれた(written)」は、テキスト(数字、文字および記号を含む)、描画オブジェクト、記号、落書きなどに関連するように定義される。したがって、これら用語は、単にテキストに限定されない。デジタルペン38は、書込み情報を処理してペンデータを生成し、ペンデータをワイヤレスアクセスポイント36にワイヤレスで伝送することができる。これに代えて、書込み情報は、ほとんどまたは全く処理しないでペンデータとしてデジタルペン38からワイヤレスアクセスポイント36に送られてもよい。特に、デジタルペン38は、インクカートリッジを有していても有していなくてもよい。インクカートリッジの存在に関らず、デジタルペン38は、表示パネル12にインクを付けることなく表示パネル12上の書込みを可能にするように構成される。表示パネル12上にある任意の書込みは、プロセッサ22によって表示内容として描画される。
ペンデータは、プロセッサ22に送られ、ユーザ入力として処理される。ユーザ入力は、表示パネル12上に投影される表示内容を制御するためにFTIRセンサ20から与えられる他のタッチ情報と共に使用できる。好ましくは、実際の、または処理済の書込み情報は、ワイヤレスアクセスポイント36を介してプロセッサ22にリアルタイムに与えられる。プロセッサ22は、即座にペンデータを処理して、どのような内容が書き込まれたのか、および表示パネル12上のどこに内容が書き込まれたのかを決定する。プロセッサ22は、書込み内容をこの内容が書き込まれた通りに表示内容に含むように表示内容を処理することもできる。好ましくは、表示内容は、内容が表示パネル12に書き込まれるとき、書込み内容の実質的な複製を用いてリアルタイムで連続的に更新される。したがって、リアルタイムで、手書きは実際の手書きのように見え、スケッチは実際のスケッチのように見える。リアルタイムで書込み内容をとらえ、表示することに加えて、ペンのストロークまたは対話のようなものが、選択、ドラッグなどするための任意の他のタッチ入力として使用できる。これら制御対話(control interaction)は、ペンデータとして処理済または未処理の形態でプロセッサ22に転送することできる。
好ましくは、各デジタルペン38は、固有の識別情報を有することになり、識別情報は、ペンデータと共に伝送される。プロセッサ22は、任意の所与の書込み内容が生成された特定のデジタルペン38を識別し、次いで書込み内容を処理することができる。表示パネル12に同時に書き込むためには、複数のデジタルペン38が使用されてもよい。プロセッサ22は、支援アプリケーションに応じて、複数のデジタルペン38のうちの異なるデジタルペン38からの書込み情報を同時におよび同じまたは異なるやり方で処理してもよい。したがって、複数の人間によるタッチ、および複数のデジタルペンの対話を同時に処理できる大規模のマルチタッチディスプレイシステム10が、提供される。さらに、異なるデジタルペン38からの対話は、互いに見分けることができ、異なるユーザからの入力が、区別できるようになっている。
図5を参照すると、例示的なデジタルペン38が、表示パネル12の表面と接触している状態が示されている。この実施形態では、表示パネル12は、導波路パネル28と、この導波路パネル28上に存在する表層40とを含む。詳細には、表層40は、導波路パネル28の屈折率より小さい屈折率を有する柔軟層42を含む。好ましくは、柔軟層42は、比較的透明であり、導波路パネル28を通過する投影したイメージが、柔軟層42を覆って存在する投影層44に呈示されることを可能にすることになる。好ましくは、投影層44は、投影した表示内容を表示するスクリーンを事実上形成する。また、投影された表示内容は、表示パネル12の正面または上部から見ることができる。
図示されるように、配置パターン46は、表層40上または表層40中、および好ましくは投影層44上に印刷される。好ましくは、配置パターン46は、表示パネル12を見ることができる領域全体にわたって固有のパターンを形成する。デジタルペン38は、配置パターン46に基づいて書込み情報を集め、配置パターン46を処理してデジタルペン38の正確な位置を決定することができ、もしくはペンデータとして位置情報をプロセッサ22に転送してもよく、プロセッサ22が、配置パターン46を処理してデジタルペン38の位置を決定してもよい。一般に、位置情報は、連続的に更新され、表示パネル12に情報を書き込むためにデジタルペン38を使用することに関連した動き、したがって、ペンのストロークをトラッキングするために使用される。
好ましくは、配置パターン46は、表示パネル12の表面領域全体にわたる任意の位置パターンが固有であり、配置パターン46のごく一部を分析することによって正確な位置を検出することを可能にするように構成される。したがって、任意の個数のデジタルペン38について、書込みが発生している位置は、任意の時点でトラッキングおよび処理することができる。好ましい実施形態では、配置パターン46は、アノトパターンと同一または類似である。このアノトパターンは、Anoto社による紙上に印刷されたアノトパターンを有する紙上のアノトパターンを読み取ることができるデジタルペンに関連して開発された。アノトパターンに関するさらなる情報は、Anoto.comで得ることができる。アノトパターンは、0.3mmの公称間隔を有する多数の非常に小さいドットを含む。これらドットは、0.3mmの公称間隔を有するが、これらドットは、表示パネル12の表面上の任意の位置を固有に識別するパターンを生成する。拡大したアノトパターンの例示的な部分を図6Aに示し、0.3mmのグリッドから連続的に変化するドットの偏りを図6Bに示す。表示パネル12上の任意の位置を固有に識別できることに加えて、異なる表示パネル12が固有の特徴を有するように、アノトパターンは、表示パネル12を一意に識別するように構成することもできる。デジタルペン38は、互いのワイヤレス通信の範囲内にある任意の個数のマルチタッチディスプレイシステム10と対話できてもよく、デジタルペン38またはプロセッサ22は、既に書き込まれている特定の表示パネル12を識別することができることになる。
図5に戻ると、デジタルペン38は一般に、スタイラス50が取り付けられる本体48を備える。スタイラス50は、ペン先、したがってデジタルペン38と表示パネル12との接点を表す。制御システム52は、デジタルペン38の心臓部であり、制御システム52は、圧力センサ54、IR発光ダイオード(LED)などのIR光源(LS)56、イメージセンサ(IS)58、送受信機回路60、およびメモリ62に接続している。好ましくは、これら構成要素は、電池64によって図示していない適当な電源回路を通じて電力が供給される。特に、送受信機回路60は、制御システム52、およびワイヤレスアクセスポイント36との双方向ワイヤレス通信を促進する1以上のアンテナ66に接続している。これら通信は、IEEEの802.11ワイヤレスローカルエリアネットワーク規格などの任意のワイヤレス通信規格、およびBluetoothまたはワイヤレスユニバーサルシリアルバス(USB)などのパーソナルエリアネットワーク規格に基づいていてもよい。本明細書中において、ワイヤレス構成を図示および説明したが、デジタルペン38は、図示していない有線インタフェースを通じてプロセッサ22と通信してもよい。
圧力センサ54は、スタイラス50に結合され、いつスタイラス50が表示パネル12に押し付けられるかを検出し、好ましくは、接触による相対的な力を監視するように構成される。したがって、圧力センサ54は、関連した力の情報を、記憶、処理またはこれらの組合せのために制御システム52に送信することができる。この力の情報は、書込み情報とみなされ、いつデジタルペン38がデジタルパネル12に書き込むために使用されているかを決定するために使用することができ、おそらくは、強度は、このような書込みに関連している。したがって、書込み内容は、最終的に、表示パネル12上の内容の書込みに関連した有効重力を示すやり方で表示内容中に表示することとしてもよい。最低でも、圧力センサ54により、制御システム52は、いつ書込みが行われているかを決定することができる。
書込みの検出自体は、IR光源56と、イメージセンサ58とにより行われる。好ましくは、配置パターン46および投影層44は、配置パターン46のドットまたは他のパターンマークが、IR光源56から放出されるIR光を吸収し、配置パターン46によって吸収されない光を反射してイメージセンサ58に戻すように構成される。イメージセンサ58および制御システム52は、互いに協働してIRカメラを効果的に実施する。IRカメラは、スタイラス50が、表示パネル12と接触しているときに、毎秒たくさんの配置パターン46の画像を撮ることができる。配置パターン46によって吸収されず、表示パネル12上の箇所に近接しているまたは付近にある反射したIR光を、各画像はとらえる。表示パネル12とスタイラス50とは、接触している。この画像情報は、書込み情報とみなすことができ、制御システム52によって処理され、または処理のためにプロセッサ22に渡される。処理の位置に関らず、各イメージは、イメージがとらえられた時間およびイメージがとらえられる時のスタイラス50の位置を識別するように処理される。この位置は、座標などとして識別されてもよい。一連のイメージが処理されるときに、デジタルペン38の所与のストロークによる任意の動きの位置、向き、および距離が、計算されてもよい。ストロークが検出されると、書込み内容が、決定され得る。したがって、デジタルペン38は、表示パネル12に対するデジタルペン38の正確な位置および各ストロークの性質の検出を容易にすることができる。
ここで図7を参照すると、表示パネル12の横断面が、例示されており、デジタルペン38は、投影層44と接触している。特に、TIRの効果は、表層40と接触しているデジタルペン38のスタイラス50によって影響を受けないことが好ましい。典型的には、スタイラス50の、人間の指と比べて比較的小さいサイズの箇所は、スタイラス50による表面の乱れ(surface disturbance)が、FTIRの効果を引き起こすには十分でない。これに代えて、デジタルペン38の位置が知られているので、プロセッサ22が、デジタルペン38によって引き起こされる任意のFTIR18の入力を取り去ってもよい。
図7に示すように、導波路パネル28の周縁(左側)は、図2および図3の従来技術の実施形態に示したように表示パネル12の面に垂直である代わりに、傾斜している。出願人は、傾斜の付いた周縁を形成し、IR LED14が周縁の傾斜面に垂直であるようにIR LED14を結合することにより、マルチタッチの性能を大いに高めることを発見していた。導波路パネル28の上面または底面からの傾斜が約30〜約60度、好ましくは約45度である場合、TIRおよびFTIRの効果は高められ、人間によるタッチに対するより大きい感度を与える。デジタルペン38が、表示パネル12と接触しているとき、TIRの効果は、それでも維持されるが、図8に示すように、人間によるタッチに応じて、図2および図3に示された従来技術の実施形態と比較してかなり強いFTIR18が、与えられる。さらに、傾斜した周縁の使用により、人間によるタッチに対する感度、および人間によるタッチの異なる強度を区別する能力をかなり増大させる。
主に導波路パネル28の表面の外側に形成されるエバネッセント場の著しい増加により、性能が向上する。エバネッセント場は、TIRの状態中、導波路パネル28の表面を超えて延在する光場である。エバネッセント場が乱されると、FTIRの効果が引き起こされ得る。エバネッセント場が大きくなるほど、エバネッセント場の乱れに対する感度が大きくなり、結果として生じるFTIR18の強度が大きくなる。垂直な周縁および傾斜した周縁に関連した相対的なエバネッセント場の力の比較を図9Aおよび図9Bに示す。はっきりと実証されているように、エバネッセント場の力は、導波路パネル28の表面でかなり高く、導波路パネル28の外側のあらゆる距離でかなり高いままである。図10に示すように、表示パネル12用のフレームの一部であり得るバッフリング67は、表示パネル12の使用可能部分に到達するまで、導波路パネル28に閉じ込められるIR光を保持するために用いられてもよい。より大きいエバネッセント場の力のさらなる利点は、周りの照明、詳細には、高いIR成分(IR content)を有する周りの照明の影響に対する耐性の増大である。以下にさらに説明するように、本発明の他の実施形態は、いっそうさらなる周りの照明耐性を与える。
図11〜図13を参照すると、本発明の3つの異なる実施形態が、示されている。これら実施形態では、固有の構成が、表示パネル12に与えられる。これら3つの実施形態のそれぞれについて、様々な層が識別され、層ごとの例示的な材料を説明する。図11を詳細に参照すると、表示パネル12は、導波路パネル28と、この導波路パネル28の上側の柔軟層42と、この柔軟層42の上側の投影層44と、この投影層44の上側の保護層68とを含む。更なる層が、これら識別された層と層の間、またはこれら識別された層の中に形成されてもよい。特に、柔軟層42、投影層44、および保護層68は、表層40の一部であるとみなされる。配置パターン46が、デジタルペン38の操作を容易にするよう表示パネル12上に印刷できるように表示パネル12を構成することは有益である。表示パネル12は、リアプロジェクションに適しているものであるべきであり、配置パターン46は、投影したイメージを見ることが大きく邪魔されないように表示パネル12上に印刷されるべきである。最後に、表示パネル12は、許容できるFTIRの効果を有するべきであり、好ましくは、周りの照明中で有効に機能可能でき、非常に敏感なFTIRの効果をもたらすものとすべきである。
図11の実施形態については、アノトパターンなどの配置パターン46が、投影層44上に印刷される。好ましくは、投影層44は、投影したイメージが映って見ることができる半透明スクリーン、およびデジタルペン38のための反射背景を与える。詳細には、配置パターン46に関連したドットまたは他のパターンマークを含まない領域については、IR光源56から放出されるIR光は、デジタルペン38のイメージセンサ58に向かって戻るように反射さするべきである。さらに、投影層44は、投影層44が柔軟層42に付着しないように構成されるべきである。白いRoscoのスクリーン、または同様のリアプロジェクションスクリーンは、投影層44用に必要な条件を満たす。投影層44のための他の材料には、HPのバックライトUV層またはバックライト硬質PVC層が含まれてもよい。柔軟層42は、シリコーンまたは他の適当な柔軟材料で形成されることが好ましい。好ましいシリコーンには、SORTA−Clear(商標)40、およびElastocil(登録商標)RT601が含まれる。柔軟層42のための他の材料には、Supatexまたは他の適したラテックスの薄層が含まれてもよい。導波路パネル28は、アクリル、またはLexan(登録商標)9030などのポリカーボネート板のようなものであることが好ましい。導波路パネル28向けの他の材料は、Plexiglasを含む。保護層68は、透明な、好ましくは非常に薄いプラスチック箔から形成されてもよく、単に投影層44の損傷、摩耗、磨滅を低減するように設けられる。保護層68は、窓、バス停留所、または陳列棚に用いられるものなどの透明な抗スクラッチ箔で形成されてもよい。特に、投影層44の上側に設けられる層の数はいくつであってもよいが、層を追加することは、最終的に、投影したイメージを歪めると共に、配置パターン46を読み取るデジタルペン38の能力の潜在的な支障になる。
図12を参照すると、表示パネル12の全体構成は、図11に示されるものと同様である。ただし、投影層44が、スクリーン層70およびパターン層72を含む2つの別個の層から形成される点が、図11の構成と異なっている。この場合は、パターン層72は、透明なプラスチック層であり、このプラスチック層上には、配置パターン46が印刷される。特に、パターン層72は、デジタルペン38の動作のために必要に応じてIR光を反射しない。しかし、スクリーン層70は、IR光のための反射背景を与え、デジタルペン38が上記のように機能することを可能にすることになる。スクリーン層70は、パターン層72のためのつや消しIR光反射背景を与えることに加えて、投影したイメージを見ることができる媒体を与えることにもなる。また、白いRoscoのスクリーンなどが、スクリーン層70の必要条件の全てを満たす。保護層68、柔軟層42、および導波路パネル28は、上記のように構成され得る。
次に図13を参照すると、表示パネル12の第3の実施形態が示されている。本実施形態は、高いIR成分を有する周りの光に対する一番の耐性を与える。本実施形態は、フィルタ層74が、投影層44と柔軟層42の間に設けられることを除いては、図12の実施形態と同じであるように示される。さらに、フィルタ層74は、2つの層に分かれ、この2つの層は、IRフィルタリング層76および抗付着層78を含む。好ましくは、IRフィルタリング層76は、薄い箔であり、これは、周りの光をフィルタ処理することができ、特に、周りの光のIR成分をフィルタ処理することができる。IRフィルタリング層76向けの材料には、透明な紫外線防止箔、および熱反射箔が含まれ得る。したがって、IRフィルタリング層76は、柔軟層42および導波路パネル28に到達する周りの光からIR成分の量を少なくとも減少させる。抗付着層78は、タッチイベント後にIRフィルタリング層76が柔軟層42に付着するのを防ぐために設けられる。抗付着層78がない状態で人が保護層68上で押すと、IRフィルタリング層76の箔が、柔軟層42のシリコーンに付着する傾向がある。このような付着は、タッチイベントが除かれた後、連続的ないつまでも消えないFTIRの効果を引き起こし得る。好ましくは、抗付着層78は、透明である。トレーシングペーパは、この層向けに適した材料であることが分かっている。抗付着層78向けの他の材料には、Teflonスプレーまたは透明コートの薄層が含まれてもよい。
当業者は、本発明の好ましい実施形態に対する改良形態および変更形態を認識されよう。このような改良形態および変更形態の全ては、本明細書および添付の特許請求の範囲に開示された概念の範囲内と考えられる。
Claims (27)
- 人間によるタッチを受けるための前面部と、前記前面部に関連して設けられ、前記前面部からデジタルペンによって判読可能な、前記前面部に対して固有の位置マークを与える配置パターンとを備える表示パネルであって、前記配置パターン内の固有の位置は、前記固有の位置マークの対応する部分から識別可能である、表示パネルと、
前記表示パネルの前記前面部で前記人間によるタッチを検出し、対応するタッチ入力を与えるように適合されたタッチセンシング回路と、
前記デジタルペンが書込みのために使用されている前記固有の位置マークの対応する部分のイメージをとらえる前記デジタルペンに対応して得られる書込み情報に関係があるペンデータを受け取るように適合された通信インタフェースと、
前記タッチセンシング回路および前記通信インタフェースに関連し、前記タッチ入力および前記ペンデータに応じて前記表示パネルに表示される表示内容を制御するように適合された処理回路と
を備えるマルチタッチディスプレイシステム。 - 前記配置パターンの前記位置マークは、前記位置マークが、前記配置パターン内の任意の箇所で固有であるように前記表示パネルの前面部全体にわたって連続的に変化する、請求項1に記載のマルチタッチディスプレイシステム。
- 前記位置マークは複数のドットを含む、請求項1に記載のマルチタッチディスプレイシステム。
- 前記配置パターンはアノトパターンである、請求項1に記載のマルチタッチディスプレイシステム。
- 前記配置パターン内の任意の箇所での前記位置マークは、前記表示パネルの前記前面部に関連した前記箇所についての固有の位置座標に対応する、請求項1に記載のマルチタッチディスプレイシステム。
- 前記表示パネルの固有の識別子は、前記配置パターンに符号化される、請求項1に記載のマルチタッチディスプレイシステム。
- 前記処理回路は、前記デジタルペンによって前記表示パネルで書き込まれているものに実質的に直接対応する書込みを含むことによって前記表示内容を制御するように適合された、請求項1に記載のマルチタッチディスプレイシステム。
- 前記表示パネルは、後面部を備え、前記後面部は、前記処理回路に関連していると共に前記処理回路の制御下で前記表示パネルの前記後面部に向かって前記表示内容を投影するように構成されるプロジェクタをさらに備え、前記表示パネルは、前記後面部に向かって投影される前記表示内容を前記前面部で視聴することができることを可能にするように構成される、請求項1に記載のマルチタッチディスプレイシステム。
- 前記表示パネルの前記前面部で前記人間によるタッチを検出するために、前記タッチセンシング回路は、前記人間によるタッチに応じて前記表示パネルの後面部から反射する反射光を検出するように適合された、請求項1に記載のマルチタッチディスプレイシステム。
- 前期反射光は赤外光である、請求項9に記載のマルチタッチディスプレイシステム。
- 前記表示パネルは、導波路パネルと、光を前記導波路パネルの中に導入するように適合された光源とを備え、前記表示パネルの前記前面部が人間によってタッチされていないときに全反射の状態が前記導波路パネル内で達成され、前記表示パネルの前記前面部が前記人間によるタッチを受けるときに漏れ全反射が起こるようになっており、一部の前記漏れ全反射は、前記タッチセンシング回路によって検出可能である反射光である、請求項9に記載のマルチタッチディスプレイシステム。
- 前記導波路パネルは、前記光源が取り付けられる略平坦なエッジ面を有する傾斜した周縁を備え、前記光源は、前記光を前記略平坦なエッジ面を通じて前記導波路パネルの中に導入する、請求項11に記載のマルチタッチディスプレイシステム。
- 前記光源は、前記傾斜した周縁の前記略平坦なエッジ面に沿って取り付けられる複数の発光ダイオードを備える、請求項12に記載のマルチタッチディスプレイシステム。
- 前記通信インタフェースは、ワイヤレス通信を介して前記ペンデータを受け取るように適合されたワイヤレス通信インタフェースである、請求項1に記載のマルチタッチディスプレイシステム。
- 前記ワイヤレス通信インタフェースは、前記デジタルペンと直接通信するように適合された、請求項14に記載のマルチタッチディスプレイシステム。
- 前記通信インタフェースは、前記デジタルペンと通信できるデバイスまたはシステムと通信するように適合された、請求項1に記載のマルチタッチディスプレイシステム。
- 前記表示パネルは、導波路パネルと、前記導波路パネルに隣接した柔軟層と、前記柔軟層を覆った投影層とを備え、前記投影層は、前記配置パターンを備え、前記表示内容のイメージが投影される投影面を有する、請求項1に記載のマルチタッチディスプレイシステム。
- 前記投影層は、半透明スクリーン層と、前記半透明スクリーン層の上側のパターン層とを備え、前記半透明スクリーン層は前記投影面を形成し、前記パターン層は前記配置パターンを備える、請求項17に記載のマルチタッチディスプレイシステム。
- 前記表示パネルは、環境光の少なくともある波長をフィルタ処理するように適合されたフィルタ層をさらに備える、請求項17に記載のマルチタッチディスプレイシステム。
- 前記フィルタ層は、前記柔軟層と前記投影層の間に設けられる、請求項19に記載のマルチタッチディスプレイシステム。
- 前記フィルタ層は、
環境光の前記少なくともある波長をフィルタ処理するためのフィルタリング層と、
前記リングフィルタ層と前記柔軟層の間にあり、前記人間によるタッチに応じて前記フィルタリング層が前記柔軟層に接着するのを防ぐように構成される抗付着層と
を備える、請求項20に記載のマルチタッチディスプレイシステム。 - 前記導波路パネルは、光源が取り付けられる略平坦なエッジ面を有する傾斜した周縁を備え、前記光源は、光を前記略平坦なエッジ面を通じて前記導波路パネルの中に導入する、請求項11または請求項17に記載のマルチタッチディスプレイシステム。
- 前記略平坦なエッジ面と前記前面部の間のなす角は、約30度〜約60度である、請求項22に記載のマルチタッチディスプレイシステム。
- 前記略平坦なエッジ面と前記前面部の間の前記間のなす角は、およそ約45度である、請求項23に記載のマルチタッチディスプレイシステム。
- 前記投影層は、反射面をさらに有し、前記デジタルペンの光源から与えられると共に前記配置パターンによって吸収されない光が、前記反射面から前記デジタルペンの光センサに向かって戻るように反射する、請求項17に記載のマルチタッチディスプレイシステム。
- 前記タッチセンシング回路は、漏れ全反射を検出するように適合された、請求項1に記載のマルチタッチディスプレイシステム。
- 本体と、前記本体の一端にあるスタイラスと、前記スタイラスに関連した圧力センサと、イメージセンサと、光源と、前記圧力センサおよび前記イメージセンサに関連したプロセッサとを含む前記デジタルペンをさらに備え、前記プロセッサは、前記スタイラスが前記表示パネルの前記前面部と接触していることを示す前記圧力センサに応じて、前記デジタルペンが書込みに使用されている一連の前記固有の位置マーク部分のイメージをとらえるように適合された、前記光源は、前記固有位置マーク部分を照明してイメージの取り込みを容易にする、請求項1に記載のマルチタッチディスプレイシステム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/168,678 US9268413B2 (en) | 2008-07-07 | 2008-07-07 | Multi-touch touchscreen incorporating pen tracking |
PCT/IB2009/005912 WO2010004384A1 (en) | 2008-07-07 | 2009-06-11 | Multi-touch touchscreen incorporating pen tracking |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012529680A JP2012529680A (ja) | 2012-11-22 |
JP5346081B2 true JP5346081B2 (ja) | 2013-11-20 |
Family
ID=41463986
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011517256A Expired - Fee Related JP5346081B2 (ja) | 2008-07-07 | 2009-06-11 | ペントラッキングを組み込んだマルチタッチ式タッチスクリーン |
Country Status (7)
Country | Link |
---|---|
US (1) | US9268413B2 (ja) |
EP (1) | EP2310933A4 (ja) |
JP (1) | JP5346081B2 (ja) |
KR (1) | KR20110038121A (ja) |
CN (1) | CN102144208B (ja) |
BR (1) | BRPI0915656A2 (ja) |
WO (1) | WO2010004384A1 (ja) |
Families Citing this family (56)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8441467B2 (en) * | 2006-08-03 | 2013-05-14 | Perceptive Pixel Inc. | Multi-touch sensing display through frustrated total internal reflection |
KR101407300B1 (ko) * | 2007-11-19 | 2014-06-13 | 엘지디스플레이 주식회사 | 멀티 터치 평판 표시모듈 |
US20090219253A1 (en) * | 2008-02-29 | 2009-09-03 | Microsoft Corporation | Interactive Surface Computer with Switchable Diffuser |
FR2933511A1 (fr) * | 2008-07-04 | 2010-01-08 | Optinnova | Dispositif et procede de visualisation interactif utilisant une camera de detection et un pointeur optique |
KR20110049379A (ko) * | 2009-11-05 | 2011-05-12 | 삼성전자주식회사 | 쐐기형 웨이브 가이드를 이용한 멀티터치 및 근접한 오브젝트 센싱 장치 |
EP2343629A3 (en) | 2010-01-08 | 2015-01-21 | Integrated Digital Technologies, Inc. | Stylus and touch input system |
US9128537B2 (en) * | 2010-03-04 | 2015-09-08 | Autodesk, Inc. | Bimanual interactions on digital paper using a pen and a spatially-aware mobile projector |
US20110291995A1 (en) * | 2010-05-25 | 2011-12-01 | Industrial Technology Research Institute | Sterilizing device and manufacturing method for sterilizing device |
CN102270069B (zh) * | 2010-06-03 | 2015-01-28 | 乐金显示有限公司 | 集成有触摸面板的显示设备 |
KR101901241B1 (ko) | 2010-06-03 | 2018-09-27 | 엘지디스플레이 주식회사 | 터치패널 일체형 표시장치 |
US10620754B2 (en) * | 2010-11-22 | 2020-04-14 | 3M Innovative Properties Company | Touch-sensitive device with electrodes having location pattern included therein |
US20120125882A1 (en) * | 2010-11-22 | 2012-05-24 | 3M Innovtive Properties Company | Method of making touch-sensitive device with electrodes having location pattern included therein |
JP4816808B1 (ja) * | 2010-12-14 | 2011-11-16 | 大日本印刷株式会社 | コンピュータ装置、入力システム、及びプログラム |
JP5655572B2 (ja) * | 2011-01-07 | 2015-01-21 | 大日本印刷株式会社 | 電子ペン、コンピュータ装置、入力システム、及びプログラム |
JP5655573B2 (ja) * | 2011-01-07 | 2015-01-21 | 大日本印刷株式会社 | コンピュータ装置、入力システム、及びプログラム |
JP5678697B2 (ja) * | 2011-02-01 | 2015-03-04 | 大日本印刷株式会社 | コンピュータ装置、入力システム、及びプログラム |
JP5664300B2 (ja) * | 2011-02-07 | 2015-02-04 | 大日本印刷株式会社 | コンピュータ装置、入力システム、及びプログラム |
JP5664301B2 (ja) * | 2011-02-08 | 2015-02-04 | 大日本印刷株式会社 | コンピュータ装置、電子ペン入力システム、及びプログラム |
JP5664303B2 (ja) * | 2011-02-09 | 2015-02-04 | 大日本印刷株式会社 | コンピュータ装置、入力システム、及びプログラム |
KR101158234B1 (ko) | 2011-03-04 | 2012-06-19 | 호서대학교 산학협력단 | 적외선을 이용한 터치 스크린 장치 및 이를 이용한 터치 스크린 제어방법 |
US8947429B2 (en) | 2011-04-12 | 2015-02-03 | Autodesk, Inc. | Gestures and tools for creating and editing solid models |
US8902222B2 (en) | 2012-01-16 | 2014-12-02 | Autodesk, Inc. | Three dimensional contriver tool for modeling with multi-touch devices |
US9182882B2 (en) | 2011-04-12 | 2015-11-10 | Autodesk, Inc. | Dynamic creation and modeling of solid models |
DE102011101782A1 (de) * | 2011-05-17 | 2012-11-22 | Trw Automotive Electronics & Components Gmbh | Optisches Anzeige- und Bedienelement und Verfahren zur optischen Positionsbestimmung |
US8860675B2 (en) * | 2011-07-12 | 2014-10-14 | Autodesk, Inc. | Drawing aid system for multi-touch devices |
GB2510273A (en) * | 2011-09-22 | 2014-07-30 | Hewlett Packard Development Co | Soft button input systems and methods |
WO2013090494A1 (en) | 2011-12-16 | 2013-06-20 | 3M Innovative Properties Company | Optical digitizer system with position-unique photoluminescent indicia |
CN103383610A (zh) * | 2012-05-02 | 2013-11-06 | 北京通世舟数字科技有限责任公司 | 一种液晶屏多点触摸方法 |
CN103576992B (zh) * | 2012-08-06 | 2017-09-15 | 原相科技股份有限公司 | 具有位置信息的薄膜和导光板以及位置侦测系统 |
ITTO20120804A1 (it) * | 2012-09-17 | 2014-03-18 | Csp Innovazione Nelle Ict Societa Consortile A | Apparato per la valutazione delle capacita' motorie di un soggetto e relativo procedimento |
US9891759B2 (en) * | 2012-09-28 | 2018-02-13 | Apple Inc. | Frustrated total internal reflection and capacitive sensing |
US20140112499A1 (en) * | 2012-10-23 | 2014-04-24 | Yellow Matter Entertainment, LLC | Audio production console and related process |
US8692212B1 (en) | 2012-10-29 | 2014-04-08 | 3M Innovative Properties Company | Optical digitizer system with position-unique photoluminescent indicia |
US10753746B2 (en) | 2012-11-29 | 2020-08-25 | 3M Innovative Properties, Inc. | Multi-mode stylus and digitizer system |
US9250792B2 (en) | 2012-11-29 | 2016-02-02 | International Business Machines Corporation | Method, apparatus and computer program to designate content retrieval on an interactive display |
US9958954B2 (en) | 2012-12-13 | 2018-05-01 | 3M Innovative Properties Company | System and methods for calibrating a digitizer system |
GB2522249A (en) * | 2014-01-20 | 2015-07-22 | Promethean Ltd | Active pointing device detection |
LU92378B1 (en) * | 2014-02-17 | 2015-08-18 | Iee Internat Electronics & Enigineering Sa | Occupant sensor and seat with such an occupant sensor |
US9921688B2 (en) | 2014-03-04 | 2018-03-20 | Qualcomm Incorporated | Large area interactive display screen |
US10088917B2 (en) * | 2014-07-30 | 2018-10-02 | Hewlett-Packard Development Company, L.P. | Detector for a display |
KR102277902B1 (ko) * | 2014-09-05 | 2021-07-15 | 삼성전자주식회사 | 피검체 접촉압력 측정기와 그 제조 및 측정방법 |
KR102286589B1 (ko) * | 2014-10-17 | 2021-08-05 | 주식회사 네오랩컨버전스 | 전자펜 |
KR102370364B1 (ko) * | 2014-10-17 | 2022-03-04 | 주식회사 네오랩컨버전스 | 필기 캡처 방법 및 이를 수행하는 전자기기 |
US9921685B2 (en) * | 2014-12-15 | 2018-03-20 | Rapt Ip Limited | Tactile effect waveguide surface for optical touch detection |
US10996795B2 (en) | 2014-12-15 | 2021-05-04 | Beechrock Limited | Anti-glare and anti-reflective tactile effect surface for optical touch detection |
US10754442B2 (en) * | 2015-07-09 | 2020-08-25 | YewSavin, Inc. | Films or surfaces including positional tracking marks |
US10514803B2 (en) | 2016-03-06 | 2019-12-24 | Microsoft Technology Licensing, Llc | Pen in field force sensing calibration |
US10254857B2 (en) | 2016-03-06 | 2019-04-09 | Microsoft Technology Licensing, Llc | Soft touch detection of a stylus |
CN106018994A (zh) * | 2016-05-10 | 2016-10-12 | 苏州赛腾精密电子股份有限公司 | 一种触控检测机构 |
CN109643171B (zh) * | 2016-09-01 | 2022-10-04 | 株式会社和冠 | 触控笔、传感器控制器及电子尺 |
US10146337B2 (en) | 2016-09-15 | 2018-12-04 | Samsung Electronics Co., Ltd. | Digital handwriting device and method of using the same |
US10459676B2 (en) | 2016-10-16 | 2019-10-29 | Dell Products, L.P. | Dynamic user interface for multiple shared displays in an electronic collaboration setting |
US10514769B2 (en) | 2016-10-16 | 2019-12-24 | Dell Products, L.P. | Volumetric tracking for orthogonal displays in an electronic collaboration setting |
US10664215B2 (en) | 2016-10-16 | 2020-05-26 | Dell Products, L.P. | Controlling multiple shared displays in an electronic collaboration setting |
US11590726B2 (en) | 2018-01-24 | 2023-02-28 | Hewlett-Packard Development Company, L.P. | Surfaces with embedded information |
CN114840104A (zh) * | 2018-08-21 | 2022-08-02 | 贝奇克有限公司 | 用于光学触摸检测装置的阻挡层和触觉表面特征 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4091382A (en) * | 1976-09-27 | 1978-05-23 | Willis J. Ball | Display system |
US4346376A (en) * | 1980-04-16 | 1982-08-24 | Bell Telephone Laboratories, Incorporated | Touch position sensitive surface |
US4484179A (en) * | 1980-04-16 | 1984-11-20 | At&T Bell Laboratories | Touch position sensitive surface |
EP2104055B1 (en) | 1999-08-30 | 2013-07-03 | Anoto AB | Information management system |
JP3908470B2 (ja) * | 2001-03-05 | 2007-04-25 | 日東電工株式会社 | 偏光板の製造方法 |
EP1493124B1 (en) | 2002-03-13 | 2006-07-26 | O-Pen ApS | A touch pad and a method of operating the touch pad |
JP2005056357A (ja) | 2003-08-07 | 2005-03-03 | Dainippon Printing Co Ltd | 電子ペン用帳票 |
US7385594B2 (en) | 2004-02-19 | 2008-06-10 | Au Optronics Corporation | Position encoded sensing device and a method thereof |
US7705835B2 (en) * | 2005-03-28 | 2010-04-27 | Adam Eikman | Photonic touch screen apparatus and method of use |
KR100652755B1 (ko) | 2005-08-30 | 2006-12-01 | 엘지전자 주식회사 | 백라이팅이 가능한 터치 및 푸시 입력 방식의 휴대폰 |
WO2007127258A2 (en) | 2006-04-27 | 2007-11-08 | Wms Gaming Inc. | Wagering game with multi-point gesture sensing device |
US9213929B2 (en) * | 2006-05-30 | 2015-12-15 | Dai Nippon Printing Co., Ltd. | Pattern printed sheet |
US8441467B2 (en) * | 2006-08-03 | 2013-05-14 | Perceptive Pixel Inc. | Multi-touch sensing display through frustrated total internal reflection |
KR20090060283A (ko) | 2006-08-03 | 2009-06-11 | 퍼셉티브 픽셀 인코포레이티드 | 좌절형 전반사를 통한 멀티 터치 검출 디스플레이 |
US8144271B2 (en) | 2006-08-03 | 2012-03-27 | Perceptive Pixel Inc. | Multi-touch sensing through frustrated total internal reflection |
WO2008066004A1 (fr) | 2006-11-30 | 2008-06-05 | Sega Corporation | Appareil de mise en entrée de position |
JP4915232B2 (ja) | 2006-12-19 | 2012-04-11 | ソニー株式会社 | 座標入力装置及び座標入力システム |
JP2008165385A (ja) * | 2006-12-27 | 2008-07-17 | Dainippon Printing Co Ltd | 赤外線反射パターン印刷透明シート |
US8125468B2 (en) | 2007-07-30 | 2012-02-28 | Perceptive Pixel Inc. | Liquid multi-touch sensor and display device |
US20090219253A1 (en) | 2008-02-29 | 2009-09-03 | Microsoft Corporation | Interactive Surface Computer with Switchable Diffuser |
JP4243642B2 (ja) | 2008-03-24 | 2009-03-25 | 健治 吉田 | キャリブレーション方法および情報入力補助シート |
-
2008
- 2008-07-07 US US12/168,678 patent/US9268413B2/en not_active Expired - Fee Related
-
2009
- 2009-06-11 CN CN200980135801.6A patent/CN102144208B/zh not_active Expired - Fee Related
- 2009-06-11 JP JP2011517256A patent/JP5346081B2/ja not_active Expired - Fee Related
- 2009-06-11 KR KR1020117002789A patent/KR20110038121A/ko not_active Application Discontinuation
- 2009-06-11 EP EP09794047A patent/EP2310933A4/en not_active Withdrawn
- 2009-06-11 BR BRPI0915656A patent/BRPI0915656A2/pt not_active IP Right Cessation
- 2009-06-11 WO PCT/IB2009/005912 patent/WO2010004384A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
BRPI0915656A2 (pt) | 2019-09-24 |
WO2010004384A8 (en) | 2010-04-08 |
US9268413B2 (en) | 2016-02-23 |
WO2010004384A1 (en) | 2010-01-14 |
KR20110038121A (ko) | 2011-04-13 |
CN102144208B (zh) | 2015-03-25 |
JP2012529680A (ja) | 2012-11-22 |
CN102144208A (zh) | 2011-08-03 |
EP2310933A4 (en) | 2013-01-23 |
US20100001962A1 (en) | 2010-01-07 |
EP2310933A1 (en) | 2011-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5346081B2 (ja) | ペントラッキングを組み込んだマルチタッチ式タッチスクリーン | |
JP5411265B2 (ja) | ペントラッキングを組み込んだマルチタッチ式タッチスクリーン | |
US10324566B2 (en) | Enhanced interaction touch system | |
US9063577B2 (en) | User input using proximity sensing | |
Hodges et al. | ThinSight: versatile multi-touch sensing for thin form-factor displays | |
US9262016B2 (en) | Gesture recognition method and interactive input system employing same | |
CN101231450B (zh) | 多点及物体触摸屏装置及多点触摸的定位方法 | |
JP5902198B2 (ja) | 符号化パターンを備える製品 | |
CN201191355Y (zh) | 多点及物体触摸屏装置 | |
NO20130843A1 (no) | Kamerabasert, multitouch interaksjons- og belysningsapparat samt system og fremgangsmåte | |
TW201032105A (en) | Optical sensing screen and panel sensing method | |
Izadi et al. | ThinSight: integrated optical multi-touch sensing through thin form-factor displays | |
US20230057020A1 (en) | Meeting interaction system | |
US20140111478A1 (en) | Optical Touch Control Apparatus | |
Izadi et al. | Thinsight: a thin form-factor interactive surface technology | |
Kudale et al. | Human computer interaction model based virtual whiteboard: A review | |
CN105659193A (zh) | 多功能人机交互设备 | |
KR20090075287A (ko) | 테이블 탑 디스플레이용 led 기반의 객체 컨트롤 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130717 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130723 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130815 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |