JP6078884B2 - カメラ式マルチタッチ相互作用システム及び方法 - Google Patents

カメラ式マルチタッチ相互作用システム及び方法 Download PDF

Info

Publication number
JP6078884B2
JP6078884B2 JP2013539793A JP2013539793A JP6078884B2 JP 6078884 B2 JP6078884 B2 JP 6078884B2 JP 2013539793 A JP2013539793 A JP 2013539793A JP 2013539793 A JP2013539793 A JP 2013539793A JP 6078884 B2 JP6078884 B2 JP 6078884B2
Authority
JP
Japan
Prior art keywords
light
interaction surface
light source
interaction
fan
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013539793A
Other languages
English (en)
Other versions
JP2014517362A (ja
Inventor
ダムハウ、ウイスティン
ネス,ハルヴァート
ニュルスタッド、トルモド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Epson Norway Research and Development AS
Original Assignee
Epson Norway Research and Development AS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Epson Norway Research and Development AS filed Critical Epson Norway Research and Development AS
Publication of JP2014517362A publication Critical patent/JP2014517362A/ja
Application granted granted Critical
Publication of JP6078884B2 publication Critical patent/JP6078884B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0421Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Drawing Aids And Blackboards (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、例えば人間とコンピュータとの相互作用のための1つ又は複数の指又はペン
を追跡するために、例えばカメラ式入力装置並びに可視光及び/又は赤外線照明を利用し
て領域/空間内の対象物を追跡するカメラ式マルチタッチ相互作用システムに関し、この
システムは、領域内の二次元位置と領域の表面の上方の高さとを決定することができ、実
際の二次元入力座標を提供し、また「非アクティブ」(追跡なし)、「ホバリング」(触
れていないときの追跡。「範囲内」とも呼ばれる)及び「タッチ」のような実際の相互作
用状態を正確に区別するためのものである。本発明は、また、マルチモード入力装置及び
インタフェース(例えば、マルチタッチコンピュータ入力装置)(例えば、両方のペン及
び指タッチ入力を可能にし、また幾つかの対象物に同時に処理することができる)に関す
る。更に、本発明は、三次元入力装置を使用してジェスチャを入力し、それにより例えば
手又は指の人間の姿勢を取得する方法に関し、これらの順序を三次元制御のためのジェス
チャコマンド及び/又は位置及び向き入力として認識することができる。
人間のコンピュータとの相互作用に関する対象物のカメラ式追跡、詳細には手と指の追
跡は、数十年間にわたって科学的、産業的及び商業的な関心を集めてきた。この計算集約
的分野における業績の報告は、非特許文献1と非特許文献2に示されている。報告された
技術の多くでは、閉塞状態(occlusion)の影響を少なくしかつ追跡及びジェスチャ解釈
を確実にするために、対象物は、1つ又は複数のカメラによって幾つかの異なる視点から
観察される。
指タッチ及び指又は手ジェスチャを単一カメラで追跡するには、これらの対象物の影、
輪郭、質感、シルエット及び画像勾配などの特徴と、更に光沢表示面から反射されたミラ
ー画像とを抽出し利用して、指又は手姿勢を計算しかつ例えば指タッチを実時間で検出す
るように様々なモデルベース追跡システムが更新される。
巧みな特徴抽出の例として、特許文献1は、側方光源によって照明された指からの影が
、画面に触れているときは指によって最終的に不明瞭にされ、その結果、触れていないと
きは影が指に似て、一方、指が表面に触れているときには影が実質的に細くなってタッチ
を判定することができるという観察に基づく、単一カメラ撮像タッチスクリーンシステム
及び特徴抽出について述べている。しかしながら、この出願は、非特許文献3から200
5年に公表された科学論文によって予想された独立クレームを含む。
以前に公開された特許文献2、特許文献3、及び特許文献4は、主に、指タッチ又は入
力ペンを利用する対象物追跡システムについて述べており、少なくとも2つのカメラ視点
が、座標面の周囲に配置されて、対象物(例えば、人差し指)の座標が三角測量法によっ
て決定される。
特許文献2は、単一カメラを使用することによりコンピュータモニタ画面の前のペン及
び指タッチを検出し、1個又は幾つかの平面ミラーから成るペリスコープ型光学システム
によって、スクリーンのすぐ前の体積を横方向から見るスクリーンの2つの画像を記録し
て、ペン又は指の座標とスクリーンまでの距離とを決定するシステムについて述べている
特許文献3は、光を投射し座標面に配置されている指示対象物の位置を決定する光学デ
ジタイザと、座標面の周囲に配置された検出器とについて述べている。好ましくは、1対
の一次元イメージセンサは、座標面をカバーして検出器として機能する視野を有し、検出
器の視野の高さを制限するためにコリメータが配置される。検出器は、座標面に対して実
質的に平行に指示対象物から投射された光の平行成分だけを受け取ることができ、放射光
以外のノイズ光が検出器の限られた視野に入るのを防ぐために遮蔽板が配置される。指示
対象物の位置を表わす座標を計算するプロセッサが提供される。
特許文献4は、重なる視野を有し周辺に沿って典型的にはタッチ面の角に配置された少
なくとも2台のカメラを含み、ポインタの位置を三角測量法によって検出し、ポインタタ
ッチとタッチ面の上のポインタホバーを検出するカメラ式タッチシステムについて述べて
いる。
特許文献5は、透明ディスプレイ用のマルチポイントタッチシステムについて述べてい
る。このシステムは、後側からの赤外線による投射光平面の照明を使用し、後側から赤外
線感応CCDカメラによって指先の照明を観察することにより動作する。
特許文献6は、ユーザ対象物の相互作用を仮想入力装置で検出し局在化する入力装置及
び方法について述べている。この装置は、光平面を貫通する対象物の検出を利用して携帯
端末で動作するように適応される。
特許文献7では、内容との自由な相互作用を行なうためのマルチタッチ式の相互作用表
示システムについて述べている。このシステムは、スクリーン上に相互作用領域を提供し
て、相互作用領域に呈示された内容で相互作用機能を容易にするように構成される。更に
、システムは、赤外線(Ir)発光ダイオード(LED)アレイバーを使用して赤外線に
よって照明される相互作用層を生成する。このシステムでは、相互作用層に触れる人体又
は対象物からの反射赤外線を撮像する赤外線カメラが使用される。赤外線カメラによって
生成された信号から人体又は対象物の相互作用位置の座標値を計算するために、計算処理
ハードウェアを含むサーバが使用される。
特許文献8では、データ入力装置及び関連方法が述べられる。装置は、少なくとも1つ
の係合面に沿って光を導くことによって少なくとも1つの係合平面を照らすことができる
照明装置を含む。更に、装置は、少なくとも1つの係合平面の外側の位置から少なくとも
1つの係合平面を見て、データ入力対象物(例えば、ユーザの指)の少なくとも1つの係
合平面との係合により散乱した照明装置から光を検出する二次元イメージセンサを有する
。更に、装置は、二次元イメージセンサからの出力を受け取り、データ入力を利用回路に
提供するデータ入力プロセッサを有する。
特許文献9では、スクリーンの1つ又は複数の縁で光源を使用するタッチスクリーンが
述べられている。1つ又は複数の光源が、スクリーンの表面全体に光を導く。電子出力を
有する2台のカメラも含まれ、2台のカメラは、光源から光を受け取るために画面の周囲
に配置される。また、データ処理装置が、2台のカメラの出力を受け取るために含まれ、
画面に近い1つ又は複数の対象物の1つ又は複数の場所を決定するために三角測量計算を
行なう1つ又は複数のソフトウェア製品を実行することができる。対象物の存在の検出は
、スクリーンの表面をミラーとして使用して、2台のカメラで対象物による直接光の有無
を検出することを含む。カメラは、表面での対象物による反射光の有無を検出するために
使用される。必要に応じて、光源は、2台のカメラの感知放射帯域幅で2台のカメラに放
射を提供するように変調される。
一般に、人間−機械相互作用システムでは、ユーザの意図及びコマンドが正確に認識さ
れることが重要である。使用される座標面内のX及びY縦座標に関する物体位置検出精度
は、環境により重要なことも重要でないこともあり、即ち用途に依存する。したがって、
指タッチシステムは、例えばグラフィックオブジェクトを移動又は選択するかメニューに
アクセスするために適度な精度が必要な場合に魅力的であり、一方、スタイラス又はペン
は、例えばCADプログラムにおける細かい記述又は描画、又は詳細及び対象物の操作と
関連した用途に最高精度が必要なときに好ましい。したがって、指式システムでは、単一
カメラからの二次元画像に基づいて指の座標を決定する特徴抽出及び頑強なヒューリステ
ィックスが十分なことがある。
しかしながら、全てのタイプの用途で、指又はペンタッチの検出と関連する高い精度は
、最も重要でないことがあり、ユーザがアプリケーションを制御できなくなることがある
ので低下してはならない。したがって、利用される座標面の全ての位置で、タッチ状態の
高くかつ一定の検出品質が必要である。更に、検出方法は、指の大きさ、皮膚の色、周囲
光状態、表示照明などの変化の影響を受けにくくなければならず、検出は、座標面全体に
わたって、ユーザに依存する挙動や遅延が生じることなく高速かつ均一でなければならな
い。
教育、共同作業及び会議のためにペン、タッチ又はその両方(デュアルモードシステム
)を使用する相互作用システムには大きな関心が寄せられている。また、幾つかの新しい
相互作用プラットフォームは、単純なペン又は指ジェスチャ制御、及び/又は手ジェスチ
ャ式相互作用を可能にする。具体的には、通常の教室と大講堂の両方で教育の範囲内で使
用される対話型タブレット及びホワイトボードには大きい世界的関心がある。そのような
ホワイトボードは、現代的な会議室、テレビ会議室及び共同作業室にも入っている。対話
型ホワイトボードの座標面上の画像は、ショートスロー又はロングスローデータプロジェ
クタから又はフラットスクリーンによる投射画像として生成されてもよく、平坦さは、例
えばLCD装置、プラズマディスプレイ、OLED装置又は背面投射システムとして実現
される。タッチ及び/又はペンの入力装置は、画質を低下させたり関連機器を消耗させた
りすることなくあらゆるタイプの表示技術と共に使用できることが重要である。更に、入
力装置技術を様々なスクリーン、プロジェクタ及び表示ユニットに低コストかつ低労力で
容易に適応できることが重要である。
新しい対話型ホワイトボードは、一般に、ショートスロープロジェクタ、例えば、超広
角レンズが関連付けされたスクリーンから短距離に配置されたプロジェクタを装備する。
そのような操作方法によって、ユーザが、自分の目に入る光によってあまり悩まされず、
スクリーンに影を落としにくくなり、プロジェクタをホワイトボードと一緒に壁に直接取
り付けることができる。したがって、そのようなショートスローシステムのペン及びタッ
チに理想的な入力装置は、取付けを単純かつ頑強にするために、壁プロジェクタに一体化
されるかその横に取り付けられるか、プロジェクタ壁取付け具に取り付けられなければな
らない。
講堂内では、きわめて長い対話型ホワイトボードと相互作用スペースが必要とされ、そ
のような相互作用面は、タッチ、ペン及びジェスチャ制御を有益的に提供しなければなら
ない。大判スクリーンでは、ポインティングスティックとレーザポインタが、公衆の注意
を引くためにしばしば必要とされる。好ましい入力技術は、全てのそのような種々の要件
に適応されなければならず、即ちポインティングスティックとレーザをユーザ入力ツール
として受け入れ、様々な表示形式に寛容かつ適応可能でなければならない。
更に、フラットスクリーン技術は、タッチ及び/又はペン操作、単純なペン及び/又は
タッチジェスチャ相互作用、及び最終的には手ジェスチャ制御を必要とすることがある。
フラットスクリーン上に置かれたタッチ感応膜は、ホバリング又は空中ジェスチャを検出
することができない。フラットスクリーンの後ろの純粋な電気磁気ピックアップシステム
は、指タッチや指ジェスチャを検出することができず、ペン操作だけが可能である。しか
しながら、幾つかのタイプのフラットディスプレイ技術、詳細にはOLEDディスプレイ
は、透明でよく、したがってスクリーンを介したジェスチャ制御にカメラ技術を使用する
ことができる。したがって、効率的で自然なユーザインタフェースを提供するために、ホ
バリングとジェスチャを含むデュアルモード入力システムがますます重要になり続け標準
化されると、光学式入力システムは、容量、抵抗膜又は電磁ソリューションの代わりに、
平坦な相互作用スクリーンにも好ましいものになる。したがって、好ましい入力装置技術
は、光学式でなければならず、従来のフラットスクリーン(LCD、プラズマ、LED)
と、OLEDや後面投射スクリーンのような透明フラットスクリーンの両方に適応するの
に都合よくなければならない。
入力装置は、日光、室内照明、プロジェクタ又は表示スクリーンからの光などの他の光
源の影響を受けやすくてはならない。
更に、入力装置は、太陽光、人工光、リモート制御装置、及び通信に近赤外線ダイオー
ドを使用する類似物からの近赤外線の影響を受けやすくてはならない。更に、入力装置は
、更に、高い座標更新率を示し、ユーザ経験を最良にするために低遅延を実現しなければ
ならない。
入力装置は、好ましくは、既存の基盤施設に収まり、例えば、既に取り付けられている
ペン式対話型ホワイトボードモデルを改良して、指タッチ及び手ジェスチャ制御を可能に
するか、取付け型プロジェクタ又はフラットスクリーンが既に装備された会議室又は教室
を改良して、入力装置自体の単純な取り付けによって対話型になるように適応可能でなれ
ばならない。
幾つかのシナリオでは、入力技術は、書込面の相互作業フィードバックなしに、例えば
、従来の黒板上のチョークとスポンジからのストロークを正確に取得し、コンピュータの
制御のために手ジェスチャを認識するか、ペンと紙の通常使用(×印で消された文字を含
む)とコンピュータ制御用の単純なジェスチャを取得するか、署名を含む用紙又は質問表
に記入することによりユーザ情報を取得することによって使用することができ、同時に、
その結果がコンピュータに記憶され、ユーザと聴衆が参照するために、入力又は入力の一
部の解釈が、通常のコンピュータ画面又は接続されたディスプレイ若しくはプロジェクタ
によって示される。即ち、このタイプの設備が利用できないか必要とされる場合は、入力
装置は、独立に使用できるか表示技術からコスト的に分離されなければならない。
対話型ホワイトボードが、教育体制側における伝統的なチョーク及び黒板に置き換わっ
ているのと同じように、新しい相互作用スペースが、他の領域で出現している。マルチユ
ーザ相互作用の垂直及び水平面が、共同作業室、制御室、博物館及び展覧会に導入される
。更に、客が、例えばコンピュータゲームを行い、インターネットを閲覧し、報道を読む
ことで楽しみを得るのと同様に、対話型ゲストテーブルを含む対話型スペースは、メニュ
ーから選択し、注文し、支払うことを可能にするために、バー、カジノ、カフェ及び店な
どの現代的な店舗に設置されている。
しかしながら、現在起こっている問題は、相互作用空間内のタッチ及び/又はホバリン
グ操作を監視するための入力装置が、多くの情報入力及び表示システムの要求に応えるの
に十分に正確でなく開発されていないことである。本発明は、これらの現代の問題に少な
くとも部分的に取り組むために考案される。
US2010/0066675A1 公開国際PCT特許WO9940562(A1) 公開米国特許US006100538A 公開米国特許US2010188370(A1) 中国特許CN201331752 欧州特許EP1336172 公開韓国特許KR2010 0109420A(Dongseo Technology Headquaters) 公開国際PCT特許出願WO02/054169A1号 公開国際PCT特許出願WO2004/072843A1号
PavlovicらのIEEE Trans. Pattern Analysis and Machine Intelligence, vol 19, No.7, pp.677-695,1997 Zhouらの IEEE Int. Symposium on Mixed and Augmented Reality, pp.193-202,2008 Andrew D. Wilson (ACM Proc. UIST 2005, pp 83-92)
本発明の目的は、数人のユーザの共存を可能にし、デュアルモード動作を可能にし、即
ち同時のマルチタッチ指入力及びペン入力、並びに指及び手姿勢入力を可能にし、高度な
マルチモード人間−コンピュータ相互作用のための一連の人間姿勢及びジェスチャコマン
ドを取得する、人間とコンピュータとの相互作用のための相互作用空間を含むシステムを
提供することである。
本発明の更に他の目的は、壁取付け型及びテーブル取付け型データプロジェクタ及びフ
ラットディスプレイと共に使用されるか又はそれらに組み込まれ、そのようなシステムを
対話型にし、また既存のペン式対話型ホワイトボードをマルチタッチ入力を有するように
改良する、デュアルモードマルチタッチ入力システムを提供することである。
本発明の第1の態様によれば、添付された請求項1に定義されたようなシステムが提供
され、即ち相互作用面の前にある少なくとも1つの対象物の位置及び/又は姿勢を決定す
るカメラ式マルチタッチ相互作用システムが提供され、
可視光及び/又は近赤外線光の1つ又は複数の平面扇形光ビームを生成する光源機構と

カメラの視野内で相互作用面を検出して対応する信号を生成するカメラ機構と、
カメラから提供された信号に基づいて1つ又は複数の平面扇形光ビームを遮る少なくと
も1つの対象物の位置及び/又は姿勢を計算する計算装置とを含むシステムであって、
1つ又は複数の扇形光ビームが、動作において、その平面が相互作用面と実質的に平行
になるように形成され、
1つ又は複数の扇形光ビームが、相互作用面の平面と実質的に垂直な方向に集束され、
その結果、1つ又は複数の扇形光ビームが、光強度を高めるために相互作用面の平面に直
角な実質的に一定の厚さを有し、システムによって提供される少なくとも1つの対象物の
位置決定の精度を高める。
システムは、1つ又は複数の扇形光ビームが、相互作用面に対する1つ又は複数の対象
物の位置のより正確な決定を達成できるという利点を有する。
必要に応じて、システムは、1つ又は複数の扇形光ビームが、相互作用面を照らすよう
に実現され、それにより、対象物の相互作用面とのタッチの決定が強化される。
必要に応じて、システムは、相互作用面に対して少なくとも1つの対象物のホバリング
位置を検出する働きをするように実現される。
必要に応じて、システムは、複数の扇形光ビームを生成する働きをするように実現され
、各扇形光ビームは、相互作用面の近くの対応する空間領域を照らすように配置され、そ
の結果、扇形光ビームの対応する空間領域が、相互作用面の近くの完全領域の連続照明を
提供する。
必要に応じて、システムは、1つ又は複数の扇形光ビームが、動作において、相互作用
面自体ではなく相互作用面の近くの体積を照らすように構成されるように実現される。
必要に応じて、システムは、光源機構が、相互作用面上に1つ又は複数の対象物のタッ
チ、及び/又は相互作用面に対する1つ又は複数の対象物のホバリング及び/又はホバリ
ングレベルの決定を強化するために強度が選択的に変調されるように動作可能な光源を含
むように実現される。更に必要に応じて、システムは、光源を選択的にオンオフできるよ
うに実現される。更に必要に応じて、システムは、光源が、1つ又は複数の対象物の動き
を実質的にとどめるためにカメラ機構の有効検出期間内でフラッシュモードで動作できる
ように実現される。
必要に応じて、システムは、カメラ機構が、放射の波長によりカメラ機構のセンサが受
け取った放射を選択的に阻止又は通過させる1つ又は複数の光学フィルタを含むように実
現される。更に必要に応じて、1つ又は複数の光学フィルタは、光源機構から放射され1
つ又は複数の対象物によって遮ぎられた光と同じ波長範囲を有する光をカメラセンサに通
過させることができる。更に必要に応じて、1つ又は複数の光学フィルタは、相互作用面
におけるプロジェクタ又はフラットスクリーンからの画像を取得するために可視光だけを
通過させるように動作可能である。
必要に応じて、システムは、光源機構が、近赤外線波長の放射を含む1つ又は複数の扇
形光ビームを生成する複数の光源を含み、カメラ機構は、可視放射波長を阻止しかつ近赤
外線波長を通過させて、日光、室内照明、プロジェクタからの光、表示光のうちの1つ又
は複数を含む他の光源に対するシステムの感度を低下させる1つ又は複数の光学フィルタ
を含む。
必要に応じて、システムは、新しい機器に一体化されるか又は既存の機器に改造されて
もよく、そのような機器を対話型にするように適応される。
必要に応じて、システムは、前面又は後面投射装置として実現される。
必要に応じて、システムは、LCD、OLED、LED、CRTのうちの少なくとも1
つを含むプロジェクタ壁取付け部又はスクリーン取付け部に動作可能に取り付けられるか
一体化されるように適応される。
必要に応じて、システムは、光源機構が1つ又は複数の筐体を含むように実現され、照
明光学部品と関連する筐体のそれぞれの長さは、様々な集束扇形光ビーム層を、相互作用
面に対する1つ又は複数の対象物のタッチとZ方向ジェスチャに対するシステムの分解能
と精度を高めるのに十分な薄さにできる長さのものである。
必要に応じて、システムは、光源機構が1つ又は複数の発光レーザダイオードを含むよ
うに実現され、この発光レーザダイオードは、近赤外線を放射し、相互作用平面の平面と
直角方向の1つ又は複数の扇形光ビームの厚さを小さくする働きをする。
必要に応じて、システムは、カメラ機構が、CCD又はCMOの画素センサを使用して
実現されるように実現され、光源機構は、近赤外線を透過かつ/又は反射させるように適
応された近赤外線LED及び光学部品を使用して実現される。
必要に応じて、システムは、光源機構が、
透過される放射の集束を提供する凸レンズと、
複数の照明光源であって、レンズの中心軸に中心を有する円の周囲の一部分に沿って実
質的に広げられて配列されて、集束扇形光ビームの扇形内の集中放射強度を保証し、また
それによる熱放散の拡散を支援する照明光源と、
照明光源からの照明を凸レンズの直径の約半分に制限するように構成された遮光板と、
対称軸を相互作用面と実質的に平行になるように変化させる円錐形ミラーとを含むよう
に実現される。
更に必要に応じて、システムは、円錐形ミラーが、扇形光ビームを形成する光源機構か
らの光ビームの光学対称軸を相互作用面の方に傾けるように適応された反射面角度を有す
るように実現される。
更に必要に応じて、システムは、遮光板が、知覚光源サイズを有する光源機構の各照明
光源からの光線が凸レンズの反対側部分を照明しないように阻止し、それにより、光線が
レンズ及び円錐形ミラーの共通光学軸と交差するのを実質的に防ぐように構成されるよう
に実現される。
更に必要に応じて、システムは、その反射面角度が、凸レンズの中心軸に合わない1つ
又は複数の扇形光ビームを生成するために使用される光源の軸を補償するように適応され
構成された円錐形ミラーを光源機構が更に含むように実現される。
必要に応じて、システムは、1つ又は複数の扇形光ビームが、前縁を有するように実現
され、前縁は、相互作用面全体に対応する領域を照らすために相互作用面から十分に離さ
れて配置され、その結果、後縁が、実質的に相互作用面の境界になるように実現される。
本発明の第2の態様によれば、本発明の第1の態様によるシステムを実現する際に使用
される装置が提供される。
本発明の第3の態様によれば、カメラ式マルチタッチ相互作用システムを使用して、相
互作用面の前にある少なくとも1つの対象物の位置及び/又は姿勢を決定する方法が提供
され、このシステムは、
可視光及び/又は近赤外線光の1つ又は複数の平面扇形光ビームを生成するための光源
機構と、
カメラの視野内で相互作用面を検出して対応する信号を生成するカメラ機構と、
カメラから提供された信号に基づいて、1つ又は複数の平面扇形光ビームを遮る少なく
とも1つの対象物の位置及び/又は姿勢を計算する計算装置を含み、方法は、
動作において1つ又は複数の扇形光ビームを形成して、それらの平面が、相互作用面と
実質的に平行になるようにする工程と、
1つ又は複数の扇形光ビームを、相互作用面の平面に対して実質的に垂直の方向に集束
して、それにより、1つ又は複数の扇形光ビームが、光強度を高めるために相互作用面の
平面と垂直方向に実質的に一定の厚さを有し、システムによって提供される少なくとも1
つの対象物の位置決定の精度を高める工程とを含む。
必要に応じて、方法は、高度なユーザマルチタッチ相互作用を教育及びビジネス市場に
提供し、小型及び中型ディスプレイを提供し、大型及び幅広の学校及び講堂用ホワイトボ
ードを提供し、教育、相互作用看板、及び博物館と展示会においてディスプレイと共に又
はディスプレイなしに使用されるように適応される。
本発明の第4の態様によれば、対象物の相互作用面又は同義的には座標面内における位
置を追跡し、様々な高さ範囲内で相互作用面にある相互作用体積内のホバリング及び/又
はタッチ状態を検出し、対象物の姿勢を認識するための人間−機械対話又は同義的には人
間−コンピュータ相互作用における入力装置を含むシステムが提供され、システムは、
可視光及び/又は近赤外線を使用して画像を取得するカメラと、
特に座標面と合わせられた少なくとも1つの可視光及び/又は近赤外線扇形ビーム光平
面と、
計算装置とを含み、
カメラの視野が、座標面と、少なくとも1つの扇形光ビーム平面との両方を含み、
計算装置は、カメラによって生成された信号から、計算装置が受け取った単一画像に基
づいて、対象物の座標及び/又はそのホバリング及び/又はタッチ状態及び/又は姿勢特
性を計算するように適応され、
計算装置は、カメラによって生成された信号から、一連の画像に基づいて対象物の動き
及び/又は対象物のジェスチャを計算するように適応される。
本発明の分脈では、光平面は、1つ又は複数の集束扇形光ビームによって提供される照
明の連続した体積スライスであるように理解され、各扇形光ビームは、可視光又は近赤外
光線の狭い扇状ビーム、即ち、高さが集束により狭いビーム幅で、方位が広いビーム幅を
有し、高さと方位角は、相互作用面の平面と関連付けられる。集束扇形光ビームは、相互
作用面に対して実質的に平行又は収束しており、即ちゼロの高さ又は僅かに負の角度を有
する。1つ又は複数の集束扇形光ビームは、相互作用体積内に照明の連続した体積スライ
スを形成し、本発明の記述では、単純にするために光平面によって示されるが、より完全
な意味は、1つ又は複数の集束扇形可視及び/又は近赤外線ビームによる狭く連続した体
積スライス照明である。
カメラは、二次元画像取得用のCCD又はCMOS撮像チップ類と、座標面を含むのに
十分な大きさの視野、体積、及び実際の撮像チップ分解能に適応された実際の波長範囲に
十分な光学撮像品質を有するレンズ類とを含む。あるいは、カメラは、必要に応じて、画
素センサ要素の線形アレイ、更には少なくとも2つの座標方向に走査される単一検出要素
を含む走査センサを使用することにより実現される。
本発明の幾つかの好ましい実施形態では、照明装置機構は、必要に応じて、様々な画像
用に照明を選択的にオンオフするために、オンオフ制御スイッチによって制御される。
本発明の幾つかの好ましい実施形態では、照明機構内の照明光源機構は、動いている対
象物と関連した動きをとどめるために、カメラの活動露出期間内でフラッシュモードで操
作される。
本発明の幾つかの好ましい実施形態では、カメラは、望ましくない光(即ち、フラット
ディスプレイ又はプロジェクタスクリーンからの光及び/又は周囲光)を遮り、同時に照
明と同じ波長範囲を有する光が通過できるようにする光学フィルタを含む。
本発明の幾つかの好ましい実施形態では、カメラは、様々な波長範囲の光を選択的に遮
るか通過させる1つ又は複数の選択可能な光学フィルタを含み、例えば、照明と同じ波長
範囲を有する幾つかの画像の光が通過され、他の画像の光は、プロジェクタ又はフラット
スクリーンからの画像を次に取得するために可視光波長だけが通過される。
幾つかの好ましい実施形態では、本発明は、参照により本明細書に組み込まれる、公開
特許出願番号WO2002027461及びUS7083100B2、及び/又はWO2
006135241A1及びUS2009040195A1に記載された技術革新と組み
合わされてもよい。これらの技術革新は、対象物を正確に追跡しかつ/又は識別しかつ/
又は前述の発明による可観察パターンを変更できるボタンなどのような様々なユーザ対話
制御の状態を検出するための手段として、表面及び/又はその本体の内側に所定の波長範
囲内で観察可能かつ/又はスクリーンに投射されるパターンを備えた対象物に関する。更
に、対象物の表面への近接又は対象物の様々な内部構成要素間の近接は、本発明を参照に
より組み込まれる公開特許出願番号WO2005050130/US7339684B2
に記載されたような光学接近検出器と組み合わせることによって観察されてもよい。
本発明の幾つかの好ましい実施形態では、座標面の表示座標への正確なマッピングを見
つけるために、単純なコンピュータ式較正手順が使用される。必要に応じて、較正手順は
、例えばディスプレイ上の何箇所かに十文字を示すことによってユーザ支援されるが、マ
ッピングを見つけるには、即ち表示座標への座標面のマッピングを記述する適切な変換行
列を決定するには、手動のペン又は指タッチを必要とする。
本発明の幾つかの好ましい実施形態では、コンピュータプログラムが、ディスプレイ上
に画像を呈示することができ、画像は、例えば公開国際PCT特許出願番号WO2002
027461及びUS7083100B2、及び/又はWO2006135241A1及
びUS2009040195A1に記載されたように、対象物の識別と追跡に使用される
パターンを含み、これらのパターンは、座標面を表示座標にマッピングする変換行列を計
算するためにカメラによって自動的に認識され、これらの初期の出願は、参照により本明
細書に組み込まれる。
本発明の目的は、X及びY方向の位置情報、並びに人間−機械インタフェースにおける
ユーザからのタッチ及びホバー情報(ユーザ操作情報を表わすZ方向)を提供することで
あり、人間−機械インタフェースは、典型的には協力ディスプレイも含むが必須ではない
本発明の目的は、相互作用面上又は相互作用体積内に少なくとも1つの集束平面扇形光
ビームを提供し、それにより、少なくとも1つの対象物(例えば、人間の指)による集束
扇形光ビームの貫入が、相互作用面、相互作用体積及び少なくとも1つの貫入対象物を検
出するように構成された視野内のカメラによって検出されるようにすることである。相互
作用面の上の特定の体積に区切られた集束扇形光ビームは、対象物を特徴的に照明する働
きをし、その理由は、強度が、典型的には、背景照明よりかなり高いからであり、少なく
とも1つの対象物が、画像信号処理手段によって、高強度領域を探索することによって、
エッジを検出し重心計算を実行して少なくとも1つの対象物(例えば、1つ又は複数の指
)を見つけることによって有効に見つけられる。
更に、本発明の目的は、コンピュータや他の電子機器用のヒューマンインタフェース装
置で利用される高度なマルチタッチ相互作用に対応することである。集束扇形光ビームの
幾つかの層を相互作用体積に含めることによって、正確なタッチ制御、手姿勢及びユーザ
ジェスチャを含むユーザの相互作用の細かい詳細を取得することができる。本発明の好ま
しい実施形態では、それぞれ集束扇形光ビームを生成する照明光源は、周期的にオンオフ
され(例えば、ストロボ発光され)、その結果、集束扇形光ビームの異なる層が、それぞ
れの信号寄与率を区別するために選択的にオンオフされ、それにより、例えばホバー状態
とタッチ状態を有効に区別することができる。異なる平面扇形光ビーム層によって選択的
に照明された幾つかのスライスで相互作用体積を分離することによって、断層撮影法と多
少同じように相互作用体積を有効に解析することができる。また、照明は、受信信号に検
出されたときに動きをとどめるために、動き自体の時間フレームに対して比較的短い照明
持続時間でフラッシュ(即ち、ストロボ発光)されてもよい。
本発明の幾つかの更なる実施形態では、平面扇形光ビームは、近赤外線光照明光源、例
えば出力放射が700nm以上の波長を有する照明光源から提供された照明から生成され
る。更に、カメラは、可視光類及び類似物を遮り、それにより前述の近赤外線だけが通過
することができる光学フィルタを含むと有益である。本発明のそのような実施形態では、
日光、室内照明、使用されたプロジェクタからの光、表示光などの他の光源の影響を受け
にくい。
本発明を実施するとき、集束扇形光ビームは、光を相互作用面/体積の最遠端の方に集
束させて最遠端で十分な照明を維持することによって生成されると有益である。また、本
発明を実施するとき、集束扇形光ビームが、表面に対してほぼ一定かつ平行な距離になる
ように、集束扇形光ビームが、ホワイトボード類の表面に対して小さい角度だけ相互作用
面の方に傾けられると有益である。
本発明を実施するとき、従来の光平面の使用と対照的に、扇形ビームの生成が集中され
分散されないと有益である。壁及びテーブル上に画像を生成する前面及び後面投射システ
ムにおいて、本発明は、そのようなシステムを対話型にするために、完全な赤外線光平面
フレームを作成することなく、即ち、単に、本発明の集中扇形光ビーム生成装置、及び、
計算装置と連携するカメラを含むように、新しい機器に一体化されるか既存の機器に改造
されると有益である。
本発明は、有利には、プロジェクタ壁取付け部又はスクリーン取付け部(例えば、LC
D、OLED、類似の発光装置を利用した)に取り付けられるか一体化することができる
という点で好都合である。
本発明の幾つかの代替の実施形態では、きわめて高度な相互作用空間には、集束扇形光
ビームの様々な層を薄くしてタッチ及びZ方向ジェスチャの分解能と精度を高めるために
照明光学システムにより長い筐体が使用されてもよい。更に代替の実施形態では、LED
光源の1つ又は複数を近赤外線レーザダイオードと置き換えて扇形光ビームの層の厚さを
小さくすることができる。
本発明は、低コストのCCD又はCMOSカメラ技術部品と、低コストの近赤外線LE
D及び光学部品を利用することができる。そのような部品は、製造が安価である。更に、
最近の信号処理集積回路(例えば、信号プロセッサ、マイクロコントローラ、マイクロプ
ロセッサ、プログラマブル論理装置)を使用して本発明を実施することができ、そのよう
な集積回路は、本発明の実際の用途のためにプログラムするのが容易である。したがって
、本発明は、大量生産で実現するのが容易である。
また、本発明は、高度なユーザマルチタッチ相互作用を教育とビジネス市場に提供する
ことができる。本発明は、大型及び幅広学校及び講堂用ホワイトボードだけでなく小型及
び中型ディスプレイにも適する可能性がある。更に、本発明は、また、教育、相互作用看
板用、及び博物館と展示会においてディスプレイと共に又はディスプレイなしに使用され
るように適応可能である。
本発明は、また、デジタルコンテンツを含むフラットディスプレイ又はプロジェクタス
クリーンを使用するデジタル看板内で利用されるように適応された対話型スペースを提供
することができ、デジタルコンテンツは、コンテンツ提供者からの所定のシーケンスだけ
でなく、タッチ及びジェスチャ制御からのユーザ入力によって動的に変更することができ
、それにより看板が、更に適応的で、多情報で、使い勝手がよくなる。
提供する本発明は、また、破壊に耐える厚い窓を介してうまく機能し、あらゆる種類の
表面とフラットスクリーン上で簡単な取り付けでうまく機能し、屋内及び屋外の公共及び
商業地域に取り付けて使用するのに適する相互作用看板で使用されるタッチ及びジェスチ
ャ制御用の入力装置を提供することができる。
本発明は、添付図面を参照して、ここに単なる例として述べられる。
本発明の例示的なハードウェア構成の斜視概略図であり、1つ又は複数の光平面の典型的な位置の例、集束扇形光ビーム生成装置、相互作用面及び体積、カメラ、ディスプレイ、プロジェクタ及び壁取付け部が示される。 図1の例示的構成の側面図である。 図2の例示的構成の側面図であり、集束扇形光ビーム生成装置が、壁取付け部に一体化されている。 図2の例示的構成の実例の側面図であり、集束扇形光ビーム生成装置は、壁取付け部に垂直方向に一体化されるか壁取付け部に垂直方向に取り付けられる。 本発明の実施形態で使用される光源拡大集束装置の動作原理の説明図である。 図5の光源の説明図であるが、大型対話式ホワイトボードに典型的な状況でパラメータ値を挿入することによって例示される。 図6と関連する光学システムの例の説明図であるが、光線は、その対称軸を操作/相互作用面と平行に変化させるために円錐形ミラーによって反射される。 図7と関連する光学システムの例の説明図であるが、円錐形ミラーの角度は、軸が相互作用面の方に多少傾くように調整されている。 図8Aと関連する光学システムの例の説明図であり、位置の検出及び/又は相互作用面との接触を検出する光平面を作成するために相互作用面によって反射される可能性が高い光線及び光源像成分も含む扇形光ビームと拡大光源画像の例が示される。 図8Aと関連する光学システムの例の説明図であり、相互作用体積内の位置の検出及び/又はホバーレベルを検出する光平面を作成するために光線と拡大光源像の例が描かれる。 円錐形ミラー、凸レンズ及び照明光源がハウジング内に取り付けられた集束扇形光ビーム生成装置の例を示す図である。 図8と同じような製造された円錐形ミラーの例の説明図である。 相互作用面に沿って幾つかの光平面を作成するために、図9と同じように幾つかの扇形光ビーム生成装置を使用する例示的構成の説明図である。 上から見たときの図9と同じ扇形光ビーム生成装置の説明図であり、装置は、光平面光学システム取付け部によって壁上の相互作用面の上に取り付けられている。 上から見たときの図9と同じ扇形光ビーム生成装置の説明図であり、装置は、後面投射システム内の光平面光学システム取付け部によって相互作用面の上の壁の穴を介して取り付けられている。 原則的に図9と機能が類似しているが凹状円錐形ミラーを使用する扇形光ビーム生成装置の説明図である。 照明光源が図7〜図14と同じような円錐形ミラー用に構成され得る方式の説明図である。 集束扇形光ビーム生成装置の側面図であり、円筒形レンズ、凸レンズ及び照明光源がハウジング内に取り付けられている。 図16と同じであるが上から見た集束扇形光ビーム生成装置の説明図であり、円筒形レンズ、凸レンズ及び照明光源がハウジング内に取り付けられている。 図17の例の説明図であるが、平坦ミラーを使用することによって軸が傾けられている。 図17の例の説明図であるが、平坦ミラーを使用することにより軸が90度偏向されている。 より広い扇形光ビーム平面を生成するための図17、図18及び図19の例の例示的な組み合わせの説明図である。 完全相互作用面をカバーするより幅広い扇形光ビーム平面を生成し、光源のより小さい拡大率と扇形光ビームのより薄い層を提供する長い筐体を使用する、図17、図18及び図19の例を組み合わせる例示的構成の説明図である。 完全相互作用面をカバーするより広い扇形光ビーム平面を生成し、光源のより大きい拡大率とより厚い扇形光ビーム層を提供する短い筐体を使用する、図17、図18及び図19の例の例示的な組み合わせの説明図である。 完全相互作用面をカバーする幅広い扇形光ビーム平面を生成するために、図17、図18及び図19の例の変形の例示的組み合わせの垂直方向に取り付けられた説明図である。 凹状円筒形ミラーを使用して、角部から相互作用面の部分をカバーする扇形光ビーム平面を生成する例の説明図である。 凹状円筒形ミラーを使用して、2つの角部から相互作用面をカバーする2組の扇形光ビーム平面を生成する例の説明図である。そして 照明光源が、図16〜図25と同じように円筒状レンズと円筒状ミラーを利用した例のように構成された方式の説明図である。
本発明は、人間−機械相互作用のため、換言すると人間−コンピュータ相互作用のため
のカメラ式コンピュータ入力装置のためのシステム及び方法に関する。更に、本発明は、
また、そのようなシステムを実現しそのような方法を実行するために装置に関する。
本発明の少なくとも1つの実施形態の実行及び操作を詳細に説明する前に、本発明が、
その応用において、以下の記述で説明し又は図面に示す構成要素の構造及び構成の詳細に
限定されないことを理解されたい。本発明は、他の実施形態で実現されてもよく、様々な
方法で実施又は実行されてもよい。更に、本明細書で使用される表現と用語は、記述のた
めのものであり、制限と見なされるべきでないことを理解されたい。本発明による相互作
用入力装置、システム及び方法の原理及び動作は、図面及び付随する説明を参照してより
良く理解される。
最初に、相互作用装置と相互作用システムの原理について述べる。その後で、幾つかの
好ましい実施形態の詳細な説明を、その詳細なシステムの動作原理と共に述べる。
相互作用システム及びそれと関連する相互作用装置の動作原理は、図1と図2に示され
たような例示的構成を参照して説明される。図1と図2では、本発明の好ましい実施形態
のハードウェア構成が斜視図と側面図で概略的に示された。ハードウェア構成は、壁取付
け部4上のカメラ1と照明具2と共に配置されたショートスローデータプロジェクタ3を
含むハードウェア構成要素を含む。壁取付け部4は、著しく異なる外観と実際的実装を有
することができるが、その主な目的は、1つ又は複数のショートスロープロジェクタ3、
カメラ1及び照明具2を、スクリーンと壁上の取付け部までの適切な距離で、好ましくは
表示ピクチャ16の上に配置することである。表示ピクチャ16は、本書では同義的に座
標面16と呼ばれる相互作用面も表わす。必要に応じて、プロジェクタ3を使用するとき
、座標面16は、投射、ペン操作及びタッチに適した滑らかで白い面である。これと反対
に、プロジェクタ3の代わりにフラットディスプレイを使用する場合、相互作用面16は
、フラットディスプレイ自体であり、必要に応じて、ペン及びタッチ操作に対して頑強に
なるように、保護のために典型的にはガラス又はプラスチック材料の特殊な透明材料で保
護される。ショートスロープロジェクタ3は、関連した視野6を有し、1でも示された相
互作用体積内の点線の長方形によって表わされたような相互作用面16上に表示ピクチャ
を投射する働きをする。対象物25が、座標面16の上の特定の高さによって制限された
相互作用体積7内にあるとき、対象物25(例えば、ユーザの指及び/又は手)は、コン
ピュータ類と相互作用する働きをする。
装置は、更に、可視光又は近赤外線照明を投射する光学部品の機構を含み、この機構は
、相互作用面(即ち、座標面16)の外側に配置され、関連した投射照明は、相互作用体
積7内の、実質的には相互作用面(即ち、座標面16)と実質的に合わされた1つ又は複
数の光平面5の形を有すると有益である。
カメラ1は、相互作用体積7を含む視野8を有し、それにより、対象物25の座標と対
象物25のホバー高さが計算され、かつ/又はそのホバリング状態及び/又はタッチ状態
及び/又は姿勢特性が、カメラ1によって検出された単一画像に基づいて得られ、信号と
して計算装置に伝えられ、かつ/又は対象物の動き及び/又は対象物のジェスチャが、更
に、カメラ1によって生成された信号で表された一連の画像に基づいて計算され、計算装
置に伝えられる対応する信号として提供される。必要に応じて、計算装置は、典型的には
カメラ1に埋め込まれるが、必ずしも埋め込まれなくてもよい。カメラ1は、必要に応じ
て、例えば日光及びディスプレイ及び/又はロングスロープロジェクタ3からの光の影響
を低減するために、異なる波長範囲の光を選択的に遮る光学フィルタを含む。
計算装置は、例えば標準シリアルバス及びそれと連携する回路(USBなど)を使用す
るか、無線通信プロトコル及び装置を使用して、座標及び他の相互作用データをコンピュ
ータに送る通信装置を含む。
図1では、本発明の好ましい実施形態による例示的構成が示され、装置の集束扇形光ビ
ーム生成装置2とカメラ1が、プロジェクタ3と共に壁取付け部4に取り付けられる。カ
メラ1とプロジェクタ3は、図1に示されたカメラ視野8とプロジェクタ視野6で相互作
用面16の方に向けられる。少なくとも1つの対象物25(即ち、ここでは人差し指と手
として示された)が、相互作用面16の前の相互作用体積7内の少なくとも1つの単一集
束扇形光ビーム平面5及び/又は26を貫通することができ、カメラ1と計算装置が、単
一ピクチャから、対象物25の照明部分を検出し、横方向(X方向とY方向)におけるそ
の横位置を見つけ報告し、また対象物25が現在あるホバーレベル(即ち、Z方向の関連
情報)を報告し、それにより、集束扇形光ビームのどの層が、対象物25を照明している
かが、相互作用コンピュータの入力として送られ、この対象物25は、例えば「タッチ」
(相互作用面16と接触していることと同義)と、例えば「ホバー」(相互作用インタフ
ェース語彙で使用される「範囲内」状態と同義語)として表される。
図1はまた、インタフェース面16としてフラットスクリーン(即ち、壁取付け部4に
プロジェクタ3が取り付けられていない)に適応された対応システムを示すことを理解さ
れたい。
図1に示された実施形態で使用される照明は、必要に応じて切り替え可能であり、した
がって、1つ又は複数の光平面5及び/又は26が、必要に応じて、オンオフされて、対
象物25を、幾つかの光平面5及び/又は26のうちの1つで照明するか、幾つかの光平
面5及び/又は26の組み合わせで照明し、その結果、照明は、横位置を決定し、ホバー
高さを決定し、対象物が相互作用面と接触しているかを決定するためにそれぞれ選択され
る。対象物25の横位置を決定する場合は、相互作用体積7によって許容されたホバリン
グ距離に対応する相互作用面16までの距離にある1つ又は複数の光平面5及び/又は2
6による照明がオンにされて、相互作用体積7内の光平面5及び/又は26に入るときに
側面から対象物25の一部分を照らす平面と平行な概略一定の高さの光線場(即ち、扇形
光ビーム)ができ、これにより、カメラ1から直接観察したときの対象物25の輪郭が決
定される。ホバーレベル(即ち、高さ)を決定する場合は、相互作用体積7内の相互作用
面16から異なる距離にある1つ又は複数の光平面26を順次オンオフすることによって
、相互作用体積7内の相互作用面16から異なる距離にある対象物25の部分を逐次照明
することにより、ホバーレベル、即ち高さ情報を決定することができる。対象物が相互作
用面16と接触しているか接触していないこと、即ちタッチしていることを決定する場合
は、実質的に相互作用面16の平面で生成され相互作用面16を直接照明する光平面5が
オンにされる。光平面5からの相互作用面16の直接照明は、実質的に相互作用面16の
平面に位置決めされた扇形光ビームを作成することによって有益に達成され、扇形光ビー
ムの光学対称軸は、相互作用面16の平面に向けて収束し、同時に、扇形光ビームが相互
作用面16を照らす。
本発明による全ての例示的構成及び好ましい実施形態では、更に、少なくとも1つの外
側遮蔽板又はシャーシが存在してもよいが(図面では分かりやすくするために省略されて
いる)が、必要に応じて、プロジェクタ3、カメラ1(必要に応じて、計算装置と通信装
置を含む)、1つ又は複数の光平面5及び/又は26(即ち、扇形光ビーム)を動作可能
に作成する照明具2、壁取付け部4、及び表示及び座標面16などのハードウェア構成要
素の1つ又は複数を取り囲む。外側遮蔽板又はシャーシの目的は、例えば、相互作用シス
テムを頑強にし、保守不要にし、防塵にし、使い勝手をよくし、より安全にし、製造し易
くし、取り付けを簡単にし、かつ幾つかの所定の原理及び設計要素に従う本物らしい見栄
えをシステムに提供することである。
図1と図2を更に参照すると、扇形光ビームを生成する照明具2が、生成装置であり、
即ち同義的には集束扇形光ビーム平面を生成する照明具2が、照明手段であり、この例示
的構成では、相互作用面16、好ましくは壁又は壁取付け部4に取り付けられると有利で
ある。照明具2は、必要に応じて、本発明に準じたタッチ感応式になるように既存のホワ
イトボード又はショートスロープロジェクタ設置を拡張する改造キット内に取り付けられ
てもよい。
図3を参照すると、これらの例示的構成では、照明具2(例えば、集束扇形光ビーム平
面照明機構)は、プロジェクタ取付け部に組み込まれる。図3を参照すると、図2と同じ
構成が、側面図で示されているが、図3では、集束扇形光ビーム平面生成装置として実現
された照明具2は、壁取付け部4に組み込まれる。
図4を参照すると、図2と同じ構成が、側面図で示されているが、図4では、集束扇形
光ビーム平面生成装置として実現された照明具2が、壁取付け部に垂直方向に一体化され
るか、壁取付け部4に沿って垂直方向に取り付けられる。
本発明の更に好ましい実施形態では、集束扇形光ビーム照明機構として実現された照明
具2が、壁取付け部4の一体部分であるだけでなく、相互作用面16を構成するフラット
スクリーンディスプレイの取付け部の一体部分、完全対話型ホワイトボードの一体部分、
又は完全データプロジェクタの一体部分であり、あるいは前述の外側遮蔽板又はシャーシ
内に配置された又は他の機械的手段により、したがって、完全相互作用システムの一体部
分であるが、集束扇形光ビーム照明機構として実現される照明具2の機能は、同じである
図5を参照すると、本発明における光源拡大と合焦の原理が示される。典型的には、複
数のLED光源11が、単一凸レンズ10から距離S2に配置され、(必要に応じて、焦
点距離fを有する凹面鏡として実現され)、照明光源11の画像18が、典型的には、範
囲S1における相互作用面16の上の相互作用体積7の最も遠い部分に合焦され、照明光
源11のS1/S2の拡大率は、体積7全体にわたる実際の集束扇形光ビーム層の最小厚
さを表わす。
図6を参照すると、図5と同じ原理が示されるが、対角線で90”〜100”(即ち、
約225cm〜250cm)のサイズを有する大型対話型ホワイトボードの代表的状況の
パラメータ値が挿入され、光源の画像は、この例では、S1=1900mmに合焦される
。例えば焦点距離f=250mmを有するレンズを使用することによって、光源は、単一
凸レンズ10から距離S2=288mmに配置され有益である。約6.6の倍率が、照明
具2の照明光源11の約3.5mmの等価又は知覚光源サイズ(perceived source size
)27(光源サイズ27に関しては、図8Bと図8Cを参照)によって達成され、照明光
源の合焦像18は、約S1/S2倍であり、即ち約23.1mmである。
図7を参照すると、図6と関連する光学システムが示されるが、この場合、光線は、円
錐形ミラー9によって反射されて対称軸が変化して操作/相互作用面16と平行になる。
光源は、凸レンズ10の中心軸からD=25mmの直径に配置される。光源からの照明を
レンズの直径の半分に制限する遮光板19が導入される。円錐形ミラーの角度は、レンズ
中心軸を通らない光源の軸を補償するために46.43°であり、したがって偏向される
図8Aを参照すると、図7と関連する光学システムが示されるが、この場合、円錐形ミ
ラー9の角度は、相互作用面を扇形光ビーム平面によって直接照明するために、軸が操作
/相互作用面16の方に多少傾くように変化するように調整される。円錐形ミラーの例示
的な角度は、46.65°であり、これにより、集束扇形光ビームの光学対称軸が、相互
作用面16の方に0.44°傾けられる。後述するように、扇形光ビーム平面の前縁は、
相互作用面16全体を照らすために相互作用面から十分に離され、扇形光ビーム平面の後
縁が、実質的に相互作用面16の境界になる。
図8Bを参照すると、図8Aと関連する光学システムの本発明による例示的構成が示さ
れ、位置の検出及び/又は相互作用面16との接触(即ち、タッチ)を検出するための扇
形光ビーム平面を生成するため、相互作用面によって反射される可能性が高い光線及び光
源像成分も含む光線と拡大光源像の例が示される。照明光源11は、必要に応じて発光ダ
イオード(LED)で実現され、直径D=25mmの円に沿って配置される。幾つかの照
明光源11は、周囲に沿って有益に拡がって、集束扇形光ビームの様々な扇形の高強度を
保証し、また熱放散の拡散を支援する。必要に応じて、単一中央照明光源だけが使用され
、それに応じて、光学システムが、円錐形ミラー9の角度を変更し、光平面の光線を制限
するために中央遮光板19と調節遮光板30及び29を作成することによって僅かに修正
されるが、典型的なそのような照明光源11の放射図の0°(頂点)で一般に見られる最
大強度が、最良に利用されず、電力損が集中しすぎ、熱を生成しすぎる可能性が高い。照
明光源11の等価サイズ27(又は、知覚サイズ27)は、画像処理システムによって拡
大されて、図8Aに参照されたような等価照明光源サイズ27のS1/S2倍の大きさの
合焦像18が作成されて、その場合、距離S2は、光源11からレンズ10までの距離で
あり、距離S1は、レンズ10からミラー9を介して画像18までの長さであり、そこで
画像は、象徴的に矢印38及び39によって表わされる。したがって、照明光源の等価サ
イズ27は、十分に薄い扇形光ビーム平面を作成するための重要な制限因子である。高電
力損と高照明強度の集中照明光源11は、典型的には、より大きい等価/知覚光源サイズ
27を有する傾向があり、即ち、そのような構成では扇形光ビーム平面が厚くなる傾向が
ある。
更に図8Bを参照すると、遮光板19の主目的は、各照明光源11からの知覚光源サイ
ズ27を有する光線が、凸レンズ10の反対側部分を照らすのを阻止し、即ち、光線がレ
ンズ10と円錐形ミラー9の共通光学軸28と交差するのを防ぐことである
本発明の動作原理について述べるために、位置の検出及び/又は相互作用面16との接触
を検出するために配置された相互作用面16を照らすための、光源サイズ27を有する照
明光源11から出る幾つかの例示的光線31、32、33、34、36、37及び43が
描かれている。知覚光源サイズ27を有する光源11は、距離S1で、2つの矢印38及
び39によって象徴的に示された大きさがS1/S2倍の拡大像で集束される。
矢印38の部分は、相互作用面16によって反射されかつ/又は吸収される光源11の
画像18の一部分を表わす。相互作用面16の表面特性が、反射性で反射が鏡のようであ
る場合は、矢印38のこの部分の相互作用面16によって鏡像40が反射される。次に、
相互作用面16に接触する対象物25は、ミラー9からの直接光線とやはりミラー9から
出るが相互作用面16によって反射された反射光線との組み合わせによって照明される。
相互作用面16の表面特性が、主に拡散反射があるものである場合、照明面に近い方の照
度は、相互作用面16からの拡散反射光成分によって高められる。その場合、ミラー9か
ら出て相互作用面16を照らす光線は、相互作用面16に全て吸収され、相互作用面から
の対象物25の照明に貢献しない。
ミラー9から出る扇形光ビーム平面の対称軸35が、相互作用体積7内の相互作用面1
6の平面と交差しない限り、得られる平面の厚さは、前方光線制限遮光板29によって区
切られまた相互作用面16自体によって区切られた前方光線31によって与えられる。こ
の軸の相互作用面16の平面との交点を、相互作用面16の外側、即ち図8Bでは相互作
用面16の左側になるように構成することによって、相互作用面16によって反射された
画像の部分が、画像の直接成分より幅広くならず、このことは、相互作用面16がない場
合に光線32で合焦画像38の記号矢印端まで続くことになる極限角の例示的光線37か
ら生じるが、相互作用面16で鏡面反射する可能性が高いので、集束鏡像40の記号矢印
端に光線33として反射される例示的光線33によって示される。
更に図8Bを参照すると、光線34は、光源サイズ27を有する光源11の限界から出
る極限角の光線であり、光学軸28から最も遠くにあり、光源光線制限遮光板19を通過
してレンズ10をレンズ10の周囲を通り、直径が最大のミラー9の端部の近くで円錐形
ミラー9に当たるが、ミラー9で反射した後で、光線34が後方光線制限遮光板30によ
って阻止される。極限角の例示的光線34は、遮光板30と相互作用面16によって阻止
されない場合は、合焦像38の記号矢印端で光線32と交差することになる。光線43は
、光源11の光線34と同じ側から光源サイズ27で出ているが、光線34は、遮光板3
0によって阻止され、光線43は遮光板30を通過し相互作用面16の側縁によって阻止
されるか、前述のように相互作用平面16を照明し吸収され反射されることがある。光線
を阻止する遮光板30や相互作用面16がない場合、光線32に名前が変わる例示的光線
34と例示的光線37が、光学軸28から最も遠い光源サイズ27を有する光源11の限
界から出て、合焦像38の矢印端で出会って交差する。
その結果、例示的光線36と前縁の例示的光線31が、光学軸28に最も近い光源サイ
ズ27を有する光源11の限界から出て、合焦像39の矢印端で出会い交差する。
本発明の利点は、図8Bによってはっきりと示される。第1に、相互作用面16の平面
と実質的に平行に合わせされた扇形光ビームを合焦することによって、相互作用面16の
遠端(即ち、図8Bの左側)における照明光源の画像(39と38によって示されたよう
に)が、ビームの幅を定める。第2に、合焦によって、最遠端(即ち、図8Bの左側)で
強度が低下しすぎず、扇形光ビームの光線が円錐形ミラー9から円形状に広がり、円形の
拡がりによってミラー9からの距離全体にビーム強度が低下するときに、相互作用面16
全体にわたってできるだけ高い強度レベルが維持される。第3に、対称軸35が相互作用
面16の方に収束して相互作用面16を照らすことにより、相互作用面16自体が光視野
の後端になるので、光視野の更なる限界が提供される。第4に、対称軸35が相互作用面
16の方に集束することにより、照らされた相互作用面16から反射した反射成分と拡散
成分が、表面の近くの強度を高める。第5に、対称軸35の相互作用面16の方への収束
は、相互作用面16内で相互作用面16の平面と交差することなく行われ、即ち、平面と
の交点は、図8Bの相互作用面16の実質的に左側にあると有益であり、相互作用面16
から反射された反射成分が、照明視野の幅を大きくせず、その結果、幅は、前方光線31
と相互作用面16とによって有効に画定される。
本発明によって提供されたこれらの5つの前述の有利な特性によれば、光ビーム5は、
その強度をできるだけ高く維持するためにできるだけ狭く合焦され、相互作用面16に実
質的に平行又は僅かに収束し相互作用面16によって限定され、照明具2に対応する少な
くとも1つの扇形光ビーム平面生成装置から、相互作用面16の上に有益に拡げられ、即
ち扇形状にされ、分散され、照明し、したがって、相互作用面16と接触し(即ち、同義
的にはタッチしている)対象物25の部分の別個で区分された照明を提供する。
図8Cでは、図7や図8Aと関連する光学システムの例が示され、光線及び拡大光源像
の例が、位置を検出しかつ/又は相互作用面16の上の相互作用体積7内の「ホバリング
状態」及び/又はホバーレベルを検出するための扇形光ビーム平面を作成するように描か
れている。照明光源11(例えば、発光ダイオード(LED))が、直径D=25mmの
円に沿って配置される。必要に応じて、複数の照明光源11は、集束扇形光ビームの様々
な扇形内の高い強度を保証し、また、それによる熱放散の拡がりを支援するために周囲に
沿って分散される。必要に応じて単一の中心照明光源だけが使用され、その場合、光学シ
ステムは、円錐形ミラー9の角度を変化させることによって僅かに修正され、中央遮光板
19及び調整遮光板44と29を作成して光平面の光線を制限しなければならず、一方、
典型的なそのような照明光源11の放射図における0°(頂点)で一般に見られる最大強
度は、最適に利用されず、電力損は集中し、最終的には生成される熱が多すぎる可能性が
ある。照明光源11の等価サイズ27(又は、知覚サイズ27)は、結像システムによっ
て拡大されて図7又は図8Aで参照したような等価な照明光源サイズ27のS1/S2倍
の大きさの合焦像18が作成され、この場合、S2は、光源11からレンズ10まで距離
であり、S1は、レンズ10からミラー9を介して画像18までの距離であり、画像は、
矢印41及び39によって象徴的に表わされている。したがって照明光源11の等価サイ
ズ27は、十分に薄い扇形光ビーム平面を作成するのに重要な制限因子である。電力損を
高め照明強度を高める集中照明光源11は、典型的には、より大きい等価/知覚光源サイ
ズ27も有する傾向があり、即ち、そのような構成では、扇形光ビーム平面が厚くなる傾
向がある。
更に、図8Cを参照すると、遮光板19の主な目的は、知覚光源サイズ27を有する各
照明光源11からの光線が、凸レンズ10の反対側部分を照らすのを阻止すること、即ち
、光線が、レンズ10と円錐形ミラー9の共通光学軸28と交差するのを防ぐことである
。本発明の動作原理について述べるために、位置を検出しかつ/又は「ホバリング」を検
出し又は相互作用面16との上の相互作用体積7内のホバーレベルを決定するように構成
された相互作用面16の上の対象物25を照らすために、光源サイズ27を有する照明光
源11から出る幾つかの例示的な光線31、34、36、42及び43が描かれている。
知覚光源サイズ27を有する光源11は、距離S1で合焦されて、その拡大画像は、大き
さが画像S1/S2倍であり、2つの矢印41及び39によって象徴的に示された。
更に、図8Cを参照すると、例示的な光線43は、光源光線制限遮光板19を通過する
光学軸28から最も遠くにあり、光源サイズ27を有する光源11の限界から出る極限角
光線であり、レンズ10をレンズ10の周囲で通過し、直径が最大のミラー9の端の近く
で円錐形ミラー9に当たり、ミラー9で反射した後、光線43は、後方光線制限遮光板3
0を通過し、相互作用面16の上を進み、矢印41の矢先で象徴化された画像点で、光源
11の同じ側から出て遮光板29を通過し相互作用面16の上を進む別の例示的な極限角
光線42と出会い交差する。その結果、例示的光線36と前縁の例示的光線31は、光学
軸28に最も近い光源サイズ27を有する光源11の限界から出て、合焦像39の矢印端
で出会い交差する。
本発明のこの構成の利点を図8Cに示す。最初に、相互作用面16の平面と実質的に平
行に合わせられたビームを合焦することによって、相互作用面16の遠端(即ち、図8C
の左側)の照明光源の画像(39と41で示された)が、ビームの幅を区切る。第2に、
合焦によって、最も遠い端(即ち、図8Cの左側)で強度が低下しすぎず、相互作用面1
6全体にできるだけ高い強度レベルが維持され、扇形光ビームの光線が、円錐形ミラー9
から円形に広がり、円形の拡がりによってミラー9からの距離全体にビーム強度が低下す
る。第3に、円錐形ミラー9の適切なミラー角度を選択して対称軸35の角度を調整する
ことによって、前縁、後縁又は対称軸が、ホバーレベルの決定を最適化するように相互作
用面16と平行にされる。第4で最後に、前方光線制限遮光板29と後方光線制限遮光板
44を調整することによって、相互作用面の上に入るミラー9に近い非焦点ビームの幅が
、有効に画定される。
本発明の以上の利点により、強度をできるだけ高く維持するためにできるだけ細く合焦
されまた相互作用面16と実質的に平行な光ビーム26は、有益的に拡げられ、即ち扇形
にされ、照明具2に対応する少なくとも1つの扇形光ビーム光平面生成装置から相互作用
面16の上に分散され、したがって、相互作用面16の上の特定のホバーレベル(即ち、
「ホバリングモード」)にある対象物25の部分の別個かつ区分された照明が提供される
図9を参照すると、本発明の合焦扇形光ビーム生成装置(照明具2に対応する)の例示
的構成が示され、円錐形状ミラー9、凸レンズ10及び照明光源11が、ハウジング/筐
体14内に取り付けられ、上記の原理に準じて、光平面の「前縁」12と「後縁」13内
の相互作用面16に沿って扇形光ビーム平面5を作成するように動作する。
図8Aと同じような製造された円錐形ミラーの例示的構成を図10に示す。円錐形ミラ
ーの角度は、46.65°であり、その直径はD=50mmである。ミラーは、必要に応
じて、様々なタイプの金属(例えば、アルミニウム)で製造され、あるいは、ミラーは、
必要に応じて、プラスチック材料を使用し、例えば射出成形プロセスを使用してモールド
成形部品を作成し、例えば真空蒸着アルミニウムを使用して部品を後で金属化することに
より実施される。
次に図11を参照すると、本発明の例示的構成が、照明具2に対応する幾つかの扇形光
ビーム生成装置を使用して示され、円錐形ミラー9、凸レンズ10及び照明光源11が、
ハウジング/筐体14内に取り付けられ、前述の原理によって、光平面のそれぞれに「前
縁」12と「後縁」13を有する相互作用面16に沿って幾つかの扇形光ビーム平面5,
26を作成することができ、光平面5が、X−Y位置及び/又は接触(タッチ)を決定す
るために前述のように構成され、他の光平面26が、X−Y位置、ホバリング及び/又は
ホバリングレベルを決定するために前述のように構成される。
図9と同じような本発明に関する以上の説明から分かるような照明具2としての光線生
成装置の扇形の例示的構成が図12に示され、この装置は、光平面光学システム取付け部
17によって壁15上の相互作用面16の上に取り付けられる。同様に、図13は、後面
投射又はフラットスクリーンシステムを除いて、図9と同じように本発明に関する前述の
説明から分かるような照明具2を実現するための扇形光ビーム生成装置の例示的構成の説
明図である。図9では、筐体14を有する装置が、相互作用面16の上に、光平面光学シ
ステムが後面投射システム内に取り付けられた状態で取り付けられ、それにより、壁及び
/又は相互作用面16に孔7があき、装置の左側部分だけが、壁の側面と相互作用面16
内に延在し、相互作用が行なわれる。
前述のような合焦と相互作用面16の上の扇形光ビームの拡散とを行うために、直線円
錐形ミラー9と凸レンズ10を使用する代わりに、図14は、図9と類似の機能を有する
が、凹状円錐形ミラー20を使用して合焦機能と直角拡散機能を1つの光学要素内で組み
合わせる、照明具2の扇形光ビーム生成装置の例示的構成の説明図である。そのような光
学要素は、図10に示された円錐形ミラーの製造に使用される方法と類似の方法を使用し
て製造されると有益である。要素は、必要に応じて、様々なタイプの金属(例えば、アル
ミニウム)で製造され、あるいは、射出成形を使用してプラスチック材料から製造され、
後で、例えば真空蒸着アルミニウム及び/又はめっき工程を使用してプラスチック部分が
金属化される。
照明具2に対応する扇形光ビーム生成装置によって生成された扇形光ビームは、扇形に
拡げられなくてもよいので、照明光源は、完全円に均一に分散されなくてもよい。図15
は、照明光源11が、必要に応じて、図7〜図14と同じような円錐形ミラー実施形態に
構成された方式の例示的構成の説明図である。
図16では、照明具2に対応する合焦扇形光ビーム生成装置を使用するシステムの側面
からの例示的構成が示される。システムは、更に、ハウジング筐体14に有益的に取り付
けられた円筒形レンズ21、凸レンズ10及び複数の照明光源11を含む。照明光源11
は、より平行なビームを提供するレンズ10に進む光を放射する働きをし、この平行ビー
ムは、円筒形レンズ21を通って、相互作用面16と関連した相互作用体積7を照らす扇
形光ビームを生成する。
図17では、照明具2に対応する扇形光ビーム生成装置を実現するシステムの上方から
見た例示的構成が示される。例示的構成は、更に、円筒形レンズ21及び凸レンズ10を
照明光源11と共に含み、照明光源11は、境界22によって示された角度内の凸レンズ
10の主軸に沿った扇形光ビーム平面5,26を生成するように、ハウジングユニット/
筐体14内に取り付けられると有益である。動作において、光源11から放射された光は
、レンズ10に進み、その光は、より平行化され、次に円筒形レンズ21内を進んで扇形
光ビーム平面5,26を生成する。図18では、図17の代替の例示的構成が示されるが
、軸は、平面ミラー23を使用することにより傾けられる。図19では、図17と類似の
例示的構成が示されるが、軸は、90°偏向されており、即ち、45°角度で配置された
平面ミラー23を使用することにより直角方向に偏向される。
図20では、より理想的な空間的特徴を有するより広い扇形光ビーム平面5,26を生
成するように図17、図18及び図19による実施形態を配置することにより得られた例
示的構成が示される。図20の例示的構成では、左側、中央及び右側照明具2があり、中
央照明具2は、軸が光平面5,26に対して対称になるように配置されたレンズ21を有
し、左側及び右側照明具2はそれぞれ、例えば中央照明具2のレンズ21に対して20°
〜80°の範囲の実行角度のレンズ21を有する。
図21では、完全相互作用面16をカバーするより幅広い扇形光ビーム光平面5,26
を生成するように配置された図17、図18及び図19の実施形態を含む例示的構成が示
される。照明具2の筐体14は、図20に示されたものより長くなるように実現され、図
21の照明具2からの光線の視野は、図示されたように操作が重なるように構成される。
筐体が長くなるので、光源11の拡大率が小さくなり、照明の層が薄くなる。図21で筐
体を長くする代わりに、筐体14は、光源11の拡大率を大きくし、それにより照明の層
を厚くするために、図22に示されたように短くされる。
図23では、図17、図18及び図19と実質的に類似した実施形態が配置されて、完
全相互作用面16を照らす扇形光ビーム5及び26を生成する例示的構成が示される。図
23の例示的構成は、右側、中央及び左側照明具2を有し、それぞれの照明具の筐体14
は、その中心軸が、図示されたように相互に平行に配置される。例えば、図23の照明具
2は、使用中に筐体14の中心軸が垂直の向きになるように取り付けられると有益である
図24では、相互作用面16の一部分を角からカバーする扇形光ビーム平面5,26を
生成するために、凹状円筒形ミラーを使用して照明具2を実現する例示的構成が示される
図25では、前述の照明具2に基づく照明具2の例示的構成が示されるが、この構成は
、凹状円筒形ミラーを使用して、相互作用面16の上側角から相互作用面16をカバーす
る扇形光ビーム平面5,26を生成する。更に、図26では、照明光源11が、図16〜
図25に基づく円筒形レンズと円筒形ミラーのように構成された方式の例示的構成が示さ
れる。
前述の本発明の実施形態の修正は、添付の特許請求の範囲によって定義されたような本
発明の範囲を逸脱することなく可能である。「含む(including)」、「含む(comprisin
g)」、「内蔵する(incorporating)」、「から成る(consisting of)」、「有する(h
ave)」、「である(is)」などの表現は、本発明を説明し請求するために使用され、非
排他的に解釈されるものであり、即ち、明示的に記述されていない項目、構成要素又は要
素が存在することができる。また、単数の言及は、複数と関連すると解釈される。添付の
特許請求の範囲の括弧内に含まれる数字は、特許請求の範囲の理解を支援するものであり
、これらの請求項によって請求される内容を如何なる形でも限定するように解釈されるべ
きない。
1 カメラ機構
2 光源機構
5,26 平面扇形光ビーム
16 相互作用領域
25 対象物

Claims (22)

  1. 相互作用面(16)の前にある少なくとも1つの対象物(25)の位置及び/又は姿勢を決定するカメラ式マルチタッチ相互作用システムにおいて、
    可視光及び/又は近赤外線光の複数の平面扇形光ビーム(5,26)を生成する光源機構(2)と、
    カメラ機構(1)の視野内の前記相互作用面(16)を検出して対応する信号を生成するカメラ機構(1)と、
    前記カメラ機構(1)から提供された前記信号に基づいて前記複数の平面扇形光ビーム(5,26)を遮る前記少なくとも1つの対象物(25)の前記位置及び/又は姿勢を計算する計算装置とを含むシステムであって、
    前記複数の平面扇形光ビーム(5,26)が、前記相互作用面(16)と実質的に平行になるように構成され、
    前記複数の平面扇形光ビーム(5,26)が、前記相互作用面(16)に実質的に垂直な方向に合焦されて、前記方向に実質的に一定の厚さを有し、
    前記光源機構(2)は、前記複数の平面扇形光ビームの強度が選択的に変調されるように動作可能である、システム。
  2. 前記複数の平面扇形光ビーム(5)が、前記相互作用面(16)を照らすように構成された、請求項1に記載のシステム。
  3. 前記システムが、前記相互作用面(16)に対する前記少なくとも1つの対象物(25)のホバリング位置を検出するように動作可能である、請求項1又は2に記載のシステム。
  4. 前記複数の平面扇形光ビーム(5,26)が、前記相互作用面(16)の近くの対応する空間領域を照らすように配置され、その結果、前記平面扇形光ビーム(5,26)の前記対応する空間領域が、前記相互作用面(16)の近くに完全領域の連続照明を提供する、請求項1、2又は3に記載のシステム。
  5. 前記複数の平面扇形光ビーム(5,26)が、前記相互作用面(16)自体ではなく前記相互作用面(16)の近くの体積を照らすことができるように構成された、請求項1に記載のシステム。
  6. 前記光源機構(2)は、前記複数の平面扇形光ビームが選択的にオンオフされるように動作可能である、請求項1〜5のいずれか一項に記載のシステム。
  7. 前記光源機構(2)が、前記少なくとも1つの対象物(25)の動きを有効にとどめるために前記カメラ機構(1)の有効検出期間内でフラッシュモードで動作可能である、請求項1〜6のいずれか一項に記載のシステム。
  8. 前記カメラ機構(1)が、前記カメラ機構(1)のセンサが受け取る放射を、前記放射の波長に基づいて選択的に阻止又は通過させる1つ又は複数の光学フィルタを含む、請求項1〜7のいずれか一項に記載のシステム。
  9. 前記1つ又は複数の光学フィルタが、前記光源機構(2)から放射され前記少なくとも1つの対象物(25)によって遮られた光と同じ波長範囲を有する光を、前記カメラ機構(1)に通過させるように動作可能である、請求項8に記載のシステム。
  10. 前記1つ又は複数の光学フィルタが、前記相互作用面(16)にあるプロジェクタ又はフラットスクリーンからの画像を取得するために可視光だけを通過させるように動作可能である、請求項8に記載のシステム。
  11. 前記光源機構(2)が、近赤外線波長の放射を含む複数の平面扇形光ビーム(5,26)を生成する複数の光源(11)を含み、前記カメラ機構(1)が、1つ又は複数の光学フィルタを含み、前記光学フィルタが、可視光波長を阻止し、近赤外線波長を透過させる、請求項1〜10のいずれか一項に記載のシステム。
  12. 前記システムが、新しい機器に一体化されるか、既存の機器に改造され、前記機器を対話型にするように適応された、請求項1〜11のいずれか一項に記載のシステム。
  13. 前記システムが、前面又は後面投射装置として実現された。請求項12に記載のシステム。
  14. 前記システムが、プロジェクタの壁取付け部又はスクリーン取付け部に動作可能に取り付けられるか一体化されるように適応された、請求項1〜12のいずれか一項に記載のシステム。
  15. 前記光源機構(2)が、近赤外線を放射するように動作可能な1つ又は複数の発光レーザダイオードを含む、請求項1〜14のいずれか一項に記載のシステム。
  16. 前記カメラ機構(1)が、CCD又はCMOS画素センサを使用して実現され、前記光源機構(2)が、近赤外線LEDと、近赤外線を透過しかつ/又は反射するように適応された光学部品とを使用して実現された、請求項1〜15のいずれか一項に記載のシステム。
  17. 前記光源機構(2)が、
    透過された放射を合焦する凸レンズ(10)と、
    複数の光源(11)であって、前記凸レンズ(10)の中心軸に中心を有する円の周囲の一部分に沿って実質的に広げて配置された光源と、
    前記光源からの照明を前記凸レンズ(10)の直径の約半分に制限するように構成された遮光板(19)と、
    前記光源からの光線の対称軸を前記相互作用面(16)に実質的に平行になるように変化させる円錐形ミラー(9)とを含む、請求項1〜16のいずれか一項に記載のシステム。
  18. 前記円錐形ミラー(9)が、前記平面扇形光ビーム(5,26)の光学対称軸を前記相互作用面(16)の方に傾けるように適応された反射面角度を有する、請求項17に記載のシステム。
  19. 前記遮光板(19)が、前記光源機構(2)の各光源(11)からの知覚光源サイズ(27)を有する光線が前記凸レンズ(10)の反対側部分を照らすのを阻止し、それにより光線が前記レンズ(10)と前記円錐形ミラー(9)の共通光学軸(28)と交差しないようにするように構成された、請求項17又は18に記載のシステム。
  20. 前記円錐形ミラーは、その反射面角度が、前記凸レンズ(10)の中心軸に合っていない前記複数の平面扇形光ビーム(5,26)を生成するために使用される光源(11)の軸を補償するように適応された、請求項17〜19のいずれか一項に記載のシステム。
  21. 前記複数の平面扇形光ビーム(5,26)が、前記相互作用面全体に対応する領域を照らすために前記相互作用面(16)から十分離れて配置された前縁と、実質的に前記相互作用面(16)の境界になる後縁とを有する、請求項1〜20のいずれか一項に記載のシステム。
  22. カメラ式マルチタッチ相互作用システムを使用して、相互作用面(16)の前にある少なくとも1つの対象物(25)の位置及び/又は姿勢を決定する方法において、
    可視光及び/又は近赤外線光の複数の平面扇形光ビーム(5,26)を生成する光源機構(2)と、
    カメラ機構(1)の視野内の前記相互作用面(16)を検出して、対応する信号を生成するカメラ機構(1)と、
    前記カメラ機構(1)から提供された前記信号に基づいて前記複数の平面扇形光ビーム(5,26)を遮る前記少なくとも1つの対象物(25)の前記位置及び/又は姿勢を計算する計算装置とを含む方法であって、
    前記複数の平面扇形光ビーム(5,26)を、前記相互作用面(16)と実質的に平行になるように形成する工程と、
    前記複数の平面扇形光ビーム(5,26)を、前記相互作用面(16)に実質的に垂直な方向に合焦させ、それにより、前記複数の平面扇形光ビーム(5,26)を、前記方向に実質的に一定の厚さにする工程と、
    前記光源機構(2)を、前記複数の平面扇形光ビームの強度が選択的に変調されるように動作させる工程とを含む方法。
JP2013539793A 2010-11-22 2011-11-22 カメラ式マルチタッチ相互作用システム及び方法 Expired - Fee Related JP6078884B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US41611610P 2010-11-22 2010-11-22
GB1021212.4A GB2487043B (en) 2010-12-14 2010-12-14 Camera-based multi-touch interaction and illumination system and method
PCT/NO2011/000329 WO2012070950A1 (en) 2010-11-22 2011-11-22 Camera-based multi-touch interaction and illumination system and method

Publications (2)

Publication Number Publication Date
JP2014517362A JP2014517362A (ja) 2014-07-17
JP6078884B2 true JP6078884B2 (ja) 2017-02-15

Family

ID=43567187

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013539793A Expired - Fee Related JP6078884B2 (ja) 2010-11-22 2011-11-22 カメラ式マルチタッチ相互作用システム及び方法

Country Status (10)

Country Link
US (1) US9996197B2 (ja)
JP (1) JP6078884B2 (ja)
KR (1) KR101831350B1 (ja)
CN (1) CN103329079B (ja)
BR (1) BR112013015280A2 (ja)
DE (1) DE112011103849T5 (ja)
GB (1) GB2487043B (ja)
NO (1) NO20130843A1 (ja)
RU (1) RU2579952C2 (ja)
WO (1) WO2012070950A1 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9041689B1 (en) * 2012-08-02 2015-05-26 Amazon Technologies, Inc. Estimating fingertip position using image analysis
US10234941B2 (en) 2012-10-04 2019-03-19 Microsoft Technology Licensing, Llc Wearable sensor for tracking articulated body-parts
JP6127465B2 (ja) * 2012-11-20 2017-05-17 株式会社リコー 情報処理装置、情報処理システム及びプログラム
WO2014169225A1 (en) * 2013-04-12 2014-10-16 Iconics, Inc. Virtual touch screen
US20140368442A1 (en) * 2013-06-13 2014-12-18 Nokia Corporation Apparatus and associated methods for touch user input
CN103324292B (zh) * 2013-07-12 2016-01-13 荣滋东 一种凸透镜主光轴指向目标实时定位的方法及装置
JP2015060296A (ja) * 2013-09-17 2015-03-30 船井電機株式会社 空間座標特定装置
WO2015047401A1 (en) 2013-09-30 2015-04-02 Hewlett-Packard Development Company, L.P. Projection system manager
US10025430B2 (en) * 2013-10-08 2018-07-17 Maxell, Ltd. Projection type image display device, manipulation detection device and projection type image display method
CN103729096A (zh) * 2013-12-25 2014-04-16 京东方科技集团股份有限公司 交互识别系统以及显示装置
JP6222830B2 (ja) * 2013-12-27 2017-11-01 マクセルホールディングス株式会社 画像投射装置
GB2522248A (en) * 2014-01-20 2015-07-22 Promethean Ltd Interactive system
JP6387644B2 (ja) * 2014-01-21 2018-09-12 セイコーエプソン株式会社 位置検出装置、位置検出システム、及び、位置検出方法
TWI509487B (zh) 2014-04-25 2015-11-21 Coretronic Corp 互動觸控系統及光源裝置
KR101646562B1 (ko) * 2015-03-09 2016-08-08 주식회사 알엔디플러스 터치스크린 장치 및 그 제어방법 그리고 디스플레이 장치
KR102233090B1 (ko) * 2015-05-19 2021-03-26 에스케이텔레콤 주식회사 터치입력인식장치 및 터치입력인식장치의 동작 방법
JP6544073B2 (ja) * 2015-06-22 2019-07-17 セイコーエプソン株式会社 画像表示システムおよび画像表示方法
CN106325610B (zh) * 2015-06-30 2019-06-11 中强光电股份有限公司 触控显示系统、触控装置与触控显示方法
US10289239B2 (en) 2015-07-09 2019-05-14 Microsoft Technology Licensing, Llc Application programming interface for multi-touch input detection
JP6596501B2 (ja) 2015-10-07 2019-10-23 マクセル株式会社 映像表示装置およびこれに用いる操作検出方法
CN107085493A (zh) 2016-02-16 2017-08-22 中强光电股份有限公司 触控式投影系统及其触控灵敏度的调整方法
US20180059863A1 (en) * 2016-08-26 2018-03-01 Lenovo (Singapore) Pte. Ltd. Calibration of pen location to projected whiteboard
US9729127B1 (en) 2016-08-30 2017-08-08 International Business Machines Corporation Analog controlled signal attenuation
CN106371594A (zh) * 2016-08-31 2017-02-01 李姣昂 一种双目红外视觉便携式手势操控投影系统和方法
CN106371593B (zh) * 2016-08-31 2019-06-28 李姣昂 一种投影交互式书法练习系统及其实现方法
CN110235447B (zh) * 2017-01-19 2023-03-28 索尼互动娱乐股份有限公司 图像传送装置
CN107390955B (zh) * 2017-07-19 2020-07-28 广东美的制冷设备有限公司 家用电器及其控制系统和方法及红外激光多点触控装置
PL422791A1 (pl) * 2017-09-08 2019-03-11 Sle Spółka Z Ograniczoną Odpowiedzialnością Urządzenie do wyświetlania multimediów
US20190361569A1 (en) * 2018-03-28 2019-11-28 Ubi interactive inc. Interactive screen devices, systems, and methods
CN109271066A (zh) * 2018-08-30 2019-01-25 苏州腾邦科技有限公司 可同时书写和录播的电子白板
KR102174464B1 (ko) * 2018-10-08 2020-11-05 주식회사 토비스 공간 터치 감지 장치 및 이를 포함하는 표시 장치
US20220360755A1 (en) * 2020-10-23 2022-11-10 Ji Shen Interactive display with integrated camera for capturing audio and visual information
US20230113359A1 (en) * 2020-10-23 2023-04-13 Pathway Innovations And Technologies, Inc. Full color spectrum blending and digital color filtering for transparent display screens
KR102571965B1 (ko) * 2020-12-16 2023-08-30 주식회사 이미지마이닝 레이저 및 카메라를 이용한 인터렉티브 시스템 및 인터렉티브 영상 제공 방법
KR102615580B1 (ko) * 2023-02-06 2023-12-21 주식회사 에이치디엠 사용자의 움직임에 따라 캐릭터의 동작을 제어하는 캐릭터동작 제어장치 및 그 캐릭터동작 제어방법

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3673327A (en) * 1970-11-02 1972-06-27 Atomic Energy Commission Touch actuable data input panel assembly
US5297061A (en) * 1993-05-19 1994-03-22 University Of Maryland Three dimensional pointing device monitored by computer vision
US9513744B2 (en) * 1994-08-15 2016-12-06 Apple Inc. Control systems employing novel physical controls and touch screens
JP3876942B2 (ja) * 1997-06-13 2007-02-07 株式会社ワコム 光デジタイザ
WO1999040562A1 (en) 1998-02-09 1999-08-12 Joseph Lev Video camera computer touch screen system
JP2000105671A (ja) * 1998-05-11 2000-04-11 Ricoh Co Ltd 座標入力/検出装置および電子黒板システム
JP4033582B2 (ja) * 1998-06-09 2008-01-16 株式会社リコー 座標入力/検出装置および電子黒板システム
JP3670896B2 (ja) * 1999-08-06 2005-07-13 日立ソフトウエアエンジニアリング株式会社 電子ボードシステム
JP3640156B2 (ja) * 2000-02-22 2005-04-20 セイコーエプソン株式会社 指示位置検出システムおよび方法、プレゼンテーションシステム並びに情報記憶媒体
ATE453147T1 (de) * 2000-07-05 2010-01-15 Smart Technologies Ulc Verfahren für ein kamerabasiertes berührungssystem
WO2002021502A1 (en) 2000-09-07 2002-03-14 Canesta, Inc. Quasi-three-dimensional method and apparatus to detect and localize interaction of user-object and virtual transfer device
NO20004514A (no) 2000-09-11 2002-01-14 Njoelstad Tormod Tegne-, skrive- og peke-redskap for datamaskinbaserte presentasjoner og kontorarbeid
JP2004523031A (ja) * 2001-01-08 2004-07-29 ヴィーケービー インコーポレイテッド データ入力装置
JP3535476B2 (ja) 2001-05-09 2004-06-07 住友ゴム工業株式会社 球体の三次元姿勢測定方法および該方法を用いた球体の回転量と回転軸方向の測定方法
US7259747B2 (en) * 2001-06-05 2007-08-21 Reactrix Systems, Inc. Interactive video display system
US8456447B2 (en) * 2003-02-14 2013-06-04 Next Holdings Limited Touch screen signal processing
CN100468303C (zh) * 2003-02-14 2009-03-11 奈克斯特控股公司 触摸屏及光学探测物体相对于触摸屏是否存在的方法
NO320062B1 (no) 2003-11-19 2005-10-17 New Interaction Devices And Te Anordning til a detektere naerhet mellom et forste objekt (malobjekt) og et annet objekt (referanseobjekt), samt tegne-, skrive- og/eller pekeredskap for datapresentasjon etc.
US7961909B2 (en) * 2006-03-08 2011-06-14 Electronic Scripting Products, Inc. Computer interface employing a manipulated object with absolute pose detection component and a display
NO323926B1 (no) * 2004-11-12 2007-07-23 New Index As Visuelt system samt styringsobjekt og apparat til bruk i systemet.
US7599561B2 (en) 2006-02-28 2009-10-06 Microsoft Corporation Compact interactive tabletop with projection-vision
EP2011433A1 (en) 2007-07-05 2009-01-07 INTERUNIVERSITAIR MICROELEKTRONICA CENTRUM vzw (IMEC) An autonomous wireless system for evoked potential measurements
RU2362216C1 (ru) * 2008-05-12 2009-07-20 Михаил Герцевич Литманович Устройство для трехмерной манипуляции
CN201331752Y (zh) 2009-01-19 2009-10-21 杭州电子科技大学 一种多点触摸式人机交互装置
KR20090038413A (ko) * 2009-03-31 2009-04-20 동서대학교산학협력단 멀티 터치 기반 대형 인터랙티브 디스플레이 시스템 및 그 방법
US20100277576A1 (en) * 2009-04-29 2010-11-04 David Fattal Systems for Capturing Images Through a Display
JP2011043986A (ja) 2009-08-21 2011-03-03 Seiko Epson Corp 光学式情報入力装置、光学式入力機能付き電子機器、および光学式情報入力方法
US20110248958A1 (en) * 2010-04-08 2011-10-13 Qualcomm Mems Technologies, Inc. Holographic based optical touchscreen

Also Published As

Publication number Publication date
DE112011103849T5 (de) 2013-10-02
US9996197B2 (en) 2018-06-12
JP2014517362A (ja) 2014-07-17
WO2012070950A1 (en) 2012-05-31
CN103329079B (zh) 2016-08-24
RU2579952C2 (ru) 2016-04-10
US20130135260A1 (en) 2013-05-30
BR112013015280A2 (pt) 2017-09-26
NO20130843A1 (no) 2013-08-22
GB201021212D0 (en) 2011-01-26
GB2487043A (en) 2012-07-11
CN103329079A (zh) 2013-09-25
KR20140003448A (ko) 2014-01-09
GB2487043B (en) 2013-08-14
KR101831350B1 (ko) 2018-02-22
RU2013128536A (ru) 2014-12-27

Similar Documents

Publication Publication Date Title
JP6078884B2 (ja) カメラ式マルチタッチ相互作用システム及び方法
JP5950130B2 (ja) カメラ式マルチタッチ相互作用装置、システム及び方法
US6554434B2 (en) Interactive projection system
US8730183B2 (en) Large scale multi-user, multi-touch system
KR101825779B1 (ko) 프로젝션 캡처 시스템 및 방법
US9521276B2 (en) Portable projection capture device
US20110055729A1 (en) User Interface for a Large Scale Multi-User, Multi-Touch System
US20110050640A1 (en) Calibration for a Large Scale Multi-User, Multi-Touch System
WO2012124730A1 (ja) 検出装置、入力装置、プロジェクタ、及び電子機器
US20110055703A1 (en) Spatial Apportioning of Audio in a Large Scale Multi-User, Multi-Touch System
JP3201426U (ja) 入力装置のバーチャル2次元測位モジュール及びバーチャル入力デバイス
KR20060127861A (ko) 자체로서 완비된 상호작용 비디오 디스플레이 시스템
WO2011029067A2 (en) Large scale multi-user, multi-touch system
Maierhöfer et al. TipTrack: Precise, Low-Latency, Robust Optical Pen Tracking on Arbitrary Surfaces Using an IR-Emitting Pen Tip
CN103853387B (zh) 一种显示装置、系统及坐标定位方法
Ahn et al. Implementation of interactive home control system
NO20130840A1 (no) Kamerabasert, multitouch interaksjons- og belysningssystem samt fremgangsmåte

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141120

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160817

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161227

R150 Certificate of patent or registration of utility model

Ref document number: 6078884

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees