JP6304842B2 - ビジュアルシステム及びその制御方法 - Google Patents

ビジュアルシステム及びその制御方法 Download PDF

Info

Publication number
JP6304842B2
JP6304842B2 JP2016225727A JP2016225727A JP6304842B2 JP 6304842 B2 JP6304842 B2 JP 6304842B2 JP 2016225727 A JP2016225727 A JP 2016225727A JP 2016225727 A JP2016225727 A JP 2016225727A JP 6304842 B2 JP6304842 B2 JP 6304842B2
Authority
JP
Japan
Prior art keywords
unit
synchronization
light source
phase
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016225727A
Other languages
English (en)
Other versions
JP2017084373A (ja
Inventor
ニュルスタッド、トルモド
ダムハウ、ウイスティン
ネス,ハルヴァート
ポラック,カロル,マルチン
ダーレ モエン,スヴェラ
ダーレ モエン,スヴェラ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Epson Norway Research and Development AS
Original Assignee
Epson Norway Research and Development AS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Epson Norway Research and Development AS filed Critical Epson Norway Research and Development AS
Publication of JP2017084373A publication Critical patent/JP2017084373A/ja
Application granted granted Critical
Publication of JP6304842B2 publication Critical patent/JP6304842B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03542Light pens for emitting or receiving light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0386Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry for light pen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は概して、ビジュアルシステムおよび特にインタラクティブデータプロジェクタ
の同期のためのシステムおよび方法であって、同期は、ペン、カメラおよびタッチ入力デ
バイス内に組み込まれるべき識別および追跡のためのシステムおよび方法をさらに含み、
それにより、こうしたビジュアルシステムが一般的なリモートコントローラまたは受信器
に干渉しない、またはそれを乱さないようにし、さらに、前述の2つ以上のこうしたビジ
ュアルシステムが互いに同期され、協働することができるようにする、システムおよび方
法に関する。
インタラクティブデータプロジェクタは、物理的なインタラクティブホワイトボードお
よびインタラクティブフラットスクリーン内に含まれるもののようなインタラクティブ面
を作り出すが、座標データおよびさらにユーザ作動情報(タッチする、タッチしない、先
端が押される、先端が放される)は、表面自身の内部に組み込まれる電磁的、光学的また
は音響的方法を用いる代わりに、プロジェクタにおいて設置されるカメラ技術を用いるこ
とによって、画像から抽出される。プロジェクタに適したカメラベースのインタラクティ
ブ技術の例が、例えば、本発明者および出願人によって、カメラおよび画像認識システム
が追跡することができる光学的パターンを有するペンを用いる国際公開第2001NO0
0369号/米国特許第7083100B2号および/または国際公開第2006135
241A1号/米国特許出願公開第2009040195A1号によって開示されている
。他のシステムは以下のものがある:日本特許第3257585号:(株式会社ビジュア
ルサイエンス研究所、出願日:1996年3月29日、特願平08−075950号)。
同特許は、IR放出体、および反射器を有する位置指示デバイスを有するカメラであって
、カメラはIRを検出し、位置指示デバイスの位置を見つけ出す、カメラを開示している
。しかし、カメラと位置指示デバイスとの間の同期は何も開示されていない。日本特許第
4728540号:(株式会社リコー、出願日2001年9月20日、特願2001−2
87901号)は、反射器上に何らかのパターンを有する位置指示デバイス、および位置
指示デバイスの符号パターンを有する光を検出し、制御情報を見つけ出すカメラを開示し
ている。日本特許第4037822号(NECディスプレイソリューションズ株式会社、
出願日:2003年12月5日、特願2003−407884号)は、カメラからの光信
号を受信する位置指示デバイス、およびカメラからの放出信号に応答して光を放出する位
置指示デバイスを開示している。米国特許第6529189号(IBM、出願日2000
年2月8日、米国特許出願第09/500194号)は、IR構成要素を有し、制御情報
を含む光を放出する位置指示デバイス、およびその光を受信するカメラを開示している。
本発明の一態様は、プロジェクタもしくはディスプレイのようなユニットと、カメラと
、関連する特に光入力デバイスとを含む、ビジュアルおよびインタラクティブビジュアル
システムのための、いくつかのこうしたユニットの同期のためのシステムおよび方法であ
って、同期において、プロジェクタもしくはディスプレイまたは着用式ディスプレイグラ
スによる画像およびビデオに関するそれらの出力内容、カメラによってキャプチャされる
画像およびビデオに関するそれらの入力内容、可視光および/または赤外光に関するそれ
らの照射機能、ならびにペン、位置指示棒、指等のような入力インタラクションツールの
位置追跡および入力制御機能に関するそれらのユーザインタラクション機能は全て、同じ
同期制御バーストによって制御され、それにより、インタラクティブ出力イベントを適時
に同時に開始することができる、およびインタラクティブ入力イベントを首尾一貫して解
釈することができるなど、ユニットは協働するようになることができる、システムおよび
方法を提供することである。
本発明のさらなる態様は、同期システムの干渉および外乱は取るに足らなくなることで
ある。すなわち、同期バーストはまれにしか生じないため、それらは、AV機器内に通常
含まれるリモートコントローラ受信器およびリモート制御送信器を著しく乱すことも、そ
れらによって著しく乱されることもなくなることである。
カメラ技術は単純であるが、正確であり、非常に高速であり、かつ信頼性が高く、さら
に、データプロジェクタまたはディスプレイ内への統合が容易である。カメラ技術は解像
度、感度、サイズおよび性能の面で急速に進化している。市販の画像センサは、例えばプ
ログラム可能なレート、解像度、サイズ、利得および露出時間を用いて静止画像およびビ
デオ画像をキャプチャすることができる。
本発明のさらなる説明において、カメラは、画像のキャプチャに適した画像センサおよ
びレンズを含み、キャプチャされた画像をコンピュータへの入力として転送するための通
信手段を含むものとして理解されるべきである。さらに、カメラは、特別な特徴を有する
特定のディテールを検出し、これらを追うために特徴抽出、オブジェクト認識およびオブ
ジェクト追跡を遂行し、さらに、それらをいくつかの特定のインタラクションオブジェク
トのデータモデルと比較して突き合わせ、インタラクションオブジェクトの位置および配
向を判定するべくその結果をインタラクション面またはインタラクション空間座標内に位
置付けることによって、これらのディテールを解釈する画像処理手段を含んでもよい。さ
らに、カメラは、インタラクションオブジェクト識別、ならびに先端スイッチが押されて
いる、先端スイッチが放されている、ボタンが押されている、ボタンが放されている、指
が触れているまたは指が触れていない等のようなユーザインタラクション動作を抽出する
ための、一連のキャプチャされた画像内の特定のディテールの強度レベルの解釈を含んで
もよい。さらに、カメラは、検出されたインタラクションオブジェクトの識別、位置、配
向、およびユーザインタラクション動作をコンピュータへの入力として転送する通信手段
を含んでもよい。
本発明の諸態様は、近赤外線光(near infrared light、NIR)
を照射、追跡および識別に利用するカメラベースのインタラクティブプロジェクタに関し
、赤外線送信または無線周波数送信を用いることによってペンおよびプロジェクタをどの
ように効果的に同期させるのかをさらに開示する。本発明の方法の諸態様は、ペン、およ
びインタラクティブプロジェクタのカメラユニットが、ペンにおける電力消費を低減し、
電池寿命を延ばすためにどのように同期され、さらに、動きを凍結させ、信号/雑音比を
増大させるために同期されるのか、ならびにさらに、室内のいくつかのインタラクティブ
プロジェクタに属する多数のペンおよびカメラユニットが、いくつかのプロジェクタとペ
ンとの間の相互運用性をさらに提供するためにどのように同期され、他の目的のために存
在するリモートコントローラとの容認できない干渉を生じさせないようにするのかを含む
。さらに、同じ同期の原理は任意追加的に、この同期に必要な通信トラフィックの低さの
おかげで、数マイクロ秒の精度の範囲内で、他の同じ室内のリモートコントローラの機能
を乱すことなく−いくつかのプロジェクタの投影画像を同期させるため、いくつかのフラ
ットパネルディスプレイの画像を同期させるため、マルチメディアグラスの表示パネルを
同期させるため、3Dゴーグルのアクティブ3Dシャッターを同期させるため、および室
内のいくつかのカメラの露出を同期させるために、用いることができる。同期原理は、消
費者用およびプロ用の電子機器におけるリモート制御機能における低コストの構成要素で
ある、標準的な近赤外線受信器および送信器を利用することができる。同期は任意選択的
に、消費者用およびプロ用の電子機器におけるリモート制御機能における低コストの構成
要素である、標準的な低コストの無線周波数受信器および送信器を利用することができる
本発明のさらなる態様は、可視光および/または近赤外線発光体にとって最も効果的な
電力バジェット、ならびにペンおよびその他の能動的インタラクションデバイス内の近赤
外線発光ダイオード(infrared emitting diode、IRED)に
とって最も効果的な電力バジェットを提供することである。効果的な電力バジェットを確
実にすることは、照射光源およびIRED構成要素の加熱を抑え、寿命を延ばすため、電
力制御回路および電源のコストおよびサイズを低減するため、および電池で動作する機器
における電力消費を最小限に抑え、電池寿命を最大限延ばすために、重要である。
本発明のさらなる態様は、カメラのグローバルシャッターへの発光体の点滅の正確な同
期、およびカメラのグローバルシャッターへのペンおよびその他の能動的インタラクショ
ンデバイス内のIREDの点滅の正確な同期によって、カメラユニットによってキャプチ
ャされる画像およびビデオの最良の信号対雑音比を提供することである。
本発明のさらなる態様は、シーン内におけるオブジェクトの速い動きによる不鮮明化が
、上述のカメラのグローバルシャッターに緊密に同期された点滅によって効果的に低減さ
れることになることである。
同様に、本発明の一態様は、データプロジェクタまたはフラットパネルディスプレイを
3Dシャッターグラスに同期させること、あるいは任意選択的に、2つ以上のプロジェク
タまたはディスプレイを3Dシャッターグラスに同期させることによって、より大きく、
かつ/またはより広い3Dディスプレイを提供することである。2012年2月9日に公
開された、セイコーエプソン株式会社、日本の堀口宏貞(Hirosada HORIG
UCHI)による米国特許出願公開第2012033057(A1)号:「電子光学デバ
イスおよび立体視ディスプレイ装置(ELECTRO−OPTIC DEVICE AN
D STEREOSCOPIC VISION DISPLAY APPARATUS)
」には、プロジェクタと共に用いられるアクティブ3Dシャッターグラスの例が記載され
ている。ソニー株式会社、日本による国際公開第2012/005968(A1)号は、
RF信号およびIR信号の組み合わせに基づくシャッターグラスリピータシステムの一例
を記載しているが、それは、範囲を広げ、彼らが提案する同期方式を実装するために異な
る種類の変換およびリピータ機能を行うように適合されたテレビリモートコントローラユ
ニットを用いることに依存する。本発明において提案されているリッスン・アンド・リピ
ート方式は、信号要件を単純にし、リモートコントローラユニットが同期機能を実装する
必要性を取り除くことになる。革新的なリッスン・アンド・リピート原理の1つの利点は
、ユニットの同期用の短いバーストがユニット自身によって部屋中に伝播されることを含
む。
本発明のさらなる態様は、着用式半透明ディスプレイグラス(マルチメディアグラス)
を他の上述のユニットのうちの1つ以上と同期させ、ペンまたは「フィンガータッチ」の
サポートとしての同期されたインタラクティブな機能性を有する着用式ディスプレイのよ
うな新しいインタラクティブ機能を提供することである。
本発明のさらなる態様は、着用式半透明ディスプレイグラスまたは3Dシャッターグラ
スを他の上述のユニットのうちの1つ以上と同期させ、同期された半透明ディスプレイグ
ラスおよびその関連出力内容を通して見たとき、あるいは同期された3Dシャッターグラ
スを通して見たとき、ならびに任意選択的に、着用式の同期されたカメラ、同期された照
射および/または同期されたインタラクションオブジェクトによって制御されたとき、ユ
ーザが知覚しているシーンは、プロジェクタおよび/またはディスプレイの同期された出
力内容となるような、3Dまたは拡張現実感機能を提供することである。
本発明の第1の態様によれば、1つ以上のユニットを含むビジュアルシステムであって
、ユニットはデータプロジェクタもしくはディスプレイであるか、またはビデオカメラ、
あるいは両者の組み合わせであり、データプロジェクタおよびディスプレイは、コンピュ
ータからの画像およびグラフィック出力を画像出力レートで表示することができ、ビデオ
カメラはシーン内のオブジェクトの画像を画像入力レートでキャプチャすることができ、
上述のユニットは受信器を有する、ビジュアルシステムが提供される。ユニットは、送信
器であって、この送信器は、ビジュアルシステム内の全てのユニットを互いに同期させる
ために、一連の低頻度の短い繰り返しバーストを送信することを、このようなバーストが
受信器によって所与の時間以内に受信されない場合には、開始し、さもなければ、送信器
によって低頻度の短い繰り返しバーストに同期された、遅延された短いバーストを送信し
、その間、低頻度の短い繰り返しバーストは他の目的のためのリモートコントローラの一
般的使用に干渉することもなく、それによって干渉されることもない、送信器を有する。
同期は低頻度の短い繰り返しバーストを用いて確立されるという点において、本システ
ムは有利である。バーストは低頻度のものである。すなわち低い繰り返し率を有するので
、システムは、無線リモートコントローラユニットおよび無線リモート制御受信器がほと
んど常に動作することを許し、それゆえ、それらは同期システムによって著しく干渉され
ることはない。さらに、他のリモート制御送信器の信号は長さおよび繰り返し率ならびに
任意選択的に符号化が同期バーストとは異なっている限り、同期システム自身は他のリモ
ート制御送信器によって著しく影響を受けることはないという点において、本システムは
有利である。
提案されている同期システムおよび方法は、NIR/IR受信器および送信器あるいは
RF受信器および送信器を用いる無線式の実装に適用することができるが、同じ同期原理
は、例えば、電線の対によるかまたは光ファイバによる有線式の解決法にもなり得る。こ
の場合、信号は、例えば、単一の双方向信号を作るためにオープンドレイン出力および入
力に接続された、プルアップされた単一の線を用い、変調されたバーストとなるかまたは
変調を用いないデジタルとなり得る。本発明の構成によっては、例えば、インタラクティ
ブプロジェクタは講義台または演壇にあり、その一方、講義をキャプチャするための数台
のビデオカメラは部屋の後端部内にあり、そのため、無線送信のみによって同期を行うに
は無線送信の品質があまりにも悪くなり得る大きな講義室内では、無線式および有線式を
組み合わせた同期が好ましい場合がある。同様に、本発明に係る、各々、1つ以上のユニ
ットからなる2つ以上のビジュアルまたはインタラクティブビジュアルシステムが、大き
な物理的距離によって分離されている場合には、それらは異なる同期を有してもよく、そ
れにより、システムは互いを乱す可能性があり、このとき、大きな物理的距離を越えてシ
ステムを同期させるために、無線式および有線式の組み合わせの同期が利用されてもよい
本発明の第2の態様によれば、1つ以上のユニットを含むビジュアルシステムを用いる
方法が提供される。ユニットはデータプロジェクタもしくはディスプレイであるか、また
はビデオカメラ、あるいは両者の組み合わせであり、データプロジェクタおよびディスプ
レイはコンピュータからの画像およびグラフィック出力を特定のレートで表示することが
できる。ビデオカメラはシーン内のオブジェクトの画像を特定のレートでキャプチャする
ことができ、上述のユニットは受信器を有する。ユニットは送信器を有する。本方法は、
ビジュアルシステム内の全てのユニットを互いに同期させるために、送信器による低頻度
の短い繰り返しバーストの送信を、このようなバーストが所与の時間内に受信器によって
受信されない場合には、開始し、さもなければ、受信器によって短い繰り返しバーストを
受信し、既定の時間の後、送信器によって同様のバーストを繰り返すことを含み、その間
、バーストは他の目的のためのリモートコントローラの一般的使用に干渉することもなく
、それによって干渉されることもない。
本発明の諸態様は、関係するユニットが互いに同期されるビジュアルシステムを提供す
る。
ユニットの同期は、プロジェクタ画像および/またはディスプレイ画像の出力の出力レ
ートおよび厳密なタイミングは内部同期信号に正確に合わせられ、内部同期信号は、推定
、すなわち上述の低頻度の短いバーストのシーケンス内の各バーストの開始時間の時系列
の平均化に基づくことを意味する。
対応して、ユニットの同期は、カメラによる画像のキャプチャ、関連する露出制御、な
らびに任意追加の点滅発光体の入力レートおよび厳密なタイミングは内部同期信号に正確
に合わせられて関連付けられ、内部同期信号は、推定、すなわち上述の低頻度の短いバー
ストのシーケンス内の各バーストの開始時間の時系列の平均化に基づくことを意味する。
対応して、ユニットの同期は、能動的インタラクションオブジェクト内に含まれる少な
くとも1つの近赤外線発光ダイオード(IRED)の点滅シーケンスのタイミングは、低
頻度の短いバーストのうちの少なくとも1つに合わせられることを意味し、それにより、
カメラ露出シャッターが作動するのと同時にシーケンス内の点滅イベントを作動させるこ
とができ、非常に良好なカメラの露出が提供され、シーン内の動くオブジェクトによる不
鮮明化が軽減され、インタラクションデバイス内の電力消費が低減される。インタラクシ
ョンデバイス内に含まれる正確なローカルの水晶ベースのタイマを用いることで、たとえ
新しいバーストが数秒間検出されなくても、点滅イベントのタイミングはカメラ露出シャ
ッターに正しく合わせることができる。
対応して、ユニットの同期は、着用式アクティブ3Dシャッターグラス内に含まれるシ
ャッターシーケンスのタイミングは、低頻度の短いバーストのうちの少なくとも1つに合
わせられることを意味し、それにより、左および右のシャッターは、同期されたプロジェ
クタまたはディスプレイ画像が提示される時期に関連する適切な瞬間にシャッター状態を
変化させる。3Dシャッターグラス内に含まれる正確なローカルの水晶ベースのタイマを
用いることで、たとえ新しいバーストが数秒間検出されなくても、シーケンスイベントの
タイミングは、同期されたプロジェクタまたはディスプレイユニットに正しく合わせるこ
とができる。
対応して、ユニットの同期は、着用式、および任意追加的に半透明の、ディスプレイグ
ラスのタイミングおよび更新レートは、低頻度の短いバーストのうちの少なくとも1つに
合わせることができることを意味し、それにより、出力画像は、例えば、同期されたプロ
ジェクタまたはディスプレイ画像が提示される時期に関連する適切な瞬間に更新される。
着用式ディスプレイグラス内に含まれる正確なローカルの水晶ベースのタイマを用いるこ
とで、たとえ新しいバーストが数秒間検出されなくても、画像更新のタイミングは、同期
されたユニットに正しく合わせることができる。
入力画像の更新レート、出力画像の更新レート、発光体の点滅レート、能動的インタラ
クションデバイスの点滅レート、3Dシャッターグラスのシャッターレート、および着用
式ディスプレイグラスの更新レートは任意選択的に異なってもよいが、いかなる場合でも
、同じ無線の低頻度の短いバーストから派生させることができる。
有利には、本発明の諸態様は、例えば、無線の低頻度の短いバーストはリッスン・アン
ド・リピート方式に従って各ユニットによって再送信され、それにより、無線の低頻度の
短いバーストは部屋の隅々に分配される等の利点を含む。
有利には、本発明の諸態様は、例えば、上述のリッスン・アンド・リピート方式は、バ
ースト繰り返し遅延のために単純なランダム化機能を利用すること、つまり、各ユニット
は、他のユニットのバーストをリッスンするべき時期、およびそれ自身の同期されるバー
ストを送信するべき時期をランダム化すること等の利点を含む。これらの有利な機構によ
って、ここにある全てのユニットが、同期されるバーストの伝播に寄与することができる
ため、システム内の専用マスタユニットの通常の必要性が取り除かれる。
本発明の諸態様が本明細書において添付の図面を参照しつつ単なる例として説明される
ビジュアルシステムは、2つの同期されるインタラクティブプロジェクタを含む、本発明の構成例の図である。 図2A〜2Dは、本発明のランダム化遅延同期原理を用いるリッスン・アンド・リピートの図である。 図2E〜2Hは、本発明のランダム化遅延同期原理を用いるリッスン・アンド・リピートの図である。 本発明のランダム化遅延同期原理を用いるリッスン・アンド・リピートの図であって、同期されるユニット(例えばカメラ、プロジェクタ、ディスプレイ)および同期される関連デバイス(例えばインタラクションオブジェクト、3Dシャッター)における受信器信号および内部信号も含む図である。 本発明のランダム化遅延同期原理を用いるリッスン・アンド・リピートのための同期回路図の一例の図であって、同期されるユニット(例えばカメラ)内の受信器信号および内部信号も含む図である。 本発明のランダム化遅延同期原理を用いるリッスン・アンド・リピートのための同期アルゴリズムであって、記号の時間および時間切れパラメータT1〜T11を用いてパラメータ化された同期アルゴリズムの一例の図である。 本発明の図5Aのようなランダム化遅延同期原理を用いるリッスン・アンド・リピートのための同期アルゴリズムの一例の図であって、構成例のためにあり得る数値を含む、記号の時間および時間切れパラメータT1〜T11、および状態遷移に対するそれらの関係をさらに説明する図である。 図4の同期回路図において用いられる通りの周波数を調整するためにパルス幅変調入力(pulse−width modulation、PWM)を用いる水晶ベースのクロックシンセサイザの一例の図である。 パルス幅変調入力(PWM)を用いる水晶ベースのクロックシンセサイザの例は、図4の同期回路図において用いられる通りの周波数(偏移はppmで与えられる)をどのように調整することができるのかを示す図であって、周波数偏移はPWM信号のデューティサイクルの関数として示されている、図である。 1つずつ同期される3つのプロジェクタPJ3、PJ2およびPJ1をオシロスコーププロットによって示す図であって、プロットにはPJ1のパルス幅変調入力(PWM)が含まれ、本例ではPJ1の現在のPWM値は、815/2048のデューティサイクルC1/C2に対応する39.82%になっている、図である。 重力機能がXVCOをその中心値に向かって少しシフトさせることになるおかげで、重力機能は、新しいユニットがオフに切り替えられ、再びオンに切り替えられるたびにXVCOがますますシフトされるのを回避することをどのように助けるのかを一連の実験によって示す図である。 スプリング機能がXVCOをその中心値に向かって少しシフトさせ、中心値から大きな偏移がある場合には、より大きなステップでそれをシフトさせることになるおかげで、スプリング機能は、新しいユニットがオフに切り替えられ、再びオンに切り替えられるたびにXVCOが一方向にますますシフトされるのを回避することをどのように助けるのかを一連の実験によって示す図である。 本発明のランダム化遅延同期原理を用いるリッスン・アンド・リピートの図であって、ユニットは、インタラクションオブジェクトに同期されるカメラである、図である。 カメラにおけるグローバルシャッター露出制御GSイベント、およびNIRパルスのシーケンスの時間がそろうように、2つの連続したバーストを用いてカメラユニットおよび能動的インタラクションオブジェクトをどのように同期させることができるのかを示す図である。 インタラクションオブジェクトの、その識別(ID1対ID2)および先端スイッチ状態(押されている対放されている)を信号で伝達するためのパルスシーケンスを示す図である。 能動型インタラクションオブジェクトの、その識別(ID1対ID2)および先端スイッチ状態(押されている対放されている)を信号で伝達するためのパルスシーケンスのための原理および光学要素を示す図である。 受動型インタラクションオブジェクト内の再帰反射性光学的ディテールを利用するための原理および光学要素を示す図である。 半受動型インタラクションオブジェクトであって、その識別(ID1対ID2)および先端スイッチ状態(押されている対放されている)の能動的信号伝達のため、および追跡のためのパルスシーケンス、ならびに追跡および識別のため、および任意選択的に先端スイッチ状態等の検出のための反射性および/または再帰反射性光学的ディテールを含む、半受動型インタラクションオブジェクトのための原理および光学要素を示す図である。 カメラにおけるグローバルシャッター露出制御GSイベント、およびNIRパルスのシーケンスの時間がそろうように、2つの連続したバーストを用いてカメラユニットおよび能動的インタラクションオブジェクトをどのように同期させることができるのか、ならびに反射性および/または再帰反射性ディテールの照射は無変調パルスによってどのように遂行することができるのかを示す図である。 ビジュアルシステムは、2つの同期されるインタラクティブプロジェクタおよび3Dシャッターグラスの対を含む、本発明の構成例の図である。 ビジュアルシステムは、2つの同期されるインタラクティブプロジェクタおよび同期されるビデオカメラを含む、本発明の構成例の図である。 ビジュアルシステムは、インタラクションオブジェクトをキャプチャし、これらを追跡する2つの同期されるカメラを含み、インタラクション面はフラットパネルディスプレイである、本発明の構成例の図である。 ビジュアルシステムは、インタラクション面に向けられ、インタラクション面上のインタラクションオブジェクトの位置および状態をキャプチャし、これらを追跡する2つの同期されるカメラを含む、本発明の構成例の図である。 ビジュアルシステムは、2つの同期されるカメラおよび2つの同期されるフラットパネルディスプレイを含み、カメラは、インタラクション面および同期されるフラットパネルディスプレイに向けられ、フラットパネルディスプレイであるインタラクション面上のインタラクションオブジェクトの位置および状態をキャプチャし、これらを追跡する、本発明の構成例の図である。 ビジュアルシステムは、インタラクティブプロジェクタである1つのユニットと、仮想インタラクションフレームを有するインタラクティブな半透明の同期されるビデオグラスの対である1つのユニットとを含む、本発明の構成例の図である。 ビジュアルシステムは、1つの同期されるインタラクティブプロジェクタと、標準的なプロジェクタのそばに並置される1つの同期されるインタラクティブなカメラベースのユニットとを含む、本発明の構成例の図である。
本発明の諸態様は、ビジュアルおよびインタラクティブビジュアルシステムの同期シス
テムおよび方法に関する。
本発明の少なくとも1つの実施形態の実装および動作を詳細に説明する前に、本発明は
、その適用において、以下の記載において説明され、図面に示されている構成要素の構造
および配置の詳細に限定されず、本発明は他の実施形態の形で実装されるか、または様々
な方法で実施される、もしくは実行されることが可能であることを理解されたい。さらに
、本明細書において用いられている表現および用語は説明の目的のためのものであり、限
定と見なすべきではないことを理解されたい。
本発明の諸態様に係る同期システムおよび方法の原理および動作は、図面および添付の
説明を参照することでより良く理解される。
まず、ビジュアルシステム、およびそのユニットの同期の原理が説明される。その後、
いくつかの好ましい実施形態の詳細な説明がその詳細なシステム動作原理とともに記載さ
れる。
図1、図18、図19、図20、図21、図22、図23および図24によって与えら
れている通りの例示的な構成を参照することによって、ビジュアルシステムの動作、およ
びそのユニットの同期の原理が説明される。図は好ましい実施形態のハードウェア構成を
概略的に示している。
図1では、ハードウェア構成は、ここではPJ1およびPJ2と示される2つ以上のユ
ニット1を含むインタラクティブビジュアルシステム22を含み、ユニット1は各々、表
示デバイス、すなわち、出力画像を投影およびインタラクション面47上に投影するプロ
ジェクタ2、任意追加の発光体3が投影およびインタラクション面47を照射しつつ投影
およびインタラクション面47をキャプチャするカメラ9、無線受信器11、無線送信器
12、マイクロコントローラまたは特定用途向けデジタル回路のような計算およびデータ
収集手段10、ならびにインタラクションオブジェクト4を含む。インタラクションオブ
ジェクト4は、カメラ9によって検出可能であるように適合される、少なくとも1つの受
動的光学的ディテール5または1つの能動的光学的ディテール6を含んでもよい。インタ
ラクションデバイス4は、受動的ディテール5および能動的ディテール6のあらゆる種類
の組み合わせを含んでよい。このようなインタラクティブビジュアルシステム22では、
カメラ9は互いに同期される。その一方で、プロジェクタ2からの画像の更新は任意選択
的に同期することができるが、通常はこのインタラクティブ機能のために同期される必要
はない。インタラクションオブジェクト4が作動している場合には、それらはカメラ9と
同期され、任意追加の発光体3がカメラ9と同期されてもよい。
図1において、および以下において説明される他の例示的な構成のほとんどの場合にお
いて、ハードウェア構成は、2つ以上のユニット1を含むインタラクティブビジュアルシ
ステム22を含む。しかし、いずれの場合においても、たとえ、1つの単一のユニット1
しか存在しなくても、または1つの単一のユニット1しかスイッチが入っていなくても、
カメラ9、任意追加の発光体3、プロジェクタ2からの画像の更新の間の同期、およびカ
メラ9とインタラクションオブジェクト4との間のユニット−デバイス間同期のための原
理は同じである。同様に、ユニット−ユニット間同期のための原理は、1つのユニットし
か存在しない状況、または1つのユニットしかスイッチが入っていない状況、あるいは1
つもしくはいくつかのユニットが順にスイッチを入れられ、切られる場合、およびスイッ
チが入っている2つもしくはいくつかのユニットが同じ室内にある場合に対処することに
なる。
以下において、本発明者らはPJ1およびPJ2(および第3のPJ3)をインタラク
ティブプロジェクタと呼ぶことにする。
図2A〜2Hを参照すると、図1とほぼ同様であるが、2つのユニット1ではなく、イ
ンタラクティブプロジェクタPJ1、PJ2およびPJ3である3つのユニット1が存在
する、例示的な構成のための本発明における同期の原理が示されている。図示のものと同
じ同期原理は、例えば、図18〜24に示されている例示的な構成のような、本発明の全
ての他の構成のために適用されてもよい。同期の原理は、プロジェクタPJ1、PJ2お
よびPJ3はどのように1つずつスイッチが入れられるのか、ならびにそれらは、すでに
作動しているプロジェクタにどのように同期されるのかによって、すなわちこのユニット
−ユニット間同期のための原理に基づいて、説明されることになる。
さらに、本発明に係る例示的な構成は、以下において、同期システムのために無線NI
R(もしくはIR)受信器および無線NIR(もしくはIR)送信器を考慮することにな
るが、その一方で、短いRFバーストを送るように適合された無線RF送信器およびRF
受信器を用いても同じ有利な特性を説明することができる。さらに、上述した通りの無線
式解決法の代わりに、電気的有線式または光学的有線式の解決法を本同期原理のために利
用することもできる。
提案されている同期方式にNIR(もしくはIR)ベースの受信器および送信器を利用
することによって、バースト継続時間が長すぎるか、またはバーストが頻繁にありすぎる
場合には、IRベースのリモートコントローラにおけるもの等のNIR(もしくはIR)
のその他の使用は影響を受け、乱され得る。したがって、本発明の好ましい実施形態では
、2つ(または3つ)の短いバーストの後に、変調されたNIR(またはIR)のない、
いくつかの同様の時間間隔の休止期間が存在する。これらの期間においては、他のNIR
/IRベースのデバイスおよびシステムは中断を生じることなく通信してよく、例えば、
そのおかげで、人はプロジェクタ自身または何らかの他の視聴覚機器をそれらのそれぞれ
のリモートコントローラによって誤りなく制御することができる。
インタラクションオブジェクト/デバイスのための図11〜17においてより詳細に説
明されるように、カメラ−ペン間同期(より一般的には、ユニット−デバイス間同期)の
ために少なくとも2つの連続した短いバーストが必要とされる一方で、室内の全てのイン
タラクティブプロジェクタ(ユニット)のカメラ−カメラ間同期(一般的には、ユニット
−ユニット間同期)のために3番目の短いバーストが確保される。2つの同期機構は、室
内の全てのユニットが同期されることを確実にするため、ならびに(ペンおよびその他の
インタラクションオブジェクト、3Dシャッターグラス等のような)単純なデバイスが、
同期されたユニットに同期されることを確実にするために、必要とされる。インタラクテ
ィブプロジェクタおよびペンの特別な場合では、室内のインタラクティブプロジェクタ内
に組み込まれた全てのカメラおよび任意選択的にプロジェクタは同期され、それにより、
それらはそれらの短いバーストを同じ時間インスタンスにおいて送り出し、室内の全ての
ペンはこれらのバーストに基づいて同期される。すなわちペンはこれらの短いバーストの
タイミングに基づいてそれらのIR−LEDを点滅させ、図11〜17に関して以下にさ
らに詳細に説明されるように、カメラによって検出されることができる。
ユニット−ユニット間同期のために提案されている原理はリッスン・アンド・リピート
原理と示され、周知のマスタ−スレーブ原理に比較して有利であると考えられる。本発明
の進歩性によれば、リッスン・アンド・リピート原理は、各インタラクティブプロジェク
タ(または一般的には、各ユニット)が、ユニット自身が同期されるとすぐに、室内にお
ける短い同期バーストのさらなる分配に寄与することを確実にする暗黙的な「リピータ」
機能を含む。この特徴は1つのユニット1から別のユニット1へのバーストを増やし、配
信するのに役立つ。同様に、反対に、同期バーストが室内に存在しない場合には、いくら
かの待ち時間の後、ユニットは、同期プロセスを開始するために短いバーストを送り出す
ことを開始することになる。
同期方式は以下におけるように説明することができる。
第1のユニット1、インタラクティブプロジェクタPJ1、がスイッチを入れられ、受
信モードに入ると、本発明者らはまず、室内には短い同期バーストは存在しないことを前
提とする(図2Aの左部分参照)。PJ1はしばらくの間、受信モードであったが、PJ
1は短い繰り返しバーストを検出しなかった後、次に、PJ1は、2つの短いバーストM
A.1およびMA.2、ならびに任意選択的に、短い同期バーストSAを発信することを
開始すると決定することになる(図2A参照)。一般的に、ユニットは2つの短いバース
トMA.1およびMA.2ならびにMB.1およびMB.2を出力し、位置SAまたはS
Bのいずれかにおいて同期バーストを出力することになる(それぞれ、図2A〜2Bおよ
び図2C参照)。これらの2つ〜3つの短いバースト(MA.1、MA.2および任意選
択的にSA)の後、次の2つ〜3つのバースト(MB.1、MB.2および任意選択的に
SB)の前に、この例示的な構成では、プロジェクタからのバーストが1つもない休止が
存在し(図2B〜2D参照)、次に、シーケンスが再び繰り返される前に、この例示的な
構成では、プロジェクタからのバーストが1つもないさらなる休止が存在することになる
(図2B〜2D参照)。
MA.1およびMA.2、ならびにMB.1およびMB.2の主目的は、それぞれ、ユ
ニット−デバイス間同期のためのものである。これは、インタラクションデバイス4が、
そのペン点滅シーケンスを開始するために、正しい幅および離間距離の少なくとも連続し
たバーストに対して必要とするためである。
バーストSAおよびSBの主目的は、それぞれ、ユニット−ユニット間同期のためのも
のであり、これらのユニット−ユニット間同期バーストSAまたはSBの平均化された開
始時間がそれぞれ、各ユニットが非常に精密な内部同期信号を定義するために用いられる
。無論、SAおよびSBバーストの発生はユニット−デバイス間同期のために用いること
もできる。なぜなら、それらはユニット−デバイス間同期バーストと同じ主幅および前の
パルスまでの距離を有するからである。しかし、SA an SBについては、それらが
発生する保証はなく、そのため、ユニット−デバイス間同期はそれらの存在に依存するべ
きではない。
図2F〜2Hに示されている例示的な方式では、16個の短いバースト期間B1〜B1
6の典型的なシーケンスが存在することになる。シーケンスは繰り返され、それにより、
B1〜B16のシーケンスの後、同じB1〜B16が再び繰り返される。各同期されたユ
ニットは、16個のバースト期間の時間内にちょうど5つのこのような短いバーストを常
に出力することになるが、その同期バーストをSAの「位置」において出力するべきか、
それともSBの「位置」において出力するべきか(それぞれ、図2Fおよび図2G参照)
の選択は疑似乱数機能によって決定される。
上述のように、まず、短い同期バーストは室内に存在しないことを前提とする(図2E
の左部分参照)。PJ1はしばらくの間、受信モードであったが(図5における状態S2
−「無音テスト」参照)、PJ1は短い繰り返しバーストを検出しなかった後、次に、P
J1は状態S6−「マスタ」に入り(図5参照)、2つの短いバーストMA.1およびM
A.2、ならびに任意選択的に、短い同期バーストSAを発信することを開始することに
なる(図2E参照)。一般的に、ユニットは2つの短いバーストMA.1およびMA.2
ならびにMB.1およびMB.2を出力し、位置SAまたはSBのいずれかにおいて同期
バーストを出力することになる(それぞれ、図2Fおよび図2G参照)。これらの2つ〜
3つの短いバースト(MA.1、MA.2および任意選択的にSA)の後、この場合には
、次の2つ〜3つのバースト(MB.1、MB.2および任意選択的にSB)の前に、こ
の例示的な構成では、プロジェクタからのバーストが1つもない、通常は6つ、または任
意選択的に5つの短いバースト期間の休止が存在し(図2F〜2H参照)、次に、シーケ
ンスが再び繰り返される前に、この例示的な構成では、プロジェクタからのバーストが1
つもない、通常は6つ、または任意選択的に5つの短いバースト期間のさらなる休止が存
在することになる(図2F〜2H参照)。
さらに、PJ1は、それが作動された時に、バーストを全く見つけなかったため、ある
いはそれは、状態S3−「同期」に入った後の、ランダムに選択されたT1AまたはT1
Bのいずれかのテスト期間の間に、別のユニットからの他の短い繰り返しバースト(すな
わち、シーケンスMA.1、MA.2、任意選択的にSA、MB.1、MB.2または任
意選択的にSB)を見つけなかったため、それは一時的な「マスタ」の役割、状態S6−
「マスタ」に入る(図5Aにおけるフロー図参照)。この一時的な「マスタ」モードにお
いてさえ、それは、(ランダムに選ばれた)時間T10またはT11以内に、それ自身に
同期されていない他のバーストが存在するかどうかをチェックすることになり、次に、P
J1はそれ自身のバーストまでオフに切り替え、PJ1自身の送信バーストからの外乱を
受けずに他のユニットのバーストを探すために、状態S8−「送信を伴わない有効なバー
ストのチェック」においてチェックを行うことになる。他のユニットの有効なバーストが
検出された場合には、次に、PJ1は、図5Aにおける状態S3−「同期」によってこれ
らの有効なバーストに恐らく同期することを開始するために、状態S1−「開始」に入る
必要があることになる。
この場合には、PJ1は、それは、他のユニットまたは何らかの他のバースト雑音が室
内に存在しているかどうかを定期的にチェックすることになることを除いて、一時的な「
マスタ」モードになり、それは他のユニットに適合または同期しようと試みることはしな
い。以下において、本発明者らは、いつ第2のユニットが導入され、第2のユニットはP
J1からの既存の信号に適合および同期することになるのかを見、最後に、本発明者らは
、一時的な「マスタ」であった第1のPJ1がオフに切り替えられ、再びオンに切り替え
られたために一時的な「マスタ」がなくなった状態で、全てのプロジェクタPJ1、PJ
2、PJ3が互いに適合および同期されている状況を説明する。
したがって、上述のように、PJ1は状態S6−「マスタ」にあり、別のユニット1、
すなわちインタラクティブプロジェクタPJ2がオンにされると仮定する。PJ2は状態
S3−「同期」に入ることになり、それがT6の時間切れ以内に同期バーストを検出しさ
えすれば、状態S4−「同期維持」へすぐに移動することになる。
PJ2のようなユニット(1)が状態S4−「同期維持」にある間は、それはMA.1
、MA.2、任意選択的にSA、MB.1、MB.2および任意選択的にSBを送信する
ことになるが、その同期バーストをSAの「位置」において出力するのか、それともSB
の「位置」において出力するのかの選択(それぞれ、図2Bおよび図2C(あるいは図2
Fおよび図2G)参照)は疑似乱数機能によって選択され、次に、ユニットは、ユニット
がそれ自身の同期バーストを送信している以外の「位置」にあるSAまたはSBの「位置
」において検出された同期バーストの開始時間の平均に基づいて、その内部同期信号推定
を常に更新することになり、そのため、ユニット1がその同期バーストをSAの「位置」
において送信している場合には、それは、SBの「位置」における同期バーストの開始時
間を検出し、これを測定することになり、逆の場合も同じである。リッスン・アンド・リ
ピートと示されるこの原理のおかげで、ユニット−ユニット間同期の精度はユニット1自
身のバースト送信によって乱されない。
再度、PJ1はS6−「マスタ」状態にあり、PJ2は状態S4−「同期維持」にある
と仮定し、第3のユニット1、すなわちインタラクティブプロジェクタPJ3がオンにさ
れると仮定する。PJ3は状態S3−「同期」に入ることになり、それがT6の時間切れ
以内に同期バーストを検出しさえすれば、状態S4−「同期維持」へすぐに移動すること
になる。
PJ3のようなユニット1が状態S4−「同期維持」にある間は、それはMA.1、M
A.2、任意選択的にSA、MB.1、MB.2または任意選択的にSBを送信すること
になるが、その同期バーストをSAの「位置」において出力するのか、それともSBの「
位置」において出力するのかの選択(それぞれ、図2Bおよび図2C(あるいは図2Fお
よび図2G)参照)は上述同様に疑似乱数機能によって選択され、次に、ユニットは、ユ
ニットがそれ自身の同期バーストを送信している以外の「位置」にあるSAまたはSBの
「位置」において検出された同期バーストの開始時間の平均に基づいて、その内部同期信
号推定を常に更新することになり、そのため、ユニット1がその同期バーストをSAの「
位置」において送信している場合には、それは、SBの「位置」における同期バーストの
開始時間を検出し、これを測定することになり、逆の場合も同じである。リッスン・アン
ド・リピートと示されるこの原理のおかげで、ユニット−ユニット間同期の精度はユニッ
ト1自身の送信によって乱されず、同期バーストは1つのユニット1から別のユニット1
へ分配され、別のユニット1によって選ばれる送信時間は、検出された同期バースト開始
時間の平均に基づく。この場合において、これらの開始時間はユニット1自身のバースト
送信によって乱されない。
疑似ランダム選択は、単純な線形フィードバックシフトレジスタのような疑似乱数発生
器に基づき、実行中の画像フレーム番号をシードとして用いることができる。
オンになっていた第1のユニット1、PJ1は今、オフに切り替えられ、再びオンに切
り替えられたと仮定する。この場合には、PJ1はPJ2およびPJ3にすぐに同期され
ることになり、状態S4−「同期維持」になることになり、そのため、この場合には、ユ
ニット1は今やどれも一時的な「マスタ」ではなくなる。
全てのユニット1は、他のものの短い同期バーストの平均開始時間に位相ロックされる
図4には、カメラベースの解決法に適した同期ハードウェアの好ましい実施形態が示さ
れており、この同期ハードウェアは、受信検出信号BURST_RXを有する受信器11
と、バースト送信信号BURST_TXを有する送信器12と、信号NIR_ILLUM
によって制御されるNIR照射のための任意追加の発光体3と、クロック信号CLK2に
よってクロック制御されるCMOS画像センサ27を含み、フレーム有効信号FV、ライ
ン有効信号LV、ピクセルデータPDATA、ピクセルクロックPCLK、および露出タ
イミング信号GS(Global shutter、グローバルシャッター)を出力する
カメラ9と、GS信号に基づき、クロック信号CLK2によってクロック制御され、内部
同期信号INT.SYNCを発生する任意追加のタイミング発生器25と、受信されたバ
ースト信号の開始時間イベントをキャプチャすることができ、平均推定を行うことができ
、その推定によって、パルス幅変調信号PWMのデューティサイクルを制御することがで
きる計算およびデータ収集手段10であって、それにより、クロックシンセサイザ28の
回路は、システムクロックCLK1および派生カメラクロックCLK2を生成し、派生カ
メラクロックCLK2は、GS信号、もしくは推定されたバースト周波数平均とできる限
り等しい周波数を有する派生INT.SYNC信号を生じさせる、計算およびデータ収集
手段10と、を含む。
同期ハードウェアの好ましい実施形態(図6参照)では、パルス幅変調信号PWMは、
VXVCO電圧信号を生成するためのクロックシンセサイザブロック28内のローパス(
low pass、LP)フィルタ、例えば受動的RCフィルタ、によってフィルタリン
グされる。ローパスフィルタは、電圧で制御される水晶ベースのクロックシンセサイザ2
6に接続される。クロックシンセサイザ26は、クロックCLK1〜CLKNのための出
力クロック周波数を±M(ppm)だけ調整することができる。ここで、Mは通常、選択
された水晶XTALの引き込み範囲特性に依存して、±20〜±150の範囲内にある。
図7において、0V〜1.799Vの範囲のローパスフィルタリングされた電圧VXVC
Oに対応する、0〜2047/2048の範囲のPWMカウンタを用いた、0.0%〜9
9.95%の範囲のデューティサイクルのPWM信号によって制御された場合、あり得る
水晶について得られる引き込み範囲は−43ppm〜+48ppmの範囲に及んでいる。
全てのユニット1は、他のものの短い同期バーストの平均開始時間に位相ロックされ、
ユニット1は、同期を維持するために、他のユニット1の同期バーストの開始時間のそれ
らの平均推定に基づいてそれらのタイミングおよび位相を常時調整することになるので、
このようなシステムは何らかのパラメータ非対称性または外乱によってある方向にドリフ
トし得るというリスクがある。得られるシステムを安定にするために、各ユニットにおけ
る周波数の調整は、重力機能と示される戦略案によって、定期的にその中心周波数に向け
て固定量だけ誘導されることになる。さらに、別の戦略案も適用され、スプリング機能と
示されており、この場合には、その中心周波数に向けて誘導される調整は、中心周波数か
らの偏移がより大きければ、より強くなることになる。重力機能またはスプリング機能の
いずれかのようなこうした安定化機能は、一部の構成例では、状態S4−「同期維持」に
おいて作動し、どのユニットも状態S6−「マスタ」にないシステムが、同期された周波
数をユニットの通常の中心周波数の近くに維持する性質を有することになるのを手助けす
る。
一時的な「マスタ」が存在しない場合、すなわち、ユニットが1回または数回、オフお
よびオンに切り替えられた場合には、上述した通りのこうした重力またはスプリング機能
が適用されなければ、調整されたクロック周波数はドリフトし得る。図8では、PJ1ス
トローブ、PJ2ストローブおよびPJ3ストローブと示されるそれらの整列したバース
ト信号によって分かる通り、3つのユニット1が同期されているが、これがキャプチャさ
れた時点におけるPJ1の周波数調整信号PJ1 PWMデューティサイクルC1/C2
は40%未満(すなわち39.82%)であった。これに対して、もしドリフトが生じず
、ユニットおよびシステムが理想的であったならば、50%前後近くが期待値であったで
あろう。通常、信号雑音、コードインプリメンテーション誤差および異なる部品公差が存
在するものであり、これらは、非対称的でランダムな振る舞いを引き起こすことになり、
これによって、ユニットは、例えば、図8に示されるように、いずれかの方向へのドリフ
トを開始するように強いられる場合がある。
図9には、重力機能の効果が実験によって示されている。この場合には、表が示すよう
に、2つのユニット1、PJ1およびPJ5が繰り返しオフおよびオンにされており、P
J5がオフおよびオンにされている際に周波数がPJ1によって下方へドリフトしてくる
と、PJ1がオフおよびオンにされている際にPJ5がそれを上方へ引き上げる。
図10には、スプリング機能の効果が実験結果によって示されている。この場合には、
表が示すように2つのユニット1、PJ1およびPJ2が繰り返しオフおよびオンにされ
ており、テストサイクル1〜4(シーケンス番号1〜8)における長い40分の時間間隔
について、およびテストサイクル4〜10(シーケンス番号9〜21)のためのより短い
5分の時間間隔について示されているように、システム内に「マスタ」は存在していない
にもかかわらず、周波数は非常に安定している。
好ましい実施形態では、タイミング発生器25の信号によってカメラGSから派生され
る内部同期信号と、推定バースト同期信号との位相差は0になるべきである。これは、上
述したようにクロック周波数を変化させることによって行うことができるが、PWM(お
よびVxvco)信号によるクロック周波数の調整を開始するために位相差が十分小さく
なるまで、1つ以上のフレーム内の垂直帰線消去期間を変化させるようにカメラをそのプ
ログラミングバスによってプログラムすることによって、(最初に)大きな位相差は低減
することができる。図5Aを参照されたい。ここでは、1)垂直帰線消去時間プログラミ
ングが、状態S3−「同期」において位相を「大まかに調整する」ために用いられ、2)
PWMデューティサイクル制御が、状態S3−「同期」および状態S4−「同期維持」に
関する、さらにより細かい調整のために用いられる。
本発明の好ましい実施形態によれば、リッスン・アンド・リピート原理は、いくつかの
ユニット1は、それらがスイッチを入れられ、先に説明したように、状態S3−「同期」
において、クロック周波数および内部同期信号を推定し、これらを調整するために十分な
バーストを受信すると、すぐに同期されることを可能にし、マスタ−スレーブの役割等を
定義するための手動または半自動の設定の必要性はない。ユニットは、それらが導入され
ると、自動的に同期されることができ、それはまさに「プラグ&プレイ」である。しかし
、さらに、図3に示されているように、単純な周辺デバイスも同期させることができる。
1つ以上のユニット1は、上述したように、MAバーストおよびSAもしくはSBバース
トを生成し、次に、図4におけるBURST_RX信号は、図3におけるように、MAバ
ースト29の検出時に(いくらか遅延した)低レベルパルス30の信号を有し、ユニット
1のうちの1つが実際は(それらの疑似乱数機能によって)SAの「位置」において同期
バースト43を出力する場合には、低レベルパルス45を有し、および/またはユニット
1のうちの1つが実際は(それらの疑似乱数機能によって)SBの「位置」において同期
バースト44を出力する場合には、低レベルパルス46を有することになる。ユニット内
には、信号イベント35、36、37および38のシーケンスによって示されているよう
に、例えば、内部プロセスおよび露出を同期させるためのカメラのGS(グローバルシャ
ッター)信号のような、異なるローカルの同期信号が存在し得る。本発明の一部の好まし
い実施形態では、図14におけるもののような単純な周辺デバイスは、図14における受
信器20、または図18における受信器11を含むことになる。受信器は、29、39、
43および/または44のようなMA、MB、SAおよびSBバースト(図11参照)を
、受信器の出力PD信号の低レベルパルス30ならびに/あるいは45および/または4
6として検出することができる。それにより、周辺デバイスは、それぞれ、例えば、イン
タラクションデバイス内のIRED 6(図14参照)の点滅のような、異なる機能を制
御するように適合され、例えば、図18における着用式3Dシャッターグラス内の左/右
シャッター23の交替を制御するように適合される自身の内部同期信号位相31、32、
33を合成することができる。
革新的なリッスン・アンド・リピート原理の1つの利点は、ユニット1の同期のための
短いバーストがユニット自身によって部屋中に伝播されることを含む。
さらに、本原理は、どのユニットがマスタであり、どれがスレーブであるのかを定義す
る必要がないという利点を有する。
図12を参照すると、1つ以上のユニット1、この場合には少なくともインタラクティ
ブプロジェクタPJ1が、近赤外線送信を用いることによってバースト信号29および3
9を送信する、本発明の好ましい実施形態が説明されている。
インタラクティブプロジェクタPJ1は、この場合には、カメラの露出制御、すなわち
シャッター幅GSに同期される、近赤外線(NIR)波長範囲内の変調されたパルス列(
M)である、少なくとも2つの短いバーストを送り出す(図12における信号CT参照)
。これらの2つの短いバースト29および39は、この場合ではペンとして言及されるイ
ンタラクションオブジェクト4によって、それらの典型的なバースト幅およびそれらの典
型的な繰り返し間隔(29と39との間の時間)に基づいて認識され、インタラクション
オブジェクト4は、その赤外光発光ダイオードIRED 6によって、カメラの露出制御
を参照した適切なタイミングにおいてその無変調NIRパルス31、32、および33の
うちの1つ以上を出力することになり、それにより、各NIRパルスはそれぞれカメラの
シャッター幅36、37および38の範囲に入る。ペンのNIRパルスのこの同期は各送
信NIRパルスの最適なカメラ露出を可能にし、露出積算時間を定義するカメラのシャッ
ター幅を、期待されるNIRパルスよりもほんのわずかに大きくすることによって、他の
NIRおよびIR光源からのノイズを抑える。
その結果、この同期は、水晶の周波数ドリフトおよび同期ジッタの余裕を認めるための
少量のマージン分のみ大きくされ、NIRパルス長に適合されたシャッター幅を用いた、
良好な露出タイミング制御を意味するので、最適を、NIRパルスおよびシャッター窓が
ちょうど重なり合う場合と定義すれば、達成される信号対雑音比はほとんど最適となる。
信号対雑音比が高くなることは、出力されるNIR LED強度を低減し、かくして、ペ
ンの電力消費を低減し、かくして、ペンの電池寿命を延ばすことが可能になることを意味
する。
同期を行わない既存の解決法は、カメラの露出シャッターに合わせてペンのNIR放出
パルスをスケジュールすることができない。露出シャッターが長すぎると、ペンの動きに
よる不鮮明化が生じる場合があり、これによって、キャプチャされる画像の品質が低下す
ることになり、それゆえ、画像信号処理および画像特徴抽出が制限され、追跡性能および
速度が低下する。このような同期を行わない既存の解決法は、カメラによって検出される
ためにペンがNIR信号を絶え間なく出力しなければならないこと、およびさらに、不鮮
明化を回避するためにカメラのシャッター幅が制限されなければならないことを必要とす
ることになる。このようなシステムは、検出されるために必要な絶え間ないNIR放出の
ために、ペンにおけるより多くの電力消費を必然的に必要とすることになる。
提案されているシステムの例示的な構成では、ペンは、320μsのシャッター窓内で
160μsの長さのNIRパルスを送信してもよく、ペン先端状態およびペン識別の信号
伝達のために、26.6Hzのペン座標更新毎に通常2つ〜3つのパルス(平均約2.5
)が必要とされる(図13参照)。Yが、提案されているシステムのパルス内の瞬時電力
であれば、同じ信号対雑音比を得るために、絶え間なく発光するペンは、Y*160μs
/320μs=0.5*Yの瞬時電力を必要とする。同じ信号対雑音条件が要求される場
合には、提案されている同期されるペンのためのNIR発光による平均電力消費の低減は
、この例示的な構成では、同期されないペンの平均電力消費と比較して、2.1%になる
(Y*2.5*160μs*26.6/(0.5*Y*1000000μs≒2.1%)
さらに、提案されているシステムと反対に、このような同期を行わないNIR発光ペン
は、カメラによって検出され、一方でそれと同時にカメラによって継続的に追跡されるた
めに、その識別子および/または先端スイッチ状態情報を信号で伝達することができない
図13では、本発明の好ましい実施形態に係るペンの信号伝達は、いくつかの連続した
ペン位相、すなわち、一番上の図においてそれぞれ31、32、33によって示される位
相1、位相2および位相3におけるペンの単純な点滅シーケンスに基づく、識別(ID1
、ID2)および先端状態(先端は押されている、先端は放されている)を含む。ペンの
点滅シーケンスは、図12に関して先に説明したように、典型的な幅および時間間隔の2
つの短いバースト29および39を受信した後に開始する。たとえ、しばらくの間(例え
ば次の0.3秒以上の間)ユニットからのさらなる短いバーストが存在しなくても、ペン
は、31、32、33と同じ内部タイミング関係を有し、短いバースト29および39の
間の時間間隔とほとんど同じ点滅シーケンス間時間間隔を有する、40、41および42
のような新しい点滅シーケンスを出力し続けることになり、それにより、ペンにおける正
確な内部水晶ベースのタイミング推定のおかげで、これらの点滅シーケンス内の各点滅パ
ルスはグローバルシャッター(GS)積算時間内に位置付けられることになり、そのため
、最後の同期バースト29および39が受信された後の0.3秒以上後でさえ、ペンのパ
ルスイベントはカメラフレームによって非常に正確にキャプチャされることになる。キャ
プチャされたカメラフレームのシーケンスは分析され、特徴抽出手段を含むカメラは、ペ
ンのIRED 6の位置およびさらにペンのIRED 6の点滅シーケンスを見つけるこ
とができる。IRED 6の点滅シーケンスを分析することから、ペンのID(ID1対
ID2)、ならびにペンの先端状態、すなわち「先端は押されている」または「先端は放
されている」を特定することが可能である。
図13の一番上には、ID1を有するペンのIRED 6の典型的な点滅シーケンスが
示されている。ここで、4つの位相の各々の短いシーケンスは、ペンの受動的な再帰反射
性または反射性ディテール5(図15参照)を検出するためのカメラの発光体3の任意追
加的な点滅のために確保されている初期位相(31と示されているペン位相1の左にハッ
チングされた正方形として図示)から開始する。次の3つの位相は、3つのペン位相、す
なわち、図13の一番上においてそれぞれ31、32、33によって示される位相1、位
相2および位相3である。3つのこのような短いシーケンスは、ペンは識別子ID1のも
のであること、およびペン先端の現在の状態を信号で伝達するために必要とされる。図1
3における上の表は、ID1シーケンスの短いシーケンス1、2および3毎に、先端が「
押されている」場合、およびペン先端が「放されている」場合に、ペンはペン位相、位相
1、位相2および位相3においてどのように点滅することになるのかを記述している。
図13の一番上のすぐ下には、ID2を有するペンのIRED 6の典型的な点滅シー
ケンスが示されている。ここで、4つの位相の各々の短いシーケンスは、ペンの受動的な
再帰反射性または反射性ディテール5(図15参照)を検出するためのカメラの発光体3
の任意選択的な点滅のために確保されている初期位相(31と示されているペン位相1の
左にハッチングされた正方形として図示)から開始する。次の3つの位相は、3つのペン
位相、すなわち、図13の一番上においてそれぞれ31、32、33によって示される位
相1、位相2および位相3である。4つのこのような短いシーケンスは、ペンは識別子I
D2のものであること、およびペン先端の現在の状態を信号で伝達するために必要とされ
る。図13における下の表は、ID2シーケンスの短いシーケンス1、2、3および4毎
に、先端が「押されている」場合、およびペン先端が「放されている」場合に、ペンはペ
ン位相、位相1、位相2および位相3においてどのように点滅することになるのかを記述
している。
本発明の好ましい実施形態は、図14に示される通りのインタラクションデバイス4で
ある。デバイス4はここではペンとして形成され、先端16と、波長依存フィルタまたは
コーティング19と、マイクロコントローラのような計算手段17と、1つ以上の受信器
20と、1つ以上の電池セル18と、種々の方向のNIR光または光線13を放出する先
端IRED 6であって、光線の一部はカメラ9に当たることになり、任意追加の波長依
存フィルタ21を通過してもよい、先端IRED 6と、を含む。
本発明の別の好ましい実施形態は、図15に示される通りのインタラクションデバイス
4である。デバイス4はここではペンとして形成され、先端16と、波長依存フィルタま
たはコーティング19と、1つ以上の再帰反射性または反射性ディテール5と、発光体3
であって、発光体からの光線15Aは5によって後方反射され、それにより、一部の光線
15Bはカメラ9に当たることになり、任意追加の波長依存フィルタ21を通過してもよ
い、発光体3と、を含む。
本発明の別の好ましい実施形態は、図16に示される通りのインタラクションデバイス
4である。デバイス4はここでは、図14および図15の原理を組み合わせたペンとして
形成され、先端16と、波長依存フィルタまたはコーティング19と、1つ以上の再帰反
射性または反射性ディテール5と、発光体3であって、発光体からの光線15Aは5によ
って後方反射され、それにより、一部の光線15Bはカメラ9に当たることになり、任意
追加の波長依存フィルタ21を通過してもよい、発光体3と、マイクロコントローラのよ
うな計算手段17と、1つ以上の受信器20と、1つ以上の電池セル18と、異なる方向
のNIR光または光線13を放出する先端IRED 6であって、光線の一部はカメラ9
に当たることになり、任意追加の波長依存フィルタ21を通過してもよい、先端IRED
6と、を含む。
図17には、各ユニット1が同期(および任意追加的に照射)バースト29、39を送
信し、発光体が無変調点滅パルス34を送信する、本発明の好ましい実施形態が示されて
いる。インタラクションデバイス4は、能動的点滅IREDパルスが31、32、33等
のように送信され、カメラがそれぞれの露出シャッター間隔36、37、38内にキャプ
チャしている一方で、露出シャッター間隔35内に点滅パルス34によって照射され、カ
メラによってキャプチャされる再帰反射性または反射性ディテールを有してもよい。無変
調点滅パルス34はバースト受信器を乱すことはない。
図1によって与えられている通りの例示的なハードウェア構成を参照することによって
、ビジュアルシステムの動作およびそのユニットの同期の原理が説明された。図18、図
19、図20、図21、図22、図23および図24には、好ましい実施形態の他のハー
ドウェア構成が概略的に示されている。
図18では、ハードウェア構成は、図1において説明されている通りの2つのユニット
1を含むインタラクティブビジュアルシステム22を含み、プロジェクタ2からの画像の
更新が同期され、さらに、マイクロコントローラもしくは特定用途向けデジタル回路のよ
うな計算およびデータ収集手段10、および無線受信器11、ならびに任意追加的に無線
送信器12によって制御される着用式3Dシャッターグラス23も含み、それにより、3
Dシャッターグラスを画像の更新に同期させることができる。
図19では、ハードウェア構成は、3つのユニット1を含むインタラクティブビジュア
ルシステム22を含む。ここで、2つのユニット1は、例えば図1において説明されてい
る通りのものであり、1つのユニット1は、マイクロコントローラもしくは特定用途向け
デジタル回路のような計算およびデータ収集手段10によって制御されるビデオカメラ9
、および無線受信器11、ならびに任意追加的に送信器12を有し、それにより、ビデオ
カメラ9による画像キャプチャはデータプロジェクタ2による画像の更新に同期され、そ
れにより、ビデオ録画はちらつきがないものになってよい。
図20では、ハードウェア構成は、任意追加の発光体3がインタラクション面およびフ
ラットパネルディスプレイ表面7を照射しつつインタラクション面およびフラットパネル
ディスプレイ表面7をキャプチャするカメラ9、受信器11、送信器12、マイクロコン
トローラまたは特定用途向けデジタル回路のような計算およびデータ収集手段10、なら
びにインタラクションオブジェクト4を各々含む、カメラベースの入力デバイスである2
つのユニット1を含むインタラクティブビジュアルシステム22を含む。インタラクショ
ンオブジェクト4は、カメラ9によって検出可能であるように適合される、少なくとも1
つの受動的光学的ディテール5または1つの能動的光学的ディテール6を含んでもよい。
インタラクションデバイス4は、受動的ディテール5および能動的ディテール6のあらゆ
る種類の組み合わせを含んでよい。このようなインタラクティブビジュアルシステム22
では、カメラ9は互いに同期されるが、一方で、2つのフラットパネルディスプレイ7に
よる画像の更新はカメラ9に同期されない。
インタラクションオブジェクト4が作動している場合には、それらはカメラ9と同期さ
れ、任意追加の発光体3がカメラ9と同期されてもよい。
図21では、ハードウェア構成は、任意追加の発光体3がインタラクション面48を照
射しつつインタラクション面48をキャプチャするカメラ9、受信器11、送信器12、
マイクロコントローラまたは特定用途向けデジタル回路のような計算およびデータ収集手
段10、ならびにインタラクションオブジェクト4を各々含む、入力デバイスである2つ
のユニット1を含むインタラクティブビジュアルシステム22を含む。インタラクション
オブジェクト4は、カメラ9によって検出可能であるように適合される、少なくとも1つ
の受動的光学的ディテール5または1つの能動的光学的ディテール6を含んでもよい。イ
ンタラクションデバイス4は、受動的ディテール5および能動的ディテール6のあらゆる
種類の組み合わせを含んでよい。このようなインタラクティブビジュアルシステム22に
おいて、カメラ9は互いに同期される。インタラクションオブジェクト4が作動している
場合には、それらはカメラ9と同期され、任意追加の発光体3がカメラ9と同期されても
よい。
図22では、ハードウェア構成は、フラットパネルディスプレイ7と、任意追加の発光
体3がインタラクション面およびフラットパネルディスプレイ表面7を照射しつつフラッ
トパネルディスプレイ7の表面であるインタラクション面をキャプチャするカメラ9を含
む2つのユニット1と、を含む、2つのユニット1を含むインタラクティブビジュアルシ
ステム22を含む。各ユニット1は、受信器11、送信器12、マイクロコントローラま
たは特定用途向けデジタル回路のような計算およびデータ収集手段10、ならびにインタ
ラクションオブジェクト4をさらに含む。インタラクションオブジェクト4は、カメラ9
によって検出可能であるように適合される、少なくとも1つの受動的光学的ディテール5
または1つの能動的光学的ディテール6を含んでもよい。インタラクションデバイス4は
、受動的ディテール5および能動的ディテール6のあらゆる種類の組み合わせを含んでよ
い。このようなインタラクティブビジュアルシステム22において、カメラ9は互いに同
期される。インタラクションオブジェクト4が作動している場合には、それらはカメラ9
と同期され、任意追加の発光体3がカメラ9と同期されてもよい。全てのユニット1が同
期されてよい。
図23では、ハードウェア構成は、2つのユニット1を含むインタラクティブビジュア
ルシステム22を含み、一方のユニットは、ここではPJ1と示され、表示デバイス、す
なわち、出力画像を投影およびインタラクション面47上に投影するプロジェクタ2を含
む、インタラクティブプロジェクタであり、他方のユニットは、出力画像を仮想表示およ
びインタラクション面47上に表示する半透明ディスプレイグラス24を含む、着用式イ
ンタラクティブグラスであり、各ユニットは、任意追加の発光体3が投影およびインタラ
クション面47を照射しつつ投影およびインタラクション面47をキャプチャするカメラ
9、受信器11、送信器12、マイクロコントローラまたは特定用途向けデジタル回路の
ような計算およびデータ収集手段10、ならびにインタラクションオブジェクト4をさら
に含む。インタラクションオブジェクト4は、カメラ9によって検出可能であるように適
合される、少なくとも1つの受動的光学的ディテール5または1つの能動的光学的ディテ
ール6を含んでもよい。インタラクションデバイス4は、受動的ディテール5および能動
的ディテール6のあらゆる種類の組み合わせを含んでよい。このようなインタラクティブ
ビジュアルシステム22では、カメラ9は互いに同期され、その一方、プロジェクタ2か
らの投影画像の更新および半透明グラス24による仮想ディスプレイの更新は任意選択的
に、3Dのため、および仮想現実機能のために同期させることができるが、さもなければ
、同期させる必要はない。インタラクションオブジェクト4が作動している場合には、そ
れらはカメラ9と同期され、任意追加の発光体3がカメラ9と同期されてもよい。
図24では、ハードウェア構成は、任意追加の発光体3が投影およびインタラクション
面47を照射しつつ投影およびインタラクション面47をキャプチャするカメラ9、無線
受信器11、無線送信器12、マイクロコントローラまたは特定用途向けデジタル回路の
ような計算およびデータ収集手段10、ならびにインタラクションオブジェクト4を含む
、2つ以上のユニット1を含むインタラクティブビジュアルシステム22を含む。ユニッ
ト1は、PJ1におけるように、投影およびインタラクション面47上に出力画像を投影
するデータプロジェクタ2を含んでもよく、あるいはユニット1は、P2のような、投影
およびインタラクション面47上に出力画像を投影するデータプロジェクタユニット2か
ら分離されていてもよい。インタラクションオブジェクト4は、カメラ9によって検出可
能であるように適合される、少なくとも1つの受動的光学的ディテール5または1つの能
動的光学的ディテール6を含んでもよい。インタラクションデバイス4は、受動的ディテ
ール5および能動的ディテール6のあらゆる種類の組み合わせを含んでよい。このような
インタラクティブビジュアルシステム22において、カメラ9は互いに同期される。イン
タラクションオブジェクト4が作動している場合には、それらはカメラ9と同期され、任
意追加の発光体3がカメラ9と同期されてもよい。
本発明に係る各種の実施形態が提示され、有線式および無線式の構成において利用され
ることができ、標準的な低コストデバイスを、リモートコントローラ内に通常含まれるN
IR受信器およびNIR LED、ならびに同じくリモートコントローラ内に含まれるバ
ーストベースのRF受信器および送信器として利用することができる、リッスン・アンド
・リピート原理と示される、この汎用性のある「プラグ・アンド・プレイ」同期原理に基
づく本発明の利点が明確に説明されている。例示的な構成は、時間の3/8*500μs
/37500μs≒0.5%においてのみ送信を行うことになり、それゆえ、IR/NI
Rリモートコントローラの使用は影響を受けないことになる。バーストベースのRF送信
器および受信器が利用されることもでき、通常、時間の1/8*60μs/37500μ
s≒0.02%送信を行うだけでよいことになる。これは、RFベースのリモートコント
ローラもこの同期によって影響を受けることはないことを意味する。
好ましい実施形態における同期は、少なくとも30ms離間し、4Hzの平均バースト
周波数を有する低頻度の短いバーストを利用してもよく、NIR/IRバースト長は50
0μsという短さになり得る。
本発明は、利用可能な低コストのマイクロコントローラおよびプログラム可能デバイス
を用いた高品質で精密な露出制御のために、低コストのインタラクションデバイスに非常
に適している。本発明は、プログラム可能な低コストのCMOS画像センサを利用するこ
とにも非常に適している。細かい同期のために、XVCOによって制御される水晶ベース
のクロックシンセサイザと組み合わせ、垂直帰線消去期間を一時的に変化させることによ
って信号の位相を迅速に調整するためにCMOS画像センサにおけるプログラム可能な機
能を用いる本発明の方式は、非常に高速で、信頼性が高く、低コストの同期をもたらす。
様々な実施形態、態様、および組み合わせは単なる好ましいものであり、任意選択的な
ものであることが意図されているため、以上において説明された本発明の実施形態および
諸態様に対する変更およびそれらの種々の組み合わせが、添付の請求項によって定義され
ている通りの本発明の範囲から偏移することなく、可能である。本発明を説明し、主張す
るために用いられている「含む(including)」、「含む(comprisin
g)」、「組み込む(incorporating)」、「〜からなる(consist
ing of)」、「有する(have)」、および「〜である(is)」等の表現は、
非限定的に解釈されることが意図されている。すなわち、明示的に説明されていない項目
、構成要素または要素も存在することを許すことが意図されている。単数への言及は、複
数にも関すると解釈されるべきである。添付の請求項における括弧内に含まれている数は
、請求項の理解を補助することが意図されており、けっして、これらの請求項によってク
レームされている主題を限定するものと解釈してはならない。

Claims (5)

  1. 光源及び先端スイッチを備えたインタラクションオブジェクトと、前記光源が発した光の位置を検出するユニットと、を備えたビジュアルシステムであって、
    前記光源は、前記インタラクションオブジェクトのID及び前記先端スイッチの状態に応じた点滅シーケンスで発光し、
    前記点滅シーケンスは、複数の位相を含む単位シーケンスが繰り返され、
    前記光源は、前記IDに応じた回数の前記単位シーケンス毎に、前記先端スイッチの状態に応じた点滅シーケンスで発光し、
    前記ユニットは、前記光源の点滅シーケンスを分析して、前記点滅シーケンスによって前記先端スイッチの状態を特定するとともに、前記点滅シーケンスに含まれる前記単位シーケンスの回数に基づいて前記IDを特定することを特徴とするビジュアルシステム。
  2. 光源及び先端スイッチを備えたインタラクションオブジェクトと、前記光源が発した光の位置を検出するユニットと、を備えたビジュアルシステムであって、
    前記光源は、前記インタラクションオブジェクトのID及び前記先端スイッチの状態に応じた点滅シーケンスで発光し、
    前記ユニットは、前記光源の点滅シーケンスを分析して、前記ID及び前記先端スイッチの状態を特定し、
    前記点滅シーケンスは、位相1、位相2及び位相3を含む単位シーケンスが繰り返され、
    前記光源は、前記位相1及び前記位相3では同じ発光状態であり、前記位相1及び前記位相3の間の前記位相2では、前記先端スイッチの状態に基づいて発光するかしないかを切り替えることを特徴とするビジュアルシステム。
  3. 請求項1又は2に記載のビジュアルシステムであって、
    前記ユニットは、
    バーストを送信する送信器と、
    前記光源が発した光を前記バーストに同期して検出するカメラと、を備え、
    前記インタラクションオブジェクトは、
    前記バーストを受信する受信器を備え、
    前記光源は、前記受信器が受信した前記バーストに同期して光を発することを特徴とするビジュアルシステム。
  4. 光源と先端スイッチとを備えたインタラクションオブジェクトと、前記光源が発した光の位置を検出するユニットと、を備えたビジュアルシステムの制御方法であって、
    前記光源が、前記インタラクションオブジェクトのID及び前記先端スイッチの状態に応じた点滅シーケンスで発光し、
    前記点滅シーケンスは、複数の位相を含む単位シーケンスが繰り返され、
    前記光源が、前記IDに応じた回数の前記単位シーケンス毎に、前記先端スイッチの状態に応じた点滅シーケンスで発光し、
    前記ユニットが、前記光源の点滅シーケンスを分析して、前記点滅シーケンスによって前記先端スイッチの状態を特定するとともに、前記点滅シーケンスに含まれる前記単位シーケンスの回数に基づいて前記IDを特定することを特徴とするビジュアルシステムの制御方法。
  5. 光源と先端スイッチとを備えたインタラクションオブジェクトと、前記光源が発した光の位置を検出するユニットと、を備えたビジュアルシステムの制御方法であって、
    前記光源が、前記インタラクションオブジェクトのID及び前記先端スイッチの状態に応じた点滅シーケンスで発光し、
    前記点滅シーケンスは、複数の位相を含む単位シーケンスが繰り返され、
    前記ユニットが、前記光源の点滅シーケンスを分析して、前記ID及び前記先端スイッチの状態を特定し、
    前記点滅シーケンスは、位相1、位相2及び位相3を含む単位シーケンスが繰り返され
    前記光源が、前記位相1及び前記位相3では同じ発光状態であり、前記位相1及び前記位相3の間の前記位相2では、前記先端スイッチの状態に基づいて発光するかしないかを切り替えることを特徴とするビジュアルシステムの制御方法。
JP2016225727A 2012-01-09 2016-11-21 ビジュアルシステム及びその制御方法 Active JP6304842B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201261584620P 2012-01-09 2012-01-09
US61/584,620 2012-01-09
US201261601414P 2012-02-21 2012-02-21
US61/601,414 2012-02-21

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014550781A Division JP6057098B2 (ja) 2012-01-09 2013-01-03 ビジュアルおよびインタラクティブシステムのための同期、識別および追跡のための低干渉システムおよび方法

Publications (2)

Publication Number Publication Date
JP2017084373A JP2017084373A (ja) 2017-05-18
JP6304842B2 true JP6304842B2 (ja) 2018-04-04

Family

ID=47846083

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2014550781A Active JP6057098B2 (ja) 2012-01-09 2013-01-03 ビジュアルおよびインタラクティブシステムのための同期、識別および追跡のための低干渉システムおよび方法
JP2016225727A Active JP6304842B2 (ja) 2012-01-09 2016-11-21 ビジュアルシステム及びその制御方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2014550781A Active JP6057098B2 (ja) 2012-01-09 2013-01-03 ビジュアルおよびインタラクティブシステムのための同期、識別および追跡のための低干渉システムおよび方法

Country Status (6)

Country Link
US (2) US9652029B2 (ja)
EP (2) EP3318961B1 (ja)
JP (2) JP6057098B2 (ja)
CN (2) CN107656635B (ja)
TW (1) TWI635420B (ja)
WO (1) WO2013104988A1 (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6060581B2 (ja) * 2012-09-18 2017-01-18 セイコーエプソン株式会社 インタラクティブシステム、インタラクティブシステムの制御方法、およびプロジェクター
WO2014145279A1 (en) 2013-03-15 2014-09-18 Leap Motion, Inc. Determining the relative locations of multiple motion-tracking devices
US9348419B2 (en) * 2014-01-24 2016-05-24 Leap Motion, Inc. Method for synchronizing operation of systems
US9389069B2 (en) * 2014-03-26 2016-07-12 Alces Technology, Inc. Compact 3D depth capture systems
US9733731B2 (en) * 2014-05-12 2017-08-15 Atmel Corporation Timing synchronization of active stylus and touch sensor
CN105430308B (zh) * 2014-09-17 2020-04-03 索尼公司 交互式投影装置及其曝光值自动调整方法
US9924143B2 (en) * 2014-09-23 2018-03-20 Intel Corporation Wearable mediated reality system and method
JP6503828B2 (ja) * 2015-03-27 2019-04-24 セイコーエプソン株式会社 インタラクティブプロジェクションシステム,指示体,およびインタラクティブプロジェクションシステムの制御方法
US9898091B2 (en) 2015-06-03 2018-02-20 Oculus Vr, Llc Virtual reality system with head-mounted display, camera and hand-held controllers
US10532277B2 (en) * 2015-06-11 2020-01-14 Facebook Technologies, Llc Hand-held controllers with light-emitting diodes synchronized to an external camera
TWI601423B (zh) 2016-04-08 2017-10-01 晶睿通訊股份有限公司 攝影系統及其同步方法
CN107305692B (zh) * 2016-04-14 2021-01-26 上海乐相科技有限公司 一种确定待测对象的运动信息的方法及装置
CN105931272B (zh) * 2016-05-06 2019-04-05 上海乐相科技有限公司 一种运动对象追踪方法及系统
CN106028001B (zh) * 2016-07-20 2019-01-04 上海乐相科技有限公司 一种光学定位方法及装置
TWI607365B (zh) * 2016-10-07 2017-12-01 Handwriting interactive display device and handwriting interactive reading device
CN106506076A (zh) * 2016-10-14 2017-03-15 乐视控股(北京)有限公司 一种虚拟现实系统及其信息传输的方法、装置
JP6914267B2 (ja) * 2016-10-18 2021-08-04 株式会社ワコム ペアリング方法、位置検出システム、位置指示器、及び位置検出装置
CN108366250B (zh) * 2018-02-06 2020-03-17 深圳市鹰硕技术有限公司 影像显示系统、方法以及数字眼镜
FR3078851B1 (fr) * 2018-03-07 2020-02-14 Teledyne E2V Semiconductors Sas Camera de vision a mesure de temps de vol optimisee pour environnement multi-cameras
JP7014009B2 (ja) * 2018-03-29 2022-02-01 セイコーエプソン株式会社 操作デバイス、位置検出システム及び操作デバイスの制御方法
TWI744589B (zh) 2018-12-28 2021-11-01 宏正自動科技股份有限公司 視訊互動系統
US11068701B2 (en) * 2019-06-13 2021-07-20 XMotors.ai Inc. Apparatus and method for vehicle driver recognition and applications of same
CN112188181B (zh) * 2019-07-02 2023-07-04 中强光电股份有限公司 图像显示设备、立体图像处理电路及其同步信号校正方法
TWI712978B (zh) * 2019-09-18 2020-12-11 玉山商業銀行股份有限公司 動態影像檢核方法、服務系統及電腦程式產品
US11683450B2 (en) * 2020-06-04 2023-06-20 FLIR Unmanned Aerial Systems AS Shutter and light signal synchronization systems and methods
US20220132042A1 (en) * 2020-10-26 2022-04-28 Htc Corporation Method for tracking movable object, tracking device, and method for controlling shooting parameters of camera
CN116820235A (zh) * 2023-06-26 2023-09-29 江西科骏实业有限公司 虚拟现实设备的交互方法、系统、终端设备以及存储介质

Family Cites Families (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8730129B2 (en) * 1990-12-07 2014-05-20 Dennis J Solomon Advanced immersive visual display system
US5488571A (en) * 1993-11-22 1996-01-30 Timex Corporation Method and apparatus for downloading information from a controllable light source to a portable information device
JP3257585B2 (ja) 1996-03-29 2002-02-18 株式会社ビジュアルサイエンス研究所 空間マウスを用いた映像化装置
US7268774B2 (en) * 1998-08-18 2007-09-11 Candledragon, Inc. Tracking motion of a writing instrument
JP2001022520A (ja) * 1999-07-07 2001-01-26 Canon Inc 座標入力装置
JP3670896B2 (ja) * 1999-08-06 2005-07-13 日立ソフトウエアエンジニアリング株式会社 電子ボードシステム
JP2001075736A (ja) * 1999-09-06 2001-03-23 Canon Inc 座標入力装置
CN101071351A (zh) * 1999-10-27 2007-11-14 数字墨水公司 跟踪一书写工具位置的设备
US6529189B1 (en) 2000-02-08 2003-03-04 International Business Machines Corporation Touch screen stylus with IR-coupled selection buttons
JP3934846B2 (ja) * 2000-03-06 2007-06-20 株式会社リコー 座標入力/検出装置、電子黒板システム、受光素子の位置ズレ補正方法及び記憶媒体
JP2001287901A (ja) 2000-04-03 2001-10-16 Hiroshi Ito メタノールの分解ガス化方法
JP4708581B2 (ja) * 2000-04-07 2011-06-22 キヤノン株式会社 座標入力装置、座標入力指示具及びコンピュータプログラム
NO20004514A (no) 2000-09-11 2002-01-14 Njoelstad Tormod Tegne-, skrive- og peke-redskap for datamaskinbaserte presentasjoner og kontorarbeid
GB0100094D0 (en) * 2001-01-03 2001-02-14 Vtech Communications Ltd System clock synchronisation using phased-lock loop
GB2401764B (en) * 2001-01-03 2005-06-29 Vtech Communications Ltd System clock synchronisation using phase-locked loop
JP3685731B2 (ja) * 2001-03-28 2005-08-24 任天堂株式会社 ゲーム装置及びそのプログラム
JP2002351612A (ja) * 2001-05-28 2002-12-06 Canon Inc 座標入力装置及びその制御方法、プログラム
US7636931B2 (en) * 2001-08-17 2009-12-22 Igt Interactive television devices and systems
JP4728540B2 (ja) 2001-09-20 2011-07-20 株式会社リコー 会議等支援用画像投影装置
US7559656B2 (en) * 2003-03-03 2009-07-14 Panasonic Corporation Projector system
WO2005026930A2 (en) * 2003-09-12 2005-03-24 O-Pen Aps A system and method of determining a position of a radiation emitting element
JP2005135081A (ja) * 2003-10-29 2005-05-26 Nec Viewtechnology Ltd ライトペンとこれを用いた電子黒板
JP4037822B2 (ja) 2003-12-05 2008-01-23 Necディスプレイソリューションズ株式会社 電子ペンの位置検出方法/電子ペン/プロジェクタ/電子黒板システム
NO323926B1 (no) 2004-11-12 2007-07-23 New Index As Visuelt system samt styringsobjekt og apparat til bruk i systemet.
JP3888558B2 (ja) * 2004-11-18 2007-03-07 任天堂株式会社 無線ネットワークシステムおよび無線通信プログラム
JP2007072502A (ja) * 2005-09-02 2007-03-22 Canon Inc 座標入力装置つき表示装置
JP2007072548A (ja) * 2005-09-05 2007-03-22 Matsushita Electric Ind Co Ltd 対象物指示特定システム、情報端末、操作対象機器および対象物指示特定方法
EP2049979B1 (en) * 2006-08-02 2013-07-24 Alterface S.A. Multi-user pointing apparatus and method
US20080169132A1 (en) * 2007-01-03 2008-07-17 Yao Ding Multiple styli annotation system
JP4932554B2 (ja) * 2007-03-20 2012-05-16 Necアクセステクニカ株式会社 文字入力システム、文字入力装置、文字入力方法、及びプログラム
JP4511611B2 (ja) 2008-05-29 2010-07-28 株式会社エヌ・ティ・ティ・ドコモ 無線リソース選択方法、無線基地局及び移動局
JP4954143B2 (ja) * 2008-06-02 2012-06-13 三菱電機株式会社 位置検出装置
JP5094566B2 (ja) * 2008-06-02 2012-12-12 三菱電機株式会社 映像表示システム
FR2933511A1 (fr) * 2008-07-04 2010-01-08 Optinnova Dispositif et procede de visualisation interactif utilisant une camera de detection et un pointeur optique
US8519984B2 (en) * 2009-08-20 2013-08-27 Acer Incorporated Input device and display system having the same
US9179136B2 (en) * 2009-11-20 2015-11-03 Broadcom Corporation Method and system for synchronizing 3D shutter glasses to a television refresh rate
US20110134231A1 (en) * 2009-11-20 2011-06-09 Hulvey Robert W Method And System For Synchronizing Shutter Glasses To A Display Device Refresh Rate
JP5366789B2 (ja) * 2009-12-18 2013-12-11 キヤノン株式会社 入力指示具及びその制御方法、並びに座標入力装置
CN102109909A (zh) * 2009-12-25 2011-06-29 旭丽电子(广州)有限公司 简报指示装置及其控制方法
US20110169736A1 (en) * 2010-01-13 2011-07-14 Smart Technologies Ulc Interactive input system and tool tray therefor
US8610764B2 (en) 2010-07-09 2013-12-17 Sony Corporation Shutter glasses repeater
US9354718B2 (en) * 2010-12-22 2016-05-31 Zspace, Inc. Tightly coupled interactive stereo display
CN102135842B (zh) * 2011-04-06 2013-02-27 南京方瑞科技有限公司 同步光笔电子白板系统

Also Published As

Publication number Publication date
JP2015504217A (ja) 2015-02-05
US20150015482A1 (en) 2015-01-15
EP3318961A1 (en) 2018-05-09
CN104321720B (zh) 2017-11-07
JP2017084373A (ja) 2017-05-18
CN107656635A (zh) 2018-02-02
US10296078B2 (en) 2019-05-21
CN104321720A (zh) 2015-01-28
EP3318961B1 (en) 2020-09-02
US20170205906A1 (en) 2017-07-20
WO2013104988A1 (en) 2013-07-18
US9652029B2 (en) 2017-05-16
CN107656635B (zh) 2020-10-27
EP2802973A1 (en) 2014-11-19
JP6057098B2 (ja) 2017-01-11
TW201403398A (zh) 2014-01-16
TWI635420B (zh) 2018-09-11

Similar Documents

Publication Publication Date Title
JP6304842B2 (ja) ビジュアルシステム及びその制御方法
CN101238409B (zh) 为获得智能屏幕能力以及其它方面的增强在投影仪平台中ccd相机的使用
US20050057522A1 (en) Large touch-sensitive area with time-controlled and location-controlled emitter and receiver modules
US20150062013A1 (en) Rolling Shutter Synchronization of a Pointing Device in an Interactive Display System
CN102216890A (zh) 带有图像传感器和信号处理器的触摸输入
US9753558B2 (en) Pointing system and method
US9733728B2 (en) Position detecting device and position detecting method
US20110188582A1 (en) Pixel based three-dimensional encoding method
CN101542550A (zh) 遥控指向技术
US8964007B2 (en) Frame system, method and apparatus for synchronizing three-dimensional eyewear
US20130089335A1 (en) IR protocol for 3D active eyewear
US20110187837A1 (en) Pixel system, method and apparatus for synchronizing three-dimensional eyewear
US9933863B2 (en) Optical object recognition system
US20110187839A1 (en) Frame based three-dimensional encoding method
WO2014091225A1 (en) Method and apparatus for tracking the movement of a plurality of tracked devices within a scene
JP2006276124A (ja) マルチプロジェクションディスプレイ
US20140015990A1 (en) Interactive imaging system and remote controller applied thereto
EP4328714A1 (en) Touchless interaction enablement method, apparatus and retrofitting assembly
CN111124105A (zh) 一种光源手势控制系统及控制方法
JP2011197041A (ja) 画像表示装置
CN106325610A (zh) 触控显示系统、触控装置与触控显示方法
WO2012152504A1 (en) Synchronization of active 3d glasses on a displayed signal
TWI423069B (zh) 設定連結之方法、使用該方法之連結系統及其遙控裝置
Nii et al. Instant replay using high speed motion capture and projected overlay
JP2013148622A (ja) プロジェクタ

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180302

R150 Certificate of patent or registration of utility model

Ref document number: 6304842

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350