JP2016186675A - インタラクティブプロジェクター及びインタラクティブプロジェクションシステム - Google Patents

Abstract

【課題】指示体と投写画面のコンストラストを十分に大きくすることが必ずしも容易ではなく、検出光の照明の仕方によっては、コントラストが十分に得られない。【解決手段】インタラクティブプロジェクターは、投写部と；検出光照射部と：撮像部と；撮像部によって撮像された指示体を含む複数の画像に基づいて投写画面に対する指示体の３次元位置を検出する位置検出部と、を備える。検出光照射部は、（ｉ）前記投写画面外の一つの位置に前記指示体の先端が接している状態において撮像される画像における第１のコントラストが予め設定された閾値よりも小さく、かつ、（ｉｉ）前記投写画面内の任意の位置に前記指示体の先端が接している状態において撮像される画像における第２のコントラストが、前記投写画面から前記指示体を識別するために予め設定された閾値よりも大きくなるように配置されている。【選択図】図６

Description

本発明は、投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクター、及び、そのシステムに関する。

特許文献１には、投写画面をスクリーンに投写するとともに、指などの対象物（object）を含む画像をカメラで撮像し、この撮像画像を用いて対象物の位置を検出することが可能な投写型表示装置（プロジェクター）が開示されている。指などの対象物は、投写画面に対して指示を行うための指示体として利用される。すなわち、プロジェクターは、対象物の先端がスクリーンに接しているときに投写画面に対して描画等の所定の指示が入力されているものと認識し、その指示に応じて投写画面を再描画する。従って、ユーザーは、投写画面をユーザーインターフェースとして用いて、各種の指示を入力することが可能である。このように、スクリーン上の投写画面を入力可能ユーザーインターフェースとして利用できるタイプのプロジェクターを、「インタラクティブプロジェクター」と呼ぶ。また、投写画面に対して指示を行うために利用される対象物を「指示体（pointing element）」と呼ぶ。

特開２０１２−１５０６３６号公報

インタラクティブプロジェクターでは、指示体の位置を検出するために、赤外光などの検出光を指示体に照射し、指示体で反射された検出光をカメラで撮像する。撮像された画像から指示体の位置を検出する際には、指示体と投写画面のコントラストの差を利用して指示体が画像内のどこにあるかが判定される。このため、カメラで撮像される画像では、指示体と投写画面のコントラストの差が十分に大きなことが望まれる。

しかしながら、本願の発明者は、指示体と投写画面のコンストラストを十分に大きくすることが必ずしも容易ではなく、検出光の照明の仕方によっては、コントラストが十分に得られない場合があることを見いだした。

本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態又は適用例として実現することが可能である。

（１）本発明の一形態によれば、投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターが提供される。このインタラクティブプロジェクターは、スクリーン面上に前記投写画面を投写する投写部と；前記指示体の検出に用いる検出光を前記投写画面の領域に向けて照射する検出光照射部と：前記検出光の波長を含む波長領域の光を受光して前記投写画面の領域を撮像する撮像部と；前記撮像部によって撮像された前記指示体を含む画像に基づいて、前記投写画面に対する前記指示体の位置を検出する位置検出部と、を備える。前記検出光照射部は、（ｉ）前記投写画面と同一平面上で前記投写画面外にある少なくとも一つの位置に前記指示体の先端が接している状態において前記検出光照射部から前記検出光が照射されている場合に、前記撮像部で撮像される画像における前記指示体と前記投写画面外の領域との間の第１のコントラストが、前記投写画面から前記指示体を識別するために予め設定された閾値よりも小さく、かつ、（ｉｉ）前記投写画面内の任意の位置に前記指示体の先端が接している状態において前記検出光照射部から前記検出光が照射されている場合に、前記撮像部で撮像される画像における前記指示体と前記投写画面の領域との間の第２のコントラストが、前記投写画面から前記指示体を識別するために予め設定された閾値よりも大きくなるように配置されている。
このインタラクティブプロジェクターによれば、投写画面内のいずれの位置において指示体と投写画面との間の第２のコントラストが予め設定された閾値よりも大きくなるので、投写画面内の任意の位置において、投写画面に対する指示体の位置を決定できる。

（２）上記インタラクティブプロジェクターにおいて、前記第２のコントラストは、前記撮像部で撮像された画像において前記指示体よりも前記投写画面の領域の方が明るい状態を示すコントラストであり、前記検出光照射部は、前記検出光の波長を含む外光が前記投写画面を照射する場合に、前記外光が存在しない場合よりも前記第２のコントラストが増大するように配置されているものとしてもよい。
この構成によれば、外光がある場合にも、投写画面に対する指示体の位置を決定できる。

（３）上記インタラクティブプロジェクターにおいて、前記検出光は近赤外光であるものとしてもよい。
この構成によれば、近赤外光である検出光を用いて指示体の位置を検出するので、投写部によって投写画面に投写される画像の観察し易さを損うこと無しに、投写画面に対する指示体の位置を決定できる。

本発明は、種々の形態で実現することが可能であり、例えば、スクリーン及び自発光指示体のうちの一方又は両方とインタラクティブプロジェクターとを含むシステム、インタラクティブプロジェクターの制御方法又は制御装置、それらの方法または装置の機能を実現するためのコンピュータプログラム、そのコンピュータプログラムを記録した一時的でない記録媒体（non-transitory storage medium）等の様々な形態で実現することができる。

インタラクティブプロジェクションシステムの斜視図。 インタラクティブプロジェクションシステムの側面図及び正面図。 プロジェクターと自発光指示体の内部構成を示すブロック図。 自発光指示体と非発光指示体を利用した操作の様子を示す説明図。 比較例における検出光の照射状態を示す説明図。 比較例と実施形態のコントラストを比較して示す説明図。 外光量による投写画面と非発光指示体の明度の変化を示す説明図。

Ａ．システムの概要
図１は、本発明の一実施形態におけるインタラクティブプロジェクションシステム９００の斜視図である。このシステム９００は、インタラクティブプロジェクター１００と、スクリーン板９２０と、自発光指示体７０とを有している。スクリーン板９２０の前面は、投写スクリーン面ＳＳ（projection Screen Surface）として利用される。プロジェクター１００は、支持部材９１０によってスクリーン板９２０の前方かつ上方に固定されている。なお、図１では投写スクリーン面ＳＳを鉛直に配置しているが、投写スクリーン面ＳＳを水平に配置してこのシステム９００を使用することも可能である。

プロジェクター１００は、投写スクリーン面ＳＳ上に投写画面ＰＳ（Projected Screen）を投写する。投写画面ＰＳは、通常は、プロジェクター１００内で描画された画像を含んでいる。プロジェクター１００内で描画された画像がない場合には、プロジェクター１００から投写画面ＰＳに光が照射されて、白色画像が表示される。本明細書において、「投写スクリーン面ＳＳ」（又は「スクリーン面ＳＳ」）とは、画像が投写される部材の表面を意味する。また、「投写画面ＰＳ」とは、プロジェクター１００によって投写スクリーン面ＳＳ上に投写された画像の領域を意味する。通常は、投写スクリーン面ＳＳの一部に投写画面ＰＳが投写される。

自発光指示体７０は、発光可能な先端部７１と、使用者が保持する軸部７２と、軸部７２に設けられたボタンスイッチ７３とを有するペン型の指示体である。自発光指示体７０の構成や機能については後述する。このシステム９００では、１つ又は複数の自発光指示体７０とともに、１つ又は複数の非発光指示体８０（非発光のペンや指など）を利用可能である。

図２（Ａ）は、インタラクティブプロジェクションシステム９００の側面図であり、図２（Ｂ）はその正面図である。本明細書では、スクリーン面ＳＳの左右に沿った方向をＸ方向と定義し、スクリーン面ＳＳの上下に沿った方向をＹ方向と定義し、スクリーン面ＳＳの法線に沿った方向をＺ方向と定義している。なお、便宜上、Ｘ方向を「左右方向」とも呼び、Ｙ方向を「上下方向」とも呼び、Ｚ方向を「前後方向」とも呼ぶ。また、Ｙ方向（上下方向）のうち、プロジェクター１００から見て投写画面ＰＳが存在する方向を「下方向」と呼ぶ。なお、図２（Ａ）では、図示の便宜上、スクリーン板９２０のうちの投写画面ＰＳの範囲にハッチングを付している。

プロジェクター１００は、投写画面ＰＳをスクリーン面ＳＳ上に投写する投写レンズ２１０と、投写画面ＰＳの領域を撮像する第１カメラ３１０及び第２カメラ３２０と、指示体（自発光指示体７０及び非発光指示体８０）に検出光を照明するための検出光照射部４１０とを有している。この検出光照射部４１０は、プロジェクター１００の本体の前面において下方に垂下するように設けられた支持部材４１５に設置されており、検出光を投写画面ＰＳの領域に向けて照射する。検出光としては、例えば近赤外光が使用される。２台のカメラ３１０，３２０は、検出光の波長を含む波長領域の光を受光して撮像する第１の撮像機能を少なくとも有している。２台のカメラ３１０，３２０のうちの少なくとも一方は、更に、可視光を含む光を受光して撮像する第２の撮像機能を有し、これらの２つの撮像機能を切り替え可能に構成されていることが好ましい。例えば、２台のカメラ３１０，３２０は、可視光を遮断して近赤外光のみを通過させる近赤外フィルターをレンズの前に配置したりレンズの前から後退させたりすることが可能な近赤外フィルター切換機構（図示せず）をそれぞれ備えることが好ましい。

図２（Ｂ）の例は、インタラクティブプロジェクションシステム９００がホワイトボードモードで動作している様子を示している。ホワイトボードモードは、自発光指示体７０や非発光指示体８０を用いて投写画面ＰＳ上にユーザーが任意に描画できるモードである。スクリーン面ＳＳ上には、ツールボックスＴＢを含む投写画面ＰＳが投写されている。このツールボックスＴＢは、処理を元に戻す取消ボタンＵＤＢと、マウスポインターを選択するポインターボタンＰＴＢと、描画用のペンツールを選択するペンボタンＰＥＢと、描画された画像を消去する消しゴムツールを選択する消しゴムボタンＥＲＢと、画面を次に進めたり前に戻したりする前方／後方ボタンＦＲＢと、を含んでいる。ユーザーは、指示体を用いてこれらのボタンをクリックすることによって、そのボタンに応じた処理を行ったり、ツールを選択したりすることが可能である。なお、システム９００の起動直後は、マウスポインターがデフォールトツールとして選択されるようにしてもよい。図２（Ｂ）の例では、ユーザーがペンツールを選択した後、自発光指示体７０の先端部７１をスクリーン面ＳＳに接した状態で投写画面ＰＳ内で移動させることにより、投写画面ＰＳ内に線が描画されてゆく様子が描かれている。この線の描画は、プロジェクター１００の内部の投写画像作成部（後述）によって行われる。

なお、インタラクティブプロジェクションシステム９００は、ホワイトボードモード以外の他のモードでも動作可能である。例えば、このシステム９００は、パーソナルコンピューター（図示せず）から通信回線を介して転送されたデータの画像を投写画面ＰＳに表示するＰＣインタラクティブモードでも動作可能である。ＰＣインタラクティブモードにおいては、例えば表計算ソフトウェアなどのデータの画像が表示され、その画像内に表示された各種のツールやアイコンを利用してデータの入力、作成、修正等を行うことが可能となる。

図３は、インタラクティブプロジェクター１００と自発光指示体７０の内部構成を示すブロック図である。プロジェクター１００は、制御部７００と、投写部２００と、投写画像生成部５００と、位置検出部６００と、撮像部３００と、検出光照射部４１０と、信号光送信部４３０とを有している。

制御部７００は、プロジェクター１００内部の各部の制御を行う。また、制御部７００は、位置検出部６００で検出された指示体（自発光指示体７０や非発光指示体８０）によって投写画面ＰＳ上で行われた指示の内容を判定するとともに、その指示の内容に従って投写画像を作成又は変更することを投写画像生成部５００に指令する。

投写画像生成部５００は、投写画像を記憶する投写画像メモリー５１０を有しており、投写部２００によってスクリーン面ＳＳ上に投写される投写画像を生成する機能を有する。投写画像生成部５００は、更に、投写画面ＰＳ（図２（Ｂ））の台形歪みを補正するキーストーン補正部としての機能を有することが好ましい。

投写部２００は、投写画像生成部５００で生成された投写画像をスクリーン面ＳＳ上に投写する機能を有する。投写部２００は、図２で説明した投写レンズ２１０の他に、光変調部２２０と、光源２３０とを有する。光変調部２２０は、投写画像メモリー５１０から与えられる投写画像データに応じて光源２３０からの光を変調することによって投写画像光ＩＭＬを形成する。この投写画像光ＩＭＬは、典型的には、ＲＧＢの３色の可視光を含むカラー画像光であり、投写レンズ２１０によってスクリーン面ＳＳ上に投写される。なお、光源２３０としては、超高圧水銀ランプ等の光源ランプの他、発光ダイオードやレーザーダイオード等の種々の光源を採用可能である。また、光変調部２２０としては、透過型又は反射型の液晶パネルやデジタルミラーデバイス等を採用可能であり、色光別に複数の変調部２２０を備えた構成としてもよい。

検出光照射部４１０は、指示体（自発光指示体７０及び非発光指示体８０）の先端部を検出するための照射検出光ＩＤＬをスクリーン面ＳＳとその前方の空間にわたって照射する。照射検出光ＩＤＬとしては、例えば近赤外光が使用される。検出光照射部４１０は、カメラ３１０，３２０の撮像タイミングを含む所定の期間にのみ点灯し、他の期間では消灯する。或いは、検出光照射部４１０は、システム９００の動作中は常に点灯状態に維持されるようにしてもよい。

信号光送信部４３０は、自発光指示体７０によって受信される装置信号光ＡＳＬを送信する機能を有する。装置信号光ＡＳＬは、同期用の近赤外光信号であり、プロジェクター１００の信号光送信部４３０から自発光指示体７０に対して定期的に発せられる。自発光指示体７０の先端発光部７７は、装置信号光ＡＳＬに同期して、予め定められた発光パターン（発光シーケンス）を有する近赤外光である指示体信号光ＰＳＬ（後述）を発する。また、撮像部３００のカメラ３１０，３２０は、指示体（自発光指示体７０及び非発光指示体８０）の位置検出を行う際に、装置信号光ＡＳＬに同期した所定のタイミングで撮像を実行する。

撮像部３００は、図２で説明した第１カメラ３１０と第２カメラ３２０とを有している。前述したように、２台のカメラ３１０，３２０は、検出光の波長を含む波長領域の光を受光して撮像する機能を有する。図３の例では、検出光照射部４１０によって照射された照射検出光ＩＤＬが指示体（自発光指示体７０及び非発光指示体８０）で反射され、その反射検出光ＲＤＬが２台のカメラ３１０，３２０によって受光されて撮像される様子が描かれている。２台のカメラ３１０，３２０は、更に、自発光指示体７０の先端発光部７７から発せられる近赤外光である指示体信号光ＰＳＬも受光して撮像する。２台のカメラ３１０，３２０の撮像は、検出光照射部４１０から発せられる照射検出光ＩＤＬがオン状態（発光状態）である第１の期間と、照射検出光ＩＤＬがオフ状態（非発光状態）である第２の期間と、の両方で実行される。位置検出部６００は、これらの２種類の期間における画像を比較することによって、画像内に含まれる個々の指示体が、自発光指示体７０と非発光指示体８０のいずれであるかを判定することが可能である。

なお、２台のカメラ３１０，３２０の少なくとも一方は、近赤外光を含む光を用いて撮像する機能に加えて、可視光を含む光を用いて撮像する機能を有することが好ましい。こうすれば、スクリーン面ＳＳ上に投写された投写画面ＰＳをそのカメラで撮像し、その画像を利用して投写画像生成部５００がキーストーン補正を実行することが可能である。１台以上のカメラを利用したキーストーン補正の方法は周知なので、ここではその説明は省略する。

位置検出部６００は、２台のカメラ３１０，３２０で撮像された画像を用い、三角測量を利用して指示体（自発光指示体７０や非発光指示体８０）の先端部の三次元位置を決定する機能を有する。この際、位置検出部６００は、自発光指示体７０の発光パターンを利用して、画像内の個々の指示体が自発光指示体７０と非発光指示体８０のいずれであるかについても判定する。

自発光指示体７０には、ボタンスイッチ７３の他に、信号光受信部７４と、制御部７５と、先端スイッチ７６と、先端発光部７７とが設けられている。信号光受信部７４は、プロジェクター１００の信号光送信部４３０から発せられた装置信号光ＡＳＬを受信する機能を有する。先端スイッチ７６は、自発光指示体７０の先端部７１が押されるとオン状態になり、先端部７１が解放されるとオフ状態になるスイッチである。先端スイッチ７６は、通常はオフ状態にあり、自発光指示体７０の先端部７１がスクリーン面ＳＳに接触するとその接触圧によってオン状態になる。先端スイッチ７６がオフ状態のときには、制御部７５は、先端スイッチ７６がオフ状態であることを示す特定の第１の発光パターンで先端発光部７７を発光させることによって、第１の発光パターンを有する指示体信号光ＰＳＬを発する。一方、先端スイッチ７６がオン状態になると、制御部７５は、先端スイッチ７６がオン状態であることを示す特定の第２の発光パターンで先端発光部７７を発光させることによって、第２の発光パターンを有する指示体信号光ＰＳＬを発する。これらの第１の発光パターンと第２の発光パターンは、互いに異なるので、位置検出部６００は、２台のカメラ３１０，３２０で撮像された画像を分析することによって、先端スイッチ７６がオン状態かオフ状態かを識別することが可能である。

上述のように、本実施形態では、自発光指示体７０の先端部７１がスクリーン面ＳＳに接しているか否かの接触判定を、先端スイッチ７６のオン／オフに応じて行っている。ところで、自発光指示体７０の先端部７１の三次元位置は、２台のカメラ３１０，３２０で撮像された画像を用いた三角測量によって求めることができるので、この三次元位置を用いて自発光指示体７０の先端部７１の接触判定を実行することも可能である。但し、三角測量によるＺ座標（スクリーン面ＳＳの法線方向の座標）の検出精度は、必ずしも高くない場合がある。従って、先端スイッチ７６のオン／オフに応じて接触判定を行うようにすれば、接触判定をより精度良く実行できる点で好ましい。

自発光指示体７０のボタンスイッチ７３は、先端スイッチ７６と同じ機能を有する。従って、制御部７５は、ユーザーによってボタンスイッチ７３が押された状態では上記第２の発光パターンで先端発光部７７を発光させ、ボタンスイッチ７３が押されていない状態では上記第１の発光パターンで先端発光部７７を発光させる。換言すれば、制御部７５は、先端スイッチ７６とボタンスイッチ７３の少なくとも一方がオンの状態では上記第２の発光パターンで先端発光部７７を発光させ、先端スイッチ７６とボタンスイッチ７３の両方がオフの状態では上記第１の発光パターンで先端発光部７７を発光させる。

但し、ボタンスイッチ７３に対して先端スイッチ７６と異なる機能を割り当てるようにしてもよい。例えば、ボタンスイッチ７３に対してマウスの右クリックボタンと同じ機能を割り当てた場合には、ユーザーがボタンスイッチ７３を押すと、右クリックの指示がプロジェクター１００の制御部７００に伝達され、その指示に応じた処理が実行される。このように、ボタンスイッチ７３に対して先端スイッチ７６と異なる機能を割り当てた場合には、先端発光部７７は、先端スイッチ７６のオン／オフ状態及びボタンスイッチ７３のオン／オフ状態に応じて、互いに異なる４つの発光パターンで発光する。この場合には、自発光指示体７０は、先端スイッチ７６とボタンスイッチ７３のオン／オフ状態の４つの組み合わせを区別しつつ、プロジェクター１００に伝達することが可能である。

図４は、自発光指示体７０と非発光指示体８０を利用した操作の様子を示す説明図である。この例では、自発光指示体７０の先端部７１と非発光指示体８０の先端部８１はいずれもスクリーン面ＳＳから離れている。自発光指示体７０の先端部７１のＸＹ座標（Ｘ_７１，Ｙ_７１）は、ツールボックスＴＢの消しゴムボタンＥＲＢの上にある。また、ここでは、自発光指示体７０の先端部７１の機能を表すツールとしてマウスポインターＰＴが選択されており、マウスポインターＰＴの先端ＯＰ_７１が消しゴムボタンＥＲＢの上に存在するように、マウスポインターＰＴが投写画面ＰＳに描画されている。前述したように、自発光指示体７０の先端部７１の三次元位置は、２台のカメラ３１０，３２０で撮像された画像を用いた三角測量で決定される。従って、投写画面ＰＳ上において、三角測量で決定された先端部７１の三次元座標（Ｘ_７１，Ｙ_７１，Ｚ_７１）のうちのＸＹ座標（Ｘ_７１，Ｙ_７１）の位置にマウスポインターＰＴの先端にある操作ポイントＯＰ_７１が配置されようにマウスポインターＰＴが描画される。すなわち、マウスポインターＰＴの先端ＯＰ_７１は、自発光指示体７０の先端部７１の三次元座標（Ｘ_７１，Ｙ_７１，Ｚ_７１）のうちのＸＹ座標（Ｘ_７１，Ｙ_７１）に配置され、この位置においてユーザーの指示が行われる。例えば、ユーザーは、この状態で自発光指示体７０のボタンスイッチ７３を押すことによって、消しゴムツールを選択することが可能である。このように、本実施形態では、自発光指示体７０がスクリーン面ＳＳから離間した状態にある場合にも、ボタンスイッチ７３を押すことによって、先端部７１のＸＹ座標（Ｘ_７１，Ｙ_７１）に配置される操作ポイントＯＰ_７１における投写画面ＰＳの内容に応じた指示をプロジェクター１００に与えることが可能である。

図４（Ｂ）では、また、非発光指示体８０の先端部８１の機能を表すツールとしてペンツールＰＥが選択されており、ペンツールＰＥが投写画面ＰＳに描画されている。前述したように、非発光指示体８０の先端部８１の三次元位置も、２台のカメラ３１０，３２０で撮像された画像を用いた三角測量で決定される。従って、投写画面ＰＳ上において、三角測量で決定された先端部８１の三次元座標（Ｘ_８１，Ｙ_８１，Ｚ_８１）のうちのＸＹ座標（Ｘ_８１，Ｙ_８１）の位置にペンツールＰＥの先端にある操作ポイントＯＰ_８１が配置されようにペンツールＰＥが描画される。但し、非発光指示体８０を利用してユーザーが指示をプロジェクター１００に与える際には、非発光指示体８０の先端部８１を投写画面ＰＳ上に接触させた状態でその指示（描画やツールの選択など）が行なわれる。

図４の例では、指示体（自発光指示体７０や非発光指示体８０）の先端部が投写画面ＰＳから離れている場合にも、個々の指示体によって選択されたツール（マウスポインターＰＴやペンツールＰＥ）が投写画面ＰＳに描画されて表示される。従って、ユーザーが指示体の先端部を投写画面ＰＳに接触していない場合にも、その指示体によってどのツールが選択されているのかを理解し易く、操作が容易であるという利点がある。また、ツールの操作ポイントＯＰが指示体の先端部の三次元座標のうちのＸＹ座標の位置に配置されるようにそのツールが描画されるので、ユーザーが、利用中のツールの位置を適切に認識できるという利点がある。

なお、このインタラクティブプロジェクションシステム９００は、複数の自発光指示体７０を同時に利用可能に構成されていてもよい。この場合には、上述した指示体信号光ＰＳＬの発光パターンは、複数の自発光指示体７０を識別できる固有の発光パターンであることが好ましい。より具体的に言えば、Ｎ個（Ｎは２以上の整数）の自発光指示体７０を同時に利用可能な場合には、指示体信号光ＰＳＬの発光パターンは、Ｎ個の自発光指示体７０を区別できるものであることが好ましい。なお、１組の発光パターンに複数回の単位発光期間が含まれている場合に、１回の単位発光期間では、発光と非発光の２値を表現することができる。ここで、１回の単位発光期間は、自発光指示体７０の先端発光部７７が、オン／オフの１ビットの情報を表現する期間に相当する。１組の発光パターンがＭ個（Ｍは２以上の整数）の単位発光期間で構成される場合には、１組の発光パターンによって２^Ｍ個の状態を区別できる。従って、１組の発光パターンを構成する単位発光期間の数Ｍは、次式を満足するように設定されることが好ましい。
Ｎ×Ｑ≦２^Ｍ …（１）
ここで、Ｑは自発光指示体７０のスイッチ７３，７６で区別される状態の数であり、本実施形態の例ではＱ＝２又はＱ＝４である。例えば、Ｑ＝４の場合には、Ｎ＝２のときにはＭを３以上の整数に設定し、Ｎ＝３〜４のときにはＭを４以上の整数に設定することが好ましい。このとき、位置検出部６００（又は制御部７００）がＮ個の自発光指示体７０、及び、各自発光指示体７０のスイッチ７３，７６の状態を識別する際には、１組の発光パターンのＭ個の単位発光期間において各カメラ３１０，３２０でそれぞれ撮像されたＭ枚の画像を用いてその識別を実行する。なお、このＭビットの発光パターンは、照射検出光ＩＤＬをオフの状態に維持した状態で指示体信号光ＰＳＬをオン又はオフに設定したパターンであり、カメラ３１０，３２０で撮像される画像には非発光指示体８０が写らない。そこで、非発光指示体８０の位置を検出するために用いる画像を撮像するために、照射検出光ＩＤＬをオン状態とした１ビットの単位発光期間を更に追加することが好ましい。但し、位置検出用の単位発光期間では、指示体信号光ＰＳＬはオン／オフのいずれでも良い。この位置検出用の単位発光期間で得られた画像は、自発光指示体７０の位置検出にも利用することが可能である。

図３に描かれている５種類の信号光の具体例をまとめると以下の通りである。
（１）投写画像光ＩＭＬ：スクリーン面ＳＳに投写画面ＰＳを投写するために、投写レンズ２１０によってスクリーン面ＳＳ上に投写される画像光（可視光）である。
（２）照射検出光ＩＤＬ： 指示体（自発光指示体７０及び非発光指示体８０）の先端部を検出するために、検出光照射部４１０によってスクリーン面ＳＳとその前方の空間にわたって照射される近赤外光である。
（３）反射検出光ＲＤＬ：照射検出光ＩＤＬとして照射された近赤外光のうち、指示体（自発光指示体７０及び非発光指示体８０）によって反射され、２台のカメラ３１０，３２０によって受光される近赤外光である。
（４）装置信号光ＡＳＬ：プロジェクター１００と自発光指示体７０との同期をとるために、プロジェクター１００の信号光送信部４３０から定期的に発せられる近赤外光である。
（５）指示体信号光ＰＳＬ：装置信号光ＡＳＬに同期したタイミングで、自発光指示体７０の先端発光部７７から発せられる近赤外光である。指示体信号光ＰＳＬの発光パターンは、自発光指示体７０のスイッチ７３，７６のオン／オフ状態に応じて変更される。また、複数の自発光指示体７０を識別する固有の発光パターンを有する。

本実施形態において、自発光指示体７０と非発光指示体８０の先端部の位置検出、及び、自発光指示体７０と非発光指示体８０により指示される内容の判別は、それぞれ以下のように実行される。

＜自発光指示体７０の位置検出方法及び指示内容の判別方法の概要＞
自発光指示体７０の先端部７１の三次元位置（Ｘ_７１，Ｙ_７１，Ｚ_７１）は、位置検出部６００が、２台のカメラ３１０，３２０により撮像された画像を用いて三角測量に従って決定する。この際、自発光指示体７０であるか否かは、所定の複数のタイミングで撮像された画像に先端発光部７７の発光パターンが現れているか否かを判断することによって認識可能である。また、自発光指示体７０の先端部７１がスクリーン面ＳＳに接触しているか否か（すなわち先端スイッチ７６がオンか否か）についても、上記複数のタイミングで撮像された画像における先端発光部７７の発光パターンを用いて判別可能である。位置検出部６００は、更に、自発光指示体７０のスイッチ７３，７６のオン／オフ状態、及び、先端部７１のＸＹ座標（Ｘ_７１，Ｙ_７１）における投写スクリーン面ＳＳの内容に応じて、その指示内容を判別することが可能である。例えば、図４（Ｂ）に例示したように、先端部７１のＸＹ座標（Ｘ_７１，Ｙ_７１）の位置がツールボックスＴＢ内のいずれかのボタンの上にある状態で先端スイッチ７６がオンになった場合には、そのボタンのツールが選択される。また、図２（Ｂ）に例示したように、先端部７１のＸＹ座標（Ｘ_７１，Ｙ_７１）が投写画面ＰＳ内のツールボックスＴＢ以外の位置にあれば、選択されたツールによる処理（例えば描画）が選択される。制御部７００は、自発光指示体７０の先端部７１のＸＹ座標（Ｘ_７１，Ｙ_７１）を利用し、予め選択されているポインターやマークが投写画面ＰＳ内の位置（Ｘ_７１，Ｙ_７１）に配置されるように、そのポインターやマークを投写画像生成部５００に描画させる。また、制御部７００は、自発光指示体７０によって指示された内容に従った処理を実行して、投写画像生成部５００にその処理結果を含む画像を描画させる。

＜非発光指示体８０の位置検出方法及び指示内容の判別方法の概要＞
非発光指示体８０の先端部８１の三次元位置（Ｘ_８１，Ｙ_８１，Ｚ_８１）も、２台のカメラ３１０，３２０により撮像された画像を用いて、三角測量に従って決定される。この際、非発光指示体８０であるか否かは、所定の複数のタイミングで撮像された画像に自発光指示体７０の発光パターンが現れているか否かを判断することによって認識可能である。なお、２台のカメラ３１０，３２０により撮像された２枚の画像における非発光指示体８０の先端部８１の位置は、テンプレートマッチングや特徴抽出等の周知の技術を利用して決定することができる。例えば、テンプレートマッチングによって指である非発光指示体８０の先端部８１を認識する場合には、指に関する複数のテンプレートを予め準備しておき、２台のカメラ３１０，３２０により撮像された画像において、これらのテンプレートに適合する部分を検索することによって指の先端部８１を認識することが可能である。また、非発光指示体８０の先端部８１がスクリーン面ＳＳに接しているか否かは、三角測量で決定した先端部８１のＺ座標値と、スクリーン面ＳＳの表面のＺ座標値との差が微小な許容差以下か否か、すなわち、先端部８１がスクリーン面ＳＳの表面に十分に近いか否かに応じて決定可能である。この許容差としては、例えば、２ｍｍ〜６ｍｍ程度の小さな値を使用することが好ましい。また、位置検出部６００は、非発光指示体８０の先端部８１がスクリーン面ＳＳに接していると判定した場合には、その接触位置における投写スクリーン面ＳＳの内容に応じてその指示内容を判別する。制御部７００は、位置検出部６００で検出された非発光指示体８０の先端のＸＹ座標（Ｘ_８１，Ｙ_８１）を利用し、予め選択されているポインターやマークが投写画面ＰＳ内の位置（Ｘ_８１，Ｙ_８１）に配置されるように、そのポインターやマークを投写画像生成部５００に描画させる。また、制御部７００は、非発光指示体８０によって指示された内容に従った処理を実行して、投写画像生成部５００にその処理結果を含む画像を描画させる。

Ｂ．検出光照射部の比較例及び実施形態
図５は、比較例のシステム９００ａにおける検出光の照射状態を示す説明図である。比較例のシステム９００ａでは、検出光照射部４１０ａが、プロジェクター１００ａの本体の下面に設けられており、図４に示した実施形態に比べて投写画面ＰＳにより近い位置に設けられている。ここでは、検出光照射部４１０ａから射出された検出光ＩＤＬの投写画面ＰＳ及び非発光指示体８０に対する入射角θ_ｓｓ，θ_ｆｇを示している。図５（Ａ）は非発光指示体８０が投写画面ＰＳの比較的下方の領域にある場合を示しており、図５（Ｂ）は非発光指示体８０が投写画面ＰＳの比較的上方の領域にある場合を示している。これらの図では、非発光指示体８０の先端の位置における検出光ＩＤＬの入射角θ_ｓｓ，θ_ｆｇを示している。入射角θ_ｓｓ，θ_ｆｇは、対象とする入射面の法線に対する角度である。投写画面ＰＳに対する検出光ＩＤＬの入射角θ_ｓｓは、非発光指示体８０が下方にある場合の入射角θ_ｓｓ１よりも、非発光指示体８０が上方にある場合の入射角θ_ｓｓ２の方が小さくなる。一方、非発光指示体８０に対する検出光ＩＤＬの入射角θ_ｆｇは、非発光指示体８０が下方にある場合の入射角θ_ｆｇ１よりも、非発光指示体８０が上方にある場合の入射角θ_ｆｇ２の方が大きくなる。これらの関係は、次式で与えられる。
θ_ｓｓ２＜θ_ｓｓ１ …（２ａ）
θ_ｆｇ１＜θ_ｆｇ２ …（２ｂ）

一方、投写画面ＰＳ及び非発光指示体８０からの反射光の強度は、以下の式で与えられる。
Ｒ_ｓｓ＝ｋ_ｓｓ×ｃｏｓθ_ｓｓ …（３ａ）
Ｒ_ｆｇ＝ｋ_ｆｇ×ｃｏｓθ_ｆｇ …（３ｂ）
ここで、Ｒ_ｓｓは投写画面ＰＳ（すなわちスクリーン面ＳＳ）からの反射光強度、ｋ_ｓｓはスクリーン面ＳＳでの検出光ＩＤＬの反射率、θ_ｓｓは投写画面ＰＳへの検出光ＩＤＬの入射角である。また、Ｒ_ｆｇは非発光指示体８０からの反射光強度、ｋ_ｆｇは非発光指示体８０での検出光ＩＤＬの反射率、θ_ｆｇは非発光指示体８０への検出光ＩＤＬの入射角である。なお、反射強度は実際には距離の２乗に反比例するが、双方の距離はほぼ等しいとみなして良いので、（３ａ），（３ｂ）式では距離の影響を省略している。入射角θ_ｓｓ,θ_ｆｇは０〜９０度の範囲の値なので、入射角θ_ｓｓ,θ_ｆｇが大きいほど反射光強度Ｒ_ｓｓ，Ｒ_ｆｇは小さくなる。

上記（２ａ），（２ｂ）式及び（３ａ），（３ｂ）式から明らかなように、非発光指示体８０が下方から上方に行くに従って、投写画面ＰＳに対する入射角θ_ｓｓは減少して投写画面ＰＳからの反射光強度Ｒ_ｓｓは増大し、逆に、非発光指示体８０に対する入射角θ_ｆｇは増大して非発光指示体８０からの反射光強度Ｒ_ｆｇは減少する。従って、カメラ３１０，３２０で検出光ＩＤＬの反射光を撮像した画像において、投写画面ＰＳ内の下方の領域と上方の領域では、非発光指示体８０と、その背景である投写画面ＰＳの明度が逆転する可能性がある。

図６（Ａ）及び図６（Ｂ）は、比較例と実施形態における投写画面ＰＳと非発光指示体８０のコントラストを比較して示す説明図である。図６（Ａ）は、比較例の検出光照射部４１０ａから検出光を照射した場合に、カメラ３１０でその反射光を撮像して得られる画像のコントラストの分布を示している。この例では、投写画面ＰＳの下方部分にはポジティブコントラスト領域ＰＡが存在し、投写画面ＰＳの上方部分にはネガティブコントラスト領域ＮＡが存在し、その中間にローコントラスト領域ＬＣが存在する。ここで、「ポジティブコントラスト領域ＰＡ」とは、非発光指示体８０が投写画面ＰＳよりも明るく、そのコントラストが予め定めた閾値よりも大きくなる領域である。また、「ネガティブコントラスト領域ＮＡ」とは、非発光指示体８０が投写画面ＰＳよりも暗く、そのコントラストが予め定めた閾値よりも大きくなる領域である。「ローコントラスト領域ＬＣ」は、非発光指示体８０と投写画面ＰＳのコントラストが閾値以下の領域である。なお、閾値は、画像内において投写画面ＰＳから非発光指示体８０を識別するために予め設定された値であり、識別方法に応じて予め実験的又は経験的に設定される。なお、ポジティブコントラスト領域ＰＡとネガティブコントラスト領域ＮＡのいずれにおいても、非発光指示体８０と投写画面ＰＳのコントラストが十分に大きくなるので、投写画面ＰＳから非発光指示体８０を識別することが可能である。一方、ローコントラスト領域ＬＣでは、非発光指示体８０と投写画面ＰＳのコントラストが小さいので、投写画面ＰＳから非発光指示体８０を識別することが困難である。従って、この比較例では、ローコントラスト領域ＬＣにおいて、投写画面ＰＳから非発光指示体８０を識別することができない可能性がある。

図６（Ｂ）は、実施形態の検出光照射部４１０から検出光を照射した場合に、カメラ３１０でその反射光を撮像して得られる画像のコントラストの分布を示している。この実施形態では、投写画面ＰＳの全領域がネガティブコントラスト領域ＮＡとなっており、投写画面ＰＳよりも下方の位置にローコントラスト領域ＬＣとポジティブコントラスト領域ＰＡが存在する。換言すれば、図６（Ｂ）では、投写画面ＰＳの領域内の上方部分におけるネガティブコントラスト領域ＮＡが図６（Ａ）に比べて広がっている。この理由は、実施形態の検出光照射部４１０の方が、比較例の検出光照射部４１０ａよりも投写画面ＰＳからの垂直距離が大きいので、検出光ＩＤＬの投写画面ＰＳに対する入射角θ_ｓｓが小さく、非発光指示体８０に対する入射角θ_ｆｇが大きいからである。また、実施形態の検出光照射部４１０は、比較例の検出光照射部４１０ａに比べてより下方の位置から投写画面ＰＳを照射しているので、この効果が更に顕著である。

図６（Ｂ）に示す実施形態では、投写画面ＰＳの領域内にローコントラスト領域ＬＣが存在せず、ネガティブコントラスト領域ＮＡが投写画面ＰＳの全領域を覆うように検出光照射部４１０が設置されている。この結果、投写画面ＰＳの領域内の任意の位置に非発光指示体８０の先端が接している状態において、投写画面ＰＳから非発光指示体８０を識別することが可能である。また、自発光指示体７０も同様にして投写画面ＰＳから識別可能である。なお、ネガティブコントラスト領域ＮＡの代わりに、ポジティブコントラスト領域ＰＡが投写画面ＰＳの全領域を覆うように検出光照射部４１０を設置してもよい。

カメラ３２０で撮像した画像についても、図６（Ｂ）と同様なコントラスト領域の分布が現れる。但し、本実施形態では、２つのカメラ３１０，３２０の投写画面ＰＳからの垂直距離が異なるので、コントラスト領域の分布は２つのカメラ３１０，３２０で撮像した画像では互いに異なっている。但し、カメラ３２０で撮像した画像においても、図６（Ｂ）と同様に、投写画面ＰＳの領域内にローコントラスト領域ＬＣが存在せず、ネガティブコントラスト領域ＮＡ（又はポジティブコントラスト領域ＰＡ）が投写画面ＰＳの全領域を覆うように検出光照射部４１０が配置されていることが好ましい。なお、２つのカメラ３１０，３２０の投写画面ＰＳからの垂直距離が互いに等しくなるように、２つのカメラ３１０，３２０を設置することも可能である。

図７は、外光量による投写画面ＰＳと非発光指示体８０の明度の変化を示す説明図である。図７の横軸は外光量（外光の強さ）を示し、縦軸はカメラ３１０，３２０で撮像される画像における明るさを示している。ここでは、外光は検出光の波長を含む光であり、典型的には太陽光である。また、図７は、外光が、ＹＺ平面に平行な方向のうち、投写画面ＰＳの上方から下方に向かう方向に沿って、４５度の入射角で投写画面ＰＳを照射する場合の特性を示している。外光量がゼロの状態は、プロジェクター１００が発光する光以外の光が投射画面ＰＳ上に入射していない状態である。

図７の例では、外光量によらず、投写画面ＰＳ（すなわちスクリーン面ＳＳ）の方が非発光指示体８０よりも明るい画像が得られている。また、外光量が少ない場合の両者の明度差ΔＬ１よりも、外光量が多い場合の明度差ΔＬ２の方が大きい。従って、外光が無い場合よりも外光がある場合の方がコントラストが大きい。また、外光量が多いほど両者のコントラストが大きくなる。このような特性は、例えば、スクリーン面ＳＳでの検出光ＩＤＬの反射率が非発光指示体８０（典型的には指）での反射率よりも十分に高い値になるように、スクリーン面ＳＳの材質を選択することによって実現可能である。また、一般的に、投写画面ＰＳに対する外光の入射角は４５度以下であり、また、入射角が小さいほど外光によって投写画面ＰＳがより明るくなるので図７の特性がより強まる傾向にある。

図７のような特性が得られる場合には、図６（Ｂ）で説明したように、ネガティブコントラスト領域ＮＡが投写画面ＰＳの全領域を覆うように検出光照射部４１０が設置されていることが好ましい。こうすれば、外光量の有無や強さによらず、投写画面ＰＳの領域内の任意の位置に非発光指示体８０の先端が接している状態において、投写画面ＰＳから非発光指示体８０を識別することが可能である。

以上のように、本実施形態では、投写画面ＰＳと同一平面上で投写画面ＰＳの外にある少なくとも一つの位置（図６（Ｂ）のローコントラスト領域ＬＣ）に指示体（自発光指示体７０や非発光指示体８０）の先端が接している状態で撮像される画像においては、指示体と投写画面ＰＳとの間の第１のコントラストが、投写画面ＰＳから指示体を識別するために予め設定された閾値よりも小さくなる。一方、投写画面ＰＳ内の任意の位置に指示体（自発光指示体７０や非発光指示体８０）の先端が接している状態で撮像される画像においては、指示体と投写画面ＰＳとの間の第２のコントラストが、投写画面ＰＳから指示体を識別するために予め設定された閾値よりも大きくなるように、検出光照射部４１０が配置されている。この結果、投写画面ＰＳの領域内の任意の位置において、投写画面ＰＳから指示体（非発光指示体８０や自発光指示体７０）を識別することが可能である。

・変形例：
なお、この発明は上記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。

・変形例１：
上記実施形態では、撮像部３００が２台のカメラ３１０，３２０を有しているものとしたが、撮像部３００は３台以上のカメラを有していてもよい。後者の場合には、ｍ台（ｍは３以上の整数）のカメラで撮像されたｍ個の画像に基づいて、三次元座標（Ｘ，Ｙ，Ｚ）が決定される。例えば、ｍ個の画像から２個の画像を任意に選択して得られる_ｍＣ_２個の組み合わせを用いてそれぞれ三次元座標を求め、それらの平均値を用いて最終的な三次元座標を決定しても良い。こうすれば、三次元座標の検出精度を更に高めることが可能である。

・変形例２：
上記実施形態では、インタラクティブプロジェクションシステム９００がホワイトボードモードとＰＣインタラクティブモードとで動作可能であるものとしたが、これらのうちの一方のモードのみで動作するようにシステムが構成されていても良い。また、インタラクティブプロジェクションシステム９００は、これら２つのモード以外の他のモードのみで動作するように構成されていても良く、更に、これら２つのモードを含む複数のモードで動作可能に構成されていてもよい。

・変形例３：
上記実施形態では、図３に示した照射検出光ＩＤＬと、反射検出光ＲＤＬと、装置信号光ＡＳＬと、指示体信号光ＰＳＬとがすべて近赤外光であるものとしたが、これらのうちの一部又は全部を近赤外光以外の光としてもよい。

・変形例４：
上記実施形態では、投写画面が平面状のスクリーン板９２０に投写されるものとしていたが、投写画面が曲面状のスクリーンに投写されるものとしても良い。この場合にも、２台のカメラで撮像された画像を用い、三角測量を利用して指示体の先端部の三次元位置を決定できるので、指示体の先端部と投写画面の位置関係を決定することが可能である。

以上、いくつかの実施例に基づいて本発明の実施の形態について説明してきたが、上記した発明の実施の形態は、本発明の理解を容易にするためのものであり、本発明を限定するものではない。本発明は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得るとともに、本発明にはその等価物が含まれることはもちろんである。

７０…自発光指示体
７１…先端部
７２…軸部
７３…ボタンスイッチ
７４…信号光受信部
７５…制御部
７６…先端スイッチ
７７…先端発光部
８０…非発光指示体
８１…先端部
１００…インタラクティブプロジェクター
２００…投写部
２１０…投写レンズ
２２０…光変調部
２３０…光源
３００…撮像部
３１０…第１カメラ
３２０…第２カメラ
４１０…検出光照射部
４３０…信号光送信部
５００…投写画像生成部
５１０…投写画像メモリー
６００…位置検出部
７００…制御部
９００…インタラクティブプロジェクションシステム
９１０…支持部材
９２０…スクリーン板

Claims (4)

1. 投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
   スクリーン面上に前記投写画面を投写する投写部と、
   前記指示体の検出に用いる検出光を前記投写画面の領域に向けて照射する検出光照射部と、
   前記検出光の波長を含む波長領域の光を受光して前記投写画面の領域を撮像する撮像部と、
   前記撮像部によって撮像された前記指示体を含む画像に基づいて、前記投写画面に対する前記指示体の位置を検出する位置検出部と、
   を備え、
   前記検出光照射部は、
   （ｉ）前記投写画面と同一平面上で前記投写画面外にある少なくとも一つの位置に前記指示体の先端が接している状態において前記検出光照射部から前記検出光が照射されている場合に、前記撮像部で撮像される画像における前記指示体と前記投写画面外の領域との間の第１のコントラストが、前記投写画面から前記指示体を識別するために予め設定された閾値よりも小さく、かつ、
   （ｉｉ）前記投写画面内の任意の位置に前記指示体の先端が接している状態において前記検出光照射部から前記検出光が照射されている場合に、前記撮像部で撮像される画像における前記指示体と前記投写画面の領域との間の第２のコントラストが、前記投写画面から前記指示体を識別するために予め設定された閾値よりも大きくなるように配置されている、インタラクティブプロジェクター。
2. 請求項１に記載のインタラクティブプロジェクターであって、
   前記第２のコントラストは、前記撮像部で撮像された画像において前記指示体よりも前記投写画面の領域の方が明るい状態を示すコントラストであり、
   前記検出光照射部は、前記検出光の波長を含む外光が前記投写画面を照射する場合に、前記外光が存在しない場合よりも前記第２のコントラストが増大するように配置されている、インタラクティブプロジェクター。
3. 請求項１に記載のインタラクティブプロジェクターであって、
   前記検出光は近赤外光である、インタラクティブプロジェクター。
4. インタラクティブプロジェクティングシステムであって、
   請求項１〜３のいずれか一項に記載のインタラクティブプロジェクターと、
   前記投写画面が投写されるスクリーン面を有するスクリーンと、
   を備えるインタラクティブプロジェクティングシステム。

Images