JP6459705B2 - インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及び、インタラクティブプロジェクターの制御方法 - Google Patents

インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及び、インタラクティブプロジェクターの制御方法 Download PDF

Info

Publication number
JP6459705B2
JP6459705B2 JP2015065625A JP2015065625A JP6459705B2 JP 6459705 B2 JP6459705 B2 JP 6459705B2 JP 2015065625 A JP2015065625 A JP 2015065625A JP 2015065625 A JP2015065625 A JP 2015065625A JP 6459705 B2 JP6459705 B2 JP 6459705B2
Authority
JP
Japan
Prior art keywords
indicator
projection screen
function
light
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015065625A
Other languages
English (en)
Other versions
JP2016186668A (ja
Inventor
モサカニ,ババク
ニュルスタッド、トルモド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2015065625A priority Critical patent/JP6459705B2/ja
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to KR1020177030897A priority patent/KR20170129948A/ko
Priority to EP16771653.9A priority patent/EP3276464A4/en
Priority to US15/561,321 priority patent/US10416787B2/en
Priority to PCT/JP2016/001396 priority patent/WO2016157759A1/ja
Priority to CN201680012870.8A priority patent/CN107407995B/zh
Priority to TW105109281A priority patent/TW201635100A/zh
Publication of JP2016186668A publication Critical patent/JP2016186668A/ja
Application granted granted Critical
Publication of JP6459705B2 publication Critical patent/JP6459705B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/54Accessories
    • G03B21/56Projection screens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1637Details related to the display arrangement, including those related to the mounting of the display in the housing
    • G06F1/1639Details related to the display arrangement, including those related to the mounting of the display in the housing the display being based on projection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1637Details related to the display arrangement, including those related to the mounting of the display in the housing
    • G06F1/1645Details related to the display arrangement, including those related to the mounting of the display in the housing the display being suitable to be used in combination with an external overhead projector
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0325Detection arrangements using opto-electronic means using a plurality of light emitters or reflectors or a plurality of detectors forming a reference frame from which to derive the orientation of the object, e.g. by triangulation or on the basis of reference deformation in the picked up image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03542Light pens for emitting or receiving light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/041012.5D-digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface and also measures the distance of the input means within a short range in the Z direction, possibly with a separate measurement setup

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Projection Apparatus (AREA)
  • Position Input By Displaying (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクター、そのシステム、及び、そのプロジェクターの制御方法に関する。
特許文献1,2には、投写画面をスクリーンに投写するとともに、指や発光するペンなどの対象物(object)を含む画像をカメラで撮像し、この撮像画像を用いて対象物の位置を検出することが可能な投写型表示装置(プロジェクター)が開示されている。指などの対象物は、投写画面に対して指示を行うための指示体として利用される。すなわち、プロジェクターは、対象物の先端がスクリーンに接しているときに投写画面に対して描画等の所定の指示が入力されているものと認識し、その指示に応じて投写画面を再描画する。従って、ユーザーは、投写画面をユーザーインターフェースとして用いて、各種の指示を入力することが可能である。このように、スクリーン上の投写画面を入力可能ユーザーインターフェースとして利用できるタイプのプロジェクターを、「インタラクティブプロジェクター」と呼ぶ。また、投写画面に対して指示を行うために利用される対象物を「指示体(pointing element)」と呼ぶ。
特開2012−150636号公報 特表2008−520034号公報
典型的なインタラクティブプロジェクターでは、指示体の先端がスクリーンに接しているか否かに応じて、指示体によって指示がなされているか否かを判定する。指示体の接触は、指示体の先端とスクリーンとの間の距離に基づいて検出することができる。しかしながら、複数台のカメラを用いて指示体の先端の三次元位置を検出する構成のインタラクティブプロジェクターにおいて、スクリーンが曲面の場合、指示体とスクリーンとの距離の検出精度が高くなく、指示体の接触の検出精度が十分でなかった。そのため、曲面のスクリーンに対する指示体の接触の検出精度の向上が望まれていた。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態又は適用例として実現することが可能である。
(1)本発明の一形態によれば、投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターが提供される。このインタラクティブプロジェクターは、スクリーン面上に前記投写画面を投写する投写部と、前記投写画面の領域を撮像する第1カメラ及び第2カメラを含む複数台のカメラと、前記複数台のカメラによって撮像された前記指示体を含む複数の画像に基づいて、前記投写画面に対する前記指示体の三次元位置を検出する位置検出部と、前記投写部によって前記投写画面の位置を検出するための特定の画像が投写されているときに、前記カメラによって撮像された前記特定の画像を含んだ撮像画像に基づいて、前記投写画面の三次元形状を表す曲面関数を算出する関数算出部と、前記位置検出部が検出した前記指示体の三次元位置と、前記関数算出部によって算出された前記曲面関数とを用いて、前記指示体の前記投写画面への接触を検出する接触検出部と、を備え、前記関数算出部は、前記特定の画像を含んだ前記撮像画像に基づいて、前記投写画面上の互いに異なる複数の基準点の三次元位置を検出し、前記複数の基準点の三次元位置に基づいて前記曲面関数を算出する。
このインタラクティブプロジェクターでは、投写画面上の複数の三次元位置に基づいて投写画面の三次元形状を表す曲面関数を算出する。指示体の投写画面への接触の検出は、指示体の三次元位置と、投写画面の曲面関数を用いて算出されるので、曲面のスクリーンに対する指示体の接触の検出精度を向上させることができる。
(2)上記インタラクティブプロジェクターにおいて、前記関数算出部は、前記曲面関数を式(1)で表される関数として算出してもよい。
Figure 0006459705
(ここで、N1、N2、N3は、P≧N1+N2+N3+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、c、dは、定数であり、a、b、cの少なくとも1つはゼロではない。)
この構成によれば、投写画面上の基準点の三次元位置に基づいて、容易に投写画面の三次元形状を曲面関数として算出することができる。
(3)上記インタラクティブプロジェクターにおいて、前記関数算出部は、前記曲面関数を式(2)で表される関数として算出してもよい。
Figure 0006459705
(ここで、N1、N2は、P≧N1+N2+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、dは、定数であり、a、bの少なくとも1つはゼロではない。)
この構成によれば、同様に、投写画面上の基準点の三次元位置に基づいて、容易に投写画面の三次元形状を曲面関数として算出することができる。
(4)上記インタラクティブプロジェクターにおいて、前記関数算出部は、前記曲面関数を式(3)で表される関数として算出してもよい。
Figure 0006459705
(ここで、M1、M2、M3は、P≧M1+M2+M3+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、c、dは、定数であり、a、b、cの少なくとも1つはゼロではない。)
この構成によれば、投写画面上の基準点の三次元位置に基づいて、より高速に投写画面の三次元形状を曲面関数として算出することができる。
(5)上記インタラクティブプロジェクターにおいて、前記関数算出部は、前記曲面関数を式(4)で表される関数として算出してもよい。
Figure 0006459705
(ここで、M1、M2は、P≧M1+M2+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、dは、定数であり、a、bの少なくとも1つはゼロではない。)
この構成によれば、同様に、投写画面上の基準点の三次元位置に基づいて、より高速に投写画面の三次元形状を曲面関数として算出することができる。
(6)上記インタラクティブプロジェクターは、さらに、前記接触検出部が前記指示体の前記投写画面への接触を検出しているときの前記指示体の三次元位置に基づいて、前記ユーザーの指示の内容を判定する制御部を備えていてもよい。
この構成によれば、曲面のスクリーンに対する指示体を用いたユーザーの指示の内容を判定する精度を向上させることができる。
本発明は、種々の形態で実現することが可能であり、例えば、自発光指示体と非発光指示体との少なくともいずれか一方を含む指示体とスクリーンとインタラクティブプロジェクターを備えるシステム、インタラクティブプロジェクターの制御方法又は制御装置、それらの方法または装置の機能を実現するためのコンピュータプログラム、そのコンピュータプログラムを記録した一時的でない記録媒体(non-transitory storage medium)等の様々な形態で実現することができる。
インタラクティブプロジェクションシステムの斜視図である。 インタラクションプロジェクションシステムの側面図および正面図である。 プロジェクターと自発光指示体の内部構成を示すブロック図である。 自発光指示体と非発光指示体を利用した操作の様子を示す説明図である。 測定用パターン画像が表示された投写画面を例示した図である。 曲面形状のスクリーンに測定用パターン画像が投写された第1の図である。 曲面形状のスクリーンに測定用パターン画像が投写された第2の図である。
A1.システムの概要
図1は、本発明の一実施形態におけるインタラクティブプロジェクションシステム900の斜視図である。このシステム900は、インタラクティブプロジェクター100と、スクリーン板920と、自発光指示体70とを有している。スクリーン板920の前面は、投写スクリーン面SS(projection Screen Surface)として利用される。プロジェクター100は、支持部材910によってスクリーン板920の前方かつ上方に固定されている。なお、図1では投写スクリーン面SSを鉛直に配置しているが、投写スクリーン面SSを水平に配置してこのシステム900を使用することも可能である。
プロジェクター100は、投写スクリーン面SS上に投写画面PS(Projected Screen)を投写する。投写画面PSは、通常は、プロジェクター100内で描画された画像を含んでいる。プロジェクター100内で描画された画像がない場合には、プロジェクター100から投写画面PSに光が照射されて、白色画像が表示される。本明細書において、「投写スクリーン面SS」(又は「スクリーン面SS」)とは、画像が投写される部材の表面を意味する。また、「投写画面PS」とは、プロジェクター100によって投写スクリーン面SS上に投写された画像の領域を意味する。通常は、投写スクリーン面SSの一部に投写画面PSが投写される。
自発光指示体70は、発光可能な先端部71と、ユーザーが保持する軸部72と、軸部72に設けられたボタンスイッチ73とを有するペン型の指示体である。自発光指示体70の構成や機能については後述する。このシステム900では、1つ又は複数の自発光指示体70とともに、1つ又は複数の非発光指示体80(非発光のペンや指など)を利用可能である。以下、自発光指示体70と非発光指示体80とを区別しない場合は、単に、指示体780とも呼ぶ。
図2(A)は、インタラクティブプロジェクションシステム900の側面図であり、図2(B)はその正面図である。本明細書では、スクリーン面SSの左右に沿った方向をX方向と定義し、スクリーン面SSの上下に沿った方向をY方向と定義し、スクリーン面SSの法線に沿った方向をZ方向と定義している。なお、便宜上、X方向を「左右方向」とも呼び、Y方向を「上下方向」とも呼び、Z方向を「前後方向」とも呼ぶ。また、Y方向(上下方向)のうち、プロジェクター100から見て投写画面PSが存在する方向を「下方向」と呼ぶ。なお、図2(A)では、図示の便宜上、スクリーン板920のうちの投写画面PSの範囲にハッチングを付している。
プロジェクター100は、投写画面PSをスクリーン面SS上に投写する投写レンズ210と、投写画面PSの領域を撮像する第1カメラ310及び第2カメラ320と、指示体780に検出光を照明するための検出光照射部410とを有している。検出光としては、例えば近赤外光が使用される。2台のカメラ310,320は、検出光の波長を含む波長領域の光を受光して撮像する第1の撮像機能を少なくとも有している。2台のカメラ310,320のうちの少なくとも一方は、更に、可視光を含む光を受光して撮像する第2の撮像機能を有し、これらの2つの撮像機能を切り替え可能に構成されている。例えば、2台のカメラ310,320は、可視光を遮断して近赤外光のみを通過させる近赤外フィルターをレンズの前に配置したりレンズの前から後退させたりすることが可能な近赤外フィルター切換機構(図示せず)をそれぞれ備えることが好ましい。2台のカメラ310,320は、左右方向(X方向)の位置が同じで、前後方向(Z方向)に所定の距離を空けて並んで配置されている。2台のカメラ310,320は、本実施形態に限定されない。例えば、前後方向(Z方向)の位置が同じで、左右方向(X方向)に所定の距離を空けて並んで配置されてもよい。また、X,Y,Z全ての方向において位置が異なってもよい。2台のカメラをZ方向の位置を変えて(前後方向にずらして)配置すると、三角測量による三次元位置の算出におけるZ座標の精度が高いため、好ましい。
図2(B)の例は、インタラクティブプロジェクションシステム900がホワイトボードモードで動作している様子を示している。ホワイトボードモードは、自発光指示体70や非発光指示体80を用いて投写画面PS上にユーザーが任意に描画できるモードである。スクリーン面SS上には、ツールボックスTBを含む投写画面PSが投写されている。このツールボックスTBは、処理を元に戻す取消ボタンUDBと、マウスポインターを選択するポインターボタンPTBと、描画用のペンツールを選択するペンボタンPEBと、描画された画像を消去する消しゴムツールを選択する消しゴムボタンERBと、画面を次に進めたり前に戻したりする前方/後方ボタンFRBと、を含んでいる。ユーザーは、指示体を用いてこれらのボタンにタッチすることによって、そのボタンに応じた処理を行ったり、ツールを選択したりすることが可能である。なお、システム900の起動直後は、マウスポインターがデフォールトツールとして選択されるようにしてもよい。図2(B)の例では、ユーザーがペンツールを選択した後、自発光指示体70の先端部71をスクリーン面SSに接した状態で投写画面PS内で移動させることにより、投写画面PS内に線が描画されてゆく様子が描かれている。この線の描画は、プロジェクター100の内部の投写画像生成部(後述)によって行われる。
なお、インタラクティブプロジェクションシステム900は、ホワイトボードモード以外の他のモードでも動作可能である。例えば、このシステム900は、パーソナルコンピューター(図示せず)から通信回線を介して転送されたデータの画像を投写画面PSに表示するPCインタラクティブモードでも動作可能である。PCインタラクティブモードにおいては、例えば表計算ソフトウェアなどのデータの画像が表示され、その画像内に表示された各種のツールやアイコンを利用してデータの入力、作成、修正等を行うことが可能となる。
図3は、インタラクティブプロジェクター100と自発光指示体70の内部構成を示すブロック図である。プロジェクター100は、制御部700と、投写部200と、投写画像生成部500と、位置検出部600と、接触検出部800と、撮像部300と、検出光照射部410と、信号光送信部430とを有している。
制御部700は、プロジェクター100内部の各部の制御を行う。また、制御部700は、位置検出部600で検出された指示体780の三次元位置、および接触検出部800による指示体780の接触検出に基づいて、指示体780によって投写画面PS上で行われた指示の内容を判定するとともに、その指示の内容に従って投写画像を作成又は変更することを投写画像生成部500に指令する。
投写画像生成部500は、投写画像を記憶する投写画像メモリー510を有しており、投写部200によってスクリーン面SS上に投写される投写画像を生成する機能を有する。投写画像生成部500は、更に、投写画面PS(図2(B))の台形歪みを補正するキーストーン補正部としての機能を有することが好ましい。
投写部200は、投写画像生成部500で生成された投写画像をスクリーン面SS上に投写する機能を有する。投写部200は、図2で説明した投写レンズ210の他に、光変調部220と、光源230とを有する。光変調部220は、投写画像メモリー510から与えられる投写画像データに応じて光源230からの光を変調することによって投写画像光IMLを形成する。この投写画像光IMLは、典型的には、RGBの3色の可視光を含むカラー画像光であり、投写レンズ210によってスクリーン面SS上に投写される。なお、光源230としては、超高圧水銀ランプ等の光源ランプの他、発光ダイオードやレーザーダイオード等の種々の光源を採用可能である。また、光変調部220としては、透過型又は反射型の液晶パネルやデジタルミラーデバイス等を採用可能であり、色光別に複数の変調部220を備えた構成としてもよい。
検出光照射部410は、指示体780の先端部を検出するための照射検出光IDLをスクリーン面SSとその前方の空間にわたって照射する。照射検出光IDLとしては、例えば近赤外光が使用される。検出光照射部410は、カメラ310、320の撮像タイミングを含む所定の期間にのみ点灯し、他の期間では消灯する。あるいは、検出光照射部410は、システム900の動作中は常に点灯状態に維持されるようにしてもよい。
信号光送信部430は、同期用の近赤外光信号である装置信号光ASLを送信する機能を有する。装置信号光ASLは、同期用の近赤外光信号であり、プロジェクター100が起動されると、信号光送信部430が自発光指示体70に対して定期的に発する。自発光指示体70の先端発光部77は、装置信号光ASLに同期して、予め定められた発光パターン(発光シーケンス)を有する近赤外光である指示体信号光PSL(後述する)を発する。また、撮像部300のカメラ310,320は、指示体780の位置検出を行う際に、装置信号光ASLに同期した所定のタイミングで撮像を実行する。
撮像部300は、図2で説明した第1カメラ310と第2カメラ320とを有している。前述したように、2台のカメラ310,320は、検出光の波長を含む波長領域の光を受光して撮像する機能を有する。図3の例では、検出光照射部410によって照射された照射検出光IDLが指示体780で反射され、その反射検出光RDLが2台のカメラ310,320によって受光されて撮像される様子が描かれている。2台のカメラ310,320は、更に、自発光指示体70の先端発光部77から発せられる近赤外光である指示体信号光PSLも受光して撮像する。2台のカメラ310,320の撮像は、検出光照射部410から発せられる照射検出光IDLがオン状態(発光状態)である第1の期間と、照射検出光IDLがオフ状態(非発光状態)である第2の期間と、の両方で実行される。位置検出部600は、これらの2種類の期間における画像を比較することによって、画像内に含まれる個々の指示体が、自発光指示体70と非発光指示体80のいずれであるかを判定することができる。
なお、2台のカメラ310,320の少なくとも一方は、近赤外光を含む光を用いて撮像する機能に加えて、可視光を含む光を用いて撮像する機能を有する。こうすれば、スクリーン面SS上に投写された投写画面PSをそのカメラで撮像し、その画像を利用して後述するように、関数算出部820が投写画面PSの三次元の曲面関数を算出することができる。また、投写画像生成部500がキーストーン補正を実行することができる。1台以上のカメラを利用したキーストーン補正の方法は周知なので、ここではその説明は省略する。
位置検出部600は、2台のカメラ310,320で撮像された画像(以下、「撮像画像」とも呼ぶ。)を分析して、2台のカメラの視差を利用した三角測量の原理によって指示体780(自発光指示体70や非発光指示体80)の先端部の三次元位置座標を算出する機能を有する。この際、位置検出部600は、上述の第1の期間と第2の期間における撮像画像を比較することによって、画像内に含まれる個々の指示体780が、自発光指示体70と非発光指示体80のいずれであるかを判定する(後述する)。位置検出部600が検出する三次元座標の座標系は、カメラ310、320のうち、可視光を含む光を用いて撮像する機能を有するカメラの座標系(カメラ座標系)であることが好ましい。また、座標系の原点は、後述する関数算出部820が、プロジェクター100の起動時にスクリーン面SS上に設定した原点を利用することが好ましい。
接触検出部800は、指示体780(自発光指示体70や非発光指示体80)の投写画面PS(スクリーン面SS)への接触を検出する。本実施形態の接触検出部800は、自発光指示体70の投写画面PSへの接触の検出を、自発光指示体70が発する指示体信号光PSLの発光パターンに基づいて実行し、非発光指示体80の投写画面PSへの接触の検出を、位置検出部600によって検出された三次元位置座標に基づいて実行する。但し、接触検出部800は、自発光指示体70の投写画面PSへの接触の検出を、非発光指示体80の投写画面PSへの接触の検出方法と同様の方法によって実行してもよい。
本実施形態の接触検出部800は、投写画面PS(スクリーン面SS)の三次元形状を表す曲面関数を算出する関数算出部820を含んでいる。接触検出部800は、非発光指示体80の投写画面PSへの接触の検出を、位置検出部600によって検出された非発光指示体80の三次元位置座標と、関数算出部820によって算出された投写画面PSの曲面関数とに基づいて実行する。具体的には、接触検出部800は、非発光指示体80の三次元位置座標と、投写画面PSの曲面関数から、非発光指示体80と投写画面PSとの間の距離の算出し、これらの間の距離がゼロまたはゼロに近い誤差許容値以下になったときに、非発光指示体80が投写画面PSに接触していると判定する。接触検出部800による非発光指示体80の接触の検出方法、および、関数算出部820による曲面関数の算出方法については、後に詳述する。
自発光指示体70には、ボタンスイッチ73の他に、信号光受信部74と、制御部75と、先端スイッチ76と、先端発光部77とが設けられている。信号光受信部74は、プロジェクター100の信号光送信部430から発せられた装置信号光ASLを受信する機能を有する。先端スイッチ76は、自発光指示体70の先端部71が押されるとオン状態になり、先端部71が解放されるとオフ状態になるスイッチである。先端スイッチ76は、通常はオフ状態にあり、自発光指示体70の先端部71がスクリーン面SSに接触するとその接触圧によってオン状態になる。先端スイッチ76がオフ状態のときには、制御部75は、先端スイッチ76がオフ状態であることを示す特定の第1の発光パターンで先端発光部77を発光させることによって、第1の発光パターンを有する指示体信号光PSLを発する。一方、先端スイッチ76がオン状態になると、制御部75は、先端スイッチ76がオン状態であることを示す特定の第2の発光パターンで先端発光部77を発光させることによって、第2の発光パターンを有する指示体信号光PSLを発する。これらの第1の発光パターンと第2の発光パターンは、互いに異なるので、位置検出部600は、2台のカメラ310,320で撮像された画像を分析することによって、先端スイッチ76がオン状態かオフ状態かを識別することが可能である。また、接触検出部800は位置検出部600の分析結果に基づいて、自発光指示体70の投写画面PSへの接触を検出可能である。
自発光指示体70のボタンスイッチ73は、先端スイッチ76と同じ機能を有する。従って、制御部75は、ユーザーによってボタンスイッチ73が押された状態では上記第2の発光パターンで先端発光部77を発光させ、ボタンスイッチ73が押されていない状態では上記第1の発光パターンで先端発光部77を発光させる。換言すれば、制御部75は、先端スイッチ76とボタンスイッチ73の少なくとも一方がオンの状態では上記第2の発光パターンで先端発光部77を発光させ、先端スイッチ76とボタンスイッチ73の両方がオフの状態では上記第1の発光パターンで先端発光部77を発光させる。
但し、ボタンスイッチ73に対して先端スイッチ76と異なる機能を割り当てるようにしてもよい。例えば、ボタンスイッチ73に対してマウスの右クリックボタンと同じ機能を割り当てた場合には、ユーザーがボタンスイッチ73を押すと、右クリックの指示がプロジェクター100の制御部700に伝達され、その指示に応じた処理が実行される。このように、ボタンスイッチ73に対して先端スイッチ76と異なる機能を割り当てた場合には、先端発光部77は、先端スイッチ76のオン/オフ状態及びボタンスイッチ73のオン/オフ状態に応じて、互いに異なる4つの発光パターンで発光する。この場合には、自発光指示体70は、先端スイッチ76とボタンスイッチ73のオン/オフ状態の4つの組み合わせを区別しつつ、プロジェクター100に伝達することが可能である。
図4は、自発光指示体70と非発光指示体80を利用した操作の様子を示す説明図である。この例では、自発光指示体70の先端部71と非発光指示体80の先端部81はいずれもスクリーン面SSから離れている。自発光指示体70の先端部71のXY座標(X71,Y71)は、ツールボックスTBの消しゴムボタンERBの上にある。また、ここでは、自発光指示体70の先端部71の機能を表すツールとしてマウスポインターPTが選択されており、マウスポインターPTの先端OP71が消しゴムボタンERBの上に存在するように、マウスポインターPTが投写画面PSに描画されている。前述したように、自発光指示体70の先端部71の三次元位置は、2台のカメラ310,320で撮像された画像を用いた三角測量で決定される。従って、投写画面PS上において、三角測量で決定された先端部71の三次元位置座標(X71,Y71,Z71)のうちのXY座標(X71,Y71)の位置にマウスポインターPTの先端にある操作ポイントOP71が配置されようにマウスポインターPTが描画される。すなわち、マウスポインターPTの先端OP71は、自発光指示体70の先端部71の三次元位置座標(X71,Y71,Z71)のうちのXY座標(X71,Y71)に配置され、この位置においてユーザーの指示が行われる。例えば、ユーザーは、この状態で自発光指示体70の先端部71を投写画面PS上に接触させて、消しゴムツールを選択することが可能である。また、ユーザーは、この状態で自発光指示体70のボタンスイッチ73を押すことによって、消しゴムツールを選択することも可能である。このように、本実施形態では、自発光指示体70がスクリーン面SSから離間した状態にある場合にも、ボタンスイッチ73を押すことによって、先端部71のXY座標(X71,Y71)に配置される操作ポイントOP71における投写画面PSの内容に応じた指示をプロジェクター100に与えることが可能である。
図4(B)では、また、非発光指示体80の先端部81の機能を表すツールとしてペンツールPEが選択されており、ペンツールPEが投写画面PSに描画されている。前述したように、非発光指示体80の先端部81の三次元位置も、2台のカメラ310,320で撮像された画像を用いた三角測量で決定される。従って、投写画面PS上において、三角測量で決定された先端部81の三次元位置座標(X81,Y81,Z81)のうちのXY座標(X81,Y81)の位置にペンツールPEの先端にある操作ポイントOP81が配置されようにペンツールPEが描画される。但し、非発光指示体80を利用してユーザーが指示をプロジェクター100に与える際には、非発光指示体80の先端部81を投写画面PS上に接触させた状態でその指示(描画やツールの選択など)が行なわれる。
図4の例では、指示体780(自発光指示体70や非発光指示体80)の先端部が投写画面PSから離れている場合にも、個々の指示体によって選択されたツール(マウスポインターPTやペンツールPE)が投写画面PSに描画されて表示される。従って、ユーザーが指示体の先端部を投写画面PSに接触していない場合にも、その指示体によってどのツールが選択されているのかを理解し易く、操作が容易であるという利点がある。また、ツールの操作ポイントOPが指示体の先端部の三次元位置座標のうちのXY座標の位置に配置されるようにそのツールが描画されるので、ユーザーが、利用中のツールの位置を適切に認識できるという利点がある。
なお、このインタラクティブプロジェクションシステム900は、複数の自発光指示体70を同時に利用可能に構成されている。この場合には、上述した指示体信号光PSLの発光パターンは、複数の自発光指示体70を識別できる固有の発光パターンであることが好ましい。より具体的に言えば、N個(Nは2以上の整数)の自発光指示体70を同時に利用可能な場合には、指示体信号光PSLの発光パターンは、N個の自発光指示体70を区別できるものであることが好ましい。なお、1組の発光パターンに複数回の単位発光期間が含まれている場合に、1回の単位発光期間では、発光と非発光の2値を表現することができる。ここで、1回の単位発光期間は、自発光指示体70の先端発光部77が、オン/オフの1ビットの情報を表現する期間に相当する。1組の発光パターンがM個(Mは2以上の整数)の単位発光期間で構成される場合には、1組の発光パターンによって2−1個の状態を区別できる。従って、1組の発光パターンを構成する単位発光期間の数Mは、次式(5)を満足するように設定されることが好ましい。
Figure 0006459705
ここで、Qは自発光指示体70のスイッチ73,76で区別される状態の数であり、本実施形態の例ではQ=2又はQ=4である。例えば、Q=4の場合には、N=2のときにはMを3以上の整数に設定し、N=3〜4のときにはMを4以上の整数に設定することが好ましい。このとき、位置検出部600(又は制御部700)がN個の自発光指示体70、及び、各自発光指示体70のスイッチ73,76の状態を識別する際には、1組の発光パターンのM個の単位発光期間において各カメラ310,320でそれぞれ撮像されたM枚の画像を用いてその識別を実行する。なお、このMビットの発光パターンは、照射検出光IDLをオフの状態に維持した状態で指示体信号光PSLをオン又はオフに設定したパターンであり、カメラ310,320で撮像される画像には非発光指示体80が写らない。そこで、非発光指示体80の位置を検出するために用いる画像を撮像するために、照射検出光IDLをオン状態とした1ビットの単位発光期間を更に追加することが好ましい。但し、位置検出用の単位発光期間では、指示体信号光PSLはオン/オフのいずれでも良い。この位置検出用の単位発光期間で得られた画像は、自発光指示体70の位置検出にも利用することが可能である。
図3に描かれている5種類の信号光の具体例をまとめると以下の通りである。
(1)投写画像光IML:スクリーン面SSに投写画面PSを投写するために、投写レンズ210によってスクリーン面SS上に投写される画像光(可視光)である。
(2)照射検出光IDL: 指示体780(自発光指示体70及び非発光指示体80)の先端部を検出するために、検出光照射部410によってスクリーン面SSとその前方の空間にわたって照射される近赤外光である。
(3)反射検出光RDL:照射検出光IDLとして照射された近赤外光のうち、指示体780(自発光指示体70及び非発光指示体80)によって反射され、2台のカメラ310,320によって受光される近赤外光である。
(4)装置信号光ASL:プロジェクター100と自発光指示体70との同期をとるために、プロジェクター100の信号光送信部430から定期的に発せられる近赤外光である。
(5)指示体信号光PSL:装置信号光ASLに同期したタイミングで、自発光指示体70の先端発光部77から発せられる近赤外光である。指示体信号光PSLの発光パターンは、自発光指示体70のスイッチ73,76のオン/オフ状態に応じて変更される。また、複数の自発光指示体70を識別する固有の発光パターンを有する。
本実施形態において、自発光指示体70と非発光指示体80の先端部の位置検出、及び、自発光指示体70と非発光指示体80により指示される内容の判別は、それぞれ以下のように実行される。
A2.自発光指示体70の位置検出方法及び指示内容の判別方法の概要
自発光指示体70の先端部71の三次元位置座標(X71,Y71,Z71)は、位置検出部600が、2台のカメラ310,320により撮像された画像を用いて三角測量に従って決定する。この際、自発光指示体70であるか否かは、所定の複数のタイミングで撮像された画像に先端発光部77の発光パターンが現れているか否かを判断することによって認識可能である。また、自発光指示体70の先端部71がスクリーン面SSに接触しているか否か(すなわち先端スイッチ76がオンか否か)についても、上記複数のタイミングで撮像された画像における先端発光部77の発光パターンを用いて判別可能である。位置検出部600および接触検出部800によって、自発光指示体70の先端部71の三次元位置の検出と、先端部71のスクリーン面SSへの接触を検出することができる。制御部700は、位置検出部600および接触検出部800の検出結果に基づいて、自発光指示体70による指示内容を判別して、指示内容に応じた画像を投写画像生成部500に生成させて、投写部200によってスクリーン面SS上に指示内容に応じた画像を投写させる。例えば、図4(B)に例示したように、先端部71のXY座標(X71,Y71)の位置がツールボックスTB内のいずれかのボタンの上にある状態で先端スイッチ76がオンになった場合には、そのボタンのツールが選択される。また、図2(B)に例示したように、先端部71のXY座標(X71,Y71)が投写画面PS内のツールボックスTB以外の位置にある状態で先端スイッチ76がオンになった場合には、選択されたツールによる処理(例えば描画)が選択される。制御部700は、自発光指示体70の先端部71のXY座標(X71,Y71)を利用し、予め選択されているポインターやマークが投写画面PS内の位置(X71,Y71)に配置されるように、そのポインターやマークを投写画像生成部500に描画させる。また、制御部700は、自発光指示体70によって指示された内容に従った処理を実行して、投写画像生成部500にその処理結果を含む画像を描画させる。
A3.非発光指示体80の位置検出方法及び指示内容の判別方法の概要
非発光指示体80の先端部81の三次元位置座標(X81,Y81,Z81)も、2台のカメラ310,320により撮像された画像を用いて、三角測量に従って決定される。この際、非発光指示体80であるか否かは、所定の複数のタイミングで撮像された画像に自発光指示体70の発光パターンが現れているか否かを判断することによって認識可能である。なお、2台のカメラ310,320により撮像された2枚の画像における非発光指示体80の先端部81の位置は、テンプレートマッチングや特徴抽出等の周知の技術を利用して決定することができる。例えば、テンプレートマッチングによって指である非発光指示体80の先端部81を認識する場合には、指に関する複数のテンプレートを予め準備しておき、2台のカメラ310,320により撮像された画像において、これらのテンプレートに適合する部分を検索することによって指の先端部81を認識することが可能である。接触検出部800は、非発光指示体80の先端部81がスクリーン面SSに接しているか否かについて、位置検出部600が三角測量で決定した先端部81のZ座標値と、投写画面PSの曲面関数から算出されるスクリーン面SSのZ座標値との差が微小な許容差以下か否か、すなわち、先端部81がスクリーン面SSの表面に十分に近いか否かに応じて判定する。この許容差としては、例えば、2mm〜6mm程度の小さな値を使用することが好ましい。制御部700は、接触検出部800が非発光指示体80の先端部81がスクリーン面SSに接していると判定した場合には、その接触位置における投写スクリーン面SSの内容に応じてその指示内容を判別する。また、制御部700は、位置検出部600で検出された非発光指示体80の先端のXY座標(X81,Y81)を利用し、予め選択されているポインターやマークが投写画面PS内の位置(X81,Y81)に配置されるように、そのポインターやマークを投写画像生成部500に描画させてもよい。また、制御部700は、非発光指示体80によって指示された内容に従った処理を実行して、投写画像生成部500にその処理結果を含む画像を描画させてもよい。
A4.投写画面PSの曲面関数の算出(その1)
図5は、投写画面PSの曲面関数の算出に使用される測定用パターン画像CPMが表示された投写画面PSを例示した図である。関数算出部820は、以下の方法によって投写画面PSの三次元の曲面関数を算出することができる。まず、投写部200は、プロジェクター100の起動時に測定用パターン画像CPM(キャリブレーションパターン画像)が表された投写画面PSを投写スクリーン面SSに投射する。測定用パターン画像CPMは、複数の基準点Pcを含んだ画像であり、測定用パターン画像データとして図示しない記憶部に予め記憶されている。本実施例では、測定用パターン画像CPMには、25個の基準点Pc(Pc1〜Pc25)が縦方向に5個、横方向に5個となるように並んで配置されている。測定用パターン画像CPMに含まれる基準点Pcの数Pは、P≧3であれば、上記の数に限定されない。但し、基準点Pcは、測定用パターン画像CPM内で行列状に規則正しく配列されていることが好ましい。また、基準点Pcは、投写画面PS上の特定の位置を識別可能な構成であれば、点(ドット)に限定されず、例えば、2つの直線の交点や矩形の角部であってもよい。
投写スクリーン面SSに測定用パターン画像CPMが表示された投写画面PSが投射されているときに、撮像部300は、第1カメラ310および第2カメラ320のうち、第2の撮像機能(可視光を含む光を受光して撮像する機能)を有するカメラによって、測定用パターン画像CPMが表示された投写画面PSを含む領域を撮影する。これにより測定用パターン画像CPMを含んだ撮像画像CIが得られる。関数算出部820は、得られた撮像画像CIを解析して、撮像画像CIにおける各基準点Pcの位置を検出し、検出された位置から各基準点Pcの三次元位置座標を検出する。関数算出部820が検出する三次元座標の座標系は、位置検出部600が指示体780の三次元位置座標を検出するときのカメラ座標系と同じであることが好ましい。基準点Pcの三次元位置座標の検出は、投写部200と撮像部300(撮影したカメラ)との視差を利用し、三角測量の原理により検出する能動型のアクティブステレオ法を用いてもよい。なお、基準点Pcの三次元位置座標の検出には、アクティブステレオ法以外の方法(例えば、2つのカメラを用いた受動型のステレオ法)を用いてもよい。これにより、各基準点Pc1〜Pc25の三次元位置座標Pc1(Xc1,Yc1,Zc1)、Pc2(Xc2,Yc2,Zc2)、Pc3(Xc3,Yc3,Zc3)、・・・、Pc25(Xc25,Yc25,Zc25)を得ることができる。なお、関数算出部820は、基準点Pc1〜Pc25のうちのいずれか一点を座標系の原点として他の基準点Pcの三次元位置座標を算出することが好ましく、基準点Pc1〜Pc25のうち、投写画面PSの中心に位置する基準点Pc13を座標系の原点とすることがより好ましい。
関数算出部820は、検出した各基準点Pcの三次元位置座標に基づき、投写画面PSの近似曲面を表す曲面関数を算出する。本実施形態の関数算出部820は、下記の式(1)をフィッティング関数として算出することが好ましい。
Figure 0006459705
ここで、N1、N2、N3はP≧N1+N2+N3+1を満たすゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは基準点Pcの数である。a、b、c、dは定数であり、a、b、cの少なくとも1つはゼロではない。本実施形態によれば、投写画面PSの三次元形状がN1次のXとN2次のYとN3次のZを含んだ曲面関数に近似される。なお、N1、N2、N3をP≧N1+N2+N3+1とすることによって、基準点Pcの数Pを式(1)に含まれる未知数の数(N1+N2+N3+1)以上にすることができ、これらの未知数の値(近似解を含む)を算出することができる。また、上記式(1)から明らかなように、投写画面PSの三次元の曲面関数とは、三次元の平面関数を含んでいる(例えば、N1、N2、N3がすべて1のとき)。関数算出部820は、投写部200が投射する測定用パターン画像CPMの種類が複数存在する場合には、それぞれの測定用パターン画像CPMに含まれる基準点Pcの数Pに応じてN1、N2、N3を設定してもよい。
ここでは、測定用パターン画像CPMに含まれる基準点Pcの数Pを25、式(1)のN1、N2、N3をすべて4とした場合の一例について説明する。式(1)と、25箇所の基準点Pc1〜Pc25の三次元位置座標から、以下の式(6)のように25の連立方程式が成り立つ。未知数の数は、a1〜a4、b1〜b4、c1〜c4、dの13であるため、式(6)は過剰条件の連立方程式となる。この場合には、例えば、最小二乗法によって近似解を算出することができる。最小二乗法による近似解の算出方法は周知なので、ここではその説明を省略する。上記の未知数の値の算出によって、投写画面PSの曲面関数を算出できる。
Figure 0006459705
A5.投写画面PSと非発光指示体80との接触の検出
接触検出部800は、位置検出部600によって算出される非発光指示体80の先端部81の三次元位置座標(X81,Y81,Z81)のうちのXY座標(X81,Y81)を関数算出部820が算出した投写画面PSの曲面関数に代入することによって、非発光指示体80の先端部81をZ方向に投射したときのスクリーン面SS上のZ座標を算出することができる。そして、非発光指示体80の先端部81のZ座標と、スクリーン面SS上のZ座標との差分を非発光指示体80と投写スクリーン面SSとの間の距離とすることができる。そして、この距離が許容差以下となったときに、非発光指示体80の投写スクリーン面SSへの接触を検出することができる。
図6および図7は、曲面形状のスクリーンに測定用パターン画像CPMが投写された例を示した図である。図6のスクリーン面SS1は、左右方向が内側に湾曲した面によって形成されており、図7のスクリーン面SS2は、上下方向が内側に湾曲した面によって形成されている。本実施形態によれば、関数算出部820は、投写画面PSの三次元形状を式(1)のような曲面関数に近似させるため、スクリーン面が曲面であっても、投写画面PSの三次元形状を表す関数と実際のスクリーン面の形状との誤差を低減させることができる。これにより非発光指示体80の投写スクリーン面SSへの接触を検出する精度の向上を図ることができる。
B.投写画面PSの曲面関数の算出(その2)
関数算出部820は、検出された各基準点Pcの三次元位置座標に基づき、各基準点Pc1〜Pc25の三次元位置座標Pc1(Xc1,Yc1,Zc1)、Pc2(Xc2,Yc2,Zc2)、Pc3(Xc3,Yc3,Zc3)、・・・、Pc25(Xc25,Yc25,Zc25)のそれぞれのZ座標がすべてZ=0となる座標系にマッピングするマッピング関数を算出してもよい。そして、位置検出部600によって検出される非発光指示体80の先端部81の三次元位置座標をマッピング関数で変換することによって、変換後の三次元位置座標のうちのZ座標を先端部81と投写スクリーン面SSとの間の距離としてもよい。すなわち、接触検出部800は、変換後の非発光指示体80の先端部81のZ座標が許容値以下の場合に、非発光指示体80が投写スクリーン面SSと接触したと判定してもよい。
また、例えば、関数算出部820は、下記の式(2)をフィッティング関数として、投写画面PSの近似曲面を表す曲面関数を算出してもよい。
Figure 0006459705
ここで、N1、N2はP≧N1+N2+1を満たすゼロまたは正の整数であり、少なくとも一つは正の整数である。a、b、dは定数であり、a、bの少なくとも1つはゼロではない。この場合、非発光指示体80の先端部81の三次元位置座標(X81,Y81,Z81)に対して、三次元位置座標(X81,Y81,Z81−Z)は、マッピング関数で変換した変換後の非発光指示体80の先端部81の三次元位置座標に相当する。この変換後のZ座標(Z81−Z)は、非発光指示体80の先端部81と投写画面PS(投写スクリーン面SS)との距離に該当し、Z座標(Z81−Z)がゼロに近い所定値以下のときに非発光指示体80の先端部81の投写画面PSへの接触を検出してもよい。この構成によれば、式(2)のZ座標の項は係数が1の1次項を含むだけなので、未知数の数(N1+N2+1)を式(1)の未知数の数(N1+N2+N3+1)よりも少なくすることができる。これにより、曲面関数の算出に要する時間の短縮や、算出に要する処理負担の軽減を図ることができる。
C.投写画面PSの曲面関数の算出(その3)
関数算出部820は、上記の式(1)のほかに、下記の式(3)をフィッティング関数としてもよい。
Figure 0006459705
ここで、M1、M2、M3はP≧M1+M2+M3+1を満たすゼロまたは正の整数であり、少なくとも一つは正の整数である。a、b、c、dは定数であり、a、b、cの少なくとも1つはゼロではない。この構成によれば、投写画面PSの三次元形状は次数が偶数の項のみの曲面関数に近似される。式(3)は、式(1)と比較して、次数が奇数の項を含んでいないため、次数が同じ関数において、未知数の数を少なくすることができる。これにより、曲面関数の算出に要する時間の短縮や、処理負担の軽減を図ることができる。また、同じ処理量で式(1)より次数の高い曲面関数にフィットさせることができるため、関数をより実際のスクリーン面SSの形状に近似させることができる。実際のスクリーン面として、図6または図7に示したように、スクリーン面の両側面が内側に湾曲したもの、および、スクリーン面の上端部と下端部が内側に湾曲したものが用いられる場合がある。これは、スクリーン面への映り込みを抑制し、スクリーン面の両側面付近や上下端部付近の画像をより見やすくするためである。このようなスクリーン面の曲面関数としては、上記式(3)のような偶数次の項のみを含む関数を使用することが好ましい。このとき、座標系の原点は、投写画面PSの中心に設定することが好ましい。
D.投写画面PSの曲面関数の算出(その4)
また、式(1)と式(2)との関係と同様に、関数算出部820は、式(4)をフィッティング関数として、投写画面PSの曲面関数を算出してもよい。
Figure 0006459705
ここで、M1、M2はP≧M1+M2+1を満たすゼロまたは正の整数であり、少なくとも一つは正の整数である。a、b、dは定数であり、a、bの少なくとも1つはゼロではない。この構成によれば、式(4)は、式(1)と比較して、Z座標の項に係数がなく、また、次数が奇数の項を含んでいないため、未知数の数を少なくすることができる。これにより、曲面関数の算出に要する時間の短縮や、処理負担の軽減を図ることができる。
E.変形例
なお、この発明は上記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。
・変形例1
上記実施形態では、撮像部300が2台のカメラ310,320を有しているものとしたが、撮像部300は3台以上のカメラを有していてもよい。後者の場合には、m台(mは3以上の整数)のカメラで撮像されたm個の画像に基づいて、三次元位置座標(X,Y,Z)が決定される。例えば、m個の画像から2個の画像を任意に選択して得られる個の組み合わせを用いてそれぞれ三次元位置座標を求め、それらの平均値を用いて最終的な三次元位置座標を決定しても良い。こうすれば、三次元位置座標の検出精度を更に高めることが可能である。
・変形例2
上記実施形態では、インタラクティブプロジェクションシステム900がホワイトボードモードとPCインタラクティブモードとで動作可能であるものとしたが、これらのうちの一方のモードのみで動作するようにシステムが構成されていても良い。また、インタラクティブプロジェクションシステム900は、これら2つのモード以外の他のモードのみで動作するように構成されていても良く、更に、これら2つのモードを含む複数のモードで動作可能に構成されていてもよい。
・変形例3
上記実施形態では、図3に示した照射検出光IDLと、反射検出光RDLと、装置信号光ASLと、指示体信号光PSLとがすべて近赤外光であるものとしたが、これらのうちの一部又は全部を近赤外光以外の光としてもよい。
・変形例4
上記実施形態では、自発光指示体70の接触検出を、自発光指示体70が発する指示体信号光PSLの発光パターンに基づいて行っている。しかし、自発光指示体70の先端部71の三次元位置は、2台のカメラ310,320で撮像された画像を用いた三角測量によって求めることができるので、この三次元位置を用いて自発光指示体70の先端部71の接触検出を実行することも可能である。
以上、いくつかの実施例に基づいて本発明の実施の形態について説明してきたが、上記した発明の実施の形態は、本発明の理解を容易にするためのものであり、本発明を限定するものではない。本発明は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得るとともに、本発明にはその等価物が含まれることはもちろんである。
70…自発光指示体
71…先端部
72…軸部
73…ボタンスイッチ
74…信号光受信部
75…制御部
76…先端スイッチ
77…先端発光部
80…非発光指示体
81…先端部
100…インタラクティブプロジェクター
200…投写部
210…投写レンズ
220…光変調部
230…光源
300…撮像部
310…第1カメラ
320…第2カメラ
410…検出光照射部
430…信号光送信部
500…投写画像生成部
510…投写画像メモリー
600…位置検出部
700…制御部
780…指示体
800…接触検出部
820…関数算出部
900…インタラクティブプロジェクションシステム
910…支持部材
920…スクリーン板

Claims (8)

  1. 投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
    スクリーン面上に前記投写画面を投写する投写部と、
    前記投写画面の領域を撮像する第1カメラ及び第2カメラを含む複数台のカメラと、
    前記複数台のカメラによって撮像された前記指示体を含む複数の画像に基づいて、前記投写画面に対する前記指示体の三次元位置を検出する位置検出部と、
    前記投写部によって前記投写画面の位置を検出するための特定の画像が投写されているときに、前記カメラによって撮像された前記特定の画像を含んだ撮像画像に基づいて、前記投写画面の三次元形状を表す曲面関数を算出する関数算出部と、
    前記位置検出部が検出した前記指示体の三次元位置と、前記関数算出部によって算出された前記曲面関数とを用いて、前記指示体の前記投写画面への接触を検出する接触検出部と、を備え、
    前記関数算出部は、前記特定の画像を含んだ前記撮像画像に基づいて、前記投写画面上の互いに異なる複数の基準点の三次元位置を検出し、前記複数の基準点の三次元位置に基づいて前記曲面関数を算出する、インタラクティブプロジェクター。
  2. 請求項1に記載のインタラクティブプロジェクターであって、
    前記関数算出部は、前記曲面関数を式(1)で表される関数として算出する、インタラクティブプロジェクター。
    Figure 0006459705
    (ここで、N1、N2、N3は、P≧N1+N2+N3+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、c、dは、定数であり、a、b、cの少なくとも1つはゼロではない。)
  3. 請求項1に記載のインタラクティブプロジェクターであって、
    前記関数算出部は、前記曲面関数を式(2)で表される関数として算出する、インタラクティブプロジェクター。
    Figure 0006459705
    (ここで、N1、N2は、P≧N1+N2+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、dは、定数であり、a、bの少なくとも1つはゼロではない。)
  4. 請求項1に記載のインタラクティブプロジェクターであって、
    前記関数算出部は、前記曲面関数を式(3)で表される関数として算出する、インタラクティブプロジェクター。
    Figure 0006459705
    (ここで、M1、M2、M3は、P≧M1+M2+M3+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、c、dは、定数であり、a、b、cの少なくとも1つはゼロではない。)
  5. 請求項1に記載のインタラクティブプロジェクターであって、
    前記関数算出部は、前記曲面関数を式(4)で表される関数として算出する、インタラクティブプロジェクター。
    Figure 0006459705
    (ここで、M1、M2は、P≧M1+M2+1となるゼロまたは正の整数であり、少なくとも一つは正の整数である。Pは、前記基準点の数である。a、b、dは、定数であり、a、bの少なくとも1つはゼロではない。)
  6. 請求項1から請求項5までのいずれか一項に記載のインタラクティブプロジェクターは、さらに、
    前記接触検出部が前記指示体の前記投写画面への接触を検出しているときの前記指示体の三次元位置に基づいて、前記ユーザーの指示の内容を判定する制御部を備える、インタラクティブプロジェクター。
  7. インタラクティブプロジェクションシステムであって、
    請求項1から請求項6までのいずれか一項に記載のインタラクティブプロジェクターと、
    前記投写画面が投写されるスクリーン面を有するスクリーン板と、
    前記投写画面への接触時と非接触時とで異なる発光パターンで指示体信号光を発光する発光部を備える自発光指示体と、前記発光部を備えない非発光指示体との少なくともいずれか一方を含む指示体と、
    を備えるインタラクティブプロジェクションシステム。
  8. 投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターの制御方法であって、
    スクリーン面上に前記投写画面を投写し、
    第1カメラ及び第2カメラを含む複数台のカメラで前記投写画面の領域を撮像し、
    前記複数台のカメラによって撮像された前記指示体を含む複数の画像に基づいて、前記投写画面に対する前記指示体の三次元位置を検出し、
    前記投写画面の位置を検出するための特定の画像が投写されているときに、前記カメラによって撮像された前記特定の画像を含んだ撮像画像に基づいて、前記投写画面の三次元形状を表す曲面関数を算出し、
    検出した前記指示体の三次元位置と、算出された前記曲面関数とを用いて、前記指示体の前記投写画面への接触を検出し、
    前記曲面関数を算出する際に、前記特定の画像を含んだ前記撮像画像に基づいて、前記投写画面上の互いに異なる複数の基準点の三次元位置を検出し、前記複数の基準点の三次元位置に基づいて前記曲面関数を算出する、インタラクティブプロジェクターの制御方法。
JP2015065625A 2015-03-27 2015-03-27 インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及び、インタラクティブプロジェクターの制御方法 Expired - Fee Related JP6459705B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2015065625A JP6459705B2 (ja) 2015-03-27 2015-03-27 インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及び、インタラクティブプロジェクターの制御方法
EP16771653.9A EP3276464A4 (en) 2015-03-27 2016-03-11 INTERACTIVE PROJECTOR, INTERACTIVE PROJECTION SYSTEM AND METHOD FOR CONTROLLING AN INTERACTIVE PROJECTOR
US15/561,321 US10416787B2 (en) 2015-03-27 2016-03-11 Interactive projector, interactive projection system, and interactive projector control method
PCT/JP2016/001396 WO2016157759A1 (ja) 2015-03-27 2016-03-11 インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及びインタラクティブプロジェクターの制御方法
KR1020177030897A KR20170129948A (ko) 2015-03-27 2016-03-11 인터랙티브 프로젝터, 인터랙티브 프로젝션 시스템 및, 인터랙티브 프로젝터의 제어 방법
CN201680012870.8A CN107407995B (zh) 2015-03-27 2016-03-11 交互式投影仪、交互式投影系统以及交互式投影仪的控制方法
TW105109281A TW201635100A (zh) 2015-03-27 2016-03-24 互動式投影機、互動式投影系統及互動式投影機之控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015065625A JP6459705B2 (ja) 2015-03-27 2015-03-27 インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及び、インタラクティブプロジェクターの制御方法

Publications (2)

Publication Number Publication Date
JP2016186668A JP2016186668A (ja) 2016-10-27
JP6459705B2 true JP6459705B2 (ja) 2019-01-30

Family

ID=57004181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015065625A Expired - Fee Related JP6459705B2 (ja) 2015-03-27 2015-03-27 インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及び、インタラクティブプロジェクターの制御方法

Country Status (7)

Country Link
US (1) US10416787B2 (ja)
EP (1) EP3276464A4 (ja)
JP (1) JP6459705B2 (ja)
KR (1) KR20170129948A (ja)
CN (1) CN107407995B (ja)
TW (1) TW201635100A (ja)
WO (1) WO2016157759A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7035555B2 (ja) * 2018-01-23 2022-03-15 セイコーエプソン株式会社 教示装置、及びシステム
JP2021022807A (ja) * 2019-07-26 2021-02-18 セイコーエプソン株式会社 プロジェクターの制御方法、及び、プロジェクター
JP7243510B2 (ja) * 2019-07-29 2023-03-22 セイコーエプソン株式会社 プロジェクターの制御方法、及びプロジェクター
JP2023017206A (ja) * 2021-07-26 2023-02-07 セイコーエプソン株式会社 プロジェクターの制御方法、及びプロジェクター

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8228305B2 (en) * 1995-06-29 2012-07-24 Apple Inc. Method for providing human input to a computer
US6710770B2 (en) * 2000-02-11 2004-03-23 Canesta, Inc. Quasi-three-dimensional method and apparatus to detect and localize interaction of user-object and virtual transfer device
DE10007891C2 (de) * 2000-02-21 2002-11-21 Siemens Ag Verfahren und Anordnung zur Interaktion mit einer in einem Schaufenster sichtbaren Darstellung
JP3497805B2 (ja) * 2000-08-29 2004-02-16 オリンパス株式会社 画像投影表示装置
JP2003036142A (ja) * 2001-07-24 2003-02-07 Hitachi Ltd プレゼンテーションシステム、およびプレゼンテーション方法
NO323926B1 (no) 2004-11-12 2007-07-23 New Index As Visuelt system samt styringsobjekt og apparat til bruk i systemet.
US20070247422A1 (en) * 2006-03-30 2007-10-25 Xuuk, Inc. Interaction techniques for flexible displays
WO2008004438A1 (fr) * 2006-07-03 2008-01-10 Panasonic Corporation Système de projecteur et procédé de projection d'image video
JP5593802B2 (ja) * 2010-04-16 2014-09-24 セイコーエプソン株式会社 位置検出システム及びその制御方法、並びにプログラム
US8727539B2 (en) * 2010-10-28 2014-05-20 Seiko Epson Corporation Projector and method of controlling projector
JP2012150636A (ja) 2011-01-19 2012-08-09 Seiko Epson Corp 投写型表示装置及び情報処理システム
JP6141596B2 (ja) * 2011-12-27 2017-06-07 セイコーエプソン株式会社 表示装置、表示システム及び表示装置のデータ供給方法

Also Published As

Publication number Publication date
TW201635100A (zh) 2016-10-01
US20180101246A1 (en) 2018-04-12
CN107407995B (zh) 2020-06-26
EP3276464A4 (en) 2019-02-13
US10416787B2 (en) 2019-09-17
CN107407995A (zh) 2017-11-28
EP3276464A1 (en) 2018-01-31
JP2016186668A (ja) 2016-10-27
KR20170129948A (ko) 2017-11-27
WO2016157759A1 (ja) 2016-10-06

Similar Documents

Publication Publication Date Title
JP6477131B2 (ja) インタラクティブプロジェクター,インタラクティブプロジェクションシステム,およびインタラクティブプロジェクターの制御方法
JP6623812B2 (ja) 位置検出装置、及び、そのコントラスト調整方法
US10133366B2 (en) Interactive projector and interactive projection system
JP6477130B2 (ja) インタラクティブプロジェクター及びインタラクティブプロジェクションシステム
JP6459705B2 (ja) インタラクティブプロジェクター、インタラクティブプロジェクションシステム、及び、インタラクティブプロジェクターの制御方法
JP6485160B2 (ja) インタラクティブプロジェクター、及び、インタラクティブプロジェクターの制御方法
JP6459706B2 (ja) インタラクティブプロジェクター及びインタラクティブプロジェクションシステム
JP6503828B2 (ja) インタラクティブプロジェクションシステム,指示体,およびインタラクティブプロジェクションシステムの制御方法
JP6451446B2 (ja) インタラクティブプロジェクター及びインタラクティブプロジェクションシステム
JP6631280B2 (ja) 位置検出装置、位置検出システム、及び、位置検出方法
JP6569361B2 (ja) インタラクティブプロジェクター及びそのz座標の補正方法
US9958958B2 (en) Interactive projector and method of controlling interactive projector
JP2016186679A (ja) インタラクティブプロジェクターおよびインタラクティブプロジェクターの制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181217

R150 Certificate of patent or registration of utility model

Ref document number: 6459705

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees