JP6547366B2 - インタラクティブプロジェクター - Google Patents

インタラクティブプロジェクター Download PDF

Info

Publication number
JP6547366B2
JP6547366B2 JP2015065674A JP2015065674A JP6547366B2 JP 6547366 B2 JP6547366 B2 JP 6547366B2 JP 2015065674 A JP2015065674 A JP 2015065674A JP 2015065674 A JP2015065674 A JP 2015065674A JP 6547366 B2 JP6547366 B2 JP 6547366B2
Authority
JP
Japan
Prior art keywords
indicator
image
correlation value
captured image
projection screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015065674A
Other languages
English (en)
Other versions
JP2016186680A (ja
Inventor
ニュルスタッド、トルモド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2015065674A priority Critical patent/JP6547366B2/ja
Priority to US15/077,843 priority patent/US10055026B2/en
Publication of JP2016186680A publication Critical patent/JP2016186680A/ja
Application granted granted Critical
Publication of JP6547366B2 publication Critical patent/JP6547366B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191—Testing thereof
    • H04N9/3194—Testing thereof including sensor feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Position Input By Displaying (AREA)

Description

本発明は、投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクター、及び、そのシステムに関する。
特許文献１には、投写画面をスクリーンに投写するとともに、指などの対象物（object）を含む画像をカメラで撮像し、この撮像画像を用いて対象物の位置を検出することが可能な投写型表示装置（プロジェクター）が開示されている。指などの対象物は、投写画面に対して指示を行うための指示体として利用される。すなわち、プロジェクターは、対象物の先端がスクリーンに接しているときに投写画面に対して描画等の所定の指示が入力されているものと認識し、その指示に応じて投写画面を再描画する。従って、ユーザーは、投写画面をユーザーインターフェースとして用いて、各種の指示を入力することが可能である。このように、スクリーン上の投写画面を入力可能ユーザーインターフェースとして利用できるタイプのプロジェクターを、「インタラクティブプロジェクター」と呼ぶ。また、投写画面に対して指示を行うために利用される対象物を「指示体（pointing element）」と呼ぶ。
特開２０１２−１５０６３６号公報
典型的なインタラクティブプロジェクターでは、指示体の先端がスクリーンに接しているか否かに応じて、指示体によって指示がなされているか否かを判定する。特許文献１では、指示体（対象物）をテンプレートとしてテンプレートマッチング処理を行い、指示体を検出することが記載されているものの、指示体の検出方法について、詳細な検討がなされておらず、指示体の精度よい検出が望まれていた。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態又は適用例として実現することが可能である。
［形態１］
投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
スクリーン面上に前記投写画面を投写する投写部と、
前記投写画面の領域を撮像する撮像部と、
前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
前記投写画面が記憶された投写画面記憶部と、
を備え、
前記指示体検出部は、
前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
前記指示体検出部は、前記撮像画像に含まれる前記投写画面の、前記投写画面記憶部における前記投写画面に対する変形率を前記小領域ごとに導いて、前記変形率に基づいて前記検出処理のパラメーターを決定する、
インタラクティブプロジェクター。
このインタラクティブプロジェクターでは、撮像画像を複数の小領域に区分して、小領域ごとに適したパラメーターを用いて検出処理を行うことにより、検出処理の精度を向上させて、指示体の検出精度を向上させることができる。さらに、この構成によれば、所定の区分方法で区分された各小領域の変形率に応じた適切なパラメーターを用いて、指示体の検出処理が実施されるため、指示体の検出精度を向上させることができる。
［形態２］
投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
スクリーン面上に前記投写画面を投写する投写部と、
前記投写画面の領域を撮像する撮像部と、
前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
を備え、
前記指示体検出部は、
前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
前記検出処理として、前記指示体を検出するためのテンプレート画像を用いたテンプレートマッチングを実施し、
さらに、前記撮像画像の解像度を変換した画像に相当する解像度変換後画像と前記テンプレート画像とを用いて相関値を算出し、前記撮像画像を用いた相関値と、前記解像度変換後画像を用いた相関値とを加算した結果に基づいて、前記指示体を検出し、
前記パラメーターは、前記撮像画像を用いた相関値と、前記解像度変換後画像を用いた相関値とを加算する際の重み付けである、インタラクティブプロジェクター。
このインタラクティブプロジェクターでは、撮像画像を複数の小領域に区分して、小領域ごとに適したパラメーターを用いて検出処理を行うことにより、検出処理の精度を向上させて、指示体の検出精度を向上させることができる。
ここで、重み付けは、０を含まない。上述の通り、撮像画像に含まれる指示体の大きさは同じではなく、解像度変換後画像と１サイズのテンプレート画像との相関値は、小領域に応じて異なる。そのため、高い相関値を得られる小領域の加算の重み付けを高く設定することにより、解像度変換後画像を用いて算出された相関値を加算した結果の精度が向上され、指示体の検出精度を向上させることができる。
［形態３］
投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
スクリーン面上に前記投写画面を投写する投写部と、
前記投写画面の領域を撮像する撮像部と、
前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
を備え、
前記指示体検出部は、
前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
前記検出処理として、前記指示体を検出するためのテンプレート画像を用いたテンプレートマッチングを実施し、
前記撮像画像と前記テンプレート画像との相関値を示す相関値マップを生成し、前記相関値マップにおいて所定の閾値より大きい相関値を有する高相関値領域を抽出し、前記高相関値領域における前記相関値の重心を１画素未満の精度で算出し、前記重心を前記指示体の先端位置として検出し、
前記パラメーターは、前記高相関値領域の画素数である、インタラクティブプロジェクター。
このインタラクティブプロジェクターでは、撮像画像を複数の小領域に区分して、小領域ごとに適したパラメーターを用いて検出処理を行うことにより、検出処理の精度を向上させて、指示体の検出精度を向上させることができる。
さらに、このようにすると、指示体位置が１画素未満の精度で得られるため、指示体の検出精度が向上される。また、上述の通り、小領域ごとに指示体の大きさが異なるため、小領域ごとに適した大きさの高相関度領域を用いて重心を算出することにより、指示体の検出精度を向上させることができる。
［形態４］
投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
スクリーン面上に前記投写画面を投写する投写部と、
前記投写画面の領域を撮像する撮像部と、
前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
を備え、
前記指示体検出部は、
前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
前記撮像画像の解像度を変換した画像に相当する解像度変換後画像に対して前記検出処理を実施して、前記指示体を検出し、
前記パラメーターは、前記解像度の変換における倍率である、インタラクティブプロジェクター。
このインタラクティブプロジェクターでは、撮像画像を複数の小領域に区分して、小領域ごとに適したパラメーターを用いて検出処理を行うことにより、検出処理の精度を向上させて、指示体の検出精度を向上させることができる。
撮像画像の解像度を上げると、概念的には指示体が拡大され、解像度を下げると、概念的には指示体が縮小される。そのため、各小領域に含まれる指示体の大きさに応じて解像度を変換して指示体の検出処理を実施することにより、指示体の検出精度を向上させることができる。
［形態５］
投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
スクリーン面上に前記投写画面を投写する投写部と、
前記投写画面の領域を撮像する撮像部と、
前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
を備え、
前記指示体検出部は、
前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
前記撮像画像に対してローパスフィルター処理を施してフィルター処理後画像を生成し、前記フィルター処理後画像を用いて前記検出処理を実施し、
前記パラメーターは、前記ローパスフィルターのカットオフ周波数である、インタラクティブプロジェクター。
このインタラクティブプロジェクターでは、撮像画像を複数の小領域に区分して、小領域ごとに適したパラメーターを用いて検出処理を行うことにより、検出処理の精度を向上させて、指示体の検出精度を向上させることができる。
例えば、指示体の大きさが相対的に小さい小領域において、ローパスフィルターのカットオフ周波数を低く設定してぼかしの程度を大きくすることにより、指示体の検出精度を向上させることができる。一方、指示体の大きさが相対的に大きい領域では、ローパスフィルターのカットオフ周波数を高く設定してぼかしの程度を小さくすることにより、指示体の検出精度を向上させることができる。
（１）本発明の一形態によれば、投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターが提供される。このインタラクティブプロジェクターは、スクリーン面上に前記投写画面を投写する投写部と、前記投写画面の領域を撮像する撮像部と、前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、を備え、前記指示体検出部は、前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施する。
撮像画像は、撮像部の撮像方向に起因する歪みや撮像レンズに起因する歪みを有することがあり、撮像画像内の位置（領域）に応じて指示体の大きさや形状が異なることがある。そのため、単一のパラメーターを用いて検出処理を行うと、適切な検出結果が得られない場合がある。このインタラクティブプロジェクターでは、撮像画像を複数の小領域に区分して、小領域ごとに適したパラメーターを用いて検出処理を行うことにより、検出処理の精度を向上させて、指示体の検出精度を向上させることができる。なお、小領域ごとに全て異なるパラメーターを用いてもよいし、同じパラメーターを用いる領域があってもよい。
（２）上記インタラクティブプロジェクターにおいて、前記投写画面が記憶された投写画面記憶部を備え、前記指示体検出部は、前記撮像画像に含まれる前記投写画面の、前記投写画面記憶部における前記投写画面に対する変形率を前記小領域ごとに導いて、前記変形率に基づいて前記検出処理のパラメーターを決定してもよい。この構成によれば、所定の区分方法で区分された各小領域の変形率に応じた適切なパラメーターを用いて、指示体の検出処理が実施されるため、指示体の検出精度を向上させることができる。
（３）上記インタラクティブプロジェクターにおいて、前記投写画面が記憶された投写画面記憶部を備え、前記撮像画像に含まれる前記投写画面の、前記投写画面記憶部における前記投写画面に対する変形率に基づいて、前記小領域が区分されもよい。
撮像画像に含まれる指示体の大きさは、上記の変形率に応じて異なる。ここで、変形率は、拡大率および縮小率を含む概念である。この構成によれば、小領域が変形率に基づいて区分されるため、変形率に応じた適切なパラメーターを用いて指示体の検出処理を行うことにより、指示体の検出精度を向上させることができる。
（４）上記インタラクティブプロジェクターにおいて、前記指示体検出部は、前記検出処理として、前記指示体を検出するためのテンプレート画像を用いたテンプレートマッチングを実施してもよい。このようにしても、精度よく指示体を検出することができる。
（５）上記インタラクティブプロジェクターにおいて、前記パラメーターは、前記テンプレート画像でもよい。例えば、小領域ごとに異なるテンプレート画像（例えば、向きが異なる，縮尺が異なる）を用いてもよい。このようにすると、各小領域に適したテンプレート画像を用いることができるため、指示体の検出精度を向上させることができる。
（６）上記インタラクティブプロジェクターにおいて、異なるパラメーターは、縮尺が異なるテンプレート画像でもよい。撮像画像に含まれる指示体の大きさは、投写画面上の指示体の位置によって異なる。そのため、小領域ごとに適した縮尺のテンプレート画像を用いることにより、指示体の検出精度を向上させることができる。
（７）上記インタラクティブプロジェクターにおいて、前記指示体検出部は、さらに、前記撮像画像の解像度を変換した画像に相当する解像度変換後画像と前記テンプレート画像とを用いて前記相関値を算出し、前記撮像画像を用いた相関値と、前記解像度変換後画像を用いた相関値とを加算した結果に基づいて、前記指示体を検出し、前記パラメーターは、前記撮像画像を用いた相関値と、前記解像度変換後画像を用いた相関値とを加算する際の重み付けでもよい。ここで、重み付けは、０を含まない。上述の通り、撮像画像に含まれる指示体の大きさは同じではなく、解像度変換後画像と１サイズのテンプレート画像との相関値は、小領域に応じて異なる。そのため、高い相関値を得られる小領域の加算の重み付けを高く設定することにより、解像度変換後画像を用いて算出された相関値を加算した結果の精度が向上され、指示体の検出精度を向上させることができる。
（８）上記インタラクティブプロジェクターにおいて、前記指示体検出部は、前記前記撮像画像と前記テンプレート画像との相関値を示す相関値マップを生成し、前記相関値マップに対して所定の閾値に基づく二値化を行って、前記指示体を検出し、前記パラメーターは、前記所定の閾値でもよい。撮像画像に含まれる指示体の明るさは、指示体と撮像部との距離に応じて異なる。そのため、２値化を行う際の閾値を小領域ごとに変えることにより、指示体の検出精度を向上させることができる。
（９）上記インタラクティブプロジェクターにおいて、前記指示体検出部は、前記前記撮像画像と前記テンプレート画像との相関値を示す相関値マップを生成し、前記相関値マップにおいて所定の閾値より大きい相関値を有する高相関値領域を抽出し、前記高相関値領域における前記相関値の重心を１画素未満の精度で算出し、前記重心を前記指示体の先端位置として検出し、前記パラメーターは、前記高相関値領域の画素数でもよい。このようにすると、指示体位置が１画素未満の精度で得られるため、指示体の検出精度が向上される。また、上述の通り、小領域ごとに指示体の大きさが異なるため、小領域ごとに適した大きさの高相関度領域を用いて重心を算出することにより、指示体の検出精度を向上させることができる。
（１０）上記インタラクティブプロジェクターにおいて、前記指示体検出部は、前記撮像画像の解像度を変換した画像に相当する解像度変換後画像に対して前記検出処理を実施して、前記指示体を検出し、前記パラメーターは、前記解像度の変換における倍率でもよい。撮像画像の解像度を上げると、概念的には指示体が拡大され、解像度を下げると、概念的には指示体が縮小される。そのため、各小領域に含まれる指示体の大きさに応じて解像度を変換して指示体の検出処理を実施することにより、指示体の検出精度を向上させることができる。
（１１）上記インタラクティブプロジェクターにおいて、前記指示体検出部は、前記撮像画像に対してローパスフィルター処理を施してフィルター処理後画像を生成し、前記フィルター処理後画像を用いて前記テンプレートマッチングを実施し、前記パラメーターは、前記ローパスフィルターのカットオフ周波数である。例えば、指示体の大きさが相対的に小さい小領域において、ローパスフィルターのカットオフ周波数を低く設定してぼかしの程度を大きくすることにより、指示体の検出精度を向上させることができる。一方、指示体の大きさが相対的に大きい領域では、ローパスフィルターのカットオフ周波数を高く設定してぼかしの程度を小さくすることにより、指示体の検出精度を向上させることができる。
本発明は、種々の形態で実現することが可能であり、例えば、指示体とスクリーンとインタラクティブプロジェクターを備えるシステム、インタラクティブプロジェクターの制御方法又は制御装置、それらの方法または装置の機能を実現するためのコンピュータプログラム、そのコンピュータプログラムを記録した一時的でない記録媒体（non-transitory storage medium）等の様々な形態で実現することができる。
インタラクティブプロジェクションシステムの斜視図である。 インタラクションプロジェクションシステムの側面図および正面図である。 インタラクティブプロジェクターと自発光指示体の内部構成を示すブロック図である。 自発光指示体と非発光指示体を利用した操作の様子を示す説明図である。 位置検出部の概略構成を示すブロック図である。 メモリー画像と投写画面と撮像画像との関係の説明図である。 第１実施形態における小領域の説明図である。 テンプレート画像を示す図である。 各小領域とテンプレートセットとの対応の説明図である。 非発光指示体に関する指示体位置検出処理を示すフローチャートである。 指示体位置検出処理の説明図である。 第２実施形態の位置検出部の構成を示すブロック図である。 第２実施形態の非発光指示体に関する指示体位置検出処理を示すフローチャートである。 第２実施形態の指示体位置検出処理の説明図である。 第２実施形態における相関値の算出方法の説明図である。 第２実施形態における相関値の算出方法の説明図である。 第３実施形態の非発光指示体に関する指示体位置検出処理を示すフローチャートである。 第３実施形態の相関値マップの生成の説明図である。 第４実施形態の非発光指示体に関する指示体位置検出処理を示すフローチャートである。 第４実施形態における指示体位置の決定方法の説明図である。 第４実施形態における高相関値領域の説明図である。 第５実施形態の位置検出部の概略構成を示すブロック図である。 第６実施形態の位置検出部の構成を示すブロック図である。 第６実施形態における小領域の説明図である。 各小領域とテンプレートセットとの対応の説明図である。
Ａ．システムの概要：
図１は、本発明の一実施形態におけるインタラクティブプロジェクションシステム９００の斜視図である。このシステム９００は、インタラクティブプロジェクター１００と、スクリーン板９２０と、自発光指示体７０とを有している。スクリーン板９２０の前面は、投写スクリーン面ＳＳ（projection Screen Surface）として利用される。プロジェクター１００は、支持部材９１０によってスクリーン板９２０の前方かつ上方に固定されている。なお、図１では投写スクリーン面ＳＳを鉛直に配置しているが、投写スクリーン面ＳＳを水平に配置してこのシステム９００を使用することも可能である。
プロジェクター１００は、投写スクリーン面ＳＳ上に投写画面ＰＳ（Projected Screen）を投写する。投写画面ＰＳは、通常は、プロジェクター１００内で描画された画像を含んでいる。プロジェクター１００内で描画された画像がない場合には、プロジェクター１００から投写画面ＰＳに光が照射されて、白色画像が表示される。本明細書において、「投写スクリーン面ＳＳ」（又は「スクリーン面ＳＳ」）とは、画像が投写される部材の表面を意味する。また、「投写画面ＰＳ」とは、プロジェクター１００によって投写スクリーン面ＳＳ上に投写された画像の領域を意味する。通常は、投写スクリーン面ＳＳの一部に投写画面ＰＳが投写される。
自発光指示体７０は、発光可能な先端部７１と、使用者が保持する軸部７２と、軸部７２に設けられたボタンスイッチ７３とを有するペン型の指示体である。自発光指示体７０の構成や機能については後述する。このシステム９００では、１つ又は複数の自発光指示体７０とともに、１つ又は複数の非発光指示体８０（非発光のペンや指など）を利用可能である。以下、自発光指示体７０と非発光指示体８０とを区別しない場合は、単に、指示体７８０とも呼ぶ。
図２（Ａ）は、インタラクティブプロジェクションシステム９００の側面図であり、図２（Ｂ）はその正面図である。本明細書では、スクリーン面ＳＳの左右に沿った方向をＸ方向と定義し、スクリーン面ＳＳの上下に沿った方向をＹ方向と定義し、スクリーン面ＳＳの法線に沿った方向をＺ方向と定義している。なお、便宜上、Ｘ方向を「左右方向」とも呼び、Ｙ方向を「上下方向」とも呼び、Ｚ方向を「前後方向」とも呼ぶ。また、Ｙ方向（上下方向）のうち、プロジェクター１００から見て投写画面ＰＳが存在する方向を「下方向」と呼ぶ。なお、図２（Ａ）では、図示の便宜上、スクリーン板９２０のうちの投写画面ＰＳの範囲にハッチングを付している。
プロジェクター１００は、投写画面ＰＳをスクリーン面ＳＳ上に投写する投写レンズ２１０と、投写画面ＰＳの領域を撮像する第１カメラ３１０及び第２カメラ３２０と、指示体７８０に検出光を照明するための検出光照射部４１０とを有している。検出光としては、例えば近赤外光が使用される。２台のカメラ３１０，３２０は、検出光の波長を含む波長領域の光を受光して撮像する第１の撮像機能を少なくとも有している。２台のカメラ３１０，３２０のうちの少なくとも一方は、更に、可視光を含む光を受光して撮像する第２の撮像機能を有し、これらの２つの撮像機能を切り替え可能に構成されていることが好ましい。例えば、２台のカメラ３１０，３２０は、可視光を遮断して近赤外光のみを通過させる近赤外フィルターをレンズの前に配置したりレンズの前から後退させたりすることが可能な近赤外フィルター切換機構（図示せず）をそれぞれ備えることが好ましい。２台のカメラ３１０，３２０は、左右方向（Ｘ方向）の位置が同じで、前後方向（Ｚ方向）に所定の距離を空けて並んで配置されている。２台のカメラ３１０，３２０は、本実施形態に限定されない。例えば、前後方向（Ｚ方向）の位置が同じで、左右方向（Ｘ方向）に所定の距離を空けて並んで配置されてもよい。また、Ｘ，Ｙ，Ｚ全ての方向において位置が異なってもよい。２台のカメラをＺ方向の位置を変えて（前後方向にずらして）配置すると、三角測量による３次元位置の算出におけるＺ座標の精度が高いため、好ましい。
図２（Ｂ）の例は、インタラクティブプロジェクションシステム９００がホワイトボードモードで動作している様子を示している。ホワイトボードモードは、自発光指示体７０や非発光指示体８０を用いて投写画面ＰＳ上にユーザーが任意に描画できるモードである。スクリーン面ＳＳ上には、ツールボックスＴＢを含む投写画面ＰＳが投写されている。このツールボックスＴＢは、処理を元に戻す取消ボタンＵＤＢと、マウスポインターを選択するポインターボタンＰＴＢと、描画用のペンツールを選択するペンボタンＰＥＢと、描画された画像を消去する消しゴムツールを選択する消しゴムボタンＥＲＢと、画面を次に進めたり前に戻したりする前方／後方ボタンＦＲＢと、を含んでいる。ユーザーは、指示体を用いてこれらのボタンにタッチすることによって、そのボタンに応じた処理を行ったり、ツールを選択したりすることが可能である。なお、システム９００の起動直後は、マウスポインターがデフォールトツールとして選択されるようにしてもよい。図２（Ｂ）の例では、ユーザーがペンツールを選択した後、自発光指示体７０の先端部７１をスクリーン面ＳＳに接した状態で投写画面ＰＳ内で移動させることにより、投写画面ＰＳ内に線が描画されてゆく様子が描かれている。この線の描画は、プロジェクター１００の内部の投写画像生成部（後述）によって行われる。
なお、インタラクティブプロジェクションシステム９００は、ホワイトボードモード以外の他のモードでも動作可能である。例えば、このシステム９００は、パーソナルコンピューター（図示せず）から通信回線を介して転送されたデータの画像を投写画面ＰＳに表示するＰＣインタラクティブモードでも動作可能である。ＰＣインタラクティブモードにおいては、例えば表計算ソフトウェアなどのデータの画像が表示され、その画像内に表示された各種のツールやアイコンを利用してデータの入力、作成、修正等を行うことが可能となる。
図３は、インタラクティブプロジェクター１００と自発光指示体７０の内部構成を示すブロック図である。プロジェクター１００は、制御部７００と、投写部２００と、投写画像生成部５００と、位置検出部６００と、接触検出部８００と、撮像部３００と、検出光照射部４１０と、信号光送信部４３０とを有している。
制御部７００は、プロジェクター１００内部の各部の制御を行う。また、制御部７００は、位置検出部６００で検出された指示体７８０の３次元位置、および接触検出部８００による指示体７８０の接触検出に基づいて、指示体７８０によって投写画面ＰＳ上で行われた指示の内容を判定するとともに、その指示の内容に従って投写画像を作成又は変更することを投写画像生成部５００に指令する。
投写画像生成部５００は、投写画像を記憶する投写画像メモリー５１０を有しており、投写部２００によってスクリーン面ＳＳ上に投写される投写画像を生成する機能を有する。投写画像生成部５００は、更に、投写画面ＰＳ（図２（Ｂ））の台形歪みを補正するキーストーン補正部としての機能を有する。
投写部２００は、投写画像生成部５００で生成された投写画像をスクリーン面ＳＳ上に投写する機能を有する。投写部２００は、図２で説明した投写レンズ２１０の他に、光変調部２２０と、光源２３０とを有する。光変調部２２０は、投写画像メモリー５１０から与えられる投写画像データに応じて光源２３０からの光を変調することによって投写画像光ＩＭＬを形成する。この投写画像光ＩＭＬは、典型的には、ＲＧＢの３色の可視光を含むカラー画像光であり、投写レンズ２１０によってスクリーン面ＳＳ上に投写される。なお、光源２３０としては、超高圧水銀ランプ等の光源ランプの他、発光ダイオードやレーザーダイオード等の種々の光源を採用可能である。また、光変調部２２０としては、透過型又は反射型の液晶パネルやデジタルミラーデバイス等を採用可能であり、色光別に複数の変調部２２０を備えた構成としてもよい。
検出光照射部４１０は、指示体７８０の先端部を検出するための照射検出光ＩＤＬをスクリーン面ＳＳとその前方の空間にわたって照射する。照射検出光ＩＤＬとしては、例えば近赤外光が使用される。
信号光送信部４３０は、同期用の近赤外光信号である装置信号光ＡＳＬを送信する機能を有する。プロジェクター１００が起動されると、信号光送信部４３０は、装置信号光ＡＳＬを定期的に発する。自発光指示体７０の先端発光部７７は、装置信号光ＡＳＬに同期して、予め定められた発光パターン（発光シーケンス）を有する近赤外光である指示体信号光ＰＳＬを発する。また、撮像部３００のカメラ３１０，３２０は、指示体７８０の位置検出を行う際に、装置信号光ＡＳＬに同期した所定のタイミングで撮像を実行する。
撮像部３００は、図２で説明した第１カメラ３１０と第２カメラ３２０とを有している。前述したように、２台のカメラ３１０，３２０は、検出光の波長を含む波長領域の光を受光して撮像する機能を有する。図３の例では、検出光照射部４１０によって照射された照射検出光ＩＤＬが指示体７８０で反射され、その反射検出光ＲＤＬが２台のカメラ３１０，３２０によって受光されて撮像される様子が描かれている。２台のカメラ３１０，３２０は、更に、自発光指示体７０の先端発光部７７から発せられる近赤外光である指示体信号光ＰＳＬも受光して撮像する。２台のカメラ３１０，３２０の撮像は、検出光照射部４１０から照射検出光ＩＤＬが照射される第１の期間と、検出光照射部４１０から照射検出光ＩＤＬが照射されない第２の期間と、の両方で実行される。
なお、２台のカメラ３１０，３２０の少なくとも一方は、近赤外光を含む光を用いて撮像する機能に加えて、可視光を含む光を用いて撮像する機能を有することが好ましい。スクリーン面ＳＳ上に投写された投写画面ＰＳをカメラで撮像し、その画像を利用して投写画像生成部５００がキーストーン補正を実行することが可能である。１台以上のカメラを利用したキーストーン補正の方法は周知なので、ここではその説明は省略する。
位置検出部６００は、２台のカメラ３１０，３２０で撮像された画像（以下、「撮像画像」とも呼ぶ。）を分析して、三角測量を利用して指示体７８０の先端部の三次元位置座標を算出する機能を有する。この際、位置検出部６００は、上述の第１の期間と第２の期間における撮像画像を比較することによって、画像内に含まれる個々の指示体７８０が、自発光指示体７０と非発光指示体８０のいずれであるかを判定する。位置検出部６００の詳細については、後述する。
接触検出部８００は、位置検出部６００による撮像画像の分析結果（位置座標）に基づいて、指示体７８０の投写画面ＰＳ（スクリーン面ＳＳ）への接触を検出する。本実施形態のインタラクティブプロジェクター１００において、接触検出部８００は、自発光指示体７０の投写画面ＰＳへの接触の検出については、自発光指示体７０が発する指示体信号光ＰＳＬの発光パターンに基づいて実行し、非発光指示体８０の投写画面ＰＳへの接触の検出については、位置検出部６００によって検出された３次元位置座標に基づいて実行する。
自発光指示体７０には、ボタンスイッチ７３の他に、信号光受信部７４と、制御部７５と、先端スイッチ７６と、先端発光部７７とが設けられている。信号光受信部７４は、プロジェクター１００の信号光送信部４３０から発せられた装置信号光ＡＳＬを受信する機能を有する。先端スイッチ７６は、自発光指示体７０の先端部７１が押されるとオン状態になり、先端部７１が解放されるとオフ状態になるスイッチである。先端スイッチ７６は、通常はオフ状態にあり、自発光指示体７０の先端部７１がスクリーン面ＳＳに接触するとその接触圧によってオン状態になる。先端スイッチ７６がオフ状態のときには、制御部７５は、先端スイッチ７６がオフ状態であることを示す特定の第１の発光パターンで先端発光部７７を発光させることによって、第１の発光パターンを有する指示体信号光ＰＳＬを発する。一方、先端スイッチ７６がオン状態になると、制御部７５は、先端スイッチ７６がオン状態であることを示す特定の第２の発光パターンで先端発光部７７を発光させることによって、第２の発光パターンを有する指示体信号光ＰＳＬを発する。これらの第１の発光パターンと第２の発光パターンは、互いに異なるので、接触検出部８００は、２台のカメラ３１０，３２０で撮像された画像の分析結果を位置検出部６００から取得して、分析結果に基づいて、先端スイッチ７６がオン状態かオフ状態かを識別することが可能である。
自発光指示体７０のボタンスイッチ７３は、先端スイッチ７６と同じ機能を有する。従って、制御部７５は、ユーザーによってボタンスイッチ７３が押された状態では上記第２の発光パターンで先端発光部７７を発光させ、ボタンスイッチ７３が押されていない状態では上記第１の発光パターンで先端発光部７７を発光させる。換言すれば、制御部７５は、先端スイッチ７６とボタンスイッチ７３の少なくとも一方がオンの状態では上記第２の発光パターンで先端発光部７７を発光させ、先端スイッチ７６とボタンスイッチ７３の両方がオフの状態では上記第１の発光パターンで先端発光部７７を発光させる。
但し、ボタンスイッチ７３に対して先端スイッチ７６と異なる機能を割り当てるようにしてもよい。例えば、ボタンスイッチ７３に対してマウスの右クリックボタンと同じ機能を割り当てた場合には、ユーザーがボタンスイッチ７３を押すと、右クリックの指示がプロジェクター１００の制御部７００に伝達され、その指示に応じた処理が実行される。このように、ボタンスイッチ７３に対して先端スイッチ７６と異なる機能を割り当てた場合には、先端発光部７７は、先端スイッチ７６のオン／オフ状態及びボタンスイッチ７３のオン／オフ状態に応じて、互いに異なる４つの発光パターンで発光する。この場合には、自発光指示体７０は、先端スイッチ７６とボタンスイッチ７３のオン／オフ状態の４つの組み合わせを区別しつつ、プロジェクター１００に伝達することが可能である。
図４は、自発光指示体７０と非発光指示体８０を利用した操作の様子を示す説明図である。この例では、自発光指示体７０の先端部７１と非発光指示体８０の先端部８１はいずれもスクリーン面ＳＳから離れている。自発光指示体７０の先端部７１のＸＹ座標（Ｘ７１，Ｙ７１）は、ツールボックスＴＢの消しゴムボタンＥＲＢの上にある。また、ここでは、自発光指示体７０の先端部７１の機能を表すツールとしてマウスポインターＰＴが選択されており、マウスポインターＰＴの先端ＯＰ７１が消しゴムボタンＥＲＢの上に存在するように、マウスポインターＰＴが投写画面ＰＳに描画されている。前述したように、自発光指示体７０の先端部７１の三次元位置は、２台のカメラ３１０，３２０で撮像された画像を用いた三角測量で決定される。従って、投写画面ＰＳ上において、三角測量で決定された先端部７１の三次元座標（Ｘ７１，Ｙ７１，Ｚ７１）のうちのＸＹ座標（Ｘ７１，Ｙ７１）の位置にマウスポインターＰＴの先端にある操作ポイントＯＰ７１が配置されようにマウスポインターＰＴが描画される。すなわち、マウスポインターＰＴの先端ＯＰ７１は、自発光指示体７０の先端部７１の三次元座標（Ｘ７１，Ｙ７１，Ｚ７１）のうちのＸＹ座標（Ｘ７１，Ｙ７１）に配置され、この位置においてユーザーの指示が行われる。例えば、ユーザーは、この状態で自発光指示体７０の先端部７１を投写画面ＰＳ上に接触させて、消しゴムツールを選択することが可能である。また、ユーザーは、この状態で自発光指示体７０のボタンスイッチ７３を押すことによって、消しゴムツールを選択することも可能である。このように、本実施形態では、自発光指示体７０がスクリーン面ＳＳから離間した状態にある場合にも、ボタンスイッチ７３を押すことによって、先端部７１のＸＹ座標（Ｘ７１，Ｙ７１）に配置される操作ポイントＯＰ７１における投写画面ＰＳの内容に応じた指示をプロジェクター１００に与えることが可能である。
図４（Ｂ）では、また、非発光指示体８０の先端部８１の機能を表すツールとしてペンツールＰＥが選択されており、ペンツールＰＥが投写画面ＰＳに描画されている。前述したように、非発光指示体８０の先端部８１の三次元位置も、２台のカメラ３１０，３２０で撮像された画像を用いた三角測量で決定される。従って、投写画面ＰＳ上において、三角測量で決定された先端部８１の三次元座標（Ｘ８１，Ｙ８１，Ｚ８１）のうちのＸＹ座標（Ｘ８１，Ｙ８１）の位置にペンツールＰＥの先端にある操作ポイントＯＰ８１が配置されようにペンツールＰＥが描画される。但し、非発光指示体８０を利用してユーザーが指示をプロジェクター１００に与える際には、非発光指示体８０の先端部８１を投写画面ＰＳ上に接触させた状態でその指示（描画やツールの選択など）が行なわれる。
図４の例では、指示体７８０の先端部が投写画面ＰＳから離れている場合にも、個々の指示体によって選択されたツール（マウスポインターＰＴやペンツールＰＥ）が投写画面ＰＳに描画されて表示される。従って、ユーザーが指示体の先端部を投写画面ＰＳに接触していない場合にも、その指示体によってどのツールが選択されているのかを理解し易く、操作が容易であるという利点がある。また、ツールの操作ポイントＯＰが指示体の先端部の三次元座標のうちのＸＹ座標の位置に配置されるようにそのツールが描画されるので、ユーザーが、利用中のツールの位置を適切に認識できるという利点がある。
なお、このインタラクティブプロジェクションシステム９００は、複数の自発光指示体７０を同時に利用可能に構成されてもよい。この場合には、上述した指示体信号光ＰＳＬの発光パターンは、複数の自発光指示体７０を識別できる固有の発光パターンであることが好ましい。より具体的に言えば、Ｎ個（Ｎは２以上の整数）の自発光指示体７０を同時に利用可能な場合には、指示体信号光ＰＳＬの発光パターンは、Ｎ個の自発光指示体７０を区別できるものであることが好ましい。なお、１組の発光パターンに複数回の単位発光期間が含まれている場合に、１回の単位発光期間では、発光と非発光の２値を表現することができる。ここで、１回の単位発光期間は、自発光指示体７０の先端発光部７７が、オン／オフの１ビットの情報を表現する期間に相当する。１組の発光パターンがＭ個（Ｍは２以上の整数）の単位発光期間で構成される場合には、１組の発光パターンによって２Ｍ個の状態を区別できる。従って、１組の発光パターンを構成する単位発光期間の数Ｍは、次式を満足するように設定されることが好ましい。
Ｎ×Ｑ≦２Ｍ …（１）
ここで、Ｑは自発光指示体７０のスイッチ７３，７６で区別される状態の数であり、本実施形態の例ではＱ＝２又はＱ＝４である。例えば、Ｑ＝４の場合には、Ｎ＝２のときにはＭを３以上の整数に設定し、Ｎ＝２〜４のときにはＭを４以上の整数に設定することが好ましい。このとき、位置検出部６００（又は制御部７００）がＮ個の自発光指示体７０と非発光指示体８０、及び、各自発光指示体７０のスイッチ７３，７６の状態を識別する際には、１組の発光パターンのＭ個の単位発光期間において各カメラ３１０，３２０でそれぞれ撮像されたＭ枚の画像を用いてその識別を実行する。なお、このＭビットの発光パターンは、照射検出光ＩＤＬをオフの状態に維持した状態で指示体信号光ＰＳＬをオン又はオフに設定したパターンであり、カメラ３１０，３２０で撮像される画像には非発光指示体８０が写らない。そこで、非発光指示体８０の位置を検出するために用いる画像を撮像するために、照射検出光ＩＤＬをオン状態とした１ビットの単位発光期間を更に追加することが好ましい。但し、位置検出用の単位発光期間では、指示体信号光ＰＳＬはオン／オフのいずれでも良い。この位置検出用の単位発光期間で得られた画像は、自発光指示体７０の位置検出にも利用することが可能である。
図３に描かれている５種類の信号光の具体例をまとめると以下の通りである。
（１）投写画像光ＩＭＬ：スクリーン面ＳＳに投写画面ＰＳを投写するために、投写レンズ２１０によってスクリーン面ＳＳ上に投写される画像光（可視光）である。
（２）照射検出光ＩＤＬ： 指示体７８０（自発光指示体７０及び非発光指示体８０）の先端部を検出するために、検出光照射部４１０によってスクリーン面ＳＳとその前方の空間にわたって照射される近赤外光である。
（３）反射検出光ＲＤＬ：照射検出光ＩＤＬとして照射された近赤外光のうち、指示体７８０（自発光指示体７０及び非発光指示体８０）によって反射され、２台のカメラ３１０，３２０によって受光される近赤外光である。
（４）装置信号光ＡＳＬ：プロジェクター１００と自発光指示体７０との同期をとるために、プロジェクター１００の信号光送信部４３０から定期的に発せられる近赤外光である。
（５）指示体信号光ＰＳＬ：装置信号光ＡＳＬに同期したタイミングで、自発光指示体７０の先端発光部７７から発せられる近赤外光である。指示体信号光ＰＳＬの発光パターンは、自発光指示体７０のスイッチ７３，７６のオン／オフ状態に応じて変更される。また、複数の自発光指示体７０を識別する固有の発光パターンを有する。
本実施形態において、自発光指示体７０と非発光指示体８０の先端部の位置検出、及び、自発光指示体７０と非発光指示体８０により指示される内容の判別は、それぞれ以下のように実行される。
指示体７８０の先端部７１の三次元位置は、位置検出部６００が、２台のカメラ３１０，３２０により撮像された画像を用いて三角測量に従って決定する。この際、自発光指示体７０であるか非発光指示体８０であるかは、所定の複数のタイミングで撮像された画像に先端発光部７７の発光パターンが現れているか否かを判断することによって認識可能である。自発光指示体７０の場合は、自発光指示体７０の先端部７１に配置された先端発光部７７から発せられる指示体信号光ＰＳＬが、撮像画像に含まれる。そのため、自発光指示体７０の先端部７１の三次元位置（Ｘ７１，Ｙ７１，Ｚ７１）は、撮像画像に含まれる輝点に基づいて、三角測量に従って算出される。
一方、非発光指示体８０の場合は、非発光指示体８０によって反射された反射検出光ＲＤＬが、撮像画像に含まれる。２台のカメラ３１０，３２０により撮像された２枚の画像における非発光指示体８０の先端部８１の位置は、テンプレートマッチングを利用して決定される。非発光指示体８０の先端位置の検出については後述する。
接触検出部８００は、非発光指示体８０の接触検出を、三角測量で決定した非発光指示体８０のＺ座標値と、スクリーン面ＳＳの表面のＺ座標値との差が微小な許容差以下か否か、すなわち、非発光指示体８０の先端部８１がスクリーン面ＳＳの表面に十分に近いか否かに応じて検出する。この許容差としては、例えば、２ｍｍ〜６ｍｍ程度の小さな値を使用することが好ましい。また、接触検出部８００は、自発光指示体７０の先端部７１がスクリーン面ＳＳに接触しているか否か（すなわち先端スイッチ７６がオンか否か）については、上記複数のタイミングで撮像された画像における先端発光部７７の発光パターンを用いて判別する。なお、自発光指示体７０の接触検出も、非発光指示体８０の接触検出と同様に、自発光指示体７０の先端部７１のＺ座標に基づいて実行されてもよい。
指示体７８０の先端部の３次元位置の検出，ボタンスイッチ７３のＯＮ／ＯＦＦ判別，および接触検出が終了すると、制御部７００は、位置検出部６００および接触検出部８００の検出結果に基づいて、指示体７８０（自発光指示体７０，非発光指示体８０）による指示内容を判別して、指示内容に応じた画像を投写画像生成部５００に生成させて、投写部２００によってスクリーン面ＳＳ上に指示内容に応じた画像を投写させる。例えば、先端部７１のＸＹ座標の位置がツールボックスＴＢ(図２（Ｂ））内のいずれかのボタンの上にある状態で先端スイッチ７６またはボタンスイッチ７３がオンになった場合には、そのボタンのツールが選択される。また、図２（Ｂ）に例示したように、先端部７１のＸＹ座標が投写画面ＰＳ内のツールボックスＴＢ以外の位置にある状態で先端スイッチ７６またはボタンスイッチ７３がオンになった場合には、選択されたツールによる処理（例えば描画）が選択される。制御部７００は、自発光指示体７０の先端部７１のＸＹ座標（Ｘ７１，Ｙ７１），非発光指示体８０の先端部８１のＸＹ座標（Ｘ８１，Ｙ８１）を利用し、予め選択されているポインターやマークが投写画面ＰＳ内の位置（Ｘ７１，Ｙ７１），（Ｘ８１，Ｙ８１）に配置されるように、そのポインターやマークを投写画像生成部５００に描画させる。また、制御部７００は、自発光指示体７０、非発光指示体８０によって指示された内容に従った処理を実行して、投写画像生成部５００にその処理結果を含む画像を描画させる。
Ｂ．位置検出部の第１実施形態（局所倍率に応じてテンプレートサイズを変更）：
図５は、位置検出部６００（図３）の概略構成を示すブロック図である。位置検出部６００は、相関値算出部６２０と、相関値マップ生成部６４０と、指示体検出部６６０と、三次元位置算出部６８０と、を備える。相関値算出部６２０は、複数のテンプレートセット（ここでは３つのテンプレートセットＳ１〜Ｓ３）を備える。各テンプレートセットは、複数種類のテンプレート画像（図５に示すテンプレートセットＳ１は３種のテンプレート画像Ｔ１１〜Ｔ１３）を備える。以下、３つのテンプレートセットＳ１〜Ｓ３を区別しない場合には、テンプレートセットＳとも称する。また、３種のテンプレート画像Ｔ１１〜Ｔ１３を区別しない場合には、テンプレート画像Ｔとも称する。相関値算出部６２０は、撮像部３００にて投写画面ＰＳの領域を撮像した撮像画像と各テンプレート画像Ｔとの相関値を算出する。相関値算出部６２０は、第１カメラ３１０による第１撮像画像、第２カメラ３２０による第２撮像画像、それぞれに対して、３つのテンプレート画像Ｔ１１〜Ｔ１３に対応する３種類の相関値を算出する。すなわち、相関値算出部６２０では、一度の撮像タイミングに対して、６種類の相関値が算出される。
本実施形態において、相関値算出部６２０は、撮像画像を複数の小領域（後述する）に区分して、小領域ごとに異なるテンプレートセットＳを用いて相関値を算出する。
図６は、メモリー画像ＭＰと、投写画面ＰＳと、撮像画像Ｍ０との関係を説明するための説明図である。図６では、投写画像生成部５００（図３）において生成され、投写画像メモリー５１０（図３）に描画されたメモリー画像ＭＰが示されている。インタラクティブプロジェクター１００は、いわゆる超短焦点プロジェクターであって、投写スクリーン面ＳＳに対する投写レンズ２１０の配置が図６に示すような配置の場合にも、キーストーン補正なしで投写スクリーン面ＳＳに適切な矩形の投写画面が投写されるように、投写部２００（投写レンズ２１０や曲面ミラー（不図示））の光学設計がなされている。そのため、投写画像ＰＰは、キーストーン補正が行われておらず、例えば、パーソナルコンピューターから通信回線を介して転送された画像と相似形の矩形の画像である。なお、投写画像ＰＰは、メモリー画像ＭＰと一致する矩形であってもよい。スクリーン面ＳＳ上の投写画面ＰＳは、投写画像ＰＰが投写画面ＰＳの全面に拡大された矩形状の画像を含む。第１カメラによって投写画面ＰＳを撮像した撮像画像Ｍ０の投写画面の領域（投写画面領域ＰＳＲ）は、撮像方向に起因する台形歪みと撮像レンズの歪曲収差に基づく樽型歪みを含む。本実施形態において、メモリー画像ＭＰと、撮像画像Ｍ０は、画素数が等しい相似形の矩形状を成す。本実施形態において、メモリー画像ＭＰの投写画像ＰＰの個々の局所的な領域に対する、撮像画像Ｍ０の投写画面領域ＰＳＲの対応する領域の倍率を、局所倍率Ｍと称する。局所倍率Ｍは、撮像部３００による撮像画像を用いたキャリブレーションにおいて算出された歪み補正係数を利用して算出される。なお、キャリブレーションの方法は周知なので、ここではその説明は省略する。本実施形態における投写画像メモリー５１０が請求項における投写画面記憶部に相当し、撮像画像Ｍ０の投写画面領域ＰＳＲが請求項における撮像画像に含まれる投写画面に相当し、局所倍率Ｍが請求項における変形率に相当する。
図７は、第１実施形態における小領域について説明するための説明図である。図７では、図６に示した撮像画像Ｍ０を概略的に示している。本実施形態では、撮像画像Ｍ０が投写画面領域ＰＳＲの局所倍率Ｍに基づいて、撮像画像Ｍ０の長辺に平行な３つの小領域ＭＲ１〜ＭＲ３に区分される。小領域ＭＲ１は局所倍率Ｍ≦０．７，小領域ＭＲ２は局所倍率０．７＜Ｍ≦０．９，小領域ＭＲ３は局所倍率０．９＜Ｍ≦１．０の領域である。なお、本実施形態では、説明を簡単にするために、３つの小領域ＭＲ１〜ＭＲ３に区分する例を示して説明するが、小領域の数は、２つでも４以上にしてもよい。また、撮像画像Ｍ０の長辺に平行に区分された小領域に限定されず、例えば、格子状に区分してもよい。また、局所倍率Ｍは、本実施形態に限定されず、局所倍率Ｍ＞１．０でもよい。
インタラクティブプロジェクター１００では、テンプレートマッチングを実施する際に、少なくとも一つの小領域ＭＲでは他の小領域ＭＲと異なるパラメーターを用いる。パラメーターは、例えば、テンプレート画像のサイズ（縮尺），テンプレート画像の種類（指示体の向き），テンプレートマッチングを行う際の対象画像（撮像画像）の解像度変換倍率，複数の相関値を加算する際の重み付け，相関値マップ（後述する）を２値化する際の閾値，指示体を検出する際に用いる高相関値領域（後述する）の画素数，ローパスフィルターのカットオフ周波数等である。本実施形態では、テンプレート画像のサイズ（縮尺）を、小領域ごとに異なるパラメーターとする。
図８（Ａ）〜（Ｃ）は、第２テンプレートセットＳ２が備えるテンプレートＴ２１〜Ｔ２３を示す図である。以下では、第ｍ（ｍ＝１，２，３）テンプレートセットＳｍの第ｎ（ｎ＝１，２，３）種テンプレートＴを、テンプレートＴｍｎと称する。但し、テンプレートセットを限定しない場合には、単に、テンプレートＴｎとも称する。本実施形態において、非発光指示体８０としては、指が想定されている。第２テンプレートセットＳ２のテンプレート画像Ｔは、１３×１３画素で構成され、指の先端がテンプレート画像Ｔの中心の画素に一致するように生成されている。第１種テンプレート画像Ｔ２１（図８（Ａ））は、先端を上に向けた指の画像である。第２種テンプレート画像Ｔ２２（図８（Ｂ））は、先端を右斜め上に向けた指の画像である。第３種テンプレート画像Ｔ２３（図８（Ｃ））は、先端を左斜め上に向けた指の画像である。第２種テンプレート画像Ｔ２２および第３種テンプレート画像Ｔ２３における指とテンプレート画像の下辺との角度は４５度である。なお、テンプレート画像は、本実施形態に限定されず、種々のテンプレート画像を利用可能である。例えば、先端を右斜め上に向けた指の画像であって、指とテンプレート画像の下辺との角度を３０度，６０度とした画像、先端を左斜め上に向けた指の画像であって、指とテンプレート画像の下辺との角度を３０度，６０度とした画像をさらに備えてもよい。また、テンプレート画像Ｔのサイズも適宜設定可能である。本実施形態では、説明を簡単にするために、３種のテンプレート画像Ｔ１〜Ｔ３を用いる例を示して説明する。
他のテンプレートセットＳ１，Ｓ３は、第２テンプレートセットＳ２と同様、３種のテンプレート画像Ｔを備えるが、これらのテンプレート画像Ｔは、第２テンプレートセットＳ２のテンプレート画像Ｔとはサイズが異なる。第１テンプレートセットＳ１のテンプレート画像Ｔのサイズは、１１×１１画素であり、第３テンプレートセットＳ３のテンプレート画像Ｔのサイズは、１５×１５画素である。
図９は、各小領域ＭＲ１〜ＭＲ３（図７）とテンプレートセットＳｍとの対応を説明するための説明図である。相関値算出部６２０（図５）において、撮像画像Ｍ０の小領域ＭＲ１の画素については、第１テンプレートセットＳ１を用いて相関値を算出する。撮像画像Ｍ０の小領域ＭＲ２の画素については、第２テンプレートセットＳ２を用いて相関値を算出する。撮像画像Ｍ０の小領域ＭＲ３の画素については、第３テンプレートセットＳ３を用いて相関値を算出する。
相関値マップ生成部６４０（図５）は、相関値算出部６２０で算出された相関値を、撮像画像ごとに加算して、相関値マップを生成する。すなわち、第１撮像画像に対する第１相関値マップと、第２撮像画像に対する第２相関値マップが生成される。
指示体検出部６６０は、各相関値マップに基づいて、撮像画像ごとに非発光指示体８０（指）の先端位置（二次元位置）を、検出する。本実施形態では、相関値マップにおける極大値を有する画素の位置を、指示体８０の先端位置とする。
三次元位置算出部６８０は、指示体検出部６６０において撮像画像ごとに検出された非発光指示体８０の先端位置（二次元位置）に基づいて、三角測量により非発光指示体８０の先端の三次元位置を算出する。
図１０は、非発光指示体８０に関する指示体位置検出処理の流れを示すフローチャートである。図１１は、指示体位置検出処理を説明するための説明図である。
相関値算出部６２０は、撮像部３００から撮像画像Ｍ０（図１１）を取得する（図１０のステップＳ１１０）。上記の通り、撮像部３００は非発光指示体８０によって反射された反射検出光ＲＤＬを受光して撮像する。そのため、実際には、指を含む手の全体が撮像画像に含まれるが、図１１では、撮像画像に含まれる指の部分を簡略化して図示している。指示体位置検出処理では、撮像画像Ｍ０に含まれる手から指の先端を検出する。
相関値算出部６２０は、撮像画像Ｍ０とテンプレート画像Ｔとの相関値を画素ごとに算出する（図１０のステップＳ１２０）。ステップＳ１２０において、相関値算出部６２０は、第１種テンプレート画像Ｔ１と撮像画像Ｍ０との相関値ＲＬ１を算出する工程（ステップＳ１２２）と、第２種テンプレート画像Ｔ２と撮像画像Ｍ０との相関値ＲＬ２を算出する工程（ステップＳ１２４）と、第３種テンプレート画像Ｔ３と撮像画像Ｍ０との相関値ＲＬ３を算出する工程（ステップＳ１２６）とを、並行して実行する。
ステップＳ１２０において、相関値算出部６２０は、撮像画像Ｍ０の３つの小領域ＭＲ１〜ＭＲ３それぞれに対して縮尺の異なるテンプレートセットＳを用いて、相関値を算出する。具体的には、相関値算出部６２０は、小領域ＭＲ１の画素についてはテンプレートセットＳ１（図９：１１×１１画素）、小領域ＭＲ２の画素についてはテンプレートセットＳ２（図９：１３×１３画素）、小領域ＭＲ３の画素についてはテンプレートセットＳ３（図９：１５×１５画素）を用いる（図１１）。
この結果、図１１に示すように、テンプレート画像の種類ごとに異なる相関値ＲＬ１，ＲＬ２，ＲＬ３が得られる。本実施形態において、相関値は、コンボリューション（畳み込み演算）によって、撮像画像Ｍ０の１画素ごとに算出される。相関値の算出方法は、本実施形態に限定されず、ＳＳＤ（Ｓｕｍ ｏｆ Ｓｑｕａｒｅｄ Ｄｉｆｆｅｒｅｎｃｅ：画素値の差の２乗和）、ＳＡＤ（Ｓｕｍ ｏｆ Ａｂｓｏｌｕｔｅ Ｄｉｆｆｅｒｅｎｃｅ：画素値の差の絶対値の和）等、周知の方法を利用して算出してもよい。なお、ＳＳＤ，ＳＡＤによって算出される値は、撮像画像とテンプレート画像とが類似しているほど値が小さくなり、完全に一致している場合には、値は０になる。そのため、コンボリューションによる相関値と同様に撮像画像とテンプレート画像とが類似しているほど値が大きくなる相関値とするために、逆数を用いるのが好ましい。コンボリューションは、他の方法と比較して計算量を削減することができるため、好ましい。
相関値マップ生成部６４０は、撮像画像Ｍ０の画素ごとに相関値ＲＬ１，ＲＬ２，ＲＬ３を加算して、相関値マップＲＬＴを生成する（図１０のステップＳ１３０）。このようにして、３種のテンプレート画像Ｔ１〜Ｔ３と撮像画像Ｍ０との相関値を表す相関値マップＲＬＴ（図１１）が生成される。図１１では、相関値マップＲＬＴを、撮像画像Ｍ０と同様に簡略化して図示している。
指示体検出部６６０は、相関値マップＲＬＴにおいて閾値Ｔｈより大きい極大値を有する画素ＬＭＰ(図１１)の位置を指示体の先端位置として検出する(図１０のステップＳ１５０）。本実施形態では、閾値Ｔｈ＝１８０と設定しているが、閾値は、撮像部３００の感度、撮像部３００とスクリーン面ＳＳとの距離等に応じて適宜設定することができる。例えば、撮像部３００とスクリーン面ＳＳとの距離が近いほど非発光指示体８０が明るく（画素値が大きく）撮像されるため、撮像部３００とスクリーン面ＳＳとの距離が近いほど閾値Ｔｈを大きく設定してもよい。
三次元位置算出部６８０は、第１撮像画像および第２撮像画像のそれぞれで検出された指示体位置に基づいて、三角測量により非発光指示体８０の先端部８１の三次元位置（Ｘ８１，Ｙ８１，Ｚ８１）を算出する。
上述の通り、撮像画像Ｍ０の投写画面領域ＰＳＲは、撮像部３００の撮像方向に起因する歪みや撮像レンズに起因する歪みを有する（図７）。そのため、メモリー画像ＭＰの投写画像ＰＰ（図６）に対する、撮像画像Ｍ０の投写画面領域ＰＳＲ（図６）の局所倍率Ｍに応じて、撮像画像Ｍ０に含まれる非発光指示体８０の大きさが異なる。例えば、撮像画像Ｍ０の小領域ＭＲ３（０．９＜Ｍ≦１．０）に非発光指示体８０（指）が含まれる場合は、小領域ＭＲ２（０．７＜Ｍ≦０．９）に非発光指示体８０（指）が含まれる場合と比較して、非発光指示体８０のサイズが大きい。本実施形態では、撮像画像Ｍ０の小領域ＭＲ３の画素については、テンプレート画像Ｔのサイズが１５×１５画素のテンプレートセットＳ１を用いて相関値を算出し、撮像画像Ｍ０の小領域ＭＲ２の画素については、テンプレート画像Ｔのサイズが１３×１３画素のテンプレートセットＳ２を用いて相関値を算出している。すなわち、本実施形態のインタラクティブプロジェクター１００では、相関値算出部６２０において相関値を算出する際に、撮像画像Ｍ０を局所倍率Ｍに基づいて区分された各小領域ＭＲに含まれる非発光指示体８０のサイズに適したサイズ（縮尺）のテンプレート画像Ｔを用いて相関値を算出するため、より高い相関値を得ることができる。その結果、非発光指示体８０の検出精度を向上させることができる。
また、本実施形態では、複数種類のテンプレート画像Ｔを用いて撮像画像Ｍ０に含まれる非発光指示体８０をテンプレートマッチングにより検出する際に、各テンプレート画像Ｔと撮像画像Ｍ０との相関値ＲＬ１，ＲＬ２，ＲＬ３を、撮像画像Ｍ０の画素ごとに加算して、複数のテンプレート画像Ｔと撮像画像Ｍ０との相関を示す相関値マップを生成している。複数のテンプレート画像を用いてテンプレートマッチングを実行する場合に、高い相関値を示すものを選択する場合と比較して、計算が簡単になるため、非発光指示体８０の検出処理を高速化することができる。
Ｃ．位置検出部の第２実施形態（局所倍率に応じて画像の解像度を変更）：
図１２は、第２実施形態の位置検出部６００Ａの構成を示すブロック図である。第２実施形態の位置検出部６００Ａは、第１実施形態の位置検出部６００における相関値算出部６２０に換えて相関値算出部６２０Ａを備える。相関値算出部６２０Ａは、複数のテンプレート画像（ここでは３つのテンプレート画像Ｔ１〜Ｔ３）を備える。本実施形態におけるテンプレート画像Ｔ１〜Ｔ３は、第１実施形態におけるテンプレート画像Ｔ２１〜Ｔ２３（図８）と同一であり、サイズが１３×１３画素である。本実施形態においてテンプレート画像Ｔ１〜Ｔ３は、所定の指で上記の角度で、撮像画像Ｍ０の小領域ＭＲ２に相当するスクリーン面ＳＳの領域を指した状態を、撮像部３００で撮像した画像を用いて生成されている。すなわち、テンプレート画像Ｔに含まれる指の大きさは、撮像画像Ｍ０の小領域ＭＲ２に含まれる非発光指示体８０の平均的な大きさに相当する。
図１３は、第２実施形態の非発光指示体８０に関する指示体位置検出処理の流れを示すフローチャートである。図１４は、第２実施形態の指示体位置検出処理を説明するための説明図である。
第２実施形態では、上記した第１実施形態（図１０）におけるステップＳ１１０を実行した後、ステップＳ１２０に換えてステップＳ１２０Ａを実行する（図１３）。ステップＳ１２０Ａにおいて、相関値算出部６２０Ａは、撮像画像Ｍ０の小領域ＭＲごとに解像度を変更してテンプレート画像Ｔと撮像画像Ｍ０との相関値を算出する。具体的には、撮像画像Ｍ０の小領域ＭＲ１を撮像画像Ｍ０の２倍の解像度，小領域ＭＲ３を撮像画像Ｍ０の１／２倍の解像度にそれぞれ変換した画像（小領域ＭＲ２は解像度変換を行わない）に相当する解像度変換後画像Ｍ１（図１４）に対して、第１種テンプレート画像Ｔ１との相関値ＲＬ１を算出する工程（図１３のステップＳ１２２Ａ）と、第２種テンプレート画像Ｔ２との相関値ＲＬ２を算出する工程（ステップＳ１２４Ａ）と、第３種テンプレート画像Ｔ３との相関値ＲＬ３を算出する工程（ステップＳ１２６Ａ）とを、並行して実行する。
図１５は、第２実施形態における相関値の算出方法を説明するための説明図である。図１５（Ａ）にテンプレート画像データを示す。図１５では、説明を簡単にするために、テンプレート画像のサイズを３×３画素とし各画素の画素値をＴｍｎ（ｍ＝１，２，３；ｎ＝１，２，３）とする。図１５（Ｂ）に撮像画像データを示す。撮像画像データにおける注目画素ＮＰ（ｉ，ｊ）の画素値をＰｉ，ｊ（ｉ，ｊは任意の整数）とする。図１５（Ｃ）に、撮像画像の解像度変換（２倍）を概念的に示す。テンプレート画像と解像度を２倍にした小領域ＭＲ１の画像との相関値を算出する場合には、注目画素ＮＰ（＝Ｐｉ，ｊ）を中心とする３×３画素の領域ＳＲを利用してテンプレート画像Ｔとの相関値を算出する（図１５（Ｄ））。すなわち、注目画素ＮＰ（＝Ｐｉ，ｊ）の相関値ＳＲＬ２（ｉ，ｊ）は、下記の式（２）によって算出することができる。
ＳＲＬ２（ｉ，ｊ）＝Ｐｉ−１，ｊ−１×Ｔ１１＋Ｐｉ−１，ｊ×（Ｔ１２＋Ｔ１３）＋Ｐｉ，ｊ−１×Ｔ２１＋Ｐｉ，ｊ×（Ｔ２２＋Ｔ２３）＋Ｐｉ，ｊ−１×Ｔ３１＋Ｐｉ，ｊ×（Ｔ３２＋Ｔ３３）・・・（２）
テンプレート画像のサイズが１３×１３画素の場合も、同様の考え方で上記式（２）に相当する計算式を用いて算出することができる。
図１６は、第２実施形態における相関値の算出方法を説明するための説明図である。図１６では、撮像画像Ｍ０の解像度を１／２倍に変換した画像（以下、１／２倍変換画像とも称する。）を用いた相関値の算出方法を概念的に図示している。１／２倍変換画像を用いてテンプレート画像Ｔとの相関値を算出する場合には、図１６に示すように、注目画素ＮＰ（＝Ｐｉ，ｊ）を中心とする６×６画素を利用してテンプレート画像Ｔとの相関値を算出する。すなわち、注目画素ＮＰの相関値ＳＲＬ１／２（ｉ，ｊ）は、下記の式（３）によって算出することができる。
ＳＲＬ１／２（ｉ，ｊ）＝１／４｛（Ｐｉ−２，ｊ−２＋Ｐｉ−２，ｊ−１＋Ｐｉ−１，ｊ−２＋Ｐｉ−１，ｊ−１）×Ｔ１１＋（Ｐｉ−２，ｊ＋Ｐｉ−２，ｊ＋１＋Ｐｉ−１，ｊ＋Ｐｉ−１，ｊ＋１）×Ｔ１２＋・・・＋（Ｐｉ＋２，ｊ＋２＋Ｐｉ＋２，ｊ＋３＋Ｐｉ＋３，ｊ＋２＋Ｐｉ＋３，ｊ＋３）×Ｔ３３｝ ・・・（３）
ここでは、１／２倍の解像度を有する１／２倍変換画像における画素の画素値として、変換前の４つの画素の画素値の平均値を使用している。式（３）において、変換前の４つの画素の画素値を平均化するために、１／４を乗算している。
テンプレート画像のサイズが１３×１３画素の場合も、同様の考え方で上記式（３）に相当する計算式を用いて算出することができる。
相関値マップ生成部６４０（図１２）は、相関値算出部６２０Ａによって算出された３種類の相関値ＲＬ１〜３（図１４）を、撮像画像Ｍ０の画素ごとに加算して、相関値マップＲＬＴを生成する（図１３のステップＳ１３０）。指示体検出部６６０は、上記と同様に、相関値マップＲＬＴにおいて閾値Ｔｈより大きい極大値を有する画素ＬＭＰ(図１４)の位置を指示体の先端位置として検出する（ステップＳ１５０）。
上述の通り、本実施形態においてテンプレート画像Ｔに含まれる指の大きさは、撮像画像Ｍ０の小領域ＭＲ２に含まれる非発光指示体８０の平均的な大きさに相当する。本実施形態では、局所倍率Ｍに基づいて区分された小領域ＭＲごとに適した倍率で解像度を変換した変換後画像Ｍ１を用いて、テンプレート画像Ｔ１〜Ｔ３との相関値を算出している。すなわち、概念的には、小領域ＭＲ１の画像を２倍に拡大してテンプレート画像Ｔとの相関値を算出し、小領域ＭＲ３の画像を１／２倍に縮小してテンプレート画像Ｔとの相関値を算出し、小領域ＭＲ２については、撮像画像Ｍ０に対して解像度の変換を行わず、テンプレート画像Ｔとの相関値を算出している。ここで「概念的には」と記載した理由は、上述した式（２）および式（３）から理解できるように、現実には解像度変換を行った画像をメモリーに展開する必要はなく、撮像画像データの画像値Ｐｉ，ｊを用いた相関値の算出の式として、解像度変換を反映した式を用いればよいからである。このように、本実施形態では、撮像画像Ｍ０の小領域ＭＲ１および小領域ＭＲ２に含まれる非発光指示体８０の大きさを、テンプレート画像Ｔの指の大きさに近い大きさになるように解像度を変換した画像を用いて相関値を算出しているため、１サイズのテンプレート画像Ｔ１〜Ｔ３を用いて、より高い相関値を得ることができる。その結果、非発光指示体８０の検出精度を向上させることができる。
Ｄ．位置検出部の第３実施形態（複数の相関値を局所倍率に応じた重み付けで加算）：
第３実施形態のインタラクティブプロジェクターの相関値算出部は、第２実施形態の相関値算出部６２０Ａと同様に、３つのテンプレート画像Ｔ１〜Ｔ３を備える。本実施形態におけるテンプレート画像Ｔ１〜Ｔ３は、第２実施形態のテンプレート画像と相似形の画像であり、サイズが１５×１５画素である。本実施形態においてテンプレート画像Ｔ１〜Ｔ３は、撮像画像Ｍ０の小領域ＭＲ３に相当するスクリーン面ＳＳの領域を所定の指で指した状態を、撮像部３００で撮像した画像を用いて生成されている。すなわち、テンプレート画像Ｔに含まれる指の大きさは、撮像画像Ｍ０の小領域ＭＲ３に含まれる非発光指示体８０の平均的な大きさに相当する。
図１７は、第３実施形態の非発光指示体８０に関する指示体位置検出処理の流れを示すフローチャートである。図１８は、第３実施形態の相関値マップの生成を説明するための説明図である。
第３実施形態では、上記した第２実施形態（図１３）におけるステップＳ１１０を実行した後、ステップＳ１２０Ａに換えてステップＳ１２０Ｂを実行する（図１７）。第３実施形態では、テンプレート画像Ｔと撮像画像Ｍ０との相関値を算出する工程（図１７のステップＳ１２０Ｂ）において、解像度を上げた画像も用いる。具体的には、ステップＳ１２０Ｂにおいて、相関値算出部は、撮像画像Ｍ０と複数のテンプレート画像Ｔ１〜Ｔ３とを用いて、各テンプレート画像Ｔと撮像画像Ｍ０との第１種の相関値ＦＲＬを算出する工程（ステップＳ１２１）と、撮像画像Ｍ０の２倍の解像度の２倍拡大画像Ｍ２（図１８）と複数のテンプレート画像Ｔ１〜Ｔ３とを用いて、各テンプレート画像Ｔと撮像画像Ｍ０との第２種の相関値ＳＲＬを算出する工程（ステップＳ１２３）と、撮像画像Ｍ０の４倍の解像度の４倍拡大画像Ｍ４（図１８）と複数のテンプレート画像Ｔ１〜Ｔ３とを用いて、各テンプレート画像Ｔと撮像画像Ｍ０との第３種の相関値ＴＲＬを算出する工程（ステップＳ１２５）とを、並行して実行する。詳しくは、ステップＳ１２１において、相関値算出部は、３つのテンプレート画像Ｔ１〜Ｔ３に対応する３つの第１種の相関値ＦＲＬ１〜ＦＲＬ３を算出する。同様に、ステップＳ１２３において、相関値算出部は、３つのテンプレート画像Ｔ１〜Ｔ３に対応する３つの第２種の相関値ＳＲＬ１〜ＳＲＬ３を算出する。同様に、ステップＳ１２５において、相関値算出部は、３つのテンプレート画像Ｔ１〜Ｔ３に対応する３つの第３種の相関値ＴＲＬ１〜ＴＲＬ３を算出する。すなわち、この実施形態では、テンプレート画像Ｔと撮像画像Ｍ０との相関値を算出する工程（ステップＳ１２０Ｂ）において、９種類の相関値（ＦＲＬ１〜３，ＳＲＬ１〜３，ＴＲＬ１〜３）が算出される。本実施形態における２倍拡大画像Ｍ２および４倍拡大画像Ｍ４が、それぞれ、請求項における解像度変換後画像に相当する。２倍拡大画像Ｍ２および４倍拡大画像Ｍ４を用いた相関値は、第２実施形態と同様の考え方で、上記式（２）に相当する計算式を用いて算出することができる。
相関値マップ生成部は、相関値算出部によって算出された９種類の相関値ＦＲＬ１〜３，ＳＲＬ１〜３，ＴＲＬ１〜３（図１８）を、撮像画像Ｍ０の画素ごとに加算して、相関値マップＲＬＴを生成する。この際、小領域ＭＲごとに異なる重み付けで加算する（図１７のステップＳ１３０Ｂ）。詳しくは、図１８に示すように、第１種の相関値ＦＲＬについては、小領域ＭＲ１は１．２，小領域ＭＲ２は１．１，小領域ＭＲ３は１．０の重み付けを、それぞれ行う。例えば、非発光指示体８０（指）が小領域ＭＲ３にある場合には、撮像画像Ｍ０に含まれる非発光指示体８０の大きさがテンプレート画像Ｔに近いため、高い相関値が得られる。これに対し、非発光指示体８０（指）が小領域ＭＲ１，２にある場合には、撮像画像Ｍ０に含まれる非発光指示体８０の大きさが比較的小さく、高い相関値が得られないため、非発光指示体８０が検出されにくい。そこで、小領域ＭＲ１，２については、小領域ＭＲ３より高い重み付けで加算することにより、非発光指示体８０が小領域ＭＲ１，２にある場合にも非発光指示体８０を検出しやすくしている。すなわち、相関値ＦＲＬが低い領域ほど重み付けを高く設定している。
第２種の相関値ＳＲＬについては、小領域ＭＲ２に非発光指示体８０がある場合に、高い相関値ＳＲＬが得られるため、小領域ＭＲ２は重み付けを１．０とし、小領域ＭＲ１，３はそれより高い１．１の重み付けを、それぞれ行う。第３種の相関値ＴＲＬについては、小領域ＭＲ１に非発光指示体８０がある場合に、高い相関値ＴＲＬが得られるため、小領域ＭＲ１は１．０，小領域ＭＲ２は１．１，小領域ＭＲ３は１．２の重み付けを、それぞれ行う。なお、重み付けは、本実施形態に限定されず、０を除く種々の値に適宜設定可能である。相関値が低い領域ほど重み付けを高く設定するのが好ましい。
指示体検出部６６０は、上記と同様に、相関値マップＲＬＴにおいて閾値Ｔｈより大きい極大値を有する画素ＬＭＰの位置を指示体の先端位置として検出する（ステップＳ１５０）。
第３実施形態によれば、撮像画像の解像度を上げた画像を用いて相関値を算出し、複数の解像度の画像を用いた相関値を全て加算して相関値マップＲＬＴを生成している。上述のとおり、撮像画像Ｍ０に含まれる非発光指示体８０の大きさは、局所倍率Ｍに応じて異なる。本実施形態では、撮像画像の解像度を上げて、概念的には画像を拡大して、テンプレート画像Ｔとの相関値を算出している。本実施形態では、テンプレート画像Ｔに含まれる指の大きさが、撮像画像Ｍ０の小領域ＭＲ３に含まれる非発光指示体８０の平均的なサイズに近い。そのため、テンプレート画像Ｔとの相関をみると、撮像画像Ｍ０では小領域ＭＲ３において高い相関値が得られ、２倍拡大画像Ｍ２では小領域ＭＲ２において高い相関が得られ、４倍拡大画像Ｍ４では小領域ＭＲ１において高い相関が得られる。本実施形態では、相関値マップの生成時に、各種の相関値ＦＲＬ，ＳＲＬ，ＴＲＬが相対的に低い小領域ＭＲの加算の重み付けを高く設定している。そのため、相関値マップＲＬＴの精度が向上され、その結果、非発光指示体８０の検出精度を向上させることができる。
Ｅ．位置検出部の第４実施形態（局所倍率に応じて高相関値領域の画素数を変更）：
図１９は、第４実施形態の非発光指示体８０に関する指示体位置検出処理の流れを示すフローチャートである。図２０は、第４実施形態における指示体位置の決定方法を説明するための説明図である。
第４実施形態では、上記した第２実施形態（図１３）におけるステップＳ１１０を実行した後、ステップＳ１２０Ａに換えてステップＳ１２０Ｃを実行する（図１９）。第４実施形態では、ステップＳ１２０Ｃにおいて、撮像画像Ｍ０とテンプレート画像Ｔ１〜Ｔ３の相関値ＲＬ１〜ＲＬ３を算出する（図１９のステップＳ１２２Ｃ，Ｓ１２４Ｃ，Ｓ１２６Ｃ）。その後、第２実施形態（図１３）におけるステップＳ１３０を実行し、ステップＳ１５０に換えてステップＳ１４０，Ｓ１５０Ａを実行する（図１９）。
本実施形態では、第１〜３実施形態と異なり、相関値マップＲＬＴにおいて閾値Ｔｈより大きい所定の高相関値領域Ｒ１２の重心を１画素未満の精度で算出し、非発光指示体８０の先端部８１の位置（指示体位置）とする。具体的には、指示体検出部は、後で詳述するように、相関値マップＲＬＴにおいて閾値Ｔｈより大きい極大値を有する画素ＬＭＰの属する小領域ＭＲに対応する画素数の高相関値領域を決定する（図１９のステップＳ１４０）。図２０（Ａ）において、画素ＬＭＰにハッチングを付し、５×５画素の高相関値領域Ｒ１２を例示する。そして、高相関値領域Ｒ１２内の画素の相関値の重心位置Ｇを１画素未満の精度で算出し、非発光指示体８０の先端部８１の位置（指示体位置）とする（図１９のステップＳ１５０Ａ）。ここで、重心位置Ｇ（ＸＧ，ＹＧ）は、高相関値領域Ｒ１２の各画素の相関値を考慮した位置であり、下記の式（４ａ），（４ｂ）で算出される。
ＸＧ＝ΣαｉＸｉ／Σαｉ・・・（４ａ）
ＹＧ＝ΣαｉＹｉ／Σαｉ・・・（４ｂ）
ここで、αｉは、高相関値領域Ｒ１２内の各画素の相関値，Ｘｉ，Ｙｉは、各画素のＸ座標およびＹ座標である。
図２０（Ａ）に示すように、高相関値領域Ｒ１２内の画素値が高相関値領域Ｒ１２の中心画素（図２０（Ａ）では、ハッチングを付した画素ＬＭＰ）に対して対称でないため、図２０（Ｂ）に示すように、相関値マップＲＬＴにおいて高相関値領域Ｒ１２の重心位置Ｇは、中心位置ＰＣとは異なる座標になる。
図２１は、第４実施形態における高相関値領域Ｒ１２を説明するための説明図である。本実施形態では、指示体検出部は、上述の通り、相関値マップＲＬＴにおいて閾値Ｔｈより大きい極大値を有する極大値画素ＬＭＰを検出し、極大値画素ＬＭＰの属する小領域ＭＲに基づいて、ステップＳ１５０Ａにおける重心の算出に用いる高相関値領域Ｒ１２の画素数を決定する（図１９のステップＳ１４０）。図２１（Ａ）は、相関値マップＲＬＴにおいて、極大値画素ＬＭＰが小領域ＭＲ３に属する例を示す。この場合、高相関値領域Ｒ１２Ａは、極大値画素ＬＭＰを中心とする９×９画素に決定される。図２１（Ｂ）は、相関値マップＲＬＴにおいて、極大値画素ＬＭＰが小領域ＭＲ２に属する例を示す。この場合、高相関値領域Ｒ１２Ａは極大値画素ＬＭＰを中心とする７×７画素に決定される。図２１（Ｃ）は、相関値マップＲＬＴにおいて、極大値画素ＬＭＰが小領域ＭＲ１に属する例を示す。この場合、高相関値領域Ｒ１２Ａは極大値画素ＬＭＰを中心とする５×５画素に決定される。
上述のとおり、撮像画像Ｍ０に含まれる非発光指示体８０の大きさは、局所倍率Ｍに応じて異なる。その結果、相関値マップＲＬＴにおいて相関値が閾値Ｔｈより高い領域の大きさが異なる。例えば、小領域ＭＲ３では、局所倍率Ｍが小領域ＭＲ１，ＭＲ２に比較して大きく、相関値マップＲＬＴにおいて相関値が閾値Ｔｈより高い領域が小領域ＭＲ１，ＭＲ２に比較して大きい。そのため、高相関値領域Ｒ１２の画素数を小領域ＭＲ１，ＭＲ２より大きく設定することにより、重心位置の算出精度を向上させることができる。なお、局所倍率Ｍが比較的小さい小領域ＭＲ１では、高相関値領域Ｒ１２Ｃの画素数を小さくすることにより、重心算出処理の処理時間を短縮することができる。
Ｆ．位置検出部の第５実施形態（局所倍率に応じてカットオフ周波数を変更）：
図２２は、第５実施形態の位置検出部６００Ｂの概略構成を示すブロック図である。本実施形態の位置検出部６００Ｂは、第２実施形態の位置検出部６００Ａ（図１２）の構成に加え、フィルター処理部６１０を備える。フィルター処理部６１０は、撮像部３００より位置検出部６００Ｂに入力される撮像画像Ｍ０に対してローパスフィルターを用いたフィルター処理を実行してフィルター処理後画像ＭＦを生成する。フィルター処理部６１０は、撮像画像Ｍ０の小領域ＭＲごとに異なるカットオフ周波数のローパスフィルターを用いる。具体的には、各小領域ＭＲで用いられるローパスフィルターのカットオフ周波数は、小領域ＭＲ１＜小領域ＭＲ２＜小領域ＭＲ３である。すなわち、局所倍率Ｍが小さいほど、ローパスフィルターのカットオフ周波数を低く設定している。局所倍率Ｍが小さな小領域ＭＲ１に含まれる非発光指示体８０の大きさは小さいため、ローパスフィルターのカットオフ周波数を低くすると、非発光指示体８０の輪郭がぼやけて大きくなり、非発光指示体８０の検出精度を向上させることができる。一方、局所倍率Ｍが大きな小領域ＭＲ３に含まれる非発光指示体８０の大きさは十分大きいため、ローパスフィルターのカットオフ周波数を高くしてぼかし度合いを小さくした方が検出精度が向上される。相関値算出部６２０は、フィルター処理後画像ＭＦを用いて、第２実施形態と同様に、相関値を算出する。
Ｇ．位置検出部の第６実施形態（撮像画像内の位置に応じてテンプレート画像を変更）：
図２３は、第６実施形態の位置検出部６００Ｃの構成を示すブロック図である。第６実施形態の位置検出部６００Ｃは、第１実施形態の位置検出部６００における相関値算出部６２０に換えて相関値算出部６２０Ｃを備える。相関値算出部６２０Ｃは、複数のテンプレートセット（ここでは９つのテンプレートセットＳ１〜Ｓ９）を備える。各テンプレートセットは、複数種類のテンプレート画像（ここでは２種のテンプレート画像Ｔ１，Ｔ２）を備える。
図２４は、第６実施形態における小領域について説明するための説明図である。本実施形態では、小領域ＤＲを、局所倍率Ｍに関わらず、撮像画像Ｍ０の位置（画素座標）に基づいて定めている。撮像画像Ｍ０は、９等分に区分され、９つの小領域ＤＲ１〜ＤＲ９を備える。小領域ＤＲの数は、本実施形態に限定されず、１０以上でもよいし、２〜８でもよい。
図２５は、各小領域ＤＲ１〜ＤＲ９（図２４）とテンプレートセットＳ１〜Ｓ９（図２３）との対応を説明するための説明図である。図２５では、図２４に示した各小領域ＤＲの相関値を算出する際に用いられるテンプレートセットＳ１〜Ｓ９を示している。小領域ＤＲ１に対して、テンプレートセットＳ１が用いられる。同様に、小領域ＤＲ２〜ＤＲ９に対して、それぞれ対応するテンプレートセットＳ２〜Ｓ９が用いられる。各テンプレートセットＳは、互いに異なる２種のテンプレート画像Ｔを備える。本実施形態では、第ｍ（ｍ＝１〜９の整数）テンプレートセットＳｍの第ｎ（ｎ＝１，２）種テンプレートＴを、テンプレートＴｍｎと称する。各テンプレートセットＳは、撮像画像Ｍ０の各小領域に含まれる非発光指示体８０の形状（向き）として、可能性の高い形状（向き）が選定されている。例えば、撮像画像Ｍ０の図面左側の小領域ＤＲ１，ＤＲ４，ＤＲ７は、スクリーン面ＳＳの左側に相当し、指示者（非発光指示体８０を有する人）がスクリーン面ＳＳの左側に立って投写画面ＰＳに対して指示する可能性が高いため、小領域ＤＲ１，ＤＲ４，ＤＲ７に対応するテンプレートセットＳ１，Ｓ４，Ｓ７は、左側から指示をしている指の画像を用いたテンプレート画像Ｔを備える。同様の考えに基づいて、撮像画像Ｍ０の図面右側の小領域ＤＲ３，ＤＲ６，ＤＲ９に対応するテンプレートセットＳ３，Ｓ６，Ｓ９は、右側から指示をしている指の画像を用いたテンプレート画像Ｔを備える。撮像画像Ｍ０の真ん中の小領域ＤＲ２，ＤＲ５，ＤＲ８は、指示者がスクリーン面ＳＳの左右どちらにも立つ可能性があるため、小領域ＤＲ２，ＤＲ５，ＤＲ８に対応するテンプレートセットＳ２，Ｓ５，Ｓ８は、それらを考慮した組合わせにしている。任意の２つのテンプレートセットＳが備えるテンプレート画像Ｔは、組合わせが異なるものの、１つのテンプレートセットＳが備える２つのテンプレート画像Ｔのうち、１つが同じであってもよい。例えば、テンプレート画像Ｔ２２とテンプレート画像Ｔ３１は、同じ画像である。同様に、テンプレート画像Ｔ４２とテンプレート画像Ｔ５２，テンプレート画像Ｔ５１とテンプレート画像Ｔ６２，テンプレート画像Ｔ８２とテンプレート画像Ｔ９１は、同じ画像である。なお、本実施形態のテンプレートセットＳが備えるテンプレート画像Ｔは全て、同サイズ（１３×１３画素）である。
本実施形態において、相関値算出部６２０Ｃ（図２３）は、撮像画像Ｍ０の小領域ＤＲ（図２４）ごとに異なるテンプレートセットＳ（図２５）を用いて、第１種のテンプレート画像Ｔ１に対応する相関値ＲＬ１，第２種のテンプレート画像Ｔ２に対応する相関値ＲＬ２をそれぞれ算出し、第１実施形態と同様に、相関値ＲＬ１と相関値ＲＬ２とを撮像画像Ｍ０の画素ごとに加算して相関値マップＲＬＴを作成する。
本実施形態では、撮像画像Ｍ０の位置（画素座標）に基づいて、複数の小領域ＤＲに区分し、小領域ＤＲごとに異なるテンプレートセットＳを用いて相関値を算出している。上述の通り、テンプレートセットＳが備えるテンプレート画像Ｔは、小領域ＤＲにおける非発光指示体８０の想定される向きに応じて決定されているため、高い相関値が得られる。その結果、非発光指示体８０の検出精度を向上させることができる。
Ｈ．変形例：
なお、この発明は上記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。
・変形例１：
上記実施形態では、自発光指示体７０と非発光指示体８０の両方を、指示体として利用可能なインタラクティブプロジェクターを例示したが、非発光指示体８０のみを利用可能に構成してもよい。
・変形例２：
上記実施形態では、撮像部３００が２台のカメラ３１０，３２０を有しているものとしたが、撮像部３００は、１台のカメラを有する構成としてもよいし、３台以上のカメラを有する構成としてもよい。後者の場合には、ｍ台（ｍは３以上の整数）のカメラで撮像されたｍ個の画像に基づいて、三次元座標（Ｘ，Ｙ，Ｚ）が決定される。例えば、ｍ個の画像から２個の画像を任意に選択して得られるｍＣ２個の組み合わせを用いてそれぞれ三次元座標を求め、それらの平均値を用いて最終的な三次元座標を決定しても良い。こうすれば、三次元座標の検出精度を更に高めることが可能である。
・変形例３：
上記実施形態では、インタラクティブプロジェクションシステム９００がホワイトボードモードとＰＣインタラクティブモードとで動作可能であるものとしたが、これらのうちの一方のモードのみで動作するようにシステムが構成されていても良い。また、インタラクティブプロジェクションシステム９００は、これら２つのモード以外の他のモードのみで動作するように構成されていても良く、更に、これら２つのモードを含む複数のモードで動作可能に構成されていてもよい。
・変形例４：
上記実施形態では、図３に示した照射検出光ＩＤＬと、反射検出光ＲＤＬと、装置信号光ＡＳＬと、指示体信号光ＰＳＬとがすべて近赤外光であるものとしたが、これらのうちの一部又は全部を近赤外光以外の光としてもよい。
・変形例５：
上記実施形態では、複数のテンプレート画像Ｔを用いて相関値マップＲＬＴを生成する場合に、各テンプレート画像Ｔに対応する相関値ＲＬを加算する例を示したが、例えば、最も高い相関関係を示したテンプレート画像Ｔに対応する相関値Ｒを選択する構成にしてもよい。
・変形例６：
上記実施形態の指示体検出部６６０において、相関値マップＲＬＴに対して所定の閾値に基づく２値化を行って、非発光指示体８０を検出する構成にしてもよい。この場合、小領域ごとに異なる閾値を用いてもよい。例えば、投写画面ＰＳと撮像部３００との距離が小さいほど、閾値を大きく設定してもよい。具体的には、閾値をＭＲ３＞ＭＲ２＞ＭＲ１にしてもよい。上述の通り、非発光指示体８０と撮像部３００との距離が小さいほど、撮像画像Ｍ０内の非発光指示体８０は明るい（画素値が大きい）。すなわち、非発光指示体８０と撮像部３００との距離が大きいと、撮像画像Ｍ０内の非発光指示体８０は暗い（画素値が小さい）ため、閾値を小さく設定することにより、非発光指示体８０を適切に検出することができる。一方、非発光指示体８０と撮像部３００との距離が小さい小領域では、閾値が小さいと、２値化により検出される領域が大きく、検出精度が低くなるため、閾値を大きく設定することにより、非発光指示体８０を適切に検出することができる。このように、小領域ＭＲに応じて閾値を変更することにより、適切に非発光指示体８０を検出することができる。
・変形例７：
上記した複数の実施形態を適宜組み合わせてもよい。例えば、第１〜３，６実施形態のそれぞれに、第４実施形態を組み合わせてもよいし、さらに、第５実施形態を組み合わせてもよい。また、例えば、第１実施形態において、小領域ＭＲごとにテンプレート画像Ｔのサイズとテンプレート画像Ｔの種類（指の向き）の両方を変えてもよい。このようにしても、非発光指示体８０の検出精度を向上させることができる。
・変形例８：
上記実施形態において、局所倍率Ｍに基づいて小領域ＭＲを区分する例と、撮像画像Ｍ０の位置（画素座標）に基づいて小領域ＤＲを区分する例を示したが、上記実施形態に限定されない。例えば、カメラ３１０，３２０と、スクリーン面ＳＳとの距離に基づいて小領域を区分してもよい。
・変形例９：
上記実施形態において、局所倍率Ｍや撮像画像Ｍ０の位置（画素座標）に基づいて小領域ＤＲを区分し、小領域ＭＲごとに異なるテンプレートマッチングのパラメーターを用いる例を示したが、所定の区分方法で区分された各小領域の局所倍率に基づいて、パラメーターを決定する構成にしてもよい。例えば、第６実施形態において示したように、撮像画像Ｍ０を９等分に区分して、各小領域ＤＲ１〜ＤＲ９の局所倍率Ｍに応じてパラメーターを決定してもよい。
・変形例１０：
上記実施形態では、テンプレートマッチングにより非発光指示体８０を検出する例を示したが、非発光指示体８０を検出する方法は、上記実施形態に限定されない。例えば、特徴抽出処理やエッジ検出処理によって、非発光指示体８０を検出してもよい。特徴抽出処理やエッジ検出処理によって、非発光指示体８０を検出する場合に、指示体検出を行う際の対象画像（撮像画像）の解像度変換倍率を、小領域ごとに変更してもよい。また、自発光指示体７０も、テンプレートマッチング，特徴抽出処理，エッジ検出処理等によって検出してもよい。
・変形例１１
上記実施形態では、インタラクティブプロジェクター１００が検出光照射部４１０を備える構成を例示したが、検出光照射部４１０を備えない構成にしてもよい。インタラクティブプロジェクター１００が検出光照射部４１０を備えない場合、非発光指示体８０の先端を検出するための照射検出光をスクリーン面ＳＳとその前方の空間にわたって照射する構成を、支持部材９１０等が備えてもよい。なお、上記実施形態のように、インタラクティブプロジェクターが検出光照射部を備える構成の場合、プロジェクターによって、検出光の照射タイミングを、カメラによる撮像タイミングに関連づけて、容易に制御することができるため、好ましい。また、インタラクティブプロジェクター１００が検出光照射部４１０を備えない場合に、２台のカメラ３１０，３２０の両方を、可視光を含む光を受光して撮像する撮像機能を有する構成とし、非発光指示体８０の先端を、可視光を含む光を受光して撮像した撮像画像に基づいて検出する構成にしてもよい。なお、上記実施形態のように、インタラクティブプロジェクターが検出光照射部を備える構成の場合は、可視光を含む光を受光して撮像した撮像画像に基づいて検出する構成に比較して、容易に、精度よく非発光指示体を検出することができる。
・変形例１２
上記実施形態では、インタラクティブプロジェクター１００として、いわゆる超短焦点プロジェクターを例示したが、これに限定されない。すなわち、メモリー画像ＭＰの投写画像ＰＰが、キーストーン補正により逆台形に形成されていてもよい。この場合も、投写画面ＰＳは、図６に示す矩形状を成し、撮像画像Ｍ０の投写画面領域ＰＳＲは、図６に示す形状を成す。局所倍率として、上記実施形態と同様に、メモリー画像ＭＰの投写画像ＰＰの個々の局所的な領域に対する、撮像画像Ｍ０の投写画面領域ＰＳＲの対応する領域の倍率を用いることができる。
以上、いくつかの実施例に基づいて本発明の実施の形態について説明してきたが、上記した発明の実施の形態は、本発明の理解を容易にするためのものであり、本発明を限定するものではない。本発明は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得るとともに、本発明にはその等価物が含まれることはもちろんである。
７０…自発光指示体
７１…先端部
７２…軸部
７３…ボタンスイッチ
７４…信号光受信部
７５…制御部
７６…先端スイッチ
７７…先端発光部
８０…非発光指示体
８１…先端部
１００…インタラクティブプロジェクター
２００…投写部
２１０…投写レンズ
２２０…光変調部
２３０…光源
３００…撮像部
３１０…第１カメラ
３２０…第２カメラ
４１０…検出光照射部
４３０…信号光送信部
５００…投写画像生成部
５１０…投写画像メモリー
６００…位置検出部
６１０…フィルター処理部
６２０…相関値算出部
６４０…相関値マップ生成部
６６０…指示体検出部
６８０…三次元位置算出部
７００…制御部
８００…接触検出部
９００…インタラクティブプロジェクションシステム
９１０…支持部材
９２０…スクリーン板

Claims (6)

  1. 投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
    スクリーン面上に前記投写画面を投写する投写部と、
    前記投写画面の領域を撮像する撮像部と、
    前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
    を備え、
    前記指示体検出部は、
    前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
    前記検出処理として、前記指示体を検出するためのテンプレート画像を用いたテンプレートマッチングを実施し、
    さらに、前記撮像画像の解像度を変換した画像に相当する解像度変換後画像と前記テンプレート画像とを用いて相関値を算出し、前記撮像画像を用いた相関値と、前記解像度変換後画像を用いた相関値とを加算した結果に基づいて、前記指示体を検出し、
    前記パラメーターは、前記撮像画像を用いた相関値と、前記解像度変換後画像を用いた相関値とを加算する際の重み付けである、インタラクティブプロジェクター。
  2. 投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
    スクリーン面上に前記投写画面を投写する投写部と、
    前記投写画面の領域を撮像する撮像部と、
    前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
    を備え、
    前記指示体検出部は、
    前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
    前記検出処理として、前記指示体を検出するためのテンプレート画像を用いたテンプレートマッチングを実施し、
    前記撮像画像と前記テンプレート画像との相関値を示す相関値マップを生成し、前記相関値マップにおいて所定の閾値より大きい相関値を有する高相関値領域を抽出し、前記高相関値領域における前記相関値の重心を１画素未満の精度で算出し、前記重心を前記指示体の先端位置として検出し、
    前記パラメーターは、前記高相関値領域の画素数である、インタラクティブプロジェクター。
  3. 投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
    スクリーン面上に前記投写画面を投写する投写部と、
    前記投写画面の領域を撮像する撮像部と、
    前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
    を備え、
    前記指示体検出部は、
    前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
    前記撮像画像の解像度を変換した画像に相当する解像度変換後画像に対して前記検出処理を実施して、前記指示体を検出し、
    前記パラメーターは、前記解像度の変換における倍率である、インタラクティブプロジェクター。
  4. 投写画面に対するユーザーの指示体による指示を受け取ることが可能なインタラクティブプロジェクターであって、
    スクリーン面上に前記投写画面を投写する投写部と、
    前記投写画面の領域を撮像する撮像部と、
    前記撮像部によって撮像された前記指示体を含む撮像画像に基づいて、前記指示体を検出するための検出処理を実施する指示体検出部と、
    を備え、
    前記指示体検出部は、
    前記撮像画像を複数の小領域に区分して、少なくとも一つの前記小領域では他の前記小領域と異なるパラメーターを用いて、前記検出処理を実施し、
    前記撮像画像に対してローパスフィルター処理を施してフィルター処理後画像を生成し、前記フィルター処理後画像を用いて前記検出処理を実施し、
    前記パラメーターは、前記ローパスフィルターのカットオフ周波数である、インタラクティブプロジェクター。
  5. 請求項３に記載のインタラクティブプロジェクターにおいて、
    前記投写画面が記憶された投写画面記憶部を備え、
    前記撮像画像に含まれる前記投写画面の、前記投写画面記憶部における前記投写画面に対する変形率に基づいて、前記小領域が区分される、
    インタラクティブプロジェクター。
  6. 請求項４に記載のインタラクティブプロジェクターにおいて、
    前記投写画面が記憶された投写画面記憶部を備え、
    前記撮像画像に含まれる前記投写画面の、前記投写画面記憶部における前記投写画面に対する変形率に基づいて、前記小領域が区分される、
    インタラクティブプロジェクター。
JP2015065674A 2015-03-27 2015-03-27 インタラクティブプロジェクター Expired - Fee Related JP6547366B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015065674A JP6547366B2 (ja) 2015-03-27 2015-03-27 インタラクティブプロジェクター
US15/077,843 US10055026B2 (en) 2015-03-27 2016-03-22 Interactive projector and method of controlling interactive projector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015065674A JP6547366B2 (ja) 2015-03-27 2015-03-27 インタラクティブプロジェクター

Publications (2)

Publication Number Publication Date
JP2016186680A JP2016186680A (ja) 2016-10-27
JP6547366B2 true JP6547366B2 (ja) 2019-07-24

Family

ID=56975333

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015065674A Expired - Fee Related JP6547366B2 (ja) 2015-03-27 2015-03-27 インタラクティブプロジェクター

Country Status (2)

Country Link
US (1) US10055026B2 (ja)
JP (1) JP6547366B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018088663A (ja) * 2016-11-30 2018-06-07 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001052230A1 (en) * 2000-01-10 2001-07-19 Ic Tech, Inc. Method and system for interacting with a display
JP3640156B2 (ja) * 2000-02-22 2005-04-20 セイコーエプソン株式会社 指示位置検出システムおよび方法、プレゼンテーションシステム並びに情報記憶媒体
JP2004125664A (ja) * 2002-10-03 2004-04-22 Hamamatsu Photonics Kk 位相分布計測装置
JP4560023B2 (ja) * 2006-09-14 2010-10-13 三菱スペース・ソフトウエア株式会社 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法
JP5365387B2 (ja) * 2009-07-17 2013-12-11 株式会社ニコン 位置検出装置
JP2012150636A (ja) 2011-01-19 2012-08-09 Seiko Epson Corp 投写型表示装置及び情報処理システム
CN102859320A (zh) * 2011-04-28 2013-01-02 三洋电机株式会社 信息取得装置以及物体检测装置
US9111135B2 (en) * 2012-06-25 2015-08-18 Aquifi, Inc. Systems and methods for tracking human hands using parts based template matching using corresponding pixels in bounded regions of a sequence of frames that are a specified distance interval from a reference camera
WO2014128749A1 (ja) * 2013-02-19 2014-08-28 株式会社ブリリアントサービス 形状認識装置、形状認識プログラム、および形状認識方法
JP6037901B2 (ja) * 2013-03-11 2016-12-07 日立マクセル株式会社 操作検出装置、操作検出方法及び表示制御データ生成方法
JP6425416B2 (ja) * 2013-05-10 2018-11-21 国立大学法人電気通信大学 ユーザインタフェース装置およびユーザインタフェース制御プログラム

Also Published As

Publication number Publication date
US10055026B2 (en) 2018-08-21
US20160282959A1 (en) 2016-09-29
JP2016186680A (ja) 2016-10-27

Similar Documents

Publication Publication Date Title
JP6477131B2 (ja) インタラクティブプロジェクター，インタラクティブプロジェクションシステム，およびインタラクティブプロジェクターの制御方法
CN107094247B (zh) 位置检测装置及其对比度调整方法
US9535538B2 (en) System, information processing apparatus, and information processing method
JP6477130B2 (ja) インタラクティブプロジェクター及びインタラクティブプロジェクションシステム
JP2020123118A (ja) 位置検出方法、位置検出装置、及び、インタラクティブプロジェクター
US20200264729A1 (en) Display method, display device, and interactive projector
CN107407995B (zh) 交互式投影仪、交互式投影系统以及交互式投影仪的控制方法
US10073614B2 (en) Information processing device, image projection apparatus, and information processing method
JP2016009396A (ja) 入力装置
US11093085B2 (en) Position detection method, position detection device, and interactive projector
JP6547366B2 (ja) インタラクティブプロジェクター
US10551972B2 (en) Interactive projector and method of controlling interactive projector
JP6503828B2 (ja) インタラクティブプロジェクションシステム，指示体，およびインタラクティブプロジェクションシステムの制御方法
US11144164B2 (en) Position detection method, position detection device, and interactive projector
JP6690271B2 (ja) 位置検出システム、位置検出装置、および位置検出方法
US9958958B2 (en) Interactive projector and method of controlling interactive projector
JP6631281B2 (ja) インタラクティブプロジェクター、及び、そのオートキャリブレーション実行方法
JP2018098598A (ja) 入出力装置、情報共有方法及び情報共有プログラム
JP2017125764A (ja) 物体検出装置、及び物体検出装置を備えた画像表示装置
JP2020071573A (ja) 表示装置、表示システム、及び表示方法
JP2016186679A (ja) インタラクティブプロジェクターおよびインタラクティブプロジェクターの制御方法
JP2020123113A (ja) 位置検出方法、位置検出装置、及び、インタラクティブプロジェクター

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190121

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190422

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190507

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190528

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190610

R150 Certificate of patent or registration of utility model

Ref document number: 6547366

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees