以下、添付図面を適宜参照しながら、本開示に係る投影制御システム及び投影制御方法を具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
以下、本開示に係る投影制御システムは、例えば店舗に敷設されたスクリーン(被投影物の一例)にいる人物(対象物の一例)の形状を、赤外線カメラ(撮像装置の一例)による赤外撮像画像に基づいて認識し、その認識された人物の形状に合わせて、画像コンテンツを重畳した投影画像をプロジェクタからスクリーンに向けて投影する。投影制御システムは、店舗内(言い換えると、屋内)に設置されてもよいし、店舗外(言い換えると、屋外)に設置されてもよい。
(実施の形態1)
図1は、実施の形態1に係る投影制御システム100の設置例を示す図である。投影制御システム100は、プロジェクタ10(図2参照)と、赤外線照明20と、スクリーン30と、赤外線カメラ40(図2参照)と、投影制御装置50(図2参照)とを少なくとも含む構成である。投影制御装置50には、入力装置IP及び表示装置DPのそれぞれがデータもしくは情報の入出力が可能に接続される。
投影装置の一例としてのプロジェクタ10は、例えば円筒形状の筐体を有し、投影制御装置50との間でデータもしくは情報の送受信が可能に接続される。プロジェクタ10は、スクリーン30に対向するように配置される。プロジェクタ10は、投影制御装置50から送出された投影指示を含む投影画像のデータを受信して取得すると、その投影指示に基づき、その投影指示により指定された投影画像をスクリーン30に投影するための投影光(例えば可視光)を生成してスクリーン30に向けて投影する。これにより、プロジェクタ10は、投影制御装置50により指定された投影画像(後述参照)をスクリーン30に投影可能となる。プロジェクタ10の詳細については、図2を参照して説明する。
光源装置の一例としての赤外線照明20は、複数の照明素子(図示略、例えば、赤外光を発光するLED(Light Emission Diode)素子)とそれぞれの照明素子における発光の有無を制御するための制御基板(図示略)とが内蔵された筐体を有し、プロジェクタ10の筐体とは別体である。赤外線照明20は、投影制御装置50との間でデータもしくは情報の送受信が可能に接続されてもよいし、投影制御装置50との間でデータもしくは情報の送受信が通信可能に接続されなくてもよい。赤外線照明20は、プロジェクタ10と同様に、スクリーン30に対向するように配置される。赤外線照明20は、例えば投影制御システム100の管理者の手動操作、又は投影制御装置50からの制御指示に基づき、電源オン状態となり、上述した投影光とは波長帯域の異なる赤外光をスクリーン30に向けて照射する。
なお、赤外線照明20は、例えばプロジェクタ10の円筒形状の筐体の半径方向の周囲に沿って一体的に取り付けられた円筒形状の筐体を有してもよい。この場合には、この円筒形状の筐体内に、複数の照明素子(例えば赤外光を発光するLED素子)と制御基板(上述参照)とが内蔵される。つまり、複数の照明素子(例えば赤外光を発光するLED素子)は、プロジェクタ10の円筒形状の筐体の半径方向の周囲に沿って円環状に並べて配置される。
実施の形態1に係る投影制御システム100では、赤外線照明20から照射される赤外光は、プロジェクタ10から投影される投影光(可視光)とは波長帯域が異なり、赤外線カメラ40は可視光でなく赤外光を受光して撮像するものである。これは、投影制御装置50が、赤外線カメラ40が撮像した赤外撮像画像に基づいて、赤外線カメラ40の画角内に含まれるように配置されたスクリーン30の周囲(例えば手前)に存在する人物HMの位置を誤認識すること無く高精度に検出するためである。
被投影物の一例としてのスクリーン30は、赤外線照明20から照射された赤外光を透過可能な材料を用いて形成され、固定的に設置される。スクリーン30の表側や裏側は、図1に従うとする。スクリーン30を透過した赤外光は、赤外線カメラ40により受光される。スクリーン30は、例えばいずれも赤外光を透過可能な透明モードとスクリーンモードとが交互に切り換え可能な透明スクリーン(例えば、下記参考非特許文献1参照)でもよいし、赤外光を透過可能なフィルムがガラスの背面に貼り付けられた背面投影スクリーン(例えば、下記参考非特許文献2参照)でもよい。
参考非特許文献1
パナソニック株式会社、透明スクリーン、[online]、[平成29年12月27日検索]、インターネット<URL:https://panasonic.biz/cns/invc/screen/technology.html>
参考非特許文献2
シアターハウス、リア透過タイプ フィルム・スクリーンタイプ、[online]、[平成29年12月27日検索]、インターネット<http://theaterhouse.co.jp/p_rear/item_top.html>
撮像装置の一例としての赤外線カメラ40は、投影制御装置50との間でデータもしくは情報の送受信が可能に接続される。赤外線カメラ40は、スクリーン30の全体(全域)をすっぽり画角内に含むように対向して配置される。赤外線カメラ40は、赤外線照明20から照射されてスクリーン30を透過した赤外光を含む光を受光し、その受光された光に基づいて撮像することで、赤外撮像画像を生成する。赤外線カメラ40は、生成された赤外撮像画像のデータを投影制御装置50に送出する。赤外線カメラ40の詳細については、図2を参照して説明する。
なお、図1に示すように、プロジェクタ10と赤外線カメラ40、又は赤外線照明20と赤外線カメラ40とはスクリーン30を挟んで反対側に対向して配置されていれば良く、互いに同軸上に存在するように配置されなくてもよい。例えば、赤外線照明20と赤外線カメラ40とがスクリーン30を挟んで反対側に対向して配置されることで、赤外線カメラ40は、スクリーン30を透過した赤外透過光の受光に基づいて、スクリーン30の表面側にいる人物HM1の形状を特定可能な赤外撮像画像を撮像可能となる。
また、対象物の一例としての人物HM1は、スクリーン30の赤外線カメラ40側に設けられた対象物領域ARF1内に位置するのであれば、図1に示す位置そのものに限定されない。つまり、人物HM1は、対象物領域ARF1内のいずれの場所に位置してよい。対象物領域ARF1は、スクリーン30と同様に、赤外線照明20と赤外線カメラ40との間に位置する人物HM1が存在するエリアである。また、対象物領域は、スクリーン30の前方(図1、図10、図12、図17参照)又は後方(図8参照)のいずれかに位置すればよく、両側に位置してもよい。また、対象物領域ARF1は、人物HM1から見て、例えば床に枠線等が描画されていること等によって具体的に可視化されている方が好ましい。これにより、人物HM1が対象物領域ARF1外へ移動することを抑制可能となる。但し、対象物領域ARF1の可視化は必須でなくてもよい。また、対象物領域ARF1は、例えばプロジェクタ10、別のプロジェクタ(図示略)、看板、又はシステム管理者等によって、「スクリーンの前に立ってください」という示唆によって、人物HM1に指示されてもよい。
投影制御装置50は、例えばPC(Personal Computer)もしくはタブレット端末等の有線もしくは無線の通信が可能な情報処理装置であり、少なくともプロジェクタ10、赤外線カメラ40、入力装置IP、表示装置DPとの間でデータもしくは情報の送受信が可能に接続される。投影制御装置50は、赤外線カメラ40により撮像された赤外撮像画像(言い換えると、スクリーン30を透過した赤外光の撮像に基づいて生成された撮像画像)に基づいて、スクリーン30の周囲(例えば手前)に人物HM1(対象者の一例)の有無やその人物HM1のスクリーン30に対する位置を示す形状を認識する。投影制御装置50は、その認識された人物HM1の形状に応じた投影画像を生成し、その生成された投影画像をスクリーン30に投影するプロジェクタ10に出力する。投影制御装置50の詳細については、図2を参照して説明する。
入力装置IPは、例えばキーボードやマウス等の、投影制御システム100のユーザ(例えば管理者)の操作を受け付け可能なデバイスであり、ユーザの操作に応じた信号を投影制御装置50に送出するユーザインターフェースである。
表示装置DPは、例えばLCD(Liquid Crystal Display)もしくは有機EL(Electroluminescence)を用いて構成され、投影制御装置50から送出されたデータもしくは情報の表示指示を取得し、その取得された表示指示に含まれるデータもしくは情報の表示を行う。なお、表示装置DPは、ユーザの操作を受け付けて検出可能なタッチパネルとして構成されてもよい。なお、実施の形態1に係る投影制御システム100において、入力装置IPや表示装置DPは省略されてもよい。
図2は、実施の形態1に係る投影制御システム100のシステム構成例を詳細に示すブロック図である。
プロジェクタ10は、通信インターフェース11と、制御部12と、投影部13と、メモリ14とを含む構成である。図2のプロジェクタ10の構成において、通信インターフェースを便宜的に「通信I/F」と記載している。
通信インターフェース11は、投影制御装置50との間のデータもしくは情報の送受信(通信)に関する通信インターフェースとしての役割を有し、投影制御装置50から送出される投影画像のデータを含む投影指示を受信して取得すると、その取得された投影指示を制御部12に渡す。
制御部12は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)もしくはFPGA(Field Programmable Gate Array)を用いて構成されたプロセッサPRC1である。制御部12は、プロジェクタ10の動作を司るコントローラとして機能し、プロジェクタ10の各部の動作を全体的に統括するための制御処理、プロジェクタ10の各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。制御部12は、メモリ14に記憶されたプログラム及びデータに従って動作する。制御部12は、動作時にメモリ14を使用し、制御部12が生成又は取得したデータ又は情報をメモリ14に一時的に保存してもよい。
投影部13は、制御部12により投影の制御を受け、所定の投影光を出射してスクリーン30に投影する。具体的には、投影部13は、制御部12から渡された投影画像のデータに基づいて、その投影画像をスクリーン30に投影するための投影光を出射する。投影部は例えば、光源、レンズなどによって構成される。
メモリ14は、例えばRAM(Random Access Memory)とROM(Read Only Memory)とを用いて構成され、プロジェクタ10の動作の実行に必要なプログラムやデータ、更には、動作中に生成されたデータ又は情報を一時的に保持する。RAMは、例えばプロジェクタ10の動作時に使用されるワークメモリである。ROMは、例えばプロジェクタ10を制御するためのプログラム及びデータを予め記憶して保持する。
赤外線カメラ40は、赤外撮像部41と、制御部42と、通信インターフェース43と、メモリ44とを含む構成である。図2の赤外線カメラ40の構成においても、同様に通信インターフェースを便宜的に「通信I/F」と記載している。
赤外撮像部41は、赤外線照明20から照射された赤外光がスクリーン30を透過した光(赤外透過光)を受光可能な赤外光レンズ(図示略)と、その光(赤外透過光)に基づく赤外撮像画像を撮像可能なイメージセンサ(図示略)とを含む構成である。赤外撮像部41の出力は制御部42に送出される。
制御部42は、例えばCPU、MPU、DSPもしくはFPGAを用いて構成されたプロセッサPRC2である。制御部42は、赤外線カメラ40の動作を司るコントローラとして機能し、赤外線カメラ40の各部の動作を全体的に統括するための制御処理、赤外線カメラ40の各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。制御部42は、メモリ44に記憶されたプログラム及びデータに従って動作する。制御部42は、動作時にメモリ44を使用し、制御部42が生成又は取得したデータ又は情報をメモリ44に一時的に保存してもよい。制御部42は、例えば赤外撮像部41のイメージセンサの出力に基づいて所定の画像処理を施すことで、赤外撮像画像のデータを生成する。
通信インターフェース43は、投影制御装置50との間のデータもしくは情報の送受信(通信)に関する通信インターフェースとしての役割を有し、制御部42により生成された赤外撮像画像のデータを取得すると、その取得された赤外撮像画像のデータを投影制御装置50に送信する。
メモリ44は、例えばRAMとROMとを用いて構成され、赤外線カメラ40の動作の実行に必要なプログラムやデータ、更には、動作中に生成されたデータ又は情報を一時的に保持する。RAMは、例えば赤外線カメラ40の動作時に使用されるワークメモリである。ROMは、例えば赤外線カメラ40を制御するためのプログラム及びデータを予め記憶して保持する。
投影制御装置50は、入出力インターフェース51と、メモリ52と、コンテンツ格納データベース(DB:Database)53と、記録装置54と、プロセッサ55とを含む構成である。入出力インターフェース51と、メモリ52と、コンテンツ格納データベース53と、記録装置54と、プロセッサ55とは、互いに内部バスBS1を介して、データもしくは情報の入出力が可能に接続される。
入出力インターフェース51は、プロジェクタ10、赤外線カメラ40、入力装置IP及び表示装置DPのそれぞれとの間で有線もしくは無線のデータもしくは情報の送受信が可能に接続される。なお、図2では図示が省略されているが、入出力インターフェース51は赤外線照明20との間で有線もしくは無線のデータもしくは情報の送受信が可能に接続されてもよい。
メモリ52は、例えばRAMとROMとを用いて構成され、投影制御装置50の動作の実行に必要なプログラムやデータ、更には、動作中に生成されたデータ又は情報を一時的に保持する。RAMは、例えば投影制御装置50の動作時に使用されるワークメモリである。ROMは、例えば投影制御装置50を制御するためのプログラム及びデータを予め記憶して保持する。メモリ52は、例えば赤外線カメラ40により生成される赤外撮像画像の解像度(具体的には、縦方向のピクセル、横方向のピクセル)の情報と、プロジェクタ10により投影されるスクリーン30の大きさ(面積)の情報とを保持している。
コンテンツ保持部の一例としてのコンテンツ格納データベース53は、例えばHDD(Hard Disk Drive)もしくはSSD(Solid State Drive)を用いて構成され、プロジェクタ10により投影される投影画像に重畳されるための画像コンテンツのデータを記憶保持している。
記録装置54は、例えばHDDもしくはSSDを用いて構成され、投影制御装置50が入力装置IPや赤外線カメラ40から送られて取得したデータもしくは情報を記録したり、プロジェクタ10により投影させるための投影画像のデータ(具体的には、プロセッサ55により生成される投影画像のデータ)を記録したりする。
プロセッサ55は、例えばCPU、MPU、DSPもしくはFPGAを用いて構成される。プロセッサ55は、投影制御装置50の動作を司るコントローラとして機能し、投影制御装置50の各部の動作を全体的に統括するための制御処理、投影制御装置50の各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。プロセッサ55は、メモリ52に記憶されたプログラム及びデータに従って動作する。プロセッサ55は、動作時にメモリ52を使用し、プロセッサ55が生成又は取得したデータ又は情報をメモリ52に一時的に保存してもよい。
プロセッサ55は、例えばキャリブレーション部551と、物体検出部552と、投影画像生成部553とを少なくとも含む構成である。キャリブレーション部551、物体検出部552及び投影画像生成部553のそれぞれは、例えばプロセッサ55がメモリ52に予め記憶されたプログラム及びデータを読み込んで実行することで、機能的に実現可能となる。
キャリブレーション部551は、赤外線カメラ40により生成される赤外撮像画像内の位置(具体的には、座標)とプロジェクタ10により投影される投影画像内の位置(具体的には、座標)との変換処理の関係式(例えば、射影変換行列)を求める処理(つまり、キャリブレーション)を行う。具体的には、キャリブレーション部551は、赤外撮像画像内で投影画像の四隅がどこに位置するかを、ユーザの入力装置IPを用いた指定又は所定の画像処理(例えば、エッジ検出処理)によって検出し、例えば上述した射影変換行列を求める(図3参照)。
図3は、赤外線カメラ40の赤外撮像画像IRGの位置を示す座標(Xc,Yc)とプロジェクタ10により投影される投影画像PJRの位置を示す座標(Xp,Yp)との間の変換のためのキャリブレーションの一例を示す説明図である。赤外撮像画像IRG中の端点EG1,EG2,EG3,EG4のそれぞれは、例えば赤外撮像画像IRG及び投影画像PJRが対比的に表示装置DPに表示された状態で(図3参照)、ユーザの入力装置IPを用いた指定により選択された、投影画像PJRの四隅の端点CR1,CR2,CR3,CR4にそれぞれ対応する。
なお上述したように、キャリブレーション部551は、赤外撮像画像IRGを画像処理(例えば、エッジ検出処理もしくは直線検出処理)を実行することで、ユーザの入力装置IPを用いた指定無く、赤外撮像画像IRG中の端点EG1,EG2,EG3,EG4を自動的に検出してもよい。この場合、画像処理により検出された端点EG1,EG2,EG3,EG4がそれぞれ投影画像PJRの四隅の端点CR1,CR2,CR3,CR4に対応するものとして、キャリブレーション部551により選択される。
キャリブレーション部551は、赤外撮像画像IRG中の端点EG1,EG2,EG3,EG4の各座標と投影画像PJRの四隅の端点CR1,CR2,CR3,CR4の各座標とに基づき、赤外撮像画像IRG中の座標(Xc,Yc)を投影画像PJR中の座標(Xp,Yp)に変換するための射影変換行列を算出して求める。キャリブレーション部551は、求められた射影変換行列のデータもしくは情報をキャリブレーション結果としてメモリ52に保存する。これにより、投影制御装置50は、キャリブレーション結果を用いることで、赤外撮像画像IRG中の任意の座標(Xc,Yc)を、投影画像PJR中の対応する座標(Xp,Yp)に正確に変換できる。
なお、図1に示す投影制御システム100において、プロジェクタ10により投影される投影画像の解像度(言い換えると、大きさ又は面積)や、赤外線カメラ40の位置が変更されない限りは、キャリブレーション部551におけるキャリブレーションの処理は少なくとも一度実行すればよい。言い換えると、プロジェクタ10により投影される投影画像の解像度、又は赤外線カメラ40の位置が変更される度に、キャリブレーション部551におけるキャリブレーションの処理が少なくとも一度実行される。
また、キャリブレーション部551におけるキャリブレーションの方法は、上述した方法に限定されない。例えば、キャリブレーション部551は、公知のストラクチャードライト法を用いたキャリブレーションを実行することで、画素単位で赤外撮像画像IRG内の座標を投影画像PJR内の対応する座標に変換することも可能である。
物体検出部552は、赤外線カメラ40により生成された赤外撮像画像のデータを、入出力インターフェース51を介して取得する。物体検出部552は、その取得された赤外撮像画像のデータに基づいて、スクリーン30の周囲(例えば手前)にいる人物HM1の形状を認識(検出)する(図4参照)。物体検出部552は、その認識(検出)された人物HM1の形状(言い換えると、人物HM1のシルエット)の認識結果を投影画像生成部553に渡す。
図4は、赤外線カメラ40により撮像される赤外撮像画像IRG0,IRG1の一例を示す説明図である。実施の形態1では、赤外線カメラ40はスクリーン30の表側に配置され、赤外線照明20はスクリーン30の裏側に配置される。つまり、赤外線照明20と赤外線カメラ40とがスクリーン30を挟んで反対側に対向して配置される。また、赤外線照明20から照射された赤外光はスクリーン30を透過する。
このため、図4の紙面左側に示すように、スクリーン30の表側に人物HM1等の対象物が存在しない(言い換えると、赤外光を反射する物体が存在しない)場合には、赤外線照明20から照射された赤外光がスクリーン30において反射無く透過して赤外線カメラ40において受光される。従って、赤外線カメラ40により撮像される赤外撮像画像IRG0は、真っ白の領域WHR1のみから構成される画像となる。
一方、図4の紙面右側に示すように、スクリーン30の表側に人物HM1等の対象物が存在する(言い換えると、赤外光を反射する物体が存在する)場合には、赤外線照明20から照射された赤外光が人物HM1のいる位置では人物HM1で反射し、人物HM1のいない位置ではスクリーン30を透過して赤外線カメラ40において受光される。従って、赤外線カメラ40により撮像される赤外撮像画像IRG1は、人物HM1のいる位置からは赤外光が赤外線カメラ40に受光されないために、人物HM1のシルエットが形成された領域HM1SLと人物HM1のいない真っ白の領域WHR1との両方が存在する画像となる。なお、図4では、図4を分かり易くするために、領域HM1SLの人物HM1の輪郭内は白く示されているが、実際の赤外撮像画像のデータにおける領域HM1SL内は黒くなっている。
従って、物体検出部552は、赤外線カメラ40により撮像された赤外撮像画像のデータに基づいて、スクリーン30のどこに人物HM1(対象物の一例)が存在しているかを具体的かつ高精度に認識して特定することができる。
投影画像生成部553は、物体検出部552により認識された人物HM1の形状の認識結果を取得する。投影画像生成部553は、その取得された認識結果とメモリ52に保持されるキャリブレーション結果とを用いて、赤外撮像画像内の人物HM1の範囲を示す位置(座標)のそれぞれに対応する投影画像内の位置(座標)又はその位置(座標)から所定の距離離れた位置(座標)に、コンテンツ格納データベース53から読み出した画像コンテンツを重畳した投影画像を生成する。投影画像生成部553は、その生成された投影画像のデータを含む投影指示を生成し、その生成された投影指示を、入出力インターフェース51を介してプロジェクタ10に送出する。
図5は、表示装置DPに表示されるオフセット調整画面WD1に対するユーザ操作の一例を示す図である。図6は、図5に示すユーザ操作により画像コンテンツRB1の投影位置が左側にシフトした例を示す図である。図5に示すオフセット調整画面WD1は、例えばユーザの入力装置IPを用いた操作により、投影画像生成部553により生成されて表示装置DPに表示される。投影画像生成部553は、投影画像の背景部分となる背景投影画像PJGM1に対し、例えば人物HM1の左手上部に青色のボールの画像コンテンツBB1、人物HM1の右手上部に赤色のボールの画像コンテンツRB1をそれぞれ重畳する設定を保持している。図6では、図6を分かり易くするために、背景投影画像PJGM1のうち人物HM1の周囲の矩形部分内は背景投影画像PJGM1が無いように白く示されている。但し、投影画像生成部553は、上述した矩形部分内も全て背景投影画像となるようにスクリーン30の全域にかかる背景投影画像PJGM1を生成してよいし、図6に示すように人物HM1の周囲の矩形部分内を除いた背景投影画像PJGM1を生成してもよい。なお、投影画像生成部553は、その保持された設定を用いた投影画像PJR1をプレビューとして表示装置DPに表示してもよい。これにより、ユーザは、オフセット調整画面WD1を用いた調整前の画像コンテンツの重畳位置を視覚的かつ直感的に確認できる。
ここで、オフセット調整画面WD1において、例えばユーザの入力装置IPを用いた操作により、赤色のボールの画像コンテンツRB1の重畳位置を調整するために画像コンテンツRB1が選択され、かつ、オフセット調整画面WD1の調整バーCSRxが左側にシフトされる。この操作に応じて、図6に示すように、投影画像生成部553は、赤色のボールの画像コンテンツRB2を人物HM1の右手上部から、調整バーCSRxの移動操作量(例えば、452-234=218ピクセル)に応じた位置にシフトして重畳する設定に更新する。これにより、投影画像生成部553は、その更新された設定を用いた投影画像PJR2を生成できる。なお、投影画像生成部553は、その投影画像PJR2をプレビューとして表示装置DPに表示してもよい。これにより、ユーザは、オフセット調整画面WD1を用いた調整後の画像コンテンツ(例えば画像コンテンツRB2)の重畳位置を視覚的かつ直感的に確認できる。
なお、図5では画像コンテンツの重畳位置を水平方向に調整して指定するための調整バーCSRxの移動の例を説明したが、画像コンテンツの重畳位置を垂直方向に調整して指定するための調整バーの移動があってもよい。
次に、実施の形態1に係る投影制御システム100の動作手順を、図7を参照して説明する。図7は、実施の形態1に係る投影制御処理の動作手順の一例を説明するフローチャートである。図7に示すそれぞれの処理は、例えば投影制御装置50において実行される。
図7において、投影制御装置50のプロセッサ55において、キャリブレーションの処理が既に実行されているかどうかが判別される(S1)。ステップS1の処理は、例えばプロセッサ55が、キャリブレーション部551におけるキャリブレーション結果がメモリ52に保持されているかどうかによって実行可能である。キャリブレーションの処理が既に実行されていると判別された場合には(S1、YES)、投影制御装置50の処理はステップS3に進む。一方、キャリブレーションの処理が一度も実行されていないと判別された場合には(S1、NO)、キャリブレーション部551においてキャリブレーションの処理が実行される(S2)。
キャリブレーションの処理が既に実行されていると判別された場合(S1、NO)、又はステップS2の処理の後、プロセッサ55の物体検出部552は、赤外線カメラ40により撮像された赤外撮像画像のデータを取得し、その取得された赤外撮像画像に基づいて、対象物(例えば、人物HM1等の物体)の有無を検出する(S3)。ステップS3の処理では、物体検出部552は、例えば赤外撮像画像のデータに基づいて、スクリーン30の周囲(例えば手前)にいる人物HM1の形状を認識(検出)できた場合には、その人物HM1の存在を検出することができる。
物体検出部552が人物HM1の形状を検出できない場合には(S4、NO)、投影制御装置50の処理はステップS3に戻り、物体検出部552が人物HM1の形状を検出するまで、ステップS3,S4の処理が繰り返される。
一方、物体検出部552が人物HM1の形状を検出できた場合には(S4、YES)、投影画像生成部553は、物体検出部552により検出された赤外撮像画像内の人物HM1の位置(つまり、検出位置)に応じて、プロジェクタ10により投影される投影画像に重畳される画像コンテンツの投影位置並びにサイズ(つまり、大きさ)を決定する(S5)。投影位置は、例えば図6に示す画像コンテンツRB1,RB2,BB1の位置を示す。サイズは、例えば図6に示す画像コンテンツRB1,RB2,BB1の大きさを示す。
投影画像生成部553は、投影画像の背景部分となる背景投影画像に、ステップS5において決定された投影位置並びにサイズの情報を用いて生成した画像コンテンツを重畳した投影画像を生成する(S6)。投影画像生成部553は、その生成された投影画像のデータを含む投影指示を生成し、その生成された投影指示を、入出力インターフェース51を介してプロジェクタ10に送出する(S7)。
ステップS7の後、投影が終了するための条件が満たされた場合(S8、YES)、図7に示す投影制御装置50の処理は終了する。投影が終了するための条件とは、例えばユーザが投影制御装置50において予めインストールされた専用のアプリケーションの終了操作をした場合や、投影制御装置50の電源をオフする操作をした場合が該当する。
一方、投影が終了するための条件が満たされない場合(S8、NO)、投影制御装置50の処理はステップS3に戻る。つまり、スクリーン30の周囲(例えば手前)にいる人物HM1が移動した場合には、投影制御装置50は、ステップS3において再びその移動後の人物HM1のスクリーン30のどの位置にいるかを示す赤外撮像画像を赤外線カメラ40から取得し、投影が終了するための条件が満たされるまでステップS4以降の処理を繰り返して継続する。
以上により、実施の形態1に係る投影制御システム100では、赤外線照明20は、赤外光を照射する。赤外線カメラ40は、照射された赤外光がスクリーン30を透過した光(赤外透過光)を受光し、スクリーン30全体を画角内に含む赤外撮像画像を撮像する。投影制御装置50は、赤外線カメラ40により撮像された赤外撮像画像に基づいて、スクリーン30の周囲(例えば、前方又は後方)にいる人物HM1の形状を認識し、その認識された人物HM1の形状に応じた投影画像を生成し、生成された投影画像をスクリーン30に投影するプロジェクタ10に出力する。また、赤外線照明20は、スクリーン30を挟んで赤外線カメラ40の反対側に配置される。
これにより、投影制御システム100では、スクリーン30を挟んで赤外線カメラ40と反対側に配置された赤外線照明20からの赤外光はスクリーン30を透過する。その透過した赤外透過光は赤外線カメラ40において受光される。従って、投影制御装置50は、赤外線カメラ40の撮像可能な画角内に存在する検出対象物(例えば人物HM1)の位置を高精度に検出することができる。更に、投影制御装置50は、スクリーン30の手前側(例えば赤外線カメラ40側)にいる人物HM1の形状を具体的かつ高精度に認識できるので、例えば検出対象物(例えば人物HM1)に動きが生じた場合でも、その動きに追従して画像コンテンツを的確な位置に重畳した投影画像の投影を適応的に支援することができる。
また、投影制御装置50は、画像コンテンツを保持するコンテンツ格納データベース53を備え、認識された人物HM1の形状の付近に画像コンテンツを重畳した画像を投影画像として生成する。これにより、投影制御装置50は、スクリーン30の近くにいる人物HM1の位置に合わせて予め保持された画像コンテンツを重畳させてプロジェクタ10から投影させることができ、例えばエンターテインメント性を向上した画像の投影を的確に制御できる。
また、投影制御装置50は、画像コンテンツを保持するコンテンツ格納データベース53を備え、認識された人物HM1から所定距離の位置に画像コンテンツを重畳した画像を投影画像として生成する。これにより、投影制御装置50は、スクリーン30の近くにいる人物HM1の位置から所定距離離れた位置に予め保持された画像コンテンツを重畳させてプロジェクタ10から投影させることができ、例えばエンターテインメント性を向上した画像の投影を的確に制御できる。
また、所定距離は、ユーザ(例えば、システム管理者)の入力(例えば、入力操作)に応じて変更される。これにより、投影制御装置50は、人物HM1のいる位置に合わせて任意の位置に画像コンテンツを重畳でき、画像コンテンツの投影時の利便性を向上できる。
また、投影制御システム100において、人物HM1が位置する対象物領域ARF1は、スクリーンの周囲であって、赤外線カメラ40側に位置する。これにより、赤外線カメラ40は、人物HM1が赤外線カメラ40を向く正面視の形状を特定可能な赤外撮像画像を撮像可能となる。また、投影制御装置50は、特定された人物HM1の形状をそのまま用いて、例えば人物HM1の動きに合わせた画像コンテンツを重畳した投影画像を簡易に生成できる。
なお、図示は省略するが、本明細書にて開示した各実施の形態において、赤外線カメラ40は、赤外線照明20から照射された赤外光を受光する撮像部の一例としての赤外撮像部41を有し、この赤外撮像部41の前面に可視光をカットするフィルタ(例えば、可視光カットフィルタ)を更に配置してよい。前面の配置とは、例えば赤外撮像部41を構成するイメージセンサの前面に可視光カットフィルタが配置されることを指す。またフィルタの代わりに、赤外撮像部41を構成するレンズとして、可視光をカットする可視光カットレンズが使用されてもよい。赤外線カメラ40は、可視光の波長領域において分光感度を有する場合があり、この場合には、赤外線カメラ40において赤外光のみならず可視光も受光されてしまい、赤外撮像画像の感度が劣化する場合が想定される。
しかし、可視光カットレンズもしくは可視光カットフィルタが配置されることで、赤外線カメラ40は、可視光を的確に排除して受光できた赤外光に基づいて赤外撮像画像を生成でき、高精度な赤外撮像画像を投影制御装置50に出力できる。言い換えると、投影制御装置50は、赤外線カメラ40からの赤外撮像画像に基づいて、スクリーン30の周囲にいる人物HM1の形状を高精度に認識可能となる。
(実施の形態1の第1の変形例)
実施の形態1の第1の変形例では、例えば実施の形態1に係る投影制御システム100において、対象物の一例としての人物HM1がスクリーン30の周囲のプロジェクタ10側に位置する例を説明する(図8参照)。図8は、実施の形態1の第1の変形例に係る投影制御システムの設置例を示す図である。図9は、実施の形態1の第1の変形例に係る赤外線カメラ40により撮像される赤外撮像画像IRG2の一例を示す説明図である。実施の形態1の第1の変形例では、実施の形態1と異なるのは、対象物の一例としての人物HM1がスクリーン30の周囲の赤外線カメラ40側と反対側に位置する点である。この点以外は、実施の形態1と同一であるため、異なる内容について説明する。
図8に示すように、人物HM1はスクリーン30の周囲のプロジェクタ10側に位置する。通常、人物HM1はスクリーン30に背を向けて立つことが多いので、実施の形態1の第1の変形例では、赤外線カメラ40により撮像される赤外撮像画像IRG2では、図9に示すように、人物HM1の背中が正面方向に映る。
具体的には、赤外撮像画像IRG2は、赤外撮像画像IRG1と同様に人物HM1のいる位置からは赤外光が赤外線カメラ40に受光されないために、人物HM1のシルエットが形成された領域HM1SLaと人物HM1のいない真っ白の領域WHR1との両方が存在する画像となる。領域HM1SLaは、赤外撮像画像IRG1内の人物HM1のシルエットが形成された領域HM1SLとは人物HM1の前後方向(正面背面の方向)で逆となる。言い換えると、赤外撮像画像IRG2では、図4に示す赤外撮像画像IRG1と比べると、人物HM1の正面方向が逆となる。なお、赤外撮像画像IRG1,IRG2ではともに人物HM1の形状しか判別できないが、赤外撮像画像IRG1,IRG2は人物HM1がともにスクリーン30に背を向けた状態で撮像されている点で共通している。なお、図9では、図9を分かり易くするために、領域HM1SLaの人物HM1の輪郭内は白く示されているが、実際の赤外撮像画像のデータにおける領域HM1SLa内は黒くなっている。
従って、実施の形態1の第1の変形例でも、投影制御装置50は、赤外撮像画像IRG2内の人物HM1の形状を実施の形態1と同様に認識でき、その認識された人物HM1の形状に応じた投影画像を生成し、生成された投影画像をスクリーン30に投影するプロジェクタ10に出力する。例えば、投影制御装置50は、人物HM1の形状に応じた画像コンテンツを、実施の形態1における重畳位置(座標)とは左右方向に反転した位置(座標)に重畳することで、投影画像を生成できる。
従って、実施の形態1の第1の変形例でも、実施の形態1と同様に、投影制御装置50は、スクリーン30の手前側(例えばスクリーン30を挟んで赤外線カメラ40側と反対側のプロジェクタ10側)に位置する対象物領域ARB1内にいる人物HM1の形状を具体的かつ高精度に認識できるので、例えば検出対象物(例えば人物HM1)に動きが生じた場合でも、その動きに追従して画像コンテンツを的確な位置に重畳した投影画像の投影を適応的に支援することができる。
なお、図示は省略するが、本明細書にて開示した各実施の形態において、赤外線照明20は、自装置(つまり、赤外線照明20)の前面に、赤外光の照射範囲を広げるための拡散シートを更に配置してよい。例えば赤外線照明20がLED(Light Emitting Diode)等の指向性の強い発光素子により構成される場合には、上述した拡散シートの配置は一層有効となる。これにより、赤外線照明20から照射される赤外光が、拡散シートが配置されない場合に比べて、より拡散させることが可能となる。
なお、図示は省略するが、本明細書にて開示した各実施の形態において、赤外線照明20が配置される位置は、スクリーン30を挟んで赤外線カメラ40と反対側に配置され、かつ、その赤外線照明20から照射される赤外光がスクリーン30を透過するのであれば、特に限定されない。また、赤外線照明20の配置数も1つでなく複数でもよい。例えば、複数の赤外線照明20が、少なくとも1台のプロジェクタ10の左右両側に配置されてよい。特に、赤外線照明20が複数配置されることで、投影制御装置50は、スクリーン30の周囲にいる人物HM1(対象物の一例)の形状をより高精度に検出可能となる。
なお、図示は省略するが、本明細書にて開示した各実施の形態において、プロジェクタ10が配置される位置は、そのプロジェクタ10からの投影画像がスクリーン30の全域にわたって投影されるのであれば、特に限定されない。また、プロジェクタ10の配置数も1つでなく複数でもよい(後述する実施の形態2参照)。例えば、複数のプロジェクタ10が、少なくとも1台の赤外線照明20の左右両側に配置されてよい。また、複数のプロジェクタ10が、少なくとも1台の赤外線照明20の鉛直方向の上下両側、又は鉛直方向の上下両側でかつ前後方向にずれて配置されてよい。特に、プロジェクタ10が複数配置されることで、投影制御装置50は、例えばスクリーン30が広大である場合に、それぞれ異なるプロジェクタ10から同一又は異なる投影画像を生成して投影させることで、広大なスクリーン30に対してエンターテインメント性を向上した画像の投影の実行を管理できる。但し、プロジェクタ10が複数配置される場合には、上述した実施の形態1におけるキャリブレーションの処理がそれぞれのプロジェクタ10と赤外線カメラ40との間で実行されることが必要となる。
なお、図示は省略するが、本明細書にて開示した各実施の形態において、赤外線カメラ40が配置される位置は、スクリーン30を挟んで赤外線照明20と反対側に配置され、かつ、その赤外線カメラ40がスクリーン30を透過してきた赤外光を受光できるのであれば、特に限定されない。また、赤外線カメラ40の配置数も1つでなく複数でもよい。例えば、複数の赤外線カメラ40が、スクリーン30を挟んで赤外線照明20と反対側に左右両側にそれぞれ配置されてよい。また、複数の赤外線カメラ40が、スクリーン30を挟んで赤外線照明20と反対側に鉛直方向の上限両側にそれぞれ配置されてよい。また、複数の赤外線カメラ40が、スクリーン30を挟んで複数のプロジェクタ10や赤外線照明20と反対側に鉛直方向の上限両側にそれぞれ配置されてもよい。特に、赤外線カメラ40が複数配置されることで、投影制御装置50は、例えばスクリーン30が広大である場合に、それぞれ異なる赤外線カメラ40からの異なる赤外撮像画像に基づいて、スクリーン30の周囲の少なくとも1人の人物の形状を高精度に認識でき、広大なスクリーン30に対してエンターテインメント性を向上した画像の投影の実行を管理できる。但し、赤外線カメラ40が複数配置される場合には、上述した実施の形態1におけるキャリブレーションの処理がそれぞれのプロジェクタ10とそれぞれの赤外線カメラ40との間で実行されることが必要となる。
(実施の形態2)
実施の形態2では、例えば実施の形態1に係る投影制御システム100において、プロジェクタが複数配置される例を説明する(図10参照)。図10は、実施の形態2に係る投影制御システム100Bの設置例を示す図である。投影制御システム100Bは、プロジェクタ10,10Bと、赤外線照明20と、スクリーン30と、赤外線カメラ40(図2参照)と、投影制御装置50とを少なくとも含む構成である。図10の構成において、図1の構成と同一のものには同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。
第2の投影装置の一例としてのプロジェクタ10Bは、例えば円筒形状の筐体を有し、投影制御装置50との間でデータもしくは情報の送受信が可能に接続される。プロジェクタ10Bは、スクリーン30に対向し、かつ人物HM1側に配置される。プロジェクタ10Bは、投影制御装置50から送出された投影指示を含む投影画像のデータを受信して取得すると、その投影指示に基づき、その投影指示により指定された投影画像をスクリーン30の前に位置する人物HM1に投影するための投影光(例えば可視光)を生成して人物HM1に向けて投影する。これにより、プロジェクタ10Bは、投影制御装置50により指定された投影画像(図11参照)を、スクリーン30全域にでは無く、プロジェクタ10Bの前に位置している人物HM1に限定的に投影可能となる。プロジェクタ10Bの内部構成はプロジェクタ10の内部構成と同一であるため、説明は省略する。なお、プロジェクタ10Bは、投影光を人物HM1以外の対象に向けて投影してよい。また、上述したように、プロジェクタ10以外にプロジェクタ10Bが配置されるため、上述した実施の形態1におけるキャリブレーションの処理がプロジェクタ10Bと赤外線カメラ40との間で実行されることが必要となる。
図11は、実施の形態2に係る投影画像PJR2の一例を示す図である。図11において、図6の投影画像PJR1,PJR2と同一の要素には同一の符号を付与して説明を簡略化又は省略し、異なる要素について説明する。図11に示すように、投影制御装置50は、背景部分となる背景投影画像PJGM1に対し、例えば人物HM1の左手上部に青色のボールの画像コンテンツBB1、人物HM1の右手上部に赤色のボールの画像コンテンツRB1をそれぞれ重畳した投影画像PJR2を生成する。図11では、図11を分かり易くするために、背景投影画像PJGM1のうち人物HM1の周囲の矩形部分内は背景投影画像PJGM1が無いように白く示されている。但し、投影画像生成部553は、上述した矩形部分内も全て背景投影画像となるようにスクリーン30の全域にかかる背景投影画像PJGM1を生成してよいし、図11に示すように人物HM1の周囲の矩形部分内を除いた背景投影画像PJGM1を生成してもよい。プロジェクタ10は、投影制御装置50により生成された投影画像PJR2をスクリーン30全域に投影する。また、投影制御装置50は、スクリーン30全域にでは無く人物HM1に限って投影するための投影画像(例えば、画像コンテンツHT1)を生成し、この生成された投影画像を含む投影指示をプロジェクタ10Bに出力する。例えば、投影制御装置50は、実施の形態1と同様に、赤外線カメラ40からの赤外撮像画像に基づいて人物HM1の形状を認識でき、人物HM1の概略的な位置を把握できる。このため、投影制御装置50は、その認識された人物HM1の概略的な位置(例えば、人物HM1のシルエットの中心位置)に絞って投影させるための投影画像(例えば、画像コンテンツHT1)を生成できる。プロジェクタ10Bは、投影制御装置50からの投影指示により指定された投影画像(例えば、画像コンテンツHT1)を人物HM1に向けて投影する。
なお、実施の形態2では、投影制御装置50は、実施の形態1と同様な投影制御処理(図7参照)を実行しており、それぞれのプロジェクタ10,10Bに投影させるための異なる投影画像を生成し、生成された異なる投影画像をそれぞれのプロジェクタ10,10Bに投影させる。このため、実施の形態2の投影制御装置50の動作は、プロジェクタの配置数が異なるが、実施の形態1と同様であるため、詳細な説明は省略する。
以上により、実施の形態2に係る投影制御システム100Bでは、実施の形態1に係る投影制御システム100の構成に加え、投影装置は、第1の投影装置の一例としてのプロジェクタ10と、第2の投影装置の一例としてのプロジェクタ10Bとを含む。投影制御装置50は、プロジェクタ10に投影させるための投影画像(例えば、図11に示す投影画像PJR2)を生成してプロジェクタ10に投影させる。また、投影制御装置50は、赤外線カメラ40からの赤外撮像画像に基づいて認識された人物HM1の形状の内部に他の画像コンテンツ(例えば、画像コンテンツHT1)を生成してプロジェクタ10Bに投影させる。
これにより、実施の形態2に係る投影制御システム100Bは、実施の形態1に係る投影制御システム100の効果を有するとともに、プロジェクタ10からはスクリーン30全域に投影可能な投影画像の投影を実行でき、プロジェクタ10Bからはスクリーン30の周囲にいる人物HM1に絞った投影画像の投影を実行できる。従って、投影制御装置50は、人物HM1の概略的な位置を把握できるため、認識された人物HM1の概略的な位置(例えば、人物HM1のシルエットの中心位置)に絞って、プロジェクタ10により投影される投影画像よりも小さい局所的な投影画像を追加して投影でき、投影画像の多様性を向上できる。
(実施の形態3)
実施の形態3では、例えば実施の形態2に係る投影制御システム100Bにおいて、可視光を撮像するための可視光カメラ40Cが更に配置される例を説明する(図12参照)。図12は、実施の形態3に係る投影制御システム100Cの設置例を示す図である。投影制御システム100Cは、プロジェクタ10,10Bと、赤外線照明20と、スクリーン30と、赤外線カメラ40と、可視光カメラ40Cと、投影制御装置50Cとを少なくとも含む構成である。図12の構成において、図10の構成と同一のものには同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。
第2の撮像装置の一例としての可視光カメラ40Cは、投影制御装置50Cとの間でデータもしくは情報の送受信が可能に接続される。可視光カメラ40Cは、スクリーン30の全体(全域)をすっぽり画角内に含むように対向して配置される。可視光カメラ40Cは、スクリーン30を透過した可視光を含む光を受光し、その受光された光に基づいて撮像することで、可視光撮像画像を生成する。可視光カメラ40Cは、生成された可視光撮像画像のデータを投影制御装置50Cに送出する。可視光カメラ40Cの詳細については、図13を参照して説明する。
なお、図12に示すように、可視光カメラ40Cは、スクリーン30を挟んで赤外線カメラ40と反対側に配置されず、赤外線カメラ40と同じ側に配置される。可視光カメラ40Cは、例えばプロジェクタ10Bの周囲に配置される。これにより、可視光カメラ40Cは、スクリーン30の周囲にいる人物HM1の形状を視覚的かつ具体的に特定可能な可視光撮像画像を撮像可能となる。
投影制御装置50Cは、例えばPCもしくはタブレット端末等の有線もしくは無線の通信が可能な情報処理装置であり、少なくともプロジェクタ10,10B、赤外線カメラ40、可視光カメラ40C、入力装置IP、表示装置DPとの間でデータもしくは情報の送受信が可能に接続される。投影制御装置50Cは、赤外線カメラ40により撮像された赤外撮像画像(言い換えると、スクリーン30を透過した赤外光の撮像に基づいて生成された撮像画像)に基づいて、スクリーン30の周囲(例えば手前)に人物HM1(対象者の一例)の有無やその人物HM1のスクリーン30に対する位置を示す形状を認識する。投影制御装置50Cは、その認識された人物HM1の形状に応じた投影画像を生成し、その生成された投影画像をスクリーン30に投影するプロジェクタ10に出力する。また、投影制御装置50Cは、可視光カメラ40Cにより撮像された可視光撮像画像に基づいて、スクリーン30の周囲(例えば手前)にいる人物HM1の形状を視覚的かつ具体的に認識する。投影制御装置50Cは、その認識された人物HM1の具体的な形状に応じた投影画像を生成し、その生成された投影画像をスクリーン30に投影するプロジェクタ10Bに出力する。投影制御装置50Cの詳細については、図13を参照して説明する。
図13は、実施の形態3に係る投影制御システム100Cのシステム構成例を詳細に示すブロック図である。図13の構成において、図2の構成と同一のものには同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。
可視光カメラ40Cは、可視撮像部41Cと、制御部42Cと、通信インターフェース43Cと、メモリ44Cとを含む構成である。図13の可視光カメラ40Cの構成においても、同様に通信インターフェースを便宜的に「通信I/F」と記載している。
可視撮像部41Cは、スクリーン30を透過した可視光や周囲からの可視光を含む光を受光可能な可視光レンズ(図示略)と、その光に基づく可視光撮像画像を撮像可能なイメージセンサ(図示略)とを含む構成である。可視撮像部41Cの出力は制御部42Cに送出される。
制御部42Cは、例えばCPU、MPU、DSPもしくはFPGAを用いて構成されたプロセッサPRC3である。制御部42Cは、可視光カメラ40Cの動作を司るコントローラとして機能し、可視光カメラ40Cの各部の動作を全体的に統括するための制御処理、可視光カメラ40Cの各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。制御部42Cは、メモリ44Cに記憶されたプログラム及びデータに従って動作する。制御部42Cは、動作時にメモリ44Cを使用し、制御部42Cが生成又は取得したデータ又は情報をメモリ44Cに一時的に保存してもよい。制御部42Cは、例えば可視撮像部41Cのイメージセンサの出力に基づいて所定の画像処理を施すことで、可視光撮像画像のデータを生成する。
通信インターフェース43Cは、投影制御装置50Cとの間のデータもしくは情報の送受信(通信)に関する通信インターフェースとしての役割を有し、制御部42Cにより生成された可視光撮像画像のデータを取得すると、その取得された可視光撮像画像のデータを投影制御装置50Cに送信する。
メモリ44Cは、例えばRAMとROMとを用いて構成され、可視光カメラ40Cの動作の実行に必要なプログラムやデータ、更には、動作中に生成されたデータ又は情報を一時的に保持する。RAMは、例えば可視光カメラ40Cの動作時に使用されるワークメモリである。ROMは、例えば可視光カメラ40Cを制御するためのプログラム及びデータを予め記憶して保持する。
投影制御装置50Cは、入出力インターフェース51と、メモリ52Cと、コンテンツ格納データベース53と、記録装置54と、プロセッサ55Cとを含む構成である。入出力インターフェース51と、メモリ52Cと、コンテンツ格納データベース53と、記録装置54と、プロセッサ55Cとは、互いに内部バスBS1を介して、データもしくは情報の入出力が可能に接続される。
メモリ52Cは、例えばRAMとROMとを用いて構成され、投影制御装置50Cの動作の実行に必要なプログラムやデータ、更には、動作中に生成されたデータ又は情報を一時的に保持する。RAMは、例えば投影制御装置50Cの動作時に使用されるワークメモリである。ROMは、例えば投影制御装置50Cを制御するためのプログラム及びデータを予め記憶して保持する。メモリ52Cは、例えば赤外線カメラ40により生成される赤外撮像画像の解像度(具体的には、縦方向のピクセル、横方向のピクセル)の情報と、プロジェクタ10により投影されるスクリーン30の大きさ(面積)の情報と、可視光カメラ40Cにより生成される可視光撮像画像の解像度(具体的には、縦方向のピクセル、横方向のピクセル)の情報とを保持している。
プロセッサ55Cは、例えばキャリブレーション部551Cと、物体検出部552と、投影画像生成部553と、パーツ検出部554とを少なくとも含む構成である。キャリブレーション部551C、物体検出部552、投影画像生成部553及びパーツ検出部554のそれぞれは、例えばプロセッサ55Cがメモリ52Cに予め記憶されたプログラム及びデータを読み込んで実行することで、機能的に実現可能となる。
キャリブレーション部551Cは、赤外線カメラ40により生成される赤外撮像画像内の位置(具体的には、座標)とプロジェクタ10,10Bにより投影されるそれぞれの投影画像内の位置(具体的には、座標)と可視光カメラ40Cにより生成される可視光撮像画像内の位置(具体的には、座標)との変換処理の関係式(例えば、射影変換行列)を求める処理(つまり、キャリブレーション)を行う。具体的には、キャリブレーション部551Cは、赤外撮像画像内で投影画像の四隅がどこに位置するかを、ユーザの入力装置IPを用いた指定又は所定の画像処理(例えば、エッジ検出処理)によって検出する。また、キャリブレーション部551Cは、可視光撮像画像内で投影画像の四隅がどこに位置するかを、所定の画像処理(例えば、エッジ検出処理)によって検出する。キャリブレーション部551Cは、これらの検出結果を用いて、例えば上述した射影変換行列を求める(図14参照)。
図14は、赤外線カメラ40の赤外撮像画像の位置を示す座標(Xci,Yci)とプロジェクタ10により投影される投影画像の位置を示す座標(Xp,Yp)と可視光カメラ40Cの可視光撮像画像の位置を示す座標(Xcv,Ycv)との間の変換のためのキャリブレーションの一例を示す説明図である。なお、図14では、説明を簡単にするために、プロジェクタ10が例示されているが、プロジェクタ10Bについても同様なキャリブレーションが実行される。図14の説明において、図3の説明と同一の要素には同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。
赤外撮像画像IRG中の端点EG1,EG2,EG3,EG4のそれぞれは、例えば赤外撮像画像IRG及び投影画像PJRが対比的に表示装置DPに表示された状態で(図14参照)、ユーザの入力装置IPを用いた指定により選択された、投影画像PJRの四隅の端点CR1,CR2,CR3,CR4にそれぞれ対応する。
また、可視光撮像画像VSG中の端点EG1C,EG2C,EG3C,EG4Cのそれぞれは、例えばキャリブレーション部551Cの行う画像処理(例えば、エッジ検出処理)により検出され、投影画像PJRの四隅の端点CR1,CR2,CR3,CR4にそれぞれ対応する。なお、可視光撮像画像VSG中の端点EG1C,EG2C,EG3C,EG4Cのそれぞれは、可視光撮像画像VSG及び投影画像PJRが対比的に表示装置DPに表示された状態で(図14参照)、ユーザの入力装置IPを用いた指定により、キャリブレーション部551Cにより選択されてもよい。
キャリブレーション部551Cは、赤外撮像画像IRG中の端点EG1,EG2,EG3,EG4の各座標と投影画像PJRの四隅の端点CR1,CR2,CR3,CR4の各座標とに基づき、赤外撮像画像IRG中の座標(Xci,Yci)を投影画像PJR中の座標(Xp,Yp)に変換するための射影変換行列(第1の射影変換行列)を算出して求める。また、キャリブレーション部551Cは、投影画像PJRの四隅の端点CR1,CR2,CR3,CR4の各座標と可視光撮像画像VSG中の端点EG1C,EG2C,EG3C,EG4Cの各座標とに基づき、可視光撮像画像VSG中の座標(Xcv,Ycv)を投影画像PJR中の座標(Xp,Yp)に変換するための射影変換行列(第2の射影変換行列)を算出して求める。キャリブレーション部551Cは、上述した第1の射影変換行列と第2の射影変換行列とを用いることで、赤外撮像画像IRG中の座標(Xci,Yci)を可視光撮像画像VSG中の座標(Xcv,Ycv)に変換するための射影変換行列(第3の射影変換行列)を算出して求める。キャリブレーション部551Cは、求められた射影変換行列(つまり、第1~第3の射影変換行列のそれぞれ)のデータもしくは情報をキャリブレーション結果としてメモリ52Cに保存する。
なお、図12に示す投影制御システム100Cにおいて、プロジェクタ10,10Bにより投影されるそれぞれの投影画像の解像度(言い換えると、大きさ又は面積)や、赤外線カメラ40,可視光カメラ40Cのそれぞれの位置が変更されない限りは、キャリブレーション部551Cにおけるキャリブレーションの処理は少なくとも一度実行すればよい。言い換えると、プロジェクタ10,10Bにより投影されるそれぞれの投影画像の解像度、又は赤外線カメラ40もしくは可視光カメラ40Cのそれぞれの位置が変更される度に、キャリブレーション部551Cにおけるキャリブレーションの処理が少なくとも一度実行される。
また、キャリブレーション部551Cにおけるキャリブレーションの方法は、上述した方法に限定されない。例えば、キャリブレーション部551Cは、公知のストラクチャードライト法を用いたキャリブレーションを実行することで、画素単位で赤外撮像画像IRG内の座標を投影画像PJR内の対応する座標に変換することも可能である。同様に、キャリブレーション部551Cは、画素単位で可視光撮像画像VSG内の座標を投影画像PJR内の対応する座標に変換することも可能であり、画素単位で赤外撮像画像IRG内の座標を可視光撮像画像VSG内の対応する座標に変換することも可能である。
パーツ検出部554は、物体検出部552により検出された人物HM1(対象物の一例)の形状と、可視光カメラ40Cにより生成された可視光撮像画像のデータとを用いて、物体検出部552により検出された人物HM1の形状内で、人物HM1のパーツ(例えば、身体の部位)を検出する。パーツ検出部554は、人物HM1のパーツ(部位)として、例えば人物HM1の顔、目、口、鼻、眉、額、手、足、肘、膝、踵、踝、頬等の細かい部位を検出可能である。なお、これらの各部位はあくまで例示であって、検出されるパーツはこれらに限定されない。パーツ検出部554は、その検出された人物HM1のパーツの検出結果を投影画像生成部553に渡す。
投影画像生成部553は、パーツ検出部554から渡された検出結果とメモリ52Cに保持されるキャリブレーション結果とを用いて、赤外撮像画像内の人物HM1の形状内のパーツを示す位置(座標)のそれぞれに対応する投影画像内の位置(座標)又はその位置(座標)から所定の距離離れた位置(座標)に、コンテンツ格納データベース53から読み出した画像コンテンツを重畳した投影画像を生成する。投影画像生成部553は、その生成された投影画像のデータを含む投影指示を生成し、その生成された投影指示を、入出力インターフェース51を介してプロジェクタ10Bに送出する。
図15は、実施の形態3に係る投影画像PJR2の一例を示す図である。図15において、図6の投影画像PJR1,PJR2と同一の要素には同一の符号を付与して説明を簡略化又は省略し、異なる要素について説明する。図15に示すように、投影制御装置50Cは、背景部分となる背景投影画像PJGM1に対し、例えば人物HM1の左手上部に青色のボールの画像コンテンツBB1、人物HM1の右手上部に赤色のボールの画像コンテンツRB1をそれぞれ重畳した投影画像PJR2を生成する。図15では、図15を分かり易くするために、背景投影画像PJGM1のうち人物HM1の周囲の矩形部分内は背景投影画像PJGM1が無いように白く示されている。但し、投影画像生成部553は、上述した矩形部分内も全て背景投影画像となるようにスクリーン30の全域にかかる背景投影画像PJGM1を生成してよいし、図15に示すように人物HM1の周囲の矩形部分内を除いた背景投影画像PJGM1を生成してもよい。プロジェクタ10は、投影制御装置50により生成された投影画像PJR2をスクリーン30全域に投影する。また、投影制御装置50Cは、パーツ検出部554により検出されたパーツ(例えば、人物HM1の頬)に絞って投影するための投影画像(例えば、画像コンテンツCK1)を生成し、この生成された投影画像を含む投影指示をプロジェクタ10Bに出力する。例えば、投影制御装置50Cは、実施の形態1と同様に、赤外線カメラ40からの赤外撮像画像に基づいて人物HM1の形状を認識でき、更に、可視光カメラ40Cからの可視光撮像画像に基づいて人物HM1のパーツの正確な位置を把握できる。このため、投影制御装置50Cは、その認識された人物HM1の正確な位置(例えば、人物HM1の頬の位置)に絞って投影させるための投影画像(例えば、画像コンテンツCK1)を生成できる。プロジェクタ10Bは、投影制御装置50Cからの投影指示により指定された投影画像(例えば、画像コンテンツCK1)を人物HM1の頬に向けて投影する。
次に、実施の形態3に係る投影制御システム100Cの動作手順を、図16を参照して説明する。図16は、実施の形態3に係る投影制御処理の動作手順の一例を説明するフローチャートである。図16に示すそれぞれの処理は、例えば投影制御装置50Cにおいて実行される。また、図16の説明では、図7の説明と同一の処理については同一のステップ番号を付与して説明を簡略化又は省略し、異なる内容について説明する。
また、図16の投影制御処理では、可視光カメラ40Cにより撮像された可視光撮像画像を用いて投影制御装置50Cによって人物HM1の形状内のパーツが検出され、そのパーツに画像コンテンツ(例えば、画像コンテンツCK1)がプロジェクタ10Bにより投影される例を図示している。また、実施の形態3に係る投影制御装置50Cは、図16に示す投影制御処理とは別に、並行して図7に示す投影制御処理(実施の形態1参照)と同一の処理を実行してよい。
また、図16のステップS2におけるキャリブレーションの処理は、本実施の形態に係るキャリブレーションの処理(図14参照)であり、具体的には、赤外撮像画像中の位置(座標)を可視光撮像画像中の位置(座標)に変換するための関係式を求める処理である。
図16において、物体検出部552が人物HM1の形状を検出できた場合には(S4、YES)、パーツ検出部554は、物体検出部552により検出された人物HM1の形状と、可視光カメラ40Cにより生成された可視光撮像画像のデータとを用いて、物体検出部552により検出された人物HM1の形状内で、人物HM1のパーツを検出する(S9)。パーツ検出部554は、その検出された人物HM1のパーツの検出結果を投影画像生成部553に渡す。投影画像生成部553は、パーツ検出部554により検出されたパーツの人物HM1の形状内の位置(つまり、検出位置)に応じて、プロジェクタ10Bにより投影される画像コンテンツの投影位置を決定する(S5C)。投影位置は、例えば図15に示す画像コンテンツCK1の位置(座標)を示す。図16のステップS5C以降の処理は、図7のステップS5以降の処理と同一であるため、説明を省略する。
以上により、実施の形態3に係る投影制御システム100Cは、実施の形態2に係る投影制御システム100Bの構成に加え、第2の撮像装置の一例としての可視光カメラ40Cを更に含む。可視光カメラ40Cは、スクリーン30を画角として含む可視光撮像画像を撮像する。投影制御装置50Cは、可視光撮像画像に基づいて、赤外撮像画像に基づいて認識された人物HM1の形状の内部のパーツ(部位)を認識し、その認識されたパーツ(部位)に応じた画像コンテンツ(例えば、画像コンテンツCK1)を生成する。投影制御装置50Cは、その生成された画像コンテンツ(例えば、画像コンテンツCK1)を、第2の投影装置の一例としてのプロジェクタ10Bに投影させる。
これにより、実施の形態3に係る投影制御システム100Cは、実施の形態2に係る投影制御システム100Bの効果を有するとともに、プロジェクタ10からはスクリーン30全域に投影可能な投影画像の投影を実行でき、プロジェクタ10Bからはスクリーン30の周囲にいる人物HM1の部位に正確に絞った投影画像の投影を実行できる。従って、投影制御装置50Cは、人物HM1の正確な部位を把握でき、認識された人物HM1の正確な部位(例えば、人物HM1の顔の頬)に絞って、プロジェクタ10により投影される投影画像よりも小さい局所的な投影画像を追加して投影でき、きめ細かい投影画像の投影を可能とする等、投影画像によるエンターテインメント性の多様性を向上できる。
(実施の形態1の第2の変形例)
実施の形態1の第2の変形例では、例えば実施の形態1に係る投影制御システム100において、赤外線照明20の電源のオン又はオフの制御と、透明スクリーン30Dのモードの切り替えとを更に行う例を説明する(図17参照)。図17は、実施の形態1の第2の変形例に係る投影制御システム100Dの設置例を示す図である。図18は、実施の形態1の第2の変形例に係る投影制御システム100Dのシステム構成例を詳細に示すブロック図である。投影制御システム100Dは、プロジェクタ10と、赤外線照明20と、透明スクリーン30Dと、赤外線カメラ40と、投影制御装置50と、照明制御装置60と、スクリーン制御装置70とを少なくとも含む構成である。図17の構成において、図1の構成と同一のものには同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。
被投影物の一例としての透明スクリーン30Dは、スクリーン制御装置70による制御の下で、スクリーンに関するモードを透明モード又はスクリーンモードに切り替え可能なスクリーンであり、固定的に設置される。透明スクリーン30Dの表側や裏側は、図17に従うとする。透明スクリーン30Dの具体的な構成は、例えば上述した参考非特許文献1において開示されているので、ここでは詳細な説明は省略する。透明スクリーン30Dは、スクリーンモード時でも透明モード時でも赤外線照明20から照射された赤外光を透過可能である。透明スクリーン30Dを透過した赤外光は、赤外線カメラ40により受光される。
第1の制御部の一例としての照明制御装置60は、投影制御装置50からの照明制御信号に従って、赤外線照明20の電源のオン又はオフを切り替えることで、赤外線照明20の電源を制御する。
第2の制御部の一例としてのスクリーン制御装置70は、投影制御装置50からのスクリーン制御信号に従って、透明スクリーン30Dのモードを透明モード又はスクリーンモードのいずれかに切り替えることで、透明スクリーン30Dのモードを制御する。
以上により、実施の形態1の第2の変形例では、投影制御装置50は、透明スクリーン30Dをスクリーンモードに切り替える場合には、赤外線照明20の電源をオンに制御して、赤外線照明20から赤外光を照射させる。つまり、投影制御装置50は、透明スクリーン30Dをスクリーンモードに切り替えるためのスクリーン制御信号を生成してスクリーン制御装置70に送出するとともに、赤外線照明20の電源をオンするための照明制御信号を生成して照明制御装置60に送出する。これにより、照明制御装置60は、赤外線照明20の電源をオンにして赤外光の照射を実行させ、スクリーン制御装置70は、透明スクリーン30Dをスクリーンモードに切り替えでき、透明スクリーン30Dにおいて赤外光を透過させることができる。
また、実施の形態1の第2の変形例では、投影制御装置50は、透明スクリーン30Dを透明モードに切り替える場合には、赤外線照明20の電源をオフに制御して、赤外線照明20から赤外光を照射させない。つまり、投影制御装置50は、透明スクリーン30Dを透明モードに切り替えるためのスクリーン制御信号を生成してスクリーン制御装置70に送出するとともに、赤外線照明20の電源をオフするための照明制御信号を生成して照明制御装置60に送出する。これにより、スクリーン制御装置70は、透明スクリーン30Dを透明モードに切り替え、照明制御装置60は、例えば投影制御装置50における各種の処理(例えば、人物HM1の認識や投影制御処理)が必要無い場合に、赤外線照明20の電源をオフにして赤外光の照射を中止でき、不要な赤外光の照射を抑制できる。
(実施の形態1の第3の変形例)
実施の形態1の第3の変形例では、例えば実施の形態1に係る投影制御システム100において、投影制御装置50がネットワークNWを介して接続された外部サーバに接続される例を説明する(図19参照)。図19は、実施の形態1の第3の変形例に係る投影制御システム100の設置例を示す図である。投影制御システム100は、プロジェクタ10と、赤外線照明20と、スクリーン30と、赤外線カメラ40と、投影制御装置50と、複数のコンテンツ格納装置CLD1,…,CLDkとを少なくとも含む構成である。kは2以上の整数である。図19の構成において、図1の構成と同一のものには同一の符号を付与して説明を簡略化又は省略し、異なる内容について説明する。
外部サーバの一例としてのコンテンツ格納装置CLD1~CLDkのそれぞれは、例えばHDDもしくはSSDを用いて構成され、プロジェクタ10により投影される投影画像に重畳されるための画像コンテンツのデータを記憶保持している。コンテンツ格納装置CLD1~CLDkのそれぞれは、ネットワークNWを介して、投影制御装置50との間でデータもしくは情報の送受信が可能に接続される。ネットワークNWは、有線ネットワーク(例えばLAN(Local Area Network))でもよいし、無線ネットワーク(例えば無線LAN)でもよい。
投影制御装置50は、例えば定期的に、コンテンツ格納装置CLD1~CLDkのそれぞれにアクセスして、コンテンツ格納装置CLD1~CLDkのそれぞれにおいて記憶保持されている画像コンテンツのデータを取得し、自装置(つまり、投影制御装置50)内のコンテンツ格納データベース53内の画像コンテンツのデータを更新する。
以上により、実施の形態1の第3の変形例では、投影制御装置50は、投影画像の生成時に重畳される画像コンテンツを記憶保持するコンテンツ格納装置CLD1~CLDkのそれぞれと接続され、コンテンツ格納装置CLD1~CLDkのそれぞれから画像コンテンツを取得し、コンテンツ格納装置CLD1~CLDkのそれぞれに記憶保持される画像コンテンツを更新する。これにより、投影制御装置50は、例えば定期的に、自装置(つまり、投影制御装置50)内のコンテンツ格納データベース53内の画像コンテンツのデータを更新することで、自装置内で記憶保持していない画像コンテンツを取得でき、多様な画像コンテンツを蓄積できる。
以上、添付図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても本開示の技術的範囲に属すると了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。