JP2011257609A - 光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム - Google Patents

光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム Download PDF

Info

Publication number
JP2011257609A
JP2011257609A JP2010132186A JP2010132186A JP2011257609A JP 2011257609 A JP2011257609 A JP 2011257609A JP 2010132186 A JP2010132186 A JP 2010132186A JP 2010132186 A JP2010132186 A JP 2010132186A JP 2011257609 A JP2011257609 A JP 2011257609A
Authority
JP
Japan
Prior art keywords
projector
screen
image
optical
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010132186A
Other languages
English (en)
Other versions
JP5596427B2 (ja
Inventor
Yoshiko Sugaya
佳子 菅谷
Isao Miyagawa
勲 宮川
Hidenori Tanaka
秀典 田中
Hideki Koike
秀樹 小池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2010132186A priority Critical patent/JP5596427B2/ja
Publication of JP2011257609A publication Critical patent/JP2011257609A/ja
Application granted granted Critical
Publication of JP5596427B2 publication Critical patent/JP5596427B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】複数のプロジェクタのうち、投影光が物体に当たりスクリーンに影を生じさせているプロジェクタを推定して、各プロジェクタに対する光量の調整を迅速に制御し、スクリーン上の影の除去と遮蔽物に当たる投影光の抑制を同時に実現すること。
【解決手段】複数のプロジェクタによってコンテンツデータに基づく光学像が投影されているスクリーンを撮影して撮影画像データを取得するステップと、スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で予め撮影しておいた背景画像データと撮影画像データとの光量の差に応じた差分画像データを作成するステップと、差分画像データに基づき、プロジェクタから照射される光学像の光量に対して、スクリーン上に投影されている投影像の光量が変化したプロジェクタを投影像が遮断されているプロジェクタであると判断するステップと、を備えることを特徴とする
【選択図】図1

Description

本発明は、複数のプロジェクタによる投影像をスクリーン上に重ねて投影する光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラムに関するものである。
フロントプロジェクションによるヒューマン・コンピュータ・インタラクションを行う際には、スクリーンとプロジェクタの間に人が立つと、その人の影がスクリーン上に生じてしまい、スクリーン上の重要な情報が見えなくなり、インタラクションの妨げになるという問題がある。この問題に対し、プロジェクタとスクリーンの間の物体によりスクリーン上に生じる影を除去する代表的な手法に、複数台プロジェクタの重畳投影を用いた影除去がある(例えば、非特許文献1参照)。
この非特許文献1に記載されている技術は、複数台のプロジェクタを用いて1台分の照度になるように重畳投影しておき、カメラで観測された影領域だけ全プロジェクタの照度を上げ、明るさを補填することで影を除去するものである。この手法では、少なくとも1台のプロジェクタの光が当たっている領域においては、影を除去することが可能である。
しかし、観測された影領域はスクリーンとプロジェクタの間の物体に光が当たり影が生じている領域であり、この手法は、その観測された影領域に当たる光の量を増やすために、各プロジェクタの照度を上げるので、スクリーンとプロジェクタの間の物体に特に強い光があたるという課題がある。フロントプロジェクションによるインタラクションシステムにおいて人に強い光が当たることは、不快感をもたらし、インタラクションを阻害する要因となりうる。
この課題に対し、影除去処理後、1台ずつプロジェクタの影領域の照度を変化させ、スクリーンに変化が現れるかをカメラで観測し、変化がなかった場合のプロジェクタの光が人に当たっていると判断すると、そのプロジェクタから発せられる影領域の画像の照度を0にするものがある。これにより、スクリーンとプロジェクタの間の物体へ光が当たらないように工夫している(例えば、非特許文献2参照)。
R. Sukthankar, T. J. Cham and G. Sukthankar:"Dynamic Shadow Elimination for Multi−Projector Displays", Proc. of Computer Vision and Pattern Recognition (CVPR), pp. 151−157(2001).
T. J. Cham, J. M. Rehg, R. Sukthankar and G. Sukthankar: "Shadow Elimination and OccluderLight Suppression for Multi−Projector Displays", Proc. of Computer Vision and PatternRecognition (CVPR),pp. 513−520 (2003).
しかしながら、上記技術(非特許文献1、2)では、スクリーン上に生じた影を撮影した観測画像から、どのプロジェクタから発せられた光が物体に当たり、影を生じさせているのかを判断することができない問題がある。
特に3台以上のプロジェクタを扱う場合、複数のプロジェクタから生じた影がオーバーラップした部分についてのプロジェクタ投影光の遮蔽判断に関しては検討されておらず、上記非特許文献2のように1台ずつプロジェクタを切り替えても、影がオーバーラップしている領域については、どのプロジェクタの光が遮蔽されているかを判定することができない問題があった。
これにより、各プロジェクタに対して、スクリーン上の影を除去しつつ、スクリーンとプロジェクタの間の物体への光の照射を抑える制御を迅速にできない問題があった。
本発明は、上記課題を解決するものであり、複数のプロジェクタのうち、投影光が物体に当たりスクリーンに影を生じさせているプロジェクタを推定して、各プロジェクタに対する光量の調整を迅速に制御し、スクリーン上の影の除去と遮蔽物に当たる投影光の抑制を同時に実現することができる光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラムを提供することを目的とする。
上述の課題を鑑み、本発明に係る光学投影制御方法は、複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御方法において、前記複数のプロジェクタによってコンテンツデータに基づく光学像が投影されているスクリーンを撮影して撮影画像データを取得するステップと、前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、光量の差に応じた差分画像データを作成するステップと、当該差分画像データに基づき、前記プロジェクタから照射される光学像の光量に対して、前記スクリーン上に投影されている投影像の光量が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断するステップと、を備えることを特徴とする。
また、上述の課題を鑑み、本発明に係る光学投影制御方法は、複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御方法において、前記複数のプロジェクタによってコンテンツデータに基づく光学像が各プロジェクタに割り当てられたそれぞれ異なる色で投影されているスクリーンを撮影して撮影画像データを取得するステップと、前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、色の差に応じた差分画像データを作成するステップと、当該差分画像データに基づき、前記スクリーン上に投影されている投影像における各色の変化量を算出して、各プロジェクタに対応する色が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断するステップと、を備えることを特徴とする。
また、上述の光学投影制御方法は、前記光学像と投影像の照度が異なるとして検出されたプロジェクタとは異なるプロジェクタに対して、前記光学像と投影像の照度の差分を補正したコンテンツデータを作成して当該プロジェクタに出力するステップとを備えることを特徴とする。
また、上述の課題を鑑み、本発明に係る光学投影制御装置は、複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御装置において、前記複数のプロジェクタによってコンテンツデータに基づく光学像が投影されているスクリーンを撮影して撮影画像データを取得するカメラから前記撮影画像データを入力する画像入力部と、前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた遮蔽なし撮像画像データと、前記撮影画像データとの、光量の差に応じた差分画像データを作成する差分画像作成部と、当該差分画像データに基づき、前記プロジェクタから照射される光学像の光量に対して、前記スクリーン上に投影されている投影像の光量が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部と、を備えることを特徴とする。
また、上述の課題を鑑み、本発明に係る光学投影制御装置は、複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御装置において、前記複数のプロジェクタによってコンテンツデータに基づく光学像が各プロジェクタに割り当てられたそれぞれ異なる色で投影されているスクリーンを撮影して撮影画像データを取得するカメラから前記撮影画像データを入力する画像入力部と、前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、色の差に応じた差分画像データを作成する差分画像作成部と、当該差分画像データに基づき、前記スクリーン上に投影されている投影像における各色の変化量を算出して、各プロジェクタに対応する色が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部と、を備えることを特徴とする。
また、上述の課題を鑑み、本発明に係る光学投影制御システムは、複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御システムであって、前記複数のプロジェクタによってコンテンツデータに基づく光学像が投影されているスクリーンを撮影して撮影画像データを取得するカメラと、前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、光量の差に応じた差分画像データを作成する差分画像作成部と、当該差分画像データに基づき、前記プロジェクタから照射される光学像の光量に対して、前記スクリーン上に投影されている投影像の光量が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部とを備える光学投影制御装置とを備えることを特徴とする。
また、上述の課題を鑑み、本発明に係る光学投影制御システムは、複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御システムであって、前記複数のプロジェクタによってコンテンツデータに基づく光学像が各プロジェクタに割り当てられたそれぞれ異なる色で投影されているスクリーンを撮影して撮影画像データを取得するカメラと、前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、色の差に応じた差分画像データを作成する差分画像作成部と、当該差分画像データに基づき、前記スクリーン上に投影されている投影像における各色の変化量を算出して、各プロジェクタに対応する色が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部とを備える光学投影制御装置とを備えることを特徴とする。
また、上述の課題を鑑み、本発明に係るプログラムは、上述のいずれか一つの光学投影制御装置の各工程を実行させるためのプログラムであることを特徴とする。
本発明によれば複数のプロジェクタのうち、投影光が物体に当たりスクリーンに影を生じさせているプロジェクタを推定して、各プロジェクタに対する光量の調整を迅速に制御し、スクリーン上の影の除去と遮蔽物に当たる投影光の抑制を同時に実現することができる。
本発明の第1実施形態にかかる光学投影制御装置の構成の一例を示すブロック図である。 本発明の第1実施形態にかかる事前校正部の構成の一例を示すブロック図である。 本発明の第1実施形態にかかるプロジェクタ光の遮蔽判定を説明するための図である。 本発明の第1実施形態にかかる光学投影制御方法の一例を示すフローチャートである。 本発明の第1実施形態にかかる事前校正部による事前校正処理方法の一例を示すフローチャートである。 本発明の第2実施形態にかかる光学投影制御システムの一例を示す概略図である。 本発明の第2実施形態にかかる光学投影制御装置の構成の一例を示すブロック図である。 本発明の第2実施形態にかかる光学投影制御方法の一例を示すフローチャートである。 本発明の第2実施形態にかかる事前校正部による事前校正処理方法の一例を示すフローチャートである。
[第1実施形態]
以下、本発明の第1の実施形態について図面を参照しながら説明する。図1は、本発明の第1実施形態に係る光学投影制御システムの一例を示す概略図である。
図1に示す通り、光学投影制御システムは、光学投影制御装置100と、カメラ1000と、複数のプロジェクタ1010と、スクリーン1090を含む。
カメラ1000は、プロジェクタ1010によって画像が投影されるスクリーン1090を撮影し、撮影によって得られた撮影画像データD11を出力する。この撮影画像データD11は、スクリーン1090の全体を含む映される画像であることが好ましく、カメラ1000は、このような画像が撮影される位置に設置される。例えば、カメラ1000は、天井付近の上方であって、スクリーンを撮影する位置に設置されるものであってもよい。
複数のプロジェクタ1010は、例えば、プロジェクタ1011、1012、・・・、101Nを含む。この複数のプロジェクタ1011、1012、・・・、101Nは、光学投影制御装置100から入力する画像データに基づき光学像を照射して、画像データをスクリーン1090に投影する。また、複数のプロジェクタ1011、1012、・・・、101Nは、それぞれのよって照射される光学像がスクリーン1090上において重ねて投影する。
本実施形態において複数のプロジェクタ1011、1012、・・・、101Nは、それぞれ同一の画像データに基づく光学像を照射するとともに、スクリーン1090上の光学像の輝度(つまりプロジェクタ1010が投影する投影像の照度)が光学投影制御装置100によって制御された画像データに基づき投影する。
光学投影制御装置100は、画像入力部1020と、差分画像作成部1030と、遮蔽光源推定部1040と、照度制御部1050と、重畳投影部1060と、コンテンツ映像記憶部1070と、事前校正部1080を含む。
画像入力部1020は、カメラ1000から出力される撮影画像データD11を入力し、この撮影画像データD11を差分画像作成部1030と事前校正部1080に出力する。この画像入力部1020は、例えばビデオカメラ等の画像取得手段であり、ビデオカメラ等で撮像された撮影画像データD11を入力し、事前校正部1080および差分画像作成部1030に出力する。
差分画像作成部1030は、画像入力部1020から入力する観測画像(撮影画像データD11)と、事前校正部1080から入力する背景画像(背景画像データD17)に基づき、差分画像(差分画像データD13)を作成し、遮蔽光源推定部1040に出力する。
遮蔽光源推定部1040は、差分画像作成部1030から入力する差分画像データD13に基づき、複数のプロジェクタ1011、1012、・・・、101Nのうち、どのプロジェクタから発せられた投影光が遮断物によって遮蔽されているか推定(判定)する。
照度制御部1050は、事前校正部1080から入力する事前変形させたコンテンツ映像データD16に基づき、プロジェクタ1010が照射する光の明るさを制御する。
重畳投影部1060は、全プロジェクタ1011、1012、・・・、101Nからの投影像をスクリーン1090上の同一位置に重ね合わせるように投影するため、事前校正部1080から入力する事前変形させたコンテンツ映像データD16と、事前変形させたアルファマスクデータD15をプロジェクタが投影可能なデータ形式へ変換し、そのデータを対応するプロジェクタ1010へ出力する。
コンテンツ映像記憶部1070は、プロジェクタ1010がスクリーン1090に投影するコンテンツ映像データD10を保持している。
事前校正部1080は、カメラ1000、プロジェクタ1010、スクリーン1090の三者間のキャリブレーション処理(事前校正処理)を行い、事前変形させたアルファマスクデータD15と、事前変形させたコンテンツ映像データD16と、背景画像データD17の作成を行う。
次に、図2を参照して、事前校正部1080の構成についてその一例を説明する。図2は、事前校正部1080の構成の一例を示すブロック図である。
図2に示す通り、事前校正部1080は、キャリブレーション処理部181と、アルファマスク初期化処理部182と、重畳投影処理部183と、背景画像作成処理部184を含む。
この事前校正部1080は、以下に説明する通り、平面射影変換行列データと、背景画像データと、事前変形させたコンテンツ映像の生成、および保持しているデータの出力を行う。
キャリブレーション処理部181は、画像入力部1020から入力される撮影画像データD11に基づき、プロジェクタ1010からの投影像をスクリーン1090上の所定の位置に投影するため、カメラ1000、プロジェクタ1010、スクリーン1090の三者間の平面射影変換行列データD14を算出する。この三者間の関係を以下に記載する。
ここでは、対象の扱いを簡単にするため、プロジェクタ1010とカメラ1000の投影幾何がピンホールカメラモデルであって、且つ、スクリーン1090は平面であると仮定する。プロジェクタ1010から投影されるパターンの例として、カメラ1000で観測可能な程度の点(以下、参照点)を用いる。なお、参照点は、各プロジェクタ1011、1012、・・・、101Nから、それぞれ出力される。
この参照点P (p)、スクリーン上において予め決められている既知の目標点P (m)と、スクリーン上におけるカメラ1000が撮影した画像の位置を示す画像座標P (c)は、それぞれ、以下の式(1)〜(3)に示す、平面射影変換で結びつけることができる。
Figure 2011257609
Figure 2011257609
Figure 2011257609
なお、プロジェクタ1010が投影する参照点P (p)を、P (p)=(x (p),y (p)) {j=1,2,・・・,N}とする。スクリーン上の既知の目標点P (m)を、P (m)=(X (m),Y (m),0) {j=1,2,・・・,N}とする。またカメラ1000が撮影した参照点P (p)の画像座標を、P (c)=(x (c),y (c)) {j=1,2,・・・,N}とする。
ただし、以下に示す記号は、定数倍を除いて等しいことを意味する。
Figure 2011257609
また、式(1)〜(3)から各射影変換には、以下の式(4)の関係が成立つ。
Figure 2011257609
事前校正部1080のキャリブレーション処理部181は、全プロジェクタ1011、1012、・・・、101Nに対して、上記の平面射影変換行列データD14(Hcp,Hsc,Hsp,)を事前に算出し、得られた平面射影変換行列データD14(Hcp,Hsc,Hsp,)を照度制御部1050へ出力する。
アルファマスク初期化処理部182は、全プロジェクタ1011、1012、・・・、101Nの合計の照度をプロジェクタ1台分に相当する照度とするよう、各プロジェクタのアルファマスクの初期化を行う。このアルファマスク初期化処理部182は、初期化したアルファマスクデータを重畳投影部1060に出力する。なお、ここにいう照度とは、プロジェクタ1010が照射する光の明るさ(光量)をいい、スクリーン1090に投影された際のスクリーン1090をカメラ1000で撮影した画像の輝度に相当する。この輝度は、スクリーン1090の反射率やプロジェクタ1011、1012、・・・、101Nからスクリーン1090に照射される光の入射角によって変化する。このため、アルファマスク初期化処理部182は、スクリーン1090とプロジェクタ1011、1012、・・・、101Nの位置が固定されたら、スクリーン1090とプロジェクタ1011、1012、・・・、101Nとの間に何ら遮光物がない状態において、各プロジェクタ1011、1012、・・・、101Nに対応するアルファマスクデータを作成する。
ここで、アルファ値αとは、画像データの各画素に設定される透過度情報のことであり、無色透明から、背景の色を全く透過しない不透明まで設定することができる。また、1枚の画像中における全画素のアルファ値αをアルファマスクと呼ぶ。さらに、説明の便宜上、ここではアルファ値αは[0,1]の値を取るものとする。
例えば、プロジェクタ面上の画素(u,v)において、そのアルファ値α(u,v)が1であるとき、プロジェクタの照度は、1台のプロジェクタが出せる最大値である。また、アルファ値α(u,v)が0であるとき、プロジェクタから黒の画像が投影される。アルファ値αは、スクリーン1090上の明るさ(輝度)を表わしており、画素の輝度値を調整するデータである。
ここでは、N台のプロジェクタ1011、1012、・・・、101Nを用いて、スクリーン面上においてプロジェクタ1台分の照度になるよう各プロジェクタ1011、1012、・・・、101Nから照射される光学像の照度を調整して、各光学像を重ね合わせて投影する。よって、各プロジェクタに出力されるアルファマスクは、次に示す式(5)の条件を満たす。
Figure 2011257609
なお、α(k)(u,v)は、第k番目のプロジェクタの投影光(光学像)における画像座標(u,v)の位置に対応するアルファ値αである。つまり、全てのプロジェクタ1011、1012、・・・、101Nは、スクリーン上のある位置(u,v)に投影される投影像の照度が、最大でもそのアルファ値αが1となるように、光学投影制御装置100によって調整された画像データに基づき投影光を照射する。
重畳投影処理部183は、全プロジェクタ1011、1012、・・・、101Nの投影像をスクリーン上の同一位置に重ね合わせるように投影するため、コンテンツ映像記憶部1070から読み出した投影用のコンテンツ映像データD10を、平面射影変換行列データD14(Hcp,Hsc,Hsp,)を用いて事前変形させる。
この重畳投影処理部183は、事前変形させたコンテンツ映像データD16と、事前変形させたアルファマスク初期化処理で初期化したアルファマスクデータD15を、各プロジェクタ1011、1012、・・・、101Nが投影可能なデータ形式へ変換し、そのデータを各プロジェクタ1011、1012、・・・、101Nへ出力する。言い換えると、重畳投影処理部183は、コンテンツ映像記憶部1070から読み出した投影用のコンテンツ映像データD10を平面射影変換行列データD14(Hcp,Hsc,Hsp,)を用いて事前変形させ、この事前変形させたコンテンツ映像データD16と事前変形させたアルファマスクデータD15を、重畳投影部1060に出力する。
なお、コンテンツ映像データD10のスクリーン上の任意の目標位置への投影は、コンテンツ映像データD10をスクリーン1090からプロジェクタ1010への平面射影変換行列の逆行列Hsp −1を作用させて事前変形し、プロジェクタ1010から投影することで実現できる。
次に、重畳投影処理部183による、コンテンツ映像データD10の事前変形について概説する。
スクリーン1090とプロジェクタ1010間の平面射影変換Hspが得られているので、重畳投影処理部183は、スクリーン上の任意の目標点P (m)へ投影させるため、プロジェクタ面上の2次元座標P (r)=(x (r),y (r))として、次に示す式(6)を算出する。つまり、重畳投影処理部183は、キャリブレーション処理部181から入力する平面射影変換行列データD14(Hcp,Hsc,Hsp,)に基づき、式(6)に従って、目標点P (m)へ投影させるためのプロジェクタ面上の2次元座標P (r)=(x (r),y (r))を算出する。
Figure 2011257609
この式(6)によって得た2次元座標P (r)=(x (r),y (r))をプロジェクタ1010から出力すれば、スクリーン1090上の既知の目標点P (m)=(X (m),Y (m),0)に投影される。
重畳投影処理部183は、式(6)の平面射影変換をコンテンツ映像データD10の全画素について行うことで、事前変形させたコンテンツ映像データD16を得ることができる。この重畳投影処理部183は、得られた全プロジェクタ分の事前変形させたコンテンツ映像データD16を重畳投影部1060に出力する。
背景画像作成処理184は、全プロジェクタ1011、1012、・・・、101Nからの投影像がスクリーン1090上においてプロジェクタ1台分の照度(輝度)になるよう重畳投影した後、スクリーン1090とプロジェクタ1010間に遮蔽物の無い状況下のスクリーン1090全体をカメラで撮影して得られた観測画像(背景画像データD17)を、差分画像作成部1030へ出力する。なお、背景画像作成処理184は、コンテンツ映像データ毎に、スクリーン1090とプロジェクタ1010間に遮蔽物の無い状況下において予めカメラ1000によって撮影された画像データと当該コンテンツデータとを対応付けて自身の記憶部に記憶しておく。
重畳投影部1060は、事前校正部1080における重畳投影処理部183と同様に、全プロジェクタ1011、1012、・・・、101Nからの投影像をスクリーン1090上の同一位置に重ね合わせるように投影するため、事前校正部1080から入力する事前変形させたコンテンツ映像データD16と、事前変形させたアルファマスクデータD15をプロジェクタが投影可能なデータ形式へ変換し、そのデータを対応するプロジェクタ1010へ出力する。
差分画像作成部1030では、事前校正部1080から入力する背景画像データD17と画像入力部1020から伝送される撮影画像データD11との差分を算出して差分画像データD13を作成し、遮蔽光源推定部1040へ出力する。この差分画像データD13は、例えば、各画素の輝度値を示す情報であってもよい。
この差分画像データD13を、以下の式(7)にΔ(u,v)として示す。
Figure 2011257609
なお、I(u,v)は、背景画像データD17の画素毎の輝度値を示す情報である。I(u,v)は、時刻tのときに画像入力部1020から入力する撮影画像データD11の画素毎の輝度値を示すである。但し、ここで作成される差分画像データΔ(u,v)の値は、符号情報を持つものとする。即ち、観測画像(背景画像データD17)I(u,v)の取りうる範囲が[0,1]であるとき、差分画像データΔ(u,v)の取りうる値は、[−1,1]となる。
遮蔽光源推定部1040は、差分画像生成部1030から入力する差分画像データD13から、影領域を検出するとともに、該影領域の各画素ごとに、どのプロジェクタの光が遮られて影となっているかの判定処理を行い、遮蔽マップD18の作成を行う。
以下、差分画像データD13に基づき、投影光が遮断されているプロジェクタを判定する遮蔽判定方法を、図3を参照して説明する。図3はプロジェクタ光の遮蔽判定を説明するための図である。なお、説明の簡易化のため、3台のプロジェクタを用いた場合を例に説明する。ここで、スクリーン1090、カメラ1000、および3台のプロジェクタ1011、1012、1013は、図3(a)に示すように配置されている。また、そのときのスクリーン1090上に生じた物体Oの影の重複の様子を図3(b)に示す。
図3(b)に示す通り、プロジェクタ1011からの光(投影像)が物体Oによって遮られて生じた影領域をA、プロジェクタ1012からの光(投影像)が物体Oによって遮られて生じた影領域をB、プロジェクタ1013からの光(投影像)が物体Oによって遮られて生じた影領域をCとする。
一般的に、スクリーン1090とプロジェクタ1010の間に物体Oがある場合、プロジェクタの台数と同じ数の影がスクリーン1090上に生じる。特にスクリーン1090と物体Oが近い位置にある場合、複数のプロジェクタ1011,1012,1013の遮蔽から生じた影が重複する。なお、スクリーン1090上に少なくとも1台のプロジェクタから光が当たっているものとする。
また、図3(b)において、プロジェクタ1011の影Aとプロジェクタ10122の影Bが重複した領域をD(A∩B)、プロジェクタ1011の影Aとプロジェクタ1013の影Cが重複した領域をE(A∩C)、プロジェクタ1012の影Bとプロジェクタ1013の影Cが重複した領域をF(B∩C)、スクリーン1090上にいずれの影も生じていない領域をG(A ̄∩B ̄∩C ̄)とする。なお、 ̄は、それぞれ、A、B、Cの上部に付き、A以外、B以外、C以外であることを表わす。
但し、全てのプロジェクタ1011,1012,1013の影が重なり、スクリーン1090上に光が当たっていない領域の影は、原理上除去することができないため、本発明では処理対象外とする。
ここで、各プロジェクタ1011,1012,1013の照度を、それぞれα(i)(u,v) {i=1,2,3}としたとき、スクリーン1090上の照度(輝度)は、各プロジェクタ1011,1012,1013のアルファ値の合計で与えられるため、プロジェクタの遮蔽による図3(b)における各領域の照度の減少量L(u,v)を、下に示す式(8)とする。
Figure 2011257609
なお、カメラ応答関数は線形であり、環境光は差分により相殺されるものと仮定すると、スクリーン1090上に生じた影領域は、差分画像作成部1030によって差分画像データΔ(u,v)として検出される。この差分画像データΔ(u,v)の輝度値は、プロジェクタ1010から投影される投影像の明るさ(照度)が遮蔽物によって減少する減少量L(u,v)を反映しているため、以下の式(9)の関係が成り立つ。
Figure 2011257609
但し、以下に示す記号は、定数倍を除いて等しいことを意味する。
Figure 2011257609
各プロジェクタ1011,1012,1013での各画素の照度α(i)(u,v) {i=1,2,3}を、次の式(10)(11)に示す拘束条件において、式(5)に従って与えると、領域AからFの照度が異なる。
Figure 2011257609
Figure 2011257609
従って、遮蔽光源推定部1040は、差分画像内における画素値も影領域に応じて異なるため、差分画像データの輝度値を用いて領域を分割することが可能となる。
また、遮蔽光源推定部1040は、差分画像生成部1030から入力する差分画像データΔ(u,v)から、符号情報を取り除いた差の絶対値を値に持つ参照画像データR(u,v)を、次の式(12)に基づき算出する。
Figure 2011257609
この参照画像データR(u,v)に、例えば、非特許文献3に記載されているような画像の輝度値を基準とした領域分割処理を施すことで、式(9)より図3bにおける各領域と対応付けることができる。
なお、非特許文献3は、D. Comaniciu and P. Meer: “Mean shift analysis and applications”, Proc. of InternationalConference on Computer Vision (ICCV), vol.2, pp.1197-1203 (1999)である。
また、遮蔽光源推定部1040による領域分割処理には、Meanshift(非特許文献3)を用いた処理のほか、watershedアルゴリズムやグラフカットによるセグメンテーションなどを用いてもよい。
次に、遮蔽光源推定部1040は、得られた判定結果からスクリーン1090全体の画素の遮蔽の判定結果をまとめた遮蔽マップD18を作成する。遮蔽マップD18は、画素ごとにスクリーンを照らしているプロジェクタのラベルl(u,v)を持つ。このラベルl(u,v)は、次の式(13)に示す。
Figure 2011257609
ラベルl(u,v)={i,j}はスクリーン1090上の点(u,v)は、第i番目のプロジェクタと第j番目のプロジェクタの光が当たっていることを意味している。作成された遮蔽マップD18は、照度制御部1050へ出力される。
照度制御部1050は、遮蔽光源推定部1040から入力する遮蔽マップD18により、影除去処理と物体への照射光抑制処理の場合分けを行う。この照度制御部1050は、分画像作成部1030から入力する差分画像から影除去の際の照度更新量を算出し、各プロジェクタごとにアルファマスクデータを更新するフィードバックループを構成し、更新処理を行う。
ここでは、照度制御部1050が、時刻tにおけるi番目のプロジェクタのアルファマスクデータを、α (i)(u,v) {i=1,2,・・・,N}としたとき、時刻t+1におけるアルファマスクデータは、αt+1 (i)(u,v) {i=1,2,・・・,N}と、次の式(14)により算出され、更新する。
Figure 2011257609
但し、σは、プロジェクタのフィードバックループにおける比例ゲインであり、Nuvは、ラベル1(u,v)の要素数、すなわち、スクリーン上の位置(u,v)を照らしているプロジェクタの台数である。
なお、フィードバックループのパラメータσは、更新量の大きさを調整するための係数である。σの値が大きくなるにつれ更新量も大きくなるため、α(t+1)の値は大きく変動しながら目的の値に近づくが、更新回数は少なくて済む。
一方、σの値が小さくなると更新量が小さくなるため、少しずつ変化しながら目的の値にゆっくりと近づいていく。このため、α(t+1)が収束するまでには時間がかかる。例えば、初期(t=0)のとき、α1=0.2、α2=0.3、α3=0.4の状態から開始した時では、σ=0.4程度の値が適当である。
第i番目のプロジェクタからの投影光が物体Oによって遮蔽されているとき(以下、数式で表わされる場合)、
Figure 2011257609
そのプロジェクタから発せられている光は物体Oにあたっているので、その照度を0にすることで、物体に当たる光を抑制する。
一方、第i番目のプロジェクタからの投影光が物体Oによって遮蔽されていないとき(以下、数式で表わされる場合)、
Figure 2011257609
他のプロジェクタからの投影光が遮蔽されてできた影領域を埋めるために照度をあげることで、スクリーン1090上の影を除去することができる。
遮蔽光源推定部1040は、このアルファマスクデータをプロジェクタにセットした際に任意の位置に投影するため、コンテンツ映像データD10の事前変形と同様に、得られたアルファマスクデータを平面射影変換行列Hcpに作用させて、事前変形させる。
この照度制御部1050は、得られた事前変形された後のアルファマスクデータを、重畳投影部1060へ出力し、事前変形される前のアルファマスクデータは次の更新時に使用するため保存しておく。上記の更新処理を影除去処理および照射光抑制処理を継続する間、繰り返す。
上記の実施形態では、3台のプロジェクタを用いた系で説明したが、3台以上のプロジェクタを用いても、同様の処理によりスクリーン上の影除去と同時にスクリーンープロジェクタ間の物体へ当たる光の抑制を実現することが可能である。
上述の通り、差分画像作成部1030が差分画像データD13を作成し、遮蔽光源推定部1040が遮蔽マップD18を作成し、照度制御部1050が事前変形済みアルファマスクデータD19を作成して、この事前変形済みアルファマスクデータD19をプロジェクタ1010に出力することで、光学像と投影像の照度が異なるとして検出されたプロジェクタとは異なるプロジェクタに対して、光学像と投影像の照度の差分を補正したコンテンツデータを作成してプロジェクタに出力することができる。
次に、図4を参照して、本実施形態に係る光学投影制御装置100による光学投影制御方法の一例について説明する。図4は、本実施形態に係る光学投影制御装置100による光学投影制御方法の一例を示すフローチャートである。
光学投影制御装置100は、コンテンツ映像記憶部1070から読み出したコンテンツ映像データD10に基づき、事前変形させたアルファマスクデータD15と、事前変形させたコンテンツ映像データD16と、事前変形済みアルファマスクデータD19とを作成して、プロジェクタが投影可能なデータ形式へ変換し、このデータを対応するプロジェクタ1011、1012、・・・101Nのそれぞれに出力する。各プロジェクタ1011、1012、・・・101Nは、入力するコンテンツ映像データD10に基づき、コンテンツ映像の投影像をスクリーン1090に投影する。この投影像が投影されているスクリーン1090を、カメラ1000が撮影して、撮影画像データD11を光学投影制御装置100の画像入力部1020に出力する。
画像入力部1020は、入力する撮影画像データD11を、差分画像作成部1030と事前校正部1080に出力する。
そして、事前校正部1080は、この撮影画像データD11およびコンテンツ映像記憶部1070から読み出すコンテンツ映像データD10に基づき、事前校正処理、すなわち、キャリブレーション処理、アルファマスク初期化処理、重畳投影処理、および背景画像作成処理を行う(ステップST2010)。事前校正部1080は、これにより、平面射影変換行列データD14と、事前変形させたアルファマスクデータD15と、事前変形させたコンテンツ映像データD16と、背景画像データD17を生成するとともに、保持しているデータの出力を行う。なお、具体的な事前校正部1080における処理については、図5を参照して詳細に説明する。
次いで、重畳投影部1060は、事前校正部1080における重畳投影処理部183による重畳投影処理と同様に、全プロジェクタ1010による各投影像をスクリーン1090上の同一位置に重ね合わせるように投影するため、事前校正部1080から伝送された事前変形させたコンテンツ映像データD16と、事前変形させたアルファマスクデータD15をプロジェクタが投影可能なデータ形式へ変換し、それらデータを各プロジェクタ1010へ出力する(ステップST2020)。
そして、差分画像作成部1030は、事前校正部1080から入力する背景画像データD17と画像入力部1020から入力する撮影画像データD11との差分を算出して差分画像データD13を作成し、遮蔽光源推定部1040へ出力する(ステップST2030)。
次いで、遮蔽光源推定部1040は、差分画像生成部1013から入力する差分画像データD13のΔ(u,v)から、影領域を検出するとともに、該影領域の各画素ごとにどのプロジェクタの光が遮られて影となっているかの判定処理を行う。この遮蔽光源推定部1040は、得られた判定結果からスクリーン1090全体の画素の遮蔽の判定結果をまとめた遮蔽マップD18を作成し、照度制御部1050に出力する(ステップST2040)。この遮蔽マップD18は、各画素ごとにスクリーン1090を照らしているプロジェクタのラベルl(u,v)を持つ。
そして、照度制御部1050は、遮蔽光源推定部1040から入力する遮蔽マップD18により、影除去処理と物体への照射光抑制処理の場合分けを行うとともに、差分画像作成部1030から入力された差分画像データD13から影除去の際の照度更新量を算出し、各プロジェクタごとにアルファマスクを更新するフィードバックループを構成し、更新処理を行う(ステップST2050)。
照度制御部1050は、このアルファマスクをプロジェクタにセットした際に任意の位置に投影するため、コンテンツ映像データD10の事前変形と同様に、得られたアルファマスクデータD15を平面射影変換行列Hcpに作用させて、事前変形させる。この照度制御部1050は、得られた事前変形済みアルファマスクデータD19を重畳投影部1060へ出力する。
そして、照度制御部1050は、変形前のアルファマスクは次の更新時に使用するため保存しておく。照度制御部1050は、影除去処理および照射光抑制処理を継続する間、上記の更新処理を繰り返す(ステップST2060)。
次に、図5を参照して、本実施形態に係る事前校正部1080による事前校正処理方法の一例について説明する。図5は、本実施形態に係る事前校正部1080による事前校正処理方法の一例を示すフローチャートである。
事前校正部1080のキャリブレーション処理部181は、画像入力部1020から入力される撮影画像データD11に基づき、プロジェクタ1010からの投影像をスクリーン1090上の所定の位置に投影するため、カメラ1000、プロジェクタ1010、スクリーン1090の三者間の平面射影変換行列データD14を算出する(ステップST3010)。
そして、キャリブレーション処理部181は、平面射影変換行列データD14を、照度制御部1050、重畳投影処理部183、および背景画像作成部184に出力するとともに、画像入力部1020から入力する撮影画像データD11をアルファマスク初期化処理部182に出力する。
次いで、アルファマスク初期化処理部182は、全プロジェクタ1011、1012、・・・、101Nの合計の照度をプロジェクタ1台分に相当する照度とするよう、各プロジェクタのアルファマスクの初期化を行う(ステップST3020)。このアルファマスク初期化処理部182は、初期化したアルファマスクデータD15を重畳投影処理部183に出力する。
そして、重畳投影処理部183は、全プロジェクタ1011、1012、・・・、101Nの投影像をスクリーン上の同一位置に重ね合わせるように投影するため、コンテンツ映像記憶部1070から読み出した投影用のコンテンツ映像データD10を、平面射影変換行列データD14を用いて事前変形させる(ステップST3030)。この重畳投影処理部183は、この事前変形させたコンテンツ映像データD16と、アルファマスク初期化処理部182が初期化したアルファマスクデータD15を、重畳投影部1060に出力する。
次いで、背景画像作成処理184は、全プロジェクタ1011、1012、・・・、101Nからの投影像がスクリーン1090上においてプロジェクタ1台分の照度になるよう重畳投影した後、スクリーン1090とプロジェクタ1010間に遮蔽物の無い状況下のスクリーン1090全体をカメラで撮影して得られた観測画像(背景画像データD17)を、差分画像作成部1030へ出力する(ステップST3040)。
上記構成により、本発明に係る光学投影制御装置100は、スクリーン1090上に複数の影が重なり合った場合においても、どのプロジェクタの光が遮られたのかを推定できるため、スクリーン1090上に生じた影の除去と遮蔽物へ当たる光の抑制を同時に実現することが可能となる。
つまり、遮蔽物により生じるスクリーン上の影がどのプロジェクタからの投影光によるものかを推定し、推定結果から全プロジェクタの投影光を制御することで、スクリーン上の影を除去し、遮蔽物に当たる投影光を抑制することができる。
言い換えると、遮蔽物により生じるスクリーン上の影がどのプロジェクタからの投影光によるものかを推定し、遮蔽物に投影光が当たっていると推定されたプロジェクタの投影光を抑えることで、遮蔽物に当たる投影光を抑制し、投影光がスクリーンを照らしていると推定されたプロジェクタの投影光量を上げることでスクリーン上の影を除去することができる。
一方、本発明によらない場合、1枚の観測画像からどのプロジェクタの光が遮蔽されているかが判断できないため、スクリーン上の影除去と同時に物体に照射される光を抑制できない。即ち、1台ずつ順にプロジェクタ投影光を補正するため、影除去処理後からプロジェクタ台数分の更新処理を必要とし、その間の物体への照射光の抑制はできない問題があった。
本発明は上記の問題点に鑑みてなされたものであり、スクリーン全体を撮影した1枚の観測画像から、観測画像中で影が複数重なる状況下においてもプロジェクタごとの光の遮蔽領域を推定する方法を提供することにある。
また、遮蔽領域の推定結果に基づきプロジェクタごとに異なる照度制御フィードバック系を構成し、遮蔽領域の照度を変化させることで、影除去と物体への照射光抑制を同時に実現する方法を提供することにある。
[第2実施形態]
次に、本発明に係る第2実施形態について説明する。図6は、本発明に係る第2実施形態の光学投影制御システムの一例を示す概略図である。
上述の第1実施形態は、例えば、光学投影制御装置100として使用される1台のPC(パーソナルコンピュータ)が、複数台のプロジェクタ1010と接続され処理が行われる例を用いて説明した。これに対して、本実施形態は、カメラ1000から出力された情報を入力し、操作するホストPC401と各プロジェクタの描画を行う複数台のPC402がネットワークを介して接続されている構成を有する。なお、第1実施形態における構成要件と同様の機能や構成については、同一の名称を付すことで、各構成の詳細な説明については省略する。具体的にいうと、本実施形態に係る光学投影制御装置は、その装置構成において情報送信部と情報受信部を有する点で異なり、図6に示すホストPC401と複数のレンダリング専用PC402(4021,4022,・・・402N)により実現可能である。
図6に示す通り、カメラ1000と接続した1台のホストPC401は、複数台のプロジェクタ1011,1012,・・・101Nと、レンダリング専用PC4021,4022,・・・402Nを介して接続されている。この時のホストPC401、レンダリング専用PC4021,4022,・・・402N間の接続方式としては、TCP/IPや、UDPなどの通信プロトコルを用いるものとする。
次に、図7を参照して、ホストPC401とレンダリング専用PC4021の構成の一例について説明する。図7は、光学投影制御装置としてのホストPC401とレンダリング専用PC4021の構成の一例を示すブロック図である。
図7に示す通り、ホストPC401は、画像入力部4020と、事前校正部4100と、差分画像作成部4030と、コンテンツ映像記憶部4090と、遮蔽光源推定部4040と、情報送信部4070を有する。また、各レンダリング専用PC402は、照度制御部4050と、重畳投影部4060と、情報受信部4080と、記憶部4101を有している。なお、ここでは、レンダリング専用PC4021を例に説明するが、他のレンダリング専用PC4022,・・・,402Nも同様の構成と機能を有し、詳細な説明は省略する。
ここで、情報送信部4070は、ホストPC401によって得られた情報をネットワークNWを介して各レンダリング専用PC402(4021,4022,・・・402N)に送信する。この情報送信部4070は、例えば、差分画像データD13、平面射影変換行列データD14、アルファマスクデータD15、事前変形させたコンテンツ映像データD16、背景画像データD17および遮蔽マップD18を送信する。
情報受信部4080は、各レンダリング専用PC402に対してホストPC401から送信された情報を受信し、差分画像データD13、平面射影変換行列データD14、アルファマスクデータD15、背景画像データD17および遮蔽マップD18を照度制御部4050に出力し、事前変形させたコンテンツ映像データD16を重畳投影部4060に出力する。
記憶部4101は、例えば、初期設定により、オフラインで事前にキャリブレーションされた初期値(例えば、事前変形させたアルファマスクデータD15、および事前変形させたコンテンツ映像データD16)を記憶する。この場合、各レンダリング専用PC402は、画像入力部402と事前校正部4100とコンテンツ映像記憶部4090に相当する構成をそれぞれ有しており、各プロジェクタ1011,1012,・・・101Nが投影する投影像をスクリーン1090上の同一位置に重ねるためのキャリブレーションを行い、事前変形させたアルファマスクデータD15、および事前変形させたコンテンツ映像データD16を得るものであってもよい。
次に、図8を参照して、本実施形態に係る光学投影制御装置(ホストPC401とレンダリング専用PC4021)による光学投影制御方法の一例について説明する。図8は、本実施形態に係る光学投影制御装置(ホストPC401とレンダリング専用PC4021)による光学投影制御方法の一例を示すフローチャートである。
ホストPC401とレンダリング専用PC402は、コンテンツ映像記憶部4090から読み出したコンテンツ映像データD10に基づき、事前変形させたアルファマスクデータD15と、事前変形させたコンテンツ映像データD16と、事前変形済みアルファマスクデータD19とを作成して、プロジェクタが投影可能なデータ形式へ変換し、このデータを対応するプロジェクタ1011、1012、・・・101Nのそれぞれに出力する。各プロジェクタ1011、1012、・・・101Nは、入力するコンテンツ映像データD10に基づき、コンテンツ映像の投影像をスクリーン1090に投影する。この投影像が投影されているスクリーン1090を、カメラ1000が撮影して、撮影画像データD11をホストPC401の画像入力部4020に出力する。
画像入力部4020は、入力する撮影画像データD11を、差分画像作成部4030と事前校正部4100に出力する。
そして、事前校正部4100は、この撮影画像データD11およびコンテンツ映像記憶部4090から読み出したコンテンツ映像データD10に基づき、事前校正処理、すなわち、キャリブレーション処理、アルファマスク初期化処理、重畳投影処理、および背景画像作成処理を行う(ステップST5010)。
事前校正部4100は、これにより、平面射影変換行列データD14と、アルファマスクデータD15と、事前変形させたコンテンツ映像データD16と、背景画像データD17を生成するとともに、保持しているデータの出力を行う。事前校正部4100は、背景画像データD17を差分画像作成部4030に、平面射影変換行列データD14と、アルファマスクデータD15と、事前変形させたコンテンツ映像データD16と、背景画像データD17を情報送信部4070へ出力する。
次いで、照度制御部4050は、記憶部4101に記憶されている初期化したアルファマスクデータD15と、事前変形させたコンテンツ映像データD16に基づき、事前変形済みアルファマスクデータD19とを作成して、重畳投影部4060に出力する。
重畳投影部4060は、第1実施形態に記載の事前校正部1080における重畳投影処理部183による重畳投影処理と同様に、全プロジェクタ1010による各投影像をスクリーン1090上の同一位置に重ね合わせるように投影するため、照度制御部4050から伝送された事前変形させたコンテンツ映像データD16と、事前変形済みアルファマスクデータD19をプロジェクタが投影可能なデータ形式へ変換し、それらデータを各プロジェクタ1010へ出力する(ステップST5020)。
そして、ホストPC401において、差分画像作成部4030が、画像入力部4020から入力する観測画像(撮影画像データD11)と事前校正部4100から入力する背景画像(背景画像データD17)に基づき、照度の差を示す差分画像データD13を作成し(ステップST5030)、遮蔽光源推定部4040と情報送信部4070へ出力する。
遮蔽光源推定部4040は、どのプロジェクタから発せられた投影光が遮蔽されているか判定し、遮蔽マップD18を作成する(ステップST5040)。作成した遮蔽マップD18は情報送信部4070へ伝送される。
情報送信部4070は、入力する情報(ホストPC401が保持している情報)をネットワークNWを介して、すべてのレンダリング専用PC4021,4022,・・・,402N内の情報受信部4080へ伝送する(ステップST5050)。
以上の処理を、影除去処理および照射光抑制処理を継続する間、繰り返す(ステップST5060)。
一方、例えばレンダリング専用PC4021の情報受信部4080は、ホストPC401から送信されたデータを受信し(ステップST5070)、ホストPC401から送信された全てのデータを受信し終わるまで、情報受信を繰り返す(ステップST5080)。
この情報受信部4080は、受信した差分画像データD13、平面射影変換行列データD14、アルファマスクデータD15、背景画像データD17および遮蔽マップD18を、照度制御部4050に出力する。また、情報受信部4080は、事前変形させたコンテンツ映像データD16を重畳投影部4060に出力する。
照度制御部4050は、情報受信部4080から入力する差分画像データD13と、平面射影変換行列データD14を用いてアルファマスクの更新を行う(ステップST5090)。
重畳投影部4060は、情報受信部4080から入力する事前変形させたコンテンツ映像データD16、照度制御部4050から入力する更新されたアルファマスクデータD15´をプロジェクタ1011が投影可能なデータ形式へ変換し、そのデータをプロジェクタ1011へ出力する(ステップST5100)。
以上の伝送形態においても、第1実施形態と同様に、スクリーン1090上の影を除去すると同時に、スクリーン1090とプロジェクタ1010間の物体への照射光を抑制する効果を得ることが可能である。
次に、図9を参照して、本実施形態に係る光学投影制御装置(ホストPC401とレンダリング専用PC4021)による光学投影制御方法の他の例について説明する。図9は、本実施形態に係る光学投影制御装置による光学投影制御方法の他の例を示すフローチャートである。これは、ホストPC401によって、各レンダリング専用PC402についてのキャリブレーションをオンラインで行う実施形態である。
まず、ホストPC401の事前校正部4100のキャリブレーション処理部181が、画像入力部4020から入力される撮影画像データD11に基づき、プロジェクタ1010からの投影像をスクリーン1090上の所定の位置に投影するため、カメラ1000、プロジェクタ1010、スクリーン1090の三者間の平面射影変換行列データD14を算出する(ステップST6010)。
そして、ホストPC401の事前校正部4100のキャリブレーション処理部181は、平面射影変換行列データD14を、事前校正部4100の重畳投影処理部183と背景画像作成部184に出力するとともに、情報送信部4070を介してレンダリング専用PC4021に送信する。
また、事前校正部4100のキャリブレーション処理部181は、画像入力部4020から入力する撮影画像データD11を事前校正部4100のアルファマスク初期化処理部182に出力する。
次いで、事前校正部4100のアルファマスク初期化処理部182は、全プロジェクタ1011、1012、・・・、101Nの合計の照度をプロジェクタ1台分に相当する照度とするよう、各プロジェクタのアルファマスクの初期化を行う(ステップST6020)。この事前校正部4100のアルファマスク初期化処理部182は、初期化したアルファマスクデータD15を事前校正部4100の重畳投影処理部183に出力する。
そして、事前校正部4100の重畳投影処理部183は、全プロジェクタ1011、1012、・・・、101Nの投影像をスクリーン上の同一位置に重ね合わせるように投影するため、コンテンツ映像記憶部1070から読み出した投影用のコンテンツ映像データD10を、平面射影変換行列データD14を用いて事前変形させる(ステップST6030)。
次いで、事前校正部4100は、上述の通り得られた、平面射影変換行列データD14と、初期化したアルファマスクデータD15と、事前変形させたコンテンツ映像データD16と情報送信部4070に出力する。この情報送信部4070は、入力する平面射影変換行列データD14と、初期化したアルファマスクデータD15と、事前変形させたコンテンツ映像データD16とを、ネットワークNWを介してレンダリング専用PC4021に送信する(ステップST6040)。
レンダリング専用PC4021の情報受信部4080は、平面射影変換行列データD14と、初期化したアルファマスクデータD15と、事前変形させたコンテンツ映像データD16とを受信し、平面射影変換行列データD14と、初期化したアルファマスクデータD15とを照射制御部4050に出力し、事前変形させたコンテンツ映像データD16を重畳投影部4060に出力する(ステップST6050)。
次いで、事前校正部4100の背景画像作成処理184は、全プロジェクタ1011、1012、・・・、101Nからの投影像がスクリーン1090上においてプロジェクタ1台分の照度になるよう重畳投影した後、スクリーン1090とプロジェクタ1010間に遮蔽物の無い状況下のスクリーン1090全体をカメラで撮影して得られた観測画像(背景画像データD17)を、差分画像作成部4030へ出力する。
そして、照度制御部4050は、情報受信部4080から入力する平面射影変換行列データD14と、初期化したアルファマスクデータD15と、事前変形させたコンテンツ映像データD16に基づき、事前変形済みアルファマスクデータD19とを作成して、重畳投影部4060に出力する。
重畳投影部4060は、全プロジェクタ1010による各投影像をスクリーン1090上の同一位置に重ね合わせるように投影するため、情報受信部4080から伝送された事前変形させたコンテンツ映像データD16と、照度制御部4050から伝送された事前変形済みアルファマスクデータD19をプロジェクタが投影可能なデータ形式へ変換し、それらデータを各プロジェクタ1010へ出力する(ステップST6060)。
次いで、事前校正部4100の背景画像作成処理184は、全プロジェクタ1011、1012、・・・、101Nからの投影像がスクリーン1090上においてプロジェクタ1台分の照度になるよう重畳投影した後、スクリーン1090とプロジェクタ1010間に遮蔽物の無い状況下のスクリーン1090全体をカメラで撮影して得られた観測画像(背景画像データD17)を、差分画像作成部1030へ出力する(ステップST6070)。
[第3実施形態]
次に、本発明に係る第3実施形態について説明する。
上述の第1実施形態は、プロジェクタ間の照度差を用いて、スクリーン1090上の影領域がどのプロジェクタが遮蔽されたことにより生じたかを推定するものである。これに対して、本実施形態は、プロジェクタからの投影像に対して色の差をつけることで、色の直行性に基づいてプロジェクタ1010の遮蔽と影領域とを関係づける点で異なる。以降は、プロジェクタ投影像の色を操作する処理を含む部分についてのみ説明する。なお、ハードウェア資源としては、第1実施形態で説明した光学投影制御装置100が利用可能であり、当該光学投影制御装置100を用いて本実施形態を実行する例について、以下説明する。
3台のプロジェクタ1011,1020,1013の投影像に色の差を生じさせる方法について、図3を参照して説明する。ここでは、第1実施形態と同様に、図3(a)のような機器配置および情報伝送形態での処理を考える。
事前校正部1080における重畳投影処理部183は、コンテンツ映像記憶部1070から読み出した投影用のコンテンツ映像データD10を事前変形させた後、各プロジェクタに出力する輝度値の初期値を与える。例えば、重畳投影処理部183は、プロジェクタ1011に対する事前変形させたコンテンツ映像データD16の赤色成分r(u,v)のみ与え、プロジェクタ1012に対する事前変形させたコンテンツ映像データD16の緑色成分g(u,v)のみを与え、プロジェクタ1013に対する事前変形させたコンテンツ映像データD16の青色成分b(u,v)のみ与える。つまり、各プロジェクタ1011,1012,1013には、各単色の色成分で構成される事前変形させたコンテンツ映像データD16が入力され、各プロジェクタがこの入力情報に従って投影像をスクリーン1090に投影することによって、各色成分がスクリーン上において重複(混合)してカラー画像を構成する。
次に、遮蔽光源推定部1040における遮蔽光源推定処理部1040について述べる。
例えば、各プロジェクタ1011,1012,1013は、異なる色の映像(投影像)を投影しているため、プロジェクタの光がさえぎられると、図3(b)のスクリーン1090上の各影領域にごとに異なる色の影が生じる。
差分画像生成部1030から出力された差分画像データΔ(u,v)の赤、緑、青の画素値をそれぞれ、ΔR(u,v)、ΔG(u,v)、ΔB(u,v)としたとき、遮蔽光源推定部1040は、差分画像データD13の各色の変化量から、次式にあるように図3(b)の各影領域A〜Fを判定することができる。
Figure 2011257609
遮蔽光源推定部1040は、得られた判定結果から第1実施形態と同様に各画素ごとに遮蔽マップD18を作成する。また差分画像データΔ(u,v)を、照度制御部1050へ出力する。
なお、差分画像データΔ(u,v)において遮蔽されたプロジェクタからの色成分のみがカメラ1000によって観測されるようにするため、非特許文献4に記載されているようなプロジェクタカメラシステムの輝度補正を事前校正部1080で行うものであってもよい。
なお、非特許文献4は、K. Fujii, M.D.Grossberg, and S.K.Nayar: “A Projector-Camera System with Real-Time PhotometricAdaptation for Dynamic Environments“, Proc. of Computer Vision and PatternRecognition (CVPR), vol. 1, pp.814-821 (2005)である。
照度制御部1050は、アルファマスクの更新と事前変形に加え、投影するコンテンツ映像の輝度値の更新を行う。アルファ値の更新は、第1実施形態と同様の更新式(14)を用いる。但し、第1実施形態と異なり、アルファ値は式(5)だけを満たしていればよく、式(10)および式(11)の拘束条件を満たさなくてもよい。
次に、投影するコンテンツ映像データの輝度値の更新について述べる。まず遮蔽光源推定部1040は、差分画像作成部1030から入力される差分画像Δ(u,v)を各プロジェクタ1010の平面射影変換行列Hsp −1を作用させて事前変形させる。時刻tにおいてi番目のプロジェクタの平面射影変換行列により事前変形させた差分画像の赤、緑、青の画素値をそれぞれ、Δr (i)(u,v)、Δg (i)(u,v)、Δb (i)(u,v)とする。また、時刻tにおいてi番目のプロジェクタ1010から投影されるコンテンツ映像データの赤、緑、青の画素値をそれぞれr (i)(u,v)、g (i)(u,v)、b (i)(u,v)とする。このとき、時刻t+1においてi番目のプロジェクタから投影されるコンテンツ映像の画素値rt+1 (i)(u,v)、gt+1 (i)(u,v)、bt+1 (i)(u,v)は、それぞれ、以下の式(16)(17)(18)により更新する。
Figure 2011257609
Figure 2011257609
Figure 2011257609
但し、σ´はシステムパラメータである。なお、σ´は、フィードバックループのパラメータであって、上述のフィードバックループのパラメータσと同様に設定可能である。
そして、照度制御部1050は、得られた時刻t+1の事前変形済みアルファマスクと、コンテンツ映像データの画素値を、重畳投影部1060へ伝送し、さらに次の更新時に使用するため保存しておく。上記の更新処理を影除去処理および照射光抑制処理を継続する間、繰り返す。
上記の実施形態では、第1実施形態と同様に、1台のPCが複数台のプロジェクタと接続され処理を行う例について説明したが、第2実施形態と同様に、複数台のPCをネットワークを介して接続し、処理を行う場合についても、本実施形態に係る光学投影制御方法を適用可能であり、同様の効果を得ることが可能である。
本発明は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のCPU(MPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、実現できる。その場合、記憶媒体から読み出されたプログラムコード自体が上述した実施の形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体、例えば、CD−ROM、DVD−ROM、CD−R、CD−RW、MO、HDD等は本発明を構成する。
なお、上述した第1〜3実施形態において、光学投影制御装置による機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、制御してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
100・・・光学投影制御装置、1000・・・カメラ、1010(1011、1012、・・・、101N)・・・プロジェクタ、1020・・・画像入力部、1030・・・差分画像作成部、1040・・・遮蔽光源推定部、1050・・・照度制御部、1060・・・重畳投影部、1070・・・コンテンツ映像記憶部、1080・・・事前校正部、1090・・・スクリーン、181・・・キャリブレーション処理部、182・・・マルファマスク初期化処理部、183・・・重畳投影処理部、184・・・背景画像作成部、401・・・ホストPC、402(4021,4022,・・・402N)・・・レンダリング専用PC、4020・・・画像入力部、4030・・・差分画像作成部、4040・・・遮蔽光源推定部、4050・・・照度制御部、4060・・・重畳投影部、4070・・・情報送信部、4080・・・情報受信部、4090・・・コンテンツ映像記憶部、4010・・・事前校正部、4101・・・記憶部

Claims (8)

  1. 複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御方法において、
    前記複数のプロジェクタによってコンテンツデータに基づく光学像が投影されているスクリーンを撮影して撮影画像データを取得するステップと、
    前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、光量の差に応じた差分画像データを作成するステップと、
    当該差分画像データに基づき、前記プロジェクタから照射される光学像の光量に対して、前記スクリーン上に投影されている投影像の光量が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断するステップと、
    を備えることを特徴とする光学投影制御方法。
  2. 複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御方法において、
    前記複数のプロジェクタによってコンテンツデータに基づく光学像が各プロジェクタに割り当てられたそれぞれ異なる色で投影されているスクリーンを撮影して撮影画像データを取得するステップと、
    前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、色の差に応じた差分画像データを作成するステップと、
    当該差分画像データに基づき、前記スクリーン上に投影されている投影像における各色の変化量を算出して、各プロジェクタに対応する色が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断するステップと、
    を備えることを特徴とする光学投影制御方法。
  3. 前記光学像と投影像の照度が異なるとして検出されたプロジェクタとは異なるプロジェクタに対して、前記光学像と投影像の照度の差分を補正したコンテンツデータを作成して当該プロジェクタに出力するステップとを備えることを特徴とする請求項1あるいは2に記載の光学投影制御方法。
  4. 複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御装置において、
    前記複数のプロジェクタによってコンテンツデータに基づく光学像が投影されているスクリーンを撮影して撮影画像データを取得するカメラから前記撮影画像データを入力する画像入力部と、
    前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた遮蔽なし撮像画像データと、前記撮影画像データとの、光量の差に応じた差分画像データを作成する差分画像作成部と、
    当該差分画像データに基づき、前記プロジェクタから照射される光学像の光量に対して、前記スクリーン上に投影されている投影像の光量が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部を備える光学投影制御装置と
    を備えることを特徴とする光学投影制御装置。
  5. 複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御装置において、
    前記複数のプロジェクタによってコンテンツデータに基づく光学像が各プロジェクタに割り当てられたそれぞれ異なる色で投影されているスクリーンを撮影して撮影画像データを取得するカメラから前記撮影画像データを入力する画像入力部と、
    前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、色の差に応じた差分画像データを作成する差分画像作成部と、
    当該差分画像データに基づき、前記スクリーン上に投影されている投影像における各色の変化量を算出して、各プロジェクタに対応する色が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部と、
    を備えることを特徴とする光学投影制御装置。
  6. 複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御システムにおいて、
    前記複数のプロジェクタによってコンテンツデータに基づく光学像が投影されているスクリーンを撮影して撮影画像データを取得するカメラと、
    前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、光量の差に応じた差分画像データを作成する差分画像作成部と、当該差分画像データに基づき、前記プロジェクタから照射される光学像の光量に対して、前記スクリーン上に投影されている投影像の光量が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部とを備える光学投影制御装置と
    を備えることを特徴とする光学投影制御システム。
  7. 複数のプロジェクタからの光学像をスクリーン上に重ねて投影する光学投影制御システムにおいて、
    前記複数のプロジェクタによってコンテンツデータに基づく光学像が各プロジェクタに割り当てられたそれぞれ異なる色で投影されているスクリーンを撮影して撮影画像データを取得するカメラと、
    前記スクリーンとプロジェクタとの間に遮蔽物が存在しない状態で前記コンテンツデータに基づく光学像をスクリーンに投影して予め撮影しておいた背景画像データと、前記撮影画像データとの、色の差に応じた差分画像データを作成する差分画像作成部と、当該差分画像データに基づき、前記スクリーン上に投影されている投影像における各色の変化量を算出して、各プロジェクタに対応する色が変化した前記プロジェクタを、投影像の少なくとも一部が遮断されているプロジェクタであると判断する遮蔽光源推定部とを備える光学投影制御装置と、
    を備えることを特徴とする光学投影制御システム。
  8. コンピュータを、請求項1〜3のいずれか一項に記載の各工程を実行させるためのプログラム。
JP2010132186A 2010-06-09 2010-06-09 光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム Expired - Fee Related JP5596427B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010132186A JP5596427B2 (ja) 2010-06-09 2010-06-09 光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010132186A JP5596427B2 (ja) 2010-06-09 2010-06-09 光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム

Publications (2)

Publication Number Publication Date
JP2011257609A true JP2011257609A (ja) 2011-12-22
JP5596427B2 JP5596427B2 (ja) 2014-09-24

Family

ID=45473834

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010132186A Expired - Fee Related JP5596427B2 (ja) 2010-06-09 2010-06-09 光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム

Country Status (1)

Country Link
JP (1) JP5596427B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015154220A (ja) * 2014-02-14 2015-08-24 キヤノン株式会社 照明コントロール装置
JP2019129364A (ja) * 2018-01-23 2019-08-01 セイコーエプソン株式会社 投射装置、投射システム、及び投射装置の制御方法
WO2019171943A1 (ja) 2018-03-06 2019-09-12 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2019192391A (ja) * 2018-04-20 2019-10-31 東芝ライテック株式会社 照明装置および照明システム
KR20200047104A (ko) * 2018-10-26 2020-05-07 현대위아 주식회사 비전 카메라를 이용한 이미지 획득 장치 및 방법
WO2021193171A1 (ja) * 2020-03-25 2021-09-30 株式会社Jvcケンウッド 画像投影装置及び画像補正方法
WO2022024730A1 (ja) * 2020-07-29 2022-02-03 ソニーグループ株式会社 画像処理装置、画像処理方法、及びプログラム
CN117615248A (zh) * 2023-11-24 2024-02-27 北京东舟技术股份有限公司 一种vr显示屏内容的拍摄方法、装置、设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162743A (ja) * 1993-12-03 1995-06-23 Matsushita Electric Ind Co Ltd 映写装置用画像処理装置および映写装置
JP2007520945A (ja) * 2004-01-09 2007-07-26 アイマット・インコーポレーテッド プレゼンターの影が投影スクリーンに投影されるのを禁止する方法および装置
JP2007256506A (ja) * 2006-03-22 2007-10-04 Victor Co Of Japan Ltd 画像投影装置
JP2011238370A (ja) * 2010-05-06 2011-11-24 Panasonic Electric Works Co Ltd 光投影装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162743A (ja) * 1993-12-03 1995-06-23 Matsushita Electric Ind Co Ltd 映写装置用画像処理装置および映写装置
JP2007520945A (ja) * 2004-01-09 2007-07-26 アイマット・インコーポレーテッド プレゼンターの影が投影スクリーンに投影されるのを禁止する方法および装置
JP2007256506A (ja) * 2006-03-22 2007-10-04 Victor Co Of Japan Ltd 画像投影装置
JP2011238370A (ja) * 2010-05-06 2011-11-24 Panasonic Electric Works Co Ltd 光投影装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015154220A (ja) * 2014-02-14 2015-08-24 キヤノン株式会社 照明コントロール装置
JP2019129364A (ja) * 2018-01-23 2019-08-01 セイコーエプソン株式会社 投射装置、投射システム、及び投射装置の制御方法
WO2019171943A1 (ja) 2018-03-06 2019-09-12 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US11134232B2 (en) 2018-03-06 2021-09-28 Sony Corporation Information processing apparatus, information processing method, and program
JP2019192391A (ja) * 2018-04-20 2019-10-31 東芝ライテック株式会社 照明装置および照明システム
JP7286916B2 (ja) 2018-04-20 2023-06-06 東芝ライテック株式会社 照明装置および照明システム
KR20200047104A (ko) * 2018-10-26 2020-05-07 현대위아 주식회사 비전 카메라를 이용한 이미지 획득 장치 및 방법
KR102138854B1 (ko) 2018-10-26 2020-07-28 현대위아(주) 비전 카메라를 이용한 이미지 획득 장치 및 방법
WO2021193171A1 (ja) * 2020-03-25 2021-09-30 株式会社Jvcケンウッド 画像投影装置及び画像補正方法
WO2022024730A1 (ja) * 2020-07-29 2022-02-03 ソニーグループ株式会社 画像処理装置、画像処理方法、及びプログラム
CN117615248A (zh) * 2023-11-24 2024-02-27 北京东舟技术股份有限公司 一种vr显示屏内容的拍摄方法、装置、设备及存储介质

Also Published As

Publication number Publication date
JP5596427B2 (ja) 2014-09-24

Similar Documents

Publication Publication Date Title
JP5596427B2 (ja) 光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム
US20240106971A1 (en) Method and system for generating at least one image of a real environment
US9275445B2 (en) High dynamic range and tone mapping imaging techniques
JP6030396B2 (ja) 映像処理装置
US20130113975A1 (en) Projector Image Correction Method and System
US20080095468A1 (en) Method And Device For Representing A Digital Image On A Surface Which Is Non-Trivial In Terms Of Its Geometry And Photometry
US8237730B1 (en) Tone mapping for motion pictures
JP2017138647A (ja) 画像処理装置、画像処理方法、映像撮影装置、映像記録再生装置、プログラム及び記録媒体
JP2013127774A (ja) 画像処理装置、画像処理方法及びプログラム
JP6371092B2 (ja) 映像処理装置及びそれを用いたプロジェクタ装置
Aliaga et al. A virtual restoration stage for real-world objects
WO2015146111A1 (ja) 検知装置、検知方法、及びプログラム記憶媒体
JP2022525853A (ja) 結合前ノイズ除去による高ダイナミックレンジ画像生成
JP2006285763A (ja) 被写体についての陰影のない画像を生成する方法および装置、並びにそれに用いる白色板
CN108140359A (zh) 用于检测和/或校正显示器中的像素亮度和/或色度响应变化的系统和方法
CN108769505A (zh) 一种图像处理集方法及电子设备
US10621769B2 (en) Simplified lighting compositing
JP5775414B2 (ja) 投影輝度調整方法、投影輝度調整装置、コンピュータプログラム及び記録媒体
JP2004133919A (ja) 擬似3次元画像生成装置および生成方法並びにそのためのプログラムおよび記録媒体
JP6757004B2 (ja) 画像処理装置及び方法、画像処理プログラム、並びに投影装置
JP2019205055A (ja) 画像処理装置、画像処理装置の制御方法、及び、プログラム
JP7208823B2 (ja) 映像補正装置及びそのプログラム
JP2017228947A (ja) 画像処理装置および画像処理方法
WO2020084894A1 (ja) マルチカメラシステム、制御値算出方法及び制御装置
JP2011134133A (ja) 画像処理装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121004

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20130605

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130725

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140805

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140807

R150 Certificate of patent or registration of utility model

Ref document number: 5596427

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees