JP2009005044A - 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置 - Google Patents

分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置 Download PDF

Info

Publication number
JP2009005044A
JP2009005044A JP2007163457A JP2007163457A JP2009005044A JP 2009005044 A JP2009005044 A JP 2009005044A JP 2007163457 A JP2007163457 A JP 2007163457A JP 2007163457 A JP2007163457 A JP 2007163457A JP 2009005044 A JP2009005044 A JP 2009005044A
Authority
JP
Japan
Prior art keywords
projector
screen
projectors
mapping function
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007163457A
Other languages
English (en)
Other versions
JP5236219B2 (ja
Inventor
Hiroyuki Wada
博之 和田
Masato Ogata
正人 緒方
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Precision Co Ltd
Original Assignee
Mitsubishi Precision Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Precision Co Ltd filed Critical Mitsubishi Precision Co Ltd
Priority to JP2007163457A priority Critical patent/JP5236219B2/ja
Publication of JP2009005044A publication Critical patent/JP2009005044A/ja
Application granted granted Critical
Publication of JP5236219B2 publication Critical patent/JP5236219B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Projection Apparatus (AREA)
  • Image Processing (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】二次曲面スクリーンに複数プロジェクタからの映像を任意の視点から歪み無く見せる。
【解決手段】各プロジェクタpiからスクリーンに投影したテスト点の3次元復元を行い、1つの座標系に統合し、スリーン形状を推定し、各プロジェクタpiの位置姿勢を推定する。スクリーンの投影面を分割して撮影する複数の基準仮想カメラvmを備え、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求め、スクリーンを見る位置に視点仮想カメラeを設定し、視点仮想カメラeと基準仮想カメラvm間のマッピング関数Ψevmを求め、さらに、マッピング関数Ψvmpiとにより、各プロジェクタと視点仮想カメラeとの間のマッピング関数Ψepiを求める、とともにその逆関数を求める。各プロジェクタが投影する領域毎の映像をマッピングの逆関数により、歪み補正した映像をスクリーンに投影する。
【選択図】 図1

Description

この発明は、コンピュータグラフィックスにおける分割撮像による歪み補正と統合並びにそのためのマッピング関数の生成方法及びこれらの装置、さらにはその応用に関するものである。
訓練用シミュレータや研究用シミュレータにおいて没入感・臨場感を得るためには、高い解像度と広い視野が要求される。これをコストパフォーマンス良く実現する方法として、平面スクリーンに多数のプロジェクタから逆歪みをかけた映像を投影して連続した画像に統合するプロジェクタモザイクあるいはマルチプロジェクション技術が期待されている。従来から電子回路やレンズを用いて光学的に歪みを補正する方法は広く用いられていたが、スクリーンのサイズが固定されたり、プロジェクタ設置時の調整が複雑など多くの問題がある。また、複数配置して大画面を構成するため、境目を緩和する専用回路付きの高価なプロジェクタが必要となり、位置合わせやプロジェクタの特性および経年変化による輝度ズレの調整などにも多大の時間と労力を要する。
また、非特許文献1に示したように、設置位置が不明なプロジェクタj(1…n)から投影した映像と、同様に設置位置が不明なカメラで撮像したスクリーン上の歪み映像とが3行3列のマトリクスにより対応づけられ、このマトリクスを利用してプロジェクタ座標の映像に逆歪みをかけ、映像の歪み補正を行うものがあるが、平面スクリーンに限られている。
社団法人情報処理学会、「FIT2003 情報科学技術フォーラム 一般講演論文集 第3分冊」二〇〇三年八月二十五日発行、p.401〜403
本発明は、部分画像を投影する比較的低解像度のプロジェクトを複数台用いて、高解像度の大画面をドーム等の二次曲面スクリーン上に表示する実時間映像発生が容易になる方法および手段を提供することにある。
上記課題を解決するため請求項1に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記複数のプロジェクタごとに分割されたスクリーンを撮影するように配置されたステレオカメラと、コンピュータと、記憶装置とを有し、コンピュータによる処理であって、各プロジェクタpiからスクリーンに投影したテスト点の3次元復元を前記ステレオカメラによる行う第1の過程と、前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する第2の過程と、前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定する第3の過程と、前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)を備え、前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第4の過程と、前記二次曲面スクリーンを見る位置に位置姿勢情報を持つ視点仮想カメラeを設定し、当該視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第4の過程によるマッピング関数Ψvmpiとにより、各プロジェクタと視点仮想カメラeとの間のマッピング関数Ψepiを求める第5の過程と、前記第5の過程のマッピング関数Ψepiによりその逆関数を求める第6の過程と、からなることを特徴とするものである。
上記課題を解決するため請求項2に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法は、請求項1において、第4の過程が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することを特徴とするものである。
上記課題を解決するため請求項3に係る分割撮像による歪み補正と統合方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項4に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記複数のプロジェクタごとに分割されたスクリーンを撮影するように配置されたステレオカメラと、コンピュータと、記憶装置とを有し、コンピュータによる処理であって、各プロジェクタpiからスクリーンに投影したテスト点の3次元復元を前記ステレオカメラによる行う第1の過程と、前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する第2の過程と、前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定する第3の過程と、前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)を備え、前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第4の過程と、前記二次曲面スクリーンを見る右目又は左目のいずれか一方の位置に位置姿勢情報を持つ右目(又は左目)用の視点仮想カメラeを設定し、当該右目(又は左目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第4の過程によるマッピング関数Ψvmpiとにより、各プロジェクタと右目(又は左目)用の視点仮想カメラeとの間の右目(又は左目)用のマッピング関数Ψr(l)epiを求め、前記二次曲面スクリーンを見る前記右目又は左目のいずれか一方と異なる他方の位置に位置姿勢情報を持つ左目(又は右目)用の視点仮想カメラeを設定し、当該左目(又は右目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第4の過程によるマッピング関数Ψvmpiとにより、各プロジェクタと左目(又は右目)用の視点仮想カメラeとの間の左目(又は右目)用のマッピング関数Ψl(r)epiを求める第5の過程と、前記第5の過程の右目用及び左目用のマッピング関数Ψrepi,Ψlepiによりその逆関数を求める第6の過程と、からなることを特徴とするものである。
上記課題を解決するため請求項5に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法は、請求項4において、第4の過程が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することを特徴とするものである。
上記課題を解決するため請求項6に係る分割撮像による歪み補正と統合方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項4又は請求項5において求めた各プロジェクタ毎の右目用及び左目用のマッピング関数Ψrepi,Ψlepiの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項7に係る分割撮像による歪み補正と統合方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、前記コンピュータにより各プロジェクタが投影する領域毎の映像を生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項8に係る分割撮像による歪み補正と統合方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項9に係る分割撮像による歪み補正と統合方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項4において求めた各プロジェクタ毎の右目用及び左目用のマッピング関数の逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、各プロジェクタから前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項10に係る分割撮像による歪み補正と統合方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通にして重複する部分を有するように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項11に係る分割撮像による歪み補正と統合方法は、請求項8又は請求項9又は請求項10記載のものにおいて、ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とするものである。
上記課題を解決するため請求項12に係る分割撮像による歪み補正と統合方法は、請求項3又は請求項6又は請求項7又は請求項8又は請求項9又は請求項10又は請求項11に記載のものにおいて、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、コンピュータと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラとを有し、前記スクリーンに前記プロジェクタのいずれもから投影しない状態でステレオカメラにより撮影する第1の過程と、前記各プロジェクタより前記スクリーンに黒状態の映像を投影してステレオカメラにより撮影するとともに複数nのプロジェクタのn回繰り返す第2の過程と、コンピュータにおいて、第2の過程による各プロジェクタ毎の映像の輝度から第1の過程により得られた映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得る第3の過程と、コンピュータにおいて、一定周期で投影する映像の輝度を計測し、その平均値に従って、明画像か暗画像かを判定し、暗画像の場合に、各プロジェクタの映像の前記重複する部分のコントラストを前記オフセット値分下げるとともに輝度をオフセット値分下げて映像生成する第4の過程とからなることを特徴とするものである。
上記課題を解決するため請求項13に係る分割撮像による歪み補正と統合方法は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ前方に設けた偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピング関数の逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程と、夜間情景を表すときに前記偏光板により減光させる第3の過程からなることを特徴とするものである。
上記課題を解決するため請求項14に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラと、前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)と、前記二次曲面スクリーンを見る位置に配置された位置姿勢情報を持つ視点仮想カメラeと、コンピュータと、記憶装置とを有し、各プロジェクタpiからスクリーンに投影したテスト点をステレオカメラで撮像して3次元復元を行うテスト点3次元復元手段と、前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する2次曲面係数行列(Q)推定手段と、前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定するプロジェクタ位置姿勢推定手段と、前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第1のマッピング関数計算手段と、当該視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第1のマッピング関数計算手段によるマッピング関数Ψvmpiとにより、各プロジェクタと視点仮想カメラeとの間のマッピング関数Ψepiを求める第2のマッピング関数計算手段と、前記第2のマッピング関数計算手段によるマッピング関数Ψepiによりその逆関数を求める逆関数計算手段と、前記複数プロジェクタ毎にマッピング関数Ψvmpi,Ψepi及びその逆関数を格納する記憶装置とからなることを特徴とするものである。
上記課題を解決するため請求項15に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置は、請求項14に記載のものにおいて、第1のマッピング関数計算手段が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化する最適化手段を備えることを特徴とするものである。
上記課題を解決するため請求項16に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項17に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラと、前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)と、前記二次曲面スクリーンを見る右目の位置に配置された位置姿勢情報を持つ右目用の視点仮想カメラer及び左目の位置に配置された位置姿勢情報を持つ左目用の視点仮想カメラelと、コンピュータと、記憶装置とを有し、各プロジェクタpiからスクリーンに投影したテスト点をステレオカメラで撮像して3次元復元を行うテスト点3次元復元手段と、前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する2次曲面係数行列(Q)推定手段と、前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定するプロジェクタ位置姿勢推定手段と、前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第1のマッピング関数計算手段と、当該右目(又は左目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第1のマッピング関数計算手段によるマッピング関数Ψvmpiとにより、各プロジェクタと右目(又は左目)用の視点仮想カメラeとの間の右目(又は左目)用のマッピング関数Ψr(l)epiを求め、当該左目(又は右目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第1のマッピング関数計算手段によるマッピング関数Ψvmpiとにより、各プロジェクタと左目(又は右目)用の視点仮想カメラeとの間の左目(又は右目)用のマッピング関数Ψl(r)epiを求める第2のマッピング関数計算手段と、前記第2のマッピング関数計算手段の右目用及び左目用のマッピング関数Ψrepi,Ψlepiによりその逆関数を求める逆関数計算手段と、前記複数プロジェクタ毎にマッピング関数Ψvmpi,Ψepi及びその逆関数を格納する記憶装置とからなることを特徴とするものである。
上記課題を解決するため請求項18に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置は、請求項17に記載のものにおいて、第1のマッピング関数計算手段が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化する最適化手段を備えることを特徴とするものである。
上記課題を解決するため請求項19に係る分割撮像による歪み補正と統合装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項17又は請求項18において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、前記ピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項20に係る分割撮像による歪み補正と統合装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項21に係る分割撮像による歪み補正と統合装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、前記歪み補正した各映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項22に係る分割撮像による歪み補正と統合装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項17において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタからなることを特徴とするものである。
上記課題を解決するため請求項23に係る分割撮像による歪み補正と統合装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタからなることを特徴とするものである。
上記課題を解決するため請求項24に係る分割撮像による歪み補正と統合装置は、請求項21又は請求項22又は請求項23記載のものにおいて、ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とするものである。
上記課題を解決するため請求項25に係る分割撮像による歪み補正と統合装置は、請求項16又は請求項19又は請求項20又は請求項21又は請求項22又は請求項23又は請求項24に記載のものにおいて、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラとを有し、プロジェクタの何れからも投影しない第1の状態のスクリーンを撮影するとともに前記各プロジェクタより黒状態を投影したスクリーンの第2の状態をプロジェクタ毎に撮影するカメラと、前記カメラが撮影した前記第2の状態を投影した各プロジェクタ毎の映像の輝度から、前記第1の状態を撮影した映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得るオフセット計算手段と、前記各コンピュータにより、一定周期で投影する映像の輝度を計測し、その平均値に従って、明画像か暗画像かを判定し、暗画像の場合に、各プロジェクタ毎の映像の前記重複する部分のコントラストを前記オフセット値分下げるとともに輝度をオフセット値分上げて映像生成する映像生成手段とからなることを特徴とするものである。
上記課題を解決するため請求項26に係る分割撮像による歪み補正と統合装置は、二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタと、前記各プロジェクタ前方に設け、夜間情景を表すときに各プロジェクタからの光量を減光させる偏光板とからなることを特徴とするものである。
上記課題を解決するため請求項27に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置は、請求項14又は請求項15又は請求項17又は請求項18に記載のものにおいて、各プロジェクタが自由度を持ったフレキシブルアームにより床面に設置されたことを特徴とするものである。
上記課題を解決するため請求項28に係る分割撮像による歪み補正と統合装置は、請求項16又は請求項19〜26のいずれかに記載のものにおいて、各プロジェクタが自由度を持ったフレキシブルアームにより床面に設置されたことを特徴とするものである。
請求項1に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法によると、二次曲面スクリーンに投影したテスト点をもとにスクリーン形状を推定し、視点位置及びプロジェクタ位置との空間的相対関係を求め、二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求め、二次曲面スクリーンを見る位置に位置姿勢情報を持つ視点仮想カメラeを設定し、各プロジェクタと視点仮想カメラeとの間のマッピング関数Ψepiを求めるから、パラメトリックなスクリーンに対してカメラ位置と実際の視点位置が異なる場合でも、カメラ位置を計測せずに、基準点を数学的に求めて高精度にマッピング関数を求めることができ、広視野角スクリーンに適用することができる。
請求項2に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法によると、請求項1における、第4の過程が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することができる。
請求項3に係る分割撮像による歪み補正と統合方法によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる映像をスクリーンに投影したときに正しく見えるように補正してレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項4に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法によると、二次曲面スクリーンに投影したテスト点をもとにスクリーン形状を推定し、視点位置及びプロジェクタ位置との空間的相対関係を求め、二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求め、二次曲面スクリーンを見る位置に位置姿勢情報を持つ右目用及び左目用の視点仮想カメラeを設定し、各プロジェクタと右目用及び左目用の視点仮想カメラeとの間のマッピング関数Ψrepi,lepiを求めるから、パラメトリックなスクリーンに対してカメラ位置と実際の視点位置が異なる場合でも、カメラ位置を計測せずに、基準点を数学的に求めて高精度にマッピング関数を求めることができ、広視野角スクリーンに適用することができる。
請求項5に係る分割撮像による歪み補正と統合のためのマッピング関数生成方法によると、請求項4における、第4の過程が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することができる。
請求項6に係る分割撮像による歪み補正と統合方法によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる領域の映像をスクリーンに投影したときに正しく見えるように補正して右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項7に係る分割撮像による歪み補正と統合方法によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項8に係る分割撮像による歪み補正と統合方法によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像をレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項9に係る分割撮像による歪み補正と統合方法によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項10に係る分割撮像による歪み補正と統合方法によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項11に係る分割撮像による歪み補正と統合方法によると、ビデオ機器としてテレビジョン装置、ビデオ再生装置、パーソナルコンピュータ等の家庭用の機器を用いて、簡単に実現することができる。
請求項12に係る分割撮像による歪み補正と統合方法によると、一定周期で投影する映像の輝度を計測し、その平均値に従って、シーンごとに明画像か暗画像かを判定し、暗画像の場合に、オフセットを変更するから、黒を出した状態でのプロジェクタ投影領域の重複部分における輝度の目立ちを軽減することができ、特別なブレンディング用装置を必要とすることなく、例えばグラフィックスボードの機能を用いて実現することができる。
請求項13に係る分割撮像による歪み補正と統合方法によると、段階的に減光することができるため最適な減光率に調整が行うことができるので各プロジェクタによる投影領域の重複部分がより目立たなくすることが可能となる。
請求項14に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置によると、二次曲面スクリーンに投影したテスト点をもとにスクリーン形状を推定し、視点位置及びプロジェクタ位置との空間的相対関係を求め、二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求め、二次曲面スクリーンを見る位置に位置姿勢情報を持つ視点仮想カメラeを設定し、各プロジェクタと視点仮想カメラeとの間のマッピング関数Ψepiを求めるから、パラメトリックなスクリーンに対してカメラ位置と実際の視点位置が異なる場合でも、カメラ位置を計測せずに、基準点を数学的に求めて高精度にマッピング関数を求めることができ、広視野角スクリーンに適用することができる。
請求項15に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置によると、請求項14において、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することができる。
請求項16に係る分割撮像による歪み補正と統合装置によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる映像をレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項17に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置によると、二次曲面スクリーンに投影したテスト点をもとにスクリーン形状を推定し、視点位置及びプロジェクタ位置との空間的相対関係を求め、二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求め、二次曲面スクリーンを見る位置に位置姿勢情報を持つ右目用及び左目用の視点仮想カメラeを設定し、各プロジェクタと右目用及び左目用の視点仮想カメラeとの間のマッピング関数Ψrepi,lepiを求めるから、パラメトリックなスクリーンに対してカメラ位置と実際の視点位置が異なる場合でも、カメラ位置を計測せずに、基準点を数学的に求めて高精度にマッピング関数を求めることができ、広視野角スクリーンに適用することができる。
請求項18に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置によると、請求項4における、第4の過程が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することができる。
請求項19に係る分割撮像による歪み補正と統合装置によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる領域の映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項20に係る分割撮像による歪み補正と統合装置によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項21に係る分割撮像による歪み補正と統合装置によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項22に係る分割撮像による歪み補正と統合装置によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項23に係る分割撮像による歪み補正と統合装置によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項24に係る分割撮像による歪み補正と統合装置によると、ビデオ機器としてテレビジョン装置、ビデオ再生装置、パーソナルコンピュータ等の家庭用の機器を用いて、簡単に実現することができる。
請求項25に係る分割撮像による歪み補正と統合装置によると、一定周期で投影する映像の輝度を計測し、その平均値に従って、シーンごとに明画像か暗画像かを判定し、暗画像の場合に、オフセットを変更するから、黒を出した状態でのプロジェクタ投影領域の重複部分における輝度の目立ちを軽減することができ、特別なブレンディング用装置を必要とすることなく、例えばグラフィックスボードの機能を用いて実現することができる。
請求項26に係る分割撮像による歪み補正と統合装置によると、段階的に減光することができるため最適な減光率に調整が行うことができるので各プロジェクタによる投影領域の重複部分がより目立たなくすることが可能となる。
請求項27に係る分割撮像による歪み補正と統合のためのマッピング関数生成装置によると、スクリーンとプロジェクタを設置する床面との位置関係を厳密に設定しなくともフレキシブルアームにより調整幅が広範囲となるため、短時間で表示システムを構成することができる。
請求項28に係る分割撮像による歪み補正と統合装置によると、スクリーンとプロジェクタを設置する床面との位置関係を厳密に設定しなくともフレキシブルアームにより調整幅が広範囲となるため、短時間で表示システムを構成することができる。
([1]二次曲面スクリーンに係るマッピング関数、その逆関数及び映像発生)
以下、本発明を説明するための前提技術例について図を参照して説明する。図5(a),(b),(c)は二次曲面スクリーンに係る補正関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。図6(a)は二次曲面スクリーンに係るマッピング関数の生成方法の一実施例を説明するフロー図、及び図6(b)は二次曲面スクリーンに係る映像発生方法の一実施例を説明するフロー図である。図5において、505は二次曲面スクリーン、502j(j=1,2,3,…n)は前記スクリーン前方に設けられるプロジェクタ、503jは前記プロジェクタ502j毎に対応して備えられる複数のコンピュータである。5041,5042はデジタルカメラ、505は前記デジタルカメラ504を接続するコンピュータ、506はコンピュータ505内の変換行列計算手段、507はコンピュータ505内の二次曲面パラメータ(Qv)計算手段、508はコンピュータ505内の記憶装置、509jは各コンピュータ503j内のマッピング関数及び逆関数計算手段、510jは各コンピュータ503j内の記憶装置、511jは各コンピュータ503jに備えられる画像生成手段、512aj,512bjは各コンピュータ503jに備えられるピクセルバッファであり、当該コンピュータ503j、画像生成手段511jとともに映像生成手段を構成する。513は各コンピュータ503j,505を接続するネットワークである。514jは各コンピュータ503jのオフセット計算手段である。
(プロジェクタの配置取り付け)
二次曲面スクリーン505はその面が二次曲面例えば円筒形型又は球面を形成し、周囲を円形に形成している。図7(a)は、円筒型の一部側面を欠いた形状をしたものを示し、二次曲面スクリーン505は床面である基台701の上に側面を垂直にして固定される。スクリーン505の周囲に所定の間隔で柱7031,7032,7033,7034,7035が設けられる。柱7031,7032,7033,7034,7035のそれぞれには、フレキシブルアーム7051,7052,7053,7054,7055が取り付けられる。フレキシブルアーム7051,7052,7053,7054,7055には、プロジェクタ5021,5022,5023,5024,5025がそれぞれ取り付けられ、二次曲面スクリーン505の凸面を間にして凹面に対向するように周囲に位置させる。図7(b)に例えばフレキシブルアーム7051とプロジェクタ5021の連結状態を示す。プロジェクタ5021,5022,5023,5024,5025から二次曲面スクリーン505に光を投影すると、図7(c)のように二次曲面スクリーン505に上方から見た場合で説明すると、5つの投影光の互いに隣接する領域が互いに重なる部分を有するように連続し、途中に光が当たらない部分が生じないように、フレキシブルアーム7051,7052,7053,7054,7055を調整する。この時、各プロジェクタ5021,5022,5023,5024,5025からの各投影領域(各領域を一点鎖線、二点鎖線、三点鎖線、四点鎖線で示している。)がスクリーンをカバーしていればよく、形状、面積を同じにする必要はない。
なお、実施例において、二次曲面スクリーン505を円筒型としたがこれに限らず球面と双曲面、楕円面等で形成しても良く、また、表示面を凹面にしたが凸面でも良い。さらに、プロジェクタの数を5の場合を説明するが、数に制限なく本発明が適用できる。
(歪み補正の原理)
視点と視点と投影中心が一致する場合、映像歪みは生じない。しかし、一般的には視点と投影中心は一致しないため歪みが発生する。この歪みを補正するには、視点から見て歪みが無くなるように、予め、投影する原画像に対して逆の歪みをかけて投影すれば良い。
図8に逆歪みによる歪み補正の模式図を示す。図8では、プロジェクタの投影により発生する歪fを映像発生時f−1で逆歪をかけて投影するとf(f−1)で歪が相殺されることを示している。すなわち、プロジェクタ映像とスクリーン上の歪を関係付けるマッピング関数fを求める。その逆関数f−1はマッピング関数より求められる。図8では歪みを検出する段階において設置するカメラ位置及び方向が視点及び視線方向と同じであると想定している。
以下の手順により、マッピング関数を求める。
([1−1]スクリーン上の複数点の3D座標位置の計測)
いずれかの例えばプロジェクタ502jから光点を二次曲面スクリーン505に投影する。光点は、予め定められたテストパターンを構成する所定の座標点を示す。この光点をステレオカメラを構成するデジタルカメラ5041,5042で撮像することにより三次元位置Pを三角測量の原理から求める。iは点数を示す。このときステレオカメラは所定のキャリブレーション処理によりそれぞれのカメラのレンズの焦点距離や画素数の内部特性を示す内部パラメータ及び外部位置関係を示す外部パラメータが分かっていることを前提としている。左カメラ5041の内部及び外部パラメータを表すマトリクスをAc1、Mc1とする。同様に右カメラ5042の内部及び外部パラメータを表すマトリクスをAc2、Mc2とする。このとき、スクリーン上三次元位置Pと左カメラ画像上の光点の位置p c1、右カメラ画像上の光点の位置p c2との関係は
c1=Ac1c1
c2=Ac2c2 (1)
で表される。ここで、Mc1、Mc2
c1=[I|0]
c2=[Rc2|Tc2] (2)
である。
左カメラ5041の投影中心を座標の原点とするため、左カメラ5041の外部パラメータMc1は単位マトリクスIを用いて表される。また、右カメラ5042の投影中心は左カメラ5041の投影中心から回転Rc2、平行移動Tc2させた位置となるため、右カメラ5042の外部パラメータMc2はRc2、Tc2を用いて表すことができる。図9、図10において、左カメラ5041の投影中心(Center Of Projection)(以後COPと呼ぶ場合がある。)をCOPc1、右カメラ5042のCOPをCOPc2とする。また、各カメラのCOPと画像上の光点の位置を結んだ直線をlc1、lc2とするとスクリーン上の三次元位置Pはlc1、lc2を用いてこれらの交点に推定することができる。交点が見つからないときは、lc1、lc2の距離が最小となる共通法線を求め、その法線の中点をPとして決定する。また、プロジェクタ画像座標上の光点の位置をp pj、プロジェクタの内部パラメータを表すマトリクスをApjとすると、p pj、Apj、P、左カメラ5041のCOPを原点としたときのプロジェクタの回転マトリクスRpj、平行移動マトリクスTpjは以下の関係を持つ。
pj=Apj[Rpj|Tpj]P (3)
ここで、jはプロジェクタ数を表す。また、プロジェクタ画像座標上の位置p pjはテストパターンの点の位置であるため既知である。Apjは所定のキャリブレーション処理により得ているため既知である。よって、p pj,Apj,Pを用いてRpj,Tpjを求めることができる。Rpj,Tpjは対応関係を持つすべてのp pj,Pを用いて繰り返し計算を行ない、誤差が最小となるときの値を用いる。これらの計算は、カメラ5041,5042が接続されるコンピュータ505において行われ、これらの計算結果は記憶装置508に記憶される。
次に、以上の方法を用いて得られたプロジェクタの内部パラメータを利用して二次曲面の種類(球面、双曲面、楕円面等)と形状を表す情報である二次曲面パラメータQを求める。
([1−2]二次曲面パラメータQの計算)
マッピング関数f()を求めるためには二次曲面Qを求める必要がある。そこでまず、左カメラ5041のプロジェクションマトリクスをPc1、プロジェクタのプロジェクションマトリクスをP prjとして、これらのプロジェクションマトリクス、左カメラ画像上の光点の位置p c1、プロジェクタ画像座標上のテストパターンの一光点であるコーナー位置p pjを用いて、三次元位置Pを求める。求める方法としてはステレオカメラで三次元位置を求めた場合と同様の方法を用いる。計算は、カメラ5041,5042が接続されるコンピュータ505において行われる。ここで、Pc1、P prjは以下のように表される。
c1 =Ac1[I|0]
prj=Apj[Rpj|Tpj] (4)
求めた三次元位置Pが二次曲面Qの上にあるとき、
Figure 2009005044
であり、この関数をQの要素を並べたベクトル《V》を用いて変形すれば、
Figure 2009005044
(ここで、例えば《h′》はベクトルh′を示す表記である。なお、この明細書、図面においてベクトル表記を、《 》を用いた場合と、矢印を上部に付した場合と白抜き又は肉太の場合とで併用して表す場合がある。)
N点(N≧9)用いれば、以下の連立方程式が成立する。
X《V》 = 《0》
但し XはN行10列のマトリクスである。
この連立方程式を解けば、《V》、即ちQが求まる。
([1−3]マッピング関数f()の導出の原理)
二次曲面例えばスクリーン上の1点
Figure 2009005044
を、異なる視点即ちプロジェクタ502j及びカメラ5041又は5042から見たときの像p及びp′の関係を示すマッピング関数fを求める。以下、図11をもとに説明する。すなわち、カメラの位置及び方向が視点及び視線方向と同じである場合を考える。
今、射影空間Pにおける点を
Figure 2009005044
、射影空間pにおける対応する点を
Figure 2009005044
とすれば、
Figure 2009005044
の対応がある。但し、式中のtは転置を示す。
また、Pの点
Figure 2009005044
をプロジェクタの座標系Ψから見たpの点を
Figure 2009005044
、カメラ座標系Ψ′から見た点を
Figure 2009005044
とすれば、
Figure 2009005044
ここで、
Figure 2009005044
はΨ′におけるエピポールであり、Hはホモグラフィー行列である。
今、
Figure 2009005044
が二次曲面上にあるとの制約を課すと、
Figure 2009005044
より
Figure 2009005044
これを展開して、次のλに関する二次方程式を得る。(λは図11の
Figure 2009005044

Figure 2009005044
との関係を示す倍率
Figure 2009005044
、Q33は二次曲面規定マトリクスQの上から3×3部を抜き出したもので回転を示す。また、《q》は平行移動量、
である。)
Figure 2009005044
44=1として良いので、これを解き、λを求めると、
Figure 2009005044
式(8)に、このλを代入して整理すれば、
Figure 2009005044
となる。
右辺は
Figure 2009005044
でまとめられ、次式を得る。
Figure 2009005044
Figure 2009005044
と置けば次式となる。
Figure 2009005044
これが、カメラ設置位置と視点が一致する場合における、スクリーン505に投影された点
Figure 2009005044
をプロジェクタ座標Ψから見た点
Figure 2009005044
と、カメラ座標系Ψ′から見た点
Figure 2009005044
の対応を示すマッピング関数
Figure 2009005044
である。
([1−4]対角化仮想カメラ法によるマッピング関数)
([1−4−1]原理)
カメラ設置位置と視点が一致しない場合でも、スクリーンの形状情報を用いて、視点にカメラを仮想的に移してキャリブレーションが行えることを説明する。
訓練装置等の精度を要求される表示システムにおいては、視点位置は基準点からの変位により規定されるのが普通である。例えば、ドームスクリーンの場合ドーム中心を通る基線の後方1mなどと基準点からの変位で規定される。図12に、基準点1201、カメラ1202の設置位置及び姿勢、並びに1203で参照される視点及び視線方向すなわち仮想カメラの位置及び姿勢の関係を示す。設置位置・姿勢が不確かなカメラから、指定された視点位置・姿勢に直接移す回転・平行移動量を求めると考えず、一旦基準点に正確に移し、この点からの変位を用いて最終的に指定された視点位置・姿勢に移動すると二段階で考える。この考えに立てば、スクリーンが二次曲面の場合、一般的に基準点はスクリーンの中心であるので、カメラを任意の位置・姿勢から基準点の位置・姿勢へ移動することは、二次曲面規定行列の対角化に対応する。この対応を用いればカメラの姿勢位置を実際に計測することなく、曖昧な位置姿勢から基準点への移動量が正確に求まり、最終的に指定された視点の位置姿勢へ移動できる。これは、カメラを仮想的に指定の視点位置姿勢に配置してキャリブレーションを行ったことに対応する。
([1−4−2]対角化による中心への移動)
カメラ座標系で求めた二次曲面の種類と形状を表す情報である二次曲面パラメータをQ、視点を原点とする視点座標系における二次曲面パラメータをQとする。両者の関係は、Hを視点座標系からカメラ座標系への変換(移動、回転)行列として次式で与えられる。
= HQH (16)
二次曲面パラメータQは、前記([1−2]二次曲面パラメータQの計算)により説明した方法で得られる。
カメラ座標系から二次曲面の中心を原点とする基準座標系への変換行列をSとし、基準座標系から視点座標系への変換行列をMとする二段階の変換を考えれば、Hは次式で表される。
H = MS (17)
Sは、式(18)のようにQを対角化する。
Figure 2009005044
このSは式(19)のように分解することができる。
Figure 2009005044
ここで、R33は式(20)に示すQ33を対角化する回転行列であり、Q33及びqは式(20)で示されたQの成分である。また、ΛはQ33を対角化した行列、すなわちR33 −13333である。この回転行列R33によりQ33が対角化されることは数学的に保証されている。
Figure 2009005044
式(17)の導出を説明する。
座標変換によるQの対角化SQSを、Qを対角化する相似変換S−1QSと捉えて直接的にSを求められない。なぜならば、Sは回転行列Rと平行移動行列Tの積からなるがTによりSが正規直交行列とならないからである。
しかしSの3行3列の回転成分R22は正規直交行列となるため座標変換による対角化問題を相似変換の問題へおきかえることが可能である。すなわち、座標変換によるQ33の対角化R−1 333333=Λは相似変換の問題に帰着できる。これにより、未知のR33がQ33の固有ベクトルを並べたものとして決まり、
Figure 2009005044
となる。展開すると
Figure 2009005044
ここで対角行列Dは、
Figure 2009005044
の関係から次の連立する方程式ができる。
ΛT+R33q =0
Λ+q33 =0 (24)
Λ+T 33q+q33T =0
上の2式より、
T =−Λ−1 33
=−q33Λ−1 (25)
33及びTを用いてSを求めれば、
Figure 2009005044
Mは設計時に指定される既知の変換行列であるのでHが決まり、これによりQvが求まり、最終的にマッピング関数f()が式(15)から計算できる。発明者はこの方法を「対角化仮想カメラ法」と呼ぶ。
すなわち、Mは設計時に指定される既知の変換行列であるので、変換行列計算手段506の計算によりHが決まり(図6(a)のステップP601)、これにより二次曲面パラメータ(Qv)計算手段507の計算においてQvが求まる(図6(a)のステップP602)。これらの結果はテーブルとして記憶装置508に格納しておく。各コンピュータ503jのマッピング関数及び逆関数計算手段jにおいてマッピング関数f()が式(15)から計算できる(図6(a)のステップP603)。マッピング関数及び逆関数計算手段509jでは、マッピング関数f()からその逆関数を求める(図6(a)のステップP604)。ステップP601からステップP602、ステップP603、ステップP604をプロジェクタ502jの複数n回(実施例ではn=4)繰り返した後、前記ステップP604で求めた逆関数を各コンピュータ503jの記憶装置510jに格納する(図6(a)のステップP605)。これら一連の処理に得られるマッピング関数及び逆関数を適当な数の仮想視点について、予め求めてテーブルとして保持しておく。
([1−5]本発明の実施例・広角の二次曲面スクリーンに用いた例)
以下、前述の前提技術に基づいた本発明の実施例について図を参照して説明する。図1(a),(b),(c)は二次曲面スクリーンに係る補正関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。図2(a)は二次曲面スクリーンに係るマッピング関数の生成方法の一実施例を説明するフロー図、及び図2(b)は二次曲面スクリーンに係る映像発生方法の一実施例を説明するフロー図である。図1において、101は二次曲面スクリーン、102i(i=1,2,3,…n)は前記スクリーン周辺に配置されるプロジェクタ、103iは前記プロジェクタ102i毎に対応して備えられる複数のコンピュータである。1041i,1042i(i=1,2,3,…n)は前記プロジェクタが投影する映像を撮像することができるステレオカメラを構成するデジタルカメラ、105は前記デジタルカメラ1041i,1042iを接続するコンピュータ、106はコンピュータ105内のテスト点3次元復元手段、107はコンピュータ105内の二次曲面係数行列推定手段、108はコンピュータ105内の記憶装置、1091i,1092iは各コンピュータ103i内の第1及び第2のマッピング関数及び逆関数計算手段、110iは各コンピュータ103i内の記憶装置、111iは各コンピュータ103iに備えられる画像生成手段、112ai,112biは各コンピュータ103iに備えられるピクセルバッファであり、当該コンピュータ103i、画像生成手段111iとともに映像生成手段を構成する。113は各コンピュータ103i,105を接続するネットワークである。114iは各コンピュータ103iのオフセット計算手段、115m(m=1,2…M)はデジタルカメラで構成し、プロジェクタ102iが投影する二次曲面スクリーン101の面を撮影するように外周に位置する基準仮想カメラである。
([1−5−1]3次元点の復元・統合・スクリーン形状の推定)
(1)3次元点の復元(図2(a)のステップP101)
ステレオカメラ1041i,1042iによる3次元点の復元を図3に示す。プロジェクタpi(102i(i=1,2,3,…n))から既知のテストパターンのテスト点xpi (2次元点:k=1…K)を投影する。これをcmの位置のステレオカメラcm(1041i,1042i)で得られた画像をもとに、ステレオ視の原理からカメラcm(1041i,1042i)を原点とするスクリーン101上の3次元位置Xcmpi を三角測量の原理から復元する。プロジェクタpj(102j)に関してもカメラcm(1041i,1042i)を用いて同様に行いXcmpj を復元する。このとき、ステレオカメラcm(1041i,1042i)の位置は、対象とするi番目のプロジェクタpi(102i)の全投影領域と、それに隣接するj番目のプロジェクタpj(102j)の投影領域の一部が重複した部分を含んで撮影可能な位置であれば自由に設置できる。以上の手順を全プロジェクタ102pi(102i)に対して行い全ての3次元点を求める。これらの計算は、カメラ1041i,1042iが接続されるコンピュータ105のテスト点3次元復元手段106において行われ、これらの計算結果は記憶装置108に記憶される。
(2)座標系の統合(図2(a)のステップP102)
次に、スクリーン形状を推定するために、異なるカメラ座標系で復元した各プロジェクタ102iの3次元点を1つのカメラ座標系へ統合する。統合は、(a)一旦基準とするカメラcn(例えばステレオカメラ1041iの左カメラ)の座標系に統合、(b)これを、スクリーン101に正対しかつスクリーン全体が画角内に入る位置に設置した仮想的なカメラvm(以後「基準仮想カメラvm」と呼ぶ。)の座標系へ変換の2段階で行う。(これはステレオカメラ10413の左カメラの座標系に統合した各プロジェクタの3次元点をもとに基準仮想カメラvm(115m)の位置姿勢を決定しているためである。)
ステップ(a) 各カメラ座標系の3次元点を基準カメラcn(ステレオカメラ1041i)の座標系へ変換するには、各カメラ間の相対関係、回転《Rcncm》,並進《tcncm》が必要である。未知の《Rcncm》,《tcncm》はカメラcn,cmの両座標系で復元した既知の同一プロジェクタの共通3次元点Xcmpi とXcnpi が満たすべき拘束条件、式(27)の最適化問題を解くことで得られる。
Figure 2009005044
誤差がなければ右辺は零である。また、基準仮想カメラvm(115m)の画角及び解像度はステレオカメラと同じとし、レンズの歪み及び画像中心のずれがない理想的なカメラとする。これにより基準カメラcn(1041i)と基準仮想カメラvm(115m)間のスケールを考える必要がない。
ステップ(b) 基準カメラcnから基準仮想カメラvm(115m)への変換には、cnの座標系における3次元点をもとに決めた基準仮想カメラvm(115m)の位置姿勢を表す既知の《Rcvmcn》,《tcvmcn》を用いる。最終的に統合された基準仮想カメラvm(115m)の座標系における各プロジェクタの3次元点Xvmpi は、ステップ(a)で求めた《Rcncm》,《tcncm》と前記《Rcvmcn》,《tcvmcn》を用いて次式から得る。
vmpi =《Rvmcn》《Rcncm》Xcmpi
+《Rvmcn》《tcncm》+《tvmcn》 (28)
これらの計算は、カメラ1041i,1042iが接続されるコンピュータ105の二次曲面係数行列推定手段107において行われ、これらの計算結果は記憶装置108に記憶される。
(3)スクリーンの推定(図2(a)のステップP102)
統合後の各プロジェクタの3次元点Xvmpi は2次曲面係数行列(パラメータマトリックス)Qの上にあるので、式(29)の最適化問題を解いて未知の係数行列Q(4×4)を得る。
Figure 2009005044
これらの計算は、カメラ1041i,1042iが接続されるコンピュータ105の二次曲面係数行列推定手段107において行われ、これらの計算結果は記憶装置108に記憶される。
([1−5−2]マッピング関数導出)
(1)プロジェクタの位置姿勢の検出(図2(a)のステップP103)
プロジェクタpiの射影行列を《Ppi》とすれば、基準仮想カメラvm(115m)の座標系における3次元点Xvmpi と対応するテストパターンの2次元点xpi は誤差が無いとき次の関係を持つ。
pi =《Ppi》Xvmpi (30)
従って、未知の射影行列《Ppi》は、Xvmpi と対応するテストパターンの2次元点xpi (何れも既知)を用いた式(31)の最適化問題を解くことで得られる。
Figure 2009005044
この射影行列《Ppi》は《Ppi》=《Kpi》[《Rpi》|《tpi》]のように内部パラメータ《Kpi》と位置姿勢を表す行列《Rpi》,《tpi》に分離でき、プロジェクタpi(102i)の内部パラメータは既知であるのでスクリーン101に対するプロジェクタpi(102i)の回転《Rpi》、並進《tpi》が得られる。これらの計算は、各プロジェクタ102iが接続されるコンピュータ103の第1のマッピング関数及び逆関数計算手段1091iにおいて行われ、これらの計算結果は記憶装置110iに記憶される。
(2)マッピング関数Ψvmpiの計算(図2(a)のステップP104)
投影による歪みを補正するには、予め投影する映像に歪みを与えておけば、投影時の歪みで逆歪みが相殺されて歪みのない映像となる。これが基本的な考えであり、このことは、プロジェクタpiの画素位置xpiの投影像がスクリーンを介してカメラ(即ち視点)の画素位置xcに対応するマッピング関数Ψpicを見つけることに帰着する。ここで添え字pi,cはプロジェクタi及び実カメラの座標系を示し、変換方法はcからpiである。また、vを視点、rを基準座標系とする。
このΨpicを得る方法はコンピュータビジョン技術の典型的な応用としてよく知られている。方法は各種あるが、発明者はカメラとプロジェクタの内部パラメータを事前に計測し既知であるとして、プロジェクタからテストパターンをスクリーンに投影し、これをカメラで撮影して対応関係を得ることは、上述した通りである。
平面の場合、このΨpicはホモグラフィマトリクスHを用いて以下の関係にある。
pi=Hx (31−2)
また、2次曲面を対象とした場合は次式に拡張されることが知られている。第一項は平面と同様の式であり、第二項が曲面による補正項である。
pi
=Hx−(q±√((q−x 33))e (31−3)
ここで、Tは転置、eはエピポール、Q33,qは次式で決まる4行4列の2次曲面係数行列Qの各要素である。
Figure 2009005044
式(31−3)のΨpicで示された対応から、予め逆に歪ませる量が分かるので、映像を出すプロジェクタ側で逆歪みをかけておけば投影時の歪みで逆歪みが相殺され、歪みのない映像がカメラ位置(視点)から見える。
基準仮想カメラvm(115m)の位置姿勢、プロジェクタpi(102i)の位置姿勢《Rpi》,《tpi》、スクリーン形状を表す行列Qを用いて、補正に必要な各プロジェクタpi(102i)と基準仮想カメラvm(115m)間のマッピング関数Ψvmpi,(m=1…M,i=1…N)が式(32)(式(31−3)を変形したもの)のように求まる。
vm
=Avmpi pi±(√(x pi pi pi))evm (32)
ここで、Avmpi=Hvmpi−evm《q pi》,Epi=《qpi》《q pi》−Q33piであり、p以外のプロジェクタpi(102i)のマッピング関数についても同様にして求めることができる。これらの計算は、各プロジェクタ102iが接続されるコンピュータ103の第1のマッピング関数及び逆関数計算手段1091iにおいて行われ、これらの計算結果は記憶装置110iに記憶される。
(3)マッピング関数Ψvmpiの最適化(図2(a)のステップP104−2)
以上の計算で得られたマッピング関数Ψvmpiは様々な誤差を含んでおり、そのままでは使えない。そこで、前出のマッピング関数Ψvmpi、具体的にはAvmpi,Epi,evmを初期化して、以下の再投影誤差Cを計算しマッピング関数Ψvmpiの最適化を行う。

=Σk,i|x vm−(Avmpi pi±(√(x pi pi pi))evm)|
(33)
即ち、既知のx vmとx piを用いて式(33)を最小化するAvmpi,Epi,evmを求める。これらの計算は、各プロジェクタ102iが接続されるコンピュータ103の第1のマッピング関数及び逆関数計算手段1091iにおいて行われ、これらの計算結果は記憶装置110iに記憶される。
([1−5−3]マッピング関数Ψvmpiの符号判定(図2(a)のステップP104))
図4(a)に示すように、スクリーン形状を表す2次曲面Qは、1つの基準仮想カメラv1(1151)の光軸が放線であり中心がQの中心と一致する平面Πを境界にて前の曲面と奥の曲面の2つの面を持つ。この2つの面のどちらに対する補正かにより、式(32)中の符号が決まる。この場合は、手前の面が−、奥の面が+となる。プロジェクタp1(1021)とp5(1025)を見ると、投影領域が境界平面Πをまたがり、式(32)の正負の判定がどこで起こるかの判断が難しい。
この不都合を防ぐため、図4(b)に示すように、基準仮想カメラvm(115m)を複数設置することで符号判定の問題を回避した。図4(b)の例では基準仮想カメラv1(1151),v2(1152),v3(1153)をスクリーン101の周囲に配置し、それぞれの基準仮想カメラv1(1151),v2(1152),v3(1153)が分担してスクリーン全体を見込む。これにより、新しく設置した基準仮想カメラvm(115m)から見ると、対応するプロジェクタは常に2次曲面スクリーン101の奥の面に映像を投影することかでき、符号のあいまいな状態を回避できる。図4(b)の例では、プロジェクタp1(1021),p2(1022)に関して基準仮想カメラv2(1152),v3(1153)とのマッピング関数が必要となる。また、最適化処理もプロジェクタp2〜p4(1022〜1024)は基準仮想カメラv1(1151)の、プロジェクタp1(1021)は基準仮想カメラv2(1152)の、プロジェクタp5(1025)は基準仮想カメラv3(1153)の2次元点を用いて行う必要がある。これらの計算は、各プロジェクタ102iが接続されるコンピュータ103の第1のマッピング関数及び逆関数計算手段1091iにおいて基準仮想カメラ115mを接続するコンピュータ105とともに行われ、これらの計算結果は記憶装置110iに記憶される。
([1−5−4]マッピング関数Ψepiの計算(図2(a)のステップP105))
実際の視点位置から見て歪みがなく連続に見えるために各プロジェクタpi(i=1…I)と実際の視点eとの間のマッピング関数Ψepiを求める。各プロジェクタpi(102i)と基準仮想カメラvm(115m)間のマッピング関数Ψvmpi(m=1…M)は既に求まっているため、基準仮想カメラvm(115m)と視点間のマッピング関数Ψevmが求まれば式(34)から間接的にΨepiを求めることができる。
Ψepi=ΨevmΨvmpi (m=1…M,i=1…I) (34)
基準仮想カメラvm(115m)から見た視点eの位置姿勢は仮想カメラ法を用いて幾何学的に求まるので、その位置姿勢情報を持つ仮想カメラ(すなわち視点仮想カメラe)eと基準仮想カメラvm間のマッピング関数Ψevmも求まる。図4の例では、4つの仮想カメラ(3つの基準仮想カメラv1〜v3(1151〜1153)と視点仮想カメラv0(1154)≡e)を用いるため、図4(b)に示すように、マッピング関数についても各基準仮想カメラvm(115m)と視点仮想カメラv0(1154)間のマッピング関数Ψevm(m=1…3)が必要であり、各基準仮想カメラvm(115m)に対して仮想カメラ法を適用することでΨev1,Ψev2,Ψev3が求まる。基準仮想カメラvm(115m)及び視点仮想カメラv0(1154)は理想的なカメラであり、視点仮想カメラv0(1154)の位置姿勢も幾何学的に求まるので、マッピング関数Ψev1,Ψev2,Ψev3に対しては最適化を行う必要がない。図4の場合の各プロジェクタと視点仮想カメラv0(1154)間のマッピング関数は次のように表される。
Ψepi=Ψev1Ψv1pi (i=2…4)
Ψep1=Ψev2Ψv2p1; Ψep5=Ψev3Ψv3p5 (35)
これらの計算は、各プロジェクタ102iが接続されるコンピュータ103の第2のマッピング関数及び逆関数計算手段1092iにおいて基準仮想カメラ115mを接続するコンピュータ105とともに行われ、これらの計算結果は記憶装置110iに記憶される。
第2のマッピング関数及び逆関数計算手段1092iでは、マッピング関数f()からその逆関数を求める(図2(a)のステップP106)。前記ステップP106で求めた逆関数を各コンピュータ103iの記憶装置110iに格納する。これら一連の処理に得られるマッピング関数及び逆関数を適当な数の仮想視点について、予め求めてテーブルとして保持しておく。
([2]並列処理による負荷分散)
図6の場合、スクリーンの円周は、正対した位置から俯瞰しない限り、楕円となる。前記の「[1−4−2]対角化による中心への移動」において説明した対角化により仮想した視点位置をスクリーンに正対することが可能となるため、円に概説する矩形を計算により直接求めることができ、オーバーラップを許した視野分割ができる。
([2−1]矩形を用いた視野角の分割
図13(a)にスクリーンの縁を表す円に外接する矩形とそれを用いた視野の分割とオーバーラップの関係を示す。また、図13(b)に視野角の分割法を示す。以下では、図中の投影可能領域内に各分割が含まれるとして説明する。
([2−2]複合するための変換行列)
以下では、視野の4分割(4並列)を例に変換行列の計算を示す。しかし、ここでの議論は、4分割以外でも一般性を失うことはない。プロジェクタ502jのプロジェクタ座標から仮想のカメラ座標(図13(a)に示す4分割した領域)へのマッピング関数f()は以下のようにして求める。
(1)スクリーンの半径rを求め、これを用いて図13(a)に示すWrct及びHrctを計算する。
(2)円に外接する矩形領域を重複部Hover,Woverを持つように4等分、外接矩形表示領域から、4等分された該当領域への変換行列H rctを計算する。
(3)H rctを用いて当該プロジェクタ502jに対応して備えられるコンピュータ103iのマッピング関数及び逆関数計算手段509jにおいてマッピング関数f()を計算する。
以下、順に説明する。
([2−2−1]円の半径)
前記した式(15)の平方根の中の
Figure 2009005044
を用いた
Figure 2009005044
はカメラ座標でのスクリーンの縁を表す楕円を示す式である。従って、カメラ座標系における二次曲面行列Qを、視点座標系に変換したQを用いて計算し直したEに対応するEを用いた以下の式
Figure 2009005044
は、スクリーンに正対する視点座標系でのスクリーンの縁に対応する円を示す式となる。
また、Evで規定される円と任意の点
Figure 2009005044
の距離dは、
Figure 2009005044
の関係がある。
ここで、
Figure 2009005044
として展開すれば、
11 +2e12
+2e13+2e23
+e22 +e33
=d (37)
この距離dが最大となる点が、円の中心であり、また、このときの距離が半径となる。dを最大とする点
Figure 2009005044
は次の関係を満足する。
∂d/∂x=2e11+2e12+2e13=0
∂d/∂y=2e12+2e22+2e23=0 (38)
上式で示した連立方程式を解けば、
=(e1322−e1223)/(e 12−e1122
=(e1123−e1213)/(e 12−e1122) (39)
この座標点は、円の中心であるので、(x,y)と表記する。この中心点(x,y)を用いれば、半径rは、
r=√(e11 +2e12+2e13
+2e23+e22 +e33) (40)
となる。
([2−2−2]視野の分割)
図13(a)のように横方向の投影映像の重なりの幅をWover、縦方向の重なり幅をHoverとすれば、分割した視野の大きさWrct及びHrctは次式となる。
Wrct=r+(Wovr/2)
Hrct=r+(Hovr/2) (41)
これを用いて、図13(a)に示す原点をOとする座標系から原点をOとする各視野の座標系への変換行列は、以下となる。
Figure 2009005044
各視野は、各プロジェクタ502j毎の映像が投影される領域を決める。
([2−2−3]マッピング関数f())
式(15)にHjrctを操作した以下の式が上記のように視野角を分割した場合のプロジェクタ502jに関する新たなマッピング関数f()である。
Figure 2009005044
([2−3]輝度調整)
投影領域の重複部分は輝度が高くなるため投影する映像の輝度を補正する必要がある。この輝度補正は、スクリーン上で重複する各プロジェクタの画素位置に重み係数を予めテーブルとして保持しておき、歪み補正時に画素値と対応する重み係数の乗算により行われる。重みの決定方法を図14に示す。図14のプログラムは疑似言語で記述したものである。
ここで、(p,q)はカメラ座標系における画素位置、i,jは(1…4)のプロジェクタ番号、Hはプロジェクタの横方向の画素数、Wは縦方向の画素数、α(p,q)はプロジェクタiの画素位置(p,q)における重み係数をそれぞれ表す。プロジェクタiとプロジェクタjの重なり部分を判定してその部分の重みを重複幅に反比例して与えている。
([3]プロジェクタの漏れ光によるブラックオフセットの軽減)
([3−1]ブラックオフセットの軽減の必要性)
複数のプロジェクタを用いて高解像度の映像を生成しようとする場合、各プロジェクタの投影領域に重複部分が生じる。重複部分は各プロジェクタの輝度が加算され、重複しない部分よりも明るくなる。プロジェクタが完全な黒を表示できれば問題ないが、投影する映像が黒であっても、プロジェクタの漏れ光により投影される領域は完全に黒にはならない(図15(a)参照)。また、重複領域はそれぞれのプロジェクタの漏れ光が重なるためさらに明るくなる。つまり、プロジェクタの漏れ光によりブラックオフセットが生じ、黒を出した状態でも重複部分が目立つことになる。
([3−2]ブラックオフセットの軽減)
プロジェクタの漏れ光によるブラックオフセット部分はプロジェクタに依存しており調整することはできない。調整できるのは投影する映像の色のみである。単純な色のかさ上げでは色の値が1.0以上になった場合(色の値を0.0〜1.0に正規化してある。)にその色が1.0に補正されてしまい元の映像の色と異なってしまう。そこで元の映像のコントラストを下げ、色を保持しながらかさ上げをすることで色の変化が生じないようにする(図15(b)参照)。実現方法としては、Cg(C for Graphics by nVidia)言語を用いてグラフィックスボードが持つfragment shader機能を活用し、撮影する映像の色を補正することで重複部分の輝度の目立ち(図15(c)、図15(d)参照)を軽減させる。
Cgで用いた色の補正式は以下の式(44)の通りである。この式を用いることでブラックレベルを調整し、重複部分のブレンディングを行うαブレンド機能を利用することができる(図15(e)参照)。そして、ブラックオフセットによる輝度のズレを軽減することができる。図15(f)に重複部分の例を説明する。
C_new
=K*C_org+C_offset (44)
但し、
C_new:補正された色(The corrected color)
K:コントラストを下げる係数(The coefficient for reducing the contrast)
C_org:画像のオリジナルの輝度(The original color of image)
C_offset:輝度のオフセット(The offset of color)
([3−3]KおよびC_offsetの計算方法)
カメラ画像の輝度から決定する。
1.プロジェクタ5021〜5024又は102iから何も投影しない状態をカメラ5041又は1042jで撮像する。(Background Imageとして使用する。)その画像をImg_bkgrndとする(図16のステップP1601)。
2.各プロジェクタ5021〜5024又は102iから黒を出した状態をカメラ5041又は102iで撮影する(図16のステップP1602)。その画像をImg_blkofst_nとする。nはプロジェクタの番号とする。画像から得られる輝度をIとすると、オフセット計算部514j又は114jにおいて以下の計算をする。
Figure 2009005044
Figure 2009005044
offset=(Imax−I ave)/256 (47)
(図16のステップP1603)
なお、式(45)の分母のWimg,Himgはそれぞれカメラでスクリーン505又は101を撮像したときのスクリーン505又は101の周囲にある矩形の幅、高さである(図13(a)参照)。式(47)の分母の256は例えばカメラが持つ輝度値を8bitで持つとした場合の2=256である。
K=1.0−C offset (48)
これらにより式(44)を得て、補正した色を得る。このとき、一定周期で投影する映像の輝度を計測し、その平均値に従って、ブラックオフセットにかさ上げするC_offsetを前記一定の周期で計算して変更することで、シーンごとにC_newを作成し、黒レベルの調整を行う。従って、明画像か暗画像かを判定し、暗画像の場合にオフセットを調整するため、ブラックオフセットによる輝度のずれを軽減することができる。また、重複する部分についてアルファブレンディングにより重複する部分の輝度を下げて他の領域と目立たなくしている。(図16のステップP1604)。
([4]映像発生)
従来、映像のレンダリングを行う場合に、一般的にはグラフィックスボードが持つフレームバッファ(メモリ領域)に映像を書き込み、そのバッファをディスプレイやプロジェクタなどを経由して表示するものであった。
プロジェクションクラスタ(複数のプロジェクタの投影領域のそれぞれの全体によりスクリーンをカバーするようにしたもの)では、映像の歪みを補正する際にバッファに保持されている映像データに対しサンプリング(映像の参照)を行い参照したデータを元に映像を再度作成することで歪みを補正する。このバッファが大きければ大きいほど映像を高精細に描画することができる。このバッファがフレームバッファの場合、フレームバッファはディスプレイやプロジェクタとの解像度に依存するため、ディスプレイやプロジェクタの解像度以上にバッファを大きくすることはできない。よって、高解像度化をディスプレイやプロジェクタの機能以上にすることが難しい。
本発明において、映像データを格納する際に、フレームバッファの代わりにピクセルバッファを使用する。直接ピクセルバッファへ格納しオフスクリーンレンダリングを行うことで、ディスプレイやプロジェクタの解像度の制限を受けない。ピクセルバッファのサイズは2のべき乗という制限はあるが任意に設定可能である。実際には、グラフィックスカードの機能にも依存するためピクセルバッファのサイズにも限界は存在するが、フレームバッファよりも大きなサイズのバッファを確保することができる。
ピクセルバッファのサイズは任意に決定され、ディスプレイの解像度以上の映像をバッファに格納する。ここではバッファサイズを2048×2048とする。
ピクセルバッファを使用する場合、直接バッファにレンダリングすることができるためフレームバッファを使用する必要がない。また、OpenGLの拡張命令を使用することで、ピクセルバッファに格納されたデータを直接テクスチャとして扱うことができる。
図5のピクセルバッファ512aj,512bj又は図1のピクセルバッファ112aj,112bjは、Quadric Transfer(QT)を用いてデータのサンプリングを行う。QTはカメラ画像座標からプロジェクタ画像座標への変換を表し、その逆変換(QT_inv)はプロジェクタ画像座標からカメラ画像座標への変換を表す。プロジェクションクラスタではQT_invを用いてデータのサンプリングを行う。
サンプリング方法としては、プロジェクタ画像座標の(0,0)から順に(1024,768)までの座標を走査し、その位置がカメラ画像座標ではどの位置に対応するかを求める。また、カメラをOpenGL上の視点と考えると、テクスチャメモリの格納した映像をカメラから見た映像とみなすことができる。この関係(ここでは変換マトリクス
Figure 2009005044
とする)を利用し、プロジェクタ画像座標のある位置がテクスチャ座標のどの位置に対応するかを求めることができ、そのテクスチャ座標の位置の色をサンプリングして色情報として保持する(図18参照)。
サンプリング結果を元に歪み補正を施した映像を作成し、プロジェクタから投影する。投影された映像はスクリーン上で正しく映像として表示される。
図5の各プロジェクタ503j毎に備えられたコンピュータ503jの画像生成手段511jにより生成された画像を、ピクセルバッファ512jaにレンダリングし、この画像を当該プロジェクタ503jについて求めたマッピングの逆関数f−1()により、歪み補正した映像をピクセルバッファ512jbに生成する(図6(b)のステップS601)。この歪み補正した映像を各プロジェクタ503jから二次曲面スクリーン505に投影する(図6(b)のステップS602)。
図1による場合、各プロジェクタ102i毎に備えられたコンピュータ103iの画像生成手段111iにより生成された画像を、ピクセルバッファ112aiにレンダリングし、この画像を当該プロジェクタ102iについて求めたマッピングの逆関数f−1()により、歪み補正した映像をピクセルバッファ112ibに生成する(図2(b)のステップS101)。この歪み補正した映像を各プロジェクタ102iから二次曲面スクリーン10に投影する(図2(b)のステップS102)。図4(c)に表示システムを示し、各プロジェクタ102i(i=1〜5)は図示しないフレキシブルアームにより支柱401〜405を介して床面406上に設置されている。
前述の([2−3]輝度調整)においては投影領域の重複部分の広さを図13(a)のように重ならない部分よりも比較的小さく設定してあるが、図17(a)のように例えば2台のプロジェクタ1701、1702による投影領域1703,1704の重複部分を大きくして、複合映像発生し、重ね合わせにより投影領域の明るさを向上することができる。このとき、スクリーンは上記のように二次曲面でも良いが、平面スクリーン1705であっても良い。
この2台のプロジェクタ使用の場合も、図5の2台のコンピュータ5031,5032により各プロジェクタ5021,5022毎の映像を生成するとともに各プロジェクタ5021,5022毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ512aに生成し(図17(b)のステップS1701)、各プロジェクタ5021,5022からピクセルバッファ512bにおいて歪み補正した映像を二次曲面スクリーン505に投影して前記共通して重複する部分の明るさを大きくする(図17(b)のステップS1702)。
この2台のプロジェクタ使用の場合も、図1の例えば2台のコンピュータ1031,1032により各プロジェクタ1021,1022毎の映像を生成するとともに各プロジェクタ1021,1022毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ112a1,112a2に生成し(図17(b)のステップS1701)、各プロジェクタ1021,1022からピクセルバッファ112b1,112b2において歪み補正した映像を二次曲面スクリーン101に投影して前記共通して重複する部分の明るさを大きくする(図17(b)のステップS1702)。
前述の([3]プロジェクタの漏れ光によるブラックオフセットの軽減)において、プロジェクタが完全な黒を表示できれば問題ないが、投影する映像が黒であっても、プロジェクタの漏れ光により投影される領域は完全に黒にはならないことを説明した。これは、夜間の暗い情景の映像を投影している場合では人間の目がわずかな輝度差に対しても敏感に感じ取れる為、一層目立ちやすい傾向となる。
この場合、考えられる措置として、ソフト的に投影する元の映像の輝度を補正することで、ブラックオフセットによって生じる重複領域の輝度を下げ重複部分の目立ちを軽減させることができるが、これだけで夜間のシーンでは完全に重複部分を認識させないようにするのは困難である。
このため、元の映像の輝度の補正と合わせて偏光板を組み合わせて重複部分に対する減光率を段階的に調整することで、重複部分をより感じさせない映像を表示することが可能となる。
減光率を段階的に調整可能なフローを図19(a)に、その装置を図19(b)に示す。図19(b)において、1901はプロジェクタ、1902は偏光子、1903は検光子、1904は前記検光子1903を回転させるモータ、歯車、その他の機械部品、電気回路を含む回転手段である。1906は、検光子の周囲に設け前記回転手段1904の歯車とかみ合うように形成した歯車の歯である。
偏光子1902は、それ自身が位置するプロジェクタ1901の映像領域が図示しない他のプロジェクタとの映像領域との重複部分に対応した個所の範囲をカバーする(カバーするように斜線で示している。)。検光子1903の回転状態により、プロジェクタ1901からスクリーンへの投影光について重複部分のみの輝度を調整する。
Maluの法則により
I(θ)=I(0)cos2θ
ただし、I(θ):偏光子と検光子を通過した際の光の強度
I(0):偏光子を通過した際の光の強度
となるため検光子の角度を変えることで重複部分の輝度を調整することが可能となる。
図5の各コンピュータ503jにより各プロジェクタ502j毎の映像をピクセルバッファ512aに生成するとともに、各プロジェクタ502j毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ512bに生成する(P1901)。各プロジェクタ502jから前記ピクセルバッファ512bにおいて歪み補正した映像を二次曲面スクリーン505に投影する(P1902)。夜間情景を表すときに操作者は回転手段1904を操作し、検光子1903を回転させる。検光子1903の回転に応じて、プロジェクタ502jからの光を減光させる(P1903)。
重複部分の輝度を各プロジェクタ502j単体による輝度と同程度まで落とせば重複部分は目立たなくなる。
図1による場合、各コンピュータ103jにより各プロジェクタ102j毎の映像をピクセルバッファ112ajに生成するとともに、各プロジェクタ102j毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ112bjに生成する(P1901)。各プロジェクタ102jから前記ピクセルバッファ112bjにおいて歪み補正した映像を二次曲面スクリーン101に投影する(P1902)。夜間情景を表すときに操作者は回転手段1904を操作し、検光子1903を回転させる。検光子1903の回転に応じて、プロジェクタ102jからの光を減光させる(P1903)。
重複部分の輝度を各プロジェクタ102j単体による輝度と同程度まで落とせば重複部分は目立たなくなる。
(ステレオ映像表示への応用)
上述した技術は、ステレオ映像表示においても実現することができる。図20(a)は二次曲面スクリーンに係るマッピング関数の生成方法の一実施例を説明するフロー図、及び図20(b)は二次曲面スクリーンに係る映像発生方法の一実施例を説明するフロー図である。図21は二次曲面スクリーンに係る補正関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。図21において、2101は二次曲面スクリーン、21021i,21022i(i=1,2,3,…n)は前記スクリーン周辺に配置されるプロジェクタ、2103iは前記プロジェクタ21021i,21022i毎に対応して備えられる複数のコンピュータである。21041i,21042i(i=1,2,3,…n)は前記プロジェクタ21021i,21022iが投影する映像を撮像することができるステレオカメラを構成するデジタルカメラ、2105は前記デジタルカメラ21041i,21042iを接続するコンピュータ、2106はコンピュータ2105内のテスト点3次元復元手段、2107はコンピュータ2105内の二次曲面係数行列推定手段、2108はコンピュータ2105内の記憶装置、21091i,21092iは各コンピュータ2103i内の第1及び第2のマッピング関数及び逆関数計算手段、2110iは各コンピュータ2103i内の記憶装置、2111iは各コンピュータ2103iに備えられる画像生成手段、2112ai,2112biは各コンピュータ2103iに備えられるピクセルバッファであり、当該コンピュータ2103i、画像生成手段2111iとともに映像生成手段を構成する。2113は各コンピュータ2103i,2105を接続するネットワークである。2114iは各コンピュータ2103iのオフセット計算手段、2115m(m=1,2…M)はデジタルカメラで構成し、プロジェクタ2102iが投影する二次曲面スクリーン2101の面を撮影するように外周に位置する基準仮想カメラである。
([1]ステレオ表示のための二次曲面スクリーンに係るマッピング関数、その逆関数)
ステレオ表示は、前述の実施例1において、図1について説明した1つの視点の代わりに、左右両目の視点についてマッピング関数及び逆マッピング関数を求めて、左右それぞれの目用の画像を発生するものである。
すなわち、ステレオ表示のための二次曲面スクリーンに係るマッピング関数、その逆関数は、以下のように得る。
各プロジェクタpi(21021i,21022i)からスクリーン2101に投影したテスト点の3次元復元を前記ステレオカメラ21021i,21022iによる行う(図20(a)のステップP2001)。
前記復元した各プロジェクタpi(21021i,21022i)の3次元点を1つの(例えば)カメラ21021iの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する(図20(a)のステップP2002)。
前記統合後の各プロジェクタpi(21021i,21022i)の3次元点とこれに対応するテスト点の2次元点から各プロジェクタpi(21021i,21022i)の位置姿勢(P)を推定する(図20(a)のステップP2003)。
前記二次曲面スクリーン2101の投影面を分割して全体を撮影するように配置し、前記プロジェクタpi(21021i,21022i)が投影する前記二次曲面スクリーン2101の投影面を撮影する複数の基準仮想カメラVm(2115m)(m=1…M)を備え、前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラVm(2115m)(m=1…M)の位置姿勢と前記推定した各プロジェクタpi(21021i,21022i)の位置姿勢(P)から、プロジェクタpi(21021i,21022i)の画素位置の投影像がスクリーン2101を介して基準仮想カメラVm(2115m)の画素位置に対応する基準仮想カメラVm(2115m)とプロジェクタpi(21021i,21022i)間のマッピング関数Ψvmpiを求める(図20(a)のステップP2004)。
ステップP2004において、図1と共に説明した式(33)により、そこで、前出のマッピング関数Ψvmpi、具体的にはAvmpi,Epi,evmを初期化して、以下の再投影誤差Cを計算しマッピング関数Ψvmpiの最適化を行う(図20(a)のステップP2004−2)。
前記二次曲面スクリーン2101を見る右目又は左目のいずれか一方の位置に位置姿勢情報を持つ右目(又は左目)用の視点仮想カメラe(161514又は161524)を設定し、当該右目(又は左目)用の視点仮想カメラe(161514又は161524)の位置姿勢と前記位置姿勢を持つ基準仮想カメラVm(2115m)間のマッピング関数Ψevmを求め、前記ステップP2024によるマッピング関数Ψvmpiとにより、
各プロジェクタ21021i(右目用の場合)(又は左目用のプロジェクタ21022i)と右目(又は左目)用の視点仮想カメラe(161514又は161524)との間の右目(又は左目)用のマッピング関数Ψr(l)epiを求め、前記二次曲面スクリーン2101を見る前記右目又は左目のいずれか一方と異なる他方の位置に位置姿勢情報を持つ左目(又は右目)用の視点仮想カメラe(161514又は161524)を設定し、当該左目(又は右目)用の視点仮想カメラe(161514又は161524)の位置姿勢と前記位置姿勢を持つ基準仮想カメラVm(2115m)間のマッピング関数Ψevmを求め、前記第4の過程によるマッピング関数Ψvmpiとにより、各プロジェクタ21021i(21022i)と左目(又は右目)用の視点仮想カメラe(161514又は161524)との間の左目(又は右目)用のマッピング関数Ψl(r)epiを求める(図20(a)のステップP2005)。
前記ステップP2004による右目用及び左目用のマッピング関数Ψrepi,Ψlepiによりその逆関数を求める第(図20(a)のステップP2006)。
([2]ステレオ映像発生)
また、ステレオ表示は以下のように行う。
各コンピュータ2103iの画像生成手段2111iにより各プロジェクタ21021i,21022i毎の右目用及び左目用の映像をピクセルバッファ2112aiに生成するとともに上記のように求めた各プロジェクタ21021i,21022i毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ2012ibに生成する(図20(b)のステップS2001)。各プロジェクタ21021i,21022iから前記ピクセルバッファ2012bにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーン2101に投影する(図20(b)のステップS2002)。
実施例2として説明した技術もステレオ表示に適用することができる。実施例3として説明した技術もステレオ表示に適用することができる。
図22(a)は実施例5を説明する機能ブロック図であり、2201はビデオ機器であり、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータ等を用いる。2202は歪み補正映像生成部、2203はビデオ機器2201の信号を歪み補正映像生成部2202での処理に適するように信号変換する変換器、2204は変換器2203からの出力信号を一時格納するメモリ、2205,2206,2207,2208はプロジェクタとスクリーンとの位置に応じて実施例1で説明したようにマッピング関数の逆関数により映像を歪み補正する歪み補正手段、2209,2210,2211,2212は歪み補正した映像を一時格納する補正後メモリ、2213,2214,2215,2216は補正した映像信号をプロジェクタに投影するに適した信号に変換する変換器、2217,2218,2219,2220はプロジェクタ、2221は二次曲面スクリーンである。
マッピング関数及びその逆関数は、実施例1で説明したように図示しないコンピュータにより求めておく。
メモリ2204はフレームメモリで構成する場合があるが、これである必要はなく、ラインメモリでもよい。また、メモリ2204は必須のものでなく、変換器2203から直接歪み補正手段2205〜2208に直接接続してもよい。補正後メモリ2209,2210,2211,2212は、フレームメモリで構成する場合があるが、これである必要はなく、ラインメモリでもよい。また、補正後メモリ2209,2210,2211,2212は必須のものでなく、歪み補正手段2205,2206,2207,2208のそれぞれは直接に変換器2213,2214,2215,2216に接続してもよい。
プロジェクタ2217,2218,2219,2220の数は任意の数nを用いることができ、この実施例では4台の例を図示した。
ビデオ機器2201からの映像(図22(b))は、変換器2203で処理に適するように変換され、メモリ2204に一時格納される。メモリ2204の映像は、プロジェクタ2217,2218,2219,2220のそれぞれに投影される範囲で分割されて、その範囲でそれぞれが歪み補正手段2205,2206,2207,2208に歪み補正され(図23のステップST2301)て、補正後メモリ2209,2210,2211,2212に一時格納される(図22(c))。映像信号は、変換器2213,2214,2215,2216で処理され、プロジェクタ2217,2218,2219,2220によりスクリーン2221に投影される(図23のステップST2302)。
変換器2213,2214,2215,2216において、実施例1の([2−3]輝度調整)において説明したように輝度調整により、各プロジェクタ2217,2218,2219,2220の互いに重複する投影領域の輝度を補正することができる。
図22において、図示しないコンピュータにより、実施例1の([3]プロジェクタの漏れ光によるブラックオフセットの軽減)において説明したようにオフセット調整がされている。
例えば、2台のプロジェクタの投影領域の重複部分を大きくして、上述の実施例2のようにして、共通して重複する部分の明るさを大きくすることができる。
ビデオ機器2201からの映像は、変換器2203で処理に適するように変換され、メモリ2204に一時格納される。メモリ2204の映像は、プロジェクタ2217,2218,2219,2220のそれぞれに投影される範囲で分割されて、その範囲でそれぞれが歪み補正手段2205,2206,2207,2208に歪み補正され(図24のステップST2401)て、補正後メモリ2209,2210,2211,2212に一時格納される。映像信号は、変換器2213,2214,2215,2216で処理され、プロジェクタ2217,2218,2219,2220によりスクリーン2221に投影して共通して重複する部分の明るさを大きくする(図24のステップST2402)。
各プロジェクタ2217,2218,2219,2220の前方に実施例3のような偏光子と検光子を配置して、プロジェクタからの光を減光して、プロジェクタの漏れ光を目立たなくすることができる。
偶数個のプロジェクタ2217,2218,2219,2220を右目用と左見用に区分して、実施例4を適用して、左右両目の視点についてマッピング関数及び逆マッピング関数を求めて、ビデオ機器2201からの映像に立体用の映像を用いてステレオ映像を実現することができる。
例えば、プロジェクタ2217,2219を右目用、プロジェクタ2218,2220を左目用とする。
ビデオ機器2201からの各プロジェクタ2217,2218,2219,2220の右目用及び左目用の映像が、各プロジェクタ2217,2218,2219,2220の右目用及び左目用のマッピングの逆関数により、歪み補正される(図25のステップST2501)。各プロジェクタ2217,2218,2219,2220から前記歪み補正された右目用及び左目用の映像が前記二次曲面スクリーン2221に投影される(図25のステップST2502)。
マッピング関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。 マッピング関数の生成方法及び映像発生方法の一実施例を説明するフロー図である。 3次元点の復元を説明する図である。 カメラとプロジェクタとスクリーンの配置を説明する図である。 マッピング関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。 マッピング関数の生成方法及び映像発生方法の一実施例を説明するフロー図である。 プロジェクタの配置取り付けを説明する図である。 逆歪みによる歪み補正の模式図である。 スクリーン上の点を説明する図である。 スクリーン上の点を説明する図である。 スクリーン上の点を異なる視点から見たときのイメージ平面における位置関係を説明する図である。 カメラ設置位置から基準点を経て視点位置への移動を説明する図である。 スクリーンの視野の分割と視野角を説明する図である。 重複部分の重さの決定方法を説明するプログラムである。 オフセットの軽減を説明する図である。 オフセットの軽減法を説明するフロー図である。 複合映像の重ね合わせによる明るさ向上を説明する図である。 ピクセルバッファによるサンプリングを説明する図である。 夜間情景の投影時の重複部分の輝度調整を説明する図である。 マッピング関数の生成方法及び映像発生方法の一実施例を説明するフロー図である。 マッピング関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。 映像発生装置の一実施例を説明する機能ブロック図及び歪み補正の説明である。 映像発生方法の一実施例を説明するフロー図である。 複合映像の重ね合わせによる明るさ向上を説明するフロー図である。 映像発生方法の一実施例を説明するフロー図である。
符号の説明
101…二次曲面スクリーン、102i…プロジェクタ、103i…コンピュータ、1041i,1042i…デジタルカメラ(ステレオカメラ)、105…コンピュータ、106…テスト点3次元復元手段、107…二次曲面係数行列推定手段、108…記憶装置、1091i,1092i…マッピング関数及び逆関数計算手段、110i…各コンピュータ103i内の記憶装置、111i…画像生成手段、112ai,112bi…ピクセルバッファ、113…ネットワーク。114i…オフセット計算手段、115m…基準仮想カメラ。

Claims (28)

  1. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記複数のプロジェクタごとに分割されたスクリーンを撮影するように配置されたステレオカメラと、コンピュータと、記憶装置とを有し、
    コンピュータによる処理であって、
    各プロジェクタpiからスクリーンに投影したテスト点の3次元復元を前記ステレオカメラによる行う第1の過程と、
    前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する第2の過程と、
    前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定する第3の過程と、
    前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)を備え、前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第4の過程と、
    前記二次曲面スクリーンを見る位置に位置姿勢情報を持つ視点仮想カメラeを設定し、当該視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第4の過程によるマッピング関数Ψvmpiとにより、各プロジェクタと視点仮想カメラeとの間のマッピング関数Ψepiを求める第5の過程と、
    前記第5の過程のマッピング関数Ψepiによりその逆関数を求める第6の過程と、
    からなることを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成方法。
  2. 請求項1における、第4の過程が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成方法。
  3. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする分割撮像による歪み補正と統合方法。
  4. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記複数のプロジェクタごとに分割されたスクリーンを撮影するように配置されたステレオカメラと、コンピュータと、記憶装置とを有し、
    コンピュータによる処理であって、
    各プロジェクタpiからスクリーンに投影したテスト点の3次元復元を前記ステレオカメラによる行う第1の過程と、
    前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する第2の過程と、
    前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定する第3の過程と、
    前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)を備え、前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第4の過程と、
    前記二次曲面スクリーンを見る右目又は左目のいずれか一方の位置に位置姿勢情報を持つ右目(又は左目)用の視点仮想カメラeを設定し、当該右目(又は左目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第4の過程によるマッピング関数Ψvmpiとにより、各プロジェクタと右目(又は左目)用の視点仮想カメラeとの間の右目(又は左目)用のマッピング関数Ψr(l)epiを求め、前記二次曲面スクリーンを見る前記右目又は左目のいずれか一方と異なる他方の位置に位置姿勢情報を持つ左目(又は右目)用の視点仮想カメラeを設定し、当該左目(又は右目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第4の過程によるマッピング関数Ψvmpiとにより、各プロジェクタと左目(又は右目)用の視点仮想カメラeとの間の左目(又は右目)用のマッピング関数Ψl(r)epiを求める第5の過程と、
    前記第5の過程の右目用及び左目用のマッピング関数Ψrepi,Ψlepiによりその逆関数を求める第6の過程と、
    からなることを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成方法。
  5. 請求項4における、第4の過程が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化することを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成方法。
  6. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項4又は請求項5において求めた各プロジェクタ毎の右目用及び左目用のマッピング関数Ψrepi,Ψlepiの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする分割撮像による歪み補正と統合方法。
  7. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、
    前記コンピュータにより各プロジェクタが投影する領域毎の映像を生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とする分割撮像による歪み補正と統合方法。
  8. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、
    各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする分割撮像による歪み補正と統合方法。
  9. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項4において求めた各プロジェクタ毎の右目用及び左目用のマッピング関数の逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、
    各プロジェクタから前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする分割撮像による歪み補正と統合方法。
  10. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通にして重複する部分を有するように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、
    各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とする分割撮像による歪み補正と統合方法。
  11. ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とする請求項8又は請求項9又は請求項10記載の分割撮像による歪み補正と統合方法。
  12. 請求項3又は請求項6又は請求項7又は請求項8又は請求項9又は請求項10又は請求項11に記載の分割撮像による歪み補正と統合方法において、
    二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、コンピュータと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラとを有し、
    前記スクリーンに前記プロジェクタのいずれもから投影しない状態でステレオカメラにより撮影する第1の過程と、
    前記各プロジェクタより前記スクリーンに黒状態の映像を投影してステレオカメラにより撮影するとともに複数nのプロジェクタのn回繰り返す第2の過程と、
    コンピュータにおいて、第2の過程による各プロジェクタ毎の映像の輝度から第1の過程により得られた映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得る第3の過程と、
    コンピュータにおいて、一定周期で投影する映像の輝度を計測し、その平均値に従って、ブラックオフセットにかさ上げするオフセット値を一定周期で計算して変化させ黒レベルの調整を行う第4の過程とからなることを特徴とする分割撮像による歪み補正と統合方法。
  13. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ前方に設けた偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1又は請求項2において求めた各プロジェクタ毎のマッピング関数の逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程と、
    夜間情景を表すときに前記偏光板により減光させる第3の過程からなることを特徴とする分割撮像による歪み補正と統合方法。
  14. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラと、前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)と、前記二次曲面スクリーンを見る位置に配置された位置姿勢情報を持つ視点仮想カメラeと、コンピュータと、記憶装置とを有し、
    各プロジェクタpiからスクリーンに投影したテスト点をステレオカメラで撮像して3次元復元を行うテスト点3次元復元手段と、
    前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する2次曲面係数行列(Q)推定手段と、
    前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定するプロジェクタ位置姿勢推定手段と、
    前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第1のマッピング関数計算手段と、
    当該視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第1のマッピング関数計算手段によるマッピング関数Ψvmpiとにより、各プロジェクタと視点仮想カメラeとの間のマッピング関数Ψepiを求める第2のマッピング関数計算手段と、
    前記第2のマッピング関数計算手段によるマッピング関数Ψepiによりその逆関数を求める逆関数計算手段と、
    前記複数プロジェクタ毎にマッピング関数Ψvmpi,Ψepi及びその逆関数を格納する記憶装置と
    からなることを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成装置。
  15. 請求項14の分割撮像による歪み補正と統合のためのマッピング関数生成装置において、第1のマッピング関数計算手段が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化する最適化手段を備えることを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成装置。
  16. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とする分割撮像による歪み補正と統合装置。
  17. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラと、前記二次曲面スクリーンの投影面を分割して全体を撮影するように配置し、前記プロジェクタpiが投影する前記二次曲面スクリーンの投影面を撮影する複数の基準仮想カメラvm(m=1…M)と、
    前記二次曲面スクリーンを見る右目の位置に配置された位置姿勢情報を持つ右目用の視点仮想カメラer及び左目の位置に配置された位置姿勢情報を持つ左目用の視点仮想カメラelと、コンピュータと、記憶装置とを有し、
    各プロジェクタpiからスクリーンに投影したテスト点をステレオカメラで撮像して3次元復元を行うテスト点3次元復元手段と、
    前記復元した各プロジェクタpiの3次元点を1つの座標系に統合し、統合後の3次元点からスクリーン形状を表す2次曲面係数行列(Q)を推定する2次曲面係数行列(Q)推定手段と、
    前記統合後の各プロジェクタpiの3次元点とこれに対応するテスト点の2次元点から各プロジェクタpiの位置姿勢(P)を推定するプロジェクタ位置姿勢推定手段と、
    前記推定した2次曲面係数行列(Q)と、前記複数の基準仮想カメラvm(m=1…M)の位置姿勢と前記推定した各プロジェクタpiの位置姿勢(P)から、基準仮想カメラvmとプロジェクタpi間のマッピング関数Ψvmpiを求める第1のマッピング関数計算手段と、
    当該右目(又は左目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第1のマッピング関数計算手段によるマッピング関数Ψvmpiとにより、各プロジェクタと右目(又は左目)用の視点仮想カメラeとの間の右目(又は左目)用のマッピング関数Ψr(l)epiを求め、当該左目(又は右目)用の視点仮想カメラeの位置姿勢と前記位置姿勢を持つ基準仮想カメラvm間のマッピング関数Ψevmを求め、前記第1のマッピング関数計算手段によるマッピング関数Ψvmpiとにより、各プロジェクタと左目(又は右目)用の視点仮想カメラeとの間の左目(又は右目)用のマッピング関数Ψl(r)epiを求める第2のマッピング関数計算手段と、
    前記第2のマッピング関数計算手段の右目用及び左目用のマッピング関数Ψrepi,Ψlepiによりその逆関数を求める逆関数計算手段と、
    前記複数プロジェクタ毎にマッピング関数Ψvmpi,Ψepi及びその逆関数を格納する記憶装置と
    からなることを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成装置。
  18. 請求項17に記載の分割撮像による歪み補正と統合のためのマッピング関数生成装置において、第1のマッピング関数計算手段が、マッピング関数Ψvmpiを初期値としその誤差を最小にして最適化する最適化手段を備えることを特徴とする分割撮像による歪み補正と統合のためのマッピング関数生成装置。
  19. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項17又は請求項18において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記ピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とする分割撮像による歪み補正と統合装置。
  20. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタとからなることを特徴とする分割撮像による歪み補正と統合装置。
  21. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、
    前記歪み補正した各映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタとからなることを特徴とする分割撮像による歪み補正と統合装置。
  22. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項17において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、
    前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタからなることを特徴とする分割撮像による歪み補正と統合装置。
  23. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、
    前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタからなることを特徴とする分割撮像による歪み補正と統合装置。
  24. ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とする請求項21又は請求項22又は請求項23記載の分割撮像による歪み補正と統合装置。
  25. オフセット値分上げて→オフセット値分下げて
    請求項16又は請求項19又は請求項20又は請求項21又は請求項22又は請求項23又は請求項24に記載の分割撮像による歪み補正と統合装置において、
    二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたステレオカメラとを有し、
    プロジェクタの何れからも投影しない第1の状態のスクリーンを撮影するとともに前記各プロジェクタより黒状態を投影したスクリーンの第2の状態をプロジェクタ毎に撮影するカメラと、
    前記カメラが撮影した前記第2の状態を投影した各プロジェクタ毎の映像の輝度から、前記第1の状態を撮影した映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得るオフセット計算手段と、
    前記各コンピュータにより、一定周期で投影する映像の輝度を計測し、その平均値に従って、ブラックオフセットにかさ上げするオフセット値を一定周期で計算して変化させ黒レベルの調整を行って映像生成する映像生成手段とからなることを特徴とする分割撮像による歪み補正と統合装置。
  26. 二次曲面スクリーンと、前記スクリーンに分割しかつ隣接投影箇所が重複部分を含み連続になるように配置された複数nのプロジェクタと、偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項14又は請求項15において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタと、
    前記各プロジェクタ前方に設け、夜間情景を表すときに各プロジェクタからの光量を減光させる偏光板とからなることを特徴とする分割撮像による歪み補正と統合装置。
  27. 各プロジェクタが自由度を持ったフレキシブルアームにより床面に設置されたことを特徴とする請求項14又は請求項15又は請求項17又は請求項18に記載の分割撮像による歪み補正と統合のためのマッピング関数生成装置。
  28. 各プロジェクタが自由度を持ったフレキシブルアームにより床面に設置されたことを特徴とする請求項16又は請求項19〜26のいずれかに記載の分割撮像による歪み補正と統合装置。
JP2007163457A 2007-06-21 2007-06-21 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置 Active JP5236219B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007163457A JP5236219B2 (ja) 2007-06-21 2007-06-21 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007163457A JP5236219B2 (ja) 2007-06-21 2007-06-21 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置

Publications (2)

Publication Number Publication Date
JP2009005044A true JP2009005044A (ja) 2009-01-08
JP5236219B2 JP5236219B2 (ja) 2013-07-17

Family

ID=40320957

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007163457A Active JP5236219B2 (ja) 2007-06-21 2007-06-21 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置

Country Status (1)

Country Link
JP (1) JP5236219B2 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011147125A (ja) * 2010-01-15 2011-07-28 Seiko Epson Corp プロジェクターシステムを較正する方法、プログラム、コンピューターシステムおよびプロジェクターシステム
JP2013026824A (ja) * 2011-07-21 2013-02-04 Mitsubishi Precision Co Ltd 映像の歪みを補正する方法、映像の歪みを補正する装置、模擬視界表示装置及び操縦訓練のためのシミュレータ
JP2014134611A (ja) * 2013-01-09 2014-07-24 Ricoh Co Ltd 幾何歪み補正装置、プロジェクタ装置、及び幾何歪み補正方法
KR20150091653A (ko) * 2014-02-03 2015-08-12 (주)에프엑스기어 사용자 시점 연동형 영상 처리 장치 및 그 방법
WO2015141080A1 (ja) * 2014-03-18 2015-09-24 アドバンストヘルスケア株式会社 プロジェクタシステム及びキャリブレーションボード
US9195126B2 (en) 2012-10-12 2015-11-24 Seiko Epson Corporation Projector, and black level area setting method for projector
JP2016042653A (ja) * 2014-08-18 2016-03-31 株式会社リコー 画像処理システム、及び画像投影装置
JP2017026893A (ja) * 2015-07-24 2017-02-02 国立大学法人静岡大学 画像表示装置
WO2019138637A1 (ja) * 2018-01-10 2019-07-18 コニカミノルタプラネタリウム株式会社 プラネタリウム制御装置、プラネタリウムシステムおよびプラネタリウム制御装置の制御プログラム
CN113840135A (zh) * 2021-09-03 2021-12-24 大连中科创达软件有限公司 色偏检测方法、装置、设备及存储介质
US11538134B2 (en) 2020-09-10 2022-12-27 Seiko Epson Corporation Information generation method, information generation system, and non-transitory computer-readable storage medium storing program
US11676241B2 (en) 2020-01-31 2023-06-13 Seiko Epson Corporation Control method for image projection system, and image projection system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005229415A (ja) * 2004-02-13 2005-08-25 Nec Viewtechnology Ltd 複数のカメラを備えたプロジェクタ
JP2005354644A (ja) * 2004-06-14 2005-12-22 Matsushita Electric Works Ltd 仮想現実感生成装置および方法
JP2006221599A (ja) * 2005-01-11 2006-08-24 Mitsubishi Precision Co Ltd マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005229415A (ja) * 2004-02-13 2005-08-25 Nec Viewtechnology Ltd 複数のカメラを備えたプロジェクタ
JP2005354644A (ja) * 2004-06-14 2005-12-22 Matsushita Electric Works Ltd 仮想現実感生成装置および方法
JP2006221599A (ja) * 2005-01-11 2006-08-24 Mitsubishi Precision Co Ltd マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
橋木直己、倉橋雅也、佐藤誠: "曲面スクリーンを用いたマルチプロジェクションディスプレイにおける任意視点での歪みのない映像提示手法", 映像情報メディア学会誌, vol. 58, no. 4, JPN6012037128, 1 April 2004 (2004-04-01), JP, pages 507 - 513, ISSN: 0002280026 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011147125A (ja) * 2010-01-15 2011-07-28 Seiko Epson Corp プロジェクターシステムを較正する方法、プログラム、コンピューターシステムおよびプロジェクターシステム
JP2013026824A (ja) * 2011-07-21 2013-02-04 Mitsubishi Precision Co Ltd 映像の歪みを補正する方法、映像の歪みを補正する装置、模擬視界表示装置及び操縦訓練のためのシミュレータ
US10063821B2 (en) 2012-10-12 2018-08-28 Seiko Epson Corporation Projector, and black level area setting method for projector
US9195126B2 (en) 2012-10-12 2015-11-24 Seiko Epson Corporation Projector, and black level area setting method for projector
JP2014134611A (ja) * 2013-01-09 2014-07-24 Ricoh Co Ltd 幾何歪み補正装置、プロジェクタ装置、及び幾何歪み補正方法
KR101669926B1 (ko) * 2014-02-03 2016-11-09 (주)에프엑스기어 사용자 시점 연동형 영상 처리 장치 및 그 방법
KR20150091653A (ko) * 2014-02-03 2015-08-12 (주)에프엑스기어 사용자 시점 연동형 영상 처리 장치 및 그 방법
US9727137B2 (en) 2014-02-03 2017-08-08 Fxgear Inc. User view point related image processing apparatus and method thereof
JP5817953B1 (ja) * 2014-03-18 2015-11-18 アドバンストヘルスケア株式会社 プロジェクタシステム及びキャリブレーションボード
US9900570B2 (en) 2014-03-18 2018-02-20 Advanced Healthcare Co., Ltd. Projector system and calibration board
WO2015141080A1 (ja) * 2014-03-18 2015-09-24 アドバンストヘルスケア株式会社 プロジェクタシステム及びキャリブレーションボード
JP2016042653A (ja) * 2014-08-18 2016-03-31 株式会社リコー 画像処理システム、及び画像投影装置
JP2017026893A (ja) * 2015-07-24 2017-02-02 国立大学法人静岡大学 画像表示装置
WO2019138637A1 (ja) * 2018-01-10 2019-07-18 コニカミノルタプラネタリウム株式会社 プラネタリウム制御装置、プラネタリウムシステムおよびプラネタリウム制御装置の制御プログラム
JPWO2019138637A1 (ja) * 2018-01-10 2020-12-24 コニカミノルタプラネタリウム株式会社 プラネタリウム制御装置、プラネタリウムシステムおよびプラネタリウム制御装置の制御プログラム
JP7299165B2 (ja) 2018-01-10 2023-06-27 コニカミノルタプラネタリウム株式会社 プラネタリウム制御装置、プラネタリウムシステムおよびプラネタリウム制御装置の制御プログラム
US11676241B2 (en) 2020-01-31 2023-06-13 Seiko Epson Corporation Control method for image projection system, and image projection system
US11538134B2 (en) 2020-09-10 2022-12-27 Seiko Epson Corporation Information generation method, information generation system, and non-transitory computer-readable storage medium storing program
CN113840135A (zh) * 2021-09-03 2021-12-24 大连中科创达软件有限公司 色偏检测方法、装置、设备及存储介质
CN113840135B (zh) * 2021-09-03 2023-10-20 大连中科创达软件有限公司 色偏检测方法、装置、设备及存储介质

Also Published As

Publication number Publication date
JP5236219B2 (ja) 2013-07-17

Similar Documents

Publication Publication Date Title
JP5236219B2 (ja) 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置
US8358873B2 (en) Hybrid system for multi-projector geometry calibration
Raskar et al. Multi-projector displays using camera-based registration
US6793350B1 (en) Projecting warped images onto curved surfaces
US6709116B1 (en) Shape-adaptive projector system
US6755537B1 (en) Method for globally aligning multiple projected images
US6834965B2 (en) Self-configurable ad-hoc projector cluster
KR100653200B1 (ko) 기하 정보를 교정하여 파노라마 영상을 제공하는 방법 및장치
US9357206B2 (en) Systems and methods for alignment, calibration and rendering for an angular slice true-3D display
US6729733B1 (en) Method for determining a largest inscribed rectangular image within a union of projected quadrilateral images
US9195121B2 (en) Markerless geometric registration of multiple projectors on extruded surfaces using an uncalibrated camera
US6628298B1 (en) Apparatus and method for rendering synthetic objects into real scenes using measurements of scene illumination
US6715888B1 (en) Method and system for displaying images on curved surfaces
US20040257540A1 (en) Single or multi-projector for arbitrary surfaces without calibration nor reconstruction
JP4751084B2 (ja) マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置
US20090073259A1 (en) Imaging system and method
KR20160034847A (ko) 단초점 카메라를 이용하여 디스플레이 시스템을 캘리브레이팅하기 위한 시스템 및 방법
US20020061194A1 (en) Three-dimensional-picture-generating apparatus, three-dimensional-picture-generating method and program-presenting medium
Park et al. Surface-independent direct-projected augmented reality
US20100002074A1 (en) Method, device, and computer program for reducing the resolution of an input image
CN112734860A (zh) 一种基于弧形幕先验信息的逐像素映射投影几何校正方法
JP2002071315A (ja) 投影平面計測システム
JP2004015205A (ja) マルチプロジェクションシステム及びマルチプロジェクションシステムにおける補正データ取得方法
Ikeda et al. Calibration method for an omnidirectional multicamera system
CN111080523A (zh) 红外周视搜索系统及基于角度信息的红外周视图像拼接方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100602

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130327

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5236219

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160405

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250