JPWO2010055625A1 - 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム - Google Patents

画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム Download PDF

Info

Publication number
JPWO2010055625A1
JPWO2010055625A1 JP2010537676A JP2010537676A JPWO2010055625A1 JP WO2010055625 A1 JPWO2010055625 A1 JP WO2010055625A1 JP 2010537676 A JP2010537676 A JP 2010537676A JP 2010537676 A JP2010537676 A JP 2010537676A JP WO2010055625 A1 JPWO2010055625 A1 JP WO2010055625A1
Authority
JP
Japan
Prior art keywords
image
pixel
reference pattern
projection
coordinate axis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010537676A
Other languages
English (en)
Other versions
JP5445461B2 (ja
Inventor
石山 塁
塁 石山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2010537676A priority Critical patent/JP5445461B2/ja
Publication of JPWO2010055625A1 publication Critical patent/JPWO2010055625A1/ja
Application granted granted Critical
Publication of JP5445461B2 publication Critical patent/JP5445461B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Projection Apparatus (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Image Processing (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

任意の投影面に画像を投影する場合に、投影される画像の画素と、投影手段における画素との対応関係を特定する。基準パターン画像群生成手段73は、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する。位相計算手段75は、その各画像を撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する。対応付け手段76は、基準パターン画像群生成手段が座標値から初期位相値を求める計算の逆算を、その初期位相値に対して行い、その結果を利用して、投影対象画像における画素と投影手段71における画素との対応関係を特定する。

Description

本発明は、一の画像の画素と他の画像の画素との対応関係を定める画素位置対応関係特定システム、画素位置対応関係特定方法、画素位置対応関係特定プログラム、および画像補正システム、画像補正プログラムに関し、特に、投影対象となる画像の画素と、投影手段における画素との対応関係を定める画素位置対応関係特定システム、画素位置対応関係特定方法、画素位置対応関係特定プログラム、およびその対応関係にもとづいて画像を補正する画像補正システム、画像補正プログラムに関する。
一般的な平面の投影面(スクリーン)に画像を投影する場合、投影面に対するプロジェクタの位置関係が設計どおりでない場合、投影された画像に歪みが生じる。標準的なプロジェクタは、この歪みを補正する機能を有している。この歪み補正機能では、想定外の位置や方向から投影されることで生じる歪み(画像の変形)とは逆の変形を投影対象画像に施し、その変形が施された補正画像を投影して歪みを打ち消している。この機能を実現するためには、投影面の形状、および投影面とプロジェクタとの位置関係や姿勢によって定まる画像の変形量、すなわち、投影される画像における画素が実際に投影された際の移動量(ずれ)を表す写像を獲得しておく必要がある。
この写像を獲得する方法が種々提案されている。特に、投影面が平面である場合に、写像が、少ないパラメタで決定できる射影変換となることを利用する技術が提案されている。例えば、画像の四隅の点の位置を手動で入力したり、テストパターンを投影し、投影されたテストパターンをカメラで撮影した画像からマーカや、画像の縁、スクリーンの縁などを自動検出して、射影変換のパラメタを求めたりするなどの方法がある。特許文献1には、画像投影装置とスクリーン間の距離を1つ獲得し、その距離とスクリーン形状からスクリーンの四隅の点における距離を推定することによって、スクリーン形状を補正し、投影する画像を補正されたスクリーン形状に合わせて変形して投影する画像投影方法が記載されている。
また、特許文献2には、レーザポインタなどで特徴点を高精度に検出させたり、あおり、回転、シフトのパラメタを逐次的に更新して、高精細な投影画像を得る画像投影システムが記載されている。
また、特許文献3には、所定のパターン画像を生成して投影し、その画像を撮影した撮像画像から、撮像画像点に対応する投影画像点を決定し対応点リストとし、撮像画像点を対応点リストの対応点から求まる平面射影変換行列を用いて空間中の平面毎にクラスタリングし、平面毎にクラスタリングされた撮像画像点から投影領域を決定し、投影領域、平面射影変換行列を用いて画像を幾何変換する平面投影装置が記載されている。
また、特許文献4には、投影面の形状として二次曲面を仮定し、その曲面のパラメタを求める方法が記載されている。そして、特許文献4には、二次曲面スクリーンに複数のプロジェクタからの映像を歪み無く見せる複合映像生成方法が記載されている。特許文献4に記載された方法では、スクリーンに投影された点をプロジェクタの座標系から見た点と、任意の仮定視点から見た点との対応を示すマッピング関数とその逆関数を求め、プロジェクタ毎のマッピングの逆関数により歪みを補正する。マッピング関数とその逆関数を求める場合、基準座標系から視点座標系への変換行列Mと、カメラ座標から基準座標系への変換行列Sとにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列Hを得る。そして、変換行列Hを用いて、カメラ座標系で求めた二次曲面パラメタQから仮定視点を原点とする視点座標系における二次曲面パラメタQvを求める。そして、その二次曲面パラメタQvを用いて、スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の仮定視点から見た点との対応を示すマッピング関数を求め、マッピング関数からその逆関数を求める。
特許第3951984号公報 特許第3709395号公報 特開2007−142495号公報 特開2006−221599号公報
しかし、上記の技術では、例えば複雑な凹凸があるような任意の投影面に対して画像を投影する場合における歪みを補正することができない。例えば、特許文献1に記載された方法では、画像を平面に投影する場合の歪みを補正するが、投影面の形状が任意の場合には適用できない。特許文献3に記載された平面投影装置でも、部分的に平面を含む投影面を対象としている。特許文献4に記載された方法でも、投影面が二次曲線に限定され、任意の形状の面に画像を投影する場合の歪みを補正することはできない。
画像の歪みを補正するには、投影対象となる画像における位置と、実際に投影された時の位置との対応関係を画素単位に高精度に定めておかなくてはならないが、上記の技術では、投影面の形状が任意である場合に画素の対応関係を定めることはできないため、高精度に歪み補正を行えなかった。
そこで、本発明は、任意の形状の投影面に画像を投影する場合に、投影対象となる画像の画素と、投影手段における画素との対応関係を特定する画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラムを提供することを目的とする。また、特定された対応関係に基づいて画像を補正する画像補正システム、画像補正プログラムを提供することを目的とする。
本発明による画素位置対応関係特定システムは、画像を投影面に投影する投影手段と、投影面に投影された画像を撮影する撮影手段と、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する基準パターン画像群生成手段と、基準パターン画像群に属する画像を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させる撮影制御手段と、基準パターン画像群の各画像を投影手段が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する位相計算手段と、基準パターン画像群生成手段が座標値から初期位相値を求める計算の逆算を、位相計算手段が計算した初期位相値に対して行い、逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と投影手段における画素との対応関係を特定する対応付け手段とを備え、基準パターン画像生成手段が、第1座標軸に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成し、撮影制御手段が、第1座標軸に関する基準パターン画像群を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させ、第2座標軸に関する基準パターン画像群を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させ、位相計算手段が、第1座標軸に関する基準パターン画像群の各画像を投影手段が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を投影手段が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、対応付け手段が、第1座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第1座標軸の座標から初期位相値を求める計算の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第2座標軸の座標から初期位相値を求める計算の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に第2座標軸の座標を対応付けることによって、撮影画像の画素と、投影手段によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定することを特徴する。
また、本発明による画素位置対応関係特定システムは、画像を投影面に投影する投影手段と、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する基準パターン画像群生成手段と、基準パターン画像群に属する画像を投影手段に投影させる基準パターン投影制御手段と、投影面に投影された基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する位相計算手段と、基準パターン画像群生成手段が座標値から初期位相値を求める計算の逆算を、位相計算手段が計算した初期位相値に対して行い、逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と投影手段における画素との対応関係を特定する対応付け手段とを備え、基準パターン画像生成手段が、第1座標軸に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成し、基準パターン投影制御手段が、第1座標軸に関する基準パターン画像群を投影手段に投影させ、第2座標軸に関する基準パターン画像群を投影手段に投影させ、位相計算手段が、第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、対応付け手段が、第1座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第1座標軸の座標から初期位相値を求める計算の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第2座標軸の座標から初期位相値を求める計算の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に第2座標軸の座標を対応付けることによって、撮影画像の画素と、投影手段によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定することを特徴する。
また、本発明による画像補正システムは、投影対象画像における画素と画像を投影する投影手段における画素との対応関係に基づいて、投影手段によって投影される投影対象画像を補正する補正手段を備えることを特徴とする。
また、本発明による画素位置対応関係特定方法は、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成し、第1座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させ、第1座標軸に関する基準パターン画像群の各画像を投影手段が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第1座標軸に関する基準パターン画像群を生成する処理で第1座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した初期位相値に対して行い、逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付け、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成し、第2座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させ、第2座標軸に関する基準パターン画像群の各画像を投影手段が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群を生成する処理で第2座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した初期位相値に対して行い、逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付け、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定することを特徴とする。
また、本発明による画素位置対応関係特定方法は、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成し、第1座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、投影面に投影された第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第1座標軸に関する基準パターン画像群を生成する処理で第1座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した初期位相値に対して行い、逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付け、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成し、第2座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、投影面に投影された第2座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群を生成する処理で第2座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した初期位相値に対して行い、逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付け、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定することを特徴とする。
また、本発明による画素位置対応関係特定プログラムは、画像を投影面に投影する投影手段と、投影面に投影された画像を撮影する撮影手段とを備えるコンピュータに搭載される画素位置対応関係特定プログラムであって、コンピュータに、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成する第1基準パターン画像群生成処理、第1座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させる第1撮影制御処理、第1座標軸に関する基準パターン画像群の各画像を投影手段が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第1位相計算処理、第1基準パターン画像群生成処理で第1座標軸の座標から初期位相値を求める計算の逆算を、第1位相計算処理で計算した初期位相値に対して行い、逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付ける第1対応付け処理、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成する第2基準パターン画像群生成処理、第2座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させる第2撮影制御処理、第2座標軸に関する基準パターン画像群の各画像を投影手段が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第2位相計算処理、第2基準パターン画像群生成処理で第2座標軸の座標から初期位相値を求める計算の逆算を、第2位相計算処理で計算した初期位相値に対して行い、逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付ける第2対応付け処理、および、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定する画素対応付け処理を実行させることを特徴とする。
また、本発明による画素位置対応関係特定プログラムは、画像を投影面に投影する投影手段を備えるコンピュータに搭載される画素位置対応関係特定プログラムであって、コンピュータに、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成する第1基準パターン画像群生成処理、第1座標軸に関する基準パターン画像群に属する画像を投影手段に投影させる第1基準パターン投影制御処理、投影面に投影された第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第1位相計算処理、第1基準パターン画像群生成処理で第1座標軸の座標から初期位相値を求める計算の逆算を、第1位相計算処理で計算した初期位相値に対して行い、逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付ける第1対応付け処理、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成する第2基準パターン画像群生成処理、第2座標軸に関する基準パターン画像群に属する画像を投影手段に投影させる第2基準パターン投影制御処理、投影面に投影された第2座標軸に関する基準パターン画像群の各画像を撮影して得られる複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第2位相計算処理、第2基準パターン画像群生成処理で第2座標軸の座標から初期位相値を求める計算の逆算を、第2位相計算処理で計算した初期位相値に対して行い、逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付ける第2対応付け処理、および、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定する画素対応付け処理を実行させることを特徴とする。
また、本発明による画像補正プログラムは、コンピュータに、投影対象画像における画素と画像を投影する投影手段における画素との対応関係に基づいて、投影手段によって投影される投影対象画像を補正する補正処理を実行させることを特徴とする。
本発明によれば、任意の形状の投影面に画像を投影する場合に、投影対象となる画像の画素と、投影手段における画素との対応関係を特定することができる。
本発明の第1の実施形態の画素位置対応関係特定システムの例を示すブロック図である。 位相の変化に伴い連続して変化する輝度値を表す関数の例を示す説明図である。 図2に例示する初期位相値から位相をdずらしたときの輝度値を示す説明図である。 情報処理装置の構成例を示すブロック図である。 本発明の第1の実施形態の処理経過の例を示すフローチャートである。 x座標に関する対応付けの処理経過の例を示すフローチャートである。 複数の撮影画像における同一の画素の輝度変化の例を示す説明図である。 投影される画像の画素と撮影画像の画素とを対応付けた中間テーブルの例を示す説明図である。 ステップS3における対応付けの例を示す説明図である。 第2の実施形態における情報処理装置の構成例を示すブロック図である。 第3の実施形態における情報処理装置の構成例を示すブロック図である。 縮小変換後の画素の輝度決定の例を示す説明図である。 2種類の基準パターン画像群を模式的に示す説明図である。 本発明の概要を示すブロック図である。
以下、本発明の実施形態を図面を参照して説明する。
実施形態1.
図1は、本発明の第1の実施形態の画素位置対応関係特定システムの例を示すブロック図である。本実施形態の画素位置対応関係特定システムは、投影対象となる投影対象画像の画素の位置と、撮影手段1における画素の位置との対応関係を特定する。投影対象画像とは、任意の形状の投影面(スクリーン)7に投影する画像である。本実施形態の画素位置対応関係特定システムは、任意の形状の投影面7に対して画像を投影する投影手段1と、その投影面7に投影された画像を撮影する撮影手段2と、投影対象画像の画素と投影手段1における画素との対応付け処理を行う情報処理装置3とを備える。投影手段1は、例えば、プロジェクタによって実現され、撮影手段2は、例えば、カメラによって実現される。
投影手段1は、情報処理装置3の制御により、基準パターン画像群を投影面に投影する。この基準パターン画像群については後述する。投影面7は任意の形状の面であるので、投影面7に投影された画像は歪む。撮影手段2は、画像の観察者8が投影面7を見る方向と同じ方向から、投影面7に投影された基準パターン画像群を撮影する。この撮影によって得られる画像を以下、撮影画像と記す。情報処理装置3は、基準パターン画像群と、各撮影画像とを用いて、投影対象画像の画素と、投影面に実際に投影された画像を撮影した撮影画像の画素との対応関係を特定し、さらに、投影対象画像の画素と投影手段1における画素との対応関係を特定する。
本実施形態では、投影手段1が基準パターン画像群を1画像ずつ投影面に投影し、投影された画像を撮影手段2が1画像ずつ撮影する場合を例にして説明する。ただし、投影手段1が複数画像を同時に投影してもよい。投影手段1が複数画像を同時に投影する場合については後述する。
投影対象画像の画素と投影手段1における画素との対応関係が定められると、観察者8に見せるために投影手段1から投影される投影対象画像を、その対応関係に基づいて補正し、観察者8に歪んでいない画像を観察させることができる。本実施形態では、このような補正を行うために用いる画像の画素同士の対応関係を定める。
次に、基準パターン画像群について説明する。基準パターン画像群は、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である。輝度値を定める関数は、位相の変化に伴って連続して変化する関数であればよく、ここでは、位相の変化に伴う輝度値の変化が正弦波となる関数(正弦関数など)を用いる場合を例にする。
図2は、位相の変化に伴い連続して変化する輝度値を表す関数の例を示す。このような関数をfと表わすとする。図2に例示するような関数において、a,b,cなどの初期位相値が座標値に応じてそれぞれ定められる。ここでは画像の画素の位置を表すx軸を例に説明する。あるx座標に対応する初期位相値がa、別のx座標に対応する初期位相値がb、さらに別のx座標に対応する初期位相値がc、・・・などのように、x座標の値に応じてそれぞれ初期位相値が定められる。例えば、初期位相値aに対応するx座標の各画素の輝度値をf(a)とし、初期位相値bに対応するx座標の各座標の輝度値をf(b)とし、初期位相値cに対応するx座標の各画素の輝度値をf(c)とする。このように各x座標に応じた初期位相値を定めることによって、基準パターン画像群における最初(0番目)の画像が得られる。x座標に応じて初期位相値が定められ、その初期位相値に応じて図2に例示するような正弦波の関数fによって、輝度値が定められるので、x座標の変化とともに輝度が連続的に変化する画像が得られる。
また、各x座標に応じた初期位相値から、同じ位相量だけ位相を変化させて輝度を定めた画像が、基準パターン画像群における他の画像となる。図3は、図2に例示する初期位相値から位相をdずらしたときの輝度値を示す説明図である。例えば、初期位相値aに対応するx座標の輝度値をf(a+d)とし、初期位相値bに対応するx座標の輝度値をf(b+d)とし、初期位相値cに対応するx座標の輝度値をf(c+d)とする。同様に、各x座標に応じた輝度値を定めることによって、1枚の画像が得られる。そして、初期位相値から変化させる位相の値(上記のd)を変化させることで、同様の画像が複数種類得られる。
基準パターン画像群に属するこれらの画像は、いずれも、一つの座標軸に沿う座標値(上記の例ではx座標値)の変化とともに輝度が連続的に変化する。そして、基準パターン画像群に属する各画像を比較すると、初期位相値から変化させる位相量dが増えるほど、座標軸に沿って画像全体が移動したように観察される。例えば、x座標毎に初期位相値を定めて生成した基準パターン画像群において各画像を比較すると、画像全体がx軸方向に移動したように観察される。また、例えば、y座標毎に初期位相値を定めて生成した基準パターン画像群において各画像を比較すると、画像全体がy軸方向に移動したように観察される。
また、基準パターン画像群に属する各画像において、上記の座標軸に沿った個々の座標に着目して、輝度の変化を観察すると、初期位相値から変化させる位相量dの変化に伴い明るさが変化する。
情報処理装置3は、2つの座標軸に関して基準パターン画像群を生成する。以下、情報処理装置3がx軸に関する基準パターン画像群およびy軸に関する基準パターン画像群を生成する場合を例にして説明する。ただし、2つの座標軸はx軸およびy軸に限定されない。2つの座標軸は、平行でない2つの軸であればよい。また、軸の方向は、水平方向や垂直方向に限定されず、任意の方向でよい。
投影手段1は、このような基準パターン画像群に属する各画像を投影面7に投影し、撮影手段2は、その各画像を撮影する。このとき、投影手段1と、撮影手段2と、投影面7との位置関係は一定に保つ。撮影された各画像において、同じ位置の画素に着目すると、その画素の輝度は、画像毎に変化し、その画像の変化から、その画素の輝度変化における初期位相値を求めることができる。情報処理装置3は、撮影した各画像間における画素の輝度変化から、各画素の輝度変化における初期位相値を求める。そして、情報処理装置3は、撮影手段2が撮影した撮影画像における画素が、投影される基準パターン画像群におけるどの座標値の画素に対応するのかを特定し、さらに投影対象画像の画素と投影手段1における画素との対応関係を特定する。
情報処理装置3がx軸方向に着目した基準パターン画像群を作成してその各画像を投影手段1に投影させ、その画像を撮影手段2に撮影させる。そして、情報処理装置3が、その撮影画像における画素が、基準パターン画像群におけるどのx座標の画素に対応するのかを特定する。同様に、情報処理装置3がy軸方向に着目した基準パターン画像群を作成してその各画像を投影手段1に投影させ、その画像を撮影手段2に撮影させる。そして、情報処理装置3が、その撮影画像における画素が、基準パターン画像群におけるどのy座標の画素に対応するのかを特定する。よって、観察者8の向きと同じ方向から撮影手段2が撮影する画像における画素と、投影される画像における画素の座標(x,y)との対応関係が定まり、投影対象画像の画素と投影手段1における画素との対応関係が特定される。
図4は、情報処理装置3の構成例を示すブロック図である。情報処理装置3は、パターン位相シフト手段4と、撮影制御手段5と、位相計算手段6と、対応付け手段9とを備える。
パターン位相シフト手段4は、x座標、y座標それぞれについて、基準パターン画像群を作成する。x座標についての基準パターン画像群を作る場合、パターン位相シフト手段4は、x座標の各値に応じた初期位相値を求め、その初期位相値から各x座標における輝度値を定めることによって、基準パターン画像群の最初(0番目)の画像を生成する。さらに、パターン位相シフト手段4は、各x座標に応じた初期位相値から、同じ位相量dだけ位相量を変化させることにより、各x座標に応じた位相値を求め、その位相値から各x座標における輝度値を定めることによって、基準パターン画像群の属する次の画像を生成する。パターン位相シフト手段4は、初期位相値からの位相変化量を増やして、同様に、基準パターン画像群に属する画像を生成していく。
パターン位相シフト手段4は、y座標についての基準パターン画像群についても同様に生成する。
撮影制御手段5は、x座標およびy座標のそれぞれの基準パターン画像群に属する個々の画像を投影手段1(図1参照)に投影させ、投影面7上に投影された画像を撮影手段2に撮影させる。本実施形態では、撮影制御手段5は、基準パターン画像群に属する画像を1画像ずつ投影手段1に投影させ、投影された画像を撮影手段2に1画像ずつ撮影手段2に撮影させる。
位相計算手段6は、x座標の基準パターン画像群に属する各画像を撮影して得られた各撮影画像間の輝度の変化に基づいて、その撮影画像間の輝度変化における初期位相値を求める。位相計算手段6は、y座標の基準パターン画像群に属する各画像を撮影して得られた各撮影画像についても同様に、その撮影画像間の輝度変化における初期位相値を求める。
対応付け手段9は、x座標の基準パターン画像群の撮影画像から求めた初期位相値から、撮影画像における画素が基準パターン画像群におけるどのx座標に対応するのかを特定する。同様に、y座標の基準パターン画像群の撮影画像から求めた初期位相値から、撮影画像における画素が基準パターン画像群におけるどのy座標に対応するのかを特定する。対応付け手段9は、さらに投影対象画像の画素と投影手段1における画素との対応関係を特定する。
パターン位相シフト手段4、撮影制御手段5、位相計算手段6、および対応付け手段9は、例えば、プログラム(画素位置対応関係特定プログラム)に従って動作するCPUによって実現される。プログラムは、例えば情報処理装置3が備えるプログラム記憶装置(図示せず)に記憶され、CPUは、そのプログラムを読み込み、そのプログラムに従って、パターン位相シフト手段4、撮影制御手段5、位相計算手段6、および対応付け手段9として動作してもよい。また、パターン位相シフト手段4、撮影制御手段5、位相計算手段6、および対応付け手段9は、それぞれ別個のハードウェアであってもよい。
次に、動作について説明する。
図5は、本発明の第1の実施形態の処理経過の例を示すフローチャートである。情報処理装置3は、投影面7に投影された画像を撮影した撮影画像におけるどの画素が、投影される画像(基準パターン画像群)におけるどのx座標に対応するのかを定める(ステップS1)。続いて、情報処理装置3は、投影面7に投影された画像を撮影した撮影画像におけるどの画素が、投影される画像におけるどのy座標に対応するのかを定める(ステップS2)。ステップS1,S2を実行することで、撮影画像の画素が、投影される画像ではどの座標値の画像であるのかが定まる。情報処理装置3は、ステップS1,S2で定めた対応関係に基づいて、投影対象画像の画素の位置と、投影手段1における画素の位置との対応関係を定める(ステップS3)。
ステップS1,S2の処理は、撮影画像内の画素との対応関係を定める対象がx座標であるか、y座標であるかが異なる点以外は、同様の処理である。以下、x座標についての対応関係を定めるステップS1を例にして、撮影画像の画素と座標との対応関係を定める処理の詳細について説明する。図6は、x座標に関する対応付け(ステップS1)の処理経過の例を示すフローチャートである。
ステップS1において、最初に、パターン位相シフト手段4は、基準パターン画像群を生成する(ステップS11)。x座標についての基準パターン画像群を生成する場合、パターン位相シフト手段4は、x座標に応じた初期位相値を求める。初期位相値は、座標値を変数とする関数であって、座標値の変換に伴い連続的に変化する関数の関数値として求めればよい。以下、座標値に応じた初期位相値を求めるための関数をsで表わす。パターン位相シフト手段4は、例えば、以下に示す式(1)で表わされる関数によって各座標値に応じた初期位相値を求めればよい。
(x)=T/(w−1+2・m)・(x−m) 式(1)
式(1)において、xは基準パターン画像群の画素のx座標の値である。wは、投影手段1が投影できる画像の幅(画素数)である。Tは、位相を変数として輝度値を求める関数fにおける周期である。本例では、関数fによる輝度変化が正弦波となる場合を例にする。従って、本例では、T=2πである。mは、位相計算の誤差を考慮して、x=0の画素と、x=w−1の画素とで回り込みが生じないように定める定数であり、マージン定数と呼ぶ。マージン定数は、例えば、wの1%程度の値として定めておけばよい。
式(1)は、x座標に応じた初期位相値を求める関数の例であり、式(1)以外の関数によって初期位相値を計算してもよい。
パターン位相シフト手段4は、各x座標毎に、x座標値から求めた初期位相値s(x)に応じた輝度値を関数fにより求める。すなわち、x座標毎に、以下に示す式(2)の関数を用いて輝度値を定める。
I(x)=f(s(x)) 式(2)
この結果、x座標毎に輝度値を規定した画像が得られる。この画像は基準パターン画像群における最初(0番目)の画像である。式(2)における左辺のI(x)は、x座標の値に応じた画素の輝度を意味する。関数fは、既に説明したように、位相の変化に伴い連続して変化する関数であり、本例では、輝度変化が正弦波となる関数である。
さらに、パターン位相シフト手段4は、x座標毎に求めたそれぞれの初期位相値に対して、共通の位相値を加算した位相を求める。すなわち、加算する位相量をd(i)として、各x座標値に応じた位相を、x座標毎に計算する。そして、パターン位相シフト手段4は、その結果得られた位相を、輝度値を求めるための関数fに代入して、各x座標の輝度値を計算する。この結果、x座標毎に輝度値を規定した画像が得られる。パターン位相シフト手段4は、加算する位相値を変化させて、同様に画像を生成する。初期位相値に加算する位相値をd(i)として求めた位相を関数fに代入して得られる輝度をI(x)とすると、I(x)は、下記の式(3)のように表すことができる。
(x)=f(s(x)+d(i)) 式(3)
d(i)の値は、例えば、以下に示す式(4)のように予め定めておけばよい。
d(i)=(T/N)×i 式(4)
は、基準パターン画像群として求めようとする画像の数である。iは、1,2,・・・,N−1である。例えば、N=4とすると、d(i)=T/4,T/2,3T/4となる。本例では、T=2πであるので、d(i)=π/2、π、3π/Tとなる。すなわち、f(s(x))として輝度を求めた最初の画像の他に、f(s(x)+π/2)として輝度を求めた画像、f(s(x)+π)として輝度を求めた画像、f(s(x)+3π/2)として輝度を求めた画像をそれぞれ生成する。この結果、0番目から3番目までの4つの画像を含む基準パターン画像群が得られる。d(i)におけるiは、この順番を表している。
ただし、式(4)は、初期位相値に加算する位相量を求める計算式の一例であり、加算する位相量を他の方法で定めてもよい。また、上記の例では、4つの画像を含む基準パターン画像群を生成する場合を例示したが、求める画像の数は4に限定されず、5以上であってもよい。また、3つであってもよい。関数fとして、輝度変化が正弦波となる関数を用いる場合、少なくとも3つの画像を生成すればよい。
基準パターン画像群の生成後、撮影制御手段5は、基準パターン画像群に属する各画像を投影面7に向けて、1画像ずつ投影手段1に投影させる。そして、撮影制御手段5は、投影面7に投影された各画像を、1画像ずつ撮影手段2に撮影させ、撮影画像を撮影手段2から受信する(ステップS12)。
ステップS12の後、位相計算手段6は、画素毎に、各撮影画像間の輝度の変化に基づいて、その変化における初期位相値を求める(ステップS13)。投影面7が任意の形状であることに起因して、投影された画像が歪んだとしても、ある座標値の画素が投影される位置は、投影する画像を切り替えても変化しない。そして、個々のx座標値毎に輝度を変化させているので、各撮影画像における同一箇所の画素の輝度も、基準パターン画像群に属する各画像における同一箇所の画像の輝度と同様に変化する。図7は、複数の撮影画像における同一の画素の輝度変化の例を示す説明図である。位相計算手段6は、ステップS12において、図7に例示するような輝度の変化における初期位相を求める。
位相計算手段6は、撮影画像の画素の輝度変化における初期位相値を以下に示すように求めればよい。各撮影画像における共通の位置に該当する画素であって、j番目の撮影画像における画素の輝度Iは、以下に示す式(5)のように表わされる。
=A・f(φ+d(j))+B 式(5)
だたし、d(j)は、j番目の撮影画像において初期位相値に加算されている位相量を表している。0番目の撮影画像(すなわち、基準パターン画像群における最初の画像の撮影画像)に関しては、d(0)=0である。j=1以降については、基準パターン画像群生成時に用いたd(i)と等しい値をd(j)とする。式(5)におけるAは、各撮影画像毎に変化する輝度値の変化における振幅である。また、式(5)におけるBは、背景の輝度である。
同じ位置に該当する画素について、撮影画像毎のI,d(j)の値は既知である。位相計算手段6は、撮影画像毎にI,d(j)を式(5)に代入し、未知の値であるφを計算する。未知の値として、A,B,φがあり、撮影画像毎にI,d(j)を式(5)に代入した連立方程式を解くことによってφを計算すればよい。
また、撮影画像毎にI,d(j)を式(5)に代入した式が、連立方程式の解の導出に必要な数よりも多く得られているならば、それらの式から最小二乗法によって、φを計算してもよい。例えば、撮影画像がN個あり、以下のN個の式が得られたならば、そのN個の式から最小二乗法によってφの値を求めればよい。
Figure 2010055625
位相計算手段6は、この処理を撮影画像における画素毎に行えばよい。
また、ステップS11で例として挙げたように、輝度値を求める関数fが、輝度変化が正弦波となる関数であり、その周期が2πであり、d(i)を式(4)に示すように求めていたとする。この場合、位相計算手段6は、以下に示す式(6)の計算を行うことによって、着目している画素における初期位相値φを計算してもよい。
φ=π−arctan((I(0)−I(2))/(I(3)−I(1)))
式(6)
なお、この場合、A,Bは、それぞれ以下の式(7)、式(8)の計算で求めることができる。
A=0.5×√((I(0)−I(2))+(I(1)−I(3))
式(7)
B=(I(0)+I(1)+I(2)+I(3))/2.0 式(8)
ここで、I(0),I(1),I(2),I(3)は、それぞれ、位置が共通する画素の画素値であり、I(0)は0番目の撮影画像での画素、I(1)は1番目の撮影画像での画素、I(2)は2番目の撮影画像での画素、I(3)は3番目の撮影画像での画素である。
位相計算手段6は、式(6)によって初期位相値を求める処理を、撮影画像における画素毎に行えばよい。
撮影画像のうち投影された画像に該当する部分(目標画像領域と記す。)を定めておく。この領域がオペレータによって指定される構成であってもよい。例えば、情報処理装置3は、撮影画像を表示する表示装置と、撮影画像中の目標画像領域の指定を受け付けるポインティングデバイスとを備える構成であってもよい。また、あるいは、撮影画像において、輝度値が所定値以上となっている領域を包含する矩形領域が目標画像領域であると位相計算手段6が判定してもよい。
ステップS13の後、対応付け手段9は、撮影画像内の画素について求めた初期位相値から、撮影画像の画素が、投影される画像におけるどのx座標値に対応するのかを定める(ステップS14)。
投影面7において画像が歪んだとしても、投影される画像と撮影画像の対応画素の輝度変化は同様となる。よって、対応する画素同士では、輝度変化の初期位相値は等しい。従って、ステップS14において、対応付け手段9は、ステップS13で算出された初期位相値からx座標を逆算することによって、撮影画像内の画素について、対応するx座標値(すなわち、投影手段1が投影する画像におけるx座標値)を計算する。例えば、パターン位相シフト手段4が式(1)の計算を行って初期位相値を算出する場合、対応付け手段9は、ステップS13で算出された初期位相値をs(x)として式(1)に代入し、x座標を逆算すればよい。この処理を各画素毎に行うことで、撮影画像内の画素が、投影される画像におけるどのx座標に対応するのかを定める。
ステップS14で、対応付け手段9は、撮影画像内の画素に対応するx座標を算出したならば、撮影画像内の画素と投影される画像の画素との対応関係を示すテーブル(以下、中間テーブルと記す)において、撮影画像のx,y座標と、対応するx座標とを対応付ける。例えば、撮影画像における(50,150)の画素の初期位相値から逆算して求めたx座標が“100”であるとする。この場合、対応付け手段9は、図8(a)に示すように、撮影画像の画素(50,150)と、対応する画素におけるx座標“100”とを対応付ける。この時点では、撮影画像の画素に対応する画素のy座標は特定されていないので未定とする。図8(a)では、撮影画像の画素(50,150)を例示しているが、他の画素についても同様に処理する。
以上のステップS11〜S14の処理で、ステップS1(図5参照)が終了する。撮影画像の画素がどのy座標に対応するのかを定める処理(ステップS2)も同様に、ステップS11〜S14の処理を行えばよい。
ただし、ステップS11において、パターン位相シフト手段4は、y座標についての基準パターン画像群を生成する。このとき、パターン位相シフト手段4は、y座標に応じた初期位相値を求める。例えば、以下に示す式(9)の関数によって各座標値に応じた初期位相値を求めればよい。
(y)=T/(h−1+2・m)・(y−m’) 式(9)
式(9)において、yは基準パターン画像群の画素のy座標の値である。hは、投影手段1が投影できる画像の高さ(画素数)である。Tは、式(1)と同様である。m’は、式(1)におけるmと同様のマージン定数であり、例えば、hの1%程度の値として定めておけばよい。なお、式(9)は例示であり、式(9)以外の関数によって初期位相値を定めてもよい。
y座標に応じた初期位相値を求めたならば、その初期位相値に応じた輝度値を定めることで、基準パターン画像群の最初(0番目)の画像を生成する。また、各画素毎に初期位相値に位相d(i)を加算した位相値に応じた輝度値を定めることで、基準パターン画像群に属する他の画像を生成する。
この処理は、y座標値に応じた初期位相値を定めるという点以外は、既に説明したステップS11と同様である。
また、ステップS11の後、ステップS12,S13を行う。この処理は、既に説明したステップS12,S13と同様である。
ステップS14で、対応付け手段9は、ステップS13で求めた初期位相値から、撮影画像の画素が、投影される画像におけるどのy座標に対応するのかを定める。このとき、y座標から初期位相値を求める計算(例えば、式(9))を逆算して、初期位相値からy座標値を求めればよい。対応付け手段9は、撮影画像内の画素に対応するy座標を算出したならば、そのy座標を、その撮影画像内の画素に対応付けて、中間テーブルに追加する。例えば、撮影画像における(50,150)の画素の初期位相値から逆算して求めたy座標が“50”であるとする。この場合、対応付け手段9は、図8(b)に示すように、撮影画像の画素(50,150)に対応付けて、y座標“50”を追加する。このように、y座標が未定である状態(図8(a))に対してy座標を追加される(図8(b)参照)。対応付け手段9は、この処理を各画素毎に行い、中間テーブルを完成させる。この中間テーブルは、撮影画像内の画素と投影される画像の画素との対応関係を表す。
ステップS2(図5参照)の後、ステップS3において、対応付け手段9は、撮影画像における画素に投影すべき投影対象画像中の画素の座標と、その撮影画像における画素に対応する座標とを対応付ける。図9は、ステップS3における対応付けの例を示す説明図である。画像が歪み無く観察されるためには、投影対象画像における座標(X,Y)の画素は、撮影画像における座標(X,Y)の画素となるように投影されなければならないとする。この歪み無く観察される撮影画像における画素を目標画素と記す。また、中間テーブルでは、撮影画像中の画素(X,Y)に対応付けられた座標が(X,Y)であるとする。対応付け手段9は、目標画素(X,Y)に対応する画素(X,Y)を中間テーブルから検索し、目標画素に投影すべき投影対象画像中の画素(X,Y)と、中間テーブルで目標画素に対応付けられている座標(X,Y)とを対応づける。この対応付けを、各目標画素に投影すべき投影対象画像中の画素毎に行う。ここで、投影手段1における座標(X,Y)の画素の輝度値を、投影対象画像における座標(X,Y)の画素と等しい輝度値に設定し、投影手段1における他の画素の輝度値も同様に設定すれば、投影対象画像における(X,Y)の画素は、(X,Y)の位置に変更されたこととなり、その状態で投影面7に投影されると、所望の目標画素(X,Y)の位置に投影される。このように、対応付け手段9は、撮影画像における画素に投影すべき投影対象画像中の画素と、その撮影画像における画素に対応する座標とを対応付けることによって、投影対象画像の画素の位置と、投影手段1における画素の位置とを対応付ける。
対応付け手段9は、投影対象画像の画素の位置と投影手段1における画素の位置とを対応付けたならば、その対応関係をテーブル(以下、画素対応テーブルと記す)として記憶または出力する。
本発明によれば、上記のように、目標となる位置に投影すべき投影対象画像の画素と、中間テーブルにおいてその位置に対応付けられている座標とを対応付けることによって、投影対象画像の画素の位置と、投影手段1における画素の位置との対応関係を特定することができる。
投影手段1と、撮影手段2と、投影面の位置関係を変えない限り、この対応関係は維持される。従って、投影手段1と、撮影手段2と、投影面の位置関係を変えずに観察者8(図1参照)に提示する画像を投影面7に投影する場合、この対応関係を用いて補正を行えば、歪みを抑えた画像を観察者に見せることができる。
また、本発明では、初期位相値を画素毎に定め、その初期位相値から輝度値を求めた画像と、さらに、初期位相値から位相をずらし、その位相値から輝度値を求めた画像とを基準パターン画像群として生成し、各画像を投影する。さらに、その各画像を撮影する。このとき、撮影によって得られた各撮影画像間において、各画素の輝度は、基準パターン画像群の画像間における輝度変化と同様に変化する。そして、対応する画素同士では、初期位相値が共通する。この性質は、投影面7の形状によらずに成立する。本発明では、このことを利用し、撮影画像内の画素と投影される画像の画素との対応関係を定める。従って、投影面7の形状が任意の形状であっても、投影対象画像の画素の位置と、投影手段における画素の位置との対応関係を特定することができる。
また、基準パターン画像群を生成して投影面に投影し、その各画像を撮影した撮影画像が得られれば、対応関係を求めることができる。よって、投影面の形状を測定するための3次元形状測定装置などを用いる必要がないため、低コストで対応関係を求めることができる。
上記の実施形態では、輝度値を求める関数fとして、輝度値の変化が正弦波となる関数を用いる場合を例にして説明したが、関数fは、位相の変化に伴い連続して変化する連続関数であればよい。例えば、正弦関数のように関数値が滑らかに変化する関数ではなく、輝度値の変化が三角波となる関数を関数fとしてもよい。
関数fとして連続関数を用いる理由は以下のとおりである。関数fが連続関数でなく、鋸歯状波のように不連続部分があるとすると、隣接する画素同士の輝度値が急激に変化する。すると、撮影手段2の解像度が不足している場合、輝度値が急激に変化している部分がぼやけて撮影され、急激に変化する値の中間値が輝度として認識されてしまうことがある。すると、その画素は、本来対応付けられるべきではない別の画素に対応付けられてしまう可能性がある。
それに対し本発明では、輝度値を求める関数fとして位相の変化に伴い連続して変化する連続関数を用いるので、上記のような誤った対応付けを防止することができる。このことは、画素の対応関係に基づいて、投影する画像を補正する際、補正精度を向上させることができるということを意味する。
また、本発明では、位相計算手段6が初期位相値を計算できるだけの画像を基準パターン画像群として生成すればよく、基準パターン画像群として多数の画像を生成する必要はない。従って、処理を高速化することができる。一例を挙げると、輝度値を求める関数fとして、輝度値の変化が正弦波となる関数を用いれば、一座標軸あたり、最低3つの画像を含む基準パターン画像群を生成すればよい。この場合、基準パターン画像群とする画像数を少なくできるので、処理を高速化することができる。
実施形態2.
本発明の第2の実施形態の画素位置対応関係特定システムは、第1の実施形態と同様に、投影手段1と、撮影手段2と、情報処理装置3とを備える(図1参照)。ここでは、図1を参照して、第2の実施形態について説明する。第2の実施形態の画素位置対応関係特定システムも第1の実施形態と同様に、投影対象画像の画素の位置と投影手段1における画素の位置との対応関係を示す画素対応テーブルを作成する。第2の実施形態では、さらに、情報処理装置3が、観察者8に提示するために投影面7に投影する画像を、画素対応テーブルを用いて補正し、補正後の画像を投影手段1に投影させる。
図10は、第2の実施形態における情報処理装置3の構成例を示すブロック図である。第1の実施形態と同様の構成要素については図4と同一の符号を付し、詳細な説明を省略する。第2の実施形態における情報処理装置3は、パターン位相シフト手段4と、撮影制御手段5と、位相計算手段6と、対応付け手段9と、補正手段10と、投影制御手段11とを備える。パターン位相シフト手段4、撮影制御手段5、位相計算手段6、対応付け手段9の動作は、第1の実施形態と同様である。
補正手段10は、観察者8に提示するために投影面7に投影する投影対象画像を、画素対応テーブルを用いて補正する処理を行う。投影制御手段11は、補正後の画像を投影手段1に投影させる。
次に、本実施形態の動作について説明する。
まず、情報処理装置3は、投影対象画像の画素の位置と投影手段1における画素の位置との対応関係を示す画素対応テーブルを生成する。この動作は、第1の実施形態と同様であり、説明を省略する。
画素対応テーブル生成後、補正手段10は、観察者8(図1参照)に提示する投影対象画像を補正する。補正手段10は、この補正後の画像として、投影手段1における画素の輝度値を、その画素に対応する投影対象画像の画素の輝度値に設定した画像を生成すればよい。図9に示す例のように、座標(X,Y)と座標(X,Y)とを対応付けている場合、(X,Y)の画素の輝度値に、投影対象画像における画素(X,Y)の輝度値を設定し、他の画素の輝度値についても同様に設定した画像を、補正後の画像として生成すればよい。この結果、投影対象画像における(X,Y)の画素は、(X,Y)の位置に変更されたこととなり、その状態で投影面7に投影されると、所望の位置に投影される。この結果、投影面7に投影したときの画像の歪みをなくすことができる。
投影制御手段11は、補正手段10によって補正された画像を投影面7に向けて、投影手段1に投影させる。なお、画像投影時において、投影手段1と投影面7の位置関係は、画素対応テーブル作成時から変えないものとする。また、観察者8は、画素対応テーブル作成時における撮影手段2と同方向から投影面7を見る。
画像を補正せずに投影した場合、投影対象画像における画素は所望の位置とは異なる位置に投影され画像が歪んでしまう。しかし、本実施形態では、第1の実施形態と同様に生成した画素対応テーブルを用いて、投影対象画像を補正し、その補正後の画像を投影する。従って、各位置にそれぞれ所望の輝度値を投影し、観察者に歪みを認識させずに、任意の形状の投影面7に画像を投影することができる。
本実施形態によれば、画素対応テーブルを用いて画像を補正し、その画像を投影するので、投影面の形状に起因する歪みを抑えた画像を観察者に見せることができる。
また、第1の実施形態と同様に、投影面7の形状が任意の形状であっても、投影対象画像の画素と投影手段1における画素との対応関係を特定するので、投影面の形状によらずに、歪みを抑えた画像を観察者に見せることができる。
また、第1の実施形態と同様に、低コストで、高速、かつ、高精度に中間テーブルを作成することができる。
また、情報処理装置3は、画素対応テーブルを作成せずに、外部から画素対応テーブルを入力され、その画素対応テーブルを用いて投影対象画像を補正する画像補正システムであってもよい。この場合、画像補正システムは、投影手段1および撮影手段2を備えていなくてよい。そして、情報処理装置3は、補正手段10を備えていればよい。例えば、第1の実施形態と同様の画素位置対応関係特定システムが画素対応テーブルを作成し、その画素対応テーブルを、画像補正システムに入力してもよい。さらに、画像補正システムが投影対象画像を補正するだけでなく、補正後の画像を投影面に投影する構成であってもよい。この場合、画像補正システムは、画素対応テーブル作成時に用いた投影手段と、その投影手段に補正後の画像を投影させる投影制御手段を備えていればよい。
本発明では、輝度が連続的に変化する基準パターン画像群の位相を利用して、投影対象画像の画素の位置と、投影手段1における画素の位置との対応関係(画素対応テーブル)を定める。よって、画素毎に(すなわち高密度に)対応関係を得ることができ、また、対応先の画素を例えば浮動小数点で表した高精度な対応関係を得ることができる。以下に示す第3の実施形態では、特に、初期位相値の計算前に、撮影画像中において対応関係を求めたい領域(投影対象画像を投影したい領域に相当する領域)の解像度が投影対象画像と同一になるように解像度変換を行い、その上で初期位相値を計算する。
実施形態3.
本発明の第3の実施形態は、第1の実施形態や第2の実施形態と同様に、投影手段1と、撮影手段2と、情報処理装置3とを備える(図1参照)。第3の実施形態の画素位置対応関係特定システムは、撮影画像と、観察者に提示しようとする画像(投影対象画像)とで解像度が異なる場合、撮影画像を拡大したり縮小したりして、撮影画像の解像度を、観察者に提示しようとする画像の解像度に合わせる。そして、解像度変換後(すなわち、拡大または縮小後)の撮影画像について初期位相値を求める処理(ステップS13、図6参照)を行って、解像度変換後の撮影画像の画素の基準パターン画像群の座標とを対応付ける処理(ステップS14、図6参照)を行い、その後に画素対応テーブルを生成する。この処理の結果、撮影画像と投影対象画像の解像度が一致しない場合にも、所望の解像度に合う画素対応テーブルを生成することができる。
また、特に、撮影画像を縮小する場合には、高精度な画素対応テーブルを得ることができる。一例を挙げると、撮影画像の解像度が投影対象画像より高い場合、初期位相値の計算前に撮影画像の縮小処理を行えば、撮影手段2(カメラ)の性能以上にノイズが少なくコントラストも高い画像が得られる。その画像を用いて、第1の実施形態と同様に初期位相値を計算し、画素対応テーブルを求めれば、高精度の画素対応テーブルを得ることができる。
図11は、第3の実施形態における情報処理装置3の構成例を示すブロック図である。第1および第2の実施形態と同様の構成要素については、図4や図10と同一の符号を付し、詳細な説明を省略する。第3の実施形態における情報処理装置3は、パターン位相シフト手段4と、撮影制御手段5と、解像度変換手段12と、位相計算手段6と、対応付け手段9と、補正手段10と、投影制御手段11とを備える。
解像度変換手段12は、撮影画像における目標画像領域の解像度が、観察者に提示する所望の解像度となるように、撮影画像中の目標画像領域を拡大または縮小する。解像度変換手段12は、撮影画像から目標画像領域を切り出して、その切り出した画像を拡大または縮小すればよい。また、撮影画像において、投影面のうち、撮影対象画像を投影したいというオペレータの所望の領域に相当する部分が、目標画像領域として、例えばオペレータに指定されてもよい。
パターン位相シフト手段4、撮影制御手段5、位相計算手段6、対応付け手段9、補正手段10、投影制御手段11、および解像度変換手段12は、プログラム(画素位置対応関係特定プログラム)に従って動作するCPUによって実現される。プログラムは、例えば情報処理装置3が備えるプログラム記憶装置(図示せず)に記憶され、CPUは、そのプログラムを読み込み、そのプログラムに従って、パターン位相シフト手段4、撮影制御手段5、位相計算手段6、対応付け手段9、補正手段10、投影制御手段11、および解像度変換手段12として動作してもよい。また、各手段がそれぞれ別個のハードウェアであってもよい。
次に、本実施形態の動作について説明する。
まず、情報処理装置3は、x座標に関する対応付け(ステップS1、図5参照)およびy座標に関する対応付け(ステップS2、図5参照)を行う。このステップS1,S2において、それぞれ、基本パターン画像生成処理、撮影処理を行う。この基本パターン画像生成処理、撮影処理は、第1の実施形態におけるステップS11,S12の処理と同様であり、説明を省略する。
基本パターン画像生成処理および撮影処理の後、解像度変換手段12は、撮影画像における目標画像領域の解像度が観察者に提示する所望の解像度の画像と同じになるように、撮影画像内の目標画像領域を拡大または縮小する。拡大または縮小による解像度変換後の画像は、解像度変換画像と呼ぶことができる。
拡大の場合、解像度変換手段12は、解像度変換後の座標における輝度値を、対応する解像度変換前の座標の輝度値と定める。また、拡大の場合、画素数が増えるので、拡大後の画像の画素のうち、対応する解像度変換前の座標がない画素については、既に定められている輝度値から線形補間あるいはバイリニア補間などによって補間した輝度値を定めればよい。
縮小の場合、解像度変換手段12は、解像度変換後の座標における輝度値を、対応する解像度変換前の座標の輝度値に基づいて定める。縮小の場合、変換後の画像のある一つの画素は、変換前の画像の複数の画素に対応する。解像度変換手段12は、変換後の画素に対応付けられる複数の変換前の画素の輝度値を、その変換後の画素に相当する面積で重み付け、線形和を求めることによって、変換後の画素の輝度値を求める。変換後の画素とは変換後の画像における画素であり、変換前の画素とは変換前の画像における画素である。図12は、縮小変換後の画素の輝度決定の例を示す説明図である。縮小後の画像における画素65は、縮小前の画像における4つの画素61〜64に対応しているものとする。そして、画素61〜64の輝度値は、それぞれP〜Pであるとする。また、画素61は、変換後の画素65だけに対応するのではなく、画素65に接する他の画素(図示せず)にも対応し、画素61において、変換後の画素65に相当する面積は、1/4であるものとする。変換前の他の画素62,63,64についても同様である。従って、図12に示す例では、各画素61〜64の輝度値を、その面積の割合で重みづけ、線形和を求めると、P×(1/4)+P×(1/4)+P×(1/4)+P×(1/4)=(P+P+P+P)/4となる。解像度変換手段12は、この計算を行って、変換後の画素65の輝度値を(P+P+P+P)/4と定めればよい。解像度変換手段12は、変換後の画像における各画素毎に、同様に輝度値を決定する。
解像度変換手段12は、以上のように個々の輝度値を求め、拡大または縮小後の画像を生成する。また、解像度変換手段12は、各撮影画像をそれぞれ同様に拡大または縮小する。
各撮影画像がそれぞれ解像度変換(すなわち拡大または縮小)された後、位相計算手段6は、画素毎に、解像度変換後の各撮影画像(すなわち、各解像度変換画像)間の輝度の変化に基づいて、その変化における初期位相値を求める。この処理は、第1の実施形態におけるステップS13と同様である。続いて、対応付け手段9が、解像度変換画像における画素の座標と、投影される画像における画素の座標との対応付けを行う。この処理は、第1の実施形態におけるステップS14と同様である。
情報処理装置3は、x座標に関する対応付け処理(ステップS1、図5参照)において、基本パターン画像群生成処理および撮影処理を行ってから、上記のように撮影画像に対する解像度変換を行い、解像度変換画像を用いて、初期位相値を計算し、解像度変換画像の画素の座標と、撮影される画像の画素のx座標とを対応付ける。同様に、y座標に関する対応付け処理(ステップS2、図5参照)において、基本パターン画像群生成処理および撮影処理を行ってから、上記のように撮影画像に対する解像度変換を行い、解像度変換画像を用いて、初期位相値を計算し、解像度変換画像の画素の座標と、撮影される画像の画素のy座標とを対応付ける。対応付け手段9は、この結果を用いて、画素対応テーブルを生成する(図5に示すステップS3)。
補正手段10は、この画素対応テーブルを用いて、観察者8に提示するために投影面7に投影する画像を補正する。補正手段10の動作は、第2の実施形態と同様である。また、投影制御手段11は、補正手段10によって補正された画像を投影面7に向けて、投影手段1に投影させる。なお、画像投影時において、投影手段1と投影面7の位置関係は、画素対応テーブル作成時から変えないものとする。また、観察者8は、画素対応テーブル作成時における撮影手段2と同方向から投影面7を見る。この点は、第2の実施形態と同様である。
本実施形態によれば、観察者に見せたい画像である投影対象画像と撮影画像とで解像度が一致していなくても、所望の投影対象画像の解像度に応じた画素対応テーブルを作成し、所望の解像度で投影対象画像を投影することができる。また、投影面の形状によらずに、歪みを抑えた画像を観察者に見せることができる。
また、解像度変換手段12が撮影画像を縮小する場合には、高精度な画素対応テーブルを得ることができる。初期位相値を用いた対応関係(画素対応テーブル)の決定精度は、初期位相値の計測精度に依存し、初期位相値の計測精度は主に、撮影されたパターンのコントラストに対する、撮影画像に生じるノイズの大きさに依存する。撮影されたパターンのコントラストが大きければ、あるいは、ノイズが小さければ、初期位相値の計測精度が向上する。解像度の高いカメラを用いた場合、解像度変換手段12が基準パターン画像群の撮影画像を縮小すれば、撮影画像を、コントラスト:ノイズの比が大きい画像に変換できる。なぜなら、縮小処理において複数画素の輝度値の加算を行うため、各画素についてランダムであるノイズは互いに打ち消されて小さくなり、コントラストは加算により高くなるためである。そのような変換後の画像を用いて、初期位相値を計算し、画素対応テーブルを生成することで、画素対応テーブルの精度を向上させることができる。
次に、上記の各実施形態の変形例について説明する。
上記の各実施形態においてパターン位相シフト手段4は、x軸、y軸の各座標軸に関してそれぞれ、複数種類の基準パターン画像群を生成してもよい。以下、パターン位相シフト手段4が各座標軸毎に2種類の基準パターン画像群を生成する場合について説明する。
本変形例では、パターン位相シフト手段4は、第1の基準パターン画像群と第2の基準パターン画像群を生成する。第2の基準パターン画像群における座標軸方向の輝度変化の周期は、第1の基準パターン画像群における座標方向の輝度変化の周期の1/a倍である。換言すれば、第2の基準パターン画像群は、第1の基準パターン画像群を座標軸方向に1/a倍に圧縮した画像群である。ただし、第2の基準パターン画像群に属する各画像は、第1の基準パターン画像群に属する各画像と同じ大きさであり、第2の基準パターン画像群に属する画像は、同じパターンが繰り返し現れる画像となっている。すなわち、第2の基準パターン画像群に属する画像は、第1の基準パターン画像群に属する画像を1/a倍に圧縮したパターンをa回繰り返した画像となっている。aは、例えば1より大きな値である。ここでは、a=2の場合を例示して説明する。
図13は2種類の基準パターン画像群を模式的に示す説明図である。図13(a)は、第1の基準パターン画像群を示し、図13(b)は、第2の基準パターン画像群を示す。また、図13では、x軸方向に輝度を変化させた場合を示し、実線は輝度が最小となる箇所(最も暗い場所)を表し、波線は輝度が最高となる箇所(最も明るい場所)を表している。a=2として上記のように各基準パターン画像群を求めた場合、図13に示すように、第2の基準パターン画像群における輝度変化の周期は、第1の基準パターン画像群における輝度変化の周期の1/2倍となっている。また、第2の基準パターン画像群に属する画像は、第1の基準パターン画像群に属する画像を1/2倍に圧縮したパターンを2回繰り返した画像となっている。
パターン位相シフト手段4は、第1の実施形態で説明した基準パターン画像群と同様に第1の基準パターン画像群を生成すればよい。また、パターン位相シフト手段4は、座標値に応じた初期位相値を求める関数(例えば式(1)、式(9))をa倍した関数を用いて、第2の基準パターン画像群を求めればよい。例えば、第1の基準パターン画像群を生成する際に、式(1)や式(9)を用いた場合、第2の基準パターン画像群を生成する際には、以下に示す式(1’)や式(9’)を用いればよい。
(x)=T/(w−1+2・m)・(x−m)・a 式(1’)
(y)=T/(h−1+2・m)・(y−m’)・a 式(9’)
第1の基準パターン画像群の生成処理と第2の基準パターン画像群の生成処理は、座標値に応じた初期位相値を求める関数以外は同じ処理である。
撮影制御手段5は、第1の基準パターン画像群に属する各画像と第2の基準パターン画像群に属する各画像とをそれぞれ投影面7に向けて、1画像ずつ投影手段1に投影させる。そして、撮影制御手段5は、投影面7に投影された各画像を、1画像ずつ撮影手段2に撮影させ、撮影画像を撮影手段2から受信する。
次に、位相計算手段6は、第1の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を、画素毎に求める。この処理は、第1の実施形態におけるステップS13と同様の処理である。また、位相計算手段6は、同様に、第2の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を、画素毎に求める。
次に、対応付け手段9は、第1の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値(第1の初期位相値群と記す。)と、第2の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値(第2の初期位相値群と記す。)とを用いて、初期位相値から求められる座標値と、撮影画像における画素とを対応付ける。具体的には、対応付け手段9は、第2の初期位相値群について、それぞれ、初期位相値から座標を逆算する。第2の基準パターン画像群生成時に初期位相値の計算に用いる式が、式(1’)や式(9’)である場合、それらの式の逆算を行い、座標値を計算すればよい。
ただし、図13(b)に示すように、第2の基準パターン画像群に属する各画像は、それぞれ同じパターンを繰り返した画像となっている。そのため、座標値が異なっていても初期位相値が一致して、初期位相値から座標値を一意に求められないという不定性がある。不定性を解消するために、対応付け手段9は、第2の初期位相値群から逆算で求めた座標値に、第2の基準パターン画像群における輝度変化の周期の整数倍を加算した座標値を候補として計算する。例えば、逆算で求めた座標値をtとし、第2の基準パターン画像群における輝度変化の周期をQとすると、求める座標値の候補として、t+Q,t+2Q,・・・等を計算する。
また、対応付け手段9は、対応する座標値を求めようとしている第2の基準パターン画像群に応じた撮影画像の画素と同じ位置にある、第1の基準パターン画像群に応じた撮影画像の画素に関しても、その初期位相値から座標値を逆算する。そして、対応付け手段9は、第2の初期位相値群から求めた座標の候補のうち、第1の基準パターン画像群に応じた撮影画像の画素の初期位相値から逆算した座標に最も近い座標を、画素に対応する座標値として決定する。この処理を各画素毎に行えばよい。
本変形例では、対応付け手段9の対応付け処理の精度を向上させることができる。初期位相値の計測誤差は、どちらの基準パターン画像群でも同じであるが、第2の基準パターン画像群の方では、対応座標に対する初期位相値はa倍多く変化する。つまり、初期位相値から対応座標を求めたときの誤差は1/aになる。このため、対応付け処理の精度を向上させることができる。
また、上記の各実施形態やその変形例において、補正手段10は、投影手段1によって投影される画像の輝度を、反射率を用いて更新してから、その画像に対する補正を行ってもよい。この場合、情報処理装置3は、投影面における反射率を計算する反射率計算手段を備えるが、反射率計算手段は、情報処理装置3が備える手段(例えば、補正手段10あるいは位相計算手段6など)によって実現されていてもよい。ここでは、補正手段10が反射率計算手段としても動作する場合を例にして説明する。
補正手段10は、パターン位相シフト手段4が生成した基準パターン画像群における輝度の振幅(Aとする)と、撮影手段2が撮影した撮影画像における輝度の振幅(Aとする)とから、反射率Acpを計算する。補正手段10は、Acp=A/Aを計算することによって、反射率Acpを求めればよい。
また、補正手段10は、撮影画像における輝度の振幅Aを基準パターン画像群の撮影画像から求めるのではなく、基準パターン画像群と別に最大輝度の画像と最小輝度の画像をそれぞれ投影面に投影したときに、その各画像を撮影した撮影画像の輝度値の差分から求めてもよい。この場合、撮影制御手段5が、基準パターン画像群とは別に、全画素の輝度値が最大値に設定された明画像(全体が明るい画像)と、全画素の輝度値が最小値に設定された暗画像(全体が暗い画像)とをそれぞれ、投影手段1に投影させ、投影された明画像、暗画像をそれぞれ撮影手段2に撮影させればよい。補正手段10は、その二つの撮影画像の輝度値の差分から振幅Aを求めればよい。
また、補正手段10は、観察者に提示するために投影手段1によって投影される画像の輝度をKとした場合、その輝度を反射率Acpで除算した値(すなわち、K/Acp)に更新する。そして、輝度の更新後、画素対応テーブルを用いて、その画像を補正すればよい。
上記の実施形態では、投影手段1が一つである場合を例にして説明したが、画素位置対応関係特定システムが投影手段1を複数備えていてもよい。その場合、情報処理装置3は、個々の投影手段1毎に画素対応テーブルを作成すればよい。そして、複数の投影手段1に画像を投影させる場合、投影手段1毎に作成した画素対応テーブルを用いて、ユーザに提示する画像を補正すればよい。
また、複数の投影手段1は、投影面7における同一領域に画像を投影してもよい。この場合、同一の領域に複数の投影手段1から投影された画像をユーザに提示するので、投影面7に投影された画像を明るくすることができる。
また、大きな画像を分割した個々の画像の投影を各投影手段1に分担させ、各投影手段1が投影面上の投影位置をずらして投影してもよい。例えば、第1の投影手段1が、ユーザに提示する画像における右半分の投影を分担し、第2の投影手段1が左半分の投影を分担してもよい。そして、第1の投影手段1が画像を投影する領域の隣に、第2の投影手段1が画像を投影してもよい。この場合、一つの投影手段1のみを用いて画像を投影する場合よりも、大きな画像をユーザに提示することができる。
また、以上の説明では、撮影手段1が基準パターン画像群に属する画像を撮影手段1が1画像ずつ投影し、撮影手段2がその画像を1画像ずつ撮影する場合について説明したが、投影手段1は、複数の画像を同時に投影面に投影してもよい。このとき、撮影手段2は、投影された画像を撮影し、光の波長が異なる色毎に分離すればよい。
投影手段1が1台だけ設けられているとする。このとき、投影手段1は、基準パターン画像群に属する画像を光の波長が異なる色の画像として同時に投影してもよい。例えば、基準パターン画像群に属する画像が三つあり、投影手段1は、赤、緑、青の3色で投影可能であるとする。この場合、投影手段1は、赤、緑、青の3色でそれぞれの1〜3番目の画像を同時に投影してもよい。この場合、撮影手段2は、赤、緑、青で同時に投影された画像を撮影し、赤、緑、青の各色で分離すればよい。情報処理装置3は、分離された画像に対して処理を行えばよい。
また、複数台の投影手段が設けられ、各投影手段が、それぞれ光の波長が異なる色で画像を同時に投影してもよい。例えば、投影手段1を3台設け、1台目の投影手段による赤の画像の投影と、2台目の投影手段による緑の画像の投影と、3台目の投影手段による青の画像の投影とを同時に行ってもよい。この場合も、撮影手段2は、赤、緑、青で同時に投影された画像を撮影し、赤、緑、青の各色で分離すればよい。
また、複数台の投影手段を設け、各投影手段がそれぞれ同時に複数の色で画像を投影する構成であってもよい。例えば、15種類の波長で光を投影できる投影手段を5台設ける。この場合、個々の投影手段が3種類の画像をそれぞれ異なる波長の色で同時に投影する。また、各投影手段も同時に投影を行う。撮影手段2は、15種類の波長の色で投影された各画像を撮影し、15種類の各色に分離すればよい。
また、上記の各実施形態では、画素位置対応関係特定システムが、撮影手段2(図1参照)を備える場合を説明したが、画素位置対応関係特定システムが撮影手段2を備えず、投影面7(図1参照)に投影された画像を投影する投影手段が、画素位置対応関係特定システムとは別に設けられてもよい。このような投影手段として、例えば、カメラ付きの携帯端末等を用いることができる。この場合、情報処理装置3は、撮影制御手段5の代わりに、基準パターン画像群に属する画像を投影手段1に投影させる基準パターン投影制御手段を含んでいればよい。カメラ付き携帯端末は、例えば観察者の操作により、投影面に投影された基準パターン画像群の各画像を撮影し、情報処理装置3に出力する。情報処理装置3は、外部から入力された複数の撮影画像を用いて、上記の各実施形態と同様の動作を行えばよい。
次に、本発明の概要を説明する。図14は、本発明の概要を示すブロック図である。本発明の画素位置対応関係特定システムは、投影手段71(例えば、実施形態における投影手段1)と、撮影手段72(例えば、実施形態における撮影手段2)と、基準パターン画像群生成手段73(例えば、パターン位相シフト手段4)と、撮影制御手段74(例えば、実施形態における撮影制御手段5)と、位相計算手段75(例えば、実施形態における位相計算手段6)と、対応付け手段76(例えば、実施形態における対応付け手段9)とを備える。
投影手段71は、画像を投影面に投影する。撮影手段72は、投影面に投影された画像を撮影する。
基準パターン画像群生成手段73は、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する。
撮影制御手段74は、基準パターン画像群に属する画像を投影手段71に投影させ、その結果投影面に投影された画像を撮影手段72に撮影させる。
位相計算手段75は、基準パターン画像群の各画像を投影手段71が投影したときに撮影手段72が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する。
対応付け手段76は、基準パターン画像群生成手段が座標値から初期位相値を求める計算(例えば式(1)の計算)の逆算を、位相計算手段75が計算した初期位相値に対して行い、逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と投影手段71における画素との対応関係を特定する。
詳細には、基準パターン画像群生成手段73は、第1座標軸(例えばx軸)に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸(例えばy軸)に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成する。
そして、撮影制御手段74は、第1座標軸に関する基準パターン画像群を投影手段71に投影させ、その結果投影面に投影された画像を撮影手段72に撮影させ、第2座標軸に関する基準パターン画像群を投影手段71に投影させ、その結果投影面に投影された画像を撮影手段72に撮影させる。
位相計算手段75は、第1座標軸に関する基準パターン画像群の各画像を投影手段71が投影したときに撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を投影手段71が投影したときに撮影手段72が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する。
対応付け手段76は、第1座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第1座標軸の座標(例えばx座標)から初期位相値を求める計算(例えば、式(1)の計算)の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第2座標軸の座標(例えばy座標)から初期位相値を求める計算(例えば、式(9)の計算)の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に第2座標軸の座標を対応付けることによって、撮影画像の画素と、投影手段71によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定する。
また、上記の実施形態には、投影対象画像における画素と投影手段71における画素との対応関係に基づいて、投影対象画像を補正する補正手段(例えば、実施形態における補正手段10)と、補正手段によって補正された画像を、投影手段71に投影させる投影制御手段(例えば、実施形態における投影制御手段11)とを備える構成が開示されている。
また、上記の実施形態には、基準パターン画像群生成手段73が、第1の基準パターン画像群と、第1の基準パターン画像群における輝度変化の周期を所定倍(例えば、1/a倍)とした第2の基準パターン画像群を生成し、撮影制御手段74が、第1の基準パターン画像群に属する画像および第2の基準パターン画像群に属する画像を投影手段71に投影させ、その結果投影面に投影された画像を撮影手段72に撮影させ、位相計算手段75が、第1の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を計算し、第2の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を計算し、対応付け手段76は、第1の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値と、第2の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値とを用いて、初期位相値から得られる座標値と撮影画像の画素とを対応付け、その対応関係を用いて投影対象画像における画素と投影手段71における画素との対応関係を特定する構成が開示されている。そのような構成によれば、対応付けの精度を向上させることができる。
また、上記の実施形態には、投影面における反射率を計算する反射率計算手段(例えば、補正手段10)を備え、補正手段が、投影対象画像の画素の輝度値を、その輝度値を反射率で除算した値に更新し、更新後の画像に対して補正を行う構成が開示されている。
また、位相の変化に伴い連続して変化する連続関数(例えば、f)は、関数値の変化が正弦波となる関数である構成が開示されている。
また、投影手段を複数備える構成が開示されている。
また、上記の実施形態には、投影手段1が、基準パターン画像群に属する画像を光の波長が異なる色の画像として同時に投影し、撮影手段2が、その画像を撮影して光の波長が異なる色毎に分離する構成が開示されている。
また、上記の実施形態には、以下の構成の画素位置対応関係特定システムが開示されている。
画像を投影面に投影する投影手段(例えば、実施形態における投影手段1)と、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する基準パターン画像群生成手段(例えば、パターン位相シフト手段4)と、基準パターン画像群に属する画像を投影手段に投影させる基準パターン投影制御手段(例えば、実施形態における撮影制御手段5)と、投影面に投影された基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する位相計算手段(例えば、実施形態における位相計算手段6)と、基準パターン画像群生成手段が座標値から初期位相値を求める計算の逆算を、位相計算手段が計算した初期位相値に対して行い、逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と投影手段における画素との対応関係を特定する対応付け手段(例えば、実施形態における対応付け手段9)とを備え、基準パターン画像生成手段が、第1座標軸(例えばx軸)に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸(例えばy軸)に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成し、基準パターン投影制御手段が、第1座標軸に関する基準パターン画像群を投影手段に投影させ、第2座標軸に関する基準パターン画像群を投影手段に投影させ、位相計算手段が、第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、対応付け手段が、第1座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第1座標軸の座標から初期位相値を求める計算の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第2座標軸の座標から初期位相値を求める計算の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に第2座標軸の座標を対応付けることによって、撮影画像の画素と、投影手段によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影手段における画素との対応関係を特定することを特徴する画素位置対応関係特定システム。
この構成は、図14における撮影手段72を画素位置対応関係特定システムの外部に設けた構成に相当する。
また、上記の実施形態には、以下の構成の画素位置対応関係特定システムが開示されている。
(1)画像を投影面に投影する投影部(例えば、実施形態における投影手段1)と、投影面に投影された画像を撮影する撮影部(例えば、実施形態における撮影手段2)と、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する基準パターン画像群生成部(例えば、パターン位相シフト手段4)と、基準パターン画像群に属する画像を投影部に投影させ、その結果投影面に投影された画像を撮影部に撮影させる撮影制御部(例えば、実施形態における撮影制御手段5)と、基準パターン画像群の各画像を投影部が投影したときに撮影部が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する位相計算部(例えば、実施形態における位相計算手段6)と、基準パターン画像群生成部が座標値から初期位相値を求める計算の逆算を、位相計算部が計算した初期位相値に対して行い、逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と投影部における画素との対応関係を特定する対応付け部(例えば、実施形態における対応付け手段9)とを備え、基準パターン画像生成部が、第1座標軸(例えばx軸)に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸(例えばy軸)に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成し、撮影制御部が、第1座標軸に関する基準パターン画像群を投影部に投影させ、その結果投影面に投影された画像を撮影部に撮影させ、第2座標軸に関する基準パターン画像群を投影部に投影させ、その結果投影面に投影された画像を撮影部に撮影させ、位相計算部が、第1座標軸に関する基準パターン画像群の各画像を投影部が投影したときに撮影部が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を投影部が投影したときに撮影部が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、対応付け部が、第1座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第1座標軸の座標から初期位相値を求める計算の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第2座標軸の座標から初期位相値を求める計算の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に第2座標軸の座標を対応付けることによって、撮影画像の画素と、投影部によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影部における画素との対応関係を特定することを特徴する画素位置対応関係特定システム。
(2)投影対象画像における画素と投影部における画素との対応関係に基づいて、投影対象画像を補正する補正部(例えば、実施形態における補正手段10)と、補正部によって補正された画像を、投影部に投影させる投影制御部(例えば、実施形態における投影制御手段11)とを備える画素位置対応関係特定システム。
(3)基準パターン画像群生成部が、第1の基準パターン画像群と、第1の基準パターン画像群における輝度変化の周期を所定倍(例えば、1/a倍)とした第2の基準パターン画像群を生成し、撮影制御部が、第1の基準パターン画像群に属する画像および第2の基準パターン画像群に属する画像を投影部に投影させ、その結果投影面に投影された画像を撮影部に撮影させ、位相計算部が、第1の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を計算し、第2の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を計算し、対応付け部が、第1の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値と、第2の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値とを用いて、初期位相値から得られる座標値と撮影画像の画素とを対応付け、その対応関係を用いて投影対象画像における画素と投影部における画素との対応関係を特定する画素位置対応関係特定システム。
(4)投影面における反射率を計算する反射率計算部(例えば、補正手段10)を備え、補正部が、投影対象画像の画素の輝度値を、当該輝度値を反射率で除算した値に更新し、更新後の画像に対して補正を行う画素位置対応関係特定システム。
(5)位相の変化に伴い連続して変化する連続関数(例えば、f)は、関数値の変化が正弦波となる関数である画素位置対応関係特定システム。
(6)投影部を複数備える画素位置対応関係特定システム。
(7)投影部が、基準パターン画像群に属する画像を光の波長が異なる色の画像として同時に投影し、撮影部が、画像を撮影して光の波長が異なる色毎に分離する画素位置対応関係特定システム。
(8)画像を投影面に投影する投影部(例えば、実施形態における投影手段1)と、位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する基準パターン画像群生成部(例えば、パターン位相シフト手段4)と、基準パターン画像群に属する画像を投影部に投影させる基準パターン投影制御部(例えば、実施形態における撮影制御手段5)と、投影面に投影された基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する位相計算部(例えば、実施形態における位相計算手段6)と、基準パターン画像群生成部が座標値から初期位相値を求める計算の逆算を、位相計算部が計算した初期位相値に対して行い、逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と投影部における画素との対応関係を特定する対応付け部(例えば、実施形態における対応付け手段9)とを備え、基準パターン画像生成部が、第1座標(例えばx軸)軸に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸(例えばy軸)に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成し、基準パターン投影制御部が、第1座標軸に関する基準パターン画像群を投影部に投影させ、第2座標軸に関する基準パターン画像群を投影部に投影させ、位相計算部が、第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、対応付け部が、第1座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第1座標軸の座標から初期位相値を求める計算の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第2座標軸の座標から初期位相値を求める計算の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に第2座標軸の座標を対応付けることによって、撮影画像の画素と、投影部によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と投影部における画素との対応関係を特定することを特徴する画素位置対応関係特定システム。
(8)の構成は、図14における撮影手段72を画素位置対応関係特定システムの外部に設けた構成に相当する。
また、上記の実施形態には、以下の構成の画像補正システムが開示されている。
(9)投影対象画像における画素と画像を投影する投影手段における画素との対応関係に基づいて、投影手段によって投影される投影対象画像を補正する補正手段(例えば、補正手段10)を備えることを特徴とする画像補正システム。
(10)投影対象画像における画素と画像を投影する投影部における画素との対応関係に基づいて、投影部によって投影される投影対象画像を補正する補正部(例えば、補正手段10)を備えることを特徴とする画像補正システム。
(11)画像を投影する投影部(例えば、実施形態における投影手段1)と、補正部によって補正された画像を、投影部に投影させる投影制御部(例えば、実施形態における撮影制御部5)とを備える画像補正システム。
(9),(10)の画像補正システムは、例えば、補正手段10(図10、図11参照)を備えるように構成される。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2008年11月17日に出願された日本出願特願2008−293535を基礎とする優先権を主張し、その開示の全てをここに取り込む。
産業上の利用の可能性
本発明は、投影面に画像を投影する際の画像の歪みを補正するために、投影対象となる画像の画素と、実際に投影面に投影された画像の画素との対応関係を定める画素位置対応関係特定システムや、その対応関係を用いて、観察者に提示する画像を補正して投影する画像投影システムに好適に適用される。
1 投影手段
2 撮影手段
3 情報処理装置
4 パターン位相シフト手段
5 撮影制御手段
6 位相計算手段
7 投影面
8 観察者
9 対応付け手段
10 補正手段
11 投影制御手段
12 解像度変換手段

Claims (17)

  1. 画像を投影面に投影する投影手段と、
    投影面に投影された画像を撮影する撮影手段と、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する基準パターン画像群生成手段と、
    基準パターン画像群に属する画像を前記投影手段に投影させ、その結果前記投影面に投影された画像を前記撮影手段に撮影させる撮影制御手段と、
    基準パターン画像群の各画像を前記投影手段が投影したときに前記撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する位相計算手段と、
    基準パターン画像群生成手段が座標値から初期位相値を求める計算の逆算を、前記位相計算手段が計算した初期位相値に対して行い、前記逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と前記投影手段における画素との対応関係を特定する対応付け手段とを備え、
    前記基準パターン画像生成手段は、
    第1座標軸に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成し、
    前記撮影制御手段は、
    第1座標軸に関する基準パターン画像群を前記投影手段に投影させ、その結果前記投影面に投影された画像を前記撮影手段に撮影させ、第2座標軸に関する基準パターン画像群を前記投影手段に投影させ、その結果前記投影面に投影された画像を前記撮影手段に撮影させ、
    前記位相計算手段は、
    第1座標軸に関する基準パターン画像群の各画像を前記投影手段が投影したときに前記撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を前記投影手段が投影したときに前記撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、
    前記対応付け手段は、
    第1座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第1座標軸の座標から初期位相値を求める計算の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に前記第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影した撮影画像から計算された初期位相値に対して、第2座標軸の座標から初期位相値を求める計算の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に前記第2座標軸の座標を対応付けることによって、撮影画像の画素と、前記投影手段によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と前記投影手段における画素との対応関係を特定する
    ことを特徴する画素位置対応関係特定システム。
  2. 投影対象画像における画素と前記投影手段における画素との対応関係に基づいて、投影対象画像を補正する補正手段と、
    前記補正手段によって補正された画像を、前記投影手段に投影させる投影制御手段とを備える
    請求項1に記載の画素位置対応関係特定システム。
  3. 基準パターン画像群生成手段は、第1の基準パターン画像群と、前記第1の基準パターン画像群における輝度変化の周期を所定倍とした第2の基準パターン画像群を生成し、
    撮影制御手段は、前記第1の基準パターン画像群に属する画像および前記第2の基準パターン画像群に属する画像を前記投影手段に投影させ、その結果前記投影面に投影された画像を前記撮影手段に撮影させ、
    位相計算手段は、前記第1の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を計算し、前記第2の基準パターン画像群に応じた撮影画像に基づいて各画素の輝度変化における初期位相値を計算し、
    対応付け手段は、前記第1の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値と、前記第2の基準パターン画像群に応じた撮影画像に基づいて計算した初期位相値とを用いて、初期位相値から得られる座標値と撮影画像の画素とを対応付け、その対応関係を用いて投影対象画像における画素と前記投影手段における画素との対応関係を特定する
    請求項1または請求項2に記載の画素位置対応関係特定システム。
  4. 投影面における反射率を計算する反射率計算手段を備え、
    補正手段は、投影対象画像の画素の輝度値を、当該輝度値を反射率で除算した値に更新し、更新後の画像に対して補正を行う
    請求項2または請求項3に記載の画素位置対応関係特定システム。
  5. 位相の変化に伴い連続して変化する前記連続関数は、関数値の変化が正弦波となる関数である請求項1から請求項4のうちのいずれか1項に記載の画素位置対応関係特定システム。
  6. 投影手段を複数備える
    請求項1から請求項5のうちのいずれか1項に記載の画素位置対応関係特定システム。
  7. 投影手段は、基準パターン画像群に属する画像を光の波長が異なる色の画像として同時に投影し、
    撮影手段は、前記画像を撮影して光の波長が異なる色毎に分離する
    請求項1から請求項6のうちのいずれか1項に記載の画素位置対応関係特定システム。
  8. 画像を投影面に投影する投影手段と、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を一つの座標軸に沿って座標値毎に連続的に変化させた画像群である基準パターン画像群を生成する基準パターン画像群生成手段と、
    基準パターン画像群に属する画像を前記投影手段に投影させる基準パターン投影制御手段と、
    投影面に投影された基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する位相計算手段と、
    基準パターン画像群生成手段が座標値から初期位相値を求める計算の逆算を、前記位相計算手段が計算した初期位相値に対して行い、前記逆算によって得られる座標値と撮影画像の画素とを対応付け、投影対象画像における画素と前記投影手段における画素との対応関係を特定する対応付け手段とを備え、
    前記基準パターン画像生成手段は、
    第1座標軸に沿って初期位相値を変化させた第1座標軸に関する基準パターン画像群と、第2座標軸に沿って初期位相値を変化させた第2座標軸に関する基準パターン画像群とを生成し、
    前記基準パターン投影制御手段は、
    第1座標軸に関する基準パターン画像群を前記投影手段に投影させ、第2座標軸に関する基準パターン画像群を前記投影手段に投影させ、
    前記位相計算手段は、
    第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、第2座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、
    前記対応付け手段は、
    第1座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第1座標軸の座標から初期位相値を求める計算の逆算を行って第1座標軸の座標を計算し、撮影画像の画素に前記第1座標軸の座標を対応付け、第2座標軸に関する基準パターン画像群を撮影して得られた撮影画像から計算された初期位相値に対して、第2座標軸の座標から初期位相値を求める計算の逆算を行って第2座標軸の座標を計算し、撮影画像の画素に前記第2座標軸の座標を対応付けることによって、撮影画像の画素と、前記投影手段によって投影される画像の画素との対応関係を特定し、撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と前記投影手段における画素との対応関係を特定する
    ことを特徴する画素位置対応関係特定システム。
  9. 投影対象画像における画素と画像を投影する投影手段における画素との対応関係に基づいて、前記投影手段によって投影される投影対象画像を補正する補正手段を備える
    ことを特徴とする画像補正システム。
  10. 画像を投影する投影手段と、
    前記補正手段によって補正された画像を、前記投影手段に投影させる投影制御手段とを備える
    請求項9に記載の画像補正システム。
  11. 位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成し、
    第1座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、その結果投影面に投影された画像を撮影手段に撮影させ、
    第1座標軸に関する基準パターン画像群の各画像を前記投影手段が投影したときに前記撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、
    第1座標軸に関する基準パターン画像群を生成する処理で第1座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した前記初期位相値に対して行い、前記逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付け、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成し、
    第2座標軸に関する基準パターン画像群に属する画像を前記投影手段に投影させ、その結果投影面に投影された画像を前記撮影手段に撮影させ、
    第2座標軸に関する基準パターン画像群の各画像を前記投影手段が投影したときに前記撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、
    第2座標軸に関する基準パターン画像群を生成する処理で第2座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した前記初期位相値に対して行い、前記逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付け、
    撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と前記投影手段における画素との対応関係を特定する
    ことを特徴とする画素位置対応関係特定方法。
  12. 位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成し、
    第1座標軸に関する基準パターン画像群に属する画像を投影手段に投影させ、
    投影面に投影された第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、
    第1座標軸に関する基準パターン画像群を生成する処理で第1座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した前記初期位相値に対して行い、前記逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付け、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成し、
    第2座標軸に関する基準パターン画像群に属する画像を前記投影手段に投影させ、
    投影面に投影された第2座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算し、
    第2座標軸に関する基準パターン画像群を生成する処理で第2座標軸の座標から初期位相値を求める計算の逆算を、複数の撮影画像における画素の輝度変化から計算した前記初期位相値に対して行い、前記逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付け、
    撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と前記投影手段における画素との対応関係を特定する
    ことを特徴とする画素位置対応関係特定方法。
  13. 投影対象画像における画素と前記投影手段における画素との対応関係に基づいて、投影対象画像を補正し、
    補正された画像を、前記投影手段に投影させる
    請求項11または請求項12に記載の画素位置対応関係特定方法。
  14. 画像を投影面に投影する投影手段と、投影面に投影された画像を撮影する撮影手段とを備えるコンピュータに搭載される画素位置対応関係特定プログラムであって、
    前記コンピュータに、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成する第1基準パターン画像群生成処理、
    第1座標軸に関する基準パターン画像群に属する画像を前記投影手段に投影させ、その結果投影面に投影された画像を前記撮影手段に撮影させる第1撮影制御処理、
    第1座標軸に関する基準パターン画像群の各画像を前記投影手段が投影したときに前記撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第1位相計算処理、
    第1基準パターン画像群生成処理で第1座標軸の座標から初期位相値を求める計算の逆算を、第1位相計算処理で計算した初期位相値に対して行い、前記逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付ける第1対応付け処理、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成する第2基準パターン画像群生成処理、
    第2座標軸に関する基準パターン画像群に属する画像を前記投影手段に投影させ、その結果投影面に投影された画像を前記撮影手段に撮影させる第2撮影制御処理、
    第2座標軸に関する基準パターン画像群の各画像を前記投影手段が投影したときに前記撮影手段が撮影した複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第2位相計算処理、
    第2基準パターン画像群生成処理で第2座標軸の座標から初期位相値を求める計算の逆算を、第2位相計算処理で計算した初期位相値に対して行い、前記逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付ける第2対応付け処理、および、
    撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と前記投影手段における画素との対応関係を特定する画素対応付け処理
    を実行させるための画素位置対応関係特定プログラム。
  15. 画像を投影面に投影する投影手段を備えるコンピュータに搭載される画素位置対応関係特定プログラムであって、
    前記コンピュータに、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第1座標軸に沿って座標値毎に連続的に変化させた画像群である第1座標軸に関する基準パターン画像群を生成する第1基準パターン画像群生成処理、
    第1座標軸に関する基準パターン画像群に属する画像を前記投影手段に投影させる第1基準パターン投影制御処理、
    投影面に投影された第1座標軸に関する基準パターン画像群の各画像を撮影して得られた複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第1位相計算処理、
    第1基準パターン画像群生成処理で第1座標軸の座標から初期位相値を求める計算の逆算を、第1位相計算処理で計算した初期位相値に対して行い、前記逆算によって得られる第1座標軸の座標と撮影画像の画素とを対応付ける第1対応付け処理、
    位相の変化に伴い連続して変化する連続関数の関数値として輝度値を定めて、画像毎に位相を変化させて輝度値を決定した画像群であって、初期位相値を第2座標軸に沿って座標値毎に連続的に変化させた画像群である第2座標軸に関する基準パターン画像群を生成する第2基準パターン画像群生成処理、
    第2座標軸に関する基準パターン画像群に属する画像を前記投影手段に投影させる第2基準パターン投影制御処理、
    投影面に投影された第2座標軸に関する基準パターン画像群の各画像を撮影して得られる複数の撮影画像における画素の輝度変化から、撮影画像におけるそれぞれの画素の輝度変化での初期位相値を計算する第2位相計算処理、
    第2基準パターン画像群生成処理で第2座標軸の座標から初期位相値を求める計算の逆算を、第2位相計算処理で計算した初期位相値に対して行い、前記逆算によって得られる第2座標軸の座標と撮影画像の画素とを対応付ける第2対応付け処理、および、
    撮影画像の画素と座標との対応関係を用いて投影対象画像における画素と前記投影手段における画素との対応関係を特定する画素対応付け処理
    を実行させるための画素位置対応関係特定プログラム。
  16. コンピュータに、
    投影対象画像における画素と前記投影手段における画素との対応関係に基づいて、投影対象画像を補正する補正処理、および、
    前記補正処理で補正された画像を、前記投影手段に投影させる投影制御処理
    を実行させる請求項14または請求項15に記載の画素位置対応関係特定プログラム。
  17. コンピュータに、
    投影対象画像における画素と画像を投影する投影手段における画素との対応関係に基づいて、前記投影手段によって投影される投影対象画像を補正する補正処理
    を実行させるための画像補正プログラム。
JP2010537676A 2008-11-17 2009-11-05 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム Active JP5445461B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010537676A JP5445461B2 (ja) 2008-11-17 2009-11-05 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2008293535 2008-11-17
JP2008293535 2008-11-17
PCT/JP2009/005869 WO2010055625A1 (ja) 2008-11-17 2009-11-05 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム
JP2010537676A JP5445461B2 (ja) 2008-11-17 2009-11-05 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム

Publications (2)

Publication Number Publication Date
JPWO2010055625A1 true JPWO2010055625A1 (ja) 2012-04-12
JP5445461B2 JP5445461B2 (ja) 2014-03-19

Family

ID=42169771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010537676A Active JP5445461B2 (ja) 2008-11-17 2009-11-05 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム

Country Status (3)

Country Link
US (1) US8791880B2 (ja)
JP (1) JP5445461B2 (ja)
WO (1) WO2010055625A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011006985A1 (de) * 2011-04-07 2012-10-11 Siemens Aktiengesellschaft Verfahren und Einrichtung zur optischen Fokussierung
US20130141408A1 (en) * 2011-12-06 2013-06-06 Hao Kou Automatic Optical Detection Method and Optical Automatic Detector
JP6126519B2 (ja) * 2013-11-29 2017-05-10 日本電信電話株式会社 空間投影装置、空間投影方法、空間投影プログラム及び記録媒体
JP6510213B2 (ja) * 2014-02-18 2019-05-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 投影システム、半導体集積回路、および画像補正方法
JP6618249B2 (ja) 2014-02-18 2019-12-11 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 投影システムおよび半導体集積回路
CN107238996B (zh) * 2016-03-28 2020-10-23 中强光电股份有限公司 投影系统以及投影画面的校正方法
JP6780315B2 (ja) 2016-06-22 2020-11-04 カシオ計算機株式会社 投影装置、投影システム、投影方法及びプログラム
JP6642610B2 (ja) * 2018-03-22 2020-02-05 カシオ計算機株式会社 投影制御装置、投影装置、投影制御方法及びプログラム
US20230215130A1 (en) * 2020-06-15 2023-07-06 Sony Group Corporation Image processing apparatus, image processing method, program, and image projection method
JP7184072B2 (ja) * 2020-10-23 2022-12-06 セイコーエプソン株式会社 特定方法、特定システム、及びプログラム
CN113450254B (zh) * 2021-05-20 2022-06-17 北京城市网邻信息技术有限公司 图像处理方法、装置、电子设备和计算机可读存储介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62200207A (ja) * 1986-02-28 1987-09-03 Nippon Telegr & Teleph Corp <Ntt> 画像歪曲の測定方法
JPH04278406A (ja) * 1991-03-07 1992-10-05 Sharp Corp 3次元計測方法
JP3417377B2 (ja) 1999-04-30 2003-06-16 日本電気株式会社 三次元形状計測方法及び装置並びに記録媒体
JP4507307B2 (ja) * 1999-09-16 2010-07-21 独立行政法人科学技術振興機構 映像投影装置
JP3709395B2 (ja) 2002-12-27 2005-10-26 オリンパス株式会社 画像投影システム
JP2004264249A (ja) 2003-03-04 2004-09-24 Fujitsu Ltd 格子パターン投影法における画像処理方法、計測装置及び画像処理装置
JP3951984B2 (ja) 2003-08-22 2007-08-01 日本電気株式会社 画像投影方法、及び画像投影装置
JP2006003212A (ja) * 2004-06-17 2006-01-05 Konica Minolta Sensing Inc 位相計測システム
JP2006033357A (ja) * 2004-07-15 2006-02-02 Olympus Corp 画像変換装置及び映像投影装置
JP4751084B2 (ja) 2005-01-11 2011-08-17 三菱プレシジョン株式会社 マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置
JP2007142495A (ja) 2005-11-14 2007-06-07 Nippon Telegr & Teleph Corp <Ntt> 平面投影装置、及び平面投影プログラム

Also Published As

Publication number Publication date
US8791880B2 (en) 2014-07-29
JP5445461B2 (ja) 2014-03-19
US20110216051A1 (en) 2011-09-08
WO2010055625A1 (ja) 2010-05-20

Similar Documents

Publication Publication Date Title
JP5445461B2 (ja) 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム
KR100796849B1 (ko) 휴대 단말기용 파노라마 모자이크 사진 촬영 방법
CN105026997B (zh) 投影系统、半导体集成电路及图像修正方法
US7317558B2 (en) System and method for image processing of multiple images
TWI253006B (en) Image processing system, projector, information storage medium, and image processing method
JP6418449B2 (ja) 画像処理装置および画像処理方法、並びにプログラム
JP2007164258A (ja) 画像合成処理装置及び方法
JP2003269928A (ja) 3次元形状計測方法および装置ならびにプログラム
JP5151922B2 (ja) 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム
US20190364253A1 (en) Image processing apparatus, image processing method, and storage medium
WO2017170710A1 (ja) 輝度調整装置及び方法、並びに画像表示システム、並びにプログラム及び記録媒体
JP6486603B2 (ja) 画像処理装置
JP2019220887A (ja) 画像処理装置、画像処理方法およびプログラム
US8472756B2 (en) Method for producing high resolution image
JP7474137B2 (ja) 情報処理装置およびその制御方法
JP5515405B2 (ja) 映像処理装置、映像表示装置および映像処理方法
JP6099281B2 (ja) 書籍読み取りシステム及び書籍読み取り方法
JP6752052B2 (ja) 映像処理装置および映像処理方法、プログラム
US20140152862A1 (en) Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium
CN115086631B (zh) 图像生成方法和信息处理装置
JP2018022287A (ja) 画像処理装置及び方法、画像処理プログラム、並びに投影装置
CN113375803B (zh) 投影仪径向色差的测量方法、装置、存储介质及设备
JP2010177832A (ja) 画像処理装置及び画像処理方法
JP7369588B2 (ja) 撮像機器及び撮像方法
US11893706B2 (en) Image correction device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131209

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5445461

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150