JP2016096516A - 画像処理装置、画像投影システム、画像処理方法およびプログラム - Google Patents
画像処理装置、画像投影システム、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP2016096516A JP2016096516A JP2014232982A JP2014232982A JP2016096516A JP 2016096516 A JP2016096516 A JP 2016096516A JP 2014232982 A JP2014232982 A JP 2014232982A JP 2014232982 A JP2014232982 A JP 2014232982A JP 2016096516 A JP2016096516 A JP 2016096516A
- Authority
- JP
- Japan
- Prior art keywords
- image
- projection
- change
- projection plane
- corresponding point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims description 124
- 238000003672 processing method Methods 0.000 title claims description 5
- 230000008859 change Effects 0.000 claims abstract description 271
- 238000012937 correction Methods 0.000 claims abstract description 178
- 238000004364 calculation method Methods 0.000 claims abstract description 60
- 238000001514 detection method Methods 0.000 claims description 103
- 238000003384 imaging method Methods 0.000 claims description 20
- 230000009466 transformation Effects 0.000 claims description 19
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 238000000034 method Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 10
- 230000033001 locomotion Effects 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3182—Colour adjustment, e.g. white balance, shading or gamut
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3185—Geometric adjustment, e.g. keystone or convergence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
- H04N9/3194—Testing thereof including sensor feedback
Abstract
【課題】投影装置と投影面との相対的な位置関係が変化した場合であっても正しい補正パラメータを算出し、適切な補正を行えるようにする。【解決手段】補正パラメータ算出部は、入力画像と、投影面の撮影像と、入力画像と投影面の撮影像との間の画素位置の対応関係を示す対応点情報とに基づいて、投影面の反射特性に応じた補正パラメータを算出する。補正部は、補正パラメータを用いて、入力画像の画素ごとの各色成分の輝度値を補正する。検出部は、投影面の変化を検出する。対応点情報生成部は、検出部が投影面の変化を検出した場合に、投影面が変化した後の撮影像と、入力画像とに基づいて、対応点情報を生成する。そして、補正パラメータ算出部は、検出部が投影面の変化を検出した場合に、入力画像と、投影面が変化した後の撮影像と、対応点情報生成部が生成した対応点情報とに基づいて、補正パラメータを算出する。【選択図】図1
Description
本発明の実施形態は、画像処理装置、画像投影システム、画像処理方法およびプログラムに関する。
画像投影システムにおいて、投影像が投影された投影面を撮影した撮影像と、投影像の元になる入力画像とを比較して、投影面の反射特性に応じた補正パラメータを算出し、この補正パラメータを用いて入力画像の画素ごとの各色成分の輝度を補正することで、投影面の色や柄が投影像の見え方に及ぼす影響を低減する技術がある。また、このような補正を動的に行うために、投影面の反射特性に応じた補正パラメータを入力画像のフレームごとに算出・更新することが提案されている。
このような処理において、投影面の撮影像と入力画像との比較により補正パラメータを算出するためには、入力画像と投影面の撮影像との間の画素位置の対応関係が分かっている必要がある。投影像を投影する投影装置と投影面との相対的な位置関係が固定であれば、入力画像と投影面の撮影像との間の画素位置の対応関係は事前に求めておくことができる。しかし、投影装置と投影面との相対的な位置関係が変化するとその対応関係が崩れるため、誤った補正パラメータを算出してしまって補正に失敗する場合がある。このため、投影装置と投影面との相対的な位置関係が変化した場合であっても正しい補正パラメータを算出して、適切な補正を行えるようにすることが求められる。
本発明が解決しようとする課題は、投影装置と投影面との相対的な位置関係が変化した場合であっても正しい補正パラメータを算出し、適切な補正を行うことができる画像処理装置、画像投影システム、画像処理方法およびプログラムを提供することである。
実施形態の画像処理装置は、入力画像に応じた投影像が投影された投影面の撮影像を用いて前記入力画像を補正する画像処理装置であって、補正パラメータ算出部と、補正部と、検出部と、対応点情報生成部と、を備える。補正パラメータ算出部は、前記入力画像と、前記撮影像と、前記入力画像と前記撮影像との間の画素位置の対応関係を示す対応点情報とに基づいて、前記投影面の反射特性に応じた補正パラメータを算出する。補正部は、前記補正パラメータを用いて、前記入力画像の画素ごとの各色成分の輝度値を補正する。検出部は、前記投影面の変化を検出する。対応点情報生成部は、前記検出部が前記投影面の変化を検出した場合に、前記投影面が変化した後の前記撮影像と、前記入力画像とに基づいて、前記対応点情報を生成する。そして、前記補正パラメータ算出部は、前記検出部が前記投影面の変化を検出した場合に、前記入力画像と、前記投影面が変化した後の前記撮影像と、前記対応点情報生成部が生成した前記対応点情報とに基づいて、前記補正パラメータを算出する。
(第1実施形態)
図1は、第1実施形態の画像投影システムの構成例を示すブロック図である。図1に示すように、本実施形態の画像投影システムは、投影装置1と、撮影装置2と、画像処理装置10Aとを備える。
図1は、第1実施形態の画像投影システムの構成例を示すブロック図である。図1に示すように、本実施形態の画像投影システムは、投影装置1と、撮影装置2と、画像処理装置10Aとを備える。
投影装置1は、入力画像に応じた投影像を投影面に投影する。投影装置1としては、投影面に投影像を投影する構成であればよく、例えば、液晶プロジェクタやレーザープロジェクタなどの広く知られた投影装置をいずれも利用できる。なお、本実施形態では、画像処理装置10Aに接続された外部装置として投影装置1を構成する例を例示するが、画像処理装置10Aと投影装置1とを一体の構成としてもよい。例えば、投影装置1の筐体内部に画像処理装置10Aを設けた構成とすることができる。
本実施形態において、投影装置1により投影像が投影される投影面は一般的な投影用スクリーンに限らない。例えば、屋内外の壁や床、天井などの構造物のほか、机、商品棚、カーテン、パーティションなどの各種の備品や、航空機、船舶、列車、バス、乗用車、モノレールなどのような移動体など、様々な物体の表面を投影面として想定する。これらの投影面には、物体の素材や形状、地模様などによって、色や柄が現れている場合が多い。本実施形態の画像投影システムでは、これら投影面の色や柄が投影像の見え方に及ぼす影響を低減するために、画像処理装置10Aにより、投影面の反射特性(投影面の面内における色成分ごとの反射率の分布)に応じた補正パラメータを用いて、入力画像を補正する。そして、投影装置1は、この画像処理装置10Aにより補正された入力画像に応じた投影像を投影面に投影する。
撮影装置2は、少なくとも投影像が投影された領域を含む投影面を撮影し、その撮影像を画像処理装置10Aに出力する。例えば、投影装置1が可視光の投影像を投影面に投影した場合、撮影装置2は、この可視光の投影像が投影された領域を含む投影面を撮影し、その撮影像を画像処理装置10Aに出力する。また、例えば、後述するキャリブレーション用のパターンなど、観賞用の可視光の投影像とは異なる非可視光の投影像が投影面に投影された場合、撮影装置2は、この非可視光の投影像が投影された領域を含む投影面を撮影し、その撮影像を画像処理装置10Aに出力する。
投影装置1によって投影面に投影された投影像は、上述したように、投影面の色や柄の影響(投影面の反射特性の影響)により明るさや色が変化する。この投影像の明るさや色の変化は、投影像の元になる入力画像と、撮影装置2が撮影した投影面の撮影像とを比較することによって検知できる。そこで、本実施形態の画像投影システムでは、撮影装置2が撮影した投影面の撮影像を画像処理装置10Aに入力し、画像処理装置10Aにおいて、投影面の反射特性に応じた補正パラメータを算出し、その補正パラメータを用いて入力画像を補正する。そして、投影装置1は、この画像処理装置10Aにより補正された入力画像に応じた投影像を投影面に投影する。これにより、投影面の色や柄の影響による明るさや色の変化が相殺された所望の投影像を投影面に投影することができる。
なお、本実施形態では、画像処理装置10Aに接続された外部装置として撮影装置2を構成する例を例示するが、画像処理装置10Aと撮影装置2とを一体の構成としてもよい。例えば、撮影装置2の筐体内部に画像処理装置10Aを設けた構成とすることができる。また、撮影装置2を投影装置1と一体の構成としてもよいし、投影装置1と撮影装置2と画像処理装置10Aとを一体の構成としてもよい。
画像処理装置10Aは、投影像の元になる入力画像と、撮影装置2が撮影した投影面の撮影像とを比較することで、投影面の反射特性に応じた補正パラメータを算出する。そして、画像処理装置10Aは、算出した補正パラメータを用いて入力画像を補正し、補正後の入力画像を投影装置1に出力する。
ここで、入力画像の信号形式は、様々に想定され得る。本実施形態においては、各画素は画素値として赤成分、緑成分、青成分の3チャンネルの輝度を有するものとする。このとき、各チャンネルの輝度は、非線形な階調値から線形変換により算出されてもよい。例えば、ITU(International Telecommunication Union)のYCbCr伝送規格などによる入力信号から各チャンネルの輝度が算出される構成であってもよい。また、入力画像は、あらゆる機器または媒体から入力される画像であって構わない。すなわち入力画像は、例えば、HDDなどの記憶装置から入力される画像であってもよいし、ネットワークを介して接続された外部装置から、またはTVなどの放送波から入力された画像であってよい。
入力画像と投影面の撮影像との比較により投影面の反射特性に応じた補正パラメータを算出するには、入力画像と投影面の撮影像との間の画素位置の対応関係が分かっている必要がある。ここで、投影面を撮影する撮影装置2が固定されていることを前提とした場合、投影装置1と投影面との相対的な位置関係に変化がなければ、入力画像と投影面の撮影像との間の画素位置の対応関係は、固定の値として事前に求めたものを利用できる。しかし、投影装置1と投影面との相対的な位置関係に変化があると、画素位置の対応関係が崩れるため、事前に求めた対応関係を用いて補正パラメータを算出すると、誤った補正パラメータを算出してしまって補正に失敗する場合がある。特に本実施形態では、移動体を含む様々な物体の表面を投影面として想定するため、投影装置1と投影面との相対的な位置関係の変化が頻繁に起こり得る。
そこで、本実施形態の画像処理装置10Aは、投影装置1と投影面との相対的な位置関係の変化を検出する機能と、当該変化が検出された場合に、入力画像と投影面の撮影像との間の画素位置の対応関係を示す対応点情報を生成する機能を持つ。そして、投影装置1と投影面との相対的な位置関係の変化が検出された場合は、生成した対応点情報を用いて補正パラメータを算出する。以下では、このような画像処理装置10Aの詳細について説明する。
なお、以下で示す各実施形態においては、投影装置1は建屋の天井などの構造体などに固定して設置されて投影装置1自体に動きがない場合を想定し、投影装置1と投影面との相対的な位置関係の変化として、投影面の変化を検出するものとして説明する。投影装置1の動きも含めて投影装置1と投影面との相対的な位置関係の変化を検出する場合は、以下の説明における「投影面の変化」を「投影装置1と投影面との相対的な位置関係の変化」に置き換えればよい。
本実施形態の画像処理装置10Aは、図1に示すように、検出部11と、対応点情報生成部12と、補正パラメータ算出部13と、補正部14とを備える。
検出部11は、投影面の変化を検出する。ここで、投影面の変化とは、投影面の回転や回転を伴わない並進などの投影面の動き、投影面自体の変更(投影面が他の投影面に切り替わること)など、投影装置1に対する投影面の位置関係が変化する要因となる現象をいう。
検出部11は、例えば、撮影装置2から入力した投影面の撮影像を用いて投影面の変化を検出することができる。具体的には、検出部11は、例えば、入力画像に変化がない状態での投影面の撮影像について、その一部または全体の時間変動量を求める。そして、求めた時間変動量が予め定めた閾値を超えた場合に、投影面が変化したと判定する。撮影像の時間変動量は、例えば、所定フレーム数分の撮影像の変動を累積することにより求めることができる。検出部11は、所定フレーム数ごとに撮影像を解析することにより投影面が変化したか否かを判定し、投影面が変化したと判定した場合は、変化ありを示す変化情報を対応点情報生成部12に出力する。一方、投影面が変化していないと判定した場合は、変化なしを示す変化情報を対応点情報生成部12に出力する。
対応点情報生成部12は、検出部11が投影面の変化を検出した場合に、変化後の投影面の撮影像と、そのときの入力画像とを用いて、入力画像と投影面の撮影像との間の画素位置の対応関係を示す対応点情報を生成する。すなわち、対応点情報生成部12は、検出部11から入力した変化情報が、投影面が変化したことを示す場合に、撮影装置2から入力した投影面の撮影像と入力画像とを用いて、投影面が変化した後の撮影像に対応する新たな対応点情報を生成する。そして、対応点情報生成部12は、新たな対応点情報を生成した場合は、その対応点情報を補正パラメータ算出部13に出力する。一方、検出部11から入力した変化情報が、投影面が変化していないことを示しており、新たな対応点情報を生成しなかった場合は、対応点情報生成部12は、画像処理装置10A内部または外部の所定の記憶領域に保存されている過去の対応点情報を補正パラメータ算出部13に出力する。
本実施形態における対応点情報とは、投影装置1から射出された入力画像中のある画素(対象画素)の光線が投影面に当たって反射されたときに、その投影面を撮影した撮影像内における対象画素の位置と、入力画像内における対象画像の位置との対応関係を示す情報である。このような対応点情報は、例えば一般的な対応点探索法によって生成することができる。具体的には、対応点情報生成部12は、まず、入力画像内の対象画素周辺の画素の情報を用いて対象画素周辺の輝度勾配を算出する。次に、対応点情報生成部12は、予め定められた撮影装置2と投影装置1との位置関係の情報を用いて、撮影像が撮影装置2に対して正対するよう射影変換を行う。最後に、対応点情報生成部12は、射影変換を行った撮影像内から、入力画像の対象画素周辺の輝度勾配と類似した輝度勾配を有する画素を、両者の対応点として検出する。対応点情報生成部12は、これらの対応点検出を入力画像の全ての画素について行うことで、各画素の対応関係を示す対応点情報を生成することができる。
また、対応点情報生成部12は、非可視光の投影像が投影された投影面の撮影像と、非可視光の投影像に対応する入力画像とに基づいて、対応点情報を生成するようにしてもよい。ここで非可視光とは、赤外線や紫外線のような可視領域以外の波長を有する光である。非可視光の投影像は、通常の可視光による観賞用の投影像とは異なるキャリブレーション用の画像として、例えば上述した投影装置1とは異なる他の投影装置により投影面に投影される。あるいは、上述した投影装置1に、非可視光の投影像を投影面に投影する機能を持たせるようにしてもよい。また、非可視光の投影像が投影された投影面の撮影像は、上述した撮影装置2とは異なる他の撮影装置が撮影してもよいし、上述した撮影装置2に非可視光を撮影する機能を持たせるようにしてもよい。一般に、非可視光は人の眼には視覚されないため、投影装置1によって投影された可視光による観賞用の投影像を阻害することなく、パターンを投影・撮影することが可能となる。そのため、格子状のパターンや、ドットパターンなどのようなキャリブレーション用のパターンを非可視光の投影像として用いることで、対応点情報を高精度に生成できるという効果がある。
以上のように、本実施形態の画像処理装置10Aでは、検出部11および対応点情報生成部12の処理により、投影面が変化した際には、投影面が変化した後の撮影像に対応できるように対応点情報が更新され、投影面が変化しなければ、対応点情報の更新が行われない。これにより、入力画像と投影面の撮影像との間の画素位置の対応関係を示す対応点情報が常に適切に保持されることとなり、投影面が変化したとしても、後段の補正パラメータ算出部13において、正しく補正パラメータを算出することが可能となる。
補正パラメータ算出部13は、入力画像と、撮影装置2から入力した投影面の撮影像と、対応点情報生成部12から入力した対応点情報とに基づいて、入力画像の各画素に対応する投影面の反射特性に応じた補正パラメータを算出し、算出した補正パラメータを補正部14に出力する。この際、補正パラメータ算出部13は、上述した検出部11により投影面の変化が検出され、対応点情報生成部12により投影面が変化した後の撮影像に対応する対応点情報が新たに生成されて出力された場合には、この新たに生成された対応点情報を用いて補正パラメータを算出して補正部14に出力する。また、補正パラメータ算出部13は、検出部11により投影面の変化が検出されず、対応点情報生成部12から過去の対応点情報が出力された場合には、過去の対応点情報を用いて補正パラメータを算出して補正部14に出力する。
なお、本実施形態では、撮影像の所定フレーム数ごと、つまり検出部11が投影面の変化の有無を判定する周期ごとに、補正パラメータ算出部13が補正パラメータを算出する例を想定するが、これに限らない。例えば、補正パラメータ算出部13は、検出部11により投影面の変化が検出され、対応点情報生成部12により投影面が変化した後の撮影像に対応する対応点情報が新たに生成されて出力された場合に、補正パラメータを算出する構成であってもよい。この場合、検出部11により投影面の変化が検出されない間は、後段の補正部14が、画像処理装置10A内部または外部の所定の記憶領域に保存されている過去の補正パラメータを用いて入力画像の補正を行うようにすればよい。
本実施形態における補正パラメータは、入力画像と、その入力画像に対応する投影像が投影された投影面の撮影像とを比較することで算出されるパラメータである。上述したように、撮影像は、少なくとも投影像が投影された領域を含む投影面を撮像装置2により撮影した像であり、投影装置1が入力画像に応じて投影面に投影した投影像の明るさや色が、投影面の素材や形などの影響によって変化した状態を表している。本実施形態では、この投影面の影響により投影像が変化した状態を、投影面の影響を受けていない投影像の状態に近づけるような補正パラメータを算出する。投影面の影響を受けていない投影像の状態は、投影装置1の光学的特性や機械的特性によって定まる固有パラメータを入力画像に掛け合わせることによって求めることができる。補正パラメータ算出部13は、投影装置1の固有パラメータが掛け合わされた入力画像と、撮影装置2から入力した投影面の撮影像とを、対応する画素ごとに比較して、その差分に応じた補正パラメータを算出する。
補正部14は、補正パラメータ算出部13から入力した補正パラメータを用いて入力画像を補正し、補正した入力画像を投影装置1に出力する。この補正は、入力画像の画素ごとに、赤成分、緑成分、青成分の3チャンネルの輝度値を、対応する画素の補正パラメータに基づいて補正する処理となる。投影装置1は、このように画素ごとの各色成分の輝度値が補正された入力画像に基づいて、投影面に投影像を投影する。これにより、投影面の色や柄の影響による明るさや色の変化が相殺された所望の投影像を投影面に投影することができる。
次に、本実施形態の画像処理装置10Aの動作の概要を、図2を参照して説明する。図2は、画像処理装置10Aによる処理手順の一例を示すフローチャートである。この図2のフローチャートで示す一連の処理は、所定の制御周期(例えば撮影像の所定フレーム数ごと)に、画像処理装置10Aによって繰り返し実行される。なお、入力画像は画像処理装置10Aに対して随時入力されるものとする。
図2のフローチャートで示す処理が開始されると、画像処理装置10Aは、撮影装置2が出力する撮影像、つまり、投影装置1により投影像が投影された領域を含む投影面の撮影像を入力する(ステップS101)。
次に、検出部11が、ステップS101で入力した投影面の撮影像を用いて、投影面の変化を検出する処理を実行し(ステップS102)、投影面の変化を検出した場合は変化ありを示す変化情報、投影面の変化を検出しない場合は変化なしを示す変化情報を、対応点情報生成部12に出力する。
次に、対応点情報生成部12が、検出部11から入力した変化情報が変化ありを示すものであるか否かを判定する(ステップS103)。そして、判定の結果がYesであれば、対応点情報生成部12は、ステップS101で入力した投影面の撮影像(つまり、投影面が変化した後の撮影像)と、入力画像とに基づいて、投影面が変化した後の撮影像と入力画像との間の画素位置の対応関係を示す対応点情報を生成し、補正パラメータ算出部13に出力する(ステップS104)。一方、判定の結果がNoであれば、対応点情報生成部12は、所定の記憶領域に保存されている過去の対応点情報を補正パラメータ算出部13に出力する(ステップS105)。
次に、補正パラメータ算出部13が、入力画像と、ステップS101で入力した投影面の撮影像と、対応点情報生成部12から入力した対応点情報とに基づいて、補正パラメータを算出し(ステップS106)、算出した補正パラメータを補正部14に出力する。
次に、補正部14が、補正パラメータ算出部13から入力した補正パラメータを用いて入力画像を補正し(ステップS107)、補正した入力画像を投影装置1に出力する(ステップ108)。
以上、具体的な例を挙げながら詳細に説明したように、本実施形態によれば、投影装置1と投影面との相対的な位置関係が変化(上述の説明では投影面が変化)した場合であっても、入力画像と投影面の撮影像との間の画素位置の対応関係を示す対応点情報を常に適切に保持することで、正しく補正パラメータを算出し、様々な投影面に対して、その投影面の色や柄の影響による明るさや色の変化が相殺された所望の投影像を投影することができる。
(第2実施形態)
次に、第2実施形態について説明する。第2実施形態では、投影装置1と投影面との間の距離を計測して、その距離情報を用いて投影面の変化を検出するとともに投影面が変化したことによる投影像の輝度変化を推定し、推定した輝度変化を補正パラメータに反映させる。なお、それ以外は第1実施形態と同様であるため、以下では、第1実施形態と共通の構成要素は同一の符号を付して重複した説明を適宜省略し、本実施形態に特徴的な部分を中心に説明する。
次に、第2実施形態について説明する。第2実施形態では、投影装置1と投影面との間の距離を計測して、その距離情報を用いて投影面の変化を検出するとともに投影面が変化したことによる投影像の輝度変化を推定し、推定した輝度変化を補正パラメータに反映させる。なお、それ以外は第1実施形態と同様であるため、以下では、第1実施形態と共通の構成要素は同一の符号を付して重複した説明を適宜省略し、本実施形態に特徴的な部分を中心に説明する。
図3は、第2実施形態の画像投影システムの構成例を示すブロック図である。図3に示すように、本実施形態の画像投影システムは、投影装置1と、撮影装置2と、測距装置3と、画像処理装置10Bとを備える。
測距装置3は、投影装置1と投影面との間の距離を計測して、その距離を示す距離情報を画像処理装置10Bに出力する。この測距装置3としては、対象までの距離を計測する様々な距離センサを用いることができる。例えば、TOF(Time of flight)方式の距離画像センサのように、投影・検出光の位相差を検出することで距離を計測する距離センサや、赤外線センサのように非可視光を投影・検出することで距離を計測する距離センサ、ステレオカメラのように複数のセンサ出力を用いることで距離を計測する距離センサなどを投影装置1の近傍に設けることで、投影装置1と投影面との間の距離を計測することができる。
さらに測距装置3は、少なくとも投影像が投影された領域を含む投影面の一定範囲内における各位置の距離を所定の分解能でそれぞれ計測できる構成であることが望ましい。このような構成の測距装置3を用いることで、画像処理装置10B内部の後述する輝度変化推定部15において、投影面が変化したことによる投影像の輝度変化を、距離情報を用いて推定することが可能となる。特に、TOF方式の距離画像センサや赤外線センサなどの非可視光を用いる構成の距離センサを測距装置3として用いることによって、投影装置1から投影面に投影される投影像の干渉を受けることなく、距離情報を取得することが可能となり、より高精度に距離情報を取得できるというメリットがある。
本実施形態の画像処理装置10Bは、図3に示すように、検出部11Bと、対応点情報生成部12と、補正パラメータ算出部13Bと、補正部14と、輝度変化推定部15とを備える。なお、対応点情報生成部12および補正部14は、第1実施形態と共通の構成であるため説明は省略する。
検出部11Bは、測距装置3から入力した距離情報を用いて、投影面の変化を検出する。具体的には、検出部11Bは、例えば、測距装置3から入力した距離情報の時間変動量を求めて、その距離情報の時間変動量が予め定めた閾値を超えた場合に、投影面が変化したと判定する。距離情報の時間変動量は、例えば、所定時間における距離情報の変化を累積することにより求めることができる。検出部11Bは、所定時間ごとに距離情報を用いて投影面が変化したか否かを判定し、投影面が変化したと判定した場合は、変化ありを示す変化情報を対応点情報生成部12および輝度変化推定部15に出力する。一方、投影面が変化していないと判定した場合は、変化なしを示す変化情報を対応点情報生成部12および輝度変化推定部15に出力する。
なお、本実施形態では、測距装置3から入力した距離情報を用いて投影面の変化を検出するようにしているが、第1実施形態と同様に、撮影装置2から入力した投影面の撮影像を用いて投影面の変化を検出する構成であってもよい。
輝度変化推定部15は、検出部11Bが投影面の変化を検出した場合に、入力画像と、測距装置3から入力した距離情報とに基づいて、投影面が変化した際の投影距離・角度の変化による投影像の輝度変化を推定する。すなわち、輝度変化推定部15は、検出部11Bから入力した変化情報が、投影面が変化したことを示す場合に、投影面が変化する前の投影像に対する変化後の投影像の輝度変化を、入力画像と距離情報とに基づいて推定する。そして、輝度変化推定部15は、投影像の輝度変化を新たに推定した場合は、その推定した輝度変化を表す輝度変化推定値を補正パラメータ算出部13Bに出力する。一方、検出部11Bから入力した変化情報が、投影面が変化していないことを示しており、投影像の輝度変化を新たに推定しなかった場合は、輝度変化推定部15は、画像処理装置10B内部または外部の所定の記憶領域に保存されている過去の輝度変化推定値を補正パラメータ算出部13Bに出力する。
投影装置1の光源から射出された投影光によって再現される投影像の輝度は、投影装置1の光源からの投影面までの距離の2乗に反比例することが知られている。すなわち、投影距離が2倍になると投影輝度が1/4倍になることが推定できる。また、投影面の法線と入射光との角度の差に対して、投影像の輝度はcos則で減少することが知られている。すなわち、投影光に対する投影面の法線の角度が例えば0degから45degに変化した場合は、投影像の輝度は約0.707倍となることが推定できる。これらの関係から、輝度変化推定部15は、投影面が変化した際の投影距離・角度の変化を用いて、投影像の輝度の変化を推定する。このとき輝度変化推定部15は、上述したように、投影装置1から投影面までの距離が遠くなった場合には、その距離の変化分に応じて投影像の輝度が低くなることを推定し、投影光に対する投影面の法線の角度が大きくなった場合には、その角度の増加分に応じて投影像の輝度が低くなることを推定する。
補正パラメータ算出部13Bは、入力画像と、撮影装置2から入力した投影面の撮影像と、対応点情報生成部12から入力した対応点情報と、輝度変化推定部15から入力した輝度変化推定値とに基づいて補正パラメータを算出し、算出した補正パラメータを補正部14に出力する。すなわち、補正パラメータ算出部13Bは、輝度変化推定部15により推定された投影面の輝度変化を加味して、入力画像の各画素に対応する投影面の反射特性に応じた補正パラメータを算出し、補正部14に出力する。
この際、補正パラメータ算出部13Bは、上述した検出部11により投影面の変化が検出され、対応点情報生成部12により投影面が変化した後の撮影像に対応する対応点情報が新たに生成されて出力されるとともに、輝度変化推定部15により輝度変化推定値が新たに算出されて出力された場合には、この新たに生成された対応点情報と、新たに算出された輝度変化推定値とを用いて補正パラメータを算出して補正部14に出力する。また、補正パラメータ算出部13Bは、検出部11により投影面の変化が検出されず、対応点情報生成部12から過去の対応点情報が出力され、輝度変化推定部15から過去の輝度変化推定値が出力された場合には、これら過去の対応点情報と過去の輝度変化推定値とを用いて補正パラメータを算出して補正部14に出力する。
なお、本実施形態では、所定時間ごと、つまり検出部11Bが測距装置3から入力した距離情報に基づいて投影面の変化の有無を判定する周期ごとに、補正パラメータ算出部13Bが補正パラメータを算出する例を想定するが、これに限らない。例えば、補正パラメータ算出部13Bは、検出部11Bにより投影面の変化が検出され、対応点情報生成部12により投影面が変化した後の撮影像に対応する対応点情報が新たに生成されて出力されるとともに、輝度変化推定部15により新たな輝度変化推定値が算出されて出力された場合に、補正パラメータを算出する構成であってもよい。この場合、検出部11Bにより投影面の変化が検出されない間は、後段の補正部14が、画像処理装置10B内部または外部の所定の記憶領域に保存されている過去の補正パラメータを用いて入力画像の補正を行うようにすればよい。
次に、本実施形態の画像処理装置10Bの動作の概要を、図4を参照して説明する。図4は、画像処理装置10Bによる処理手順の一例を示すフローチャートである。この図4のフローチャートで示す一連の処理は、所定の制御周期(例えば検出部11Bが投影面の変化を検出する周期となる所定時間ごと)に、画像処理装置10Bによって繰り返し実行される。なお、入力画像は画像処理装置10Bに対して随時入力されるものとする。
図4のフローチャートで示す処理が開始されると、画像処理装置10Bは、撮影装置2が出力する撮影像、つまり、投影装置1により投影像が投影された領域を含む投影面の撮影像を入力する(ステップS201)。
次に、画像処理装置10Bは、測距装置3が出力する距離情報、つまり、投影装置1と投影面との間の距離を示す距離情報を入力する(ステップS202)。
次に、検出部11Bが、ステップS202で入力した距離情報を用いて、投影面の変化を検出する処理を実行し(ステップS203)、投影面の変化を検出した場合は変化ありを示す変化情報、投影面の変化を検出しない場合は変化なしを示す変化情報を、対応点情報生成部12および輝度変化推定部15に出力する。
次に、対応点情報生成部12および輝度変化推定部15が、検出部11Bから入力した変化情報が変化ありを示すものであるか否かを判定する(ステップS204)。そして、判定の結果がYesであれば、対応点情報生成部12は、ステップS201で入力した投影面の撮影像(つまり、投影面が変化した後の撮影像)と、入力画像とに基づいて、投影面が変化した後の撮影像と入力画像との間の画素位置の対応関係を示す対応点情報を生成し、補正パラメータ算出部13Bに出力する(ステップS205)。また、輝度変化推定部15は、入力画像と、ステップS202で入力した距離情報とに基づいて、投影面の変化による投影像の輝度変化を推定し、輝度変化推定値を補正パラメータ算出部13Bに出力する(ステップS206)。
一方、ステップS204の判定の結果がNoであれば、対応点情報生成部12は、所定の記憶領域に保存されている過去の対応点情報を補正パラメータ算出部13Bに出力する(ステップS207)。また、輝度変化推定部15は、所定の記憶領域に保存されている過去の輝度変化推定値を補正パラメータ算出部13Bに出力する(ステップS208)。
次に、補正パラメータ算出部13Bが、入力画像と、ステップS201で入力した投影面の撮影像と、対応点情報生成部12から入力した対応点情報と、輝度変化推定部15から入力した輝度変化推定値とに基づいて、補正パラメータを算出し(ステップS209)、算出した補正パラメータを補正部14に出力する。
次に、補正部14が、補正パラメータ算出部13Bから入力した補正パラメータを用いて入力画像を補正し(ステップS210)、補正した入力画像を投影装置1に出力する(ステップ211)。
以上説明したように、本実施形態によれば、投影装置1と投影面との相対的な位置関係が変化(上述の説明では投影面が変化)した際に、投影距離・角度の変化による投影像の輝度変化を適切に推定し、推定した輝度変化推定値を用いて補正パラメータを算出することで、投影距離・角度の変化による投影像の輝度変化に影響されずに、正しく補正パラメータを算出し、様々な投影面に対して、その投影面の色や柄の影響による明るさや色の変化が相殺された所望の投影像を投影することができる。
(第3実施形態)
次に、第3実施形態について説明する。第3実施形態では、投影像の歪みを除去するように入力画像を幾何変換し、幾何変換した入力画像と距離情報とを用いて、投影面が変化したことによる投影像の輝度変化を推定するとともに、幾何変換した入力画像を、補正パラメータを用いて補正する。なお、それ以外は第2実施形態と同様であるため、以下では、第2実施形態と共通の構成要素は同一の符号を付して重複した説明を適宜省略し、本実施形態に特徴的な部分を中心に説明する。
次に、第3実施形態について説明する。第3実施形態では、投影像の歪みを除去するように入力画像を幾何変換し、幾何変換した入力画像と距離情報とを用いて、投影面が変化したことによる投影像の輝度変化を推定するとともに、幾何変換した入力画像を、補正パラメータを用いて補正する。なお、それ以外は第2実施形態と同様であるため、以下では、第2実施形態と共通の構成要素は同一の符号を付して重複した説明を適宜省略し、本実施形態に特徴的な部分を中心に説明する。
図5は、第3実施形態の画像投影システムの構成例を示すブロック図である。図5に示すように、本実施形態の画像投影システムは、投影装置1と、撮影装置2と、測距装置3と、画像処理装置10Cとを備える。
本実施形態の画像処理装置10Cは、図5に示すように、検出部11Bと、対応点情報生成部12と、補正パラメータ算出部13Bと、補正部14Cと、輝度変化推定部15Cと、幾何変換部16とを備える。なお、検出部11B、対応点情報生成部12および補正パラメータ算出部13Bは、第2実施形態と共通の構成であるため説明は省略する。
幾何変換部16は、対応点情報生成部12が出力する対応点情報を用いて、投影像の歪を除去するように入力画像を幾何変換する。以下、幾何変換した入力画像を「幾何変換画像」という。本実施形態における幾何変換とは、撮影装置2の方向から見た投影像に台形歪みなどの歪みが生じないように、入力画像を幾何的に変換することを意味する。このとき、幾何変換部16は、対応点情報生成部12が出力した対応点情報を用いることで、撮影像上で投影像が所望の形状となるように、その投影像の元になる入力画像を幾何変換することが可能となる。幾何変換部16は、入力画像を幾何変換することで得られる幾何変換画像を、輝度変化推定部15Cおよび補正部14Cに出力する。
輝度変化推定部15Cは、検出部11Bが投影面の変化を検出した場合に、幾何変換画像と、測距装置3から入力した距離情報とに基づいて、投影面が変化した際の投影距離・角度の変化による投影像の輝度変化を推定する。すなわち、輝度変化推定部15Cは、検出部11Bから入力した変化情報が、投影面が変化したことを示す場合に、投影面が変化する前の投影像に対する変化後の投影像の輝度変化を幾何変換画像と距離情報とに基づいて推定する。そして、輝度変化推定部15Cは、投影像の輝度変化を新たに推定した場合は、その推定した輝度変化を表す輝度変化推定値を補正パラメータ算出部13Bに出力する。一方、検出部11Bから入力した変化情報が、投影面が変化していないことを示しており、投影像の輝度変化を新たに推定しなかった場合は、輝度変化推定部15Cは、画像処理装置10C内部または外部の所定の記憶領域に保存されている過去の輝度変化推定値を補正パラメータ算出部13Bに出力する。
補正部14Cは、補正パラメータ算出部13Bから入力した補正パラメータを用いて、幾何変換部16から入力した幾何変換画像を補正し、補正した幾何変換画像を投影装置1に出力する。
次に、本実施形態の画像処理装置10Cの動作の概要を、図6を参照して説明する。図6は、画像処理装置10Cによる処理手順の一例を示すフローチャートである。この図6のフローチャートで示す一連の処理は、所定の制御周期(例えば検出部11Bが投影面の変化を検出する周期となる所定時間ごと)に、画像処理装置10Cによって繰り返し実行される。なお、入力画像は画像処理装置10Cに対して随時入力されるものとする。
図6のフローチャートで示す処理が開始されると、画像処理装置10Cは、撮影装置2が出力する撮影像、つまり、投影装置1により投影像が投影された領域を含む投影面の撮影像を入力する(ステップS301)。
次に、画像処理装置10Cは、測距装置3が出力する距離情報、つまり、投影装置1と投影面との間の距離を示す距離情報を入力する(ステップS302)。
次に、検出部11Bが、ステップS302で入力した距離情報を用いて、投影面の変化を検出する処理を実行し(ステップS303)、投影面の変化を検出した場合は変化ありを示す変化情報、投影面の変化を検出しない場合は変化なしを示す変化情報を、対応点情報生成部12および輝度変化推定部15に出力する。
次に、対応点情報生成部12および輝度変化推定部15Cが、検出部11Bから入力した変化情報が変化ありを示すものであるか否かを判定する(ステップS304)。そして、判定の結果がYesであれば、対応点情報生成部12は、ステップS301で入力した投影面の撮影像(つまり、投影面が変化した後の撮影像)と、入力画像とに基づいて、投影面が変化した後の撮影像と入力画像との間の画素位置の対応関係を示す対応点情報を生成し、補正パラメータ算出部13Bおよび幾何変換部16に出力する(ステップS305)。また、幾何変換部16は、対応点情報生成部12から入力した対応点情報を用いて入力画像を幾何変換し(ステップS306)、幾何変換画像を輝度変化推定部15Cおよび補正部14Cに出力する。そして、輝度変化推定部15Cは、幾何変換部16から入力した幾何変換画像と、ステップS202で入力した距離情報とに基づいて、投影面の変化による投影像の輝度変化を推定し、輝度変化推定値を補正パラメータ算出部13Bに出力する(ステップS307)。
一方、ステップS304の判定の結果がNoであれば、対応点情報生成部12は、所定の記憶領域に保存されている過去の対応点情報を補正パラメータ算出部13Bおよび幾何変換部16に出力する(ステップS308)。また、幾何変換部16は、対応点情報生成部12から入力した対応点情報を用いて入力画像を幾何変換し(ステップS309)、幾何変換画像を補正部14Cに出力する。そして、輝度変化推定部15Cは、所定の記憶領域に保存されている過去の輝度変化推定値を補正パラメータ算出部13Bに出力する(ステップS310)。
次に、補正パラメータ算出部13Bが、入力画像と、ステップS301で入力した投影面の撮影像と、対応点情報生成部12から入力した対応点情報と、輝度変化推定部15から入力した輝度変化推定値とに基づいて、補正パラメータを算出し(ステップS311)、算出した補正パラメータを補正部14Cに出力する。
次に、補正部14Cが、補正パラメータ算出部13Bから入力した補正パラメータを用いて、幾何変換部16から入力した幾何変換画像を補正し(ステップS312)、補正した幾何変換画像を投影装置1に出力する(ステップ313)。
以上説明したように、本実施形態によれば、対応点情報を用いて入力画像を幾何変換することにより、撮影装置2の位置からみた投影像の幾何的な歪みを除去しつつ、正しく補正パラメータを算出し、様々な投影面に対して、その投影面の色や柄の影響による明るさや色の変化が相殺された所望の投影像を投影することができる。
(第4実施形態)
次に、第4実施形態について説明する。第4実施形態は、投影面の変化を検出する方法のバリエーションを示す。投影面の変化を検出する方法として、第1実施形態では撮影装置2から入力した撮影像を用いる例を説明し、第2実施形態では測距装置3から入力した距離情報を用いる例を説明したが、第4実施形態では、これら撮影像や距離情報以外の情報を用いて投影面の変化を検出する例を説明する。なお、投影面の変化を検出する方法が異なる以外は第3実施形態と同様であるため、以下では、第3実施形態と共通の構成要素は同一の符号を付して重複した説明を適宜省略し、本実施形態に特徴的な部分を中心に説明する。
次に、第4実施形態について説明する。第4実施形態は、投影面の変化を検出する方法のバリエーションを示す。投影面の変化を検出する方法として、第1実施形態では撮影装置2から入力した撮影像を用いる例を説明し、第2実施形態では測距装置3から入力した距離情報を用いる例を説明したが、第4実施形態では、これら撮影像や距離情報以外の情報を用いて投影面の変化を検出する例を説明する。なお、投影面の変化を検出する方法が異なる以外は第3実施形態と同様であるため、以下では、第3実施形態と共通の構成要素は同一の符号を付して重複した説明を適宜省略し、本実施形態に特徴的な部分を中心に説明する。
図7は、第4実施形態の画像投影システムの構成例を示すブロック図である。図7に示すように、本実施形態の画像投影システムは、投影装置1と、撮影装置2と、測距装置3と、情報取得装置4と、画像処理装置10Dとを備える。
情報取得装置4は、投影面の変化を検出するために利用される情報(以下、「変化検出用情報」という。)を取得して、画像処理装置10Dに出力する。情報取得装置4の構成は、変化検出用情報の種類に応じて様々な形態をとり得る。なお、変化検出用情報の具体例は後述する。
本実施形態の画像処理装置10Dは、図7に示すように、検出部11Dと、対応点情報生成部12と、補正パラメータ算出部13Bと、補正部14Cと、輝度変化推定部15Cと、幾何変換部16とを備える。なお、対応点情報生成部12、補正パラメータ算出部13B、補正部14C、輝度変化推定部15Cおよび幾何変換部16は、第3実施形態と共通の構成であるため説明は省略する。
検出部11Dは、情報取得装置4から入力した変化検出用情報を用いて、投影面の変化を検出する。すなわち、検出部11Dは、情報取得装置4から入力した変化検出用情報を用いて投影面が変化したか否かを判定し、投影面が変化したと判定した場合は、変化ありを示す変化情報を対応点情報生成部12および輝度変化推定部15Cに出力する。一方、投影面が変化していないと判定した場合は、変化なしを示す変化情報を対応点情報生成部12および輝度変化推定部15Cに出力する。
ここで、情報取得装置4によって取得されて検出部11Dにおいて投影面の変化を検出するために用いられる変化検出用情報の具体例について説明する。
例えば、所定の時間に所定位置に停車する移動体を投影面とする例を想定すると、移動体の運行情報や移動体の属性を表す属性情報が、変化検出用情報として利用可能である。具体的には、例えば駅のホームに停車している電車の車体を投影面とし、この電車の車体に対して駅舎の天井などに設置された投影装置1から投影像を投影する構成の場合、電車の到着時刻や出発時刻を示すダイヤグラム(運行情報)と、電車の車体の色や形状などを特定可能な車体番号などの属性情報とを用いて、駅のホームに停車している電車の車体、つまり投影面の変化を検出できる。また、電車以外の移動体(例えば、航空機、船舶、列車、バス、乗用車、モノレールなど)を投影面とする場合であっても、その移動体の運行情報と属性情報とから、同様に投影面の変化を検出できる。
この例の場合、情報取得装置4は、外部のサーバなどから移動体の運行情報や属性情報を変化検出用情報として取得し、画像処理装置10Dに出力する。そして、画像処理装置10Dの検出部11Dは、例えば画像処理装置10D内部で取得される現在時刻を示す時刻情報と、情報取得装置4から入力した移動体の運行情報と、移動体の属性情報とを用いて、投影面となる移動体が変化したか否かを判定し、判定結果に応じた変化情報を対応点情報生成部12および輝度変化推定部15Cに出力する。
また、投影面の変化は、例えば投影面からの反射光量の変化から検出することができる。すなわち、投影面の反射光を検出する単一または複数の光センサを設け、この光センサにより検出された投影面の反射光量を示す情報を、変化検出用情報として利用することもできる。この場合の光センサは、投影像が投影された投影面を撮影する撮影装置2とは異なる簡素な構成の光センサである。また、この光センサは、投影面に光を照射してその反射光を検出する構成であってもよいし、自然光が照射された投影面の反射光を検出する構成であってもよい。また、光センサは、可視光の反射光を検出する構成であってもよいし、例えば赤外線などの非可視光の反射光を検出する構成であってもよい。
この例の場合、情報取得装置4は、上述した光センサから投影面の反射光量を示す情報を変化検出用情報として取得し、画像処理装置10Dに出力する。そして、画像処理装置10Dの検出部11Dは、情報取得装置4から入力した変化検出用情報を用いて、例えば、投影面の反射光量の時間変化量(所定時間の間の変化量)を求める。そして、この反射光量の時間変化量が予め定めた閾値を超えたか否かにより、投影面が変化したか否かを判定し、判定結果に応じた変化情報を対応点情報生成部12および輝度変化推定部15Cに出力する。
また、投影面の変化は、例えば投影面で反射される音量の変化から検出することができる。つまり、投影面で反射される音波を検出する単一または複数の音センサを設け、この音センサにより検出された投影面からの反射音量を示す情報を、変化検出用情報と利用することもできる。この場合の音センサは、投影面に音波を照射して投影面で反射された音波を検出する構成であってもよいし、投影面で反射された環境音の音波を検出する構成であってもよい。
この例の場合、情報取得装置4は、上述した音センサから投影面の反射音量を示す情報を変化検出用情報として取得し、画像処理装置10Dに出力する。そして、画像処理装置10Dの検出部11Dは、情報取得装置4から入力した変化検出用情報を用いて、例えば、投影面の反射音量の時間変化量(所定時間の間の変化量)を求める。そして、この反射音量の時間変化量が予め定めた閾値を超えたか否かにより、投影面が変化したか否かを判定し、判定結果に応じた変化情報を対応点情報生成部12および輝度変化推定部15Cに出力する。
なお、以上の説明では、投影装置1自体に動きがない場合を想定し、投影装置1と投影面との相対的な位置関係の変化として、投影面の変化を検出するものとしたが、投影装置1の動きも含めて投影装置1と投影面との相対的な位置関係の変化を検出する場合は、投影装置1の動き量を示す情報を、変化検出用情報として利用することもできる。投影装置1の動き量を示す情報としては、例えば、投影装置1に設けられた加速度センサやジャイロセンサなどから出力される情報が挙げられる。
この場合、情報取得装置4は、投影装置1に設けられた加速度センサやジャイロセンサなどから投影装置1の動き量を表す情報を変化検出用情報として取得し、画像処理装置10Dに出力する。そして、画像処理装置10Dの検出部11Dは、情報取得装置4から入力した変化検出用情報を用いて、例えば、投影装置1の動き量の時間変化量(所定時間の間の変化量)を求める。そして、投影装置1の動き量の時間変化量が予め定めた閾値を超えたか否かにより、投影装置1と投影面との相対的な位置関係が変化したか否かを判定し、判定結果に応じた変化情報を対応点情報生成部12および輝度変化推定部15Cに出力する。
以上、投影面の変化(投影装置1と投影面との相対的な位置関係の変化)を検出する方法のバリエーションを説明したが、検出部11Dは、これらの方法と上述した第1実施形態や第2実施形態で説明した方法とを適宜組み合わせて、投影面の変化(投影装置1と投影面との相対的な位置関係の変化)を検出するようにしてもよい。例えば、所定の時間に所定位置に停車する移動体を投影面とする例において、現在時刻を示す時刻情報と、情報取得装置4から入力した移動体の運行情報と、移動体の属性情報とを用いて、投影面となる移動体が変化したことが推定され、かつ、撮影装置2から入力した撮影像あるいは測距装置3から入力した距離情報の時間変動量が予め定めた閾値を超えた場合に、投影面が変化(投影装置1と投影面との相対的な位置関係が変化)したと判定するようにしてもよい。
なお、本実施形態では、第3実施形態の画像処理装置10Cの構成をベースとし、第3実施形態の画像処理装置10Cの検出部11Bを検出部11Dに置き換えた例を説明したが、第1実施形態の画像処理装置10Aや第2実施形態の画像処理装置10Bの構成をベースとして、検出部11,11Bを検出部11Dに置き換えた構成であってもよい。
また、本実施形態では、情報取得部4が変化検出用情報を取得するものとして説明したが、情報取得部4は、変化検出用情報以外の他の情報も取得する構成としてもよい。例えば、撮影装置2が撮影した投影面の撮影像を用いて投影面と重なる位置に人物が存在することを検出する人物検出装置を設け、この人物検出装置が人物を検出した場合に、その情報を情報取得部4が取得する構成としてもよい。この場合、例えば、人物検出装置が人物を検出し、その情報を情報取得部4が取得した場合に、画像処理装置10Dが投影装置1に対する画像の出力を停止し、投影装置1による投影像の投影を中断させるといった処理を行うことができる。
以上説明したように、本実施形態によれば、投影装置1と投影面との相対的な位置関係が変化(上述の説明では投影面が変化)した場合であっても、その変化を精度よく検出して対応点情報を常に適切に保持することで、正しく補正パラメータを算出し、様々な投影面に対して、その投影面の色や柄の影響による明るさや色の変化が相殺された所望の投影像を投影することができる。
(補足説明)
上述した各実施形態の画像処理装置10A(10B,10C,10D)における各処理部(検出部11(11B,11D)、対応点情報生成部12、補正パラメータ算出部13(13B)、補正部14、輝度変化推定部15、幾何変換部16)は、ハードウェア、またはハードウェアと協働して動作するソフトウェア(プログラム)での実装が可能である。上記の各処理部をソフトウェアで実装する場合、画像処理装置10A(10B,10C,10D)は、例えば図8に示すように、CPU(Central Processing Unit)101などのプロセッサ回路、RAM(Random Access Memory)102やROM(Read Only Memory)103、画像メモリ104などの記憶装置、外部機器が接続される入出力I/F105、各部を接続するバス106などを備えた、通常のコンピュータを利用したハードウェア構成とすることができる。
上述した各実施形態の画像処理装置10A(10B,10C,10D)における各処理部(検出部11(11B,11D)、対応点情報生成部12、補正パラメータ算出部13(13B)、補正部14、輝度変化推定部15、幾何変換部16)は、ハードウェア、またはハードウェアと協働して動作するソフトウェア(プログラム)での実装が可能である。上記の各処理部をソフトウェアで実装する場合、画像処理装置10A(10B,10C,10D)は、例えば図8に示すように、CPU(Central Processing Unit)101などのプロセッサ回路、RAM(Random Access Memory)102やROM(Read Only Memory)103、画像メモリ104などの記憶装置、外部機器が接続される入出力I/F105、各部を接続するバス106などを備えた、通常のコンピュータを利用したハードウェア構成とすることができる。
上述した各実施形態の画像処理装置10A(10B,10C,10D)で実行されるプログラムは、例えば、インストール可能な形式または実行可能な形式のファイルでCD−ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD−R(Compact Disk Recordable)、DVD(Digital Versatile Disc)などのコンピュータで読み取り可能な記録媒体に記録されてコンピュータプログラムプロダクトとして提供される。
また、上述した各実施形態の画像処理装置10A(10B,10C,10D)で実行されるプログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述した実施形態の画像処理装置10A(10B,10C,10D)で実行されるプログラムをインターネットなどのネットワーク経由で提供または配布するように構成してもよい。また、上述した各実施形態の画像処理装置10A(10B,10C,10D)で実行されるプログラムを、ROM103等に予め組み込んで提供するように構成してもよい。
上述した各実施形態の画像処理装置10A(10B,10C,10D)で実行されるプログラムは、画像処理装置10A(10B,10C,10D)の各処理部(検出部11(11B,11D)、対応点情報生成部12、補正パラメータ算出部13(13B)、補正部14、輝度変化推定部15、幾何変換部16)を含むモジュール構成となっており、実際のハードウェアとしては、例えば、CPU101(プロセッサ回路)が上記記録媒体からプログラムを読み出して実行することにより、上述した各処理部がRAM102(主記憶)上にロードされ、上述した各処理部がRAM102(主記憶)上に生成されるようになっている。なお、上述した各実施形態の画像処理装置10A(10B,10C,10D)は、上述した各処理部の一部または全部を、ASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)などの専用のハードウェアを用いて実現することも可能である。
以上、本発明の実施形態を説明したが、ここで説明した実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。ここで説明した新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。ここで説明した実施形態やその変形は、発明の範囲や要旨に含まれるとともに、請求の範囲に記載された発明とその均等の範囲に含まれる。
1 投影装置
2 撮影装置
3 測距装置
4 情報取得装置
10A,10B,10C,10D 画像処理装置
11,11B,11D 検出部
12 対応点情報生成部
13,13B 補正パラメータ算出部
14 補正部
15 輝度変化推定部
16 幾何変換部
2 撮影装置
3 測距装置
4 情報取得装置
10A,10B,10C,10D 画像処理装置
11,11B,11D 検出部
12 対応点情報生成部
13,13B 補正パラメータ算出部
14 補正部
15 輝度変化推定部
16 幾何変換部
Claims (13)
- 入力画像に応じた投影像が投影された投影面の撮影像を用いて前記入力画像を補正する画像処理装置であって、
前記入力画像と、前記撮影像と、前記入力画像と前記撮影像との間の画素位置の対応関係を示す対応点情報とに基づいて、前記投影面の反射特性に応じた補正パラメータを算出する補正パラメータ算出部と、
前記補正パラメータを用いて、前記入力画像の画素ごとの各色成分の輝度値を補正する補正部と、
前記投影面の変化を検出する検出部と、
前記検出部が前記投影面の変化を検出した場合に、前記投影面が変化した後の前記撮影像と、前記入力画像とに基づいて、前記対応点情報を生成する対応点情報生成部と、を備え、
前記補正パラメータ算出部は、前記検出部が前記投影面の変化を検出した場合に、前記入力画像と、前記投影面が変化した後の前記撮影像と、前記対応点情報生成部が生成した前記対応点情報とに基づいて、前記補正パラメータを算出することを特徴とする画像処理装置。 - 前記検出部が前記変化を検出した場合に、前記入力画像と、前記投影像を前記投影面に投影する投影装置と前記投影面との間の距離を示す距離情報とに基づいて、前記投影面が変化したことによる前記投影像の輝度変化を推定して輝度変化推定値を出力する輝度変化推定部をさらに備え、
前記補正パラメータ算出部は、前記検出部が前記投影面の変化を検出した場合に、前記入力画像と、前記投影面が変化した後の前記撮影像と、前記対応点情報生成部が生成した前記対応点情報と、前記輝度変化推定値とに基づいて、前記補正パラメータを算出することを特徴とする請求項1に記載の画像処理装置。 - 前記対応点情報を用いて、前記入力画像を幾何変換する幾何変換部をさらに備え、
前記輝度変化推定部は、幾何変換された前記入力画像と、前記距離情報とに基づいて、前記投影像の輝度変化を推定し、
前記補正部は、前記補正パラメータを用いて、幾何変換された前記入力画像の画素ごとの各色成分の輝度値を補正することを特徴とする請求項2に記載の画像処理装置。 - 前記対応点情報生成部は、可視光の前記投影像が投影された前記投影面の撮影像と、可視光の前記投影像に対応する前記入力画像とに基づいて、前記対応点情報を生成することを特徴とする請求項1乃至3のいずれか一項に記載の画像処理装置。
- 前記対応点情報生成部は、非可視光の前記投影像が投影された前記投影面の撮影像と、非可視光の前記投影像に対応する前記入力画像とに基づいて、前記対応点情報を生成することを特徴とする請求項1乃至4のいずれか一項に記載の画像処理装置。
- 前記検出部は、前記投影面の撮影像を用いて、前記投影面の変化を検出することを特徴とする請求項1乃至5のいずれか一項に記載の画像処理装置。
- 前記検出部は、前記投影像を前記投影面に投影する投影装置と前記投影面との間の距離を示す距離情報を用いて、前記投影面の変化を検出することを特徴とする請求項1乃至5のいずれか一項に記載の画像処理装置。
- 前記投影面は、所定の時間に所定位置に停止する移動体であり、
前記検出部は、現在時刻を示す時刻情報と、前記移動体の運行情報と、前記移動体の属性を示す属性情報とを用いて、前記投影面の変化を検出することを特徴とする請求項1乃至7のいずれか一項に記載の画像処理装置。 - 請求項1乃至8のいずれか一項に記載の画像処理装置と、
前記投影像を前記投影面に投影する投影装置と、
前記撮影像を撮影する撮影装置と、を含む画像投影システム。 - 前記投影装置と前記投影面との間の距離を計測する測距装置をさらに含むことを特徴とする請求項9に記載の画像投影システム。
- 入力画像に応じた投影像が投影された投影面の撮影像を用いて前記入力画像を補正する画像処理方法であって、
補正パラメータ算出部が、前記入力画像と、前記撮影像と、前記入力画像と前記撮影像との間の画素位置の対応関係を示す対応点情報とに基づいて、前記投影面の反射特性に応じた補正パラメータを算出するステップと、
補正部が、前記補正パラメータを用いて、前記入力画像の画素ごとの各色成分の輝度値を補正するステップと、
検出部が、前記投影面の変化を検出するステップと、
対応点情報生成部が、前記検出部が前記投影面の変化を検出した場合に、前記投影面が変化した後の前記撮影像と、前記入力画像とに基づいて、前記対応点情報を生成するステップと、を含み、
前記補正パラメータ算出部は、前記検出部が前記投影面の変化を検出した場合に、前記入力画像と、前記投影面が変化した後の前記撮影像と、前記対応点情報生成部が生成した前記対応点情報とに基づいて、前記補正パラメータを算出することを特徴とする画像処理方法。 - 入力画像に応じた投影像が投影された投影面の撮影像を用いて前記入力画像を補正するためのプログラムであって、
コンピュータに、
前記入力画像と、前記撮影像と、前記入力画像と前記撮影像との間の画素位置の対応関係を示す対応点情報とに基づいて、前記投影面の反射特性に応じた補正パラメータを算出する補正パラメータ算出部の機能と、
前記補正パラメータを用いて、前記入力画像の画素ごとの各色成分の輝度値を補正する補正部の機能と、
前記投影面の変化を検出する検出部の機能と、
前記検出部が前記投影面の変化を検出した場合に、前記投影面が変化した後の前記撮影像と、前記入力画像とに基づいて、前記対応点情報を生成する対応点情報生成部の機能と、を実現させ、
前記補正パラメータ算出部は、前記検出部が前記投影面の変化を検出した場合に、前記入力画像と、前記投影面が変化した後の前記撮影像と、前記対応点情報生成部が生成した前記対応点情報とに基づいて、前記補正パラメータを算出することを特徴とするプログラム。 - 入力画像に応じた投影像が投影された投影面の撮影像を用いて前記入力画像を補正する画像処理装置であって、
前記入力画像と、前記撮影像と、前記入力画像と前記撮影像との間の画素位置の対応関係を示す対応点情報とに基づいて、前記投影面の反射特性に応じた補正パラメータを算出する補正パラメータ算出部と、
前記補正パラメータを用いて、前記入力画像の画素ごとの各色成分の輝度値を補正する補正部と、
前記投影像を前記投影面に投影する投影装置と前記投影面との相対的な位置関係の変化を検出する検出部と、
前記検出部が前記位置関係の変化を検出した場合に、前記位置関係が変化した後の前記撮影像と、前記入力画像とに基づいて、前記対応点情報を生成する対応点情報生成部と、
前記検出部が前記位置関係の変化を検出した場合に、前記入力画像と、前記投影装置と前記投影面との間の距離を示す距離情報とに基づいて、前記位置関係が変化したことによる前記投影像の輝度変化を推定して輝度変化推定値を出力する輝度変化推定部と、を備え、
前記補正パラメータ算出部は、前記検出部が前記位置関係の変化を検出した場合に、前記入力画像と、前記位置関係が変化した後の前記撮影像と、前記対応点情報生成部が生成した前記対応点情報と、前記輝度変化推定値とに基づいて、前記補正パラメータを算出することを特徴とする画像処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014232982A JP2016096516A (ja) | 2014-11-17 | 2014-11-17 | 画像処理装置、画像投影システム、画像処理方法およびプログラム |
US14/878,373 US20160142691A1 (en) | 2014-11-17 | 2015-10-08 | Image processing apparatus, image projection system, image processing method, and computer program product |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014232982A JP2016096516A (ja) | 2014-11-17 | 2014-11-17 | 画像処理装置、画像投影システム、画像処理方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016096516A true JP2016096516A (ja) | 2016-05-26 |
Family
ID=55962893
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014232982A Pending JP2016096516A (ja) | 2014-11-17 | 2014-11-17 | 画像処理装置、画像投影システム、画像処理方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20160142691A1 (ja) |
JP (1) | JP2016096516A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10225464B2 (en) | 2017-03-27 | 2019-03-05 | Casio Computer Co., Ltd. | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium having stored thereon image processing program for correcting an image for projection |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11303859B2 (en) * | 2016-09-29 | 2022-04-12 | Stmicroelectronics (Research & Development) Limited | Time of flight sensing for brightness and autofocus control in image projection devices |
WO2019019772A1 (en) * | 2017-07-28 | 2019-01-31 | Zhejiang Dahua Technology Co., Ltd. | SYSTEMS AND METHODS FOR IMAGE PROCESSING |
JP2020039082A (ja) * | 2018-09-05 | 2020-03-12 | セイコーエプソン株式会社 | 表示装置、表示システムおよび表示装置の制御方法 |
JP7188176B2 (ja) * | 2019-02-25 | 2022-12-13 | セイコーエプソン株式会社 | プロジェクター、画像表示システム及び画像表示システムの制御方法 |
CN113994662B (zh) * | 2019-06-20 | 2024-04-16 | 索尼集团公司 | 信息处理设备及对应方法、系统、介质和投影设备 |
EP4024385A4 (en) * | 2019-08-29 | 2023-08-30 | Tohoku University | PROJECTION SYSTEM, PROJECTION SYSTEM CONTROL DEVICE, PROJECTION METHOD AND PROGRAM |
CN115695741A (zh) * | 2021-07-23 | 2023-02-03 | 青岛海尔科技有限公司 | 投射图像的确定方法及装置、存储介质及电子装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7728845B2 (en) * | 1996-02-26 | 2010-06-01 | Rah Color Technologies Llc | Color calibration of color image rendering devices |
US7119833B2 (en) * | 2002-12-03 | 2006-10-10 | University Of Kentucky Research Foundation | Monitoring and correction of geometric distortion in projected displays |
WO2008130906A1 (en) * | 2007-04-17 | 2008-10-30 | Mikos, Ltd. | System and method for using three dimensional infrared imaging to provide psychological profiles of individuals |
AU2011220382A1 (en) * | 2010-02-28 | 2012-10-18 | Microsoft Corporation | Local advertising content on an interactive head-mounted eyepiece |
JP2014179698A (ja) * | 2013-03-13 | 2014-09-25 | Ricoh Co Ltd | プロジェクタ及びプロジェクタの制御方法、並びに、その制御方法のプログラム及びそのプログラムを記録した記録媒体 |
-
2014
- 2014-11-17 JP JP2014232982A patent/JP2016096516A/ja active Pending
-
2015
- 2015-10-08 US US14/878,373 patent/US20160142691A1/en not_active Abandoned
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10225464B2 (en) | 2017-03-27 | 2019-03-05 | Casio Computer Co., Ltd. | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium having stored thereon image processing program for correcting an image for projection |
Also Published As
Publication number | Publication date |
---|---|
US20160142691A1 (en) | 2016-05-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2016096516A (ja) | 画像処理装置、画像投影システム、画像処理方法およびプログラム | |
US9832436B1 (en) | Image projection system and image projection method | |
US9759548B2 (en) | Image processing apparatus, projector and projector system including image processing apparatus, image processing method | |
US10698308B2 (en) | Ranging method, automatic focusing method and device | |
US9672602B2 (en) | Projection image correcting apparatus, method for correcting image to be projected, and program | |
EP3531066A1 (en) | Three-dimensional scanning method including a plurality of lasers with different wavelengths, and scanner | |
US20180210070A1 (en) | Active Brightness-Based Strategy for Invalidating Pixels in Time-of-Flight Depth-Sensing | |
US10560686B2 (en) | Photographing device and method for obtaining depth information | |
JP6030396B2 (ja) | 映像処理装置 | |
EP3594617B1 (en) | Three-dimensional-shape measurement device, three-dimensional-shape measurement method, and program | |
US20180188020A1 (en) | Real-time-measurement projection device and three-dimensional-projection measurement device | |
JP2013156109A (ja) | 距離計測装置 | |
US10094769B2 (en) | Substance detection sensor, substance detecting method, and substance detection system having dual light source with optical scanning | |
JP6467516B2 (ja) | 距離画像取得装置付きプロジェクタ装置及びプロジェクション方法 | |
US20160284102A1 (en) | Distance measurement apparatus, distance measurement method, and storage medium | |
JP2011049733A (ja) | カメラキャリブレーション装置および映像歪み補正装置 | |
CN104660944A (zh) | 图像投影装置及图像投影方法 | |
KR20200045176A (ko) | 깊이 카메라와 비행체를 이용한 강건한 디스플레이 시스템 및 방법 | |
JP2013041167A (ja) | 画像処理装置、プロジェクタ、プロジェクタシステム、画像処理方法、そのプログラム、及び、そのプログラムを記録した記録媒体 | |
US10536677B2 (en) | Image processing apparatus and method | |
JP6214867B2 (ja) | 計測装置、方法及びプログラム | |
US11048929B2 (en) | Human body detection apparatus, control method for human body detection apparatus | |
WO2015145599A1 (ja) | 映像投影装置 | |
US10091404B2 (en) | Illumination apparatus, imaging system, and illumination method | |
KR20150000911A (ko) | 투사면과 영상의 자동 맵핑 장치 및 방법 |