JP2017215374A - 画像投影システムおよび画像投影方法 - Google Patents

画像投影システムおよび画像投影方法 Download PDF

Info

Publication number
JP2017215374A
JP2017215374A JP2016107542A JP2016107542A JP2017215374A JP 2017215374 A JP2017215374 A JP 2017215374A JP 2016107542 A JP2016107542 A JP 2016107542A JP 2016107542 A JP2016107542 A JP 2016107542A JP 2017215374 A JP2017215374 A JP 2017215374A
Authority
JP
Japan
Prior art keywords
image
projection
visible light
infrared
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016107542A
Other languages
English (en)
Inventor
渕上 竜司
Ryuji Fuchigami
竜司 渕上
和博 南
Kazuhiro Minami
和博 南
裕史 杉澤
Yasushi Sugisawa
裕史 杉澤
中村 秀幸
Hideyuki Nakamura
秀幸 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2016107542A priority Critical patent/JP2017215374A/ja
Priority to US15/581,735 priority patent/US9832436B1/en
Priority to PCT/JP2017/017445 priority patent/WO2017208739A1/en
Priority to EP17730953.1A priority patent/EP3466061B1/en
Priority to CN202110409357.5A priority patent/CN112954288B/zh
Priority to EP23159119.9A priority patent/EP4216541A1/en
Priority to CN201780030485.0A priority patent/CN109155843B/zh
Publication of JP2017215374A publication Critical patent/JP2017215374A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/315Modulator illumination systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/315Modulator illumination systems
    • H04N9/3164Modulator illumination systems using multiple light sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Projection Apparatus (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

【課題】画像投影システムにおいて、非可視光による計測処理および可視光を用いるキャリブレーション処理を簡易な構成により実行可能とする。【解決手段】画像投影システム1は、投影対象に向けて形状計測用のパターン画像を投影する赤外線投影装置3と、そのパターン画像を撮像する撮像装置5と、撮像されたパターン画像に基づいて投影対象の3次元的形状情報を取得し、その3次元的形状に基づいて、コンテンツ画像を投影対象に対応する投影用コンテンツ画像に変換する演算装置6と、可視光投影装置4とは異なる位置に配置され、投影対象に向けて投影用コンテンツ画像を投影する可視光投影装置4とを備え、演算装置6は、可視光投影装置4によって投影された非可視光画像および可視光投影装置4によって投影された赤外線画像の撮像装置5による撮像画像に基づき、当該非可視光画像及び可視光画像との各画素を対応づける処理を実行する構成とする。【選択図】図1

Description

本発明は、投影対象の変化に応じて当該投影対象に対してリアルタイムにコンテンツ画像を投影する画像投影システムおよび画像投影方法に関する。
建物等の投影対象に対して所望のコンテンツ画像を投影する技術としてプロジェクションマッピングと呼ばれる技術が知られている。一般に投影対象は三次元形状を有するため、コンテンツ画像をそのまま投影した場合には、投影対象の表面の凹凸や、奥行きの大小のために、投影装置とは別個の位置にいる観客には、投影された画像が歪んだ画像として見える場合がある。そこで、投影対象の各点までの撮像装置と投影装置の各画素の対応を予め計測し、コンテンツ画像に対して、対応する座標変換を行って投影することにより、歪みの無いコンテンツ画像を観ることができるようにしている。
従来は、投影対象が建物等の固定物であることが一般的であることから、通常は、事前に投影対象の各点までの撮像装置と投影装置の各画素の対応を予め計測し、固定された撮像装置と投影装置の各画素の対応情報に基づいてプロジェクションマッピングを行うようにしていた。しかしながら、乗り物、ダンサー、運動選手などの変化する投影対象(以下、「動物体」という。)に対してプロジェクションマッピングを行いたいという要望があり、そのような動物体に対して好適にプロジェクションマッピングを行うための技術が望まれるようになってきた。
しかしながら、動物体に投影する場合、たとえば人がゆっくり歩く程度の毎秒1メートル程の低速な動きであっても通常の秒60コマ程度の映像処理では、計測の為の撮像と投影を行う間に数センチメートルの移動誤差が発生してしまう。
この種の問題を解決する高速且つ低遅延な計測投影が行える技術として、例えば、コンテンツ画像を示す映像光と、投影座標系における投影座標をコード化した情報に対応するパターン画像を含むパターン光とを投影する投影装置と、少なくとも1つの撮像装置を含み、投影装置が、レンズ光学系と、可視光LED光源と、赤外LED光源と、両光源による光を投影するための1つのデジタルマイクロミラーデバイス(以下、「DMD」という。)とを有する画像投影システムが知られている(特許文献1参照)。この画像投影システムによれば、コンテンツ画像の投影と投影対象の計測とを同じ投影装置によって行うため、構造物にコンテンツ画像を意図通りに位置合わせをして投影を行うことが可能になる。
国際公開第WO2015/125403号パンフレット
ところで、近年、上記のようなプロジェクションマッピングでは、高速に変化する動物体に対してより高輝度かつより高いフレームレートでコンテンツ画像を投影したいという要求があり、これにより、投影に用いる光源を高輝度化すると共に投影画像をより高速に切り替えるための技術が求められている。
特に、フルカラー画像を投影する場合、上記特許文献1に記載されたような投影装置であっても、赤青緑の各色の光源を高輝度化することは技術的に容易ではなく且つ高いコストを要し、また、赤青緑の3色に赤外線を加えた4種の光を1つのDMDで高速に投影するのには限界があり、更に4種の光をレンズ光学系に導くためのミラー等の光学系も非常に複雑となる。
そこで、本願発明者らは、可視光光源用の可視光投影装置と赤外線(非可視光)光源用の赤外線投影装置(非可視光投影装置)とを個別に設ける(すなわち、個別のDMDおよび光学系を用いる)技術を考案した。この技術によれば、可視光および赤外線の投影位置が異なるため、上記従来技術と同様に赤外線投影装置によって投影された赤外線のパターン画像に基づき投影対象の距離(延いては、投影対象の位置および形状)を計測する計測処理の他に、可視光投影装置から投影される可視光画像と撮像装置による撮像画像(延いては、赤外線投影装置から投影される赤外線画像)における各画素を対応付けるキャリブレーション処理を実施することが新たに必要となる。
しかしながら、動物体へ遅延無く計測結果の投影を行うには、計測と投影が同時に行われなければならないという制約がある。特に映像の高輝度化や高品質化の為には可視光投影装置は、たとえ人間には認知の困難な短時間であって計測の為に投影を中断せずに投影することが望ましい。このことは、投影時の撮像装置は可視光映像に妨害されずに非可視光を撮像したい一方で、キャリブレーション処理時には可視光及び非可視光の両者を撮像しなければならないという課題に繋がる。本課題は、動くものに対して、動きによる誤差量が十分小さく出来る高速且つ低遅延な計測投影システムが誕生したことにより顕在化した新しい課題である。
本発明は、このような従来技術の課題を鑑みて案出されたものであり、非可視光による計測処理および可視光を用いるキャリブレーション処理を簡易な構成により実行可能とする画像投影システムおよび画像投影方法を提供することを主目的とする。
本発明の画像投影システムは、投影対象に向けてコンテンツ画像を投影するための画像投影システムであって、前記投影対象に向けて形状計測用のパターン画像を非可視光によって投影する非可視光投影装置と、前記投影対象に投影された前記パターン画像を撮像する撮像装置と、前記撮像されたパターン画像に基づいて前記投影対象の3次元的形状の情報を取得する計測制御装置と、前記形状情報に基づいて、予め準備されたコンテンツ画像を前記投影対象に対応する投影用コンテンツ画像に変換する投影画像処理装置と、前記非可視光投影装置とは異なる位置に配置され、前記投影対象に向けて前記投影用コンテンツ画像を可視光によって、前記非可視光投影装置と同時に投影する可視光投影装置と、前記非可視光投影装置によって投影された非可視光画像および前記可視光投影装置によって投影された可視光画像を前記撮像装置によってそれぞれ撮像した画像に基づき、前記非可視光画像と前記可視光画像との各画素を対応づける処理を実行するキャリブレーション処理装置とを備えたことを特徴とする。
本発明によれば、非可視光による計測処理および可視光を用いるキャリブレーション処理を簡易な構成により実行することが可能となる。
第1実施形態に係る画像投影システムの構成図 赤外線投影装置によって投影される計測処理用のパターン画像の一例を示す説明図 図1に示した演算装置の詳細を示す機能ブロック図 第1実施形態に係る画像投影システムのキャリブレーション処理の流れを示すフロー図 図4に示したキャリブレーション処理の変形例を示す図 図1に示した画像投影システムの変形例を示す図 第1実施形態に係る画像投影システムの第1の応用例を示す説明図 第1実施形態に係る画像投影システムの第2の応用例を示す説明図 第1実施形態に係る画像投影システムの第3の応用例を示す説明図 第1実施形態に係る画像投影システムの第4の応用例を示す説明図 第2実施形態に係る画像投影システムの構成図 第2実施形態に係る画像投影システムの計測処理の流れを示すフロー図 図12に示した計測処理の変形例を示す図 第3実施形態に係る画像投影システムの構成図 第3実施形態に係る画像投影システムの動作を示す説明図 第3実施形態に係る画像投影システムの動作の変形例を示すフロー図 図16中のステップST506の処理を示す説明図 第4実施形態に係る画像投影システムの構成図 図18に示した画像投影システムの変形例を示す図
上記課題を解決するためになされた第1の発明は、投影対象に向けてコンテンツ画像を投影するための画像投影システムであって、前記投影対象に向けて形状計測用のパターン画像を非可視光によって投影する非可視光投影装置と、前記投影対象に投影された前記パターン画像を撮像する撮像装置と、前記撮像されたパターン画像に基づいて前記投影対象の3次元的形状の情報を取得する計測制御装置と、前記形状情報に基づいて、予め準備されたコンテンツ画像を前記投影対象に対応する投影用コンテンツ画像に変換する投影画像処理装置と、前記非可視光投影装置とは異なる位置に配置され、前記投影対象に向けて前記投影用コンテンツ画像を可視光によって、前記非可視光投影装置と同時に投影する可視光投影装置と、前記非可視光投影装置によって投影された非可視光画像および前記可視光投影装置によって投影された可視光画像を前記撮像装置によってそれぞれ撮像した画像に基づき、前記非可視光画像と前記可視光画像との各画素を対応づける処理を実行するキャリブレーション処理装置とを備えたことを特徴とする。
この第1の発明に係る画像処理装置によれば、計測用のパターン画像およびキャリブレーション処理用の可視光画像を同一の撮像装置を用いて撮像することにより、非可視光による計測処理および可視光を用いるキャリブレーション処理を簡易な構成により実行することが可能となる。
また、第2の発明では、上記第1の発明において、前記可視光投影装置が、使用する各色にそれぞれ対応する個別の表示素子を有することを特徴とする。
この第2の発明に係る画像処理装置によれば、各色に対して共通の表示素子を用いる場合と比べて、各表示装置に要求される処理速度を実質的に低下させることが可能となり、より高いフレームレートでのコンテンツ画像の表示に対応することが可能となる。
また、第3の発明では、上記第1または第2の発明において、前記可視光投影装置が前記撮像装置に隣接して配置されることを特徴とする。
この第3の発明に係る画像処理装置によれば、可視光投影装置を撮像装置に隣接して配置することにより、キャリブレーション処理をより簡易に実行することが可能となる。
また、第4の発明では、上記第1または第2の発明において、前記可視光投影装置が前記非可視光投影装置に隣接して配置されることを特徴とする。
この第4の発明に係る画像処理装置によれば、可視光投影装置を非可視光投影装置に隣接して配置することにより、キャリブレーション処理をより簡易に実行することが可能となる。
また、第5の発明では、上記第1または第4の発明のいずれかにおいて、前記撮像装置には、可視光カットフィルタが着脱可能に設けられたことを特徴とする。
この第5の発明に係る画像処理装置によれば、可視光カットフィルタを用いた簡易な構成により、計測用のパターン画像およびキャリブレーション処理用の可視光画像を同一の撮像装置を用いて撮像することが可能となる。
また、第6の発明は、投影対象に向けてコンテンツ画像を投影するための画像投影方法であって、前記投影対象に向けて形状計測用のパターン画像を非可視光投影装置により投影するステップと、前記投影対象に投影された前記パターン画像を撮像装置により撮像するステップと、前記撮像されたパターン画像に基づいて前記投影対象の3次元的形状の情報を取得するステップと、前記形状情報に基づいて、予め準備されたコンテンツ画像を前記投影対象に対応する投影用コンテンツ画像に変換するステップと、前記非可視光投影装置とは異なる位置に配置された可視光投影装置により、前記投影対象に向けて前記投影用コンテンツ画像を可視光によって投影するステップと、前記可視光投影装置によって投影された可視光画像と前記撮像装置によって撮像された前記可視光画像の撮像画像との各画素を対応づけるキャリブレーション処理を実行するステップとを有することを特徴とする。
この第6の発明に係る画像投影方法によれば、計測用のパターン画像およびキャリブレーション処理用の可視光画像を同一の撮像装置を用いて撮像することにより、非可視光による計測処理および可視光を用いるキャリブレーション処理を簡易な構成により実行することが可能となる。
また、第7の発明は、上記第6の発明において、前記撮像装置に可視光カットフィルタが設けられ、前記パターン画像を受光する際には前記可視光カットフィルタが用いられ、前記投影用コンテンツ画像を受光する際には前記可視光カットフィルタが解除されることを特徴とする。
この第7の発明に係る画像投影方法によれば、可視光カットフィルタを用いた簡易な構成により、計測用のパターン画像およびキャリブレーション処理用の可視光画像を同一の撮像装置を用いて撮像することが可能となる。
また、第8の発明は、上記第6の発明において、前記撮像装置が露光時間を変更可能であって、前記パターン画像を受光する際よりも、前記投影用コンテンツ画像を受光する際には前記露光時間を長くすることを特徴とする。
この第8の発明に係る画像投影方法によれば、非可視光の撮像に適した(すなわち、非可視光に対する感度に比べて可視光に対する感度が低い)撮像装置を用いる場合でも、露光時間を調整する簡易な構成により、計測用のパターン画像およびキャリブレーション処理用の可視光画像を同一の撮像装置を用いて撮像することが可能となる。
また、第9の発明は、上記第6の発明において、前記非可視光投影装置による投影ステップでは、前記パターン画像として、互いに反転した関係を有するパターンを含む画像対が順次投影され、前記撮像装置による撮像ステップでは、前記順次投影された画像対および当該画像対とそれぞれ同一のタイミングで投影された前記投影用コンテンツ画像とが順次撮像され、前記投影対象の形状情報を取得するステップでは、前記撮像装置により順次撮像された前記画像対の撮像画像の差分画像に基づいて、前記投影対象の3次元的な形状情報を取得することを特徴とする。
この第9の発明に係る画像投影方法によれば、互いに反転した関係を有するパターンをそれぞれ含む画像対の一方または他方と投影用コンテンツ画像とがそれぞれ含まれる一対の撮像画像の差分により、投影用コンテンツ画像を互いに相殺することが可能となるため、撮像装置に可視光カットフィルタ等を設ける必要がなくなり、キャリブレーション処理を簡易な構成により実行することが可能となる。
以下、本発明の実施の形態について図面を参照しながら説明する。
(第1実施形態)
図1は、本発明の第1実施形態に係る画像投影システム1の構成図である。画像投影システム1は、投影対象に対して所望の映像コンテンツを構成する画像を投影するプロジェクションマッピングを実施するためのシステムであり、特に、乗り物、ダンサー、運動選手などの変化する投影対象(動物体2)に対する動画像の投影に好適である。なお、図面では、動物体2を簡略化した形態(例えば、図1における円柱形状)で示す。
図1に示すように、画像投影システム1は、動物体2に向けて赤外線画像を投影する赤外線投影装置3と、動物体2に向けて可視光画像を投影する可視光投影装置4と、動物体2に対して投影された赤外線画像および可視光画像を撮像可能な撮像装置5と、それら各装置3〜5と通信可能に接続され、プロジェクションマッピングに必要な各種処理を実行する演算装置6とを主として備える。赤外線投影装置3、可視光投影装置4、及び撮像装置5は、予め定められた位置にそれぞれ配置することができる。
赤外線投影装置3は、投射レンズ等のレンズ系を含む出射部10と、赤外領域の光を発する赤外線LEDを備えた赤外線光源11と、この赤外線光源11からの光を投射レンズに向けて選択的に反射することにより、動画または静止画からなる所望の赤外線画像を形成するDMD12と、赤外線光源11やDMD12の動作を制御するための図示しない制御基板やプロセッサ等を備える。
なお、赤外線光源11としては、所望の輝度を達成可能な限りにおいて、LEDに限らずレーザー等の他の公知の光源を採用することができる。また、赤外線投影装置(非可視光投影装置)3は、少なくとも非可視光(人に視認されない不可視光またはそれに準ずる光であってコンテンツ画像の視認に大きな影響を及ぼさない光)であれば、赤外線に限らず紫外線等の他の光を用いて非可視光画像を投影してもよい。
可視光投影装置4は、投射レンズ等のレンズ系を含む出射部15と、可視領域の光を発する白色レーザーを備えた可視光光源16と、この可視光光源16からの各色(赤、緑、青)の光を投射レンズに向けてそれぞれ選択的に反射することにより、動画または静止画からなる所望の可視光画像を形成するDMD(表示素子)17a、17b、17cと、可視光光源16やDMD17a〜17cの動作を制御するための図示しない制御基板やプロセッサ等を備える。また、図示は省略したが、可視光光源16からの白色光は、公知の色分解プリズムによって各色に分解されることにより、各色にそれぞれ対応するDMD17a〜17cに導かれ、さらに、これらDMD17a〜17cによって反射された光は、その色分解プリズムを介して投射レンズからそれぞれ動物体2に投影される。
可視光投影装置4は、少なくとも赤外線投影装置3とは異なる位置に配置され、ここでは、撮像装置5に隣接して(少なくとも赤外線投影装置3よりも撮像装置5に近づけて、より好ましくは、互いの筐体が接する程度まで近づけて)配置される。これにより、可視光投影装置4による可視光画像および撮像装置5による撮像画像の各画素の対応づけが容易となり、後述するキャリブレーション処理をより簡易に実行することが可能となる。
なお、可視光投影装置4に用いられる表示素子としては、可視光画像としてのコンテンツ画像の投射において所望のフレームレートを達成可能な限りにおいて、DMDに限らず液晶ディスプレイ等の他の公知の表示素子を採用することができる。また、可視光光源16としては、所望の輝度を達成可能な限りにおいて、白色レーザーに限らずLEDや水銀灯等の他の公知の光源を採用することができる。
撮像装置5は、赤外線画像に基づき動物体2の位置および形状計測を行うべく、赤外線の撮像に適した公知のデジタルビデオカメラであり、主として赤外線の波長領域に感度を有する(ここでは、近赤外域の感度を向上させた)図示しないイメージセンサを備えている。また、撮像装置5には、赤外線による位置および形状計測が可視光によって阻害されることを防止するための可視光カットフィルタ19が設けられている。可視光カットフィルタ19は、図示しない対物レンズの外側(動物体2側)に配置されており、図1に示すように着脱自在である。
なお、可視光カットフィルタ19の着脱は、画像投影システム1のユーザによる手作業で行うことが可能である。ただし、これに限らず、可視光カットフィルタ19を対物レンズ(出射部15)に装着する装着位置と対物レンズから離間する解除位置との間で変位させるフィルタ駆動装置を撮像装置5に付設することにより、可視光カットフィルタ19を自動で着脱してもよい。
後に詳述するように、この画像投影システム1では、赤外線投影装置3は、所定の複数のパターン(フレーム)から構成されるパターン画像を赤外線画像として動物体2に投射し、この投射されたパターン画像を撮像装置5が撮像する。演算装置6は、撮像されたパターン画像に基づき、動物体2の画素毎の距離(3次元の位置および形状)を計測する計測処理を実行する。さらに、演算装置6は、予め準備された可視光によるコンテンツ画像を動物体2の位置および形状情報に基づいて補正(すなわち、座標変換)し、この補正によって生成された投影用コンテンツ画像を可視光投影装置4が動物体2に投射する。これにより、動物体2の変化(移動や形状変化)に関わらず、可視光投影装置4により投影される可視光画像の歪みやずれが抑制され、観者は、より良好なコンテンツ画像を見ることができる。
さらに、画像投影システム1では、演算装置6が、可視光投影装置4によって投影された可視光画像と、撮像装置5によって撮像された当該可視光画像の撮像画像(延いては、赤外線投影装置3によって投影された赤外線画像)との各画素を対応づけるキャリブレーション処理を実行する。このキャリブレーション処理の結果として得られる各画素間の変換パラメータは、上述の投影用コンテンツ画像を生成するためのコンテンツ画像の補正に用いられる。これにより、可視光投影装置4が赤外線投影装置3と異なる位置に配置された場合でも、可視光投影装置4により投影される可視光画像の歪みやずれが抑制され、観者は、より良好なコンテンツ画像を見ることができる。
図2は、赤外線投影装置3によって投影される計測処理用のパターン画像の一例を示す説明図である。このパターン画像は、所定の画素数(ここでは、1024×768画素)を有するDMD12のX座標およびY座標をグレイコード化した各ビットをマンチェスタ符号化し、白黒の2値画像として表すことにより得られる。
ここでは、X座標、Y座標ともに10ビットが割り当てられることにより座標情報がコード化され、図2において、X4aおよびX4bは、それぞれX座標の最上位ビットである9ビット目を示すパターンおよびその補完的な画像として輝度反転させたパターンである。X3aおよびX3bは、それぞれX座標の8ビット目を示すパターンおよびその補完的な画像として輝度反転させたパターンである。X2aおよびX2bは、それぞれX座標の7ビット目を示すパターンおよびその補完的な画像として輝度反転させたパターンである。
また、Y4aおよびY4bは、それぞれY座標の最上位ビットである9ビット目を示すパターンおよびその補完的な画像として輝度反転させたパターンである。Y3aおよびY3bは、それぞれY座標の8ビット目を示すパターンおよびその補完的な画像として輝度反転させたパターンである。Y2aおよびY2bは、それぞれY座標の7ビット目を示すパターンおよびその補完的な画像として輝度反転させたパターンである。
図示は省略するが、X座標、Y座標ともに、0ビット目を示すパターンまで合計40枚のパターンが設定される。各画素の濃度情報は、相互に補完的な画像対の差信号に基づいて、ノイズ除去を図るようにしている。
赤外線投影装置3は、このような20対の相互に補完的な画像対を含むパターン画像を所定の時間内で順次動物体2に投影し、撮像装置5が、パターン画像を撮像し、その撮像画像を演算装置6が処理することにより、赤外線投影装置3から投射される赤外線画像における各画素と、撮像装置5により撮像される撮像画像における各画素とを対応づけることができる。これにより、三角法に基づいて各画素の距離(3次元の位置および形状)を計測することができる。演算装置6は、また、そのような計測処理において、変化する動物体2を追跡する公知の処理を実行することができる。
なお、本実施形態では、1024×768画素の場合の例であって、画像パターンの数が40枚となっているが、その数は、解像度や得たい精度によって変化する。また、撮像装置5と赤外線投影装置3との設置条件によっては、Y座標もしくはX座標の片方を常に撮像装置5と赤外線投影装置3とで固定的に対応づけたり、或いは狭い範囲でしかずれないように設定することも可能であり、その場合は片方の座標コードを削減したり、大幅に減らしたりすることも可能である。
図3は、図1に示した演算装置6の詳細を示す機能ブロック図である。
演算装置6において、パターン生成部21は、図2に例示した計測処理用のパターン画像を記憶しており、パターン画像を構成する各パターンの情報を所定のタイミングで画像出力部22に向けて順次出力する。画像出力部22は、それら各パターンに対応する画像信号を赤外線投影装置3に供給する。また、画像出力部22は画像出力のタイミングを画像入力部23に伝達し、画像入力部23は、画像出力部22とタイミングを同期させた撮影を行なえるように撮像装置5を制御する。また、画像出力部22は、赤外線投影装置3による赤外線画像の投影タイミングと、可視光投影装置4による可視光画像の投影タイミングとを同期させることができる。
動物体2に投影されたパターン画像は撮像装置5により撮像され、得られた撮像画像は画像入力部23に送られ、更にパターン復号部24に送られる。パターン復号部24は、受信した撮像画像に関し、補完的な画像対の一方と、フレームメモリ部25に先に記憶された補完的な画像対の他方とのフレーム間の差分を計算する。これにより、環境光等の影響を受けることなく、パターン画像の画素値(ここでは、「0」および「1」の2値)を容易に判別することができる。
コード復号用メモリ部26には、撮像装置5の画素毎に書き込み領域が設けられており、パターン復号部24は、上記差分を計算した後、グレイコード化した座標データの各ビット値を、その書き込み領域にビット単位で書き込む。このような処理が、40フレーム分実行されることにより、撮像装置5の撮像画像の各画素に対応する赤外線投影装置3の赤外線画像の各画素のX座標およびY座標のそれぞれを示す10bitの値が、コード復号用メモリ部26に書き込まれる。
このようにして、コード復号用メモリ部26には、最終的に赤外線投影装置3のパターン画像と撮像装置5による撮像画像との各画素の対応情報が格納され、補完的な画像対を1つ処理する毎に最新の画素の対応情報が座標変換部27に出力される。この際、各画素の対応情報には、各画素の計測情報として、輝度および色の情報や、距離(3次元の位置および形状)情報などが付随する。座標変換部27は、各画素の計測情報を、画素対応情報に基づき並び替えながら、赤外線投影装置3による赤外線画像に対応したアドレスが設定された座標変換用メモリ部28に書き込む。その後、座標変換部27は、赤外線投影装置3による赤外線画像の座標順で座標変換用メモリ部28の値を読み出して、座標補間部29に送る。
座標補間部29は、座標変換部27から、受け取った各画素の計測情報を用い、各画素の計測情報の存在しないものがあれば、その欠落情報を必要に応じて補間する。この補間方法としては、例えば、一定の範囲内に有効な計測情報を有する画素が存在する場合に線形補間するなどが考えられる。
また、演算装置6では、後に詳述するキャリブレーション処理において、上述の計測処理と同様の方法で、赤外線投影装置3のパターン画像と撮像装置5による撮像画像との各画素の対応情報取得することが可能であり、さらに、可視光によるパターン画像を同様に用いて可視光投影装置4のパターン画像と撮像装置5による撮像画像との各画素の対応情報取得することが可能である。これにより、赤外線投影装置3のパターン画像(赤外線画像)と可視光投影装置4のパターン画像(可視光画像)との各画素の対応情報をキャリブレーション情報として生成することができる。
コンテンツメモリ部31には動物体2に投影されるべき画像の素材となる、テクスチャ、動画データ、メッシュ、シェーダープログラムなどが記憶されており、これらは、コンテンツ生成部30からの要求に応じて読み込まれ、コンテンツ生成部30によって、座標補間部29から得た計測情報およびキャリブレーション情報に基づいて、動物体2にマッピングされるべき投影用コンテンツ画像が生成される。投影用コンテンツ画像は、画像出力部22に向けて順次出力され、画像出力部22は、対応する画像信号を可視光投影装置4に供給する。
なお、演算装置6は、公知のハードウエアを備えたコンピュータからなり、図示は省略するが、例えば、所定の制御プログラムに基づき情報処理を実行するプロセッサ、プロセッサのワークエリア等として機能する揮発性メモリ、プロセッサが実行する制御プログラムやデータを格納する不揮発性メモリ等から構成される。或いは、演算装置6は、ASICやFPGAからなる集積回路を備えた構成であってもよい。また、本実施形態で示す演算装置6の機能の少なくとも一部と同様の機能を、赤外線投影装置3、可視光投影装置4、及び撮像装置5の少なくとも1つに付加した構成も可能である。
図4は、画像投影システム1のキャリブレーション処理の流れを示すフロー図である。画像投影システム1は、上述の計測処理を実施する前(例えば、可視光投影装置4の設置完了時や、可視光投影装置4におけるズーム設定やフォーカス設定の変更時)にキャリブレーション処理を実行する。
図4に示すように、キャリブレーション処理では、上述の計測処理の場合と同様に、赤外線投影装置3がパターン画像を投射し(ST101)、そのパターン画像を撮像装置5が撮像する(ST102)。このとき、撮像装置5には、可視光カットフィルタ19が取り付けられており(すなわち、可視光カットが有効な状態にあり)、撮像装置5は、可視光の影響を受けることなく赤外線画像を撮像可能である。続いて、演算装置6は、撮像装置5によって取得された赤外線による撮像画像に基づき、赤外線投影装置3による赤外線画像と撮像装置5による撮像画像との各画素を対応づける(ST103)。
次に、撮像装置5の可視光カットフィルタ19が解除され(ST104)、これにより、撮像装置5は、可視光による撮像が可能となる。その後、可視光投影装置4は、上述の赤外線投影装置3による計測処理の場合と同様に、可視光によるパターン画像を投射し(ST105)、そのパターン画像を撮像装置5が撮像する(ST106)。続いて、演算装置6は、撮像装置5によって取得された可視光による撮像画像に基づき、可視光投影装置4による可視光画像と撮像装置5による撮像画像との各画素を対応づける(ST107)。これにより、可視光投影装置4による可視光画像と赤外線投影装置3による赤外線画像との各画素を対応づけることが可能となる。
最終的に、撮像装置5の可視光カットフィルタ19が再びセットされ(ST108)、撮像装置5の可視光カットが有効となることにより、その後は、赤外線画像を利用した計測処理が可能となる。
なお、上記ステップST101〜ST103と、ステップST104〜ST108とは、実行する順序を逆にしてもよい。
図5は、図4に示したキャリブレーション処理の変形例を示す図である。図4では、撮像装置5における可視光カットフィルタ19の着脱によって、赤外線画像および可視光画像をそれぞれ撮像可能とした例を示したが、図5では、可視光カットフィルタ19の着脱を不要とする例を示す。
図5に示すように、変形例では、上述の図4におけるステップST101〜ST103とそれぞれ同様のステップST201〜ST203が実行される。そこで、演算装置6は、露光時間を増大させるように撮像装置5を制御し(ST204)、その後は、上述の図4におけるステップST105〜ST107とそれぞれ同様のステップST205〜ST207が実行される。
最終的に、撮像装置5の露光時間が赤外線画像を撮影するための基準値に戻され(ST208)、その後は、赤外線画像を利用した計測処理が可能となる。
なお、上記ステップST201〜ST203と、ステップST204〜ST208とは、実行する順序を逆にしてもよい。
図6は、図1に示した画像投影システム1の変形例を示す図である。図6では、図1に示した画像投影システム1と同様の構成要素に同一の符号が付されている。また、この変形例に係る画像投影システム1では、以下で特に言及する事項を除いて、第1実施形態の場合と同様である。
上述の図1では、可視光投影装置4が撮像装置5に隣接して配置される例を示したが、これに限らず、図6に示すように、画像投影システム1では、可視光投影装置4が赤外線投影装置3に隣接して(少なくとも撮像装置5よりも赤外線投影装置3に近づけて、より好ましくは、互いの筐体が接する程度まで近づけて)配置される構成も可能である。これにより、可視光投影装置4による可視光画像および赤外線投影装置3による赤外線画像の各画素の対応づけが容易となり、キャリブレーション処理をより簡易に実行することが可能となる。
図7、図8、図9、及び図10は、それぞれ第1実施形態に係る画像投影システム1の第1〜第4の応用例を示す説明図である。ここでは、上述の計測処理に用いた赤外線投影装置3を映像コンテンツの投影に用いる例を示す。
図7に示すように、画像投影システム1において、赤外線投影装置3は、動物体2(ここでは、舞台40の出演者)の少なくとも一部の領域(ここでは、顔領域)に赤外線画像として妨害画像41を投影することができる。これにより、撮影禁止の会場において、観客が出演者等を無断で撮影した場合でも、妨害画像41によって撮影が阻害される。図7では、妨害画像41として、所定の形状(ここでは、円形)の図形からなる赤外線画像が、動物体2の一部を覆うように重畳された例を示している。
なお、赤外線投影装置3から近赤外領域の比較的強い光によって赤外線画像を投影することにより、可視光を撮影するためのカメラを観客が撮影に用いた場合でも、撮影された可視光画像に対して妨害画像41による悪影響を及ぼすことが可能である。また、妨害画像41を投影する対象は、複数の出演者や展示物の一部(例えば、いわゆるパブリシティ権によって保護が必要な出演者や、著作権によって保護が必要なキャラクタ等)に限定することもできる。
また、妨害画像41としては、上述の図形に限らず、例えば、図8に示すように、所望の文字情報(ここでは、観客に対する警告的なメッセージ)を含む赤外線画像であってもよい。これにより、無断撮影を実施した観客に対して効果的に注意喚起することが可能となる。
また、図9に示すように、画像投影システム1において、赤外線投影装置3は、動物体2の周辺に赤外線画像として装飾画像51を投影することができる。図9では、動物体2(ここでは、結婚式の新郎・新婦)に対し、赤外線画像として、所望の文字および図形からなる情報(ここでは、新郎・新婦に対するお祝いのメッセージおよび図形)を含む装飾画像51が投影された例を示している。これにより、撮影した画像を現像(またはディスプレイ表示)した際に、初めて視認可能となる装飾画像51によって撮影者(結婚式の参加者等)の驚きや喜びを期待できる。
なお、赤外線投影装置3から近赤外領域の比較的強い光によって赤外線画像を投影することにより、可視光を撮影するためのカメラを撮影者が撮影に用いた場合でも、撮影された画像に装飾画像51を出現させることが可能となる。
また、装飾画像51としては、上述の結婚式の例に限らず、例えば、図10に示すように、お化け屋敷等のアトラクションにおいて、動物体2(ここでは、入場者)の周辺に赤外線画像として装飾画像51を投影することもできる。
(第2実施形態)
図11は、本発明の第2実施形態に係る画像投影システム1の構成図である。図11では、図1に示した画像投影システム1と同様の構成要素に同一の符号が付されている。また、第2実施形態に係る画像投影システム1では、以下で特に言及する事項を除いて、第1実施形態の場合と同様である。
上述の第1実施形態では、1台の赤外線投影装置3を用いて赤外線画像を投影する例を示したが、動物体2の移動領域(例えば、図11に示す舞台40)が比較的広い場合には、赤外線光源11の光量が不十分となる場合がある。
そこで、第2実施形態に係る画像投影システム1では、複数(ここでは、2台)の赤外線投影装置3L、3Rが投影領域を分担する。より詳細には、左側に配置された第1赤外線投影装置3Lは、舞台40の左側の領域に赤外線画像を投影し、右側に配置された第2赤外線投影装置3Rは、舞台の右側の領域に赤外線画像を投影することが可能である。それら赤外線投影装置3L、3Rの投影領域は、中央において一部重複している。また、赤外線投影装置3L、3Rは、可視光投影装置4よりもより動物体2に近い位置(前方)に配置される。このような構成により、画像投影システム1では、赤外線投影装置3における赤外線光源11の光量を増大させた場合と同様の効果が得られる。
図12は、第2実施形態に係る画像投影システム1の計測処理の流れを示すフロー図である。この計測処理では、上述の第1実施形態の場合と同様に、第1赤外線投影装置3Lがパターン画像を投射し(ST201)、そのパターン画像を撮像装置5が撮像する(ST202)。続いて、演算装置6は、撮像装置5によって取得された撮像画像に基づき、赤外線投影装置3による赤外線画像と撮像装置5による撮像画像との各画素を対応づけ、また、各画素に関する距離(位置および形状)を計測する(ST303)。
ステップST303における計測処理が成功した場合(ST304:Yes)、演算装置6は、動物体2が第1赤外線投影装置3Lの投影領域の右端(ここでは、図11に示した第2赤外線投影装置3Rの投影領域と重複する範囲)に位置するか否かを判定する(ST305)。そこで、動物体2が投影領域の右端に位置しない場合(ST305:No)、再びステップST301に戻り、上述と同様の処理が実行される。
一方、動物体2が投影領域の右端に位置する場合(ST305:Yes)、第1赤外線投影装置3Lに代わり第2赤外線投影装置3Rがパターン画像を投射し(ST306)、そのパターン画像を撮像装置5が撮像する(ST307)。続いて、演算装置6は、上述のステップST303と同様に、赤外線投影装置3による赤外線画像と撮像装置5による撮像画像との各画素を対応づけ、また、各画素に関する距離(位置および形状)を計測する(ST308)。
ステップST308における計測処理が成功した場合(ST309:Yes)、演算装置6は、動物体2が第2赤外線投影装置3Rの投影領域の左端(ここでは、図11に示した第1赤外線投影装置3Lの投影領域と重複する範囲)に位置するか否かを判定する(ST310)。そこで、動物体2が投影領域の左端に位置しない場合(ST310:No)、再びステップST306に戻り、上述と同様の処理が実行される。一方、動物体2が投影領域の左端に位置する場合(ST310:Yes)、再びステップST301に戻り、上述と同様の処理が実行される。
図13は、図12に示した計測処理の変形例を示す図である。図12では、第1及び第2赤外線投影装置3L、3Rのいずれを赤外線画像の投影に用いるかについて、計測処理によって得られる動物体2の位置情報に基づき決定した例を示したが、図13では、動物体2の位置を位置センサによって検出する例を示す。このような位置センサとしては、例えば、図11に示した舞台40の床に設置される重量センサを用いることができる。
図13に示すように、この変形例では、まず、位置センサによる動物体2の位置の検出が実行される(ST401)。そこで、演算装置6は、動物体2の位置の検出結果を取得し、その位置が対象領域(例えば、図11に示す舞台40)の基準位置(ここでは、中央)に対して左側の領域に位置するか否かを判定する(ST402)。
そこで、動物体2が左側の領域に位置する場合には(ST402:Yes)、第1赤外線投影装置3Lがパターン画像を投射し(ST403)、そのパターン画像を撮像装置5が撮像する(ST404)。続いて、演算装置6は、図12におけるステップST303と同様に、第1赤外線投影装置3Lによる赤外線画像と撮像装置5による撮像画像との各画素を対応づけ、また、各画素に関する距離(位置および形状)を計測する(ST405)。
一方、動物体2が右側の領域に位置する場合には(ST402:No)、第2赤外線投影装置3Rがパターン画像を投射し(ST406)、そのパターン画像を撮像装置5が撮像する(ST407)。続いて、演算装置6は、図12におけるステップST306と同様に、第2赤外線投影装置3Rによる赤外線画像と撮像装置5による撮像画像との各画素を対応づけ、また、各画素に関する距離(位置および形状)を計測する(ST408)。
その後、画像投影システム1では、上述のステップST401からST408が繰り返し実行される。
(第3実施形態)
図14は、本発明の第3実施形態に係る画像投影システム1の構成図であり、図15は、第3実施形態に係る画像投影システム1の動作を示す説明図である。図14では、図1に示した画像投影システム1と同様の構成要素に同一の符号が付されている。また、第3実施形態に係る画像投影システム1では、以下で特に言及する事項を除いて、第1または第2実施形態の場合と同様である。
上述の第1及び第2実施形態に係る画像投影システム1では、撮像装置5に可視光カットフィルタ19が設けられた例を示したが、ここでは、図14に示すように、可視光カットフィルタ19が省略されている。
また、上述の第1及び第2実施形態では、可視光投影装置4による可視光画像(投影用コンテンツ画像)の投影は、常時ON状態であったが、ここでは、図15に示すように、可視光投影装置4からの可視光画像の投影が周期的にOFF状態となる。この可視光画像のOFF状態において、赤外線投影装置3は、赤外線画像(パターン画像)の投影をON状態とする。この可視光画像がOFF状態となる時間は、OFF状態による可視光画像の輝度の低下を人(観客等)が認識できない(または認識し難い)程度の短い時間に設定される。
つまり、撮像装置5は、可視光画像の投影がON状態の場合には、コンテンツ画像を撮像可能な(すなわち、赤外線画像の撮像が阻害され得る)状態にあり、一方、可視光画像の投影がOFF状態の場合(すなわち、赤外線画像の投影がON状態)には、コンテンツ画像の影響を受けることなく、赤外線画像を撮像可能な状態となる。これにより、演算装置6は、撮像装置5によって取得された赤外線画像(パターン画像)の撮像画像に基づき、上述と同様の計測処理を実行することができる。
図16は、第3実施形態に係る画像投影システム1の動作の変形例を示すフロー図であり、図17は、図16中のステップST506の処理を示す説明図である。
上述の図15に示した例では、可視光画像の投影を一時的にOFF状態とすることにより、可視光カットフィルタを使用することなく赤外線画像を撮像可能としたが、この変形例では、赤外線画像を用いる計測処理において、可視光画像(コンテンツ画像)も常時投影される(すなわち、赤外線および可視光がともに撮像装置5に入射する)例を示す。
図16に示すように、まず、可視光投影装置4が動物体2に対する投影用コンテンツ画像の投影を開始し(ST501)、続いて、赤外線投影装置3が、動物体2に対して第1パターン(フレーム)を投影する(ST502)。この第1パターンは、上述のパターン画像において相互に補完的な画像対の一方に相当する。その後、撮像装置5が、その第1パターンを撮像し、第1撮像画像を取得する(ST503)。
次に、赤外線投影装置3は、動物体2に対して第2パターン(フレーム)を投影する(ST504)。この第2パターンは、上記第1パターンの反転パターンであり、上述のパターン画像において相互に補完的な画像対の他方に相当する。その後、撮像装置5が、その第2パターンを撮像し、第2撮像画像を取得する(ST505)。そこで、演算装置6は、第1撮像画像および第2撮像画像の差分画像を取得し、この差分画像に基づき、計測処理を実行する(ST506)。
より詳細には、ステップST503で取得される第1撮像画像には、図17(A)に示すように、赤外線による第1パターンに加え、可視光によるコンテンツ画像が含まれる。また、ステップST505で取得される第2撮像画像には、図17(B)に示すように、赤外線による第2パターンに加え、可視光によるコンテンツ画像が含まれる。そこで、演算装置6は、図17(C)に示すように、第1および第2撮像画像の差分をとることにより、第1および第2撮像画像における可視光によるコンテンツ画像を相殺し、強調された第1パターンの撮像画像を差分画像として取得することができる。演算装置6は、この差分画像を用いて上述の場合と同様に、計測処理を実行することができる。
その後、演算装置6は、計測処理の結果に基づき、コンテンツ画像を補正することにより、投影用コンテンツ画像を生成し、当該投影用コンテンツ画像を可視光投影装置4によって投影させる(ST507)。このようなステップST502〜ST507の処理は、最終的に全てのコンテンツ画像の投影が完了するまで(ST508:Yes)、繰り返し実行される。
(第4実施形態)
図18は、本発明の第4実施形態に係る画像投影システム1の構成図であり、図19は、図18に示した画像投影システム1変形例を示す図である。図18および図19では、図1に示した画像投影システム1と同様の構成要素に同一の符号が付されている。また、第4実施形態に係る画像投影システム1では、以下で特に言及する事項を除いて、第1〜第3実施形態のいずれかの場合と同様である。
上述の第1〜第3実施形態では、可視光投影装置4および撮像装置5は、それぞれ個別の光学系を用いて投影および撮像を実施する例を示したが、図18に示すように、第4実施形態に係る画像投影システム1では、隣接して配置された可視光投影装置4および撮像装置5の間にホットミラー61が設けられている。
ホットミラー61は、撮像装置5に入射する赤外線投影装置3からの赤外線(動物体2に反射された赤外線)を反射して撮像装置5の可視光カットフィルタ19(対物レンズ系)に導く一方、可視光投影装置4から動物体2に向けて投影された可視光画像を透過する。このような構成により、画像投影システム1では、可視光投影装置4から投影される可視光画像と、撮像装置5によって撮像された撮像画像との各画素を高い精度で対応させることが可能である。その結果、上述のようなキャリブレーション処理を省略することが可能となる。
なお、図19の変形例に示すように、隣接して配置された赤外線投影装置3および可視光投影装置4の間にホットミラー61を設けた構成も可能である。この場合、ホットミラー61は、赤外線投影装置3から投影される赤外線を反射して動物体2方向に導く一方、可視光投影装置4から動物体2に向けて投影された可視光画像を透過する。このような構成により、画像投影システム1では、可視光投影装置4から投影される可視光画像と、赤外線投影装置3から投影される赤外線画像との各画素を高い精度で対応させることが可能である。その結果、上述のようなキャリブレーション処理を省略することが可能となる。
以上、本発明を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本発明はこれらの実施形態によって限定されるものではない。なお、上記画像投影システムおよび画像投影方法は、必ずしも全てが必須ではなく、少なくとも本発明の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。
本発明に係る画像投影システムおよび画像投影方法は、非可視光による計測処理および可視光を用いるキャリブレーション処理を簡易な構成により実行可能とし、投影対象の変化に応じて当該投影対象に対してリアルタイムにコンテンツ画像を投影する画像投影システムおよび画像投影方法などとして有用である。
1 画像投影システム
2 動物体
3 赤外線投影装置
4 可視光投影装置
5 撮像装置
6 演算装置
10 出射部
11 赤外線光源
12 DMD
16 可視光光源
15 出射部
17a、17b、17c DMD
19 可視光カットフィルタ
21 パターン生成部
22 画像出力部
23 画像入力部
24 パターン復号部
25 フレームメモリ部
26 コード復号用メモリ部
27 座標変換部
28 座標変換用メモリ部
29 座標補間部
30 コンテンツ生成部
31 コンテンツメモリ部
40 舞台
41 妨害画像
51 装飾画像
61 ホットミラー

Claims (9)

  1. 投影対象に向けてコンテンツ画像を投影するための画像投影システムであって、
    前記投影対象に向けて形状計測用のパターン画像を非可視光によって投影する非可視光投影装置と、
    前記投影対象に投影された前記パターン画像を撮像する撮像装置と、
    前記撮像されたパターン画像に基づいて前記投影対象の3次元的な形状情報を取得する計測制御装置と、
    前記形状情報に基づいて、予め準備されたコンテンツ画像を前記投影対象に対応する投影用コンテンツ画像に変換する投影画像処理装置と、
    前記非可視光投影装置とは異なる位置に配置され、前記投影対象に向けて前記投影用コンテンツ画像を可視光によって、前記非可視光投影装置と同時に投影する可視光投影装置と、
    前記非可視光投影装置によって投影された非可視光画像および前記可視光投影装置によって投影された可視光画像を前記撮像装置によってそれぞれ撮像した画像に基づき、前記非可視光画像と前記可視光画像との各画素を対応づける処理を実行するキャリブレーション処理装置と
    を備えたことを特徴とする画像投影システム。
  2. 前記可視光投影装置が、使用する各色にそれぞれ対応する個別の表示素子を有することを特徴とする請求項1に記載の画像投影システム。
  3. 前記可視光投影装置が前記撮像装置に隣接して配置されることを特徴とする請求項1または請求項2に記載の画像投影システム。
  4. 前記可視光投影装置が前記非可視光投影装置に隣接して配置されることを特徴とする請求項1または請求項2に記載の画像投影システム。
  5. 前記撮像装置には、可視光カットフィルタが着脱可能に設けられたことを特徴とする請求項1から請求項4のいずれかに記載の画像投影方法。
  6. 投影対象に向けてコンテンツ画像を投影するための画像投影方法であって、
    前記投影対象に向けて形状計測用のパターン画像を非可視光投影装置により投影するステップと、
    前記投影対象に投影された前記パターン画像を撮像装置により撮像するステップと、
    前記撮像されたパターン画像に基づいて前記投影対象の3次元的な形状情報を取得するステップと、
    前記形状情報に基づいて、予め準備されたコンテンツ画像を前記投影対象に対応する投影用コンテンツ画像に変換するステップと、
    前記非可視光投影装置とは異なる位置に配置された可視光投影装置により、前記投影対象に向けて前記投影用コンテンツ画像を可視光によって投影するステップと、
    前記非可視光投影装置によって投影された非可視光画像および前記可視光投影装置によって投影された可視光画像を前記撮像装置によってそれぞれ撮像した画像に基づき、前記非可視光画像と前記可視光画像との各画素を対応づけるキャリブレーション処理を実行するステップと
    を有することを特徴とする画像投影方法。
  7. 前記撮像装置に可視光カットフィルタが設けられ、前記パターン画像を受光する際には前記可視光カットフィルタが用いられ、前記投影用コンテンツ画像を受光する際には前記可視光カットフィルタが解除されることを特徴とする請求項6に記載の画像投影方法。
  8. 前記撮像装置が露光時間を変更可能であって、前記パターン画像を受光する際よりも、前記投影用コンテンツ画像を受光する際には前記露光時間を長くすることを特徴とする請求項6に記載の画像投影方法。
  9. 前記非可視光投影装置による投影ステップでは、前記パターン画像として、互いに反転した関係を有するパターンを含む画像対が順次投影され、
    前記撮像装置による撮像ステップでは、前記順次投影された画像対および当該画像対とそれぞれ同一のタイミングで投影された前記投影用コンテンツ画像とが順次撮像され、
    前記投影対象の形状情報を取得するステップでは、前記撮像装置により順次撮像された前記画像対の撮像画像の差分画像に基づいて、前記投影対象の3次元的な形状情報を取得することを特徴とする請求項6に記載の画像投影方法。
JP2016107542A 2016-05-30 2016-05-30 画像投影システムおよび画像投影方法 Pending JP2017215374A (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2016107542A JP2017215374A (ja) 2016-05-30 2016-05-30 画像投影システムおよび画像投影方法
US15/581,735 US9832436B1 (en) 2016-05-30 2017-04-28 Image projection system and image projection method
PCT/JP2017/017445 WO2017208739A1 (en) 2016-05-30 2017-05-09 Image projection system and image projection method
EP17730953.1A EP3466061B1 (en) 2016-05-30 2017-05-09 Image projection system and image projection method
CN202110409357.5A CN112954288B (zh) 2016-05-30 2017-05-09 图像投影系统和图像投影方法
EP23159119.9A EP4216541A1 (en) 2016-05-30 2017-05-09 Image projection system and image projection method
CN201780030485.0A CN109155843B (zh) 2016-05-30 2017-05-09 图像投影系统和图像投影方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016107542A JP2017215374A (ja) 2016-05-30 2016-05-30 画像投影システムおよび画像投影方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020201223A Division JP2021051318A (ja) 2020-12-03 2020-12-03 画像投影システムおよび画像投影方法

Publications (1)

Publication Number Publication Date
JP2017215374A true JP2017215374A (ja) 2017-12-07

Family

ID=59071038

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016107542A Pending JP2017215374A (ja) 2016-05-30 2016-05-30 画像投影システムおよび画像投影方法

Country Status (5)

Country Link
US (1) US9832436B1 (ja)
EP (2) EP3466061B1 (ja)
JP (1) JP2017215374A (ja)
CN (2) CN112954288B (ja)
WO (1) WO2017208739A1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019120885A (ja) * 2018-01-10 2019-07-22 パナソニックIpマネジメント株式会社 投影制御システム及び投影制御方法
JP2019139030A (ja) * 2018-02-08 2019-08-22 国立大学法人福井大学 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置
WO2019187510A1 (ja) * 2018-03-29 2019-10-03 ソニー株式会社 情報処理装置、情報処理方法、プログラム
WO2019221208A1 (ja) * 2018-05-17 2019-11-21 パナソニックIpマネジメント株式会社 投影調整プログラム及び投影調整方法
WO2019244523A1 (ja) * 2018-06-20 2019-12-26 パナソニックIpマネジメント株式会社 投影システム、投影調整プログラム及び投影方法
WO2021039977A1 (ja) * 2019-08-29 2021-03-04 国立大学法人東北大学 投影システム、投影システム制御装置、投影方法及びプログラム
JP2021518700A (ja) * 2018-03-20 2021-08-02 マジック アイ インコーポレイテッド 三次元深度検知及び二次元撮像のためのカメラ露出調節
JP7422148B2 (ja) 2019-06-28 2024-01-25 株式会社小糸製作所 灯具システム

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6601790B2 (ja) 2015-06-30 2019-11-06 パナソニックIpマネジメント株式会社 リアルタイム計測投影装置及び三次元投影計測装置
JP6846661B2 (ja) 2016-04-13 2021-03-24 パナソニックIpマネジメント株式会社 3次元的な投影対象のための投影方法及び装置
JP2018097148A (ja) 2016-12-13 2018-06-21 パナソニックIpマネジメント株式会社 画像投影システム、画像投影装置、及び画像投影方法
JP6702171B2 (ja) * 2016-12-22 2020-05-27 カシオ計算機株式会社 投影制御装置、投影制御方法及びプログラム
JP6766720B2 (ja) * 2017-03-27 2020-10-14 カシオ計算機株式会社 画像処理装置、画像処理方法及び画像処理プログラム
CN110709669B (zh) * 2017-06-07 2021-09-07 索尼半导体解决方案公司 信息处理装置和方法
JP7285470B2 (ja) 2018-05-17 2023-06-02 パナソニックIpマネジメント株式会社 投影システム、投影装置及び投影方法
US10785422B2 (en) * 2018-05-29 2020-09-22 Microsoft Technology Licensing, Llc Face recognition using depth and multi-spectral camera
JP2021022807A (ja) * 2019-07-26 2021-02-18 セイコーエプソン株式会社 プロジェクターの制御方法、及び、プロジェクター
JP2021158625A (ja) * 2020-03-30 2021-10-07 セイコーエプソン株式会社 設定支援方法、及び設定支援装置
KR102279867B1 (ko) * 2020-06-02 2021-07-21 주식회사 슈프리마아이디 조명 노이즈를 제거한 이미지 생성 방법 및 상기 이미지 생성 방법을 이용한 이미지 생성 장치
CN112153303B (zh) * 2020-09-28 2021-09-21 广州虎牙科技有限公司 一种视觉数据处理方法、装置、图像处理设备和存储介质
JP2022046063A (ja) * 2020-09-10 2022-03-23 セイコーエプソン株式会社 三次元形状計測方法および三次元形状計測装置
FR3116404B1 (fr) * 2020-11-19 2024-01-05 Xyzed Dispositif de positionnement et suivi d’objets se déplaçant sur une scène

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005062748A (ja) * 2003-08-20 2005-03-10 Nippon Telegr & Teleph Corp <Ntt> 情報提示装置および情報提示装置の使用方法
JP2006189712A (ja) * 2005-01-07 2006-07-20 Nippon Telegr & Teleph Corp <Ntt> 情報提示装置、情報提示方法及びプログラム
US20060192925A1 (en) * 2005-02-28 2006-08-31 Chang Nelson L A Multi-projector geometric calibration
JP2012255883A (ja) * 2011-06-08 2012-12-27 Konica Minolta Advanced Layers Inc 映像投影システム
JP2013038626A (ja) * 2011-08-09 2013-02-21 Seiko Epson Corp 撮像装置およびプロジェクター
WO2015125403A1 (ja) * 2014-02-18 2015-08-27 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 投影システムおよび半導体集積回路
JP2015173430A (ja) * 2014-02-18 2015-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 投影システム、半導体集積回路、および画像補正方法
JP2016509394A (ja) * 2012-12-28 2016-03-24 メタイオ ゲゼルシャフト ミット ベシュレンクテル ハフツングmetaio GmbH 現実環境における現実対象物上のデジタル情報を投影するための方法およびシステム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10051209B2 (en) * 2014-04-09 2018-08-14 Omnivision Technologies, Inc. Combined visible and non-visible projection system
JP2016032227A (ja) * 2014-07-29 2016-03-07 日立マクセル株式会社 映像表示システム、三次元映像ポインティング装置、および映像表示装置
CN105184800A (zh) * 2015-09-28 2015-12-23 神画科技(深圳)有限公司 自动三维映射的投影系统及方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005062748A (ja) * 2003-08-20 2005-03-10 Nippon Telegr & Teleph Corp <Ntt> 情報提示装置および情報提示装置の使用方法
JP2006189712A (ja) * 2005-01-07 2006-07-20 Nippon Telegr & Teleph Corp <Ntt> 情報提示装置、情報提示方法及びプログラム
US20060192925A1 (en) * 2005-02-28 2006-08-31 Chang Nelson L A Multi-projector geometric calibration
JP2012255883A (ja) * 2011-06-08 2012-12-27 Konica Minolta Advanced Layers Inc 映像投影システム
JP2013038626A (ja) * 2011-08-09 2013-02-21 Seiko Epson Corp 撮像装置およびプロジェクター
JP2016509394A (ja) * 2012-12-28 2016-03-24 メタイオ ゲゼルシャフト ミット ベシュレンクテル ハフツングmetaio GmbH 現実環境における現実対象物上のデジタル情報を投影するための方法およびシステム
WO2015125403A1 (ja) * 2014-02-18 2015-08-27 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 投影システムおよび半導体集積回路
JP2015173430A (ja) * 2014-02-18 2015-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 投影システム、半導体集積回路、および画像補正方法

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019120885A (ja) * 2018-01-10 2019-07-22 パナソニックIpマネジメント株式会社 投影制御システム及び投影制御方法
JP7054774B2 (ja) 2018-01-10 2022-04-15 パナソニックIpマネジメント株式会社 投影制御システム及び投影制御方法
JP2019139030A (ja) * 2018-02-08 2019-08-22 国立大学法人福井大学 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置
JP7088530B2 (ja) 2018-02-08 2022-06-21 元治 藤垣 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置
JP2021518700A (ja) * 2018-03-20 2021-08-02 マジック アイ インコーポレイテッド 三次元深度検知及び二次元撮像のためのカメラ露出調節
JP7354133B2 (ja) 2018-03-20 2023-10-02 マジック アイ インコーポレイテッド 三次元深度検知及び二次元撮像のためのカメラ露出調節
JP7342856B2 (ja) 2018-03-29 2023-09-12 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラム
CN111903121A (zh) * 2018-03-29 2020-11-06 索尼公司 信息处理装置、信息处理方法以及程序
US11812204B2 (en) 2018-03-29 2023-11-07 Sony Corporation Information processing device, information processing method, and program
JPWO2019187510A1 (ja) * 2018-03-29 2021-04-15 ソニー株式会社 情報処理装置、情報処理方法、プログラム
WO2019187510A1 (ja) * 2018-03-29 2019-10-03 ソニー株式会社 情報処理装置、情報処理方法、プログラム
JP7162168B2 (ja) 2018-05-17 2022-10-28 パナソニックIpマネジメント株式会社 投影調整プログラム、投影調整方法及び投影調整システム
JP2019201362A (ja) * 2018-05-17 2019-11-21 パナソニックIpマネジメント株式会社 投影調整プログラム及び投影調整方法
US11438563B2 (en) 2018-05-17 2022-09-06 Panasonic Intellectual Property Management Co., Ltd. Projection adjustment program and projection adjustment method
JP2022186702A (ja) * 2018-05-17 2022-12-15 パナソニックIpマネジメント株式会社 投影調整プログラム、投影調整方法及び投影調整システム
US11743437B2 (en) 2018-05-17 2023-08-29 Panasonic Intellectual Property Management Co., Ltd. Projection adjustment program and projection adjustment method
WO2019221208A1 (ja) * 2018-05-17 2019-11-21 パナソニックIpマネジメント株式会社 投影調整プログラム及び投影調整方法
JP7145444B2 (ja) 2018-06-20 2022-10-03 パナソニックIpマネジメント株式会社 投影システム、投影調整プログラム及び投影方法
WO2019244523A1 (ja) * 2018-06-20 2019-12-26 パナソニックIpマネジメント株式会社 投影システム、投影調整プログラム及び投影方法
JP2019219289A (ja) * 2018-06-20 2019-12-26 パナソニックIpマネジメント株式会社 投影システム、投影調整プログラム及び投影方法
US11962947B2 (en) 2018-06-20 2024-04-16 Panasonic Intellectual Property Management Co., Ltd. Projection system, projection adjustment program, and projection method
JP7422148B2 (ja) 2019-06-28 2024-01-25 株式会社小糸製作所 灯具システム
WO2021039977A1 (ja) * 2019-08-29 2021-03-04 国立大学法人東北大学 投影システム、投影システム制御装置、投影方法及びプログラム
US11838696B2 (en) 2019-08-29 2023-12-05 Tohoku University Projection system, projection system control device, projection method, and program

Also Published As

Publication number Publication date
CN109155843A (zh) 2019-01-04
WO2017208739A1 (en) 2017-12-07
US9832436B1 (en) 2017-11-28
US20170347076A1 (en) 2017-11-30
CN112954288B (zh) 2023-02-24
CN112954288A (zh) 2021-06-11
CN109155843B (zh) 2021-03-16
EP4216541A1 (en) 2023-07-26
EP3466061A1 (en) 2019-04-10
EP3466061B1 (en) 2023-04-19

Similar Documents

Publication Publication Date Title
JP2017215374A (ja) 画像投影システムおよび画像投影方法
JP6601790B2 (ja) リアルタイム計測投影装置及び三次元投影計測装置
US20120147224A1 (en) Imaging apparatus
KR100809351B1 (ko) 투사 영상을 보정하는 방법 및 장치
JP5736535B2 (ja) 投写型映像表示装置及び画像調整方法
JP5493340B2 (ja) 投写型表示装置および配置関係検出方法
JP7207303B2 (ja) 撮像装置、画像生成方法、撮像システム
JP2009111813A (ja) プロジェクタ、プロジェクタにおける画像データ取得方法及び撮像装置
KR101767853B1 (ko) 정보 처리 장치, 화상 투영 시스템 및 컴퓨터 프로그램
JP2012170007A (ja) 投写型映像表示装置及び画像調整方法
WO2012046575A1 (ja) 投写型映像表示装置
JP2012118289A (ja) 投写型映像表示装置
JP2012078490A (ja) 投写型映像表示装置及び画像調整方法
JP5363872B2 (ja) 画像補正装置及びそのプログラム
JP4446080B2 (ja) 画像表示における歪補正機能を有する画像表示装置
JP2021051318A (ja) 画像投影システムおよび画像投影方法
JP2012053227A (ja) 投写型映像表示装置
JP2021127998A (ja) 距離情報取得装置および距離情報取得方法
JP2011138019A (ja) 投写型映像表示装置及び画像調整方法
JP2011176637A (ja) 投写型映像表示装置
JP2011175201A (ja) 投写型映像表示装置
JP2006023400A (ja) プロジェクタ装置及びプロジェクタ装置の焦点調整方法
JP4497177B2 (ja) 画像データ処理装置、画像データ処理方法及びプログラム
JP2021158447A (ja) 画像投影装置、画像投影方法及びプログラム
JP2011180256A (ja) 投写型映像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200604

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200929

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210209