JP2020508479A - 撮影装置により撮影されたイメージに基づく投影領域自動補正方法及びこのためのシステム - Google Patents

撮影装置により撮影されたイメージに基づく投影領域自動補正方法及びこのためのシステム Download PDF

Info

Publication number
JP2020508479A
JP2020508479A JP2019532033A JP2019532033A JP2020508479A JP 2020508479 A JP2020508479 A JP 2020508479A JP 2019532033 A JP2019532033 A JP 2019532033A JP 2019532033 A JP2019532033 A JP 2019532033A JP 2020508479 A JP2020508479 A JP 2020508479A
Authority
JP
Japan
Prior art keywords
projection
image
area
projection plane
plane image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019532033A
Other languages
English (en)
Inventor
ギョン ユン チャン
ギョン ユン チャン
ヒョン ジン ユン
ヒョン ジン ユン
Original Assignee
シージェイ シージーブイ カンパニー リミテッド
シージェイ シージーブイ カンパニー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シージェイ シージーブイ カンパニー リミテッド, シージェイ シージーブイ カンパニー リミテッド filed Critical シージェイ シージーブイ カンパニー リミテッド
Publication of JP2020508479A publication Critical patent/JP2020508479A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3173Constructional details thereof wherein the projection device is specially adapted for enhanced portability
    • H04N9/3176Constructional details thereof wherein the projection device is specially adapted for enhanced portability wherein the projection device is incorporated in a camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Abstract

本発明は、上映館において投影装置によりコンテンツが投影される領域、いわゆる投影領域を自動に補正することに係り、さらに詳しくは、カメラなどの撮影装置で上映館内の投影領域を撮影し、このように撮影されたイメージと、投影装置による投影領域座標、また最終的にスクリーンまたは壁面などの投影面に投影されるコンテンツイメージとをマッチングさせることにより、ひいてはコンテンツイメージが上映館内の投影面の有効投影領域内において適切に出力されるように自動に補正する方法及びシステムに関する。

Description

本発明は、上映館において投影装置によりコンテンツが投影される領域、いわゆる投影領域を自動に補正することに係り、さらに詳しくは、カメラなどの撮影装置で上映館内の投影領域を撮影し、このように撮影されたイメージと、投影装置による投影領域座標、また最終的にスクリーンまたは壁面などの投影面に投影されるコンテンツイメージとをマッチングさせることにより、ひいてはコンテンツイメージが上映館内の投影面の有効投影領域内において適切に出力されるように自動に補正する方法及びシステムに関する。
上映館内では、空調システムまたはオーディオシステムなどの震動により投影装置が置き違えられることが頻繁であり、このように投影装置が置き違えられる場合、スクリーンまたは壁面のような投影面において、映画、広告物などのコンテンツが正確な位置に投影されることができず、観客に正しい上映サービスを提供することができなくなる。これにより、上映館の運営者にとっては、これを随時に補正しなければならず、従来は、このような投影領域の補正がエンジニアにより手作業で行われてきた。
しかしながら、投影領域の補正を手作業で行う場合、人間による作業であるので、作業の正確さが低下するという問題点があり、また上記した投影領域補正作業は、上映館内において随時に行われなければならなかったので、これに消耗する労働力、費用が少なくないという問題点もあった。
本発明は、上映館内の投影装置の投影領域が置き違えられることを自動に補正するためのものである。
特に、本発明は、構造化された光パターンが投影された投影面のイメージを撮影装置で撮影し、撮影されたイメージ内の投影領域を投影装置の投影領域とマッチングさせることにより、補正が正確に行われるようにすることを目的にする。
また、本発明は、撮影装置により撮影されたイメージと投影装置の投影領域との間のマッチング作業、すなわち相対的変換情報を演算するにあたって、RANSAC(Random Sample Consensus)技法を用いることにより、壁面のような投影領域上の投影障害領域をフィルタリングし、これにより、投影面上の正確な有効投影領域を抽出することを目的とする。
また、本発明は、投影面にレーザラインを表示することができるレーザ水平器をさらに活用することにより、投影領域をさらに精密に抽出し、これにより、さらに正確な有効投影領域の抽出及び投影領域の補正が行われるようにすることを目的とする。
本発明に係る投影領域自動補正方法は、(a)撮影装置により撮影された第1投影面イメージを取得するステップと、(b)前記第1投影面イメージ内の投影領域の各ピクセル座標と投影装置により投影される投影領域の各ピクセル座標とを対応させるステップと、(c)前記第1投影面イメージのピクセル座標と前記投影装置のピクセル座標を用いて、第1投影面イメージと投影装置との間の相対的変換情報を演算するステップと、を含み、前記第1投影面イメージは、光パターンが投影された投影面のイメージであることを特徴とする。
前記第1投影面イメージは、投影装置の各ピクセル座標をビットに変換するステップと、投影装置の各ピクセル座標に時間順序により黒白のイメージを投影するステップと、撮影装置が前記黒白のイメージが投影される投影面を撮影するステップと、により撮影されたことを特徴とする。
前記(c)ステップは、前記投影装置の投影領域から任意の基準ピクセルxを抽出し、前記第1投影面イメージから対応する対応ピクセルcを抽出し、前記基準ピクセルx及び対応ピクセルcを相手的変換式に代入させて相対的変換情報を演算することを特徴とする。
前記(c)ステップは、第1相対的変換情報Hi→camを演算するが、前記相手的変換式は、
(x:投影領域の基準ピクセル、c:第1投影面イメージの対応ピクセル)であることを特徴とする。
前記(c)ステップは、第2相対的変換情報Hcam→iをさらに演算するが、前記Hcam→iは、前記第1相対的変換情報Hi→camの逆行列であることを特徴とする。
前記第2相対的変換情報Hcam→iの演算は、RANSACを用い、(c)ステップにおいて前記第2相対的変換情報Hcam→iに基づいて取得される有効投影領域は、投影面に具備された設置物により発生する投影障害領域が除去された状態であることを特徴とする。
一つの投影面には、複数の投影装置が対応して具備され、各投影装置により投影される第1投影面イメージに対して前記(a)ステップ乃至(c)ステップを行い、前記各投影装置の有効投影領域を合わせて全体の有効投影領域を取得することを特徴とする。
本発明に係る投影領域自動補正方法は、(d)投影装置とコンテンツイメージとの間の第3相対的変換情報Hi→imageを演算するステップをさらに含む。
本発明に係る投影領域自動補正方法は、(e)レーザラインが表示された第2投影面イメージを取得するが、前記レーザラインは、レーザ水平器により出力された光により表示されるステップをさらに含む。
本発明に係る投影領域自動補正方法は、(f)前記第2投影面イメージから複数のラインイメージを抽出し、前記ラインイメージの交差により生成する交差点を取得するステップと、(g)取得された交差点を前記コンテンツイメージの頂点にマッチングさせるステップと、をさらに含む。
一方、本発明に係る投影領域自動補正システムは、投影面を撮影する撮影装置と、前記撮影装置により撮影された第1投影面イメージを取得し、前記第1投影面イメージ内の各ピクセルと投影装置により投影される投影領域の各ピクセル座標とを対応させて相対的変換情報を演算し、前記相対的変換情報に基づいて投影装置の有効投影領域を取得する投影管理装置と、上映館内の投影領域のイメージを投影する投影装置と、を含み、前記第1投影面イメージは、前記投影装置により光パターンが投影された投影面のイメージであることを特徴とする。
本発明に係る投影領域自動補正システムは、前記投影面上にレーザラインの表示のための光を出力するレーザ水平器をさらに含み、前記投影管理装置は、前記撮影装置により撮影された第2投影面イメージをさらに取得することを特徴とする。
前記投影管理装置は、前記第2投影面イメージから複数のラインイメージを抽出し、前記ラインイメージの交差により生成する交差点を取得し、前記取得された交差点をコンテンツイメージの頂点にマッチングさせることを特徴とする。
本発明によれば、高解像度のカメラのような撮影装置を自動補正に活用することにより、大規模の上映館において単一の撮影装置のみで高い補正品質の自動補正が可能になるという効果がある。
また、本発明によれば、スクリーン及び上映館内の壁面を全て活用する多面上映館において、特に壁面の設置物により発生する投影障害領域を効果的に除去することができるので、既存に比べてさらに正確な投影領域の補正が可能になるという効果がある。
また、本発明によれば、レーザ水平器を活用することにより、精密な投影領域の補正が可能になるという効果がある。
図1は、本発明に係る投影領域自動補正システムの概略的な構成を示す図である。 図2は、本発明の一実施形態による投影領域自動補正方法を順次に示す図である。 図3は、構造化された光パターンが投影された投影面を撮影したイメージを示す図である。 図4は、図2での撮影されたイメージを分析した結果を視覚化した図である。 図5は、投影装置の投影領域と撮影されたイメージ内の投影領域とがマッチングされた様子を概念的に示す図である。 図6は、上映館内の投影面中の壁面の投影障害領域がフィルタリングされた以後の投影領域を示す図である。 図7は、上映館内の投影面中の壁面の有効投影領域が抽出された様子を示す図である。 図8は、レーザ水平器から出力されたレーザラインが上映館内の壁面に表示された様子を示す図である。 図9は、レーザラインの交差により交差点が生成された様子を示す図である。
本発明の目的と技術的構成およびそれに伴う作用効果に関する詳細な事項は、本発明の明細書に添付した図面に基づく以下の詳細な説明によりなお一層明確に理解できる筈である。添付図面を参照して本発明に係る実施形態について詳細に説明する。
図面に表示され、且つ、下記に説明される機能ブロックは、採用可能な実現の例に過ぎない。他の実現においては、詳細な説明の思想および範囲を逸脱しない範囲内において他の機能ブロックが使用可能である。なお、本発明の1以上の機能ブロックが個別のブロックとして表示されるが、本発明の機能ブロックのうちの1以上は、同じ機能を実行する様々なハードウェア及びソフトウェア構成の組み合わせであってもよい。
また、「ある構成要素を含む」という表現は「開放型」の表現であり、単に当該構成要素が存在することを指すものに過ぎず、さらなる構成要素を排除するものと理解されてはならない。
さらに、ある構成要素が他の構成要素に「連結されている」と言及されるとき、またはある構成要素が他の構成要素に「接続されている」と言及されるときには、その他の構成要素に直接的に連結または接続されていてもよく、これらの間に他の構成要素が存在してもよいものと理解されるべきである。
また、後述する曲面へのイメージ投影方法は、様々なハードウェア及びソフトウェアの連動動作により実現できると理解すべきであろう。例えば、本発明は、複数の投影装置及び前記複数の投影装置と有線または無線にて連結される投影管理装置(サーバ)の連動動作により実現でき、このような連動のほかに、様々なハードウェア及びソフトウェアの連動動作により実現できる。
図1は、本発明に係る投影領域310の自動補正を行うために必要な詳細装置構成を簡略に示す図である。
図1によれば、投影領域310の自動補正システムは、撮影装置100、投影装置300、投影管理装置200を含み、付加的にレーザ水平器400をさらに含む。
先ず、撮影装置100は、写真撮影のための光学器機を意味するものであって、本発明での撮影装置100は、上映館内の投影面を撮影するのに活用される。撮影装置100の解像度は、上映館の面積、投影装置300の個数、及び投影装置300の解像度に基づいて決まる。投影装置300は、2600*650の解像度であり、横方向長さが20mで、縦方向長さが6.6mである壁面500に映像を投影する。
この場合、横方向では、1cm当たり1.3pxの解像度を有する。
算出過程は、以下の通りである。
2600px/20m=1.3px/cm
投影装置の横方向のピクセル数を壁面の横方向長さで割れば、横方向に対する単位cm当たりのピクセル数を算出することができる。
また、縦方向では、1cm当たり0.9848pxの解像度を有する。
算出過程は、以下の通りである。
投影装置の縦方向のピクセル数を壁面の縦方向長さで割れば、縦方向に対する単位cm当たりのピクセル数を算出することができる。
このとき、撮影装置は、横方向に対する単位cm当たりのピクセル数と縦方向に対する単位cm当たりのピクセル数のうち、単位cm当たりのピクセル数がさらに多い単位cm当たりのピクセル数以上の解像度を有する。すなわち、上述した例では、横方向に対する単位cm当たりのピクセル数がさらに多いので、カメラ解像度は、少なくとも1cm当たり1.3px以上の解像度を有さなければならない。
撮影装置の画角は、レンズの焦点距離に応じて可変する。横方向長さが20mで、縦方向長さが6.6mである壁面500の全体面積を、撮影装置が撮像するために必要なレンズの焦点距離は、18〜24mmである。
このとき、この詳細な説明において言及される上映館とは、一般に、映画コンテンツが上映される空間であって、一つ以上のスクリーン600及び壁面500を含むことを前提とし、さらには、複数の投影装置300により、スクリーン600及び壁面500に同期化したコンテンツ映像を投影して、観客に没入感を与えることができる、いわゆる多面上映館であってもよい。
一方、撮影装置100は、後述する投影管理装置200とは独立した別個の装置として機能してもよく、または投影管理装置200と有線または無線で連結されて、撮影したイメージを直接送受信可能にしてもよい。
次に、投影装置300とは、コンテンツ映像を投影面に投影する装置をいい、上映館内には、複数の投影装置300が具備され、それぞれの投影装置300は、後述する投影管理装置200と有線または無線で連結され、投影管理装置200の制御により駆動される。また、前記投影装置300は、上映館内の一つの投影面に複数個が対応して設置され、または複数の投影面のそれぞれに一つの投影装置300が対応して設置されてもよい。
次に、投影管理装置200は、上映館内に設置された複数の投影装置300を制御するのみならず、投影しようとするコンテンツ映像を管理することを基本機能とするが、本発明での投影管理装置200は、後述するように投影領域310を自動に補正する機能も行う。投影管理装置200の機能については、後でさらに詳述する。
最後に、レーザ水平器400は、上映館内の投影面上にレーザライン410の表示のための光を出力する装置を称する。レーザ水平器400は、投影面上に複数の光を出力してレーザライン410を表示することができ、レーザライン410が表示された投影面を撮影し、このように撮影された投影面イメージを分析することにより、さらに精密な投影領域310を抽出することができるようになる。
以下、図2を参考して、本発明に係る投影領域310の自動補正方法の概略的な過程について説明する。
図2によれば、本発明による投影領域310の自動補正方法は、投影管理装置200が撮影装置100により撮影された第1投影面イメージ10を取得する第1ステップ(S210)と、投影管理装置200が、前記第1投影面イメージ10内の各ピクセルと投影装置300により投影される投影領域310の各ピクセル座標を対応させる第2ステップ(S220)と、投影管理装置200が、前記第1投影面イメージ10のピクセル座標と前記投影装置300のピクセル座標を用いて、第1投影面イメージ10と投影装置300との間の相対的変換情報を演算する第3ステップ(S230)と、を含む。また、これに加えて、投影装置300とコンテンツイメージとの間の相対的変換情報を演算する第4ステップ(S240)と、投影管理装置200がレーザライン410が表示された第2投影面イメージ30を取得する第5ステップ(S250)と、投影管理装置200が前記第2投影面イメージ30からラインイメージ411を抽出して交差点413を取得する第6ステップ(S260)と、最後に投影管理装置200が前記取得した交差点413を前記コンテンツイメージの頂点にマッチングさせる第7ステップ(S270)と、を含む。
以下、各ステップについて詳述する。
第1ステップは、投影管理装置200が第1投影面イメージ10を取得するステップであるが、このとき、第1投影面イメージ10とは、光パターンが投影された投影面を撮影装置100が撮影したイメージを意味する。
撮影装置100により取得されたイメージに基づいて、投影装置300が投影する映像を補正するためには、投影装置300の各ピクセルが、撮影装置100により取得されたイメージのどの座標と対応するかが分かる必要がある。このため、既存は、チェッカーボードのような単一のイメージパターンを用いていたが、このような単一のイメージパターンを活用する場合、全てのピクセルの対応関係を把握し難く、特に障害物が存在する場合は、正確さが低下する結果をもたらしてしまう。本発明では、全てのピクセルに対して撮影装置100とプロジェクタとの間の対応関係を把握するために、グレーコードに基づく光パターンイメージを活用し、このとき、光パターンイメージは、時系列的に構造が変わることを特徴とする。
図3は、第1投影面イメージ10の例を示す図である。図3に示すように、光パターンイメージA、A’は、横軸に白と黒のラインが交互に変わりながら投影され、または同じ方式で縦軸が変わってもよいが、これは、投影装置300の各ピクセルの座標をビットに変換し、ビットの各桁を時間順序により黒白で表示して投影するにより示されるイメージである。後述するが、投影管理装置200は、このような投影面のイメージ(第1投影面イメージ10)を分析し、撮影装置100により撮れた第1投影面イメージ10から投影装置300の各ピクセルの位置を把握するようになる。
一方、このとき、グレーコードは、ビット変換の一種であり、バイナリ変換とは異なり、十進数を変換するとき、隣接数に対してビット変換を最小化する方式により実現されるが、このような特性のため、第1投影面イメージ10の解読時、エラーが生じても、その値の変化が小さく、安定的な対応関係の把握が可能である。
一方、任意の投影装置300をPと表現し、xを任意のプロジエクターPのピクセル座標とすると、投影装置300の各ピクセル座標別のビット変換は、下記の方式で行われる。
数式1は、2進コードをグレーコードに変換する式である。先ず、xの座標を2進コードに変換し、2進コードに変換された座標を後ろへ1列ずつシフトさせる。2進コードに変換された後、1列ずつ後ろへシフトされた座標とxの座標と2進コードに変換した座標とを排他的OR(exclusive OR)演算を行う。例えば、x座標が(1,2)であった場合、2進コードに変換すれば、(0000000001,0000000010)であり、この2進コード値を1列だけ後ろへシフトするようにビット演算すれば、(0000000000、0000000001)である。この2つのコードの(0000000001、0000000010)と(0000000000、0000000001)を排他的OR演算すれば、グレーコードである(0000000001、0000000011)が算出される。
前記数式1によって横軸(x)と縦軸(y)の座標のビット変換が行われてから、各ビットの桁値によりパターンを生成(ビットが1であれば白、ビットが0であれば黒)した後、撮影装置100で撮影したものが、図3に示す第1投影面イメージ10である。
投影装置300の解像度が1024*768である場合、x座標は、0〜1023のいずれか一つであり、y座標は、0〜767のいずれか一つである。上述した過程により、投影装置300のピクセル座標をグレーコードに変換すれば、最大10桁の2進数に変換される。投影装置300は、各ピクセルの位置に、当該ピクセルのxまたはy座標に該当するグレーコードの最大桁から順次に桁の数字により黒または白のイメージを投影する。
このとき、投影装置300は、(1)ピクセル座標のうち、x座標から変換されたグレーコードに基づいて黒または白のイメージを投影し、(2)y座標から変換されたグレーコードに基づいて黒または白のイメージを投影し、(3)ピクセル座標のうち、x座標から変換されたグレーコードの補数に基づいて黒または白のイメージを投影し、(4)ピクセル座標のうち、y座標から変換されたグレーコードの補数に基づいて黒または白のイメージを投影し、(5)全ピクセルが全て黒であるイメージを投影し、(6)全ピクセルが全て白であるイメージを投影する。
投影装置がイメージを投影する方法は、上述した(1)乃至(6)の順序に限定されず、(1)乃至(6)の順序と無関係であってもよい。
例えば、前記(1)ピクセル座標のうち、x座標から変換されたグレーコードに基づいて黒または白のイメージを投影する場合、投影装置の(1,2)は、グレーコードを用いてビット変換すれば(0000000001,0000000011)であり、1番目から9番目のビット数が0であるので、投影装置は、投影装置の(1,2)の座標位置に黒イメージを一定時間の間隔で9回投影する。その後、10番目のビット数が1であるので、投影装置は、白イメージを1回投影する。
第2ステップは、投影管理装置200が、前記第1投影面イメージ10内の投影領域310の各ピクセルと実際投影装置300により投影される投影領域310の各ピクセル座標とを対応させ、相手的変換情報を演算するステップである。
投影管理装置200は、第1投影面イメージ10を分析乃至解読して、第1投影面イメージ10から投影装置300の各ピクセルの位置を把握する。第1投影面イメージ10の解読は、投影管理装置200が時間順に撮影された第1投影面イメージ10を読み込んだ後、第1投影面イメージ10の各ピクセルの値が、白であれば1、黒であれば0にビットの各桁を変換する。その後、前記数式1を逆に演算すれば、投影装置300でのピクセル座標値が得られるが、この過程で、第1投影面イメージ10と投影装置300の投影領域310との間にピクセル単位の対応関係、すなわち、第1投影面イメージ10から抽出された投影領域310の各ピクセル座標と投影装置300(投影領域310)の各ピクセル座標との間の相互対応関係が成立する。図4は、第1投影面イメージ10のパターンを解読した結果を視覚化した様子であり、図5は、投影装置300の投影領域310と第1投影面イメージ10内の投影領域310とのピクセル座標が、互いにマッチングされた様子を概念的に示す図である。
第3ステップは、投影管理装置200が予め取得した第1投影面イメージ10のピクセル座標、投影装置300の投影領域310のピクセル座標を活用して、第1投影面イメージ10と投影装置300との間の相対的変換情報を演算するステップである。相対的変換情報は、対応点間の関係をホモグラフィー行列で表示したものであって、任意の平面または空間内の任意の点が他の平面または空間内のどの点に移されるか、その関係を定義しておいたものを称する。
任意の投影装置300をPと表現し、xを任意のプロジエクターPのピクセル座標とし、第1投影面イメージ10内の前記xと対応するピクセル座標をcとすると、投影装置300のピクセル座標を第1投影面イメージ10のピクセル座標に変換する第1相対的変換情報Hi→camは、下記のように求められる(iは、投影装置300、camは、第1投影面イメージ10を意味する)。
上記した数式2は、xとcの位置差を最小化するxの最適化されたホモグラフィー行列を求めることを意味する。数式2は、直接線形変換(Direct Linear Transformation)を用いて解決することができる。一方、この時点で、前記数式2により相対的変換情報を演算するときは、RANSACを用いることにより、外れ値(outlier values)を排除したまま、ホモグラフィー行列を求める。
RANSACは、ノイズがあるデータから所望のデータの数学的モデルを選ぶための反復法であるが、RANSACは、一定の確率で適切な結果を生成し、反復回数を増加させるほど前記確率が増加するという点において、非決定性アルゴリズムとみなされる。
一方、前記第1ステップ乃至第3ステップの過程はいずれも、上映館内の投影面のうちでも、コンテンツイメージが観客によく見える「有効投影領域560」を抽出するための過程であるが、上述したように、上映館内の壁面500の場合、投影装置、スピーカー、座席、柱などの設置物540により正しい投影が行われない領域、いわゆる投影障害領域550が存在する。
このような投影障害領域で生成したx(プロジエクターのピクセル座標)とc(xに対応するイメージのピクセル座標)の対応関係を含めて数式2を演算すると、正確なホモグラフィーが得られない。投影障害領域550をノイズと判断し、当該値を演算から除外しなければ、投影面のイメージを撮影装置で撮影し、撮影されたイメージ内の投影領域を投影装置の投影領域とマッチングさせる相対的変換情報の演算が正確に行われない。投影障害領域を除き、優勢なホモグラフィーを計算するために、RANSACを用いて最終的に数式2を計算する。
投影障害領域の区別は、第1相対的変換情報Hi→camの逆行列を演算し、第2相対的変換情報Hcam→iを求め、Hcam→iを用いてcを投影装置300の投影領域310に変換した後、これに対応するxとの距離差の大きいものは、壁面500に設置物540が存在すると判断することにより行われる。
図6は、上述した過程を経て壁面500の投影障害領域550がフィルタリングされる前の有効投影領域560と、フィルタリングされた後の有効投影領域560を示す図である。
一方、前記第1ステップ乃至第3ステップの過程は、上映館内に設置されたそれぞれの投影装置300と投影面との間で全て行われ、各ステップの実行により抽出された有効投影領域560を一つに併合して「全体の有効投影領域560」を取得することができる。例えば、上映館内の一側壁面500に対応して二つの投影装置300が設置されている場合、各投影装置300別に第1ステップ乃至第3ステップが行われると、投影管理装置200としては、各投影装置300別に有効投影領域560を取得することができるが、このように取得した有効投影領域560を一つに併合する場合、前記一側壁面500の全体の有効投影領域560を取得するようになる。図7は、複数の有効投影領域560が併合され、一つの全体の有効投影領域560が得られた様子を示す図である。
一方、有効投影領域560を求めた後、最終的に投影領域310を補正するためには、実際の投影面に投影されるべきコンテンツイメージと、前記投影装置300による投影領域310との間の相対的変換情報、すなわち、第3相対的変換情報Hi→imageを演算しなければならないが、上記した図2の第4ステップが本ステップに該当する(imageは、コンテンツイメージを意味する)。
i→imageを演算するためには、行列間の連鎖法則(chain rule)を用いるが、具体的には、第1投影面イメージ10とコンテンツイメージとの間の相対的変換情報Hcam→image、また予め求めた投影装置300と第1投影面イメージ10との間の相対的変換情報Hi→camを用いてHi→imageを求める。
このように第4ステップまでの過程を経る場合は、最終的に投影装置300の投影領域310とコンテンツイメージのと間の対応関係が正義されるので、つまり、投影管理装置200としては、投影装置300を制御することにより、コンテンツイメージが有効投影領域560に正確に投影されるようにすることができる。
一方、本発明が前提としている多面上映館の場合、壁面500を投影面として活用するが、壁面500の全体を投影可能な領域として活用するのではなく、一部領域のみを有効投影領域560として活用する。したがって、壁面500の全体のうち、どの領域が有効投影領域560であるかをさらに精密に区分する必要がある。また、コンテンツイメージが壁面500に投影されるときの有効投影領域560を決めるにあたっては、上映館の正面のスクリーン600に投影されるコンテンツイメージとの連結性が最大限維持される必要がある。
このため、本発明では、レーザ水平器400を活用し、コンテンツイメージが投影されるべき領域と投影装置300の投影領域310を正確に一致させる方法を提案する。図2の第5ステップ乃至第7ステップは、レーザ水平器400を活用して、投影領域310とコンテンツイメージを精密に合わせる過程を示すものである。
先ず、第5ステップは、投影管理装置200が撮影装置100により撮影された第2投影面イメージ30を取得するステップであるが、このとき、第2投影面イメージ30は、レーザ水平器400により出力されたレーザライン410が投影面に表示された状態で撮影されたイメージである。図8は、上映館内の一側壁面500にレーザライン410が照射された状態で、撮影装置100が撮った第2投影面イメージ30を示す図である。図8を参照すれば、レーザ水平器400は、4つのレーザライン410(上・下・左・右)が投影面に表示されるように複数個が設置されてもよく、このとき、特に下辺に対応するレーザ水平器400は、正面スクリーン600の下端ラインと一致するように設置されることが好ましい。また、上辺に対応するレーザ水平器400は、正面スクリーン600の中心を通る横軸ラインと一致するように設置されることが好ましい。このように、レーザライン410の上辺及び下辺が正面スクリーン600と並んで一致するように設置することは、上述したように、壁面500に投影されるコンテンツイメージと正面スクリーン600に投影されるコンテンツイメージとの連結性を最大限維持するためである。一方、左辺、右辺に対応するレーザ水平器400は、それぞれコンテンツイメージの横方向の始めと終わりに対応して設置する。
第6ステップは、投影管理装置200が、レーザライン410の表示された第2投影面イメージ30から複数のラインイメージ411を抽出し、前記ラインイメージ411の交差により生成される交差点413を取得するステップである。レーザライン410は、好ましくは赤色で表示されるが、投影管理装置200は、第2投影面イメージ30に対してRGBチャンネル分析を行うことにより、R値の高いピクセルを抽出してラインイメージ411のみを抽出することができる。また、このように抽出されたラインイメージ411は、必ず交差しながら交差点413を生成するが、投影管理装置200は、前記ラインイメージ411に対してハフ変換(Hough Transform)を行って直線の方程式を求め、各辺の直線の方程式から交差点413を演算する。図9は、図8の第2投影面イメージ30からラインイメージ411が抽出された様子、交差点413が演算された様子を示す図である。
最後に、第7ステップは、投影管理装置200が前記演算された交差点413を前記コンテンツイメージの頂点にマッチングさせるステップである。すなわち、投影管理装置200は、第2投影面イメージ30と前記コンテンツイメージとの間の相対的変換情報Hcam→imageを上記した数式2のような方式で演算するが、このように演算された相対的変換情報Hcam→imageは、投影装置300と第2投影面イメージ30との間の相対的変換情報Hi→cam(Hi→camも数式2のような方式で演算する)との連鎖法則関係により、最終的には投影装置300とコンテンツイメージとの間の相対的変換情報Hi→imageを演算するのに活用される。
その結果、投影管理装置200は、投影装置300とコンテンツイメージとの間の相対的変換情報を求めることにより、コンテンツイメージと投影装置300の投影領域310が正確に一致して投影されるように投影装置300を制御することができる。
以上、本発明について説明したが、本発明が属する技術分野における通常の知識を有する者であれば、本発明の技術的思想および必須的特徴を保ったままで他の形態によっても実施可能であることを認知できる筈である。
したがって、上述した実施形態は、単に例示に過ぎず、本発明の範囲を上記した実施形態に制限しようとするものではない。また、図示された流れ図は、本発明を実施するに当たって、最も好適な結果を得るために、例示的に示した順序に過ぎず、他のステップがさらに追加されまたは一部のステップが削除され得ることは言うまでもない。
本発明の範囲は、特許請求の範囲により定められるべきであるが、特許請求の範囲の記載事項から直接的に導き出される構成はもとより、それと等価である構成から導き出されるあらゆる変更または変形された形態もまた本発明の権利範囲に含まれるものと解釈されるべきである。
10 第1投影面イメージ
30 第2投影面イメージ
100 撮影装置
200 投影管理装置
300 投影装置
310 投影領域
400 レーザ水平器
410 レーザライン
411 ラインイメージ
413 交差点
500 壁面投影面
540 設置物
550 投影障害領域
560 有効投影領域
600 スクリーン
A、A’ 光パターンイメージ

Claims (13)

  1. (a)撮影装置により撮影された第1投影面イメージを取得するステップと、
    (b)前記第1投影面イメージ内の投影領域の各ピクセル座標と投影装置により投影される投影領域の各ピクセル座標とを対応させるステップと、
    (c)前記第1投影面イメージのピクセル座標と前記投影装置のピクセル座標を用いて、第1投影面イメージと投影装置との間の相対的変換情報を演算するステップと、を含み、
    前記第1投影面イメージは、光パターンが投影された投影面のイメージであることを特徴とする投影領域自動補正方法。
  2. 前記第1投影面イメージは、
    投影装置の各ピクセル座標をビットに変換するステップと、
    投影装置の各ピクセル座標に時間順序により黒白のイメージを投影するステップと、
    撮影装置が前記黒白のイメージが投影される投影面を撮影するステップと、により撮影されたことを特徴とする請求項1に記載の投影領域自動補正方法。
  3. 前記(c)ステップは、
    前記投影装置の投影領域から任意の基準ピクセルxを抽出し、前記第1投影面イメージから対応する対応ピクセルcを抽出し、前記基準ピクセルx及び対応ピクセルcを相手的変換式に代入させて相対的変換情報を演算することを特徴とする請求項1に記載の投影領域自動補正方法。
  4. 前記(c)ステップは、
    第1相対的変換情報Hi→camを演算するが、
    前記相手的変換式は、
    (x:投影領域の基準ピクセル、c:第1投影面イメージの対応ピクセル)であることを特徴とする請求項3に記載の投影領域自動補正方法。
  5. 前記(c)ステップは、第2相対的変換情報Hcam→iをさらに演算するが、
    前記Hcam→iは、前記第1相対的変換情報Hi→camの逆行列であることを特徴とする請求項4に記載の投影領域自動補正方法。
  6. 前記第2相対的変換情報Hcam→iの演算は、RANSAC(Random Sample Consensus)を用い、(c)ステップにおいて前記第2相対的変換情報Hcam→iに基づいて取得される有効投影領域は、投影面に具備された設置物により発生する投影障害領域が除去された状態であることを特徴とする請求項5に記載の投影領域自動補正方法。
  7. 一つの投影面には、複数の投影装置が対応して具備され、
    各投影装置により投影される第1投影面イメージに対して前記(a)ステップ乃至(c)ステップを行い、
    前記各投影装置の有効投影領域を合わせて全体の有効投影領域を取得することを特徴とする請求項1に記載の投影領域自動補正方法。
  8. (d)投影装置とコンテンツイメージとの間の第3相対的変換情報Hi→imageを演算するステップをさらに含むことを特徴とする請求項1に記載の投影領域自動補正方法。
  9. (e)レーザラインが表示された第2投影面イメージを取得するが、前記レーザラインは、レーザ水平器により出力された光により表示されるステップをさらに含むことを特徴とする請求項8に記載の投影領域自動補正方法。
  10. (f)前記第2投影面イメージから複数のラインイメージを抽出し、前記ラインイメージの交差により生成する交差点を取得するステップと、
    (g)取得された交差点を前記コンテンツイメージの頂点にマッチングさせるステップと、をさらに含むことを特徴とする請求項9に記載の投影領域自動補正方法。
  11. 投影面を撮影する撮影装置と、
    前記撮影装置により撮影された第1投影面イメージを取得し、前記第1投影面イメージ内の各ピクセルと投影装置により投影される投影領域の各ピクセル座標とを対応させて相対的変換情報を演算し、前記相対的変換情報に基づいて投影装置の有効投影領域を取得する投影管理装置と、
    上映館内の投影領域のイメージを投影する投影装置と、を含み、
    前記第1投影面イメージは、前記投影装置により光パターンが投影された投影面のイメージであることを特徴とする投影領域自動補正システム。
  12. 前記投影面上にレーザラインの表示のための光を出力するレーザ水平器をさらに含み、
    前記投影管理装置は、前記撮影装置により撮影された第2投影面イメージをさらに取得することを特徴とする請求項11に記載の投影領域自動補正システム。
  13. 前記投影管理装置は、前記第2投影面イメージから複数のラインイメージを抽出し、前記ラインイメージの交差により生成する交差点を取得し、前記取得された交差点をコンテンツイメージの頂点にマッチングさせることを特徴とする請求項12に記載の投影領域自動補正システム。
JP2019532033A 2016-12-16 2017-03-23 撮影装置により撮影されたイメージに基づく投影領域自動補正方法及びこのためのシステム Pending JP2020508479A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR1020160172309A KR101820905B1 (ko) 2016-12-16 2016-12-16 촬영장치에 의해 촬영된 이미지 기반의 투사영역 자동보정 방법 및 이를 위한 시스템
KR10-2016-0172309 2016-12-16
PCT/KR2017/003136 WO2018110774A1 (en) 2016-12-16 2017-03-23 Method of automatically correcting projection area based on image photographed by photographing device and system therefor

Publications (1)

Publication Number Publication Date
JP2020508479A true JP2020508479A (ja) 2020-03-19

Family

ID=61094867

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019532033A Pending JP2020508479A (ja) 2016-12-16 2017-03-23 撮影装置により撮影されたイメージに基づく投影領域自動補正方法及びこのためのシステム

Country Status (7)

Country Link
US (1) US10051250B2 (ja)
EP (1) EP3539288B1 (ja)
JP (1) JP2020508479A (ja)
KR (1) KR101820905B1 (ja)
CN (1) CN108206946A (ja)
IL (1) IL267084A (ja)
WO (1) WO2018110774A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108600716A (zh) * 2018-05-17 2018-09-28 京东方科技集团股份有限公司 投影设备和系统、投影方法
CN109451290A (zh) * 2018-12-25 2019-03-08 广州励丰文化科技股份有限公司 基于异形投影画面的自动校正方法及系统
CN110336987B (zh) * 2019-04-03 2021-10-08 北京小鸟听听科技有限公司 一种投影仪畸变校正方法、装置和投影仪
US11023729B1 (en) 2019-11-08 2021-06-01 Msg Entertainment Group, Llc Providing visual guidance for presenting visual content in a venue
KR102173295B1 (ko) * 2020-01-20 2020-11-03 주식회사 바인더에이 레이저와 프로젝션 영상 동기화 시스템
CN112104851B (zh) * 2020-09-15 2022-04-08 成都极米科技股份有限公司 画面校正的检测方法、装置和检测系统
JP7163947B2 (ja) * 2020-10-22 2022-11-01 セイコーエプソン株式会社 投写領域の設定支援方法、設定支援システム、及びプログラム
CN112261396B (zh) * 2020-10-26 2022-02-25 成都极米科技股份有限公司 投影方法、装置、投影设备及计算机可读存储介质
CN115706784B (zh) * 2021-08-03 2024-02-06 宜宾市极米光电有限公司 一种投影仪投影画质噪点的度量方法及相关装置
WO2023087951A1 (zh) * 2021-11-16 2023-05-25 海信视像科技股份有限公司 一种投影设备及投影图像的显示控制方法
CN114466173A (zh) * 2021-11-16 2022-05-10 海信视像科技股份有限公司 投影设备及自动投入幕布区域的投影显示控制方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004048694A (ja) * 2002-05-20 2004-02-12 Seiko Epson Corp 投写型画像表示システム、プロジェクタ、プログラム、情報記憶媒体および画像投写方法
JP2005347790A (ja) * 2004-05-31 2005-12-15 Nec Viewtechnology Ltd 台形歪み補正装置を備えたプロジェクタ
JP2011182076A (ja) * 2010-02-26 2011-09-15 Seiko Epson Corp 補正情報算出装置、画像処理装置、画像表示システム、および画像補正方法
JP2014220720A (ja) * 2013-05-09 2014-11-20 株式会社東芝 電子機器、情報処理方法及びプログラム
JP2015158885A (ja) * 2014-01-21 2015-09-03 セイコーエプソン株式会社 位置検出装置、プロジェクター、位置検出システム、及び、位置検出装置の制御方法
JP2015173431A (ja) * 2014-02-18 2015-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 投影システムおよび半導体集積回路

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008187566A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
DE102010023108B4 (de) 2009-06-04 2019-12-05 Sypro Optics Gmbh Projektor mit automatischer Fokussierung und Abbildungsverfahren
JP6102088B2 (ja) * 2011-09-01 2017-03-29 株式会社リコー 画像投影装置、画像処理装置、画像投影方法、画像投影方法のプログラム及びそのプログラムを記録した記録媒体
CN104869377B (zh) * 2012-03-14 2016-11-02 海信集团有限公司 一种投影图像颜色校正方法及投影仪
US10008007B2 (en) 2012-09-20 2018-06-26 Brown University Method for generating an array of 3-D points
JP6510213B2 (ja) * 2014-02-18 2019-05-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 投影システム、半導体集積回路、および画像補正方法
KR101601810B1 (ko) 2014-04-08 2016-03-09 에스케이텔레콤 주식회사 영상 왜곡 보정 방법 및 장치
JP2016014720A (ja) * 2014-07-01 2016-01-28 ソニー株式会社 情報処理装置および方法
KR20160031966A (ko) 2014-09-15 2016-03-23 한국과학기술원 멀티 프로젝션 시스템 및 이의 프로젝터 보정 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004048694A (ja) * 2002-05-20 2004-02-12 Seiko Epson Corp 投写型画像表示システム、プロジェクタ、プログラム、情報記憶媒体および画像投写方法
JP2005347790A (ja) * 2004-05-31 2005-12-15 Nec Viewtechnology Ltd 台形歪み補正装置を備えたプロジェクタ
JP2011182076A (ja) * 2010-02-26 2011-09-15 Seiko Epson Corp 補正情報算出装置、画像処理装置、画像表示システム、および画像補正方法
JP2014220720A (ja) * 2013-05-09 2014-11-20 株式会社東芝 電子機器、情報処理方法及びプログラム
JP2015158885A (ja) * 2014-01-21 2015-09-03 セイコーエプソン株式会社 位置検出装置、プロジェクター、位置検出システム、及び、位置検出装置の制御方法
JP2015173431A (ja) * 2014-02-18 2015-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 投影システムおよび半導体集積回路

Also Published As

Publication number Publication date
EP3539288A4 (en) 2020-09-30
EP3539288B1 (en) 2022-08-03
US10051250B2 (en) 2018-08-14
CN108206946A (zh) 2018-06-26
WO2018110774A1 (en) 2018-06-21
IL267084A (en) 2019-08-29
US20180176520A1 (en) 2018-06-21
KR101820905B1 (ko) 2018-01-22
EP3539288A1 (en) 2019-09-18

Similar Documents

Publication Publication Date Title
JP2020508479A (ja) 撮影装置により撮影されたイメージに基づく投影領域自動補正方法及びこのためのシステム
CN106875339B (zh) 一种基于长条形标定板的鱼眼图像拼接方法
CN105026997B (zh) 投影系统、半导体集成电路及图像修正方法
TWI253006B (en) Image processing system, projector, information storage medium, and image processing method
KR20160034847A (ko) 단초점 카메라를 이용하여 디스플레이 시스템을 캘리브레이팅하기 위한 시스템 및 방법
WO2018235163A1 (ja) キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
JP2010113720A (ja) 距離情報を光学像と組み合わせる方法及び装置
CN112272292B (zh) 投影校正方法、装置和存储介质
KR20160031966A (ko) 멀티 프로젝션 시스템 및 이의 프로젝터 보정 방법
JP2015060012A (ja) 画像処理システム、画像処理装置、画像処理方法および画像処理プログラム、ならびに、表示システム
JP2017083550A (ja) 情報処理装置、画像投影システムおよびプログラム
CN108090877A (zh) 一种基于图像序列的rgb-d相机深度图像修复方法
TW201225658A (en) Imaging device, image-processing device, image-processing method, and image-processing program
KR101801100B1 (ko) 몰입형 콘텐츠 제작 지원용 영상 제공 장치 및 방법
JP4696018B2 (ja) 観察位置追従式映像提示装置及び観察位置追従式映像提示プログラム,映像提示装置及び映像提示プログラム
JP2008176768A (ja) 画像処理装置
KR20170128736A (ko) 3차원 스캐닝 장치 및 방법
JP2002014611A (ja) プラネタリウムのまたは球面スクリーンへのビデオ投映方法と装置
JP2001148012A (ja) 対応点探索方法および装置
CN111131801A (zh) 投影仪校正系统、方法及投影仪
JP2005303493A (ja) 障害物適応投射型表示装置
KR102156998B1 (ko) 비디오 시퀀스에서 모션을 감지하기 위한 방법
JP7040511B2 (ja) 情報処理装置および方法
JP5925109B2 (ja) 画像処理装置、その制御方法、および制御プログラム
KR101539038B1 (ko) 복수의 깊이 카메라로부터 취득한 깊이 맵의 홀 필링 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190620

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200908

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210406