JP2004289822A - 表示面上の最大矩形を決定する方法 - Google Patents
表示面上の最大矩形を決定する方法 Download PDFInfo
- Publication number
- JP2004289822A JP2004289822A JP2004074887A JP2004074887A JP2004289822A JP 2004289822 A JP2004289822 A JP 2004289822A JP 2004074887 A JP2004074887 A JP 2004074887A JP 2004074887 A JP2004074887 A JP 2004074887A JP 2004289822 A JP2004289822 A JP 2004289822A
- Authority
- JP
- Japan
- Prior art keywords
- projector
- rectangle
- display surface
- image
- polygon
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3141—Constructional details thereof
- H04N9/3147—Multi-projection systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/74—Projection arrangements for image reproduction, e.g. using eidophor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3185—Geometric adjustment, e.g. keystone or convergence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
- H04N9/3194—Testing thereof including sensor feedback
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Geometry (AREA)
- Transforming Electric Information Into Light Information (AREA)
- Projection Apparatus (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】表示面上の最大矩形を決定する方法。
【解決手段】多角形Lは、深度z=1の深度バッファを有する第1の深度平面上に描画される。所定のアスペクト比を有する短形Rは、深度z=0を有する第2の深度平面上に描画される。矩形Sが完全に上記多角形L内に留まるように、上記矩形Rを上記第1の深度平面における最大の上記矩形S中に写像する、範囲[0,1]で最小深度zを有する投影中心が決定される。
【選択図】図1
【解決手段】多角形Lは、深度z=1の深度バッファを有する第1の深度平面上に描画される。所定のアスペクト比を有する短形Rは、深度z=0を有する第2の深度平面上に描画される。矩形Sが完全に上記多角形L内に留まるように、上記矩形Rを上記第1の深度平面における最大の上記矩形S中に写像する、範囲[0,1]で最小深度zを有する投影中心が決定される。
【選択図】図1
Description
本発明は、包括的にはプロジェクタに関し、特に、表示面の様々な幾何学的形状に画像を適合させるプロジェクタに関する。
プロジェクタの最も利用される特徴は、プロジェクタの同類装置であるCRTおよびLCDによって生成される画像よりも大きなサイズの画像を表示する能力、およびプロジェクタから離れたところにある任意の表面上に画像を配置する能力である。CRTおよびLCDベースの装置のように、プロジェクタは通常、フラットな矩形画像を表示する。残念ながら、プロジェクタベースのディスプレイに固有の多くの特徴は大方利用されていない。
プロジェクタは、CRT装置またはLCD装置の場合とは違い、表示面から切り離されているため、プロジェクタのサイズは、プロジェクタが生成する画像のサイズよりもはるかに小さくすることができる。複数のプロジェクタからの重複する画像を表示面上に効果的にスーパーインポーズすることが可能であり、仕様およびフォームファクタのかなり異なるプロジェクタからの画像をともに混合させることが可能である。加えて、表示面は平面または剛体である必要がないため、多くの種類の表面および併合された投影画像を使用して、物理的な環境を補強することができる。
プロジェクタの傾向
プロジェクタは、小型化、軽量化、鮮明化、かつ低価格化しつつある。装置が小型化されると、フォームファクタの柔軟性により新たな使用形態および新たな用途が生まれる。たとえば、将来のプロジェクタは、固定位置あるいはモバイルセットアップで使用することが可能であろう。
プロジェクタは、小型化、軽量化、鮮明化、かつ低価格化しつつある。装置が小型化されると、フォームファクタの柔軟性により新たな使用形態および新たな用途が生まれる。たとえば、将来のプロジェクタは、固定位置あるいはモバイルセットアップで使用することが可能であろう。
分散型共有コンピューティングの傾向
ますます、コンピュテーションは、よく組織されたメインフレームの集合ではなく、異種のそれ自体で完全なコンピューティングユニットのクラスタにわたって分散されるようになっている。より低価格でより強力なコンピュータの進歩により、この傾向は加速している。
ますます、コンピュテーションは、よく組織されたメインフレームの集合ではなく、異種のそれ自体で完全なコンピューティングユニットのクラスタにわたって分散されるようになっている。より低価格でより強力なコンピュータの進歩により、この傾向は加速している。
同様にプロジェクタシステムでも、大型で同質の一体型システムから異種のそれ自体で完全なプロジェクタで構成されるネットワークへの移行が望まれている。このようなプロジェクタは、PCまたはPDAと同様にスタンドアロンモードで使用することが可能であるか、またはコンピューティンググリッド(computing grid)と同様にクラスタで協働することが可能であろう。
最近の数年で、プロジェクタはエンターテイメント用途、フライトシミュレータ用途、およびプレゼンテーション用途における従来の役割から脱した。その結果、プロジェクタベースのシステムの進歩が大きな関心を呼び、プロジェクタは非従来的な目的で使用され始めている。
プロジェクタベースの環境
近年、物理的な環境を補強する表示装置、たとえば固定設置用の大型モニタ、投影スクリーン、LCD、またはプラズマスクリーン、およびモバイル用途のハンドヘルドPDAがより人気となっている。はめ込み(immersion)は、こういったディスプレイの大半の必須目標ではない。
近年、物理的な環境を補強する表示装置、たとえば固定設置用の大型モニタ、投影スクリーン、LCD、またはプラズマスクリーン、およびモバイル用途のハンドヘルドPDAがより人気となっている。はめ込み(immersion)は、こういったディスプレイの大半の必須目標ではない。
サイズおよびコストの縮小により、プロジェクタは従来の表示装置および媒体にますます取って代わっている。Raskar他著「Multiprojector Displays using Camera-based Registration」IEEE Visualization、1999、Underkoffler他著「Emancipated pixels:realworld graphics in the luminous room」SIGGRAPH 99 Conference Proceedings、pp385-392、1999、Pinhanez著「The Everywhere Displays Projector:A Device to Create Ubiquitous Graphical Interfaces」Ubiquitous Computing、Ubicomp ‘01、2001、Sukthankar他著「Scalable Alignment of Large-Format Multi-Projector Displays Using Camera Homography Trees」Proceedings of Visualization、2002、およびStork著「Projection-based Augmented Reality in Engineering Applications、2002を参照のこと。
幾何学的観点から、従来技術のプロジェクタシステムは、中央演算処理装置を支援する1つまたは複数の環境センサを使用する。処理装置は、プロジェクタと表示面との間のユークリッド関係またはアフィン関係を計算する。
これとは対照的に、個々が自己完結型のプロジェクタに基づいた分散型のプロジェクタシステムを提供することが望まれる。
従来技術によるプロジェクタシステムによっては、プロジェクタのクラスタを使用してシームレス表示への自動見当合わせを提供するものがある。Yang著「PixelFlex:A Reconfigurable Multi-Projector Display System」IEEE Visualization 01、2001、およびBrown他著「A Practical and Flexible Large Format Display system」The Tenth Pacific Conference on Computer Graphics and Applications、pp178-183、2002を参照のこと。しかし、こういったシステムは環境センサを必要とし、いずれか1つのセンサの範囲を越えてプロジェクタを認めず、一次の平面の表面でしか機能しない。
環境センサを使用することなく円筒体およびドーム等、より高次の表面上に画像を表示可能なプロジェクタを提供することが望まれる。
高度プロジェクタ
従来技術による表示システムによっては、高度センサおよびさらなる演算を用いるものがあり(上記Underkoffler他によって記された「I/O bulb」を参照のこと)、これは同じ場所にあるプロジェクタおよびカメラを使用する。傾斜センサを使用して、自動キーストン(keystone:台形歪み)補正を行うことができる。Raskar著「A Self Correcting Projector」IEEE Computer Vision and Pattern Recognition、2001を参照のこと。
従来技術による表示システムによっては、高度センサおよびさらなる演算を用いるものがあり(上記Underkoffler他によって記された「I/O bulb」を参照のこと)、これは同じ場所にあるプロジェクタおよびカメラを使用する。傾斜センサを使用して、自動キーストン(keystone:台形歪み)補正を行うことができる。Raskar著「A Self Correcting Projector」IEEE Computer Vision and Pattern Recognition、2001を参照のこと。
プロジェクタが互いに通信することが可能であり、表示面および環境に存在する物体の物理的な形状を感知可能であるように、ネットワーク機能を備えたプロジェクタを提供すること、およびプロジェクタを幾何学的形状認識可能かつ自己構成可能にすることがさらに望まれる。
本発明は、幾何学的形状認識プロジェクタ、およびこういった幾何学的形状認識プロジェクタの1つまたは複数から構成される自己構成可能な表示システムを支援する新規の技法を提供する。
本発明は、他のプロジェクタが存在する中で、画像を異なる種類の表面および物体上に表示する較正技法およびレンダリング技法も提供する。
これら技法は従来のプロジェクタベースの環境に適用することが可能であり、新たな種類の用途および相互作用が可能になる。
したがって、本発明の目的は、形状適応式プロジェクタシステムを提供することにある。形状適応式、すなわち幾何学的形状認識プロジェクタは、最小の局所歪みで画像を平面の、または非平面の表面上に表示する。このシステムは、対応する正角図法の問題、および水平制約および垂直制約の変動に対処する。
本発明の目的はまた、環境センサを使用することなく、自己完結型プロジェクタによって投影される複数の画像から1つのシームレスな画像として見えるものをレンダリングすることができる自己構成式アドホックプロジェクタクラスタを提供することにもある。
本発明の目的は、シーンのマスタおよびユークリッド情報を用いて複数の画像を全体的に位置合わせする方法を提供することにある。これは、任意形状の多角形である、投影された四辺形画像の連合体内で最大の内接矩形画像を決定する方法を含む。
本発明の目的は、湾曲した表示面、特に二次面上に画像を表示するプロジェクタシステムを提供することにある。したがって、単純化したパラメータ化伝達方法が提供される。湾曲面に対処するため、本発明は、湾曲面上に投影画像の歪みによる対毎の関係にわずかな誤差が存在する中で、画像を全体的に位置合わせし、見当合わせする方法も提供する。
幾何学的形状認識プロジェクタ
図1は、本発明による幾何学的形状認識プロジェクタ100を示す。プロジェクタ100は、前面投影モードおよび後面投影モードの両方で使用可能であり、また単体で使用しても、または他の同様のプロジェクタと組み合わせて共同して使用してもよいことに留意されたい。
図1は、本発明による幾何学的形状認識プロジェクタ100を示す。プロジェクタ100は、前面投影モードおよび後面投影モードの両方で使用可能であり、また単体で使用しても、または他の同様のプロジェクタと組み合わせて共同して使用してもよいことに留意されたい。
本発明のプロジェクタ100は、バス140によって接続されたマイクロプロセッサ110、メモリ120、およびI/Oインタフェース130、全体として処理装置、を備える。処理装置の電子構造は従来のものであるが、本明細書に述べる方法ステップを実行する際のその動作は非従来的なものである。
プロジェクタは、出力画像を表示するプロジェクタサブシステム150、および入力画像を取得するカメラサブシステム160も備える。
プロジェクタは、ネットワークサブシステム170により、他の同様の装置、または他のコンピューティング装置とローカルに、またはリモートに通信することができる。したがって、ネットワークシステムは、通信媒体に応じてアンテナすなわち赤外線送受信器180に接続することができる。
プロジェクタの動作に役立てるために、ユーザインタフェース190が入力データおよび出力データを提供することができる。内部センサ195、たとえば傾斜センサまたは加速度計で、プロジェクタの位置付けを決定することができる。センサは内部のみであり、プロジェクタ外部の環境を感知しないことに留意されたい。
プロジェクタの動作
プロジェクタ100は、スマートキーストン補正、位置付けを補償した画像輝度、自動明度、ズーム、およびフォーカス、幾何学的形状およびテクスチャキャプチャのための3Dスキャン、およびカメラサブシステム160のためのスマートフラッシュを含む複数の機能を実行することができる。この最後の機能の場合、プロジェクタの機能はカメラ機能の補助である。この場合、プロジェクタは単に、カメラで観察しているシーンの特定エリアを照らすだけである。
プロジェクタ100は、スマートキーストン補正、位置付けを補償した画像輝度、自動明度、ズーム、およびフォーカス、幾何学的形状およびテクスチャキャプチャのための3Dスキャン、およびカメラサブシステム160のためのスマートフラッシュを含む複数の機能を実行することができる。この最後の機能の場合、プロジェクタの機能はカメラ機能の補助である。この場合、プロジェクタは単に、カメラで観察しているシーンの特定エリアを照らすだけである。
複数のさらなる適応機能について、以下にさらに詳細に述べる。
本発明では、プロジェクタ外部のいずれのユークリッド情報、たとえば室内のアクティブビーコン、表示スクリーン上の境界または人的補助にも頼りたくないため、完全な自己較正式プロジェクタ−カメラステレオ対を使用して「プラグアンドディスプレイ」機能をサポートする。
プロジェクタ100は、他の装置およびシーン中の物体と通信して、必要な幾何学的関係を「学習」することができる。プロジェクタが動作しているときにこういった関係を動的に学習する能力は、予め構成された幾何学的セットアップ、複雑な較正、通信、およびユーザ補助を必要とする従来技術によるプロジェクタとの大きな違いである。
単純な平面のホモグラフィを使用し、完全な較正を回避する従来技術によるプロジェクタシステムでは、表示面についてのいくらかのユークリッド情報、たとえばスクリーンエッジまたはマーカが必要であるか、またはプロジェクタが「理想的な」場所にある、すなわち投影中心(CoP)が平面の表示面に対して実質的に直交するものと仮定される。
自己構成可能なアドホックプロジェクタクラスタ
図2Aおよび図2Bに示すように、プロジェクタ100は、単体で使用することもでき、または無線Ethernet(登録商標)、RF、または赤外線等のネットワーク210を介して互いに通信する、自己構成可能なアドホックネットワーク化プロジェクタクラスタ200内で使用することもできる。クラスタ200として構成された場合、プロジェクタ100は、図2Bに点描で示される1つのシームレスな複合画像201として知覚されるものを表示する。複合画像201は実際には、表示面230または他の物理的な物体上の複数の投影画像220から構成される。表面230は二次面であってもよいことに留意する。この例では、2台のプロジェクタが下から投影し、逆になったキーストンから観察されるように、1台のプロジェクタが上から投影している。
図2Aおよび図2Bに示すように、プロジェクタ100は、単体で使用することもでき、または無線Ethernet(登録商標)、RF、または赤外線等のネットワーク210を介して互いに通信する、自己構成可能なアドホックネットワーク化プロジェクタクラスタ200内で使用することもできる。クラスタ200として構成された場合、プロジェクタ100は、図2Bに点描で示される1つのシームレスな複合画像201として知覚されるものを表示する。複合画像201は実際には、表示面230または他の物理的な物体上の複数の投影画像220から構成される。表面230は二次面であってもよいことに留意する。この例では、2台のプロジェクタが下から投影し、逆になったキーストンから観察されるように、1台のプロジェクタが上から投影している。
以下に述べるように、プロジェクタの配置に明確な意図はない。すなわち、画像の境界を位置合わせする必要はない。必要なことは、投影画像の連合体がn辺の多角形を表示面上に形成し、1つの複合出力画像と知覚されるものが形成されることだけである。
形状適応式プロジェクタ
プロジェクタ100が無計画に、おそらくモバイルセットアップで使用される場合、平面の表示面を常に利用できるとは限らない。実際には、部屋の隅、円柱、またはドーム形状の天井に画像を表示することが望まれることがある。したがって、歪みが最小化されるような出力画像の補正が必要になる。複数のプロジェクタが使用される場合は、おそらく一貫しない照明強度を有するプロジェクタによって生成される複数の出力画像をシームレスに併合することがさらに問題となる。これは、「理想的な」場所に配置された、すなわち投影中心(CoP)が平面の表示面に対して実質的に直交する状態の1台のプロジェクタに関して出力画像がプレワーピング(is pre-warped)される従来技術の問題と異なることに留意する。
プロジェクタ100が無計画に、おそらくモバイルセットアップで使用される場合、平面の表示面を常に利用できるとは限らない。実際には、部屋の隅、円柱、またはドーム形状の天井に画像を表示することが望まれることがある。したがって、歪みが最小化されるような出力画像の補正が必要になる。複数のプロジェクタが使用される場合は、おそらく一貫しない照明強度を有するプロジェクタによって生成される複数の出力画像をシームレスに併合することがさらに問題となる。これは、「理想的な」場所に配置された、すなわち投影中心(CoP)が平面の表示面に対して実質的に直交する状態の1台のプロジェクタに関して出力画像がプレワーピング(is pre-warped)される従来技術の問題と異なることに留意する。
表面の形状に従って1つの出力画像に見えるものを生成したい。たとえば、一方の側から湾曲した壁にあるポスターを見るとき、または円筒形の物体のラベルを読むとき、または湾曲した建造物の壁画を見るとき、三次元の刺激は、人の視覚の不可欠な部分である(three dimension cues are...of human vision)。したがって、本発明は、通常の視覚経験に合致した出力画像を投影する。
正角図法
本発明の方法は、表示面の被照明領域にわたっての歪みが最小の画像を表示する。たとえば、映画スクリーンのような平面の表面上でのソリューションは、まるで観客が正面から平行して映画を見ているかのように画像を投影することである。プロジェクタがスキューしている場合は、キーストン補正が適用される。
本発明の方法は、表示面の被照明領域にわたっての歪みが最小の画像を表示する。たとえば、映画スクリーンのような平面の表面上でのソリューションは、まるで観客が正面から平行して映画を見ているかのように画像を投影することである。プロジェクタがスキューしている場合は、キーストン補正が適用される。
湾曲した表面の場合、または概して非平面の表面の場合、表示面上の各ポイントが、表面法線に沿って見たときに局所的に歪まないように、画像を表示面上に「貼り付け」たい。
表面法線は変化しうるため、出力画像の面積と表示面上の対応する面積の比が固定される等角画像を求める。
無伸張ソリューション(zero-stretch solution)は、表面が展開可能な場合にのみ可能である。可展面の例は、隅で交わる2つの平面の壁、または直円柱の一部、すなわち平面に対して直角に突出する平面の湾曲である。2つの平面の壁と隅で交わる天井、または部分的な球体等、他の場合では、最小二乗法の意味で最小伸張問題(minimum stretch problem)を解消する。
本発明の方法では、入力画像のテクスチャのスクロールは、画像領域のサイズおよび形状を変更することなく、照明面上での滑らかなスクロールとして見える。本発明では、Levy他著「Least Squares Conformal Maps for Automatic Texture Atlas Generation」SIGGRAPH2002 Proceeding、2002に記載の最小二乗等角写像(LSCM)を採用することによって表示面の3D形状への写像を決定する。Levyは、フラットな画像をレンダリングする間のテクスチャマッピングトライアングルに関わるが、本発明では、画像を可展面上に投影する必要がある。
LSCMは、3D表面上の対応する領域とその2Dパラメータ化空間の間の角の歪みおよび非均等なスケーリングを最小化する。可展面の場合、このソリューションで完全に等角になる。3Dメッシュ上の所与のポイントXについて、2Dテクスチャ座標(u,v)が複素数(u+iv)で表され、表示面が局所直交(x+iy)ベースの座標を用いる場合、等角写像の目標は、Xを通るu等曲線およびv等曲線に対する接ベクトルが直交する、すなわち、
∂u/∂x=∂v/∂y、かつ∂u/∂y=−∂v/∂x
であることを確実にすることである。
∂u/∂x=∂v/∂y、かつ∂u/∂y=−∂v/∂x
であることを確実にすることである。
Levy他はこの問題を三角形単位で解消し、表面位相同形をいずれも(u,v)パラメータ化を有する円盤に写像することによって歪みを最小化する。
平面伝達方法
図3は、本発明の等角投影方法300のステップを示す。
図3は、本発明の等角投影方法300のステップを示す。
この方法300は、プロジェクタサブシステム150によって構造化パターン、たとえば均等なチェッカー盤または正方形格子を表示面上に投影すること(310)から始まる。構造化パターンの入力画像が、カメラサブシステム160によって取得される(315)。
入力画像のパターン形状から、3D多角形メッシュDp、たとえば三角形から構成されるメッシュを生成する(320)。このメッシュは、プロジェクタの座標枠において生成される。このメッシュは、表示面の形状を反映しているため、可展面または湾曲面の場合に歪むことになる。
表示面の座標枠Dにおけるプロジェクタの位置付けが、内部センサ195を使用して感知され(330)、表示面の座標枠Dと位置合わせされた軸になるようにメッシュDpを回転させる(335)。
次に、LSCMを使用してテクスチャ座標Uが決定され(340)、よってユークリッド平面の座標枠Dの二次元埋め込みDПが見つけられる。
最大の領域が表示面上に投影されるときに、埋め込みDПにおいて、表示可能な領域、たとえば表示面の座標枠D内で可能な限り大きく、かつ可能な限り「上向き」の矩形を特定し(345)、これに従って、表示領域に合うようにテクスチャ座標を更新する(350)。
次に、出力画像がテクスチャ座標Uを使用してメッシュDp上にテクスチャマッピングされ(355)、このメッシュがプロジェクタの視点から表示面上にレンダリングされる(360)。従来のハードウェアまたはソフトウェアベースの技法を使用して、テクスチャ処理した三角形をレンダリングすることができる。
ステップ345において、(u,v)平面における出力画像の位置付けRtexを見つけようとする。表示面が垂直な壁が交わるまたは角または支柱等、垂直な直円柱、すなわち水平面における曲線が垂直に突出したものであると仮定すると、本発明の目標は、表示面上に投影されたときに、出力画像の垂直軸を表示面の垂直軸と位置合わせすることである。
さらに、本発明では、表示面の座標枠におけるプロジェクタの位置付けを使用する。これが、内部センサ195を使用することの理由である。表面が垂直な直円柱ではない、たとえばドームである場合、本発明のソリューションは、最小二乗の意味で出力画像を位置合わせする。
位置付け方法
図4に示すように、2D位置付けRtexを決定するステップは以下である。
図4に示すように、2D位置付けRtexを決定するステップは以下である。
3Dにおいて頂点p1、p2、p3を有するメッシュ中の各三角形tj上で、まず、局所アフィン(2D)x−y座標系:
X=p1+x(p2−p1)+y(p3−p1)
を決定する(410)。
X=p1+x(p2−p1)+y(p3−p1)
を決定する(410)。
三角形tj上の表示面の垂直軸の投影に対応するベクトルを、最小二乗の意味で、
[010]T=xj(p2−p1)+yj(p3−p1)
を解くことによって見つける。
[010]T=xj(p2−p1)+yj(p3−p1)
を解くことによって見つける。
テクスチャ空間においてすべての[xj,yj]を[0,1]に位置合わせしたい。これには、2D回転および平行移動が伴う。したがって、ベクトル[xj,yj]を正規化した後、共分散行列:
を決定する(420)。
行列M=USVTに特異値分解を適用して、所望の2D回転をRt=UVTとして取得する(430)。
最後に、Uvertical=RtexUTを使用してすべてのテクスチャ座標を回転させる(440)。
垂直面の照明
時により、一方の方向における画像特徴の形状を、他方の方向での歪みを犠牲にして維持することが望ましいことがある。たとえば、球面セグメント等、略垂直であるが非可展面上に投影されるバナーテキストでは、キャラクタが水平方向において歪んだとしても、すべてのテキストキャラクタが同じ高さに見えなくてはならない。
時により、一方の方向における画像特徴の形状を、他方の方向での歪みを犠牲にして維持することが望ましいことがある。たとえば、球面セグメント等、略垂直であるが非可展面上に投影されるバナーテキストでは、キャラクタが水平方向において歪んだとしても、すべてのテキストキャラクタが同じ高さに見えなくてはならない。
したがって、本発明では、この新たな制約を考慮に入れるようにLSCM技法を変更する。垂直という表記はセンサ195による読み取りによる回転においてコード化されるため、最小二乗等角写像についての費用関数を変更することができる。追加の制約を、
重み・∂v/∂y−定数
の形の4つの偏導関数で表現する。
重み・∂v/∂y−定数
の形の4つの偏導関数で表現する。
通常、このような制約の1つのみが使用される。たとえば、上記制約は、垂直方向に沿っての伸張を最小に保つ、すなわち、数式は、すべての三角形にわたって∂v/∂yの分散にペナルティーを課し、最小化する。この場合、三角形上の局所直交x,yベースは、x軸が表示面上のあらゆる場所で水平沿いを指すようなものが選択されることに留意する。
上記等角投影方法は、2つおよび3つの平面部分が隅で交わるディスプレイ、「W」字形状の表面、および凹面状のドーム等の非可展面を含め、複数の表示面に使用することが可能である。
プロジェクタクラスタ
図5に示すように、本発明の幾何学的形状認識プロジェクタ100のクラスタ200を使用して、平面の湾曲した表示面501上にレンダリングすることができる。
図5に示すように、本発明の幾何学的形状認識プロジェクタ100のクラスタ200を使用して、平面の湾曲した表示面501上にレンダリングすることができる。
プロジェクタのアドホッククラスタ200は、いくつかの利点を有する。クラスタは中央管理なしで動作するため、個々のプロジェクタはクラスタに動的に入出することができる。クラスタは外部環境センサを必要とせず、内部センサの任意の1つの範囲を超えて画像を表示する。
平面の表示面という文脈の中でクラスタ200の基本的な動作について述べる。二次面等より高次の表示面については、新規の二次伝達方法を提供する。
アドホッククラスタを使用しての平面表示
アドホッククラスタ200を使用してのシームレスな複数プロジェクタによる重複表示は、多くの利点を提供する。クラスタにより、非常に広いアスペクト比が可能であり(図2A、図2B参照)、また、プロジェクタと表示面の間の距離が短くてもよい。また、異種のプロジェクタおよびより高次の表面を使用することも可能である。本明細書では、異種のプロジェクタにより、異なる表示特徴、たとえば、光強度、アスペクト比、およびピクセル解像度を有するプロジェクタを意味する。クラスタにより、ピクセル解像度の増大および表示の明化が可能である。さらに、複数のクラスタを使用することも可能である。
アドホッククラスタ200を使用してのシームレスな複数プロジェクタによる重複表示は、多くの利点を提供する。クラスタにより、非常に広いアスペクト比が可能であり(図2A、図2B参照)、また、プロジェクタと表示面の間の距離が短くてもよい。また、異種のプロジェクタおよびより高次の表面を使用することも可能である。本明細書では、異種のプロジェクタにより、異なる表示特徴、たとえば、光強度、アスペクト比、およびピクセル解像度を有するプロジェクタを意味する。クラスタにより、ピクセル解像度の増大および表示の明化が可能である。さらに、複数のクラスタを使用することも可能である。
カメラベースの見当合わせを利用する、無計画に位置合わせされたプロジェクタを利用する従来技術によるシステムは、表示平面により包含される異なるプロジェクタビューにおけるホモグラフィを用いる。あるユークリッド基準枠とともにホモグラフィ関係を用いて、表示される画像がディスプレイ上で幾何学的に見当合わせされ、歪んでいないように見えるように画像をプレワーピングする。
しかし、広いアスペクト比を有する投影画像は問題であった。本発明では、1台のプロジェクタのプロジェクタサブシステムと近傍のプロジェクタのカメラサブシステムの間の対毎のホモグラフィに依拠する新規の全体位置合わせ方法を使用することによってこの問題を克服する。
近い位置にあって投影画像を同様のピクセル解像度比で見る複数の分散したカメラにより、対毎のホモグラフィを計算することができる。対毎のホモグラフィは、数式の線形系を解くことによってクラスタの全体的に一貫したホモグラフィのセットを計算するために使用される。これにより、改良されたピクセル見当合わせがもたらされる。
全体的な位置合わせ動作は、事前計画またはプログラミングをあまり必要とすることなく行われる。これは、あらゆるプロジェクタが独立して動作し、各自の観察および計算を対称的に行うことから可能である。スクリーンの隅またはマスタカメラの位置合わせ等のユークリッド情報は必要ない。内部センサおよびカメラにより、各プロジェクタに幾何学的形状を認識させることができ、またプロジェクタはクラスタに動的に入出することができる。一方、従来技術による複数プロジェクタディスプレイシステムはセットアップおよび管理が困難である。
クラスタの形成
図6は、プロジェクタのクラスタ200を形成する方法600を示す。この方法は「較正(calibrate:キャリブレーション)メッセージの受信(610)に応答する。較正メッセージは、クラスタ200に入りたいプロジェクタUkによって同報通信することができる。代替として、較正メッセージは、位置付けがセンサ195に従って変更されたときに、すでにクラスタに入っている任意のプロジェクタによって同報通信されてもよい。さらに、このメッセージは、環境中のある他の発信源によって、たとえば、表示面の形状または位置付けが変更されたことを示すために同報通信されてもよい。もちろん、ユーザがプロジェクタを無計画に配置した後で、最初の具体化でクラスタを形成する必要のあるときに、メッセージを同報通信することもできる。メッセージは、m台のプロジェクタすべてが近傍にある無線Ethernet(登録商標)、RF、または赤外線等の近接ネットワーク210を介して受信される。
図6は、プロジェクタのクラスタ200を形成する方法600を示す。この方法は「較正(calibrate:キャリブレーション)メッセージの受信(610)に応答する。較正メッセージは、クラスタ200に入りたいプロジェクタUkによって同報通信することができる。代替として、較正メッセージは、位置付けがセンサ195に従って変更されたときに、すでにクラスタに入っている任意のプロジェクタによって同報通信されてもよい。さらに、このメッセージは、環境中のある他の発信源によって、たとえば、表示面の形状または位置付けが変更されたことを示すために同報通信されてもよい。もちろん、ユーザがプロジェクタを無計画に配置した後で、最初の具体化でクラスタを形成する必要のあるときに、メッセージを同報通信することもできる。メッセージは、m台のプロジェクタすべてが近傍にある無線Ethernet(登録商標)、RF、または赤外線等の近接ネットワーク210を介して受信される。
これにより、m台のプロジェクタUi、i=1,・・・,mすべてのカメラがアテンションモードになり、受信するすべてのプロジェクタが「準備完了」メッセージを同報通信することによって応答する(620)。
この時点で、プロジェクタは、クラスタ200のプロジェクタに内蔵されたm台のカメラCi、i=1,・・・,mのうちの1つまたは複数に可視の構造化パターンを順次投影する(630)。任意の数の通信プロトコル技法を使用して、構造化パターンの順次投影を同期させることができる。
既存のクラスタからのいずれか1つのカメラが投影パターンを取得する(640)と、クラスタ全体が、プロジェクタUkまたは他の任意のプロジェクタを含めるように全体的な位置合わせを行う(650)。この位置合わせは、以下に述べるように、クラスタ中のプロジェクタ間の対毎の幾何学的関係を決定することを含む。
特定のカメラがパターンを取得することができない場合、プロジェクタは近傍にあるが、その投影パターンがクラスタによって表示される画像の範囲に重複しないものと仮定する。しかし、この方法では、すべてのプロジェクタがすべてのパターンを見る必要はない。普遍性を失うことなく、クラスタはここでn台のプロジェクタを包含するものと仮定する。
対毎の幾何学的アフィン関係
図7に示すように、重複する画像の画像見当合わせを行う。画像間の関係はホモグラフィとして表現される。3Dの不透明な平面の表面の任意の2つの透視図間の写像は、規模に応じて定義される3×3行列として表現される平面投影伝達を用いて表現することができる。
図7に示すように、重複する画像の画像見当合わせを行う。画像間の関係はホモグラフィとして表現される。3Dの不透明な平面の表面の任意の2つの透視図間の写像は、規模に応じて定義される3×3行列として表現される平面投影伝達を用いて表現することができる。
自由度8を、2つのビューにおける4つ以上の対応から計算することができる。さらに、線形関係により、ホモグラフィ行列をカスケードして、画像伝達を伝搬することができる。
ネットワーク210を使用して、プロジェクタPkは、クラスタ中の各プロジェクタPiに、構造化パターン、たとえば均等なチェッカー盤を一度に1つずつ投影するように指示する。
投影画像は同時に、クラスタ中の各プロジェクタ内のカメラ160によって取得される。これにより、プロジェクタは、構造化パターンをプロジェクタPiからカメラCjにおける入力画像中に転送するための対毎のホモグラフィHpicjを決定することができる。信頼度Vもまた決定される(740)。
信頼度とともに各プロジェクタの対毎のホモグラフィHpi,pjは、HpiciH−1 pjciとして間接的に計算される。簡単のために、これをHijと記す。信頼度Vは、表示面上で構造化パターンが重複するパーセンテージに関連する。信頼度は、全体的な位置合わせ中に使用される。
均等なチェッカー盤パターンを使用するため、信頼度の良好な近似は、(プロジェクタPjのパターン中の特徴の総数)に対する(カメラCiによって取得されたプロジェクタPjの構造化パターンの特徴数)の比率rijである。本発明者らは座標hij=r4 ijが良好なメトリックであることを発見した。この値は、カメラCiがプロジェクタPjによって表示されるパターンを見なかった場合には自動的にゼロである。
全体的な位置合わせ
本発明では、環境センサがない状態で、表示スクリーンとすべてのプロジェクタの間の相対的な3D配置を計算して、シームレスな1つの表示画像にする。わかっている配置がない状態で、計算されるソリューションはホモグラフィによる変換まで正確であり、表示面上で歪んで見える。さらに、表面が垂直面である場合、本発明の手法は投影画像をそれぞれの垂直軸および水平軸に自動的に位置合わせする。
本発明では、環境センサがない状態で、表示スクリーンとすべてのプロジェクタの間の相対的な3D配置を計算して、シームレスな1つの表示画像にする。わかっている配置がない状態で、計算されるソリューションはホモグラフィによる変換まで正確であり、表示面上で歪んで見える。さらに、表面が垂直面である場合、本発明の手法は投影画像をそれぞれの垂直軸および水平軸に自動的に位置合わせする。
しかし、全体的な位置合わせ750のために3D配置を計算する際に、本発明では、プロジェクタのステレオ較正(ステレオキャリブレーション)および傾斜センサパラメータ等、信頼性の低い情報を避け、上記で決定されたホモグラフィ等、比較的頑健な画像空間計算を利用する。
したがって、本発明ではまず、全体的に一貫したホモグラフィを計算する。サイクル:
に沿ってカスケードされたホモグラフィ変換のセットの恒等式は等しいはずである。ここで、「%」記号はモジュロ演算子を示す。これは、特徴位置の不確実性によりまれなケースである。したがって、目標は、わずかな誤差が存在する有意なモザイクを生成することにある。
単純なソリューションは、表示領域を見ている1つのカメラを使用し、その空間において計算を行うことであろう。1つのカメラがディスプレイ全体を見ることができない場合は、最小全域木ベースの手法を用いることができる。この場合、プロジェクタは、グラフのエッジで重複するプロジェクタに接続されたノードであり、ホモグラフィの最小セットのみを保持する。表示の中央付近のプロジェクタをツリーのルートノードとして使用することにより、この手法はカスケードされるホモグラフィの数を低減し、それによって累積誤差を低減するにあたって有用である。
その代わりに、本発明の方法700は、利用可能なすべてのホモグラフィからの情報を使用することによって、全体的に一貫した見当合わせを見つける。ホモグラフィのカスケードによる累積誤差も同時に、独立して計算された対毎のホモグラフィ行列から導出される数式の線形系を解くことによって、選択された基準枠または平面について低減する。本発明の方法は、Davis著「Mosaics of scenes with moving objects」IEEE Computer Vision and Pattern Recognition(CVPR)、pp354-360、1998によって記載される方法を改造している。
本発明では、測定された対毎のプロジェクタホモグラフィHijにおける信頼度hijを考慮するようにその方法を変更する。全体ホモグラフィGiは、プロジェクタPiからの出力画像Iiを全体基準枠中に伝達する。これは、全体ホモグラフィGiを有する全体枠に伝達した後のホモグラフィHijを、
として有する、画像Iiの画像Ijへの伝達として表現することもできる。
したがって、各ホモグラフィHijがわかっている場合、疎の数式線形系を構築して未知の全体伝達を計算する。
各ホモグラフィはスケール係数に応じて定義されるため、|GjHij−Gi|を直接最小化することができるように正規化することが重要である。正規化ホモグラフィの行列式は1、すなわち:
である。本明細書では、簡単のために「ハット」を省く。上記においてhijとして計算されたホモグラフィHijでの信頼度によって個々の線形式をさらにスケーリングする。したがって、各i、jについての数式のセットは、
Hij(GjHij−Gi)=0
である。
Hij(GjHij−Gi)=0
である。
独立した対毎のホモグラフィの数がプロジェクタの台数よりも大きい場合、数式線形系は制約過多であり、最小二乗の意味でこれを解く。これにより、計算された対毎の投影のセットからの偏差が最小の全体見当合わせ行列のセットが生成される。
対毎のホモグラフィが交換された後、各プロジェクタは、それぞれの画像を基準面として取り扱うことによって全体位置合わせを別個に並行して行う(750)。この段階で、全体画像伝達およびスクリーン位置合わせ投影に対する解は、各プロジェクタPiと表示面の間の未知のホモグラフィHi0までわかっている。
ユークリッド再構築
環境からのユークリッド情報がない状態で、スクリーンに対するプロジェクタPjの3D配置を計算することによってHi0を見つける。3Dでの配置決定には雑音があるが、本発明のプロジェクタ間の画像伝達は、前と同じ、すなわちシームレスな1つの出力画像を確保した全体伝達に基づいたままである。ホモグラフィHi0を決定する本発明の手法は、Raskar他著「A Self Correcting Projector」IEEE Computer Vision and Pattern Recognition(CVPR)、2001に記載の方法に基づいている。
環境からのユークリッド情報がない状態で、スクリーンに対するプロジェクタPjの3D配置を計算することによってHi0を見つける。3Dでの配置決定には雑音があるが、本発明のプロジェクタ間の画像伝達は、前と同じ、すなわちシームレスな1つの出力画像を確保した全体伝達に基づいたままである。ホモグラフィHi0を決定する本発明の手法は、Raskar他著「A Self Correcting Projector」IEEE Computer Vision and Pattern Recognition(CVPR)、2001に記載の方法に基づいている。
図8に示す再構築を実行する本発明の方法800は、各プロジェクタPiによって並行して行われる。
ステップは以下の通りである。プロジェクタPi中およびカメラCi画像空間中の対応するポイントを三角形分解して、3DポイントX={x1,x2,・・・}を生成する(810)。
最良適合平面を特定し、局所座標間で回転RπだけXを変換する(820)。但し、表示面はz=0である。
X0がここで位置合わせされるように、すなわちz座標が0であるように、傾きによる回転X0=RtiltRπXを適用する(830)。表示面の垂直面中のポイントは同じx座標を有し、水平面中のポイントは同じy座標を有する。
z値を無視して、プロジェクタPi中のポイントXの画像をX0中の対応するポイントに写像するホモグラフィHi0を決定する(840)。
最後に、他のすべてのプロジェクタについて、ホモグラフィHj0=Hi0Hjiを決定する(850)。但し、HjiはプロジェクタPiによって計算された全体ホモグラフィGjである。
レンダリング
図9に示すように、レンダリングに適した投影行列をプロジェクタに見つけることは、まず、スクリーン上のプロジェクタの寄与領域を計算すること、そしてそれから完全な表示範囲をプロジェクタ画像中に再投影することを含む。
図9に示すように、レンダリングに適した投影行列をプロジェクタに見つけることは、まず、スクリーン上のプロジェクタの寄与領域を計算すること、そしてそれから完全な表示範囲をプロジェクタ画像中に再投影することを含む。
最初のステップにおいて、クラスタ中のプロジェクタによって照明される四辺形の範囲を決定する(910)。この範囲は、スクリーン位置合わせ済み(X0)の座標である。したがって、正規化されたプロジェクタ画像平面[±1±1]の四つ角が、Hj0[±1±1 1]Tを使用して変換される。
スクリーンX0空間に投影されたすべての四辺形の連合体は、おそらく、凹面状平面の多角形Lである。
次に、以下に述べるように、多角形L内に収まる最大の矩形画像Sを特定する(920)。
n台のプロジェクタそれぞれが、X0のユークリッド再構築における誤差に応じてわずかに異なるSiを計算する。Sの全体的な合致のため、Siの4つの頂点それぞれについて加重平均をとる。重みは、その頂点からプロジェクタPiまでの距離である。
第2のステップにおいて、H−1 j0を使用してプロジェクタ画像空間中の矩形Sの角の投影を特定する(930)。矩形Sの再投影された角は、プロジェクタの物理的な画像寸法を越えて延出する可能性が最も高いことに留意する。矩形Sは表示可能な領域を表すため、表示すべき入力画像の範囲Tを示す。したがって、この範囲を超える出力画像中のピクセルは照明されない。
したがって、出力画像とその投影HTjの間のホモグラフィを特定する(940)。
最後に、出力画像を正しいアスペクト比の単位矩形上にテクスチャマッピングし、HTjから導出される投影行列を使用してレンダリングする(950)。
画像が重複するところでは、グラフィックスハードウェア中のアルファチャネルを使用して強度のブレンドが実施される。ブレンドの重みは、画像境界への距離に比例して割り振られる。すべてのステップは、すべてのプロジェクタにおいて対称的に行われる。
多角形中の最大内接矩形画像
図10は、おそらく凹面状の多角形L1001内の、所定のアスペクト比aを有する最大の軸位置合わせされた矩形Sを特定する方法を示す。多角形Lは、投影された四辺形の連合体によって形成される。3つの未知数:位置について2つ、および矩形Sのスケールについて1つ、に対しての解は、不等式を書くことによって得ることができる。数式は凹面上の多角形の場合はわずかに異なる。
図10は、おそらく凹面状の多角形L1001内の、所定のアスペクト比aを有する最大の軸位置合わせされた矩形Sを特定する方法を示す。多角形Lは、投影された四辺形の連合体によって形成される。3つの未知数:位置について2つ、および矩形Sのスケールについて1つ、に対しての解は、不等式を書くことによって得ることができる。数式は凹面上の多角形の場合はわずかに異なる。
本発明では、この問題の単純な再パラメータ化を提供する。
エッジに付けて示される多角形L1001は、深度値z=1を有する第1の深度面1002に描画され、アスペクト比aの矩形R1006はz=0の第2の深度面1003に描画される。zが範囲[0,1]で、矩形Rをz=1平面における矩形S中に写像される投影の中心1004、W=(x,y,z)は、矩形Sが完全に多角形L内に留まっている場合に有効であるとみなされる。深度面は深度バッファに格納することができる。
最小深度zを有する投影中心(CoP)を特定する。何故ならば、これが最大内接矩形Sを画定するからである。
陰影を付けて示される禁止ゾーン1005をWについて考える。ベースとして矩形Rを有する多角形L上のポイントによって作成される角錐のセット内にあるCoPはいずれも無効である。
矩形Rのエッジを有する多角形Lのエッジを結ぶ角錐を構築する。平面z=0およびz=1を結ぶ角錐の面はすべて三角形であるため、本発明の方法は各三角形三つ組みの交点を計算し、最小のz値を有する三角形を残す。
考慮する必要があるのは、図10に示すように、2種類の三角形:多角形Lの頂点を矩形Rのエッジに結び付ける三角形、および多角形Lのエッジを矩形Rの頂点に結び付ける三角形のみである。
n辺多角形L1001、例えば図2Bではn=14、の場合、複雑度O(n4)を有する8n個の三角形がある。これは明らかにO(n2)方法と比較して最適未満である。P. K.他P. K.著「Largest placements and motion planning of a convex polygon」2nd International Workshop on Algorithmic Foundation of Robotics、1996を参照のこと。しかし、本発明の方法は、数ラインのコードで比較的実施が容易である。nはO(プロジェクタの台数)であるため、本発明の実行時間はそれでもやはりごくわずかである。
たとえば、プロジェクタが無計画に配置され、投影画像があるべき全体エリアに向けられる場合。プロジェクタあたり、対毎のホモグラフィを見つけるのに約5秒かかる。全体的な位置合わせ、内接矩形、およびブレンドの重みの計算に、さらに3秒かかる。6台の無計画に設置されたプロジェクタクラスタの場合、動作クラスタの形成に約30秒かかる。
アドホッククラスタを使用しての湾曲表示
このセクションでは、ドーム、円筒形のスクリーン、楕円体、または放物面等、二次面上で画像を自動的に見当合わせする方法について述べる。コンピュータビジョンでは、画像伝達に二次面を使用するいくつかの従来技術による方法が既知である。Shashua他著「The Quadric Reference Surface:Theory and Applications」International Journal of Computer Vision(IJCV)、23(2)、185-198、1997を参照のこと。
このセクションでは、ドーム、円筒形のスクリーン、楕円体、または放物面等、二次面上で画像を自動的に見当合わせする方法について述べる。コンピュータビジョンでは、画像伝達に二次面を使用するいくつかの従来技術による方法が既知である。Shashua他著「The Quadric Reference Surface:Theory and Applications」International Journal of Computer Vision(IJCV)、23(2)、185-198、1997を参照のこと。
複数プロジェクタシステムでは、平面伝達、すなわち平面ホモグラフィ、の関係に基づいたシームレスな複数プロジェクタ平面表示について、いくつかの方法が述べられてきた。Chen他著「Automatic Alignment of High-Resolution Multi-Projector Displays Using An Un-Calibrated Camera」IEEE Visualization、2000を参照のこと。また、上のYang他のPixelFlexシステムを参照のこと。
しかし、より高次の表面のパラメータ化されたワーピングおよび自動見当合わせについての技法はいずれも認められない。これは、二次面は多くの形状およびプロジェクタベースの表示の形態で現れるため、省かれたようである。大型フライトシミュレータは従来から、円筒体形状またはドーム形状であり、プラネタリウムおよびOmniMaxシアターは半球形のスクリーンを使用しており、多くの仮想現実システムが円筒形状のスクリーンを使用している。
従来技術において、位置合わせは概して手動で行われる。時により、「ナビゲータ」パターンを投影することによって、手動でのプロセスが補助されることがある。Jarvis「Real Time 60Hz Distortion Correction on a Silicon Graphics IG」Real Time Graphics 5、7pp6-7、February 1997を参照のこと。湾曲した表示スクリーンを使用する複数プロジェクタシステムによっては、スクリーンセグメントを区分的に平面であるものとして取り扱うものがある。
上に述べた平面の方法と同様の完全に自動的な方法を提供する。本発明のパラメトリック方法は、カメラ解像度に対する制約の低減、ピクセル局限化誤差に対する耐性の向上、較正の高速化、およびパラメータ化ワーピングプロセスのかなりの単純化をもたらす。
本発明では、二次面問題を再公式化し、シームレスディスプレイへの適用におけるソリューションを用いる。
二次伝達の単純化
3Dの不透明な二次面Qの任意の2つの透視図間の写像は、二次伝達を使用して表現することができる。平面伝達は、4つ以上のピクセルの対応から計算することができるが、二次伝達Tでは9つ以上の対応が必要である。
3Dの不透明な二次面Qの任意の2つの透視図間の写像は、二次伝達を使用して表現することができる。平面伝達は、4つ以上のピクセルの対応から計算することができるが、二次伝達Tでは9つ以上の対応が必要である。
3Dでの同種ポイントが4×1ベクトルとして表現され、ポイントXが二次面Q上にあり、これが対称な4×4行列として表現される場合、XTQX=0であり、2つのビューの対応するピクセルxおよびx’の同種の座標は、
によって関連する。
ピクセルの対応(x,x’)が与えられる場合、この数式は従来通りに、未知数:3D二次Q=[Q33q;qT1]、3×3ホモグラフィ行列Bおよび同種座標におけるエビポールeの計算に使用される。Shashua他により、またさらに最近の研究に使用されるこの形は、21の変数を含む。Wexler他著「Q-warping:Direct Computation of Quadratic Reference Surfaces」IEEE Conf. on Computer Vision and Pattern Recognition(CVPR)、June、1999を参照のこと。これは、実際に必要なものよりも4多い。
本発明の方法は、単純な観察をベースとする。
A=B−eqT
および
E=qqT−Q33
を定義することによって、不明確な部分を除去することができ、また、本発明で使用する
A=B−eqT
および
E=qqT−Q33
を定義することによって、不明確な部分を除去することができ、また、本発明で使用する
の形を得ることができる。
ここで、xTEx=0は、準備ができていない(x)ビューおよびAにおける二次面の輪郭円錐曲線を画定し、Aは、準備ができた(x’)ビューと準備ができていない(x)ビューの間の極平面を介してのホモグラフィである。
全体の規模から離れて、本発明の形態に含まれる、Eおよびeの相対的なスケーリングに起因する不明確な自由度は1だけである。この不明確さは、E(3,3)=1等、追加の正規化制約を導入することによって除去することができる。さらに、平方根の前にある符号は、画像中の輪郭円錐曲線内で固定である。
カメラについて、二次面パラメータ、すなわちA、E、およびeをポイントの対応から直接計算する従来技術による方法は、3Dで二次Qを推定することを含む。Shashua他を参照のこと。カメラのための別の線形方法は、対応するピクセルの三角形分解を用いる。Cross他著「Quadric Surface Reconstruction from Dual-Space Geometry」Proceedings of 6th International Conference on Computer Vision、pp25-31、1998を参照のこと。2つのビューの内部パラメータがわからない場合、計算はすべて、基本行列を計算した後に投影空間において行われる。
しかし、本発明では、カメラではなくプロジェクタが関わる場合、従来技術による線形方法により、XGAプロジェクタの場合に20または30ピクセルのオーダで、非常に大きな再投影誤差がもたらされることを認めている。1台のプロジェクタが照明する二次面上のポイントが、大半の場合で有意な深度のばらつきを有さない場合、基本行列の計算には本来、不良条件が付いている。
したがって、本発明では、既知の内部パラメータおよび推定されたユークリッド剛体変換を用いる。したがって、平面の場合と異なり、この場合における正確な画像伝達の計算には、計算の初期に三次元数量が関わる。
二次伝達方法
図11に示す本発明の方法1100は、まず、カメラとプロジェクタの間の対応を決定する(1110)。次に、三角形分解し、3Dでの二次伝達式を生成する(1120)。次に、二次伝達パラメータを決定し、この二次伝達パラメータを使用して入力画像をワーピングする(1140)。
図11に示す本発明の方法1100は、まず、カメラとプロジェクタの間の対応を決定する(1110)。次に、三角形分解し、3Dでの二次伝達式を生成する(1120)。次に、二次伝達パラメータを決定し、この二次伝達パラメータを使用して入力画像をワーピングする(1140)。
平面のクラスタの場合のように、各プロジェクタPk、k=1,・・・,nは、構造化パターンを二次面上に一度に1つずつ投影する。パターンはカメラCi、i=1,・・・,nによって見られる。しかし、プロジェクタPiとカメラCkの間の剛体変換ГPi Ckをまず見つけなくては、二次伝達TPiCkを直接見つけることはできない。
図12は、カメラCkのステップを示す。ГPi Ckがわかっているため、プロジェクタPiおよびカメラCiにおける対応するポイントを三角形分解して(1210)、表示面上の3DポイントDiを取得し、このポイントをカメラのCi座標系に格納する。
プロジェクタPiによって投影されるポイントDi、および近傍のプロジェクタのカメラCkによって観察される対応するポイントが与えられると、剛体変換ГPi Ck=ГPi CkГPi Ciを決定する(1220)。
次に、3D二次伝達QiをCiの座標系中のポイントDiに近似する(1230)。
本発明の単純化した二次伝達式を使用して、Qi、投影行列MckおよびMpi、ならびにピクセルの対応から伝達パラメータAi、Ei、およびeiを決定する(1240)。
最後に、伝達パラメータAi、Ei、およびeiの非線形改良を行って(1250)、ピクセル再投影誤差を最小化する。
二次面上の既知の3Dポイントからカメラの配置を見つけることは、3Dポイントは通常平面に極めて近いことから、誤差を受けやすいことに留意する。本発明では、カメラの内部パラメータがわかっているため、まず、ホモグラフィに基づいて外部パラメータの初期推定を行い、それから反復手順を用いて推定を修正する。Lu他著「Fast and globally convergent pose estimation from video images」IEEE Transactions on Pattern Analysis and Machine Intelligence 22、6、pp610-622、2000を参照のこと。
レンダリング
レンダリングについて、二次伝達を極平面すなわちAを介してのホモグラフィに、Eおよびeによって定義されるピクセルあたりのシフトを加えたものとして取り扱う。平面表示の場合のクラスタと同様に、外部環境センサまたはシーンにおけるユークリッドマーカのいずれの助けもなく、このホモグラフィをプロジェクタUkにおける内部センサの示度とともに利用して、出力画像を表示面の水平軸および垂直軸に位置合わせする。
レンダリングについて、二次伝達を極平面すなわちAを介してのホモグラフィに、Eおよびeによって定義されるピクセルあたりのシフトを加えたものとして取り扱う。平面表示の場合のクラスタと同様に、外部環境センサまたはシーンにおけるユークリッドマーカのいずれの助けもなく、このホモグラフィをプロジェクタUkにおける内部センサの示度とともに利用して、出力画像を表示面の水平軸および垂直軸に位置合わせする。
カメラCkによって得られる出力画像と入力画像の間の関係、ならびにカメラCkとすべてのプロジェクタPi、i=1,・・・,nの間の二次伝達が与えられると、各プロジェクタは出力画像をそれぞれの画像空間中にワーピングする。二次伝達を使用しての画像のワーピングは、従来技術において既知の従来技術の二次面のレンダリングと異なることに留意する。Watson他著「A fast algorithm for rendering quadratic curves on raster displays」Proc. 27th Annual SE ACM Conference、1989を参照のこと。
単純なバーテックスシェーダ手順またはグラフィックスハードウェアを使用してレンダリングを行う。各プロジェクタ毎に、出力画像をテクスチャとして矩形形状の密な碁盤目状になった三角形メッシュ上に写像し、二次伝達を使用してメッシュの各頂点の投影を計算する。
本発明のシステムおよび方法は、高価なインフラなしで1つまたは複数のプロジェクタによるシームレスな表示に理想的である。本発明によって可能になる新たな用途としては、低コストかつ柔軟なドームディスプレイ、ショッピングアーケード、および円柱または支柱へのディスプレイが挙げられる。本発明の手法は、平面から任意の自由形状のディスプレイの間の中間ステップとしても扱うことが可能である。
本発明は好ましい実施形態の例として説明したが、本発明の精神および範囲内で他の様々な適合および変更を行いうることを理解されたい。したがって、添付の特許請求の範囲の目的は、本発明の真の精神および範囲内にあるこのような変形および変更をすべて保護範囲に含むことにある。
Claims (6)
- 深度z=1を有する第1の深度平面上に多角形Lを描画すること、
深度z=0を有する第2の深度平面上に、所定のアスペクト比を有する矩形Rを描画すること、及び
矩形Sが完全に前記多角形L内に留まるように、前記矩形Rを前記第1の深度平面における最大の前記矩形S中に写像する、範囲[0,1]で最小深度zを有する投影中心を特定すること
を含む表示面上の最大矩形を決定する方法。 - 前記表示面上に、互いに重複する複数の出力画像を投影すること、
前記重複する出力画像の入力画像を取得すること、及び
前記入力画像における前記出力画像の連合体から前記多角形Lを形成すること
をさらに含む請求項1記載の表示面上の最大矩形を決定する方法。 - 前記投影中心を使用して、前記最大矩形出力画像を表示面上に投影すること
をさらに含む請求項1記載の表示面上の最大矩形を決定する方法。 - 前記第1の深度平面上の前記多角形のエッジと前記第2の深度平面上の前記矩形Rのエッジとを結ぶ、各面が三角形である、円錐体を構築すること、
各三角形三つ組みを交差させること、及び
前記投影中心を特定するように、前記最小深度zを有する特定の三角形を保持すること
をさらに含む請求項1記載の表示面上の最大矩形を決定する方法。 - 前記多角形Lの頂点を前記矩形Rのエッジに結び付ける三角形、及び前記多角形Lのエッジを前記矩形Rの頂点に結び付ける三角形のみを考慮すること
をさらに含む請求項3記載の表示面上の最大矩形を決定する方法。 - 前記多角形Lはn辺を有し、8n個の三角形がある
請求項4記載の表示面上の最大矩形を決定する方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/394,684 US6729733B1 (en) | 2003-03-21 | 2003-03-21 | Method for determining a largest inscribed rectangular image within a union of projected quadrilateral images |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004289822A true JP2004289822A (ja) | 2004-10-14 |
Family
ID=32176407
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004074887A Pending JP2004289822A (ja) | 2003-03-21 | 2004-03-16 | 表示面上の最大矩形を決定する方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6729733B1 (ja) |
JP (1) | JP2004289822A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006018293A (ja) * | 2004-07-01 | 2006-01-19 | Mitsubishi Electric Research Laboratories Inc | ピンホール投影により表示面上のレーザポイントと関連付けられるプロジェクタ画素を求める方法 |
JP2006523861A (ja) * | 2003-03-21 | 2006-10-19 | 三菱電機株式会社 | 出力画像を表示面上に投影する装置 |
Families Citing this family (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6834965B2 (en) * | 2003-03-21 | 2004-12-28 | Mitsubishi Electric Research Laboratories, Inc. | Self-configurable ad-hoc projector cluster |
DE102004051607B4 (de) * | 2004-08-30 | 2006-04-20 | Bauhaus-Universität Weimar Dezernat Forschungstransfer und Haushalt | Verfahren und Vorrichtung zur Darstellung eines digitalen Bildes auf einer geometrisch und photometrisch nicht-trivialen Oberfläche |
US9769354B2 (en) | 2005-03-24 | 2017-09-19 | Kofax, Inc. | Systems and methods of processing scanned data |
US7600514B2 (en) * | 2005-06-17 | 2009-10-13 | Nellcor Puritan Bennett Llc | System and method for securing a gas delivery mask onto a subject's head |
DE102006002602A1 (de) * | 2006-01-13 | 2007-07-19 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Kalibrierungsverfahren und Kalibrierungssystem |
US7907792B2 (en) * | 2006-06-16 | 2011-03-15 | Hewlett-Packard Development Company, L.P. | Blend maps for rendering an image frame |
US7854518B2 (en) * | 2006-06-16 | 2010-12-21 | Hewlett-Packard Development Company, L.P. | Mesh for rendering an image frame |
US7800628B2 (en) * | 2006-06-16 | 2010-09-21 | Hewlett-Packard Development Company, L.P. | System and method for generating scale maps |
JP5340952B2 (ja) * | 2006-11-29 | 2013-11-13 | エフ・ポスザツト・ヒユー・エル・エル・シー | 三次元投影ディスプレイ |
US8994757B2 (en) | 2007-03-15 | 2015-03-31 | Scalable Display Technologies, Inc. | System and method for providing improved display quality by display adjustment and image processing using optical feedback |
US9767354B2 (en) | 2009-02-10 | 2017-09-19 | Kofax, Inc. | Global geographic information retrieval, validation, and normalization |
US9576272B2 (en) | 2009-02-10 | 2017-02-21 | Kofax, Inc. | Systems, methods and computer program products for determining document validity |
US8328365B2 (en) | 2009-04-30 | 2012-12-11 | Hewlett-Packard Development Company, L.P. | Mesh for mapping domains based on regularized fiducial marks |
US20100321382A1 (en) | 2009-06-18 | 2010-12-23 | Scalable Display Technologies, Inc. | System and method for injection of mapping functions |
US8274613B2 (en) * | 2009-08-27 | 2012-09-25 | Seiko Epson Corporation | Display masks for display and calibration in projector-based display systems |
US9465283B2 (en) * | 2009-11-06 | 2016-10-11 | Applied Minds, Llc | System for providing an enhanced immersive display environment |
CN102385225B (zh) * | 2010-08-31 | 2015-08-05 | 鸿富锦精密工业(深圳)有限公司 | 显示装置 |
EP2614650A1 (en) | 2010-09-10 | 2013-07-17 | Lemoptix SA | A device for projecting an image |
EP2614649A1 (en) * | 2010-09-10 | 2013-07-17 | Lemoptix SA | A method and device for projecting an image |
KR20140048073A (ko) | 2010-11-15 | 2014-04-23 | 스케일러블 디스플레이 테크놀로지스, 인크. | 수동 및 반자동 기법을 사용하여 디스플레이 시스템을 교정하는 시스템 및 방법 |
US8451297B2 (en) | 2010-12-10 | 2013-05-28 | Canon Kabushiki Kaisha | Identifying a rectangular area in a multi-projector system |
WO2012079249A1 (zh) * | 2010-12-17 | 2012-06-21 | 海尔集团公司 | 投影显示系统 |
US9497447B2 (en) | 2011-06-15 | 2016-11-15 | Scalable Display Technologies, Inc. | System and method for color and intensity calibrating of a display system for practical usage |
US9514357B2 (en) | 2012-01-12 | 2016-12-06 | Kofax, Inc. | Systems and methods for mobile image capture and processing |
US10146795B2 (en) | 2012-01-12 | 2018-12-04 | Kofax, Inc. | Systems and methods for mobile image capture and processing |
JP2015519601A (ja) | 2012-04-19 | 2015-07-09 | スケーラブル ディスプレイ テクノロジーズ インコーポレイテッド | システム入力解像度の変動なくディスプレイシステムを校正するシステムおよび方法 |
US9208536B2 (en) * | 2013-09-27 | 2015-12-08 | Kofax, Inc. | Systems and methods for three dimensional geometric reconstruction of captured image data |
JP2014179698A (ja) * | 2013-03-13 | 2014-09-25 | Ricoh Co Ltd | プロジェクタ及びプロジェクタの制御方法、並びに、その制御方法のプログラム及びそのプログラムを記録した記録媒体 |
US9355312B2 (en) | 2013-03-13 | 2016-05-31 | Kofax, Inc. | Systems and methods for classifying objects in digital images captured using mobile devices |
US9860494B2 (en) * | 2013-03-15 | 2018-01-02 | Scalable Display Technologies, Inc. | System and method for calibrating a display system using a short throw camera |
US20140316841A1 (en) | 2013-04-23 | 2014-10-23 | Kofax, Inc. | Location-based workflows and services |
EP2992481A4 (en) | 2013-05-03 | 2017-02-22 | Kofax, Inc. | Systems and methods for detecting and classifying objects in video captured using mobile devices |
US9386235B2 (en) | 2013-11-15 | 2016-07-05 | Kofax, Inc. | Systems and methods for generating composite images of long documents using mobile video data |
US9760788B2 (en) | 2014-10-30 | 2017-09-12 | Kofax, Inc. | Mobile document detection and orientation based on reference object characteristics |
US10242285B2 (en) | 2015-07-20 | 2019-03-26 | Kofax, Inc. | Iterative recognition-guided thresholding and data extraction |
US10467465B2 (en) | 2015-07-20 | 2019-11-05 | Kofax, Inc. | Range and/or polarity-based thresholding for improved data extraction |
US9779296B1 (en) | 2016-04-01 | 2017-10-03 | Kofax, Inc. | Content-based detection and three dimensional geometric reconstruction of objects in image and video data |
US11062176B2 (en) | 2017-11-30 | 2021-07-13 | Kofax, Inc. | Object detection and image cropping using a multi-detector approach |
CN108965839B (zh) * | 2018-07-18 | 2020-03-24 | 成都极米科技股份有限公司 | 一种自动调整投影画面的方法及装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7106898B2 (en) * | 1999-12-06 | 2006-09-12 | California Institute Of Technology | 3D scanning using shadows |
JP3761491B2 (ja) * | 2002-05-10 | 2006-03-29 | Necビューテクノロジー株式会社 | 投射映像の歪補正方法、歪補正プログラム及び投射型映像表示装置 |
-
2003
- 2003-03-21 US US10/394,684 patent/US6729733B1/en not_active Expired - Lifetime
-
2004
- 2004-03-16 JP JP2004074887A patent/JP2004289822A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006523861A (ja) * | 2003-03-21 | 2006-10-19 | 三菱電機株式会社 | 出力画像を表示面上に投影する装置 |
JP2006018293A (ja) * | 2004-07-01 | 2006-01-19 | Mitsubishi Electric Research Laboratories Inc | ピンホール投影により表示面上のレーザポイントと関連付けられるプロジェクタ画素を求める方法 |
JP4495041B2 (ja) * | 2004-07-01 | 2010-06-30 | ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド | ピンホール投影により表示面上のレーザポイントと関連付けられるプロジェクタ画素を求める方法 |
Also Published As
Publication number | Publication date |
---|---|
US6729733B1 (en) | 2004-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4425673B2 (ja) | 複数の出力画像を表示面上に投影するシステム | |
JP4443563B2 (ja) | プロジェクタのセットからクラスタを形成する方法 | |
JP4425672B2 (ja) | 画像を表示面上に表示する方法 | |
CN100367783C (zh) | 在显示表面上投影输出图像的装置 | |
JP2004289822A (ja) | 表示面上の最大矩形を決定する方法 | |
JP2004288181A (ja) | 出力画像を表示面の形状に適応させる方法 | |
Raskar et al. | iLamps: geometrically aware and self-configuring projectors | |
US8358873B2 (en) | Hybrid system for multi-projector geometry calibration | |
Raskar et al. | Multi-projector displays using camera-based registration | |
US9961317B2 (en) | Multi-projector alignment refinement | |
Raskar et al. | Quadric transfer for immersive curved screen displays | |
Harville et al. | Practical methods for geometric and photometric correction of tiled projector | |
US20070171382A1 (en) | Modeling Light Transport In Complex Display Systems | |
JP2008182706A (ja) | 任意の場面におけるプロジェクタ−カメラ・システムの光輸送行列tにシミュレートされた表示制約を課す方法、および第1プロジェクタ−カメラ・システムからの第1投影画像と、第2プロジェクタ−カメラ・システムからの第2投影画像とをモザイク化する方法 | |
Sajadi et al. | Autocalibrating tiled projectors on piecewise smooth vertically extruded surfaces | |
JP2006221599A (ja) | マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置 | |
Kern et al. | Projector-based augmented reality for quality inspection of scanned objects | |
Lee | Wand: 360∘ video projection mapping using a 360∘ camera | |
JP2005004201A (ja) | 画像を表示面上に投影する方法及びシステム | |
Raskar et al. | Multi-projector imagery on curved surfaces | |
Yuen et al. | Inexpensive immersive projection | |
Nakamura et al. | Easy multi-projection system over a whole indoor space | |
Zhao et al. | Automatic Registration of Multi-Projector on Parameterized Surface in Two-Dimensionality | |
Shimizu et al. | OmniMap: Projective perspective mapping API for non-planar immersive display surfaces | |
Raskar | Spatial augmentation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091201 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100622 |