JP2005529559A - モノスコープ・イメージから立体的なイメージを生成するための方法 - Google Patents

モノスコープ・イメージから立体的なイメージを生成するための方法 Download PDF

Info

Publication number
JP2005529559A
JP2005529559A JP2004512422A JP2004512422A JP2005529559A JP 2005529559 A JP2005529559 A JP 2005529559A JP 2004512422 A JP2004512422 A JP 2004512422A JP 2004512422 A JP2004512422 A JP 2004512422A JP 2005529559 A JP2005529559 A JP 2005529559A
Authority
JP
Japan
Prior art keywords
image
images
sequence
series
stereoscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004512422A
Other languages
English (en)
Other versions
JP4351996B2 (ja
JP2005529559A5 (ja
Inventor
ウォロウェルスキー・カルニ
ロテム・エフラット
Original Assignee
ラファエル―アーマメント ディベロップメント オーソリティー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ラファエル―アーマメント ディベロップメント オーソリティー リミテッド filed Critical ラファエル―アーマメント ディベロップメント オーソリティー リミテッド
Publication of JP2005529559A publication Critical patent/JP2005529559A/ja
Publication of JP2005529559A5 publication Critical patent/JP2005529559A5/ja
Application granted granted Critical
Publication of JP4351996B2 publication Critical patent/JP4351996B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/261Image signal generators with monoscopic-to-stereoscopic image conversion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/334Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using spectral multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/337Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using polarisation multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/339Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/341Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/363Image reproducers using image projection screens
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0088Synthesising a monoscopic image signal from stereoscopic images, e.g. synthesising a panoramic or high resolution monoscopic image

Abstract

本発明は、立体的な映画として続々と表示することができる立体的なイメージ・ペアのシリーズを生成するための方法を提供する。立体的なペアのシーケンスは、標準の機器を使用して標準の技術によって獲得された情景の連続的なイメージのシーケンスから導出される。立体的なイメージ・シリーズの各フレームの右イメージと左イメージを含むイメージ・ペアの第1のイメージが、イメージの元のシーケンスから選択される。第1のイメージの立体パートナーが、元のシーケンスから選択され、かつ/または元のイメージ・シーケンスから選択されたイメージを変換することによって生成される。

Description

本発明は、立体的なイメージ・シリーズの分野に関する。より詳細には、本発明は、情景の一続きの連続的な2次元のイメージから立体的なイメージ・シリーズを生成するためのプロセスに関し、イメージは、標準の安定化されていないカメラを使用して獲得される。
立体的な、つまり3次元の写真は、人間の視覚の原理に基づく。2つの別個の検出器(目)が、わずかに異なる角から同一の物体を検出し、それらを2つの平面(網膜)上に投影する。得られたイメージは、プロセッサ(脳)に伝達され、プロセッサ(脳)が、それらのイメージを結合し、第3の次元、すなわち、奥行きを情景に与える。
1838年のホイートストン(Wheatstone)による立体鏡の最初の実用的な実証以来、立体イメージを作り出し、表示する多くの異なる方法が開発されてきた。ほとんどは、その2つの間で固定された関係を有する2つのカメラを使用するか、または2つのレンズを有する単一のカメラを使用して情景を撮影し、必要とされる2つのわずかにずれたイメージを生成するなどの、ハードウェア・ベースの方法である。
同様に、立体的なイメージを見る多くの方法が開発されており、2つのイメージを分離する色フィルタまたは偏光フィルタの使用、シャッター構成を使用するイメージの連続的伝達による時間的選択、またはビューア内でのイメージの物理的分離と、それぞれの目にイメージを投影することが含まれる。この最後の方法は、一方で、ホイートストンによって最初に使用された方法であり、他方で、最新のバーチャルリアリティ技術において使用されている。
立体的なイメージを生成し、見る前述の方法、および、は、当技術分野で周知であり、本明細書でさらに詳細に説明する必要はない。
立体的なイメージ・シリーズは、原則として、連続で見られる一続きの立体的なイメージに他ならない。立体的なイメージ・シリーズは、普通、ペアのイメージ・フレームを記録する2つのわずかにずらされたレンズを有する一連のイメージ・カメラを使用して生成される。各フレームは、そのフレームのパートナーとはわずかに異なる角で情景を示す。見られるアクションが連続的に、自然に流れるように見えるフィルムを獲得するため、撮影プロセス中、最大限の安定性が要求される。その結果、今日まで、従来技術の立体的なイメージ・シリーズは、特別に設計され、安定化されたカメラの使用だけによって生成されている。
動くビデオカメラからシームレスな立体モザイク・ペアを生成する方法が、例えば、Peleg他[WO00/39995]、およびZhu他[Parallel-Perspective Stereo Mosaics, IEEC International Conference on Computer Vision, Vancouver, Canada, July 2001, Vol.1 345頁〜352頁]によって開発されている。3次元効果をもたらすため、これらの方法によれば、立体モザイクに対して、個々のビデオ・フレームに対してではなく合わせが実行される。これらの方法は、基本的に、ビデオ・フィルムを利用し、そのフィルムを静的なモザイクに変える。もたらされるビューは、静的であり、元のフィルムに含まれていたカメラの動きの感覚を見る人に与えない。
今日まで、ハンドヘルド型ビデオカメラによって生成されたビデオ・フィルムから立体的なイメージ・シリーズを生成する方法は、全く提案されていない。また、既存の方法のいずれにおいても、元のイメージ・シリーズと一緒にオーディオ・トラックを記録し、結果の立体イメージとともにそのトラックを再生することは可能でない。
したがって、本発明の目的は、人間の視覚に必要な視差の条件が存在する情景の任意の一続きの連続的なイメージから、立体的な映画を生成する方法を提供することである。
本発明の別の目的は、情景の一続きの連続的なイメージから立体的な映画を生成する方法を提供することであり、イメージは、特殊カメラ、三脚、または安定化機材の使用なしに獲得される。
本発明のさらなる目的および利点は、説明が進むにつれて明らかになろう。
本発明は、情景の連続的なイメージのシーケンスを利用し、それらのイメージから、立体的な映画として続々と表示することができる一続きの立体的なペアを生成するための方法を提供することに向けられている。イメージ・シーケンスは、標準の機器を使用して標準の技術によって獲得される。イメージ・シーケンスは、ビデオカメラまたはデジタル・スチールカメラで撮影されたフレーム、あるいはデジタル化されたイメージを生成するようにスキャンされるアナログ・イメージを含むことが可能である。アナログ・イメージは、スチールカメラまたはムービーカメラで撮影されたイメージであることが可能である。立体的なイメージ・シリーズの各フレームの右イメージと左イメージを含むイメージのペアは、元のイメージ・シーケンスから選択されるか、かつ/または元のイメージ・シーケンスから選択されたイメージを変換することによって生成される。
本発明の好ましい実施形態によれば、立体ペアのシーケンスを生成する方法は、以下のステップを含む。すなわち、
a)必要な場合、イメージをデジタル化することができるデバイスを使用して、情景の連続的なイメージの元のシーケンスを読み取るステップ、
b)デジタル化されたイメージをメモリ・ユニットの中に格納するステップ、
c)関心対象のサブセットのイメージを選択するステップ、
d)サブセットの中のイメージ間におけるアフィン変換の集合を計算するステップ、
e)シーケンスの第1の立体ペアの1つのメンバになる情景のサブセットのイメージのシーケンスの1つのイメージを選択するステップ、
f)前記選択されたイメージの隣接イメージから開始して、連続的なイメージのそれぞれへのカスケード式アフィン変換を算出し、適切な立体パートナー、すなわち、前記立体ペアの第2のメンバに変換することができるイメージが見つかるまで、視差基準を適用することにより、前記選択されたイメージの適切な立体パートナーを探索するステップ、
g)前記立体ペアのメンバ、および前記ペアのメンバ間のカスケード式アフィン変換を使用することにより、平面変換を計算するステップ、
h)前記平面変換を前記適切な立体パートナーに適用するステップ、
i)前記立体ペアをメモリ・ユニットの中に格納するステップ、および
j)前記選択されたサブセットの残りのイメージの次のそれぞれのイメージに関して、ステップe)ないしh)を繰り返すステップである。
視差基準は、選択されたイメージのイメージ中心と、可能な立体パートナーとして考慮されているイメージのイメージ中心の水平平行移動のピクセル数である。元のイメージ・シリーズの中における、そのシリーズの選択されたイメージに対する適切な立体パートナーの探索は、選択されたイメージの両側の隣接するイメージの間で実行され、選択されたイメージのいずれの側でも、所定の最大イメージ数に限定される。
本発明の方法によって生成された立体的な映画には、サウンド・トラックが伴うことが可能であり、このトラックは、連続的なイメージのシーケンスとともに記録されるサウンド・トラックと実質的に同一である。
本発明の以上すべての特徴および利点、ならびにその他の特徴および利点は、添付の図面を参照する本発明の好ましい実施形態の例示的な、限定的ではない説明を介してさらに理解されよう。
定義:本出願では、「立体的なイメージのシーケンス」という用語と「立体的な映画」という用語を、カメラによって記録された情景を表す映画を意味するものとして区別なく使用する。
本発明の目的は、情景のデジタル化されたイメージの連続的なシーケンスを利用し、それらのイメージから、立体的な映画として続々と表示することができる一続きの立体的なペアを生成することである。立体的なイメージのもたらされたシーケンスは、テレビ・スクリーンまたはコンピュータ・スクリーンなどのディスプレイ・デバイス上で表示され、そのシーケンスの3次元の特徴が、従来の立体視メガネの助けを借りて見られる。元のイメージ・シーケンスは、標準の機器を使用して標準の技術によって獲得され、例えば、ビデオカメラまたはデジタル・スチールカメラで撮影されたフレーム、またはデジタル化されたイメージを生成するようにスキャンされるアナログ・イメージを含むことが可能である。アナログ・イメージは、スチールカメラまたはムービーカメラで撮影されたイメージであることが可能である。
本発明の方法は、高度に自動化され、本発明の方法の様々なステップは、コンピュータ・ビジョンの技術者が精通している周知のアルゴリズムを使用して、プロセッサ・ユニットを使用して実行される。
本発明の方法を説明するため、理想化された例を考慮する。そのケースでは、本方法は、市販のハンドヘルド・ビデオカメラを使用する、歩く人によって撮影されたビデオ・フィルムからのイメージ・シーケンスに適用される。
図1は、カメラマンが一様な速度で街路を歩きながら記録した2つの家、および樹木から成る情景を示している。図2は、図1の情景がフィルム上にどのように現れるかを概略で示している。例として、フレーム全体(フレーム7)の輪郭が太線で描かれている。連続的なフレームは、立体的なイメージ・シリーズを生成する元になるイメージである。
図2は、カメラが一定の速度で移動する、すなわち、動きが、一定速度での直線平行移動である理想化された状況を示している。このケースでは、フィルムのフレームは、図示するとおり整列させられ、各フレームの右側が、符号nで示され、対応する左側が、符号n’で示される。この理想化では、被写体、例えば、小さい家は、2つの連続的なフレーム(7および8)で完全に可視である。同一の被写体の単一の特徴、例えば、ドアの右側が、4つのフレーム(6〜9)で現れ、その被写体の一部分が、6つのフレーム(5〜10)で現れている。
図2は、撮影されている情景が3次元であり、3次元の被写体から構成されていることを考慮に入れていない。被写体が3次元であることは、現実のカメラ・レンズがある視野を有すること、すなわち、フィルム上にキャプチャされる情景の幅が、他にも要因はあるが、とりわけ、被写体とレンズの焦点距離の間の距離に比例することと相俟って、所与の被写体を含むそれぞれの連続フレームが、その被写体に関して異なる量の情報を含むことを意味する(当然、レンズと被写体の間の距離と向きが、フレームごとに変化していない限りで)。図3Aないし3Fは、家の少なくとも一部分が可視である図2のフレームのそれぞれの中に含まれる小さい家に関する異なる情報を概略で示している。図3Aないし3Fは、情景があたかも奥行きの次元を有していないかのように、情景を示す。前述したとおり、情景内の現実の被写体は、3次元であり、したがって、例えば、図3Aに示したフレームは、実際のビデオ・フィルムの中で家の左側に関する情報も含む。
また、実際のビデオ・フィルムは、普通の状況下で生じるカメラの動きが一様でなく、直線的でないために、前述した理想的な状況と異なってもいる。
図4Aは、図2の理想化されたケース(実線)、およびより現実的なケース(破線)に関して撮影される情景とのカメラの視線の交差を概略で示している。現実的なケースでは、カメラの視線は、一部は、カメラマンの自発的なアクションによってもたらされ、また一部は、カメラマンの支配下にない多くの理由で不規則に動く。最も重要な要因の1つは、情景内の最も顕著で、かつ/または最も興味深い特徴を記録したいといった欲求である。この欲求により、例えば、レンズが、小さい家を撮影している際に下方に向けられ、大きい家を記録するために突然、引き上げられ、遠くの樹木を記録するために引き上げられることになる。また、カメラマンは、小さい家の向かい側に立ち止まって、さらなる詳細を記録し、次に、大きい家を急いで通り過ぎるが、樹木を通り過ぎた後、自分のカメラを後に向けて、大きい家の現時点で見える側を撮影する可能性がある。加えて、カメラは、平坦でない地形、疲労、強風などの要因に起因してカメラマンがカメラを安定して保持できないことにより、不意に、不規則に動かされる可能性がある。極端な例として、カメラマンがつまずく可能性さえある。また、情景内の被写体のすべてが動かないわけではない可能性があり、動く被写体を追う試みが、情景全体にわたるフレームの一様でない進行に寄与することも忘れてはならない。
図4Bは、レンズの動きの効果を例示するビデオ・フィルムの6つの連続的なフレームを概略で示している。フレーム2は、フレーム1にほぼ重なり、カメラが安定して保持され、情景に対してゆっくりと動かされたことを示している。フレーム2とフレーム3の間で、カメラは、突然、引き上げられており、急速に水平方向に動き、フレーム4およびフレーム5で、ゆっくりと下げられ、フレーム6で回転させられる。
本発明の方法を次に、一般的に説明し、計算上の詳細を以下に説明する。情景の一続きのイメージから立体的なイメージ・シリーズを生成することは、一連の計算ステップを実行するプロセッサ・ユニットを使用することにより、本発明の方法に従って達せられる。
第1のステップで、元のイメージ・シリーズが、必要な場合、イメージをデジタル化することができ、イメージをさらなる処理のためにプロセッサのメモリの中に格納することができるデバイスの中に入れられる。パーソナル・コンピュータを含め、一般に入手可能な機器が、イメージの処理を実行するのに使用される適切なハードウェアを提供する。関心対象の情景のイメージを含むサブセットが選択され、コンピュータ・ビジョンの分野からのアルゴリズムを使用して、シリーズの1つのイメージから隣接するイメージへのおおよその移動を記述するアフィン変換が、計算され、格納される。
サブセットの1つのイメージが、メモリから選択され、選択されたフレームにすぐ隣接するフレームから開始して、次のイメージに移り、検査されているイメージが、選択されたイメージの立体パートナーとして使用されるのに適していることを保証する所定の基準を満たすイメージが見つかるまで、サブセットの残りのイメージが検査される。探索は、両方向で実行され、各方向で調べられるイメージの数に限度が課せられて、一方で計算要件を制限し、計算上は正しいが、現実的な3次元イメージをもたらさない結果を最終的に得ることがないようにする。
適切なパートナーが見つかると、そのパートナーは、選択されたイメージ、およびそれらの間のカスケード式アフィン変換と一緒に使用されて、平面変換が計算される。この平面変換が、次に、適切な立体パートナーに適用されて、選択されたイメージと、探索で見つかった変換済みの適切なイメージとから成る立体ペアが獲得される。
現時点で、第1の立体ペアが作成されており、次に、プロセスが、サブセットのイメージのすべてに関して適切なパートナーが見つかるまで、別のイメージに関して繰り返される。
本方法の計算上の詳細は、実質的に等価の結果をもたらす代替の仕方でも実行できることが、当業者には明白であろう。例えば、前述したとおり本発明の方法を適用して、最終の立体ペアは、最初に選択されたイメージと、視差基準を適用することによって見つかったパートナーの変換済みのイメージとから成る。同様に、イメージiとイメージjの間のアフィン変換が、Aijで表される場合、2つのイメージ間の変換は、計算のすべての段階において、その2つのイメージ間で直接に計算すること、または所望のカスケード式変換が達せられるまで、Aij、Ajk、Aklその他をカスケードすることにより計算することができる。カスケードすることにより計算する方法では、サブセットの中のイメージのすべての隣接ペア間におけるアフィン変換が、計算の始めに計算され、後者の使用のためにメモリの中に格納される。
本発明の方法は、いくつかの基本的な条件が満たされる限り、前述したとおり、ハンドヘルド・カメラで撮影され、前述した情景に対するカメラの一様な動きからのずれのすべてを含むイメージ・シーケンスからさえ、立体ペアを生成することができる。
それらの条件の最も重要なものは、元の2次元イメージが、シリーズの中のイメージの少なくとも一部の間で視差を許す形で記録されていなければならないことである。例えば、カメラが、レンズの光心を通る垂直軸を中心とする水平面内でペインされた場合、イメージのいずれの間にも視差が存在する可能性がなく、本発明の方法を適用することはできない。しかし、垂直軸が、レンズの中心から少しでもずれている場合、動きに平行移動成分が存在し、視差が存在する。
2つのイメージ間に存在する視差の度合いは、選択された第1のイメージの立体ペアを形成するパートナーの適切な選択を決めるのに使用される基準である。一般に、本方法は、満足のいく立体ペアをもたらす最小限の量の視差を使用する。視差の量が過度に大きい場合、結果は、目に不快であり、多大な計算上の労力と時間も要求する。ほとんどのケースで、任意の所与のイメージに対するパートナーは、4フレームないし18フレーム離れた範囲内で見つかることが分かっており、この数は、情景に対するカメラの動きの速度に依存する。本発明の方法を適用する際、操作者は、視差基準を提供する。視差基準は、イメージの中心の、そのイメージのパートナー・イメージの位置までの水平平行移動を表すピクセル数であり、この数は、2つのイメージ間で計算されたアフィン変換から算出される。所与のイメージに対する適切な立体パートナーの探索における各ステップにおいて、アフィン変換が算出され、イメージの中心が移動したのが、視差基準より小さい場合、探索は、移動が視差パラメータに等しいか、またはそれより大きくなるまで、選択されたイメージから漸進的にさらに離れたイメージに進む。探索の許容された限度内で適切な立体パートナーが全く見つからなかった場合は、様々な計算方法を使用して、その問題を克服することができる。単に、変換が視差基準との最も近い一致を与えるイメージを使用することが、実質的にすべてのケースで満足のいく結果を与えることが分かっており、これが、本発明の好ましい実施形態において使用される方法である。
第2の条件は、元のイメージ・シーケンスの中で撮影されている被写体の動きが、イメージが記録される速度に対して速すぎてはならないことである。これが該当する場合は、連続的なイメージ間にあまりにも大きな視差が存在して、許容できる結果を得ることができない。
別の条件は、撮影されている情景内の被写体の動きに関する。このケースでは、イメージの変換は、動く被写体に関してか、または背景に関して最適であり、背景に関してである場合、被写体はぼやけ、逆の場合も同様である。被写体の動きが遅いほど、最終の立体映画において見られるこの効果が小さくなる。
本発明の方法の最適な使用のための最後の条件は、サブセットの始めと終りにおけるイメージの処理に関する。このケースでは、適切な立体ペアを見つけるのに、十分な隣接イメージが用意されていないか、または隣接イメージが全く用意されていない。実際には、この問題は、視差基準のケースに関して説明したとおりに、満足のいく形で克服される。
図5は、ハンドヘルド型市販ホーム・ビデオカメラで撮影されたビデオ・フィルムの6つの連続的なフレームからとられた一続きのイメージである。これらのイメージは、本発明の方法を使用して立体的なイメージ・シリーズにされたフィルムの通常のセグメントを表す。本発明の好ましい実施形態において使用されるアルゴリズムの一般的な論理を以下に説明し、単一の立体ペアに関する変換の結果を図6に示す。
開始点は、n個のイメージを含む所与の情景Z、Z={i,i,...i}である。次に、イメージ登録技術アルゴリズム[適切なアルゴリズムの例については、Brown, Lisa G., A Survey of Image Registration Technology, ACM Computing Surveys, Dec. 1992, Vol. 24, No. 4, 325頁〜376頁を参照されたい]が、情景内の各イメージに適用されて、イメージ間におけるアフィン変換の集合をもたらす。
元の情景内の各イメージに対する適切な立体パートナーの探索の範囲を制限するため、s>1かつf<nであるように数sおよび数fが選択される。部分的情景Z={i,iS+1,...i}内のイメージに関して、立体的なペアは、カスケード式変換の平行移動要素が視差基準に等しいか、またはそれより大きくなるまで、前に算出されたアフィン変換をカスケードすることによって算出される。
この最後のステップがどのように実行されるかの例として、部分的情景Zのメンバであるイメージiについて見る。iからイメージik−1へのアフィン変換が算出される。この変換の平行移動要素が視差に等しいか、またはそれより大きい場合、iとik−1は、立体ペアを形成する。そうではなく、平行移動要素の符号も、視差基準の符号とは反対である場合は、iからik+1へのアフィン変換が計算される。この変換の平行移動要素が視差に等しいか、またはそれより大きい場合、iとik+1は、立体ペアであり、そうではない場合は、iと立体ペアを形成するのに適したイメージik−j(ここで、jは、正であることも、負であることも可能である)に達するまで、計算が同一の仕方で続けられる。
選択された立体ペアのイメージに、アルゴリズムが適用されて、その2つのイメージ間の平面変換Tが計算される[適切なアルゴリズムの例については、Burt, P.J. et al., Object Tracking With Moving Camera, in Proceedings IEEE Workshop on Visual Motion 1989, 2頁〜12頁を参照されたい]。
次に、s−1<k<f+1である各イメージiに関して、iの立体パートナーである変換済みのイメージik’が獲得され、ここで、0<k’<nである。また、それらの間の平面変換T(k)も獲得される。この変換を使用して、イメージk’が再サンプリングされ、ここで、kとk’は、立体ペアである。サンプリングの結果は、関連する部分的情景ZS’={iS’i(S+1),...if’}である。部分的情景と関連する部分的情景の右目と左目に対する交互の同期された投影が、3次元の錯覚を与える。
図6は、図5に示したイメージの1つに本発明の方法を適用した結果を示している。被写体追跡アルゴリズムの使用により、フレーム1050内のイメージに対する適切な立体パートナーは、フレーム1054内のイメージであると判定された。フレーム1054wは、変換後の1054のイメージであり、したがって、1050と1054wは、それぞれ、2つの目に提示される立体ペアである。図7は、図5のイメージのそれぞれに対する立体ペアを示している。
観客は、適切な目に立体的なペアのイメージを別々に送る適切なデバイスの助けを借りて、イメージ・シリーズを見る。そのような表示デバイスの例が、ステレオグラフィックス・コーポレーション(Stereographics Corporation)によって製造されているものなどの一対のシャッター付き液晶ディスプレイ(LCD)メガネである。このメガネは、コンピュータまたはプロジェクタと同期で機能して、他方の目に向けられたフレームが表示されている間、一方の目をブロックすることを交互に行う。投影の速度が、例えば、毎秒30フレーム、すなわち、それぞれの目に対して毎秒15フレームである場合、左イメージのイメージが左目によって別個に見られながら、右目によってイメージが見られる。すると、脳は、2次元のイメージのペアから3次元のイメージの印象を与えるように2つのイメージを融合する。
元の連続的なイメージのそれぞれは、本発明の方法によって生成される立体的な映画における連続的な立体的なペアの1つのメンバになり、イメージの順序が、もたらされる映画において保持されるため、元のイメージ・シーケンスとともに記録された任意のサウンド・トラックが、立体的な映画において実質的に変更されずに再生されることが可能である。
本方法は、両方向でイメージ・シーケンスを「探索」して、情景に対するカメラの不規則な動きを考慮に入れることに留意されたい。さらに、例えば、前のフレーム内に存在していなかった情報は、実質的に全く明らかにならない繰り返しのフレームを飛ばすことにより、計算時間をどのように短縮するかは、当業者には理解されよう。また、標準の編集技術を使用して、例えば、元のビデオにおいて不連続が生じている箇所で、立体的なフィルムを滑らかにすることもできる。
本発明の実施形態を例示として説明してきたが、本発明は、本発明の趣旨を逸脱することなく、または特許請求の範囲を超えることなく、例えば、異なる順序の変換および/または異なるタイプの変換を使用することにより、多くの変形形態、変更形態、および適応形態で実施できることが理解されよう。
カメラマンが一様な速度で歩きながら記録する情景の一部分を示す図である。 図1の情景がフィルム上にどのように現れるかを概略で示す図である。 図2のフレームのそれぞれの中に含まれる小さい家に関する情報を概略で示す図である。 より現実的なケースに関して撮影される情景とのカメラの視線の交差を概略で示す図である。 レンズの動きの効果を例示するビデオ・フィルムの6つの連続的なフレームを概略で示す図である。 ハンドヘルド型市販ビデオカメラで撮影されたビデオ・フィルムの連続的なフレームから取られた一続きのイメージである。 図5に示したイメージの1つに本発明の方法を適用した結果を示す図である。 図5のイメージのそれぞれに関する立体ペアを示す図である。

Claims (12)

  1. 情景の連続的なイメージのシーケンスから立体的な映画として続々と表示することができる立体的なイメージ・ペアのシリーズを生成するための方法であって、
    イメージの前記シーケンスが、標準の機器を使用して標準の技術によって獲得され、前記立体的なイメージ・シリーズの各フレームの右イメージと左イメージを含むイメージ・ペアの第1のイメージが、イメージの元のシーケンスから選択され、該第1のイメージの立体パートナーが、前記元のシーケンスから選択され、かつ/またはイメージの前記元のシーケンスから選択されたイメージを変換することによって生成される方法。
  2. イメージの前記シーケンスが、ビデオカメラまたはデジタル・スチールカメラで撮影されたフレームから選択される請求項1に記載の方法。
  3. イメージの前記シーケンスが、デジタル化されたイメージを生成するようにスキャンされるアナログ・イメージである請求項1に記載の方法。
  4. 前記アナログ・イメージが、スチールカメラまたはムービーカメラで撮影されたイメージであることが可能な請求項3に記載の方法。
  5. a)個々のイメージを読み取ること、必要な場合、前記イメージをデジタル化すること、および前記イメージをメモリ・ユニットの中に格納することができるデバイスの使用により、情景の連続的なイメージの元のシーケンスを処理するステップと、
    b)関心対象のサブセットのイメージを選択するステップと、
    c)前記サブセットの中のイメージ間におけるアフィン変換の集合を計算するステップと、
    d)前記シーケンスの第1の立体ペアの1つのメンバになる情景の前記サブセットのイメージのシーケンスの1つのイメージを選択するステップと、
    e)前記選択されたイメージの隣接イメージから開始して、前記連続的なイメージのそれぞれへのカスケード式アフィン変換を算出し、適切な立体パートナー、すなわち、前記立体ペアの第2のメンバに変換することができるイメージが見つかるまで、視差基準を適用することにより、前記選択されたイメージの適切な立体パートナーを探索するステップと、
    f)前記立体ペアのメンバ、および前記ペアの前記メンバ間の前記カスケード式アフィン変換を使用することにより、平面変換を計算するステップと、
    g)前記平面変換を前記選択されたイメージに適用するステップと、
    h)前記立体ペアを前記メモリ・ユニットの中に格納するステップと、
    i)前記選択されたサブセットの残りのイメージの次のそれぞれのイメージに関して、ステップe)ないしh)を繰り返すステップとを含む請求項1に記載の方法。
  6. 前記視差基準が、水平平行移動のピクセル数として表現される請求項4に記載の方法。
  7. 前記探索が、前記選択されたイメージの両側の前記隣接するイメージの間で実行される請求項4に記載の方法。
  8. 前記探索するステップが、前記選択されたイメージのいずれの側でも最大数のイメージに限定される請求項4に記載の方法。
  9. 情景の連続的なイメージのシーケンスから生成された立体的なイメージ・ペアのシリーズであって、
    イメージの前記シーケンスが、標準の機器を使用して標準の技術によって獲得され、前記立体的なイメージ・シリーズの各フレームの右イメージと左イメージを含むイメージ・ペアの第1のイメージが、イメージの元のシーケンスから選択され、該第1のイメージの立体パートナーが、前記元のシーケンスから選択され、かつ/またはイメージの前記元のシーケンスから選択されたイメージを変換することによって生成されるイメージ・ペアのシリーズ。
  10. 情景の連続的なイメージのシーケンスから生成された立体的なイメージ・ペアのシリーズであって、
    イメージの前記シーケンスが、請求項1ないし8の方法の使用によって獲得されるイメージ・ペアのシリーズ。
  11. 請求項9または10の立体的なイメージ・ペアのシリーズから生成された立体的な映画。
  12. サウンド・トラックがさらに伴う請求項11に記載の立体的な映画であって、
    前記サウンド・トラックが、前記立体的な映画が生成される元になる連続的なイメージのシーケンスとともに記録されたサウンド・トラックと実質的に同一である映画。
JP2004512422A 2002-06-10 2003-05-26 モノスコープ・イメージから立体的なイメージを生成するための方法 Expired - Fee Related JP4351996B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
IL150131A IL150131A (en) 2002-06-10 2002-06-10 A method for turning a series of monoscopic images into a series of stereoscopic images
PCT/IL2003/000436 WO2003105491A1 (en) 2002-06-10 2003-05-26 Method for producing stereoscopic images from monoscopic images

Publications (3)

Publication Number Publication Date
JP2005529559A true JP2005529559A (ja) 2005-09-29
JP2005529559A5 JP2005529559A5 (ja) 2006-03-02
JP4351996B2 JP4351996B2 (ja) 2009-10-28

Family

ID=28053356

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004512422A Expired - Fee Related JP4351996B2 (ja) 2002-06-10 2003-05-26 モノスコープ・イメージから立体的なイメージを生成するための方法

Country Status (8)

Country Link
US (1) US7180536B2 (ja)
EP (1) EP1522195A1 (ja)
JP (1) JP4351996B2 (ja)
CN (1) CN1669337A (ja)
AU (1) AU2003233160A1 (ja)
CA (1) CA2488925C (ja)
IL (1) IL150131A (ja)
WO (1) WO2003105491A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009212728A (ja) * 2008-03-03 2009-09-17 Ntt Docomo Inc 立体映像処理装置及び立体映像処理方法
WO2011043248A1 (ja) * 2009-10-09 2011-04-14 ソニー株式会社 画像処理装置および方法、並びにプログラム
WO2011043249A1 (ja) * 2009-10-09 2011-04-14 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP2011182122A (ja) * 2010-02-26 2011-09-15 Fujitsu Ltd 立体画像撮影装置、立体画像撮影方法および立体画像撮影プログラム
JP7374450B2 (ja) 2015-12-30 2023-11-07 クリエイティブ テクノロジー リミテッド 立体視画像シーケンスを作成するための方法

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8253729B1 (en) * 1983-05-09 2012-08-28 Geshwind David M Trimming depth buffer during 2D to 3D conversion
GB2405764A (en) * 2003-09-04 2005-03-09 Sharp Kk Guided capture or selection of stereoscopic image pairs.
FR2873213A1 (fr) * 2004-07-13 2006-01-20 Canon Res Ct France S A S Soc Procede et dispositif d'obtention d'un signal stereoscopique
FR2873214B1 (fr) * 2004-07-13 2008-10-10 Canon Res Ct France S A S Soc Procede et dispositif d'obtention d'un signal stereoscopique
IL166305A0 (en) * 2005-01-14 2006-01-15 Rafael Armament Dev Authority Automatic conversion from monoscopic video to stereoscopic video
FR2888346B1 (fr) * 2005-07-06 2008-08-08 Canon Res Ct France Soc Par Ac Procede et dispositif d'obtention d'une sequence d'images stereoscopiques a partir d'une sequence d'images monoscopiques
CA2627999C (en) * 2007-04-03 2011-11-15 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of Industry Through The Communications Research Centre Canada Generation of a depth map from a monoscopic color image for rendering stereoscopic still and video images
US8213711B2 (en) * 2007-04-03 2012-07-03 Her Majesty The Queen In Right Of Canada As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Method and graphical user interface for modifying depth maps
WO2010032058A1 (en) 2008-09-19 2010-03-25 Mbda Uk Limited Method and apparatus for displaying stereographic images of a region
US8330802B2 (en) * 2008-12-09 2012-12-11 Microsoft Corp. Stereo movie editing
US9172940B2 (en) 2009-02-05 2015-10-27 Bitanimate, Inc. Two-dimensional video to three-dimensional video conversion based on movement between video frames
US8502864B1 (en) * 2009-07-28 2013-08-06 Robert Watkins Systems, devices, and/or methods for viewing images
US8436893B2 (en) 2009-07-31 2013-05-07 3Dmedia Corporation Methods, systems, and computer-readable storage media for selecting image capture positions to generate three-dimensional (3D) images
US9380292B2 (en) 2009-07-31 2016-06-28 3Dmedia Corporation Methods, systems, and computer-readable storage media for generating three-dimensional (3D) images of a scene
US8508580B2 (en) 2009-07-31 2013-08-13 3Dmedia Corporation Methods, systems, and computer-readable storage media for creating three-dimensional (3D) images of a scene
US8624959B1 (en) * 2009-09-11 2014-01-07 The Boeing Company Stereo video movies
WO2011136238A1 (ja) 2010-04-26 2011-11-03 株式会社日本触媒 ポリアクリル酸(塩)、ポリアクリル酸(塩)系吸水性樹脂及びその製造方法
US20130043384A1 (en) 2010-04-26 2013-02-21 Nippon Shokubai Co., Ltd. Polyacrylic acid (salt), polyacrylic acid (salt)-based water-absorbing resin, and process for producing same
US9344701B2 (en) 2010-07-23 2016-05-17 3Dmedia Corporation Methods, systems, and computer-readable storage media for identifying a rough depth map in a scene and for determining a stereo-base distance for three-dimensional (3D) content creation
JP5502205B2 (ja) * 2010-09-10 2014-05-28 富士フイルム株式会社 立体撮像装置および立体撮像方法
JP5595505B2 (ja) 2010-09-10 2014-09-24 富士フイルム株式会社 立体撮像装置および立体撮像方法
WO2012035783A1 (ja) * 2010-09-17 2012-03-22 パナソニック株式会社 立体映像作成装置および立体映像作成方法
WO2012061549A2 (en) 2010-11-03 2012-05-10 3Dmedia Corporation Methods, systems, and computer program products for creating three-dimensional video sequences
US10200671B2 (en) 2010-12-27 2019-02-05 3Dmedia Corporation Primary and auxiliary image capture devices for image processing and related methods
US8274552B2 (en) 2010-12-27 2012-09-25 3Dmedia Corporation Primary and auxiliary image capture devices for image processing and related methods
CN102158725B (zh) * 2011-05-06 2013-04-10 深圳超多维光电子有限公司 一种生成立体图像的方法和系统
US20130002811A1 (en) * 2011-06-28 2013-01-03 Bu Lin-Kai Three-dimensional imaging method using single-lens image-capture apparatus and three-dimensional image enhancement method based on two-dimensional images
WO2015085338A1 (de) 2013-12-13 2015-06-18 Fts Computertechnik Gmbh Verfahren und vorrichtung zur beobachtung der umgebung eines fahrzeugs
CN111006586B (zh) * 2019-12-12 2020-07-24 天目爱视(北京)科技有限公司 一种用于3d信息采集的智能控制方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4925294A (en) * 1986-12-17 1990-05-15 Geshwind David M Method to convert two dimensional motion pictures for three-dimensional systems
US5581638A (en) * 1993-07-26 1996-12-03 E-Systems, Inc. Method for autonomous image registration
US6384859B1 (en) * 1995-03-29 2002-05-07 Sanyo Electric Co., Ltd. Methods for creating an image for a three-dimensional display, for calculating depth information and for image processing using the depth information
US6031564A (en) * 1997-07-07 2000-02-29 Reveo, Inc. Method and apparatus for monoscopic to stereoscopic image conversion
AUPO894497A0 (en) * 1997-09-02 1997-09-25 Xenotech Research Pty Ltd Image processing method and apparatus
JP4056154B2 (ja) * 1997-12-30 2008-03-05 三星電子株式会社 2次元連続映像の3次元映像変換装置及び方法並びに3次元映像の後処理方法
US6665003B1 (en) 1998-09-17 2003-12-16 Issum Research Development Company Of The Hebrew University Of Jerusalem System and method for generating and displaying panoramic images and movies
CA2361341A1 (en) * 2001-11-07 2003-05-07 Idelix Software Inc. Use of detail-in-context presentation on stereoscopically paired images

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009212728A (ja) * 2008-03-03 2009-09-17 Ntt Docomo Inc 立体映像処理装置及び立体映像処理方法
WO2011043248A1 (ja) * 2009-10-09 2011-04-14 ソニー株式会社 画像処理装置および方法、並びにプログラム
WO2011043249A1 (ja) * 2009-10-09 2011-04-14 ソニー株式会社 画像処理装置および方法、並びにプログラム
CN102239697A (zh) * 2009-10-09 2011-11-09 索尼公司 图像处理装置和方法及程序
JP2011182122A (ja) * 2010-02-26 2011-09-15 Fujitsu Ltd 立体画像撮影装置、立体画像撮影方法および立体画像撮影プログラム
JP7374450B2 (ja) 2015-12-30 2023-11-07 クリエイティブ テクノロジー リミテッド 立体視画像シーケンスを作成するための方法

Also Published As

Publication number Publication date
AU2003233160A1 (en) 2003-12-22
US7180536B2 (en) 2007-02-20
JP4351996B2 (ja) 2009-10-28
IL150131A0 (en) 2002-12-01
WO2003105491A1 (en) 2003-12-18
CA2488925A1 (en) 2003-12-18
US20060092272A1 (en) 2006-05-04
CN1669337A (zh) 2005-09-14
IL150131A (en) 2007-03-08
EP1522195A1 (en) 2005-04-13
CA2488925C (en) 2010-01-26

Similar Documents

Publication Publication Date Title
JP4351996B2 (ja) モノスコープ・イメージから立体的なイメージを生成するための方法
US8063930B2 (en) Automatic conversion from monoscopic video to stereoscopic video
CN109615703B (zh) 增强现实的图像展示方法、装置及设备
JP5036132B2 (ja) 裸眼立体表示のための視差画像のクリティカルな位置合わせ
AU2008279375B2 (en) Generation of three-dimensional movies with improved depth control
US10586378B2 (en) Stabilizing image sequences based on camera rotation and focal length parameters
JP3524147B2 (ja) 3次元画像表示装置
JPH06194758A (ja) 奥行画像形成方法及び装置
KR20140030138A (ko) 입체 화상 및 비디오를 생성하는 방법, 시스템, 장치 및 관련 프로세스 로직
Rotem et al. Automatic video to stereoscopic video conversion
Naimark Elements of real-space imaging: a proposed taxonomy
JP3091644B2 (ja) 2次元画像の3次元化方法
TWI572899B (zh) 擴充實境成像方法及其裝置
CN109379577B (zh) 一种虚拟视点的视频生成方法、装置及设备
JP6685241B2 (ja) 立体視ビデオ生成
JPH08116556A (ja) 画像処理方法および装置
CN112788252B (zh) 一种消除底部图像遮挡的720°全景相机
JP2000182058A (ja) 三次元運動入力方法及び三次元運動入力システム
Rastogi et al. StereoCam3D (An Android App. That Lets You Capture Realtime 3D Pics And Videos)
JPH07296165A (ja) 3次元画像撮影用カメラ
KR20170033294A (ko) 입체 깊이 조정 및 초점 조정
JP2021196915A (ja) 立体像奥行き制御装置及びそのプログラム
Georgiou Finding the language of stereoscopic technologies for archaeological sites and artefacts
IL166305A (en) Method for converting a sequence of monoscopic images to a sequence of stereoscopic images
Chopra et al. 3D MODELLING FOR BENDABLE DEVICES BASED ON INTER-PUPILLARY DISTANCE

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060111

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060515

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090212

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090423

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090501

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090609

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090702

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090727

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130731

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees