JP6484349B2 - カメラリグおよび立体画像キャプチャ - Google Patents

カメラリグおよび立体画像キャプチャ Download PDF

Info

Publication number
JP6484349B2
JP6484349B2 JP2017550917A JP2017550917A JP6484349B2 JP 6484349 B2 JP6484349 B2 JP 6484349B2 JP 2017550917 A JP2017550917 A JP 2017550917A JP 2017550917 A JP2017550917 A JP 2017550917A JP 6484349 B2 JP6484349 B2 JP 6484349B2
Authority
JP
Japan
Prior art keywords
camera
rig
image
image sensor
view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017550917A
Other languages
English (en)
Other versions
JP2018518078A (ja
Inventor
ウィーバー,ジョシュア
アンダーソン,ロバート
ウー,チャンチャン
クライニン,マイケル
ギャラップ,デイビッド
サイツ,スティーブン・マクスウェル
エステバン,カルロス・ヘルナンデス
バレンテ,マシュー・トーマス
フーバー,クリストファー・エドワード
グーセンス,エリック・ヒューバート・ドリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of JP2018518078A publication Critical patent/JP2018518078A/ja
Application granted granted Critical
Publication of JP6484349B2 publication Critical patent/JP6484349B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • G03B17/561Support related camera accessories
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/04Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Accessories Of Cameras (AREA)

Description

関連出願
本願は、2015年5月27日に出願され「Camera Rig and Stereoscopic Image Capture(カメラリグおよび立体画像キャプチャ)」と題された米国仮出願番号第62/167,151号に基づく優先権および利益を主張し、上記出願の全体を本明細書に引用により援用する。
技術分野
本説明は概してカメラリグに関する。特に、本説明は、キャプチャされた画像から立体パノラマを生成してバーチャルリアリティ(VR)環境で表示することに関する。
背景
パノラマ写真撮影技術を画像およびビデオに対して用いて、あるシーンの幅広いビューを提供することができる。従来から、パノラマ写真撮影技術および撮像技術を用いて、従来のカメラで撮影された多数の隣接写真からパノラマ画像を得ることができる。当該写真を互いに整列してマウント処理して、パノラマ画像を得ることができる。
概要
1つ以上のコンピュータ、カメラリグ、およびカメラリグ上に収容されたカメラデバイスのシステムは、動作時に当該システムにアクションを実行させる、当該システム上にインストールされたソフトウェア、ファームウェア、ハードウェア、またはそれらの組合せを有することによって、特定の動作またはアクションを実行するように構成され得る。1つの一般的側面は、ハブと、ハブの周りに配置されたカメラ装着リングとを有するカメラリグを含む。カメラ装着リングは複数の凹部を含み得る。カメラリグはさらに、第1の画像センサを受けるように構成された複数の凹部のうちの第1の凹部を含む。カメラリグはさらに、第2の画像センサを受けるように構成された複数の凹部のうちの第2の凹部を含む。カメラリグはさらに、第3の画像センサを受けるように構成された複数の凹部のうちの第3の凹部を含む。カメラリグはさらに、カメラ装着リングの内部と反対方向を向いている投影を有する第1の画像センサ、第2の画像センサ、および第3の画像センサの各々を含む。カメラリグはさらに、第1の画像センサの第1の視野が第2の画像センサの第2の視野および第3の画像センサの第3の視野と交差するように規定される複数の凹部を含む。本局面の他の実施形態は、対応するコンピュータシステム、装置、および1つ以上のコンピュータ記憶装置上に記録されたコンピュータプログラムを含み、その各々が本明細書に記載の方法と関連付けられているアクションを実行するように構成されている。
実現例は、以下の特徴の1つ以上を単独でまたは1つ以上の他の特徴と組合せて含み得る。たとえば、上記の実現例のいずれかまたはすべてにおいて、カメラリグの半径は、第1の画像センサの第1の視野が第2の画像センサの第2の視野および第3の画像センサの第3の視野と交差するように規定される。上記の実現例のいずれかまたはすべてにおいて、第1の画像センサ、第2の画像センサ、および第3の画像センサは平面内に配置される。上記の実現例のいずれかまたはすべてにおいて、かつ上述の実現例のうちの1つのカメラリグのいずれかにおいて、ハブと装着リングとの間にスポークが配置され得る。
上記の実現例および/または上述の実現例のうちの1つのカメラリグのいずれかまたはすべてにおいて、複数の凹部は、第1の画像センサを含む第1のカメラハウジングと第2の画像センサを含む第2のカメラハウジングとの間に間隙が配置されるように規定される。
上記の実現例および/または上述の実現例のうちの1つのカメラリグのいずれかまたはすべてにおいて、複数の凹部のうちの第1の凹部は、第1の画像センサがポートレート向きの視野を有するように規定され、および/または複数の凹部のうちの第1の凹部は、第1の画像センサをカメラリグに着脱可能に結合するように規定される。
上記の実現例および/または上述の実現例のうちの1つのカメラリグのいずれかまたはすべてにおいて、カメラリグは、装着リングに結合されたクリップ、および/またはカメラリグに結合されたマイクマウントをさらに含み得る。
上記の実現例および/または上述の実現例のうちの1つのカメラリグのいずれかまたはすべてにおいて、複数の凹部は12個から16個の凹部を含む。上記の実現例および/または上述の実現例のうちの1つのカメラリグのいずれかまたはすべてにおいて、複数の凹部はちょうど16個の凹部を含む。
上記の実現例および/または上述の実現例のうちの1つのカメラリグのいずれかまたはすべてにおいて、カメラ装着リングの直径は約25から30センチメートルである。
別の局面において、方法が記載される。当該方法は、1つ以上のコンピュータ、カメラリグ、およびカメラリグ上に収容されたカメラデバイスのシステムを用いて実行され得、当該システムは、動作時に当該システムにアクションを実行させる、当該システム上にインストールされたソフトウェア、ファームウェア、ハードウェア、またはそれらの組合せを有することによって、特定の動作またはアクションを実行するように構成され得る。1つ以上のコンピュータプログラムは、データ処理装置によって実行されると当該装置にアクションを実行させる命令を含むことによって特定の動作またはアクションを実行するように構成され得る。当該方法は、カメラリグのカメラ装着リングに結合された第1の画像センサにおいて第1の画像を規定することを含み得る。当該方法はさらに、カメラリグのカメラ装着リングに結合された第1の画像センサにおいて第2の画像を規定することを含む。当該方法はさらに、カメラ装着リングの直径より小さい直径を有するキャプチャ円から投影される光線を規定することを含む。当該方法はさらに、光線と第1の画像センサとの間の第1の距離および光線と第2の画像センサとの間の第2の距離に基づいて、光線と関連付けられている第3の画像を補間することを含み得る。本局面の他の実施形態は、対応するコンピュータシステム、装置、および1つ以上のコンピュータ記憶装置上に記録されたコンピュータプログラムを含み、その各々が当該方法のアクションを実行するように構成されている。
上記の実現例のいずれかまたはすべてにおいて、第1の画像センサは、第2の画像センサの第2の視野と交差し、かつカメラリグに結合された第3の画像センサの第3の視野と交差する第1の視野を有する。上記の実現例のいずれかまたはすべてにおいて、第1の画像センサ、第2の画像センサ、および第3の画像センサは平面内に配置される。
上記の実現例のいずれかまたはすべてにおいて、第1の画像、第2の画像、および第3の画像の各々はポートレート向きである。上記の実現例のいずれかまたはすべてにおいて、光線はキャプチャ円から接線方向に投影される。
上記の実現例のいずれかまたはすべてにおいて、光線は第1の光線であり、当該方法はさらに、キャプチャ円から投影される第2の光線を規定することと、カメラ装着リングに結合された第3の画像センサにおいて第4の画像を規定することと、第2の光線と第1の画像センサとの間の第3の距離および第2の光線と第3の画像センサとの間の第4の距離に基づいて、第2の光線と関連付けられている第5の画像を補間することとを含む。記載される技術の実現例は、ハードウェア、方法もしくはプロセス、またはコンピュータアクセス可能媒体上のコンピュータソフトウェアを含み得る。
本局面の他の実施形態は、対応するコンピュータシステム、装置、および1つ以上のコンピュータ記憶装置上に記録されたコンピュータプログラムを含み、その各々が当該方法のアクションを実行するように構成されている。
1つ以上の実現例の詳細を添付の図面および以下の説明で述べる。説明および図面から、かつ請求項から他の特徴が明らかになるであろう。
さまざまな図面における同様の参照記号は同様の要素を指す。
3Dバーチャルリアリティ(VR)環境で立体パノラマをキャプチャしてレンダリングするための例示的なシステムのブロック図である。 立体パノラマを生成する際に用いるシーンの画像をキャプチャするように構成された例示的なカメラリグを図示する図である。 立体パノラマを生成する際に用いるシーンの画像をキャプチャするように構成された別の例示的なカメラリグを図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 カメラリグおよび関連の構成要素のさらに別の例を図示する図である。 さらに別の例示的なカメラリグを図示する図である。 さらに別の例示的なカメラリグを図示する図である。 さらに別の例示的なカメラリグを図示する図である。 立体パノラマを生成する際に用いるシーンの画像をキャプチャするように構成されたさらに別の例示的なカメラリグを図示する図である。 例示的なVRデバイスを示す図である。 カメラおよび隣接カメラの数をカメラ視野の関数として示す例示的なグラフの図である。 補間された視野をカメラ視野の関数として示す例示的なグラフの図である。 カメラリグのためのコンフィギュレーションの選択を示す例示的なグラフの図である。 予め規定されたリグ直径に従ってカメラの最小数を求めるために用いられ得る例示的な関係を示すグラフの図である。 画像キャプチャ時に起こり得る歪みの線画の例の図である。 画像キャプチャ時に起こり得る歪みの線画の例の図である。 パノラマ画像の収集時にキャプチャされた光線の例を図示する図である。 パノラマ画像の収集時にキャプチャされた光線の例を図示する図である。 図13A〜図13Bにおいて記載したような、平面透視投影の近似の使用例を示す図である。 図13A〜図13Bにおいて記載したような、平面透視投影の近似の使用例を示す図である。 画像の平面に適用される近似された平面透視投影の例を示す図である。 画像の平面に適用される近似された平面透視投影の例を示す図である。 画像の平面に適用される近似された平面透視投影の例を示す図である。 垂直視差を導入する例を示す図である。 垂直視差を導入する例を示す図である。 3Dパノラマにおける点を示すために用いられ得る座標系の例示的な点を図示する図である。 3Dパノラマにおける点を示すために用いられ得る座標系の例示的な点を図示する図である。 図17A〜図17Bに図示した点の投影図である。 本開示に記載のパノラマ撮像技術を用いて全方向ステレオ画像内にキャプチャされた光線を示す図である。 3D空間における点に起因する最大垂直視差を示すグラフの図である。 ステレオパノラマ画像を生成するプロセスの一実施形態を図示するフローチャートの図である。 ステレオパノラマ画像をキャプチャするプロセスの一実施形態を図示するフローチャートの図である。 ヘッドマウントディスプレイにおいてパノラマ画像をレンダリングするプロセスの一実施形態を図示するフローチャートの図である。 画像境界を求めるプロセスの一実施形態を図示するフローチャートの図である。 ビデオコンテンツを生成するプロセスの一実施形態を図示するフローチャートの図である。 本明細書に記載の技術を実現するために用いられ得るコンピュータデバイスおよびモバイルコンピュータデバイスの例を示す図である。
詳細な説明
パノラマ画像を作成することは一般に、たとえば1つのカメラまたはカメラリグ内の多数のカメラを用いて周囲の三次元(3D)シーンの画像またはビデオをキャプチャすることを含む。いくつかのカメラを収容するカメラリグを用いる場合、各カメラは、特定の時点で画像をキャプチャするように同期化されて構成され得る。たとえば、各カメラによってキャプチャされる第1のフレームは、第2、第3、および第4のカメラが対応する第1のフレームをキャプチャするのとほぼ同時にキャプチャされ得る。この画像キャプチャは、シーンの一部またはすべてがキャプチャされるまで同時に継続し得る。実現例の多くはカメラに関して説明されるが、実現例は代わりに画像センサに関して、または(画像センサを含み得る)カメラハウジングに関しても説明され得る。
複数のカメラを収容するカメラリグは、特定の角度のシーンをキャプチャするように構成され得る。たとえば、カメラリグ上に収容されたカメラは特有の角度で方向付けられ得、その角度からキャプチャされたすべての(または少なくとも一部の)コンテンツが処理されて特定のシーンの全パノラマが生成され得る。いくつかの実現例では、カメラの各々は異なる角度に方向付けられて異なる角度のシーンをキャプチャし得る。シーンの一部のみをキャプチャする場合、またはシーンの一部もしくはすべてが歪みを含んでいる場合は、パノラマのうち、いずれかの欠けている、破損している、または歪んでいるコンテンツを補間または構成するために多数のプロセスが実行され得る。以下の開示では、3Dパノラマコンテンツを3Dバーチャルリアリティ(VR)環境でヘッドマウントディスプレイ(HMD)デバイスにおいて表示する目的でそのようなコンテンツをキャプチャ、処理、補正、およびレンダリングする多数の装置および方法を記載する。
図1は、3Dバーチャルリアリティ(VR)環境で立体パノラマをキャプチャしてレンダリングするための例示的なシステム100のブロック図である。例示的なシステム100において、カメラリグ102は画像をキャプチャし、(たとえば永久もしくはリムーバブルストレージに)ローカルに記憶し、および/またはネットワーク104上で提供し得るか、あるいは、画像を分析および処理のために画像処理システム106に直接提供し得る。システム100のいくつかの実現例では、モバイルデバイス108は、画像をネットワーク104を介して提供するためのカメラリグ102として機能し得る。画像がキャプチャされると、画像処理システム106は画像に対して多数の計算およびプロセスを実行し、たとえば、処理画像をレンダリングのためにネットワーク104上でヘッドマウントディスプレイ(HMD)デバイス110に提供し得る。いくつかの実現例では、画像処理システム106はカメラリグ102および/またはHMDデバイス110に含まれ得る。いくつかの実現例では、画像処理システム106はさらに、処理画像をレンダリング、記憶、またはさらなる処理のためにモバイルデバイス108に、および/またはコンピューティングデバイス112に提供し得る。
HMDデバイス110は、バーチャルリアリティコンテンツを表示可能なバーチャルリアリティヘッドセット、眼鏡、アイピース、または他のウェアラブルデバイスを表わし得る。動作時、HMDデバイス110は、受信したおよび/または処理した画像をユーザに対して再生可能なVRアプリケーション(図示せず)を実行し得る。いくつかの実現例では、VRアプリケーションは、図1に示すデバイス106,108または112の1つ以上によってホストされ得る。一例では、HMDデバイス110は、カメラリグ102がキャプチャしたシーンのビデオ再生を提供し得る。別の例では、HMDデバイス110は、単一のパノラマシーンにスティッチングされる静止画像の再生を提供し得る。
カメラリグ102は、VR環境でコンテンツをレンダリングするために画像データを収集するカメラ(キャプチャデバイスとも称され得る)および/または処理デバイスとして用いられるように構成され得る。カメラリグ102は本明細書では特定の機能を有して記載されるブロック図として示されているが、リグ102は図2〜図6に示す実現例のいずれかの形態を取ることができ、さらに、本開示全体にわたってカメラリグについて記載される機能を有し得る。たとえば、システム100の機能の記載を簡潔にするために、図1は画像をキャプチャするカメラがリグの周りに配置されていないカメラリグ102を示す。カメラリグ102の他の実現例は、リグ102などの円形カメラリグの周囲に配置され得る任意の数のカメラを含み得る。
図1に示すように、カメラリグ102は多数のカメラ139および通信システム132を含む。カメラ139は単一のスチルカメラまたは単一のビデオカメラを含み得る。いくつかの実現例では、カメラ139は、リグ102の外周(たとえばリング)に沿って並んで配置された(たとえば着座した)複数のスチルカメラまたは複数のビデオカメラを含み得る。カメラ139はビデオカメラ、画像センサ、立体カメラ、赤外線カメラ、および/またはモバイルデバイスであり得る。通信システム132を用いて画像、命令、および/または他のカメラ関連のコンテンツがアップロードおよびダウンロードされ得る。当該通信は有線でも無線でもよく、私設網または公衆網上でインターフェイス可能である。
カメラリグ102は、固定リグまたは回転リグとして機能するように構成され得る。リグ上の各カメラはリグの回転中心からオフセットして配置(たとえば設置)される。カメラリグ102は、たとえば、360度回転して、シーンの360度ビューのすべてまたは一部をスイープしてキャプチャするように構成され得る。いくつかの実現例では、リグ102は固定位置で動作するように構成され得、そのようなコンフィギュレーションでは、付加的なカメラをリグに追加してシーンの付加的な外向き角度のビューをキャプチャしてもよい。
いくつかの実現例では、カメラリグ102は、複数のデジタルビデオカメラを含む。複数のデジタルビデオカメラは、それらのレンズの各々が径方向外向き方向を指し示して周囲のシーンまたは環境の異なる部分を見るように、左右にまたは背中合わせに配置される(たとえば、カメラ302Bおよび302Fに関して図3に示される)。いくつかの実現例では、複数のデジタルビデオカメラは、ビュー方向が円形カメラリグ102に接している接線構成で配置される。たとえば、カメラリグ102は、リグのベースに対して接線方向に配列されつつ、自身のレンズの各々が径方向外向き方向を指し示すように配置される複数のデジタルビデオカメラを含み得る。デジタルビデオカメラは、異なる方向のコンテンツをキャプチャして周囲シーンの異なる角度部分を見るように指し示され得る。
いくつかの実現例では、カメラからの画像はカメラリグ102上の隣接ペアにおいて処理され得る。そのようなコンフィギュレーションでは、隣接カメラの各セットの各第1のカメラはカメラリグベースの円形路に対して接線方向に配置(たとえば設置)され、左方向に(たとえばカメラレンズが左方向を指し示して)整列される。隣接カメラの各セットの各第2のカメラはカメラリグベースの円形路に対して接線方向に配置(たとえば設置)され、(たとえばカメラレンズが)右方向を指し示して整列される。
カメラリグ102上で用いられるカメラについての例示的な設定として、約60フレーム/秒のプログレッシブスキャンモード(すなわち、ほとんどビデオカメラの標準的な記録モードのように1行おきではなく、各ラスタ線をサンプリングしてビデオの各フレームを生成するモード)が挙げられ得る。また、カメラの各々は同一の(または同様の)設定で構成され得る。各カメラを同一の(または同様の)設定に構成することは、キャプチャ後に所望の態様で互いにスティッチングされ得る画像をキャプチャするという利点をもたらし得る。例示的な設定として、カメラの1つ以上を同じズーム、フォーカス、露光、およびシャッタスピードに設定すること、ならびに安定化機能が相関されているかまたはオフにされた状態でカメラをホワイトバランスするように設定することが挙げられ得る。
いくつかの実現例では、カメラリグ102は1つ以上の画像またはビデオをキャプチャするために用いられる前に較正され得る。たとえば、カメラリグ102上の各カメラはパノラマビデオを撮るように較正および/または構成され得る。設定は、たとえば、リグを360度スイープで特定の回転速度で、広視野で、時計回りまたは反時計回り方向に動作させるように構成することを含み得る。いくつかの実現例では、リグ102上のカメラは、たとえば、シーンの周りのキャプチャ経路の360度スイープの1度毎に1フレームをキャプチャするように構成され得る。そのような実現例では、リグ102上のカメラは、たとえば、シーンの周りのキャプチャ経路の360度(以下)スイープの1度毎に複数のフレームをキャプチャするように構成され得る。いくつかの実現例では、リグ102上のカメラは、たとえば、1度毎に特に測定されたフレームをキャプチャする必要なしにシーンの周りのキャプチャ経路のスイープで複数のフレームをキャプチャするように構成され得る。
いくつかの実現例では、カメラは、同期して機能して、特定の時点でカメラリグ上のカメラからビデオをキャプチャするように構成(たとえばセットアップ)され得る。いくつかの実現例では、カメラは、同期して機能して、ある期間にわたってカメラの1つ以上からビデオの特定の部分をキャプチャするように構成され得る。カメラリグを較正する別の例は、受信画像をどのように記憶するかを構成することを含み得る。たとえば、受信画像は個々のフレームまたはビデオ(たとえばaviファイル、mpgファイル)として記憶され得、そのように記憶された画像はインターネット、別のサーバもしくはデバイスにアップロードされ得るか、またはカメラリグ102上の各カメラを用いてローカルに記憶され得る。いくつかの実現例では、受信画像は符号化ビデオとして記憶され得る。
画像処理システム106は、補間モジュール114、キャプチャ補正モジュール116、およびスティッチングモジュール118を含む。補間モジュール116は、たとえば、デジタル画像およびビデオの一部をサンプリングし、カメラリグ102からキャプチャされた隣接画像同士の間で起こると考えられる多数の補間された画像を求めるために用いられ得るアルゴリズムを表わす。いくつかの実現例では、補間モジュール114は、隣接画像同士の間の補間された画像フラグメント、画像部分、および/または垂直もしくは水平画像ストリップを求めるように構成され得る。いくつかの実現例では、補間モジュール114は、隣接画像内の関連画素同士の間のフローフィールド(および/またはフローベクトル)を求めるように構成され得る。フローフィールドを用いて、画像が受けた両変換、および変換を受けた処理画像が補償され得る。たとえば、フローフィールドを用いて、取得された画像の特定の画素格子の変換が補償され得る。いくつかの実現例では、補間モジュール114は、周囲画像の補間によって、キャプチャされた画像の一部ではない1つ以上の画像を生成し得、生成された画像をキャプチャされた画像にインターリーブして、シーンの付加的なバーチャルリアリティコンテンツを生成し得る。
キャプチャ補正モジュール116は、非理想的なキャプチャセットアップを補償することによってキャプチャされた画像を補正するように構成され得る。例示的なキャプチャセットアップとして、非限定的な例では、円形カメラ軌道、平行な主(カメラ)軸、カメラ軌道に垂直なビュー方向、カメラ軌道に対して接線方向であるビュー方向、および/または他のキャプチャ条件が挙げられ得る。いくつかの実現例では、キャプチャ補正モジュール116は、画像キャプチャ時の非円形カメラ軌道、および/または画像キャプチャ時の非平行主軸の一方または両方を補償するように構成され得る。
キャプチャ補正モジュール116は、特定の1セットの画像を調整して、カメラ同士の分離が約30度より大きい複数のカメラを用いてキャプチャされたコンテンツを補償するように構成され得る。たとえば、カメラ同士の間の距離が40度の場合、キャプチャ補正モジュール116は、付加的なカメラからコンテンツを収集することによって、または欠けているコンテンツを補間することによって、カメラのカバー範囲不足に基づく特定のシーンにおけるいずれかの欠けているコンテンツを説明し得る。
いくつかの実現例では、キャプチャ補正モジュール116はさらに、1セットの画像を調整して、カメラポーズエラーなどによるカメラ誤整列を補償するように構成され得る。たとえば、カメラポーズエラー(たとえばカメラの向きおよび位置によるエラー)が画像キャプチャ時に起こると、モジュール116はいくつかの画像フレームからの2つ以上の画素列同士を混合して、露光不足(もしくは画像フレーム毎の露光変化)によるおよび/または1つ以上のカメラの誤整列によるアーティファクトを含むアーティファクトを除去し得る。スティッチングモジュール118は、規定された、取得された、および/または補間された画像に基づいて3D立体画像を生成するように構成され得る。スティッチングモジュール118は、複数の画像部分からの画素および/または画像ストリップを混合する/スティッチングするように構成され得る。スティッチングは、たとえば補間モジュール114によって求められたフローフィールドに基づき得る。たとえば、スティッチングモジュール118は、1セットの画像の一部ではない補間された画像フレームを(補間モジュール114から)受信し、画像フレームを1セットの画像にインターリーブし得る。インターリーブすることは、モジュール118が、補間モジュール114によって生成されたオプティカルフローに少なくとも部分的に基づいて画像フレームおよび1セットの画像を互いにスティッチングすることを含み得る。スティッチングされた組合せを用いて、VRヘッドマウントディスプレイにおいて表示するための全方位ステレオ(たとえば全方向ステレオ)パノラマが生成され得る。画像フレームは、特定のリグ上に配置されたカメラの多数の隣接ペアから収集された、キャプチャ済のビデオストリームに基づき得る。そのようなリグは、約12個から約16個のカメラを含み得る。言い換えると、そのようなリグの他の組合せは、たとえば12個〜16個のペアでないまたは個々のカメラを含み得る。いくつかの実現例では、奇数個のカメラがリグに含まれていてもよい。いくつかの実現例では、リグは2セットまたは3セット以上の隣接カメラを含む。いくつかの実現例では、リグは、リグ上に並んで着座し得る同数セットの隣接カメラを含む。いくつかの実現例では、スティッチングモジュール118は、少なくとも1つの隣接ペアと関連付けられているポーズ情報を用いて、インターリーブを実行する前に1セットの画像の一部を予めスティッチングし得る。カメラリグ上の隣接ペアは、たとえば図3に関連して以下により明確に示されて記載される。
いくつかの実現例では、オプティカルフロー技術を用いて画像同士を互いにスティッチングすることは、キャプチャされたビデオコンテンツ同士を互いにスティッチングすることを含み得る。そのようなオプティカルフロー技術を用いて、カメラペアおよび/または単一のカメラを用いて以前にキャプチャされた特定のビデオコンテンツ同士の間の中間ビデオコンテンツが生成され得る。この技術は、画像をキャプチャする円形固定カメラリグ上の一連のカメラをシミュレートする方法として用いられ得る。シミュレートされたカメラは、単一のカメラを円を描くようにスイープして360度の画像をキャプチャする方法と同様のコンテンツをキャプチャし得るが、上記の技術では、実際にリグ上に設置されるカメラはより少なく、リグは固定であってもよい。また、一連のカメラをシミュレートする能力は、ビデオ内のフレーム毎にコンテンツ(たとえば1度毎に1画像のキャプチャ間隔で360個の画像)をキャプチャすることができるという利点をもたらす。
生成された中間ビデオコンテンツは、高密度の1セットの画像(たとえば1度毎に1画像で360個の画像)を用いることによってオプティカルフローを用いて実際にキャプチャされたビデオコンテンツにスティッチングされ得るが、実際は、カメラリグがキャプチャした画像は360個より少ない。たとえば、円形カメラリグが8ペアのカメラ(すなわち16個のカメラ)またはペアでない16個のカメラを含む場合、キャプチャされた画像のカウントは16個の画像まで低くなり得る。オプティカルフロー技術を用いて16個の画像同士の間のコンテンツがシミュレートされて360度のビデオコンテンツが提供され得る。
いくつかの実現例では、オプティカルフロー技術を用いることによって補間効率が向上し得る。たとえば、360個の画像を補間する代わりに、カメラの各連続ペア(たとえば[1−2],[2−3],[3−4])同士の間でオプティカルフローが計算され得る。キャプチャされた16個の画像およびオプティカルフローを仮定して、補間モジュール14および/またはキャプチャ補正モジュール116は、16個の画像のうちのいずれかにおいて画像全体を補間する必要なしに任意の中間ビューにおける任意の画素を計算し得る。
画像処理システム106は、投影モジュール120および画像補正モジュール122をさらに含む。投影モジュール120は、画像を透視平面内に投影することによって3D立体画像を生成するように構成され得る。たとえば、投影モジュール120は特定の1セットの画像の投影を取得し得、画像の一部を平面透視投影から球面(すなわち正距円筒図法)透視投影に変換することによって当該1セットの画像の一部の再投影を構成し得る。当該変換は投影モデリング技術を含む。
投影モデリングは、投影中心および投影面を規定することを含み得る。本開示に記載の例では、投影中心は、予め規定されたxyz座標系の原点(0,0,0)における光学中心を表わし得る。投影面は投影中心の前に設置され得、カメラはxyz座標系のz軸に沿って画像をキャプチャするように向いている。一般に、投影は、座標(x,y,z)から投影中心までの特定の画像光線の透視平面の交差点を用いて計算され得る。投影の変換は、たとえばマトリックス計算を用いて座標系を操作することによって行なわれ得る。
立体パノラマための投影モデリングは、単一の投影中心を有さないマルチ透視画像を用いることを含み得る。マルチ透視は典型的に円形状(球状)(図13B参照)として示される。コンテンツをレンダリングする際、本明細書に記載のシステムは、1つの座標系から別の座標系に変換する際の近似として球面を用い得る。
一般に、球面(すなわち正距円筒図法)投影は、球面の中心が投影中心を等しく囲んでいる球状の平面を提供する。透視投影は、透視平面(たとえば2D表面)上の3Dオブジェクトの画像を提供してユーザの実際の視覚を近似するビューを提供する。一般に、画像は平坦な画像面(たとえばコンピュータモニタ、モバイルデバイスLCDスクリーン)上にレンダリングされ得るので、投影は歪みのないビューを提供するために平面透視で示される。しかし、平面投影では360度の視野が可能でない場合があるので、キャプチャされた画像(たとえばビデオ)は正距円筒図法(たとえば球面)の透視で記憶され得、レンダリング時に平面透視に再投影され得る。
特定の再投影が完了した後、投影モジュール120はHMDにおいてレンダリングするために再投影された画像の部分を送信し得る。たとえば、投影モジュール120は、再投影の一部をHMD110における左目ディスプレイに、再投影の一部をHMD110における右目ディスプレイに提供し得る。いくつかの実現例では、投影モジュール120は、上記の再投影を実行することによって垂直視差を計算して減らすように構成され得る。
画像補正モジュール122は、透視歪みを含むがこれに限定されない歪みを補償することによって3D立体画像を生成するように構成され得る。いくつかの実現例では、画像補正モジュール122は、オプティカルフローが3Dステレオのために維持される特定の距離を求め得、画像をセグメント化して、そのようなフローが維持されるシーンの一部のみを示し得る。たとえば、画像補正モジュール122は、3Dステレオ画像のオプティカルフローが、たとえば、円形カメラリグ102の外向きエッジから約半径1メートルから、カメラリグ102の外向きエッジから約半径5メートルの間に維持されると判断し得る。したがって、画像補正モジュール122は、HMD110のユーザにとって適切な視差を有する適切な3Dステレオ効果を提供しつつ、歪みのない投影においてHMD110内でレンダリングするために1メートルから5メートルの間の部分が選択されることを保証し得る。
いくつかの実現例では、画像補正モジュール122は、特定の画像を調整することによってオプティカルフローを推定し得る。当該調整は、たとえば、画像の一部を訂正すること、画像の当該一部と関連付けられている推定されたカメラポーズを求めること、および当該一部における画像同士の間のフローを求めることを含み得る。非限定的な例では、画像補正モジュール122は、フローが計算されている2つの特定の画像同士の間の回転差を補償し得る。この補正は、回転差(すなわち回転フロー)に起因するフロー成分を除去するように機能し得る。そのような補正によって、並進移動に起因するフロー(たとえば視差フロー)がもたらされ、これは、結果として得られる画像を正確かつロバストにしつつ、フロー推定計算の複雑さを減少させることができる。いくつかの実現例では、画像補正に加えて、レンダリング前に画像に対して処理が行なわれ得る。たとえば、レンダリングが実行される前に、スティッチング、混合、または付加的な補正処理が画像に対して行なわれ得る。
いくつかの実現例では、画像補正モジュール122は、平面透視投影に基づいていないカメラジオメトリを用いてキャプチャされた画像コンテンツに起因する投影歪みを補正し得る。たとえば、多数の異なるビュー角度からの画像を補間することによって、かつ当該画像と関連付けられているビュー光線を共通の原点から生じていると条件付けることによって、補正が画像に適用され得る。補間された画像はキャプチャされた画像にインターリーブされて、人間の目にとって無理のないレベルの回転視差を有して人間の目に正確に見えるバーチャルコンテンツが生成され得る。
例示的なシステム100では、デバイス106,108および112はラップトップコンピュータ、デスクトップコンピュータ、モバイルコンピューティングデバイス、またはゲーム機であり得る。いくつかの実現例では、デバイス106,108および112は、HMDデバイス110内に配置され(たとえば設置され/位置し)得るモバイルコンピューティングデバイスであり得る。モバイルコンピューティングデバイスは、たとえば、HMDデバイス110のためのスクリーンとして用いられ得る表示装置を含み得る。デバイス106,108および112は、VRアプリケーションを実行するためのハードウェアおよび/またはソフトウェアを含み得る。さらに、デバイス106,108および112は、これらのデバイスがHMDデバイス110の前に設置されるか、またはHMDデバイス110に対してある範囲の位置内に保持される場合に、HMDデバイス110の3D移動を認識、監視、および追跡可能なハードウェアおよび/またはソフトウェアを含み得る。いくつかの実現例では、デバイス106,108および112は、付加的なコンテンツをネットワーク104上でHMDデバイス110に提供し得る。いくつかの実現例では、デバイス102,106,108,110および112は、ペアリングされるかまたはネットワーク104を介して接続されて、1つ以上と互いに接続/インターフェイスされ得る。当該接続は有線でも無線でもよい。ネットワーク104は公衆通信網でも私設通信網でもよい。
システム100は電子記憶装置を含み得る。電子記憶装置はデバイスのうちのいずれか(たとえばカメラリグ102、画像処理システム106、HMDデバイス110および/またはその他)に含まれ得る。電子記憶装置は、情報を電子的に記憶する非一時的な記憶媒体を含み得る。電子記憶装置は、キャプチャされた画像、取得された画像、前処理された画像、後処理された画像等を記憶するように構成され得る。開示されるカメラリグのいずれかを用いてキャプチャされた画像は、ビデオの1つ以上のストリームとして処理されて記憶され得るか、または個々のフレームとして記憶され得る。いくつかの実現例では、記憶はキャプチャ時に起こり、レンダリングはキャプチャの一部の直後に起こり、キャプチャおよび処理が同時でなかった場合よりも早くパノラマステレオコンテンツへの高速アクセスを可能とし得る。
図2は、立体パノラマを生成する際に用いるシーンの画像をキャプチャするように構成された例示的なカメラリグ200を図示する図である。カメラリグ200は、リング状の支持ベース(図示せず)に取付けられた第1のカメラ202Aおよび第2のカメラ202Bを含む。示されるように、カメラ202Aおよび202Bは、直接外側を(キャプチャすべき画像/シーンに向かって)向いて、かつリグ200の回転軸(A1)の中心と平行に、環状位置に配置されている。
図示される例では、カメラ202Aおよび202Bは、ある距離だけ離れて(B1)マウントプレート208上に配置(たとえば設置)される。いくつかの実現例では、カメラリグ200上の各カメラ同士の間の距離(B1)は平均的な人間の瞳孔間距離(IPD)を表わし得る。カメラをIPD距離だけ離して設置することによって、人間の目が(矢印204によって示すように左右に)回転する際にどのように画像を見るかを近似して、矢印204によって示されるキャプチャ経路の周りのシーンをスキャンすることができる。例示的な平均的な人間のIPD測定値は、約5センチメートルから約6.5センチメートルであり得る。いくつかの実現例では、標準的なIPD距離だけ離れて配置された各カメラはカメラのステレオペアの一部であり得る。
いくつかの実現例では、カメラリグ200は標準的な人間の頭部の直径を近似するように構成され得る。たとえば、カメラリグ200は、約8センチメートルから約10センチメートルの直径206を有して設計され得る。この直径206は、リグ200が人間の頭部がどのように回転するかを近似し、回転中心A1に対して人間の目でシーン画像を見るように選択され得る。他の測定も可能であり、リグ200またはシステム100は、たとえばより大きい直径を用いる場合は、キャプチャ技術および結果として得られる画像を調整し得る。
非限定的な例では、カメラリグ200は約8センチメートルから約10センチメートルの直径206を有し得、約6センチメートル離れたIPD距離に設置されたカメラを収容し得る。多数のリグ配列を以下に述べる。本開示に記載の各配列は、上述のまたは他の直径およびカメラ間距離を有して構成され得る。
図2に示すように、2つのカメラ202A,202Bは広視野を有して構成され得る。たとえば、カメラは約150度から約180度の視野をキャプチャし得る。カメラ202A,202Bは、より幅広いビューをキャプチャする魚眼レンズを有していてもよい。いくつかの実現例では、カメラ202A,202Bはステレオペアとして機能する。
動作時、リグ200は回転中心A1の周りを360度回転してパノラマシーンをキャプチャし得る。あるいは、リグは固定のままであってもよく、(図3に示すように)付加的なカメラをカメラリグ200に追加して360度のシーンの付加的な部分をキャプチャしてもよい。
図3は、立体パノラマを生成する際に用いるシーンの画像をキャプチャするように構成された別の例示的なカメラリグ300を図示する図である。カメラリグ300は、リング状の支持ベース(図示せず)に取付けられた多数のカメラ302A〜302Hを含む。第1のカメラ302Aは実線で示されており、付加的なカメラ302B〜302Hはそれらがオプションであることを示すために破線で示されている。カメラリグ200内に示される平行に装着されたカメラ(カメラ202Aおよび202B参照)とは対照的に、カメラ302A〜302Hは円形カメラリグ300の外周に対して接線方向に配置される。図3に示すように、カメラ302Aは隣接カメラ302Bおよび隣接カメラ302Hを有する。
図示される例では、カメラ202Aおよび202Bは、リグ200内のカメラと同様に、特定の距離だけ離れて(B1)配置される。この例では、カメラ302Aおよび302Bは、以下に詳細に記載するように、隣接ペアとして機能して、それぞれ左右方向における中心カメラレンズから外れた角度をキャプチャし得る。
一例では、カメラリグ300は、回転可能なまたは固定されたベース(図示せず)およびマウントプレート306(支持部とも称され得る)を含む円形リグであり、カメラの隣接ペアは、マウントプレート306上に設置され、マウントプレート306のエッジに対して接線方向であるビュー方向を指し示すように構成され、左方向を指し示すように配列された第1のカメラ302Aと、第1のカメラと並んでマウントプレート306上に設置され、第1のカメラ302Aから瞳孔間距離(または異なる距離(たとえばIPD距離未満))をおいて設置された第2のカメラ302Bとを含み、第2のカメラ302Bは、マウントプレート306のエッジに対して接線方向であるビュー方向を指し示すように配列され、右方向を指し示すように配列されている。同様に、隣接ペアはカメラ302Cおよび302Dから構成され得、別のペアはカメラ302Eおよび302Fから構成され得、さらに別のペアはカメラ302Gおよび302Hから構成され得る。いくつかの実現例では、各カメラ(たとえば302A)は、リグ上の各カメラがリグ上の別のカメラとペアリングされ得るように、自身に隣接していないが自身の隣接カメラに隣接しているカメラとペアリングされ得る。いくつかの実現例では、各カメラは(いずれかの側の)自身の直接の隣接カメラとペアリングされ得る。
いくつかの実現例では、補間モジュール114によって1つ以上のステレオ画像が生成され得る。たとえば、カメラリグ300上に示されるステレオカメラに加えて、付加的なステレオカメラが合成ステレオ画像カメラとして生成され得る。特に、キャプチャされた画像からの光線を分析(たとえばレイトレーシング)することによって3Dシーンのシミュレートされたフレームが生成され得る。当該分析は、視点から特定の画像または画像フレームを通ってシーン内に逆方向に光線を追跡することを含み得る。特定の光線がシーン内のオブジェクトに当たると、当該光線が通過する各画像画素は当該オブジェクトと一致する色でペイントされ得る。光線がオブジェクトに当たらなければ、画像画素は背景またはシーン内の他の特徴と一致する色でペイントされ得る。視点およびレイトレーシングを用いて、補間モジュール114はシミュレートされたステレオカメラからであるように見える付加的なシーンコンテンツを生成し得る。付加的なコンテンツは、画像効果、欠けている画像コンテンツ、背景コンテンツ、視野外部のコンテンツを含み得る。
図3に示すように、カメラ302A〜302Hは、カメラリグ300の外周に対して接線方向に配置(たとえば設置)されるので、シーンの最大で180度のビューをキャプチャし得る。すなわち、カメラは接線的に設置されるので、完全にオクルージョンされていない180度の視野がリグ上の各カメラ内にキャプチャされ得る。
いくつかの実現例では、カメラリグ300は隣接カメラを含む。たとえば、リグ300は隣接カメラ302Aおよび302Bを含み得る。カメラ302Aは、マウントプレート304のエッジに対して接線方向であるビュー方向に方向付けられ、かつ左方向を指し示すように配列された関連のレンズを用いて構成され得る。同様に、カメラ302Bはカメラ302Aと並んでマウントプレート304上に配置され、カメラ302Aからほぼ人間の瞳孔間距離をおいて設置され、マウントプレート304のエッジに対して接線方向であるビュー方向を指し示すように配列され、右方向を指し示すように配列され得る。
いくつかの実現例では、実際のカメラ302A〜Hを接線方向に配置するのではなく、カメラ302A〜H上の(またはカメラリグ300上の)特定のセンサがカメラ302A〜H(またはリグ300)の外周に対して接線方向に配置されてもよい。このように、カメラ302A〜Hはユーザ選択に従って設置され得、センサは、リグ300の場所、スイープ速度に基づいて、またはカメラコンフィギュレーションおよび設定に基づいて、どのカメラまたはカメラ302A〜Hが画像をキャプチャ可能であるかを検出し得る。
いくつかの実現例では、隣接カメラは、背中合わせにまたは並んで配列されたカメラ302Aおよびカメラ302Eを含み得る。また、この配列を用いて、それぞれのカメラレンズおよびマウントプレート304によって形成される方位角308の左右のビュー角度が集められ得る。いくつかの実現例では、カメラは、それぞれカメラレンズおよびマウントプレート304によって形成される方位角308の左右の傾斜角を有して配列される。
いくつかの実現例では、カメラリグ300上に設置されるカメラは、画像補間時にその他の隣接カメラとペアリングされ、外向き方向において円形リグの周りに単純に整列され得る。いくつかの実現例では、リグ300は単一のカメラ(たとえばカメラ302A)を含む。カメラ302Aのみがリグ300に装着される場合は、カメラリグ300を時計回りに完全に360度回転させることによってステレオパノラマ画像がキャプチャされ得る。
図4Aから図4Dは、実現例に従うカメラリグ400(球状リグとも称され得る)のさまざまな図(それぞれ斜視図、側面図、上面図、および底面図)を示す図である。示されるように、カメラリグ400は支持部410、およびカメラ405Aから405Cおよび405Mを含む。本実現例は5つ以上のカメラを含んでいるが、簡潔にするために当該カメラのうちの4つのみがラベル付けされている。本実現例では、カメラ(キャプチャデバイスとも称され得る)はカメラ405と総称され得る。いくつかの実現例では、カメラ405はキャプチャデバイスと称され得る。
図4Eから図4Hは、実現例に従うカメラリグ400の支持部410のさまざまな図(それぞれ斜視図、側面図、上面図、および底面図)を示す図である。図4Iは、カメラ405を支持部410に結合する(たとえば着脱可能に結合する)ために用いられ得るクリップ450の斜視図を示す。図4Jは、マイク(図示せず)を支持部410(およびカメラリグ400)に結合するために用いられ得るマイクマウント460の斜視図を示す。
本明細書に記載の他の実現例と同様に、カメラリグ400のカメラ405は外側を向いている(たとえばリグ400の中心と反対方向を向いている)。本実現例では、カメラ405の各々は、カメラ405のレンズ系の視野が中心とする軸が、カメラ405によって規定される円の接線と垂直であるように向けられている。そのような例は、カメラ405Aと関連付けられている軸A1および接線を有する少なくとも図4Cに示されている。
本実現例では、カメラの各々は、(図4Cに示す)軸A2がカメラリグ400の一方側で一方のレンズ系(たとえば1つのレンズまたはキャプチャセンサの中心)を通り、カメラリグ400の中心A3を通り、カメラリグ400の他方側で他方のレンズ系を通り得るように構成される。カメラ405(または画像センサ)は、カメラ405の各々が、カメラリグ400によって規定される円形パターンに垂直であり得る外向き投影(または投影中心)を有するように、カメラリグ400の周辺に円形パターンで配列される。言い換えると、カメラ405は、カメラリグ400の内部と反対方向を向く投影を有し得る。
本実現例におけるカメラ405の各々のレンズ系はカメラ405の各々の本体の中心からオフセットしているので、カメラの各々は、カメラの各々の視野がカメラリグ400に対して垂直方向に向けられ得る(たとえば支持部410によって規定される円(または当該円からの接線)に垂直に面する)ように、他のカメラ405に対して角度を付けてオフセットしている。したがって、カメラ405Bの本体の裏側(または裏面)が整列される平面A4は隣接カメラ405の側面(たとえば側部に沿った平面)と交差し、隣接カメラ405Cの裏面(たとえば裏側に沿った平面)と交差する。
示されるように、カメラリグ410は、支持部材411、カメラ装着リング412(外側リングとも称され得る)、内側リング413、およびハブ414を含む。ハブ414はカメラリグ410の中心部に位置し得、支持部材411はハブ414とカメラ装着リング412との間に配置される。具体的には、支持部材411はハブ414からカメラ装着リング412に延在(たとえば径方向に延在)する。本実現例では、カメラ装着リング412および内側リング413はカメラリグ410内の同心円状の輪を規定する。カメラ装着リング412は凹部415(クレイドル、開口部等とも称され得る)を含み、この中にカメラ405(たとえば画像センサ)の各々が配置され得る。凹部415の各々はさまざまな開口部、曲線、突起および/またはその他を含み、これらは、カメラ405に含まれている1つ以上の入力ポートおよび/または出力ポートへのアクセスをサポートするおよび/または可能にするために用いられ得る。支持部材411(および/またはカメラリグ410の他の部分)は、カメラリグ410が製造される際に質量がより小さくて済む(たとえばより軽量であり得る)および/または使用材料がより少なくて済むように開口部を含む。本実現例ではハブおよびスポーク型コンフィギュレーションで示されているが、いくつかの実現例では、支持部410は異なるコンフィギュレーションを有し得る。
示されていないが、いくつかの実現例では、奇数個のカメラがカメラリグに含まれていてもよい。そのような実現例では、カメラのレンズ系は、複数のカメラレンズ系およびカメラリグの中心を通って軸が配置されることなく、カメラリグの接線(またはカメラリグによって規定される円)に垂直な軸を中心とする視野を有し得る。
いくつかの実現例では、カメラリグ410の最小または最大ジオメトリは、カメラリグ410に結合されたカメラ405の1つ以上の光学的特性(たとえば視野、画素解像度)に基づいて規定され得る。たとえば、カメラリグ410の最小直径および/または最大直径はカメラ405の少なくとも1つの視野に基づいて規定され得る。いくつかの実現例では、カメラ405(たとえば少なくとも1つのカメラ405のセンサ)の少なくとも1つの比較的大きい(または幅広い)視野および/または比較的高い解像度によって、カメラリグ410の比較的小さい直径がもたらされ得る。たとえば図4Aから図4Dに示すように、カメラ405の各々は、カメラ405がキャプチャした画像の水平寸法(または解像度)がカメラ405がキャプチャした画像の垂直寸法(または解像度)未満であるように、ポートレートモード(たとえば4:3アスペクト比モード)に配列される。いくつかの実現例では、カメラ405の各々は任意のアスペクト比または向き(たとえば16:9または9:16アスペクト比、3:4アスペクト比)で配列され得る。
本実現例では、カメラリグ410の直径(または半径)、およびカメラ405内のセンサの各々と交差する円の直径(または半径)は、少なくとも3つの隣接カメラ405の視野同士が重なるように規定される。本実現例では、カメラ405内のセンサは、(カメラリグ410を通る平面と実質的に平行な)平面内に配置される。いくつかの実現例では、少なくとも2つの隣接カメラ405の視野全体(たとえば、または実質的に視野全体)が、(2つの隣接カメラ405の少なくとも一方に隣接する)カメラ405のうちの第3のカメラの視野と重なり得る。いくつかの実現例では、任意のセットの3つの隣接カメラ405の視野は、カメラリグ410の周りの任意の点(たとえばカメラ405のセンサを通る平面内の任意の点)が少なくとも3つのカメラ405によってキャプチャされ得るように重なり得る。
少なくとも図4Cに示すように、隣接カメラからの各カメラが互いに接触しないように隣接カメラ同士の間に少なくとも間隙が配置される。具体的には、図4Cは、カメラ405Bとカメラ405Cとの間の間隙402(たとえばカメラ405Bおよび405Cのカメラハウジング同士の間の間隙402)を含む。いくつかの実現例では、支持部410は、隣接カメラ同士の間に間隙が配置されるように規定され得る。いくつかの実現例では、間隙402は、カメラ405のうちの1つのカメラからの熱がカメラ405のうちの別のカメラに望ましくないように伝送され得ないように規定され得る。言い換えると、間隙402は、熱問題の防止に役立つように、または放熱を促進するように規定され得る。
少なくとも図4Bおよび図4Fに示すように、支持部410は平坦な底部を有する。言い換えると、支持部410の底部は平面に沿って整列される。いくつかの実現例では、支持部410は、平坦でない、または平面に沿って整列されない底部を有し得る。言い換えると、支持部410は1つ以上の曲線、隆起、突起および/またはその他を有し得る。
図4Iに示すように、クリップ450は、カメラ(たとえばカメラ405のうちの1つ)に含まれている凹部(または開口部)内に配置され得る突起451を含み得、支持部410内の凹部(または開口部)内に配置され得る突起452を含み得る。したがって、クリップ450は、カメラリグ400内でカメラ405の1つ以上を支持部410に着脱可能に結合するように構成され得る。図4Aに示すように、クリップ450は、クリップ450をカメラおよびカメラリグ(たとえばカメラリグ410)に着脱可能に結合するために用いられ得る突起453を有する。少なくとも図4Aに示すように、クリップ450はカメラ装着リング412の少なくとも一部に結合され得る。
クリップ450Mの突起451Mが配置(たとえば挿入)され得る凹部(または開口部)407Mの例が少なくとも図4Aに示されている。クリップ450Mの突起452Mが配置(たとえば挿入)され得る凹部(または開口部)409Mの例が少なくとも図4Aに示されている。図4Aはクリップ450Mの突起453Mを示す。
図4Jに示すように、マイクマウント460は、カメラリグ(たとえばカメラリグ410)に挿入され得る非対称パターンを規定する3つの突起461を含む。いくつかの実現例では、マイクマウント460は、(異なるパターン(たとえば対称パターン)を有し得る)さまざまな突起、および/またはマイクマウント460をカメラリグに結合するために用いられ得る機構を含み得る。突起461が挿入され得る例示的な開口部471が少なくとも図4A、図4C、図4Eおよび図4Gに示されている。いくつかの実現例では、カメラリグ410は、マイクがマイクマウント460なしでカメラリグ410に直接結合(たとえば着脱可能に結合)され得るように構成され得る。
いくつかの実現例では、カメラリグ410は、三脚などの別のデバイスを装着するための機構を含み得る。いくつかの実現例では、カメラリグ410が三脚に装着され得るように1つ以上の開口部が配置(たとえばカメラリグ410の底部側に配置)され得る。いくつかの実現例では、カメラリグ410を三脚などの別のデバイスに装着するための結合機構は、マイクマウント460の場所と反対側に配置され得る。いくつかの実現例では、カメラリグ410を別のデバイスに装着するための結合機構は、マイクマウント460の場所と同じ側にあり得る。
いくつかの実現例では、カメラリグ410は、車両(たとえばクアッドコプターなどの航空機)などの別のデバイスに着脱可能に結合され得る。いくつかの実現例では、カメラリグ410は、カメラリグ410および関連のカメラ405がクアッドコプターなどの航空機を用いて移動可能であるように十分軽量な材料からなり得る。
いくつかの実現例では、カメラリグ400の支持部410(ならびにクリップ450およびマイクマウント460などの関連の構成要素)は3Dプリンタを用いて印刷可能であるように構成され得る。いくつかの実現例では、支持部410(および関連の構成要素)の1つ以上の部分は、3Dプリンタを用いた印刷を容易にするようにスムーズに(曲線で)規定される曲線を有し得る。
図5Aから図5Cは、実現例に係るカメラリグ500のさまざまな図(それぞれ斜視図、側面図、上面図)を示す図である。本明細書には明示的に記載していないが、カメラリグ500は、上述の図および後述の図に関連して記載される特徴の1つ以上を含む(または含み得る)。
カメラリグ500は支持部510およびカメラ505を含む。本実現例における支持部510は厚紙からなる(たとえば実質的に厚紙からなる)。これには、製造時に軽量でコスト効率が高いという利点がある。図5Aから図5Cに示すように、支持部510は頂部582、側部584、および底部586を含む。いくつかの実現例では、カメラリグ500は異なる形状のカメラ505に対応するように再構成され得る。
本実現例では、頂部582は底部586の形状と同じ形状(たとえば外形または輪郭)を有する。いくつかの実現例では、頂部582は底部586の形状とは異なる形状を有し得る。頂部582は、カメラ505の本体が貫通し得る開口部を含む。
側部584は、カメラ505の1つ以上のレンズ系が貫通し得る開口部を含む。本実現例では、側部584は穿孔エッジを含み、当該エッジは曲げられて、それぞれ頂部582および底部586を支持してこれらに結合され得るタブとして規定され得る。また、側部584はカメラ505の各々と関連付けられている平坦部を有し、平坦部の各々同士の間に曲げ部を含む。
図6は、立体パノラマを生成する際に用いるシーンの画像をキャプチャするように構成された別の例示的なカメラリグ600を図示する図である。カメラリグ600はマウントプレート602上に装着され得る。マウントプレート602は回転可能なベース604上に着座し得る。カメラリグ600は、カメラリグのマウントプレート602の周囲領域を埋める多数の並んだカメラ(たとえばカメラ606〜610)を含む。カメラはリグ600の周囲を埋めるように設置されてもよく、あるいは、ビュー角度を最大化してリグ自体のキャプチャ部分を最小化するように離間していてもよい。
非限定的な例では、円形カメラリグ600は、回転可能なベース604と平行なアーク運動で回転することによって、マウントプレート602上に配置された任意の数のカメラを用いて1セットの画像をキャプチャし得る。いくつかの実現例では、カメラリグ600はマウントプレート602上に配置された隣接カメラを含む。隣接カメラは、約160度から約180度の関連付けられた視野をキャプチャするように同期化され、構成され、位置決めされ得る。他の視野も可能である。いくつかの実現例では、カメラリグ600は回転可能なベース上に装着されず、固定された態様で機能する。
リグ動作の一例では、カメラリグ(たとえばリグ200,300,400,500または600)は特定のリグを取囲んでいるシーンのキャプチャ時に第1の方向に回転し、続いて当該シーンのキャプチャ時に異なる方向に回転し得る。たとえば、カメラリグ600は、リグ600上のカメラ(または隣接カメラ)の1つ以上がカメラリグ600のベース604の中心の両側にオフセットしているビュー方向を有して設置された状態で、時計回りに回転し得る。同様に、カメラリグ600は次いで、任意の数のカメラがシーンの付加的なビューをキャプチャするように左または右を向いた状態で、反時計回り方向に回転し得る。リグ600の1つの例示的な向きでは、他のすべてのカメラは一方向に向けられ得(たとえばカメラレンズが左方向または右方向に角度を付けられ)、中間のカメラは反対(たとえば左向きまたは右向き)方向に向けられる。
いくつかの実現例では、ベース600は固定され得る。たとえば、リグ600上の各カメラは、スチルモードで機能する任意のスチルカメラまたはビデオカメラであり得る。したがって、カメラは、周囲のシーンの画像フレームを同時にキャプチャするように同期化および/または構成され得る。アスペクト同士が互いにスティッチングされてステレオパノラマビューが形成され得る。
いくつかの実現例では、本開示に記載のカメラリグは、円形ハウジング上に装着される任意の数のカメラを含み得る。いくつかの実現例では、カメラは、円形リグの中心から外向きの4方向の各々に隣接カメラがある状態で等距離に装着され得る。この例では、たとえば立体隣接カメラとして構成されるカメラは周囲に沿って外向きに向けられ得、各立体隣接カメラが360度の視野の別個の四分円をキャプチャするように、0度、90度、180度、および270度に配置され得る。一般に、カメラの選択可能な視野は、立体隣接カメラのカメラビューの重なりの量、ならびにカメラ同士および隣接する四分円同士の間の任意の盲点のサイズを決定する。一例のカメラリグは、約120度から最大で約180度の視野をキャプチャするように構成された1つ以上の立体隣接カメラを採用し得る。
いくつかの実現例では、本開示に記載のカメラリグは約5センチメートルから約8センチメートルの直径(たとえば図2の直径206)を有して構成され、人間の瞳孔間距離を模倣して、ユーザが自身の頭または体を4分の1円、半円、全円、または円の他の部分だけ回した場合に当該ユーザが見ることになるものをキャプチャし得る。いくつかの実現例では、直径は、リグを横切るカメラレンズ同士の間の距離を指し得る。いくつかの実現例では、直径は、リグを横切るカメラセンサ同士の間の距離を指し得る。いくつかの実現例では、直径は単に、リング状プレートを横切るエッジ同士の間のマウントプレート(たとえばマウントプレート208)のサイズを指し得る。
いくつかの実現例では、カメラリグは約8センチメートルから約25センチメートルに拡大され、たとえば付加的なカメラ取付具を収容する。いくつかの実現例では、より小さい直径のリグ上により少ないカメラが用いられ得る。そのような例では、本開示に記載のシステムはリグ上のカメラ同士の間のビューを確認または推測して、そのようなビューを実際のキャプチャされたビューでインターリーブし得る。
いくつかの実現例では、本開示に記載のカメラリグを用いて、たとえば回転レンズを有するカメラ、または回転カメラを用いて1回の露光でパノラマ全体をキャプチャすることによってパノラマ画像がキャプチャされ得る。上述のカメラおよびカメラリグは、本開示に記載の方法とともに用いられ得る。特に、1つのカメラリグに関して記載される方法は、本明細書に記載の他のカメラリグのいずれかを用いて実行され得る。いくつかの実現例では、カメラリグおよびその後のキャプチャされたコンテンツは、バーチャルコンテンツ、レンダリングされたコンピュータグラフィックス(CG)コンテンツといった他のコンテンツ、および/または他の得られたもしくは生成された画像と組合され得る。
いくつかの実現例では、カメラリグ600は、リグ上に設置され得る任意の数のカメラを含み得る。リグ600は、たとえば約25センチメートルから約75センチメートルの直径を有し得る。1つの非限定的な例では、リグ600は画像をキャプチャするために用いられる少なくとも3つのカメラを含み得、当該画像を用いて、3D立体画像を生成する目的で深度が計算され得る。たとえば、ベース600は、カメラリグ600のベース604上に設置される第1のカメラ606を含み得る。第1のカメラ606は、ベース604のエッジに対して接線方向である外向きのビュー方向を指し示すように構成され、カメラリグ600のベース604の外向きエッジから約半径1メートルから、ベース604の外向きエッジから約半径5メートルの距離をおいて画像をキャプチャするように配列され得る。
同様に、第2のカメラ608が第1のカメラ606と並んでベース上に設置され得、ベース604のエッジに対して接線方向であるビュー方向を指し示すように構成され、カメラリグ600のベース604の外向きエッジから約半径1メートルから、ベースの外向きエッジから約半径5メートルの距離をおいて画像をキャプチャするように配列され得る。
同様に、第3のカメラ610が第2のカメラ608と並んで、あるいは第1のカメラと並んでベース604上に設置され得る。第3のカメラ610は、ベース604のエッジに対して接線方向であるビュー方向を指し示すように構成され、カメラリグ600のベース604の外向きエッジから約半径1メートルから、ベース604の外向きエッジから約半径5メートルの距離をおいて画像をキャプチャするように配列され得る。いくつかの実現例では、3つのカメラ(606,608および610)は並んで設置されなくてもよい。たとえば、カメラ606,608および610は代わりに、リグ600の周りに、リグ600の一方側で、等間隔にまたは不等間隔に離間していてもよい。
一般に、カメラリグ600上の少なくとも3つのカメラ(たとえばカメラ606,608,610)を用いてキャプチャされた画像を用いて、特定のシーンについての深度測定が計算され得る。深度測定を用いて、シーン(またはシーンからの画像)の一部が3D立体コンテンツに変換され得る。たとえば、補間モジュール114は深度測定を用いて3D立体コンテンツを生成し得、これは360度ステレオビデオ画像にスティッチングされ得る。
図7は、例示的なVRデバイス(VRヘッドセット)702を示す図である。ユーザは、ゴーグル、サングラス等を被るのと同様にヘッドセット702を自身の目に被せることによってVRヘッドセット702を身に付けることができる。いくつかの実現例では、図1を参照して、VRヘッドセット702は、1つ以上の高速有線および/または無線通信プロトコル(たとえば、Wi−Fi、ブルートゥース(登録商標)、ブルートゥースLE、USB等)を用いて、またはHDMI(登録商標)インターフェイスを用いることによって、コンピューティングデバイス106,108または112の多数のモニタにインターフェイス/接続し得る。当該接続によって、VRヘッドセット702に含まれているスクリーン(図示せず)上でユーザに表示するためのバーチャルコンテンツがVRヘッドセット702に提供され得る。いくつかの実現例では、VRヘッドセット702はキャスト対応デバイスであり得る。これらの実現例では、ユーザはコンテンツをVRヘッドセット702に提供するか「キャストする」(投影する)かを選択し得る。
さらに、VRヘッドセット702は、1つ以上の高速有線および/または無線通信インターフェイスおよびプロトコル(たとえば、Wi−Fi、ブルートゥース、ブルートゥースLE、ユニバーサルシリアルバス(USB)等)を用いてコンピューティングデバイス104にインターフェイス/接続し得る。コンピューティングデバイス(図1)はVRヘッドセット702へのインターフェイスを認識し得、これに応答して、バーチャルコンテンツを含むコンピュータで生成された3D環境(VR空間)においてユーザおよびコンピューティングデバイスをレンダリングするVRアプリケーションを実行し得る。
いくつかの実現例では、VRヘッドセット702はVRアプリケーションを実行可能なリムーバブルコンピューティングデバイスを含み得る。リムーバブルコンピューティングデバイスはコンピューティングデバイス108または112と同様であり得る。リムーバブルコンピューティングデバイスはVRヘッドセット(たとえばVRヘッドセット702)のケーシングまたはフレーム内に組込まれ得、当該VRヘッドセットは次いでVRヘッドセット702のユーザによって身に付けられ得る。これらの実現例では、リムーバブルコンピューティングデバイスは、ユーザがコンピュータで生成された3D環境(VR空間)と対話する際に見るディスプレイまたはスクリーンを提供し得る。上述のように、モバイルコンピューティングデバイス104は有線または無線インターフェイスプロトコルを用いてVRヘッドセット702に接続し得る。モバイルコンピューティングデバイス104はVR空間におけるコントローラであり得、VR空間におけるオブジェクトとして現れ得、VR空間に入力を提供し得、VR空間からフィードバック/出力を受信し得る。
いくつかの実現例では、モバイルコンピューティングデバイス108はVRアプリケーションを実行し得、VR空間を形成するためのデータをVRヘッドセット702に提供し得る。いくつかの実現例では、VRヘッドセット702に含まれているスクリーン上でユーザに対して表示されるVR空間のためのコンテンツは、モバイルコンピューティングデバイス108に含まれているディスプレイデバイス上でも表示され得る。これによって、ユーザがVR空間において対話している可能性があるものを他の誰かも見ることができる。
VRヘッドセット702は、モバイルコンピューティングデバイス108の位置および向きを示す情報およびデータを提供し得る。VRアプリケーションは、当該位置および向きのデータをVR空間内のユーザ対話を示すものとして受信して使用し得る。
図8は、カメラ(および隣接カメラ)の数をカメラ視野の関数として示す例示的なグラフ800である。グラフ800は、立体パノラマを生成するための予め規定された視野についてカメラリグ上に配置され得るカメラの数を求めるために用いられ得る例示的なグラフを表わす。グラフ800を用いて、特定のステレオパノラマ結果を保証するためのカメラ設定およびカメラ設置が計算され得る。1つの例示的な設定は、特定のカメラリグに取付けるべきカメラの数の選択を含み得る。別の設定は、キャプチャ時、前処理または後処理ステップ時に用いられるアルゴリズムを求めることを含み得る。たとえば、オプティカルフロー補間技術については、完全な360度パノラマをスティッチングすることは、すべての光線方向が少なくとも2つのカメラによって見られるべきであることを要求し得る。これによって、完全な360度をカバーするために用いられるカメラの最小数がカメラ視界であるテータ[θ]の関数として制約され得る。オプティカルフロー補間技術は、隣接カメラ(またはペア)によって、または個々のカメラによって実行されて構成され得る。
図8に示すように、関数802を示すグラフが図示されている。関数802は、カメラの数[n]804をカメラ視野[θ]806の関数として表わしている。この例では、約95度のカメラ視野が線808によって示されている。線808と関数802との交差点810は、各々が95度の視野を有する16個のカメラを用いると所望のパノラマ結果が提供されることを示している。そのような例では、カメラリグは、カメラの隣接セット毎に隣接カメラをインターリーブして、隣接カメラをリグ上に設置する際に発生し得る任意の空間を用いることによって構成され得る。
隣接カメラをインターリーブすることに加えて、オプティカルフロー要件は、システム100が同じ種類のカメラ同士の間のオプティカルフローを計算することを要求し得る。すなわち、オプティカルフローは、両方を同時に計算するのではなく、第1のカメラについて、次いで第2のカメラについて計算され得る。一般に、画素におけるフローは、向き(たとえば方向および角度)ならびに大きさ(たとえば速度)として計算され得る。
図9は、補間された視野[θ1]902をカメラの視野[θ]904の関数として示す例示的なグラフ900である。グラフ900を用いて、カメラの視野のどの部分がその左右の隣接カメラと共有されているかが求められ得る。ここで、(線906によって示される)約95度のカメラ視野において、補間された視野は、交差点908によって示すように、約48度として示されている。
2つの連続したカメラは全く同じ視野の画像を典型的にキャプチャしないと仮定して、補間されたカメラの視野は、隣接カメラ同士の視野の交差点によって表わされる。補間された視野[θ1]は次いで、カメラ視野[θ]および隣接カメラ同士の間の角度の関数となり得る。(図8に示す方法を用いて)所与のカメラ視野について最小数のカメラが選択された場合は、図9に示すように[θ1]が[θ]の関数として計算され得る。
図10は、カメラリグについてのコンフィギュレーションの選択を示す例示的なグラフ1000である。特に、グラフ1000は、どれほど大きい特定のカメラリグが設計され得るかを求めるために用いられ得る。グラフ1000は、リグ直径[センチメートルで表わすD]1004の関数としてスティッチング比[d/D]1002のプロットを図示している。快適なバーチャルリアリティパノラマ視聴体験を作り出すために、全方位ステレオスティッチング直径[d]は、本開示の例では、典型的な人間のIPDである約5センチメートルから約6.5センチメートルであるように選択される。いくつかの実現例では、スティッチング直径[d]とほぼ同じキャプチャ直径[D]を用いて全方位ステレオスティッチングが実行され得る。すなわち、約「1」のスティッチング比を維持することによって、たとえば全方位ステレオ画像の後処理におけるスティッチングが容易になり得る。スティッチングに用いられる光線は実際のカメラキャプチャされた光線と同じであるので、この特定のコンフィギュレーションによって歪みが最小化され得る。選択されたカメラの数が大きい(たとえばリグ毎に12〜18個のカメラ)場合、「1」のスティッチング比を得ることは困難であり得る。
リグ上のカメラが多すぎるという問題を緩和するために、リグサイズは、付加的なカメラを収容してスティッチング比を同じ(または実質的に同じ)ままに維持できるようにより大きいサイズで設計され得る。スティッチングアルゴリズムが、キャプチャ時にレンズの中心近くで撮影された画像内のコンテンツを確実にサンプリングするように、スティッチング比はリグに対するカメラの角度[α]を求めるように固定され得る。たとえば、図10は、レンズの中心近くでサンプリングすると画像品質が向上し、幾何学的な歪みが最小化されることを示す。特に、角度[α]が小さいほどリグオクルージョン(たとえば、カメラがリグ自体の部品を撮像すること)を回避するのに役立ち得る。
図10の1006に示すように、0.75のスティッチング比[d/D]は約6.5センチメートルのリグ直径(すなわち典型的な人間のIPD)に対応する。スティッチング比[d/D]を約0.45まで減少させるとリグ直径を(1008に示す)約15センチメートルに増加させることができ、これによって付加的なカメラをリグに追加することができる。カメラリグに対するカメラの角度は、選択されたスティッチング比に基づいて調整され得る。たとえば、カメラ角度を約30度に調整することは、リグ直径が約12.5センチメートルまで大きくなり得ることを示す。同様に、カメラ角度を約25度に調整することは、リグ直径が15センチメートルまで大きくなり、たとえば、ユーザに対してレンダリングし返される際に適切な視差および視覚効果を依然として維持することができることを示す。
一般に、リグ直径[D]を仮定して、最適なカメラ角度[α]が計算され得る。[α]から、最大視野[Θu]が計算され得る。最大視野[Θu]は一般に、リグがカメラを部分的にオクルージョンしない視野に対応する。最大視野は、カメラリグがオクルージョンされていないビューを依然として提供しつつどれほど少数のカメラを保持可能であるかを制限し得る。
図11は、予め規定されたリグ直径に従ってカメラの最小数を求めるために用いられ得る例示的な関係を示すグラフ1100である。ここで、所与のリグ直径[D]1104についてのカメラの最小数[nmin]1102が示されている。リグ直径[D]1104はオクルージョンされていない最大視野を制限し、これはカメラの最小数を制限するように機能する。グラフの1106に示すように、約10センチメートルのリグ直径について、最小で16個のカメラがカメラリグ内で用いられてオクルージョンされていないビューが提供され得る。リグ直径を修正することによって、リグ上に設置されるカメラの数を増減させることができる。一例では、リグは、約8センチメートルから約25センチメートルのリグサイズ上に約12個から約16個のカメラを収容し得る。
視野および画像キャプチャ設定を微調整する他の方法も利用可能であるので、これらの計算をこれら他の方法と組合せてカメラリグ寸法をさらに改良することができる。たとえば、オプティカルフローアルゴリズムを用いて、全方位ステレオパノラマをスティッチングするために典型的に用いられるカメラの数を変更する(たとえば減らす)ことができる。いくつかの実現例では、本開示に図示される、または本開示に記載のシステムおよび方法から生成されるグラフを組合せて用いて、たとえばHMDデバイスにおいてレンダリングするためのバーチャルコンテンツを生成することができる。
図12A〜図12Bは、画像キャプチャ時に起こり得る歪みの線画の例を表わす。特に、ここに示す歪みは、ステレオパノラマをキャプチャする際に起こる影響に対応する。一般に、歪みは、シーンをキャプチャしているカメラに近接して当該シーンがキャプチャされるとより深刻になり得る。図12Aは、2メートル×2メートルの、カメラ中心から外向きに1メートルおいて配置されたシーン内の平面を表わす。図12Bは図12Aと同じ平面であるが、この図の平面はカメラから外向きに25センチメートルおいて配置されている。両図とも6.5センチメートルのキャプチャ直径を用いている。図12Aは1202において中心近くの若干の伸長を示しており、図12Bはより膨張した中心1204を示している。この歪みを補正するために多数の技術が採用され得る。以下の段落では、画像コンテンツをキャプチャした近似方法およびシステム(たとえばカメラリグ/キャプチャデバイス)を用いて投影(たとえば球面および平面投影)を分析して歪みを補正することを説明する。
図13A〜図13Bは、パノラマ画像の収集時にキャプチャされた光線の例を図示する。図13Aは、キャプチャされた1セットの画像を仮定して、透視画像がキャプチャ経路1302上のどこでも左右両目について生成され得ることを示す。ここで、左目についての光線は光線1304aによって示されており、右目についての光線は1306aにおいて示されている。いくつかの実現例では、図示される光線の各々は、カメラセットアップ、動作不良、または単にシーンの不十分なリグセットアップのためにキャプチャされない場合がある。このため、光線1304aおよび1306aの一部が近似(たとえば他の光線に基づいて補間)され得る。たとえば、シーンが無限に遠く離れている場合は、シーンの1つの測定可能な特徴は、原点から目的地までの光線方向を含む。
いくつかの実現例では、光線の原点は収集可能でない場合がある。したがって、本開示のシステムは左目および/または右目を近似して光線の原点位置を求め得る。図13Bは、右目について近似された光線方向1306bから1306fを示す。この例では、光線が同じ点から生じているのではなく、各光線は円1302上の異なる点から生じている。光線1306bから1306fは円1302をキャプチャするように接線方向に角度を付けて示されており、キャプチャ円1302の周囲の特定の領域に配置されている。また、2つの異なる画像センサ、すなわちカメラリグと関連付けられている画像センサ13−1および画像センサ13−2(カメラと関連付けられているかカメラに含まれている)の位置がカメラリグ円1303上に示されている。図13Bに示すように、カメラリグ円1303はキャプチャ円1302より大きい。
多数の光線(ならびに各光線と関連付けられている画像の色および強度)は、円から外向きの異なる方向を用いてこのように近似され得る。このように、多くの画像を含む360度パノラマビュー全体が左右両目のビューに提供され得る。この技術は範囲中央のオブジェクトの歪みを解決し得るが、場合によっては、近くのオブジェクトを撮像する際に依然として変形を有し得る。簡潔にするために、近似された左目光線方向は図示していない。この例示的な実現例では、いくつかの光線1306bから1306fのみを示している。しかし、何千ものそのような光線(およびそれらの光線と関連付けられている画像)が規定され得る。したがって、光線の各々と関連付けられている多くの新たな画像が規定(たとえば補間)され得る。
図13Bに示すように、光線1306bは画像センサ13−1と画像センサ13−2との間に投影される。画像センサ13−1は画像センサ13−2に隣接している。光線は、画像センサ13−1(たとえば画像センサ13−1の投影中心)からの距離G1、および画像センサ13−2(たとえば画像センサ13−2の投影中心)からの距離G2であり得る。距離G1およびG2は、光線1306bがカメラリグ円1303と交差する場所に基づき得る。距離G1は距離G2とは異なっていても(たとえば距離G2より大きくても小さくても)よい。
光線1306bと関連付けられている画像(たとえば補間された画像、新たな画像)を規定するために、画像センサ13−1がキャプチャした第1の画像(図示せず)は、画像センサ13−2がキャプチャした第2の画像(図示せず)と組合される(たとえば互いにスティッチングされる)。いくつかの実現例では、オプティカルフロー技術を用いて第1の画像と第2の画像とが組合され得る。たとえば、第2の画像からの画素に対応する第1の画像からの画素が識別され得る。
たとえば光線1306bと関連付けられている画像を規定するために、対応する画素が距離G1およびG2に基づいてシフトされる。画像センサ13−1,13−2の解像度、アスペクト比、高度等は、光線1306bについての画像(たとえば新たな画像)を規定する目的で同じであると仮定され得る。いくつかの実現例では、解像度、アスペクト比、高度等は異なっていてもよい。しかし、そのような実現例では、それらの差異を調節するために補間を修正しなければならなくなる。
具体例として、第1の画像内のオブジェクトと関連付けられている第1の画素が、第2の画像内のオブジェクトと関連付けられている第2の画素と対応するとして識別され得る。第1の画像は(カメラリグ円1303の周りの第1の場所にある)画像センサ13−1の透視からキャプチャされ、第2の画像は(カメラリグ円1303の周りの第2の場所にある)画像センサ13−2の透視からキャプチャされるので、オブジェクトは、第2の画像内の位置(たとえばX−Y座標位置)と比較して第1の画像内で位置(X−Y座標位置)がシフトされる。同様に、オブジェクトと関連付けられている第1の画素は、これもオブジェクトと関連付けられている第2の画素に対して位置(たとえばX−Y座標位置)がシフトされる。光線1306bと関連付けられている新たな画像を生成するために、第1の画素および第2の画素(ならびにオブジェクト)と対応する新たな画素が距離G1とG2との比に基づいて規定され得る。具体的には、新たな画素は、距離G1に基づく(かつ第1の画素の位置と第2の画素の位置との間の距離に基づく分だけスケール変更される)第1の画素、および距離G2に基づく(かつ第1の画素の位置と第2の画素の位置との間の距離に基づく分だけスケール変更される)第2の画素から位置がシフトされた場所に規定され得る。
上述の実現例によると、第1の画像および第2の画像と一致している光線1306bと関連付けられている新たな画像についての視差が規定され得る。具体的には、カメラリグに比較的近いオブジェクトは、カメラリグから比較的遠いオブジェクトより大量にシフトされ得る。この視差は、光線1306bの距離G1およびG2に基づいて(たとえば第1の画素および第2の画素からの)画素をシフトする間も維持され得る。
このプロセスは、キャプチャ円1302の周りのすべての光線(たとえば光線1306bから1306f)について繰返され得る。キャプチャ円1302の周りの光線の各々と関連付けられている新たな画像は、カメラリグ円1303の周りの光線および画像センサ(たとえば隣接画像センサ、画像センサ13−1,13−2)の各々同士の間の距離に基づいて規定され得る。
図13Bに示すように、カメラリグ円1303の直径はキャプチャ円1302の直径より大きい。いくつかの実現例では、カメラリグ円1303の直径は、キャプチャ円1302の直径より1.5倍から8倍大きくてもよい。具体例として、キャプチャ円の直径は6センチメートルであってもよく、カメラリグ円1303(たとえば図4Aに示すカメラ装着リング412)の直径は30センチメートルであってもよい。
図14A〜図14Bは、図13A〜図13Bにおいて記載したような、平面透視投影の近似の使用例を示す。図14Aは、平面透視光線および投影を近似する前の歪み線を有するパノラマシーンを示す。示されるように、カーテンロッド1402a、窓枠1404a、およびドア1406aは曲線特徴を有するオブジェクトとして図示されているが、実際にはそれらは直線特徴のオブジェクトである。直線特徴のオブジェクトとして、曲面を有さないオブジェクト(たとえば平坦なインデックスカード、四角い箱、矩形の窓枠等)が挙げられる。この例では、オブジェクト1402a,1404aおよび1406aは画像内で歪んでいるために曲線として示されている。図14Bは、平面透視投影が90度の水平視野で近似された補正画像を示す。ここで、カーテンロッド1402a、窓枠1404a、およびドア1406aは、それぞれ補正された直線オブジェクト1402a,1404bおよび1404cとして示されている。
図15A〜図15Cは、画像の平面に適用される近似された平面透視投影の例を示す。図15Aは、本開示に記載の技術を用いてパノラマから撮られた平面透視投影を示す。図示される平面ビュー1500は、たとえば図14Bの画像内に示される平面のオーバーレイを表わし得る。特に、図15Aは、曲線が直線に投影される補正された図14Aを表わす。ここで、パノラマの平面1500は1メートルの距離をおいて(90度の水平視野で)示されている。線1502,1504,1506および1508は直線であるが、(図14Aに対応する)以前は、同じ中心線は湾曲して歪んでいた。
選択された投影スキームに基づいて他の歪みも発生し得る。たとえば、図15Bおよび図15Cは、本開示の技術を用いてパノラマから撮られた平面透視投影を用いて生成された平面(1510および1520)を表わす。パノラマは25センチメートルの距離をおいて(90度の水平視野)キャプチャされた。図15Bは左目キャプチャ1510を示し、図15Cは右目キャプチャ1520を示す。ここで、平面の底部(1512,1522)は直線に投影されておらず、垂直視差が導入されている。この特定の変形は、平面透視投影が用いられると発生し得る。
図16A〜図16Bは、垂直視差を導入する例を示す。図16Aは、典型的な全方位ステレオパノラマ技術に従ってキャプチャされている直線1602aを図示する。図示される例では、各光線1604a〜1618aは円1622上の異なる点から生じている。
図16Bは、透視近似技術を用いて見たときの同じ直線を図示する。示されるように、直線1602aは線1602bとして変形して示されている。光線1604b〜1618bは円1622上の単一点から生じている。この変形は、線1602bの左半分を視聴者に近づけ、当該線の右半分を視聴者から遠ざける効果を有し得る。左目については、反対のことが起こり得、すなわち、線の左半分が遠くに見え、線の右半分が近くに見える。この変形線は、パノラマレンダリング円1622の直径1624に等しい距離だけ離れている2本の漸近線同士の間で湾曲している。この変形はパノラマキャプチャ半径と同じサイズであるとして示されているので、当該変形は近くのオブジェクト上でしか目立たない場合がある。この変形の形態は、画像を見ているユーザにとっての垂直視差につながり得、これによって、歪み画像に対してスティッチング処理が行なわれる際にフュージングが困難になり得る。
図17A〜図17Bは、3Dパノラマにおける点を示すために用いられ得る座標系の例示的な点を図示する。図17A〜図17Bは、本開示に記載のパノラマ技術によって撮像された点(0,Y,Z)1702を図示する。左右パノラマ内へのこの点の投影は、式(1)および(2)において以下に示すようにそれぞれ(−θ,φ)および(θ,φ)によって表わされ得る:
式中、γ1704はパノラマキャプチャの半径である。
図17Aは、点(0,Y,Z)1702のパノラマ撮像のトップダウン図を図示する。図17Bは、点(0,Y,Z)1702のパノラマ撮像の側面図を図示する。示される点は、左パノラマにおいて(−θ,φ)に投影され、右パノラマにおいて(θ,φ)に投影される。これら特定の図はキャプチャされたままの状態であり、まだ別の平面に投影されていない。
図18は、図17A〜図17Bに図示した点の投影図を表わす。ここで、点1702の透視ビューは、図18の1802によって示すように、y軸の周りの回転角度[α]を有して水平方向を見るように向けられている。この透視投影は光線方向のみを考慮しているため、パノラマ投影1802内の点1702を見る光線を透視カメラの基準フレームに変換することによって、点1702が沿って投影される光線を見つけることができる。たとえば、点1702は以下の表1に示す以下の光線に沿って投影される:
透視分割を行なって、以下の表2の式によって示すように、点投影が求められ得る:
θ=π/2(無限に遠く離れている元の3D点1702に対応する)である場合は、点1702は両透視画像における同一のy座標に全体的に投影されるため、垂直視差はない。しかし、θがπ/2から離れるにつれて(点がカメラに近づくにつれて)、投影されたy座標は(点1702に向かって見ている透視ビューに対応するα=0である場合を除いて左右の目で異なるようになる。
いくつかの実現例では、画像およびシーンを特定の態様でキャプチャすることによって歪みを回避することができる。たとえば、カメラの近接場(すなわちカメラまで1メートル未満)内でシーンをキャプチャすると、歪み要素が現れ得る。したがって、外向きに1メートルからシーンまたは画像をキャプチャすることは歪みを最小化させる方法である。
いくつかの実現例では、歪みは深度情報を用いて補正され得る。たとえば、あるシーンについての正確な深度情報を仮定して、歪みを補正することが可能であり得る。すなわち、歪みは現在のビュー方向に依存し得るため、レンダリング前に単一の歪みをパノラマ画像に適用できない場合がある。代わりに、深度情報をパノラマとともに伝えてレンダリング時に用いることができる。
図19は、本開示に記載のパノラマ撮像技術を用いて全方向ステレオ画像内にキャプチャされた光線を示す。この例では、円1900の周りで時計回り方向を指し示している光線1902,1904,1906は左目についての光線に対応する。同様に、円1900の周りで反時計回り方向を指し示している光線1908,1910,1912は右目についての光線に対応する。反時計回りの各光線は、同じ方向を見ている円の反対側に、対応する時計回りの光線を有し得る。これによって、単一の画像内に表わされる光線の方向の各々について左/右ビュー光線が提供され得る。
本開示に記載のパノラマについて1セットの光線をキャプチャすることは、カメラ(図示せず)を円1900上で移動させてカメラを円1900に対して接線方向に整列させる(たとえば、カメラレンズをシーンにおいて外側を向いて円1900に対して接線方向を指し示すようにする)ことを含み得る。左目については、カメラは右を指し示し得る(たとえば、光線1904は中心線1914aの右側にキャプチャされる)。同様に、右目については、カメラは左を指し示し得る(たとえば、光線1910は中心線1914aの左側にキャプチャされる)。円1900の他方側および中心線1914bの下にあるカメラについては、中心線1914bを用いて同様の左右領域が規定され得る。全方向ステレオ画像を生成することは、実際のカメラキャプチャに、または以前にレンダリングされたコンピュータグラフィック(CG)コンテンツに効果的である。ビュー補間を、キャプチャされたカメラコンテンツおよびレンダリングされたCGコンテンツの両方とともに用いて、たとえば円1900上の実際のカメラ同士の間の点のキャプチャがシミュレートされ得る。
1セットの画像をスティッチングすることは、パノラマ画像を記憶するための球面/正距円筒図法の投影を用いることを含み得る。一般に、この方法では各目に1つずつ、2つの画像が存在する。正距円筒図法を用いた画像内の各画素は球面上の方向に対応する。たとえば、x座標は経度に対応し得、y座標は緯度に対応し得る。単一の全方向画像については、画素についてのビュー光線の原点は同じ点であり得る。しかし、ステレオ画像については、各ビュー光線も円1900上の異なる点から生じ得る。次いで、キャプチャされた画像内の各画素を分析し、投影モデルから理想的なビュー光線を生成し、ビュー光線が理想的な光線と最も一致しているキャプチャされたまたは補間された画像から画素をサンプリングすることによって、キャプチャされた画像からパノラマ画像がスティッチングされ得る。次に、光線値が互いに混合されてパノラマ画素値が生成され得る。
いくつかの実現例では、オプティカルフローベースのビュー補間を用いて、円1900上の1度毎に少なくとも1つの画像が生成され得る。いくつかの実現例では、列内の1つの画素が所与の画像からサンプリングされる場合は、その列内の他の画素はその同じ画像からサンプリングされるであろうと判断され得るので、パノラマ画像の列全体が一度に埋められ得る。
本開示のキャプチャおよびレンダリング局面で用いられるパノラマフォーマットによって、左右の目が見るオブジェクトの画像座標は水平シフトのみが異なることが保証され得る。この水平シフトは視差として知られている。これは正距円筒図法の投影に当てはまり、この投影では、オブジェクトは非常に歪んでいると見える場合がある。
この歪みの大きさは、カメラまでの距離およびビュー方向に依存し得る。歪みは、線が曲がった歪み、異なる左右の目の歪みを含み得、いくつかの実現例では、視差はもはや水平に見えない場合がある。一般に、垂直視差の(画像球面上の)1〜2度は人間のユーザによって無理なく許容され得る。また、歪みは周囲目線のオブジェクトについては無視され得る。これは、中心のビュー方向からずれた約30度と相関している。これらの知見に基づいて、不快な歪みを回避するためにオブジェクトが貫通すべきでないカメラの近くの区域を規定する限界が構成され得る。
図20は、3D空間における点に起因する最大垂直視差を示すグラフ2000である。特に、グラフ2000は、3D空間における点に起因する最大垂直視差(度で表わす)を、それらが画像の中心から30度に投影されると仮定して図示している。グラフ2000は、カメラからの水平位置(メートルで表わす)に対するカメラ中心からの垂直位置(メートルで表わす)をプロットしている。この図では、カメラは原点[0,0]における場所である。グラフが原点から離れるにつれて、歪みの程度は軽くなる。たとえば、グラフ上の(垂直方向の)約0から1の2002、および0から−1の2004において、歪みは最悪である。これは、(原点に設置された)カメラの真上および真下の画像に対応する。シーンが外側に移動するにつれて歪みは少なくなり、カメラが点2006および2008においてシーンを撮像する時までには、0.5度の垂直視差にしか遭遇しない。
30度を超えた周囲の歪みを無視できる場合は、ビュー方向が両極の30度以内であるすべての画素が除去され得る。周囲閾値が15度に許可される場合は、15度分の画素が除去され得る。除去された画素は、たとえば、カラーブロック(たとえば黒、白、マゼンタ等)または静止画像(たとえばロゴ、公知の境界、テクスチャ加工された層等)に設定され得、除去された画素の新たな表現が除去された画素の代わりにパノラマに挿入され得る。いくつかの実現例では、除去された画素はぼやけている場合があり、除去された画素のぼやけた表現が除去された画素の代わりにパノラマに挿入され得る。
図21は、ステレオパノラマ画像を生成するプロセス2100の一実施形態を図示するフローチャートである。図21に示すように、ブロック2102において、システム100はキャプチャされた画像に基づいて1セットの画像を規定し得る。当該画像は、前処理された画像、後処理された画像、バーチャルコンテンツ、ビデオ、画像フレーム、画像フレームの一部、画素等を含み得る。
規定された画像は、たとえば、ヘッドマウントディスプレイ(HMD)を用いてコンテンツ(たとえばVRコンテンツ)にアクセスしているユーザによってアクセスされ得る。システム100はユーザが行なう特定のアクションを判断し得る。たとえば、ある点で、システム100はブロック2104において、VR HMDのユーザと関連付けられているビュー方向を受信し得る。同様に、ユーザが自身のビュー方向を変更した場合、システムはブロック2106において、ユーザのビュー方向の変更の指示を受信し得る。
そのようなビュー方向の変更の指示を受信したことに応答して、システム100はブロック2108に示すように、1セットの画像の一部の再投影を構成し得る。再投影は、変更されたビュー方向、およびキャプチャされた画像と関連付けられている視野に少なくとも部分的に基づき得る。視野は1度から180度であり得、シーンのほんのわずかな画像からシーンの全パノラマ画像までを説明し得る。構成された再投影を用いて、1セットの画像の一部が球面透視投影から平面投影に変換され得る。いくつかの実現例では、再投影は、曲線経路の周りに配列された複数の視点からの1セットの画像と関連付けられているビュー光線の一部を球面透視投影から平面透視投影に再キャストすることを含み得る。
再投影を完了すると、システム100はブロック2110に示すように、再投影に基づいて更新されたビューをレンダリングし得る。更新されたビューは、歪みを補正してステレオ視差をユーザに提供するように構成され得る。ブロック2112において、システム100は、変更されたビュー方向に対応するステレオパノラマシーンを含む更新されたビューを提供し得る。たとえば、システム100は、更新されたビューを提供して(再投影前の)元のビュー内の歪みを補正し得、VRヘッドマウントディスプレイのディスプレイにおいてステレオ視差効果を提供し得る。
図22は、ステレオパノラマ画像をキャプチャするプロセス2200の一実施形態を図示するフローチャートである。ブロック2202において、システム100は、少なくとも1セットの隣接カメラから収集されたキャプチャ済のビデオストリームに基づいて1セットの画像を規定し得る。たとえば、システム100は(図2および図5に示すような)隣接カメラ、または(図3および図6に示すような)複数セットの隣接カメラを用い得る。いくつかの実現例では、システム100は、約12個から約16個のカメラから収集されたキャプチャ済のビデオストリームを用いて1セットの画像を規定し得る。いくつかの実現例では、システム100は一部のまたはすべてのレンダリングされたコンピュータグラフィックス(CG)コンテンツを用いて1セットの画像を規定し得る。
ブロック2204において、システム100は1セットの画像内のオプティカルフローを計算し得る。たとえば、1セットの画像内のオプティカルフローを計算することは、上記に詳述したように、1セットの画像と関連付けられている画素列の一部について画像強度フィールドを分析すること、および画素列の当該一部に対してオプティカルフロー技術を実行することを含み得る。
いくつかの実現例では、オプティカルフローを用いて、(ブロック2206によって示す)上記に詳述したように、1セットの画像の一部ではない画像フレームが補間され得る。システム100は次いで、オプティカルフローに少なくとも部分的に基づいて画像フレームと1セットの画像とを互いにスティッチングし得る。ブロック2208において、システム100はインターリーブされたフレームおよび1セットの画像を用いて、VRヘッドマウントディスプレイにおいて表示するための全方位ステレオパノラマを生成し得る。いくつかの実現例では、システム100は少なくとも1セットのステレオ隣接カメラと関連付けられているポーズ情報を用いて画像スティッチングを実行し、たとえば、インターリーブを実行する前に1セットの画像の一部を予めスティッチングし得る。
図23は、ヘッドマウントディスプレイにおいてパノラマ画像をレンダリングするプロセス2300の一実施形態を図示するフローチャートである。図23に示すように、ブロック2302において、システム100は1セットの画像を受信し得る。当該画像は、回転可能なカメラリグからキャプチャされたコンテンツを図示し得る。ブロック2304において、システム100は画像内の画像フレームの部分を選択し得る。画像フレームは、カメラリグでキャプチャされたコンテンツを含み得る。システム100はキャプチャされたコンテンツの任意の部分を用い得る。たとえば、システム100は、カメラリグのベースの外向きエッジから約半径1メートルから、カメラリグのベースの外向きエッジから約半径5メートルの距離からリグによってキャプチャされたコンテンツを含む画像フレームの一部を選択し得る。いくつかの実現例では、この選択は、ユーザがどれほど遠くまで3Dコンテンツを認識し得るかに基づき得る。ここで、カメラから1メートルからカメラから約5メートルの距離は、ユーザが3Dコンテンツを見ることができる「区域」を表わし得る。それより短いと3Dビューは歪むことがあり、それより長いとユーザは3D形状を確認できない場合がある。すなわち、シーンは遠くからでは単に2Dに見える場合がある。
ブロック2306において、画像フレームの選択された部分同士が互いにスティッチングされて立体パノラマビューが生成され得る。この例では、スティッチングは、選択された部分と、選択された部分内の少なくとも1つの他の画像フレームとの一致とに少なくとも部分的に基づき得る。ブロック2308において、パノラマビューがHMDデバイスなどのディスプレイにおいて提供され得る。いくつかの実現例では、スティッチングは、カメラリグの直径に少なくとも部分的に基づいて選択されたスティッチング比を用いて実行され得る。いくつかの実現例では、スティッチングは、第1の画像フレーム内の第1の画素列を第2の画像フレーム内の第2の画素列と突合せ、第2の画素列を第3の画像フレーム内の第3の画素列と突合せて、まとまりのあるシーン部分を形成する多数のステップを含む。いくつかの実現例では、多くの画素列がこのように突合され組合されてフレームが形成され得、それらのフレームが組合されて画像が形成され得る。さらに、それらの画像が組合されてシーンが形成され得る。
いくつかの実現例では、方法2300は、システム100を用いて、画像フレームの当該部分の一部ではない付加的な画像フレームを補間する補間ステップを含み得る。そのような補間は、たとえば、遠く離れたカメラによってキャプチャされた画像同士の間にフローが確実に起こるように実行され得る。付加的な画像コンテンツの補間が実行されると、システム100は付加的な画像フレームを画像フレームの当該部分にインターリーブしてビューのバーチャルコンテンツを生成し得る。このバーチャルコンテンツは、付加的な画像フレームでインターリーブされた画像フレームの部分として互いにスティッチングされ得る。この結果は、たとえば更新されたビューとしてHMDに提供され得る。この更新されたビューは、画像フレームおよび付加的な画像フレームの当該部分に少なくとも部分的に基づき得る。
図24は、画像境界を求めるプロセス2400の一実施形態を図示するフローチャートである。ブロック2402において、システム100は、少なくとも1セットの隣接カメラから収集されたキャプチャ済のビデオストリームに基づいて1セットの画像を規定し得る。たとえば、システム100は(図2および図5に示すような)1セットの隣接カメラ、または(図3および図6に示すような)複数セットの隣接カメラを用い得る。いくつかの実現例では、システム100は、約12個から約16個のカメラから収集されたキャプチャ済のビデオストリームを用いて1セットの画像を規定し得る。いくつかの実現例では、システム100は一部のまたはすべてのレンダリングされたコンピュータグラフィックス(CG)コンテンツを用いて1セットの画像を規定し得る。いくつかの実現例では、1セットの画像に対応するビデオストリームは符号化ビデオコンテンツを含む。いくつかの実現例では、1セットの画像に対応するビデオストリームは、180度の視野を用いて構成された少なくとも1セットの隣接カメラで取得されたコンテンツを含み得る。
ブロック2404において、システム100は、1つの視点への円形路の一部に配列された複数の視点からの1セットの画像の一部と関連付けられているビュー光線を再キャストすることによって、透視画像面からの1セットの画像の一部を画像球面上に投影し得る。たとえば、1セットの画像は、多数のカメラをホストし得る円形のカメラリグによってキャプチャされ得る。各カメラは視点と関連付けられ得、それらの視点はシーンにおいてカメラリグから外向きに方向付けられている。特に、単一点から生じるのではなく、ビュー光線はリグ上の各カメラから生じている。システム100は経路上のさまざまな視点からの光線を単一の視点に再キャストし得る。
ブロック2406において、システム100は単一の視点に対応する周囲境界を求め、周囲境界外部の画素を除去することによって更新画像を生成し得る。周囲境界は、歪んだ画像コンテンツから明確で簡潔な画像コンテンツの輪郭を描き得る。いくつかの実現例では、周囲境界は、ユーザの典型的な周囲ビュー領域外部のビューに関連し得る。そのような画素を除去することによって、歪んだ画像コンテンツがユーザに不必要に提示されないことが保証され得る。画素を除去することは、上記に詳述したように、画素をカラーブロック、静止画像、または画素のぼやけた表現で置換することを含み得る。いくつかの実現例では、周囲境界は、キャプチャされた画像と関連付けられている1つ以上のカメラについて約150度の視野に規定される。いくつかの実現例では、周囲境界は、キャプチャされた画像と関連付けられている1つ以上のカメラについて約120度の視野に規定される。いくつかの実現例では、周囲境界は、キャプチャされた画像と関連付けられているカメラについてビュー平面より上の約30度に対応する球状の一部であり、画素を除去することは球状シーンの上部を黒く塗り潰すか除去することを含む。いくつかの実現例では、周囲境界は、キャプチャされた画像と関連付けられているカメラについてビュー平面より下の約30度に対応する球状の一部であり、画素を除去することは球状シーンの上部を黒く塗り潰すか除去することを含む。ブロック2408において、システム100は、周囲境界の範囲内での表示用に更新画像を提供し得る。
いくつかの実現例では、方法2400はさらに、1セットの画像内の少なくとも2つのフレーム同士を互いにスティッチングすることを含み得る。スティッチングは、フレームから画素列をサンプリングし、少なくとも2つのサンプリングされた画素列同士の間に、フレーム内にキャプチャされていない付加的な画素列を補間するステップを含み得る。さらに、スティッチングは、サンプリングされた列および付加的な列を互いに混合して画素値を生成するステップを含み得る。いくつかの実現例では、混合することは、キャプチャされた画像を取得するために用いられる円形カメラリグの直径に少なくとも部分的に基づいて選択されたスティッチング比を用いて実行され得る。スティッチングはさらに、画素値を左シーンおよび右シーン内に構成することによって三次元立体パノラマを生成するステップを含み得、これはたとえばHMDにおいて表示するために提供され得る。
図25は、ビデオコンテンツを生成するプロセス2500の一実施形態を図示するフローチャートである。ブロック2502において、システム100は、少なくとも1セットの隣接カメラから収集されたキャプチャ済のビデオストリームに基づいて1セットの画像を規定し得る。たとえば、システム100は(図2に示すような)ステレオペア、または(たとえば図3および図6に示すような)複数セットの隣接カメラを用い得る。いくつかの実現例では、システム100は、約12個から約16個のカメラから収集されたキャプチャ済のビデオストリームを用いて1セットの画像を規定し得る。いくつかの実現例では、システム100は一部のまたはすべてのレンダリングされたコンピュータグラフィックス(CG)コンテンツを用いて1セットの画像を規定し得る。
ブロック2504において、システム100は1セットの画像を正距円筒図法のビデオストリームにスティッチングし得る。たとえば、スティッチングは、左方向のカメラキャプチャ角度と関連付けられている画像を、右方向を向いているカメラキャプチャ角度と関連付けられている画像と組合せることを含み得る。
ブロック2506において、システムは、第1のビューおよび第2のビューについてビデオストリームを正距円筒図法から透視投影にすることによって、再生用のビデオストリームをレンダリングし得る。第1のビューはヘッドマウントディスプレイの左目のビューに対応し得、第2のビューはヘッドマウントディスプレイの右目のビューに対応し得る。
ブロック2508において、システムは、歪みが予め規定された閾値より高い境界を求め得る。予め規定された閾値は、視差のレベル、不一致のレベル、および/または特定の1セットの画像内の許容誤差のレベルを提供し得る。歪みは、たとえば1つの平面またはビューから別の平面またはビューにビデオストリームを投影する際の投影コンフィギュレーションに少なくとも部分的に基づき得る。
ブロック2510において、システムは、上記に詳述したように、境界以上の1セットの画像内の画像コンテンツを除去することによって、更新されたビデオストリームを生成し得る。ビデオストリームを更新すると、更新されたストリームは、たとえばHMDのユーザに表示するために提供され得る。一般に、本開示全体にわたって記載されるシステムおよび方法は、画像をキャプチャし、キャプチャされた画像から歪みを除去し、画像をレンダリングしてHMDデバイスのユーザに3D立体ビューを提供するように機能し得る。
図26は、本明細書に記載の技術とともに用いられ得る汎用コンピュータデバイス2600および汎用モバイルコンピュータデバイス2650の例を示す。コンピューティングデバイス2600は、ラップトップ、デスクトップ、ワークステーション、携帯情報端末、サーバ、ブレードサーバ、メインフレーム、および他の適切なコンピュータといった、さまざまな形態のデジタルコンピュータを表わすことを意図している。コンピューティングデバイス2650は、携帯情報端末、セルラー電話、スマートフォン、および他の同様のコンピューティングデバイスといった、さまざまな形態のモバイルデバイスを表わすことを意図している。ここに示すコンポーネント、それらの接続および関係、ならびにそれらの機能は例示であることが意図されているに過ぎず、本文書に記載のおよび/または請求項に記載の本発明の実現例を限定することを意図していない。
コンピューティングデバイス2600は、プロセッサ2602、メモリ2604、記憶装置2606、メモリ2604および高速拡張ポート2610に接続している高速インターフェイス2608、ならびに低速バス2614および記憶装置2606に接続している低速インターフェイス2612を含む。コンポーネント2602,2604,2606,2608,2610および2612の各々はさまざまなバスを用いて相互に接続されており、共通のマザーボード上にまたは他の態様で適宜搭載され得る。プロセッサ2602は、コンピューティングデバイス2600内で実行される命令を処理可能であり、この命令には、GUIのためのグラフィック情報を高速インターフェイス2608に結合されているディスプレイ2616などの外部入出力デバイス上に表示するためにメモリ2604内または記憶装置2606上に記憶されている命令が含まれる。他の実現例では、複数のプロセッサおよび/または複数のバスが、複数のメモリおよび複数種類のメモリとともに必要に応じて用いられ得る。また、複数のコンピューティングデバイス2600が接続され得、各デバイスは(たとえばサーババンク、ブレードサーバのグループ、またはマルチプロセッサシステムとして)必要な動作の一部を提供する。
メモリ2604は情報をコンピューティングデバイス2600内に記憶する。一実現例では、メモリ2604は1つまたは複数の揮発性メモリユニットである。別の実現例では、メモリ2604は1つまたは複数の不揮発性メモリユニットである。また、メモリ2604は、磁気ディスクまたは光ディスクといった別の形態のコンピュータ読取可能媒体であってもよい。
記憶装置2606は、コンピューティングデバイス2600に大容量記憶を提供可能である。一実現例では、記憶装置2606は、フロッピー(登録商標)ディスクデバイス、ハードディスクデバイス、光ディスクデバイス、またはテープデバイス、フラッシュメモリもしくは他の同様のソリッドステートメモリデバイス、またはストレージエリアネットワークもしくは他のコンフィギュレーションにおけるデバイスを含む多数のデバイスといった、コンピュータ読取可能媒体であってもよく、または当該コンピュータ読取可能媒体を含んでいてもよい。コンピュータプログラムプロダクトが情報媒体内に有形に具体化され得る。また、コンピュータプログラムプロダクトは、実行されると上述のような1つ以上の方法を実行する命令を含み得る。情報媒体は、メモリ2604、記憶装置2606、またはプロセッサ2602上のメモリといった、コンピュータ読取可能媒体または機械読取可能媒体である。
高速コントローラ2608はコンピューティングデバイス2600のための帯域幅集約的な動作を管理するのに対して、低速コントローラ2612はより低い帯域幅集約的な動作を管理する。そのような機能の割当ては例示に過ぎない。一実現例では、高速コントローラ2608はメモリ2604、ディスプレイ2616に(たとえばグラフィックスプロセッサまたはアクセラレータを介して)、およびさまざまな拡張カード(図示せず)を受付け得る高速拡張ポート2610に結合される。当該実現例では、低速コントローラ2612は記憶装置2606および低速拡張ポート2614に結合される。さまざまな通信ポート(たとえばUSB、ブルートゥース、イーサネット(登録商標)、無線イーサネット)を含み得る低速拡張ポートは、キーボード、ポインティングデバイス、スキャナ、またはスイッチもしくはルータといったネットワーキングデバイスなどの1つ以上の入出力デバイスに、たとえばネットワークアダプタを介して結合され得る。
コンピューティングデバイス2600は、図に示すように多数の異なる形態で実現されてもよい。たとえば、コンピューティングデバイス2600は標準的なサーバ2620として、またはそのようなサーバのグループ内で複数回実現されてもよい。また、コンピューティングデバイス2600はラックサーバシステム2624の一部として実現されてもよい。さらに、コンピューティングデバイス2600はラップトップコンピュータ2622などのパーソナルコンピュータにおいて実現されてもよい。あるいは、コンピューティングデバイス2600からのコンポーネントは、デバイス2650などのモバイルデバイス(図示せず)内の他のコンポーネントと組合されてもよい。そのようなデバイスの各々がコンピューティングデバイス2600,2650の1つ以上を含んでいてもよく、システム全体が、互いに通信する複数のコンピューティングデバイス2600,2650で構成されてもよい。
コンピューティングデバイス2650は、数あるコンポーネントの中でも特に、プロセッサ2652、メモリ2664、ディスプレイ2654などの入出力デバイス、通信インターフェイス2666、およびトランシーバ2668を含む。また、デバイス2650には、マイクロドライブまたは他のデバイスなどの記憶装置が提供されて付加的なストレージが提供されてもよい。コンポーネント2650,2652,2664,2654,2666および2668の各々はさまざまなバスを用いて相互に接続されており、当該コンポーネントのいくつかは共通のマザーボード上にまたは他の態様で適宜搭載され得る。
プロセッサ2652は、メモリ2664に記憶されている命令を含む、コンピューティングデバイス2650内の命令を実行可能である。プロセッサは、別個の複数のアナログおよびデジタルプロセッサを含むチップのチップセットとして実現されてもよい。プロセッサは、たとえば、ユーザインターフェイス、デバイス2650が実行するアプリケーション、およびデバイス2650による無線通信の制御といった、デバイス2650の他のコンポーネントの協調を提供し得る。
プロセッサ2652は、ディスプレイ2654に結合された制御インターフェイス2658およびディスプレイインターフェイス2656を介してユーザと通信し得る。ディスプレイ2654は、たとえば、TFT LCD(薄膜トランジスタ液晶ディスプレイ)もしくはOLED(有機発光ダイオード)ディスプレイ、または他の適切なディスプレイ技術であり得る。ディスプレイインターフェイス2656は、ディスプレイ2654を駆動してグラフィックおよび他の情報をユーザに提示するための適切な回路を含み得る。制御インターフェイス2658はユーザからコマンドを受信し、当該コマンドをプロセッサ2652に提出するために変換し得る。さらに、外部インターフェイス2662が、デバイス2650と他のデバイスとの隣接通信を可能にするために、プロセッサ2652と通信した状態で提供されてもよい。外部インターフェイス2662は、たとえば、ある実現例では有線通信を提供し、他の実現例では無線通信を提供してもよく、また、複数のインターフェイスが用いられてもよい。
メモリ2664は情報をコンピューティングデバイス2650内に記憶する。メモリ2664は、1つもしくは複数のコンピュータ読取可能媒体、1つもしくは複数の揮発性メモリユニット、または1つもしくは複数の不揮発性メモリユニットの1つ以上として実現され得る。さらに、拡張メモリ2674が提供され、たとえばSIMM(Single In Line Memory Module)カードインターフェイスを含み得る拡張インターフェイス2672を介してデバイス2650に接続されてもよい。このような拡張メモリ2674はデバイス2650に余分のストレージスペースを提供し得るか、またはデバイス2650のためのアプリケーションもしくは他の情報をさらに記憶し得る。具体的には、拡張メモリ2674は上述のプロセスを実行または補足するための命令を含み得、さらにセキュア情報を含み得る。ゆえに、たとえば、拡張メモリ2674はデバイス2650のためのセキュリティモジュールとして提供されてもよく、デバイス2650のセキュアな使用を許可する命令でプログラムされてもよい。さらに、ハッキング不可能なようにSIMMカード上に識別情報を置くといったように、セキュアなアプリケーションが付加的な情報とともにSIMMカードを介して提供されてもよい。
メモリは、以下に記載のように、たとえばフラッシュメモリおよび/またはNVRAMメモリを含み得る。一実現例では、コンピュータプログラムプロダクトが情報媒体内に有形に具体化される。コンピュータプログラムプロダクトは、実行されると上述のような1つ以上の方法を実行する命令を含む。情報媒体は、メモリ2664、拡張メモリ2674、またはプロセッサ2652上のメモリといった、コンピュータ読取可能媒体または機械読取可能媒体であり、これは、たとえばトランシーバ2668または外部インターフェイス2662上で受信され得る。
デバイス2650は、必要に応じてデジタル信号処理回路を含み得る通信インターフェイス2666を介して無線通信し得る。通信インターフェイス2666は、とりわけ、GSM(登録商標)音声通話、SMS、EMS、またはMMSメッセージング、CDMA、TDMA、PDC、WCDMA(登録商標)、CDMA2000、またはGPRSといった、さまざまなモードまたはプロトコル下の通信を提供し得る。そのような通信は、たとえば無線周波数トランシーバ2668を介して起こり得る。さらに、ブルートゥース、Wi−Fi、または他のそのようなトランシーバ(図示せず)を用いるなどして、短距離通信が起こり得る。さらに、GPS(全地球測位システム)レシーバモジュール2670が付加的なナビゲーション関連および位置関連の無線データをデバイス2650に提供し得、当該データはデバイス2650上で実行されるアプリケーションによって適宜用いられ得る。
また、デバイス2650は、ユーザから口頭情報を受信して当該情報を使用可能なデジタル情報に変換し得る音声コーデック2660を用いて可聴的に通信し得る。音声コーデック2660も同様に、たとえばデバイス2650のハンドセット内で、スピーカを介すなどしてユーザに可聴音を生成し得る。そのような音は音声電話からの音を含んでいてもよく、録音された音(たとえば音声メッセージ、音楽ファイル等)を含んでいてもよく、さらに、デバイス2650上で実行されるアプリケーションが生成する音を含んでいてもよい。
コンピューティングデバイス2650は、図に示すように多数の異なる形態で実現されてもよい。たとえば、コンピューティングデバイス2650はセルラー電話2680として実現されてもよい。また、コンピューティングデバイス2650は、スマートフォン2682、携帯情報端末、または他の同様のモバイルデバイスの一部として実現されてもよい。
本明細書に記載のシステムおよび技術のさまざまな実現例は、デジタル電子回路、集積回路、特別に設計されたASIC(特定用途向け集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェア、および/またはそれらの組合せで実現され得る。これらのさまざまな実現例は、少なくとも1つのプログラマブルプロセッサを含むプログラマブルシステム上で実行可能および/または解釈可能な1つ以上のコンピュータプログラムにおける実現例を含んでいてもよく、当該プロセッサは専用であっても汎用であってもよく、ストレージシステム、少なくとも1つの入力デバイス、および少なくとも1つの出力デバイスからデータおよび命令を受信するように、かつこれらにデータおよび命令を送信するように結合されている。
これらのコンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーションまたはコードとしても公知)はプログラマブルプロセッサのための機械命令を含んでおり、高レベル手続きおよび/もしくはオブジェクト指向プログラミング言語で、ならびに/またはアセンブリ/機械言語で実現され得る。本明細書において使用する「機械読取可能媒体」「コンピュータ読取可能媒体」という用語は、機械命令および/またはデータをプログラマブルプロセッサに提供するために用いられる任意のコンピュータプログラムプロダクト、装置および/またはデバイス(たとえば磁気ディスク、光ディスク、メモリ、プログラマブルロジックデバイス(PLD))を指し、機械命令を機械読取可能信号として受信する機械読取可能媒体を含む。「機械読取可能信号」という用語は、機械命令および/またはデータをプログラマブルプロセッサに提供するために用いられる任意の信号を指す。
ユーザとの対話を提供するために、本明細書に記載のシステムおよび技術は、情報をユーザに表示するためのディスプレイデバイス(たとえばCRT(陰極線管)またはLCD(液晶ディスプレイ)モニタ)と、ユーザが入力をコンピュータに提供する際に使用可能なキーボードおよびポインティングデバイス(たとえばマウスまたはトラックボール)とを有するコンピュータ上で実現され得る。他の種類のデバイスを用いてユーザとの対話を提供することもでき、たとえば、ユーザに提供されるフィードバックは任意の形態の感覚フィードバック(たとえば視覚フィードバック、聴覚フィードバック、または触覚フィードバック)であり得、ユーザからの入力は、音響、スピーチ、または触覚入力を含む任意の形態で受信され得る。
本明細書に記載のシステムおよび技術は、バックエンドコンポーネントを(たとえばデータサーバとして)含む、またはミドルウェアコンポーネントを(たとえばアプリケーションサーバとして)含む、またはフロントエンドコンポーネント(たとえば、ユーザが上記のシステムおよび技術の実現例と対話する際に使用可能なグラフィックユーザインターフェイスもしくはウェブブラウザを有するクライアントコンピュータ)、またはそのようなバックエンド、ミドルウェア、もしくはフロントエンドコンポーネントの任意の組合せを含むコンピューティングシステムにおいて実現され得る。システムのコンポーネントは、任意の形態または媒体のデジタルデータ通信(たとえば通信ネットワーク)によって相互に接続され得る。通信ネットワークの例として、ローカルエリアネットワーク(「LAN」)、ワイドエリアネットワーク(「WAN」)、およびインターネットが挙げられる。
コンピューティングシステムはクライアントおよびサーバを含み得る。クライアントおよびサーバは一般に互いにリモートであり、典型的に通信ネットワークを介して対話する。クライアントとサーバとの関係は、それぞれのコンピュータ上で実行されて互いにクライアント−サーバ関係を有するコンピュータプログラムによって生じる。
多数の実施形態を説明した。しかしながら、明細書の精神および範囲から逸脱することなくさまざまな変更がなされ得ることが理解されるであろう。たとえば、以下の各請求項および上記のそのような請求項の例は任意に組合わせられて、付加的な例示的な実施形態が生成され得る。
また、図面に示す論理フローは、所望の結果を達成するために、示されている特定の順序、または起こる順序を必要としない。また、記載のフローとは他のステップが提供されてもよく、または当該フローからステップが除去されてもよく、記載のシステムに他のコンポーネントが追加されてもよく、または当該システムからコンポーネントが除去されてもよい。したがって、他の実施形態も以下の請求項の範囲内にある。

Claims (14)

  1. カメラリグであって、
    ハブと、
    前記ハブの周りに配置されたカメラ装着リングとを備え、前記カメラ装着リングは複数の凹部を含み、前記カメラ装着リングは、
    第1の画像センサを受けるように構成された前記複数の凹部のうちの第1の凹部と、
    第2の画像センサを受けるように構成された前記複数の凹部のうちの第2の凹部と、
    第3の画像センサを受けるように構成された前記複数の凹部のうちの第3の凹部とを含み、
    前記カメラ装着リングは、前記第1の画像センサ、前記第2の画像センサ、および前記第3の画像センサの各々、前記カメラリグの内部と反対方向を向いている投影を有するように構成されており
    前記複数の凹部は、前記第1の画像センサの第1の視野が前記第2の画像センサの第2の視野および前記第3の画像センサの第3の視野と交差するように規定され、
    前記カメラリグは、前記第1の画像センサの裏部分に結合されるクリップをさらに備える、カメラリグ。
  2. 前記カメラリグの半径は、前記第1の画像センサの前記第1の視野が前記第2の画像センサの前記第2の視野および前記第3の画像センサの前記第3の視野と交差するように規定される、請求項1に記載のカメラリグ。
  3. 前記第1の画像センサ、前記第2の画像センサ、および前記第3の画像センサは平面内に配置される、請求項1または2に記載のカメラリグ。
  4. 前記ハブと前記カメラ装着リングとの間にスポークが配置される、請求項1〜3のいずれか1項に記載のカメラリグ。
  5. 前記複数の凹部は、前記第1の画像センサを含む第1のカメラハウジングと前記第2の画像センサを含む第2のカメラハウジングとの間に間隙が配置されるように規定される、請求項1〜4のいずれか1項に記載のカメラリグ。
  6. 前記複数の凹部のうちの前記第1の凹部は、前記第1の画像センサがポートレート向きの視野を有するように規定される、請求項1〜5のいずれか1項に記載のカメラリグ。
  7. 前記複数の凹部のうちの前記第1の凹部は、前記第1の画像センサを前記カメラリグに着脱可能に結合するように規定される、請求項1〜6のいずれか1項に記載のカメラリグ。
  8. 前記カメラリグに結合されたマイクマウントをさらに備える、請求項1〜のいずれか1項に記載のカメラリグ。
  9. 前記複数の凹部は12個から16個の凹部を含む、請求項1〜のいずれか1項に記載のカメラリグ。
  10. 前記複数の凹部は16個の凹部を含む、請求項1〜のいずれか1項に記載のカメラリグ。
  11. 前記カメラ装着リングの直径は約25から30センチメートルである、請求項1〜10のいずれか1項に記載のカメラリグ。
  12. カメラリグであって、
    ハブと、
    前記ハブの周りに配置されたカメラ装着リングとを備え、前記カメラ装着リングは複数の凹部を含み、前記カメラ装着リングは、
    第1の画像センサを受けるように構成された前記複数の凹部のうちの第1の凹部と、
    第2の画像センサを受けるように構成された前記複数の凹部のうちの第2の凹部と、
    第3の画像センサを受けるように構成された前記複数の凹部のうちの第3の凹部とを含み、
    前記カメラ装着リングは、前記第1の画像センサ、前記第2の画像センサ、および前記第3の画像センサの各々が、前記カメラリグの内部と反対方向を向いている投影を有するように構成されており、
    前記複数の凹部は、前記第1の画像センサの第1の視野が前記第2の画像センサの第2の視野および前記第3の画像センサの第3の視野と交差するように規定され、
    前記カメラリグは、前記カメラ装着リングにおける第4の凹部内に挿入されるように構成される突起を有するクリップをさらに備える、カメラリグ。
  13. 前記カメラリグの半径は、前記第1の画像センサの前記第1の視野が前記第2の画像センサの前記第2の視野および前記第3の画像センサの前記第3の視野と交差するように規定される、請求項12に記載のカメラリグ。
  14. 前記突起は第1の突起であり、前記クリップは、前記第1の画像センサを含むカメラに結合されるように構成される第2の突起と、前記クリップを前記カメラに着脱可能に結合するために用いられる第3の突起とを有する、請求項12に記載のカメラリグ。
JP2017550917A 2015-05-27 2016-05-27 カメラリグおよび立体画像キャプチャ Expired - Fee Related JP6484349B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562167151P 2015-05-27 2015-05-27
US62/167,151 2015-05-27
PCT/US2016/034711 WO2016191708A1 (en) 2015-05-27 2016-05-27 Camera rig and stereoscopic image capture

Publications (2)

Publication Number Publication Date
JP2018518078A JP2018518078A (ja) 2018-07-05
JP6484349B2 true JP6484349B2 (ja) 2019-03-13

Family

ID=56133067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017550917A Expired - Fee Related JP6484349B2 (ja) 2015-05-27 2016-05-27 カメラリグおよび立体画像キャプチャ

Country Status (6)

Country Link
US (1) US10244226B2 (ja)
EP (1) EP3304195A1 (ja)
JP (1) JP6484349B2 (ja)
KR (1) KR102023587B1 (ja)
CN (1) CN107637060B (ja)
WO (1) WO2016191708A1 (ja)

Families Citing this family (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2253131B1 (en) 2008-02-08 2014-06-25 Google, Inc. Panoramic camera with multiple image sensors using timed shutters
US10027948B2 (en) * 2014-05-20 2018-07-17 Nextvr Inc. Methods and apparatus including or for use with one or more cameras
JP6484349B2 (ja) 2015-05-27 2019-03-13 グーグル エルエルシー カメラリグおよび立体画像キャプチャ
USD856394S1 (en) 2015-05-27 2019-08-13 Google Llc Video camera rig
US10043237B2 (en) * 2015-08-12 2018-08-07 Gopro, Inc. Equatorial stitching of hemispherical images in a spherical image capture system
US10740969B2 (en) * 2015-12-21 2020-08-11 EVOX Productions, LLC Layered panoramas for virtual reality (VR)
US10311636B1 (en) * 2016-07-29 2019-06-04 EVOX Productions, LLC Layered panoramas for virtual reality (VR)
US10577125B1 (en) * 2015-12-28 2020-03-03 Vr Drones Llc Multi-rotor aircraft including a split dual hemispherical attachment apparatus for virtual reality content capture and production
US9883159B2 (en) * 2015-12-29 2018-01-30 VideoStitch Inc. Camera to minimize parallax effects
US20190026924A1 (en) * 2016-01-15 2019-01-24 Nokia Technologies Oy Method and Apparatus for Calibration of a Multi-Camera System
US10230904B2 (en) * 2016-04-06 2019-03-12 Facebook, Inc. Three-dimensional, 360-degree virtual reality camera system
USD830444S1 (en) 2016-06-30 2018-10-09 Facebook, Inc. Panoramic virtual reality camera
USD837275S1 (en) * 2016-06-30 2019-01-01 Facebook, Inc. Panoramic virtual reality camera assembly
USD830445S1 (en) * 2016-06-30 2018-10-09 Facebook, Inc. Panoramic virtual reality camera
US9674435B1 (en) * 2016-07-06 2017-06-06 Lawrence Maxwell Monari Virtual reality platforms for capturing content for virtual reality displays
KR102629569B1 (ko) * 2016-08-17 2024-01-29 삼성전자주식회사 카메라를 포함하는 전자 장치
KR20180077501A (ko) * 2016-12-29 2018-07-09 광주대학교산학협력단 탈부착 가능한 입체 공간 영상 획득 장치용 리그
US10419669B2 (en) * 2017-01-17 2019-09-17 Disney Enterprises, Inc. Omnistereoscopic panoramic video
WO2018139250A1 (ja) * 2017-01-26 2018-08-02 ソニー株式会社 全天球撮像装置
DE102017104777A1 (de) * 2017-03-07 2018-09-13 Rheinmetall Defence Electronics Gmbh Kamerakranz zur Erstellung eines Panoramabildes
JP2018169517A (ja) * 2017-03-30 2018-11-01 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像モジュールおよび撮像装置の制御方法
US9921464B1 (en) * 2017-05-03 2018-03-20 Seung Kwon Choi Gimbal for 360-degree video and picture shooting
US10324360B2 (en) * 2017-05-09 2019-06-18 Jared Stanton Camera rig
US20180357819A1 (en) * 2017-06-13 2018-12-13 Fotonation Limited Method for generating a set of annotated images
KR20180136891A (ko) * 2017-06-15 2018-12-26 한국전자통신연구원 전방향 비디오에 관한 영상 처리 방법 및 장치
ES2695250A1 (es) * 2017-06-27 2019-01-02 Broomx Tech S L Procedimiento para proyectar contenidos audiovisuales inmersivos
CN107318010B (zh) * 2017-07-05 2019-10-11 上海小蚁科技有限公司 用于生成立体全景图像的方法和设备
JP7016644B2 (ja) * 2017-08-25 2022-02-07 キヤノン株式会社 撮像装置
KR101857788B1 (ko) * 2017-09-22 2018-05-14 주식회사 스탠스 탈부착조립성과 길이가변성이 우수한 360°다시점 영상 촬영카메라용 리그장치
CN107608164B (zh) * 2017-10-23 2020-07-24 深圳市塔洛斯创新有限责任公司 组合式多相机组全景相机
US10757320B2 (en) 2017-12-28 2020-08-25 Waymo Llc Multiple operating modes to expand dynamic range
US20190208136A1 (en) * 2017-12-29 2019-07-04 Waymo Llc High-speed image readout and processing
KR20200122323A (ko) 2018-02-17 2020-10-27 드림뷰, 인크. 멀티 센서를 사용하여 옴니 스테레오 비디오를 캡처하는 시스템 및 방법
USD943017S1 (en) 2018-02-27 2022-02-08 Dreamvu, Inc. 360 degree stereo optics mount for a camera
USD931355S1 (en) 2018-02-27 2021-09-21 Dreamvu, Inc. 360 degree stereo single sensor camera
JP7076131B2 (ja) * 2018-03-23 2022-05-27 カムイ・イノベーション株式会社 多眼カメラシステム、多眼撮影用カメラヘッド、画像処理装置、多眼撮影用プログラムおよび多眼撮影方法
WO2019228055A1 (zh) 2018-06-02 2019-12-05 Oppo广东移动通信有限公司 支架结构、输入输出组件和电子装置
US11181619B2 (en) * 2018-06-14 2021-11-23 Waymo Llc Camera ring structure for autonomous vehicles
US11812009B2 (en) * 2018-06-22 2023-11-07 Intel Corporation Generating virtual reality content via light fields
US10666844B2 (en) * 2018-08-10 2020-05-26 Hangzhou Zaixian Technology Co. Ltd 3D panoramic camera with built-in stabilizer
CN109474774B (zh) * 2018-12-07 2020-10-02 南阳理工学院 一种慕课视频录制用摄像探头
EP3667414B1 (en) * 2018-12-14 2020-11-25 Axis AB A system for panoramic imaging
KR20200076222A (ko) 2018-12-19 2020-06-29 주식회사 트라이앵글랩 360도 카메라 리그
US11282231B2 (en) 2018-12-21 2022-03-22 Sony Group Corporation Camera rig with multiple sensors
CN111565270B (zh) * 2019-02-13 2024-05-03 株式会社理光 拍摄装置及拍摄光学系统
EP3987344A4 (en) * 2019-06-24 2023-08-09 Circle Optics, Inc. LENS DESIGN FOR LOW PARALLAX PANORAMIC CAMERA SYSTEMS
US20230236493A1 (en) * 2019-06-24 2023-07-27 Circle Optics, Inc. Low parallax imaging system with an internal space frame
WO2021020617A1 (ko) * 2019-07-30 2021-02-04 주식회사 예홍프로덕션 짐벌 카메라 장치
US11375104B2 (en) * 2019-08-15 2022-06-28 Apple Inc. System for producing a continuous image from separate image sources
US11800231B2 (en) 2019-09-19 2023-10-24 Apple Inc. Head-mounted display
WO2021080613A1 (en) * 2019-10-25 2021-04-29 Hewlett-Packard Development Company, L.P. Error reduction in assembled measurement scenes
TWI725620B (zh) * 2019-11-14 2021-04-21 大陸商南京深視光點科技有限公司 全向立體視覺的相機配置系統及相機配置方法
JPWO2021124920A1 (ja) * 2019-12-19 2021-06-24
US10949986B1 (en) * 2020-05-12 2021-03-16 Proprio, Inc. Methods and systems for imaging a scene, such as a medical scene, and tracking objects within the scene
CN114390262A (zh) * 2020-10-21 2022-04-22 中强光电股份有限公司 用于拼接三维球面全景影像的方法及电子装置
EP4020078A3 (en) * 2020-12-23 2022-08-03 A.p.p.a.r.a.t.u.s. LLC Support device
CN112742017B (zh) * 2021-02-01 2021-11-05 邵阳学院 一种田径运动用跑步计圈装置
CN114051094B (zh) * 2021-11-10 2023-06-16 成都理工大学工程技术学院 一种全方位计算机视觉的遗留物检测装置
KR102362028B1 (ko) * 2021-11-12 2022-02-14 대한민국 수중촬영이 용이한 3d 카메라리그
CN113946082B (zh) * 2021-12-16 2022-03-15 惠博新型材料有限公司 一种具有补光功能的多角度摄影测量装置

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5495576A (en) 1993-01-11 1996-02-27 Ritchey; Kurtis J. Panoramic image based virtual reality/telepresence audio-visual system and method
US6788802B2 (en) 1998-05-21 2004-09-07 Sanyo Electric Co., Ltd. Optical flow estimation method and image synthesis method
US6788333B1 (en) 2000-07-07 2004-09-07 Microsoft Corporation Panoramic video
US6701030B1 (en) 2000-07-07 2004-03-02 Microsoft Corporation Deghosting panoramic video
US6864911B1 (en) 2000-10-26 2005-03-08 Hewlett-Packard Development Company, L.P. Linkable digital cameras for an image capture system
US6947059B2 (en) 2001-08-10 2005-09-20 Micoy Corporation Stereoscopic panoramic image capture device
US7224382B2 (en) 2002-04-12 2007-05-29 Image Masters, Inc. Immersive imaging system
US7220260B2 (en) * 2002-06-27 2007-05-22 Gyrus Medical Limited Electrosurgical system
US20040001138A1 (en) 2002-06-27 2004-01-01 Weerashinghe W.A. Chaminda P. Stereoscopic panoramic video generation system
US7463280B2 (en) 2003-06-03 2008-12-09 Steuart Iii Leonard P Digital 3D/360 degree camera system
US20070182812A1 (en) 2004-05-19 2007-08-09 Ritchey Kurtis J Panoramic image-based virtual reality/telepresence audio-visual system and method
US20060164509A1 (en) 2004-12-14 2006-07-27 Andrew Marshall Stereo camera/viewer
FR2906899B1 (fr) 2006-10-05 2009-01-16 Essilor Int Dispositif d'affichage pour la visualisation stereoscopique.
US20080106489A1 (en) 2006-11-02 2008-05-08 Brown Lawrence G Systems and methods for a head-mounted display
US7838991B1 (en) * 2007-02-05 2010-11-23 National Semiconductor Corporation Metallurgy for copper plated wafers
WO2011106797A1 (en) 2010-02-28 2011-09-01 Osterhout Group, Inc. Projection triggering through an external marker in an augmented reality eyepiece
US20120212484A1 (en) 2010-02-28 2012-08-23 Osterhout Group, Inc. System and method for display content placement using distance and location information
US8896671B2 (en) * 2010-04-09 2014-11-25 3D-4U, Inc. Apparatus and method for capturing images
US8548269B2 (en) 2010-12-17 2013-10-01 Microsoft Corporation Seamless left/right views for 360-degree stereoscopic video
AT511091B1 (de) * 2011-04-19 2012-09-15 Blum Gmbh Julius Schubladenzarge mit neigungsverstellung
CN103827730B (zh) * 2011-06-21 2017-08-04 管理前街不同收入阶层的前街投资管理有限公司 用于生成三维图像信息的方法和装置
US9025252B2 (en) 2011-08-30 2015-05-05 Microsoft Technology Licensing, Llc Adjustment of a mixed reality display for inter-pupillary distance alignment
US8824779B1 (en) 2011-12-20 2014-09-02 Christopher Charles Smyth Apparatus and method for determining eye gaze from stereo-optic views
US8638498B2 (en) 2012-01-04 2014-01-28 David D. Bohn Eyebox adjustment for interpupillary distance
CA2890174A1 (en) * 2012-11-05 2014-05-08 360 Heros, Inc. 360 degree camera mount and related photographic and video system
US9402026B2 (en) 2013-01-05 2016-07-26 Circular Logic Systems, Inc. Spherical panoramic image camera rig
WO2014108799A2 (en) 2013-01-13 2014-07-17 Quan Xiao Apparatus and methods of real time presenting 3d visual effects with stereopsis more realistically and substract reality with external display(s)
WO2014152855A2 (en) * 2013-03-14 2014-09-25 Geerds Joergen Camera system
US9398215B2 (en) 2013-04-16 2016-07-19 Eth Zurich Stereoscopic panoramas
ES2538012B1 (es) 2014-10-23 2016-03-30 Digital Centre, S.L. Fotomatón multicámara de efecto tridimensional y procedimiento de funcionamiento del mismo
US20160295108A1 (en) 2015-04-01 2016-10-06 Cheng Cao System and method for panoramic imaging
US10085005B2 (en) 2015-04-15 2018-09-25 Lytro, Inc. Capturing light-field volume image and video data using tiled light-field cameras
JP6484349B2 (ja) 2015-05-27 2019-03-13 グーグル エルエルシー カメラリグおよび立体画像キャプチャ

Also Published As

Publication number Publication date
CN107637060B (zh) 2020-09-29
US10244226B2 (en) 2019-03-26
WO2016191708A1 (en) 2016-12-01
US20160352982A1 (en) 2016-12-01
JP2018518078A (ja) 2018-07-05
KR102023587B1 (ko) 2019-09-23
EP3304195A1 (en) 2018-04-11
KR20170123666A (ko) 2017-11-08
CN107637060A (zh) 2018-01-26

Similar Documents

Publication Publication Date Title
JP6484349B2 (ja) カメラリグおよび立体画像キャプチャ
JP6511539B2 (ja) パノラマバーチャルリアリティコンテンツのキャプチャおよびレンダリング
US10375381B2 (en) Omnistereo capture and render of panoramic virtual reality content
US10038887B2 (en) Capture and render of panoramic virtual reality content
US20170363949A1 (en) Multi-tier camera rig for stereoscopic image capture
US9918011B2 (en) Omnistereo imaging
US10084962B2 (en) Spherical video stabilization based on accelerometer data
JP2019511016A (ja) フレームのパノラマフレームへのステッチング
JP2020525912A (ja) デジタル画像を適応的にスティッチするシステムおよび方法
WO2018035347A1 (en) Multi-tier camera rig for stereoscopic image capture
US10802390B2 (en) Spherical omnipolar imaging

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181009

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190215

R150 Certificate of patent or registration of utility model

Ref document number: 6484349

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees