JP6643357B2 - 全球状取込方法 - Google Patents
全球状取込方法 Download PDFInfo
- Publication number
- JP6643357B2 JP6643357B2 JP2017555540A JP2017555540A JP6643357B2 JP 6643357 B2 JP6643357 B2 JP 6643357B2 JP 2017555540 A JP2017555540 A JP 2017555540A JP 2017555540 A JP2017555540 A JP 2017555540A JP 6643357 B2 JP6643357 B2 JP 6643357B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- data
- dimensional
- spherical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 82
- 238000013507 mapping Methods 0.000 claims description 45
- 230000003287 optical effect Effects 0.000 claims description 36
- 230000015654 memory Effects 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 22
- 238000005070 sampling Methods 0.000 claims description 4
- 230000000694 effects Effects 0.000 description 34
- 238000004891 communication Methods 0.000 description 20
- 238000004590 computer program Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 9
- 230000009471 action Effects 0.000 description 8
- 210000003128 head Anatomy 0.000 description 7
- 230000033001 locomotion Effects 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000009877 rendering Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 230000003993 interaction Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 240000007320 Pinus strobus Species 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000012067 mathematical method Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/04—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/261—Image signal generators with monoscopic-to-stereoscopic image conversion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/324—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/344—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0132—Head-up displays characterised by optical features comprising binocular systems
- G02B2027/0134—Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2213/00—Details of stereoscopic systems
- H04N2213/001—Constructional or mechanical details
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Optics & Photonics (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Computing Systems (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
本願は、2015年9月16日に出願された「全球状取込方法」(General Spherical Capture Methods)と題された米国仮特許出願第62/219,534号の優先権を主張する、2016年9月15日に出願された「全球状取込方法」と題された米国非仮特許出願第15/266,602号の優先権を主張し、当該非仮特許出願の継続出願である。これらの出願は双方とも、それら全体がここに引用により援用される。
本明細書は一般に、2次元(2D)および3次元(3D)画像を取込んで処理するための方法および装置に関する。
球状画像は、シーンの360度のビューを提供できる。そのような画像は、特定の投影フォーマットを使用して取込まれ、規定され得る。たとえば、球状画像は、画像の幅および高さに関するアスペクト比が2:1である単一画像を提供するために、正距円筒投影フォーマットで規定されてもよい。別の例では、球状画像は、立方体の6つの面に再マッピングされた画像を提供するために、立方体投影フォーマットで規定されてもよい。
1つ以上のコンピュータのシステムが、動作時に当該システムにアクションを行なわせる、当該システム上にインストールされたソフトウェア、ファームウェア、ハードウェア、またはそれらの組合せを有することにより、特定の動作またはアクションを行なうように構成され得る。1つ以上のコンピュータプログラムが、データ処理装置によって実行されると当該装置にアクションを行なわせる命令を含むことにより、特定の動作またはアクションを行なうように構成され得る。
詳細な説明
シーンの各部分を2次元および/または3次元で正確に再生するために使用され得る画像コンテンツを取得することは一般に、3次元カメラリグに収容された複数のカメラを使用してそのシーンの画像またはビデオを取込むことを含む。これらのカメラは、上部、側部、底部でカメラリグを包囲するシーンの各部分と、間に示されるあらゆるシーンコンテンツとを取込むように構成されてもよい。本開示で説明されるシステムおよび方法は、ほんの数例を挙げると球状形状、二十面体状形状、または3D多角形形状であるカメラリグを採用することができる。そのようなカメラリグには、リグを包囲する外向きに取込可能なすべてのエリアに関する画像コンテンツを取込むためにリグ上に戦略的に設置されたいくつかのグループ(たとえばトライアド(3つ組))のカメラが収容され得る。画像コンテンツは、複数のカメラ間で取込まれた重複画像コンテンツを含む場合があり、この重複は後に、追加の画像コンテンツを生成し、既存の画像コンテンツをつなぎ合わせ、または画像コンテンツにおいて視覚的効果(たとえば3D効果)を生成するために使用され得る。
例1:コンピュータにより実現される方法であって、2次元データを3次元データに変換するための、複数のカメラを用いて取込まれた複数の画像内の領域を判断するステップと、領域における画素の一部について深度値を計算するステップと、領域における画素の一部についての画像データを含む球状画像を生成するステップと、画像データを使用して、画像処理システムによって生成されたコンピュータグラフィックスオブジェクトの3次元空間において3次元表面を構成するステップと、画像データを使用して、コンピュータグラフィックスオブジェクトの表面へのテクスチャマッピングを生成するステップとを含み、テクスチャマッピングは、画像データをコンピュータグラフィックスオブジェクトの表面にマッピングすることを含み、方法はさらに、頭部装着型ディスプレイデバイスにおける表示のために、球状画像およびテクスチャマッピングを送信するステップを含む、方法。
Claims (17)
- コンピュータにより実現される方法であって、
2次元データを3次元データに変換するための、複数のカメラを用いて取込まれた複数の画像内の領域を判断するステップを含み、前記領域を判断するステップは、頭部装着型ディスプレイデバイスで検出されたユーザ入力に少なくとも部分的に基づいて自動的に行なわれ、前記方法は、さらに、
前記領域における画素の一部について深度値を計算するステップと、
前記領域における画素の前記一部についての画像データを含む球状画像を生成するステップと、
前記画像データを使用して、画像処理システムによって生成されたコンピュータグラフィックスオブジェクトの3次元空間において3次元表面を構成するステップと、
前記画像データを使用して、前記コンピュータグラフィックスオブジェクトの表面へのテクスチャマッピングを行なうステップとを含み、前記テクスチャマッピングは、前記画像データを前記コンピュータグラフィックスオブジェクトの前記表面にマッピングすることを含み、前記方法はさらに、
前記深度値と前記球状画像と前記テクスチャマッピングを行なうことにより生成されたテクスチャマップデータとに基づいて左目ビューおよび右目ビューを生成するステップと、
前記頭部装着型ディスプレイデバイスにおいて前記左目ビューおよび右目ビューを表示するステップとを含む、方法。 - 画素の前記一部は、前記領域における画素の前記一部のうちの1つ以上に関連付けられた対応する深度値と等しい半径を有する点に位置しているように視認されるために、前記コンピュータグラフィックスオブジェクトの前記表面上に表わされる、請求項1に記載の方法。
- 前記複数の画像はビデオコンテンツを含み、前記画像データは、画素の前記一部に関連付けられたRGBデータおよび深度値データを含み、前記方法はさらに、
前記画像データを使用して、前記領域の2次元バージョンを前記領域の3次元バージョンに変換するステップと、
前記頭部装着型ディスプレイデバイスにおける表示のために、前記領域の前記3次元バージョンを提供するステップとを含み、前記球状画像および前記テクスチャマップデータは、前記3次元空間における前記3次元表面上にマッピングされたテクスチャとして画像をレンダリングすることができるように送信される、請求項1または2に記載の方法。 - 前記複数の画像は、球状形状のカメラリグ上に搭載された複数のカメラを用いて取込まれる、請求項1〜3のいずれか1項に記載の方法。
- 前記ユーザ入力は頭部回転を含み、前記3次元データは、ビューに対応する前記複数の画像のうちの少なくとも1つにおいて3次元部分を生成するために使用される、請求項1に記載の方法。
- 前記ユーザ入力は凝視方向の変更を含み、前記3次元データは、ユーザの視線上の前記複数の画像のうちの少なくとも1つにおいて3次元部分を生成するために使用される、請求項1に記載の方法。
- コンピュータにより実現されるシステムであって、
少なくとも1つのプロセッサと、
命令を格納するメモリとを含み、前記命令は、前記少なくとも1つのプロセッサによって実行されると、前記システムに複数の動作を行なわせ、前記複数の動作は、
2次元データを3次元データに変換するための、複数のカメラを用いて取込まれた複数の画像内の領域を判断することを含み、前記領域を判断することは、頭部装着型ディスプレイデバイスで検出されたユーザ入力に少なくとも部分的に基づいて自動的に行なわれ、前記複数の動作は、さらに、、
前記領域における画素の一部について深度値を計算することと、
前記領域における画素の前記一部についての画像データを含む球状画像を生成することと、
前記画像データを使用して、画像処理システムによって生成されたコンピュータグラフィックスオブジェクトの3次元空間において3次元表面を構成することと、
前記画像データを使用して、前記コンピュータグラフィックスオブジェクトの表面へのテクスチャマッピングを行なうこととを含み、前記テクスチャマッピングは、前記画像データを前記コンピュータグラフィックスオブジェクトの前記表面にマッピングすることを含み、前記複数の動作はさらに、
前記深度値と前記球状画像と前記テクスチャマッピングを行なうことにより生成されたテクスチャマップデータとに基づいて左目ビューおよび右目ビューを生成することと、
前記頭部装着型ディスプレイデバイスにおいて前記左目ビューおよび右目ビューを表示することとを含む、システム。 - 前記複数の画像はビデオコンテンツを含み、前記画像データは、画素の前記一部に関連付けられたRGBデータおよび深度値データを含み、前記システムはさらに、
前記画像データを使用して、前記領域の2次元バージョンを前記領域の3次元バージョンに変換することと、
前記頭部装着型ディスプレイデバイスにおける表示のために、前記領域の前記3次元バージョンを提供することとを含み、前記球状画像および前記テクスチャマップデータは、前記3次元空間における前記3次元表面上にマッピングされたテクスチャとして画像をレンダリングすることができるように送信される、請求項7に記載のシステム。 - 前記複数の画像は、球状形状のカメラリグ上に搭載された複数のカメラを用いて取込まれる、請求項7または8に記載のシステム。
- 前記ユーザ入力は凝視方向の変更を含み、前記3次元データは、ユーザの視線上の前記複数の画像のうちの少なくとも1つにおいて3次元部分を生成するために使用される、請求項7に記載のシステム。
- コンピュータにより実現される方法であって、
複数のカメラを用いて複数の画像を取得するステップと、
2次元データを3次元データに変換するための、前記複数の画像内の領域を判断するステップを含み、前記領域を判断するステップは、頭部装着型ディスプレイデバイスで検出されたユーザ入力に少なくとも部分的に基づいて自動的に行なわれ、前記方法は、さらに、
前記複数の画像について少なくとも2つの更新画像を生成するステップとを含み、前記少なくとも2つの更新画像は、予め規定された中心線からの左側オフセットでコンテンツを取込み、前記予め規定された中心線からの右側オフセットでコンテンツを取込むように構成された少なくとも1つの仮想カメラについての視点を補間することによって生成され、前記左側オフセットおよび前記右側オフセットは、前記領域における前記3次元データを提供するために選択され、前記方法はさらに、
頭部装着型ディスプレイの左アイピースに提供するための第1の球状画像を生成するために、前記少なくとも2つの更新画像における第1の画像を第1の球面にマッピングするステップと、
前記頭部装着型ディスプレイの右アイピースに提供するための第2の球状画像を生成するために、前記少なくとも2つの更新画像における第2の画像を第2の球面にマッピングするステップと、
前記頭部装着型ディスプレイの前記左アイピースに前記第1の球状画像を表示し、前記頭部装着型ディスプレイの前記右アイピースに前記第2の球状画像を表示するステップとを含む、方法。 - 前記少なくとも1つの仮想カメラは、1つ以上の物理的カメラを使用して取込まれたコンテンツを使用し、前記コンテンツを前記視点から提供されるよう適合させるように構成される、請求項11に記載の方法。
- 前記第1の画像のマッピングは、前記第1の画像から前記第1の球面に画素座標を割当てることによって前記第1の画像にテクスチャを適用することを含み、
前記第2の画像のマッピングは、前記第2の画像から前記第2の球面に画素座標を割当てることによって前記第2の画像にテクスチャを適用することを含む、請求項11または12に記載の方法。 - 視点を補間することは、前記複数の画像における複数の画素をサンプリングすることと、オプティカルフローを使用して仮想コンテンツを生成することと、前記少なくとも2つの更新画像のうちの少なくとも1つの内部に前記仮想コンテンツを設置することとを含む、請求項11〜13のいずれか1項に記載の方法。
- 少なくとも2つの球状画像は、前記左側オフセットで取込まれた前記コンテンツに含まれる前記複数の画素のうちの少なくとも一部を有するRGB画像と、前記右側オフセットで取込まれた前記コンテンツに含まれる前記複数の画素のうちの少なくとも一部を有するRGB画像とを含む、請求項14に記載の方法。
- 前記左側オフセットおよび前記右側オフセットは修正可能であり、また、前記頭部装着型ディスプレイにおける前記第1の画像および前記第2の画像の表示精度を適合させるために機能的である、請求項11〜15のいずれか1項に記載の方法。
- コンピュータによって実行されるプログラムであって、
前記プログラムは、前記コンピュータに、請求項1〜6のいずれか1項に記載の方法を実行する、プログラム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562219534P | 2015-09-16 | 2015-09-16 | |
US62/219,534 | 2015-09-16 | ||
US15/266,602 | 2016-09-15 | ||
US15/266,602 US10217189B2 (en) | 2015-09-16 | 2016-09-15 | General spherical capture methods |
PCT/US2016/052086 WO2017049055A1 (en) | 2015-09-16 | 2016-09-16 | General spherical capture methods |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018523326A JP2018523326A (ja) | 2018-08-16 |
JP6643357B2 true JP6643357B2 (ja) | 2020-02-12 |
Family
ID=58238875
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017555540A Active JP6643357B2 (ja) | 2015-09-16 | 2016-09-16 | 全球状取込方法 |
Country Status (8)
Country | Link |
---|---|
US (1) | US10217189B2 (ja) |
EP (1) | EP3350653B1 (ja) |
JP (1) | JP6643357B2 (ja) |
KR (1) | KR101986329B1 (ja) |
CN (1) | CN107636534B (ja) |
DE (1) | DE112016004216T5 (ja) |
GB (1) | GB2555724B (ja) |
WO (1) | WO2017049055A1 (ja) |
Families Citing this family (43)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2544970B (en) * | 2015-11-27 | 2018-01-24 | Sony Interactive Entertainment Inc | Image capture apparatus |
JP2019035584A (ja) * | 2015-12-01 | 2019-03-07 | 株式会社ソニー・インタラクティブエンタテインメント | 距離計測デバイス |
EP3190780A1 (en) * | 2016-01-05 | 2017-07-12 | Giroptic | Two-lens spherical camera |
KR102381370B1 (ko) * | 2016-02-19 | 2022-03-31 | 삼성전자주식회사 | 가상 현실을 제공하기 위한 이미지 처리 방법 및 가상 현실 디바이스 |
US9972066B1 (en) * | 2016-03-16 | 2018-05-15 | Gopro, Inc. | Systems and methods for providing variable image projection for spherical visual content |
FI20165256A (fi) * | 2016-03-24 | 2017-09-25 | Nokia Technologies Oy | Laitteisto, menetelmä ja tietokoneohjelma videokoodaukseen ja -dekoodaukseen |
US10057487B1 (en) * | 2016-03-25 | 2018-08-21 | Scott Zhihao Chen | Panoramic imaging systems based on normal-lens cameras |
US9934615B2 (en) | 2016-04-06 | 2018-04-03 | Facebook, Inc. | Transition between binocular and monocular views |
US10057562B2 (en) | 2016-04-06 | 2018-08-21 | Facebook, Inc. | Generating intermediate views using optical flow |
WO2018066980A1 (ko) | 2016-10-04 | 2018-04-12 | 김기백 | 영상 데이터 부호화/복호화 방법 및 장치 |
US20190253624A1 (en) * | 2017-07-17 | 2019-08-15 | Ki Baek Kim | Image data encoding/decoding method and apparatus |
US10339627B2 (en) * | 2016-10-10 | 2019-07-02 | Gopro, Inc. | Apparatus and methods for the optimal stitch zone calculation of a generated projection of a spherical image |
CN107993276B (zh) * | 2016-10-25 | 2021-11-23 | 杭州海康威视数字技术股份有限公司 | 一种全景图像的生成方法及装置 |
KR102589853B1 (ko) * | 2016-10-27 | 2023-10-16 | 삼성전자주식회사 | 영상 표시 장치 및 영상 표시 방법 |
KR20180051288A (ko) * | 2016-11-08 | 2018-05-16 | 삼성전자주식회사 | 디스플레이 장치 및 그 제어 방법 |
GB2558283B (en) * | 2016-12-23 | 2020-11-04 | Sony Interactive Entertainment Inc | Image processing |
US10497100B2 (en) | 2017-03-17 | 2019-12-03 | Disney Enterprises, Inc. | Image cancellation from video |
WO2018173790A1 (ja) * | 2017-03-22 | 2018-09-27 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
WO2018234622A1 (en) * | 2017-06-21 | 2018-12-27 | Nokia Technologies Oy | METHOD OF DETECTING EVENTS OF INTEREST |
JP6951917B2 (ja) * | 2017-09-15 | 2021-10-20 | 株式会社ソニー・インタラクティブエンタテインメント | 撮像装置 |
US10594917B2 (en) * | 2017-10-30 | 2020-03-17 | Microsoft Technology Licensing, Llc | Network-controlled 3D video capture |
US20210168284A1 (en) * | 2018-03-29 | 2021-06-03 | Skydome Ab | Camera system for enabling spherical imaging |
EP3752956B1 (en) * | 2018-05-21 | 2023-12-13 | Google LLC | Methods, systems, and media for detecting two-dimensional videos placed on a sphere in abusive spherical video content |
KR102435519B1 (ko) | 2018-06-20 | 2022-08-24 | 삼성전자주식회사 | 360도 영상을 처리하는 방법 및 장치 |
CN110956583B (zh) * | 2018-09-26 | 2022-05-10 | 华为技术有限公司 | 球面图像处理方法、装置及服务器 |
KR102065632B1 (ko) | 2018-10-22 | 2020-02-11 | 전자부품연구원 | 복수의 가상 카메라를 이용한 게임 내 360 vr 영상 획득 장치 및 방법 |
CN111489448B (zh) * | 2019-01-24 | 2024-08-20 | 宏达国际电子股份有限公司 | 检测真实世界光源的方法、混合实境系统及记录介质 |
SG10201902889VA (en) * | 2019-03-29 | 2020-10-29 | Nec Corp | System and Method for Adaptively Constructing a Three-Dimensional Facial Model Based on Two or More Inputs of a Two- Dimensional Facial Image |
CN110072158B (zh) * | 2019-05-06 | 2021-06-04 | 复旦大学 | 球面赤道区域双c型全景视频投影方法 |
US11287947B2 (en) | 2019-05-15 | 2022-03-29 | Microsoft Technology Licensing, Llc | Contextual input in a three-dimensional environment |
US11048376B2 (en) * | 2019-05-15 | 2021-06-29 | Microsoft Technology Licensing, Llc | Text editing system for 3D environment |
US11164395B2 (en) | 2019-05-15 | 2021-11-02 | Microsoft Technology Licensing, Llc | Structure switching in a three-dimensional environment |
US10510155B1 (en) * | 2019-06-11 | 2019-12-17 | Mujin, Inc. | Method and processing system for updating a first image generated by a first camera based on a second image generated by a second camera |
US11800231B2 (en) | 2019-09-19 | 2023-10-24 | Apple Inc. | Head-mounted display |
CN111061123B (zh) * | 2019-12-25 | 2022-02-15 | 重庆特斯联智慧科技股份有限公司 | 一种旅游景观展示的旋转全景成像系统及使用方法 |
US11386633B2 (en) * | 2020-06-13 | 2022-07-12 | Qualcomm Incorporated | Image augmentation for analytics |
CN111738923B (zh) * | 2020-06-19 | 2024-05-10 | 京东方科技集团股份有限公司 | 图像处理方法、设备及存储介质 |
CN115997187A (zh) * | 2020-07-03 | 2023-04-21 | 普费奇公司 | 远程出席和参与系统和方法 |
CN114077410A (zh) * | 2020-08-11 | 2022-02-22 | 北京芯海视界三维科技有限公司 | 图像处理装置及虚拟现实设备 |
US11405544B2 (en) * | 2020-10-09 | 2022-08-02 | Sony Group Corporation | Programmable rig control for three-dimensional (3D) reconstruction |
KR20230014943A (ko) * | 2021-07-22 | 2023-01-31 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 동작 방법 |
CN115474034B (zh) * | 2021-06-11 | 2024-04-26 | 腾讯科技(深圳)有限公司 | 沉浸媒体的数据处理方法、装置、相关设备及存储介质 |
KR102636562B1 (ko) | 2023-12-01 | 2024-02-14 | 주식회사라이브아레나 | 구형 디스플레이를 통한 컨텐츠 제공 장치 |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3404110B2 (ja) * | 1994-02-28 | 2003-05-06 | 日本放送協会 | テレビジョンカメラ撮影制御装置 |
US5703604A (en) | 1995-05-22 | 1997-12-30 | Dodeca Llc | Immersive dodecaherdral video viewing system |
US5986668A (en) * | 1997-08-01 | 1999-11-16 | Microsoft Corporation | Deghosting method and apparatus for construction of image mosaics |
JP2001273522A (ja) * | 2000-03-23 | 2001-10-05 | Ntt Comware Corp | キャラクタ画像データ登録システムおよびその記録媒体 |
JP2001298652A (ja) * | 2000-04-17 | 2001-10-26 | Sony Corp | 画像圧縮方法及び画像圧縮装置、並びにソフトウェア記憶媒体 |
IL139995A (en) * | 2000-11-29 | 2007-07-24 | Rvc Llc | System and method for spherical stereoscopic photographing |
US6947059B2 (en) | 2001-08-10 | 2005-09-20 | Micoy Corporation | Stereoscopic panoramic image capture device |
GB2431804B (en) * | 2005-10-31 | 2011-04-13 | Hewlett Packard Development Co | Image capture device and method of capturing an image |
US7619629B1 (en) * | 2006-06-15 | 2009-11-17 | Nvidia Corporation | Method and system for utilizing memory interface bandwidth to connect multiple graphics processing units |
JP4764305B2 (ja) * | 2006-10-02 | 2011-08-31 | 株式会社東芝 | 立体画像生成装置、方法およびプログラム |
KR100987412B1 (ko) * | 2009-01-15 | 2010-10-12 | 포항공과대학교 산학협력단 | 멀티프레임을 고려한 비디오 오브젝트 매팅 시스템 및 방법 |
JP5675260B2 (ja) * | 2010-10-15 | 2015-02-25 | 任天堂株式会社 | 画像処理プログラム、画像処理装置、画像処理システム、及び、画像処理方法 |
WO2012132234A1 (ja) * | 2011-03-31 | 2012-10-04 | パナソニック株式会社 | 全周囲立体画像の描画を行う画像描画装置、画像描画方法、画像描画プログラム |
KR102082300B1 (ko) | 2013-07-01 | 2020-02-27 | 삼성전자주식회사 | 삼차원 영상 생성 또는 재생을 위한 장치 및 방법 |
JP5824537B2 (ja) * | 2014-01-16 | 2015-11-25 | キヤノン株式会社 | 情報処理装置および情報処理方法 |
CN112651288B (zh) * | 2014-06-14 | 2022-09-20 | 奇跃公司 | 用于产生虚拟和增强现实的方法和系统 |
US11205305B2 (en) | 2014-09-22 | 2021-12-21 | Samsung Electronics Company, Ltd. | Presentation of three-dimensional video |
US10750153B2 (en) * | 2014-09-22 | 2020-08-18 | Samsung Electronics Company, Ltd. | Camera system for three-dimensional video |
JP5743016B2 (ja) * | 2014-09-29 | 2015-07-01 | 株式会社リコー | 画像を生成する装置および方法 |
GB2534921B (en) * | 2015-02-06 | 2021-11-17 | Sony Interactive Entertainment Inc | Head-mountable display system |
WO2016191467A1 (en) * | 2015-05-27 | 2016-12-01 | Google Inc. | Capture and render of panoramic virtual reality content |
US20170363949A1 (en) | 2015-05-27 | 2017-12-21 | Google Inc | Multi-tier camera rig for stereoscopic image capture |
WO2017026705A1 (ko) | 2015-08-07 | 2017-02-16 | 삼성전자 주식회사 | 360도 3d 입체 영상을 생성하는 전자 장치 및 이의 방법 |
KR102458339B1 (ko) | 2015-08-07 | 2022-10-25 | 삼성전자주식회사 | 360도 3d 입체 영상을 생성하는 전자 장치 및 이의 방법 |
-
2016
- 2016-09-15 US US15/266,602 patent/US10217189B2/en active Active
- 2016-09-16 CN CN201680025207.1A patent/CN107636534B/zh active Active
- 2016-09-16 EP EP16779212.6A patent/EP3350653B1/en active Active
- 2016-09-16 WO PCT/US2016/052086 patent/WO2017049055A1/en active Application Filing
- 2016-09-16 DE DE112016004216.7T patent/DE112016004216T5/de not_active Withdrawn
- 2016-09-16 JP JP2017555540A patent/JP6643357B2/ja active Active
- 2016-09-16 KR KR1020177031459A patent/KR101986329B1/ko active IP Right Grant
- 2016-09-16 GB GB1716679.4A patent/GB2555724B/en active Active
Also Published As
Publication number | Publication date |
---|---|
GB2555724B (en) | 2020-04-22 |
KR101986329B1 (ko) | 2019-06-05 |
EP3350653B1 (en) | 2022-06-01 |
JP2018523326A (ja) | 2018-08-16 |
CN107636534A (zh) | 2018-01-26 |
WO2017049055A1 (en) | 2017-03-23 |
GB2555724A8 (en) | 2018-10-03 |
WO2017049055A9 (en) | 2018-01-04 |
US10217189B2 (en) | 2019-02-26 |
GB201716679D0 (en) | 2017-11-29 |
KR20170133444A (ko) | 2017-12-05 |
EP3350653A1 (en) | 2018-07-25 |
US20170076429A1 (en) | 2017-03-16 |
GB2555724A (en) | 2018-05-09 |
CN107636534B (zh) | 2020-05-19 |
DE112016004216T5 (de) | 2018-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6643357B2 (ja) | 全球状取込方法 | |
JP7042286B2 (ja) | 滑らかに変化するフォービエイテッドレンダリング | |
US11010958B2 (en) | Method and system for generating an image of a subject in a scene | |
US10681276B2 (en) | Virtual reality video processing to compensate for movement of a camera during capture | |
JP2018522429A (ja) | パノラマバーチャルリアリティコンテンツのキャプチャおよびレンダリング | |
US11765335B2 (en) | Synthetic stereoscopic content capture | |
CN111373347B (zh) | 用于虚拟现实内容的提供的装置、方法和计算机程序 | |
US20170193704A1 (en) | Causing provision of virtual reality content | |
EP3665656B1 (en) | Three-dimensional video processing | |
US10410390B2 (en) | Augmented reality platform using captured footage from multiple angles | |
GB2566006A (en) | Three-dimensional video processing | |
JP6601392B2 (ja) | 表示制御装置、表示制御方法、及び、プログラム | |
US20240078743A1 (en) | Stereo Depth Markers |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171201 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171201 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190115 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190412 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190730 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190807 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200106 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6643357 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |