JP6742444B2 - ライブストリーミング用のバーチャルリアリティ360度ビデオカメラシステム - Google Patents
ライブストリーミング用のバーチャルリアリティ360度ビデオカメラシステム Download PDFInfo
- Publication number
- JP6742444B2 JP6742444B2 JP2018564252A JP2018564252A JP6742444B2 JP 6742444 B2 JP6742444 B2 JP 6742444B2 JP 2018564252 A JP2018564252 A JP 2018564252A JP 2018564252 A JP2018564252 A JP 2018564252A JP 6742444 B2 JP6742444 B2 JP 6742444B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- video image
- cameras
- camera
- imaging system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 claims description 28
- 238000003384 imaging method Methods 0.000 claims description 21
- 238000004891 communication Methods 0.000 claims description 15
- 238000009966 trimming Methods 0.000 claims description 12
- 230000001360 synchronised effect Effects 0.000 claims description 8
- 230000006870 function Effects 0.000 claims description 3
- 230000002123 temporal effect Effects 0.000 claims description 2
- 238000013481 data capture Methods 0.000 claims 1
- 238000003860 storage Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000013341 scale-up Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000004148 unit process Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/189—Recording image signals; Reproducing recorded image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2181—Source of audio or video content, e.g. local disk arrays comprising remotely distributed storage units, e.g. when movies are replicated over a plurality of video servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/23424—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/44016—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for substituting a video clip
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8166—Monomedia components thereof involving executable data, e.g. software
- H04N21/8173—End-user applications, e.g. Web browser, game
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Marketing (AREA)
- Business, Economics & Management (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Studio Devices (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Computer Hardware Design (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Description
本出願は、2016年6月7日出願の米国仮特許出願第62/347,077号に基づく利益を主張し、上記仮特許出願の内容を参照により本明細書に援用する。
ストリーミング360度ビデオコンテンツは、バーチャルリアリティ(VR)及び拡張現実(AR)アプリケーションのための没入型環境を提供することができる。
一態様では、撮像システムが提供される。撮像システムは、環境のそれぞれの視野に基づいてビデオ画像データをキャプチャするように構成された複数のカメラを含む。複数のカメラのうちの各カメラが、通信インターフェースを介して複数のカメラのうちの近隣のカメラと通信可能に結合される。複数のカメラのうちの各カメラは、少なくとも1つのプロセッサ、及びメモリを含む。少なくとも1つのプロセッサが、メモリに格納された命令を実行して操作を実施する。操作は、それぞれの視野のビデオ画像データをキャプチャすること、及びオーバーレイ領域を決定することを含む。オーバーレイ領域が、それぞれのカメラと近隣のカメラの少なくとも1つとによってキャプチャされたビデオ画像データの重畳部分を含む。また、操作は、それぞれの視野のキャプチャされたビデオ画像データをオーバーレイ領域に基づいてトリミング及びワーピングして、それぞれの処理されたビデオ画像データを生成することも含む。
例示的な方法、デバイス、及びシステムを本明細書に述べる。「例」及び「例示的」という語は、本明細書では、「例、実例、又は例示として役立つ」ことを意味するために使用されることを理解されたい。「例」又は「例示的」であるものとして本明細書で述べる任意の実施形態又は特徴は、他の実施形態又は特徴よりも好ましい又は有利であるとは必ずしも解釈されない。本明細書で提示する主題の範囲から逸脱することなく、他の実施形態を利用することができ、他の変更を施すこともできる。
バーチャルリアリティ(VR)360°ビデオは、制作から消費までの長いパイプラインを有する。図1に、従来のバーチャルリアリティ360°ビデオストリーミングパイプライン100を示す。(1)パイプライン100は、VR360°カメラから始まる。VR360°カメラは、複数のカメラからなることが多い。これらのカメラはリグに取り付けられ、各カメラは、異なる視野角をキャプチャするように配置される。これらのカメラは、重畳する視野(FOV)を含み、画像ステッチングによって360×180度の球状ビュー全体をカバーする。(2)全てのカメラからのデータが処理ユニットに読み込まれ、処理ユニットは、複数のビデオストリームを整列させてステッチし、1つの360°ストリームにする;(3)次いで、360°ストリームを編集することができる;(4)次いで、編集されたビデオが符号化されて、クラウドにアップロードされる;(5)次いで、ビデオは、クラウドにおいてトランスコードされ、ストリーミングの準備が整う;(6)ビデオコンテンツがクライアントに配信される;さらに(7)クライアントアプリケーションがコンテンツを受信し、それらをエンドユーザにレンダリング/表示する。
A.一体型カメラユニット
一実施形態では、図6に示すように、カメラ、プロセッサ、ストレージ、及び送信モジュールの一体型ユニットを形成して、1つのモジュールにすることができる。すなわち、図6には、1つの例示的実施形態によるシステム600を示す。
VR360°カメラシステムは、様々な数のカメラからなっていてよい。これらのカメラは、所望のFOVをカバーするために様々な形で幾何学的に配置することができる。図8に、1つの例示的実施形態による幾何学的なカメラ配置800を示す。図8には、全視野をカバーする14個のカメラユニットの例示的な幾何学的配置を示す。上部(平面1)にあるカメラ1は上方向に向いており、魚眼レンズで100°×100°FOVをカバーする。平面2にあるカメラ2〜7は、外方向に向き、50°×360°FOVの円柱ビューをカバーし、各カメラが50°×65°FOVをカバーし、連続する(例えば隣接及び/又は近接する)カメラ間で5°の水平方向重畳を有する。システムの下半分(例えば、カメラ8〜14)は、上半分に対して対称的でよい。
本明細書で提案されるVR360°カメラシステムでは、各カメラユニットは、ビデオフレームを処理して、異なるカメラからのフレームを出力し、それらを直接ステッチして球状ビューを形成することができ、又はステッチした後に少量のさらなる処理で球状ビューを形成することができる。そのようなシナリオでは、各カメラは、画像処理(例えばワーピング及び/又はトリミング)を行うために、その近隣のカメラユニット(例えば近隣のカメラ)から情報を受信する必要がある。
A.カメラ同期
本明細書で提案されたVR360°カメラシステムにおける各カメラユニットは、球状ビューの一部をキャプチャする。各カメラからの画像をステッチし合わせて360°画像フレーム(及び360°ビデオ)にするためには、各カメラユニットにおける画像キャプチャを同期させる必要がある。カメラシステムクロックは、カメラ間の通信に基づいて同期させることができる。追加として又は代替として、カメラがビデオをキャプチャしている間に同期フラッシュが発光されてもよい。そのようなシナリオでは、同期フラッシュをキャプチャするそれぞれのビデオデータからのフレームを見つけることによって、カメラを同期させることができる。追加として又は代替として、(例えばカメラのビデオキャプチャを同時に停止することにより)最後のビデオクリップを分析することによってカメラを同期させることができる。
1.背景
ビデオステッチングの難しさは、1)レンズ歪;及び2)カメラ間の視野差に起因することがある。レンズ歪は、ランタイム前又はランタイム時に行うことができるカメラ較正によってほぼ補正することができる。カメラの視野差はシーンに依存し、ビデオがキャプチャされているときにカメラの重畳を使用して対処することができる。
図11A及び11Bに、1つの例示的実施形態による、奥行きマップを推定することによる画像フレームのワーピング及びトリミングを示す。図11A及び11Bには、5つのカメラが360°視野内に一様に分布し、それぞれが90°FOVをカバーする2Dビューの例を示す。一方法では、各カメラユニットは、中心点の視点から72°の最終的な画像の生成を担い、したがって、5つのカメラからの全てのフレームを組み合わせて、単一の視点Oからの360°の1フレームが生成される。各カメラユニットの担当するFOVは較正中に予め決定される。
各カメラユニットからのビデオデータは、即座にローカルストレージに保存されてもよく、又はローカルストレージへの保存前に(前のセッションで述べたように)まずトリミング及びワーピングされてもよい。
ローカルストレージに保存するか否かにかかわらず、処理されたビデオデータは、リアルタイムでクラウドにアップロードすることができる。図13に示す一例では、ビデオデータが小さなトランクに符号化されると、各トランクを即座にクラウドにアップロードすることができる。図13には、1つの例示的実施形態による、キャプチャから消費までのライブストリーム1300を示す。
まず、クライアントデバイス上のアプリケーションが、ストリームサーバからメタデータを取得し、次いでビデオトランクの全ての必要なリストに接続する。このアプリケーションは、必要に応じて、所要のビデオトランクをストリーミング及び同期し、それらをステッチし合わせて、スクリーンにレンダリングするように設計されており、したがってエンドユーザにVR360°ビデオを提供する。1つの適用可能な解決策が、2016年4月8日出願の米国仮特許出願第62/320,451号に記載されている。
全てのカメラユニットからのビデオデータをクラウド上でステッチすることもできる。アップロード前に全てのデータが既に整列されているので、ステッチングのための計算は比較的少なく、リアルタイムで行うことができる。ステッチング後、ステッチされたビデオデータは、通常のビデオストリームであるように見え、これは、通常のストリーミングプロトコル(例えば、HLS、DASHなど)を介してクライアントデバイスにストリーミングすることができる。
クラウド上で低解像度の360°ビデオをステッチし、クライアントアプリケーションにおいて高解像度の360°ビデオをステッチすることもできる。クラウド上での計算を少なく済ますために、VR360°カメラシステムにおける各カメラユニットは、図14に示すように、2つの一連のトランク、すなわち1つの高解像度トランク及び1つの低解像度トランクをクラウドにアップロードすることができる。図14には、1つの例示的実施形態による、キャプチャから消費までのライブストリーム1400を示す。
Claims (21)
- 環境のそれぞれの視野に基づいてビデオ画像データをキャプチャするように構成された複数のカメラを備える撮像システムであって、前記複数のカメラのうちの各カメラが、1つ又は複数の通信インターフェースを介して前記複数のカメラのうちの近隣のカメラと通信可能に結合され、前記複数のカメラのうちの各カメラが、少なくとも1つのプロセッサ及びメモリを備え、前記少なくとも1つのプロセッサが、メモリに格納された命令を実行して操作を実施し、前記操作が、
前記それぞれの視野のビデオ画像データをキャプチャすること、
オーバーレイ領域を決定することであって、前記オーバーレイ領域が、前記それぞれのカメラと前記近隣のカメラの少なくとも1つとによってキャプチャされたビデオ画像データの重畳部分を含むこと、並びに
前記それぞれの視野の前記キャプチャされたビデオ画像データを前記オーバーレイ領域に基づいてトリミング及びワーピングして、それぞれの処理されたビデオ画像データを生成すること
を含む撮像システム。 - 前記オーバーレイ領域を決定することが、前記通信インターフェースを介して、前記近隣のカメラのうちの少なくとも1つからオーバーレイ情報を受信することを含む、請求項1に記載の撮像システム。
- 前記操作が、前記通信インターフェースを介して、前記オーバーレイ領域を示す情報を前記近隣のカメラのうちの少なくとも1つに送信することをさらに含む、請求項1に記載の撮像システム。
- 前記操作が、前記処理されたビデオ画像データをリアルタイムでサーバにアップロードすることをさらに含む、請求項1に記載の撮像システム。
- 前記操作が、
前記通信インターフェースを介して、時間基準を示す情報を受信すること、及び
前記時間基準に基づいて少なくとも1つの操作を行うこと
をさらに含む、請求項1に記載の撮像システム。 - 前記操作が、前記ビデオ画像データをキャプチャしている間に、前記環境の視野内で同期フラッシュをキャプチャすることをさらに含み、前記時間基準が前記同期フラッシュを含む、請求項5に記載の撮像システム。
- 前記操作が、前記ビデオ画像データをキャプチャしている間に、前記複数のカメラのうちの各カメラに関するビデオ画像データキャプチャを同時に中断することをさらに含む、請求項5に記載の撮像システム。
- 前記操作が、ビデオ画像データの前記重畳部分内の重畳する画素の部分を決定することをさらに含み、前記オーバーレイ領域を決定することが、重畳する画素の前記部分に基づく、請求項1に記載の撮像システム。
- 前記操作が、ビデオ画像データの前記重畳部分内の少なくとも1つの画像特徴点を決定することをさらに含み、前記オーバーレイ領域を決定することが、前記画像特徴点に基づく、請求項1に記載の撮像システム。
- 前記少なくとも1つの画像特徴点が、少なくとも1つのSIFT(structure invariant function transfer; 構造不変関数伝達)点を含む、請求項9に記載の撮像システム。
- 前記撮像システムが、14個の面を有する3次元物体を備え、前記複数のカメラが、各面に沿って配置された少なくとも1つのカメラを備える、請求項1に記載の撮像システム。
- 前記複数のカメラのうちの各カメラが、少なくとも1つのマイクロフォンを備える、請求項1に記載の撮像システム。
- 撮像システムの複数のカメラのうちのそれぞれのカメラに関連する処理されたビデオ画像データを受信することであって、前記複数のカメラのうちの各カメラが、環境のそれぞれの視野のビデオ画像をキャプチャするように構成され、前記処理されたビデオ画像データが、オーバーレイ領域に基づいて、トリミング及びワーピングされたビデオ画像データを備え、前記オーバーレイ領域が、前記複数のカメラのうちの少なくとも2つの近隣のカメラによってキャプチャされたビデオ画像データの重畳部分を含むこと、並びに
ストリーミングされたビデオを、複数の通信リンクを介してクライアントデバイスに提供することであって、前記ストリーミングされたビデオが、前記処理されたビデオ画像データに基づくこと
を含む方法。 - 前記処理されたビデオ画像データの低解像度表現をステッチして低解像度360度ビデオ画像データを提供することをさらに含み、前記ストリーミングされたビデオが、前記低解像度360度ビデオ画像データを含む、請求項13に記載の方法。
- 前記処理されたビデオ画像データをステッチして高解像度360度ビデオ画像データを提供することをさらに含み、前記ストリーミングされたビデオが、前記高解像度360度ビデオ画像データを含む、請求項13に記載の方法。
- 前記クライアントデバイスにメタデータを提供することをさらに含み、前記メタデータが、前記撮像システムに関連する前記複数のカメラの幾何学的配置に関する情報を含む、請求項13に記載の方法。
- 前記ストリーミングされたビデオが、ストリーミング通信プロトコルに従って提供され、前記ストリーミング通信プロトコルが、HTTP Live Streaming(HLS)又はDynamic Active Streaming over HTTP(DASH)の少なくとも一方を含む、請求項13に記載の方法。
- 時間基準を示す情報を受信すること、及び
前記時間基準に基づいて、隣接する視野からの前記処理されたビデオ画像データをステッチすること
をさらに含む、請求項13に記載の方法。 - 前記処理されたビデオ画像データをステッチすることが、前記時間基準に基づいて、処理されたビデオ画像を、隣接する処理されたビデオ画像の時間補間表現とステッチすることを含む、請求項18に記載の方法。
- 前記クライアントデバイスが、360度ビデオ画像データを提供するために、前記ストリーミングされたビデオの少なくとも一部をステッチするように構成される、請求項13に記載の方法。
- 前記処理されたビデオ画像データを受信することが、クラウドサーバシステムによって行われる、請求項13に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662347077P | 2016-06-07 | 2016-06-07 | |
US62/347,077 | 2016-06-07 | ||
PCT/US2017/036385 WO2017214291A1 (en) | 2016-06-07 | 2017-06-07 | Virtual reality 360-degree video camera system for live streaming |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019524020A JP2019524020A (ja) | 2019-08-29 |
JP6742444B2 true JP6742444B2 (ja) | 2020-08-19 |
Family
ID=60482419
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018564252A Expired - Fee Related JP6742444B2 (ja) | 2016-06-07 | 2017-06-07 | ライブストリーミング用のバーチャルリアリティ360度ビデオカメラシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US10652517B2 (ja) |
EP (1) | EP3466080A4 (ja) |
JP (1) | JP6742444B2 (ja) |
CN (1) | CN109863754B (ja) |
WO (1) | WO2017214291A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020502955A (ja) * | 2016-10-04 | 2020-01-23 | リブライク インコーポレーテッド | モバイルデバイスのためのピクチャ・イン・ピクチャに基づくビデオストリーミング |
CN107967665B (zh) * | 2016-10-20 | 2021-07-13 | 株式会社理光 | 图像处理方法和图像处理装置 |
CN108153412A (zh) * | 2017-12-11 | 2018-06-12 | 虚拟现实(深圳)智能科技有限公司 | 局域网vr直播方法及系统 |
US11055348B2 (en) * | 2017-12-29 | 2021-07-06 | Facebook, Inc. | Systems and methods for automatically generating stitched media content |
GB2570298A (en) * | 2018-01-17 | 2019-07-24 | Nokia Technologies Oy | Providing virtual content based on user context |
CN108858187B (zh) * | 2018-06-01 | 2021-12-28 | 南京理工大学 | 一种带电接搭引流线作业现场的快速重构方法 |
US10623791B2 (en) | 2018-06-01 | 2020-04-14 | At&T Intellectual Property I, L.P. | Field of view prediction in live panoramic video streaming |
US10812774B2 (en) | 2018-06-06 | 2020-10-20 | At&T Intellectual Property I, L.P. | Methods and devices for adapting the rate of video content streaming |
US10616621B2 (en) | 2018-06-29 | 2020-04-07 | At&T Intellectual Property I, L.P. | Methods and devices for determining multipath routing for panoramic video content |
US11019361B2 (en) | 2018-08-13 | 2021-05-25 | At&T Intellectual Property I, L.P. | Methods, systems and devices for adjusting panoramic view of a camera for capturing video content |
US10708494B2 (en) | 2018-08-13 | 2020-07-07 | At&T Intellectual Property I, L.P. | Methods, systems and devices for adjusting panoramic video content |
KR102613098B1 (ko) * | 2019-01-23 | 2023-12-12 | 한화비전 주식회사 | 이미지 센서 모듈 |
CN110113629B (zh) * | 2019-04-22 | 2021-07-27 | 山西共致科技有限公司 | 一种照片直播系统及其方法 |
US20220360865A1 (en) * | 2019-07-03 | 2022-11-10 | Beijing Xiaomi Mobile Software Co., Ltd. | Method, system and apparatus for building virtual reality environment |
CN112581364B (zh) * | 2019-09-30 | 2024-04-09 | 西安诺瓦星云科技股份有限公司 | 图像处理方法及装置、视频处理器 |
JP7442029B2 (ja) * | 2019-10-17 | 2024-03-04 | 株式会社東海理化電機製作所 | 画像処理装置、画像処理プログラム |
KR102295264B1 (ko) | 2019-11-28 | 2021-08-30 | 주식회사 알파서클 | 하나의 스트리밍영상을 이용하여 복수의 가상현실영상을 재생하는 가상현실영상재생장치 및 방법 |
US11699001B2 (en) * | 2020-10-13 | 2023-07-11 | Flyreel, Inc. | Generating measurements of physical structures and environments through automated analysis of sensor data |
US11483368B1 (en) | 2021-07-06 | 2022-10-25 | City University Of Hong Kong | Video streaming method and system |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3530652B2 (ja) * | 1995-09-26 | 2004-05-24 | キヤノン株式会社 | 画像合成方法及び画像合成装置 |
JP2001204015A (ja) * | 2000-01-18 | 2001-07-27 | Sony Corp | 周囲カメラ・システム、周囲カメラの撮像画像に基づいて周囲画像を生成する方法、隣接カメラによる撮像画像の接続処理装置及び方法、並びに、隣接カメラを用いた距離測定装置及び方法 |
JP2006503375A (ja) * | 2002-10-18 | 2006-01-26 | サーノフ・コーポレーション | 複数のカメラを用いたパノラマ映像化を可能とする方法およびシステム |
US7428000B2 (en) * | 2003-06-26 | 2008-09-23 | Microsoft Corp. | System and method for distributed meetings |
JP4606989B2 (ja) * | 2005-10-07 | 2011-01-05 | 富士フイルム株式会社 | 撮影装置 |
US7697839B2 (en) * | 2006-06-30 | 2010-04-13 | Microsoft Corporation | Parametric calibration for panoramic camera systems |
JP4345829B2 (ja) * | 2007-03-09 | 2009-10-14 | ソニー株式会社 | 画像表示システム、画像表示装置、画像表示方法およびプログラム |
CN101146231A (zh) * | 2007-07-03 | 2008-03-19 | 浙江大学 | 根据多视角视频流生成全景视频的方法 |
US8724007B2 (en) * | 2008-08-29 | 2014-05-13 | Adobe Systems Incorporated | Metadata-driven method and apparatus for multi-image processing |
WO2010052548A2 (en) * | 2008-11-05 | 2010-05-14 | Easywalk Capital S.A. | System and method for creating interactive panoramic walk-through applications |
US8237771B2 (en) * | 2009-03-26 | 2012-08-07 | Eastman Kodak Company | Automated videography based communications |
WO2010124074A1 (en) * | 2009-04-22 | 2010-10-28 | Terrence Dashon Howard | System for merging virtual reality and reality to provide an enhanced sensory experience |
WO2011091604A1 (zh) * | 2010-01-29 | 2011-08-04 | 华为终端有限公司 | 视频通信的方法、装置和系统 |
GB2477793A (en) | 2010-02-15 | 2011-08-17 | Sony Corp | A method of creating a stereoscopic image in a client device |
KR101335391B1 (ko) * | 2010-04-12 | 2013-12-03 | 한국전자통신연구원 | 영상 합성 장치 및 그 방법 |
KR101776702B1 (ko) * | 2011-03-25 | 2017-09-08 | 한화테크윈 주식회사 | 3차원 영상을 생성하는 감시 카메라 및 그 방법 |
US8792405B2 (en) * | 2011-11-15 | 2014-07-29 | Verizon Patent And Licensing Inc. | Adaptive bandwidth for media content |
US9516225B2 (en) * | 2011-12-02 | 2016-12-06 | Amazon Technologies, Inc. | Apparatus and method for panoramic video hosting |
US20130250040A1 (en) * | 2012-03-23 | 2013-09-26 | Broadcom Corporation | Capturing and Displaying Stereoscopic Panoramic Images |
DE102012205902A1 (de) * | 2012-04-11 | 2013-10-17 | Tyco Electronics Amp Gmbh | Weggeber zum berührungslosen Messen einer Position mittels einer Vielzahl von in Reihe angeordneten Magnetfeldsensoren |
US9204041B1 (en) * | 2012-07-03 | 2015-12-01 | Gopro, Inc. | Rolling shutter synchronization |
US9241103B2 (en) * | 2013-03-15 | 2016-01-19 | Voke Inc. | Apparatus and method for playback of multiple panoramic videos with control codes |
US9369662B2 (en) * | 2013-04-25 | 2016-06-14 | Microsoft Technology Licensing, Llc | Smart gallery and automatic music video creation from a set of photos |
US9438794B2 (en) * | 2013-06-25 | 2016-09-06 | Omnivision Technologies, Inc. | Method and apparatus for distributed image processing in cameras for minimizing artifacts in stitched images |
CN103501409B (zh) * | 2013-10-01 | 2017-01-11 | 中国人民解放军国防科学技术大学 | 一种超高分辨率全景高速球一体机系统 |
US20150095964A1 (en) * | 2013-10-01 | 2015-04-02 | Opentv, Inc. | Bumper video carousel for digital video delivery |
US20150138311A1 (en) * | 2013-11-21 | 2015-05-21 | Panavision International, L.P. | 360-degree panoramic camera systems |
US20150316835A1 (en) * | 2014-05-01 | 2015-11-05 | Ryan Douglas Scott | Camera positioning and mounting apparatus |
US20150346812A1 (en) * | 2014-05-29 | 2015-12-03 | Nextvr Inc. | Methods and apparatus for receiving content and/or playing back content |
US10477179B2 (en) * | 2014-08-13 | 2019-11-12 | Telefonaktiebolaget Lm Ericsson (Publ) | Immersive video |
US10313656B2 (en) * | 2014-09-22 | 2019-06-04 | Samsung Electronics Company Ltd. | Image stitching for three-dimensional video |
US20160094810A1 (en) * | 2014-09-30 | 2016-03-31 | Verizon Patent And Licensing Inc. | System and method for providing neighborhood services through networked cameras |
TWI592015B (zh) * | 2015-08-14 | 2017-07-11 | 晶睿通訊股份有限公司 | 多鏡頭攝影機及監視系統 |
JP6004071B2 (ja) * | 2015-11-06 | 2016-10-05 | カシオ計算機株式会社 | 表示制御装置、表示制御方法及びプログラム |
-
2017
- 2017-06-07 WO PCT/US2017/036385 patent/WO2017214291A1/en unknown
- 2017-06-07 JP JP2018564252A patent/JP6742444B2/ja not_active Expired - Fee Related
- 2017-06-07 EP EP17810949.2A patent/EP3466080A4/en not_active Ceased
- 2017-06-07 CN CN201780042769.1A patent/CN109863754B/zh not_active Expired - Fee Related
- 2017-06-07 US US15/616,558 patent/US10652517B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP3466080A4 (en) | 2020-01-08 |
EP3466080A1 (en) | 2019-04-10 |
WO2017214291A1 (en) | 2017-12-14 |
US10652517B2 (en) | 2020-05-12 |
JP2019524020A (ja) | 2019-08-29 |
CN109863754B (zh) | 2021-12-28 |
CN109863754A (zh) | 2019-06-07 |
US20170352191A1 (en) | 2017-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6742444B2 (ja) | ライブストリーミング用のバーチャルリアリティ360度ビデオカメラシステム | |
US11051081B2 (en) | Virtual reality resource scheduling of processes in a cloud-based virtual reality processing system | |
US10853915B2 (en) | Generating virtual reality content based on corrections to stitching errors | |
JP6872131B2 (ja) | 符号化装置および符号化方法、復号装置および復号方法 | |
US9930238B2 (en) | Image stitching | |
CN108886611B (zh) | 全景立体视频系统的拼接方法和装置 | |
JP6911765B2 (ja) | 画像処理装置および画像処理方法 | |
US9973694B1 (en) | Image stitching to form a three dimensional panoramic image | |
EP3669330A1 (en) | Encoding and decoding of volumetric video | |
JP2019523921A5 (ja) | ||
JP6984416B2 (ja) | 画像処理装置および画像処理方法 | |
US10652314B2 (en) | Cloud-based virtual reality project system | |
WO2018172614A1 (en) | A method and an apparatus and a computer program product for adaptive streaming | |
US20200137376A1 (en) | Method for generating a light-field 3d display unit image and a generating device | |
US10846820B2 (en) | Generation device, identification information generation method, reproduction device, and image generation method | |
JP7177034B2 (ja) | レガシー及び没入型レンダリングデバイスのために没入型ビデオをフォーマットする方法、装置、及びストリーム | |
JPWO2020004013A1 (ja) | 画像処理装置および画像処理方法 | |
US8019180B2 (en) | Constructing arbitrary-plane and multi-arbitrary-plane mosaic composite images from a multi-imager | |
US20200176031A1 (en) | Using sharding to generate virtual reality content | |
JP2016163342A (ja) | 三次元形状情報の配信または放送の方法 | |
US20210250501A1 (en) | Aggregating Images to Generate Content | |
KR20150088583A (ko) | 영상 처리 방법 및 장치 | |
WO2020179473A1 (ja) | 画像処理装置、画像生成方法、および、画像処理方法 | |
JP7009996B2 (ja) | 画像処理装置および画像処理方法 | |
JP2005101797A (ja) | 立体表示システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190205 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190205 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200204 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20200501 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200617 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200701 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200728 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6742444 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |