JP2014501973A - 3dビデオ情報をサーバからクライアントに送信するための方法および装置 - Google Patents
3dビデオ情報をサーバからクライアントに送信するための方法および装置 Download PDFInfo
- Publication number
- JP2014501973A JP2014501973A JP2013541294A JP2013541294A JP2014501973A JP 2014501973 A JP2014501973 A JP 2014501973A JP 2013541294 A JP2013541294 A JP 2013541294A JP 2013541294 A JP2013541294 A JP 2013541294A JP 2014501973 A JP2014501973 A JP 2014501973A
- Authority
- JP
- Japan
- Prior art keywords
- information
- representation
- user
- server
- scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
- G06T15/506—Illumination models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/001—Model-based coding, e.g. wire frame
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/08—Bandwidth reduction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Geometry (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Abstract
Description
− サーバで、3Dシーンモデルから3Dオブジェクトに関する表現情報を導出するステップと、
− 表現情報の圧縮を実施するステップと、
− 表示するために、圧縮された表現情報を第1のクライアント装置に向けて転送するステップとを含み、
表現情報が、3Dオブジェクトに関する照明情報をさらに含み、また3Dオブジェクトに関する照明情報が、ユーザに対する複数の仮想視点に対応する。
− 3Dシーンモデルから3Dオブジェクトに関する表現情報を導出し、
− 表現情報の圧縮を実施し、かつ
− 表示するために、圧縮された表現情報をクライアント装置に向けて転送する
ように構成され、
サーバが、3Dオブジェクトに関する照明情報を含む表現情報を導出するようにさらに構成され、また3Dオブジェクトに関する照明情報が、ユーザに対する複数の仮想視点に対応している。
− 前記サーバによりサービスされる第1のクライアントに関連付けられた第1のユーザに関する前記圧縮された表現情報から、必要な表現情報を導出すること、
− 第1のユーザに関する前記必要な表現情報に基づいて、前記第1のユーザに対する前記3Dシーン上に2Dビューを作成すること、
− 第2の装置に関連付けられた第2のユーザに関する必要な表現情報を、同じ圧縮された表現情報から導出することであり、前記第2のユーザが、同じ3Dシーンモデルに関連付けられ、かつ第1のユーザの仮想視点と同じ、または異なる仮想視点を有しており、それに対して、照明情報がまた、第2のユーザの視点からのシーン上に2Dビューを作成するように表現されること、および
− 前記第2のユーザに関する必要な表現情報に基づいて、第2のユーザの視点からのシーン上に2Dビューを作成すること
を実施するようにさらに構成される。
− シーンの進展(すなわち、ポリゴンメッシュの動き)の構造的記述、
− 時間T+1におけるシーンに対する時間予測のために使用される、時間Tにおけるシーンに関する照明情報などの参照情報、
− 参照情報に対する残りの情報を提供する更新ストリーム。
− シーン照明は、通常、空間的に非常に相関のある結果を生成する。言い換えると、白い花瓶だけを含むシーンを見る場合は、「白」が、その照明されたモデルに対する良好な予測となるよい機会である。我々は、参照情報として白のファセットを使用することができ、色および影におけるより微妙な変化を反映する照明更新情報でこれを補完することができる。
− 同じ相関が、時間的にも当てはまる(例えば、オブジェクトが、動画化されたシーンで枢動した場合、時間Tにおけるそのファセットの色は、時間T+1におけるその同じファセットの色に対する良好な予測である)。
Claims (10)
- 1組の3Dオブジェクトおよび光源に関するジオメトリおよび材質情報を定義する情報であり、かつサーバに記憶される3Dシーンモデルの3D表現を、データ通信ネットワークを介して前記サーバから第1のクライアント装置に送信するための方法であって、前記3D表現が、前記第1のクライアント装置に関連付けられた第1のユーザに対する仮想視点に対応しており、方法が、
− 前記サーバで、前記3Dシーンモデルから前記3Dオブジェクトに関する表現情報を導出するステップと、
− 前記表現情報の圧縮を実施するステップと、
− 表示するために、前記圧縮された表現情報を前記第1のクライアント装置に向けて転送するステップとを含み、
前記表現情報が、前記3Dオブジェクトに関する照明情報をさらに含み、また前記3Dオブジェクトに関する照明情報が、ユーザに対する複数の仮想視点に対応する、方法。 - 圧縮が、時間圧縮および空間圧縮の少なくとも一方を含む、請求項1に記載の方法。
- フォトンマッピング技法により、前記照明情報を導出するステップをさらに含む、請求項1に記載の方法。
- 前記表現情報が、前記オブジェクトの3Dファセット構造情報を含み、また前記照明情報が、前記ファセットに関する各照明情報を含む、請求項1から3のいずれか一項に記載の方法。
- 前記データ通信ネットワークが、前記圧縮された表現情報が受信される少なくとも中間ノードを備え、また前記中間ノードが、前記圧縮された表現情報から、前記第1のユーザに関する必要な表現情報を導出し、前記必要な表現情報を使用して、前記第1のクライアント装置に対するシーン上に2Dビューを作成し、かつ同じ圧縮された表現情報から第2のユーザに関連付けられた第2のクライアント装置に関する必要な表現情報を導出し、前記第2のユーザが、同じ3Dシーンモデルに関連付けられ、かつ第1のユーザの仮想視点と同じ、または異なる仮想視点を有しており、それに対して、照明情報がまた、前記第2のユーザの仮想視点からのシーン上に2Dビューを作成するように表現される、請求項1から4のいずれか一項に記載の方法。
- 1組の3Dオブジェクトおよび光源に関するジオメトリおよび材質情報を定義する情報である3Dシーンモデルの3D表現を、データ通信ネットワークを介してクライアント装置に送信するためのサーバであって、前記3D表現が、前記クライアント装置に関連付けられたユーザに対する仮想視点に対応しており、サーバが、
− 前記3Dシーンモデルから前記3Dオブジェクトに関する表現情報を導出し、
− 前記表現情報の圧縮を実施し、かつ
− 表示するために、前記圧縮された表現情報を前記クライアント装置に向けて転送するように構成され、
前記サーバが、前記3Dオブジェクトに関する照明情報を含む表現情報を導出するようにさらに構成され、また前記3Dオブジェクトに関する前記照明情報が、ユーザに対する複数の仮想視点に対応する、サーバ。 - 前記表現情報の空間圧縮および時間圧縮の少なくとも一方を実施するように構成される、請求項6に記載のサーバ。
- フォトンマッピング技法により、前記照明情報を導出するようにさらに構成される、請求項6から7のいずれか一項に記載のサーバ。
- 前記3Dオブジェクトの3Dファセット構造情報と、各ファセットに関する各照明情報とを導き出すことにより表現情報を導出するようにさらに構成される、請求項6から8のいずれか一項に記載のサーバ。
- 請求項6から9のいずれか一項に記載のサーバに関する圧縮された表現情報を受信するように構成された、通信ネットワークに対する経路指定手段であって、
− 前記サーバによりサービスされる第1のクライアントに関連付けられた第1のユーザに関する前記圧縮された表現情報から、必要な表現情報を導出すること、
− 前記第1のユーザに関する前記必要な表現情報に基づいて、第1のユーザに対する前記3Dシーン上に2Dビューを作成すること、
− 第2の装置に関連付けられた第2のユーザに関する必要な表現情報を、同じ圧縮された表現情報から導出することであり、前記第2のユーザが、同じ3Dシーンモデルに関連付けられ、かつ第1のユーザの仮想視点と同じ、または異なる仮想視点を有しており、それに対して、照明情報がまた、第2のユーザの仮想視点からのシーン上に2Dビューを作成するように表現されること、および
− 前記第2のユーザに関する必要な表現情報に基づいて、第2のユーザの仮想視点からのシーン上に2Dビューを作成すること
を実施するようにさらに構成される、経路指定手段。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP10306336A EP2461587A1 (en) | 2010-12-01 | 2010-12-01 | Method and devices for transmitting 3D video information from a server to a client |
EP10306336.8 | 2010-12-01 | ||
PCT/EP2011/070786 WO2012072462A1 (en) | 2010-12-01 | 2011-11-23 | Method and devices for transmitting 3d video information from a server to a client |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014501973A true JP2014501973A (ja) | 2014-01-23 |
JP5655156B2 JP5655156B2 (ja) | 2015-01-14 |
Family
ID=43706621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013541294A Expired - Fee Related JP5655156B2 (ja) | 2010-12-01 | 2011-11-23 | 3dビデオ情報をサーバからクライアントに送信するための方法および装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20130321417A1 (ja) |
EP (1) | EP2461587A1 (ja) |
JP (1) | JP5655156B2 (ja) |
KR (1) | KR101491941B1 (ja) |
CN (1) | CN103238325A (ja) |
WO (1) | WO2012072462A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022190398A1 (ja) * | 2021-03-09 | 2022-09-15 | 株式会社Mawari | 3dオブジェクトのストリーミング方法、装置、及びプログラム |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10713838B2 (en) * | 2013-05-03 | 2020-07-14 | Nvidia Corporation | Image illumination rendering system and method |
KR101653353B1 (ko) * | 2015-03-26 | 2016-09-01 | 주식회사 나루씨이엠 | 스마트폰 가상 3d 디스플레이 앱 기반 가상 3d 표현 방법 |
US20180357819A1 (en) * | 2017-06-13 | 2018-12-13 | Fotonation Limited | Method for generating a set of annotated images |
GB2563895B (en) | 2017-06-29 | 2019-09-18 | Sony Interactive Entertainment Inc | Video generation method and apparatus |
CN110223367B (zh) * | 2018-11-30 | 2023-01-06 | 腾讯科技(深圳)有限公司 | 动画显示方法、装置、终端及存储介质 |
CN110225332A (zh) * | 2019-05-31 | 2019-09-10 | 吉林大学 | 一种基于光子映射的立体元图像阵列生成方法 |
US11941752B2 (en) | 2020-07-21 | 2024-03-26 | Nvidia Corporation | Streaming a compressed light field |
US11501467B2 (en) | 2020-11-03 | 2022-11-15 | Nvidia Corporation | Streaming a light field compressed utilizing lossless or lossy compression |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008507747A (ja) * | 2004-07-22 | 2008-03-13 | 株式会社ソニー・コンピュータエンタテインメント | シェーディング結果をモデルサーフェス表現に組み込むことにより動的ビュー角からの写実的三次元レンダリングを向上させる方法 |
JP2008282171A (ja) * | 2007-05-09 | 2008-11-20 | Sony Computer Entertainment Inc | グラフィックスプロセッサおよび描画処理方法 |
JP2009116856A (ja) * | 2007-10-19 | 2009-05-28 | Canon Inc | 画像処理装置、画像処理方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7212207B2 (en) * | 2003-08-20 | 2007-05-01 | Sony Computer Entertainment Inc. | Method and apparatus for real-time global illumination incorporating stream processor based hybrid ray tracing |
US20050134611A1 (en) * | 2003-12-09 | 2005-06-23 | Cheung Kevin R. | Mechanism for creating dynamic 3D graphics for 2D web applications |
US7145562B2 (en) * | 2004-05-03 | 2006-12-05 | Microsoft Corporation | Integration of three dimensional scene hierarchy into two dimensional compositing system |
US7292257B2 (en) * | 2004-06-28 | 2007-11-06 | Microsoft Corporation | Interactive viewpoint video system and process |
US20100134494A1 (en) * | 2008-12-02 | 2010-06-03 | Electronics And Telecommunications Research Institute | Remote shading-based 3d streaming apparatus and method |
CN101826214B (zh) * | 2010-03-29 | 2012-06-27 | 中山大学 | 一种基于光子映射的全局光照方法 |
-
2010
- 2010-12-01 EP EP10306336A patent/EP2461587A1/en not_active Withdrawn
-
2011
- 2011-11-23 US US13/991,093 patent/US20130321417A1/en not_active Abandoned
- 2011-11-23 CN CN2011800579837A patent/CN103238325A/zh active Pending
- 2011-11-23 KR KR1020137014113A patent/KR101491941B1/ko not_active IP Right Cessation
- 2011-11-23 JP JP2013541294A patent/JP5655156B2/ja not_active Expired - Fee Related
- 2011-11-23 WO PCT/EP2011/070786 patent/WO2012072462A1/en active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008507747A (ja) * | 2004-07-22 | 2008-03-13 | 株式会社ソニー・コンピュータエンタテインメント | シェーディング結果をモデルサーフェス表現に組み込むことにより動的ビュー角からの写実的三次元レンダリングを向上させる方法 |
JP2008282171A (ja) * | 2007-05-09 | 2008-11-20 | Sony Computer Entertainment Inc | グラフィックスプロセッサおよび描画処理方法 |
JP2009116856A (ja) * | 2007-10-19 | 2009-05-28 | Canon Inc | 画像処理装置、画像処理方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022190398A1 (ja) * | 2021-03-09 | 2022-09-15 | 株式会社Mawari | 3dオブジェクトのストリーミング方法、装置、及びプログラム |
JP2022137826A (ja) * | 2021-03-09 | 2022-09-22 | 株式会社Mawari | 3dオブジェクトのストリーミング方法、装置、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
KR20130085051A (ko) | 2013-07-26 |
JP5655156B2 (ja) | 2015-01-14 |
EP2461587A1 (en) | 2012-06-06 |
KR101491941B1 (ko) | 2015-02-10 |
WO2012072462A1 (en) | 2012-06-07 |
US20130321417A1 (en) | 2013-12-05 |
CN103238325A (zh) | 2013-08-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5655156B2 (ja) | 3dビデオ情報をサーバからクライアントに送信するための方法および装置 | |
TWI485644B (zh) | 群眾外包式(crowd-sourced)視訊顯像系統 | |
KR102502794B1 (ko) | 가상 현실 데이터를 맞춤화하기 위한 방법들 및 시스템들 | |
KR102441514B1 (ko) | 하이브리드 스트리밍 | |
WO2022063260A1 (zh) | 一种渲染方法、装置及设备 | |
JP7448660B2 (ja) | ポイントクラウドデータ送信装置、ポイントクラウドデータ送信方法、ポイントクラウドデータ受信装置及びポイントクラウドデータ受信方法 | |
US9704290B2 (en) | Deep image identifiers | |
JP7447293B2 (ja) | 異種クライアントエンドポイントへのストリーミングのための2dビデオの適応のためのニューラルネットワークモデルの参照 | |
JP7440546B2 (ja) | ポイントクラウドデータ処理装置及び方法 | |
KR102598603B1 (ko) | 이기종 클라이언트 종단점에 대한 스트리밍을 위한 2d 비디오의 적응 | |
JP7472298B2 (ja) | 没入型メディアの設置、及び没入型メディアから異種クライアントエンドポイントへの配信 | |
Liu et al. | Mobile Volumetric Video Streaming System through Implicit Neural Representation | |
KR20240032912A (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
EP4085397B1 (en) | Reference of neural network model by immersive media for adaptation of media for streaming to heterogenous client end-points | |
US20240179203A1 (en) | Reference of neural network model by immersive media for adaptation of media for streaming to heterogenous client end-points | |
US20230345008A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
CN117397243A (zh) | 用于沉浸式媒体的流式传输场景优先级排序器 | |
JP2023544049A (ja) | 双方向プレゼンテーションデータストリーム | |
KR20240052837A (ko) | 몰입형 미디어를 위한 스트리밍 장면 우선순위화기 | |
JP2024511312A (ja) | ポイントクラウドデータ送信方法、ポイントクラウドデータ送信装置、ポイントクラウドデータ受信方法及びポイントクラウドデータ受信装置 | |
WO2023164244A1 (en) | Methods and systems for facilitating the cooperation of large numbers of computing devices with particular application to maintaining, presenting and editing a shared 3-dimensional virtual space to multiple users | |
KR20230152130A (ko) | 클라이언트 질의를 이용한 중복 자산의 재사용 | |
Fairchild | Video based reconstruction system for mixed reality environments supporting contextualised non-verbal communication and its study | |
Franco et al. | Research Article Multicamera Real-Time 3D Modeling for Telepresence and Remote Collaboration |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140407 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140415 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140729 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141014 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20141111 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20141121 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5655156 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |