JP6845490B2 - 自由動作fvvアプリケーションのためのマルチレイヤuvマップに基づくテクスチャレンダリング - Google Patents
自由動作fvvアプリケーションのためのマルチレイヤuvマップに基づくテクスチャレンダリング Download PDFInfo
- Publication number
- JP6845490B2 JP6845490B2 JP2019518235A JP2019518235A JP6845490B2 JP 6845490 B2 JP6845490 B2 JP 6845490B2 JP 2019518235 A JP2019518235 A JP 2019518235A JP 2019518235 A JP2019518235 A JP 2019518235A JP 6845490 B2 JP6845490 B2 JP 6845490B2
- Authority
- JP
- Japan
- Prior art keywords
- texture
- map
- free
- video content
- viewpoint video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000009877 rendering Methods 0.000 title claims description 25
- 238000000034 method Methods 0.000 claims description 38
- 238000010422 painting Methods 0.000 claims 1
- 239000010410 layer Substances 0.000 description 29
- 230000015572 biosynthetic process Effects 0.000 description 16
- 238000003786 synthesis reaction Methods 0.000 description 16
- 230000001419 dependent effect Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 10
- 238000013507 mapping Methods 0.000 description 10
- 230000005540 biological transmission Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 4
- 239000002356 single layer Substances 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
- G06T2207/10021—Stereoscopic video; Stereoscopic image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/36—Level of detail
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Image Generation (AREA)
- Processing Or Creating Images (AREA)
Description
本出願は、2016年10月7日に出願された「自由動作FVVアプリケーションのためのマルチレイヤUVマップに基づくテクスチャレンダリング(MULTI−LAYER UV MAP BASED TEXTURE RENDERING FOR FREE−RUNNING FVV APPLICATIONS)」という名称の米国仮特許出願第62/405,696号、及び2016年11月28日に出願された「自由動作FVVアプリケーションのためのマルチレイヤUVマップに基づくテクスチャレンダリング(MULTI−LAYER UV MAP BASED TEXTURE RENDERING FOR FREE−RUNNING FVV APPLICATIONS)」という名称の米国仮特許出願第62/426,739号の合衆国法典第35編第119条(e)に基づく優先権を主張するものであり、これらの出願はいずれもその全体が全ての目的で引用により本明細書に組み入れられる。
1.装置のメモリにプログラムされた、自由視点映像コンテンツにおけるオブジェクト上にテクスチャをレンダリングする方法であって、
UVマップ領域においてインペインティングを実行するステップと、
マルチレイヤテクスチャUVマップを利用してテクスチャセグメントを組み合わせるステップと、
誤った形状を防ぐようにフローUVマップを使用して形状にテクスチャを適用するステップと、
を含み、インペインティングを実行するステップ、マルチレイヤテクスチャUVマップを利用するステップ、及びフローUVマップを使用するステップは、オブジェクトの時間的に整合するテクスチャを生成する、方法。
メモリに結合されたプロセッサと、
を備えた装置であって、メモリは、
UVマップ領域においてインペインティングを実行し、
マルチレイヤテクスチャUVマップを利用してテクスチャセグメントを組み合わせ、
誤った形状を防ぐようにフローUVマップを使用して形状にテクスチャを適用する、
ためのアプリケーションを記憶し、インペインティングを実行すること、マルチレイヤテクスチャUVマップを利用すること、及びフローUVマップを使用することは、オブジェクトの時間的に整合するテクスチャを生成し、
プロセッサは、アプリケーションを処理するように構成される、装置。
第1のコンピュータ装置と、
第2のコンピュータ装置と、
を備えたシステムであって、第1のコンピュータ装置は、
UVマップ領域においてインペインティングを実行し、
マルチレイヤテクスチャUVマップを利用してテクスチャセグメントを組み合わせ、
誤った形状を防ぐようにフローUVマップを使用して形状にテクスチャを適用する、
ように構成され、インペインティングを実行すること、マルチレイヤテクスチャUVマップを利用すること、及びフローUVマップを使用することは、自由視点映像コンテンツにおけるオブジェクトの時間的に整合するテクスチャを生成し、
前記第2のコンピュータ装置は、
前記自由視点映像コンテンツを前記第2のコンピュータ装置上に表示する、
ように構成される、システム。
120 処理
140 送信
160 レンダリング
180 表示
Claims (21)
- 装置のメモリにプログラムされた、自由視点映像コンテンツにおけるオブジェクト上にテクスチャをレンダリングする方法であって、
UVマップ領域においてインペインティングを実行するステップと、
マルチレイヤテクスチャUVマップを利用してテクスチャセグメントを組み合わせるステップと、
誤った形状を防ぐようにフローUVマップを使用して形状にテクスチャを適用するステップと、
を含み、UVマップ領域において前記インペインティングを実行するステップ、前記マルチレイヤテクスチャUVマップを利用するステップ、及び前記フローUVマップを使用するステップは、前記オブジェクトの時間的に整合するテクスチャを生成し、
前記UVマップ領域においてインペインティングを実行するステップは、異なる時点に取り込まれた前記テクスチャを用いて前記オブジェクトの前記テクスチャのあらゆる遮蔽された外観を埋めるステップを含む、
ことを特徴とする方法。 - 前記マルチレイヤテクスチャUVマップを利用するステップは、加重和を用いて前記テクスチャセグメントを組み合わせるステップを含む、
請求項1に記載の方法。 - 前記フローUVマップを使用するステップは、前記テクスチャのグローバルアラインメント情報を生成して記憶するステップを含む、
請求項1に記載の方法。 - 前記インペインティングを実行するステップ、前記マルチレイヤテクスチャUVマップを利用するステップ、及び前記フローUVマップを使用するステップは、前記自由視点映像コンテンツを処理するステップであってジオメトリ処理をさらに含むステップに含まれる、
請求項1に記載の方法。 - 前記時間的に整合するテクスチャを有する前記オブジェクトを含む前記自由視点映像コンテンツを送信し、レンダリングして表示するステップをさらに含む、
請求項1に記載の方法。 - 最大で10台のビデオカメラを用いて前記自由視点映像コンテンツを取得するステップをさらに含む、
請求項1に記載の方法。 - 全ての軸上の他のカメラからの分離が少なくとも30度であるビデオカメラを用いて前記自由視点映像コンテンツを取得するステップをさらに含む、
請求項1に記載の方法。 - 非一時的メモリと、
前記非一時的メモリに結合されたプロセッサと、
を備えた装置であって、前記非一時的メモリは、
UVマップ領域においてインペインティングを実行し、
マルチレイヤテクスチャUVマップを利用してテクスチャセグメントを組み合わせ、
誤った形状を防ぐようにフローUVマップを使用して形状にテクスチャを適用する、
ためのアプリケーションを記憶し、インペインティングを実行すること、前記マルチレイヤテクスチャUVマップを利用すること、及び前記フローUVマップを使用することは、オブジェクトの時間的に整合するテクスチャを生成し、前記UVマップ領域においてインペインティングを実行することは、異なる時点に取り込まれた前記テクスチャを用いて前記オブジェクトの前記テクスチャのあらゆる遮蔽された外観を埋めることを含み、
前記プロセッサは、前記アプリケーションを処理するように構成される、
ことを特徴とする装置。 - 前記マルチレイヤテクスチャUVマップを利用することは、加重和を用いて前記テクスチャセグメントを組み合わせることを含む、
請求項8に記載の装置。 - 前記フローUVマップを使用することは、前記テクスチャのグローバルアラインメント情報を生成して記憶することを含む、
請求項8に記載の装置。 - 前記インペインティングを実行すること、前記マルチレイヤテクスチャUVマップを利用すること、及び前記フローUVマップを使用することは、自由視点映像コンテンツを処理することであってジオメトリ処理をさらに含むことに含まれる、
請求項8に記載の装置。 - 前記時間的に整合するテクスチャを有する前記オブジェクトを含む自由視点映像コンテンツを送信し、レンダリングして表示することをさらに含む、
請求項8に記載の装置。 - 最大で10台のビデオカメラを用いて自由視点映像コンテンツを取得することをさらに含む、
請求項8に記載の装置。 - 全ての軸上の他のカメラからの分離が少なくとも30度であるビデオカメラを用いて自由視点映像コンテンツを取得することをさらに含む、
請求項8に記載の装置。 - それぞれが自由視点映像コンテンツを取り込むように構成された複数のカメラ装置と、
第1のコンピュータ装置と、
第2のコンピュータ装置と、
を備えたシステムであって、前記第1のコンピュータ装置は、
UVマップ領域においてインペインティングを実行し、
マルチレイヤテクスチャUVマップを利用してテクスチャセグメントを組み合わせ、
誤った形状を防ぐようにフローUVマップを使用して形状にテクスチャを適用する、
ように構成され、インペインティングを実行すること、前記マルチレイヤテクスチャUVマップを利用すること、及び前記フローUVマップを使用することは、前記自由視点映像コンテンツにおけるオブジェクトの時間的に整合するテクスチャを生成し、前記UVマップ領域においてインペインティングを実行することは、異なる時点に取り込まれた前記テクスチャを用いて前記オブジェクトの前記テクスチャのあらゆる遮蔽された外観を埋めることを含み、
前記第2のコンピュータ装置は、
前記自由視点映像コンテンツを前記第2のコンピュータ装置上に表示する、
ように構成される、
ことを特徴とするシステム。 - 前記マルチレイヤテクスチャUVマップを利用することは、加重和を用いて前記テクスチャセグメントを組み合わせることを含む、
請求項15に記載のシステム。 - 前記フローUVマップを使用することは、前記テクスチャのグローバルアラインメント情報を生成して記憶することを含む、
請求項15に記載のシステム。 - 前記インペインティングを実行すること、前記マルチレイヤテクスチャUVマップを利用すること、及び前記フローUVマップを使用することは、前記自由視点映像コンテンツを処理することであってジオメトリ処理をさらに含むことに含まれる、
請求項15に記載のシステム。 - 前記時間的に整合するテクスチャを有する前記オブジェクトを含む前記自由視点映像コンテンツを送信し、レンダリングして表示することをさらに含む、
請求項15に記載のシステム。 - 最大で10台のビデオカメラを用いて前記自由視点映像コンテンツを取得することをさらに含む、
請求項15に記載のシステム。 - 全ての軸上の他のカメラからの分離が少なくとも30度であるビデオカメラを用いて前記自由視点映像コンテンツを取得することをさらに含む、
請求項15に記載のシステム。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662405696P | 2016-10-07 | 2016-10-07 | |
US62/405,696 | 2016-10-07 | ||
US201662426739P | 2016-11-28 | 2016-11-28 | |
US62/426,739 | 2016-11-28 | ||
US15/723,021 US10453244B2 (en) | 2016-10-07 | 2017-10-02 | Multi-layer UV map based texture rendering for free-running FVV applications |
US15/723,021 | 2017-10-02 | ||
PCT/US2017/054985 WO2018067601A1 (en) | 2016-10-07 | 2017-10-03 | Multi-layer uv map based texture rendering for free-running fvv applications |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019534511A JP2019534511A (ja) | 2019-11-28 |
JP6845490B2 true JP6845490B2 (ja) | 2021-03-17 |
Family
ID=61829024
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019518235A Active JP6845490B2 (ja) | 2016-10-07 | 2017-10-03 | 自由動作fvvアプリケーションのためのマルチレイヤuvマップに基づくテクスチャレンダリング |
Country Status (4)
Country | Link |
---|---|
US (1) | US10453244B2 (ja) |
JP (1) | JP6845490B2 (ja) |
CN (1) | CN109791704B (ja) |
WO (1) | WO2018067601A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114556433A (zh) * | 2019-10-21 | 2022-05-27 | 索尼集团公司 | 信息处理装置、3d数据生成方法及程序 |
JPWO2021200261A1 (ja) * | 2020-04-03 | 2021-10-07 | ||
US11875462B2 (en) * | 2020-11-18 | 2024-01-16 | Adobe Inc. | Systems for augmented reality authoring of remote environments |
US11804007B2 (en) * | 2021-03-31 | 2023-10-31 | Disney Enterprises, Inc. | 3D digital model surface rendering and conversion |
US11978149B2 (en) * | 2021-06-21 | 2024-05-07 | The Weather Company, Llc | UV map using weight painting |
US20230306648A1 (en) * | 2022-03-25 | 2023-09-28 | Tencent America LLC | Mesh parameterization with temporally correlated uv atlases |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6266068B1 (en) | 1998-03-13 | 2001-07-24 | Compaq Computer Corporation | Multi-layer image-based rendering for video synthesis |
US8401336B2 (en) * | 2001-05-04 | 2013-03-19 | Legend3D, Inc. | System and method for rapid image sequence depth enhancement with augmented computer-generated elements |
FR2842977A1 (fr) * | 2002-07-24 | 2004-01-30 | Total Immersion | Procede et systeme permettant a un utilisateur de melanger en temps reel des images de synthese avec des images video |
US9014474B2 (en) * | 2012-09-06 | 2015-04-21 | Cyberlink Corp. | Systems and methods for multi-resolution inpainting |
CN103345771B (zh) * | 2013-06-28 | 2016-08-10 | 中国科学技术大学 | 一种基于建模的图像高效渲染方法 |
GB201414144D0 (en) * | 2014-08-08 | 2014-09-24 | Imagination Tech Ltd | Relightable texture for use in rendering an image |
GB2532003A (en) | 2014-10-31 | 2016-05-11 | Nokia Technologies Oy | Method for alignment of low-quality noisy depth map to the high-resolution colour image |
CN104574501B (zh) * | 2014-12-19 | 2017-07-21 | 浙江大学 | 一种针对复杂三维场景的高质量纹理映射方法 |
CN104575501B (zh) | 2015-01-19 | 2017-11-03 | 北京云知声信息技术有限公司 | 一种收音机语音操控指令解析方法及系统 |
-
2017
- 2017-10-02 US US15/723,021 patent/US10453244B2/en active Active
- 2017-10-03 WO PCT/US2017/054985 patent/WO2018067601A1/en active Application Filing
- 2017-10-03 JP JP2019518235A patent/JP6845490B2/ja active Active
- 2017-10-03 CN CN201780061344.5A patent/CN109791704B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
WO2018067601A1 (en) | 2018-04-12 |
US20180101978A1 (en) | 2018-04-12 |
JP2019534511A (ja) | 2019-11-28 |
CN109791704A (zh) | 2019-05-21 |
CN109791704B (zh) | 2023-05-23 |
US10453244B2 (en) | 2019-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6845490B2 (ja) | 自由動作fvvアプリケーションのためのマルチレイヤuvマップに基づくテクスチャレンダリング | |
JP6939883B2 (ja) | 自由視点映像ストリーミング用の復号器を中心とするuvコーデック | |
US11025882B2 (en) | Live action volumetric video compression/decompression and playback | |
US9237330B2 (en) | Forming a stereoscopic video | |
US9251623B2 (en) | Glancing angle exclusion | |
US11501118B2 (en) | Digital model repair system and method | |
US9041819B2 (en) | Method for stabilizing a digital video | |
US20130127988A1 (en) | Modifying the viewpoint of a digital image | |
US8611642B2 (en) | Forming a steroscopic image using range map | |
JP2016522485A (ja) | 再構成からの隠消現実感効果および媒介現実感効果 | |
US20130129192A1 (en) | Range map determination for a video frame | |
CN114631127A (zh) | 说话头的小样本合成 | |
TWI813098B (zh) | 用於新穎視圖合成之神經混合 | |
EP3396635A2 (en) | A method and technical equipment for encoding media content | |
KR20170013704A (ko) | 프로젝터 투사 환경하에서의 사용자 시점을 고려한 가상공간 구현 방법 및 시스템 | |
US20230283759A1 (en) | System and method for presenting three-dimensional content | |
WO2020184174A1 (ja) | 画像処理装置および画像処理方法 | |
Chen et al. | Casual 6-dof: free-viewpoint panorama using a handheld 360 camera | |
Thatte et al. | Real-World Virtual Reality With Head-Motion Parallax | |
Thatte | Cinematic virtual reality with head-motion parallax | |
Alain et al. | Introduction to immersive video technologies | |
TW202310614A (zh) | 影像產生 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190404 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200617 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200817 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210127 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210209 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6845490 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |