KR102292195B1 - 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 - Google Patents
포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 Download PDFInfo
- Publication number
- KR102292195B1 KR102292195B1 KR1020200077936A KR20200077936A KR102292195B1 KR 102292195 B1 KR102292195 B1 KR 102292195B1 KR 1020200077936 A KR1020200077936 A KR 1020200077936A KR 20200077936 A KR20200077936 A KR 20200077936A KR 102292195 B1 KR102292195 B1 KR 102292195B1
- Authority
- KR
- South Korea
- Prior art keywords
- point cloud
- data
- patch
- geometry
- unit
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 368
- 230000005540 biological transmission Effects 0.000 claims description 110
- 230000000007 visual effect Effects 0.000 claims description 24
- 230000008569 process Effects 0.000 description 239
- 239000000523 sample Substances 0.000 description 205
- 238000012545 processing Methods 0.000 description 129
- 238000007906 compression Methods 0.000 description 70
- 238000009499 grossing Methods 0.000 description 66
- 230000006835 compression Effects 0.000 description 62
- 238000005538 encapsulation Methods 0.000 description 58
- 239000010410 layer Substances 0.000 description 55
- 230000033001 locomotion Effects 0.000 description 43
- 230000011664 signaling Effects 0.000 description 33
- 238000013139 quantization Methods 0.000 description 32
- 238000009877 rendering Methods 0.000 description 30
- 238000001914 filtration Methods 0.000 description 27
- 208000031509 superficial epidermolytic ichthyosis Diseases 0.000 description 27
- 238000005516 engineering process Methods 0.000 description 26
- 238000012856 packing Methods 0.000 description 21
- 230000006837 decompression Effects 0.000 description 19
- 230000009466 transformation Effects 0.000 description 17
- 238000013144 data compression Methods 0.000 description 16
- 230000002441 reversible effect Effects 0.000 description 16
- 238000013507 mapping Methods 0.000 description 15
- GVVPGTZRZFNKDS-JXMROGBWSA-N geranyl diphosphate Chemical compound CC(C)=CCC\C(C)=C\CO[P@](O)(=O)OP(O)(O)=O GVVPGTZRZFNKDS-JXMROGBWSA-N 0.000 description 13
- 230000011218 segmentation Effects 0.000 description 13
- 101000740587 Botryotinia fuckeliana Presilphiperfolan-8-beta-ol synthase Proteins 0.000 description 12
- 101000581802 Homo sapiens Lithostathine-1-alpha Proteins 0.000 description 12
- 102100027361 Lithostathine-1-alpha Human genes 0.000 description 12
- 238000004891 communication Methods 0.000 description 12
- 230000007774 longterm Effects 0.000 description 12
- 230000008859 change Effects 0.000 description 11
- 208000037540 Alveolar soft tissue sarcoma Diseases 0.000 description 10
- 208000008524 alveolar soft part sarcoma Diseases 0.000 description 10
- 238000003491 array Methods 0.000 description 10
- 239000000872 buffer Substances 0.000 description 10
- 238000000638 solvent extraction Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 241000023320 Luma <angiosperm> Species 0.000 description 8
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 8
- 230000003190 augmentative effect Effects 0.000 description 6
- 230000003993 interaction Effects 0.000 description 6
- 239000000463 material Substances 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 6
- UGODCLHJOJPPHP-AZGWGOJFSA-J tetralithium;[(2r,3s,4r,5r)-5-(6-aminopurin-9-yl)-4-hydroxy-2-[[oxido(sulfonatooxy)phosphoryl]oxymethyl]oxolan-3-yl] phosphate;hydrate Chemical compound [Li+].[Li+].[Li+].[Li+].O.C1=NC=2C(N)=NC=NC=2N1[C@@H]1O[C@H](COP([O-])(=O)OS([O-])(=O)=O)[C@@H](OP([O-])([O-])=O)[C@H]1O UGODCLHJOJPPHP-AZGWGOJFSA-J 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000002194 synthesizing effect Effects 0.000 description 5
- 230000003044 adaptive effect Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 239000000203 mixture Substances 0.000 description 4
- 230000010355 oscillation Effects 0.000 description 4
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 230000010339 dilation Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000000153 supplemental effect Effects 0.000 description 3
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000009795 derivation Methods 0.000 description 2
- 239000012634 fragment Substances 0.000 description 2
- AWSBQWZZLBPUQH-UHFFFAOYSA-N mdat Chemical compound C1=C2CC(N)CCC2=CC2=C1OCO2 AWSBQWZZLBPUQH-UHFFFAOYSA-N 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 239000013074 reference sample Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 108091000069 Cystinyl Aminopeptidase Proteins 0.000 description 1
- 102100020872 Leucyl-cystinyl aminopeptidase Human genes 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 239000012536 storage buffer Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/23614—Multiplexing of additional data and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/001—Model-based coding, e.g. wire frame
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
- H04N21/2353—Processing of additional data, e.g. scrambling of additional data or processing content descriptors specifically adapted to content descriptors, e.g. coding, compressing or processing of metadata
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/23605—Creation or processing of packetized elementary streams [PES]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4343—Extraction or processing of packetized elementary streams [PES]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4348—Demultiplexing of additional data and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Library & Information Science (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
실시예들에 따른 포인트 클라우드 데이터 송신 방법은 포인트 클라우드 데이터를 인코딩하는 단계; 및 포인트 클라우드 데이터를 포함하는 비트스트림을 전송하는 단계; 를 포함할 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 방법은 포인트 클라우드 데이터를 포함하는 비트스트림을 수신하는 단계; 및 포인트 클라우드 데이터를 디코딩하는 단계;를 포함할 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 방법은 포인트 클라우드 데이터를 포함하는 비트스트림을 수신하는 단계; 및 포인트 클라우드 데이터를 디코딩하는 단계;를 포함할 수 있다.
Description
실시예들은 사용자에게 VR (Virtual Reality, 가상현실), AR (Augmented Reality, 증강현실), MR (Mixed Reality, 혼합현실), 및 자율 주행 서비스 등의 다양한 서비스를 제공하기 위하여 Point Cloud 콘텐츠를 제공하는 방안을 제공한다.
포인트 클라우드는 3D공간 상의 포인트들의 집합이다. 3D공간 상의 포인트들의 양이 많아서 포인트 클라우드 데이터를 생성하기 어려운 문제점이 있다.
포인트 클라우드의 데이터를 전송하고 수신하기 위해서 많은 처리량이 요구되는 문제점이 있다.
실시예들에 따른 기술적 과제는, 전술한 문제점 등을 해결하기 위해서, 포인트 클라우드를 효율적으로 송수신하기 위한 포인트 클라우드 데이터 전송 장치, 전송 방법, 포인트 클라우드 데이터 수신 장치 및 수신 방법을 제공하는데 있다.
실시예들에 따른 기술적 과제는, 지연시간(latency) 및 인코딩/디코딩 복잡도를 해결하기 위한 포인트 클라우드 데이터 전송 장치, 전송 방법, 포인트 클라우드 데이터 수신 장치 및 수신 방법을 제공하는데 있다.
다만, 전술한 기술적 과제만으로 제한되는 것은 아니고, 본 문서 전체 내용에 기초하여 당업자가 유추할 수 있는 다른 기술적 과제로 실시예들의 권리범위가 확장될 수 있다.
상술한 기술저 과제를 달성하기 위해서, 실시예들에 따른 포인트 클라우드 데이터 송신 방법은 포인트 클라우드 데이터를 인코딩하는 단계; 및 포인트 클라우드 데이터를 포함하는 비트스트림을 전송하는 단계; 를 포함할 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 방법은 포인트 클라우드 데이터를 포함하는 비트스트림을 수신하는 단계; 및 포인트 클라우드 데이터를 디코딩하는 단계;를 포함할 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 방법, 송신 장치, 포인트 클라우드 데이터 수신 방법, 수신 장치는 퀄리티 있는 포인트 클라우드 서비스를 제공할 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 방법, 송신 장치, 포인트 클라우드 데이터 수신 방법, 수신 장치는 다양한 비디오 코덱 방식을 달성할 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 방법, 송신 장치, 포인트 클라우드 데이터 수신 방법, 수신 장치는 자율주행 서비스 등 범용적인 포인트 클라우드 콘텐츠를 제공할 수 있다.
도면은 실시예들을 더욱 이해하기 위해서 포함되며, 도면은 실시예들에 관련된 설명과 함께 실시예들을 나타낸다.
도1은 실시예들에 따른 Point Cloud 콘텐츠 제공을 위한 송신/수신 시스템의 구조의 예시를 나타낸다.
도2는 실시예들에 따른 포인트 클라우드 데이터 갭쳐의 예시를 나타낸다.
도3은 실시예들에 따른 포인트 클라우드 및 지오메트리, 텍스쳐 이미지의 예시를 나타낸다.
도4는 실시예들에 따른 V-PCC 인코딩 처리의 예시를 나타낸다.
도5는 실시예들에 따른 서페이스(Surface)의 탄젠트 플렌(tangent plane) 및 노멀 벡터(normal vector)의 예시를 나타낸다.
도6은 실시예들에 따른 포인트 클라우드의 바운딩 박스(bounding box)의 예시를 나타낸다.
도7은 실시예들에 따른 어큐판시 맵(occupancy map)의 개별 패치(patch) 위치 결정의 예시를 나타낸다.
도8은 실시예들에 따른 노멀(normal), 탄젠트(tangent), 바이탄젠트(bitangent) 축의 관계의 예시를 나타낸다.
도9는 실시예들에 따른 프로젝션 모드의 최소 모드 및 최대 모드의 구성의 예시를 나타낸다.
도10은 실시예들에 따른 EDD 코드의 예시를 나타낸다.
도11은 실시예들에 따른 인접점들의 컬러(color) 값들을 이용한 리컬러링(recoloring)의 예시를 나타낸다.
도12는 실시예들에 따른 푸쉬-풀 백그라운드 필링(push-pull background filling)의 예시를 나타낸다.
도13은 실시예들에 따른 4*4 크기의 블록(block)에 대해 가능한 트라버설 오더(traversal order)의 예시를 나타낸다.
도14는 실시예들에 따른 베스트 트라버설 오더의 예시를 나타낸다.
도15는 실시예들에 따른 2D 비디오/이미지 인코더(2D video/image Encoder)의 예시를 나타낸다.
도16은 실시예들에 따른 V-PCC 디코딩 프로세스(decoding process)의 예시를 나타낸다.
도17은 실시예들에 따른 2D 비디오/이미지 디코더(2D Video/Image Decoder)의 예시를 나타낸다.
도18은 실시예들에 따른 송신 장치의 동작 흐름도의 예시를 나타낸다.
도19는 실시예들에 따른 수신 장치의 동작 흐름도의 예시를 나타낸다.
도20은 실시예들에 따른 V-PCC 기반 포인트 클라우드 데이터 저장 및 스트리밍을 위한 아키텍쳐의 예시를 나타낸다.
도21은 실시예들에 따른 포인트 클라우드 데이터 저장 및 전송 장치의 구성도의 예시를 나타낸다.
도22는 실시예들에 따른 포인트 클라우드 데이터 수신 장치의 구성도의 예시를 나타낸다.
도23은 실시예들에 따른 포인트 클라우드 데이터 송수신 방법/장치와 연동 가능한 구조의 예시를 나타낸다.
도24는 실시예들에 따른 멀티 트랙 V-PCC 파일 구조를 나타낸다.
도25는 실시예들에 따른 V-PCC 비트스트림의 구성을 나타낸다.
도26은 실시예들에 따른 패치 데이터 그룹(PDG)의 유닛의 타입을 나타낸다.
도27은 실시예들에 따른 샘플 스트림 V-PCC 헤더를 나타낸다.
도28은 실시예들에 따른 V-CC 유닛을 나타낸다.
도29는 실시예들에 따른 V-PCC 유닛의 헤더의 신택스를 나타낸다.
도30는 실시예들에 따른 PCM 세퍼레이트 비디오 데이터를 나타낸다.
도31은 실시예들에 따른 V-PCC 유닛의 페이로드를 나타낸다.
도32는 실시예들에 따른 시퀀스 파라미터 세트(sequence_parameter_set( ))를 나타낸다.
도33은 실시예들에 따른 패치 데이터 그룹(patch_data_group) 및 패치 데이터 그룹 유닛의 페이로드(patch_data_group_unit_payload)의 신택스를 나타낸다.
도34는 실시예들에 따른 패치 시퀀스 파라미터 세트(Patch sequence parameter set), 패치 프레임 지오메트리 파라미터 세트(Patch frame geometry parameter set), 지오메트리 프레임 파라미터(Geometry frame params)의 신택스를 나타낸다.
도35는 실시예들에 따른 패치 프레임 어트리뷰트 파라미터 세트(Patch frame attribute parameter set), 어트리뷰트 프레임 파라미터(Attribute frame params)의 신택스를 나타낸다.
도36은 실시예들에 따른 지오메트리 패치 파라미터 세트(Geometry patch parameter set), 지오메트리 패치 파라미터(Geometry patch params)의 신택스를 나타낸다.
도37은 실시예들에 따른 어트리뷰트 패치 파라미터 세트(Attribute patch parameter set), 어트리뷰트 패치 파라미터(Attribute patch params)의 신택스를 나타낸다.
도38은 실시예들에 따른 패치 프레임 파라미터 세트(Patch frame parameter set)의 신택스를 나타낸다.
도39는 실시예들에 따른 패치 프레임 타일 정보(Patch frame tile information)의 신택스를 나타낸다.
도40은 실시예들에 따른 패치 타일 그룹 레이어 유닛(Patch tile group layer unit), 패치 타일 그룹 헤더(Patch tile group header)의 신택스를 나타낸다.
도41은 실시예들에 따른 레퍼런스 리스트 구조(Reference list structure)의 신택스를 나타낸다.
도42는 실시예들에 따른 패치 타일 그룹 데이터 유닛(patch_tile_group_data_unit)를 나타낸다.
도43은 실시예들에 따른 패치 정보 데이터(Patch information data)의 신택스를 나타낸다.
도44는 실시예들에 따른 패치 데이터 유닛(Patch data unit)의 신택스를 나타낸다.
도45는 실시예들에 따른 델타 패치 데이터 유닛(Delta Patch data unit)의 신택스를 나타낸다.
도46은 실시예들에 따른 PCM 패치 데이터 유닛(PCM patch data unit)의 신택스를 나타낸다.
도47은 실시예들에 따른 SEI메시지(sei_message)의 신택스를 나타낸다.
도48은 실시예들에 따른 V-PCC 비트스트림의 구성을 나타낸다.
도49는 실시예들에 따른 V-PCC 유닛의 헤더를 나타낸다.
도50은 실시예들에 따른 V-PCC 유닛 페이로드를 나타낸다.
도51은 실시예들에 따른 V-PCC 파라미터 세트를 나타낸다.
도52는 실시예들에 따른 V-PCC 아틀라스 서브비트스트림의 구조를 나타낸다.
도53은 실시예들에 따른 샘플 스트림 날 헤더(53000)및 샘플 스트림 날 유닛(53010)의 신택스를 나타낸다.
도54는 실시예들에 따른 아틀라스 파라미터 세트(atlas sequence parameter set (ASPS))를 나타낸다.
도55는 실시예들에 따른 아틀라스 프레임 파라미터 세트(atlas frame parameter set (AFPS))를 나타낸다.
도56은 실시예들에 따른 아틀라스 프레임 타일 정보(atlas_frame_tile_information)를 나타낸다.
도57은 실시예들에 따른 SEI (Supplemental enhancement information) 메시지를 나타낸다.
도58은 실시예들에 따른 지오메트리 변형 파라미터들 SEI 신택스(Geometry transformation parameters SEI message syntax)를 나타낸다.
도59는 실시예들에 따른 셋업유닛(setup unit)을 시그널링 구조를 나타낸다.
도60은 실시예들에 따른 V-PCC 샘플 엔트리를 나타낸다.
도61은 실시예들에 따른 트랙 대체 및 그룹핑을 나타낸다.
도62는 실시예들에 따른 포인트 클라우드 데이터 송신 방법을 나타낸다.
도63은 실시예들에 따른 포인트 클라우드 데이터 수신 방법을 나타낸다.
도1은 실시예들에 따른 Point Cloud 콘텐츠 제공을 위한 송신/수신 시스템의 구조의 예시를 나타낸다.
도2는 실시예들에 따른 포인트 클라우드 데이터 갭쳐의 예시를 나타낸다.
도3은 실시예들에 따른 포인트 클라우드 및 지오메트리, 텍스쳐 이미지의 예시를 나타낸다.
도4는 실시예들에 따른 V-PCC 인코딩 처리의 예시를 나타낸다.
도5는 실시예들에 따른 서페이스(Surface)의 탄젠트 플렌(tangent plane) 및 노멀 벡터(normal vector)의 예시를 나타낸다.
도6은 실시예들에 따른 포인트 클라우드의 바운딩 박스(bounding box)의 예시를 나타낸다.
도7은 실시예들에 따른 어큐판시 맵(occupancy map)의 개별 패치(patch) 위치 결정의 예시를 나타낸다.
도8은 실시예들에 따른 노멀(normal), 탄젠트(tangent), 바이탄젠트(bitangent) 축의 관계의 예시를 나타낸다.
도9는 실시예들에 따른 프로젝션 모드의 최소 모드 및 최대 모드의 구성의 예시를 나타낸다.
도10은 실시예들에 따른 EDD 코드의 예시를 나타낸다.
도11은 실시예들에 따른 인접점들의 컬러(color) 값들을 이용한 리컬러링(recoloring)의 예시를 나타낸다.
도12는 실시예들에 따른 푸쉬-풀 백그라운드 필링(push-pull background filling)의 예시를 나타낸다.
도13은 실시예들에 따른 4*4 크기의 블록(block)에 대해 가능한 트라버설 오더(traversal order)의 예시를 나타낸다.
도14는 실시예들에 따른 베스트 트라버설 오더의 예시를 나타낸다.
도15는 실시예들에 따른 2D 비디오/이미지 인코더(2D video/image Encoder)의 예시를 나타낸다.
도16은 실시예들에 따른 V-PCC 디코딩 프로세스(decoding process)의 예시를 나타낸다.
도17은 실시예들에 따른 2D 비디오/이미지 디코더(2D Video/Image Decoder)의 예시를 나타낸다.
도18은 실시예들에 따른 송신 장치의 동작 흐름도의 예시를 나타낸다.
도19는 실시예들에 따른 수신 장치의 동작 흐름도의 예시를 나타낸다.
도20은 실시예들에 따른 V-PCC 기반 포인트 클라우드 데이터 저장 및 스트리밍을 위한 아키텍쳐의 예시를 나타낸다.
도21은 실시예들에 따른 포인트 클라우드 데이터 저장 및 전송 장치의 구성도의 예시를 나타낸다.
도22는 실시예들에 따른 포인트 클라우드 데이터 수신 장치의 구성도의 예시를 나타낸다.
도23은 실시예들에 따른 포인트 클라우드 데이터 송수신 방법/장치와 연동 가능한 구조의 예시를 나타낸다.
도24는 실시예들에 따른 멀티 트랙 V-PCC 파일 구조를 나타낸다.
도25는 실시예들에 따른 V-PCC 비트스트림의 구성을 나타낸다.
도26은 실시예들에 따른 패치 데이터 그룹(PDG)의 유닛의 타입을 나타낸다.
도27은 실시예들에 따른 샘플 스트림 V-PCC 헤더를 나타낸다.
도28은 실시예들에 따른 V-CC 유닛을 나타낸다.
도29는 실시예들에 따른 V-PCC 유닛의 헤더의 신택스를 나타낸다.
도30는 실시예들에 따른 PCM 세퍼레이트 비디오 데이터를 나타낸다.
도31은 실시예들에 따른 V-PCC 유닛의 페이로드를 나타낸다.
도32는 실시예들에 따른 시퀀스 파라미터 세트(sequence_parameter_set( ))를 나타낸다.
도33은 실시예들에 따른 패치 데이터 그룹(patch_data_group) 및 패치 데이터 그룹 유닛의 페이로드(patch_data_group_unit_payload)의 신택스를 나타낸다.
도34는 실시예들에 따른 패치 시퀀스 파라미터 세트(Patch sequence parameter set), 패치 프레임 지오메트리 파라미터 세트(Patch frame geometry parameter set), 지오메트리 프레임 파라미터(Geometry frame params)의 신택스를 나타낸다.
도35는 실시예들에 따른 패치 프레임 어트리뷰트 파라미터 세트(Patch frame attribute parameter set), 어트리뷰트 프레임 파라미터(Attribute frame params)의 신택스를 나타낸다.
도36은 실시예들에 따른 지오메트리 패치 파라미터 세트(Geometry patch parameter set), 지오메트리 패치 파라미터(Geometry patch params)의 신택스를 나타낸다.
도37은 실시예들에 따른 어트리뷰트 패치 파라미터 세트(Attribute patch parameter set), 어트리뷰트 패치 파라미터(Attribute patch params)의 신택스를 나타낸다.
도38은 실시예들에 따른 패치 프레임 파라미터 세트(Patch frame parameter set)의 신택스를 나타낸다.
도39는 실시예들에 따른 패치 프레임 타일 정보(Patch frame tile information)의 신택스를 나타낸다.
도40은 실시예들에 따른 패치 타일 그룹 레이어 유닛(Patch tile group layer unit), 패치 타일 그룹 헤더(Patch tile group header)의 신택스를 나타낸다.
도41은 실시예들에 따른 레퍼런스 리스트 구조(Reference list structure)의 신택스를 나타낸다.
도42는 실시예들에 따른 패치 타일 그룹 데이터 유닛(patch_tile_group_data_unit)를 나타낸다.
도43은 실시예들에 따른 패치 정보 데이터(Patch information data)의 신택스를 나타낸다.
도44는 실시예들에 따른 패치 데이터 유닛(Patch data unit)의 신택스를 나타낸다.
도45는 실시예들에 따른 델타 패치 데이터 유닛(Delta Patch data unit)의 신택스를 나타낸다.
도46은 실시예들에 따른 PCM 패치 데이터 유닛(PCM patch data unit)의 신택스를 나타낸다.
도47은 실시예들에 따른 SEI메시지(sei_message)의 신택스를 나타낸다.
도48은 실시예들에 따른 V-PCC 비트스트림의 구성을 나타낸다.
도49는 실시예들에 따른 V-PCC 유닛의 헤더를 나타낸다.
도50은 실시예들에 따른 V-PCC 유닛 페이로드를 나타낸다.
도51은 실시예들에 따른 V-PCC 파라미터 세트를 나타낸다.
도52는 실시예들에 따른 V-PCC 아틀라스 서브비트스트림의 구조를 나타낸다.
도53은 실시예들에 따른 샘플 스트림 날 헤더(53000)및 샘플 스트림 날 유닛(53010)의 신택스를 나타낸다.
도54는 실시예들에 따른 아틀라스 파라미터 세트(atlas sequence parameter set (ASPS))를 나타낸다.
도55는 실시예들에 따른 아틀라스 프레임 파라미터 세트(atlas frame parameter set (AFPS))를 나타낸다.
도56은 실시예들에 따른 아틀라스 프레임 타일 정보(atlas_frame_tile_information)를 나타낸다.
도57은 실시예들에 따른 SEI (Supplemental enhancement information) 메시지를 나타낸다.
도58은 실시예들에 따른 지오메트리 변형 파라미터들 SEI 신택스(Geometry transformation parameters SEI message syntax)를 나타낸다.
도59는 실시예들에 따른 셋업유닛(setup unit)을 시그널링 구조를 나타낸다.
도60은 실시예들에 따른 V-PCC 샘플 엔트리를 나타낸다.
도61은 실시예들에 따른 트랙 대체 및 그룹핑을 나타낸다.
도62는 실시예들에 따른 포인트 클라우드 데이터 송신 방법을 나타낸다.
도63은 실시예들에 따른 포인트 클라우드 데이터 수신 방법을 나타낸다.
실시예들의 바람직한 실시예에 대해 구체적으로 설명하며, 그 예는 첨부된 도면에 나타낸다. 첨부된 도면을 참조한 아래의 상세한 설명은 실시예들의 실시예에 따라 구현될 수 있는 실시예만을 나타내기보다는 실시예들의 바람직한 실시예를 설명하기 위한 것이다. 다음의 상세한 설명은 실시예들에 대한 철저한 이해를 제공하기 위해 세부 사항을 포함한다. 그러나 실시예들이 이러한 세부 사항 없이 실행될 수 있다는 것은 당업자에게 자명하다.
실시예들에서 사용되는 대부분의 용어는 해당 분야에서 널리 사용되는 일반적인 것들에서 선택되지만, 일부 용어는 출원인에 의해 임의로 선택되며 그 의미는 필요에 따라 다음 설명에서 자세히 서술한다. 따라서 실시예들은 용어의 단순한 명칭이나 의미가 아닌 용어의 의도된 의미에 근거하여 이해되어야 한다.
도1은 실시예들에 따른 Point Cloud 콘텐츠 제공을 위한 송신/수신 시스템의 구조의 예시를 나타낸다.
본 문서에서는 사용자에게 VR (Virtual Reality, 가상현실), AR (Augmented Reality, 증강현실), MR (Mixed Reality, 혼합현실), 및 자율 주행 서비스 등의 다양한 서비스를 제공하기 위하여 Point Cloud 콘텐츠를 제공하는 방안을 제공한다. 실시예들에 다른 포인트 클라우드 콘텐츠는 오브젝트를 포인트들로 표현한 데이터를 나타내고, 포인트 클라우드, 포인트 클라우드 데이터, 포인트 클라우드 비디오 데이터, 포인트 클라우드 이미지 데이터 등으로 지칭될 수 있다.
실시예들에 따른 포인트 클라우드 데이터 전송 장치(Transmission device, 10000)는 포인트 클라우드 비디오 획득부(Point Cloud Video Acquisition, 10001), 포인트 클라우드 비디오 인코더(Point Cloud Video Encoder, 10002), 파일/세그먼트 인캡슐레이션부(10003) 및/또는 트랜스미터(Transmitter (or Communication module), 10004)를 포함한다. 실시예들에 따른 전송 장치는 포인트 클라우드 비디오(또는 포인트 클라우드 콘텐트)를 확보하고 처리하여 전송할 수 있다. 실시예들에 따라, 전송 장치는 고정국(fixed station), BTS(base transceiver system), 네트워크, AI(Ariticial Intelligence) 기기 및/또는 시스템, 로봇, AR/VR/XR 기기 및/또는 서버 등을 포함할 수 있다. 또한 실시예들에 따라 전송 장치(10000)는 무선 접속 기술(예, 5G NR(New RAT), LTE(Long Term Evolution))을 이용하여, 기지국 및/또는 다른 무선 기기와 통신을 수행하는 기기, 로봇, 차량, AR/VR/XR 기기, 휴대기기, 가전, IoT(Internet of Thing)기기, AI 기기/서버 등을 포함할 수 있다.
실시예들에 따른 포인트 클라우드 비디오 획득부(Point Cloud Video Acquisition, 10001)는 Point Cloud 비디오의 캡처, 합성 또는 생성 과정 등을 통한 Point Cloud 비디오를 획득한다.
실시예들에 따른 포인트 클라우드 비디오 인코더(Point Cloud Video Encoder, 10002)는 포인트 클라우드 비디오 데이터를 인코딩한다. 실시예들에 따라, 포인트 클라우드 비디오 인코더(10002)는 포인트 클라우드 인코더, 포인트 클라우드 데이터 인코더, 인코더 등으로 지칭될 수 있다. 또한 실시예들에 따른 포인트 클라우드 컴프레션 코딩(인코딩)은 상술한 실시예에 국한되는 것은 아니다. 포인트 클라우드 비디오 인코더는 인코딩된 포인트 클라우드 비디오 데이터를 포함하는 비트스트림을 출력할 수 있다. 비트스트림은 인코딩된 포인트 클라우드 비디오 데이터뿐만 아니라, 포인트 클라우드 비디오 데이터의 인코딩과 관련된 시그널링 정보를 포함할 수 있다.
실시예들에 따른 인코더는 G-PCC (Geometry-based Point Cloud Compression) 인코딩 방식 및/또는 V-PCC(Video-based Point Cloud Compression) 인코딩 방식을 모두 지원할 수 있다. 또한, 인코더는 포인트 클라우드 (포인트 클라우드 데이터 또는 포인트들을 모두 지칭함) 및/또는 포인트 클라우드에 관한 시그널링 데이터를 인코딩할 수 있다. 실시예들에 따른 인코딩의 구체적인 동작은 이하에서 설명한다.
실시예들에 따른 파일/세그먼트 인캡슐레이션부(File/Segment Encapsulation module, 10003)은 포인트 클라우드 데이터를 파일 및/또는 세그먼트 형태로 인캡슐레이션한다. 실시예들에 따른 포인트 클라우드 데이터 송신 방법/장치는 포인트 클라우드 데이터를 파일 및/또는 세그먼트 형태로 전송할 수 있다.
실시예들에 따른 트랜스미터(Transmitter (or Communication module), 10004)는 인코딩된 포인트 클라우드 비디오 데이터를 비트스트림의 형태로 전송한다. 실시예들에 따라 파일 또는 세그먼트는 네트워크를 통해 수신 장치로 전송되거나, 디지털 저장매체(예를 들면 USB, SD, CD, DVD, 블루레이, HDD, SSD 등)에 저장될 수 있다. 실시예들에 따른 트랜스미터는 수신 장치 (또는 리시버(Receiver)와 4G, 5G, 6G 등의 네트워크를 통해 유/무선 통신 가능하다. 또한 트랜스미터는 네트워크 시스템(예를 들면 4G, 5G, 6G 등의 통신 네트워크 시스템)에 따라 필요한 데이터 처리 동작을 수행할 수 있다. 또한 전송 장치는 온 디맨드(On Demand) 방식에 따라 인캡슐레이션된 데이터를 전송할 수도 있다.
실시예들에 따른 포인트 클라우드 데이터 수신 장치(Reception device, 10005)는 리시버(Receiver, 10006), 파일/세그먼트 디캡슐레이션부(10007), 포인트 클라우드 비디오 디코더(Point Cloud Decoder, 10008), 및/또는 렌더러(Renderer, 10009)를 포함한다. 실시예들에 따라 수신 장치는 무선 접속 기술(예, 5G NR(New RAT), LTE(Long Term Evolution))을 이용하여, 기지국 및/또는 다른 무선 기기와 통신을 수행하는 기기, 로봇, 차량, AR/VR/XR 기기, 휴대기기, 가전, IoT(Internet of Thing)기기, AI 기기/서버 등을 포함할 수 있다.
실시예들에 따른 리시버(Receiver, 10006)는 포인트 클라우드 비디오 데이터를 포함하는 비트스트림을 수신한다. 실시예들에 따라 리시버(10006)는 피드백 정보(Feedback Information)을 포인트 클라우드 데이터 전송 장치(10000)에 전송할 수 있다.
파일/세그먼트 디캡슐레이션부(File/Segment Decapsulation module, 10007)은 포인트 클라우드 데이터를 포함하는 파일 및/또는 세그먼트를 디캡슐레이션한다. 실시예들에 따른 디캡슐레이션부는 실시예들에 따른 인캡슐레이션 과정의 역과정을 수행할 수 있다.
포인트 클라우드 비디오 디코더(Point Cloud Decoder, 10007)는 수신된 포인트 클라우드 비디오 데이터를 디코딩한다. 실시예들에 따른 디코더는 실시예들에 따른 인코딩의 역과정을 수행할 수 있다.
렌더러(Renderer, 10007)는 디코딩된 포인트 클라우드 비디오 데이터를 렌더링한다. 실시예들에 따라 렌더러(10007)는 수신단 측에서 획득된 피드백 정보를 포인트 클라우드 비디오 디코더(10006)에 전송할 수 있다. 실시예들에 따른 포인트 클라우드 비디오 데이터는 피드백 정보를 리시버에 전송할 수 있다. 실시예들에 따라 포인트 클라우드 전송 장치가 수신한 피드백 정보는 포인트 클라우드 비디오 인코더에 제공될 수 있다.
도면에 점선으로 표시된 화살표는 수신 장치(10005)에서 획득한 피드백 정보(feedback information)의 전송 경로를 나타낸다. 피드백 정보는 포인트 클라우드 컨텐트를 소비하는 사용자와의 인터랙티비를 반영하기 위한 정보로서, 사용자의 정보(예를 들면 헤드 오리엔테이션 정보), 뷰포트(Viewport) 정보 등)을 포함한다. 특히 포인트 클라우드 콘텐트가 사용자와의 상호작용이 필요한 서비스(예를 들면 자율주행 서비스 등)를 위한 콘텐트인 경우, 피드백 정보는 콘텐트 송신측(예를 들면 전송 장치(10000)) 및/또는 서비스 프로바이더에게 전달될 수 있다. 실시예들에 따라 피드백 정보는 전송 장치(10000) 뿐만 아니라 수신 장치(10005)에서도 사용될 수 있으며, 제공되지 않을 수도 있다.
실시예들에 따른 헤드 오리엔테이션 정보는 사용자의 머리 위치, 방향, 각도, 움직임 등에 대한 정보이다. 실시예들에 따른 수신 장치(10005)는 헤드 오리엔테이션 정보를 기반으로 뷰포트 정보를 계산할 수 있다. 뷰포트 정보는 사용자가 바라보고 있는 포인트 클라우드 비디오의 영역에 대한 정보이다. 시점(viewpoint)은 사용자가 포인트 클라우 비디오를 보고 있는 점으로 뷰포트 영역의 정중앙 지점을 의미할 수 있다. 즉, 뷰포트는 시점을 중심으로 한 영역으로서, 영역의 크기, 형태 등은 FOV(Field Of View) 에 의해 결정될 수 있다. 따라서 수신 장치(10004)는 헤드 오리엔테이션 정보 외에 장치가 지원하는 수직(vertical) 혹은 수평(horizontal) FOV 등을 기반으로 뷰포트 정보를 추출할 수 있다. 또한 수신 장치(10005)는 게이즈 분석 (Gaze Analysis) 등을 수행하여 사용자의 포인트 클라우드 소비 방식, 사용자가 응시하는 포인트 클라우 비디오 영역, 응시 시간 등을 확인한다. 실시예들에 따라 수신 장치(10005)는 게이즈 분석 결과를 포함하는 피드백 정보를 송신 장치(10000)로 전송할 수 있다. 실시예들에 따른 피드백 정보는 렌더링 및/또는 디스플레이 과정에서 획득될 수 있다. 실시예들에 따른 피드백 정보는 수신 장치(10005)에 포함된 하나 또는 그 이상의 센서들에 의해 확보될 수 있다. 또한 실시예들에 따라 피드백 정보는 렌더러(10009) 또는 별도의 외부 엘레멘트(또는 디바이스, 컴포넌트 등)에 의해 확보될 수 있다. 도1의 점선은 렌더러(10009)에서 확보한 피드백 정보의 전달 과정을 나타낸다. 포인트 클라우드 콘텐트 제공 시스템은 피드백 정보를 기반으로 포인트 클라우드 데이터를 처리(인코딩/디코딩)할 수 있다. 따라서 포인트 클라우드 비디오 데이터 디코더(10008)는 피드백 정보를 기반으로 디코딩 동작을 수행할 수 있다. 또한 수신 장치(10005)는 피드백 정보를 전송 장치로 전송할 수 있다. 전송 장치(또는 포인트 클라우드 비디오 데이터 인코더(10002))는 피드백 정보를 기반으로 인코딩 동작을 수행할 수 있다. 따라서 포인트 클라우드 콘텐트 제공 시스템은 모든 포인트 클라우드 데이터를 처리(인코딩/디코딩)하지 않고, 피드백 정보를 기반으로 필요한 데이터(예를 들면 사용자의 헤드 위치에 대응하는 포인트 클라우드 데이터)를 효율적으로 처리하고, 사용자에게 포인트 클라우드 콘텐트를 제공할 수 있다.
실시예들에 따라, 전송 장치(10000)는 인코더, 전송 디바이스, 전송기 등으로 호칭될 수 있으며, 수신 장치(10004)는 디코더, 수신 디바이스, 수신기 등으로 호칭될 수 있다.
실시예들에 따른 도 1 의 포인트 클라우드 콘텐트 제공 시스템에서 처리되는 (획득/인코딩/전송/디코딩/렌더링의 일련의 과정으로 처리되는) 포인트 클라우드 데이터는 포인트 클라우드 콘텐트 데이터 또는 포인트 클라우드 비디오 데이터라고 호칭할 수 있다. 실시예들에 따라 포인트 클라우드 콘텐트 데이터는 포인트 클라우드 데이터와 관련된 메타데이터 내지 시그널링 정보를 포함하는 개념으로 사용될 수 있다.
도 1에 도시된 포인트 클라우드 콘텐트 제공 시스템의 엘리먼트들은 하드웨어, 소프트웨어, 프로세서 및/또는 그것들의 결합등으로 구현될 수 있다.
실시예들은 사용자에게 VR (Virtual Reality, 가상현실), AR (Augmented Reality, 증강현실), MR (Mixed Reality, 혼합현실), 및 자율 주행 서비스 등 다양한 서비스를 제공하기 위하여 포인트 클라우드(Point Cloud) 콘텐츠를 제공할 수 있다.
Point Cloud 콘텐츠 서비스를 제공하기 위하여, 먼저 Point Cloud 비디오가 획득될 수 있다. 획득된 Point Cloud 비디오는 일련의 과정을 거쳐 전송되고, 수신측에서는 수신된 데이터를 다시 원래의 Point Cloud 비디오로 가공하여 렌더링 할 수 있다. 이를 통해 Point Cloud 비디오가 사용자에게 제공될 수 있다. 실시예들은 이러한 일련의 과정을 효과적으로 수행하기 위해 필요한 방안을 제공한다.
Point Cloud 콘텐츠 서비스를 제공하기 위한 전체의 과정(포인트 클라우드 데이터 전송 방법 및/또는 포인트 클라우드 데이터 수신 방법)은 획득 과정, 인코딩 과정, 전송 과정, 디코딩 과정, 렌더링 과정 및/또는 피드백 과정을 포함할 수 있다.
실시예들에 따라 포인트 클라우드 콘텐츠 (또는 포인트 클라우드 데이터)를 제공하는 과정은 포인트 클라우드 컴프레션(Point Cloud Compression) 과정이라고 호칭할 수 있다. 실시예들에 따라 포인트 클라우드 컴프레션 과정은 지오메트리 기반 포인트 클라우드 컴프레션(Geometry-based Point Cloud Compression) 과정을 의미할 수 있다.
실시예들에 따른 포인트 클라우드 데이터 전송 장치 및 포인트 클라우드 데이터 수신 장치의 각 엘리먼트는 하드웨어, 소프트웨어, 프로세서 및/또는 그것들의 결합 등을 의미할 수 있다.
Point Cloud 콘텐츠 서비스를 제공하기 위하여, 먼저 Point Cloud 비디오가 획득될 수 있다. 획득된 Point Cloud 비디오는 일련의 과정을 거쳐 전송되고, 수신측에서는 수신된 데이터를 다시 원래의 Point Cloud 비디오로 가공하여 렌더링 할 수 있다. 이를 통해 Point Cloud 비디오가 사용자에게 제공될 수 있다. 본 발명은 이러한 일련의 과정을 효과적으로 수행하기 위해 필요한 방안을 제공한다.
Point Cloud 콘텐츠 서비스를 제공하기 위한 전체의 과정은 획득 과정, 인코딩 과정, 전송 과정, 디코딩 과정, 렌더링 과정 및/또는 피드백 과정을 포함할 수 있다.
Point Cloud Compression 시스템은 전송 디바이스 및 수신 디바이스를 포함할 수 있다. 전송 디바이스는 Point Cloud 비디오를 인코딩하여 비트스트림을 출력할 수 있으며, 이를 파일 또는 스트리밍 (스트리밍 세그먼트) 형태로 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스로 전달할 수 있다. 디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다.
전송 디바이스는 개략적으로 Point Cloud 비디오 획득부, Point Cloud 비디오 인코더, 파일/세그먼트 인캡슐레이션부, 전송부를 포함할 수 있다. 수신 디바이스는 개략적으로 수신부, 파일/세그먼트 디캡슐레이션부, Point Cloud 비디오 디코더 및 렌더러를 포함할 수 있다. 인코더는 Point Cloud 비디오/영상/픽처/프레임 인코딩 장치라고 불릴 수 있고, 디코더는 Point Cloud 비디오/영상/픽처/프레임 디코딩 장치라고 불릴 수 있다. 송신기는 Point Cloud 비디오 인코더에 포함될 수 있다. 수신기는 Point Cloud 비디오 디코더에 포함될 수 있다. 렌더러는 디스플레이부를 포함할 수도 있고, 렌더러 및/또는 디스플레이부는 별개의 디바이스 또는 외부 컴포넌트로 구성될 수도 있다. 전송 디바이스 및 수신 디바이스는 피드백 과정을 위한 별도의 내부 또는 외부의 모듈/유닛/컴포넌트를 더 포함할 수도 있다.
실시예들에 따라 수신 디바이스의 동작은 전송 디바이스 동작의 역과정을 따를 수 있다.
Point Cloud 비디오 획득부는 Point Cloud 비디오의 캡처, 합성 또는 생성 과정 등을 통한 Point Cloud 비디오를 획득하는 과정을 수행할 수 있다. 획득 과정에 의해 다수의 Point들에 대한 3D 위치(x, y, z)/속성 (color, reflectance, transparency 등) 데이터, 예를 들어, PLY(Polygon File format or the Stanford Triangle format) 파일 등이 생성 될 수 있다. 여러 개의 프레임을 갖는 비디오의 경우 하나 이상의 파일들이 획득될 수 있다. 캡처 과정에서 point cloud 관련 메타데이터(예를 들어 캡처와 관련된 메타데이터 등)가 생성될 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 장치는 포인트 클라우드 데이터를 인코딩하는 인코더; 및 포인트 클라우드 데이터를 전송하는 트랜스미터; 를 포함할 수 있다. 또한, 포인트 클라우드를 포함하는 비트 스트림의 형태로 전송될 수 있다.
실시예들에 따른 포인트 클라우드 데이터 수신 장치는 포인트 클라우드 데이터를 수신하는 수신부; 포인트 클라우드 데이터를 디코딩하는 디코더; 및 포인트 클라우드 데이터를 렌더링하는 렌더러; 를 포함할 수 있다.
실시예들에 따른 방법/장치는 포인트 클라우드 데이터 송신 장치 및/또는 포인트 클라우드 데이터 수신 장치를 나타낸다.
도2는 실시예들에 따른 포인트 클라우드 데이터 갭쳐의 예시를 나타낸다.
실시예들에 따른 포인트 클라우드 데이터는 카메라 등에 의해 획득될 수 있다. 실시예들에 따른 캡쳐 방법은 예를 들어 인워드-페이싱 및/또는 아웃워드-페이싱이 있을 수 있다.
실시예들에 따른 인워드-페이싱은 포인트 클라우드 데이터의 오브젝트(Object)를 하나 또는 하나 이상의 카메라들이 오브젝트의 바깥에서 안쪽 방향으로 촬영할 수 있다.
실시예들에 따른 아웃워드-페이싱은 포인트 클라우드 데이터의 오브젝트를 하나 또는 하나 이상의 카메라들이 오브젝트의 안쪽에서 바깥 방향으로 촬영할 수 있다. 예를 들어, 실시예들에 따라 카메라는 4개일 수 있다.
실시예들에 따른 포인트 클라우드 데이터 또는 포인트 클라우드 콘텐츠는 다양한 형태의 3D 공간상에 표현되는 객체/환경의 비디오 또는 정지 영상일 수 있다. 실시예들에 따라, 포인트 클라우드 콘텐츠는 객체(오브젝트 등)에 대한 비디오/오디오/이미지 등을 포함할 수 있다.
Point Cloud 콘텐츠 캡쳐를 위해서 깊이(depth)를 획득 할 수 있는 카메라 장비(적외선 패턴 프로젝터와 적외선 카메라의 조합)와 깊이 정보에 대응되는 색상 정보를 추출 할 수 있는 RGB 카메라들의 조합으로 구성될 수 있다. 또는 레이저 펄스를 쏘고 반사되어 돌아오는 시간을 측정하여 반사체의 위치 좌표를 측정하는 레이더 시스템을 이용하는 라이다(LiDAR)를 통해 깊이 정보를 추출할 수 있다. 깊이 정보로부터 3차원 공간상의 점들로 구성된 지오메트리(geometry)의 형태를 추출하고, RGB 정보로부터 각 점의 색상/반사를 표현하는 속성(attribute)을 추출할 수 있다. Point Cloud 콘텐츠는 점들에 대한 위치(x, y, z)와 색상(YCbCr 또는 RGB) 또는 반사율(r) 정보로 구성될 수 있다. Point Cloud 콘텐츠는 외부 환경을 캡쳐하는 아웃워드-페이싱(outward-facing) 방식과, 중심 객체를 캡쳐하는 인워드-페이싱(inward-facing) 방식이 있을 수 있다. VR/AR 환경에서 객체(예-캐릭터, 선수, 물건, 배우 등 핵심이 되는 객체)를 360도로 사용자가 자유롭게 볼 수 있는 Point Cloud 콘텐츠로 구성할 경우, 캡쳐 카메라의 구성은 인워드-페이싱 방식을 사용하게 될 수 있다. 자율 주행과 같이 자동차에서 현재 주변 환경을 Point Cloud 콘텐츠로 구성할 경우, 캡쳐 카메라의 구성은 아웃워드-페이싱 방식을 사용하게 될 수 있다. 여러대의 카메라를 통해 Point Cloud 콘텐츠가 캡쳐 될 수 있기 때문에, 카메라들 사이의 글로벌 공간 좌표계(global coordinate system)를 설정하기 위해 콘텐츠를 캡쳐 하기 전에 카메라의 캘리브레이션 과정이 필요할 수도 있다.
Point Cloud 콘텐츠는 다양한 형태의 3D 공간상에 나타내어지는 객체/환경의 비디오 또는 정지 영상일 수 있다.
그 외에 Point Cloud 콘텐츠의 획득 방법은 캡쳐 된 Point Cloud 비디오를 기반으로 임의의 Point Cloud 비디오가 합성 될 수 있다. 또는 컴퓨터로 생성된 가상의 공간에 대한 Point Cloud 비디오를 제공하고자 하는 경우, 실제 카메라를 통한 캡처가 수행되지 않을 수 있다. 이 경우 단순히 관련 데이터가 생성되는 과정으로 해당 캡처 과정이 갈음될 수 있다.
캡쳐된 Point Cloud 비디오는 콘텐츠의 질을 향상시키기 위한 후처리가 필요할 수 있다. 영상 캡쳐 과정에서 카메라 장비가 제공하는 범위에서 최대/최소 깊이 값을 조정할 수 있지만 그 이후에도 원하지 않는 영역의 points 데이터들이 포함될 수 있어서 원하지 않는 영역(예, 배경)을 제거 한다거나, 또는 연결된 공간을 인식하고 구멍(spatial hole)을 메우는 후처리를 수행할 수 있다. 또한 공간 좌표계를 공유하는 카메라들로부터 추출된 Point Cloud는 캘리브레이션 과정을 통해 획득된 각 카메라의 위치 좌표를 기준으로 각 point들에 대한 글로벌 좌표계로의 변환 과정을 통해 하나의 콘텐츠로 통합될 수 있다. 이를 통해 하나의 넓은 범위의 Point Cloud 콘텐츠를 생성할 수도 있고, 또는 point들의 밀도가 높은 Point Cloud 콘텐츠를 획득할 수도 있다.
Point Cloud 비디오 인코더는 입력 Point Cloud 비디오를 하나 이상의 비디오 스트림으로 인코딩할 수 있다. 하나의 비디오는 다수의 프레임을 포함할 수 있으며, 하나의 프레임은 정지 영상/픽처에 대응될 수 있다. 본 문서에서, Point Cloud 비디오라 함은 Point Cloud 영상/프레임/픽처/비디오/오디오/이미지 등을 포함할 수 있으며, Point Cloud 비디오는 Point Cloud 영상/프레임/픽처와 혼용되어 사용될 수 있다. Point Cloud 비디오 인코더는 Video-based Point Cloud Compression (V-PCC) 절차를 수행할 수 있다. Point Cloud 비디오 인코더는 압축 및 코딩 효율을 위하여 예측, 변환, 양자화, 엔트로피 코딩 등의 일련의 절차를 수행할 수 있다. 인코딩된 데이터(인코딩된 비디오/영상 정보)는 비트스트림(bitstream) 형태로 출력될 수 있다. V-PCC 절차에 기반하는 경우 Point Cloud 비디오 인코더는 Point Cloud 비디오를 후술하는 바와 같이 지오메트리 비디오, 어트리뷰트(attribute) 비디오, 어큐판시(occupancy) 맵 비디오, 그리고 부가 정보(auxiliary information)으로 나누어 인코딩할 수 있다. 지오메트리 비디오는 지오메트리 이미지를 포함할 수 있고, 어트리뷰트(attribute) 비디오는 어트리뷰트 이미지를 포함할 수 있고, 어큐판시(occupancy) 맵 비디오는 어큐판시 맵 이미지를 포함할 수 있다. 부가 정보는 부가 패치 정보(auxiliary patch information)를 포함할 수 있다. 어트리뷰트 비디오/이미지는 텍스쳐 비디오/이미지를 포함할 수 있다.
인캡슐레이션 처리부(file/segment encapsulation module, 10003)는 인코딩된 Point cloud 비디오 데이터 및/또는 Point cloud 비디오 관련 메타데이터를 파일 등의 형태로 인캡슐레이션할 수 있다. 여기서 Point cloud 비디오 관련 메타데이터는 메타데이터 처리부 등으로부터 전달받은 것일 수 있다. 메타데이터 처리부는 point cloud 비디오 인코더에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 인캡슐레이션 처리부는 해당 데이터들을 ISOBMFF 등의 파일 포맷으로 인캡슐레이션하거나, 기타 DASH 세그먼트 등의 형태로 처리할 수 있다. 인캡슐레이션 처리부는 실시예에 따라 Point cloud 비디오 관련 메타데이터를 파일 포맷 상에 포함시킬 수 있다. Point cloud 비디오 메타데이터는 예를 들어 ISOBMFF 파일 포맷 상의 다양한 레벨의 박스(box)에 포함되거나 파일 내에서 별도의 트랙내의 데이터로 포함될 수 있다. 실시예에 따라, 인캡슐레이션 처리부는 Point cloud 비디오 관련 메타데이터 자체를 파일로 인캡슐레이션할 수 있다. 전송 처리부는 파일 포맷에 따라 인캡슐레이션된 Point cloud 비디오 데이터에 전송을 위한 처리를 가할 수 있다. 전송 처리부는 전송부에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 전송 처리부는 임의의 전송 프로토콜에 따라 Point cloud 비디오비디오 데이터를 처리할 수 있다. 전송을 위한 처리에는 방송망을 통한 전달을 위한 처리, 브로드밴드를 통한 전달을 위한 처리를 포함할 수 있다. 실시예에 따라 전송 처리부는 Point cloud 비디오 데이터 뿐 아니라, 메타데이터 처리부로부터 Point cloud 비디오관련 메타데이터를 전달받아, 이 것에 전송을 위한 처리를 가할 수도 있다.
전송부(10004)는 비트스트림 형태로 출력된 인코딩된 비디오/영상 정보 또는 데이터를 파일 또는 스트리밍 형태로 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스의 수신부로 전달할 수 있다. 디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다. 전송부는 미리 정해진 파일 포멧을 통하여 미디어 파일을 생성하기 위한 엘리먼트를 포함할 수 있고, 방송/통신 네트워크를 통한 전송을 위한 엘레멘트를 포함할 수 있다. 수신부는 비트스트림을 추출하여 디코딩 장치로 전달할 수 있다.
수신부(10003)는 본 발명에 따른 point cloud 비디오 전송 장치가 전송한 point cloud 비디오 데이터를 수신할 수 있다. 전송되는 채널에 따라 수신부는 방송망을 통하여 point cloud 비디오 데이터를 수신할 수도 있고, 브로드밴드를 통하여 point cloud 비디오 데이터를 수신할 수도 있다. 혹은 디지털 저장 매체를 통하여 point cloud 비디오 데이터를 수신할 수도 있다.
수신 처리부는 수신된 point cloud 비디오 데이터에 대해 전송 프로토콜에 따른 처리를 수행할 수 있다. 수신 처리부는 수신부에 포함될 수 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 전송측에서 전송을 위한 처리가 수행된 것에 대응되도록, 수신 처리부는 전술한 전송 처리부의 역과정을 수행할 수 있다. 수신 처리부는 획득한 point cloud 비디오 데이터는 디캡슐레이션 처리부로 전달하고, 획득한 point cloud 비디오 관련 메타데이터는 메타데이터 파서로 전달할 수 있다. 수신 처리부가 획득하는 point cloud 비디오 관련 메타데이터는 시그널링 테이블의 형태일 수 있다.
디캡슐레이션 처리부(file/segment decapsulation module, 10007)는 수신 처리부로부터 전달받은 파일 형태의 point cloud 비디오 데이터를 디캡슐레이션할 수 있다. 디캡슐레이션 처리부는 ISOBMFF 등에 따른 파일들을 디캡슐레이션하여, point cloud 비디오 비트스트림 내지 point cloud 비디오 관련 메타데이터(메타데이터 비트스트림)를 획득할 수 있다. 획득된 point cloud 비디오 비트스트림은 point cloud 비디오 디코더로, 획득된 point cloud 비디오 관련 메타데이터(메타데이터 비트스트림)는 메타데이터 처리부로 전달할 수 있다. point cloud 비디오 비트스트림은 메타데이터(메타데이터 비트스트림)를 포함할 수도 있다. 메타데이터 처리부는 point cloud 비디오 디코더에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 디캡슐레이션 처리부가 획득하는 point cloud 비디오 관련 메타데이터는 파일 포맷 내의 박스 혹은 트랙 형태일 수 있다. 디캡슐레이션 처리부는 필요한 경우 메타데이터 처리부로부터 디캡슐레이션에 필요한 메타데이터를 전달받을 수도 있다. point cloud 비디오 관련 메타데이터는 point cloud 비디오 디코더에 전달되어 point cloud 비디오 디코딩 절차에 사용될 수도 있고, 또는 렌더러에 전달되어 point cloud 비디오 렌더링 절차에 사용될 수도 있다.
Point Cloud 비디오 디코더는 비트스트림을 입력받아 Point Cloud 비디오 인코더의 동작에 대응하는 동작을 수행하여 비디오/영상을 디코딩할 수 있다. 이 경우 Point Cloud 비디오 디코더는 Point Cloud 비디오를 후술하는 바와 같이 지오메트리 비디오, 어트리뷰트(attribute) 비디오, 어큐판시(occupancy) 맵 비디오, 그리고 부가 정보(auxilIary information )으로 나누어 디코딩할 수 있다. 지오메트리 비디오는 지오메트리 이미지를 포함할 수 있고, 어트리뷰트(attribute) 비디오는 어트리뷰트 이미지를 포함할 수 있고, 어큐판시(occupancy) 맵 비디오는 어큐판시 맵 이미지를 포함할 수 있다. 부가 정보는 부가 패치 정보(auxiliary patch information)를 포함할 수 있다. 어트리뷰트 비디오/이미지는 텍스쳐 비디오/이미지를 포함할 수 있다.
디코딩된 지오메트리 이미지와 오큐판시 맵 및 부가 패치 정보를 이용하여 3차원 지오메트리가 복원되며 이후 스무딩 과정을 거칠 수 있다. 스무딩된 3차원 지오메트리에 텍스처 이미지를 이용하여 컬러값을 부여함으로써 컬러 포인트 클라우드 영상/픽처가 복원될 수 있다. 렌더러는 복원된 지오메트리, 컬러 포인트 클라우드 영상/픽처를렌더링할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다. 사용자는 VR/AR 디스플레이 또는 일반 디스플레이 등을 통하여 렌더링 된 결과의 전부 또는 일부 영역을 볼 수 있다.
피드백 과정은 렌더링/디스플레이 과정에서 획득될 수 있는 다양한 피드백 정보들을 송신측으로 전달하거나 수신측의 디코더에 전달하는 과정을 포함할 수 있다. 피드백 과정을 통해 Point Cloud 비디오 소비에 있어 인터랙티비티(interactivity) 가 제공될 수 있다. 실시예에 따라, 피드백 과정에서 헤드 오리엔테이션(Head Orientation) 정보, 사용자가 현재 보고 있는 영역을 나타내는 뷰포트(Viewport) 정보 등이 전달될 수 있다. 실시예에 따라, 사용자는 VR/AR/MR/자율주행 환경 상에 구현된 것들과 상호작용 할 수도 있는데, 이 경우 그 상호작용과 관련된 정보가 피드백 과정에서 송신측 내지 서비스 프로바이더 측으로 전달될 수도 있다. 실시예에 따라 피드백 과정은 수행되지 않을 수도 있다.
헤드 오리엔테이션 정보는 사용자의 머리 위치, 각도, 움직임 등에 대한 정보를 의미할 수 있다. 이 정보를 기반으로 사용자가 현재 Point Cloud 비디오 내에서 보고 있는 영역에 대한 정보, 즉 뷰포트 정보가 계산될 수 있다.
뷰포트 정보는 현재 사용자가 Point Cloud 비디오에서 보고 있는 영역에 대한 정보일 수 있다. 이를 통해 게이즈 분석(Gaze Analysis) 이 수행되어, 사용자가 어떠한 방식으로 Point Cloud 비디오를 소비하는지, Point Cloud 비디오의 어느 영역을 얼마나 응시하는지 등을 확인할 수도 있다. 게이즈 분석은 수신측에서 수행되어 송신측으로 피드백 채널을 통해 전달될 수도 있다. VR/AR/MR 디스플레이 등의 장치는 사용자의 머리 위치/방향, 장치가 지원하는 수직(vertical) 혹은 수평(horizontal) FOV 등에 근거하여 뷰포트 영역을 추출할 수 있다.
실시예에 따라, 전술한 피드백 정보는 송신측으로 전달되는 것 뿐 아니라, 수신측에서 소비될 수도 있다. 즉, 전술한 피드백 정보를 이용하여 수신측의 디코딩, 렌더링 과정 등이 수행될 수 있다. 예를 들어, 헤드 오리엔테이션 정보 및/또는 뷰포트 정보를 이용하여 현재 사용자가 보고 있는 영역에 대한 Point Cloud 비디오만 우선적으로 디코딩 및 렌더링 될 수도 있다.
여기서 뷰포트(viewport) 내지 뷰포트 영역이란, 사용자가 Point Cloud 비디오에서 보고 있는 영역을 의미할 수 있다. 시점(viewpoint) 는 사용자가 Point Cloud 비디오에서 보고 있는 지점으로서, 뷰포트 영역의 정중앙 지점을 의미할 수 있다. 즉, 뷰포트는 시점을 중심으로 한 영역인데, 그 영역이 차지하는 크기 형태 등은 FOV(Field Of View) 에 의해 결정될 수 있다.
이 문서는 상술한 바와 같이 Point Cloud 비디오 압축에 관한 것이다. 예를 들어 이 문서에서 개시된 방법/실시예는 MPEG (Moving Picture Experts Group)의 PCC (point cloud compression or point cloud coding) 표준 또는 차세대 비디오/이미지 코딩 표준에 적용될 수 있다.
이 문서에서 픽처(picture)/프레임(frame)은 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미할 수 있다.
픽셀(pixel) 또는 펠(pel)은 하나의 픽처(또는 영상)을 구성하는 최소의 단위를 의미할 수 있다. 또한, 픽셀에 대응하는 용어로서 '샘플(sample)'이 사용될 수 있다. 샘플은 일반적으로 픽셀 또는 픽셀의 값을 나타낼 수 있으며, 루마(luma) 성분의 픽셀/픽셀값만을 나타낼 수도 있고, 크로마(chroma) 성분의 픽셀/픽셀 값만을 나타낼 수도 있고, 또는 뎁스(depth) 성분의 픽셀/픽셀값만을 나타낼 수도 있다.
유닛(unit)은 영상 처리의 기본 단위를 나타낼 수 있다. 유닛은 픽처의 특정 영역 및 해당 영역에 관련된 정보 중 적어도 하나를 포함할 수 있다. 유닛은 경우에 따라서 블록(block) 또는 영역(area) 등의 용어와 혼용하여 사용될 수 있다. 일반적인 경우, MxN 블록은 M개의 열과 N개의 행으로 이루어진 샘플들(또는 샘플 어레이) 또는 변환 계수(transform coefficient)들의 집합(또는 어레이)을 포함할 수 있다.
도3은 실시예들에 따른 포인트 클라우드 및 지오메트리, 텍스쳐 이미지의 예시를 나타낸다.
실시예들에 따른 포인트 클라우드는 후술할 도4의 V-PCC 인코딩 프로세스에 입력되어 지오메트리 이미지, 텍스쳐 이미지가 생성될 수 있다. 실시예들에 따라, 포인트 클라우드는 포인트 클라우드 데이터와 동일한 의미로 사용될 수 있다.
도면과 같이, 좌측은 포인트 클라우드로서, 3D 공간 상에 오브젝트가 위치하고, 이를 바운딩 박스 등으로 나타낼 수 있는 포인트 클라우드를 나타낸다. 중간은 지오메트리를 나타내고, 우측은 텍스쳐 이미지(논-패딩)를 나타낸다.
비디오 베이스 포인트 클라우드 컴프레션(Video-based Point Cloud Compression) (V-PCC)는 HEVC, VVC 등의 2D video codec을 기반으로 3차원 point cloud 데이터를 압축하는 방법을 제공할 수 있다. V-PCC 압축 과정에서 다음과 같은 데이터 및 정보들이 생성될 수 있다.
어큐판시 맵(occupancy map): point cloud를 이루는 점들을 patch로 나누어 2D 평면에 맵핑할 때 2D 평면의 해당 위치에 데이터가 존재하는 여부를 0 또는 1의 값으로 알려주는 2진 맵 (binary map) 을 나타낸다. 어큐판시 맵(occupancy map)은 아틀라스에 대응하는 2D어레이를 나타내고, 어큐판시 맵의 값은 아틀라스 내 각 샘플 포지션이 3D포인트에 대응하는지 여부를 나타낼 수 있다. 아틀라스(ATLAS)란, 각 포인트 클라우드 프레임에 대한 2D 패치들에 관한 정보를 포함하는 대상을 의미한다. 예를 들어, 아틀라스는 패치들의 2D 배치 및 사이즈, 3D 포인트 내 대응하는 3D 리젼의 포지션, 프로젝션 플렌, 레벨 오브 디테일 파라미터 등이 있을 수 있다.
패치(patch): point cloud를 구성하는 점들의 집합으로, 같은 patch에 속하는 점들은 3차원 공간상에서 서로 인접해 있으며 2D 이미지로의 맵핑 과정에서 6면의 bounding box 평면 중 같은 방향으로 맵핑됨을 나타낸다.
지오메트리 이미지(geometry image): point cloud를 이루는 각 점들의 위치 정보 (geometry)를 patch 단위로 표현하는 depth map 형태의 이미지를 나타낸다. 지오메트리 이미지는1 채널의 픽셀 값으로 구성될 수 있다. 지오메트리(geometry)는 포인트 클라우드 프레임에 연관된 좌표들의 세트를 나타낸다.
텍스쳐 이미지(texture image): point cloud를 이루는 각 점들의 색상 정보를 patch 단위로 표현하는 image를 나타낸다. 텍스쳐 이미지는 복수 채널의 픽셀 값 (e.g. 3채널 R, G, B)으로 구성될 수 있다. 텍스쳐는 어트리뷰트에 포함된다. 실시예들에 따라서, 텍스쳐 및/또는 어트리뷰트는 동일한 대상 및/또는 포함관계로 해석될 수 있다.
오실러리 패치 정보(auxiliary patch info): 개별 patch들로부터 point cloud를 재구성하기 위해 필요한 메타데이터를 나타낸다. 어실러리 패치 인포는 patch의 2D/3D 공간에서의 위치, 크기 등에 대한 정보를 포함할 수 있다.
실시예들에 따른 포인트 클라우드 데이터, 예를 들어 V-PCC 컴포넌트들은 아틀라스, 어큐판시 맵, 지오메트리, 어트리뷰트 등을 포함할 수 있다.
아틀라스(atlas)는 2D바운딩 박스들의 집합을 나타낸다. 패치, 예를 들어, 렉텡귤러 프레임에 프로젝션된 패치들일 수 있다. 또한, 3D공간에서 3D 바운딩 박스에 대응할 수 있고, 포인트 클라우드의 서브세트를 나타낼 수 있다.
어트리뷰트(attribute)는 포인트 클라우드 내 각 포인트와 연관된 scalar 또는 vector를 나타내고, 예를 들어, 컬러(colour), 리플렉턴스(reflectance), 서페이스 노멀(surface normal), 타임 스탬프(time stamps), 머터리얼ID(material ID) 등이 있을 수 있다.
실시예들에 따른 포인트 클라우드 데이터는 V-PCC (Video-based Point Cloud Compression) 방식에 따른 PCC 데이터를 나타낸다. 포인트 클라우드 데이터는 복수의 컴포넌트들을 포함할 수 있다. 예를 들어, 어큐판시 맵, 패치, 지오메트리 및/또는 텍스쳐 등을 포함할 수 있다.
도4는 실시예들에 따른 V-PCC 인코딩 처리의 예시를 나타낸다.
도면은 어큐판시 맵(occupancy map), 지오메트리 이미지(geometry image), 텍스쳐 이미지(texture image), 오실러리 패치 정보(auxiliary patch information)을 생성하고 압축하기 위한 V-PCC encoding process를 도시하여 보여주고 있다. 도4의 V-PCC 인코딩 프로세스는 도1의 포인트 클라우드 비디오 인코더(10002)에 의해 처리될 수 있다. 도4의 각 구성요소는 소프트웨어, 하드웨어, 프로세서 및/또는 그것들의 조합에 의해 수행될 수 있다.
패치 제너레이션(patch generation, 40000) 또는 패치 제너레이터는 포인트 클라우드 프레임(포인트 클라우드 데이터를 포함하는 비트스트림의 형태일 수 있다)을 수신한다. 패치 제너레이션부(40000)는 포인트 클라우드 데이터로부터 패치를 생성한다. 또한, 패치 생성에 관한 정보를 포함하는 패치 인포를 생성한다.
패치 패킹(patch packing, 40001) 또는 패치 패커는 포인트 클라우드 데이터에 대한 패치를 패킹한다. 예를 들어, 하나 또는 하나 이상의 패치들이 패킹될 수 있다. 또한, 패치 패킹에 관한 정보를 포함하는 어큐판시 맵을 생성한다.
지오메트리 이미지 제너레이션(geometry image generation, 40002) 또는 지오메트리 이미지 제너레이터는 포인트 클라우드 데이터, 패치, 및/또는 패킹된 패치에 기반하여 지오메트리 이미지를 생성한다. 지오메트리 이미지는 포인트 클라우드 데이터에 관한 지오메트리를 포함하는 데이터를 말한다.
텍스쳐 이미지 제너레이션(texture image generation, 40003) 또는 텍스쳐 이미지 제너레이터는 포인트 클라우드 데이터, 패치, 및/도는 패킹된 패치에 기반하여 텍스쳐 이미지를 생성한다. 또한, 재구성된(리컨스트럭션된) 지오메트리 이미지를 패치 인포에 기반하여 스무딩(번호)이 스무딩 처리를 하여 생성된 스무딩된 지오메트리에 더 기초하여, 텍스쳐 이미지를 생성할 수 있다.
스무딩(smoothing, 40004) 또는 스무더는 이미지 데이터에 포함된 에러를 완화 또는 제거할 수 있다. 예를 들어, 재구성된 지오메트리 이미지를 패치 인포에 기반하여 데이터 간 에러를 유발할 수 있는 부분을 부드럽게 필터링하여 스무딩된 지오메트리를 생성할 수 있다.
오실러리 패치 인포 컴프레션(auxillary patch info compression, 40005) 또는 오실러리 패치 정보 컴프레서는 패치 생성 과정에서 생성된 패치 정보와 관련된 부가적인 패치 정보를 컴프레션한다. 또한, 컴프레스된 오실러리 패치 인포를 멀티플레서에 전달하고, 지오메트리 이미지 제너레이션(40002)도 오실러리 패치 정보를 이용할 수 있다.
이미지 패딩(image padding, 40006, 40007) 또는 이미지 패더는 지오메트리 이미지 및 텍스쳐 이미지를 각각 패딩할 수 있다. 패딩 데이터가 지오메트리 이미지 및 텍스쳐 이미지에 패딩될 수 있다.
그룹 딜레이션(group dilation, 40008) 또는 그룹 딜라이터는 이미지 패딩과 유사하게, 텍스쳐 이미지에 데이터를 부가할 수 있다. 부가 데이터가 텍스쳐 이미지에 삽입될 수 있다.
비디오 컴프레션(video compression, 40009, 40010, 40011) 또는 비디오 컴프레서는 패딩된 지오메트리 이미지, 패딩된 텍스쳐 이미지 및/또는 어큐판시 맵을 각각 컴프레션할 수 있다. 컴프레션은 지오메트리 정보, 텍스쳐 정보, 어큐판시 정보 등을 인코딩할 수 있다.
엔트로피 컴프레션(entropy compression, 40012) 또는 엔트로피 컴프레서는 어큐판시 맵을 엔트로피 방식에 기반하여 컴프레션(예를 들어, 인코딩)할 수 있다.
실시예들에 따라, 포인트 클라우드 데이터가 로스리스(lossless)한 경우 및/또는 로시(lossy)한 경우에 따라서, 엔트로피 컴프레션 및/또는 비디오 컴프레션이 각각 수행될 수 있다.
멀티플렉서(multiplexer, 40013)는 컴프레스된 지오메트리 이미지, 컴프레스된 텍스쳐 이미지, 컴프레스된 어큐판시 맵을 비트스트림으로 멀티플렉싱한다.
실시예들에 따른 도4의 각 프로세스의 상세한 동작은 다음과 같다.
패치 제너레이션(Patch generation, 40000)
패치 제너레이션(Patch generation) 과정은 포인트 클라우드를 2D 이미지에 맵핑 (mapping)하기 위하여, 맵핑을 수행하는 단위인 patch로 point cloud를 분할하는 과정을 의미한다. Patch generation 과정은 다음과 같이 노멀(normal) 값 계산, 세그멘테이션(segmentation), 패치(patch) 분할의 세 단계로 구분될 수 있다.
도5를 참조하여, 노멀 값 계산 과정을 구체적으로 설명한다.
도5는 실시예들에 따른 서페이스(Surface)의 탄젠트 플렌(tangent plane) 및 노멀 벡터(normal vector)의 예시를 나타낸다.
도5의 서페이스는 도4의 V-PCC 인코딩 프로세스의 패치 제너레이션 과정(40000)에서 다음과 같이 이용된다.
패치 제너레이션 관련하여 노멀(Normal) 계산:
포인트 클라우드를 이루는 각 점(예를 들어, 포인트)들은 고유의 방향을 가지고 있는데 이것은 normal이라는 3차원 vector로 표현된다. K-D tree 등을 이용하여 구해지는 각 점들의 인접점들 (neighbors)을 이용하여, 도면과 같은 point cloud의 surface를 이루는 각 점들의 tangent plane 및 normal vector를 구할 수 있다. 인접점들을 찾는 과정에서의 search range는 사용자에 의해 정의될 수 있다.
탄젠트 플레인(tangent plane): surface의 한 점을 지나면서 surface 위의 곡선에 대한 접선을 완전이 포함하고 있는 평면을 나타낸다.
도6은 실시예들에 따른 포인트 클라우드의 바운딩 박스(bounding box)의 예시를 나타낸다.
실시예들에 따른 방법/장치, 예를 들어, 패치 제너레이션이 포인트 클라우드 데이터로부터 패치를 생성하는 과정에서 바운딩 박스를 이용할 수 있다.
실시예들에 따른 바운딩 박스란, 포인트 클라우드 데이터를 3D 공간 상에서 육면체에 기반하여 분할하는 단위의 박스를 말한다.
바운딩 박스는 포인트 클라우드 데이터의 대상이 되는 오브젝트를 3D 공간 상의 육면체에 기반하여 각 육면체의 평면에 프로젝션하는 과정에서 이용될 수 있다. 바운딩 박스는 도1의 포인트 클라우드 비디오 획득부(10000), 포인트 클라우드 비디오 인코더(10002)에 의해 생성되고 처리될 수 있다. 또한, 바운딩 박스에 기반하여, 도2의 V-PCC 인코딩 프로세스의 패치 제너레이션(40000), 패치 패킹(40001), 지오메트리 이미지 제너레이션(40002), 텍스쳐 이미지 제너레이션(40003)이 수행될 수 있다.
패치 제너레이션 관련하여 세그멘테이션(Segmentation)
세그멘테이션(Segmentation)은 이니셜 세그멘테이션(initial segmentation)과 리파인 세그멘테이션(refine segmentation)의 두 과정으로 이루어 진다.
실시예들에 따른 포인트 클라우드 인코더(10002)는 포인트를 바운딩박스의 한 면에 프로젝션한다. 구체적으로, Point cloud를 이루는 각 점들은 도면과 같이 point cloud를 감싸는 6개의 bounding box의 면들 중 하나의 면에 projection되는데, initial segmentation은 각 점들이 projection될 bounding box의 평면들 중 하나를 결정하는 과정이다.
6개의 각 평면들과 대응되는 normal값인
는 다음과 같이 정의된다.
(1.0, 0.0, 0.0), (0.0, 1.0, 0.0), (0.0, 0.0, 1.0), (-1.0, 0.0, 0.0), (0.0, -1.0, 0.0), (0.0, 0.0, -1.0).
다음의 수식과 같이 앞서 normal 값 계산과정에서 얻은 각 점들의 normal 값(
)과 
의 외적 (dot product)이 최대인 면을 해당 면의 projection 평면으로 결정한다. 즉, point의 normal과 가장 유사한 방향의 normal을 갖는 평면이 해당 point 의 projection 평면으로 결정된다.
결정된 평면은 0~5 중 하나의 index 형태의 값 (cluster index) 으로 식별될 수 있다.
Refine segmentation은 앞서 initial segmentation 과정에서 결정된 point cloud를 이루는 각 점의projection 평면을 인접 점들의 projection 평면을 고려하여 개선하는 과정이다. 이 과정에서는 앞서 initial segmentation 과정에서 projection 평면 결정을 위해 고려된 각 포인트의 normal과 bounding box의 각 평면의 normal 값과의 유사 정도를 이루는 score normal과 함께, 현재 점의 projection 평면과 인접 점들의 projection 평면과의 일치 정도를 나타내는 score smooth가 동시에 고려될 수 있다.
Score smooth는 score normal에 대하여 가중치를 부여하여 고려될 수 있으며, 이 때 가중치 값은 사용자에 의해 정의될 수 있다. Refine segmentation은 반복적으로 수행될 수 있으며, 반복 횟수 또한 사용자에 의해 정의될 수 있다.
패치 제너레이션 관련하여 Patch 분할 (segment patches)
Patch 분할은 앞서 initial/refine segmentation 과정에서 얻은 point cloud를 이루는 각 점들의 projection 평면 정보를 바탕으로, 전체 point cloud를 인접한 점들의 집합인 patch로 나누는 과정이다. Patch 분할은 다음과 같은 단계들로 구성될 수 있다.
① K-D tree 등을 이용하여 point cloud를 이루는 각 점들의 인접 점들을 산출한다. 최대 인접점으 개수는 사용자에 의해 정의될 수 있다.
② 인접 점들이 현재의 점과 동일한 평면에 projection 될 경우 (동일한 cluster index 값을 가질 경우) 현재의 점과 해당 인접 점들을 하나의 patch로 추출한다.
③ 추출된 patch의 geometry 값들을 산출한다. 자세한 과정은 이하에서 설명한다.
④ 추출되지 않은 점들이 없어질 때까지 ②④과정을 반복한다.
Patch 분할 과정을 통해 각 patch의 크기 및 patch별 occupancy map, geometry image, texture image 등이 결정된다.
도7은 실시예들에 따른 어큐판시 맵(occupancy map)의 개별 패치(patch) 위치 결정의 예시를 나타낸다.
실시예들에 따른 포인트 클라우드 인코더(10002)는 패치 패킹 및 어큐판시 맵을 생성할 수 있다.
패치 패킹 및 어큐판시 맵 생성(Patch packing & Occupancy map generation, 40001)
본 과정은 앞서 분할된 patch들을 하나의 2D 이미지에 맵핑하기 위해 개별 patch들의 2D 이미지 내에서의 위치를 결정하는 과정이다. Occupancy map은 2D 이미지의 하나로, 해당 위치에 데이터가 존재하는지 여부를 0 또는 1의 값으로 알려주는 바이너리 맵(binary map)이다. Occupancy map은 블록(block)으로 이루어 지며 block의 크기에 따라 그 해상도가 결정될 수 있는데, 일례로 block 크기가 1*1일 경우 픽셀 (pixel) 단위의 해상도를 갖는다. Block의 크기 (occupancy packing block size)는 사용자에 의해 결정될 수 있다.
Occupancy map 내에서 개별 patch의 위치를 결정하는 과정은 다음과 같이 구성될 수 있다.
① 전체 occupancy map의 값들을 모두 0으로 설정한다.
② occupancy map 평면에 존재하는 수평 좌표가 [0, occupancySizeU - patch.sizeU0), 수직 좌표가 [0, occupancySizeV - patch.sizeV0) 범위에 있는 점 (u, v)에 patch를 위치시킨다.
③ patch 평면에 존재하는 수평 좌표가 [0, patch.sizeU0), 수직 좌표가 [0, patch.sizeV0) 범위에 있는 점 (x, y)를 현재 점(포인트)으로 설정한다.
④ 점 (x, y)에 대하여, patch occupancy map의 (x, y) 좌표 값이 1이고 (patch 내 해당 지점에 데이터가 존재하고), 전체 occupancy map의 (u+x, v+y) 좌표 값이 1 (이전 patch에 의해 occupancy map이 채워진 경우) raster order 순으로 (x, y) 위치를 변경하여 ③④의 과정을 반복한다. 그렇지 않을 경우, ⑥의 과정을 수행한다.
*⑤ raster order 순으로 (u, v) 위치를 변경하여 ③⑤의 과정을 반복한다.
⑥ (u, v)를 해당 patch의 위치로 결정하고, patch의 occupancy map 데이터를 전체 occupancy map의 해당 부분에 할당(copy)한다.
⑦ 다음 patch에 대하여 ②⑦의 과정을 반복한다.
어큐판시 사이즈U(occupancySizeU): occupancy map의 너비(width)를 나타내며, 단위는 어큐판시 패킹 사이즈 블록(occupancy packing block size) 이다.
어큐판시 사이즈V(occupancySizeV): occupancy map의 높이(height)를 나타내며, 단위는 occupancy packing block size 이다.
패치 사이즈 U0(patch.sizeU0): occupancy map의 width를 나타내며, 단위는 occupancy packing block size 이다.
패치 사이즈 V0(patch.sizeV0): occupancy map의 height를 나타내며, 단위는 occupancy packing block size 이다.
예를 들어, 도7과 같이 어큐판사 패킹 사이즈 블록에 해당하는 박스 내 패치 사이즈를 갖는 패치에 대응하는 박스가 존재하고, 박스 내 포인트(x, y)가 위치할 수 있다.
도8은 실시예들에 따른 노멀(normal), 탄젠트(tangent), 바이탄젠트(bitangent) 축의 관계의 예시를 나타낸다.
실시예들에 따른 포인트 클라우드 인코더(10002)는 지오메트리 이미지를 생성할 수 있다. 지오메트리 이미지란, 포인트 클라우드의 지오메트리 정보를 포함하는 이미지 데이터를 의미한다. 지오메트리 이미지 생성 과정은 도8의 패치의 세 가지 축(노멀, 탄젠트, 바이탄젠트)을 이용할 수 있다.
지오메트리 이미지 생성(Geometry image generation, 40002)
본 과정에서는 개별 patch의 geometry image를 구성하는 depth 값들을 결정하고, 앞서 패치 패킹(patch packing) 과정에서 결정된 patch의 위치를 바탕으로 전체 geometry image를 생성한다. 개별 patch의 geometry image를 구성하는 depth 값들을 결정하는 과정은 다음과 같이 구성될 수 있다.
① 개별 patch의 위치, 크기 관련 파라미터들이 산출된다. 파라미터들은 다음과 같은 정보들을 포함할 수 있다.
normal 축을 나타내는 index: normal은 앞서 patch generation 과정에서 구해지며, tangent 축은 normal과 직각인 축들 중 patch image의 수평(u)축과 일치하는 축이며, bitangent 축은 normal과 직각인 축들 중 patch image의 수직(v)축과 일치하는 축으로, 세 가지 축은 도면과 같이 표현될 수 있다.
도9는 실시예들에 따른 프로젝션 모드의 최소 모드 및 최대 모드의 구성의 예시를 나타낸다.
실시예들에 따른 포인트 클라우드 인코더(10002)는 지오메트리 이미지를 생성하기 위해서 패치에 기반한 프로젝션을 수행할 수 있고, 실시예들에 따른 프로젝션의 모드는 최소 모드 및 최대 모드가 있다.
patch의 3D 공간 좌표: patch를 감싸는 최소 크기의 bounding box를 통해 산출될 수 있다. 예를 들어, patch의 tangent 방향 최소값 (patch 3d shift tangent axis), patch의 bitangent 방향 최소값 (patch 3d shift bitangent axis), patch의 normal 방향 최소값 (patch 3d shift normal axis) 등이 포함될 수 있다.
patch의 2D 크기: patch가 2D 이미지로 패킹될 때의 수평, 수직 방향 크기를 나타낸다. 수평 방향 크기 (patch 2d size u)는 bounding box의 tangent 방향 최대값과 최소값의 차이로, 수직 방향 크기 (patch 2d size v)는 bounding box의 bitangent 방향 최대값과 최소값의 차이로 구해질 수 있다.
② Patch의 projection mode를 결정한다. Projection mode는 최소 모드(min mode)와 최대 모드(max mode) 중 하나일 수 있다. Patch의 geometry 정보는 depth 값으로 표현되는데, patch의 normal 방향으로 patch를 이루는 각 점들을 projection 할 때 depth 값의 최대 값으로 구성되는 이미지와 최소값으로 구성되는 이미지 두 계층(layer)의 이미지들이 생성될 수 있다.
두 계층의 이미지 d0와 d1을 생성함에 있어, min mode일 경우 도면과 같이 최소 depth가 d0에 구성되고, 최소 depth로부터 surface thickness 이내에 존재하는 최대 depth가 d1으로 구성될 수 있다.
예를 들어, 포인트 클라우드가 도면과 같이 2D에 위치하는 경우, 복수의 포인트들을 포함하는 복수의 패치들이 있을 수 있다. 도면과 같이 같은 스타일의 음영으로 표시된 포인트들이 동일한 패치에 속할 수 있음을 나타낸다. 빈 칸으로 표시된 포인트들의 패치를 프로젝션하는 과정을 도면이 나타낸다.
빈 칸으로 표시된 포인트들을 좌측/우측으로 프로젝션하는 경우, 좌측을 기준으로 depth를 0, 1, 2,..6, 7, 8, 9 와 같이 1씩 증가하면서 우측으로 포인트들의 depth산출을 위한 숫자를 표기할 수 있다.
프로젝션 모드(Projection mode)는 사용자 정의에 의해 모든 point cloud에 동일한 방법이 적용되거나, frame 또는 patch 별로 다르게 적용될 수 있다. Frame 또는 patch 별로 다른 projection mode가 적용될 경우, 압축 효율을 높이거나 소실 점 (missed point)을 최소화 할 수 있는 projection mode가 적응적으로 선택될 수 있다.
③ 개별 점들의 depth 값을 산출한다.
최소 모드(Min mode)일 경우 각 점의 normal 축 최소값에 patch의 normal 방향 최소값 (patch 3d shift normal axis)에서 ①의 과정에서 산출된 patch의 normal 방향 최소값 (patch 3d shift normal axis)을 뺀 값인 depth0로 d0 이미지를 구성한다. 동일 위치에 depth0와 surface thickness 이내의 범위에 또 다른 depth 값이 존재할 경우, 이 값을 depth1으로 설정한다. 존재하지 않을 경우 depth0의 값을 depth1에도 할당한다. Depth1 값으로 d1 이미지를 구성한다.
예를 들어, d0의 포인트들의 depth를 결정함에 있어 최소값이 산출될 수 있다(4 2 4 4 0 6 0 0 9 9 0 8 0). 그리고, d1의 포인트들의 depth를 결정함에 있어 두 개 이상의 포인트들 중 큰 값이 산출되거나, 하나의 포인트만 있는 경우 그 값이 산출될 수 있다(4 4 4 4 6 6 6 8 9 9 8 8 9). 또한, 패치의 포인트들이 부호화되고, 재구성(reconstruct) 되는 과정에서 일부 포인트가 손실될 수 있다(예를 들어, 도면은 8개의 포인트가 손실되었다).
맥스 모드(Max mode)일 경우 각 점의 normal 축 최대값에 patch의 normal 방향 최소값 (patch 3d shift normal axis)에서 ①의 과정에서 산출된 patch의 normal 방향 최소값 (patch 3d shift normal axis)을 뺀 값인 depth0로 d0 이미지를 구성한다. 동일 위치에 depth0와 surface thickness 이내의 범위에 또 다른 depth 값이 존재할 경우, 이 값을 depth1으로 설정한다. 존재하지 않을 경우 depth0의 값을 depth1에도 할당한다. Depth1 값으로 d1 이미지를 구성한다.
예를 들어, d0의 포인트들의 depth를 결정함에 있어 최대값이 산출될 수 있다(4 4 4 4 6 6 6 8 9 9 8 8 9). 그리고, d1의 포인트들의 depth를 결정함에 있어 두 개 이상의 포인트들 중 작은 값이 산출되거나, 하나의 포인트만 있는 경우 그 값이 산출 될 수 있다(4 2 4 4 5 6 0 6 9 9 0 8 0). 또한, 패치의 포인트들이 부호화되고, 재구성(reconstruct) 되는 과정에서 일부 포인트가 손실될 수 있다(예를 들어, 도면은 6개의 포인트가 손실되었다).
위와 같은 과정을 통해 생성된 개별 patch의 geometry image를 앞서 patch packing 과정에서 결정된 patch의 위치 정보를 이용하여 전체 geometry image에 배치시킴으로써 전체 geometry image를 생성할 수 있다.
생성된 전체 geometry image의 d1 계층은 여러 가지 방법으로 부호화 될 수 있다. 첫 번째는 앞서 생성한 d1 이미지의 depth값들을 그대로 부호화 (absolute d1 method)하는 방법이다. 두 번째는 앞서 생성한 d1 이미지의 depth값과 d0 이미지의 depth값이 차이 값을 부호화 (differential method)하는 방법이다.
이와 같은 d0, d1 두 계층의 depth 값을 이용한 부호화 방법은 두 depth 사이에 또 다른 점들이 존재할 경우 해당 점의 geometry 정보를 부호화 과정에서 잃어버리기 때문에, 무손실 압축 (lossless coding)을 위해 Enhanced-Delta-Depth (EDD) code를 이용할 수도 있다.
도10을 참조하여, EDD code를 구체적으로 설명한다.
도10은 실시예들에 따른 EDD 코드의 예시를 나타낸다.
포인트 클라우드 인코더(10002) 및/또는 V-PCC 인코딩의 일부/전체 프로세스(예를 들어, 비디오 컴프레스(40009)) 등은 EOD코드에 기반하여 포인트들의 지오메트리 정보를 인코딩할 수 있다.
EDD code는 도면과 같이, d1을 포함하여 surface thickness 범위 내의 모든 점들의 위치를 이진으로 부호화 하는 방법이다. 일례로 도면의 좌측에서 두 번째 열에 포함되는 점들의 경우, D0 위쪽으로 첫 번째, 네 번째 위치에 점들이 존재하고, 두 번째와 세 번째 위치는 비어있기 때문에 0b1001 (=9)의 EDD code로 표현될 수 있다. D0와 함께 EDD code를 부호화하여 보내 주면 수신단에서는 모든 점들의 geometry 정보를 손실 없이 복원할 수 있게 된다.
예를 들어, 기준 포인트 위로 포인트가 존재하면 1이고 포인트가 존재하지 않으면 0이 되어 4개의 비트들에 기반하여 코드가 표현될 수 있다.
스무딩(Smoothing, 40004)
스무딩(Smoothing)은 압축 과정에서 발생하는 화질의 열화로 인해 patch 경계면에서 발생할 수 있는 불연속성을 제거하기 위한 작업이며, 포인트 클라우드 인코더 또는 스무더에 의해 수행될 수 있다.
① geometry image로부터 point cloud를 재생성(reconstruction)한다. 본 과정은 앞서 설명한 geometry image 생성의 역과정이라고 할 수 있다. 예를 들어, 인코딩의 역과정이 리컨스트럭션일 수 있다.
② K-D tree 등을 이용하여 재생성된 point cloud를 구성하는 각 점들의 인접점들을 산출한다.
③ 각 점들에 대하여, 해당 점이 patch 경계면에 위치하는지를 판단한다. 일례로 현재 점과 다른 projection 평면 (cluster index)을 갖는 인접점이 존재할 경우, 해당 점은 patch 경계면에 위치한다고 판단할 수 있다.
④ patch 경계면에 존재할 경우, 해당 점을 인접점들의 무게중심 (인접점들의 평균 x, y, z 좌표에 위치)으로 이동시킨다. 즉, geometry 값을 변경시킨다. 그렇지 않을 경위 이전 geometry 값을 유지한다.
도11은 실시예들에 따른 인접점들의 컬러(color) 값들을 이용한 리컬러링(recoloring)의 예시를 나타낸다.
실시예들에 따른 포인트 클라우드 인코더 또는 텍스쳐 이미지 제너레이터(40003)은 리컬러리링에 기반하여 텍스쳐 이미지를 생성할 수 있다.
텍스쳐 이미지 생성(Texture image generation, 40003)
Texture image 생성 과정은 앞서 설명한 geometry image 생성 과정과 유사하게, 개별 patch의 texture image 생성하고, 이들은 결정된 위치에 배치하여 전체 texture image를 생성하는 과정으로 구성된다. 다만 개별 patch의 texture image를 생성하는 과정에 있어서 geometry 생성을 위한 depth 값을 대신하여 해당 위치에 대응되는 point cloud를 구성하는 점의 color 값 (e.g. R, G, B)을 갖는 image가 생성된다.
Point cloud를 구성하는 각 점의 color 값을 구하는 과정에 있어서 앞서 smoothing 과정을 거친 geometry가 사용될 수 있다. Smoothing된 point cloud는 원본 point cloud에서 일부 점들의 위치가 이동된 상태일 수 있으므로, 변경된 위치에 적합한 color를 찾아내는 리컬러링(recoloring)과정이 필요할 수 있다. Recoloring은 인접점들의 color 값들을 이용하여 수행될 수 있다. 일례로, 도면과 같이 새로운 color값은 최인접점의 color값과 인접점들의 color값들을 고려하여 산출될 수 있다.
예를 들어, 도면을 참조하면, 리컬러링은 포인트에 대한 가장 가까운 오리지날 포인트들의 어트리뷰트 정보의 평균 및/또는 포인트에 대한 가장 가까운 오리지날 위치의 어트리뷰트 정보의 평균에 기반하여 변경된 위치의 적합한 컬러값을 산출할 수 있다.
Texture image 또한 d0/d1의 두 계층으로 생성되는 geometry image와 같이 t0/t1의 두 개의 계층 으로 생성될 수 있다.
오실러리 패치 인포 컴프레션(Auxiliary patch info compression, 40005)
실시예들에 따른 포인트 클라우드 인코더 또는 오실러리 패치 정보 컴프레서는 오실러리 패치 정보(포인트 클라우드에 관한 부가적인 정보)를 컴프레션할 수 있다.
오실러리 패치 정보 컴프레서는 앞서 설명한 patch generation, patch packing, geometry generation 과정 등에서 생성된 부가 patch 정보들을 압축(컴프레스)한다. 부가 patch 정보에는 다음과 같은 파라미터들이 포함될 수 있다:
프로젝션(projection) 평면 (normal)을 식별하는 인덱스 (클러스터 인덱스, cluster index)
패치의 3D 공간 위치: 패치의 탄젠트 방향 최소값 (patch 3d shift tangent axis), 패치의 바이탄젠트 방향 최소값 (patch 3d shift bitangent axis), 패치의 노멀 방향 최소값 (patch 3d shift normal axis)
패치의 2D 공간 위치, 크기: 수평 방향 크기 (patch 2d size u), 수직 방향 크기 (patch 2d size v), 수평 방향 최소값 (patch 2d shift u), 수직 방향 최소값 (patch 2d shift u)
각 블록과 패치의 맵핑 정보: candidate index (위의 patch의 2D 공간 위치, 크기 정보를 기반으로 patch를 순서대로 위치시켰을 때, 한 block에 중복으로 복수 patch가 맵핑될 수 있음. 이때 맵핑되는 patch들이 candidate list를 구성하며, 이 list 중 몇 번째 patch의 data가 해당 block에 존재하는지를 나타내는 index), local patch index (frame에 존재하는 전체 patch들 중 하나를 가리키는 index). Table X는 candidate list와 local patch index를 이용한 block과 patch match 과정을 나타내는 pseudo code이다.
candidate list의 최대 개수는 사용자에 의해 정의될 수 있다.
Table 1-1 block과 patch 맵핑을 위한 pseudo code
for( i = 0; i < BlockCount; i++ ) {
if( candidatePatches[ i ].size( ) = = 1 ) {
blockToPatch[ i ] = candidatePatches[ i ][ 0 ]
} else {
candidate_index
if( candidate_index = = max_candidate_count ) {
blockToPatch[ i ] = local_patch_index
} else {
blockToPatch[ i ] = candidatePatches[ i ][ candidate_index ]
}
}
}
도12는 실시예들에 따른 푸쉬-풀 백그라운드 필링(push-pull background filling)의 예시를 나타낸다.
이미지 패딩 및 그룹 딜레이션(Image padding and group dilation, 40006, 40007, 40008)
실시예들에 따른 이미지 패더는 푸쉬-풀 백그라운드 필링 방식에 기반하여 패치 영역 외의 공간을 의미 없는 부가적인 데이터로 채울 수 있다.
이미지 패딩(Image padding)은 압축 효율 향상을 목적으로 patch 영역 이외의 공간을 의미 없는 데이터로 채우는 과정이다. Image padding을 위해 patch 내부의 경계면 쪽에 해당하는 열 또는 행의 픽셀 값들이 복사되어 빈 공간을 채우는 방법이 사용될 수 있다. 또는 도면과 같이, padding 되지 않은 이미지를 단계적으로 해상도를 줄이고, 다시 해상도를 늘리는 과정에서 낮은 해상도의 이미지로부터 온 픽셀 값들로 빈 공간을 채우는 push-pull background filling 방법이 사용될 수도 있다.
그룹 딜레이션은 d0/d1, t0/t1 두 계층으로 이루어진 geometry, texture image의 빈 공간을 채우는 방법으로, 앞서 image padding을 통해 산출된 두 계층 빈 공간의 값들을, 두 계층의 동일 위치에 대한 값의 평균값으로 채우는 과정이다.
도13은 실시예들에 따른 4*4 크기의 블록(block)에 대해 가능한 트라버설 오더(traversal order)의 예시를 나타낸다.
오큐판시 맵 컴프레션(Occupancy map compression, 40012, 40011)
실시예들에 따른 오규판시 맵 컴프레서는 앞서 생성된 occupancy map을 압축할 수 있다. 구체적으로, 손실 (lossy) 압축을 위한 비디오 컴프레션과 무손실 (lossless) 압축을 위한 엔트로피 컴프레션, 두 가지 방법이 존재할 수 있다. 비디오 컴프레션은 이하에서 설명한다.
엔트로피 컴프레션(Entropy compression) 과정은 다음과 같은 과정으로 수행될 수 있다.
① occupancy map을 구성하는 각 block에 대하여, block이 모두 채워진 경우 1을 부호화 하고 다음 block에 대해 동일 과정을 반복한다. 그렇지 않은 경우 0을 부호화하고, ②⑤의 과정을 수행한다. .
② block의 채워진 pixel들에 대해 run-length coding을 수행하기 위한 best traversal order를 결정한다. 도면은 4*4 크기의 block에 대해 가능한 4가지 traversal order를 일례로 보여주고 있다.
도14는 실시예들에 따른 베스트 트라버설 오더의 예시를 나타낸다.
상술한 바와 같이 실시예들에 따른 엔트포리 컴프레서는 도면과 같이 트라버설 오더 방식에 기반하여 블록을 코딩(부호화)할 수 있다.
예를 들어, 가능한 traversal order들 중 최소의 run 개수를 갖는 베스트 트라버설 오더(best traversal order)를 선택하여 그 인덱스를 부호화 한다. 일례로 도면은 앞선 도13의 세 번째 traversal order를 선택할 경우이며, 이 경우 run의 개수가 2로 최소화될 수 있으므로 이를 베스트 트라버설 오더로 선택할 수 있다.
이때 run의 개수를 부호화 한다. 도14의 예에서는 2개의 run이 존재하므로 2가 부호화 된다.
④ 첫 번째 run의 occupancy를 부호화 한다. 도14의 예에서는 첫 번째 run이 채워지지 않은 픽셀들에 해당하므로 0이 부호화된다.
⑤ 개별 run에 대한 (run의 개수만큼의) length를 부호화 한다. 도14의 예에서는 첫 번째 run과 두 번째 run의 length인 6과 10이 순차적으로 부호화된다.
비디오 컴프레션(Video compression, 40009, 40010, 40011)
실시예들에 따른 비디오 컴프레서는 HEVC, VVC 등의 2D video codec 등을 이용하여, 앞서 설명한 과정으로 생성된 geometry image, texture image, occupancy map image 등의 시퀀스를 부호화한다.
도15는 실시예들에 따른 2D 비디오/이미지 인코더(2D video/image Encoder)의 예시를 나타낸다.
도면은 상술한 비디오 컴프레션(Video compression, 40009, 40010, 40011) 또는 비디오 컴프레서의 실시예로서, 비디오/영상 신호의 인코딩이 수행되는 2D 비디오/이미지 인코더(15000)의 개략적인 블록도를 나타낸다. 2D 비디오/이미지 인코더(15000)는 상술한 포인트 클라우드 비디오 인코더에 포함될 수 있고, 또는 내/외부 컴포넌트로 구성될 수도 있다. 도15의 각 구성요소는 소프트웨어, 하드웨어, 프로세서 및/또는그것들의 조합에 대응할 수 있다.
여기서 입력 영상은 상술한 geometry image, texture image (attribute(s) image), occupancy map image 등을 포함할 수 있다. 포인트 클라우드 비디오 인코더의 출력 bitstream (즉, point cloud video/image bitstream)은 각 입력 영상(geometry image, texture image (attribute(s) image), occupancy map image 등)에 대한 출력 비트스트림들을 포함할 수 있다.
인터 예측부(15090) 및 인트라 예측부(15100)를 합쳐서 예측부라고 불릴 수 있다. 즉, 예측부는 인터 예측부(15090) 및 인트라 예측부(15100)를 포함할 수 있다. 변환부(15030), 양자화부(15040), 역양자화부(15050), 역변환부(15060)는 레지듀얼(residual) 처리부에 포함될 수 있다. 레지듀얼 처리부는 감산부(15020)를 더 포함할 수도 있다. 상술한 영상 분할부(15010), 감산부(15020), 변환부(15030), 양자화부(15040), 역양자화부(15050), 역변환부(15060), 가산부(155), 필터링부(15070), 인터 예측부(15090), 인트라 예측부(15100) 및 엔트로피 인코딩부(15110)는 실시예에 따라 하나의 하드웨어 컴포넌트(예를 들어 인코더 또는 프로세서)에 의하여 구성될 수 있다. 또한 메모리(15080)는 DPB(decoded picture buffer)를 포함할 수 있고, 디지털 저장 매체에 의하여 구성될 수도 있다.
영상 분할부(15010)는 인코딩 장치(15000)에 입력된 입력 영상(또는, 픽쳐, 프레임)를 하나 이상의 처리 유닛(processing unit)으로 분할할 수 있다. 일 예로, 처리 유닛은 코딩 유닛(coding unit, CU)이라고 불릴 수 있다. 이 경우 코딩 유닛은 코딩 트리 유닛(coding tree unit, CTU) 또는 최대 코딩 유닛(largest coding unit, LCU)으로부터 QTBT (Quad-tree binary-tree) 구조에 따라 재귀적으로(recursively) 분할될 수 있다. 예를 들어, 하나의 코딩 유닛은 쿼드 트리 구조 및/또는 바이너리 트리 구조를 기반으로 하위(deeper) 뎁스의 복수의 코딩 유닛들로 분할될 수 있다. 이 경우 예를 들어 쿼드 트리 구조가 먼저 적용되고 바이너리 트리 구조가 나중에 적용될 수 있다. 또는 바이너리 트리 구조가 먼저 적용될 수도 있다. 더 이상 분할되지 않는 최종 코딩 유닛을 기반으로 본 발명에 따른 코딩 절차가 수행될 수 있다. 이 경우 영상 특성에 따른 코딩 효율 등을 기반으로, 최대 코딩 유닛이 바로 최종 코딩 유닛으로 사용될 수 있고, 또는 필요에 따라 코딩 유닛은 재귀적으로(recursively) 보다 하위 뎁스의 코딩 유닛들로 분할되어 최적의 사이즈의 코딩 유닛이 최종 코딩 유닛으로 사용될 수 있다. 여기서 코딩 절차라 함은 후술하는 예측, 변환, 및 복원 등의 절차를 포함할 수 있다. 다른 예로, 처리 유닛은 예측 유닛(PU: Prediction Unit) 또는 변환 유닛(TU: Transform Unit)을 더 포함할 수 있다. 이 경우 예측 유닛 및 변환 유닛은 각각 상술한 최종 코딩 유닛으로부터 분할 또는 파티셔닝될 수 있다. 예측 유닛은 샘플 예측의 단위일 수 있고, 변환 유닛은 변환 계수를 유도하는 단위 및/또는 변환 계수로부터 레지듀얼 신호(residual signal)를 유도하는 단위일 수 있다.
유닛은 경우에 따라서 블록(block) 또는 영역(area) 등의 용어와 혼용하여 사용될 수 있다. 일반적인 경우, MxN 블록은 M개의 열과 N개의 행으로 이루어진 샘플들 또는 변환 계수(transform coefficient)들의 집합을 나타낼 수 있다. 샘플은 일반적으로 픽셀 또는 픽셀의 값을 나타낼 수 있으며, 휘도(luma) 성분의 픽셀/픽셀값만을 나타낼 수도 있고, 채도(chroma) 성분의 픽셀/픽셀 값만을 나타낼 수도 있다. 샘플은 하나의 픽처(또는 영상)을 픽셀(pixel) 또는 펠(pel)에 대응하는 용어로서 사용될 수 있다.
인코딩 장치(15000)는 입력 영상 신호(원본 블록, 원본 샘플 어레이)에서 인터 예측부(15090) 또는 인트라 예측부(15100)로부터 출력된 예측 신호(예측된 블록, 예측 샘플 어레이)를 감산하여 레지듀얼 신호(residual signal, 잔여 블록, 잔여 샘플 어레이)를 생성할 수 있고, 생성된 레지듀얼 신호는 변환부(15030)로 전송된다. 이 경우 도시된 바와 같이 인코더(15000) 내에서 입력 영상 신호(원본 블록, 원본 샘플 어레이)에서 예측 신호(예측 블록, 예측 샘플 어레이)를 감산하는 유닛은 감산부(15020)라고 불릴 수 있다. 예측부는 처리 대상 블록(이하, 현재 블록이라 함)에 대한 예측을 수행하고, 현재 블록에 대한 예측 샘플들을 포함하는 예측된 블록(predicted block)을 생성할 수 있다. 예측부는 현재 블록 또는 CU 단위로 인트라 예측이 적용되는지 또는 인터 예측이 적용되는지 결정할 수 있다. 예측부는 각 예측모드에 대한 설명에서 후술하는 바와 같이 예측 모드 정보 등 예측에 관한 다양한 정보를 생성하여 엔트로피 인코딩부(15110)로 전달할 수 있다. 예측에 관한 정보는 엔트로피 인코딩부(15110)에서 인코딩되어 비트스트림 형태로 출력될 수 있다.
인트라 예측부(15100)는 현재 픽처 내의 샘플들을 참조하여 현재 블록을 예측할 수 있다. 참조되는 샘플들은 예측 모드에 따라 현재 블록의 주변(neighbor)에 위치할 수 있고, 또는 떨어져서 위치할 수도 있다. 인트라 예측에서 예측 모드들은 복수의 비방향성 모드와 복수의 방향성 모드를 포함할 수 있다. 비방향성 모드는 예를 들어 DC 모드 및 플래너 모드(Planar 모드)를 포함할 수 있다. 방향성 모드는 예측 방향의 세밀한 정도에 따라 예를 들어 33개의 방향성 예측 모드 또는 65개의 방향성 예측 모드를 포함할 수 있다. 다만, 이는 예시로서 설정에 따라 그 이상 또는 그 이하의 개수의 방향성 예측 모드들이 사용될 수 있다. 인트라 예측부(15100)는 주변 블록에 적용된 예측 모드를 이용하여, 현재 블록에 적용되는 예측 모드를 결정할 수도 있다.
인터 예측부(15090)는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 참조 블록(참조 샘플 어레이)을 기반으로, 현재 블록에 대한 예측된 블록을 유도할 수 있다. 이때, 인터 예측 모드에서 전송되는 움직임 정보의 양을 줄이기 위해 주변 블록과 현재 블록 간의 움직임 정보의 상관성에 기초하여 움직임 정보를 블록, 서브블록 또는 샘플 단위로 예측할 수 있다. 움직임 정보는 움직임 벡터 및 참조 픽처 인덱스를 포함할 수 있다. 움직임 정보는 인터 예측 방향(L0 예측, L1 예측, Bi 예측 등) 정보를 더 포함할 수 있다. 인터 예측의 경우에, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함할 수 있다. 참조 블록을 포함하는 참조 픽처와 시간적 주변 블록을 포함하는 참조 픽처는 동일할 수도 있고, 다를 수도 있다. 시간적 주변 블록은 동일 위치 참조 블록(collocated reference block), 동일 위치 CU(colCU) 등의 이름으로 불릴 수 있으며, 시간적 주변 블록을 포함하는 참조 픽처는 동일 위치 픽처(collocated picture, colPic)라고 불릴 수도 있다. 예를 들어, 인터 예측부(15090)는 주변 블록들을 기반으로 움직임 정보 후보 리스트를 구성하고, 현재 블록의 움직임 벡터 및/또는 참조 픽처 인덱스를 도출하기 위하여 어떤 후보가 사용되는지를 지시하는 정보를 생성할 수 있다. 다양한 예측 모드를 기반으로 인터 예측이 수행될 수 있으며, 예를 들어 스킵 모드와 머지 모드의 경우에, 인터 예측부(15090)는 주변 블록의 움직임 정보를 현재 블
록의 움직임 정보로 이용할 수 있다. 스킵 모드의 경우, 머지 모드와 달리 레지듀얼 신호가 전송되지 않을 수 있다. 움직임 정보 예측(motion vector prediction, MVP) 모드의 경우, 주변 블록의 움직임 벡터를 움직임 벡터 예측자(motion vector predictor)로 이용하고, 움직임 벡터 차분(motion vector difference)을 시그널링함으로써 현재 블록의 움직임 벡터를 지시할 수 있다.
인터 예측부(15090) 인트라 예측부(15100)를 통해 생성된 예측 신호는 복원 신호를 생성하기 위해 이용되거나 레지듀얼 신호를 생성하기 위해 이용될 수 있다.
변환부(15030)는 레지듀얼 신호에 변환 기법을 적용하여 변환 계수들(transform coefficients)를 생성할 수 있다. 예를 들어, 변환 기법은 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), KLT(Karhunen-Loeve Transform), GBT(Graph-Based Transform), 또는 CNT(Conditionally Non-linear Transform) 중 적어도 하나를 포함할 수 있다. 여기서, GBT는 픽셀 간의 관계 정보를 그래프로 표현한다고 할 때 이 그래프로부터 얻어진 변환을 의미한다. CNT는 이전에 복원된 모든 픽셀(all previously reconstructed pixel)를 이용하여 예측 신호를 생성하고 그에 기초하여 획득되는 변환을 의미한다. 또한, 변환 과정은 정사각형의 동일한 크기를 갖는 픽셀 블록에 적용될 수도 있고, 정사각형이 아닌 가변 크기의 블록에도 적용될 수 있다.
양자화부(15040)는 변환 계수들을 양자화하여 엔트로피 인코딩부(15110)로 전송되고, 엔트로피 인코딩부(15110)는 양자화된 신호(양자화된 변환 계수들에 관한 정보)를 인코딩하여 비트스트림으로 출력할 수 있다. 양자화된 변환 계수들에 관한 정보는 레지듀얼 정보라고 불릴 수 있다. 양자화부(15040)는 계수 스캔 순서(scan order)를 기반으로 블록 형태의 양자화된 변환 계수들을 1차원 벡터 형태로 재정렬할 수 있고, 1차원 벡터 형태의 양자화된 변환 계수들을 기반으로 양자화된 변환 계수들에 관한 정보를 생성할 수도 있다. 엔트로피 인코딩부(15110)는 예를 들어 지수 골롬(exponential Golomb), CAVLC(context-adaptive variable length coding), CABAC(context-adaptive binary arithmetic coding) 등과 같은 다양한 인코딩 방법을 수행할 수 있다. 엔트로피 인코딩부(15110)는 양자화된 변환 계수들 외 비디오/이미지 복원에 필요한 정보들(예컨대 신택스 요소들(syntax elements)의 값 등)을 함께 또는 별도로 인코딩할 수도 있다. 인코딩된 정보(ex. 인코딩된 비디오/영상 정보)는 비트스트림 형태로 NAL(network abstraction layer) 유닛 단위로 전송 또는 저장될 수 있다. 비트스트림은 네트워크를 통하여 전송될 수 있고, 또는 디지털 저장매체에 저장될 수 있다. 여기서 네트워크는 방송망 및/또는 통신망 등을 포함할 수 있고, 디지털 저장매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장매체를 포함할 수 있다. 엔트로피 인코딩부(15110)로부터 출력된 신호는 전송하는 전송부(미도시) 및/또는 저장하는 저장부(미도시)가 인코딩 장치(15000)의 내/외부 엘리먼트로서 구성될 수 있고, 또는 전송부는 엔트로피 인코딩부(15110)에 포함될 수도 있다.
양자화부(15040)로부터 출력된 양자화된 변환 계수들은 예측 신호를 생성하기 위해 이용될 수 있다. 예를 들어, 양자화된 변환 계수들에 역양자화부(15040) 및 역변환부(15060)를 통해 역양자화 및 역변환을 적용함으로써 레지듀얼 신호(레지듀얼 블록 or 레지듀얼 샘플들)를 복원할 수 있다. 가산부(155)는 복원된 레지듀얼 신호를 인터 예측부(15090) 또는 인트라 예측부(15100)로부터 출력된 예측 신호에 더함으로써 복원(reconstructed) 신호(복원 픽처, 복원 블록, 복원 샘플 어레이)가 생성될 수 있다. 스킵 모드가 적용된 경우와 같이 처리 대상 블록에 대한 레지듀얼이 없는 경우, 예측된 블록이 복원 블록으로 사용될 수 있다. 가산부(155)는 복원부 또는 복원 블록 생성부라고 불릴 수 있다. 생성된 복원 신호는 현재 픽처 내 다음 처리 대상 블록의 인트라 예측을 위하여 사용될 수 있고, 후술하는 바와 같이 필터링을 거쳐서 다음 픽처의 인터 예측을 위하여 사용될 수도 있다.
필터링부(15070)는 복원 신호에 필터링을 적용하여 주관적/객관적 화질을 향상시킬 수 있다. 예를 들어 필터링부(15070)은 복원 픽처에 다양한 필터링 방법을 적용하여 수정된(modified) 복원 픽처를 생성할 수 있고, 수정된 복원 픽처를 메모리(15080), 구체적으로 메모리(15080)의 DPB에 저장할 수 있다. 다양한 필터링 방법은 예를 들어, 디블록킹 필터링, 샘플 적응적 오프셋(sample adaptive offset), 적응적 루프 필터(adaptive loop filter), 양방향 필터(bilateral filter) 등을 포함할 수 있다. 필터링부(15070)은 각 필터링 방법에 대한 설명에서 후술하는 바와 같이 필터링에 관한 다양한 정보를 생성하여 엔트로피 인코딩부(15110)로 전달할 수 있다. 필터링 관한 정보는 엔트로피 인코딩부(15110)에서 인코딩되어 비트스트림 형태로 출력될 수 있다.
메모리(15080)에 전송된 수정된 복원 픽처는 인터 예측부(15090)에서 참조 픽처로 사용될 수 있다. 인코딩 장치는 이를 통하여 인터 예측이 적용되는 경우, 인코딩 장치(15000)와 디코딩 장치에서의 예측 미스매치를 피할 수 있고, 부호화 효율도 향상시킬 수 있다.
메모리(15080) DPB는 수정된 복원 픽처를 인터 예측부(15090)에서의 참조 픽처로 사용하기 위해 저장할 수 있다. 메모리(15080)는 현재 픽처 내 움직임 정보가 도출된(또는 인코딩된) 블록의 움직임 정보 및/또는 이미 복원된 픽처 내 블록들의 움직임 정보를 저장할 수 있다. 저장된 움직임 정보는 공간적 주변 블록의 움직임 정보 또는 시간적 주변 블록의 움직임 정보로 활용하기 위하여 인터 예측부(15090)에 전달할 수 있다. 메모리(15080)는 현재 픽처 내 복원된 블록들의 복원 샘플들을 저장할 수 있고, 인트라 예측부(15100)에 전달할 수 있다.
한편, 상술한 예측, 변환, 양자화 절차 중 적어도 하나가 생략될 수도 있다. 예를 들어, PCM(pulse coding mode)가 적용되는 블록에 대하여는 예측, 변환, 양자화 절차를 생략하고 원본 샘플의 값이 그대로 인코딩되어 비트스트림으로 출력될 수도 있다.
도16은 실시예들에 따른 V-PCC 디코딩 프로세스(decoding process)의 예시를 나타낸다.
V-PCC 디코딩 프로세스 또는 V-PCC 디코더는 도4의 V-PCC 인코딩 프로세스(또는 인코더)의 역과정을 따를 수 있다. 도16의 각 구성요소는 소프트웨어, 하드웨어, 프로세서, 및/또는 그것들의 조합에 대응할 수 있다.
디멀티플렉서(demultiplexer, 16000)는 컴프레스된 비트스트림을 디멀티플렉싱하여 컴프로스된 텍스쳐 이미지, 컴프레스된 지오메트리 이미지, 컴프레스된 오큐판시 맵, 컴프레스된 어실러리 패치 인포메이션을 출력한다.
비디오 디컴프레션(video decompression, 16001, 16002) 또는 비디오 디컴프레서는 컴프레스된 텍스쳐 이미지 및 컴프레스된 지오메트리 이미지 각각을 디컴프레션(또는 디코딩)한다.
오큐판시 맵 디컴프레션(occupancy map decompression, 16003) 또는 오큐판시 맵 디컴프레서는 컴프레스된 오큐판시 맵을 디컴프레션한다.
어실러리 패치 인포 디컴프레션(auxiliary patch infor decompression, 16004) 또는 어실러리 패치 정보 디컴프레서는 어실러리 패치 정보를 디컴프레션한다.
지오메트리 리컨스럭션(geometry reconstruction, 16005) 또는 지오메트리 리컨스트럭터는 디컴프레스된 지오메트리 이미지, 디컴프레스된 어큐판시 맵, 및/또는 디컴프레스된 어실러리 패치 정보에 기반하여 지오메트리 정보를 복원(재구성)한다. 예를 들어, 인코딩과정에서 변경된 지오메트리를 리컨스럭션할 수 있다.
스무딩(smoothing, 16006) 또는 스무더는 재구성된 지오메트리에 대해 스무딩을 적용할 수 있다. 예를 들어, 스무딩 필터링이 적용될 수 있다.
텍스쳐 리컨스럭션(texture reconstruction, 16007) 또는 텍스쳐 리컨스트럭터는 디컴프레스된 텍스쳐 이미지 및/또는 스무딩된 지오메트리로부터 텍스쳐를 재구성한다.
컬러 스무딩(color smoothing, 16008) 또는 컬러 스무더는 재구성된 텍스쳐로부터 컬러 값을 스무딩한다. 예들 들어, 스무딩 필처링이 적용될 수 있다.
그 결과, 재구성된 포인트 클라우드 데이터가 생성될 수 있다.
도면은 압축된 occupancy map, geometry image, texture image, auxiliary path information 복호화하여 point cloud를 재구성하기 위한 V-PCC의 decoding process를 도시하여 보여주고 있다. 같다. 실시예들에 따른 각 프로세스의 동작은 다음과 같다.
비디오 디컴프레션(Video decompression, 16001, 16002)
앞서 설명한 video compression의 역과정으로, HEVC, VVC 등의 2D 비디오 코덱 을 이용하여, 앞서 설명한 과정으로 생성된 geometry image, texture image, occupancy map image 등의 compressed bitstream을 복호화하는 과정이다.
도17은 실시예들에 따른 2D 비디오/이미지 디코더(2D Video/Image Decoder)의 예시를 나타낸다.
2D 비디오/이미지 디코더는 도15의 2D 비디오/이미지 인코더의 역과정을 따를 수 있다.
도17의 2D 비디오/이미지 디코더는 도16의 비디오 디컴프레션(Video decompression) 또는 비디오 디컴프레서의 실시예로서, 비디오/영상 신호의 디코딩이 수행되는 2D 비디오/이미지 디코더(17000)의 개략적인 블록도를 나타낸다. 2D 비디오/이미지 디코더(17000)는 도1의 포인트 클라우드 비디오 디코더에 포함될 수 있고, 또는 내/외부 컴포넌트로 구성될 수도 있다. 도17의 각 구성요소는 소프트웨어, 하드웨어, 프로세서 및/또는 그것들의 조합에 대응할 수 있다.
여기서 입력 비트스트림은 상술한 geometry image, texture image (attribute(s) image), occupancy map image 등에 대한 비트스트림을 포함할 수 있다. 복원 영상(또는 출력 영상, 디코딩된 영상)은 상술한 geometry image, texture image (attribute(s) image), occupancy map image에 대한 복원 영상을 나타낼 수 있다.
도면을 참조하면, 인터 예측부(17070) 및 인트라 예측부(17080)를 합쳐서 예측부라고 불릴 수 있다. 즉, 예측부는 인터 예측부(180) 및 인트라 예측부(185)를 포함할 수 있다. 역양자화부(17020), 역변환부(17030)를 합쳐서 레지듀얼 처리부라고 불릴 수 있다. 즉, 레지듀얼 처리부는 역양자화부(17020), 역변환부(17030)을 포함할 수 있다. 상술한 엔트로피 디코딩부(17010), 역양자화부(17020), 역변환부(17030), 가산부(17040), 필터링부(17050), 인터 예측부(17070) 및 인트라 예측부(17080)는 실시예에 따라 하나의 하드웨어 컴포넌트(예를 들어 디코더 또는 프로세서)에 의하여 구성될 수 있다. 또한 메모리(170)는 DPB(decoded picture buffer)를 포함할 수 있고, 디지털 저장 매체에 의하여 구성될 수도 있다.
비디오/영상 정보를 포함하는 비트스트림이 입력되면, 디코딩 장치(17000)는 도 0.2-1의 인코딩 장치에서 비디오/영상 정보가 처리된 프로세스에 대응하여 영상을 복원할 수 있다. 예를 들어, 디코딩 장치(17000)는 인코딩 장치에서 적용된 처리 유닛을 이용하여 디코딩을 수행할 수 있다. 따라서 디코딩의 처리 유닛은 예를 들어 코딩 유닛일 수 있고, 코딩 유닛은 코딩 트리 유닛 또는 최대 코딩 유닛으로부터 쿼드 트리 구조 및/또는 바이너리 트리 구조를 따라서 분할될 수 있다. 그리고, 디코딩 장치(17000)를 통해 디코딩 및 출력된 복원 영상 신호는 재생 장치를 통해 재생될 수 있다.
디코딩 장치(17000)는 인코딩 장치로부터 출력된 신호를 비트스트림 형태로 수신할 수 있고, 수신된 신호는 엔트로피 디코딩부(17010)를 통해 디코딩될 수 있다. 예를 들어, 엔트로피 디코딩부(17010)는 비트스트림을 파싱하여 영상 복원(또는 픽처 복원)에 필요한 정보(ex. 비디오/영상 정보)를 도출할 수 있다. 예컨대, 엔트로피 디코딩부(17010)는 지수 골롬 부호화, CAVLC 또는 CABAC 등의 코딩 방법을 기초로 비트스트림 내 정보를 디코딩하고, 영상 복원에 필요한 신택스 엘리먼트의 값, 레지듀얼에 관한 변환 계수의 양자화된 값 들을 출력할 수 있다. 보다 상세하게, CABAC 엔트로피 디코딩 방법은, 비트스트림에서 각 구문 요소에 해당하는 빈을 수신하고, 디코딩 대상 구문 요소 정보와 주변 및 디코딩 대상 블록의 디코딩 정보 혹은 이전 단계에서 디코딩된 심볼/빈의 정보를 이용하여 문맥(context) 모델을 결정하고, 결정된 문맥 모델에 따라 빈(bin)의 발생 확률을 예측하여 빈의 산술 디코딩(arithmetic decoding)를 수행하여 각 구문 요소의 값에 해당하는 심볼을 생성할 수 있다. 이때, CABAC 엔트로피 디코딩 방법은 문맥 모델 결정 후 다음 심볼/빈의 문맥 모델을 위해 디코딩된 심볼/빈의 정보를 이용하여 문맥 모델을 업데이트할 수 있다. 엔트로피 디코딩부(17010)에서 디코딩된 정보 중 예측에 관한 정보는 예측부(인터 예측부(17070) 및 인트라 예측부(265))로 제공되고, 엔트로피 디코딩부(17010)에서 엔트로피 디코딩이 수행된 레지듀얼 값, 즉 양자화된 변환 계수들 및 관련 파라미터 정보는 역양자화부(17020)로 입력될 수 있다. 또한, 엔트로피 디코딩부(17010)에서 디코딩된 정보 중 필터링에 관한 정보는 필터링부(17050)으로 제공될 수 있다. 한편, 인코딩 장치로부터 출력된 신호를 수신하는 수신부(미도시)가 디코딩 장치(17000)의 내/외부 엘리먼트로서 더 구성될 수 있고, 또는 수신부는 엔트로피 디코딩부(17010)의 구성요소일 수도 있다.
역양자화부(17020)에서는 양자화된 변환 계수들을 역양자화하여 변환 계수들을 출력할 수 있다. 역양자화부(17020)는 양자화된 변환 계수들을 2차원의 블록 형태로 재정렬할 수 있다. 이 경우 재정렬은 인코딩 장치에서 수행된 계수 스캔 순서를 기반하여 재정렬을 수행할 수 있다. 역양자화부(17020)는 양자화 파라미터(예를 들어 양자화 스텝 사이즈 정보)를 이용하여 양자화된 변환 계수들에 대한 역양자화를 수행하고, 변환 계수들(transform coefficient)를 획득할 수 있다.
역변환부(17030)에서는 변환 계수들를 역변환하여 레지듀얼 신호(레지듀얼 블록, 레지듀얼 샘플 어레이)를 획득하게 된다.
예측부는 현재 블록에 대한 예측을 수행하고, 현재 블록에 대한 예측 샘플들을 포함하는 예측된 블록(predicted block)을 생성할 수 있다. 예측부는 엔트로피 디코딩부(17010)로부터 출력된 예측에 관한 정보를 기반으로 현재 블록에 인트라 예측이 적용되는지 또는 인터 예측이 적용되는지 결정할 수 있고, 구체적인 인트라/인터 예측 모드를 결정할 수 있다.
인트라 예측부(265)는 현재 픽처 내의 샘플들을 참조하여 현재 블록을 예측할 수 있다. 참조되는 샘플들은 예측 모드에 따라 현재 블록의 주변(neighbor)에 위치할 수 있고, 또는 떨어져서 위치할 수도 있다. 인트라 예측에서 예측 모드들은 복수의 비방향성 모드와 복수의 방향성 모드를 포함할 수 있다. 인트라 예측부(265)는 주변 블록에 적용된 예측 모드를 이용하여, 현재 블록에 적용되는 예측 모드를 결정할 수도 있다.
인터 예측부(17070)는 참조 픽처 상에서 움직임 벡터에 의해 특정되는 참조 블록(참조 샘플 어레이)을 기반으로, 현재 블록에 대한 예측된 블록을 유도할 수 있다. 이때, 인터 예측 모드에서 전송되는 움직임 정보의 양을 줄이기 위해 주변 블록과 현재 블록 간의 움직임 정보의 상관성에 기초하여 움직임 정보를 블록, 서브블록 또는 샘플 단위로 예측할 수 있다. 움직임 정보는 움직임 벡터 및 참조 픽처 인덱스를 포함할 수 있다. 움직임 정보는 인터 예측 방향(L0 예측, L1 예측, Bi 예측 등) 정보를 더 포함할 수 있다. 인터 예측의 경우에, 주변 블록은 현재 픽처 내에 존재하는 공간적 주변 블록(spatial neighboring block)과 참조 픽처에 존재하는 시간적 주변 블록(temporal neighboring block)을 포함할 수 있다. 예를 들어, 인터 예측부(17070)는 주변 블록들을 기반으로 움직임 정보 후보 리스트를 구성하고, 수신한 후보 선택 정보를 기반으로 현재 블록의 움직임 벡터 및/또는 참조 픽처 인덱스를 도출할 수 있다. 다양한 예측 모드를 기반으로 인터 예측이 수행될 수 있으며, 예측에 관한 정보는 현재 블록에 대한 인터 예측의 모드를 지시하는 정보를 포함할 수 있다.
가산부(17040)는 획득된 레지듀얼 신호를 인터 예측부(17070) 또는 인트라 예측부(265)로부터 출력된 예측 신호(예측된 블록, 예측 샘플 어레이)에 더함으로써 복원 신호(복원 픽처, 복원 블록, 복원 샘플 어레이)를 생성할 수 있다. 스킵 모드가 적용된 경우와 같이 처리 대상 블록에 대한 레지듀얼이 없는 경우, 예측된 블록이 복원 블록으로 사용될 수 있다.
가산부(17040)는 복원부 또는 복원 블록 생성부라고 불릴 수 있다. 생성된 복원 신호는 현재 픽처 내 다음 처리 대상 블록의 인트라 예측을 위하여 사용될 수 있고, 후술하는 바와 같이 필터링을 거쳐서 다음 픽처의 인터 예측을 위하여 사용될 수도 있다.
필터링부(17050)는 복원 신호에 필터링을 적용하여 주관적/객관적 화질을 향상시킬 수 있다. 예를 들어 필터링부(17050)는 복원 픽처에 다양한 필터링 방법을 적용하여 수정된(modified) 복원 픽처를 생성할 수 있고, 수정된 복원 픽처를 메모리(17060), 구체적으로 메모리(17060)의 DPB에 전송할 수 있다. 다양한 필터링 방법은 예를 들어, 디블록킹 필터링, 샘플 적응적 오프셋(sample adaptive offset), 적응적 루프 필터(adaptive loop filter), 양방향 필터(bilateral filter) 등을 포함할 수 있다.
메모리(17060)의 DPB에 저장된 (수정된) 복원 픽처는 인터 예측부(17070)에서 참조 픽쳐로 사용될 수 있다. 메모리(17060)는 현재 픽처 내 움직임 정보가 도출된(또는 디코딩된) 블록의 움직임 정보 및/또는 이미 복원된 픽처 내 블록들의 움직임 정보를 저장할 수 있다. 저장된 움직임 정보는 공간적 주변 블록의 움직임 정보 또는 시간적 주변 블록의 움직임 정보로 활용하기 위하여 인터 예측부(17070)에 전달할 수 있다. 메모리(170)는 현재 픽처 내 복원된 블록들의 복원 샘플들을 저장할 수 있고, 인트라 예측부(17080)에 전달할 수 있다.
본 명세서에서, 인코딩 장치(100)의 필터링부(160), 인터 예측부(180) 및 인트라 예측부(185)에서 설명된 실시예들은 각각 디코딩 장치(17000)의 필터링부(17050), 인터 예측부(17070) 및 인트라 예측부(17080)에도 동일 또는 대응되도록 적용될 수 있다.
한편, 상술한 예측, 변환, 양자화 절차 중 적어도 하나가 생략될 수도 있다. 예를 들어, PCM(pulse coding mode)가 적용되는 블록에 대하여는 예측, 변환, 양자화 절차를 생략하고 디코딩된 샘플의 값이 그대로 복원 영상의 샘플로 사용될 수도 있다.
오큐판시 맵 디컴프레션(Occupancy map decompression, 16003)
앞서 설명한 occupancy map compression의 역과정으로, 압축된 occupancy map bitstream을 복호화하여 occupancy map을 복원하기 위한 과정이다.
어실러리 패치 인포 디컴프레션(Auxiliary patch info decompression, 16004)
앞서 설명한 auxiliary patch info compression의 역과정을 수행하고, 압축된 auxiliary patch info bitstream 를 복호화하여 auxiliary patch info를 복원할 수 있다.
지오메트리 리컨스럭션(Geometry reconstruction, 16005)
앞서 설명한 geometry image generation의 역과정이다. 먼저, 복원된 occupancy map 과 auxiliary patch info에 포함되는 patch의 2D 위치/크기 정보 및 block과 patch의 맵핑 정보를 이용하여 geometry image에서 patch를 추출한다. 이후 추출된 patch의 geometry image와 auxiliary patch info에 포함되는 patch의 3D 위치 정보를 이용하여 point cloud를 3차원 공간상에 복원한다. 하나의 patch내에 존재하는 임의의 점 (u, v)에 해당하는 geometry 값을 g(u, v)라 하고, patch의 3차원 공간상 위치의 normal 축, tangent 축, bitangent 축 좌표값을 (d0, s0, r0)라 할 때, 점 (u, v)에 맵핑되는 3차원 공간상 위치의 normal 축, tangent 축, bitangent 축 좌표값인 d(u, v), s(u, v), r(u, v)는 다음과 같이 나타낼 수 있다.
d(u, v) = d0 + g(u, v)
s(u, v) = s0 + u
r(u, v) = r0 + v
스무딩(Smoothing, 16006)
앞서 설명한 encoding process에서의 smoothing과 동일하며, 압축 과정에서 발생하는 화질의 열화로 인해 patch 경계면에서 발생할 수 있는 불연속성을 제거하기 위한 과정이다.
텍스쳐 리컨스럭션(Texture reconstruction, 16007)
Smoothing된 point cloud를 구성하는 각 점들에 color값을 부여하여 color point cloud를 복원하는 과정이다. 2.4에서 설명한 geometry reconstruction 과정에서의 geometry image와 point cloud의 맵핑 정보를 이용하여 2D 공간에서 geometry image에서와 동일한 위치의 texture image 픽셀에 해당되는 color 값들을, 3D 공간에서 동일한 위치에 대응되는 point cloud의 점에 부여함으로써 수행될 수 있다.
컬러 스무딩(Color smoothing, 16008)
앞서 설명한 geometry smoothing의 과정과 유사하며, 압축 과정에서 발생하는 화질의 열화로 인해 patch 경계면에서 발생할 수 있는 color 값들의 불연속성을 제거하기 위한 작업이다. 다음과 같은 과정으로 수행될 수 있다.
① K-D tree 등을 이용하여 복원된 color point cloud를 구성하는 각 점들의 인접점들을 산출한다. 2.5절에서 설명한 geometry smoothing 과정에서 산출된 인접점 정보를 그대로 이용할 수도 있다.
② 각 점들에 대하여, 해당 점이 patch 경계면에 위치하는지를 판단한다. 상술한 geometry smoothing 과정에서 산출된 경계면 정보를 그대로 이용할 수도 있다.
③ 경계면에 존재하는 점의 인접점들에 대하여, color 값의 분포를 조사하여 smoothing 여부를 판단한다. 일례로, 휘도값의 entropy가 경계 값 (threshold local entry) 이하일 경우 (유사한 휘도 값들이 많을 경우), edge가 아닌 부분으로 판단하여 smoothing을 수행할 수 있다. Smoothing의 방법으로 인접접들의 평균값으로 해당 점의 color값을 바꾸는 방법 등이 사용될 수 있다.
도18은 실시예들에 따른 송신 장치의 동작 흐름도의 예시를 나타낸다.
실시예들의 따른 송신 장치는 도1의 송신 장치, 도4의 인코딩 프로세스, 도15의 2D 비디오/이미지 인코더에 대응하거나 그것들의 동작을 일부/전부 수행할 수 있다. 송신 장치의 각 구성요소는 소프트웨어, 하드웨어, 프로세서 및/또는 그것들의 조합에 대응할 수 있다.
V-PCC를 이용한 포인트 클라우드 데이터의 압축 및 전송을 위한 송신단의 동작 과정은 도면과 같은 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 장치는 송신 장치 등으로 지칭될 수 있다.
패치 생성부(18000) 관련하여, 먼저, 포인트 클라우드(point cloud)의 2D 이미지 맵핑을 위한 패치 (patch)를 생성한다. 패치 생성의 결과물로 부가 패치 정보가 생성되며, 해당 정보는 지오메트리 이미지 (geometry image) 생성, 텍스처 이미지 (texture image) 생성, 스무딩 (smoothing)을 위한 지오메트리 복원과정에 사용될 수 있다.
패치 패킹부(18001) 관련하여, 생성된 패치들은 2D 이미지 안에 맵핑하는 패치 패킹 과정을 거치게 된다. 패치 패킹의 결과물로 오큐판시 맵 (occupancy map)을 생성할 수 있으며, 오큐판시 맵은 지오메트리 이미지 생성, 텍스처 이미지 생성, 스무딩을 위한 지오메트리 복원과정에 사용될 수 있다.
지오메트리 이미지 생성부(18002)는 부가 패치 정보와 오큐판시 맵을 이용하여 지오메트리 이미지를 생성하며, 생성된 지오메트리 이미지는 비디오 부호화를 통해 하나의 비트스트림 (bitstream)으로 부호화된다.
부호화 전처리(18003)는 이미지 패딩 절차를 포함할 수 있다. 생성된 지오메트리 이미지 또는 부호화된 지오메트리 비트스트림을 복호화하여 재생성된 지오메트리 이미지는 3차원 지오메트리 복원에 사용될 수 있고 이후 스무딩 과정을 거칠 수 있다.
텍스처 이미지 생성부(18004)는 (스무딩된) 3차원 지오메트리와 포인트 클라우드, 부가 패치 정보 및 오큐판시 맵을 이용하여 텍스처 이미지를 생성할 수 있다. 생성된 텍스처 이미지는 하나의 비디오 비트스트림으로 부호화될 수 있다.
메타데이터 부호화부(18005)는 부가 패치 정보를 하나의 메타데이터 비트스트림으로 부호화할 수 있다.
비디오 부호화부(18006)는 오큐판시 맵을 하나의 비디오 비트스트림으로 부호화할 수 있다.
다중화부(18007)는 생성된 지오메트리, 텍스처 이미지, 오큐판시 맵의 비디오 비트스트림과 부가 패치 정보 메타데이터 비트스트림은 하나의 비트스트림으로 다중화한다.
송신부(18008)는 비트스트림을 수신단에 전송될 수 있다. 또는 생성된 지오메트리, 텍스처 이미지, 오큐판시 맵의 비디오 비트스트림과 부가 패치 정보 메타데이터 비트스트림은 하나 이상의 트랙 데이터로 파일이 생성되거나 세그먼트로 인캡슐레이션 되어 송신부를 통해 수신단에 전송 될 수 있다.
도19는 실시예들에 따른 수신 장치의 동작 흐름도의 예시를 나타낸다.
실시예들에 따른 수신 장치는 도1의 수신 장치, 도16의 디코딩 프로세스, 도17의 2D 비디오/이미지 인코더에 대응하거나 그것들의 동작을 일부/전부 수행할 수 있다. 수신 장치의 각 구성요소는 소프트웨어, 하드웨어, 프로세서 및/또는 그것들의 조합에 대응할 수 있다.
V-PCC를 이용한 포인트 클라우드 데이터의 수신 및 복원을 위한 수신단의 동작 과정은 도면과 같은 수 있다. V-PCC 수신단의 동작은 도18의 V-PCC 송신단의 동작의 역과정을 따를 수 있다.
실시예들에 따른 포인트 클라우드 데이터 수신 장치는 수신 장치 등으로 지칭될 수 있다.
수신된 포인트 클라우드의 비트스트림은 파일/세그먼트 디캡슐레이션 후 압축된 지오메트리 이미지, 텍스처 이미지, 오큐판시 맵의 비디오 비트스트림들과 부가 패치 정보 메테데이터 비트스트림으로 역다중화부(19000)에 의해 역다중화된다. 비디오 복호화부(19001)와 메타데이터 복호화부(19002)는 역다중화된 비디오 비트스트림들과 메타데이터 비트스트림을 복호화한다. 지오메트리 복원부(19003)에 의해 복호화된 지오메트리 이미지와 오큐판시 맵 및 부가 패치 정보를 이용하여 3차원 지오메트리가 복원되며 이후 스무더(19004)에 의한 스무딩 과정을 거친다. 스무딩된 3차원 지오메트리에 텍스처 이미지를 이용하여 컬러값을 부여함으로써 컬러 포인트 클라우드 영상/픽처가 텍스쳐 복원부(19005)에 의해 복원될 수 있다. 이후 객관적/주관적 비주얼 퀄리티 향상을 위하여 컬러 스무딩 (color smoothing)과정을 추가적으로 수행할 수 있으며, 이를 통하여 도출된 수정된(modified) 포인트 클라우드 영상/픽처는 렌더링 과정을 통하여(ex. by 포인트 클라우드 렌더러)를 통해 사용자에게 보여진다. 한편, 컬러 스무딩 과정은 경우에 따라 생략될 수 있다.
도20은 실시예들에 따른 V-PCC 기반 포인트 클라우드 데이터 저장 및 스트리밍을 위한 아키텍쳐의 예시를 나타낸다.
도20의 시스템의 일부/전부는 도1의 송수신 장치, 도4의 인코딩 프로세스, 도15의 2D 비디오/이미지 인코더, 도16의 디코딩 프로세스, 도18의 송신 장치, 및/또는 도19의 수신 장치 등의 일부/전부를 포함할 수 있다. 도면의 각 구성요소는 소프트웨어, 하드웨어, 프로세서 및/또는 그것들의 조합에 대응할 수 있다.
도면은Video-based Point Cloud Compression(V-PCC) 를 기반으로 압축되는 point cloud 데이터를 저장 혹은 스트리밍을 위한 전체 아키텍쳐를 도시한 도면이다. Point cloud 데이터 저장 및 스트리밍의 과정은 획득 과정, 인코딩 과정, 전송 과정, 디코딩 과정, 랜더링 과정 및/또는 피드백 과정을 포함할 수 있다.
실시예들은point cloud 미디어/콘텐츠/데이터를 효과적으로 제공하는 방안을 제안한다.
포인트 클라우드 획득부(20000)는 Point cloud 미디어/콘텐츠/데이터를 효과적으로 제공하기 위하여 먼저, point cloud 비디오를 획득한다. 예를 들어 하나 이상의 카메라를 통하여 Point Cloud의 캡처, 합성 또는 생성 과정 등을 통한 Point Cloud 데이터를 획득할 수 있다. 이러한 획득 과정에 의해 각 포인트의 3D 위치(x, y, z 위치 값 등으로 나타낼 수 있다. 이하 이를 지오메트리라고 일컫는다), 각 포인트의 속성 (color, reflectance, transparency 등)을 포함하는 point cloud 비디오를 획득할 수 있으며 이를 포함하는, 예를 들어, PLY(Polygon File format or the Stanford Triangle format) 파일 등으로 생성 될 수 있다. 여러 개의 프레임을 갖는 point cloud 데이터의 경우 하나 이상의 파일들이 획득될 수 있다. 이러한 과정에서 point cloud 관련 메타데이터 (예를 들어 캡처 등과 관련된 메타데이터 등)가 생성될 수 있다.
캡쳐된 Point Cloud 비디오는 콘텐츠의 질을 향상시키기 위한 후처리가 필요할 수 있다. 영상 캡쳐 과정에서 카메라 장비가 제공하는 범위에서 최대/최소 깊이 값을 조정할 수 있지만 그 이후에도 원하지 않는 영역의 points 데이터들이 포함될 수 있어서 원하지 않는 영역(예, 배경)을 제거 한다거나, 또는 연결된 공간을 인식하고 구멍(spatial hole)을 메우는 후처리를 수행할 수 있다. 또한 공간 좌표계를 공유하는 카메라들로부터 추출된 Point Cloud는 캘리브레이션 과정을 통해 획득된 각 카메라의 위치 좌표를 기준으로 각 point들에 대한 글로벌 좌표계로의 변환 과정을 통해 하나의 콘텐츠로 통합될 수 있다. 이를 통해point들의 밀도가 높은 Point Cloud 비디오를 획득할 수도 있다.
Point Cloud 전처리부(point cloud pre-processing, 20001) 는 point cloud 비디오를 하나 이상의 픽처(picture)/프레임(frame)을 생성할 수 있다. 여기서 픽처(picture)/프레임(frame)은 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미할 수 있다. Point cloud 비디오를 구성하는 점들을 하나 이상의 패치(point cloud를 구성하는 점들의 집합으로, 같은 patch에 속하는 점들은 3차원 공간상에서 서로 인접해 있으며 2D 이미지로의 맵핑 과정에서 6면의 bounding box 평면 중 같은 방향으로 맵핑되는 점들의 집합)로 나누어2D 평면에 맵핑할 때 2D 평면의 해당 위치에 데이터가 존재하는 여부를 0 또는 1의 값으로 알려주는 2진 맵 (binary map) 인어큐판시(occupancy) 맵 픽처/프레임을 생성할 수 있다. 그리고 Point Cloud 비디오를 이루는 각 점들의 위치 정보 (geometry)를 패치 단위로 표현하는 depth map 형태의 픽처/프레임인 지오메트리 픽처/프레임을 생성할 수 있다. Point cloud 비디오를 이루는 각 점들의 색상 정보를 패치 단위로 표현하는 픽처/프레임인 텍스처 픽츠/프레임을 생성할 수 있다.이러한 과정에서 개별 패치들로부터 point cloud를 재구성하기 위해 필요한 메타데이터가 생성될 수 있으며 이는 각 패치의2D/3D 공간에서의 위치, 크기 등 패치에 대한 정보를 포함할 수 있다. 이러한 픽처/프레임들이 시간순으로 연속적으로 생성되어 비디오 스트림 혹은 메타데이터 스트림을 구성할 수 있다.
Point Cloud 비디오 인코더(20002)는Point Cloud 비디오와 연관된 하나 이상의 비디오 스트림으로 인코딩할 수 있다. 하나의 비디오는 다수의 프레임을 포함할 수 있으며, 하나의 프레임은 정지 영상/픽처에 대응될 수 있다. 본 문서에서, Point Cloud 비디오라 함은 Point Cloud 영상/프레임/픽처를 포함할 수 있으며, Point Cloud 비디오는 Point Cloud 영상/프레임/픽처와 혼용되어 사용될 수 있다. Point Cloud 비디오 인코더는 Video-based Point Cloud Compression (V-PCC) 절차를 수행할 수 있다. Point Cloud 비디오 인코더는 압축 및 코딩 효율을 위하여 예측, 변환, 양자화, 엔트로피 코딩 등의 일련의 절차를 수행할 수 있다. 인코딩된 데이터(인코딩된 비디오/영상 정보)는 비트스트림(bitstream) 형태로 출력될 수 있다. V-PCC 절차에 기반하는 경우 Point Cloud 비디오 인코더는 Point Cloud 비디오를 후술하는 바와 같이 지오메트리 비디오, 어트리뷰트(attribute) 비디오, 어큐판시(occupancy) 맵 비디오, 그리고 메타데이터, 예를 들어 패치에 대한 정보로 나누어 인코딩할 수 있다. 지오메트리 비디오는 지오메트리 이미지를 포함할 수 있고, 어트리뷰트(attribute) 비디오는 어트리뷰트 이미지를 포함할 수 있고, 어큐판시(occupancy) 맵 비디오는 어큐판시 맵 이미지를 포함할 수 있다. 부가 정보인 패치 데이터는 패치 관련 정보를 포함할 수 있다. 어트리뷰트 비디오/이미지는 텍스쳐 비디오/이미지를 포함할 수 있다.
Point Cloud 이미지 인코더(20003)는Point Cloud 비디오와 연관된 하나 이상의 이미지로 인코딩할 수 있다. Point Cloud이미지인코더는 Video-based Point Cloud Compression (V-PCC) 절차를 수행할 수 있다. Point Cloud이미지 인코더는 압축 및 코딩 효율을 위하여 예측, 변환, 양자화, 엔트로피 코딩 등의 일련의 절차를 수행할 수 있다. 인코딩된 이미지는 비트스트림(bitstream) 형태로 출력될 수 있다. V-PCC 절차에 기반하는 경우 Point Cloud이미지 인코더는 Point Cloud 이미지를 후술하는 바와 같이 지오메트리 이미지, 어트리뷰트(attribute) 이미지, 어큐판시(occupancy) 맵 이미지, 그리고 메타데이터, 예를 들어 패치에 대한 정보로 나누어 인코딩할 수 있다.
실시예들에 따른 포인트 클라우드 비디오 인코더 및/또는 포인트 클라우드 이미지 인코더는 실시예들에 따른 PCC 비트스트림(G-PCC 및/또는 V-PCC 비트스트림)을 생성할 수 있다.
실시예들에 따라, 비디오 인코더(2002), 이미지 인코더(20002), 비디오 디코딩(20006), 이미지 디코딩은 상술한 바와 같이 하나의 인코더/디코더에 의해 수행될 수 있고, 도면과 같이 별개의 경로로 수행될 수 있다.
인캡슐레이션(file/segment encapsulation, 20004)는 인코딩된 Point cloud데이터 및/또는 Point cloud관련 메타데이터를 파일 또는 스트리밍을 위한 세그먼트 등의 형태로 인캡슐레이션할 수 있다. 여기서 Point cloud 관련 메타데이터는 메타데이터 처리부 등으로부터 전달받은 것일 수 있다. 메타데이터 처리부는 point cloud 비디오/이미지 인코더에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 인캡슐레이션 처리부는 해당 비디오/이미지/메타데이터를 ISOBMFF 등의 파일 포맷으로 인캡슐레이션하거나, DASH 세그먼트 등의 형태로 처리할 수 있다. 인캡슐레이션 처리부는 실시 예에 따라 Point cloud관련 메타데이터를 파일 포맷 상에 포함시킬 수 있다. Point cloud 메타데이터는 예를 들어 ISOBMFF 파일 포맷 상의 다양한 레벨의 박스(box)에 포함되거나 파일 내에서 별도의 트랙내의 데이터로 포함될 수 있다. 실시 예에 따라, 인캡슐레이션 처리부는 Point cloud관련 메타데이터 자체를 파일로 인캡슐레이션할 수 있다.
실시예들에 따른 인캡슐레이션 또는 인캡슐레이터는 G-PCC/V-PCC 비트스트림을 파일 내 하나 혹은 복수 개의 트랙으로 분할 저장하고, 이를 위한 시그널링 정보도 함께 인캡슐레이팅할 수 있다. 또한, G-PCC/V-PCC 비트스트림 상에 포함되어 있는 atlas 스트림을 파일 내 트랙으로 저장하고, 관련 시그널링 정보를 저장할 수 있다. 나아가, G-PCC/V-PCC 비트스트림 상에 존재하는 SEI 메시지를 파일 내 트랙 내 저장하고, 관련 시그널링 정보를 저장할 수 있다.
전송 처리부는 파일 포맷에 따라 인캡슐레이션된 Point cloud데이터에 전송을 위한 처리를 가할 수 있다. 전송 처리부는 전송부에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 전송 처리부는 임의의 전송 프로토콜에 따라 Point cloud데이터를 처리할 수 있다. 전송을 위한 처리에는 방송망을 통한 전달을 위한 처리, 브로드밴드를 통한 전달을 위한 처리를 포함할 수 있다. 실시 예에 따라 전송 처리부는 Point cloud 데이터 뿐 아니라, 메타데이터 처리부로부터 Point cloud 관련 메타데이터를 전달받아, 이 것에 전송을 위한 처리를 가할 수도 있다.
전송부는 point cloud 비트스트림 혹은 해당 비트스트림을 포함하는 파일/세그먼트를 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스의 수신부로 전달할 수 있다. 전송을 위해 임의의 전송 프로토콜에 따른 처리가 수행될 수 있다. 전송을 위한 처리를 마친 데이터들은 방송망 및/또는 브로드밴드를 통해 전달될 수 있다. 이 데이터들은 온 디맨드(On Demand) 방식으로 수신측으로 전달될 수도 있다.디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다. 전송부는 미리 정해진 파일 포멧을 통하여 미디어 파일을 생성하기 위한 엘리먼트를 포함할 수 있고, 방송/통신 네트워크를 통한 전송을 위한 엘레멘트를 포함할 수 있다. 수신부는 비트스트림을 추출하여 디코딩 장치로 전달할 수 있다.
수신부는 본 발명에 따른 point cloud 데이터 전송 장치가 전송한 point cloud 데이터를 수신할 수 있다. 전송되는 채널에 따라 수신부는 방송망을 통하여 point cloud데이터를 수신할 수도 있고, 브로드밴드를 통하여 point cloud데이터를 수신할 수도 있다. 혹은 디지털 저장 매체를 통하여 point cloud 비디오 데이터를 수신할 수도 있다. 수신부는 수신한 데이터를 디코딩 하고 이를 사용자의 뷰포트 등에 따라 랜더링하는 과정을 포함할 수 있다.
수신 처리부는 수신된 point cloud비디오 데이터에 대해 전송 프로토콜에 따른 처리를 수행할 수 있다. 수신 처리부는 수신부에 포함될 수 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 전송측에서 전송을 위한 처리가 수행된 것에 대응되도록, 수신 처리부는 전술한 전송 처리부의 역과정을 수행할 수 있다. 수신 처리부는 획득한 point cloud 비디오를 디캡슐레이션 처리부로 전달하고, 획득한 point cloud 관련 메타데이터는 메타데이터 파서로 전달할 수 있다.
디캡슐레이션 처리부(file/segment decapsulation, 20005)는 수신 처리부로부터 전달받은 파일 형태의 point cloud데이터를 디캡슐레이션할 수 있다. 디캡슐레이션 처리부는 ISOBMFF 등에 따른 파일들을 디캡슐레이션하여, point cloud비트스트림 내지 point cloud 관련 메타데이터(혹은 별도의 메타데이터 비트스트림)를 획득할 수 있다. 획득된 point cloud비트스트림은 point cloud디코더로, 획득된 point cloud관련 메타데이터(혹은 메타데이터 비트스트림)는 메타데이터 처리부로 전달할 수 있다. point cloud비트스트림은 메타데이터(메타데이터 비트스트림)를 포함할 수도 있다. 메타데이터 처리부는 point cloud 비디오 디코더에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 디캡슐레이션 처리부가 획득하는 point cloud관련 메타데이터는 파일 포맷 내의 박스 혹은 트랙 형태일 수 있다. 디캡슐레이션 처리부는 필요한 경우 메타데이터 처리부로부터 디캡슐레이션에 필요한 메타데이터를 전달받을 수도 있다. point cloud관련 메타데이터는 point cloud디코더에 전달되어 point cloud디코딩 절차에 사용될 수도 있고, 또는 렌더러에 전달되어 point cloud렌더링 절차에 사용될 수도 있다.
Point Cloud 비디오 디코더(20006)는 비트스트림을 입력받아 Point Cloud 비디오 인코더의 동작에 대응하는 동작을 수행하여 비디오/영상을 디코딩할 수 있다. 이 경우 Point Cloud 비디오 디코더는 Point Cloud 비디오를 후술하는 바와 같이 지오메트리 비디오, 어트리뷰트(attribute) 비디오, 어큐판시(occupancy) 맵 비디오, 그리고 부가적인 패치 관련 정보(auxiliary patch information )으로 나누어 디코딩할 수 있다. 지오메트리 비디오는 지오메트리 이미지를 포함할 수 있고, 어트리뷰트(attribute) 비디오는 어트리뷰트 이미지를 포함할 수 있고, 어큐판시(occupancy) 맵 비디오는 어큐판시 맵 이미지를 포함할 수 있다. 부가 정보는 부가 패치 정보(auxiliary patch information)를 포함할 수 있다. 어트리뷰트 비디오/이미지는 텍스쳐 비디오/이미지를 포함할 수 있다.
디코딩된 지오메트리 이미지와 오큐판시 맵 및 부가 패치 정보를 이용하여 3차원 지오메트리가 복원되며 이후 스무딩 과정을 거칠 수 있다. 스무딩된 3차원 지오메트리에 텍스처 이미지를 이용하여 컬러값을 부여함으로써 컬러 포인트 클라우드 영상/픽처가 복원될 수 있다. 렌더러는 복원된 지오메트리, 컬러 포인트 클라우드 영상/픽처를렌더링할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다. 사용자는 VR/AR 디스플레이 또는 일반 디스플레이 등을 통하여 렌더링 된 결과의 전부 또는 일부 영역을 볼 수 있다.
센싱/트랙킹부(Sensing/Tracking, 20007)는 사용자 또는 수신측로부터 오리엔테이션 정보 및/또는 사용자 뷰포트 정보를 획득하여 수신부 및/또는 송신부에 전달한다. 오리엔테이션 정보는 사용자의 머리 위치, 각도, 움직임 등에 대한 정보를 나타내거나 혹은 사용자가 보고 있는 장치의 위치, 각도, 움직임 등에 대한 정보를 나타낼 수 있다. 이 정보를 기반으로 사용자가 현재 3차원 공간 상에서 보고 있는 영역에 대한 정보, 즉 뷰포트 정보가 계산될 수 있다.
뷰포트 정보는 현재 사용자가 3차원 공간 상에서 디바이스 혹은 HMD 등을 통하여 보고 있는 영역에 대한 정보일 수 있다. 디스플레이 등의 장치는 오리엔테이션 정보, 장치가 지원하는 수직(vertical) 혹은 수평(horizontal) FOV 등에 근거하여 뷰포트 영역을 추출할 수 있다. 오리엔테이션 혹은 뷰포트 정보는 수신측에서 추출 혹은 계산될 수 있다. 수신측에서 분석된 오리엔테이션 혹은 뷰포트 정보는 송신측으로 피드백 채널을 통해 전달될 수도 있다.
수신부는 센싱/트랙킹부에 의해 획득된 오리엔테이션 정보 및/또는사용자가 현재 보고 있는 영역을 나타내는뷰포트 정보를 사용하여 특정 영역, 즉 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 영역의 미디어 데이터만 효율적으로 파일에서 추출하거나 디코딩할 수 있다. 또한, 송신부는 센싱/트랙부에 의해 획득된 오리엔테이션 정보 및/또는 뷰포트 정보를 사용하여 특정 영역, 즉 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 영역의 미디어 데이터만 효율적으로 인코딩하거나 파일 생성 및 전송할 수 있다.
렌더러는 3차원 공간 상에 디코딩된 Point Cloud 데이터를 렌더링 할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다. 사용자는 VR/AR 디스플레이 또는 일반 디스플레이 등을 통하여 렌더링 된 결과의 전부 또는 일부 영역을 볼 수 있다.
피드백 과정은 렌더링/디스플레이 과정에서 획득될 수 있는 다양한 피드백 정보들을 송신측으로 전달하거나 수신측의 디코더에 전달하는 과정을 포함할 수 있다. 피드백 과정을 통해 Point Cloud 데이터 소비에 있어 인터랙티비티(interactivity)가 제공될 수 있다. 실시예에 따라, 피드백 과정에서 헤드 오리엔테이션(Head Orientation) 정보, 사용자가 현재 보고 있는 영역을 나타내는 뷰포트(Viewport) 정보 등이 전달될 수 있다. 실시 예에 따라, 사용자는 VR/AR/MR/자율주행 환경 상에 구현된 것들과 상호작용 할 수도 있는데, 이 경우 그 상호작용과 관련된 정보가 피드백 과정에서 송신측 내지 서비스 프로바이더 측으로 전달될 수도 있다. 실시 예에 따라 피드백 과정은 수행되지 않을 수도 있다.
실시예에 따라 전술한 피드백 정보는 송신측으로 전달되는 것 뿐아니라, 수신측에서 소비될 수도 있다. 즉, 전술한 피드백 정보를 이용하여 수신측의 디캡슐레이션 처리, 디코딩, 렌더링 과정 등이 수행될 수 있다. 예를 들어, 오리엔테이션 정보 및/또는 뷰포트 정보를 이용하여 현재 사용자가 보고 있는 영역에 대한 point cloud 데이터가 우선적으로 디캡슐레이션, 디코딩 및 렌더링될 수도 있다.
도21은 실시예들에 따른 포인트 클라우드 데이터 저장 및 전송 장치의 구성도의 예시를 나타낸다.
도21은 실시예들에 따른 포인트 클라우드 시스템을 나타내고, 시스템의 일부/전부는 도1의 송수신 장치, 도4의 인코딩 프로세스, 도15의 2D 비디오/이미지 인코더, 도16의 디코딩 프로세스, 도18의 송신 장치, 및/또는 도19의 수신 장치 등의 일부/전부를 포함할 수 있다. 또한, 도20의 시스템의 일부/전부에 포함되거나 대응될 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 장치는 도면과 같이 구성될 수 있다. 전송 장치의 각 구성은 모듈/유닛/컴포넌트/하드웨어/소프트웨어/프로세서 등일 수 있다.
Point cloud 의 geometry, attribute, auxiliary data, mesh data 등은 각각 별도의 스트림으로 구성되거나 혹은 파일 내 각각 다른 트랙에 저장될 수 있다. 더 나아가 별도의 세그먼트에 포함될 수 있다.
Point Cloud 획득부(Point Cloud Acquisition, 21000)은 point cloud 를 획득한다. 예를 들어 하나 이상의 카메라를 통하여 Point Cloud의 캡쳐, 합성 또는 생성 과정 등을 통한 Point Cloud 데이터를 획득할 수 있다. 이러한 획득 과정에 의해 각 포인트의 3D 위치(x, y, z 위치 값 등으로 나타낼 수 있다. 이하 이를 지오메트리라고 일컫는다), 각 포인트의 속성 (color, reflectance, transparency 등)을 포함하는 point cloud 데이터를 획득할 수 있으며 이를 포함하는, 예를 들어, PLY(Polygon File format or the Stanford Triangle format) 파일 등으로 생성 될 수 있다. 여러 개의 프레임을 갖는 point cloud 데이터의 경우 하나 이상의 파일들이 획득될 수 있다. 이러한 과정에서 point cloud 관련 메타데이터 (예를 들어 캡처 등과 관련된 메타데이터 등)가 생성될 수 있다.
패치 제너레이션(Patch Generation, 21002) 또는 패치 제너레이터는 포인트 클라우드 데이터로부터 패치를 생성한다. 패치 제너레이터는 포인트 클라우드 데이터 또는 포인트 클라우드 비디오를 하나 이상의 픽처(picture)/프레임(frame)으로 생성한다. 픽처(picture)/프레임(frame)은 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미할 수 있다. Point cloud 비디오를 구성하는 점들을 하나 이상의 패치(point cloud를 구성하는 점들의 집합으로, 같은 patch에 속하는 점들은 3차원 공간상에서 서로 인접해 있으며 2D 이미지로의 맵핑 과정에서 6면의 bounding box 평면 중 같은 방향으로 맵핑되는 점들의 집합)로 나누어2D 평면에 맵핑할 때 2D 평면의 해당 위치에 데이터가 존재하는 여부를 0 또는 1의 값으로 알려주는 2진 맵 (binary map) 인 어큐판시(occupancy) 맵 픽처/프레임을 생성할 수 있다. 그리고 Point Cloud 비디오를 이루는 각 점들의 위치 정보 (geometry)를 패치 단위로 표현하는 depth map 형태의 픽처/프레임인 지오메트리 픽처/프레임을 생성할 수 있다. Point cloud 비디오를 이루는 각 점들의 색상 정보를 패치 단위로 표현하는 픽처/프레임인 텍스처 픽처/프레임을 생성할 수 있다.이러한 과정에서 개별 패치들로부터 point cloud를 재구성하기 위해 필요한 메타데이터가 생성될 수 있으며 이는 각 패치의2D/3D 공간에서의 위치, 크기 등 패치에 대한 정보를 포함할 수 있다. 이러한 픽처/프레임들이 시간순으로 연속적으로 생성되어 비디오 스트림 혹은 메타데이터 스트림을 구성할 수 있다.
또한, 패치는 2D 이미지 맵핑을 위해 사용될 수 있다. 예를 들어, 포인트 클라우드 데이터가 정육면체의 각 면에 프로젝션될 수 있다. 패치 제너레이션 후, 생성된 패치를 기반으로 지오메트리 이미지, 하나 또는 하나 이상의 어트리뷰트 이미지, 어큐판시 맵, Auxiliary 데이터 및/또는 Mesh 데이터 등이 생성될 수 있다.
프리-프로세서 또는 제어부(controller)에 의해 지오메트리 이미지 제너레이션(Geometry Image Generation), 어트리뷰트 이미지 제너레이션(Attribute Image Generation), 어큐판시 맵 제너레이션(Occupancy Map Generation), Auxiliary 데이터 제너레이션(Auxiliary Data Generation) 및/또는 Mesh 데이터 제너레이션(Mesh Data Generation)이 수행된다.
지오메트리 이미지 제너레이션(Geometry Image Generation, 21002)은 패치 제너레이션의 결과물에 기반하여 지오메트리 이미지를 생성한다. 지오메트리는 3차원 공간상의 포인트를 나타낸다. 패치에 기반하여 패치의 2D이미지 패킹에 관련된 정보를 포함하는 어큐판시 맵, Auxiliary 데이터(패치 데이터) 및/또는 Mesh 데이터 등을 사용하여, 지오메트리 이미지가 생성된다. 지오메트리 이미지는 패치 제너레이션 후 생성된 패치에 대한 뎁스(e.g., near, far) 등의 정보와 관련된다.
어트리뷰트 이미지 제너레이션(Attribute Image Generation, 21003)은 어트리뷰트 이미지를 생성한다. 예를 들어, 어트리뷰트는 텍스쳐(Texture)를 나타낼 수 있다. 텍스쳐는 각 포인트에 매칭되는 컬러 값일 수 있다. 실시예들에 따라서, 텍스쳐를 포함한 복수 개(N개)의 어트리뷰트(color, reflectance 등의 속성) 이미지가 생성될 수 있다. 복수 개의 어트리뷰트는 머터리얼 (재질에 대한 정보), 리플렉턴스 등을 포함할 수 있다. 또한, 실시예들에 따라 어트리뷰트는 같은 텍스쳐라도 시각, 빛에 의해 컬러가 달라질 수 있는 정보를 추가적으로 포함할 수 있다.
어큐판시 맵 제너레이션(Occupancy Map Generation, 21004)은 패치로부터 어큐판시 맵을 생성한다. 어큐판시 맵은 해당 지오메트리 혹은 에트리뷰트 이미지 등의 픽셀에 데이터의 존재 유무를 나타내는 정보를 포함한다.
Auxiliary 데이터 제너레이션(Auxiliary Data Generation, 21005)은 패치에 대한 정보를 포함하는Auxiliary 데이터를 생성한다. 즉, Auxiliary 데이터는 Point Cloud객체의 패치에 관한 메타데이터를 나타낸다. 예를 들어, 패치에 대한 노멀(normal) 벡터 등의 정보를 나타낼 수 있다. 구체적으로, 실시예들에 따라 Auxiliary 데이터는 패치들로부터 포인트 클라우드를 재구성하기 위해서 필요한 정보를 포함할 수 있다(예를 들어, 패치의 2D/3D 공간 상 위치, 크기 등에 대한 정보, 프로젝션 평명(normal) 식별 정보, 패치 매핑 정보 등)
Mesh 데이터 제너레이션(Mesh Data Generation, 21006)은 패치로부터 Mesh 데이터를 생성한다. Mesh 는 인접한 포인트 들간의 연결정보를 나타낸다. 예를 들어, 삼각형 형태의 데이터를 나타낼 수 있다. 예를 들어, 실시예들에 따른 Mesh 데이터는 각 포인트 간의커넥티비티(connectivity) 정보를 의미한다.
포인트 클라우드 프리-프로세서 또는 제어부는 패치 제너레이션, 지오메트리 이미지 제너레이션, 어트리뷰트 이미지 제너레이션, 어큐판시 맵 제너레이션, Auxiliary 데이터 제너레이션, Mesh 데이터 제너레이션에 관련된 메타데이터(Metadata)를 생성한다.
포인트 클라우드 전송 장치는 프리-프로세서에서 생성된 결과물에 대응하여 비디오 인코딩 및/또는 이미지 인코딩을 수행한다. 포인트 클라우드 전송 장치는 포인트 클라우드 비디오 데이터뿐만 아니라 포인트 클라우드 이미지 데이터를 생성할 수 있다.실시예들에 따라 포인트 클라우드 데이터는 오직 비디오 데이터, 오직 이미지 데이터 및/또는 비디오 데이터 및 이미지 데이터 둘 다를 포함하는 경우가 있을 수 있다.
비디오 인코딩부(21007)는 지오메트리 비디오 컴프레션, 어트리뷰트 비디오 컴프레션, 어큐판시 맵 컴프레션, Auxiliary 데이터 컴프레션 및/또는 Mesh 데이터 컴프레션을 수행한다. 비디오 인코딩부는 각 인코딩된 비디오 데이터를 포함하는 비디오 스트림(들)을 생성한다.
구체적으로, 지오메트리 비디오 컴프레션은 point cloud 지오메트리 비디오 데이터를 인코딩한다. 어트리뷰트 비디오 컴프레션은 point cloud 의 어트리뷰트 비디오 데이터를 인코딩한다. Auxiliary 데이터 컴프레션은 point cloud 비디오 데이터와 연관된 Auxiliary 데이터를 인코딩한다. Mesh 데이터 컴프레션(Mesh data compression)은 Point Cloud 비디오 데이터의 Mesh 데이터를 인코딩한다. 포인트 클라우드 비디오 인코딩부의 각 동작은 병렬적으로 수행될 수 있다.
이미지 인코딩부(21008)는 지오메트리 이미지 컴프레션, 어트리뷰트 이미지 컴프레션, 어큐판시 맵 컴프레션, Auxiliary 데이터 컴프레션 및/또는 Mesh 데이터 컴프레션을 수행한다. 이미지 인코딩부는 각 인코딩된 이미지 데이터를 포함하는 이미지(들)을 생성한다.
구체적으로, 지오메트리 이미지 컴프레션은 point cloud 지오메트리 이미지 데이터를 인코딩한다. 어트리뷰트 이미지 컴프레션은 point cloud 의 어트리뷰트 이미지 데이터를 인코딩한다. Auxiliary 데이터 컴프레션은 point cloud 이미지 데이터와 연관된 Auxiliary 데이터를 인코딩한다. Mesh 데이터 컴프레션(Mesh data compression)은 point cloud 이미지 데이터와 연관된 Mesh 데이터를 인코딩한다. 포인트 클라우드 이미지 인코딩부의 각 동작은 병렬적으로 수행될 수 있다.
비디오 인코딩부 및/또는 이미지 인코딩부는 프리-프로세서로부터 메타데이터를 수신할 수 있다. 비디오 인코딩부 및/또는 이미지 인코딩부는 메타데이터에 기반하여 각 인코딩 과정을 수행할 수 있다.
파일/세그먼트 인캡슐레이션(File/Segment Encapsulation, 21009)부는 비디오 스트림(들) 및/또는 이미지(들)을 파일 및/또는 세그먼트의 형태로 인캡슐레이션한다. 파일/세그먼트 인캡슐레이션부는 비디오 트랙 인캡슐레이션, 메타데이터 트랙 인캡슐레이션 및/또는 이미지 인캡슐레이션을 수행한다.
비디오 트랙 인캡슐레이션은 하나 또는 하나 이상의 비디오 스트림을 하나 또는 하나 이상의 트랙에 인캡슐레이션할 수 있다.
메타데이터 트랙 인캡슐레이션은 비디오 스트림 및/또는 이미지에 관련된 메타데이터를 하나 또는 하나 이상의 트랙에 인캡슐레이션할 수 있다. 메타데이터는 포인트 클라우드 데이터의 컨텐츠에 관련된 데이터를 포함한다. 예를 들어, 이니셜 뷰잉 오리엔테이션 메타데이터(Initial Viewing Orientation Metadata)를 포함할 수 있다. 실시예들에 따라 메타데이터는 메타데이터 트랙에 인캡슐레이션 될 수 있고, 또는 비디오 트랙이나 이미지 트랙에 함께 인캡슐레이션될 수 있다.
이미지 인캡슐레이션은 하나 또는 하나 이상의 이미지들을 하나 또는 하나 이상의 트랙 혹은 아이템에 인캡슐레이션할 수 있다.
예를 들어,실시예들에 따라 비디오 스트림이 4개 및 이미지가 2개를 인캡슐레이션부에 입력되는 경우, 4개의 비디오 스트림 및 2개의 이미지를 하나의 파일 안에 인캡슐레이션할 수 있다.
실시예들에 따른 포인트 클라우드 비디오 인코더 및/또는 포인트 클라우드 이미지 인코더는 실시예들에 따른 G-PCC/V-PCC 비트스트림을 생성할 수 있다.
파일/세그먼트 인캡슐레이션부는 프리-프로세서로부터 메타데이터를 수신할 수 있다. 파일/세그먼트 인캡슐레이션부는 메타데이터에 기반하여 인캡슐레이션을 할 수 있다.
파일/세그먼트 인캡슐레이션에 의해 생성된 파일 및/또는 세그먼트는 포인트 클라우드 전송 장치 또는 전송부에 의해서 전송된다. 예를 들어, DASH 기반의 프로토콜에 기반하여 세그먼트(들)이 딜리버리(Delivery)될 수 있다.
실시예들에 따른 인캡슐레이션 또는 인캡슐레이터는 V-PCC 비트스트림을 파일 내 하나 혹은 복수 개의 트랙으로 분할 저장하고, 이를 위한 시그널링 정보도 함께 인캡슐레이팅할 수 있다. 또한, V-PCC 비트스트림 상에 포함되어 있는 atlas 스트림을 파일 내 트랙으로 저장하고, 관련 시그널링 정보를 저장할 수 있다. 나아가, V-PCC 비트스트림 상에 존재하는 SEI 메시지를 파일 내 트랙 내 저장하고, 관련 시그널링 정보를 저장할 수 있다.
딜리버리부(Delivery)는 point cloud 비트스트림 혹은 해당 비트스트림을 포함하는 파일/세그먼트를 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스의 수신부로 전달할 수 있다. 전송을 위해 임의의 전송 프로토콜에 따른 처리가 수행될 수 있다. 전송을 위한 처리를 마친 데이터들은 방송망 및/또는 브로드밴드를 통해 전달될 수 있다. 이 데이터들은 온 디맨드(On Demand) 방식으로 수신측으로 전달될 수도 있다.디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다. 딜리버리부는 미리 정해진 파일 포멧을 통하여 미디어 파일을 생성하기 위한 엘리먼트를 포함할 수 있고, 방송/통신 네트워크를 통한 전송을 위한 엘레멘트를 포함할 수 있다. 딜리버리부는 수신부로부터 오리엔테이션 정보 및/또는 뷰포트 정보를 수신한다. 딜리버리부는 획득한 오리엔테이션 정보 및/또는 뷰포트 정보(또는 사용자가 선택한 정보)를 프리-프로세서, 비디오 인코딩부, 이미지 인코딩부, 파일/세그먼트 인캡슐레이션부 및/또는 포인트 클라우드 인코딩부에 전달할 수 있다. 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 포인트 클라우드 인코딩부는 모든 포인트 클라우드 데이터를 인코딩하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 인코딩할 수 있다. 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 파일/세그먼트 인캡슐레이션부는 모든 포인트 클라우드 데이터를 인캡슐레이션하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 인캡슐레이션할 수 있다. 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 딜리버리부는 모든 포인트 클라우드 데이터를 딜리버리하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 딜리버리할 수 있다.
예를 들어, 프리-프로세서는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다. 비디오 인코딩부 및/또는 이미지 인코딩부는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다. 파일/세그먼트 인캡슐레이션부는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다. 전송부는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다.
도22는 실시예들에 따른 포인트 클라우드 데이터 수신 장치의 구성도의 예시를 나타낸다.
도22은 실시예들에 따른 포인트 클라우드 시스템을 나타내고, 시스템의 일부/전부는 도1의 송수신 장치, 도4의 인코딩 프로세스, 도15의 2D 비디오/이미지 인코더, 도16의 디코딩 프로세스, 도18의 송신 장치, 및/또는 도19의 수신 장치 등의 일부/전부를 포함할 수 있다. 또한, 도20-21의 시스템의 일부/전부에 포함되거나 대응될 수 있다.
수신 장치의 각 구성은 모듈/유닛/컴포넌트/하드웨어/소프트웨어/프로세서 등일 수 있다. 딜리버리 클라이언트(Delivery Client)는 실시예들에 따른 point cloud 데이터 전송 장치가 전송한 point cloud 데이터, point cloud 비트스트림 혹은 해당 비트스트림을 포함하는 파일/세그먼트를 수신할 수 있다. 전송되는 채널에 따라 수신부는 방송망을 통하여 point cloud데이터를 수신할 수도 있고, 브로드밴드를 통하여 point cloud데이터를 수신할 수도 있다. 혹은 디지털 저장 매체를 통하여 point cloud 비디오 데이터를 수신할 수도 있다. 수신부는 수신한 데이터를 디코딩 하고 이를 사용자의 뷰포트 등에 따라 랜더링하는 과정을 포함할 수 있다. 수신 처리부는 수신된 point cloud데이터에 대해 전송 프로토콜에 따른 처리를 수행할 수 있다. 수신 처리부는 수신부에 포함될 수 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 전송측에서 전송을 위한 처리가 수행된 것에 대응되도록, 수신 처리부는 전술한 전송 처리부의 역과정을 수행할 수 있다. 수신 처리부는 획득한 point cloud 데이터는 디캡슐레이션 처리부로 전달하고, 획득한 point cloud 관련 메타데이터는 메타데이터 파서로 전달할 수 있다.
디캡슐레이션 처리부(file/segment decapsulation, 20005)는 수신 처리부로부터 전달받은 파일 형태의 point cloud데이터를 디캡슐레이션할 수 있다. 디캡슐레이션 처리부는 ISOBMFF 등에 따른 파일들을 디캡슐레이션하여, point cloud비트스트림 내지 point cloud 관련 메타데이터(혹은 별도의 메타데이터 비트스트림)를 획득할 수 있다. 획득된 point cloud비트스트림은 point cloud디코더로, 획득된 point cloud관련 메타데이터(혹은 메타데이터 비트스트림)는 메타데이터 처리부로 전달할 수 있다. point cloud비트스트림은 메타데이터(메타데이터 비트스트림)를 포함할 수도 있다. 메타데이터 처리부는 point cloud 비디오 디코더에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 디캡슐레이션 처리부가 획득하는 point cloud관련 메타데이터는 파일 포맷 내의 박스 혹은 트랙 형태일 수 있다. 디캡슐레이션 처리부는 필요한 경우 메타데이터 처리부로부터 디캡슐레이션에 필요한 메타데이터를 전달받을 수도 있다. point cloud관련 메타데이터는 point cloud디코더에 전달되어 point cloud디코딩 절차에 사용될 수도 있고, 또는 렌더러에 전달되어 point cloud렌더링 절차에 사용될 수도 있다.
Point Cloud 비디오 디코더(20006)는 비트스트림을 입력받아 Point Cloud 비디오 인코더의 동작에 대응하는 동작을 수행하여 비디오/영상을 디코딩할 수 있다. 이 경우 Point Cloud 비디오 디코더는 Point Cloud 비디오를 후술하는 바와 같이 지오메트리 비디오, 어트리뷰트(attribute) 비디오, 어큐판시(occupancy) 맵 비디오, 그리고 부가적인 패치 관련 정보(auxiliary patch information )으로 나누어 디코딩할 수 있다. 지오메트리 비디오는 지오메트리 이미지를 포함할 수 있고, 어트리뷰트(attribute) 비디오는 어트리뷰트 이미지를 포함할 수 있고, 어큐판시(occupancy) 맵 비디오는 어큐판시 맵 이미지를 포함할 수 있다. 부가 정보는 부가 패치 정보(auxiliary patch information)를 포함할 수 있다. 어트리뷰트 비디오/이미지는 텍스쳐 비디오/이미지를 포함할 수 있다.
디코딩된 지오메트리 이미지와 오큐판시 맵 및 부가 패치 정보를 이용하여 3차원 지오메트리가 복원되며 이후 스무딩 과정을 거칠 수 있다. 스무딩된 3차원 지오메트리에 텍스처 이미지를 이용하여 컬러값을 부여함으로써 컬러 포인트 클라우드 영상/픽처가 복원될 수 있다. 렌더러는 복원된 지오메트리, 컬러 포인트 클라우드 영상/픽처를렌더링할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다. 사용자는 VR/AR 디스플레이 또는 일반 디스플레이 등을 통하여 렌더링 된 결과의 전부 또는 일부 영역을 볼 수 있다.
센싱/트랙킹부(Sensing/Tracking, 20007)는 사용자 또는 수신측로부터 오리엔테이션 정보 및/또는 사용자 뷰포트 정보를 획득하여 수신부 및/또는 송신부에 전달한다. 오리엔테이션 정보는 사용자의 머리 위치, 각도, 움직임 등에 대한 정보를 나타내거나 혹은 사용자가 보고 있는 장치의 위치, 각도, 움직임 등에 대한 정보를 나타낼 수 있다. 이 정보를 기반으로 사용자가 현재 3차원 공간 상에서 보고 있는 영역에 대한 정보, 즉 뷰포트 정보가 계산될 수 있다.
뷰포트 정보는 현재 사용자가 3차원 공간 상에서 디바이스 혹은 HMD 등을 통하여 보고 있는 영역에 대한 정보일 수 있다. 디스플레이 등의 장치는 오리엔테이션 정보, 장치가 지원하는 수직(vertical) 혹은 수평(horizontal) FOV 등에 근거하여 뷰포트 영역을 추출할 수 있다. 오리엔테이션 혹은 뷰포트 정보는 수신측에서 추출 혹은 계산될 수 있다. 수신측에서 분석된 오리엔테이션 혹은 뷰포트 정보는 송신측으로 피드백 채널을 통해 전달될 수도 있다.
수신부는 센싱/트랙킹부에 의해 획득된 오리엔테이션 정보 및/또는사용자가 현재 보고 있는 영역을 나타내는뷰포트 정보를 사용하여 특정 영역, 즉 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 영역의 미디어 데이터만 효율적으로 파일에서 추출하거나 디코딩할 수 있다. 또한, 송신부는 센싱/트랙부에 의해 획득된 오리엔테이션 정보 및/또는 뷰포트 정보를 사용하여 특정 영역, 즉 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 영역의 미디어 데이터만 효율적으로 인코딩하거나 파일 생성 및 전송할 수 있다.
렌더러는 3차원 공간 상에 디코딩된 Point Cloud 데이터를 렌더링 할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다. 사용자는 VR/AR 디스플레이 또는 일반 디스플레이 등을 통하여 렌더링 된 결과의 전부 또는 일부 영역을 볼 수 있다.
피드백 과정은 렌더링/디스플레이 과정에서 획득될 수 있는 다양한 피드백 정보들을 송신측으로 전달하거나 수신측의 디코더에 전달하는 과정을 포함할 수 있다. 피드백 과정을 통해 Point Cloud 데이터 소비에 있어 인터랙티비티(interactivity)가 제공될 수 있다. 실시예에 따라, 피드백 과정에서 헤드 오리엔테이션(Head Orientation) 정보, 사용자가 현재 보고 있는 영역을 나타내는 뷰포트(Viewport) 정보 등이 전달될 수 있다. 실시 예에 따라, 사용자는 VR/AR/MR/자율주행 환경 상에 구현된 것들과 상호작용 할 수도 있는데, 이 경우 그 상호작용과 관련된 정보가 피드백 과정에서 송신측 내지 서비스 프로바이더 측으로 전달될 수도 있다. 실시 예에 따라 피드백 과정은 수행되지 않을 수도 있다.
실시예에 따라 전술한 피드백 정보는 송신측으로 전달되는 것 뿐아니라, 수신측에서 소비될 수도 있다. 즉, 전술한 피드백 정보를 이용하여 수신측의 디캡슐레이션 처리, 디코딩, 렌더링 과정 등이 수행될 수 있다. 예를 들어, 오리엔테이션 정보 및/또는 뷰포트 정보를 이용하여 현재 사용자가 보고 있는 영역에 대한 point cloud 데이터가 우선적으로 디캡슐레이션, 디코딩 및 렌더링될 수도 있다.
도21은 실시예들에 따른 포인트 클라우드 데이터 저장 및 전송 장치의 구성도의 예시를 나타낸다.
도21은 실시예들에 따른 포인트 클라우드 시스템을 나타내고, 시스템의 일부/전부는 도1의 송수신 장치, 도4의 인코딩 프로세스, 도15의 2D 비디오/이미지 인코더, 도16의 디코딩 프로세스, 도18의 송신 장치, 및/또는 도19의 수신 장치 등의 일부/전부를 포함할 수 있다. 또한, 도20의 시스템의 일부/전부에 포함되거나 대응될 수 있다.
실시예들에 따른 포인트 클라우드 데이터 송신 장치는 도면과 같이 구성될 수 있다. 전송 장치의 각 구성은 모듈/유닛/컴포넌트/하드웨어/소프트웨어/프로세서 등일 수 있다.
Point cloud 의 geometry, attribute, auxiliary data, mesh data 등은 각각 별도의 스트림으로 구성되거나 혹은 파일 내 각각 다른 트랙에 저장될 수 있다. 더 나아가 별도의 세그먼트에 포함될 수 있다.
Point Cloud 획득부(Point Cloud Acquisition, 21000)은 point cloud 를 획득한다. 예를 들어 하나 이상의 카메라를 통하여 Point Cloud의 캡쳐, 합성 또는 생성 과정 등을 통한 Point Cloud 데이터를 획득할 수 있다. 이러한 획득 과정에 의해 각 포인트의 3D 위치(x, y, z 위치 값 등으로 나타낼 수 있다. 이하 이를 지오메트리라고 일컫는다), 각 포인트의 속성 (color, reflectance, transparency 등)을 포함하는 point cloud 데이터를 획득할 수 있으며 이를 포함하는, 예를 들어, PLY(Polygon File format or the Stanford Triangle format) 파일 등으로 생성 될 수 있다. 여러 개의 프레임을 갖는 point cloud 데이터의 경우 하나 이상의 파일들이 획득될 수 있다. 이러한 과정에서 point cloud 관련 메타데이터 (예를 들어 캡처 등과 관련된 메타데이터 등)가 생성될 수 있다.
패치 제너레이션(Patch Generation, 21002) 또는 패치 제너레이터는 포인트 클라우드 데이터로부터 패치를 생성한다. 패치 제너레이터는 포인트 클라우드 데이터 또는 포인트 클라우드 비디오를 하나 이상의 픽처(picture)/프레임(frame)으로 생성한다. 픽처(picture)/프레임(frame)은 일반적으로 특정 시간대의 하나의 영상을 나타내는 단위를 의미할 수 있다. Point cloud 비디오를 구성하는 점들을 하나 이상의 패치(point cloud를 구성하는 점들의 집합으로, 같은 patch에 속하는 점들은 3차원 공간상에서 서로 인접해 있으며 2D 이미지로의 맵핑 과정에서 6면의 bounding box 평면 중 같은 방향으로 맵핑되는 점들의 집합)로 나누어2D 평면에 맵핑할 때 2D 평면의 해당 위치에 데이터가 존재하는 여부를 0 또는 1의 값으로 알려주는 2진 맵 (binary map) 인 어큐판시(occupancy) 맵 픽처/프레임을 생성할 수 있다. 그리고 Point Cloud 비디오를 이루는 각 점들의 위치 정보 (geometry)를 패치 단위로 표현하는 depth map 형태의 픽처/프레임인 지오메트리 픽처/프레임을 생성할 수 있다. Point cloud 비디오를 이루는 각 점들의 색상 정보를 패치 단위로 표현하는 픽처/프레임인 텍스처 픽처/프레임을 생성할 수 있다.이러한 과정에서 개별 패치들로부터 point cloud를 재구성하기 위해 필요한 메타데이터가 생성될 수 있으며 이는 각 패치의2D/3D 공간에서의 위치, 크기 등 패치에 대한 정보를 포함할 수 있다. 이러한 픽처/프레임들이 시간순으로 연속적으로 생성되어 비디오 스트림 혹은 메타데이터 스트림을 구성할 수 있다.
또한, 패치는 2D 이미지 맵핑을 위해 사용될 수 있다. 예를 들어, 포인트 클라우드 데이터가 정육면체의 각 면에 프로젝션될 수 있다. 패치 제너레이션 후, 생성된 패치를 기반으로 지오메트리 이미지, 하나 또는 하나 이상의 어트리뷰트 이미지, 어큐판시 맵, Auxiliary 데이터 및/또는 Mesh 데이터 등이 생성될 수 있다.
프리-프로세서 또는 제어부(controller)에 의해 지오메트리 이미지 제너레이션(Geometry Image Generation), 어트리뷰트 이미지 제너레이션(Attribute Image Generation), 어큐판시 맵 제너레이션(Occupancy Map Generation), Auxiliary 데이터 제너레이션(Auxiliary Data Generation) 및/또는 Mesh 데이터 제너레이션(Mesh Data Generation)이 수행된다.
지오메트리 이미지 제너레이션(Geometry Image Generation, 21002)은 패치 제너레이션의 결과물에 기반하여 지오메트리 이미지를 생성한다. 지오메트리는 3차원 공간상의 포인트를 나타낸다. 패치에 기반하여 패치의 2D이미지 패킹에 관련된 정보를 포함하는 어큐판시 맵, Auxiliary 데이터(패치 데이터) 및/또는 Mesh 데이터 등을 사용하여, 지오메트리 이미지가 생성된다. 지오메트리 이미지는 패치 제너레이션 후 생성된 패치에 대한 뎁스(e.g., near, far) 등의 정보와 관련된다.
어트리뷰트 이미지 제너레이션(Attribute Image Generation, 21003)은 어트리뷰트 이미지를 생성한다. 예를 들어, 어트리뷰트는 텍스쳐(Texture)를 나타낼 수 있다. 텍스쳐는 각 포인트에 매칭되는 컬러 값일 수 있다. 실시예들에 따라서, 텍스쳐를 포함한 복수 개(N개)의 어트리뷰트(color, reflectance 등의 속성) 이미지가 생성될 수 있다. 복수 개의 어트리뷰트는 머터리얼 (재질에 대한 정보), 리플렉턴스 등을 포함할 수 있다. 또한, 실시예들에 따라 어트리뷰트는 같은 텍스쳐라도 시각, 빛에 의해 컬러가 달라질 수 있는 정보를 추가적으로 포함할 수 있다.
어큐판시 맵 제너레이션(Occupancy Map Generation, 21004)은 패치로부터 어큐판시 맵을 생성한다. 어큐판시 맵은 해당 지오메트리 혹은 에트리뷰트 이미지 등의 픽셀에 데이터의 존재 유무를 나타내는 정보를 포함한다.
Auxiliary 데이터 제너레이션(Auxiliary Data Generation, 21005)은 패치에 대한 정보를 포함하는Auxiliary 데이터를 생성한다. 즉, Auxiliary 데이터는 Point Cloud객체의 패치에 관한 메타데이터를 나타낸다. 예를 들어, 패치에 대한 노멀(normal) 벡터 등의 정보를 나타낼 수 있다. 구체적으로, 실시예들에 따라 Auxiliary 데이터는 패치들로부터 포인트 클라우드를 재구성하기 위해서 필요한 정보를 포함할 수 있다(예를 들어, 패치의 2D/3D 공간 상 위치, 크기 등에 대한 정보, 프로젝션 평명(normal) 식별 정보, 패치 매핑 정보 등)
Mesh 데이터 제너레이션(Mesh Data Generation, 21006)은 패치로부터 Mesh 데이터를 생성한다. Mesh 는 인접한 포인트 들간의 연결정보를 나타낸다. 예를 들어, 삼각형 형태의 데이터를 나타낼 수 있다. 예를 들어, 실시예들에 따른 Mesh 데이터는 각 포인트 간의커넥티비티(connectivity) 정보를 의미한다.
포인트 클라우드 프리-프로세서 또는 제어부는 패치 제너레이션, 지오메트리 이미지 제너레이션, 어트리뷰트 이미지 제너레이션, 어큐판시 맵 제너레이션, Auxiliary 데이터 제너레이션, Mesh 데이터 제너레이션에 관련된 메타데이터(Metadata)를 생성한다.
포인트 클라우드 전송 장치는 프리-프로세서에서 생성된 결과물에 대응하여 비디오 인코딩 및/또는 이미지 인코딩을 수행한다. 포인트 클라우드 전송 장치는 포인트 클라우드 비디오 데이터뿐만 아니라 포인트 클라우드 이미지 데이터를 생성할 수 있다.실시예들에 따라 포인트 클라우드 데이터는 오직 비디오 데이터, 오직 이미지 데이터 및/또는 비디오 데이터 및 이미지 데이터 둘 다를 포함하는 경우가 있을 수 있다.
비디오 인코딩부(21007)는 지오메트리 비디오 컴프레션, 어트리뷰트 비디오 컴프레션, 어큐판시 맵 컴프레션, Auxiliary 데이터 컴프레션 및/또는 Mesh 데이터 컴프레션을 수행한다. 비디오 인코딩부는 각 인코딩된 비디오 데이터를 포함하는 비디오 스트림(들)을 생성한다.
구체적으로, 지오메트리 비디오 컴프레션은 point cloud 지오메트리 비디오 데이터를 인코딩한다. 어트리뷰트 비디오 컴프레션은 point cloud 의 어트리뷰트 비디오 데이터를 인코딩한다. Auxiliary 데이터 컴프레션은 point cloud 비디오 데이터와 연관된 Auxiliary 데이터를 인코딩한다. Mesh 데이터 컴프레션(Mesh data compression)은 Point Cloud 비디오 데이터의 Mesh 데이터를 인코딩한다. 포인트 클라우드 비디오 인코딩부의 각 동작은 병렬적으로 수행될 수 있다.
이미지 인코딩부(21008)는 지오메트리 이미지 컴프레션, 어트리뷰트 이미지 컴프레션, 어큐판시 맵 컴프레션, Auxiliary 데이터 컴프레션 및/또는 Mesh 데이터 컴프레션을 수행한다. 이미지 인코딩부는 각 인코딩된 이미지 데이터를 포함하는 이미지(들)을 생성한다.
구체적으로, 지오메트리 이미지 컴프레션은 point cloud 지오메트리 이미지 데이터를 인코딩한다. 어트리뷰트 이미지 컴프레션은 point cloud 의 어트리뷰트 이미지 데이터를 인코딩한다. Auxiliary 데이터 컴프레션은 point cloud 이미지 데이터와 연관된 Auxiliary 데이터를 인코딩한다. Mesh 데이터 컴프레션(Mesh data compression)은 point cloud 이미지 데이터와 연관된 Mesh 데이터를 인코딩한다. 포인트 클라우드 이미지 인코딩부의 각 동작은 병렬적으로 수행될 수 있다.
비디오 인코딩부 및/또는 이미지 인코딩부는 프리-프로세서로부터 메타데이터를 수신할 수 있다. 비디오 인코딩부 및/또는 이미지 인코딩부는 메타데이터에 기반하여 각 인코딩 과정을 수행할 수 있다.
파일/세그먼트 인캡슐레이션(File/Segment Encapsulation, 21009)부는 비디오 스트림(들) 및/또는 이미지(들)을 파일 및/또는 세그먼트의 형태로 인캡슐레이션한다. 파일/세그먼트 인캡슐레이션부는 비디오 트랙 인캡슐레이션, 메타데이터 트랙 인캡슐레이션 및/또는 이미지 인캡슐레이션을 수행한다.
비디오 트랙 인캡슐레이션은 하나 또는 하나 이상의 비디오 스트림을 하나 또는 하나 이상의 트랙에 인캡슐레이션할 수 있다.
메타데이터 트랙 인캡슐레이션은 비디오 스트림 및/또는 이미지에 관련된 메타데이터를 하나 또는 하나 이상의 트랙에 인캡슐레이션할 수 있다. 메타데이터는 포인트 클라우드 데이터의 컨텐츠에 관련된 데이터를 포함한다. 예를 들어, 이니셜 뷰잉 오리엔테이션 메타데이터(Initial Viewing Orientation Metadata)를 포함할 수 있다. 실시예들에 따라 메타데이터는 메타데이터 트랙에 인캡슐레이션 될 수 있고, 또는 비디오 트랙이나 이미지 트랙에 함께 인캡슐레이션될 수 있다.
이미지 인캡슐레이션은 하나 또는 하나 이상의 이미지들을 하나 또는 하나 이상의 트랙 혹은 아이템에 인캡슐레이션할 수 있다.
예를 들어,실시예들에 따라 비디오 스트림이 4개 및 이미지가 2개를 인캡슐레이션부에 입력되는 경우, 4개의 비디오 스트림 및 2개의 이미지를 하나의 파일 안에 인캡슐레이션할 수 있다.
실시예들에 따른 포인트 클라우드 비디오 인코더 및/또는 포인트 클라우드 이미지 인코더는 실시예들에 따른 G-PCC/V-PCC 비트스트림을 생성할 수 있다.
파일/세그먼트 인캡슐레이션부는 프리-프로세서로부터 메타데이터를 수신할 수 있다. 파일/세그먼트 인캡슐레이션부는 메타데이터에 기반하여 인캡슐레이션을 할 수 있다.
파일/세그먼트 인캡슐레이션에 의해 생성된 파일 및/또는 세그먼트는 포인트 클라우드 전송 장치 또는 전송부에 의해서 전송된다. 예를 들어, DASH 기반의 프로토콜에 기반하여 세그먼트(들)이 딜리버리(Delivery)될 수 있다.
실시예들에 따른 인캡슐레이션 또는 인캡슐레이터는 V-PCC 비트스트림을 파일 내 하나 혹은 복수 개의 트랙으로 분할 저장하고, 이를 위한 시그널링 정보도 함께 인캡슐레이팅할 수 있다. 또한, V-PCC 비트스트림 상에 포함되어 있는 atlas 스트림을 파일 내 트랙으로 저장하고, 관련 시그널링 정보를 저장할 수 있다. 나아가, V-PCC 비트스트림 상에 존재하는 SEI 메시지를 파일 내 트랙 내 저장하고, 관련 시그널링 정보를 저장할 수 있다.
딜리버리부(Delivery)는 point cloud 비트스트림 혹은 해당 비트스트림을 포함하는 파일/세그먼트를 디지털 저장매체 또는 네트워크를 통하여 수신 디바이스의 수신부로 전달할 수 있다. 전송을 위해 임의의 전송 프로토콜에 따른 처리가 수행될 수 있다. 전송을 위한 처리를 마친 데이터들은 방송망 및/또는 브로드밴드를 통해 전달될 수 있다. 이 데이터들은 온 디맨드(On Demand) 방식으로 수신측으로 전달될 수도 있다.디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다. 딜리버리부는 미리 정해진 파일 포멧을 통하여 미디어 파일을 생성하기 위한 엘리먼트를 포함할 수 있고, 방송/통신 네트워크를 통한 전송을 위한 엘레멘트를 포함할 수 있다. 딜리버리부는 수신부로부터 오리엔테이션 정보 및/또는 뷰포트 정보를 수신한다. 딜리버리부는 획득한 오리엔테이션 정보 및/또는 뷰포트 정보(또는 사용자가 선택한 정보)를 프리-프로세서, 비디오 인코딩부, 이미지 인코딩부, 파일/세그먼트 인캡슐레이션부 및/또는 포인트 클라우드 인코딩부에 전달할 수 있다. 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 포인트 클라우드 인코딩부는 모든 포인트 클라우드 데이터를 인코딩하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 인코딩할 수 있다. 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 파일/세그먼트 인캡슐레이션부는 모든 포인트 클라우드 데이터를 인캡슐레이션하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 인캡슐레이션할 수 있다. 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 딜리버리부는 모든 포인트 클라우드 데이터를 딜리버리하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 딜리버리할 수 있다.
예를 들어, 프리-프로세서는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다. 비디오 인코딩부 및/또는 이미지 인코딩부는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다. 파일/세그먼트 인캡슐레이션부는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다. 전송부는 모든 포인트 클라우드 데이터에 대해 상술한 동작을 수행하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터에 대해 상술한 동작을 수행할 수 있다.
도22는 실시예들에 따른 포인트 클라우드 데이터 수신 장치의 구성도의 예시를 나타낸다.
도22은 실시예들에 따른 포인트 클라우드 시스템을 나타내고, 시스템의 일부/전부는 도1의 송수신 장치, 도4의 인코딩 프로세스, 도15의 2D 비디오/이미지 인코더, 도16의 디코딩 프로세스, 도18의 송신 장치, 및/또는 도19의 수신 장치 등의 일부/전부를 포함할 수 있다. 또한, 도20-21의 시스템의 일부/전부에 포함되거나 대응될 수 있다.
수신 장치의 각 구성은 모듈/유닛/컴포넌트/하드웨어/소프트웨어/프로세서 등일 수 있다. 딜리버리 클라이언트(Delivery Client)는 실시예들에 따른 point cloud 데이터 전송 장치가 전송한 point cloud 데이터, point cloud 비트스트림 혹은 해당 비트스트림을 포함하는 파일/세그먼트를 수신할 수 있다. 전송되는 채널에 따라 수신부는 방송망을 통하여 point cloud데이터를 수신할 수도 있고, 브로드밴드를 통하여 point cloud데이터를 수신할 수도 있다. 혹은 디지털 저장 매체를 통하여 point cloud 비디오 데이터를 수신할 수도 있다. 수신부는 수신한 데이터를 디코딩 하고 이를 사용자의 뷰포트 등에 따라 랜더링하는 과정을 포함할 수 있다. 수신 처리부는 수신된 point cloud데이터에 대해 전송 프로토콜에 따른 처리를 수행할 수 있다. 수신 처리부는 수신부에 포함될 수 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 전송측에서 전송을 위한 처리가 수행된 것에 대응되도록, 수신 처리부는 전술한 전송 처리부의 역과정을 수행할 수 있다. 수신 처리부는 획득한 point cloud 데이터는 디캡슐레이션 처리부로 전달하고, 획득한 point cloud 관련 메타데이터는 메타데이터 파서로 전달할 수 있다.
센싱/트랙킹부(Sensing/Tracking)는 오리엔테이션 정보 및/또는 뷰포트 정보를 획득한다. 센싱/트랙킹부는 획득한 오리엔테이션 정보 및/또는 뷰포트 정보를 딜리버리 클라이언트, 파일/세그먼트 디캡슐레이션부, 포인트 클라우드 디코딩부에 전달할 수 있다.
딜리버리 클라이언트는 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 모든 포인트 클라우드 데이터를 수신하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 수신할 수 있다. 파일/세그먼트 디캡슐레이션부는 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 모든 포인트 클라우드 데이터를 디캡슐레이션하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 디캡슐레이션할 수 있다. 포인트 클라우드 디코딩부(비디오 디코딩부 및/또는 이미지 디코딩부)는 오리엔테이션 정보 및/또는 뷰포트 정보에 기반하여, 모든 포인트 클라우드 데이터를 디코딩하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 디코딩할 수 있다. 포인트 클라우드 프로세싱부는 모든 포인트 클라우드 데이터를 처리하거나 또는 오리엔테이션 정보 및/또는 뷰포트 정보가 나타내는 포인트 클라우드 데이터를 처리할 수 있다.
파일/세그먼트 디캡슐레이션부(File/Segment decapsulation, 22000)는 비디오 트랙 디캡슐레이션(Video Track Decapsulation), 메타데이터 트랙 디캡슐레이션(Metadata Track Decapsulation) 및/또는 이미지 디캡슐레이션(Image Decapsulation)을 수행한다. 디캡슐레이션 처리부(file/segment decapsulation)는 수신 처리부로부터 전달받은 파일 형태의 point cloud데이터를 디캡슐레이션할 수 있다. 디캡슐레이션 처리부는 ISOBMFF 등에 따른 파일 혹은 세그먼트들을 디캡슐레이션하여, point cloud비트스트림 내지 point cloud 관련 메타데이터(혹은 별도의 메타데이터 비트스트림)를 획득할 수 있다. 획득된 point cloud비트스트림은 point cloud디코더로, 획득된 point cloud관련 메타데이터(혹은 메타데이터 비트스트림)는 메타데이터 처리부로 전달할 수 있다. point cloud비트스트림은 메타데이터(메타데이터 비트스트림)를 포함할 수도 있다. 메타데이터 처리부는 point cloud 비디오 디코더에 포함될 수도 있고, 또는 별도의 컴포넌트/모듈로 구성될 수도 있다. 디캡슐레이션 처리부가 획득하는 point cloud관련 메타데이터는 파일 포맷 내의 박스 혹은 트랙 형태일 수 있다. 디캡슐레이션 처리부는 필요한 경우 메타데이터 처리부로부터 디캡슐레이션에 필요한 메타데이터를 전달받을 수도 있다. point cloud관련 메타데이터는 point cloud디코더에 전달되어 point cloud디코딩 절차에 사용될 수도 있고, 또는 렌더러에 전달되어 point cloud렌더링 절차에 사용될 수도 있다. 파일/세그먼트 디캡슐레이션부는 포인트 클라우드 데이터에 관련된 메타데이터를 생성할 수 있다.
비디오 트랙 디캡슐레이션(Video Track Decapsulation)은 파일 및/또는 세그먼트에 포함된 비디오 트랙을 디캡슐레이션한다. 지오메트리 비디오, 어트리뷰트 비디오, 어큐판시 맵 , Auxiliary 데이터 및/또는 Mesh 데이터를 포함하는 비디오 스트림(들)을 디캡슐레이션한다.
메타데이터 트랙 디캡슐레이션(Metadata Track Decapsulation)은 포인트 클라우드 데이터에 관련된 메타데이터 및/또는 부가 데이터 등을 포함하는 비트스트림을 디캡슐레이션한다.
이미지 디캡슐레이션(Image Decapsulation)은 지오메트리 이미지, 어트리뷰트 이미지, 어큐판시 맵, Auxiliary 데이터 및/또는 Mesh 데이터를 포함하는 이미지(들)을 디캡슐레이션한다.
실시예들에 따른 디캡슐레이션 또는 디캡슐레이터는 G-PCC/V-PCC 비트스트림을 파일 내 하나 혹은 복수 개의 트랙에 기반하여 분할 파싱(디캡슐레이션)하고, 이를 위한 시그널링 정보도 함께 디캡슐레이팅할 수 있다. 또한, G-PCC/V-PCC 비트스트림 상에 포함되어 있는 atlas 스트림을 파일 내 트랙에 기반하여 디캡슐레이션하고, 관련 시그널링 정보를 파싱할 수 있다. 나아가, G-PCC/V-PCC 비트스트림 상에 존재하는 SEI 메시지를 파일 내 트랙에 기반하여 디캡슐레이션하고, 관련 시그널링 정보를 함께 획득할 수 있다.
비디오 디코딩부(Video Decoding, 22001)는 지오메트리 비디오 디컴프레션, 어트리뷰트 비디오 디컴프레션, 어큐판시 맵 디컴프레션, Auxiliary 데이터 디컴프레션 및/또는 Mesh데이터 디컴프레션을 수행한다. 비디오 디코딩부는 실시예들에 따른 포인트 클라우드 전송 장치의 비디오 인코딩부가 수행한 프로세스에 대응하여 지오메트리 비디오, 어트리뷰트 비디오, Auxiliary데이터 및/또는 Mesh데이터를 디코딩한다.
이미지 디코딩부(Image Decoding, 22002)는 지오메트리 이미지 디컴프레션, 어트리뷰트 이미지 디컴프레션, 어큐판시 맵 디컴프레션, Auxiliary 데이터 디컴프레션 및/또는 Mesh데이터 디컴프레션을 수행한다. 이미지 디코딩부는 실시예들에 따른 포인트 클라우드 전송 장치의 이미지 인코딩부가 수행한 프로세스에 대응하여 지오메트리 이미지, 어트리뷰트 이미지, Auxiliary데이터 및/또는 Mesh데이터를 디코딩한다.
실시예들에 따른 비디오 디코딩부, 이미지 디코딩부는 상술한 바와 같이 하나의 비디오/이미지 디코더에 의해 처리될 수 있고 도면과 같이 별개의 패스로 수행될 수 있다.
비디오 디코딩부 및/또는 이미지 디코딩부는 비디오 데이터 및/또는 이미지 데이터에 관련된 메타데이터를 생성할 수 있다.
실시예들에 따른 포인트 클라우드 비디오 인코더 및/또는 포인트 클라우드 이미지 인코더는 실시예들에 따른 G-PCC/V-PCC 비트스트림을 디코딩할 수 있다.
포인트 클라우드 프로세싱부(Point Cloud Processing, 22003)은 지오메트리 리컨스트럭션(Geometry Reconstruction) 및/또는 어트리뷰트 리컨스트럭션(Attribute Reconstruction)을 수행한다.
지오메트리 리컨스턱션은 디코딩된 비디오 데이터 및/또는 디코딩된 이미지 데이터로부터 어큐판시 맵, Auxiliary 데이터 및/또는 Mesh데이터에 기반하여 지오메트리 비디오 및/또는 지오메트리 이미지를 복원한다.
어트리뷰트 리컨스럭션은 디코딩된 어트리뷰트 비디오 및/또는 디코딩된 어트리뷰트 이미지로부터 어큐판시 맵, Auxiliary 데이터 및/또는 Mesh데이터에 기반하여 어트리뷰트 비디오 및/또는 어트리뷰트 이미지를 복원한다. 실시예들에 따라, 예를 들어, 어트리뷰트는 텍스쳐일 수 있다. 실시예들에 따라 어트리뷰트는 복수 개의 속성 정보를 의미할 수 있다. 복수개의 어트리뷰트가 있는 경우, 실시예들에 따른 포인트 클라우드 프로세싱부는 복수개의 어트리뷰트 리컨스럭션을 수행한다.
포인트 클라우드 프로세싱부는 비디오 디코딩부, 이미지 디코딩부 및/또는 파일/세그먼트 디캡슐레이션부로부터 메타데이터를 수신하고, 메타데이터게 기반하여 포인트 클라우드를 처리할 수 있다.
포인트 클라우드 렌더링부(Point Cloud Rendering)는 리컨스럭션된 포인트 클라우드를 렌더링한다. 포인트 클라우드 렌더링부는 비디오 디코딩부, 이미지 디코딩부 및/또는 파일/세그먼트 디캡슐레이션부로부터 메타데이터를 수신하고, 메타데이터게 기반하여 포인트 클라우드를 렌더링할 수 있다.
디스플레이는 랜더링된 결과를 실제 디스플레이 장치 상에 디스플레이한다.
실시예들에 따른 방법/장치는 도15 내지 19에 도시된 바와 같이 포인트 클라우드 데이터를 인코딩/디코딩한 이후, 포인트 클라우드 데이터를 포함하는 비트스트림을 파일 및/또는 세그먼트 형태로 인캡슐레이션 및/또는 디캡슐레이션할 수 있다.
예를 들어, 실시예들에 따른 포인트 클라우드 데이터 송신 장치는 포인트 클라우드 데이터를 파일에 기반하여 인캡슐레이션하고, 이때 파일은 포인트 클라우드에 관한 파라미터를 포함하는 V-PCC 트랙, 지오메트리를 포함하는 지오메트리 트랙, 어트리뷰트를 포함하는 어트리뷰트 트랙 및 어큐판시 맵을 포함하는 어큐판시 트랙을 포함할 수 있다.
또한, 실시예들에 따른 포인트 클라우드 데이터 수신 장치는 포인트 클라우드 데이터를 파일에 기반하여 디캡슐레이션하고 이때 파일은 포인트 클라우드에 관한 파라미터를 포함하는 V-PCC 트랙, 지오메트리를 포함하는 지오메트리 트랙, 어트리뷰트를 포함하는 어트리뷰트 트랙 및 어큐판시 맵을 포함하는 어큐판시 트랙을 포함할 수 있다.
상술한 동작은 도20의 파일/세그먼트 인캡슐레이션부(20005), 도21의 파일/세그먼트 인캡슐레이션부(21009), 도22의 파일/세그먼트 인캡슐레이션부(22000) 등에 의해 수행될 수 있다.
도23은 실시예들에 따른 포인트 클라우드 데이터 송수신 방법/장치와 연동 가능한 구조의 예시를 나타낸다.
실시예들에 따른 구조는 서버(2360), 로봇(2310), 자율 주행 차량(2320), XR 장치(2330), 스마트폰(2340), 가전(2350) 및/또는 HMD(2370) 중에서 적어도 하나 이상이 클라우드 네트워크(2310)와 연결된다. 여기서, 로봇(2310), 자율 주행 차량(2320), XR 장치(2330), 스마트폰(2340) 또는 가전(2350) 등을 장치라 칭할 수 있다. 또한, XR 장치(1730)는 실시예들에 따른 포인트 클라우드 데이터 (PCC) 장치에 대응되거나 PCC장치와 연동될 수 있다.
클라우드 네트워크(2300)는 클라우드 컴퓨팅 인프라의 일부를 구성하거나 클라우드 컴퓨팅 인프라 안에 존재하는 네트워크를 의미할 수 있다. 여기서, 클라우드 네트워크(2300)는 3G 네트워크, 4G 또는 LTE(Long Term Evolution) 네트워크 또는 5G 네트워크 등을 이용하여 구성될 수 있다.
서버(2360)는 로봇(2310), 자율 주행 차량(2320), XR 장치(2330), 스마트폰(2340), 가전(2350) 및/또는 HMD(2370) 중에서 적어도 하나 이상과 클라우드 네트워크(2300)을 통하여 연결되고, 연결된 장치들(2310 내지 2370)의 프로세싱을 적어도 일부를 도울 수 있다.
HMD (Head-Mount Display)(2370)는 실시예들에 따른 XR 디바이스 및/또는 PCC 디바이스가 구현될 수 있는 타입 중 하나를 나타낸다. 실시예들에 따른HMD 타입의 디바이스는, 커뮤니케이션 유닛, 컨트롤 유닛, 메모리 유닛, I/O 유닛, 센서 유닛, 그리고 파워 공급 유닛 등을 포함한다.
이하에서는, 상술한 기술이 적용되는 장치(2310 내지 2350)의 다양한 실시 예들을 설명한다. 여기서, 도23에 도시된 장치(2310 내지 2350)는 상술한 실시예들에 따른 포인트 클라우드 데이터 송수신 장치와 연동/결합될 수 있다.
<PCC+XR> XR/PCC 장치(2330)는 PCC 및/또는 XR(AR+VR) 기술이 적용되어, HMD(Head-Mount Display), 차량에 구비된 HUD(Head-Up Display), 텔레비전, 휴대폰, 스마트 폰, 컴퓨터, 웨어러블 디바이스, 가전 기기, 디지털 사이니지, 차량, 고정형 로봇이나 이동형 로봇 등으로 구현될 수도 있다.
XR/PCC 장치(2330)는 다양한 센서들을 통해 또는 외부 장치로부터 획득한 3차원 포인트 클라우드 데이터 또는 이미지 데이터를 분석하여 3차원 포인트들에 대한 위치 데이터 및 속성 데이터를 생성함으로써 주변 공간 또는 현실 객체에 대한 정보를 획득하고, 출력할 XR 객체를 렌더링하여 출력할 수 있다. 예컨대, XR/PCC 장치(2330)는 인식된 물체에 대한 추가 정보를 포함하는 XR 객체를 해당 인식된 물체에 대응시켜 출력할 수 있다.
<PCC+자율주행+XR> 자율 주행 차량(2320)은 PCC 기술 및 XR 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
XR/PCC 기술이 적용된 자율 주행 차량(2320)은 XR 영상을 제공하는 수단을 구비한 자율 주행 차량이나, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율 주행 차량 등을 의미할 수 있다. 특히, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율 주행 차량(2320)은 XR 장치(2330)와 구분되며 서로 연동될 수 있다.
XR/PCC영상을 제공하는 수단을 구비한 자율 주행 차량(2320)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하고, 획득한 센서 정보에 기초하여 생성된 XR/PCC 영상을 출력할 수 있다. 예컨대, 자율 주행 차량은 HUD를 구비하여 XR/PCC 영상을 출력함으로써, 탑승자에게 현실 객체 또는 화면 속의 객체에 대응되는 XR/PCC 객체를 제공할 수 있다.
이때, XR/PCC 객체가 HUD에 출력되는 경우에는 XR/PCC 객체의 적어도 일부가 탑승자의 시선이 향하는 실제 객체에 오버랩되도록 출력될 수 있다. 반면, XR/PCC 객체가 자율 주행 차량의 내부에 구비되는 디스플레이에 출력되는 경우에는 XR/PCC 객체의 적어도 일부가 화면 속의 객체에 오버랩되도록 출력될 수 있다. 예컨대, 자율 주행 차량은 차로, 타 차량, 신호등, 교통 표지판, 이륜차, 보행자, 건물 등과 같은 객체와 대응되는 XR/PCC 객체들을 출력할 수 있다.
실시예들에 의한 VR (Virtual Reality) 기술, AR (Augmented Reality) 기술, MR (Mixed Reality) 기술 및/또는 PCC(Point Cloud Compression)기술은, 다양한 디바이스에 적용 가능하다.
즉, VR 기술은, 현실 세계의 객체나 배경 등을 CG 영상으로만 제공하는 디스플레이 기술이다. 반면, AR 기술은, 실제 사물 영상 위에 가상으로 만들어진 CG 영상을 함께 보여 주는 기술을 의미한다. 나아가, MR 기술은, 현실세계에 가상 객체들을 섞고 결합시켜서 보여준다는 점에서 전술한 AR 기술과 유사하다. 그러나, AR 기술에서는 현실 객체와 CG 영상으로 만들어진 가상 객체의 구별이 뚜렷하고, 현실 객체를 보완하는 형태로 가상 객체를 사용하는 반면, MR 기술에서는 가상 객체가 현실 객체와 동등한 성격으로 간주된다는 점에서 AR 기술과는 구별이 된다. 보다 구체적으로 예를 들면, 전술한 MR 기술이 적용된 것이 홀로그램 서비스 이다.
다만, 최근에는 VR, AR, MR 기술을 명확히 구별하기 보다는 XR (extended Reality) 기술로 부르기도 한다. 따라서, 본 발명의 실시예들은 VR, AR, MR, XR 기술 모두에 적용 가능하다. 이런 한 기술은 PCC, V-PCC, G-PCC 기술 기반 인코딩/디코딩이 적용될 수 있다.
실시예들에 따른 PCC방법/장치는 자율 주행 서비스를 제공하는 차량에 적용될 수 있다.
자율 주행 서비스를 제공하는 차량은 PCC 디바이스와 유/무선 통신이 가능하도록 연결된다.
실시예들에 따른 포인트 클라우드 데이터 (PCC) 송수신 장치는 차량과 유/무선 통신이 가능하도록 연결된 경우, 자율 주행 서비스와 함께 제공할 수 있는 AR/VR/PCC 서비스 관련 콘텐트 데이터를 수신/처리하여 차량에 전송할 수 있다. 또한 포인트 클라우드 데이터 송수신 장치 차량에 탑재된 경우, 포인트 클라우드 송수신 장치는 사용자 인터페이스 장치를 통해 입력된 사용자 입력 신호에 따라 AR/VR/PCC 서비스 관련 콘텐트 데이터를 수신/처리하여 사용자에게 제공할 수 있다. 실시예들에 따른 차량 또는 사용자 인터페이스 장치는 사용자 입력 신호를 수신할 수 있다. 실시예들에 따른 사용자 입력 신호는 자율 주행 서비스를 지시하는 신호를 포함할 수 있다.
도24는 실시예들에 따른 멀티 트랙 V-PCC 파일 구조를 나타낸다.
실시예들에 따른 방법/장치는 포인트 클라우드 데이터 송수신 방법/장치를 의미할 수 있다. 실시예들에 따른 방법/장치는 포인트 클라우드 비디오(또는 포인트 클라우드 데이터)의 PCM(Pulse Code Modulation) 비디오 저장 및 전송에 관한 것이다.
V-PCC 비디오 관련 트랙 상에서 PCM 코딩(coded) 데이터 저장 및 시그널링 관련하여, 본 문서의 송신기 또는 수신기는 V-PCC 비디오와 연관된PCM 코딩된 비디오(coded video)를 복수의 트랙에 저장하고 이를 시그널링할 수 있고, V-PCC 비디오와 연관된PCM 코딩된 비디오(coded video)를 단일 트랙에 저장하고 이를 시그널링할 수 있다. 나아가, V-PCC 비디오의 패치 데이터 그룹(patch data group) 연관 샘플레벨, 샘플 그룹 레벨, 시퀀스 레벨 파라미터 시그널링 방안을 제안한다.
이로 인하여, 실시예들에 따른 송신기 또는 수신기는 V-PCC 비디오 관련 복수 트랙 또는 단수 트랙을 효율적으로 저장하고 시그널링할 수 있다. 또한, V-PCC 비디오의 패치 데이터 그룹(patch data group) 연관 샘플레벨, 샘플 그룹 레벨, 시퀀스 레벨 파라미터를 효율적으로 시그널링할 수 있다.
V-PCC 비트스트림은 V-PCC유닛들의 세트로 구성될 수 있다. 각 V-PCC 유닛은 헤더 및 페이로드를 가질 수 있다. 헤더는 V-PCC유닛의 타입을 나타내는 필드를 가질 수 있다. V-PCC유닛의 타입에 따라서, 페이로드는 2D비디오 인코딩된 정보(인코딩된 포인트 클라우드의 지오메트리, 어트리뷰트 및 어큐판시 맵 컴포넌트들에 대한 정보임), 논-비디오 인코딩된 정보(패치 시퀀스 데이터에 대한 정보임), 또는 구성 및 메타데이터 정보(시퀀스 파라미터 세트들에 대한 정보임)을 포함할 수 있다. ISOBMGG V-PCC 컨테이너는 도24와 같다. 도24의 V-PCC비트스트림 내 각 V-PCC 유닛이 각 타입에 기반하여 파일(24000) 내 개별적 트랙들(24010)에 매핑될 수 있다. 예들 들어, 어트리뷰트 트랙, 어큐판시 트랙, 지오메트리 트랙, V-PCC트랙이 V-PCC비트스트림 내 V-PCC 유닛들에 매핑될 수 있다.
도24의 파일 구조는 도1의 인캡슐레이터(1002, 파일/세그먼트 인캡슐레이션 모듈은 인캡슐레이터로 줄여서 지칭 가능), 도4의 멀티플렉서(40013), 도18의 다중화부(180007), 도20의 인캡슐레이터(20007), 도21의 인캡슐레이터(21009), 도23의 XR디바이스(1230)에 의해 생성되고, 도1의 디캡슐레이터(10007, 파일/세그먼트 디캡슐레이션 모듈은 디캡슐레이터로 줄여서 지칭 가능), 도16의 디멀티플렉서(16000), 도19의 역다중화부(19000), 도20의 디캡슐레이터(20005), 도22의 디캡슐레이터(22000), 도23의 XR디바이스(1230)에 의해 파싱될 수 있다.
각 트랙은 트랙이 포함하는 데이터의 타입에 따라서, 어트리뷰트 트랙은 어트리뷰트 데이터에 대한 메타데이터 및/또는 비디오 코딩된 어트리뷰트 데이터 비트스트림을 포함할 수 있고, 어큐판시 크랙은 어큐판시 데이터에 대한 메타데이터 및/또는 비디오 코딩된 지오메트리 데이터 비트스트림을 포함할 수 있고, 지오메트리 트랙은 지오메트리 데이터에 대한 메타데이터 및/또는 비디오 코딩된 지오메트리 데이터 비트스트림을 포함할 수 있고, V-PCC 트랙은 패치에 관한 메타데이터 및/또는 패치 시퀀스 데이터 비트스트림을 포함할 수 있다.
2D 비디오 트랙들은 실시예들에 따른 비디오 인코더에 따라 인코딩된다.
샘플 엔트리 내, 엑스트라 박스가 삽입되고 V-PCC시스템 내 트랙에 포함된 비디오 비디오 스트림의 롤을 기술할 수 있다.
V-PCC패치 데이터 트랙으로부터 패치 트랙에 기반하여 트랙 레퍼런스가 비디오 트랙에 삽입되어 특정 포인트 클라우드의 비디오 트랙의 멤버쉽을 생성할 수 있다.
트랙 헤더 플래그들이 0으로 세팅되면, 트랙이 다이렉트하게 무비의 전반적인 보존에 기여하지 않고, V-PCC 시스템에 기여함을 나타낼 수 있다.
동일한 V-PCC 시퀀스에 속하는 트랙들은 타임-얼라인되어 있다. 상이한 비디오 인코딩된 컴포넌트 트랙들 및 V-PCC트랙을 거쳐서 동일한 포인트 클라우드 프레임에 기여하는 샘플들은 동일한 프리젠테이션 타임을 가질 수 있다.
V-PCC 트랙은 시퀀스 파라미터 세트들 및 논-비디오 코딩된 인포메이션 V-PCC유닛들(non-video encoded information V-PCC units)의 페이로드를 전달하는 샘플들을 포함할 수 있다. 여기서, 논-비디오 코딩된 인포메이션 V-PCC유닛들은, 예를 들어, V-PCC 유닛 타입이 VPCC_SPS 및VPCC_PDG인 유닛을 의미할 수 있다.
이 트랙은 또한 비디오 컴프레스된 V-PCC유닛의 페이로드들을 전달하는 샘플들을 포함하는 다른 트랙들에 대한 트랙 레퍼런스를 제공할 수 있다. 여기서, 다른 트랙들은, 예를 들어, V-PCC 유닛 타입이 VPCC_GVD, VPCC_AVD, 및 VPCC_OVD인 유닛을 의미할 수 있다.
타입 VPCC_GVD의 V-PCC유닛들의 페이로드들인 지오메트리 데이터에 대한 비디오 코딩된 엘리멘테리 스트림들을 포함하는 샘플들이 하나 또는 하나 이상의 비디오 스트림에 포함될 수 있다.
타입 VPCC_AVD 의 V-PCC 유닛들의 페이로드들인 어트리뷰트 데이터에 대한 비디오 코딩된 엘리멘테리 스트림들을 포함하는 샘플들이 하나 또는 하나 이상의 비디오 스트림에 포함될 수 있다.
타입 VPCC_OVD의 V-PCC유닛들의 페이로드들인 어큐판시 맵 데이터에 대한 비디오 코딩된 엘리멘테리 스트림들을 포함하는 샘플들이 하나 또는 하나 이상의 비디오 스트림에 포함될 수 있다.
컴포넌트 트랙들 내 엘리멘테리 스트림들 간 동기화는 ISO BMFF 트랙 타이밍 스트럭쳐들(무비 프래그먼트들 내 ctts 및 cslg 또는 동일한 메카니즘)에 의해 처리될 수 있다.
상이한 비디오 인코딩된 컴포넌트 트랙들 및 V-PCC트랙을 거쳐서 동일한 포인트 클라우드 프레임에 기여하는 샘플들은 동일한 컴포지션 타임을 가질 수 있다. 샘플들을 위해 사용되는 V-PCC 파라미터 세트들은 프레임의 컴포지션 시간과 동일하거나 앞서는 디코딩 타임을 가진다.
PCM은 펄스 코드 모듈레이션(Pulse Code Modulation)을 의미한다. 미싱된 포인트 클라우드 포인트들은 PCM에 의해 인코딩될 수 있다. PCM이 사용되면, PCM 데이터를 포함하는 데이터 유닛의 코덱 타입이 다른 데이터 타입들에 대한 코덱 타입과 상이할 수 있다.
PCM 비디오 데이터는 컴포넌트(예를 들어, 지오메트리, 어트리뷰트)마다 생성될 수 있다. 플레이어들 또는 클라이언트들이 적절하게 동작되도록, PCM이 사용되는지 필요하지 않는지에 대한 인디케이션이 시그널링될 수 있다.
도25는 실시예들에 따른 V-PCC 비트스트림의 구성을 나타낸다.
V-PCC 비트스트림은 도4의 V-PCC 인코더, 도15의 비디오/이미지 인코더, 도18의 다중화부(18007) 등에서 생성될 수 있다. 도24의 파일에 인캡슐레이터되는 데이터는 도25의 비트스트림일 수 있다.
V-PCC 비트스트림은 어큐판시 비디오(25000), 지오메트리 비디오(25010), 어트리뷰트 비디오(25020), 패치 데이터 그룹(25030)을 포함할 수 있다.
어큐판시(25000)는 어큐판시 비디오, 어큐판시 비디오 데이터, 어큐판시 데이터 등으로 지칭될 수 있다.
지오메트리 비디오(25010, 지오메트리 데이터, 지오메트리, 지오메트리 비디오 데이터 등으로 지칭될 수 있음)는 지오메트리 레이어 별로 존재할 수 있다. 지오메트리 레이어는 지오메트리 데이터를 인코딩 시 하나 또는 하나 이상의 레이어에 기반하여 인코딩할 때 데이터를 구분하는 단위일 수 있다. 예를 들어, 지오메트리 데이터를 옥트리 구조로 표현할 때 뎁스/레벨 등이 지오메트리 레이어 등으로 해석될 수 있다.
V-PCC 인코딩 시 PCM 방식이 적용되는 경우, 지오메트리 PCM비디오가 추가로 V-PCC비트스트림에 존재할 수 있다.
어트리뷰트 비디오(25020)는 어트리뷰트 데이터, 어트리뷰트, 어트리뷰트 비디오 데이터 등으로 지칭될 수 있다. 어트리뷰트 비디오(25020)는 어트리뷰트 레이어 별로 존재할 수 있다. 어트리뷰트 레이어는 어트리뷰트 데이터를 인코딩 시 하나 또는 하나 이상의 레이어에 기반하여 인코딩할 때 데이터를 구분하는 단위일 수 있다. 예를 들어, 어트리뷰트 데이터를 LOD에 기반하여 표현할 때 LOD 인덱스등이
어트리뷰트 레이어 등으로 해석될 수 있다.
V-PCC 인코딩 시 PCM방식이 적용되는 경우, 어트리뷰트 PCM 비디오가 추가로 V-PCC비트스트림에 존재할 수 있다.
패치 데이터 그룹(25030)은 패치에 관한 정보를 포함하는 그룹이다. 각 포인트 클라우드 프레임에 대한 2D 패치들에 관한 인포메이션이 여기에 포함될 수 있다. 예를 들어, 패치들에 관한 사이즈, 2D플레이스먼트(placement), 3D포인트 클라우드 내 3D 리젼에 대응하는 포지션, 프로젝션 플레인, LOD 파라미터 등이 있을 수 있다.
구체적으로, 패치 데이터 그룹(25030)은 패치 SPS(patch SPS), 패치 FPS (Patch FPS), 패치 타일 그룹(Patch Tile Group)들, 패치 GPS (Patch GPS), 패치 GPPS (Patch GPPS), 패치 APPS (Patch APPS), 패치 APS (Patch APS), 서픽스 SEI(Suffix SEI), 프리픽스 SEI(Prefix SEI) 등을 포함할 수 있다.
패치 데이터 그룹의 상세한 설명은 이하에서 설명하기로 한다.
한편, 어큐판시(25000), 지오메트리 레이어의 지오메트리 비디오(25010), 어트리뷰트 레이어의 어트리뷰트 비디오(25020)들, 패치 데이터 그룹(25030)는 동일한 SPS ID를 갖는 SPS데이터를 레퍼런스할 수 있다.
이하에서, 패치 데이터 그룹 관련하여 파라미터를 시그널링하는 실시예들을 설명한다.
도25와 같이, V-PCC 비트스트림 내 패치 데이터 그룹(25030, PDG)은 PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS 등 patch 파라미터를 포함할 수 있다.
패치 데이터 그룹은 아틀라스 타일 데이터에 대응될 수 있고, 패치 데이터 그룹에 대한 컨테이너는 날 유닛일 수 있다.
도26은 실시예들에 따른 패치 데이터 그룹(PDG)의 유닛의 타입을 나타낸다.
도26은 도25의 패치 데이터 그룹을 상세하게 나타낸다. 패치 데이터 그룹은 하나 또는 하나 이상의 PDG 유닛들로 구성될 수 있다. PDG 유닛은 복수의 타입에 따른 다양한 종류의 파라미터를 전달한다.
예를 들어, 도26과 같이, 타입(pdg_unit_type)이 0이면, 시퀀스 레벨 파라미터들(Sequence level parameters)인 패치 시퀀스 파라미터 세트(Patch sequence parameter set, PDG_PSPS)인 PDG 유닛을 나타낸다.
타입(pdg_unit_type)이 1이면, 프레임 레벨 파라미터들(Frame level parameters)인 패치 프레임 파라미터 세트(Patch frame parameter set, PDG_PFPS)인 PDG 유닛을 나타낸다.
타입(pdg_unit_type)이 2이면, 프레임 레벨 지오메트리 타입 파라미터들(Frame level geometry type parameters)인 패치 프레임 지오메트리 파라미터 세트(Patch frame geometry parameter set, PDG_PFGPS)인 PDG 유닛을 나타낸다.
타입(pdg_unit_type)이 3이면, 프레임 레벨 어트리뷰트 타입 파라미터들(Frame level attribute type parameters)인 패치 프레임 어트리뷰트 파라미터 세트(Patch frame attribute parameter set, PDG_PFAPS)인 PDG 유닛을 나타낸다.
타입(pdg_unit_type)이 4이면, 패치 레벨 지오메트리 타입 파라미터들(Patch level geometry type parameters)인 지오메트리 패치 파라미터 세트(Geometry patch parameter set, PDG_ GPPS)인 PDG 유닛을 나타낸다.
타입(pdg_unit_type)이 5이면, 패치 레벨 어트리뷰트 타입 파라미터들(Patch level attribute type parameters)인 어트리뷰트 패치 파라미터 세트(Attribute patch parameter set, PDG_ APPS)인 PDG 유닛을 나타낸다.
타입(pdg_unit_type)이 7이면, 프리픽스 SEI 메시지(Prefix SEI message, PDG_PREFIX_SEI)인 PDG 유닛을 나타낸다.
타입(pdg_unit_type)이 8이면, 서픽스 SEI 메시지(Suffix SEI message, PDG_ SUFFIX _SEI)인 PDG 유닛을 나타낸다.
도25의 V-PCC 비트스트림은 인캡슐레이터를 통해 도24와 같은 파일 구조로 표현될 수 있다.
패치 데이터 그룹(25030)인 PDG는 V-PCC 트랙(24010)에 포함될 수 있다.
V-PCC 트랙은 샘플 및 샘플을 설명하는 샘플 엔트리로 구성될 수 있다.
V-PCC 트랙 샘플 엔트리(sample entry)는 PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS 등 patch 파라미터를 포함할 수 있다
V-PCC 트랙의 샘플 엔트리의 구성은 다음과 같을 수 있다.
V-PCC 볼륨메트리 샘플 엔트리(VPCC volumetric sample entry)는 V-PCC 구성 박스(VPCCConfigurationBox)를 포함한다. V-PCC 구성 박스(VPCCConfigurationBox)는 V-PCC디코더 구성 레코드(VPCCDecoderConfigurationRecord)를 포함한다. 셋업 V-PCC 유닛들의 어레이(array of setup vpcc units) 및 샘플들 내 모든 데이터는 헤더에 의해 구성되는 서브시퀀트 V-PCC 유닛 사이즈(ssvu_vpcc_unit_size)를 갖는 샘플 스트림 V-PCC 유닛들(sample_stream_vpcc_units)로써 저장된다.
aligned(8) class VPCCDecoderConfigurationRecord {
unsigned int(8) configurationVersion = 1;
sample_stream_vpcc_header header;
unsigned int(8) numOfSetupUnits;
for (i=0; i<numOfSetupUnits; i++) {
sample_stream_vpcc_unit setupUnit;
}
// additional fields
unsigned int(8) numOfPDGSetupUnits;
for (i=0; i< numOfPDGSetupUnits; i++) {
sample_stream_vpcc_unit PDGsetupUnit;
}
}
실시예들에 따른 위 신택스는 파일 구조 상 샘플 엔트리 내 파라미터 세트가 어떻게 전달되는지를 나타낸다.
구성 버전(configurationVersion)은 버전 필드이다. 레코드에 대한 양립 불가한 변화는 버전 넘버의 변화에 의해 인디케이트된다.
헤더(header)는 샘플 스트림 V-PCC 헤더이다.
셋업 유닛(setupUnit)은 시퀀스 파라미터 세트(sequence_parameter_set)를 포함하고, 이 샘플 엔트리에 의해 참조되는 스트림에 대해 일정한 다른 V-PCC 유닛들을 포함한다.
샘플 스트림 VPCC 헤더(sample_stream_vpcc_header)는 샘플 엔트리의 헤더를 나타낸다.
셋업 유닛들의 개수(numOfSetupUnits)는 샘플 엔트리의 구분 단위인 셋업 유닛들의 개수를 나타낸다. 샘플 유닛들의 개수는 샘플 그룹 디스크립션 내 시그널링되는 셋업 유닛들의 개수를 의미한다. 셋업 유닛들의 개수는 디코더 구성 레코드 내 시그널링되는 V-PCC 파라미터 세트들의 개수를 나타낸다.
샘플 스트림 VPCC 유닛 셋업 유닛(sample_stream_vpcc_unit setupUnit)은 샘플 엔트리 내 데이터를 전달하는 셋업 유닛을 나타낸다.
PDG셋업 유닛들의 개수(numOfPDGSetupUnits)는 샘플 엔트리 내 PDG를 전달하는 셋업 유닛들의 개수를 나타낸다.
PDG 셋업 유닛들의 개수에 기반하여, 샘플 엔트리는 샘플 스트림 VPCC 유닛 PDG셋업 유닛을 시그널링한다. 샘플 스트림 VPCC 유닛 PDG셋업 유닛(sample_stream_vpcc_unit PDGsetupUnit)은 PDG 데이터를 전달하는 유닛을 나타낸다.
상술한 PDG 타입들의 PDG의 유닛, 예를 들어, NAL 유닛을 나타내고, 이 유닛은 이 샘플 엔트리가 시그널링하는 또는 샘플들의 그룹과 연관된 데이터를 전달하는 PDG에 대응된다.
한편, 셋업 유닛들의 개수(numOfSetupUnits)는PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS, PDG_PREFIX_SEI , 및/또는 PDG_SUFFIX_SEI 를 포함하는 패치 데이터 그룹 파라미터들의 개수를 나타내고, 디코더의 구성에 따라서 이 파라미터들이 시그널링될 수 있다.
또한, PDG셋업 유닛(PDGsetupUnit) 어레이는 패치 데이터 그룹 파라미터 세트들(PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS, PDG_PREFIX_SEI , 및/또는 PDG_SUFFIX_SEI)을 포함하고, 이 파라미터들은 이 트랙 내 샘플들과 연관된 정보이다.
실시예들에 따른 PDG셋업 유닛은 셋업 유닛으로 줄여서 지칭될 수 있다. 또한, 상술한 파라미터들을 전달하는 셋업 유닛의 컨테이너는 날 유닛(NAL UNIT)일 수 있다.
상술한 바와 같이, 패치 데이터 그룹은 아틀라스 데이터에 대응되며, 상술한 패치 관련 파라미터 등은 아틀라스 관련 파라미터에 대응된다.
구체적으로, 아틀라스 관련 파라미터는 NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 또는 NAL_SUFFIX_NSEI 등을 포함한다.
또한, 실시예들에 따른 아틀라스 파라미터를 파일 구조의 무브 박스(MOOV), 데이터 박스(MDAT)의 샘플 그룹, 샘플 엔트리, 샘플 등에 위치할 수 있고, 어디에 위치하느냐에 따라서, 다이나믹하거나 스태틱한 데이터 엑세스 효과가 있다.
구체적으로, MDAT에 위 파라미터들이 전달되면, 데이터 엑세스가 다이나막하고, MOOV에 있으면, 데이터 엑세스가 스태틱할 수 있다.
실시예들에 따른 각 샘플이 해당 샘플과 연관된 파라미터 세트들을 함께 포함할 수 있다. 여기서, V-PCC트랙 내 각 샘플은 싱글 포인트 클라우드 프레임에 대응한다.
V-PCC 샘플의 신택스는 다음과 같을 수 있다.
aligned(8) class VPCCSample
{
unsigned int VPCCLength = sample_size; //Size of Sample e.g. from SampleSizeBox
for (i=0; i< VPCCLength; ) // to end of the sample
{
sample_stream_vpcc_unit unit;
i += (ssvh_unit_size_precision_bytes_minus1 + 1) + unit.ssvu_vpcc_unit_size;
}
}
VPCC길이(VPCCLength)는 샘플의 사이즈를 나타내는 샘플 사이즈(sample_size)에 대응한다. 샘플의 사이즈는 샘플사이즈박스(SampleSizeBox)에 기술될 수 있다.
V-PCC 유닛 페이로드 사이즈(vpcc_unit_payload_size)는 V-PCC 유닛 페이로드(vpcc_unit_payload)를 위한 바이트의 수를 제공한다.
샘플 스트림 V-PCC 유닛(sample_stream_vpcc_unit)은 타입 VPCC_PDG의 V-PCC 유닛이다. 이 유닛은 파리미터 세트들(PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS, PDG_PREFIX_SEI , or PDG_SUFFIX_SEI)을 포함할 수 있다.
V-PCC 샘플은 샘플의 사이즈에 기반하여 파라미터 세트들을 시그널링할 수 있다.
하나 이상의 V-PCC 샘플(sample)에 적용가능한 파라미터 세트(parameter set)를 효율적으로 시그널링 하기 위해 하기와 같이 샘플들을 그룹핑하는 샘플 그룹핑(sample grouping) 을 할 수 있다.
V-PCC 트랙은 제로 또는 하나의 샘플투그룹박스(SampleToGroupBox)를 포함하고, 샘플투그룹박스의 경우, 그룹핑 타입(grouping_type)이 vpcs일 수 있다.
샘플투그룹박스는 이 트랙 내 대응하는 샘플들에 연관된 패치 파라미터 세트들(PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS, PDG_PREFIX_SEI , or PDG_SUFFIX_SEI)을 포함할 수 있다.
그룹핑 타입이 'vpcs'인 샘플투그룹박스가 존재하면, 동일한 그룹핑 타입을 갖는 샘플그룹디스크립션박스(SampleGroupDescriptionBox)이 존재한다.
샘플 그룹핑이 적용되는 경우, V-PCC 패치 그룹 디스크립션 엔트리의 신택스는 다음과 같을 수 있다. 이때, 샘플 그룹 디스크립션 엔트리(SampleGroupDescriptionEntry)를 다음과 같이 확장할 수 있다.
aligned(8) class VPCCPatchGroupDescriptionEntry() extends SampleGroupDescriptionEntry ('vpcs'){
unsigned int(8) numOfPDGSetupUnits;
for (i=0; i< numOfPDGSetupUnits; i++) {
sample_stream_vpcc_unit PDGsetupUnit;
}
}
셋업 유닛들의 개수(numOfSetupUnits)는 패치 데이터 그룹 파라미터 세트들(PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS, PDG_PREFIX_SEI , or PDG_SUFFIX_SEI)의 개수이다.
PDG 셋업 유닛(PDGsetupUnit) 어레이는 이 그룹의 샘플에 연관된 패치 데이터 그룹 파라미터 세트들(PDG_PSPS, PDG_PFPS, PDG_PFGPS, PDG_PFAPS, PDG_GPPS, PDG_APPS, PDG_PREFIX_SEI , or PDG_SUFFIX_SEI)을 포함할 수 있다.
도27은 실시예들에 따른 샘플 스트림 V-PCC 헤더를 나타낸다.
도27은 도48에서 도시된 샘플 스트림 V-PCC 헤더(sample_stream_vpcc_header)를 나타낸다.
샘플 스트림 V-PCC 헤더 유닛 사이즈 프리시젼 바이트(ssvh_unit_size_precision_bytes_minus1): 이 값에 1을 더하면, 모든 샘플 스트림 V-PCC 유닛들 내 ssvu_vpcc_unit_size 엘리먼트의 바이트 단위 정확도를 나타낸다. 이 값은 0 내지 7의 범위 내 있을 수 있다.
샘플 스트림 내 샘플 스트림 V-PCC 유닛들의 순서는 샘플 스트림 V-PCC 유닛 내 포함되는 V-PCC 유닛들의 디코딩 오더(order)를 따른다.
각 샘플 스트림 V-PCC 유닛의 컨텐츠는 샘플 스트림 V-PCC 유닛에 포함되는 V-PCC 유닛으로써 동일한 어세스 유닛과 관련이 있다.
V-PCC 유닛 사이즈(ssvu_vpcc_unit_size)는 후속하는(subsequent) V-PCC 유닛의 바이트 사이즈이다. ssvu_vpcc_unit_size를 나타내기 위해 사용되는 비트들의 수는 (ssvh_unit_size_precision_bytes_minus1 + 1) * 8와 같다.
샘플 스트림 V-PCC 유닛은 V-PCC 유닛 사이즈(ssvu_vpcc_unit_size)에 기반하여 V-PCC 유닛을 시그널링한다.
도28은 실시예들에 따른 V-CC 유닛을 나타낸다.
도28은 도27 및 도48에서 설명하는 V-PCC 유닛의 신택스이고, V-PCC 유닛은 헤더 및 페이로드를 포함한다. 계속해서, 다음 도면을 참조하며 헤더 및 페이로드의 구체적인 신택스를 설명한다.
도27, 28, 48 등의 V-PCC 유닛(또는 줄여서 유닛)을 포함하는V-PCC 비트스트림은 도1의 인코더(10002), 도4의 인코딩, 도15의 인코더(100), 도18의 비디오 부호화부(18005), 다중화부(18007), 도20의 비디오/이미지 인코더(20002, 20003), 인캡슐레이터(20004), 도21의 비디오/이미지 인코더(21007, 21008), 인캡슐레이터(21009), 도23의 XR디바이스(1230)에 의해 생성되고, 도1의 디코더(10008), 도16의 디코딩, 도17의 디코더(200), 도19의 역다중화부(19000), 비디오 복화부(19001), 메타데이터 복호화부(19002), 도20의 디캡슐레이터(20005), 비디오/이미지 디코더(20006), 도22의 디캡슐레이터(22000), 비디오/이미지 디코더(22001, 22002), 도23의 XR디바이스(1230)에 의해 파싱될 수 있다.
도29는 실시예들에 따른 V-PCC 유닛의 헤더의 신택스를 나타낸다.
도29는 도28의 V-PCC 유닛의 헤더를 나타낸다. V-PCC 유닛 타입(vpcc_unit_type)은 V-PCC 유닛 타입을 나타낸다. 각 타입 값에 따라서, 다음과 같은 타입이 인디케이팅될 수 있다.
구체적으로, vpcc_unit_type의 값이 0이면, V-PCC 유닛이 VPCC_SPS이고, 시퀀스 레벨 파라미터들(Sequence level parameters)을 설명하는 시퀀스 파라미터 세트(Sequence parameter set)를 나타낸다.
vpcc_unit_type의 값이 1이면, V-PCC 유닛이 VPCC_ PDG 이고, 패치 그룹 정보(Patch group information)를 설명하는 패치 데이터 그룹(Patch Data Group)을 나타낸다.
vpcc_unit_type의 값이 2이면, V-PCC 유닛이 VPCC_ OVD 이고, 어큐판시 정보(Occupancy information)를 설명하는 어큐판시 비디오 데이터(Occupancy Video Data)를 나타낸다.
vpcc_unit_type의 값이 3이면, V-PCC 유닛이 VPCC_ GVD 이고, 지오메트리 정보(Geometry information)를 설명하는 지오메트리 비디오 데이터(Geometry Video Data)를 나타낸다.
vpcc_unit_type의 값이 4이면, V-PCC 유닛이 VPCC_ AVD 이고, 어트리뷰트 정보를 설명하는 어트리뷰트 비디오 데이터를 나타낸다.
vpcc_unit_type의 값이 그 외의 값, 예를 들어, 5 내지 31의 값을 가지면, V-PCC 유닛이 VPCC_ RSVD 이고, 추후 사용을 위해 예약된다.
V-PCC 시퀀스 파라미터 세트 아이디(vpcc_sequence_parameter_set_id)는 액티브 V-PCC SPS에 대한 시퀀스 파라미터 세트 아이디(sps_sequence_parameter_set_id)의 값을 명시한다. V-PCC 시퀀스 파라미터 세트 아이디의 값은 0 내지 15이하의 범위 내에 있을 수 있다. V-PCC 시퀀스 파라미터 세트 아이디는 vpcc_unit_type가 VPCC_AVD, VPCC_GVD, VPCC_OVD, 또는 VPCC_PDG 일때 시그널링될 수 있다.
V-PCC 유닛 타입(vpcc_unit_type)이 VPCC_AVD이면, 어트리뷰트에 관한 정보가 시그널링되고,
V-PCC 유닛 타입(vpcc_unit_type)이 VPCC_GVD 이면, 지오메트리에 관한 정보가 시그널링되고,
V-PCC 유닛 타입(vpcc_unit_type)이 VPCC_ OVD 또는 VPCC_PDG 이면, 어큐판시 정보, 패치 그룹 정보 등이 시그널링될 수 있다.
V-PCC 어트리뷰트 인덱스(vpcc_attribute_index)는 어트리뷰트 비디오 데이터 유닛(Attribute Video Data unit) 내 전달되는 어트리뷰트 데이터의 인덱스를 나타낸다. V-PCC 어트리뷰트 인덱스의 값은 0 내지 ai_attribute_count - 1 이하의 범위 내에 있을 수 있다.
V-PCC 어트리뷰트 디멘션 인덱스(vpcc_attribute_dimension_index)는 어트리뷰트 비디오 데이터 유닛(Attribute Video Data unit) 내 전달되는 어트리뷰트 디멘션 그룹의 인덱스를 나타낸다. V-PCC 어트리뷰트 디멘션 인덱스의 값은 0 내지 127이하의 범위를 가진다.
V-PCC 레이어 인덱스(vpcc_layer_index)는 현재 레이어의 인덱스를 나타낸다.
도30는 실시예들에 따른 PCM 세퍼레이트 비디오 데이터를 나타낸다.
도30은 도29의 PCM 세퍼레이트 비디오 데이터(pcm_separate_video_data)의 신택스를 나타낸다.
PCM 세퍼레이트 비디오 데이터는 V-PCC 유닛 헤더에서, VPCC_AVD, VPCC_GVD 등의 경우에 시그널링될 수 있다.
V-PCC PCM 비디오 플래그(vpcc_pcm_video_flag)가 1이면, 관련된 지오메트리 또는 어트리뷰트 비디오 데이터 유닛이 오직 PCM 코딩된 포인트 비디오인 경우를 나타낸다. V-PCC PCM 비디오 플래그(vpcc_pcm_video_flag)가 0이면, 관련 지오메트리 또는 어트리뷰트 비디오 데이터 유닛이 PCM 코딩된 포인트들을 포함할 수 있다. V-PCC PCM 비디오 플래그가 존재하지 않는 경우 그 값은 0으로 추론될 수 있다.
도1의 인코더(10002) 등이 포인트 클라우드 데이터를 PCM 기반으로 인코딩할 수 있고, 도25와 같이 PCM 지오메트리/어트리뷰트 데이터가 추가로 생성될 수 있다. 이러한 경우, V-PCC 유닛의 헤더가 PCM 데이터에 관한 시그널링을 제공할 수 있다.
도31은 실시예들에 따른 V-PCC 유닛의 페이로드를 나타낸다.
도31은 도28의 V-PCC 유닛의 V-PCC 유닛 페이로드의 신택스를 나타낸다.
V-PCC 유닛 페이로드는 유닛 타입(vpcc_unit_type)에 따른 데이터(파라미터)를 포함할 수 있다.
타입이 VPCC_SPS 이면, 시퀀스 파라미터 세트(sequence_parameter_set( ))가 페이로드에서 전달되고, 타입이 VPCC_ PDG 이면, 패치 데이터 그룹(patch_ data_group( ))이 페이로드에서 전달되고, 타입이 VPCC_ OVD, VPCC_GVD 또는 VPCC_AVD 이면, 그에 맞는 비디오 데이터 유닛이 페이로드에서 전달될 수 있다.
도32는 실시예들에 따른 시퀀스 파라미터 세트(sequence_parameter_set( ))를 나타낸다.
도32는 도31의 시퀀스 파라미터 세트의 구체적인 신택스를 나타낸다.
SPS시퀀스 파라미터 세트 아이디(sps_sequence_parameter_set_id)는 다른 신택스 엘리먼트들에 의한 참조를 위한 V-PCC SPS에 대한 식별자(identifier)를 제공한다. 이 값을 통해 다른 정보와 참조관계를 알 수 있다(도25 참조).
SPS 프레임 너비(sps_frame_width)는 정수 루마 샘플들 측면에서 노미널 프레임 너비를 나타낸다.
SPS 프레임 높이(sps_frame_height)는 정수 루마 샘플들(integer luma samples) 측면에서 노미널(nominal) 프레임 높이를 나타낸다.
SPS 평균 프레임 레이트 존재 플래그(sps_avg_frame_rate_present_flag)이 0이면, 비트스트림 내 평균 노미널 프레임 레이트 정보(average nominal frame rate information)가 지시되지 않음을 나타내고, SPS 평균 프레임 레이트 존재 플래그(sps_avg_frame_rate_present_flag)가 1이면, 비트스트림 내 평균 노미널 프레임 레이트 정보가 지시됨을 나타낸다.
SPS 평균 프레임 레이트(sps_avg_frame_rate)는 평균 노미널 포인트 클라우드 프레임 레이트를 256초당 포인트 클라우드 프레임들의 단위로 나타내고, SPS 평균 프레임 레이트(sps_avg_frame_rate)가 존재하지 않으면, 이것의 값은 0으로 추론된다.
리컨스트럭션 단계동안, 디코딩된 어큐판시, 지오메트리, 및 어트리뷰느 비디오들은 적절한 스케일링을 사용하여 노미널 너비, 높이, 및 프레임 레이트로 전환될 수 있다.
SPS 인핸스드 어큐판시 맵 뎁스 플래그(sps_enhanced_occupancy_map_for_depth_flag)가 1이면, 디코딩된 어큐판시 맵 비디오가 두 가지 뎁스 레이어들 간 중간 뎁스 포지션들(intermediate depth positions)이 점유되는지에 관한 정보를 포함함을 나타낸다. sps_enhanced_depth_code_enabled_flag가 0이면, 디코딩된 어큐판시 맵 비디오가 두 가지 뎁스 레이더들 간 중간 뎁스 포지션들이 점유되는지에 관한 정보를 포함하지 않음을 나타낸다.
SPS 레이어 카운트(sps_layer_count_minus1): 이 값에 1을 더하면, 지오메트리 및 어트리뷰트 데이터를 인코딩하기 위해 사용되는 레이어들의 개수를 나타낸다.
SPS 멀티플 레이어 스트림 존재 플래그(sps_multiple_layer_streams_present_flag)가 0이면, 모든 지오메트리 또는 어트리뷰트 레이어들이 싱글 지오메트리 또는 어트리뷰트 비디오 스트림 각각에 위치함을 나타낸다. sps_multiple_layer_streams_present_flag이 1이면, 모든 지오메트리 또는 어트리뷰트 레이어들이 개별적인 비디오 스트림들 내 위치함을 나타낸다.
SPS 레이어 앱솔루트 코딩 인에이블 플래그(sps_layer_absolute_coding_enabled_flag[ i ])가 2이면, 인덱스 I 를 가지는 지오메트리 레이어가 레이어 프레딕션의 형태 없이 코딩됨을 나타낸다. sps_layer_absolute_coding_enabled_flag[ i ]이 0이면, 인덱스 I를 가지는 지오메트리 레이어가 코딩에 앞서 코딩된 레이어보다 빨리 다른 것으로부터 처음으로 프레딕션됨을 나타낸다.
SPS레이어 프레딕터 인덱스 차이(sps_layer_predictor_index_diff[ i ])는 sps_layer_absolute_coding_enabled_flag[ i ] 가 0인 경우, 인덱스 I 를 갖는 지오메트리 레이어의 프레딕터를 계산하는 사용된다.
SPS PCM 패치 인에이블 플래그(sps_pcm_patch_enabled_flag)가 1이면, PCM 코딩된 포인트들을 가지는 패치들이 비트스트림 내 존재함을 나타낸다.
SPS PCM 개별적 비디오 존재 플래그(sps_pcm_separate_video_present_flag)가 1이면, PCM 코딩된 지오메트리 및 어트리뷰트 정보가 개별적 비디오 스트림 내 저장됨을 나타낸다.
SPS 어트리뷰트 카운트(sps_attribute_count)는 포인트 클라우드와 관련된 어트리뷰트들의 개수를 나타낸다.
SPS 패치 시퀀스 오리엔테이션 인에이블 플래그(sps_patch_sequence_orientation_enabled_flag)는 플렉셔블한 오리엔테이션이 패치 시퀀스 데이터 유닛 내에서 시그널링될 수 있는지 아닌지를 나타낸다. sps_patch_sequence_orientation_enabled_flag가 1이면, 플렉서블 오리엔테이션이 시그널링될 수 있음을 나타낸다. sps_patch_sequence_orientation_enabled_flag가 0이면, 플렉서블 오리엔테이션이 시그널링되지 않음을 나타낸다.
SPS 패치 인터 프레딕션 인에이블 플래그(sps_patch_inter_prediction_enabled_flag) 가 1이면, 패치 정보(patch information, 이전의 인코딩된 패치 프레임들의 패치 정보를 사용함)를 위한 인터-프리딕션이 사용됨을 나타낸다(equal to 1 indicates that inter prediction for patch information, using patch information from previously encoded patch frames, may be used).
SPS 픽셀 디인터리빙 플래그(sps_pixel_deinterleaving_flag)가 1이면, 디코딩된 지오메트리 및 어트리뷰트 비디오들에 대응하는 싱글 스트림(single stream)이 두 개의 레이어들의 인터리빙된 픽셀들을 포함함을 나타낸다. 해당 값이 0이면, 디코딩된 지오메트리 및 어트리뷰트 비디오들에 대응하는 싱글 스트림(single stream)이 하나의 레이어의 픽셀들만 포함함을 나타낸다(equal to 1 indicates that the decoded geometry and attribute videos corresponding to a single stream contain interleaved pixels from two layers. sps_pixel_deinterleaving_flag equal to 0 indicates that the decoded geometry and attribute videos corresponding to a single stream contain pixels from only a single layer).
SPS 포인트 로컬 리컨스트럭션 인에이블 플래그(sps_point_local_reconstruction_enabled_flag)가 1이면, 로컬 리컨스트럭션 모드(local reconstruction mode)가 포인트 클라우드 리컨스트럭션 과정에서 사용됨을 나타낸다(equal to 1 indicates that the local reconstruction mode may be used during the point cloud reconstruction process_.
SPS 리무브 중복 포인트 인에블 플래그(sps_remove_duplicate_point_enabled_flag) 가 1이면, 듀플리케이티드 포인트들이 리컨스트럭트 되지 않음을 나타낸다. 듀플리케이티드 포인트(duplicated point)는, 동일한 2D 및 로워 레이어(lower layer)의 다른 포인트와 같은 3D 지오메트리 좌표를 갖는 포인트를 의미한다( equal to 1 indicates that duplicated points shall not be reconstructed, where a duplicated point is a point with the same 2D and 3D geometry coordinates as another point from a lower layer).
SPS 지오메트리 어트리뷰트 디퍼런스 레이어 플래그(sps_geometry_attribute_different_layer_flag) 가 1이면, 지오메트리 데이터와 어트리뷰트 데이터를 인코딩하는데 사용되는 레이어들의 수가 다름을 나타낸다. 예를 들어, 두 개의 레이어가 지오메트리 코딩을 위해 사용될 수 있는 반면, 하나의 레이어가 어트리뷰트 코딩을 위해 사용될 수 있다. 이 경우 이 값은 1일 수 있다. 이 값이 1이면, 지오메트리 데이터와 어트리뷰트 데이터가 인코딩되기 위해 사용되는 레이어들의 수가 패치 시퀀스 데이터 유닛에 시그널링되는지 되지 않는지를 나타낸다(equal to 1 indicates the number of layers used for encoding the geometry and attribute data are different. For example, while two layer could be used for the geometry coding, the one layer could be used for attribute. sps_geometry_attribute_different_layer_flag equal to 1 indicates whether the number of layeres used for encoding geometry and attribute data may be signalled in the patch sequence data unit or not).
SPS레리어 카운트 지오메트리(sps_layer_count_geometry_minus1) 에 1을 더한 값은, 지오메트리 데이터를 인코딩하기 위해 사용되는 레이어들의 수를 나타낸다(plus 1 indicates the number of layers used for encoding the geometry data)
SPS 레이어 카운트 어트리뷰트(sps_layer_count_attribute_minus1[i]) 에 1을 더한 값은, 해당 포인트 클라우드 데이터와 연관된 i번째 어트리뷰트 데이터를 인코딩하기 위해 사용되는 레이어들의 수를 나타낸다(plus 1 indicates the number of layers used for encoding the i-th attribute data associated with the point cloud)
도33은 실시예들에 따른 패치 데이터 그룹(patch_data_group) 및 패치 데이터 그룹 유닛의 페이로드(patch_data_group_unit_payload)의 신택스를 나타낸다.
도33은 도25의 패치 데이터 그룹의 구체적인 신택스를 나타낸다.
PDG유닛 타입(pdg_unit_type) 은 패치 데이터 그룹(patch data group)의 타입을 나타낸다.
PDG 터이네이트 패치 데이터 그룹 플래그(pdg_terminate_patch_data_group_flag) 는 패치 데이터 그룹의 끝(end)을 나타낸다(indicates the end of a patch data group).
PDG터미네이트 패치 데이터 그룹 정보 플래그(pdg_terminate_patch_data_group_information_flag) 가 0인 경우, 추가적인 패치 데이터 그룹 유닛들이 패치 데이터 그룹에 존재함을 나타낸다. 해당 정보가 1인 경우, 해당 패치 데이터 그룹 내에 더 이상의 패치 데이터 그룹 유닛들이 존재하지 않음을 나타내고, 이 패치 데이터 그룹 유닛이 마지막임을 나타낸다 (equal to 0 indicates that there are additional patch data group units present in the patch data group. pdg_terminate_patch_data_group_flag equal to 1 indicates that there are no more patch data group units present in the patch data group and that this is the end of the current patch data group unit).
아래 테이블은 패치 데이터 그룹 유닛 타입들을 나타낸다.
*Patch Data Group Unit Types
| pdg_unit_type | Identifier | Patch Data Group Unit Type | Description |
| 0 | PDG_PSPS | Patch sequence parameter set | Sequence level parameters |
| 1 | PDG_PFPS | Patch frame parameter set | Frame level parameters |
| 2 | PDG_PFGPS | Patch frame geometry parameter set | Frame level geometry type parameters |
| 3 | PDG_PFAPS | Patch frame attribute parameter set | Frame level attribute type parameters |
| 4 | PDG_GPPS | Geometry patch parameter set | Patch level geometry type parameters |
| 5 | PDG_APPS | Attribute patch parameter set | Patch level attribute type parameters |
| 6 | PDG_PTGLU | Patch tile group layer unit | Patch tile group layer unit |
| 7 | PDG_PREFIX_SEI | Prefix SEI message | Prefix SEI message |
| 8 | PDG_SUFFIX_SEI | Suffix SEI message | Suffix SEI message |
| 9...31 | PDG_RSVD | Reserved |
patch_data_group_unit_payload( unitType ) 는 실시예들에 따른 패치 데이터 그룹 유닛의 페이로드를 나타낸다. patch_data_group_unit_payload(unitType)은 실시예들에 따른 패치 데이터 그룹(patch_data_group)내에 하나 또는 그 이상 포함될 수 있다. patch_data_group_unit_payload은 패치 데이터 그룹의 유닛의 타입(unitType)을 매개변수로 할 수 있고, unitType은 상술한 pdg_unit_type일 수 있다.
패치 데이터 그룹 유닛의 페이로드는 유닛 타입(unitType)에 따라서, 패치 시퀀스 파라미터 세트(PDG_PSPS), 지오메트리 패치 파라미터 세트(PDG_GPPS), 어트리뷰트 패치 파라미터 세트(PDG_APPS), 패치 프레임 파라미터 세트(PDG_PFPS), 패치 프레임 어트리뷰트 파라미터 세트(PDG_PFAPS), 패치 프레임 지오메트리 파라미터 세트(PDG_PFGPS), 패치 타일 그룹 레이어 유닛(PDG_PTGLU), SEI메시지(PDG_PREFIX_SEI), SEI메시지(PDG_SUFFIX_SEI) 등을 포함할 수 있다.
각 페이로드의 구체적인 신택스를 이하에서 설명한다.
도34는 실시예들에 따른 패치 시퀀스 파라미터 세트(Patch sequence parameter set), 패치 프레임 지오메트리 파라미터 세트(Patch frame geometry parameter set), 지오메트리 프레임 파라미터(Geometry frame params)의 신택스를 나타낸다.
도34내지 도47은, 도33에서 페이로드에 포함될 수 있는 각 파라미터 세트를 하나씩 설명한다.
한편, 본 명세서에서 패치는 아틀라스에 대응되는 용어로 사용된다. 마찬가지로, 패치 데이터는 아틀라스 데이터에 대응될 수 있고, 두 용어는 상호 보완적으로 사용될 수 있다.
본 명세서에서 시그널링 정보는 기재된 필드 명칭의 의미로 제한 해석되지 않고 시그널링 정보가 의도하는 동작을 나타내는 필드 명칭으로 지칭될 수 있다.
패치 시퀀스 파라미터 세트:
PSPS 패치 시퀀스 파라미터 세트 ID(psps_patch_sequence_parameter_set_id) 는 다른 신텍스 엘리먼트에 의한 참조(reference)를 위한 패치 시퀀스 파라미터 세트(patch sequence parameter set)에 대한 식별자를 나타낸다. 이 파라미터는 0 내지 15의 값을 가진다(provides an identifier for the patch sequence parameter set for reference by other syntax elements. The value of psps_patch_sequence_parameter_set_id shall be in the range of 0 to 15, inclusive).
PSPS 패치 패킹 블록 사이즈(psps_log2_patch_packing_block_size) 는 프레임 캔버스(frame canvas) 내의 패치들의 수평(horizontal) 및 수직(Vertical) 위치 PatchPackingBlockSize의 값을 나타낸다(specifies the value of the variable PatchPackingBlockSize, that is used for the horizontal and vertical placement of the patches within the frame canvas)
PSPS 맥스 패치 프레임 오더 카운트(psps_log2_max_patch_frame_order_cnt_lsb_minus4) 는 패치 프레임 오더 카운트에 대한 디코딩 프로세스에 사용되는 MaxPatchFrmOrderCntLsb의 값을 나타낸다(specifies the value of the variable MaxPatchFrmOrderCntLsb that is used in the decoding process for the patch frame order count).
PSPS 맥스 디코딩 패치 프래임 버퍼링(psps_max_dec_patch_frame_buffering_minus1) 에 1을 더한 값은 패치 프레임 저장 버러(patch frame storage buffer)의 유닛들 내의 CPCS에 대한 디코딩된 패치 프레임 버퍼의 최대 요구 사이즈를 나타낸다. 이 값은 0 내지 MaxDpfbSize - 1의 값을 가질 수 있다(plus 1 specifies the maximum required size of the decoded patch frame buffer for the CPCS in units of patch frame storage buffers. The value of psps_max_dec_patch_frame_buffering_minus1 shall be in the range of 0 to MaxDpfbSize - 1, inclusive,).
PSPS 롱텀 레퍼런스 패치 프래임 플래그(psps_long_term_ref_patch_frames_flag) 이 0인 경우, 롱 텀 레퍼런스 패치 프레임(long term reference patch frame)이 CPCS 내의 어떤 코딩된 패치 프레임도 인터 프리딕션(inter prediction)을 위해 사용되지 않았음을 나타낸다. 해당 값이 1인 경우, 이는 롱 텀 레퍼런스 패치 프레임(long term reference patch frame)이 CPCS 내의 코딩된 패치 프레임에 인터 프리딕션(inter prediction)을 위해 사용될 수 있음을 나타낸다(equal to 0 specifies that no long term reference patch frame is used for inter prediction of any coded patch frame in the CPCS. psps_long_term_ref_patch_frames_flag equal to 1 specifies that long term reference patch frames may be used for inter prediction of one or more coded patch frames in the CPCS).
PSPS 레퍼런스 패치 프레임 리스트들 개수(psps_num_ref_patch_frame_lists_in_psps) 는 실시예들에 따른 패치 시퀀스 파라미터 세트 내에 포함된 ref_list_struct(rlsIdx) 신텍스 구조의 수를 나타낸다. 이 값은 0 내지 64일 수 있다( specifies the number of the ref_list_struct( rlsIdx ) syntax structures included in the patch sequence parameter set. The value of psps_num_ref_patch_frame_lists_in_psps shall be in the range of 0 to 64, inclusive).
PSPS 오리엔테이션 플래그(psps_use_eight_orientations_flag) 이 0인 경우, 이는 프레임의 인덱스가 i이고 해당 프레임의 패치 인덱스가 j인 패치(pdu_orientation_index[i][j])에 대한 패치 오리엔테이션 인덱스(patch orientation index)가 0 내지 1임을 나타낸다. 이 값이 1이면, pdu_orientation_index[i][j]가 0 내지 7임을 나타낸다(equal to 0 specifies that the patch orientation index for a patch with index j in a frame with index i, pdu_orientation_index[ i ][ j ], is in the range of 0 to 1, inclusive. psps_use_eight_orientations_flag equal to 1 specifies that the patch orientation index for a patch with index j in a frame with index i, pdu_orientation_index[ i ][ j ], is in the range of 0 to 7, inclusive.)
PSPS 노멀 축 제한 양자화 인에이블 플래그(psps_normal_axis_limits_quantization_enable_flag) 가 1이면, 양자 파라미터(quantization parameter)들이 반드시 시그널링되고, 양자 파라미터가 패치 데이터 유닛 또는 델타 패치 데이터 유닛(delta patch data unit)의 노멀 축(normal axis)과 관련된 요소(element)들을 양자화하는데 사용됨을 나타낸다. 이 파라미터가 0이면, 어떠한 패치 데이터 유닛 또는 델타 패치 데이터 유닛의 노멀 축 관련 요소들이 양자화되지 않음을 나타낸다(equal to 1 specifies that quantization parameters shall be signalled and used for quantizing the normal axis related elements of a patch data unit or a delta patch data unit. If psps_normal_axis_limits_quantization_enable_flag is equal to 0, then no quantization is applied on any normal axis related elements of a patch data unit or a delta patch data unit).
PSPS 노멀 축 맥스 델타 값 인에이블 플래그(psps_normal_axis_max_delta_value_enable_flag) 가 1이면, 프레임 인덱스가 j인 프레임 내의 패치 인덱스가 i인 패치의 지오메트리 정보에 존재할 수 있는 노멀 축의 최대 노미널 쉬프트(maximum nominal shift)가 각 패치 데이터 유닛 또는 델타 패치 데이터 유닛에 대한 비트스트림 내에 인디케이트됨을 나타낸다. 해당 파라미터가 0인 경우, 프레임 인덱스가 j인 프레임 내의 패치 인덱스가 i인 패치의 지오메트리 정보에 존재할 수 있는 노멀 축의 최대 노미널 쉬프트(maximum nominal shift)가 각 패치 데이터 유닛 또는 델타 패치 데이터 유닛에 대한 비트스트림 내에 인디케이트될 수 없음을 나타낸다(equal to 1 specifies that the maximum nominal shift value of the normal axis that may be present in the geometry information of a patch with index i in a frame with index j will be indicated in the bitstream for each patch data unit or a delta patch data unit. If psps_normal_axis_max_delta_value_enable_flag is equal to 0 then the maximum nominal shift value of the normal axis that may be present in the geometry information of a patch with index i in a frame with index j shall not be be indicated in the bitstream for each patch data unit or a delta patch data unit).
패치 프레임 지오메트리 파라미터 세트:
PFGPS 지오메트리 프레임 파라미터 세트 아이디(pfgps_geometry_frame_parameter_set_id) 는 다른 신텍스 엘리먼트에 의해 참조되기 위해 패치 프레임 지오메트리 파라미터 세트를 식별한다. 이 값은 0 내지 63의 값을 가질 수 있다(identifies the patch frame geometry parameter set for reference by other syntax elements. The value of pfgps_geometry_frame_parameter_set_id shall be in the range of 0 to 63, inclusive).
PFGPS 패치 시퀀스 파라미터 세트 아이디(pfgps_patch_sequence_parameter_set_id) 는 액티브(active) 패치 시퀀스 파라미터 세트에 대한 psps_patch_sequence_parameter_set_id의 값을 나타낸다. 이 값은 0 내지 15의 값을 가질 수 있다(specifies the value of psps_patch_sequence_parameter_set_id for the active patch sequence parameter set. The value of pfgps_patch_sequence_parameter_set_id shall be in the range of 0 to 15, inclusive.)
PFGPS 지오메트리 패치 스케일 파라미터 인에블 플래그(pfgps_geometry_patch_scale_params_enabled_flag) 는 지오메트리 패치 스케일 파라미터(geometry patch scale parameter)들이 시그널링되는지 되지 않는지 여부를 나타낸다. 이 값이 1이면, 지오메트리 패치 스케일 파라미터들이 시그널링됨을 나타낸다. 이 값이 0이면 지오메트리 패치 스케일 파라미터들이 시그널링되지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론할 수 있다(indicates whether geometry patch scale parameters may be signalled or not. pfgps_geometry_patch_scale_params_enabled_flag equal to 1 indicates that geometry patch scale parameters may be signalled. pfgps_geometry_patch_scale_params_enabled_flag equal to 0 indicates that geometry patch scale parameters shall not be signalled. When pfgps_geometry_patch_scale_params_enabled_flag is not present, it shall be inferred to be equal to 0).
PFGPS 지오메트리 패치 오프셋 파라미터 인에이블 플래그(pfgps_geometry_patch_offset_params_enabled_flag) 는 지오메트리 패치 오프셋 파라미터(geometry offset parameter)들이 시그널링되는지 되지 않는지 여부를 나타낸다. 이 값이 1이면, 지오메트리 패치 오프셋 파라미터들이 시그널링됨을 나타낸다. 이 값이 0이면 지오메트리 패치 오프셋 파라미터들이 시그널링되지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론할 수 있다(indicates whether geometry patch offset parameters may be signalled or not. pfgps_geometry_patch_offset_params_enabled_flag equal to 1 indicates that geometry patch offset parameters may be signalled. pfgps_geometry_patch_offset_params_enabled_flag equal to 0 indicates that geometry patch offset parameters shal not be signalled. When pfgps_geometry_patch_offset_params_enabled_flag is not present, it shall be inferred to be equal to 0).
PFGPS 지오메트리 패치 로테이션 파라미터 인에이블 플래그(pfgps_geometry_patch_rotation_params_enabled_flag) 는 지오메트리 패치 로테이션 파라미터(geometry roatation parameter)들이 시그널링되는지 되지 않는지 여부를 나타낸다. 이 값이 1이면, 지오메트리 패치 로테이션 파라미터들이 시그널링됨을 나타낸다. 이 값이 0이면 지오메트리 패치 로테이션 파라미터들이 시그널링되지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론할 수 있다(indicates whether geometry patch rotation parameters may be signalled or not. pfgps_geometry_patch_rotation_params_enabled_flag equal to 1 indicates that geometry patch rotation parameters may be signalled. pfgps_geometry_patch_rotation_params_enabled_flag equal to 0 indicates that geometry patch rotation parameters shall not be signalled. When pfgps_geometry_patch_rotation_params_enabled_flag is not present, it shall be inferred to be equal to 0).
PFGPS 지오메트리 패치 포인트 사이즈 정보 인에이블 플래그(pfgps_geometry_patch_point_size_info_enabled_flag) 는 지오메트리 패치 포인트 크기 정보 (geometry patch point size information)들이 시그널링되는지 되지 않는지 여부를 나타낸다. 이 값이 1이면, 지오메트리 패치 포인트 크기 정보가 시그널링됨을 나타낸다. 이 값이 0이면 지오메트리 패치 포인트 크기 정보가 시그널링되지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론할 수 있다(indicates whether geometry patch point size information may be signalled or not. pfgps_geometry_patch_point_size_info_enabled_flag equal to 1 indicates that geometry patch point size information may be signalled. pfgps_geometry_patch_point_size_info_enabled_flag equal to 0 indicates that geometry patch point size information shall not be signalled. When pfgps_geometry_patch_point_size_info_enabled_flag is not present, it shall be inferred to be equal to 0).
PFGPS 지오메트리 패치 포인트 모양 정보 인에이블 플래그 (pfgps_geometry_patch_point_shape_info_enabled_flag) 는 지오메트리 패치 포인트 모양 정보(geometry patch point shape information)가 시그널링되는지 되지 않는지 여부를 나타낸다. 이 값이 1이면, 지오메트리 패치 포인트 모양 정보가 시그널링됨을 나타낸다. 이 값이 0이면 지오메트리 패치 포인트 크기 정보가 시그널링되지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론할 수 있다(indicates whether geometry patch point shape information may be signalled or not. pfgps_geometry_patch_point_shape_info_enabled_flag equal to 1 indicates that geometry patch point size information may be signalled. pfgfps_geometry_patch_point_shape_info_enabled_flag equal to 0 indicates that geometry patch point shape information shall not be signalled. When pfgps_geometry_patch_point_shape_info_enabled_flag is not present, it shall be inferred to be equal to 0).
지오메트리 프레임 파라미터:
GFP지오메트리 스무딩 파라미터 존재 플래그(gfp_geometry_smoothing_params_present_flag) 가 1이면, 지오메트리 스무딩 파라미터(geometry smoothing parameter)들이 존재함을 나타낸다. 이 값이 0이면 지오메트리 스무딩 파라미터들이 존재하지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론한다(equal to 1 indicates that geometry smoothing parameters are present. gfp_geometry_smoothing_params_present_flag equal to 0 indicates that geometry smoothing parameters are not present. When gfp_geometry_smoothing_params_present_flag is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 스케일 파라미터 존재 플래그(gfp_geometry_scale_params_present_flag) 는 지오메트리 스케일 파라미터(geometry scale parameter)들이 존재함을 나타낸다. 이 값이 0이면 지오메트리 스케일 파라미터들이 존재하지 않음을 나타낸다(equal to 1 indicates that geometry scale parameters are present. gfp_geometry_scale_params_present_flag equal to 0 indicates that geometry scale parameters are not present).
GFP 지오메트리 오프셋 파라미터 존재 플래그(gfp_geometry_offset_params_present_flag) 는 지오메트리 오프셋 파라미터(geometry offset parameter)들이 존재함을 나타낸다. 이 값이 0이면 지오메트리 오프셋 파라미터들이 존재하지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론한다(equal to 1 indicates that geometry offset parameters are present. gfp_geometry_offset_params_present_flag equal to 0 indicates that geometry offset parameters are not present. When gfp_geometry_offset_params_present_flag is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 회전 파라미터 존재 플래그(gfp_geometry_rotation_params_present_flag) 는 지오메트리 로테이션 파라미터(geometry rotation parameter)들이 존재함을 나타낸다. 이 값이 0이면 지오메트리 로테이션 파라미터들이 존재하지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론한다(equal to 1 indicates that geometry rotation parameters are present. gfp_geometry_rotation_params_present_flag equal to 0 indicates that geometry rotation parameters are not present. When gfp_geometry_rotation_params_present_flag is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 포인트 사이즈 정보 존재 플래그(gfp_geometry_point_size_info_present_flag) 는 지오메트리 포인트 사이즈 정보 (geometry point size information)이 존재함을 나타낸다. 이 값이 0이면 지오메트리 포인트 사이즈 정보가 존재하지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론한다(equal to 1 indicates that geometry point size information is present. gfp_geometry_point_size_info_present_flag equal to 0 indicates that geometry point size information is not present. When gfp_geometry_point_size_info_present_flag is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 포인트 모양 정보 존재 플래그(gfp_geometry_point_shape_info_present_flag) 는 지오메트리 포인트 모양 정보 (geometry point shape information)이 존재함을 나타낸다. 이 값이 0이면 지오메트리 포인트 모양 정보가 존재하지 않음을 나타낸다. 이 값이 존재하지 않으면 이 값은 0으로 추론한다(equal to 1 indicates that geometry point shape information is present. gfp_geometry_point_shape_info_present_flag equal to 0 indicates that geometry point shape information is not present. When gfp_geometry_point_shape_info_present_flag is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 스무딩 인에이블 플래그(gfp_geometry_smoothing_enabled_flag) 값이 1이면 지오메트리스무딩이 리컨스트럭션 과정 내 디코딩된 지오메트리에 지오메트리 스무딩(geometry smoothing)이 적용됨을 나타낸다. 이 값이 0이면, 상술한 리컨스트럭션 과정 내에서 지오메트리 스무딩이 적용되지 않음을 나타낸다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(equal to 1 specifies that the geometry smoothing is applied to the decoded geometry in the reconstruction process. gfp_geometry_smoothing_enabled_flag equal to 0 specifies the geometry smoothing is not applied in the reconstruction process. When not present, the value of gfp_geometry_smoothing_enabled_flag is inferred to be equal to 0).
GFP 지오메트리 스무딩 그리드 사이즈(gfp_geometry_smoothing_grid_size_minus2) 는 지오메트리 스무딩에 사용될 GeometrySmoothingGirdSize 변수의 값을 나타낸다. 이 값은 0 내지 126 범위를 가질 수 있다. 이 값이 존재하지 않으면 이 값은 0으로 추론된다. GeometrySmoothingGridSize 값은 다음과 같이 계산될 수 있다(specifies the value of the variable GeometrySmoothingGridSize used for the geometry smoothing. The value of gfp_geometry_smoothing_grid_size shall be in the range of 0 to 126, inclusive. When not present, the value of gfp_geometry_smoothing_grid_size_minus2 is inferred to be equal to 0. The value of GeometrySmoothingGridSize is computed as followsJ
GeometrySmoothingGridSize = gfp_geometry_smoothing_grid_size_minus2 + 2
GFP 지오메트리 스무딩 스레스홀드(gfp_geometry_smoothing_threshold) 는 스무딩 스레숄드(smoothing threshold)를 나타내낟. 이 값은 0 내지 255의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론된다(indicates the smoothing threshold. The value of gfp_geometry_smoothing_threshold shall be in the range of 0 to 255, inclusive. When not present, the value of gfp_geometry_smoothing_threshold shall be inferred to be equal to 0).
GFP 지오메트리 축 스케일(gfp_geometry_scale_on_axis[ d ]) 는 d 축의 스케일의 값을 나타낸다. 이 값은 0 내지 2^32-1의 값을 가진다. 이 때, d는 0내지 2일 수 있다. d의 값이 0, 1, 2이면 각각 X축, Y축, Z축을 나타낸다. gfp_geometry_scale_on_axis[ d ] 값이 존재하지 않으면 이 값은 0으로 추론한다(indicates the value of the scale along the d axis. The value of gfp_geometry_scale_on_axis[ d ], shall be in the range of 0 to 232 - 1, inclusive, where d is in the range of 0 to 2, inclusive. The values of d equal to 0, 1, and 2 correspond to the X, Y, and Z axis, respectively. When gfp_geometry_scale_on_axis[ d ] is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 축 오프셋(gfp_geometry_offset_on_axis[ d ]) 는 d축의 오프셋(offset)의 값을 나타낸다. 이 값은 -2^31 내지 2^31-1의 값을 가진다. 이 때, d는 0내지 2일 수 있다. d의 값이 0, 1, 2이면 각각 X축, Y축, Z축을 나타낸다. gfp_geometry_scale_on_axis[ d ] 값이 존재하지 않으면 이 값은 0으로 추론한다(indicates the value of the offset along the d axis. The value of gfp_geometry_offset_on_axis[ d ] shall be in the range of -231 to 231 - 1, inclusive, where d is in the range of 0 to 2, inclusive. The values of d equal to 0, 1, and 2 correspond to the X, Y, and Z axis, respectively. When gfp_geometry_offset_on_axis[ d ] is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 회전 X(gfp_geometry_rotation_x) 는 x축에 대한 지오메트리 회전 쿼터니온 컴포넌트 (geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry rotation quaternion component along the x axis. The value of gfp_geometry_rotation_x shall be in the range of -215 to 215 - 1, inclusive. When gfp_geometry_rotation_x is not present, it's value shall be inferred to be equal to 0).
GFP 지오메트리 회전 Y(gfp_geometry_rotation_y) 는 y축에 대한 지오메트리 회전 쿼터니온 컴포넌트 (geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry rotation quaternion component along the y axis. The value of gfp_geometry_rotation_y shall be in the range of -215 to 215 - 1, inclusive. When gfp_geometry_rotation_y is not present, it's value shall be inferred to be equal to 0).
GFP 지오메트리 회전 Z(gfp_geometry_rotation_z) 는 z축에 대한 지오메트리 회전 쿼터니온 컴포넌트 (geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry rotation quaternion component along the z axis. The value of gfp_geometry_rotation_z shall be in the range of -215 to 215 - 1, inclusive. When gfp_geometry_rotation_z is not present, it's value shall be inferred to be equal to 0).
GFP 지오메트리 회전 W(gfp_geometry_rotation_w) 는 w축에 대한 지오메트리 회전 쿼터니온 컴포넌트(geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry rotation quaternion component along the w axis. The value of gfp_geometry_rotation_w shall be in the range of -215 to 215 - 1, inclusive. When gfp_geometry_rotation_w is not present, it's value shall be inferred to be equal to 0).
GFP 지오메트리 포인트 크기 정보(gfp_geometry_point_size_info_minus1) 에 1을 더한 값은, 렌더링을 위해 사용되는 지오메트리 포인트 사이즈를 나타낸다. 이 값은 0 내지 65535의 범위의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(plus 1 indicates the geometry point size to be used for rendering. The value of gfp_geometry_point_size_info_minus1 shall be in the range of 0 to 65535, inclusive. When gfp_geometry_point_size_info_minus1 is not present, it shall be inferred to be equal to 0).
GFP 지오메트리 포인트 모양 정보(gfp_geometry_point_shape_info) 는 렌더링을 위해 사용될 지오메트리 포인트 모양을 나타낸다. 이 값은 0 내지 15의 범위를 갖는 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0의 값으로 추론한다(indicates the geometry point shape to be used for rendering. The value of gfp_geometry_point_shape_info shall be in the range of 0 to 15, inclusive, according to . When gfp_geometry_point_shape_info is not present, it shall be inferred to be equal to 0).
도35는 실시예들에 따른 패치 프레임 어트리뷰트 파라미터 세트(Patch frame attribute parameter set), 어트리뷰트 프레임 파라미터(Attribute frame params)의 신택스를 나타낸다.
패치 프레임 어트리뷰트 파라미터 세트 신택스(Patch frame attribute parameter set syntax):
PFAPS어트리뷰트 프레임 파라미터 세트 아이디(pfaps_attribute_frame_parameter_set_id) 는 다른 신텍스 엘리먼트에 의한 참조를 위해 어트리뷰트 프레임 파라미터 세트를 식별한다. 이 값은 0 내지 63의 값을 가진다(identifies the attribute frame parameter set for reference by other syntax elements. The value of pfaps_attribute_frame_parameter_set_id shall be in the range of 0 to 63, inclusive).
PFAPS 패치 시퀀스 파라미터 세트 아이디(pfaps_patch_sequence_parameter_set_id) 는 액티브(active) 패치 시퀀스 파라미터 세트에 대한 psps_patch_sequence_parameter_set_id의 값을 나타낸다. 이 값은 0 내지 15의 값을 가진다(specifies the value of psps_patch_sequence_parameter_set_id for the active patch sequence parameter set. The value of pfaps_patch_sequence_parameter_set_id shall be in the range of 0 to 15, inclusive).
PFAPS 어트리뷰트 디멘션(pfaps_attribute_dimension_minus1) 에 1을 더한 값은 pfaps_attribute_frame_parameter_set_id에 할당된 어트리뷰트의 디멘션(dimension, i.e. 채널들의 수)들의 수를 나타낸다. 이 값은 0 내지 255의 범위의 값을 가진다. 인덱스가 i인 어트리뷰트가 pfaps_attribute_frame_parameter_set_id의 id로 설정된 패스 프레임 어트리뷰트 파라미터 세트(path frame attribute parameter set)에 지정될 때보다 비트 스트림 적합성의 요구 사항을 나타낸다. 해당 패치 프레임 속성 매개 변수 세트의 pfaps_attribute_dimension_minus1의 값은 ai_attribute_dimension_minus1 [i]와 동일하다(plus 1 indicates the total number of dimensions (i.e., number of channels) of the attribute assigned to the pfaps_attribute_frame_parameter_set_id. pfaps_attribute_dimension_minus1 shall be in the range of 0 to 255, inclusive. It is a requirement of bitstream conformance than when an attribute with index i is assigned to a path frame attribute parameter set with an id of pfaps_attribute_frame_parameter_set_id that the value of pfaps_attribute_dimension_minus1 of that patch frame attribute parameter set shall be equal to ai_attribute_dimension_minus1[ i ]).
PFAPS 어트리뷰트 패치 스케일 파라미터 인에이블 플래그(pfaps_attribute_patch_scale_params_enabled_flag) 는 어트리뷰트 패치 스케일 파라미터(attribute patch scale parameter)들이 pfaps_attribute_frame_parameter_set_id와 연관된 어트리뷰트를 위해 시그널링되는지 여부를 나타낸다. 이 값이 1이면 어트리뷰트 패치 스케일 파라미터가 pfaps_attribute_frame_parameter_set_id와 연관된 어트리뷰트를 위해 시그널링된다. 이 값이 0이면 어트리뷰트 패치 스케일 파라미터가 pfaps_attribute_frame_parameter_set_id와 연관된 어트리뷰트를 위해 시그널링 되지 않는다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates whether attribute patch scale parameters may be signalled or not for an attribute associated with pfaps_attribute_frame_parameter_set_id. pfaps_attribute_patch_scale_params_enabled_flag equal to 1 indicates that attribute patch scale parameters may be signalled for an attribute associated with pfaps_attribute_frame_parameter_set_id. pfaps_attribute_patch_scale_params_enabled_flag equal to 0 indicates that attribute patch scale parameters shall not be signalled for an attribute associated with pfaps_attribute_frame_parameter_set_id. When pfaps_attribute_patch_scale_params_enabled_flag is not present, it shall be inferred to be equal to 0).
PFAPS 어트리뷰트 패치 오프셋 파라미터 인에이블 플래그(pfaps_attribute_patch_offset_params_enabled_flag) 는 어트리뷰트 패치 오프셋 파라미터(attribute patch offset parameter)들이 pfaps_attribute_frame_parameter_set_id와 연관된 어트리뷰트를 위해 시그널링되는지 여부를 나타낸다. 이 값이 1이면 어트리뷰트 패치 오프셋 파라미터가 pfaps_attribute_frame_parameter_set_id와 연관된 어트리뷰트를 위해 시그널링된다. 이 값이 0이면 어트리뷰트 패치 오프셋 파라미터가 pfaps_attribute_frame_parameter_set_id와 연관된 어트리뷰트를 위해 시그널링 되지 않는다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates whether attribute patch offset parameters may be signalled or not for an attribute associated with pfaps_attribute_frame_parameter_set_id. pfaps_attribute_patch_offset_params_enabled_flag equal to 1 indicates that attribute patch offset parameters may be signalled for an attribute associated with pfaps_attribute_frame_parameter_set_id. pfaps_attribute_patch_offset_params_enabled_flag equal to 0 indicates that attribute patch offset parameters shall not be signalled for an attribute associated with pfaps_attribute_frame_parameter_set_id. When pfaps_attribute_patch_offset_params_enabled_flag is not present, it shall be inferred to be equal to 0).
어트리뷰트 프레임 파라미터 신택스(Attribute frame params syntax):
AFP어트리뷰트 스무딩 파라미터 존재 플래그(afp_attribute_smoothing_params_present_flag[ i ]) 가 1이면 어트리뷰트 스무딩 파라미터(attribute smoothing parameter)가 현재 패치 타일 그룹 어트리뷰트 파라미터 세트에 존재함을 나타낸다. 이 값이 0이면, 어트리뷰트 스무딩 파라미터(attribute smoothing parameter)가 현재 패치 타일 그룹 어트리뷰트 파라미터 세트에 존재하지 않음을 나타낸다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(equal to 1 indicates that attribute smoothing parameters are present in the current patch tile group attribute parameter set. afp_attribute_smoothing_params_present_flag equal to 0 indicates that attribute smoothing parameters are not present in the current patch tile group attribute parameter set. When afp_attribute_smoothing_params_present_flag is not present, it shall be inferred to be equal to 0).
AFP 어트리뷰트 스케일 파라미터 존재 플래그(afp_attribute_scale_params_present_flag) 가 1이면, 어트리뷰트 스케일 파라미터(attribute scale parameter)들이 현재 패치 타일 그룹 어트리뷰트 파라미터 세트에 존재함을 나타낸다. 이 값이 0이면, 어트리뷰트 스케일 파라미터(attribute scale parameter)들이 현재 패치 타일 그룹 어트리뷰트 파라미터 세트에 존재하지 않음을 나타낸다. afp_attribute_scale_params_present_flag값이 존재하지 않으면 이 값은 0으로 추론한다(equal to 1 indicates that attribute scale parameters are present in the current patch tile group attribute parameter set. afp_attribute_scale_params_present_flag equal to 0 indicates that attribute scale parameters are not present in the current patch tile group attribute parameter set. When afp_attribute_scale_params_present_flag is not present, it shall be inferred to be equal to 0).
AFP 어트리뷰트 오프셋 파라미터 존재 플래그(afp_attribute_offset_params_present_flag) 가 1이면, 어트리뷰트 오프셋 파라미터(attribute offset parameter)들이 현재 패치 타일 그룹 어트리뷰트 파라미터 세트에 존재함을 나타낸다. 이 값이 0이면, 어트리뷰트 오프셋 파라미터(attribute offset parameter)들이 현재 패치 타일 그룹 어트리뷰트 파라미터 세트에 존재하지 않음을 나타낸다. afp_attribute_offset_params_present_flag값이 존재하지 않으면 이 값은 0으로 추론한다(equal to 1 indicates that attribute offset parameters are present in the current patch tile group attribute parameter set. afp_attribute_offset_params_present_flag equal to 0 indicates that attribute offset parameters are not present in the current patch tile group attribute parameter set. When afp_attribute_offset_params_present_flag is not present, it shall be inferred to be equal to 0.
AFP 어트리뷰트 스무딩 그리드 사이즈(afp_attribute_smoothing_grid_size_minus2[ i ]) 은 어트리뷰트 스무딩(attribute smoothing)을 위해 사용되는 AttributeSmoothingGridSize의 값을 나타낸다. 이 값은 0 내지 126의 범위의 값을 가진다. afp_attribute_smoothing_grid_size_minus2값이 존재하지 않을 경우, 이 값은 0으로 추론한다. AttributeSmoothingGridSize는 다음과 같이 계산될 수 있다(specifies the value of the variable AttributeSmoothingGridSize used for the attribute smoothing. The value of afp_attribute_smoothing_grid_size_minus2 shall be in the range of 0 to 126, inclusive. When not present, the value of afp_attribute_smoothing_grid_size_minus2 is inferred to be equal to 0. The value of AttributeSmoothingGridSize is computed as follows
AttributeSmoothingGridSize[ i ] = afp_attribute_smoothing_grid_size_minus2[ i ] + 2
AFP 어트리뷰트 스무딩 스레드홀드(afp_attribute_smoothing_threshold[ i ]) 는 pfaps_attribute_frame_parameter_set_id 와 연관된 어트리뷰트 스무딩 스레숄드(attribute smoothing threshold)를 나타낸다. 이 값은 0 내지 255의 범위의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the attribute smoothing threshold for an attribute associated with pfaps_attribute_frame_parameter_set_id. The value of afp_attribute_smoothing_threshold shall be in the range of 0 to 255, inclusive. When afp_attribute_smoothing_threshold is not present, it shall be inferred to be equal to 0).
AFP 어트리뷰트 스무딩 로컬 엔트로피 스레드홀드(afp_attribute_smoothing_local_entropy_threshold[ i ]) 는 pfaps_attribute_frame_parameter_set_id 와 연관된 어트리뷰트에 대한 바운더리 포인트(boundary point)의 네이버후드(neighborhood) 내의 로컬 엔트로피 스레숄드(local entropy threshold)를 나타낸다. 이 값은 0 내지 7의 범위의 값을 가진다. 이 파라미터가 존재하지 않을 경우, 이 파라미터의 값은 0으로 추론한다(indicates the local entropy threshold in the neighbourhood of a boundary point for an attribute associated with pfaps_attribute_frame_parameter_set_id. The value of afp_attribute_smoothing_local_entropy_threshold shall be in the range of 0 to 7, inclusive. When afp_attribute_smoothing_local_entropy_threshold is not present, it shall be inferred to be equal to 0).
AFP 어트리뷰트 스무딩 스레드홀드 어트리뷰트 베리에이션(afp_attribute_smoothing_threshold_attribute_variation[ i ]) 는 어트리뷰트 스무딩에 대한 어트리뷰트 베리에이션(variation)의 스레숄드(threshold)를 나타낸다. 이 값은 0 내지 255의 범위의 값을 가진다. 이 파라미터가 존재하지 않을 경우, 이 파라미터의 값은 255로 추론한다(indicates the threshold of attribute variation for the attribute smoothing. The value of afp_attribute_smoothing_threshold_attribute_variation shall be in the range of 0 to 255, inclusive. When afp_attribute_smoothing_threshold_attribute_variation is not present, it shall be inferred to be equal to 255).
AFP 어트리뷰트 스무딩 스레드홀드 어트리뷰트 차이값(afp_attribute_smoothing_threshold_attribute_difference[ i ]) 는 어트리뷰트 스무딩에 대한 어트리뷰트 차이(attribute difference)의 스레숄드(threshold)를 나타낸다. 이 파라미터의 값은 0 내지 255의 범위의 값을 가진다. 이 파라미터가 존재하지 않을 경우, 이 파라미터의 값은 255로 추론한다(indicates the threshold of attribute difference for the attribute smoothing. The value of afp_attribute_smoothing_threshold_attribute_difference shall be in the range of 0 to 255, inclusive. When afp_attribute_smoothing_threshold_attribute_difference is not present, it shall be inferred to be equal to 255).
AFP 어트리뷰트 스케일(afp_attribute_scale[ i ]) 는 pfaps_attribute_frame_parameter_set_id 와 연관된 어트리뷰트의 i번째 디멘션(dimension)의 값으로 적용되는 스케일의 값을 나타낸다. 이 파라미터의 값은 0 내지 2^32-1의 값을 가진다. 이 파라미터가 존재하지 않을 경우, 이 파라미터의 값은 0로 추론한다(indicates the value of the scale to be applied to the values of the i th dimension of an attribute associated with pfaps_attribute_frame_parameter_set_id. The value of afp_attribute_scale [ i ] shall be in the range of 0 to 232 - 1, inclusive. When afp_attribute_scale [ i ] is not present, it shall be inferred to be equal to 0).
AFP 어트리뷰트 오프셋(afp_attribute_offset[ i ]) 는 pfaps_attribute_frame_parameter_set_id와 연관된 어트리뷰트의 i번째 디멘션의 값으로 더해지는 오프셋의 값을 나타낸다. 이 파라미터의 값은 -2^31 내지 2^31-1의 범위의 값을 가진다. 이 파라미터가 존재하지 않을 경우, 이 파라미터의 값은 0로 추론한다(indicates the value of the offset to be added to the values of the i th dimension of an attribute associated with pfaps_attribute_frame_parameter_set_id. The value of afp_attribute_offset[ i ] shall be in the range of -231 to 231 - 1, inclusive. When afp_attribute_offset[ j ][ i ] is not present, it shall be inferred to be equal to 0).
도36은 실시예들에 따른 지오메트리 패치 파라미터 세트(Geometry patch parameter set), 지오메트리 패치 파라미터(Geometry patch params)의 신택스를 나타낸다.
지오메트리 패치 파라미터 세트 신택스(Geometry patch parameter set syntax):
GPPS 지오메트리 패치 파라미터 세트 아이디(gpps_geometry_patch_parameter_set_id) 는 다른 신텍스에 의한 참조를 위해 지오메트리 패치 파라미터 세트를 식별한다. 이 파라미터의 값은 0 내지 63의 범위의 값을 가진다(identifies the geometry patch parameter set for reference by other syntax elements. The value of gpps_geometry_patch_parameter_set_id shall be in the range of 0 to 63, inclusive_.
GPPS 지오메트리 프레임 파라미터 세트 아이디(gpps_geometry_frame_parameter_set_id) 는 액티브(active) 지오메트리 프레임 파라미터 세트에 대한 gfps_geometry_frame_parameter_set_id의 값을 나타낸다. 이 파라미터의 값은 0 내지 63의 값을 가진다(specifies the value of gfps_geometry_frame_parameter_set_id for the active geometry frame parameter set. The value of gpps_geometry_frame_parameter_set_id shall be in the range of 0 to 63, inclusive).
GPPS 지오메트리 패치 파라미터 존재 플래그(gpps_geometry_patch_params_present_flag) 가 1이면, 지오메트리 패치 파라미터들이 존재함을 나타낸다. 이 파라미터의 값이 0이면, 지오메트리 패치 파라미터들이 존재하지 않음을 나타낸다. 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론한다(equal to 1 indicates that geometry patch parameters are present. gpps_geometry_patch_params_present_flag equal to 0 indicates that geometry patch parameters are not present. When gpps_geometry_patch_params_present_flag is not present, it shall be inferred to be equal to 0).
지오메트리 패치 파라미터 신택스(Geometry patch params syntax):
GPP 지오메트리 패치 스케일 파라미터 존재 플래그(gpp_geometry_patch_scale_params_present_flag) 가 1이면, 지오메트리 스케일 파라미터들이 존재함을 나타낸다. 이 파라미터의 값이 0이면, 지오메트리 스케일 파라미터들이 존재하지 않음을 나타낸다. 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론한다(equal to 1 indicates that geometry patch scale parameters are present. gpp_geometry_patch_scale_params_present_flag equal to 0 indicates that geometry patch scale parameters are not present. When gpp_geometry_patch_scale_params_present_flag is not present, it shall be inferred to be equal to 0).
GPP 지오메트리 패치 축 스케일(gpp_geometry_patch_scale_on_axis[ d ]) 는 d 축의 스케일의 값을 나타낸다. 이 값은 0 내지 2^32-1의 값을 가진다. 이 때, d는 0내지 2일 수 있다. d의 값이 0, 1, 2이면 각각 X축, Y축, Z축을 나타낸다. gpp_geometry_patch_scale_on_axis[ d ] 값이 존재하지 않으면 이 값은 0으로 추론한다(indicates the value of scale along d axis. The value of gpp_geometry_patch_scale_on_axis d shall be in the range of 0 to 232 - 1, inclusive, where d is in the range of 0 to 2, inclusive. The values of d equal to 0, 1, and 2 correspond to the X, Y, and Z axis, respectively. When gpp_geometry_patch_scale_on_axis[ d ] is not present, it shall be inferred to be equal to 0).
GPP 지오메트리 패치 오프셋 파라미터 존재 플래그(gpp_geometry_patch_offset_params_present_flag) 가 1이면, 지오메트리 패치 오프셋 파라미터들이 존재함을 나타낸다. 이 파라미터의 값이 0이면 지오메트리 패치 오프셋 파리미터들이 존재하지 않음을 나타낸다. 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론한다(equal to 1 indicates that geometry patch offset parameters are present. gpp_geometry_patch_offset_params_present_flag equal to 0 indicates that geometry patch offset parameters are not present. When gpp_geometry_patch_offset_params_present_flag is not present, it shall be inferred to be equal to 0).
GPP 지오메트리 패치 축오프셋(gpp_geometry_patch_offset_on_axis[ d ]) 은 d 축의 오프셋의 값을 나타낸다. 이 값은 0 내지 2^32-1의 값을 가진다. 이 때, d는 0내지 2일 수 있다. d의 값이 0, 1, 2이면 각각 X축, Y축, Z축을 나타낸다. gpp_geometry_patch_offset_on_axis[ d ] 값이 존재하지 않으면 이 값은 0으로 추론한다(indicates the value of offset along d axis. The value of gpp_geometry_patch_offset_on_axis[ d ] shall be in the range of -231 to 231 - 1, inclusive, where d is in the range of 0 to 2, inclusive. The values of d equal to 0, 1, and 2 correspond to the X, Y, and Z axis, respectively. When gpp_geometry_patch_offset_on_axis[ d ] is not present, it shall be inferred to be equal to 0).
GPP 지오메트리 패치 회전 파라미터 존재 플래그(gpp_geometry_patch_rotation_params_present_flag) 값이 1이면 지오메트리 패치 회전 파라미터들이 존재함을 나타낸다. 이 값이 0이면, 지오메트리 패치 회전 파라미터들이 존재하지 않음을 나타낸다. 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론한다(equal to 1 indicates that geometry patch rotation parameters is present. gpp_geometry_patch_rotation_params_present_flag equal to 0 indicates that geometry patch rotation parameters are not present. When gpp_geometry_patch_rotation_params_present_flag is not present, it shall be inferred to be equal to 0).
GPP 지오메트리 패치 회전 X(gpp_geometry_patch_rotation_x) 는 x축에 대한 지오메트리 회전 쿼터니온 컴포넌트 (geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry patch rotation quaternion component along the x axis. The value of gpp_geometry_patch_rotation_x shall be in the range of -215 to 215 - 1, inclusive. When gpp_geometry_rotation_x is not present, it's value shall be inferred to be equal to 0).
GPP 지오메트리 패치 회전 Y(gpp_geometry_patch_rotation_y) 는 y축에 대한 지오메트리 회전 쿼터니온 컴포넌트 (geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry patch rotation quaternion component along the y axis. The value of gpp_geometry_patch_rotation_y shall be in the range of -215 to 215 - 1, inclusive. When gpp_geometry_rotation_y is not present, it's value shall be inferred to be equal to 0).
GPP 지오메트리 패치 회전 Z(gpp_geometry_patch_rotation_z) 는 z축에 대한 지오메트리 회전 쿼터니온 컴포넌트 (geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry patch rotation quaternion component along the z axis. The value of gpp_geometry_patch_rotation_z shall be in the range of -215 to 215 - 1, inclusive. When gpp_geometry_rotation_z is not present, it's value shall be inferred to be equal to 0).
GPP 지오메트리 패치 회전 W(gpp_geometry_patch_rotation_w) 는 w축에 대한 지오메트리 회전 쿼터니온 컴포넌트(geometry rotation quaternion component)를 나타낸다. 이 값은 -2^15 내지 2^15-1의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(indicates the geometry patch rotation quaternion component along the w axis. The value of gfp_geometry_patch_rotation_w shall be in the range of -215 to 215 - 1, inclusive. When gpp_geometry_rotation_w is not present, it's value shall be inferred to be equal to 0).
GPP 지오메트리 패치 포인트 사이즈 정보 존재 플래그(gpp_geometry_patch_point_size_info_present_flag) 가 1이면 지오메트리 패치 포인트 크기 정보가 시그널링됨을 나타낸다. 이 파라미터의 값이 0이면 지오매트리 패치 포인트 크기 정보가 시그널링되지 않음을 나타낸다. 이 파라미터가 존재하지 않는 경우, 이 파라미터의 값은 0으로 추론될 수 있다(equal to 1 indicates that the geometry patch point size information is signalled. gpp_geometry_patch_point_size_info_present_flag equal to 0 indicates that the geometry patch point size information is not signalled. When gpp_geometry_patch_point_size_info_present_flag is not present, it shall be inferred to be equal to 0).
GPP 지오메트리 패치 사이즈 정보(gpp_geometry_patch_point_size_info_minus1) 에 1을 더한 값은, 렌더링을 위해 사용되는 지오메트리 포인트 사이즈를 나타낸다. 이 값은 0 내지 65535의 범위의 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0으로 추론한다(plus 1 indicates the geometry patch point size to be used for rendering. The value of gpp_geometry_patch_point_size_info_minus1 shall be in the range of 0 to 65535, inclusive. When gpp_geometry_patch_point_size_info_minus1 is not present, it shall be inferred to be equal to gfp_geometry_point_size_info_minus1).
GPP 지오메트리 패치 포인트 모양 정보 존재 플래그(gpp_geometry_patch_point_shape_info_present_flag) 가 1이면 지오메트리 패치 포인트 모양 정보가 시그널링됨을 나타낸다. 이 파라미터의 값이 0이면, 지오매트리 패치 포인트 모양 정보가 시그널링되지 않음을 나타낸다. 이 파라미터가 존재하지 않으면, 이 파라미터의 값은 0으로 추론된다(equal to 1 indicates that geometry patch point shape information is signalled. gpp_geometry_point shape_info_present_flag equal to 0 indicates that geometry patch point shape information is not signalled. When gpp_geometry_patch_point_shape_info_present_flag is not present, it shall be inferred to be equal to 0).
GPP 지오메트리 패치 포인트 모양 정보(gpp_geometry_patch_point_shape_info) 는 렌더링을 위해 사용될 지오메트리 포인트 모양을 나타낸다. 이 값은 0 내지 15의 범위를 갖는 값을 가진다. 이 값이 존재하지 않으면, 이 값은 0의 값으로 추론한다(indicates the geometry patch point shape to be used for rendering. The value of gpp_geometry_patch_point_shape_info shall be in the range of 0 to 15, inclusive, according to . When gpp_geometry_patch_point_shape_info is not present, it shall be inferred to be equal to gfp_geometry_point_shape_info).
도37은 실시예들에 따른 어트리뷰트 패치 파라미터 세트(Attribute patch parameter set), 어트리뷰트 패치 파라미터(Attribute patch params)의 신택스를 나타낸다.
어트리뷰트 패치 파라미터 세트(Attribute patch parameter set syntax):
APPS 어트리뷰트 (apps_attribute_patch_parameter_set_id) 는 다른 신텍스 엘리먼트에 의한 참조를 위해 어트리뷰트 패치 파라미터 세트를 식별한다. 이 파라미터의 값은 0 내지 63의 범위의 값을 가진다(identifies the attribute patch parameter set for reference by other syntax elements. The value of apps_attribute_patch_parameter_set_id shall be in the range of 0 to 63, inclusive).
APPS 어트리뷰트 프레임 파라미터 세트 아이디(apps_attribute_frame_parameter_set_id) 는 액티브(active) 지오메트리 프레임 파라미터 세트에 대한 afps_attribute_frame_parameter_set_id의 값을 나타낸다. 이 파라미터의 값은 0 내지 63의 범위의 값을 가진다(specifies the value of afps_attribute_frame_parameter_set_id for the active geometry frame parameter set. The value of apps_attribute_frame_parameter_set_id shall be in the range of 0 to 63, inclusive).
APPS 어트리뷰트 디멘션(apps_attribute_dimension_minus1) 에 1을 더한 값은 apps_attribute_frame_parameter_set_id에 할당된 어트리뷰트의 디멘션들(e.g. 채널들의 수)의 총 수를 나타낸다. 이 파라미터의 값은 0 내지 255의 범위를 가진다. 인덱스가 i인 어트리뷰트가 apps_attribute_frame_parameter_set_id 의 id로 설정된 패스 프레임 어트리뷰트 파라미터 세트(path frame attribute parameter set)에 지정될 때보다 비트 스트림 적합성의 요구 사항을 나타낸다. 해당 패치 프레임 속성 매개 변수 세트의 apps_attribute_dimension_minus1 의 값은 ai_attribute_dimension_minus1[ i ] 과 동일하다(plus 1 indicates the total number of dimensions (i.e., number of channels) of the attribute assigned to the apps_attribute_frame_parameter_set_id. apps_attribute_dimension_minus1 shall be in the range of 0 to 255, inclusive. It is a requirement of bitstream conformance than when an attribute with index i is assigned to an attribute patch parameter set with an id of apps_attribute_frame_parameter_set_id that the value of apps_attribute_dimension_minus1 of that attribute patch parameter set shall be equal to ai_attribute_dimension_minus1[ i ]).
APPS 어트리뷰트 패치 파라미터 존재 플래그(apps_attribute_patch_params_present_flag) 가 1이면 현재 어트리뷰트 패치 파라미터 세트 내에서 어트리뷰트 패치 파리머트들이 시그널링됨을 나타낸다. 이 파라미터의 값이 0이면 어트리뷰트 패치 파라미터들이 현재 어트리뷰트 패치 파라미터 세트 내에서 시그널링되지 않음을 나타낸다. 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론한다(equal to 1 indicates that attribute patch parameters are signalled in the current attribute patch parameter set. apps_attribute_patch_params_present_flag equal to 0 indicates that attribute patch parameters are not signalled for the current attribute patch parameter set. When apps_attribute_patch_params_present_flag is not present, it shall be inferred to be equal to 0).
어트리뷰트 패치 파라미터(Attribute patch params syntax):
APP어트리뷰트 패치 스케일 파라미터 존재 플래그(app_attribute_patch_scale_params_present_flag) 가 1이면, 현재 어트리뷰트 패치 파라미터 세트 내에서 어트리뷰트 패치 스케일 파라미터들이 시그널링됨을 나타낸다. 이 파라미터의 값이 0이면, 현재 어트리뷰트 패치 파라미터 세트 내에서 어트리뷰트 패치 스케일 파라미터들이 시그널링되지 않음을 나타낸다. 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론한다(equal to 1 indicates that attribute patch scale parameters are signalled in the current attribute patch parameter set. app_attribute_patch_scale_params_present_flag equal to 0 indicates that attribute patch scale parameters are not signalled. When app_attribute_patch_scale_params_present_flag is not present, it shall be inferred to be equal to 0).
APP 어트리뷰트 패치 스케일(app_attribute_patch_scale[ i ]) 가 현재 어트리뷰트 패치 파라미터 세트와 연관된 어트리뷰트의 i번째 디멘션(dimension)의 값으로 적용되는 스케일의 값을 나타낸다. 이 파라미터의 값은 0 내지 2^32-1의 값을 가진다. 이 파라미터가 존재하지 않을 경우, 이 파라미터의 값은 2^16의 값으로 추론한다(indicates the value of the scale to be applied to the values of the i th dimension of an attribute associated with the current attribute patch parameter set. The value of app_attribute_patch_scale[ i ] shall be in the range of 0 to 232 - 1, inclusive. When app_attribute_patch_scale [ i ] is not present, it shall be inferred to be equal to 2^16).
APP 어트리뷰트 패치 오프셋 파라미터 존재 플래그(app_attribute_patch_offset_params_present_flag) 가 1이면, 현재 어트리뷰트 패치 파라미터 세트 내에서 어트리뷰트 패치 오프셋 파라미터들이 시그널링됨을 나타낸다. 이 파라미터의 값이 0이면, 현재 어트리뷰트 패치 파라미터 세트 내에서 어트리뷰트 패치 오프셋 파라미터들이 시그널링되지 않음을 나타낸다. 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론한다(equal to 1 indicates that attribute patch offset parameters are signalled in the current attribute patch parameter set. app_attribute_patch_offset_params_present_flag equal to 0 indicates that attribute patch offset parameters are not signalled. When app_attribute_patch_offset_params_present_flag is not present, it shall be inferred to be equal to 0).
APP 어트리뷰트 패치 오프셋(app_attribute_patch_offset[ i ]) 는 현재 어트리뷰트 패치 파라미터 세트와 연관된 어트리뷰트의 i번째 디멘션의 값으로 더해지는 오프셋의 값을 나타낸다. 이 파라미터의 값은 -2^31 내지 2^31-1의 범위의 값을 가진다. 이 파라미터가 존재하지 않을 경우, 이 파라미터의 값은 0로 추론한다indicates the value of the offset to be applied to the values of the i th dimension of an attribute associated with the current attribute patch parameter set. The value of app_attribute_patch_offset[ i ] shall be in the range of -231 to 231 - 1, inclusive. When app_attribute_patch_offset[ j ][ i ] is not present, it shall be inferred to be equal to 0).
도38은 실시예들에 따른 패치 프레임 파라미터 세트(Patch frame parameter set)의 신택스를 나타낸다.
패치 프레임 파라미터 세트(Patch frame parameter set syntax):
PFPS 패치 프레임 파라미터 세트 아이디(pfps_patch_frame_parameter_set_id) 는 다른 신텍스 엘리먼트들에 의한 참조를 위해 패치 프레임 파라미터 세트를 식별한다. 이 파라미터의 값은 0 내지 63의 범위의 값을 가진다(identifies the patch frame parameter set for reference by other syntax elements. The value of pfps_patch_frame_parameter_set_id shall be in the range of 0 to 63, inclusive).
PFPS 패치 시퀀스 파라미터 세트 아이디(pfps_patch_sequence_parameter_set_id) 는 액티브(active) 패치 시퀀스 파라미터 세트에 대한 psps_patch_sequence_parameter_set_id의 값을 나타낸다. 이 파라미터의 값은 0 내지 15의 범위의 값을 가진다(specifies the value of psps_patch_sequence_parameter_set_id for the active patch sequence parameter set. The value of pfps_patch_sequence_parameter_set_id shall be in the range of 0 to 15, inclusive).
PFPS 지오메트리 패치 파라미터 세트 아이디(pfps_geometry_patch_parameter_set_id) 는 액티브 지오메트리 패치 파라미터 세트를 위한 gpps_geometry_patch_parameter_set_id의 값을 나타낸다. 이 파라미터의 값은 0 내지 63의 범위의 값을 가진다(specifies the value of gpps_geometry_patch_parameter_set_id for the active geometry patch parameter set. The value of pfps_geometry_patch_parameter_set_id shall be in the range of 0 to 63, inclusive).
PFPS 어트리뷰트 패치 파라미터 세트 아이디(pfps_attribute_patch_parameter_set_id[ i ]) 는 인덱스가 i인 어트리뷰트에 대한 액티브 어트리뷰트 패치 파라미터 세트를 위한 apps_attribute_patch_parameter_set_id[ i ] 의 값을 나타낸다. 이 파라미터의 값은 0 내지 63의 범위의 값을 가진다(specifies the value of apps_attribute_patch_parameter_set_id[ i ] for the active attribute patch parameter set for attribute with index i. The value of pfps_attribute_patch_parameter_set_id[ i ] shall be in the range of 0 to 63, inclusive).
PFPS 로컬 오버라이드 지오베트리 패치 인에이블 플래그(pfps_local_override_geometry_patch_enable_flag) 가 1이면, 패치 레벨(patch level)에 지정된 지오매트리 패치 파라미터들의 오버라이딩(overriding)이 허용됨을 나타낸다. 이 파라미터의 값이 0이면, 패치 레벨(patch level)에 정된 지오매트리 패치 파라미터들의 오버라이딩(overriding)이 허용되지 않음을 나타낸다. 오버라이팅은 현재 프레임에 대해서만 적용되며, 연속되는 프레임들에 대해 계속되지 않는다(equal to 1 indicates that overriding the specified geometry patch parameters at the patch level is permitted. pfps_local_override_geometry_patch_enable_flag equal to 0 indicates that overriding the specified geometry patch parameters at the patch level is not permitted. Overwriting will only be applied to the current frame and not carried over to successive frames).
PFPS 로컬 오버라이드 어트리뷰트 패치 인에이블 플래그(pfps_local_override_attribute_patch_enable_flag[ i ]) 의 값이 1이면, 패치 레벨(patch level)에 지정된, 인덱스 i의 어트리뷰트 패치 파라미터들의 오버라이딩(overriding)이 허용됨을 나타낸다. 이 파라미터의 값이 0이면, 패치 레벨(patch level)에 지정된, 인덱스 i의 어트리뷰트 패치 파라미터들의 오버라이딩(overriding)이 허용되지 않음을 나타낸다. 오버라이팅은 현재 프레임에 대해서만 적용되며, 연속되는 프레임들에 대해 계속되지 않는다(equal to 1 indicates that overriding the specified attribute patch parameters for attribute with index i at the patch level is permitted. pfps_local_override_geometry_patch_enable_flag[ i ] equal to 0 indicates that overriding the specified attribute patch parameters for attribute with index i at the patch level is not permitted. Overwriting will only be applied to the current frame and not carried over to successive frames).
PFPS 추가적인 변수(pfps_additional_lt_pfoc_lsb_len) 는 참조 패치 프레임 리스트들(reference patch frame lists)에 대한 디코딩 과정에서 사용되는 MaxLtPatchFrmOrderCntLsb 변수의 값을 나타낸다(specifies the value of the variable MaxLtPatchFrmOrderCntLsb that is used in the decoding process for reference patch frame lists)
PFPS 프로젝션 패치 인에이블 플래그(pfps_45degree_projection_patch_enabled_flag) 가 1이면, 패치는 패치 바운딩 박스의 다이오그널(diagonal) 45도 프로젝션 플레인(projection plane)들 중 하나에 프로젝션됨을 나타낸다. 이 파라미터의 값이 0이면, 패치가 6개의 프로젝션 플레인들 중 하나에 프로젝션되는 다이오그널 패치 프로젝션이 인에이블됨을 나타낸다. 이 파라미터가 존재하지 않으면, 이 파라미터의 값은 0으로 추론한다(equal to 1 specifies that the patch may be projected to one of the diagonal 45 degree projection planes of the patch bounding box. pfps_45degree_projection_patch_enabled_flag equal to 0 indicates the diagonal patch projection that the patch is projected to one of the 6 projection planes of the patch bounding box is enabled. When pfps_45degree_projection_patch_enabled_flag is not present, the value is inferred to be equal to 0).
도39는 실시예들에 따른 패치 프레임 타일 정보(Patch frame tile information)의 신택스를 나타낸다.
패치 프레임 타일 정보 신택스(Patch frame tile information syntax):
PFTI 패치 프레임 내 싱글 타일 플래그(pfti_single_tile_in_patch_frame_flag) 이 값이 1이면, PFPS를 참조하는 각 패치 프레임 내 오직 하나의 타일이 있음을 나타낸다. single_tile_in_pic_flag 가0이면, PPS를 참조하는 각 패치 프레임 내 하나 이상의 타일이 있음을 나타낸다(equal to 1 specifies that there is only one tile in each patch frame referring to the PFPS. single_tile_in_pic_flag equal to 0 specifies that there is more than one tile in each patch frame referring to the PPS).
PFTI 유니폼 타일 스페이싱 플래그(pfti_uniform_tile_spacing_flag) 가 1이면, 타일 컬럼(column) 및 로우(row) 바운더리(boundary)들이 픽처에 균일하게 분포하고, pfti_tile_col_width_minus1 및 pfti_tile_row_height_minus1 신텍스 엘리먼트들에 의해 시그널링됨을 나타낸다. 이 파라미터의 값이 0이면, 타일 컬럼(column) 및 로우(row) 바운더리(boundary)들이 픽처에 균일하게 분포하지 않고 pfti_num_tile_columns_minus1, pfti_num_tile_rows_minus1, pfti_tile_column_width_minus1[ i ] 및 pfti_tile_row_height_minus1[ i ]로 시그널링됨을 나타낸다. 이 파라미터가 존재하지 않는 경우 이 파라미터의 값은 1로 추론한다(equal to 1 specifies that tile column and row boundaries are distributed uniformly across the picture and signalled using the syntax elements pfti_tile_col_width_minus1 and pfti_tile_row_height_minus1, respectively. pfti_uniform_tile_spacing_flag equal to 0 specifies that tile column and row boundaries may or may not be distributed uniformly across the picture and are signalled using the syntax elements pfti_num_tile_columns_minus1 and pfti_num_tile_rows_minus1 and a list of syntax element pairs pfti_tile_column_width_minus1[ i ] and pfti_tile_row_height_minus1[ i ]. When not present, the value of pfti_uniform_tile_spacing_flag is inferred to be equal to 1).
PFTI 타일 컬럼 너비(pfti_tile_cols_width_minus1) 에 1을 더한 값은, 64개의 샘플들의 유닛들 내의 패치 프레임의 가장 오른쪽의 타일 컬럼을 제외한 타일 컬럼들의 폭(width)을 나타낸다(pfti_uniform_tile_spacing_flag의 값이 1인 경우). 해당 파라미터의 값은 0 내지 ( sps_frame_width + 63 ) / 64 - 1 의 범위를 갖는다. 해당 파라밑터가 존재하지 않는 경우, 해당 파라미터의 값은 ( sps_frame_width + 63 ) / 64 - 1로 추론된다(plus 1 specifies the width of the tile columns excluding the right-most tile column of the patch frame in units of 64 samples when pfti_uniform_tile_spacing_flag is equal to 1. The value of pfti_tile_cols_width_minus1 shall be in the range of 0 to ( sps_frame_width + 63 ) / 64 - 1, inclusive. When not present, the value of pfti_tile_cols_width_minus1 is inferred to be equal to ( sps_frame_width + 63 ) / 64 - 1).
PFTI 타일 로우 높이(pfti_tile_rows_height_minus1) 에 1을 더한 값은64개의 샘플들의 유닛들 내의 패치 프레임의 아래(bottom)의 타일 로우(row)를 제외한 타일 로우들의 높이(height)을 나타낸다(pfti_uniform_tile_spacing_flag 의 값이 1인 경우). 해당 파라미터의 값은 0 내지 ( sps_frame_width + 63 ) / 64 - 1 의 범위를 갖는다. 해당 파라미터가 존재하지 않는 경우, 해당 파라미터의 값은 ( sps_frame_height + 63 ) / 64 - 1로 추론된다(plus 1 specifies the height of the tile rows excluding the bottom tile row of the patch frame in units of 64 samples when pfti_uniform_tile_spacing_flag is equal to 1. The value of pfti_tile_rows_height_minus1 shall be in the range of 0 to ( sps_frame_height + 63 ) / 64 - 1, inclusive. When not present, the value of pfti_tile_rows_height_minus1 is inferred to be equal to ( sps_frame_height + 63 ) / 64 - 1.
PFTI 타일 컬럼의 개수(pfti_num_tile_columns_minus1) 에 1을 더한 값은, 패치 프레임을 파티셔닝(partitioning)하는 타일 컬럼(coloum)들의 수를 나타낸다(pfti_uniform_tile_spacing_flag이 0인 경우). 이 파라미터의 값은 0 내지 ( sps_frame_width + 63 ) / 64 - 1의 범위의 값을 갖는다. 만약 pfti_single_tile_in_patch_frame_flag 파라미터의 값이 1인 경우, 이 파라미터의 값은 0으로 추론된다. 아니면, pfti_uniform_tile_spacing_flag의 값이 1인 경우, 이 pfti_num_tile_columns_minus1의 값은 추론된다(plus 1 specifies the number of tile columns partitioning the patch frame when pfti_uniform_tile_spacing_flag is equal to 0. The value of pfti_num_tile_columns_minus1 shall be in the range of 0 to ( sps_frame_width + 63 ) / 64 - 1, inclusive. If pfti_single_tile_in_patch_frame_flag is equal to 1, the value of pfti_num_tile_columns_minus1 is inferred to be equal to 0. Otherwise, when pfti_uniform_tile_spacing_flag is equal to 1, the value of pfti_num_tile_columns_minus1 is inferred)
PFTI 타일 로우의 개수(pfti_num_tile_rows_minus1) 에 1을 더한 값은 패치 프레임을 파티셔닝하는 타일 로우들의 수를 나타낸다(pti_uniform_tile_spacing_flag의 값이 0인 경우). (plus 1 specifies the number of tile rows partitioning the patch frame when pti_uniform_tile_spacing_flag is equal to 0).
PFTI 타일 컬럼 너비(pfti_tile_column_width_minus1[ i ]) 에 1을 더한 값은 64 개의 샘플들의 유닛들의 i번째 타일 컬럼의 폭(width)을 나타낸다(plus 1 specifies the width of the i-th tile column in units of 64 samples).
PFTI 타일 로우 높이(pfti_tile_row_height_minus1[ i ]) 에 1을 더한 값은 64개의 샘플들의 유닛들의 i번째 타일 로우의 높이(height)를 나타낸다(plus 1 specifies the height of the i-th tile row in units of 64 samples).
PFTI 타일 그룹 당 싱글 타일 플래그(pfti_single_tile_per_tile_group_flag) 에 1을 더한 값은 이 PFPS에 하나의 타일이 포함됨을 참조하는 각 타일 그룹을 나타낸다( equal to 1 specifies that each tile group that refers to this PFPS includes one tile).
PFTI 패치 프레임 내 타일 그룹들의 개수(pfti_num_tile_groups_in_patch_frame_minus1) 에 1을 더한 값은, PFPS를 참조하는 각 패치 프레임 내의 타일 그룹들의 수를 나타낸다. 이 파라미터의 값은 0 내지 NumTilesInPatchFrame - 1의 값의 범위를 가질 수 있다. 만약 이 파라미터가 존재하지 않고, pfti_single_tile_per_tile_group_flag의 값이 1인 경우, 이 파라미터의 값은 NumTilesInPatchFrame - 1로 추론된다(plus 1 specifies the number of tile groups in each patch frame referring to the PFPS. The value of pfti_num_tile_groups_in_patch_frame_minus1 shall be in the range of 0 to NumTilesInPatchFrame - 1, inclusive. When not present and pfti_single_tile_per_tile_group_flag is equal to 1, the value of pfti_num_tile_groups_in_patch_frame_minus1 is inferred to be equal to NumTilesInPatchFrame - 1).
PFTI 탑 레프트 타일 인덱스(pfti_top_left_tile_idx[ i ]) 는 i번째 타일 그룹의 왼쪽 상단 코너에 위치한 타일의 인덱스를 나타낸다. 이 파라미터의 값은 i와 동일하지 않은 모든 j에 대하여 pfti_top_left_tile_idx[ j ]의 값과 동일해서는 안된다. 만약, 해당 파라미터가 존재하지 않는 경우, 이 파라미터의 값은 i와 같다. 이이 파라미터 신텍스 엘리먼트의 길이는 Ceil( Log2( NumTilesInPatchFrame ) 비트들이다(specifies the tile index of the tile located at the top-left corner of the i-th tile group. The value of pfti_top_left_tile_idx[ i ] shall not be equal to the value of pfti_top_left_tile_idx[ j ] for any i not equal to j. When not present, the value of pfti_top_left_tile_idx[ i ] is inferred to be equal to i. The length of the pfti_top_left_tile_idx[ i ] syntax element is Ceil( Log2( NumTilesInPatchFrame ) bits).
PFTI 바틈 라이트 타일 인덱스 델타(pfti_bottom_right_tile_idx_delta[ i ]) 는 i번째 타일 그룹의 오른족 아래 코너에 위치한 타일의 타일 인덱스와 pfti_top_left_tile_idx[ i ]의 차이를 나타낸다. pfti_single_tile_per_tile_group_flag파라미터의 값이 1이라면, pfti_bottom_right_tile_idx_delta[ i ] 파라미터의 값은 0으로 추론된다. pfti_bottom_right_tile_idx_delta[ i ] 파라미터 신텍스 엘리먼트의 길이는 Ceil( Log2( NumTilesInPatchFrame pfti_top_left_tile_idx[ i ] ) ) bits 이다(specifies the difference between the tile index of the tile located at the bottom-right corner of the i-th tile group and pfti_top_left_tile_idx[ i ]. When pfti_single_tile_per_tile_group_flag is equal to 1, the value of pfti_bottom_right_tile_idx_delta[ i ] is inferred to be equal to 0. The length of the pfti_bottom_right_tile_idx_delta[ i ] syntax element is Ceil( Log2( NumTilesInPatchFrame - pfti_top_left_tile_idx[ i ] ) ) bits).
PFTI 시그널링되는 타일 그룹 아이디 플래그(pfti_signalled_tile_group_id_flag) 의 값이 1인 경우, 각 타일 그룹에 대한 타일 그룹 ID는 시그널링됨을 나타낸다. 이 파라미터의 값이 0인 경우 타일 그룹 ID들이 시그널링되지 않음을 나타낸다(equal to 1 specifies that the tile group ID for each tile group is signalled. pfti_signalled_tile_group_id_flag equal to 0 specifies that tile group IDs are not signaled).
PFTI 시그널링되는 타일 그룹 아이디 길이(pfti_signalled_tile_group_id_length_minus1) 에 1을 더한 값은, 존재할 경우, pfti_tile_group_id[ i ] 신텍스 엘리먼트를 나타내는데 사용되는 비트들의 수와 타일 그룹 헤더들의 ptgh_address 신텍스 엘리먼트를 나타낸다(plus 1 specifies the number of bits used to represent the syntax element pfti_tile_group_id[ i ] when present, and the syntax element ptgh_address in tile group headers).
PFTI 타일 그룹 아이디(pfti_tile_group_id[ i ]) i번째 타일 그룹의 타일 그룹 ID를 나타낸다(specifies the tile group ID of the i-th tile group).
도40은 실시예들에 따른 패치 타일 그룹 레이어 유닛(Patch tile group layer unit), 패치 타일 그룹 헤더(Patch tile group header)의 신택스를 나타낸다.
패치 타일 그룹 레이어 유닛(Patch tile group layer unit syntax):
헤더(patch_tile_group_header) 및 페이로드(patch_tile_group_data_unit)를 포함한다.
패치 타일 그룹 헤더 신택스(Patch tile group header syntax):
PTGH 패치 프레임 파라미터 세트 아이디(ptgh_patch_frame_parameter_set_id) 는 현재 패치 타일 그룹에 대한 액티브(active) 패치 프레임 파라미터 세트에 대한 pfps_patch_frame_parameter_set_id의 값을 나타낸다. 이 파라미터의 값은 0 내지 63의 범위의 값을 갖는다(specifies the value of pfps_patch_frame_parameter_set_id for the active patch frame parameter set for the current patch tile group. The value of ptgh_patch_frame_parameter_set_id shall be in the range of 0 to 63, inclusive).
PTGH 어드레스(ptgh_address) 는 타일 그룹의 타일 그룹 주소(tile group address)를 나타낸다. 이 파라미터가 존재하지 않는 경우, 이 파라미터의 값은 0으로 추론된다(specifies the tile group address of the tile group. When not present, the value of ptgh_address is inferred to be equal to 0).
PTGH 타입(ptgh_type) 은 현재 패치 타일 그룹의 코딩 타입을 나타낸다.
패치 타일 그룹 헤더의 타입(ptgh_type)의 값이 0이면, 타입은 P (P patch tile group)일 수 있고, 타입의 값이 1이면, 타입은 I (I patch tile group)일 수 있다.
PTGH 패치 오더 관련 변수(ptgh_patch_frm_order_cnt_lsb) 은 패치 프레임 순서 카운트 modulo MaxPatchFrmOrderCntLsb(현재 패치 타일 그룹에 대한)인 값이다(specifies the patch frame order count modulo MaxPatchFrmOrderCntLsb for the current patch tile group).
PTGH 레퍼런스 패치 프레임 리스트 SPS 플래그(ptgh_ref_patch_frame_list_sps_flag) 이 1인 경우, 현재 패치 타일 그룹의 참조 패치 프레임 리스트가 액티브 PSPS 내의 ref_list_struct( rlsIdx ) 신텍스 스트럭처 중 하나에 기초하여 도출됨을 나타낸다. 이 파라미터의 값이 0이면, 현재 패치 타일 그룹의 참조 패치 프레임 리스트가 현재 패치 타일 그룹의 타일 그룹 헤더 내에 직접적으로 포함된 ref_list_struct( rlsIdx ) 신텍스 스트럭처에 의해 도출됨을 나타낸다. 만약, psps_num_ref_patch_frame_lists_in_psps의 값이 0이면, ptgh_ref_patch_frame_list_sps_flag의 값도 0으로 추론된다(equal to 1 specifies that the reference patch frame list of the current patch tile group is derived based on one of the ref_list_struct( rlsIdx ) syntax structures in the active PSPS. ptgh_ref_patch_frame_list_sps_flag equal to 0 specifies that the reference patch frame list of the current patch tile list is derived based on the ref_list_struct( rlsIdx ) syntax structure that is directly included in the tile group header of the current patch tile group. When psps_num_ref_patch_frame_lists_in_psps is equal to 0, the value of ptgh_ref_patch_frame_list_sps_flag is inferred to be equal to 0).
PTGH 레퍼런스 패치 프레임 리스트 인덱스(ptgh_ref_patch_frame_list_idx) 는 현재 패치 타일 그룹에 대한 참조 패치 프레임 리스트의 도출에 사용되는 ref_list_struct( rlsIdx ) 신텍스 스트럭처의 인덱스 (액티브 PSPS 내의 포함된 ref_list_struct( rlsIdx ) 신텍스 스트럭처의 리스트 내)를 나타낸다. ptgh_ref_patch_frame_list_idx 신텍스 엘리먼트는 Ceil( Log2( psps_num_ref_patch_frame_lists_in_psps ) ) 비트들로 표현된다. 이 파라미터가 존재하지 않는 경우, 이 파라미터의 값은 0으로 추론된다. 이 파라미터는 0 내지 psps_num_ref_patch_frame_lists_in_psps - 1의 범위의 값을 가진다. 만약 ptgh_ref_patch_frame_list_sps_flag 파라미터의 값이 1이고, psps_num_ref_patch_frame_lists_in_psps의 값이 1이면, ptgh_ref_patch_frame_list_idx는 0으로 추론된다(specifies the index, into the list of the ref_list_struct( rlsIdx ) syntax structures included in the active PSPS, of the ref_list_struct( rlsIdx ) syntax structure that is used for derivation of the reference patch frame list for the current patch tile group. The syntax element ptgh_ref_patch_frame_list_idx is represented by Ceil( Log2( psps_num_ref_patch_frame_lists_in_psps ) ) bits. When not present, the value of ptgh_ref_patch_frame_list_idx is inferred to be equal to 0. The value of ptgh_ref_patch_frame_list_idx shall be in the range of 0 to psps_num_ref_patch_frame_lists_in_psps - 1, inclusive. When ptgh_ref_patch_frame_list_sps_flag is equal to 1 and psps_num_ref_patch_frame_lists_in_psps is equal to 1, the value of ptgh_ref_patch_frame_list_idx is inferred to be equal to 0).
PTGH 추가적인 변수 존재 플래그(ptgh_additional_pfoc_lsb_present_flag[ j ]) 가 1이면, 현재 패치 타일 그룹에 ptgh_additional_pfoc_lsb_val[ j ]이 존재함을 나타낸다. 만약 이 파라미터의 값이 0이면, ptgh_additional_pfoc_lsb_val[ j ]이 존재하지 않음을 나타낸다(equal to 1 specifies that ptgh_additional_pfoc_lsb_val[ j ] is present for the current patch tile group. ptgh_additional_pfoc_lsb_present_flag[ j ] equal to 0 specifies that ptgh_additional_pfoc_lsb_val[ j ] is not present).
PTGH 추가적 변수(ptgh_additional_pfoc_lsb_val[ j ]) 은 현재 패치 타일 그룹에 대한 FullPatchFrmOrderCntLsbLt[ RlsIdx ][ j ]의 값을 나타낸다. (specifies the value of FullPatchFrmOrderCntLsbLt[ RlsIdx ][ j ] for the current patch tile group) ptgh_additional_pfoc_lsb_val[ j ]의 신텍스 엘리먼트는 pfps_additional_lt_pfoc_lsb_len 비트들로 표현된다. 만약 이 파라미터가 존재하지 않는다면, 이 파라미터의 값은 0으로 추론된다(specifies the value of FullPatchFrmOrderCntLsbLt[ RlsIdx ][ j ] for the current patch tile group. The syntax element ptgh_additional_pfoc_lsb_val[ j ] is represented by pfps_additional_lt_pfoc_lsb_len bits. When not present, the value of ptgh_additional_pfoc_lsb_val[ j ] is inferred to be equal to 0).
PTGH 레퍼런스 인덱스 개수 오버라이드 플래그(ptgh_num_ref_idx_active_override_flag) 가 1인 경우, ptgh_num_ref_idx_active_minus1 신텍스 엘리먼트가 현재 패치 타일 그룹에 대해 존재함을 나타낸다. 이 파라미터가 0인 경우, ptgh_num_ref_idx_active_minus1 파라미터가 존재하지 않음을 나타낸다. 이 파라미터가 존재하지 않는 경우 이 파라미터의 값은 0을 추론된다(equal to 1 specifies that the syntax element ptgh_num_ref_idx_active_minus1 is present for the current patch tile group. ptgh_num_ref_idx_active_override_flag equal to 0 specifies that the syntax element ptgh_num_ref_idx_active_minus1 is not present. If ptgh_num_ref_idx_active_override_flag is not present, its value shall be inferred to be equal to 0).
PTGH 레퍼런스 인덱스 개수(ptgh_num_ref_idx_active_minus1) 은 현재 패치 타일 그룹을 위한 NumRefIdxActive 변수의 도출을 위해 사용된다. 이 파라미터는 0 내지 14의 범위의 값을 가진다(is used for the derivation of the variable NumRefIdxActive as specified by Equation 7 8 for the current patch tile group. The value of ptgh_num_ref_idx_active_minus1 shall be in the range of 0 to 14, inclusive). 만약 현재 패치 타일 그룹이 P 패치 프레임이면, ptgh_num_ref_idx_active_override_flag이 1이고, ptgh_num_ref_idx_active_minus1은 존재하지 않고, ptgh_num_ref_idx_active_minus1는 0으로 추론된다(When the current patch tile group is a P patch frame, ptgh_num_ref_idx_active_override_flag is equal to 1, and ptgh_num_ref_idx_active_minus1 is not present, ptgh_num_ref_idx_active_minus1 is inferred to be equal to 0). NumRefIdxActive - 1의 값은 현재 패치 타일 그룹을 디코딩하는데 사용되는, 참조 패치 프레임에 대한 최대 참조 인덱스를 나타낸다. 만약, NumRefIdxActive의 값이 0인 경우, 현재 패치 타일 그룹을 디코딩하는데 사용되는 참조 패치 프레임 리스트에 대한 레퍼런스 인덱스가 없음을 나타낸다(The value of NumRefIdxActive - 1 specifies the maximum reference index for reference the patch frame list that may be used to decode the current patch tile group. When the value of NumRefIdxActive is equal to 0, no reference index for the reference patch frame list may be used to decode the current patch tile group).
PTGH 2D시프트 U비트 수(ptgh_2d_shift_u_bit_count_minus1) 에 1을 더한 값은, 현재 패치 타일 그룹 내의 j 인덱스를 갖는 패치의 pdu_2d_shift_u[ j ]의 고정-길이 레프리젠테이션(fixed length representation) 내의 비트들의 수를 나타낸다(plus 1 specifies the number of bits in the fixed-length representation of pdu_2d_shift_u[ j ] of patch with index j in the current patch tile group).
PTGH 2D시프트 V비트 수( (ptgh_2d_shift_v_bit_count_minus1) 에 1을 더한 값은 현재 패치 타일 그룹 내의 인덱스 j의 패치의 pdu_2d_shift_v [ j ]의 고정-길이 레프리젠테이션 내의 비트들의 수를 나타낸다(plus 1 specifies the number of bits in the fixed-length representation of pdu_2d_shift_v [ j ] of patch with index j in the current patch tile group).
PTGH 3D시프트 탄젠트 축 비트 카운트(ptgh_3d_shift_tangent_axis_bit_count_minus1) 에 1을 더한 값은 현재 패치 타일 그룹 내의 j 인덱스를 갖는 패치의 pdu_3d_shift_tangent_axis[ j ]의 고정-길이 레프리젠테이션 내의 비트들의 수를 나타낸다(plus 1 specifies the number of bits in the fixed-length representation of pdu_3d_shift_tangent_axis[ j ] of patch with index j in the current patch tile group).
PTGH 3D시프트 바이탄젠트 축 비트 카운트 (ptgh_3d_shift_bitangent_axis_bit_count_minus1) 에 1을 더한 값은 현재 패치 타일 그룹 내의 j 인덱스를 갖는 패치의 pdu_3d_shift_bitangential_axis[ j ]의 고정-길이 레프리젠테이션 내의 비트들의 수를 나타낸다(plus 1 specifies the number of bits in the fixed-length representation of pdu_3d_shift_bitangential_axis[ j ] of patch with index j in the current patch tile group).
PTGH LOD 비트 카운트(ptgh_lod_bit_count) 는 현재 패치 타일 그룹 내의 j 인덱스를 갖는 패치의 pdu_lod[ j ]의 고정-길이 레프리젠테이션 내의 비트들의 수를 나타낸다(specifies the number of bits in the fixed-length representation of pdu_lod[ j ] of patch with index j in the current patch tile group).
PTGH 인터 프레딕트 비트 카운트 플래그(ptgh_inter_predict_bit_count_flag) 가 0이면 현재 패치 타일 그룹에 대한 파라미터들(ptgh_2d_shift_u_bit_count_minus1, ptgh_2d_shift_v_bit_count_minus1, ptgh_3d_shift_tangent_axis_bit_count_minus1, ptgh_3d_shift_bitangent_axis_bit_count_minus1, and ptgh_lod_bit_count)의 값이 현재 패치 타일 그룹의 참조 패치 프레임 리스트 내의 첫 번째 참조 패치 프레임의 대응 파라미터들에 의해 복사됨을 나타낸다. ptgh_inter_predict_bit_count_flag 파라미터의 값이 1인 경우, 이 파라미터들의 일부는 현재 패치 타일 그룹을 위해 현저히 변화됨을 나타낸다. 만약 이 파라미터가 존재하지 않는 경우, 이 파라미터의 값은 1로 추론될 수 있다.(equal to 0 indicates that values of the parameters for the current patch tile group ptgh_2d_shift_u_bit_count_minus1, ptgh_2d_shift_v_bit_count_minus1, ptgh_3d_shift_tangent_axis_bit_count_minus1, ptgh_3d_shift_bitangent_axis_bit_count_minus1, and ptgh_lod_bit_count are copied from the corresponding parameters of the first reference patch frame in the reference patch frame list of the current patch tile group. ptgh_inter_predict_bit_count_flag equal to 1 indicates that some of these parameters may be explicitly changed for the current patch tile group. If the ptgh_inter_predict_bit_count_flag is not present, it shall be inferred as equal to 1).
PTGH 인터 프레딕트 2D시프트 U비트 카운트 플래그(ptgh_inter_predict_2d_shift_u_bit_count_flag) 이 0이면, 현재 패치 타일 그룹에 대한 ptgh_2d_shift_u_bit_count_minus1의 값은 현재 패치 타일 그룹 헤더 내에 익스플리트리 코딩(explicitly coded)되었음을 나타낸다. ptgh_inter_predict_2d_shift_u_bit_count_flag가 1인 경우, 현재 패치 타일 그룹에 대한 ptgh_2d_shift_u_bit_count_minus1의 값은 현재 패치 타일 그룹의 참조 패치 프레임 리스트 내의 첫 번째 참조 패치 프레임의 대응하는 파라미터로부터 복사되었음을 나타낸다. 만약, ptgh_inter_predict_2d_shift_u_bit_count_flag 파라미터가 존재하지 않고, ptgh_type가 I인 경우, 그것의 값은 0일 수 있다. ptgh_inter_predict_2d_shift_u_bit_count_flag의 값이 존재하지 않고, ptgh_type이 P라면, 그것의 값은 1로 추론될 수 있다(equal to 0 indicates that the value of ptgh_2d_shift_u_bit_count_minus1 for the current patch tile group shall be explicitly coded in the current patch tile group header. ptgh_inter_predict_2d_shift_u_bit_count_flag equal to 1 indicates that the value of ptgh_2d_shift_u_bit_count_minus1 for the current patch tile group is copied from the corresponding parameter of the first reference patch frame in the reference patch frame list of the current patch tile group. If ptgh_inter_predict_2d_shift_u_bit_count_flag is not present and ptgh_type is equal to I, its value shall be inferred as being equal to 0. If ptgh_inter_predict_2d_shift_u_bit_count_flag is not present and ptgh_type is equal to P, its value shall be inferred as being equal to 1).
PTGH 인터 프레딕트 2D시프트 V비트 카운트 플래그(ptgh_inter_predict_2d_shift_v_bit_count_flag) 가 0이면, 현재 패치 타일 그룹에 대한 ptgh_2d_shift_v_bit_count_minus1의 값은 현재 패치 타일 그룹 헤더 내에 익스플리트리 코딩(explicitly coded)되었음을 나타낸다. 이 파라미터가 1인 경우, 현재 패치 타일 그룹에 대한 ptgh_2d_shift_v_bit_count_minus1의 값은 현재 패치 타일 그룹의 참조 패치 프레임 리스트 내의 첫 번째 참조 패치 프레임의 대응하는 파라미터로부터 복사되었음을 나타낸다. 만약 ptgh_inter_predict_2d_shift_v_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 I인 경우, 그것의 값은 0으로 추론된다. 만약, ptgh_inter_predict_2d_shift_v_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 R인 경우, 그것의 값은 0으로 추론된다(equal to 0 indicates that the value of ptgh_2d_shift_v_bit_count_minus1 for the current patch tile group shall be explicitly coded in the current patch tile group header. ptgh_inter_predict_2d_shift_v_bit_count_flag equal to 1 indicates that the value of ptgh_2d_shift_v_bit_count_minus1 for the current patch tile group is copied from the corresponding parameter of the first reference patch frame in the reference patch frame list of the current patch tile group. If ptgh_inter_predict_2d_shift_v_bit_count_flag is not present and ptgh_type is equal to I, its value shall be inferred as being equal to 0. If ptgh_inter_predict_2d_shift_v_bit_count_flag is not present and ptgh_type is equal to P, its value shall be inferred as being equal to 1).
PTGH 인터 프레딕트 3D 시프트 탄젠트 축 비트 카운트 클래그(ptgh_inter_predict_3d_shift_tangent_axis_bit_count_flag) 가 0이면, 현재 패치 타일 그룹에 대한 ptgh_3d_shift_tangent_axis_bit_count_minus1의 값은 현재 패치 타일 그룹 헤더 내에 익스플리트리 코딩(explicitly coded)되었음을 나타낸다. 이 파라미터가 1인 경우, 현재 패치 타일 그룹에 대한 ptgh_3d_shift_tangent_axis_bit_count_minus1 의 값은 현재 패치 타일 그룹의 참조 패치 프레임 리스트 내의 첫 번째 참조 패치 프레임의 대응하는 파라미터로부터 복사되었음을 나타낸다. 만약 ptgh_inter_predict_2d_shift_v_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 I인 경우, 그것의 값은 0으로 추론된다. 만약, ptgh_inter_predict_2d_shift_v_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 R인 경우, 그것의 값은 0으로 추론된다(equal to 0 indicates that the value of ptgh_3d_shift_tangent_axis_bit_count_minus1 for the current patch tile group shall be explicitly coded in the current patch tile group header. ptgh_inter_predict_3d_shift_tangent_axis_bit_count_flag equal to 1 indicates that the value of ptgh_3d_shift_tangent_axis_bit_count_minus1 for the current patch tile group is copied from the corresponding parameter of the first reference patch frame in the reference patch frame list of the current patch tile group. If ptgh_inter_predict_3d_shift_tangent_axis_bit_count_flag is not present and ptgh_type is equal to I, its value shall be inferred as being equal to 0. If ptgh_inter_predict_3d_shift_tangent_axis_bit_count_flag is not present and ptgh_type is equal to P, its value shall be inferred as being equal to 1).
PTGH 인터 프레딕트 3D 시프트 바이탄젠트 축 비트 카운트 플래그(ptgh_inter_predict_3d_shift_bitangent_axis_bit_count_flag) 가 0이면, 현재 패치 타일 그룹에 대한 ptgh_3d_shift_bitangent_axis_bit_count_minus1의 값은 현재 패치 타일 그룹 헤더 내에 익스플리트리 코딩(explicitly coded)되었음을 나타낸다. 이 파라미터가 1인 경우, 현재 패치 타일 그룹에 대한 ptgh_3d_shift_bitangent_axis_bit_count_minus1의 값은 현재 패치 타일 그룹의 참조 패치 프레임 리스트 내의 첫 번째 참조 패치 프레임의 대응하는 파라미터로부터 복사되었음을 나타낸다. 만약 ptgh_inter_predict_3d_shift_bitangent_axis_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 I인 경우, 그것의 값은 0으로 추론된다. 만약, ptgh_inter_predict_3d_shift_bitangent_axis_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 R인 경우, 그것의 값은 0으로 추론된다(qual to 0 indicates that the value of ptgh_3d_shift_bitangent_axis_bit_count_minus1 for the current patch tile group shall be explicitly coded in the current patch tile group header. ptgh_inter_predict_3d_shift_bitangent_axis_bit_count_flag equal to 1 indicates that the value of ptgh_3d_shift_bitangent_axis_bit_count_minus1 for the current patch tile group is copied from the corresponding parameter of the first reference patch frame in the reference patch frame list of the current patch tile group. If ptgh_inter_predict_3d_shift_bitangent_axis_bit_count_flag is not present and ptgh_type is equal to I, its value shall be inferred as being equal to 0. If ptgh_inter_predict_3d_shift_bitangent_axis_bit_count_flag is not present and ptgh_type is equal to P, its value shall be inferred as being equal to 1).
PTGH 인터 프레딕트 LOD 비트 카운트 플래그(ptgh_inter_predict_lod_bit_count_flag) 가 0이면, 현재 패치 타일 그룹에 대한 ptgh_lod_bit_count의 값은 현재 패치 타일 그룹 헤더 내에 익스플리트리 코딩(explicitly coded)되었음을 나타낸다. 이 파라미터가 1인 경우, 현재 패치 타일 그룹에 대한 ptgh_lod_bit_count의 값은 현재 패치 타일 그룹의 참조 패치 프레임 리스트 내의 첫 번째 참조 패치 프레임의 대응하는 파라미터로부터 복사되었음을 나타낸다. 만약 ptgh_inter_predict_lod_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 I인 경우, 그것의 값은 0으로 추론된다. 만약, ptgh_inter_predict_lod_bit_count_flag 파라미터가 존재하지 않고 ptgh_type이 R인 경우, 그것의 값은 0으로 추론된다(equal to 0 indicates that the value of ptgh_lod_bit_count for the current patch tile group shall be explicitly coded in the current patch tile group header. ptgh_inter_predict_lod_bit_count_flag equal to 1 indicates that the value of ptgh_lod_bit_count for the current patch tile group is copied from the corresponding parameter of the first reference patch frame in the reference patch frame list of the current patch tile group. If ptgh_inter_predict_lod_bit_count_flag is not present and ptgh_type is equal to I, its value shall be inferred as being equal to 0. If ptgh_inter_predict_lod_bit_count_flag is not present and ptgh_type is equal to P, its value shall be inferred as being equal to 1).
PTGH PCM 3D시프트 비트 카운트 플래그(ptgh_pcm_3d_shift_bit_count_flag) 가 1이면, ppdu_3d_pcm_shift_tangent_axis, ppdu_3d_pcm_shift_bitangent_axis, and ppdu_3d_pcm_shift_normal_axis에 대한 비트 카운트가 현재 패치 타일 그룹 헤더 내 익스플리틀리 코딩(explicitely coded)되었음을 나타낸다. ptgh_pcm_3d_shift_bit_count_flag가 0이면, ppdu_3d_pcm_shift_tangent_axis, ppdu_3d_pcm_shift_bitangent_axis, and ppdu_3d_pcm_shift_normal_axis에 대한 비트 카운트는 gi_geometry_3d_coordinates_bitdepth_minus1 gi_geometry_nominal_2d_bitdepth_minus1로 설정되었음을 나타낸다(equal to 1 indicates that the bit count for ppdu_3d_pcm_shift_tangent_axis, ppdu_3d_pcm_shift_bitangent_axis, and ppdu_3d_pcm_shift_normal_axis is explicitely coded in the current patch tile group header. ptgh_pcm_3d_shift_bit_count_flag equal to 0 indicates that the bit count for ppdu_3d_pcm_shift_tangent_axis, ppdu_3d_pcm_shift_bitangent_axis, and ppdu_3d_pcm_shift_normal_axis shall be set to gi_geometry_3d_coordinates_bitdepth_minus1 - gi_geometry_nominal_2d_bitdepth_minus1).
PTGH PCM 3D 시프트 축 비트 카운트(ptgh_pcm_3d_shift_axis_bit_count_minus1) 에 1을 더한 값은 ppdu_3d_pcm_shift_tangent_axis, ppdu_3d_pcm_shift_bitangent_axis, and ppdu_3d_pcm_shift_normal_axis의 비트 카운드를 나타낸다. ptgh_pcm_3d_shift_axis_bit_count_minus1에 대한 비트 카운트는 gi_geometry_3d_coordinates_bitdepth_minus1와 같다.(plus 1 specifies the bit count of ppdu_3d_pcm_shift_tangent_axis, ppdu_3d_pcm_shift_bitangent_axis, and ppdu_3d_pcm_shift_normal_axis. The bit count for ptgh_pcm_3d_shift_axis_bit_count_minus1 is equal to gi_geometry_3d_coordinates_bitdepth_minus1).
도41은 실시예들에 따른 레퍼런스 리스트 구조(Reference list structure)의 신택스를 나타낸다.
레퍼런스 리스트 구조(Reference list structure syntax):
*레퍼런스 엔트리들의 개수(num_ref_entries[ rlsIdx ]) 는 ref_list_struct( rlsIdx ) 신텍스 스트럭처 내의 엔트리(entry)들의 수를 나타낸다. 이 파라미터의 값은 0 내지 psps_max_dec_patch_frame_buffering_minus1+1의 값의 범위를 갖는다(specifies the number of entries in the ref_list_struct( rlsIdx ) syntax structure. The value of num_ref_entries[ rlsIdx ] shall be in the range of 0 to psps_max_dec_patch_frame_buffering_minus1 + 1, inclusive).
숏텀 레퍼런스 패치 프래임 플래그(st_ref_patch_frame_flag[ rlsIdx ][ i ]) 가 1이면, ref_list_struct( rlsIdx ) 신텍스 스트럭처 내의 i번째 엔트리가 숏 텀 레퍼런스 패치 프레임 앤트리(short term reference patch frame entry)임을 나타낸다. 이 파라미터의 값이 0이면, ref_list_struct( rlsIdx ) 신텍스 스트럭처 내의 i번째 엔트리가 롱 텀 레퍼런스 패치 프레임 앤트리(long term reference patch frame entry)임을 나타낸다. 만약 이 파라미터가 존재하지 않으면 이 파라미터의 값은 0으로 추론된다(equal to 1 specifies that the i-th entry in the ref_list_struct( rlsIdx ) syntax structure is a short term reference patch frame entry. st_ref_patch_frame_flag[ rlsIdx ][ i ] equal to 0 specifies that the i-th entry in the ref_list_struct( rlsIdx ) syntax structure is a long term reference patch frame entry. When not present, the value of st_ref_patch_frame_flag[ rlsIdx ][ i ] is inferred to be equal to 1).
ABS델타 숏텀(abs_delta_pfoc_st[ rlsIdx ][ i ]) i번째 앤트리가 ref_list_struct( rlsIdx ) syntax structure 내의 첫 번째 숏 텀 참조 패치 프레임 앤트리인 경우, 이 파라미터는 현재 패치 타일 그룹의 패치 프레임 오더 카운트 값들과 i번째 앤트리에 의해 참조되는 패치 프레임의 절대 차이(absolute difference)를 나타낸다. 또는, i번째 앤트리가 ref_list_struct( rlsIdx ) syntax structure 내의 숏 텀 참조 패치 프레임 앤트리이지만 ref_list_struct( rlsIdx ) syntax structure 의 첫 번째 숏 텀 참조 패치 프레임 앤트리가 아닌 경우, 이 파라미터는 i번째 앤트리에 의해 참조되는 패치 프레임들의 패치 프레임 오더 카운트 값들과 the ref_list_struct( rlsIdx ) syntax structure 내의 이전의 숏 텀 참조 패치 프레임 엔트리의 절대 차이를 나타낸다(when the i-th entry is the first short term reference patch frame entry in ref_list_struct( rlsIdx ) syntax structure, specifies the absolute difference between the patch frame order count values of the current patch tile group and the patch frame referred to by the i-th entry, or, when the i-th entry is a short term reference patch frame entry but not the first short term reference patch frame entry in the ref_list_struct( rlsIdx ) syntax structure, specifies the absolute difference between the patch frame order count values of the patch frames referred to by the i-th entry and by the previous short term reference patch frame entry in the ref_list_struct( rlsIdx ) syntax structure).
abs_delta_pfoc_st[ rlsIdx ][ i ]의 값은 0 내지 2^15-1의 범위의 값을 가진다 (The value of abs_delta_pfoc_st[ rlsIdx ][ i ] shall be in the range of 0 to 215 - 1, inclusive).
엔트리 사인 플래그(strpf_entry_sign_flag[ rlsIdx ][ i ]) 의 값이 1이면, ref_list_struct( rlsIdx ) 신텍스 스트럭처 내의 i번째 앤트리는 0보다 크거나 같은 값을 가짐을 나타낸다. 이 파라미터의 값이 0이면, ref_list_struct( rlsIdx ) 신텍스 스트럭처 내의 i번째 앤트리는 0보다 작은 값을 가짐을 나타낸다. 이 파라미터가 존재하지 않으면, 이 파라미터는 1로 추론된다(equal to 1 specifies that i-th entry in the syntax structure ref_list_struct( rlsIdx ) has a value greater than or equal to 0. strpf_entry_sign_flag[ rlsIdx ][ i ] equal to 0 specifies that the i-th entry in the syntax structure ref_list_struct( rlsIdx ) has a value less than 0. When not present, the value of strpf_entry_sign_flag[ rlsIdx ][ i ] is inferred to be equal to 1).
LSB관련 정보(pfoc_lsb_lt[ rlsIdx ][ i ]) 는 패치 프레임 오더 카운트 modulo ref_list_struct( rlsIdx ) 내의 i번째 앤트리에 의해 참조되는 패치 프레임의 MaxPatchFrmOrderCntLsb 을 나타낸다. pfoc_lsb_lt[ rlsIdx ][ i ] 신텍스 엘리먼트의 길이(length)는 psps_log2_max_patch_frame_order_cnt_lsb_minus4 + 4 비트이다(specifies the value of the patch frame order count modulo MaxPatchFrmOrderCntLsb of the patch frame referred to by the i-th entry in the ref_list_struct( rlsIdx ) syntax structure. The length of the pfoc_lsb_lt[ rlsIdx ][ i ] syntax element is psps_log2_max_patch_frame_order_cnt_lsb_minus4 + 4 bits).
도42는 실시예들에 따른 패치 타일 그룹 데이터 유닛(patch_tile_group_data_unit)를 나타낸다.
PTGDU 패치 모드(ptgdu_patch_mode[ p ]) 는 현재 패치 타일 그룹 내의 p 인덱스를 갖는 패치에 대한 패치 모드를 나타낸다. ptgh_type = I 또는 ptgh_type = P인 패치 타일 그룹에 대한 ptgdu_patch_mode[ p ]에 대한 허용된 값들은 아래 도시된 표와 같다(indicates the patch mode for the patch with index p in the current patch tile group. The permitted values for ptgdu_patch_mode[ p ] are specified in Table 7 5 for patch tile groups with ptgh_type = I and in Table 7 6 for patch tile groups with ptgh_type = P.)
Table 7-5 Patch mode types for I patch tile groups
| ptgdu_patch_mode | Identifier | Description |
| 0 | I_INTRA | Non-predicted Patch mode |
| 1 | I_PCM | PCM Point Patch mode |
| 2-13 | I_RESERVED | Reserved modes |
| 14 | I_END | Patch termination mode |
Table 7-6 Patch mode types for P patch tile groups
| ptgdu_patch_mode | Identifier | Description |
| 0 | P_SKIP | Patch Skip mode |
| 1 | P_INTRA | Non-predicted Patch mode |
| 2 | P_INTER | Inter predicted Patch mode |
| 3 | P_PCM | PCM Point Patch mode |
| 4-13 | P_RESERVED | Reserved modes |
| 14 | P_END | Patch termination mode |
도43은 실시예들에 따른 패치 정보 데이터(Patch information data)의 신택스를 나타낸다.
패치 정보 데이터 신택스(Patch information data syntax)
PID 오버라이드 지오메트리 패치 플래그(pid_override_geometry_patch_flag[ p ]) 는 다른 지오메트리 패치 파라미터 세트가 현재 패치 타일 그룹 내의 패치 p와 연관되는지 여부를 나타낸다. 만약 이 파라미터가 1이면, 새로운 지오메트리 패치 파라미터 세트가 현재 패치 타일 그룹 내의 패치 p와 연관됨을 나타낸다. 만약 이 파라미터가 0이면, 전체 패치 프레임과 연관된 지오메트리 패치 파라미터 세트가 사용됨을 나타낸다. 만약, 이 파라미터가 존재하지 않으면, 이 파라미터의 값은 0으로 추론된다(indicates whether a different geometry patch parameter set should be associated with patch p in the current patch tile group. If pid_override_geometry_patch_flag[ p ] is equal to 1, then a new geometry patch parameter set is associated with patch p in the current patch tile group. If pid_override_geometry_patch_flag[ p ] is equal to 0, then the geometry patch parameter set associated with the entire patch frame shall be used. If pid_override_geometry_patch_flag[ p ] is not present, its value shall be inferred to be equal to 0).
PID 지오메트리 패치 파라미터 세트 아이디(pid_geometry_patch_parameter_set_id[ p ]) 는 현재 패치 타일 그룹의 패치 p와 연관된 지오메트리 패치 파라미터 세트에 대한 gpps_geometry_patch_parameter_set_id 값을 나타낸다. pid_geometry_patch_parameter_set_id[ p ] 파라미터의 값은 0 내지 63의 범위를 갖는 값일 수 있다(specifies the value of gpps_geometry_patch_parameter_set_id for the geometry patch parameter set associated with the patch p of the current patch tile group. The value of pid_geometry_patch_parameter_set_id[ p ] shall be in the range of 0 to 63, inclusive.)
PID 오버라이드 어트리뷰트 패치 플래그(pid_override_attribute_patch_flag[ p ][ i ]) 는 i 인덱스를 갖는 어트리뷰트에 대한 다른 어트리뷰트 패치 파라미터 세트가 현재 패치 타일 그룹 내의 패치 p와 연관됨을 나타낸다. 만약, 이 파라미터가 1이면, 새로운 어트리뷰트 패치 파라미터 세트가 현재 패치 타일 그룹 내의 패치 p의 인덱스 i의 어트리뷰트가 연관됨을 나타낸다. 만약, 이 파라미터가 0이면, 전체 패치 프레임과 연관된 어트리뷰트 패치 파라미터 세트가 사용됨을 나타낸다. 만약, 이 파라미터가 존재하지 않으면, 이 파라미터의 값은 0으로 추론된다(indicates whether a different attribute patch parameter set, for attribute with index i should be associated with patch p in the current patch tile group. If pid_override_attribute_patch_flag[ p ][ i ] is equal to 1, then a new attribute patch parameter set is associated with attribute of index i of patch p in the current patch tile group. If pid_override_attribute_patch_flag[ p ][ i ] is equal to 0, then the attribute patch parameter set associated with attribute i of the entire patch frame shall be used. If pid_override_attribute_patch_flag[ p ][ i ] is not present, its value shall be inferred to be equal to 0).
PID 어트리뷰트 패치 파라미터 세트 아이디(pid_attribute_patch_parameter_set_id[ p ][ i ]) 는 현재 패치 타일 그룹의 패치 p와 연관된 어트리뷰트 패치 파라미터 세트에 대한 apps_attribute_patch_parameter_set_id[ i ] 값을 나타낸다(specifies the value of apps_attribute_patch_parameter_set_id[ i ] for the attribute patch parameter set for attribute i associated with the patch p of the current patch tile group. The value of pid_attribute_patch_parameter_set_id[ p ][ i ] shall be in the range of 0 to 63, inclusive).
도44는 실시예들에 따른 패치 데이터 유닛(Patch data unit)의 신택스를 나타낸다.
패치 데이터 유닛 신택스(Patch data unit syntax)
PDU 2D 시프트 U(pdu_2d_shift_u[ p ]) 은 현재 패치 타일 그룹 내의 패치 p에 대한 패치 바운딩 박스(patch bounding box)의 상단 왼쪽 코너의 x-좌표를 나타내고, 복수 개의 PatchPackingBlockSize에 의해 표현된다. pdu_2d_shift_u 파라미터의 값은 0 내지 Min( 2ptgh_2d_shift_u_bit_count_minus1 + 1 - 1, sps_frame_width / PatchPackingBlockSize - 1)의 범위를 갖는 값이다(specifies the x-coordinate of the top-left corner of the patch bounding box size for patch p in the current patch tile group, expressed as a multiple of PatchPackingBlockSize. The value of pdu_2d_shift_u[ p ] shall be in the range of 0 to Min( 2ptgh_2d_shift_u_bit_count_minus1 + 1 - 1, sps_frame_width / PatchPackingBlockSize - 1), inclusive).
PDU 2D 시프트 V (pdu_2d_shift_v [ p ]) 은 현재 패치 타일 그룹 내의 패치 p에 대한 패치 바운딩 박스(patch bounding box)의 상단 왼쪽 코너의 y-좌표를 나타내고, 복수 개의 PatchPackingBlockSize에 의해 표현된다. pdu_2d_shift_v 파라미터의 값은 0 내지 Min( 2ptgh_2d_shift_v_bit_count_minus1 + 1 - 1, sps_frame_height / PatchPackingBlockSize - 1)의 범위를 갖는 값이다(specifies the y-coordinate of the top-left corner of the patch bounding box size for patch p in the current patch tile group, expressed as a multiple of PatchPackingBlockSize. The value of pdu_2d_shift_v[ p ] shall be in the range of 0 to Min( 2ptgh_2d_shift_v_bit_count_minus1 + 1 - 1, sps_frame_height / PatchPackingBlockSize - 1), inclusive).
PDU 2D 델타 사이즈 U(pdu_2d_delta_size_u[ p ]) 만약 p가 0인 경우, 이 파라미터는 현재 패치 타일 그룹 내 인덱스가 0인 패치의 폭(width) 값을 나타낸다. 만약 p가 0보다 크면, 이 파라미터는 인덱스가 (p-1)인 패치 및 인덱스가 p인 패치의 폭(width) 값의 차이를 나타낸다(when p is equal to 0, specifies the width value of the patch with index 0 in the current patch tile group. When p is larger than 0, pdu_2d_delta_size_u[ p ] specifies the difference of the width values of the patch with index p and the patch with index (p - 1)).
PDU 2D 델타 사이즈 V (pdu_2d_delta_size_v[ p ]) 만약 p가 0인 경우, 이 파라미터는 현재 패치 타일 그룹 내 인덱스가 0인 패치의 높이(height) 값을 나타낸다. 만약 p가 0보다 크면, 이 파라미터는 인덱스가 (p-1)인 패치 및 인덱스가 p인 패치의 높이(height) 값의 차이를 나타낸다(when p is equal to 0, specifies the height value of the patch with index 0 in the current patch tile group. When p is larger than 0, pdu_2d_delta_size_v[ p ] specifies the difference of the height values of the patch with index p and the patch with index (p - 1)).
PDU 3D 시프트 탄젠트 축(pdu_3d_shift_tangent_axis[ p ]) 는 탄젠트 축(tangent axis)의 현재 패치 타일 그룹 내 인덱스가 p인 패치 내의 리컨스트럭티드 패치 포인트들(reconstructed patch points)에 대해 적용되는 쉬프트(shift)를 나타낸다. 이 파라미터의 값은 0 내지 Min( 2ptgh_3d_shift_tangent_axis_bit_count_minus1 + 1, 2gi_geometry_3d_coordinates_bitdepth_minus1 + 1 ) - 1의 범위의 값을 갖는다( specifies the shift to be applied to the reconstructed patch points in patch with index p of the current patch tile group along the tangent axis. The value of pdu_3d_shift_tangent_axis[ p ] shall be in the range of 0 to Min( 2ptgh_3d_shift_tangent_axis_bit_count_minus1 + 1, 2gi_geometry_3d_coordinates_bitdepth_minus1 + 1 ) - 1, inclusive).
PDU 3D 시프트 바이탄젠트 축 (pdu_3d_shift_bitangent_axis[ p ]) 는 바이탄젠트 축(bitangent axis)의 현재 패치 타일 그룹 내 인덱스가 p인 패치 내의 리컨스트럭티드 패치 포인트들(reconstructed patch points)에 대해 적용되는 쉬프트(shift)를 나타낸다. 이 파라미터의 값은 0 내지 Min(2ptgh_3d_shift_bitangent_axis_bit_count_minus1 + 1, 2gi_geometry_3d_coordinates_bitdepth_minus1 + 1 ) - 1의 범위의 값을 갖는다(specifies the shift to be applied to the reconstructed patch points in patch with index p of the current patch tile group along the bitangent axis. The value of pdu_3d_shift_bitangent_axis[ p ] shall be in the range of 0 to Min(2ptgh_3d_shift_bitangent_axis_bit_count_minus1 + 1, 2gi_geometry_3d_coordinates_bitdepth_minus1 + 1 ) - 1, inclusive).
PDU 3D 시프트 최소 노멀 축(pdu_3d_shift_min_normal_axis[ p ]) 는 노멀 축(normal axis)의 현재 패치 타일 그룹 내 인덱스가 p인 패치 내의 리컨스트럭티드 패치 포인트들에 대해 적용되는 시프트(shift)를 나타낸다(specifies the shift to be applied to the reconstructed patch points in patch with index p of the current patch tile group along the normal axis, Pdu3dShiftMinNormalAxis[ p ])
PDU 3D 시프트 델타 맥스 노멀 축(pdu_3d_shift_delta_max_normal_axis[ p ]) 는, 만약 존재한다면, 이 파라미터는 노멀 축(normal axis)의 현재 패치 타일 그룹 내 인덱스가 p인 패치 내에 존재하는, 리컨스트럭션된 비트뎁스(bitdepth) 패치 지오메트리 샘플들에 존재할 것으로 기대되는, 시프트의 노미널 최대 값(nominal maximum value)을 나타낸다(if present, specifies the nominal maximum value of the shift expected to be present in the reconstructed bitdepth patch geometry samples, after conversion to their nominal representation, in patch with index p of the current patch tile group along the normal axis)
만약, pdu_3d_shift_delta_max_normal_axis[ p ]가 존재하지 않는 경우, Pdu3dShiftDeltaMaxNormalAxis[ p ]의 값은 2gi_geometry_nominal_2d_bitdepth_minus1+1 - 1의 값과 같다고 가정할 수 있다. 만약, pdu_3d_shift_delta_max_normal_axis[ p ]가 존재한다면, Pdu3dShiftDeltaMaxNormalAxis[ p ]의 값은 0 내지 2gi_geometry_3d_coordinates_bitdepth_minus1 + 1 - 1의 범위의 값을 가진다(If pdu_3d_shift_delta_max_normal_axis[ p ] is not present the value of Pdu3dShiftDeltaMaxNormalAxis[ p ] is assumed to be equal to 2gi_geometry_nominal_2d_bitdepth_minus1+1 - 1. When present, the value of Pdu3dShiftDeltaMaxNormalAxis[ p ] shall be in the range of 0 to 2gi_geometry_3d_coordinates_bitdepth_minus1 + 1 - 1, inclusive).
PDU 프로젝션 플레인(pdu_projection_plane[ p ]) 는 프로젝션 모드(projection mode)의 값과 현재 패치 타일 그룹 내 인덱스가 p인 패치에 대한 프로젝션 플레인(projection plane)에 노멀(normal)한 인덱스의 값을 나타낸다. 이 파라미터의 값은 0 내지 6 범위를 갖는 값일 수 있다(specifies the values of the projection mode and of the index of the normal to the projection plane for the patch with index p of the current patch tile group. The value of pdu_projection_plane[ p ] shall be in range of 0 to 6, inclusive).
PDU 오리엔테이션 인덱스(pdu_orientation_index[ p ]) 는 현재 패치 타일 그룹 내 인덱스가 p인 패치에 대한 패치 오리엔테이션 인덱스와 관련있는 파라미터이다(indicates the index to Table 9 1 of the patch orientation index for the patch with index p of the current patch tile group).
PDU LOD(pdu_lod[ p ]) 는 현재 패치 타일 그룹 내 인덱스가 p인 패치에 적용되는 LOD 스케일링 팩터(factor)를 나타낸다. 현재 패치 타일 그룹 내의 패치 p에 대한 리컨스트럭티드 포인트 3D 위치들은 2D로부터 프로젝션(projection)된 이후 및 어떠한 변형이 적용되기 전, 2pdu_lod[ p ]에 의해 스케일링될 수 있다. 이 파라미터가 존재하지 않으면, 이 파라미터의 값은 0으로 추론될 수 있다( specifies the LOD scaling factor to be applied to the patch with index p of the current patch tile group. The reconstructed point 3D positions for patch p in the current patch tile group are to be scaled by 2pdu_lod[ p ] after their projection from 2D and before applying any further transformations. If pdu_lod[ p ] is not present, its value shall be inferred to be equal to 0).
PDU 프로젝션 존재 플래그(pdu_45degree_projection_present_flag[ p ]) 가 0이면, 현재 패치 타일 그룹 내 인덱스가 p인 패치에 대하여, 패치 프로젝션 정보가 시그널링되지 않음을 나타낸다. 이 파라미터의 값이 1이면, 현재 패치 타일 그룹 내 인덱스가 p인 패치에 대하여, 패치 프로젝션 정보가 시그널링됨을 나타낸다. pdu_45degree_projection_present_flag[ p ]가 존재하지 않으면, 그 값은 0으로 추론된다(equal to 0 specifies that the patch projection information is not signalled for the patch with index p of the current patch tile group. pdu_45degree_projection_present_flag[ p ] equal to 1 specifies that the patch projection information is signalled for the patch with index p of the current patch tile group. When pdu_45degree_projection_present_flag[ p ] is not present, its value is inferred to be equal to 0).
PDU 프로젝션 회전 축(pdu_45degree_projection_rotation_axis[ p ]) 가 0이면 현재 패치 타일 그룹 내 p 인덱스를 갖는 패치가 패치 바운딩 박스의 6 프로젝션 플레인(projection plane)들 중 하나에 직접적으로 프로젝션됨을 나타낸다. 이 파라미터의 값이 0보다 크면, 현재 패치 타일 그룹 내 p 인덱스를 갖는 패치가 패치 바운딩 박스의 다이오그널(diagonal) 45도 프로젝션 플레인들 중 하나에 프로젝션됨을 나타낸다. pdu_45degree_projection_rotation_axis[ p ]의 값은 0 내지 3 범위의 값이다. pdu_45degree_projection_rotation_axis[ p ]가 존재하지 않으면, 이 파라미터의 값은 0으로 추론된다(equal to 0 specifies that the patch with index p of the current patch tile group is projected directly to one of the 6 projection planes of the patch bounding box. When pdu_45degree_projection_rotation_axis[ p ] is greater than 0, it specifies that the patch with index p of the current patch tile group is projected to one of the diagonal 45 degree projection planes of the patch bounding box. The value of pdu_45degree_projection_rotation_axis[ p ] shall be in the range of 0 to 3, inclusive. When pdu_45degree_projection_rotation_axis[ p ] is not present, its value is inferred to be equal to 0).
도45는 실시예들에 따른 델타 패치 데이터 유닛(Delta Patch data unit)의 신택스를 나타낸다.
델타 패치 데이터 유닛 신택스(Delta Patch data unit syntax)
DPDU 패치 인덱스(dpdu_patch_index[ p ]) 는 현재 참조 패치 프레임 리스트 내의 RefInd 인덱스에 대응하는 패치 프레임 내의 현재 타일 그룹 주소와 동일한 패치 타일 그룹 내의 패치의 인덱스(predIdx)를 나타낸다(specifies the index, PredIdx, of the patch in the patch tile group with the same address as the current tile group adress in the patch frame that corresponds to index RefIdx in the current reference patch frame list).
DPDU 2D 시프트 U(dpdu_2d_shift_u[ p ]) 는 현재 패치 타일 그룹 내의 인덱스가 p인 패티의 바운딩 박스의 왼쪽 위 코너의 x-좌표와 패치 프레임 내(PatchPackingBlockSize들로 표현되는 참조 RefIdx와 관련된 패치 프레임)의 현재 타일 그룹과 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx 인덱스를 갖는 패치의 패치 바운딩 박스의 왼쪽 위 코너의 x-좌표의 차이를 나타낸다. 이 파라미터의 값은 (sps_frame_width / PatchPackingBlockSize + 1) to (sps_frame_width / PatchPackingBlockSize - 1) 의 범위의 값을 가질 수 있다(specifies the difference of the x-coordinate of the top-left corner of the patch bounding box of patch with index p in the current patch tile group and of the x-coordinate of the top-left corner of the patch bounding box of the patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that is associated with the reference RefIdx, expressed as a multiple of PatchPackingBlockSize. The value of dpdu_2d_shift_u[ p ] shall be in the range of (-sps_frame_width / PatchPackingBlockSize + 1) to (sps_frame_width / PatchPackingBlockSize - 1), inclusive).
DPDU 2D 시프트 V (dpdu_2d_shift_v[ p ]) 는 현재 패치 타일 그룹 내의 인덱스가 p인 패티의 바운딩 박스의 왼쪽 위 코너의 y-좌표와 패치 프레임 내(PatchPackingBlockSize들로 표현되는 참조 RefIdx와 관련된 패치 프레임)의 현재 타일 그룹과 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx 인덱스를 갖는 패치의 패치 바운딩 박스의 왼쪽 위 코너의 y-좌표의 차이를 나타낸다. 이 파라미터의 값은 (sps_frame_height / PatchPackingBlockSize + 1) to ( sps_frame_height / PatchPackingBlockSize - 1)의 범위의 값을 가질 수 있다(specifies the difference of the y-coordinate of the top-left corner of the patch bounding box of patch with index p in the current patch tile group and of the y-coordinate of the top-left corner of the patch bounding box of the patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that is associated with the reference RefIdx, expressed as a multiple of PatchPackingBlockSize. The value of dpdu_2d_shift_v[ p ] shall be in the range of ( -sps_frame_height / PatchPackingBlockSize + 1) to ( sps_frame_height / PatchPackingBlockSize - 1), inclusive).
DPDU 2D델타 사이즈 U(dpdu_2d_delta_size_u[ p ]) 는 현재 패치 타일 그룹 내의 p 인덱스를 갖는 패치의 폭(width) 값과 패치 프레임(참조 RefIdx와 연관이 있는 패치 프레임) 내의 현재 타일 그룹의 주소와 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx 인덱스를 갖는 패치와의 차를 의미한다(specifies the difference of the width values of the patch with index p in the current patch tile group and the patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that is associated with the reference RefIdx).
DPDU 2D델타 사이즈 V (dpdu_2d_delta_size_v[ p ]) 는 현재 패치 타일 그룹 내의 p 인덱스를 갖는 패치의 높이(height) 값과 패치 프레임(참조 RefIdx와 연관이 있는 패치 프레임) 내의 현재 타일 그룹의 주소와 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx 인덱스를 갖는 패치와의 차를 의미한다( specifies the difference of the height values of the patch with index p in the current patch tile group and the patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that correponds to the reference RefIdx).
DPDU 3D 시프트 탄젠트 축(dpdu_3d_shift_tangent_axis[ p ]) 는 현재 패치 타일 그룹 내의 p인덱스를 갖는 패치의 탄젠트 축(tangent axis)의 리컨스트럭티드 패치 포인트들(reconstructed patch points)에 대해 적용되는 시프트(shift)와 패치 프레임(참조 RefIdx와 연관이 있는 패치 프레임) 내의 현재 타일 그룹의 주소와 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx 인덱스를 갖는 패치의 탄젠트 축의 리컨스트럭티드 패치 포인트들에 대해 적용되는 시프트(shift)의 차를 나타낸다( specifies the difference between the shift to be applied to the reconstructed patch points along the tangent axis of patch with index p in the current patch tile group and of the shift to be applied to the reconstructed patch points along the tangent axis of patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that corresponds to the reference RefIdx).
DPDU 3D 시프트 바이탄젠트 축 (dpdu_3d_shift_bitangent_axis[ p ]) 는 현재 패치 타일 그룹 내의 p인덱스를 갖는 패치의 바이탄젠트 축(bitangent axis)의 리컨스트럭티드 패치 포인트들(reconstructed patch points)에 대해 적용되는 시프트(shift)와 패치 프레임(참조 RefIdx와 연관이 있는 패치 프레임) 내의 현재 타일 그룹의 주소와 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx 인덱스를 갖는 패치의 바이탄젠트 축의 리컨스트럭티드 패치 포인트들에 대해 적용되는 시프트(shift)의 차를 나타낸다( specifies the difference between the shift to be applied to the reconstructed patch points along the bitangent axis of patch with index p in the current patch tile group and of the shift to be applied to the reconstructed patch points along the bitangent axis of the patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that corresponds to RefIdx. The value of dpdu_3d_shift_bitangent_axis[ p ] shall be in the range of (-2gi_geometry_3d_coordinates_bitdepth_minus1+1 + 1) to (2gi_geometry_3d_coordinates_bitdepth_minus1+1 - 1), inclusive).
DPDU 3D시프트 최소 노멀 축(dpdu_3d_shift_min_normal_axis[ p ]) 는 현재 패치 타일 그룹 내의 p인덱스를 갖는 패치의 노멀 축(normal axis)의 리컨스트럭티드 패치 포인트들(reconstructed patch points)에 대해 적용되는 시프트(shift)와 패치 프레임(참조 RefIdx와 연관이 있는 패치 프레임) 내의 현재 타일 그룹의 주소와 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx 인덱스를 갖는 패치의 노멀 축의 리컨스트럭티드 패치 포인트들에 대해 적용되는 시프트(shift)의 차를 나타낸다( specifies the difference between the shift to be applied to the reconstructed patch points along the normal axis of patch with index p in the current patch tile group and of the shift to be applied to the reconstructed patch points along the normal axis of patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that corresponds to RefIdx,)
DPDU 3D시프트 델타 맥스 노멀 축 (dpdu_3d_shift_delta_max_normal_axis[ p ]) 만약 이 파라미터가 존재한다면, 이 파라미터는 리컨스트럭티드 비트뎁스 패치 지오메트리 샘플(reconstructed bitdepth patch geometry sample)들이 노미널 레프리젠테이션(nominal representation)으로 변환된 후, 그들이 노미널 축(nominal axis)의 현재 패치 타일 그룹의 p 인덱스의 패치에 존재할 것으로 기대되는 시프트(shift)의 노미널 최대 값(nominal maximum value)과, 패치 프레임(RefIdx에 대응하는 패치 프레임) 내의 현재 타일 그룹의 주소와 동일한 주소를 갖는 패치 타일 그룹 내의 PredIdx, 인덱스를 갖는 패치의 리컨스트럭티드 비트뎁스 패치 지오메트리 샘플들 내에서 존재할 것으로 기대되는 시프트의 노미널 최대 값의 차를 나타낸다. 만약 이 파라미터가 존재하지 않는 경우, 이 파라미터의 값은 2gi_geometry_nominal_2d_bitdepth_minus1+1 - 1와 동일한 것으로 가정할 수 있다( if present, specifies the difference between the nominal maximum value of the shift expected to be present in the reconstructed bitdepth patch geometry samples, after conversion to their nominal representation, in patch with index p of the current patch tile group along the normal axis and of the nominal maximum value of the shift expected to be presented in the reconstructed bitdepth patch geometry samples, after conversion to their nominal representation of the patch with index PredIdx in the patch tile group with the same address as the current tile group in the patch frame that corresponds to RefIdx, Dpdu3dShiftDeltaMaxNormalAxis[ p ], If dpdu_3d_shift_delta_max_normal_axis[ p ] is not present the value of Dpdu3dShiftDeltaMaxNormalAxis[ p ] is assumed to be equal to 2gi_geometry_nominal_2d_bitdepth_minus1+1 - 1).
도46은 실시예들에 따른 PCM 패치 데이터 유닛(PCM patch data unit)의 신택스를 나타낸다.
PCM패치 데이터 유닛 신택스(PCM patch data unit syntax)
PCM비디오 내PPDU 패치 플래그(ppdu_patch_in_pcm_video_flag[ p ]) 는 현재 패치 타일 그룹 내의, PCM 코딩된 패치 p와 연관된 지오메트리 데이터 및 어트리뷰트 데이터들이, 인트라 및/또는 인터 코딩된 패치들에 대비하여, 별도의 비디오(separate video) 내에서 인코딩되는지 여부를 나타낸다. 만약, 이 파라미터의 값이 0이라면, 현재 패치 타일 그룹 내의 PCM 코딩된 패치 p와 연관된 지오메트리 데이터와 어트리뷰트 데이터가, 상술한 인트라(intra) 및/또는 인터(inter) 코딩된 패치들의 어트리뷰트 데이터 및/또는 지오메트리 데이터와 동일하게 인코딩되었음을 나타낸다. 만약 이 파라미터의 값이 1이라면, 현재 패치 타일 그룹 내의 PCM 코딩된 패치 p와 연관된 지오메트리 데이터와 어트리뷰트 데이터가, 상술한 인트라(intra) 및/또는 인터(inter) 코딩된 패치들의 어트리뷰트 데이터 및/또는 지오메트리 데이터와 별도의 비디오(separate video)로 인코딩됨을 나타낸다. 만약 이 파라미터가 존재하지 않는다면, 이 파라미터의 값은 0으로 추론된다( specifies whether the geometry and attribute data associated with the PCM coded patch p in the current patch tile group are encoded in a separate video compared to those of the intra and inter coded patches. If ppdu_patch_in_pcm_video_flag[ p ] is equal to 0, the geometry and attribute data associated with the PCM coded patch p in the current patch tile group are encoded in the same video as those of the intra and inter coded patches. If ppdu_patch_in_pcm_video_flag[ p ] is equal to 1, the geometry and attribute data associated with the PCM coded patch p in the current patch tile group are encoded in a separate video from those of the intra and inter coded patches. If ppdu_patch_in_pcm_video_flag[ p ] is not present, its value shall be inferred to be equal to 0).
PPDU 2D 시프트 U(ppdu_2d_shift_u[ p ]) 는, 현재 패치 타일 그룹 내의 PCM 코딩된 패치 p의 패치 바운딩 박스(patch bounding box)의 왼쪽-위(top-left) 코너(corner)의 x-좌표(x-coordinate)를 나타낸다. 이는 복수의 PatchPackingBlockSize에 의해 표현될 수 있다. ppdu_2d_shift_u[ p ]의 값은 0 내지 Min( 2ptgh_2d_shift_u_bit_count_minus1 + 1 - 1, sps_frame_width / PatchPackingBlockSize - 1) 범위를 갖는 값이다( specifies the x-coordinate of the top-left corner of the patch bounding box size for PCM coded patch p in the current patch tile group, expressed as a multiple of PatchPackingBlockSize. The value of ppdu_2d_shift_u[ p ] shall be in the range of 0 to Min( 2ptgh_2d_shift_u_bit_count_minus1 + 1 - 1, sps_frame_width / PatchPackingBlockSize - 1), inclusive).
PPDU 2D 시프트 V(ppdu_2d_shift_v[ p ]) 는, 현재 패치 타일 그룹 내의 PCM 코딩된 패치 p의 패치 바운딩 박스(patch bounding box)의 왼쪽-위(top-left) 코너(corner)의 y-좌표(x-coordinate)를 나타낸다. 이는 복수의 PatchPackingBlockSize에 의해 표현될 수 있다. ppdu_2d_shift_v[ p ]의 값은 0 내지 Min( 2ptgh_2d_shift_v_bit_count_minus1 + 1 - 1, sps_frame_height / PatchPackingBlockSize - 1) 범위를 갖는 값이다( specifies the y-coordinate of the top-left corner of the patch bounding box size for PCM coded patch p in the current patch tile group, expressed as a multiple of PatchPackingBlockSize. The value of ppdu_2d_shift_v[ p ] shall be in the range of 0 to Min( 2ptgh_2d_shift_v_bit_count_minus1 + 1 - 1, sps_frame_height / PatchPackingBlockSize - 1), inclusive).
PPDU 2D 델타 사이즈 U(ppdu_2d_delta_size_u[ p ]) 만약 p의 값이 0이라면, 이 파라미터는 현재 패치 타일 그룹 내의 인덱스가 0인 PCM 코딩된 패치의 폭(width) 값을 나타낸다. 만약 p의 값이 0보다 크다면, 이 파라미터의 값은 인덱스가 (p-1)인 PCM 코딩된 패치와 인덱스가 p인 PCM 코딩된 패치의 폭(width) 값의 차이를 나타낸다( when p is equal to 0, specifies the width value of the PCM coded patch with index 0 in the current patch tile group. When p is larger than 0, ppdu_2d_delta_size_u[ p ] specifies the difference of the width values of the PCM coded patch with index p and the patch with index (p - 1)).
PPDU 2D 델타 사이즈 V(ppdu_2d_delta_size_v[ p ]) 만약 p의 값이 0이라면, 이 파라미터는 현재 패치 타일 그룹 내의 인덱스가 0인 PCM 코딩된 패치의 높이(height) 값을 나타낸다. 만약 p의 값이 0보다 크다면, 이 파라미터의 값은 인덱스가 (p-1)인 PCM 코딩된 패치와 인덱스가 p인 PCM 코딩된 패치의 높이(height) 값의 차이를 나타낸다( when p is equal to 0, specifies the height value of the PCM coded patch with index 0 in the current patch tile group. When p is larger than 0, ppdu_2d_delta_size_v[ p ] specifies the difference of the height values of the PCM coded patch with index p and the patch with index (p - 1)).
PPDU 3D PCM 시프트 탄젠트 축(ppdu_3d_pcm_shift_tangent_axis[ p ]) 는 탄젠트 축(tangent axis)의 현재 패치 타일 그룹의 patchIndex의 인덱스를 갖는 패치 내의 리컨스트럭티드 PCM 패치 포인트들에 적용되는 시프트(shift) 값을 나타낸다( specifies the shift to be applied to the reconstructed PCM patch points in the patch with index patchIndex of the current patch tile group along the tangent axis).
PPDU 3D PCM 시프트 바이탄젠트 축 (ppdu_3d_pcm_shift_bitangent_axis[ p ]) 는 바이탄젠트 축(bitangent axis)의 현재 패치 타일 그룹의 patchIndex의 인덱스를 갖는 패치 내의 리컨스트럭티드 PCM 패치 포인트들에 적용되는 시프트(shift) 값을 나타낸다( specifies the shift to be applied to the reconstructed PCM patch points in the patch with index patchIndex of the current patch tile group along the bitangent axis).
PPDU 3D PCM 시프트 노멀 축(ppdu_3d_pcm_shift_normal_axis[ p ]) 는 노멀 축(normal axis)의 현재 패치 타일 그룹의 patchIndex의 인덱스를 갖는 패치 내의 리컨스트럭티드 PCM 패치 포인트들에 적용되는 시프트(shift) 값을 나타낸다( specifies the shift to be applied to the reconstructed PCM patch points in the patch with index patchIndex of the current patch tile group along the normal axis).
PPDU PCM포인트들ppdu_pcm_points[ p ]) 는 현재 패치 타일 그룹 내의 PCM 코딩된 패치 p 내 존재하는 PCM 포인트들의 수를 나타낸다( specifies the number of pcm points present in the PCM coded patch p in the current patch tile group).
다음은 도33의 페이로드에 추가될 수 있는 포인트 로컬 리컨스럭트 데이터의 신택스를 나타낸다. 패치 패치 인덱스의 블록 카운트는 다음과 같이 초기화될 수 있다: BlockCount= Patch2dSizeX[ patchIdx ] * Patch2dSizeY[ patchIdx ].
point_local_reconstruction_data( patchIdx ) {
for( i = 0; i < asps_map_count_minus1 + 1; i++ ) {
if( plri_point_local_reconstruction_map_flag[ i ] ) {
if( BlockCount > plri_block_threshold_per_patch_minus1[ i ] + 1 )
plrd_level[ i ][ patchIdx ]
else
plrd_level[ i ][ patchIdx ] = 1
if( plrd_level[ i ][ patchIdx ] == 0 ) {
for( j = 0; j < BlockCount; j++ ) {
plrd_present_block_flag[ i ][ patchIdx ][ j ]
if( plrd_present_block_flag[ i ][ patchIdx ][ j ] ) {
plrd_block_mode_minus1[ i ][ patchIdx ][ j ]
}
}
} else {
plrd_present_flag[ i ][ patchIdx ]
if( plrd_present_flag[ i ][ patchIdx ] )
plrd_mode_minus1[ i ][ patchIdx ]
}
}
}
}
PLRD 레벨(plrd_level[ p ]) 가 0이면, 이 파라미터는 포인트 로컬 리컨스트럭션(point local reconstruction) 데이터가 현재 패치 타일 그룹 내의 패치 p의 각 블록에 대해 전송됨을 나타낸다. 만약 plrd_level[ patchIndex ]의 값이 1이면, 포인트 로컬 리컨스트럭션 데이터가 전체 패치 p에 대해 한번만 전송됨을 나타낸다. 이 경우, 패치 p의 모든 블록들은 동일한 포인트 로컬 리컨스트럭션 데이터를 이용해야 한다( equal to 0 indicates that point local reconstruction data is sent for each block of the patch p in the current patch tile group. plrd_level[ patchIndex ] equal to 1 indicates that point local reconstruction data is sent only once for the entire patch p; in this case, all blocks of the patch p shall use the same point local reconstruction data).
PLRD 존재 블록 플래그(plrd_present_block_flag[ p ][ i ]) 가 1이면, 포인트 로컬 리컨스트럭션 모드가 현재 패치 타일 그룹 내의 패치 p 의 j번째 블록에 대해 전송됨을 나타낸다. plrd_present_block_flag[ p ][ j ]의 값이 0이면, 패치 p의 블록 j에 대하여 포인트 로컬 리컨스트럭션이 수행되지 않음을 나타낸다. 이 플래그는 plrd_level[ p ]이 0인 경우에 정의될 수 있다( equal to 1 indicates that a point local reconstruction mode is sent for block i of patch p in the current patch tile group. plrd_present_block_flag[ p ][ i ] equal to 0 indicates that no point local reconstruction shall be performed for block i of patch p. This flag is only defined when plrd_level[ p ] equals 0).
PLRD 블록 모드(plrd_block_mode_minus1[ p ][ i ]) 는 현재 패치 타일 그룹 내의 패치 p의 블록 j에 대해 포인트 로컬 리컨스트럭션 모드를 나타낸다. 이 파라미터의 값은 0 내지 plrp_number_of_modes_minus1의 범위의 값을 가질 수 있다( indicates the point local reconstruction mode for block i of patch p in the current patch tile group. plrd_block_mode_minus1[ p ][ i ] shall be in the range of 0 to plrp_number_of_modes_minus1, inclusive)
PLRD 존재 플래그(plrd_present_flag[ p ]) 의 값이 1이면, 현재 패치 타일 그룹 내의 패치 p에 대하여 포인트 로컬 리컨스트럭션 모드가 전송됨을 나타낸다. 이 파라미터의 값이 0이면, 패치 p에 대하여 포인트 로컬 리컨스트럭션 모드가 수행되지 않음을 나타낸다. 이 파라미터는 plrd_level[ p ]가 1인 경우에 정의될 수 있다( equal to 1 indicates that a point local reconstruction mode is sent for patch p in the current patch tile group. plrd_present_flag[ p ] equal to 0 indicates that no point local reconstruction mode shall be performed for patch p. This flag is only defined when plrd_level[ p ] is equal to 1).
PLRD 모드(plrd_mode_minus1[ p ]) 는 현재 패치 타일 그룹 내의 패치 p의 모든 블록들에 대한 포인트 로컬 리컨스트럭션 모드를 나타낸다. 이 파라미터는 0 내지 plrp_number_of_modes_minus1의 범위의 값을 가진다( indicates the point local resconstruction mode for all blocks of patch p in the current patch tile group. plrd_mode_minus1[ p ] shall be in the range 0 to plrp_number_of_modes_minus1, inclusive).
plrd_level[ p ], plrd_present_block_flag[ patchIdx ][ j ], plrd_block_mode_minus1[ patchIdx ][ j ], plrd_present_flag[ patchIdx ], plrd_mode_minus1[ patchIdx ]은 asps_map_count_minus1 에 의해 시그널링되는 것처럼, 현재 아틀라스에 대한 지오메트리 및 어트리뷰트 데이터를 인코딩하는데 사용되는 맵(map) 또는 패치(patch)가 복수개인 경우, 이들 각각에 대하여 시그널링할 수 있다. (이 경우 이 파라미터는 각각 plrd_level[ i ][ p ], plrd_present_block_flag[ i ][ patchIdx ][ j ], plrd_block_mode_minus1[ i ][ patchIdx ][ j ], plrd_present_flag[ i ][ patchIdx ], plrd_mode_minus1[ i ][ patchIdx ]와 같이 표현될 수 있다.)
도47은 실시예들에 따른 SEI메시지(sei_message)의 신택스를 나타낸다.
실시예들에 따른 각 SEI 메시지는 SEI 메시지 페이로드(payload)의 타입을 나타내는 payloadType 및 크기를 나타내는 payloadSize를 포함할 수 있다. 도출된 SEI 메시지의 페이로드의 크기 payloadSize는 byte로 나타낼 수 있으며, SEI 메시지 페이로드 내의 바이트들의 수와 동일하다. (Each SEI message comprises of the variables specifying the type payloadType and size payloadSize of the SEI message payload. The derived SEI message payload size payloadSize is specified in bytes and may be equal to the number of bytes in the SEI message payload.)sm_payload_type_byte is a byte of the payload type of an SEI message.
페이로드 타입 바이트(sm_payload_type_byte)는 SEI 메시지의 페이로드 타입의 바이트이다. (is a byte of the payload type of an SEI message.)
페이로드 사이즈 바이트(sm_payload_size_byte)는 SEI 메시지의 페이로드 크기의 바이트이다. (is a byte of the payload size of an SEI message.)
.
도48은 실시예들에 따른 V-PCC 비트스트림의 구성을 나타낸다.
도48 등의 V-PCC 유닛(또는 줄여서 유닛)을 포함하는V-PCC 비트스트림은 도1의 인코더(10002), 도4의 인코딩, 도15의 인코더(100), 도18의 비디오 부호화부(18005), 다중화부(18007), 도20의 비디오/이미지 인코더(20002, 20003), 인캡슐레이터(20004), 도21의 비디오/이미지 인코더(21007, 21008), 인캡슐레이터(21009), 도23의 XR디바이스(1230)에 의해 생성되고, 도1의 디코더(10008), 도16의 디코딩, 도17의 디코더(200), 도19의 역다중화부(19000), 비디오 복화부(19001), 메타데이터 복호화부(19002), 도20의 디캡슐레이터(20005), 비디오/이미지 디코더(20006), 도22의 디캡슐레이터(22000), 비디오/이미지 디코더(22001, 22002), 도23의 XR디바이스(1230)에 의해 파싱될 수 있다.
실시예들에 따른 송신 장치는 V-PCC 비트스트림을 파일 내 하나 혹은 복수 개의 트랙으로 분할하여 저장하고 이를 시그널링할 수 있다.
실시예들에 따른 송신 장치는 V-PCC 비트스트림 상에 포함되어 있는 아틀라스(atlas) 스트림을 파일 내 트랙으로 저장하고 이를 시그널링할 수 있다.
실시예들에 따른 송신 장치는V-PCC 비트스트림 상에 존재하는 SEI 메시지를 파일 내 트랙 내 저장하고 이를 시그널링할 수 있다.
이어서, V-PCC 비트스트림을 파일 내 트랙 내 효율적으로 저장하고 이에 대한 시그널링을 제공하는 Point Cloud 콘텐츠 서비스 제공을 위한 송신기 또는 수신기를 제안한다.
또한, 저장된 V-PCC 비트스트림에 대한 효율적인 접근을 지원할 수 있도록 하기 위한 파일 저장 기법을 처리하는 Point Cloud 콘텐츠 서비스 제공을 위한 송신기 또는 수신기를 제안한다.
V-PCC 비트스트림을 파일 트랙 내 효율적으로 저장 및 이에 대한 시그널링, 저장된 V-PCC 비트스트림에 대한 효율적인 접근을 지원할 수 있도록 하기 위한 파일 저장 기법에 추가로(또는 추가적으로 변형/결합하여) V-PCC 비트스트림을 파일 내 하나 이상의 복수 트랙으로 분할 저장 기법을 설명한다.
비디오 기반 포인트 클라우드 압축(Video-based point cloud compression)은 포인트 클라우드 비쥬얼 정보의 볼륨메트리 인코딩을 나타낸다.
코딩된 포인트 클라우드 시퀀스(coded point cloud sequence (CPCS))를 포함하는V-PCC 비트스트림은 V-PCC 파라미터 세트(V-PCC parameter set (VPS))데이터, 아틀라스 비트스트림, 2D 비디오 인코딩된 어큐판시 맵 비트스트림, 2D 비디오 인코딩된 지오메트리 비트스트림, 및 제로 또는 하나 이상의 2D 비디오 인코딩된 어트리뷰트 비트스트림들을 전달하는 샘플 스트림 V-PCC 유닛들로 구성된다.
도48는 V-PCC 비트스트림의 구성을 나타내고, 샘플 스트림 V-PCC 유닛(4810)들 및 이들에 대한 샘플 스트림 V-PCC 헤더가 위치할 수 있다.
샘플 스트림 V-PCC 유닛(4810)은 V-PCC 유닛 사이즈 정보, 헤더, 및 페이로드를 포함한다.
V-PCC 유닛의 페이로드는 상술한 바와 같이, V-PCC 파라미터 세트, 어큐판시 비디오 데이터, 지오메트리 비디오 데이터, 어트리뷰트 비디오 데이터 및/또는 아틀라스 데이터를 포함할 수 있다.
또한, 도48에 도시된 바와 같이, 하나의 샘플 스트림 V-PCC 유닛이 상술한 데이터를 전달할 수 있다.
따라서, V-PCC 비트스트림은 샘플 스트림 V-PCC 유닛에 대한 정보를 전달하는 V-PCC 헤더, VPS(V-PCC parameter set)를 전달하는 샘플 스트림 V-PCC 유닛, AD(atlas data)를 전달하는 샘플 스트림 V-PCC 유닛, OVD(occupancy video data)를 전달하는 샘플 스트림 V-PCC 유닛, GVD(geometry video data)를 전달하는 샘플 스트림 V-PCC 유닛, AVD(attribute video data)를 전달하는 샘플 스트림 V-PCC 유닛을 포함할 수 있다.
V-PCC 비트스트림의 신택스는 도27에서 설명한 바와 같다.
*도48의 V-PCC 비트스트림은 도1의 인캡슐레이터(10003)에 의해 도24와 같은 파일 컨테이너로 인캡슐레이팅되어 전송될 수 있다.
도48의 V-PCC 비트스트림은 도24와 같이 파일 구조에 기반하여 전송되고 수신될 수 있다.
도49는 실시예들에 따른 V-PCC 유닛의 헤더를 나타낸다.
도28과 같이 V-PCC 유닛은 헤더와 페이로드 구조로 구성된다.
도49은 도48에 도시된 실시예들에 따른 V-PCC 유닛의 헤더의 신택스를 나타낸다.
VUH(Vpcc Unit Header)의 각 엘리먼트를 설명한다.
VUH 유닛 타입(vuh_unit_type)은 V-PCC 유닛의 타입을 나타낸다. 각 타입의 값에 따라서, 유닛이 다음과 같이 분류될 수 있다.
예를 들어, VUH 유닛 타입(vuh_unit_type)이 0이면, V-PCC 유닛이 VPCC_VPS이고, V-PCC 레벨 파라미터들을 설명하는 V-PCC 파라미터 세트를 나타낸다.
VUH 유닛 타입(vuh_unit_type)이 1이면, V-PCC 유닛이 VPCC_AD 이고, 아틀라스 정보를 설명하는 아틀라스 데이터를 나타낸다.
VUH 유닛 타입(vuh_unit_type)이 2이면, V-PCC 유닛이 VPCC_OVD 이고, 어큐판시 정보를 설명하는 어큐판시 비디오 데이터를 나타낸다.
VUH 유닛 타입(vuh_unit_type)이 3이면, V-PCC 유닛이 VPCC_GVD 이고, 지오메트리 정보를 설명하는 지오메트리 비디오 데이터를 나타낸다.
VUH 유닛 타입(vuh_unit_type)이 4이면, V-PCC 유닛이 VPCC_AVD 이고, 어트리뷰트 정보를 설명하는 어트리뷰트 비디오 데이터를 나타낸다.
VUH 유닛 타입(vuh_unit_type)이 5 내지 31이면, V-PCC 유닛이 VPCC_RSVD 이고, 추후 사용을 위해 예약됨을 나타낸다.
VUH V-PCC 파라미터 세트 아이디(vuh_vpcc_parameter_set_id)는 액티브 V-PCC VPS에 대한 vps_vpcc_parameter_set_id 의 값을 명시한다.
VUH 아틀라스 아이디(vuh_atlas_id)는 현재 V-PCC 유닛에 대응하는 아틀라스들의 인덱스를 명시한다.
VUH 어트리뷰트 인덱스(vuh_attribute_index)는 어트리뷰트 비디오 데이터 유닛 내 전달되는 어트리뷰트 데이터의 인덱스를 나타낸다.
VUH 어트리뷰트 디멘션 인덱스(vuh_attribute_dimension_index)는 어트리뷰트 비디오 데이터 유닛 내 전달되는 어트리뷰트 디멘션 그룹의 인덱스를 나타낸다.
VUH 맵 인덱스(vuh_map_index): 이 값이 존재하면, 현재 지오메트리 또는 어트리뷰트 스트림의 맵 인덱스를 나타낸다.
VUH 로우 비디오 플래그(vuh_raw_video_flag)가 1이면, 관려된 지오메트리 또는 어트리뷰트 비디오 데이터 유닛이 오직 로우 코딩된 포인트들 비디오임을 나타낸다. 이 값이 0이면, 관련된 지오메트리 또는 어트리뷰트 비디오 데이터 유닛이 로우 코딩된 포인트들을 포함할 수 있음을 나타낸다. 이 값이 존재하지 않으면, 이 값은 0으로 추론될 수 있다.
V-PCC 유닛 타입이 VPCC_AVD, VPCC_GVD, VPCC_OVD, 또는 VPCC_AD 이면, vuh_vpcc_parameter_set_id 및 vuh_atlas_id 이 시그널링된다.
V-PCC 유닛 타입이 VPCC_AVD이면, vuh_attribute_index, vuh_attribute_dimension_index, vuh_map_index, vuh_raw_video_flag이 시그널링된다.
V-PCC 유닛 타입이 VPCC_GVD 이면, vuh_map_index, vuh_raw_video_flag 이 시그널링된다.
V-PCC 유닛 타입이 VPCC_OVD 또는 VPCC_AD 이면, vuh_reserved_zero_17bits 가 시그널링될 수 있다.
각 유닛 타입에 따른 데이터에 관한 정보가 유닛 헤더에 포함될 수 있다.
도50은 실시예들에 따른 V-PCC 유닛 페이로드를 나타낸다.
도50은 도48에 도시된 V-PCC 유닛의 페이로드이고, 도31의 페이로드를 아틀라스 관점에서 변형/확장된 형태이다.
vuh_unit_type이 VPCC_VPS이면, vpcc_parameter_set( )가 전달되고, vuh_unit_type이 VPCC_AD이면, atlas_sub_bitstream( )가 전달되고, vuh_unit_type이 VPCC_OVD, VPCC_GVD, 또는 VPCC_AVD 이면, video_sub_bitstream( )이 전달될 수 있다. 비디오 서브 비트스트림은 OVD, GVD, AVD의 비디오 스트림을 말한다.
실시예들에 따른 비트스트림(V-PCC 비트스트림으로 지칭 가능함)은 포인트 클라우드 데이터에 관한 파라미터 세트 데이터, 포인트 클라우드 데이터에 관한 아틀라스 데이터, 포인트 클라우드 데이터에 관한 어큐판시 맵 데이터, 포인트 클라우드 데이터에 관한 지오메트리 데이터를 포함할 수 있다.
도51은 실시예들에 따른 V-PCC 파라미터 세트를 나타낸다.
도51은 도48에 도시된 V-PCC 유닛의 페이로드에 포함된 VPS를 나타낸다.
VPS VPCC 파라미터 세트 아이디(vps_vpcc_parameter_set_id)는 다른 신택스 엘리먼트들에 의한 참조를 위한 V-PCC VPS 에 대한 식별자(identifier)를 제공한다. 이 값을 통해 다른 정보와 참조관계를 알 수 있다(도25 참조).
VPS 아틀라스 카운트(vps_atlas_count_minus1): 이 값에 플러스1을 하면, 현재 비트스트림 내 지원되는 아틀라스들의 전체 개수를 나타낸다.
VPS 프레임 너비(vps_frame_width[ j ])는 인덱스 J를 갖는 아틀라스에 대한 정수 루마 샘플들(integer luma samples) 측면에서 V-PCC 프레임 너비를 나타낸다. 이 프레임 너비는 인덱스 J를 갖는 아틀라스를 위한 모든 V-PCC 컴포넌트들과 과녈된 노미널 너비(nominal width)이다.
VPS 프레임 높이(vps_frame_height[ j ]): J인덱스를 가지는 아틀라스를 위한 정수 루마 샘플들 관점의 V-PCC 프레임 높이를 나타낸다. 이 프레임 높이는 인덱스J를 가지는 아틀라스에 대한 모든 V-PCC컴포넌트들과 관련된 노미널 높이이다.
VPS 맵 카운트(vps_map_count_minus1[ j ]): 이 값에 1을 더하면, J인덱스를 가지는 아틀라스를 위한 지오메트리 및 어트리뷰트 데이터를 인코딩하기 위해 사용되는 맵들의 개술르 나타낸다.
VPS 멀티플 맵 스트림들 존재 플래그(vps_multiple_map_streams_present_flag[ j ]): 0이면, J인덱스를 가지는 아틀라스를 위한 모든 지오메트리 또는 어트리뷰트 맵들이 싱글 지오메트리 또는 어트리뷰트 비디오 스트림 내에 존재함을 나타낸다. 1이면, J인덱스를 가지는 아틀라스를 위한 모든 지오메트리 또는 어트리뷰트 맵들이 개별적인 비디오 스트림 내에 존재함을 나타낸다
VPS 맵 앱솔루트 코딩 인에이블 플래그(vps_map_absolute_coding_enabled_flag[ j ][ i ]): 1이면, 인덱스J를 갖는 아틀라스를 위한 인덱스I를 갖는 지오메트리 맵이 맵 프레딕션의 형태 없이 코딩됨을 나타낸다. 0이면, 인덱스J를 갖는 아틀라스를 위한 인덱스I를 갖는 지오메트리 맵이 코딩에 앞서 코딩된 맵보다 먼저 프레딕션됨을 나타낸다.
VPS 맵 프레딕터 인덱스 차이(vps_map_predictor_index_diff[ j ][ i ]): vps_map_absolute_coding_enabled_flag[ j ][ i ] 이 0인 경우, 인덱스J를 갖는 아틀라스를 위한 인덱스I를 갖는 지오메트리 맵의 프레딕터를 계산하기 위해 사용된다.
VPS 로우 패치 인에이블 플래그(vps_raw_patch_enabled_flag[ j ]): 1이면, 인덱스 J를 가지는 아틀라스를 위한RAW코딩된 포인트들을 가지는 패치들이 비트스트림 내 존재할 수 있음을 나타낸다.
VPS 로우 개별적 비디오 존재 플래그(vps_raw_separate_video_present_flag[ j ]): 1이면, 인덱스 J를 가지는 아틀라스를 위한RAW코딩된 지오메트리 및 어트리뷰트 정보가 개별적인 비디오 스트림 내 존재할 수 있음을 나타낸다.
어큐판시 정보(occupancy_information()): 어큐판시 비디오 관련 파라미터 세트들이다.
지오메트리 정보(geometry_information()): 지오메트리 비디오 관련 파라미터 세트들이다.
어트리뷰트 정보(attribute_information()): 어트리뷰트 비디오 관련 파라미터 세트들이다.
도52는 실시예들에 따른 V-PCC 아틀라스 서브비트스트림의 구조를 나타낸다.
도52의 V-PCC 아틀라스 서브비트스트림(52000)은 도24-25, 48에서 설명한 비트스트림 또는 비트스트림의 아틀라스 데이터에 대응할 수 있다. 또한, 도52의 V-PCC 비트스트림은 V-PCC 비트스트림은 도4의 V-PCC 인코더, 도15의 비디오/이미지 인코더, 도18의 다중화부(18007) 등에서 생성될 수 있다. 도48의 비트스트림을 생성하는 실시예들이 도25의 비트스트림을 생성할 수도 있다.
V-PCC 아틀라스 서브비트스트림(53000)은 날 유닛(NAL)에 기반하여 샘플 스트림 날 헤더, 샘플 스트림 날 유닛들로 구성될 수 있다. 아틀라스 서브스트림을 전달하는 날 유닛의 V-PCC유닛 페이로드는 하나 또는 하나 이상의 샘플 스트림 날 유닛들로 구성될 수 있다.
샘플 스트림 날 헤더는 아틀라스 서브비트스트림에 포함된 데이터에 관한 시그널링 정보를 포함한다.
샘플 스트림 날 유닛의 ASPS, AFPS, 아틀라스 타일 그룹, SEI는 실시예들에 따른 아틀라스 데이터(아틀라스에 대한 메타데이터)에 대응될 수 있다.
이하에서, 샘플 스트림 날 헤더 및 샘플 스트림 날 유닛의 구체적인 신택스를 설명한다.
도48에 적용된 동작이 도52에도 적용될 수 있다.
도53은 실시예들에 따른 샘플 스트림 날 헤더(53000)및 샘플 스트림 날 유닛(53010)의 신택스를 나타낸다.
도53은 도52의 샘플 스트림 날 헤더 및 샘플 스트림 날 유닛의 신택스이다.
샘플 스트림 날 유닛 사이즈 정확도(ssnh_unit_size_precision_bytes_minus1): 이 값에 1을 더하면, 모든 샘플 스트림 날 유닛들 내 날 유닛 사이즈(ssnu_nal_unit_size) 엘리먼트의 바이트 단위 내 정확도(precision)를 나타낸다. 이 값은 0 내지 7의 범위를 가질 수 있다.
샘플 스트림 날 유닛 사이즈(ssnu_nal_unit_size): 연속하는 날 유닛의 바이트 내 사이즈를 나타낸다. ssnu_nal_unit_size 를 나타내는 비트들의 수는(ssnh_unit_size_precision_bytes_minus1 + 1) * 8 와 같다.
각 샘플 스트림 날 유닛은 아틀라스 파라미터 세트(atlas sequence parameter set (ASPS)), 아틀라스 프레임 파라미터 세트(atlas frame parameter set (AFPS)), 아틀라스 타일 그룹 정보(atlas tile group information), SEI(Supplemental enhancement information) 등을 포함할 수 있다.
이하에서, 각 정보를 설명한다.
도54는 실시예들에 따른 아틀라스 파라미터 세트(atlas sequence parameter set (ASPS))를 나타낸다.
도54는 도52의 아틀라스 파라미터 세트의 구체적 신택스이다.
실시예들에 따른 도54의 아틀라스 파라미터 세트는 상술한 도32의 확장/변형된 형태일 수 있다.
아틀라스 파라미터 세트는 제로 또는 하나 이상의 전체 코딩된 아틀라스 시퀀스(coded atlas sequences (CASs))에 적용되는 신택스 엘리먼트들을 포함한다.
ASPS 아틀라스 시퀀스 파라미터 세트 아이디(asps_atlas_sequence_parameter_set_id): 은 다른 신택스 엘리먼트들에 의한 참조를 위한 아틀라스 시퀀스 파라미터 세트에 대한 식별자를 제공한다. 이 값을 통해 다른 정보와 참조관계를 알 수 있다(도25 참조).
ASPS 프레임 너비(asps_frame_width): 현재 아틀라스를 위한 정수 루마 샘플들 관점에서 아틀라스 프레임 너비를 나타낸다.
ASPS 프레임 높이(asps_frame_height): 현재 아틀라스를 위한 정수 루마 샘플들의 관점에서 아틀라스 프레임 높이를 나타낸다.
ASPS 패치 패킹 블록 사이즈(asps_log2_patch_packing_block_size): 아틀라스 내 패치들의 수평/수직 배치를 위해 사용되는 변수 PatchPackingBlockSize의 값을 나타낸다.
ASPS 맥스 아틀라스 프레임 오더 카운트(asps_log2_max_atlas_frame_order_cnt_lsb_minus4): 아틀라스 프레임 오더 카운트의 디코딩 프로세스 내 사용되는 변수 MaxAtlasFrmOrderCntLsb의 값을 나타낸다(asps_log2_max_atlas_frame_order_cnt_lsb_minus4 specifies the value of the variable MaxAtlasFrmOrderCntLsb that is used in the decoding process for the atlas frame order count).
ASPS 맥스 키도터 아틀라스 프레임 버퍼(asps_max_dec_atlas_frame_buffering_minus1): 아틀라스 프레임 스토리지 버퍼들의 단위들 내 CAS를 위한 디코딩된 아틀라스 프레임 버퍼의 최대 필요한 사이즈를 나타낸다(asps_max_dec_atlas_frame_buffering_minus1 plus 1 specifies the maximum required size of the decoded atlas frame buffer for the CAS in units of atlas frame storage buffers).
ASPS롱텀 레퍼런스 아틀라스 프레임 플래그(asps_long_term_ref_atlas_frames_flag): 0이면, 롱 텀 레퍼런스 아틀라스 프레임이 CAS 내 코딩된 아틀라스 프레임의 인터 프레딕션을 위해 사용되지 않음을 나타낸다(asps_long_term_ref_atlas_frames_flag equal to 0 specifies that no long term reference atlas frame is used for inter prediction of any coded atlas frame in the CAS).
ASPS 아플라스 프레임 리스트들의 개수(asps_num_ref_atlas_frame_lists_in_asps): 아틀라스 시퀀스 파라미터 세트 내 포함되는 ref_list_struct( rlsIdx ) 신택스 구조들의 개수를 나타내다(asps_num_ref_atlas_frame_lists_in_asps specifies the number of the ref_list_struct( rlsIdx ) syntax structures included in the atlas sequence parameter set).
ASPS 오리엔테이션 플래그(asps_use_eight_orientations_flag): 0이면, 인덱스 I를 가지는 프레임 내 인덱스 J를 가지는 패치를 위한 패치 오리엔테이션 인덱스, pdu_orientation_index[ i ][ j ], 가 0내지1의 범위 내 있음을 나타낸다(asps_use_eight_orientations_flag equal to 0 specifies that the patch orientation index for a patch with index j in a frame with index i, pdu_orientation_index[ i ][ j ], is in the range of 0 to 1, inclusive).
ASPS 프로젝션 패치 존재 플래그(asps_45degree_projection_patch_present_flag): 0이면, 패치 프로젝션 정보가 현재 아틀라스 타일 그룹을 위해 시그널링되지 않음을 나타낸다. 1이면, 패치 프로젝션 정보가 현재 아틀라스 타일 그룹을 위해 시그널링됨을 나타낸다.
ASPS 노멀 축 퀀타이제이션 인에이블 플래그(asps_normal_axis_limits_quantization_enabled_flag): 1이면, 퀀타이제이션(양자화) 파라미터들이 시그널링되고, 패치 데이터 유닛, 머지 패치 데이터 유닛, 또는 인터 패치 데이터 유닛의 노멀 축 관련 엘리먼트들을 양자화하는데 사용됨을 나타낸다(asps_normal_axis_limits_quantization_enabled_flag equal to 1 specifies that quantization parameters shall be signalled and used for quantizing the normal axis related elements of a patch data unit, a merge patch data unit, or an inter patch data unit).
ASPS 노멀 축 맥스 델타 값 인에이블 플래그(asps_normal_axis_max_delta_value_enabled_flag): 1이면, 인덱스 J를 가지는 프레임 내의 인덱스 I를 가지는 패치의 지오메트리 정보 내 존재할 수 있는 노멀 축의 최대 노미널 시프트 값이 각 패치 데이터 유닛, 머지 패치 데이터 유닛, 인터 패치 데이터 유닛를 위한 비트스트림 내에서 지시됨을 나타 K다(asps_normal_axis_max_delta_value_enabled_flag equal to 1 specifies that the maximum nominal shift value of the normal axis that may be present in the geometry information of a patch with index i in a frame with index j will be indicated in the bitstream for each patch data unit, a merge patch data unit, or an inter patch data unit).
ASPS 리무브 중복 포인트 인에이블 플래그(asps_remove_duplicate_point_enabled_flag): 1이면, 중복된 포인트들이 현재 아틀라스에 대해 재구성되지 않음을 나타낸다. 중복된 포인트는 낮은 인덱스 맵으로부터 다른 포인트들과 같이 동일한 2D 및 3D 지오메트리 좌표계를 가지는 포인트이다(asps_remove_duplicate_point_enabled_flag equal to 1 indicates that duplicated points shall not be reconstructed for the current atlas, where a duplicated point is a point with the same 2D and 3D geometry coordinates as another point from a lower index map).
ASPS 픽셀 디인터리이 플래그(asps_pixel_deinterleaving_flag): 1이면 현재 아틀라스를 위한 디코딩된 지오메트리 및 어트리뷰트 비디오들이 두 가지 맵들로부터 인터리빙된 픽셀들을 공간적으로 포함함을 나타낸다(asps_pixel_deinterleaving_flag equal to 1 indicates that the decoded geometry and attribute videos for the current atlas contain spatially interleaved pixels from two maps).
ASPS 패치 프리시던스 오더 플래그(asps_patch_precedence_order_flag): 1이면, 현재 아틀라스를 위한 패치 우선도가 다른 디코딩 순서와 동일함을 나타낸다(asps_patch_precedence_order_flag equal to 1 indicates that patch precedence for the current atlas is the same as the decoding order).
ASPS 패치 사이즈 퀀타이저 존재 플래그(asps_patch_size_quantizer_present_flag): 1이면, 패치 사이즈 양자화 파라미터들이 아틀라스 타일 그룹 헤더 내 존재함을 나타낸다. asps_patch_size_quantizer_present_flag가 0이면, 패치 사이즈 양자화 파라미터들이 존재하지 않음을 나타낸다.
ASPS 인핸스드 어큐판시 맵 플래그(asps_enhanced_occupancy_map_for_depth_flag): 1이면, 현재 아틀라스를 위한 디코딩된 어큐판시 맵 비디오가 두 가지 맵들 간 중간 뎁스 포지션들이 점유되는지에 관한 정보를 포함함을 나타낸다. asps_enhanced_occupancy_map_for_depth_flag 가 0이면, 디코딩된 어큐판시 맵 비디오가 두 뎁스 맵들 간 중간 뎁스 포지션들이 점유되는지에 관한 정보를 포함하지 않음을 나타낸다(asps_enhanced_occupancy_map_for_depth_flag equal to 1 indicates that the decoded occupancy map video for the current atlas contains information related to whether intermediate depth positions between two depth maps are occupied. asps_enhanced_occupancy_map_for_depth_flag equal to 0 indicates that the decoded occupancy map video does not contain information related to whether intermediate depth positions between two depth maps are occupied).
ASPS 포인트 로컬 재구성 인에이블 플래그(asps_point_local_reconstruction_enabled_flag): 1이면,
asps_point_local_reconstruction_enabled_flag equal to 1 indicates that point local reconstruction mode information may be present in the bitstream for the current atlas. asps_point_local_reconstruction_enabled_flag equal to 0 indicates that no information related to the point local reconstruction mode is present in the bitstream for the current atlas.
ASPS 맵 카운트(asps_map_count_minus1): 현재 아틀라스를 위한 지오메트리 및 어트리뷰트 데이터를 인코딩하기 위해 사용될 수 있는 맵들의 개수를 나타낸다(asps_map_count_minus1 plus 1 indicates the number of maps that may be used for encoding the geometry and attribute data for the current atlas).
ASPS 인핸스드 어큐판시 맵 카운트(asps_enhanced_occupancy_map_fix_bit_count_minus1): 이 값에 1을 더하면, EOM 코드 워드의 비트들 내 사이즈를 나타낸다(asps_enhanced_occupancy_map_fix_bit_count_minus1 plus 1 indicates the size in bits of the EOM code word).
ASPS 표면 두께(asps_surface_thickness_minus1): 이 값에 1을 더하면, asps_pixel_deinterleaving_flag 또는asps_point_local_reconstruction_flag 이 1인 경우 명시적 코딩된 뎁스 값 및 인터폴라레이트된 뎁스 값 간 최대 앱솔루트 차이를 나타낸다(asps_surface_thickness_minus1 plus 1 specifies the maximum absolute difference beween an explicitly coded depth value and interpolated depth value when asps_pixel_deinterleaving_flag or asps_point_local_reconstruction_flag is equal to 1).
ASPS vui 파라미터 존재 플래그(asps_vui_parameters_present_flag): 1이면, vui_parameters( ) 신택스 구조를 나타낸다.
도55는 실시예들에 따른 아틀라스 프레임 파라미터 세트(atlas frame parameter set (AFPS))를 나타낸다.
도55는 도52의 아틀라스 프레임 파라미터 세트의 구체적인 신택스이다.
아틀라스 프레임 파라미터 세트는 제로 또는 하나 이상의 전체 코딩된 아틀라스 프레임들에 적용되는 신택스 엘리먼트들을 포함한다.
AFPS 아틀라스 프레임 파라미터 세트 아이디(afps_atlas_frame_parameter_set_id): 다른 신택스 엘리먼트들에 의한 참조를 위한 아틀라스 프레임 파라미터 세트를 식별한다. 이 값을 통해 다른 정보와 참조관계를 알 수 있다(도25 참조).
AFPS 아틀라스 시퀀스 파라미터 세트 아이디(afps_atlas_sequence_parameter_set_id): 액티브 아틀라스 시퀀스 파라미터 세트를 위한 asps_atlas_sequence_parameter_set_id의 값을 명시한다.
AFPS 레퍼런스 인덱스 넘버(afps_num_ref_idx_default_active_minus1): 이 값에 1을 더하면, atgh_num_ref_idx_active_override_flag 이 0인 타일 그룹에 대한 변수 NumRefIdxActive의 추론된 값을 나타낸다(afps_num_ref_idx_default_active_minus1 plus 1 specifies the inferred value of the variable NumRefIdxActive for the tile group with atgh_num_ref_idx_active_override_flag equal to 0).
AFPS 추가적 렝스(afps_additional_lt_afoc_lsb_len): 레퍼런스 아틀라스 프레임 리스트들의 디코딩 프로세스 내 사용되는 변수 MaxLtAtlasFrmOrderCntLsb의 값을 나타낸다.
AFPS 2D포지션X비트 카운트(afps_2d_pos_x_bit_count_minus1): 이 값에 1을 더하면, afps_atlas_frame_parameter_set_id을 참조하는 아틀라스 타일 그룹 내 인덱스 J를 가지는 패치의 pdu_2d_pos_x[ j ] 의 고정된 길이 리프리젠테이션 내 비트들의 개수를 나타낸다(afps_2d_pos_x_bit_count_minus1 plus 1 specifies the number of bits in the fixed-length representation of pdu_2d_pos_x[ j ] of patch with index j in an atlas tile group that refers to afps_atlas_frame_parameter_set_id).
AFPS 2D포지션Y비트 카운트(afps_2d_pos_y_bit_count_minus1): 이 값에 1을 더하면, afps_atlas_frame_parameter_set_id을 참조하는 아틀라스 타일 그룹 내 인덱스 J를 가지는 패치의 pdu_2d_pos_y[ j ] 의 고정된 길이 리프리젠테이션 내 비트들의 개수를 나타낸다(afps_2d_pos_y_bit_count_minus1 plus 1 specifies the number of bits in the fixed-length representation of pdu_2d_pos_y[ j ] of patch with index j in an atlas tile group that refers to afps_atlas_frame_parameter_set_id).
AFPS 3D포지션X비트 카운트(afps_3d_pos_x_bit_count_minus1): 이 값에 1을 더하면, afps_atlas_frame_parameter_set_id을 참조하는 아틀라스 타일 그룹 내 인덱스 J를 가지는 패치의 pdu_3d_pos_x[ j ] 의 고정된 길이 리프리젠테이션 내 비트들의 개수를 나타낸다(afps_3d_pos_x_bit_count_minus1 plus 1 specifies the number of bits in the fixed-length representation of pdu_3d_pos_x[ j ] of patch with index j in an atlas tile group that refers to afps_atlas_frame_parameter_set_id).
AFPS 3D포지션Y비트 카운트(afps_3d_pos_y_bit_count_minus1): 이 값에 1을 더하면, afps_atlas_frame_parameter_set_id을 참조하는 아틀라스 타일 그룹 내 인덱스 J를 가지는 패치의 pdu_3d_pos_y[ j ] 의 고정된 길이 리프리젠테이션 내 비트들의 개수를 나타낸다(afps_3d_pos_y_bit_count_minus1 plus 1 specifies the number of bits in the fixed-length representation of pdu_3d_pos_y[ j ] of patch with index j in an atlas tile group that refers to afps_atlas_frame_parameter_set_id).
AFPS LOD비트 카운트(afps_lod_bit_count): 이 값에 1을 더하면, afps_atlas_frame_parameter_set_id을 참조하는 아틀라스 타일 그룹 내 인덱스 J를 가지는 패치의 pdu_lod[ j ] 의 고정된 길이 리프리젠테이션 내 비트들의 개수를 나타낸다(afps_lod_bit_count specifies the number of bits in the fixed-length representation of pdu_lod[ j ] of patch with index j in an atlas tile group that refers to afps_atlas_frame_parameter_set_id).
AFPS 오버라이드 EOM 뎁스 플래그(afps_override_eom_for_depth_flag): 1이면 afps_eom_number_of_patch_bit_count_minus1 및 afps_eom_max_bit_count_minus1의 값들이 명시적으로 비트스트림 내 존재함을 나타낸다.
AFPS EOM 패치 개수(afps_eom_number_of_patch_bit_count_minus1): 이 값에 1을 더하면, 현재 EOM 어트리뷰트 패치에 관련된 지오메트리 패치들의 개수를 나타내는데 사용되는 비트들의 개수를 나타낸다.
AFPS EOM 맥스 비트 카운트(afps_eom_max_bit_count_minus1): 이 값에 1을 더하면, 현재 EOM 어트리뷰트 패치에 관련된 지오메트리 패치 당 EOM들의 개수를 나타내는데 사용되는 비트들의 개수를 나타낸다.
AFPS 로우 3D 포지션 비트 카운트 모드 플래그(afps_raw_3d_pos_bit_count_explicit_mode_flag): 1이면, rpdu_3d_pos_x, rpdu_3d_pos_y, 및 rpdu_3d_pos_z를 위한 비트 카운트가 afps_atlas_frame_parameter_set_id 을 참조하는 아틀라스 타일 그룹 헤더 내 명시적으로 코딩됨을 나타낸다.
도56은 실시예들에 따른 아틀라스 프레임 타일 정보(atlas_frame_tile_information)를 나타낸다.
도56은 도52의 아틀라스 프레임 타일 정보의 구체적 신택스이다.
AFTI 싱글 타일 인 아틀라스 프레임 플래그(afti_single_tile_in_atlas_frame_flag): 1이면, AFPS를 참조한느 각 아틀라스 프레임 내 오직 하나의 타일이 있음을 나타낸다.
AFTI 유니폼 타일 스페이싱 플래그(afti_uniform_tile_spacing_flag): 1이면, 타일 컬럼 및 로우 바운더리들이 유니폼하게 타일 프레임에 분배되어 있고, afti_tile_cols_width_minus1 및 afti_tile_rows_height_minus1 각각의 신택스 엘리먼트들을 사용하여 시그널링됨을 나타낸다.
AFTI 타일 컬럼 너비(afti_tile_cols_width_minus1): 이 값에 1을 더하면, afti_uniform_tile_spacing_flag이 1인 경우, 64샘플들의 단위로 아틀라스 프레임의 가장 오른쪽 타일 컬럼을 제외한 타일 컬럼들의 너비를 나타낸다(afti_tile_cols_width_minus1 plus 1 specifies the width of the tile columns excluding the right-most tile column of the atlas frame in units of 64 samples when afti_uniform_tile_spacing_flag is equal to 1.)
AFTI 타일 로우 높이(afti_tile_rows_height_minus1): 이 값에 1을 더하면, afti_uniform_tile_spacing_flag이 1인 경우, 64샘플들의 단위로 아틀라스 프레임의 바닥 타일 로우를 제외한 타일 로우들의 높이를 나타낸다(afti_tile_rows_height_minus1 plus 1 specifies the height of the tile rows excluding the bottom tile row of the atlas frame in units of 64 samples when afti_uniform_tile_spacing_flag is equal to 1).
AFTI 타일 컬럼 넘버(afti_num_tile_columns_minus1): 이 값에 1을 더하면, afti_uniform_tile_spacing_flag이 0인 경우, 아틀라스 프레임을 파티셔닝하는 타일 컬럼들의 개수를 나타낸다(afti_num_tile_columns_minus1 plus 1 specifies the number of tile columns partitioning the atlas frame when afti_uniform_tile_spacing_flag is equal to 0).
AFTI 타일 로우 넘버(afti_num_tile_rows_minus1): 이 값에 1을 더하면, pti_uniform_tile_spacing_flag이 0인 경우, 아틀라스 프레임을 파티셔닝하는 타일 로우들의 개수를 나타낸다(afti_num_tile_rows_minus1 plus 1 specifies the number of tile rows partitioning the atlas frame when pti_uniform_tile_spacing_flag is equal to 0).
AFTI 타일 컬럼 너비(afti_tile_column_width_minus1[ i ]): 64 샘플들의 단위들 내 I번째 타일 컬럼의 너비를 나타낸다.
AFTI 타일 로우 높이(afti_tile_row_height_minus1[ i ]): 64 샘플들의 단위들 내 I번째 타일 로우의 높이를 나타낸다.
AFTI 타일 그룹 당 싱글 타일(afti_single_tile_per_tile_group_flag): 이 값이 1이면, 이 AFPS를 참조하는 각 타일 그룹이 하나의 타일을 포함함을 나타낸다. afti_single_tile_per_tile_group_flag이 0이면, 이 AFPS를 참조하는 타일 그룹이 하나의 타일 이상을 포함함을 나타낸다. 존재하지 않는 경우, afti_single_tile_per_tile_group_flag의 값은 1로 추론될 수 있다.
AFTI 아틀라스 프레임 내 타일 그룹들의 개수(afti_num_tile_groups_in_atlas_frame_minus1): 이 값에 1을 더하면, AFPS를 참조하는 각 아틀라스 프레임 내 타일 그룹들의 개수를 나타낸다. afti_num_tile_groups_in_atlas_frame_minus1의 값은 0 내지 NumTilesInAtlasFrame - 1이하의 범위 내 있을 수 있다. 이 값이 존재하지 않고, afti_single_tile_per_tile_group_flag이1인경우, afti_num_tile_groups_in_atlas_frame_minus1의 값은 NumTilesInAtlasFrame - 1으로 추론될 수 있다(afti_num_tile_groups_in_atlas_frame_minus1 plus 1 specifies the number of tile groups in each atlas frame referring to the AFPS. The value of afti_num_tile_groups_in_atlas_frame_minus1 shall be in the range of 0 to NumTilesInAtlasFrame - 1, inclusive. When not present and afti_single_tile_per_tile_group_flag is equal to 1, the value of afti_num_tile_groups_in_atlas_frame_minus1 is inferred to be equal to NumTilesInAtlasFrame - 1).
AFTI 탑 레프트 타일 인덱스(afti_top_left_tile_idx[ i ]): I번째 타일 그룹의 탑-레프트 코너에 위치한 타일의 타일 인덱스를 나타낸다. afti_top_left_tile_idx[ i ]의 값은 J와 동일하지 않은 I를 위한 afti_top_left_tile_idx[ j ]의 값과 동일하지 않음을 나타낸다. 존재하지 않는 경우, afti_top_left_tile_idx[ i ]의 값은 I로 추론될 수 있다. afti_top_left_tile_idx[ i ] 신택스 엘리먼트의 길이는 Ceil( Log2( NumTilesInAtlasFrame )비트일 수 있다(afti_top_left_tile_idx[ i ] specifies the tile index of the tile located at the top-left corner of the i-th tile group. The value of afti_top_left_tile_idx[ i ] shall not be equal to the value of afti_top_left_tile_idx[ j ] for any i not equal to j. When not present, the value of afti_top_left_tile_idx[ i ] is inferred to be equal to i. The length of the afti_top_left_tile_idx[ i ] syntax element is Ceil( Log2( NumTilesInAtlasFrame ) bits).
AFTI 바틈 롸이트 타일 인덱스(afti_bottom_right_tile_idx_delta[ i ]): I번째 타일 그룹의 바닥-오른쪽 코너에 위치한 타일의 타일 인덱스 및 및 afti_top_left_tile_idx[ i ] 간 차이를 나타낸다. afti_single_tile_per_tile_group_flag이 1이면, afti_bottom_right_tile_idx_delta[ i ]의 값은 0으로 추론될 수 있다. afti_bottom_right_tile_idx_delta[ i ] 신택스 엘리먼트의 값은 Ceil( Log2( NumTilesInAtlasFrame - afti_top_left_tile_idx[ i ] ) )비트일 수 있다(afti_bottom_right_tile_idx_delta[ i ] specifies the difference between the tile index of the tile located at the bottom-right corner of the i-th tile group and afti_top_left_tile_idx[ i ]. When afti_single_tile_per_tile_group_flag is equal to 1, the value of afti_bottom_right_tile_idx_delta[ i ] is inferred to be equal to 0. The length of the afti_bottom_right_tile_idx_delta[ i ] syntax element is Ceil( Log2( NumTilesInAtlasFrame - afti_top_left_tile_idx[ i ] ) ) bits).
AFTI 시그널링되는 타일 그룹 아이디(afti_signalled_tile_group_id_flag): 1이면, 각 타일 그룹을 위한 타일 그룹 이이디가 시그널링됨을 나타낸다. 0이면, 타일 그룹 아이디들이 시그널링되지 않음을 나타낸다.
AFTI 시그널링되는 타일 그룹 아이디 길이(afti_signalled_tile_group_id_length_minus1): 이 값에 1을 더하면, afti_tile_group_id[ i ] 신택스 엘리먼트를 나타내는데 사용되는 비트들의 개수를 나타낸다. 존재하지 않는 경우, 신택스 엘리먼트 atgh_address가 타일 그룹 헤더에 있다.
AFTI 타일 그룹 아이디(afti_tile_group_id[ i ]): I번째 타일 그룹의 타일 그룹 아이디를 나타낸다. afti_tile_group_id[ i ] 신택스 엘리먼트의 길이는 afti_signalled_tile_group_id_length_minus1 + 1비트일 수 있다.
도57은 실시예들에 따른 SEI (Supplemental enhancement information) 메시지를 나타낸다.
도57은 도52의 SEI의 구체적 신택스이다.
SEI메시지는 페이로드 타입(payloadType)에 따른 정보를 전달한다.
또한, SEI메시지는 지오메트리 트랜스포메이션 파라미터들(geometry_transformation_params)을 전달할 수 있다.
도58은 실시예들에 따른 지오메트리 변형 파라미터들 SEI 신택스(Geometry transformation parameters SEI message syntax)를 나타낸다.
도58은 도52에 샘플 스트림 날 유닛에 기반하여 포함될 수 있는 지오메트리 변형 파라미터의 신택스를 나타낸다.
지오메트리 변형 파라미터(GTP) 취소 플래그(gtp_cancel_flag)는 이 신택스들의 적용 여부를 시그널링한다.
스무딩 인에이블 플래그(gtp_smoothing_enabled_flag)는 지오메트리에 대해 스무딩이 적용되었는지 여부를 나타낸다.
스케일 인에이블 플래그(gtp_scale_enabled_flag)는 지오메트리에 대해 스케일이 적용되었는지 여부를 나타낸다.
오프셋 인에이블 플래그(gtp_offset_enabled_flag) 지오메트리에 오프셋이 적용되었는지 여부를 나타낸다.
로테이션 인에이블 플래그(gtp_rotation_enabled_flag)는 지오메트리에 로테이션 이 적용되었는지 여부를 나타낸다.
포인트 사이즈 정보 인에이블 플래그(gtp_point_size_info_enabled_flag)는 포인트 사이즈 정보가 시그널링되는지 여부를 나타낸다.
포인트 모양 정보 인에이블 플래그(gtp_point_shape_info_enabled_flag)는 포인트의 모양 정보가 시그널링되는지 여부를 나타낸다.
gtp_smoothing_enabled_flag에 기반하여, 스무딩 그리드 사이즈(gtp_smoothing_grid_size_minus2)는 지오메트리 스무딩의 그리드 사이즈를 나타내고, 스무딩 임계값(gtp_smoothing_threshold)은 지오메트리 스무딩의 스레드홀드를 나타낸다.
gtp_scale_enabled_flag에 기반하여, 인덱스(디멘션) 3가지에 대하여, 지오메트리 스케일이 ON인지 여부를 시그널링하고(gtp_geometry_scale_on_axis[ d ]), gtp_offset_enabled_flag에 기반하여, 인덱스(디멘션) 3가지에 대하여, 지오메트리의 오프셋을 시그널링하고(gtp_geometry_offset_on_axis[ d ]), gtp_rotation_enabled_flag에 기반하여, X, Y, Z에 대한 로테이션 값(gtp_rotation_x, gtp_rotation_y, gtp_rotation_z)을 시그널링한다.
gtp_point_size_info_enabled_flag에 기반하여, 지오메트리 포인트 사이즈 정보(gtp_point_size_info_minus1)가 시그널링된다.
gtp_point_shape_info_enabled_flag에 기반하여, 지오메트리 포인트의 모양 정보(gtp_point_shape_info)가 시그널링된다.
이하에서, 도24에서 상술한 V-PCC 파일 구조에 따른 V-PCC 트랙의 신택스를 설명한다.
볼륨메트릭 비쥬얼 트랙(Volumetric visual track)은 유니크한 볼륨메트리 비쥬얼 트랙에 의해 참조되는 각 볼륨메트릭 비쥬얼 신(volumetric visual scene)에 관한 시그널링 정보를 포함한다.
실시예들에 따라 ISOBMFF 파일의 경우, 복수의 신들(multiple scenes)을 포함하고, 파일 내 복수의 볼륨메트릭 비쥬얼 트랙들이 존재할 수 있다.
볼륨메트릭 비쥬얼 트랙은 미디어 박스(MediaBox)의 핸들러 박스(HandlerBox) 내 볼륨메트릭 비쥬얼 미디어 헨들러 타입'volv'에 의해 식별될 수 있다. 볼륨메트릭 비쥬얼 미디어 헨들러는 다음과 같이 정의될 수 있다.
볼륨메트릭 비쥬얼 미디어 헤더(Volumetric visual media header)
박스 타입(Box Type): 'vvhd'
컨테이너(Container): MediaInformationBox
의무 여부(Mandatory): Yes
양(Quantity): Exactly one
볼륨메트릭 비쥬얼 트랙들은 미디어 인포메이션 박스(MediaInformationBox) 내 볼륨메트릭 비쥬얼 미디어 핸들러 박스(VolumetricVisualMediaHeaderBox)를 사용할 수 있다.
볼륨메트릭 비쥬얼 미디어 헤드 박스는 다음과 같다.
aligned(8) class VolumetricVisualMediaHeaderBox
extends FullBox('vvhd', version = 0, 1) {
}
버전(version)은 이 박스의 버전을 나타내는 정수일 수 있다.
볼륨메트릭 비쥬얼 샘플 엔트리(Volumetric visual sample entry):
볼륨메트릭 비쥬얼 트랙들은 볼륨메트릭비쥬얼 샘플 엔트리(VolumetricVisualSampleEntry)를 사용할 수 있다.
class VolumetricVisualSampleEntry(codingname)
extends SampleEntry (codingname){
unsigned int(8)[32] compressor_name;
}
컴프레서 네임(compressor_name)은 고정된 32바이트 필드로 형성되고, 디스플레이되는 복수의 바이트들로 세팅되는 제1바이트들에 뒤이어서 UTF-8을 사용하여 인코딩된 디스플레이되는 데이터의 복수의 바이트들이 오고, 사이즈 바이트를 포함하는 32 바이트들을 계산하기 위해 패딩된다. 이 필드는 0으로 셋팅될 수 있다.
볼륨메트릭 비쥬얼 샘플들(Volumetric visual samples): 볼륨메트릭 비쥬얼 샘플의 포맷은 코딩 시스템에 의해 정의될 수 있다.
V-PCC 유닛 헤더 박스(V-PCC unit header box): 이 박스는 샘플 엔트리 내 V-PCC 트랙 및 스킴 정보 내 모든 비디오 코딩된 V-PCC 컴포넌트 트랙들 내 모두 존재할 수 있다. 이것은 각 트랙에 의해 전달되는 데이터를 위한 V-PCC 유닛 헤더를 포함할 수 있다.
aligned(8) class VPCCUnitHeaderBox
extends FullBox('vunt', version = 0, 0) {
vpcc_unit_header() unit_header;
}
도59는 실시예들에 따른 셋업유닛(setup unit)을 시그널링 구조를 나타낸다.
도59는 상술한 V-PCC 비트스트림들의 V-PCC 트랙 내 포함될 수 있는 샘플 엔트리에 포함될 수 있는 시그널링 정보를 나타낸다.
도59는 V-PCC 디코더 구성 레코드 정보(V-PCC decoder configuration record)를 나타낸다.
이 레코드는 버전 필드를 포함한다. 실시예들에 따른 버전은 버전 1을 정의할 수 있다. 이 버전의 넘버를 변경함으로써 이 레코드의 버전 변경을 지시할 수 있다.
도24, 25, 48, 52 등에서 설명한 V-PCC 비트스트림 내 VPCCParameterSet는 다음과 같이 vpcc_parameter_set()와 같이 정의될 수 있다.
아틀라스 셋업 유닛(atlas_setupUnit) 어레이들(arrays)은 디코더 구성 레코드(decoder configuration record)가 존재하는 샘플 엔트리를 참조하는 스트림 내에 일정한(변화하지 않는) 아틀라스 파라미터 셋 뿐만 아니라 아틀라스 SEI 메시지를 포함할 수 있다.
.
실시예들에 따라, 아틀라스 셋업 유닛은 줄여서 셋업 유닛으로 지칭할 수 있다.
셋업 유닛은 상술한 실시예들에 따른 NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 또는 NAL_SUFFIX_NSEI 타입의 유닛 또는 날 유닛을 포함할 수 있다. 셋업 유닛이 존재하는 경우 NAL_PREFIX_NSEI 또는 NAL_SUFFIX_NSEI는 SEI 메시지를 포함할 수 있다.
나아가, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, or NAL_SUFFIX_NSEI 가 SEI 메시지를 포함할 수 있다.
또한, V-PCC 파라미터 세트들이 샘플 그룹으로 시그널링되는 경우, 다음과 같이 샘플 그룹 엔트리의 신택스를 정의할 수 있다.
실시예들에 따른 방법/장치는V-PCC 스트림을 구성 시 아틀라스 관련 데이터를 파일 레벨에서 효율적으로 억세스하기 위해서, V-PCC 트랙의 샘플 엔트리 내 셋업 유닛을 통해 아틀라스 관련 파라미터 및/또는 SEI 정보를 전달할 수 있다. 또한, 이러한 정보의 컨테이너는 NAL유닛일 수 있다. 또한, 상술한 바와 같이, 실시예들에 따라 아틀라스 관련 파라미터 정보를 전달함으로써, 실시예들의 수신 장치가 파일 레벨에서 다이나믹하게 또는 스태틱하게 필요한 정보를 효율적으로 획득할 수 있는 효과가 있다.
aligned(8) class VPCCAtlasParamSampleGroupDescriptionEntry() extends SampleGroupDescriptionEntry('vaps') {
unsigned int(8) numOfSetupUnits;
for (i=0; i < numOfSetupUnits; i++) {
unsigned int(16) setupUnitLength;
nal_unit(setupUnitLength) setupUnit;
}
}
이때, 셋업 유닛은 상술한 실시예들에 따른NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 또는 NAL_SUFFIX_ESEI 타입의 유닛 또는 날 유닛이다.
구성 버전(configurationVersion)은 버전 번호의 변화에 의해 지시되는 레코드의 변화를 위한 버전 필드이다.
샘플 스트림 사이즈(sampleStreamSizeMinusOne): 이 값에 1을 더하면, 이 구성 레코드가 적용되는 스트림 내 V-PCC 샘플 및 구성 레코드 내 모든 샘플 스트림 V-PCC 유닛들 내 ssvu_vpcc_unit_size 엘리먼트의 바이트 내 정확도를 나타낸다(plus 1 indicates the precision, in bytes, of the ssvu_vpcc_unit_size element in all sample stream V-PCC units in either this configuration record or a V-PCC sample in the stream to which this configuration record applies).
V-PCC 파라미터 세트들의 개수(numOfVPCCParameterSets): 디코더 구성 레코드 내 시그널링되는 VPS(V-PCC parameter sets)의 개수를 나타낸다.
V-PCC 파라미터 세트(VPCCParameterSet)는 VPCC_VPS타입의 V-PCC 유닛을 위한 sample_stream_vpcc_unit() 인스턴스이다.
아틀라스 셋업 유닛들의 개수(numOfAtlasSetupUnits)는 이 구성 레코드 내 시그널링되는 아틀라스 스트림을 위한 셋 업 어레이의 개수를 나타낸다.
아틀라스 셋업 유닛(Atlas_setupUnit): 아틀라스 시퀀스 파라미터 세트, 아틀라스 프레임 파라미터 세트, 또는 SEI 아틀라스 날 유닛을 포함하는 sample_stream_vpcc_unit()인스턴스이다.
실시예들에 따라 도60은 다음과 같은 신택스에 대응할 수도 있다.
한편, 본 문서에서 사용하는 V-PCC 용어는 비디오 기반 포인트 클라우드 압축(Video-based Point Cloud Compression (V-PCC))을 의미하고, V-PCC 용어는 비쥬얼 볼륨메트릭 비디오 기반 코딩(Visual Volumetric Video-based Coding (V3C))과 동일하고, 서로 상호 보완하여 지칭될 수 있다.
aligned(8) class V3CDecoderConfigurationRecord {
unsigned int(8) configurationVersion = 1;
unsigned int(2) lengthSizeMinusOne;
bit(1) reserved = 1;
unsigned int(5) numOfV3CParameterSets;
for (i=0; i < numOfV3CParameterSets; i++) {
unsigned int(16) V3CParameterSetLength;
v3c_unit(V3CParameterSetLength) v3cParameterSet; // as defined in ISO/IEC 23090-5
}
unsigned int(8) numOfSetupUnitArrays;
for (j=0; j < numOfSetupUnitArrays; j++) {
bit(1) array_completeness;
bit(1) reserved = 0;
unsigned int(6) NAL_unit_type;
unsigned int(8) numNALUnits;
for (i=0; i < numNALUnits; i++) {
unsigned int(16) SetupUnitLength;
nal_unit(SetupUnitLength) setupUnit; // as defined in ISO/IEC 23090-5
}
}
// additional fields
}
셋업 유닛 어레이(setupUnit arrays)는 디코더 구성 레코드가 존재하는 샘플 엔트리 및 아틀라스 서브-비트스트림 SEI메시지에 의해 참조되는 CVS에 대하 일정한 아틀라스 서브-비트스트림 파라미터 세트들을 포함할 수 있다.
V3C(Visual Volumetric Video-based Coding, V-PCC에 대응되는 용어) 디코더 구성 정보는 추가적인 V3C 디코더의 구성 및 초기화를 위해 V3C 비트스트림들의 디코딩 특정 정보(예를 들어, 파라미터 세트들 및 SEI메시지)를 제공할 수 있다.
v3cParameterSet 는 하나의 v3c_parameter_set()를 포함한다.
길이 사이즈(lengthSizeMinusOne): 이 값에 1을 더하면, 이 구성 레코드가 적용되는 스트림 내 V3C 샘플 내 NALUnitLength (날 유닛 길이) 필드의 바이트 내 길이를 나타낸다. 예를 들어, 1바이트의 사이즈는 0의 값으로 지시될 수 있다. 이 필드의 값은 아틀라스 서브스트림을 위한 sample_stream_nal_header() 내 ssnh_unit_size_precision_bytes_minus1와 같을 수 있다.
V3C파라미터세트들의 개수(numOfV3CParameterSets): 디코더 구성 레코드 내 시그널링되는 V3C 파라미터 세트 유닛들의 개수를 나타낸다.
V3C파라미터 세트 길이(V3CParameterSetLength): V3C 파라미터세트 필드의 바이트 내 사이즈를 나타낸다.
v3cParameterSet는 V3C_VPS 타입의 V3C 유닛이다(도24-25, 49, 53 등에 도시된 파라미터 세트들).
셋업유닛 어레이들의 개수(numOfSetupUnitArrays): 지시된 타입들의 아틀라스 날 유닛들의 어레이들의 개수를 나타낸다.
어레이 완전성(array_completeness): 이 값이 1이면, 주어진 타입의 모든 아틀라스 날 유닛들이 후속하는 어레이들에 있고, 스트림 내에는 없음을 나타낸다. 이 값이 0인 경우, 지시된 타입의 추가적인 아틀라스 탈 유닛들이 스트림 내에 있을 수 있음을 나타낸다. 디폴트 값은 샘플 엔트리 네임을 따른다.
날 유닛 타입(NAL_unit_type): 후속하는 어레이 (모드 타입들) 내 아틀라스 날 유닛들의 타입을 나타낸다. NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 또는NAL_SUFFIX_NSEI atlas NAL unit 중 하나를 지시할 수 있다.
날 유닛들의 개수(numNALUnits): 이 구성 레코드가 적용되는 스트림을 위한 구성 레코드 내 포함된 지시된 타입의 아틀라스 날 유닛들의 개수를 나타낸다. SEI 어레이는 서술문 속성의 SEI 메시지들을 포함한다. 즉, 스트림 전체에 관한 정보를 제공한다. 이러한 SEI의 예제가 유저-데이터 SEI일 수 있다.
셋업유닛 길이(SetupUnitLength): 셋업 유닛 필드의 바이트 내 사이즈를 나타낸다. 길이 필드는 날 유닛 헤어 및 날 유닛 페이로드의 사이즈를 나타내고, 길이 필드 그 자체를 포함하진 않는다(SetupUnitLength indicates the size, in bytes, of the setupUnit field. The length field includes the size of both the NAL unit header and the NAL unit payload but does not include the length field itself).
셋업 유닛(setupUnit): 타입 NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 또는 NAL_SUFFIX_NSEI의 날 유닛을 포함한다. NAL_PREFIX_SEI 또는 NAL_SUFFIX_SEI은 SEI 메시지를 포함할 수 있다. 즉, 스트림에 관한 전체 정보를 제공한다. 이러한 SEI메시지의 예가 유저-데이터 SEI이다(setupUnit may contain a NAL unit of type NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, or NAL_SUFFIX_NSEI, as defined in ISO/IEC 23090-5. When present in setupUnit, NAL_PREFIX_SEI or NAL_SUFFIX_SEI contains SEI messages of a 'declarative' nature, that is, those that provide information about the stream as a whole. An example of such an SEI could be a user-data SEI)
또한, 상술한 실시예들은 샘플 그룹에 기반하여 다음과 같이 제공될 수 있다.
V3C 아틀라스 파라미터 세트 샘플 그룹(V3C atlas parameter set sample group)
샘플 그룹핑 내 그룸핑 타입(grouping_type)을 위한 'vaps'의 사용은 이 샘플 그룹 내 전달되는 아틀라스 파라미터 세트들에 대한 V3C 트랙(V-PCC트랙) 내 샘플들의 배치를 나타낸다. 'vaps'와 동일한 샘플 그룹핑 타입(grouping_type)을 가지는 샘플투그룹박스(SampleToGroupBox)가 존재하는 경우, 동일한 그룹핑 타입을 가지는 수반하는 샘플 그룹 디스크립션 박스(SampleGroupDescriptionBox)이 존재하고, 샘플들이 속하는 그룹의 ID를 포함할 수 있다.
V3C 트랙은 'vaps'와 동일한 grouping_type을 가지는 최대 하나의 SampleToGroupBox를 포함할 수 있다.
'v3c1' 또는'v3e1' 샘플 엔트리가 V3C트랙 내에 사용되는 경우, NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 및 AL_SUFFIX_NSEI 타입의 날 유닛들이 이 샘플 그룹의 샘플들 내 존재하지 않을 수 있다.
'v3cg' 또는 'v3eg' 샘플 엔트리가 V3C 트랙 내 사용되는 경우, type NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 및 NAL_SUFFIX_NSEI 타입의 날 유닛들이 이 샘플 그룹의 샘플들에 존재할 수 있다.
Syntax:
aligned(8) class V3CAtlasParamSampleGroupDescriptionEntry() extends SampleGroupDescriptionEntry('vaps') {
unsigned int(8) numOfSetupUnits;
for (i=0; i < numOfSetupUnits; i++) {
unsigned int(16) setupUnitLength;
nal_unit(setupUnitLength) setupUnit; // as defined in ISO/IEC 23090-5
}
}
Semantics:
셋업유닛들의 개수(numOfSetupUnits): 샘플 그룹 디스크립션 내 시그널링되는 셋업 유닛들의 개수를 나타낸다.
셋업 유닛 길이(setupUnitLength): 셋업유닛 필드의 바이트 내 사이즈를 나타낸다. 길이 필드는 날 유닛 헤더 및 날 유닛 페이로드 모두의 사이즈를 포함하고, 길이 필드 자체를 포함하지 않을 수 있다.
셋업 유닛(setupUnit): 샘플들의 이 그룹과 관련된 데이터를 전달하는 NAL_ASPS, NAL_AAPS, NAL_AFPS, NAL_PREFIX_ESEI, NAL_PREFIX_NSEI, NAL_SUFFIX_ESEI, 또는 NAL_SUFFIX_NSEI 타입의 날 유닛일 수 있다.
또한, 실시예들에 따른 V-PCC 디코더 구성 레코드는 다음과 같을 수 있다.
aligned(8) class VPCCDecoderConfigurationRecord {
unsigned int(8) configurationVersion = 1;
unsigned int(3) sampleStreamSizeMinusOne;
bit(2) reserved = 1;
unsigned int(3) lengthSizeMinusOne;
unsigned int(5) numOVPCCParameterSets;
for (i=0; i< numOVPCCParameterSets; i++) {
sample_stream_vpcc_unit VPCCParameterSet;
}
unsigned int(8) numOfSetupUnitArrays;
for (j=0; j<numOfSetupUnitArrays; j++) {
bit(1) array_completeness;
bit(1) reserved = 0;
unsigned int(6) NAL_unit_type;
unsigned int(8) numNALUnits;
for (i=0; i<numNALUnits; i++) {
sample_stream_nal_unit setupUnit;
}
}
구성 버전(configurationVersion): 버전 필드를 나타낸다. 호환되지 않는 변화는 버전 번호의 변화에 의해 지시된다.
길이 사이즈(lengthSizeMinusOne): 이 값에 1을 더하면, 이 구성 레코드 또는 이 구성 레코드가 적용되는 스트림 내 V-PCC 샘플 내 모든 샘플 스트림 날 유닛들 내 ssnu_nal_unit_size 엘리먼트의 바이트 내 정확도를 나타낸다(lengthSizeMinusOne plus 1 indicates the precision, in bytes, of the ssnu_nal_unit_size element in all sample stream NAL units in either this configuration record or a V-PCC sample in the stream to which this configuration record applies).
샘플 스트림 사이즈(sampleStreamSizeMinusOne): 이 값에 1을 더하면, 이 구성 레코드 내 시그널링되는 모든 샘플 스트림 V-PCC 유닛들 내 ssvu_vpcc_unit_size 엘리먼트의 바이트 내 정확도를 나타낸다(sampleStreamSizeMinusOne plus 1 indicates the precision, in bytes, of the ssvu_vpcc_unit_size element in all sample stream V-PCC units signaled in this configuration record).
V-PCC 파라미터 세트들의 개수(numOfVPCCParameterSets): 이 구성 레코드 내 시그널링되는 V-PCC 파라미터 세트들(VPS)의 개수를 나타낸다.
V-PCC 파라미터 세트(VPCCParameterSet) 타입 VPCC_VPS의 V-PCC 유닛의 sample_stream_vpcc_unit() 인스턴스이다.
셋업유닛어레이들의 개수(numOfSetupUnitArrays): 지시된 타입들의 아틀라스 날 유닛들의 어레이들의 개수를 나타낸다.
*어레이 완전성(array_completeness): 이 값이 1임녀, 주어진 타입의 모든 아틀라스 날 유닛들이 후속하는 어레이 내 있고, 스트림 내 없다는 것을 나타낸다. 이 값이 0이면, 지시된 타입의 추가적인 아틀라스 탈 유닛들이 스트림 내에 있을 수 있다는 것을 나타낸다. 디폴트 값은 샘플 엔트리 네임에 의한 제약을 받는다.
날 유닛 타입(NAL_unit_type): 모든 타입인 후속하는 어레이 내 아틀라스 날 유닛들의 타입을 나타낸다. NAL_ASPS, NAL_PREFIX_SEI, 또는 NAL_SUFFIX_SEI atlas NAL unit을 나타내는 값일 수 있다.
날 유닛들의 개수(numNALUnits): 이 구성 레코드가 적용되는 스트림을 위한 이 구성 레코드 내 포함되는 지시된 타입의 아틀라스 날 유닛들의 개수를 나타낸다. SEI 어레이는 오직 선언적 속성의 SEI 메시지를 포함할 수 있고, 전체 스트림에 관한 정보를 제공한다. 이러한 SEI의 예시가 유저-데이터 SEI 일 수 있다.
셋업 유닛(setupUnit): atlas sequence parameter set, atlas frame parameter set 또는or a declarative SEI atlas NAL unit을 포함하는 sample_stream_nal_unit() 인스턴스이다.
V-PCC 아틀라스 파라미터 세트 샘플 그룹(V-PCC atlas parameter set sample group)
샘플 그룹핑을 위한 'vaps' 그룹핑 타입은 이 샘플 그룹 내 전달되는 아틀라스 파라미터 세트들에 대한 V-PCC 트랙 내 샘플들의 배치를 나타낸다. 'vaps'와 동일한 grouping_type을 가지는 SampleToGroupBox이 존재하는 경우, same grouping type 을 가지는 동반하는 SampleGroupDescriptionBox가 존재하고, 샘플들이 속하는 이 그룹의 아이디를 포함할 수 있다.
V-PCC 트랙은 'vaps'와 동일한 grouping_type을 갖는 SampleToGroupBox을 최대 한 개 포함할 수 있다.
aligned(8) class VPCCAtlasParamSampleGroupDescriptionEntry() extends SampleGroupDescriptionEntry('vaps') {
unsigned int(8) numOfAtlasParameterSets;
for (i=0; i<numOfAtlasParameterSets; i++) {
sample_stream_vpcc_unit atlasParameterSet;
}
}
아틀라스 파라미터세트들의 개수(numOfAtlasParameterSets): 샘플 그룹 디스크립션 내 시그널링되는 아틀라스 파라미터 세트들의 개수이다.
아틀라스 파라미터 세트(atlasParameterSet)는 샘플들의 이 그룹과 관련된 아틀라스 시퀀스 파라미터 세트, 아틀라스 프레임 파라미터 세트를 포함하는 sample_stream_vpcc_unit() 인스턴스이다.
또한, 대안적으로, 다음과 같이 기술될 수 있다.
aligned(8) class VPCCAtlasParamSampleGroupDescriptionEntry() extends SampleGroupDescriptionEntry('vaps') {
unsigned int(3) lengthSizeMinusOne;
unsigned int(5) numOfAtlasParameterSets;
for (i=0; i<numOfAtlasParameterSets; i++) {
sample_stream_nal_unit atlasParameterSetNALUnit;
}
}
길이 사이즈(lengthSizeMinusOne): 이 값에 1을 더하면, 이 샘플 그룹 디스크립션 내 시그널링되는 모든 샘플 스트림 날 유닛들 내 ssnu_nal_unit_size 엘리먼트의 바이트 내 정확도를 나타낸다.
아틀라스 파라미터 세트 날 유닛(atlasParameterSetNALUnit): 샘플들의 이 그룹에 관련된 아틀라스 시퀀스 파라미터 세트, 아틀라스 프레임 파라미터 세트를 포함하는 sample_stream_nal_unit() 인스턴스이다.
V-PCC 비트스트림의 멀티 트랙 컨테이너(Multi track container of V-PCC Bitstream)
멀티 트랙 ISOBMFF V-PCC container의 일반적인 구성은 V-PCC elementary stream 내 V-PCC units이 타입에 기초하여 컨테이너 파일 내 개별적 트랙들에 매핑된다. multi-track ISOBMFF V-PCC container 내 트랙들의 두 가지 타입이 있을 수 있다: V-PCC track 및V-PCC component track.
V-PCC (또는 V3C)트랙은 아틀라스 서브-비트스트림 및 시퀀스 파라미터 세트들을 포함하는 V-PCC 비트스트림 내 볼륨메트릭 비쥬얼 정보를 전달하는 트랙이다.
V-PCC 컴포넌트 트랙들은 V-PCC비트스트림의 어큐판시 맵, 지오메트리, 어트리뷰트 서브-비트스트림들에 대한 2D 비디오 인코딩된 데이터를 전달하는 비디오 스킴 트랙들이다. 게다가, 다음의 조건들이 V-PCC 컴포넌트 트랙들에 대해 만족될 수 있다.
a) 샘플 엔트리 내, V-PCC 시스템 내 이 트랙에 포함된 비디오 스트림의 롤을 설명하는 새로운 박스가 인서팅된다.
b) 트랙 레퍼런스가 V-CC 트랙으로부터 V-PCC컴포넌트 트랙에 대해 V-PCC 트랙에 의해 표현되는 특정 포인트-클라우드 내 V-PCC 컴포넌트 트랙의 멤버쉽을 성립하기 위해 소개된다.
c) 트랙-헤더 플래그가 0으로 세팅되고, 이 트랙이 V-PCC 시스템에는 기여하나, 무비의 전반적 레이업에 직접적으로 기여하지 않음을 나타낸다.
동일한 V-PCC 시퀀스가 속하는 트랙들은 시간에 따라 얼라인될 수 있다. 상이한 비디오 인코딩된 V-PCC 컴포넌트 트랙들 및 간 동일한 포인트 클라우드 프레임에 기여하는 샘플들 및 V-PCC 트랙은 동일한 프리젠테이션 타임을 가진다. 샘플들에 대해 사용되는 V-PCC 아틀라스 시퀀스 파라미터 세트들 및 아틀라스 프레임 파라미터 세트들은 포인트 클라우드 프레임의 컴포지션 타임와 같거나 앞서는 디코딩 타임을 가진다. 게다가, 동일한 V-PCC 시퀀스에 속하는 모든 트랙들은 동일한 함축되거 명료한 편집 리스트들을 가진다.
노트: 컴포넌트 트랙들 내 엘리멘테리 스트림들 간 동기화는 ISOBMFF 트랙 타이밍 구조 (stts, ctts, and cslg에 의해 처리되거나 무비 프래그먼트들 내 동등한 메커니즘에 의해 처리될 수 있다.
이러한 레이아웃에 기초하여, V-PCC ISOBMFF 컨테이너는 다음을 포함한다(도24참조):
- V-PCC 파라미터 세트 V-PCC 유닛(unit type VPCC_VPS) 및 아틀라스 V-PCC 유니들(unit type VPCC_AD)의 페이로드들을 전달하는 샘플들 및 샘플 엔트리 내 V-PCC 파라미터 세트들을 포함하는 V-PCC 트랙. 이 트랙은 또한 unit types VPCC_OVD, VPCC_GVD, 및 VPCC_AVD와 같은 비디오 압축된 V-PCC 유니들의 페이로드를 전달하는 다른 트랙들에 대한 트랙 레퍼런스들을 포함한다.
- 타입VPCC_OVD의 V-PCC 유닛들의 페이로드들인 어큐판시 맵 데이터를 위한 비디오 코딩된 엘리멘테리 스트림의 어세스 유닛들을 포함하는 샘플들이 있는 비디오 스킴 트랙.
- 타입 VPCC_GVD의 V-PCC 유닛들의 페이로드들인 지오메트리 데이터의 비디오 코딩된 엘리멘테리 스트림들의 어세스 유닛들을 포함하는 샘플들이 있는 하나 또는 하나 이상의 비디오 스킴 트랙.
- 타입 VPCC_AVD 의 V-PCC유닛들의 페이로드들인 어트리뷰트 데이터의 비디오 코디오딘 엘리멘테리 스트림들의 어세스 유닛들을 포함하는 샘플들이 있는 제로 또는 하나 이상의 비디오 스킴 트랙.
V-PCC트랙들(V-PCC tracks):
V-PCC 트랙 샘플 엔트리(V-PCC Track Sample Entry):
샘플 엔트리 타입(Sample Entry Type): 'vpc1', 'vpcg'
컨테이너(Container): 샘플디스크립션박스(SampleDescriptionBox)
의무 여부(Mandatory): 'vpc1' 또는 'vpcg' 샘플 엔트리는 의무임
양(Quantity): 하나 또는 이상의 샘플 엔트리들이 존재할 수 있음
V-PCC 트랙은 VolumetricVisualSampleEntry를 확장하는 VPCCSampleEntry를 사용한다. 샘플 엔트리 타입은 'vpc1' 또는 'vpcg'이다.
V-PCC 샘플 엔트리는 V-PCC구성박스(VPCCConfigurationBox)를 포함한다. 이 박스는 디코더 구성 레코드(VPCCDecoderConfigurationRecord)를 포함한다.
'vpc1' 샘플 엔트리 하에, 모든 아틀라스 시퀀스 파라미터 세트들, 아틀라스 프레임 파라미터 세트들, 또는 V-PCC SEI 들은 셋업유닛 어레이(setupUnit array) 내 있다.
'vpcg' 샘플 엔트리 하에, 아틀라스 시퀀스 파라미터 세트들, 아틀라스 프레임 파라미터 세트들, V-PCC SEI들이 이 어레이 내 또는 스트림 내에 있을 수 있다.
옵셔널한 비트레이트 박스(BitRateBox)는 V-PCC 트랙의 비트 레이트 정보를 시그널링하기 위해서 V-PCC 볼륨메트릭 샘플 엔트리 내 존재할 수 있다.
볼륨메트릭 시퀀스(Volumetric Sequences):
class VPCCConfigurationBox extends Box('vpcC') {
VPCCDecoderConfigurationRecord() VPCCConfig;
}
aligned(8) class VPCCSampleEntry() extends VolumetricVisualSampleEntry ('vpc1') {
VPCCConfigurationBox config;
VPCCUnitHeaderBox unit_header;
}
한편, 도59는 도26에서 설명한 실시예들에 따른 class VPCCDecoderConfigurationRecord에 대응될 수 있다.
도60은 실시예들에 따른 V-PCC 샘플 엔트리를 나타낸다.
도60은 본 문서에서 설명하는 실시예들에 따른 V-PCC 샘플 엔트리 구조의 예시를 나타낸다. 샘플 엔트리는V-PCC 파라미터 세트(VPS, 60000)를 포함하고, 옵셔널하게, 아틀라스 시퀀스 파라미터 세트(ASPS, 60010), 아틀라스 프레임 파라미터 세트(AFPS, 60020), 및/또는 SEI(60030)를 포함할 수 있다.
도60의 V-PCC 비트스트림은 도48의 V-PCC 비트스트림의 생성하고 파싱하는 실시예들에 의해 생성되고 파싱될 수 있다.
도60과 같이, V-PCC 비트스트림은 샘플 스트림 V-PCC 헤더, 샘플 스트림 헤더, V-PCC 유닛 헤더 박스, 샘플 스트림 V-PCC 유닛을 포함할 수 있다.
도60의 V-PCC 비트스트림은 도48, 52에 설명한 V-PCC 비트스트림에 대응되거나 추가 확장된 예시이다.
V-PCC 트랙 샘플 포맷(V-PCC track sample format)
V-PCC 트랙 내 각 샘플은 싱글 포인트 클라우드 프레임에 대응한다. 다양한 컴포넌트 트랙들 내 이 프레임에 대응하는 샘플들은 V-PCC 트랙 샘플과 같이 동일한 컴포지션 타임을 가진다. 각 V-PCC 샘플 하나 또는 하나 이상의 아틀라스 날 유닛들을 포함한다.
aligned(8) class VPCCSample {
unsigned int PointCloudPictureLength = sample_size; // SampleSizeBox 로부터의 샘플 사이즈를 의미한다
for (i=0; i<PointCloudPictureLength; ) {
sample_stream_nal_unit nalUnit
i += (VPCCDecoderConfigurationRecord.lengthSizeMinusOne+1) + nalUnit.ssnu_nal_unit_size;
}
}
aligned(8) class VPCCSample
{
unsigned int PictureLength = sample_size; // SampleSizeBox으로부터의 샘플의 사이즈를 의미한다
for (i=0; i<PictureLength; ) // 픽쳐의 끝까지 시그널링됨
{
unsigned int((VPCCDecoderConfigurationRecord.LengthSizeMinusOne+1)*8)
NALUnitLength;
bit(NALUnitLength * 8) NALUnit;
i += (VPCCDecoderConfigurationRecord.LengthSizeMinusOne+1) + NALUnitLength;
}
}
V-PCC 디코더 구성 레코드(VPCCDecoderConfigurationRecord): 매칭되는 V-PCC 샘플 엔트리 내 디코더 구성 레코드를 나타낸다.
날 유닛(nalUnit): 샘플 스트림 날 유닛 포맷 내 싱글 아틀라스 날 유닛을 포함한다.
날 유닛 길이(NALUnitLength): 후속하는 날 유닛의 바이트 내 사이즈를 나타낸다.
날 유닛(NALUnit): 싱글 아틀라스 날 유닛을 포함한다.
V-PCC 트랙 싱크 샘플(V-PCC track sync sample):
V-PCC 트랙 내 싱크 샘플(랜덤 억세스 포인트)은 V-PCC IRAP 코딩된 패치 데이터 억세스 유닛이다. 아틀라스 파라미터 세트들은 필요한 경우, 랜덤 억세스를 위한 싱크 샘플에서 반복될 수 있다.
비디오-인코딩된 V-PCC 컴포넌트 트랙들(Video-encoded V-PCC component tracks):
MPEG 특정 코덱을 사용하여 코딩된 비디오 트랙들의 전달은 ISO BMFF의 규격을 따를 수 있다. 예를 들어, AVC 및 HEVC 코딩된 비디오들의 전달은 ISO/IEC 14496-15를 참조할 수 있다. ISOBMFF는 다른 코덱 타입들이 필요한 경우 확장 메커니즘을 추가로 제공할 수 있다.
플레이어 측에서 포인트 클라우드를 재구성함 없이 어트리뷰트, 지오메트리, 또는 어큐파닛 맵 트랙들로부터 디코딩된 프레임들을 디스플레이하는 것은 의미 있다고 볼 수 없으므로, 제한된 비디오 스킴 타입은 이러한 비디오-코딩된 트랙들에 대해 정의될 수 있다.
제한된 비디오 스킴(Restricted video scheme):
V-PCC 컴포넌트 비디오 트랙들은 제한된 비디오로서 파일 내 표현될 수 있다. 그리고, 제한된 비디오 샘플 엔트리들의 RestrictedSchemeInfoBox의 SchemeTypeBox의 scheme_type필드 내 'pccv' 값에 의해 식별될 수 있다.
어트리뷰트, 지오메트리, 및 어큐판시 맵 V-PCC 컴포넌트들을 인코딩하기 위해 사용되는 비디오 코덱 상의 제한(restriction)은 없다. 게다가, 이러한 컴포넌트들은 상이한 비디오 코덱들을 사용하여 인코딩될 수 있다.
스킴 정보(Scheme information):
SchemeInformationBox이 존재하고, VPCCUnitHeaderBox를 포함할 수 있다.
V-PCC 컴포넌트 트랙들의 레퍼런싱(Referencing V-PCC component tracks):
V-PCC 트랙을 컴포넌트 비디오 트랙들로 링크하기 위해서, 3가지 TrackReferenceTypeBoxes가 각 컴포넌트를 위해 V-PCC 트랙의 TrackBox 내 TrackReferenceBox에 추가될 수 있다. TrackReferenceTypeBox는 V-PCC 트랙 레퍼런스에 관한 비디오 트랙들을 지정하는 track_ID들의 어레이를 포함한다. TrackReferenceTypeBox의 reference_type은 어큐판시 맵, 지오메트리, 어트리뷰트, 또는 어큐판시 맵 등의 컴포넌트의 타입을 식별한다. 트랙 레퍼런스 타입은 다음과 같다:
'pcco': 레퍼런스된 트랙(들)이 비디오-코딩된 어큐판시 맵 V-PCC 컴포넌트를 포함
'pccg': 레퍼런스된 트랙(들)이 비디오-코딩된 지오메트리 V-PCC 컴포넌트를 포함
'pcca': 레퍼런스된 트랙(들)이 비디오-코딩된 어트리뷰트V-PCC 컴포넌트를 포함
레퍼런스된 제한된 비디오 트랙에 의해 전달되고, 트랙의 RestrictedSchemeInfoBox 내에서 시그널링되는 V-PCC컴포넌트의 타입은 V-PCC 트랙으로부터 트랙 레퍼런스의 레퍼런스 타입에 매칭된다.
실시예들에 따른 파라미터 세트 데이터는 비트스트림 내 디코더 구성 정보(V3CDecoderConfigurationRecord 또는 VPCC DecoderConfigurationRecord을 의미함)에 의해 시그널링될 수 있다. 또한, 실시예들에 따른 디코더 구성 정보는 비트스트림의 샘플 엔트리 내 존재할 수 있다. 디코더 구성 정보는 상기 비트스트림을 구성하는 유닛의 사이즈에 관한 정보 및 상기 파라미터 세트 데이터의 개수에 관한 정보를 포함할 수 있다(도49, 53, 60 등 참조). 디코더 구성 정보는 셋업 유닛(setupUnit)을 포함하고, 셋업 유닛은 디코더 구성 정보가 존재하는 샘플 엔트리에 의해 참조되는 아틀라스 파라미터 세트 정보를 포함할 수 있다(도49, 53, 60 등 참조). 실시예들에 따른 셋업 유닛은 상기 아틀라스 데이터에 관한 아틀라스 시퀀스 파라미터 세트(Atlas Sequence Parameter Set, ASPS), 아틀라스 프레임 파라미터 세트(Atlas Frame Parameter Set, AFPS) 를 포함할 수 있다(도49, 53, 60 등 참조).
도61은 실시예들에 따른 트랙 대체 및 그룹핑을 나타낸다.
도61은 도24와 같은 파일 구조의 트랙 간 대체 또는 그룹핑이 적용되는 예시이다.
트랙 대체들 및 트랙 그룹핑( Track alternatives and track grouping):
동일한 alternate_group 값을 가지는 V-PCC 컴포넌트 트랙들은 동일한 V-PCC 컴포넌의 상이한 인코딩된 버전들이다. 볼륨메트릭 비쥬얼 신은 대체되어 코딩될 수 있다. 이러한 경우, 서로 대체될 수 있는 모든 V-PCC 트랙들은 TrackHeaderBox 내 동일한 alternate_group값을 가진다.
유사하게, V-PCC 컴포넌트들의 하나를 나타내는 2D 비디오 트랙이 대체들(alternatives)로 인코딩되는 경우, 그러한 대체들 및 대체 그룹으로부터 대체들의 하나에 대한 트랙 레퍼런스가 있을 수 있다.
도62를 보면, 파일 구조에 기반한 V-PCC 컨텐트를 구성하는 V-PCC 컴포넌트 트랙들이 도시되어 있다. 동일한 아틀라스 그룹 아이디를 갖는 경우, 아이디가 10인 경우, 11인경우, 12인 경우가 있다. 어트리뷰트 비디오인 트랙2 및 트랙5는 서로 대체되어 사용될 수 있고, 트랙 3 및 트랙6은 서로 지오메트리 비디오로서 대체될 수 있고, 트랙4 및 트랙7은 어큐판시 비디오로서 대체될 수 있다.
V-PCC 비트스트림의 싱글 트랙 컨테이너(Single track container of V-PCC Bitstream):
*V-PCC 데이터의 싱글-트랙 인캡슐레이션은 싱글-트랙 선언에 의해 표현되는 V-PCC 인코딩된 엘리멘테리 비트스트림을 요구한다(A single-track encapsulation of V-PCC data requires the V-PCC encoded elementary bitstream to be represented by a single-track declaration).
PCC 데이터의 싱글-트랙 인캡슐레이션은 V-PCC 인코딩된 비트스트림의 심플 ISOBMFF의 인캡슐레이션의 경우에 이용될 수 있다. 이러한 비트스트림은 추가 처리 없이 싱글 트랙에 바로 저장될 수 있다. V-PCC 유닛 헤더 데이더 구조는 비트스트림 내 있을 수 있다. V-PCC 데이터를 위한 싱글 트랙 컨테이너는 추가 처리(e.g., multi-track file generation, transcoding, DASH segmentation, etc.)를 위한 미디어 워크플로우들에 제공될 수 있다.
싱글-트랙 인캡슐레이팅된 V-PCC 데이터를 포함하는 ISOBMFF 파일은 FileTypeBox의 compatible_brands[]리스트 내 'pcst'를 포함할 수 있다.
V-PCC 엘리멘테리 스트림 트랙(V-PCC elementary stream track):
Sample Entry Type: 'vpe1', 'vpeg'
Container: SampleDescriptionBox
Mandatory: A 'vpe1' or 'vpeg' sample entry is mandatory
Quantity: One or more sample entries may be present
V-PCC 엘리멘테리 스트림 트랙들은 샘플 엔트리 타입 'vpe1' 또는 'vpeg'를 갖는 VolumetricVisualSampleEntry를 사용한다.
V-PCC 엘리멘테리 스트림 샘플 엔트리는 VPCCConfigurationBox를 포함한다.
'vpe1' 샘플 엔트리 하, 모든 아틀라스 시퀀스 파라미터 세트들, 아틀라스 프레임 파라미터 세트들, SEI들이 setupUnit 어레이 내 있을 수 있다. 'vpeg' 샘플 엔트리 하, 아틀라스 시퀀스 파라미터 세트들, 아틀라스 프레임 파라미터 세트들, SEI들이 이 어레이 또는 스트림 내 존재할 수 있다.
볼륨메트릭 시퀀스(Volumetric Sequences):
class VPCCConfigurationBox extends Box('vpcC') {
VPCCDecoderConfigurationRecord() VPCCConfig;
}
aligned(8) class VPCCElementaryStreamSampleEntry() extends VolumetricVisualSampleEntry ('vpe1') {
VPCCConfigurationBox config;
}
V-PCC 엘리멘테리 스트림 샘플 포맷(V-PCC elementary stream sample format):
V-PCC 엘리멘테리 스트림 샘플은 동일한 프리젠테이션 타임에 속하는 하나 또는 하나 이상의 V-PCC 유닛들로 구성될 수 있다. 각 샘플은 유니크한 프리젠테이션 타임, 사이즈, 듀레이션을 가진다. 샘플은 예를 들어, 싱크 샘플이거나 다른 V-PCC 엘리멘테리 스트림 샘플들 상 디코딩 의존적일 수 있다.
V-PCC 엘리멘테리 스트림 싱크 샘플(V-PCC elementary stream sync sample):
V-PCC 엘리멘테리 스트림 싱크 샘플은 다음의 조건을 만족할 수 있다:
- 독립적으로 디코더블하다
- 디코딩 순서로 싱크 샘플 이후 오는 샘플들은 싱크 샘플에 앞서는 샘플들에 대한 디코딩 디펜던시를 가지지 않는다.
- 디코딩 순서로 싱크 샘플 이후 오는 모든 샘플들은 성공적으로 디코더블하다.
*V-PCC 엘리멘테리 스트림 서브-샘플(V-PCC elementary stream sub-sample):
V-PCC 엘리멘테리 스트림 서브-샘플은 V-PCC 엘리멘테리 스트림 샘플 내 포함되는 V-PCC 유닛이다.
V-PCC 엘리멘테리 스트림 트랙은 V-PCC 엘리멘테리 스트림 서브-샘플들을 나열하는 MovieFragmentBoxes 의 TrackFragmentBox 내 또는 각 SampleTableBox 내 SubSampleInformationBox를 포함한다.
서브-샘플을 표현하는 V-PCC 유닛의 32-비트 유닛 헤더는 SubSampleInformationBox 내 서브-샘플 엔트리의 32-비트 codec_specific_parameters필드에 카피될 수 있다. 각 서브-샘플의 V-PCC 유닛 타입은 SubSampleInformationBox 내 서브-샘플 엔트리의 codec_specific_parameters필드를 파싱함으로써 식별될 수 있다.
도62는 실시예들에 따른 포인트 클라우드 데이터 송신 방법을 나타낸다.
S62000, 실시예들에 따른 포인트 클라우드 데이터 송신 방법은 포인트 클라우드 데이터를 인코딩하는 단계를 포함한다. 실시예들에 따른 인코딩 과정은 도1의 인코더(10002), 인캡슐레이터(10003), 도4의 인코딩 프로세스, 도15읜 인코더(100), 도18의 송신 장치의 구성요소(18000 내지 18007 등), 도20의 프로세서(20001) 및 인코더(20002, 20003), 인캡슐레이터(20004), 도21의 프로세서(21001 내지 21006), 인코더(21007, 21008), 인캡슐레이터(21009), 도23의 XR디바이스(1230), 도24의 컨테이너 생성, 도25의 비트스트림 생성, 도26의 패치 데이터 그룹을 생성, 도27의 샘플 스트림 헤더/페이로드 생성, 도28내지47의 비트스트림에 포함되는 정보의 신택스 생성, 도48 내지 도61의 비트스트림 생성 등의 과정을 포함할 수 있다.
S62010, 실시예들에 따른 포인트 클라우드 데이터 송신 방법은 포인트 클라우드 데이터를 포함하는 비트스트림을 전송하는 단계를 포함한다. 실시예들에 따른 전송 과정은 도1의 트랜스미터(10004), 도18의 송신부(18008), 도20의 전송 딜리버리, 도21의 딜리버리, 도23의 XR디바이스(1230), 도24 내지 61의 데이터를 포함하는 PCC 비트스트림의 전송 등의 과정을 포함할 수 있다.
도63은 실시예들에 따른 포인트 클라우드 데이터 수신 방법을 나타낸다.
S63000, 실시예들에 따른 포인트 클라우드 데이터 수신 방법은 포인트 클라우드 데이터를 포함하는 비트스트림을 수신하는 단계를 포함한다. 실시예들에 따른 수신 과정은 도1의 리시버(10006), 도19의 수신부, 도20-22의 딜리버리 수신, 도23의 XR디바이스(1230), 상술한 실시예들에 따른 V-PCC 비트스트림의 수신 등의 과정을 포함할 수 있다.
S63010, 실시예들에 따른 포인트 클라우드 데이터 수신 방법은 포인트 클라우드 데이터를 디코딩하는 단계를 포함한다. 실시예들에 따른 디코딩 과정은 도1의 디캡슐레이터(10007), 디코더(10008), 도16의 디코딩 프로세스, 도17의 디코더, 도19의 역다중부(19000) 내지 컬러스무더, 도20의 디캡슐레이터(20005) 및 비디오/이미지 디코더(20006), 도22의 디캡슐레이터(22000), 비디오/이미지 디코더(22001, 22002), 도24의 파일 구조에 기반한 디코딩, 도25의 비트스트림 내 포함된 데이터의 디코딩, 도48의 비트스트림의 디코딩, 도52의 비트스트림의 디코딩, 도60의 비트스트림의 디코딩 등의 동작을 포함할 수 있다.
본 문서에서 설명한 실시예들이 제안한 방식들은 Point Cloud 콘텐츠 서비스 제공을 위한 송신기 또는 수신기는 상술한 바와 같이 V-PCC 비트 스트림을 구성하고 파일을 저장할 수 있도록 한다.
V-PCC 비트스트림을 효과적으로 multiplexing 할 수 있도록 한다. V-PCC Unit 단위로 비트스트림의 효율적인 접근을 지원할 수 있다.
V-PCC 비트 스트림내 데이터 처리 및 랜더링을 위한 메타데이터를 비트스트림 내에 전송 할 수 있도록 한다.
본 문서의 실시예들에 따른 Point Cloud Compression 처리 디바이스, 송신기, 수신기, point cloud player, 인코더 또는 디코더는 상술한 효과들을 제공한다.
다시 말해, 상술한 데이터 표현 방식은 포인트 클라우드 비트스트림에 효율적으로 접근할 수 있는 효과를 제공한다.
본 문서의 실시예들에 따른 송신기 또는 수신기는 V-PCC 비트스트림을 파일 내 하나 이상의 복수 트랙으로 분할 저장 기법 및 시그널링, 저장 된 V-PCC 비트스트림 복수 트랙 간의 관계성을 나타내기 위한 시그널링, 파일 내 저장된 alternative V-PCC트랙에 대한 indication을 통해 포인트 클라우드 비트스트림의 파일을 효율적으로 저장하고 전송할 수 있다.
본 문서에서 A/B는 A 및 B, A 또는 B 를 포함하는 의미로 사용되었다.
실시예들은 방법 및/또는 장치 관점에서 설명되었으며, 방법의 설명 및 장치의 설명은 상호 보완하여 적용될 수 있다.
설명의 편의를 위하여 각 도면을 나누어 설명하였으나, 각 도면에 서술되어 있는 실시 예들을 병합하여 새로운 실시 예를 구현하도록 설계하는 것도 가능하다. 그리고, 통상의 기술자의 필요에 따라, 이전에 설명된 실시 예들을 실행하기 위한 프로그램이 기록되어 있는 컴퓨터에서 판독 가능한 기록 매체를 설계하는 것도 실시예들의 권리범위에 속한다. 실시예들에 따른 장치 및 방법은 상술한 바와 같이 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다. 실시예들의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 실시예들은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 실시예들의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 실시예들의 기술적 사상이나 전망으로부터 개별적으로 이해돼서는 안 될 것이다.
실시예들의 장치의 다양한 구성요소들은 하드웨어, 소프트웨어, 펌웨어 또는 그것들의 조합에 의해 수행될 수 있다. 실시예들의 다양한 구성요소들은 하나의 칩, 예를 들면 하나의 하드웨어 서킷으로 구현될 수 있다 실시예들에 따라, 실시예들에 따른 구성요소들은 각각 별도의 칩들로 구현될 수 있다. 실시예들에 따라, 실시예들에 따른 장치의 구성요소들 중 적어도 하나 이상은 하나 또는 그 이상의 프로그램들을 실행 할 수 있는 하나 또는 그 이상의 프로세서들로 구성될 수 있으며, 하나 또는 그 이상의 프로그램들은 실시예들에 따른 동작/방법들 중 어느 하나 또는 그 이상의 동작/방법들을 수행시키거나, 수행시키기 위한 인스트럭션들을 포함할 수 있다. 실시예들에 따른 장치의 방법/동작들을 수행하기 위한 실행 가능한 인스트럭션들은 하나 또는 그 이상의 프로세서들에 의해 실행되기 위해 구성된 일시적이지 않은 CRM 또는 다른 컴퓨터 프로그램 제품들에 저장될 수 있거나, 하나 또는 그 이상의 프로세서들에 의해 실행되기 위해 구성된 일시적인 CRM 또는 다른 컴퓨터 프로그램 제품들에 저장될 수 있다. 또한 실시예들에 따른 메모리는 휘발성 메모리(예를 들면 RAM 등)뿐 만 아니라 비휘발성 메모리, 플래쉬 메모리, PROM등을 전부 포함하는 개념으로 사용될 수 있다. 또한, 인터넷을 통한 전송 등과 같은 캐리어 웨이브의 형태로 구현되는 것도 포함될 수 있다. 또한, 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
이 문서에서 “/”와 “,”는 “및/또는”으로 해석된다. 예를 들어, “A/B”는 “A 및/또는 B”로 해석되고, “A, B”는 “A 및/또는 B”로 해석된다. 추가적으로, “A/B/C”는 “A, B 및/또는 C 중 적어도 하나”를 의미한다. 또한, “A, B, C”도 “A, B 및/또는 C 중 적어도 하나”를 의미한다. 추가적으로, 이 문서에서 “또는”는 “및/또는”으로 해석된다. 예를 들어, “A 또는 B”은, 1) “A” 만을 의미하고, 2) “B” 만을 의미하거나, 3) “A 및 B”를 의미할 수 있다. 달리 표현하면, 본 문서의 “또는”은 “추가적으로 또는 대체적으로(additionally or alternatively)”를 의미할 수 있다.
제1, 제2 등과 같은 용어는 실시예들의 다양한 구성요소들을 설명하기 위해 사용될 수 있다. 하지만 실시예들에 따른 다양한 구성요소들은 위 용어들에 의해 해석이 제한되어서는 안된다. 이러한 용어는 하나의 구성요소를 다른 구성요소와 구별하기 위해 사?熾幷? 것에 불과하다. 것에 불과하다. 예를 들어, 제1 사용자 인풋 시그널은 제2사용자 인풋 시그널로 지칭될 수 있다. 이와 유사하게, 제2사용자 인풋 시그널은 제1사용자 인풋시그널로 지칭될 수 있다. 이러한 용어의 사용은 다양한 실시예들의 범위 내에서 벗어나지 않는 것으로 해석되어야만 한다. 제1사용자 인풋 시그널 및 제2사용자 인풋 시그널은 모두 사용자 인풋 시그널들이지만, 문맥 상 명확하게 나타내지 않는 한 동일한 사용자 인풋 시그널들을 의미하지 않는다.
실시예들을 설명하기 위해 사용된 용어는 특정 실시예들을 설명하기 위한 목적으로 사용되고, 실시예들을 제한하기 위해서 의도되지 않는다. 실시예들의 설명 및 청구항에서 사용된 바와 같이, 문맥 상 명확하게 지칭하지 않는 한 단수는 복수를 포함하는 것으로 의도된다. 및/또는 표현은 용어 간의 모든 가능한 결합을 포함하는 의미로 사용된다. 포함한다 표현은 특징들, 수들, 단계들, 엘리먼트들, 및/또는 컴포넌트들이 존재하는 것을 설명하고, 추가적인 특징들, 수들, 단계들, 엘리먼트들, 및/또는 컴포넌트들을 포함하지 않는 것을 의미하지 않는다. 실시예들을 설명하기 위해 사용되는, ~인 경우, ~때 등의 조건 표현은 선택적인 경우로만 제한 해석되지 않는다. 특정 조건을 만족하는 때, 특정 조건에 대응하여 관련 동작을 수행하거나, 관련 정의가 해석되도록 의도되었다.
또한, 본 문서에서 설명하는 실시예들에 따른 동작은 실시예들에 따라서 메모리 및/또는 프로세서를 포함하는 송수신 장치에 의해 수행될 수 있다. 메모리는 실시예들에 따른 동작을 처리/제어하기 위한 프로그램들을 저장할 수 있고, 프로세서는 본 문서에서 설명한 다양한 동작을 제어할 수 있다. 프로세서는 컨트롤러 등으로 지칭가능하다. 실시예들에 동작들은 펌웨어, 소프트웨어, 및/또는 그것들의 조합에 의해 수행될 수 있고, 펌웨어, 소프트웨어, 및/또는 그것들의 조합은 프로세서에 저장되거나 메모리에 저장될 수 있다.
Claims (16)
- 포인트 클라우드 데이터를 인코딩하는 단계; 및
상기 포인트 클라우드 데이터를 포함하는 비트스트림을 전송하는 단계; 를 포함하고,
상기 비트스트림은 상기 포인트 클라우드 데이터에 관한 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 비트스트림 내 디코더 구성 정보에 의해 시그널링되고,
상기 디코더 구성 정보는 셋업 유닛(setupUnit)을 포함하고,
상기 셋업 유닛은 샘플 엔트리에 의해 참조되는 비트스트림에 대해 일정한 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 포인트 클라우드 데이터에 대한 패치의 수평 위치 및 수직 위치를 위해 사용되는 사이즈 정보를 포함하고,
상기 패치를 디코딩하기 위한 순서에 관련된 정보를 포함하는,
포인트 클라우드 데이터 송신 방법.
- 제1항에 있어서,
상기 디코더 구성 정보는 상기 비트스트림의 샘플 엔트리 내 존재하는,
포인트 클라우드 데이터 송신 방법.
- 제1항에 있어서,
상기 디코더 구성 정보는 상기 비트스트림을 구성하는 유닛의 사이즈에 관한 정보 및 상기 파라미터 세트 데이터의 개수에 관한 정보를 포함하는,
포인트 클라우드 데이터 송신 방법
- 제1항에 있어서,
상기 셋업 유닛은 상기 포인트 클라우드 데이터를 위한 패치에 관한 시퀀스 데이터 세트, 프레임 파라미터 세트를 포함하는,
포인트 클라우드 데이터 송신 방법.
- 제1항에 있어서,
상기 방법은,
상기 포인트 클라우드 데이터를 파일로 인캡슐레이팅하는 단계를 더 포함하고,
상기 포인트 클라우드 데이터 내 지오메트리 데이터, 어트리뷰트 데이터, 및 어큐판시 데이터는 파일 내 하나 또는 하나 이상의 컴포넌트 트랙들로 인캡슐레이팅되고,
상기 디코더 구성 정보는 상기 파라미터 세트 데이터를 포함하고,
상기 디코더 구성 정보는 상기 파일 내 볼륨매트릭 비쥬얼 트랙으로 인캡슐레이팅되는,
포인트 클라우드 데이터 송신 방법.
- 포인트 클라우드 데이터를 포함하는 비트스트림을 수신하는 단계; 및
상기 포인트 클라우드 데이터를 디코딩하는 단계;를 포함하고,
상기 비트스트림은 상기 포인트 클라우드 데이터에 관한 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 비트스트림 내 디코더 구성 정보에 의해 시그널링되고,
상기 디코더 구성 정보는 셋업 유닛(setupUnit)을 포함하고,
상기 셋업 유닛은 샘플 엔트리에 의해 참조되는 비트스트림에 대해 일정한 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 포인트 클라우드 데이터에 대한 패치의 수평 위치 및 수직 위치를 위해 사용되는 사이즈 정보를 포함하고,
상기 패치를 디코딩하기 위한 순서에 관련된 정보를 포함하는,
포인트 클라우드 데이터 수신 방법.
- 제6항에 있어서,
상기 디코더 구성 정보는 상기 비트스트림의 샘플 엔트리 내 존재하는,
포인트 클라우드 데이터 수신 방법.
- 제6항에 있어서,
상기 디코더 구성 정보는 상기 비트스트림을 구성하는 유닛의 사이즈에 관한 정보 및 상기 파라미터 세트 데이터의 개수에 관한 정보를 포함하는,
포인트 클라우드 데이터 수신 방법.
- 제6항에 있어서,
상기 셋업 유닛은 상기 포인트 클라우드 데이터를 위한 패치에 관한 시퀀스 데이터 세트, 프레임 파라미터 세트를 포함하는,
포인트 클라우드 데이터 수신 방법.
- 제6항에 있어서,
상기 방법은,
상기 포인트 클라우드 데이터를 파일로부터 디캡슐레이팅하는 단계를 더 포함하고,
상기 포인트 클라우드 데이터 내 지오메트리 데이터, 어트리뷰트 데이터, 및 어큐판시 데이터는 파일 내 하나 또는 하나 이상의 컴포넌트 트랙들로부터 디캡슐레이팅되고,
상기 디코더 구성 정보는 상기 파라미터 세트 데이터를 포함하고,
상기 디코더 구성 정보는 상기 파일 내 볼륨매트릭 비쥬얼 트랙으로부터 디캡슐레이팅되는,
포인트 클라우드 데이터 수신 방법.
- 포인트 클라우드 데이터를 포함하는 비트스트림을 수신하는 리시버; 및
상기 포인트 클라우드 데이터를 디코딩하는 디코더;를 포함하고,
상기 비트스트림은 상기 포인트 클라우드 데이터에 관한 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 비트스트림 내 디코더 구성 정보에 의해 시그널링되고,
상기 디코더 구성 정보는 셋업 유닛(setupUnit)을 포함하고,
상기 셋업 유닛은 샘플 엔트리에 의해 참조되는 비트스트림에 대해 일정한 아틀라스 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 포인트 클라우드 데이터에 대한 패치의 수평 위치 및 수직 위치를 위해 사용되는 사이즈 정보를 포함하고,
상기 패치를 디코딩하기 위한 순서에 관련된 정보를 포함하는,
포인트 클라우드 데이터 수신 장치.
- 제11항에 있어서,
상기 디코더 구성 정보는 상기 비트스트림의 샘플 엔트리 내 존재하는,
포인트 클라우드 데이터 수신 장치.
- 제11항에 있어서,
상기 디코더 구성 정보는 상기 비트스트림을 구성하는 유닛의 사이즈에 관한 정보 및 상기 파라미터 세트 데이터의 개수에 관한 정보를 포함하는,
포인트 클라우드 데이터 수신 장치
- 제11항에 있어서,
상기 셋업 유닛은 상기 포인트 클라우드 데이터를 위한 패치에 관한 시퀀스 데이터 세트, 프레임 파라미터 세트를 포함하는,
포인트 클라우드 데이터 수신 장치.
- 제11항에 있어서,
상기 장치는,
상기 포인트 클라우드 데이터를 파일로부터 디캡슐레이팅하는 디캡슐레이터를 더 포함하고,
상기 포인트 클라우드 데이터 내 지오메트리 데이터, 어트리뷰트 데이터, 및 어큐판시 데이터는 파일 내 하나 또는 하나 이상의 컴포넌트 트랙들로부터 디캡슐레이팅되고,
상기 디코더 구성 정보는 상기 파라미터 세트 데이터를 포함하고,
상기 디코더 구성 정보는 상기 파일 내 볼륨매트릭 비쥬얼 트랙으로부터 디캡슐레이팅되는,
포인트 클라우드 데이터 수신 장치.
- 포인트 클라우드 데이터를 인코딩하는 인코더; 및
상기 포인트 클라우드 데이터를 포함하는 비트스트림을 전송하는 트랜스미터; 를 포함하고,
상기 비트스트림은 상기 포인트 클라우드 데이터에 관한 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 비트스트림 내 디코더 구성 정보에 의해 시그널링되고,
상기 디코더 구성 정보는 셋업 유닛(setupUnit)을 포함하고,
상기 셋업 유닛은 샘플 엔트리에 의해 참조되는 비트스트림에 대해 일정한 아틀라스 파라미터 세트 데이터를 포함하고,
상기 파라미터 세트 데이터는 상기 포인트 클라우드 데이터에 대한 패치의 수평 위치 및 수직 위치를 위해 사용되는 사이즈 정보를 포함하고,
상기 패치를 디코딩하기 위한 순서에 관련된 정보를 포함하는,
포인트 클라우드 데이터 송신 장치.
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201962870770P | 2019-07-04 | 2019-07-04 | |
| US62/870,770 | 2019-07-04 | ||
| US202062958680P | 2020-01-08 | 2020-01-08 | |
| US62/958,680 | 2020-01-08 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20210005517A KR20210005517A (ko) | 2021-01-14 |
| KR102292195B1 true KR102292195B1 (ko) | 2021-08-24 |
Family
ID=74065773
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200077936A KR102292195B1 (ko) | 2019-07-04 | 2020-06-25 | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11017591B2 (ko) |
| KR (1) | KR102292195B1 (ko) |
| WO (1) | WO2021002633A2 (ko) |
Families Citing this family (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11818401B2 (en) | 2017-09-14 | 2023-11-14 | Apple Inc. | Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables |
| US11113845B2 (en) | 2017-09-18 | 2021-09-07 | Apple Inc. | Point cloud compression using non-cubic projections and masks |
| US11010928B2 (en) | 2018-04-10 | 2021-05-18 | Apple Inc. | Adaptive distance based point cloud compression |
| US11017566B1 (en) | 2018-07-02 | 2021-05-25 | Apple Inc. | Point cloud compression with adaptive filtering |
| US11202098B2 (en) | 2018-07-05 | 2021-12-14 | Apple Inc. | Point cloud compression with multi-resolution video encoding |
| US11012713B2 (en) | 2018-07-12 | 2021-05-18 | Apple Inc. | Bit stream structure for compressed point cloud data |
| US11367224B2 (en) | 2018-10-02 | 2022-06-21 | Apple Inc. | Occupancy map block-to-patch information compression |
| US11711544B2 (en) | 2019-07-02 | 2023-07-25 | Apple Inc. | Point cloud compression with supplemental information messages |
| KR20220065861A (ko) * | 2019-09-27 | 2022-05-20 | 브이아이디 스케일, 인크. | 비디오 기반 포인트 클라우드 스트림들 |
| US11627314B2 (en) | 2019-09-27 | 2023-04-11 | Apple Inc. | Video-based point cloud compression with non-normative smoothing |
| US11562507B2 (en) * | 2019-09-27 | 2023-01-24 | Apple Inc. | Point cloud compression using video encoding with time consistent patches |
| US11538196B2 (en) | 2019-10-02 | 2022-12-27 | Apple Inc. | Predictive coding for point cloud compression |
| US11895307B2 (en) | 2019-10-04 | 2024-02-06 | Apple Inc. | Block-based predictive coding for point cloud compression |
| US11798196B2 (en) | 2020-01-08 | 2023-10-24 | Apple Inc. | Video-based point cloud compression with predicted patches |
| US11475605B2 (en) | 2020-01-09 | 2022-10-18 | Apple Inc. | Geometry encoding of duplicate points |
| US11412250B2 (en) * | 2020-03-26 | 2022-08-09 | Alibaba Group Holding Limited | Method and apparatus for deriving temporal motion |
| FR3109685A1 (fr) * | 2020-04-22 | 2021-10-29 | Orange | Procédés et dispositifs de codage et de décodage d'une séquence vidéo multi-vues |
| US11620768B2 (en) | 2020-06-24 | 2023-04-04 | Apple Inc. | Point cloud geometry compression using octrees with multiple scan orders |
| US11615557B2 (en) | 2020-06-24 | 2023-03-28 | Apple Inc. | Point cloud compression using octrees with slicing |
| CN112887733A (zh) * | 2021-01-25 | 2021-06-01 | 中兴通讯股份有限公司 | 一种容积媒体处理方法、装置、存储介质及电子装置 |
| US11948338B1 (en) | 2021-03-29 | 2024-04-02 | Apple Inc. | 3D volumetric content encoding using 2D videos and simplified 3D meshes |
| US20220329857A1 (en) * | 2021-04-13 | 2022-10-13 | Samsung Electronics Co., Ltd. | Mpeg media transport (mmt) signaling of visual volumetric video-based coding (v3c) content |
| EP4372420A1 (en) * | 2021-07-15 | 2024-05-22 | LG Electronics Inc. | Point cloud data transmission method, point cloud data transmission device, point cloud data reception method, and point cloud data reception device |
| US20230177738A1 (en) * | 2021-12-03 | 2023-06-08 | Tencent America LLC | Dynamic mesh compression based on point cloud compression |
| WO2023122548A1 (en) * | 2021-12-20 | 2023-06-29 | Bytedance Inc. | Method, apparatus, and medium for point cloud coding |
| WO2023204676A1 (ko) * | 2022-04-22 | 2023-10-26 | 엘지전자 주식회사 | 포인트 클라우드 데이터의 전송 장치와 이 전송 장치에서 수행되는 방법 및, 포인트 클라우드 데이터의 수신 장치와 이 수신 장치에서 수행되는 방법 |
| CN115641462B (zh) * | 2022-12-26 | 2023-03-17 | 电子科技大学 | 一种雷达图像目标识别方法 |
Family Cites Families (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3143774A4 (en) * | 2014-05-13 | 2018-04-25 | PCP VR Inc. | Method, system and apparatus for generation and playback of virtual reality multimedia |
| US11297346B2 (en) * | 2016-05-28 | 2022-04-05 | Microsoft Technology Licensing, Llc | Motion-compensated compression of dynamic voxelized point clouds |
| EP3501009A4 (en) * | 2016-08-19 | 2020-02-12 | Movidius Ltd. | DYNAMIC SORTING OF MATRIX OPERATIONS |
| US10861196B2 (en) * | 2017-09-14 | 2020-12-08 | Apple Inc. | Point cloud compression |
| US11113845B2 (en) * | 2017-09-18 | 2021-09-07 | Apple Inc. | Point cloud compression using non-cubic projections and masks |
| US10909725B2 (en) * | 2017-09-18 | 2021-02-02 | Apple Inc. | Point cloud compression |
| EP3489900A1 (en) * | 2017-11-23 | 2019-05-29 | Thomson Licensing | Method, apparatus and stream for encoding/decoding volumetric video |
| US10939129B2 (en) * | 2018-04-10 | 2021-03-02 | Apple Inc. | Point cloud compression |
| US10984541B2 (en) * | 2018-04-12 | 2021-04-20 | Samsung Electronics Co., Ltd. | 3D point cloud compression systems for delivery and access of a subset of a compressed 3D point cloud |
| US10887574B2 (en) * | 2018-07-31 | 2021-01-05 | Intel Corporation | Selective packing of patches for immersive video |
| US10911799B2 (en) * | 2018-07-31 | 2021-02-02 | Intel Corporation | Video refinement mechanism |
| KR20230152815A (ko) * | 2019-03-21 | 2023-11-03 | 엘지전자 주식회사 | 포인트 클라우드 데이터 부호화 장치, 포인트 클라우드 데이터 부호화 방법, 포인트 클라우드 데이터 복호화 장치 및 포인트 클라우드 데이터 복호화 방법 |
| US11388437B2 (en) * | 2019-06-28 | 2022-07-12 | Tencent America LLC | View-position and angle dependent processing of point cloud data |
-
2020
- 2020-06-25 KR KR1020200077936A patent/KR102292195B1/ko active IP Right Grant
- 2020-06-25 WO PCT/KR2020/008278 patent/WO2021002633A2/ko active Application Filing
- 2020-06-26 US US16/912,935 patent/US11017591B2/en active Active
Non-Patent Citations (1)
| Title |
|---|
| Sejin Oh, "Update on V-PCC track" (m52284), 129th MPEG Meeting, brussels, 2020.01.15. |
Also Published As
| Publication number | Publication date |
|---|---|
| US11017591B2 (en) | 2021-05-25 |
| KR20210005517A (ko) | 2021-01-14 |
| WO2021002633A3 (ko) | 2021-02-25 |
| WO2021002633A2 (ko) | 2021-01-07 |
| US20210005016A1 (en) | 2021-01-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102292195B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| KR102334629B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| US11151742B2 (en) | Point cloud data transmission apparatus, point cloud data transmission method, point cloud data reception apparatus, and point cloud data reception method | |
| KR102406846B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| KR102381162B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| US20220159261A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
| KR102344072B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| KR102336990B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| KR102585498B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신장치 및 포인트 클라우드 데이터 수신 방법 | |
| US11818190B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
| KR102518819B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| US11418564B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
| US11601634B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
| KR102373833B1 (ko) | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 | |
| US20210409767A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
| US20210320961A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
| US11908168B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E902 | Notification of reason for refusal | ||
| AMND | Amendment | ||
| E601 | Decision to refuse application | ||
| X091 | Application refused [patent] | ||
| AMND | Amendment | ||
| X701 | Decision to grant (after re-examination) | ||
| GRNT | Written decision to grant |