KR20230088437A - Uv 좌표들의 코딩 - Google Patents

Uv 좌표들의 코딩 Download PDF

Info

Publication number
KR20230088437A
KR20230088437A KR1020237016288A KR20237016288A KR20230088437A KR 20230088437 A KR20230088437 A KR 20230088437A KR 1020237016288 A KR1020237016288 A KR 1020237016288A KR 20237016288 A KR20237016288 A KR 20237016288A KR 20230088437 A KR20230088437 A KR 20230088437A
Authority
KR
South Korea
Prior art keywords
coordinates
compression
list
mesh
video
Prior art date
Application number
KR1020237016288A
Other languages
English (en)
Inventor
쥔 톈
차오 황
샤오중 쉬
샹 장
산 류
Original Assignee
텐센트 아메리카 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 텐센트 아메리카 엘엘씨 filed Critical 텐센트 아메리카 엘엘씨
Publication of KR20230088437A publication Critical patent/KR20230088437A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/001Model-based coding, e.g. wire frame
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Abstract

3차원(3D) 메시의 UV 좌표들을 처리하는 방법에서, 3D 메시의 UV 좌표들이 수신된다. UV 좌표들은 제1 축에 U 좌표들을 포함하고 제2 축에 V 좌표들을 포함하는 2차원(2D) 텍스처 좌표들이고, 3D 메시의 정점들에 맵핑된다. 3D 메시의 UV 좌표들은 양자화 프로세스, 분리 프로세스, 변환 프로세스 중 적어도 하나에 기초하여 처리된다. 양자화 프로세스는 UV 좌표들을 복수의 표시자로 변환하도록 구성된다. 분리 프로세스는 UV 좌표들을 U 좌표들과 V 좌표들로 각각 분리하도록 구성된다. 변환 프로세스는 UV 좌표들을 공간 도메인으로부터 변환 도메인으로 변환하도록 구성된다. 압축은 UV 좌표들의 처리 후 처리된 UV 좌표들에 관해 수행된다.

Description

UV 좌표들의 코딩
참조에 의한 포함
본 출원은, 2021년 9월 20일 출원된 발명의 명칭이 "Coding of UV Coordinates"인 미국 가출원 제63/246,218호의 우선권을 주장하는, 2022년 9월 13일 출원된 발명의 명칭이 "CODING OF UV COORDINATES"인 미국 특허 출원 제17/943,269호의 우선권을 주장한다. 선행 출원들의 개시내용들은 그 전체내용이 참조에 의해 본 명세서에 포함된다.
기술 분야
본 개시내용은 대체로 메시 코딩에 관련된 실시예들을 설명한다.
본 명세서에서 제공되는 배경 설명은 본 개시내용의 정황을 전반적으로 제공하기 위한 목적이다. 본 발명의 배경 섹션에서 연구가 설명되는 한, 현재 거명된 발명자들의 연구뿐만 아니라 출원 시점에서의 종래 기술로서 달리 여겨질 수 없는 설명의 양태들은, 명시적으로든 묵시적으로든 본 개시내용에 대한 종래 기술로서 인정되지 않는다.
세상 속의 객체들, 세상 속의 환경들 등의 세상을 3차원(3D) 공간으로 캡처하고 표현하기 위한 다양한 기술들이 개발되고 있다. 세상의 3D 표현들은 더 몰입적인 형태들의 상호작용 및 소통을 가능케한다. 일부 예에서, 3D 메시는 이러한 몰입형 콘텐츠를 나타내는데 널리 이용된다.
본 개시내용의 양태들은 메시 코딩(예를 들어, 압축 및 압축해제)을 위한 방법들 및 장치들을 제공한다. 일부 예에서, 메시 코딩을 위한 장치는 처리 회로를 포함한다.
본 개시내용의 한 양태에 따르면, 3차원(3D) 메시의 UV 좌표들을 처리하는 방법이 제공된다. 이 방법에서, 3D 메시의 UV 좌표들이 수신될 수 있다. UV 좌표들은 제1 축에 U 좌표들을 포함하고 제2 축에 V 좌표들을 포함하는 2차원(2D) 텍스처 좌표들일 수 있으며, 3D 메시의 정점들에 맵핑될 수 있다. 3D 메시의 UV 좌표들은, 양자화 프로세스, 분리 프로세스, 변환 프로세스 중 적어도 하나에 기초하여 처리될 수 있다. 양자화 프로세스는 UV 좌표들을 복수의 표시자(indicator)로 변환하도록 구성될 수 있다. 분리 프로세스는, UV 좌표들을 U 좌표들과 V 좌표들로 각각 분리하도록 구성될 수 있다. 변환 프로세스는 UV 좌표들을 공간 도메인으로부터 변환(또는 주파수) 도메인으로 변환하도록 구성될 수 있다. 압축은 UV 좌표들의 처리 후 처리된 UV 좌표들에 관해 수행될 수 있다.
일부 실시예에서, 처리는 양자화 프로세스에 기초할 수 있다. 한 예에서, 각각 제1 스칼라 인수로 U 좌표들을 나누고 제2 스칼라 인수로 V 좌표들을 나눔으로써 UV 좌표들의 U 좌표들과 V 좌표들에 선형 스칼라 양자화가 적용될 수 있다. 또 다른 예에서, 벡터 양자화는 UV 좌표들의 복수의 UV 쌍에 적용될 수 있다. 복수의 UV 쌍들 중 각각의 UV 쌍은, 각자의 U 좌표 및 각자의 V 좌표들을 포함할 수 있고, 벡터 양자화의 벡터 사전에 대한 표시자에 의해 표현될 수 있다.
일부 실시예에서, 처리는 분리 프로세스에 기초한다. 따라서, UV 좌표들은 U 좌표들과 V 좌표들로 분리될 수 있다. UV 좌표들 중 U 좌표들에 기초하여 제1 2D 어레이가 생성될 수 있다. UV 좌표들 중 V 좌표들에 기초하여 제2 2D 어레이가 생성될 수 있다. 압축은 후속해서, 제1 2D 어레이에서 UV 좌표들 중 U 좌표들과 제2 2D 어레이에서 UV 좌표들 중 V 좌표들에 관해 각각 수행될 수 있다.
일부 실시예에서, 처리는 변환 프로세스에 기초한다. 따라서, 가역 변환, Haar 변환 또는 선형 비상관 변환 중 하나에 기초하여, UV 좌표들의 복수의 UV 쌍에 관해 변환 프로세스가 수행될 수 있다. 복수의 UV 쌍의 각각의 UV 쌍은, UV 좌표들의 각자의 U 좌표들 및 각자의 V 좌표들을 포함할 수 있다. UV 좌표들의 복수의 UV 쌍들의 변환된 U 좌표들에 기초하여 제1 채널 정보가 생성될 수 있고, UV 좌표들의 복수의 UV 쌍들의 변환된 V 좌표들에 기초하여 제2 채널 정보가 생성될 수 있다. UV 좌표들의 제1 채널 정보에 관해 및 UV 좌표들의 제2 채널 정보에 관해, 각각 압축이 더 수행될 수 있다.
이 방법에서, 이미지/비디오 압축 또는 UV 좌표들에 관한 정수 압축 중 하나에 기초하여, UV 좌표들에 관해 압축이 수행될 수 있다.
일부 실시예에서, UV 좌표들 중 U 좌표들의 값들은 이전 코딩된 U 좌표들의 값들에 기초하여 예측될 수 있다. U 좌표들의 예측 잔차들의 목록이 추가로 생성될 수 있다. UV 좌표들 중 V 좌표들의 값들은 이전에 코딩된 V 좌표들의 값들에 기초하여 생성될 수 있다. V 좌표들의 예측 잔차들의 목록이 추가로 생성될 수 있다.
일부 실시예에서, U 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 U 좌표들의 예측 잔차들의 목록에 관해 제1 맵핑 연산이 수행될 수 있다. V 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 V 좌표들의 예측 잔차들의 목록에 관해 제2 맵핑 연산이 생성될 수 있다.
일부 실시예에서, U 좌표들의 비트들의 목록을 생성하기 위해 U 좌표들의 음이 아닌 정수들의 목록에 관해 제1 비트 패킹 프로세스가 수행될 수 있다. V 좌표들의 비트들의 목록을 생성하기 위해 V 좌표들의 음이 아닌 정수들의 목록에 관해 제2 비트 패킹 프로세스가 수행될 수 있다.
일부 실시예에서, U 좌표들의 예측 잔차들의 목록, V 좌표들의 예측 잔차들의 목록, U 좌표들의 음이 아닌 정수들의 목록, V 좌표들의 음이 아닌 정수들의 목록, U 좌표들의 비트들의 목록, 또는 V 좌표들의 비트들의 목록 중 적어도 하나에 관해 압축이 수행될 수 있다. 일부 실시예에서, 압축은, 엔트로피 코딩, 가변 길이 코딩, Huffman 코딩, 또는 산술 코딩 중 하나에 기초하여 수행될 수 있다.
이 방법에서, 손실 이미지/비디오 코덱 및 손실 정수 압축 중 하나에 기초하여 UV 좌표들의 손실 압축 잔차들을 생성하기 위해 UV 좌표들에 관해 손실 압축이 수행될 수 있다. 무손실 이미지/비디오 코덱 및 무손실 정수 압축 중 하나에 기초하여 UV 좌표들의 손실 압축 잔차들에 관해 무손실 압축이 수행될 수 있다.
본 개시내용의 또 다른 양태에 따르면, 장치가 제공된다. 이 장치는 처리 회로를 포함한다. 처리 회로는 임의의 UV 좌표 처리의 방법들을 수행하도록 구성될 수 있다.
본 개시내용의 양태들은 또한, 비디오 디코딩을 위해 컴퓨터에 의해 실행될 때 컴퓨터로 하여금 임의의 UV 좌표 처리의 방법들을 수행하게 하는 명령어들을 저장한 비일시적인 컴퓨터 판독가능한 매체를 제공한다.
개시된 주제의 추가적인 피처들, 성질, 및 다양한 이점들은 이하의 상세한 설명 및 첨부된 도면들로부터 더 명백해질 것이다:
도 1은 일부 예에서의 통신 시스템의 블록도를 도시한다.
도 2는 일부 예에서의 스트리밍 시스템의 블록도를 도시한다.
도 3은 일부 예에서의 포인트 클라우드 프레임들을 인코딩하기 위한 인코더의 블록도를 도시한다.
도 4는 일부 예에서의 포인트 클라우드 프레임들에 대응하는 압축된 비트스트림을 디코딩하기 위한 디코더의 블록도를 도시한다.
도 5는 일부 예에서의 비디오 디코더의 블록도를 도시한다.
도 6은 일부 예에서의 비디오 인코더의 블록도를 도시한다.
도 7은 일부 예에서의 포인트 클라우드 프레임들을 인코딩하기 위한 인코더의 블록도를 도시한다.
도 8은 일부 예에서의 포인트 클라우드 프레임들에 대응하는 압축된 비트스트림을 디코딩하기 위한 디코더의 블록도를 도시한다.
도 9는 일부 예에서의 3차원(3D) 메시의 한 예시적인 텍스처 이미지를 도시한다.
도 10은 일부 예에서의 스네이크 스캔 순서의 다이어그램을 도시한다.
도 11은 일부 예에서의 지그재그 스캔 순서의 다이어그램을 도시한다.
도 12는 일부 예에서의 압축 프로세스를 개략적으로 나타내는 플로차트를 도시한다.
도 13은 일부 예에서의 압축해제 프로세스를 개략적으로 나타내는 플로차트를 도시한다.
도 14는 일부 예에서의 컴퓨터 시스템의 개략도이다.
본 개시내용의 양태들은 3차원(3D) 미디어 처리 분야의 기술들을 포함한다.
3차원(3D) 캡처, 3D 모델링, 3D 렌더링 등의 진보와 같은, 3D 미디어 처리에서의 기술 개발은 여러 플랫폼들 및 디바이스들에 걸쳐 3D 미디어 콘텐츠가 보편적으로 존재하게 촉진하였다. 예를 들어, 한 대륙에서 아기의 첫 걸음을 캡처할 수 있고, 또 다른 대륙에서 미디어 기술은 그 조부모들이 아기를 보고(및 아마도 상호작용하고) 아이와 몰입형 경험을 즐기게 할 수 있다. 본 개시내용의 한 양태에 따르면, 몰입형 경험을 향상시키기 위하여, 3D 모델들은 점점 더 정교해지고 있으며, 3D 모델들의 생성 및 소비는, 데이터 저장, 데이터 전송 자원들 등의 상당한 양의 데이터 자원들을 점유한다.
일부 실시예에서, 포인트 클라우드들 및 메시들은 몰입형 콘텐츠를 나타내는 3D 모델들로서 이용될 수 있다.
포인트 클라우드는 일반적으로 3D 공간에서의 한 세트의 포인트들을 지칭할 수 있고, 그 각각은 색상, 재료 속성들, 텍스처 정보, 강도 속성들, 반사 속성들, 움직임 관련 속성들, 양식 속성들, 및 다양한 기타의 속성들 등의 연관된 속성들을 갖는다. 포인트 클라우드들은, 객체나 장면을 이러한 포인트들의 합성(composition)으로서 재구성하는데 이용할 수 있다.
객체의 (메시 모델이라고도 하는) 메시는 객체의 표면을 기술하는 다각형들을 포함할 수 있다. 각각의 다각형은, 3D 공간에서의 다각형의 정점들과 정점들이 다각형에 어떻게 연결되어 있는지에 대한 정보에 의해 정의될 수 있다. 정점들이 어떻게 연결되어 있는지에 대한 정보를 연결성 정보(connectivity information)라고 한다. 일부 예에서, 메시는 또한, 정점들과 연관된 색상, 법선 등의 속성들을 포함할 수 있다.
일부 실시예에서, 포인트 클라우드 압축(point cloud compression)(PCC)을 위한 일부 코딩 도구들은 메시 압축에 이용될 수 있다. 예를 들어, 메시를 재메시화(re-mesh)하여 새로운 메시의 정점들의 연결성 정보를 추론(또는 미리정의)할 수 있는 새로운 메시를 생성할 수 있다. 새로운 메시의 정점들 및 새로운 메시의 정점들과 연관된 속성들은 포인트 클라우드의 포인트들로 간주될 수 있으며, PCC 코덱들을 이용하여 압축될 수 있다.
포인트 클라우드들은, 객체나 장면을 이러한 포인트들의 합성(composition)으로서 재구성하는데 이용할 수 있다. 포인트들은 다양한 셋업에서 여러 카메라, 깊이 센서 또는 Lidar를 이용하여 캡처될 수 있고, 재구성된 장면들이나 객체들을 사실적으로 표현하기 위해 수천 내지 최대 수십억개의 포인트들로 구성될 수 있다. 패치란, 일반적으로 포인트 클라우드에 의해 기술된 표면의 연속적인 서브세트를 지칭할 수 있다. 한 예에서, 패치는 임계량보다 적게 서로로부터 벗어나는 표면 법선 벡터들을 갖는 포인트들을 포함한다.
PCC는, G-PCC라고 하는 지오메트리 기반의 방식, V-PCC라고 하는 비디오 코딩 기반의 방식 등의 다양한 방식에 따라 수행될 수 있다. 본 개시내용의 일부 양태에 따르면, G-PCC는 3D 지오메트리를 직접 인코딩하고 비디오 코딩과 공유할 것이 많지 않은 순수한 지오메트리 기반의 접근법이며, V-PCC는 비디오 코딩에 크게 기초하고 있다. 예를 들어, V-PCC는 3D 클라우드의 포인트를 2D 그리드(이미지)의 픽셀로 맵핑할 수 있다. V-PCC 방식은 포인트 클라우드 압축을 위해 일반 비디오 코덱들을 이용할 수 있다. 본 개시내용에서 PCC 코덱(encoder/decoder)은 G-PCC 코덱(encoder/decoder) 또는 V-PCC 코덱일 수 있다.
본 개시내용의 한 양태에 따르면, V-PCC 방식은 기존의 비디오 코덱들을 이용하여 포인트 클라우드의 지오메트리, 점유 및 텍스처를 3개의 별개의 비디오 시퀀스로서 압축할 수 있다. 3개의 비디오 시퀀스를 해석하는데 필요한 추가 메타데이터는 별도로 압축된다. 전체 비트스트림의 작은 부분은, 한 예에서 소프트웨어 구현을 이용하여 효율적으로 인코딩/디코딩될 수 있는 메타데이터이다. 정보의 대부분은 비디오 코덱에 의해 처리된다.
도 1은 일부 예에서의 통신 시스템(100)의 블록도를 나타낸다. 통신 시스템(100)은 예를 들어 네트워크(150)를 통해 서로 통신할 수 있는 복수의 단말 디바이스를 포함한다. 예를 들어, 통신 시스템(100)은 네트워크(150)를 통해 상호연결된 한 쌍의 단말 디바이스들(110, 120)을 포함한다. 도 1의 예에서, 제1 쌍의 단말 디바이스들(110, 120)은 포인트 클라우드 데이터의 단방향 전송을 수행할 수 있다. 예를 들어, 단말 디바이스(110)는 단말 디바이스(110)와 접속된 센서(105)에 의해 캡처된 포인트 클라우드(예를 들어, 구조를 나타내는 포인트들)를 압축할 수 있다. 압축된 포인트 클라우드는, 예를 들어 비트스트림의 형태로, 네트워크(150)를 통해 다른 단말 디바이스(120)에 전송될 수 있다. 단말 디바이스(120)는 네트워크(150)로부터 압축된 포인트 클라우드를 수신하고, 비트스트림을 압축해제하여 포인트 클라우드를 재구성하고, 재구성된 포인트 클라우드를 적절하게 디스플레이할 수 있다. 단방향 데이터 전송은 미디어 서빙 애플리케이션들 등에서 일반적일 수 있다.
도 1의 예에서, 단말 디바이스들(110, 120)은 서버들 및 개인용 컴퓨터들로서 예시될 수 있지만, 본 개시내용의 원리들은 그렇게 제한되지 않을 수 있다. 본 개시내용의 실시예들은, 랩탑 컴퓨터들, 태블릿 컴퓨터들, 스마트폰들, 게임 단말기들, 미디어 플레이어들, 및/또는 전용 3차원(3D) 장비에서 그 애플리케이션을 찾을 수 있다. 네트워크(150)는, 압축된 포인트 클라우드를 단말 디바이스(110)와 터미널 디바이스(120) 사이에서 전송하는 임의의 수의 네트워크를 나타낸다. 네트워크(150)는 예를 들어 와이어라인(유선) 및/또는 무선 통신 네트워크를 포함할 수 있다. 네트워크(150)는 회선 교환 및/또는 패킷 교환 채널들에서 데이터를 교환할 수 있다. 대표적인 네트워크들로는, 원격통신 네트워크들, 근거리 통신 네트워크들, 광역 통신 네트워크들, 인터넷 등이 포함된다.
도 2는 일부 예에서 스트리밍 시스템(200)의 블록도를 나타낸다. 스트리밍 시스템(200)은 포인트 클라우드의 이용 애플리케이션이다. 개시된 주제는, 3D 텔레프레즌스 애플리케이션(telepresence application), 가상 현실 애플리케이션 등과 같은, 다른 포인트 클라우드 가능형 애플리케이션들에 동등하게 적용될 수 있다.
스트리밍 시스템(200)은 캡처 서브시스템(213)을 포함할 수 있다. 캡처 서브시스템(213)은, 포인트 클라우드 소스(201), 예를 들어 LIDAR(light detection and ranging) 시스템들, 3D 카메라들, 3D 스캐너들, 압축되지 않은 포인트 클라우드를 소프트웨어로 생성하는 그래픽 생성 컴포넌트, 예를 들어 압축되지 않은 포인트 클라우드(202)를 생성하는 기타 등등을 포함할 수 있다. 한 예에서, 포인트 클라우드들(202)은 3D 카메라에 의해 캡처된 포인트들을 포함한다. 포인트 클라우드들(202)은, 압축된 포인트 클라우드들(204)(압축된 포인트 클라우드의 비트스트림)에 비해 높은 데이터 볼륨을 강조하기 위해 굵은 선으로 표시된다. 압축된 포인트 클라우드들(204)은, 포인트 클라우드 소스(201)에 결합된 인코더(203)를 포함하는 전자 디바이스(220)에 의해 생성될 수 있다. 인코더(203)는, 하드웨어, 소프트웨어 또는 이들의 조합을 포함하여 아래에서 더 상세히 설명되는 바와 같이 개시된 주제의 양태들을 가능케하거나 구현할 수 있다. 포인트 클라우드들(202)의 스트림에 비해 더 낮은 데이터 볼륨을 강조하기 위해 가는 선으로 표시된 압축 포인트 클라우드들(204)(또는 압축 포인트 클라우드들(204)의 비트스트림)은, 미래의 이용을 위해 스트리밍 서버(205)에 저장될 수 있다. 도 2의 클라이언트 서브시스템들(206 및 208) 등의 하나 이상의 스트리밍 클라이언트 서브시스템은, 스트리밍 서버(205)에 액세스하여 압축된 포인트 클라우드(204)의 사본들(207 및 209)을 회수할 수 있다. 클라이언트 서브시스템(206)은, 디코더(210)를 예를 들어 전자 디바이스(230)에 포함할 수 있다. 디코더(210)는 압축된 포인트 클라우드들의 인입 사본(207)을 디코딩하고 렌더링 디바이스(212)에서 렌더링될 수 있는 재구성된 포인트 클라우드들(211)의 송출 스트림(outgoing stream)을 생성한다.
전자 디바이스들(220 및 230)은 다른 컴포넌트들(미도시)을 포함할 수 있다는 점에 유의한다. 예를 들어, 전자 디바이스(220)는 디코더(미도시)를 포함할 수 있고 전자 디바이스(230)는 인코더(미도시)를 역시 포함할 수 있다.
일부 스트리밍 시스템에서, 압축 포인트 클라우드들((204), (207) 및 (209))(예컨대, 압축 포인트 클라우드들의 비트스트림들)는 소정의 표준들에 따라 압축될 수 있다. 일부 예에서, 비디오 코딩 표준들은 포인트 클라우드들의 압축에 이용된다. 이들 표준들의 예로서는, HEVC(High Efficiency Video Coding), VVC(Versatile Video Coding) 등이 포함된다.
도 3은 일부 실시예에 따른 포인트 클라우드 프레임들을 인코딩하기 위한 V-PCC 인코더(300)의 블록도를 도시한다. 일부 실시예에서, V-PCC 인코더(300)는 통신 시스템(100) 및 스트리밍 시스템(200)에서 이용될 수 있다. 예를 들어, 인코더(203)는 V-PCC 인코더(300)와 유사한 방식으로 구성되고 동작할 수 있다.
V-PCC 인코더(300)는 압축되지 않은 입력들로서의 포인트 클라우드 프레임들을 수신하여 압축된 포인트 클라우드 프레임들에 대응하는 비트스트림을 생성한다. 일부 실시예에서, V-PCC 인코더(300)는, 포인트 클라우드 소스(201) 등과 같은 포인트 클라우드 소스로부터 포인트 클라우드 프레임들을 수신할 수 있다.
도 3의 예에서, V-PCC 인코더(300)는, 패치 생성 모듈(306), 패치 패킹 모듈(308), 지오메트리 이미지 생성 모듈(310), 텍스처 이미지 생성 모듈(312), 패치 정보 모듈(304), 점유 맵 모듈(314), 평활화 모듈(336), 이미지 패딩 모듈(316, 318), 그룹 팽창 모듈(320), 비디오 압축 모듈(322, 323 및 332), 보조 패치 정보 압축 모듈(338), 엔트로피 압축 모듈(334), 및 멀티플렉서(324)를 포함한다.
본 개시내용의 한 양태에 따르면, V-PCC 인코더(300)는 압축된 포인트 클라우드를 압축해제된 포인트 클라우드로 다시 변환하는데 이용되는 일부 메타데이터(예컨대, 점유 맵 및 패치 정보)와 함께 3D 포인트 클라우드 프레임들을 이미지 기반의 표현들로 변환한다. 일부 예에서, V-PCC 인코더(300)는, 3D 포인트 클라우드 프레임들을, 지오메트리 이미지들, 텍스처 이미지들 및 점유 맵들로 변환한 다음, 비디오 코딩 기술들을 이용하여 지오메트리 이미지들, 텍스처 이미지들 및 점유 맵들을 비트스트림으로 인코딩할 수 있다. 일반적으로, 지오메트리 이미지는 픽셀들에 투사된 포인트들과 연관된 지오메트리 값들로 채워진 픽셀들을 갖는 2D 이미지이며, 지오메트리 값으로 채워진 픽셀은 지오메트리 샘플이라고 지칭될 수 있다. 텍스처 이미지는, 픽셀에 투사된 포인트들과 연관된 텍스처 값들로 채워진 픽셀들을 갖는 2D 이미지이며, 텍스처 값으로 채워진 픽셀은 텍스처 샘플이라고 지칭될 수 있다. 점유 맵은, 패치들에 의한 점유 또는 비점유를 나타내는 값들로 채워진 픽셀들을 갖는 2D 이미지이다.
패치 생성 모듈(306)은, 포인트 클라우드를, 각각의 패치가 2D 공간의 평면에 관한 깊이 필드로서 기술될 수 있도록 중첩되거나 중첩되지 않을 수 있는 한 세트의 패치들(예를 들어, 패치는 포인트 클라우드에 의해 기술된 표면의 연속적인 서브세트로서 정의됨)로 세그먼트화한다. 일부 실시예에서, 패치 생성 모듈(306)은, 포인트 클라우드를 평활한 경계들을 갖는 최소 개수의 패치들로 분해하는 동시에 재구성 오류를 또한 최소화하는 것을 목표로 한다.
일부 예에서, 패치 정보 모듈(304)은 패치들의 크기들 및 형상들을 나타내는 패치 정보를 수집할 수 있다. 일부 예에서, 패치 정보는 이미지 프레임으로 패킹된 다음, 보조 패치 정보 압축 모듈(338)에 의해 인코딩되어 압축된 보조 패치 정보를 생성할 수 있다.
일부 예에서, 패치 패킹 모듈(308)은, 추출된 패치들을 2차원(2D) 그리드에 맵핑하는 한편 미사용 공간을 최소화하고 그리드의 모든 M×M (예컨대, 16x16) 블록이 고유 패치와 연관되게끔 보장하도록 구성된다. 효율적인 패치 패킹은, 미사용 공간을 최소화하거나 시간적 일관성을 보장함으로써 압축 효율성에 직접적인 영향을 미칠 수 있다.
지오메트리 이미지 생성 모듈(310)은 주어진 패치 위치들에서의 포인트 클라우드의 지오메트리와 연관된 2D 지오메트리 이미지를 생성할 수 있다. 텍스처 이미지 생성 모듈(312)은 주어진 패치 위치들에서 포인트 클라우드의 텍스처와 연관된 2D 텍스처 이미지들을 생성할 수 있다. 지오메트리 이미지 생성 모듈(310) 및 텍스처 이미지 생성 모듈(312)은, 포인트 클라우드의 지오메트리 및 텍스처를 이미지들로서 저장하기 위해 패킹 프로세스 동안 계산된 3D-2D 맵핑을 활용한다. 여러 포인트가 동일한 샘플에 투사되는 경우를 더 잘 처리하기 위해, 각각의 패치는 계층들이라 불리는 2개의 이미지에 투사된다. 한 예에서, 지오메트리 이미지는, YUV420-8비트 포맷의 WxH 단색 프레임으로 표현된다. 텍스처 이미지를 생성하기 위해 텍스처 생성 절차는, 리샘플링된 포인트들과 연관될 색상들을 계산하기 위해 재구성된/평활화된 지오메트리를 활용한다.
점유 맵 모듈(314)은 각각의 유닛에서의 패딩 정보를 기술하는 점유 맵을 생성할 수 있다. 예를 들어, 점유 이미지는, 셀이 빈 공간에 속하는지 포인트 클라우드에 속하는지를 그리드의 각각의 셀에 대해 나타내는 2진 맵을 포함한다. 한 예에서, 점유 맵은 각각의 픽셀에 대해 픽셀이 패딩되었는지의 여부를 기술하는 2진 정보를 이용한다. 또 다른 예에서, 점유 맵은, 픽셀들의 각각의 블록에 대해 픽셀들의 블록이 패딩되었는지의 여부를 기술하는 2진 정보를 이용한다.
점유 맵 모듈(314)에 의해 생성된 점유 맵은 무손실 코딩 또는 손실 코딩을 이용하여 압축될 수 있다. 무손실 코딩이 이용되는 경우, 엔트로피 압축 모듈(334)을 이용하여 점유 맵을 압축한다. 손실 코딩이 이용되는 경우, 비디오 압축 모듈(332)을 이용하여 점유 맵을 압축한다.
패치 패킹 모듈(308)은 이미지 프레임에 패킹된 2D 패치들 사이에 약간의 빈 공간을 남길 수 있다는 점에 유의한다. 이미지 패딩 모듈들(316, 318)은, 2D 비디오 및 이미지 코덱들에 대해 적합할 수 있는 이미지 프레임을 생성하기 위해 빈 공간을 채울 수 있다(패딩이라고 함). 이미지 패딩은 또한, 미사용 공간을 중복 정보로 채울 수 있는 배경 채우기라고도 지칭된다. 일부 예에서, 양호한 배경 채우기는, 패치 경계들 주변에 상당한 코딩 왜곡을 도입하지 않으면서 비트 레이트를 최소한으로 증가시킨다.
비디오 압축 모듈(322, 323 및 332)은, HEVC, VVC 등의 적합한 비디오 코딩 표준에 기초하여, 패딩된 지오메트리 이미지들, 패딩된 텍스처 이미지들, 및 점유 맵들 등의 2D 이미지를 인코딩할 수 있다. 한 예에서, 비디오 압축 모듈들(322, 323, 332)은 별개로 동작하는 개개의 컴포넌트들이다. 비디오 압축 모듈들(322, 323, 332)은 또 다른 예에서 단일 컴포넌트로서 구현될 수 있다는 점에 유의한다.
일부 예에서, 평활화 모듈(336)은 재구성된 지오메트리 이미지의 평활화된 이미지를 생성하도록 구성된다. 평활화된 이미지는 텍스처 이미지 생성(312)에 제공될 수 있다. 그 다음, 텍스처 이미지 생성(312)은 재구성된 지오메트리 이미지에 기초하여 텍스처 이미지의 생성을 조정할 수 있다. 예를 들어, 인코딩 및 디코딩 동안에 패치 형상(예컨대, 지오메트리)이 약간 왜곡된 경우, 패치 형상의 왜곡을 보정하기 위해 텍스처 이미지들을 생성할 때 왜곡을 고려할 수 있다.
일부 실시예에서, 그룹 팽창(320)은, 재구성된 포인트 클라우드의 시각적 품질뿐만 아니라 코딩 이득을 개선하기 위해 중복 저주파 콘텐츠로 객체 경계 주변의 픽셀들을 패딩하도록 구성된다.
멀티플렉서(324)는, 압축된 지오메트리 이미지, 압축된 텍스처 이미지, 압축된 점유 맵, 압축된 보조 패치 정보를 멀티플렉싱하여 압축된 비트스트림화할 수 있다.
도 4는 일부 예에서 포인트 클라우드 프레임들에 대응하는 압축된 비트스트림을 디코딩하기 위한 V-PCC 디코더(400)의 블록도를 도시한다. 일부 예에서, V-PCC 디코더(400)는 통신 시스템(100) 및 스트리밍 시스템(200)에서 이용될 수 있다. 예를 들어, 디코더(210)는 V-PCC 디코더(400)와 유사한 방식으로 동작하도록 구성될 수 있다. V-PCC 디코더(400)는 압축된 비트스트림을 수신하고, 압축된 비트스트림에 기초하여 재구성된 포인트 클라우드를 생성한다.
도 4의 예에서, V-PCC 디코더(400)는, 디멀티플렉서(432), 비디오 압축해제 모듈(434 및 436), 점유 맵 압축해제 모듈(438), 보조 패치 정보 압축해제 모듈(442), 지오메트리 재구성 모듈(444), 평활화 모듈(446), 텍스처 재구성 모듈(448), 및 색상 평활화 모듈(452)을 포함한다.
디멀티플렉서(432)는 압축된 비트스트림을 수신하여, 압축된 텍스처 이미지, 압축된 지오메트리 이미지, 압축된 점유 맵, 및 압축된 보조 패치 정보로 분리할 수 있다.
비디오 압축해제 모듈들(434 및 436)은, 압축된 이미지들을 적합한 표준(예컨대, HEVC, VVC 등)에 따라 디코딩하여 압축해제된 이미지들을 출력할 수 있다. 예를 들어, 비디오 압축해제 모듈(434)은 압축된 텍스처 이미지들을 디코딩하고 압축해제된 텍스처 이미지들을 출력한다; 비디오 압축해제 모듈(436)은 압축된 지오메트리 이미지들을 디코딩하고 압축해제된 지오메트리 이미지들을 출력한다.
점유 맵 압축해제 모듈(438)은 적합한 표준(예를 들어, HEVC, VVC 등)에 따라 압축된 점유 맵을 디코딩하고 압축해제된 점유 맵들을 출력할 수 있다.
보조 패치 정보 압축해제 모듈(442)은 압축된 보조 패치 정보를 적절한 표준(예컨대, HEVC, VVC 등)에 따라 디코딩하여 압축해제된 보조 패치 정보를 출력할 수 있다.
지오메트리 재구성 모듈(444)은 압축해제된 지오메트리 이미지들을 수신하고, 압축해제된 점유 맵 및 압축해제된 보조 패치 정보에 기초하여 재구성된 포인트 클라우드 지오메트리를 생성할 수 있다.
평활화 모듈(446)은 패치들의 에지들에서의 부조화(incongruence)를 평활화할 수 있다. 평활화 절차는 압축 아티팩트들로 인해 패치 경계들에서 발생할 수 있는 잠재적 불연속성들을 완화하는 것을 목표로 한다. 일부 실시예에서, 평활화 필터는, 압축/압축해제에 의해 야기될 수 있는 왜곡들을 완화하기 위해 패치 경계들에 위치한 픽셀들에 적용될 수 있다.
텍스처 재구성 모듈(448)은, 압축해제된 텍스처 이미지들 및 평활화 지오메트리에 기초하여 포인트 클라우드의 포인트들에 대한 텍스처 정보를 결정할 수 있다.
색상 평활화 모듈(452)은 색상의 불일치를 평활화할 수 있다. 3D 공간에서 비-인접 패치들은 종종 2D 비디오에서 서로 옆에 패킹된다. 일부 예에서, 비-인접 패치들로부터의 픽셀 값들은 블록 기반의 비디오 코덱에 의해 혼합될 수 있다. 색상 평활화의 목표는 패치 경계들에 나타나는 시각적 아티팩트들을 감소시키는 것이다.
도 5는 일부 예에서 비디오 디코더(510)의 블록도를 도시한다. 비디오 디코더(510)는 V-PCC 디코더(400)에서 이용될 수 있다. 예를 들어, 비디오 압축해제 모듈들(434 및 436), 점유 맵 압축해제 모듈(438)은 비디오 디코더(510)와 유사하게 구성될 수 있다.
비디오 디코더(510)는, 코딩된 비디오 시퀀스 등의, 압축된 이미지들로부터 심볼들(521)을 재구성하는 파서(parser)(520)를 포함할 수 있다. 이들 심볼들의 범주들에는, 비디오 디코더(510)의 동작을 관리하는데 이용되는 정보가 포함된다. 파서(520)는 수신된 코딩된 비디오 시퀀스를 파싱/엔트로피-디코딩할 수 있다. 코딩된 비디오 시퀀스의 코딩은 비디오 코딩 기술 또는 표준에 따를 수 있고, 가변 길이 코딩, Huffman 코딩, 문맥 민감성을 동반하거나 동반하지 않는 산술 코딩 등을 포함하는, 다양한 원리를 따를 수 있다. 파서(520)는, 코딩된 비디오 시퀀스로부터, 그룹에 대응하는 적어도 하나의 파라미터에 기초하여, 비디오 디코더에서의 픽셀들의 서브그룹들 중 적어도 하나에 대한 한 세트의 서브그룹 파라미터들을 추출할 수 있다. 서브그룹들에는, GOP(Group of Picture)들, 픽처들, 타일들, 슬라이스들, 매크로블록들, CU(Coding Unit)들, 블록들, TU(Transform Unit)들, PU(Prediction Unit)들 등이 포함될 수 있다. 파서(520)는 또한, 변환 계수들, 양자화 파라미터 값들, 움직임 벡터들 등의 정보를, 코딩된 비디오 시퀀스로부터 추출할 수 있다.
파서(520)는 버퍼 메모리로부터 수신된 비디오 시퀀스에 관해 엔트로피 디코딩/파싱 연산을 수행하여 심볼들(521)을 생성할 수 있다.
심볼들의 재구성(521)은, 코딩된 비디오 픽처 또는 (인터 및 인트라 픽처, 인터 및 인트라 블록 등의) 그 부분들의 유형 및 기타의 요인들에 따라 여러 상이한 유닛들을 수반할 수 있다. 어떤 유닛들이 어떻게 관여되는지는, 코딩된 비디오 시퀀스로부터 파서(520)에 의해 파싱된 서브그룹 제어 정보에 의해 제어될 수 있다. 파서(520)와 아래의 여러 유닛들 사이의 이러한 서브그룹 제어 정보의 흐름은 명료성을 위해 서술되지 않는다.
이미 언급된 기능 블록들 외에, 비디오 디코더(510)는 아래에서 설명되는 바와 같이 개념적으로 다수의 기능 유닛들로 세분될 수 있다. 상업적인 제약들 하에서 동작하는 실제 구현에서, 이들 유닛들 중 많은 것들이 서로 밀접하게 상호작용하며, 적어도 부분적으로는 서로 통합될 수 있다. 그러나, 개시된 주제를 설명하기 위한 목적으로, 아래의 기능 유닛들로의 개념적 세분화가 적절하다.
제1 유닛은 스케일러/역 변환 유닛(551)이다. 스케일러/역 변환 유닛(551)은, 파서(520)로부터 심볼(들)(521)로서, 이용할 변환, 블록 크기, 양자화 인자, 양자화 스케일링 행렬들 등을 포함한 제어 정보뿐만 아니라 양자화된 변환 계수를 수신한다. 스케일러/역 변환 유닛(551)은 집결기(555)에 입력될 수 있는 샘플 값들을 포함하는 블록들을 출력할 수 있다.
일부 경우에, 스케일러/역 변환(551)의 출력 샘플들은, 인트라 코딩된 블록; 즉, 이전에 재구성된 픽처들로부터의 예측 정보를 이용하지는 않지만 현재 픽처의 이전에 재구성된 부분들로부터의 예측 정보를 이용할 수 있는 블록과 관련될 수 있다. 이러한 예측 정보는 인트라 픽처 예측 유닛(552)에 의해 제공될 수 있다. 일부 경우에, 인트라 픽처 예측 유닛(552)은 현재 픽처 버퍼(558)로부터 인출된(fetched) 주변의 이미 재구성된 정보를 이용하여 재구성 중인 블록과 동일한 크기 및 형상의 블록을 생성한다. 현재 픽처 버퍼(558)는, 예를 들어 부분적으로 재구성된 현재 픽처 및/또는 완전히 재구성된 현재 픽처를 버퍼링한다. 집결기(555)는 일부 경우에, 샘플별로, 인트라 예측 유닛(552)이 생성한 예측 정보를 스케일러/역 변환 유닛(551)에 의해 제공되는 출력 샘플 정보에 추가한다.
다른 경우들에서, 스케일러/역 변환 유닛(551)의 출력 샘플들은, 인터 코딩되고 잠재적으로 움직임 보상된 블록과 관련될 수 있다. 이러한 경우에, 움직임 보상 예측 유닛(553)은 예측에 이용되는 샘플들을 인출하기 위해 기준 픽처 메모리(557)에 액세스할 수 있다. 블록과 관련된 심볼들(521)에 따라 인출된 샘플들을 움직임 보상한 후, 이들 샘플들은 집결기(555)에 의해 스케일러/역 변환 유닛(551)의 출력에 추가되어(이 경우, 잔차 샘플들 또는 잔차 신호들이라고 불림) 출력 샘플 정보를 생성할 수 있다. 움직임 보상 예측 유닛(553)이 예측 샘플들을 인출하는 기준 픽처 메모리(557) 내의 주소들은, 예를 들어 X, Y 및 기준 픽처 컴포넌트들을 가질 수 있는 심볼들(521)의 형태로 움직임 보상 예측 유닛(553)에게 이용가능한 움직임 벡터들에 의해 제어될 수 있다. 움직임 보상은 또한, 서브샘플 정확한 움직임 벡터들이 이용될 때 기준 픽처 메모리(557)로부터 인출된 샘플 값의 보간, 움직임 벡터 예측 메커니즘 등을 포함할 수 있다.
집결기(555)의 출력 샘플들은 루프 필터 유닛(556)에서 다양한 루프 필터링 기술들을 거칠 수 있다. 비디오 압축 기술들은, 코딩된 비디오 시퀀스(코딩된 비디오 비트스트림이라고도 함)에 포함된 파라미터들에 의해 제어되고 파서(520)로부터의 심볼들(521)로서 루프 필터 유닛(556)에게 이용가능하게 되지만, 코딩된 픽처 또는 코딩된 비디오 시퀀스의 (디코딩 순서에서) 이전 부분들을 디코딩하는 동안 획득된 메타 정보에 응답할 뿐만 아니라, 이전에 재구성되고 루프 필터링된 샘플 값들에도 응답하는, 인루프 필터 기술들을 포함할 수 있다.
루프 필터 유닛(556)의 출력은, 렌더 디바이스로 출력될 수 있을 뿐만 아니라 미래의 인터-픽처 예측에 이용하기 위해 기준 픽처 메모리(557)에 저장될 수 있는 샘플 스트림일 수 있다.
소정의 코딩된 픽처들은, 일단 완전히 재구성되고 나면, 미래의 예측을 위한 기준 픽처들로서 이용될 수 있다. 예를 들어, 일단 현재 픽처에 대응하는 코딩된 픽처가 완전히 재구성되고 코딩된 픽처가 (예를 들어, 파서(520)에 의해) 기준 픽처로서 식별되고 나면, 현재 픽처 버퍼(558)는 기준 픽처 메모리(557)의 일부가 될 수 있고, 새로운 현재 픽처 버퍼는 후속하는 코딩된 픽처의 재구성을 시작하기 전에 재할당될 수 있다.
비디오 디코더(510)는, ITU-T Rec. H.265 등의 표준에서 미리결정된 비디오 압축 기술에 따라 디코딩 동작들을 수행할 수 있다. 코딩된 비디오 시퀀스는, 코딩된 비디오 시퀀스가 비디오 압축 기술 또는 표준의 신택스와 비디오 압축 기술 또는 표준에 문서화된 프로파일들 양쪽 모두를 준수한다는 의미에서, 이용 중인 비디오 압축 기술 또는 표준에 의해 명시된 신택스를 따를 수 있다. 구체적으로, 프로파일은, 비디오 압축 기술 또는 표준에서 이용가능한 모든 도구 중에서 그 프로파일 하에서만 이용할 수 있는 도구들로서 소정의 도구들을 선택할 수 있다. 또한 준수를 위해 필요한 것은, 코딩된 비디오 시퀀스의 복잡성이 비디오 압축 기술 또는 표준의 레벨에 의해 정의된 한계들 내에 있다는 것일 수 있다. 일부 경우에, 레벨들은, 최대 픽처 크기, 최대 프레임 레이트, 최대 재구성 샘플 레이트(예컨대, 초당 메가샘플로 측정됨), 최대 기준 픽처 크기 등을 제한한다. 레벨들에 의해 설정된 제한들은, 일부 경우에, HRD(Hypothetical Reference Decoder) 명세 및 코딩된 비디오 시퀀스에서 시그널링되는 HRD 버퍼 관리를 위한 메타데이터를 통해 추가로 제약될 수 있다.
도 6은 본 개시내용의 한 실시예에 따른 비디오 인코더(603)의 블록도를 도시한다. 비디오 인코더(603)는 포인트 클라우드들을 압축하는 V-PCC 인코더(300)에서 이용될 수 있다. 한 예에서, 비디오 압축 모듈(322, 323)과 비디오 압축 모듈(332)은 인코더(603)와 유사하게 구성된다.
비디오 인코더(603)는, 패딩된 지오메트리 이미지들, 패딩된 텍스처 이미지들 등의 이미지들을 수신하고, 압축된 이미지들을 생성할 수 있다.
한 실시예에 따르면, 비디오 인코더(603)는, 소스 비디오 시퀀스(이미지들)의 픽처들을 코딩된 비디오 시퀀스(압축된 이미지들)로 실시간으로 또는 애플리케이션에 의해 요구되는 임의의 다른 시간 제약하에서 코딩하고 압축할 수 있다. 적절한 코딩 속도를 강제하는 것은 제어기(650)의 한 기능이다. 일부 실시예에서, 제어기(650)는 아래에 기술된 바와 같이 다른 기능 유닛들을 제어하고 다른 기능 유닛들에 기능적으로 결합된다. 결합은 명료성을 위해 도시되지 않는다. 제어기(650)에 의해 설정되는 파라미터들은, 레이트 제어 관련 파라미터들(픽처 스킵, 양자화기, 레이트 왜곡 최적화 기술들의 람다 값, ...), 픽처 크기, GOP(group of pictures) 레이아웃, 최대 움직임 벡터 검색 범위, 및 기타 등등을 포함할 수 있다. 제어기(650)는 소정의 시스템 설계에 최적화된 비디오 인코더(603)에 관련된 다른 적절한 기능들을 갖도록 구성될 수 있다.
일부 실시예에서, 비디오 인코더(603)는 코딩 루프에서 동작하도록 구성된다. 지나치게 단순화된 설명으로서, 한 예에서, 코딩 루프는, 소스 코더(630)(예를 들어, 코딩될 입력 픽처 및 기준 픽처(들)에 기초하여 심볼 스트림 등의 심볼의 생성을 담당함), 및 비디오 인코더(603)에 내장된 (로컬) 디코더(633)를 포함할 수 있다. 디코더(633)는, (원격) 디코더가 또한 생성하는 것과 유사한 방식으로 샘플 데이터를 생성하기 위해 심볼들을 재구성한다(심볼들과 코딩된 비디오 비트스트림 사이의 임의의 압축은 개시된 주제에서 고려되는 비디오 압축 기술들에서 무손실이기 때문임). 재구성된 샘플 스트림(샘플 데이터)은 기준 픽처 메모리(634)에 입력된다. 심볼 스트림의 디코딩이 디코더 위치(로컬 또는 원격)와는 독립적인 비트-정확한 결과들을 가져오므로, 기준 픽처 메모리(634)의 콘텐츠도 역시 로컬 인코더와 원격 인코더 사이에서 비트 정확하다. 다시 말해, 인코더의 예측 부분은, 디코더가 디코딩 동안 예측을 이용할 때 "보게 될" 것과 정확히 동일한 샘플 값들을 기준 픽처 샘플들로서 "본다". 기준 픽처 동기화(및 예를 들어 채널 오류들로 인해 동기화가 유지될 수 없는 경우 결과적인 드리프트)의 이러한 기본 원리는 일부 관련된 기술분야에서도 역시 이용된다.
"로컬" 디코더(633)의 동작은, 이미 도 5와 연계하여 위에서 상세히 설명된 비디오 디코더(510) 등의 "원격" 디코더의 동작과 동일할 수 있다. 그러나, 도 5를 또한 간략히 참조하면, 심볼들이 이용가능하고 엔트로피 코더(645) 및 파서(520)에 의한 코딩된 비디오 시퀀스로의 심볼들의 인코딩/디코딩은 무손실일 수 있기 때문에, 파서(520)를 포함하는, 비디오 디코더(510)의 엔트로피 디코딩 부분들은, 로컬 디코더(633)에서 완전히 구현되지 않을 수 있다.
동작 동안에, 일부 예에서, 소스 코더(630)는, "기준 픽처들"로서 지정된 비디오 시퀀스로부터의 하나 이상의 이전에-코딩된 픽처를 참조하여 예측적으로 입력 픽처를 코딩하는 움직임 보상된 예측 코딩을 수행할 수 있다. 이러한 방식으로, 코딩 엔진(632)은, 입력 픽처의 픽셀 블록들과, 입력 픽처에 대한 예측 기준(들)으로서 선택될 수 있는 기준 픽처(들)의 픽셀 블록들 사이의 차이들을 코딩한다.
로컬 비디오 디코더(633)는, 소스 코더(630)에 의해 생성된 심볼들에 기초하여, 기준 픽처들로서 지정될 수 있는 픽처들의 코딩된 비디오 데이터를 디코딩할 수 있다. 코딩 엔진(632)의 동작들은 유리하게도 손실 프로세스들일 수 있다. 코딩된 비디오 데이터가 비디오 디코더(도 6에 도시되지 않음)에서 디코딩될 수 있을 때, 재구성된 비디오 시퀀스는 전형적으로 약간의 오류를 갖는 소스 비디오 시퀀스의 복제판일 수 있다. 로컬 비디오 디코더(633)는 기준 픽처들에 관해 비디오 디코더에 의해 수행될 수 있는 디코딩 프로세스들을 복제하고 재구성된 기준 픽처들이 기준 픽처 캐시(634)에 저장되게 할 수 있다. 이러한 방식으로, 비디오 인코더(603)는, 원단(far-end) 비디오 디코더에 의해 획득될(전송 오류 없음) 재구성된 기준 픽처들로서 공통 콘텐츠를 갖는 재구성된 기준 픽처들의 사본들을 국부적으로 저장할 수 있다.
예측기(635)는 코딩 엔진(632)을 찾기 위한 예측 검색들을 수행할 수 있다. 즉, 코딩될 새로운 픽처에 대해, 예측기(635)는, (후보 기준 픽셀 블록들로서의) 샘플 데이터, 또는 새로운 픽처들에 대한 적절한 예측 기준으로서 역할할 수 있는 기준 픽처 움직임 벡터들, 블록 형상들 등의 소정의 메타데이터를 찾기 위해 기준 픽처 메모리(634)를 검색할 수 있다. 예측기(635)는 적절한 예측 기준들을 찾기 위해 샘플 블록 바이 픽셀 블록 기반으로 동작할 수 있다. 일부 경우에, 예측기(635)에 의해 획득된 검색 결과들에 의해 결정되는 바와 같이, 입력 픽처는 기준 픽처 메모리(634)에 저장된 여러 기준 픽처로부터 도출된 예측 기준들을 가질 수 있다.
제어기(650)는, 예를 들어 비디오 데이터를 인코딩하는데 이용되는 파라미터들 및 서브그룹 파라미터들의 설정을 포함하는, 소스 코더(630)의 코딩 동작들을 관리할 수 있다.
전술된 모든 기능 유닛들의 출력은 엔트로피 코더(645)에서 엔트로피 코딩을 거칠 수 있다. 엔트로피 코더(645)는, Huffman 코딩, 가변 길이 코딩, 산술 코딩 등의 기술들에 따라 심볼들을 무손실 압축함으로써, 다양한 기능 유닛에 의해 생성된 심볼들을 코딩된 비디오 시퀀스로 변환한다.
제어기(650)는 비디오 인코더(603)의 동작을 관리할 수 있다. 코딩 동안, 제어기(650)는 각각의 코딩된 픽처에 소정의 코딩된 픽처 유형을 할당할 수 있으며, 이것은 각각의 픽처에 적용될 수 있는 코딩 기술들에 영향을 미칠 수 있다. 예를 들어, 픽처들은 종종 다음과 같은 픽처 유형들 중 하나로서 할당될 수 있다:
인트라 픽처(I 픽처)는, 시퀀스 내의 임의의 다른 픽처를 예측 소스로서 이용하지 않고 코딩 및 디코딩될 수 있는 픽처일 수 있다. 일부 비디오 코덱은, 예를 들어 독립 디코더 리프레쉬(Independent Decoder Refresh)(IDR) 픽처들을 포함하는, 상이한 유형들의 인트라 픽처들을 허용한다. 본 기술분야의 통상의 기술자라면, I 픽처들의 이들 변형들 및 그들 각각의 응용들 및 피처들을 알고 있다.
예측 픽처(P picture)는, 각각의 블록의 샘플 값들을 예측하기 위해 최대 하나의 움직임 벡터와 기준 인덱스를 이용하는 인트라 예측 또는 인터 예측을 이용하여 코딩 및 디코딩될 수 있는 픽처일 수 있다.
양방향 예측 픽처(B Picture)는, 각각의 블록의 샘플 값들을 예측하기 위해 최대 2개의 움직임 벡터와 기준 인덱스들을 이용하는 인트라 예측 또는 인터 예측을 이용하여 코딩 및 디코딩될 수 있는 픽처일 수 있다. 유사하게, 다중-예측 픽처들은 단일 블록의 재구성을 위해 2개보다 많은 기준 픽처 및 연관된 메타데이터를 이용할 수 있다.
소스 픽처들은 흔히 복수의 샘플 블록(예를 들어, 각각 4x4, 8x8, 4x8 또는 16x16 샘플의 블록)으로 공간적으로 세분되고 블록별 기반으로 코딩될 수 있다. 블록들은, 블록들의 각각의 픽처들에 적용되는 코딩 할당에 의해 결정되는 다른 (이미 코딩된) 블록들을 참조하여 예측적으로 코딩될 수 있다. 예를 들어, I 픽처들의 블록들은 비예측적으로 코딩될 수 있거나, 이들은 동일한 픽처의 이미 코딩된 블록들을 참조하여 예측적으로 코딩될 수 있다(공간 예측 또는 인트라 예측). P 픽처들의 픽셀 블록들은, 이전에 코딩된 하나의 기준 픽처를 참조하여 공간적 예측을 통해 또는 시간적 예측을 통해 예측적으로 코딩될 수 있다. B 픽처들의 블록들은, 이전에 코딩된 하나 또는 2개의 기준 픽처를 참조하여 공간적 예측을 통해 또는 시간적 예측을 통해 예측적으로 코딩될 수 있다.
비디오 인코더(603)는, ITU-T Rec. H.265 등의 미리결정된 비디오 코딩 기술 또는 표준에 따라 코딩 동작들을 수행할 수 있다. 그 동작에서, 비디오 인코더(603)는, 입력 비디오 시퀀스에서 시간적 및 공간적 중복성들을 활용하는 예측 코딩 동작들을 포함한 다양한 압축 동작을 수행할 수 있다. 따라서, 코딩된 비디오 데이터는, 이용 중인 비디오 코딩 기술 또는 표준에 의해 명시된 신택스를 따를 수 있다.
비디오는 시간적 시퀀스로 된 복수의 소스 픽처(이미지)의 형태일 수 있다. 인트라-픽처 예측(종종 인트라 예측으로 약칭됨)은 주어진 픽처에서 공간적 상관관계를 이용하고, 인터-픽처 예측은 픽처들 사이의 (시간적 또는 기타의) 상관관계를 이용한다. 한 예에서, 현재 픽처라고 불리는 인코딩/디코딩 중인 특정한 픽처는 블록들로 파티션화된다. 현재 픽처 내의 한 블록이 비디오에서 이전에 코딩되어 여전히 버퍼링된 기준 픽처 내의 한 기준 블록과 유사한 경우, 현재 픽처 내의 그 블록은 움직임 벡터라고 지칭되는 벡터에 의해 코딩될 수 있다. 움직임 벡터는 기준 픽처 내의 기준 블록을 가리키며, 여러 기준 픽처가 이용 중인 경우 기준 픽처를 식별하는 제3 차원을 가질 수 있다.
일부 실시예에서, 쌍방-예측 기술이 인터-픽처 예측에 이용될 수 있다. 쌍방-예측 기술에 따르면, 비디오에서 디코딩 순서에 있어서 양쪽 모두가 현재 픽처보다 선행하는(그러나, 디스플레이 순서에서는 각각 과거 및 미래일 수 있는) 제1 기준 픽처 및 제2 기준 픽처 등의 2개의 기준 픽처가 이용된다. 현재 픽처 내의 한 블록은 제1 기준 픽처 내의 제1 기준 블록을 가리키는 제1 움직임 벡터와, 제2 기준 픽처 내의 제2 기준 블록을 가리키는 제2 움직임 벡터에 의해 코딩될 수 있다. 이 블록은 제1 기준 블록과 제2 기준 블록의 조합에 의해 예측될 수 있다.
또한, 코딩 효율을 향상시키기 위해 인터-픽처 예측에서 병합 모드 기술이 이용될 수 있다.
본 개시내용의 일부 실시예에 따르면, 인터-픽처 예측들 및 인트라-픽처 예측들 등의 예측들은 블록들의 단위에서 수행된다. 예를 들어, HEVC 표준에 따르면, 비디오 픽처들의 시퀀스 내의 픽처는 압축을 위해 코딩 트리 유닛(CTU)으로 파티션화되며, 픽처 내의 CTU들은, 64x64 픽셀, 32x32 픽셀, 또는 16x16 픽셀 등의 동일한 크기를 갖는다. 일반적으로, CTU는, 1개의 루마 CTB와 2개의 크로마 CTB인, 3개의 코딩 트리 블록(CTB)을 포함한다. 각각의 CTU는 하나 또는 여러 코딩 유닛(CU)으로 재귀적으로 쿼드트리 분할(quadtree split)될 수 있다. 예를 들어, 64x64 픽셀들의 CTU는, 64x64 픽셀들의 1개의 CU, 32x32 픽셀들의 4개의 CU, 또는 16x16 픽셀들의 16개의 CU로 분할될 수 있다. 한 예에서, 각각의 CU는, 인터 예측 유형 또는 인트라 예측 유형 등의, CU에 대한 예측 유형을 결정하기 위해 분석된다. CU는, 시간적 및/또는 공간적 예측가능성에 따라 하나 이상의 예측 유닛(PU)으로 분할된다. 일반적으로, 각각의 PU는, 루마 예측 블록(PB) 및 2개의 크로마 PB를 포함한다. 한 실시예에서, 코딩(인코딩/디코딩)에서의 예측 동작은 예측 블록의 단위로 수행된다. 예측 블록의 한 예로서 루마 예측 블록을 이용하여, 예측 블록은, 8x8 픽셀들, 16x16 픽셀들, 8x16 픽셀들, 16x8 픽셀들 등의, 픽셀들에 대한 값들(예를 들어, 루마 값들)의 행렬을 포함한다.
도 7은 일부 예에서 G-PCC 인코더(700)의 블록도를 도시한다. G-PCC 인코더(700)는, 포인트 클라우드 데이터를 수신하고 포인트 클라우드 데이터를 압축하여 압축된 포인트 클라우드 데이터를 운반하는 비트 스트림을 생성하도록 구성될 수 있다. 한 실시예에서, G-PCC 인코더(700)는, 위치 양자화 모듈(710), 중복 포인트 제거 모듈(712), 옥트리 인코딩 모듈(730), 속성 전달 모듈(720), 디테일 레벨(LOD) 생성 모듈(740), 속성 예측 모듈(750), 잔차 양자화 모듈(760), 산술 코딩 모듈(770), 역 잔차 양자화 모듈(780), 가산 모듈(781), 재구성된 속성 값을 저장하는 메모리(790)를 포함할 수 있다.
도시된 바와 같이, 입력 포인트 클라우드(701)는 G-PCC 인코더(700)에서 수신될 수 있다. 포인트 클라우드(701)의 위치(예를 들어, 3D 좌표들)는 양자화 모듈(710)에 제공된다. 양자화 모듈(710)은, 좌표들을 양자화하여 양자화된 위치들을 생성하도록 구성된다. 중복 포인트 제거 모듈(712)은, 양자화된 위치들을 수신하고 필터 프로세스를 수행하여 중복 포인트들을 식별 및 제거하도록 구성된다. 옥트리 인코딩 모듈(730)은, 중복 포인트 제거 모듈(712)로부터 필터링된 위치들을 수신하고 옥트리-기반의 인코딩 프로세스를 수행하여 복셀들의 3D 그리드를 기술하는 점유 코드들의 시퀀스를 생성하도록 구성된다. 점유 코드들은 산술 코딩 모듈(770)에 제공된다.
속성 전달 모듈(720)은, 입력 포인트 클라우드의 속성들을 수신하고 속성 전달 프로세스를 수행하여 여러 속성 값이 각자의 복셀에 연관될 때 각각의 복셀에 대한 속성 값을 결정하도록 구성된다. 옥트리 인코딩 모듈(730)로부터 출력된 재정렬된 포인트들에 관해 속성 전달 프로세스가 수행될 수 있다. 전달 동작들 후의 속성들은 속성 예측 모듈(750)에 제공된다. LOD 생성 모듈(740)은, 옥트리 인코딩 모듈(730)로부터 출력된 재정렬된 포인트들에 관해 동작하고 포인트들을 상이한 LOD들로 재조직화하도록 구성된다. LOD 정보는 속성 예측 모듈(750)에 공급된다.
속성 예측 모듈(750)은, LOD 생성 모듈(740)로부터의 LOD 정보에 의해 표시된 LOD-기반의 순서에 따라 포인트들을 처리한다. 속성 예측 모듈(750)은, 메모리(790)에 저장된 현재 포인트의 한 세트의 인접 포인트들의 재구성된 속성들에 기초하여 현재 포인트에 대한 속성 예측을 생성한다. 속성 전달 모듈(720)로부터 수신된 원래의 속성 값들 및 국부적으로 생성된 속성 예측들에 기초하여 예측 잔차들이 후속적으로 획득될 수 있다. 각자의 속성 예측 프로세스에서 후보 인덱스들이 이용되는 경우, 선택된 예측 후보에 대응하는 인덱스가 산술 코딩 모듈(770)에 제공할 수 있다.
잔차 양자화 모듈(760)은, 속성 예측 모듈(750)로부터 예측 잔차들을 수신하고, 양자화를 수행하여 양자화된 잔차들을 생성하도록 구성된다. 양자화된 잔차들은 산술 코딩 모듈(770)에 제공된다.
역 잔차 양자화 모듈(780)은, 잔차 양자화 모듈(760)로부터 양자화된 잔차들을 수신하고, 잔차 양자화 모듈(760)에서 수행된 양자화 동작들의 역을 수행함으로써 재구성된 예측 잔차들을 생성하도록 구성된다. 가산 모듈(781)은, 역 잔차 양자화 모듈(780)로부터 재구성된 예측 잔차들을 수신하고 속성 예측 모듈(750)로부터 각자의 속성 예측들을 수신하도록 구성된다. 재구성된 예측 잔차들과 속성 예측들을 결합함으로써, 재구성된 속성 값들이 생성되어 메모리에 저장된다(790).
산술 코딩 모듈(770)은, 점유 코드들, 후보 인덱스들(이용된 경우), 양자화된 잔차들(생성된 경우), 및 기타의 정보를 수신하고 엔트로피 인코딩을 수행하여 수신된 값들 또는 정보를 추가로 압축하도록 구성된다. 그 결과, 압축된 정보를 운반하는 압축된 비트스트림(702)이 생성될 수 있다. 비트스트림(702)은, 압축된 비트스트림을 디코딩하는 디코더에 전송 또는 기타의 방식으로 제공되거나, 저장 디바이스에 저장될 수 있다.
도 8은 한 실시예에 따른 G-PCC 디코더(800)의 블록도를 도시한다. G-PCC 디코더(800)는, 압축된 비트스트림을 수신하고 포인트 클라우드 데이터 압축해제를 수행하여 비트스트림을 압축해제해 디코딩된 포인트 클라우드 데이터를 생성하도록 구성될 수 있다. 한 실시예에서, G-PCC 디코더(800)는, 산술 디코딩 모듈(810), 역 잔차 양자화 모듈(820), 옥트리 디코딩 모듈(830), LOD 생성 모듈(840), 속성 예측 모듈(850), 및 재구성된 속성 값들을 저장하는 메모리(860)를 포함할 수 있다.
도시된 바와 같이, 압축된 비트스트림(801)은 산술 디코딩 모듈(810)에서 수신될 수 있다. 산술 디코딩 모듈(810)은, 압축된 비트스트림(801)을 디코딩하여 양자화된 잔차들(생성된 경우) 및 포인트 클라우드의 점유 코드들을 획득하도록 구성된다. 옥트리 디코딩 모듈(830)은, 점유 코드들에 따라 포인트 클라우드 내의 포인트들의 재구성된 위치들을 결정하도록 구성된다. LOD 생성 모듈(840)은, 재구성된 위치들에 기초하여 포인트들을 상이한 LOD들로 재조직화하고 LOD-기반의 순서를 결정하도록 구성된다. 역 잔차 양자화 모듈(820)은, 산술 디코딩 모듈(810)로부터 수신된 양자화된 잔차들에 기초하여 재구성된 잔차들을 생성하도록 구성된다.
속성 예측 모듈(850)은, 속성 예측 프로세스를 수행하여 LOD-기반의 순서에 따라 포인트들에 대한 속성 예측들을 결정하도록 구성된다. 예를 들어, 현재 포인트의 속성 예측은, 메모리(860)에 저장된 현재 포인트의 인접 포인트들의 재구성된 속성 값들에 기초하여 결정될 수 있다. 일부 예에서, 속성 예측은 각자의 재구성된 잔차와 결합되어 현재 포인트에 대한 재구성된 속성을 생성할 수 있다.
한 예에서, 속성 예측 모듈(850)로부터 생성된 재구성된 속성들의 시퀀스는, 옥트리 디코딩 모듈(830)로부터 생성된 재구성된 위치들과 함께, G-PCC 디코더(800)로부터 출력되는 디코딩된 포인트 클라우드(802)에 대응한다. 또한, 재구성된 속성들도 역시 메모리(860)에 저장되고, 후속해서, 후속 포인트들에 대한 속성 예측들을 도출하는데 이용될 수 있다.
다양한 실시예에서, 인코더(300), 디코더(400), 인코더(700), 및/또는 디코더(800)는, 하드웨어, 소프트웨어 또는 이들의 조합으로 구현될 수 있다. 예를 들어, 인코더(300), 디코더(400), 인코더(700), 및/또는 디코더(800)는, ASIC(application specific integrated circuit), FPGA(field programmable gate array) 등의 소프트웨어와 함께 또는 소프트웨어 없이 동작하는 하나 이상의 집적 회로(IC) 등의 처리 회로로 구현될 수 있다. 또 다른 예에서, 인코더(300), 디코더(400), 인코더(700), 및/또는 디코더(800)는, 비휘발성(또는 비일시적) 컴퓨터 판독가능한 저장 매체에 저장된 명령어들을 포함하는 소프트웨어 또는 펌웨어로서 구현될 수 있다. 명령어들은, 하나 이상의 프로세서 등의 처리 회로에 의해 실행될 때, 처리 회로로 하여금, 인코더(300), 디코더(400), 인코더(700), 및/또는 디코더(800)의 기능들을 수행하게 한다.
본 명세서에 개시된 속성 예측 기술들을 구현하도록 구성된 속성 예측 모듈들(750, 850)은 도 7 및 도 8에 도시된 것과 유사하거나 상이한 구조들을 가질 수 있는 다른 디코더들 또는 인코더들에 포함될 수 있다는 점에 유의한다. 또한, 다양한 예에서 인코더(700) 및 디코더(800)는 동일한 디바이스 또는 별개의 디바이스들에 포함될 수 있다.
일부 실시예에서, 메시 압축은, PCC 코딩 도구들과는 상이한 코딩 도구들을 이용할 수 있거나, 또는 상기의 PCC(예컨대, G-PCC, V-PCC) 인코더들, 상기의 PCC(예컨대, G-PCC, V-PCC) 디코더들 등의 PCC 코딩 도구들을 이용할 수 있다.
객체의 메시(또는 3D 메시)는 객체의 표면을 기술하는 다각형들을 포함할 수 있다. 각각의 다각형은, 3D 공간에서의 다각형의 정점들과 정점들이 다각형에 어떻게 연결되어 있는지에 대한 정보에 의해 정의될 수 있다. 정점들이 어떻게 연결되어 있는지에 대한 정보를 연결성 정보라고 한다. 일부 예에서, 메시는 또한, 정점들과 연관된 색상, 법선 등의 속성들을 포함할 수 있다. 속성들은, 2D 속성 맵들로 메시를 파라미터화하는 맵핑 정보를 활용함으로써 메시의 표면과 연관될 수 있다. 맵핑 정보는 대개, 메시 정점들과 연관된 UV 좌표들 또는 텍스처 좌표들이라고 하는 한 세트의 파라메트릭 좌표들에 의해 기술된다. 2D 속성 맵들(일부 예에서 텍스처 맵들이라고 함)은, 텍스처, 법선들, 변위들 등의 고해상도 속성 정보를 저장하는데 이용된다. 이러한 정보는 텍스처 맵핑 및 셰이딩 등의 다양한 목적에 이용될 수 있다.
일부 실시예에서, 메시는 지오메트리 정보, 연결성 정보, 맵핑 정보, 정점 속성들, 및 속성 맵들이라고 하는 컴포넌트들을 포함할 수 있다. 일부 예에서, 지오메트리 정보는 메시의 정점들과 연관된 한 세트의 3D 위치들에 의해 기술된다. 한 예에서, (x, y, z) 좌표들은 정점들의 3D 위치들을 기술하는데 이용될 수 있다. 일부 예에서, 연결성 정보는, 정점들을 연결하여 3D 표면을 생성하는 방법을 기술하는 한 세트의 정점 인덱스들을 포함한다. 일부 예에서, 맵핑 정보는 메시 표면을 평면의 2D 영역들에 맵핑하는 방법을 기술한다. 한 예에서, 맵핑 정보는 연결성 정보와 함께 메시 정점들과 연관된 한 세트의 UV 파라메트릭/텍스처 좌표들 (u, v)에 의해 기술된다. 일부 예에서, 정점 속성들은 메시 정점들과 연관된 스칼라 또는 벡터 속성 값들을 포함한다. 일부 예에서, 속성 맵들은, 메시 표면과 연관되고 2D 이미지들/비디오들로서 저장되는 속성들을 포함한다. 한 예에서, 비디오들(예를 들어, 2D 이미지들/비디오들)과 메시 표면 사이의 맵핑은 맵핑 정보에 의해 정의된다.
일부 실시예에서, UV 맵핑 또는 메시 파라미터화라고 불리는 일부 기술은 3D 도메인에서의 메시의 표면들을 2D 도메인으로 맵핑하는데 이용된다. 일부 예에서, 메시는 3D 도메인에서의 패치들로 파티션화된다. 그 다음, 패치들은 각각 2D 형상들로 파라미터화된다. 2D 형상들은 일부 예에서 아틀라스(atlas)들이라고도 하는 맵들로 패킹(예컨대, 배향 및 배치)될 수 있다. 일부 예에서, 맵들은 2D 이미지 또는 비디오 처리 기술들을 이용하여 추가로 처리될 수 있다.
한 예에서, UV 맵핑 기술은, 3D 메시의 패치들에 대응하는 2D에서의 UV 아틀라스(UV 맵이라고도 함) 및 하나 이상의 텍스처 아틀라스(텍스처 맵이라고도 함)를 생성한다. UV 아틀라스는 3D 메시의 3D 정점들을 2D 도메인(예컨대, 직사각형)의 2D 포인트들에 할당하는 것을 포함한다. UV 아틀라스는 3D 표면의 좌표들과 2D 도메인의 좌표들 사이의 맵핑이다. 한 예에서, 2D 좌표들 (u, v)에 있는 UV 아틀라스의 포인트는 3D 도메인에서의 정점의 좌표들 (x, y, z)에 의해 형성되는 값을 갖는다. 예를 들어, 텍스처 아틀라스는 3D 메시의 색상 정보를 포함한다. 예를 들어, 텍스처 아틀라스에서 2D 좌표들 (u, v)에 있는 포인트(UV 아틀라스에서 (x, y, z)의 3D 값을 가짐)는, 3D 도메인에서의 (x, y, z)에 있는 포인트의 색상 속성을 명시하는 색상을 갖는다.
동적 메시는, 컴포넌트들(지오메트리 정보, 연결성 정보, 맵핑 정보, 정점 속성들 및 속성 맵들) 중 적어도 하나가 시간에 따라 변하는 메시이다. 동적 메시는 메시들의 시퀀스(메시 프레임들이라고도 함)에 의해 기술될 수 있다. 동적 메시는, 동적 메시가 시간에 따라 변화하는 상당한 양의 정보를 포함할 수 있기 때문에, 많은 양의 데이터를 요구할 수 있다. 메시의 압축 기술들은, 메시 표현으로 된 미디어 콘텐츠의 효율적인 저장 및 전송을 허용할 수 있다.
일부 예에서, 동적 메시는, 일정한 연결성 정보, 시간 변동 지오메트리, 및 시간 변동 정점 속성들을 가질 수 있다. 일부 예에서, 동적 메시는 시간 변동 연결성 정보를 가질 수 있다. 예를 들어, 디지털 콘텐츠 생성 도구들은 대개 시간 변동 속성 맵들과 시간 변동 연결성 정보를 이용하여 동적 메시들을 생성한다. 일부 예에서, 체적 취득(volumetric acquisition) 기술들을 이용하여 동적 메시들을 생성한다. 체적 취득 기술들은, 특히 실시간 제약들에서, 시간 변동 연결성 정보로 동적 메시를 생성할 수 있다.
일부 실시예에서, 메시 압축은, 하나 이상의 2D 맵(일부 예에서 속성 맵이라고 함)을 이용하여 메시를 표현한 다음, 이미지 또는 비디오 코덱들을 이용하여 2D 맵을 인코딩함으로써 수행될 수 있다. 일부 예에서, UV 아틀라스 샘플링 기술 등의 재메시화 기술들이 메시 압축에 이용된다. UV 아틀라스 샘플링 기술은, UV 아틀라스에서 샘플링된 규칙적인 그리드 포인트들을 통해 3D 메시 모델들을 재메시화한다. UV 아틀라스의 원래의 정점들은 규칙적인 그리드 포인트들에 의해 대체된다. 연결성 정보는 규칙적인 그리드 포인트로부터 추론될 수 있으며 별도로 인코딩될 필요가 없다.
일부 예에서, UV 아틀라스 샘플링 기술을 이용하여, 메시는 지오메트리 맵(UV 아틀라스라고도 함), 색상 맵(색상 아틀라스라고도 함), 텍스처 맵(또는 텍스처 아틀라스라고도 함), 점유 맵 등의 복수의 맵에 의해 표현된다. 일부 예에서, 복수의 맵은 속성 맵들이라고 지칭되고, 속성 맵들 내의 샘플들의 값들은 속성 값들이라고 지칭된다. 복수의 맵을 인코딩하기 위해, 이미지 및/또는 비디오 코덱들을 이용하여 압축 목적을 달성할 수 있다. 본 개시내용의 한 양태에 따르면, 복수의 맵 중 하나 이상 내의 샘플들의 동적 범위는 일부 기존 코덱들의 용량을 초과할 수 있다. 예를 들어, 일부 비디오 코덱은 8비트 코딩만을 지원할 수 있는 반면, 지오메트리 맵의 비트깊이는, 10비트, 12비트 또는 심지어 16비트일 수 있다.
본 개시내용은 UV 좌표들을 인코딩 및 디코딩하기 위한 방법들을 포함한다. UV 좌표들은, 3D 메시의 2D 속성 맵들에서 이용될 수 있으며, 여기서 속성 맵들은, 텍스처, 법선들, 변위들, 또는 기타의 고해상도 속성 정보를 저장할 수 있다. UV 좌표 코딩의 개시된 방법들은 3D 메시 압축의 한 컴포넌트로서 채용될 수 있다.
동적 메시 시퀀스는, 동적 메시가 시간에 따라 변화하는 상당한 양의 정보를 포함할 수 있기 때문에, 많은 양의 데이터를 요구할 수 있다. 따라서, 이러한 콘텐츠를 저장하고 전송하기 위해서는 효율적인 압축 기술들이 요구된다. 보간기 압축(IC), MESHGRID, 및 프레임 기반의 애니메이션 메시 압축(Frame-based Animated Mesh Compression)(FAMC) 등의 메시 압축 표준들은, 일정한 연결성, 시변 지오메트리, 및 정점 속성들로 동적 메시들을 처리하기 위해, MPEG에 의해 이전에 개발되었다. 그러나, 메시 압축 표준들은 시변 속성 맵들 및 연결성 정보를 고려하지 않는다. DCC(Digital Content Creation) 도구들은 대개 이러한 동적 메시들을 생성한다. 반대로, 체적 취득 기술들이 특히 실시간 제약들 하에서 일정한 연결성 동적 메시를 생성하는 것은 어렵다. 이러한 유형의 콘텐츠는 기존 표준들에서는 지원되지 않는다. MPEG은, 시변 연결성 정보 및 선택사항으로서 시변 속성 맵들을 이용하여 동적 메시들을 직접 처리하기 위해 새로운 메시 압축 표준을 개발할 계획이다. 새로운 메시 압축 표준은, 실시간 통신들, 저장, 자유 관점 비디오, AR 및 VR 등의, 다양한 애플리케이션을 위한 손실 및 무손실 압축을 목표로 한다. 랜덤 액세스 및 스케일러블/프로그레시브 코딩 등의 기능들도 고려된다.
고품질 3D 메시를 전송하는 것은, 고품질 3D 메시의 큰 메모리 풋프린트로 인해 어려울 수 있다. 따라서, 3D 메시를 위한 효율적인 압축 알고리즘들을 설계하는 것은, VR/AR 등의 소비자 레벨 애플리케이션의 배치를 가능케하고 3D 비디오들의 스트리밍을 용이화하기 위해 가장 중요하다.
3D 메시 압축은, 지오메트리 압축과 텍스처 압축을 포함한다. 지오메트리 압축은 지오메트리 표면 표현을 대상으로 하며, 텍스처 압축은 UV 맵들을 통해 3D 메시와 연관된 텍스처 이미지들에 대한 것이다. 도 9는 한 시점에서의 3D 메시의 텍스처 이미지(900)의 한 예이다. 텍스처 이미지(900)에서, 3D 메시의 색상 속성을 나타내는 패치(예컨대, (902))가 함께 배치될 수 있다. 패치 정점은 메시 정점과 연관될 수 있다. 따라서, UV 좌표들이라고 지칭되는 패치 정점의 픽셀 좌표들은 메시 정점의 3D 좌표들과 연관된다.
3D 메시 정점의 UV 좌표들은 2차원 좌표들의 목록으로 표현될 수 있다: 하나는 U 좌표들이고 또 다른 하나는 V 좌표들이다.
본 개시내용에서는, 3D 메시의 UV 좌표들이 먼저 수신될 수 있다. 예를 들어, 3D 메시의 UV 좌표들은 처리 회로에 의해 생성되어 인코더(예컨대, (600) 또는 (700))에 전송될 수 있다. UV 좌표들은 제1 축에 U 좌표들을 포함하고 제2 축에 V 좌표들을 포함하는 2차원(2D) 텍스처 좌표들일 수 있으며, 3D 메시의 정점들에 대응한다.
3D 메시의 UV 좌표들에 관해 데이터 준비 프로세스가 추가로 수행될 수 있다. 데이터 준비 프로세스는, 양자화 프로세스, 분리 프로세스, 또는 변환 프로세스를 포함할 수 있다. 양자화 프로세스는 UV 좌표들을 복수의 표시자 등으로 변환하도록 구성될 수 있다. 분리 프로세스는, UV 좌표들을 U 좌표들과 V 좌표들로 각각 분리하도록 구성될 수 있다. 변환 프로세스는, 공간 도메인으로부터 주파수 도메인으로 등의, UV 좌표들을 변환하도록 구성될 수 있다.
양자화 프로세스, 분리 프로세스, 및 변환 프로세스는, 개별적으로 또는 임의의 조합으로 수행될 수 있다는 점에 유의해야 한다. 예를 들어, 양자화 프로세스가 먼저 수행되고, 양자화 후에 변환 프로세스가 수행될 수 있다. 또 다른 예에서, UV 좌표들에 관해 분리 프로세스가 수행되고, 분리 프로세스 후에 양자화 프로세스 또는 변환 프로세스가 수행될 수 있다.
데이터 준비 프로세스 후, UV 좌표들에 관해 압축이 수행될 수 있다. 압축은 손실 압축 또는 무손실 압축일 수 있다. 압축은, 이미지/비디오 압축, 정수 압축 등을 포함할 수 있다.
본 개시내용에서, 원래의 U 및 V 좌표들은 양자화될 수 있다. 원래의 U 및 V 좌표들은, 인코딩 전에 양자화 프로세스에 기초하여 먼저 양자화되고, 디코딩 후에 역 양자화될 수 있다.
한 실시예에서, 선형 스칼라 양자화는 U 및 V 좌표들에 적용될 수 있다. 예를 들어, U 및 V 좌표들은 특정한 스칼라 인수로 나눌 수 있다. 또 다른 예에서, 상이한 양자화 스칼라들(예컨대, 상이한 스칼라 인수들)이 각각 U 좌표들 및 V 좌표들에 적용될 수 있다. 양자화 스칼라(예컨대, 스칼라 인수) 또는 상이한 양자화 스칼라들(예컨대, 상이한 스칼라 인수들)이 일부 실시예에서 비트스트림에서 시그널링될 수 있다. 디코더 측에서, 역 양자화는, 양자화 스칼라 또는 각각의 양자화 스칼라들을 2개의 좌표들 각각과 곱함으로써, 2개의 좌표들(예컨대, U 좌표들 및 V 좌표들) 각각에 적용될 수 있다.
한 실시예에서, 벡터 양자화는 U 및 V 좌표들의 쌍들에 적용될 수 있고, U 및 V 좌표들의 각각의 쌍은 각자의 U 좌표들 및 각자의 V 좌표들을 포함할 수 있다. 벡터 양자화에 따르면, U 및 V 좌표들의 각각의 쌍은 벡터 양자화와 연관된 벡터 사전에 대한 표시자에 의해 표현될 수 있다. 벡터 사전은, 비트스트림에서 추가적인 오버헤드로서 추가로 시그널링되거나 인코더(예컨대, (600) 또는(700)) 및 디코더(예컨대, (500) 또는(800))에 대해 미리훈련되고 고정될 수 있다.
양자화 후, UV 좌표들은 코딩될 수 있다. 예를 들어, UV 좌표들은 무손실 코딩될 수 있다. UV 좌표들의 무손실 코딩은, 이미지/비디오 압축에 기초하거나 정수 압축에 기초할 수 있다. 정수 압축은, 무손실 정수 압축 등의 임의의 정수 압축일 수 있다.
본 개시내용에서, UV 좌표들은 분리 프로세스에 기초하여 개별적으로 U 좌표들과 V 좌표들로 분리될 수 있다. 코덱이 추가로 적용되어 U 좌표들 또는 V 좌표들을 압축할 수 있다.
한 실시예에서, 메시 프레임의 UV 좌표들은 U 좌표들과 V 좌표들로 분리될 수 있다. 각각의 U 좌표들과 V 좌표들은 각각 2D 어레이로 추가로 재성형될 수 있다. 스네이크 스캔 순서, 래스터 스캔 순서, 지그재그 스캔 순서, 및 Hilbert 및 Morton 스캔 순서 등의, 임의의 공간 채우기 곡선이 2D 어레이를 채우기 위해 적용될 수 있다. 스캔 순서는 인코더(예컨대, (600) 또는(700)) 또는 디코더((500) 또는 (800)) 양쪽 모두에 대해 고정되거나, 시퀀스 헤더, 슬라이스 헤더 등의 고레벨 신택스에서 명시될 수 있다. 2D 어레이는 픽처로서 간주될 수 있다. 동적 메시들의 경우, 여러 2D 어레이가 생성되어 비디오를 형성할 수 있다. U 좌표들과 V 좌표들로부터 도출된 각각의 이미지/비디오(또는 2D 어레이)에 이미지/비디오 코덱이 적용될 수 있다. 일부 실시예에서, 무손실 코딩이 2D 어레이들 각각에 적용될 수 있다. 따라서, 이미지/비디오 코덱은 무손실 이미지/비디오 코덱일 수 있다.
다양한 스캔 순서들을 이용하여 U 좌표들과 V 좌표들을 2D 어레이로 재성형할 수 있다. 한 실시예에서, U 좌표들 또는 V 좌표들을 2D 어레이로 재성형하기 위해 래스터 스캔 순서가 적용될 수 있다.
한 실시예에서, U 좌표들 또는 V 좌표들을 2D 어레이로 재성형하기 위해 스네이크 스캔 순서가 적용될 수 있다. 한 예시적인 스네이크 스캔 순서가 도 10에 도시되어 있다. 예를 들어, 스네이크 스캔 순서의 스캔 방향은 (도 10에 도시된) 수평 방향 또는 수직 방향을 따를 수 있다.
한 실시예에서, U 좌표들 또는 V 좌표들을 2D 어레이로 재성형하기 위해 지그재그 스캔 순서가 적용될 수 있다. 한 예시적인 지그재그 스캔 순서가 도 11에 도시되어 있다.
분리 프로세스 후에, 비디오 코덱을 이용하여 U 좌표들과 V 좌표들 각각을 코딩할 수 있다. 한 예에서, 무손실 코딩이 적용될 수 있다. 예를 들어, 무손실 코딩은, (1) AVC/H.264 비디오 코덱, (2) HEVC/H.265 비디오 코덱, (3) VVC/H.266 비디오, (4) AVS2 비디오 코덱, (5) AVS3 비디오 코덱, (6) AV1 비디오 코덱, (7) JPEG 이미지 코덱, 또는(8) JPEG2000 이미지 코덱 중 하나에 기초하여 적용될 수 있다.
본 개시내용에서, 변환 프로세스(또는 변환)는 U 좌표들과 V 좌표들의 쌍들에 적용될 수 있다. 변환 프로세스의 변환 출력은 2개의 채널로 분리될 수 있다: 한 채널은 U 좌표들에 기초하고 다른 채널은 V 좌표들에 기초한다. 또한, 2개의 채널들 각각은 각자의 2D 어레이로 재성형될 수 있다. 이미지/비디오 코덱은 전술된 것과 유사한 방식으로 2개의 채널들 각각에 적용될 수 있다.
한 예에서, 가역 변환(예컨대, Harr 변환 또는 선형 비상관 변환)이 이용될 수 있다.
한 실시예에서, 2-탭 Haar 변환이 U 좌표들 및 V 좌표들의 쌍들에 적용될 수 있다.
한 실시예에서, 선형 비상관 변환(예컨대, 이산 코사인 변환)이 U 좌표들 및 V 좌표들의 쌍들에 적용될 수 있다.
또 다른 실시예에서, UV 좌표들은 U 좌표들과 V 좌표들로 분리될 수 있다. U 좌표들과 V 좌표들 각각은 정수 압축에 기초하여 무손실 코딩될 수 있다.
본 개시내용에서, U 좌표들 및/또는 V 좌표들의 값들은 이전의 코딩된 U 좌표들 및/또는 V 좌표들 등의 이전의 코딩된 정보로부터 예측될 수 있다. 따라서, 예측 잔차들의 목록이 생성될 수 있다. 일부 실시예에서, 예측 잔차들의 목록은 정수들의 목록일 수 있다. 예측 잔차들은, U 좌표들 및/또는 V 좌표들의 값들과 이전의 코딩된 U 좌표들 및/또는 V 좌표들 사이의 차이들일 수 있다. 한 실시예에서, 예측 잔차들은 정수 압축에 기초하여 추가로 무손실 코딩될 수 있다.
실시예에서, 예측 잔차들은 음이 아닌 정수들에 맵핑될 수 있다. 맵핑은 부호 비트를 예측 잔차의 값에 연접(concatenate)할 수 있다. 예를 들어, 맵핑 함수 f(n)은 다음과 같이 정의될 수 있다:
If n >= 0, f(n) = 2 * n
If n < 0, f(n) = -2 * n - 1
여기서 n은 예측 잔차일 수 있다. 맵핑에 기초하여, 예측 잔차는 음이 아닌 정수로 변경될 수 있다.
한 실시예에서, 예측 잔차의 부호 비트는 무손실 방식으로 별개로 코딩될 수 있는 반면, 예측 잔차의 절대값은 임의의 엔트로피 코더에 의해 코딩될 수 있다.
한 실시예에서, 비트 패킹은, 음이 아닌 정수들의 비트 길이를 더 감소시키기 위해 맵핑에 기초하여 획득된 음이 아닌 정수들에 적용될 수 있다. 예를 들어, 음이 아닌 정수들의 목록 {m1, m2, ..., mk}에서, 음이 아닌 정수들 각각이 n비트 정수들로서 표현될 수 있는 경우(여기서, n은 양의 정수), 음이 아닌 정수들의 목록은-음의 정수는 k*n개의 비트를 이용하여 비트 패킹에 의해 프리젠팅될 수 있다. 따라서, 음이 아닌 정수들의 목록은 비트들의 목록에 의해 프리젠팅될 수 있다. k는 음이 아닌 정수들의 목록 내의 음이 아닌 정수의 개수일 수 있다. n의 값은, 1바이트 등의 고정 길이 표현을 이용하여 인코더와 디코더 사이에서 전달될 수 있다. 또 다른 예에서, n은 2비트 또는 6비트일 수 있다.
한 실시예에서, 엔트로피 코딩 등의 무손실 압축이, 정수들의 목록, 예측된 잔차들의 목록, 음이 아닌 정수들의 목록, 또는 비트들의 목록에 적용될 수 있다.
한 실시예에서, 가변 길이 코딩이, 정수들의 목록, 예측된 잔차들의 목록, 음이 아닌 정수들의 목록, 또는 비트들의 목록에 적용될 수 있다.
한 실시예에서, Huffman 코딩이, 정수들의 목록, 예측된 잔차들의 목록, 음이 아닌 정수들의 목록, 또는 비트들의 목록에 적용될 수 있다.
한 실시예에서, 산술 코딩이, 정수들의 목록, 예측된 잔차들의 목록, 음이 아닌 정수들의 목록, 또는 비트들의 목록에 적용될 수 있다.
본 개시내용에서, UV 좌표들은 먼저 양자화될 수 있다. 양자화된 UV 좌표들은 추가로 무손실 코딩될 수 있다. 양자화된 UV 좌표들의 무손실 코딩은 이미지/비디오 압축 또는 정수 압축에 기초할 수 있다.
본 개시내용에서, UV 좌표들은 손실 코딩될 수 있다. UV 좌표들의 손실 코딩은 이미지/비디오 압축 또는 정수 압축에 기초할 수 있다.
한 실시예에서, UV 좌표들은 U 좌표들과 V 좌표들로 분리될 수 있다. 따라서, 2차원 UV 좌표들은 제1 차원의 U 좌표들과 제2 차원의 V 좌표들로 분할될 수 있다. U 좌표들과 V 좌표들 각각은 각자의 2D 어레이로 재성형될 수 있다. 손실 이미지/비디오 코덱은 U 좌표들 및 V 좌표들 각각에 더 적용될 수 있다. 손실 이미지/비디오 코덱은, (1) AVC/H.264 비디오 코덱, (2) HEVC/H.265 비디오 코덱, (3) VVC/H.266 비디오, (4) AVS2 비디오 코덱, (5) AVS3 비디오 코덱, (6) AV1 비디오 코덱, (7) JPEG 이미지 코덱, (8) JPEG2000 이미지 코덱을 포함할 수 있다.
한 실시예에서, U 좌표들 및 V 좌표들에 변환이 적용될 수 있다. 변환 출력은 2개의 채널로 분리될 수 있다: 한 채널은 U 좌표들에 기초하고, 다른 채널은 V 좌표들에 기초한다. 2개의 채널들 각각은 각자의 2D 어레이로 재성형될 수 있다. 그 다음, 손실 이미지/비디오 코덱이 2개의 채널들 각각에 적용될 수 있다.
한 실시예에서, UV 좌표들은 U 좌표들과 V 좌표들로 분리될 수 있다. U 좌표들과 V 좌표들 각각은 정수 압축에 기초하여 손실 코딩될 수 있다.
한 실시예에서, UV 좌표들은 양자화될 수 있다. 양자화된 UV 좌표들은 손실 코딩될 수 있다. 양자화된 UV 좌표들의 손실 코딩은 이미지/비디오 압축에 기초하거나 정수 압축에 기초할 수 있다.
한 실시예에서, UV 좌표들은 손실 코딩될 수 있다. UV 좌표들의 초기 값들과 예측들의 차이들일 수 있는 손실 코딩의 손실 압축 잔차들은 추가로 무손실 코딩될 수 있다.
한 실시예에서, UV 좌표들의 압축은 2개의 계층을 포함할 수 있고, 여기서 UV 좌표들에 관한 손실 압축은 베이스 계층일 수 있고, 베이스 계층의 잔차의 무손실 압축은 추가 계층일 수 있다. 한 실시예에서, 베이스 계층은 손실 이미지/비디오 코덱일 수 있다. 한 실시예에서, 베이스 계층은 정수들의 손실 압축(또는 손실 정수 압축)일 수 있다. 한 실시예에서, 추가 계층은 무손실 이미지/비디오 코덱일 수 있다. 한 실시예에서, 추가 계층은 정수들의 무손실 압축(또는 무손실 정수 압축)일 수 있다.
또 다른 실시예에서, UV 좌표들은 양자화될 수 있다. 양자화된 UV 좌표들은 손실 코딩될 수 있다. 양자화된 UV 좌표들의 손실 코딩의 손실 압축 잔차들은 추가로 무손실 코딩될 수 있다.
도 12는 본 개시내용의 한 실시예에 따른 프로세스(1200)를 개략적으로 나타내는 플로차트를 도시한다. 프로세스(1200)는 메시에 대한 인코딩 프로세스 동안 이용될 수 있다. 다양한 실시예에서, 프로세스(1200)는 처리 회로에 의해 실행된다. 일부 실시예에서, 프로세스(1200)는 소프트웨어 명령어들로 구현되고, 따라서, 처리 회로가 소프트웨어 명령어들을 실행할 때, 처리 회로는 프로세스(1200)를 수행한다. 프로세스는 (S1201)에서 시작하여 (S1210)으로 진행한다.
(S1210)에서, 3D 메시의 UV 좌표들이 수신될 수 있다. UV 좌표들은 제1 축에 U 좌표들을 포함하고 제2 축에 V 좌표들을 포함하는 2D 텍스처 좌표들일 수 있으며, 3D 메시의 정점들에 맵핑될 수 있다.
(S1220)에서, 3D 메시의 UV 좌표들은, 양자화 프로세스, 분리 프로세스, 변환 프로세스 중 적어도 하나에 기초하여 처리될 수 있다. 양자화 프로세스는 UV 좌표들을 복수의 표시자로 변환하도록 구성될 수 있다. 분리 프로세스는, UV 좌표들을 U 좌표들과 V 좌표들로 각각 분리하도록 구성될 수 있다. 변환 프로세스는 UV 좌표들을 공간 도메인으로부터 변환(또는 주파수) 도메인으로 변환하도록 구성될 수 있다.
(S1230)에서, 압축은 UV 좌표들의 처리 후 처리된 UV 좌표들에 관해 수행될 수 있다.
일부 실시예에서, 처리는 양자화 프로세스에 기초할 수 있다. 한 예에서, 각각 제1 스칼라 인수로 U 좌표들을 나누고 제2 스칼라 인수로 V 좌표들을 나눔으로써 UV 좌표들의 U 좌표들과 V 좌표들에 선형 스칼라 양자화가 적용될 수 있다. 또 다른 예에서, 벡터 양자화는 UV 좌표들의 복수의 UV 쌍에 적용될 수 있다. 복수의 UV 쌍들 중 각각의 UV 쌍은, 각자의 U 좌표 및 각자의 V 좌표들을 포함할 수 있고, 벡터 양자화의 벡터 사전에 대한 표시자에 의해 표현될 수 있다.
일부 실시예에서, 처리는 분리 프로세스에 기초한다. 따라서, UV 좌표들은 U 좌표들과 V 좌표들로 분리될 수 있다. UV 좌표들 중 U 좌표들에 기초하여 제1 2D 어레이가 생성될 수 있다. UV 좌표들 중 V 좌표들에 기초하여 제2 2D 어레이가 생성될 수 있다. 압축은 후속해서, 제1 2D 어레이에서 UV 좌표들 중 U 좌표들과 제2 2D 어레이에서 UV 좌표들 중 V 좌표들에 관해 각각 수행될 수 있다.
일부 실시예에서, 처리는 변환 프로세스에 기초한다. 따라서, 가역 변환, Haar 변환 또는 선형 비상관 변환 중 하나에 기초하여, UV 좌표들의 복수의 UV 쌍에 관해 변환 프로세스가 수행될 수 있다. 복수의 UV 쌍의 각각의 UV 쌍은, UV 좌표들의 각자의 U 좌표들 및 각자의 V 좌표들을 포함할 수 있다. UV 좌표들의 복수의 UV 쌍들의 변환된 U 좌표들에 기초하여 제1 채널 정보가 생성될 수 있고, UV 좌표들의 복수의 UV 쌍들의 변환된 V 좌표들에 기초하여 제2 채널 정보가 생성될 수 있다. UV 좌표들의 제1 채널 정보에 관해 및 UV 좌표들의 제2 채널 정보에 관해, 각각 압축이 더 수행될 수 있다.
프로세스(1200)에서, 이미지/비디오 압축 또는 UV 좌표들에 관한 정수 압축 중 하나에 기초하여, UV 좌표들에 관해 압축이 수행될 수 있다.
일부 실시예에서, UV 좌표들 중 U 좌표들의 값들은 이전 코딩된 U 좌표들의 값들에 기초하여 예측될 수 있다. U 좌표들의 예측 잔차들의 목록이 추가로 생성될 수 있다. UV 좌표들 중 V 좌표들의 값들은 이전에 코딩된 V 좌표들의 값들에 기초하여 생성될 수 있다. V 좌표들의 예측 잔차들의 목록이 추가로 생성될 수 있다.
일부 실시예에서, U 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 U 좌표들의 예측 잔차들의 목록에 관해 제1 맵핑 연산이 수행될 수 있다. V 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 V 좌표들의 예측 잔차들의 목록에 관해 제2 맵핑 연산이 생성될 수 있다.
일부 실시예에서, U 좌표들의 비트들의 목록을 생성하기 위해 U 좌표들의 음이 아닌 정수들의 목록에 관해 제1 비트 패킹 프로세스가 수행될 수 있다. V 좌표들의 비트들의 목록을 생성하기 위해 V 좌표들의 음이 아닌 정수들의 목록에 관해 제2 비트 패킹 프로세스가 수행될 수 있다.
일부 실시예에서, U 좌표들의 예측 잔차들의 목록, V 좌표들의 예측 잔차들의 목록, U 좌표들의 음이 아닌 정수들의 목록, V 좌표들의 음이 아닌 정수들의 목록, U 좌표들의 비트들의 목록, 또는 V 좌표들의 비트들의 목록 중 적어도 하나에 관해 압축이 수행될 수 있다. 일부 실시예에서, 압축은, 엔트로피 코딩, 가변 길이 코딩, Huffman 코딩, 또는 산술 코딩 중 하나에 기초하여 수행될 수 있다.
프로세스(1200)에서, 손실 이미지/비디오 코덱 및 손실 정수 압축 중 하나에 기초하여 UV 좌표들의 손실 압축 잔차들을 생성하기 위해 UV 좌표들에 관해 손실 압축이 수행될 수 있다. 무손실 이미지/비디오 코덱 및 무손실 정수 압축 중 하나에 기초하여 UV 좌표들의 손실 압축 잔차들에 관해 무손실 압축이 수행될 수 있다.
그 다음, 프로세스는 (S1299)로 진행하여 종료한다.
프로세스(1200)는 적절하게 조정될 수 있다. 프로세스(1200)의 단계(들)는 수정되거나 및/또는 생략될 수 있다. 추가적인 단계(들)가 추가될 수 있다. 임의의 적절한 구현 순서가 이용될 수 있다.
도 13은 본 개시내용의 한 실시예에 따른 프로세스(1300)를 개략적으로 나타내는 플로차트를 도시한다. 프로세스(1300)는 메시에 대한 디코딩 프로세스 동안에 이용될 수 있다. 다양한 실시예에서, 프로세스(1300)는 처리 회로에 의해 실행된다. 일부 실시예에서, 프로세스(1300)는 소프트웨어 명령어들로 구현되고, 따라서, 처리 회로가 소프트웨어 명령어들을 실행할 때, 처리 회로는 프로세스(1300)를 수행한다. 프로세스는 (S1301)에서 시작하여 (S1310)으로 진행한다.
(S1310)에서, 3D 메시의 UV 좌표들의 코딩된 정보가 수신될 수 있다. UV 좌표들은 제1 축에 U 좌표들을 포함하고 제2 축에 V 좌표들을 포함하는 2차원(2D) 텍스처 좌표들일 수 있으며, 3D 메시의 정점들에 맵핑될 수 있다.
(S1320)에서, 3D 메시의 UV 좌표들의 코딩된 정보에 관해 압축해제가 수행되어 3D 메시의 UV 좌표 정보를 획득할 수 있다.
(S1340)에서, 역 양자화 프로세스, 역 분리 프로세스, 또는 역 형성 프로세스 중 적어도 하나를 UV 좌표 정보에 적용함으로써 3D 메시의 UV 좌표들이 재구성될 수 있다. 역 양자화 프로세스는 복수의 표시자를 UV 좌표들로 변환하도록 구성될 수 있다. 역 분리 프로세스는 U 좌표들과 V 좌표들을 UV 좌표들로 병합하도록 구성될 수 있다. 역 변환 프로세스는 UV 좌표들을 변환 도메인으로부터 공간 도메인으로 변환하도록 구성할 수 있다.
그 다음, 프로세스는 (S1399)로 진행하여 종료한다.
프로세스(1300)는 적절하게 조정될 수 있다. 프로세스(1300)의 단계(들)는 수정되거나 및/또는 생략될 수 있다. 추가적인 단계(들)가 추가될 수 있다. 임의의 적절한 구현 순서가 이용될 수 있다.
위에서 설명된 기술들은 컴퓨터 판독가능한 명령어들을 이용하여 컴퓨터 소프트웨어로서 구현될 수 있고, 하나 이상의 컴퓨터 판독가능한 매체에 물리적으로 저장될 수 있다. 예를 들어, 도 14는 개시된 주제의 소정의 실시예들을 구현하기에 적합한 컴퓨터 시스템(1400)을 도시한다.
컴퓨터 소프트웨어는, 하나 이상의 컴퓨터 중앙 처리 유닛(CPU)들, 그래픽 처리 유닛(GPU)들 등에 의해, 직접, 또는 인터프리팅을 통해, 마이크로-코드 실행을 통해서 등에 의해 실행될 수 있는 명령어들을 포함한 코드를 생성하기 위해, 어셈블리, 컴파일, 링킹 또는 그 유사한 메커니즘들을 거칠 수 있는 임의의 적절한 머신 코드 또는 컴퓨터 언어를 이용하여 코딩될 수 있다.
명령어들은, 예를 들어 개인용 컴퓨터들, 태블릿 컴퓨터들, 서버들, 스마트폰들, 게임 디바이스들, 사물 인터넷 디바이스들 등을 포함하는, 다양한 유형의 컴퓨터 또는 컴포넌트에서 실행될 수 있다.
컴퓨터 시스템(1400)에 대해 도 14에 도시된 컴포넌트들은 본질적으로 예시적이며, 본 개시내용의 실시예들을 구현하는 컴퓨터 소프트웨어의 이용 또는 기능의 범위에 대한 어떠한 제한을 암시하기 위한 것은 아니다. 컴포넌트들의 구성이 컴퓨터 시스템(1400)의 실시예들에 예시된 컴포넌트들 중 어느 하나 또는 조합과 관련된 임의의 종속성 또는 요구조건을 갖는 것으로서 해석되어서도 안된다.
컴퓨터 시스템(1400)은 소정의 휴먼 인터페이스 입력 디바이스들을 포함할 수 있다. 이러한 휴먼 인터페이스 입력 디바이스는, 예를 들어 촉각 입력(키스트로크들, 스와이프들, 데이터 글러브 움직임들 등), 오디오 입력(음성, 박수 등), 시각적 입력(제스처들 등), 후각 입력(미도시)을 통해 한 명 이상의 인간 사용자에 의한 입력에 응답할 수 있다. 휴먼 인터페이스 디바이스들은, 오디오(음성, 음악, 주변 소리 등), 이미지들(스캔된 이미지들, 스틸 이미지 카메라로부터 획득된 사진 이미지들 등), 비디오(2차원 비디오, 입체 비디오를 포함하는 3차원 비디오 등) 등의, 인간에 의한 의식적 입력에 반드시 직접 관련될 필요는 없는 소정의 미디어를 캡처하는데에도 이용될 수 있다.
입력 휴먼 인터페이스 디바이스들은, 키보드(1401), 마우스(1402), 트랙패드(1403), 터치 스크린(1410), 데이터 글러브(미도시), 조이스틱(1405), 마이크로폰(1406), 스캐너(1407), 카메라(1408) 중 하나 이상(각각의 도시된 것들 중 하나만)을 포함할 수 있다.
컴퓨터 시스템(1400)은 또한, 소정의 휴먼 인터페이스 출력 디바이스들을 포함할 수 있다. 이러한 휴먼 인터페이스 출력 디바이스들은, 예를 들어 촉각 출력, 소리, 빛 및 냄새/미각을 통해 한 명 이상의 인간 사용자의 감각을 자극할 수 있다. 이러한 휴먼 인터페이스 출력 디바이스들은, 촉각적 출력 디바이스들(예를 들어, 터치스크린(1410), 데이터 클러브(미도시), 또는 조이스틱(1405)에 의한 촉각 피드백이지만, 입력 디바이스들로서 역할하지 않는 촉각적 피드백 디바이스들도 있을 수 있음), 오디오 출력 디바이스들(스피커(1409), 헤드폰(미도시) 등), 시각적 출력 디바이스들(CRT 스크린들, LCD 스크린들, 플라즈마 스크린들, OLED 스크린들을 포함하는 스크린들(1410) 등, 이들 각각은 터치스크린 입력 능력이 있거나 없으며, 이들 각각은 촉각 피드백 능력이 있거나 없으며 ― 그 일부는 입체 출력, 가상 현실 안경(미도시), 홀로그래픽 디스플레이들 및 스모크 탱크(미도시) 등의 수단을 통해 2차원 시각적 출력 또는 3차원 이상의 출력을 출력할 수 있음), 및 프린터들(미도시)을 포함할 수 있다.
컴퓨터 시스템(1400)은 또한, 인간이 액세스할 수 있는 저장 디바이스들과, CD/DVD 또는 이와 유사한 매체(1421)를 갖는 CD/DVD ROM/RW 드라이브(1420), 썸 드라이브(1422), 착탈식 하드 드라이브 솔리드-스테이트 드라이브(1423), 테이프 및 플로피 디스크(미도시) 등의 레거시 자기 매체, 보안 동글(미도시) 등의 전문화된 ROM/ASIC/PLD 기반의 디바이스들 등을 포함하는, 광학 매체 등의 그들의 연관된 매체를 포함할 수 있다.
본 기술분야의 통상의 기술자라면 또한, 본 개시된 주제와 관련하여 사용되는 용어 "컴퓨터 판독가능한 매체"는, 전송 매체, 캐리어 파들, 또는 기타의 일시적 신호들을 포함하지 않는다는 것을 이해해야 한다.
컴퓨터 시스템(1400)은 또한, 하나 이상의 통신 네트워크(1455)에 대한 인터페이스(1454)를 포함할 수 있다. 네트워크들은, 예를 들어, 무선, 유선, 광학적일 수 있다. 네트워크들은 또한, 로컬, 광역, 대도시권, 차량 및 산업, 실시간, 지연 허용 등일 수 있다. 네트워크들의 예들은, Ethernet, 무선 LAN들, GSM, 3G, 4G, 5G, LTE 등을 포함하는 셀룰러 네트워크들, 케이블 TV, 위성 TV, 지상파 방송 TV를 포함하는 TV 유선 또는 무선 광역 디지털 네트워크, CANBus를 포함하는 차량 및 산업용 등의 근거리 통신 네트워크들을 포함한다. 소정의 네트워크들은 일반적으로 소정의 범용 데이터 포트들 또는 주변 버스들(1449)(예를 들어, 컴퓨터 시스템(1400)의 USB 포트들 등)에 부착된 외부 네트워크 인터페이스 어댑터들을 요구한다; 다른 것들은, 일반적으로, 후술되는 바와 같이, 시스템 버스로의 부착(예를 들어, PC 컴퓨터 시스템 내로의 Ethernet 인터페이스 또는 스마트폰 컴퓨터 시스템 내로의 셀룰러 네트워크 인터페이스)에 의해 컴퓨터 시스템(1400)의 코어에 통합된다. 이들 네트워크들 중 임의의 것을 이용하여, 컴퓨터 시스템((1400)은 다른 엔티티들과 통신할 수 있다. 이러한 통신은, 단방향이거나, 수신 전용(예를 들어, 방송 TV)이거나, 단방향 전송 전용(예를 들어, 소정의 CANbus 디바이스들에 대한 CANbus)이거나, 또는 예를 들어 로컬 또는 광역 디지털 네트워크들을 이용한 다른 컴퓨터 시스템들과의 양방향일 수 있다. 소정의 프로토콜들 및 프로토콜 스택들은 전술된 바와 같이 이들 네트워크들 및 네트워크 인터페이스들 각각에서 이용될 수 있다.
전술된 휴먼 인터페이스 디바이스들, 인간이 액세스할 수 있는 저장 디바이스들, 및 네트워크 인터페이스들은, 컴퓨터 시스템(1400)의 코어(1440)에 부착될 수 있다.
코어(1440)는, 하나 이상의 중앙 처리 유닛(CPU)(1441), 그래픽 처리 유닛(GPU)(1442), FPGA(Field Programmable Gate Areas)(1443) 형태의 전문화된 프로그램가능한 처리 유닛, 소정의 작업들을 위한 하드웨어 가속기(1444), 그래픽 어댑터(1450) 등을 포함할 수 있다. 이들 디바이스들은, 판독 전용 메모리(ROM)(1445), 랜덤 액세스 메모리(1446), 사용자가 액세스할 수 없는 내부 하드 드라이브들, SSD들, 기타 등등(1447)과 같은 내부 대용량 스토리지와 함께, 시스템 버스(1448)를 통해 접속될 수 있다. 일부 컴퓨터 시스템에서, 시스템 버스(1448)는, 추가적인 CPU들, GPU 등에 의한 확장을 가능케하는 하나 이상의 물리적 플러그의 형태로 액세스될 수 있다. 주변 디바이스들은 코어의 시스템 버스(1448)에 직접 부착되거나, 주변 버스(1449)를 통해 부착될 수 있다. 한 예에서, 스크린(1410)은 그래픽 어댑터(1450)에 접속될 수 있다. 주변 버스를 위한 아키텍처들은 PCI, USB 등을 포함한다.
CPU들((1441), GPU들(1442), FPGA들(1443), 및 가속기들(1444)은, 조합하여 전술된 컴퓨터 코드를 구성할 수 있는 소정의 명령어들을 실행할 수 있다. 그 컴퓨터 코드는 ROM(1445) 또는 RAM(1446)에 저장될 수 있다. 임시 데이터도 역시 RAM(1446)에 저장될 수 있는 반면, 영구 데이터는 예를 들어 내부 대용량 스토리지(1447)에 저장될 수 있다). 임의의 메모리 디바이스로의 고속 저장 및 회수는, 하나 이상의 CPU(1441), GPU((1442), 대용량 스토리지(1447), ROM(1445), RAM(1446) 등과 밀접하게 연관될 수 있는 캐시 메모리의 이용을 통해 가능하게 될 수 있다.
컴퓨터 판독가능한 매체는 다양한 컴퓨터-구현된 동작을 수행하기 위한 컴퓨터 코드를 가질 수 있다. 매체 및 컴퓨터 코드는 본 개시내용의 목적을 위해 특별히 설계되고 구성된 것일 수 있거나, 이들은, 컴퓨터 소프트웨어 기술분야의 기술자들에게 널리 공지되고 이용가능한 종류일 수 있다.
제한이 아닌 예로서, 아키텍처(1400)를 갖는 컴퓨터 시스템, 특히 코어(1440)는 하나 이상의 유형의 컴퓨터 판독가능한 매체에 구현된 소프트웨어를 실행하는 (CPU들, GPU들, FPGA, 가속기들 등을 포함한) 프로세서(들)의 결과로서 기능을 제공할 수 있다. 이러한 컴퓨터 판독가능한 매체는, 코어-내부 대용량 스토리지(1447)) 또는 ROM(1445) 등의 비일시적인 성질을 갖는 코어(1440)의 소정 스토리지 뿐만 아니라, 위에서 소개된 바와 같은 사용자 액세스가능한 대용량 스토리지와 연관된 매체일 수 있다. 본 개시내용의 다양한 실시예들을 구현하는 소프트웨어는 이러한 디바이스들에 저장되고 코어(1440)에 의해 실행될 수 있다. 컴퓨터 판독가능한 매체는, 특정한 수요에 따라 하나 이상의 메모리 디바이스 또는 칩을 포함할 수 있다. 소프트웨어는, 코어(1440) 및 특히 (CPU, GPU, FPGA 등을 포함한) 내부의 프로세서들로 하여금, RAM(1446)에 저장된 데이터 구조들을 정의하고 소프트웨어에 의해 정의된 프로세스들에 따라 이러한 데이터 구조들을 수정하는 것을 포함하는, 여기서 설명된 특정한 프로세스들 또는 특정한 프로세스들의 특정한 부분들을 실행하게 할 수 있다. 추가로 또는 대안으로서, 컴퓨터 시스템은, 여기서 설명된 특정한 프로세스들 또는 특정한 프로세스들의 특정한 부분들을 실행하는 소프트웨어를 대신하여 또는 이와 함께 동작할 수 있는, 하드와이어드 또는 기타의 방식으로 회로(예를 들어, 가속기(1444))로 구현된 로직의 결과로서 기능을 제공할 수 있다. 소프트웨어에 대한 참조는 로직을 포함할 수 있으며, 적절하다면, 그 반대의 경우도 마찬가지이다. 컴퓨터 판독가능한 매체에 대한 언급은, 적절한 경우, 실행을 위한 소프트웨어를 저장하는 회로(집적 회로(IC) 등), 실행을 위한 로직을 구현하는 회로, 또는 양쪽 모두를 포함할 수 있다. 본 개시내용은 하드웨어와 소프트웨어의 임의의 적절한 조합을 포괄한다.
본 개시내용은 수개의 예시적인 실시예들을 설명하였지만, 본 개시내용의 범위 내에 속하는, 변경들, 치환들, 및 다양한 대체 균등물들이 있다. 따라서, 본 기술분야의 통상의 기술자라면, 본 명세서에 명시적으로 도시되거나 설명되지는 않았더라도, 본 개시내용의 원리를 구현하고 그에 따라 그 사상과 범위 내에 속하는, 수많은 시스템 및 방법을 고안할 수 있다는 것을 이해할 것이다.

Claims (20)

  1. 3차원(3D) 메시의 UV 좌표들을 처리하는 방법으로서,
    상기 3D 메시의 UV 좌표들을 수신하는 단계 ― 상기 UV 좌표들은 제1 축에 U 좌표들을 포함하고 제2 축에 V 좌표들을 포함하는 2차원(2D) 텍스처 좌표들이고, 상기 3D 메시의 정점들에 맵핑됨 ―;
    양자화 프로세스, 분리 프로세스 및 변환 프로세스 중 적어도 하나에 기초하여 상기 3D 메시의 UV 좌표들을 처리하는 단계 ― 상기 양자화 프로세스는 상기 UV 좌표들을 복수의 표시자로 변환하도록 구성되고, 상기 분리 프로세스는 상기 UV 좌표들을 각각 U 좌표들 및 V 좌표들로 분리하도록 구성되고, 상기 변환 프로세스는 상기 UV 좌표들을 공간 도메인으로부터 변환 도메인으로 변환하도록 구성됨 ―; 및
    상기 UV 좌표들의 처리 후 처리된 UV 좌표들에 관해 압축을 수행하는 단계
    를 포함하는, 방법.
  2. 제1항에 있어서, 상기 처리하는 단계는 상기 양자화 프로세스에 기초하고, 상기 처리하는 단계는,
    상기 U 좌표들을 제1 스칼라 인수로 나누고 상기 V 좌표들을 제2 스칼라 인수로 나눔으로써, 상기 UV 좌표들의 U 좌표들 및 V 좌표들에 각각 선형 스칼라 양자화를 적용하는 단계; 및
    상기 UV 좌표들의 복수의 UV 쌍들에 벡터 양자화를 적용하는 단계 ― 상기 복수의 UV 쌍들의 각각의 UV 쌍은 각자의 U 좌표 및 각자의 V 좌표를 포함하고, 상기 벡터 양자화의 벡터 사전에 대한 표시자에 의해 표현됨 ―
    중 하나를 더 포함하는, 방법.
  3. 제1항에 있어서,
    상기 처리하는 단계는 상기 분리 프로세스에 기초하고, 상기 처리하는 단계는,
    상기 UV 좌표들을 상기 U 좌표들과 상기 V 좌표들로 분리하는 단계;
    상기 UV 좌표들 중 상기 U 좌표들에 기초하여 제1 2D 어레이를 생성하는 단계; 및
    상기 UV 좌표들 중 상기 V 좌표들에 기초하여 제2 2D 어레이를 생성하는 단계
    를 더 포함하고,
    상기 압축을 수행하는 단계는,
    상기 제1 2D 어레이 내의 상기 UV 좌표들 중 상기 U 좌표들에 관해 압축을 수행하는 단계; 및
    상기 제2 2D 어레이 내의 상기 UV 좌표들 중 상기 V 좌표들에 관해 압축을 수행하는 단계
    를 더 포함하는, 방법.
  4. 제1항에 있어서,
    상기 처리하는 단계는 상기 변환 프로세스에 기초하고, 상기 처리하는 단계는,
    가역 변환, Haar 변환, 또는 선형 비상관 변환 중 하나에 기초하여 상기 UV 좌표들의 복수의 UV 쌍들에 관해 상기 변환 프로세스를 수행하는 단계 ― 상기 복수의 UV 쌍들의 각각의 UV 쌍은 상기 UV 좌표들의 각자의 U 좌표 및 각자의 V 좌표를 포함함 ―; 및
    상기 UV 좌표들의 복수의 UV 쌍들의 변환된 U 좌표들에 기초한 제1 채널 정보, 및 상기 UV 좌표들의 복수의 UV 쌍들의 변환된 V 좌표들에 기초한 제2 채널 정보를 생성하는 단계
    를 더 포함하고,
    상기 압축을 수행하는 단계는,
    상기 UV 좌표들의 제1 채널 정보에 관해 압축을 수행하는 단계; 및
    상기 UV 좌표들의 제2 채널 정보에 관해 압축을 수행하는 단계
    를 더 포함하는, 방법.
  5. 제1항에 있어서, 상기 UV 좌표들에 관해 압축을 수행하는 단계는,
    상기 UV 좌표들에 관해 이미지/비디오 압축 또는 정수 압축 중 하나를 수행하는 단계를 더 포함하는, 방법.
  6. 제1항에 있어서,
    이전 코딩된 U 좌표들의 값들에 기초하여 상기 UV 좌표들 중 U 좌표들의 값들을 예측하고 상기 U 좌표들의 예측 잔차들의 목록을 생성하는 단계; 및
    이전 코딩된 V 좌표들의 값들에 기초하여 상기 UV 좌표들 중 V 좌표들의 값들을 예측하고 상기 V 좌표들의 예측 잔차들의 목록을 생성하는 단계
    를 더 포함하는, 방법.
  7. 제6항에 있어서,
    상기 U 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 상기 U 좌표들의 예측 잔차들의 목록에 관해 제1 맵핑 연산을 수행하는 단계; 및
    상기 V 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 상기 V 좌표들의 예측 잔차들의 목록에 관해 제2 맵핑 연산을 수행하는 단계
    를 더 포함하는, 방법.
  8. 제7항에 있어서,
    상기 U 좌표들의 비트들의 목록을 생성하기 위해 상기 U 좌표들의 음이 아닌 정수들의 목록에 관해 제1 비트 패킹 프로세스를 수행하는 단계; 및
    상기 V 좌표들의 비트들의 목록을 생성하기 위해 상기 V 좌표들의 음이 아닌 정수들의 목록에 관해 제2 비트 패킹 프로세스를 수행하는 단계
    를 더 포함하는, 방법.
  9. 제8항에 있어서,
    상기 압축을 수행하는 단계는, 상기 U 좌표들의 예측 잔차들의 목록, 상기 V 좌표들의 예측 잔차들의 목록, 상기 U 좌표들의 음이 아닌 정수들의 목록, 상기 V 좌표들의 음이 아닌 정수들의 목록, 상기 U 좌표들의 비트들의 목록, 또는 상기 V 좌표들의 비트들의 목록 중 적어도 하나에 관해 압축을 수행하는 단계를 포함하고,
    상기 압축은 엔트로피 코딩, 가변 길이 코딩, Huffman 코딩, 또는 산술 코딩 중 하나에 기초하여 수행되는, 방법.
  10. 제1항에 있어서, 상기 압축을 수행하는 단계는,
    손실 이미지/비디오 코덱 및 손실 정수 압축 중 하나에 기초하여 상기 UV 좌표들의 손실 압축 잔차들을 생성하기 위해 상기 UV 좌표들에 관해 손실 압축을 수행하는 단계; 및
    무손실 이미지/비디오 코덱 및 무손실 정수 압축 중 하나에 기초하여 상기 UV 좌표들의 손실 압축 잔차들에 관해 무손실 압축을 수행하는 단계
    를 더 포함하는, 방법.
  11. 3차원(3D) 메시의 UV 좌표들을 처리하기 위한 장치로서,
    처리 회로
    를 포함하고, 상기 처리 회로는:
    상기 3D 메시의 UV 좌표들을 수신하고 ― 상기 UV 좌표들은 제1 축에 U 좌표들을 포함하고 제2 축에 V 좌표들을 포함하는 2차원(2D) 텍스처 좌표들이고, 상기 3D 메시의 정점들에 맵핑됨 ―;
    양자화 프로세스, 분리 프로세스 및 변환 프로세스 중 적어도 하나에 기초하여 상기 3D 메시의 UV 좌표들을 처리하고 ― 상기 양자화 프로세스는 상기 UV 좌표들을 복수의 표시자로 변환하도록 구성되고, 상기 분리 프로세스는 상기 UV 좌표들을 각각 U 좌표들 및 V 좌표들로 분리하도록 구성되고, 상기 변환 프로세스는 상기 UV 좌표들을 공간 도메인으로부터 변환 도메인으로 변환하도록 구성됨 ―;
    상기 UV 좌표들의 처리 후 처리된 UV 좌표들에 관해 압축을 수행하도록
    구성되는, 장치.
  12. 제11항에 있어서, 상기 처리 회로는,
    상기 U 좌표들을 제1 스칼라 인수로 나누고 상기 V 좌표들을 제2 스칼라 인수로 나눔으로써, 상기 UV 좌표들의 U 좌표들 및 V 좌표들에 각각 적용되는 선형 스칼라 양자화; 및
    상기 UV 좌표들의 복수의 UV 쌍들에 적용되는 벡터 양자화 ― 상기 복수의 UV 쌍들의 각각의 UV 쌍은 각자의 U 좌표들 및 각자의 V 좌표들을 포함하고 상기 벡터 양자화의 벡터 사전에 대한 표시자에 의해 표현됨 ―
    중 하나를 수행함으로써 상기 양자화 프로세스에 기초하여 상기 UV 좌표들을 처리하도록 구성되는, 장치.
  13. 제11항에 있어서, 상기 처리 회로는,
    상기 UV 좌표들을 상기 U 좌표들과 상기 V 좌표들로 분리하고;
    상기 UV 좌표들 중 상기 U 좌표들에 기초하여 제1 2D 어레이를 생성하고;
    상기 UV 좌표들 중 상기 V 좌표들에 기초하여 제2 2D 어레이를 생성하고;
    상기 제1 2D 어레이 내의 상기 UV 좌표들 중 상기 U 좌표들에 관해 압축을 수행하고;
    상기 제2 2D 어레이 내의 상기 UV 좌표들 중 상기 V 좌표들에 관해 압축을 수행하도록
    구성되는, 장치.
  14. 제11항에 있어서, 상기 처리 회로는,
    가역 변환, Haar 변환, 또는 선형 비상관 변환 중 하나에 기초하여 상기 UV 좌표들의 복수의 UV 쌍들에 관해 변환 프로세스를 수행하고 ― 상기 복수의 UV 쌍들의 각각의 UV 쌍은 상기 UV 좌표들의 각자의 U 좌표 및 각자의 V 좌표를 포함함 ―;
    상기 UV 좌표들의 복수의 UV 쌍들의 변환된 U 좌표들에 기초한 제1 채널 정보, 및 상기 UV 좌표들의 복수의 UV 쌍들의 변환된 V 좌표들에 기초한 제2 채널 정보를 생성하고;
    상기 UV 좌표들의 제1 채널 정보에 관해 압축을 수행하고;
    상기 UV 좌표들의 제2 채널 정보에 관해 압축을 수행하도록
    구성되는, 장치.
  15. 제11항에 있어서, 상기 처리 회로는,
    상기 UV 좌표들에 관해 이미지/비디오 압축 또는 정수 압축 중 하나를 수행하도록 구성되는, 장치.
  16. 제11항에 있어서, 상기 처리 회로는,
    이전 코딩된 U 좌표들의 값들에 기초하여 상기 UV 좌표들 중 U 좌표들의 값들을 예측하고 상기 U 좌표들의 예측 잔차들의 목록을 생성하고;
    이전 코딩된 V 좌표들의 값들에 기초하여 상기 UV 좌표들 중 V 좌표들의 값들을 예측하고 상기 V 좌표들의 예측 잔차들의 목록을 생성하도록
    구성되는, 장치.
  17. 제16항에 있어서, 상기 처리 회로는,
    상기 U 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 상기 U 좌표들의 예측 잔차들의 목록에 관해 제1 맵핑 연산을 수행하고;
    상기 V 좌표들의 음이 아닌 정수들의 목록을 생성하기 위해 상기 V 좌표들의 예측 잔차들의 목록에 관해 제2 맵핑 연산을 수행하도록
    구성되는, 장치.
  18. 제17항에 있어서, 상기 처리 회로는,
    상기 U 좌표들의 비트들의 목록을 생성하기 위해 상기 U 좌표들의 음이 아닌 정수들의 목록에 관해 제1 비트 패킹 프로세스를 수행하고;
    상기 V 좌표들의 비트들의 목록을 생성하기 위해 상기 V 좌표들의 음이 아닌 정수들의 목록에 관해 제2 비트 패킹 프로세스를 수행하도록
    구성되는, 장치.
  19. 제18항에 있어서,
    상기 처리 회로는, 상기 U 좌표들의 예측 잔차들의 목록, 상기 V 좌표들의 예측 잔차들의 목록, 상기 U 좌표들의 음이 아닌 정수들의 목록, 상기 V 좌표들의 음이 아닌 정수들의 목록, 상기 U 좌표들의 비트들의 목록, 또는 상기 V 좌표들의 비트들의 목록 중 적어도 하나에 관해 압축을 수행하도록 구성되고,
    상기 압축은 엔트로피 코딩, 가변 길이 코딩, Huffman 코딩, 또는 산술 코딩 중 하나에 기초하여 수행되는, 장치.
  20. 제11항에 있어서, 상기 처리 회로는,
    손실 이미지/비디오 코덱 및 손실 정수 압축 중 하나에 기초하여 상기 UV 좌표들의 손실 압축 잔차들을 생성하기 위해 상기 UV 좌표들에 관해 손실 압축을 수행하고;
    무손실 이미지/비디오 코덱 및 무손실 정수 압축 중 하나에 기초하여 상기 UV 좌표들의 손실 압축 잔차들에 관해 무손실 압축을 수행하도록
    구성되는, 장치.
KR1020237016288A 2021-09-20 2022-09-14 Uv 좌표들의 코딩 KR20230088437A (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202163246218P 2021-09-20 2021-09-20
US63/246,218 2021-09-20
US17/943,269 US20230088886A1 (en) 2021-09-20 2022-09-13 Coding of uv coordinates
US17/943,269 2022-09-13
PCT/US2022/076423 WO2023044340A1 (en) 2021-09-20 2022-09-14 Coding of uv coordinates

Publications (1)

Publication Number Publication Date
KR20230088437A true KR20230088437A (ko) 2023-06-19

Family

ID=85572311

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020237016288A KR20230088437A (ko) 2021-09-20 2022-09-14 Uv 좌표들의 코딩

Country Status (6)

Country Link
US (1) US20230088886A1 (ko)
EP (1) EP4211656A4 (ko)
JP (1) JP2023548237A (ko)
KR (1) KR20230088437A (ko)
CN (1) CN116368523A (ko)
WO (1) WO2023044340A1 (ko)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6577310B1 (en) * 1998-12-01 2003-06-10 Samsung Electronics Co., Ltd. 3D mesh coding/decoding method and apparatus for error resilience and incremental rendering
US6982715B2 (en) * 2002-07-26 2006-01-03 Intel Corporation Mesh compression process
WO2009128660A2 (en) * 2008-04-18 2009-10-22 Electronics And Telecommunications Research Institute Method and apparatus for real time 3d mesh compression, based on quanitzation
US9965887B2 (en) * 2013-03-05 2018-05-08 Autodesk, Inc. Technique for mapping a texture onto a three-dimensional model
US10242484B1 (en) * 2017-10-17 2019-03-26 8i Limited UV mapping and compression

Also Published As

Publication number Publication date
EP4211656A1 (en) 2023-07-19
CN116368523A (zh) 2023-06-30
WO2023044340A1 (en) 2023-03-23
EP4211656A4 (en) 2023-12-27
US20230088886A1 (en) 2023-03-23
JP2023548237A (ja) 2023-11-15

Similar Documents

Publication Publication Date Title
CA3136071C (en) Method and apparatus for point cloud coding
US11417029B2 (en) Method and apparatus for point cloud coding
EP4200815A1 (en) Patch zippering for mesh compression
KR20230038754A (ko) 메시 압축을 위한 세그먼트 기반 압축 방법
US20230088886A1 (en) Coding of uv coordinates
US20230014820A1 (en) Methods and apparatuses for dynamic mesh compression
US11948336B2 (en) Method and apparatus for point cloud coding
US20230090677A1 (en) Coding connectivity in vertex reordering methods for mesh compression
US20230177738A1 (en) Dynamic mesh compression based on point cloud compression
US20230105452A1 (en) Method and apparatus of adaptive sampling for mesh compression by decoders
WO2023102290A1 (en) Method and apparatus for chart based mesh compression
KR20230058490A (ko) 3d 메시 압축에서의 2d 아틀라스 적응형 샘플링
WO2023081578A1 (en) Vertex connectivity coding for mesh compression
KR20230087554A (ko) 메시 압축을 위한 정점 재정렬
KR20230137993A (ko) 추론된 텍스처 좌표들을 갖는 메시 압축

Legal Events

Date Code Title Description
A201 Request for examination