KR102612539B1 - 다시점 비디오 부호화 및 복호화 방법 - Google Patents

다시점 비디오 부호화 및 복호화 방법 Download PDF

Info

Publication number
KR102612539B1
KR102612539B1 KR1020200176820A KR20200176820A KR102612539B1 KR 102612539 B1 KR102612539 B1 KR 102612539B1 KR 1020200176820 A KR1020200176820 A KR 1020200176820A KR 20200176820 A KR20200176820 A KR 20200176820A KR 102612539 B1 KR102612539 B1 KR 102612539B1
Authority
KR
South Korea
Prior art keywords
viewpoint
information
shooting
texture map
coordinates
Prior art date
Application number
KR1020200176820A
Other languages
English (en)
Other versions
KR20210077636A (ko
Inventor
김수웅
강정원
방건
이진호
이하현
임성창
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to US17/124,226 priority Critical patent/US11704839B2/en
Publication of KR20210077636A publication Critical patent/KR20210077636A/ko
Application granted granted Critical
Publication of KR102612539B1 publication Critical patent/KR102612539B1/ko

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • G06T9/001—Model-based coding, e.g. wire frame
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/97—Determining parameters from multiple pictures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/04—Texture mapping
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/10—Geometric effects
    • G06T15/20—Perspective computation
    • G06T15/205—Image-based rendering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00—Measuring arrangements characterised by the use of optical techniques
    • G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Graphics (AREA)
  • Signal Processing (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Generation (AREA)

Abstract

본 개시에서, 비트스트림으로부터 다시점 영상 (Multi-view image)의 3차원 공간을 나타내는 3차원 기하 정보, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보, 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보를 획득하는 단계, 상기 시점 종속 성분 정보로부터 현재 시점의 텍스쳐 맵에 대한 시점 종속 성분을 결정하는 단계, 상기 시점 독립 성분 정보의 시점 독립 성분과 상기 결정된 현재 시점에 대한 시점 종속 성분으로부터 상기 현재 시점의 텍스쳐 맵을 생성하는 단계, 상기 현재 시점의 텍스쳐 맵과 상기 3차원 기하 정보에 따라 구성된 3차원 공간에 따라, 현재 시점 영상을 복원하는 단계를 포함하는 다시점 영상 복호화 방법이 제공된다.

Description

다시점 비디오 부호화 및 복호화 방법 {MULTIVIEW VIDEO ENCODING AND DECODING METHOD}
본 개시는 다시점 영상의 시점 종속/독립 성분 분리 기반 부호화 렌더링 방법 및 장치에 대한 것이며, 보다 구체적으로는 다시점 영상의 시점 종속/독립 성분을 분리하여 영상 간 중복 성분을 제거하고 이를 이용하여 다시점 영상의 부호화 및 렌더링을 수행하는 방법 및 장치에 대한 것이다.
다시점 영상은 일정한 간격과 방향으로 배치된 다수의 카메라가 장착된 리그를 사용하여 촬영된 영상으로 시청자에게 다수시점의 영상을 제공 자연스러운 운동시차(motion parallax)를 경험할 수 있도록 하지만, 다수시점에 대한 방대한 영상 데이터를 저장해야 하는 단점이 있다.
최근 실감 콘텐츠에 대한 관심도가 폭발적으로 증가하고 방송 장비 및 영상 전송 기술의 발전에 따라 실감 콘텐츠를 영화나 TV같은 멀티미디어 산업에서도 이를 적극적으로 활용하려는 움직임이 늘어나고 있다.
실감 콘텐츠를 표현하는 방법 중 하나는 MVD 데이터(Multi-view plus depth data)를 활용하여 표현하는 방법이다. MVD 데이터는 짧은 간격으로 배치된 다수의 카메라를 활용하여 특정 시점의 영상과 깊이 정보를 획득한 데이터를 뜻한다. 이는 영상의 색상 정보, 깊이 정보 뿐만 아니라 촬영 시점의 카메라 위치정보를 활용, 기하학적으로 복원 및 합성하여 모델링을 수행할 수 있기 때문에 실감 콘텐츠를 표현하기 위한 원료로 널리 사용되고 있다. MVD 데이터는 촬영한 시점의 수가 많아질수록 완성도 높은 3차원 콘텐츠를 생성할 수 있다는 장점이 있으나 전송 시 그만큼의 영상을 추가적으로 보내야하기 때문에 전송 대역폭의 문제가 생길 수 있다. 또한 다시점 고화질의 영상을 가지고 있는 경우 저장 공간을 많이 요구한다는 단점도 존재한다.
본 개시의 기술적 과제는 다시점 영상을 효율적으로 부호화 하기 위해 (카메라)시점 종속/독립 속성을 분리하여 중복성 데이터를 제거하는 방법 및 장치를 제공하는 것이다.
본 개시의 다른 기술적 과제는 분리된 시점 종속/독립 속성이 원본 시점 영상을 복원하는 것 뿐만 아니라 시청자 시점(원본 데이터에 없는 시점) 영상을 생성하는데 활용될 수 있는 방법 및 장치를 제공하는 것이다.
본 개시에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 개시는 비트스트림으로부터 다시점 영상 (Multi-view image)의 3차원 공간을 나타내는 3차원 기하 정보, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보, 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보를 획득하는 단계, 상기 시점 종속 성분 정보로부터 현재 시점의 텍스쳐 맵에 대한 시점 종속 성분을 결정하는 단계, 상기 시점 독립 성분 정보의 시점 독립 성분과 상기 결정된 현재 시점에 대한 시점 종속 성분으로부터 상기 현재 시점의 텍스쳐 맵을 생성하는 단계, 상기 현재 시점의 텍스쳐 맵과 상기 3차원 기하 정보에 따라 구성된 3차원 공간에 따라, 현재 시점 영상을 복원하는 단계를 포함하는 다시점 영상 복호화 방법을 제공한다.
일 실시 예에 따르면, 상기 3차원 기하 정보는, 3차원 공간을 나타내는 삼각 메쉬 구조를 나타내는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 3차원 기하 정보는, 삼각 메쉬의 정점들의 3차원 위치를 나타내는 정점 위치 정보, 상기 삼각 메쉬의 정점들 간의 기하학적 연결을 나타내는 연결성 정보, 및 상기 삼각 메쉬의 정점에 대응되는 텍스쳐 맵의 2차원 위치를 나타내는 텍스쳐 맵 위치 정보 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 삼각 메쉬 구조는, 상기 3차원 공간의 복셀 단위로 결정되고, 복셀에 대한 삼각 메쉬 구조는 미리 설정된 복수의 삼각형 구조 패턴들 중 하나로 결정되는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 시점 종속 성분 정보는, 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분을 포함하는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 시점 종속 성분 정보로부터 현재 시점에 대한 시점 종속 성분을 결정하는 단계는, 상기 현재 시점에 따른 상기 복수의 촬영 시점 영상의 가중치를 계산하는 단계, 상기 복수의 촬영 시점 영상의 가중치에 따라, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분들의 가중 평균을 계산하는 단계, 상기 계산된 가중 평균에 따라, 상기 현재 시점에 대한 텍스쳐 맵의 시점 종속 성분을 결정하는 단계를 포함하는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 현재 시점에 따른 상기 복수의 촬영 시점 영상의 가중치를 계산하는 단계는, 상기 현재 시점과 상기 복수의 촬영 시점 영상의 시점 각도 차이 및 시점 위치 차이에 따라 상기 가중치를 결정하는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 시점 독립 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 평균 텍스쳐 맵으로부터 결정된 것을 특징으로 하고, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵과 상기 시점 독립 성분의 차분 값에 따라 결정되는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 다시점 영상 복호화 방법은, 상기 현재 시점에 대한 현재 시점 정보를 획득하는 단계를 더 포함하고, 상기 현재 시점 정보는 상기 현재 시점의 위치 정보, 회전 정보, 초점 정보, 중심 픽셀 좌표 정보를 포함하는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 현재 시점 영상을 복원하는 단계는, 상기 현재 시점 정보에 따라, 상기 현재 시점의 텍스쳐 맵의 2차원 좌표와 상기 3차원 공간의 3차원 좌표를 매칭하는 단계, 및 상기 매칭된 2차원 좌표와 3차원 좌표의 관계에 따라, 상기 현재 시점의 텍스쳐 맵으로부터 상기 현재 시점 영상을 복원하는 단계를 포함하는 것을 특징으로 할 수 있다.
본 개시는 다시점 영상을 구성하는 복수의 촬영 시점 영상으로부터 상기 다시점 영상의 3차원 공간을 나타내는 3차원 기하 정보를 생성하는 단계, 상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계, 상기 복수의 촬영 시점 영상의 텍스처 맵으로부터, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보를 획득하는 단계, 상기 3차원 기하 정보, 상기 시점 독립 성분 정보, 및 상기 시점 종속 성분 정보를 포함하는 비트스트림을 생성하는 단계를 포함하는 다시점 영상 부호화 방법이 제공된다.
일 실시 예에 따르면, 상기 3차원 기하 정보는, 3차원 공간을 나타내는 삼각 메쉬 구조를 나타내는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 3차원 기하 정보는, 삼각 메쉬의 정점들의 3차원 위치를 나타내는 정점 위치 정보, 상기 삼각 메쉬의 정점들 간의 기하학적 연결을 나타내는 연결성 정보, 및 상기 삼각 메쉬의 정점에 대응되는 텍스쳐 맵의 2차원 위치를 나타내는 텍스쳐 맵 위치 정보 중 적어도 하나를 포함하는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 삼각 메쉬 구조는, 상기 3차원 공간의 복셀 단위로 결정되고, 복셀에 대한 삼각 메쉬 구조는 미리 설정된 복수의 삼각형 구조 패턴들 중 하나로 결정되는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 시점 종속 성분 정보는, 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분을 포함하는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 시점 독립 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 평균 텍스쳐 맵으로부터 결정된 것을 특징으로 하고, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵과 상기 시점 독립 성분의 차분 값에 따라 결정되는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계는, 상기 복수의 촬영 시점 영상의 촬영 시점 정보를 획득하는 단계를 더 포함하고, 상기 촬영 시점 정보는 상기 촬영 시점 영상의 위치 정보, 회전 정보, 초점 정보, 중심 픽셀 좌표 정보를 포함하는 것을 특징으로 할 수 있다.
일 실시 예에 따르면, 상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계는, 상기 촬영 시점 정보에 따라, 상기 촬영 시점 영상의 텍스쳐 맵의 2차원 좌표와 상기 3차원 공간의 3차원 좌표를 매칭하는 단계, 및 상기 매칭된 2차원 좌표와 3차원 좌표의 관계에 따라, 상기 복수의 촬영 시점 영상으로부터 상기 복수의 촬영 시점 영상의 텍스쳐 맵을 생성하는 단계를 포함하는 것을 특징으로 할 수 있다.
본 개시는, 다시점 영상 부호화 방법에 따라 부호화된 다시점 영상의 부호화 데이터를 포함하는 비트스트림이 저장된 컴퓨터로 판독 가능한 기록 매체에 있어서, 상기 다시점 영상 부호화 방법은, 다시점 영상을 구성하는 복수의 촬영 시점 영상으로부터 상기 다시점 영상의 3차원 공간을 나타내는 3차원 기하 정보를 생성하는 단계, 상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계, 상기 복수의 촬영 시점 영상의 텍스처 맵으로부터, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보을 획득하는 단계, 상기 3차원 기하 정보, 상기 시점 독립 성분 정보, 및 상기 시점 종속 성분 정보를 포함하는 비트스트림을 생성하는 단계를 포함하는 것을 특징으로 하는 컴퓨터로 판독 가능한 기록 매체가 제공된다.
본 개시에 대하여 위에서 간략하게 요약된 특징들은 후술하는 본 개시의 상세한 설명의 예시적인 양상일 뿐이며, 본 개시의 범위를 제한하는 것은 아니다.
본 개시에 따르면, 다시점 영상의 시점 종속/독립 성분 분리 기반 부호화 및 렌더링 방법 및 장치가 제공될 수 있다.
또한, 본 개시에 따르면, 다시점 영상으로부터 생성된 시점 종속/독립 성분을 활용하여 색상 정보의 손실을 최소화하고, 부호화에 용이하게 표현하는 영상 변환 방법이 제공될 수 있다.
또한, 본 개시에 따르면, 시점 종속 성분을 조합하여 원본 시점 뿐만 아니라 원본 데이터에 없는 시점의 2D 영상을 복원해낼 수 있다.
본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 개시의 일 실시예에 따른 다시점 영상의 획득 예시를 나타낸 도면이다.
도 2는 본 개시의 일 실시예에 따른, 카메라의 시점 변화로 인해 다른 컬러를 가지는 객체의 예시를 나타낸 도면이다.
도 3은 본 개시의 일 실시예에 따른, 다시점 영상의 3차원 변환을 나타내는 도면이다.
도 4는 본 개시의 일 실시예에 따른, 삼각 메쉬 모델의 구조를 나타내는 도면이다.
도 5는 본 개시의 일 실시예에 따른, 삼각 메쉬의 매개변수화(mesh parameterization)를 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시예에 따른, 무게 중심 보간법을 설명하기 위한 도면이다.
도 7은 본 개시의 일 실시예에 따른, 다시점 영상의 시점 종속/독립 성분 분리를 위한 영상 변환을 설명하기 위한 도면이다.
도 8은 본 개시의 일 실시예에 따른, 다시점 영상 부호화 시스템을 나타낸다.
도 9는 본 개시의 일 실시예에 따른, 다시점 영상 부호화 시스템의 시점 종속/독립 성분 분리 모듈을 나타낸다.
도 10은 다시점 영상의 시점 종속/독립 성분 분리의 예시를 나타낸 도면이다.
도 11은 본 개시의 일 실시예에 따른, 시청자 시점 적응형 렌더링 방법을 설명하기 위한 도면이다.
도 12는 본 개시의 일 실시예에 따른, 4x4 볼륨 데이터의 2차원 마칭 스퀘어 알고리즘의 예시를 나타낸 도면이다.
도 13은 본 개시의 일 실시예에 따른, 마칭 큐브 알고리즘의 8개 복셀 정점의 인덱싱을 설명하기 위한 도면이다.
도 14는 본 개시의 일 실시예에 따른, 마칭 큐브 알고리즘의 12개 정점 인덱싱을 설명하기 위한 도면이다.
도 15는 본 개시의 일 실시예에 따른, 상기 예시로 설명된 2번째 삼각화 유형의 연결구조의 예시를 설명하기 위한 도면이다.
도 16은 본 개시의 일 실시예에 따른, 마칭 큐브의 15개 삼각화 패턴을 설명하기 위한 도면이다.
도 17은 본 개시의 일 실시예에 따른, 공간을 촬영한 컬러 영상과 깊이 영상 시퀀스의 예시를 나타낸다.
도 18은 본 개시의 일 실시예에 따른, 도 17의 깊이 영상 시퀀스를 이용해 볼륨 데이터를 구성한 예시를 나타낸다.
도 19는 본 개시의 일 실시예에 따른, 도 18의 볼륨 데이터와 마칭 큐브 알고리즘을 이용해 3차원 메쉬를 생성한 예시를 나타낸다.
도 20은 본 개시의 일 실시예에 따른, 도 19의 3차원 메쉬에 도 17의 컬러 영상을 매핑하여 텍스쳐를 표시한 예시를 나타낸다.
도 21은 본 개시의 일 실시예에 따른, 메쉬 매개변수화(mesh parameterization) 및 UV Map 생성의 예시를 나타낸다.
도 22 내지 35에서 마칭 큐브 패턴 1~14에 대한 정점들의 UV 좌표가 설명된다.
도 36은 본 개시의 일 실시예에 따른 기하 정보와 텍스쳐 정보를 저장하기 위한 데이터 리스트를 나타낸다.
도 37은 일 실시 예에 따른 다시점 영상 복호화 방법을 도시한다.
도 38은 일 실시 예에 따른 다시점 영상 부호화 방법을 도시한다.
이하에서는 첨부한 도면을 참고로 하여 본 개시의 실시 예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나, 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다.
본 개시에 있어서, 어떤 구성요소가 다른 구성요소와 "연결", "결합" 또는 "접속"되어 있다고 할 때, 이는 직접적인 연결관계 뿐만 아니라, 그 중간에 또 다른 구성요소가 존재하는 간접적인 연결관계도 포함할 수 있다. 또한 어떤 구성요소가 다른 구성요소를 "포함한다" 또는 "가진다"고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 배제하는 것이 아니라 또 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
본 개시는 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 개시를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다. 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 과장될 수 있다. 후술하는 예시적 실시예들에 대한 상세한 설명은, 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 실시예를 실시할 수 있기에 충분하도록 상세히 설명된다. 다양한 실시예들은 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 개시의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 실시예의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 예시적 실시예들의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다.
본 개시에 있어서, 제1, 제2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용되며, 특별히 언급되지 않는 한 구성요소들 간의 순서 또는 중요도 등을 한정하지 않는다. 따라서, 본 개시의 범위 내에서 일 실시 예에서의 제1 구성요소는 다른 실시 예에서 제2 구성요소라고 칭할 수도 있고, 마찬가지로 일 실시 예에서의 제2 구성요소를 다른 실시 예에서 제1 구성요소라고 칭할 수도 있다.
본 개시에 있어서, 서로 구별되는 구성요소들은 각각의 특징을 명확하게 설명하기 위함이며, 구성요소들이 반드시 분리되는 것을 의미하지는 않는다. 즉, 복수의 구성요소가 통합되어 하나의 하드웨어 또는 소프트웨어 단위로 이루어질 수도 있고, 하나의 구성요소가 분산되어 복수의 하드웨어 또는 소프트웨어 단위로 이루어질 수도 있다. 따라서, 별도로 언급하지 않더라도 이와 같이 통합된 또는 분산된 실시 예도 본 개시의 범위에 포함된다.
본 개시의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 개시의 본질에서 벗어나지 않는 한 본 개시의 권리범위에 포함된다.
본 개시에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 개시를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 개시에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. 즉, 본 개시에서 특정 구성을 “포함”한다고 기술하는 내용은 해당 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 본 개시의 실시 또는 본 개시의 기술적 사상의 범위에 포함될 수 있음을 의미한다.
본 개시의 일부의 구성 요소는 본 개시에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 개시는 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 개시의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 개시의 권리범위에 포함된다.
이하, 본 개시의 실시 예에 대하여 도면을 참조하여 설명하도록 한다.
도 1은 본 개시의 일 실시예에 따른 다시점 영상의 획득 예시를 나타낸 도면이다.
다시점 영상은 특정 영역에 대해 서로 다른 시점을 가진 다수의 카메라들이 동시에 촬영한 영상들로 구성되어 있다. 다시점 영상을 통해 시청자의 시점 변화에 적응적인 영상이 제공될 수 있다. 따라서 다시점 영상을 통해, 시청자는 운동 시차 재현을 통한 입체감을 느낄 수 있다. 넓은 영역에 대해 조밀한 간격으로 카메라를 배치하여 다시점 영상을 획득한다면, 시청자에게 자유로운 시점 변화와 부드러운 운동 시차 재현을 제공할 수 있지만, 시점의 수에 비례하여 영상 데이터의 크기가 증가할 수 있다. 그러므로, 다시점 영상을 이용한 비디오 콘텐츠를 서비스하기 위해서는 시점 수 증가에 따른 데이터량 증가를 최소화할 수 있는 부호화 기법이 요구된다.
따라서, 본 개시는 다시점 영상의 부호화를 위해 각 시점 영상 간 데이터 중복성을 효율적으로 제거할 수 있는 시점 종속/독립 성분 분해 및 부호화 시스템을 제안한다. 또한, 본 개시는 제안하는 시점 종속/독립 성분을 이용한 시청자 시점의 영상을 렌더링하는 방법을 제안한다.
도 2는 본 개시의 일 실시예에 따른, 카메라의 시점 변화로 인해 다른 컬러를 가지는 객체의 예시를 나타낸 도면이다.
다시점 영상에서, 인접 시점 영상 간의 공간적 중복도가 높다. 하지만, 공간적 중복도가 높다고 하더라도, 도 2와 같이, 카메라의 시차, 피사체의 배치, 및 표면 속성 등의 요인으로 인하여, 각 시점 영상마다 객체가 다른 컬러를 가질 수 있다. 예를 들어, 시점의 위치에 따라 거울에 반사되는 장면, 그림자의 모습, 또는 금속에 반사되는 빛은 다른 모습을 보일 수 있다.
본 개시에서는 특정한 시점에서만 반사된 빛을 볼 수 있는 시점 종속 성분(주로 정반사)과 어느 시점에서도 반사된 빛을 볼 수 있는 시점 독립 성분(주로 난반사)을 구분하여 각 시점 영상이 표현될 수 있다.
아래 수학식 1은 , 영상을 시점 종속/독립 성분의 합으로 표현한 식이다. 수학식 1에서 는 다시점 영상의 k번째 시점 정보(카메라의 위치, 회전, 캘리브레이션 정보 등)를 나타낸다. 또한, 는 시점에서 획득한 영상을 나타낸다. 는 시점에 영향을 받지 않는 독립 성분을 나타낸다. 그리고 는 시점의 영향을 받는 종속 성분을 나타낸다.
시점 독립 성분은 시점과 관계 없이 다시점 영상의 모든 시점에 동일하게 적용 가능하다. 시점 종속 성분은 시점에 영향을 받기 때문에 다시점 영상의 시점 마다 서로 다른 값을 가진다. 발광체를 제외한 대부분의 사물들은 주로 빛을 난반사하기 때문에 각 시점 영상 간 시점 독립 성분의 중복성이 높다. 그러므로 시점 종속 성분과 시점 독립 성분을 분리할 수 있다면, 다시점 영상의 각 시점 영상 간 중복 정보를 제거함으로써 효율적인 부호화가 가능하다. 하지만 3차원 상의 한 점은 각 시점 영상 마다 서로 다른 픽셀 좌표로 투영되기 때문에 2차원 영상 좌표 상에서 공간적 중복성을 분석하여 시점 종속/독립 성분을 분리하기 어렵다.
도 3은 본 개시의 일 실시예에 따른, 다시점 영상의 3차원 변환을 나타내는 도면이다.
시점 종속/독립 성분을 예측하기 위해서는 각 시점 영상의 컬러 값을 비교해야 한다. 3차원 공간 상의 한 점은 각 시점 영상 마다 서로 다른 픽셀 위치에 매핑되기 때문에, 2차원 공간에서 3차원 공간 상의 한 점을 동일한 픽셀 위치에서 비교할 수 없다. 다시점 영상의 3차원 복원을 통해 각 시점의 픽셀 좌표를 3차원 좌표로 변환하면 동일한 공간 상의 한 점에서 각 시점 영상에 매핑된 컬러 값을 수집할 수 있다. 서로 다른 픽셀 좌표에 있지만 같은 3차원 공간 좌표에서 투영된 영상 성분들을 수집하여 시점 종속/독립 성분을 분리한다.
도 4는 본 개시의 일 실시예에 따른, 삼각 메쉬 모델의 구조를 나타내는 도면이다.
본 개시에서는 다시점 영상의 3차원 기하 정보를 저장하기 위해 삼각 메쉬(Triangular Mesh) 구조를 사용한다. 본 개시에서 사용하는 삼각 메쉬 구조는 (1)각 정점(vertex)의 3차원 위치를 나타내는 기하 정보, (2)정점들 간의 기하학적 연결로 삼각형을 표현하는 연결성 정보, 그리고 (3)각 정점의 2차원 텍스쳐 맵의 좌표로 구성될 수 있다. 이때, 삼각 메시 모델은 다시점 영상의 각 시점 영상들을 이용한 공간 재구성(surface reconstruction) 기법을 사용하여 획득할 수 있다. 또한, 텍스쳐 맵 좌표는 메시 모델의 매개변수화 (mesh parameterization)기법을 사용하여 획득할 수 있다.
이하, 삼각 메쉬 표면의 3차원 좌표를 2차원 영상 좌표로 변환하는 방법의 일 실시예가 수학식 2에 따라 설명된다. 상기 수학식 2에서 시점 정보 는 카메라의 캘리브레이션, 회전, 위치 정보 등을 담고 있다. 구체적으로, fx, fy는 x, y 축 방향의 픽셀 단위로 계산한 초점 거리를 나타낸다. cx, cy는 영상 센서의 중심 픽셀 좌표를 나타낸다. Rx, Ry, Rz는 카메라의 3차원 축 회전 정보를 나타낸다. tx, ty, tz는 카메라의 3차원 위치 정보를 나타낸다.
이하, 삼각 메쉬 표면의 3차원 좌표를 2차원 영상 좌표로 변환하는 방법의 일 실시예가 수학식 3 내지 6에 따라 설명된다.
메쉬 표면의 3차원 좌표 는 수학식3을 통해 2차원 영상 좌표 로 좌표 변환 될 수 있다.
수학식 4는 수학식 3의 카메라 내부 행렬 K를 나타낸다.
수학식 5는 수학식 3의 카메라 회전변환 행렬 R을 나타낸다.
수학식 6은 수학식 3의 카메라 이동벡터 t를 나타낸다.
도 5는 본 개시의 일 실시예에 따른, 삼각 메쉬의 매개변수화(mesh parameterization)를 설명하기 위한 도면이다.
이하, 삼각 메쉬의 3차원 정점 좌표를 2차원 텍스쳐 맵 좌표로 변환하는 방법이 설명된다. 3차원 삼각 메쉬의 각 정점 좌표들은 수학식 7의 메쉬 매개변수화 함수 를 통해 2차원 텍스쳐 맵 평면상에 매핑될 수 있다. 수학식 7에서, S는 3차원 삼각 메쉬, D는 2차원 평면 상에 임베딩(embedding)된 삼각 메쉬를 나타낸다.
또한, 메쉬 매개변수화 함수 의 역함수를 사용하여 텍스쳐 맵 좌표에서 메쉬 표면 좌표가 매핑될 수 있다. 그리고 본 개시의 도 4와 같은 메쉬 구조는 각 정점의 3차원 좌표와 2차원 텍스쳐 맵의 좌표를 미리 계산하여 저장할 수 있다.
도 6은 본 개시의 일 실시예에 따른, 무게 중심 보간법을 설명하기 위한 도면이다.
정점 가 삼각형을 이루고 있을 때, 삼각형 안의 점 p의 좌표는 무게 중심 보간법(barycentric interpolation)를 사용해서 계산할 수 있다. 수학식 8은 점 p의 값의 결정에 사용되는 가중치인 λa, λb, λc의 결정 방법을 나타낸다.
점 p를 구성하는 p.X, p.Y, p.Z는 다음과 같이 수학식 9에 의해 계산될 수 있다.
또한, 점 p의 2차원 텍스쳐 맵 좌표를 구성하는 p.u, p.v는 수학식 10에 따라 계산될 수 있다.
도 7은 본 개시의 일 실시예에 따른, 다시점 영상의 시점 종속/독립 성분 분리를 위한 영상 변환을 설명하기 위한 도면이다.
본 개시에서는, 다시점 영상에서 시점 종속/독립 성분을 예측하기 위해서는 3차원 공간 상의 한 점에서 각 시점 영상의 서로 다른 영상 좌표에 투영된 위치의 컬러 값들이 분석될 수 있다. 그리고 삼각 메쉬 구조를 적용하고 각 시점 영상에서 수집된 컬러 값을 저장하기 위해 텍스쳐 맵이 사용될 수 있다. 예를 들어, 3차원 공간 상의 한 점에 대한 K개 시점 영상의 컬러를 비교할 수 있도록, 상기 3차원 공간 상의 한 점은 K개 텍스쳐 맵으로 변환될 수 있다.
즉, 도 7과 같이, 다시점 영상(2차원)에서 삼각 메쉬 모델(3차원)으로, 삼각 메쉬 모델(3차원)에서 텍스쳐 맵(2차원)으로 변환한다.
이하, 본 개시의 일 실시예에 따른, 메쉬 모델을 사용한 다시점 영상의 다시점 텍스쳐 맵 변환의 알고리즘이 설명된다.
우선, 시점 수 K개의 텍스쳐 맵 T0, T1, … TK-1이 초기화된다. 그리고 삼각 메쉬 모델의 모든 연결성 정보 ci에 대한 va, vb, vc가 결정될 수 있다.
또한, va, vb, vc가 구성하는 텍스쳐 맵 상의 삼각형에 속한 모든 픽셀 ((u, v)로 표현됨) 각각에 대하여, 다음과 같은 계산이 수행될 수 있다. 우선, 무게 중심 보간법을 사용한 좌표 계산 방법에 따라 2차원 픽셀 (u,v)에 대응되는 3차원 좌표 (X,Y,Z)가 계산될 수 있다. 예를 들어, 수학식 9에 따라, 2차원 픽셀 (u,v)에 대응되는 3차원 좌표 (X,Y,Z)가 계산될 수 있다.
그리고 3차원 좌표 (X,Y,Z)는 K개의 시점에 대한 K개의 영상 좌표 (x,y)로 변환될 수 있다. 예를 들어, 수학식 3에 따라, 3차원 좌표 (X,Y,Z)는 영상 좌표 (x,y)로 변환될 수 있다. 또한, Ik(x,y)의 컬러를 샘플링한 값 Tk(u,v)이 텍스쳐 맵에 저장될 수 있다. Ik(x,y)는 영상 I(θk)의 (x,y) 좌표의 컬러 값을 나타낸다.
이때, 는 영상 의 (x,y) 좌표의 컬러를 나타낼 수 있다.
아래의 수학식 11에 따라, K개의 텍스쳐 맵을 이용하여 1개의 시점 독립 텍스쳐 맵과 K개의 시점 종속 텍스쳐 맵을 생성할 수 있다.
이때, 시점 독립 텍스쳐 맵 Tind는 다시점 텍스쳐 맵의 평균 텍스쳐 맵일 수 있다. 그리고, 시점 종속 텍스쳐 맵 Tk dep는 k번째 시점 텍스쳐 맵과 시점 독립 텍스쳐 맵 Tind의 차분일 수 있다.
복수의 시점 영상들을 동일한 텍스쳐 맵 좌표로 정렬시켰기 때문에 상기 시점 종속/독립 성분 분해 방법 이외에 다른 시점 종속/독립 성분 분해 방법도 쉽게 적용될 수 있다.
도 8은 본 개시의 일 실시예에 따른, 다시점 영상 부호화 시스템을 나타낸다.
다시점 영상의 모든 데이터를 부호화하는 것은 효율적이지 않을 수 있다. 따라서, 도 8과 같이, 시점 종속/독립 성분을 분리하여 다시점 영상이 부호화될 수 있다. 본 개시에 따르면, N개 시점에서 촬영된 다시점 영상과 그로부터 복원된 3차원 삼각 메쉬 구조를 활용하여, 1개의 시점 독립 성분 텍스쳐 맵과 N개의 시점 종속 성분 텍스쳐 맵이 생성될 수 있다.
또한, 시점 독립 성분에 대하여, 각 시점에 동일하게 적용할 수 있는 하나의 데이터만 부호화될 수 있다. 또한, 시점 종속 성분에 대하여, 각 시점마다 존재하는 시점 종속 성분 데이터 모두가 부호화될 수 있다.
다시점 영상의 대부분의 정보는 시점 독립 성분에 포함될 수 있다. (영상의 대부분은 주로 난반사 성분에 해당) 또한, 시점 종속 성분의 영상 또는 텍스쳐 맵은 데이터 밀도가 희소(sparse)하다.
도 9는 본 개시의 일 실시예에 따른, 다시점 영상 부호화 시스템의 시점 종속/독립 성분 분리 모듈을 나타낸다.
도 9를 살펴보면, 시점 종속/독립 성분 분리 모듈은, 다시점 영상과 삼각 메쉬 모델을 1개의 시점 독립 성분(텍스쳐 맵)과 시점 수 만큼의 시점 종속 성분(텍스쳐 맵)으로 분리할 수 있다.
도 10은 다시점 영상의 시점 종속/독립 성분 분리의 예시를 나타낸 도면이다.
다시점 영상의 시점 종속/독립 성분 분리 방법
시점 독립 성분(다시점 텍스쳐 맵의 평균)이 대부분의 영상 데이터를 표현한다. 또한, 시점 종속 성분은 각 시점 텍스쳐 맵과 시점 독립 성분의 차분일 수 있다. 예를 들어, 도 10에 따르면, 시점 1 내지 5의 종속 성분은 시점 독립 성분과 시점 1 내지 5의 텍스쳐 맵과의 잔차 값으로 구성되어 있음을 알 수 있다.
이때, 각 시점 영상들을 동일 좌표에서 비교 가능하기 때문에, 다른 방식의 시점 종속/독립 성분의 모델링도 쉽게 할 수 있다.
본 개시의 시점 종속/독립 성분 분해 기법이 시청자 시점 적응형 영상 렌더링에도 적용될 수 있다.
영상 렌더링 시스템이 시청자의 시점 정보 를 헤드 마운트 디스플레이(head mounted display) 또는 시점 정보 감지 센서에 의해 입력 받을 수 있다. 시점 적응적 영상은 다음의 수학식 12와 같이 정의될 수 있다.
P(M,T,θ)는 레스터라이제이션(rasterization) 함수이다. 상기 함수에 따라, 시점정보 θ 의 카메라 정보, 위치, 자세를 고려하여 삼각 메쉬 M가 영상 평면에 투영되고, 입력된 텍스쳐 맵 T로부터 각 픽셀의 색상이 매핑될 수 있다.
사용자 시점 종속 성분 Idep(θu)는 시점 종속 텍스쳐 맵들을 가중치 합으로 블렌딩한 Tu dep 를 레스터라이제이션하여 생성한다.
가중치 Wk는 다시점 영상의 k번째 시점정보 θk와 사용자 시점 정보 θu의 거리를 이용해 계산된다. 예를 들어, 수학식 13에 따라, 가중치 Wk가 계산될 수 있다. 수학식 13에서 α는 두 시점의 3차원 회전의 거리에 대한 가중치를, β는 두 시점의 3차원 위치의 거리에 대한 가중치를 나타낸다. 그리고 Drot(Ra,Rb)는 두 시점의 3차원 회전행렬의 거리 함수를, Dpos(ta,tb)는 두 시점의 3차원 위치벡터의 거리 함수를 나타낸다.
이때, Drot의 계산 방법은 회전행렬의 거리를 계산하는 여러 방법 중에 선택될 수 있다.
그리고 Dpos(ta,tb)는 이하 수학식 14에 따라 계산될 수 있다.
도 11은 본 개시의 일 실시예에 따른, 시청자 시점 적응형 렌더링 방법을 설명하기 위한 도면이다.
상기 시청자 시점 적응형 렌더링 방법에 따르면, 시청자 시점 종속 성분이 추정될 수 있다. 그리고 부호화 데이터에 저장된 시점 종속 성분들이 시청자 시점을 고려해 조합(블렌딩)될 수 있다. 시청자 시점 적응형 영상은 시점 독립 성분과 시청자 시점 종속 성분의 합에 따라 결정될 수 있다.
시청자 시점이 변하면 시청자 시점 종속 성분만 재계산하여 시청자 시점 적응형 영상이 결정될 수 있다. 또한, 시정자 시점이 변해도 시점 독립 성분은 그대로 유지될 수 있다.
다시점 영상을 시청자의 시점 변화에 따라 실감나게 상영하기 위해서 시점 변화에 따른 시점 종속 성분이 잘 표현되어야 한다. 예를 들어, 스테인리스 주전자를 바라보며 움직이면 주전자의 반사 패턴이 위치에 따라 변해야 한다. 본 개시를 통해 원본 다시점 영상에 없는 새로운 시점의 종속 성분도 추정될 수 있다.
일반적인 삼각 메쉬 기반 다시점 영상은 다음과 같은 과정에 따라 3차원 복원될 수 있다.
1. 각 시점 영상의 픽셀들을 깊이 정보를 이용해 포인트 클라우드(Point Cloud)로 변환
2. 각 시점의 포인트 클라우드들을 시점 정보를 이용해 정합(Registration)
3. 정합된 포인트 클라우드로 부터 삼각화(Triangulation)을 통해 삼각 메쉬 생성
4. 메쉬 매개변수화(Mesh Parameterization)를 통해 메쉬 정점들의 2차원 UV 좌표 계산
5. 삼각 메쉬의 모든 삼각형을 다시점 영상에 투영하고 삼각형 내의 컬러들을 샘플링하여 2차원 UV 평면에 저장
삼각 메쉬의 텍스쳐를 표현하기 위해 2차원 UV평면에 저장된 컬러 값들을 UV 맵 또는 텍스쳐 맵이라고 한다.
다시점 영상의 해상도, 표현하는 공간의 범위 등이 커질수록 포인트 클라우드의 수가 많아지고 이로 인해 메쉬 생성을 위한 삼각화 계산이 복잡하고 오래 걸리게 된다.
이에 대한 대안으로 각 시점의 깊이 정보를 이용해 다시점 영상이 표현하는 공간을 균등한 복셀로 분할 후, 복셀 마다 메쉬를 생성하는 마칭 큐브 알고리즘이 있다. 마칭 큐브(Marching Cube) 알고리즘은 3차원 스칼라장(Scalar Field)으로 표현되는 볼륨 데이터(Volume Data)로 부터 등위면(Iso-surface)의 폴리곤 표면(Polygonal Surface)을 삼각형 메쉬(Triangular Mesh) 형태로 표현하는 방법이다.
마칭 큐브 알고리즘에서 사용하는 볼륨 데이터는 3차원의 규칙적인 그리드(Regular Grid) 형태로 복셀(Voxel)이라고 부르는 단위 정육면체(Cube)의 집합으로 이루어진다. 마칭 큐브 알고리즘은 불륨 데이터로 부터 등위값(Iso-value)이라고 지칭하는 특정 값을 가지는 동일한 레벨의 표면을 추출하는데 이것을 등위면(Iso-surface) 이라고 한다.
도 12는 본 개시의 일 실시예에 따른, 4x4 볼륨 데이터의 2차원 마칭 스퀘어 알고리즘의 예시를 나타낸 도면이다. 이때, 3차원은 마칭 큐브, 2차원은 마칭 스퀘어로 불릴 수 있다.
도 13은 본 개시의 일 실시예에 따른, 마칭 큐브 알고리즘의 8개 복셀 정점의 인덱싱을 설명하기 위한 도면이다. 마칭 큐브 알고리즘은 3차원 그리드에서 복셀의 8개 정점 값이 등위값보다 큰지 작은지를 판단하여, 해당 영역의 표면이 미리 정의된 256(=28)개의 삼각화 유형 중 하나로 설정될 수 있다.
case_index = 0;
if (voxel.corner[0] < isovalue) case_index |= 1;
if (voxel.corner[1] < isovalue) case_index |= 2;
if (voxel.corner[2] < isovalue) case_index |= 4;
if (voxel.corner[3] < isovalue) case_index |= 8;
if (voxel.corner[4] < isovalue) case_index |= 16;
if (voxel.corner[5] < isovalue) case_index |= 32;
if (voxel.corner[6] < isovalue) case_index |= 64;
if (voxel.corner[7] < isovalue) case_index |= 128;
삼각화 유형이 결정되면 해당 유형의 형태는 미리 정의된 룩업테이블(Lookup Table)에서 찾을 수 있다. 이하, 각 삼각화 유형에 대응되는 삼각형 구조 룩업 테이블의 예시가 설명된다.
int tri_table[256][16] =
{{-1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 3, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 1, 9, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 8, 3, 9, 8, 1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 10, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 3, 1, 2, 10, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{9, 2, 10, 0, 2, 9, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{2, 8, 3, 2, 10, 8, 10, 9, 8, -1, -1, -1, -1, -1, -1, -1},
{3, 11, 2, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 11, 2, 8, 11, 0, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 9, 0, 2, 3, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 11, 2, 1, 9, 11, 9, 8, 11, -1, -1, -1, -1, -1, -1, -1},
{3, 10, 1, 11, 10, 3, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 10, 1, 0, 8, 10, 8, 11, 10, -1, -1, -1, -1, -1, -1, -1},
{3, 9, 0, 3, 11, 9, 11, 10, 9, -1, -1, -1, -1, -1, -1, -1},
{9, 8, 10, 10, 8, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 7, 8, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 3, 0, 7, 3, 4, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 1, 9, 8, 4, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 1, 9, 4, 7, 1, 7, 3, 1, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 10, 8, 4, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{3, 4, 7, 3, 0, 4, 1, 2, 10, -1, -1, -1, -1, -1, -1, -1},
{9, 2, 10, 9, 0, 2, 8, 4, 7, -1, -1, -1, -1, -1, -1, -1},
{2, 10, 9, 2, 9, 7, 2, 7, 3, 7, 9, 4, -1, -1, -1, -1},
{8, 4, 7, 3, 11, 2, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{11, 4, 7, 11, 2, 4, 2, 0, 4, -1, -1, -1, -1, -1, -1, -1},
{9, 0, 1, 8, 4, 7, 2, 3, 11, -1, -1, -1, -1, -1, -1, -1},
{4, 7, 11, 9, 4, 11, 9, 11, 2, 9, 2, 1, -1, -1, -1, -1},
{3, 10, 1, 3, 11, 10, 7, 8, 4, -1, -1, -1, -1, -1, -1, -1},
{1, 11, 10, 1, 4, 11, 1, 0, 4, 7, 11, 4, -1, -1, -1, -1},
{4, 7, 8, 9, 0, 11, 9, 11, 10, 11, 0, 3, -1, -1, -1, -1},
{4, 7, 11, 4, 11, 9, 9, 11, 10, -1, -1, -1, -1, -1, -1, -1},
{9, 5, 4, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{9, 5, 4, 0, 8, 3, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 5, 4, 1, 5, 0, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{8, 5, 4, 8, 3, 5, 3, 1, 5, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 10, 9, 5, 4, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{3, 0, 8, 1, 2, 10, 4, 9, 5, -1, -1, -1, -1, -1, -1, -1},
{5, 2, 10, 5, 4, 2, 4, 0, 2, -1, -1, -1, -1, -1, -1, -1},
{2, 10, 5, 3, 2, 5, 3, 5, 4, 3, 4, 8, -1, -1, -1, -1},
{9, 5, 4, 2, 3, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 11, 2, 0, 8, 11, 4, 9, 5, -1, -1, -1, -1, -1, -1, -1},
{0, 5, 4, 0, 1, 5, 2, 3, 11, -1, -1, -1, -1, -1, -1, -1},
{2, 1, 5, 2, 5, 8, 2, 8, 11, 4, 8, 5, -1, -1, -1, -1},
{10, 3, 11, 10, 1, 3, 9, 5, 4, -1, -1, -1, -1, -1, -1, -1},
{4, 9, 5, 0, 8, 1, 8, 10, 1, 8, 11, 10, -1, -1, -1, -1},
{5, 4, 0, 5, 0, 11, 5, 11, 10, 11, 0, 3, -1, -1, -1, -1},
{5, 4, 8, 5, 8, 10, 10, 8, 11, -1, -1, -1, -1, -1, -1, -1},
{9, 7, 8, 5, 7, 9, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{9, 3, 0, 9, 5, 3, 5, 7, 3, -1, -1, -1, -1, -1, -1, -1},
{0, 7, 8, 0, 1, 7, 1, 5, 7, -1, -1, -1, -1, -1, -1, -1},
{1, 5, 3, 3, 5, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{9, 7, 8, 9, 5, 7, 10, 1, 2, -1, -1, -1, -1, -1, -1, -1},
{10, 1, 2, 9, 5, 0, 5, 3, 0, 5, 7, 3, -1, -1, -1, -1},
{8, 0, 2, 8, 2, 5, 8, 5, 7, 10, 5, 2, -1, -1, -1, -1},
{2, 10, 5, 2, 5, 3, 3, 5, 7, -1, -1, -1, -1, -1, -1, -1},
{7, 9, 5, 7, 8, 9, 3, 11, 2, -1, -1, -1, -1, -1, -1, -1},
{9, 5, 7, 9, 7, 2, 9, 2, 0, 2, 7, 11, -1, -1, -1, -1},
{2, 3, 11, 0, 1, 8, 1, 7, 8, 1, 5, 7, -1, -1, -1, -1},
{11, 2, 1, 11, 1, 7, 7, 1, 5, -1, -1, -1, -1, -1, -1, -1},
{9, 5, 8, 8, 5, 7, 10, 1, 3, 10, 3, 11, -1, -1, -1, -1},
{5, 7, 0, 5, 0, 9, 7, 11, 0, 1, 0, 10, 11, 10, 0, -1},
{11, 10, 0, 11, 0, 3, 10, 5, 0, 8, 0, 7, 5, 7, 0, -1},
{11, 10, 5, 7, 11, 5, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{10, 6, 5, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 3, 5, 10, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{9, 0, 1, 5, 10, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 8, 3, 1, 9, 8, 5, 10, 6, -1, -1, -1, -1, -1, -1, -1},
{1, 6, 5, 2, 6, 1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 6, 5, 1, 2, 6, 3, 0, 8, -1, -1, -1, -1, -1, -1, -1},
{9, 6, 5, 9, 0, 6, 0, 2, 6, -1, -1, -1, -1, -1, -1, -1},
{5, 9, 8, 5, 8, 2, 5, 2, 6, 3, 2, 8, -1, -1, -1, -1},
{2, 3, 11, 10, 6, 5, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{11, 0, 8, 11, 2, 0, 10, 6, 5, -1, -1, -1, -1, -1, -1, -1},
{0, 1, 9, 2, 3, 11, 5, 10, 6, -1, -1, -1, -1, -1, -1, -1},
{5, 10, 6, 1, 9, 2, 9, 11, 2, 9, 8, 11, -1, -1, -1, -1},
{6, 3, 11, 6, 5, 3, 5, 1, 3, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 11, 0, 11, 5, 0, 5, 1, 5, 11, 6, -1, -1, -1, -1},
{3, 11, 6, 0, 3, 6, 0, 6, 5, 0, 5, 9, -1, -1, -1, -1},
{6, 5, 9, 6, 9, 11, 11, 9, 8, -1, -1, -1, -1, -1, -1, -1},
{5, 10, 6, 4, 7, 8, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 3, 0, 4, 7, 3, 6, 5, 10, -1, -1, -1, -1, -1, -1, -1},
{1, 9, 0, 5, 10, 6, 8, 4, 7, -1, -1, -1, -1, -1, -1, -1},
{10, 6, 5, 1, 9, 7, 1, 7, 3, 7, 9, 4, -1, -1, -1, -1},
{6, 1, 2, 6, 5, 1, 4, 7, 8, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 5, 5, 2, 6, 3, 0, 4, 3, 4, 7, -1, -1, -1, -1},
{8, 4, 7, 9, 0, 5, 0, 6, 5, 0, 2, 6, -1, -1, -1, -1},
{7, 3, 9, 7, 9, 4, 3, 2, 9, 5, 9, 6, 2, 6, 9, -1},
{3, 11, 2, 7, 8, 4, 10, 6, 5, -1, -1, -1, -1, -1, -1, -1},
{5, 10, 6, 4, 7, 2, 4, 2, 0, 2, 7, 11, -1, -1, -1, -1},
{0, 1, 9, 4, 7, 8, 2, 3, 11, 5, 10, 6, -1, -1, -1, -1},
{9, 2, 1, 9, 11, 2, 9, 4, 11, 7, 11, 4, 5, 10, 6, -1},
{8, 4, 7, 3, 11, 5, 3, 5, 1, 5, 11, 6, -1, -1, -1, -1},
{5, 1, 11, 5, 11, 6, 1, 0, 11, 7, 11, 4, 0, 4, 11, -1},
{0, 5, 9, 0, 6, 5, 0, 3, 6, 11, 6, 3, 8, 4, 7, -1},
{6, 5, 9, 6, 9, 11, 4, 7, 9, 7, 11, 9, -1, -1, -1, -1},
{10, 4, 9, 6, 4, 10, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 10, 6, 4, 9, 10, 0, 8, 3, -1, -1, -1, -1, -1, -1, -1},
{10, 0, 1, 10, 6, 0, 6, 4, 0, -1, -1, -1, -1, -1, -1, -1},
{8, 3, 1, 8, 1, 6, 8, 6, 4, 6, 1, 10, -1, -1, -1, -1},
{1, 4, 9, 1, 2, 4, 2, 6, 4, -1, -1, -1, -1, -1, -1, -1},
{3, 0, 8, 1, 2, 9, 2, 4, 9, 2, 6, 4, -1, -1, -1, -1},
{0, 2, 4, 4, 2, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{8, 3, 2, 8, 2, 4, 4, 2, 6, -1, -1, -1, -1, -1, -1, -1},
{10, 4, 9, 10, 6, 4, 11, 2, 3, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 2, 2, 8, 11, 4, 9, 10, 4, 10, 6, -1, -1, -1, -1},
{3, 11, 2, 0, 1, 6, 0, 6, 4, 6, 1, 10, -1, -1, -1, -1},
{6, 4, 1, 6, 1, 10, 4, 8, 1, 2, 1, 11, 8, 11, 1, -1},
{9, 6, 4, 9, 3, 6, 9, 1, 3, 11, 6, 3, -1, -1, -1, -1},
{8, 11, 1, 8, 1, 0, 11, 6, 1, 9, 1, 4, 6, 4, 1, -1},
{3, 11, 6, 3, 6, 0, 0, 6, 4, -1, -1, -1, -1, -1, -1, -1},
{6, 4, 8, 11, 6, 8, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{7, 10, 6, 7, 8, 10, 8, 9, 10, -1, -1, -1, -1, -1, -1, -1},
{0, 7, 3, 0, 10, 7, 0, 9, 10, 6, 7, 10, -1, -1, -1, -1},
{10, 6, 7, 1, 10, 7, 1, 7, 8, 1, 8, 0, -1, -1, -1, -1},
{10, 6, 7, 10, 7, 1, 1, 7, 3, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 6, 1, 6, 8, 1, 8, 9, 8, 6, 7, -1, -1, -1, -1},
{2, 6, 9, 2, 9, 1, 6, 7, 9, 0, 9, 3, 7, 3, 9, -1},
{7, 8, 0, 7, 0, 6, 6, 0, 2, -1, -1, -1, -1, -1, -1, -1},
{7, 3, 2, 6, 7, 2, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{2, 3, 11, 10, 6, 8, 10, 8, 9, 8, 6, 7, -1, -1, -1, -1},
{2, 0, 7, 2, 7, 11, 0, 9, 7, 6, 7, 10, 9, 10, 7, -1},
{1, 8, 0, 1, 7, 8, 1, 10, 7, 6, 7, 10, 2, 3, 11, -1},
{11, 2, 1, 11, 1, 7, 10, 6, 1, 6, 7, 1, -1, -1, -1, -1},
{8, 9, 6, 8, 6, 7, 9, 1, 6, 11, 6, 3, 1, 3, 6, -1},
{0, 9, 1, 11, 6, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{7, 8, 0, 7, 0, 6, 3, 11, 0, 11, 6, 0, -1, -1, -1, -1},
{7, 11, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{7, 6, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{3, 0, 8, 11, 7, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 1, 9, 11, 7, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{8, 1, 9, 8, 3, 1, 11, 7, 6, -1, -1, -1, -1, -1, -1, -1},
{10, 1, 2, 6, 11, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 10, 3, 0, 8, 6, 11, 7, -1, -1, -1, -1, -1, -1, -1},
{2, 9, 0, 2, 10, 9, 6, 11, 7, -1, -1, -1, -1, -1, -1, -1},
{6, 11, 7, 2, 10, 3, 10, 8, 3, 10, 9, 8, -1, -1, -1, -1},
{7, 2, 3, 6, 2, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{7, 0, 8, 7, 6, 0, 6, 2, 0, -1, -1, -1, -1, -1, -1, -1},
{2, 7, 6, 2, 3, 7, 0, 1, 9, -1, -1, -1, -1, -1, -1, -1},
{1, 6, 2, 1, 8, 6, 1, 9, 8, 8, 7, 6, -1, -1, -1, -1},
{10, 7, 6, 10, 1, 7, 1, 3, 7, -1, -1, -1, -1, -1, -1, -1},
{10, 7, 6, 1, 7, 10, 1, 8, 7, 1, 0, 8, -1, -1, -1, -1},
{0, 3, 7, 0, 7, 10, 0, 10, 9, 6, 10, 7, -1, -1, -1, -1},
{7, 6, 10, 7, 10, 8, 8, 10, 9, -1, -1, -1, -1, -1, -1, -1},
{6, 8, 4, 11, 8, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{3, 6, 11, 3, 0, 6, 0, 4, 6, -1, -1, -1, -1, -1, -1, -1},
{8, 6, 11, 8, 4, 6, 9, 0, 1, -1, -1, -1, -1, -1, -1, -1},
{9, 4, 6, 9, 6, 3, 9, 3, 1, 11, 3, 6, -1, -1, -1, -1},
{6, 8, 4, 6, 11, 8, 2, 10, 1, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 10, 3, 0, 11, 0, 6, 11, 0, 4, 6, -1, -1, -1, -1},
{4, 11, 8, 4, 6, 11, 0, 2, 9, 2, 10, 9, -1, -1, -1, -1},
{10, 9, 3, 10, 3, 2, 9, 4, 3, 11, 3, 6, 4, 6, 3, -1},
{8, 2, 3, 8, 4, 2, 4, 6, 2, -1, -1, -1, -1, -1, -1, -1},
{0, 4, 2, 4, 6, 2, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 9, 0, 2, 3, 4, 2, 4, 6, 4, 3, 8, -1, -1, -1, -1},
{1, 9, 4, 1, 4, 2, 2, 4, 6, -1, -1, -1, -1, -1, -1, -1},
{8, 1, 3, 8, 6, 1, 8, 4, 6, 6, 10, 1, -1, -1, -1, -1},
{10, 1, 0, 10, 0, 6, 6, 0, 4, -1, -1, -1, -1, -1, -1, -1},
{4, 6, 3, 4, 3, 8, 6, 10, 3, 0, 3, 9, 10, 9, 3, -1},
{10, 9, 4, 6, 10, 4, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 9, 5, 7, 6, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 3, 4, 9, 5, 11, 7, 6, -1, -1, -1, -1, -1, -1, -1},
{5, 0, 1, 5, 4, 0, 7, 6, 11, -1, -1, -1, -1, -1, -1, -1},
{11, 7, 6, 8, 3, 4, 3, 5, 4, 3, 1, 5, -1, -1, -1, -1},
{9, 5, 4, 10, 1, 2, 7, 6, 11, -1, -1, -1, -1, -1, -1, -1},
{6, 11, 7, 1, 2, 10, 0, 8, 3, 4, 9, 5, -1, -1, -1, -1},
{7, 6, 11, 5, 4, 10, 4, 2, 10, 4, 0, 2, -1, -1, -1, -1},
{3, 4, 8, 3, 5, 4, 3, 2, 5, 10, 5, 2, 11, 7, 6, -1},
{7, 2, 3, 7, 6, 2, 5, 4, 9, -1, -1, -1, -1, -1, -1, -1},
{9, 5, 4, 0, 8, 6, 0, 6, 2, 6, 8, 7, -1, -1, -1, -1},
{3, 6, 2, 3, 7, 6, 1, 5, 0, 5, 4, 0, -1, -1, -1, -1},
{6, 2, 8, 6, 8, 7, 2, 1, 8, 4, 8, 5, 1, 5, 8, -1},
{9, 5, 4, 10, 1, 6, 1, 7, 6, 1, 3, 7, -1, -1, -1, -1},
{1, 6, 10, 1, 7, 6, 1, 0, 7, 8, 7, 0, 9, 5, 4, -1},
{4, 0, 10, 4, 10, 5, 0, 3, 10, 6, 10, 7, 3, 7, 10, -1},
{7, 6, 10, 7, 10, 8, 5, 4, 10, 4, 8, 10, -1, -1, -1, -1},
{6, 9, 5, 6, 11, 9, 11, 8, 9, -1, -1, -1, -1, -1, -1, -1},
{3, 6, 11, 0, 6, 3, 0, 5, 6, 0, 9, 5, -1, -1, -1, -1},
{0, 11, 8, 0, 5, 11, 0, 1, 5, 5, 6, 11, -1, -1, -1, -1},
{6, 11, 3, 6, 3, 5, 5, 3, 1, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 10, 9, 5, 11, 9, 11, 8, 11, 5, 6, -1, -1, -1, -1},
{0, 11, 3, 0, 6, 11, 0, 9, 6, 5, 6, 9, 1, 2, 10, -1},
{11, 8, 5, 11, 5, 6, 8, 0, 5, 10, 5, 2, 0, 2, 5, -1},
{6, 11, 3, 6, 3, 5, 2, 10, 3, 10, 5, 3, -1, -1, -1, -1},
{5, 8, 9, 5, 2, 8, 5, 6, 2, 3, 8, 2, -1, -1, -1, -1},
{9, 5, 6, 9, 6, 0, 0, 6, 2, -1, -1, -1, -1, -1, -1, -1},
{1, 5, 8, 1, 8, 0, 5, 6, 8, 3, 8, 2, 6, 2, 8, -1},
{1, 5, 6, 2, 1, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 3, 6, 1, 6, 10, 3, 8, 6, 5, 6, 9, 8, 9, 6, -1},
{10, 1, 0, 10, 0, 6, 9, 5, 0, 5, 6, 0, -1, -1, -1, -1},
{0, 3, 8, 5, 6, 10, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{10, 5, 6, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{11, 5, 10, 7, 5, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{11, 5, 10, 11, 7, 5, 8, 3, 0, -1, -1, -1, -1, -1, -1, -1},
{5, 11, 7, 5, 10, 11, 1, 9, 0, -1, -1, -1, -1, -1, -1, -1},
{10, 7, 5, 10, 11, 7, 9, 8, 1, 8, 3, 1, -1, -1, -1, -1},
{11, 1, 2, 11, 7, 1, 7, 5, 1, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 3, 1, 2, 7, 1, 7, 5, 7, 2, 11, -1, -1, -1, -1},
{9, 7, 5, 9, 2, 7, 9, 0, 2, 2, 11, 7, -1, -1, -1, -1},
{7, 5, 2, 7, 2, 11, 5, 9, 2, 3, 2, 8, 9, 8, 2, -1},
{2, 5, 10, 2, 3, 5, 3, 7, 5, -1, -1, -1, -1, -1, -1, -1},
{8, 2, 0, 8, 5, 2, 8, 7, 5, 10, 2, 5, -1, -1, -1, -1},
{9, 0, 1, 5, 10, 3, 5, 3, 7, 3, 10, 2, -1, -1, -1, -1},
{9, 8, 2, 9, 2, 1, 8, 7, 2, 10, 2, 5, 7, 5, 2, -1},
{1, 3, 5, 3, 7, 5, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 7, 0, 7, 1, 1, 7, 5, -1, -1, -1, -1, -1, -1, -1},
{9, 0, 3, 9, 3, 5, 5, 3, 7, -1, -1, -1, -1, -1, -1, -1},
{9, 8, 7, 5, 9, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{5, 8, 4, 5, 10, 8, 10, 11, 8, -1, -1, -1, -1, -1, -1, -1},
{5, 0, 4, 5, 11, 0, 5, 10, 11, 11, 3, 0, -1, -1, -1, -1},
{0, 1, 9, 8, 4, 10, 8, 10, 11, 10, 4, 5, -1, -1, -1, -1},
{10, 11, 4, 10, 4, 5, 11, 3, 4, 9, 4, 1, 3, 1, 4, -1},
{2, 5, 1, 2, 8, 5, 2, 11, 8, 4, 5, 8, -1, -1, -1, -1},
{0, 4, 11, 0, 11, 3, 4, 5, 11, 2, 11, 1, 5, 1, 11, -1},
{0, 2, 5, 0, 5, 9, 2, 11, 5, 4, 5, 8, 11, 8, 5, -1},
{9, 4, 5, 2, 11, 3, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{2, 5, 10, 3, 5, 2, 3, 4, 5, 3, 8, 4, -1, -1, -1, -1},
{5, 10, 2, 5, 2, 4, 4, 2, 0, -1, -1, -1, -1, -1, -1, -1},
{3, 10, 2, 3, 5, 10, 3, 8, 5, 4, 5, 8, 0, 1, 9, -1},
{5, 10, 2, 5, 2, 4, 1, 9, 2, 9, 4, 2, -1, -1, -1, -1},
{8, 4, 5, 8, 5, 3, 3, 5, 1, -1, -1, -1, -1, -1, -1, -1},
{0, 4, 5, 1, 0, 5, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{8, 4, 5, 8, 5, 3, 9, 0, 5, 0, 3, 5, -1, -1, -1, -1},
{9, 4, 5, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 11, 7, 4, 9, 11, 9, 10, 11, -1, -1, -1, -1, -1, -1, -1},
{0, 8, 3, 4, 9, 7, 9, 11, 7, 9, 10, 11, -1, -1, -1, -1},
{1, 10, 11, 1, 11, 4, 1, 4, 0, 7, 4, 11, -1, -1, -1, -1},
{3, 1, 4, 3, 4, 8, 1, 10, 4, 7, 4, 11, 10, 11, 4, -1},
{4, 11, 7, 9, 11, 4, 9, 2, 11, 9, 1, 2, -1, -1, -1, -1},
{9, 7, 4, 9, 11, 7, 9, 1, 11, 2, 11, 1, 0, 8, 3, -1},
{11, 7, 4, 11, 4, 2, 2, 4, 0, -1, -1, -1, -1, -1, -1, -1},
{11, 7, 4, 11, 4, 2, 8, 3, 4, 3, 2, 4, -1, -1, -1, -1},
{2, 9, 10, 2, 7, 9, 2, 3, 7, 7, 4, 9, -1, -1, -1, -1},
{9, 10, 7, 9, 7, 4, 10, 2, 7, 8, 7, 0, 2, 0, 7, -1},
{3, 7, 10, 3, 10, 2, 7, 4, 10, 1, 10, 0, 4, 0, 10, -1},
{1, 10, 2, 8, 7, 4, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 9, 1, 4, 1, 7, 7, 1, 3, -1, -1, -1, -1, -1, -1, -1},
{4, 9, 1, 4, 1, 7, 0, 8, 1, 8, 7, 1, -1, -1, -1, -1},
{4, 0, 3, 7, 4, 3, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{4, 8, 7, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{9, 10, 8, 10, 11, 8, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{3, 0, 9, 3, 9, 11, 11, 9, 10, -1, -1, -1, -1, -1, -1, -1},
{0, 1, 10, 0, 10, 8, 8, 10, 11, -1, -1, -1, -1, -1, -1, -1},
{3, 1, 10, 11, 3, 10, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 2, 11, 1, 11, 9, 9, 11, 8, -1, -1, -1, -1, -1, -1, -1},
{3, 0, 9, 3, 9, 11, 1, 2, 9, 2, 11, 9, -1, -1, -1, -1},
{0, 2, 11, 8, 0, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{3, 2, 11, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{2, 3, 8, 2, 8, 10, 10, 8, 9, -1, -1, -1, -1, -1, -1, -1},
{9, 10, 2, 0, 9, 2, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{2, 3, 8, 2, 8, 10, 0, 1, 8, 1, 10, 8, -1, -1, -1, -1},
{1, 10, 2, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{1, 3, 8, 9, 1, 8, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 9, 1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{0, 3, 8, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1},
{-1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1}};
마칭 큐브 알고리즘에서, 복셀에 미리 정의된 12개 정점 중 어떤 정점을 교차해서 삼각형 구조를 형성할지 미리 정의된 룩업테이블을 조회함으로써, 256개 삼각화 유형의 구조가 결정될 수 있다.
예를 들어 2번째 삼각화 유형의 룩업테이블 값은 {0, 8, 3, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1}이며 이는 0, 8, 3번 정점을 연결하여 삼각형을 생성한다는 뜻이다.
tri_table[1] = {0, 8, 3, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1}
도 14는 본 개시의 일 실시예에 따른, 마칭 큐브 알고리즘의 12개 정점 인덱싱을 설명하기 위한 도면이다.
도 15는 본 개시의 일 실시예에 따른, 상기 예시로 설명된 2번째 삼각화 유형의 연결구조의 예시를 설명하기 위한 도면이다.
도 16은 본 개시의 일 실시예에 따른, 마칭 큐브의 15개 삼각화 패턴을 설명하기 위한 도면이다.
도 16을 참조하면, 총 256개의 삼각화 유형은 대칭과 회전을 고려해 15개의 패턴으로 분류할 수 있다. 이하, 삼각화 유형 인덱스의 패턴 인덱스 변환 룩업테이블의 예가 제시된다.
int pattern_table[256] = {0, 1, 1, 2, 1, 3, 2, 5, 1, 2, 3, 5, 2, 5, 5, 8, 1, 2, 3, 5, 4, 6, 6, 11, 3, 5, 7, 9, 6, 14, 12, 5, 1, 3, 2, 5, 3, 7, 5, 9, 4, 6, 6, 14, 6, 12, 11, 5, 2, 5, 5, 8, 6, 12, 14, 5, 6, 11, 12, 5, 10, 6, 6, 2, 1, 4, 3, 6, 2, 6, 5, 14, 3, 6, 7, 12, 5, 11, 9, 5, 3, 6, 7, 12, 6, 10, 12, 6, 7, 12, 13, 7, 12, 6, 7, 3, 2, 6, 5, 11, 5, 12, 8, 5, 6, 10, 12, 6, 14, 6, 5, 2, 5, 14, 9, 5, 11, 6, 5, 2, 12, 6, 7, 3, 6, 4, 3, 1, 1, 3, 4, 6, 3, 7, 6, 12, 2, 5, 6, 11, 5, 9, 14, 5, 2, 5, 6, 14, 6, 12, 10, 6, 5, 8, 12, 5, 11, 5, 6, 2, 3, 7, 6, 12, 7, 13, 12, 7, 6, 12, 10, 6, 12, 7, 6, 3, 5, 9, 11, 5, 12, 7, 6, 3, 14, 5, 6, 2, 6, 3, 4, 1, 2, 6, 6, 10, 5, 12, 11, 6, 5, 14, 12, 6, 8, 5, 5, 2, 5, 11, 12, 6, 14, 6, 6, 4, 9, 5, 7, 3, 5, 2, 3, 1, 5, 12, 14, 6, 9, 7, 5, 3, 11, 6, 6, 4, 5, 3, 2, 1, 8, 5, 5, 2, 5, 3, 2, 1, 5, 2, 3, 1, 2, 1, 1, 0}
상기 룩업 데이블에 따라 삼각화 유형 인덱스로부터 패턴 인덱스가 획득될 수 있다.
pattern_index = pattern_table[case_index]
일반적인 3차원 메쉬 정보는 모든 정점의 3차원 좌표와 삼각형의 연결성 정보를 포함한다. 마칭 큐브 알고리즘으로 생성된 메쉬 정보는 1바이트로 표현되는 삼각화 유형 인덱스를 볼륨 그리드를 탐색한 순서대로 포함한다. 볼륨 그리드를 탐색한 순서대로 삼각화 유형 케이스에 대응되는 룩업 테이블 값을 이용해 삼각형을 구성하면 3차원 메쉬가 복원될 수 있다.
다수의 깊이 영상(Depth Image)을 이용하면 넓은 공간에 대한 볼륨 데이터가 구성될 수 있다. 구성된 볼륨 데이터와 마칭 큐브 알고리즘을 이용해 캡쳐한 공간의 3차원 메쉬가 생성될 수 있다. 생성된 3차원 메쉬 표면에 컬러 영상으로 부터 추출한 텍스쳐 정보를 매핑하면 텍스쳐가 표현될 수 있다.
도 17은 본 개시의 일 실시예에 따른, 공간을 촬영한 컬러 영상과 깊이 영상 시퀀스의 예시를 나타낸다.
도 18은 본 개시의 일 실시예에 따른, 도 17의 깊이 영상 시퀀스를 이용해 볼륨 데이터를 구성한 예시를 나타낸다.
도 19는 본 개시의 일 실시예에 따른, 도 18의 볼륨 데이터와 마칭 큐브 알고리즘을 이용해 3차원 메쉬를 생성한 예시를 나타낸다.
도 20은 본 개시의 일 실시예에 따른, 도 19의 3차원 메쉬에 도 17의 컬러 영상을 매핑하여 텍스쳐를 표시한 예시를 나타낸다.
3차원 메쉬에 텍스쳐를 표현하기 위해, 컬러 영상들로부터 샘플링된 메쉬의 모든 삼각형의 색상이 2차원 UV Map(또는 텍스쳐 맵)에 저장된다. 메쉬 매개변수화(Mesh Parameterization)는 UV Map을 만들기 이전에 3차원 메쉬의 정점 좌표와 2차원 UV Map 좌표 사이의 일대일 함수를 정의하는 작업을 의미한다. 메쉬 매개변수화는 계산시간과 컴퓨터의 자원을 많이 필요로 하는 작업이다. 따라서 메쉬 모델의 사이즈가 커질수록 메쉬 매개변수화를 위한 계산은 더욱 복잡해진다.
도 21은 본 개시의 일 실시예에 따른, 메쉬 매개변수화(mesh parameterization) 및 UV Map 생성의 예시를 나타낸다.
본 개시에서, 마칭 큐브 메쉬의 14개 패턴 별로 미리 정의된 UV좌표를 사용하여 빠르게 메쉬 매개변수화를 수행하는 방법이 설명된다. [0, 1] x [0, 1] 범위의 2차원 평면에 14개 마칭 큐브 패턴에 대응되는 UV 패턴을 미리 계산한다. 15개 패턴 중 패턴0는 정점 정보가 없음으로 미리 정의할 UV 패턴이 없다. 마칭 큐브 패턴1~14에 대해 각 정점에 대응되는 UV 좌표가 미리 결정될 수 있다.
이하, 도 22 내지 35에서 마칭 큐브 패턴 1~14에 대한 정점들의 UV 좌표가 설명된다.
도 22는 본 개시의 일 실시예에 따른, 패턴 1을 나타낸다.
<패턴1>
삼각형의 수: 1개
첫번째 삼각형 정점 인덱스: 2, 3, 11 (도 14 참조)
정점2의 UV좌표: 0.000093, 0.865957
정점3의 UV좌표: 0.500000, 0.000093
정점11의 UV좌표: 0.999907, 0.865957
도 23은 본 개시의 일 실시예에 따른, 패턴 2를 나타낸다.
<패턴2>
삼각형의 수: 2개
첫번째 삼각형 정점 인덱스: 1, 3, 10
두번째 삼각형 정점 인덱스: 3, 10, 11
정점1의 UV좌표: 0.999916 0.707072
정점3의 UV좌표: 0.000084 0.707072
정점10의 UV좌표: 0.999916 0.000084
정점11의 UV좌표: 0.000084 0.000084
도 24는 본 개시의 일 실시예에 따른, 패턴 3을 나타낸다.
<패턴3>
삼각형의 수: 2개
첫번째 삼각형 정점 인덱스: 2, 3, 11
두번째 삼각형 정점 인덱스: 5, 6, 10
정점2의 UV좌표: 0.000107 0.999893
정점3의 UV좌표: 0.288658 0.500107
정점11의 UV좌표: 0.577210 0.999893
정점5의 UV좌표: 0.288659 0.000107
정점6의 UV좌표: 0.577210 0.499893
정점10의 UV좌표: 0.000107 0.499893
도 25는 본 개시의 일 실시예에 따른, 패턴 4 를 나타낸다.
<패턴4>
삼각형의 수: 2개
첫번째 삼각형 정점 인덱스: 2, 3, 11
두번째 삼각형 정점 인덱스: 4, 5, 9
정점2의 UV좌표: 0.000100 0.999900
정점3의 UV좌표: 0.267942 0.535984
정점11의 UV좌표: 0.535784 0.999900
정점4의 UV좌표: 0.464016 0.267942
정점5의 UV좌표: 0.000100 0.535784
정점9의 UV좌표: 0.000100 0.000100
도 26은 본 개시의 일 실시예에 따른, 패턴 5 를 나타낸다.
<패턴5>
삼각형의 수: 3개
첫번째 삼각형 정점 인덱스: 2, 3, 10
두번째 삼각형 정점 인덱스: 3, 8, 10
세번째 삼각형 정점 인덱스: 8, 9, 10
정점2의 UV좌표: 0.000097 0.749952
정점3의 UV좌표: 0.000097 0.250048
정점10의 UV좌표: 0.433026 0.999903
정점8의 UV좌표: 0.433026 0.000097
정점9의 UV좌표: 0.932929 0.500000
도 27은 본 개시의 일 실시예에 따른, 패턴 6 을 나타낸다.
<패턴6>
삼각형의 수: 3개
첫번째 삼각형 정점 인덱스: 1, 3, 10
두번째 삼각형 정점 인덱스: 3, 10, 11
세번째 삼각형 정점 인덱스: 4, 5, 9
정점1의 UV좌표: 0.706913 0.499894
정점3의 UV좌표: 0.000106 0.499894
정점10의 UV좌표: 0.706913 0.000106
정점11의 UV좌표: 0.000106 0.000106
정점4의 UV좌표: 0.432935 0.750000
정점5의 UV좌표: 0.000106 0.999894
정점9의 UV좌표: 0.000106 0.500106
도 28은 본 개시의 일 실시예에 따른, 패턴 7 을 나타낸다.
<패턴7>
삼각형의 수: 3개
첫번째 삼각형 정점 인덱스: 1, 2, 10
두번째 삼각형 정점 인덱스: 4, 5, 9
세번째 삼각형 정점 인덱스: 7, 8, 11
정점1의 UV좌표: 0.353780 0.999857
정점2의 UV좌표: 0.353780 0.500143
정점10의 UV좌표: 0.786545 0.750000
정점4의 UV좌표: 0.786545 0.250000
정점5의 UV좌표: 0.353780 0.499857
정점9의 UV좌표: 0.353780 0.000143
정점7의 UV좌표: 0.353494 0.353494
정점8의 UV좌표: 0.000143 0.706845
정점11의 UV좌표: 0.000143 0.000143
도 29는 본 개시의 일 실시예에 따른, 패턴 8 을 나타낸다.
<패턴8>
삼각형의 수: 2개
첫번째 삼각형 정점 인덱스: 8, 9, 11
두번째 삼각형 정점 인덱스: 9, 10, 11
정점8의 UV좌표: 0.000100 0.000100
정점9의 UV좌표: 0.999900 0.000100
정점11의 UV좌표: 0.000100 0.999900
정점10의 UV좌표: 0.999900 0.999900
도 30은 본 개시의 일 실시예에 따른, 패턴 9 를 나타낸다.
<패턴9>
삼각형의 수: 4개
첫번째 삼각형 정점 인덱스: 1, 2, 9
두번째 삼각형 정점 인덱스: 2, 9, 11
세번째 삼각형 정점 인덱스: 4, 9, 11
네번째 삼각형 정점 인덱스: 4, 7, 11
정점1의 UV좌표: 0.000093 0.433025
정점2의 UV좌표: 0.250047 0.865957
정점9의 UV좌표: 0.250047 0.000093
정점11의 UV좌표: 0.749954 0.865957
정점4의 UV좌표: 0.749954 0.000093
정점7의 UV좌표: 0.999907 0.433025
도 31은 본 개시의 일 실시예에 따른, 패턴 10 을 나타낸다.
<패턴10>
삼각형의 수: 4개
첫번째 삼각형 정점 인덱스: 0, 1, 5
두번째 삼각형 정점 인덱스: 0, 4, 5
세번째 삼각형 정점 인덱스: 2, 3, 6
네번째 삼각형 정점 인덱스: 3, 6, 7
정점0의 UV좌표: 0.000119 0.500119
정점1의 UV좌표: 0.000119 0.999881
정점5의 UV좌표: 0.706889 0.999881
정점4의 UV좌표: 0.706889 0.500119
정점2의 UV좌표: 0.000119 0.499881
정점3의 UV좌표: 0.000119 0.000119
정점6의 UV좌표: 0.706889 0.499881
정점7의 UV좌표: 0.706889 0.000119
도 32는 본 개시의 일 실시예에 따른, 패턴 11 을 나타낸다.
<패턴11>
삼각형의 수: 4개
첫번째 삼각형 정점 인덱스: 1, 2, 5
두번째 삼각형 정점 인덱스: 2, 5, 11
세번째 삼각형 정점 인덱스: 4, 5, 8
네번째 삼각형 정점 인덱스: 5, 8, 11
정점1의 UV좌표: 0.999921 0.344519
정점2의 UV좌표: 0.797261 0.032315
정점5의 UV좌표: 0.558398 0.631122
정점11의 UV좌표: 0.426447 0.000079
정점4의 UV좌표: 0.186186 0.631122
정점8의 UV좌표: 0.000079 0.308777
도 33은 본 개시의 일 실시예에 따른, 패턴 12 을 나타낸다.
<패턴12>
삼각형의 수: 4개
첫번째 삼각형 정점 인덱스: 2, 3, 8
두번째 삼각형 정점 인덱스: 3, 8, 10
세번째 삼각형 정점 인덱스: 6, 7, 11
네번째 삼각형 정점 인덱스: 8, 9, 10
정점2의 UV좌표: 0.000105 0.548913
정점3의 UV좌표: 0.000105 0.183041
정점8의 UV좌표: 0.316959 0.731849
정점10의 UV좌표: 0.316959 0.000105
정점6의 UV좌표: 0.999895 0.183041
정점7의 UV좌표: 0.683041 0.365977
정점11의 UV좌표: 0.683041 0.000105
정점9의 UV좌표: 0.682831 0.365977
도 34는 본 개시의 일 실시예에 따른, 패턴 13 을 나타낸다.
<패턴13>
삼각형의 수: 4개
첫번째 삼각형 정점 인덱스: 0, 1, 9
두번째 삼각형 정점 인덱스: 2, 3, 11
세번째 삼각형 정점 인덱스: 4, 7, 8
네번째 삼각형 정점 인덱스: 5, 6, 10
정점0의 UV좌표: 0.000186 0.932876
정점1의 UV좌표: 0.250000 0.500186
정점9의 UV좌표: 0.499814 0.932876
정점2의 UV좌표: 0.500186 0.932876
정점3의 UV좌표: 0.750000 0.500186
정점11의 UV좌표: 0.999814 0.932876
정점4의 UV좌표: 0.432877 0.250000
정점7의 UV좌표: 0.000186 0.499814
정점8의 UV좌표: 0.000186 0.000186
정점5의 UV좌표: 0.683063 0.000186
정점6의 UV좌표: 0.932877 0.432876
정점10의 UV좌표: 0.433249 0.432876
도 35는 본 개시의 일 실시예에 따른, 패턴 14을 나타낸다.
<패턴14>
삼각형의 수: 4개
첫번째 삼각형 정점 인덱스: 2, 3, 7
두번째 삼각형 정점 인덱스: 2, 7, 9
세번째 삼각형 정점 인덱스: 2, 9, 10
네번째 삼각형 정점 인덱스: 4, 7, 9
정점2의 UV좌표: 0.747655 0.647501
정점3의 UV좌표: 0.498469 0.999904
정점7의 UV좌표: 0.000096 0.647501
정점9의 UV좌표: 0.373876 0.000096
정점10의 UV좌표: 0.928252 0.255498
정점4의 UV좌표: 0.000096 0.215898
본 개시에 명시된 UV 패턴 이외에 더 최적화된 패턴이 적용될 수 있다.
본 개시에서는 전체공간이 아닌 각 복셀 마다 해당되는 부분공간의 UV Map을 생성하는데 이를 UV 패치(Patch)라고 정의한다. UV패치의 가로세로 크기는 0이 아닌 어떤 정수 값도 가질 수 있으며 UV 패턴의 2차원 정점 좌표는 0부터 1까지 정규화 되어 있기 때문에 'U-좌표 값 * UV패치의 가로크기' 또는 'V-좌표 값 * UV패치의 세로크기'를 통해 해당 UV좌표에 대응되는 UV패치의 픽셀좌표가 계산될 수 있다.
본 개시에서 텍스쳐 정보를 부호화하기 위해 각 패턴별(1~14)로 텍스쳐 공간이 먼저 정의될 수 있다. 각 패턴에 해당하는 복셀마다 정의된 텍스쳐 공간의 좌표값를 저장하여 텍스쳐가 표현될 수 있다.
이하, 텍스쳐 공간을 정의하고 텍스쳐 공간 좌표를 계산하는 알고리즘이 설명된다.
1. 볼륨그리드의 모든 복셀의 삼각화 유형 c와 패턴 p를 계산하고 컬러 영상을 이용해 UV패치벡터 t를 생성한다.
c: 0부터 255사이의 삼각화 유형 정수 인덱스
p: 1부터 14사이의 삼각화 패턴 정수 인덱스
t: 2차원 UV패치를 M×1 열벡터로 바꾸어 표현
2. 패턴 p의 평균 UV 패치벡터 를 계산
N: 삼각화 패턴 p에 속하는 복셀의 개수
3. 패턴 p에 속하는 UV 패치벡터 ti와 UV 패치벡터 tμ의 편차 di =ti - tμ를 계산
4. 패턴 p에 속하는 UV 패치들의 공분산 행렬 C를 계산
이하, 텍스쳐 공간 좌표를 이용해 텍스쳐(UV패치)를 복원하는 알고리즘이 설명된다.
1. 패턴 p의 L개 고유벡터 행렬 E= [e1, e2, ..., eL] 와 평균 UV패치벡터 tμ, 그리고 텍스쳐를 복원하고자 하는 복셀의 텍스쳐 공간 좌표 ωi를 로드
2. ti
Figure 112020137048368-pat00033
Eωi + tμ 의 식을 이용해 복원하고자 하는 복셀의 텍스쳐를 근사
고유벡터의 개수 L (1≤L≤M) 이 클수록 원본에 가까운 텍스쳐를 복원하지만 저장해야 할 데이터가 늘어나고 작아질 수록 저장해야 할 데이터는 줄어들지만 원본 텍스쳐와 오차가 커진다.
원본 복원율과 부호화된 데이터의 크기를 고려하여 고유벡터의 개수 L을 설정한다.
도 36은 본 개시의 일 실시예에 따른 기하 정보와 텍스쳐 정보를 저장하기 위한 데이터 리스트를 나타낸다. 최종적으로 본 개시에서 기하 정보와 텍스쳐 정보를 복원하기 위해 저장해야 할 데이터들은 도 36과 같다.
도 37은 일 실시 예에 따른 다시점 영상 복호화 방법을 도시한다.
단계 3702에서, 비트스트림으로부터 다시점 영상 (Multi-view image)의 3차원 공간을 나타내는 3차원 기하 정보, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보, 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보가 획득될 수 있다.
일 실시 예에 따르면, 상기 3차원 기하 정보는 3차원 공간을 나타내는 삼각 메쉬 구조를 나타낼 수 있다. 상기 3차원 기하 정보는, 삼각 메쉬의 정점들의 3차원 위치를 나타내는 정점 위치 정보, 상기 삼각 메쉬의 정점들 간의 기하학적 연결을 나타내는 연결성 정보, 및 상기 삼각 메쉬의 정점에 대응되는 텍스쳐 맵의 2차원 위치를 나타내는 텍스쳐 맵 위치 정보 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 삼각 메쉬 구조는, 상기 3차원 공간의 복셀 단위로 결정되고, 복셀에 대한 삼각 메쉬 구조는 미리 설정된 복수의 삼각형 구조 패턴들 중 하나로 결정될 수 있다.
단계 3704에서, 시점 종속 성분 정보로부터 현재 시점의 텍스쳐 맵에 대한 시점 종속 성분이 결정될 수 있다.
일 실시 예에 따르면, 상기 시점 종속 성분 정보는, 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분을 포함할 수 있다. 상기 시점 독립 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 평균 텍스쳐 맵으로부터 결정될 수 있다. 그리고 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵과 상기 시점 독립 성분의 차분 값에 따라 결정될 수 있다.
일 실시 예에 따르면, 상기 현재 시점에 따른 상기 복수의 촬영 시점 영상의 가중치가 계산될 수 있다. 상기 복수의 촬영 시점 영상의 가중치에 따라, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분들의 가중 평균이 계산될 수 있다. 상기 계산된 가중 평균에 따라, 상기 현재 시점에 대한 텍스쳐 맵의 시점 종속 성분이 결정될 수 있다.
일 실시 예에 따르면, 상기 현재 시점과 상기 복수의 촬영 시점 영상의 시점 각도 차이 및 시점 위치 차이에 따라 상기 가중치가 결정될 수 있다.
단계 3706에서, 시점 독립 성분 정보의 시점 독립 성분과 현재 시점에 대한 시점 종속 성분으로부터 현재 시점의 텍스쳐 맵이 생성될 수 있다.
단계 3708에서, 현재 시점의 텍스쳐 맵과 3차원 기하 정보에 따라 구성된 3차원 공간에 따라, 현재 시점 영상이 복원될 수 있다.
일 실시 예에 따르면, 현재 시점에 대한 현재 시점 정보기 획득될 수 있다. 상기 현재 시점 정보는 상기 현재 시점의 위치 정보, 회전 정보, 초점 정보, 중심 픽셀 좌표 정보를 포함할 수 있다.
일 실시 예에 따르면, 현재 시점 정보에 따라, 상기 현재 시점의 텍스쳐 맵의 2차원 좌표와 상기 3차원 공간의 3차원 좌표가 매칭될 수 있다. 상기 매칭된 2차원 좌표와 3차원 좌표의 관계에 따라, 상기 현재 시점의 텍스쳐 맵으로부터 상기 현재 시점 영상이 복원될 수 있다.
도 38은 일 실시 예에 따른 다시점 영상 부호화 방법을 도시한다.
단계 3802에서, 다시점 영상을 구성하는 복수의 촬영 시점 영상으로부터 다시점 영상의 3차원 공간을 나타내는 3차원 기하 정보가 생성된다.
일 실시 예에 따르면, 상기 3차원 기하 정보는, 3차원 공간을 나타내는 삼각 메쉬 구조를 나타낼 수 있다. 상기 3차원 기하 정보는, 삼각 메쉬의 정점들의 3차원 위치를 나타내는 정점 위치 정보, 상기 삼각 메쉬의 정점들 간의 기하학적 연결을 나타내는 연결성 정보, 및 상기 삼각 메쉬의 정점에 대응되는 텍스쳐 맵의 2차원 위치를 나타내는 텍스쳐 맵 위치 정보 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 삼각 메쉬 구조는, 상기 3차원 공간의 복셀 단위로 결정되고, 복셀에 대한 삼각 메쉬 구조는 미리 설정된 복수의 삼각형 구조 패턴들 중 하나로 결정될 수 있다.
단계 3804에서, 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵이 생성된다.
일 실시 예에 따르면, 상기 복수의 촬영 시점 영상의 촬영 시점 정보가 획득될 수 있다. 상기 촬영 시점 정보는 상기 촬영 시점 영상의 위치 정보, 회전 정보, 초점 정보, 중심 픽셀 좌표 정보를 포함할 수 있다.
일 실시 예에 따르면, 상기 촬영 시점 정보에 따라, 상기 촬영 시점 영상의 텍스쳐 맵의 2차원 좌표와 상기 3차원 공간의 3차원 좌표가 매칭될 수 있다. 또한 상기 매칭된 2차원 좌표와 3차원 좌표의 관계에 따라, 상기 복수의 촬영 시점 영상으로부터 상기 복수의 촬영 시점 영상의 텍스쳐 맵이 생성될 수 있다.
단계 3806에서, 복수의 촬영 시점 영상의 텍스처 맵으로부터, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보가 획득된다.
일 실시 예에 따르면, 상기 시점 종속 성분 정보는, 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분을 포함할 수 있다. 상기 시점 독립 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 평균 텍스쳐 맵으로부터 결정되고, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분은, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵과 상기 시점 독립 성분의 차분 값에 따라 결정될 수 있다.
단계 3808에서, 3차원 기하 정보, 시점 독립 성분 정보, 및 시점 종속 성분 정보를 포함하는 비트스트림이 생성된다.
도 37 및 38의 실시 예는 예시에 불과하며, 도 37 및 38의 각 단계는 통상의 기술자에게 용이하게 변형 실시 가능하다. 또한, 도 37 및 38의 각 구성은 생략되거나 다른 구성으로 대체될 수 있다. 또한 하나 이상의 프로세서는 도 37 및 38의 각 단계를 구현한 명령들을 수행할 수 있다. 그리고 도 37 및 38의 각 단계를 구현한 명령들을 포함하는 프로그램 제품은 메모리 디바이스에 저장되거나, 온라인 상으로 유통될 수 있다. 그리고 도 38의 다시점 영상 부호화 방법에 따라 생성되고 도 39의 다시점 영상 복호화 방법에 따라 복호화되는 비트스트림은 메모리 디바이스에 저장되거나, 온라인 상으로 유통될 수 있다.
상술한 실시예들에서, 방법들은 일련의 단계 또는 유닛으로서 순서도를 기초로 설명되고 있으나, 본 개시는 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 개시의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
상술한 실시예는 다양한 양태의 예시들을 포함한다. 다양한 양태들을 나타내기 위한 모든 가능한 조합을 기술할 수는 없지만, 해당 기술 분야의 통상의 지식을 가진 자는 다른 조합이 가능함을 인식할 수 있을 것이다. 따라서, 본 개시는 이하의 특허청구범위 내에 속하는 모든 다른 교체, 수정 및 변경을 포함한다고 할 것이다.
이상 설명된 본 개시에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 개시를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 개시에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 개시가 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 개시의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 개시가 상기 실시예들에 한정되는 것은 아니며, 본 개시가 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 개시의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 개시의 사상의 범주에 속한다고 할 것이다.

Claims (19)

  1. 비트스트림으로부터 다시점 영상 (Multi-view image)의 3차원 공간을 나타내는 3차원 기하 정보, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보, 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보를 획득하는 단계;
    상기 시점 종속 성분 정보로부터 현재 시점의 텍스쳐 맵에 대한 시점 종속 성분을 결정하는 단계;
    상기 시점 독립 성분 정보의 시점 독립 성분과 상기 결정된 현재 시점에 대한 시점 종속 성분으로부터 상기 현재 시점의 텍스쳐 맵을 생성하는 단계;
    상기 현재 시점의 텍스쳐 맵과 상기 3차원 기하 정보에 따라 구성된 3차원 공간에 따라, 현재 시점 영상을 복원하는 단계를 포함하를 포함하되,
    상기 3차원 공간은 복셀 단위의 삼각형 메쉬 구조에 의해 정의되고 각 복셀에 대한 삼각형 메쉬 구조는 기결정된 복수의 삼각형 메쉬 구조 패턴 후보들 중에서 선택되며,
    상기 3차원 기하 정보는 상기 복수의 삼각형 메쉬 구조 패턴 후보들 중에서 각 복셀에 대한 삼각형 메쉬 구조를 지시하기 위한 정보이고,
    상기 복수의 삼각형 메쉬 구조 패턴 후보들 중 적어도 일부는 기설정된 UV 좌표에 근거하여 정의되는 것을 특징으로 하는 다시점 영상 복호화 방법.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 제1항에 있어서,
    상기 시점 종속 성분 정보는,
    복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분을 포함하는 것을 특징으로 하는 다시점 영상 복호화 방법.
  6. 제5항에 있어서,
    상기 시점 종속 성분 정보로부터 현재 시점에 대한 시점 종속 성분을 결정하는 단계는,
    상기 현재 시점에 따른 상기 복수의 촬영 시점 영상의 가중치를 계산하는 단계;
    상기 복수의 촬영 시점 영상의 가중치에 따라, 상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분들의 가중 평균을 계산하는 단계;
    상기 계산된 가중 평균에 따라, 상기 현재 시점에 대한 텍스쳐 맵의 시점 종속 성분을 결정하는 단계를 포함하는 것을 특징으로 하는 다시점 영상 복호화 방법.
  7. 제6항에 있어서,
    상기 현재 시점에 따른 상기 복수의 촬영 시점 영상의 가중치를 계산하는 단계는,
    상기 현재 시점과 상기 복수의 촬영 시점 영상의 시점 각도 차이 및 시점 위치 차이에 따라 상기 가중치를 결정하는 것을 특징으로 하는 다시점 영상 복호화 방법.
  8. 제5항에 있어서,
    상기 시점 독립 성분은,
    상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 평균 텍스쳐 맵으로부터 결정된 것을 특징으로 하고,
    상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분은,
    상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵과 상기 시점 독립 성분의 차분 값에 따라 결정되는 것을 특징으로 하는 다시점 영상 복호화 방법.
  9. 제1항에 있어서,
    상기 다시점 영상 복호화 방법은,
    상기 현재 시점에 대한 현재 시점 정보를 획득하는 단계를 더 포함하고,
    상기 현재 시점 정보는 상기 현재 시점의 위치 정보, 회전 정보, 초점 정보, 중심 픽셀 좌표 정보를 포함하는 것을 특징으로 하는 다시점 영상 복호화 방법.
  10. 제9항에 있어서,
    상기 현재 시점 영상을 복원하는 단계는,
    상기 현재 시점 정보에 따라, 상기 현재 시점의 텍스쳐 맵의 2차원 좌표와 상기 3차원 공간의 3차원 좌표를 매칭하는 단계; 및
    상기 매칭된 2차원 좌표와 3차원 좌표의 관계에 따라, 상기 현재 시점의 텍스쳐 맵으로부터 상기 현재 시점 영상을 복원하는 단계를 포함하는 것을 특징으로 하는 다시점 영상 복호화 방법.
  11. 다시점 영상을 구성하는 복수의 촬영 시점 영상으로부터 상기 다시점 영상의 3차원 공간을 나타내는 3차원 기하 정보를 생성하는 단계;
    상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계;
    상기 복수의 촬영 시점 영상의 텍스처 맵으로부터, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보를 획득하는 단계;
    상기 3차원 기하 정보, 상기 시점 독립 성분 정보, 및 상기 시점 종속 성분 정보를 포함하는 비트스트림을 생성하는 단계를 포함하되,
    상기 3차원 공간은 복셀 단위의 삼각형 메쉬 구조에 의해 정의되고, 각 복셀에 대한 삼각형 메쉬 구조는 기결정된 복수의 삼각형 메쉬 구조 패턴 후보들 중에서 선택되며,
    상기 3차원 기하 정보는 상기 복수의 삼각형 메쉬 구조 패턴 후보들 중에서 상기 각 복셀에 대한 삼각형 메쉬 구조를 지시하기 위한 정보이고,
    상기 복수의 삼각형 메쉬 구조 패턴 후보들 중 적어도 일부는 기설정된 UV 좌표에 근거하여 정의되는 것을 특징으로 하는 다시점 영상 부호화 방법.
  12. 삭제
  13. 삭제
  14. 삭제
  15. 제11항에 있어서,
    상기 시점 종속 성분 정보는,
    복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분을 포함하는 것을 특징으로 하는 다시점 영상 부호화 방법.
  16. 제15항에 있어서,
    상기 시점 독립 성분은,
    상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 평균 텍스쳐 맵으로부터 결정된 것을 특징으로 하고,
    상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵의 시점 종속 성분은,
    상기 복수의 촬영 시점 영상에 대한 텍스쳐 맵과 상기 시점 독립 성분의 차분 값에 따라 결정되는 것을 특징으로 하는 다시점 영상 부호화 방법.
  17. 제11항에 있어서,
    상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계는,
    상기 복수의 촬영 시점 영상의 촬영 시점 정보를 획득하는 단계를 더 포함하고,
    상기 촬영 시점 정보는 상기 촬영 시점 영상의 위치 정보, 회전 정보, 초점 정보, 중심 픽셀 좌표 정보를 포함하는 것을 특징으로 하는 다시점 영상 부호화 방법.
  18. 제17항에 있어서,
    상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계는,
    상기 촬영 시점 정보에 따라, 상기 촬영 시점 영상의 텍스쳐 맵의 2차원 좌표와 상기 3차원 공간의 3차원 좌표를 매칭하는 단계; 및
    상기 매칭된 2차원 좌표와 3차원 좌표의 관계에 따라, 상기 복수의 촬영 시점 영상으로부터 상기 복수의 촬영 시점 영상의 텍스쳐 맵을 생성하는 단계를 포함하는 것을 특징으로 하는 다시점 영상 부호화 방법.
  19. 다시점 영상 부호화 방법에 따라 부호화된 다시점 영상의 부호화 데이터를 포함하는 비트스트림이 저장된 컴퓨터로 판독 가능한 기록 매체에 있어서,
    상기 다시점 영상 부호화 방법은,
    다시점 영상을 구성하는 복수의 촬영 시점 영상으로부터 상기 다시점 영상의 3차원 공간을 나타내는 3차원 기하 정보를 생성하는 단계;
    상기 다시점 영상을 구성하는 복수의 촬영 시점 영상의 텍스처 맵을 생성하는 단계;
    상기 복수의 촬영 시점 영상의 텍스처 맵으로부터, 모든 시점에 동일하게 적용되는 시점 독립 성분을 나타내는 시점 독립 성분 정보 및 시점에 따라 다르게 적용되는 시점 종속 성분을 나타내는 시점 종속 성분 정보을 획득하는 단계;
    상기 3차원 기하 정보, 상기 시점 독립 성분 정보, 및 상기 시점 종속 성분 정보를 포함하는 비트스트림을 생성하는 단계를 포함하되,
    상기 3차원 공간은 복셀 단위의 삼각형 메쉬 구조에 의해 정의되고, 각 복셀에 대한 삼각형 메쉬 구조는 기결정된 복수의 삼각형 메쉬 구조 패턴 후보들 중에서 선택되며,
    상기 3차원 기하 정보는 상기 복수의 삼각형 메쉬 구조 패턴 후보들 중에서 상기 각 복셀에 대한 삼각형 메쉬 구조를 지시하기 위한 정보이고,
    상기 복수의 삼각형 메쉬 구조 패턴 후보들 중 적어도 일부는 기설정된 UV 좌표에 근거하여 정의되는 것을 특징으로 하는 컴퓨터로 판독 가능한 기록 매체.
KR1020200176820A 2019-12-17 2020-12-16 다시점 비디오 부호화 및 복호화 방법 KR102612539B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/124,226 US11704839B2 (en) 2019-12-17 2020-12-16 Multiview video encoding and decoding method

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR1020190168783 2019-12-17
KR20190168783 2019-12-17
KR20190179057 2019-12-31
KR1020190179057 2019-12-31

Publications (2)

Publication Number Publication Date
KR20210077636A KR20210077636A (ko) 2021-06-25
KR102612539B1 true KR102612539B1 (ko) 2023-12-11

Family

ID=76629273

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200176820A KR102612539B1 (ko) 2019-12-17 2020-12-16 다시점 비디오 부호화 및 복호화 방법

Country Status (2)

Country Link
US (1) US11704839B2 (ko)
KR (1) KR102612539B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230319293A1 (en) * 2022-04-04 2023-10-05 Tencent America LLC Triangulation methods with boundary information for dynamic mesh compression

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060017722A1 (en) * 2004-06-14 2006-01-26 Canon Europa N.V. Texture data compression and rendering in 3D computer graphics
JP2009536859A (ja) * 2006-05-11 2009-10-22 アナトメージ インコーポレイテッド 体積測定画像にカラーテクスチャ化された外部表面をマッチングさせること
JP2018042237A (ja) * 2016-08-31 2018-03-15 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US20190213772A1 (en) * 2018-01-08 2019-07-11 Oculus Vr, Llc Systems and methods for rendering avatars with deep appearance models
US20190236810A1 (en) * 2018-01-26 2019-08-01 Sony Corporation Hybrid projection-based point cloud texture coding

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100603602B1 (ko) 2004-12-13 2006-07-24 한국전자통신연구원 조밀하지 않은 비정렬 3차원 측정점들을 이용한 3차원메쉬 생성 방법
KR101199475B1 (ko) * 2008-12-22 2012-11-09 한국전자통신연구원 3차원 모델 생성 방법 및 장치
KR101654777B1 (ko) 2010-07-19 2016-09-06 삼성전자주식회사 3차원 메쉬 가변 부호화 장치 및 방법, 그리고 3차원 메쉬 가변 복호화 장치 및 방법
US8922547B2 (en) 2010-12-22 2014-12-30 Electronics And Telecommunications Research Institute 3D model shape transformation method and apparatus
KR101375649B1 (ko) 2012-07-16 2014-03-18 한국과학기술연구원 대상 물체의 3차원 메쉬 모델의 텍스쳐 생성 장치 및 방법
KR20140121315A (ko) 2013-04-04 2014-10-15 한국전자통신연구원 참조 픽처 리스트를 이용한 다 계층 기반의 영상 부호화/복호화 방법 및 그 장치
KR101854003B1 (ko) * 2013-07-02 2018-06-14 경희대학교 산학협력단 복수의 레이어를 포함하는 영상의 부호화 및 복호화 방법
CN110855992A (zh) * 2014-01-03 2020-02-28 庆熙大学校产学协力团 导出子预测单元的时间点之间的运动信息的方法和装置
KR102378459B1 (ko) 2014-06-30 2022-03-24 한국전자통신연구원 움직임 병합 모드에서 시점 합성 예측 후보의 중복성 제거 장치 및 방법
WO2016003209A1 (ko) 2014-07-03 2016-01-07 주식회사 케이티 다시점 비디오 신호 처리 방법 및 장치
KR102506480B1 (ko) * 2016-06-14 2023-03-07 삼성전자주식회사 영상 처리 장치 및 그 영상 처리 방법
US10559095B2 (en) * 2016-08-31 2020-02-11 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and medium
US10339716B1 (en) * 2016-09-19 2019-07-02 Occipital, Inc. System and method for dense, large scale scene reconstruction
US10389994B2 (en) 2016-11-28 2019-08-20 Sony Corporation Decoder-centric UV codec for free-viewpoint video streaming
US10055880B2 (en) * 2016-12-06 2018-08-21 Activision Publishing, Inc. Methods and systems to modify a two dimensional facial image to increase dimensional depth and generate a facial image that appears three dimensional
GB2560319B (en) * 2017-03-06 2020-09-02 Canon Kk Improved encoding and decoding of texture mapping data in textured 3D mesh models
EP3602503A4 (en) * 2017-07-10 2020-11-18 Hewlett-Packard Development Company, L.P. ASSOCIATION OF OBJECT PROPERTY DATA WITH LOCATIONS
EP3823274A4 (en) * 2018-07-13 2022-03-30 LG Electronics Inc. METHOD AND DEVICE FOR TRANSMITTING AND RECEIVING METADATA ON A DYNAMIC POINT COORDINATE SYSTEM
US10872457B1 (en) * 2019-07-18 2020-12-22 Sony Corporation Facial texture map generation using single color image and depth information

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060017722A1 (en) * 2004-06-14 2006-01-26 Canon Europa N.V. Texture data compression and rendering in 3D computer graphics
JP2009536859A (ja) * 2006-05-11 2009-10-22 アナトメージ インコーポレイテッド 体積測定画像にカラーテクスチャ化された外部表面をマッチングさせること
JP2018042237A (ja) * 2016-08-31 2018-03-15 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US20190213772A1 (en) * 2018-01-08 2019-07-11 Oculus Vr, Llc Systems and methods for rendering avatars with deep appearance models
US20190236810A1 (en) * 2018-01-26 2019-08-01 Sony Corporation Hybrid projection-based point cloud texture coding

Also Published As

Publication number Publication date
US11704839B2 (en) 2023-07-18
KR20210077636A (ko) 2021-06-25
US20210233282A1 (en) 2021-07-29

Similar Documents

Publication Publication Date Title
US10460509B2 (en) Parameterizing 3D scenes for volumetric viewing
KR102431117B1 (ko) 포인트 클라우드 맵핑
US10474227B2 (en) Generation of virtual reality with 6 degrees of freedom from limited viewer data
JP2016537901A (ja) ライトフィールド処理方法
JP7181233B2 (ja) テクスチャマップ及びメッシュに基づく３ｄ画像情報の処理
KR20070095040A (ko) 카메라 보정 방법 및 이를 이용한 3차원 물체 재구성 방법
Bangchang et al. Experimental system of free viewpoint television
JP2006053694A (ja) 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体
KR102551713B1 (ko) 전자 장치 및 그 이미지 처리 방법
KR102141319B1 (ko) 다시점 360도 영상의 초해상화 방법 및 영상처리장치
Chen et al. 3D texture mapping in multi-view reconstruction
CN109791704A (zh) 用于自由运行fvv应用的基于多层uv映射的纹理渲染
JP7344988B2 (ja) ボリュメトリック映像の符号化および復号化のための方法、装置、およびコンピュータプログラム製品
KR102612539B1 (ko) 다시점 비디오 부호화 및 복호화 방법
CN109785429B (zh) 一种三维重建的方法和装置
CN114429531A (zh) 虚拟视点图像的生成方法及装置
WO2019122504A1 (en) Method for encoding and decoding volumetric video data
KR20200143276A (ko) 비디오 부호화 방법 및 비디오 복호화 방법
Nguyen et al. High resolution 3d content creation using unconstrained and uncalibrated cameras
KR102589867B1 (ko) 플랜옵틱 포인트 클라우드 생성 방법 및 장치
KR20200050842A (ko) 플렌옵틱 데이터 저장 시스템 및 그것의 동작 방법
Golestani et al. Image-Based Rendering using Point Cloud for 2D Video Compression
US20240144595A1 (en) 3d scene reconstruction with additional scene attributes
KR20120062345A (ko) 삼차원 모델 복원 장치 및 그 방법
Lin et al. Free-viewpoint image synthesis based on non-uniformly resampled 3D representation

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant