KR20210028606A - 화상 처리 장치 및 방법 - Google Patents

Abstract

본 개시는, 포인트 클라우드 데이터에 대한 필터 처리의 처리 시간의 증대를 억제할 수 있도록 하는 화상 처리 장치 및 방법에 관한 것이다. 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 그 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하고, 그 필터 처리가 행해진 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성한다. 본 개시는, 예를 들어 정보 처리 장치, 화상 처리 장치, 전자 기기, 정보 처리 방법 또는 프로그램 등에 적용할 수 있다.

Description

화상 처리 장치 및 방법

본 개시는, 화상 처리 장치 및 방법에 관한 것이고, 특히 포인트 클라우드 데이터에 대한 필터 처리의 처리 시간의 증대를 억제할 수 있도록 한 화상 처리 장치 및 방법에 관한 것이다.

종래, 예를 들어 포인트 클라우드(Point cloud)와 같은 3차원 구조를 나타내는 3D 데이터의 부호화 방법으로서, 예를 들어 Octree 등과 같은, 복셀(Voxel)을 사용한 부호화가 있었다(예를 들어 비특허문헌 1 참조).

근년, 기타 부호화 방법으로서, 예를 들어 포인트 클라우드의 위치와 색 정보 각각을, 소 영역별로 2차원 평면에 투영하고, 2차원 화상용 부호화 방법으로 부호화하는 어프로치(이하, 비디오 베이스드 어프로치(Video-based approach)라고도 칭함)가 제안되어 있다(예를 들어, 비특허문헌 2 내지 비특허문헌 4 참조).

이러한 부호화에 있어서, 복호된 2차원 화상으로부터 복원된 포인트 클라우드를 화상화한 경우의 주관적인 화질의 저감을 억제하기 위해서, 최근방 탐색(Nearest Neighbor)에 의해 주변의 포인트를 취득하여 3차원의 평활화 필터를 적용하는 방법이 생각되었다.

R. Mekuria, Student Member IEEE, K. Blom, P. Cesar., Member, IEEE, "Design, Implementation and Evaluation of a Point Cloud Codec for Tele-Immersive Video", tcsvt_paper_submitted_february.pdf Tim Golla and Reinhard Klein, "Real-time Point Cloud Compression," IEEE, 2015 K. Mammou, "Video-based and Hierarchical Approaches Point Cloud Compression ", MPEG m41649, Oct. 2017 K. Mammou, "PCC Test Model Category 2 v0," N17248 MPEG output document, October 2017

그러나, 일반적으로 포인트 클라우드의 포인트수는 많아, 최근방 탐색의 처리 부하가 매우 커져버리고 있었다. 그 때문에, 이 방법에서는 처리 시간이 증대될 우려가 있었다.

본 개시는 이러한 상황을 감안하여 이루어진 것이며, 포인트 클라우드 데이터에 대한 필터 처리를 종래의 방법보다도 고속으로 행할 수 있게 하여, 그 처리 시간의 증대를 억제할 수 있도록 하는 것이다.

본 기술의 일 측면의 화상 처리 장치는, 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하는 필터 처리부와, 상기 필터 처리부에 의해 상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는 부호화부를 구비하는 화상 처리 장치이다.

본 기술의 일 측면의 화상 처리 방법은, 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하고, 상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는 화상 처리 방법이다.

본 기술의 다른 측면의 화상 처리 장치는, 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하는 복호부와, 상기 복호부에 의해 생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하는 필터 처리부를 구비하는 화상 처리 장치이다.

본 기술의 다른 측면의 화상 처리 방법은, 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하고, 생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하는 화상 처리 방법이다.

본 기술의 또 다른 측면의 화상 처리 장치는, 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하는 필터 처리부와, 상기 필터 처리부에 의해 상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는 부호화부를 구비하는 화상 처리 장치이다.

본 기술의 또 다른 측면의 화상 처리 방법은, 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하여, 상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는 화상 처리 방법이다.

본 기술의 또 다른 측면의 화상 처리 장치는, 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하는 복호부와, 상기 복호부에 의해 생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하는 필터 처리부를 구비하는 화상 처리 장치이다.

본 기술의 또 다른 측면의 화상 처리 방법은, 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하고, 생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하는 화상 처리 방법이다.

본 기술의 일 측면의 화상 처리 장치 및 방법에 있어서는, 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 그 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리가 행해지고, 그 필터 처리가 행해진 포인트 클라우드 데이터가 투영된 2차원 평면 화상이 부호화되어, 비트 스트림이 생성된다.

본 기술의 다른 측면의 화상 처리 장치 및 방법에 있어서는, 비트 스트림이 복호되고, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터가 생성되어, 그 생성된 2차원 평면 화상으로부터 복원된 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 그 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리가 행해진다.

본 기술의 또 다른 측면의 화상 처리 장치 및 방법에 있어서는, 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리가 행해지고, 그 필터 처리가 행해진 포인트 클라우드 데이터가 투영된 2차원 평면 화상이 부호화되어, 비트 스트림이 생성된다.

본 기술의 또 다른 측면의 화상 처리 장치 및 방법에 있어서는, 비트 스트림이 복호되고, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터가 생성되어, 그 생성된 2차원 평면 화상으로부터 복원된 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리가 행해진다.

본 개시에 의하면, 화상을 처리할 수 있다. 특히, 포인트 클라우드 데이터에 대한 필터 처리의 처리 시간의 증대를 억제할 수 있다.

도 1은 평활화 처리의 예를 설명하는 도면이다.
도 2는 본 기술에 관한 주된 특징을 정리한 도면이다.
도 3은 최근방 탐색에 대하여 설명하는 도면이다.
도 4는 본 기술을 사용한 필터 처리의 개요의 일례를 설명하는 도면이다.
도 5는 처리 시간의 비교예를 설명하는 도면이다.
도 6은 국소 영역 분할 방식의 예를 설명하는 도면이다.
도 7은 국소 영역에 관한 파라미터에 대하여 설명하는 도면이다.
도 8은 정보의 전송에 대하여 설명하는 도면이다.
도 9는 필터 처리의 대상에 대하여 설명하는 도면이다.
도 10은 대푯값의 도출 방법에 대하여 설명하는 도면이다.
도 11은 필터 처리의 연산에 대하여 설명하는 도면이다.
도 12는 필터 처리의 대상 범위에 대하여 설명하는 도면이다.
도 13은 최근방 탐색을 사용한 필터 처리에 적용하는 경우에 대하여 설명하는 도면이다.
도 14는 국소 영역별 대푯값을 사용한 필터 처리에 적용하는 경우에 대하여 설명하는 도면이다.
도 15는 처리 시간의 비교예를 설명하는 도면이다.
도 16은 부호화 장치의 주된 구성예를 나타내는 블록도이다.
도 17은 패치 분해부의 주된 구성예를 설명하는 도면이다.
도 18은 3차원 위치 정보 평활화 처리부의 주된 구성예를 설명하는 도면이다.
도 19는 부호화 처리의 흐름의 예를 설명하는 흐름도이다.
도 20은 패치 분해 처리의 흐름의 예를 설명하는 흐름도이다.
도 21은 평활화 처리의 흐름의 예를 설명하는 흐름도이다.
도 22는 평활화 범위 설정 처리의 흐름의 예를 설명하는 흐름도이다.
도 23은 복호 장치의 주된 구성예를 나타내는 블록도이다.
도 24는 3D 재구축부의 주된 구성예를 설명하는 도면이다.
도 25는 3차원 위치 정보 평활화 처리부의 주된 구성예를 설명하는 도면이다.
도 26은 복호 처리의 흐름의 예를 설명하는 흐름도이다.
도 27은 포인트 클라우드 재구축 처리의 흐름의 예를 설명하는 흐름도이다.
도 28은 평활화 처리의 흐름의 예를 설명하는 흐름도이다.
도 29는 컴퓨터의 주된 구성예를 나타내는 블록도이다.

이하, 본 개시를 실시하기 위한 형태(이하 실시 형태로 한다)에 대하여 설명한다. 또한, 설명은 이하의 순서로 행한다.

1. 필터 처리의 고속화

2. 제1 실시 형태(부호화 장치)

3. 제2 실시 형태(복호 장치)

4. 변형예

5. 부기

<1. 필터 처리의 고속화>

<기술 내용·기술 용어를 서포트하는 문헌 등>

본 기술에서 개시되는 범위는, 실시 형태에 기재되어 있는 내용뿐만 아니라, 출원 당시에 있어서 공지가 되어 있는 이하의 비특허문헌에 기재되어 있는 내용도 포함된다.

비특허문헌 1: (상술)

비특허문헌 2: (상술)

비특허문헌 3: (상술)

비특허문헌 4: (상술)

비특허문헌 5: TELECOMMUNICATION STANDARDIZATION SECTOR OF ITU(International Telecommunication Union), "Advanced video coding for generic audiovisual services", H.264, 04/2017

비특허문헌 6: TELECOMMUNICATION STANDARDIZATION SECTOR OF ITU(International Telecommunication Union), "High efficiency video coding", H.265, 12/2016

비특허문헌 7: Jianle Chen, Elena Alshina, Gary J. Sullivan, Jens-Rainer, Jill Boyce, "Algorithm Description of Joint Exploration Test Model 4", JVET-G1001_v1, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 7th Meeting: Torino, IT, 13-21 July 2017

즉, 상술한 비특허문헌에 기재되어 있는 내용도 서포트 요건을 판단할 때의 근거가 된다. 예를 들어, 비특허문헌 6에 기재되어 있는 Quad-Tree Block Structure, 비특허문헌 7에 기재되어 있는 QTBT(Quad Tree Plus Binary Tree) Block Structure가 실시 형태에 있어서 직접적인 기재가 없는 경우에도, 본 기술의 개시 범위 내이며, 청구범위의 서포트 요건을 충족시키는 것으로 한다. 또한, 예를 들어 파싱(Parsing), 신택스(Syntax), 시맨틱스(Semantics) 등의 기술 용어에 대해서도 마찬가지로, 실시 형태에 있어서 직접적인 기재가 없는 경우에도, 본 기술의 개시 범위 내이며, 청구범위의 서포트 요건을 충족시키는 것으로 한다.

<포인트 클라우드>

종래, 점군의 위치 정보나 속성 정보 등에 의해 3차원 구조를 나타내는 포인트 클라우드나, 정점, 에지, 면으로 구성되고, 다각형 표현을 사용하여 3차원 형상을 정의하는 메쉬 등의 데이터가 존재하였다.

예를 들어 포인트 클라우드의 경우, 입체 구조물을 다수의 점의 집합(점군)으로서 표현한다. 즉, 포인트 클라우드의 데이터는, 이 점군의 각 점의 위치 정보나 속성 정보(예를 들어 색 등)에 의해 구성된다. 따라서 데이터 구조가 비교적 단순함과 함께, 충분히 많은 점을 사용함으로써 임의의 입체 구조를 충분한 정밀도로 표현할 수 있다.

<비디오 베이스드 어프로치의 개요>

이러한 포인트 클라우드의 위치와 색 정보 각각을, 소 영역별로 2차원 평면에 투영하고, 2차원 화상용 부호화 방법으로 부호화하는 비디오 베이스드 어프로치(Video-based approach)가 제안되어 있다.

이 비디오 베이스드 어프로치에서는, 입력된 포인트 클라우드(Point cloud)가 복수의 세그멘테이션(영역이라고도 칭함)으로 분할되고, 영역별로 2차원 평면에 투영된다. 또한, 포인트 클라우드의 위치별 데이터(즉, 각 포인트의 데이터)는 상술한 바와 같이 위치 정보(Geometry(Depth라고도 칭함))와 속성 정보(Texture)에 의해 구성되고, 각각 영역별로 2차원 평면에 투영된다.

그리고, 이 2차원 평면에 투영된 각 세그멘테이션(패치라고도 칭함)은, 2차원 화상에 배치되고, 예를 들어 AVC(Advanced Video Coding)나 HEVC(High Efficiency Video Coding) 등이라는, 2차원 평면 화상용 부호화 방식에 의해 부호화된다.

<오큐펀시 맵>

비디오 베이스드 어프로치에 의해, 3D 데이터를 2차원 평면에 투영하는 경우, 상술한 바와 같이 위치 정보가 투영된 2차원 평면 화상(지오메트리(Geometry) 화상이라고도 칭함)과, 속성 정보가 투영된 2차원 평면 화상(텍스처(Texture) 화상이라고도 칭함) 외에도, 오큐펀시 맵이 생성된다. 오큐펀시 맵은 2차원 평면의 각 위치에 있어서의, 위치 정보 및 속성 정보의 유무를 나타내는 맵 정보이다. 보다 구체적으로는, 오큐펀시 맵에서는, 그 위치 정보 및 속성 정보의 유무가 프리시젼(Precision)이라 칭하는 영역마다 나타난다.

포인트 클라우드(의 각 포인트)는 이 오큐펀시 맵의 프리시젼으로 정의되는 블록 단위로 복원되기 때문에, 이 블록의 사이즈가 클수록, 포인트의 해상도가 거칠어진다. 그 때문에, 이 프리시젼의 사이즈가 큰 것에 의해, 비디오 베이스드 어프로치에 의해 부호화·복호한 포인트 클라우드를 영상화하는 경우의 주관적인 화질이 저감되어버릴 우려가 있었다.

예를 들어, 비디오 베이스드 어프로치에 의해 부호화·복호한 포인트 클라우드를 화상화한 경우에, 프리시젼의 사이즈가 크면, 도 1의 A와 같이, 백색 부분과 흑색 부분의 경계에 있어서, 톱니와 같은 미세한 새김눈이 형성되어, 주관적인 화질이 저감되어버릴 우려가 있었다.

그래서, 최근방 탐색(NN(NearestNeighbor)이라고도 칭함)에 의해 처리 대상 포인트 주변의 포인트를 취득하고, 그것들을 사용하여 처리 대상 포인트에 3차원의 평활화 필터를 적용하는 방법이 생각되었다. 이러한 3차원의 평활화 필터를 적용하는 것에 의해, 도 1의 B와 같이, 백색 부분과 흑색 부분의 경계의 새김눈이 억제되어 매끄러운 선형이 되고, 주관적인 화질의 저감을 억제할 수 있다.

그러나, 일반적으로 포인트 클라우드의 포인트수는 많아, 최근방 탐색의 처리 부하가 매우 커져버리고 있었다. 그 때문에, 이 방법에서는 처리 시간이 증대될 우려가 있었다.

이 처리 시간의 증대에 의해, 예를 들어 상술한 바와 같은 비디오 베이스드 어프로치를 즉시적(리얼타임)으로 행하는(예를 들어 매초 60 프레임의 동화상으로서 부호화하는) 것이 곤란하였다.

일반적인 NN의 고속화 방법으로서, 근사로 찾는 방법(Approximate NN)이나, 보다 고속의 처리가 가능한 하드웨어를 사용하는 방법 등이 고려되고 있지만, 그것들을 사용해도 즉시적인 처리는 현실적으로 곤란하였다.

<3차원의 필터 처리의 고속화>

<#1. 국소 영역별 대푯값을 사용한 고속화>

여기에서 3차원의 평활화 필터 처리를 고속화한다. 예를 들어 도 2의 #1의 단에 나타낸 바와 같이, 3차원 공간을 국소 영역으로 분할하고, 그 국소 영역별로 포인트 클라우드의 대푯값을 구하고, 필터 처리에 있어서의 참조값으로서 그 국소 영역별 대푯값을 사용하도록 한다.

예를 들어, 도 3의 A에 나타낸 바와 같이 포인트가 분포하고 있으며, 중앙의 흑색의 포인트(curPoint)에 대하여 3차원의 평활화 필터를 적용하는 경우, 그 주변의 그레이의 포인트(nearPoint)의 데이터를 참조하여(참조값으로서 사용하여) 평활화가 행해진다.

종래의 방법의 의사 코드를 도 3의 B에 나타낸다. 종래의 경우, 처리 대상 포인트(curPoint)의 주변 포인트(nearPoint)는, 최근방 탐색(NN)을 사용하여 결정하고(nearPoint=NN(curPoint)), 모든 주변 포인트가 서로 동일한 패치에 속하지 않는 경우(if(! all same patch(nearPoints))), 즉, 처리 대상 포인트가 패치의 단부에 위치하는 경우, 주변 포인트의 데이터의 평균을 사용하여 처리 대상 포인트의 평활화가 행해졌다(curPoint=average(nearPoints)).

이에 비해, 도 4의 A의 사각형과 같이, 3차원 공간을 국소 영역으로 분할하고, 그 국소 영역별로 포인트 클라우드의 대푯값(×)을 도출하고, 그 대푯값을 사용하여 처리 대상 포인트(흑점)의 평활화를 행하도록 한다. 그 의사 코드를 도 4의 B에 나타낸다. 이 경우, 먼저 국소 영역(그리드)별 대푯값으로서, 국소 영역 내의 포인트의 평균값(AveragePoint)을 도출한다. 그리고, 처리 대상 포인트가 속하는 그리드(처리 대상 그리드)의 주변에 위치하는 주변 그리드(near grid)를 특정한다.

주변 그리드에는, 처리 대상 그리드에 대하여 미리 정해진 소정의 위치 관계에 있는 그리드가 선택된다. 예를 들어, 처리 대상 그리드에 인접하는 그리드를 주변 그리드로 하도록 해도 된다. 예를 들어, 도 4의 A의 예의 경우, 중앙의 사각을 처리 대상 그리드라 하면, 그 주위의 8개의 그리드가 주변 그리드가 된다.

그리고, 모든 주변 포인트가 서로 동일한 패치에 속하지 않는 경우(if(! all same patch(nearPoints))), 즉, 처리 대상 포인트가 패치의 단부에 위치하는 경우, 그들 주변 그리드의 대푯값의 집합(averagePoints=AveragePoint(near grid))을 사용한 트리리니어 필터링에 의해 처리 대상 포인트에 대하여 3차원의 평활화 필터 처리를 행한다(curPoint=trilinear(averagePoints)).

이와 같이 함으로써, 부하가 큰 최근방 탐색(NN)을 행하지 않고 필터 처리(3차원의 평활화 필터 처리)를 실현할 수 있다. 따라서, 종래 3차원의 평활화 필터와 동등한 평활화 효과를 실현할 수 있음과 함께, 그 처리 시간을 대폭 삭감할 수 있다. 도 5에 최근방 탐색을 사용하는 경우의 3차원의 평활화 필터(NN)의 처리 시간과, 본 기술을 적용한 3차원의 평활화 필터(trilinear)의 처리 시간의 비교예를 나타낸다. 즉, 본 기술을 적용함으로써, 도 5의 좌측 그래프와 같이 걸렸었던 처리 시간을, 도 5의 우측 그래프와 같이 단축할 수 있다.

이하, 도 6 내지 도 15를 참조하여, 도 2의 각 단에 대하여 설명한다.

<#1-1. 국소 영역 분할 방식>

3차원 공간의 분할 방법(국소 영역의 분할 방식)은 임의이다. 예를 들어 도 6의 표 ID란이 「1」인 행과 같이, 3차원 공간을 균일하게 N×N×N의 입방체 영역으로 분할하도록 해도 된다. 이와 같이 함으로써, 3차원 공간을 용이하게 국소 영역으로 분할할 수 있으므로, 필터 처리의 처리 시간의 증대를 억제할(필터 처리를 보다 고속화할) 수 있다.

또한, 예를 들어 도 6의 표 ID란이 「2」인 행과 같이, 3차원 공간을 균일하게 M×N×L의 직육면체 영역으로 분할하도록 해도 된다. 이와 같이 함으로써, 3차원 공간을 용이하게 국소 영역으로 분할할 수 있으므로, 필터 처리의 처리 시간의 증대를 억제할(필터 처리를 보다 고속화할) 수 있다. 또한, 3차원 공간을 입방체 영역으로 분할하는 경우보다도, 국소 영역의 형상의 자유도가 향상되므로, 각 국소 영역의 처리 부하를 보다 평활화할 수 있다(부하의 치우침을 억제할 수 있다).

또한, 예를 들어 도 6의 표 ID란이 「3」인 행과 같이, 3차원 공간을, 각 국소 영역 내의 포인트수가 일정해지게 분할하도록 해도 된다. 이와 같이 함으로써, 3차원 공간을 입방체 영역이나 직육면체 영역으로 분할하는 경우보다도, 각 국소 영역의 처리의 무거움이나 리소스 사용량을 평활화할 수 있다(부하의 치우침을 억제할 수 있다).

또한, 예를 들어 도 6의 표 ID란이 「4」인 행과 같이, 3차원 공간이 임의의 위치에, 임의의 형상 및 사이즈의 국소 영역을 설정하도록 해도 된다. 이와 같이 함으로써, 상술한 각 방법의 경우보다도, 복잡한 3차원 형상의 것에 대해서도, 보다 그 형상에 적합한 평활화 처리(smooth 처리)를 행할 수 있어, 보다 평활화할 수 있다.

또한, 예를 들어 도 6의 표 ID란이 「5」인 행과 같이, 상술한 ID가 「1」 내지 「4」의 각 방법을 선택할 수 있도록 해도 된다. 이와 같이 함으로써, 보다 다양한 상황에 대하여, 보다 적절한 평활화 처리(smooth 처리)를 행할 수 있어, 보다 평활화할 수 있다. 또한, 이 선택을 어떻게 행할 것인가(무엇에 기초하여 선택할 것인가)는 임의이다. 또한, 어느 방법을 선택하였는지를 나타내는 정보를, 부호화측으로부터 복호측으로 전송하도록 해도 된다(방법 선택 정보의 시그널).

<#1-2. 국소 영역 파라미터 설정>

또한, 이러한 국소 영역의 파라미터의 설정 방법 및 내용은 임의이다. 예를 들어 도 7의 표 ID란이 「1」인 행과 같이, 3차원 공간을 분할하는 국소 영역의 형상이나 사이즈(예를 들어, 도 6의 L, M, N 등)를 고정값으로 해도 된다. 예를 들어, 규격 등에 의해 이 값을 미리 설정하도록 해도 된다. 이와 같이 함으로써, 국소 영역의 형상이나 사이즈의 설정을 생략할 수 있으므로, 필터 처리를 보다 고속화할 수 있다.

또한, 예를 들어 도 7의 표 ID란이 「2」인 행과 같이, 포인트 클라우드나 상황에 따라서 국소 영역의 형상이나 사이즈를 설정할 수 있도록 해도 된다. 즉, 국소 영역의 파라미터를 가변으로 해도 된다. 이와 같이 함으로써, 상황에 따라서 보다 적절한 국소 영역을 형성할 수 있으므로, 필터 처리를 보다 적절하게 행할 수 있다. 예를 들어, 처리를 보다 고속화하거나, 처리의 치우침을 억제하거나, 보다 평활화하거나 할 수 있다.

예를 들어, 도 7의 표 ID란이 「2-1」인 행과 같이, 국소 영역의 사이즈(예를 들어, 도 6의 L, M, N 등)를 가변으로 하도록 해도 된다. 또한, 예를 들어 ID란이 「2-2」인 행과 같이, 국소 영역이 포함하는 포인트수를 가변으로 하도록 해도 된다. 또한, 예를 들어 ID란이 「2-3」인 행과 같이, 국소 영역의 형상이나 위치를 가변으로 하도록 해도 된다. 또한, 예를 들어 ID란이 「2-4」인 행과 같이, 국소 영역의 설정 방법의 선택을 유저 등이 행할 수 있도록 해도 된다. 예를 들어 도 6의 표 ID가 「1」 내지 「4」 중 어느 방법을 선택할지를 유저 등이 결정할 수 있도록 해도 된다.

<#1-3. 시그널>

또한, 필터 처리에 관한 정보는, 부호화측으로부터 복호측으로 전송하도록 해도 되고, 전송하지 않아도 된다. 예를 들어 도 8의 표 ID란이 「1」인 행과 같이, 필터 처리에 관한 모든 파라미터가 규격 등에 의해 미리 설정되어 있도록 하고, 필터 처리에 관한 정보의 전송은 행하지 않도록 해도 된다. 이와 같이 함으로써, 전송할 정보량이 저감되므로, 부호화 효율을 향상시킬 수 있다. 또한, 파라미터의 도출이 불필요하므로, 필터 처리의 부하를 경감시킬 수 있어, 필터 처리를 보다 고속화할 수 있다.

또한, 예를 들어 도 8의 표 ID란이 「2」인 행과 같이, 필터 처리에 관한 모든 파라미터에 대하여, 내부의 다른 파라미터(예를 들어 오큐펀시 맵의 프리시젼 등)로부터 최적의 값을 도출 가능하게 하고, 필터 처리에 관한 정보의 전송은 행하지 않도록 해도 된다. 이와 같이 함으로써, 전송할 정보량이 저감되므로, 부호화 효율을 향상시킬 수 있다. 또한, 상황에 따라서 적합한 국소 영역의 설정이 가능해진다.

또한, 예를 들어 도 8의 표 ID란이 「3」인 행과 같이, 필터 처리에 관한 정보를 비트 스트림의 헤더로 전송하도록 해도 된다. 그 경우, 그 비트 스트림 내에서 파라미터는 고정값이 된다. 이와 같이 함으로써, 전송할 정보량은 비교적 적어지므로, 부호화 효율의 저감을 억제할 수 있다. 또한, 비트 스트림 내에서 파라미터가 고정값이 되므로, 필터 처리의 부하의 증대를 억제할 수 있다.

또한, 예를 들어 도 8의 표 ID란이 「4」인 행과 같이, 필터 처리에 관한 정보를 프레임의 헤더로 전송하도록 해도 된다. 그 경우, 프레임별로 파라미터를 가변으로 할 수 있다. 따라서, 상황에 보다 적합한 국소 영역의 설정이 가능해진다.

<#1-4. 필터 처리 대상>

필터 처리의 대상은 임의이다. 예를 들어 도 9의 표 ID란이 「1」인 행과 같이, 포인트 클라우드의 위치 정보를 대상으로 해도 된다. 즉, 처리 대상 포인트의 위치 정보에 대하여 3차원의 평활화 필터 처리를 행하도록 한다. 이와 같이 함으로써, 포인트 클라우드의 각 포인트의 위치 평활화를 실현할 수 있다.

또한, 예를 들어 도 9의 표 ID란이 「2」인 행과 같이, 포인트 클라우드의 속성 정보(색 등)를 대상으로 해도 된다. 즉, 처리 대상 포인트의 속성 정보에 대하여 3차원의 평활화 필터 처리를 행하도록 한다. 이와 같이 함으로써, 포인트 클라우드의 각 포인트의 색 등의 평활화를 실현할 수 있다.

<#1-5. 대푯값 도출 방법>

각 국소 영역의 대푯값 도출 방법은 임의이다. 예를 들어 도 10의 표 ID란이 「1」인 행과 같이, 국소 영역 내부의 (국소 영역이 포함되는) 포인트의 데이터의 평균값(average)을 대푯값으로 하도록 해도 된다. 평균(average)의 산출은 용이한 연산에 의해 가능하므로, 이와 같이 함으로써 보다 고속으로 대푯값을 산출할 수 있다. 즉, 필터 처리를 보다 고속화할 수 있다.

또한, 예를 들어 도 10의 표 ID란이 「2」인 행과 같이, 국소 영역 내부의 (국소 영역이 포함되는) 포인트의 데이터 중앙값(median)을 대푯값으로 하도록 해도 된다. 중앙값(median)은 특이한 데이터의 영향을 받기 어려우므로, 노이즈가 있을 경우에도 보다 안정된 결과를 얻을 수 있다. 즉, 보다 안정된 필터 처리 결과가 얻어진다.

물론, 대푯값의 도출 방법은 이들 예 이외여도 된다. 또한, 예를 들어 복수의 방법으로 대푯값을 도출하여, 보다 적합한 값쪽을 선택하도록 해도 된다. 또한, 예를 들어 국소 영역별로 도출 방법을 바꿀 수 있도록 해도 된다. 예를 들어, 포인트 클라우드가 나타내는 3차원 구조체의 특징에 따라서 도출 방법을 선택하도록 해도 된다. 예를 들어, 머리털과 같이 형상이 가늘고 노이즈를 많이 포함하는 부분에 대하여는 중앙값(median)에 의해 대푯값을 도출하고, 양복과 같이 경계가 명확한 부분에 대하여는 평균값(average)에 의해 대푯값을 도출하도록 해도 된다.

<#1-6. 필터 처리 연산>

필터 처리(3차원의 평활화 필터)의 연산은 임의이다. 예를 들어 도 11의 표 ID란이 「1」인 행과 같이, 트리리니어(Trilinear) 보간을 사용하도록 해도 된다. 트리리니어 보간은 처리 속도와 처리 결과의 질의 밸런스가 양호하다. 또한, 예를 들어 도 11의 표 ID란이 「2」인 행과 같이, 트리큐빅(Tricubic) 보간을 사용하도록 해도 된다. 트리큐빅 보간은 트리리니어 보간보다도 질이 높은 처리 결과를 얻을 수 있다. 또한, 예를 들어 도 11의 표 ID란이 「3」인 행과 같이, 최근방 탐색(NN)을 사용하도록 해도 된다. 이 방법은 트리리니어 보간보다도 고속으로 처리 결과를 얻을 수 있다. 물론, 이들 이외의 임의의 연산에 의해 3차원의 평활화 필터를 실현하도록 해도 된다.

<#2. 3차원의 필터 처리의 간략화>

또한, 도 2의 #2의 단에 나타낸 바와 같이, 부분 영역에 한정하여 필터 처리를 행하도록 해도 된다. 도 12는 오큐펀시 맵의 예를 나타내는 도면이다. 도 12에 나타나는 오큐펀시 맵(51)에 있어서, 백색 부분이 포인트 클라우드의 위치 정보를 2차원 평면에 투영한 지오메트리 화상이나, 포인트 클라우드의 속성 정보를 2차원 평면에 투영한 텍스처 화상에 있어서의 데이터가 존재하는 영역(프리시젼)을 나타내고, 흑색 부분이 지오메트리 화상이나 텍스처 화상에 있어서의 데이터가 존재하지 않는 영역을 나타낸다. 즉, 백색 부분이 포인트 클라우드의 패치가 투영된 영역을 나타내고, 흑색 부분이 포인트 클라우드의 패치가 투영되지 않은 영역을 나타낸다.

도 1의 A에 나타낸 바와 같은 새김눈은, 도 12의 화살표(52)가 지시하는 바와 같은, 패치의 경계 부분에 있어서 발생한다. 그래서, 도 2의 #2-1의 단에 나타낸 바와 같이, 그러한 패치의 경계 부분(오큐펀시 맵에 있어서의 패치의 단)에 대응하는 포인트에 대하여만, 3차원의 평활화 필터 처리를 행하도록 해도 된다. 즉, 오큐펀시 맵에 있어서의 패치의 단부를, 3차원의 평활화 필터 처리를 행할 부분 영역으로 해도 된다.

이와 같이 함으로써, 일부의 영역에 대하여만 3차원의 평활화 필터 처리를 행하도록 할 수 있다. 즉, 3차원의 평활화 필터 처리를 행할 영역을 저감시킬 수 있으므로, 3차원의 평활화 필터 처리를 보다 고속화할 수 있다.

이 방법은, 도 13의 A에 나타낸 바와 같은 종래의 최근방 탐색과 조합할 수 있다. 즉, 도 13의 B에 나타나는 의사 코드와 같이, 처리 대상 포인트의 위치가 패치의 단에 대응하는 경우(if(is_Boundary(curPos)))만, 최근방 탐색(k-NearestNeighbor)을 포함하는 3차원의 평활화 필터 처리를 행하도록 해도 된다.

또한, 도 14의 A에 나타낸 바와 같이, #1에 있어서 상술한 본 기술을 적용한 필터 처리와 조합하여 사용하도록 해도 된다. 즉, 도 14의 B에 나타나는 의사 코드와 같이, 처리 대상 포인트의 위치가 패치의 단에 대응하는 경우(if(is_Boundary(curPos)))만, 국소 영역의 대푯값을 사용한 트리리니어 보간에 의한 3차원의 평활화 필터 처리를 행하도록 해도 된다.

각 방법의 처리 시간의 비교예를 도 15에 나타낸다. 좌측으로부터 1번째 그래프는, 종래의 최근방 탐색을 사용한 평활화 필터 처리의 처리 시간을 나타낸다. 좌측으로부터 2번째 그래프는, 국소 영역의 대푯값을 사용한 트리리니어 보간에 의한 3차원의 평활화 필터 처리의 처리 시간을 나타낸다. 좌측으로부터 3번째 그래프는, 종래의 최근방 탐색을 사용한 평활화 필터 처리를, 오큐펀시 맵에 있어서의 패치의 단부에 대응하는 포인트에 대하여만 행하는 경우의 처리 시간을 나타낸다. 좌측으로부터 4번째 그래프는, 국소 영역의 대푯값을 사용한 트리리니어 보간에 의한 3차원의 평활화 필터 처리를, 오큐펀시 맵에 있어서의 패치의 단부에 대응하는 포인트에 대하여만 행하는 경우의 처리 시간을 나타낸다. 이와 같이, 3차원의 평활화 필터를 일부의 영역에 대하여만 행하도록 함으로써, 그 필터 처리의 방법에 관계없이, 처리 시간을 저감시킬 수 있다.

<2. 제1 실시 형태>

<부호화 장치>

이어서, 이상과 같은 각 방법을 실현하는 구성에 대하여 설명한다. 도 16은, 본 기술을 적용한 화상 처리 장치의 일 양태인 부호화 장치의 구성의 일례를 나타내는 블록도이다. 도 16에 나타나는 부호화 장치(100)는, 포인트 클라우드와 같은 3D 데이터를 2차원 평면에 투영하여 2차원 화상용 부호화 방법에 의해 부호화를 행하는 장치(비디오 베이스드 어프로치를 적용한 부호화 장치)이다.

또한, 도 16에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 나타내고 있고, 도 16에 나타나는 것이 전부인 것만은 아니다. 즉, 부호화 장치(100)에 있어서, 도 16에 있어서 블록으로서 나타나 있지 않은 처리부가 존재하거나, 도 16에 있어서 화살표 등으로서 나타나 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다. 이것은, 부호화 장치(100) 내의 처리부 등을 설명하는 그 외의 도면에 있어서도 마찬가지이다.

도 16에 나타낸 바와 같이 부호화 장치(100)는, 패치 분해부(111), 패킹부(112), OMap 생성부(113), 보조 패치 정보 압축부(114), 비디오 부호화부(115), 비디오 부호화부(116), OMap 부호화부(117) 및 멀티플렉서(118)를 갖는다.

패치 분해부(111)는 3D 데이터의 분해에 관한 처리를 행한다. 예를 들어, 패치 분해부(111)는 부호화 장치(100)에 입력되는, 3차원 구조를 나타내는 3D 데이터(예를 들어 포인트 클라우드(PointCloud))를 취득한다. 또한, 패치 분해부(111)는 취득한 그 3D 데이터를 복수의 세그멘테이션으로 분해하고, 그 세그멘테이션별로 3D 데이터를 2차원 평면에 투영하고, 위치 정보의 패치나 속성 정보의 패치를 생성한다.

패치 분해부(111)는 생성된 각 패치에 관한 정보를 패킹부(112)에 공급한다. 또한, 패치 분해부(111)는 그 분해에 관한 정보인 보조 패치 정보를, 보조 패치 정보 압축부(114)에 공급한다.

패킹부(112)는 데이터의 패킹에 관한 처리를 행한다. 예를 들어, 패킹부(112)는 패치 분해부(111)로부터 공급되는 영역별로 3D 데이터가 투영된 2차원 평면의 데이터(패치)를 취득한다. 또한, 패킹부(112)는 취득한 각 패치를 2차원 화상에 배치하여 비디오 프레임으로서 패킹한다. 예를 들어, 패킹부(112)는 포인트의 위치를 나타내는 위치 정보(Geometry)의 패치나, 그 위치 정보에 부가되는 색 정보 등의 속성 정보(Texture)의 패치를, 각각 비디오 프레임으로서 패킹한다.

패킹부(112)는 생성된 비디오 프레임을 OMap 생성부(113)에 공급한다. 또한, 패킹부(112)는 그 패킹에 관한 제어 정보를 멀티플렉서(118)에 공급한다.

OMap 생성부(113)는 오큐펀시 맵의 생성에 관한 처리를 행한다. 예를 들어, OMap 생성부(113)는 패킹부(112)로부터 공급되는 데이터를 취득한다. 또한, OMap 생성부(113)는 위치 정보나 속성 정보에 대응하는 오큐펀시 맵을 생성한다. OMap 생성부(113)는 생성된 오큐펀시 맵이나, 패킹부(112)로부터 취득한 각종 정보를 후단의 처리부에 공급한다. 예를 들어, OMap 생성부(113)는 위치 정보(Geometry)의 비디오 프레임을 비디오 부호화부(115)에 공급한다. 또한, 예를 들어 OMap 생성부(113)는 속성 정보(Texture)의 비디오 프레임을 비디오 부호화부(116)에 공급한다. 또한, 예를 들어 OMap 생성부(113)는 오큐펀시 맵을 OMap 부호화부(117)에 공급한다.

보조 패치 정보 압축부(114)는 보조 패치 정보의 압축에 관한 처리를 행한다. 예를 들어, 보조 패치 정보 압축부(114)는 패치 분해부(111)로부터 공급되는 데이터를 취득한다. 보조 패치 정보 압축부(114)는 취득한 데이터에 포함되는 보조 패치 정보를 부호화(압축)한다. 보조 패치 정보 압축부(114)는 얻어진 보조 패치 정보의 부호화 데이터를 멀티플렉서(118)에 공급한다.

비디오 부호화부(115)는 위치 정보(Geometry)의 비디오 프레임의 부호화에 관한 처리를 행한다. 예를 들어, 비디오 부호화부(115)는 OMap 생성부(113)로부터 공급되는 위치 정보(Geometry)의 비디오 프레임을 취득한다. 또한, 비디오 부호화부(115)는 그 취득한 위치 정보(Geometry)의 비디오 프레임을, 예를 들어 AVC나 HEVC 등의 임의의 2차원 화상용 부호화 방법에 의해 부호화한다. 비디오 부호화부(115)는 그 부호화에 의해 얻어진 부호화 데이터(위치 정보(Geometry)의 비디오 프레임의 부호화 데이터)를 멀티플렉서(118)에 공급한다.

비디오 부호화부(116)는 속성 정보(Texture)의 비디오 프레임의 부호화에 관한 처리를 행한다. 예를 들어, 비디오 부호화부(116)는 OMap 생성부(113)로부터 공급되는 속성 정보(Texture)의 비디오 프레임을 취득한다. 또한, 비디오 부호화부(116)는 그 취득한 속성 정보(Texture)의 비디오 프레임을, 예를 들어 AVC나 HEVC 등의 임의의 2차원 화상용 부호화 방법에 의해 부호화한다. 비디오 부호화부(116)는 그 부호화에 의해 얻어진 부호화 데이터(속성 정보(Texture)의 비디오 프레임의 부호화 데이터)를 멀티플렉서(118)에 공급한다.

OMap 부호화부(117)는 오큐펀시 맵의 부호화에 관한 처리를 행한다. 예를 들어, OMap 부호화부(117)는 OMap 생성부(113)로부터 공급되는 오큐펀시 맵을 취득한다. 또한, OMap 부호화부(117)는 그 취득한 오큐펀시 맵을, 예를 들어 산술 부호화 등의 임의의 부호화 방법에 의해 부호화한다. OMap 부호화부(117)는 그 부호화에 의해 얻어진 부호화 데이터(오큐펀시 맵의 부호화 데이터)를 멀티플렉서(118)에 공급한다.

멀티플렉서(118)는 다중화에 관한 처리를 행한다. 예를 들어, 멀티플렉서(118)는 보조 패치 정보 압축부(114)로부터 공급되는 보조 패치 정보의 부호화 데이터를 취득한다. 또한, 멀티플렉서(118)는 패킹부(112)로부터 공급되는 패킹에 관한 제어 정보를 취득한다. 또한, 멀티플렉서(118)는 비디오 부호화부(115)로부터 공급되는 위치 정보(Geometry)의 비디오 프레임의 부호화 데이터를 취득한다. 또한, 멀티플렉서(118)는 비디오 부호화부(116)로부터 공급되는 속성 정보(Texture)의 비디오 프레임의 부호화 데이터를 취득한다. 또한, 멀티플렉서(118)는 OMap 부호화부(117)로부터 공급되는 오큐펀시 맵의 부호화 데이터를 취득한다.

멀티플렉서(118)는 취득한 그 정보들을 다중화하여, 비트 스트림(Bitstream)을 생성한다. 멀티플렉서(118)는 그 생성된 비트 스트림을 부호화 장치(100)의 외부로 출력한다.

이러한 부호화 장치(100)에 있어서, 패치 분해부(111)는 OMap 생성부(113)로부터, OMap 생성부(113)에 의해 생성된 오큐펀시 맵을 취득한다. 또한, 패치 분해부(111)는 비디오 부호화부(115)로부터, 비디오 부호화부(115)에 의해 생성된 위치 정보(Geometry)의 비디오 프레임(지오메트리 화상이라고도 칭함)의 부호화 데이터를 취득한다.

그리고, 패치 분해부(111)는 그들 데이터를 사용하여, 포인트 클라우드에 대한 3차원의 평활화 필터 처리를 행한다. 즉, 패치 분해부(111)는 3차원의 평활화 필터 처리를 행한 3D 데이터를 2차원 평면에 투영하고, 위치 정보의 패치나 속성 정보의 패치를 생성한다.

<패치 분해부>

도 17은, 도 16의 패치 분해부(111)의 주된 구성예를 나타내는 블록도이다. 도 17에 나타낸 바와 같이, 패치 분해부(111)는 패치 분해 처리부(131), 지오메트리 복호부(132), 3차원 위치 정보 평활화 처리부(133) 및 텍스처 보정부(134)를 갖는다.

패치 분해 처리부(131)는 포인트 클라우드(Point Cloud)를 취득하고, 그것을 복수의 세그멘테이션으로 분해하고, 그 세그멘테이션별로 포인트 클라우드를 2차원 평면에 투영하고, 위치 정보의 패치(지오메트리 패치)나 속성 정보의 패치(텍스처 패치)를 생성한다. 패치 분해 처리부(131)는 생성된 지오메트리 패치를 패킹부(112)에 공급한다. 또한, 패치 분해 처리부(131)는 생성된 텍스처 패치를 텍스처 보정부(134)에 공급한다.

지오메트리 복호부(132)는 지오메트리 화상의 부호화 데이터(지오메트리 부호화 데이터)를 취득한다. 이 지오메트리 화상의 부호화 데이터는, 패치 분해 처리부(131)가 생성한 지오메트리 패치가, 패킹부(112)에 있어서 비디오 프레임에 패킹되고, 비디오 부호화부(115)에 있어서 부호화된 것이다. 지오메트리 복호부(132)는 비디오 부호화부(115)의 부호화 방식에 대응하는 복호 방식에 의해, 그 지오메트리 부호화 데이터를 복호한다. 또한, 지오메트리 복호부(132)는 지오메트리 부호화 데이터를 복호하여 얻어진 지오메트리 화상으로부터 포인트 클라우드(의 위치 정보)를 재구축한다. 지오메트리 복호부(132)는 얻어진 포인트 클라우드의 위치 정보(지오메트리 포인트 클라우드)를 3차원 위치 정보 평활화 처리부(133)에 공급한다.

3차원 위치 정보 평활화 처리부(133)는 지오메트리 복호부(132)로부터 공급되는 포인트 클라우드의 위치 정보를 취득한다. 또한, 3차원 위치 정보 평활화 처리부(133)는 오큐펀시 맵을 취득한다. 이 오큐펀시 맵은 OMap 생성부(113)에 있어서 생성된 것이다.

3차원 위치 정보 평활화 처리부(133)는 포인트 클라우드의 위치 정보(지오메트리 포인트 클라우드)에 대하여 3차원의 평활화 필터 처리를 행한다. 그 때, 3차원 위치 정보 평활화 처리부(133)는 상술한 바와 같이, 3차원 공간을 분할한 국소 영역별 대푯값을 사용하여 3차원의 평활화 필터 처리를 행한다. 또한, 3차원 위치 정보 평활화 처리부(133)는 취득한 오큐펀시 맵을 사용하여, 그 오큐펀시 맵에 있어서의 패치의 단에 대응하는 부분 영역의 포인트에 대하여만, 3차원의 평활화 필터 처리를 행한다. 이와 같이 함으로써, 3차원 위치 정보 평활화 처리부(133)는 보다 고속으로 필터 처리를 행할 수 있다.

3차원 위치 정보 평활화 처리부(133)는, 필터 처리를 행한 지오메트리 포인트 클라우드(평활화 후 지오메트리 포인트 클라우드라고도 칭함)를, 패치 분해 처리부(131)에 공급한다. 패치 분해 처리부(131)는 그 평활화 후 지오메트리 포인트 클라우드를 복수의 세그멘테이션으로 분해하고, 그 세그멘테이션별로 포인트 클라우드를 2차원 평면에 투영하고, 위치 정보의 패치(평활화 후 지오메트리 패치)를 생성하고, 그것을 패킹부(112)에 공급한다.

또한, 3차원 위치 정보 평활화 처리부(133)는 평활화 후 지오메트리 포인트 클라우드를 텍스처 보정부(134)에도 공급한다.

텍스처 보정부(134)는 패치 분해 처리부(131)로부터 공급되는 텍스처 패치를 취득한다. 또한, 텍스처 보정부(134)는 3차원 위치 정보 평활화 처리부(133)로부터 공급되는 평활화 후 지오메트리 포인트 클라우드를 취득한다. 텍스처 보정부(134)는 그 평활화 후 지오메트리 포인트 클라우드를 사용하여, 텍스처 패치의 보정을 행한다. 3차원의 평활화에 의해 포인트 클라우드의 위치 정보가 변화되면, 2차원 평면에 투영된 패치의 형상도 변화될 수 있다. 즉, 텍스처 보정부(134)는 3차원의 평활화에 의한 포인트 클라우드의 위치 정보의 변화를 속성 정보의 패치(텍스처 패치)에 반영시킨다.

텍스처 보정부(134)는 그 보정 후의 텍스처 패치를 패킹부(112)에 공급한다.

패킹부(112)는 패치 분해부(111)로부터 공급되는 평활화 후 지오메트리 패치 및 보정 후 텍스처 패치를 각각 비디오 프레임에 패킹하고, 위치 정보의 비디오 프레임이나 속성 정보의 비디오 프레임을 생성한다.

<3차원 위치 정보 평활화 처리부>

도 18은, 도 17의 3차원 위치 정보 평활화 처리부(133)의 주된 구성예를 나타내는 블록도이다. 도 18에 나타낸 바와 같이, 3차원 위치 정보 평활화 처리부(133)는 영역 분할부(141), 영역 내 대푯값 도출부(142), 처리 대상 영역 설정부(143), 평활화 처리부(144) 및 전송 정보 생성부(145)를 갖는다.

영역 분할부(141)는 지오메트리 복호부(132)로부터 공급되는 포인트 클라우드의 위치 정보(지오메트리 포인트 클라우드)를 취득한다. 영역 분할부(141)는 그 지오메트리 포인트 클라우드를 포함하는 3차원 공간의 영역을 분할하여, 국소 영역(그리드)을 설정한다. 그 때, 영역 분할부(141)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 3차원 공간을 분할하여, 국소 영역을 설정한다.

영역 분할부(141)는 그 설정한 국소 영역에 관한 정보(예를 들어, 국소 영역의 형상이나 사이즈에 관한 정보 등)와, 지오메트리 포인트 클라우드를 영역 내 대푯값 도출부(142)에 공급한다. 또한, 영역 분할부(141)는 국소 영역에 관한 정보를 복호측으로 전송하는 경우, 그 국소 영역에 관한 정보를 전송 정보 생성부(145)에 공급한다.

영역 내 대푯값 도출부(142)는 영역 분할부(141)로부터 공급되는 국소 영역에 관한 정보나 지오메트리 포인트 클라우드를 취득한다. 영역 내 대푯값 도출부(142)는 그들 정보에 기초하여, 영역 분할부(141)에 의해 설정된 각 국소 영역 내의 지오메트리 포인트 클라우드의 대푯값을 도출한다. 그 때, 영역 내 대푯값 도출부(142)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 그 대푯값을 도출한다.

영역 내 대푯값 도출부(142)는 국소 영역에 관한 정보, 지오메트리 포인트 클라우드, 및 도출한 국소 영역별 대푯값을 평활화 처리부(144)에 공급한다. 또한, 도출한 국소 영역별 대푯값을 복호측으로 전송하는 경우, 그 국소 영역별 대푯값을 나타내는 정보를 전송 정보 생성부(145)에 공급한다.

처리 대상 영역 설정부(143)는 오큐펀시 맵을 취득한다. 처리 대상 영역 설정부(143)는 그 오큐펀시 맵에 기초하여, 필터 처리를 적용할 영역을 설정한다. 그 때, 처리 대상 영역 설정부(143)는 <#2. 3차원의 필터 처리의 간략화>에 있어서 상술한 바와 같은 방법에 의해 영역을 설정한다. 즉, 처리 대상 영역 설정부(143)는 오큐펀시 맵에 있어서의 패치의 단에 대응하는 부분 영역을, 필터 처리의 처리 대상 영역으로서 설정한다.

처리 대상 영역 설정부(143)는 그 설정한 처리 대상 영역을 나타내는 정보를 평활화 처리부(144)에 공급한다. 또한, 처리 대상 영역 설정부(143)는 그 처리 대상 영역을 나타내는 정보를 복호측으로 전송하는 경우, 그 처리 대상 영역을 나타내는 정보를 전송 정보 생성부(145)에 공급한다.

평활화 처리부(144)는 영역 내 대푯값 도출부(142)로부터 공급되는 국소 영역에 관한 정보, 지오메트리 포인트 클라우드 및 국소 영역별 대푯값을 취득한다. 또한, 평활화 처리부(144)는 처리 대상 영역 설정부(143)로부터 공급되는 처리 대상 영역을 나타내는 정보를 취득한다.

평활화 처리부(144)는 그들 정보에 기초하여, 3차원의 평활화 필터 처리를 행한다. 즉, 평활화 처리부(144)는 <3차원의 필터 처리의 고속화>에 있어서 상술한 바와 같이, 지오메트리 포인트 클라우드의 처리 대상 영역 내의 포인트에 대하여, 국소 영역별 대푯값을 참조값으로서 사용하여 3차원의 평활화 필터 처리를 행한다. 따라서, 평활화 처리부(144)는 보다 고속으로 3차원의 평활화 필터 처리를 행할 수 있다.

평활화 처리부(144)는 3차원의 평활화 필터 처리를 행한 지오메트리 포인트 클라우드(평활화 후 지오메트리 포인트 클라우드)를, 패치 분해 처리부(131)나 텍스처 보정부(134)에 공급한다.

전송 정보 생성부(145)는 영역 분할부(141)로부터 공급되는 국소 영역에 관한 정보, 영역 내 대푯값 도출부(142)로부터 공급되는 국소 영역별 대푯값을 나타내는 정보, 및 처리 대상 영역 설정부(143)로부터 공급되는 처리 대상 영역을 나타내는 정보를 취득한다. 전송 정보 생성부(145)는 그 정보들을 포함하는 전송 정보를 생성한다. 전송 정보 생성부(145)는 생성된 전송 정보를, 예를 들어 보조 패치 정보 압축부(114)에 공급하고, 보조 패치 정보로서 복호측으로 전송시킨다.

<부호화 처리의 흐름>

이어서, 부호화 장치(100)에 의해 실행되는 부호화 처리의 흐름의 예를, 도 19의 흐름도를 참조하여 설명한다.

부호화 처리가 개시되면, 부호화 장치(100)의 패치 분해부(111)는 스텝 S101에 있어서, 포인트 클라우드를 2차원 평면에 투영하여, 패치로 분해한다.

스텝 S102에 있어서, 보조 패치 정보 압축부(114)는 스텝 S101에 있어서 생성된 보조 패치 정보를 압축한다.

스텝 S103에 있어서, 패킹부(112)는 스텝 S101에 있어서 생성된 위치 정보나 속성 정보의 각 패치를 비디오 프레임으로서 패킹한다. 또한, OMap 생성부(113)는 그 위치 정보나 속성 정보의 비디오 프레임에 대응하는 오큐펀시 맵을 생성한다.

스텝 S104에 있어서, 비디오 부호화부(115)는 스텝 S103에 있어서 생성된 위치 정보의 비디오 프레임인 지오메트리 비디오 프레임을, 2차원 화상용 부호화 방법에 의해 부호화한다.

스텝 S105에 있어서, 비디오 부호화부(116)는 스텝 S103에 있어서 생성된 속성 정보의 비디오 프레임인 컬러 비디오 프레임을, 2차원 화상용 부호화 방법에 의해 부호화한다.

스텝 S106에 있어서, OMap 부호화부(117)는 스텝 S103에 있어서 생성된 오큐펀시 맵을, 소정의 부호화 방법에 의해 부호화한다.

스텝 S107에 있어서, 멀티플렉서(118)는 이상과 같이 생성된 각종 정보를 다중화하여, 이들 정보를 포함하는 비트 스트림을 생성한다.

스텝 S108에 있어서, 멀티플렉서(118)는 스텝 S107에 있어서 생성된 비트 스트림을 부호화 장치(100)의 외부로 출력한다.

스텝 S108의 처리가 종료되면, 부호화 처리가 종료된다.

<패치 분해 처리의 흐름>

이어서, 도 20의 흐름도를 참조하여, 도 19의 스텝 S101에 있어서 실행되는 패치 분해 처리의 흐름의 예를 설명한다.

패치 분해 처리가 개시되면, 패치 분해 처리부(131)는 스텝 S121에 있어서, 포인트 클라우드를 패치로 분해하여, 지오메트리 패치와 텍스처 패치를 생성한다.

스텝 S122에 있어서, 지오메트리 복호부(132)는 스텝 S121에 있어서 생성된 지오메트리 패치가 비디오 프레임에 패킹되어 부호화된 지오메트리 부호화 데이터를 복호하고, 포인트 클라우드를 재구축하여, 지오메트리의 포인트 클라우드를 생성한다.

스텝 S123에 있어서, 3차원 위치 정보 평활화 처리부(133)는 평활화 처리를 실행하여, 스텝 S122에 있어서 생성된 지오메트리의 포인트 클라우드에 대하여, 3차원의 평활화 필터 처리를 행한다.

스텝 S124에 있어서, 텍스처 보정부(134)는 스텝 S123의 처리에 의해 얻어진 평활화 후 지오메트리 포인트 클라우드를 사용하여, 스텝 S121에 있어서 생성된 텍스처 패치를 보정한다.

스텝 S125에 있어서, 패치 분해 처리부(131)는 스텝 S123의 처리에 의해 얻어진 평활화 후 지오메트리 포인트 클라우드를 패치로 분해하고, 평활화 후 지오메트리 패치를 생성한다.

스텝 S125의 처리가 종료되면 패치 분해 처리가 종료되고, 처리는 도 19로 되돌아간다.

<평활화 처리의 흐름>

이어서, 도 21의 흐름도를 참조하여, 도 20의 스텝 S123에 있어서 실행되는 평활화 처리의 흐름의 예를 설명한다.

평활화 처리가 개시되면, 영역 분할부(141)는 스텝 S141에 있어서, 포인트 클라우드를 포함하는 3차원 공간을 국소 영역으로 분할한다. 영역 분할부(141)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 3차원 공간을 분할하여, 국소 영역을 설정한다.

스텝 S142에 있어서, 영역 내 대푯값 도출부(142)는 스텝 S141에 있어서 설정된 국소 영역별 포인트 클라우드의 대푯값을 도출한다. 영역 내 대푯값 도출부(142)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 그 대푯값을 도출한다.

스텝 S143에 있어서, 처리 대상 영역 설정부(143)는 평활화 처리를 행할 범위를 설정한다. 처리 대상 영역 설정부(143)는 <#2. 3차원의 필터 처리의 간략화>에 있어서 상술한 바와 같은 방법에 의해 영역을 설정한다. 즉, 처리 대상 영역 설정부(143)는 오큐펀시 맵에 있어서의 패치의 단에 대응하는 부분 영역을, 필터 처리의 처리 대상 영역으로서 설정한다.

스텝 S144에 있어서, 평활화 처리부(144)는 스텝 S143에 있어서 설정된 처리 대상 범위에 대하여, 각 영역의 대푯값을 참조하여 평활화 처리를 행한다. 평활화 처리부(144)는 <3차원의 필터 처리의 고속화>에 있어서 상술한 바와 같이, 지오메트리 포인트 클라우드의 처리 대상 영역 내의 포인트에 대하여, 국소 영역별 대푯값을 참조값으로서 사용하여 3차원의 평활화 필터 처리를 행한다. 따라서, 평활화 처리부(144)는 보다 고속으로 3차원의 평활화 필터 처리를 행할 수 있다.

스텝 S145에 있어서, 전송 정보 생성부(145)는 평활화에 관한 전송 정보를 생성하고, 그것을 예를 들어 보조 패치 정보 압축부(114)에 공급하고, 보조 패치 정보로서 전송시킨다.

스텝 S145의 처리가 종료되면 평활화 처리가 종료되고, 처리는 도 20으로 되돌아간다.

<평활화 범위 설정 처리의 흐름>

다음에 도 22의 흐름도를 참조하여, 도 21의 스텝 S143에 있어서 실행되는 평활화 범위 설정 처리의 흐름의 예를 설명한다.

평활화 범위 설정 처리가 개시되면, 처리 대상 영역 설정부(143)는 스텝 S161에 있어서, 오큐펀시 맵의 현재지(x,y)(처리 대상 블록)가 오큐펀시 맵의 단인지 여부를 판정한다. 예를 들어, 오큐펀시 맵의 가로 폭을 width라 하고, 세로 폭을 height라 하면, 이하와 같은 판정이 행해진다.

x!=0 & y!=0 & x!=width-1 & y!=height-1

이 판정이 참, 즉, 현재지가 오큐펀시 맵의 단이 아니라고 판정된 경우, 처리는 스텝 S162로 진행한다.

스텝 S162에 있어서, 처리 대상 영역 설정부(143)는 현재지의 주변부의 오큐펀시 맵의 값이 모두 1인지 여부를 판정한다. 현재지의 주변부의 오큐펀시 맵의 값이 모두 1, 즉, 모든 주변부에 위치 정보나 속성 정보가 존재하고, 위치 정보나 속성 정보가 존재하는 부분과 존재하지 않는 부분의 경계 부근은 아니라고 판정된 경우, 처리는 스텝 S163으로 진행한다.

스텝 S163에 있어서, 처리 대상 영역 설정부(143)는, 현재지의 주변부가 속하는 패치가 모두, 현재지가 속하는 패치와 동일한지 여부를 판정한다. 패치끼리가 인접하면, 오큐펀시 맵의 값이 1인 부분이 연속된다. 따라서, 스텝 S162에 있어서 현재지의 모든 주변부에 데이터가 존재한다고 판정된 경우에도, 복수의 패치가 인접하는 부분일 가능성이 있고, 현재지가 패치의 단일 가능성이 남는다. 그리고, 다른 패치끼리는 기본적으로 화상이 연속되지 않으므로, 복수의 패치가 인접하는 부분에 있어서도, 오큐펀시 맵의 프리시젼의 사이즈가 큰 것에 의해, 도 1의 A와 같은 새김눈이 형성될 가능성이 있다. 그래서, 상술한 바와 같이, 현재지의 주변부가 속하는 패치가 모두, 현재지가 속하는 패치와 동일한지 여부를 판정한다.

모든 주변부와 현재지가 서로 동일한 패치에 속하는, 즉, 현재지가, 복수의 패치가 인접하는 부분이 아니고, 패치의 단부가 아니라고 판정된 경우, 처리는 스텝 S164로 진행한다.

스텝 S164에 있어서, 처리 대상 영역 설정부(143)는 현재지(x,y)로부터 복원되는 3차원의 점(처리 대상 블록에 대응하는 포인트 클라우드의 포인트)을 평활화 필터 처리하지 않은 포인트로서 판정한다. 즉, 현재지를 평활화의 처리 대처 범위로부터 제외한다. 스텝 S164의 처리가 종료되면 처리는 스텝 S166로 진행한다.

또한, 스텝 S161에 있어서, 상술한 판정이 거짓, 즉, 현재지가 오큐펀시 맵의 단이라고 판정된 경우, 처리는 스텝 S165로 진행한다.

또한, 스텝 S162에 있어서, 오큐펀시 맵의 값이 1이 아닌 주변부가 존재, 즉, 위치 정보나 속성 정보가 존재하지 않는 주변부가 있고, 현재지가 패치의 단이라고 판정된 경우, 처리는 스텝 S165로 진행한다.

또한, 스텝 S163에 있어서, 현재지가 속하는 패치와 다른 패치에 속하는 주변부가 존재, 즉, 현재지가 복수의 패치가 인접하는 부분이라고 판정된 경우, 처리는 스텝 S165로 진행한다.

스텝 S165에 있어서, 처리 대상 영역 설정부(143)는 현재지(x,y)로부터 복원되는 3차원의 점(처리 대상 블록에 대응하는 포인트 클라우드의 포인트)을 평활화 필터 처리하는 포인트로서 판정한다. 즉, 현재지를 평활화의 처리 대처 범위로서 설정한다. 스텝 S165의 처리가 종료되면 처리는 스텝 S166으로 진행한다.

스텝 S166에 있어서, 처리 대상 영역 설정부(143)는 오큐펀시 맵의 모든 위치(블록)에 대하여 처리를 행하였는지 여부를 판정한다. 미처리된 위치(블록)가 존재한다고 판정된 경우, 처리는 스텝 S161로 되돌아가, 처리 대상 블록을 미처리된 블록으로 바꾸어, 그 이후의 처리가 반복된다. 즉, 각 블록에 대하여 스텝 S161 내지 스텝 S166의 처리를 반복한다.

그리고, 스텝 S166에 있어서, 오큐펀시 맵의 모든 위치(블록)를 처리하였다고 판정된 경우, 평활화 범위 설정 처리가 종료되고, 처리는 도 21로 되돌아간다.

이상과 같이 각 처리를 실행함으로써, 포인트 클라우드 데이터에 대한 필터 처리의 처리 시간의 증대를 억제할 수 있다(필터 처리를 보다 고속으로 행할 수 있다).

<3. 제2 실시 형태>

<복호 장치>

이어서, 이상과 같은 각 방법을 실현하는 구성에 대하여 설명한다. 도 23은, 본 기술을 적용한 화상 처리 장치의 일 양태인 복호 장치의 구성의 일례를 나타내는 블록도이다. 도 23에 나타나는 복호 장치(200)는 포인트 클라우드와 같은 3D 데이터가 2차원 평면에 투영되어 부호화된 부호화 데이터를, 2차원 화상용의 복호 방법에 의해 복호하여, 3차원 공간에 투영하는 장치(비디오 베이스드 어프로치를 적용한 복호 장치)이다. 예를 들어, 복호 장치(200)는 부호화 장치(100)(도 16)가 포인트 클라우드를 부호화하여 생성된 비트 스트림을 복호하여, 포인트 클라우드를 재구축한다.

또한, 도 23에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 나타내고 있으며, 도 23에 나타나는 것이 전부인 것만은 아니다. 즉, 복호 장치(200)에 있어서, 도 23에 있어서 블록으로서 나타나 있지 않은 처리부가 존재하거나, 도 23에 있어서 화살표 등으로서 나타나 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다. 이것은, 복호 장치(200) 내의 처리부 등을 설명하는 기타 도면에 있어서도 마찬가지이다.

도 23에 나타낸 바와 같이 복호 장치(200)는, 디멀티플렉서(211), 보조 패치 정보 복호부(212), 비디오 복호부(213), 비디오 복호부(214), OMap 복호부(215), 언패킹부(216) 및 3D 재구축부(217)를 갖는다.

디멀티플렉서(211)는 데이터의 역다중화에 관한 처리를 행한다. 예를 들어, 디멀티플렉서(211)는 복호 장치(200)에 입력되는 비트 스트림을 취득한다. 이 비트 스트림은, 예를 들어 부호화 장치(100)로부터 공급된다. 디멀티플렉서(211)는 이 비트 스트림을 역다중화하고, 보조 패치 정보의 부호화 데이터를 추출하여, 그것을 보조 패치 정보 복호부(212)에 공급한다. 또한, 디멀티플렉서(211)는 역다중화에 의해, 비트 스트림으로부터 위치 정보(Geometry)의 비디오 프레임의 부호화 데이터를 추출하여, 그것을 비디오 복호부(213)에 공급한다. 또한, 디멀티플렉서(211)는 역다중화에 의해, 비트 스트림으로부터 속성 정보(Texture)의 비디오 프레임의 부호화 데이터를 추출하여, 그것을 비디오 복호부(214)에 공급한다. 또한, 디멀티플렉서(211)는 역다중화에 의해, 비트 스트림으로부터 오큐펀시 맵의 부호화 데이터를 추출하여, 그것을 OMap 복호부(215)에 공급한다. 또한, 디멀티플렉서(211)는 역다중화에 의해, 비트 스트림으로부터 패킹에 관한 제어 정보를 추출하여, 그것을 언패킹부(216)에 공급한다.

보조 패치 정보 복호부(212)는 보조 패치 정보의 부호화 데이터의 복호에 관한 처리를 행한다. 예를 들어, 보조 패치 정보 복호부(212)는 디멀티플렉서(211)로부터 공급되는 보조 패치 정보의 부호화 데이터를 취득한다. 또한, 보조 패치 정보 복호부(212)는 그 취득한 데이터에 포함되는 보조 패치 정보의 부호화 데이터를 복호(신장)한다. 보조 패치 정보 복호부(212)는 복호하여 얻어진 보조 패치 정보를 3D 재구축부(217)에 공급한다.

비디오 복호부(213)는 위치 정보(Geometry)의 비디오 프레임의 부호화 데이터의 복호에 관한 처리를 행한다. 예를 들어, 비디오 복호부(213)는 디멀티플렉서(211)로부터 공급되는 위치 정보(Geometry)의 비디오 프레임의 부호화 데이터를 취득한다. 또한, 비디오 복호부(213)는 그 부호화 데이터를 예를 들어 AVC나 HEVC 등의 임의의 2차원 화상용의 복호 방법에 의해 복호하여, 위치 정보(Geometry)의 비디오 프레임을 얻는다. 비디오 복호부(213)는 그 위치 정보(Geometry)의 비디오 프레임을 언패킹부(216)에 공급한다.

비디오 복호부(214)는 속성 정보(Texture)의 비디오 프레임의 부호화 데이터의 복호에 관한 처리를 행한다. 예를 들어, 비디오 복호부(214)는 디멀티플렉서(211)로부터 공급되는 속성 정보(Texture)의 비디오 프레임의 부호화 데이터를 취득한다. 또한, 비디오 복호부(214)는 그 부호화 데이터를 예를 들어 AVC나 HEVC 등의 임의의 2차원 화상용의 복호 방법에 의해 복호하여, 속성 정보(Texture)의 비디오 프레임을 얻는다. 비디오 복호부(214)는 그 속성 정보(Texture)의 비디오 프레임을 언패킹부(216)에 공급한다.

OMap 복호부(215)는 오큐펀시 맵의 부호화 데이터의 복호에 관한 처리를 행한다. 예를 들어, OMap 복호부(215)는 디멀티플렉서(211)로부터 공급되는 오큐펀시 맵의 부호화 데이터를 취득한다. 또한, OMap 복호부(215)는 그 부호화 데이터를 예를 들어 산술 부호화에 대응하는 산술 복호 등의 임의의 복호 방법에 의해 복호하여, 오큐펀시 맵을 얻는다. OMap 복호부(215)는 그 오큐펀시 맵을 언패킹부(216)에 공급한다.

언패킹부(216)는 언패킹에 관한 처리를 행한다. 예를 들어, 언패킹부(216)는 비디오 복호부(213)로부터 위치 정보(Geometry)의 비디오 프레임을 취득하고, 비디오 복호부(214)로부터 속성 정보(Texture)의 비디오 프레임을 취득하고, OMap 복호부(215)로부터 오큐펀시 맵을 취득한다. 또한, 언패킹부(216)는 패킹에 관한 제어 정보에 기초하여, 위치 정보(Geometry)의 비디오 프레임이나 속성 정보(Texture)의 비디오 프레임을 언패킹한다. 언패킹부(216)는 언패킹하여 얻어진 위치 정보(Geometry)의 데이터(지오메트리 패치 등)나 속성 정보(Texture)의 데이터(텍스처 패치 등), 그리고 오큐펀시 맵 등을, 3D 재구축부(217)에 공급한다.

3D 재구축부(217)는 포인트 클라우드의 재구축에 관한 처리를 행한다. 예를 들어, 3D 재구축부(217)는 보조 패치 정보 복호부(212)로부터 공급되는 보조 패치 정보, 그리고 언패킹부(216)로부터 공급되는 위치 정보(Geometry)의 데이터(지오메트리 패치 등), 속성 정보(Texture)의 데이터(텍스처 패치 등) 및 오큐펀시 맵 등에 기초하여, 포인트 클라우드를 재구축한다. 3D 재구축부(217)는 재구축한 포인트 클라우드를 복호 장치(200)의 외부로 출력한다.

이 포인트 클라우드는, 예를 들어 표시부에 공급되어 영상화되고, 그 화상이 표시되거나, 기록 매체에 기록되거나, 통신을 통해 다른 장치에 공급되거나 한다.

이러한 복호 장치(200)에 있어서, 3D 재구축부(217)는 재구축한 포인트 클라우드에 대한 3차원의 평활화 필터 처리를 행한다.

<3D 재구축부>

도 24는, 도 23의 3D 재구축부(217)의 주된 구성예를 나타내는 블록도이다. 도 24에 나타낸 바와 같이, 3D 재구축부(217)는 지오메트리 포인트 클라우드(PointCloud) 생성부(231), 3차원 위치 정보 평활화 처리부(232) 및 텍스처 합성부(233)를 갖는다.

지오메트리 포인트 클라우드 생성부(231)는 지오메트리 포인트 클라우드의 생성에 관한 처리를 행한다. 예를 들어, 지오메트리 포인트 클라우드 생성부(231)는 언패킹부(216)로부터 공급되는 지오메트리 패치를 취득한다. 또한, 지오메트리 포인트 클라우드 생성부(231)는 그 취득한 지오메트리 패치나, 보조 패치 정보 등의 기타 정보를 사용하여, 지오메트리 포인트 클라우드(포인트 클라우드의 위치 정보)를 재구축한다. 지오메트리 포인트 클라우드 생성부(231)는 생성된 지오메트리 포인트 클라우드를 3차원 위치 정보 평활화 처리부(232)에 공급한다.

3차원 위치 정보 평활화 처리부(232)는 3차원의 평활화 필터 처리에 관한 처리를 행한다. 예를 들어, 3차원 위치 정보 평활화 처리부(232)는 지오메트리 포인트 클라우드 생성부(231)로부터 공급되는 지오메트리 포인트 클라우드를 취득한다. 또한, 3차원 위치 정보 평활화 처리부(232)는 언패킹부(216)로부터 공급되는 오큐펀시 맵을 취득한다.

3차원 위치 정보 평활화 처리부(232)는 취득한 지오메트리 포인트 클라우드에 대하여, 3차원의 평활화 필터 처리를 행한다. 그 때, 3차원 위치 정보 평활화 처리부(232)는 상술한 바와 같이, 3차원 공간을 분할한 국소 영역별 대푯값을 사용하여 3차원의 평활화 필터 처리를 행한다. 또한, 3차원 위치 정보 평활화 처리부(232)는 취득한 오큐펀시 맵을 사용하여, 그 오큐펀시 맵에 있어서의 패치의 단에 대응하는 부분 영역의 포인트에 대하여만, 3차원의 평활화 필터 처리를 행한다. 이와 같이 함으로써, 3차원 위치 정보 평활화 처리부(232)는 보다 고속으로 필터 처리를 행할 수 있다.

3차원 위치 정보 평활화 처리부(232)는 필터 처리를 행한 지오메트리 포인트 클라우드(평활화 후 지오메트리 포인트 클라우드)를 텍스처 합성부(233)에 공급한다.

텍스처 합성부(233)는 지오메트리와 텍스처의 합성에 관한 처리를 행한다. 예를 들어, 텍스처 합성부(233)는 3차원 위치 정보 평활화 처리부(232)로부터 공급되는 평활화 후 지오메트리 포인트 클라우드를 취득한다. 또한, 텍스처 합성부(233)는 언패킹부(216)로부터 공급되는 텍스처 패치를 취득한다. 텍스처 합성부(233)는 평활화 후 지오메트리 포인트 클라우드에, 텍스처 패치(즉 속성 정보)를 합성하여, 포인트 클라우드를 재구축한다. 평활화 후 지오메트리 포인트 클라우드는, 3차원의 평활화에 의해 위치 정보가 변화되고 있다. 즉, 엄밀하게는 위치 정보와 속성 정보가 대응하지 않는 부분이 존재할 가능성이 있다. 그래서, 텍스처 합성부(233)는 텍스처 패치로부터 얻어지는 속성 정보를, 3차원의 평활화를 행한 부분의 위치 정보의 변화를 반영시키면서, 평활화 후 지오메트리 포인트 클라우드에 합성한다.

텍스처 합성부(233)는 재구축한 포인트 클라우드를 복호 장치(200)의 외부로 출력한다.

<3차원 위치 정보 평활화 처리부>

도 25는, 도 24의 3차원 위치 정보 평활화 처리부(232)의 주된 구성예를 나타내는 블록도이다. 도 25에 나타낸 바와 같이, 3차원 위치 정보 평활화 처리부(232)는 전송 정보 취득부(251), 영역 분할부(252), 영역 내 대푯값 도출부(253), 처리 대상 영역 설정부(254) 및 평활화 처리부(255)를 갖는다.

전송 정보 취득부(251)는 부호화측으로부터 전송되는 전송 정보가 존재하는 경우, 보조 패치 정보 등으로서 공급되는 전송 정보를 취득한다. 전송 정보 취득부(251)는 필요에 따라서 그 전송 정보를, 영역 분할부(252), 영역 내 대푯값 도출부(253) 및 처리 대상 영역 설정부(254)에 공급한다. 예를 들어, 전송 정보로서 국소 영역에 관한 정보가 공급된 경우, 전송 정보 취득부(251)는 그 국소 영역에 관한 정보를 영역 분할부(252)에 공급한다. 또한, 전송 정보로서 국소 영역별 대푯값을 나타내는 정보가 공급된 경우, 전송 정보 취득부(251)는 그 국소 영역별 대푯값을 나타내는 정보를 영역 내 대푯값 도출부(253)에 공급한다. 또한, 전송 정보로서 처리 대상 영역을 나타내는 정보가 공급된 경우, 전송 정보 취득부(251)는 그 처리 대상 영역을 나타내는 정보를 처리 대상 영역 설정부(254)에 공급한다.

영역 분할부(252)는 지오메트리 포인트 클라우드 생성부(231)로부터 공급되는 포인트 클라우드의 위치 정보(지오메트리 포인트 클라우드)를 취득한다. 영역 분할부(252)는 그 지오메트리 포인트 클라우드를 포함하는 3차원 공간의 영역을 분할하여, 국소 영역(그리드)을 설정한다. 그 때, 영역 분할부(141)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 3차원 공간을 분할하여, 국소 영역을 설정한다. 또한, 전송 정보 취득부(251)로부터, 부호화측으로부터 전송된 국소 영역에 관한 정보가 공급되는 경우, 영역 분할부(252)는 그 정보에 의해 나타나는 국소 영역의 설정(예를 들어, 국소 영역의 형상이나 사이즈 등)을 채용한다.

영역 분할부(252)는 그 설정한 국소 영역에 관한 정보(예를 들어, 국소 영역의 형상이나 사이즈에 관한 정보 등)와 지오메트리 포인트 클라우드를 영역 내 대푯값 도출부(253)에 공급한다.

영역 내 대푯값 도출부(253)는 영역 분할부(252)로부터 공급되는 국소 영역에 관한 정보나 지오메트리 포인트 클라우드를 취득한다. 영역 내 대푯값 도출부(253)는 그들 정보에 기초하여, 영역 분할부(252)에 의해 설정된 각 국소 영역 내의 지오메트리 포인트 클라우드의 대푯값을 도출한다. 그 때, 영역 내 대푯값 도출부(253)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 그 대푯값을 도출한다. 또한, 전송 정보 취득부(251)로부터, 부호화측으로부터 전송된 국소 영역별 대푯값을 나타내는 정보가 공급되는 경우, 영역 내 대푯값 도출부(253)는 그 정보에 의해 나타나는 국소 영역별 대푯값을 채용한다.

영역 내 대푯값 도출부(142)는 국소 영역에 관한 정보, 지오메트리 포인트 클라우드, 및 도출한 국소 영역별 대푯값을 평활화 처리부(255)에 공급한다.

처리 대상 영역 설정부(254)는 오큐펀시 맵을 취득한다. 처리 대상 영역 설정부(254)는 그 오큐펀시 맵에 기초하여, 필터 처리를 적용할 영역을 설정한다. 그 때, 처리 대상 영역 설정부(254)는 <#2. 3차원의 필터 처리의 간략화>에 있어서 상술한 바와 같은 방법에 의해 영역을 설정한다. 즉, 처리 대상 영역 설정부(254)는 오큐펀시 맵에 있어서의 패치의 단에 대응하는 부분 영역을, 필터 처리의 처리 대상 영역으로서 설정한다. 또한, 전송 정보 취득부(251)로부터, 부호화측으로부터 전송된 처리 대상 영역을 나타내는 정보가 공급되는 경우, 처리 대상 영역 설정부(254)는 그 정보에 의해 나타나는 처리 대상 영역을 채용한다.

처리 대상 영역 설정부(254)는 그 설정한 처리 대상 영역을 나타내는 정보를 평활화 처리부(255)에 공급한다.

평활화 처리부(255)는 영역 내 대푯값 도출부(253)로부터 공급되는 국소 영역에 관한 정보, 지오메트리 포인트 클라우드 및 국소 영역별 대푯값을 취득한다. 또한, 평활화 처리부(255)는 처리 대상 영역 설정부(254)로부터 공급되는 처리 대상 영역을 나타내는 정보를 취득한다.

평활화 처리부(255)는 그들 정보에 기초하여, 3차원의 평활화 필터 처리를 행한다. 즉, 평활화 처리부(255)는 <3차원의 필터 처리의 고속화>에 있어서 상술한 바와 같이, 지오메트리 포인트 클라우드의 처리 대상 영역 내의 포인트에 대하여, 국소 영역별 대푯값을 참조값으로서 사용하여 3차원의 평활화 필터 처리를 행한다. 따라서, 평활화 처리부(255)는 보다 고속으로 3차원의 평활화 필터 처리를 행할 수 있다.

평활화 처리부(255)는 3차원의 평활화 필터 처리를 행한 지오메트리 포인트 클라우드(평활화 후 지오메트리 포인트 클라우드)를 텍스처 합성부(233)에 공급한다.

<복호 처리의 흐름>

이어서, 복호 장치(200)에 의해 실행되는 복호 처리의 흐름의 예를, 도 26의 흐름도를 참조하여 설명한다.

복호 처리가 개시되면, 복호 장치(200)의 디멀티플렉서(211)는 스텝 S201에 있어서, 비트 스트림을 역다중화한다.

스텝 S202에 있어서, 보조 패치 정보 복호부(212)는 스텝 S201에 있어서 비트 스트림으로부터 추출된 보조 패치 정보를 복호한다.

스텝 S203에 있어서, 비디오 복호부(213)는 스텝 S201에 있어서 비트 스트림으로부터 추출된 지오메트리 비디오 프레임(위치 정보의 비디오 프레임)의 부호화 데이터를 복호한다.

스텝 S204에 있어서, 비디오 복호부(214)는 스텝 S201에 있어서 비트 스트림으로부터 추출된 컬러 비디오 프레임(속성 정보의 비디오 프레임)의 부호화 데이터를 복호한다.

스텝 S205에 있어서, OMap 복호부(215)는 스텝 S201에 있어서 비트 스트림으로부터 추출된 오큐펀시 맵의 부호화 데이터를 복호한다.

스텝 S206에 있어서, 언패킹부(216)는 스텝 S203에 있어서 부호화 데이터가 복호되어 얻어진 지오메트리 비디오 프레임을 언패킹하여, 지오메트리 패치를 생성한다. 또한, 언패킹부(216)는 스텝 S204에 있어서 부호화 데이터가 복호되어 얻어진 컬러 비디오 프레임을 언패킹하여, 텍스처 패치를 생성한다. 또한, 언패킹부(216)는 스텝 S205에 있어서 부호화 데이터가 복호되어 얻어진 오큐펀시 맵을 언패킹하여, 지오메트리 패치나 텍스처 패치에 대응하는 오큐펀시 맵을 추출한다.

스텝 S207에 있어서, 3D 재구축부(217)는 스텝 S202에 있어서 얻어진 보조 패치 정보, 그리고 스텝 S206에 있어서 얻어진 지오메트리 패치, 텍스처 패치 및 오큐펀시 맵 등에 기초하여, 포인트 클라우드를 재구축한다.

스텝 S207의 처리가 종료되면 복호 처리가 종료된다.

<포인트 클라우드 재구축 처리의 흐름>

이어서, 도 26의 스텝 S207에 있어서 실행되는 포인트 클라우드 재구축 처리의 흐름의 예를, 도 27의 흐름도를 참조하여 설명한다.

포인트 클라우드 재구축 처리가 개시되면, 3D 재구축부(217)의 지오메트리 포인트 클라우드 생성부(231)는 스텝 S221에 있어서, 지오메트리 포인트 클라우드를 재구축한다.

스텝 S222에 있어서, 3차원 위치 정보 평활화 처리부(232)는 평활화 처리를 실행하여, 스텝 S221에 있어서 생성된 지오메트리 포인트 클라우드에 대하여, 3차원의 평활화 필터 처리를 행한다.

스텝 S223에 있어서, 텍스처 합성부(233)는 평활화 후 지오메트리 포인트 클라우드에 텍스처 패치를 합성한다.

스텝 S223의 처리가 종료되면 포인트 클라우드 재구축 처리가 종료되고, 처리는 도 26로 되돌아간다.

<평활화 처리의 흐름>

이어서, 도 28의 흐름도를 참조하여, 도 27의 스텝 S222에 있어서 실행되는 평활화 처리의 흐름의 예를 설명한다.

평활화 처리가 개시되면, 전송 정보 취득부(251)는 스텝 S241에 있어서, 평활화에 관한 전송 정보를 취득한다. 또한, 전송 정보가 존재하지 않는 경우, 이 처리는 생략된다.

스텝 S242에 있어서, 영역 분할부(252)는 포인트 클라우드를 포함하는 3차원 공간을 국소 영역으로 분할한다. 영역 분할부(252)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 3차원 공간을 분할하여, 국소 영역을 설정한다. 또한, 스텝 S241에 있어서, 전송 정보로서 국소 영역에 관한 정보가 취득된 경우, 영역 분할부(252)는 그 정보에 의해 나타나는 국소 영역의 설정(국소 영역의 형상이나 사이즈 등)을 채용한다.

스텝 S243에 있어서, 영역 내 대푯값 도출부(253)는 스텝 S242에 있어서 설정된 국소 영역별 포인트 클라우드의 대푯값을 도출한다. 영역 내 대푯값 도출부(253)는 <#1. 국소 영역별 대푯값을 사용한 고속화>에 있어서 상술한 방법에 의해 그 대푯값을 도출한다. 또한, 스텝 S241에 있어서, 전송 정보로서 국소 영역별 대푯값을 나타내는 정보가 취득된 경우, 영역 내 대푯값 도출부(253)는 그 정보에 의해 나타나는 국소 영역별 대푯값을 채용한다.

스텝 S244에 있어서, 처리 대상 영역 설정부(254)는 평활화 처리를 행할 범위를 설정한다. 처리 대상 영역 설정부(254)는 <#2. 3차원의 필터 처리의 간략화>에 있어서 상술한 바와 같은 방법에 의해 영역을 설정한다. 즉, 처리 대상 영역 설정부(254)는 도 22의 흐름도를 참조하여 설명한 평활화 범위 설정 처리를 실행하여, 필터 처리의 처리 대상 범위를 설정한다. 또한, 스텝 S241에 있어서, 전송 정보로서 처리 대상 영역을 나타내는 정보가 취득된 경우, 처리 대상 영역 설정부(254)는 그 정보에 의해 나타나는 처리 대상 영역의 설정을 채용한다.

스텝 S245에 있어서, 평활화 처리부(255)는 스텝 S244에 있어서 설정된 처리 대상 범위에 대하여, 각 영역의 대푯값을 참조하여 평활화 처리를 행한다. 평활화 처리부(255)는 <3차원의 필터 처리의 고속화>에 있어서 상술한 바와 같이, 지오메트리 포인트 클라우드의 처리 대상 영역 내의 포인트에 대하여, 국소 영역별 대푯값을 참조값으로서 사용하여 3차원의 평활화 필터 처리를 행한다. 따라서, 평활화 처리부(255)는 보다 고속으로 3차원의 평활화 필터 처리를 행할 수 있다.

스텝 S245의 처리가 종료되면 평활화 처리가 종료되고, 처리는 도 27로 되돌아간다.

이상과 같이 각 처리를 실행함으로써, 포인트 클라우드 데이터에 대한 필터 처리의 처리 시간의 증대를 억제할 수 있다(필터 처리를 보다 고속으로 행할 수 있다).

<4. 변형예>

제1 실시 형태 및 제2 실시 형태에 있어서는, 3차원의 평활화 필터 처리를 포인트 클라우드의 위치 정보에 대하여 행하는 것으로 설명하였지만, 3차원의 평활화 필터 처리는 포인트 클라우드의 속성 정보에 대해서도 행할 수 있다. 이 경우, 속성 정보가 평활화되므로, 예를 들어 포인트의 색 등이 변화된다.

예를 들어, 부호화 장치(100)의 경우, 패치 분해부(111)(도 17)에 있어서, 텍스처 보정부(134)에 공급되는 텍스처 패치에 대하여 평활화 처리를 행하는 평활화 처리부(예를 들어, 3차원 속성 정보 평활화 처리부)를 마련하도록 하면 된다.

또한, 예를 들어 복호 장치(200)의 경우, 3D 재구축부(217)(도 24)에 있어서, 텍스처 합성부(233)에 공급되는 텍스처 패치에 대하여 평활화 처리를 행하는 평활화 처리부(예를 들어, 3차원 속성 정보 평활화 처리부)를 마련하도록 하면 된다.

<5. 부기>

<제어 정보>

이상의 각 실시 형태에 있어서 설명한 본 기술에 관한 제어 정보를 부호화측으로부터 복호측으로 전송하도록 해도 된다. 예를 들어, 상술한 본 기술을 적용하는 것을 허가(또는 금지)할지 여부를 제어하는 제어 정보(예를 들어 enabled_flag)를 전송하도록 해도 된다. 또한, 예를 들어 상술한 본 기술을 적용하는 것을 허가(또는 금지)할 범위(예를 들어 블록 사이즈의 상한 혹은 하한, 또는 그 양쪽, 슬라이스, 픽처, 시퀀스, 컴포넌트, 뷰, 레이어 등)를 지정하는 제어 정보를 전송하도록 해도 된다.

<컴퓨터>

상술한 일련의 처리는 하드웨어에 의해 실행시킬 수도 있고, 소프트웨어에 의해 실행시킬 수도 있다. 일련의 처리를 소프트웨어에 의해 실행하는 경우에는, 그 소프트웨어를 구성하는 프로그램이, 컴퓨터에 인스톨된다. 여기서 컴퓨터에는, 전용의 하드웨어에 내장되어 있는 컴퓨터나, 각종 프로그램을 인스톨함으로써, 각종 기능을 실행하는 것이 가능한, 예를 들어 범용의 퍼스널 컴퓨터 등이 포함된다.

도 29는, 상술한 일련의 처리를 프로그램에 의해 실행하는 컴퓨터의 하드웨어 구성예를 나타내는 블록도이다.

도 29에 나타나는 컴퓨터(900)에 있어서, CPU(Central Processing Unit)(901), ROM(Read Only Memory)(902), RAM(Random Access Memory)(903)은, 버스(904)를 통해 서로 접속되어 있다.

버스(904)에는 또한, 입출력 인터페이스(910)도 접속되어 있다. 입출력 인터페이스(910)에는, 입력부(911), 출력부(912), 기억부(913), 통신부(914) 및 드라이브(915)가 접속되어 있다.

입력부(911)는, 예를 들어 키보드, 마우스, 마이크로폰, 터치 패널, 입력 단자 등을 포함한다. 출력부(912)는, 예를 들어 디스플레이, 스피커, 출력 단자 등을 포함한다. 기억부(913)는, 예를 들어 하드 디스크, RAM 디스크, 불휘발성의 메모리 등을 포함한다. 통신부(914)는, 예를 들어 네트워크 인터페이스를 포함한다. 드라이브(915)는 자기 디스크, 광 디스크, 광자기 디스크 또는 반도체 메모리 등의 리무버블 미디어(921)를 구동한다.

이상과 같이 구성되는 컴퓨터에서는, CPU(901)가, 예를 들어 기억부(913)에 기억되어 있는 프로그램을, 입출력 인터페이스(910) 및 버스(904)를 통해 RAM(903)에 로드하여 실행함으로써, 상술한 일련의 처리가 행해진다. RAM(903)에는 또한, CPU(901)가 각종 처리를 실행하는 데 있어서 필요한 데이터 등도 적절히 기억된다.

컴퓨터(CPU(901))가 실행하는 프로그램은, 예를 들어 패키지 미디어 등으로서의 리무버블 미디어(921)에 기록하여 적용할 수 있다. 그 경우, 프로그램은 리무버블 미디어(921)를 드라이브(915)에 장착함으로써, 입출력 인터페이스(910)를 통해 기억부(913)에 인스톨할 수 있다.

또한, 이 프로그램은 로컬 에어리어 네트워크, 인터넷, 디지털 위성 방송이라는, 유선 또는 무선의 전송 매체를 통해 제공할 수도 있다. 그 경우, 프로그램은 통신부(914)에서 수신하여, 기억부(913)에 인스톨할 수 있다.

그 밖에도, 이 프로그램은 ROM(902)이나 기억부(913)에 미리 인스톨해둘 수도 있다.

<본 기술의 적용 대상>

이상에 있어서는, 포인트 클라우드 데이터의 부호화·복호에 본 기술을 적용하는 경우에 대하여 설명하였지만, 본 기술은 이들 예에 한정되지 않고, 임의의 규격의 3D 데이터의 부호화·복호에 대하여 적용할 수 있다. 즉, 상술한 본 기술과 모순되지 않는 한, 부호화·복호 방식 등의 각종 처리, 그리고 3D 데이터나 메타데이터 등의 각종 데이터의 사양은 임의이다. 또한, 본 기술과 모순되지 않는 한, 상술한 일부의 처리나 사양을 생략해도 된다.

본 기술은 임의의 구성에 적용할 수 있다. 예를 들어, 본 기술은 위성 방송, 케이블 ＴＶ 등의 유선 방송, 인터넷 상에서의 배신, 및 셀룰러 통신에 의한 단말기에의 배신 등에 있어서의 송신기나 수신기(예를 들어 텔레비전 수상기나 휴대 전화기), 또는 광 디스크, 자기 디스크 및 플래시 메모리 등의 매체에 화상을 기록하거나, 이들 기억 매체로부터 화상을 재생하거나 하는 장치(예를 들어 하드 디스크 레코더나 카메라) 등의, 각종 전자 기기에 적용될 수 있다.

또한, 예를 들어 본 기술은 시스템 LSI(Large Scale Integration) 등으로서의 프로세서(예를 들어 비디오 프로세서), 복수의 프로세서 등을 사용하는 모듈(예를 들어 비디오 모듈), 복수의 모듈 등을 사용하는 유닛(예를 들어 비디오 유닛), 또는 유닛에 추가로 기타 기능을 부가한 세트(예를 들어 비디오 세트) 등, 장치의 일부의 구성으로서 실시할 수도 있다.

또한, 예를 들어 본 기술은 복수의 장치에 의해 구성되는 네트워크 시스템에도 적용할 수도 있다. 예를 들어, 본 기술을, 네트워크를 통해 복수의 장치에서 분담, 공동하여 처리하는 클라우드 컴퓨팅으로서 실시하도록 해도 된다. 예를 들어, 컴퓨터, AV(Audio Visual) 기기, 휴대형 정보 처리 단말기, IoT(Internet of Things) 디바이스 등의 임의의 단말기에 대하여, 화상(동화상)에 관한 서비스를 제공하는 클라우드 서비스에 있어서 본 기술을 실시하도록 해도 된다.

또한, 본 명세서에 있어서 시스템이란, 복수의 구성 요소(장치, 모듈(부품) 등)의 집합을 의미하고, 모든 구성 요소가 동일 하우징 내에 있는지 여부는 상관없다. 따라서, 별개의 하우징에 수납되어, 네트워크를 통해 접속되어 있는 복수의 장치, 및 하나의 하우징 중에 복수의 모듈이 수납되어 있는 하나의 장치는, 모두 시스템이다.

<본 기술을 적용 가능한 분야·용도>

본 기술을 적용한 시스템, 장치, 처리부 등은, 예를 들어 교통, 의료, 방범, 농업, 축산업, 광업, 미용, 공장, 가전, 기상, 자연 감시 등 임의의 분야에 이용할 수 있다. 또한, 그 용도도 임의이다.

<기타>

또한, 본 명세서에 있어서 「플래그」란, 복수의 상태를 식별하기 위한 정보이며, 참(1) 또는 거짓(0)의 2 상태를 식별할 때에 사용하는 정보뿐만 아니라, 3 이상의 상태를 식별하는 것이 가능한 정보도 포함된다. 따라서, 이 「플래그」가 취할 수 있는 값은, 예를 들어 1/0의 2값이어도 되고, 3값 이상이어도 된다. 즉, 이 「플래그」를 구성하는 bit수는 임의이고, 1 bit여도 복수 bit여도 된다. 또한, 식별 정보(플래그도 포함함)는 그 식별 정보를 비트 스트림에 포함하는 형태뿐만 아니라, 어떤 기준이 되는 정보에 대한 식별 정보의 차분 정보를 비트 스트림에 포함하는 형태로 상정되기 때문에, 본 명세서에 있어서는 「플래그」나 「식별 정보」는, 그 정보뿐만 아니라, 기준이 되는 정보에 대한 차분 정보도 포함한다.

또한, 부호화 데이터(비트 스트림)에 관한 각종 정보(메타데이터 등)는, 부호화 데이터에 관련지어져 있으면, 어떤 형태로 전송 또는 기록되도록 해도 된다. 여기서, 「관련지어져 있다」는 용어는, 예를 들어 한 쪽의 데이터를 처리할 때에 다른 쪽의 데이터를 이용할 수 있도록(링크시킬 수 있도록) 하는 것을 의미한다. 즉, 서로 관련지어진 데이터는 하나의 데이터로서 통합되어도 되고, 각각 개별의 데이터로 해도 된다. 예를 들어, 부호화 데이터(화상)에 관련지어진 정보는, 그 부호화 데이터(화상)와는 다른 전송로 상에서 전송되도록 해도 된다. 또한, 예를 들어 부호화 데이터(화상)에 관련지어진 정보는, 그 부호화 데이터(화상)와는 다른 기록 매체(또는 동일한 기록 매체의 다른 기록 에어리어)에 기록되도록 해도 된다. 또한, 이 「관련짓기」는 데이터 전체가 아니라, 데이터가 일부여도 된다. 예를 들어, 화상과 그 화상에 대응하는 정보가, 복수 프레임, 1 프레임 또는 프레임 내의 일부분 등의 임의의 단위로 서로 관련지어지도록 해도 된다.

또한, 본 명세서에 있어서 「합성한다」, 「다중화한다」, 「부가한다」, 「일체화한다」, 「포함한다」, 「저장한다」, 「집어 넣는다」, 「꽂는다」, 「삽입한다」 등의 용어는, 예를 들어 부호화 데이터와 메타데이터를 하나의 데이터에 통합한다는, 복수의 물을 하나로 통합하는 것을 의미하고, 상술한 「관련지어지는」의 하나의 방법을 의미한다.

또한, 본 기술의 실시 형태는 상술한 실시 형태에 한정되는 것은 아니며, 본 기술의 요지를 일탈하지 않는 범위에 있어서 다양한 변경이 가능하다.

예를 들어, 하나의 장치(또는 처리부)로서 설명한 구성을 분할하여, 복수의 장치(또는 처리부)로서 구성하도록 해도 된다. 반대로, 이상에 있어서 복수의 장치(또는 처리부)로서 설명한 구성을 통합하여 하나의 장치(또는 처리부)로서 구성되도록 해도 된다. 또한, 각 장치(또는 각 처리부)의 구성에 상술한 이외의 구성을 부가하도록 해도 물론 좋다. 또한, 시스템 전체로서의 구성이나 동작이 실질적으로 동일하면, 어떤 장치(또는 처리부)의 구성의 일부를 다른 장치(또는 다른 처리부)의 구성에 포함하도록 해도 된다.

또한, 예를 들어 상술한 프로그램은 임의의 장치에 있어서 실행되도록 해도 된다. 그 경우, 그 장치가 필요한 기능(기능 블록 등)을 갖고, 필요한 정보를 얻을 수 있도록 하면 된다.

또한, 예를 들어 하나의 흐름도의 각 스텝을, 하나의 장치가 실행하도록 해도 되고, 복수의 장치가 분담하여 실행하도록 해도 된다. 또한, 하나의 스텝에 복수의 처리가 포함되는 경우, 그 복수의 처리를, 하나의 장치가 실행하도록 해도 되고, 복수의 장치가 분담하여 실행하도록 해도 된다. 환언하면, 하나의 스텝에 포함되는 복수의 처리를, 복수의 스텝의 처리로서 실행할 수도 있다. 반대로, 복수의 스텝으로서 설명한 처리를 하나의 스텝으로서 통합하여 실행할 수도 있다.

또한, 예를 들어 컴퓨터가 실행하는 프로그램은, 프로그램을 기술하는 스텝의 처리가, 본 명세서에서 설명하는 순서를 따라서 시계열로 실행되도록 해도 되고, 병렬로, 혹은 호출이 행해졌을 때 등이 필요한 타이밍에 개별로 실행되도록 해도 된다. 즉, 모순이 발생하지 않는 한, 각 스텝의 처리가 상술한 순서와 상이한 순서로 실행되도록 해도 된다. 또한, 이 프로그램을 기술하는 스텝의 처리가, 다른 프로그램의 처리와 병렬로 실행되도록 해도 되고, 다른 프로그램의 처리와 조합하여 실행되도록 해도 된다.

또한, 예를 들어 본 기술에 관한 복수의 기술은, 모순이 발생하지 않는 한, 각각 독립적으로 단체로 실시할 수 있다. 물론, 임의의 복수의 본 기술을 병용하여 실시할 수도 있다. 예를 들어, 어느 실시 형태에 있어서 설명한 본 기술의 일부 또는 전부를, 다른 실시 형태에 있어서 설명한 본 기술의 일부 또는 전부와 조합하여 실시할 수도 있다. 또한, 상술한 임의의 본 기술의 일부 또는 전부를, 상술하지 않은 다른 기술과 병용하여 실시할 수도 있다.

100: 부호화 장치
111: 패치 분해부
112: 패킹부
113: OMap 생성부
114: 보조 패치 정보 압축부
115: 비디오 부호화부
116: 비디오 부호화부
117: OMap 부호화부
118: 멀티플렉서
131: 패치 분해 처리부
132: 지오메트리 복호부
133: 3차원 위치 정보 평활화 처리부
134: 텍스처 보정부
141: 영역 분할부
142: 영역 내 대푯값 도출부
143: 처리 대상 영역 설정부
144: 평활화 처리부
145: 전송 정보 생성부
200: 복호 장치
211: 디멀티플렉서
212: 보조 패치 정보 복호부
213: 비디오 복호부
214: 비디오 복호부
215: OMap 복호부
216: 언패킹부
217: 3D 재구축부
231: 지오메트리 포인트 클라우드 생성부
232: 3차원 위치 정보 평활화 처리부
233: 텍스처 합성부
251: 전송 정보 취득부
252: 영역 분할부
253: 영역 내 대푯값 도출부
254: 처리 대상 영역 설정부
255: 평활화 처리부

Claims (20)

1. 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하는 필터 처리부와,
   상기 필터 처리부에 의해 상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는 부호화부
   를 구비하는 화상 처리 장치.
2. 제1항에 있어서, 상기 국소 영역은 소정 사이즈의 입방체 영역인
   화상 처리 장치.
3. 제1항에 있어서, 상기 국소 영역은 소정 사이즈의 직육면체 영역인
   화상 처리 장치.
4. 제1항에 있어서, 상기 국소 영역은, 각각이 상기 포인트 클라우드 데이터의 소정수의 포인트를 포함하도록, 상기 3차원 공간을 분할한 영역인
   화상 처리 장치.
5. 제1항에 있어서, 상기 부호화부는, 상기 국소 영역에 관한 정보를 포함하는 상기 비트 스트림을 생성하는
   화상 처리 장치.
6. 제5항에 있어서, 상기 국소 영역에 관한 정보는, 상기 국소 영역의 사이즈 혹은 형상 또는 양쪽에 관한 정보를 포함하는
   화상 처리 장치.
7. 제1항에 있어서, 상기 대푯값은, 상기 국소 영역이 포함하는 상기 포인트 클라우드 데이터의 평균인
   화상 처리 장치.
8. 제1항에 있어서, 상기 대푯값은, 상기 국소 영역이 포함하는 상기 포인트 클라우드 데이터의 중앙값인
   화상 처리 장치.
9. 제1항에 있어서, 상기 필터 처리는, 상기 포인트 클라우드 데이터의 처리 대상 포인트의 데이터를, 상기 처리 대상 포인트 주변의 상기 국소 영역의 상기 대푯값을 사용하여 평활화하는 평활화 처리인
   화상 처리 장치.
10. 제1항에 있어서, 상기 필터 처리부는, 상기 포인트 클라우드 데이터의 포인트의 위치 정보에 대하여 상기 필터 처리를 행하는
    화상 처리 장치.
11. 제1항에 있어서, 상기 필터 처리부는, 상기 포인트 클라우드 데이터의 포인트의 속성 정보에 대하여 상기 필터 처리를 행하는
    화상 처리 장치.
12. 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하고,
    상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는
    화상 처리 방법.
13. 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하는 복호부와,
    상기 복호부에 의해 생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하는 필터 처리부
    를 구비하는 화상 처리 장치.
14. 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하고,
    생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터에 대하여, 3차원 공간을 분할한 국소 영역별 상기 포인트 클라우드 데이터의 대푯값을 사용하여, 필터 처리를 행하는
    화상 처리 방법.
15. 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하는 필터 처리부와,
    상기 필터 처리부에 의해 상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는 부호화부
    를 구비하는 화상 처리 장치.
16. 제15항에 있어서, 상기 필터 처리부는, 상기 포인트 클라우드 데이터의, 상기 2차원 평면 화상에 포함되는 패치의 단부에 대응하는 포인트에 대하여 상기 필터 처리를 행하는
    화상 처리 장치.
17. 제15항에 있어서, 상기 필터 처리는, 상기 포인트 클라우드 데이터의 처리 대상 포인트의 데이터를, 상기 처리 대상 포인트 주변 point의 데이터를 사용하여 평활화하는 평활화 처리인
    화상 처리 장치.
18. 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하고,
    상기 필터 처리가 행해진 상기 포인트 클라우드 데이터가 투영된 2차원 평면 화상을 부호화하여, 비트 스트림을 생성하는
    화상 처리 방법.
19. 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하는 복호부와,
    상기 복호부에 의해 생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하는 필터 처리부
    를 구비하는 화상 처리 장치.
20. 비트 스트림을 복호하여, 포인트 클라우드 데이터가 투영된 2차원 평면 화상의 부호화 데이터를 생성하고,
    생성된 상기 2차원 평면 화상으로부터 복원된 상기 포인트 클라우드 데이터의 일부의 포인트에 대하여 필터 처리를 행하는
    화상 처리 방법.

Images