KR20160106338A - 양안 시차 영상에 대한 타일 기반 렌더링 방법 및 장치 - Google Patents

Abstract

양안 시차를 갖는 제 1 영상 및 제 2 영상에 대한 타일 렌더링을 수행하는 방법에 있어서, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계; 결정에 기초하여, 제 2 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하는 단계; 결정된 타일 렌더링 순서에 따라, 타일 렌더링을 수행하는 단계;를 포함하는 방법 및 이를 위한 장치를 제공한다.

Description

양안 시차 영상에 대한 타일 기반 렌더링 방법 및 장치{Apparatus and Method of tile based rendering for binocular disparity image}

본 개시는 렌더링 장치가 수행하는 양안 시차 영상에 대한 타일 기반 렌더링 방법에 관한 것이다.

GPU(Graphic　Processing　Unit)와 같은 그래픽 프로세싱 장치는 컴퓨팅 장치에서 그래픽스 데이터를 렌더링하는 역할을 담당한다. 일반적으로, 그래픽 프로세싱 장치는 2차원 또는 3차원 객체들에 해당되는 그래픽스 데이터를 2차원 픽셀 표현으로 변환하여 디스플레이를 위한 프레임을 생성한다. 컴퓨팅 장치의 종류로는, PC (personal computers), 노트북, 비디오 게임용 콘솔뿐만 아니라, 스마트폰, 태블릿 디바이스, 웨어러블 디바이스와 같은 임베디드(embedded) 디바이스들도 포함될 수 있다. 스마트폰, 태블릿 디바이스, 웨어러블 디바이스 등과 같은 임베디드 디바이스들은 비교적 낮은 연산 처리 능력과 많은 전력 소모의 문제들로 인하여, 충분한 메모리 공간과 프로세싱 파워를 확보하고 있는 PC, 노트북, 비디오 게임용 콘솔 등과 같은 워크스테이션들과 동일한 그래픽 프로세싱 성능을 갖추기 어렵다. 하지만, 최근 전세계적으로 스마트폰 또는 태블릿 디바이스와 같은 휴대용 디바이스들이 널리 보급됨에 따라 사용자들은 스마트폰 또는 태블릿 디바이스를 통해 게임을 플레이하거나 또는 영화, 드라마 등의 컨텐츠를 감상하는 빈도가 급격히 증가하였다. 이에 따라, 그래픽 프로세싱 장치의 제조사들은 사용자들의 수요에 발맞추어 임베디드 디바이스에서도 그래픽 프로세싱 장치의 성능 및 처리 효율을 높이기 위한 많은 연구들을 진행하고 있다.

양안 시차 영상에 대한 타일 기반 렌더링을 수행하는 장치 및 방법을 제공하는 데 있다. 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 이하의 실시예들로부터 또 다른 기술적 과제들이 유추될 수 있다.

일 측면에 따라, 양안 시차(binocular disparity)를 갖는 제 1 영상 및 제 2 영상에 대한 타일 기반 렌더링(tile based rendering)을 수행하는 방법은, 제 1 영상 및 제 2 영상에 대한 드로우 커맨드(draw command)에 기초하여, 제 1 영상 및 제 2 영상에 대한 타일 비닝(tile binning)을 수행하는 단계; 타일 비닝의 결과에 기초하여, 제 1 영상의 타일과 유사도(similarity)가 가장 높은 제 2 영상의 타일을 결정하는 단계; 결정에 기초하여, 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하는 단계; 및 결정된 순서에 따라, 타일 렌더링을 수행하는 단계;를 포함할 수 있다.

또한, 타일 비닝을 수행하는 단계는, 드로우 커맨드를 수신하는 단계; 드로우 커맨드를 배치(batch)들로 나누어, 배치들을 복수의 그래픽스 프로세서들에 할당하는 단계; 및 배치들 중 제 1 배치를 복수의 그래픽스 프로세서들 중 제 1 그래픽스 프로세서에 할당하는 경우, 제 1 배치 및 제 1 배치와 대응되는 상태 정보(state information)에 기초하여, 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝을 수행하는 단계를 포함할 수 있다.

또한, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계는, 타일 비닝의 결과에 기초하여, 제 1 영상 및 제 2 영상의 각 타일 상에서 드로우 커맨드가 수행되는 지 여부를 나타내는 비닝 정보를 획득하는 단계; 및 비닝 정보에 기초하여, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계를 포함할 수 있다.

또한, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계는, 타일 비닝의 결과에 기초하여, 드로우 커맨드의 식별정보를 포함하는 비트스트림(bitstream)을 제 1 영상 및 제 2 영상의 각 타일마다 생성하는 단계; 및 제 1 영상의 타일에 대한 비트스트림과 제 2 영상의 복수의 타일들 각각에 대한 비트스트림의 비교를 통해, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계;를 포함할 수 있다.

또한, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계는, 제 1 영상의 제 1 타일에 대한 비트스트림과, 제 1 타일과 소정의 범위로 대응되는 제 2 영상의 타일들 각각에 대한 비트스트림을 비교하여, 제 2 영상의 타일들 중에서 제 1 타일과 유사도가 가장 높은 타일을 결정할 수 있다.

또한, 타일 렌더링 순서를 결정하는 단계는, 결정된 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에 의해 동시 또는 순차적으로 타일 렌더링되도록 타일 렌더링 순서를 결정할 수 있다.

또한, 드로우 커맨드는, 제 1 영상 및 제 2 영상 각각에 대한 상태 정보를 포함할 수 있다.

또한, 방법은, 현재 시점의 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링을 수행하는 단계; 현재 시점의 제 1 영상의 타일이 갖는 깊이값들 중에서 대표 깊이값을 결정하고, 대표 깊이값에 기초하여, 현재 시점의 제 1 영상의 타일과 대응되는 현재 시점의 제 2 영상의 타일을 결정하는 단계; 결정된 현재 시점의 제 1 영상의 타일 및 제 2 영상의 타일에 기초하여, 다음 시점의 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하는 단계; 및 결정된 순서에 따라, 다음 시점에 대한 타일 렌더링을 수행하는 단계;를 포함할 수 있다.

다른 측면에 따라, 양안 시차(binocular disparity)를 갖는 제 1 영상 및 제 2 영상에 대한 타일 기반 렌더링(tile based rendering)을 수행하는 장치는, 제 1 영상 및 제 2 영상에 대한 드로우 커맨드(draw command)에 기초하여, 제 1 영상 및 제 2 영상에 대한 타일 비닝(tile binning)을 수행하는 복수의 그래픽스 프로세서들(graphics processors); 타일 비닝의 결과에 기초하여, 제 1 영상의 타일과 유사도(similarity)가 가장 높은 제 2 영상의 타일을 결정하는 타일 코렐레이터(tile correlator); 및 결정에 기초하여, 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하는 스케줄러;를 포함하고, 복수의 그래픽스 프로세서는, 결정된 순서에 따라, 타일 렌더링을 수행할 수 있다.

또 다른 측면에 따라, 타일 렌더링 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체가 제공된다.

본 실시예들에 따르면, 양안 시차를 갖는 제 1 영상 및 제 2 영상에 있어서, 제 1 영상의 타일과 가장 유사한 제 2 영상의 타일을 결정할 수 있다. 또한, 서로 유사한 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에서 렌더링 되도록 제 1 영상 및 제 2 영상의 각 타일에 대한 렌더링 순서를 결정할 수 있다. 서로 유사한 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에서 렌더링 되는 바, 불필요한 외부 메모리의 접근이 줄어들어, 보다 효율적인 렌더링이 가능해진다.

도 1은 일 실시예에 따라, 렌더링 시스템에 대한 블록도를 나타낸다.
도 2 는, 일 실시예에 따라, 렌더링 장치가 타일 비닝을 수행하는 실시예를 설명하기 위한 도면이다.
도 3은 일 실시예에 따라, 렌더링 장치가 각 타일의 비트스트림을 생성하는 일 실시예를 설명하기 위한 도면이다.
도 4는 일 실시예에 따라, 렌더링 장치가 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 실시예를 설명하기 위한 도면이다.
도 5는 일 실시예에 따라, 렌더링 장치가 타일 렌더링 순서를 결정하는 내용을 설명하기 위한 도면이다.
도 6은 일 실시예에 따라, 렌더링 장치가 타일 렌더링 순서를 결정하는 내용을 설명하기 위한 도면이다.
도 7은 일 실시예에 따라, 렌더링 장치가 제 1 영상 내의 타일과 대응되는 제 2 영상 내의 타일을 결정하는 실시예를 설명하기 위한 도면이다.
도 8는, 일 실시예에 따라, 렌더링 장치가 타일 렌더링을 수행하는 방법을 설명하기 위한 도면이다.
도 9은 일 실시예에 따라, 도 8의 s810을 보다 구체적으로 설명하기 위한 도면이다.
도 10은 일 실시예에 따라, 렌더링 장치가 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 방법을 나타낸다.
도 11은 다른 실시예에 따라, 렌더링 장치가 타일 렌더링을 수행하는 방법을 설명하기 위한 도면이다.

이하 첨부된 도면을 참조하면서 오로지 예시를 위한 실시예들을 상세히 설명하기로 한다. 하기 실시예는 기술적 사상을 구체화하기 위한 것일 뿐 권리범위를 제한하거나 한정하는 것이 아님은 물론이다. 상세한 설명 및 실시예로부터 해당 기술분야에 속하는 전문가가 용이하게 유추할 수 있는 것은 권리범위에 속하는 것으로 해석된다.

본 명세서에서 사용되는 “구성된다” 또는 “포함한다” 등의 용어는 명세서 상에 기재된 여러 구성 요소들, 도는 여러 단계들을 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다.

또한, 본 명세서에서 사용되는 “제 1” 또는 “제 2” 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용할 수 있지만, 이러한 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하거나 설명의 편의를 위한 목적으로 사용될 수 있다.

이하에서는 도면을 참조하여 본 발명의 실시 예들을 상세히 설명한다.

도 1은 일 실시예에 따라, 렌더링 시스템(10)에 대한 블록도를 나타낸다.

렌더링 시스템(10)은 애플리케이션(20), 디바이스 드라이버(30) 및 렌더링 장치(100)를 포함할 수 있다. 도 1에 도시된 렌더링 시스템(10)는 본 실시예와 관련된 구성요소들만이 도시되어 있다. 따라서, 도 1에 도시된 구성요소들 외에 다른 범용적인 구성요소들이 더 포함될 수 있음을 본 실시예와 관련된 기술분야에서 통상의 지식을 가진 자라면 이해할 수 있다.

애플리케이션(20)은 일 실시예에 따라, API(Application Program Interface)를 통하여, 양안 시차 영상(binocular disparity image)에 대한 타일 렌더링과 관련된 정보를 디바이스 드라이버(30)에게 제공할 수 있다. 이때, 애플리케이션(20)은 OpenGL, OpenGL ES 또는 Direct 3 등의 API 표준을 통해 양안 시차 영상에 대한 타일 렌더링과 관련된 정보를 디바이스 드라이버(30)에게 제공할 수 있다. 즉, 애플리케이션(20)은 양안 시차 영상을 나타내기 위해 양안 시차를 갖는 제 1 영상 및 제 2 영상 각각에 대한 렌더링과 관련된 정보를 API를 통해 디바이스 드라이버(30)에게 제공할 수 있다. 예를 들어, 제 1 영상은 좌안(left eye)에 대한 영상, 제 2 영상은 우안(right eye)에 대한 영상일 수 있다. 또한, 일 실시예에 따라, 애플리케이션(20)은 양안 시차를 갖는 제 1 영상 및 제 2 영상 각각에 대한 렌더링과 관련된 정보를 API의 확장 등을 통해 디바이스 드라이버(30)에게 명시적으로 제공할 수 있다.

디바이스 드라이버(30)는, 일 실시예에 따라, 애플리케이션(20)으로부터 수신된 API를 분석하고 렌더링 장치(100)에서 처리 가능한 커맨드(command)로 변환하여, 렌더링 장치(100)로 커맨드를 전송할 수 있다. 일 실시예에 따라, 디바이스 드라이버(30)는 양안 시차를 갖는 제 1 영상 및 제 2 영상에 대한 적어도 하나의 드로우 커맨드(draw command)를 렌더링 장치(100)로 전송할 수 있다. 드로우 커맨드는 소정의 영상 또는 소정의 프레임에 어떤 오브젝트를 렌더링할 것인지를 나타내는 명령어이며, 일 실시예에 따라 드로우 커맨드는 드로우콜(drawcall)로써 표현할 수 있다. 예를 들어, 드로우 커맨드는 영상 또는 프레임에 소정의 개수의 사각형 또는 삼각형을 그리기 위한 커맨드일 수 있다.

일 실시예에 따라, 디바이스 드라이버(30)는 드로우 커맨드와 더불어 드로우 커맨드와 연관된 상태 정보(State information)를 렌더링 장치(100)로 전송할 수 있다. 상태 정보는 드로우 커맨드에 바인딩(binding)된 상태를 나타내는바, 상태 정보는 소정의 오브젝트를 렌더링하기 위해 필요한 정보를 의미할 수 있다. 예를 들어, 상태 정보는 소정의 오브젝트에 대한 좌표 정보와 같은 소스 데이터(source data), 텍스쳐 타입(texture type), 카메라 시점 정보를 포함할 수 있으며, 상태 정보는 스테이트(state)로써 표현될 수 있다. 일 실시예에 따라, 디바이스 드라이버(30)는 하나의 드로우 커맨드와 양안 시차를 갖는 제 1 영상 및 제 2 영상 각각에 대한 상태 정보를 렌더링 장치(100)로 전송할 수 있다. 제 1 영상 및 제 2 영상 각각은 동일한 오브젝트에 대해 서로 다른 시각에서 바라본 영상이기 때문에, 제 1 영상 및 제 2 영상에 대한 상태 정보는 카메라 시점에 관한 정보만 제 1 영상 및 제 2 영상 각각마다 다르게 표현되고, 나머지 정보들은 제 1 영상 및 제 2 영상 각각마다 동일하게 표현될 수 있다. 즉, 디바이스 드라이버(30)는 하나의 드로우 커맨드와 더불어 제 1 영상 및 제 2 영상에 대한 한 쌍의 상태 정보를 렌더링 장치(100)로 전송할 수 있다.

렌더링 장치(100)는 일 실시예에 따라, 디바이스 드라이버(30)로부터 수신한 양안 시차 영상에 대한 드로우 커맨드 및 상태 정보에 기초하여, 양안 시차를 갖는 제 1 영상 및 제 2 영상에 대한 타일 기반 렌더링(tile based rendering)을 수행할 수 있다.

렌더링 장치(100)는 일 실시예에 따라, 스케줄러(110), 복수의 그래픽스 프로세서들(120), 및 타일 코렐레이터(tile correlator)(130)를 포함할 수 있다. 도 1에 도시된 렌더링 장치(100)는 본 실시예와 관련된 구성요소들만이 도시되어 있다. 따라서, 도 1에 도시된 구성요소들 외에 다른 범용적인 구성요소들이 더 포함될 수 있음을 본 실시예와 관련된 기술분야에서 통상의 지식을 가진 자라면 이해할 수 있다.

스케줄러(110)는 일 실시예에 따라, 디바이스 드라이버(30)로부터 양안 시차를 갖는 제 1 영상 및 제 2 영상에 대한 적어도 하나의 드로우 커맨드 및 상태 정보를 수신할 수 있다. 이하에서는, 설명의 편의성을 위해, 양안 시차를 갖는 제 1 영상 및 제 2 영상을, 제 1 영상 및 제 2 영상으로써 설명하기로 한다.

스케줄러(110)는 일 실시예에 따라, 적어도 하나의 드로우 커맨드를 소정의 단위를 갖는 배치(batch)들로 분할할 수 있고, 배치들을 복수의 그래픽스 프로세서들(120) 각각마다 할당할 수 있다. 예를 들어, 스케줄러(110)는 100개의 프리미티브(primitive)에 대한 드로우 커맨드를 20개의 프리미티브에 대한 드로우 커맨드의 단위를 갖는 배치들로 분할하여, 드로우 커맨드를 5개의 배치들로써 복수의 그래픽스 프로세서들 각각마다 할당할 수 있다. 또한, 일 실시예에 따라, 스케줄러(110)가 배치들을 복수의 그래픽스 프로세서들(120) 각각에 할당하는 경우, 스케줄러(110)는 하나의 배치를 제 1 영상 및 제 2 영상 각각을 위해 하나의 그래픽스 프로세서에 2번씩 할당할 수 있다. 즉, 스케줄러(110)는 배치들 중 제 1 배치를 복수의 그래픽스 프로세서들(120) 중 제 1 그래픽스 프로세서에 할당하는 경우, 제 1 영상을 위해 제 1 배치를 제 1 그래픽스 프로세서에 할당할 수 있고, 제 2 영상을 위해 제 1 배치를 제 1 그래픽스 프로세서에 할당할 수 있다. 보다 구체적인 실시예는 도 2에서 살펴보기로 한다.

복수의 그래픽스 프로세서들(120)은 일 실시예에 따라, 할당된 배치들에 따라 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝(tile binning)을 수행할 수 있다. 타일 비닝은 제 1 영상 및 제 2 영상을 소정의 개수의 타일들로 분할하고, 제 1 영상 및 제 2 영상 내의 각 타일 상에서 적어도 하나의 드로우 커맨드가 수행되는지 여부를 나타내는 비닝 정보를 생성하는 프로세스일 수 있다. 보다 구체적으로, 타일 비닝은 제 1 영상을 구현하기 위한 제 1 프레임 및 제 2 영상을 구현하기 위한 제 2 프레임 각각을 소정의 개수의 타일들로 분할하는 것이다. 예를 들어, 100ⅹ100 픽셀의 제 1 프레임을 4개의 타일로 분할하게 되면, 1개의 타일의 크기는 25ⅹ25 픽셀이 된다. 따라서, 이하에서는 제 1 영상을 소정의 개수의 타일로 분할하는 내용은 제 1 영상을 구현하기 위한 제 1 프레임을 소정의 개수의 타일로 분할하는 내용과 동등한 것으로 보고, 제 1 영상의 타일이라는 표현은 제 1 영상을 구현하기 위한 제 1 프레임에 포함된 타일이라는 표현과 동등한 것으로 본다. 또한, 타일 비닝은 2차원 또는 3차원 객체들을 구성하는 버텍스들(vertices), 프리미티브들(primitives), 또는 패치들(patches)이 제 1 영상 및 제 2 영상의 어느 타일에 포함되는 지 여부를 나타내는 타일 리스트를 생성하는 프로세스일 수 있다. 또한, 타일 비닝은 제 1 영상 및 제 2 영상의 각 타일마다 포함된 버텍스 또는 프리미티브에 대한 정보를 획득하는 프로세스일 수 있다. 버텍스 또는 프리미티브에 대한 정보의 예로는, 버텍스 또는 프리미티브의 식별자, 위치, 색상 및 질감에 대한 정보가 될 수 있다.

일 실시예에 따라, 복수의 그래픽스 프로세서들(120)은 할당된 배치들 및 할당된 배치들과 연관된 상태 정보들에 따라 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝을 수행할 수 있다. 일 실시예에 따라, 복수의 그래픽스 프로세서들(120) 중 제 1 그래픽스 프로세서는 할당된 배치들 중 제 1 배치 및 제 1 배치와 연관된 상태 정보를 수신할 수 있다. 제 1 배치와 연관된 상태 정보는 제 1 영상 및 제 2 영상 각각의 카메라 시점 정보를 포함하므로, 제 1 그래픽스 프로세서는, 제 1 배치를 한번만 할당 받더라도, 제 1 배치 및 제 1 배치와 연관된 상태 정보에 따라, 제 1 영상에 대한 타일 비닝과 제 2 영상에 대한 타일 비닝을 각각 수행할 수 있다. 또한, 일 실시예에 따라, 제 1 그래픽스 프로세서는 제 1 배치 및 제 1 배치와 연관된 상태 정보를 제 1 영상 및 제 2 영상 각각에 대해 2번 할당 받을 수 있고, 제 1 그래픽스 프로세서는 제 1 영상에 대한 타일 비닝과 제 2 영상에 대한 타일 비닝을 각각 수행할 수 있다. 이하, 도 2에서는 타일 비닝과 관련된 보다 구체적인 실시예를 설명하기로 한다.

도 2 는, 일 실시예에 따라, 렌더링 장치(100)가 타일 비닝을 수행하는 실시예를 설명하기 위한 도면이다.

스케줄러(110)는 일 실시예에 따라, 드로우 커맨드(210)를 복수의 배치들(220)로 분할할 수 있다. 또한, 스케줄러(110)는 복수의 배치들(220)을 제 1 영상에 대한 복수의 배치들(230)로써 복수의 그래픽스 프로세서들(120)에 할당할 수 있고, 복수의 배치들(220)을 제 2 영상에 대한 복수의 배치들(240)로써 복수의 그래픽스 프로세서들(120)에 할당할 수 있다. 즉, 스케줄러(110)는 복수의 배치들(220)을 두번씩 복수의 그래픽스 프로세서들(120)에 할당할 수 있다.

복수의 그래픽스 프로세서들(120)은 할당된 배치들 및 할당된 배치들과 연관된 상태 정보에 기초하여, 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝을 수행할 수 있다.

또한, 도 2에서 점선 화살표로 도시된 바와 같이, 스케줄러(110)는 복수의 배치들(220)을 한번씩만 복수의 그래픽스 프로세서들(120)에 할당할 수 있다. 또한, 스케줄러(110)는 복수의 배치들(220)과 연관된 상태 정보를 복수의 그래픽스 프로세서들(120) 각각 내의 버퍼에 저장할 수 있다. 따라서, 복수의 그래픽스 프로세서들(120) 각각은 버퍼에 저장된 상태 정보 및 복수의 배치들(220)에 따라, 제 1 영상에 대한 타일 비닝과 제 2 영상에 대한 타일 비닝을 각각 수행할 수 있다.

따라서, 그래픽스 프로세서에 할당된 배치는 동일한 프리미티브를 대상으로 하기 때문에, 할당된 배치에 기초하여 그래픽스 프로세서가 제 1 영상 및 제 2 영상 각각에 대해 동일한 프리미티브를 대상으로 타일 비닝을 수행할 수 있고, 이는 프리미티브에 대한 정보가 저장되어 있는 외부 메모리로의 접근을 최소화시킬 수 있다.

도 1의 복수의 그래픽스 프로세서들(120)은 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝을 수행할 수 있고, 타일 비닝의 수행 결과 생성된 비닝 정보를 타일 코렐레이터(130)에 전달할 수 있다. 또한, 일 실시예에 따라, 복수의 그래픽스 프로세서들(120)은 타일 비닝의 수행 결과 생성된 비닝 정보를 별도의 메모리에 저장할 수 있다.

타일 코렐레이터(130)는 일 실시예에 따라, 타일 비닝의 결과에 기초하여, 제 1 영상 및 제 2 영상의 각 타일 상에서 적어도 하나의 드로우 커맨드가 수행되는 지 여부를 나타내는 비닝 정보(binning information)를 획득할 수 있다. 즉, 타일 코렐레이터(130)는 비닝 정보를 복수의 그래픽스 프로세서들(120)로부터 전달받을 수 있고, 비닝 정보를 별도의 메모리로부터 획득할 수 있다.

타일 코렐레이터(130)는 일 실시예에 따라, 비닝 정보에 기초하여, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정할 수 있다. 즉, 타일 코렐레이터(130)는 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 제 1 영상의 각 타일마다 결정할 수 있다. 보다 구체적인 실시 예로, 타일 코렐레이터(130)는 일 실시예에 따라, 획득된 비닝 정보에 기초하여, 복수의 드로우 커맨드들 각각의 식별정보를 포함하는 비트스트림(bitstream)을 제 1 영상 및 제 2 영상의 각 타일마다 생성할 수 있다. 즉, 제 1 영상 및 제 2 영상의 각 타일마다 생성되는 비트스트림은, 적어도 하나의 드로우 커맨드 각각의 식별정보를 통해 적어도 하나의 드로우 커맨드 각각이 각 타일 상에 수행되는지 여부를 나타낼 수 있다. 예를 들어, 제 1 영상의 소정의 타일의 비트스트림이 ‘010’인 경우, 비트스트림 ‘010’은 제 1 드로우 커맨드, 제 2 드로우 커맨드 및 제 3 드로우 커맨드 중 제 2 드로우 커맨드만이 소정의 타일 상에 수행되는 것을 나타낼 수 있다. 따라서, 타일 코렐레이터(130)는 제 1 영상의 소정의 타일에 대한 비트스트림과 제 2 영상의 타일들에 대한 비트스트림들의 비교를 통해, 소정의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정할 수 있다. 또한, 타일 코렐레이터(130)는 일 실시예에 따라, XOR 연산을 이용하여, 소정의 타일에 대한 비트스트림과 가장 유사한 비트스트림을 찾을 수 있다. 또한, 타일 코렐레이터(130)는 제 1 영상의 타일에 대한 비트스트림과, 제 1 영상의 타일과 소정의 범위로 대응되는 제 2 영상의 타일들 각각에 대한 비트스트림들을 비교하여, 제 2 영상의 타일들 중에서 제 1 영상의 타일과 유사도가 가장 높은 타일을 결정할 수 있다. 보다 구체적인 실시예는 이하 도 3 및 도 4에서 살펴보기로 한다.

도 3은 일 실시예에 따라, 렌더링 장치(100)가 각 타일의 비트스트림을 생성하는 일 실시예를 설명하기 위한 도면이다.

도 3의 영상(310)은 렌더링 장치(100)가 드로우 커맨드 0을 처리한 결과 나타나는 영상이고, 영상(320)은 렌더링 장치(100)가 드로우 커맨드 1을 처리한 결과 나타나는 영상이다. 따라서, 영상(330)은 렌더링 장치(100)가 드로우 커맨드 0, 1을 순차적으로 처리한 결과 나타나는 영상을 나타낸다.

렌더링 장치(100)는 타일 비닝을 수행하여, 도 3의 영상(340)과 같이, 영상(340)을 4개의 타일로 분할할 수 있고, 각 타일 상에서 드로우 커맨드 0, 1이 수행되는 지 여부를 나타내는 비닝 정보를 획득할 수 있다. 따라서, 렌더링 장치(100)는 비닝 정보에 따라, 드로우 커맨드 0, 1의 식별정보를 포함하는 비트스트림을 영상(340) 내의 각 타일마다 생성할 수 있다. 즉, 렌더링 장치(100)는 타일(0,0)의 비트스트림을 ‘11’로, 타일(0,1)의 비트스트림을 ‘00’으로, 타일(1,0)의 비트스트림을 ‘10’로, 타일(1,1)의 비트스트림을 ‘10’으로 생성할 수 있다. 비트스트림 ‘11’은 드로우 커맨드 0, 1 모두가 수행된다는 의미로, 비트스트림 ‘10’은 드로우 커맨드 0만이 수행된다는 의미로, 비트스트림 ‘01’은 드로우 커맨드 1만이 수행된다는 의미로, 비트스트림 ‘00’은 드로우 커맨드 0,1 모두 수행되지 않는다는 의미로 해석될 수 있다.

도 4는 일 실시예에 따라, 렌더링 장치(100)가 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 실시예를 설명하기 위한 도면이다.

렌더링 장치(100)는 제 1 영상(410)의 16개의 타일들 각각마다 비트스트림을 생성할 수 있고, 제 2 영상(420)의 16개의 타일들 각각마다 비트스트림을 생성할 수 있다. 렌더링 장치(100)는 제 1 영상(410)의 16개의 타일들 중 타일(415)의 비트스트림을 ‘0011000’으로써 생성할 수 있다. 즉, 비트스트림 ‘0011000’은 드로우 커맨드 0 내지 7 중 드로우 커맨드 3 및 4가 타일(415)에 수행된다는 것을 나타낸다. 따라서, 렌더링 장치(100)는 제 2 영상(420)의 타일들 중 타일(415)과 가장 유사한 타일을 결정할 수 있다.

렌더링 장치(100)는 타일(415)의 비트스트림과 제 2 영상 내의 16개의 타일들 각각의 비트스트림을 비교할 수 있다. 또한, 일 실시예에 따라, 렌더링 장치(100)는 타일(415)의 비트스트림과 제 1 영상(410)의 타일(415)과 소정의 범위로 대응되는 제 2 영상(420) 내의 타일들 각각의 비트스트림을 비교할 수 있다. 제 1 영상 및 제 2 영상은 양안 시차를 갖기 때문에, 좌우 방향의 타일들이 유사할 확률이 높다. 따라서, 일 실시예에 따라, 렌더링 장치(100)는 타일(415)의 위치와 대응되는 제 2 영상 내의 타일(424) 및 타일(424)의 좌우 방향의 타일들(422,426)의 비트스트림들과 타일(415)의 비트스트림을 비교할 수 있다. 즉, 렌더링 장치(100)는 타일(415)의 비트스트림 ‘0011000’과 타일들(422,424,426)의 비트스트림 ‘0101000’, ‘0110000’, ‘0011000’을 비교할 수 있다. 도 2에서는, 타일(424)과 좌우 방향의 1개씩의 타일까지의 범위로 도시되었으나, 방향 및 개수는 도 4와 같이 한정되지 않는다.

렌더링 장치(100)는 일 실시예에 따라, XOR 연산을 이용하여, 타일(415)의 비트스트림과 가장 유사한 비트스트림을 찾을 수 있다. 즉, 렌더링 장치(100)는 타일(415)의 비트스트림 ‘0011000’과 타일(422)의 비트스트림 ‘0101000’간의 XOR 연산을 통해, 비트스트림 ‘0110000’을 도출할 수 있고, 타일(415)의 비트스트림 ‘0011000’과 타일(424)의 비트스트림 ‘0110000’간의 XOR 연산을 통해, 비트스트림 ‘0101000’을 도출할 수 있고, 타일(415)의 비트스트림 ‘0011000’과 타일(426)의 비트스트림 ‘0011000’간의 XOR 연산을 통해, 비트스트림 ‘0000000’을 도출할 수 있다. 따라서, 렌더링 장치(100)는 도출된 비트스트림 ‘0110000’, ‘0101000’, ‘0000000’ 중에서 ‘1’의 개수가 가장 적은 비트스트림인 ‘0000000’을 선택할 수 있다. 즉, 렌더링 장치(100)는 비트스트림 ‘0000000’을 통해, 제 1 영상(410)의 타일(415)과 가장 유사한 제 2 영상(420)의 타일(426)을 결정할 수 있다.

또한, 일 실시예에 따라, 렌더링 장치(100)는 별도의 연산 과정 없이 제 1 영상(410)의 타일(415)과 위치가 대응되는 제 2 영상(420)의 타일(424)을 타일(415)과 가장 유사한 타일로 결정할 수 있다.

도 1의 타일 코렐레이터(130)는 일 실시예에 따라, 획득된 비닝 정보에 기초하여, 드로우 수준(level)에서 비트스트림을 생성하는 것이 아니라, 적어도 하나의 드로우 커맨드에 포함된 프리미티브 또는 버텍스 각각의 식별정보를 포함하는 비트스트림(bitstream)을 제 1 영상 및 제 2 영상의 각 타일마다 생성할 수 있다. 즉, 제 1 영상 및 제 2 영상의 각 타일마다 생성되는 비트스트림은, 적어도 하나의 프리미티브 또는 버텍스 각각의 식별정보를 통해, 적어도 하나의 프리미티브 또는 버텍스 각각이 각 타일 상에서 표현되는 지 여부를 나타낼 수 있다. 예를 들어, 제 1 영상의 소정의 타일의 비트스트림이 ‘010’인 경우, 비트스트림 ‘010’은 제 1 프리미티브, 제 2 프리미티브 및 제 3 프리미티브 중 제 2 프리미티브만이 소정의 타일 상에서 표현되는 것을 나타낼 수 있다. 따라서, 타일 코렐레이터(130)는 제 1 영상의 소정의 타일에 대한 비트스트림과 제 2 영상의 타일들에 대한 비트스트림들의 비교를 통해, 소정의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정할 수 있다.

또한, 타일 코렐레이터(130)는 일 실시예에 따라, 제 1 영상의 타일과 가장 유사한 제 2 영상의 타일을 결정하여, 서로 유사하다고 결정된 제 1 영상의 타일과 제 2 영상의 타일을 나타내는 타일 연관 테이블을 생성할 수 있다. 일 실시예에 따라, 타일 코렐레이터(130)는 타일 연관 테이블을 스케줄러(110)에 전달하거나, 타일 연관 테이블을 별도의 메모리에 저장할 수 있다.

스케줄러(110)는 일 실시예에 따라, 타일 코렐레이터(130)에 의해 수행된 제 1 영상의 타일과 가장 유사한 제 2 영상의 타일의 결정에 기초하여, 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정할 수 있다. 또한, 스케줄러(110)는 일 실시예에 따라, 타일 코렐레이터(130)로부터 수신한 타일 연관 테이블 또는 별도의 메모리에 저장된 타일 연관 테이블에 기초하여, 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정할 수 있다. 일 실시예에 따라, 스케줄러(110)는 가장 높은 유사도를 갖는 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에 의해 동시 또는 순차적으로 타일 렌더링되도록 타일 렌더링 순서를 결정할 수 있다. 보다 구체적인 실시예는 이하 도 5 및 도 6에서 살펴보기로 한다.

도 5는 일 실시예에 따라, 렌더링 장치(100)가 타일 렌더링 순서를 결정하는 내용을 설명하기 위한 도면이다.

타일 코렐레이터(130)는 제 1 영상의 타일과 가장 유사한 제 2 영상의 타일을 나타내는 타일 연관 테이블(510)을 생성할 수 있다. 타일 연관 테이블(510)은 제 1 영상 내의 타일 0과 제 2 영상 내의 타일 4가 가장 유사하고, 제 1 영상 내의 타일 1과 제 2 영상 내의 타일 6이 가장 유사하고, 제 1 영상 내의 타일 n과 제 2 영상 내의 타일 n이 가장 유사하다는 것을 나타낸다.

따라서, 스케줄러(110)는 타일 연관 테이블(510)에 기초하여, 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에 의해 동시 또는 순차적으로 타일 렌더링되도록 타일 렌더링 순서를 결정할 수 있다. 즉, 스케줄러(110)는 제 1 영상의 타일 0과 제 2 영상의 타일 4가 그래픽스 프로세서(122)에 의해 타일 렌더링 되도록, 제 1 영상의 타일 1과 제 2 영상의 타일 6가 그래픽스 프로세서(124)에 의해 타일 렌더링 되도록, 제 1 영상의 타일 n과 제 2 영상의 타일 n가 그래픽스 프로세서(126)에 의해 타일 렌더링 되도록, 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정할 수 있다.

도 6은 일 실시예에 따라, 렌더링 장치(100)가 타일 렌더링 순서를 결정하는 내용을 설명하기 위한 도면이다.

스케줄러(110)는 일 실시예에 따라, 도 6(a)의 방법 또는 도 6(b)의 방법에 따라 타일 렌더링 순서를 결정할 수 있다.

도 6(a)에서, 스케줄러(110)는 유사도가 가장 높은 제 1 영상의 타일 0과 제 2 영상의 타일 4를 그래픽스 프로세서(610)에 할당하는 경우, 제 1 영상의 타일 0에 대해 적어도 하나의 드로우 커맨드에 의한 타일 렌더링이 수행된 후에 제 2 영상의 타일 4에 대해 적어도 하나의 드로우 커맨드에 의한 타일 렌더링이 수행되도록, 타일 렌더링 순서를 결정할 수 있다. 즉, 드로우 커맨드가 드로우 0, 드로우 1, 드로우 2인 경우, 스케줄러(110)는 제 1 영상의 타일 0에 대해 드로우 0,1,2에 의한 타일 렌더링이 모두 수행된 후에, 제 2 영상의 타일 0에 대해 드로우 0,1,2에 의한 타일 렌더링이 모두 수행되도록, 타일 렌더링 순서를 결정할 수 있다.

또한, 도 6(b)에서, 스케줄러(110)는 유사도가 가장 높은 제 1 영상의 타일 0과 제 2 영상의 타일 4를 그래픽스 프로세서(620)에 할당하는 경우, 적어도 하나의 드로우 커맨드에 의한 타일 렌더링이 제 1 영상의 타일 0과 제 2 영상의 타일 4에 번갈아 수행되도록, 타일 렌더링 순서를 결정할 수 있다. 즉, 드로우 커맨드가 드로우 0, 드로우 1, 드로우 2인 경우, 스케줄러(110)는 제 1 영상의 타일 0 및 제 2 영상의 타일 4에 대해 드로우 0에 의한 타일 렌더링이 수행된 다음에, 제 1 영상의 타일 0 및 제 2 영상의 타일 4에 대해 드로우 1에 의한 타일 렌더링이 수행된 다음에, 제 1 영상의 타일 0 및 제 2 영상의 타일 4에 대해 드로우 2에 의한 타일 렌더링이 수행되도록, 타일 렌더링 순서를 결정할 수 있다.

도 1의 복수의 그래픽스 프로세서들(120)은, 결정된 타일 렌더링 순서에 따라, 제 1 영상 및 제 2 영상의 각 타일에 대해 타일 렌더링을 수행할 수 있다.

타일 기반 렌더링이 수행되는 경우, 각 타일은 그래픽스 프로세서 내의 온 칩 메모리(on chip memory)에 그려질 수 있지만, 렌더링에 필요한 정점이나 텍스쳐 등의 정보를 얻기 위해서는 오프 칩 메모리(off chip memory)에 접근이 요구된다. 따라서, 렌더링 장치(100)는 서로 유사한 제 1 영상의 타일과 제 2 영상의 타일을 동일한 그래픽스 프로세서에서 동시 또는 순차적으로 렌더링하는 바, 오프 칩 메모리의 접근을 최소화할 수 있다. 또한, 제 1 영상의 타일의 렌더링 과정에서 오프 칩 메모리에서 읽은 데이터가 캐시(cache) 수준에서 제 2 영상의 타일의 렌더링에 재사용될 확률이 높아지기 때문에, 렌더링 장치(100)의 전반적인 성능 향상을 기대할 수 있다.

일 실시예에 따라, 도 1의 복수의 그래픽스 프로세서들(120)는 현재 시점의 제 1 영상 및 제 2 영상에 대해 타일 렌더링을 수행할 수 있다. 복수의 그래픽스 프로세서들(120)은 타일 렌더링을 수행하여, 제 1 영상 또는 제 2 영상 의 각 타일에 대한 깊이 정보를 생성할 수 있다. 각 타일에 대한 깊이 정보는 각 타일 내의 픽셀들의 깊이값들을 나타낼 수 있다.

타일 코렐레이터(130)는 일 실시예에 따라, 제 1 영상의 깊이 정보에 기초하여, 제 1 영상의 타일과 대응되는 제 2 영상의 타일을 결정할 수 있다. 타일 코렐레이터(130)는 일 실시예에 따라, 제 1 영상 내의 깊이 정보에 기초하여, 제 1 영상의 각 타일마다 대표 깊이값을 결정할 수 있다. 예를 들어, 타일 코렐레이터(130)는 제 1 영상의 타일에 포함된 깊이값들 중에서 빈도가 가장 높은 깊이값을 타일의 대표 깊이값으로 결정할 수 있다. 타일 코렐레이터(130)는 결정된 대표 깊이값에 기초하여, 제 1 영상의 타일과 대응되는 제 2 영상의 타일을 결정할 수 있다. 보다 구체적으로, 타일 코렐레이터(130)는 하기와 같은 수학식 1을 이용하여, 제 1 영상의 타일과 대응되는 제 2 영상의 타일을 결정할 수 있다.

수학식 1에서, d는 제 1 영상의 타일의 좌표와 제 1 영상의 타일의 좌표와 제 1 영상의 타일과 대응되는 제 2 영상의 타일의 좌표간의 거리를 나타내고, b는 카메라 관련 파라미터들 중 베이스라인(baseline)을 나타내고, f는 카메라 관련 파라미터들 중 초점 거리(focal length)를 나타내고, z는 대표 깊이값을 나타낸다. 따라서, b와 f는 상태 정보에 포함되어 있기 때문에, 타일 코렐레이터(130)는 대표 깊이값을 이용하여 d값을 획득할 수 있고, d를 이용하여 제 1 영상 내의 타일과 대응되는 제 2 영상 내의 타일을 결정할 수 있다. 보다 구체적인 실시예는 이하 도 7에서 살펴보기로 한다.

도 7은 일 실시예에 따라, 렌더링 장치(100)가 제 1 영상 내의 타일과 대응되는 제 2 영상 내의 타일을 결정하는 실시예를 설명하기 위한 도면이다.

타일 코렐레이터(130)는 일 실시예에 따라, 깊이 정보에 기초하여, 제 1 영상(720) 내의 타일(715)에 대한 깊이 히스토그램(730)을 생성할 수 있다. 깊이 히스토그램(730)은 타일(715) 내의 각 픽셀들마다의 깊이값들을 나타낸다. 타일 코렐레이터(130)는 깊이 정보 또는 깊이 히스토그램(730)에 기초하여, 타일(715)의 대표 깊이값을 결정할 수 있다. 일 실시예에 따라, 타일 코렐레이터(130)는 타일(715)의 깊이값들 중에서 가장 빈도가 높은 깊이값인 0.6f를 대표 깊이값으로 결정할 수 있다.

타일 코렐레이터(130)는 대표 깊이값 0.6f 및 수학식 1을 이용하여 d값을 계산할 수 있고, 타일(715)의 위치와 대응되는 제 2 영상 내의 타일(722)과 d만큼 떨어진 타일(725)을 결정할 수 있다. 즉, 타일 코렐레이터(130)는 d값을 이용하여, 제 1 영상 내의 타일(715)과 대응되는 제 2 영상 내의 타일(725)을 결정할 수 있다.

스케줄러(110)는 일 실시예에 따라, 제 1 영상 내의 타일과 대응되는 제 2 영상 내의 타일에 기초하여, 현재 시점에 이은 다음 시점의 타일 렌더링 순서를 결정할 수 있다.

따라서, 렌더링 장치(100)는 현재 시점의 제 1 영상 및 제 2 영상에 대한 타일 렌더링의 결과에 따라 획득되는 깊이 정보에 기초하여, 제 1 영상의 타일과 대응되는 제 2 영상의 타일을 결정할 수 있고, 결정된 제 1 영상의 타일 및 제 2 영상의 타일에 기초하여, 다음 시점의 타일 렌더링 순서를 결정할 수 있다. 또한 렌더링 장치(100)는 결정된 타일 렌더링 순서에 따라, 다음 시점의 제 1 영상 및 제 2 영상에 대해 타일 렌더링을 수행할 수 있다.

도 8는, 일 실시예에 따라, 렌더링 장치(100)가 타일 렌더링을 수행하는 방법을 설명하기 위한 도면이다.

도 8에 도시된 방법은, 도 1의 렌더링 장치(100)의 각 구성요소에 의해 수행될 수 있고, 중복되는 설명에 대해서는 생략한다.

단계 s810에서, 렌더링 장치(100)는 적어도 하나의 드로우 커맨드에 기초하여, 양안 시차를 갖는 제 1 영상 및 제 2 영상 각각에 대해 타일 비닝을 수행할 수 있다. 렌더링 장치(100)는 외부로부터 적어도 하나의 드로우 커맨드 및 적어도 하나의 드로우 커맨드와 연관된 상태 정보를 수신할 수 있다. 따라서, 렌더링 장치(100)는 적어도 하나의 드로우 커맨드 및 상태 정보에 기초하여, 타일 비닝을 수행할 수 있다. 타일 비닝을 수행하는 보다 구체적인 실시예는 이하 도 9에서 살펴보기로 한다.

도 9은 일 실시예에 따라, 도 8의 s810을 보다 구체적으로 설명하기 위한 도면이다.

단계 s910에서, 렌더링 장치(100)는 외부로부터 적어도 하나의 드로우 커맨드 및 적어도 하나의 드로우 커맨드와 연관된 상태 정보를 수신할 수 있다.

단계 s920에서, 렌더링 장치(100)는 일 실시예에 따라, 적어도 하나의 드로우 커맨드를 소정의 단위를 갖는 배치들로 분할할 수 있고, 분할된 배치들을 렌더링 장치(100) 내의 복수의 그래픽스 프로세서들 각각마다 할당할 수 있다. 또한, 일 실시예에 따라, 렌더링 장치(100)는 배치들 각각을 제 1 영상 및 제 2 영상 각각을 위해 복수의 그래픽스 프로세서들 각각에 2번씩 할당할 수 있다. 즉, 렌더링 장치(100)는 배치들 중 제 1 배치를 복수의 그래픽스 프로세서들 중 제 1 그래픽스 프로세서에 할당하는 경우, 제 1 영상을 위해 제 1 배치를 제 1 그래픽스 프로세서에 할당할 수 있고, 제 2 영상을 위해 제 1 배치를 제 1 그래픽스 프로세서에 할당할 수 있다.

단계 s930에서, 렌더링 장치(100)는 일 실시예에 따라, 할당된 배치들 및 배치들와 대응되는 상태 정보에 기초하여, 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝을 수행할 수 있다. 보다 구체적으로, 렌더링 장치(100) 내의 복수의 그래픽스 프로세서들은 배치들 및 배치들과 연관된 상태 정보를 2번 할당 받을 수 있고, 이에 따라 복수의 그래픽스 프로세서들은 제 1 영상에 대한 타일 비닝과 제 2 영상에 대한 타일 비닝을 각각 수행할 수 있다. 또한, 복수의 그래픽스 프로세서들은 배치들과 연관된 상태 정보가 제 1 영상 및 제 2 영상 각각의 카메라 시점 정보를 포함하기 때문에, 배치들 및 상태 정보를 한번만 할당 받더라도, 제 1 영상에 대한 타일 비닝과 제 2 영상에 대한 타일 비닝을 각각 수행할 수 있다.

도 8의 단계 s820에서, 렌더링 장치(100)는 타일 비닝의 결과에 기초하여, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정할 수 있다. 렌더링 장치(100)는 타일 비닝 결과에 기초하여, 제 1 영상 및 제 2 영상의 각 타일 상에서 적어도 하나의 드로우 커맨드가 수행되는 지 여부를 나타내는 비닝 정보를 획득할 수 있다. 렌더링 장치(100)는 비닝 정보에 기초하여, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정할 수 있다. 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 구체적인 실시 예는 이하 도 10에서 살펴보기로 한다.

도 10은 일 실시예에 따라, 렌더링 장치(100)가 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 방법을 나타낸다.

단계 s1010에서, 렌더링 장치(100)는 비닝 정보에 기초하여, 적어도 하나의 드로우 커맨드 각각의 식별정보를 포함하는 비트스트림을 제 1 영상 및 제 2 영상의 각 타일마다 생성할 수 있다. 즉, 제 1 영상 및 제 2 영상의 각 타일마다 생성되는 비트스트림은, 적어도 하나의 드로우 커맨드 각각의 식별정보를 통해 적어도 하나의 드로우 커맨드 각각이 각 타일 상에 수행되는지 여부를 나타낼 수 있다. 또한, 렌더링 장치(100)는 일 실시예에 따라, 획득된 비닝 정보에 기초하여, 드로우 수준(level)에서 비트스트림을 생성하는 것이 아니라, 적어도 하나의 드로우 커맨드에 포함된 프리미티브 또는 버텍스 각각의 식별정보를 포함하는 비트스트림(bitstream)을 제 1 영상 및 제 2 영상의 각 타일마다 생성할 수 있다. 즉, 제 1 영상 및 제 2 영상의 각 타일마다 생성되는 비트스트림은, 적어도 하나의 프리미티브 또는 버텍스 각각의 식별정보를 통해, 적어도 하나의 프리미티브 또는 버텍스 각각이 각 타일 상에서 표현되는 지 여부를 나타낼 수 있다.

단계 s1020에서, 렌더링 장치(100)는 제 1 영상의 타일에 대한 비트스트림과 제 2 영상의 복수의 타일들 각각에 대한 비트스트림의 비교를 통해, 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정할 수 있다. 또한, 렌더링 장치(100)는 일 실시예에 따라, XOR 연산을 이용하여, 소정의 타일에 대한 비트스트림과 가장 유사한 비트스트림을 찾을 수 있다. 또한, 렌더링 장치(100)는 제 1 영상의 타일에 대한 비트스트림과, 제 1 영상 내에서의 타일의 위치와 소정의 범위로 대응되는 제 2 영상의 타일들 각각에 대한 비트스트림들을 비교하여, 제 2 영상의 타일들 중에서 제 1 영상의 타일과 유사도가 가장 높은 타일을 결정할 수 있다.

도 8의 단계 s830에서, 렌더링 장치(100)는 서로 유사한 제 1 영상의 타일과 가장 유사한 제 2 영상의 타일에 기초하여, 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정할 수 있다. 또한, 렌더링 장치(100)는 가장 높은 유사도를 갖는 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에 의해 동시 또는 순차적으로 타일 렌더링되도록 타일 렌더링 순서를 결정할 수 있다.

단계 s840에서, 렌더링 장치(100)는 결정된 타일 렌더링 순서에 따라, 제 1 영상 및 제 2 영상의 각 타일에 대해 타일 렌더링을 수행할 수 있다.

도 11은 다른 실시예에 따라, 렌더링 장치(100)가 타일 렌더링을 수행하는 방법을 설명하기 위한 도면이다.

도 11에 도시된 방법은, 도 1의 렌더링 장치(100)의 각 구성요소에 의해 수행될 수 있고, 중복되는 설명에 대해서는 생략한다. 또한, 도 11에 도시된 방법은, 도 8에서 개시하는 방법을 포함할 수 있다.

단계 s1110에서, 렌더링 장치(100)는 현재 시점의 제 1 영상 및 제 2 영상에 대해 타일 렌더링을 수행할 수 있다. 렌더링 장치(100)는 타일 렌더링을 수행하여, 제 1 영상 또는 제 2 영상의 각 타일에 대한 깊이 정보를 생성할 수 있다. 각 타일에 대한 깊이 정보는 각 타일 내의 픽셀들의 깊이값들을 나타낼 수 있다.

단계 s1120에서, 렌더링 장치(100)는 제 1 영상 내의 깊이 정보에 기초하여, 제 1 영상의 타일과 대응되는 제 2 영상의 타일을 결정할 수 있다. 렌더링 장치(100)는 일 실시예에 따라, 제 1 영상 내의 깊이 정보에 기초하여, 제 1 영상의 각 타일마다 대표 깊이값을 결정할 수 있다. 예를 들어, 렌더링 장치(100)는 제 1 영상의 각 타일에 포함된 깊이값들 중에서 빈도가 가장 높은 깊이값을 각 타일의 대표 깊이값으로 결정할 수 있다. 렌더링 장치(100)는 결정된 대표 깊이값에 기초하여, 제 1 영상의 타일과 대응되는 제 2 영상의 타일을 결정할 수 있다.

단계 s1130에서, 렌더링 장치(100)는 결정된 제 1 영상의 타일과 제 2 영상의 타일에 기초하여, 현재 시점에 이은 다음 시점의 타일 렌더링 순서를 결정할 수 있다. 즉, 렌더링 장치(100)는 현재 시점의 제 1 영상 및 제 2 영상에 대한 타일 렌더링의 결과에 따라 획득되는 깊이 정보에 기초하여, 제 1 영상의 타일과 대응되는 제 2 영상의 타일을 결정할 수 있고, 결정된 제 1 영상의 타일 및 제 2 영상의 타일에 기초하여, 다음 시점의 타일 렌더링 순서를 결정할 수 있다.

단계 s1140에서, 렌더링 장치(100)는 결정된 타일 렌더링 순서에 따라, 다음 시점의 제 1 영상 및 제 2 영상에 대해 타일 렌더링을 수행할 수 있다.

상기 살펴 본 실시 예들에 따른 장치는 프로세서, 프로그램 데이터를 저장하고 실행하는 메모리, 디스크 드라이브와 같은 영구 저장부(permanent storage), 외부 장치와 통신하는 통신 포트, 터치 패널, 키(key), 버튼 등과 같은 사용자 인터페이스 장치 등을 포함할 수 있다. 소프트웨어 모듈 또는 알고리즘으로 구현되는 방법들은 상기 프로세서상에서 실행 가능한 컴퓨터가 읽을 수 있는 코드들 또는 프로그램 명령들로서 컴퓨터가 읽을 수 있는 기록 매체 상에 저장될 수 있다. 여기서 컴퓨터가 읽을 수 있는 기록 매체로 마그네틱 저장 매체(예컨대, ROM(read-only memory), RAM(random-access memory), 플로피 디스크, 하드 디스크 등) 및 광학적 판독 매체(예컨대, 시디롬(CD-ROM), 디브이디(DVD: Digital Versatile Disc)) 등이 있다. 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템들에 분산되어, 분산 방식으로 컴퓨터가 판독 가능한 코드가 저장되고 실행될 수 있다. 매체는 컴퓨터에 의해 판독가능하며, 메모리에 저장되고, 프로세서에서 실행될 수 있다.

본 실시 예는 기능적인 블록 구성들 및 다양한 처리 단계들로 나타내어질 수 있다. 이러한 기능 블록들은 특정 기능들을 실행하는 다양한 개수의 하드웨어 또는/및 소프트웨어 구성들로 구현될 수 있다. 예를 들어, 실시 예는 하나 이상의 마이크로프로세서들의 제어 또는 다른 제어 장치들에 의해서 다양한 기능들을 실행할 수 있는, 메모리, 프로세싱, 로직(logic), 룩 업 테이블(look-up table) 등과 같은 직접 회로 구성들을 채용할 수 있다. 구성 요소들이 소프트웨어 프로그래밍 또는 소프트웨어 요소들로 실행될 수 있는 것과 유사하게, 본 실시 예는 데이터 구조, 프로세스들, 루틴들 또는 다른 프로그래밍 구성들의 조합으로 구현되는 다양한 알고리즘을 포함하여, C, C++, 자바(Java), 어셈블러(assembler) 등과 같은 프로그래밍 또는 스크립팅 언어로 구현될 수 있다. 기능적인 측면들은 하나 이상의 프로세서들에서 실행되는 알고리즘으로 구현될 수 있다. 또한, 본 실시 예는 전자적인 환경 설정, 신호 처리, 및/또는 데이터 처리 등을 위하여 종래 기술을 채용할 수 있다. “매커니즘”, “요소”, “수단”, “구성”과 같은 용어는 넓게 사용될 수 있으며, 기계적이고 물리적인 구성들로서 한정되는 것은 아니다. 상기 용어는 프로세서 등과 연계하여 소프트웨어의 일련의 처리들(routines)의 의미를 포함할 수 있다.

본 실시 예에서 설명하는 특정 실행들은 예시들로서, 어떠한 방법으로도 기술적 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다.

본 명세서(특히 특허청구범위에서)에서 “상기”의 용어 및 이와 유사한 지시 용어의 사용은 단수 및 복수 모두에 해당하는 것일 수 있다. 또한, 범위(range)를 기재한 경우 상기 범위에 속하는 개별적인 값을 포함하는 것으로서(이에 반하는 기재가 없다면), 상세한 설명에 상기 범위를 구성하는 각 개별적인 값을 기재한 것과 같다. 마지막으로, 방법을 구성하는 단계들에 대하여 명백하게 순서를 기재하거나 반하는 기재가 없다면, 상기 단계들은 적당한 순서로 행해질 수 있다. 반드시 상기 단계들의 기재 순서에 한정되는 것은 아니다. 모든 예들 또는 예시적인 용어(예들 들어, 등등)의 사용은 단순히 기술적 사상을 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 범위가 한정되는 것은 아니다. 또한, 당업자는 다양한 수정, 조합 및 변경이 부가된 특허청구범위 또는 그 균등물의 범주 내에서 설계 조건 및 팩터에 따라 구성될 수 있음을 알 수 있다.

Claims (17)

1. 양안 시차(binocular disparity)를 갖는 제 1 영상 및 제 2 영상에 대한 타일 기반 렌더링(tile based rendering)을 수행하는 방법에 있어서,
   상기 제 1 영상 및 제 2 영상에 대한 드로우 커맨드(draw command)에 기초하여, 상기 제 1 영상 및 제 2 영상에 대한 타일 비닝(tile binning)을 수행하는 단계;
   상기 타일 비닝의 결과에 기초하여, 상기 제 1 영상의 타일과 유사도(similarity)가 가장 높은 상기 제 2 영상의 타일을 결정하는 단계;
   상기 결정에 기초하여, 상기 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하는 단계; 및
   상기 결정된 순서에 따라, 타일 렌더링을 수행하는 단계;를 포함하는, 방법.
2. 제 1 항에 있어서,
   상기 타일 비닝을 수행하는 단계는,
   상기 드로우 커맨드를 수신하는 단계;
   상기 드로우 커맨드를 배치(batch)들로 나누어, 상기 배치들을 복수의 그래픽스 프로세서들에 할당하는 단계; 및
   상기 배치들 중 제 1 배치를 상기 복수의 그래픽스 프로세서들 중 제 1 그래픽스 프로세서에 할당하는 경우, 상기 제 1 배치 및 상기 제 1 배치와 대응되는 상태 정보(state information)에 기초하여, 상기 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝을 수행하는 단계;를 더 포함하는, 방법.
3. 제 1 항에 있어서,
   상기 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계는,
   상기 타일 비닝의 결과에 기초하여, 상기 제 1 영상 및 제 2 영상의 각 타일 상에서 상기 드로우 커맨드가 수행되는 지 여부를 나타내는 비닝 정보를 획득하는 단계; 및
   상기 비닝 정보에 기초하여, 상기 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계를 포함하는, 방법.
4. 제 1 항에 있어서,
   상기 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계는,
   상기 타일 비닝의 결과에 기초하여, 상기 드로우 커맨드의 식별정보를 포함하는 비트스트림(bitstream)을 상기 제 1 영상 및 제 2 영상의 각 타일마다 생성하는 단계; 및
   상기 제 1 영상의 타일에 대한 비트스트림과 상기 제 2 영상의 복수의 타일들 각각에 대한 비트스트림들의 비교를 통해, 상기 제 1 영상의 타일과 유사도가 가장 높은 상기 제 2 영상의 타일을 결정하는 단계;를 더 포함하는, 방법.
5. 제 4 항에 있어서,
   상기 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는 단계는,
   상기 제 1 영상의 제 1 타일에 대한 비트스트림과, 상기 제 1 타일과 소정의 범위로 대응되는 상기 제 2 영상의 타일들 각각에 대한 비트스트림을 비교하여, 상기 제 2 영상의 타일들 중에서 상기 제 1 타일과 유사도가 가장 높은 타일을 결정하는, 방법.
6. 제 1 항에 있어서,
   상기 타일 렌더링 순서를 결정하는 단계는,
   상기 결정된 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에 의해 순차적으로 타일 렌더링되도록 상기 타일 렌더링 순서를 결정하는, 방법.
7. 제 1 항에 있어서,
   상기 드로우 커맨드는,
   상기 제 1 영상 및 제 2 영상 각각에 대한 상태 정보를 포함하는, 방법.
8. 제 1 항에 있어서,
   현재 시점의 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링을 수행하는 단계;
   상기 현재 시점의 제 1 영상의 타일이 갖는 깊이값들 중에서 대표 깊이값을 결정하고, 상기 대표 깊이값에 기초하여, 상기 현재 시점의 제 1 영상의 타일과 대응되는 상기 현재 시점의 제 2 영상의 타일을 결정하는 단계;
   상기 결정된 현재 시점의 제 1 영상의 타일 및 제 2 영상의 타일에 기초하여, 다음 시점의 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하는 단계; 및
   상기 결정된 순서에 따라, 상기 다음 시점에 대한 타일 렌더링을 수행하는 단계;를 더 포함하는, 방법.
9. 양안 시차(binocular disparity)를 갖는 제 1 영상 및 제 2 영상에 대한 타일 기반 렌더링(tile based rendering)을 수행하는 장치에 있어서,
   상기 제 1 영상 및 제 2 영상에 대한 드로우 커맨드(draw command)에 기초하여, 상기 제 1 영상 및 제 2 영상에 대한 타일 비닝(tile binning)을 수행하는 복수의 그래픽스 프로세서들(graphics processors);
   상기 타일 비닝의 결과에 기초하여, 상기 제 1 영상의 타일과 유사도(similarity)가 가장 높은 상기 제 2 영상의 타일을 결정하는 타일 코렐레이터(tile correlator); 및
   상기 결정에 기초하여, 상기 제 1 영상 및 상기 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하는 스케줄러;를 포함하고,
   상기 복수의 그래픽스 프로세서는,
   상기 결정된 순서에 따라, 타일 렌더링을 수행하는, 장치.
10. 제 9 항에 있어서,
    상기 스케줄러는,
    상기 드로우 커맨드를 수신하고, 상기 드로우 커맨드를 배치(batch)들로 나누어, 상기 배치들을 상기 복수의 그래픽스 프로세서들에 할당하고,
    상기 스케줄러가 상기 배치들 중 제 1 배치를 상기 복수의 그래픽스 프로세서들 중 제 1 그래픽스 프로세서에 할당하는 경우,
    상기 제 1 그래픽스 프로세서는,
    상기 제 1 배치 및 상기 제 1 배치와 대응되는 상태 정보(state information)에 기초하여, 상기 제 1 영상 및 제 2 영상 각각에 대한 타일 비닝을 수행하는, 장치.
11. 제 9 항에 있어서,
    상기 타일 코렐레이터는,
    상기 타일 비닝의 결과에 기초하여, 상기 제 1 영상 및 제 2 영상의 각 타일 상에서 상기 드로우 커맨드가 수행되는 지 여부를 나타내는 비닝 정보를 획득하고, 상기 비닝 정보에 기초하여, 상기 제 1 영상의 타일과 유사도가 가장 높은 제 2 영상의 타일을 결정하는, 장치.
12. 제 9 항에 있어서,
    상기 타일 코렐레이터는,
    상기 타일 비닝의 결과에 기초하여, 상기 드로우 커맨드의 식별정보를 포함하는 비트스트림(bitstream)을 상기 제 1 영상 및 제 2 영상의 각 타일마다 생성하고,
    상기 제 1 영상의 타일에 대한 비트스트림과 상기 제 2 영상의 복수의 타일들 각각에 대한 비트스트림의 비교를 통해, 상기 제 1 영상의 타일과 유사도가 가장 높은 상기 제 2 영상의 타일을 결정하는, 장치.
13. 제 12 항에 있어서,
    상기 타일 코렐레이터는,
    상기 제 1 영상의 제 1 타일의 비트스트림과, 상기 제 1 타일과 소정의 범위로 대응되는 상기 제 2 영상의 타일들 각각의 비트스트림을 비교하여, 상기 제 2 영상의 타일들 중에서 상기 제 1 타일과 유사도가 가장 높은 타일을 결정하는, 장치.
14. 제 9 항에 있어서,
    상기 스케줄러는,
    상기 결정된 제 1 영상의 타일과 제 2 영상의 타일이 동일한 그래픽스 프로세서에 의해 순차적으로 타일 렌더링되도록 상기 타일 렌더링 순서를 결정하는, 장치.
15. 제 9 항에 있어서,
    상기 복수의 그래픽스 프로세서들은,
    현재 시점의 제 1 영상 및 제 2 영상 의 각 타일에 대한 타일 렌더링을 수행하고,
    상기 타일 코렐레이터는,
    상기 현재 시점의 제 1 영상의 타일이 갖는 깊이값들 중에서 대표 깊이값을 결정하고, 상기 대표 깊이값에 기초하여, 상기 현재 시점의 제 1 영상의 타일과 대응되는 상기 현재 시점의 제 2 영상의 타일을 결정하고,
    상기 스케줄러는,
    상기 결정된 현재 시점의 제 1 영상의 타일 및 제 2 영상의 타일에 기초하여, 다음 시점의 제 1 영상 및 제 2 영상의 각 타일에 대한 타일 렌더링 순서를 결정하고,
    상기 복수의 그래픽스 프로세서는,
    상기 결정된 순서에 따라, 상기 다음 시점에 대한 타일 렌더링을 수행하는, 장치.
16. 제 9 항에 있어서,
    상기 드로우 커맨드는,
    상기 제 1 영상 및 제 2 영상 각각에 대한 상태 정보를 포함하는, 장치.
17. 상기 제 1 항 내지 제 8 항 중에 어느 한 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체.

Images