KR102391680B1 - 프레임 간 변화량을 이용한 가변 해상도 처리 장치 및 그 제어 방법 - Google Patents

Abstract

본 발명은 가변 해상도 처리 장치 및 그 제어 방법으로, 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득하고, 획득된 프레임 간 변화량을 분석하고, 분석 결과를 기초로 해상도를 결정하고, 결정된 해상도의 프레임과 원본 프레임의 비율을 결정하고, 비율 결정 결과를 기초로 프레임을 생성하고, 생성된 프레임의 화질을 조정하는 것을 그 요지로 한다.

Description

프레임 간 변화량을 이용한 가변 해상도 처리 장치 및 그 제어 방법 {Head mounted display and, the controlling method thereof}

본 발명은 가변 해상도 처리 장치 및 그 제어 방법에 관한 것으로서, 프레임 간 변화량을 이용한 가변 해상도 처리 장치 및 그 제어 방법에 관한 것이다.

최근 IT 기술의 발달로 그래픽 프로세스 유닛(Graphic process unit, GPU)는 일상 생활에서 큰 이슈로 떠오르고 있다. 특히, 그래픽 프로세스 유닛은 그래픽 처리를 위한 고성능 처리 장치로 컴퓨터, 테블릿 PC, 모바일 디바이스, 다양한 프로그램, 애플리케이션과 연계해서, 컴퓨터 데이터를 처리하는 도구로서 활용되고 있다.

GPU는 그 영화, 드라마와 같은 동영상 파일 재생, 게임, UI 등 그래픽스 컨텐츠 생성에 사용된다. GPU가 고해상도의 프레임을 생성하면, GPU 의 작업량이 증가함에 따라 GPU 전력 소모도 증가하므로 각종 디바이스의 배터리 사용 시간에 직접적인 영향을 준다.

그런데, 종래에는 GPU 자체의 성능 때문에, 고해상도 프레임을 생성하면 기준 프레임 레이트 미만으로 재생하게 되어 부자연스럽고 어색한 화면을 구현하고 전력 소모량이 커서 배터리가 빨리 닳게 되므로 사용자가 화면을 볼 때 불편함을 느끼는 문제점이 있었다.

본 발명의 일 실시 예는, GPU의 프레임 레이트는 그대로 유지하고, 전체 프레임 중 일부 프레임의 해상도를 변경하여 전력 소모를 감소시키고 사용자가 원본과 차이를 거의 발견할 수 없는 화질을 구현할 수 있는 가변 해상도 처리 장치 및 그 제어 방법을 제공하는 것을 목적으로 한다.

본 발명의 다른 일 실시 예는, 고성능 GPU를 요구하는 애플리케이션에서 GPU 하드웨어가 해당 애플리케이션을 만족시키지 못할 경우, 해상도를 낮추고 프레임 레이트를 증가시켜 사용자가 원본과 차이를 거의 발견할 수 없는 화질을 구현할 수 있는 가변 해상도 처리 장치 및 그 제어 방법을 제공하는 것을 목적으로 한다.

본 발명의 일 실시 예에 따른, 가변 해상도 처리 장치의 제어 방법은 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득하는 단계; 획득된 상기 프레임 간 변화량을 분석하는 단계; 분석 결과를 기초로 해상도를 결정하는 단계; 결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하는 단계; 비율 결정 결과를 기초로 프레임을 생성하는 단계; 및 생성된 상기 프레임의 화질을 조정하는 단계를 포함한다.

본 발명의 다른 실시 예에 따른, 가변 해상도 처리 장치는 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득하고, 획득된 상기 프레임 간 변화량을 분석하는 프레임간 변화량 분석부; 분석 결과를 기초로 해상도를 결정하고, 결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하고, 비율 결정 결과를 기초로 프레임을 생성하는 해상도 결정부; 및 생성된 상기 프레임의 화질을 조정하는 화질 조정부를 포함한다.

본 발명의 일 실시 예에 따르면, GPU의 프레임 레이트는 그대로 유지하고, 전체 프레임 중 일부 프레임의 해상도를 변경하여 전력 소모를 감소시키고 사용자가 원본과 차이를 거의 발견할 수 없는 화질을 구현할 수 있어서 사용자 편의성을 향상 시킬 수 있다.

본 발명의 다른 일 실시 예에 따르면, 고성능 GPU를 요구하는 애플리케이션에서 GPU 하드웨어가 해당 애플리케이션을 만족시키지 못할 경우, 해상도를 낮추고 프레임 레이트를 증가시켜 사용자가 원본과 차이를 거의 발견할 수 없는 화질을 구현할 수 있어서 사용자 편의성을 향상 시킬 수 있다.

도 1은 본 발명의 일 실시 예에 따른 가변 해상도 처리 장치의 구성도이다.
도 2는 본 발명의 일 실시 예에 따른 가변 해상도 처리 장치의 제어 방법의 순서도이다.
도 3은 본 발명의 일 실시 예에 따른 Open GL ES에서 본 발명의 위치를 도시한 도면이다.
도 4는 본 발명의 일 실시 예에 따른 가변 해상도 처리 장치를 이용하여 전력 절감 효과가 나타난 것을 도시한 도면이다.
도 5는 본 발명의 일 실시 예에 따라 가변 해상도 처리 장치를 이용하여 프레임 레이트를 증가시켜 자연스러운 화면을 구현하는 것을 도시한 도면이다.
도 6은 본 발명의 일 실시 예에 따라 모델 뷰 프로젝션(MVP) 정보를 이용하여 변환하는 프로세스를 도시한 도면이다.
도 7은 본 발명의 일 실시 예에 따라 프레임 간 변화량 분석부, 해상도 결정부를 실행할 때 알고리즘을 도시한 도면이다.
도 8은 본 발명의 일 실시 예에 따른 규준화 정도에 따라 저해상도 프레임 비율을 나타낸 그래프를 도면이다.
도 9는 본 발명의 일 실시 예에 따른 해상도가 480P인 경우 규준화 정도에 따라 저해상도 프레임 비율을 나타낸 그래프를 도면이다.
도 10은 본 발명의 일 실시 예에 따른 해상도가 720P인 경우 규준화 정도에 따라 저해상도 프레임 비율을 나타낸 그래프를 도면이다.
도 11은 본 발명의 일 실시 예에 따라 본원발명에서 화질을 조정하는 프로세스를 도시한 도면이다.
도 12는 본 발명의 일 실시 예에 따라 화질 조정 프로세스를 실행한 것을 도시한 도면이다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.

또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

제 1, 제 2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.

도 1은 본 발명의 일 실시 예에 따른 가변 해상도 처리 장치의 구성도이다.

도 1에 도시한 바와 같이, 가변 해상도 처리 장치(100)는 프레임 간 변화량 분석부(110), 해상도 결정부(120), 화질 조정부(130)를 포함한다.

프레임간 변화량 분석부(110)는 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득하고, 획득된 프레임 간 변화량을 분석한다.

프레임 간 변화량 분석부(110)는 현재 프레임에 포함된 적어도 하나의 오브젝트의 아이디를 추출 또는 생성하고, 추출된 또는 생성된 아이디를 기초로 적어도 하나의 오브젝트 중 대표 오브젝트를 특정하고, 현재 프레임과 이전 프레임간 대표 오브젝트의 MVP 차이를 구하고, MVP 차이를 기초로 대표 오브젝트의 대표 MVP를 설정하고, 설정된 대표 MVP를 기초로 한 규준화(Normalization)를 이용하여 프레임 간 변화량을 분석한다.

프레임 간 변화량 분석부(110)는 적어도 하나의 오브젝트 중 화면에서 이동 거리가 가장 큰 오브젝트를 대표 오브젝트로 특정한다.

프레임 간 변화량 분석부(110)는 프레임 간의 MVP 차이가 가장 큰 값을 대표 MVP로 설정하며, 대표 MVP는 이동거리가 가장 큰 오브젝트의 MVP가 된다.

해상도 결정부(120)는 분석 결과를 기초로 해상도를 결정하고, 결정된 해상도의 프레임과 원본 프레임의 비율을 결정하고, 비율 결정 결과를 기초로 프레임을 생성한다.

해상도 결정부(120)는 전력 및 피크 신호 대 잡음비(PSNR) 중 적어도 하나를 고려하여 결정된 해상도의 프레임과 원본 프레임의 비율을 결정한다.

해상도 결정부(120)는 사용자가 인지할 수 있는 화질 열화의 차이를 기준으로 PSNR 또는 MSE를 선택하고, 저해상도의 프레임과 원본 프레임의 비율을 결정한다.

이에 대하여 상세한 설명은 도 8에서 후술한다.

화질 조정부(130)는 생성된 프레임의 화질을 조정한다.

구체적으로, 화질 조정부(130)는 텍스터 모드, 안티 앨리어싱 모드 및 픽셀 프리시전 모드 중 적어도 하나를 조절하여 프레임의 화질을 조정한다.

이에 대하여 상세한 설명은 도 9에서 후술한다.

도 2는 본 발명의 일 실시 예에 따른 가변 해상도 장치의 제어 방법의 순서도이다.

도 2에 도시한 바와 같이, 먼저, 프레임간 변화량 분석부(110)는 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득한다(S210).

프레임간 변화량 분석부(110)는 획득된 프레임 간 변화량을 분석한다(S220).

구체적으로, 프레임 간 변화량 분석부(110)는 현재 프레임에 포함된 적어도 하나의 오브젝트의 아이디를 생성하고, 생성된 아이디를 기초로 적어도 하나의 오브젝트 중 대표 오브젝트를 특정한다.

예를 들어, 프레임 간 변화량 분석부(110)는 현재 프레임에 3개의 오브젝트가 잇는 경우, 제 1 오브젝트, 제 2 오브젝트, 제 3 오브젝트와 같이 각각의 오브젝트의 아이디를 생성한다.

프레임 간 변화량 분석부(110)는 적어도 하나의 오브젝트 중 화면에서 이동 거리가 가장 큰 오브젝트를 대표 오브젝트로 특정한다.

예를 들어, 제 1 오브젝트는 화면의 대각선을 기준으로 화면에서 이동 거리가 5 cm 이고, 제 2 오브젝트는 화면에서 이동 거리가 10 cm 이고, 제 3 오브젝트는 화면에서 이동 거리가 15 cm 인 경우, 프레임 간 변화량 분석부(110)는 제 1 오브젝트, 제 2 오브젝트, 제 3 오브젝트 중 화면에서 이동 거리가 가장 큰 제 3 오브젝트를 대표 오브젝트로 특정한다.

여기서, 화면의 대각선을 기준으로 하는 것은 일 실시 예에 불과하며, 화면의 가로 길이, 화면의 세로 길이 등 다양한 요소를 기준으로 할 수 있다.

프레임 간 변화량 분석부(110)는 현재 프레임과 이전 프레임간 대표 오브젝트의 MVP 차이를 구하고, MVP 차이를 기초로 대표 오브젝트의 대표 MVP를 설정한다.

구체적으로, 프레임 간 변화량 분석부(110)는 프레임 간의 MVP 차이가 가장 큰 값을 대표 MVP로 설정한다.

예를 들어, 프레임 간 변화량 분석부(110)는 현재 프레임과 이전 프레임간 대표 오브젝트인 제 3 오브젝트의 MVP 차이를 구하고, 이를 기초로 제 3 오브젝트의 대표 MVP를 설정한다.

제 1 MVP 차이가 1이고, 제 2 MVP 차이가 2이고, 제 3 MVP 차이가 3 인 경우, 프레임 간 변화량 분석부(110)는 프레임 간의 MVP 차이가 가장 큰 값인 제 3 MVP 차이를 대표 MVP로 설정한다. 여기서, MVP 차이 값은 상대적인 값으로 단위는 없다.

여기서, 프레임 간 변화량 분석부(110)는 대표 오브젝트의 방향성을 고려하지 않고 움직임만을 고려하여 대표 오브젝트의 MVP 차이를 구한다.

종래기술은 모션 벡터를 구하여 모션 보상 인터폴레이션을 통하여 매우 복잡한 추가적인 연산을 이용하여 프레임 간의 오브젝트의 변화량 및 이동 방향성을 예측하였는데, 오브젝트의 방향성을 고려함으로써 많은 연산량을 필요하였다.

본 발명은 대표 오브젝트의 방향성을 고려하지 않고 움직임만을 고려하므로 연산량을 획기적으로 줄일 수 있는 장점이 있다.

프레임 간 변화량 분석부(110)는 설정된 대표 MVP를 기초로 한 규준화(Normalization)를 이용하여 프레임 간 변화량을 분석한다.

이에 대한 상세한 설명은 도 8에서 후술한다.

해상도 결정부(120)는 분석 결과를 기초로 해상도를 결정한다(S230).

구체적으로, 해상도 결정부(120)는 전력 및 피크 신호 대 잡음비(PSNR) 중 적어도 하나를 고려하여 결정된 해상도의 프레임과 원본 프레임의 비율을 결정한다.

해상도 결정부(120)는 결정된 해상도의 프레임과 원본 프레임의 비율을 결정한다(S240).

해상도 결정부(120)는 비율 결정 결과를 기초로 프레임을 생성한다(S250).

화질 조정부(130)는 생성된 프레임의 화질을 조정한다.

구체적으로, 화질 조정부(130)는 텍스터 모드, 안티 앨리어싱 모드 및 픽셀 프리시전 모드 중 적어도 하나를 조절하여 프레임의 화질을 조정한다.

화질 조정부(130)는 조정된 프레임을 스케일한다. 화질 조정부(130)는 GPU에 의해 렌더링된 저해상도 프레임을 디스플레이 하드웨어 또는 2차원 그래픽 하드웨어 스케일러를 이용하여 업스케일링한다.

도 3은 본 발명의 일 실시 예에 따른 Open GL ES에서 본 발명의 위치를 도시한 도면이다.

Open GL ES(Embedded device를 위한 Open GL)는 크로노스 그룹이 정의한 3차원 컴퓨터 그래픽스 API인 OpenGL의 서브셋으로 모바일 디바이스 등과 같은 임베디드 디바이스를 위한 API이다.

도 3에 도시한 바와 같이, OpenGL ES에서는 사용자 공간, 커널 공간, 하드웨어 공간이 있는데, 본원발명은 사용자 공간에 위치한다.

예를 들어, Open GL ES 애플리케이션을 실행하면, 전달되는 프레임을 프레임 간 변화량 분석부(110)가 획득하고, 이를 해상도 결정부(120)를 전달하며, 해상도 결정부(120)는 화질 조정부(130)로 프레임을 전달하고, 화질 조정부(130)는 커널 공간의 그래픽 드라이버로 프레임을 전달한다.

도 4는 본 발명의 일 실시 예에 따른 가변 해상도 처리 장치를 이용하여 전력 절감 효과가 나타난 것을 도시한 도면이다.

도 4에 도시한 바와 같이, 프레임은 3개로 분류될 수 있다. 구체적으로 프레임은 원본 프레임(402), 저해상도 프레임(404), 저해상도 프레임을 스케일링한 프레임(406)으로 분류할 수 있고, 실제로 화면에 디스플레이되는 프레임은 원본 프레임(402)과 스케일링한 프레임(406)이 된다.

여기서, 프레임은 GPU가 렌더링하는 풀 스크린 단위의 최종 이미지를 말한다. Fps는 Frame per second로 1초당 GPU가 처리하는 프레임의 수를 말한다.

도 410과 같이 전력 절감 모드를 하이로 실행시킨 경우, 모두 저해상도 프레임을 스케일링한 프레임(406)을 화면에 디스플레이하므로, GPU 작업량은 44%가 된다.

도 420과 같이 전력 절감 모드를 로우로 실행시킨 경우, 원본 프레임(402)와 저해상도 프레임을 스케일링한 프레임(406)을 번갈아 가면서 화면에 디스플레이하므로, GPU 작업량은 72%가 된다.

도 430과 같이 전력 절감 모드를 실행시키지 않는 경우, 모두 원본 프레임(402)을 화면에 디스플레이하므로, GPU 작업량은 100%가 된다.

따라서, 전력 절감 모드를 하이로 실행시킨 경우(410)에는 GPU 작업량이 44%가 되어 전력을 절감할 수 있으나 화질이 감소하고, 본원발명과 같이 전력 절감 모드를 로우로 실행시킨 경우(420)에는 GPU 작업량이 72%가 되어 전력을 절감할 수 있고, 원본에 비하여 거의 차이를 느낄 수 없는 화질을 제공할 수 있다.

여기서, GPU 작업량의 수치는 예시에 불과하고, 하드웨어 자체의 성능, 프레임의 해상도에 따라 달라질 수 있다.

도 5는 본 발명의 일 실시 예에 따라 가변 해상도 처리 장치를 이용하여 프레임 레이트를 증가시켜 자연스러운 화면을 구현하는 것을 도시한 도면이다.

도 510과 같이 원본 프레임을 재생하는 경우, 프레임 레이트가 36 fps이고, GPU의 작업량이 100%가 된다. 이 경우 프레임 레이트가 60 fps 미만이므로, 화면 구현이 부자연스러울 수 있다.

구체적으로, V-sync는 수직 동기화로서 디스플레이 하드웨어의 리프레쉬 레이트에 맞추어 재생하도록 되어 있는 설정이다. 모바일 디바이스의 디스플레이 하드웨어에서, 현재 V-sync가 60 fps이다. 1초당 60번의 동기화가 발생하며, GPU가 만일 1/60초마다 발생하는 동기화 안에 프레임을 렌더링하지 못하면, 품질 서비스 관점에서 성능 저하가 발생할 수 있다.

도 520과 같이 원본 프레임과 저해상도 프레임을 스케일링한 프레임을 소정 비율로 혼합하여 재생하는 경우, 프레임 레이트가 60 fps이고, GPU의 작업량이 100%가 된다.

이 경우, 동일한 하드웨어가 원본 프레임을 프레임 레이트 60 fps로 재생하면, 전력 소모가 클 수 있고, 하드웨어 성능 부족으로 재생이 어려울 수 있다.

본원발명에 따르면, 원본 프레임 중 일부를 저해상도 프레임으로 변경함으로써, 동일한 전력으로 프레임 레이트를 36 fps에서 60 fps로 향상 시킬 수 있어, 하드웨어 성능이 부족하여도 화면 끊김이 발생하지 않고 사용자에게 원본에 비하여 거의 차이를 느낄 수 없는 화질을 제공할 수 있다.

또한, 고성능 GPU 하드웨어를 요구하는 애플리케이션의 경우, 원본 프레임 중 일부 프레임을 저해상도로 렌더링하고, 프레임 레이트 업 샘플링을 통하여 시각적 품질을 향상 시킬 수 있고, 이와 동시에 저해상도로 렌더링하고 스케일링할 때 GPU 파라미터 옵션의 조절을 통해서 품질 저하를 최소화시킬 수 있다.

도 6은 본 발명의 일 실시 예에 따라 모델 뷰 프로젝션(MVP) 정보를 이용하여 변환하는 프로세스를 도시한 도면이다.

먼저, 프로세스의 진행 과정은 다음과 같다. 모델링 변환 단계, 뷰 변환 단계, 프로젝션 변환 단계, 뷰 포트 변환 단계를 진행한다.

다음으로, 모델 뷰 프로젝션(Model view projection, MVP)의 매트릭스는 다음과 같다.

여기서, 모델 매트릭스(Model matrix)의 모델은 vertices 의 집합으로 정의된다. vertices의 X,Y,Z 좌표계는 오브젝트의 중심을 고려하여 정의된다. 즉, 만약 vertex가 (0,0,0)에 있다면, 이 좌표계는 오브젝트의 중심에 있게 된다. 모든 vertices 가 모델의 중심을 기준으로 정의되어 있는 Model space 에서 모든 vertices가 world의 중심을 기준으로 정의되는 World Space로 옮기기 위한 메트릭스를 의미한다.

매트릭스 연산은 3D 공간에서 Vertex로 polygon 을 생성할 수 있으며, 이러한 polygon 들을 통해 3D 공간에 Object 처럼 그려지게 된다. 이러한 polygon 들은 GPU 에서는 shader 에서 Vertex processing 통해 하기에서 정의한 매트릭스로 실제 디스플레이에 보여질 위치로 변환하는 과정이 필요하다.

모델링 변환 단계(Modeling Transformation, Model-view Matrix)는 모델 공간을 실제 공간으로 변환하는 것을 말한다. 여기서, 정점(x,y,z)은 원점을 기준으로 표현된 오브젝트의 좌표점이다.

뷰 변환 단계(View transformation)는 실제 공간을 카메라 공간으로 변환하는 것을 말한다.

뷰 변환 단계는 모델을 만들기 위해 사용한 기본 모델(raw model) 좌표계를 관측점(viewpoint)에서 보았을 때 위치(눈을 원점으로 간주)하는 좌표계로 변환한다. 이때 사용되는 행렬은 Model-view Matrix 이다. 즉, 첫 번째 변환에서는 원점을 기준으로 하는 객체 좌표계(기본 모델 좌표계)의 좌표점을 관측점(눈/카메라)을 원점으로 하는 실세계 좌표계의 한 점으로 변환한다.

뷰 매트릭스는, World Space로 옮겨진 모델은 다시 카메라 공간으로 이동해야 하는데, 카메라 공간에서 모든 vertices는 카메라를 기준으로 정의되며, 해당 변환을 위한 매트릭스를 말한다.

프로젝션 변환(Projection Transformation, Projection Matrix) 단계는 관측 볼륨에서(viewing volume)에서 벗어난 영역을 제거한다.

따라서 화면에서 볼 수 있는 물체만을 가지게 된다. 관측 볼륨은 관측자 시야에 들어오는 영역을 의미한다. 투영 변환에 의해서 정점이 앞에 있는지 뒤에 있는지 3차원에서의 위치가 정해지고 정점들을 정규화된 장치 좌표(normalized device coordinate)로 변환을 한다.

프로젝션 매트릭스는, 스크린에 오브젝트를 어디에 놓을지 결정할 때 x와 y 좌표 뿐만 아니라 z 값도 사용해야 한다. 더 큰 z 값을 가지는 vertex 가 다른 vertex들 보다 스크린의 중심에 오게 되듯이, 스크린에 오브젝트를 투영하기 위한 매트릭스를 말한다.

뷰포트 변환(Viewport transformation)은 3차원 물체를 보여줄 윈도의 좌표(2D 좌표계)로 변환(랜더링) 한다.

OpenGL은 3차원 상의 정점을 2차원 평면에 나타내기 위해 위와 같은 변환과정을 거친다. 이들 변환은 4x4 행렬로 되어 있으며 정점의 좌표에 이들 행렬을 곱함으로써 변환을 하게 된다.

MVP 매트릭스는 모델 매트릭스, 뷰 매트릭스, 프로젝션 매트릭스를 모두 합쳐서 생성된다.

도 7은 본 발명의 일 실시 예에 따라 프레임 간 변화량 분석부, 해상도 결정부를 실행할 때 알고리즘을 도시한 도면이다.

도 7에 도시한 바와 같이, 알고리즘에는 프레임 간 변화량 분석부(110)가 프레임 간 변화량을 구하는 제어 로직과, 해상도 결정부(120)가 해상도를 결정할 때의 판단 기준이 기재되어 있다.

도 8은 본 발명의 일 실시 예에 따른 규준화 정도에 따라 저해상도 프레임 비율을 나타낸 그래프를 도면이다.

도 8에 도시한 바와 같이, x축은 대표 MVP의 규준화 정도를 나타내고, y축은 원본 프레임과 저해상도 프레임 비율을 나타낸다.

여기서, x값이 0 인 것은 대표 오브젝트의 MVP 변화량이 없다는 것이다. 즉, 현재 프레임과 이전 프레임이 동일하다는 의미이다.

x값이 1인 것은 대표 오브젝트의 MVP 변화량이 최대인 것을 의미한다. 즉 현재 프레임의 대표 오브젝트가 완전히 변한 것으로, 현재 프레임과 이전 프레임이 완전히 상이한 것을 의미한다.

y값이 1인 것은 원본 프레임과 저해상도 프레임의 비율이 1 : 1을 의미하고, y값이 2인 것은 비율이 1 : 2 인 것을 의미하며, y 값이 3인 것은 비율이 1 : 3 인 것을 의미한다.

여기서, 원본 프레임의 화질은 FHD(1920 x 1080)이고, 저해상도 프레임의 화질은 HD(1280 x 720)가 된다.

피크 신호 대 잡음 비(Peak signal noise ratio, PSNR)는 프레임의 품질을 의미한다. PSNR의 크기 값이 클수록 원본 프레임에 유사하고, 전력을 많이 소모한다. PSNR의 크기 값이 작을수록 원본 프레임과 비유사하고, 전력을 적게 소모한다. 따라서, 원본 프레임과의 유사성과 전력 소모는 트레이드 오프 관계이다.

PSNR이 15 dB 인 경우, 사람이 육안으로 원본 프레임과 화질의 차이를 어느 정도 느끼는 정도이다. 전력 소모량이 가장 적다.

이 경우는 사용자가 여행지에서 게임을 하는 경우가 될 수 있다. 여행지에서는 전력 공급이 어려우므로, 저해상도의 프레임으로 화면을 구현하여 최소한의 전력을 소모하기 위함이다.

PSNR 이 30 dB인 경우, 사람이 육안으로 원본 프레임과 화질의 차이를 거의느끼지 못하는 정도이다. 전력 소모가 중간 정도이다.

PSNR이 50 dB 인 경우, 사람이 육안으로 원본 프레임과 화질의 차이를 느끼지 못하는 정도이다. 전력 소모가 가장 많다.

이 경우는 사용자가 사무실에서 게임을 하는 경우가 될 수 있다. 사무실에서는 전력 공급이 용이하므로, 전력 소모가 크더라도 고해상도의 프레임으로 화면을 구현하여 사용자는 보다 현실감 나는 게임을 즐길 수 있다.

PSRN 15 dB 인 경우, X = 0.17 인 경우, Y = 1 이 되고, X = 0.33 인 경우, Y = 2 가 된다. 여기서 X는 대표 오브젝트의 대표 MVP 변화량이다. Y는 원본 프레임과 저해상도 프레임의 비율이다.

즉, 0 < X < 0.17 인 경우, 원본 프레임과 저해상도 프레임의 비율이 1 : 1이고, 0.17 < X < 0.33 인 경우, 비율은 1 : 2가 되고, 0.33 < x < 0.50이면, 비율은 1 : 3 이 된다.

PSRN 30 dB 인 경우, X = 0.33 인 경우, Y = 1 이 되고, X = 0.67 인 경우, Y= 2 가 된다.

즉, 0 < X < 0.33 인 경우, 원본 프레임과 저해상도 프레임의 비율이 1 : 1이고, 0.33 < X < 0.67 인 경우, 비율은 1 : 2가 되고, 0.67 < x < 1.00이면, 비율은 1 : 3 이 된다.

PSRN 50 dB 인 경우, X = 0.50 인 경우, Y = 1 이 되고, X = 1.00 인 경우, Y= 2 가 된다.

즉, 0 < X < 0.50 인 경우, 원본 프레임과 저해상도 프레임의 비율이 1 : 1이고, 0.50 < X < 1.00 인 경우, 비율은 1 : 2이 된다.

도 9는 본 발명의 일 실시 예에 따른 저해상도가 480P인 경우 규준화 정도에 따라 저해상도 프레임 비율을 나타낸 그래프를 도면이다.

여기서, 원본 프레임의 해상도는 1080P이고, 해상도가 낮은 프레임의 해상도는 480P이다.

PSNR 20 dB 인 경우, 0 < x < 0. 25 이면 원본 프레임과 저해상도 프레임의 비율은 1 : 1이 되고, 0.25 < x < 0.41 이면, 비율은 1 : 2가 되고, 0.41 < x < 0.60이면, 비율은 1 : 3 이 된다. 여기서, PSNR 20 dB 은 평균 제곱 오차(Mean Squared Error, MSE) 650의 경우와 동일하다.

PSNR 30 dB 인 경우, 0 < x < 0. 25 이면 원본 프레임과 저해상도 프레임의 비율은 1 : 1이 되고, 0.25 < x < 0.41 이면, 비율은 1 : 2가 되고, 0.41 < x < 0.60이면, 비율은 1 : 3 이 된다. 여기서, PSNR 30 dB 은 MSE 65의 경우와 동일하다.

PSNR 40 dB 인 경우, 0 < x < 0. 60 이면 원본 프레임과 저해상도 프레임의 비율은 1 : 1이 되고, 0.60 < x < 1.00 이면, 비율은 1 : 2가 된다. 여기서, PSNR 40 dB 은 MSE 6.5의 경우와 동일하다.

도 10은 본 발명의 일 실시 예에 따른 저해상도가 720P인 경우 규준화 정도에 따라 저해상도 프레임 비율을 나타낸 그래프를 도면이다.

여기서, 원본 프레임의 해상도는 1080P이고, 해상도가 낮은 프레임의 해상도는 720P이다.

PSNR 20 dB 인 경우, 0 < x < 0.15 이면 원본 프레임과 저해상도 프레임의 비율은 1 : 1이 되고, 0.15 < x < 0.33 이면, 비율은 1 : 2가 되고, 0.33 < x < 0.50이면, 비율은 1 : 3 이 된다. 여기서, PSNR 20 dB 은 평균 제곱 오차(Mean Squared Error, MSE) 650의 경우와 동일하다.

PSNR 30 dB 인 경우, 0 < x < 0.33 이면 원본 프레임과 저해상도 프레임의 비율은 1 : 1이 되고, 0.33 < x < 0.68 이면, 비율은 1 : 2가 되고, 0.68 < x < 1.00이면, 비율은 1 : 3 이 된다. 여기서, PSNR 20 dB 은 MSE 65의 경우와 동일하다.

PSNR 40 dB 인 경우, 0 < x < 0.50 이면 원본 프레임과 저해상도 프레임의 비율은 1 : 1이 되고, 0.50 < x < 1.00 이면, 비율은 1 : 2가 된다. 여기서, PSNR 50 dB 은 MSE 6.5의 경우와 동일하다.

도 11은 본 발명의 일 실시 예에 따라 본원발명에서 화질을 조정하는 프로세스를 도시한 도면이다.

도 11에 도시한 바와 같이, 본원발명에는 종래기술과 달리, 저해상도 프레임의 화질을 조정하는 프로세스가 있다.

화질 조정부(130)는 텍스터 모드, 안티 앨리어싱 모드 및 픽셀 프리시전 모드 중 적어도 하나를 조절하여 프레임의 화질을 조정한다.

예를 들어, 텍스터 모드, 안티 앨리어싱 모드는 값이 높을수록 블러링 효과 및 픽셀 프리시전 모드는 값이 낮을수록 블러링 효과가 크게 된다.

화질 조정부(130)는 텍스터 모드(texture mode)의 값을 낮게 조절하여 블러링 효과를 감소시켜 프레임의 화질을 조정한다.

안티 앨리어싱 모드(anti-aliasing mode)의 경우 동일한 방법이 적용하고, 픽셀 프리시전 모드(pixel precision mode)의 경우 화질 조정부(130)는 픽셀 프리시전 모드의 값을 높게 조절하여 블러링 효과를 감소시킨다.

화질 조정부(130)는 추가적인 하드웨어 스케일러없이 2차원 그래픽스나 디스플레이 모듈에 내장되어 있는 하드웨어 스케일러를 이용하여 프레임을 스케일링한다. 여기서, 주로 사용되는 업-스케일링 알고리즘은 Bi-linear, Bi-cubic 알고리즘이다.

또한, 화질 조정부(130)는 저해상도의 프레임에 샤픈(sharpen)효과를 높이기 위하여 파라미터를 변경하는 프로세스를 추가하고 샤픈 효과가 적용된 프레임을 업-스케일링하여 블러링을 방지한다.

도 12는 본 발명의 일 실시 예에 따라 화질 조정 프로세스를 실행한 것을 도시한 도면이다.

프레임 A(1210)는 해상도가 1080P 인 원본 프레임이다.

프레임 B(1220)는 해상도가 480P 인 프레임을 단순히 bi-linear 업 스케일링을 이용하여 크기를 확대한 것이다. 본 발명의 기술적 특징은 해상도가 높은 원본 프레임들 사이에 해상도가 낮은 프레임을 확대한 프레임을 끼워 넣는 것이다.

따라서, 프레임 B(1220)는 해상도가 480P인 프레임을 확대한 것이므로, 프레임 B(1220)에는 블러링 효과가 발생한다.

프레임 C(1230)는 해상도가 480P인 프레임에 블러링 효과를 감소시키는 샤픈 렌더링 프로세스를 적용한 것이다. 해상도가 480P인 프레임에 샤픈 렌더링 프로세스를 적용하면 화질이 원본 프레임(1210)에 비하여 더욱 또렷하고 선명하다.

샤픈 렌더링 프로세스를 적용 시 텍스터 모드, 안티 앨리어싱 모드는 값이 높을수록 블러링 효과가 크게 된다.

예를 들어, 화질 조정부(130)는 샤픈 렌더링 프로세스를 적용시 텍스터 모드를 8에서 2로 조절하고, 안티 앨리어싱 모드를 8에서 2로 조절하여, 화질이 원본 프레임(1210)에 비하여 더욱 또렷하고 선명하게 된다.

여기서, 모드 값은 블러링 효과를 0에서 10 사이로 규준화한 값이고, 텍스터 모드가 0인 경우 블러링 효과가 최소가 되고, 텍스터 모드가 10인 경우 블러링 효과가 최대가 된다. 안티 앨리어싱 모드가 0인 경우 블러링 효과가 최소가 되고, 안티 앨리어싱 모드가 10인 경우 블러링 효과가 최대가 된다.

여기서, 텍스터 모드, 안티 앨리어싱 모드의 수치는 예시에 불과하고, 하드웨어의 사양, 컨텐트의 해상도에 따라 달라진다.

프레임 D(1240)는 프레임 C(1230)를 확대한 것이다. 프레임 D(1240)를 확대한 결과 원본 프레임인 프레임 A(1210)와 화질이 거의 동일함을 확인할 수 있다.

따라서, 본 발명에 따른 프레임 D(1240)는 단순히 저해상도의 프레임을 확대한 프레임 B(1220)보다 화질이 또렷하고 선명하며, 원본 프레임 A(1210)에 비해서도 화질이 크게 떨어지지 않는다.

본 발명의 일 실시 예에 따르면, GPU의 프레임 레이트는 그대로 유지하고, 일부 프레임의 해상도를 변경하여 전력 소모를 감소시키고 사용자가 원본과 차이를 거의 발견할 수 없는 화질을 구현할 수 있어서 사용자 편의성을 향상 시킬 수 있다.

본 발명의 다른 일 실시 예에 따르면, 고성능 GPU를 요구하는 애플리케이션에서 GPU 하드웨어가 해당 애플리케이션을 만족시키지 못할 경우, 해상도를 낮추고 프레임 레이트를 증가시켜 사용자가 원본과 차이를 거의 발견할 수 없는 화질을 구현할 수 있어서 사용자 편의성을 향상 시킬 수 있다.

이상의 설명은 본 발명의 기술적 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면, 본 발명의 본질적 특성을 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능하다. 따라서, 본 발명에 표현된 실시 예들은 본 발명의 기술적 사상을 한정하는 것이 아니라, 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 권리범위가 한정되는 것은 아니다. 본 발명의 보호범위는 아래의 특허청구범위에 의하여 해석되어야 하고, 그와 동등하거나, 균등한 범위 내에 있는 모든 기술적 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

100: 가변 해상도 처리 장치
110: 프레임 간 변화량 분석부
120: 해상도 결정부
130: 화질 조정부

Claims (15)

1. 적어도 하나의 오브젝트를 포함하는 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득하는 단계;
   획득된 상기 프레임 간 변화량을 분석하는 단계;
   분석 결과를 기초로 해상도를 결정하는 단계;
   결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하는 단계;
   비율 결정 결과를 기초로 프레임을 생성하는 단계; 및
   생성된 상기 프레임의 화질을 조정하는 단계;
   를 포함하고,
   상기 프레임 간 변화량을 모델뷰 프로젝션 정보를 이용하여 획득하는 단계는,
   상기 오브젝트에 대한 좌표계를 모델 뷰 매트릭스(model-view matrix)를 통해 기본 모델 좌표계에서 관측점 기준 좌표계로 변환하는 단계;
   관측점 기준 좌표계에서 카메라 기준 좌표계로 이동하는 단계;
   상기 카메라 기준 좌표계에 있어서, 관측 볼륨(viewing volume)에서 벗어난 영역을 제거하는 단계; 및
   상기 카메라 기준 좌표계를 윈도의 좌표계로 변환하는 단계;
   를 포함하는 가변 해상도 처리 장치의 제어 방법.
2. 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득하는 단계;
   획득된 상기 프레임 간 변화량을 분석하는 단계;
   분석 결과를 기초로 해상도를 결정하는 단계;
   결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하는 단계;
   비율 결정 결과를 기초로 프레임을 생성하는 단계; 및
   생성된 상기 프레임의 화질을 조정하는 단계;
   를 포함하고,
   상기 프레임 간 변화량을 분석하는 단계는
   현재 프레임에 포함된 적어도 하나의 오브젝트의 아이디를 생성하는 단계;
   생성된 상기 아이디를 기초로 적어도 하나의 오브젝트 중 대표 오브젝트를 특정하는 단계;
   상기 현재 프레임과 이전 프레임간 상기 대표 오브젝트의 MVP 차이를 구하는 단계;
   상기 MVP 차이를 기초로 상기 대표 오브젝트의 대표 MVP를 설정하는 단계; 및
   설정된 상기 대표 MVP를 기초로 한 규준화(Normalization)를 이용하여 프레임 간 변화량을 분석하는 단계를 포함하는 것
   인 가변 해상도 처리 장치의 제어 방법.
3. 제 2 항에 있어서, 상기 대표 오브젝트의 대표 MVP를 설정하는 단계는
   프레임 간의 MVP 차이가 가장 큰 값을 대표 MVP로 설정하는 단계를 포함하는 것
   인 가변 해상도 처리 장치의 제어 방법.
4. 제 2 항에 있어서, 상기 대표 오브젝트를 특정하는 단계는
   적어도 하나의 오브젝트 중 화면에서 이동 거리가 가장 큰 오브젝트를 대표 오브젝트로 특정하는 것
   인 가변 해상도 처리 장치의 제어 방법.
5. 제 1 항에 있어서, 결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하는 단계는
   전력 및 피크 신호 대 잡음비(PSNR) 중 적어도 하나를 고려하여 결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하는 것
   인 가변 해상도 처리 장치의 제어 방법.
6. 제 1 항에 있어서, 상기 프레임의 화질을 조정하는 단계는
   조정된 프레임을 스케일링하는 단계를 더 포함하는 것
   인 가변 해상도 처리 장치의 제어 방법.
7. 제 1 항에 있어서, 상기 프레임의 화질을 조정하는 단계는
   텍스터 모드, 안티 앨리어싱 모드 및 픽셀 프리시전 모드 중 적어도 하나를 조절하여 프레임의 화질을 조정하는 단계를 포함하는 것
   인 가변 해상도 처리 장치의 제어 방법.
8. 제 2 항에 있어서, 상기 대표 오브젝트의 MVP 차이를 구하는 단계는
   상기 대표 오브젝트의 방향성을 고려하지 않고 움직임만을 고려하여 상기 대표 오브젝트의 MVP 차이를 구하는 것
   인 가변 해상도 처리 장치의 제어 방법.
9. 적어도 하나의 오브젝트를 포함하는 프레임 간 변화량을 모델뷰 프로젝션 정보(이하 MVP 정보)를 이용하여 획득하고, 획득된 상기 프레임 간 변화량을 분석하는 프레임간 변화량 분석부;
   분석 결과를 기초로 해상도를 결정하고, 결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하고, 비율 결정 결과를 기초로 프레임을 생성하는 해상도 결정부; 및
   생성된 상기 프레임의 화질을 조정하는 화질 조정부;
   를 포함하고,
   상기 변화량 분석부는,
   상기 오브젝트에 대한 좌표계를 모델 뷰 매트릭스를 통해 기본 모델 좌표계에서 관측점 기준 좌표계로 변환하고, 상기 관측점 기준 좌표계에서 카메라 기준 좌표계로 이동하고, 상기 카메라 기준 좌표계에 있어서 관측 볼륨에서 벗어난 영역을 제거하고, 상기 카메라 기준 좌표계를 윈도의 좌표계로 변환하는,
   가변 해상도 처리 장치.
10. 프레임 간 변화량을 모델뷰 프로젝션 정보(Model View Projection, 이하 MVP 정보)를 이용하여 획득하고, 획득된 상기 프레임 간 변화량을 분석하는 프레임간 변화량 분석부;
    분석 결과를 기초로 해상도를 결정하고, 결정된 상기 해상도의 프레임과 원본 프레임의 비율을 결정하고, 비율 결정 결과를 기초로 프레임을 생성하는 해상도 결정부; 및
    생성된 상기 프레임의 화질을 조정하는 화질 조정부;
    를 포함하고,
    상기 프레임 간 변화량 분석부는
    현재 프레임에 포함된 적어도 하나의 오브젝트의 아이디를 생성하고, 생성된 상기 아이디를 기초로 적어도 하나의 오브젝트 중 대표 오브젝트를 특정하고, 상기 현재 프레임과 이전 프레임간 상기 대표 오브젝트의 MVP 차이를 구하고, 상기 MVP 차이를 기초로 상기 대표 오브젝트의 대표 MVP를 설정하고, 설정된 상기 대표 MVP를 기초로 한 규준화(Normalization)를 이용하여 프레임 간 변화량을 분석하는 것
    인 가변 해상도 처리 장치.
11. 삭제
12. 삭제
13. 삭제
14. 삭제
15. 삭제

Images