KR20180039954A

KR20180039954A - 영상을 처리하는 방법, 디바이스 및 기록매체

Info

Publication number: KR20180039954A
Application number: KR1020160131388A
Authority: KR
Inventors: 이진봉; 김도완; 정재윤; 김용규; 이재경
Original assignee: 삼성전자주식회사
Priority date: 2016-10-11
Filing date: 2016-10-11
Publication date: 2018-04-19
Also published as: EP3523961A4; WO2018070756A1; US10460425B2; US20180101938A1; KR102250087B1; EP3523961A1; EP3523961B1

Abstract

소스 영상이 투사되는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정하고, 복수의 정점들 각각의 왜곡 보정 비율 및 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 픽셀의 보정 위치 정보를 결정하며, 위치 정보에 기초하여 복수의 정점들에 보간을 수행한 결과 결정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링하는 디바이스에서 영상을 처리하는 방법이 개시된다.

Description

영상을 처리하는 방법, 디바이스 및 기록매체 {Method and device for processing an image and recording medium thereof}

개시된 실시예는 영상을 처리하는 방법, 영상을 처리하는 디바이스 및 영상을 처리하는 방법을 수행하는 프로그램이 기록된 기록매체에 관한 것이다.

최근 들어 사용자에게 가상 현실(Virtual Reality, 이하 VR)를 체험할 수 있도록 영상을 제공하는 다양한 기술들이 개발되고 있다. 이러한 가상 현실 체험 기술들은 예를 들어, 사용자의 시야에 따라 출력되는 영상을 렌즈를 통해 왜곡시킴으로써, 사용자가 가상 현실을 체험할 수 있도록 하는 HMD(Head Mount Display) 등의 디바이스를 통해 실현될 수 있다.

한편, 가상 현실을 제공하는 디바이스에서 출력되는 영상이 렌즈를 통해 투사됨에 따라, 사용자가 시청하는 VR(Virtual Reality) 영상에 렌즈로 인한 왜곡이 발생될 수 있다. 이러한 왜곡은 사용자의 피로도를 증가시켜 가상 현실 체험의 몰입감을 떨어뜨릴 수 있다. 이에 따라, 렌즈의 왜곡을 상쇄시키기 위한 다양한 영상 처리 기법에 대한 다양한 연구가 진행되고 있으나, 기존의 영상 처리 기법들에 의해 보정된 VR 영상은 화질이 떨어진다는 문제점이 존재한다.

영상이 렌즈를 통해 투사되는 경우, 렌즈로 인해 발생되는 왜곡을 상쇄시키기 위한 왜곡 보정 영상을 영상에 포함된 정점들의 정보를 통해 픽셀을 생성하는 과정에서, 왜곡 보정 비율을 반영하여 화질을 향상시키 위한 영상을 처리하는 방법, 장치 및 기록매체가 제공된다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법은, 소스 영상이 투사되는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정하는 단계; 복수의 정점들 각각의 왜곡 보정 비율 및 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 픽셀의 보정 위치 정보를 결정하는 단계; 및 위치 정보에 기초하여 복수의 정점들에 보간을 수행한 결과 결정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링하는 단계를 포함한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법에 있어서, 픽셀의 위치 정보는, 복수의 정점들 각각의 왜곡 보정 비율에 픽셀의 보간 비율을 기초로 보간을 수행한 결과 산출된 픽셀의 왜곡 보정 비율을 포함한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법에 있어서, 소스 영상의 중심과 복수의 정점들 간의 거리 및 픽셀의 보간 비율을 기초로, 픽셀의 소스 영상의 중심으로부터의 거리를 결정하는 단계를 더 포함하고, 왜곡 보정 영상을 렌더링 하는 단계는 픽셀의 소스 영상의 중심으로부터의 거리 및 픽셀의 왜곡 보정 비율을 기초로 픽셀의 변경된 거리를 결정하는 단계를 포함한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법에 있어서, 복수의 정점들의 왜곡 보정 비율 및 시점으로부터 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 복수의 정점들의 깊이값을 결정하는 단계를 더 포함하고,

픽셀의 보정 위치 정보는, 복수의 정점들의 깊이값에 픽셀의 보간 비율을 기초로 보간을 수행한 결과 산출된 픽셀의 깊이값을 포함한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법에 있어서, 렌더링하는 단계는, 결정된 깊이값에 따라 보정된 복수의 정점들 및 보정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법에 있어서, 복수의 정점들 각각의 왜곡 보정 비율을 결정하는 단계는, 복수의 정점들의 색상 별 왜곡 보정 비율을 결정하는 단계를 포함하고, 픽셀의 보정 위치 정보는, 복수의 정점들의 색상 별 왜곡 보정 비율에 보간 비율에 기초하여 보간을 수행한 결과 산출된 상기 픽셀의 색상 별 왜곡 보정 비율을 포함한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법에 있어서, 렌더링하는 단계는, 픽셀의 색상 별 왜곡 보정 비율에 기초하여, 복수의 정점들에 보간을 수행한 결과 생성된 픽셀을 포함하는 색상 별 왜곡 보정 영상을 생성하는 단계; 및 색상 별 왜곡 보정 영상을 병합하여, 왜곡 보정 영상을 렌더링하는 단계를 포함한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법은, 복수의 정점들의 색상 별 왜곡 보정 비율 및 시점으로부터 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 복수의 정점들의 색상 별 깊이값을 결정하는 단계를 더 포함하고, 픽셀의 보정 위치 정보는, 복수의 정점들의 색상 별 깊이값에 보간 비율에 기초하여 보간을 수행한 결과 산출된 픽셀의 색상 별 깊이값을 포함한다.

일 실시예에 따른 디바이스에서 영상을 처리하는 방법은, 왜곡 보정 영상을 출력하는 단계를 더 포함하고, 왜곡 보정 영상은, 렌즈를 통해 디바이스의 사용자의 시야에 감지된다.

일 실시예에 따른 영상을 처리하는 디바이스는, 소스 영상이 투사되는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정하고, 복수의 정점들 각각의 왜곡 보정 비율 및 상기 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 픽셀의 보정 위치 정보를 결정하며, 위치 정보에 기초하여 복수의 정점들에 보간을 수행한 결과 결정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링하는 프로세서; 및 왜곡 보정 영상을 출력하는 프로젝터를 포함한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 픽셀의 위치 정보는, 복수의 정점들 각각의 왜곡 보정 비율을 픽셀의 보간 비율에 기초하여 보간을 수행한 결과 산출된 픽셀의 왜곡 보정 비율을 포함한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 프로세서는, 소스 영상의 중심과 복수의 정점들 간의 거리 및 픽셀의 보간 비율을 기초로, 픽셀의 소스 영상의 중심으로부터의 거리를 결정하고, 픽셀의 소스 영상의 중심으로부터의 거리 및 픽셀의 왜곡 보정 비율을 기초로 픽셀의 변경된 거리를 결정한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 프로세서는, 복수의 정점들의 왜곡 보정 비율 및 시점으로부터 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 복수의 정점들의 깊이값을 결정하고, 픽셀의 보정 위치 정보는, 복수의 정점들의 깊이값에 픽셀의 보간 비율을 기초로 보간을 수행한 결과 산출된 픽셀의 깊이값을 포함한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 프로세서는, 결정된 깊이값에 따라 보정된 복수의 정점들 및 보정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 프로세서는, 복수의 정점들의 색상 별 왜곡 보정 비율을 결정하고, 픽셀의 보정 위치 정보는, 복수의 정점들의 색상 별 왜곡 보정 비율에 보간 비율에 기초하여 보간을 수행한 결과 산출된 픽셀의 색상 별 왜곡 보정 비율을 포함한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 프로세서는, 픽셀의 색상 별 왜곡 보정 비율에 기초하여, 복수의 정점들에 보간을 수행한 결과 생성된 픽셀을 포함하는 색상 별 왜곡 보정 영상을 생성하고, 색상 별 왜곡 보정 영상을 병합하여, 왜곡 보정 영상을 렌더링한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 프로세서는, 복수의 정점들의 색상 별 왜곡 보정 비율 및 시점으로부터 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 복수의 정점들의 색상 별 깊이값을 결정하고,

픽셀의 보정 위치 정보는, 복수의 정점들의 색상 별 깊이값에 보간 비율에 기초하여 보간을 수행한 결과 산출된 픽셀의 색상 별 깊이값을 포함한다.

일 실시예에 따른 영상을 처리하는 디바이스에 있어서, 기 설정된 화각을 갖는 렌즈를 더 포함하고, 왜곡 보정 영상은, 렌즈를 통해 디바이스의 사용자의 시야에 감지된다.

도 1은 일 실시예에 따른 디바이스(100)가 영상을 처리하는 방법을 설명하기 위한 개념도이다.
도 2는 렌즈를 통해 영상이 감지되는 경우 발생되는 핀쿠션 왜곡을 설명하기 위한 도면이다.
도 3은 핀쿠션 왜곡이 발생된 영상을 보정하기 위해 배럴 왜곡을 적용하는 방법을 설명하기 위한 도면이다.
도 4는 정점들로부터 선형 보간을 통해 픽셀의 위치가 결정되는 방법을 설명하기 위한 도면이다.
도 5는 일 실시예에 따른 디바이스가 영상을 처리하는 방법을 설명하기 위한 흐름도이다.
도 6은 일 실시예에 따른 디바이스가 렌더링한 왜곡 보정 영상의 정확도를 설명하기 위한 그래프이다.
도 7은 렌즈 왜곡 보정에 따른 2차원 상에서의 픽셀의 위치 변화와 그에 따른 영상의 변화를 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 디바이스가 픽셀의 깊이값을 보정하여, 왜곡 보정 영상을 렌더링하는 방법을 설명하기 위한 도면이다.
도 9는 일 실시예에 따른 디바이스가 결정한 픽셀들의 정확도를 설명하기 위한 그래프이다.
도 10은 일 실시예에 따른 디바이스가 픽셀의 색상별 위치 정보를 결정하여 왜곡 보정 영상을 렌더링하는 방법을 설명하기 위한 도면이다.
도 11 및 12는 일 실시예에 따라 영상을 처리하는 디바이스의 블록도이다.

본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.

본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.

명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.

아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

도 1은 일 실시예에 따른 디바이스(100)가 영상을 처리하는 방법을 설명하기 위한 개념도이다.

일 실시예에 따른 디바이스(100)는 사용자에게 가상 현실을 체험할 수 있는 환경을 제공하는 영상을 출력할 수 있다. 또한, 디바이스(100)에서 출력되는 영상은 기 설정된 화각을 갖는 렌즈를 통해 투사될 수 있다. 여기에서, 기 설정된 화각을 갖는 렌즈는 디바이스(100)에 포함될 수도 있으나 이는 일 실시예일 뿐, 기 설정된 화각을 갖는 렌즈는 디바이스(100)의 외부에 존재할 수도 있다.

한편, 디바이스(100)를 착용한 사용자는 기 설정된 화각을 갖는 렌즈를 통해, 디바이스(100)에서 출력되는 영상을 시청함으로써, 영상이 사용자로부터 원거리에 출력되는 것으로 느낄 수 있다. 이를 통해, 디바이스(100)는 사용자가 영상이 나타내는 가상 현실에 존재하는 것과 같은 몰입감을 느낄 수 있는 가상 환경을 사용자에게 제공할 수 있다. 본 명세서에서는 설명의 편의를 위해, 디바이스(100)에서 실제로 출력되는 영상과 구별될 수 있도록 사용자가 기 설정된 화각을 갖는 렌즈를 통해 감지하는 영상을 VR(Virtual Reality) 영상(10)으로 설명하도록 한다. 예를 들어, 도 1을 참고하면, 사용자는 디바이스(100)에서 출력되는 영상을 기 설정된 화각을 갖는 렌즈(미도시)를 통해 감지함으로써, VR 영상(10)을 시청할 수 있다.

한편, 디바이스(100)에서 출력되는 영상이 렌즈를 통해 투사되는 경우, VR 영상(10)에 왜곡이 발생할 수 있다. 예를 들어, 디바이스(100)에서 출력되는 영상이 망원 렌즈를 통해 투사되는 경우, VR 영상(10)에는 핀쿠션(pincushion) 왜곡이 발생할 수 있다.

일 실시예에 따른 디바이스(100)는 렌즈의 화각으로 인해 VR 영상(10)이 왜곡되는 것을 방지하기 위해, 렌즈로 인해 발생되는 왜곡을 상쇄시킬 수 있는 왜곡 보정 영상을 생성할 수 있다. 이하에서는 설명의 편의상, 왜곡 보정 처리가 되지 않은 영상을 소스 영상으로 설명하고, 왜곡 보정 처리가 된 영상을 왜곡 보정 영상으로 설명하도록 한다.

일 실시예에 따른, 디바이스(100)는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로, 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정할 수 있다. 또한, 디바이스(100)는 복수의 정점들 각각의 왜곡 보정 비율 및 복수의 정점들 사이에 위치한 픽셀의 보간 비율에 기초하여 픽셀의 보정 위치 정보를 결정할 수 있다. 여기에서, 디바이스(100)는 복잡도를 낮추기 위해, 픽셀 자체의 데이터를 처리하지 않고도, 복수의 정점들에 보간을 수행하여 픽셀의 값, 위치 등을 결정하는 것으로 가정한다. 또한, 픽셀의 보정 위치 정보에는 픽셀의 왜곡 보정 비율 및 픽셀의 깊이 값 중 적어도 하나가 포함될 수 있다.

예를 들어, 디바이스(100)는 복수의 정점들 각각의 왜곡 보정 비율에 픽셀의 보간 비율에 기초하여 보간을 수행한 결과 픽셀의 왜곡 보정 비율을 산출 할 수 있다. 디바이스는 제 1 정점과 제 2 정점 사이에 위치한 픽셀의 보간 비율이 t:1-t로 기 설정된 경우, 제 1 정점의 왜곡 보정 비율인 λ1 및 λ2에 t:1-t의 비율에 따라 보간을 수행하여 픽셀의 왜곡 보정 비율을 산출할 수 있다.

다른 예에 따라 디바이스(100)는 복수의 정점들 각각의 왜곡 보정 비율을 기초로 산출된 깊이값에 픽셀의 보간 비율에 기초하여 보간을 수행하여 픽셀의 깊이값을 산출할 수 있다. 디바이스(100)는 복수의 정점들의 깊이값, 픽셀의 깊이값에 따라 렌더링된 3차원 영상을 렌즈를 통해 투사할 수 있다. 이러한 경우, 원근 투영법에 따라 사용자에게 감지되는 VR 영상의 핀쿠션 왜곡이 보정되는 효과를 얻을 수 있다. 이에 대해서는, 도 9를 참고하여 보다 구체적으로 후술하도록 한다.

한편, 일 실시예에 따른 디바이스(100)는 다양한 형태로 구현될 수 있다. 예를 들어, 본 명세서에서 기술되는 디바이스(100)는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 태블릿 PC, 전자북 단말기, 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션, 스마트 TV, 스마트 카, CE(Consumer Electronics) 기기(예컨대, 디스플레이 패널을 갖는 냉장고, 에어컨 등), HMD(Head Mounted Display) 등이 있을 수 있으나, 이에 한정되는 것은 아니다.

도 2는 렌즈를 통해 영상이 감지되는 경우 발생되는 핀쿠션 왜곡을 설명하기 위한 도면이다.

도 2를 참고하면, 사용자의 눈(210)이 렌즈(220)를 통해 디바이스에서 출력되는 영상(230)을 감지하는 경우, 렌즈(220)의 화각으로 인해 왜곡이 발생된 VR 영상(240)이 감지될 수 있다. 여기에서, 렌즈(220)는 망원 렌즈인 것으로 가정한다. 도 2에 도시된 바와 같이, 영상(230)이 망원 렌즈를 통해 감지되는 경우, 중심부가 오목하게 보이는 핀쿠션 왜곡이 발생된 영상(240)이 감지될 수 있다.

도 3은 핀쿠션 왜곡이 발생된 영상을 보정하기 위해 배럴 왜곡을 적용하는 방법을 설명하기 위한 도면이다.

도 3을 참고하면, 소스 영상에 배럴 왜곡을 적용하여, 왜곡 보정 영상(310)을 생성하는 경우, 왜곡 보정 영상(310)이 렌즈를 통해 감지되는 과정에서 발생되는 핀쿠션 왜곡(320)이 상쇄되어 왜곡이 제거된 VR 영상(330)이 획득될 수 있다.

일 실시예에 따른 디바이스는 렌즈로 인한 왜곡 정보를 기초로 결정된 소스 영상의 정점들의 왜곡 보정 비율을 기초로 픽셀들의 위치를 보정함으로써 배럴 왜곡이 적용된 영상을 생성할 수 있다. 특히, 디바이스는 정점들의 왜곡 보정 비율을 기초로 픽셀들의 왜곡 보정 비율에 따라 복수의 정점들에 보간을 수행하여 주변 픽셀들의 위치를 결정함으로써, 핀쿠션 왜곡을 보다 효과적으로 상쇄시킬 수 있는 왜곡 보정 영상을 렌더링할 수 있다. 일 실시예에 따른 디바이스가 왜곡 보정 영상을 렌더링하는 방법에 대해서는 도 5을 참고하여 보다 구체적으로 후술하도록 한다.

도 4는 정점들로부터 선형 보간을 통해 픽셀의 위치가 결정되는 방법을 설명하기 위한 도면이다.

도 4를 참고하면, 정점

에서

의 비율에 위치한 점을 선형 보간하는 방법으로, 디바이스는

정점에

의 비율로 보간을 수행하여 픽셀 A(440)를 결정할 수 있다. 또한, 디바이스는

정점에

:1-

의 비율로 보간을 수행하여 픽셀 B(450)를 결정할 수 있다. 또한, 디바이스는 픽셀 A(440) 및 픽셀 B(450)를

의 비율로 보간을 수행하여 픽셀 I(460)를 결정할 수 있다.

도 5는 일 실시예에 따른 디바이스가 영상을 처리하는 방법을 설명하기 위한 흐름도이다.

단계 S510에서, 디바이스는 소스 영상이 투사되는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정한다. 복수의 정점들 각각의 왜곡 보정 비율은 다음의 수학식 1에 따라 결정될 수 있다.

[수학식 1]

상기의 수학식 1에서

은 소스 영상의 중심으로부터 정점까지의 거리를 나타내고, K0, K1 및 K2는 렌즈의 화각에 따라 결정되는 파라미터이다. 또한, 상기의 수학식 1에서

은 핀쿠션 왜곡을 보정하기 위해 변경된 소스 영상의 중심으로부터 정점까지의 거리를 나타낸다. 또한, 상기의 수학식 1에서

는 정점의 왜곡 보정 비율을 나타낸다.

소스 영상의 중심으로부터 정점까지의 거리인

은 영상의 중심 좌표

에서 정점의 좌표

까지의 거리로 계산되며 수학식2에 따라 결정될 수 있다.

[수학식 2]

단계 S520에서, 디바이스는 복수의 정점들 각각의 왜곡 보정 비율 및 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 픽셀의 보정 위치 정보를 결정한다. 여기에서, 픽셀의 보정 위치 정보에는 픽셀의 왜곡 보정 비율 및 픽셀의 깊이값 중 적어도 하나를 포함할 수 있다.

예를 들어, 디바이스가 픽셀의 왜곡 보정 비율을 결정하는 경우, 디바이스는 복수의 정점들과 소스 영상 간의 거리에 보간을 수행하여, 픽셀과 소스 영상의 중심 간의 거리를 결정할 수 있다. 디바이스는 복수의 정점들에 포함되는 제 1 정점 및 제 2 정점 간에

의 비율을 가지는 위치에 있는 픽셀의 영상의 중심으로부터의 거리

를 수학식 3에 기초하여 결정할 수 있다.

[수학식 3]

상기의 수학식 3에서,

및

는 각각 제 1 정점과 소스 영상의 중심 간의 거리 및 제 2 정점과 소스 영상의 중심 간의 거리를 나타낸다.

또한, 디바이스는 수학식 1로부터 산출된 정점의 왜곡 보정 비율에 픽셀의 보간 비율에 따라 보간을 수행하여, 픽셀의 왜곡 보정 비율을 결정할 수 있다. 픽셀의 왜곡 보정 비율은 다음의 수학식 4에 기초하여 결정될 수 있다. 구하고, 정점들로부터 선형 보간 될 픽셀에 적용할 왜곡 보정 비율

를 픽셀의 선형 보간 비율

를 사용하여 얻을 수 있다.

[수학식 4]

상기의 수학식 4에서,

및

는 각각 제 1 정점 및 제 2 정점의 왜곡 보정 비율을 나타내고,

는 제 1 정점과 제 2 정점 사이에 위치한 픽셀의 왜곡 보정 비율을 나타낸다. 디바이스는 산출된 픽셀의 왜곡 보정 비율을 픽셀과 소스 영상의 중심 간의 거리에 적용하여, 픽셀과 소스 영상의 중심 간의 거리를 보정할 수 있다. 보정된, 픽셀과 소스 영상의 중심 간의 거리는 다음 수학식 5에 따라 나타낼 수 있다.

[수학식 5]

상기의 수학식 5에서,

는 디바이스에서 보정된 픽셀과 소스 영상의 중심 간의 거리를 나타낸다.

한편, 픽셀의 2차원 상의 좌표는 다음의 수학식 6에 따라 획득될 수 있다.

[수학식 6]

상기의 수학식 6에서,

는 픽셀과 소스 영상의 중심 간의 각도를 나타내고,

는 픽셀과 소스 영상의 중심 간의 거리를 나타내며,

및

는 픽셀의 x축 좌표 및 y축 좌표를 나타낸다.

수학식 5와 수학식 6을 기초로 산출된 픽셀의 보정된 위치는 다음의 수학식 7에 따라 결정될 수 있다.

[수학식 7]

상기의 수학식 7에서,

및

는 픽셀의 보정된 x축 좌표 및 y축 좌표를 나타낸다.

한편, 다른 예에 따라 디바이스(100)는 왜곡 보정 영상을 렌더링하기 위해, 복수의 정점들 각각의 왜곡 보정 비율을 기초로 산출된 깊이값에 픽셀의 보간 비율에 기초하여 보간을 수행하여 픽셀의 깊이값을 산출할 수 있다. 디바이스(100)는 복수의 정점들과 픽셀의 깊이값을 변경함으로써, 핀쿠션 왜곡 을 상쇄시키는 효과를 획득할 수 있다. 이에 대해서는, 도 9를 참고하여 보다 구체적으로 후술하도록 한다.

단계 530에서, 디바이스는 위치 정보에 기초하여, 복수의 정점들에 보간을 수행한 결과 결정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링한다.

일 실시예에 따른 디바이스는 산출된 각각의 왜곡 보정 비율에 따라 보정된 복수의 정점들 및 픽셀의 위치를 보정할 수 있다. 다른 실시예에 따라 바이스는 산출된 각각의 깊이값에 따라 보정된 복수의 정점들 및 픽셀을 포함하는 3차원 왜곡 보정 영상을 생성할 수 있다.

일 실시예에 따른 디바이스는 왜곡 보정 영상을 기 설정된 화각을 갖는 렌즈를 통해 투사함으로써, 사용자에게 핀쿠션 왜곡이 제거된 VR 영상을 제공할 수 있다. 도 6은 일 실시예에 따른 디바이스가 렌더링한 왜곡 보정 영상의 정확도를 설명하기 위한 그래프이다.

도 6을 참고하면, 기존의 픽셀 기반의 왜곡 보정 결과인 그래프 1, 일 실시예에 따른 왜곡 보정 결과인 그래프 2 및 기존의 선형 보간 기반의 왜곡 보정 결과인 그래프 3의 정확도를 비교할 수 있다. 여기에서, 픽셀 기반의 왜곡 보정 결과는 모든 픽셀에 대해 전술한 수학식 1에 따라 보정을 수행하는 방법을 나타낸다. 픽셀 기반의 왜곡 보정은 복잡도가 높다는 단점이 존재한다.

한편, 선형 보간 기반의 왜곡 보정 기술에 따른 보정된 픽셀과 소스 영상의 중심 간의 거리는 다음의 수학식 8에 따라 나타낼 수 있다.

[수학식 8]

수학식 8에서,

및

은 선형 보간 기반의 왜곡 보정 기술에 따라 보정된 정점과 소스 영상의 중심 간의 거리를 나타내고,

는 선형 보간 기반의 왜곡 보정 기술에 따라 보정된 픽셀과 소스 영상의 중심 간의 거리를 나타낸다. 한편, 수학식 8을 수학식 3을 통해 전개하면 하기의 수학식9를 획득할 수 있다.

[수학식 9]

한편, 일 실시예에 따라 왜곡이 보정된 픽셀과 소스 영상의 중심 간의 거리는 수학식 3 및 수학식 5를 통해 전개한 결과 수학식 10에 기초하여 나타낼 수 있다.

[수학식 10]

선형 보간 기반의 왜곡 보정 기술과 일 실시예에 따른 왜곡 보정 기술 각각의 오차를

및

라고 나타내는 경우, 오차의 차이는 다음의 수학식 11에 기초하여 결정될 수 있다.

[수학식 11]

상기의 수학식 11에서,

는 픽셀 기반의 왜곡 보정 기술에 따른 보정된 픽셀과 소스 영상의 중심간의 거리를 나타낸다. 본 실시예에서는

를 이상적인 값으로 가정하고, 선형 보간 기반의 왜곡 보정 기술과 일 실시예에 따른 왜곡 보정 기술의 성능을 비교한다.

상기의 수학식 11에서, 선형 보간 기반의 왜곡 보정 기술에 대한 오차

보다 일 실시예에 따른 왜곡 보정 기술의 오차

가 더 낮음으로써 일 실시예에 따른 왜곡 보정 기술의 정확도가 높은 것을 확인할 수 있다.

도 7은 렌즈 왜곡 보정에 따른 2차원 상에서의 픽셀의 위치 변화와 그에 따른 영상의 변화를 설명하기 위한 도면이다.

도 7에서(x,y)좌표(720)가 (x',y')좌표(730)로 왜곡 보정될 때, r', x', y'의 변으로 구성된 삼각형과 r, x, y의 변으로 구성된 삼각형의 닮음을 이용하면, x와 y의 왜곡 보정 비율은 영상의 중심으로부터의 거리 r의 왜곡 보정 비율과 동일함을 확인할 수 있다. 여기에서, 좌표들(720, 730) 각각은 원점 O(710)를 중심으로 결정될 수 있다.

도 8은 일 실시예에 따른 디바이스가 픽셀의 깊이값을 보정하여, 왜곡 보정 영상을 렌더링하는 방법을 설명하기 위한 도면이다.

도 8에 따르면 정점 P(810)는 수학식 1에 따른 왜곡 보정에 의해 P'(820)으로 이동 할 수 있다.

일 실시예에 따른 디바이스는 원근 투영법의 원근 보정 방법을 기초로, 소스 영상에 포함된 픽셀의 깊이값을 보정할 수 있다. 여기에서, 원근 투영법에 따른 원근 보정 비율은 도 5를 참고하여 전술한 왜곡 보정 비율과 역수의 관계를 가질 수 있다. 이에 대해서는 하기의 수학식 11 및 수학식 12를 기초하여 설명하도록 한다.

원근 투영법은 다음과 같이 수학식 12로 표현될 수 있다.

[수학식12]

상기의 수학식 12에서, x, y, z는 보정 전 픽셀의 3차원 좌표값을 나타낸다. 또한 원근 투영 뷰의 파라미터로써 n은 의 최소 깊이값, f는 최대 깊이값, t는 상부 경계 좌표, b는 바닥 경계 좌표, r은 우측 경계 좌표, l은 좌측 경계 좌표,

는 시점과 소스 영상이 표시되는 디스플레이 간의 거리를 나타낸다. 일 실시예에 따른 디바이스는 원근 투영법에 따라 획득된 결과를 w값으로 나누어 픽셀의 위치를 원근 보정된 좌표계에 따른 좌표인 (

/w,

/w, 1.0)로 보정할 수 있다. 원근 보정된 좌표계에서의 픽셀의 보간은 수학식 13에 기초하여 나타낼 수 있다.

[수학식13]

,

[수학식14]

왜곡 보정 방정식 수학식5를 수학식 14에 적용하면, 수학식 15와 같이 원근 보정 비율과 왜곡 보정 비율이 역수의 관계를 갖는 것을 확인할 수 있다.

일 실시예에 따른 디바이스는 원근 보정 비율과 왜곡 보정 비율 간의 역수 관계를 이용하여, 복수의 정점들 각각의 왜곡 보정 비율을 기초로, 복수의 정점들의 깊이값을 변경할 수 있다. 복수의 정점들 각각의 깊이값은 다음의 수학식 15에 기초하여 나타낼 수 있다.

[수학식15]

상기의 수학식 15에서,

는 시점과 소스 영상이 표시되는 디스플레이 간의 거리를 나타내고, z는 변경된 제 1 정점의 깊이값을 나타낸다. 한편,

은 제 1 정점의 원근 보정 비율을 나타내고,

은 제 1 정점의 왜곡 보정 비율을 나타낸다.

일 실시예에 따른 디바이스는 변경된 복수의 정점들의 깊이값에 보간 비율에 따라 보간을 수행하여, 복수의 정점들의 사이에 위치한 픽셀의 깊이값을 획득할 수 있다. 복수의 정점들의 사이에 위치한 픽셀의 깊이값은 다음의 수학식 16에 기초하여 획득될 수 있다.

[수학식16]

상기의 수학식 16에서,

과

는 각각 제 1 정점과 제 2 정점의 깊이값을 나타내고,

는 복수의 정점들의 사이에 위치한 픽셀의 깊이값을 나타낸다.

한편, 일 실시예에 따른 디바이스는 원근 보정 비율과 왜곡 보정 비율 간의 역수 관계를 기초로, 수학식 15를 수학식 5에 적용한 결과 보정된 픽셀과 소스 영상의 중심간의 거리를 나타내는 수학식 17을 획득할 수 있다

[수학식17]

상기의 수학식 17에서 각각의 파라미터는 수학식 5를 참고하여 전술한 바와 동일할 수 있다.

도 8을 참고하면, 정점 P(810)를 왜곡 보정 비율에 따라 보정한 결과 P'(820)에 위치하게 되고, 정점 Q(830)에서 원근 투영한 결과 또한 P'(820)으로 결정됨을 확인할 수 있다. 여기에서 P(810)와 Q(830)의 관계는 깊이 값이

와

으로 다를 뿐, 2차원 상의 좌표는 동일한 값을 가지는 것을 확인할 수 있다.

이에 따라 일 실시예에 따른 디바이스는 2차원 상에서 (x, y) 좌표를 수정하지 않고, 3차원상에서의 깊이 값만을 변경하여 원근 보정을 수행함으로써, 핀쿠션 왜곡이 보정된 왜곡 보정 영상을 렌더링할 수 있다.

일 실시예에 따르면 정점들의 깊이 값을 변경하는 방법은, 상기의 계산 방법에 따른 깊이 값을 가진 정점들로 구성된 메쉬 형태의 오브젝트를 렌더링하는 방법에 따라 대체 수 있다.

도 9는 일 실시예에 따른 디바이스가 결정한 픽셀들의 정확도를 설명하기 위한 그래프이다.

도 9를 참고하면, 그래프에는 기존의 픽셀 기반의 왜곡 보정을 수행한 결과를 나타내는 그래프 1, 일 실시예에 따라 픽셀의 왜곡 보정 비율을 결정하여 왜곡 보정을 수행한 결과를 나타내는 그래프 2, 일 실시예에 따라 픽셀의 깊이값을 변경하여 왜곡 보정을 수행한 결과를 나타내는 그래프 3 및 기존의 선형 보간 기반의 왜곡 보정 결과인 그래프 4의 정확도를 비교할 수 있다.

도 9의 그래프에 따르면, 일 실시예에 따라 픽셀의 왜곡 보정 비율을 결정하여 왜곡 보정을 수행한 결과를 나타내는 그래프 2 및 일 실시예에 따라 픽셀의 깊이값을 변경하여 왜곡 보정을 수행한 결과를 나타내는 그래프 3이 기존의 선형 보간 기반의 왜곡 보정 결과에 비해, 이상적인 보정값에 더 근접한 결과를 산출할 수 있음을 확인할 수 있다. 또한, 일 실시예에 따라 픽셀의 왜곡 보정 비율을 결정하여 왜곡 보정을 수행한 결과와 픽셀의 깊이값을 변경하여 왜곡 보정을 수행한 결과가 매우 근접하게 도출될 수 있음을 확인할 수 있다.

도 10은 일 실시예에 따른 디바이스가 픽셀의 색상별 위치 정보를 결정하여 왜곡 보정 영상을 렌더링하는 방법을 설명하기 위한 도면이다.

도 10을 참고하면, 정점 또는 픽셀의 값을 구성하는 R(1010),G(1020),B(1030) 색상값의 파장이 각각 상이하여, 렌즈를 투과할 때 서로 다른 굴절률로 투과되는 것을 확인할 수 있다. 일 실시예에 따른 디바이스는 왜곡 보정의 정확도를 높이기 위해, 전술한 왜곡 보정 방법을 픽셀의 색상별로 적용할 수 있다.

일 실시예에 따른 디바이스는 복수의 정점들의 색상별 왜곡 보정 비율을 결정할 수 있다. 디바이스는 결정된 색상별 왜곡 보정 비율 및 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 픽셀의 색상별 보정 위치 정보를 결정할 수 있다. 색상별 보정 위치 정보에는 색상별 왜곡 보정 비율 및 색상별 깊이값 중 적어도 하나가 포함될 수 있다.

예를 들어, 디바이스는 복수의 정점들의 색상별 왜곡 보정 비율에 대해 픽셀의 보간 비율에 기초하여 보간을 수행하여, 픽셀의 색상별 왜곡 보정 비율을 결정할 수 있다. 디바이스는 색상별 왜곡 보정 비율에 따라 결정된 색상별 픽셀들을 병합하여 왜곡 보정 영상을 렌더링할 수 있다.

다른 예에 따라 디바이스는 복수의 정점들의 색상별 왜곡 보정 비율 및 시점으로부터 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여 복수의 정점들의 색상별 깊이값을 결정할 수 있다. 디바이스는 색상별 깊이값에 따라 결정된 색상별 픽셀들을 병합하여 왜곡 보정 영상을 렌더링할 수 있다.

일 실시예에 따른 디바이스는 색상별로 왜곡 보정을 진행함에 따라, 왜곡 보정 횟수가 색상의 수 만큼 누적되게 되어, 왜곡 보정의 정확도가 보다 높아질 수 있다.

도 11 및 12는 일 실시예에 따라 영상을 처리하는 디바이스(1100)의 블록도이다.

도 11에 도시된 바와 같이, 일 실시예에 따른 디바이스(1100)는, 프로세서(1110) 및 프로젝터(1120)를 포함할 수 있다. 그러나 도시된 구성요소 모두가 필수구성요소인 것은 아니다. 도시된 구성요소보다 많은 구성요소에 의해 디바이스(1100)가 구현될 수도 있고, 그보다 적은 구성요소에 의해서도 디바이스(1100)는 구현될 수 있다.

예를 들어, 도 12에 도시된 바와 같이, 본 발명의 일 실시예에 따른 디바이스(1100)는, 프로세서(1110) 및 프로젝터(1120) 이외에 통신부(1130), 센싱부(1140), 사용자 입력부(1150), A/V 입력부(1160), 출력부(1170) 및 메모리(1180)를 더 포함할 수도 있다. 한편, 다른 실시예에 따른 디바이스는 기 설정된 화각을 갖는 렌즈(미도시)를 더 포함할 수도 있다.

이하 상기 구성요소들에 대해 차례로 살펴본다.

프로세서(1110)는, 통상적으로 디바이스(1100)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(1110)는, 메모리(1170)에 저장된 프로그램들을 실행함으로써, 출력부(1120), 통신부(1130), 센싱부(1140), 사용자 입력부(1150), A/V 입력부(1160) 및 메모리(1170) 등을 전반적으로 제어할 수 있다.

프로세서(1110)는 소스 영상이 투사되는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정한다. 또한, 프로세서(1110)는 복수의 정점들 각각의 왜곡 보정 비율 및 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 픽셀의 보정 위치 정보를 결정한다. 또한, 프로세서(1110)는 위치 정보에 기초하여 복수의 정점들에 보간을 수행한 결과 결정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링한다.

일 실시예에 따른 프로세서(1110)는 복수의 정점들 각각의 왜곡 보정 비율에 보간 비율을 기초로 보간을 수행한 결과 픽셀의 왜곡 보정 비율을 산출할 수 있다. 프로세서(1110)는 소스 영상의 중심과 복수의 정점들 간의 거리 및 픽셀의 보간 비율을 기초로, 픽셀의 소스 영상의 중심으로부터의 거리를 결정할 수 있다. 또한, 프로세서(1110)는 픽셀의 소스 영상의 중심으로부터의 거리 및 픽셀의 왜곡 보정 비율을 기초로 픽셀의 변경된 거리를 결정할 수 있다.

일 실시예에 따른 프로세서(1110)는 복수의 정점들의 왜곡 보정 비율 및 시점으로부터 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 복수의 정점들의 깊이값을 결정할 수 있다. 또한 프로세서(1110)는 복수의 정점들의 깊이값에 픽셀의 보간 비율을 기초로 보간을 수행하여 픽셀의 깊이값을 산출할 수 있다.

일 실시예에 따른 프로세서(1110)는, 결정된 깊이값에 따라 보정된 복수의 정점들 및 보정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링할 수 있다.

일 실시예에 따른 프로세서(1110)는, 복수의 정점들의 색상 별 왜곡 보정 비율을 결정할 수 있다. 또한, 프로세서(1110)는 복수의 정점들의 색상 별 왜곡 보정 비율에 보간 비율을 기초로 보간을 수행하여 픽셀의 색상 별 왜곡 보정 비율을 결정할 수 있다. 프로세서(1110)는, 픽셀의 색상 별 왜곡 보정 비율에 기초하여, 복수의 정점들에 보간을 수행한 결과 생성된 픽셀을 포함하는 색상 별 왜곡 보정 영상을 생성하고, 색상 별 왜곡 보정 영상을 병합하여, 왜곡 보정 영상을 렌더링할 수 있다.

일 실시예에 따른 프로세서(1110)는, 복수의 정점들의 색상 별 왜곡 보정 비율 및 시점으로부터 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 복수의 정점들의 색상 별 깊이값을 결정할 수 있다. 또한, 프로세서(1110)는 복수의 정점들의 색상 별 깊이값에 보간 비율을 기초로 보간을 수행하여 픽셀의 색상별 깊이값을 결정할 수 있다.

프로젝터(1120)는 프로세서(1110)에서 렌더링된 왜곡 보정 영상을 출력할 수 있다.

통신부(1130)는, 디바이스(100)와 외부 디바이스 간의 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1130)는, 근거리 통신부(1131), 이동 통신부(1132), 방송 수신부(1133)를 포함할 수 있다.

근거리 통신부(short-range wireless communication unit)(1131)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.

이동 통신부(1132)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

방송 수신부(1133)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 구현 예에 따라서 디바이스(1100)가 방송 수신부(1133)를 포함하지 않을 수도 있다.

센싱부(1140)는, 디바이스(1100)의 상태, 디바이스(1100) 주변의 상태 및 디바이스(1100)를 착용한 사용자의 상태 중 적어도 하나를 감지하고, 감지된 정보를 프로세서(1110)로 전달할 수 있다.

센싱부(1140)는, 지자기 센서(Magnetic sensor)(1141), 가속도 센서(Acceleration sensor)(1142), 온/습도 센서(1143), 적외선 센서(1144), 자이로스코프 센서(1145), 위치 센서(예컨대, GPS)(1146), 기압 센서(1147), 근접 센서(1148), 및 RGB 센서(illuminance sensor)(1149) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.

사용자 입력부(1150)는, 사용자가 디바이스(1100)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1150)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.

사용자 입력부(1150)는, 사용자 입력을 수신할 수 있다. 또한, 사용자 입력부(1150)는 UI 모듈(1171)과 연동되어, 복수의 센서들 각각의 감지 영역 상에 표시되는 아이템들 중 적어도 하나를 선택하는 사용자 입력을 수신할 수도 있다. 다만, 이는 일 실시예일 뿐, 사용자 입력부(1150)에서 수신하는 사용자 입력의 종류가 전술한 예에 한정되는 것은 아니다.

A/V(Audio/Video) 입력부(1160)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1161)와 마이크로폰(1162) 등이 포함될 수 있다. 카메라(1161)는 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 프로세서(1110) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다.

카메라(1161)에서 처리된 화상 프레임은 메모리(1170)에 저장되거나 통신부(1130)를 통하여 외부로 전송될 수 있다. 카메라(1161)는 디바이스(1100)의 구성 태양에 따라 2개 이상이 구비될 수도 있다.

마이크로폰(1162)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1162)은 외부 디바이스 또는 화자로부터 음향 신호를 수신할 수 있다. 마이크로폰(1162)는 외부의 음향 신호를 입력 받는 과정에서 발생 되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘을 이용할 수 있다.

출력부(1170)는, 오디오 신호 또는 비디오 신호 또는 진동 신호의 출력을 위한 것으로, 이에는 디스플레이부(1171)와 음향 출력부(1172), 진동 모터(1173) 등이 포함될 수 있다.

한편, 디스플레이부(1171)와 터치패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이부(1171)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이부(1171)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display) 중에서 적어도 하나를 포함할 수 있다. 그리고 디바이스(1100)의 구현 형태에 따라 디바이스(1100)는 디스플레이부(1171)를 2개 이상 포함할 수도 있다. 이때, 2개 이상의 디스플레이부(1171)는 힌지(hinge)를 이용하여 마주보게 배치될 수 있다.

음향 출력부(1172)는 통신부(1130)로부터 수신되거나 메모리(1180)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1172)는 디바이스(1100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다. 이러한 음향 출력부(1172)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

진동 모터(1173)는 진동 신호를 출력할 수 있다. 예를 들어, 진동 모터(1173)는 오디오 데이터 또는 비디오 데이터의 출력에 대응하는 진동 신호를 출력할 수 있다. 또한, 진동 모터(1173)는 터치스크린에 터치가 입력되는 경우 진동 신호를 출력할 수도 있다.

메모리(1180)는, 프로세서(1110)의 처리 및 제어를 위한 프로그램을 저장할 수도 있고, 입/출력되는 데이터들을 저장할 수도 있다.

메모리(1180)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 디바이스(1100)는 인터넷(internet)상에서 메모리(1180)의 저장 기능을 수행하는 웹 스토리지(web storage) 또는 클라우드 서버를 운영할 수도 있다.

메모리(1180)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1181), 터치 스크린 모듈(1182), 알림 모듈(1183) 등으로 분류될 수 있다.

UI 모듈(1181)은, 애플리케이션 별로 디바이스(1100)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1182)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(1110)로 전달할 수 있다. 본 발명의 일 실시예에 따른 터치 스크린 모듈(1182)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(1182)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.

터치스크린의 터치 또는 근접 터치를 감지하기 위해 터치스크린의 내부 또는 근처에 다양한 센서가 구비될 수 있다. 터치스크린의 터치를 감지하기 위한 센서의 일례로 촉각 센서가 있다. 촉각 센서는 사람이 느끼는 정도로 또는 그 이상으로 특정 물체의 접촉을 감지하는 센서를 말한다. 촉각 센서는 접촉면의 거칠기, 접촉 물체의 단단함, 접촉 지점의 온도 등의 다양한 정보를 감지할 수 있다.

또한, 터치스크린의 터치를 감지하기 위한 센서의 일례로 근접 센서가 있다.

근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 사용자의 터치 제스처에는 탭, 터치&홀드, 더블 탭, 드래그, 패닝, 플릭, 드래그 앤드 드롭, 스와이프 등이 있을 수 있다.

알림 모듈(1183)은 디바이스(1100)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 디바이스(1100)에서 발생되는 이벤트의 예로는 키 신호 입력 등이 있다. 알림 모듈(1183)은 디스플레이부(1171)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1172)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1173)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.

본 발명의 일 실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.

이상에서 본 발명의 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속한다.

Claims

디바이스에서 영상을 처리하는 방법에 있어서,
소스 영상이 투사되는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로 상기 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정하는 단계;
상기 복수의 정점들 각각의 왜곡 보정 비율 및 상기 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 상기 픽셀의 보정 위치 정보를 결정하는 단계; 및
상기 위치 정보에 기초하여 상기 복수의 정점들에 보간을 수행한 결과 결정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링하는 단계를 포함하는 방법.
제 1항에 있어서, 상기 픽셀의 위치 정보는,
상기 복수의 정점들 각각의 왜곡 보정 비율에 상기 픽셀의 보간 비율을 기초로 보간을 수행한 결과 산출된 상기 픽셀의 왜곡 보정 비율을 포함하는 방법.
제 1항에 있어서,
상기 소스 영상의 중심과 상기 복수의 정점들 간의 거리 및 상기 픽셀의 보간 비율을 기초로, 상기 픽셀의 상기 소스 영상의 중심으로부터의 거리를 결정하는 단계를 더 포함하고,
상기 왜곡 보정 영상을 렌더링 하는 단계는
상기 픽셀의 상기 소스 영상의 중심으로부터의 거리 및 상기 픽셀의 왜곡 보정 비율을 기초로 상기 픽셀의 변경된 거리를 결정하는 단계를 포함하는 방법.
제 1항에 있어서,
상기 복수의 정점들의 왜곡 보정 비율 및 시점으로부터 상기 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 상기 복수의 정점들의 깊이값을 결정하는 단계를 더 포함하고,
상기 픽셀의 보정 위치 정보는,
상기 복수의 정점들의 깊이값에 상기 픽셀의 보간 비율을 기초로 보간을 수행한 결과 산출된 상기 픽셀의 깊이값을 포함하는 방법.
제 1항에 있어서, 상기 렌더링하는 단계는,
상기 결정된 깊이값에 따라 보정된 복수의 정점들 및 보정된 픽셀을 포함하는 상기 왜곡 보정 영상을 렌더링하는 방법.
제 1항에 있어서, 상기 복수의 정점들 각각의 왜곡 보정 비율을 결정하는 단계는,
상기 복수의 정점들의 색상 별 왜곡 보정 비율을 결정하는 단계를 포함하고,
상기 픽셀의 보정 위치 정보는,
상기 복수의 정점들의 색상 별 왜곡 보정 비율에 상기 보간 비율에 기초하여 보간을 수행한 결과 산출된 상기 픽셀의 색상 별 왜곡 보정 비율을 포함하는 방법.
제 6항에 있어서, 상기 렌더링하는 단계는,
상기 픽셀의 색상 별 왜곡 보정 비율에 기초하여, 상기 복수의 정점들에 보간을 수행한 결과 생성된 픽셀을 포함하는 색상 별 왜곡 보정 영상을 생성하는 단계; 및상기 색상 별 왜곡 보정 영상을 병합하여, 상기 왜곡 보정 영상을 렌더링하는 단계를 포함하는 방법.
제 6항에 있어서,
상기 복수의 정점들의 색상 별 왜곡 보정 비율 및 상기 시점으로부터 상기 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 상기 복수의 정점들의 색상 별 깊이값을 결정하는 단계를 더 포함하고,
상기 픽셀의 보정 위치 정보는,
상기 복수의 정점들의 색상 별 깊이값에 상기 보간 비율에 기초하여 보간을 수행한 결과 산출된 상기 픽셀의 색상 별 깊이값을 포함하는 방법.
제 1항에 있어서,
상기 왜곡 보정 영상을 출력하는 단계를 더 포함하고,
상기 왜곡 보정 영상은,
상기 렌즈를 통해 상기 디바이스의 사용자의 시야에 감지되는 방법.
영상을 처리하는 디바이스에 있어서,
소스 영상이 투사되는 기 설정된 화각을 갖는 렌즈에 관한 정보를 기초로 상기 소스 영상에 포함된 복수의 정점들 각각의 왜곡 보정 비율을 결정하고, 상기 복수의 정점들 각각의 왜곡 보정 비율 및 상기 복수의 정점들의 사이에 위치한 픽셀의 보간 비율에 기초하여 상기 픽셀의 보정 위치 정보를 결정하며, 상기 위치 정보에 기초하여 상기 복수의 정점들에 보간을 수행한 결과 결정된 픽셀을 포함하는 왜곡 보정 영상을 렌더링하는 프로세서; 및
상기 왜곡 보정 영상을 출력하는 프로젝터를 포함하는 디바이스.
제 10항에 있어서, 상기 픽셀의 위치 정보는, 상기 복수의 정점들 각각의 왜곡 보정 비율을 상기 픽셀의 보간 비율에 기초하여 보간을 수행한 결과 산출된 상기 픽셀의 왜곡 보정 비율을 포함하는 디바이스.
제 10항에 있어서, 상기 프로세서는,
상기 소스 영상의 중심과 상기 복수의 정점들 간의 거리 및 상기 픽셀의 보간 비율을 기초로, 상기 픽셀의 상기 소스 영상의 중심으로부터의 거리를 결정하고, 상기 픽셀의 상기 소스 영상의 중심으로부터의 거리 및 상기 픽셀의 왜곡 보정 비율을 기초로 상기 픽셀의 변경된 거리를 결정하는 디바이스.
제 10항에 있어서, 상기 프로세서는,
상기 복수의 정점들의 왜곡 보정 비율 및 시점으로부터 상기 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 상기 복수의 정점들의 깊이값을 결정하고,
상기 픽셀의 보정 위치 정보는,
상기 복수의 정점들의 깊이값에 상기 픽셀의 보간 비율을 기초로 보간을 수행한 결과 산출된 상기 픽셀의 깊이값을 포함하는 디바이스.
제 10항에 있어서, 상기 프로세서는,
상기 결정된 깊이값에 따라 보정된 복수의 정점들 및 보정된 픽셀을 포함하는 상기 왜곡 보정 영상을 렌더링하는 디바이스.
제 10항에 있어서, 상기 프로세서는,
상기 복수의 정점들의 색상 별 왜곡 보정 비율을 결정하고,
상기 픽셀의 보정 위치 정보는,
상기 복수의 정점들의 색상 별 왜곡 보정 비율에 상기 보간 비율에 기초하여 보간을 수행한 결과 산출된 상기 픽셀의 색상 별 왜곡 보정 비율을 포함하는 디바이스.
제 15항에 있어서, 상기 프로세서는,
상기 픽셀의 색상 별 왜곡 보정 비율에 기초하여, 상기 복수의 정점들에 보간을 수행한 결과 생성된 픽셀을 포함하는 색상 별 왜곡 보정 영상을 생성하고, 상기 색상 별 왜곡 보정 영상을 병합하여, 상기 왜곡 보정 영상을 렌더링하는 디바이스.
제 15항에 있어서, 상기 프로세서는,
상기 복수의 정점들의 색상 별 왜곡 보정 비율 및 상기 시점으로부터 상기 소스 영상이 투사되는 디스플레이 간의 거리에 기초하여, 상기 복수의 정점들의 색상 별 깊이값을 결정하고,
상기 픽셀의 보정 위치 정보는,
상기 복수의 정점들의 색상 별 깊이값에 상기 보간 비율에 기초하여 보간을 수행한 결과 산출된 상기 픽셀의 색상 별 깊이값을 포함하는 디바이스.
제 10항에 있어서,
상기 기 설정된 화각을 갖는 렌즈를 더 포함하고,
상기 왜곡 보정 영상은,
상기 렌즈를 통해 상기 디바이스의 사용자의 시야에 감지되는 디바이스.
제 1항 내지 제 9항 중 어느 하나의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체.