KR20220137428A - 전자 장치 및 그 동작 방법 - Google Patents

Abstract

전자 장치 및 그 동작 방법이 제공된다. 전자 장치는, 광학 엔진 및 웨이브 가이드를 포함하는 디스플레이, 사용자의 눈 영상을 획득하는 시선 추적 센서, 하나 이상의 인스트럭션을 저장하는 메모리, 및 메모리에 저장된 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 가상 이미지가 웨이브가이드를 통해 출력되도록 광학 엔진을 제어하고, 시선 추적 센서를 통해 획득된 사용자의 눈 영상으로부터 눈 반사 이미지를 획득하고, 눈 반사 이미지에 기초하여, 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터와 가상 이미지의 밝기를 조정하기 위한 밝기 조정 파라미터를 산출하고, 위치 조정 파라미터와 밝기 조정 파라미터에 기초하여, 가상 이미지를 조정하고, 조정된 가상 이미지가 웨이브가이드를 통해 출력되도록 광학 엔진을 제어할 수 있다.

Description

전자 장치 및 그 동작 방법{ELECTRONIC APPARATUS AND OPERAINTG METHOD THEREOF}

다양한 실시 예들은, 사용자의 눈 반사 이미지를 이용하여, 증강 현실 영상을 제공하는 전자 장치 및 그 동작 방법에 관한 것이다.

증강 현실(Augmented Reality)은 현실 세계의 물리적 환경 공간이나 현실 객체(real world object) 상에 가상 이미지를 투영시켜 하나의 이미지로 보여주는 기술이다. 증강 현실 장치는 사용자의 안면부나 두부에 착용된 상태에서 사용자의 눈앞에 배치되는 시스루(see-through) 형태의 디스플레이 모듈을 통해 현실 장면(real scene)과 가상 이미지를 함께 볼 수 있게 한다.

이러한 증강 현실 장치가 현실 장면 상에 가상 이미지를 자연스럽게 보여지도록 하는 등 현실 객체를 활용한 다양한 서비스를 제공하기 위해서, 현실 객체와 가상 이미지 간의 이질감과 부조화를 최소화한 증강 현실 영상을 제공하기 위한 방법에 대한 연구가 요구되고 있다.

사용자의 눈 반사 이미지를 이용하여, 현실 객체 주변에 가상 이미지를 표시하는 전자 장치 및 동작 방법을 제공하는 데 있다.

해결하려는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.

일 측면에 따른 전자 장치는, 광학 엔진 및 웨이브 가이드를 포함하는 디스플레이, 사용자의 눈 영상을 획득하는 시선 추적 센서, 하나 이상의 인스트럭션을 저장하는 메모리, 및 메모리에 저장된 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 가상 이미지가 웨이브가이드를 통해 출력되도록 광학 엔진을 제어하고, 시선 추적 센서를 통해 획득된 사용자의 눈 영상으로부터 눈 반사 이미지를 획득하고, 눈 반사 이미지에 기초하여, 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터와 가상 이미지의 밝기를 조정하기 위한 밝기 조정 파라미터를 산출하고, 위치 조정 파라미터와 밝기 조정 파라미터에 기초하여, 가상 이미지를 조정하고, 조정된 가상 이미지가 웨이브가이드를 통해 출력되도록 광학 엔진을 제어할 수 있다.

일 측면에 따른 전자 장치의 동작 방법은, 가상 이미지가 웨이브가이드를 통해 출력되도록 광학 엔진을 제어하는 단계, 시선 추적 센서를 통해 획득된 사용자의 눈 영상으로부터 눈 반사 이미지를 획득하는 단계, 눈 반사 이미지에 기초하여, 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터와 가상 이미지의 밝기를 조정하기 위한 밝기 조정 파라미터를 산출하는 단계, 위치 조정 파라미터와 밝기 조정 파라미터에 기초하여, 가상 이미지를 조정하는 단계, 및 조정된 가상 이미지가 웨이브가이드를 통해 출력되도록 광학 엔진을 제어하는 단계를 포함할 수 있다.

또 다른 측면에 따른 컴퓨터로 읽을 수 있는 기록매체는 상술한 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 기록매체를 포함한다.

도 1a는 전자 장치를 착용한 사용자 눈에 보이는 현실 장면과 가상 이미지의 예를 설명하기 위한 도면이다.
도 1b는 일 실시 예에 따라 조정된 가상 이미지를 출력함으로써 전자 장치를 착용한 사용자 눈에 보이는 현실 장면과 가상 이미지의 예를 설명하기 위한 도면이다.
도 2는 일 실시 예에 따른 전자 장치의 블록 구성도(block diagram)이다.
도 3은 일 실시 예에 따른 전자 장치의 동작을 설명하기 위한 블록도이다.
도 4a는 일 실시 예에 따른 전자 장치의 예시를 나타내는 도면이다.
도 4b는 일 실시 예에 따른 광학 엔진 및 웨이브 가이드를 설명하기 위한 도면이다.
도 5a는 일 실시 예에 따른 시선 추적 센서의 동작 방법을 설명하기 위한 도면이다.
도 5b는 다른 일 실시 예에 따른 시선 추적 센서의 동작 방법을 설명하기 위한 도면이다.
도 5c는 일 실시 예에 따른 사용자 눈 영상을 획득하는 방법을 설명하기 위한 도면이다.
도 6은 일 실시 예에 따른 전자 장치가 가상 이미지를 조정하는 방법을 설명하기 위한 흐름도이다.
도 7은 일 실시 예에 따른 전자 장치가 조정된 가상 이미지를 출력하는 예를 설명하기 위한 도면이다.
도 8은 일 실시 예에 따른 전자 장치가 눈 반사 이미지를 처리하는 예를 설명하기 위한 흐름도이다.
도 9는 일 실시 예에 따른 적어도 두 개의 눈 반사 이미지를 획득하는 예를 설명하기 위한 도면이다.
도 10은 일 실시 예에 따른 적어도 두 개의 눈 반사 이미지를 처리하는 예를 설명하기 위한 도면이다.
도 11a는 일 실시 예에 따른 전자 장치가 매칭 함수를 추출하는 예를 설명하기 위한 흐름도이다.
도 11b는 일 실시 예에 따른 매칭 함수를 추출하기 위한 특징점 매칭을 설명하기 위한 도면이다.
도 12는 일 실시 예에 따른 전자 장치가 위치 조정 파라미터를 산출하는 예를 설명하기 위한 흐름도이다.
도 13a는 일 실시 예에 따른 위치 조정 파라미터를 산출하기 위한 특징점 매칭을 설명하기 위한 도면이다.
도 13b는 일 실시 예에 따른 위치 조정 파라미터에 기초하여 가상 이미지가 조정된 예를 설명하기 위한 도면이다.
도 14는 일 실시 예에 따른 전자 장치가 밝기 조정 파라미터를 산출하는 예를 설명하기 위한 흐름도이다.
도 15는 일 실시 예에 따른 밝기 조정 파라미터에 기초하여 가상 이미지가 조정된 예를 설명하기 위한 도면이다.

아래에서는 첨부한 도면을 참조하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 개시의 실시 예를 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 또한, 도면에서 본 개시를 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

본 개시에서 사용되는 용어는, 본 개시에서 언급되는 기능을 고려하여 현재 사용되는 일반적인 용어로 기재되었으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 다양한 다른 용어를 의미할 수 있다. 따라서 본 개시에서 사용되는 용어는 용어의 명칭만으로 해석되어서는 안되며, 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 해석되어야 한다.

또한, 제1, 제2 등의 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 구성 요소들은 이 용어들에 의해 한정되어서는 안 된다. 이 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하는 목적으로 사용된다.

또한, 본 개시에서 사용된 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것이며, 본 개시를 한정하려는 의도로 사용되는 것이 아니다. 단수의 표현은 문맥상 명백하게 단수를 뜻하지 않는 한, 복수의 의미를 포함한다. 또한, 명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성 요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성 요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다.

본 명세서, 특히, 특허 청구 범위에서 사용된 “상기” 및 이와 유사한 지시어는 단수 및 복수 모두를 지시하는 것일 수 있다. 또한, 본 개시에 따른 방법을 설명하는 단계들의 순서를 명백하게 지정하는 기재가 없다면, 기재된 단계들은 적당한 순서로 행해질 수 있다. 기재된 단계들의 기재 순서에 따라 본 개시가 한정되는 것은 아니다.

본 명세서에서 다양한 곳에 등장하는 "일부 실시 예에서" 또는 "일 실시 예에서" 등의 어구는 반드시 모두 동일한 실시 예를 가리키는 것은 아니다.

본 개시의 일부 실시 예는 기능적인 블록 구성들 및 다양한 처리 단계들로 나타내어질 수 있다. 이러한 기능 블록들의 일부 또는 전부는, 특정 기능들을 실행하는 다양한 개수의 하드웨어 및/또는 소프트웨어 구성들로 구현될 수 있다. 예를 들어, 본 개시의 기능 블록들은 하나 이상의 마이크로프로세서들에 의해 구현되거나, 소정의 기능을 위한 회로 구성들에 의해 구현될 수 있다. 또한, 예를 들어, 본 개시의 기능 블록들은 다양한 프로그래밍 또는 스크립팅 언어로 구현될 수 있다. 기능 블록들은 하나 이상의 프로세서들에서 실행되는 알고리즘으로 구현될 수 있다. 또한, 본 개시는 전자적인 환경 설정, 신호 처리, 및/또는 데이터 처리 등을 위하여 종래 기술을 채용할 수 있다. “매커니즘”, “요소”, “수단” 및 “구성”등과 같은 용어는 넓게 사용될 수 있으며, 기계적이고 물리적인 구성들로서 한정되는 것은 아니다.

또한, 도면에 도시된 구성 요소들 간의 연결 선 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것일 뿐이다. 실제 장치에서는 대체 가능하거나 추가된 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들에 의해 구성 요소들 간의 연결이 나타내어질 수 있다.

본 개시에서, '증강 현실(AR: Augmented Reality)'은 현실 세계의 물리적 환경 공간 내에 가상 이미지를 함께 보여주거나 현실 객체와 가상 이미지를 함께 보여주는 것을 의미한다.

아울러, '증강 현실 장치(Augmented Reality Device)'라 함은 '증강 현실(Augmented Reality)'을 표현할 수 있는 장치로서, 일반적으로 사용자가 안면부(顔面部)에 착용하는 안경 형상의 증강 현실 안경 장치(Augmented Reality Glasses) 뿐만 아니라, 두부(頭部)에 착용하는 헤드 마운트 디스플레이 장치 (HMD: Head Mounted Display Apparatus)나, 증강 현실 헬멧(Augmented Reality Helmet) 등을 포괄한다.

한편, '현실 장면(real scene)'이란 사용자가 증강 현실 장치를 통해서 보는 현실 세계의 장면으로서, 현실 객체(real world object)를 포함할 수 있다. 또한, '가상 이미지(virtual image)'는 광학 엔진을 통해 생성되는 이미지로 정적 이미지와 동적 이미지를 모두 포함할 수 있다. 이러한 가상 이미지는 현실 장면과 함께 관측되며, 현실 장면 속의 현실 객체에 대한 정보 또는 증강 현실 장치의 동작에 대한 정보나 제어 메뉴 등을 나타내는 이미지일 수 있다.

따라서, 일반적인 증강 현실 장치는 광원에서 생성된 광으로 구성되는 가상 이미지를 생성하기 위한 광학 엔진과 광학 엔진에서 생성된 가상 이미지를 사용자의 눈까지 안내하고 현실 세계의 장면도 함께 볼 수 있도록 투명한 재질로 형성된 도광판(Waveguide)을 구비한다. 전술한 바와 같이, 증강 현실 장치는 현실 세계의 장면도 함께 관측할 수 있어야 하므로 광학 엔진에서 생성된 광을 도광판을 통해 사용자의 눈까지 안내하기 위해서는 기본적으로 직진성을 가지는 광의 경로를 변경하기 위한 광학 소자(Optical element)가 필요하다. 이 때, 미러 등에 의한 반사를 이용하여 광 경로를 변경할 수도 있고, DOE(Diffractive optical element), HOE(Holographic optical element) 등과 같은 회절 소자에 의한 회절을 통해 광 경로를 변경할 수도 있으나 이에 한정되는 것은 아니다.

이하 첨부된 도면을 참고하여 본 개시를 상세히 설명하기로 한다.

도 1a는 전자 장치를 착용한 사용자 눈에 보이는 현실 장면과 가상 이미지의 예를 설명하기 위한 도면이다. 도 1b는 일 실시 예에 따라 조정된 가상 이미지를 출력함으로써 전자 장치를 착용한 사용자 눈에 보이는 현실 장면과 가상 이미지의 예를 설명하기 위한 도면이다.

일 실시 예에 따른 전자 장치(100)는 증강 현실 장치(Augmented Reality Device)일 수 있다. 예를 들어, 전자 장치(100)는, 사용자의 안면부(顔面部)에 착용 가능한 안경 형상으로 구현된 장치일 수 있다. 또한, 전자 장치(100)는 사용자의 두부(頭部)에 착용 가능한 고글, 헬멧, 모자 등의 형상으로 구현된 장치일 수 있으며, 이에 한정되는 것은 아니다.

일 실시 예에 따라, 전자 장치(100)는 증강 현실 서비스를 제공하는 경우, 가상 이미지의 가상 객체를 디스플레이(140, 도2)를 통해 출력할 수 있다. 이에 따라, 전자 장치(100)를 착용한 사용자는 현실 세계의 장면과 가상 객체를 함께 관측하게 된다.

예를 들어, 전자 장치(100)의 카메라 모듈(175)을 통해 획득되는 현실 장면(101)에 현실 객체(102)(예컨대, 테이블)가 있는 경우, 전자 장치(100)는 현실 객체(102)(예컨대, 테이블)의 위쪽에 구 형상의 가상 이미지(103)(예컨대, 지구본 형상)를 출력할 수 있다.

이에 따라, 전자 장치(100)를 착용한 사용자는 현실 객체(106)(예컨대, 테이블) 위 쪽에서 구 형상의 가상 객체(107)를 인식할 수 있다.

그러나, 사용자 눈에 보여지는 제1 영상(User View 1)(105)에서와 같이, 현실 객체(106)와 가상 객체(107) 간에 중첩되는 부분에서의 현실 객체의 색상, 명암 등으로 인해, 가상 객체에 의해 가려져야 할 현실 객체의 일부(108)가 사용자 눈에 인식될 수 있다. 또한, 가상 객체가 실제 객체 주변에 표시될 때 가상 객체의 위치가 실제 객체와 정합 되지 않는 경우, 가상 객체(107)와 실제 객체(106) 간의 불일치하는 부분(109)으로 인해 부자연스러운 가상 이미지가 사용자 눈에 인식될 수 있다.

일 실시 예에 따르면, 전자 장치(100)는 시선 추적 센서(152)를 통해 사용자 눈을 촬영함으로써 사용자 눈에 반사된 이미지를 획득하고, 사용자 눈에 반사된 이미지를 이용하여 가상 이미지가 현실 객체 주변에서 자연스럽게 인식될 수 있도록 가상 이미지를 조정하여 출력할 수 있다.

도 1b를 참조하면, 사용자 눈에 보여지는 제2 영상(User View 2)(110)에서와 같이, 가상 이미지(112)와 중첩되는 현실 객체(111)의 일부분이 사용자 눈에 인식되지 않음으로써, 가상 이미지(112)가 현실 객체(111) 위쪽에 실제 놓여진 것과 같이 사용자 눈에 인식될 수 있다.

일 실시 예에 따르면, 전자 장치(100)는 사용자 눈에 반사된 이미지를 이용하여, 가상 이미지의 밝기, 색상 등을 조정하고 가상 이미지가 표시될 위치를 조정함으로써, 현실 객체들 사이에서 가상 객체가 자연스럽게 인식 될 수 있는 증강 현실 영상을 제공할 수 있다.

전자 장치(100)가 사용자 눈에 반사된 이미지를 이용하여 가상 이미지를 조정하여 출력하는 구체적인 방법에 대해서는 후술하는 도면들을 참조하여 설명하기로 한다.

도 2는 일 실시 예에 따른 전자 장치의 블록 구성도(block diagram)이다.

일 실시 예에 따라, 전자 장치(100)는, 통신 기능 및 데이터 프로세싱 기능을 구비한, 증강 현실(Augmented Reality) 영상을 제공하는 증강 현실 장치일 수 있으며, 이에 제한되지 않는다.

도 2를 참조하면, 일 실시 예에 따른 전자 장치(100)는 메모리(130) 및 프로세서(120), 디스플레이(140), 가변 렌즈부(145), 센싱부(150), 카메라 모듈(175), 통신부(180), 음향 출력부(185), 진동 모터(187), 마이크(188), 사용자 입력부(189)를 포함할 수 있다. 그러나, 도 2에 도시된 구성 요소 모두가 전자 장치(100)의 필수 구성 요소인 것은 아니다. 도 2에 도시된 구성 요소보다 많은 구성 요소에 의해 전자 장치(100)가 구현될 수도 있고, 도 2에 도시된 구성 요소보다 적은 구성 요소에 의해 전자 장치(100)가 구현될 수도 있다.

전자 장치(100)의 프로세서(120)는, 메모리(130)에 저장된 프로그램들을 실행함으로써, 디스플레이(140), 가변 렌즈부(145), 센싱부(150), 카메라 모듈(175), 통신부(180), 음향 출력부(185), 진동 모터(187), 마이크(188), 사용자 입력부(189) 등을 전반적으로 제어할 수 있다.

일 실시 예에 따른 메모리(130)는 프로세서(120)에 의해 실행될 프로그램을 저장할 수 있고, 전자 장치(100)로 입력되거나 전자 장치(100)로부터 출력되는 데이터를 저장할 수 있다.

메모리(130)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.

메모리(130)에 저장된 프로그램들은 그 기능에 따라 복수 개의 소프트웨어 모듈들로 분류할 수 있는데, 예를 들어, 눈 반사 이미지 획득 모듈(132), 위치 조정 파라미터 산출 모듈(136), 밝기 조정 파라미터 산출 모듈(137), 가상 이미지 조정 모듈(138)을 포함할 수 있으나, 이에 한정되는 것은 아니며, 이 중 일부를 저장하거나 다른 소프트웨어 모듈을 더 포함할 수 있다. 도 3에 도시한 바와 같이, 메모리(130)에 저장된 프로그램들은 가상 이미지 생성 모듈(131), 매칭 함수 추출 모듈(133), 눈 반사 현실 장면 이미지 처리 모듈(134), 가상 이미지가 포함된 눈 반사 현실 장면 이미지 처리 모듈(135)을 더 포함할 수 있다.

프로세서(120)는 전자 장치(100)의 전반적인 동작을 제어한다. 프로세서(120)는, 메모리(130)에 저장된 명령어들이나 프로그램들을 실행함으로써, 전자 장치(100)가 수행하는 동작이나 기능을 제어할 수 있다.

일 실시 예에 따라, 프로세서(120)는 하나 또는 복수의 프로세서로 구성될 수 있다. 프로세서(120)는 예를 들어, 중앙 처리 장치(Central Processing Unit), 마이크로 프로세서(microprocessor), 그래픽 프로세서(Graphic Processing Unit), ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), 및 FPGAs(Field Programmable Gate Arrays) 중 적어도 하나의 하드웨어로 구성될 수 있으나, 이에 한정되는 것은 아니다.

프로세서(120)가 메모리(130)에 저장된 프로그램들을 실행하는 구체적인 동작들에 대해서는 도 3에 관한 설명에서 설명하기로 한다.

디스플레이(140)는 프로세서(120)에서 처리되는 정보를 출력할 수 있다. 예를 들어, 디스플레이(140)는, 가상 객체를 표시할 수 있다.

일 실시 예에 의하면, 디스플레이(140)는 AR(Augmented Reality) 영상을 제공할 수 있다. 일 실시 예에 따른 디스플레이(140)는 웨이브 가이드(142)와 광학 엔진(141)을 포함할 수 있다.

웨이브 가이드(142)는 사용자가 전자 장치(100)를 착용할 때, 배면의 일부 영역이 보이는 투명한 소재로 구성될 수 있다. 웨이브 가이드(142)는 광이 내부에서 반사되면서 전파될 수 있는 투명 재질의 단층 혹은 다층 구조의 평판으로 구성될 수 있다. 웨이브 가이드(142)는 광학 엔진(141)의 출사면에 마주하여 광학 엔진(141)으로부터 투사된 가상 이미지의 광을 입력 받을 수 있다. 여기서, 투명 재질이라 함은, 광이 통과될 수 있는 재질이라는 의미이며, 투명도가 100%가 아닐 수 있으며, 소정의 색상을 지닐 수도 있다.

일 실시 예에서, 웨이브 가이드(142)는 투명 재질로 형성됨에 따라, 사용자는 디스플레이(140)를 통해 가상 이미지의 가상 객체를 볼 수 있을 뿐만 아니라, 외부 실제 장면(scene)을 볼 수도 있으므로, 웨이브 가이드(142)는 시스루 디스플레이(see through display)로 지칭될 수 있다. 디스플레이(140)는 웨이브 가이드(142)를 통해 가상 이미지의 가상 객체를 출력함으로써, 증강 현실(augmented reality) 영상을 제공할 수 있다.

가변 렌즈부(145)는 사용자 눈의 시야 결함을 보조하기 위해 전자 장치(100)에 장착될 수 있다. 가변 렌즈부(145)는 사용자의 눈을 마주보도록 웨이브 가이드(142)와 중첩되게 배열될 수 있다. 가변 렌즈부(145)는 일반적으로 액체 렌즈 또는 액정 렌즈로 구현될 수 있다. 예를 들어, 가변 렌즈부(145)는 플렉시블한 플라스틱 막(flexible plastic membrane)이 투명한 유체(transparent fluid)를 감싸는 형태의 액체 렌즈로 구현될 수 있다. 가변 렌즈부(145)에 가해지는 전기적 신호에 따라 가변 렌즈부(145) 내의 유체가 이동함으로써, 가변 렌즈부(145)의 굴절력이 변경될 수 있다. 다른 예로, 가변 렌즈부(145)는 투명한 액정(Liquid crystal)층 양면에 투명한 전극을 설치하는 형태의 액정 렌즈로 구현될 수 있다. 투명한 전극에 가해지는 전기적 신호에 따라 액정층 내의 액정의 배열이 변경됨으로써, 액정 렌즈를 통과하는 광의 경로가 변경되고 이에 따라 가변 렌즈부(145)의 굴절력이 변경될 수 있다.

예를 들어, 가변 렌즈부(1350)의 굴절력이 디옵터 값(예를 들어,…-3D,-2D,-1D,0,1D,2D,3D…)에 대응되도록, 전극에 인가되는 전기적 신호 또는 전압값이 미리 설정될 수 있으며, 전기적 신호 또는 전압이 전극에 인가되면 대응되는 디옵터의 굴절력이 가변 렌즈부(145)에 적용될 수 있다. 하지만, 이에 제한되지 않으며, 예를 들어, 가변 렌즈부(145)의 굴절력이 연속적인 값으로 변경될 수 있도록 전극에 인가되는 전기적 신호 또는 전압 값이 미리 설정될 수도 있다.

전자 장치(100)가 안경 형태의 장치인 경우에, 가변 렌즈부(145)는 좌안용 가변 렌즈부 및 우안용 가변 렌즈부를 포함할 수 있다.

센싱부(150)는 움직임 센서(151), 시선 추적 센서(152), 깊이 센서(153)를 포함할 수 있다.

움직임 센서(151)는 IMU(Inertial Measurement Unit)일 수 있다. IMU는, 3차원 공간에서의 물체의 움직임 즉, 위치 및 배향 변화들을 감지하도록 구성되는 센서들의 조합일 수 있다. 예를 들어, 센서들의 조합은, 가속도계, 각속도계, 지자기계, 및 자이로스코프를 포함할 수 있다.

또한, 움직임 센서(155)는 가속도 센서(Acceleration sensor), 지자기 센서(Magnetic sensor), 또는 자이로스코프 센서 중 적어도 하나를 포함할 수 있다.

시선 추적 센서(152)는 사용자 눈의 시선 정보를 검출할 수 있다. 일 실시 예에 따라, 시선 정보는, 사용자 눈이 바라보는 시선 방향, 사용자 눈의 동공 위치 또는 동공의 중심점 좌표 중 적어도 하나를 포함할 할 수 있다.

시선 추적 센서(152)는, 사용자의 눈(왼쪽 눈 또는 오른쪽 눈)에 광을 제공하고, 사용자의 눈으로부터 반사된 광량을 감지할 수 있다. 시선 추적 센서(152)는, 감지된 광량에 기초하여, 사용자의 눈의 시선 방향, 사용자 눈의 동공 위치, 동공의 중심점 좌표 등을 검출할 수 있다.

또는, 시선 추적 센서(152)는, 사용자의 눈에 광을 제공하고, 사용자의 눈을 촬영할 수 있다. 시선 추적 센서(152)는 촬영된 사용자의 눈 영상에 기초하여, 사용자의 눈의 시선 방향, 사용자 눈의 동공 위치, 동공의 중심점 좌표 등을 검출할 수 있다.

일 실시 예에 따라, 시선 추적 센서(152)는 사용자의 눈을 촬영함으로써 사용자 눈에 반사된 이미지를 획득할 수 있다.

깊이 센서(153)는 현실 세계에 포함되는 하나 이상의 객체들에 대한 깊이 정보를 획득할 수 있다. 깊이 정보는, 깊이 센서(153)로부터 특정 객체까지의 거리에 대응할 수 있다. 일 실시 예에 따른 깊이 센서(153)로부터 특정 객체까지의 거리가 멀수록 깊이 값은 커질 수 있다.

일 실시 예에 따른 깊이 센서(153)는 다양한 방식으로 객체의 깊이 정보를 획득할 수 있다. 예를 들어, 깊이 센서(153)는 TOF(Time of flight) 방식, 구조화된 광(Structured Light) 방식, 스테레오 이미지(Stereo Image) 방식 중 적어도 하나의 방식을 이용하여, 깊이 정보를 획득할 수 있다. 스테레오 이미지 방식의 깊이 센서(153)는 일반적으로 2개 이상의 복수의 카메라로 구성된다.

일 실시 예에 따라, 깊이 센서(153)는 전자 장치(100)를 착용한 사용자가 웨이브 가이드(142)를 통해 바라보는 현실 장면에 포함된 현실 객체의 깊이 정보를 센싱할 수 있다. 프로세서(120)는 깊이 센서(153)를 통해 센싱된 현실 객체의 깊이 정보에 기초하여 전자 장치(100) 전방의 현실 객체의 유무, 현실 객체의 방향, 거리 등을 획득할 수 있다.

또한, 깊이 센서(153)는 전자 장치(100)를 착용한 사용자 손의 손가락들의 깊이 정보를 센싱할 수 있다. 프로세서(120)는 깊이 센서(153)를 통해 센싱된 손가락들의 깊이 정보에 기초하여 사용자 손의 모양, 손이 움직이는 패턴 등을 인식함으로써 사용자 손의 제스처 입력을 획득할 수 있다.

카메라 모듈(175)은 전자 장치(100)의 주변을 촬영할 수 있다. 카메라 모듈(175)은 촬영 기능을 요구하는 애플리케이션이 실행되는 경우에 이미지 센서를 통해 정지 영상 또는 동영상 등의 화상 프레임을 획득할 수 있다.

이미지 센서를 통해 캡쳐된 이미지는 프로세서(120) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다. 또한, 캡쳐된 이미지는 디스플레이(140)를 통해 표시될 수 있다.

또한, 프로세서(120) 또는 별도의 이미지 처리부(미도시)에서 처리된 화상 프레임은 메모리(130)에 저장되거나 통신부(180)를 통하여 외부로 전송될 수 있다. 카메라 모듈(175)은 전자 장치(100)의 구성 태양에 따라 2개 이상이 구비될 수도 있다.

일 실시 예에 따라, 카메라 모듈(175)은 전자 장치(100)의 주변을 촬영함으로써, 현실 장면을 포함하는 이미지를 획득할 수 있다.

통신부(180)는 전자 장치(100)와 외부 서버(200) 또는 외부 장치(미도시) 간의 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다.

예를 들어, 통신부(180)는, 근거리 통신부, 이동 통신부를 포함할 수 있다.

근거리 통신부는, 블루투스 통신부, 근거리 무선 통신부(NFC/RFID 부), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.

이동 통신부는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

음향 출력부(185)는 통신부(180)로부터 수신되거나 메모리(130)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(185)는 전자 장치(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다.

일 실시 예에 따른 음향 출력부(185)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다. 일 실시 예에 따른 음향 출력부(185)는 전자 장치(100)에 장착되어 있거나 탈부착 가능한 이어폰 형태로 구현될 수 있다. 또한, 일 실시 예에 따른 음향 출력부(185)는 골전도 방식으로 음향을 출력할 수 있다.

진동 모터(187)는 진동 신호를 출력할 수 있다. 예를 들어, 진동 모터(187)는 오디오 데이터 또는 비디오 데이터(예컨대, 호신호 수신음, 메시지 수신음 등)의 출력에 대응하는 진동 신호를 출력할 수 있다. 또한, 진동 모터(187)는 사용자 입력부(195)로부터 사용자 입력이 수신되는 경우 진동 신호를 출력할 수도 있다. 또한, 진동 모터(187)는 전자 장치(100)가 진동 모드로 동작할 때 알림을 진동으로 제공할 수 있다.

마이크(188)는 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크(188)은 외부 디바이스 또는 화자로부터의 음향 신호를 수신할 수 있다. 또한, 마이크(188)는 전자 장치(100)를 제어하기 위한 사용자의 음성 입력을 수신할 수 있다. 마이크(188)는 외부의 음향 신호를 입력 받는 과정에서 발생 되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘을 이용할 수 있다.

사용자 입력부(189)는, 사용자가 전자 장치(100)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(189)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠 또는 조그 스위치 중 적어도 하나를 포함할 수 있으나 이에 한정되는 것은 아니다.

도 3은 일 실시 예에 따른 전자 장치의 동작을 설명하기 위한 블록도이다.

프로세서(120)는 메모리(130)에 저장된 가상 이미지 생성 모듈(131)을 실행함으로써, 가상 이미지를 생성할 수 있다.

일 실시 예에 따라, 프로세서(120)는 가상 객체의 표시가 요구되는 소정 애플리케이션이 실행되는 경우에, 소정 가상 이미지의 표시가 요구되는 위치에서 출력될 가상 이미지를 생성할 수 있다.

프로세서(120)는 소정 애플리케이션이 실행되는 경우에, 카메라 모듈(175)에 의해 획득되는 현실 장면에 기초하여, 현실 장면 중 관심 영역에서 가상 이미지가 관측될 수 있도록, 웨이브 가이드(142, 도2)를 통해 가상 이미지가 출력되도록 광학 엔진을 제어할 수 있다.

프로세서(120)는 메모리(130)에 저장된 눈 반사 이미지 획득 모듈(132)을 실행함으로써, 시선 추적 센서(152)를 통해 눈 반사 이미지를 획득할 수 있다.

일 실시 예에 따라, 눈 반사 이미지는, 시선 추적 센서(152)를 통해 사용자 눈을 촬영함으로써 획득되는, 사용자 눈에 반사되는 이미지를 의미할 수 있다. 사용자 눈에 대한 빛 반사에 의해, 눈 반사 이미지에는 사용자 눈에서 관측되는 장면이 포함될 수 있다.

일 실시 예에 따라, 프로세서(120)는 소정 시간 간격(예컨대, 매우 빠른 시간 간격)으로 연속적으로 적어도 두 개의 눈 반사 이미지를 획득할 수 있다. 프로세서(120)는 적어도 두 개의 눈 반사 이미지에 기초하여, 가상 이미지가 포함된 눈 반사 현실 장면 이미지, 눈 반사 현실 장면 이미지 및 눈 반사 가상 이미지를 추출할 수 있다.

일 실시 예에 따라, 가상 이미지가 포함된 눈 반사 현실 장면 이미지는, 전자 장치(100)를 착용한 사용자가 관측하는 현실 장면과 가상 이미지가 포함된 이미지를 의미할 수 있다. 프로세서(120)가 소정의 가상 이미지를 출력할 때, 눈 반사 이미지에는, 현실 장면과 가상 이미지의 적어도 일부가 포함될 수 있다.

일 실시 예에 따라, 눈 반사 현실 장면 이미지는, 가상 이미지가 포함된 눈 반사 현실 장면 이미지로부터, 소정 영상 처리를 통해 가상 이미지가 제외된 이미지를 의미할 수 있다.

일 실시 예에 따라, 눈 반사 가상 이미지는, 가상 이미지가 포함된 눈 반사 현실 장면 이미지로부터, 소정 영상 처리를 통해 현실 장면이 제외된 이미지를 의미할 수 있다.

일 실시 예에 따라 프로세서(120)가 적어도 두 개의 눈 반사 이미지에 기초하여, 가상 이미지가 포함된 눈 반사 현실 장면 이미지, 눈 반사 현실 장면 이미지 및 눈 반사 가상 이미지를 추출하는 방법에 대해서는 후술하는 도 8 내지 10을 참조하여 설명하기로 한다.

프로세서(120)는 메모리(130)에 저장된 매칭 함수 추출 모듈(133)을 실행함으로써, 가상 이미지와 눈 반사 가상 이미지 간의 매칭 함수를 추출할 수 있다.

일 실시 예에 따라, 프로세서(120)는 가상 이미지 생성 모듈(131)에 의해 생성된 가상 이미지와 눈 반사 이미지 획득 모듈(132)에 의해 획득된 눈 반사 가상 이미지 간의 좌표 매칭을 이용하여, 매칭 함수를 추출할 수 있다.

일 실시 예에 따라, 매칭 함수는, 프로세서(120)가 생성한 가상 이미지로부터 획득된 특징점과 시선 추적 센서(152)에 의한 눈 반사 이미지로부터 추출된 가상 이미지로부터 획득된 특징점 간의 좌표 매칭을 통해 추출될 수 있다.

일 실시 예에 따라, 프로세서(120)는 매칭 함수를 이용하여, 시선 추적 센서(152)에 의해 획득된 눈 반사 이미지로부터, 구 형상의 눈에 반사됨으로써 왜곡된 부분을 보정한 왜곡되지 않은 이미지를 추출할 수 있다.

프로세서(120)는 메모리(130)에 저장된 눈 반사 현실 장면 이미지 처리 모듈(134)을 실행함으로써, 매칭 함수를 이용하여, 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 눈 반사 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 프로세서(120)는 매칭 함수 추출 모듈(133)을 통해 획득된 매칭 함수를 이용하여, 눈 반사 이미지 획득 모듈(132)에 의해 획득된 눈 반사 현실 장면 이미지에 기초하여, 구 형상의 눈에 반사됨으로써 왜곡된 부분을 보정한 왜곡되지 않은 이미지를 추출할 수 있다.

프로세서(120)는 메모리(130)에 저장된 가상 이미지가 포함된 눈 반사 현실 장면 이미지 처리 모듈(135)을 실행함으로써, 매칭 함수를 이용하여, 가상 이미지가 포함된 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 눈 반사 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 프로세서(120)는 매칭 함수 추출 모듈(133)을 통해 획득된 매칭 함수를 이용하여, 눈 반사 이미지 획득 모듈(132)에 의해 획득된, 가상 이미지가 포함된 눈 반사 현실 장면 이미지에 기초하여, 구 형상의 눈에 반사됨으로써 왜곡된 부분을 보정한 왜곡되지 않은 이미지를 추출할 수 있다.

프로세서(120)는 메모리(130)에 저장된 위치 조정 파라미터 산출 모듈(136)을 실행함으로써, 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터를 산출할 수 있다.

일 실시 예에 따라, 프로세서(120)는 카메라 모듈(175)을 통해 현실 장면 이미지를 획득할 수 있다.

프로세서(120)는 눈 반사 현실 장면 이미지 처리 모듈(134)에 의해 획득된 왜곡되지 않은 눈 반사 현실 장면 이미지와, 카메라 모듈(175)을 이용하여 획득된 현실 장면 이미지 간의 특징점 매칭에 기초하여, 현실 장면 이미지를 보정할 수 있다.

프로세서(120)는 보정된 현실 장면 이미지에 포함된 현실 객체와 가상 객체 간의 위치 정합을 위해, 가상 객체의 표시 위치를 조정하기 위한 위치 조정 파라미터를 산출할 수 있다.

프로세서(120)는 메모리(130)에 저장된 밝기 조정 파라미터 산출 모듈(137)을 실행함으로써, 가상 이미지의 밝기를 조정하기 위한 밝기 조정 파라미터를 산출할 수 있다.

일 실시 예에 따라, 프로세서(120)는 카메라 모듈(175)을 통해 현실 장면 이미지를 획득할 수 있다.

프로세서(120)는 가상 이미지가 포함된 눈 반사 현실 장면 이미지 처리 모듈(135)에 의해 획득된 왜곡되지 않은 이미지와, 카메라 모듈(175)을 이용하여 획득된 현실 장면 이미지를 이용하여, 밝기 조정 파라미터를 산출할 수 있다.

일 실시 예에 따라, 프로세서(120)는 현실 장면 이미지에 포함된 현실 객체들 사이에서 가상 객체가 투명하게 보이지 않도록, 가상 객체의 밝기, 색상 등을 조정하기 위한 밝기 조정 파라미터를 산출 할 수 있다.

프로세서(120)는 메모리(130)에 저장된 가상 이미지 조정 모듈(138)을 실행함으로써, 위치 조정 파라미터와 밝기 조정 파라미터에 기초하여, 가상 이미지를 조정할 수 있다.

일 실시 예에 따라, 프로세서(120)는, 가상 이미지의 표시 위치가 현실 객체의 위치와 정합 될 수 있도록, 위치 조정 파라미터에 기초하여 가상 이미지를 조정할 수 있다. 프로세서(120)는 위치 조정 파라미터에 기초하여 가상 이미지가 표시될 위치를 조정할 수 있다.

또한, 프로세서(120)는 가상 이미지에 의해 중첩되어 가려지는 현실 객체의 일부분이 사용자 눈에 인식되지 않도록, 밝기 조정 파라미터에 기초하여 가상 이미지를 조정할 수 있다. 프로세서(120)는 밝기 조정 파라미터에 기초하여 가상 이미지의 밝기, 색상 등을 조정할 수 있다.

도 4a는 일 실시 예에 따른 전자 장치의 예시를 나타내는 도면이다.

도 4a는 일 실시 예에 따른 증강 현실 장치의 예시를 나타내는 도면이다. 도 2의 전자 장치(100)는, 예를 들어, 도 4a와 같은, 사용자가 착용할 수 있도록 구성된 안경형 몸체를 포함하는 안경형 디스플레이 장치로 구현될 수 있으나, 이에 제한되지 않는다.

안경형 몸체는, 프레임(110) 및 안경 다리부(190)를 포함할 수 있다. 안경 다리부(190)는 좌측 다리부(190L)와 우측 다리부(190R)를 포함하며, 프레임(110)의 양 단부(end pieces)에 각각 연결될 수 있다.

또한, 프레임(110)에는 가변 렌즈부(145) 및 웨이브 가이드(142)가 배치될 수 있다. 가변 렌즈부(145)는 좌안용 가변 렌즈부(145L) 및 우안용 가변 렌즈부(145R)를 포함할 수 있다. 또한, 웨이브 가이드(142)는 투사된 광을 입력 영역에서 입력 받고 입력된 광의 적어도 일부를 출력 영역에서 출력하도록 구성될 수 있다. 이러한 웨이브 가이드(142)는 좌안용 웨이브 가이드(142L) 및 우안용 웨이브 가이드(142R)를 포함할 수 있다.

좌안용 가변 렌즈부(145L) 및 좌안용 웨이브 가이드(142L)가 사용자의 좌안에 대응되는 위치에 배치될 수 있으며, 우안용 가변 렌즈부(145R) 및 우안용 웨이브 가이드(142R)가 사용자의 우안에 대응되는 위치에 배치될 수 있다. 예를 들어, 좌안용 가변 렌즈부(145L)와 좌안용 웨이브 가이드(142L)가 서로 부착되거나, 우안용 가변 렌즈부(145R) 및 우안용 웨이브 가이드(142R)가 서로 부착될 수 있으나, 이에 제한되지 않는다.

또한, 화상을 담은 광을 투사하는 프로젝터를 포함하는 광학 엔진(141)은 좌안용 광학 엔진(141L) 및 우안용 광학 엔진(141R)을 포함할 수 있다. 좌안용 광학 엔진(141L) 및 우안용 광학 엔진(141R)은 프레임(110)의 양 단부(end pieces)에 위치할 수 있다. 광학 엔진(141)으로부터 출사된 광은 웨이브 가이드(142)을 통해 표시될 수 있다.

또한, 전자 장치(100)는 사용자의 시선을 추적하기 위하여, 시선 추적 센서(152)를 포함할 수 있다. 일 실시 예에 따른 시선 추적 센서(152)는 사용자의 왼쪽 눈의 시선을 추적하기 위한 제1 시선 추적 센서(152L) 및 오른쪽 눈의 시선을 추적하기 위한 제2 시선 추적 센서(152R)를 포함할 수 있다.

도 4b는 일 실시 예에 따른 광학 엔진(141) 및 웨이브 가이드(142)를 설명하기 위한 도면이다.

광학 엔진(141)은 가상 이미지의 광을 생성하도록 구성되고, 화상 패널, 투사 광학계 등을 포함하는 프로젝터(projector)를 포함할 수 있다.

광학 엔진(141)은 광을 출력하는 광원, 광원으로부터 출력되는 광을 이용하여 2차원의 가상 이미지를 형성하는 화상 패널, 및 화상 패널에서 형성되는 가상 이미지의 광을 투사하는 투사 광학계를 포함할 수 있다. 광원은 광을 조명하는 광학 부품으로서, RGB의 컬러를 조절하여 광을 생성할 수 있다. 광원은 예를 들어, 발광 다이오드(LED)로 구성될 수 있다. 화상 패널은 광원에 의해 조명된 광을 2차원 이미지를 담은 광으로 변조하면서, 반사하는 반사형 화상 패널로 구성될 수 있다. 반사형 화상 패널은 예를 들어, DMD(Digital Micromirror Device) 패널 또는 LCoS(Liquid Crystal on Silicon) 패널이나, 그 밖의 공지의 반사형 화상 패널일 수 있다. 투사 광학계는 화상 패널에 의해 반사된 이미지를 담은 광을 웨이브 가이드(142)에 투사하는 구성 요소로서, 하나 또는 복수의 투사 렌즈들을 포함할 수 있다.

광학 엔진(141)은 프로세서(120)로부터 가상 이미지를 구성하는 이미지 데이터를 획득하고, 획득된 이미지 데이터에 기초하여 가상 이미지를 생성하고, 광원으로부터 출력된 가상 이미지를 구성하는 광을 출사면(1140)을 통해 웨이브 가이드(142)에 투사(project)할 수 있다. 프로세서(120)는 가상 이미지를 구성하는 복수의 픽셀의 RGB 컬러 및 휘도 값을 포함하는 이미지 데이터를 광학 엔진(141)에 제공하고, 광학 엔진(141)은 복수의 픽셀 각각의 RGB 컬러 값과 휘도 값에 따라, 광원을 제어함으로써 가상 이미지를 구성하는 광을 웨이브 가이드(142)에 투사할 수 있다. 광학 엔진(141)은 광원이 백색광으로 조명되는 광학적으로 활성인 물질에 의해 변조되는 투과성 투사 기술(transmissive projection technology)을 이용하여 가상 이미지를 투사할 수 있다.

웨이브 가이드(142)는 사용자가 전자 장치(100)를 착용할 때, 배면의 일부 영역이 보이는 투명한 소재로 구성될 수 있다. 웨이브 가이드(142)의 배면은 사용자가 전자 장치(100)를 착용할 때, 사용자의 눈이 마주하는 면을 의미하고, 웨이브 가이드(142)의 전면은 상기 배면에 대향되는 면(즉, 사용자의 눈에서 먼 쪽)을 의미한다.

일 실시 예에 따라, 웨이브 가이드(142)는 광이 내부에서 반사되면서 전파될 수 있는 투명 재질의 단층 혹은 다층 구조의 평판으로 구성될 수 있다. 웨이브 가이드(142)는 광학 엔진(141)의 출사면(1310)에 마주하여 투사된 가상 이미지(VI)를 구성하는 광을 입력 받는 제1 영역(1110), 제1 영역(1110)에 입사된 가상 이미지(VI)를 구성하는 광이 전파되는 제2 영역(1120), 및 제2 영역(1120)에서 전파되는 가상 이미지(VI)의 광을 사용자의 눈 방향으로 출력하는 제3 영역(1130)을 포함할 수 있다.

제1 영역(1110), 제2 영역(1120), 및 제3 영역(1130)에는 가상 이미지(VI)를 구성하는 광의 광 경로를 변경할 수 있도록 하는 회절 격자가 형성될 수 있다. 웨이브 가이드(142)는 제1 영역(1110), 제2 영역(1120), 및 제3 영역(1130)에 형성된 회절 격자를 이용하여, 가상 이미지(VI)의 광의 전파 경로를 변경하고, 최종적으로는 제3 영역(1130)을 통해 반사된 가상 이미지(VI)의 광이 사용자의 눈으로 출력될 수 있도록 도광판의 기능을 수행할 수 있다.

도 5a는 일 실시 예에 따른 시선 추적 센서의 동작 방법을 설명하기 위한 도면이다.

도 5a는 사용자의 눈에서 반사되는 반사광의 광량에 기초하여, 사용자의 시선을 추적하는 방법을 설명하기 위한 도면이다.

일 실시 예에 따른 제1 시선 추적 센서(152L) 및 제2 시선 추적 센서(152R)는 동일한 구조를 가지며, 동일한 방식으로 동작하므로, 도 4a에서는, 제1 시선 추적 센서(152L)를 기준으로 설명하기로 한다.

도 5a를 참조하면, 일 실시 예에 따른 제1 시선 추적 센서(152L)는 사용자의 눈에 광을 제공하는 조명부(301)와 광을 감지하는 감지부(302)를 포함할 수 있다. 조명부(301)는 광을 제공하는 광원과 광원으로부터 제공되는 광의 방향을 제어하는 스캐닝 미러를 포함할 수 있다. 스캐닝 미러는, 광원으로부터 제공되는 광을 전자 장치(100)를 착용한 사용자의 눈(320)(예를 들어, 각막(310))을 향하도록 방향을 제어할 수 있다. 스캐닝 미러는 광원으로부터 제공되는 광을 반사시켜 사용자의 눈(320)을 향하도록 반사 각도를 기계적으로 변경할 수 있는 구조를 포함하며, 변경되는 반사 각도에 따라 광원으로부터 제공되는 광을 이용하여 각막(310)을 포함하는 영역을 스캔할 수 있다.

감지부(302)는 사용자의 눈(320)으로부터 반사되는 광을 감지할 수 있으며, 감지되는 광량을 측정할 수 있다. 예를 들어, 사용자의 각막(310)의 중심에서 광이 반사될 때, 감지부(302)에서 감지되는 광량이 최대일 수 있다. 이에 따라, 제1 시선 추적 센서(152L)는, 감지부(302)에서 감지되는 광량이 최대인 경우에, 사용자의 눈에 광이 입사되고 반사되는 지점에 기초하여, 사용자 눈의 시선 방향(340)을 결정할 수 있다. 예를 들어, 제1 시선 추적 센서(152L)는 광량이 최대인 경우에, 사용자의 눈에 광이 입사되고, 반사되는 지점(330)과 사용자의 눈(320)의 중심점을 연결한 방향(340)을 사용자의 눈(예를 들어, 사용자의 왼쪽 눈)의 시선 방향으로 결정할 수 있다. 다만, 이에 한정되지 않는다.

또한, 제2 시선 추적 센서(152R)도, 도 4a에서 설명한 방법과 동일한 방법으로, 사용자의 눈(예를 들어, 오른쪽 눈)의 시선 방향을 결정할 수 있다.

도 5b는 다른 일 실시 예에 따른 시선 추적 센서의 동작 방법을 설명하기 위한 도면이다. 다른 일 실시 예에 따른 제1 시선 추적 센서(152L)는, 조명부(351) 및 촬영부(352)를 포함할 수 있다.

도 5b는 사용자의 눈에서 반사되는 반사광의 위치에 기초하여, 사용자의 시선을 추적하는 방법을 설명하기 위한 도면이다.

일 실시 예에 따른 조명부(351)는 적외선 발광 다이오드(IR LED)등을 포함할 수 있다. 도 5b에 도시된 바와 같이, 조명부(351)는 서로 다른 위치에 배치된 복수의 발광 다이오드를 포함할 수 있다. 조명부(351)는 사용자의 눈을 촬영할 때, 사용자의 눈에 광(예를 들어, 적외선 광)을 제공할 수 있다. 사용자의 눈에 광이 제공됨에 따라, 사용자의 눈에는 반사광이 생성될 수 있다.

또한, 촬영부(352)는 적어도 하나의 카메라를 포함할 수 있으며, 이때, 적어도 하나의 카메라는 적외선 카메라(IR)를 포함할 수 있다. 전자 장치(100)는, 촬영부(352)에서 촬영된 사용자의 눈 영상을 이용하여, 사용자의 눈(예를 들어, 사용자의 왼쪽 눈)의 시선을 추적할 수 있다. 예를 들어, 제1 시선 추적 센서(152L)는, 사용자의 눈 영상에서 동공과 반사광을 검출함으로써, 사용자의 시선을 추적할 수 있다. 제1 시선 추적 센서(152L)는, 사용자의 눈 영상에서 동공 및 반사광의 위치를 검출하고, 동공의 위치와, 반사광의 위치 사이의 관계에 기초하여, 사용자의 눈의 시선 방향을 결정할 수 있다.

예를 들어, 제1 시선 추적 센서(152L)는, 촬영된 제1 눈 영상(361)에서, 동공(370) 및 반사광(381)을 검출하고, 동공(370)의 위치와 반사광(381)의 위치 사이의 관계에 기초하여, 사용자의 눈의 시선 방향(391)을 결정할 수 있다. 동일한 방식으로, 제2 내지 제5 눈 영상들(362, 363, 364, 365) 각각에서 동공(370) 및 반사광(382, 383, 384, 385)을 검출하고, 동공의 위치와 반사광의 위치 사이의 관계에 기초하여, 사용자의 눈의 시선 방향(392, 393, 394, 395)을 결정할 수 있다.

또한, 제2 시선 추적 센서(152R)도, 도 4b에서 설명한 방법과 동일한 방법으로 사용자의 눈(예를 들어, 오른쪽 눈)의 시선 방향을 결정할 수 있다.

도 5c는 일 실시 예에 따른 사용자 눈 영상을 획득하는 방법을 설명하기 위한 도면이다.

일 실시 예에 따라, 시선 추적 센서(152)의 촬영부(352, 도5b)는 적어도 하나의 카메라를 포함할 수 있다. 전자 장치(100)는, 시선 추적 센서(152)를 이용하여 촬영된 사용자의 눈 영상으로부터, 소정 이미지 처리(image processing)를 수행함으로써 원형의 형태인 사용자 눈동자(pupil)의 각막 부분(501)을 검출하고 각막 부분에 대응하는 영역으로부터 눈 반사 이미지를 획득할 수 있다.

또한, 일 실시 예에 따라, 전자 장치(100)는 눈 영상으로부터 각막 부분을 인식하도록 인공 지능 알고리즘을 이용하여 학습된 학습 모델을 이용하여 사용자의 눈 영상으로부터 각막 부분(501)을 인식하고, 각막 부분에 대응하는 영역으로부터 눈 반사 이미지를 획득할 수도 있다.

사용자 눈에 빛이 반사됨으로써, 눈 반사 이미지에는 사용자 눈에서 관측되는 장면이 포함될 수 있다. 예를 들어, 눈 반사 이미지에는, 사용자 눈이 관측하고 있는 현실 장면이 포함될 수 있다. 또한, 눈 반사 이미지에는, 전자 장치(100)가 증강 현실 영상을 제공 중 일 때, 사용자 눈이 관측하고 있는 현실 장면과 함께 가상 이미지가 포함될 수 있다.

도 6은 일 실시 예에 따른 전자 장치가 가상 이미지를 조정하는 방법을 설명하기 위한 흐름도이다.

도 6의 S601에서, 전자 장치(100)는 가상 이미지가 웨이브가이드(142)를 통해 출력되도록 광학 엔진(141)을 제어할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 소정 애플리케이션의 실행에 따라 가상 이미지의 표시가 요구되는 경우에, 가상 이미지를 생성할 수 있다. 전자 장치(100)는 가상 이미지의 표시가 요구되는 현실 장면의 관심 영역에서 가상 이미지가 관측될 수 있도록 가상 이미지를 출력할 수 있다.

예를 들어, 전자 장치(100)는 현실 장면 내의 평면(plane)을 검출하고, 평면(plane) 상의 관심 영역에 가상 이미지의 오브젝트를 출력할 수 있다.또한, 예를 들어, 전자 장치(100)는 현실 장면 내의 현실 객체 예컨대, 사용자 얼굴 상에 가상 이미지(예컨대, 캐릭터 마스크 등)를 출력하기 위해, 사용자 얼굴의 특징(예컨대, 눈, 코, 입의 위치)을 검출하고 사용자 얼굴의 특징에 따라 가상 이미지를 적절한 위치에 출력할 수 있다.

도 6의 S602에서, 전자 장치(100)는 시선 추적 센서(152)를 통해 획득된 사용자의 눈 영상으로부터 눈 반사 이미지를 획득할 수 있다.

일 실시 예에 따라, 전자 장치(100)를 착용한 사용자가 현실 장면을 바라볼 때, 사용자는 현실 객체와 함께 가상 이미지를 관측할 수 있다. 이 때, 사용자 주변의 빛에 의해 사용자 눈에 반사된 이미지에는 사용자가 관측하고 있는 현실 객체와 가상 이미지가 포함될 수 있다.

전자 장치(100)는 시선 추적 센서(152)를 통해 사용자 눈을 촬영함으로써 획득된 사용자의 눈 영상으로부터 사용자 눈에 반사된 현실 장면을 포함하는 영역을 추출함으로써 눈 반사 이미지를 획득할 수 있다.

도 6의 S603에서, 전자 장치(100)는 눈 반사 이미지에 기초하여, 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터와 가상 이미지의 밝기를 조정하기 위한 밝기 조정 파라미터를 산출할 수 있다.

전자 장치(100)가 생성한 가상 이미지가 웨이브가이드(142)를 통해 출력될 때, 사용자 눈에 관측되는 가상 이미지 주변의 현실 객체의 색상, 명암, 현실 객체 주변의 밝기 등으로 인해, 가상 이미지와 현실 객체 간의 부조화가 발생할 수 있다. 예를 들어, 가상 이미지와 중첩되어 가려져야 할 현실 객체가 사용자 눈에 관측될 수 있다. 또한, 가상 이미지의 가상 객체를 현실 객체 주변에 표시하고자 하는 경우, 예를 들어, 가상 객체가 현실 객체 위에 올려진 것처럼 표시할 필요가 있을 때, 가상 객체의 표시 위치와 현실 객체 간의 위치 정합이 되지 않는다면, 가상 이미지와 현실 객체 간의 부조화가 발생할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 사용자의 눈 반사 이미지를 통해, 가상 이미지가 현실 장면 속에서 사용자 눈에 자연스럽게 인식되고 있는지 판단할 수 있다. 전자 장치(100)는 출력될 가상 이미지와 현실 객체 간의 이질감을 최소화할 수 있도록, 가상 이미지의 밝기, 색상을 조정하기 위한 밝기 조정 파라미터를 산출할 수 있다.

또한, 전자 장치(100)는 출력될 가상 이미지의 표시 위치가 현실 객체의 위치와 정합될 수 있도록, 가상 이미지의 위치를 조정하기 위한 위치 조정 파라미터를 산출할 수 있다.

도 6의 S604에서, 전자 장치(100)는 위치 조정 파라미터와 밝기 조정 파라미터에 기초하여, 가상 이미지를 조정할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 위치 조정 파라미터에 기초하여 가상 이미지의 표시 위치를 조정할 수 있다. 또한, 전자 장치(100)는 밝기 조정 파라미터에 기초하여 가상 이미지의 밝기, 색상 등을 조정할 수 있다.

예를 들어, 전자 장치(100)는 가상 이미지를 평면의 현실 객체 상에 출력할 때, 가상 이미지와 중첩되는 현실 객체 영역이 사용자 눈에 인식되지 않도록, 가상 이미지 중 현실 객체와 중첩되는 영역의 밝기, 색상을 조정하고 현실 객체와 중첩되는 영역의 경계선이 현실 객체의 형태와 정합되도록 가상 이미지의 표시 위치를 조정할 수 있다.

또한, 예를 들어, 전자 장치(100)는 현실 장면 내의 현실 객체 예컨대, 사용자 얼굴 상에 가상 이미지(예컨대, 캐릭터 마스크 등)를 출력할 때, 가상 이미지의 표시 위치가 사용자 얼굴의 특징(예컨대, 눈, 코, 입의 위치)에 따라 적절한 위치에 정합되도록 가상 이미지의 표시 위치를 조정할 수 있다.

도 6의 S605에서, 전자 장치(100)는 조정된 가상 이미지가 웨이브가이드(142)를 통해 출력되도록 광학 엔진(141)을 제어할 수 있다.

일 실시 예에 따라, 전자 장치(100)가 위치 조정 파라미터와 밝기 조정 파라미터에 기초하여 조정된 가상 이미지를 출력함으로써, 사용자는 현실 객체 주변에 가상 객체가 실재하는 것과 같이 자연스러운 증강 현실 영상을 관측할 수 있다.

도 7은 일 실시 예에 따른 전자 장치가 조정된 가상 이미지를 출력하는 예를 설명하기 위한 도면이다.

도 7에 도시한 바와 같이, 예를 들어, 현실 장면(701)의 테이블(702) 위에 구 형상의 가상 이미지를 출력할 때, 조정된 가상 이미지(703)를 출력함으로써, 구 형상의 가상 이미지(705)가 테이블(702) 위에 놓여진 것과 같이 사용자 눈에 인식될 수 있다.

조정된 가상 이미지(703)는, 구 형상의 가상 이미지가 표시될 위치에서 가상 이미지와 중첩되어 배경이 되는 현실 객체의 밝기, 색상 등에 기초하여, 가상 이미지의 밝기, 색상이 조정된 이미지 일 수 있다. 예를 들어, 전자 장치(100)는 가상 이미지가 표시될 위치에 기초하여, 어두운 색상의 테이블(702)과 중첩되는 가상 이미지의 일부분(704)에 대해 보다 밝게 조정할 수 있다.

또한, 전자 장치(100)는 가상 이미지가 표시될 위치에 기초하여, 테이블(702)과 중첩되는 가상 이미지의 일부분(704)의 경계선이 테이블(702)의 경계선과 위치 정합 될 수 있도록 가상 이미지의 위치를 조정할 수 있다.

도 6 내지 도 7은 일 실시 예를 도시한 것으로 이에 한정되지 않는다.

도 8은 일 실시 예에 따른 전자 장치가 눈 반사 이미지를 처리하는 예를 설명하기 위한 흐름도이다.

도 8의 S801에서, 전자 장치(100)는 소정 시간 간격으로 연속적으로 적어도 두 개의 눈 반사 이미지를 획득할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 시선 추적 센서(152)를 통해 소정 시간 간격(예컨대, 매우 빠른 시간 간격)으로 연속적으로 사용자 눈을 촬영함으로써 적어도 두 개의 눈 반사 이미지를 획득할 수 있다.

일 실시 예에 따라, 전자 장치(100)가 가상 이미지를 출력 할 때, 사용자 눈에 반사된 이미지에는 현실 장면과 함께 가상 이미지의 적어도 일부가 포함될 수 있다.

일 실시 예에 따라, 전자 장치(100)가 획득한 적어도 두 개의 눈 반사 이미지는 각각 가상 이미지를 부분적으로 포함할 수 있다. 제1 눈 반사 이미지는, 가상 이미지 중 제1 부분을 포함하고, 제2 눈 반사 이미지는, 가상 이미지 중 제1 부분을 제외한 제2 부분을 포함할 수 있다.

도 8의 S802에서, 전자 장치(100)는 적어도 두 개의 눈 반사 이미지에 기초하여, 가상 이미지가 포함된 눈 반사 현실 장면 이미지, 눈 반사 현실 장면 이미지 및 눈 반사 가상 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 제1 눈 반사 이미지와 제2 눈 반사 이미지를 이용하여, 가상 이미지가 포함된 현실 장면 이미지를 추출할 수 있다. 또한, 전자 장치(100)는 제1 눈 반사 이미지와 제2 눈 반사 이미지를 이용하여, 가상 이미지가 제외된 현실 장면 이미지를 추출할 수 있다. 또한, 전자 장치(100)는 가상 이미지가 포함된 현실 장면 이미지와 가상 이미지가 제외된 현실 장면 이미지에 기초하여, 가상 이미지 만을 추출할 수 있다.

도 9는 일 실시 예에 따른 적어도 두 개의 눈 반사 이미지를 획득하는 예를 설명하기 위한 도면이다.

일 실시 예에 따라, 전자 장치(100)는 디스플레이(140)를 통해 가상 이미지를 출력할 때, 스크린 상의 가로 선을 하나씩 내려가면서 스캔하는 래스터 스캔(raster scanning) 방식으로 출력할 수 있다.

도 9를 참조하면, 전자 장치(100)는 시선 추적 센서(152)를 통해 매우 빠른 속도로 사용자 눈을 연속적으로 촬영함으로써, 가상 이미지가 부분적으로 포함된 제1, 2 눈 반사 이미지(901, 903)를 획득할 수 있다.

전자 장치(100)를 착용한 사용자 눈에는 가상 이미지 전체가 인지되지만, 매우 빠른 속도로 연속적으로 사용자 눈이 촬영됨으로써 가상 이미지의 일부만 캡쳐된 이미지가 획득 될 수 있다. 예를 들어, 제1 눈 반사 이미지(901)에는 가상 이미지의 제1 부분(902)이 포함되고, 제2 눈 반사 이미지(903)에는 가상 이미지의 제2 부분(904)이 포함될 수 있다.

도 10은 일 실시 예에 따른 적어도 두 개의 눈 반사 이미지를 처리하는 예를 설명하기 위한 도면이다.

일 실시 예에 따라, 전자 장치(100)는 제1 눈 반사 이미지(901)와 제2 눈 반사 이미지(902)에 기초하여, 소정 영상 처리 알고리즘을 이용하여, 가상 이미지가 포함된 눈 반사 현실 장면 이미지, 눈 반사 현실 장면 이미지 및 눈 반사 가상 이미지를 추출할 수 있다.

예를 들어, 전자 장치(100)는 제1 눈 반사 이미지(901)와 제2 눈 반사 이미지(902)에 포함된 이미지를 모두 포함하는 이미지를 추출함으로써, 가상 이미지가 포함된 현실 장면 이미지(905)(I augmented = max (I1, I2))를 추출할 수 있다.

또한, 전자 장치(100)는 제1 눈 반사 이미지(901)와 제2 눈 반사 이미지(902)가 공통적으로 포함하는 이미지를 추출함으로써, 가상 이미지가 제외된 현실 장면 이미지(906)(I real_world = min (I1, I2)) 를 추출할 수 있다.

또한, 전자 장치(100)는 가상 이미지가 포함된 현실 장면 이미지(905)로부터 현실 장면 이미지(906)를 제외시킴으로써, 가상 이미지(907)(ICGI = max(I1, I2)-min(I1, I2))를 추출할 수 있다.

도 8 내지 도 10은 일 실시 예를 도시한 것으로 이에 한정되지 않는다.

도 11a는 일 실시 예에 따른 전자 장치가 매칭 함수를 추출하는 예를 설명하기 위한 흐름도이다.

도 11a의 S1101에서, 전자 장치(100)는 눈 반사 이미지로부터 눈 반사 가상 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 시선 추적 센서(152)를 통해 획득된 눈 반사 이미지로부터, 현실 장면을 제외한 눈 반사 가상 이미지만을 추출할 수 있다.

일 실시 예에 따라 눈 반사 가상 이미지를 추출하는 방법에 대해서는 도 8 내지 도 10을 참조할 수 있다.

도 11a의 S1102에서, 전자 장치(100)는 가상 이미지와 눈 반사 가상 이미지 간의 특징점 매칭을 이용하여, 매칭 함수를 추출할 수 있다.

일 실시 예에 따라, 매칭 함수는, 프로세서(120)가 생성한 가상 이미지로부터 획득된 특징점과 눈 반사 가상 이미지로부터 획득된 특징점 간의 좌표 매칭을 통해 추출될 수 있다.

일 실시 예에 따라, 사용자 눈은 구 형상으로서, 사용자 눈 영상을 촬영함으로써 획득된 눈 반사 이미지는 왜곡된 부분을 포함할 수 있다.

프로세서(120)는 매칭 함수를 이용하여, 시선 추적 센서(152)에 의해 획득된 눈 반사 이미지로부터, 구 형상의 눈에 반사됨으로써 왜곡된 부분을 보정한 왜곡되지 않은 이미지를 추출할 수 있다.

도 11b는 일 실시 예에 따른 매칭 함수를 추출하기 위한 특징점 매칭을 설명하기 위한 도면이다.

일 실시 예에 따른 특징점(feature point)은 이미지로부터 오브젝트를 인식할 때 주변 배경과 구별되면서 식별이 용이한 각각의 지점을 의미할 수 있다. 오브젝트의 크기나 위치, 오브젝트 주변의 밝기, 이미지의 획득 시점 등이 변하더라도 식별이 용이한 지점이 특징점으로 추출될 수 있다.

예를 들어, 전자 장치(100)는 소정의 이미지 특징점 추출 알고리즘 (예컨대, SURF(Speeded-Up Robust Features), SIFT(Scale-Invariant Feature Transform), ORB(Oriented FAST and Rotated BRIEF) 등)을 이용하여, 프로세서(120)가 생성한 가상 이미지(1101)로부터 복수의 제1 특징점(1103a, 1104a, 1105a, 1106a, 1107a, 1108a, 1109a)을 추출할 수 있다. 또한, 전자 장치(100)는 소정의 이미지 특징점 추출 알고리즘을 이용하여, 눈 반사 가상 이미지(1102)로부터 복수의 제2 특징점(1103b, 1104b, 1105b, 1106b, 1107b, 1108b, 1109b)을 추출할 수 있다.

전자 장치(100)는 프로세서(120)가 생성한 가상 이미지(1101)에 포함된 오브젝트로부터 추출된 복수의 제1 특징점(1103a-1109a)과 눈 반사 이미지(1102)에 포함된 오브젝트로부터 추출된 복수의 제2 특징점(1103b-1109b) 간의 매칭을 통해, 프로세서(120)가 생성한 가상 이미지와 눈 반사 이미지 간의 매칭 함수를 추출할 수 있다.

도 11b는 특징점 추출의 일 예를 설명하기 위한 것으로, 특징점의 개수는 제한되지 않으며, 오브젝트에 따라 특징점의 개수는 상이할 수 있다.

도 12는 일 실시 예에 따른 전자 장치가 위치 조정 파라미터를 산출하는 예를 설명하기 위한 흐름도이다.

도 12의 S1201에서, 전자 장치(100)는 눈 반사 이미지로부터 눈 반사 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 시선 추적 센서(152)를 통해 획득된 눈 반사 이미지로부터, 가상 이미지를 제외한 눈 반사 현실 장면 이미지만을 추출할 수 있다.

일 실시 예에 따라 눈 반사 현실 장면 이미지를 추출하는 방법에 대해서는 도 8 내지 도 10을 참조할 수 있다.

도 12의 S1202에서, 전자 장치(100)는 매칭 함수를 이용하여, 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 눈 반사 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 S1201 단계에서 획득된 눈 반사 현실 장면 이미지에 기초하여, 왜곡되지 않은 눈 반사 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는, 도 11의 S1102 단계에서 추출된 매칭 함수를 이용하여, 눈 반사 현실 장면 이미지로부터, 구 형상의 눈에 반사됨으로써 왜곡된 부분을 보정한 왜곡되지 않은 눈 반사 현실 장면 이미지를 추출할 수 있다.

도 12의 S1203에서, 전자 장치(100)는 왜곡되지 않은 눈 반사 현실 장면 이미지와 카메라 모듈(175)을 이용하여 획득된 현실 장면 이미지 간의 특징점 매칭에 기초하여, 보정된 현실 장면 이미지를 획득할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 소정의 이미지 특징점 추출 알고리즘 (예컨대, SURF(Speeded-Up Robust Features), SIFT(Scale-Invariant Feature Transform), ORB(Oriented FAST and Rotated BRIEF) 등)을 이용하여, 왜곡되지 않은 눈 반사 현실 장면 이미지와 카메라 모듈(175)을 이용하여 획득된 현실 장면 이미지로부터 각각 특징점을 추출할 수 있다.

또한, 전자 장치(100)는 두 이미지 간에 특징점 매칭 시, 소정 알고리즘(예를 들어, RANSAC(Random Sample Consensus) 알고리즘)을 이용하여 두 이미지 간에 매칭되는 특징점에 포함되지 않는 이상점(outlier)을 제거하고 두 이미지 내의 동일한 오브젝트 간의 매칭을 수행하는 방법을 이용할 수 있으며, 이에 제한되지 않는다.

일 실시 예에 따라, 전자 장치(100)는 왜곡되지 않은 눈 반사 현실 장면 이미지와 카메라 모듈(175)을 이용하여 획득된 현실 장면 이미지 간의 특징점 매칭을 통해, 현실 장면 이미지를 보정할 수 있다.

일 실시 예에 따라, 보정된 현실 장면 이미지는, 카메라 모듈(175)을 통해 캡쳐되는 현실 장면 이미지에 사용자 눈에 실제 관측되는 현실 장면의 오차가 반영된 이미지일 수 있다.

도 12의 S1204에서, 전자 장치(100)는 보정된 현실 장면 이미지를 이용하여, 위치 조정 파라미터를 산출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 S1203 단계에서 획득된 보정된 현실 장면 이미지에 기초하여, 가상 이미지의 표시 위치가 현실 객체의 위치와 정합될 수 있도록, 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터를 산출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 위치 조정 파라미터를 가상 이미지에 적용하여 가상 이미지의 표시 위치를 조정할 수 있다.

일 실시 예에 따라, 위치 조정 파라미터는, 가상 이미지의 위치 변경, 회전, 확대, 축소 또는 기울기 조정 중 적어도 하나를 조정하기 위한 파라미터를 포함할 수 있다.

예를 들어, 전자 장치(100)는 위치 조정 파라미터에 기초하여, 가상 이미지의 크기를 소정 비율 확대시키고, 가상 이미지의 기울기를 소정 각도 조정하며, 소정 거리만큼 위치를 이동시킬 수 있으며, 이에 제한되지 않는다.

이에 따라, 가상 이미지의 표시 위치, 기울기, 크기 등이 가상 이미지 주변의 현실 객체와 정합 됨으로써, 사용자 눈에 자연스럽게 인식되는 증강 현실 영상이 제공될 수 있다.

도 13a는 일 실시 예에 따른 위치 조정 파라미터를 산출하기 위한 특징점 매칭을 설명하기 위한 도면이다.

일 실시 예에 따라, 전자 장치(100)는, 도 11의 S1202 단계에서 추출된 왜곡되지 않은 눈 반사 현실 장면 이미지로부터, 복수의 특징점을 추출할 수 있다.

예를 들어, 전자 장치(100)는 시선 추적 센서(152)를 통해 획득된 눈 반사 이미지로부터, 가상 이미지를 제외한 눈 반사 현실 장면 이미지를 추출하고, 매칭 함수를 이용하여 왜곡되지 않은 눈 반사 현실 장면 이미지(1323)를 추출할 수 있다.

또한, 전자 장치(100)는 소정의 이미지 특징점 추출 알고리즘 (예컨대, SURF(Speeded-Up Robust Features), SIFT(Scale-Invariant Feature Transform), ORB(Oriented FAST and Rotated BRIEF) 등)을 이용하여, 왜곡되지 않은 눈 반사 현실 장면 이미지(1323)로부터 복수의 특징점(1311a, 1312a, 1313a, 1314a, 1315a, 1316a, 1317a)을 추출할 수 있다.

또한, 일 실시 예에 따라, 전자 장치(100)는 카메라 모듈(175)을 이용하여 획득된 현실 장면 이미지로부터 복수의 특징점을 추출할 수 있다.

예를 들어, 전자 장치(100)는 소정의 이미지 특징점 추출 알고리즘 (예컨대, SURF(Speeded-Up Robust Features), SIFT(Scale-Invariant Feature Transform), ORB(Oriented FAST and Rotated BRIEF) 등)을 이용하여, 현실 오브젝트(1321)가 촬영된 현실 장면 이미지(1324)로부터 복수의 특징점(1311b, 1312b, 1313b, 1314b, 1315b, 1316b, 1317b)을 추출할 수 있다.

전자 장치(100)는 왜곡되지 않은 눈 반사 현실 장면 이미지(1323)로부터 추출된 복수의 제1 특징점(1311a-1317a)과 현실 장면 이미지(1324)로부터 추출된 복수의 제2 특징점(1311b-1317b) 간의 매칭을 통해, 사용자 눈에 실제 관측되는 현실 장면이 카메라 모듈(175)을 통해 캡쳐되는 현실 장면 이미지에 반영되도록 현실 장면 이미지(1324)를 보정할 수 있다.

도 13a는 특징점 추출의 일 예를 설명하기 위한 것으로, 특징점의 개수는 제한되지 않으며, 오브젝트에 따라 특징점의 개수는 상이할 수 있다.

도 13b는 일 실시 예에 따른 위치 조정 파라미터에 기초하여 가상 이미지가 조정된 예를 설명하기 위한 도면이다.

예를 들어, 도 13b의 제1 눈 반사 이미지(1301)와 같이, 현실 객체(1302) 위에 구 형상의 가상 이미지(1303)가 관측되도록 가상 이미지(1303)를 출력할 때, 가상 이미지(1303)와 현실 객체(예컨대, 테이블)(1302)간의 중첩되는 부분에 대한 밝기 조정을 위한 경계선이 현실 객체(1302)의 경계선과 위치 정합이 되지 않음으로써 부자연스러운 증강 현실 영상이 사용자 눈에 인식될 수 있다.

일 실시 예에 따라, 전자 장치(100)는 위치 조정 파라미터에 기초하여, 가상 이미지의 표시 위치를 조정할 수 있다. 이에 따라, 도 13의 제2 눈 반사 이미지(1304)와 같이, 가상 이미지(1305)와 현실 객체(예컨대, 테이블)(1302)간의 중첩되는 부분에 대한 밝기 조정을 위한 경계선이 현실 객체(1302)의 경계선과 위치 정합 됨으로써 자연스러운 증강 현실 영상이 사용자 눈에 인식될 수 있다.

도 11 내지 도 13b은 일 실시 예를 도시한 것으로서 이에 한정되지 않는다.

도 14는 일 실시 예에 따른 전자 장치가 밝기 조정 파라미터를 산출하는 예를 설명하기 위한 흐름도이다.

도 14의 S1401에서, 전자 장치(100)는 눈 반사 이미지로부터, 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 시선 추적 센서(152)를 통해 획득된 눈 반사 이미지로부터, 가상 이미지가 포함된 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 추출하는 방법에 대해서는 도 8 내지 도 10을 참조할 수 있다.

도 14의 S1402에서, 전자 장치(100)는 매칭 함수를 이용하여, 가상 이미지가 포함된 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는 S1401 단계에서 획득된 가상 이미지가 포함된 현실 장면 이미지에 기초하여, 왜곡되지 않은 가상 이미지가 포함된 현실 장면 이미지를 추출할 수 있다.

일 실시 예에 따라, 전자 장치(100)는, 도 11의 S1102 단계에서 추출된 매칭 함수를 이용하여, 가상 이미지가 포함된 현실 장면 이미지로부터, 구 형상의 눈에 반사됨으로써 왜곡된 부분을 보정한 왜곡되지 않은 가상 이미지가 포함된 현실 장면 이미지를 추출할 수 있다.

도 14의 S1403에서, 전자 장치(100)는 카메라 모듈(175)을 이용하여 획득된 현실 장면 이미지와, 왜곡되지 않은 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 이용하여, 밝기 조정 파라미터를 산출할 수 있다.

일 실시 예에 따라, 밝기 조정 파라미터는, 가상 이미지의 색상(color), 명암(contrast), 밝기(brightness), 감마(gamma) 중 적어도 하나를 조정하기 위한 파라미터를 포함할 수 있다.

전자 장치(100)는 가상 이미지와 중첩되는 현실 객체의 명암, 색상 등에 기초하여, 가상 이미지와 중첩되는 현실 객체가 사용자 눈에 인식되지 않도록, 현실 객체와 중첩되는 가상 이미지의 적어도 일부분의 밝기, 색상 등을 조정할 수 있다.

예를 들어, 가상 이미지와 중첩되고 사용자가 바라보는 방향에서 가상 이미지보다 뒤쪽에 존재하는 현실 객체가 밝은 색상인 경우, 현실 객체와 중첩되는 가상 이미지 부분이 어둡게 조정되도록 밝기 조정 파라미터를 산출할 수 있다. 또한, 예를 들어, 가상 이미지와 중첩되는 현실 객체가 어두운 색상인 경우, 현실 객체와 중첩되는 가상 이미지 부분이 밝게 조정되도록 밝기 조정 파라미터를 산출할 수 있다.

도 15는 일 실시 예에 따른 밝기 조정 파라미터에 기초하여 가상 이미지가 조정된 예를 설명하기 위한 도면이다.

예를 들어, 현실 객체(1501) 위에 가상 이미지(1503)가 출력될 때, 도 15의 제1 눈 반사 이미지(1502)와 같이, 가상 이미지와 현실 객체(1501)가 중첩되는 부분(1504)이 사용자 눈에 인식될 수 있다.

일 실시 예에 따라, 가상 이미지가 현실 객체 주변에서 현실 객체와 조화롭게 사용자 눈에 인식되도록, 전자 장치(100)는 밝기 조정 파라미터에 기초하여 가상 이미지의 밝기, 색상 등을 조정할 수 있다.

예를 들어, 현실 객체(1501)와 가상 이미지가 중첩되는 영역에 대해, 어두운 색상의 현실 객체(1501)와 중첩되는 영역(1506)을 중첩되지 않는 영역(1507)보다 밝게 조정하고, 중첩되지 않는 영역(1507)을 보다 어둡게 조정할 수 있다. 이에 따라, 사용자 눈에 보여지는 제2 눈 반사 이미지(1505)와 같이, 가상 이미지(1508)와 현실 객체(1501)가 중첩되는 영역과 경계가 사용자 눈에 인식되지 않음으로써 자연스러운 증강 현실 영상이 관측될 수 있다.

한편, 예를 들어, 현실 객체(1501)와 가상 이미지가 중첩되는 영역에 대해, 어두운 색상의 현실 객체(1501)와 중첩되는 영역(1510)을 더 밝게 조정하고, 중첩되지 않는 영역(1511)을 더 어둡게 조정한 경우에는, 사용자 눈에 보여지는 제3 눈 반사 이미지(1509)와 같이, 가상 이미지(1512)와 현실 객체(1501)가 중첩되는 부분에서 가상 이미지가 너무 밝게 부각되어 사용자 눈에 인식됨으로써 부자연스러운 증강 현실 영상이 관측될 수 있다.

도 14 내지 도 15는 일 실시 예를 도시한 것으로서, 이에 한정되지 않는다.

한편, 상술한 실시 예는, 컴퓨터에서 실행될 수 있는 프로그램으로 작성 가능하고, 컴퓨터에 의해 판독 가능한 매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 또한, 상술한 실시 예에서 사용된 데이터의 구조는 컴퓨터 판독 가능 매체에 여러 수단을 통하여 기록될 수 있다. 또한, 상술한 실시 예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로 구현될 수 있다. 예를 들어, 소프트웨어 모듈 또는 알고리즘으로 구현되는 방법들은 컴퓨터가 읽고 실행할 수 있는 코드들 또는 프로그램 명령들로서 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있다.

컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 기록 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 포함할 수 있다. 컴퓨터 판독 가능 매체는 마그네틱 저장매체, 예를 들면, 롬, 플로피 디스크, 하드 디스크 등을 포함하고,) 광학적 판독 매체, 예를 들면, 시디롬, DVD 등과 같은 저장 매체를 포함할 수 있으나, 이에 제한되지 않는다. 또한, 컴퓨터 판독 가능 매체는 컴퓨터 저장 매체 및 통신 매체를 포함할 수 있다.

또한, 컴퓨터가 읽을 수 있는 복수의 기록 매체가 네트워크로 연결된 컴퓨터 시스템들에 분산되어 있을 수 있으며, 분산된 기록 매체들에 저장된 데이터, 예를 들면 프로그램 명령어 및 코드가 적어도 하나의 컴퓨터에 의해 실행될 수 있다.

본 개시에서 설명된 특정 실행들은 일 실시 예 일 뿐이며, 어떠한 방법으로도 본 개시의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 및 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다.

전술한 본 개시의 설명은 예시를 위한 것이며, 본 개시가 속하는 기술분야의 통상의 지식을 가진 자는 본 개시의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시 예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 개시에서 모든 예들 또는 예시적인 용어, 예를 들어, “등”의 사용은 단순히 본 개시를 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 본 개시의 범위가 한정되는 것은 아니다.

또한, “필수적인”, “중요하게” 등과 같이 구체적인 언급이 없다면 본 개시에 기재된 구성 요소들은 본 개시의 실행을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.

본 개시의 실시 예들과 관련된 기술 분야에서 통상의 지식을 가진 자는 상기 기재의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다.

본 개시는 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 본 개시는 명세서에 기재된 특정한 실시 형태에 의해 한정되는 것이 아니며, 본 개시의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물이 본 개시에 포함되는 것으로 이해되어야 한다. 그러므로, 개시된 실시 예들은 한정적인 관점이 아닌 설명적 관점에서 이해되어야 한다.

본 개시의 범위는 발명의 상세한 설명보다는 특허 청구 범위에 의하여 나타나며, 특허 청구 범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 개시의 범위에 포함되는 것으로 해석되어야 한다.

본 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.

"부", "모듈"은 어드레싱될 수 있는 저장 매체에 저장되며 프로세서에 의해 실행될 수 있는 프로그램에 의해 구현될 수도 있다.

예를 들어, “부”, "모듈" 은 소프트웨어 구성 요소들, 객체 지향 소프트웨어 구성 요소들, 클래스 구성 요소들 및 태스크 구성 요소들과 같은 구성 요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들에 의해 구현될 수 있다.

본 명세서에서, "A는 a1, a2 및 a3 중 하나를 포함할 수 있다"는 기재은, A라는 엘리먼트(element)에 포함될 수 있는 예시적인 엘리먼트가 a1, a2 또는 a3라는 넓은 의미이다.

상기 기재로 인해 엘리먼트 A를 구성할 수 있는 엘리먼트가 반드시 a1, a2 또는 a3로 국한된다는 것은 아니다. 따라서 A를 구성할 수 있는 엘리먼트가, a1, a2 및 a3 이외에 예시되지 않은 다른 엘리먼트들을 배제한다는 의미로, 배타적으로 해석되지 않음에 유의하여야 한다.

또한, 상기 기재는, A는 a1를 포함하거나, a2를 포함하거나, 또는 a3를 포함할 수 있다는 의미이다. 상기 기재가 A를 구성하는 엘리먼트들이 반드시 소정 집합 내에서 선택적으로 결정된다는 것을 의미하지는 않는다. 예를 들어 상기 기재가, 반드시 a1, a2 및 a3를 포함하는 집합으로부터 선택된 a1, a2, 또는 a3가 컴포넌트 A를 구성한다는 것으로, 제한적으로 해석되지 않음에 유의하여야 한다.

100: 전자 장치

Claims (13)

1. 전자 장치에 있어서,
   광학 엔진 및 웨이브 가이드를 포함하는 디스플레이;
   사용자의 눈 영상을 획득하는 시선 추적 센서;
   하나 이상의 인스트럭션을 저장하는 메모리; 및
   상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
   가상 이미지가 상기 웨이브가이드를 통해 출력되도록 상기 광학 엔진을 제어하고,
   상기 시선 추적 센서를 통해 획득된 사용자의 눈 영상으로부터 눈 반사 이미지를 획득하고,
   상기 눈 반사 이미지에 기초하여, 상기 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터와 상기 가상 이미지의 밝기를 조정하기 위한 밝기 조정 파라미터를 산출하고,
   상기 위치 조정 파라미터와 상기 밝기 조정 파라미터에 기초하여, 상기 가상 이미지를 조정하고,
   상기 조정된 가상 이미지가 상기 웨이브가이드를 통해 출력되도록 상기 광학 엔진을 제어하는, 전자 장치.
2. 제1 항에 있어서,
   상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
   상기 눈 반사 이미지로부터 눈 반사 가상 이미지를 추출하고,
   상기 가상 이미지와 상기 눈 반사 가상 이미지 간의 좌표 매칭을 이용하여, 매칭 함수를 추출하는, 전자 장치.
3. 제2 항에 있어서,
   현실 장면 이미지를 획득하는 카메라 모듈을 더 포함하고,
   상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
   상기 눈 반사 이미지로부터 눈 반사 현실 장면 이미지를 추출하고,
   상기 매칭 함수를 이용하여, 상기 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 눈 반사 현실 장면 이미지를 추출하고,
   상기 왜곡되지 않은 눈 반사 현실 장면 이미지와 상기 카메라 모듈을 이용하여 획득된 현실 장면 이미지 간의 특징점 매칭에 기초하여, 보정된 현실 장면 이미지를 획득하고,
   상기 보정된 현실 장면 이미지를 이용하여, 상기 위치 조정 파라미터를 산출하는, 전자 장치.
4. 제2 항에 있어서,
   현실 장면 이미지를 획득하는 카메라 모듈을 더 포함하고,
   상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
   상기 눈 반사 이미지로부터, 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 추출하고,
   상기 매칭 함수를 이용하여, 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 추출하고,
   상기 카메라 모듈을 이용하여 획득된 현실 장면 이미지와, 상기 왜곡되지 않은 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 이용하여, 상기 밝기 조정 파라미터를 산출하는, 전자 장치.
5. 제1 항에 있어서,
   상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
   소정 시간 간격으로 연속적으로 적어도 두 개의 눈 반사 이미지를 획득하고,
   상기 적어도 두 개의 눈 반사 이미지에 기초하여, 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지, 눈 반사 현실 장면 이미지 및 눈 반사 가상 이미지를 추출하는, 전자 장치.
6. 제5 항에 있어서,
   상기 획득된 적어도 두 개의 눈 반사 이미지는, 제1 눈 반사 이미지와 제2 눈 반사 이미지를 포함하고,
   상기 제1 눈 반사 이미지는, 상기 가상 이미지 중 제1 부분을 포함하고,
   상기 제2 눈 반사 이미지는, 상기 가상 이미지 중 상기 제1 부분을 제외한 제2 부분을 포함하는, 전자 장치.
7. 전자 장치의 동작 방법에 있어서,
   가상 이미지가 웨이브가이드를 통해 출력되도록 광학 엔진을 제어하는 단계;
   시선 추적 센서를 통해 획득된 사용자의 눈 영상으로부터 눈 반사 이미지를 획득하는 단계;
   상기 눈 반사 이미지에 기초하여, 상기 가상 이미지의 표시 위치를 조정하기 위한 위치 조정 파라미터와 상기 가상 이미지의 밝기를 조정하기 위한 밝기 조정 파라미터를 산출하는 단계;
   상기 위치 조정 파라미터와 상기 밝기 조정 파라미터에 기초하여, 상기 가상 이미지를 조정하는 단계; 및
   상기 조정된 가상 이미지가 상기 웨이브가이드를 통해 출력되도록 상기 광학 엔진을 제어하는 단계를 포함하는, 동작 방법.
8. 제7 항에 있어서,
   상기 눈 반사 이미지로부터 눈 반사 가상 이미지를 추출하는 단계; 및
   상기 가상 이미지와 상기 눈 반사 가상 이미지 간의 좌표 매칭을 이용하여, 매칭 함수를 추출하는 단계를 더 포함하는, 동작 방법.
9. 제8 항에 있어서,
   상기 위치 조정 파라미터를 산출하는 단계는,
   상기 눈 반사 이미지로부터 눈 반사 현실 장면 이미지를 추출하는 단계;
   상기 매칭 함수를 이용하여, 상기 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 눈 반사 현실 장면 이미지를 추출하는 단계;
   상기 왜곡되지 않은 눈 반사 현실 장면 이미지와 상기 카메라 모듈을 이용하여 획득된 현실 장면 이미지 간의 특징점 매칭에 기초하여, 보정된 현실 장면 이미지를 획득하는 단계; 및
   상기 보정된 현실 장면 이미지를 이용하여, 상기 위치 조정 파라미터를 산출하는 단계를 포함하는, 동작 방법.
10. 제8 항에 있어서,
    상기 밝기 조정 파라미터를 산출하는 단계는,
    상기 눈 반사 이미지로부터, 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 추출하는 단계;
    상기 매칭 함수를 이용하여, 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지에 기초하여 왜곡되지 않은 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 추출하는 단계; 및
    상기 카메라 모듈을 이용하여 획득된 현실 장면 이미지와, 상기 왜곡되지 않은 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지를 이용하여, 상기 밝기 조정 파라미터를 산출하는 단계를 포함하는, 동작 방법.
11. 제7 항에 있어서,
    소정 시간 간격으로 연속적으로 적어도 두 개의 눈 반사 이미지를 획득하는 단계; 및
    상기 적어도 두 개의 눈 반사 이미지에 기초하여, 상기 가상 이미지가 포함된 눈 반사 현실 장면 이미지, 눈 반사 현실 장면 이미지 및 눈 반사 가상 이미지를 추출하는 단계를 더 포함하는, 동작 방법.
12. 제11 항에 있어서,
    상기 획득된 적어도 두 개의 눈 반사 이미지는, 제1 눈 반사 이미지와 제2 눈 반사 이미지를 포함하고,
    상기 제1 눈 반사 이미지는, 상기 가상 이미지 중 제1 부분을 포함하고,
    상기 제2 눈 반사 이미지는, 상기 가상 이미지 중 상기 제1 부분을 제외한 제2 부분을 포함하는, 동작 방법.
13. 제7 항의 방법을 컴퓨터에서 수행하기 위한 프로그램이 기록된 컴퓨터로 읽을 수 있는 기록매체.

Images