KR102558473B1 - 이미지를 표시하기 위한 방법 및 그 전자 장치 - Google Patents

이미지를 표시하기 위한 방법 및 그 전자 장치 Download PDF

Info

Publication number
KR102558473B1
KR102558473B1 KR1020160126757A KR20160126757A KR102558473B1 KR 102558473 B1 KR102558473 B1 KR 102558473B1 KR 1020160126757 A KR1020160126757 A KR 1020160126757A KR 20160126757 A KR20160126757 A KR 20160126757A KR 102558473 B1 KR102558473 B1 KR 102558473B1
Authority
KR
South Korea
Prior art keywords
image
gaze
image frames
processor
region
Prior art date
Application number
KR1020160126757A
Other languages
English (en)
Other versions
KR20180036322A (ko
Inventor
송인선
최지환
허윤정
김민정
박지윤
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020160126757A priority Critical patent/KR102558473B1/ko
Priority to US15/592,109 priority patent/US10401955B2/en
Priority to PCT/KR2017/004847 priority patent/WO2018062657A1/en
Publication of KR20180036322A publication Critical patent/KR20180036322A/ko
Application granted granted Critical
Publication of KR102558473B1 publication Critical patent/KR102558473B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G06T3/04—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals

Abstract

전자 장치에서 파노라마 이미지를 표시하기 위한 방법 및 장치가 제공된다. 본 발명에 따른 전자 장치의 동작 방법은, 복수 개의 이미지 프레임들에 기반하여 생성된 제1 이미지를 표시하는 동작과, 상기 이미지 상에서 응시 영역을 결정하는 동작과, 상기 응시 영역이 심(seam)의 적어도 일부를 포함할 경우, 상기 응시 영역 내부에 포함된 적어도 하나의 특징 점들 기반하여 상기 이미지 프레임들을 재정렬(realign)하는 동작과, 상기 재정렬에 따라 생성된 제2 이미지를 표시하는 동작을 포함한다. 전자 장치는 전자 장치에 표시된 이미지에서 사용자의 응시 영역 외부에 심(seam)이 위치하도록 적응적으로 스티칭(stitching)을 수행함으로써, 사용자에게 고품질의 정합 이미지를 제공할 수 있다.

Description

이미지를 표시하기 위한 방법 및 그 전자 장치{METHOD FOR DISPLAYING AN IMAGE AND AN ELECTRONIC DEVICE THEREOF}
본 발명은 전자 장치에 관한 것으로, 보다 상세하게는 전자 장치에서 이미지를 표시하기 위한 방법 및 장치에 관한 것이다.
정보 통신 기술과 반도체 기술 등의 눈부신 발전에 힘입어 전자 장치(예: 모바일 단말기)의 보급과 이용이 급속도로 증가하고 있다. 전자 장치가 광범위하게 보급됨에 따라, 전자 장치는 사용자에게 다양한 콘텐트를 제공하고 있다.
최근, 신체에 직접 착용될 수 있는 형태의 다양한 전자 장치들이 개발되고 있다. 이러한 웨어러블(Wearable) 전자 장치는, 예를 들어, 머리 착용형 장치(HMD; Head-Mounted Device), 스마트 안경(smart glass), 스마트 시계(smart watch), 스마트 밴드(wristband), 콘텍트 렌즈형 장치, 반지형 장치, 신발형 장치, 의복형 장치, 장갑형 장치 등을 포함할 수 있다. 이러한 웨어러블 전자 장치는 신체 또는 의복에 직접 착용되므로 이동성(portability) 및 사용자의 접근성(accessibility)을 비약적으로 향상시킬 수 있다.
상기 웨어러블 전자 장치의 다양한 예시 가운데 사용자의 두부(頭部)에 장착될 수 있는 HMD는, 사용자의 양안과 근접한 위치에 360도 파노라마 영상을 제공함으로써, 사용자에게 실감나는 영상을 제공할 수 있다.
본 발명의 다양한 실시 예들은 전자 장치에서 파노라마 이미지를 표시하기 위한 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 사용자의 응시 영역(gazing region)을 고려하여 파노라마 이미지를 스티칭(stitching)하기 위한 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 사용자의 응시 영역의 특징점들을 고려하여 파노라마 이미지를 구성하는 이미지 프레임들을 재정렬하기 위한 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 사용자의 응시 영역에 파노라마 이미지의 심(seam)이 포함되지 않도록 하기 위한 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 파노라마 이미지에서 근거리 오브젝트에 대한 스티칭 에러를 최소화 하도록 하는 심을 생성하기 위한 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 파노라마 이미지에서 응시 영역에 포함된 픽셀들에 기반하여 이미지의 밝기 값을 조절하기 위한 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 파노라마 이미지에서 사용자의 응시 영역을 파노라마 이미지에 표시된 오브젝트를 구성하는 픽셀들로 결정하기 위한 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 파노라마 이미지상에서 사용자의 응시 영역의 이동 방향을 고려하여 이미지 프레임들을 스티칭하는 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 파노라마 이미지 상에서 사용자의 응시 영역의 이동 속도를 고려하여 이미지 프레임들을 스티칭하는 방법 및 장치를 제공한다.
본 발명의 다양한 실시 예들은 사용자의 응시 영역의 범위를 고려하여 순차적으로 스티칭을 수행하기 위한 방법 및 장치를 제공한다.
상술한 과제들을 해결하기 위한 본 발명의 일 실시 예에 따른 전자 장치의 동작 방법은, 복수 개의 이미지 프레임들에 기반하여 생성된 제1 이미지를 표시하는 동작과, 상기 이미지 상에서 응시 영역을 결정하는 동작과, 상기 응시 영역이 심(seam)의 적어도 일부를 포함할 경우, 상기 응시 영역 내부에 포함된 적어도 하나의 특징 점들 기반하여 상기 이미지 프레임들을 재정렬(realign)하는 동작과, 상기 재정렬에 따라 생성된 제2 이미지를 표시하는 동작을 포함한다.
본 발명의 다른 실시 예에 따른 전자 장치는, 복수 개의 이미지 프레임들에 기반하여 생성된 제1 이미지를 표시하는 디스플레이와, 상기 이미지 상에서 응시 영역을 결정하고, 상기 응시 영역이 심(seam)의 적어도 일부를 포함할 경우, 상기 응시 영역 내부에 포함된 적어도 하나의 특징 점들 기반하여 상기 이미지 프레임들을 재정렬(realign)하는 프로세서를 포함하고, 여기에서 상기 재정렬에 따라 생성된 제2 이미지를 표시한다.
본 발명에 따르면, 전자 장치는 전자 장치에 표시된 이미지에서 사용자의 응시 영역을 고려하여 적응적으로 스티칭(stitching)을 수행함으로써, 사용자에게 고품질의 정합 이미지를 제공할 수 있다.
도 1은 본 발명의 다양한 실시 예들에 따른 전자 장치를 포함하는 네트워크 환경을 도시한다.
도 2는 본 발명의 다양한 실시 예들에 따른 전자 장치의 블록도를 도시한다.
도 3은 본 발명의 다양한 실시 예들에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시 예들에 따른 웨어러블 장치와 사용자 장치(user device)를 도시한다.
도 5는 본 발명의 다양한 실시 예들에 따른 전자 장치의 기능적 블록 구조를 도시한다.
도 6은 본 발명의 다양한 실시 예들에 따른 이미지 스티칭 절차를 도시한다.
도 7은 본 발명의 다양한 실시 예들에 따른 사용자의 응시 영역들을 도시한다.
도 8은 본 발명의 다양한 실시 예들에 따라 전자 장치에서 적응적 이미지 스티칭을 수행하기 위한 흐름도이다.
도 9는 본 발명의 다양한 실시 예들에 따라 심(seam)이 사용자의 응시 영역 외부에 위치하도록 복수의 이미지 프레임들에 대한 연결을 수행하는 절차를 도시한다.
도 10은 본 발명의 다양한 실시 예들에 따라 스티칭 에러를 제거하도록 이미지 프레임들에 대한 재정렬을 수행하는 동작을 도시한다.
도 11은 본 발명의 다양한 실시 예들에 따라 사용자의 응시 영역을 고려하여 이미지를 생성하기 위한 세부 흐름도이다.
도 12은 본 발명의 다양한 실시 예들에 따라 응시 영역을 고려하여 이미지 프레임들을 재정렬하기 위한 세부 흐름도이다.
도 13는 본 발명의 다양한 실시 예들에 따라 응시 영역을 고려하여 이미지 프레임들을 재정렬하기 위한 세부 동작을 도식적으로 나타낸다.
도 14는 본 발명의 다양한 실시 예들에 따라 이미지 프레임들로부터 스티칭된 이미지를 생성하기 위한 세부 흐름도이다.
도 15은 본 발명의 다양한 실시 예들에 따라 이미지에서 심이 사용자의 응시 영역 외부에 위치하도록 하기 위한 세부 연산의 흐름도이다.
도 16는 본 발명의 다양한 실시 예들에 따라 응시 영역에 심이 포함될 경우 전자 장치에서 수행되는 동작을 나타내는 흐름도이다.
도 17는 본 발명의 다양한 실시 예들에 따라 이미지상에서 근거리 오브젝트에 심이 생성되지 않도록 스티칭을 수행하기 위한 흐름도이다.
도 18은 본 발명의 다양한 실시 예들에 따라 사용자의 응시 영역에 포함된 이미지 일부의 밝기를 균일하게 하기 위한 흐름도이다.
도 19은 본 발명의 다양한 실시 예들에 따라 사용자의 응시 영역에 포함된 이미지 부분의 밝기를 균일하게 하기 위한 동작을 도식적으로 나타낸다.
도 20은 본 발명의 다양한 실시 예들에 따라 이미지에 표시된 오브젝트를 포함하도록 응시 영역을 결정하기 위한 흐름도이다.
도 21은 본 발명의 다양한 실시 예들에 따라 이미지에 표시된 오브젝트를 응시 영역으로 결정하는 동작을 도식적으로 나타낸다.
도 22는 본 발명의 다양한 실시 예들에 따라 이미지 상에서 사용자의 시선 이동 방향을 고려하여 심을 형성하기 위한 흐름도이다.
도 23은 본 발명의 다양한 실시 예들에 따라 이미지 상에서 사용자의 시선 이동 방향을 고려하여 심을 형성하기 위한 동작을 도식적으로 나타낸다.
도 24는 본 발명의 다양한 실시 예들에 따라 이미지 상에서 응시 영역이 움직이는 속도에 기반하여 심을 검색하기 위한 흐름도이다.
도 25는 본 발명의 다양한 실시 예들에 따라 이미지 상에서 응시 영역이 움직이는 속도에 기반하여 심을 검색하는 동작을 도식적으로 나타낸다.
도 26은 본 발명의 다양한 실시 예들에 따라 사용자의 주변시(parafoveal)를 고려하여 이미지를 스티칭하기 위한 흐름도이다.
도 27은 본 발명의 다양한 실시 예들에 따라 사용자의 주변시를 고려하여 이미지를 스티칭하는 동작을 도식적으로 나타낸다.
이하, 본 문서의 다양한 실시 예들이 첨부된 도면을 참조하여 기재된다. 실시 예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 사용자 장치(user device), 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료장치, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시 예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료장치(예: 각종 휴대용 의료측정장치(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자장치(avionics), 보안 장치, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시 예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 장치(예: 수도, 전기, 가스, 또는 전파 계측 장치 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 예를 들어, 전자 장치는 웨어러블 장치 및 사용자 장치가 유선 및/또는 무선으로 연결된 장치일 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 장치들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
이하의 설명에 앞서, 본 문서에서 사용되는 용어들의 정의는 아래와 같다.
'이미지 프레임'이란 파노라마 이미지를 생성하기 위해 기본이 되는 이미지들을 의미한다. 다시 말해서, 복수 개의 이미지 프레임들이 정합되어 하나의 파노라마 이미지가 생성될 수 있다. 각각의 이미지 프레임들은 서로 다른 카메라를 통해 생성되거나, 하나의 카메라가 이동하면서 일정 시간 간격으로 캡쳐하는 것에 의해 생성될 수 있다. 복수 개의 이미지 프레임들 중 파노라마 이미지를 생성하기 위해 인접한 이미지 프레임들은 중복되는 오브젝트를 포함한다. 경우에 따라, 이미지 프레임은 '이미지', '기본 이미지', '로우(raw) 이미지' 등 다양하게 지칭될 수 있다.
'이미지 스티칭' 또는 '스티칭'이란 복수 개의 이미지 프레임들로부터 파노라마 이미지를 생성하기 위한 전반적인 동작을 의미한다. 구체적으로, 이미지 스티칭은 복수 개의 이미지 프레임들로부터 추출한 특징점들을 매칭(matching)하여 공통 영역이 중첩되도록 이미지 프레임들을 정렬하고, 정렬된 이미지 프레임들의 중첩 영역에서 경계를 결정하고, 결정된 경계를 기준으로 이미지에 대한 노출 및 색상 보상, 블렌딩 중 적어도 하나를 수행하는 것을 의미한다. 경우에 따라, 스티칭은 '결합', '합성', '조합', '정합' 등으로 다양하게 지칭될 수 있다.
'심(seam)' 이란 파노라마 이미지를 구성하는 인접 이미지 프레임들간의 경계를 의미한다. 심은 정렬된 이미지 프레임들에서 인접 이미지 프레임들의 중첩 영역에서 형성될 수 있으며, 심을 생성하기 위한 알고리즘에 따라 동일한 중첩 영역에서도 다른 심이 형성될 수 있다. 경우에 따라, 심은 '접합선', '결합선', '스티칭 라인', '정합 라인' 등 다양하게 지칭될 수 있다.
'이중상'이란 복수 개의 이미지 프레임들로부터 생성된 파노라마 이미지에서 동일한 오브젝트가 적어도 두 개의 서로 다른 위치에서 표시되는 것을 의미한다. 복수의 이미지 프레임들을 생성하기 위한 복수 개의 카메라가 서로 다른 위치에서 동일한 오브젝트를 캡쳐할 경우에 시차(parallax)가 발생할 수 있으며, 이중상은 이러한 시차에 의해 발생할 수 있다. 예를 들어, 서로 다른 위치에 있는 두 개의 카메라가 각각 동일한 원거리 오브젝트 및 동일한 근거리 오브젝트를 포함하는 이미지 프레임을 생성하고, 근거리 오브젝트에 대한 왜곡이 최소화 되도록 이미지 프레임들에 대한 스티칭을 수행할 경우, 근거리 오브젝트는 전체 파노라마 이미지상에서 하나의 오브젝트인 것처럼 표시될 수 있으나, 원거리 오브젝트는 시차에 의해 오버랩되지 않고 두 개의 위치에서 두 개의 오브젝트인 것처럼 표시될 수 있다.
'근거리 오브젝트 짤림'이란 복수 개의 이미지 프레임들로부터 생성된 파노라마 이미지에서 오브젝트가 심을 기준으로 어긋나 보이거나, 심에 의해 오브젝트의 일부가 보이지 않게 되는 것을 의미한다. . 예를 들어, 서로 다른 위치에 있는 두 개의 카메라가 각각 동일한 원거리 오브젝트 및 동일한 근거리 오브젝트를 포함하는 이미지 프레임을 생성하고, 원거리 오브젝트에 대한 왜곡이 최소화 되도록 이미지 프레임들에 대한 스티칭을 수행할 경우, 원거리 오브젝트는 전체 파노라마 이미지상에서 하나의 오브젝트인 것처럼 표시될 수 있으나, 근거리 오브젝트는 완전히 오버랩되지 않을 수 있다. 이하 본 특허 문서에서, 이중상 및 근거리 짤림 현상을 포함하여 이미지 프레임들에 대한 스티칭을 수행하는 것에 의해 전체 파노라마 이미지에서 나타날 수 있는 왜곡을 '스티칭 에러'라 정의한다.
도 1은 본 발명의 다양한 실시 예들에 따른 전자 장치를 포함하는 네트워크에 대한 환경을 도시한다.
도 1을 참조하여, 다양한 실시 예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
다양한 실시 예들에 따르면, 프로세서(120)는 디스플레이(160)에 표시된 이미지에 나타난 오브젝트가 근거리 오브젝트인지 여부를 결정할 수 있다.
다양한 실시 예들에 따르면, 프로세서(120)는 파노라마 이미지를 생성하기 위해 복수 개의 이미지 프레임들에 대한 스티칭을 수행할 수 있다.
다양한 실시 예들에 따르면, 프로세서(120)는 파노라마 이미지 상에서 사용자의 응시 영역을 결정할 수 있다. 또한, 프로세서(120)는 응시 영역이 이미지 상에서 이동하는 속도 및/또는 방향을 결정할 수 있다.
다양한 실시 예들에 따르면, 프로세서(120)는 응시 영역에 파노라마 이미지의 심이 포함되었는지 여부를 결정할 수 있다. 프로세서(120)는 응시 영역에 파노라마 이미지의 심이 포함되었는지 여부에 따라 이미지에 대한 추가적인 연산을 수행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다.
다양한 실시 예들에 따르면, 메모리(130)는 파노라마 이미지를 생성하기 위한 이미지 프레임들을 저장할 수 있다. 또한, 메모리(130)는 이미지 프레임들로부터 생성된 파노라마 이미지를 저장할 수 있다.
다양한 실시 예들에 따르면, 메모리(130)는 파노라마 이미지를 생성하기 위해 결정된 심의 위치를 저장할 수 있다.
프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 장치로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 장치로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
다양한 실시 예들에 따라, 디스플레이(160)는 복수 개의 이미지 프레임들로부터 생성된 파노라마 이미지를 표시할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
다양한 실시 예들에 따라, 통신 인터페이스(170)는 서버(106)으로부터 파노라마 이미지를 생성하기 위한 복수 개의 이미지 프레임들을 수신할 수 있다. 또한, 통신 인터페이스(170)는 이미 생성된 파노라마 이미지를 수신할 수도 있다.
다양한 실시 예들에 따라, 통신 인터페이스(170)는 서버(106)로부터 복수 개의 이미지 프레임들에 대한 통상적인 시선 이동 패턴에 관한 통계적 자료를 수신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시 예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한 실시 예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다.
네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 전자 장치(201)의 블록도이다.
전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 모터(298), 및 시선 추적부(299)를 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
다양한 실시 예들에 따르면, 프로세서(210)는 디스플레이(160)에 표시된 이미지에 나타난 오브젝트가 근거리 오브젝트인지 여부를 결정할 수 있다.
다양한 실시 예들에 따르면, 프로세서(210)는 파노라마 이미지를 생성하기 위해 복수 개의 이미지 프레임들에 대한 스티칭을 수행할 수 있다.
다양한 실시 예들에 따르면, 프로세서(210)는 파노라마 이미지 상에서 사용자의 응시 영역을 결정할 수 있다. 또한, 프로세서(210)는 응시 영역이 이미지 상에서 이동하는 속도 및/또는 방향을 결정할 수 있다.
다양한 실시 예들에 따르면, 프로세서(210)는 응시 영역에 파노라마 이미지의 심이 포함되었는지 여부를 결정할 수 있다. 프로세서(120)는 응시 영역에 파노라마 이미지의 심이 포함되었는지 여부에 따라 이미지에 대한 추가적인 연산을 수행할 수 있다.
통신 모듈(220)은, 예를 들면, 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스(Bluetooth; BT) 모듈(225), 저전력 블루투스(Bluetooth Low energy; BLE) 모듈(226), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)를 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), 저전력 블루투스 모듈(226), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), 저전력 블루투스 모듈(226), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
다양한 실시 예들에 따라, 통신 모듈(220)은 서버(106)으로부터 파노라마 이미지를 생성하기 위한 복수 개의 이미지 프레임들을 수신할 수 있다. 또한, 통신 모듈(220)은 이미 생성된 파노라마 이미지를 수신할 수도 있다.
다양한 실시 예들에 따라, 통신 모듈(220)은 서버(106)로부터 복수 개의 이미지 프레임들에 대한 통상적인 시선 이동 패턴에 관한 통계적 자료를 수신할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
다양한 실시 예들에 따르면, 메모리(230)는 파노라마 이미지를 생성하기 위한 이미지 프레임들을 저장할 수 있다. 또한, 메모리(230)는 이미지 프레임들로부터 생성된 파노라마 이미지를 저장할 수 있다.
다양한 실시 예들에 따르면, 메모리(230)는 파노라마 이미지를 생성하기 위해 결정된 심의 위치를 저장할 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다. 근접 센서(240G)는 머리 착용형 전자 장치의 사용자 착용을 감지할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시 예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
다양한 실시 예들에 따라, 디스플레이(260)는 복수 개의 이미지 프레임들로부터 생성된 파노라마 이미지를 표시할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 또한, 카메라 모듈(291)은 사용자의 시선을 추적하기 위한 적외선 카메라를 더 포함할 수 있다.
다양한 실시 예들에 따르면, 카메라 모듈(291)은 서로 다른 위치의 두 개의 카메라 렌즈를 포함할 수 있다. 카메라 모듈(291)은 이미지를 캡쳐할 때, 두 개의 카메라 렌즈와 오브젝트가 이루는 각도를 이용하여 캡쳐되는 이미지에서 근거리 오브젝트와 원거리 오브젝트(예: 배경(background))를 구분할 수 있다. 프로세서(210)는 두 개의 카메라 렌즈와 오브젝트가 이루는 각도에 관한 정보를 이용하여 근거리 오브젝트와 원거리 오브젝트의 픽셀에 대응하는 깊이(depth) 값을 결정할 수 있고, 이를 메모리(230)에 저장할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다.
시선 추적부(299)는 사용자의 시선을 추적할 수 있다. 예를 들어, 전자 장치(201)가 도 4에 도시된 것과 같은 웨어러블 장치(410)를 포함하는 경우, 시선 추적부(299)는 웨어러블 장치(410)를 착용한 사용자의 시선을 추적할 수 있다. 구체적으로, 카메라 모듈(291)에 포함된 적외선 카메라는 두 개의 광원을 구비할 수 있으며, 두 개의 광원으로 사용자의 눈의 각막 표면에 두 개의 반사점들을 생성할 수 있다. 시선 추적부(299)는 생성된 두 개의 반사점들의 중심점을 결정하여, 동공의 중심점과 두 개의 반사 점들의 중심점을 이용하여 사용자의 시선을 추적할 수 있다.
전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되돼, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다.
한 실시 예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(330) 는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시 예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시 예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공, 디스플레이 관리자(display manager)(385) 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 장치의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
다양한 실시 예에 따르면, 디스플레이 관리자(385) 어플리케이션은 전자 장치(201)의 디스플레이(260)에 표시되는 이미지에 대한 연산을 수행할 수 있다. 예를 들어, 디스플레이 관리자(385)는 복수 개의 이미지 프레임들이 정합되어 생성된 파노라마 이미지에서 복수 개의 이미지 프레임들을 구분하는 심의 위치가 변경되도록 파노라마 이미지에 대한 연산을 수행할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
도 4는 본 발명의 다양한 실시 예들에 따른 웨어러블 장치와 사용자 장치(user device)를 도시한다. 도 4는 웨어러블 장치(410)와 사용자 장치(430)의 조합으로 구성되는 전자 장치(201)를 도시한다.
도 4를 참고하면, 다양한 실시 예들에 따른 전자 장치(201)는 웨어러블 장치(410) 및 사용자 장치(430)의 조합이다. 웨어러블 장치(410)는 사용자의 머리에 장착되는 장치이고, 디스플레이(432)를 구비한 장치이다. 웨어러블 장치(410)는 사용자의 머리에 고정되기 위해 스트랩(strap)(412) 및 사용자 장치(430)과의 결합을 위한 결착부(fastening unit)(414)(예: 클립, 홀, 덮게 등)를 포함할 수 있다. 사용자에게 이미지를 제공하기 위해, 사용자 장치(430)의 디스플레이(432)가 사용될 수 있다.
데이터 교환을 위해, 웨어러블 장치(410) 및 사용자 장치(430)는 통신을 수행할 수 있다. 예를 들면, 사용자 장치(430)는 웨어러블 장치(410)에 물리적으로 부착될 수 있으며, 웨어러블 장치(410) 및 사용자 장치(430)는 물리적인 결합에 의한 유선 선로(예: 케이블)를 통해 통신을 수행할 수 있다. 또 다른 예로, 사용자 장치(430)는 웨어러블 장치(410)와 물리적으로 부착되지 않고, 웨어러블 장치(410)는 통신을 위해 사용자 장치(430)의 테더링(tethering)을 이용할 수 있으며, 이 경우 사용자 장치(430) 및 웨어러블 장치(410)는 무선 채널을 통해 통신을 수행할 수 있다. 또한, 사용자 장치(430)가 웨어러블 장치(410)에 물리적으로 부착된 경우에도, 웨어러블 장치(410) 및 사용자 장치(430)는 무선 채널을 통해 통신을 수행할 수 있다. 예를 들어, 웨어러블 장치(410)에서 사용자 장치(430)로 전달되는 데이터는, 웨어러블 장치(410)의 입력 인터페이스(예: 터치패드, 버튼)을 통해 감지된 사용자의 입력에 대한 정보를 포함할 수 있다. 또한, 사용자 장치(430)에서 웨어러블 장치(410)로 전달되는 데이터는 사용자의 움직임에 대한 센싱 정보를 포함할 수 있다.
사용자의 움직임에 대응하는 이미지를 제공하기 위해, 웨어러블 장치(410) 또는 사용자 장치(430)는 적어도 하나의 센서(미도시)를 포함할 수 있다. 예를 들어, 적어도 하나의 센서는 사용자의 움직임과 관련이 있는 정보를 획득하기 위한 가속도계, GPS 수신부, 또는 다른 모션을 검출하기 위한 적어도 하나의 센서를 포함할 수 있다. 적어도 하나의 센서를 통해, 사용자의 머리의 움직임이 검출될 수 있다.
도 4를 참고하여 설명한 실시 예에서, 이미지의 표시는 사용자 장치(430)의 디스플레이(432)를 통해 표시된다. 그러나, 다른 실시 예에 따라, 디스플레이(432)와 별도로, 웨어러블 장치(410)이 디스플레이(미도시)를 포함할 수 있다. 이 경우, 이미지는 웨어러블 장치(410)의 디스플레이를 통해 표시될 수 있다. 이를 위해, 웨어러블 장치(410)는 독립적인 연산 장치를 포함할 수 있다.
도 4를 참고하여 설명한 실시 예에서, 전자 장치(201)는 웨어러블 장치(410) 및 사용자 장치(430)의 조합이다. 그러나, 다른 실시 예에 따라, 웨어러블 장치(410)가 디스플레이를 포함한 이미지를 표시하기 위해 필요한 구성 요소들을 모두 포함할 수 있으며, 이 경우, 전자 장치(210)는 웨어러블 장치(410)만으로 구성될 수 있다. 이 경우, 웨어러블 장치(410)는 HMD로 지칭될 수 있다. 또한, 또 다른 실시 예에 따라, 사용자 장치(430)가 이미지를 표시하기 위해 필요한 구성 요소들을 모두 포함할 수 있으며, 이 경우, 웨어러블 장치(410)는 단순히 착용을 위한 보조 장치이며, 전자 장치(210)는 사용자 장치(430)만으로 구성될 수 있다. 따라서, 이하 후술하는 다양한 실시 예들에서, 전자 장치(201)는 웨어러블 장치(410) 및 사용자 장치(430)의 조합이거나, 또는 웨어러블 장치(410) 및 사용자 장치(430) 중 어느 하나만을 의미할 수 있다.
도 5는 본 발명의 다양한 실시 예들에 따른 전자 장치(201)의 기능적 블록 구조를 도시한다. 도 5에 도시된 바와 같이, 전자 장치(201)는 디스플레이(510), 통신부(520), 저장부(530) 및 프로세서(540)을 포함할 수 있다.
디스플레이(510)는 이미지, 그래픽, 텍스트 등을 포함하는 화면을 표시한다. 예를 들어, 디스플레이(510)는 액정(liquid crystal), 발광 다이오드(light emitting diode) 디스플레이 또는 다른 소재로 구성될 수 있다. 디스플레이(510)는 프로세서(540)을 통해 수신된 데이터에 대응하는 화면을 표시할 수 있다. 또한, 디스플레이(510)는 사용자의 입력을 감지하기 위한 터치 스크린을 포함할 수 있다. 다양한 실시 예들에 따라, 디스플레이(510)는 복수 개의 이미지 프레임들로부터 생성된 파노라마 이미지를 표시할 수 있다.
통신부(520)는 무선 주파수(radio frequency, RF) 신호를 수신할 수 있다. 이를 위해, 통신부(520)는 적어도 하나의 안테나(525)를 포함할 수 있다. 통신부(520)는 중간 주파수(intermediate frequency, IF) 또는 기저대역 신호를 생성하기 위해 수신된 신호를 하향 변환(down-convert)한다. 통신부(520)는 기저대역 또는 IF 신호를 필터링(filtering), 디코딩(decoding), 및/또는 디지털화(digitizing)함으로써 처리된 기저대역 신호를 생성하는 수신 처리 회로를 포함할 수 있다. 수신 처리 회로는 처리된 기저대역 신호를 음성 데이터를 위해 스피커 1030에 송신하거나, 처리를 더 하기 위해(예를 들면, 웹 브라우징 데이터(web browsing data)) 프로세서(540)에 송신할 수 있다.
또한, 통신부(520)는 적어도 하나의 송수신기(transceiver)를 포함할 수 있다. 적어도 하나의 송수신기는 프로세서(540)으로부터 송신을 위한(outgoing) 기저대역 데이터(웹 데이터, 이메일(e-mail), 쌍방향 비디오 게임 데이터 같은)를 수신한다. 송신 처리 회로는 처리된 기저대역 또는 중간주파수 신호를 생성하기 위해 송신을 위한 기저대역 데이터를 인코드(encode)하고, 멀티플렉스(multiplex)하고, 디지털화한다. 통신부(520)는 송신 처리 회로를 통해 송신을 위한 처리된 기저대역 또는 중간주파수 신호를 안테나를 통해 송신될 수 있는 RF 신호로 상향변환(up-convert)한다.
다양한 실시 예들에 따라, 예를 들어, 통신부(520)는 어플리케이션 제공자로부터 네트워크(162)를 통해 데이터를 제공받을 수 있고, 어플리케이션 제공자로 네트워크(162)를 통해 데이터를 송신할 수 있다. 통신부(520)는 어플리케이션 제공자로부터 송신한 데이터에 대한 피드백을 받아, 피드백에 따라 가공된 정보를 프로세서(540)에 제공할 수 있다. 예를 들어, 통신부(520)는 서버(106)으로부터 파노라마 이미지를 생성하기 위한 복수 개의 이미지 프레임들을 수신할 수 있다. 또한, 통신부(520)는 이미 생성된 파노라마 이미지를 수신할 수도 있다. 다양한 실시 예들에 따라, 통신부(520)는 서버(106)로부터 복수 개의 이미지 프레임들에 대한 통상적인 시선 이동 패턴에 관한 통계적 자료를 수신할 수 있다.
저장부(530)는 프로세서(540)에 결합되어 있다. 저장부(530)의 일부는 임의 접근 기억장치(random access memory, RAM)을 포함할 수 있고, 저장부(530)의 또 다른 부분은 플래시 메모리(flash memory) 또는 다른 읽기용 기억장치(read-only memory, ROM)을 포함할 수 있다. 다양한 실시 예들에 따르면, 저장부(530)는 파노라마 이미지를 생성하기 위한 이미지 프레임들을 저장할 수 있다. 또한, 저장부(530)는 이미지 프레임들로부터 생성된 파노라마 이미지를 저장할 수 있다. 다양한 실시 예들에 따르면, 저장부(530)는 파노라마 이미지를 생성하기 위해 결정된 심의 위치를 저장할 수 있다.
프로세서(540)는 프로세서(540)와 기능적으로 결합된 통신부(520), 디스플레이(510), 및 저장부(530)를 제어할 수 있다. 예를 들어, 프로세서(540)은 통신부(520)를 이용하여 정방향(forward)의 채널 신호의 수신과 역방향(reverse)의 채널 신호의 송신을 제어할 수 있다. 어떤 실시 예들에서는, 프로세서(540)은 최소한 하나의 마이크로프로세서(microprocessor) 또는 마이크로제어기(microcontroller)를 포함한다.
프로세서(540)은 또한 저장부(530)에 존재하는 다른 프로세스나 프로그램을 실행할 수 있다. 프로세서(540)은 실행 프로세스에서 요구됨에 따라 데이터를 저장부(530)로 이동시키거나 불러올 수 있다. 어떤 실시 예들에서는, 프로세서(540)는 OS에 기반하여 수신되는 신호에 응답하여 어플리케이션을 실행하도록 구성된다.
다양한 실시 예들에 따른 프로세서(540)는, 복수 개의 이미지 프레임들로부터 파노라마 이미지를 생성하기 위한 연산을 수행할 수 있다. 여기서, 복수 개의 이미지 프레임들에 기반하여 생성된 이미지는 360도 회전 이미지일 수 있다. 또한, 프로세서(540)는 생성된 파노라마 이미지에 대한 연산을 수행하여 파노라마 이미지를 적응적으로 변경할 수 있다. 예를 들어, 프로세서(540)는 복수 개의 이미지 프레임들을 재정렬할 수 있다. 또한, 프로세서(540)는 파노라마 이미지에서 적어도 하나의 심에 대한 위치를 변경할 수 있다. 이를 위해, 프로세서(540)는 특징점 검출부(541), 특징점 매칭부(542), 이미지 정렬부(543), 심 검색부(544), 이미지 블렌딩부(545), 노출 및 색상 보정부(546)를 포함할 수 있다.
특징점 검출부(541)는 하나의 파노라마 이미지(630)를 형성하기 위해 저장부(530)에 저장된 이미지 프레임들 각각에 대한 특징점들을 검출할 수 있다. 예를 들어, 하나의 파노라마 이미지(630)가 도 6에 도시된 바와 같이 두 개의 이미지 프레임들(610, 620)에 기반하여 생성되는 경우, 특징점 검출부(541)는 각각의 이미지 프레임들(610, 620)의 꼭지점(corner) 부분에서 특징점들을 검출할 수 있다. 또 다른 예로, 특징점 검출부(541)는 파노라마 이미지를 형성하기 위한 다른 알고리즘에 따라 각각의 이미지 프레임들(610, 620)의 꼭지점 부분이 아닌 다른 부분에서 특징점들을 추출할 수 있다.
특징점 매칭부(542)는 특징점 검출부(541)가 추출한 특징점들에 기반하여 대응점들을 결정할 수 있다. 예를 들어, 특징점 매칭부(542)는 각각의 이미지 프레임들(610, 620)에서 추출한 특징점들의 픽셀 값을 비교하여, 픽셀 값이 같거나 유사한 특징점들을 연관(associate)시켜 대응점들을 결정할 수 있다.
이미지 정렬부(543)은 특징점 매칭부(542)가 결정한 대응점들에 기반하여 이미지 프레임들을 정렬할 수 있다. 예를 들어, 이미지 정렬부(543)는 이미지 프레임들(610, 620)의 특징점들에서 대응점들 간 거리가 최소화 되도록 이미지 프레임들(610, 620) 중 적어도 하나를 이동시킬 수 있다. 다시 말해서, 이미지 정렬부(543)는 대응점들이 포개어지도록 이미지 프레임들(610, 620) 중 적어도 하나를 이동시켜 이미지 프레임들(610, 620)이 중첩 되도록 할 수 있다. 이미지 프레임들(610, 620)이 중첩됨에 따라, 도 6에 도시된 바와 같이 중첩 영역(640)이 생성될 수 있다.
심 검색부(544)는 이미지 프레임들의 중첩된 영역에서 각 이미지 프레임을 구분하는 경계선인 심을 검출할 수 있다. 예를 들어, 도 6에 도시된 바와 같이 두 개의 이미지 프레임들(610, 620)에 기반하여 하나의 파노라마 이미지(630)을 생성하는 경우, 심 검색부(544)는 이미지 프레임들(610, 620)의 중첩된 영역(640)에서 심(650)을 검출할 수 있다. 심 검색부(544)는 다양한 알고리즘에 기반하여 심(650)을 검출할 수 있다. 일 예로, 심 검색부(544)는 심에 인접한 각 이미지 프레임의 픽셀에서 픽셀 값, 색상 및 밝기에 관한 파라미터 값의 차이가 최소화되도록 심을 결정할 수 있다. 또한, 심 검색부(544)는 이미지 프레임들(610, 620)의 중첩된 영역에서 최적의 심을 결정하기 위한 후보 심들을 검색할 수 있고, 검색된 각각의 후보 심에 대해 픽셀 값, 색상 및 밝기에 관한 파라미터 값의 차이에 기반하여 심 검색 가중치를 부여할 수 있다. 다시 말해서, 심 검색부(544)는 각각의 후보 심에 의해 구분되는 인접 이미지 프레임에 대한 픽셀 값, 색상 및 밝기에 관한 파라미터 값의 차이가 작을수록 높은 가중치를 부여할 수 있다. 심 검색부(544)는 검색된 후보 심들 중에서 심 검색 가중치가 가장 높은 심을 중첩된 영역(640)에서의 심(650)으로 결정할 수 있다. 나아가, 심 검색부(544)는 이미지 프레임들의 중첩된 영역에서 특정 영역에 속한 픽셀들에 대한 심 검색 가중치를 조절하여 심 검색을 수행할 수 있다. 예를 들어, 심 검색부(544)는 특정 영역에 속한 픽셀들에 대한 심 검색 가중치를 임계 값 이하로 설정하여, 검색되는 심이 특정 영역에 속한 픽셀들로 구성되지 않거나, 특정 영역에 속한 픽셀들로 구성된 심이 낮은 우선 순위로 검색되도록 할 수 있다. 다양한 실시 예들에 따라, 심 검색부(544)는 파노라마 이미지상에서 결정된 심의 위치를 저장부(530)에 저장할 수 있다.
이미지 블렌딩부(545)는 심 검색부(544)에 의해 결정된 심을 기준으로 이미지 프레임들에 대한 블렌딩을 수행할 수 있다. 예를 들어, 이미지 블렌딩부(545)는 생성된 파노라마 이미지(630)에서 심(650)에 의해 구분되는 영역들이 매끄럽게 연결되도록 이미지 프레임들(610, 620)의 중첩 영역(640)에서 블렌딩을 수행할 수 있다.
노출 및 색상 보정부(546)는 이미지 프레임들로 구성된 전체 파노라마 이미지에 대한 노출 및 색상을 보정할 수 있다. 다시 말해서, 노출 및 색상 보정부(546)는 이미지 프레임들(610, 620)을 구성하는 픽셀들의 노출 및 색상에 관한 파라미터가 전체 파노라마 이미지(630)에서 균일해 지도록 하여, 심(650)에 의한 스티칭 에러가 최소화되도록 할 수 있다.
이하 본 문서에서, 각각의 특징점 검출부(541), 특징점 매칭부(542), 이미지 정렬부(543), 심 검색부(544), 이미지 블렌딩부(545), 및 노출 및 색상 보정부(546)에 의해 수행되는 동작들 전체 또는 일부는 '이미지 스티칭'으로 정의된다.
다양한 실시 예들에 따라, 프로세서(540)는 디스플레이(510)에 표시된 이미지에 나타난 오브젝트가 근거리 오브젝트인지 여부를 결정할 수 있다. 예를 들어, 프로세서(540)는 이미지를 구성하는 픽셀들에 대응하는 깊이 값에 기반하여, 이미지에 나타난 오브젝트가 근거리 오브젝트인지 여부를 결정할 수 있다. 다른 예로서, 프로세서(540)는 이미지 상에서 오브젝트의 움직임을 검출하여 근거리 오브젝트인지 여부를 결정할 수 있다.
이상에서, 하나의 파노라마 이미지를 생성하기 위해 두 개의 이미지 프레임들(610, 620)이 사용되었으나, 이는 설명의 편의를 위한 것이며, 전자 장치(201)는 3개 이상의 이미지 프레임들을 이용하여 하나 또는 둘 이상의 파노라마 이미지들을 생성할 수 있다. 또한, 파노라마 이미지를 생성하기 위해 프로세서(540)의 기능적 구성요소(541 내지 546)가 수행하는 연산 또는 작업은 서로 독립적으로 수행될 수 있으며, 일부 구성요소의 연산이 수행되지 않고도 전자 장치(201)는 파노라마 이미지를 생성할 수 있다. 상술한 파노라마 이미지를 생성하는 동작은 예시적인 것이고, 전자 장치(201)는 다양한 다른 방법으로 이미지 프레임들로부터 파노라마 이미지를 생성할 수 있다.
도 5는 전자 장치(201)가 디스플레이(510), 통신부(520), 저장부(530) 및 프로세서(540)를 포함하는 것으로 도시하나, 이는 예시적인 것이고, 전자 장치(201)는 다른 구성요소를 더 포함할 수도 있고, 상술한 디스플레이(510), 통신부(520), 저장부(530) 및 프로세서(540) 중 일부는 생략될 수 있다.
다양한 실시 예들에 따라, 전자 장치(201)는 응시 영역(gazing area)에 따라 적응적으로 이미지 프레임들을 스티칭한다. 일반적으로, 응시 영역은 사용자의 양안 시력이 일치하여 사용자가 사물을 뚜렷하게 볼 수 있는 영역을 의미한다. 예를 들어, 응시 영역은 도 7에 도시된 바와 같이 응시점 영역(foveal area)와 주변시 영역(parafoveal area)로 구분될 수 있다.
도 7은 본 발명의 다양한 실시 예들에 따른 사용자의 응시 영역들을 도시한다. 도 7을 참고하면, 응시점 영역(710)은 사용자의 시선의 중심부를 지칭한다. 다시 말해서, 응시점 영역(710)은 사용자의 시야 각이 1도 내지 2도 이내에 해당하는 영역으로, 사용자가 사물을 가장 명확하게 볼 수 있는 영역을 의미한다. 주변시 영역(720)은 응시점 영역(710)을 중심으로 그 주변 영역을 지칭한다. 다시 말해서, 주변시 영역(720)은 사용자의 시야 각이 2도 내지 10도 이내에 해당하는 영역으로, 사용자가 사물의 형태 및/또는 색깔 등은 인지할 수 있지만 사물의 자세한 모양이나, 사물에 프린트된 문자 등은 인지할 수 없는 영역을 의미한다. 상술한 응시점 영역 및 주변시 영역 각각에 해당하는 각도 범위(1도 내지 2도, 2도 내지 10도)는 예시적인 것이고, 응시점 영역 및 주변시 영역은 임의의 각도 범위로 정의될 수 있다.
다양한 실시 예들에 따르면, 응시 영역의 종류는 상술한 응시점 영역(710) 및 주변시 영역(720) 중 어느 하나로 한정되지 않는다. 예를 들어, 사용자가 파노라마 이미지상의 특정 오브젝트를 주의 깊게 바라볼 경우, 도 20 내지 도 21에서 상세히 설명되는 바와 같이, 프로세서(540)는 응시점 영역에 포함되는 특정 오브젝트의 영역을 응시 영역으로 결정할 수 있다.
또한, 도 7에서는 응시점 영역(710) 및/또는 주변시 영역(720)이 타원 모양으로 도시되었으나, 이는 예시적인 것이며, 응시점 영역(710) 및/또는 주변시 영역(720)은 다양한 모양으로 정의될 수 있다. 예를 들어, 응시 영역이 오브젝트의 영역으로 정의되는 경우, 응시 영역의 모양은 오브젝트의 모양에 따를 수 있다. 이 경우, 사용자가 응시하는 적어도 하나의 지점에 위치한 픽셀이 속한 오브젝트를 표현하는 픽셀들의 영역이 응시 영역으로 결정될 수 있다. 이를 위해, 전자 장치는 사용자가 응시하는 지점에 대응하는 적어도 하나의 픽셀을 식별하고, 픽셀이 속한 오브젝트를 확인한 후, 오브젝트를 나타내는 픽셀들을 응시 영역으로 결정할 수 있다.
다양한 실시 예들에 따르면, 사용자는 전자 장치(201)을 착용한 상태에서 전자 장치(201)가 표시하는 복수 개의 이미지 프레임들에 기반하여 생성된 360도 파노라마 이미지를 감상할 수 있다. 이 경우, 전자 장치(201)는 파노라마 이미지 상에서 사용자의 응시 영역의 위치를 결정할 수 있다. 구체적으로, 전자 장치(201)의 시선 추적부(299)는 전자 장치(201)를 착용한 사용자의 시선을 추적하여 사용자의 시선이 전자 장치(201)의 디스플레이(510)의 어느 위치에 형성되는지 검출할 수 있고, 해당 위치에서 표시된 파노라마 이미지를 고려하여 파노라마 이미지 상에서 사용자의 응시 영역의 위치를 결정할 수 있다. 전자 장치(201)에 표시된 파노라마 이미지가 이동하는 경우, 사용자의 응시 영역은 동일한 파노라마 이미지 상에서 서로 다른 위치로 결정될 수 있다. 예를 들어, 사용자가 전자 장치(201)를 착용한 상태에서 고개를 움직일 경우, 전자 장치(201)는 사용자의 고개 움직임의 속도 및/또는 방향을 검출할 수 있고, 파노라마 이미지는 검출된 속도 및/또는 방향에 기반하여 전자 장치(201)의 디스플레이(510)상에서 이동할 수 있다. 이 경우, 응시 영역은 이동된 파노라마 이미지 상에서 사용자의 시선이 향하는 위치로 결정될 수 있다. 다시 말해서, 사용자의 조작에 의해 응시 영역은 파노라마 이미지 상에서 처음에 위치하였던 곳과 다른 곳에 위치할 수 있다.
파노라마 이미지는 복수 개의 이미지 프레임들에 기반하여 생성되며, 복수 개의 이미지 프레임들간의 경계 영역인 심들을 포함할 수 있다. 따라서, 사용자의 응시 영역은 파노라마 이미지상의 복수 개의 심들 중 어느 하나의 위치로 결정될 수 있다. 특히, 사용자는 시야 각이 1도 내지 2도 이내인 응시점 영역을 주의 깊게 보게 되므로, 사용자가 파노라마 이미지를 감상할 때 파노라마 이미지상의 심에 응시점 영역이 위치할 경우, 사용자는 화질의 저하를 느낄 수 있다. 상술한 문제점들을 해결하기 위해, 본 발명의 다양한 실시 예들은 파노라마 이미지상에서 사용자의 응시 영역의 위치를 고려하여 적응적으로 스티칭을 수행하는 방법 및 장치를 제공한다.
도 8은 본 발명의 다양한 실시 예들에 따라 전자 장치에서 적응적 이미지 스티칭을 수행하기 위한 흐름도이다.
도 8을 참고하면, 동작 801에서, 프로세서(540)는 복수 개의 이미지 프레임들에 기반하여 생성된 이미지를 표시한다. 프로세서(540)는 프로세서(540)에 포함된 특징점 검출부(541), 특징점 매칭부(542), 이미지 정렬부(543), 심 검색부(544), 이미지 블렌딩부(545), 노출 및 색상 보정부(546) 중 적어도 하나가 수행하는 기능을 이용하여 복수 개의 이미지 프레임들로부터 파노라마 이미지를 생성할 수 있다. 보다 상세하게, 프로세서(540)는 복수 개의 이미지 프레임들 각각에 대한 특징점들을 검출하고, 검출된 특징점들로부터 대응점을 결정하고, 대응점에 기반하여 이미지 프레임들을 정렬하고, 정렬된 이미지 프레임들의 중첩 영역에서 심을 결정하고, 심을 기준으로 이미지 프레임들에 대한 노출 및 색상을 보정하고, 블렌딩을 수행하여 파노라마 이미지를 생성할 수 있다.
동작 820에서, 프로세서(540)는 생성된 이미지상에서 응시 영역을 결정한다. 예를 들어, 전자 장치(201)가 웨어러블 장치(410)를 포함할 경우, 프로세서(540)는 웨어러블 장치(410)의 시선 추적부(299)를 이용하여 웨어러블 장치(410)를 착용한 사용자의 시선을 추적하여 사용자의 시선이 웨어러블 장치(410) 디스플레이의 어느 위치에 형성되는지 검출할 수 있다. 이에 따라, 프로세서(540)는 해당 위치에 표시된 파노라마 이미지를 고려하여 파노라마 이미지 상에서 사용자의 응시 영역의 위치를 결정할 수 있다.
동작 830에서, 프로세서(540)는 결정된 응시 영역이 심의 적어도 일부 포함하는지 여부를 결정한다. 프로세서(540)는 파노라마 이미지를 생성하기 위해 복수의 이미지 프레임들로부터 결정된 심의 위치를 저장부(530)에 저장할 수 있고, 결정된 응시 영역의 위치와 심의 위치에 기반하여 심의 적어도 일부가 응시 영역에 포함되는지 여부를 판단할 수 있다. 예를 들어, 도 9에 도시된 바와 같이 파노라마 이미지(630)상의 심(650-1)의 위치에 응시 영역(910)의 위치가 결정되는 경우, 프로세서(540)는 심(650-1)의 적어도 일부가 응시 영역(910)에 포함되는 것으로 결정할 수 있다.
동작 840에서, 프로세서(540)가 응시 영역이 심의 적어도 일부를 포함하는 경우, 프로세서(540)는 생성된 이미지에서 응시 영역에 포함된 특징 점들에 기반하여 이미지 프레임들을 재정렬(realign)한다. 다시 말해서, 프로세서(540)는 응시 영역을 기준으로 이미지 프레임들을 재정렬할 수 있다. 보다 상세하게, 동작 810에서 프로세서(540)가 이미지를 생성하기 위해 복수의 이미지 프레임들의 전체 영역에서 특징점 추출 및 매칭을 수행하여 이미지 프레임들을 정렬하였다면, 동작 840에서 프로세서(540)는 응시 영역 내부에서 이미지 프레임들에 대한 특징점 추출 및 매칭을 수행하여 이미지 프레임들을 재정렬한다.
예를 들어, 도 9에 도시된 바와 같이 응시 영역(910)이 파노라마 이미지(630)에서 심(650-1)을 포함하는 경우, 프로세서(540)는 이미지(630)에서 응시 영역(910)에 포함된 특징점들에 기반하여 이미지 프레임들에 대한 재정렬을 수행할 수 있다. 이로 인해, 도 9와 같이, 이미지 프레임들에 대한 재정렬을 수행한 후의 심(650-2)은 적어도 응시 영역(910)에는 포함되지 않을 수 있고, 이에 따라 사용자가 이미지(630)을 바라볼 때 느끼는 왜곡이 최소화 될 수 있다.
그러나, 프로세서(540)가 응시 영역을 기준으로 이미지 프레임들에 대한 재정렬을 수행한 후에도 심은 여전히 응시 영역에 포함될 수 있고, 이 경우, 프로세서(540)는 후술되는 바와 같이 심이 응시 영역의 외부에 위치하도록 하는 별도의 알고리즘을 적용하거나, 응시 영역의 픽셀들을 기준으로 인접 이미지 프레임들간 노출 및 색상을 보상하여 스티칭 에러를 최소화 할 수 있다. 도 8에 도시되지 아니하였으나, 프로세서(540)는 응시 영역에 포함된 특징 점들에 기반하여 이미지 프레임들에 대한 재정렬(realign)을 수행한 후, 재정렬에 기반하여 생성된 이미지를 표시할 수 있다.
다양한 실시 예들에 따르면, 프로세서(540)는 심이 응시 영역 외부에 위치하도록 하기 위해, 현재 응시 영역에 포함된 픽셀들에 대한 심 검색 가중치를 임계 값 보다 낮게 설정하여 심 검색을 재수행할 수 있다. 예를 들어, 도 9에 도시된 바와 같이 응시 영역(910)이 본래의 심(650-1)을 포함하는 경우, 프로세서(540)는 본래의 심(650-1)을 구성하는 픽셀들을 포함하여 응시 영역(910)에 포함된 픽셀들에 대한 심 검색 가중치를 낮게 설정하여 심 검색을 재수행 할 수 있다. 프로세서(540)는 심 검색 가중치가 낮게 설정된 픽셀들에 대해서는 심 검색을 수행하지 않을 수 있으며, 따라서, 응시 영역(910)의 픽셀들을 포함하지 않는 새로운 수정된 심(650-2)이 검색될 수 있다. 또한, 프로세서(540)는 응시 영역(910)에 포함된 본래의 심(650-1)에 대한 심 검색 가중치를 임계 값 보다 낮게 설정하여 심 검색을 재수행 할 수 있다. 프로세서(540)는 파노라마 이미지(630)를 생성하기 위한 복수 개의 후보 심들 중에서 심 검색 가중치가 높은 심을 검색할 수 있으며, 본래의 심(650-1)은 심 검색 가중치가 낮게 설정 되어 있으므로, 본래의 심(650-1)이 아닌 수정된 심(650-2)이 파노라마 이미지(630)에서의 심으로 결정될 수 있다.
응시 영역이 심을 포함하는 경우, 응시 영역에 포함된 특징 점들에 기반하여 이미지 프레임들에 대한 재정렬을 수행하는 구체적인 실시 예는 도 10에서 보다 상세히 설명된다. 도 10은 본 발명의 다양한 실시 예들에 따라 스티칭 에러를 제거하도록 이미지 프레임들에 대한 재정렬을 수행하는 동작을 도시한다. 도 10에 따른 파노라마 이미지(1010-1)에는 배경 화면에서 근거리 오브젝트(1050)가 이동하는 것이 나타나 있다. 근거리 오브젝트(1050)와 배경 화면의 구분은, 예를 들면, 근거리 오브젝트(1050)의 픽셀에 대응하는 깊이 값 또는 오브젝트(1050)의 움직임 여부에 기반하여 결정될 수 있다. 도 10에서, 사용자는 사람 형태의 근거리 오브젝트(1050)의 머리 부분을 응시하는 것을 가정한다. 다시 말해서, 응시 영역(910)은 근거리 오브젝트(1050)의 머리 부분을 포함한다. 이미지(1010-1)에서, 응시 영역(910)은 심(1040-1)을 포함하지 않는다. 이때, 사용자의 시선이 문 형태의 원거리 오브젝트(1020)로 이동할 경우, 응시 영역(910)은 심(1040-1)을 포함할 수 있다. 심(1040-1)은 문(door) 형태의 원거리 오브젝트(1020)을 가로지르므로(cross), 사용자의 응시 영역(910)은 심(1040-1)의 일부를 포함하게 된다. 따라서, 사용자에게 고품질의 이미지를 제공하기 위해, 프로세서(540)는 이미지(1010-1)에서 응시 영역(910)에 포함된 특징점들에 기반하여 이미지(1010-1) 생성의 기초가 된 이미지 프레임들에 대한 재정렬을 수행할 수 있다. 다시 말해서, 프로세서(540)가 이미지(1010-1)를 생성하기 위해 복수의 이미지 프레임들의 전체 영역에서 특징점 추출 및 매칭을 수행하여 이미지 프레임들을 정렬하였다면, 프로세서(540)는 이미지(1010-2)를 생성하기 위해 응시 영역 내부에서 이미지 프레임들에 대한 특징점 추출 및 매칭을 수행하여 이미지 프레임들을 재정렬 할 수 있다. 재정렬 후의 이미지(1010-2)에서, 심(1040-2)은 응시 영역(910) 외부에 위치할 수 있다. 이에 따라, 현재 사용자의 응시 영역(910)에 포함된 문 형태의 원거리 오브젝트는 왜곡 없이 사용자에게 보여질 수 있다. 이미지(1010-2)에서, 변경된 심(1040-2)은 본래 사용자의 응시 영역(910)이 위치하였던 근거리 오브젝트(1050)의 머리 부분(1030)을 가로지른다. 다시 말해서, 근거리 오브젝트(1050)에는 왜곡이 생길 수 있다. 그러나, 현재 사용자의 시선이 향하는 곳은 심이 제거된 원거리 오브젝트이므로, 사용자가 실질적으로 느끼는 이미지의 품질은 높을 수 있다.
다양한 실시 예에 따라, 사용자의 응시 영역이 근거리 오브젝트에 위치하는 경우 및 원거리 오브젝트에 위치하는 경우에, 이미지 재정렬의 수행 여부는 서로 다른 기준에 의하여 판단될 수 있다. 예를 들어, 일반적으로 사용자는 원거리 오브젝트를 주의 깊게 바라보지 않는다 할 것이므로, 원거리 오브젝트에 대해서는 임계 시간이 설정되어, 사용자가 원거리 오브젝트를 임계 시간 이상 바라보는 경우, 다시 말해서, 응시 영역이 원거리 오브젝트를 포함하는 시간이 임계 시간 이상인 경우에만 이미지에 대한 연산이 수행될 수 있다.
또한, 도 10에서, 사용자의 시선이 근거리 오브젝트 에서 원거리 오브젝트로 이동할 경우 이미지 프레임들에 대한 재정렬을 수행하는 것으로 나타나 있으나, 이는 예시적인 것이고, 프로세서(540)는 오브젝트가 근거리 오브젝트인지 여부에 관계 없이 결정된 사용자의 응시 영역에 심이 포함될 경우 이미지 프레임들에 대한 재정렬을 수행할 수 있다.
프로세서(540)가 응시 영역이 심을 포함하지 않는 것으로 결정한 경우, 동작 820으로 되돌아가, 프로세서(540)는 이미지 상에서 응시 영역을 결정한다. 다시 말해서, 현재의 응시 영역이 심을 포함하지 않는 경우, 프로세서(540)는 이미지의 이동, 웨어러블 장치(410)를 착용한 사용자의 고개 움직임 또는 사용자의 시선의 움직임에 따라 변경된 응시 영역이 심을 포함하는지 여부를 판단하기 위해, 변경된 응시 영역을 결정할 수 있다.
도 8 내지 도 10을 참고하여 설명한 바와 같이, 본 발명의 실시 예들에 따르면, 전자 장치(201)는 사용자의 시선의 이동에 따라 결정된 응시 영역에 기반하여 응시 영역에 포함된 특징점들에 기반하여 이미지 프레임들에 대한 재정렬을 수행함으로써, 사용자에게 고품질의 정합 이미지를 제공할 수 있다.
도 11은 본 발명의 다양한 실시 예들에 따라 사용자의 응시 영역을 고려하여 이미지를 생성하기 위한 세부 흐름도이다. 프로세서(540)는 복수 개의 이미지 프레임들에 기반하여 파노라마 이미지를 생성하기 위해, 응시 영역을 고려할 수 있다. 도 11의 흐름도는 상술한 바와 같이, 사용자의 응시 영역을 고려하여 파노라마 이미지를 생성하는 동작을 나타낸다.
도 11을 참고하면, 동작 1101에서, 프로세서(540)는 파노라마 이미지를 생성하기 위해, 이미지 프레임들 각각에 대한 특징점을 검출한다. 동작 1101에서의 특징점 검출은 사용자의 응시 영역을 고려하지 않는 것으로, 프로세서(540)는 각각의 이미지 프레임들의 전체 영역을 고려하여 특징점들을 검출하거나, 또는 미리 정의된 위치(예: 각 이미지 프레임의 꼭지점 영역)에서 특징점들을 검출할 수 있다.
동작 1103에서, 프로세서(540)는 검출된 특징점들에 대해 매칭을 수행한다. 예를 들어, 프로세서(540)는 각각의 이미지 프레임들(610, 620)에서 추출한 특징점들 중에서 픽셀 값들이 같거나 유사한 점들을 대응점들로 결정할 수 있다.
동작 1105에서, 프로세서(540)는 대응점들에 기반하여 이미지 프레임들을 정렬한다. 예를 들어, 프로세서(540)는 이미지 프레임들의 특징점들이 대응점들끼리 매칭되도록 이미지 프레임들 중 적어도 하나를 이동시킬 수 있다. 다시 말해서, 프로세서(540)는 대응점들이 포개어지도록 이미지 프레임들 중 적어도 하나를 이동시켜 이미지 프레임들이 중첩 되도록 할 수 있다.
동작 1107에서, 프로세서(540)는 정렬된 이미지 프레임들에서 심을 결정하기 위해, 심을 검색한다. 예를 들어, 프로세서(540)는 이미지 프레임들의 중첩된 영역에서 각 이미지 프레임의 픽셀에서 픽셀 값, 색상 및 밝기에 관한 파라미터 값의 차이에 기반하여 심을 결정할 수 있다. 또한, 프로세서(540)는 이미지 프레임에서 오브젝트의 픽셀에 대응하는 깊이 값을 고려하여 심을 결정할 수 있다.
동작 1109에서, 심을 검색한 후, 프로세서(540)는 사용자의 응시 영역을 결정한다. 예를 들어, 프로세서(540)는 시선 추적부(299)를 제어하여 사용자의 시선을 추적할 수 있고, 사용자의 시선 방향에서 결정되는 응시 영역을 결정할 수 있다.
동작 1111에서, 프로세서(540)는 응시 영역 내에 심이 존재하는지 여부를 결정한다. 예를 들어, 프로세서(540)는 이미지 프레임들로부터 결정된 심의 위치를 저장부(530)에 저장할 수 있고, 심의 위치로 응시 영역의 위치가 결정될 경우, 응시 영역 내에 심이 존재하는 것으로 결정할 수 있다.
응시 영역 내에 심이 존재하는 경우, 동작 1113에서, 프로세서(540)는 응시 영역을 고려하여 이미지 프레임들에 대한 재정렬을 수행하기 위해, 응시 영역에 포함된 이미지 프레임들에서 특징점들을 추출한다. 다시 말해서, 동작 1101에서 프로세서(540)가 사용자의 응시 영역을 고려하지 않고 각각의 이미지 프레임들의 전체 영역이나, 미리 정의된 위치에서 특징점을 검출한 것과 달리, 프로세서(540)는 응시 영역에 관련된 적어도 두 개의 이미지 프레임들에서 응시 영역에 포함된 특징점들을 추출할 수 있다.
응시 영역에 포함된 이미지 프레임들에서 특징점들을 추출한 후, 동작 1115에서, 프로세서(540)는 응시 영역 내에서 검출된 특징점들에 대해 매칭을 수행한다. 다시 말해서, 프로세서(540)는 응시 영역 내에서 추출한 특징점들에 대해 픽셀 값들을 계산하여, 계산된 픽셀 값들이 같거나 유사한 점들을 대응점들로 결정할 수 있다. 이후, 동작 1105으로 되돌아가, 프로세서(540)는 응시 영역에서 추출한 특징점 및 대응점들을 이용하여 이미지 프레임들에 대한 재정렬을 수행한다.
응시 영역 내에 심이 존재하지 않는 경우, 동작 1117에서, 프로세서(540)는 이미지 프레임들에 대한 노출 및 색상 값을 보상한다. 다시 말해서, 응시 영역 내에 심이 존재하지 않으므로, 프로세서(540)는 최종적인 정합 이미지를 생성하기 위해 현재 정렬되어 있는 이미지 프레임들 및 심에 기반하여 이미지 프레임들에 대한 노출 및 색상 값을 보상할 수 있다. 예를 들어, 프로세서(540)는 이미지 프레임들을 구성하는 노출 및 색상에 관한 파라미터가 전체 정합 이미지에서 균일해 지도록 할 수 있다. 이미지 프레임들에 대한 노출 및 색상 값을 보상한 후, 동작 1119에서, 프로세서(540)는 최종적인 정합 이미지를 생성한다.
도 11에서는 사용자의 응시 영역을 고려하여 최종적인 정합 이미지를 생성하는 과정이 도시되었으나, 프로세서(540)는 사용자의 응시 영역을 고려하지 않고 이미지 프레임들로부터 정합 이미지를 생성한 후, 이미 생성된 정합 이미지에서 사용자의 응시 영역을 고려하여 이미지 프레임들에 대한 재정렬을 수행할 수도 있다. 다시 말해서, 프로세서(540)는 일반적인 이미지 스티칭 절차에 따라 정렬된 이미지 프레임들에 대해 심을 검색한 후 응시 영역을 고려함 없이 이미지 프레임들에 대한 노출 및 색상 값을 보상하여 정합 이미지를 생성할 수 있다.
응시 영역에서 스티칭 에러는 응시 영역이 이중상 및/또는 근거리 오브젝트 짤림을 포함하거나, 응시 영역에 이미지의 심이 포함될 경우 발생할 수 있다. 스티칭 에러를 제거하기 위해, 프로세서(540)는 도 8 및 도 11에서 설명된 것과 같이 전체 파노라마 이미지에서 응시 영역에 포함된 특징점들에 기반하여 이미지 프레임들을 재정렬할 수 있다. 이하 도 12 및 도 13와 함께, 응시 영역에서 스티칭 에러를 제거하기 위해 이미지 프레임들을 재정렬하는 알고리즘이 설명된다.
도 12는 본 발명의 다양한 실시 예들에 따라 응시 영역을 고려하여 이미지 프레임들을 재정렬하기 위한 세부 흐름도이다.
도 12를 참고하면, 동작 1210에서, 프로세서(540)는 응시 영역에 포함된 이미지 프레임들의 특징점들간 거리를 검출한다. 예를 들어, 응시 영역이 심의 적어도 일부를 포함하거나, 또는 응시 영역이 이중상 및/또는 근거리 오브젝트 짤림을 포함하는 경우와 같이 응시 영역에 스티칭 에러가 존재하는 경우, 프로세서(540)는 응시 영역에 포함된 이미지 프레임들의 특징점들간 거리를 검출할 수 있다. 예를 들어, 도 13에 도시된 바와 같이 파노라마 이미지(630)에서 동일한 오브젝트(1310-1, 1310-2)가 심(650-1)에 의해 구분되는 두 개의 이미지 프레임들(610, 620) 각각에 표시될 수 있다. 도 13에 도시된 바와 같이 응시 영역(910)이 결정된 경우, 사용자는 오브젝트(1310-1, 1310-2)의 이중상에 의한 화질의 저하를 느낄 수 있다. 응시 영역에 포함된 이미지 프레임들의 특징점들간 거리를 검출하기 위해, 프로세서(540)는 응시 영역 내의 이미지 프레임에서 특징점들을 추출하고, 추출된 특징점들에 기반하여 대응점들을 결정할 수 있다.
이후, 동작 1220에서, 프로세서(540)는 특징점들간 거리가 최소화되도록 이미지 프레임들을 정렬한다. 다시 말해서, 프로세서(540)는 특징점들로부터 결정된 대응점들간 거리가 최소화되도록 이미지 프레임들을 정렬한다. 예를 들어, 도 13에 도시된 바와 같이, 프로세서(540)는 응시 영역(910) 내에서 특징점들을 추출하여 특징점들간 거리가 최소화되도록 이미지 프레임들(610, 620)을 재정렬 할 수 있으며, 그 결과 사용자의 응시 영역(910)은 이중상이 제거된 오브젝트(1310)를 포함할 수 있다. 이미지 재정렬에 따라, 응시 영역(910) 내에 포함된 오브젝트(1310)의 이중상은 제거되지만, 응시 영역(910)은 여전히 심(650)을 포함할 수 있다. 그러나, 도 13에 도시된 것과 달리, 이미지 재정렬을 통해 후보 심들 및 최적의 심이 변경될 수 있으므로, 특징점들간 거리가 최소화되도록 이미지 프레임들(610, 620)을 재정렬한 결과 심(650)이 오브젝트(1310)를 지나지 않을 수 있다.
도 14는 본 발명의 다양한 실시 예들에 따라 이미지 프레임들로부터 스티칭된 이미지를 생성하기 위한 세부 흐름도이다.
프로세서(540)는 응시 영역을 고려하지 않고 복수 개의 이미지 프레임들에 기반하여 파노라마 이미지를 생성할 수 있다. 다시 말해서, 도 14에 도시된 절차는 이미지 프레임들을 스티칭하여 전체 파노라마 이미지를 생성하기 위한 일반적인 동작을 나타낸다.
프로세서(540)는 동작 1410에서 이미지 프레임들에 대한 특징점을 도출하고, 동작 1420에서 특징점에 기반하여 대응점을 결정하고, 동작 1430에서 대응점에 따라 이미지 프레임들을 정렬한 후, 동작 1440에서 이미지 프레임들의 중첩 영역에서 심을 검색한다. 각 동작 1410 내지 1440에 대응하는 절차는 각각 도 11의 동작 1101 내지 1107에서 수행된 절차와 동일하다.
심을 결정한 후, 동작 1450에서, 프로세서(540)는 이미지 프레임들에 대한 노출 및 색상 값을 보상한다. 다시 말해서, 프로세서(540)는 최종적인 정합 이미지를 생성하기 위해 현재 정렬되어 있는 이미지 프레임들 및 심에 기반하여 이미지 프레임들에 대한 노출 및 색상 값을 보상할 수 있다. 예를 들어, 프로세서(540)는 이미지 프레임들을 구성하는 노출 및 색상에 관한 파라미터가 전체 정합 이미지에서 균일해 지도록 할 수 있다.
이미지 프레임들에 대한 노출 및 색상 값을 보상한 후, 동작 1460에서, 프로세서(540)는 최종적인 정합 이미지를 생성한다. 도시되지 아니하였으나, 프로세서(540)는 동작 1460에서 최종적인 정합 이미지를 생성한 후, 사용자의 응시 영역을 고려하여 이미지 프레임들을 재정렬하기 위해 도 11의 동작 1111 및 그 이후의 절차를 추가적으로 수행할 수 있다.
도 15은 본 발명의 다양한 실시 예들에 따라 이미지에서 심이 사용자의 응시 영역 외부에 위치하도록 하기 위한 세부 연산의 흐름도이다. 도 15에서, 프로세서(540) 는 심의 적어도 일부를 포함하는 응시 영역에서 추출된 특징 점들에 기반하여 이미지 프레임들에 대한 재정렬 및 재정렬된 이미지 프레임들에 대한 심 검색을 수행한 것으로 가정한다.
동작 1510에서, 프로세서(540)는 사용자의 응시 영역을 결정한다. 예를 들어, 프로세서(540)는 시선 추적부(299)를 제어하여 사용자의 시선을 추적할 수 있고, 사용자의 시선 방향에서 결정되는 응시 영역을 결정할 수 있다.
동작 1520에서, 프로세서(540)는 응시 영역 내에 심이 존재하는지 여부를 결정한다. 다시 말해서, 프로세서(540)는 재정렬된 이미지 프레임들에서 검색된 심의 적어도 일부가 응시 영역에 포함되는지 여부를 결정한다.
동작 1530에서, 응시 영역 내에 심이 존재하는 경우, 프로세서(540)는 새로운 심을 검색한다. 예를 들어, 프로세서(540)는 응시 영역의 픽셀들에 대한 심 검색 가중치를 임계 값 이하로 설정하여 새로운 심을 검색할 수 있다. 또 다른 예로, 프로세서(540)는 현재 응시 영역 내에 존재하는 심에 대한 심 검색 가중치를 낮게 설정하여, 심 검색을 재수행 할 수 있다.
심 검색을 재수행한 후, 동작 1540에서, 프로세서(540)는 이미지 프레임들에 대한 노출 및 색상 값을 보상한다. 프로세서(540)는 새로이 검색된 심에 기반하여 이미지 프레임들에 대한 노출 및 색상 값을 보상할 수 있다. 예를 들어, 프로세서(540)는 이미지 프레임들을 구성하는 노출 및 색상에 관한 파라미터가 전체 정합 이미지에서 균일해 지도록 할 수 있다. 이미지 프레임들에 대한 노출 및 색상 값을 보상한 후, 동작 1550에서, 프로세서(540)는 최종적인 정합 이미지를 생성한다.
응시 영역 내에 심이 존재하지 않는 경우, 동작 1540에서, 프로세서(540)는 이미지 프레임들에 대한 노출 및 색상 값을 보상한다. 다시 말해서, 응시 영역 내에 심이 존재하지 않으므로, 프로세서(540)는 새로운 심을 검색하지 않고, 최종적인 정합 이미지를 생성하기 위해 현재의 심에 기반하여 이미지 프레임들에 대한 노출 및 색상 값을 보상할 수 있다. 이미지 프레임들에 대한 노출 및 색상 값을 보상한 후, 동작 1550에서, 프로세서(540)는 최종적인 정합 이미지를 생성한다.
도 16는 본 발명의 다양한 실시 예들에 따라 응시 영역에 심이 포함될 경우 전자 장치(201)에서 수행되는 동작을 나타내는 흐름도이다.
동작 1610에서, 프로세서(540)는 응시 영역의 픽셀들에 대한 심 검색 가중치를 임계 값 이하로 설정한다. 이를 통해, 프로세서(540)는 새롭게 결정되는 심이 응시 영역의 픽셀들을 포함하지 않거나, 응시 영역의 픽셀들을 포함하는 심이 낮은 우선 순위로 결정되도록 할 수 있다.
동작 1620에서, 프로세서(540)는 새로운 심을 검출한다. 프로세서(540)는 응시 영역의 픽셀들에 대한 심 검색 가중치를 임계 값 이하로 설정한 상태에서 심 검색을 재수행 할 수 있다. 프로세서(540)는 심 검색 가중치가 낮게 설정된 픽셀들에 대해서는 심 검색을 수행하지 않을 수 있으며, 따라서, 응시 영역의 픽셀들을 포함하지 않는 새로운 심이 검색될 수 있다.
파노라마 이미지에 대한 새로운 심을 검출한 후, 동작 1630에서 프로세서(540)는 응시 영역의 픽셀들에 대한 노출 및 색상 보정 가중치를 임계 값 이상으로 설정한다. 다시 말해서, 프로세서(540)는 전체 파노라마 이미지에서 가중치가 높은 응시 영역의 픽셀들을 기준으로 노출 및 색상 값을 보상할 수 있다. 프로세서(540)는 동작 1640에서 설정된 노출 및 색상 보정 가중치에 따라 새로운 심에 의해 구분되는 인접 이미지 프레임들간 노출 및 색상을 보상하며, 이에 따라 응시 영역의 픽셀들의 기준으로 전체 파노라마 이미지에 대한 노출 및 색상 값이 보상되므로, 사용자가 체감하는 심에 의한 왜곡이 줄어들 수 있다.
도 17는 본 발명의 다양한 실시 예들에 따라 이미지상에서 근거리 오브젝트에 심이 생성되지 않도록 스티칭을 수행하기 위한 흐름도이다. 도 17는 프로세서(540)가 복수의 이미지 프레임에 대한 정렬을 수행한 후 근거리 오브젝트를 심이 지나지(cross) 않도록 파노라마 이미지를 생성하는 절차를 도시한다.
동작 1710에서, 프로세서(540) 복수 개의 이미지 프레임들로부터 근거리 오브젝트를 식별한다. 예를 들어, 프로세서(540)는 이미지를 구성하는 픽셀들에 대응하는 깊이 값에 기반하여, 이미지에 나타난 오브젝트가 근거리 오브젝트인지 여부를 결정할 수 있다. 또 다른 예로, 프로세서(540)는 이미지 상에서 오브젝트의 움직임을 검출하여 근거리 오브젝트인지 여부를 결정할 수 있다.
동작 1720에서, 근거리 오브젝트를 식별한 후, 프로세서(540)는 근거리 오브젝트에 대응하는 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정한다. 이를 통해, 프로세서(540)는 근거리 오브젝트의 픽셀들을 포함하지 않는 심을 결정할 수 있다.
그 후, 동작 1730에서, 프로세서(540)는 설정된 심 검색 가중치에 따라 복수 개의 이미지 프레임들로부터 이미지를 생성한다. 다시 말해서, 프로세서(540)는 설정된 심 검색 가중치에 따라 정렬된 이미지 프레임들에 대해 심을 결정하고, 심으로 구분되는 인접 이미지 프레임간 노출 및 색상을 보상하여 최종적인 정합 이미지를 생성한다. 프로세서(540)는 심 검색 가중치가 낮게 설정된 픽셀들에 대해서는 심 검색을 수행하지 않을 수 있으며, 근거리 오브젝트의 픽셀들에 대한 심 검색 가중치는 낮게 설정되어 있으므로, 프로세서(540)는 근거리 오브젝트의 픽셀들을 포함하지 않는 심을 파노라마 이미지에 대한 심으로 검출할 수 있다.
도 18은 본 발명의 다양한 실시 예들에 따라 사용자의 응시 영역에 포함된 이미지 일부의 밝기를 균일하게 하기 위한 흐름도이다.
파노라마 이미지에서, 심에 의해 이중상이 생성되지 않거나, 이중상이 사용자의 눈에 식별될 만큼 도드라지지(outstand) 않는 경우에도, 심에 인접한 이미지 프레임들간 밝기 차이에 의해 사용자가 느끼는 화질이 저하될 수 있다. 예를 들어, 도 19에 도시된 바와 같이 두 개의 이미지 프레임들(610, 620)에 기반하여 생성된 파노라마 이미지(630)에서 사용자의 응시 영역(910)이 심(650)을 포함하는 경우, 사용자는 두 이미지 프레임들(610, 620)간 밝기 차이에 의해 화질의 저하를 느낄 수 있다. 도 19에서, 이미지 프레임(620)에 도시된 빗금은 이미지 프레임(610)보다 밝기가 더 어두운 것을 나타낸다. 프로세서(540)는 전체 파노라마 이미지(630)에 대한 밝기가 균일해 지도록 연산을 수행할 수 있으나, 적어도 사용자의 응시 영역(910)에서 밝기가 균일해 지도록 연산을 수행하여, 연산 량을 줄이면서 사용자가 느끼는 화질의 저하를 최소화 할 수 있다.
또 다른 예로, 응시 영역이 심의 적어도 일부를 포함하는 경우, 프로세서(540)가 응시 영역의 외부에 심이 위치하도록 이미지에 대한 연산을 수행할 수 없는 경우가 있을 수 있다. 예를 들어, 응시 영역의 픽셀들을 포함하지 않는 심은 이미지에 대한 왜곡을 임계 이상으로 초래하여, 프로세서(540)가 응시 영역의 픽셀들에 대한 심 검색 가중치를 낮게 설정하여 심에 대한 재검색을 수행하더라도 응시 영역의 외부에 위치하는 심이 검색되지 않을 수 있다. 이 경우, 응시 영역이 심을 포함하더라도 사용자가 느끼는 화질의 저하를 최소화하기 위한 연산이 수행될 필요가 있다. 도 18은 상술한 바와 같이 응시 영역에 심이 포함된 경우 심에 의해 구분되는 인접 이미지 프레임들간 밝기 값을 보상하기 위한 절차를 도시한다.
먼저, 동작 1810에서, 프로세서(540)는 응시 영역의 픽셀들에 대한 밝기 값을 계산한다. 도 19을 예로 들면, 프로세서(540)는 응시 영역(910)에 포함된 이미지(630)의 일부에 대한 픽셀들의 밝기를 계산한다. 픽셀들에 대한 밝기 값은 각 픽셀에 대한 색상, 회색도 및 투명도 중 적어도 하나의 정보에 기반하여 결정될 수 있다.
픽셀들에 대한 밝기 값을 계산한 후, 동작 1820에서, 프로세서(540)는 응시 영역에 포함된 이미지 부분의 밝기가 균일해 지도록 픽셀들에 대한 밝기 값을 조절한다. 응시 영역에서 이미지 부분의 밝기가 균일해 지도록 하기 위해, 프로세서(540)는 응시 영역에 포함된 어떤 이미지 프레임을 기준으로 응시 영역에 포함된 다른 이미지 프레임의 밝기가 동일해 지도록 밝기 값을 조절할 수 있다. 예를 들어, 도 19에 도시된 바와 같이, 응시 영역(910)이 이미지 프레임(610)의 일부 및 이미지 프레임(620)의 일부를 포함하는 경우, 프로세서(540)는 이미지 프레임(620)의 일부의 밝기가 이미지 프레임(610)의 밝기와 동일해 지도록 이미지 프레임(620)의 일부의 픽셀들에 대한 밝기 값을 조절할 수 있다. 이에 따라, 적어도 응시 영역(910) 내에 포함된 픽셀들에 대한 밝기 값은 균일하므로, 사용자가 느끼는 화질의 저하가 최소화 될 수 있다.
도 18 및 도 19에서는 응시 영역에 포함된 어느 하나의 이미지 프레임의 밝기 값으로 다른 이미지 프레임들에 대한 밝기 값을 조절하는 것을 설명하였으나, 이는 예시적인 것이고, 응시 영역에서 밝기를 균일하게 하기 위한 다른 알고리즘이 사용될 수 있다. 예를 들어, 프로세서(540)는 응시 영역 내의 이미지 프레임들의 밝기 값에 대한 평균 값을 산출하여, 응시 영역 내의 픽셀들에 대한 밝기 값을 평균 값으로 조절할 수 있다.
도 20은 본 발명의 다양한 실시 예들에 따라 이미지에 표시된 오브젝트를 포함하도록 응시 영역을 결정하기 위한 흐름도이다.
도 20을 참고하면, 동작 2010에서, 프로세서(540)는 이미지에 나타난 오브젝트에 대응하는 픽셀들 전부 또는 일부가 미리 결정된 응시 영역에 포함되는지 여부를 결정한다. 여기에서, 미리 결정된 응시 영역은 도 7의 응시점 영역 또는 주변시 영역을 포함할 수 있다. 예를 들어, 도 21에 도시된 바와 같이, 사용자가 오브젝트(2110)를 바라볼 경우, 응시 영역(910-1)은 이미지(630)에 나타난 오브젝트(2110)에 대응하는 픽셀들의 일부(머리 부분)를 포함할 수 있다. 응시 영역에 오브젝트의 '일부' 포함되는지 여부는 다양한 방법에 따라 결정될 수 있다. 예를 들어, 응시 영역의 중심점에 특정 오브젝트를 구성하는 픽셀이 위치될 경우, 프로세서(540)는 응시 영역에 오브젝트의 일부가 포함되는 것으로 판단할 수 있다. 또 다른 예로, 응시 영역 내에 포함된 픽셀들 중 특정 오브젝트를 구성하는 픽셀들의 수가 임계 숫자 이상인 경우, 프로세서(540)는 응시 영역이 이미지에 나타난 오브젝트에 대응하는 픽셀들의 일부를 포함하는 것으로 결정할 수 있다.
이미지에 나타난 오브젝트에 대응하는 픽셀들 전부 또는 일부가 미리 결정된 응시 영역에 포함될 경우, 동작 2020에서, 프로세서(540)는 오브젝트를 구성하는 픽셀들로 응시 영역을 결정한다. 다시 말해서, 프로세서(540)는 사용자가 응시하는 지점에 외치한 적어도 하나의 픽셀이 속한 오브젝트를 표현하는 픽셀들의 영역을 응시 영역으로 결정할 수 있다. 예를 들어, 도 21에 도시된 바와 같이 이미지(630)에 나타난 오브젝트(2110)에 대응하는 픽셀들의 일부(머리 부분)가 미리 결정된 응시 영역(910-1)에 포함될 경우, 프로세서(540)는 사용자가 오브젝트(2110)를 주의 깊게 바라보는 것으로 판단하여, 오브젝트(2110)를 구성하는 픽셀들로 응시 영역(910-2), 즉 오브젝트 영역을 결정한다.
응시 영역이 오브젝트 영역으로 결정됨에 따라, 응시 영역을 고려하여 이미지에 대한 재정렬이 수행될 경우 적어도 오브젝트에 대한 스티칭 에러는 최소화될 수 있다. 다시 말해서, 프로세서(540)는 오브젝트 영역에 포함된 이미지 프레임들에서 특징점들에 기반하여 이미지 프레임들을 재정렬 할 수 있으므로, 사용자가 오브젝트에 대해 느끼는 왜곡이 최소화될 수 있다.
도 22는 본 발명의 다양한 실시 예들에 따라 이미지 상에서 사용자의 시선 이동 방향을 고려하여 심을 형성하기 위한 흐름도이다.
도 22를 참고하면, 동작 2210에서, 프로세서(540)는 이미지 상에서 응시 영역이 복수 개의 이미지 프레임들 중 적어도 2개의 이미지 프레임들의 오버랩 영역에 있는 오브젝트로 이동하는 것을 검출한다. 예를 들어, 도 23에 도시된 바와 같이 프로세서(540)는 응시 영역이 좌측에서 우측 방향(2320)으로 이미지(630) 상에서 복수 개의 이미지 프레임들 중 적어도 2개의 이미지 프레임(610, 620)들의 오버랩 영역에 있는 오브젝트(2310)를 향해 이동하는 것을 검출할 수 있다. 프로세서(540)가 응시 영역의 이동 방향을 결정하는 방법은 하기와 같다.
일 예로, 프로세서(540)는 모션 트래킹 정보를 활용하여 사용자의 고개 움직임(head gesture)에 따라 응시 영역이 이동할 것으로 예측되는 방향 및 속도를 결정할 수 있다. 또 다른 예로, 프로세서(540)는 시선 추적부(299)를 이용하여 사용자의 응시 영역의 위치를 결정할 수 있으므로, 시간에 따른 응시 영역의 위치 변화량(예를 들면, 응시 영역 중심점의 위치 변화량)을 측정하여 응시 영역의 이동 속도 및 방향을 검출할 수 있다. 또한, 파노라마 이미지를 생성하기 위한 복수 개의 이미지 프레임들이 서버(106)로부터 수신되는 경우, 통신부(520)는 서버(106)로부터 복수 개의 이미지 프레임들에서 통상적인 시선 이동 패턴에 관한 통계적인 자료를 수신할 수 있고, 프로세서(540)는 통계적 자료에 기반하여 응시 영역의 이동 방향 및/또는 속도를 예측할 수 있다. 또 다른 예로, 이미지 상에서 특정 오브젝트가 움직일 경우, 사용자의 시선은 움직이는 오브젝트를 추적한다 할 것이므로, 프로세서(540)는 이미지 상에서 오브젝트의 이동 방향과 대응되도록 응시 영역이 이동하는 것으로 결정할 수 있다.
오버랩 영역에 있는 오브젝트로 응시 영역이 이동하는 것을 검출한 후, 동작 2220에서, 프로세서(540)는 오브젝트를 기준으로 응시 영역과 반대 쪽에 심이 형성되도록 적어도 2개의 이미지 프레임들을 스티칭한다. 예를 들어, 도 23에 도시된 바와 같이 응시 영역이 좌측에서 우측 방향(2320)으로 오버랩 영역에 있는 오브젝트(2310)를 향해 이동할 경우, 프로세서(540)는 오브젝트(2310)를 기준으로 현재 응시 영역의 위치와 반대 쪽에 심(650-1)이 형성되도록 적어도 2개의 이미지 프레임들을 스티칭할 수 있다. 또 다른 예로, 응시 영역이 우측에서 좌측 방향(2330)으로 오버랩 영역에 있는 오브젝트(2310)를 향해 이동할 경우, 프로세서(540)는 오브젝트(2310)를 기준으로 현재 응시 영역의 위치와 반대 쪽에 심(650-2)가 형성되도록 적어도 2개의 이미지 프레임들을 스티칭할 수 있다. 프로세서(540)가 오브젝트를 기준으로 현재의 응시 영역과 반대 쪽에 심이 형성되도록 하기 위해, 예를 들면, 도 19에 도시된 것과 같은 가상의 선(2325, 2335)들이 사용될 수 있다. 즉, 프로세서(540)는 오브젝트(2310)와 오버랩 영역 경계(edge)를 잇는 가상의 선들(2325, 2335)을 생성하여, 가상의 선들 및 오브젝트(2310)에 해당하는 픽셀들에 대한 심 검색 가중치를 낮게 설정할 수 있다. 이에 따라, 새로이 검색되는 심은 가상의 선(2325, 2335) 및 오브젝트(2310)에 해당하는 픽셀들을 포함하지 않도록 결정되므로, 프로세서(540)는 오브젝트를 기준으로 응시 영역과 반대 쪽에 심이 형성되도록 적어도 2개의 이미지 프레임들에 대한 스티칭을 완료할 수 있다.
도 24는 본 발명의 다양한 실시 예들에 따라 이미지 상에서 응시 영역이 움직이는 속도에 기반하여 심을 검색하기 위한 흐름도이다.
도 24를 참고하면, 동작 2410에서, 프로세서(540)는 응시 영역의 이동 속도를 결정한다. 응시 영역의 이동 속도는, 예를 들면, 모션 트래킹 정보, 시간에 따른 응시 영역의 위치 변화량, 서버로부터 수신되는 통계적인 자료, 이미지에서 오브젝트의 이동 속도 중 적어도 하나에 기반하여 결정될 수 있다.
응시 영역의 이동 속도를 결정한 후, 동작 2420에서, 프로세서(540)는 이동 속도가 임계 속도 이상인지 여부를 결정한다. 예를 들어, 도 25에 도시된 바와 같이 응시 영역(910)이 파노라마 이미지(630) 상에서 좌측에서 우측으로 속도 v로 이동할 경우, 응시 영역(910-2)이 심(650)을 포함하는 순간이 발생할 수 있다. 응시 영역(910-2)가 심(650)을 포함하므로, 프로세서(540)는 심(650)이 응시 영역(910-2)의 외부에 위치하도록 이미지(630)에 대한 연산을 수행할 수 있다. 그러나, 사용자의 시선은 심(650)을 가로질러 이동하며, 그 동작에서 잠시 응시 영역(910-2)에 심(650)이 포함될 뿐, 사용자가 심(650) 주변을 주의 깊게 관찰하는 것은 아니라 할 것이므로, 심(650)을 응시 영역(910-2)으로부터 제거하기 위한 연산은 불필요할 수 있다. 다시 말해서, 응시 영역(910)의 이동 속도가 임계 값 이상일 경우 사용자가 심(650)을 인식하지 못한 채 사용자의 시선은 심(650)을 가로지르므로, 심(650)을 제거하기 위한 연산을 생략하여 이미지에 대해 적응적으로 스티칭을 수행하는 경우에도 연산량을 줄일 수 있다.
응시 영역의 이동 속도가 임계 속도 이상인 경우, 동작 2430에서, 프로세서(540)는 응시 영역이 심을 포함하지 않는 것으로 결정한다. 다시 말해서, 응시 영역이 실제로 심을 포함하는지 여부에 관계 없이, 응시 영역의 이동 속도가 임계 속도 이상인 경우, 프로세서(540)는 응시 영역이 심을 포함하지 않는 것으로 결정하여 이미지 프레임들을 재정렬하거나 또는 심을 재검색하기 위한 연산을 생략할 수 있다.
응시 영역의 이동 속도가 임계 속도 미만인 경우, 동작 830으로 이동하여, 응시 영역이 심을 포함하는지 여부를 결정한다. 즉, 응시 영역의 이동 속도 v가 임계 속도 이하인 경우, 응시 영역의 이동 경로에 존재하는 심을 사용자가 인식할 수 있다 할 것이므로, 프로세서(540)는 심이 응시 영역의 외부에 위치하도록 하기 위한 연산을 수행하기 위한 전제로 응시 영역이 심을 포함하는지 여부를 결정한다. 이후, 도 8에 도시된 대로 응시 영역이 심을 포함하는지 여부에 대한 판단 결과에 따라 동작 840 또는 동작 820으로 이동하여, 해당 절차를 수행한다.
응시 영역을 고려하여 스티칭을 수행할 경우, 프로세서(540)는 응시 영역과 그 주변 영역에 대해 순차적으로 스티칭을 수행할 수 있다. 예를 들어, 사용자가 이미지상의 특정 오브젝트를 주의 깊게 관찰할 경우, 특정 오브젝트에 응시점 영역이 형성되고, 프로세서(540)는 사용자가 특정 오브젝트를 관찰한 후에는 특정 오브젝트의 주변으로 시선을 옮길 것으로 예상할 수 있다. 다시 말해서, 사용자의 시선은 현재의 응시점 영역에서 주변시 영역으로 이동할 것으로 예상되므로, 프로세서(540)는 응시점 영역에 대해 먼저 스티칭을 수행한 후, 사용자가 후에 바라볼 것으로 예상되는 주변시 영역에 대한 스티칭을 수행하여 스티칭 시간을 최소화 할 수 있다. 상술한 바와 같이, 응시 영역과 그 주변 영역에 대한 순차적 스티칭은 이하의 도 26 및 도 27에서 보다 상세히 설명된다.
도 26은 본 발명의 다양한 실시 예들에 따라 사용자의 주변시를 고려하여 이미지를 스티칭하기 위한 흐름도이다.
도 26을 참고하면, 동작 2610에서, 프로세서(540)는 응시 영역 외부의 특정 영역에 대응하는 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정한다. 일 실시 예에 따르면, 응시 영역은 응시점 영역에, 응시 영역 외부의 특정 영역은 주변시 영역에 대응될 수 있다. 다시 말해서, 응시 영역 외부의 특정 영역은 응시 영역에 기반하여 결정될 수 있다. 예를 들어, 도 27에 도시된 바와 같이, 사용자가 오브젝트(2720)를 주의 깊게 바라볼 경우, 응시 영역(910)은 오브젝트(2720)의 머리 부분에 형성된다. 사용자의 시선은 오브젝트(2720)에서, 응시 영역(910) 외부의 특정 영역(2710)에 포함된 오브젝트(2730)으로 옮겨갈 것이 예상되므로, 프로세서(540)는 현재 응시 영역(910)에 심(650)이 포함되지 않더라도, 응시 영역(910) 외부의 특정 영역(2710)에 포함된 심(650)이 특정 영역(2710)의 외부에 위치하도록 하기 위한 연산을 이미지(630)에 대해 수행할 수 있다. 이를 위해, 프로세서(540)는 응시 영역(910) 외부의 특정 영역(2710)에 대응하는 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정할 수 있다.
동작 2620에서, 프로세서는 설정된 심 검색 가중치에 따라 복수 개의 이미지 프레임들로부터 이미지를 생성한다. 다시 말해서, 응시 영역 외부의 특정 영역에 해당하는 픽셀들에 대한 심 검색 가중치가 낮게 설정되었으므로, 프로세서(540)는 특정 영역에 해당하는 픽셀들을 포함하지 않는 새로운 심을 결정할 수 있다. 도 27을 예로 들면, 특정 영역(2710)에 해당하는 픽셀들을 포함하지 않도록 심(650)이 새롭게 재설정되므로, 심(650)에 의한 스티칭 에러가 오브젝트(2730)로부터 제거될 수 있다. 이에 따라, 사용자가 잠시 후 특정 영역(2710)에 있는 오브젝트(2730)으로 시선을 이동하여 오브젝트(2730)에 응시 영역(910)이 형성되더라도, 사용자는 왜곡 없는 오브젝트(2730)를 바라볼 수 있게 된다. 도시되지 아니하였으나, 프로세서(540)는 새로운 심을 검색한 후, 이미지 프레임들에 대한 노출 및 색상을 보상하여 최종적인 정합 이미지를 생성할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(130))에 저장된 명령어로 구현될 수 있다. 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다.
그리고 본 문서에 개시된 실시 예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 발명의 다양한 실시 예의 범위를 한정하는 것은 아니다. 따라서, 본 발명의 다양한 실시 예의 범위는, 본 발명의 다양한 실시 예의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.

Claims (21)

  1. 전자 장치의 동작 방법에 있어서,
    상기 전자 장치의 이미지 센서에 의해 연속적으로 획득되는 복수 개의 이미지 프레임들을 결합하여 생성된 제1 이미지를 표시하는 동작과,
    상기 제1 이미지 상에서 사용자의 응시 영역을 결정하는 동작과,
    상기 응시 영역이 상기 복수 개의 이미지 프레임들 사이의 경계를 나타내는 심(seam)의 적어도 일부를 포함할 경우, 상기 심의 적어도 일부가 상기 응시 영역에 포함되지 않도록 상기 제1 이미지 상에서 상기 응시 영역 내부에 포함된 적어도 하나의 특징 점에 기반하여 상기 복수 개의 이미지 프레임들 중 적어도 일부를 재정렬(realign)하는 동작과,
    상기 재정렬에 따라 생성된 제2 이미지를 표시하는 동작을 포함하는 방법.
  2. ◈청구항 2은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 제2 이미지에서 상기 응시 영역 내부의 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정하는 동작을 더 포함하는 방법.
  3. ◈청구항 3은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 복수 개의 이미지 프레임들로부터 근거리 오브젝트를 식별하는 동작과,
    상기 근거리 오브젝트에 대응하는 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정하는 동작과,
    상기 설정된 심 검색 가중치에 따라 상기 복수 개의 이미지 프레임들로부터 상기 제1 이미지를 생성하는 동작을 더 포함하는 방법.
  4. ◈청구항 4은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 복수 개의 이미지 프레임들 중 적어도 일부를 재정렬하는 동작은,
    상기 응시 영역에서 중첩되는 적어도 2개의 이미지 프레임들 각각의 특징점들 간 거리가 최소화되도록 상기 적어도 2개의 이미지 프레임들을 재정렬(re-align)하는 동작을 포함하는 방법.
  5. ◈청구항 5은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 제1 이미지에서 상기 응시 영역 내의 픽셀들에 대한 밝기 값을 계산하는 동작과,
    상기 응시 영역에 대응하는 상기 제1 이미지의 부분의 밝기가 균일해 지도록 상기 픽셀들에 대한 밝기 값을 조절하는 동작을 더 포함하는 방법.
  6. ◈청구항 6은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 응시 영역을 결정하는 동작은,
    상기 사용자가 응시하는 지점에 위치한 적어도 하나의 픽셀이 속한 오브젝트를 표현하는 픽셀들의 영역을 상기 응시 영역으로 결정하는 동작을 포함하는 방법.
  7. ◈청구항 7은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 제2 이미지는, 상기 응시 영역이 상기 복수 개의 이미지 프레임들 중 적어도 2개의 이미지 프레임들의 오버랩 영역에 존재하는 오브젝트를 향하여 이동 시, 상기 오브젝트를 기준으로 상기 응시 영역과 반대 쪽에 형성된 심을 포함하는 방법.
  8. ◈청구항 8은(는) 설정등록료 납부시 포기되었습니다.◈
    제7항에 있어서,
    상기 응시 영역의 이동 방향은,
    상기 전자 장치의 움직임에 관한 모션 트레킹 정보, 서버에서 수신된 상기 응시 영역의 이동에 관한 통계적 특성, 상기 오브젝트가 이동하는 방향, 및 시간에 따른 상기 응시 영역의 위치 변화량에 관한 정보 중 적어도 하나에 기반하여 결정되는 방법.
  9. ◈청구항 9은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 제1 이미지 상에서 상기 응시 영역의 이동 속도가 임계 값 이상인 경우, 상기 응시 영역이 상기 심을 포함하지 않는 것으로 결정하는 동작을 더 포함하는 방법.
  10. ◈청구항 10은(는) 설정등록료 납부시 포기되었습니다.◈
    제1항에 있어서,
    상기 제2 이미지를 생성한 후, 상기 응시 영역에 기반하여 결정된 상기 응시 영역 외부의 특정 영역에 대응하는 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정하는 동작을 더 포함하는 방법.
  11. 전자 장치에 있어서,
    복수 개의 이미지 프레임들을 연속적으로 획득하는 이미지 센서와,
    상기 복수 개의 이미지 프레임들을 결합하여 생성된 제1 이미지를 표시하는 디스플레이와,
    상기 제1 이미지 상에서 사용자의 응시 영역을 결정하고, 상기 응시 영역이 상기 복수 개의 이미지 프레임들 사이의 경계를 나타내는 심(seam)의 적어도 일부를 포함할 경우, 상기 심의 적어도 일부가 상기 응시 영역에 포함되지 않도록 상기 제1 이미지 상에서 상기 응시 영역 내부에 포함된 적어도 하나의 특징 점에 기반하여 상기 복수 개의 이미지 프레임들 중 적어도 일부를 재정렬(realign)하는 프로세서를 포함하고,
    여기에서 상기 재정렬에 따라 생성된 제2 이미지를 표시하는 장치.
  12. 제11항에 있어서, 상기 프로세서는,
    상기 제2 이미지에서 상기 응시 영역 내부의 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정하는 장치.
  13. 제11항에 있어서, 상기 프로세서는,
    상기 복수 개의 이미지 프레임들로부터 근거리 오브젝트를 식별하고, 상기 근거리 오브젝트에 대응하는 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정하고, 상기 설정된 심 검색 가중치에 따라 상기 복수 개의 이미지 프레임들로부터 상기 제1 이미지를 생성하는 장치.
  14. 제11항에 있어서, 상기 프로세서는,
    상기 복수 개의 이미지 프레임들 중 상기 응시 영역에서 중첩되는 적어도 2개의 이미지 프레임들 각각의 특징점들 간 거리가 최소화되도록 상기 적어도 2개의 이미지 프레임들을 재정렬(re-align)하는 장치.
  15. ◈청구항 15은(는) 설정등록료 납부시 포기되었습니다.◈
    제11항에 있어서, 상기 프로세서는,
    상기 제1 이미지에서 상기 응시 영역 내의 픽셀들에 대한 밝기 값을 계산하고,
    상기 응시 영역에 대응하는 상기 제1 이미지의 부분의 밝기가 균일해 지도록 상기 픽셀들에 대한 밝기 값을 조절하는 장치.
  16. 제11항에 있어서, 상기 프로세서는,
    상기 사용자가 응시하는 지점에 위치한 적어도 하나의 픽셀이 속한 오브젝트를 표현하는 픽셀들의 영역을 상기 응시 영역으로 결정하는 장치.
  17. 제11항에 있어서,
    상기 제2 이미지는, 상기 응시 영역이 상기 복수 개의 이미지 프레임들 중 적어도 2개의 이미지 프레임들의 오버랩 영역에 존재하는 오브젝트를 향하여 이동 시, 상기 오브젝트를 기준으로 상기 응시 영역과 반대 쪽에 형성된 심을 포함하는 장치.
  18. 제17항에 있어서, 상기 응시 영역의 이동 방향은,
    상기 전자 장치의 움직임에 관한 모션 트레킹 정보, 서버에서 수신된 상기 응시 영역의 이동에 관한 통계적 특성, 상기 오브젝트가 이동하는 방향, 및 시간에 따른 상기 응시 영역의 위치 변화량에 관한 정보 중 적어도 하나에 기반하여 결정되는 장치.
  19. 제11항에 있어서, 상기 프로세서는,
    상기 제1 이미지 상에서 상기 응시 영역의 이동 속도가 임계 값 이상인 경우, 상기 응시 영역이 상기 심을 포함하지 않는 것으로 결정하는 장치.
  20. 제11항에 있어서, 상기 프로세서는,
    상기 제2 이미지를 생성한 후, 상기 응시 영역에 기반하여 결정된 상기 응시 영역 외부의 특정 영역에 대응하는 픽셀들에 대한 심 검색 가중치를 임계 값보다 낮게 설정하는 장치.
  21. ◈청구항 21은(는) 설정등록료 납부시 포기되었습니다.◈
    제11항에 있어서,
    상기 프로세서는, 상기 복수 개의 이미지 프레임들로부터 상기 제1 이미지를 생성하기 위해, 상기 복수 개의 이미지 프레임들 각각에 대한 특징점들을 검출하는 특징점 검출부와,
    상기 특징점들 각각의 픽셀 값들을 비교하여 상기 특징점들 중에서 대응점들을 결정하는 특징점 매칭부와,
    상기 대응점들에 기반하여 상기 복수 개의 이미지 프레임들을 정렬하는 이미지 정렬부와,
    상기 정렬에 의해 생성된, 상기 복수 개의 이미지 프레임들의 중첩된 영역에서 상기 심을 검색하는 심 검색부와,
    상기 제1 이미지에서 상기 복수 개의 이미지 프레임들 각각을 구성하는 픽셀들의 노출 및 색상에 관한 파라미터가 균일하도록 보정하는 노출 및 색상 보정부와,
    상기 심에 기반하여 상기 복수 개의 이미지 프레임들에 대한 블렌딩을 수행하는 이미지 블렌딩부를 포함하는 장치.
KR1020160126757A 2016-09-30 2016-09-30 이미지를 표시하기 위한 방법 및 그 전자 장치 KR102558473B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020160126757A KR102558473B1 (ko) 2016-09-30 2016-09-30 이미지를 표시하기 위한 방법 및 그 전자 장치
US15/592,109 US10401955B2 (en) 2016-09-30 2017-05-10 Method for displaying an image and an electronic device thereof
PCT/KR2017/004847 WO2018062657A1 (en) 2016-09-30 2017-05-11 Method for displaying an image and an electronic device thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160126757A KR102558473B1 (ko) 2016-09-30 2016-09-30 이미지를 표시하기 위한 방법 및 그 전자 장치

Publications (2)

Publication Number Publication Date
KR20180036322A KR20180036322A (ko) 2018-04-09
KR102558473B1 true KR102558473B1 (ko) 2023-07-25

Family

ID=61758065

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160126757A KR102558473B1 (ko) 2016-09-30 2016-09-30 이미지를 표시하기 위한 방법 및 그 전자 장치

Country Status (3)

Country Link
US (1) US10401955B2 (ko)
KR (1) KR102558473B1 (ko)
WO (1) WO2018062657A1 (ko)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106327517B (zh) * 2015-06-30 2019-05-28 芋头科技（杭州）有限公司 一种目标跟踪装置及目标跟踪方法
KR20180039529A (ko) * 2016-10-10 2018-04-18 엘지전자 주식회사 이동 단말기 및 그의 동작 방법
JP6948874B2 (ja) * 2017-08-01 2021-10-13 キヤノン株式会社 撮像装置、制御方法、及びプログラム
CN110290285B (zh) * 2018-03-19 2021-01-22 京东方科技集团股份有限公司 图像处理方法、图像处理装置、图像处理系统及介质
KR20190134217A (ko) * 2018-05-25 2019-12-04 삼성전자주식회사 복수 개의 영상을 처리하는 방법 및 전자 장치
CN109064397B (zh) * 2018-07-04 2023-08-01 广州希脉创新科技有限公司 一种基于摄像耳机的图像拼接方法及系统
US10860165B2 (en) * 2018-09-26 2020-12-08 NextVPU (Shanghai) Co., Ltd. Tracking method and apparatus for smart glasses, smart glasses and storage medium
JP7231825B2 (ja) * 2019-04-18 2023-03-02 日本電信電話株式会社 映像処理装置、映像処理方法及び映像処理プログラム
KR102244529B1 (ko) * 2019-09-24 2021-04-26 에스케이텔레콤 주식회사 영상 촬영 장치, 상기 영상 촬영 장치를 제어하기 위한 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램과 영상 처리 장치와 상기 영상 처리 장치를 제어하기 위한 방법, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램
CN114079768B (zh) * 2020-08-18 2023-12-05 杭州海康汽车软件有限公司 图像的清晰度测试方法及装置
US11288553B1 (en) * 2020-10-16 2022-03-29 GM Global Technology Operations LLC Methods and systems for bowl view stitching of images
EP4207052A1 (en) * 2022-01-03 2023-07-05 Voysys AB Foveated image stitching
CN117094966B (zh) * 2023-08-21 2024-04-05 青岛美迪康数字工程有限公司 基于图像扩增的舌图像识别方法、装置和计算机设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080036875A1 (en) 2006-08-09 2008-02-14 Jones Peter W Methods of creating a virtual window
US20080266408A1 (en) 2007-04-26 2008-10-30 Core Logic, Inc. Apparatus and method for generating panorama image and computer readable medium stored thereon computer executable instructions for performing the method
US20130044108A1 (en) * 2011-03-31 2013-02-21 Panasonic Corporation Image rendering device, image rendering method, and image rendering program for rendering stereoscopic panoramic images
US20130128364A1 (en) * 2011-11-22 2013-05-23 Google Inc. Method of Using Eye-Tracking to Center Image Content in a Display
WO2016048014A1 (en) 2014-09-22 2016-03-31 Samsung Electronics Co., Ltd. Image stitching for three-dimensional video

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6930703B1 (en) * 2000-04-29 2005-08-16 Hewlett-Packard Development Company, L.P. Method and apparatus for automatically capturing a plurality of images during a pan
US6893500B2 (en) * 2000-05-25 2005-05-17 Atomic Telecom Method of constructing optical filters by atomic layer control for next generation dense wavelength division multiplexer
KR20020025301A (ko) * 2000-09-28 2002-04-04 오길록 다중 사용자를 지원하는 파노라믹 이미지를 이용한증강현실 영상의 제공 장치 및 그 방법
US7259784B2 (en) 2002-06-21 2007-08-21 Microsoft Corporation System and method for camera color calibration and image stitching
US7400782B2 (en) * 2002-08-28 2008-07-15 Arcsoft, Inc. Image warping correction in forming 360 degree panoramic images
US8554014B2 (en) 2008-08-28 2013-10-08 Csr Technology Inc. Robust fast panorama stitching in mobile phones or cameras
CN101673395B (zh) 2008-09-10 2012-09-05 华为终端有限公司 图像拼接方法及装置
EP2715449B1 (en) * 2011-05-31 2016-11-09 Nokia Technologies Oy Methods, apparatuses and computer program products for generating panoramic images using depth map data
EP2726937B1 (en) * 2011-06-30 2019-01-23 Nokia Technologies Oy Method, apparatus and computer program product for generating panorama images
JP6016662B2 (ja) 2013-02-13 2016-10-26 三菱電機株式会社 画像合成装置及び画像合成方法
US9832378B2 (en) * 2013-06-06 2017-11-28 Apple Inc. Exposure mapping and dynamic thresholding for blending of multiple images using floating exposure
KR102111407B1 (ko) * 2013-08-19 2020-05-15 엘지전자 주식회사 디스플레이 장치 및 그 동작방법
JP2016171463A (ja) * 2015-03-12 2016-09-23 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US9778740B2 (en) * 2015-04-10 2017-10-03 Finwe Oy Method and system for tracking an interest of a user within a panoramic visual content
US9842624B2 (en) * 2015-11-12 2017-12-12 Intel Corporation Multiple camera video image stitching by placing seams for scene objects
US20180032816A1 (en) * 2016-07-29 2018-02-01 Worcester Polytechnic Institute Fixation identification using density optimization

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080036875A1 (en) 2006-08-09 2008-02-14 Jones Peter W Methods of creating a virtual window
US20080266408A1 (en) 2007-04-26 2008-10-30 Core Logic, Inc. Apparatus and method for generating panorama image and computer readable medium stored thereon computer executable instructions for performing the method
US20130044108A1 (en) * 2011-03-31 2013-02-21 Panasonic Corporation Image rendering device, image rendering method, and image rendering program for rendering stereoscopic panoramic images
US20130128364A1 (en) * 2011-11-22 2013-05-23 Google Inc. Method of Using Eye-Tracking to Center Image Content in a Display
WO2016048014A1 (en) 2014-09-22 2016-03-31 Samsung Electronics Co., Ltd. Image stitching for three-dimensional video

Also Published As

Publication number Publication date
KR20180036322A (ko) 2018-04-09
WO2018062657A1 (en) 2018-04-05
US20180095533A1 (en) 2018-04-05
US10401955B2 (en) 2019-09-03

Similar Documents

Publication Publication Date Title
KR102558473B1 (ko) 이미지를 표시하기 위한 방법 및 그 전자 장치
US10168772B2 (en) Head mounted electronic device
EP3293723A1 (en) Method, storage medium, and electronic device for displaying images
KR102563619B1 (ko) 병용(combined) 버튼을 가지는 전자 장치 및 전자 장치의 병용 버튼 제어방법
CN107111131B (zh) 可穿戴电子设备
US9946393B2 (en) Method of controlling display of electronic device and electronic device
US10823958B2 (en) Electronic device for encoding or decoding frames of video and method for controlling thereof
KR102499349B1 (ko) 전방위 영상을 제공하는 전자 장치 및 방법
EP3023969A2 (en) Display and method and electronic device
EP3276451A1 (en) Electronic device for displaying graphic object and computer-readable recording medium
US20190158819A1 (en) Electronic device and gaze tracking method of electronic device
US11199709B2 (en) Electronic device, external electronic device and method for connecting electronic device and external electronic device
EP3287924B1 (en) Electronic device and method for measuring heart rate based on infrared rays sensor using the same
KR102654621B1 (ko) 객체를 디스플레이하기 위한 방법 및 그 전자 장치
US11006048B2 (en) Method and apparatus for acquiring omnidirectional video
KR102434754B1 (ko) 전자 장치 및 전자 장치의 컨텐츠 표시 방법
US10796439B2 (en) Motion information generating method and electronic device supporting same
EP3327551A1 (en) Electronic device for displaying image and method for controlling the same
KR102558474B1 (ko) 이미지를 표시하기 위한 방법 및 그 전자 장치
US10217435B2 (en) Electronic device for displaying screen and method of controlling same
KR102656528B1 (ko) 전자 장치, 외부 전자 장치 및 전자 장치와 외부 전자 장치를 연결하기 위한 방법
KR102575673B1 (ko) 전자 장치 및 그의 동작 방법
KR102656425B1 (ko) 영상을 표시하는 전자 장치 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant