KR102021857B1 - 이동 단말기 및 그의 파노라마 촬영방법 - Google Patents

Abstract

본 발명은 객체의 이동방향으로 촬영 가이드를 제공하여 객체의 전체 이동경로가 포함된 VR파노라마를 촬영할 수 있는 이동 단말기 및 그의 파노라마 촬영방법에 관한 것이다. 본 발명은 카메라 프리뷰에서 이동하는 적어도 하나 이상의 객체가 인식되면 인식된 객체에 객체 가이드를 표시하고 상기 객체의 이동 방향으로 촬영 가이드를 표시하여, 상기 촬영 가이드를 따라 사용자가 카메라를 이동시켜 객체의 이동 경로가 포함된 파노라마 영상을 촬영한다. 따라서, 본 발명은 360도 촬영 및 객체의 전체 이동경로가 포함된 파노라마 영상을 제공할 수 있다.

Description

이동 단말기 및 그의 파노라마 촬영방법{MOBILE TERMINAL AND PANORAMA CAPTURING METHOD THEREOF}

본 발명은 VR파노라마에 관한 것으로, 특히 촬영 가이드를 제공하여 객체의 전체 이동경로가 포함된 파노라마를 촬영할 수 있는 이동 단말기 및 그의 파노라마 촬영방법에 관한 것이다.

이동 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 이동 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 이동 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 이동단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.

그리고, 상기 이동 단말기의 기능 지지 및 증대를 위한 노력들이 계속되고 있다. 상술한 노력은 이동 단말기를 형성하는 구조적인 구성요소의 변화 및 개량뿐만 아니라 소프트웨어나 하드웨어의 개량도 포함한다.

이동 단말기에서는 촬영 각도를 변화시켜가며 화상을 각각 촬영한 후 촬영된 화상들을 순차 연결하여 하나의 영상으로 재구성함으로써 사람의 시야각과 비슷한 사진을 얻도록 하는 방식이 제공되고 있는데, 이를 파노라마라 한다.

이동 단말기는 파노라마 촬영 모드시 여러 장의 화상들을 가로 또는 세로 방향으로 연속 촬영하여 메모리에 저장하고, 상기 메모리에 저장된 영상들은 내/외부 영상 처리부를 통해 하나의 영상으로 연결하는 작업을 수행한다.

그런데, 종래에는 사용자가 임의로 촬영각도 및 방향을 변경시켜 촬영한 후 파노라마 영상을 구성하기 때문에 각 사진의 연결이 부자연스러운 단점이 있다.

또한, 종래에는 특정 카메라 프리뷰(Preview)(한 화면)에서만 피사체의 움직임을 촬영하여 파노라마 영상을 구성하기 때문에 피사체의 전체 이동 경로가 포함된 파노라마 영상을 구성할 수 없는 단점이 있다.

본 발명의 목적은 카메라 뷰를 이동하면서 피사체를 촬영하여 한 화면에 넓은 공간을 담을 수 있는 이동 단말기 및 그의 파노라마 촬영방법을 제공하는데 있다.

본 발명의 다른 목적은 촬영 가이드를 제공하여 객체의 전체 이동경로가 포함된 파노라마를 촬영할 수 있는 이동 단말기 및 그의 파노라마 촬영방법을 제공하는데 있다.

상기와 같은 목적을 달성하기 위하여 본 발명의 실시예에 따른 이동 단말기의 파노라마 촬영방법은, 카메라 프리뷰를 표시하는 단계; 프리뷰에서 이동하는 적어도 하나 이상의 객체를 인식하는 단계; 추적할 객체가 인식되면 객체 가이드를 표시하고 객체의 이동 방향으로 촬영 가이드를 표시하는 단계; 및 상기 촬영 가이드를 따라 카메라를 이동시켜 객체의 이동 경로가 포함된 파노라마 영상을 촬영하는 단계;를 포함한다.

상기 객체 가이드는 추적 대상임을 나타내는 인디케이터로 객체마다 구별되도록 표시된다.

상기 객체 가이드는 선택된 객체에 표시되거나 또는 움직이는 객체에 자동으로 표시된다.

상기 촬영 가이드는 다음 촬영 영역을 안내하는 표시로서, 객체가 이동하여 프리뷰의 중앙으로부터 일정 거리이상 벗어날 때 표시된다.

상기 촬영 가이드는 프리뷰와 동일한 형태의 선 또는 면으로 표시되며, 프리뷰와 일부 중첩되어 표시된다.

상기 촬영 가이드는 객체가 프리뷰 중심에서 소정 거리 벗어날 때 선명하게 표시되거나, 프리뷰 중심에서 소정 거리 벗어난 시점부터 이동거리에 따라 점진적으로 선명하게 표시된다.

상기 파노라마 촬영시 배경은 프리뷰마다 한번 촬영되고, 객체의 이동경로는 각 프리뷰에서 소정 횟수 연속 촬영되어 프리뷰위에 표시된다.

상기 이동 단말기의 파노라마 촬영방법은 촬영된 파노라마 영상을 표시하는 단계;를 더 포함하며, 상기 파노라마 영상을 표시할 때 객체의 이동 경로는 시간순서로 표시된다.

상기 각 프리뷰에서 객체의 크기 변화가 적고 이동이 많지 않은 경우에는 베스트 샷을 표시한다.

상기 파노라마 영상에 복수의 객체가 포함되어 있을 경우 각 객체의 이동경로는 분할 뷰로 표시된다.

상기 객체가 빠르게 이동하여 이동 경로의 일부가 촬영되지 않은 경우 미 촬영구간에 일정 간격마다 이전 객체를 삽입하여 표시하며, 상기 삽입된 객체는 촬영된 객체와 구별되도록 표시된다. 상기 삽입되는 객체는 직선 또는 곡선의 경로 상에 삽입된다.

상기 하나의 객체의 이동경로가 겹칠 경우 현재 객체와 이전에 촬영된 객체의 투명도를 서로 다르게 표시하고, 복수의 객체의 이동경로가 겹칠 경우에는 서로 다른 색으로 표시한다.

상기 객체가 프리뷰의 경계에서 촬영되어 일부가 잘리면 이전 객체를 이용하여 보정하고, 보정된 부분에 의해 생성된 빈 공간은 인접 부분의 색으로 그라데이션 처리된다.

수직 및 수평방향으로 이동하는 객체의 이동경로를 추적하여 사각형의 파노라마 영상을 제작할 때 빈 공간은 GPS정보를 이용하여 동일 위치에서 촬영한 영상으로 채워진다.

상기와 같은 목적을 달성하기 위하여 본 발명의 실시예에 따른 이동 단말기는, 카메라 프리뷰를 표시하는 디스플레이부; 프리뷰에서 객체가 이동할 때 객체 가이드와 함께 객체의 이동 방향으로 촬영 가이드를 표시하여, 촬영 가이드를 따라 이동한 카메라로부터 촬영된 영상으로 객체의 이동 경로가 포함된 파노라마 영상을 생성하는 제어부;를 포함한다.

상기 제어부는 객체 가이드를 선택된 객체에 표시하거나 또는 움직이는 객체에 자동으로 표시하며, 각 객체마다 구별되도록 표시한다.

상기 제어부는 객체가 이동하여 프리뷰의 중앙으로부터 일정 거리이상 벗어날 때 다음 촬영 영역을 안내하는 촬영 가이드를 표시한다. 상기 촬영 가이드는 프리뷰와 동일한 형태의 선 또는 면으로 표시되며, 프리뷰와 일부 중첩되어 표시된다.

상기 제어부는 객체가 프리뷰 중심에서 소정 거리 벗어날 때 촬영 가이드를 선명하게 표시하거나 또는 프리뷰 중심에서 소정 거리 벗어난 시점부터 이동거리에 따라 점진적으로 촬영 가이드를 선명하게 표시한다.

상기 제어부는 파노라마 촬영시 배경은 프리뷰마다 한번 촬영하고, 객체의 이동경로는 각 프리뷰에서 소정 횟수 연속 촬영하여 프리뷰위에 표시한다.

상기 제어부는 상기 촬영된 파노라마 영상을 표시하며, 상기 파노라마 영상을 표시할 때 객체의 이동 경로는 시간순서로 표시한다.

상기 제어부는 각 프리뷰에서 객체의 크기 변화가 적고 이동이 많지 않은 경우에는 베스트 샷을 표시한다.

상기 제어부는 파노라마 영상에 복수의 객체가 포함되어 있을 경우 각 객체의 이동경로는 분할 뷰로 표시한다.

상기 제어부는 객체가 빠르게 이동하여 이동 경로의 일부가 촬영되지 않은 경우 미 촬영구간에 일정 간격마다 이전 객체를 삽입하여 표시하고, 상기 삽입된 객체는 촬영된 객체와 구별되도록 표시한다.

상기 제어부는 직선 또는 곡선의 경로에 객체를 삽입하는 삽입된다.

상기 제어부는 하나의 객체의 이동경로가 겹칠 경우 현재 객체와 이전에 촬영된 객체의 투명도를 서로 다르게 표시하고, 복수의 객체의 이동경로가 겹칠 경우에는 서로 다른 색으로 표시한다.

상기 제어부는 객체가 프리뷰의 경계에서 촬영되어 일부가 잘리면 이전 객체를 이용하여 보정하고, 보정된 부분에 의해 생성된 빈 공간은 인접 부분의 색으로 그라데이션 처리한다.

상기 제어부는 수직 및 수평방향으로 이동하는 객체의 이동경로를 추적하여 사각형의 파노라마 영상을 제작할 때 빈 공간은 GPS정보를 이용하여 동일 위치에서 촬영한 영상으로 채운다.

상술한 바와같이, 본 발명은 파노라마 모드로 피사체를 촬영할 때 해당 객체의 이동방향(수평 및 수직)으로 촬영 가이드(가이드 영역)를 제공하여, 사용자가 카메라를 촬영 가이드로 움직이면서 객체의 이동 경로를 촬영함으로써 객체의 전체 이동경로가 포함된 파노라마 영상을 제공할 수 있는 효과가 있다.

도 1은 본 발명의 일 실시예에 관련된 이동 단말기의 블록 구성도.
도 2a는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 무선 통신 시스템에 대한 블록도.
도 2b는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 와이파이 위치추적 시스템의 구성도.
도 3은 본 발명에서 촬영 가이드를 제공하는 실시예.
도 4a 내지 도 4f는 객체 가이드의 다양한 형태를 나타낸 실시예.
도 5a 및 도 5b는 촬영 가이드의 표시형태를 나타나는 실시예.
도 6은 본 발명에서 추적할 객체를 자동으로 선택하는 실시예.
도 7은 추적 대상으로 선정된 객체를 표시하는 실시예
도 8은 본 발명의 실시예에 따른 이동 단말기의 파노라마 영상 생성 방법을 나타낸 순서도.
도 9a 및 도 9b는 파노라마 촬영시 촬영 자세를 보정하기 위한 방법을 나타낸 예.
도 10a 내지 도 10c는 객체의 크기 변화 및 이동 경로에 따라 객체의 이동정보를 수집하여 저장하는 동작을 나타낸 도면.
도 11은 이동이 많지 않은 객체의 이동 경로를 표시하는 실시예.
도 12는 객체의 이동경로를 촬영할 때 촬영되지 않은 부분을 채우는 동작을 나타낸 순서도.
도 13a 내지 도 13c는 도 12의 상세 실시예.
도 14는 객체가 이동중에 이미 촬영된 영역으로 돌아올 경우의 영상 처리방법을 나타낸 도면.
도 15a 및 도 15b는 객체가 예측한 방향과 다르게 이동한 경우의 처리방법을 나타낸 실시예.
도 16은 객체가 촬영 영역의 경계에 위치할 경우의 영상 처리방법을 나타낸 순서도.
도 17은 도 16의 상세 실시예.
도 18은 추적된 객체의 이동경로를 이용하여 파노라마 영상을 구성하는 다른 실시예.
도 19는 도 18의 유용한 시나리오를 나타낸 도면.
도 20a 및 도 20b는 VR파노라마 촬영중 빈 공간으로 카메라가 이동하도록 유도하는 실시예.
도 21은 본 발명의 실시에에 따른 파노라마 영상 재생동작을 나타낸 순서도.
도 22a 및 도 22b는 파노라마 영상에서 객체의 이동 경로를 표시하는 상세 실시예.
도 23은 객체의 이동경로가 겹칠 경우의 표시방법을 나타낸 도면.
도 24a 및 도 24b는 파노라마 영상 생성시 화면에서 음원에서 발생하는 음을 취음하는 동작을 나타낸 도면.
도 25는 파노라마 촬영중에 취음 대상의 소리를 자동으로 취음하는 동작을 나타낸 도면.
도 26a 및 도 26b는 파노라마 촬영을 위한 사용자 설정의 예시도.
도 27a 및 도 27b는 파노라마 촬영 후 화면에서 객체 로그 및 오디오 줌을 선택적으로 저장하는 동작을 나타낸 실시예.
도 28은 갤러리에 저장된 파노라마 영상을 나타낸 도면.
도 29는 파노라마 영상 재생시 분할 뷰로 객체의 이동을 표시하는 예.
도 30은 본 발명의 실시예에 따른 이동 단말기의 파노라마 촬영방법의 효과를 설명하기 위한 도면.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook) 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 명세서에 개시된 일 실시 예에 따른 이동 단말기를 나타내는 블록도이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 감지부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

상기 이동통신 모듈(112)은 화상통화모드 및 음성통화모드를 구현하도록 이루어진다. 화상통화모드는 상대방의 영상을 보면서 통화하는 상태를 지칭하고, 음성통화모드는 상대방의 영상을 보지 않으면서 통화를 하는 상태를 지칭한다. 화상통화모드 및 음성통화모드를 구현하기 위하여 이동통신 모듈(112)은 음성 및 영상 중 적어도 하나를 송수신하도록 형성된다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN), WiFi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication) 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 여기에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라는(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부 기기로 전송될 수 있다. 또한, 카메라(121)에서 획득되는 화상 프레임으로부터 사용자의 위치 정보 등이 산출될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자로부터 인가되는 이동 단말기(100)의 동작을 제어하기 위한 제어명령에 따른 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

감지부(또는 센싱부, 140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 감지 신호 (또는 센싱 신호)를 발생시킨다. 예를 들어 감지부(140)는 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 감지할 수 있다. 또한, 감지부(140)는 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 감지할 수도 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(153), 알람부(154) 및 햅틱 모듈(155) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에 디스플레이부(151)는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부(152)로서 구성될 수 있다.

여기서, 입체영상은 3차원 입체영상(3-dimensional stereoscopic image)을 나타내며, 3차원 입체 영상(3-dimensional stereoscopic image)은 모니터나 스크린 상에서 사물이 위치한 점진적 깊이(depth)와 실체(reality)를 현실 공간과 동일하게 느낄 수 있도록 한 영상이다. 3차원 입체 영상은 양안시차(binocular disparity)를 이용하여 구현된다. 양안시차란 떨어져 있는 두 눈의 위치에 의하여 이루어지는 시차를 의미하는 것으로, 두 눈이 서로 다른 2차원 화상을 보고 그 화상들이 망막을 통하여 뇌로 전달되어 융합되면 입체 영상의 깊이 및 실제감을 느낄 수 있게 된다.

상기 입체 디스플레이부(152)에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다. 가정용 텔레비전 수신기 등에 많이 이용되는 스테레오스코픽 방식에는 휘스톤 스테레오스코프 방식 등이 있다.

상기 오토 스테레오스코픽 방식의 예로서, 패럴렉스 배리어(parallex barrier) 방식, 렌티큘러(lenticular) 방식, 집적영상(integral imaging) 방식, 스위츠블 렌즈(switchable lens) 등이 있다. 프로젝션 방식에는 반사형 홀로그래픽 방식, 투과형 홀로그래픽 방식 등이 있다.

일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.

또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이를 합쳐서 하나의 3차원 썸네일 영상을 생성할 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.

3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부(미도시)에 의하여 입체 디스플레이부(152)에 표시될 수 있다. 입체 처리부는 3D 영상을 입력받아 이로부터 좌 영상과 우 영상을 추출하거나, 2D 영상을 입력받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.

한편, 디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 대상체가 터치 센서 상에 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 객체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 1을 참조하면, 상기 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 근접 센서(141)는 상기 센싱부(140)의 일 예로서 구비될 수 있다. 상기 근접 센서(141)는 소정의 검출면에 접근하는 객체, 혹은 근방에 존재하는 객체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서(141)는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치 스크린이 정전식인 경우에는 전도성을 갖는 객체(이하, 포인터라 함)의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치 스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치 스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치 스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

입체 디스플레이부(152)와 터치 센서가 상호 레이어 구조를 이루는 경우(이하, '입체 터치스크린'이라 함)나, 입체 디스플레이부(152)와 터치 동작을 감지하는 3차원 센서가 서로 조합되는 경우에는 상기 입체 디스플레이부(152)는 3차원의 입력 장치로도 사용될 수 있다.

상기 3차원 센서의 예로서, 상기 센싱부(140)는 근접 센서(141), 입체 터치센싱부(142), 초음파 센싱부(143), 카메라 센싱부(144)를 포함할 수 있다.

근접센서(141)는 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 터치를 가하는 감지대상(예를 들어, 사용자의 손가락이나 스타일러스 펜)와 검출면과의 거리를 측정한다. 단말기는 이러한 거리를 이용하여 입체영상의 어느 부분이 터치되었는지를 인식하게 된다. 특히, 터치스크린이 정전식인 경우에는 상기 감지대상의 근접에 따른 전계의 변화로 상기 감지대상의 근접 정도를 검출하고, 이러한 근접 정도를 이용하여 3차원상의 터치를 인식하도록 구성된다.

입체 터치센싱부(142)는 터치 스크린상에 가해지는 터치의 세기나 지속시간을 감지하도록 이루어진다. 예를 들어, 입체 터치센싱부(142)는 터치를 가하는 압력을 감지하고, 가압력이 강하면 이를 단말기의 내부를 향하여 터치 스크린과 보다 멀리 위치한 객체에 대한 터치로 인식한다.

초음파 센싱부(143)는 초음파를 이용하여, 감지대상의 위치정보를 인식하도록 이루어진다.

초음파 센싱부(143)는, 예를 들어 광 센서와 복수의 초음파 센서로 이루어질 수 있다. 광 센서는 광을 감지하도록 형성되며, 초음파 센서는 초음파를 감지하도록 형성된다. 광이 초음파보다 매우 빠르기 때문에, 광이 광 센서에 도달하는 시간은 초음파가 초음파 센서에 도달하는 시간보다 매우 빠르다. 따라서, 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치를 산출할 수 있게 된다.

카메라 센싱부(144)는 카메라(121), 포토 센서, 레이저 센서 중 적어도 하나를 포함한다.

예를 들어, 카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지한다. 카메라에 의하여 촬영된 2차원 영상에 레이저 센서에 의하여 감지된 거리정보가 더해지면, 3차원 정보가 획득될 수 있다.

또 다른 예로서, 포토 센서가 디스플레이 소자에 적층될 수 있다. 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보를 획득하게 된다.

음향 출력 모듈(153)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(153)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(153)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.

알람부(154)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(154)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동을 이용하여, 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음향 출력 모듈(153)을 통해서도 출력될 수 있어서, 디스플레이부(151) 및 음향 출력 모듈(153)은 알람부(154)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(155)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(155)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅택 모듈(155)이 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(155)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(155)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(155)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(155)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(170)에 포함될 수 있다.

한편, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(170)를 통하여 단말기(100)와 연결될 수 있다.

또한, 상기 인터페이스부(170)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.

제어부(controller, 180)는 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

또한, 상기 제어부(180)는 상기 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

또한, 상기 제어부(180)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행할 수 있다. 또한, 상기 제어부(180)는 상기 잠금 상태에서 상기 디스플레이부(151)를 통해 감지되는 터치 입력에 근거하여 상기 잠금 상태에서 표시되는 잠금화면을 제어할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들은 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다.

소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

다음으로, 본 발명에 따른 이동 단말기(100)를 통해 실시 가능한 통신 시스템에 대하여 살펴본다. 도 2a 및 도 2b는 본 발명에 따른 이동 단말기(100)가 동작 가능한 통신 시스템의 개념도이다.

먼저, 도 2a를 살펴보면, 통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access, FDMA), 시분할 다중 접속(Time Division Multiple Access, TDMA), 코드 분할 다중 접속(Code Division Multiple Access, CDMA), 범용 이동통신 시스템(Universal Mobile Telecommunications Systems, UMTS)(특히, LTE(Long Term Evolution)), 이동통신 글로벌 시스템(Global System for Mobile Communications, GSM) 등이 포함될 수 있다.

이하에서는, 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나, 본 발명은, CDMA 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 수 있음은 자명하다.

도 2a에 도시된 바와 같이, CDMA 무선 통신 시스템은, 적어도 하나의 단말기(100), 적어도 하나의 기지국(Base Station, BS)(270), 적어도 하나의 기지국 제어부(Base Station Controllers, BSCs)(275), 이동 스위칭 센터(Mobile Switching Center, MSC)(280)를 포함할 수 있다. MSC(280)는, 일반 전화 교환망(Public Switched Telephone Network, PSTN)(290) 및 BSCs(275)와 연결되도록 구성된다. BSCs(275)는, 백홀 라인(backhaul line)을 통하여, BS(270)와 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs(275)가 도 2a에 도시된 시스템에 포함될 수 있다.

복수의 BS(270) 각각은 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS(270)로부터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS(270)는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당은 각각 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 가질 수 있다.

섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS(270)은 는, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem, BTSs)이라고 불릴수 있다. 이러한 경우, 하나의 BSC(275) 및 적어도 하나의 BS(270)를 합하여 "기지국"이라고 칭할 수 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS(270)에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.

도 2a에 도시된 바와 같이, 방송 송신부(Broadcasting Transmitter, BT)(295)는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1에 도시된 방송 수신 모듈(111)은, BT(295)에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.

뿐만 아니라, 도 2a에서는, 위성 위치 확인 시스템(Global Positioning System, GPS)의 위성(300)을 도시한다. 상기 위성(300)은, 이동 단말기(100)의 위치를 파악하는 것을 돕는다. 도 2a에서는 두 개의 위성이 도시되어 있지만, 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 도 1에 도시된 위치정보 모듈(115)은, 원하는 위치 정보를 획득하기 위하여 도 2a에 도시된 위성(300)과 협력한다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 이동 단말기(100)의 위치가 추적될 수 있다. 또한, GPS 위성(300) 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.

무선 통신 시스템의 전형적인 동작 중, BS(270)는, 이동 단말기(100)로부터 역 링크 신호를 수신한다. 이때, 이동 단말기(100)는, 호를 연결 중이거나, 메시지를 송수신 중이거나 또는 다른 통신 동작을 수행하고 있다. 특정 기지국(270)에 의해 수신된 역 링크 신호들 각각은, 특정 기지국(270)에 의해 내에서 처리된다. 상기 처리 결과 생성된 데이터는, 연결된 BSC(275)로 송신된다. BSC(275)는, 기지국들(270) 간의 소프트 핸드오프(soft handoff)들의 조직화를 포함하여, 호 자원 할당 및 이동성 관리 기능을 제공한다. 또한, BSCs(275)는, 상기 수신된 데이터를 MSC(280)로 송신하고, MSC(280)는, PSTN(290)과의 연결을 위하여 추가적인 전송 서비스를 제공한다. 또한, 이와 유사하게 PSTN(290)은 MSC(280)와 연결되고, MSC(280)는 BSCs(275)와 연결되고, BSCs(275)는 이동 단말기(100)로 순 링크 신호가 전송되도록 BS(270)를 제어할 수 있다.

다음으로, 도 2b에서는 와이파이 위치추적 시스템(WPS: WiFi(Wireless Fidelity) Positioning System)을 이용하여, 이동 단말기의 위치정보를 획득하는 방법에 대하여 살펴본다.

와이파이 위치추적 시스템(WPS: WiFi Positioning System, 300)은 이동 단말기(100)에 구비된 WiFi모듈 및 상기 WiFi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point, 320)를 이용하여, 이동 단말기(100)의 위치를 추적하는 기술로서, WiFi를 이용한 WLAN(Wireless Local Area Network)기반의 위치 측위 기술을 의미한다.

와이파이 위치추적 시스템(300)은 와이파이 위치측위 서버(310), 이동 단말기(100), 상기 이동 단말기(100)와 접속된 무선 AP(330), 임의의 무선 AP정보가 저장된 데이터 베이스(330)를 포함할 수 있다.

와이파이 위치측위 서버(310)는 이동 단말기(100)의 위치정보 요청 메시지(또는 신호)에 근거하여, 이동 단말기(100)와 접속된 무선 AP(320)의 정보를 추출한다. 상기 이동 단말기(100)와 접속된 무선 AP(320)의 정보는 이동 단말기(100)를 통해 상기 와이파이 위치측위 서버(310)로 전송되거나, 무선 AP(320)에서 와이파이 위치측위 서버(310)로 전송될 수 있다.

상기 이동 단말기(100)의 위치정보 요청 메시지에 근거하여, 추출되는 무선 AP의 정보는 MAC Address, SSID, RSSI, 채널정보, Privacy, Network Type, 신호세기(Signal Strength) 및 노이즈 세기(Noise Strength )중 적어도 하나일 수 있다.

와이파이 위치측위 서버(310)는 위와 같이, 이동 단말기(100)와 접속된 무선 AP(320)의 정보를 수신하여, 미리 구축된 데이터베이스(330)에 포함된 정보와 상기 수신된 무선 AP(320) 정보를 비교하여, 상기 이동 단말기(100)의 위치정보를 추출(또는 분석)한다.

한편, 도 2b에서는 일 예로서, 이동 단말기(100)와 접속되어 있는 무선 AP를 제1, 제2 및 제3 무선 AP(320)로 도시하였다. 그러나, 이동 단말기(100)와 접속되는 무선 AP의 수는 이동 단말기(100)가 위치한 무선 통신환경에 따라 다양하게 변경될 수 있다. 와이파이 위치추척 시스템(300)은 이동 단말기(100)가 적어도 하나의 무선 AP와 접속되는 경우, 이동 단말기(100)의 위치를 추적하는 것이 가능하다.

다음으로, 임의의 무선 AP정보가 저장되어 있는 데이터 베이스(330)에 대하여 보다 구체적으로 살펴보면, 상기 데이터 베이스(330)에는 서로 다른 위치에 배치된 임의의 무선 AP들의 다양한 정보가 저장될 수 있다.

상기 데이터 베이스(300)에 저장되는 임의의 무선 AP들의 정보는 MAC Address, SSID, RSSI, 채널정보, Privacy, Network Type, 무선 AP의 위경도 좌표, 무선 AP가 위치한 건물명, 층수, 실내 상세 위치정보(GPS 좌표 이용가능), AP소유자의 주소, 전화번호 등의 정보일 수 있다.

이와 같이, 상기 데이터베이스(330)에는 임의의 무선 AP정보 및 상기 임의의 무선 AP에 대응되는 위치정보가 함께 저장되어 있으므로, 와이파이 위치측위 서버(310)는 상기 데이터베이스(330)에서 이동 단말기(100)에 접속된 무선 AP(320)의 정보와 대응되는 무선 AP정보를 검색하고, 검색된 무선 AP정보에 매칭된 위치정보 추출함으로써, 이동 단말기(100)의 위치정보를 추출할 수 있다.

그리고, 이렇게 추출된 이동 단말기(100)의 위치정보는 상기 와이파이 위치측위 서버(310)를 통해 이동 단말기(100)로 전송됨으로써, 이동 단말기(100)는 위치정보를 획득할 수 있다.

파노라마는 한 화면에 담을 수 없는 넓은 공간을 카메라 뷰를 이동하면서 채우는 촬영 방식이다.

본 발명은 VR파노라마 모드에서 배경으로 파노라마를 만들고, 객체의 이동 경로는 연속 촬영하여 배경위에 표시함으로써 객체의 전체 이동 경로가 포함된 VR파노라마 영상을 생성한다. 즉, 배경은 프리뷰마다 한번 촬영되고, 이동경로는 각 프리뷰에서 소정횟수 촬영되어 배경위에 표시된다.

또한, 본 발명은 객체(피사체)의 이동 경로를 촬영할 때 해당 객체를 따라 촬영 가이드를 제공하여 사용자가 다음 프리뷰로 설정된 가이드 영역을 자동으로 촬영하도록 하는 방안을 제공한다.

상기 가이드는 촬영 가이드 또는 촬영 인디케이터로 구성된다.

상기 가이드의 방향은 객체가 움직이는 방향으로, 본 발명에서는 가이드 방향으로 사용자가 카메라를 움직이는 것을 전제로 한다.

따라서, 사용자는 가이드로 카메라를 이동시켜 객체를 연속 촬영함으로써 객체의 전체 이동경로, 특히 360도로 객체의 이동이 포함된 파노라마 영상을 얻을 수 있다.

객체 가이드 및 촬영 가이드 표시

도 3은 본 발명에서 촬영 가이드를 제공하는 실시예이다.

도 3에 도시된 바와같이, VR파노라마 모드에서 제어부(180)는 카메라 프리뷰에서 이동 경로를 추적할 객체(또는 객체)를 인식할 수 있다. 또한, 상기 카메라 프리뷰에서 사용자는 특정 객체를 선택할 수 있다.

상기 파노라마 노드는 객체가 없으면 일반 파노라마를 나타내고, 추적할 객체가 존재하는 경우에는 VR파노라마 모드를 나타낸다.

일단 추적할 객체가 인식되거나 선택되면, 제어부(180)는 해당 객체에 대한 트래킹 포커스를 동작시켜 감지된 객체에 객체 가이드(50)(또는 인디케이터), 예를들면 "[]형태의 객체 가이드를 표시한다.

상기 객체 가이드(50)는 해당 객체가 추적 대상임을 나타내는 인디케이터로로서, 적어도 하나 이상의 객체에 표시될 수 있다. 상기 객체 가이드(50)는 객체마다 구별되어 표시되며, 다양한 형태로 표시될 수 있다.

이후 객체가 이동되면 프리뷰내에서 초당 N장(약 3-6장)의 사진이 촬영되어 해당 객체의 이동정보(객체의 변화)가 수집된다. 이때, 상기 객체의 이동을 판단하는 방법은 회전 벡터 매트릭스의 차 또는 객체 중복방법을 사용한다.

즉, 제어부(180)는 카메라의 중심 위치가 되는 프리뷰 영역의 중앙에서 객체의 중심점의 각도가 일정 이상 차이가 발생하거나 이전 객체와 현재 객체간의 중복이 없거나 또는 일정 수준 이상중복될 때 해당 객체가 이동했다고 판단한다.

상기 객체가 이동하여 현재 프리뷰 영역의 중앙으로부터 일정 거리이상 벗어나면, 제어부(180)는 객체의 이동 방향을 예측하여 사용자가 해당 방향으로 카메라 (또는 단말기)를 움직이도록 유도하는 촬영 가이드(가이드 영역)(51)를 표시한다.

상기 촬영 가이드(가이드 영역)(51)는 촬영 방향 및 촬영 영역을 안내하는 가이드이다.

상기 촬영 가이드는 기본적으로 프리뷰와 동일한 형태(e.g., 사각형)를 갖으며(카메라 수평 이동시), 사용자가 카메라를 수직방향 또는 수평 + 수직방향으로 움직일 때는 약간 기울어진 사각형 형태로 표시된다.

상기 가이드는 연속적인 파노라마 영상을 생성할 수 있도록 카메라 프리뷰와 일부 켭쳐지도록 표시된다.

상기 촬영 가이드(51)는 사용자가 용이하게 인식할 수 있도록 선 형태 또는 면 형태(fill rect)로 표시될 수 있다.

사용자는 촬영 가이드(51)가 표시하는 영역으로 카메라를 이동시켜 해당 객체를 계속 촬영함으로써 객체의 전체 이동 경로가 포함된 파노라마 영상을 생성할 수 있게 된다.

객체 가이드의 다양한 형태

도 4a 내지 도 4f는 객체 가이드의 다양한 형태를 나타낸 실시예이다.

도 4a 내지 도 4b에서 촬영 가이드는 선 또는 면(fill rect) 형태로 나타내고, 추적하는 객체에는 다양한 객체 가이드가 따라다닌다. 상기 객체에 대한 객체 가이드의 선택은 사용자 메뉴에서 수행된다.

즉, 제어부(180) 사용자 설정에 따라 현재 추적하는 객체에 아웃라인 (Outline)을 표시할 수 있고(도 4a), 상기 객체에 강조 색상을 표시할 수 있다(도 4b).

다른 실시예로서, 제어부(180)는 추적하는 객체에 선이나 화살표를 표시할 수 있으며(도 4c), 추적하는 객체에 인디케이터('블록 화살표')를 표시하거나(도 4d), 그림자를 표시하거나(도 4e), 스포트라이트(spotlight)를 표시할 수 있다(도 4f).

본 발명은 상기 실시예에 한정되지 않고 추적하는 객체를 나타내기 위한 다양한 강조 방법 및 식별방법이 사용될 수 있다.

촬영 가이드(가이드 영역)의 표시형태

도 5a 및 도 5b는 촬영 가이드의 표시 형태를 나타나는 실시예이다.

도 5에 도시된 바와같이, 본 발명에서 촬영 가이드(가이드 영역)(51)는 점선으로 표시된 이전 카메라 프리뷰로부터 사용자가 카메라를 이동시켜 촬영 가이드 (51)에 근접시킬수록 선명하게 표시된다.

예를들어, 이전 프리뷰(A)에서 새로운 촬영 가이드 영역(51)까지의 거리를 100으로 볼 때, 상기 프리뷰(A)가 촬영 새로운 촬영 가이드(51)로 다가갈수록 가이드 영역(51)은 선명해진다(투명도 값이 줄어든다).

도 5a는 사용자가 프리뷰(A)의 라인과 가이드 영역(51)의 라인에만 집중할 수 있도록, 객체는 표시하지 않고 라인만 표시한 예이고, 도 5b는 사용자가 객체와 가이드 영역(51)에만 집중하도록 객체만 표시한 예이다.

따라서, 상기 촬영 가이드의 선명도 조절을 통해 본 발명은 사용자에게 카메라가 "촬영 가이드에 가까이 간다" 즉, "촬영 시작이 가까워진다)라는 느낌을 줄 수 있다. 그 이유는 프리뷰가 가이드 영역과 일치하면 촬영이 개시되기 때문이다.

추적할 객체(대상) 선택

본 발명에서 이동 경로를 추적할 객체는 사용자가 프리뷰 화면에서 직접 선택한다. 다른 실시예로서, 본 발명은 사용자의 터치 입력없이 사용자의 이동으로 추적할 객체를 자동으로 선택할 수 있다.

도 6은 본 발명에서 추적할 객체를 자동으로 선택하는 실시예이다.

도 6을 참조하면, 사용자는 추적을 개시하기 전 브리뷰에 적어도 하나 이상의 객체를 표시하여 로그(이동경로)를 남길 후보 객체를 선정한다. 이때, 각 후보들은 서로 다른 색으로 표시된다. 이때, 점선으로 표시된 객체는 이동 전(과거) 객체를 나타낸다.

이 상태에서 객체들이 저마다 방향으로 움직일 때 사용자가 프리뷰 밖으로 나가는 객체를 따라가면, 도 6a에 도시된 바와같이, 제어부(180)는 해당 방향의 객체를 추적할 객체로 자동 선택한다. 만일 따라간 방향에 객체가 1개 이상이면 모두 추적할 객체로 선택한다.

다른 실시예로, 도 6b에 도시된 바와같이, 제어부(180)는 사용자가 마지막으로 촬영한 장면에 1개의 객체만 남았다면 제어부(180)는 사용자가 해당 객체에 관심 있는 것으로 간주하고 전체 사진에서 해당 객체만을 남긴다.

또 다른 실시예로, 도 6c에도시된 바와같이, 이동한 방향에서 하나의 객체가 앞으로 다가와 커졌을 경우 다른 객체들을 가렸다면 제어부(180)는 가장 큰 객체를 자동으로 추적한다.

추적할 대상(객체) 표시형태

도 7은 추적 대상으로 선정된 객체를 표시하는 실시예이다.

일단 추적할 대상으로 선정되면 제어부(180)는 각 객체에 객체 가이드를 표시하는데, 상기 객체 가이드는 도 4a 내지 도 4f와 같이 객체에 "[]", 외곽선, 이동 경로표시, 색상, 그림자, 스포트라이트를 표시하거나 도 7과 같이 숫자를 표시하여 구별되도록 한다.

도 8은 본 발명의 실시예에 따른 이동 단말기의 파노라마 영상 생성 방법을 나타낸 순서도이다.

도 8에 도시된 바와같이, 프리뷰에서 추적할 객체가 선택되면 추적할 해당 대상이 선택되었음을 나타내는 객체 가이드가 표시된다(S100).

상기 객체가 이동되면 현재 프리뷰 내에서 객체의 연속 촬영이 수행된다 (S110). 상기 연속촬영은 초당 N장(3-6장)으로 촬영된 영상은 메모리(160)에 저장된다.

상기 객체가 이동하여 프리뷰 중앙에서 일정 거리이상 벗어났는지 체크하여 (S120), 일정 거리 이상 이동하면 제어부(180)는 객체의 이동방향으로 촬영 가이드 (가이드 영역)를 표시한다(S130). 상기 촬영 가이드는 소정 거리 벗어나면 바로 표시되거나, 객체의 이동거리에 따라 점진적으로 표시될 수 있다.

사용자는 객체의 이동에 따라 카메라의 프리뷰를 촬영 가이드(가이드 영역)로 이동시켜 일치시키고(S140), 프리뷰와 촬영 가이드에 일치하면 제어부(180)는 다시 해당 프리뷰에서 배경을 촬영하고 해당 객체를 연속 촬영한다(초당 3~6장).

따라서, 사용자는 객체의 이동에 따라 객체의 촬영을 안내하는 촬영 가이드(가이드 영역)에 프리뷰를 일치시켜 객체에 대하여 연속촬영을 수행한다(S150).

이후 상기 객체에 대한 촬영이 종료되면 객체의 전체 이동경로가 포함된 파노라마 영상을 얻을 수 있다(S160).

도 9a 및 도 9b는 파노라마 촬영시 촬영 자세를 보정하기 위한 방법을 나타낸 예이다.

VR파노라마를 안정적으로 촬영하기 위해서는 단말기가 일정 높이에서 움직일 수 있도록 하는 것이 중요하다. 듀얼 레코딩의 기반 기술을 이용하면 후면 카메라 사용중에 전면 카메라도 함께 사용할 수 있기 때문에, 본 발명은 VR파노라마 모드 설정시 도 9a에 도시된 바와같이, 화면에 자세 가이드(60)을 표시하여 사용자가 일정 높이에서 촬영을 수행하도록 안내한다.

상기 자세 가이드(60)는 얼굴이 표시되는 부분과 안내 메시지("얼굴을 중앙에 유지해 해 주시요"로 구성되어 있다.

따라서, 도 9b에 도시된 바와같이, 파노라마 촬영중에 사용자가 잡고 있는 단말기가 아래로 내려가면, 상대적으로 얼굴은 올라가게 되기 때문에 블럭 화살표 등을 이용하여 사용자에게 얼굴을 중앙에 맞추도록 가이드한다.

특히 제어부(180)는 사용자가 단말기를 360도 회전시킬 때 얼굴을 인식하여, 단말기의 수직, 수평을 유지하도록 가이드한다.

따라서, 본 발명은 자세 가이드(60)를 이용하여 파노라마 촬영을 수행할 때 항상 올바른 자세에서 촬영을 수행할 수 있어 파노라마 영상의 품질을 향상시킬 수 있다.

이하 객체의 이동 경로를 따라가면서 객체를 촬영하여 생성하고, 생성된 파노라마 영상을 표시하는 동작을 보다 상세히 설명하면 다음과 같다.

이동 경로(로그) 저장 및 표시

추적할 객체가 인식되면 제어부(180)는 프리뷰에서 초당 N장(약 3~6장)의 객체 사진을 저장하는 방식으로 객체의 변화를 저장한다. 이때, 배경은 파노라마를 만드는데 파노라마(배경)는 새로운 프리뷰가 표시될 때만 촬영되고, 객체의 이동경로는 프리뷰내에서 연속 촬영되어 배경위에 표시된다.

도 10a 내지 도 10c는 객체의 크기 변화 및 이동 경로에 따라 객체의 이동정보를 수집하여 표시하는 동작을 나타낸다.

제어부(180)는 객체 인식 후 초당 N장(약 3~6장)의 객체를 저장하여 이동 정보를 수집한다. 즉, VR파노라마는 프리뷰를 이용한 촬영이기 때문에 객체 인식 후 초당 N장의 사진이 이동정보(로그)로서 수집된다.

제어부(180)는 도 10a에 도시된 바와같이, 객체의 크기 변화가 적고 가로 세로로 이동한 경우 객체의 투명도 변화없이 로그(log)를 남기고, 도 10b에 도시된 바와같이, 객체의 크기 변화가 적고 큰 이동이 없는 경우에는 베스트 샷 또는 해당 위치의 마지막 영상을 로그로 남긴다. 이때, 객체의 크기 변화는 객체가 가까이 오거나 멀어지는 상황을 나타낸다.

또한, 도 10c에 도시된 바와같이, 객체의 크기 변화가 크면 제어부(180)는 객체의 투명도를 변화시켜 로그를 남긴다. 만약 객체의 이동이 겹쳐 중복영역이 생기면 투명도를 30%정도로 표시한다.

도 11은 이동이 많지 않은 객체의 이동 경로를 표시하는 실시예이다.

객체가 N장이상 큰 이동이 없는 경우 제어부(180)는 100/N로 각 사진의 알파값을 조정하여 겹친 후 전면에 베스트 샷(Best Shot) 또는 최종 사진을 표시하고 나머지 사진은 알파값 조정없이 후면에 붙인다. 이때, 제어부(180)는 움직임이 있는 샷과 움직임이 없는 삿을 구분하여 표시할 수 있다. 즉, 움직이 거의 없는 경우에는 베스트 샷 또는 최종 사진을 표시하고 바로 위에 움직임이 없었음을 나타내는 인디케이터(61)를 표시한다. 그리고, 상기 베스트 샷 또는 최종 사진 옆에 움직임이 있는 샷을 표시한다. 사용자는 인디케이터(61)를 선택하여 다른 샷을 볼 수 있다.

VR파노라마를 촬영할 때 객체(추적 대상)가 빠르게 이동하면 해당 구간에서 객체가 촬영되지 않는다. 더군다나 객체가 빠르게 이동한 구간에서는 객체 이동 방향을 알기가 어렵기 때문에 객체의 이동 경로가 명확하지 않게 된다.

따라서, 본 발명은 객체의 빠른 이동에 의해 미촬영된 부분을 효과적으로 채워 자연스러운 파노라마 영상을 생성할 수 있는 방안을 제공한다.

도 12는 객체의 이동경로를 촬영할 때 촬영되지 않은 부분을 채우는 동작을 나타낸 순서도이고, 도 13a 내지 도 13c는 상세 실시예이다.

객체(추적 대상)가 소정 구간에서 빠르게 이동하면 해당 구간에서는 객체가 촬영되지 않는다. 더군다나 해당 구간에서는 객체 이동 방향을 알기가 어렵기 때문에 객체의 이동 경로 역시 명확하지 않게 된다.

제어부(180)는 객체의 이동경로 (추적 대상)를 촬영하면서 카메라(단말기)의 움직임을 근거로 현재 추적하고 있는 객체가 빨리 이동했는지 아니면 느리게 이동했는지 판단한다(S200,S210).

상기 속도 판단은 사용자가 현재 카메라를 움직이는 평균속도를 기준으로, 상기 평균속도보다 카메라가 빨리 움직이면 개체의 속도가 빠르다고 인식한다.

다른 실시예로서, 제어부(180)는 수집된 개체의 이동경로(로그)가 소정 간격이상 떨어진 경우에는 개체의 속도가 빠르다고 인식하고, 중복되어 나타나면 거의 이동이 없다고 판단할 수 있다.

인식결과 해당 객체가 소정 구간에서 빠르게 이동한 경우 제어부(180)는 이동경로에 일정 간격마다 이전의 객체(62)를 삽입한 후 후 삽입된 객체를 실제 촬영된 객체와 구별되도록 처리한다(S220).

즉, 도 13a에 도시된 바와같이, 소정 구간에서 개체가 이전 방향과 다른 방향으로 빠르게 이동하면 제어부(180)는 객체 이동 방향을 정확히 알지 못한다. 이 경우 제어부(180)는 도 13a와 같이 객체의 이동 방향을 직선으로 간주하고 일정 간격마다 이전의 객체(62)를 삽입하고, 후 상기 삽입한 객체(62)가 실제 촬영된 객체와 구별되도록 반투명 처리하거나 색상을 다르게 표시한다.

다른 실시예로서, 도 13c에 도시된 바와같이 제어부(180)는 객체의 이동방향을 곡선으로 간주하고 일정 간격마다 이전의 객체(62)를 채워 넣은 후 상기 삽입된 객체(62)가 실제 찍힌 객체와 구별되도록 반투명 처리하거나 색상을 다르게 표시한다. 즉, 이 실시예에서는 객체의 이동 벡터를 직선에 더하여 곡선으로 표시하는 것으로 객체(추적 대상)가 빠르게 이동할 경우에도 자연스러운 파노라마 영상을 얻을 수 있는 효과가 있다.

도 14는 객체가 이동중에 이미 촬영된 영역으로 돌아올 경우의 영상 처리방법을 나타낸다.

객체들은 각기 다른 방향으로 이동하기 때문에 간혹 이미 촬영된 영역으로 돌아올 경우 시간 순서에 따른 구별이 어렵게 된다. 즉, 이미 촬영된 영역으로 돌아온 객체의 샷이 이전 촬영영역(프리뷰)에서 촬영된 샷과 겹치거나 중복되어 구분하기가 힘들다.

따라서, 본 발명에서는 객체의 투명도를 조정하여 상기 문제를 해결한다.

즉, 추적하는 객체가 촬영된 영역으로 다시 이동하면, 제어부(180)는 해당 객체와 이전에 촬영된 객체의 투명도를 서로 다르게 하여 표시한다. 예를들어, 현재의 객체보다 이전의 객체가 흐리게 표시되로고 투명도를 조절한다(예,20% 흐려짐). 특히 제어부(180)는 객체의 투명도를 조절할 때 시인성을 고려하여 20% 이하로 떨어지지 않도록 제한한다.

따라서, 도 14에 도시된 바와같이, 여러장의 사진을 찍었을 경우 진하게 표시될수록 마지막 위치에 해당한다.

도 15a 및 도 15b는 객체가 예측한 방향과 다르게 이동한 경우의 처리방법을 나타낸 실시예이다.

도 15a에 도시된 바와같이, 사용자가 객체의 이동 경로를 추적할 때 해당 객체가 갑자기 뷰 파인더에서 사라지면 프리뷰(촬영 영역)에서 객체가 보이지 않게 된다.

객체가 촬영영역에서 보이지 않게 되면 제어부(180)는 도 15b에 도시된 바와같이, 먼저 객체 추적이 실패했음을 알리고 새 객체를 추적할지 아니면 이전 객체를 계속 추적할지를 묻는 메시지를 출력한다(S300,S310).

만약 사용자가 새로운 객체를 추적하고자 하면 제어부(180)는 촬영된 사진에서 추적했던 객체만 지우고 현재 위치에서 새로운 객체를 찾는다.

반면에 사용자가 이전 객체를 찾기를 원하면 이미 촬영된 영역은 저장하고, 사용자에게 객체 방향으로 이동하라고 알린다. 사용자가 카메라를 이동하여 해당 객체를 찾으면 제어부(180)는 해당 위치부터 촬영을 개시한다.

그런데, 사용자가 새로운 객체나 이전 객체의 추적을 더이상 원하지 않으면 제어부(180)는 해당 시점에서 촬영을 정지하고 촬영된 영역을 저장한다.

도 16은 객체가 촬영 영역의 경계에 위치할 경우의 영상 처리방법을 나타낸 순서도이고, 도 17은 그의 상세 실시예이다.

도 16 및 도 17에 도시된 바와같이, 객체가 이동하여 촬영 영역의 경계(테두리)에 걸쳐 있을 촬영되면 객체의 일부가 잘려나가게 된다.

상기와 같은 객체 단절을 해소하기 위하여 본 발명은 가장 근접한 (이전의) 온전한 객체에서 잘려나간 부분을 삽입한다. 상기 잘려나간 부분이 삽입되면 직사각형의 사진을 만들 경우 해당 부분에 빈 공간(63)이 발생하기 때문에 제어부(180)는 해당 빈 공간(63)을 검정색으로 채우거나 촬영 영역의 끝 부분의 색을 그라데이션 기법을 이용하여 채운다.

도 18은 추적된 객체의 이동경로를 이용하여 파노라마 영상을 구성하는 다른 실시예이고, 도 19는 유용한 시나리오를 나타낸다.

객체의 움직임을 따라 촬영하다 보면 전체 주변 환경을 제대로 촬영할 수 없는 경우가 발생된다. 따라서, 객체의 이동경로를 추적한 후 사각형으로 파노라마 영상을 제작하면 도 18에서 검정 부분과 같은 빈 공간이 생기게 된다.

본 발명은 GPS정보를 이용하여 동일 위치에서 촬영한 영상(e.g., 사진)으로 빈 공간을 채우는 방법을 사용한다. 상기 빈 공간을 채우는 영상은 웹(e.g., 구글, SNS 및 기타)에서 다운로드하거나, 메모리(160)에 저장된 영상을 이용한다. 이때, 객체의 위치는 촬영된 영상의 배경으로 추측하거나, 촬영시 객체의 컴파스 (compass) 정보를 이용한다.

즉, 도 19에 도시된 바와같이, 암벽 등반시 사람은 여러 방향(가로 및 세로)으로 움직이게 된다. 상기 사람의 영상을 화면에 담으려면 멀리서 찍어야 한다. 이와같이, 산악, 실내 환경에서 전체를 보려면 굉장히 멀리 떨어져야 하는데 이는 현실적으로 어렵다. 그 결과 도 18에 도시된 실시예를 이용하면 사용자는 가까운 거리에서도 넓은 암벽과 공략 루트를 촬영할 수 있다.

따라서, 상기 실시예와 같은 영상구성 방법은 빈 공간을 채우는 것에 한정되지 않고, 후술하는 360도 영상(또는 사진)에서 촬영되지 않은 객체를 채워 넣는 방법에 적용될 수 있다. 상기 실시예는 이동 방향이 자주 변하고 변화 각도가 큰 객체를 촬영할 때 유용하다.

도 20a 및 도 20b는 VR파노라마 촬영중 빈 공간으로 카메라가 이동하도록 유도하는 실시예이다.

객체를 이동 경로를 추적하며 360도 촬영할 때 촬영되지 않은 빈 공간이 생길 수 있다. 이 경우 제어부(180)는 도 20a에 도시된 바와같이, 프리뷰에 빈 공간을 나타내는 인디케이터(64)를 표시하여, 사용자가 해당 방향으로 카메라를 이동하도록 유도한다. 상기 인디케이터는 화살표 또는 그라데이션으로 표시될 수 있다.

상기 인디케이터가 지시하는 방향으로 카메라가 이동하면 도 20b에 도시된 바와같이, 제어부(180)는 촬영되지 않은 빈 공간을 사용자가 쉽게 찾을 수 있도록 아웃라인(ouline), 색(color) 및 줌(zoom) 등의 강조 효과를 표시한다.

객체의 이동 경로 보여주기(재생)

촬영된 VR파노라마를 전체 화면으로 볼 때 객체의 이동 경로를 보는 다양한 방법이 필요하다. 그 이유는 객체의 수가 하나 이상일 수 있으며, 각 객체의 이동 방향과 속도가 다르기 때문이다.

본 발명에서 경로를 추적한 객체가 복수인 경우 각 객체별로 분할하여 경로를 표시할 수 있다. 이 경우 각 객체의 경로는 시간순으로 색이나 투명도를 조절하여 차별적으로 표시할 수 있다. 특히 경로가 겹칠 경우 최건 경로가 먼저 또는 가장 나중에 표시될 수 있다.

도 21은 본 발명의 실시에에 따른 파노라마 영상 재생동작을 나타낸 순서도이다.

도 21에 도시된 바와같이, 파로라마 영상의 재생이 선택되면 제어부(180)는 촬영된 파노라마 영상에 포함된 객체, 더 상세하게는 이동 경로가 추적된 개체를 인식한다(S500, S501).

제어부(180)는 인식된 개체가 이동이 많은지(빠른지) 체크한다(S520). 체크결과 이동이 많으면 이동 경로 중간에 이전 객체를 채우고(S530), 객체의 이동이 적으면 베스트 샷을 출력한다(S540).

또한, 제어부(180)는 인식된 객체가 하나 인지 체크하여(S550), 하나 이상인 경우에는 화면을 분할하여 각 분할 뷰에 객체의 이동경로를 시간순서에 따라 표시하고(S560), 하나인 경우에는 싱글 뷰에 시간순서에 따라 표시한다(S570).

특히 분할 뷰 또는 실글 뷰로 표시할 때 제어부(1800)는 객체의 이동경로가 겹치면 투명도를 다르게 표시하여, 가장 나중의 객체가 저 진하게 표시되도록 제어한다(S580).

도 22a 및 도 22b는 파노라마 영상에서 객체의 이동 경로를 표시하는 상세 실시예이다.

먼저 설명의 편의를 위하여 객체의 이동 경로는 프리뷰(a)-->제1촬영가이드 (b)--> 제2촬영가이드(c)-->제2촬영가이드(b)인 것으로 가정한다. 상기 이동 경로상에서 촬영된 객체의 파노라마 영상은 메모리(160)에 저장되며, 사용자는 시작 버튼을 선택하여 해당 파노라마 영상을 디스플레이부(151)에 표시(재생)할 수 있다. 이때, 파노마라 영상의 표시방법은 사용자의 설정에 의해 결정된다.

도 22a에 도시된 바와같이, 사용자 설정이 "시간순서"인 경우 제어부(180)는 시간 순서(a->b->c)대로 배경과 객체를 슬라이드 형태로 표시하거나 또는 동영상 플레이어처럼 보여준다.

다른 실시예로서, 제어부(180)는 객체만 따로 떼어서 보여줄 수도 있다.

객체의 출력(재생)은 버튼을 통해 일시정지할 수 있으며 이전 이후 버튼 또는 좌우 플리킹(flicking)을 통해 이전 또는 이후 위치로 이동도 가능하다.

한편 도 22b에 도시된 바와같이, 제2촬영가이드(c)에서 객체의 이동경로는 겹치게 된다.

객체의 이동경로가 겹칠 경우 즉, 동일 위치(프리뷰상)에서 이동할 경우 제어부(180)는 배경은 그대로 두고 객체만 움직인다. 특히 객체의 이동경로가 겹칠 경우 제어부(180)는 제어부(180)는 시간상 빠른 객체를 선명하게 표시하거나 객체를 시간 순으로 보여준다. 만약, 흐릿하게 표시된 객체를 터치하면 해당 객체로 시간이 이동하여 그 시점부터 이동 경로를 보여준다.

또한, 객체를 시간순으로 표시할 때 사용자는 단말기를 기울이거나, 터치 입력 또는 버튼 입력을 통해 같은 위치에서 시간상 뒤쪽에 있는 객체를 보거나 일시 정지, 확대 등을 할 수 있다.

만약, 일시 정지한 위치 혹은 줌으로 확대한 위치에서 객체의 이동이 겹쳐, 여러 객체가 표시되었다면, 흐릿하게 표시하거나, 각 객체를 시간 변동에 따라 순차적으로 표시하거나 단말기의 기울기에 따라 홀로그램처럼 순차적으로 표시한다. 특히 홀로그램으로 표시할 때 폰을 재생(play) 버튼의 화살표가 가리키는 방향으로 기울이거나 터치하면 시간상 뒤쪽에 있는 객체가 앞으로 전환되어 보이고, 반대로 터치하거나 기울이면 원래의 상태로 표시된다.

도 23은 객체의 이동경로가 겹칠 경우의 표시방법을 나타낸다.

도 23에 도시된 바와같이, 객체의 이동경로가 겹칠 경우 시간상 빠른 객체가 선명하게 표시되며, 사용자는 객체를 시간순으로 표시할 때 단말기를 기울이거나, 터치 입력을 하거나, 버튼을 이용해서 같은 위치에서 시간상 뒤쪽에 있는 객체를 볼 수 있다.

도 24a 및 도 24b는 파노라마 영상 생성시 화면에서 음원에서 발생하는 음을 취음하는 동작을 나타낸다.

본 발명은 객체의 이동경로를 촬영할 때 오디오 줌(Audio zoom)을 통해 현재 프리뷰로 보이는 방향의 음향, 예를들어 주변음을 녹음한다. 상기 오디오 줌은 마이크를 통해 일정 방향의 음향을 포커스하여 수집 (Capture)한 후 처리하여, 원하는 사운드만을 선택적으로 녹음하는 일련의 동작을 의미한다.

이러한 동작을 오디오 로그라고 하여, 객체 로그와 함께 사용한다.

따라서, 파노라마 모드에서 객체의 이동경로와 함께 주변음을 저장하면 파노라마 재생시 객체 로그와 오디오 로그를 동시에 출력할 수 있다.

다시 보기모드 : 오디오 줌으로 녹음된 음향 및 촬영시 저장된 객체의 위치를 재생한다. 이때, 도 24a와 같이 재생화면에 오디오 줌영역(70)이 표시된다.

자유 이동 모드 : 오디오 줌으로 녹음된 음향이 재생될 때 사용자가 현재 보고 있는 위치와 오디오 줌 위치가 일치하면, 해당 위치에서 취음한 사운드를 출력하고, 보고 있는 위치와 오디오 줌 위치가 다르다면 주변음으로 출력한다. 이때, 제어부(180)는 도 24b에 도시된 바와같이, 화면 하단부에 미니맵(71)을 표시하여, 오디오 줌 위치를 표시해주며, 전면 카메라를 통해 사용자의 동공 인식 또는 얼굴 인식을 통하여 사용자의 시선을 파악할 수 있다.

도 25는 파노라마 촬영중에 프리뷰에 취음 대상이 검출되었을 때 자동으로 취음하는 동작을 나타낸다.

본 발명은 파노라마를 찍는 도중에 각종 음원, 예를들어, 사람, 움직이는 객체, 고정된 객체(TV 또는 전광판) 등이 인식되면 해당 음원에 대하여 오디오 줌을 실행한다. 제어부(180)는 음원(객체)이 복수개인 경우 가장 큰 객체를 선택하며, 사용자가 선택한 음원의 소리를 선택적으로 녹음할 수도 있다.

이후 제어부(180)는 파노라마 영상을 재생할 때 오디오 줌된 음원에 아이콘을 표시하여, 해당 음원에서 발생되는 소리가 취음되었음을 알린다. 따라서, VR 파노라마를 볼 때 정면에 오디오 줌된 객체가 있다면 해당 객체의 음향이 들리게 되고, 없다면 대신 주변음이 들리게 된다.

도 26a 및 도 26b는 파노라마 촬영을 위한 사용자 설정의 예시도이다.

기본적으로 촬영모드는 일반 촬영을 나타내는 샷 모드와 파노라마 촬영을 나타내는 VR파노라마 모드로 구분할 수 있다(왼쪽 구성).

본 발명은 도 26a에 도시된 바와같이, VR파노라마 모드의 상세 메뉴로서 객체(object) 로그 및 오디오 로그를 포함한다. 상기 객체(object) 로그 및 오디오 로그는 토글 형태로 구성되거나(중간 구성) 또는 개별 설정되는 형태로 구성될 수 있다(오른쪽 구성).

따라서, 사용자는 사용자 메뉴에서 로그 및 오디오 줌을 선택하여 원하는 개체에 대하여 파노라마 촬영을 수행한다.

다른 실시예로서, 본 발명은 도 26b에 도시된 바와같이, 일반 촬영중에 화면 일측에 객체 로그 및 오디오 줌 버튼을 제공하여 파노라마 촬영을 위한 설정을 수행할 수 있다. 이후 파노라마 촬영이 종료되면 사용자는 파노라마 영상임을 나타내는 인디케이터를 선택하여 파노라마를 재생할 수 있다.

도 27a 및 도 27b는 파노라마 촬영 후 화면에서 객체 로그 및 오디오 줌을 선택적으로 저장하는 동작을 나타낸 실시예이다.

본 발명은 객체 로그 및 오디오 줌이 적용된 파노라마 영상을 촬영한 후 해당 화면에서 로그 및 오디오 줌을 선택적으로 편집하여 저장할 수 있다.

제1실시예는 도 27a에 도시된 바와같이, 촬영 후 화면에 적어도 하나 이상의 버튼, 예를들면 None, Obj remove, Obj log, Obj only 및 Audio log toggle 버튼을 표시하여, 상기 버튼 설정에 따라 추적 데이터(객체 로드)와 오디오를 선택적으로 편집(예:삭제)하여 저장한다.

즉, 상기 none항목이 설정하면 제어부(180)는 로그없이 촬영된 영상을 저장하고, 상기 Obj remove가 설정되면 추적된 객체만 지우고 저장한다. 상기 Obj log가 설정되면 객체 추적 로그가 저장되고, 상기 Obj only가 설정되면 추적된 객체만 남기고 나머지 객체는 제거한 후 저장한다.

상기 None, Obj log, Obj only가 선택되면 제어부(180)는 기본적으로 오디오 로그(audio log)가 들어가는데 이를 토글로 제거할 수 있다. 상기 각 버튼을 조작할 때마다 화면에 즉각적으로 적용되어 변화를 볼 수 있다.

제2실시예로서, 본 발명은 일단 객체의 추적 데이터(로드)와 오디오를 제거하지 않고 저장한 후 선택적으로 표시할 수 있다. 파일 포맷은 모든 정보를 가진 상태에서 설정에 따라 대표 영상을 정하며, 상기 정해진 대표 영상이 갤러리에 표시된다. 따라서, 사용자는 갤러리에서 추가 조작을 통해 객체 로그, 오디오 로그를 활성화시킬 수 있다.

따라서, 도 27b에 도시된 바와같이, 제1실시예로 파노라마 영상을 저장했을 경우 화면 상단의 인디케이터에 객체 로그와 오디오가 있는지 여부를 나타내고, 제2실시예로 저장했을 경우에는 인디케이터를 토글로 동작시켜 원하는 기능(로그 및 또는 오디오줌)을 활성화 시킬 수 있다. 그 이외에 추적된 객체 위에 표시를 누르거나, 사용자가 중앙에 위치시킨 객체의 로그 및 오디오 줌를 활성화시키거나 사용자가 확대한 객체의 로그 및 오디오 줌을 켤 수도 있다.

도 28은 갤러리에 저장된 파노라마 영상을 나타낸다.

도 28에 도시된 바와같이, 갤러리에서 파노라마 영상은 아이콘(로그 및 오디오 줌 아이콘)을 이용하여 다른 컨텐츠와 구별되도록 표시된다. 사용자가 해당 아이콘을 터치하면 보기모드로 진입하여 파노라마 영상이 재생된다.

도 29는 파노라마 영상을 재생할 때 분할 보기(뷰) 형태로 객체의 이동을 표시하는 예이다.

도 29에 도시된 바와같이, 제어부(180)는 파노라마 영상이 재생될 때 사용자 선택에 따라 분할 보기 형태로 객체의 이동을 표시한다. 이때, 분활 화면의 수는 객체의 수에 대응되어 설정된다.

일 실시예로 하나의 파노라마 영상에서 여러 객체가 인식되었을 때 사용자는 자동으로 또는 분할 뷰 보기를 선택하여 각 객체의 이동을 볼 수 있다.

다른 실시예로 사용자는 분할 보기를 통해 한 화면에는 추적된 객체를 표시하고, 다른 화면에는 추적된 객체의 반대편 화면을 볼 수 있다. 이를 통해 한 화면에서 다른 상황을 볼 수 있다.

또 다른 실시예로 사용자는 분할 보기를 통해 한 화면에는 추적된 객체를 자동 재생하여 이동하는 모습을 보고, 다른 화면에서는 사용자가 수동으로 이동하여 현장을 볼 수 있다.

도 30은 본 발명의 실시예에 따른 이동 단말기의 파노라마 촬영방법의 효과를 설명하기 위한 도면이다.

도 30에 도시된 바와같이, 종래에는 어느 한 동작, 예를들면 체조에서 도약 및 착지부분(마지막 부분)에서만 촬영이 가능하기때문에 전체 동작(이동경로)가 포함된 파모라마를 제작할 수 없다.

하지만, 본 발명은 객체의 이동경로에 따라 가이드를 제공하여 촬영하기 때문에 체조 도마, 육상, 멀리뛰기 및 높이 뛰기등을 촬영할 때 달리기시작부터 로그 남길 수 있기 때문에 선수의 모든 이동경로가 포함된 파노라마를 제작할 수 있게 된다. 특히 본 발명은 이동 경로가 포함된 360도 파노라마 촬영에 유리하다.

상술한 바와같이 본 발명은 파노라마 모드로 피사체를 촬영할 때 해당 객체를 따라 가이드 영역을 제공하여, 사용자가 다음 프리뷰로 설정된 가이드 영역을 자동으로 촬영하도록 함으로써 객체의 전체 이동경로가 포함된 파노라마 영상을 제공할 수 있는 효과가 있다.

본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는, 단말기의 제어부를 포함할 수도 있다.

상기와 같이 설명된 이동 단말기 및 그의 파노라마 촬영 및 재생방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

50 : 객체 가이드 51 : 촬영 가이드
60 : 자세 가이드 61, 64 : 빈공간
63 : 빈공간 70 : 오디오 줌 영역
151 : 디스플레이부 160 : 메모리
180 : 제어부

Claims (29)

1. 카메라;
   상기 카메라에 의해 획득되는 카메라 프리뷰를 표시하는 디스플레이; 및,
   상기 카메라 프리뷰를 통해 선택받은 객체와 관련된 제1 복수의 이미지를 촬영하고, 상기 제1 복수의 이미지에 근거하여 상기 선택된 객체에 관련된 이동 정보를 수집하며,
   상기 수집된 이동 정보에 근거하여 상기 선택된 객체의 이동을 검출하고, 상기 선택된 객체의 이동이 검출되면, 상기 선택된 객체로부터 발생하는 음향을 캡쳐하는 오디오 줌 기능을 실행하는 제어부를 포함하고,
   상기 제어부는,
   상기 선택된 객체가 상기 카메라 프리뷰의 중심으로부터 일정 거리 이상 벗어났는지 여부를 판단하며, 판단 결과 상기 선택된 객체가 상기 카메라 프리뷰의 중심으로부터 일정 거리 이상 벗어난 경우, 상기 선택된 객체의 이동 방향을 예측 및, 사용자가 상기 예측된 이동 방향을 향해 상기 카메라를 이동시키도록 유도하며 상기 선택된 객체의 이동 방향을 따라 상기 카메라 프리뷰 상의 표시 위치가 변경되는 캡쳐 가이드를 표시하고,
   상기 선택된 객체의 이동 방향을 따라 이동하는 이동 단말기의 움직임을 검출하며,
   상기 오디오 줌 기능이 실행되는 동안 상기 캡쳐 가이드에 의해 지시되는 영역과 상기 카메라 프리뷰가 매칭되면, 상기 이동 단말기의 이동에 근거하여 제2 복수의 이미지를 촬영하고,
   상기 제2 복수의 이미지에 따라 생성된 파노라마 영상이 재생될 때, 상기 오디오 줌 기능을 통해 캡쳐된 음향을 출력하는 것을 특징으로 하는 이동 단말기.
   
2. 제1항에 있어서, 상기 제어부는,
   상기 선택된 객체가 현재 추적중인 상태임을 나타내기 위한 객체 가이드를 더 표시하는 것을 특징으로 하는 이동 단말기.
   
3. 제1항에 있어서, 상기 제어부는,
   상기 선택된 객체와 상기 카메라 프리뷰 중심으로부터의 거리에 따라 상기 캡쳐 가이드를 점진적으로 선명하게 표시하는 것을 특징으로 하는 이동 단말기.
   
4. 제1항에 있어서, 상기 제어부는,
   서로 다른 카메라 프리뷰마다 배경을 촬영하고, 상기 서로 다른 카메라 프리뷰에서 기 설정된 횟수만큼 상기 선택된 객체의 이동 경로를 촬영하며, 복수의 프리뷰마다 촬영된 배경들 및 상기 선택된 객체의 이동 경로에 근거하여 상기 제2 복수의 이미지로 파노라마 영상을 생성하는 것을 특징으로 하는 이동 단말기.
   
5. 제4항에 있어서, 상기 제어부는,
   상기 선택된 객체가 상기 카메라 프리뷰의 경계에서 촬영되어, 상기 선택된 객체의 일부가 잘리면, 이전에 촬영된 상기 선택된 객체의 이미지를 이용하여 보정하고, 상기 보정된 부분에 의해 발생하는 빈 공간은 인접한 부분의 색상으로 그라데이션 처리하는 것을 특징으로 하는 이동 단말기.
   
6. 제4항에 있어서, 상기 제어부는,
   상기 선택된 객체가 빠르게 이동하여 이동 경로의 일부가 촬영되지 않은 미촬영 구간이 발생하는 경우, 상기 미촬영 구간에 일정 간격마다 기 촬영된 이전 객체를 삽입하여 표시하며,
   상기 삽입된 객체와 상기 촬영된 객체가 구별되도록 표시하는 것을 특징으로 하는 이동 단말기.
   
7. 제1항에 있어서, 상기 제어부는,
   상기 파노라마 영상이 재생될 때, 상기 객체의 이동 경로를 시간 순서에 따라 순차적으로 표시하는 것을 특징으로 하는 이동 단말기.
   
8. 제7항에 있어서, 상기 제어부는,
   상기 파노라마 영상에 복수의 객체가 포함된 경우, 분할된 뷰를 통해 상기 복수의 객체 각각의 이동 경로를 표시하는 것을 특징으로 하는 이동 단말기.
   
9. 제7항에 있어서, 상기 제어부는,
   현재 촬영중인 객체의 이동 경로와, 그 이전에 촬영된 객체의 이동 경로가 중첩되면, 현재 촬영중인 객체와 상기 이전에 촬영된 객체를 서로 다른 투명도로 표시하고,
   복수의 서로 다른 객체의 이동 경로들이 중첩되는 경우 서로 다른 복수의 색상으로 각 객체의 이동 경로를 표시하는 것을 특징으로 하는 이동 단말기.
   
10. 카메라를 통해 획득되는 카메라 프리뷰를 표시하는 단계;
    상기 카메라 프리뷰로부터 객체를 선택받는 단계;
    상기 선택된 객체와 관련된 제1 복수의 이미지를 촬영하고, 상기 촬영된 제1 복수의 이미지에 근거하여 상기 선택된 객체에 관련된 이동 정보를 수집하는 단계;
    수집된 이동 정보에 근거하여 상기 선택된 객체의 이동을 검출하고, 상기 선택된 객체의 이동이 검출되면 상기 선택된 객체로부터 발생하는 음향을 캡쳐하기 위한 오디오 줌 기능을 실행하는 단계;
    상기 선택된 객체가 상기 카메라 프리뷰의 중심으로부터 일정 거리 이상 벗어났는지 여부를 검출하는 단계;
    상기 검출 결과 상기 선택된 객체가 상기 카메라 프리뷰의 중심으로부터 일정 거리 이상 벗어난 경우, 상기 선택된 객체의 이동 방향을 예측하는 단계;
    상기 예측된 이동 방향을 향해 상기 카메라를 이동시키도록 유도하며 상기 선택된 객체의 이동 방향을 따라 상기 카메라 프리뷰 상에서 표시되는 위치가 변경되는 캡쳐 가이드를 표시하는 단계;
    상기 선택된 객체의 이동 방향을 따라 이동하는 이동 단말기의 움직임을 검출하는 단계;
    상기 오디오 줌 기능이 실행되는 동안 상기 캡쳐 가이드에 의해 지시되는 영역과 상기 카메라 프리뷰의 매칭 여부를 판단하고, 매칭 여부에 따라 제2 복수의 이미지를 촬영하는 단계; 및,
    상기 제2 복수의 이미지에 따라 생성된 파노라마 영상이 재생될 때, 상기 오디오 줌 기능을 통해 캡쳐된 음향을 출력하는 단계를 포함하는 것을 특징으로 하는 이동 단말기의 제어 방법.
11. 삭제
12. 삭제
13. 삭제
14. 삭제
15. 삭제
16. 삭제
17. 삭제
18. 삭제
19. 삭제
20. 삭제
21. 삭제
22. 삭제
23. 삭제
24. 삭제
25. 삭제
26. 삭제
27. 삭제
28. 삭제
29. 삭제

Images