KR20150012887A

KR20150012887A - 이동 단말기 및 그의 촬영 객체 재배치 방법

Info

Publication number: KR20150012887A
Application number: KR1020130089007A
Authority: KR
Inventors: 아마레쉬 P 칸다갈; 코시 토마스 씨
Original assignee: 엘지전자 주식회사
Priority date: 2013-07-26
Filing date: 2013-07-26
Publication date: 2015-02-04

Abstract

본 발명은 실시간 비디오 분석에 관한 것으로, 특히 이미지 촬영중에 사용자에게 가장 최적의 프리뷰를 제공하기 위한 이동 단말기 및 그의 촬영 객체 재배치 방법에 관한 것으로, 프리뷰 이미지를 표시하는 단계; 프리뷰 이미지에서 전경 객체를 선택하는 단계; 선택된 전경 객체와 배경 이미지를 실시간으로 처리하여 배경 이미지에 대한 전경 객체의 베스트 뷰를 나타내는 멀티-샘플 프리뷰를 표시하는 단계; 및 멀티-샘플 뷰에서 원하는 샘플 프리뷰를 선택하여 촬영하는 단계;를 포함한다.

Description

이동 단말기 및 그의 촬영 객체 재배치 방법{MOBILE TERMINAL AND CAPTURE OBJECT REALIGNMENT METHOD THEREOF}

본 발명은 실시간 비디오 분석에 관한 것으로, 특히 이미지 촬영중에 사용자에게 가장 최적의 프리뷰를 제공하기 위한 이동 단말기 및 그의 촬영 객체 재배치 방법에 관한 것이다.

이동 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 이동 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 이동 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 이동단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.

그리고, 상기 이동 단말기의 기능 지지 및 증대를 위한 노력들이 계속되고 있다. 상술한 노력은 이동 단말기를 형성하는 구조적인 구성요소의 변화 및 개량뿐만 아니라 소프트웨어나 하드웨어의 개량도 포함한다.

이동 단말기의 카메라 기능을 이용하여 소정 장면(Scene)을 촬영할 때 객체 (e.g., 사람)가 카메라 프리뷰의 일측 끝에 위치한다면 최적의 사진을 촬영할 수 없다. 이 경우 촬영자는 장면의 재조정(readjustment) 즉, 객체가 장면안으로 이동되도록 한 후 다시 촬영을 수행한다. 이와같이 촬영을 수행할 때 사용자는 카메라 프리뷰에서 영상 품질을 체크한 후 촬영을 수행하거나 객체에 대한 재조정을 요구한다.

이와같이 장면의 최적 샷(shot)을 얻기 위해서는 촬영되는 객체(e.g., 사람 의 위치 조정이 필요한데 이러한 위치 조정은 객체의 입장에서는 대단히 번거롭고 때로는 싫증나는(tedious) 일이다. 또한, 촬영자 입장에서는 객체가 원하는 장면의 특정 위치까지 실제로 움직일 때까지 사진을 찍을 수 없으며, 원하는 위치로 한번에 이동하지 않을 경우에는 해당 위치로 이동하도록 가이드해야 하는 번거러움이 있다.

본 발명의 목적은 촬영시 객체의 위치 재조정을 최소화하여 빠른 촬영을 수행할 수 있는 이동 단말기 및 그의 촬영 객체 재배치 방법을 제공하는데 있다.

본 발명의 다른 목적은 촬영시 사용자에게 장면의 최적 샘플 프리뷰를 제공함으로써 사용자가 쉽고 편리하게 원하는 장면을 촬영할 수 있는 이동 단말기 및 그의 촬영 객체 재배치 방법을 제공하는데 있다.

상기와 같은 목적을 달성하기 위하여 본 발명의 실시예에 따른 이동 단말기의 촬영 객체 재배치 방법은, 프리뷰 이미지를 표시하는 단계; 프리뷰 이미지에서 전경 객체를 선택하는 단계; 선택된 전경 객체와 배경 이미지를 실시간으로 처리하여 배경 이미지에 대한 전경 객체의 베스트 뷰를 나타내는 멀티-샘플 프리뷰를 표시하는 단계; 및 멀티-샘플 뷰에서 원하는 샘플 프리뷰를 선택하여 촬영하는 단계;를 포함한다.

상기 프리뷰 이미지는 적어도 하나 이상의 전경 객체와 이미지로 구성되며, 프리뷰 이미지가 표시되면 얼굴 인식 및 객체인식을 통해 각 전경 객체에 소정 형상의 인식표시가 나타난다.

상기 전경 객체는 싱글 객체, 객체 그룹, 멀티 객체별로 선택된다.

상기 멀티-샘플 프리뷰는 배경 이미지에서 전경 객체의 전후 또는 좌우방향의 위치 및 객체의 각도가 재조정된 뷰이다.

상기 멀티-샘플 프리뷰는 프리뷰 이미지의 상하좌우 중 일 측에 미니맵 형태로 표시된다.

상기 멀티-샘플 프리뷰는 사용자 설정에 따라 나열형태, 중첩형태 및 토글 형태중 하나로 표시되며, 상기 나열 형태와 중첩 형태는 사용자의 터치 입력에 서로 전환된다.

상기 멀티-샘플 프리뷰를 표시하는 단계는 프리뷰 이미지에서 선택된 전경 객체를 분리하는 단계; 상기 전경 객체가 분리된 영역에 빈 영역을 표시하는 단계; 상기 빈 영역을 가장 가까운 배경 이미지로 채우는 단계; 사용자 설정에 따라 전경 객체의 위치 및 각도를 재조정하는 단계; 및 상기 재조정된 각 전경 객체를 배경 객체와 합성하여 멀티-샘플 프리뷰를 생성하는 단계;를 포함한다.

상기 본 발명의 실시예에 따른 이동 단말기의 촬영 객체 재배치 방법은, 배경 이미지를 수정하는 단계; 상기 선택된 전경 객체를 배경 이미지상에서 원하는 위치로 이동시켜 새로운 프리뷰 이미지를 생성하는 단계; 및 상기 생성된 새로운 프리뷰 이미지를 촬영하는 단계;를 더 포함한다.

상기와 같은 목적을 달성하기 위하여 본 발명의 실시예에 따른 이동 단말기는, 프리뷰 이미지를 표시하는 디스플레이부; 및 상기 프리뷰 이미지에서 전경 객체가 선택되면 선택된 전경 객체와 배경 이미지를 실시간으로 처리하여 배경 이미지에 대한 전경 객체의 베스트 뷰를 나타내는 멀티-샘플 프리뷰를 표시하는 제어부;를 포함한다.

상기 프리뷰 이미지는 적어도 하나 이상의 전경 객체와 이미지로 구성되며, 상기 제어부는 프리뷰 이미지가 표시되면 얼굴 인식 및 객체인식을 수행하여 각 전경 객체에 소정 형상의 인식표시가 나타낸다.

상기 제어부는 사용자 설정에 따라 프리뷰 이미지의 상하좌우 중 일 측에 미니맵 형태로 멀티-샘플 프리뷰를 표시한다.

상기 제어부는 사용자 설정에 따라 나열형태, 중첩형태 및 토글 형태로 멀티-샘플 프리뷰를표시하고, 사용자의 터치 입력에 따라 나열 형태와 중첩 형태를 서로 전환시킨다.

상기 제어부는 프리뷰 이미지에서 선택된 전경 객체를 분리한 후 분리에 의해 생성된 빈 영역을 가장 가까운 배경 이미지로 채우고, 사용자 설정에 따라 전경 객체의 위치 및 각도를 재조정한 후 재조정된 각 전경 객체를 배경 객체를 합성하여 멀티-샘플 프리뷰를 생성한다.

본 발명은 특정 장면 촬영시 전경(foreground) 객체와 배경(background) 객체를 실시간으로 처리하여 적어도 하나 이상의 베스트 샘플 프리뷰를 표시함으로써 객체 또는 사용자의 위치 재조정 없이 사용자가 베스트 샘플 프리뷰에서 원하는 프리뷰를 선택하여 간편하게 촬영을 수행함으로써 객체 또는 사용자의 위치 재조정을 최소화할 수 있는 효과가 있으며, 특히 사용자가 배경 이미지상에서 전경 객체를 직접 이동시켜 촬영함으로써 보다 다양한 샷에서 장면을 촬영할 수 있는 효과가 있다.

도 1은 본 발명의 일 실시예에 관련된 이동 단말기의 블록 구성도.
도 2a는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 무선 통신 시스템에 대한 블록도.
도 2b는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 와이파이 위치추적 시스템의 구성도.
도 3은 본 발명의 제1실시예에 따른 이동 단말기의 촬영 객체 재배치 방법을 나타낸 순서도.
도 4는 도 3에 도시된 이동 단말기의 촬영 객체 재배치 방법의 상세 실시예.
도 5는 좌우측 방향으로 재배치된 멀티 프리뷰의 일 예를 나타낸 도면.
도 6은 소정 각도로 재배치된 멀티 프리뷰를 나타낸 도면.
도 7은 선택된 객체에 대한 멀티 프리뷰를 생성하여 표시하는 상세 순서도.
도 8 내지 도 12는 멀티 프리뷰를 생성하여 표시하기 위한 상세 실시예.
도 13은 본 발명의 제2실시예에 따른 이동 단말기의 촬영 객체 재배치 방법을 나타낸 순서도.
도 14는 선택 객체의 위치를 변경하여 표시하는 방법을 나타낸 상세 순서도.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook) 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 명세서에 개시된 일 실시 예에 따른 이동 단말기를 나타내는 블록도이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 감지부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

상기 이동통신 모듈(112)은 화상통화모드 및 음성통화모드를 구현하도록 이루어진다. 화상통화모드는 상대방의 영상을 보면서 통화하는 상태를 지칭하고, 음성통화모드는 상대방의 영상을 보지 않으면서 통화를 하는 상태를 지칭한다. 화상통화모드 및 음성통화모드를 구현하기 위하여 이동통신 모듈(112)은 음성 및 영상 중 적어도 하나를 송수신하도록 형성된다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN), WiFi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication) 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 여기에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라는(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부 기기로 전송될 수 있다. 또한, 카메라(121)에서 획득되는 화상 프레임으로부터 사용자의 위치 정보 등이 산출될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자로부터 인가되는 이동 단말기(100)의 동작을 제어하기 위한 제어명령에 따른 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

감지부(또는 센싱부, 140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 감지 신호 (또는 센싱 신호)를 발생시킨다. 예를 들어 감지부(140)는 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 감지할 수 있다. 또한, 감지부(140)는 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 감지할 수도 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(153), 알람부(154) 및 햅틱 모듈(155) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에 디스플레이부(151)는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부(152)로서 구성될 수 있다.

여기서, 입체영상은 3차원 입체영상(3-dimensional stereoscopic image)을 나타내며, 3차원 입체 영상(3-dimensional stereoscopic image)은 모니터나 스크린 상에서 사물이 위치한 점진적 깊이(depth)와 실체(reality)를 현실 공간과 동일하게 느낄 수 있도록 한 영상이다. 3차원 입체 영상은 양안시차(binocular disparity)를 이용하여 구현된다. 양안시차란 떨어져 있는 두 눈의 위치에 의하여 이루어지는 시차를 의미하는 것으로, 두 눈이 서로 다른 2차원 화상을 보고 그 화상들이 망막을 통하여 뇌로 전달되어 융합되면 입체 영상의 깊이 및 실제감을 느낄 수 있게 된다.

상기 입체 디스플레이부(152)에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다. 가정용 텔레비전 수신기 등에 많이 이용되는 스테레오스코픽 방식에는 휘스톤 스테레오스코프 방식 등이 있다.

상기 오토 스테레오스코픽 방식의 예로서, 패럴렉스 배리어(parallex barrier) 방식, 렌티큘러(lenticular) 방식, 집적영상(integral imaging) 방식, 스위츠블 렌즈(switchable lens) 등이 있다. 프로젝션 방식에는 반사형 홀로그래픽 방식, 투과형 홀로그래픽 방식 등이 있다.

일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.

또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이를 합쳐서 하나의 3차원 썸네일 영상을 생성할 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.

3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부(미도시)에 의하여 입체 디스플레이부(152)에 표시될 수 있다. 입체 처리부는 3D 영상을 입력받아 이로부터 좌 영상과 우 영상을 추출하거나, 2D 영상을 입력받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.

한편, 디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 대상체가 터치 센서 상에 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 1을 참조하면, 상기 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 근접 센서(141)는 상기 센싱부(140)의 일 예로서 구비될 수 있다. 상기 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서(141)는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치 스크린이 정전식인 경우에는 전도성을 갖는 물체(이하, 포인터라 함)의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치 스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치 스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치 스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

입체 디스플레이부(152)와 터치 센서가 상호 레이어 구조를 이루는 경우(이하, '입체 터치스크린'이라 함)나, 입체 디스플레이부(152)와 터치 동작을 감지하는 3차원 센서가 서로 조합되는 경우에는 상기 입체 디스플레이부(152)는 3차원의 입력 장치로도 사용될 수 있다.

상기 3차원 센서의 예로서, 상기 센싱부(140)는 근접 센서(141), 입체 터치센싱부(142), 초음파 센싱부(143), 카메라 센싱부(144)를 포함할 수 있다.

근접센서(141)는 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 터치를 가하는 감지대상(예를 들어, 사용자의 손가락이나 스타일러스 펜)와 검출면과의 거리를 측정한다. 단말기는 이러한 거리를 이용하여 입체영상의 어느 부분이 터치되었는지를 인식하게 된다. 특히, 터치스크린이 정전식인 경우에는 상기 감지대상의 근접에 따른 전계의 변화로 상기 감지대상의 근접 정도를 검출하고, 이러한 근접 정도를 이용하여 3차원상의 터치를 인식하도록 구성된다.

입체 터치센싱부(142)는 터치 스크린상에 가해지는 터치의 세기나 지속시간을 감지하도록 이루어진다. 예를 들어, 입체 터치센싱부(142)는 터치를 가하는 압력을 감지하고, 가압력이 강하면 이를 단말기의 내부를 향하여 터치 스크린과 보다 멀리 위치한 객체에 대한 터치로 인식한다.

초음파 센싱부(143)는 초음파를 이용하여, 감지대상의 위치정보를 인식하도록 이루어진다.

초음파 센싱부(143)는, 예를 들어 광 센서와 복수의 초음파 센서로 이루어질 수 있다. 광 센서는 광을 감지하도록 형성되며, 초음파 센서는 초음파를 감지하도록 형성된다. 광이 초음파보다 매우 빠르기 때문에, 광이 광 센서에 도달하는 시간은 초음파가 초음파 센서에 도달하는 시간보다 매우 빠르다. 따라서, 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치를 산출할 수 있게 된다.

카메라 센싱부(144)는 카메라(121), 포토 센서, 레이저 센서 중 적어도 하나를 포함한다.

예를 들어, 카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지한다. 카메라에 의하여 촬영된 2차원 영상에 레이저 센서에 의하여 감지된 거리정보가 더해지면, 3차원 정보가 획득될 수 있다.

또 다른 예로서, 포토 센서가 디스플레이 소자에 적층될 수 있다. 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보를 획득하게 된다.

음향 출력 모듈(153)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(153)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(153)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.

알람부(154)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(154)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동을 이용하여, 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음향 출력 모듈(153)을 통해서도 출력될 수 있어서, 디스플레이부(151) 및 음향 출력 모듈(153)은 알람부(154)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(155)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(155)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅택 모듈(155)이 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(155)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(155)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(155)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(155)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(170)에 포함될 수 있다.

한편, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(170)를 통하여 단말기(100)와 연결될 수 있다.

또한, 상기 인터페이스부(170)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.

제어부(controller, 180)는 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

또한, 상기 제어부(180)는 상기 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

또한, 상기 제어부(180)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행할 수 있다. 또한, 상기 제어부(180)는 상기 잠금 상태에서 상기 디스플레이부(151)를 통해 감지되는 터치 입력에 근거하여 상기 잠금 상태에서 표시되는 잠금화면을 제어할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들은 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다.

소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

다음으로, 본 발명에 따른 이동 단말기(100)를 통해 실시 가능한 통신 시스템에 대하여 살펴본다. 도 2a 및 도 2b는 본 발명에 따른 이동 단말기(100)가 동작 가능한 통신 시스템의 개념도이다.

먼저, 도 2a를 살펴보면, 통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access, FDMA), 시분할 다중 접속(Time Division Multiple Access, TDMA), 코드 분할 다중 접속(Code Division Multiple Access, CDMA), 범용 이동통신 시스템(Universal Mobile Telecommunications Systems, UMTS)(특히, LTE(Long Term Evolution)), 이동통신 글로벌 시스템(Global System for Mobile Communications, GSM) 등이 포함될 수 있다.

이하에서는, 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나, 본 발명은, CDMA 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 수 있음은 자명하다.

도 2a에 도시된 바와 같이, CDMA 무선 통신 시스템은, 적어도 하나의 단말기(100), 적어도 하나의 기지국(Base Station, BS)(270), 적어도 하나의 기지국 제어부(Base Station Controllers, BSCs)(275), 이동 스위칭 센터(Mobile Switching Center, MSC)(280)를 포함할 수 있다. MSC(280)는, 일반 전화 교환망(Public Switched Telephone Network, PSTN)(290) 및 BSCs(275)와 연결되도록 구성된다. BSCs(275)는, 백홀 라인(backhaul line)을 통하여, BS(270)와 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs(275)가 도 2a에 도시된 시스템에 포함될 수 있다.

복수의 BS(270) 각각은 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS(270)로부터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS(270)는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당은 각각 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 가질 수 있다.

섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS(270)은 는, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem, BTSs)이라고 불릴수 있다. 이러한 경우, 하나의 BSC(275) 및 적어도 하나의 BS(270)를 합하여 "기지국"이라고 칭할 수 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS(270)에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.

도 2a에 도시된 바와 같이, 방송 송신부(Broadcasting Transmitter, BT)(295)는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1에 도시된 방송 수신 모듈(111)은, BT(295)에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.

뿐만 아니라, 도 2a에서는, 위성 위치 확인 시스템(Global Positioning System, GPS)의 위성(300)을 도시한다. 상기 위성(300)은, 이동 단말기(100)의 위치를 파악하는 것을 돕는다. 도 2a에서는 두 개의 위성이 도시되어 있지만, 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 도 1에 도시된 위치정보 모듈(115)은, 원하는 위치 정보를 획득하기 위하여 도 2a에 도시된 위성(300)과 협력한다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 이동 단말기(100)의 위치가 추적될 수 있다. 또한, GPS 위성(300) 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.

무선 통신 시스템의 전형적인 동작 중, BS(270)는, 이동 단말기(100)로부터 역 링크 신호를 수신한다. 이때, 이동 단말기(100)는, 호를 연결 중이거나, 메시지를 송수신 중이거나 또는 다른 통신 동작을 수행하고 있다. 특정 기지국(270)에 의해 수신된 역 링크 신호들 각각은, 특정 기지국(270)에 의해 내에서 처리된다. 상기 처리 결과 생성된 데이터는, 연결된 BSC(275)로 송신된다. BSC(275)는, 기지국들(270) 간의 소프트 핸드오프(soft handoff)들의 조직화를 포함하여, 호 자원 할당 및 이동성 관리 기능을 제공한다. 또한, BSCs(275)는, 상기 수신된 데이터를 MSC(280)로 송신하고, MSC(280)는, PSTN(290)과의 연결을 위하여 추가적인 전송 서비스를 제공한다. 또한, 이와 유사하게 PSTN(290)은 MSC(280)와 연결되고, MSC(280)는 BSCs(275)와 연결되고, BSCs(275)는 이동 단말기(100)로 순 링크 신호가 전송되도록 BS(270)를 제어할 수 있다.

다음으로, 도 2b에서는 와이파이 위치추적 시스템(WPS: WiFi(Wireless Fidelity) Positioning System)을 이용하여, 이동 단말기의 위치정보를 획득하는 방법에 대하여 살펴본다.

와이파이 위치추적 시스템(WPS: WiFi Positioning System, 300)은 이동 단말기(100)에 구비된 WiFi모듈 및 상기 WiFi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point, 320)를 이용하여, 이동 단말기(100)의 위치를 추적하는 기술로서, WiFi를 이용한 WLAN(Wireless Local Area Network)기반의 위치 측위 기술을 의미한다.

와이파이 위치추적 시스템(300)은 와이파이 위치측위 서버(310), 이동 단말기(100), 상기 이동 단말기(100)와 접속된 무선 AP(330), 임의의 무선 AP정보가 저장된 데이터 베이스(330)를 포함할 수 있다.

와이파이 위치측위 서버(310)는 이동 단말기(100)의 위치정보 요청 메시지(또는 신호)에 근거하여, 이동 단말기(100)와 접속된 무선 AP(320)의 정보를 추출한다. 상기 이동 단말기(100)와 접속된 무선 AP(320)의 정보는 이동 단말기(100)를 통해 상기 와이파이 위치측위 서버(310)로 전송되거나, 무선 AP(320)에서 와이파이 위치측위 서버(310)로 전송될 수 있다.

상기 이동 단말기(100)의 위치정보 요청 메시지에 근거하여, 추출되는 무선 AP의 정보는 MAC Address, SSID, RSSI, 채널정보, Privacy, Network Type, 신호세기(Signal Strength) 및 노이즈 세기(Noise Strength )중 적어도 하나일 수 있다.

와이파이 위치측위 서버(310)는 위와 같이, 이동 단말기(100)와 접속된 무선 AP(320)의 정보를 수신하여, 미리 구축된 데이터베이스(330)에 포함된 정보와 상기 수신된 무선 AP(320) 정보를 비교하여, 상기 이동 단말기(100)의 위치정보를 추출(또는 분석)한다.

한편, 도 2b에서는 일 예로서, 이동 단말기(100)와 접속되어 있는 무선 AP를 제1, 제2 및 제3 무선 AP(320)로 도시하였다. 그러나, 이동 단말기(100)와 접속되는 무선 AP의 수는 이동 단말기(100)가 위치한 무선 통신환경에 따라 다양하게 변경될 수 있다. 와이파이 위치추척 시스템(300)은 이동 단말기(100)가 적어도 하나의 무선 AP와 접속되는 경우, 이동 단말기(100)의 위치를 추적하는 것이 가능하다.

다음으로, 임의의 무선 AP정보가 저장되어 있는 데이터 베이스(330)에 대하여 보다 구체적으로 살펴보면, 상기 데이터 베이스(330)에는 서로 다른 위치에 배치된 임의의 무선 AP들의 다양한 정보가 저장될 수 있다.

상기 데이터 베이스(300)에 저장되는 임의의 무선 AP들의 정보는 MAC Address, SSID, RSSI, 채널정보, Privacy, Network Type, 무선 AP의 위경도 좌표, 무선 AP가 위치한 건물명, 층수, 실내 상세 위치정보(GPS 좌표 이용가능), AP소유자의 주소, 전화번호 등의 정보일 수 있다.

이와 같이, 상기 데이터베이스(330)에는 임의의 무선 AP정보 및 상기 임의의 무선 AP에 대응되는 위치정보가 함께 저장되어 있으므로, 와이파이 위치측위 서버(310)는 상기 데이터베이스(330)에서 이동 단말기(100)에 접속된 무선 AP(320)의 정보와 대응되는 무선 AP정보를 검색하고, 검색된 무선 AP정보에 매칭된 위치정보 추출함으로써, 이동 단말기(100)의 위치정보를 추출할 수 있다.

그리고, 이렇게 추출된 이동 단말기(100)의 위치정보는 상기 와이파이 위치측위 서버(310)를 통해 이동 단말기(100)로 전송됨으로써, 이동 단말기(100)는 위치정보를 획득할 수 있다.

카메라 촬영시 전경(foreground) 객체(Subject)는 배경 (background) 물체 (object)와 다른 위치에 놓일 수 있다. 이러한 경우에는 배경 물체에 대하여 전경 객체의 위치가 재조정(재배치)되어야 베스트 샷(shot snap) 즉, 최적의 정지 이미지를 촬영할 수 있다.

본 발명은 카메라 프리뷰 모드에서 객체 또는 사용자(촬영자)의 위치 재조정을 피하기 위하여 위해 전경 객체와 배경 물체를 실시간으로 처리하여 촬영자(이하 사용자로 칭함)에게 최적의 가능한 복수의 샘플 프리뷰(멀티-샘플 프리뷰)를 제공한다.

따라서, 사용자는 재배치된 멀티-샘플 프리뷰중에서 원하는 샘플 프리뷰를 선택하여 촬영을 수행함으로써 종래와 같이 전경 객체에게 움직이도록 요구하거나 또는 촬영 후 이미지의 후 처리동작(재촬영 또는 이미지 보정등)을 수행할 필요가 없다.

상기 각 재배치된 프리뷰는 사용자 요구에 따라 장면내에서 좌우측 방향, 전후 방향으로 이동되어 재배치되거나, 소정 각도로 이동되어 재배치된다.

도 3은 본 발명의 제1실시예에 따른 이동 단말기의 촬영 객체 재배치 방법을 나타낸 순서도이고, 도 4는 그의 상세 실시예이다.

도 3 및 도 4에 도시된 바와같이, 사용자(촬영자)가 배경 물체(e.g., 산)와 객체 (e.g, 사람)가 포함된 장면(scene)을 촬영하는 경우 제어부(180)는 카메라 프리뷰 모드에 적어도 하나 이상의 객체가 포함된 프리뷰를 표시한다(S100). 이때, 제어부(180)는 얼굴인식 또는 객체인식을 통하여 각 객체에 태그(e.g., 사각형의 점선)를 표시하여 선택 가능한 객체를 표시한다(인식표시).

상기 프리뷰에서 사용자는 재배치(realign)(위치 또는 방향)할 객체를 선택한다(S110). 상기 객체는 프리뷰내에 복수의 객체가 존재할 경우 하나이상 선택될 수 있는데, 예를들면, 싱글 객체, 객체 그룹 또는 멀티 객체가 선택될 수 있다.

일단 재배치할 객체가 선택되면 제어부(180)는 전경 객체와 배경 물체를 실시간으로 처리하여 프리뷰의 소정 영역에 객체의 위치가 좌우 방향으로 변경된 복수의 샘플 프리뷰(50)를 매니맵 형태로 표시한다(S120).

상기 소정 영역은 중앙 또는 프리뷰의 상하좌우중 일측이며, 상기 멀티 프리뷰(50)는 상,하측에 표시될 경우에는 가로 형태로 표시되고, 좌우측에 표시될 때는 세로 형태로 표시된다.

또한, 상기 복수의 샘플 프리뷰는 중첩형태로 표시되어 소정 시간마다 자동으로 변경(realign)(토글)되도록 할 수 있으며, 다른 실시예로서, 중첩형태로 표시된 경우 맨 위에 표시된 샘플 프리뷰를 옆으로 드래그하면 펼쳐진 형태로, 다시 모으면 중첩된 형태로 표시되도록 할 수 있다. 이에 한정되지 않고 공지된 다양한 표시방법을 이용하여 샘플 프리뷰를 표시할 수 있다.

카메라 프리뷰에 복수의 샘플 프리뷰가 표시되면 사용자는 원하는 하나의 샘플 프리뷰를 선택할 수 있다(S130). 특정 샘플 프리뷰가 선택되면 제어부(180)는 선택된 샘플 프리뷰를 카메라 프리뷰에 확대하여 표시한다.

따라서, 도 4에 도시된 바와같이, 사용자는 촬영 버튼을 눌러 객체 (e.g, 사람)가 카메라 프리뷰의 왼쪽에 위치한 장면(scene)을 촬영하고(S140), 촬영된 사진은 메모리(160)에 저장된다.

도 5는 좌우측 방향으로 재배치된 멀티-샘플 프리뷰의 일 예이다.

도 5를 참조하면, 각 샘플 프리뷰에서 객체 (e.g, 사람)만 재배치되었지만, 이에 한정되지 않고 객체의 방향 또는 배경이 되는 물체(산 또는 도로)의 정보 (e.g., 선명도, 색상)도 함께 변경(realigned)될 수 있다.

도 6은 소정 각도로 재배치된 멀티 프리뷰의 일 예이다.

도 6에 도시된 바와같이, 프리뷰에서 사용자가 재배치(realign)할 객체를 선택하면, 제어부(180)는 전경 객체와 배경 물체를 실시간으로 처리하여 프리뷰의 좌측 하단부에 소정 각방향으로 객체 움직임을 갖는 복수의 샘플 프리뷰(50)를 표시한다(S120). 상기 소정 각방향은 예를들면 45°, 30°, -30°,-45°dlf 수 있으며, 그 각은 설정에 따라 변경된다.

따라서, 사용자는 멀티-샘플 프리뷰(50)에서 원하는 샘플 프리뷰를 선택한 후 전술한 바와같이 촬영을 수행한다.

도 7은 도 3에서 선택된 객체에 대한 멀티-샘플 프리뷰를 생성하여 표시하는 상세 순서도이고, 도 8 내지 도 12는 멀티-샘플 프리뷰를 생성하여 표시하기 위한 상세 실시예이다.

도 7에 도시된 바와같이, 제어부(180)는 특성 기반 트래팅(feature-based tracking) 및 물체 인식 (onject recognition) 기술을 이용하여 카메라 프리뷰에 표시된 장면(scene)에서 적어도 하나 이상의 객체를 인식한다. 상기 특징 기반 트래킹과 물체 인식 기술은 템플릿 매칭(template matching) 또는 형태학적 처리 (morphological processing)를 이용하는 기술로, 상기 템플릿은 예제 이미지 (examplar image) 또는 모델로부터 생성된다. 상기 템플릿 매칭은 템플릿의 특징과 실제 이미지간의 유사도(similarity)를 측정한다.

제어부(180)는 장면내의 모든 위치, 범위(scale) 및 방향에 대하여 템플릿 매칭을 수행하여 객체를 탐지한다. 상기 장면은 객체를 나타내는 전경 이미지와 배경을 나타내는 배경 이미지를 포함한다.

전경 이미지에서 객체가 탐지되면 제어부(180)는 도 8에 도시된 바와같이, 탐지된 객체가 재배치의 대상임을 나타내는 인식 표시(60)를 나타낸다. 상기 인식 표시(60)는 점선으로 표시되며, 기타 다른 방법으로 포커스되어 표시될 수 있다.

상기 탐지된 객체가 선택되면 제어부(180)는 해당 객체를 배경 이미지로부터 분리한 후(S10), 배경 이미지에 객체 분리에 의해 생긴 빈 영역(61)을 표시한다 (S11). 이때 객체 분리는 픽셀 기반 분리, 에지기반 분리 및 영역기반 분리중 하나에 의해 수행된다.

도 9에는 배경 이미지로부터 분리된 객체 및 빈 영역이 표시되어 있다.

일단 재배치될 객체가 배경이미지로부터 분리(추출)되면, 제어부(180)는 빈영역(61)을 최적의 패치(patch), 즉 사각형의 픽셀 영역(3×3, 5×5, 7×7 핏셀)을 예측하여 예측된 패치를 빈 영역(61)에 연속적으로 표시하여 빈 영역(61)을 채운다 (S12). 상기 최적의 패치는 배경 이미지에서 추출된 객체와 가장 유사한 부분으로, 보통 가장 인접한 부분을 나타낸다. 도 10에는 빈 영역이 최적의 패치로 채워진 배경 이미지를 나타낸다

도 11은 추출된 전경 객체와 배경 객체를 합성하는 예이고, 도 12는 객체의 합성에 의해 생성된 멀티 프리뷰의 일 예를 나타낸다.

배경이미지에서 빈 공간이 채워지면 제어부(180)는 추출된 객체에 대하여 이미지 픽셀간 공간적(spatial) 관계를 변경하는 기하학적 변형, 예를들어 크기 변화, 회전, 위치변화를 수행한 다음(S13) 도 12에 도시된 바와같이 상기 변형된 객체(전경 이미지)와 배경 이미지를 서로 겹친다(superimposing). 즉, 제어부(180)는 변형된 객체 이미지(전경 이미지)를 배경 이미지의 다양한 위치에서 합성한다.

이후 도 12에 도시된 바와같이, 제어부(180)는 배경 이미지의 다양한 장소에서 합성된 이미지 즉, 멀티-샘플 프리뷰(50)를 표시한다(S14, S15).

따라서, 사용자는 카메라 위치, 전경 및 배경 객체를 움직이지 않고도 최적의 샘플 프리뷰(뷰 스냅)을 선택하여 촬영할 수 있게 된다. 특히 도 7에 도시된 동작을 수행하는 동안 생성된 이미지는 버퍼에 일시적으로 저장된다.

위에서 설명한 객체 재배치방법은 선택된 객체에 대하여 이동 단말기가 자동으로 최적의 멀티-샘플 프리뷰를 제공하여 사용자가 선택하도록 하는 것이지만(자동 객체 재배치), 이에 한정되지 않고 사용자가 직접 배경 및 객체의 위치를 변경할 수도 있다(수동 재배치).

도 13은 본 발명의 제2실시예에 따른 이동 단말기의 촬영 객체 재배치 방법을 나타낸 순서도이다.

도 13에 도시된 바와같이, 카메라 프리뷰 모드에서 제어부(180)는 적어도 하나 이상의 객체가 포함된 프리뷰(이미지)를 디스플레이부(151)에 표시한다(S200). 이때, 제어부(180)는 얼굴인식 또는 객체인식을 통하여 각 객체에 태그(e.g., 사각형의 점선)를 표시하여 선택 가능한 객체를 표시한다.

상기 프리뷰에서 에서 사용자는 재배치(realign)할 객체를 선택한다(S210). 상기 객체는 프리뷰내에 복수의 객체가 존재할 경우 하나 이상 선택될 수 있는데, 예를들면, 싱글 객체, 객체 그룹 또는 멀티 객체가 선택될 수 있다.

일단 재배치할 객체가 선택되면 사용자는 패닝(panning)(터치 & 드래그 및 플리킹)과 같은 터치 입력을 이용하여 상기 선택된 객체를 선호하는 위치로 이동시켜 객를 재배치시킨다(S220). 또한, 사용자는 줌잉(zooming) 및 팬잉과 같은 터치 입력을 이용하여 배경을 수정한다. 상기 배경의 보정은 선택사항으로 반드시 보정되어야 하는 것은 아니다.

상기 객체의 재배치가 종료되면 재배치된 객체 및 배경이 디스플레이부(151)에 표시되고(S230), 사용자는 재배치된 객체 및 배경이 포함된 장면을 촬영한다 (S240).

도 14는 도 13에서 객체의 위치를 변경하여 표시하는 방법을 나타낸 상세 순서도이다.

도 14의 동작은 진하게 표시된 단계(S24)를 제외하면 단계(S20~S23)은 기본적으로 도 7의 단계(S10~S13)과 동일하다. 즉, 도 14는 수동으로 객체의 위치를 재배치하는 제어부(180)는 객체에 대한 기하학적 변형이 완료되면 사용자가 선택한 위치에서 배경 이미지위에 전경 객체를 위치시켜 사용자가 원하는 프리뷰를 표시한다(S24).

상술한 바와같이 본 발명은 특정 장면 촬영시 전경 객체와 배경 객체를 실시간으로 처리하여 적어도 하나 이상의 베스트 샘플 프리뷰를 표시함으로써 객체 또는 사용자의 위치 재조정 없이 사용자가 베스트 샘플 프리뷰에서 원하는 프리뷰를 선택하여 간편하게 촬영을 수행함으로써 객체 또는 사용자의 위치 재조정을 최소화할 수 있으며, 특히 사용자가 배경 이미지상에서 전경 객체를 직접 이동시켜 촬영함으로써 보다 다양한 샷에서 장면을 촬영할 수 있는 장점이 있다.

본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는, 단말기의 제어부를 포함할 수도 있다.

상기와 같이 설명된 이동 단말기의 촬영 객체 재배치 방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

50 : 멀티 프리뷰 60 : 인식 표시
61 : 빈 영역 151 : 디스플레이부
160 : 메모리 180 : 제어부

Claims

프리뷰 이미지를 표시하는 단계;
프리뷰 이미지에서 전경 객체를 선택하는 단계;
선택된 전경 객체와 배경 이미지를 실시간으로 처리하여 배경 이미지에 대한 전경 객체의 베스트 뷰를 나타내는 멀티-샘플 프리뷰를 표시하는 단계; 및
멀티-샘플 뷰에서 원하는 샘플 프리뷰를 선택하여 촬영하는 단계;를 포함하는 것을 특징으로 하는 이동 단말기의 촬영 객체 재배치 방법.
제1항에 있어서, 상기 프리뷰 이미지는
적어도 하나 이상의 전경 객체와 이미지로 구성되며,
프리뷰 이미지가 표시되면 얼굴 인식 및 객체인식을 통해 각 전경 객체에 소정 형상의 인식표시가 나타나는 것을 특징으로 하는 이동 단말기의 촬영 객체 재배치 방법.
제1항에 있어서, 상기 전경 객체는
싱글 객체, 객체 그룹, 멀티 객체별로 선택되는 것을 특징으로 하는 이동 단말기의 촬영 객체 재배치 방법.
제1항에 있어서, 상기 멀티-샘플 프리뷰는
배경 이미지에서 전경 객체의 전후 또는 좌우방향의 위치 및 객체의 각도가 재조정된 뷰인 것을 특징으로 하는 이동 단말기의 촬영 객체 재배치 방법.
제1항에 있어서, 상기 멀티-샘플 프리뷰는
프리뷰 이미지의 상하좌우 중 일 측에 미니맵 형태로 표시되는 것을 특징으로 하는 이동 단말기의 촬영 객체 재배치 방법.
제5항에 있어서, 상기 멀티-샘플 프리뷰는
사용자 설정에 따라 나열형태, 중첩형태 및 토글 형태중 하나로 표시되며, 상기 나열 형태와 중첩 형태는 사용자의 터치 입력에 서로 전환되는 것을 특징으로 하는 이동 단말기의 촬영 객체 재배치 방법.
제1항에 있어서, 상기 멀티-샘플 프리뷰를 표시하는 단계는
프리뷰 이미지에서 선택된 전경 객체를 분리하는 단계;
상기 전경 객체가 분리된 영역에 빈 영역을 표시하는 단계;
상기 빈 영역을 가장 가까운 배경 이미지로 채우는 단계;
사용자 설정에 따라 전경 객체의 위치 및 각도를 재조정하는 단계; 및
상기 재조정된 각 전경 객체를 배경 객체와 합성하여 멀티-샘플 프리뷰를 생성하는 단계;를 포함하는 이동 단말기의 촬영 객체 재배치 방법.
제1항에 있어서, 상기 배경 이미지를 수정하는 단계;
상기 선택된 전경 객체를 배경 이미지상에서 원하는 위치로 이동시켜 새로운 프리뷰 이미지를 생성하는 단계; 및
상기 생성된 새로운 프리뷰 이미지를 촬영하는 단계;를 더 포함하는 것을 특징으로 하는 이동 단말기의 촬영 객체 재배치 방법.
프리뷰 이미지를 표시하는 디스플레이부; 및
상기 프리뷰 이미지에서 전경 객체가 선택되면 선택된 전경 객체와 배경 이미지를 실시간으로 처리하여 배경 이미지에 대한 전경 객체의 베스트 뷰를 나타내는 멀티-샘플 프리뷰를 표시하는 제어부;를 포함하며,
상기 제어부는 멀티-샘플 뷰에서 원하는 샘플 프리뷰가 선택되면 촬영을 수행하는 것을 특징으로 하는 이동 단말기.
제9항에 있어서, 상기 프리뷰 이미지는
적어도 하나 이상의 전경 객체와 이미지로 구성되며,
상기 제어부는 프리뷰 이미지가 표시되면 얼굴 인식 및 객체인식을 수행하여 각 전경 객체에 소정 형상의 인식표시가 나타내는 이동 단말기.
제9항에 있어서, 상기 전경 객체는
싱글 객체, 객체 그룹, 멀티 객체별로 선택되는 것을 특징으로 하는 이동 단말기.
제9항에 있어서, 상기 멀티-샘플 프리뷰는
배경 이미지에서 전경 객체의 전후 또는 좌우방향의 위치 및 객체의 각도가 재조정된 뷰인 것을 특징으로 하는 이동 단말기.
제9항에 있어서, 상기 제어부는
사용자 설정에 따라 프리뷰 이미지의 상하좌우 중 일 측에 미니맵 형태로 멀티-샘플 프리뷰를 표시하는 것을 특징으로 하는 이동 단말기.
제9항에 있어서, 상기 제어부는
사용자 설정에 따라 나열형태, 중첩형태 및 토글 형태로 멀티-샘플 프리뷰를표시하고, 사용자의 터치 입력에 따라 나열 형태와 중첩 형태를 서로 전환시키는 것을 특징으로 하는 이동 단말기.
제9항에 있어서, 상기 제어부는
프리뷰 이미지에서 선택된 전경 객체를 분리한 후 분리에 의해 생성된 빈 영역을 가장 가까운 배경 이미지로 채우고, 사용자 설정에 따라 전경 객체의 위치 및 각도를 재조정한 후 재조정된 각 전경 객체를 배경 객체를 합성하여 멀티-샘플 프리뷰를 생성하는 것을 특징으로 하는 이동 단말기.