KR101413794B1 - 증강 현실을 이용한 에듀테인먼트 컨텐츠 이동 단말기 및 그 제어방법 - Google Patents

Abstract

본 발명은 증강 현실을 이용한 에듀테인먼트 컨텐츠 이동 단말기 및 그 제어방법에 관한 것이다. 본 발명의 일예와 관련된 증강 현실을 이용한 이동 단말기는 제 1 객체를 포함하는 이미지를 획득하는 카메라, 상기 이미지를 표시하는 터치스크린과 상기 이미지에 포함된 제 1 객체를 인식하고, 상기 제 1 객체에 대응하는 제 1 캐릭터를 결정하며, 상기 제 1 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 상기 터치스크린 상에 표시하는 제어부를 포함하되, 사용자가 상기 터치스크린의 적어도 일부에 기 설정된 패턴의 터치가 입력되는 경우, 상기 제어부는 상기 제 1 캐릭터가 상기 드래그하는 방향에 따라 이동되어 표시되도록 제어할 수 있다.

Description

증강 현실을 이용한 에듀테인먼트 컨텐츠 이동 단말기 및 그 제어방법{EDUTAINMENT CONTENTS MOBILE TERMINAL USING AUGMENTED REALITY AND METHOD FOR CONTROLLING THEREOF}

본 발명은 증강 현실을 이용한 에듀테인먼트 컨텐츠 이동 단말기 및 그 제어방법에 관한 것이다.

개인용 컴퓨터, 노트북, 휴대폰 등과 같은 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.

일반적으로 단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.

이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

몇 년 전부터 전세계를 휩쓴 이동단말기(100), 태블릿 PC열풍이 소비 성향을 비롯해 생활 패턴까지 변화시키고 있다.

그만큼 요즘 IT 기기는 우리의 일상과 대단히 밀접한 관계를 갖고 있다. 그 동안 영화에서나 볼 법한 신기술을 이제는 누구라도 쉽게 사용할 수 있게 되었기 때문이다.

그 대표적인 신기술 중 하나가 바로 증강현실(Augmented Reality, AR) 이다.

그런데 적지 않은 사람들이 가상현실(VirtualReality, VR)과 증강현실을 혼동하고 있다.

가상현실은 자신(객체)과 배경, 환경 모두 현실이 아닌 가상의 이미지를 사용하는데 반해, 증강현실(Augmented Reality, AR)은 현실의 이미지나 배경에 3차원 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 기술이다.

또한, 증강현실은 혼합현실(Mixed Reality, MR)이라고도 하는데, 비행기 제조사인 보잉사에서 1990경 비행기 조립 과정에 가상의 이미지를 첨가하면서 증강현실이 처음으로 세상에 소개됐다.

증강현실과 가상현실은 서로 비슷한 듯 하지만 그 주체가 허상이냐 실상이냐에 따라 명확히 구분된다.

컴퓨터 게임으로 예를 들면, 가상현실 격투 게임은 나를 대신하는 캐릭터가 가상의 공간에서 가상의 적과 대결하지만, 증강현실 격투 게임은 현실의 내가 현실의 공간에서 가상의 적과 대결을 벌이는 형태가 된다.

따라서 증강현실이 가상현실에 비해 현실감이 뛰어나다는 특징이 있다.

이 밖에 가상현실은 일반적으로 영화나 영상 분야 등 특수 환경에서만 사용되지만 증강현실은 현재 일반인들에게도 널리 활용될 만큼 대중화된 상태다.

예를 들어, 인터넷을 통한 지도 검색, 위치 검색 등도 넓은 의미에서는 증강현실에 포함된다.

다만, 컴퓨터는 이동 중 사용이 곤란하므로 이동단말기(100)이나 태블릿 PC 등의 휴대용 기기를 대상으로 한 증강현실 기술이 주목을 받고 있다.

대한민국 특허청 공개번호 제10-2012-0010875호

본 발명은 상기와 같은 종래의 문제점을 해결하기 위하여 안출된 것으로서, 증강 현실을 이용한 이동 단말기 및 그 제어방법을 사용자에게 제공하는데 그 목적이 있다.

구체적으로, 본 발명은 이미지에 포함된 객체를 인식하고, 객체에 대응하는 캐릭터를 결정하며, 결정한 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 이동 단말기의 터치스크린 상에 표시하는 이동 단말기 및 그 제어방법을 사용자에게 제공하는데 그 목적이 있다.

더 나아가 본 발명은 사용자가 캐릭터가 표시된 터치스크린의 일부를 드래그하는 경우, 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 이동 단말기 및 그 제어방법을 사용자에게 제공하는데 그 목적이 있다.

한편, 본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

상술한 과제를 실현하기 위한 본 발명의 일예와 관련된 증강 현실을 이용한 이동 단말기는 제 1 객체를 포함하는 이미지를 획득하는 카메라, 상기 이미지를 표시하는 터치스크린과 상기 이미지에 포함된 제 1 객체를 인식하고, 상기 제 1 객체에 대응하는 제 1 캐릭터를 결정하며, 상기 제 1 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 상기 터치스크린 상에 표시하는 제어부를 포함하되, 사용자가 상기 터치스크린의 적어도 일부에 기 설정된 패턴의 터치가 입력되는 경우, 상기 제어부는 상기 제 1 캐릭터가 상기 드래그하는 방향에 따라 이동되어 표시되도록 제어할 수 있다.

또한, 상기 기 설정된 패턴의 터치 입력은, 상기 제 1 캐릭터가 표시된 터치스크린의 적어도 일부를 드래그하는 입력 및 상기 터치스크린에 표시된 복수의 방향 키 중 적어도 일부를 터치하는 입력을 포함할 수 있다.

또한, 복수의 객체 각각에 대응하는 복수의 캐릭터에 대한 제 1 정보를 저장하는 메모리 또는 상기 제 1 정보를 외부로부터 수신하는 무선통신부를 더 포함하고, 상기 제어부는, 상기 메모리에 저장된 제 1 정보 또는 상기 무선통신부를 통해 수신한 제 1 정보를 이용하여 상기 복수의 캐릭터 중 상기 제 1 객체에 대응하는 제 1 캐릭터를 결정할 수 있다.

또한, 상기 제 1 객체는 책(book)이고, 상기 제 1 캐릭터는 상기 책의 기 설정된 주인공 캐릭터일 수 있다.

또한, 상기 제어부의 제어에 따라 상기 제 1 캐릭터가 상기 드래그하는 방향에 따라 이동되어 표시되는 제 1 영상을 저장하는 메모리와 상기 사용자의 음성을 입력 받기 위한 마이크를 더 포함하고, 상기 제어부는 상기 음성과 상기 제 1 영상이 상기 메모리에 함께 저장되도록 제어하며, 상기 제 1 영상이 실행되는 경우, 상기 제어부는 상기 음성이 저장된 타이밍에 대응하여 상기 제 1 영상과 함께 플레이되도록 제어할 수 있다.

또한, 상기 제어부는 기 설정된 어플리케이션이 실행된 경우에만 상기 제 1 캐릭터가 상기 터치스크린 상에 표시되도록 제어할 수 있다.

본 발명은 증강 현실을 이용한 이동 단말기 및 그 제어방법을 사용자에게 제공할 수 있다.

구체적으로, 본 발명은 이미지에 포함된 객체를 인식하고, 객체에 대응하는 캐릭터를 결정하며, 결정한 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 이동 단말기의 터치스크린 상에 표시하는 이동 단말기 및 그 제어방법을 사용자에게 제공할 수 있다.

더 나아가 본 발명은 사용자가 캐릭터가 표시된 터치스크린의 일부를 드래그하는 경우, 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 이동 단말기 및 그 제어방법을 사용자에게 제공할 수 있다.

한편, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 일 실시예를 예시하는 것이며, 발명의 상세한 설명과 함께 본 발명의 기술적 사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석 되어서는 아니 된다.
도 1은 본 발명에 적용될 수 있는 이동 단말기의 블록 구성도의 일례를 나타낸 것이다.
도 2a는 본 발명과 관련하여 전투기 FA-18의 조종석에 적용된 증강현실의 일례를 도시한 것이고, 도 2b는 게임에 적용된 증강현실의 일례를 도시한 것이다.
도 3a는 증강현실 애플리케이션을 이용하여 책의 정보를 확인하는 일례를 도시한 것이고, 도 3b는 증강현실을 이용한 지도 검색 애플리케이션을 활용하는 일례를 도시한 것이다.
도 4a 및 도4b는 증강현실 애플리케이션을 통해 길거리를 비추면 증강현실 애플리케이션이 목적지까지 가는 방향을 알려주는 구체적인 일례를 도시한 것이다.
도 5는 본 발명에 따라 이미지에 포함된 객체에 대응하는 캐릭터를 증강 현실의 형태로 표시하는 방법을 설명하기 위한 순서도이다.
도 6은 발명에 따라 이미지에 포함된 객체에 대응하는 캐릭터를 증강 현실의 형태로 표시하는 구체적인 일례를 설명하기 위한 도면이다.
도 7a 내지 도7c는 사용자가 캐릭터가 표시된 터치스크린의 일부를 드래그하는 경우, 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 구체적인 일례를 설명하기 위한 도면이다.
도 8은 사용자의 음성과 캐릭터를 포함하는 영상이 함께 저장되어 실행되는 구체적인 단계를 설명하기 위한 순서도이다.
도 9는 본 발명에 따른 효과는 3단계로 분류하여 설명하기 위한 도면이다.

이하, 도면을 참조하여 본 발명의 바람직한 일실시예에 대해서 설명한다. 또한, 이하에 설명하는 일실시예는 특허청구범위에 기재된 본 발명의 내용을 부당하게 한정하지 않으며, 본 실시 형태에서 설명되는 구성 전체가 본 발명의 해결 수단으로서 필수적이라고는 할 수 없다.

이하에서는, 본 발명의 이동 단말기를 구체적으로 설명한다.

본 명세서에서 설명되는 이동 단말기, 이동단말, 단말 또는 휴대 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 휴대 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명에 적용될 수 있는 이동 단말기의 블록 구성도의 일례를 나타낸 것이다.

상기 휴대 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 배터리(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 휴대 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 휴대 단말기(100)와 무선 통신 시스템 사이 또는 휴대 단말기(100)와 휴대 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS, OMA-BCAST, ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 휴대 단말기(100)에 내장되거나 외장될 수 있다.

상기 무선 인터넷의 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 상기 근거리 통신(short range communication)의 기술로는 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치 정보 모듈(115)은 휴대 단말기(100)의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.

도 1를 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다.

이때, 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

일 예로, 상기 카메라(121)는 휴대 단말기(100)의 디스플레이부(151)가 구비된 반대면에 3D 영상 촬영을 위한 제1 및 제2 카메라(121a, 121b)가 구비될 수 있고, 상기 휴대 단말기(100)의 디스플레이부(151)가 구비된 면의 일부 영역에 사용자의 셀프 촬영을 위한 제3 카메라(121c)가 구비될 수 있다.

이때, 제1 카메라(121a)는 3D 영상의 소스 영상인 좌안 영상 촬영을 위한 것이고, 제2 카메라(121b)는 우안 영상 촬영을 위한 것이 될 수 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다.

사용자 입력부(130)는 본 발명에 따라 표시되는 컨텐트들 중 두 개 이상의 컨텐트를 지정하는 신호를 사용자로부터 수신할 수 있다. 그리고, 두 개 이상의 컨텐트를 지정하는 신호는, 터치입력을 통하여 수신되거나, 하드키 및 소프트 키입력을 통하여 수신될 수 있다.

사용자 입력부(130)는 상기 하나 또는 둘 이상의 컨텐트들을 선택하는 입력을 사용자로부터 수신할 수 있다. 또한, 사용자로부터 휴대 단말기(100)가 수행할 수 있는 기능과 관련된 아이콘을 생성하는 입력을 수신할 수 있다.

상기와 같은, 사용자 입력부(130)는 방향키, 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 휴대 단말기(100)의 개폐 상태, 휴대 단말기(100)의 위치, 사용자 접촉 유무, 휴대 단말기의 방위, 휴대 단말기의 가속/감속 등과 같이 휴대 단말기(100)의 현 상태를 감지하여 휴대 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 휴대 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 배터리(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. 상기 근접 센서(141)에 대해서는 나중에 터치스크린과 관련되어 후술된다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 햅틱 모듈(154) 및 프로젝터 모듈(155) 등이 포함될 수 있다.

디스플레이부(151)는 휴대 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 휴대 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 휴대 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

또한, 본 발명에 따른 디스플레이부(151)는 2D 및 3D 표시 모드를 지원한다.

즉, 본 발명에 따른 디스플레이부(151)는 이하의 도 1에 도시된 바와 같이, 일반적인 디스플레이 장치(151a)에 스위치 액정(151b)을 조합하는 구성을 가질 수 있다. 그리고, 스위치 액정(151b)을 이용하여 광학 시차 장벽(50)을 작동시켜 광의 진행 방향을 제어하여 좌우의 눈에 각기 다른 광이 도달하도록 분리할 수 있다. 때문에 우안용 영상과 좌안용 영상이 조합된 영상이 디스플레이 장치(151a)에 표시되는 경우 사용자의 입장에서는 각각의 눈에 대응한 화상이 보여 마치 입체로 표시된 것처럼 느끼게 된다.

즉, 디스플레이부(151)는 제어부(180)의 제어에 따라, 2D 표시 모드인 상태에서는 상기 스위치 액정(151b) 및 광학 시차 장벽(50)을 구동시키지 않고, 상기 디스플레이 장치(151a)만을 구동시켜 일반적인 2D 표시 동작을 수행한다.

또한, 디스플레이부(151)는 제어부(180)의 제어에 따라, 3D 표시 모드인 상태에서는 상기 스위치 액정(151b)과, 광학 시차 장벽(50) 및 디스플레이 장치(151a)를 구동시켜 상기 디스플레이 장치(151a)만을 구동시켜 3D 표시 동작을 수행한다.

한편, 상기와 같은 디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

휴대 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 휴대 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 휴대 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 휴대 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 휴대 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 휴대 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있으므로, 이 경우 상기 디스플레이부(151) 및 음성출력모듈(152)은 알람부(153)의 일종으로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

프로젝터 모듈(155)은, 휴대 단말기(100)를 이용하여 이미지 프로젝트(project) 기능을 수행하기 위한 구성요소로서, 제어부(180)의 제어 신호에 따라 디스플레이부(151)상에 디스플레이되는 영상과 동일하거나 적어도 일부가 다른 영상을 외부 스크린 또는 벽에 디스플레이할 수 있다.

구체적으로, 프로젝터 모듈(155)은, 영상을 외부로 출력하기 위한 빛(일 예로서, 레이저 광)을 발생시키는 광원(미도시), 광원에 의해 발생한 빛을 이용하여 외부로 출력할 영상을 생성하기 위한 영상 생성 수단 (미도시), 및 영상을 일정 초점 거리에서 외부로 확대 출력하기 위한 렌즈(미도시)를 포함할 수 있다. 또한, 프로젝터 모듈(155)은, 렌즈 또는 모듈 전체를 기계적으로 움직여 영상 투사 방향을 조절할 수 있는 장치(미도시)를 포함할 수 있다.

프로젝터 모듈(155)은 디스플레이 수단의 소자 종류에 따라 CRT(Cathode Ray Tube) 모듈, LCD(Liquid Crystal Display) 모듈 및 DLP(Digital Light Processing) 모듈 등으로 나뉠 수 있다. 특히, DLP 모듈은, 광원에서 발생한 빛이 DMD(Digital Micromirror Device) 칩에 반사됨으로써 생성된 영상을 확대 투사하는 방식으로 프로젝터 모듈(151)의 소형화에 유리할 수 있다.

바람직하게, 프로젝터 모듈(155)은, 휴대 단말기(100)의 측면, 정면 또는 배면에 길이 방향으로 구비될 수 있다. 물론, 프로젝터 모듈(155)은, 필요에 따라 휴대 단말기(100)의 어느 위치에라도 구비될 수 있음은 당연하다.

메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 전자도서, 동영상, 송수신 메시지 히스토리 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)도 함께 저장될 수 있다. 또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

또한, 메모리(160)는 본 발명에 따라, 3D 또는 2D 웹페이지를 표시하는 웹브라우저가 저장된다.

상기와 같은 메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 휴대 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 휴대 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 휴대 단말기(100) 내부의 각 구성 요소에 전달하거나, 휴대 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 휴대 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 휴대 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 휴대 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 휴대 단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 휴대 단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller)(180)는 통상적으로 휴대 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

한편, 제어부(180)는 상기 디스플레이부(151)가 유기 발광 다이오드(organic light-emitting diode, OLED) 또는 TOLED(Transparant OLED)로 구비될 경우, 본 발명에 따라, 카메라(121)를 통해 입력된 프리뷰 영상이 상기 유기 발광 다이오드(organic light-emitting diode, OLED) 또는 TOLED(Transparant OLED)의 화면 상에 풀업 표시된 상태에서, 사용자에 조작에 따라 상기 프리뷰 영상의 크기가 조절되면, 상기 화면 상에서 상기 크기가 조절된 프리뷰 영상이 표시된 제1 영역을 제외한 나머지 제2 영역 내의 화소들의 구동을 오프시킴으로써, 전원 공급부(190)에서 상기 디스플레이부(151)로 공급되는 전원의 소모량을 줄일 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

증강현실(augmented reality)은 실세계에 3차원 가상물체를 겹쳐 보여주는 기술이다. 즉, 사용자가 눈으로 보는 현실세계에 가상 물체를 겹쳐 보여주는 기술이다.

현실세계에 실시간으로 부가정보를 갖는 가상세계를 합쳐 하나의 영상으로 보여주므로 혼합현실(Mixed Reality, MR)이라고도 한다.

현실환경과 가상환경을 융합하는 복합형 가상현실 시스템(hybrid VR system)으로 1990년대 후반부터 미국·일본을 중심으로 연구, 개발이 진행되고 있다.

현실세계를 가상세계로 보완해주는 개념인 증강현실은 컴퓨터 그래픽으로 만들어진 가상환경을 사용하지만 주역은 현실환경이다.

여기서 컴퓨터 그래픽은 현실환경에 필요한 정보를 추가 제공하는 역할을 한다.

사용자가 보고 있는 실사 영상에 3차원 가상영상을 겹침(overlap)으로써 현실환경과 가상화면과의 구분이 모호해지도록 한다는 뜻이다.

가상현실기술은 가상환경에 사용자를 몰입하게 하여 실제환경을 볼 수 없다.

하지만 실제환경과 가상의 객체가 혼합된 증강현실기술은 사용자가 실제환경을 볼 수 있게 하여 보다 나은 현실감과 부가 정보를 제공한다.

예를 들어 이동단말기(100) 카메라로 주변을 비추면 인근에 있는 상점의 위치, 전화번호 등의 정보가 입체영상으로 표기된다. 즉, 도 1을 이용하여 전술한 이동 단말기(100)를 이용하여 증강현실이 제공될 수 있다.

도 2a는 본 발명과 관련하여 전투기 FA-18의 조종석에 적용된 증강현실의 일례를 도시한 것이고, 도 2b는 게임에 적용된 증강현실의 일례를 도시한 것이다.

또한, 증강현실의 기본 원리에 대해 설명한다.

증강현실은 내부적으로 대단히 복잡하고 어려운 영상 기술이지만, 기본적으로는 다음과 같은 원리와 순서로 작동한다.

증강현실 기술을 적용하기 위해서는 몇 가지 필요한 요소가 있는데, 지리/위치 정보를 송수신하는 GPS장치 및 중력(기울기+전자나침반) 센서(또는 자이로스코프 센서), 이 정보에 따른 상세 정보가 저장된 위치정보시스템(인터넷 연결 필요), 그 상세 정보를 수신하여 현실 배경에 표시하는 증강현실 애플리케이션, 마지막으로 이를 디스플레이로 출력할 IT 기기(이동단말기(100), 태블릿 PC) 등을 들 수 있다.

다만, 본 발명의 내용이 이에 한정되는 것은 아니고, 더 많은 구성 요소 또는 더 적은 구성요소를 가지고 증강현실 기술을 적용하는 것도 가능하다.

우선 사용자는 증강현실 애플리케이션 실행 후, 이동단말기(100) 등의 내장 카메라(캠)로 특정 거리나 건물을 비추면 GPS 수신기를 통해 현재 위치의 위도/경도 정보, 기울기/중력 정보 등이 이동단말기(100)에 임시 기록된다.

그런 다음 이 GPS 정보를 인터넷을 통해 특정 위치정보 시스템에 전송한다. 이는 해당 위치 반경의 지역이나 건물의 상세 정보를 모두 이동단말기(100)에 저장하기가 현실적으로 불가능하기 때문이다.

또한, 사용자로부터 위치, 기울기 등의 GPS 정보를 수신한 위치정보시스템은 해당 지역 또는 사물의 상세 정보를 자신의 데이터베이스에서 검색한 후 그 결과를 다시 이동단말기(100)으로 전송한다.

여기에는 물론 특정 건물의 상호, 전화번호 등이 들어 있다.

이 데이터를 수신한 이동단말기(100)은 증강현실 애플리케이션을 통해 현 지도 정보와 매칭시킨 후 실시간 화면으로 보여줄 수 있다.

여기서 데이터 송수신 단계는 지속적으로 유지 및 수행되므로, 이동단말기(100)을 들고 거리를 지나면 해당 지역 및 주변에 대한 상세 정보가 순차적으로 화면에 나타나게 된다.

다음으로, 이동 단말기(100)를 이용하여 증강현실이 제공되는 구체적인 내용에 대해 설명한다.

이동단말기(100) 사용자라면 증가현실 기능을 활용해 색다른 경험을 할 수 있다.

예를 들어, 친구가 보고 있는 책의 자세한 정보가 궁금하다면 이동단말기(100) 내 증강현실 애플리케이션을 실행한 다음, 카메라 화면으로 책 표지를 비추거나 셔터로 찍으면 된다.

그러면 해당 애플리케이션이 이 화면 정보를 읽어 들여 인터넷 데이터베이스 등에서 책 제목과 저자, 출판사, 서평 평점, 가격 등을 화면에 보여준다.

따라서 당연히 3G/4G 이동통신 또는 와이파이로 인터넷 접속이 가능한 상태여야 한다. 희귀서가 아닌 이상 대부분의 책 정보를 볼 수 있다.

위와 같이 책 정보를 알았고 구매하기로 마음 먹은 경우, 인터넷으로 주문할 수도 있지만 인근 서점을 찾아 직접 훑어 보고 구매하는 것을 더 선호할 수 있다.

이때는 증강현실을 이용한 지도 검색 애플리케이션을 활용하면 된다.

즉, 이동단말기(100) 또는 태블릿 PC의 GPS 정보를 수신하여 현재 자신의 위치를 파악한 후 가장 가까운 거리에 있는 서점을 찾아 주기 때문이다.　

아울러 인근 서점까지 가는 방법도 증강현실 애플리케이션을 통해 자세히 안내 받을 수 있다.

자동차 이동 경로나 대중교통 탑승, 환승 정보는 물론, 도보 이동 시 가상 네비게이션 기능도 제공까지 제공될 수 있다.

즉, 이동단말기(100) 카메라를 길거리를 비추면 증강현실 애플리케이션이 가는 방향을 가상의 화살표 등으로 표시해 준다.

　또한, 인근 서점에서 책을 구매한 이후에 조용한 카페에 들러 책을 천천히 읽고자 하는 경우, 주변에 괜찮은 카페가 있는지 여부도 증강현실 애플리케이션을 통해 확인할 수 있다.

마찬가지로 이동단말기(100) 카메라로 거리를 비추면 건물 및 상호 정보가 화면 위에 자동으로 표시된다.

역시, 원하는 카페까지 걸어가는 경로도 화살표 등으로 표시되므로, 따라가면 손쉽게 찾을 수 있게 된다.

도 3a는 증강현실 애플리케이션을 이용하여 책의 정보를 확인하는 일례를 도시한 것이고, 도 3b는 증강현실을 이용한 지도 검색 애플리케이션을 활용하는 일례를 도시한 것이다.

또한, 도 4a 및 도4b는 증강현실 애플리케이션을 통해 길거리를 비추면 증강현실 애플리케이션이 목적지까지 가는 방향을 알려주는 구체적인 일례를 도시한 것이다.

도 3a 내지 도4b 및 전술한 사례는 이동단말기(100) 사용자라면 체험할 수 있는 증강현실의 가장 일반적인 형태다.

이 같은 실생활뿐 아니라 증강현실 기술이 적용되는 분야는 매우 다양하다.

요즘에는 광고, 홍보 분야에서도 각광을 받고 있다. 즉, 자사의 제품에 가상의 이미지를 씌워 독특한 분위기를 연출할 수 있기 때문이다.

또한, TV 방송 분야에도 적극 활용되고 있다.

기상 캐스터 뒤로 보이는 가상 기상도, 정보 그래프 등이 대표적인 예다.

이후 가상 디스플레이 기술, 3D 입체 영상 기술 등이 더욱 발전하면 증강현실이 적용될 수 있는 사례는 대단히 넓어지게 될 것으로 예상된다.

한편, 본 발명이 제안하는 방법에 따르면 이미지에 포함된 객체를 인식하고, 객체에 대응하는 캐릭터를 결정하며, 결정한 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 이동 단말기의 터치스크린 상에 표시하는 이동 단말기 및 그 제어방법이 사용자에게 제공될 수 있다.

구체적으로 본 발명은 제 1 객체를 포함하는 이미지를 획득하는 카메라(121), 상기 이미지를 표시하는 터치스크린(151)과 상기 이미지에 포함된 제 1 객체를 인식하고, 상기 제 1 객체에 대응하는 제 1 캐릭터를 결정하며, 상기 제 1 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 상기 터치스크린 상에 표시하는 제어부(180)를 포함하면서, 사용자가 상기 제 1 캐릭터가 표시된 터치스크린의 적어도 일부를 드래그하는 경우, 상기 제어부(180)는 상기 제 1 캐릭터가 상기 드래그하는 방향에 따라 이동되어 표시되도록 제어할 수 있다.

더 나아가 본 발명은 사용자가 캐릭터가 표시된 터치스크린의 일부를 드래그하는 경우, 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 이동 단말기 및 그 제어방법을 사용자에게 제공할 수 있다.

이하에서는 도면을 참조하여 본 발명이 제안하는 방법에 대해 구체적으로 설명한다.

도 5는 본 발명에 따라 이미지에 포함된 객체에 대응하는 캐릭터를 증강 현실의 형태로 표시하는 방법을 설명하기 위한 순서도이다.

도 5를 참조하면, 제 1 객체를 포함하는 이미지를 카메라(121)가 획득하는 단계가 진행된다(S100).

여기서 제 1 객체는 책(book)이 될 수 있다.

다만, 책은 본 발명이 적용될 수 있는 단순한 일례에 불과하고, 다른 객체들에 대해서도 본 발명의 내용이 적용될 수 있는 것은 자명하다.

다음으로, 제어부(180)의 제어에 따라 이미지가 터치스크린 상에 표시되는 단계가 진행된다(S200).

또한, 제어부가 이미지에 포함된 제 1 객체를 인식하는 단계가 진행된다(S300).

이때, 제 1 객체가 책인 경우, 제어부(180)의 제어에 따라 음향 출력 모듈(152)은 책의 내용을 음향으로 출력하여 사용자가 들을 수 있도록 할 수 있다.

즉, 제 1 객체를 인식하는 S300 단계와 음향 출력 모듈(152)이 책의 내용을 음향으로 출력하는 단계가 함께 진행될 수 있다.

또한, 제어부(180)가 제 1 객체에 대응하는 제 1 캐릭터를 결정하는 단계가 진행된다(S400).

여기서 제 1 캐릭터는 상기 책의 기 설정된 주인공 캐릭터가 될 수 있다.

예를 들어, 제 1 객체가 어린왕자라는 책인 경우, 제 1 캐릭터는 어린왕자 캐릭터가 될 수 있다.

다만, 설명의 편의를 위해 제 1 캐릭터는 단수인 것으로 설명하였으나 복수가 되는 것도 가능하다.

즉, 제 1 객체에 포함된 캐릭터가 복수인 경우, 복수의 캐릭터를 동시에 표현하거나 시간의 흐름에 따라 표현하는 것도 가능하다.

즉, 제 1 객체가 책인 경우, 책을 읽는 사용자의 진척 속도에 따라 등장하는 캐릭터를 제 1 캐릭터로 설정하여 증강현실로 표현하는 것이 가능하다.

전술한 것과 같이, S400 단계에서 제어부(180)의 제어에 따라 음향 출력 모듈(152)은 책의 내용을 음향으로 출력하여 사용자가 들을 수 있도록 할 수도 있다.

또한, 제어부(180)의 제어에 따라 제 1 캐릭터가 증강현실의 형태로 터치스크린 상에 표시되는 단계가 진행된다(S500).

제 1 캐릭터가 증강현실의 형태로 표시된 후, 사용자가 제 1 캐릭터가 표시된 터치스크린의 적어도 일부를 드래그 할 수 있다(S600).

즉, 사용자는 제 1 캐릭터의 전체 영역 또는 일부 영역을 터치로 선택하고, 특정 방향으로 드래그하는 제스처를 취할 수 있다.

또는, 사용자는 터치스크린에 표시된 복수의 방향 키 중 적어도 일부를 터치하는 입력을 통해 제 1 캐릭터의 변화를 꾀할 수도 있다.

이때, 제어부(180)는 제 1 캐릭터가 드래그된 방향에 따라 이동되어 표시되도록 제어할 수 있다(S700).

또한, 제어부(180)는 사용자가 제 1 캐릭터를 드래그하는 정도에 대응하여 이동되는 제 1 캐릭터의 속도를 변화시킬 수 있다.

즉, 사용자가 제 1 캐릭터를 빠르게 드래그 하는 경우, 제 1 캐릭터는 빠른 속도로 이동하지만, 사용자가 천천히 드래그하는 경우에는 제 1 캐릭터는 느린 속도로 해당 지점으로 이동할 수 있다.

더 나아가 제 1 캐릭터는 이동되어 표시되는 것뿐만이 아니라 사용자의 드래그에 대응하여 표정이 변화되어 표현되는 것도 가능하다.

또한, 제 1 캐릭터는 사용자의 터치에 대응하여 인사를 하는 등 미리 설정한 제스쳐를 취할 수 있다.

또한, 제 1 캐릭터는 사용자의 터치 입력에 대응하여 사이즈가 변경될 수도 있다. 즉, 사용자의 제 1 입력에 대응하여 줌인되어 표시되거나 제 2 입력에 대응하여 줌아웃되어 표시되어 사이즈가 조절되는 효과를 도모할 수 있다.

또한, 제 1 캐릭터는 사용자의 터치 입력에 대응하여 색상이 변화되어 표시될 수도 있다.

즉, 사용자의 더블터치 입력에 대응하여 푸른 색으로 변화되어 표시되거나 미리 지정되어 표시된 영역을 사용자가 터치하는 입력에 대응하여 붉은 색으로 변화되어 표시되는 것도 가능하다.

S400 단계와 관련하여, 메모리(160)는 복수의 객체 각각에 대응하는 복수의 캐릭터에 대한 제 1 정보를 미리 저장할 수 있다.

또한, 무선통신부(110)를 통해 복수의 객체 각각에 대응하는 복수의 캐릭터에 대한 제 1 정보를 외부로부터 수신할 수도 있다.

이때, 제어부(180)는 메모리(160)에 저장된 제 1 정보 또는 무선통신부(110)를 통해 수신한 제 1 정보를 이용하여 복수의 캐릭터 중 상기 제 1 객체에 대응하는 제 1 캐릭터를 결정할 수 있게 된다.

또한, 제어부(180)는 기 설정된 어플리케이션이 실행된 경우에만 제 1 캐릭터가 터치스크린 상에 표시되도록 제어할 수도 있다.

즉, 특정 어플리케이션이 실행되지 않은 상태에서는 본 발명의 기능이 제공되지 않고, 특정 어플리케이션이 실행된 상태에서 이미지가 획득되는 경우에만 본 발명의 내용이 적용될 수 있다.

본 명세서에서 제안하는 본 발명의 내용은 어린이 또는 일정 나이 이상의 노인을 위해 제공될 수 있다.

구체적으로 어린이를 위한 교육용 게임, pet 키우기, ox 퀴즈, 보드 게임, 동요 듣기, 교육(한글, 숫자, 영어 등), 각종 교육용 콘텐츠 등에 활용될 수 있다.

또한, 노인을 위한 치매 예방 콘텐츠, 민요 듣기, 고전 가요 듣기, 계산 놀이, 각종 어르신을 위한 콘텐츠 등에 활용될 수도 있다.

또한, 전술한 본 발명의 내용이 적용되는 경우, 특정 책, 예를 들어 어린이용 동화책을 펼쳐 놓고 휴대폰에 설치된 AR 앱을 실행하여 책의 종류에 맞는 캐릭터가 생성되면 어린이는 터치를 사용하여 기본적인 움직임을 구현할 수 있다.

이때, 어린이는 본인의 의지대로 할 수 있는 성취감, 캐릭터의 다양한 표정으로 볼거리 및 유희 요소를 제공받을 수 있고, 어린이는 집중력이 생기고 흥미가 유발될 수 있다는 효과가 보장된다.

도 6은 발명에 따라 이미지에 포함된 객체에 대응하는 캐릭터를 증강 현실의 형태로 표시하는 구체적인 일례를 설명하기 위한 도면이다.

도 6을 참조하면, 제 1 객체인 책(100)이 터치스크린 상에 표시된다.

또한, 책(100)의 주인공 캐릭터인 제 1 캐릭터(200)가 증강현실의 형태로 책(100) 상단에 표시된다.

이때, 사용자는 손가락(300)을 이용하여 제 1 캐릭터(200)를 소정 방향으로 드래그함으로써, 제 1 캐릭터(200)의 위치를 이동시킬 수 있다.

도 7a 내지 도7c는 사용자가 캐릭터가 표시된 터치스크린의 일부를 드래그하는 경우, 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 구체적인 일례를 설명하기 위한 도면이다.

도 7a를 참조하면, 제 1 객체인 책(100), 책(100)의 주인공 캐릭터인 제 1 캐릭터(200)가 증강현실의 형태로 책(100) 상단에 표시되는 구체적인 일례를 도시한 것이다.

이때, 사용자는 도 7b와 같이, 손가락(300)을 이용하여 제 1 캐릭터(200)를 소정 방향으로 드래그할 수 있다.

이에 대응하여, 도 7c에 도시된 것과 같이, 제어부(180)는 제 1 캐릭터가 드래그하는 방향에 따라 이동되어 표시되도록 제어할 수 있다.

한편, 본 발명의 다른 일 실시례에 따르면, 사용자의 음성을 입력 받기 위한 마이크를 이용하여, 제 1 캐릭터가 상기 드래그하는 방향에 따라 이동되어 표시되는 제 1 영상과 사용자의 음성을 메모리에 함께 저장되도록 하는 기능을 제공할 수 있다.

도 8은 사용자의 음성과 캐릭터를 포함하는 영상이 함께 저장되어 실행되는 구체적인 단계를 설명하기 위한 순서도이다.

도 8에서 S100 단계 내지 S700 단계는 도 7의 S100 단계 내지 S700 단계 각각에 대응되므로, 명세서의 간명화를 위해 구체적인 설명은 생략한다.

제 1 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 경우, 사용자의 음성을 입력 받는 단계가 진행될 수 있다(S800).

여기서 사용자의 음성을 입력 받기 위한 장치로 마이크(122)가 이용될 수 있다.

사용자의 음성이 입력되면, 제어부(180는 사용자의 음성과 제 1 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 제 1 영상이 함께 저장되도록 제어한다(S900).

여기서 제 1 캐릭터가 상기 드래그하는 방향에 따라 이동되어 표시되는 제 1 영상을 저장하는 장치로 메모리(160)가 이용될 수 있다.

따라서 제어부(180)는 사용자의 음성과 제 1 영상이 메모리(160)에 함께 저장되도록 제어한다.

이후, 제 1 영상이 사용자에 의해 실행되는 경우, 제어부(180)는 음성이 저장된 타이밍에 대응하여 제 1 영상과 음성이 함께 플레이되도록 제어할 수 있다(S1000).

즉, 제 1 캐릭터가 복수이고 제 1 캐릭터 각각이 등장했을 때 어린이의 음성이 저장된 경우, 책의 진척 속도 및 타이밍에 대응하여 각각의 캐릭터 및 해당되는 음성이 함께 실행될 수 있다.

따라서 부모 또는 어린이의 음성을 녹음하여 시간이 지난 후에 실행할 수 있고, 부모와 어린이가 함께 사용할 수 있어 가족간 친밀감이 상승될 수 있으며, 책을 보지 않으려는 어린이에게 좀 더 쉽고 재미있는 교육용 콘텐츠를 제공할 수 있다는 효과가 제공된다.

즉, 본 발명의 구성이 적용되는 경우, 증강현실 책(AR Book) 특정의 책에서만 어플리케이션을 실행시켜 사용할 수 있고, 멀티미디어적 요소를 첨가하여 볼거리와 직접 움직임으로써 지루함 대신 흥미 유발할 수 있다.

또한, 음성 녹음 부모 또는 어린이의 음성을 캐릭터에 녹음하여 다시 들을 수 있으며, 함께 있지 않아도 함께 있는 것처럼 유지할 수 있고, 결과의 다양성으로서 사용자의 프로그램 참여에 따른 엔딩의 다양성을 꾀할 수 있다는 장점이 있다.

한편, 도 9는 본 발명에 따른 효과는 3단계로 분류하여 설명하기 위한 도면이다.

도 9의 가장 좌측 도면을 참조하면, 책에 증강현실 어플리케이션을 실행시켜 올려놓으면 캐릭터 생성되는 "보기" 기능이 제공된다.

이를 통해, 캐릭터의 표정, 행동들을 보며 관심을 가지고 책에 더 집중할 수 있도록 하는 장점이 보장된다.

다음으로, 도 9의 중간 도면을 참조하면, 생성된 캐릭터를 사용자가 직접 움직여 볼 수 있는 "플레이" 기능이 제공된다.

이를 통해, 움직이는 방향 기능뿐 아니라 OX퀴즈, 보드게임, 펫 키우기 등 재미있는 놀이에 참여하는 장점이 제공된다.

또한, 도 9의 우측 도면을 참조하면, 사용자의 음성을 캐릭터가 대신 전달할 수 있는 "녹음 재생" 기능이 제공된다.

이를 통해, 부모 또는 어린이의 목소리를 녹음하여 당시 사용자의 반응을 기억하고 출력하는 효과가 제공된다.

한편, 본 발명의 또 다른 일 실시례에 따르면, 녹음이 진행되는 도중에 이동 단말기의 전원이 꺼지거나 에러가 발생하여 당해 어플리케이션이 중지되는 이벤트가 발생되는 경우, 이벤트 발생 지점을 메모리에 저장하고, 이동 단말기가 다시 동작하는 경우 이벤트 발생 지점부터 녹음이 진행될 수 있도록 할 수 있다.

예를 들어, 책의 50%까지 안내가 진행되고, 사용자의 음성이 함께 저장된 상태에서 단말의 전원이 중단되는 이벤트가 발생될 수 있다.

이 경우, 제어부(180)의 제어에 따라 메모리는 단말의 전원이 중단된 지점과 중단된 지점까지 진행된 내용을 저장할 수 있다.

이후, 이동 단말기의 전원이 복귀되는 경우, 제어부(180)는 중단된 지점부터 녹음 단계를 다시 진행하고, 중단된 지점까지 진행된 내용에 새로운 내용을 추가하는 동작이 수행되도록 할 수 있다.

한편, 본 발명의 또 다른 일실시례에 따르면, 본 발명이 제안하는 기능을 제공하는 특정 어플리케이션을 설치한 복수의 사용자들 간에는 서로의 정보를 공유할 수 있는 네트워크가 형성될 수 있다.

즉, 특정 어플리케이션을 설치한 복수의 사용자들은 텍스트, 이미지, 동영상 정보 등을 서로 교환할 수 있다.

특히, 본 발명에 따른 캐릭터 정보, 캐릭터와 함께 저장된 음성 정보 등에 대해서도 서로 교환할 수 있다.

여기서 네트워크 형성을 위해 원거리 통신 기술로 CDMA(code division multiple access), FDMA(frequency division multiple access), TDMA(time division multiple access), OFDMA(orthogonal frequency division multiple access), SC-FDMA(single carrier frequency division multiple access) 기술 중 적어도 하나가 이용될 수 있다.

또한, 네트워크 형성을 위한 근거리 통신 기술로 와이파이(WiFi, Wireless-Fidelity), 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 기술 중 적어도 하나가 이용될 수 있다.

한편, 본 발명의 또 다른 일실시례에 따르면, 제 1 객체 및 제 1 캐릭터의 종류에 대응하여 향기가 출력되는 기능이 제공될 수도 있다.

도 1에 도시되지는 않았지만, 본 발명이 제안하는 이동 단말기(100)는 향기 출력부(1156)를 더 포함할 수 있다.

여기서 향기출력부(1156)는 복수의 향기를 저장하고, 출력하는 기능을 제공한다.

이동 단말기(100)의 특정 위치에 구비된 향기출력부(1156)는 제어부(180)의 제어에 따라 저장하고 있는 복수의 향기 중 적어도 하나를 외부로 출력할 수 있다.

여기서 향기출력부(1156)에 저장되는 복수의 향기는 아로마향이 될 수 있다.

예를 들어, 아로마향은 베이질(Basil), 베가모트(Bergamot), 캄퍼(Camphor), 시더우스(Cedarwood), 캐모마일(Chamomile), 클라리 세이지(Clary Sage), 사이프러스(Cypress), 유갈리투스(Eucalyptus), 제라리움(Geranium), 진저(Ginger), 히솝(Hussop), 자스민(Jasmine), 주니퍼(Juniiper), 라벤더(Lavender), 레몬(Lemon), 마조람(Marijoram), 멜리사(Melissa), 멀(Myrrh), 네놀리(Neroli), 오렌지(Orange), 파초울리(Patchouli), 페퍼민트(Peppermint), 파인(Pine), 로즈마리(Rosemary), 로즈우드(Rosewood), 샌달우드(Sandalwood), 티트리(Tea Tree) 및 일랑일랑(Ylang Ylang)를 포함할 수 있다. 단, 이는 본 발명이 적용될 수 있는 단순한 일례에 불과하고, 다른 종류의 향기에 대해서도 본 발명의 내용이 적용될 수 있는 것은 자명하다.

한편, 향기출력부(1156)에서 출력되는 향기는 제어부(180)의 제어에 따라 출력 타이밍(timing), 출력시점, 출력여부 등이 결정될 수 있다.

또한, 제어부(180)는 외부에서 수신한 정보에 따라 상기 향기출력부(1156)에서 출력되는 향기의 출력 타이밍(timing), 출력시점, 출력여부 등을 결정할 수도 있다.

한편, 향기출력부(1156)는 출력부(150)에 별도로 구비되거나, 인터페이스부(170)를 통해 이동 단말기(100)에 포함될 수도 있다.

예를 들어, 인터페이스부(170)가 충전장치를 연결하는 기능을 제공하는 경우, 상기 인터페이스부(170)에 향기출력부(1156)가 구비되도록 이동 단말기(100)를 제작할 수 있다.

또한, 음향출력모듈(152) 내부에 향기출력부(1156)가 포함될 수도 있다.

예를 들어, 이어폰이 결합되는 부분에 향기출력부(1156)가 구비되어 제어부(180)의 제어에 따라 소정의 향기가 출력될 수 있다.

단, 전술한 향기출력부(156)의 위치는 본 발명이 적용되기 위한 단순한 일례에 불과하고, 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 배터리(190)와 함께 또는 별도로 이동 단말기(100)에 구비될 수 있는 것은 자명하다.

전술한 향기 출력부(1156)를 통해 제 1 객체와 제 1 캐릭터에 대응하는 향기가 외부로 출력될 수 있다.

예를 들어, 제 1 캐릭터로 바다 캐릭터가 생성된 경우, 바다 향기가 외부로 출력될 수 있다. 다른 예를 들어, 제 1 캐릭터로 딸기 캐릭터가 생성된 경우, 딸기 향기가 외부로 출력될 수 있을 것이다.

전술한 본 발명의 구성이 적용되는 경우, 이미지에 포함된 객체를 인식하고, 객체에 대응하는 캐릭터를 결정하며, 결정한 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 이동 단말기의 터치스크린 상에 표시하는 이동 단말기가 제공될 수 있다.

더 나아가 본 발명은 사용자가 캐릭터가 표시된 터치스크린의 일부를 드래그하는 경우, 캐릭터가 드래그하는 방향에 따라 이동되어 표시되는 이동 단말기 및 그 제어방법을 사용자에게 제공할 수 있다.

한편, 본 발명은 또한 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등이 있으며, 또한 케리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고, 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다.

또한, 상기와 같이 설명된 장치 및 방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

Claims (6)

1. 제 1 객체를 포함하는 이미지를 획득하는 카메라;
   상기 이미지를 표시하는 터치스크린;
   상기 이미지에 포함된 제 1 객체를 인식하고, 상기 제 1 객체에 대응하는 제 1 캐릭터를 결정하며, 상기 제 1 캐릭터를 증강 현실(Augmented Reality, AR)의 형태로 상기 터치스크린 상에 표시하는 제어부;
   사용자의 음성을 입력 받기 위한 마이크; 및
   복수의 객체 각각에 대응하는 복수의 캐릭터에 대한 제 1 정보를 저장하는 메모리; 또는 상기 제 1 정보를 외부로부터 수신하는 무선통신부;를 포함하되,
   
   상기 제어부는,
   상기 메모리에 저장된 제 1 정보 또는 상기 무선통신부를 통해 수신한 제 1 정보를 이용하여 상기 복수의 캐릭터 중 상기 제 1 객체에 대응하는 제 1 캐릭터를 결정하고,
   상기 터치스크린의 적어도 일부에 미리 설정된 패턴의 제 1 터치가 입력되는 경우, 상기 제 1 터치 입력에 대응하여 상기 제 1 캐릭터가 이동되어 표시되도록 제어하며,
   상기 제 1 터치 입력이 상기 제 1 캐릭터가 표시된 터치스크린의 적어도 일부를 드래그하는 입력인 경우, 상기 드래그하는 방향에 따라 상기 제 1 캐릭터가 이동되어 표시되도록 제어하고,
   상기 제 1 터치 입력이 터치스크린에 표시된 복수의 방향 키 중 적어도 일부를 선택하는 입력인 경우, 상기 선택된 방향 키에 따라 상기 제 1 캐릭터가 이동되어 표시되도록 제어하며,
   상기 제 1 캐릭터가 상기 제 1 터치 입력에 따라 이동되어 표시되는 제 1 영상이 상기 메모리에 저장되도록 제어하고,
   상기 마이크를 통해 입력된 음성과 상기 제 1 영상이 상기 메모리에 함께 저장되도록 제어하며,
   상기 제 1 영상이 실행되는 경우, 상기 음성이 저장된 타이밍에 대응하여 상기 제 1 영상과 함께 플레이되도록 제어하는 것을 특징으로 하는, 증강 현실을 이용한 이동 단말기.
   
2. 삭제
3. 삭제
4. 제 1항에 있어서,
   상기 제 1 객체는 책(book)이고,
   상기 제 1 캐릭터는 상기 책의 기 설정된 주인공 캐릭터인 것을 특징으로 하는, 증강 현실을 이용한 이동 단말기.
5. 삭제
6. 제 1항에 있어서,
   상기 제어부는 기 설정된 어플리케이션이 실행된 경우에만 상기 제 1 캐릭터가 상기 터치스크린 상에 표시되도록 제어하는 것을 특징으로 하는, 증강 현실을 이용한 이동 단말기.

Images