KR101658087B1 - Mobile terminal and method for displaying data using augmented reality thereof - Google Patents

Mobile terminal and method for displaying data using augmented reality thereof Download PDF

Info

Publication number
KR101658087B1
KR101658087B1 KR1020100064108A KR20100064108A KR101658087B1 KR 101658087 B1 KR101658087 B1 KR 101658087B1 KR 1020100064108 A KR1020100064108 A KR 1020100064108A KR 20100064108 A KR20100064108 A KR 20100064108A KR 101658087 B1 KR101658087 B1 KR 101658087B1
Authority
KR
South Korea
Prior art keywords
information
point
interest
additional information
mobile terminal
Prior art date
Application number
KR1020100064108A
Other languages
Korean (ko)
Other versions
KR20120003323A (en
Inventor
김용구
하민규
박성길
김중무
김봉연
이석환
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020100064108A priority Critical patent/KR101658087B1/en
Publication of KR20120003323A publication Critical patent/KR20120003323A/en
Application granted granted Critical
Publication of KR101658087B1 publication Critical patent/KR101658087B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/42348Location-based services which utilize the location information of a target
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W64/00Locating users or terminals or network equipment for network management purposes, e.g. mobility management
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2203/00Aspects of automatic or semi-automatic exchanges
    • H04M2203/35Aspects of automatic or semi-automatic exchanges related to information services provided via a voice call
    • H04M2203/359Augmented reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은 이동단말기 및 그의 증강현실을 이용한 정보 표시 방법에 관한 것으로, 카메라를 구동하여 실시간으로 입력되는 실사 영상을 수신하며 단말기의 위치 및 자세를 측정하고, 상기 측정된 위치 및 자세 정보를 이용하여 상기 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 요청하는 메시지를 생성하여 증강현실 서비스 서버에 전송하고, 상기 증강현실 서비스 서버로부터 요청한 관심 지점 정보를 수신하여 상기 실사 영상에 중첩하여 표시하는 중 사용자에 의해 검색이 요청되면 상기 수신한 관심 지점 정보와 일치하는 정보를 단말기 내의 데이터베이스에서 검색하여 그 검색된 정보를 표시한다.The present invention relates to a mobile terminal and an information display method using the augmented reality, and more particularly, it relates to a mobile terminal and a method of displaying information using the augmented reality, And transmits the generated information to the augmented reality service server. The augmented reality service server generates a message requesting interest point information about the object included in the real image, transmits the message to the augmented reality service server, receives the interest point information requested from the augmented reality service server, The information matching the received point of interest information is searched from the database in the terminal and the searched information is displayed.

Description

이동단말기 및 그의 증강현실을 이용한 정보 표시 방법{MOBILE TERMINAL AND METHOD FOR DISPLAYING DATA USING AUGMENTED REALITY THEREOF}TECHNICAL FIELD [0001] The present invention relates to a mobile terminal and an information display method using the augmented reality.

본 발명은 단말기에 저장된 데이터들 중에서 증강현실을 이용해 획득한 정보와 일치하는 데이터를 검색하여 표시하는 이동단말기 및 그의 증강현실을 이용한 정보 표시 방법에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a mobile terminal for searching for data corresponding to information acquired using an augmented reality among data stored in a terminal and displaying information using the augmented reality.

개인용 컴퓨터, 노트북, 휴대폰 등과 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.A terminal such as a personal computer, a notebook computer, or a mobile phone has various functions, for example, a multimedia device having a complex function such as photographing or photographing of a moving picture, reproduction of music or a moving picture file, (Multimedia player).

단말기는 이동 가능 여부에 따라 이동단말기(mobile terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.A terminal can be divided into a mobile terminal and a stationary terminal depending on whether the terminal is movable or not. The mobile terminal can be divided into a handheld terminal and a vehicle mount terminal according to whether the user can directly carry the mobile terminal.

최근에는 이동단말기에 증강현실(Augmented Reality)을 적용하여 다양한 서비스를 제공하기 위한 노력들이 계속되고 있다. 여기서, 증강현실은 사용자가 눈으로 보는 현실세계에 부가정보를 겹쳐 보여주는 기술이다. 이러한 기술은 현실 세계에 불가능한 영상 표현이나 정보 제공하기 위해 컴퓨터 그래픽을 통해 3차원 가상영상을 사용자가 보고 있는 실사 영상에 겹쳐표시하므로 사용자에게 유용한 정보를 제공하는 것이다.In recent years, efforts have been made to provide a variety of services by applying augmented reality to a mobile terminal. Here, the augmented reality is a technique of superimposing additional information on the real world viewed by the user. This technology provides useful information to the user because it displays the 3D virtual image over the real image that the user is viewing through the computer graphic in order to provide image representation or information impossible to the real world.

그러나, 종래의 증강현실 기술은 단순히 사용자가 주시하는 실사 영상에 대한 정보만 획득하여 표시하는데 그치고 있다.However, the conventional augmented reality technology only acquires and displays only the information about the real image to be watched by the user.

본 발명은 상기와 같은 문제점을 해결하기 위해 안출된 것으로서, 본 발명은 카메라를 통해 실시간 입력되는 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 획득하는 이동단말기 및 그의 증강현실을 이용한 정보 표시 방법을 제공하기 위한 것이다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide an information display method using a mobile terminal for acquiring point of interest information on an object included in a real- .

또한, 본 발명은 단말기 내에 저장된 데이터들 중에서 증강현실을 이용하여 획득한 관심 지점 정보와 일치하는 데이터를 검색하여 표시하는 이동단말기 및 그의 증강현실을 이용한 정보 표시 방법을 제공하기 위한 것이다.The present invention also provides a mobile terminal for searching and displaying data corresponding to interest point information obtained using an augmented reality from data stored in a terminal, and a method for displaying information using the augmented reality.

상기한 과제를 실현하기 위한 본 발명의 일 예와 관련된 이동단말기의 증강현실을 이용한 정보 표시 방법은 카메라를 구동하여 실시간으로 입력되는 실사 영상을 수신하는 단계와, 상기 실사 영상을 수신하며 단말기의 위치 및 자세를 측정하는 단계와, 상기 측정된 단말기의 위치 및 자세 정보를 이용하여 상기 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 요청하는 메시지를 생성하여 증강현실 서비스 서버에 전송하는 단계와, 상기 증강현실 서비스 서버로부터 요청한 관심 지점 정보를 수신하여 상기 실사 영상에 중첩하여 표시하는 단계와, 상기 수신한 관심 지점 정보와 일치하는 정보를 단말기 내의 데이터베이스에서 검색하는 단계와, 상기 검색이 완료되면 검색된 정보를 표시하는 단계를 포함한다.According to an embodiment of the present invention, there is provided a method of displaying information using an augmented reality in a mobile terminal, the method comprising: receiving a real image input in real time by driving a camera; And generating a message for requesting point of interest information about an object included in the real image using the measured position and attitude information of the terminal and transmitting the message to the augmented reality service server, Receiving the requested point information from the augmented reality service server and superimposing and displaying the point of interest information on the real image, searching information in the database of the terminal matching the received point of interest information, .

또한, 본 발명의 일 예와 관련된 이동단말기는 실시간을 입력되는 실사 영상을 획득하는 카메라와, 상기 카메라의 위치 정보를 수신하는 위치 정보 모듈과, 상기 카메라의 자세를 측정하는 센싱부와, 상기 측정한 위치 및 자세 정보를 이용하여 상기 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 요청하여 증강현실 서비스 서버로부터 제공되는 관심 지점 정보를 수신하여 상기 실사 영상에 중첩하여 표시하고, 사용자 입력에 따라 상기 수신한 관심 지점 정보와 일치하는 정보를 단말기 내 데이터베이스에서 검색하여 그 검색된 결과를 표시하는 제어부를 포함한다.According to another aspect of the present invention, there is provided a mobile terminal including a camera for acquiring a real image input in real time, a position information module for receiving position information of the camera, a sensing unit for measuring a posture of the camera, A point of interest information about an object included in the real image is requested using the position and attitude information to receive point of interest information provided from the augmented reality service server and superimposed on the real image to display the point of interest information, And a controller for searching the database in the terminal for information corresponding to the received point of interest information and displaying the retrieved result.

상기와 같이 구성되는 본 발명의 적어도 하나의 실시 예에 관련된 본 발명은 카메라를 통해 실시간 입력되는 영상에 포함된 대상물에 대한 관심 지점 정보를 획득하고, 그 획득한 정보와 일치하는 데이터를 단말기 내에 저장된 데이터들 중에서 검색하여 제공할 수 있다.According to at least one embodiment of the present invention configured as above, the present invention obtains point of interest information about an object included in an image input in real time through a camera, and stores data matching the acquired information in a terminal Data can be searched and provided.

또한, 본 발명은 검색된 데이터를 이용하여 단말기의 특정 동작을 수행할 수 있다. 이와 같이, 본 발명은 관심 지점 정보를 이용하여 단말기 내에 저장된 데이터를 활용하여 단말기의 동작을 제어할 수 있다.In addition, the present invention can perform a specific operation of the terminal using the retrieved data. As described above, the present invention can control the operation of the terminal by utilizing the data stored in the terminal using the point of interest information.

도 1은 본 발명의 일 실시 예와 관련된 이동단말기의 블록 구성도(block diagram).
도 2a는 본 발명과 관련된 이동단말기의 일 예를 전면에서 바라본 사시도.
도 2b는 도 2a에 도시된 이동단말기의 후면 사시도.
도 3은 본 발명의 일 실시 예와 관련된 증강현실 서비스 시스템의 개략적인 구성도.
도 4는 본 발명의 일 실시 예와 관련된 이동단말기의 증강현실 서비스 방법을 도시한 흐름도.
도 5는 본 발명의 일 실시 예와 관련된 이동단말기의 관심 지점 정보를 표시하는 일 예.
도 6은 본 발명의 일 실시 에와 관련된 이동단말기의 관심 지점 정보를 저장하는 과정을 도시한 일 예.
도 7은 본 발명의 일 실시 예와 관련된 이동단말기의 증강현실을 이용한 정보 표시 방법을 도시한 흐름도.
도 8은 본 발명의 일 실시 예와 관련된 이동단말기의 증강현실을 이용하여 정보를 표시하는 화면을 도시한 일 예.
도 9는 본 발명의 일 실시 예와 관련된 이동단말기가 증강현실을 이용하여 검색한 정보를 이용하여 실행할 수 있는 메뉴를 표시하는 일 예.
도 10은 본 발명의 일 실시 예와 관련된 이동단말기가 증강현실을 이용하여 검색한 정보를 기능 실행아이콘과 함께 표시하는 일 예.
1 is a block diagram of a mobile terminal according to an embodiment of the present invention.
FIG. 2A is a perspective view of an example of a mobile terminal according to the present invention. FIG.
FIG. 2B is a rear perspective view of the mobile terminal shown in FIG. 2A. FIG.
3 is a schematic configuration diagram of an augmented reality service system according to an embodiment of the present invention;
4 is a flowchart illustrating a method of augmenting reality service of a mobile terminal according to an embodiment of the present invention.
5 is an example of displaying information of a point of interest of a mobile terminal according to an embodiment of the present invention.
6 illustrates an example of storing a point of interest information of a mobile terminal according to an embodiment of the present invention.
7 is a flowchart illustrating an information display method using an augmented reality of a mobile terminal according to an embodiment of the present invention.
8 is a view illustrating a screen for displaying information using an augmented reality of a mobile terminal according to an embodiment of the present invention.
FIG. 9 is an example of a menu related to an embodiment of the present invention in which a mobile terminal displays a menu that can be executed using information retrieved using an augmented reality.
FIG. 10 illustrates an example in which information related to an embodiment of the present invention is retrieved by a mobile terminal using an augmented reality together with a function execution icon.

이하, 본 발명과 관련된 이동단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. Hereinafter, a mobile terminal related to the present invention will be described in detail with reference to the drawings. The suffix "module" and " part "for the components used in the following description are given or mixed in consideration of ease of specification, and do not have their own meaning or role.

본 명세서에서 설명되는 이동단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.The mobile terminal described in this specification may include a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a PDA (Personal Digital Assistants), a PMP (Portable Multimedia Player), navigation and the like. However, it will be understood by those skilled in the art that the configuration according to the embodiments described herein may be applied to a fixed terminal such as a digital TV, a desktop computer, and the like, unless the configuration is applicable only to a mobile terminal.

도 1은 본 발명의 일 실시 예와 관련된 이동단말기의 블록 구성도(block diagram)이다.1 is a block diagram of a mobile terminal according to an embodiment of the present invention.

상기 이동단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동단말기가 구현될 수도 있다.The mobile terminal 100 includes a wireless communication unit 110, an audio / video input unit 120, a user input unit 130, a sensing unit 140, an output unit 150, a memory 160, A controller 170, a controller 180, a power supply 190, and the like. The components shown in FIG. 1 are not essential, and a mobile terminal having more or fewer components may be implemented.

이하, 상기 구성요소들에 대해 차례로 살펴본다.Hereinafter, the components will be described in order.

무선 통신부(110)는 이동단말기(100)와 무선 통신 시스템 사이 또는 이동단말기(100)와 이동단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.The wireless communication unit 110 may include one or more modules for enabling wireless communication between the mobile terminal 100 and the wireless communication system or between the mobile terminal 100 and the network in which the mobile terminal 100 is located. For example, the wireless communication unit 110 may include a broadcast receiving module 111, a mobile communication module 112, a wireless Internet module 113, a short range communication module 114, and a location information module 115 .

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 센터로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.The broadcast receiving module 111 receives broadcast signals and / or broadcast-related information from an external broadcast center through a broadcast channel.

상기 방송 채널은 위성 채널 및 지상파 채널을 포함할 수 있다. 상기 방송 센터는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. The broadcast channel may include a satellite channel and a terrestrial channel. The broadcast center may be a server for generating and transmitting broadcast signals and / or broadcast-related information, or a server for receiving broadcast signals and / or broadcast-related information generated by the broadcast center and transmitting the generated broadcast signals and / or broadcast- related information. The broadcast signal may include a TV broadcast signal, a radio broadcast signal, a data broadcast signal, and a broadcast signal in which a data broadcast signal is combined with a TV broadcast signal or a radio broadcast signal.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.The broadcast-related information may refer to a broadcast channel, a broadcast program, or information related to a broadcast service provider. The broadcast-related information may also be provided through a mobile communication network. In this case, it may be received by the mobile communication module 112.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.The broadcast-related information may exist in various forms. For example, an EPG (Electronic Program Guide) of DMB (Digital Multimedia Broadcasting) or an ESG (Electronic Service Guide) of Digital Video Broadcast-Handheld (DVB-H).

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.For example, the broadcast receiving module 111 may be a Digital Multimedia Broadcasting-Terrestrial (DMB-T), a Digital Multimedia Broadcasting-Satellite (DMB-S), a Media Forward Link Only (DVF-H) And a Digital Broadcasting System (ISDB-T) (Integrated Services Digital Broadcast-Terrestrial). Of course, the broadcast receiving module 111 may be adapted to other broadcasting systems as well as the digital broadcasting system described above.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.The broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The mobile communication module 112 transmits and receives radio signals to at least one of a base station, an external terminal, and a server on a mobile communication network. The wireless signal may include various types of data depending on a voice call signal, a video call signal or a text / multimedia message transmission / reception.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The wireless Internet module 113 is a module for wireless Internet access, and may be built in or externally attached to the mobile terminal 100. WLAN (Wi-Fi), Wibro (Wireless broadband), Wimax (World Interoperability for Microwave Access), HSDPA (High Speed Downlink Packet Access) and the like can be used as wireless Internet technologies.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.The short-range communication module 114 refers to a module for short-range communication. Bluetooth, Radio Frequency Identification (RFID), infrared data association (IrDA), Ultra Wideband (UWB), ZigBee, and the like can be used as a short range communication technology.

위치정보 모듈(115)은 이동단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.The position information module 115 is a module for obtaining the position of the mobile terminal, and a representative example thereof is a Global Position System (GPS) module.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.Referring to FIG. 1, an A / V (Audio / Video) input unit 120 is for inputting an audio signal or a video signal, and may include a camera 121 and a microphone 122. The camera 121 processes image frames such as still images or moving images obtained by the image sensor in the video communication mode or the photographing mode. The processed image frame can be displayed on the display unit 151. [

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.The image frame processed by the camera 121 may be stored in the memory 160 or transmitted to the outside through the wireless communication unit 110. [ Two or more cameras 121 may be provided depending on the use environment.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.The microphone 122 receives an external sound signal through a microphone in a communication mode, a recording mode, a voice recognition mode, or the like, and processes it as electrical voice data. The processed voice data can be converted into a form that can be transmitted to the mobile communication base station through the mobile communication module 112 when the voice data is in the call mode, and output. Various noise reduction algorithms may be implemented in the microphone 122 to remove noise generated in receiving an external sound signal.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다. The user input unit 130 generates input data for a user to control the operation of the terminal. The user input unit 130 may include a key pad dome switch, a touch pad (static / static), a jog wheel, a jog switch, and the like.

센싱부(140)는 이동단말기(100)의 개폐 상태, 이동단말기(100)의 위치, 사용자 접촉 유무, 이동단말기의 방위, 이동단말기의 가속/감속 등과 같이 이동단말기(100)의 현 상태를 감지하여 이동단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. The sensing unit 140 senses the current state of the mobile terminal 100 such as the open / close state of the mobile terminal 100, the position of the mobile terminal 100, the presence or absence of user contact, the orientation of the mobile terminal, And generates a sensing signal for controlling the operation of the mobile terminal 100. For example, when the mobile terminal 100 is in the form of a slide phone, it is possible to sense whether the slide phone is opened or closed. It is also possible to sense whether the power supply unit 190 is powered on, whether the interface unit 170 is connected to an external device, and the like. Meanwhile, the sensing unit 140 may include a proximity sensor 141.

또한, 센싱부(140)는 단말기의 방향을 측정하는 전자 나침반(142)과 단말기의 기울기를 측정하는 가속도 센서(143)을 포함할 수 있다. 여기서, 전자 나침반(142)과 가속도 센서(143)에 의해 측정된 데이터는 단말기의 자세를 확인하는데 사용된다. 본 발명은 전자 나침반(142)과 가속도 센서(143) 대신 자이로 센서로 구현할 수도 있다.The sensing unit 140 may include an electronic compass 142 for measuring the direction of the terminal and an acceleration sensor 143 for measuring the tilt of the terminal. Here, the data measured by the electronic compass 142 and the acceleration sensor 143 are used to confirm the attitude of the terminal. The present invention may be implemented by a gyro sensor instead of the electronic compass 142 and the acceleration sensor 143. [

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.The output unit 150 is for generating output related to the visual, auditory or tactile sense and includes a display unit 151, an audio output module 152, an alarm unit 153, and a haptic module 154 .

디스플레이부(151)는 이동단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다. The display unit 151 displays (outputs) information processed by the mobile terminal 100. For example, when the mobile terminal is in the call mode, a UI (User Interface) or a GUI (Graphic User Interface) associated with a call is displayed. When the mobile terminal 100 is in the video communication mode or the photographing mode, the photographed and / or received video or UI and GUI are displayed.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. The display unit 151 may be a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), a flexible display display, and a 3D display.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.Some of these displays may be transparent or light transmissive so that they can be seen through. This can be referred to as a transparent display, and a typical example of the transparent display is TOLED (Transparent OLED) and the like. The rear structure of the display unit 151 may also be of a light transmission type. With this structure, the user can see an object located behind the terminal body through the area occupied by the display unit 151 of the terminal body.

이동단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다. There may be two or more display units 151 according to the embodiment of the mobile terminal 100. For example, in the mobile terminal 100, a plurality of display portions may be spaced apart from one another or may be disposed integrally with each other, or may be disposed on different surfaces.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.(Hereinafter, referred to as a 'touch screen') in which a display unit 151 and a sensor for sensing a touch operation (hereinafter, referred to as 'touch sensor') form a mutual layer structure, It can also be used as an input device. The touch sensor may have the form of, for example, a touch film, a touch sheet, a touch pad, or the like.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. The touch sensor may be configured to convert a change in a pressure applied to a specific portion of the display unit 151 or a capacitance generated in a specific portion of the display unit 151 into an electrical input signal. The touch sensor can be configured to detect not only the position and area to be touched but also the pressure at the time of touch.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.If there is a touch input to the touch sensor, the corresponding signal (s) is sent to the touch controller. The touch controller processes the signal (s) and transmits the corresponding data to the controller 180. Thus, the control unit 180 can know which area of the display unit 151 is touched or the like.

도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다. Referring to FIG. 1, a proximity sensor 141 may be disposed in an inner region of the mobile terminal or in the vicinity of the touch screen, which is surrounded by the touch screen. The proximity sensor refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or a nearby object without mechanical contact using the force of an electromagnetic field or infrared rays. The proximity sensor has a longer life span than the contact sensor and its utilization is also high.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치스크린(터치 센서)은 근접 센서로 분류될 수도 있다.Examples of the proximity sensor include a transmission type photoelectric sensor, a direct reflection type photoelectric sensor, a mirror reflection type photoelectric sensor, a high frequency oscillation type proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor. And to detect the proximity of the pointer by the change of the electric field along the proximity of the pointer when the touch screen is electrostatic. In this case, the touch screen (touch sensor) may be classified as a proximity sensor.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.Hereinafter, for convenience of explanation, the act of recognizing that the pointer is positioned on the touch screen while the pointer is not in contact with the touch screen is referred to as "proximity touch & The act of actually touching the pointer on the screen is called "contact touch. &Quot; The position where the pointer is proximately touched on the touch screen means a position where the pointer is vertically corresponding to the touch screen when the pointer is touched.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다. The proximity sensor detects a proximity touch and a proximity touch pattern (e.g., a proximity touch distance, a proximity touch direction, a proximity touch speed, a proximity touch time, a proximity touch position, a proximity touch movement state, and the like). Information corresponding to the detected proximity touch operation and the proximity touch pattern may be output on the touch screen.

음향 출력 모듈(152)은 호 신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동단말기(100)에서 수행되는 기능(예를 들어, 호 신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.The audio output module 152 may output audio data received from the wireless communication unit 110 or stored in the memory 160 in a call signal reception mode, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, The sound output module 152 also outputs sound signals related to functions (e.g., call signal reception sound, message reception sound, etc.) performed in the mobile terminal 100. [ The audio output module 152 may include a receiver, a speaker, a buzzer, and the like.

알람부(153)는 이동단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.The alarm unit 153 outputs a signal for notifying the occurrence of an event of the mobile terminal 100. Examples of events that occur in the mobile terminal include call signal reception, message reception, key signal input, touch input, and the like. The alarm unit 153 may output a signal for notifying the occurrence of an event in a form other than the video signal or the audio signal, for example, vibration. The video signal or the audio signal may be output through the display unit 151 or the audio output module 152 so that they may be classified as a part of the alarm unit 153.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. The haptic module 154 generates various tactile effects that the user can feel. A typical example of the haptic effect generated by the haptic module 154 is vibration. The intensity and pattern of the vibration generated by the hit module 154 can be controlled. For example, different vibrations may be synthesized and output or sequentially output.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. In addition to the vibration, the haptic module 154 may include a pin arrangement vertically moving with respect to the contact skin surface, a spraying force or a suction force of the air through the injection port or the suction port, a touch on the skin surface, contact with an electrode, And various tactile effects such as an effect of reproducing a cold sensation using an endothermic or exothermic element can be generated.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.The haptic module 154 can be implemented not only to transmit the tactile effect through the direct contact but also to allow the user to feel the tactile effect through the muscular sensation of the finger or arm. At least two haptic modules 154 may be provided according to the configuration of the mobile terminal 100.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.The memory 160 may store a program for the operation of the controller 180 and temporarily store input / output data (e.g., a phone book, a message, a still image, a moving picture, etc.). The memory 160 may store data on vibration and sound of various patterns outputted when a touch is input on the touch screen.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.The memory 160 may be a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), a RAM (Random Access Memory), SRAM (Static Random Access Memory), ROM (Read Only Memory), EEPROM (Electrically Erasable Programmable Read-Only Memory), PROM A disk, and / or an optical disk. The mobile terminal 100 may operate in association with a web storage that performs a storage function of the memory 160 on the Internet.

인터페이스부(170)는 이동단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동단말기(100) 내부의 각 구성 요소에 전달하거나, 이동단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다. The interface unit 170 serves as a path for communication with all external devices connected to the mobile terminal 100. The interface unit 170 receives data from an external device or supplies power to each component in the mobile terminal 100 or transmits data to the external device. For example, a wired / wireless headset port, an external charger port, a wired / wireless data port, a memory card port, a port for connecting a device having an identification module, an audio I / O port, A video input / output (I / O) port, an earphone port, and the like may be included in the interface unit 170.

식별 모듈은 이동단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. The identification module is a chip for storing various information for authenticating the use right of the mobile terminal 100 and includes a user identification module (UIM), a subscriber identity module (SIM), a general user authentication module A Universal Subscriber Identity Module (USIM), and the like. Devices with identification modules (hereinafter referred to as "identification devices") can be manufactured in a smart card format. Accordingly, the identification device can be connected to the terminal 100 through the port.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.When the mobile terminal 100 is connected to an external cradle, the interface unit may be a path through which power from the cradle is supplied to the mobile terminal 100, or various command signals input by the user to the cradle may be transmitted It can be a passage to be transmitted to the terminal. The various command signals or the power source input from the cradle may be operated as a signal for recognizing that the mobile terminal is correctly mounted on the cradle.

제어부(controller, 180)는 통상적으로 이동단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.The controller 180 typically controls the overall operation of the mobile terminal. For example, voice communication, data communication, video communication, and the like. The control unit 180 may include a multimedia module 181 for multimedia playback. The multimedia module 181 may be implemented in the control unit 180 or may be implemented separately from the control unit 180. [

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.The controller 180 may perform a pattern recognition process for recognizing handwriting input or drawing input performed on the touch screen as characters and images, respectively.

상기 제어부(180)는 사용자 입력에 따라 카메라(121)를 동작시키고, 상기 카메라(121)를 통해 실시간으로 입력되는 실사 영상을 디스플레이부(151)로 출력한다. 상기 제어부(180)는 상기 카메라(121)를 동작시킬 때 증강현실의 사용여부를 확인한다. 상기 증강현실을 사용하는 것으로 설정된 경우, 제어부(180)는 위치 정보 모듈(115)을 통해 단말기의 위치(고도, 위도, 경도 등)를 측위하고, 전자 나침반(142)과 가속도 센서(143)를 통해 단말기의 방향 및 기울기를 측정한다. 즉, 제어부(180)는 상기 위치 정보 모듈(115) 및 전자 나침반(142), 가속도 센서(143)를 제어하여 상기 카메라(121)를 통해 획득하는 실사 영상의 촬영 위치 및 자세를 측정한다.The control unit 180 operates the camera 121 according to the user input and outputs the real image input through the camera 121 to the display unit 151 in real time. The controller 180 confirms whether the augmented reality is used when the camera 121 is operated. When the augmented reality is set to be used, the controller 180 determines the position (altitude, latitude, longitude, etc.) of the terminal through the position information module 115 and controls the electronic compass 142 and the acceleration sensor 143 And measures the direction and tilt of the terminal. That is, the controller 180 controls the position information module 115, the electronic compass 142, and the acceleration sensor 143 to measure the photographing position and attitude of the real image acquired through the camera 121.

그리고, 제어부(180)는 상기 카메라(121)를 통해 입력되는 실사(현실세계) 영상에 포함된 대상물들(예: 건물, 시설물, 역, 공항, 터미널, 호텔 등)에 대한 관심 지점 정보를 요청하는 메시지를 생성하여 증강현실 서비스를 제공하는 서버로 전송한다. 상기 요청 메시지에는 상기 측정된 단말기의 위치 및 자세 정보가 포함될 수 있다.The control unit 180 requests interest point information about the objects (e.g., buildings, facilities, stations, airports, terminals, hotels, etc.) included in the real world image input through the camera 121 And transmits the message to the server providing the augmented reality service. The request message may include the measured position and attitude information of the terminal.

상기 제어부(180)는 상기 서버로부터 요청한 관심 지점 정보를 수신하면 그 수신한 정보를 디스플레이에 표시되는 실사 영상에 중첩시켜 표시한다. 이때, 제어부(180)는 디스플레이에 표시되는 실사 영상에 포함된 대상물 각각에 대응되는 관심 지점 정보를 표시한다.Upon receipt of the point-of-interest information requested from the server, the controller 180 displays the received information on the real image displayed on the display. At this time, the control unit 180 displays interest point information corresponding to each of the objects included in the real image displayed on the display.

또한, 상기 제어부(180)는 관심 지점 정보를 수신하면 수신한 관심 지점 정보와 일치하거나 또는 관련있는 데이터를 단말기의 메모리(160)에서 검색한다. 상기 메모리(160)에는 전화번호부, 스케줄러(일정), 메모, 메시지, 전자메일(e-mail) 등이 저장된다. 여기서, 상기 제어부(180)는 사용자의 입력에 따라 검색범위을 설정할 수 있다. 상기 검색범위가 설정되면 제어부(180)는 그 설정된 검색범위 내에서 상기 관심 지점 정보와 일치하는(관련있는) 데이터를 검색한다.When the controller 180 receives the point of interest information, the controller 180 searches the memory 160 of the terminal for data corresponding to or related to the received point of interest information. The memory 160 stores a telephone directory, a scheduler (schedule), a memo, a message, and an e-mail. Here, the control unit 180 may set a search range according to a user's input. If the search range is set, the control unit 180 searches for data that matches (relates to) the point of interest information within the set search range.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The power supply unit 190 receives external power and internal power under the control of the controller 180 and supplies power necessary for operation of the respective components.

여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.The various embodiments described herein may be embodied in a recording medium readable by a computer or similar device using, for example, software, hardware, or a combination thereof.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들이 제어부(180) 자체로 구현될 수 있다.According to a hardware implementation, the embodiments described herein may be implemented as application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays May be implemented using at least one of a processor, controllers, micro-controllers, microprocessors, and other electronic units for performing other functions. In some cases, The embodiments described may be implemented by the control unit 180 itself.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.According to a software implementation, embodiments such as the procedures and functions described herein may be implemented with separate software modules. Each of the software modules may perform one or more of the functions and operations described herein. Software code can be implemented in a software application written in a suitable programming language. The software code is stored in the memory 160 and can be executed by the control unit 180. [

도 2a는 본 발명과 관련된 이동단말기의 일 예를 전면에서 바라본 사시도이다.2A is a perspective view of a mobile terminal according to an embodiment of the present invention.

개시된 이동단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다. The disclosed mobile terminal 100 includes a bar-shaped terminal body. However, the present invention is not limited thereto, and can be applied to various structures such as a slide type, a folder type, a swing type, and a swivel type in which two or more bodies are relatively movably coupled.

바디는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시 예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스가 추가로 배치될 수도 있다.The body includes a case (a casing, a housing, a cover, and the like) which forms an appearance. In this embodiment, the case may be divided into a front case 101 and a rear case 102. [ A variety of electronic components are embedded in the space formed between the front case 101 and the rear case 102. At least one intermediate case may be additionally disposed between the front case 101 and the rear case 102. [

케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.The cases may be formed by injection molding a synthetic resin, or may be formed to have a metal material such as stainless steel (STS) or titanium (Ti) or the like.

단말기 바디, 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.The display unit 151, the sound output unit 152, the camera 121, the user input units 130/131 and 132, the microphone 122, the interface 170, and the like may be disposed in the front body 101 have.

디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.The display unit 151 occupies most of the main surface of the front case 101. A sound output unit 152 and a camera 121 are disposed in an area adjacent to one end of both ends of the display unit 151 and a user input unit 131 and a microphone 122 are disposed in an area adjacent to the other end. The user input unit 132 and the interface 170 may be disposed on the side surfaces of the front case 101 and the rear case 102. [

사용자 입력부(130)는 이동단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.The user input unit 130 is operated to receive a command for controlling the operation of the mobile terminal 100 and may include a plurality of operation units 131 and 132. The operation units 131 and 132 may be collectively referred to as a manipulating portion and may be employed in any manner as long as the user operates in a tactile manner.

제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.The contents inputted by the first or second operation unit 131 or 132 may be variously set. For example, the first operation unit 131 receives commands such as start, end, scroll, and the like, and the second operation unit 132 controls the size of the sound output from the sound output unit 152 or the size of the sound output from the display unit 151 To the touch recognition mode of the touch screen.

도 2b는 도 2a에 도시된 이동단말기의 후면 사시도이다. 2B is a rear perspective view of the mobile terminal shown in FIG. 2A.

도 2b를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다. Referring to FIG. 2B, a camera 121 'may be further mounted on the rear surface of the terminal body, that is, the rear case 102. The camera 121 'may have a photographing direction substantially opposite to the camera 121 (see FIG. 2A), and may be a camera having different pixels from the camera 121.

예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.For example, the camera 121 may have a low pixel so that the face of the user can be photographed and transmitted to the other party in case of a video call or the like, and the camera 121 ' It is preferable to have a large number of pixels. The cameras 121 and 121 'may be installed in the terminal body so as to be rotatable or pop-upable.

카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.A flash 123 and a mirror 124 are additionally disposed adjacent to the camera 121 '. The flash 123 illuminates the subject when the subject is photographed by the camera 121 '. The mirror 124 allows the user to illuminate the user's own face or the like when the user intends to shoot himself / herself (self-photographing) using the camera 121 '.

단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.An acoustic output 152 'may be additionally disposed on the rear surface of the terminal body. The sound output unit 152 'may implement the stereo function together with the sound output unit 152 (see FIG. 2A), and may be used for the implementation of the speakerphone mode during a call.

단말기 바디의 측면에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.In addition to the antenna for talking and the like, a broadcast signal reception antenna 116 may be additionally disposed on the side of the terminal body. The antenna 116, which forms part of the broadcast receiving module 111 (see FIG. 1), can be installed to be able to be drawn out from the terminal body.

단말기 바디에는 이동단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.A power supply unit 190 for supplying power to the mobile terminal 100 is mounted on the terminal body. The power supply unit 190 may be built in the terminal body or may be detachable from the outside of the terminal body.

리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135) 또한 디스플레이부(151)와 마찬가지로 광 투과형으로 구성될 수 있다. 이 경우에, 디스플레이부(151)가 양면에서 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다. 이와 달리, 터치 패드(135)에는 디스플레이가 추가로 장착되어, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.The rear case 102 may further include a touch pad 135 for sensing a touch. The touch pad 135 may also be of a light transmission type like the display unit 151. [ In this case, if the display unit 151 is configured to output time information on both sides, the time information can be recognized through the touch pad 135 as well. The information output on both sides may be all controlled by the touch pad 135. [ Alternatively, a display may be additionally mounted on the touch pad 135, and a touch screen may be disposed on the rear case 102 as well.

터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.The touch pad 135 operates in correlation with the display portion 151 of the front case 101. The touch pad 135 may be disposed parallel to the rear of the display unit 151. The touch pad 135 may have a size equal to or smaller than that of the display unit 151.

도 3은 본 발명의 일 실시 예와 관련된 증강현실 서비스 시스템의 개략적인 구성도를 도시한다.3 shows a schematic configuration diagram of an augmented reality service system according to an embodiment of the present invention.

도 3을 참조하면, 증강현실 서비스 시스템은 이동단말기(100), GPS(global positioning system) 위성(200), 증강현실 서비스 서버(300)(이하, 서버)를 포함한다.3, the augmented reality service system includes a mobile terminal 100, a global positioning system (GPS) satellite 200, and an augmented reality service server 300 (hereinafter referred to as a server).

서버(300)는 관심 지점(point of interest: POI) 정보를 제공하는 서버로, 통신망(미도시)를 통해 이동단말기(100)과 통신을 수행한다. 상기 관심 지점 정보는 시설물, 건물, 역, 공항, 터미널, 호텔 등에 대한 정보이다. 그리고, 상기 관심 지점 정보는 위치(좌표), 지명, 건물명, 주소, 전화번호, 쇼핑, 관광, 광고 등의 정보를 포함할 수 있으며, 데이터베이스화되어 저장(보관)된다.The server 300 is a server for providing POI information, and communicates with the mobile terminal 100 through a communication network (not shown). The point of interest information is information on a facility, a building, a station, an airport, a terminal, a hotel, and the like. The point of interest information may include information such as location (coordinates), place name, building name, address, telephone number, shopping, sightseeing, advertisement, etc., and stored in a database.

상기 서버(300)는 이동단말기(100)가 통신망을 통해 현재 위치한 지역에 있는 지형지물에 대한 관심 지점 정보를 요청하면 그 요청에 따른 관심 지점 정보를 데이터베이스에서 검색하여 이동단말기(100)로 전송한다.When the mobile terminal 100 requests the point of interest information about the feature in the area currently located through the communication network, the server 300 searches the database for the point of interest according to the request and transmits the point of interest information to the mobile terminal 100 .

여기서, 이동단말기(100)는 카메라(121)를 구동하여 카메라(121)를 통해 획득하는 실사 영상에 포함된 대상물들에 대한 관심 지점 정보를 요청하기 위해, GPS 위성(200)을 통해 획득한 위치 정보와 상기 전자 나침반(142) 및 가속도 센서(143)를 통해 측정한 자세 정보를 포함한 관심 지점 정보의 제공을 요청하는 메시지를 생성한다. 그리고, 이동단말기(100)는 상기 생성된 요청 메시지를 상기 서버(300)로 전송한다.Here, the mobile terminal 100 drives the camera 121 to acquire the location information of the object acquired through the GPS satellite 200 to request interest point information about the objects included in the real image acquired through the camera 121 And information of the point of interest including the attitude information measured through the electronic compass 142 and the acceleration sensor 143. [ Then, the mobile terminal 100 transmits the generated request message to the server 300.

상기 서버(300)는 상기 수신된 요청 메시지에 포함된 위치 및 자세 정보에 근거하여 카메라(121)를 통해 실시간 입력되는 실사 영상에 포함된 대상물들에 대한 관심 지점 정보를 데이터베이스로부터 추출한다. 그리고, 상기 서버(300)는 상기 추출한 관심 지점 정보를 이동단말기(100)로 전송한다. 상기 서버(300)는 실사 영상에 포함된 각각의 대상물(시설물, 건물 등)에 대응하는 관심 지점 정보를 데이터베이스에서 검색하여 이동단말기(100)에 제공한다.The server 300 extracts points of interest information about the objects included in the real image inputted in real time through the camera 121 based on the position and attitude information included in the received request message from the database. Then, the server 300 transmits the extracted point of interest information to the mobile terminal 100. The server 300 searches the database for points of interest corresponding to respective objects (facilities, buildings, etc.) included in the real image, and provides the information to the mobile terminal 100. [

도 4는 본 발명의 일 실시 예와 관련된 이동단말기의 증강현실 서비스 방법을 도시한 흐름도이다. 본 실시 예는 카메라의 미리보기 화면에서 증강현실을 서비스하는 경우를 예로 들어 설명한다.4 is a flowchart illustrating an augmented reality service method of a mobile station according to an embodiment of the present invention. In the present embodiment, a case where augmented reality is served on a preview screen of a camera will be described as an example.

먼저, 사용자 명령에 따라 제어부(180)는 카메라(121)를 구동시킨다(S101). 상기 카메라(121)는 실시간으로 입력되는 실사 영상을 디스플레이부(151)로 출력한다. 예를 들어, 사용자가 메뉴 조작을 통해 메뉴들 중 '카메라' 메뉴를 선택하면 제어부(180)는 사용자 입력부(130)를 통해 입력되는 제어 명령에 따라 카메라(121)를 동작시키고, 상기 카메라(121)로부터 출력되는 실사 영상을 미리보기 화면으로 디스플레이부(151)에 표시한다.First, the controller 180 drives the camera 121 according to a user command (S101). The camera 121 outputs a real-time image input in real time to the display unit 151. For example, when the user selects the 'camera' menu among the menus through the menu operation, the controller 180 operates the camera 121 according to the control command input through the user input unit 130, On the display unit 151 as a preview screen.

상기 카메라(121)를 구동시킬 때, 제어부(180)는 증강현실이 설정되어 있는지를 확인한다(S102). 다시 말해서, 제어부(180)는 증강현실의 사용여부를 확인한다. 여기서, 사용자는 메뉴 조작을 통해 증강현실의 사용여부 설정을 변경할 수 있다.When driving the camera 121, the controller 180 determines whether the augmented reality is set (S102). In other words, the control unit 180 confirms whether or not the augmented reality is used. Here, the user can change the use / non-use setting of the augmented reality through the menu operation.

상기 확인결과, 상기 증강현실이 설정되어 있으면, 제어부(180)는 단말기의 위치 및 자세(촬영 위치 및 자세)를 측정한다(S103). 상기 제어부(180)는 위치정보모듈(115)을 통해 GPS 위성(200)으로부터 위치 정보를 수신한다. 그리고, 제어부(180)는 전자 나침반(142) 및 가속도 센서(143)를 제어하여 단말기의 방향 및 기울기를 측정한다. 여기서, 단말기의 위치 및 자세는 카메라의 위치 및 자세를 의미한다.If it is determined that the augmented reality is set, the controller 180 measures the position and posture (photographing position and posture) of the terminal (S103). The controller 180 receives position information from the GPS satellite 200 through the position information module 115. The controller 180 controls the electronic compass 142 and the acceleration sensor 143 to measure the direction and tilt of the terminal. Here, the position and posture of the terminal means the position and posture of the camera.

상기 제어부(180)는 상기 측정된 위치 및 자세 정보를 이용하여 카메라(121)를 통해 획득하는 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 요청하는 메시지를 생성하여 서버(300)로 전송한다(S104). 상기 요청 메시지는 상기 측정된 단말기의 위치 및 자세 정보와 카메라(121)를 통해 획득한 실사 영상를 포함할 수 있다. 또는, 상기 요청 메시지는 상기 측정된 단말기의 위치 및 자세 정보만 포함할 수도 있다.The control unit 180 generates a message requesting the point-of-interest information about the object included in the real image acquired through the camera 121 using the measured position and attitude information, and transmits the generated message to the server 300 S104). The request message may include the measured position and attitude information of the terminal and a live view image obtained through the camera 121. [ Alternatively, the request message may include only the measured position and attitude information of the terminal.

상기 제어부(180)는 상기 서버(300)로부터 요청한 관심 지점 정보를 수신한다(S105). 상기 서버(300)는 이동단말기(100)로부터 전송된 단말기의 위치 및 자세 정보(카메라의 위치 및 자세)를 분석하여 단말기의 카메라(121)를 통해 입력되는 피사체(대상물)가 무엇인지를 결정할 수 있다.The control unit 180 receives the point of interest information requested from the server 300 (S105). The server 300 analyzes the position and attitude information of the terminal (position and attitude of the camera) transmitted from the mobile terminal 100 and determines what the object (object) input through the camera 121 of the terminal is have.

상기 제어부(180)는 상기 수신한 관심 지점 정보를 카메라(121)를 통해 입력되는 실사 영상에 중첩하여 표시한다(S106). 이때, 제어부(180)는 실사 영상에 포함된 대상물 각각에 대응되는 관심 지점 정보를 대응하는 대상물에 중첩하여 표시한다.The control unit 180 superimposes the received point information on the real image input through the camera 121 (S106). At this time, the control unit 180 superimposes and displays the point of interest information corresponding to each of the objects included in the real image on the corresponding object.

상기 관심 지점 정보를 표시하는 방법은 다양한 형태로 구현될 수 있다. 예를 들어, 도 5의 (a)에 도시된 바와 같이 이동단말기(100)의 제어부(180)는 관심 지점 정보가 존재하는 대상물에 대해서 그 대상물의 윤곽을 실사 영상에 중첩하여 표시할 수 있다. 또는, 제어부(180)는 도 5의 (b)와 같이 디스플레이 화면의 일 영역에 디스플레이 화면에 표시되는 실사 영상에 존재하는 관심 지점 정보에 대한 요약 정보를 표시한다. 상기 요약 정보는 팝업 형태로 표시될 수 있다. 또한, 상기 요약 정보는 서버(300)로부터 제공받은 관심 지점 정보의 목록일 수 있다. 그 목록 중에서 어느 하나의 항목이 선택되면 제어부(180)는 실사 영상에서 그 선택 항목에 대응되는 대상물에 지시자 아이콘(예: ☞)을 그 대상물 위에 표시할 수 있다.The method of displaying the point of interest information may be implemented in various forms. For example, as shown in FIG. 5 (a), the controller 180 of the mobile terminal 100 may display an outline of the object on the real image with respect to the object on which the point of interest information exists. Alternatively, the control unit 180 displays summary information on the point of interest information existing in the real image displayed on the display screen in one area of the display screen as shown in FIG. 5B. The summary information may be displayed in a pop-up form. In addition, the summary information may be a list of points of interest information provided from the server 300. If any one of the items is selected from the list, the control unit 180 can display an indicator icon (e.g., ☞) on the object corresponding to the selected item in the real image.

상기 제어부(180)는 카메라(121)의 위치 또는 자세가 변경되어 카메라(121)를 통해 입력되는 영상이 변경되므로, 관심 지점 정보가 존재하는 대상물도 변화한다. 따라서, 제어부(180)는 카메라(121)의 위치 또는 자세 변경에 따라 변경된 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 서버(300)에 요청하여 제공받을 수 있다.The controller 180 changes the position or the posture of the camera 121 and changes the image input through the camera 121 so that the object in which the point of interest information exists also changes. Accordingly, the control unit 180 can request the server 300 to inquire interest point information about the object included in the changed real image according to the change of the position or attitude of the camera 121, and receive the information.

도 6는 본 발명의 일 실시 에와 관련된 이동단말기의 관심 지점 정보를 저장하는 과정을 도시한 일 예이다.6 is a view illustrating a process of storing information of a point of interest of a mobile terminal according to an embodiment of the present invention.

도 6에 도시된 바와 같이, 관심 지점 정보를 표시하는 화면 상에서 관심 지점 정보가 존재하는 특정 대상물을 선택하면 제어부(180)는 그 선택 명령에 따라 해당 특정 대상물에 대한 관심 지점 정보를 표시한다. 예를 들어, 디스플레이 화면에 표시되는 실사 영상에서 관심 지점 정보가 존재하는 특정 대상물에 터치하면 제어부(180)는 센싱부(140)를 통해 상기 터치를 감지한다. 그리고, 제어부(180)는 상기 터치가 감지된 대상물에 대한 관심 지점 정보를 팝업 창에 표시한다. 여기서, 제어부(180)는 건물명, 전화번호, 주소 등과 같은 선택된 대상물과 관련된 정보들을 표시한다.As shown in FIG. 6, when a specific object having interest point information is selected on the screen displaying the point of interest information, the control unit 180 displays interest point information on the specific object according to the selection command. For example, when a user touches a specific object having interest point information in a real image displayed on a display screen, the controller 180 senses the touch through the sensing unit 140. [ Then, the control unit 180 displays the point-of-interest information about the sensed object on the pop-up window. Here, the control unit 180 displays information related to the selected object such as a building name, a telephone number, an address, and the like.

상기 표시된 관심 지점 정보의 저장을 원하는 경우 사용자가 팝업창의 저장 아이콘을 터치하고, 제어부(180)는 그 사용자의 터치를 감지하여 상기 선택된 특정 대상물에 대한 관심 지점 정보를 메모리(160)에 저장한다.When the user desires to store the displayed point of interest information, the user touches the storage icon of the pop-up window, and the controller 180 detects the touch of the user and stores the point of interest information of the selected specific object in the memory 160.

도 7은 본 발명의 일 실시 예와 관련된 이동단말기의 증강현실을 이용한 정보 표시 방법을 도시한 흐름도이다.7 is a flowchart illustrating an information display method using an augmented reality of a mobile terminal according to an embodiment of the present invention.

먼저, 도 4에 도시된 절차에 따라 이동단말기(100)는 카메라(121)를 통해 실시간으로 획득하는 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 증강현실 서비스 서버(300)에 요청하여 제공받는다. 그리고, 상기 제어부(180)는 서버(300)로부터 제공받는 정보를 실사 영상에 중첩시켜 표시한다. 예를 들어, 제어부(180)는 실사 영상에 존재하는 특정 건물에 서버(300)로부터 제공받은 건물명을 중첩시켜 표시한다.4, the mobile terminal 100 requests the augmented reality service server 300 to receive point of interest information about an object included in a real image to be acquired in real time via the camera 121, and is provided to the augmented reality service server 300 . Then, the controller 180 displays the information provided from the server 300 on the real image. For example, the control unit 180 superimposes a building name provided from the server 300 on a specific building existing in the real image.

상기와 같이 증강현실 기능을 실행하는 중에 사용자의 메뉴 조작에 의해 검색 명령을 입력받으면 제어부(180)는 검색범위 설정화면을 디스플레이 화면에 표시한다(S201). 다시 말해서, 실사 영상에 관심 지점 정보를 중첩하여 표시하는 중에 사용자 입력부(130)로부터 관심 지점 정보와 일치 또는 관련된 데이터의 검색 요청을 수신하면 제어부(180)는 검색범위 설정화면을 표시한다.When the user inputs a search command during the augmented reality function execution, the controller 180 displays the search range setting screen on the display screen (S201). In other words, upon receiving a search request for data matching or related to the point of interest information from the user input unit 130 while superimposing the point of interest information on the real image, the control unit 180 displays the search range setting screen.

상기 디스플레이 화면 상에 표시된 검색범위 설정화면 상에서 제어부(180)는 사용자 입력부(130)로부터 입력되는 사용자 입력에 따라 검색 범위를 설정한다(S202). 예를 들어, 제어부(180)는 사용자 입력에 따라 전화번호부, 메모, 메시지, 일정, 전자메일 등의 데이터 종류 중 적어도 하나 이상을 선택할 수 있다.On the search range setting screen displayed on the display screen, the control unit 180 sets the search range according to the user input inputted from the user input unit 130 (S202). For example, the control unit 180 may select at least one of data types such as a telephone directory, a memo, a message, a schedule, and an e-mail according to user input.

상기 검색범위 설정이 완료되면 제어부(180)는 관심 지점 정보와 일치하는 데이터를 상기 설정된 검색범위 내에서 검색한다. 예를 들어, 검색범위가 메모로 설정된 경우, 제어부(180)는 관심 지점 정보와 메모리(160)에 저장된 메모를 비교하여 상기 관심 지점 정보와 일치하는 메모가 있는지를 확인한다.When the search range setting is completed, the controller 180 searches the data matching the point of interest within the set search range. For example, when the search range is set as a memo, the controller 180 compares the point of interest information with the memo stored in the memory 160 to check whether there is a memo that matches the point of interest information.

상기 제어부(180)는 검색된 결과를 상기 카메라(121)를 통해 획득한 실사 영상에 중첩시켜 표시한다(S204). 이때, 제어부(180)는 설명선을 이용하여 검색 결과를 표시할 수 있다. 또한, 제어부(180)는 검색된 결과에 대응되는 실사 영상의 대상물에 소정 아이콘을 표시할 수 있다. 상기 소정 아이콘은 도형, 기호, 이미지 등으로 구현될 수 있으며, 해당 대상물에 검색된 결과가 있음을 나타낸다.The control unit 180 superimposes the searched result on the real image acquired through the camera 121 (S204). At this time, the control unit 180 can display the search result using the explanatory line. In addition, the control unit 180 may display a predetermined icon on the object of the real image corresponding to the retrieved result. The predetermined icon may be implemented as a graphic, a symbol, an image, or the like, and indicates that there is a search result in the object.

도 8은 본 발명의 일 실시 예와 관련된 이동단말기의 증강현실을 이용하여 검색한 정보를 표시하는 일 예이다.8 is an example of displaying information retrieved using an augmented reality of a mobile terminal according to an embodiment of the present invention.

먼저, 이동단말기(100)의 제어부(180)는 카메라(121)를 동작시키고, 카메라(121)를 통해 입력되는 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 서버(300)에 요청한다. 그리고, 이동단말기(100)는 상기 서버(300)로부터 전송되는 요청한 관심 지점 정보를 무선통신부(110)를 통해 수신한다. 상기 이동단말기(100)의 제어부(180)는 상기 수신한 관심 지점 정보를 상기 실사 영상에 중첩하여 디스플레이 화면에 표시한다.First, the control unit 180 of the mobile terminal 100 operates the camera 121 and requests the server 300 for point of interest information about the object included in the real image input through the camera 121. [ The mobile terminal 100 receives the requested point of interest information transmitted from the server 300 through the wireless communication unit 110. The control unit 180 of the mobile terminal 100 superimposes the received point of interest information on the real image and displays the real image on the display screen.

상기 관심 지점 정보를 표시하는 중에 사용자가 검색을 요청하면 제어부(180)는 검색범위를 설정할 수 있는 설정화면을 디스플레이부(151)에 출력한다(a). 예를 들어, 증강현실 기능을 이용하는 중에 사용자의 메뉴 조작에 의해 검색 메뉴가 선택되면 제어부(180)는 검색 범위 설정을 위한 설정화면을 표시한다.When the user requests a search while displaying the point of interest information, the controller 180 outputs a setting screen to the display 151 for setting the search range (a). For example, if the search menu is selected by the user's menu operation while using the augmented reality function, the control unit 180 displays a setting screen for setting the search range.

상기 검색범위 설정화면에서 제어부(180)는 사용자의 선택에 따라 검색범위를 설정한다. 예를 들어, 제어부(180)는 관심 지점 정보를 표시하는 중에 사용자에 의해 검색요청을 수신하면 데이터 종류(예: 전화번호부, 메시지, 스케줄러, 메모)의 목록을 도 8의 (a)에 도시된 바와 같이 표시한다. 상기 표시된 목록 중 '전화번호부'가 선택되면 제어부(180)는 전화번호부에 저장된 데이터들의 필드 목록(예: 전화번호, 이름, 주소, 전자메일 등)을 표시한다(b). 다시 말해서, 검색범위 설정은 관심 지점 정보와 비교할 대상을 선정하는 과정이다.On the search range setting screen, the control unit 180 sets the search range according to the user's selection. For example, when receiving the search request by the user while displaying the point of interest information, the control unit 180 displays a list of data types (e.g., telephone directory, message, scheduler, memo) As shown in FIG. When the 'phone number' is selected from the displayed list, the controller 180 displays a field list (eg, phone number, name, address, e-mail, etc.) of data stored in the phone book. In other words, the search range setting is a process of selecting an object to be compared with the point of interest information.

상기 검색범위가 설정되면 제어부(180)는 그 설정된 검색범위 내에서 상기 수신한 관심 지점 정보와 일치하는 데이터가 있는지를 확인한다. 예컨대, 검색범위 설정화면에서 검색범위가 전화번호부의 전화번호로 설정되면 제어부(180)는 관심 지점 정보와 단말기에 저장된 전화번호를 비교한다. 그리고, 제어부(180)는 관심 지점 정보와 일치하는 전화번호가 있으면, 디스플레이 화면에 표시되는 실사 영상에 상기 전화번호를 설명선(말풍선)으로 표시한다(c).If the search range is set, the controller 180 determines whether there is data matching the received point of interest information within the set search range. For example, if the search range is set to the phone number of the phone book in the search range setting screen, the controller 180 compares the point of interest information and the phone number stored in the terminal. If there is a phone number that matches the point of interest information, the controller 180 displays the phone number in a virtual phone line displayed on the display screen (bubble) (c).

도 9는 본 발명의 일 실시 예와 관련된 이동단말기가 증강현실을 이용하여 검색한 정보를 이용하여 실행할 수 있는 메뉴를 표시하는 일 예이다.9 is an example of a menu related to an embodiment of the present invention in which a mobile terminal displays a menu that can be executed using information retrieved using an augmented reality.

실사 영상에 포함된 대상물에 대한 관심 지점 정보를 표시하는 중 사용자가 관심 지점 정보가 존재하는 대상물에 롱터치(long touch)를 입력하면 제어부(180)는 기설정된 검색범위 내에서 상기 관심 지점 정보와 일치하는 데이터를 검색한다(a). 여기서, 검색범위는 사전에 사용자에 의해 설정될 수 있다.If the user inputs a long touch to an object on which the point of interest information exists, while displaying the point of interest information about the object included in the real image, the controller 180 displays the point of interest information Search for matching data (a). Here, the search range can be set by the user in advance.

상기 데이터 검색이 완료되면 제어부(180)는 그 검색된 데이터를 이용하여 수행할 수 있는 동작 목록 표시한다(b). 예를 들어, 검색범위가 전화번호부인 경우, 제어부(180)는 관심 지점 정보와 전화번호부에 저장된 연락상대의 정보를 비교한다. 그 비교결과, 상기 관심 지점 정보와 일부가 일치하는 정보가 있으면 제어부(180)는 그 정보에 대응되는 연락상대 정보를 이용하여 수행할 수 있는 동작(기능) 메뉴를 표시한다. 예컨대, 연락상대 정보에 전화번호 및 홈페이지 주소가 포함된 경우, 제어부(180)는 전화연결 및 URL 접속, 상세 정보 저장과 같은 동작을 메뉴로 표시한다.When the data search is completed, the controller 180 displays a list of actions that can be performed using the searched data (b). For example, when the search range is the telephone number portion, the control unit 180 compares the point of interest information with the information of the contact party stored in the telephone directory. As a result of the comparison, if there is information that partially coincides with the interest point information, the control unit 180 displays an operation (function) menu that can be performed using the contact information corresponding to the information. For example, when the contact information includes the telephone number and the home page address, the control unit 180 displays operations such as telephone connection, URL connection, and detailed information storage as a menu.

도 10은 본 발명의 일 실시 예와 관련된 이동단말기가 증강현실을 이용하여 검색한 정보를 기능 실행아이콘과 함께 표시하는 일 예이다.10 is an example in which the mobile terminal related to an embodiment of the present invention displays information retrieved using an augmented reality together with a function execution icon.

이동단말기(100)는 실사 영상에 포함된 대상물에 대한 관심 지점 정보와 일치하는 데이터를 기설정된 검색범위 내에서 검색한다. 상기 검색이 완료되면 제어부(180)는 검색된 결과를 실사 영상 위에 중첩시켜 표시한다. 이때, 이동단말기(100)의 제어부(180)는 사용자에 의해 상기 실사 영상 속에 있는 대상물 중 검색결과를 가진 특정 대상물이 선택되면 그 선택된 대상물의 관심 지점 정보와 일치하는 검색 데이터를 도 10에 도시된 바와 같이 표시한다.The mobile terminal 100 searches for data matching the point of interest information on the object included in the real image within a preset search range. When the search is completed, the control unit 180 superimposes the searched result on the real image. At this time, if the user selects a specific object having the search result among the objects in the real image, the control unit 180 of the mobile terminal 100 searches the search data matching the point of interest information of the selected object, As shown in FIG.

또한, 제어부(180)는 검색된 데이터를 표시하며 그 데이터를 이용하여 수행할 수 있는 동작 실행 아이콘을 함께 표시한다. 예를 들어, 도 10에 도시된 바와 같이, 검색된 전화번호와 나란히 통화 및 메시지 아이콘을 배치하여 표시한다. 또한, 제어부(180)는 검색된 연락상대의 정보 중 SNS 가입정보(아이디, 패스워드)가 있는 경우 각각의 SNS 사이트 접속을 실행하게 하는 아이콘들을 나열하여 표시한다.In addition, the control unit 180 displays the retrieved data and displays an action execution icon that can be performed using the data. For example, as shown in FIG. 10, a call and a message icon are arranged and displayed along with the searched telephone number. In addition, if there is SNS subscription information (ID, password) among the contact information of the searched contact, the controller 180 displays and displays icons for allowing the SNS site connection to be executed.

그 외에도 수신한 관심 지점 정보를 이용하여 수행할 수 있는 동작을 메뉴 항목으로 표시할 수 있다. 도면에서와 같이 선택된 대상물을 출발지 또는 목적지로 설정할 수 있게 할 수 있다. 또한, 그 위치에서 사용할 수 있는 교통편을 검색할 수도 있게 한다.In addition to this, an operation that can be performed using the received point of interest information can be displayed as a menu item. It is possible to set the selected object as a start point or a destination as shown in the drawing. It also allows you to search for available transportation at that location.

앞서 전술한 방법 이외에도 실사 영상에 포함된 대상물 중 대상물에 대한 관심 지점 정보와 일치하는 검색 데이터가 존재하는 특정 대상물을 선택한 후 사용자가 단말기를 소정 시간동안 흔들면 제어부(180)는 그 검색 데이터에 전화번호가 포함된 경우 그 전화번호로 발신을 시도하도록 구현할 수 있다.In addition to the above-described method, if a user shakes the terminal for a predetermined time after selecting a specific object having search data matching the interest point information on the object among the objects included in the real image, the controller 180 adds the phone number It is possible to implement such that the call is attempted to the telephone number.

여기서, 실사 영상에 포함된 대상물에 대한 관심 지점 정보가 존재하는지 그 관심 지점 정보와 일치하는 단말기 내 데이터가 존재하는지를 식별할 수 있도록 상이한 지시자를 표시하도록 구현할 수 있다.Here, a different indicator may be displayed to identify whether the point of interest information about the object included in the real image is present or whether there is data in the terminal matching the point of interest information.

또한, 본 발명은 카메라의 미리보기 화면 상에서 증강현실을 이용하여 정보를 표시하는 것을 예로 들어 설명하고 있으나, 카메라를 사용하는 다른 기능(화상통화, 네비게이션 등)을 실행할 때도 적용 가능하다.In addition, although the present invention describes the display of information using the augmented reality on the preview screen of the camera, it is also applicable to the execution of other functions (video call, navigation, etc.) using the camera.

또한, 본 발명의 일 실시 예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는, 단말기의 제어부(180)를 포함할 수도 있다.Further, according to an embodiment of the present invention, the above-described method can be implemented as computer-readable code on a medium on which a program is recorded. The computer readable medium includes all kinds of recording devices in which data that can be read by a computer system is stored. Examples of the computer-readable medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage, and the like, and also implemented in the form of a carrier wave (for example, transmission over the Internet) . In addition, the computer may include a control unit 180 of the terminal.

상기와 같이 설명된 단말기는 상기 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.The above-described terminal may be configured such that the configuration and method of the embodiments described above are not limitedly applied, but the embodiments may be configured such that all or some of the embodiments are selectively combined so that various modifications can be made. have.

100: 이동단말기 110: 무선통신부
120: A/V 입력부 121: 카메라
130: 사용자 입력부 140: 센싱부
142: 전자 나침반 143: 가속도 센서
150: 출력부 160: 메모리
170: 인터페이스부 180: 제어부
190: 전원 공급부
100: mobile terminal 110: wireless communication unit
120: A / V input unit 121: camera
130: user input unit 140: sensing unit
142: electronic compass 143: acceleration sensor
150: output unit 160: memory
170: interface unit 180: control unit
190: Power supply

Claims (10)

카메라를 구동하여 실시간으로 입력되는 실사 영상을 수신하는 단계와,
상기 실사 영상을 수신하며 단말기의 위치 및 자세를 측정하는 단계와,
상기 측정된 단말기의 위치 및 자세 정보를 이용하여 상기 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 요청하는 메시지를 생성하여 증강현실 서비스 서버에 전송하는 단계와,
상기 증강현실 서비스 서버로부터 요청한 관심 지점 정보를 수신하여 상기 실사 영상에 중첩하여 표시하는 단계와,
상기 관심 지점 정보와 관련된 추가 정보의 검색을 위한 검색 요청을 수신하는 단계와,
상기 검색 요청에 응답하여, 상기 추가 정보의 검색을 위한 검색 범위를 설정하는 단계와,
상기 설정된 검색 범위 내에서, 상기 추가 정보를 검색하는 단계와,
상기 검색된 추가 정보를 상기 실사 영상에 중첩하여 표시하는 단계를 포함하는 것을 특징으로 하는 이동단말기의 증강현실을 이용한 정보 표시 방법.
Receiving a real-time image input in real time by driving a camera,
Measuring a position and a posture of the terminal by receiving the real image,
Generating a message requesting point of interest information on an object included in the real image using the measured position and attitude information of the terminal, and transmitting the message to the augmented reality service server;
Receiving the requested point of interest information from the augmented reality service server, superimposing and displaying the point of interest information on the real image,
Receiving a search request for retrieving additional information related to the point of interest information;
Setting a search range for searching for the additional information in response to the search request;
Searching the additional information within the set search range,
And superimposing the searched additional information on the real image to display the information.
제1항에 있어서, 상기 관심 지점 정보 표시 단계는,
상기 실사 영상에 포함된 대상물들 중 상기 수신한 관심 지점 정보에 대응하는 대상물에 그 윤곽을 표시하는 것을 특징으로 하는 이동단말기의 증강현실을 이용한 정보 표시 방법.
The method according to claim 1,
And displaying an outline of an object corresponding to the received interest point information among the objects included in the real image using the augmented reality information of the mobile terminal.
제1항에 있어서, 상기 관심 지점 정보 표시 단계에서,
상기 관심 지점 정보가 존재하는 대상물 중 어느 하나가 선택되면 그 선택된 대상물에 대한 관심 지점 정보를 저장하는 단계를 더 포함하는 것을 특징으로 하는 이동단말기의 증강현실을 이용한 정보 표시 방법.
The method according to claim 1,
Further comprising the step of storing the point-of-interest information on the selected object when any one of the objects having the point-of-interest information is selected.
삭제delete 제1항에 있어서, 상기 검색된 정보 표시 단계는,
상기 검색된 추가 정보와 관련된 대상물이 표시된 영역과 인접한 영역 상에 상기 검색된 추가 정보에 대응되는 아이콘을 표시하는 단계와,
상기 표시된 아이콘 중 어느 하나가 선택되면 그 선택된 아이콘에 대응되는 추가 정보를 표시하는 단계를 포함하는 것을 특징으로 하는 이동단말기의 증강현실을 이용한 정보 표시 방법.
The method according to claim 1,
Displaying an icon corresponding to the retrieved additional information on an area adjacent to the area where the object related to the retrieved additional information is displayed;
And displaying additional information corresponding to the selected icon if any one of the displayed icons is selected.
제5항에 있어서,
상기 검색된 추가 정보를 이용하여 실행할 수 있는 동작 실행 아이콘을 상기 검색된 추가 정보와 함께 표시하는 것을 특징으로 하는 이동단말기의 증강현실을 이용한 정보 표시 방법.
6. The method of claim 5,
And displaying an operation execution icon that can be executed using the searched additional information together with the searched additional information.
제1항에 있어서,
단말기의 흔들림이 감지되면 상기 검색된 추가 정보에 포함된 전화번호로 발신을 시도하는 단계를 더 포함하는 것을 특징으로 하는 이동단말기의 증강현실을 이용한 정보 표시 방법.
The method according to claim 1,
The method of claim 1, further comprising the step of attempting a call with a phone number included in the searched additional information if the shaking of the terminal is detected.
실시간을 입력되는 실사 영상을 획득하는 카메라와,
상기 카메라의 위치 정보를 수신하는 위치 정보 모듈과,
상기 카메라의 자세를 측정하는 센싱부와,
상기 측정한 위치 및 자세 정보를 이용하여 상기 실사 영상에 포함된 대상물에 대한 관심 지점 정보를 요청하여 증강현실 서비스 서버로부터 제공되는 관심 지점 정보를 수신하여 상기 실사 영상에 중첩하여 표시하는 제어부를 포함하고,
상기 제어부는
상기 관심 지점 정보와 관련된 추가 정보의 검색을 위한 검색 요청을 수신하면, 상기 검색 요청에 응답하여, 상기 추가 정보의 검색을 위한 검색 범위를 설정하고, 상기 설정된 검색 범위 내에서, 상기 추가 정보를 검색하며, 상기 검색된 추가 정보를 상기 실사 영상 위에 중첩하여 표시하는 것을 특징으로 하는 이동단말기.
A camera for acquiring a real image to be input in real time,
A position information module for receiving position information of the camera;
A sensing unit for measuring a posture of the camera,
And a control unit for receiving point of interest information about an object included in the real image using the measured position and attitude information, receiving point of interest information provided from the augmented reality service server, and displaying the point of interest information superimposed on the real image, ,
The control unit
A search range setting unit configured to set a search range for searching for the additional information in response to the search request when receiving a search request for searching for additional information related to the point of interest information, And displays the searched additional information on the real image in a superimposed manner.
제8항에 있어서, 상기 제어부는,
상기 추가 정보가 검색되면, 상기 획득한 영상에 포함된 대상물 중 상기 추가 정보에 대응되는 대상물이 표시된 영역과 인접한 영역에 상기 추가 정보를 표시하는 것을 특징으로 하는 이동단말기.
9. The apparatus according to claim 8,
Wherein the additional information is displayed in an area adjacent to an area where an object corresponding to the additional information is displayed among the objects included in the acquired image when the additional information is retrieved.
제8항에 있어서,
상기 검색 범위는 사용자의 입력에 의하여 설정되는 것을 특징으로 하는 이동 단말기.
9. The method of claim 8,
Wherein the search range is set by an input of a user.
KR1020100064108A 2010-07-02 2010-07-02 Mobile terminal and method for displaying data using augmented reality thereof KR101658087B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100064108A KR101658087B1 (en) 2010-07-02 2010-07-02 Mobile terminal and method for displaying data using augmented reality thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100064108A KR101658087B1 (en) 2010-07-02 2010-07-02 Mobile terminal and method for displaying data using augmented reality thereof

Publications (2)

Publication Number Publication Date
KR20120003323A KR20120003323A (en) 2012-01-10
KR101658087B1 true KR101658087B1 (en) 2016-09-21

Family

ID=45610366

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100064108A KR101658087B1 (en) 2010-07-02 2010-07-02 Mobile terminal and method for displaying data using augmented reality thereof

Country Status (1)

Country Link
KR (1) KR101658087B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11592311B2 (en) 2019-02-19 2023-02-28 Samsung Electronics Co., Ltd. Method and apparatus for displaying surrounding information using augmented reality

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101678271B1 (en) 2011-06-05 2016-11-21 애플 인크. Systems and methods for displaying notifications received from multiple applications
US9002322B2 (en) 2011-09-29 2015-04-07 Apple Inc. Authentication with secondary approver
KR101303166B1 (en) * 2012-01-26 2013-09-09 엘지전자 주식회사 Mobile terminal and photo searching method thereof
EP2858027A4 (en) 2012-05-31 2016-10-12 Intel Corp Method, server, and computer-readable recording medium for providing augmented reality service
KR101892007B1 (en) * 2012-07-05 2018-08-27 엘지전자 주식회사 Mobile terminal and control method thereof
US9705831B2 (en) 2013-05-30 2017-07-11 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
US10439972B1 (en) 2013-05-30 2019-10-08 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
US10082926B1 (en) 2014-02-21 2018-09-25 Snap Inc. Apparatus and method for alternate channel communication initiated through a common message thread
US9276886B1 (en) 2014-05-09 2016-03-01 Snapchat, Inc. Apparatus and method for dynamically configuring application component tiles
KR101929372B1 (en) 2014-05-30 2018-12-17 애플 인크. Transition from use of one device to another
US9225897B1 (en) 2014-07-07 2015-12-29 Snapchat, Inc. Apparatus and method for supplying content aware photo filters
USD796499S1 (en) 2014-11-26 2017-09-05 Samsung Electronics Co., Ltd. Electronic device
DK201670622A1 (en) 2016-06-12 2018-02-12 Apple Inc User interfaces for transactions
CN111343060B (en) 2017-05-16 2022-02-11 苹果公司 Method and interface for home media control
US20220279063A1 (en) 2017-05-16 2022-09-01 Apple Inc. Methods and interfaces for home media control
KR102583682B1 (en) * 2019-03-14 2023-10-04 삼성전자주식회사 Electronic device and method for dispalying sharing information based on augmented reality
KR20220027295A (en) 2019-05-31 2022-03-07 애플 인크. User interfaces for audio media control
US11010121B2 (en) 2019-05-31 2021-05-18 Apple Inc. User interfaces for audio media control
US10880496B1 (en) 2019-12-30 2020-12-29 Snap Inc. Including video feed in message thread
US11392291B2 (en) 2020-09-25 2022-07-19 Apple Inc. Methods and interfaces for media control with dynamic feedback
US11449188B1 (en) 2021-05-15 2022-09-20 Apple Inc. Shared-content session user interfaces
US11907605B2 (en) 2021-05-15 2024-02-20 Apple Inc. Shared-content session user interfaces
US11847378B2 (en) 2021-06-06 2023-12-19 Apple Inc. User interfaces for audio routing

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100651508B1 (en) * 2004-01-30 2006-11-29 삼성전자주식회사 Method for providing local information by augmented reality and local information service system therefor
KR101285360B1 (en) * 2007-01-25 2013-07-11 삼성전자주식회사 Point of interest displaying apparatus and method for using augmented reality
KR20090079636A (en) * 2008-01-18 2009-07-22 삼성전자주식회사 Method for executing communication by sensing movement and mobile communication terminal using the same
KR101592943B1 (en) * 2008-12-11 2016-02-12 엘지전자 주식회사 Mobile Terminal And Method Of Managing Data Thereof

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11592311B2 (en) 2019-02-19 2023-02-28 Samsung Electronics Co., Ltd. Method and apparatus for displaying surrounding information using augmented reality

Also Published As

Publication number Publication date
KR20120003323A (en) 2012-01-10

Similar Documents

Publication Publication Date Title
KR101658087B1 (en) Mobile terminal and method for displaying data using augmented reality thereof
KR101572892B1 (en) Mobile terminal and Method for displying image thereof
US10241743B2 (en) Mobile terminal for matching displayed text with recorded external audio and method of controlling the mobile terminal
KR101667715B1 (en) Method for providing route guide using augmented reality and mobile terminal using this method
KR101531193B1 (en) Method for controlling map and mobile terminal using the same
KR101608761B1 (en) Mobile terminal and method for controlling the same
US8666454B2 (en) Mobile terminal and method of controlling the same
KR101698096B1 (en) Method for searching information by using drawing and terminal thereof
KR20120046991A (en) Mobile terminal and method for controlling the same
KR20100050595A (en) Method of controlling instant message and mobile terminal using the same
KR101726227B1 (en) Method for providing location based service using augmented reality and terminal thereof
KR101695812B1 (en) Mobile terminal and method for controlling the same
KR20120032336A (en) Method for displaying information of augmented reality and terminal thereof
KR101781849B1 (en) Mobile terminal and method for controlling the same
KR20150017899A (en) Mobile terminal and control method thereof
KR101646097B1 (en) Method of providing active user interface and Mobile Terminal thereof
KR101476201B1 (en) Mobile terminal and display method thereof
KR101604698B1 (en) Mobile terminal and method for controlling the same
KR20130008109A (en) Mobile terminal, news providing apparatus and position based news providing method
KR101581468B1 (en) The method for displaying map data in mobile terminal and mobile terminal thereof
KR101721874B1 (en) Mobile terminal and image display method thereof
KR101685979B1 (en) Mobile terminal and method for controlling the same
KR101463998B1 (en) Mobile Terminal And Method Of Providing Traffic Information Map Using Same
KR20150092624A (en) Electronic device and control method thereof
KR20140049256A (en) Mobile terminal and method for controlling the same

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant