KR20120025206A - Mobile terminal and method for controlling the same - Google Patents
Mobile terminal and method for controlling the same Download PDFInfo
- Publication number
- KR20120025206A KR20120025206A KR1020100087455A KR20100087455A KR20120025206A KR 20120025206 A KR20120025206 A KR 20120025206A KR 1020100087455 A KR1020100087455 A KR 1020100087455A KR 20100087455 A KR20100087455 A KR 20100087455A KR 20120025206 A KR20120025206 A KR 20120025206A
- Authority
- KR
- South Korea
- Prior art keywords
- object information
- event
- haptic
- mobile terminal
- controller
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0412—Digitisers structurally integrated in a display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0416—Control or interface arrangements specially adapted for digitisers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
- H04B1/38—Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
- H04B1/3827—Portable transceivers
- H04B1/3833—Hand-held transceivers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
- H04B1/38—Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
- H04B1/40—Circuits
- H04B1/401—Circuits for selecting or indicating operating mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M2203/00—Aspects of automatic or semi-automatic exchanges
- H04M2203/35—Aspects of automatic or semi-automatic exchanges related to information services provided via a voice call
- H04M2203/359—Augmented reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M2250/00—Details of telephonic subscriber devices
- H04M2250/52—Details of telephonic subscriber devices including functional features of a camera
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Graphics (AREA)
- Multimedia (AREA)
- Telephone Function (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
본 발명은 사용자의 편의가 더욱 고려되어 단말기의 사용이 구현될 수 있도록 하는 이동 단말기 및 그 제어 방법에 관한 것이다.The present invention relates to a mobile terminal and a method of controlling the same so that user's convenience can be further considered to enable the use of the terminal.
단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다. The terminal can move And can be divided into a mobile / portable terminal and a stationary terminal depending on whether the mobile terminal is a mobile terminal or a mobile terminal. The mobile terminal may be further classified into a handheld terminal and a vehicle mount terminal according to whether a user can directly carry it.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다. Such a terminal has various functions, for example, in the form of a multimedia device having multiple functions such as photographing and photographing of a moving picture, reproduction of a music or video file, reception of a game and broadcasting, etc. .
이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.In order to support and increase the function of such a terminal, it may be considered to improve the structural part and / or the software part of the terminal.
최근 이동 단말기에는 카메라의 프리뷰 영상 내에 위치하는 객체에 관한 정보를 제공하는 확장 현실(Augmented Reality) ("증강현실" 또는 "AR"이라고도 호칭됨) 기능을 구비하고 있다.Recently, mobile terminals have an augmented reality (also called "augmented reality" or "AR") function that provides information about an object located in a preview image of a camera.
본 발명의 목적은, 증강 현실과 연관된 이벤트 발생 시에 서로 다른 촉각 효과를 이용하여 상기 발생된 이벤트를 사용자에게 알릴 수 있는 이동 단말기 및 그 제어 방법을 제공하는데 그 목적이 있다.An object of the present invention is to provide a mobile terminal and a control method thereof that can notify a user of the generated event using different tactile effects when an event associated with augmented reality occurs.
상기 목적을 달성하기 위한 본 발명에 따른 이동 단말기는, 증강 현실을 위한 프리뷰 영상이 입력되는 카메라와; 다수의 지역 내의 객체들에 대한 객체 정보가 포함된 맵 데이터를 구비한 메모리와; 다수의 촉각 효과를 발생시키는 햅틱부와; 이동 단말기의 현재 위치 파악을 위한 위치 정보부와; 상기 프리뷰 영상 표시를 위한 디스플레이부와; 상기 이동 단말기의 현재 위치를 근거로 상기 맵 데이터에서 상기 프리뷰 영상 내의 객체들에 관한 객체 정보들을 검색하여 표시하고, 상기 증강 현실과 연관된 이벤트가 발생되면, 상기 이벤트에 대응하는 촉각 효과를 발생하도록 상기 햅틱부를 제어하는 제어부;를 포함하여 이루어진다.According to an aspect of the present invention, there is provided a mobile terminal comprising: a camera to which a preview image for augmented reality is input; A memory having map data containing object information about objects in the plurality of regions; A haptic unit for generating a plurality of haptic effects; A location information unit for identifying a current location of the mobile terminal; A display unit for displaying the preview image; Search for and display object information about objects in the preview image from the map data based on a current location of the mobile terminal, and generate an tactile effect corresponding to the event when an event associated with the augmented reality occurs. And a control unit for controlling the haptic unit.
이때, 상기 촉각 효과는 특정 세기 및 패턴 중 적어도 하나를 가지는 진동이 될 수 있다.In this case, the haptic effect may be a vibration having at least one of a specific intensity and pattern.
또한, 상기 이벤트는 상기 프리뷰 영상 내에 하나 이상의 새로운 객체 정보들이 표시되는 이벤트이고, 상기 제어부는 상기 햅틱부를 통해 상기 새로운 객체 정보들이 표시됨을 나타내는 촉각 효과를 발생시킬 수 있다. 이때, 상기 제어부는 상기 새로운 객체 정보들의 개수를 파악하고, 상기 파악된 개수와 동일하게 순차적으로 촉각 효과를 발생시킬 수 있다. 또한, 상기 제어부는 상기 새로운 객체 정보들의 서로에 대한 각각의 근접도를 파악하고, 상기 파악된 각각의 근접도에 따라 순차적으로 촉각 효과를 발생시키되, 상기 근접도와 상기 촉각 효과 발생 주기가 비례하도록 제어할 수 있다.The event may be an event in which one or more pieces of new object information are displayed in the preview image, and the controller may generate a tactile effect indicating that the new object information is displayed through the haptic unit. In this case, the controller may determine the number of new object information and sequentially generate a tactile effect in the same manner as the identified number. The controller may determine the proximity of each of the new object information to each other, and sequentially generate a tactile effect according to the identified proximity, and control the proportion of the proximity and the tactile effect generation period to be proportional to each other. can do.
또한, 상기 이벤트는 상기 객체 정보들 중 특정 객체 정보의 선택 이벤트이고, 상기 제어부는 상기 햅틱부를 통해 상기 특정 객체 정보가 선택됨을 나타내는 촉각 효과를 발생시킬 수 있다.The event may be a selection event of specific object information among the object information, and the controller may generate a tactile effect indicating that the specific object information is selected through the haptic unit.
또한, 상기 이벤트는 상기 카메라의 촬영 시점 변화에 따른 상기 프리뷰 영상의 표시 변화 이벤트이고, 상기 제어부는 상기 햅틱부를 통해 상기 프리뷰 영상이 변화됨을 나타내는 촉각 효과를 발생시킬 수 있다. 이때, 상기 제어부는 상기 프리뷰 영상의 표시 변화에 따라 상기 객체 정보들이 변화되면, 상기 객체 정보들이 변화됨을 나타내는 촉각 효과를 발생시킬 수 있다.The event may be a display change event of the preview image according to a change of a photographing time point of the camera, and the controller may generate a tactile effect indicating that the preview image is changed through the haptic unit. In this case, the controller may generate a tactile effect indicating that the object information is changed when the object information is changed according to the display change of the preview image.
또한, 상기 이벤트는 상기 증강 현실과 연관된 사운드(sound) 출력 이벤트이고, 상기 제어부는 상기 사운드 출력을 나타내는 촉각 효과를 발생시킬 수 있다. 이때, 상기 제어부는 상기 사운드의 출력이 변화되면, 상기 사운드의 출력이 변화됨을 나타내는 촉각 효과를 발생시킬 수 있다.The event may be a sound output event associated with the augmented reality, and the controller may generate a tactile effect indicating the sound output. In this case, when the output of the sound is changed, the controller may generate a tactile effect indicating that the output of the sound is changed.
또한, 상기 이벤트는 특정 객체에 대한 객체 정보의 검색 명령이 입력된 이벤트이고, 상기 제어부는 상기 맵 데이터를 이용하여 상기 명령에 해당하는 객체 정보를 검색하고, 상기 햅틱부를 통해 상기 검색된 객체 정보를 나타내는 촉각 효과를 발생시킬 수 있다. 이때, 상기 제어부는 상기 검색된 객체 정보가 상기 프리뷰 영상 내에 존재하면, 상기 햅틱부를 통해 상기 객체 정보가 상기 프리뷰 영상 내에 존재함을 나타내는 촉각 효과를 발생시킬 수 있다. 또한, 상기 제어부는 상기 촉각 효과를 발생하는 중에는 상기 검색된 객체 정보를 진동과 같은 떨리는 형상으로 표시할 수도 있다. 또한, 상기 제어부는 상기 검색된 객체 정보와 상기 이동 단말기 간의 거리가 근접해질수록 상기 촉각 효과의 강도를 변화시킬 수도 있다. 또한, 상기 제어부는 상기 검색된 객체 정보가 상기 프리뷰 영상 내에 존재하지 않으면, 상기 햅틱부를 통해 상기 검색된 객체 정보가 위치한 방향을 나타내는 촉각 효과를 발생시킬 수 있다. 이때, 상기 햅틱부는 상기 이동 단말기 본체에 복수개 이상 구비되고, 상기 제어부는 상기 복수 이상의 햅틱부들 각각의 촉각 효과 발생 강도를 조절하여 상기 객체 정보가 위치한 방향을 나타내는 촉각 효과를 발생시킬 수 있다. 또한, 상기 제어부는 상기 검색된 객체 정보가 위치한 방향을 나타내는 정보를 표시할 수도 있다.The event is an event in which a search command for object information regarding a specific object is input, and the controller searches for object information corresponding to the command using the map data, and indicates the searched object information through the haptic unit. Can produce a haptic effect. In this case, when the retrieved object information exists in the preview image, the controller may generate a tactile effect indicating that the object information exists in the preview image through the haptic unit. The controller may display the retrieved object information in a shaking shape such as vibration while generating the tactile effect. The controller may change the intensity of the haptic effect as the distance between the retrieved object information and the mobile terminal approaches. In addition, if the retrieved object information does not exist in the preview image, the controller may generate a tactile effect indicating a direction in which the retrieved object information is located through the haptic unit. In this case, the haptic unit may be provided in plural or more in the main body of the mobile terminal, and the controller may generate a tactile effect indicating the direction in which the object information is located by adjusting the intensity of tactile effect generation of each of the haptic units. In addition, the controller may display information indicating a direction in which the found object information is located.
또한, 상기 이벤트는 특정 객체 정보까지의 이동 경로 안내 명령이 입력된 이벤트이고, 상기 제어부는 상기 맵 데이터를 이용하여 상기 명령에 해당하는 객체 정보까지의 이동 경로를 검색하고, 상기 햅틱부를 통해 상기 검색된 이동 경로의 방향을 나타내는 촉각 효과를 발생시킬 수 있다. 이때, 상기 제어부는 상기 이동 단말기가 상기 검색된 이동 경로를 이탈하면, 상기 이동 경로 이탈을 나타내는 촉각 효과를 발생시킬 수 있다.The event may be an event in which a movement path guidance command to specific object information is input, and the controller searches for a movement path to object information corresponding to the command by using the map data, and retrieves the detected path through the haptic unit. A tactile effect indicative of the direction of travel can be generated. In this case, when the mobile terminal deviates from the searched movement path, the controller may generate a tactile effect indicating departure of the movement path.
또한, 본 발명에 따른 이동 단말기의 제어 방법은, 화면 상에 카메라로부터 입력되는 증강 현실을 위한 프리뷰 영상을 표시하는 단계와; 이동 단말기의 현재 위치를 파악하는 단계와; 상기 현재 위치를 근거로 상기 프리뷰 영상 내의 복수의 객체들에 관한 객체 정보들을 검색하여 표시하는 단계와; 상기 증강 현실과 연관된 이벤트의 발생을 감지하는 단계와; 상기 이벤트가 발생되면, 촉각 효과를 발생시키는 햅틱부를 이용하여 상기 이벤트에 대응하는 촉각 효과를 발생시키는 단계;를 포함하여 이루어진다.In addition, the control method of the mobile terminal according to the present invention comprises the steps of: displaying a preview image for augmented reality input from the camera on the screen; Determining a current location of the mobile terminal; Searching for and displaying object information about a plurality of objects in the preview image based on the current location; Detecting the occurrence of an event associated with the augmented reality; Generating the haptic effect corresponding to the event by using the haptic unit generating the haptic effect when the event occurs.
본 발명에 따른 이동 단말기 및 그 제어 방법은, 증강 현실과 연관된 다양한 이벤트를 다양한 촉각 효과를 이용하여 사용자에게 알릴 수 있는 효과가 있다.The mobile terminal and its control method according to the present invention have the effect of informing the user of various events related to augmented reality using various tactile effects.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2a은 본 발명의 일 실시예에 관련된 이동 단말기의 전면 사시도이다.
도 2b는 본 발명의 일 실시예에 관련된 이동 단말기의 후면 사시도이다.
도 3은 본 발명에 따라 다양한 촉각 효과를 이용하여 증강 현실과 연관된 이벤트 발생을 알리는 과정을 나타낸 흐름도이다.
도 4 내지 도 6은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제1 실시예 화면 상태도이다.
도 7은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제2 실시예 화면 상태도이다.
도 8은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제3 실시예 화면 상태도이다.
도 9는 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제4 실시예 화면 상태도이다.
도 10은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제5 실시예 화면 상태도이다.
도 11 내지 도 13은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제6 실시예 화면 상태도이다.
도 14 내지 도 17은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제7 실시예 화면 상태도이다.
도 18은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제8 실시예 화면 상태도이다.1 is a block diagram of a mobile terminal according to an embodiment of the present invention.
2A is a front perspective view of a mobile terminal according to an embodiment of the present invention.
2B is a rear perspective view of a mobile terminal according to an embodiment of the present invention.
3 is a flowchart illustrating a process of notifying occurrence of an event associated with augmented reality using various tactile effects according to the present invention.
4 to 6 are screen diagrams of a first embodiment illustrating a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
7 is a screen diagram of a second embodiment showing a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
8 is a screen diagram of a third embodiment illustrating a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
FIG. 9 is a screen diagram of a fourth embodiment illustrating a process of generating a tactile effect indicating an event related to augmented reality according to the present invention. FIG.
FIG. 10 is a screen diagram of a fifth embodiment illustrating a process of generating a tactile effect representing an event related to augmented reality according to the present invention. FIG.
11 to 13 are screen views illustrating a sixth embodiment showing a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
14 to 17 are screen diagrams illustrating a seventh embodiment of a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
18 is a diagram illustrating an eighth embodiment showing a process of generating a tactile effect indicating an event related to augmented reality according to the present invention.
이하, 본 발명과 관련된 단말기에 대하여 도면을 참조하여, 더욱 상세하게 설명한다.Hereinafter, a terminal according to the present invention will be described in more detail with reference to the accompanying drawings.
이하의 설명에서 사용되는 구성 요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있음을 유념해야 한다. The suffixes "module" and "unit" for the components used in the following description are merely given in consideration of ease of preparation of the present specification, and do not give particular meanings or roles by themselves. Therefore, it should be noted that the "module" and "unit" may be used interchangeably with each other.
본 발명에 따른 이동 단말기는 다양한 형태로 구현될 수 있다. 예를 들어, 본 명세서에서 기술되는 이동 단말기는, 3차원 입체 방송 신호의 수신이 가능한 이동 단말기로써, 스마트 폰(smart phone), PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션, 노트북, PC 등이 될 수 있다.The mobile terminal according to the present invention can be implemented in various forms. For example, the mobile terminal described in the present specification is a mobile terminal capable of receiving a 3D stereoscopic broadcast signal, and includes a smart phone, a personal digital assistant (PDA), a portable multimedia player (PMP), a navigation device, a notebook computer, and the like. , PC, etc.
이하, 도면 1을 참조하여 먼저, 본 발명에 따른 이동 단말기에 대해 상세히 설명한다.Hereinafter, a mobile terminal according to the present invention will be described in detail with reference to FIG. 1.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기를 나타낸 블록 구성도(block diagram)이다.1 is a block diagram illustrating a mobile terminal according to an embodiment of the present invention.
상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.The
이하, 상기 구성요소들에 대해 차례로 살펴본다.Hereinafter, the components will be described in order.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신부(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.The
방송 수신부(111)는 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 상기 방송과 관련된 정보를 수신한다. The
한편, 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. Meanwhile, the broadcast channel may include a satellite channel and a terrestrial channel. The broadcast management server may mean a server that generates and transmits a broadcast signal and / or broadcast related information or a server that receives a previously generated broadcast signal and / or broadcast related information and transmits the same to a terminal. The broadcast signal may include not only a TV broadcast signal, a radio broadcast signal, and a data broadcast signal, but also a broadcast signal having a data broadcast signal combined with a TV broadcast signal or a radio broadcast signal.
상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.The broadcast related information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider. The broadcast related information may also be provided through a mobile communication network. In this case, it may be received by the
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 방송 편성 정보로 존재할 수 있다.The broadcast related information may exist in various forms. For example, it may be present as broadcast programming information such as an electronic program guide (EPG) of digital multimedia broadcasting (DMB) or an electronic service guide (ESG) of digital video broadcast-handheld (DVB-H).
상기 방송 수신부(111)는, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS, OMA-BCAST, ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.The
이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.The
또한, 이동통신 모듈(112)은 추후에 설명되는 위치 정보 모듈(115)을 통해 획득된 이동 단말기(100)의 현재 위치 정보를 외부 서버(미도시)로 송신하고, 상기 외부 서버로부터 상기 이동 단말기(100)가 위치한 지역과 관련된 데이터를 수신 또는 다운로드할 수 있다.In addition, the
이때, 상기 데이터 내에는 상기 이동 단말기(100)가 위치한 지역을 나타내는 영상 이외에도 상기 지역 내의 세부적인 맵 데이터가 포함될 수 있다.In this case, the map may include detailed map data in the region in addition to the image indicating the region where the
또한, 상기 맵 데이터 내에는 상기 이동 단말기(100)가 위치한 지역의 특정 반경 내에 위치하는 객체들에 관한 객체 정보들이 포함될 수 있다. 이때, 상기 객체들은 일 예로, 빌딩 또는 건물 등이 될 수 있고, 또한, 상기 빌딩 또는 건물 내에 위치한 병원, 식당, 공중 화장실, 경찰서, 주민센터 등이 될 수 있다.In addition, the map data may include object information about objects located within a specific radius of the region where the
또한, 상기 맵 데이터 내에는 각 지역의 실제적인 실사 이미지 및 상기 실사 이미지 내에 포함된 객체들의 위치 정보 및 상기 객체들에 대한 세부 정보가 포함된다.In addition, the map data includes an actual photorealistic image of each region, location information of objects included in the photorealistic image, and detailed information about the objects.
이때, 상기 실사 이미지는 카메라(121)를 통해 입력되는 프리뷰 영상과 동일한 시점을 가지는 이미지가 되거나 또는 항공 시점에 해당하는 위성 뷰 영상이 될 수도 있다.In this case, the live-action image may be an image having the same viewpoint as the preview image input through the
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The
또한, 무선 인터넷 모듈(113)은 상술한 바와 같이 상기 외부 서버로부터 상기 이동 단말기(100)가 위치한 지역과 관련된 상기 데이터를 수신 또는 다운로드할 수 있다.In addition, as described above, the
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.The short
또한, 근거리 통신 모듈(114)은 상술한 바와 같이 상기 외부 서버 또는 근접한 거리에 위치한 타 단말기로부터 상기 이동 단말기(100)가 위치한 지역과 관련된 상기 데이터를 수신 또는 다운로드할 수 있다.In addition, the short-
위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다. The
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.Referring to FIG. 1, the A /
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다.The image frame processed by the
이때, 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.At this time, two or
일 예로, 상기 카메라(121)는 이동 단말기(100)의 디스플레이부(151)가 구비된 반대면에 3D 영상 촬영을 위한 제1 및 제2 카메라(121a, 121b)가 구비될 수 있고, 상기 이동 단말기(100)의 디스플레이부(151)가 구비된 면의 일부 영역에 사용자의 셀프 촬영을 위한 제3 카메라(121c)가 구비될 수 있다.For example, the
이때, 제1 카메라(121a)는 3D 영상의 소스 영상인 좌안 영상 촬영을 위한 것이고, 제2 카메라(121b)는 우안 영상 촬영을 위한 것이 될 수 있다.In this case, the first camera 121a may be for photographing a left eye image, which is a source image of a 3D image, and the second camera 121b may be for photographing a right eye image.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.The
또한, 마이크(122)는 본 발명에 따라, 사용자의 날숨이 입력되면, 상기 날숨의 세기, 패턴 및 길이 중 적어도 하나를 파악하여 제어부(180)로 출력한다.In addition, according to the present invention, when the user's exhalation is input, the
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.The
센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. 이에 대해서는 나중에 터치스크린과 관련되어 후술된다.The
한편, 센싱부(140)에는 이동 단말기(100) 본체의 모션(motion)을 감지하고, 상기 감지된 결과를 제어부(180)로 출력하는 모션 센서(도시되지 않음)가 더 구비된다.Meanwhile, the
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 햅틱 모듈(154) 및 프로젝터 모듈(155) 등이 포함될 수 있다.The
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기(100)가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다. The
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. The
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.Some of these displays can be configured to be transparent or light transmissive so that they can be seen from the outside. This may be referred to as a transparent display. A representative example of the transparent display is TOLED (Transparant OLED). The rear structure of the
이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다. According to an implementation form of the
디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.When the
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. The touch sensor may be configured to convert a change in pressure applied to a specific portion of the
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.If there is a touch input to the touch sensor, the corresponding signal (s) is sent to a touch controller (not shown). The touch controller processes the signal (s) and then transmits the corresponding data to the
상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다. The
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.Examples of the proximity sensor include a transmission photoelectric sensor, a direct reflection photoelectric sensor, a mirror reflection photoelectric sensor, a high frequency oscillation proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor. When the touch screen is capacitive, the touch screen is configured to detect the proximity of the pointer by the change of the electric field according to the proximity of the pointer. In this case, the touch screen (touch sensor) may be classified as a proximity sensor.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.Hereinafter, for convenience of explanation, the act of allowing the pointer to be recognized without being in contact with the touch screen so that the pointer is located on the touch screen is referred to as a "proximity touch", and the touch The act of actually touching the pointer on the screen is called "contact touch." The position where the proximity touch is performed by the pointer on the touch screen refers to a position where the pointer is perpendicular to the touch screen when the pointer is in proximity proximity.
상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다. The proximity sensor detects a proximity touch and a proximity touch pattern (for example, a proximity touch distance, a proximity touch direction, a proximity touch speed, a proximity touch time, a proximity touch position, and a proximity touch movement state). Information corresponding to the sensed proximity touch operation and proximity touch pattern may be output on the touch screen.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.The
알람 모듈(153)은 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람 모듈(153)은 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있으므로, 이 경우 상기 디스플레이부(151) 및 음성 출력 모듈(152)은 알람 모듈(153)의 일종으로 분류될 수도 있다.The
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동 효과가 있다. 햅틱 모듈(154)이 발생하는 진동의 세기와, 패턴 및 주기 등은 변환 가능하며, 서로 다른 진동을 합성하여 출력하거나 또는 순차적으로 출력할 수도 있다.The
햅틱 모듈(154)은 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. In addition to vibration, the
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성에 따라 2개 이상이 구비될 수 있다.The
일 예로, 햅틱 모듈(154)은 이동 단말기(100) 본체의 좌측 및 우측면에 복수개 구비될 수 있고, 이 경우 상기 복수의 햅틱 모듈들은 제어부(180)의 제어에 따라 좌측에서 우측으로의 방향성 또는 우측에서 좌측으로의 방향성을 가지는 진동을 발생시킬 수 있다.For example, the
다른 일 예로, 햅틱 모듈(154)은 이동 단말기(100) 본체의 상?하?좌?우측우측면에 구비될 수 있고, 이 경우 상기 햅틱 모듈들은 제어부(180)의 제어에 따라 상측에서 하측으로의 방향성과, 하측에서 상측으로의 방향성과, 좌측에서 우측으로의 방향성 및 우측에서 좌측으로의 방향성을 가지는 진동을 발생시킬 수도 있다.As another example, the
프로젝터 모듈(155)은 이동 단말기(100)를 이용하여 이미지 프로젝트(project) 기능을 수행하기 위한 구성요소로서, 제어부(180)의 제어 신호에 따라 디스플레이부(151)상에 디스플레이되는 영상과 동일하거나 적어도 일부가 다른 영상을 외부 스크린 또는 벽에 디스플레이할 수 있다.The
구체적으로, 프로젝터 모듈(155)은 영상을 외부로 출력하기 위한 빛(일 예로서, 레이저 광)을 발생시키는 광원(미도시), 광원에 의해 발생한 빛을 이용하여 외부로 출력할 영상을 생성하기 위한 영상 생성 수단 (미도시), 및 영상을 일정 초점 거리에서 외부로 확대 출력하기 위한 렌즈(미도시)를 포함할 수 있다. 또한, 프로젝터 모듈(155)은, 렌즈 또는 모듈 전체를 기계적으로 움직여 영상 투사 방향을 조절할 수 있는 장치(미도시)를 포함할 수 있다.In detail, the
프로젝터 모듈(155)은 디스플레이 수단의 소자 종류에 따라 CRT(Cathode Ray Tube) 모듈, LCD(Liquid Crystal Display) 모듈 및 DLP(Digital Light Processing) 모듈 등으로 나뉠 수 있다. 특히, DLP 모듈은, 광원에서 발생한 빛이 DMD(Digital Micromirror Device) 칩에 반사됨으로써 생성된 영상을 확대 투사하는 방식으로 프로젝터 모듈(151)의 소형화에 유리할 수 있다.The
바람직하게, 프로젝터 모듈(155)은 이동 단말기(100)의 측면, 정면 또는 배면에 길이 방향으로 구비될 수 있다. 물론, 프로젝터 모듈(155)은, 필요에 따라 이동 단말기(100)의 어느 위치에라도 구비될 수 있음은 당연하다.Preferably, the
메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 전자도서, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도) 및 중요도도 함께 저장될 수 있다.The
또한, 메모리(160)는 상기 카메라(121)에 의해 촬영되는 프리뷰 영상 내의 객체와 관련된 형상 인식 정보 및 상기 위치 정보 모듈(115)을 통해 획득된 이동 단말기(100)의 위치 정보 중 적어도 하나를 이용하여 검색될 수 있는 상기 객체(예를 들면, 건물, 상점, 이정표 등)의 객체 정보가 포함된 맵 데이터를 저장할 수 있다.In addition, the
상기 객체 정보는 상기 형상 인식된 객체의 관련 텍스트 정보(예를 들면, 상기 건물 또는 상기 상점 이름), 관련 링크 정보(예를 들면, 상기 건물 또는 상기 상점의 링크 정보), 관련 이미지 정보(예를 들면, 상기 건물 또는 상기 상점의 이미지 로고) (이에 한정되지 않음), 및 관련 오디오 정보(예를 들면, 상기 건물 또는 상기 상점의 로고송) 중 적어도 하나를 포함할 수 있다. The object information may include related text information (eg, the building or the store name) of the shape-recognized object, related link information (eg, the link information of the building or the store), related image information (eg, For example, the image may include at least one of an image logo of the building or the store) (not limited thereto), and related audio information (for example, a logo song of the building or the store).
또한, 메모리(160)에 저장된 상기 객체 정보들이 포함된 맵 데이터는 상기 무선 통신부(110)를 통해 외부 서버의 데이터베이스로부터 다운로드되거나 업데이트될 수 있다. 또한, 메모리(160)에 저장된 상기 객체 정보들이 포함된 맵 데이터는 상기 외부 서버의 데이터베이스의 전부가 다운로드된 것일 수 있고, 상기 메모리(160)의 용량을 고려하여 상기 외부 서버의 데이터베이스의 일부가 다운로드된 것일 수 있다.In addition, the map data including the object information stored in the
상기 외부 서버의 데이터베이스의 일부는 이동 단말기(100)의 현재 위치에서 일정 거리 이내에 있는 객체에 위한 것이거나, 이동 단말기(100)의 현재 위치와 관련된 일정 지역(예를 들면, 행정 구역)에 있는 객체에 위한 것일 수 있다.Part of the database of the external server is for an object within a certain distance from the current location of the
또한, 메모리(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.In addition, the
상기와 같은, 메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.As described above, the
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다. The
식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. The identification module is a chip that stores various types of information for authenticating the usage rights of the
상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.The interface unit may be a passage through which power from the cradle is supplied to the
제어부(controller)(180)는 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.The
상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. The
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.Various embodiments described herein may be implemented in a recording medium readable by a computer or similar device using, for example, software, hardware or a combination thereof.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.According to a hardware implementation, the embodiments described herein include application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs), and the like. It may be implemented using at least one of processors, controllers, micro-controllers, microprocessors, and electrical units for performing other functions. The described embodiments may be implemented by the
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.According to the software implementation, embodiments such as the procedures and functions described herein may be implemented as separate software modules. Each of the software modules may perform one or more functions and operations described herein. Software code can be implemented in a software application written in a suitable programming language. The software code may be stored in the
도 2a는 본 발명과 관련된 이동 단말기의 일 예를 전면에서 바라본 사시도이다.2A is a front perspective view of an example of a mobile terminal according to the present invention;
개시된 이동 단말기(100)는 바 형태의 본체를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다. The disclosed
바디는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스가 추가로 배치될 수도 있다.The body includes a casing (casing, housing, cover, etc.) that forms an exterior. In this embodiment, the case may be divided into a
케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.The cases may be formed by injecting synthetic resin or may be formed of a metal material, for example, a metal material such as stainless steel (STS) or titanium (Ti).
단말기 바디, 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.The
디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(151)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.The
사용자 입력부(130)는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있다.The
제1 또는 제2 조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드 활성화/비활성화 등과 같은 명령을 입력받을 수 있다.The content input by the first or
도 2b는 도 2a에 도시된 이동 단말기의 후면 사시도이다. FIG. 2B is a rear perspective view of the mobile terminal shown in FIG. 2A.
도 2b를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 같거나 서로 다른 화소를 가지는 카메라일 수 있다. Referring to FIG. 2B, a
예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.For example, the
카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치될 수 있다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.A
단말기 바디의 후면에는 음향 출력 모듈(152')이 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력 모듈(152, 도 2a 참조)과 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.An acoustic output module 152 'may be additionally disposed on the rear side of the terminal body. The
통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 단말기 바디의 측면에 추가적으로 배치될 수 있다. 방송 수신부(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.In addition to the antenna for communication, a broadcast
단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원 공급부(190)가 장착된다. 전원 공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.The terminal body is equipped with a
리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135)는 디스플레이부(151)를 위해 광 투과형으로 구성될 수도 있다. 이 경우에, 디스플레이부(151)가 양면에서(즉, 이동단말기의 전면 및 후면 둘 다의 방향으로) 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다. The
한편, 터치 패드(135) 전용 디스플레이가 별도로 장착됨으로써, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.Meanwhile, since a display dedicated to the
터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.The
이하, 본 발명의 실시예들에서 적용될 수 있는 이동 단말기의 제어 과정에 대해 설명한다.Hereinafter, a control process of a mobile terminal that can be applied in embodiments of the present invention will be described.
도 3은 본 발명에 따라 다양한 촉각 효과를 이용하여 증강 현실과 연관된 이벤트 발생을 알리는 과정을 나타낸 흐름도이다.3 is a flowchart illustrating a process of notifying occurrence of an event associated with augmented reality using various tactile effects according to the present invention.
도 3을 참조하면, 본 발명에 따른 이동 단말기(100)의 제어부(180)는 사용자로부터 증강 현실을 위한 메뉴 기능이 선택되면, 카메라(121)를 구동시키고[S110], 상기 카메라(121)를 통해 입력되는 현재 지역의 프리뷰 영상을 터치스크린(151) 상에 표시한다[S120].Referring to FIG. 3, when a menu function for augmented reality is selected by a user, the
그 다음으로, 제어부(180)는 위치 정보 모듈(115)을 통해 이동 단말기(100)의 현재 위치를 파악한다[S130]. 즉, 위치 정보 모듈(115)은 제어부(180)의 제어에 따라 위성으로부터 이동 단말기(100)의 위도, 경도, 고도 및 방향 등이 포함된 위치 정보를 수신하는 것이다.Next, the
그 다음으로, 제어부(180)는 상기 파악된 이동 단말기(100)의 현재 위치를 근거로 상기 프리뷰 영상 내에 존재하는 하나 이상의 객체들에 관한 객체 정보들을 검색한다[S140]. 이때, 상기 객체 정보는 해당 객체의 명칭과, 연락처와, 세부 위치 등이 포함된다.Next, the
한편, 제어부(180)는 메모리(160) 내의 맵 데이터 내에서 상기 프리뷰 영상 내에 존재하는 객체들에 관한 객체 정보들을 검색할 수도 있다.The
또한, 제어부(180)는 무선 통신부(110)를 통해 외부 서버에 접속하고, 상기 외부 서버에 구비된 객체 정보 데이터베이스 내에서 상기 프리뷰 영상 내에 존재하는 객체들에 관한 객체 정보들을 검색하여 다운로드할 수도 있다.In addition, the
또한, 제어부(180)는 상기 프리뷰 영상 내에 존재하는 객체들의 형상을 인식하고, 상기 메모리(160) 내의 맵 데이터 내에서 상기 인식된 형상에 해당하는 객체 정보들을 검색할 수도 있다.In addition, the
또한, 제어부(180)는 상기 프리뷰 영상 내에 존재하는 객체들의 형상을 인식하고, 상기 무선 통신부(110)를 통해 상기 외부 서버에 구비된 객체 정보 데이터베이스 내에서 상기 인식된 형상에 해당하는 객체 정보들을 검색하여 다운로드할 수도 있다.In addition, the
제어부(180)는 상기와 같이, 상기 프리뷰 영상 내에 존재하는 객체들에 대한 객체 정보들이 검색되면, 상기 검색된 객체 정보들을 상기 증강 현실을 위한 프리뷰 영상 내의 해당 객체들의 위치에 각각 표시한다[S150].As described above, when object information regarding objects existing in the preview image is searched for, the
그 다음으로, 제어부(180)는 상기 객체 정보들을 상기 증강 현실을 위한 프리뷰 영상 내에 표시한 상태에서, 상기 증강 현실과 관련된 이벤트가 발생되는지를 감지한다[S160].Next, the
이때, 상기 증강 현실과 관련된 이벤트는, 상기 프리뷰 영상 내의 객체 또는 객체 정보들의 표시가 변화되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 프리뷰 영상 내에 새로운 객체 또는 객체 정보가 표시되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 프리뷰 영상 내의 객체 정보들 중 특정 객체 정보가 선택되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 사용자가 이동 단말기(100)를 움직임에 따라 카메라(121)의 촬영 시점이 변경되어 상기 프리뷰 영상이 변화되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 카메라(121)의 촬영 시점이 변경되어 상기 프리뷰 영상이 변화됨에 따라 상기 프리뷰 영상 내의 객체 정보들 또한 변화되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 증강 현실과 관련된 사운드(sound)의 출력 또는 상기 출력이 변화되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 증강 현실 프리뷰 영상을 표시한 상태에서 외부 단말기의 호가 수신되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 증강 현실 프리뷰 영상을 표시한 상태에서 외부 단말기의 메시지가 수신되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 증강 현실 프리뷰 영상을 표시한 상태에서 사용자에 의해 기 설정된 알람이 출력되는 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 증강 현실 프리뷰 영상 내에서 특정 객체에 대한 객체 정보의 검색어가 입력된 이벤트가 될 수 있다. 또한, 상기 증강 현실과 관련된 이벤트는, 상기 증강 현실 프리뷰 영상 내에서 특정 객체 및 객체 정보까지의 이동 경로 안내를 위한 사용자 명령이 입력된 이벤트가 될 수 있다.In this case, the event related to the augmented reality may be an event in which the display of the object or object information in the preview image is changed. The event related to the augmented reality may be an event in which a new object or object information is displayed in the preview image. The event related to augmented reality may be an event in which specific object information is selected from among object information in the preview image. In addition, the event related to the augmented reality may be an event in which the preview image is changed by changing a photographing time of the
상기 증강 현실과 관련된 이벤트의 종류에 따라 촉각 효과를 발생하는 과정은 이하의 도 4 내지 도 19에서 상세히 후술한다.A process of generating a tactile effect according to the type of event related to the augmented reality will be described later in detail with reference to FIGS. 4 to 19.
상기와 같이, 제어부(180)는 상기 증강 현실과 관련된 특정 이벤트가 발생되면[S170], 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다[S180].As described above, when a specific event related to the augmented reality is generated [S170], the
이때, 상기 촉각 효과는 서로 다른 세기 및 패턴을 가진다. 즉, 사용자는 서로 다른 세기 및 패턴을 가지는 촉각 효과를 느끼고, 상기 느껴진 촉각 효과로 현재 발생된 증강 현실과 관련된 이벤트를 인지할 수 있는 것이다.In this case, the haptic effect has different intensities and patterns. That is, the user may feel a tactile effect having different intensities and patterns, and may recognize an event related to augmented reality currently generated by the sensed tactile effect.
이하, 도 4 내지 도 18을 참조하여, 상기 증강 현실과 관련된 이벤트의 종류에 따라 다양한 촉각 효과를 발생하는 과정에 대해 상세히 설명한다.
Hereinafter, a process of generating various tactile effects according to the type of event related to the augmented reality will be described in detail with reference to FIGS. 4 to 18.
제1 실시예First embodiment
본 발명의 제1 실시예는, 증강 현실과 관련된 이벤트가 프리뷰 영상 내의 객체 정보들의 표시가 변화되는 이벤트일 경우 상기 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.A first embodiment of the present invention relates to a process of generating a tactile effect indicating an event when an event related to augmented reality is an event in which display of object information in a preview image is changed.
도 4 내지 도 6은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제1 실시예 화면 상태도이다.4 to 6 are screen diagrams of a first embodiment illustrating a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
먼저, 도 4의 (a)에 도시된 바와 같이, 증강 현실 프리뷰 영상(300A) 내에 제1 내지 제3 객체 정보(411, 412, 413)가 검색되어 표시된 것을 나타내고 있다.First, as illustrated in FIG. 4A, the first through
이때, 도 4의 (b)에 도시된 바와 같이, 제어부(180)는 프리뷰 영상(300A) 내에서 하나 이상의 새로운 제4 객체 정보(421)가 검색되어 표시되는 제1 이벤트가 발생되면, 도 4의 (c)에 도시된 바와 같이, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제1 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.In this case, as illustrated in FIG. 4B, when the first event in which one or more pieces of new
한편, 도 5에 도시된 바와 같이, 제어부(180)는 상기 새로운 객체 정보가 복수개 이상일 경우, 상기 새로운 객체 정보들의 개수와 동일하게 순차적으로 촉각 효과를 발생시킬 수도 있다.On the other hand, as shown in Figure 5, when the plurality of new object information is more than one, the
즉, 도 5의 (b)에 도시된 바와 같이, 제어부(180)는 프리뷰 영상(300A) 내에서 새로운 객체 정보들(421, 422, 423)이 복수 이상 검색되어 표시되면, 상기 새로운 객체 정보들(421, 422, 423)의 개수를 파악하고, 도 5의 (c)에 도시된 바와 같이, 햅틱 모듈(154)을 제어하여 상기 파악된 개수와 동일하게 순차적으로 촉각 효과를 발생시킨다.That is, as illustrated in FIG. 5B, when the plurality of
이때, 도 5의 (c)에는 상기 새로운 객체 정보들(421, 422, 423) 각각에 대응되는 촉각 효과들이 서로 다른 패턴을 가지는 것을 나타내고 있다.5C shows that the tactile effects corresponding to each of the
또한, 도 6에 도시된 바와 같이, 제어부(180)는 상기 새로운 객체 정보가 복수개 이상일 경우, 상기 새로운 객체 정보들의 서로에 대한 각각의 근접도를 파악하고, 상기 파악된 근접도에 따라 순차적으로 촉각 효과를 발생시킬 수도 있다.In addition, as shown in FIG. 6, when the plurality of new object information is plural or more, the
즉, 도 6의 (b)에 도시된 바와 같이, 제어부(180)는 프리뷰 영상(300A) 내에 새로운 제4 내지 제6 객체 정보(421, 422, 423)들이 검색되어 표시되면, 상기 제4 내지 제6 객체 정보(421, 422, 423)들 각각의 근접도를 파악하고, 도 6의 (c)에 도시된 바와 같이, 햅틱 모듈(154)을 제어하여 상기 파악된 각각의 근접도에 대응하는 촉각 효과들을 발생시킨다.That is, as illustrated in FIG. 6B, when the new fourth to
이때, 도 6의 (c)에는 상기 파악된 각각의 근접도와 해당 촉각 효과들의 발생 주기가 서로 비례한 것을 나타내고 있다.In this case, (c) of FIG. 6 shows that the detected proximity and the period of occurrence of the corresponding tactile effects are proportional to each other.
즉, 제어부(180)는 서로 근접하게 표시된 제4 및 제5 객체 정보(421, 422)에 해당하는 촉각 효과들의 발생 주기를 제4 및 제5 객체 정보(421, 422)와 근접하지 않게 표시된 제6 객체 정보(423)에 해당하는 촉각 효과의 발생 주기 보다 짧게 발생시키는 것이다.
That is, the
제2 실시예Second embodiment
본 발명의 제2 실시예는, 증강 현실과 관련된 이벤트가 프리뷰 영상 내의 객체들의 표시가 변화되는 이벤트일 경우 상기 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.A second embodiment of the present invention relates to a process of generating a tactile effect indicating an event when an event related to augmented reality is an event in which a display of objects in a preview image is changed.
도 7은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제2 실시예 화면 상태도이다.7 is a screen diagram of a second embodiment showing a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
도 7의 (a)는, 증강 현실 프리뷰 영상(300A) 내에 제1 및 제2 객체(310, 320)가 존재하고, 상기 제1 및 제2 객체(310, 320)에 대한 제1 및 제2 객체 정보(411, 412)가 검색되어 표시된 것을 나타내고 있다.In FIG. 7A, first and
이때, 도 7의 (b)에 도시된 바와 같이, 제어부(180)는 프리뷰 영상(300A) 내에서 하나 이상의 새로운 객체(330)가 인식되어 표시되는 제2 이벤트가 발생되면, 도 7의 (c)에 도시된 바와 같이, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제2 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.In this case, as shown in FIG. 7B, when the second event occurs in which the one or more
한편, 도 7에는 도시되지 않았지만, 제어부(180)는 상기 새로운 객체들이 복수개 이상일 경우, 상술한 도 5와 같이, 상기 새로운 객체들의 개수와 동일하게 순차적으로 촉각 효과를 발생시킬 수도 있다.Although not shown in FIG. 7, the
또한, 도 7에 도시되지 않았지만, 제어부(180)는 상기 새로운 객체들이 복수개 이상일 경우, 상술한 도 6과 같이, 상기 새로운 객체들의 서로에 대한 각각의 근접도를 파악하고, 상기 파악된 근접도에 따라 순차적으로 촉각 효과를 발생시킬 수도 있다.
In addition, although not shown in FIG. 7, when there are a plurality of new objects or more, the
제3 실시예Third embodiment
본 발명의 제3 실시예는, 증강 현실과 관련된 이벤트가 프리뷰 영상 내의 특정 객체 정보가 선택되는 이벤트일 경우 상기 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.A third embodiment of the present invention relates to a process of generating a tactile effect indicating an event when an event related to augmented reality is an event in which specific object information in a preview image is selected.
도 8은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제3 실시예 화면 상태도이다.8 is a screen diagram of a third embodiment illustrating a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
도 8의 (a)는, 증강 현실 프리뷰 영상(300A) 내에 제1 및 제2 객체(310, 320)가 존재하고, 상기 제1 및 제2 객체(310, 320)에 대한 제1 및 제2 객체 정보(411, 412)가 검색되어 표시된 것을 나타내고 있다.FIG. 8A illustrates first and
이때, 도 8의 (b)에 도시된 바와 같이, 제어부(180)는 프리뷰 영상(300A) 내에서 특정 객체 정보(411)가 선택되는 제3 이벤트가 발생되면, 도 8의 (c)에 도시된 바와 같이, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제3 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.In this case, as shown in FIG. 8B, when the third event occurs in which the
이때, 도 8에는 도시되지 않았지만, 제어부(180)는 상기 제3 이벤트에 해당하는 촉각 효과가 발생되는 동안 상기 선택된 객체 정보(411)의 형상이 진동에 의해 흔들리는 모습으로 표현할 수 있다.
In this case, although not shown in FIG. 8, the
제4 실시예Fourth Embodiment
본 발명의 제4 실시예는, 증강 현실과 관련된 이벤트가 카메라(121)의 촬영 시점이 변경되어 프리뷰 영상이 변화된 이벤트일 경우 상기 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.The fourth embodiment of the present invention relates to a process of generating a tactile effect indicating the event when an event related to augmented reality is an event in which a preview time is changed due to a change in a photographing time of the
도 9는 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제4 실시예 화면 상태도이다.FIG. 9 is a screen diagram of a fourth embodiment illustrating a process of generating a tactile effect indicating an event related to augmented reality according to the present invention. FIG.
도 9의 (a)는, 증강 현실을 위한 제1 프리뷰 영상(300A) 내에 제1 및 제2 객체(310, 320)가 존재하고, 상기 제1 및 제2 객체(310, 320)에 대한 제1 및 제2 객체 정보(411, 412)가 검색되어 표시된 것을 나타내고 있다.FIG. 9A illustrates that first and
이때, 도 9의 (b)에 도시된 바와 같이, 제어부(180)는 상기 카메라(121)의 촬영 시점이 변경되어 제1 프리뷰 영상(300A)이 제2 프리뷰 영상(300B)으로 변경되는 제4 이벤트가 발생되면, 도 9의 (c)에 도시된 바와 같이, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제4 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.In this case, as shown in FIG. 9B, the
또한, 도 9의 (d)에 도시된 바와 같이, 제어부(180)는 상기 변경된 제2 프리뷰 영상(300B) 내에 새로운 객체(340) 및 상기 새로운 객체(340)에 대한 객체 정보(413)가 검색되어 표시되는 제5 이벤트가 발생되면, 도 9의 (e)에 도시된 바와 같이, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제5 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.
In addition, as shown in FIG. 9D, the
제5 실시예Fifth Embodiment
본 발명의 제5 실시예는, 증강 현실과 관련된 이벤트가 상기 증강 현실과 관련된 사운드(sound)가 출력되는 이벤트일 경우 상기 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.A fifth embodiment of the present invention relates to a process of generating a tactile effect indicating an event when an event related to augmented reality is an event in which a sound related to the augmented reality is output.
도 10은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제5 실시예 화면 상태도이다.FIG. 10 is a screen diagram of a fifth embodiment illustrating a process of generating a tactile effect representing an event related to augmented reality according to the present invention. FIG.
도 10의 (a)는, 증강 현실을 위한 프리뷰 영상(300A) 내에 제1 및 제2 객체(310, 320)가 존재하고, 상기 제1 및 제2 객체(310, 320)에 대한 제1 및 제2 객체 정보(411, 412)가 검색되어 표시된 것을 나타내고 있다.FIG. 10A illustrates the first and
그리고, 상기 제1 및 제2 객체 정보(411, 412)를 포함한 상기 증강 현실과 관련된 제1 사운드(510a)가 출력되고 있는 것을 나타내고 있다.The
상기와 같이, 제어부(180)는 음향 출력 모듈(152)를 통해 상기 증강현실과 관련된 제1 사운드(510a)가 출력되는 제6 이벤트가 발생되면, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제6 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다. 이때, 제어부(180)는 상기 제1 사운드(510a)가 출력되는 동안 상기 제6 이벤트에 해당하는 촉각 효과를 발생시킨다.As described above, when the sixth event in which the
또한, 도 10의 (b)에 도시된 바와 같이, 제어부(180)는 상기 제6 이벤트에 해당하는 촉각 효과를 발생시키는 도중에 상기 제1 사운드(510a)가 제2 사운드(510b)로 변경되는 제7 이벤트가 발생되면, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제7 이벤트에 해당하는 촉각 효과를 검색하고, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.
In addition, as illustrated in FIG. 10B, the
제6 실시예Sixth embodiment
본 발명의 제6 실시예는, 증강 현실을 위한 프리뷰 영상을 표시한 상태에서 호 수신, 메시지 수신 및 알람 출력 등의 외부 이벤트가 발생되면, 상기 발생된 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.A sixth embodiment of the present invention relates to a process of generating a tactile effect indicating the generated event when an external event such as call reception, message reception, and alarm output occurs while displaying a preview image for augmented reality. will be.
도 11 내지 도 13은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제6 실시예 화면 상태도이다.11 to 13 are screen views illustrating a sixth embodiment showing a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
먼저, 도 11의 (a)는, 증강 현실을 위한 프리뷰 영상(300A) 내에 제1 및 제2 객체(310, 320)가 존재하고, 상기 제1 및 제2 객체(310, 320)에 대한 제1 및 제2 객체 정보(411, 412)가 검색되어 표시된 것을 나타내고 있다.First, FIG. 11A illustrates that the first and
이때, 도 11의 (b)에 도시된 바와 같이, 제어부(180)는 무선 통신부(110)를 통해 타 단말기로부터 호(520)가 수신되는 제8 이벤트가 발생되면, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제8 이벤트에 해당하는 촉각 효과를 검색하고, 도 11의 (c)에 도시된 바와 같이, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.In this case, as illustrated in FIG. 11B, when the eighth event in which the
또한, 도 12의 (b)에 도시된 바와 같이, 제어부(180)는 무선 통신부(110)를 통해 타 단말기로부터 메시지(530)가 수신되는 제9 이벤트가 발생되면, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제9 이벤트에 해당하는 촉각 효과를 검색하고, 도 12의 (c)에 도시된 바와 같이, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.In addition, as shown in FIG. 12B, when the ninth event in which the
또한, 도 13의 (b)에 도시된 바와 같이, 제어부(180)는 메모리(160)에 기 등록된 알람이 출력되는 제10 이벤트가 발생되면, 메모리(160)에 상기 이벤트의 종류 별로 기 설정된 촉각 효과 중 상기 발생된 제10 이벤트에 해당하는 촉각 효과를 검색하고, 도 13의 (c)에 도시된 바와 같이, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.
In addition, as illustrated in FIG. 13B, when the tenth event in which an alarm registered in advance is output in the
제7 실시예Seventh Embodiment
본 발명의 제7 실시예는, 증강 현실과 관련된 이벤트가 특정 객체에 대한 객체 정보의 검색을 위한 명령이 입력된 이벤트일 경우 상기 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.A seventh embodiment of the present invention relates to a process of generating a tactile effect indicating an event when an event related to augmented reality is an event in which a command for retrieving object information for a specific object is input.
도 14 내지 도 17은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제7 실시예 화면 상태도이다.14 to 17 are screen diagrams of a seventh exemplary embodiment illustrating a process of generating a tactile effect representing an event related to augmented reality according to the present invention.
먼저, 도 14의 (a)는, 증강 현실을 위한 제1 프리뷰 영상(300A)이 표시된 상태에서 사용자가 원하는 객체에 대한 객체 정보의 검색을 위한 검색창(550)이 표시되고, 상기 검색창(550) 내에 특정 검색어(550a)가 입력된 것을 나타내고 있다.First, FIG. 14A illustrates a
상기와 같이, 제어부(180)는 특정 객체에 대한 객체 정보의 검색을 위한 명령(550a)이 입력되는 제11 이벤트가 발생되면, 도 14의 (b)에 도시된 바와 같이, 맵 데이터를 이용하여 상기 검색 명령(550a)에 해당하는 객체(310)의 객체 정보(411)를 검색하여 표시한다.As described above, when an eleventh event in which a
이때, 제어부(180)는 상기 검색 명령(550a)에 해당하는 객체(310) 및 객체 정보(411)가 제1 프리뷰 영상(300A) 내에 존재할 경우 메모리(160) 내에 기 설정된 촉각 효과들 중 상기 검색 명령(550a)에 해당하는 객체(310) 및 객체 정보(411)가 제1 프리뷰 영상(300A) 내에 존재하는 것을 나타내는 촉각 효과를 검색하고, 도 14의 (c)에 도시된 바와 같이, 상기 햅틱 모듈(154)을 제어하여 상기 검색된 촉각 효과를 발생시킨다.In this case, when the
또한, 도 14에는 도시되지 않았지만, 제어부(180)는 상기 촉각 효과가 발생되는 동안 상기 검색된 객체 정보(411)의 형상이 진동에 의해 흔들리는 모습으로 표현할 수 있다.In addition, although not shown in FIG. 14, the
한편, 도 15의 (a) 및 (b)에 도시된 바와 같이, 제어부(180)는 도 14에서 검색된 객체(310) 및 객체 정보(411)와 이동 단말기(100) 간의 거리가 근접해질 수록 상기 촉각 효과의 강도를 변화시킬 수 있다. 즉, 제어부(180)는 상기 검색된 객체(310) 및 객체 정보(411)와 이동 단말기(100) 간의 거리가 근접해질 수록 촉각 효과의 강도를 세게 출력하여 사용자에게 상기 객체(310) 및 객체 정보(411)와 근접해짐을 알릴 수 있다.Meanwhile, as shown in FIGS. 15A and 15B, the
그 다음으로, 도 16에 도시된 바와 같이, 제어부(180)는 사용자가 검색을 원하는 객체 및 객체 정보가 현재의 프리뷰 영상(300A) 내에 위치하지 않을 경우 상기 검색을 원하는 객체 및 객체 정보가 위치한 방향을 나타내는 촉각 효과를 발생시킬 수 있다.Next, as shown in FIG. 16, when the object and the object information that the user wants to search are not located in the
도 16의 (a)는 햅틱 모듈들(154a, 154b, 154c, 154d)이 이동 단말기(100) 본체에 복수 이상 구비된 것을 나타내고 있다.FIG. 16A illustrates that a plurality of
즉, 도 16의 (a)를 참조하면, 제1 및 제2 햅틱 모듈(154a, 154b)은 이동 단말기(100) 본체의 좌측 및 우측면에 구비되고, 제1 및 제2 햅틱 모듈(154a, 154b)은 제어부(180)의 제어에 따라 좌측에서 우측으로의 방향성 또는 우측에서 좌측으로의 방향성을 가지는 촉각 효과(10R, 10L)를 각각 발생시킬 수 있다.That is, referring to FIG. 16A, the first and second
이때, 제어부(180)는 제1 및 제2 햅틱 모듈(154a, 154b)에서 발생하는 각각의 촉각 효과의 강도를 조절하여 방향성을 가지는 촉각 효과를 발생시킬 수 있다. 일 예로, 제어부(180)는 이동 단말기(100) 본체의 좌측에 위치한 제1 햅틱 모듈(154a)의 촉각 효과의 강도를 약하게 출력하고, 이동 단말기(100) 본체의 우측에 위치한 제2 햅틱 모듈(154b)의 촉각 효과의 강도를 강하게 출력함으로써, 좌측에서 우측으로의 방향성을 가지는 촉각 효과를 발생시킬 수 있는 것이다.In this case, the
또한, 제1 및 제3 햅틱 모듈(154a, 154c) 또는 제2 및 제4 햅틱 모듈(154b, 154d)은 이동 단말기(100) 본체의 좌/우 상측면 및 좌/우 하측면에 구비되고, 제어부(180)의 제어에 따라 좌상측에서 좌하측으로의 방향성 또는 우상측에서 우하측으로의 방향성을 가지는 촉각 효과를 각각 발생시킬 수도 있다.In addition, the first and third
이때, 제어부(180)는 사용자로부터 특정 객체(350)에 대한 객체 정보(440)의 검색을 위한 명령(560a)이 입력되는 제11 이벤트가 발생되면, 현재의 제1 프리뷰 영상(300A) 내에 상기 객체(350) 및 객체 정보(440)가 존재하는지를 파악한다.In this case, when the eleventh event in which the
제어부(180)는 상기 제1 프리뷰 영상(300A) 내에 상기 객체(350) 및 객체 정보(440)가 존재하면, 상술한 도 14의 (b) 및 (c)에 도시된 과정을 수행한다.If the
그러나, 제어부(180)는 상기 제1 프리뷰 영상(300A) 내에 상기 객체(350) 및 객체 정보(440)가 존재하지 않으면, 상기 객체(350) 및 객체 정보(440)에 대한 위치를 파악하고, 상기 복수 이상의 햅틱 모듈들(154a, 154b, 154c, 154d)을 제어하여 상기 객체(350) 및 객체 정보(440)가 실제 위치한 방향을 나타내는 촉각 효과(10R)를 발생시킨다.However, if the
즉, 도 16의 (b)에서는 상기 객체(350) 및 객체 정보(440)의 실제 위치가 이동 단말기(100)의 위치를 기준으로 제1 프리뷰 영상(300A)의 화면 바깥쪽의 우측 방향에 위치한 것을 나타내고 있고, 제어부(180)는 사용자에게 카메라(121)의 촬영 시점을 상기 객체(350) 및 객체 정보(440)가 위치한 우측 방향으로 유도하도록 사이 우측 방향을 나타내는 촉각 효과(10R)를 발생시키는 것이다.That is, in FIG. 16B, the actual positions of the
이때, 도 16의 (c)에 도시된 바와 같이, 제어부(180)는 사용자에 의해 카메라(121)의 촬영 시점이 변경되어 상기 객체(350)가 포함된 제2 프리뷰 영상(300B)이 입력되면, 도 16의 (d)에 도시된 바와 같이, 상기 객체(350)에 대한 객체 정보(440)를 검색하여 표시한다.In this case, as shown in FIG. 16C, when the photographing time of the
한편, 도 17의 (a) 내지 (c)에 도시된 바와 같이, 제어부(180)는 도 16에서의 검색을 원하는 객체(350) 및 객체 정보(440)의 실제 위치가 상기 제1 프리뷰 영상(300A) 내에 존재하지 않으면, 상기 객체(350) 및 객체 정보(440)의 실제 위치를 유도하는 정보(570)를 표시할 수도 있다.
On the other hand, as shown in (a) to (c) of Figure 17, the
제8 실시예Eighth embodiment
본 발명의 제8 실시예는, 증강 현실과 관련된 이벤트가 특정 객체 및 객체 정보까지의 이동 경로 안내를 요청하는 명령이 입력된 이벤트일 경우 상기 이벤트를 나타내는 촉각 효과를 발생하는 과정에 관한 것이다.An eighth embodiment of the present invention relates to a process of generating a tactile effect indicating an event when an event related to augmented reality is an event in which a command for requesting a movement path to a specific object and object information is input.
도 18은 본 발명에 따라 증강 현실과 관련된 이벤트를 나타내는 촉각 효과를 발생하는 과정을 나타낸 제8 실시예 화면 상태도이다.18 is a diagram illustrating an eighth embodiment showing a process of generating a tactile effect indicating an event related to augmented reality according to the present invention.
먼저, 도 18의 (a)는, 증강 현실을 위한 프리뷰 영상(300A)이 표시된 상태에서 사용자가 원하는 객체 및 객체 정보까지의 이동 경로를 검색하기 위한 검색창(580)이 표시되고, 상기 검색창(580) 내에 특정 검색어(580a)가 입력된 것을 나타내고 있다.First, FIG. 18A illustrates a
상기와 같이, 제어부(180)는 특정 객체 및 객체 정보까지의 이동 경로를 요청하기 위한 명령(580a)이 입력되는 제12 이벤트가 발생되면, 메모리(160)에 구비된 맵 데이터를 이용하여 이동 단말기(100)의 현재 위치에서 상기 객체 및 객체 정보까지의 이동 경로를 검색하고, 도 18의 (b)에 도시된 바와 같이, 상기 검색된 이동 경로를 표시한다.As described above, when a twelfth event in which a
이때, 제어부(180)는 촉각 효과를 이용하여 이동 단말기(100)의 현재 위치에서 최종 목적지인 상기 객체까지의 이동 경로를 사용자에게 알릴 수 있다.In this case, the
즉, 도 18의 (b)를 일 예로 설명하면, 제어부(180)는 햅틱 모듈들(154a, 154b, 154c, 154d)을 제어하여, 현재 위치에서 첫번째 경유지(590a)의 방향을 나타내는 촉각 효과를 발생시킨다.That is, referring to FIG. 18B, the
그리고, 제어부(180)는 현재 위치가 상기 첫번째 경유지(590a)에 도달하면, 햅틱 모듈들(154a, 154b, 154c, 154d)을 제어하여, 상기 첫번째 경유지(590a)에서 두번째 경유지(590b)까지의 방향을 나타내는 촉각 효과를 발생시킨다.When the current position reaches the
그리고, 제어부(180)는 현재 위치가 상기 두번째 경유지(590b)에 도달하면, 햅틱 모듈들(154a, 154b, 154c, 154d)을 제어하여, 상기 두번째 경유지(590b)에서 최종 목적지까지의 방향을 나타내는 촉각 효과를 발생시킨다.When the current position reaches the
이때, 제어부(180)는 이동 단말기(100)가 상기 첫번째 및 두번째 경유지(590a, 590b)를 포함한 이동 경로를 이탈하면, 햅틱 모듈들(154a, 154b, 154c, 154d) 중 적어도 하나를 제어하여 상기 이동 경로가 이탈됨을 나타내는 촉각 효과를 발생시켜, 사용자에게 현재 경로가 이탈된 사실을 알릴 수 있다.In this case, when the
이상, 본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다. It will be apparent to those skilled in the art that the present invention may be embodied in other specific forms without departing from the spirit or essential characteristics thereof.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 단말기의 제어부(180)를 포함할 수도 있다.The present invention described above can be embodied as computer-readable codes on a medium on which a program is recorded. The computer-readable medium includes all kinds of recording devices in which data that can be read by a computer system is stored. Examples of computer-readable media include ROM, RAM, CD-ROM, magnetic tape, floppy disks, optical data storage devices, and the like, which are also implemented in the form of carrier waves (eg, transmission over the Internet). It also includes. Also, the computer may include a
따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.Accordingly, the above detailed description should not be construed as limiting in all aspects and should be considered as illustrative. The scope of the invention should be determined by reasonable interpretation of the appended claims, and all changes within the equivalent scope of the invention are included in the scope of the invention.
상기와 같이 설명된 이동 단말기 및 그 제어 방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.The above-described mobile terminal and its control method are not limited to the configuration and method of the above-described embodiments, but the embodiments may be modified such that all or some of the embodiments are selectively And may be configured in combination.
100: 이동 단말기 110: 무선 통신부
111: 방송 수신부 112: 이동통신 모듈
113: 무선 인터넷 모듈 114: 근거리 통신 모듈
115: 위치 정보 모듈 120: A/V 입력부
121: 카메라 122: 마이크
130: 사용자 입력부 140: 센싱부
141: 근접 센서 150: 출력부
151: 디스플레이부 152: 음향 출력 모듈
153: 알람 모듈 154: 햅틱 모듈
155: 프로젝터 모듈 160: 메모리
170: 인터페이스부 180: 제어부
181: 멀티미디어 모듈 190: 전원 공급부100: mobile terminal 110: wireless communication unit
111: broadcast receiver 112: mobile communication module
113
115: Position information module 120: A / V input section
121: camera 122: microphone
130: user input unit 140: sensing unit
141: proximity sensor 150: output section
151: display unit 152: sound output module
153: Alarm module 154: Haptic module
155: Projector Module 160: Memory
170: interface unit 180: control unit
181: multimedia module 190: power supply
Claims (20)
다수의 지역 내의 객체들에 대한 객체 정보가 포함된 맵 데이터를 구비한 메모리;
다수의 촉각 효과를 발생시키는 햅틱부;
이동 단말기의 현재 위치 파악을 위한 위치 정보부;
상기 프리뷰 영상 표시를 위한 디스플레이부; 및
상기 이동 단말기의 현재 위치를 근거로 상기 맵 데이터에서 상기 프리뷰 영상 내의 객체들에 관한 객체 정보들을 검색하여 표시하고, 상기 증강 현실과 연관된 이벤트가 발생되면, 상기 이벤트에 대응하는 촉각 효과를 발생하도록 상기 햅틱부를 제어하는 제어부;를 포함하여 이루어지는 이동 단말기.A camera to which a preview image for augmented reality is input;
A memory having map data containing object information about objects in the plurality of regions;
A haptic unit generating a plurality of haptic effects;
A location information unit for identifying a current location of the mobile terminal;
A display unit for displaying the preview image; And
Search for and display object information about objects in the preview image from the map data based on a current location of the mobile terminal, and generate an tactile effect corresponding to the event when an event associated with the augmented reality occurs. And a control unit for controlling the haptic unit.
상기 촉각 효과는, 특정 세기 및 패턴 중 적어도 하나를 가지는 진동인 것을 특징으로 하는 이동 단말기.The method according to claim 1,
The haptic effect is a mobile terminal, characterized in that the vibration having at least one of a specific intensity and pattern.
상기 이벤트는, 상기 프리뷰 영상 내에 하나 이상의 새로운 객체 정보들이 표시되는 이벤트이고,
상기 제어부는, 상기 햅틱부를 통해 상기 새로운 객체 정보들이 표시됨을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method according to claim 1,
The event is an event in which one or more new object information is displayed in the preview image.
The control unit generates a haptic effect indicating that the new object information is displayed through the haptic unit.
상기 제어부는, 상기 새로운 객체 정보들의 개수를 파악하고, 상기 파악된 개수와 동일하게 순차적으로 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method of claim 3,
The controller determines the number of new object information and generates a tactile effect in the same order as the identified number.
상기 제어부는, 상기 새로운 객체 정보들의 서로에 대한 각각의 근접도를 파악하고, 상기 파악된 각각의 근접도에 따라 순차적으로 촉각 효과를 발생시키되, 상기 근접도와 상기 촉각 효과 발생 주기가 비례하도록 제어하는 것을 특징으로 하는 이동 단말기.The method of claim 3,
The controller detects each proximity of the new object information to each other, and sequentially generates a tactile effect according to the identified proximity, and controls the proximity and the tactile effect generation period to be proportional to each other. Mobile terminal, characterized in that.
상기 이벤트는, 상기 객체 정보들 중 특정 객체 정보의 선택 이벤트이고,
상기 제어부는, 상기 햅틱부를 통해 상기 특정 객체 정보가 선택됨을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method according to claim 1,
The event is a selection event of specific object information among the object information,
The controller generates a haptic effect indicating that the specific object information is selected through the haptic unit.
상기 이벤트는, 상기 카메라의 촬영 시점 변화에 따른 상기 프리뷰 영상의 표시 변화 이벤트이고,
상기 제어부는, 상기 햅틱부를 통해 상기 프리뷰 영상이 변화됨을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method according to claim 1,
The event is a display change event of the preview image according to a change in a photographing time point of the camera,
The controller generates a tactile effect indicating that the preview image is changed through the haptic unit.
상기 제어부는, 상기 프리뷰 영상의 표시 변화에 따라 상기 객체 정보들이 변화되면, 상기 객체 정보들이 변화됨을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method of claim 7, wherein
And the controller generates a tactile effect indicating that the object information changes when the object information changes according to a display change of the preview image.
상기 이벤트는, 상기 증강 현실과 연관된 사운드(sound) 출력 이벤트이고,
상기 제어부는, 상기 사운드 출력을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method according to claim 1,
The event is a sound output event associated with the augmented reality,
The controller generates a tactile effect indicative of the sound output.
상기 제어부는, 상기 사운드의 출력이 변화되면, 상기 사운드의 출력이 변화됨을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.10. The method of claim 9,
The control unit, when the output of the sound is changed, the mobile terminal, characterized in that to generate a tactile effect indicating that the output of the sound is changed.
상기 이벤트는, 특정 객체에 대한 객체 정보의 검색 명령이 입력된 이벤트이고,
상기 제어부는, 상기 맵 데이터를 이용하여 상기 명령에 해당하는 객체 정보를 검색하고, 상기 햅틱부를 통해 상기 검색된 객체 정보를 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method according to claim 1,
The event is an event in which a search command for object information about a specific object is input.
The controller may search for object information corresponding to the command using the map data and generate a tactile effect indicating the retrieved object information through the haptic unit.
상기 제어부는, 상기 검색된 객체 정보가 상기 프리뷰 영상 내에 존재하면, 상기 햅틱부를 통해 상기 객체 정보가 상기 프리뷰 영상 내에 존재함을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method of claim 11, wherein
The controller may generate a tactile effect indicating that the object information exists in the preview image through the haptic unit when the retrieved object information exists in the preview image.
상기 제어부는, 상기 촉각 효과를 발생하는 중에는 상기 검색된 객체 정보를 진동과 같은 떨리는 형상으로 표시하는 것을 특징으로 하는 이동 단말기.The method of claim 12,
The controller may display the retrieved object information in a shaking shape such as vibration while generating the tactile effect.
상기 제어부는, 상기 검색된 객체 정보와 상기 이동 단말기 간의 거리가 근접해질수록 상기 촉각 효과의 강도를 변화시키는 것을 특징으로 하는 이동 단말기.The method of claim 11, wherein
The control unit changes the intensity of the haptic effect as the distance between the retrieved object information and the mobile terminal approaches.
상기 제어부는, 상기 검색된 객체 정보가 상기 프리뷰 영상 내에 존재하지 않으면, 상기 햅틱부를 통해 상기 검색된 객체 정보가 위치한 방향을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method of claim 11, wherein
The controller may generate a tactile effect indicating a direction in which the retrieved object information is located through the haptic unit when the retrieved object information does not exist in the preview image.
상기 햅틱부는, 상기 이동 단말기 본체에 복수개 이상 구비되고,
상기 제어부는, 상기 복수 이상의 햅틱부들 각각의 촉각 효과 발생 강도를 조절하여 상기 객체 정보가 위치한 방향을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method of claim 15,
The haptic unit is provided in the plurality of the mobile terminal main body,
The controller may be configured to generate a tactile effect indicating a direction in which the object information is located by adjusting a tactile effect generating intensity of each of the plurality of haptic units.
상기 제어부는, 상기 검색된 객체 정보가 위치한 방향을 나타내는 정보를 표시하는 것을 특징으로 하는 이동 단말기.The method of claim 15,
The controller is configured to display information indicating a direction in which the searched object information is located.
상기 이벤트는, 특정 객체 정보까지의 이동 경로 안내 명령이 입력된 이벤트이고,
상기 제어부는, 상기 맵 데이터를 이용하여 상기 명령에 해당하는 객체 정보까지의 이동 경로를 검색하고, 상기 햅틱부를 통해 상기 검색된 이동 경로의 방향을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method according to claim 1,
The event is an event to which a movement path guidance command to specific object information is input,
The controller may search for a movement path to the object information corresponding to the command using the map data, and generate a tactile effect indicating a direction of the searched movement path through the haptic unit.
상기 제어부는, 상기 이동 단말기가 상기 검색된 이동 경로를 이탈하면, 상기 이동 경로 이탈을 나타내는 촉각 효과를 발생시키는 것을 특징으로 하는 이동 단말기.The method of claim 18,
The controller is configured to generate a tactile effect indicating departure of the movement path when the mobile terminal leaves the searched movement path.
이동 단말기의 현재 위치를 파악하는 단계;
상기 현재 위치를 근거로 상기 프리뷰 영상 내의 복수의 객체들에 관한 객체 정보들을 검색하여 표시하는 단계;
상기 증강 현실과 연관된 이벤트의 발생을 감지하는 단계; 및
상기 이벤트가 발생되면, 촉각 효과를 발생시키는 햅틱부를 이용하여 상기 이벤트에 대응하는 촉각 효과를 발생시키는 단계;를 포함하여 이루어지는 이동 단말기의 제어 방법.Displaying a preview image for augmented reality input from a camera on a screen;
Determining a current location of the mobile terminal;
Searching for and displaying object information about a plurality of objects in the preview image based on the current location;
Detecting the occurrence of an event associated with the augmented reality; And
And generating the haptic effect corresponding to the event by using the haptic unit generating the haptic effect when the event occurs.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100087455A KR101685983B1 (en) | 2010-09-07 | 2010-09-07 | Mobile terminal and method for controlling the same |
US13/163,579 US9069760B2 (en) | 2010-08-24 | 2011-06-17 | Mobile terminal and controlling method thereof |
EP11005687A EP2448238A1 (en) | 2010-08-24 | 2011-07-12 | Mobile terminal and controlling method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100087455A KR101685983B1 (en) | 2010-09-07 | 2010-09-07 | Mobile terminal and method for controlling the same |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20120025206A true KR20120025206A (en) | 2012-03-15 |
KR101685983B1 KR101685983B1 (en) | 2016-12-13 |
Family
ID=46131675
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020100087455A KR101685983B1 (en) | 2010-08-24 | 2010-09-07 | Mobile terminal and method for controlling the same |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101685983B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160023888A (en) * | 2013-06-25 | 2016-03-03 | 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 | Indicating out-of-view augmented reality images |
US11892624B2 (en) | 2021-04-27 | 2024-02-06 | Microsoft Technology Licensing, Llc | Indicating an off-screen target |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024085436A1 (en) * | 2022-10-17 | 2024-04-25 | 삼성전자 주식회사 | Method for providing vibration and wearable electronic device supporting same |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20040057691A (en) * | 2002-12-26 | 2004-07-02 | 한국전자통신연구원 | System and Method of Car Navigation using Augmented Reality |
KR20100040362A (en) * | 2008-10-10 | 2010-04-20 | 엘지전자 주식회사 | Mobile terminal and method of position displaying on map thereof |
-
2010
- 2010-09-07 KR KR1020100087455A patent/KR101685983B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20040057691A (en) * | 2002-12-26 | 2004-07-02 | 한국전자통신연구원 | System and Method of Car Navigation using Augmented Reality |
KR20100040362A (en) * | 2008-10-10 | 2010-04-20 | 엘지전자 주식회사 | Mobile terminal and method of position displaying on map thereof |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160023888A (en) * | 2013-06-25 | 2016-03-03 | 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 | Indicating out-of-view augmented reality images |
KR20220028131A (en) * | 2013-06-25 | 2022-03-08 | 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 | Indicating out-of-view augmented reality images |
KR20220165840A (en) * | 2013-06-25 | 2022-12-15 | 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 | Indicating out-of-view augmented reality images |
US11892624B2 (en) | 2021-04-27 | 2024-02-06 | Microsoft Technology Licensing, Llc | Indicating an off-screen target |
Also Published As
Publication number | Publication date |
---|---|
KR101685983B1 (en) | 2016-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101726790B1 (en) | Mobile terminal and control method for mobile terminal | |
KR101685980B1 (en) | Mobile terminal and method for controlling the same | |
KR101651135B1 (en) | Mobile terminal and method for controlling the same | |
KR101728728B1 (en) | Mobile terminal and method for controlling thereof | |
KR101674957B1 (en) | Mobile terminal and method for controlling thereof | |
KR101608761B1 (en) | Mobile terminal and method for controlling the same | |
KR20110122979A (en) | Mobile terminal and method for controlling the same | |
KR20120046991A (en) | Mobile terminal and method for controlling the same | |
KR20120009581A (en) | Mobile terminal and method for controlling the same | |
KR20110133713A (en) | Mobile terminal and method for controlling the same | |
KR20120061197A (en) | Mobile terminal and method for controlling the same | |
KR20110137896A (en) | Mobile terminal and method for controlling the same | |
KR101685983B1 (en) | Mobile terminal and method for controlling the same | |
KR101781849B1 (en) | Mobile terminal and method for controlling the same | |
KR20110022217A (en) | Mobile and method for controlling the same | |
KR101604698B1 (en) | Mobile terminal and method for controlling the same | |
KR101663615B1 (en) | Mobile Terminal and Method for Displaying Image thereof | |
KR101685979B1 (en) | Mobile terminal and method for controlling the same | |
KR101638914B1 (en) | Mobile terminal and Method for displaying object related information thererof | |
KR101685978B1 (en) | Mobile terminal and method for controlling the same | |
KR101709506B1 (en) | Mobile terminal and editing method of augmented reality information using the mobile terminal | |
KR20140133190A (en) | Mobile terminal and controlling method thereof | |
KR102014790B1 (en) | Terminal and method for controlling the same | |
KR101674946B1 (en) | Mobile terminal and method for controlling the same | |
KR20110131910A (en) | Mobile terminal and method for controlling the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |