KR20110133295A - Mobile terminal and operating method thereof - Google Patents

Mobile terminal and operating method thereof Download PDF

Info

Publication number
KR20110133295A
KR20110133295A KR1020100052943A KR20100052943A KR20110133295A KR 20110133295 A KR20110133295 A KR 20110133295A KR 1020100052943 A KR1020100052943 A KR 1020100052943A KR 20100052943 A KR20100052943 A KR 20100052943A KR 20110133295 A KR20110133295 A KR 20110133295A
Authority
KR
South Korea
Prior art keywords
image
subject
user
emotion
index
Prior art date
Application number
KR1020100052943A
Other languages
Korean (ko)
Inventor
임국찬
김치국
김정환
곽행철
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020100052943A priority Critical patent/KR20110133295A/en
Publication of KR20110133295A publication Critical patent/KR20110133295A/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38—Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/40—Circuits

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

PURPOSE: A portable terminal and operation method thereof are provided to display the emotion state of a user by collecting information about the emotion change of the user. CONSTITUTION: A display unit(151) displays composite image which includes a virtual image and augmented reality image. A sensor unit measures one or more physical reactions in order to extract the feeling of a user about an object from a contact surface. A control unit(180) calculates the emotion index of the physical reaction based on the physical reaction of the user. The display unit displays real images and OSD images which indicates the emotion index.

Description

휴대 단말기 및 그 동작방법{Mobile terminal and operating method thereof} Mobile terminal and operating method thereof

본 발명은 휴대 단말기 및 그 동작방법에 관한 것으로, 증강 현실 기술에 따라 객체에 대한 부가적인 정보 이외에도 사용자별 개인화된 정보를 함께 표시할 수 있는 휴대 단말기 및 그 동작방법에 관한 것이다. The present invention relates to a portable terminal and a method of operating the same, and to a portable terminal capable of displaying personalized information for each user in addition to additional information on an object according to augmented reality technology and a method of operating the same.

휴대 단말기는 휴대가 가능하면서 음성 및 영상 통화를 수행할 수 있는 기능, 정보를 입·출력할 수 있는 기능 및 데이터를 저장할 수 있는 기능 등을 하나 이상 갖춘 휴대용 기기이다. 이러한 휴대 단말기는 그 기능이 다양화됨에 따라, 사진이나 동영상의 촬영, 음악 파일이나 동영상 파일의 재생, 게임, 방송의 수신, 무선 인터넷 등과 같은 복잡한 기능들을 갖추게 되었으며, 종합적인 멀티미디어 기기(multimedia player) 형태로 구현되고 있다.A portable terminal is a portable device that is portable and has one or more functions for making voice and video calls, inputting and outputting information, and storing data. As the functions of the portable terminal have diversified, they have complicated functions such as photographing and photographing, playing music files and video files, receiving games, receiving broadcasts, and wireless internet, and have developed a comprehensive multimedia player, .

최근 많은 휴대 단말기에 증강 현실 기술이 적용되어 있으며, 이에 따라 많은 휴대 단말기가 피사체를 촬영함으로써 얻어진 이미지와 함께 해당 피사체에 대한 부가적인 정보를 제공하고 있다. 이러한 부가적인 정보는 GPS 등을 기초로 한, 해당 피사체에 대한 일반적인 정보인 경우가 대부분이다. 따라서 피사체에 대하여 사용자별로 개인화된 정보를 제공할 수 있는 기술에 대한 연구가 진행 중에 있다. In recent years, augmented reality technology has been applied to many portable terminals, and thus, many portable terminals provide additional information on the subject together with images obtained by photographing the subject. Such additional information is usually general information about the subject based on GPS or the like. Therefore, a research into a technology that can provide personalized information on a subject for each user is in progress.

따라서, 본 발명의 목적은, 증강 현실 기술에 따라 객체와 함께 해당 객체에 대한 사용자의 감정과 같은 사용자별 개인화된 정보를 수집하여 표시하거나 저장할 수 있는 휴대 단말기 및 그 동작방법을 제공함에 있다. Accordingly, an object of the present invention is to provide a mobile terminal and an operation method thereof capable of collecting, displaying or storing user-specific personalized information such as the user's emotion with respect to an object in accordance with an augmented reality technology.

본 발명의 일 양태에 따르면, 증강 현실 기술에 의하여 피사체를 촬영한 이미지인 실제 이미지 및 상기 피사체에 대한 부가적인 정보를 나타내는 가상 이미지를 결합한 합성 이미지를 표시하는 디스플레이부, 사용자와의 접촉면으로부터 상기 피사체에 대한 상기 사용자의 감정을 유추할 수 있는 하나 이상의 신체 반응을 측정하는 센서부 및 상기 사용자의 신체 반응을 감정 지수로 환산하는 제어부를 포함하며, 디스플레이부는 상기 감정 지수를 나타내는 OSD 이미지를 상기 실제 이미지 또는 상기 가상 이미지 중 하나 이상과 함께 표시하는 것을 특징으로 하는 휴대 단말기가 제공된다.According to an aspect of the present invention, a display unit for displaying a composite image combining a real image that is an image of a subject taken by augmented reality technology and a virtual image representing additional information about the subject, the subject from the contact surface with the user And a sensor unit for measuring one or more body reactions that can infer the emotion of the user with respect to the user, and a controller for converting the user's body reaction into an emotion index, wherein the display unit displays an OSD image representing the emotion index. Or a mobile terminal for displaying together with at least one of the virtual images.

본 발명의 다른 양태에 따르면, 증강 현실 기술에 의하여 피사체를 촬영한 이미지인 실제 이미지 및 상기 피사체에 대한 부가적인 정보를 나타내는 가상 이미지를 결합한 합성 이미지를 표시하는 단계, 사용자와의 접촉면으로부터 상기 피사체에 대한 상기 사용자의 감정을 유추할 수 있는 신체 반응을 측정하는 단계, 상기 사용자의 신체 반응을 감정 지수로 환산하는 단계 및 환산된 상기 감정 지수를 나타내는 OSD 이미지를 표시하는 단계를 포함하는 휴대 단말기의 동작 방법이 제공된다.According to another aspect of the present invention, displaying a composite image combining a real image, which is an image photographing a subject, and a virtual image representing additional information about the subject, by augmented reality technology; Measuring a physical response capable of inferring the user's emotion to the user, converting the user's physical response into an emotional index, and displaying an OSD image representing the converted emotional index; A method is provided.

본 발명의 실시예에 따르면 증강 현실 기술에 따라 객체에 대한 부가 정보를 표시함과 동시에, 해당 객체에 대한 사용자의 감정이나 관심도, 호감도 등을 휴대 단말기의 이모셔널 센서 등을 통하여 측정할 수 있다. 본 발명의 실시예에 따르면, 휴대 단말기는 사용자의 감정을 인식하여, 객체에 대한 사용자의 감정을 수치화하여 표시하고, 이를 저장할 수 있다. 이에 따라, 동일한 객체에 대해 사용자가 느끼는 현재와 과거의 감정의 변화에 대한 정보도 수집이 가능하다. 특히, 디스플레이부 내에 일부 영역을 설정하여, 감정 인식의 대상이 되는 객체를 특정할 수도 있다. According to an exemplary embodiment of the present invention, additional information about an object may be displayed according to an augmented reality technology, and the user's emotion, interest, and likelihood of the object may be measured through an emo sensor of the portable terminal. According to an embodiment of the present invention, the mobile terminal may recognize the user's emotion, digitize the user's emotion with respect to the object, and display the numerical value of the user's emotion. Accordingly, it is possible to collect information on changes in current and past emotions that the user feels about the same object. In particular, a partial area may be set in the display unit to identify an object that is an object of emotion recognition.

도 1은 본 발명의 일실시예에 따른 휴대 단말기의 블럭 구성도.
도 2는 본 발명의 일실시예에 따른 휴대 단말기를 전면에서 바라본 사시도.
도 3는 도 2에 도시한 휴대 단말기의 후면 사시도.
도 4는 본 발명의 일 실시예에 따른 휴대 단말기의 동작 방법을 나타낸 흐름도.
도 5는 본 발명의 다른 실시예에 따른 휴대 단말기의 동작 방법을 나타낸 흐름도.
도 6은 본 발명의 또 다른 실시예에 따른 휴대 단말기의 동작 방법을 나타낸 흐름도.
도 7 및 도 8은 본 발명의 실시예에 따라 측정된 신체 반응 및 감정 지수에 따른 증강 현실을 보여주는 휴대 단말기를 예시한 도면.
도 9 내지 도 12는 본 발명의 실시예에 따라 복수의 피사체에 대하여 측정된 감정 지수에 따른 증강 현실을 보여주는 휴대 단말기를 예시한 도면.
도 13 내지 도 14는 본 발명의 실시예에 따라 피사체에 대한 현재와 과거의 사용자의 감정 지수를 저장 및 비교하는 휴대 단말기를 예시한 도면.
도 15 내지 도 16은 본 발명의 실시예에 따라 측정된 감정 지수와 함께 증강 현실을 보여주는 휴대 단말기를 예시한 도면. 1 is a block diagram of a portable terminal according to an embodiment of the present invention.
Figure 2 is a perspective view of the mobile terminal according to an embodiment of the present invention from the front.
3 is a rear perspective view of the mobile terminal shown in FIG.
4 is a flowchart illustrating a method of operating a portable terminal according to an embodiment of the present invention.
5 is a flowchart illustrating a method of operating a mobile terminal according to another embodiment of the present invention.
6 is a flowchart illustrating a method of operating a mobile terminal according to another embodiment of the present invention.
7 and 8 illustrate a mobile terminal showing augmented reality according to a body response and an emotional index measured according to an embodiment of the present invention.
9 to 12 illustrate a mobile terminal showing augmented reality according to an emotional index measured for a plurality of subjects according to an embodiment of the present invention.
13 to 14 are diagrams illustrating a mobile terminal for storing and comparing current and past user emotional indexes of a subject according to an embodiment of the present invention.
15 to 16 illustrate a mobile terminal showing augmented reality with an emotional index measured according to an embodiment of the present invention.

이하에서는 도면을 참조하여 본 발명을 보다 상세하게 설명한다. Hereinafter, with reference to the drawings will be described the present invention in more detail.

본 명세서에서 기술되는 휴대 단말기에는, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(notebook computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함된다. 또한, 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있다. The portable terminal described in the present specification includes a mobile phone, a smart phone, a notebook computer, a digital broadcasting terminal, a personal digital assistant (PDA), a portable multimedia player (PMP), navigation, and the like. In addition, suffixes "module" and " part "for the components used in the following description are given merely for convenience of description, and do not give special significance or role in themselves. Therefore, the "module" and "unit" may be used interchangeably.

도 1은 본 발명의 일실시예에 따른 휴대 단말기의 블럭 구성도(block diagram)이다. 도 1을 참조하여 본 발명의 일실시예에 따른 휴대 단말기를 기능에 따른 구성요소 관점에서 살펴보면 다음과 같다.FIG. 1 is a block diagram of a portable terminal according to an exemplary embodiment of the present invention. Referring to FIG. Referring to FIG. 1, a mobile terminal according to an embodiment of the present invention will be described in terms of components according to functions.

도 1을 참조하면, 본 휴대 단말기(100)는, 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180), 및 전원 공급부(190)를 포함할 수 있다. 이와 같은 구성요소들은 실제 응용에서 구현될 때 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다.1, the portable terminal 100 includes a wireless communication unit 110, an A / V input unit 120, a user input unit 130, a sensing unit 140, an output unit 150, A memory 160, an interface unit 170, a control unit 180, and a power supply unit 190. Such components may be configured by combining two or more components into one component, or by dividing one or more components into two or more components as necessary when implemented in an actual application.

무선 통신부(110)는 방송수신 모듈(111), 이동통신 모듈(113), 무선 인터넷 모듈(115), 근거리 통신 모듈(117), 및 GPS 모듈(119) 등을 포함할 수 있다.The wireless communication unit 110 may include a broadcast receiving module 111, a mobile communication module 113, a wireless Internet module 115, a short distance communication module 117, and a GPS module 119.

방송수신 모듈(111)은 방송 채널을 통하여 외부의 방송관리 서버로부터 방송 신호 및 방송관련 정보 중 적어도 하나를 수신한다. 이때, 방송 채널은 위성 채널, 지상파 채널 등을 포함할 수 있다. 방송관리 서버는, 방송 신호 및 방송 관련 정보 중 적어도 하나를 생성하여 송신하는 서버나, 기 생성된 방송 신호 및 방송관련 정보 중 적어도 하나를 제공받아 단말기에 송신하는 서버를 의미할 수 있다.The broadcast receiving module 111 receives at least one of a broadcast signal and broadcast related information from an external broadcast management server through a broadcast channel. In this case, the broadcast channel may include a satellite channel, a terrestrial channel, and the like. The broadcast management server may refer to a server for generating and transmitting at least one of a broadcast signal and broadcast related information and a server for receiving at least one of the generated broadcast signal and broadcast related information and transmitting the broadcast signal to the terminal.

방송관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. 방송관련 정보는, 이동통신망을 통하여도 제공될 수 있으며, 이 경우에는 이동통신 모듈(113)에 의해 수신될 수 있다. 방송관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.The broadcast related information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider. The broadcast signal may include not only a TV broadcast signal, a radio broadcast signal, and a data broadcast signal, but also a broadcast signal having a data broadcast signal combined with a TV broadcast signal or a radio broadcast signal. The broadcast related information may also be provided through a mobile communication network, and in this case, may be received by the mobile communication module 113. Broadcast related information may exist in various forms. For example, it may exist in the form of Electronic Program Guide (EPG) of Digital Multimedia Broadcasting (DMB) or Electronic Service Guide (ESG) of Digital Video Broadcast-Handheld (DVB-H).

방송수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 또한, 방송수신 모듈(111)은, 이와 같은 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 모든 방송 시스템에 적합하도록 구성될 수 있다. 방송수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.The broadcast receiving module 111 receives broadcast signals using various broadcasting systems. In particular, the broadcast receiving module 111 may be a Digital Multimedia Broadcasting-Terrestrial (DMB-T), a Digital Multimedia Broadcasting-Satellite (DMB-S) ), Digital Video Broadcast-Handheld (DVB-H), Integrated Services Digital Broadcast-Terrestrial (ISDB-T), and the like. In addition, the broadcast receiving module 111 may be configured to be suitable for all broadcast systems providing broadcast signals as well as such digital broadcast systems. The broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.

이동통신 모듈(113)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호, 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The mobile communication module 113 transmits and receives a radio signal with at least one of a base station, an external terminal, and a server on a mobile communication network. Here, the wireless signal may include various types of data according to voice call signal, video call signal, or text / multimedia message transmission and reception.

무선 인터넷 모듈(115)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(115)은 휴대 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The wireless Internet module 115 refers to a module for wireless Internet access, and the wireless Internet module 115 can be embedded in the mobile terminal 100 or externally. Wireless Internet technologies may include Wireless LAN (Wi-Fi), Wireless Broadband (Wibro), World Interoperability for Microwave Access (Wimax), High Speed Downlink Packet Access (HSDPA), and the like.

근거리 통신 모듈(117)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee) 등이 이용될 수 있다. The short-range communication module 117 refers to a module for short-range communication. Bluetooth, radio frequency identification (RFID), infrared data association (IrDA), ultra wideband (UWB), ZigBee, and the like can be used as the short distance communication technology.

GPS(Global Position System) 모듈(119)은 복수 개의 GPS 인공위성으로부터 위치 정보를 수신한다. A GPS (Global Position System) module 119 receives position information from a plurality of GPS satellites.

A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(123) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 그리고, 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.The A / V (Audio / Video) input unit 120 is for inputting an audio signal or a video signal, and may include a camera 121 and a microphone 123. The camera 121 processes image frames such as still images or moving images obtained by the image sensor in the video call mode or the photographing mode. The processed image frame may be displayed on the display unit 151.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.The image frame processed by the camera 121 may be stored in the memory 160 or transmitted to the outside through the wireless communication unit 110. The camera 121 may be equipped with two or more cameras according to the configuration of the terminal.

마이크(123)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 그리고, 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(113)를 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크 (123)는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘이 사용될 수 있다.The microphone 123 receives an external sound signal by a microphone in a communication mode, a recording mode, a voice recognition mode, or the like, and processes it as electrical voice data. The processed voice data can be converted into a form that can be transmitted to the mobile communication base station through the mobile communication module 113 and output when the voice data is in the call mode. The microphone 123 may be a variety of noise reduction algorithms for eliminating noise generated in receiving an external sound signal.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위하여 입력하는 키 입력 데이터를 발생시킨다. 사용자 입력부(130)는 사용자의 푸시 또는 터치 조작에 의해 명령 또는 정보를 입력받을 수 있는 키 패드(key pad), 돔 스위치(dome switch), 터치 패드(정압/정전) 등으로 구성될 수 있다. 또한, 사용자 입력부(130)는 키를 회전시키는 조그 휠 또는 조그 방식이나 조이스틱과 같이 조작하는 방식이나, 핑거 마우스 등으로 구성될 수 있다. 특히, 터치 패드가 후술하는 디스플레이부(151)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다.The user input unit 130 generates key input data input by the user for controlling the operation of the terminal. The user input unit 130 may include a key pad, a dome switch, a touch pad (constant voltage / capacitance), etc. that may receive a command or information by a user's push or touch operation. In addition, the user input unit 130 may be configured as a jog wheel or a jog method or a joystick that rotates a key, a finger mouse, or the like. Particularly, when the touch pad has a mutual layer structure with the display unit 151 described later, it can be called a touch screen.

센싱부(140)는 휴대 단말기(100)의 개폐 상태, 휴대 단말기(100)의 위치, 사용자 접촉 유무 등과 같이 휴대 단말기(100)의 현 상태를 감지하여 휴대 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 휴대 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당할 수 있다.The sensing unit 140 senses the current state of the portable terminal 100 such as the open / close state of the portable terminal 100, the position of the portable terminal 100, Thereby generating a sensing signal. For example, when the mobile terminal 100 is in the form of a slide phone, it may sense whether the slide phone is opened or closed. In addition, it may be responsible for sensing functions related to whether the power supply unit 190 is supplied with power, whether the interface unit 170 is coupled to an external device, and the like.

센싱부(140)는 감지센서(141), 압력센서(143), 및 모션 센서(145) 등을 포함할 수 있다. 감지센서(141)는 휴대 단말기(100)로 접근하는 물체나, 휴대 단말기(100)의 근방에 존재하는 물체의 유무 등을 기계적 접촉이 없이 검출할 수 있도록 한다. 감지센서(141)는, 교류자계의 변화나 정자계의 변화를 이용하거나, 혹은 정전용량의 변화율 등을 이용하여 근접물체를 검출할 수 있다. 감지센서(141)는 구성 태양에 따라 2개 이상이 구비될 수 있다.The sensing unit 140 may include a detection sensor 141, a pressure sensor 143, a motion sensor 145, and the like. The detection sensor 141 detects the presence of an object approaching the portable terminal 100 or an object existing in the vicinity of the portable terminal 100 without mechanical contact. The detection sensor 141 may detect a proximity object by using a change in an alternating magnetic field or a change in a static magnetic field, or using a change rate of capacitance. The sensor 141 may be provided with two or more according to the configuration aspect.

압력센서(143)는 휴대 단말기(100)에 압력이 가해지는지 여부와, 그 압력의 크기 등을 검출할 수 있다. 압력센서(143)는 사용환경에 따라 휴대 단말기(100)에서 압력의 검출이 필요한 부위에 설치될 수 있다. 만일, 압력센서(143)가 디스플레이부(151)에 설치되는 경우, 압력센서(143)에서 출력되는 신호에 따라, 디스플레이부(151)를 통한 터치 입력과, 터치 입력보다 더 큰 압력이 가해지는 압력터치 입력을 식별할 수 있다. 또한, 압력센서(143)에서 출력되는 신호에 따라, 압력터치 입력시 디스플레이부(151)에 가해지는 압력의 크기도 알 수 있다. The pressure sensor 143 may detect whether pressure is applied to the portable terminal 100, the magnitude of the pressure, and the like. The pressure sensor 143 may be installed at a portion where the pressure of the portable terminal 100 is required depending on the use environment. If the pressure sensor 143 is installed in the display unit 151, a touch input through the display unit 151 and a greater pressure than the touch input are applied according to a signal output from the pressure sensor 143. The pressure touch input can be identified. Also, the magnitude of the pressure applied to the display unit 151 at the time of the pressure touch input can be determined according to the signal output from the pressure sensor 143. [

모션 센서(145)는 가속도 센서, 자이로 센서 등을 이용하여 휴대 단말기(100)의 위치나 움직임 등을 감지한다. 모션 센서(145)에 사용될 수 있는 가속도 센서는 어느 한 방향의 가속도 변화에 대해서 이를 전기 신호로 바꾸어 주는 소자로서, MEMS(micro-electromechanical systems) 기술의 발달과 더불어 널리 사용되고 있다. 가속도 센서에는, 자동차의 에어백 시스템에 내장되어 충돌을 감지하는데 사용하는 큰 값의 가속도를 측정하는 것부터, 사람 손의 미세한 동작을 인식하여 게임 등의 입력 수단으로 사용하는 미세한 값의 가속도를 측정하는 것까지 다양한 종류가 있다. 가속도 센서는 보통 2축이나 3축을 하나의 패키지에 실장하여 구성되며, 사용 환경에 따라서는 Z축 한 축만 필요한 경우도 있다. 따라서, 어떤 이유로 Z축 방향 대신 X축 또는 Y축 방향의 가속도 센서를 써야 할 경우에는 별도의 조각 기판을 사용하여 가속도 센서를 주 기판에 세워서 실장할 수도 있다.The motion sensor 145 detects the position and movement of the portable terminal 100 using an acceleration sensor, a gyro sensor, or the like. An acceleration sensor that can be used for the motion sensor 145 is a device that converts an acceleration change in one direction into an electric signal and is widely used along with the development of MEMS (micro-electromechanical systems) technology. The acceleration sensor measures the acceleration of a small value built in the airbag system of an automobile and recognizes the minute motion of the human hand and measures the acceleration of a large value used as an input means such as a game There are various types. Acceleration sensors are usually constructed by mounting two or three axes in one package. Depending on the usage environment, only one axis of Z axis is required. Therefore, when the acceleration sensor in the X-axis direction or the Y-axis direction is used instead of the Z-axis direction for some reason, the acceleration sensor may be mounted on the main substrate by using a separate piece substrate.

이밖에, 센싱부(140)는 자이로 센서, 이모셔널 센서 등을 더 포함할 수 있다. 자이로 센서는 각속도를 측정하는 센서로서, 기준 방향에 대해 돌아간 방향을 감지할 수 있다. 그리고 이모셔널 센서는 사용자의 신체 반응을 감지하여 사용자의 감정 상태 등을 측정할 수 있는 센서를 의미한다. 이모셔널 센서에 대하여서는 이후에 보다 상세히 후술하도록 한다. In addition, the sensing unit 140 may further include a gyro sensor, an emotional sensor, and the like. Gyro sensor is a sensor for measuring the angular velocity, it can detect the direction turned relative to the reference direction. In addition, the emotional sensor refers to a sensor capable of detecting a user's body reaction and measuring the emotional state of the user. The immersion sensor will be described later in more detail.

출력부(150)는 오디오 신호 또는 비디오 신호 또는 알람(alarm) 신호의 출력을 위한 것이다. 출력부(150)에는 디스플레이부(151), 음향출력 모듈(153), 알람부(155), 및 햅틱 모듈(157) 등이 포함될 수 있다.The output unit 150 is for outputting an audio signal, a video signal, or an alarm signal. The output unit 150 may include a display unit 151, an audio output module 153, an alarm unit 155, and a haptic module 157.

디스플레이부(151)는 휴대 단말기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어 휴대 단말기(100)가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 그리고 휴대 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우, 촬영되거나 수신된 영상을 각각 혹은 동시에 표시할 수 있으며, UI, GUI를 표시한다. The display unit 151 displays and outputs information processed by the mobile terminal 100. For example, when the portable terminal 100 is in the call mode, a UI (User Interface) or a GUI (Graphic User Interface) associated with a call is displayed. When the portable terminal 100 is in the video communication mode or the photographing mode, the photographed or received images can be displayed individually or simultaneously, and the UI and the GUI are displayed.

한편, 전술한 바와 같이, 디스플레이부(151)와 터치패드가 상호 레이어 구조를 이루어 터치스크린으로 구성되는 경우, 디스플레이부(151)는 출력 장치 이외에 사용자의 터치에 의한 정보의 입력이 가능한 입력 장치로도 사용될 수 있다. Meanwhile, as described above, when the display unit 151 and the touch pad form a mutual layer structure and constitute a touch screen, the display unit 151 is an input device capable of inputting information by a user's touch in addition to the output device. May also be used.

만일, 디스플레이부(151)가 터치스크린으로 구성되는 경우, 터치스크린 패널, 터치스크린 패널 제어기 등을 포함할 수 있다. 이 경우, 터치스크린 패널은 외부에 부착되는 투명한 패널로서, 휴대 단말기(100)의 내부 버스에 연결될 수 있다. 터치스크린 패널은 접촉 결과를 주시하고 있다가, 터치입력이 있는 경우 대응하는 신호들을 터치스크린 패널 제어기로 보낸다. 터치스크린 패널 제어기는 그 신호들을 처리한 다음 대응하는 데이터를 제어부(180)로 전송하여, 제어부(180)가 터치입력이 있었는지 여부와 터치스크린의 어느 영역이 터치 되었는지 여부를 알 수 있도록 한다. If the display unit 151 is configured as a touch screen, it may include a touch screen panel, a touch screen panel controller, and the like. In this case, the touch screen panel is a transparent panel attached to the outside and may be connected to the internal bus of the portable terminal 100. The touch screen panel keeps a watch on the contact result, and if there is a touch input, sends the corresponding signals to the touch screen panel controller. The touch screen panel controller processes the signals, and then transmits corresponding data to the controller 180 so that the controller 180 can determine whether the touch input has been made and which area of the touch screen has been touched.

디스플레이부(151)는 전자종이(e-Paper)로 구성될 수도 있다. 전자종이(e-Paper)는 일종의 반사형 디스플레이로서, 기존의 종이와 잉크처럼 높은 해상도, 넓은 시야각, 밝은 흰색 배경으로 우수한 시각 특성을 가진다. 전자종이(e-Paper)는 플라스틱, 금속, 종이 등 어떠한 기판상에도 구현이 가능하고, 전원을 차단한 후에도 화상이 유지되고 백라이트(back light) 전원이 없어 휴대 단말기(100)의 배터리 수명이 오래 유지될 수 있다. 전자종이로는 정전화가 충전된 반구형 트위스트 볼을 이용하거나, 전기영동법 및 마이크로 캡슐 등을 이용할 수 있다. The display unit 151 may be formed of an e-paper. Electronic paper (e-Paper) is a kind of reflective display, and has excellent visual characteristics such as high resolution, wide viewing angle and bright white background as conventional paper and ink. The electronic paper (e-paper) can be implemented on any substrate such as plastic, metal, paper, and the image is retained even after the power is shut off, and the battery life of the portable terminal 100 is long Can be maintained. As the electronic paper, a hemispherical twist ball filled with a telephone can be used, or an electrophoresis method and a microcapsule can be used.

이외에도 디스플레이부(151)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수도 있다. 그리고, 휴대 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수도 있다. 예를 들어, 휴대 단말기(100)에 외부 디스플레이부(미도시)와 내부 디스플레이부(미도시)가 동시에 구비될 수 있다.In addition, the display unit 151 may include a liquid crystal display, a thin film transistor-liquid crystal display, an organic light-emitting diode, a flexible display, and a three-dimensional display. It may include at least one of (3D display). In addition, two or more display units 151 may exist according to the implementation form of the mobile terminal 100. For example, the external display unit (not shown) and the internal display unit (not shown) may be simultaneously provided in the portable terminal 100.

음향출력 모듈(153)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력한다. 또한, 음향출력 모듈(153)은 휴대 단말기(100)에서 수행되는 기능, 예를 들어, 호신호 수신음, 메시지 수신음 등과 관련된 음향 신호를 출력한다. 이러한 음향출력 모듈(153)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.The audio output module 153 outputs audio data received from the wireless communication unit 110 or stored in the memory 160 in a call signal reception mode, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, The sound output module 153 outputs sound signals related to functions performed in the portable terminal 100, for example, a call signal reception tone, a message reception tone, and the like. The sound output module 153 may include a speaker, a buzzer, and the like.

알람부(155)는 휴대 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 휴대 단말기(100)에서 발생하는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력 등이 있다. 알람부(155)는 오디오 신호나 비디오 신호 이외에 다른 형태로 이벤트 발생을 알리기 위한 신호를 출력한다. 예를 들면, 진동 형태로 신호를 출력할 수 있다. 알람부(155)는 호 신호가 수신되거나 메시지가 수신된 경우, 이를 알리기 위해 신호를 출력할 수 있다. 또한. 알람부(155)는 키 신호가 입력된 경우, 키 신호 입력에 대한 피드백으로 신호를 출력할 수 있다. 이러한 알람부(155)가 출력하는 신호를 통해 사용자는 이벤트 발생을 인지할 수 있다. 휴대 단말기(100)에서 이벤트 발생 알림을 위한 신호는 디스플레이부(151)나 음향출력 모듈(153)를 통해서도 출력될 수 있다.The alarm unit 155 outputs a signal for notifying the occurrence of an event of the portable terminal 100. Examples of events occurring in the portable terminal 100 include call signal reception, message reception, and key signal input. The alarm unit 155 outputs a signal for notifying occurrence of an event in a form other than an audio signal or a video signal. For example, the signal may be output in the form of vibration. The alarm unit 155 can output a signal to notify when a call signal is received or a message is received. Also. When the key signal is input, the alarm unit 155 may output the signal as a feedback to the key signal input. The user may recognize the occurrence of an event through the signal output from the alarm unit 155. A signal for notifying the occurrence of an event in the portable terminal 100 may also be output through the display unit 151 or the sound output module 153. [

햅틱 모듈(haptic module)(157)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(157)이 발생시키는 촉각 효과의 대표적인 예로는 진동 효과가 있다. 햅틱 모듈(157)이 촉각 효과로 진동을 발생시키는 경우, 햅택 모듈(157)이 발생하는 진동의 세기와 패턴 등은 변환가능하며, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. The haptic module 157 generates various tactile effects that the user can feel. A typical example of the haptic effect generated by the haptic module 157 is a vibration effect. When the haptic module 157 generates vibration with a haptic effect, the intensity and pattern of the vibration generated by the haptic module 157 can be converted, and the different vibrations can be synthesized and output or sequentially output.

햅틱 모듈(157)은 진동 외에도, 접촉 피부 면에 대해 수직 운동하는 핀 배열에 의한 자극에 의한 효과, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력을 통한 자극에 의한 효과, 피부 표면을 스치는 자극에 의한 효과, 전극(eletrode)의 접촉을 통한 자극에 의한 효과, 정전기력을 이용한 자극에 의한 효과, 흡열이나 발열이 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. 햅틱 모듈(157)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자의 손가락이나 팔 등의 근감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(157)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.In addition to the vibration, the haptic module 157 may be provided with a function of stimulating by a pin arrangement vertically moving with respect to the contact skin surface, an effect of stimulating air through the injection or suction force of the air through the injection port or the suction port, The effect of stimulation through contact of an electrode (eletrode), the effect of stimulation by electrostatic force, and the effect of reproducing a cold sensation using a device capable of endothermic or exothermic can be generated. The haptic module 157 can be implemented not only to transmit the tactile effect through direct contact but also to feel the tactile effect through the muscular sense of the user's finger or arm. Two or more haptic modules 157 may be provided according to a configuration aspect of the mobile terminal 100.

메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입력되거나 출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. The memory 160 may store a program for processing and controlling the controller 180 and may provide a function for temporarily storing input or output data (for example, a phone book, a message, a still image, a video, etc.). It can also be done.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램, 롬 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 휴대 단말기(100)는 인터넷(internet) 상에서 메모리(150)의 저장 기능을 수행하는 웹 스토리지(web storage)를 운영할 수도 있다.The memory 160 may be a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), a RAM , And a ROM. ≪ / RTI > In addition, the mobile terminal 100 may operate a web storage that performs a storage function of the memory 150 on the Internet.

인터페이스부(170)는 휴대 단말기(100)에 연결되는 모든 외부기기와의 인터페이스 역할을 수행한다. 휴대 단말기(100)에 연결되는 외부기기의 예로는, 유/무선 헤드셋, 외부 충전기, 유/무선 데이터 포트, 메모리 카드(Memory card), SIM(Subscriber Identification Module) 카드, UIM(User Identity Module) 카드 등과 같은 카드 소켓, 오디오 I/O(Input/Output) 단자, 비디오 I/O(Input/Output) 단자, 이어폰 등이 있다. 인터페이스부(170)는 이러한 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 휴대 단말기(100) 내부의 각 구성 요소에 전달할 수 있고, 휴대 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 할 수 있다.The interface unit 170 serves as an interface with all external devices connected to the portable terminal 100. Examples of the external device connected to the portable terminal 100 include a wired / wireless headset, an external charger, a wired / wireless data port, a memory card, a SIM (Subscriber Identification Module) card, a UIM An audio input / output (I / O) terminal, a video I / O (input / output) terminal, and an earphone. The interface unit 170 receives data from the external device or receives power from the external device and transmits the data to each component in the portable terminal 100 so that data in the portable terminal 100 can be transmitted to the external device .

인터페이스부(170)는 휴대 단말기(100)가 외부 크래들(cradle)과 연결될 때 연결된 크래들로부터의 전원이 휴대 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 크래들에서 입력되는 각종 명령 신호가 휴대 단말기(100)로 전달되는 통로가 될 수 있다.The interface unit 170 is a path through which power from the cradle connected when the portable terminal 100 is connected to the external cradle is supplied to the portable terminal 100 or various command signals inputted from the cradle by the user are carried And may be a passage to be transmitted to the terminal 100.

제어부(180)는 통상적으로 상기 각부의 동작을 제어하여 휴대 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 또한, 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 재생 모듈(181)을 구비할 수도 있다. 멀티미디어 재생 모듈(181)은 제어부(180) 내에 하드웨어로 구성될 수도 있고, 제어부(180)와 별도로 소프트웨어로 구성될 수도 있다.The controller 180 typically controls the operation of the respective units to control the overall operation of the mobile terminal 100. For example, perform related control and processing for voice calls, data communications, video calls, and the like. In addition, the controller 180 may include a multimedia playback module 181 for multimedia playback. The multimedia playback module 181 may be configured in hardware in the controller 180 or may be configured in software separately from the controller 180.

그리고, 전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The power supply unit 190 receives external power and internal power under the control of the controller 180 and supplies power necessary for operation of the respective components.

이와 같은 구성의 휴대 단말기(100)는 유무선 통신 시스템 및 위성 기반 통신 시스템을 포함하여, 프레임(frame) 또는 패킷(packet)을 통하여 데이터(data)를 전송할 수 있는 통신 시스템에서 동작 가능하도록 구성될 수 있다. The mobile terminal 100 having such a configuration can be configured to be operable in a communication system capable of transmitting data through a frame or a packet, including a wired / wireless communication system and a satellite-based communication system. have.

도 2는 본 발명의 일실시예에 따른 휴대 단말기를 전면에서 바라본 사시도이고, 도 3는 도 2에 도시한 휴대 단말기의 후면 사시도이다. 이하에서는 도 2 및 도 3을 참조하여, 본 발명과 관련된 휴대 단말기를 외형에 따른 구성요소 관점에서 살펴 보기로 한다. 또한, 이하에서는 설명의 편의상, 폴더 타입, 바 타입, 스윙타입, 슬라이더 타입 등과 같은 여러 타입의 휴대 단말기들 중에서 터치스크린이 구비되어 있는 슬라이더 타입의 휴대 단말기를 예로 들어 설명한다. 그러나, 본 발명은 슬라이더 타입의 휴대 단말기에 한정되는 것은 아니고 전술한 타입을 포함한 모든 타입의 휴대 단말기에 적용될 수 있다. 2 is a perspective view of a portable terminal according to an embodiment of the present invention, and FIG. 3 is a rear perspective view of the portable terminal illustrated in FIG. 2. Hereinafter, the portable terminal according to the present invention will be described with reference to FIGS. 2 and 3 in terms of components according to the external form. In addition, hereinafter, for convenience of description, a slider type portable terminal having a touch screen among various types of portable terminals such as a folder type, a bar type, a swing type, a slider type, etc. will be described as an example. However, the present invention is not limited to the slider type portable terminal, but can be applied to all types of portable terminals including the aforementioned type.

도 2를 참조하면, 본 휴대 단말기(100)는 제1 바디(100A), 및 제1 바디(100A)에 적어도 일 방향을 따라 슬라이딩 가능하게 구성된 제2 바디(100B)를 포함한다. 제1 바디(100A)가 제2 바디(100B)와 중첩되게 배치된 상태를 닫힌 상태(closed configuration)라 칭할 수 있으며, 도 2에 도시된 바와 같이 제1 바디(100A)가 제2 바디(100B)의 적어도 일 부분을 노출한 상태를 열린 상태(open configuration)라 칭할 수 있다. Referring to FIG. 2, the portable terminal 100 includes a first body 100A and a second body 100B configured to be slidable in at least one direction on the first body 100A. A state in which the first body 100A is disposed to overlap the second body 100B may be referred to as a closed configuration. As shown in FIG. 2, the first body 100A may be referred to as the second body 100B. The exposed state of at least a portion of the N may be referred to as an open configuration.

휴대 단말기(100)가 닫힌 상태에서 주로 대기 모드(Standby Mode)로 작동하지만 사용자의 조작에 의해 대기 모드가 해제되기도 한다. 그리고, 휴대 단말기(100)가 열린 상태에서 주로 통화 모드 등으로 작동하지만, 사용자의 조작 또는 소정 시간의 경과에 의해 대기 모드로 전환되기도 한다.Although the mobile terminal 100 operates mainly in the standby mode (Standby Mode) in the closed state, the standby mode may be released by the user's operation. In addition, although the mobile terminal 100 operates mainly in a call mode or the like in an open state, the portable terminal 100 may be switched to a standby mode by a user's operation or a lapse of a predetermined time.

제1 바디(100A)의 외관을 이루는 케이스는, 제1 프론트 케이스(100A-1)와 제1 리어 케이스(100A-2)에 의해 형성된다. 제1 프론트 케이스(100A-1)와 제1 리어 케이스(100A-2)에 의해 형성된 공간에는 각종 전자부품들이 내장된다. The case forming the outer appearance of the first body 100A is formed by the first front case 100A-1 and the first rear case 100A-2. Various electronic components are embedded in the space formed by the first front case 100A-1 and the first rear case 100A-2.

본체, 구체적으로 제1 프론트 케이스(100A-1)에는 디스플레이부(151), 제1 음향출력모듈(153a), 제1 카메라(121a), 및 제1 사용자 입력부(130a)가 배치될 수 있다. 디스플레이부(151)는 터치패드가 레이어 구조로 중첩됨으로써, 디스플레이부(151)가 터치스크린으로 동작하여 사용자의 터치에 의한 정보의 입력이 가능하도록 구성할 수도 있다. The display unit 151, the first sound output module 153a, the first camera 121a, and the first user input unit 130a may be disposed in the main body, specifically, the first front case 100A-1. The display unit 151 may be constructed such that the touch pad is overlapped with the layer structure so that the display unit 151 operates as a touch screen so that information can be input by a user's touch.

제1 음향출력 모듈(153a)은 리시버 또는 스피커의 형태로 구현될 수 있다. 그리고, 제1 카메라(121a)는 사용자 등에 대한 이미지 또는 동영상을 촬영하기에 적절하도록 구현될 수 있다. The first acoustic output module 153a may be implemented in the form of a receiver or a speaker. The first camera 121a may be implemented to be suitable for capturing an image or a video of a user.

제1 바디(100A)와 마찬가지로, 제2 바디(100B)의 외관을 이루는 케이스는 제 2 프론트 케이스(100B-1)와 제2 리어 케이스(100B-2)에 의해 형성된다. 제2 바디(100B), 구체적으로 제2 프론트 케이스(100B-1)의 전면(front face)에는 제2 사용자 입력부(130b)가 배치될 수 있다. 제2 프론트 케이스(100B-1) 또는 제2 리어 케이스(100B-2) 중 적어도 하나에는 제3 및 제4 사용자 입력부(130c, 130d), 마이크(123), 및 인터페이스부(170)가 배치될 수 있다. Like the first body 100A, the case forming the external appearance of the second body 100B is formed by the second front case 100B-1 and the second rear case 100B-2. The second user input unit 130b may be disposed on the front surface of the second body 100B, specifically, the second front case 100B-1. The third and fourth user input units 130c and 130d, the microphone 123, and the interface unit 170 may be disposed in at least one of the second front case 100B-1 or the second rear case 100B-2. Can be.

제1 내지 제4 사용자 입력부(130a, 130b, 130c, 130d)는 사용자 입력부(130)라 통칭할 수 있으며, 사용자가 촉각적인 느낌을 주면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다. 기능적인 면에서, 제1 사용자 입력부(130a)는 시작, 종료, 스크롤 등과 같은 명령을 입력하기 위한 것이고, 제2 사용자 입력부(130b)는 숫자 또는 문자, 심볼(symbol) 등을 입력하기 위한 것이다. 또한, 제3 및 제4 사용자 입력부(130c, 130d)는 휴대 단말기(100) 내의 특수한 기능을 활성화하기 위한 핫 키(hot-key)로서 작동할 수 있다. The first to fourth user input units 130a, 130b, 130c, and 130d may be collectively referred to as the user input unit 130, and may be adopted in any manner as long as the user is tactile manner in a tactile manner. have. In functional terms, the first user input unit 130a is for inputting a command such as start, end, scroll, etc., and the second user input unit 130b is for inputting numbers, letters, symbols, and the like. In addition, the third and fourth user input units 130c and 130d may operate as hot-keys for activating a special function in the mobile terminal 100.

마이크(123)는 사용자의 음성, 기타 소리 등을 입력받기 적절한 형태로 구현될 수 있다. 그리고, 인터페이스부(170)는 외부 기기와 데이터가 교환되는 통로로 사용될 수 있다. The microphone 123 may be implemented in a form suitable for receiving a user's voice, other sounds, and the like. The interface unit 170 may be used as a passage through which data is exchanged with an external device.

도 3를 참조하면, 제2 바디(100B)의 제2 리어 케이스(100B-2)의 후면에는 휠 타입의 제5 사용자 입력부(130e)와 제2 카메라(121b)가 추가로 장착될 수 있으며, 제2 바디(100B)의 측면에는 제6 사용자 입력부(130f)가 배치될 수 있다. Referring to FIG. 3, a wheel type fifth user input unit 130e and a second camera 121b may be additionally mounted on the rear surface of the second rear case 100B-2 of the second body 100B. The sixth user input unit 130f may be disposed on the side surface of the second body 100B.

제2 카메라(121b)는 제1 카메라(121a)와 실질적으로 반대되는 촬영 방향을 가지며, 제1 카메라(121a)와 서로 다른 화소를 가질 수 있다. 제2 카메라(121b)에 인접하게는 플래쉬(125)와 거울(126)이 추가로 배치될 수 있다. 플래쉬(125)는 제2 카메라(121b)로 피사체를 촬영하는 경우에 상기 피사체를 향해 빛을 비추게 된다. 거울(126)은 사용자가 제2 카메라(121b)를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.The second camera 121b may have a photographing direction substantially opposite to that of the first camera 121a, and may have different pixels from the first camera 121a. The flash 125 and the mirror 126 may be additionally disposed adjacent to the second camera 121b. The flash 125 shines light toward the subject when the subject is photographed by the second camera 121b. The mirror 126 allows a user to see his / her own face or the like when the user wants to photograph himself (self-photographing) using the second camera 121b.

제2 리어 케이스(100B-2)에는 제2 음향출력 모듈(미도시)가 추가로 배치될 수도 있다. 제2 음향출력 모듈은 제1 음향출력 모듈(153a)와 함께 스테레오 기능을 구현할 수 있으며, 스피커폰 모드로 통화를 위하여 사용될 수도 있다. A second sound output module (not shown) may be further disposed on the second rear case 100B-2. The second sound output module may implement the stereo function together with the first sound output module 153a, and may be used for talking in the speakerphone mode.

제1 바디(100A)의 제1 리어 케이스(100A-2) 측에는 제1 바디(100A)와 제2 바디(100B)를 슬라이딩 가능하게 결합하는 슬라이드 모듈(100C)의 일 부분이 배치된다. 슬라이드 모듈(100C)의 다른 부분은 제2 바디(100B)의 제2 프론트 케이스(100B-1) 측에 배치되어, 도 3에 도시한 바와 같이 외부로 드러나지 않는 형태일 수 있다. A portion of the slide module 100C for slidably coupling the first body 100A and the second body 100B is disposed on the first rear case 100A-2 side of the first body 100A. The other part of the slide module 100C may be disposed on the second front case 100B-1 side of the second body 100B and may not be exposed to the outside as shown in FIG. 3.

제2 리어 케이스(100B-2) 측에는 휴대 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착될 수 있다. 전원공급부(190)는, 예를 들어 충전 가능한 배터리로서, 충전 등을 위하여 제2 리어 케이스(100B-2)에 착탈 가능하게 결합될 수 있다.The power supply unit 190 for supplying power to the portable terminal 100 may be mounted on the second rear case 100B-2. The power supply unit 190 may be, for example, a rechargeable battery and may be detachably coupled to the second rear case 100B-2 for charging.

그리고, 제1 바디(100A) 및 제2 바디(100B)의 일 영역에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(미도시)가 배치될 수 있다. 안테나는 제2 바디(100B)에서 인출 가능하게 설치될 수 있다.In addition, an antenna (not shown) for receiving a broadcast signal may be disposed in one region of the first body 100A and the second body 100B in addition to an antenna for a call. The antenna may be installed to be pulled out of the second body 100B.

이상에서는 제2 카메라(121b) 등이 제2 바디(100B)에 배치되는 것으로 설명하였으나, 반드시 이에 제한되는 것은 아니다. 또한, 제2 카메라(121b)가 별도로 구비되지 않더라도, 제1 카메라(121a)를 회전 가능하게 형성되어 제2 카메라(121b)의 촬영 방향까지 촬영 가능하도록 구성될 수도 있다. In the above description, the second camera 121b and the like are disposed on the second body 100B, but the present invention is not limited thereto. In addition, even if the second camera 121b is not separately provided, the first camera 121a may be rotatably formed to be able to photograph up to the photographing direction of the second camera 121b.

도 4는 본 발명의 일 실시예에 따른 휴대 단말기의 동작 방법을 나타낸 흐름도이다. 4 is a flowchart illustrating a method of operating a mobile terminal according to an embodiment of the present invention.

앞서도 설명하였으나, 휴대 단말기에는 카메라(121)가 구비되며, 카메라(121)를 이용하여 피사체를 촬영한다(S200). 카메라(121)는 피사체를 촬영하여, 피사체에 대한 프리뷰 이미지나, 해당 프리뷰 이미지가 캡쳐된 이미지를 생성한다. 피사체를 촬영하여 생성된 이미지를 피사체에 대한 실제 이미지라고 지칭하도록 한다. Although described above, the mobile terminal is provided with a camera 121 and photographs a subject using the camera 121 (S200). The camera 121 photographs a subject to generate a preview image of the subject or an image in which the preview image is captured. An image generated by photographing a subject is referred to as an actual image of the subject.

그리고 피사체에 대한 실제 이미지를 표시한다. 실제 이미지는 피사체를 촬영한 이미지로서, 캡쳐 후 저장된 이미지이거나, 스트리밍되는 프리뷰이미지일 수 있다. And displays the actual image of the subject. The actual image may be an image photographing a subject, and may be an image stored after capturing or a preview image streamed.

피사체에 대하여 표시할 가상 이미지가 존재하는지를 판단한다(S205). 증강 현실을 나타내는 휴대 단말기에서 피사체들에 대한 정보를 나타내는 이미지가 피사체에 대한 이미지와 함께 표시되는데, 피사체에 대한 정보를 나타내기 위해 휴대 단말기에서 만들어낸 이미지를 가상 이미지라고 지칭한다. 그리고 이러한 가상 이미지와의 의미상 구별을 위해, 피사체의 실제 모습이 촬영된 이미지를 실제 이미지라고 지칭한다. 따라서, 피사체에 대하여 표시할 가상 이미지가 존재하는지를 판단한다고 함은, 해당 피사체에 대하여 가상 이미지를 통하여 표시할 부가적인 정보가 있는지를 판단하는 것을 의미할 수 있다. It is determined whether a virtual image to be displayed for the subject exists (S205). In the mobile terminal representing the augmented reality, an image representing information about the subjects is displayed together with the image of the subject. An image generated by the portable terminal to represent information about the subject is referred to as a virtual image. In order to semantically distinguish from the virtual image, an image in which the actual image of the subject is photographed is referred to as an actual image. Therefore, determining whether there is a virtual image to be displayed on the subject may mean determining whether there is additional information to be displayed on the subject through the virtual image.

가상 이미지는 피사체에 대한 부가 정보를 표시하기 위한 이미지일 수 있다. 증강 현실 기술에 따라 피사체에 대하여 제공되는 부가적인 정보들은 소정의 OSD 이미지의 형태로 표시될 수 있는데, 이러한 부가적인 정보를 표시하는 OSD 이미지를 가상 이미지라 지칭할 수 있다. The virtual image may be an image for displaying additional information about the subject. According to the augmented reality technology, additional information provided about a subject may be displayed in the form of a predetermined OSD image. An OSD image displaying the additional information may be referred to as a virtual image.

예컨대 특정 건물이나 가게를 촬영한 경우, 증강 현실 기술에 의하여 해당 건물, 가게를 촬영함으로써 생성된 이미지와 함께 해당 건물의 주소, 가게의 상호, 서비스 내용, 취급 상품의 상표 등에 대한 정보가 디스플레이부(151)에 함께 표시될 수 있다. 건물의 주소, 가게의 상호, 서비스 내용, 취급 상품의 상표 등에 대한 정보는 피사체에 대한 부가적인 정보에 해당된다. 이러한 경우 건물, 가게의 모습을 그대로 보여주는 이미지가 실제 이미지이며, 실제 이미지와 함께 표시되는 부가 정보를 나타내는 이미지가 가상 이미지가 된다. 또는 피사체가 특정 상품인 경우, 그 피사체에 대한 부가적인 정보는 상품의 상표, 가격, 판매처 등의 정보일 수 있으며, 이러한 부가적인 정보가 가상 이미지로 생성되어 피사체에 대한 실제 이미지와 함께 표시될 수 있다. For example, in the case of photographing a specific building or shop, information about the address of the building, the name of the shop, the contents of the service, the trademark of the product handled, etc. together with the image generated by photographing the building and the shop by augmented reality technology is displayed on the display unit ( 151 may be displayed together. Information about the address of the building, the name of the shop, the contents of the service, the trademark of the product handled, etc. is additional information about the subject. In this case, the image showing the appearance of the building and the shop is the actual image, and the image representing the additional information displayed together with the actual image becomes the virtual image. Alternatively, when the subject is a specific product, the additional information about the subject may be information such as a trademark, a price, a selling place, etc. of the product, and the additional information may be generated as a virtual image and displayed together with the actual image of the subject. have.

피사체에 대하여 표시할 가상 이미지가 존재하는 경우, 피사체에 상응하는 해당 가상 이미지를 표시하고, 실제 이미지 또는 가상 이미지에 대한 사용자의 신체 반응을 측정한다(S210). 만일 피사체에 대하여 표시할 가상 이미지가 준비되어 있지 않거나 수신되지 않은 경우, 실제 이미지에 대한 사용자의 신체 반응을 측정한다. If there is a virtual image to be displayed for the subject, the corresponding virtual image corresponding to the subject is displayed and the user's body response to the actual image or the virtual image is measured (S210). If the virtual image to be displayed for the subject is not prepared or not received, the user's body response to the actual image is measured.

여기서 신체 반응은 이모셔널 센서(Emotional sensor)를 통해 측정될 수 있다. 이모셔널 센서는 센싱부(140)에 포함될 수 있다. 이모셔널 센서는 사용자의 신체 반응을 측정하여 사용자의 감정이나 감정 변화를 감지할 수 있는 센서이다. 이모셔널 센서는 심전도 측정 센서, 땀분비 측정 센서, 심박동 또는 맥박 측정 센서, 체온 측정 센서 등의 다양한 센서들 중 하나 이상을 포함할 수 있다. Here, the body response may be measured through an emotional sensor. The emo sensor may be included in the sensing unit 140. The emotional sensor is a sensor that can measure a user's body reaction and detect a user's emotion or change of emotion. The emotional sensor may include one or more of various sensors, such as an electrocardiogram sensor, a sweat secretion sensor, a heart rate or pulse rate sensor, a body temperature sensor, and the like.

이모셔널 센서를 통하여 측정된 신체 반응으로부터, 제어부(180)는 감정 지수를 산출한다(S220). 즉 측정된 사용자의 심전도, 맥박, 체온, 땀 분비 등으로부터 사용자의 감정 상태를 수치화한 값이 산출된다. 이러한 값을 이하에서는 감정 지수라고 지칭하도록 한다. 따라서 감정 지수는, 대상이 되는 사물이나 정보에 대한 사용자의 호감도, 관심도, 혐오도 등을 숫자로 나타낸 값일 수 있다. From the body reaction measured through the emotional sensor, the controller 180 calculates an emotional index (S220). That is, a numerical value of the emotional state of the user is calculated from the measured ECG, pulse, body temperature, and sweat secretion. This value will hereinafter be referred to as the emotional index. Therefore, the emotional index may be a numerical value representing the user's preference, interest, and aversion to the object or information.

감정 지수가 산출되면, 감정 지수는 디스플레이부(151)에 표시되거나, 메모리(160)에 저장된다(S225). 제어부(180)는 감정 지수를 표시하는 OSD 오브젝트를 생성하고, 이에 대한 영상 신호를 디스플레이부(151)로 출력한다. 그러면 디스플레이부(151)는 실제 이미지 및/또는 가상 이미지와 함께, 감정 지수를 표시할 수 있다. 또한, 디스플레이부(151)가 감정 지수를 표시하는지 여부와 무관하게, 메모리(160)는 해당 피사체에 대한 감정 지수를 개인화된 부가 정보로 저장할 수도 있다.When the emotional index is calculated, the emotional index is displayed on the display unit 151 or stored in the memory 160 (S225). The controller 180 generates an OSD object displaying an emotional index and outputs an image signal thereof to the display unit 151. The display unit 151 may then display the emotional index along with the real image and / or the virtual image. In addition, regardless of whether the display unit 151 displays the emotional index, the memory 160 may store the emotional index of the subject as personalized additional information.

도 5는 본 발명의 다른 실시예에 따른 휴대 단말기의 동작 방법을 나타낸 흐름도이다. 5 is a flowchart illustrating a method of operating a portable terminal according to another embodiment of the present invention.

제어부(180)는 감정 측정 영역을 설정한다(S240). 그리고 설정된 감정 측정 영역은 디스플레이부(151) 상에 표시될 수 있다. 본 발명의 실시예에서, 휴대 단말기는 사람 또는 사물 등의 피사체에 대한 사용자의 반응이나 감정을 측정하고자 한다. 사용자는 피사체에 대한 자신의 호감도나 관심도 등을 측정하고, 그 결과를 저장하기 위해, 피사체를 촬영하고 그에 대한 자신의 신체 반응이 휴대 단말기의 이모셔널 센서를 통해 감지되도록 한다. 그런데 감정 측정 및 결과 저장을 위해 피사체를 촬영하는 경우에도, 감정 측정의 대상이 되는 사람이나 사물 이외의 다른 피사체들에 대한 이미지가 디스플레이부에 함께 표시될 수 있다. 이 경우, 사용자의 감정 측정의 대상이 되는 피사체를 특정하기 위하여, 제어부(180)는 감정 측정 영역을 설정하고, 디스플레이부(151)에 표시할 수 있다. The controller 180 sets an emotion measurement region (S240). The set emotion measuring area may be displayed on the display unit 151. In an embodiment of the present invention, the portable terminal attempts to measure a user's reaction or emotion to a subject such as a person or an object. In order to measure a user's attractiveness or interest of the subject and store the result, the user photographs the subject and allows his / her physical response to the subject to be detected by the emoticon sensor of the mobile terminal. However, even when photographing a subject to measure emotion and store the result, an image of a subject other than a person or an object to be measured may be displayed together on the display unit. In this case, the controller 180 may set an emotion measurement area and display it on the display unit 151 in order to specify a subject to be the object of the user's emotion measurement.

그리고 카메라(121)는 피사체를 촬영한다(S245). 이에 따라 감정 측정의 대상이 되는 피사체에 대한 실제 이미지를 포함하는 이미지들이 디스플레이부(151)에 표시된다. 이 때, 감정 측정의 대상이 되는 피사체에 대한 실제 이미지가 감정 측정 영역 내에 표시된다. 감정 측정의 대상이 되는 피사체에 대한 실제 이미지가 감정 측정 영역 밖으로 벗어나 있는 경우, 피사체의 실제 이미지가 감정 측정 영역 내에 표시되도록 하기 위해, 휴대 단말기의 카메라(121)가 향하는 방향이 조절될 수 있다. In operation S245, the camera 121 photographs a subject. Accordingly, the display unit 151 displays images including an actual image of a subject to be subjected to emotion measurement. At this time, an actual image of the subject to be subjected to emotion measurement is displayed in the emotion measurement region. When the actual image of the subject, which is the object of emotion measurement, is out of the emotion measurement region, the direction that the camera 121 of the portable terminal faces may be adjusted so that the actual image of the subject is displayed within the emotion measurement region.

이모셔널 센서는, 감정 측정 영역 내에 표시된 실제 이미지 또는 가상 이미지에 대한 사용자 신체 반응을 측정한다(S250). 즉, 감정 측정의 대상이 되는 피사체에 대한 실제 이미지가 감정 측정 영역 내에 위치한 상태에서 사용자의 신체 반응이 측정되면, 해당 피사체 또는 실제 이미지에 대한 사용자의 감정이 측정된 것으로 간주된다. The emotic sensor measures a user's body response to a real image or a virtual image displayed in the emotion measuring region (S250). That is, when the user's body response is measured while the actual image of the subject to be measured is located in the emotion measuring region, the user's emotion with respect to the subject or the actual image is measured.

감정인식 기술은 심리학자들이 분류한 기본적인 6개의 감정인 기쁨, 슬픔, 화남, 놀람, 공포, 혐오를 인식하는 것으로, 음성 및 얼굴 표정을 비롯하여 뇌파, 맥박, 체온 등의 생체 데이터로부터 인간의 감정을 인식한다. 따라서 이모셔널 센서는 사람의 음성과 얼굴 표정이나 생체 데이터 등을 감지하여 사용자의 감정과 그 감정의 정도을 인식하기 위한 자료를 생성할 수 있는 센서를 의미한다. Emotion recognition technology recognizes the six basic emotions classified by psychologists: joy, sadness, anger, surprise, fear and disgust, and recognizes human emotions from biometric data such as brain waves, pulses, and body temperature as well as voice and facial expressions. . Therefore, the emotional sensor refers to a sensor capable of generating data for recognizing a user's emotion and the degree of emotion by detecting a human voice, facial expression or biometric data.

사용자의 감정은 상술한 바와 같이 음성, 얼굴 표정 등으로부터 인식될 수 있으며, 이 밖에도 체온, 맥박, 피부 수분, 심박수 등의 생체 데이터로부터도 인식될 수 있다. 따라서 피사체가 디스플레이부(151), 특히 감정 측정 영역 내에 표시된 상태에서 사용자의 땀 분비, 체온 상승 또는 하강, 심전도, 손의 압력 상승 또는 하강 등의 신체 반응이 측정되면, 이는 해당 피사체에 대한 사용자의 신체 반응 또는 감정 정보가 된다.  As described above, the emotion of the user may be recognized from voice, facial expressions, and the like, and may also be recognized from biometric data such as body temperature, pulse, skin moisture, heart rate, and the like. Therefore, when the user's body response such as sweat release, body temperature rise or fall, electrocardiogram, hand pressure rise or fall is measured while the subject is displayed in the display unit 151, in particular, the emotion measurement area, the user's response to the subject is measured. Physical response or emotion information.

이모셔널 센서를 통해 신체 반응이 측정되면, 제어부(180)는 그에 따라 감정 지수를 산출한다(S255). 감정 지수는 다양한 방법으로 산출될 수 있다. 예컨대 땀 분비가 증가하거나, 심박수가 증가하거나 또는 체온이 일시적으로 상승하는 경우, 이러한 사용자의 신체 반응이 이모셔널 센서에 의해 감지되면, 사용자의 감정 지수는 높게 산출될 수 있다. 반면 아무런 신체 반응이 감지되지 않는 경우, 감정 지수는 낮게 산출될 수 있다. 감정 지수는 피사체에 대한 사용자의 호감도, 관심도, 반응도 등일 수 있다. 그리고 감정 지수에는 신체 반응에 대한 복합적인 자료가 사용될 수 있다. 즉 체온, 땀 분비, 심박수 등의 자료가 종합적으로 고려된 후 감정 지수가 산출될 수 있다. When the body reaction is measured through the emotional sensor, the controller 180 calculates an emotional index accordingly (S255). The emotional index can be calculated in various ways. For example, when the sweat secretion increases, the heart rate increases, or the body temperature temporarily rises, if the user's body response is detected by the emotional sensor, the user's emotional index can be calculated high. On the other hand, if no body reaction is detected, the emotional index may be calculated low. The emotional index may be a user's likeness, interest, responsiveness, etc. to the subject. And emotional indexes can use complex data on body reactions. That is, the emotional index can be calculated after comprehensively considering data such as body temperature, sweat secretion, and heart rate.

감정 지수는 상술한 호감도, 관심도, 반응도 등으로 표시될 수 있다. 그리고 감정 지수의 단위 또는 범위 역시 제한될 필요가 없다. 예컨대 0부터 100까지의 범위 내의 숫자가 피사체에 대한 호감도 등의 감정 지수로서 표현될 수도 있고, 상-중-하의 레벨로 감정 지수가 표현될 수도 있다. 이 외에도 감정 지수는 점수, 단어, 특정 캐릭터의 얼굴 표정, 도형의 모양이나 색깔, 음영 효과 등으로써 표현될 수 있다. The emotional index may be expressed by the above-described preference, interest, responsiveness, and the like. And the unit or range of the emotional index need not be limited either. For example, a number within a range from 0 to 100 may be expressed as an emotional index such as a good feeling for the subject, and the emotional index may be expressed at upper-middle-lower levels. In addition, the emotional index may be expressed as a score, a word, a facial expression of a specific character, a shape, color, or shadow effect of a figure.

신체 반응으로부터 감정 지수가 산출되면, 감정 측정 영역 내에 표시되었던 피사체의 실제 이미지와 해당 감정 지수를 함께 디스플레이부(151)가 표시하거나, 메모리(160)가 저장할 수 있다(S260).When the emotional index is calculated from the body reaction, the display unit 151 may display the actual image of the subject displayed in the emotional measurement area and the corresponding emotional index, or the memory 160 may store the stored image (S260).

도 6은 본 발명의 또 다른 실시예에 따른 휴대 단말기의 동작 방법을 나타낸 흐름도이다. 6 is a flowchart illustrating a method of operating a mobile terminal according to another embodiment of the present invention.

도 6을 참조하여 설명하는 실시예는, 이미 감정 지수가 산출된 대상에 대하여 다시 사용자의 신체 반응을 측정하는 방법에 관한 것이다. 본 실시예에 따르면, 동일한 대상에 대한 사용자의 과거와 현재의 감정 변화를 알 수 있다. 다만, 과거의 신체 반응은 사용자가 피사체 및 실제 이미지를 보고 있는 상태에서 측정된 것인 반면, 현재의 신체 반응은 사용자가 저장된 이미지를 보고 있는 상태에서 측정된다. An embodiment described with reference to FIG. 6 relates to a method of measuring a user's body response with respect to an object for which an emotion index has already been calculated. According to this embodiment, the user's past and present emotion changes with respect to the same object can be known. However, the past body response is measured while the user is looking at the subject and the actual image, while the current body response is measured while the user is looking at the stored image.

디스플레이부(151)는 메모리(160)에 저장된 이미지 및 그에 상응하는 감정 지수를 표시한다(S270). 여기서 저장된 이미지는 이전에 피사체를 촬영함에 따라 생성되었던 실제 이미지를 캡쳐하여 메모리(160)에 저장한 이미지이다. 특히, 피사체 촬영 당시 디스플레이부(151)의 전체 화면에 표시되었던 프리뷰 이미지가 모두 저장될 수 있으나, 본 발명의 실시예에서는 감정 측정 영역 내에 표시된 이미지만이 감정 지수와 함께 저장될 수 있다. The display unit 151 displays an image stored in the memory 160 and a corresponding emotional index (S270). The stored image is an image which is captured and stored in the memory 160, which is an actual image generated by capturing a subject. In particular, although all the preview images displayed on the entire screen of the display unit 151 at the time of capturing the subject may be stored, only an image displayed in the emotion measuring region may be stored together with the emotion index.

디스플레이부(151)가 저장된 이미지 및 감정 지수를 표시하면, 이모셔널 센서는 저장된 이미지를 보는 사용자의 신체 반응을 측정한다. 즉, 저장된 이미지에 대한 사용자의 신체 반응이 측정됨으로써, 결과적으로 해당 피사체에 대한 사용자의 신체 반응이 재측정된다(S275).When the display unit 151 displays the stored image and the emotional index, the emotional sensor measures the body response of the user who views the stored image. That is, the user's body response to the stored image is measured, and as a result, the user's body response to the subject is measured again (S275).

제어부(180)는 재측정된 신체 반응으로부터 감정 변화 수치를 산출한다(S280). 즉 제어부(180)는 신체 반응이 재측정됨에 따라 신체 반응을 나타내는 각종 데이터들의 변화량으로부터 감정 변화 수치 또는 현재의 감정 지수를 산출할 수 있다. 또는 재측정된 신체 반응으로부터 감정 지수를 다시 산출하고, 이전에 산출된 과거의 감정 지수와 비교하여 그 변화량을 감정 변화 수치로써 산출할 수 있다. The controller 180 calculates an emotional change value from the measured body reaction (S280). That is, the controller 180 may calculate the emotion change value or the current emotion index from the amount of change of various data representing the body response as the body response is measured again. Alternatively, the emotional index may be calculated again from the remeasured body response, and the change amount may be calculated as the emotional change value by comparing with the previously calculated emotional index.

디스플레이부(151)는 이전에 측정 및 저장된 감정 지수 및 새로 측정된 감정 변화 수치를 함께 표시한다(S285). 물론 이 경우에도, 표시 여부와 무관하게 메모리(160)는 이미지와 함께 감정 지수 및 감정 변화 수치를 저장할 수 있다. The display unit 151 displays previously measured and stored emotion indices and newly measured emotion change values (S285). Of course, even in this case, the memory 160 may store the emotion index and the emotion change value together with the image regardless of whether or not it is displayed.

도 7 및 도 8은 본 발명의 실시예에 따라 측정된 신체 반응 및 감정 지수에 따른 증강 현실을 보여주는 휴대 단말기를 예시한 도면이다. 7 and 8 illustrate a mobile terminal showing augmented reality according to a body response and an emotional index measured according to an embodiment of the present invention.

도 7 및 도 8을 참조하면, 휴대 단말기 앞에 피사체(300)가 위치하며, 휴대 단말기는 카메라를 이용하여 피사체(300)를 촬영한다. 여기서 피사체(300)는 인물이다. 따라서 사용자는 해당 인물에 대한 호감도 등의 감정 지수를 확인할 수 있게 된다. Referring to FIGS. 7 and 8, the subject 300 is positioned in front of the portable terminal, and the portable terminal photographs the subject 300 using a camera. Here, the subject 300 is a person. Therefore, the user can check the emotional index such as the likelihood of the person.

피사체(300)가 촬영됨에 따라 피사체(300)에 대한 실제 이미지(305)가 디스플레이부에 표시되고 있다. 그리고 휴대 단말기에는 이모셔널 센서(315)가 장착되어 있다. 본 실시예에서 이모셔널 센서(315)는 사용자의 피부와 일정 접촉면을 가진다. 그리고 접촉면을 통해 사용자의 체온이나 땀 분비 등을 측정할 수 있다. 여기서 이모셔널 센서(315)의 형태나 생체 데이터 측정 방식은 예시일 뿐이며, 이모셔널 센서는 사용자의 표정이나 음성을 인식하는 센서일 수도 있다. As the subject 300 is photographed, an actual image 305 of the subject 300 is displayed on the display unit. The mobile terminal is equipped with an emo sensor 315. In this embodiment, the emo sensor 315 has a constant contact surface with the skin of the user. And the user's body temperature and sweat secretion can be measured through the contact surface. Here, the shape or biometric data measuring method of the emo sensor 315 is merely an example, and the emo sensor may be a sensor for recognizing a user's facial expression or voice.

그리고 감정 측정 영역(310)이 설정되어 디스플레이부에 표시된다. 도 7 및 도 8에 도시된 실시예에서는 하나의 피사체만이 존재하므로 굳이 감정 측정 영역이 설정되고 피사체를 한정할 필요가 없을 수도 있다. 그러나 여기서는 인물의 안면을 인식하여, 안면 부위에 대한 사용자의 신체 반응이 측정되고 있다. 이를 위해 인물의 안면 인식 및 안면 포커싱 과정이 추가될 수 있다. The emotion measuring area 310 is set and displayed on the display unit. In the embodiments shown in FIGS. 7 and 8, since only one subject exists, the emotion measuring region may be set and there is no need to limit the subject. However, here, the face of the person is recognized, and the user's physical response to the face is measured. To this end, a facial recognition and facial focusing process of a person may be added.

도 7에 도시된 바에 따른 실시예에서는 가상 이미지는 존재하지 않는다. 다만 이모셔널 센서를 통해 피사체(300)에 대한 신체 반응이 측정됨에 따라, 신체 반응 측정 이미지(320)이 실제 이미지(305)와 함께 디스플레이부에 표시된다. In the embodiment shown in FIG. 7, the virtual image does not exist. However, as the body response to the subject 300 is measured by the emotional sensor, the body response measurement image 320 is displayed on the display together with the actual image 305.

이모셔널 센서(315)가 측정된 신체 반응을 나타내는 데이터를 측정하면, 제어부(180)는 측정된 신체 반응에 관한 데이터에 기초하여 감정 지수를 산출한다. 그리고 도 8을 참조하면, 디스플레이부에는 감정 지수를 나타내는 감정 지수 이미지(330)가 실제 이미지(305)의 옆에 함께 표시된다. When the emotional sensor 315 measures data representing the measured body response, the controller 180 calculates an emotion index based on the data about the measured body response. 8, the emotional index image 330 representing the emotional index is displayed alongside the actual image 305.

도 9 내지 도 12는 본 발명의 실시예에 따라 복수의 피사체에 대하여 측정된 감정 지수에 따른 증강 현실을 보여주는 휴대 단말기를 예시한 도면이다. 9 to 12 are diagrams illustrating a mobile terminal showing an augmented reality according to an emotion index measured for a plurality of subjects according to an embodiment of the present invention.

도 9 내기 도 12를 참조하면, 휴대 단말기 앞에는 제1 피사체(400), 제2 피사체(405) 및 제3 피사체(410)가 있으며, 이에 따라 디스플레이부에는 제1 실제 이미지(420), 제2 실제 이미지(425) 및 제3 실제 이미지(430)가 표시되고 있다. 9 to 12, the first terminal 400, the second subject 405, and the third subject 410 are located in front of the portable terminal. Accordingly, the display unit includes the first real image 420 and the second subject. The real image 425 and the third real image 430 are displayed.

제1 실제 이미지(420)는 제1 피사체(400)를 촬영한 이미지이며, 제2 실제 이미지(425)는 제2 피사체(405)를 촬영한 이미지, 그리고 제3 실제 이미지(430)는 제3 피사체(410)를 촬영한 이미지이다. The first real image 420 is an image of the first subject 400, the second real image 425 is an image of the second subject 405, and the third real image 430 is a third image. An image of the subject 410 is photographed.

현재 감정 측정 영역(310)내에는 제1 피사체(400)에 대한 제1 실제 이미지(420)가 표시되어 있다. 그리고 제1 피사체(400) 또는 제1 실제 이미지(420)에 대한 부가 정보가 제1 가상 이미지(440)를 통해 표시되고 있다. 여기서 제1 피사체(400)가 상품이므로, 부가 정보는 상품의 정보, 즉 상품의 명칭이나 상표 등의 정보, 그리고 그 상품의 가격 정보 등일 수 있다. 그리고 각각의 피사체 또는 실제 이미지에 대한 감정 지수는, 감정 지수에 대한 정보를 제공하기 위한 별도의 OSD 이미지의 형태로 생성 및 표시될 수 있다. 따라서 제1 감정 지수(460), 제2 감정 지수(465) 및 제3 감정 지수(470)는 각각의 피사체들에 대하여 산출된 감정 지수를 나타내기 위한 OSD 이미지의 형태로 표시된다. The first real image 420 of the first subject 400 is displayed in the current emotion measuring region 310. Further information about the first subject 400 or the first real image 420 is displayed through the first virtual image 440. Since the first subject 400 is a product, the additional information may be information of a product, that is, information such as a name or a brand of the product, price information of the product, and the like. The emotion index of each subject or the actual image may be generated and displayed in the form of a separate OSD image for providing information on the emotion index. Accordingly, the first emotion index 460, the second emotion index 465, and the third emotion index 470 are displayed in the form of an OSD image for indicating the emotion index calculated for each subject.

따라서 감정 측정 영역(310) 내에 제1 실제 이미지가 표시되고 있는 현재 상태에서 사용자의 신체 반응이 측정되고 그에 따라 감정 지수가 산출되면, 해당 감정 지수는 제1 피사체(400) 또는 제1 실제 이미지(420)에 대한 사용자의 감정 지수로 간주될 수 있다. 상술한 바에 따르면, 디스플레이부에 표시된 제1 감정 지수(460)는 제1 피사체(400) 또는 제1 실제 이미지(420)에 대한 관심도이다. 그리고 제1 피사체(400) 또는 제1 실제 이미지(420)에 대한 사용자의 관심도는 70으로 산출되었다. Therefore, when the body response of the user is measured in the current state in which the first real image is displayed in the emotion measuring area 310 and the emotional index is calculated accordingly, the emotional index is determined by the first subject 400 or the first actual image ( 420 may be considered a user's sentiment index for 420. As described above, the first emotion index 460 displayed on the display unit is the degree of interest in the first subject 400 or the first real image 420. The user's interest in the first subject 400 or the first real image 420 is calculated as 70.

도 10을 참조하면 제2 피사체(405)에 대한 제2 실제 이미지(425)가 감정 측정 영역(315)내에 표시되고 있다. 그리고 제2 피사체(405)에 대한 상품명이나 가격 등의 부가 정보 역시 제2 가상 이미지(445)를 통해 표시된다. 또한 제2 피사체(405) 또는 제2 실제 이미지(425)에 대한 사용자의 신체 반응이 이모셔널 센서(315)를 통하여 측정되고, 그에 따른 감정 지수인 제2 감정 지수(465)가 제2 실제 이미지(425), 제2 가상 이미지(445)와 함께 표시되고 있다. 도 10에 도시된 바에 따르면 제2 피사체(405) 또는 제2 실제 이미지(425)에 대한 사용자의 관심도는 30이다. Referring to FIG. 10, a second real image 425 of the second subject 405 is displayed in the emotion measuring region 315. In addition, additional information such as a brand name or a price of the second subject 405 is also displayed through the second virtual image 445. In addition, the body response of the user to the second subject 405 or the second real image 425 is measured by the emotional sensor 315, and the second emotional index 465 corresponding to the emotional index is the second actual image. 425 and the second virtual image 445 are displayed together. As shown in FIG. 10, the user's interest in the second subject 405 or the second real image 425 is 30.

도 11을 참조하면, 제3 피사체(410)에 대한 제3 실제 이미지(430)가 감정 측정 영역(310) 내에 표시되고 있다. 그리고 제3 피사체(410)에 대한 상품 또는 가격에 관한 부가 정보 역시 제3 가상 이미지(450)를 통해 표시된다. 또한 제3 피사체(410) 또는 제3 실제 이미지(430)에 대한 사용자의 신체 반응이 이모셔널 센서(315)를 통하여 측정되고, 그에 따른 감정 지수인 제3 감정 지수(470)가 제3 실제 이미지(430) 및 제3 가상 이미지(450)와 함께 표시되고 있다. 제3 감정 지수(470)에 표시된 바에 따르면, 제3 피사체(410) 또는 제3 실제 이미지(430)에 대한 사용자의 관심도는 50이다. Referring to FIG. 11, a third real image 430 of the third subject 410 is displayed in the emotion measuring region 310. In addition, additional information about the product or the price of the third subject 410 is also displayed through the third virtual image 450. In addition, the body response of the user to the third subject 410 or the third actual image 430 is measured by the emotional sensor 315, and the third emotional index 470 corresponding to the emotional index is the third actual image. 430 and the third virtual image 450 are displayed together. As indicated by the third emotion index 470, the user's interest in the third subject 410 or the third real image 430 is 50.

그리고 도 9 내지 도 11을 참조하여 설명한 실시예에서는 휴대 단말기의 디스플레이부에 피사체들에 대한 실제 이미지와 가상 이미지가 합성된 합성 이미지가 표시된다. 따라서 사용자의 감정 지수, 즉 관심도는 각각의 피사체에 대해서만 측정된 것일 수 있으나, 해당 피사체에 대한 부가 정보가 가상 이미지를 통해 표시됨으로 인해 각 부가 정보가 사용자의 신체 반응이나 관심도에 영향을 끼칠 수 있다. 즉, 디스플레이부에 합성 이미지가 표시됨과 함께 측정된 사용자의 관심도는 피사체 또는 실제 이미지 뿐만이 아니라 각 피사체들에 대한 부가 정보를 고려한 사용자의 관심도일 수 있다. In addition, in the exemplary embodiment described with reference to FIGS. 9 to 11, a composite image obtained by synthesizing a real image and a virtual image of subjects is displayed on a display unit of the portable terminal. Therefore, the user's emotional index, or interest, may be measured only for each subject, but since the additional information about the subject is displayed through the virtual image, each additional information may affect the user's body reaction or interest. . That is, the user's interest measured while the composite image is displayed on the display unit may be not only the subject or the actual image but also the user's interest in consideration of additional information about each subject.

도 9 내지 도 11에 도시된 과정을 통하여 제1 피사체(400), 제2 피사체(405), 제3 피사체(410)에 대한 감정 지수가 모두 산출되면, 감정 지수들은 각각에 상응하는 실제 이미지와 함께 저장될 수 있다. 그리고 저장 여부와 무관하게, 휴대 단말기의 디스플레이부에는 도 12에 도시된 바와 같이 각 피사체에 대한 감정 지수들이 실제 이미지들과 함께 나열될 수 있다. When the emotional indexes for the first subject 400, the second subject 405, and the third subject 410 are all calculated through the processes illustrated in FIGS. 9 to 11, the emotional indexes may correspond to actual images corresponding to the respective images. Can be stored together. Regardless of whether the data is stored or not, as shown in FIG. 12, the emotional indices of each subject may be arranged together with the actual images on the display unit of the portable terminal.

도 13 내지 도 14는 본 발명의 실시예에 따라 피사체에 대한 현재와 과거의 사용자의 감정 지수를 저장 및 비교하는 휴대 단말기를 예시한 도면이다. 13 to 14 are diagrams illustrating a portable terminal for storing and comparing current and past emotional indexes of a user according to an exemplary embodiment of the present invention.

도 13 내지 도 14를 참조하여 설명하는 실시예에서도, 휴대 단말기 앞에는 제4 피사체(510) 를 포함하여 복수의 피사체들(500, 505, 510)이 있다. 사용자는 이 중 제4 피사체(510)를 선택하여 감정 측정 영역(310) 내에 제4 피사체(510)에 대한 제4 실제 이미지(530)가 위치하도록 휴대 단말기에 장착된 카메라의 방향을 고정시킨 상태라고 가정한다. 현재 상태에서 이모셔널 센서 등을 통해 사용자의 신체 반응이 측정되면, 그 신체 반응은 제4 피사체(510) 또는 제4 실제 이미지(530)에 대한 것으로 인식된다. 도 13에 도시된 바를 참조하면, 사용자의 신체 반응에 기초한 감정 지수(520)는 '호감도 80'이다. 따라서 사용자의 '호감도 80' 이라는 감정 지수(520)는 제4 피사체(510)에 대한 것으로서, 감정 지수(520)는 제4 실제 이미지(530)와 함께 메모리 등에 저장된다. 13 to 14, the portable terminal includes a plurality of subjects 500, 505, and 510 including a fourth subject 510. The user selects the fourth subject 510 and fixes the direction of the camera mounted on the portable terminal such that the fourth real image 530 of the fourth subject 510 is positioned in the emotion measuring region 310. Assume that In the current state, if the user's body response is measured through an emotional sensor or the like, the body response is recognized as to the fourth subject 510 or the fourth actual image 530. Referring to FIG. 13, the emotional index 520 based on the user's body response is 'affinity 80'. Accordingly, the emotion index 520 of the user's 'affinity degree 80' is for the fourth subject 510, and the emotion index 520 is stored together with the fourth actual image 530 in a memory.

이어서 도 14를 참조하면, 휴대 단말기의 디스플레이부에는 제4 피사체(510)에 상응하여 저장된 이미지(540), 그리고 제4 피사체(510)에 대하여 미리 측정된 과거 감정 지수(525)가 표시된다. 즉, 제4 피사체(510)를 촬영함으로써 제4 실제 이미지(530)가 생성되고, 메모리 등이 제4 실제 이미지(530)의 전부 또는 일부를 감정 지수(520)와 함께 저장함으로써 저장된 이미지(540)가 이후에도 도 14에 도시된 바와 같이 표시될 수 있게 된다. 14, an image 540 stored corresponding to the fourth subject 510 and a past emotional index 525 measured in advance with respect to the fourth subject 510 are displayed on the display unit of the portable terminal. That is, the fourth real image 530 is generated by capturing the fourth subject 510, and the stored image 540 is stored in the memory or the like by storing all or part of the fourth real image 530 together with the emotion index 520. ) Can be subsequently displayed as shown in FIG. 14.

특히 저장된 감정 지수들과 각 감정 지수에 상응하는 이미지들의 목록을 볼 수 있는 사용자 인터페이스가 휴대 단말기에 구비되는 경우, 이미지들과 감정 지수들은 데이터베이스화되어 메모리에 저장 가능하다. 그리고 사용자는 별도의 메뉴를 통해 과거에 저장해두었던 피사체들에 대한 감정 지수를 그에 상응하는 이미지와 함께 일괄적으로 확인할 수도 있다. In particular, when the portable terminal includes a user interface for viewing a list of stored emotional indexes and images corresponding to each emotional index, the images and the emotional indexes may be stored in a memory in a database. In addition, the user may collectively check the emotion index of the subjects stored in the past with a corresponding image through a separate menu.

예컨대 사용자가 제4 피사체(510)에 대한 이전의 감정 지수를 확인하고자 하는 경우, 저장된 이미지(540) 및 감정 지수를 표시하도록 하는 사용자 명령을 휴대 단말기에 입력할 수 있다. 도 14를 참조하면, 제4 피사체(510)에 상응하는 저장된 이미지(540)와 함께, 제4 피사체(510)에 대한 사용자의 과거 감정 지수(550), 현재 감정 지수(555) 및 감정 변화 수치(560)가 표시된다. 여기서 현재 감정 지수(555)는 사용자가 저장된 이미지(540)를 보면서 측정한 신체 반응에 따른 감정 지수이다. 도 14에 도시된 바를 참조하면, 제4 피사체(510)에 대한 사용자의 과거 호감도는 80, 현재 호감도는 90으로서 호감도는 +10만큼 상승하였고 이러한 감정 변화가 감정 변화 수치(560)를 통해 표시되고 있다. For example, when the user wants to check the previous emotional index with respect to the fourth subject 510, a user command to display the stored image 540 and the emotional index may be input to the portable terminal. Referring to FIG. 14, along with the stored image 540 corresponding to the fourth subject 510, the user's past emotional index 550, the current emotional index 555, and the emotional change value with respect to the fourth subject 510. 560 is displayed. Here, the current emotional index 555 is an emotional index measured by the body response measured while the user views the stored image 540. Referring to FIG. 14, the user's past crush on the fourth subject 510 is 80, the current crush is 90, and the crush has increased by +10, and the emotion change is displayed through the emotion change value 560. have.

도 15 내지 도 16은 본 발명의 실시예에 따라 측정된 감정 지수와 함께 증강 현실을 보여주는 휴대 단말기를 예시한 도면이다. 15 to 16 illustrate a mobile terminal showing augmented reality with an emotional index measured according to an embodiment of the present invention.

도 15 내지 도 16을 참조하여 설명하는 실시예에 따른 휴대 단말기는 지리적인 정보에 기초한 증강 현실을 제공하는데, 특히 각각의 지리적인 지점에 대한 부가 정보와 함께, 사용자의 감정 지수를 더 표시할 수 있다. The portable terminal according to the embodiment described with reference to FIGS. 15 to 16 provides an augmented reality based on geographical information. In particular, the mobile terminal may further display an emotional index of the user together with additional information about each geographical point. have.

제1 지점(600), 제2 지점(605) 및 제3 지점(610)이 촬영되고 있다. 그리고 디스플레이부에는 제1 지점(600)에 상응하는 제1 지점 이미지(620), 제2 지점에 상응하는 제2 지점 이미지(625) 및 제3 지점에 상응하는 제3 지점 이미지(630)가 표시된다. 그리고 감정 측정 영역(310)이 설정되어 디스플레이부에 표시되고 있다. The first point 600, the second point 605, and the third point 610 are captured. The display unit displays a first point image 620 corresponding to the first point 600, a second point image 625 corresponding to the second point, and a third point image 630 corresponding to the third point. do. The emotion measuring area 310 is set and displayed on the display unit.

사용자는 감정 측정 영역(310) 내에 제1 지점 이미지(620), 제2 지점 이미지(625) 및 제3 지점 이미지(630)를 차례로 위치시켜, 제1 지점(600) 내지 제3 지점(610)에 대한 신체 반응을 측정하고, 그에 따라 환산된 감정 지수를 획득할 수 있다. The user sequentially positions the first point image 620, the second point image 625, and the third point image 630 in the emotion measuring area 310, and thus the first point 600 to the third point 610. The body's response to can be measured and thus a converted emotional index can be obtained.

상술한 과정을 통해 제1 지점(600), 제2 지점(605) 및 제3 지점(610)에 대한 사용자의 신체 반응이 측정되고 신체 반응이 감정 지수로 환산되면, 이후에는 각 지점들의 이미지가 디스플레이될 때, 각 지점들에 대한 사용자의 감정 지수가 함께 표시될 수 있다. When the user's body response to the first point 600, the second point 605 and the third point 610 is measured and the body response is converted into an emotional index through the above-described process, the image of each point is then When displayed, the user's sentiment index for each point may be displayed together.

도 16을 참조하면, 제1 지점(600), 제2 지점(605) 및 제3 지점(610)이 촬영됨과 동시에, 그에 대한 부가 정보가 가상 이미지를 통해 표시된다. 그리고 각 지점에 대하여 이전에 측정된 사용자의 감정 지수도 함께 표시된다. Referring to FIG. 16, the first point 600, the second point 605, and the third point 610 are photographed and additional information thereof is displayed through a virtual image. And for each point, the user's emotional index measured previously is also displayed.

즉, 디스플레이부에는 제1 지점(600)을 촬영하여 생성한 제1 지점 이미지(620), 제1 지점(600)에 대한 상표나 상호 등의 부가 정보가 나타난 제1 지점 가상 이미지(640), 그리고 제1 지점(600)에 대한 사용자의 신체 반응으로부터 환산된 제1 지점 감정 지수(645)가 표시된다. 그리고 제2 지점(605)을 촬영하여 생성한 제2 지점 이미지(625), 제2 지점(605)에 대한 상표나 상호 등의 부가 정보가 나타난 제2 지점 가상 이미지(650), 그리고 제2 지점(605)에 대한 사용자의 신체 반응으로부터 환산된 제2 지점 감정 지수(655)도 표시된다. 또한, 제3 지점(310)을 촬영하여 생성한 제3 지점 이미지(630), 제3 지점(610)에 대한 상표나 상호 등의 부가 정보가 나타난 제3 지점 가상 이미지(660), 그리고 제3 지점(610)에 대한 사용자의 신체 반응으로부터 환산된 제3 지점 감정 지수(665)가 표시된다. That is, the display unit may include a first point image 620 generated by photographing the first point 600, a first point virtual image 640 in which additional information such as a trademark or a trade name of the first point 600 is displayed, In addition, the first point emotion index 645 converted from the user's body response to the first point 600 is displayed. And a second point image 625 generated by photographing the second point 605, a second point virtual image 650 in which additional information such as a trademark or a trade name of the second point 605 is displayed, and a second point. A second point emotion index 655 is also displayed, translated from the user's body response to 605. In addition, a third point image 630 generated by photographing the third point 310, a third point virtual image 660 in which additional information such as a trademark or a trade name of the third point 610 is displayed, and a third point A third point emotion index 665 is displayed that is translated from the user's body response to the point 610.

즉, 디스플레이부에는 제1 지점 이미지(620), 제2 지점 이미지(625), 제3 지점 이미지(630), 제1 지점 가상 이미지(640), 제2 지점 가상 이미지(650), 제3 지점 가상 이미지(660) 및 제1 지점 감정 지수(645), 제2 지점 감정 지수(655), 제3 지점 감정 지수(665)가 합성된 합성 이미지가 표시된다. 제1 지점 감정 지수(645), 제2 지점 감정 지수(655), 제3 지점 감정 지수(665)는 각각의 감정 지수가 어느 지점에 대한 것인지를 식별할 수 있게 하는 식별 정보와 함께 메모리에 저장되어, 이후 해당 지점에 대한 증강 현실이 제공될 때 자동으로 표시될 수 있다. That is, the display unit includes a first point image 620, a second point image 625, a third point image 630, a first point virtual image 640, a second point virtual image 650, and a third point. A composite image in which the virtual image 660, the first point emotion index 645, the second point emotion index 655, and the third point emotion index 665 are synthesized is displayed. The first point emotion index 645, the second point emotion index 655, and the third point emotion index 665 are stored in memory with identification information that allows to identify which point each of the emotion indexes is for. It may then be automatically displayed when augmented reality is provided for that point.

따라서 사용자는 증강 현실 기술에 의하여 특정 지역에 대한 정보를 제공받을 때, 해당 지점에 대한 자신의 과거 호감도나 관심도 등이 어떠했는지에 대한 정보를 함께 제공받을 수 있게 된다. Therefore, when the user is provided with information on a specific region by augmented reality technology, the user may be provided with information about his past preference or interest in the corresponding point.

한편, 본 발명은 MSM(Mobile Station Modem) 등과 같이 휴대 단말기에 구비된 프로세서가 읽을 수 있는 기록매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 기록매체는 프로세서에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 프로세서가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 인터넷을 통한 전송 등과 같은 캐리어 웨이브의 형태로 구현되는 것도 포함한다. 또한 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.Meanwhile, the present invention can be embodied as processor readable codes on a processor readable recording medium provided in a mobile terminal such as a mobile station modem (MSM). The processor-readable recording medium includes all kinds of recording devices that store data that can be read by the processor. Examples of the processor-readable recording medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like, and also include a carrier wave such as transmission through the Internet. The processor-readable recording medium can also be distributed over network coupled computer systems so that the processor-readable code is stored and executed in a distributed fashion.

또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.
In addition, while the preferred embodiments of the present invention have been shown and described above, the present invention is not limited to the specific embodiments described above, but the technical field to which the invention belongs without departing from the spirit of the invention claimed in the claims. Of course, various modifications can be made by those skilled in the art, and these modifications should not be individually understood from the technical spirit or the prospect of the present invention.

110 : 무선 통신부 120 : A/V 입력부
130 : 사용자 입력부 140 : 센싱부
150 : 출력부 151 : 디스플레이부
160 : 메모리 170 : 인터페이스부
180 : 제어부110: wireless communication unit 120: A / V input unit
130: user input unit 140: sensing unit
150: output unit 151: display unit
160: memory 170: interface unit
180:

Claims (13)

증강 현실 기술에 의하여 피사체를 촬영한 이미지인 실제 이미지 및 상기 피사체에 대한 부가적인 정보를 나타내는 가상 이미지를 결합한 합성 이미지를 표시하는 디스플레이부;
사용자와의 접촉면으로부터 상기 피사체에 대한 상기 사용자의 감정을 유추할 수 있는 하나 이상의 신체 반응을 측정하는 센서부; 및
상기 사용자의 신체 반응을 감정 지수로 환산하는 제어부를 포함하며,
상기 디스플레이부는 상기 감정 지수를 나타내는 OSD 이미지를 상기 실제 이미지 또는 상기 가상 이미지 중 하나 이상과 함께 표시하는 것을 특징으로 하는 휴대 단말기.A display unit configured to display a composite image combining a real image, which is an image of a subject photographed by augmented reality technology, and a virtual image representing additional information about the subject;
A sensor unit for measuring one or more body reactions that can infer the emotion of the user from the contact surface with the user; And
It includes a control unit for converting the user's body response into an emotional index,
And the display unit displays an OSD image representing the emotional index together with at least one of the real image and the virtual image. 제1항에 있어서,
상기 디스플레이부는 상기 디스플레이부에 표시되는 전체 화면 중에서 일부 영역에 설정된 감정 측정 영역을 더 표시하며,
상기 센서부는 상기 감정 측정 영역 내에 표시되는 상기 실제 이미지에 상응하는 상기 피사체에 대한 사용자의 상기 신체 반응을 측정하는 것을 특징으로 하는 휴대 단말기. The method of claim 1,
The display unit further displays an emotion measurement region set in a partial region of the entire screen displayed on the display unit.
And the sensor unit measures the body response of the user to the subject corresponding to the actual image displayed in the emotion measuring region. 제1항에 있어서,
상기 디스플레이부는 상기 디스플레이부에 표시되는 전체 화면 중에서 일부 영역에 설정된 감정 측정 영역을 더 표시하며,
상기 센서부는 상기 감정 측정 영역 내에 표시되는 상기 가상 이미지에 상응하는 상기 피사체에 대한 사용자의 상기 신체 반응을 측정하는 것을 특징으로 하는 휴대 단말기. The method of claim 1,
The display unit further displays an emotion measurement region set in a partial region of the entire screen displayed on the display unit.
The sensor unit measures the body response of the user to the subject corresponding to the virtual image displayed in the emotion measurement area. 제1항에 있어서,
상기 센서부는 상기 접촉면을 통해 상기 사용자의 심전도, 체온, 접촉 압력 또는 상기 사용자가 흘리는 땀 중 적어도 하나 이상을 센싱하여 상기 신체 반응을 측정하는 것을 특징으로 하는 휴대 단말기. The method of claim 1,
The sensor unit measures the body response by sensing at least one or more of the user's electrocardiogram, body temperature, contact pressure or the sweat that the user sheds through the contact surface. 제1항에 있어서,
상기 산출된 감정 지수를 상기 피사체에 대한 상기 실제 이미지 또는 상기 가상 이미지 중 하나 이상과 함께 저장하는 저장부를 더 포함하는 휴대 단말기. The method of claim 1,
And a storage unit which stores the calculated emotional index together with at least one of the real image or the virtual image of the subject. 제5항에 있어서,
상기 피사체와 다른 피사체를 촬영한 이미지가 상기 저장된 실제 이미지와 일치하는 경우에, 상기 디스플레이부는 상기 다른 피사체를 촬영한 이미지와 함께 상기 피사체에 대한 감정 지수를 표시하는 것을 특징으로 하는 휴대 단말기. The method of claim 5,
And when the image photographing the subject different from the subject coincides with the stored actual image, the display unit displays an emotional index of the subject together with the image photographing the other subject. 제5항에 있어서,
상기 센서부는 상기 감정 지수와 함께 저장된 상기 실제 이미지 또는 상기 가상 이미지에 대하여 상기 신체 반응를 재측정하고, 상기 제어부는 재측정된 상기 신체 반응로부터 감정 지수 변화를 측정하며, 상기 저장부는 상기 피사체에 대하여 2회 이상 측정된 감정 지수 및 감정 지수 변화를 측정 회차에 따라 저장하는 것을 특징으로 하는 휴대 단말기.The method of claim 5,
The sensor unit re-measures the body response with respect to the real image or the virtual image stored with the emotion index, the controller measures the emotion index change from the re-measured body response, and the storage unit is configured with respect to the subject. A mobile terminal, characterized by storing the emotional index and the emotional index change measured more than times according to the measurement interval. 증강 현실 기술에 의하여 피사체를 촬영한 이미지인 실제 이미지 및 상기 피사체에 대한 부가적인 정보를 나타내는 가상 이미지를 결합한 합성 이미지를 표시하는 단계;
사용자와의 접촉면으로부터 상기 피사체에 대한 상기 사용자의 감정을 유추할 수 있는 신체 반응을 측정하는 단계;
상기 사용자의 신체 반응을 감정 지수로 환산하는 단계; 및
환산된 상기 감정 지수를 나타내는 OSD 이미지를 표시하는 단계를 포함하는 휴대 단말기의 동작 방법.Displaying a composite image combining a real image, which is an image of a subject, and a virtual image representing additional information about the subject by augmented reality technology;
Measuring a body response capable of inferring the user's emotion with respect to the subject from a contact surface with the user;
Converting the user's physical response into an emotional index; And
And displaying an OSD image representing the converted emotional index. 제8항에 있어서,
상기 합성 이미지가 표시되는 전체 화면 중에서 일부 영역에 대하여 감정 측정 영역을 설정하는 단계를 더 포함하며,
상기 감정 측정 영역 내에 위치하는 상기 실제 이미지 또는 상기 가상 이미지 중 하나 이상에 상응하는 상기 피사체에 대한 사용자의 상기 신체 반응을 측정하는 것을 특징으로 하는 휴대 단말기의 동작 방법. The method of claim 8,
Setting an emotion measurement region for a portion of the entire screen on which the composite image is displayed;
And measuring the body response of the user to the subject corresponding to at least one of the real image or the virtual image located in the emotion measuring region. 제8항에 있어서,
상기 신체 반응을 측정하는 단계는.
상기 접촉면을 통해 상기 사용자의 심전도, 체온, 접촉 압력 또는 상기 사용자가 흘리는 땀 중 적어도 하나 이상을 센싱하여 상기 신체 반응을 측정하는 것을 특징으로 하는 휴대 단말기의 동작 방법. The method of claim 8,
Measuring the body response is.
And measuring at least one of an electrocardiogram, a body temperature, a contact pressure, and a sweat of the user through the contact surface to measure the body response. 제8항에 있어서,
상기 산출된 감정 지수를 상기 피사체에 대한 상기 실제 이미지 또는 상기 가상 이미지 중 하나 이상과 함께 저장하는 단계를 더 포함하는 휴대 단말기의 동작 방법. The method of claim 8,
And storing the calculated emotion index together with at least one of the real image or the virtual image of the subject. 제11항에 있어서,
상기 피사체와 다른 피사체를 촬영하는 단계;
상기 다른 피사체를 촬영한 이미지가 상기 저장된 실제 이미지와 일치하는 경우에, 상기 디스플레이부는 상기 다른 피사체를 촬영한 이미지와 함께 상기 피사체에 대한 감정 지수를 표시하는 단계를 더 포함하는 휴대 단말기의 동작 방법. The method of claim 11,
Photographing a subject different from the subject;
And displaying the emotion index for the subject together with the image photographing the other subject, when the image photographing the other subject coincides with the stored actual image. 제11항에 있어서,
저장된 상기 실제 이미지 또는 상기 가상 이미지를 표시하는 단계;
상기 실제 이미지 또는 상기 가상 이미지에 대하여 상기 사용자의 상기 신체 반응를 재측정하는 단계; 및
재측정된 상기 신체 반응에 따라 상기 감정 지수의 변화를 산출하는 단계를 더 포함하는 휴대 단말기의 동작 방법. The method of claim 11,
Displaying the stored real image or the virtual image;
Re-measuring the body response of the user with respect to the real image or the virtual image; And
Calculating a change in the emotional index according to the remeasured body response.
KR1020100052943A 2010-06-04 2010-06-04 Mobile terminal and operating method thereof KR20110133295A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100052943A KR20110133295A (en) 2010-06-04 2010-06-04 Mobile terminal and operating method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100052943A KR20110133295A (en) 2010-06-04 2010-06-04 Mobile terminal and operating method thereof

Publications (1)

Publication Number Publication Date
KR20110133295A true KR20110133295A (en) 2011-12-12

Family

ID=45501024

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100052943A KR20110133295A (en) 2010-06-04 2010-06-04 Mobile terminal and operating method thereof

Country Status (1)

Country Link
KR (1) KR20110133295A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190095671A (en) * 2018-02-07 2019-08-16 장준석 Virtual reality head mounted display for showing user's status and user status display method and content control method using the system
WO2020075925A1 (en) * 2018-10-12 2020-04-16 삼성전자주식회사 Mobile device and control method for mobile device
WO2020075926A1 (en) * 2018-10-12 2020-04-16 삼성전자주식회사 Mobile device and method for controlling mobile device

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190095671A (en) * 2018-02-07 2019-08-16 장준석 Virtual reality head mounted display for showing user's status and user status display method and content control method using the system
WO2020075925A1 (en) * 2018-10-12 2020-04-16 삼성전자주식회사 Mobile device and control method for mobile device
WO2020075926A1 (en) * 2018-10-12 2020-04-16 삼성전자주식회사 Mobile device and method for controlling mobile device
KR20200041554A (en) * 2018-10-12 2020-04-22 삼성전자주식회사 A mobile apparatus and a method for controlling the mobile apparatus
KR20200041548A (en) * 2018-10-12 2020-04-22 삼성전자주식회사 A mobile apparatus and a method for controlling the mobile apparatus
US11487413B2 (en) 2018-10-12 2022-11-01 Samsung Electronics Co., Ltd. Mobile device and control method for mobile device
US11620824B2 (en) 2018-10-12 2023-04-04 Samsung Electronics Co., Ltd. Mobile apparatus and control method thereof to control an object displayed on a target device

Similar Documents

Publication Publication Date Title
KR101655812B1 (en) Mobile terminal and operation method thereof
KR102058043B1 (en) Image display apparatus and method for operating the same
KR20110123142A (en) Operating a mobile termianl with a vibration module
KR20120000850A (en) Mobile terminal and operation method thereof
KR20140073232A (en) Mobil terminal and Operating Method for the Same
CN111341317B (en) Method, device, electronic equipment and medium for evaluating wake-up audio data
KR20110133295A (en) Mobile terminal and operating method thereof
KR20110119127A (en) Mobile terminal and operation method thereof
KR101626307B1 (en) Mobile terminal and operation control method thereof
KR101727900B1 (en) Mobile terminal and operation control method thereof
KR101774807B1 (en) Mobile terminal and operation method thereof
KR20120057256A (en) Mobile terminal and operation method thereof
KR101769556B1 (en) Mobile terminal and operation method thereof
KR20120001477A (en) Mobile terminal and operation method thereof
KR101685340B1 (en) Mobile terminal and operation method thereof
KR101689713B1 (en) Mobile terminal and operation method thereof
KR20110133860A (en) Mobile terminal and operation method thereof
KR20120021440A (en) Mobile terminal and operation method thereof
KR20110029834A (en) Mobile terminal and operation control method thereof
KR20150081694A (en) Mobile terminal and operation method thereof
KR101716153B1 (en) Mobile terminal and operation method thereof
KR101696720B1 (en) Mobile terminal and operation method thereof
KR20120023317A (en) Mobile terminal and operation method thereof
CN117763232A (en) Resource recommendation method, device, equipment and computer readable storage medium
KR101144811B1 (en) Mobile terminal and operating method thereof

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E601 Decision to refuse application