KR20150081694A

KR20150081694A - Mobile terminal and operation method thereof

Info

Publication number: KR20150081694A
Application number: KR1020140001438A
Authority: KR
Inventors: 김대언; 김경도; 송승호; 서지훈
Original assignee: 엘지전자 주식회사
Priority date: 2014-01-06
Filing date: 2014-01-06
Publication date: 2015-07-15

Abstract

The present invention relates to a method for operating a mobile terminal, comprising the steps of: going into a text input mode; sensing a face area of a person inputted through a camera and sensing a voice inputted through a microphone; analyzing a look of the face and characteristics of the voice; displaying one or more images corresponding to the look of the face and the characteristics of the voice; and selecting at least one image among the images and transmitting the same to a counterpart terminal.

Description

[0001] MOBILE TERMINAL AND OPERATION METHOD THEREOF [0002]

본 발명은 이동 단말기 및 그 동작 방법에 관한 것으로, 더욱 상세하게는 사용자의 얼굴 표정 및 음성에 대응하는 이미지를 상대방 단말기로 전송하는 이동 단말기 및 그 동작 방법에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a mobile terminal and an operation method thereof, and more particularly, to a mobile terminal for transmitting an image corresponding to a facial expression and a voice of a user to a correspondent terminal and an operation method thereof.

이동 단말기는 휴대가 가능하면서 음성 및 영상 통화를 수행할 수 있는 기능, 정보를 입·출력할 수 있는 기능, 및 데이터를 저장할 수 있는 기능 등을 하나 이상 갖춘 휴대용 기기이다. 이러한 이동 단말기는 그 기능이 다양화됨에 따라, 사진이나 동영상의 촬영, 음악 파일이나 동영상 파일의 재생, 게임, 방송의 수신, 무선 인터넷 등과 같은 복잡한 기능들을 갖추게 되었으며, 종합적인 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.A mobile terminal is a portable device having one or more functions capable of carrying out voice and video communication, capable of inputting and outputting information, and storing data, while being portable. As the function of the mobile terminal is diversified, the mobile terminal has complicated functions such as photographing and photographing of a moving picture, playback of a music file or a moving picture file, reception of a game, broadcasting, wireless Internet, etc., and a comprehensive multimedia device .

이러한 멀티미디어 기기의 형태로 구현된 이동 단말기에는, 복잡한 기능을 구현하기 위해 하드웨어나 소프트웨어적 측면에서 새로운 시도들이 다양하게 적용되고 있다. 일 예로, 사용자가 쉽고 편리하게 기능을 검색하거나 선택하기 위한 사용자 인터페이스(User Interface) 환경 등이 있다. 또한, 이동 단말기는 사용자의 개성을 표현하기 위한 개인 휴대품으로 여겨지면서, 양면에서 보이는 양면 LCD(Liquid Crystal Display)나, 전면 터치스크린(touch screen) 등 다양한 형태의 디자인 변화도 요구되고 있다.In order to implement complex functions, mobile terminals implemented in the form of multimedia devices are being applied variously in terms of hardware and software. For example, there is a user interface environment in which a user can easily and conveniently search for or select a function. In addition, the mobile terminal is considered to be a personal item for expressing the personality of a user, and various design changes such as a double-sided LCD (Liquid Crystal Display) or a front touch screen are required.

최근, 스마트폰의 열풍과 함께 스마트폰에서도 얼굴 인식 및 음성 인식 기술이 탑재되고 있다. 얼굴 인식 및 음성 인식 기술은 바이오 인식 기술의 한 종류로서, 비 접촉성의 사용자 편의성을 제공하는 인식 기술로 다양한 디바이스에 적용되고 있다.In recent years, smart phones have been equipped with face recognition and voice recognition technology in addition to the smartphone. Face recognition and speech recognition technology is a kind of biometric recognition technology and is applied to various devices as recognition technology that provides non-contact user convenience.

한편, 이동 단말기는 음성 통화 또는 화상 통화뿐만 아니라 문자 메시지 전송을 통해 의사 소통이 가능하게 한다. 그러나, 문자 메시지를 통한 의사 소통의 경우, 문자라는 제한된 표현 수단으로 사용자의 감정을 풍부하게 전달할 수 없는 문제가 있다. 예를 들어, 사용자가 "ㅋㅋㅋ"라는 문자 메시지를 상대방에게 전달하는 경우, "ㅋㅋㅋ"라는 문자가 사용자의 실제 얼굴 표정과 감정을 전달하지는 못한다. 따라서, 문자 메시지 전송을 통한 의사 소통의 경우에도 사용자의 감정을 정확하게 전달할 수 있는 기술이 요구된다.On the other hand, the mobile terminal makes it possible to communicate not only through a voice call or a video call, but also through a text message transmission. However, in the case of communication through a text message, there is a problem in that the user's feeling can not be conveyed in a rich manner by means of limited expression of characters. For example, if a user sends a text message "blah blah" to the other party, the character "blah blah" does not convey the user's actual facial expression and emotion. Therefore, even in the case of communication through text message transmission, a technique capable of accurately conveying user's emotions is required.

본 발명은 상기한 문제점을 해결하기 위하여, 사용자의 얼굴 표정 및 음성에 대응하는 이미지를 상대방 단말기로 전송하는 이동 단말기 및 그 동작 방법을 제공하는데 그 목적이 있다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide a mobile terminal for transmitting an image corresponding to a facial expression and voice of a user to a counterpart terminal, and an operation method thereof.

상기 목적을 달성하기 위한 본 발명의 실시 예에 따른 이동 단말기의 동작 방법은 텍스트 입력모드에 진입하는 단계, 카메라를 통해 입력되는 사람의 얼굴영역을 감지하고 마이크를 통해 입력되는 음성을 감지하는 단계, 상기 얼굴의 표정 또는 상기 음성의 특징을 분석하는 단계, 상기 얼굴의 표정 또는 상기 음성의 특징에 대응되는 하나 이상의 이미지를 표시하는 단계 및 상기 이미지들 중 적어도 하나의 이미지를 선택하여 상기 상대방 단말기로 전송하는 단계를 포함한다.According to another aspect of the present invention, there is provided a method of operating a mobile terminal including entering a text input mode, sensing a face region of a person input through a camera, sensing a voice inputted through a microphone, The method comprising the steps of: analyzing a facial expression or a characteristic of the voice; displaying at least one image corresponding to a facial expression or a feature of the voice; and selecting at least one image of the images to be transmitted to the counterpart terminal .

상기와 같이 구성되는 본 발명의 적어도 하나의 실시 예에 관련된 이동 단말기의 동작방법에 의한 효과는 다음과 같다.The effect of the operation method of the mobile terminal according to at least one embodiment of the present invention constructed as above is as follows.

첫째, 문자메시지 전송 시 이동 단말기의 사용자 얼굴 표정 및 음성과 대응하는 이미지를 전송할 수 있어 문자 메시지를 통해서도 사용자의 감정을 충실히 전달 할 수 있다는 장점이 있다.First, when a text message is transmitted, an image corresponding to a user's facial expression and voice of the mobile terminal can be transmitted, so that it is possible to faithfully transmit the user's feelings through a text message.

둘째, 이미지 제공 서버를 통해 이미지를 제공받을 수 있어 이동 단말기의 사용자가 선택할 수 있는 이미지의 폭이 넓어진다는 장점이 있다.Second, images can be received through the image providing server, which widens the range of images that the user of the mobile terminal can select.

셋째, 문자 메시지 애플리케이션에 관계없이 사용자의 감정 전달에 용이하게 사용자 맞춤형 이미지를 제공할 수 있는 장점이 있다.Third, there is an advantage that a user-customized image can be easily provided to a user's emotion regardless of a text message application.

본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description of the claims.

도 1은 본 발명의 실시예에 따른 이동 단말기의 블록도이다.
도 2는 본 발명의 실시예에 따른 이동 단말기를 전면에서 바라본 사시도이다.
도 3은 본 발명의 실시예에 따른 이동 단말기의 후면 사시도이다.
도 4는 본 발명의 제1 실시예에 따른 이동 단말기의 동작 방법의 플로우 차트이다.
도 5는 본 발명의 제2 실시예에 따른 이동 단말기의 동작 방법의 플로우 차트이다.
도 6은 본 발명의 제3 실시예에 따른 이동 단말기의 동작 방법의 플로우 차트이다.
도 7은 본 발명의 실시예에 따라, 디스플레이부(151)에 표시되는 이미지들을 설명하는데 참조되는 도면이다.
도 8a 및 도 8b는 본 발명의 실시예에 따라, 사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값을 저장하는 동작을 설명하는데 참조되는 예시도이다.
도 9는 본 발명의 실시예에 따라, 텍스트 입력 모드에 진입하는 동작을 설명하는데 참조되는 예시도이다.
도 10은 본 발명의 실시예에 따라, 이동 단말기(100) 사용자의 얼굴 표정 및 음성을 감지하는 동작을 설명하는 도면이다.
도 11는 본 발명의 실시예에 따라, 아바타 DB에서 아바타를 생성하는 동작을 설명하는데 참조되는 도면이다.
도 12a 및 도 12b는 본 발명의 실시예에 따라, 사용자의 얼굴 표정 또는 사용자의 음성과 매칭되는 이미지를 이미지 저장 DB에 저장하는 동작을 설명하는데 참조되는 도면이다.
도 13는 본 발명의 실시예에 따라, 사용자의 얼굴 표정 또는 사용자의 음성에 대응하는 이미지를 선택하여 상대방 단말기에 전송하는 동작을 설명하는데 참조되는 예시도이다.1 is a block diagram of a mobile terminal according to an embodiment of the present invention.
2 is a perspective view of a mobile terminal according to an embodiment of the present invention.
3 is a rear perspective view of a mobile terminal according to an embodiment of the present invention.
4 is a flowchart of an operation method of a mobile terminal according to the first embodiment of the present invention.
5 is a flowchart of an operation method of a mobile terminal according to a second embodiment of the present invention.
6 is a flowchart of an operation method of the mobile terminal according to the third embodiment of the present invention.
7 is a diagram referred to explain the images displayed on the display unit 151 according to the embodiment of the present invention.
8A and 8B are exemplary diagrams that are referenced to describe the operation of storing default facial expressions of a user or a voice of a user, in accordance with an embodiment of the present invention.
Figure 9 is an exemplary diagram that is referenced to illustrate the operation of entering a text entry mode, in accordance with an embodiment of the present invention.
10 is a view for explaining the operation of detecting the facial expression and voice of the user of the mobile terminal 100 according to the embodiment of the present invention.
11 is a diagram referred to explain an operation of generating an avatar in an avatar DB according to an embodiment of the present invention.
12A and 12B are diagrams for describing an operation of storing an image matching a user's facial expression or a voice of a user in an image storage DB according to an embodiment of the present invention.
13 is an exemplary diagram for explaining an operation of selecting an image corresponding to a user's facial expression or a voice of a user and transmitting the selected image to a correspondent terminal according to an embodiment of the present invention.

이하에서는 도면을 참조하여 본 발명을 보다 상세하게 설명한다.Hereinafter, the present invention will be described in detail with reference to the drawings.

본 명세서에서 기술되는 이동 단말기에는, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(notebook computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 카메라, 네비게이션, 타블렛 컴퓨터(tablet computer), 이북(e-book) 단말기 등이 포함된다. 또한, 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있다.Examples of the mobile terminal described in the present specification include a mobile phone, a smart phone, a notebook computer, a digital broadcasting terminal, a PDA (Personal Digital Assistants), a PMP (Portable Multimedia Player), a camera, tablet computers, e-book terminals, and the like. In addition, suffixes "module" and " part "for the components used in the following description are given merely for convenience of description, and do not give special significance or role in themselves. Accordingly, the terms "module" and "part" may be used interchangeably.

도 1은 본 발명의 일 실시 예에 따른 이동 단말기의 블록도이다. 도 1을 참조하여 본 발명의 일 실시 예에 따른 이동 단말기를 기능에 따른 구성요소 관점에서 살펴보면 다음과 같다.1 is a block diagram of a mobile terminal according to an embodiment of the present invention. Referring to FIG. 1, a mobile terminal according to an exemplary embodiment of the present invention will be described in terms of functional components.

도 1을 참조하면, 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180), 및 전원 공급부(190)를 포함할 수 있다. 이와 같은 구성요소들은 실제 응용에서 구현될 때 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다.1, a mobile terminal 100 includes a wireless communication unit 110, an audio / video (A / V) input unit 120, a user input unit 130, a sensing unit 140, an output unit 150, A controller 160, an interface 170, a controller 180, and a power supply 190. When such components are implemented in practical applications, two or more components may be combined into one component, or one component may be divided into two or more components as necessary.

무선 통신부(110)는 방송수신 모듈(111), 이동통신 모듈(113), 무선 인터넷 모듈(115), 근거리 통신 모듈(117), 및 GPS 모듈(119) 등을 포함할 수 있다.The wireless communication unit 110 may include a broadcast receiving module 111, a mobile communication module 113, a wireless Internet module 115, a short distance communication module 117, and a GPS module 119.

방송수신 모듈(111)은 방송 채널을 통하여 외부의 방송관리 서버로부터 방송 신호 및 방송관련 정보 중 적어도 하나를 수신한다. 이때, 방송 채널은 위성 채널, 지상파 채널 등을 포함할 수 있다. 방송관리 서버는, 방송 신호 및 방송 관련 정보 중 적어도 하나를 생성하여 전송하는 서버나, 기 생성된 방송 신호 및 방송관련 정보 중 적어도 하나를 제공받아 단말기에 전송하는 서버를 의미할 수 있다.The broadcast receiving module 111 receives at least one of a broadcast signal and broadcast related information from an external broadcast management server through a broadcast channel. At this time, the broadcast channel may include a satellite channel, a terrestrial channel, and the like. The broadcast management server may refer to a server for generating and transmitting at least one of a broadcast signal and broadcast-related information, and a server for receiving at least one of the generated broadcast signal and broadcast-related information and transmitting the broadcast-related information to the terminal.

방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. 방송관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 방송관련 정보는, 이동통신망을 통하여도 제공될 수 있으며, 이 경우에는 이동통신 모듈(113)에 의해 수신될 수 있다. 방송관련 정보는 다양한 형태로 존재할 수 있다. The broadcast signal may include a TV broadcast signal, a radio broadcast signal, a data broadcast signal, and a broadcast signal in which a data broadcast signal is combined with a TV broadcast signal or a radio broadcast signal. The broadcast-related information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider. The broadcast-related information can also be provided through a mobile communication network, in which case it can be received by the mobile communication module 113. Broadcast-related information can exist in various forms.

방송수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 또한, 방송수신 모듈(111)은, 이와 같은 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 모든 방송 시스템에 적합하도록 구성될 수 있다. 방송수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.The broadcast receiving module 111 receives broadcast signals using various broadcasting systems. In particular, the broadcast receiving module 111 may be a Digital Multimedia Broadcasting-Terrestrial (DMB-T), a Digital Multimedia Broadcasting-Satellite (DMB-S) ), Digital Video Broadcast-Handheld (DVB-H), Integrated Services Digital Broadcast-Terrestrial (ISDB-T), and the like. In addition, the broadcast receiving module 111 may be configured to be suitable for all broadcasting systems that provide broadcasting signals, as well as the digital broadcasting system. The broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.

이동통신 모듈(113)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호, 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The mobile communication module 113 transmits and receives a radio signal to at least one of a base station, an external terminal, and a server on a mobile communication network. Here, the wireless signal may include various types of data according to a voice call signal, a video call signal, or a text / multimedia message transmission / reception.

무선 인터넷 모듈(115)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(115)은 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The wireless Internet module 115 is a module for wireless Internet access, and the wireless Internet module 115 can be built in or externally attached to the mobile terminal 100. WLAN (Wi-Fi), Wibro (Wireless broadband), Wimax (World Interoperability for Microwave Access), HSDPA (High Speed Downlink Packet Access) and the like can be used as wireless Internet technologies.

근거리 통신 모듈(117)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), NFC(Near Field Communication) 등이 이용될 수 있다.The short-range communication module 117 refers to a module for short-range communication. Bluetooth, radio frequency identification (RFID), infrared data association (IrDA), ultra wideband (UWB), ZigBee, and Near Field Communication (NFC) may be used as the short distance communication technology.

GPS(Global Position System) 모듈(119)은 복수 개의 GPS 인공위성으로부터 위치 정보를 수신한다.A GPS (Global Position System) module 119 receives position information from a plurality of GPS satellites.

A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(미도시) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 그리고, 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.An A / V (Audio / Video) input unit 120 is for inputting an audio signal or a video signal, and may include a camera 121 and a microphone (not shown). The camera 121 processes image frames such as still images or moving images obtained by the image sensor in the video communication mode or the photographing mode. Then, the processed image frame can be displayed on the display unit 151. [

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.The image frame processed by the camera 121 may be stored in the memory 160 or transmitted to the outside through the wireless communication unit 110. [ The camera 121 may be equipped with two or more cameras according to the configuration of the terminal.

마이크(미도시)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 그리고, 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(113)를 통하여 이동통신 기지국으로 전송 가능한 형태로 변환되어 출력될 수 있다. 마이크 (미도시)는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘이 사용될 수 있다.A microphone (not shown) receives an external sound signal by a microphone in a communication mode, a recording mode, a voice recognition mode, and the like and processes it as electrical voice data. The processed voice data can be converted into a form that can be transmitted to the mobile communication base station through the mobile communication module 113 when the voice data is in the call mode, and output. The microphone (not shown) may be used with various noise reduction algorithms to remove noise generated in receiving an external sound signal.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위하여 입력하는 키 입력 데이터를 발생시킨다. 사용자 입력부(130)는 사용자의 누름 또는 터치 조작에 의해 명령 또는 정보를 입력받을 수 있는 키 패드(key pad), 돔 스위치(dome switch), 터치 패드(정압/정전) 등으로 구성될 수 있다. 또한, 사용자 입력부(130)는 키를 회전시키는 조그 휠 또는 조그 방식이나 조이스틱과 같이 조작하는 방식이나, 핑거 마우스 등으로 구성될 수 있다. 특히, 터치 패드가 후술하는 디스플레이부(151)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다.The user input unit 130 generates key input data that the user inputs to control the operation of the terminal. The user input unit 130 may include a key pad, a dome switch, and a touch pad (static / static) capable of receiving commands or information by a user's pressing or touching operation. The user input unit 130 may be a jog wheel for rotating the key, a jog type or a joystick, or a finger mouse. Particularly, when the touch pad has a mutual layer structure with the display unit 151 described later, it can be called a touch screen.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당할 수 있다.The sensing unit 140 senses the current state of the mobile terminal 100 such as the open / close state of the mobile terminal 100, the position of the mobile terminal 100, Thereby generating a sensing signal. For example, when the mobile terminal 100 is in the form of a slide phone, it is possible to sense whether the slide phone is opened or closed. In addition, a sensing function related to whether or not the power supply unit 190 is powered on, whether the interface unit 170 is coupled to an external device, and the like can be handled.

센싱부(140)는 근접센서(141), 압력센서(143), 및 모션 센서(145) 등을 포함할 수 있다. 근접센서(141)는 이동 단말기(100)로 접근하는 물체나, 이동 단말기(100)의 근방에 존재하는 물체의 유무 등을 기계적 접촉이 없이 검출할 수 있도록 한다. 근접센서(141)는, 교류자계의 변화나 정자계의 변화를 이용하거나, 혹은 정전용량의 변화율 등을 이용하여 근접물체를 검출할 수 있다. 근접센서(141)는 구성 태양에 따라 2개 이상이 구비될 수 있다.The sensing unit 140 may include a proximity sensor 141, a pressure sensor 143, a motion sensor 145, and the like. The proximity sensor 141 can detect an object approaching the mobile terminal 100 or the presence or absence of an object in the vicinity of the mobile terminal 100 without mechanical contact. The proximity sensor 141 can detect a nearby object by using a change in the alternating magnetic field or a change in the static magnetic field, or a rate of change in capacitance. The proximity sensor 141 may be equipped with two or more sensors according to the configuration.

압력센서(143)는 이동 단말기(100)에 압력이 가해지는지 여부와, 그 압력의 크기 등을 검출할 수 있다. 압력센서(143)는 사용환경에 따라 이동 단말기(100)에서 압력의 검출이 필요한 부위에 설치될 수 있다. 만일, 압력센서(143)가 디스플레이부(151)에 설치되는 경우, 압력센서(143)에서 출력되는 신호에 따라, 디스플레이부(151)를 통한 터치 입력과, 터치 입력보다 더 큰 압력이 가해지는 압력터치 입력을 식별할 수 있다. 또한, 압력센서(143)에서 출력되는 신호에 따라, 압력터치 입력시 디스플레이부(151)에 가해지는 압력의 크기도 알 수 있다.The pressure sensor 143 can detect whether or not pressure is applied to the mobile terminal 100, the magnitude of the pressure, and the like. The pressure sensor 143 may be installed at a portion where the pressure of the mobile terminal 100 is required according to the use environment. When the pressure sensor 143 is installed on the display unit 151, the touch input through the display unit 151 and the pressure applied by the touch input The pressure touch input can be identified. Also, the magnitude of the pressure applied to the display unit 151 at the time of the pressure touch input can be determined according to the signal output from the pressure sensor 143. [

모션 센서(145)는 가속도 센서, 자이로 센서 등을 이용하여 이동 단말기(100)의 위치나 움직임 등을 감지한다. 모션 센서(145)에 사용될 수 있는 가속도 센서는 어느 한 방향의 가속도 변화에 대해서 이를 전기 신호로 바꾸어 주는 소자로서, MEMS(micro-electromechanical systems) 기술의 발달과 더불어 널리 사용되고 있다.The motion sensor 145 senses the position or movement of the mobile terminal 100 using an acceleration sensor, a gyro sensor, or the like. An acceleration sensor that can be used for the motion sensor 145 is a device that converts an acceleration change in one direction into an electric signal and is widely used along with the development of MEMS (micro-electromechanical systems) technology.

가속도 센서에는, 자동차의 에어백 시스템에 내장되어 충돌을 감지하는데 사용하는 큰 값의 가속도를 측정하는 것부터, 사람 손의 미세한 동작을 인식하여 게임 등의 입력 수단으로 사용하는 미세한 값의 가속도를 측정하는 것까지 다양한 종류가 있다. 가속도 센서는 보통 2축이나 3축을 하나의 패키지에 실장하여 구성되며, 사용 환경에 따라서는 Z축 한 축만 필요한 경우도 있다. 따라서, 어떤 이유로 Z축 방향 대신 X축 또는 Y축 방향의 가속도 센서를 써야 할 경우에는 별도의 조각 기판을 사용하여 가속도 센서를 주 기판에 세워서 실장할 수도 있다.The acceleration sensor measures the acceleration of a small value built in the airbag system of an automobile and recognizes the minute motion of the human hand and measures the acceleration of a large value used as an input means such as a game There are various kinds. Acceleration sensors are usually constructed by mounting two or three axes in one package. Depending on the usage environment, only one axis of Z axis is required. Therefore, when the acceleration sensor in the X-axis direction or the Y-axis direction is used instead of the Z-axis direction for some reason, the acceleration sensor may be mounted on the main substrate by using a separate piece substrate.

또한, 자이로 센서는 각속도를 측정하는 센서로서, 기준 방향에 대해 돌아간 방향을 감지할 수 있다.The gyro sensor is a sensor for measuring the angular velocity, and it can sense the direction of rotation with respect to the reference direction.

출력부(150)는 오디오 신호 또는 비디오 신호 또는 알람(alarm) 신호의 출력을 위한 것이다. 출력부(150)에는 디스플레이부(151), 음향출력 모듈(153), 알람부(155), 및 햅틱 모듈(157) 등이 포함될 수 있다.The output unit 150 is for outputting an audio signal, a video signal, or an alarm signal. The output unit 150 may include a display unit 151, an audio output module 153, an alarm unit 155, and a haptic module 157.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어 이동 단말기(100)가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 그리고 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우, 촬영되거나 수신된 영상을 각각 혹은 동시에 표시할 수 있으며, UI, GUI를 표시한다. The display unit 151 displays and outputs information processed by the mobile terminal 100. For example, when the mobile terminal 100 is in the call mode, a UI (User Interface) or a GUI (Graphic User Interface) associated with a call is displayed. When the mobile terminal 100 is in the video communication mode or the photographing mode, the photographed or received images can be displayed individually or simultaneously, and the UI and the GUI are displayed.

한편, 전술한 바와 같이, 디스플레이부(151)와 터치패드가 상호 레이어 구조를 이루어 터치스크린으로 구성되는 경우, 디스플레이부(151)는 출력 장치 이외에 사용자의 터치에 의한 정보의 입력이 가능한 입력 장치로도 사용될 수 있다. Meanwhile, as described above, when the display unit 151 and the touch pad have a mutual layer structure to constitute a touch screen, the display unit 151 may be an input device capable of inputting information by a user's touch in addition to the output device Can also be used.

만일, 디스플레이부(151)가 터치스크린으로 구성되는 경우, 터치스크린 패널, 터치스크린 패널 제어기 등을 포함할 수 있다. 이 경우, 터치스크린 패널은 외부에 부착되는 투명한 패널로서, 이동 단말기(100)의 내부 버스에 연결될 수 있다. 터치스크린 패널은 접촉 결과를 주시하고 있다가, 터치입력이 있는 경우 대응하는 신호들을 터치스크린 패널 제어기로 보낸다. 터치스크린 패널 제어기는 그 신호들을 처리한 다음 대응하는 데이터를 제어부(180)로 전송하여, 제어부(180)가 터치입력이 있었는지 여부와 터치스크린의 어느 영역이 터치 되었는지 여부를 알 수 있도록 한다. If the display unit 151 is configured as a touch screen, it may include a touch screen panel, a touch screen panel controller, and the like. In this case, the touch screen panel is a transparent panel that is attached to the outside, and can be connected to the internal bus of the mobile terminal 100. The touch screen panel keeps a watch on the contact result, and if there is a touch input, sends the corresponding signals to the touch screen panel controller. The touch screen panel controller processes the signals, and then transmits corresponding data to the controller 180 so that the controller 180 can determine whether the touch input has been made and which area of the touch screen has been touched.

디스플레이부(151)는 전자종이(e-Paper)로 구성될 수도 있다. 전자종이(e-Paper)는 일종의 반사형 디스플레이로서, 기존의 종이와 잉크처럼 높은 해상도, 넓은 시야각, 밝은 흰색 배경으로 우수한 시각 특성을 가진다. 전자종이(e-Paper)는 플라스틱, 금속, 종이 등 어떠한 기판상에도 구현이 가능하고, 전원을 차단한 후에도 화상이 유지되고 백라이트(back light) 전원이 없어 이동 단말기(100)의 배터리 수명이 오래 유지될 수 있다. 전자종이로는 정전화가 충전된 반구형 트위스트 볼을 이용하거나, 전기영동법 및 마이크로 캡슐 등을 이용할 수 있다. The display unit 151 may be formed of an e-paper. Electronic paper (e-Paper) is a kind of reflective display, and has excellent visual characteristics such as high resolution, wide viewing angle and bright white background as conventional paper and ink. The electronic paper (e-paper) can be implemented on any substrate such as plastic, metal, paper, and the image is maintained even after the power is shut off, and the battery life of the mobile terminal 100 is long Can be maintained. As the electronic paper, a hemispherical twist ball filled with a telephone can be used, or an electrophoresis method and a microcapsule can be used.

이외에도 디스플레이부(151)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수도 있다. 그리고, 이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수도 있다. 예를 들어, 이동 단말기(100)에 외부 디스플레이부(미도시)와 내부 디스플레이부(미도시)가 동시에 구비될 수 있다.In addition, the display unit 151 may be a liquid crystal display, a thin film transistor-liquid crystal display, an organic light-emitting diode, a flexible display, a three- (3D display). In addition, there may be two or more display units 151 according to the embodiment of the mobile terminal 100. For example, the mobile terminal 100 may include an external display unit (not shown) and an internal display unit (not shown) at the same time.

음향출력 모듈(153)은 호 신호 수신, 통화 모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력한다. 또한, 음향출력 모듈(153)은 이동 단말기(100)에서 수행되는 기능, 예를 들어, 호 신호 수신음, 메시지 수신음 등과 관련된 음향 신호를 출력한다. 이러한 음향출력 모듈(153)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.The audio output module 153 outputs audio data received from the wireless communication unit 110 or stored in the memory 160 in a call signal reception mode, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, In addition, the sound output module 153 outputs sound signals related to functions performed in the mobile terminal 100, for example, call signal reception tones, message reception tones, and the like. The sound output module 153 may include a speaker, a buzzer, and the like.

알람부(155)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생하는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력 등이 있다. 알람부(155)는 오디오 신호나 비디오 신호 이외에 다른 형태로 이벤트 발생을 알리기 위한 신호를 출력한다. 예를 들면, 진동 형태로 신호를 출력할 수 있다. 알람부(155)는 호 신호가 수신되거나 메시지가 수신된 경우, 이를 알리기 위해 신호를 출력할 수 있다. 또한, 알람부(155)는 키 신호가 입력된 경우, 키 신호 입력에 대한 피드백으로 신호를 출력할 수 있다. 이러한 알람부(155)가 출력하는 신호를 통해 사용자는 이벤트 발생을 인지할 수 있다. 이동 단말기(100)에서 이벤트 발생 알림을 위한 신호는 디스플레이부(151)나 음향출력 모듈(153)를 통해서도 출력될 수 있다.The alarm unit 155 outputs a signal for notifying the occurrence of an event of the mobile terminal 100. Examples of events that occur in the mobile terminal 100 include call signal reception, message reception, and key signal input. The alarm unit 155 outputs a signal for notifying the occurrence of an event in a form other than an audio signal or a video signal. For example, it is possible to output a signal in a vibration mode. The alarm unit 155 can output a signal to notify when a call signal is received or a message is received. Also, when the key signal is inputted, the alarm unit 155 can output the signal as the feedback to the key signal input. The user can recognize the occurrence of an event through the signal output by the alarm unit 155. A signal for notifying the occurrence of an event in the mobile terminal 100 may also be output through the display unit 151 or the sound output module 153. [

햅틱 모듈(haptic module)(157)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(157)이 발생시키는 촉각 효과의 대표적인 예로는 진동 효과가 있다. 햅틱 모듈(157)이 촉각 효과로 진동을 발생시키는 경우, 햅택 모듈(157)이 발생하는 진동의 세기와 패턴 등은 변환가능하며, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.The haptic module 157 generates various tactile effects that the user can feel. A typical example of the haptic effect generated by the haptic module 157 is a vibration effect. When the haptic module 157 generates vibration with a haptic effect, the intensity and pattern of the vibration generated by the haptic module 157 can be converted, and the different vibrations can be synthesized and output or sequentially output.

햅틱 모듈(157)은 진동 외에도, 접촉 피부 면에 대해 수직 운동하는 핀 배열에 의한 자극에 의한 효과, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력을 통한 자극에 의한 효과, 피부 표면을 스치는 자극에 의한 효과, 전극(eletrode)의 접촉을 통한 자극에 의한 효과, 정 전기력을 이용한 자극에 의한 효과, 흡열이나 발열이 가능한 소자를 이용한 냉/온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. 햅틱 모듈(157)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자의 손가락이나 팔 등의 근감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(157)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.In addition to the vibration, the haptic module 157 may be provided with a function of stimulating by a pin arrangement vertically moving with respect to the contact skin surface, an effect of stimulating air through the injection or suction force of the air through the injection port or the suction port, The effect of stimulation through contact of the electrode (eletrode), the effect of stimulation by the electrostatic force, and the effect of reproducing the cool / warm using the device capable of endothermic or exothermic can be generated. The haptic module 157 can be implemented not only to transmit the tactile effect through direct contact but also to feel the tactile effect through the muscular sense of the user's finger or arm. The haptic module 157 may include two or more haptic modules 157 according to the configuration of the mobile terminal 100.

메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입력되거나 출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. The memory 160 may store a program for processing and controlling the control unit 180 and may store a function for temporarily storing input or output data (e.g., a phone book, a message, a still image, .

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램, 롬 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 이동 단말기(100)는 인터넷(internet)상에서 메모리(150)의 저장 기능을 수행하는 웹 스토리지(web storage)를 운영할 수도 있다.The memory 160 may be a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), a RAM , And a ROM. &Lt; / RTI > In addition, the mobile terminal 100 may operate a web storage for storing the memory 150 on the Internet.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 인터페이스 역할을 수행한다. 이동 단말기(100)에 연결되는 외부기기의 예로는, 유/무선 헤드셋, 외부 충전기, 유/무선 데이터 포트, 메모리 카드(Memory card), SIM(Subscriber Identification Module) 카드, UIM(User Identity Module) 카드 등과 같은 카드 소켓, 오디오 I/O(Input/Output) 단자, 비디오 I/O(Input/Output) 단자, 이어폰 등이 있다. 인터페이스부(170)는 이러한 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달할 수 있고, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 할 수 있다.The interface unit 170 serves as an interface with all external devices connected to the mobile terminal 100. Examples of the external device connected to the mobile terminal 100 include a wired / wireless headset, an external charger, a wired / wireless data port, a memory card, a SIM (Subscriber Identification Module) card, a UIM An audio input / output (I / O) terminal, a video I / O (input / output) terminal, and an earphone. The interface unit 170 may receive data from the external device or supply power to the respective components in the mobile terminal 100 and may transmit data in the mobile terminal 100 to the external device .

인터페이스부(170)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 연결된 크래들로부터의 전원이 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 크래들에서 입력되는 각종 명령 신호가 이동 단말기(100)로 전달되는 통로가 될 수 있다.The interface unit 170 may be a path through which the power from the cradle connected to the mobile terminal 100 is connected to the cradle when the mobile terminal 100 is connected to the cradle, And may be a passage to be transmitted to the terminal 100.

제어부(180)는 통상적으로 상기 각부의 동작을 제어하여 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 또한, 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 재생 모듈(181)을 구비할 수도 있다. 멀티미디어 재생 모듈(181)은 제어부(180) 내에 하드웨어로 구성될 수도 있고, 제어부(180)와 별도로 소프트웨어로 구성될 수도 있다.The controller 180 typically controls the operation of the respective units to control the overall operation of the mobile terminal 100. For example, voice communication, data communication, video communication, and the like. In addition, the control unit 180 may include a multimedia playback module 181 for multimedia playback. The multimedia playback module 181 may be configured in hardware in the controller 180 or separately from software in the controller 180. [

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The power supply unit 190 receives external power and internal power under the control of the controller 180 and supplies power necessary for operation of the respective components.

이와 같은 구성의 이동 단말기(100)는 유무선 통신 시스템 및 위성 기반 통신 시스템을 포함하여, 프레임(frame) 또는 패킷(packet)을 통하여 데이터(data)를 전송할 수 있는 통신 시스템에서 동작 가능하도록 구성될 수 있다.The mobile terminal 100 having such a configuration can be configured to be operable in a communication system capable of transmitting data through a frame or a packet, including a wired / wireless communication system and a satellite-based communication system. have.

도 2는 본 발명의 일 실시 예에 따른 이동 단말기(100)를 전면에서 바라본 사시도이고, 도 3은 도 2에 도시된 이동 단말기(100)의 후면 사시도이다. 이하에서는 도 2 및 도 3을 참조하여, 본 발명과 관련된 이동 단말기(100)를 외형에 따른 구성요소 관점에서 살펴 보기로 한다. 또한, 이하에서는 설명의 편의상, 폴더 타입, 바 타입, 스윙타입, 슬라이더 타입 등과 같은 여러 타입의 이동 단말기들 중에서 전면 터치스크린이 구비되어 있는, 바 타입의 이동 단말기를 예로 들어 설명한다. 그러나, 본 발명은 바 타입의 이동 단말기에 한정되는 것은 아니고 전술한 타입을 포함한 모든 타입의 이동 단말기에 적용될 수 있다.FIG. 2 is a perspective view of a mobile terminal 100 according to an embodiment of the present invention, and FIG. 3 is a rear perspective view of the mobile terminal 100 shown in FIG. Hereinafter, the mobile terminal 100 related to the present invention will be described with reference to FIGS. 2 and 3 in terms of components according to the external form. Hereinafter, for convenience of description, a bar type mobile terminal having a front touch screen among various types of mobile terminals such as a folder type, a bar type, a swing type, a slider type, etc. will be described as an example. However, the present invention is not limited to the bar-type mobile terminal but can be applied to all types of mobile terminals including the above-mentioned types.

도 2를 참조하면, 이동 단말기(100)의 외관을 이루는 케이스는, 프론트 케이스(100-1)와 리어 케이스(100-2)에 의해 형성된다. 프론트 케이스(100-1)와 리어 케이스(100-2)에 의해 형성된 공간에는 각종 전자부품들이 내장된다.Referring to FIG. 2, the case constituting the appearance of the mobile terminal 100 is formed by the front case 100-1 and the rear case 100-2. Various electronic components are incorporated in the space formed by the front case 100-1 and the rear case 100-2.

본체, 구체적으로 프론트 케이스(100-1)에는 디스플레이부(151), 제1 음향출력모듈(153a), 제1 카메라(121a), 및 제1 내지 제3 사용자 입력부(130a, 130b, 130c)가 배치될 수 있다. 그리고, 리어 케이스(100-2)의 측면에는, 제4 사용자 입력부(130d), 및 마이크(미도시)가 배치될 수 있다.The display unit 151, the first sound output module 153a, the first camera 121a, and the first through third user input units 130a, 130b, and 130c are connected to the main body, specifically, the front case 100-1 . A fourth user input unit 130d and a microphone (not shown) may be disposed on the side surface of the rear case 100-2.

디스플레이부(151)는 터치패드가 레이어 구조로 중첩됨으로써, 디스플레이부(151)가 터치스크린으로 동작하여 사용자의 터치에 의한 정보의 입력이 가능하도록 구성할 수도 있다.The display unit 151 may be constructed such that the touch pad is overlapped with the layer structure so that the display unit 151 operates as a touch screen so that information can be input by a user's touch.

제1 음향출력 모듈(153a)은 리시버 또는 스피커의 형태로 구현될 수 있다. 제1 카메라(121a)는 사용자 등에 대한 이미지 또는 동영상을 촬영하기에 적절한 형태로 구현될 수 있다. 그리고, 마이크(미도시)는 사용자의 음성, 기타 소리 등을 입력받기 적절한 형태로 구현될 수 있다.The first acoustic output module 153a may be implemented in the form of a receiver or a speaker. The first camera 121a may be implemented in a form suitable for capturing an image or a moving image of a user. The microphone (not shown) may be implemented in a form suitable for receiving a user's voice, other sounds, and the like.

제1 내지 제5 사용자 입력부(130a, 130b, 130c, 130d, 130e)는 사용자 입력부(130)라 통칭할 수 있으며, 사용자가 촉각적인 느낌을 주면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.The first to fifth user input units 130a, 130b, 130c, 130d, and 130e may be collectively referred to as a user input unit 130. In any tactile manner in which the user operates with a tactile impression, .

예를 들어, 사용자 입력부(130)는 사용자의 누름 또는 터치 조작에 의해 명령 또는 정보를 입력받을 수 있는 돔 스위치 또는 터치 패드로 구현되거나, 키를 회전시키는 휠 또는 조그 방식이나 조이스틱과 같이 조작하는 방식 등으로도 구현될 수 있다. For example, the user input unit 130 may be embodied as a dome switch or a touch pad capable of receiving a command or information by a user's pressing or touching operation, or may be a wheel, jog system, Or the like.

기능적인 면에서, 제1 사용자 입력부(130a)는 메뉴 키로서, 현재 실행 중인 애플리케이션과 관련된 메뉴를 호출하기 위한 명령을 입력하기 위한 것이고, 제2 사용자 입력부(130b)는 홈 키로서, 현재 실행 중인 애플리케이션과 상관없이 대기화면으로 진입하기 위한 명령을 입력하기 위한 것이며, 제3 사용자 입력부(130c)는 백 키로서, 현재 실행 중인 애플리케이션을 취소하기 위한 명령을 입력하기 위한 것이다. 또한, 제4 사용자 입력부(130d)는 이동 단말기(100) 내의 특수한 기능을 활성화하기 위한 핫 키(hot-key)로서 작동할 수 있다.In a functional aspect, the first user input unit 130a is a menu key for inputting a command for calling a menu related to an application currently being executed, and the second user input unit 130b is a home key, The third user input unit 130c is for inputting a command for canceling the currently executing application as a back key. Also, the fourth user input unit 130d may operate as a hot-key for activating a special function in the mobile terminal 100. [

도 3을 참조하면, 리어 케이스(100-2)의 후면에는 제2 카메라(121b)가 추가로 장착될 수 있으며, 리어 케이스(100-2)의 측면에는 제5 사용자 입력부(130e)가 배치될 수 있다.3, a second camera 121b may be further mounted on a rear surface of the rear case 100-2, and a fifth user input unit 130e may be disposed on a side surface of the rear case 100-2 .

제2 카메라(121b)는 제1 카메라(121a)와 실질적으로 반대되는 촬영 방향을 가지며, 제1 카메라(121a)와 서로 다른 화소를 가질 수 있다. 제2 카메라(121b)에 인접하게는 플래쉬(미도시)와 거울(미도시)이 추가로 배치될 수도 있다. 또한, 제2 카메라(121b) 인접하게 다른 카메라를 더 설치하여 3차원 입체 영상의 촬영을 위해 사용할 수도 있다.The second camera 121b has a photographing direction substantially opposite to that of the first camera 121a, and may have pixels different from those of the first camera 121a. A flash (not shown) and a mirror (not shown) may be additionally disposed adjacent to the second camera 121b. In addition, another camera may be installed adjacent to the second camera 121b to use it for shooting a three-dimensional stereoscopic image.

플래쉬는 제2 카메라(121b)로 피사체를 촬영하는 경우에 상기 피사체를 향해 빛을 비추게 된다. 거울은 사용자가 제2 카메라(121b)를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.The flash illuminates the subject when the subject is photographed by the second camera 121b. The mirror enables the user to illuminate the user's own face or the like when the user intends to photograph (self-photograph) himself / herself using the second camera 121b.

리어 케이스(100-2)에는 제2 음향출력 모듈(미도시)가 추가로 배치될 수도 있다. 제2 음향출력 모듈은 제1 음향출력 모듈(153a)와 함께 스테레오 기능을 구현할 수 있으며, 스피커폰 모드로 통화를 위해 사용될 수도 있다.A second sound output module (not shown) may be further disposed in the rear case 100-2. The second sound output module may implement the stereo function together with the first sound output module 153a, and may be used for talking in the speakerphone mode.

인터페이스부(170)는 외부 기기와 데이터가 교환되는 통로로 사용될 수 있다. 그리고, 프론트 케이스(100-1) 및 리어 케이스(100-2)의 일 영역에는 통화 등을 위한 안테나 외에 방전송호 수신용 안테나(미도시)가 배치될 수 있다. 안테나는 리어 케이스(100-2)에서 인출 가능하게 설치될 수 있다.The interface unit 170 can be used as a path for exchanging data with an external device. In addition, in one area of the front case 100-1 and the rear case 100-2, an antenna (not shown) for reception of a discharge call can be arranged in addition to an antenna for communication. The antenna may be installed to be capable of being drawn out from the rear case 100-2.

리어 케이스(100-2) 측에는 이동 단말기(100)에 전원을 공급하기 위한 전원 공급부(190)가 장착될 수 있다. 전원 공급부(190)는, 예를 들어 충전 가능한 배터리로서, 충전 등을 위하여 리어 케이스(100-2)에 착탈 가능하게 결합될 수 있다.A power supply unit 190 for supplying power to the mobile terminal 100 may be mounted on the rear case 100-2. The power supply unit 190 may be a rechargeable battery, for example, and may be detachably coupled to the rear case 100-2 for charging or the like.

한편, 본 실시 예에서, 제2 카메라(121b) 등이 리어 케이스(100-2)에 배치되는 것으로 설명하였으나, 반드시 이에 제한되는 것은 아니다. 또한, 제2 카메라(121b)가 별도로 구비되지 않더라도, 제1 카메라(121a)를 회전 가능하게 형성되어 제2 카메라(121b)의 촬영 방향까지 촬영 가능하도록 구성될 수도 있다.On the other hand, in the present embodiment, the second camera 121b and the like are disposed in the rear case 100-2, but the present invention is not limited thereto. Also, the first camera 121a may be rotatably formed so that the second camera 121b can be photographed up to the photographing direction, even if the second camera 121b is not separately provided.

이상에서는 도 1 내지 도 3을 참조하여, 본 발명에 따른 이동 단말기(100)의 구성에 대하여 살펴 보았다. 이하에서는, 본 발명의 실시 예에 따라, 사용자의 얼굴 표정 및 음성에 대응하는 이미지를 상대방 단말기로 전송하는 이동 단말기 및 그 동작 방법에 대해 설명한다.In the foregoing, the configuration of the mobile terminal 100 according to the present invention has been described with reference to FIG. 1 to FIG. Hereinafter, a mobile terminal and an operation method thereof for transmitting an image corresponding to a face expression and a voice of a user to a counterpart terminal according to an embodiment of the present invention will be described.

이하의 실시예는 디스플레이부(151)가 터치스크린으로 구성되는 경우, 더욱 용이하게 구현될 수 있기에, 이하에서는 디스플레이부(151)가 터치스크린인 것으로 가정하여 설명한다. Hereinafter, the present invention will be described on the assumption that the display unit 151 is a touch screen, since the present invention can be implemented more easily when the display unit 151 is configured as a touch screen.

또한, 이하의 실시예에는 안드로이드 계열의 OS를 사용하는 이동 단말기(100)에 적용될 수 있다. 그러나, 이하의 실시예가 안드로이드 계열의 OS를 사용하는 이동 단말기에 한정되는 것은 아니고, 다른 계열의 OS를 사용하는 이동 단말기에도 적용될 수 있음은 물론이다.In addition, the following embodiments can be applied to the mobile terminal 100 using the Android-based OS. However, it goes without saying that the following embodiments are not limited to a mobile terminal using an OS of the Android series, but may be applied to a mobile terminal using another series of OSs.

명세서 전체에서 "오브젝트"는 사용자가 선택할 수 있는 대상을 의미한다. 아이콘, 위젯, 링크, 그림, 텍스트, 인덱스 항목 등이 오브젝트의 일 예이다. 페이지는 컨텐트, 정보 또는 오브젝트가 포함된 공간을 의미한다. 예를 들어, 웹 페이지, 컨텐트 리스트, 썸네일 리스트, 사진이 배열된 트레이, 아이콘이 배열된 트레이 등이 페이지의 일 예이다.Throughout the specification, the term "object" Icons, widgets, links, pictures, text, index entries, etc. are examples of objects. A page refers to a space containing content, information, or objects. For example, a web page, a content list, a thumbnail list, a tray on which pictures are arranged, a tray on which icons are arranged, and the like are examples of pages.

'아이콘'은 사용자가 자주 사용하는 이동 단말기의 기능을 쉽게 실행하기 위하여 임의로 디스플레이부 화면에 표시되도록 설정하여야 하고, 표시되는 위치도 임의적으로 지정할 수 있다. 아이콘에 설정된 특정 기능을 수행하려면 디스플레이부상에서 동작중인 애플리케이션을 변동하여야 한다.The 'icon' should be set to be displayed on the display unit screen in order to facilitate the function of the mobile terminal frequently used by the user, and the displayed position may be arbitrarily designated. To perform a specific function set on the icon, the active application must be changed on the display.

한편, '위젯'은 사용자와 응용프로그램/운영체계 등과의 상호 작용을 보다 원활하게 지원해 주는 그래픽 인터페이스의 하나로, 사용자가 포털 서비스나 컨텐츠 제공 사이트를 일일이 방문하지 않아도 단말 내 대기 화면상에서 원하는 서비스를 바로 이용할 수 있도록 한다. 예를 들어, 이동 단말기의 메모리 공간, 배터리 잔존량 등과 같은 이동 단말기의 상태부터 날씨정보, 교통정보, MSN 메신저, 증권, 키워드 검색창 등과 같은 정보를 실시간으로 수신받아 서비스하는데 이용된다.On the other hand, 'Widget' is a graphical interface that supports smooth interaction with user, application / operating system and so on. It allows users to directly access desired services on the idle screen of the terminal without visiting portal service or content providing site So that it can be used. For example, it is used to receive and receive information such as weather information, traffic information, MSN messenger, security, keyword search window, and the like from the state of the mobile terminal such as the memory space of the mobile terminal,

본 명세서에서 구성의 명칭을 제1, 제2 등으로 구분한 것은 그 구성의 명칭이 동일한 관계로 이를 구분하기 위한 것으로, 하기의 설명에서 반드시 그 순서에 한정되는 것은 아니다.In the present specification, the names of the components are denoted by the first, second, and so on in order to distinguish the names of the components from each other in the same relationship, and are not necessarily limited to the order in the following description.

아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art can easily carry out the present invention. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. In order to clearly illustrate the present invention, parts not related to the description are omitted, and similar parts are denoted by like reference characters throughout the specification.

이하에서 "상대방" 및 "상대방 단말기"이란 용어는 서로 혼용되어 사용될 수 있다. 또한, "사용자" 및 "이동 단말기의 사용자"란 용어는 서로 혼용되어 사용될 수 있다.Hereinafter, the terms "other party" and "other party terminal" may be used interchangeably. Further, the terms "user" and "user of mobile terminal" may be used interchangeably.

도 4는 본 발명의 제1 실시예에 따른 이동 단말기의 동작 방법의 플로우 차트이다.4 is a flowchart of an operation method of a mobile terminal according to the first embodiment of the present invention.

도 4를 참조하면, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값을 저장한다(S410). 여기서, 사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값은 평상시에 사용자의 얼굴 표정 또는 사용자의 음성을 의미한다. 즉, 제어부(180)는 보통의 상태에서, 사용자의 얼굴 표정을 카메라(121)를 통해 입력받아 저장하거나, 사용자의 음성을 마이크(123)를 통해 입력받아 저장한다.Referring to FIG. 4, the controller 180 stores a facial expression of the user or a default value of the user's voice (S410). Here, the default value of the facial expression of the user or the voice of the user usually means the facial expression of the user or the voice of the user. That is, in a normal state, the controller 180 receives and stores the facial expression of the user through the camera 121 or receives and stores the voice of the user through the microphone 123.

만약, 이동 단말기(100)에 혈압 측정할 수 있는 센서가 구비되어 있는 경우, 제어부(180)는 사용자의 혈압의 디폴트값을 수신할 수 있다. 또한, 이동 단말기(100)에 체온을 측정할 수 있는 센서가 구비되어 있는 경우, 제어부(180)는 사용자의 체온의 디폴트 값을 수신하여, 메모리(160)에 저장한다.If the mobile terminal 100 is provided with a sensor capable of measuring blood pressure, the control unit 180 may receive a default value of the blood pressure of the user. When the mobile terminal 100 is provided with a sensor capable of measuring the body temperature, the controller 180 receives a default value of the user's body temperature and stores the received default value in the memory 160.

사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값이 저장된 상태에서, 제어부(180)는 기 설정된 사용자 입력에 대응하여, 텍스트 입력모드에 진입하고(S415), 사용자에 의해 작성된 텍스트를 수신한다(S420).The control unit 180 enters the text input mode corresponding to the predetermined user input in step S415 and receives the text created by the user in step S420, .

여기서, 텍스트 입력모드의 진입은 SMS(Short Message Service), MMS(Multimedia Messaging Service), IMS(Instant Messaging Service) 애플리케이션을 실행하는 동작일 수 있다. Here, the entry of the text input mode may be an operation to execute a Short Message Service (SMS), a Multimedia Messaging Service (MMS), or an Instant Messaging Service (IMS) application.

한편, IMS는 IMS 구현 기능이 구비된 복수의 단말기들 간에 인터넷 프로토콜(Internet Protocol)에 기반하여 실시간으로 문자 대화, 그룹 문자 대화, 음성 대화, 화상 대화, 파일 송수신 등의 데이터 통신을 수행할 수 있는 서비스를 의미한다. IMS 기반의 채팅 애플리케이션은 카카오톡(KaKao talk), 라인(Line), 엠에스엔 메신저(MSN messenger), 조이엔(Joyn), 챗온(Chaton), 네이트 온(nate on), 구글 톡(google talk)등이 포함될 수 있다.Meanwhile, the IMS can perform data communication such as text conversation, group text conversation, voice conversation, video conversation, and file transmission / reception in real time based on Internet Protocol among a plurality of terminals equipped with IMS implementing function Service. IMS-based chat applications include KaKao Talk, Line, MSN messenger, Joyn, Chaton, nate on, google talk, etc. May be included.

테스트 작성 중 또는 테스트 작성 후에, 제어부(180)는 사용자 얼굴 표정 또는 음성에 대응하는 이미지 선택 화면을 표시하는지 판단한다(S425).During the test creation or after the test creation, the control unit 180 determines whether an image selection screen corresponding to the user's facial expression or voice is displayed (S425).

여기서, 사용자 감정 반영한 이미지 선택 화면은 텍스트 입력모드에 진입한 상태에서, 기 설정된 사용자 입력을 수신하여 카메라(121)를 통해 사용자의 얼굴 을 감지하거나 마이크(123)를 통해 사용자의 음성을 감지하고, 상기 얼굴 표정 또는 상기 음성의 특징을 분석하여, 상기 특징에 대응되는 적어도 하나의 이미지를 선택하는 화면이다.In this case, the image selection screen reflecting the user's emotional state receives a preset user input in a state where the user enters the text input mode, and detects the face of the user through the camera 121 or detects the user's voice through the microphone 123, And analyzes the characteristics of the facial expression or the voice to select at least one image corresponding to the feature.

한편, 실시예에 따라, 이미지 선택화면 표시를 위한 사용자 입력이 없는 경우에도, 제어부(180)는 텍스트 입력 모드에서 자동으로 사용자의 얼굴 표정 또는 음성의 특징에 대응하는 이미지들을 표시하고, 선택할 수 있다.According to the embodiment, even when there is no user input for displaying the image selection screen, the control unit 180 can automatically display and select images corresponding to the characteristics of the user's facial expression or voice in the text input mode .

사용자 감정 반영한 이미지 선택 화면을 표시하는 것으로 판단된 경우, 제어부(180)는 카메라(121)를 통해 사용자의 얼굴을 감지하거나, 마이크(123)를 통해 사용자의 음성을 감지한다(S430). 사용자의 얼굴 표정 또는 사용자의 음성을 감지한 상태에서, 제어부(180)는 상기 얼굴 표정 또는 사용자의 음성의 특징을 분석한다(S440).If it is determined that the image selection screen reflecting the user's emotions is to be displayed, the controller 180 senses the user's face through the camera 121 or senses the user's voice through the microphone 123 at step S430. In a state where the face expression of the user or the voice of the user is sensed, the controller 180 analyzes characteristics of the facial expression or voice of the user (S440).

제어부(180)는 카메라(121)렌즈를 통해 입력된 이미지에서 사용자의 얼굴 영역을 검출한다. 제어부(180)는 상기 검출된 얼굴 영역에서 얼굴의 특징점 정보를 검출하여 사용자 얼굴의 표정을 감지할 수 있다. 제어부(180)는 검출된 얼굴 영역에서, 눈썹, 눈, 코, 입 및 턱선 등의 얼굴 특징점의 위치를 검출하여 얼굴 특징점 정보를 검출한다. 예를 들어, 얼굴의 특징점 정보를 검출할 때, 제어부(180)는 눈을 기준으로 얼굴이라는 형태를 검출하고, 코와 입꼬리 및 얼굴 윤곽 등의 순서로 검출하게 된다. The control unit 180 detects the face region of the user in the image input through the camera 121 lens. The control unit 180 may detect the facial expression of the user's face by detecting the feature point information of the face in the detected facial region. The controller 180 detects the facial feature point information by detecting the positions of the facial feature points such as eyebrows, eye, nose, mouth, and jaw line in the detected face region. For example, when detecting the minutia information of a face, the controller 180 detects the face type based on the eye, and detects it in the order of the nose, mouth, and face contour.

제어부(180)는 검출된 얼굴의 특징점 정보를 바탕으로 사용자의 얼굴 표정을 분석한다. 제어부(180)는 S410단계에서 저장된 얼굴 표정의 디폴트 값과 검출된 얼굴의 특징점 정보를 비교하여 감지된 사용자의 얼굴 표정을 분석한다. 예를 들어, 제어부(180)는 얼굴 표정의 디폴트 값과 비교하여, 검출된 얼굴의 특징점 정보에서 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도를 수치화 하여 판단한다. 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도의 수치가 기준 수치 이상인 경우, 제어부(180)는 사용자의 얼굴 표정을 "기쁨"이라고 판단할 수 있다.The control unit 180 analyzes the facial expression of the user based on the detected minutia information of the face. The controller 180 compares the default value of the facial expression stored in step S410 with the feature point information of the detected face to analyze the facial expression of the user. For example, the controller 180 compares the face value with the default value of the facial expression, and judges whether the eye tip is tilted and the tail of the eye is tilted down from the feature point information of the detected face. The controller 180 can judge that the facial expression of the user is "joy" when the value of the degree to which the mouth of the user is raised and the eye is tapered and the eye tail is struck downward is not less than the reference value.

본 실시예에서는 카메라(121)를 통해 감지된 사용자의 얼굴 표정과 메모리(160)에 기 저장된 얼굴 표정의 디폴트값을 비교하여 사용자의 얼굴 표정을 분석하는 것으로 설명하였으나, 이에 한정되지 아니한다. 즉, 카메라(121)를 통해 감지되어 분석된 사용자의 얼굴 표정과 일반적인 사람의 무표정한 얼굴 표정을 비교하여 사용자의 얼굴 표정을 분석할 수도 있다.The facial expression of the user detected through the camera 121 is compared with the default value of the facial expression previously stored in the memory 160 to analyze the facial expression of the user, but the present invention is not limited thereto. That is, the user's facial expression can be analyzed by comparing the facial expression of the user, which is detected and analyzed through the camera 121, with the expressionless facial expression of a general person.

또한, 제어부(180)는 마이크(123)를 통해 감지된 사용자의 음성을 검출한다. 제어부(180)는 상기 검출된 음성의 시작 지점과 끝 지점 사이의 음성 특징점들을 추출한다. 이때, 상기 음성 특징점들은 마이크(123)를 통해 감지된 음성의 음량, 파형 또는 음조를 포함할 수 있다.In addition, the control unit 180 detects the voice of the user detected through the microphone 123. [ The control unit 180 extracts voice feature points between a start point and an end point of the detected voice. At this time, the voice feature points may include a volume, a waveform, or a tone of voice detected through the microphone 123.

제어부(180)는 S410단계에서 저장된 음성의 디폴트 값과 상기 검출된 사용자의 음성의 특징점 정보를 비교하여 사용자의 음성을 분석한다. 예를 들면, 마이크(123)를 통해 감지된 사용자의 음성이 S410단계에서 저장된 음성의 디폴트값과 비교하여 20~30% 높아졌을때, 제어부(180)는 사용자의 음성을 "기쁨"이라고 판단할 수 있다.The controller 180 compares the default value of the voice stored in step S410 with the minutia information of the detected voice of the user and analyzes the voice of the user. For example, when the user's voice sensed through the microphone 123 is 20 to 30% higher than the default value of the voice stored in step S410, the controller 180 determines that the user's voice is "joy" .

본 실시예에서는 마이크(123)를 통해 감지된 사용자의 음성과 메모리(160)에 기 저장된 음성의 디폴트값을 비교하여 사용자의 음성을 분석하는 것으로 설명하였으나, 이에 한정되지 아니한다. 즉, 마이크(123)를 통해 감지된 사용자의 음성과 표준음성을 비교하여 사용자의 음성을 분석할 수도 있다.In the present embodiment, the voice of the user detected through the microphone 123 is compared with the default value of the voice stored in the memory 160 to analyze the voice of the user. However, the present invention is not limited thereto. That is, the user's voice sensed through the microphone 123 may be compared with the standard voice to analyze the user's voice.

한편, 이동 단말기(100)에 혈압을 측정할 수 있는 센서가 구비되는 경우, 제어부(180)는 사용자의 혈압을 측정할 수 있다. 또한, 이동 단말기(100)에 사용자의 체온을 측정할 수 있는 센서가 구비되는 경우, 제어부(180)는 사용자의 체온을 측정할 수 있다. 상기 측정된 사용자의 혈압과 체온을 메모리(160)에 저장된 혈압 및 체온의 디폴트 값과 비교하고, 혈압과 체온의 변화에 대한 정보를 추가하여, 제어부(180)는 더욱 정교하게 사용자의 감정 상태에 대해 판단할 수 있다.On the other hand, when the mobile terminal 100 is provided with a sensor capable of measuring blood pressure, the controller 180 can measure the blood pressure of the user. In addition, when the mobile terminal 100 is provided with a sensor capable of measuring the body temperature of the user, the controller 180 may measure the body temperature of the user. The control unit 180 compares the blood pressure and the body temperature of the user with the default values of the blood pressure and the body temperature stored in the memory 160 and adds information on changes in the blood pressure and body temperature, .

사용자의 얼굴 표정 또는 사용자의 음성을 분석한 후, 제어부(180)는 사용자의 위치 또는 날씨 정보를 수신한다(S450). 사용자의 위치 정보는 GPS 모듈(119)을 이용하여 수신할 수 있다. 또한, 사용자가 위치한 장소의 날씨는 날씨 애플리케이션을 이용하여 날씨 정보를 제공하는 서버에 접속하여 수신할 수 있다.After analyzing the user's facial expression or the user's voice, the control unit 180 receives the user's location or weather information (S450). The location information of the user can be received by using the GPS module 119. In addition, the weather at the place where the user is located can be accessed by accessing a server for providing weather information using a weather application.

한편, 본 실시예에서는 S450단계가 S430단계 이후에 수행되는 것으로 설명하였으나 이에 한정되지 아니하고, S450단계는 S430단계 이전에 수행되거나 S430단계와 동시에 수행될 수도 있다.Meanwhile, although it has been described in the present embodiment that step S450 is performed after step S430, it is not limited thereto, and step S450 may be performed before step S430 or concurrently with step S430.

사용자의 얼굴 표정 또는 사용자의 음성의 특징을 분석하고, 사용자의 위치 또는 날씨관련 정보를 수신한 상태에서, 제어부(180)는 상기 사용자의 얼굴 표정, 음성, 위치 또는 날씨를 반영하는 아바타를 생성한다(S460). 즉, 제어부(180)는 상기 사용자의 얼굴 표정, 음성, 위치 또는 날씨를 반영하는 아바타의 표정, 복장, 악세사리를 선택하여 아바타를 생성한다. 이때, 다양한 아바타의 표정, 복장 또는 악세사리는 아바타 DB에 저장되어 있다. 예를 들어, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성을 바탕으로 사용자의 상태를 "기쁨"이라고 판단할 수 있다. 또한, 제어부(180)는 사용자의 위치가 "회사"라는 정보와 현재의 날씨가 "비"라는 정보를 수신할 수 있다. 이경우, 제어부(180)는 "기쁨"에 해당하는 아바타의 얼굴 표정을 선택하고, "회사"에 어울리는 정장 복장을 선택할 수 있다. 또한, 제어부(180)는 "비"에 어울리는 악세사리로 우산을 선택할 수 있다. 제어부(180)는 기쁜 얼굴 표정을 하고, 정장을 착용하며 우산을 들고 있는 아바타를 생성할 수 있다. The controller 180 analyzes the characteristics of the face of the user or the voice of the user and generates avatars reflecting the facial expression, voice, position, or weather of the user in a state in which the user's position or weather related information is received (S460). That is, the controller 180 generates an avatar by selecting a facial expression, a dress, and an accessory of the avatar that reflects the facial expression, voice, position, or weather of the user. At this time, facial expressions, attire or accessories of various avatars are stored in the avatar DB. For example, the control unit 180 may determine that the user's state is "joy" based on the facial expression of the user or the voice of the user. Further, the control unit 180 can receive information that the user's location is "company" and information that the current weather is "rain ". In this case, the control unit 180 can select the facial expression of the avatar corresponding to "joy ", and can select the formal dress suitable for the" company ". Further, the control unit 180 can select the umbrella as an accessory suitable for the "rain ". The control unit 180 can generate an avatar having a happy facial expression, wearing a suit, and holding an umbrella.

한편, 실시예에 따라, 아바타의 표정은 이미지 변환 프로세스에 의해 자동으로 변환될 수 있다. 여기서, 이미지 변환 프로세스는, 분석된 사용자의 얼굴 표정 또는 음성의 특징에 대응하여 자동으로 아바타의 표정을 변환시키도록 프로그래밍되어 있는 프로세스를 의미한다. 예를 들면, 사용자의 얼굴 표정 또는 사용자의 음성을 바탕으로 사용자의 상태를 "기쁨"이라고 판단된 경우, 제어부(180)는 "기쁨"에 대응하는 아바타의 표정을 이미지 변환 프로세스를 통해 자동으로 변환할 수 있다.On the other hand, according to the embodiment, the expression of the avatar can be automatically converted by the image conversion process. Here, the image conversion process refers to a process that is programmed to automatically convert the expression of the avatar in accordance with the characteristics of the facial expression or voice of the analyzed user. For example, when it is determined that the user's state is "joy" based on the facial expression of the user or the voice of the user, the control unit 180 automatically converts the expression of the avatar corresponding to "joy " can do.

아바타가 생성된 경우, 제어부(180)는 생성된 아바타를 표시한다(S470). 사용자 입력이 수신되는 경우, 제어부(180)는 표시된 아바타를 상대방 단말기로 전송한다(S480). 이때, 제어부(180)는 사용자에 의해 작성된 텍스트와 함께 생성된 아바타를 상대방 단말기로 전송할 수 있다.If the avatar is generated, the controller 180 displays the generated avatar (S470). When the user input is received, the control unit 180 transmits the displayed avatar to the partner terminal (S480). At this time, the control unit 180 can transmit the avatar generated together with the text created by the user to the partner terminal.

도 5는 본 발명의 제2 실시예에 따른 이동 단말기의 동작 방법의 플로우 차트이다.5 is a flowchart of an operation method of a mobile terminal according to a second embodiment of the present invention.

도 5를 참조하면, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값을 저장한다(S505). 여기서, 사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값은 평상시에 사용자의 얼굴 표정 또는 사용자의 음성을 의미한다. 즉, 제어부(180)는 보통의 상태에서, 사용자의 얼굴 표정을 카메라(121)를 통해 입력받아 저장하거나, 사용자의 음성을 마이크(123)를 통해 입력받아 저장한다.Referring to FIG. 5, the controller 180 stores a facial expression of the user or a default value of the user's voice (S505). Here, the default value of the facial expression of the user or the voice of the user usually means the facial expression of the user or the voice of the user. That is, in a normal state, the controller 180 receives and stores the facial expression of the user through the camera 121 or receives and stores the voice of the user through the microphone 123.

사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값이 저장된 상태에서, 제어부(180)는 사용자 입력을 수신하여 사용자 감정을 반영한 이미지를 저장하는 모드에 진입하는 경우(S507), 제어부는 카메라(121)를 통해 사용자의 얼굴 표정을 감지하거나, 마이크(123)를 통해 사용자의 음성을 감지한다(S510). 사용자의 얼굴 표정 또는 사용자의 음성을 감지한 상태에서, 제어부(180)는 상기 얼굴 표정 또는 사용자의 음성의 특징을 분석한다(S515).If the control unit 180 receives a user input and enters a mode for storing an image reflecting the user's feeling (S507), the control unit controls the camera 121 The user's facial expression is sensed through the microphone 123 or the voice of the user is sensed through the microphone 123 (S510). In a state where the facial expression of the user or the voice of the user is sensed, the controller 180 analyzes the characteristics of the facial expression or voice of the user (S515).

제어부(180)는 검출된 얼굴의 특징점 정보를 바탕으로 사용자의 얼굴 표정을 분석한다. 제어부(180)는 S510단계에서 저장된 얼굴 표정의 디폴트 값과 검출된 얼굴의 특징점 정보를 비교하여 감지된 사용자의 얼굴 표정을 분석한다. 예를 들어, 제어부(180)는 얼굴 표정의 디폴트 값과 비교하여, 검출된 얼굴의 특징점 정보에서 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도를 수치화 하여 판단한다. 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도의 수치가 기준 수치 이상인 경우, 제어부(180)는 사용자의 얼굴 표정을 "기쁨"이라고 판단할 수 있다.The control unit 180 analyzes the facial expression of the user based on the detected minutia information of the face. The controller 180 compares the default value of the facial expression stored in step S510 with the feature point information of the detected face to analyze the facial expression of the user. For example, the controller 180 compares the face value with the default value of the facial expression, and judges whether the eye tip is tilted and the tail of the eye is tilted down from the feature point information of the detected face. The controller 180 can judge that the facial expression of the user is "joy" when the value of the degree to which the mouth of the user is raised and the eye is tapered and the eye tail is struck downward is not less than the reference value.

본 실시예에서는 카메라(121)를 통해 감지된 사용자의 얼굴 표정과 메모리(160)에 기 저장된 얼굴 표정의 디폴트값을 비교하여 사용자의 얼굴 표정을 분석하는 것으로 설명하였으나, 이에 한정되지 아니한다. 즉, 카메라(121)를 통해 감지된 사용자의 얼굴 표정과 일반적인 사람의 무표정한 얼굴 표정을 비교하여 사용자의 얼굴 표정을 분석할 수도 있다.The facial expression of the user detected through the camera 121 is compared with the default value of the facial expression previously stored in the memory 160 to analyze the facial expression of the user, but the present invention is not limited thereto. That is, the facial expression of the user detected through the camera 121 may be compared with the expressionless facial expression of the general person to analyze the facial expression of the user.

제어부(180)는 S510단계에서 저장된 음성의 디폴트 값과 상기 검출된 사용자의 음성의 특징점 정보를 비교하여 사용자의 음성을 분석한다. 예를 들면, 마이크(123)를 통해 감지된 사용자의 음성이 S510단계에서 저장된 음성의 디폴트값과 비교하여 20~30% 높아졌을때, 제어부(180)는 사용자의 음성을 "기쁨"이라고 판단할 수 있다.The control unit 180 compares the default value of the voice stored in step S510 with the minutia information of the voice of the detected user and analyzes the voice of the user. For example, when the voice of the user sensed through the microphone 123 is 20 to 30% higher than the default value of the voice stored in step S510, the controller 180 determines that the voice of the user is "joy" .

사용자의 얼굴 표정 또는 사용자의 음성이 분석된 상태에서, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성에 대응되는 하나 이상의 이미지 또는 이모티콘을 표시한다(S520). 여기서, 이미지 또는 이모티콘은 메모리(160)에 저장된 이미지 또는 이모티콘일 수 있다. 예를 들면, 사용자의 얼굴 표정 또는 사용자의 음성을 분석하여, 사용자의 상태가 "기쁨"이라고 판단되는 경우, 제어부(180)는 "기쁨"에 대응하는 이미지 또는 이모티콘을 표시한다. 또는, 제어부(180)는 무선 통신부(110)를 통해, 이미지 제공 서버에 접속하고, 이미지 제공 서버에서 "기쁨"에 대응하는 이미지를 제공받아, 표시할 수도 있다. 또는, 제어부(180)는 사용자 입력에 의해 지정된 이미지를 표시할 수도 있다.The controller 180 displays one or more images or emoticons corresponding to the facial expression of the user or the voice of the user (S520). Here, the image or emoticon may be an image or an emoticon stored in memory 160. For example, if the facial expression of the user or the voice of the user is analyzed and the status of the user is judged as "joy ", the control unit 180 displays an image or emoticon corresponding to" joy ". Alternatively, the control unit 180 may access the image providing server via the wireless communication unit 110, and may receive and display an image corresponding to "joy" in the image providing server. Alternatively, the control unit 180 may display the image designated by the user input.

한편, S520단계에서 표시되는 이미지 또는 이모티콘은 사용자 지정의 이미지 또는 이모티콘일 수도 있다.Meanwhile, the image or emoticon displayed in step S520 may be a user-specified image or emoticon.

이미지 또는 이모티콘이 표시된 상태에서, 제어부(180)는 사용자 입력에 따라, 적어도 하나의 이미지 또는 이모티콘을 선택한다(S530). 이경우, 선택된 이미지 또는 이모티콘은 S510단계에서 감지된 사용자의 얼굴 표정 또는 사용자의 음성과 매칭되어 이미지 저장 DB에 저장된다(S540).When the image or the emoticon is displayed, the control unit 180 selects at least one image or emoticon according to the user's input (S530). In this case, the selected image or emoticon is matched with the facial expression of the user or the voice of the user detected in step S510 and stored in the image storage DB (S540).

본 실시예에서는 "기쁨"에 해당하는 얼굴 표정 또는 사용자의 음성에 대응하는 이미지 또는 이모티콘을 매칭하여 저장하는 것으로 설명하였으나, 이를 제한하지는 않는다. 실시예에 따라, 사용자의 얼굴 표정 또는 사용자의 음성의 분석 결과, 사용자의 상태가 "슬픔"으로 판단되는 경우, "슬픔"에 해당하는 얼굴 표정 또는 사용자의 음성에 대응하는 이미지 또는 이모티콘을 매칭하여 저장할 수도 있다.In the present embodiment, the facial expression corresponding to "joy" or the image or emoticon corresponding to the user's voice is matched and stored, but the present invention is not limited thereto. According to the embodiment, when the state of the user is determined to be "sad" as a result of analysis of the facial expression of the user or the voice of the user, an image or emoticon corresponding to the facial expression corresponding to " It can also be saved.

도 6은 본 발명의 제3 실시예에 따른 이동 단말기의 동작 방법의 플로우 차트이다.6 is a flowchart of an operation method of the mobile terminal according to the third embodiment of the present invention.

도 6을 참조하면, 제어부(180)는 기 설정된 사용자 입력에 대응하여, 텍스트 입력모드에 진입하고(S615), 사용자에 의해 작성된 텍스트를 수신한다(S620).Referring to FIG. 6, the controller 180 enters a text input mode corresponding to a predetermined user input (S615), and receives text created by the user (S620).

테스트 작성 중 또는 테스트 작성 후에, 제어부(180)는 사용자 얼굴 표정 또는 음성에 대응하는 이미지 선택 화면을 표시하는지 판단한다(S625).During test creation or after test creation, the control unit 180 determines whether an image selection screen corresponding to the user's facial expression or voice is displayed (S625).

여기서, 사용자 감정 반영한 이미지 선택 화면은 텍스트 입력모드에 진입한 상태에서, 기 설정된 사용자 입력을 수신하여 카메라(121)를 통해 사용자의 얼굴 표정을 감지하거나 마이크(123)를 통해 사용자의 음성을 감지하고, 상기 얼굴 표정 또는 상기 음성의 특징을 분석하여, 상기 특징에 대응되는 적어도 하나의 이미지를 선택하는 화면이다.Here, the image selection screen reflecting the user's emotions enters a text input mode, receives a preset user input, detects the facial expression of the user through the camera 121, or detects the user's voice through the microphone 123 , And analyzes the characteristics of the facial expression or the voice to select at least one image corresponding to the feature.

한편, 실시예에 따라, 이미지 선택화면 표시를 위한 사용자 입력이 없는 경우에도, 제어부(180)는 텍스트 입력 모드에서 자동으로 사용자의 얼굴 표정 또는 음성에 대응하는 이미지들을 표시하고, 선택할 수 있다.Meanwhile, according to the embodiment, even when there is no user input for displaying the image selection screen, the control unit 180 can automatically display and select images corresponding to the user's facial expression or voice in the text input mode.

한편, 실시예에 따라, 사용자 감정 반영한 이미지 선택 화면은 텍스트 입력모드에 진입하기 전에 사용자 입력에 의해 설정될 수도 있다. Meanwhile, according to the embodiment, the image selection screen reflecting user's emotion may be set by user input before entering the text input mode.

사용자 감정 반영한 이미지 선택 화면을 표시한 경우, 제어부는 카메라(121)를 통해 사용자의 얼굴을 감지하거나, 마이크(123)를 통해 사용자의 음성을 감지한다(S630). 사용자의 얼굴 또는 사용자의 음성을 감지한 상태에서, 제어부(180)는 상기 얼굴 표정 또는 사용자의 음성의 특징을 분석한다(S640).When the image selection screen reflecting the user's emotions is displayed, the control unit senses the user's face through the camera 121 or detects the user's voice through the microphone 123 (S630). In a state where the face of the user or the voice of the user is sensed, the controller 180 analyzes the facial expression or the voice characteristic of the user (S640).

제어부(180)는 검출된 얼굴의 특징점 정보를 바탕으로 사용자의 얼굴 표정을 분석한다. 제어부(180)는 S610단계에서 저장된 얼굴 표정의 디폴트 값과 검출된 얼굴의 특징점 정보를 비교하여 감지된 사용자의 얼굴 표정을 분석한다. 예를 들어, 제어부(180)는 얼굴 표정의 디폴트 값과 비교하여, 검출된 얼굴의 특징점 정보에서 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도를 수치화 하여 판단한다. 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도의 수치가 기준 수치 이상인 경우, 제어부(180)는 사용자의 얼굴 표정을 "기쁨"이라고 판단할 수 있다.The control unit 180 analyzes the facial expression of the user based on the detected minutia information of the face. The controller 180 compares the default value of the facial expression stored in step S610 with the feature point information of the detected face to analyze the facial expression of the user. For example, the controller 180 compares the face value with the default value of the facial expression, and judges whether the eye tip is tilted and the tail of the eye is tilted down from the feature point information of the detected face. The controller 180 can judge that the facial expression of the user is "joy" when the value of the degree to which the mouth of the user is raised and the eye is tapered and the eye tail is struck downward is not less than the reference value.

제어부(180)는 S610단계에서 저장된 음성의 디폴트 값과 상기 검출된 사용자의 음성의 특징점 정보를 비교하여 사용자의 음성을 분석한다. 예를 들면, 마이크(123)를 통해 감지된 사용자의 음성이 S610단계에서 저장된 음성의 디폴트값과 비교하여 20~30% 높아졌을때, 제어부(180)는 사용자의 음성을 "기쁨"이라고 판단할 수 있다.The controller 180 compares the default value of the voice stored in step S610 with the minutia information of the voice of the detected user and analyzes the voice of the user. For example, when the user's voice sensed through the microphone 123 has increased by 20 to 30% compared to the default value of the voice stored in step S610, the control unit 180 determines that the user's voice is "joy" .

사용자의 얼굴 표정 또는 사용자의 음성의 특징을 분석한 상태에서, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성의 특징과 대응되는 하나 이상의 이미지 또는 이모티콘을 표시한다(S660). 여기서, 표시되는 이미지는 도 4를 참조하여 설명한 아바타이거나, 도 5를 참조하여 설명한 사용자 얼굴 표정 또는 사용자의 음성과 매칭되어 저장된 이미지 또는 이모티콘일 수 있다. 또는, 여기서 표시되는 이미지는 S640단계에서 수행된 얼굴 표정 또는 사용자의 음성 분석을 바탕으로 이미지 제공 서버에서 수신한 이미지일 수도 있다.The controller 180 displays one or more images or emoticons corresponding to the facial expressions of the user or the voice of the user in step S660. Here, the displayed image may be the avatar described with reference to FIG. 4, the user facial expression described with reference to FIG. 5, or an image or emoticon stored and matched with the voice of the user. Alternatively, the image displayed here may be an image received from the image providing server based on the facial expression or voice analysis performed by the user in step S640.

이미지 또는 이모티콘이 표시된 상태에서, 제어부(180)는 사용자 입력을 수신하여, 적어도 하나의 이미지 또는 이모티콘을 선택한다(S670). 적어도 하나의 이미지 또는 이모티콘이 선택된 상태에서, 사용자 입력이 수신되는 경우, 제어부(180)는 선택된 이미지 또는 이모티콘을 상대방 단말기로 전송한다(S680). 이때, 제어부(180)는 사용자에 의해 작성된 텍스트와 함께 선택된 이미지 또는 이모티콘을 상대방 단말기로 전송할 수 있다.With the image or emoticon displayed, the control unit 180 receives the user input and selects at least one image or emoticon (S670). If at least one image or emoticon is selected and the user input is received, the controller 180 transmits the selected image or emoticon to the counterpart terminal (S680). At this time, the control unit 180 may transmit the selected image or emoticon to the counterpart terminal together with the text created by the user.

도 7은 본 발명의 실시예에 따라, 디스플레이부(151)에 표시되는 이미지들을 설명하는데 참조되는 도면이다.7 is a diagram referred to explain the images displayed on the display unit 151 according to the embodiment of the present invention.

도 7을 참조하면, 사용자의 얼굴 표정 또는 사용자의 음성이 분석된 경우, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성과 대응되는 이미지를 디스플레이부(151)에 표시한다. 이때, 제어부(180)는 이미지 저장 DB(710) 또는 아바타 DB(720)로부터 사용자의 감정 상태와 대응되는 이미지를 수신한다. Referring to FIG. 7, when the facial expression of the user or the voice of the user is analyzed, the controller 180 displays an image corresponding to the face of the user or the voice of the user on the display unit 151. At this time, the control unit 180 receives the image corresponding to the emotion state of the user from the image storing DB 710 or the avatar DB 720. [

여기서, 이미지 저장 DB(710)는 사용자의 얼굴 표정 또는 사용자의 음성과 매칭되는 하나 이상의 이미지들을 저장하는 데이터베이스이다. 예를 들어, 이미지 저장 DB(710)는 사용자의 얼굴 표정 또는 사용자의 음성을 기쁨, 슬픔, 분노, 행복, 놀람, 보통 등으로 카테고리화 하고, 상기 각각의 카테고리 별로 매칭되는 이미지를 저장한다. 사용자의 얼굴 표정 또는 사용자의 음성과 매칭하여 이미지를 저장하는 동작은 도 5를 참조하여 설명한 바와 같다.Here, the image storage DB 710 is a database that stores one or more images that match the facial expression of the user or the voice of the user. For example, the image storage DB 710 categorizes the facial expression of the user or the voice of the user into joy, sadness, anger, happiness, surprise, and the like, and stores the matched image in each category. The operation of storing the image by matching with the facial expression of the user or the voice of the user is as described with reference to Fig.

한편, 아바타 DB(720)는 아바타들의 다양한 표정, 복장, 악세사리들이 저장된다. 예를 들어, 아바타 DB(720)에는 기쁨, 슬픔, 분노, 행복, 놀람, 보통에 대응하는 각각의 아바타들의 표정들이 저장된다. 또한, 출근 복, 운동 복, 평상 복, 겨울 옷, 여름 옷, 봄 가을 옷 등 위치, 날씨에 대응하는 복장들이 저장된다. 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성을 분석하고, 상기 얼굴 표정 또는 상기 음성에 따라 아바타들의 표정, 복장 및 악세사리들을 선택하여 아바타를 생성한다. 사용자 얼굴 표정 또는 사용자의 음성과 매칭하여 아바타를 생성하는 동작은 도 4를 참조하여 설명한 바와 같다.Meanwhile, the avatar DB 720 stores various facial expressions, clothes, and accessories of the avatars. For example, the avatar DB 720 stores facial expressions of the avatars corresponding to joy, sadness, anger, happiness, surprise, and normal. In addition, dresses corresponding to the position and weather are stored, such as a running suit, a sports suit, an ordinary suit, a winter suit, a summer suit, and a spring fall suit. The control unit 180 analyzes the facial expression of the user or the voice of the user and generates an avatar by selecting facial expressions, clothes, and accessories of the avatars according to the facial expression or the voice. The operation of generating an avatar by matching with a user's facial expression or a voice of a user is as described with reference to Fig.

제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성에 대응되는 이미지를 이미지 저장 DB(710)로부터 수신한다. 또한, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성에 대응되는 아바타를 아바타 DB(720)로부터 수신한다.The control unit 180 receives an image corresponding to the facial expression of the user or the voice of the user from the image storage DB 710. Further, the control unit 180 receives an avatar corresponding to the facial expression of the user or the voice of the user from the avatar DB 720. [

한편, 제어부(180)는 이미지 제공 서버(730)로부터 사용자의 얼굴 표정 또는 사용자의 음성에 대응되는 이미지를 제공받을 수도 있다. 즉, 제어부(180)는 무선통신부(110)를 통하여 이동통신망(740)에 연결되도록 제어한다. 이동통신망(740)을 통하여 이미지 제공 서버(730)에 연결된 상태에서, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성 분석을 바탕으로 이미지 제공 서버에서 이미지를 제공받을 수도 있다. 여기서, 이미지 제공 서버(730)는 소정의 단어에 대응하는 이미지들을 검색하고 검색된 이미지들을 제공해주는 서버이다.Meanwhile, the control unit 180 may receive an image corresponding to the user's facial expression or the voice of the user from the image providing server 730. That is, the control unit 180 controls the wireless communication unit 110 to be connected to the mobile communication network 740. The controller 180 may receive an image from the image providing server based on the facial expression of the user or the voice analysis of the user in a state where the controller 180 is connected to the image providing server 730 through the mobile communication network 740. [ Here, the image providing server 730 is a server that searches for images corresponding to a predetermined word and provides the retrieved images.

예를 들면, 이동통신망(740)을 통해 이미지 제공 서버(730)에 연결된 상태에서, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성을 분석하여 "기쁨"이라는 단어를 이미지 제공 서버(730)에 전달한다. 이미지 제공 서버(730)는 "기쁨"에 대응하는 이미지들을 검색하고 이미지 제공 서버(730)내에서 추출된 이미지들을 제어부(180)에 전달 할 수 있다. For example, the controller 180 analyzes the facial expression of the user or the voice of the user, and transmits the word "joy" to the image providing server 730 in a state of being connected to the image providing server 730 through the mobile communication network 740. [ . The image providing server 730 may retrieve images corresponding to "joy" and deliver the images extracted in the image providing server 730 to the controller 180. [

제어부(180)는 이미지 저장 DB(710), 아바타 DB(720), 이미지 제공 서버(730) 중 적어도 하나로부터 이미지를 수신하고, 수신한 이미지들을 디스플레이부(151)에 표시한다.The control unit 180 receives an image from at least one of the image storing DB 710, the avatar DB 720 and the image providing server 730, and displays the received images on the display unit 151.

도 8a 및 도 8b는 본 발명의 실시예에 따라, 사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값을 저장하는 동작을 설명하는데 참조되는 예시도이다. 8A and 8B are exemplary diagrams that are referenced to describe the operation of storing default facial expressions of a user or a voice of a user, in accordance with an embodiment of the present invention.

도 8a의 (a)에 도시된 바와 같이, 설정 아이콘(810)에 대한 터치 입력을 수신하여, 제어부(180)는 설정 모드에 진입한다. 설정 모드에 진입한 상태에서, 도 8a의 (b)에 도시된 바와 같이, 제어부(180)는 사용자 얼굴 표정 및 음성 디폴트 값 저장 메뉴(820)에 대한 터치 입력을 수신한다. 여기서, 사용자의 얼굴 표정 또는 사용자의 음성의 디폴트 값은 평상시에 사용자의 얼굴 표정 또는 사용자의 음성을 의미한다.As shown in FIG. 8A, when the touch input to the setting icon 810 is received, the control unit 180 enters the setting mode. The control unit 180 receives a touch input to the user facial expression and voice default value save menu 820 as shown in FIG. 8A (b). Here, the default value of the facial expression of the user or the voice of the user usually means the facial expression of the user or the voice of the user.

이경우, 도 8a의 (c)에 도시된 바와 같이, 제어부(180)는 사용자의 얼굴 표정을 카메라(121)를 통해 입력 받아 저장한다. 또는, 도 8a의 (d)에 도시된 바와 같이, 제어부(180)는 사용자의 음성의 디폴트 값을 마이크(123)를 통해 입력 받아 저장한다.In this case, as shown in (c) of FIG. 8A, the controller 180 receives the facial expression of the user through the camera 121 and stores the facial expression. Alternatively, as shown in FIG. 8 (d), the controller 180 receives the default value of the user's voice through the microphone 123 and stores the received default value.

도 8b 의 (a)에 도시된 바와 같이, 설정 아이콘(810)에 대한 터치 입력을 수신하여, 제어부(180)는 설정 모드에 진입한다. 설정 모드에 진입한 상태에서, 도 8b의 (b)에 도시된 바와 같이, 제어부(180)는 사용자 혈압 또는 체온의 디폴트값 저장 메뉴(821)에 대한 터치 입력을 수신한다. 만약, 이동 단말기(100)에 혈압 측정할 수 있는 센서가 구비되어 있는 경우, 도 8b의 (c)에 도시된 바와 같이, 제어부(180)는 사용자의 혈압의 디폴트값을 수신할 수 있다. 또한, 이동 단말기(100)에 체온을 측정할 수 있는 센서가 구비되어 있는 경우, 제어부(180)는 사용자의 체온의 디폴트 값을 수신하여, 메모리(160)에 저장한다.As shown in (a) of FIG. 8B, the controller 180 receives the touch input to the setting icon 810, and enters the setting mode. 8B, the controller 180 receives a touch input to the default value storing menu 821 of the user's blood pressure or body temperature, as shown in FIG. 8B. If the mobile terminal 100 is provided with a sensor capable of measuring blood pressure, the controller 180 may receive a default value of the blood pressure of the user, as shown in (c) of FIG. 8b. When the mobile terminal 100 is provided with a sensor capable of measuring the body temperature, the controller 180 receives a default value of the user's body temperature and stores the received default value in the memory 160.

도 9는 본 발명의 실시예에 따라, 텍스트 입력 모드에 진입하는 동작을 설명하는데 참조되는 예시도이다.Figure 9 is an exemplary diagram that is referenced to illustrate the operation of entering a text entry mode, in accordance with an embodiment of the present invention.

도 9의 (a)에 도시된 바와 같이, 이동 단말기(100)는 카카오톡 아이콘(710)의 터치 입력을 수신한다. 이경우, 도 9의 (b)에 도시된 바와 같이, 이동 단말기(100)는 카카오톡을 실행한다.As shown in FIG. 9A, the mobile terminal 100 receives a touch input of the KakaoTalk icon 710. In this case, as shown in FIG. 9 (b), the mobile terminal 100 executes the kakao chat.

한편, 본 실시예에서는 홈스크린에 표시된 SMS 또는 IMS 애플리케이션 아이콘에 대한 터치 입력을 통해 IMS 애플리케이션이 실행되는 것으로 설명하였으나 이에 한정되지 아니한다. 상대방으로부터 수신된 메시지에 대해 터치 입력을 하는 경우에도, SMS 또는 IMS 애플리케이션이 실행될 수 있다.In the present embodiment, the IMS application is executed through the touch input of the SMS or IMS application icon displayed on the home screen, but the present invention is not limited thereto. Even when a touch input is made to a message received from the other party, an SMS or IMS application can be executed.

도 10은 본 발명의 실시예에 따라, 이동 단말기(100) 사용자의 얼굴 표정 및 음성을 감지하는 동작을 설명하는 도면이다.10 is a view for explaining the operation of detecting the facial expression and voice of the user of the mobile terminal 100 according to the embodiment of the present invention.

도 10의 (a)에 도시된 바와 같이, 사용자 감정 반영한 이미지 선택 화면을 표시한 경우, 제어부(180)는 카메라(121)를 통해 사용자의 얼굴을 감지하거나, 마이크(123)를 통해 사용자의 음성을 감지한다. 10 (a), when the image selection screen reflecting the user's emotions is displayed, the control unit 180 detects the face of the user through the camera 121 or transmits the voice of the user through the microphone 123 Lt; / RTI >

이경우, 도 10의 (b)에 도시된 바와 같이, 사용자의 얼굴 또는 사용자의 음성을 감지한 상태에서, 제어부(180)는 상기 얼굴 표정 또는 사용자의 음성의 특징을 분석한다.In this case, as shown in FIG. 10 (b), the controller 180 analyzes the face of the user or the voice of the user in a state where the face of the user or the voice of the user is sensed.

제어부(180)는 검출된 얼굴의 특징점 정보를 바탕으로 사용자의 얼굴 표정을 분석한다. 제어부(180)는 기 저장된 얼굴 표정의 디폴트 값과 검출된 얼굴의 특징점 정보를 비교하여 감지된 사용자의 얼굴 표정을 분석한다. 예를 들어, 제어부(180)는 얼굴 표정의 디폴트 값과 비교하여, 검출된 얼굴의 특징점 정보에서 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도를 수치화 하여 판단한다. 입꼬리가 올라가고 눈이 가늘어지면서 눈꼬리가 아래로 쳐지는 정도의 수치가 기준 수치 이상인 경우, 제어부(180)는 사용자의 얼굴 표정을 "기쁨"이라고 판단할 수 있다.The control unit 180 analyzes the facial expression of the user based on the detected minutia information of the face. The control unit 180 compares the default value of the stored facial expression with the feature point information of the detected face to analyze the facial expression of the user. For example, the controller 180 compares the face value with the default value of the facial expression, and judges whether the eye tip is tilted and the tail of the eye is tilted down from the feature point information of the detected face. The controller 180 can judge that the facial expression of the user is "joy" when the value of the degree to which the mouth of the user is raised and the eye is tapered and the eye tail is struck downward is not less than the reference value.

제어부(180)는 기 저장된 음성의 디폴트 값과 상기 검출된 사용자의 음성의 특징점 정보를 비교하여 사용자의 음성을 분석한다. 예를 들면, 마이크(123)를 통해 감지된 사용자의 음성이 기 저장된 음성의 디폴트값과 비교하여 20~30% 높아졌을때, 제어부(180)는 사용자의 음성을 "기쁨"이라고 판단할 수 있다.The control unit 180 compares the default value of the previously stored voice with the feature point information of the detected user's voice and analyzes the user's voice. For example, when the user's voice sensed through the microphone 123 is 20 to 30% higher than the default value of the stored voice, the control unit 180 can determine that the user's voice is "joy" .

도 11는 본 발명의 실시예에 따라, 아바타 DB에서 아바타를 생성하는 동작을 설명하는데 참조되는 도면이다.11 is a diagram referred to explain an operation of generating an avatar in an avatar DB according to an embodiment of the present invention.

제어부(180)는 사용자의 얼굴 표정, 음성, 혈압/체온, 사용자의 위치, 또는 날씨를 바탕으로 아바타를 생성한다. 도 11의 (a)는 사용자의 얼굴 표정, 음성, 혈압/체온, 사용자의 위치, 또는 날씨에 대한 예시이다. 제1 예시는 사용자의 얼굴 표정 및 음성이 "기쁨"으로 분석되고, 혈압/체온이 기 저장된 디폴트 값보다 높으며, 사용자의 위치가 "회사"이고, 날씨가 "비"인 경우를 나타낸다. 제2 예시는 사용자의 얼굴 표정 및 음성이 "슬픔"으로 분석되고, 혈압/체온이 기 저장된 디폴트 값보다 낮으며, 사용자의 위치가 "학교"이고, 날씨가 "눈"인 경우를 나타낸다. 제3 예시는 사용자의 얼굴 표정 및 음성이 "보통"으로 분석되고, 혈압/체온이 기 저장된 디폴트 값에 비해 변화가 없으며, 사용자의 위치가 "집"이고, 날씨가 "맑음"인 경우를 나타낸다. 제4 예시는 사용자의 얼굴 표정 및 음성이 "놀람"으로 분석되고, 혈압/체온이 기 저장된 디폴트 값에 비해 아주 높으며, 사용자의 위치가 "관공서"이고, 날씨가 "흐림"인 경우를 나타낸다. 이하에서는 제1 예시를 기준으로 설명한다. The controller 180 generates an avatar based on the user's facial expression, voice, blood pressure / body temperature, user's position, or weather. 11 (a) is an example of a user's facial expression, voice, blood pressure / body temperature, user's position, or weather. The first example shows the case where the user's facial expression and voice are analyzed as "joy ", the blood pressure / body temperature is higher than the pre-stored default value, the user's position is" company " The second example shows a case where the user's facial expression and voice are analyzed as "sadness ", the blood pressure / body temperature is lower than the pre-stored default value, the user's position is" school " The third example shows a case where the user's facial expression and voice are analyzed as "normal ", the blood pressure / body temperature is unchanged from the previously stored default value, the user's position is" home ", and the weather is " . The fourth example shows a case where the user's facial expression and voice are analyzed as "surprise ", the blood pressure / body temperature is very high compared to the default value stored, and the user's position is" government office " Hereinafter, the first example will be described.

카메라(121)를 통해 감지된 사용자의 얼굴 표정 및 마이크(123)를 통해 감지된 사용자의 음성을 분석한 결과, 사용자의 상태가 "기쁨"인 경우, 도 11의 (b)에 도시된 아바타의 얼굴 표정 중에서, 제어부(180)는 "기쁨"에 해당하는 얼굴 표정을 선택한다. 본 실시예에서, 아바타의 얼굴 표정이 "보통", "기쁨", "슬픔" 및 "분노"의 4가지인 것으로 예시하나, 이를 제한하지는 않는다. 실시예에 따라, 제어부(180)는 보다 다양한 아바타의 얼굴 표정을 선택할 수 있다. 한편, 아바타의 얼굴 표정들은 아바타 DB에 저장된다.The user's facial expression detected through the camera 121 and the voice of the user detected through the microphone 123 are analyzed and if the state of the user is "joy & Of the facial expressions, the control section 180 selects facial expressions corresponding to "joy ". In the present embodiment, the facial expression of the avatar is exemplified as four kinds of "normal", "joy", "sadness" and "anger", but the present invention is not limited thereto. According to the embodiment, the controller 180 can select facial expressions of more various avatars. Meanwhile, the facial expressions of the avatar are stored in the avatar DB.

GPS 모듈(119)을 통해 사용자의 현재 위치가 "회사"인 정보를 수신하는 경우, 도 11의 (c)에 도시된 복장들 중에서, 제어부(180)는 "정장" 복장을 선택한다. 본 실시예에서, 아바타가 착용하는 복장이 "교복", "운동복", "캐주얼", "정장", "반팔, 반바지" 및 "잠옷"인 것으로 예시하나, 이를 제한하지는 않는다. 실시예에 따라, 제어부(180)는 보다 다양한 복장을 선택할 수 있다. 한편, 아바타가 착용하는 복장들은 아바타 DB에 저장된다.When receiving the information that the user's current position is "company" through the GPS module 119, the controller 180 selects the "suit" outfit among the outfits shown in FIG. 11 (c). In the present embodiment, the attire worn by the avatar is exemplified as "uniform", "sportswear", "casual", "suit", "short sleeve, shorts" and "nightwear" According to the embodiment, the control unit 180 can select a more varied dress. On the other hand, the attire worn by the avatar is stored in the avatar DB.

사용자가 현재 위치한 장소의 날씨가 "비"로 수신되는 경우, 도 11의 (d)에 도시된 악세사리들 중에서, 제어부(180)는 "우산"을 선택한다. 본 실시예에서, 아바타가 착용하는 악세사리가 "우산", "목도리", "장갑" 및 "마스크"인 것으로 예시하나, 이를 제한하지는 않는다. 실시예에 따라, 제어부(180)는 보다 다양한 악세사리를 선택할 수 있다. 한편, 아바타가 착용하는 악세사리들은 아마타 DB에 저장된다.When the weather of the place where the user is currently located is received as "rain ", the controller 180 selects" Umbrella "from among the accessories shown in Fig. 11D. In the present embodiment, the accessory worn by the avatar is exemplified as "umbrella", "shawl", "glove", and "mask", but is not limited thereto. According to the embodiment, the control unit 180 can select a variety of accessories. Meanwhile, the accessories worn by the avatar are stored in the database.

아바타의 얼굴 표정, 복장, 악세사리에 대한 선택이 완료된 경우, 제어부(180)는 도 11의 (e)에 도시된 바와 같이, 얼굴 표정이 "기쁨"이고, 정장을 착용하며, 우산을 소지하고 있는 아바타를 생성한다.When the selection of the facial expression, dress, and accessories of the avatar is completed, as shown in FIG. 11 (e), the control unit 180 determines whether the facial expression is "joyful", wearing a suit, Create an avatar.

한편, 도시하지는 않았지만, GPS 모듈(119)을 통해, 제어부(180)는 사용자의 이동 속도를 판단할 수 있다. 이동 속도가 판단된 겨우, 제어부(180)는 상기 이동 속도에 대응하는 악세사리를 아바타에 추가할 수 있다. 예를 들어, 이동 속도가 시속 80km인 것으로 판단된 경우, 제어부(180)는 자동차를 추가하여 아바타를 생성할 수 있다.Meanwhile, though not shown, the controller 180 can determine the moving speed of the user through the GPS module 119. When the moving speed is determined, the controller 180 may add the accessory corresponding to the moving speed to the avatar. For example, when it is determined that the moving speed is 80 km / h, the control unit 180 may generate an avatar by adding a vehicle.

도 12a 및 도 12b는 본 발명의 실시예에 따라, 사용자의 얼굴 표정 또는 사용자의 음성과 매칭되는 이미지를 이미지 저장 DB에 저장하는 동작을 설명하는데 참조되는 도면이다.12A and 12B are diagrams for describing an operation of storing an image matching a user's facial expression or a user's voice in an image storage DB according to an embodiment of the present invention.

도 12a의 (a)에 도시된 바와 같이, 설정모드에 진입한 상태에서, 제어부(180)는 얼굴 표정 및 음성과 매칭되는 이미지 등록 메뉴(1221)에 대한 터치 입력을 수신한다.As shown in FIG. 12A, in a state where the setting mode is entered, the control unit 180 receives a touch input to the image registration menu 1221 that matches the facial expression and voice.

이경우, 도 12a의 (b)에 도시된 바와 같이, 제어부(180)는 카메라(121)를 통해 사용자의 얼굴 표정을 감지하거나, 도 12a의 (c)에 도시된 바와 같이, 마이크(123)를 통해 사용자의 음성을 감지한다.12 (b), the controller 180 detects the facial expression of the user through the camera 121 or controls the microphone 123 as shown in (c) of FIG. 12 The user's voice is detected.

사용자의 얼굴 표정을 감지하거나, 사용자의 음성을 감지한 상태에서, 제어부(180)는 사용자의 얼굴 표정 또는 사용자의 음성을 분석한다. In a state where the user's facial expression is sensed or the user's voice is sensed, the control unit 180 analyzes the facial expression of the user or the voice of the user.

예를 들어, 제어부(180)는 카메라(121)렌즈를 통해 입력된 이미지에서 사용자의 얼굴 영역을 검출한다. 제어부(180)는 상기 검출된 얼굴 영역에서 얼굴의 특징점 정보를 검출하여 사용자 얼굴의 표정을 감지할 수 있다. 제어부(180)는 검출된 얼굴 영역에서, 눈썹, 눈, 코, 입 및 턱선 등의 얼굴 특징점의 위치를 검출하여 얼굴 특징점 정보를 검출한다. 예를 들어, 얼굴의 특징점 정보를 검출할 때, 제어부(180)는 눈을 기준으로 얼굴이라는 형태를 검출하고, 코와 입꼬리 및 얼굴 윤곽 등의 순서로 검출하게 된다. For example, the control unit 180 detects the face region of the user in the image input through the camera 121 lens. The control unit 180 may detect the facial expression of the user's face by detecting the feature point information of the face in the detected facial region. The controller 180 detects the facial feature point information by detecting the positions of the facial feature points such as eyebrows, eye, nose, mouth, and jaw line in the detected face region. For example, when detecting the minutia information of a face, the controller 180 detects the face type based on the eye, and detects it in the order of the nose, mouth, and face contour.

사용자의 얼굴 표정 또는 사용자의 음성이 분석된 상태에서, 도 12a의 (d)에 도시된 바와 같이, 제어부(180)는 상기 사용자의 얼굴 표정 또는 사용자의 음성에 대응하는 이모티콘을 디스플레이부(151)의 일 영역에 표시한다. 또는, 제어부(180)는 상기 사용자의 얼굴 표정 또는 사용자의 음성에 대응하는 이미지를 디스플레이부(151)의 일 영역에 표시한다. 예를 들어, 상기 사용자의 얼굴 표정 또는 사용자의 음성을 분석한 결과 "기쁨"이라고 판단된 경우, 제어부(180)는 메모리(160)에 저장된 이모티콘 또는 이미지 중에서 "기쁨"에 대응되는 추천 이모티콘(1231, 1232) 또는 추천 이미지(1233, 1234, 1235)를 디스플레이부(151)에 표시한다.12 (d), the control unit 180 displays an emoticon corresponding to the user's facial expression or the user's voice on the display unit 151, In a region of " Alternatively, the controller 180 displays an image corresponding to the facial expression of the user or the voice of the user on one area of the display unit 151. [ For example, when it is determined that the user's facial expression or voice of the user is "joy" as a result of analyzing the user's facial expression or user's voice, the control unit 180 selects one of the emoticons or images stored in the memory 160 as recommended emoticons 1231 , 1232, or the recommended images 1233, 1234, 1235 on the display unit 151. [

이경우, 제어부(180)는 표시된 이모티콘 또는 이미지들 중에서 하나 이상의 이모티콘 또는 이미지를 선택하는 입력을 수신하는 경우, 사용자의 얼굴 표정 또는 사용자의 음성에 대응하여 이모티콘 또는 이미지가 이미지 저장 DB에 저장된다.In this case, when the control unit 180 receives an input for selecting one or more emoticons or images from the displayed emoticons or images, the emoticons or images are stored in the image storage DB corresponding to the user's facial expression or the user's voice.

본 실시예에서는 표시된 추천이미지들(1233, 1234, 1235)중에서 지시부호 1233에 해당하는 이미지에 대한 터치 입력을 수신하여, 제어부(180)는 "기쁨"에 대응되도록 선택된 이미지(1233)를 저장한다.In the present embodiment, the touch input for the image corresponding to the designation 1233 is received from the displayed recommended images 1233, 1234, and 1235, and the control unit 180 stores the selected image 1233 corresponding to "joy" .

사용자의 얼굴 표정 또는 사용자의 음성과 매칭되는 이모티콘 또는 이미지 저장이 완료된 경우, 제어부(180)는 도 12a의 (e)에 도시된 바와 같이, 저장 완료 메시지(1240)를 디스플레이부(151)에 표시한다.The control unit 180 displays the storage completion message 1240 on the display unit 151 as shown in (e) of FIG. 12A when the emoticon or image matching with the user's facial expression or the user's voice is completed do.

한편, 제어부(180)는 사용자의 표정 또는 사용자의 음성과 매칭하여 사용자 지정 이미지를 저장할 수도 있다. Meanwhile, the control unit 180 may store the user-specified image by matching with the user's facial expression or the user's voice.

도 12a에서 설명한대로, 사용자의 얼굴 표정 또는 사용자의 음성이 "기쁨"으로 분석된 상태에서, 도 12b의 (a)에 도시된 바와 같이, 사용자 지정 이미지 아이콘(1250)에 대한 터치 입력을 수신한 경우, 도 12b의 (b)에 도시된 바와 같이, 제어부(180)는 메모리(160)에 저장된 복수의 이미지들(1260)을 표시한다. 이때, 제어부(180)는 상기 이미지들을 썸네일 형식으로 표시할 수 있다. 복수의 이미지들이 표시된 상태에서, 제어부(180)는 사용자 입력을 수신하여 하나 이상의 이미지를 선택한다. 이경우, "기쁨"에 해당하는 사용자의 얼굴 표정 또는 사용자의 음성과 선택된 하나 이상의 이미지는 대응하여 이미지 저장 DB에 저장된다. 이때, 도 12b의 (c)에 도시된 바와 같이,제어부(180)는 저장 완료 메시지(1240)를 디스플레이부(151)에 표시한다.12B, when the touch input to the customized image icon 1250 is received, as shown in Fig. 12B (a), with the facial expression of the user or the user's voice analyzed as " The control unit 180 displays a plurality of images 1260 stored in the memory 160 as shown in (b) of FIG. 12B. At this time, the controller 180 may display the images in a thumbnail format. With a plurality of images displayed, the control unit 180 receives user input and selects one or more images. In this case, the facial expression of the user corresponding to "joy " or the voice of the user and the selected one or more images are correspondingly stored in the image storage DB. At this time, as shown in (c) of FIG. 12, the controller 180 displays a storage completion message 1240 on the display unit 151. [

한편, 본 실시예에서는 "기쁨"에 해당하는 사용자의 얼굴 표정 또는 사용자의 음성과 대응하여 이모티콘 또는 이미지를 저장하는 동작을 설명하였으나, 이를 제한 하지는 않는다. 제어부(180)는 "기쁨" 외에 슬픔, 분노, 행복, 놀람, 보통 등과 같이, 사용자의 얼굴 표정 또는 사용자의 음성을 분석하여, 다양한 사용자의 상태에 대해 이미지를 매칭하여 저장할 수도 있다.On the other hand, in the present embodiment, the operation of storing the emoticon or image in correspondence with the facial expression of the user corresponding to "joy " or the voice of the user has been described, but the present invention is not limited thereto. The control unit 180 may analyze the facial expression of the user or voice of the user such as sadness, anger, happiness, surprise, and the like in addition to the "joy", and may store and store images for various user's states.

도 13는 본 발명의 실시예에 따라, 사용자의 얼굴 표정 또는 사용자의 음성에 대응하는 이미지를 선택하여 상대방 단말기에 전송하는 동작을 설명하는데 참조되는 예시도이다.13 is an exemplary diagram for explaining an operation of selecting an image corresponding to a user's facial expression or a voice of a user and transmitting the selected image to a correspondent terminal according to an embodiment of the present invention.

도 13의 (a)에 도시된 바와 같이, 제어부(180)는 "갈까? "라는 텍스트 입력(1305)을 수신한다. 이후에, 제어부(180)는 메뉴 설정 아이콘(1310)에 대한 터치 입력을 수신한다. 이경우, 도 13의 (b)에 도시된 바와 같이, 제어부(180)는 메뉴 화면(1320)을 디스플레이부(151)에 표시한다. 메뉴들 중에서 감정 반영 이미지(1321)를 선택하는 경우, 도 13의 (c)에 도시된 바와 같이, 제어부(180)는 이미지 저장 DB, 아바타 DB 또는 이미지 제공 서버에서 제공된 하나 이상의 이미지(1331, 1332, 1333, 1340) 또는 이모티콘(1334)을 디스플레이부(151)의 일 영역에 표시한다. 실시예에 따라, 제어부(180)는 획득된 사용자의 얼굴 표정 이미지 자체를 디스플레이부(151)에 표시할 수도 있다.As shown in (a) of FIG. 13, the control unit 180 receives a text input 1305 of "Go? Thereafter, the control unit 180 receives the touch input for the menu setting icon 1310. [ In this case, as shown in FIG. 13B, the control unit 180 displays the menu screen 1320 on the display unit 151. 13 (c), the control unit 180 controls the image storing DB, the avatar DB, or one or more images 1331 and 1332 provided from the image providing server 1333, 1340 or emoticon 1334 in one area of the display unit 151. [ According to the embodiment, the controller 180 may display the acquired facial expression image itself on the display unit 151. [

이미지 저장 DB에서 제공되는 이미지는 도 7, 도 13a 및 도 13b를 참조하여 설명한 바와 같이, 사용자의 얼굴 표정 또는 사용자의 음성과 매칭되어 저장된 이미지들이다.The images provided in the image storing DB are images stored in matching with the user's facial expression or user's voice as described with reference to Figs. 7, 13A, and 13B.

아바타 DB에서 제공되는 이미지는 도 7 및 도 12를 참조하여 설명한 바와 같이, 사용자의 얼굴 표정 또는 사용자의 음성에 대응하여 생성된 아바타 이미지이다.The image provided in the avatar DB is an avatar image generated in correspondence with the facial expression of the user or the voice of the user, as described with reference to Figs.

하나 이상의 이미지 또는 이모티콘이 표시된 상태에서, 제어부(180)는 사용자 입력에 의해 이미지(1331)를 선택한다. With one or more images or emoticons displayed, the control unit 180 selects the image 1331 by user input.

실시예에 따라, 디스플레이부(151)에 표시된 이미지(1331, 1332, 1333, 1340) 또는 이모티콘(1334)에 대한 터치 입력을 수신는 경우, 제어부(180)는 확대된 이미지를 표시할 수도 있다.The control unit 180 may display an enlarged image when receiving a touch input to the images 1331, 1332, 1333, and 1340 or the emoticon 1334 displayed on the display unit 151 according to the embodiment.

이경우, 도 13의 (d)에 도시된 바와 같이, 선택된 이미지(1331)는 썸네일 형태(1351)로 텍스트 입력창(1350)에 표시된다. 전송 아이콘(1355)에 대한 터치 입력을 수신하는 경우, 도 13의 (e)에 도시된 바와 같이, 제어부(180)는 "갈까? "라는 텍스트 입력 및 선택된 이미지(1331)를 상대방 단말기에 전송한다. 또한, 제어부(180)는 "갈까? "라는 텍스트 입력 및 선택된 이미지(1331)를 디스플레이부(151)에 표시한다.13 (d), the selected image 1331 is displayed in the text input window 1350 in the form of a thumbnail 1351. In this case, When receiving the touch input to the transmission icon 1355, as shown in (e) of FIG. 13, the control unit 180 transmits the text "Go to?" And the selected image 1331 to the partner terminal . In addition, the control unit 180 displays the text "Go?" And the selected image 1331 on the display unit 151.

한편, 본 발명은 휴대 단말기에 구비된 프로세서가 읽을 수 있는 기록매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 기록매체는 프로세서에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 프로세서가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 인터넷을 통한 전송 등과 같은 캐리어 웨이브의 형태로 구현되는 것도 포함한다. 또한 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.Meanwhile, the present invention can be implemented as a processor-readable code in a processor-readable recording medium provided in a portable terminal. The processor-readable recording medium includes all kinds of recording apparatuses in which data that can be read by the processor is stored. Examples of the recording medium readable by the processor include a ROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, an optical data storage device, and the like, and also a carrier wave such as transmission over the Internet. In addition, the processor readable recording medium may be distributed over networked computer systems so that code readable by the processor in a distributed manner can be stored and executed.

이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is clearly understood that the same is by way of illustration and example only and is not to be construed as limiting the scope of the invention as defined by the appended claims. It will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the present invention.

110 : 무선 통신부
120 : A/V 입력부
130 : 사용자 입력부
140 : 센싱부
150 : 출력부
151 : 디스플레이부
160 : 메모리
170 : 인터페이스부
180 : 제어부 110:
120: A / V input unit
130: user input section
140: sensing unit
150:
151:
160: Memory
170:
180:

Claims

Entering a text entry mode;
Sensing a face region of a person input through a camera and detecting a voice input through a microphone;
Analyzing features of the facial expression or the speech;
Displaying one or more images corresponding to facial expressions or features of the speech; And
Selecting at least one image among the images and transmitting the selected image to the counterpart terminal.

The method according to claim 1,
Further comprising receiving text,
Wherein the transmitting comprises:
And transmitting the selected image along with the created text.

The method according to claim 1,
Further comprising receiving location information or weather information of the user,
Wherein the image is an avatar wearing a face corresponding to the facial expression, the feature of the voice, the location information, or the weather information.

The method according to claim 1,
And displaying an image selection screen reflecting the emotion of the user.

The method according to claim 1,
Connecting to an image providing server;
And receiving at least one image corresponding to the feature in the image providing server.