KR102218906B1 - 이동 단말기 및 이의 제어 방법 - Google Patents

이동 단말기 및 이의 제어 방법 Download PDF

Info

Publication number
KR102218906B1
KR102218906B1 KR1020140006142A KR20140006142A KR102218906B1 KR 102218906 B1 KR102218906 B1 KR 102218906B1 KR 1020140006142 A KR1020140006142 A KR 1020140006142A KR 20140006142 A KR20140006142 A KR 20140006142A KR 102218906 B1 KR102218906 B1 KR 102218906B1
Authority
KR
South Korea
Prior art keywords
user
pointer
input
voice
mobile terminal
Prior art date
Application number
KR1020140006142A
Other languages
English (en)
Other versions
KR20150086030A (ko
Inventor
김윤희
김영우
김종훈
최진해
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020140006142A priority Critical patent/KR102218906B1/ko
Priority to EP19194363.8A priority patent/EP3591952A1/en
Priority to EP15000032.1A priority patent/EP2903249B1/en
Priority to US14/597,084 priority patent/US9578160B2/en
Priority to CN201510025713.8A priority patent/CN104796527B/zh
Publication of KR20150086030A publication Critical patent/KR20150086030A/ko
Application granted granted Critical
Publication of KR102218906B1 publication Critical patent/KR102218906B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72469—User interfaces specially adapted for cordless or mobile telephones for operating the device by selecting functions from two or more displayed items, e.g. menus or icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification
    • G10L17/22—Interactive procedures; Man-machine interfaces
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/74—Details of telephonic subscriber devices with voice recognition means

Abstract

본 발명은 음성 명령을 기초로 동작할 수 있는 이동 단말기 및 이의 제어 방법을 개시한다. 이를 위한 이동 단말기는, 무선 통신을 수행하기 위한 무선 통신부; 소리를 수신하기 위한 마이크; 사용자로부터 터치 입력을 수신하기 위한 터치스크린; 및 상기 터치스크린 상에 포인터가 터치되면, 상기 포인터가 상기 터치스크린을 터치하고 있는 동안 상기 마이크가 활성화되도록 제어하고, 상기 마이크를 통해 입력되는 제 1 사용자 음성이 지시하는 타겟을 결정하며, 상기 포인터가 상기 터치스크린으로부터 릴리즈 되거나, 상기 포인터가 제 1 방향을 따라 드래그 이동하면, 어플리케이션 상에서 상기 타겟이 처리되도록 제어하는 제어부를 포함할 수 있다.

Description

이동 단말기 및 이의 제어 방법{MOBILE TERMINAL AND CONTROLLING METHOD THEREOF}
본 발명은 사용자 음성을 기초로 작동할 수 있는 이동 단말기 및 이의 제어 방법에 관한 것이다.
단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.
이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.
터치스크린을 구비한 이동 단말기는, 터치스크린을 통해 수신되는 터치 입력을 기초로 동작할 수 있다. 일예로, 사용자는 터치스크린에 디스플레이되는 가상 키패드를 터치함으로써 이동 단말기에 텍스트를 입력할 수 있다. 다만, 터치스크린의 크기가 작고, 포인터의 면적이 크다면, 사용자가 가상 키패드를 적절히 조작하는 것이 어려울 것이다.
이에, 최근에는 음성 명령을 통해 제어될 수 있는 이동 단말기에 대한 수요가 증가하고 있다. 다만, 음성 명령의 경우, 사용자 음성을 분석하는 시간이 요구된다는 문제점과, 오인식으로 인해, 사용자의 의도와 다른 동작이 실행될 수도 있다는 문제점이 발생할 수 있다.
이에, 본 발명에서는 음성 명령을 통해 제어 가능한 이동 단말기를 개시하되, 사용자 음성의 분석 시간을 단축하고, 사용자 음성의 인식률도 개선할 수 있는 방안에 대해 논하고자 한다.
본 발명은 사용자 편의를 향상시킨 이동 단말기를 제공하는 것을 그 목적으로 한다.
구체적으로, 본 발명은 음성 명령의 길이를 줄임으로써, 음성 분석 시간을 단축하고, 음성 인식률을 개선할 수 있는 이동 단말기를 제공하는 것을 목적으로 한다.
보다 상세하게는, 본 발명은 터치 입력 및 사용자 음성의 조합을 기초로 실행될 어플리케이션 및 상기 어플리케이션 상에서 처리해야 할 타겟을 결정될 수 있는 이동 단말기를 제공하는 것을 그 목적으로 한다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
상기 목적을 달성하기 위한 본 발명의 일예에 따른 이동 단말기는, 무선 통신을 수행하기 위한 무선 통신부; 소리를 수신하기 위한 마이크; 사용자로부터 터치 입력을 수신하기 위한 터치스크린; 및 상기 터치스크린 상에 포인터가 터치되면, 상기 포인터가 상기 터치스크린을 터치하고 있는 동안 상기 마이크가 활성화되도록 제어하고, 상기 마이크를 통해 입력되는 제 1 사용자 음성이 지시하는 타겟을 결정하며, 상기 포인터가 상기 터치스크린으로부터 릴리즈 되거나, 상기 포인터가 제 1 방향을 따라 드래그 이동하면, 어플리케이션 상에서 상기 타겟이 처리되도록 제어하는 제어부를 포함한다.
상기 목적을 달성하기 위한 본 발명의 일예에 따른 이동 단말기는, 무선 통신을 수행하기 위한 무선 통신부; 소리를 수신하기 위한 마이크; 사용자로부터 터치 입력을 수신하기 위한 터치스크린; 상기 사용자의 제스처를 감지하기 위한 센싱부; 및 상기 터치스크린을 통해 기 설정된 터치 입력이 수신되거나, 상기 센싱부가 기 설정된 제스처를 감지하면, 상기 마이크를 활성화 하고, 상기 마이크를 통해 입력되는 사용자 음성을 기초로 상기 사용자 음성이 지시하는 타겟을 결정한 뒤, 상기 기 설정된 터치 입력 또는 상기 기 설정된 제스처에 대응되는 어플리케이션 상에서 상기 타겟이 처리되도록 제어하는 제어부를 포함한다.
상기 목적을 달성하기 위한 본 발명의 일예에 따른 이동 단말기의 제어 방법은, 터치스크린을 통해 기 설정된 터치 입력이 수신되면, 마이크를 활성화 하는 단계; 포인터가 상기 터치스크린을 터치하고 있는 동안 상기 마이크를 통해 사용자 음성이 수신되면, 상기 사용자 음성이 지시하는 타겟을 결정하는 단계; 및 상기 포인터가 상기 터치스크린으로부터 릴리즈 되거나, 상기 포인터가 제 1 방향을 따라 드래그 이동하면, 어플리케이션 상에서 상기 타겟을 처리하는 단계를 포함한다.
상기 목적을 달성하기 위한, 본 발명의 일예에 따른 이동 단말기의 제어 방법은, 기 설정된 터치 입력 또는 기 설정된 제스처 입력이 수신되면, 마이크를 활성화 하는 단계; 상기 마이크를 통해 사용자 음성이 수신되면, 상기 사용자 음성이 지시하는 타겟을 결정하는 단계; 및 상기 기 설정된 터치 입력 또는 상기 기 설정된 제스처 입력에 대응되는 어플리케이션 상에서 상기 타겟을 처리하는 단계를 포함한다.
본 발명에서 이루고자 하는 기술적 과제들의 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명은 사용자 편의를 향상시킨 이동 단말기를 제공할 수 있는 효과가 있다.
구체적으로, 본 발명은 음성 명령의 길이를 줄임으로써, 음성 분석 시간을 단축하고, 음성 인식률을 개선할 수 있는 이동 단말기를 제공할 수 있는 효과가 있다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기의 전면 사시도이다.
도 3은 본 발명의 일 실시예에 관련된 이동 단말기의 후면 사시도이다.
도 4는 특정 상대방에게 전화를 걸기 위한 사용자 입력의 예를 설명하기 위한 도면이다.
도 5는 통화 아이콘이 터치되었을 경우의 이동 단말기의 동작을 설명하기 위한 흐름도이다.
도 6은 디스플레이부를 통해 팝업 창이 디스플레이되는 예를 도시한 도면이다.
도 7은 사용자 음성이 지시하는 인물이 전화를 걸 대상으로 결정되는 예를 도시한 도면이다.
도 8a 및 도 8b는 포인터가 통화 아이콘으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
도 9는 전화번호부 아이콘이 터치되었을 경우의 이동 단말기의 동작을 설명하기 위한 흐름도이다.
도 10은 디스플레이부를 통해 팝업 창이 디스플레이되는 예를 도시한 도면이다.
도 11은 사용자 음성이 지시하는 인물이 검색 대상으로 결정되는 예를 설명하기 위한 도면이다.
도 12a 및 도 12b는 포인터가 전화번호부 아이콘으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
도 13a 내지 도 13d는 포인터가 드래그 이동하는 위치별 이동 단말기의 동작을 예시한 도면이다.
도 14는 메시지 아이콘이 터치되었을 경우의 이동 단말기의 동작을 설명하기 위한 흐름도이다.
도 15는 디스플레이부를 통해 팝업 창이 디스플레이되는 예를 도시한 도면이다.
도 16은 사용자 음성이 지시하는 인물이 메시지를 보낼 대상으로 결정되는 예를 설명하기 위한 도면이다.
도 17a 및 도 17b는 포인터가 메시지 아이콘으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
도 18a 및 도 18b는 포인터가 마이크 버튼으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
도 19는 인터넷 아이콘이 터치된 경우 이동 단말기의 동작을 예시한 도면이다.
도 20은 알람 아이콘이 터치된 경우 이동 단말기의 동작을 예시한 도면이다.
도 21은 음악 아이콘이 터치된 경우 이동 단말기의 동작을 예시한 도면이다.
도 22는 어플리케이션 별 서로 다른 터치 영역이 할당되어 있는 팝업 창이 디스플레이되는 예를 도시한 도면이다.
도 23 및 도 24는 사용자 입력의 형태에 따라 각기 다른 어플리케이션이 실행되는 예를 도시한 도면이다.
도 25 내지 도 27은 음성이 지시하는 대상의 속성에 따라, 실행하고자 하는 어플리케이션의 종류가 가변되는 예를 도시한 도면이다.
도 28은 음성 명령을 지원하는 어플리케이션의 아이콘이 강조 표시되는 예를 도시한 도면이다.
도 29는 컨텐트를 공유하고자 하는 매체를 결정하는 과정을 설명하기 위해 예시한 도면이다.
도 30은 전화를 걸기 위한 제스처가 입력되었을 때 이동 단말기의 동작을 예시한 도면이다.
도 31은 메시지를 보내기 위한 제스처가 입력되었을 때 이동 단말기의 동작을 예시한 도면이다.
이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다.
이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다.
그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다. 도 1에 도시된 상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(100)에 제공될 수 있다.
상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS (Convergence of Broadcasting and Mobile Service), OMA-BCAST (Open Mobile Alliance-BroadCAST), CMMB (China Multimedia Mobile Broadcasting), MBBMS (Mobile Broadcasting Business Management System), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, GSM(Gobal System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA), LTE(Long Term Evolution)(이에 한정되지 않음)와 같은 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), GSM, CDMA, WCDMA, LTE(Long Term Evolution)(이에 한정되지 않음) 등이 이용될 수 있다.
Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로으로 이해될 수도 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 이동단말기(100)의 전·후면 또는 측면에 위치하는 버튼(136), 터치 센서(정압/정전)(137)로 구성될 수 있고, 도시되지는 않았지만 키패드(key pad), 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등을 더욱 포함하여 구성될 수 있다. 한편, 이동 단말기(100)에는 사용자의 지문을 인식하는 지문인식센서가 구비될 수 있으며, 제어부(180)는 지문인식센서를 통하여 감지되는 지문정보를 인증수단으로 이용할 수 있다. 상기 지문 인식 센서는 디스플레이부(151) 또는 사용자 입력부(123)에 내장될 수 있다.
센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 상기 센싱부(140)의 예로는, 자이로스코프 센서, 가속도 센서, 지자기 센서 및 지문 인식 센서 등이 있을 수 있다.
예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접센서(141)를 포함할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.
이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)와 상기 터치센서(137) 가 상호 레이어 구조를 이루 거나 일체형으로 형성되는 는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가 지는 경우 디스플레이부(151)에 적층되어 레이어 구조를 형성할 수도 있고, 상기 디스플레이부(151)의 구성에 포함시켜 일체형으로 이루어질 수 있다.
터치센서(137)는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치센서(137)는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치센서(137)에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
도 2를 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.
상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 상기 디스플레이부(151) 및 음성출력모듈(152)은 알람부(153)의 일부로 분류될 수도 있다.
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.
식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.
상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
제어부(controller, 180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다. 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(170)의 일 예로서 구성될 수 있다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.
소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.
개시된 휴대 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.
상기 이동단말기(100)의 바디는 외관을 이루는 케이스(101, 102, 103)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다.
경우에 따라서는 리어 케이스(102)의 표면에도 전자부품이 실장 될 수 있다. 상기 리어 케이스(102)의 표면에 실장되는 전자부품은 사용자가 탈착이 필요한 배터리, USIM 카드 및 메모리카드 등이 있다. 이때, 상기 리어 케이스(102)는 그 표면을 커버하기 위한 후면커버(103)를 더 구비할 수 있다. 상기 후면커버(103)는 사용자가 용이하게 탈부착 가능한 구조로 형성되며, 상기 후면커버(103)를 제거하면, 상기 리어 케이스(102)의 표면이 노출된다.
도 2에 도시된 바와 같이 상기 후면커버(103)를 결합하면, 상기 리어 케이스(102)의 측면 일부만 노출될 수도 있고, 상기 후면커버(103)의 사이즈를 작게하면 상기 리어케이스(102)의 배면 일부도 노출될 수 있다. 상기 후면커버(103)가 상기 리어 케이스(102)의 배면 전체을 커버하는 경우 카메라(121')나 음향 출력부(152')를 외부로 노출시키기 위한 개구부(103')를 포함할 수 있다.
케이스들(101, 102, 103)은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.
단말기 케이스(101, 102)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.
디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.
사용자 입력부(130)는 휴대 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.
제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절과 같은 명령을 입력받고, 제 3 조작 유닛(133)은 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.
도 3은 도 2에 도시된 휴대 단말기의 후면 사시도이다.
도 3를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다.
예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.
카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.
단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.
단말기 바디의 측면에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.
단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.
리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135)는 디스플레이부(151)를 위해 광 투과형으로 구성될 수도 있다. 이 경우에, 디스플레이부(151)가 양면에서(즉, 이동단말기의 전면 및 후면 둘 다의 방향으로) 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다.
한편, 터치 패드(135) 전용 디스플레이가 별도로 장착됨으로써, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.
터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.
설명의 편의를 위해, 본 발명에 따른 이동 단말기(100)는 도 1에 도시된 구성요소 중 적어도 하나를 포함하는 것으로 가정한다. 구체적으로, 본 발명에 따른 이동 단말기(100)는 도 1에 도시된 구성요소 중, 무선 통신부(110), 마이크(122), 디스플레이부(151), 메모리(160) 및 제어부(180)를 포함하는 것으로 가정한다. 경우에 따라, 본 발명에 따른 이동 단말기(100)는 센싱부(140) 및 음향 출력 모듈(152)을 더 구비할 수도 있다.
본 발명에 따른 이동 단말기(100)는 디스플레이부(151)가 터치스크린일 경우 더욱 용이하게 실시될 수 있으므로, 이하에서는 디스플레이부(151)가 터치스크린인 것으로 가정한다. 디스플레이부(151)가 터치스크린인 경우, 디스플레이부(151)는 어플리케이션 아이콘 및 위젯 등의 오브젝트를 표시하는 표시 장치로서의 기능을 수행함과 동시에 사용자로부터 터치 입력을 수신하는 입력 장치로서의 기능을 수행할 수 있다. 아울러, 이하에서는, 아이콘, 버튼, 텍스트, 인디케이터 등 디스플레이부(151)를 통해 출력되는 시각적으로 인식 가능한 정보를 통칭하여 '오브젝트'라 호칭하기로 한다.
일반적으로, 사용자는 디스플레이부(151)를 터치하면서, 이동 단말기(100)의 동작을 적절히 제어할 수 있다. 일예로, 도 4는 특정 상대방에게 전화를 걸기 위한 사용자 입력의 예를 설명하기 위한 도면이다.
특정 상대방에게 전화를 걸기 위해, 사용자는 전화번호부 어플리케이션 및 통화 어플리케이션을 적절히 실행함으로써, 소망하는 특정 상대방에게 전화를 걸 수 있다. 일예로, 전화번호부 어플리케이션 아이콘이 터치되면, 제어부(180)는 도 4의 (a)에 도시된 예에서와 같이, 전화번호부 어플리케이션을 실행하면서, 메모리(160)에 저장된 전화번호부(즉, 연락처 목록)가 디스플레이되도록 제어할 수 있다. 이후, 사용자는 스크롤 입력을 통해 또는 검색 창(410)에 소망하는 상대방의 이름을 입력함으로써 전화를 걸고자 하는 상대방을 발견할 수 있다(도 4의 (b)에서는 검색 창(410)에 상대방의 이름(Jane)을 입력하여, 전화를 걸고자 하는 상대방이 발견되는 것으로 예시됨).
이후, 발견된 상대방과 통화를 하기 위한 통화 버튼(420)이 터치되면, 제어부(180)는 도 4의 (c)에 도시된 예에서와 같이, 무선 통신부(110)를 통해 발견된 상대방에게 전화를 걸 수 있다.
도시되지는 않았지만, 발견된 상대방에게 메시지를 전송하기 위한 메시지 버튼이 터치된다면, 제어부(180)는 발견된 상대방에게 전송할 메시지를 작성하기 위한 메시지 작성 화면이 디스플레이되도록 제어할 수 있을 것이다.
도 4를 통해 설명한 바와 같이, 사용자가 소망하는 상대방에게 전화를 걸거나 메시지를 전송하기 위해서는, 전화번호부에서 소망하는 상대방을 찾아야 한다. 다만, 위 방법은, 전화번호부 어플리케이션을 실행하기 위한 터치 입력 이외에도, 소망하는 상대방을 검색하기 위한 추가 터치 입력(예컨대, 연락처 목록을 스크롤 하거나, 소망하는 상대방의 이름을 검색 창에 넣기 위한 터치 입력)을 필요로 한다. 이에 따라, 소망하는 상대방에 대한 탐색은 추가 터치 입력이 수신되기까지의 시간만큼 지연되므로, 위 방법은 사용자가 소망하는 상대방을 재빠르게 찾는 것에는 부적절하다.
상기와 같은 문제점을 해결하기 위해, 일부 이동 단말기(100)에서는, 음성 명령을 통해 전화 또는 메시지를 전송하는 방법을 제공하고 있다. 예컨대, 안드로이드 OS(Operating System)에서 구동되는 LG사의 Q Voice, 삼성 사의 S Voice, 윈도우 8 OS에서 구동되는 코르타나(Cortana), iOS에서 구동되는 Siri 등의 음성 명령 어플리케이션이 실행되면, 제어부(180)는 마이크(122)를 통해 입력되는 음성 명령을 기초로 이동 단말기(100)를 제어할 수 있게 된다.
예컨대, 에게 전화해(Call to Mom)라는 음성 명령이 입력되면, 제어부(180)는 '전화(Call)'라는 단어를 통해 통화 어플리케이션을 수행해야할 상황임을 인지하고, 전화번호부로부터 전화를 걸 대상으로 보이는 '어머니(Mom)'라는 인물의 연락처를 추출해 내어, 추출된 연락처를 대상으로 전화를 걸게 된다.
다만, 위와 같은 음성 명령 어플리케이션은, 사용자가 입력한 음성 명령으로부터 실행 하고자 하는 어플리케이션을 가리키는 단어와 통신 대상이 되는 인물을 지칭하는 단어를 분리해야 하는 과정을 필요로 하므로, 전화를 걸 때 음성 명령의 분석에 소요되는 시간 만큼 지연이 발생하게 된다. 아울러, 실행 하고자 하는 어플리케이션 및 통신 대상이 되는 인물을 모두 포함하는 인물을 모두 말해야 하므로, 자연스럽게 음성 명령의 길이가 길어지게 되고, 이는 음성 명령의 정확한 인식을 떨어뜨리는 원인 중 하나로 작용할 수 있다.
이에, 본 발명에서는 사용자의 추가적인 터치 입력 없이 음성을 통해 소망하는 상대방을 재빠르게 검색해 낼 수 있는 이동 단말기(100)를 제공하는 한편, 음성 명령의 길이를 짧게하여, 음성 명령의 인식률 및 음성 명령의 분석에 소요되는 시간을 줄일 수 있는 이동 단말기(100)를 개시하고자 한다. 이하, 동작 흐름도들을 참조하여, 본 발명에 따른 이동 단말기(100)에 대해 상세히 살펴보기로 한다.
디스플레이부(151)에는 소정 상대방에게 전화를 걸 수 있는 통화 어플리케이션을 실행하기 위한 통화 아이콘, 소정 상대방에게 메시지를 전송할 수 있는 메시지 어플리케이션을 실행하기 위한 메시지 아이콘, 이메일 어플리케이션을 실행하기 위한 이메일 아이콘 및 소정 상대방의 연락처를 검색하기 위한 전화번호부 아이콘 등이 디스플레이될 수 있다. 여기서, 메시지 아이콘이란, 문자 메시지(예컨대, SMS, LMS 및 MMS 등)를 전송하기 위한 문자 메시지 아이콘 및 인스턴트 메시지(Instant Message)를 전송하기 위한 인스턴트 메시지 아이콘 중 적어도 하나를 포함할 수 있다.
본 발명에 따른 이동 단말기(100)는 상기 열거된 아이콘들 중 어느 하나를 터치함으로써, 실행될 어플리케이션을 결정하고, 음성을 통해서는 실행될 어플리케이션에서 처리될 대상을 선정할 수 있도록 한다. 즉, 본 발명에 의하면, 'Call to Mom'과 같이 실행 하고자 하는 어플리케이션을 지칭하기 위한 단어(Call) 및 실행 하고자 하는 어플리케이션 상에서 처리될 대상을 선정하기 위한 단어(Mom)를 모두 말할 필요가 없다. 실행하고자 하는 어플리케이션은 사용자의 터치 입력에 의해 지시되므로, 사용자는 오로지 실행될 어플리케이션에서 처리될 대상을 선정하기 위한 단어(Mom)만을 말하는 것으로 족하다. 이에, 사용자의 음성 명령의 길이가 짧아져 음성 분석에 소요되는 시간이 단축될 수 있고, 음성 인식률도 향상 시킬 수 있는 효과가 있다.
이하, 포인터에 의해 터치되는 아이콘의 종류별로, 본 발명에 따른 이동 단말기(100)에 대해 상세히 설명하기로 한다.
도 5는 통화 아이콘이 터치되었을 경우의 이동 단말기의 동작을 설명하기 위한 흐름도이다. 통화 아이콘이 포인터에 의해 터치되고(S501), 통화 아이콘에 대한 터치가 소정 시간 이상 유지되면(S502), 제어부(180)는 마이크(122)를 활성화할 수 있다(S503). 만약, 통화 아이콘에 대한 터치가 소정 시간 이상 유지되지 않고(S502), 포인터가 곧바로 통화 아이콘으로부터 릴리즈 된다면, 제어부(180)는 통화 어플리케이션을 실행할 수 있을 것이다(S504).
제어부(180)는 통화 아이콘 위 포인터의 터치가 유지되는 동안에만 마이크(122)가 활성화 상태에 있도록 제어할 수 있다. 즉, 통화 아이콘 또는 메시지 아이콘에 대한 터치가 해제되거나, 통화 아이콘을 터치하던 포인터의 위치가 통화 아이콘을 벗어나는 경우, 제어부(180)는 마이크(122)를 비활성화 할 수 있다.
제어부(180)는 마이크(122)를 활성화 하면서, 사용자에게 마이크(122)가 활성화되었음을 알리고, 사용자가 음성을 통해 입력하여야 하는 필드 값을 지시하기 위한 팝업 창이 디스플레이되도록 제어할 수 있다.
일예로, 도 6은 디스플레이부를 통해 팝업 창이 디스플레이되는 예를 도시한 도면이다. 통화 아이콘(602)이 터치되고, 통화 아이콘(602)에 대한 터치가 소정 시간 이상 유지되면, 제어부(180)는 도 6의 (a)에 도시된 예에서와 같이, 음성을 통해 전화를 걸 상대방의 이름을 입력할 것을 안내하는 팝업 창(610)이 디스플레이되도록 제어할 수 있다. 일예로, 도 6의 (a)에 도시된 팝업 창(610)에는, 사용자가 음성을 통해 전화를 걸 상대방의 연락처가 입력되어야 함을 지시하고 있다.
제어부(180)는 사용자가 음성을 통해 입력하여야 함을 필드 값을 지시하는 팝업 창(610)과 함께, 향후 실행될 기능을 안내하는 인디케이터(620)가 디스플레이되도록 제어할 수도 있다. 일예로, 도 6의 (b)에 도시된 예에서와 같이, 제어부(180)는 사용자가 음성으로 입력하여야 하는 필드 값을 안내하는 팝업 창(610)과 함께, 향후 실행이 예상되는 어플리케이션을 안내하는 인디케이터(620)가 디스플레이되도록 제어할 수 있다. 도 6의 (b)에서는 통화 아이콘(602) 주변에 통화 아이콘(602)과 동일한 모양의 인디케이터(620)가 디스플레이되는 것으로 예시되었다. 이로써, 사용자는 음성을 통해 지정된 상대방에게 전화를 걸 수 있음을 예상 할 수 있을 것이다.
이에 더하여, 제어부(180)는 음성을 통해 전화를 걸 상대방의 이름을 입력할 수 있음을 안내하기 위해, 마이크(122)가 활성화 되었음을 알리는 인디케이터(630)가 디스플레이되도록 제어할 수도 있다. 일예로, 도 6의 (c)에서는, 포인터가 터치하고 있는 전화 아이콘(602) 위에 마이크(122)가 활성화 되었음을 알리는 마이크(122) 모양의 인디케이터(630)가 디스플레이되는 것으로 예시되었다.
통화 아이콘 위 포인터의 터치가 유지되는 동안 사용자 음성이 입력되면(S505), 제어부(180)는 사용자 음성을 분석하여, 전화를 걸 상대방을 결정할 수 있다(S506). 구체적으로, 전화번호부에 사용자 음성과 일치하는 인물이 등록되어 있다면, 제어부(180)는 해당 인물의 전화번호를 전화를 걸 상대방으로 결정할 수 있다. 다른 예로, 사용자 음성이 숫자만을 지시하는 경우, 제어부(180)는 사용자 음성을 텍스트로 변환한 결과물이 전화를 걸 전화번호인 것으로 결정할 수도 있다.
일예로, 도 7은 사용자 음성이 지시하는 인물이 전화를 걸 대상으로 결정되는 예를 도시한 도면이다. 통화 아이콘(710) 위 포인터(720)의 터치가 유지되는 동안, 도 7의 (a)에 도시된 예에서와 같이, 마이크(122)를 통해 'Jane'이라는 사용자 음성이 입력된 경우, 제어부(180)는 전화번호부에 'Jane'이라는 인물이 등록되어 있는지 여부를 확인할 수 있다. 전화번호부에 Jane이라는 인물이 등록되어 있다면, 제어부(180)는 도 7의 (b)에 도시된 예에서와 같이, 팝업 창(730)에 사용자의 음성을 텍스트로 변환한 결과물(즉, Jane) 또는 해당 인물의 정보(예컨대, 해당 인물의 이름, 전화 번호 또는 사진 등)가 디스플레이되도록 제어할 수 있다. 사용자는 팝업 창(710)에 표시되는 정보를 확인하여, 음성이 제대로 인식되었는지 여부를 확인할 수 있다.
만약, 사용자 음성과 일치하는 인물이 전화번호부에 등록되어 있지 않은 경우, 제어부(180)는 도 7의 (c)에 도시된 예에서와 같이, 팝업 창(730)을 통해 매칭되는 인물을 발견할 수 없었음을 안내하는 텍스트가 디스플레이되도록 제어할 수 있다.
통화 아이콘 위 포인터의 터치가 유지되는 동안, 사용자는 음성으로 복수 인물의 이름을 말할 수도 있다. 이 경우, 제어부(180)는 전화번호부로부터 사용자 음성이 지시하는 복수 인물 각각의 인물을 확인하고, 전화번호부에 등록되어 있는 것으로 확인되는 인물 모두를 전화를 걸 상대방으로 결정할 수도 있다.
사용자가 복수 인물의 이름을 연속적으로 말하는 경우, 제어부(180)는 사용자가 한명의 이름을 말하는 것인지 복수 인물의 이름을 말하고 있는 것인지를 명확히 구분해 내기 어렵다. 예컨대, 사용자가 'Jane Simpson' 이라고 말하였다면, 'Jane Simpson'이 한명의 인물을 지시하는 것인지, 'Jane' 및 'Simpson' 이란 두명의 인물을 지시하는 것인지가 불명료 할 수 있다. 이에, 본 발명에 따른 이동 단말기(100)는, 사용자의 음성 내 인물과 인물 사이를 구분하기 위해 기 설정된 단어가 포함되어 있는 경우, 기 설정된 단어를 경계로 복수의 인물 각각을 구분할 수 있다.
예컨대, 기 설정된 단어가 '및(and)'이고, 사용자 음성이 'Jane 및(and) Simpson'이라면, 제어부(180)는 기 설정된 단어 '및(and)'을 기준으로, 'Jane' 및 'Simpson'이란 단어를 분리하고, 전화번호부로부터 'Jane'이란 인물의 연락처 및 'Simpson'이란 인물의 연락처를 추출할 수 있다.
이후, 통화 아이콘 위 포인터의 터치가 해제되거나, 포인터에 의해 제 1 드래그 입력이 수신되면(S507), 제어부(180)는 전화를 걸기로 결정된 상대방에게 전화를 걸 수 있다(S508). 이와 달리, 포인터에 의해 제 2 드래그 입력이 수신되면(S507), 제어부(180)는 결정(즉, 음성 명령이 지시하는 인물을 전화를 걸 상대방으로 결정하는 것)을 취소하고, 상대방에게 전화를 걸지 않을 수 있다(S509).
여기서, 제 1 드래그 입력은 통화 아이콘으로부터 기 설정된 제 1 영역으로 포인터를 드래그 하는 것이거나, 포인터를 제 1 방향으로 이동하는 것일 수 있고, 제 2 드래그 입력은 통화 아이콘으로부터 기 설정된 제 2 영역으로 포인터를 드래그 하는 것이거나, 포인터를 제 2 방향으로 이동 하는 것 일 수 있다.
일예로, 도 8a 및 도 8b는 포인터가 통화 아이콘으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
전화를 걸기로 한 상대방이 결정된 상태에서, 도 8a의 (a)에 도시된 예에서와 같이, 포인터(820)가 통화 아이콘(810)으로부터 접촉 해제 되거나, 도 8a의 (b)에 도시된 예에서와 같이, 제 1 드래그 입력(예컨대, 포인터(820)를 제 1 방향으로 드래그)이 수신되면, 제어부(180)는 도 8a의 (c)에 도시된 예에서와 같이, 전화를 걸기로 한 상대방에게 전화를 걸 수 있다.
이와 달리, 전화를 걸기로 한 상대방이 결정된 상태에서, 도 8b의 (a)에 도시된 예에서와 같이, 제 2 드래그 입력(예컨대, 포인터(820)를 제 2 방향으로 드래그)이 수신되면, 제어부(180)는 도 8b의 (b)에 도시된 예에서와 같이, 전화를 걸기로 한 상대방에게 전화를 걸지 않고, 마이크(122)를 비활성화 할 수 있다.
즉, 사용자는 전화를 걸 상대방이 제대로 결정되었다고 판단되는 경우에는, 터치스크린으로부터 포인터(820)의 접촉을 해제하거나, 제 1 드래그 입력을 입력함으로써, 결정된 상대방에게 전화를 걸 수 있다. 이와 달리, 음성 인식 오류로 인해 전화를 걸 상대방이 제대로 결정되지 않았다고 판단되는 경우라면, 사용자는 제 2 드래그 입력을 입력함으로써, 잘못 결정된 상대방에게 전화가 걸리지 않도록 할 수 있다.
만약, 복수의 인물이 전화를 걸 상대방으로 결정되어 있는 상태에서 포인터의 접촉이 해제되거나 제 1 드래그 입력이 수신된 경우라면, 제어부(180)는 복수의 상대방을 대상으로 다자간 통화(또는 컨퍼런스 콜(Conference Call)를 시도할 수도 있다.
도 8a 및 도 8b에서는 제 1 드래그 입력은 포인터(820)를 제 1 방향으로 드래그 이동 하는 것이고, 제 2 드래그 입력은 포인터(820)를 제 2 방향으로 드래그 이동하는 것으로 예시하였다. 아울러, 제 1 방향은 위쪽 방향이고, 제 2 방향은 오른쪽 방향인 것으로 예시하였다. 다만, 제 1 방향 및 제 2 방향은 도 8a 및 도 8b에 한정되는 것은 아니며, 도시된 것과 다르게 제 1 방향 및 제 2 방향이 설정될 수도 있다.
아울러, 앞서, 설명한 바와 같이, 제 1 드래그 입력은 기 설정된 제 1 영역으로 포인터를 이동 시키는 것이고, 제 2 드래그 입력은 기 설정된 제 2 영역으로 포인터를 이동 시키는 것일 수도 있다. 일예로, 제 1 영역이 도 6의 (b)에 도시된 통화 인디케이터(620)의 표시 영역이고, 제 2 영역이 그 외의 영역이라면, 제 1 드래그 입력은 포인터를 통화 아이콘으로부터 전화 인디케이터로 포인터를 드래그 하는 것이고, 제 2 드래그 입력은 전화 아이콘으로부터 전화 인디케이터 바깥 영역으로 포인터를 드래그 하는 것일 수 있다.
도시되지는 않았지만, 전화를 걸기로 한 상대방이 결정되지 않은 상태에서, 포인터가 터치스크린으로부터 접촉 해제 되거나, 포인터가 통화 아이콘을 벗어난 경우, 제어부(180)는 사용자가 전화를 걸 의사가 없는 것으로 판단하고, 마이크(122)를 비활성화 할 수도 있다.
도 9는 전화번호부 아이콘이 터치되었을 경우의 이동 단말기의 동작을 설명하기 위한 흐름도이다. 전화번호부 아이콘이 포인터에 의해 터치되고(S901), 전화번호부 아이콘에 대한 터치가 소정 시간 이상 유지되면(S902), 제어부(180)는 마이크(122)를 활성화 할 수 있다(S903). 만약, 전화번호부 아이콘에 대한 터치가 소정 시간 이상 유지되지 않고(S902), 포인터가 곧바로 전화번호부 아이콘으로부터 릴리즈 된다면, 제어부(180)는 전화번호부 어플리케이션을 실행할 수 있을 것이다(S904).
제어부(180)는 전화번호부 아이콘에 대해 터치가 유지되는 동안에만 마이크(122)가 활성화 상태에 있도록 제어할 수 있다.
제어부(180)는 마이크(122)를 활성화 하면서 사용자에게 마이크(122)가 활성화 되었음을 알리고, 사용자가 음성을 통해 입력하여야 하는 필드 값을 지시하기 위한 팝업 창이 디스플레이되도록 제어할 수 있다.
일예로, 도 10은 디스플레이부를 통해 팝업 창이 디스플레이되는 예를 도시한 도면이다. 전화번호부 아이콘(1002)이 터치되고, 전화번호부 아이콘(1002)에 대한 터치가 소정 시간 이상 유지되면, 제어부(180)는 도 10의 (a)에 도시된 예에서와 같이, 사용자가 음성으로 입력하여야 할 필드 값을 안내하기 위한 팝업 창(1010)이 디스플레이되도록 제어할 수 있다. 도 10의 (a)에 도시된 팝업 창(1010)에서는 사용자가 음성을 통해 입력하여야 하는 필드 값이 소정 상대방의 이름임을 지시하고 있다.
제어부(180)는 사용자가 음성을 통해 입력하여야 함을 필드 값을 지시하는 팝업 창(1010)과 함께, 향후 실행될 기능을 안내하는 인디케이터가 디스플레이되도록 제어할 수도 있다. 일예로, 도 10의 (b)에 도시된 예에서와 같이, 제어부(180)는 사용자가 음성으로 입력하여야 하는 필드 값을 안내하는 팝업 창(1010)과 함께, 향후 실행이 예상되는 기능(즉, 연락처 디스플레이)을 안내하는 인디케이터가 디스플레이되도록 제어할 수 있다. 도 10의 (b)에서는 전화번호부 아이콘(1002) 주변에 통화 아이콘(1002)과 동일한 모양의 인디케이터(1020)가 디스플레이되는 것으로 예시되었다. 이로써, 사용자는 음성을 통해 지정된 상대방의 연락처가 디스플레이될 수 있음을 예상할 수 있을 것이다.
이에 더하여, 제어부(180)는 음성을 통해 전화를 걸 상대방의 이름을 입력할 수 있는 상태임을 안내하기 위해, 마이크(122)가 활성화 되었음을 알리는 인디케이터가 디스플레이되도록 제어할 수도 있다. 일예로, 도 10의 (c)에서는, 포인터가 터치하고 있는 전화번호부 아이콘(1002) 위에 마이크(122)가 활성화 되었음을 알리는 마이크(122) 모양의 인디케이터가 디스플레이되는 것으로 예시되었다.
전화번호부 아이콘 위 포인터의 터치가 유지되는 동안 사용자 음성이 입력되면(S905), 제어부(180)는 사용자 음성을 분석하여, 전화번호부에서 검색할 상대방을 결정할 수 있다(S906). 구체적으로, 제어부(180)는 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있는 경우, 사용자 음성이 지시하는 인물을 검색할 상대방으로 결정할 수 있다.
일예로, 도 11은 사용자 음성이 지시하는 인물이 검색 대상으로 결정되는 예를 설명하기 위한 도면이다. 전화번호부 아이콘(1110) 위 포인터(1120)의 터치가 유지되는 동안 도 11의 (a)에 도시된 예에서와 같이, 'Jane'이라는 사용자 음성이 입력된 경우, 제어부(180)는 전화번호부에 'Jane'이라는 인물이 등록되어 있는지 여부를 확인할 수 있다. 전화번호부에 'Jane'이라는 인물이 등록되어 있다면, 제어부(180)는 도 11의 (b)에 도시된 예에서와 같이, 팝업 창(1130)에 사용자의 음성을 텍스트로 변환한 결과물(즉, Jane) 또는 해당 인물의 정보(예컨대, 해당 인물의 이름, 전화 번호 또는 사진 등)가 디스플레이되도록 제어할 수 있다. 사용자는 팝업 창(1130)에 표시되는 정보를 확인하여, 음성이 제대로 인식되었는지 여부를 확인할 수 있다.
만약 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있지 않다면, 제어부(180)는 도 11의 (c)에 도시된 예에서와 같이, 팝업 창(1130)을 통해 매칭되는 인물을 발견할 수 없었음을 안내하는 텍스트가 디스플레이되도록 제어할 수 있다.
전화 번호부 아이콘 위 포인터의 터치가 유지되는 동안 사용자가 음성으로 복수 인물의 이름을 말할 수 있음은 앞서, 통화 아이콘 위 포인터의 터치가 유지되는 경우의 실시예를 통해 설명한 바와 같다.
이후, 전화번호부 아이콘 위 포인터의 터치가 해제되거나, 포인터에 의해 제 1 드래그 입력이 입력되면(S907), 제어부(180)는 검색 대상으로 결정된 상대방의 연락처 정보가 디스플레이되도록 제어할 수 있다(S908). 이와 달리, 포인터에 의해 제 2 드래그 입력이 입력되는 경우(S907), 제어부(180)는 결정(즉, 음성 명령이 지시하는 인물을 검색 대상으로 결정한 것)을 취소하고, 상대방의 연락처 정보를 디스플레이하지 않을 수 있다(S909).
제 1 드래그 입력 및 제 2 드래그 입력에 대한 설명은 앞서 통화 아이콘이 터치되는 경우의 실시예에서 상세히 설명한 바 있으므로, 이에 대한 설명은 생략하기로 한다.
일예로, 도 12a 및 도 12b는 포인터가 전화번호부 아이콘으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
전화번호부를 통해 검색하고자 하는 상대방이 결정된 상태에서, 도 12a의 (a)에 도시된 예에서와 같이, 포인터(1220)가 전화번호부 아이콘(1210)으로부터 접촉 해제되거나, 도 12a의 (b)에 도시된 예에서와 같이, 제 1 드래그 입력(예컨대, 포인터(1220)를 제 1 방향으로 드래그)이 수신되면, 제어부(180)는 도 12a의 (c)에 도시된 예에서와 같이, 디스플레이부(151)를 통해 검색하고자 하는 상대방의 연락처 정보를 포함하는 팝업 창(1230)이 디스플레이되도록 제어할 수 있다. 여기서, 연락처 정보는 전화번호부에 등록된 상대방의 이름, 전화번호 및 이메일 주소 등을 포함할 수 있다.
제어부(180)는 도 12a의 (c)에 도시된 예에서와 같이, 상대방의 전화번호로 전화를 걸기 위한 통화 버튼(1242), 상대방의 전화번호로 메시지를 전송하기 위한 메시지 버튼(1244) 및 상대방의 이메일 주소로 이메일을 전송하기 위한 이메일 버튼(1246) 등이 더 디스플레이되도록 제어할 수도 있다. 이때, 디스플레이될 수 있는 버튼의 종류는 전화번호부에 상대방의 전화번호 및 이메일 주소가 등록되어 있는지 여부에 따라 조절될 수 있다. 일예로, 상대방의 전화번호가 전화번호부에 등록되어 있지 않다면, 통화 버튼(1242) 및 메시지 버튼(1244)의 표시는 생략될 수 있을 것이고, 상대방의 이메일 주소가 등록되어 있지 않다면, 이메일 버튼(1246)의 표시는 생략될 수 있을 것이다.
도시되지는 않았지만, 통화 버튼(1242)이 터치되는 경우라면 상대방의 전화번호로 전화를 걸 수 있을 것이고, 메시지 버튼(1244)이 터치되는 경우라면, 상대방의 전화번호로 전송할 메시지를 작성하기 위한 작성 화면이 디스플레이될 수 있을 것이며, 이메일 버튼(1246)이 터치되는 경우라면, 상대방의 이메일 주소로 전송할 이메일을 작성하기 위한 작성 화면이 디스플레이될 수 있을 것이다.
도 12a의 (c)에서는 통화 버튼(1242), 메시지 버튼(1244) 및 이메일 버튼(1246)이 팝업 창(1230) 안쪽에 위치하는 것으로 예시되었지만, 이들의 위치가 이에 한정되는 것은 아니라 할 것이다.
전화번호부를 통해 검색하고자 하는 상대방이 결정된 상태에서, 도 12b의 (a)에 도시된 예에서와 같이, 제 2 드래그 입력(예컨대, 포인터(1220)를 제 2 방향으로 드래그)이 수신되면, 제어부(180)는 도 12b의 (b)에 도시된 예에서와 같이, 전화번호부를 통해 검색하고자 하는 상대방의 연락처 정보를 디스플레이하지 않고, 마이크(122)를 비활성화 할 수 있다.
즉, 사용자는 전화번호부를 통해 검색하고자 하는 상대방이 제대로 결정되었다고 판단되는 경우에는, 터치스크린으로부터 포인터의 접촉을 해제하거나, 제 1 드래그 입력을 입력함으로써, 결정된 상대방의 연락처 정보가 디스플레이 되도록 제어할 수 있다. 이와 달리, 음성 인식 오류로 인해 전화를 걸 상대방이 제대로 결정되지 않았다고 판단되는 경우라면, 사용자는 제 2 드래그 입력을 입력함으로써, 잘못 결정된 상대방의 연락처 정보가 디스플레이되지 않도록 할 수 있다.
만약, 복수의 인물이 전화번호부를 통해 검색하고자 하는 상대방으로 결정되어 있는 상태에서 포인터의 접촉이 해제되거나 제 1 드래그 입력이 수신된 경우라면, 제어부(180)는 복수의 상대방 각각에 대한 연락처 정보가 디스플레이부(151)를 통해 출력되도록 제어할 수 있을 것이다.
도시되지는 않았지만, 전화번호부로부터 검색하고자 하는 상대방이 결정되지 않은 상태에서, 포인터가 터치스크린으로부터 접촉 해제 되거나, 포인터가 전화번호부 아이콘을 벗어난 경우, 제어부(180)는 사용자가 전화번호부로부터 임의 인물의 연락처 정보를 검색할 의사가 없는 것으로 판단하고, 마이크(122)를 비활성화 할 수도 있다.
도 9에서는, 전화번호부 위 포인터의 터치가 해제되거나, 포인터에 의해 제 1 드래그 입력이 입력되는 경우에(S907), 비로소, 검색 대상으로 결정된 상대방의 연락처 정보가 디스플레이되는 것으로 예시되었다(S908). 이와 달리, 본 발명에 따른 이동 단말기(100)는, 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있는 것이 확인됨과 동시에 연락처 정보가 디스플레이되도록 제어할 수도 있다. 연락처 정보와 함께, 통화 버튼, 메시지 버튼 및 이메일 버튼 등도 디스플레이될 수 있음은 앞서 도 12a의 (c)를 통해 설명한 바와 같다 할 것이다.
이때, 제어부(180)는 포인터가 드래그되는 위치에 따라, 검색된 상대방과 통신하기 위한 수단을 결정할 수 있다. 이에 대한 상세한 설명은 도 13a 내지 도 13d를 참조하기로 한다.
도 13a 내지 도 13d는 포인터가 드래그 이동하는 위치별 이동 단말기의 동작을 예시한 도면이다. 도 13a의 (a)에 도시된 예에서와 같이, 포인터(1320)가 전화번호부 아이콘(1310)으로부터 통화 버튼(1342)으로 드래그 이동하면, 제어부(180)는 도 13a의 (b)에 도시된 예에서와 같이, 상대방의 전화번호로 전화를 걸 수 있다.
이와 달리, 도 13b의 (a)에 도시된 예에서와 같이, 포인터(1320)가 전화번호부 아이콘(1310)으로부터 메시지 버튼(1344)으로 이동하면, 제어부(180)는 도 13b의 (b)에 도시된 예에서와 같이, 상대방에게 전송할 메시지를 작성하기 위한 메시지 작성 화면이 디스플레이되도록 제어할 수 있다.
다른 예로, 도 13c의 (a)에 도시된 예에서와 같이, 포인터(1320)가 전화번호부 아이콘(1310)으로부터 이메일 버튼(1346)으로 드래그 이동하면, 제어부(180)는 도 13b의 (c)에 도시된 예에서와 같이, 상대방에게 전송할 이메일을 작성하기 위한 이메일 작성 화면이 디스플레이되도록 제어할 수 있다.
또 다른 예로, 도 13d의 (a)에 도시된 예에서와 같이, 포인터(1320)가 전화번호부 아이콘(1310)으로부터 연락처 정보를 포함하는 팝업 창(1330)으로 드래그 이동하면, 제어부(180)는 도 13d의 (b)에 도시된 예에서와 같이, 상대방의 상세 연락처 정보가 디스플레이되도록 제어할 수 있다.
도시되지는 않았지만, 포인터(1320)가 버튼들(1342,1344,1346) 및 팝업 창(1330) 등의 오브젝트가 표시되는 영역 이외의 영역으로 드래그 이동한다면, 사용자 음성이 오인식된 것으로 판단하여, 버튼들(1342,1344,1346) 및 팝업 창(1330)의 표시를 중단하고, 마이크(122)를 비활성화할 수 있을 것이다.
다음으로 메시지 아이콘이 터치되었을 경우의 이동 단말기(100)의 동작을 상세히 설명하기로 한다.
도 14는 메시지 아이콘이 터치되었을 경우의 이동 단말기의 동작을 설명하기 위한 흐름도이다. 후술되는 예에서 설명하는, 메시지 아이콘은 특정 전화번호로 문자 메시지를 전송하기 위한 문자 메시지 아이콘일 수도 있고, 특정 대화명(또는 아이디)로 인스턴트 메시지를 전송하기 위한 인스턴트 메시지 아이콘일 수도 있다.
메시지 아이콘이 포인터에 의해 터치되고(S1401), 메시지 아이콘에 대한 터치가 소정 시간 이상 유지되면(S1402), 제어부(180)는 마이크(122)를 활성화 할 수 있다(S1403). 메시지 아이콘에 대한 터치가 소정 시간 이상 유지되지 않고(S1402), 포인터가 곧바로 메시지 아이콘으로부터 릴리즈 된다면, 제어부(180)는 메시지 어플리케이션을 실행할 수 있을 것이다(S1404).
제어부(180)는 메시지 아이콘에 대해 터치가 유지되는 동안에만 마이크(122)가 활성화 상태에 있도록 제어할 수 있다.
제어부(180)는 마이크(122)를 활성화 하면서, 사용자에게 마이크(122)가 활성화 되었음을 알리고, 사용자가 음성을 통해 입력하여야 하는 필드 값을 지시하기 위한 팝업 창이 디스플레이되도록 제어할 수 있다.
일예로, 도 15는 디스플레이부를 통해 팝업 창이 디스플레이되는 예를 도시한 도면이다. 메시지 아이콘(1502)이 터치되고, 메시지 아이콘(1502)에 대한 터치가 소정 시간 이상 유지되면, 제어부(180)는 도 15의 (a)에 도시된 예에서와 같이, 사용자가 음성으로 입력하여야 할 필드 값을 안내하기 위한 팝업 창(1510)이 디스플레이되도록 제어할 수 있다. 도 15의 (a)에 도시된 팝업 창(1510)에서는 사용자가 음성을 통해 입력하여야 하는 필드 값이 소정 상대방의 연락처임을 지시하고 있다.
제어부(180)는 사용자가 음성을 통해 입력하여야 함을 필드 값을 지시하는 팝업 창(1510)과 함께, 향후 실행될 기능을 안내하는 인디케이터(1520)가 디스플레이되도록 제어할 수도 있다. 일예로, 도 15의 (b)에 도시된 예에서와 같이, 제어부(180)는 사용자가 음성으로 입력하여야 하는 필드 값을 안내하는 팝업 창(1510)과 함께, 향후 실행이 예상되는 기능(즉, 메시지 전송)을 안내하는 인디케이터(1520)가 디스플레이되도록 제어할 수 있다. 도 15의 (b)에서는 전화번호부 아이콘(1502) 주변에 통화 아이콘(1502)과 동일한 모양의 인디케이터(1520)가 디스플레이되는 것으로 예시되었다. 이로써, 사용자는 음성을 통해 지정된 상대방에게 메시지를 전송할 수 있음을 예상할 수 있을 것이다.
이에 더하여, 제어부(180)는 음성을 통해 전화를 걸 상대방의 연락처를 입력할 수 있는 상태임을 안내하기 위해, 마이크(122)가 활성화 되었음을 알리는 인디케이터(1530)가 디스플레이되도록 제어할 수도 있다. 일예로, 도 15의 (c)에서는, 포인터가 터치하고 있는 메시지 아이콘(1502) 위에 마이크(122)가 활성화 되었음을 알리는 마이크(122) 모양의 인디케이터(1530)가 디스플레이되는 것으로 예시되었다.
메시지 아이콘 위 포인터의 터치가 유지되는 동안 사용자 음성이 입력되면(S1405), 제어부(180)는 사용자 음성을 분석하여, 메시지를 보낼 상대방을 결정할 수 있다(S1406). 구체적으로, 전화번호를 매개로 전송되는 문자 메시지를 송신하고자 하는 경우(즉, 문자 메시지 아이콘이 터치된 경우)라면, 전화번호부에 사용자 음성과 일치하는 인물이 등록되어 있는지 여부를 확인하여 메시지를 보낼 상대방을 결정할 수 있을 것이고, 메신저 서버에 등록된 대화명(또는 ID)를 매개로 전송되는 인스턴트 메시지를 송신하고자 하는 경우(즉, 인스턴트 메시지 아이콘이 터치된 경우)라면, 사용자 음성이 지시하는 인물이 사용자의 대화 목록에 등록되어 있는지 여부를 확인하여 메시지를 보낼 상대방을 결정할 수 있을 것이다. 여기서, 사용자의 대화 목록은 무선 통신부(110)를 통해 메신저 서버로부터 수신될 수 있을 것이다.
다른 예로, 사용자 음성이 숫자만을 지시하는 경우, 제어부(180)는 사용자 음성을 텍스트로 변환한 결과물이 메시지를 전송할 전화번호인 것으로 결정할 수도 있다.
일예로, 도 16은 사용자 음성이 지시하는 인물이 메시지를 보낼 대상으로 결정되는 예를 설명하기 위한 도면이다. 메시지 아이콘(1610) 위 포인터(1620)의 터치가 유지되는 동안 도 16의 (a)에 도시된 예에서와 같이, 'Jane'이라는 사용자 음성이 입력된 경우, 제어부(180)는 전화번호부 또는 메신저 서버에 'Jane'이라는 인물이 등록되어 있는지 여부를 확인할 수 있다. 전화번호부 또는 메신저 서버 'Jane'이라는 인물이 등록되어 있다면, 제어부(180)는 도 16의 (b)에 도시된 예에서와 같이, 팝업 창(1630)에 사용자의 음성을 텍스트로 변환한 결과물(즉, Jane) 또는 해당 인물의 정보(예컨대, 해당 인물의 이름, 대화명, ID, 전화 번호 또는 사진 등)가 디스플레이되도록 제어할 수 있다. 사용자는 팝업 창(1630)에 표시되는 정보를 확인하여, 음성이 제대로 인식되었는지 여부를 확인할 수 있다.
만약 사용자 음성이 지시하는 인물이 전화번호부나 메신저 서버에 등록되어 있지 않다면, 제어부(180)는 도 16의 (c)에 도시된 예에서와 같이, 팝업 창(1630)을 통해 매칭되는 인물을 발견할 수 없었음을 안내하는 텍스트가 디스플레이되도록 제어할 수 있다.
메신저 아이콘 위 포인터의 터치가 유지되는 동안 사용자가 음성으로 복수 인물의 이름을 말할 수 있음은 앞서, 통화 아이콘 위 포인터의 터치가 유지되는 경우의 실시예를 통해 설명한 바와 같다.
이후, 메신저 아이콘 위 포인터의 터치가 해제되거나, 포인터에 의해 제 1 드래그 입력이 입력되면(S1407), 제어부(180)는 메시지를 보내기로 결정된 상대방에게 전송할 메시지를 작성하기 위한 메시지를 작성하기 위한 작업 창이 디스플레이되도록 제어할 수 있다(S1408). 이와 달리, 포인터에 의해 제 2 드래그 입력이 입력되는 경우(S1407), 제어부(180)는 상대방에게 메시지를 전송하는 것을 취소할 수 있다(S1409).
제 1 드래그 입력 및 제 2 드래그 입력에 대한 설명은 앞서 통화 아이콘이 터치되는 경우의 실시예에서 상세히 설명한 바 있으므로, 이에 대한 설명은 생략하기로 한다.
일예로, 도 17a 및 도 17b는 포인터가 메시지 아이콘으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
메시지를 전송할 상대방이 결정된 상태에서, 포인터(1720)가 메시지 아이콘(1710)으로부터 접촉 해제되거나, 도 17a의 (a)에 도시된 예에서와 같이, 제 1 드래그 입력(예컨대, 포인터(1720)를 제 1 방향으로 드래그)이 수신되면, 제어부(180)는 도 17a의 (b)에 도시된 예에서와 같이, 상대방에게 전송할 메시지를 작성하기 위한 작업 창(1730)이 디스플레이되도록 제어할 수 있다.
메시지를 전송할 상대방이 결정된 상태에서, 도 17b의 (a)에 도시된 예에서와 같이, 제 2 드래그 입력(예컨대, 포인터(1720)를 제 2 방향으로 드래그)이 수신되면, 제어부(180)는 도 17b의 (b)에 도시된 예에서와 같이, 작업 창(1730)의 표시를 생략한 채, 마이크(122)를 비활성화 할 수 있다.
즉, 사용자는 메시지를 전송할 상대방이 제대로 결정되었다고 판단되는 경우에는, 터치스크린으로부터 포인터(1720)의 접촉을 해제하거나, 제 1 드래그 입력을 입력함으로써, 결정된 상대방에게 전송할 메시지를 입력하기 위한 작업 창(1730)이 디스플레이 되도록 제어할 수 있다. 이와 달리, 음성 인식 오류로 인해 메시지를 전송할 상대방이 제대로 결정되지 않았다고 판단되는 경우라면, 사용자는 제 2 드래그 입력을 입력함으로써, 잘못 결정된 상대방에게 메시지가 전송되지 않도록 제어할 수 있다.
만약, 복수의 인물이 메시지를 전송할 상대방으로 결정되어 있는 상태에서 포인터(1720)의 접촉이 해제되거나 제 1 드래그 입력이 수신된 경우라면, 제어부(180)는 복수의 상대방이 수신인으로 지정한채, 복수의 상대방에게 전송할 메시지를 작성하기 위한 작업 창이 디스플레이되도록 제어할 수 있을 것이다.
도시되지는 않았지만, 문자 메시지를 전송하고자 하는 상대방이 결정되지 않은 상태에서, 포인터가 터치스크린으로부터 접촉 해제 되거나, 포인터가 메시지 아이콘을 벗어난 경우, 제어부(180)는 사용자가 임의 상대방에게 메시지를 전송할 의사가 없는 것으로 판단하고, 마이크(122)를 비활성화 할 수도 있다.
도 17a의 (b)를 참조하면, 작업 창(1730)에는 사용자가 입력한 텍스트를 표시하기 위한 에디팅 영역(1732) 및 마이크(122)를 활성화 하기 위한 마이크(122) 버튼(1734)이 포함될 수 있다. 마이크(122) 버튼이 터치되면(S1410), 제어부(180)는 마이크(122) 버튼이 터치되는 동안 입력되는 사용자 음성을 텍스트로 변환하고(즉, STT(Speech to Text) 변환), 변환된 텍스트를 에디팅 영역에 표시할 수 있다(S1411). 즉, 마이크(122) 버튼이 터치되면, 사용자는 음성을 통해 상대방에게 전송할 메시지 내용을 입력할 수 있다.
이후, 마이크(122) 버튼 위 포인터의 터치가 해제되거나 포인터에 의해 제 1 드래그 입력이 입력되면(S1412), 제어부(180)는 상대방에게 그 동안 입력되었던 텍스트를 포함하는 메시지를 전송할 수 있다(S1413). 이와 달리, 포인터에 의해 제 2 드래그 입력이 입력되는 경우, 제어부(180)는 메시지 작성을 취소할 수 있다(S1414).
일예로, 도 18a 및 도 18b는 포인터가 마이크 버튼으로부터 벗어난 경우 이동 단말기의 동작을 설명하기 위해 예시한 도면이다.
상대방에게 전송할 메시지가 입력된 상태에서, 도 18의 (a)에 도시된 예에서와 같이, 포인터(1820)가 마이크(122) 버튼(1810)으로부터 접촉 해제 되거나, 도 18a의 (b)에 도시된 예에서와 같이, 제 1 드래그 입력(예컨대, 포인터(1820)를 제 1 방향으로 드래그)이 수신되면, 제어부(180)는 도 18a의 (c)에 도시된 예에서와 같이, 상대방에게 메시지가 전송되도록 제어할 수 있다.
이와 달리, 상대방에게 전송할 메시지가 입력된 상태에서, 도 18b의 (a)에 도시된 예에서와 같이, 제 2 드래그 입력(예컨대, 포인터(1820)를 제 2 방향으로 드래그)이 수신되면, 제어부(180)는 도 18b의 (b)에 도시된 예에서와 같이, 음성을 통해 입력된 텍스트가 삭제되도록 제어할 수 있다.
즉, 사용자가 의도한 텍스트가 에디팅 영역에 표시되어 있다면, 사용자는 터치스크린으로부터 포인터의 접촉을 해제하거나, 제 1 드래그 입력을 입력함으로써, 상대방에게 메시지를 전송할 수 있다. 이와 달리, 음성 인식 오류로 인해 사용자가 의도한 바와 다른 텍스트가 에디팅 영역에 표시되어 있다면, 사용자는 제 2 드래그 입력을 입력함으로써, 에디팅 영역에 표시된 텍스트를 삭제하고, 상대방에게 메시지를 전송하는 것을 보류할 수 있다.
도 14에서는 작업 창의 마이크(122) 버튼이 터치되어야만(S1410), 마이크(122)를 통해 입력되는 음성이 텍스트로 변환될 수 있는 것으로 예시되었다(S1411). 다른 예로, 제어부(180)는 작업 창을 디스플레이하기 위해 메시지 아이콘으로부터 벗어난 포인터가 메시지 아이콘을 재터치하는 경우에, 마이크(122)를 통해 입력되는 음성이 텍스트로 변환되도록 제어할 수도 있다. 즉, 별도의 마이크(122) 버튼이 디스플레이되지 않더라도, 메시지 아이콘을 터치하는 것에 의해 마이크(122)의 활성화 여부가 조절될 수 있다고 하겠다.
도시되지는 않았지만, 상대방에게 전송할 메시지는 음성이 아닌 (물리 또는 가상) 키패드(Keypad)에 의해 작성될 수도 있음은 물론이다.
도 14에서는 사용자 음성을 텍스트로 변환한 뒤, 변환된 텍스트를 포함하는 메시지가 상대방에게 전송되는 것으로 예시되었다. 사용자 음성을 텍스트로 변환하는 대신, 제어부(180)는 사용자 음성을 녹음한 뒤, 녹음된 음악 파일이 첨부된 메시지가 상대방에게 전송되도록 제어할 수도 있다.
도 14를 통해 설명한 실시예는 이메일 아이콘의 경우에도 그대로 적용될 수 있다. 즉, 제어부(180)는, 이메일 아이콘에 포인터의 터치가 유지되는 동안 입력되는 사용자 음성이 지시하는 인물을 이메일을 전송할 상대방으로 결정하고, 포인터가 이메일 아이콘으로부터 벗어나게 되면 결정된 상대방에게 이메일을 작성하기 위한 작업 창이 디스플레이되도록 제어할 수 있다. 아울러, 제어부(180)는 작업 창의 마이크(122) 버튼(또는 이메일 아이콘)이 포인터에 의해 터치되는 동안 입력되는 음성을 텍스트로 변환하고, 포인터가 마이크(122) 버튼(또는 이메일 아이콘)으로부터 벗어나는 경우, 상대방에게 변환된 텍스트를 포함하는 이메일을 전송할 수 있다.
도 5, 도 9 및 도 14를 통해 설명한 바와 같이, 본 발명에 따른 이동 단말기(100)는 사용자의 터치 입력을 통해 실행될 어플리케이션을 결정하고, 음성을 통해 어플리케이션 상에서 처리될 대상이 결정되도록 제어할 수 있다.
도 5, 도 9 및 도 14는 각각 통화 어플리케이션, 전화번호부 어플리케이션 및 메시지 어플리케이션 등을 예로 들어 설명하였으나, 본 발명에 따른 이동 단말기(100)는 열거된 어플리케이션 이외의 어플리케이션에도 적용될 수 있다.
일예로, 도 19는 인터넷 아이콘이 터치된 경우 이동 단말기의 동작을 예시한 도면이다. 여기서, 인터넷 아이콘(1902)이란 웹 브라우저를 실행하기 위한 아이콘(1902)을 의미하는 것일 수 있다. 인터넷 아이콘(1902)이 포인터(1920)에 의해 소정 시간 이상 터치되면, 제어부(180)는 도 19의 (a)에 도시된 예에서와 같이, 사용자가 음성으로 입력해야 하는 필드 값을 안내하는 팝업 창(1910)이 디스플레이되도록 제어할 수 있다. 도 19의 (a)에서는 사용자가 입력하여야 하는 필드 값이 웹에 적용될 검색어인 것으로 예시되었다. 제어부(180)는, 포인터(1920)가 인터넷 아이콘(1902)을 터치하는 동안 입력된 음성을 STT 변환하고, 변환된 텍스트를 검색 엔진(예컨대, Google, Bing, Yahoo, Naver 등과 같이 키워드에 대한 검색 결과를 제공하는 포털 사이트)을 이용하여 검색할 대상으로 설정할 수 있다. 도 19의 (b)에서는 '한국' 이란 단어가 검색어로 설정된 것으로 예시되었다. 이후, 인터넷 아이콘(1902)에 대한 터치가 해제되거나, 제 1 드래그 입력이 수신되면, 제어부(180)는 도 19의 (c)에 도시된 예에서와 같이, 검색 엔진을 통한 검색어의 검색 결과가 디스플레이되도록 제어할 수 있다.
도시되지는 않았지만, 제 2 드래그 입력이 수신되는 경우라면, 제어부(180)는 별도의 검색 과정 없이 마이크(122)를 비활성화할 수 있을 것이다.
도 20은 알람 아이콘이 터치된 경우 이동 단말기의 동작을 예시한 도면이다. 여기서, 알람 아이콘(2002)이란 현재 시간이 알람으로 설정된 시간에 다다르면 알람음(또는 진동)을 출력하는 알람 어플리케이션을 실행하기 위한 아이콘(2002)을 의미하는 것일 수 있다. 알람 아이콘(2002)이 포인터(2020)에 의해 소정 시간 이상 터치되면, 제어부(180)는 도 20의 (a)에 도시된 예에서와 같이, 사용자가 음성으로 입력해야 하는 필드 값을 안내하는 팝업 창(2010)이 디스플레이되도록 제어할 수 있다. 도 20의 (a)에서는 사용자가 입력하여야 하는 필드 값이 알람으로 설정하고자 하는 시간인 것으로 예시되었다. 제어부(180)는, 포인터(2020)가 알람 아이콘(2002)을 터치하는 동안 입력된 음성을 STT 변환하고, 변환된 텍스트를 알람 설정 시간으로 결정할 수 있다. 도 20의 (b)에서는 오후 8시가 알람 시간으로 설정된 것으로 예시되었다. 이후, 알람 아이콘(2002)에 대한 터치가 해제되거나, 제 1 드래그 입력이 수신되면, 제어부(180)는 도 20의 (c)에 도시된 예에서와 같이, 설정된 시간에 맞춰 새로운 알람을 추가할 수 있다.
도시되지는 않았지만, 제 2 드래그 입력이 수신되는 경우라면, 제어부(180)는 알람을 추가하지 않고 마이크(122)를 비활성화할 수 있을 것이다.
도 21은 음악 아이콘이 터치된 경우 이동 단말기의 동작을 예시한 도면이다. 여기서, 음악 아이콘(2102)이란 음악 파일을 재생할 수 있는 음악 어플리케이션을 실행하기 위한 아이콘(2102)을 의미하는 것일 수 있다. 음악 아이콘(2102)이 포인터(2120)에 의해 소정 시간 이상 터치되면, 제어부(180)는 도 21의 (a)에 도시된 예에서와 같이, 사용자가 음성으로 입력해야 하는 필드 값을 안내하는 팝업 창(2110)이 디스플레이되도록 제어할 수 있다. 도 21의 (a)에서는 사용자가 입력하여야 하는 필드 값이 노래 제목 또는 가수 이름 것으로 예시되었다. 포인터(2120)가 음악 아이콘(2102)을 터치하는 동안 입력된 음성이 지시하는 음악 파일이 메모리(160)에 저장되어 있다면, 제어부(180)는 해당 음악 파일을 재생 대상으로 결정할 수 있다. 도 20의 (b)에서는 'abc'라는 제목의 음악 파일이 재생 대상으로 결정된 것으로 예시되었다. 이후, 음악 아이콘(2102)에 대한 터치가 해제되거나, 제 1 드래그 입력이 수신되면, 제어부(180)는 도 21의 (c)에 도시된 예에서와 같이, 재생 대상으로 결정된 음악 파일을 재생할 수 있다. 사용자가 입력한 음성이 가수의 이름을 지시하는 경우라면, 제어부(180)는 사용자 음성이 지시하는 가수가 부른 음악이 재생되도록 제어할 수 있을 것이다.
도시되지는 않았지만, 제 2 드래그 입력이 수신되는 경우라면, 제어부(180)는 음악을 재생하지 않고 마이크(122)를 비활성화할 수 있을 것이다.
상술한 실시예들에 의하면, 사용자는 실행하고자 하는 어플리케이션의 아이콘을 터치한 뒤, 음성을 통해서 실행하고자 하는 어플리케이션에서 처리될 대상을 입력할 수 있다.
다른 예로, 본 발명에 따른 이동 단말기(100)는 어플리케이션 별 서로 다른 터치 영역이 할당된 팝업 창을 통해 입력된 음성을 처리할 어플리케이션을 결정할 수도 있다.
도 22는 어플리케이션 별 서로 다른 터치 영역이 할당되어 있는 팝업 창이 디스플레이되는 예를 도시한 도면이다. 도 22의 (a)를 참조하여 보면, 팝업 창(2210)에는 총 5개의 영역이 포함되어 있는 것으로 예시되었다. 위에서, 아래의 순서로 각각을 제 1 ~ 5 영역(I~V)이라 호칭하면, 제 1 영역(I)은 전화 통화를 수행할 수 있는 통화 어플리케이션에 대응되는 영역이고, 제 2 영역(II)은 메시지를 전송할 수 있는 메시지 어플리케이션에 대응되는 영역이며, 제 3 영역(III)은 음악 파일을 재생할 수 있는 음악 어플리케이션에 대응되는 영역임을 추측할 수 있다. 아울러, 제 4 영역(IV)은 알람을 추가할 수 있는 알람 어플리케이션에 대응되는 영역이고, 제 5 영역(V)은 웹 검색을 수행할 수 있는 인터넷 어플리케이션에 대응되는 영역임을 추측할 수 있다.
각 영역에는 사용자가 음성으로 입력하여야 하는 필드값들이 상세히 안내되어 있다. 제 1 영역(I) 및 제 2 영역(II)에서는 음성으로 전화를 걸 대상 혹은 메시지를 전송할 대상을 입력해야 함이 안내되어 있고('누구'), 제 3 영역(III)에서는 음성으로 재생할 음악의 제목을 입력해야 함이 안내되어 있다('곡명'). 아울러, 제 4 영역(IV)에서는 음성으로 알람으로 설정할 시간을 입력해야 함이 안내되어 있고('시각'), 제 5 영역(V)에서는 음성으로 검색 엔진을 통해 검색할 키워드를 입력해야 함이 안내되어 있다('검색어').
제 1 영역 내지 제 5 영역(I~V) 중 어느 하나의 영역이 터치되면, 제어부(180)는 마이크(122)를 활성화 할 수 있다. 그리고, 터치스크린 위 포인터의 터치가 유지되는 동안 음성이 입력되면, 제어부(180)는 음성을 기초로 포인터가 터치된 영역에 대응되는 어플리케이션에서 처리될 대상을 결정할 수 있다.
예컨대, 제 1 영역(I)이 터치되어 있는 상태에서 사용자가 'Jane'이라는 음성을 입력하였다고 가정 한다면, 제어부(180)는 도 22의 (b)에 도시된 예에서와 같이, 사용자가 입력한 음성이 지시하는 대상이 제 1 영역(I)에만 표시되도록 제어할 수 있다.
이후, 포인터가 제 1 영역(I)으로부터 접촉 해제되거나, 제 1 드래그 입력이 수신되면, 제어부(180)는 도 22의 (c)에 도시된 예에서와 같이, 제 1 영역(I)에 대응하는 통화 어플리케이션을 통해 'Jane'이라는 인물에게 전화를 걸 수 있을 것이다. 도시되지는 않았지만, 메시지 어플리케이션에 대응되는 제 2 영역이 터치된 경우라면, 제어부(180)는 음성이 지시하는 인물에 대한 메시지 작성 화면이 디스플레이되도록 제어할 수 있을 것이고, 음악 어플리케이션에 대응되는 제 3 영역(III)이 터치된 경우라면, 제어부(180)는 음성이 지시하는 음악 파일이 재생되도록 제어할 수 있을 것이다. 아울러, 알람 어플리케이션에 대응되는 제 4 영역(IV)이 터치된 경우라면, 제어부(180)는 음성이 지시하는 시간에 알람을 추가할 수 있을 것이고, 인터넷 어플리케이션에 대응되는 제 5 영역(V)이 터치된 경우라면, 제어부(180)는 검색 엔진을 통해 음성이 지시하는 검색어를 검색한 결과 페이지를 디스플레이할 수 있을 것이다.
도시되지는 않았지만, 제 2 드래그 입력이 수신되면, 제어부(180)는 전화 통화를 걸지 않고 마이크(122)가 비활성화 되도록 제어할 수도 있을 것이다.
즉, 본 발명에 따른 이동 단말기(100)는 어플리케이션 별 터치 영역이 구분되어 있는 팝업 창을 디스플레이한 뒤, 팝업 창 내 포인터의 터치 위치에 대응되는 어플리케이션을 실행할 어플리케이션으로 결정할 수 있다.
도 22에 도시된 팝업 창(2210)은 위젯(Widget) 형태로 홈 스크린 화면에 배치될 수 있다. 다른 예로, 제어부(180)는 기 설정된 사용자 입력이 수신된 경우에 한하여, 도 22에 도시된 팝업 창(2210)이 디스플레이되도록 제어할 수도 있다. 여기서, 기 설정된 사용자 입력은 하나 또는 복수의 포인터(예컨대, 두개의 포인터)로 터치스크린을 1회 또는 복수회(예컨대, 2회) 태핑 하는 것, 포인터로 터치스크린을 문지르는 것(scrub) 등 다양한 터치 입력 형태를 띌 수 있다. 뿐만 아니라, 기 설정된 사용자 입력은 물리 키(Physical key)(예컨대, 볼륨 조절 또는 Power On/Off 키 등)를 적절히 조작하는 형태를 띄거나, 소프트 키(Soft key)(예컨대, 홈 버튼)을 적절히 조작하는 형태를 띌 수도 있다.
디스플레이부(151)가 절전 상태(즉, 아무런 정보도 표시되어 있지 않은 상태)에 있는 동안 기 설정된 입력된 경우, 제어부(180)는 디스플레이부(151)가 절전 상태에서 벗어나도록 제어하면서, 디스플레이부(151)를 통해 팝업 창(2210)이 출력되도록 제어할 수도 있다.
본 발명에 따른, 이동 단말기(100)는 각 어플리케이션에 대응되는 사용자 입력을 정해 놓고, 입력되는 사용자 입력의 형태에 따라 음성을 통해 지시되는 대상을 처리할 어플리케이션을 결정할 수도 있다.
일예로, 도 23 및 도 24는 사용자 입력의 형태에 따라 각기 다른 어플리케이션이 실행되는 예를 도시한 도면이다. 설명의 편의를 위해, 제 1 사용자 입력은 통화 어플리케이션에 대응되는 것이고, 제 2 사용자 입력은 메시지 어플리케이션에 대응되는 것으로 가정한다. 아울러, 제 1 사용자 입력은 두개의 포인터로 디스플레이부(151)를 태핑하는 형태의 터치 입력이고, 제 2 사용자 입력은 하나의 포인터로 디스플레이부(151)를 문지르는 형태의 터치 입력인 것으로 가정한다.
도 23의 (a)에 도시된 예에서와 같이, 제 1 사용자 입력이 입력되면, 제어부(180)는 도 23의 (b)에 도시된 예에서와 같이, 음성으로 통화 어플리케이션에서 처리될 대상(즉, 전화를 걸 상대방)의 입력을 유도하는 팝업 창(2310)을 디스플레이 하면서, 마이크(122)가 활성화 되도록 제어할 수 있다. 이후, 사용자 음성이 입력되면, 제어부(180)는 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있는지 여부를 확인한 뒤, 전화번호부에 등록되어 있다면, 도 23의 (c)에 도시된 예에서와 같이, 검색된 인물에게 전화를 걸 수 있다.
도 24의 (a)에 도시된 예에서와 같이, 제 2 사용자 입력이 입력되면, 제어부(180)는 도 24의 (b)에 도시된 예에서와 같이, 음성으로 메시지 어플리케이션에서 처리될 대상(즉, 메시지를 보낼 상대방)의 입력을 유도하는 팝업 창(2410)을 디스플레이하면서, 마이크(122)가 활성화 되도록 제어할 수 있다. 이후, 사용자 음성이 입력되면, 제어부(180)는 사용자 음성이 지시하는 인물이 전화번호부 또는 메신저 서버에 등록되어 있는지 여부를 확인한 뒤, 전화번호부 또는 메신저 서버에 등록되어 있다면, 도 24의 (c)에 도시된 예에서와 같이, 검색된 인물에게 전송할 메시지 내용을 작성하기 위한 작업 창(2420)이 디스플레이되도록 제어할 수 있다. 사용자가 작업 창(2420)을 통해 상대방에게 전송할 텍스트를 입력하면, 제어부(180)는 작성된 텍스트를 포함하는 메시지를 상대방에게 전송할 수 있을 것이다.
본 발명에 따른 이동 단말기(100)는 메시지의 종류를 결정하기 위한 버튼들이 디스플레이되도록 제어할 수도 있다. 일예로, 제어부(180)는 도 24의 (d)에 도시된 예에서와 같이, 작성되고 있는 메시지가 문자 메시지인 것으로 결정하기 위한 제 1 버튼 또는 인스턴트 메시지인것으로 결정하기 위한 제 2 버튼이 디스플레이되도록 제어할 수 있다. 제 1 버튼이 선택된 상태에서 메시지가 전송된다면, 전송되는 메시지는 상대방의 전화번호를 목적지로 하는 문자 메시지 형태를 띌 것이고, 제 2 버튼이 선택된 상태에서 메시지가 전송된다면, 전송되는 메시지는 메신저 서버에 등록된 상대방의 ID를 목적지로 하는 인스턴트 메시지 형태를 띄게 될 것이다.
도 23 및 도 24에서는 제 1 사용자 입력 및 제 2 사용자 입력이 입력되면, 곧바로 마이크(122)가 활성화되는 것으로 예시되었다. 다른 예로, 제어부(180)는 제 1 사용자 입력 및 제 2 사용자 입력이 입력된 이후, 포인터가 디스플레이부(151)를 재터치(예컨대, 팝업 창을 터치)하는 경우에 마이크(122)가 활성화되도록 제어할 수도 있다. 이 경우, 제어부(180)는 포인터가 터치되고 있는 동안만 마이크(122)를 활성화 할 수도 있다.
도시되지는 않았지만, 인터넷 어플리케이션에 대응되는 사용자 입력이 수신된 경우라면, 제어부(180)는 검색 엔진을 통해 사용자 음성이 지시하는 키워드의 검색 결과를 디스플레이할 수 있을 것이고, 음악 어플리케이션에 대응되는 사용자 입력이 수신된 경우라면, 제어부(180)는 음악 어플리케이션을 통해 사용자 음성이 지시하는 음악 파일을 재생할 수 있을 것이다. 아울러, 알람 어플리케이션에 대응되는 사용자 입력이 수신된 경우라면, 제어부(180)는 사용자 입력이 지시하는 시간에 알람을 추가할 수 있을 것이다.
즉, 본 발명에 따른 이동 단말기(100)는 특정 어플리케이션의 아이콘에 대한 터치 입력을 수신하는 대신, 특정 어플리케이션에 대응되는 사용자 입력이 수신되는 경우에 있어서도 실행하고자 하는 어플리케이션을 결정할 수 있다.
본 발명에 따른 이동 단말기(100)는 음성이 지시하는 대상의 속성을 기초로, 음성이 지시하는 대상을 처리하기 위한 어플리케이션을 결정할 수도 있다. 구체적으로, 음성이 지시하는 대상이 전화번호부에 등록된 인물이라면, 통화 어플리케이션, 메시지 어플리케이션 및 이메일 어플리케이션 등에서 지시 대상이 처리되도록 제어하는 한편, 음성이 지시하는 대상이 노래 제목과 일치한다면, 음악 어플리케이션에서 지시 대상이 처리되도록 제어할 수 있다. 아울러, 음성이 지시하는 대상이 특정 시간이라면, 제어부(180)는 알람 어플리케이션 상에서 지시된 시간에 알람이 추가되도록 제어할 수도 있다.
일예로, 도 25 내지 도 27은 음성이 지시하는 대상의 속성에 따라, 실행하고자 하는 어플리케이션의 종류가 가변되는 예를 도시한 도면이다.
마이크(122)가 활성화 되면, 제어부(180)는 마이크(122)를 통해 입력되는 음성을 텍스트로 변환한 뒤, 변환된 텍스트에 대응하는 인물이 전화번호부에 등록되어 있는지, 대응하는 음악파일이 존재하는지, 텍스트가 특정 시간을 지시하는지 여부를 확인할 수 있다. 여기서, 마이크(122)는 도 25의 (a)에 도시된 예에서와 같이, 마이크(122) 버튼(2502)을 터치함에 따라 활성화 될 수 있다. 앞서 설명한 바와 같이, 제어부(180)는 마이크(122) 버튼(2502)이 터치되는 동안에만 마이크(122)가 활성화 상태에 있도록 제어할 수 있다. 아울러, 마이크(122) 버튼(2502)이 터치되면, 제어부(180)는 도 25의 (a)에 도시된 예에서와 같이, 사용자가 입력해여야 할 필드 값을 안내하는 팝업 창(2520)이 디스플레이되도록 제어할 수도 있다.
변환된 텍스트가 음악 파일을 지시하거나 특정 시간을 가리키는 것은 아니나, 이에 대응하는 인물이 전화번호부에 등록되어 있다면, 제어부(180)는 도 25의 (b)에 도시된 예에서와 같이, 해당 인물에 대한 정보(예컨대, 해당 인물의 이름, 전화번호 또는 사진 등)(2530)을 출력하고, 해당 인물과 통신할 수 있는 어플리케이션들의 아이콘이 디스플레이되도록 제어할 수 있다. 도 25의 (b)에서는 마이크(122) 버튼(2502) 주변에, 통화 아이콘(2542), 메시지 아이콘(2544) 및 이메일 아이콘(2546)이 디스플레이되는 것으로 예시되었다.
이후, 제어부(180)는 포인터(2510)의 드래그 위치를 기초로 해당 인물과 통신하기 위한 매체를 결정할 수 있다. 구체적으로, 포인터(2510)가 통화 아이콘(2542)으로 드래그 이동하면, 제어부(180)는 해당 인물에게 전화를 걸 수 있을 것이다. 이와 달리, 포인터(2510)가 메시지 아이콘(2544) 또는 이메일 아이콘(2546)으로 드래그 이동한다면, 제어부(180)는 해당 인물에게 전송할 메시지 또는 이메일을 작성하기 위한 작성 화면이 디스플레이되도록 제어할 수 있을 것이다.
즉, 사용자 음성이 인물을 지시하는 것으로 판단되면, 제어부(180)는 사용자가 실행하고자 하는 어플리케이션이, 통화 어플리케이션, 메시지 어플리케이션 및 이메일 어플리케이션 등과 같이 해당 인물과 통신을 수행하기 위한 것으로 판단하여, 해당 어플리케이션들을 실행하기 위한 아이콘들이 디스플레이되도록 제어할 수 있다.
변환된 텍스트에 대응하는 인물이 전화번호부에 등록되어 있지 않고, 특정 시간을 가리키는 것도 아니나, 이에 대응하는 음악 파일이 존재한다면, 제어부(180)는 해당 음악 파일이 재생되도록 제어할 수 있다. 일예로, 도 26의 (a)에서와 같이, 'abc'를 지시하는 사용자 음성이 입력되었으나, 'abc'라는 인물이 전화번호부에 등록되어 있지도 않고, 'abc'가 특정 시간을 말하는 것으로 판단되지도 않으나, 'abc'라는 제목을 갖는 음악 파일이 존재한다면, 제어부(180)는 도 26의 (b)에 도시된 예에서와 같이, 'abc'라는 제목의 음악 파일을 재생할 수 있다.
즉, 사용자 음성이 음악 파일을 지시하는 것으로 판단되면, 제어부(180)는 사용자가 실행하고자 하는 어플리케이션이, 음악 어플리케이션인 것으로 판단하여, 음악 어플리케이션을 통해 음성이 지시하는 음악 파일이 재생되도록 제어할 수 있다.
변환된 텍스트에 대응하는 인물이 전화번호부에 등록되어 있지 않고, 이에 대응하는 음악 파일이 존재하지도 않으나, 변환된 텍스트가 특정 시간을 가리킨다면, 제어부(180)는 해당 시간에 알람을 추가할 수 있다. 일예로, 도 27의 (a)에서와 같이, 'afternoon 8 o'clock'과 같이 특정 시간을 지시하는 음성이 입력되었다면, 제어부(180)는 도 27의 (b)에 도시된 예에서와 같이 음성이 가리키는 시간(즉, 오후 8시)에 알람을 추가할 수 있다.
즉, 사용자 음성이 특정 시간을 지시하는 것으로 판단되면, 제어부(180)는 사용자가 실행하고자 하는 어플리케이션이, 알람 어플리케이션인 것으로 판단하여, 알람 어플리케이션을 통해 음성이 지시하는 시간에 알람이 추가되도록 제어할 수 있다.
우연히, 사용자 음성이 복수의 어플리케이션에서 처리될 수 있는 대상을 지정하게 될 수도 있다. 예컨대, 전화번호부에 'Mom'이란 인물이 등록되어 있고, 'Mom'이라는 제목의 음악 파일이 저장되어 있을 수도 있다. 이 경우, 제어부(180)는 음성이 지시하는 대상을 처리할 수 있는 모든 어플리케이션들을 열거하여 놓고, 열거된 어플리케이션 중 사용자가 특정 어플리케이션을 선택하면, 선택된 어플리케이션을 통해 선택된 음성이 처리되도록 제어할 수 있을 것이다.
도 5, 도 9 및 도 14를 통해 설명한 실시예들을 적용하기 위해서는, 사용자는 사전에 음성 명령이 호환되는 어플리케이션의 종류를 미리 인지하고 있어야 할 것이다. 일예로, 사용자가 터치한 아이콘이 음성 명령을 호환하지 않는 어플리케이션이라면, 사용자가 소정 시간 이상 아이콘을 터치하더라도 마이크(122)는 활성화 되지 않을 것이다. 다만, 수 많은 어플리케이션들 중 어떠한 어플리케이션이 음성 명령에 호환되는 것인지 인식하기란 쉽지 않다.
이에 본 발명에 따른 이동 단말기(100)는 기 설정된 터치 입력이 수신되면, 현재 디스플레이부(151)를 통해 출력되는 아이콘들 중에서 음성 명령을 호환하는 어플리케이션에 대응하는 것들이 강조 표시되도록 제어할 수 있다.
일예로, 도 28은 음성 명령을 지원하는 어플리케이션의 아이콘이 강조 표시되는 예를 도시한 도면이다. 디스플레이부(151)를 통해 복수의 아이콘들이 디스플레이되고 있는 상태에서, 기 설정된 사용자 입력(도 28의 (a)에서는 두개의 포인터로 디스플레이부(151)를 터치하는 것으로 예시됨)이 수신되면, 제어부(180)는 도 28의 (b)에 도시된 예에서와 같이, 현재 디스플레이되고 있는 아이콘들 중 음성 명령을 지원하는 어플리케이션의 아이콘이 강조 표시되도록 제어할 수 있다. 도 28의 (b)에서는 전화 아이콘 및 메시지 아이콘이 다른 아이콘들에 비해 크게 확대되어 표시됨으로써 강조되는 것으로 예시되었다.
도 28의 (b)에 도시된 예에서와 같이, 음성 명령이 지원되는 아이콘들을 강조 표시함으로써, 사용자는 음성 명령이 지원되는 어플리케이션을 정확하게 인지할 수 있을 것이다.
도 28의 (a)에서는 기 설정된 사용자 입력이 두개의 포인터로 디스플레이부(151)를 터치하는 터치 입력으로 예시되었지만, 도시된 것 이외에도, 다양한 형태의 터치 입력이 기 설정된 사용자 입력으로 설정될 수 있음은 물론이다. 뿐만 아니라, 기 설정된 사용자 입력은 물리 키(Physical key)(예컨대, 볼륨 조절 또는 Power On/Off 키 등)를 적절히 조작하는 형태를 띄거나, 소프트 키(Soft key)(예컨대, 홈 버튼)을 적절히 조작하는 형태를 띌 수도 있다.
도 5, 도 9 및 도 14에서는 아이콘이 터치되어야만 사용자 음성을 수신하기 위한 마이크(122)가 활성화되는 것으로 예시되었으나, 본 발명의 다른 예에 의하면, 컨텐트가 터치되는 경우에도 사용자 음성을 수신하기 위한 마이크(122)가 활성화될 수도 있다. 여기서, 컨텐트란, 이미지, 동영상, 음악, 문서 및 이들의 섬네일 등을 포함하는 것일 수 있다.
컨텐트가 터치되고, 컨텐트에대한 터치가 소정 시간 이상 지속되면, 제어부(180)는 마이크(122)를 활성화 할 수 있다. 이후, 마이크(122)로부터 음성이 수신되면, 제어부(180)는 사용자 음성을 기초로, 컨텐트를 공유하기 위한 매체 또는 컨텐트를 공유할 상대방을 결정할 수 있다. 이에 대한 상세한 설명은 도 29를 참조하기로 한다.
도 29는 컨텐트를 공유하고자 하는 매체를 결정하는 과정을 설명하기 위해 예시한 도면이다. 설명의 편의를 위해, 디스플레이부(151)를 통해서는 이미지 목록이 디스플레이되고 있는 상태인 것으로 가정한다. 도 29의 (a)에 도시된 예에서와 같이, 이미지 목록 중 어느 하나(2910)가 포인터에 의해 소정 시간 이상 터치되면, 제어부(180)는 마이크(122)를 활성화 하고, 도 29의 (b)에 도시된 예에서와 같이, 선택된 컨텐트(2910)를 공유하기 위한 수단을 음성으로 입력할 것을 안내하는 팝업 창(2920)이 디스플레이되도록 제어할 수 있다. 일예로, 도 29의 (b)에서는 문자 메시지(MMS), 인스턴트 메시지(예컨대, What's app) 및 SNS(예컨대, Facebook 및 Twitter 등) 등이 컨텐트를 공유할 수 있는 수단으로 예시되었다.
이후, 마이크(122)를 통해 음성이 입력되면, 제어부(180)는 사용자 음성이 지시하는 수단을 통해 해당 컨텐트가 공유되도록 제어할 수 있다. 일예로, 도 29의 (b)에서는 사용자 음성이 Facebook을 가리키므로, 제어부(180)는 도 29의 (c)에 도시된 예에서와 같이, 기 등록된 사용자의 Facebook 계정으로 선택된 컨텐트(2910)를 업로드할 수 있을 것이다.
도시되지는 않았지만, 제어부(180)는 사용자 음성을 통해 선택된 컨텐트를 공유할 상대방을 결정할 수도 있다. 예컨대, 문자 메시지 또는 인스턴트 메시지 등 수신인이 지정되어야 하는 공유수단이 선택되었고, 추가적인 사용자 입력이 수신되면, 제어부(180)는 추가된 사용자 입력을 통해 선택된 컨텐트를 수신할 상대방을 결정할 수 있을 것이다.
상술한 실시예들에서는 사용자의 터치 입력에 의해 실행하고자 하는 어플리케이션이 결정되는 것으로 예시되었다. 본 발명에 따른 이동 단말기(100)는 사용자의 제스처를 감지하여, 감지된 제스처에 대응하는 어플리케이션을 실행하고자 하는 어플리케이션으로 결정할 수도 있다.
일예로, 도 30은 전화를 걸기 위한 제스처가 입력되었을 때 이동 단말기의 동작을 예시한 도면이다. 도 30의 (a)에 도시된 예에서와 같이, 사용자가 이동 단말기(100)를 귓가에 가져다대는 제스처를 취하면, 제어부(180)는 사용자가 전화를 걸고자 하는 상태인 것으로 판단하고, 마이크(122)를 활성화 할 수 있다. 사용자가 이동 단말기(100)를 귓가에 갖다댄 채로 전화를 걸고자 하는 상대방의 이름을 말하면, 제어부(180)는 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있는지 여부를 확인할 수 있다. 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있다면, 제어부(180)는 도 30의 (b)에 도시된 예에서와 같이, 해당 인물에게 전화를 걸 수 있다.
다만, 도 30에 도시된 예에서와 같이, 이동 단말기(100)를 사용자 귓가에 가져다 대면, 사용자는 디스플레이부(151)를 통한 출력을 확인할 수 없게 된다. 이는, 음성 인식이 성공하여 사용자가 의도하는 상대방에게 전화를 걸고 있는지 여부를 확인하기가 어렵다는 문제점을 발생시킬 수 있다.
이에, 제어부(180)는, 음성이 지시하는 상대방에게 전화를 걸기 전, 음향 출력 모듈(152)(152)를 통해 음성에 의해 지시된 상대방의 이름을 출력하여, 사용자가 음성으로 전화를 걸 상대방을 확인할 수 있도록 할 수도 있다.
다른 예로, 도 31은 메시지를 보내기 위한 제스처가 입력되었을 때 이동 단말기의 동작을 예시한 도면이다. 도 31의 (a)에 도시된 예에서와 같이, 사용자가 양손으로 이동 단말기(100)를 파지하는 제스처를 취하면, 제어부(180)는 사용자가 메시지를 전송하고자 하는 상태인것으로 판단하고, 마이크(122)를 활성화 할 수 있다. 사용자가 이동 단말기(100)를 양손으로 파지한 채 메시지를 전송하고자 하는 상대방의 이름을 말하면, 제어부(180)는 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있는지 여부를 확인할 수 있다. 사용자 음성이 지시하는 인물이 전화번호부에 등록되어 있다면, 제어부(180)는 도 31의 (b)에 도시된 예에서와 같이, 해당 인물에게 전송할 메시지를 작성하기 위한 작성 화면이 디스플레이되도록 제어할 수 있다. 사용자는 가상 키패드(3110)를 통해 또는 마이크(122) 버튼(3120)을 이용한 음성을 통해 상대방에게 작성할 메시지를 작성할 수 있다.
도 30 및 도 31에 도시된 예에서와 같이, 제어부(180)는 기 설정된 제스처가 감지되면, 해당 제스처에 대응하는 어플리케이션을 통해 사용자 음성이 지시하는 대상이 처리되도록 제어할 수 있다. 제어부(180)는 센싱부(140)의 감지 신호(예컨대, 이동 단말기(100)의 움직임을 감지하는 신호, 사용자가 이동 단말기(100)에 근접하였는지 여부를 감지하는 신호 또는 이동 단말기(100)가 양손으로 파지되고 있는지 여부를 감지하는 신호 등)를 기초로 기 설정된 제스처가 입력되었는지 여부를 판단할 수 있을 것이다.
본 발명의 일실시예에 의하면, 전술한 방법(동작 흐름도)은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.
상기와 같이 설명된 이동 단말기(100)는 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
110 : 무선 통신부
122 : 마이크
151 : 디스플레이부
152 : 음향 출력 모듈
160 : 메모리
180 : 제어부

Claims (19)

  1. 무선 통신을 수행하기 위한 무선 통신부;
    소리를 수신하기 위한 마이크;
    사용자로부터 터치 입력을 수신하기 위한 터치스크린; 및
    상기 터치스크린 상에 포인터가 터치되면, 상기 포인터가 상기 터치스크린을 터치하고 있는 동안 상기 마이크가 활성화되도록 제어하고,
    상기 마이크를 통해 입력되는 제 1 사용자 음성이 지시하는 타겟을 결정하며,
    상기 포인터가 상기 터치스크린으로부터 릴리즈 되거나, 상기 포인터가 제 1 방향을 따라 드래그 이동하면, 어플리케이션 상에서 상기 타겟이 처리되도록 제어하고,
    상기 어플리케이션이 메시지 어플리케이션인 경우, 상기 포인터가 상기 터치스크린으로부터 릴리즈되거나, 제 1 드래그 입력이 수신되면, 상기 타겟에게 전송할 메시지를 작성하기 위한 작업 창이 디스플레이되도록 제어하고,
    상기 작업 창이 디스플레이된 이후, 상기 포인터가 상기 터치스크린을 재터치하면, 상기 포인터가 상기 터치스크린을 터치하고 있는 동안 상기 마이크가 활성화되도록 제어하고,
    상기 마이크를 통해 입력되는 제 2 사용자 음성을 텍스트로 변환하고,
    상기 포인터가 상기 터치스크린으로부터 릴리즈 되거나 상기 포인터가 제 1 방향을 따라 드래그 이동하면, 상기 변환된 텍스트를 포함하는 메시지가 상기 타겟에게 전송되도록 제어하는 제어부
    를 포함하는 이동 단말기.
  2. 제 1 항에 있어서,
    상기 제어부는, 상기 포인터가 상기 제 1 방향과는 다른 제 2 방향을 따라 드래그 이동 하면, 상기 어플리케이션 상에서 상기 타겟이 처리되지 않도록 제어하는 것을 특징으로 하는 이동 단말기.
  3. 제 1 항에 있어서,
    상기 제어부는, 상기 타겟이 결정되어 있지 않은 상태에서, 상기 포인터가 상기 터치스크린으로부터 릴리즈되면, 상기 마이크가 비활성화되도록 제어하는 것을 특징으로 하는 이동 단말기.
  4. 제 1 항에 있어서,
    상기 어플리케이션은 상기 포인터에 의해 터치된 아이콘에 대응되는 것을 특징으로 하는 이동 단말기.
  5. 제 1 항에 있어서,
    상기 터치스크린은 어플리케이션 별로 할당된 복수의 영역을 포함하고,
    상기 어플리케이션은 상기 복수의 영역 중 상기 포인터에 의해 터치된 영역에 대응되는 것을 특징으로 하는 이동 단말기.
  6. 제 1 항에 있어서,
    상기 어플리케이션이 통화 어플리케이션인 경우,
    상기 제어부는 상기 포인터가 상기 터치스크린으로부터 릴리즈되거나, 상기 제 1 드래그 입력이 수신되면, 상기 타겟에게 전화를 거는 것을 특징으로 하는,
    이동 단말기.
  7. 제 6 항에 있어서,
    상기 이동 단말기는 전화번호부를 저장하는 메모리를 더 포함하고,
    상기 제어부는 상기 전화번호부에 등록된 인물들 중 상기 제 1 사용자 음성이 지시하는 인물을 상기 타겟으로 결정하는 것을 특징으로 하는 이동 단말기.
  8. 삭제
  9. 제 1 항에 있어서,
    제어부는 메신저 서버로부터 수신한 사용자의 대화 목록에 등록된 등록된 인물들 중 제 1 사용자 음성이 지시하는 인물을 타겟으로 결정하는 것을 특징으로 하는 이동 단말기.
  10. 삭제
  11. 제 1 항에 있어서,
    상기 어플리케이션이 음악 어플리케이션인 경우,
    상기 제어부는 상기 터치스크린으로부터 릴리즈되거나, 상기 제 1 드래그 입력이 수신되면, 상기 타겟이 지시하는 음악 파일을 재생하는 것을 특징으로 하는 이동 단말기.
  12. 제 1 항에 있어서,
    상기 어플리케이션이 인터넷 어플리케이션인 경우,
    상기 제어부는 상기 터치스크린으로부터 릴리즈되거나, 상기 제 1 드래그 입력이 수신되면, 디폴트로 설정된 검색 엔진을 통해 상기 타겟을 검색어로 삼아 수행된 검색의 결과가 디스플레이되도록 제어하는 것을 특징으로 하는 이동 단말기.
  13. 제 1 항에 있어서,
    상기 제어부는 상기 타겟의 속성에 따라 상기 어플리케이션의 종류를 결정하는 것을 특징으로 하는 이동 단말기.
  14. 무선 통신을 수행하기 위한 무선 통신부;
    소리를 수신하기 위한 마이크;
    사용자로부터 터치 입력을 수신하기 위한 터치스크린;
    상기 사용자의 제스처를 감지하기 위한 센싱부; 및
    상기 터치스크린을 통해 기 설정된 터치 입력이 수신되거나, 상기 센싱부가 기 설정된 제스처를 감지하면, 상기 마이크를 활성화 하고,
    상기 마이크를 통해 입력되는 사용자 음성을 기초로 상기 사용자 음성이 지시하는 타겟을 결정한 뒤,
    상기 기 설정된 터치 입력 또는 상기 기 설정된 제스처에 대응되는 어플리케이션 상에서 상기 타겟이 처리되도록 제어하고,
    이동 단말기를 상기 사용자의 귓가에 가져다 대는 제스처가 감지되면, 상기 사용자 음성이 지시하는 상기 타겟에게 전화를 걸도록 제어하는 제어부
    를 포함하는 이동 단말기.
  15. 삭제
  16. 제 14 항에 있어서,
    상기 이동 단말기는 음향 데이터를 출력하기 위한 음향 출력 모듈을 더 포함하고,
    상기 제어부는, 상기 타겟에게 전화를 걸기 전, 상기 음향 출력 모듈을 통해 상기 타겟의 이름이 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  17. 제 14 항에 있어서,
    상기 이동 단말기를 양손으로 파지하는 제스처가 감지되면,
    상기 제어부는, 상기 사용자 음성이 지시하는 상기 타겟에게 전송할 메시지를 작성하기 위한 화면이 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  18. 터치스크린을 통해 기 설정된 터치 입력이 수신되면, 마이크를 활성화 하는 단계;
    포인터가 상기 터치스크린을 터치하고 있는 동안 상기 마이크를 통해 사용자 음성이 수신되면, 상기 사용자 음성이 지시하는 타겟을 결정하는 단계; 상기 포인터가 상기 터치스크린으로부터 릴리즈 되거나, 상기 포인터가 제 1 방향을 따라 드래그 이동하면, 어플리케이션 상에서 상기 타겟을 처리하는 단계;
    상기 어플리케이션이 메시지 어플리케이션인 경우, 상기 포인터가 상기 터치스크린으로부터 릴리즈되거나, 제 1 드래그 입력이 수신되면, 상기 타겟에게 전송할 메시지를 작성하기 위한 작업 창이 디스플레이되도록 제어하는 단계;
    상기 작업 창이 디스플레이된 이후, 상기 포인터가 상기 터치스크린을 재터치하면, 상기 포인터가 상기 터치스크린을 터치하고 있는 동안 상기 마이크가 활성화되도록 제어하는 단계;
    상기 마이크를 통해 입력되는 제 2 사용자 음성을 텍스트로 변환하는 단계;
    상기 포인터가 상기 터치스크린으로부터 릴리즈 되거나 상기 포인터가 제 1 방향을 따라 드래그 이동하면, 상기 변환된 텍스트를 포함하는 메시지가 상기 타겟에게 전송되도록 제어하는 단계
    를 포함하는 이동 단말기의 제어 방법.
  19. 기 설정된 터치 입력 또는 기 설정된 제스처 입력이 수신되면, 마이크를 활성화 하는 단계;
    상기 마이크를 통해 사용자 음성이 수신되면, 상기 사용자 음성이 지시하는 타겟을 결정하는 단계;
    상기 기 설정된 터치 입력 또는 상기 기 설정된 제스처 입력에 대응되는 어플리케이션 상에서 상기 타겟을 처리하는 단계; 및
    이동 단말기를 상기 사용자의 귓가에 가져다 대는 제스처가 감지되면, 상기 사용자 음성이 지시하는 상기 타겟에게 전화를 걸도록 제어하는 단계
    를 포함하는 이동 단말기의 제어 방법.
KR1020140006142A 2014-01-17 2014-01-17 이동 단말기 및 이의 제어 방법 KR102218906B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020140006142A KR102218906B1 (ko) 2014-01-17 2014-01-17 이동 단말기 및 이의 제어 방법
EP19194363.8A EP3591952A1 (en) 2014-01-17 2015-01-09 Mobile terminal and controlling method thereof
EP15000032.1A EP2903249B1 (en) 2014-01-17 2015-01-09 Mobile terminal and controlling method thereof
US14/597,084 US9578160B2 (en) 2014-01-17 2015-01-14 Mobile terminal and controlling method thereof
CN201510025713.8A CN104796527B (zh) 2014-01-17 2015-01-19 移动终端及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140006142A KR102218906B1 (ko) 2014-01-17 2014-01-17 이동 단말기 및 이의 제어 방법

Publications (2)

Publication Number Publication Date
KR20150086030A KR20150086030A (ko) 2015-07-27
KR102218906B1 true KR102218906B1 (ko) 2021-02-23

Family

ID=52391774

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140006142A KR102218906B1 (ko) 2014-01-17 2014-01-17 이동 단말기 및 이의 제어 방법

Country Status (4)

Country Link
US (1) US9578160B2 (ko)
EP (2) EP3591952A1 (ko)
KR (1) KR102218906B1 (ko)
CN (1) CN104796527B (ko)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10924603B1 (en) * 2014-03-01 2021-02-16 sigmund lindsay clements Phone map used to find and operate multiuser devices
US9207835B1 (en) * 2014-05-31 2015-12-08 Apple Inc. Message user interfaces for capture and transmittal of media and location content
KR20160008920A (ko) * 2014-07-15 2016-01-25 엘지전자 주식회사 이동 단말기 및 그 제어 방법
CN105472111A (zh) * 2014-09-03 2016-04-06 中兴通讯股份有限公司 一种触屏终端的按键功能切换方法及装置
CN112152910A (zh) 2015-02-16 2020-12-29 钉钉控股（开曼）有限公司 通讯方法
USD782512S1 (en) * 2015-06-07 2017-03-28 Apple Inc. Display screen or portion thereof with graphical user interface
CN106921377B (zh) * 2015-12-24 2020-06-02 小米科技有限责任公司 触控按键模组、按键图标显示方法及装置
CN105681056B (zh) 2016-01-13 2019-03-19 阿里巴巴集团控股有限公司 对象分配方法及装置
CN107305459A (zh) * 2016-04-25 2017-10-31 阿里巴巴集团控股有限公司 语音和多媒体消息的发送方法及装置
CN107368995A (zh) 2016-05-13 2017-11-21 阿里巴巴集团控股有限公司 任务处理方法及装置
US10333998B1 (en) * 2016-12-27 2019-06-25 Amazon Technologies, Inc. Managing connection requests for multiple devices
US10057421B1 (en) * 2016-12-27 2018-08-21 Amazon Technologies, Inc. Utilizing virtual user records for device management
JP7026338B2 (ja) * 2018-04-04 2022-02-28 パナソニックＩｐマネジメント株式会社 電動工具
CN109343756B (zh) * 2018-09-21 2021-05-07 武汉华中时讯科技有限责任公司 一种在安卓系统中通过手势触摸与滑动操作控制录音及变声的方法、存储器及终端
JP2020107130A (ja) * 2018-12-27 2020-07-09 キヤノン株式会社 情報処理システム、情報処理装置、制御方法、プログラム
CN109979463B (zh) * 2019-03-31 2022-04-22 联想(北京)有限公司 一种处理方法和电子设备
US11838459B2 (en) * 2019-06-07 2023-12-05 Canon Kabushiki Kaisha Information processing system, information processing apparatus, and information processing method
CN112786036B (zh) * 2019-11-04 2023-08-08 海信视像科技股份有限公司 显示设备与内容显示方法
CN111599360B (zh) * 2020-05-12 2022-11-29 Oppo广东移动通信有限公司 唤醒控制方法、装置、存储介质及电子设备

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090107365A (ko) 2008-04-08 2009-10-13 엘지전자 주식회사 이동 단말기 및 그 메뉴 제어방법
KR20090107364A (ko) 2008-04-08 2009-10-13 엘지전자 주식회사 이동 단말기 및 그 메뉴 제어방법
KR101566379B1 (ko) 2009-05-07 2015-11-13 삼성전자주식회사 입력 신호 종류 별 사용자 기능 활성화 방법 및 이를 지원하는 휴대 단말기
US8972903B2 (en) * 2010-07-08 2015-03-03 Apple Inc. Using gesture to navigate hierarchically ordered user interface screens
US20120280915A1 (en) * 2011-05-02 2012-11-08 Nokia Corporation Method and apparatus for facilitating interacting with a multimodal user interface
US20130053007A1 (en) 2011-08-24 2013-02-28 Microsoft Corporation Gesture-based input mode selection for mobile devices
KR101871714B1 (ko) * 2012-04-02 2018-06-27 엘지전자 주식회사 이동 단말기 및 그 제어방법
EP2657827A3 (en) * 2012-04-26 2016-08-03 Acer Incorporated Touch detection method and touch control device using the same
CA2873240C (en) * 2012-05-16 2020-11-17 Xtreme Interactions Inc. System, device and method for processing interlaced multimodal user input
KR102087005B1 (ko) * 2013-01-31 2020-03-11 삼성전자 주식회사 페이지 검색 방법 및 이를 지원하는 단말기
KR102124476B1 (ko) * 2013-06-03 2020-06-19 엘지전자 주식회사 휴대 단말기 및 그 제어 방법
US20150044653A1 (en) * 2013-08-06 2015-02-12 ArchieMD, Inc. Systems and methods of training and testing medical procedures on mobile devices

Also Published As

Publication number Publication date
EP2903249A1 (en) 2015-08-05
US9578160B2 (en) 2017-02-21
EP2903249B1 (en) 2019-12-18
KR20150086030A (ko) 2015-07-27
CN104796527A (zh) 2015-07-22
EP3591952A1 (en) 2020-01-08
CN104796527B (zh) 2017-08-11
US20150207924A1 (en) 2015-07-23

Similar Documents

Publication Publication Date Title
KR102218906B1 (ko) 이동 단말기 및 이의 제어 방법
US10241743B2 (en) Mobile terminal for matching displayed text with recorded external audio and method of controlling the mobile terminal
KR102049855B1 (ko) 이동 단말기 및 이의 제어 방법
US9665268B2 (en) Mobile terminal and control method thereof
US9247146B2 (en) Mobile terminal and control method thereof
US9594476B2 (en) Electronic device comprising a touch-screen display and a rear input unit, and method of controlling the same
KR102129795B1 (ko) 이동 단말기 및 그 제어방법
KR102247251B1 (ko) 이동 단말기 및 이의 제어방법
KR101853057B1 (ko) 이동 단말기 및 이동 단말기의 제어 방법
KR102152709B1 (ko) 이동 단말기 및 이의 제어 방법
EP2693321A1 (en) Mobile terminal and control method thereof
KR102131827B1 (ko) 이동 단말기 및 이의 제어 방법
KR102063103B1 (ko) 이동 단말기
KR20130010364A (ko) 휴대 전자기기 및 이의 제어방법
KR102127387B1 (ko) 이동 단말기 및 이의 화면 스크롤 방법
KR102065416B1 (ko) 이동단말기 및 그 제어방법
KR101698096B1 (ko) 단말기의 드로잉을 이용한 검색 방법 및 그 단말기
US20130169556A1 (en) Mobile terminal and control method thereof
KR20170001329A (ko) 이동단말기 및 그 제어방법
KR102124482B1 (ko) 이동 단말기 및 이의 제어 방법
KR20110064289A (ko) 이동 통신 단말기에서의 데이터 송수신 방법 및 이를 적용한 이동 통신 단말기
KR20140003245A (ko) 이동 단말기 및 이동 단말기의 제어 방법
EP2958304A1 (en) Mobile terminal and control method thereof
KR101880310B1 (ko) 대화 스레드내에서 대화 정보 표시 기능을 가지는 단말기 및 그 제어 방법
KR102224477B1 (ko) 이동 단말기 및 이의 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant