KR101992191B1

KR101992191B1 - 이동 단말기 및 그 제어방법

Info

Publication number: KR101992191B1
Application number: KR1020120123038A
Authority: KR
Inventors: 김종환; 황정원; 김민경; 신경진
Original assignee: 엘지전자 주식회사
Priority date: 2012-11-01
Filing date: 2012-11-01
Publication date: 2019-06-24
Also published as: US20170003935A1; KR20140067191A; US20160092161A1; US9471274B2; US9710224B2; US20140120987A1; US9207906B2

Abstract

본 발명은 음성 인식을 통해 입력된 명령을 보다 편리하게 수정하거나, 이를 이용하여 다양한 추가 동작을 수행할 수 있는 이동 단말기 및 그 제어방법에 관한 것이다. 본 발명의 일 실시예와 관련된 이동 단말기는, 마이크; 터치스크린; 및 음성 인식모드에서 상기 마이크를 통해 입력된 적어도 하나의 사용자 음성 각각에 대한 인식 결과를 상기 터치스크린 상에 표시하고, 상기 적어도 하나의 인식 결과 중 어느 하나가 선택된 상태에서 상기 마이크를 통해 사용자 음성이 추가로 입력되면, 상기 선택된 인식 결과에 상기 추가로 입력된 사용자 음성의 인식 결과를 병합처리하는 제어부를 포함할 수 있다.

Description

이동 단말기 및 그 제어방법{MOBILE TERMINAL AND METHOD FOR CONTROLLING THEREOF}

본 발명은 이동 단말기에 관한 것으로, 보다 상세히는 음성 인식을 통해 입력된 명령을 보다 편리하게 수정하거나, 이를 이용하여 다양한 추가 동작을 수행할 수 있는 이동 단말기 및 그 제어방법에 관한 것이다.

단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.

이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

최근, 음성 인식 기능을 통하여 다양한 기능을 제공하는 이동 단말기가 증가하는 추세이다. 따라서, 보다 편리한 음성 인식 기능이 요구되고 있는 실정이다.

본 발명은 보다 편리한 음성 인식 기능을 제공할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.

특히, 본 발명은 이미 인식된 음성에 대응되는 정보를 수정하거나, 이를 이용하여 다양한 부가 기능을 수행할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

상기한 과제를 실현하기 위한 본 발명의 일 실시예와 관련된 이동 단말기는, 마이크; 터치스크린; 및 음성 인식모드에서 상기 마이크를 통해 입력된 적어도 하나의 사용자 음성 각각에 대한 인식 결과를 상기 터치스크린 상에 표시하고, 상기 적어도 하나의 인식 결과 중 어느 하나가 선택된 상태에서 상기 마이크를 통해 사용자 음성이 추가로 입력되면, 상기 선택된 인식 결과에 상기 추가로 입력된 사용자 음성의 인식 결과를 병합처리하는 제어부를 포함할 수 있다.

또한, 상기한 과제를 실현하기 위한 본 발명의 일 실시예와 관련된 이동 단말기의 제어방법은, 음성 인식모드로 진입하는 단계; 마이크를 통해 적어도 하나의 사용자 음성을 입력받는 단계; 상기 입력된 적어도 하나의 사용자 음성 각각에 대응하는 인식 결과를 터치스크린 상에 표시하는 단계; 상기 적어도 하나의 인식 결과 중 어느 하나를 선택하기 위한 입력을 수신하는 단계; 및 상기 어느 하나의 인식 결과가 선택된 상태에서 상기 마이크를 통해 사용자 음성이 추가로 입력되면, 상기 선택된 인식 결과에 상기 추가로 입력된 사용자 음성의 인식 결과를 병합처리하는 단계를 포함할 수 있다.

본 발명에 의하면, 음성 인식을 통해 보다 다양하고 편리한 기능이 제공될 수 있다.

특히, 본 발명은 이미 인식된 음성에 대응되는 정보를 선택하고, 다시 음성 인식 기능을 활성화시켜 해당 정보를 수정하거나, 이를 이용하여 다양한 부가 기능을 수행할 수 있다.

본 발명에서 얻은 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기의 전면 사시도이다.
도 3은 본 발명의 일 실시예에 따른 음성 인식 결과를 병합 처리하는 방법의 일례를 나타내는 순서도이다.
도 4a 내지 도 4c는 본 발명의 일 실시예에 따른 이동 단말기에서 음성 인식을 통해 작성된 메모에 추가 음성 인식을 통해 내용을 추가하는 방법의 일례를 나타낸다.
도 5는 본 발명의 일 실시예에 따른 이동 단말기에서 수정 희망 인식 결과를 선택하는 다른 방법 및 수정 희망 인식 결과가 선택됨을 나타내는 시각효과의 다른 일례를 나타낸다.
도 6은 본 발명의 일 실시예에 따른 이동 단말기에서 추가 음성인식이 수행됨에 따른 기 인식된 결과를 표시하는 형태의 일례를 나타낸다.
도 7은 본 발명의 일 실시예에 따른 이동 단말기에서 음성 인식을 통해 작성된 일정에 추가 음성 인식을 통해 내용을 추가하거나 변경하는 방법의 일례를 나타낸다.
도 8은 본 발명의 다른 양상에 따른 이동 단말기에서 음성 인식을 통해 검색이 수행된 후 추가 음성 인식을 통해 검색어를 추가하는 방법의 일례를 나타낸다.
도 9는 본 발명의 또 다른 양상에 따른 이동 단말기에서 음성 인식을 통해 기 입력된 정보에 대하여, 추가 인식된 음성을 이용하여 추가 기능을 수행하는 방법의 일례를 나타낸다.
도 10은 본 발명의 또 다른 양상에 따른 이동 단말기에서 음성 인식을 통해 기 입력된 정보에 대하여, 추가 인식된 음성을 이용하여 추가 기능을 수행하는 방법의 다른 일례를 나타낸다.
도 11은 본 발명의 실시예들에 적용될 수 있는, 기 인식된 음성에 대응되는 정보가 선택됨에 따라 예측한 정보를 표시하는 방법의 일례를 나타낸다.
도 12는 본 발명의 또 다른 양상에 따른 이동 단말기에서 기 인식된 결과를 선택하는 포인터의 개수에 따라 서로 다른 동작이 수행되는 형태의 일례를 나타낸다.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(100)에 제공될 수 있다.

상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미한다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS (Convergence of Broadcasting and Mobile Service), OMA-BCAST (Open Mobile Alliance-BroadCAST), CMMB (China Multimedia Mobile Broadcasting), MBBMS (Mobile Broadcasting Business Management System), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, GSM(Gobal System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA)(이에 한정되지 않음)와 같은 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), GSM, CDMA, WCDMA, LTE(Long Term Evolution)(이에 한정되지 않음) 등이 이용될 수 있다.

Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로으로 이해될 수도 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는, 이동단말기(100)의 전·후면 또는 측면에 위치하는 버튼(136), 터치 센서(정압/정전)(137)로 구성될 수 있고, 도시되지는 않았지만 키패드(key pad), 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등을 더욱 포함하여 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. (근접 센서에 관해서는 후술하도록 한다).

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 상기 터치센서(137)가 상호 레이어 구조를 이루거나 일체형으로 형성되는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가지는 경우 디스플레이부(151)에 적층되어 레이어 구조를 형성할 수도 있고, 상기 디스플레이부(151)의 구성에 포함시켜 일체형으로 이루어질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 호칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 호칭할 수 있다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미할 수 있다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있으므로, 이 경우 상기 디스플레이부(151) 및 음성출력모듈(152)은 알람부(153)의 일종으로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리부(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)가 저장될 수 있다.

또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller)(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(190)는 예를 들어 배터리, 연결포트, 전원공급제어부 및 충전모니터링부를 포함할 수 있다.

배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다. 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(170)의 일 예로서 구성될 수 있다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.

개시된 이동 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.

상기 이동단말기(100)의 바디는 외관을 이루는 케이스(101, 102, 103)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다.

USIM카드 및 메모리카드등 보조 저장매체(165)와 같이 탈착이 필요한 부품은 외측으로 부터 케이스 내부로 삽입가능하도록 케이스에는 개구부를 포함할 수 있다. 상기 보조 저장매체(165)가 이동 단말기(100)의 측면에서 삽입되어 실장되도록 케이스 측면에 슬롯이 형성될 수도 있고, 리어 케이스(102)의 표면에 실장되도록 카드 슬롯(166, 167)이 형성될 수도 있다.

케이스(101, 102, 103)는 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.

단말기 케이스(101, 102)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.

디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.

사용자 입력부(130)는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131, 132, 133)을 포함할 수 있다. 조작 유닛들(131, 132, 133)은 조작부(manipulating portion)로도 통칭 될 수 있다.

제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절과 같은 명령을 입력받고, 제3 조작유닛(133)은 디스플레이부(151)의 터치 인식 모드 활성화/비활성화 등과 같은 명령을 입력받을 수 있다.

상기 조작 유닛들(131, 132, 133)는 사용자가 압력을 가하면 인식하는 버튼방식이 있을 수 있고, 상기 디스플레이부(151) 외에 조작 유닛(131, 132, 133)에도 터치센서를 구비하여 사용자의 터치만으로 사용자의 명령을 입력받을 수도 있다.

설명의 편의를 위하여, 이하에서 언급되는 이동 단말기는 도 1에 도시된 구성요소들 중 적어도 하나를 포함한다고 가정한다. 또한, 보통 디스플레이부(151)에 상에서 특정 오브젝트를 가리키거나 메뉴를 선택하기 위한 화살표 또는 손가락 형태의 그래픽은 포인터(pointer) 또는 커서(cursor)로 호칭된다. 그러나, 포인터의 경우 터치 조작 등을 위한 손가락이나 스타일러스 펜 등을 의미하는 것으로 혼용되는 경우가 많다. 따라서 본 명세서에서는 이 둘을 명확히 구분하기 위하여 디스플레이부에 표시되는 그래픽을 커서라 칭하고, 손가락이나 스타일러스 펜과 같이 터치, 근접터치, 제스쳐(gesture)를 수행할 수 있는 물리적 수단을 포인터라 칭한다.

음성 인식의 병합처리

최근 많은 이동 단말기들에서 음성 인식 기능이 구현되고 있다. 그런데, 일반적인 이동 단말기에서는 한 번 인식된 음성에 대한 결과를 수정하거나, 그를 이용하여 다른 기능을 수행하는 것이 쉽지 않다. 따라서, 본 발명에서는 기 인식된 음성의 결과를 다시 음성 인식을 통하여 인식된 결과와 병합하여 수정하거나 다른 기능을 수행할 수 있는 방법 및 이를 수행할 수 있는 이동 단말기를 제안한다.

도 3은 본 발명의 일 실시예에 따른 음성 인식 결과를 병합 처리하는 방법의 일례를 나타내는 순서도이다.

도 3을 참조하면, 먼저 이동 단말기의 제어부(180)는 마이크(122)를 통해 입력된 음성 신호를 제어 명령으로 인식하는 음성인식 모드로 진입할 수 있다(S310).

제어부는 사용자 입력부(130)나 터치스크린을 통한 소정의 명령 입력에 따라(예를 들어, 음성인식 모드의 바로가기 아이콘 선택 등), 또는 특정 이벤트의 발생에 따라 음성인식 모드로 진입할 수 있다. 다만, 이는 예시적인 것으로 본 발명은 음성 인식 모드로의 진입 방법에 제한되지 않는다.

또한, 음성인식 모드는 하나의 어플리케이션 형태로 구현될 수도 있으며, 모드 실행 중 하나 이상의 다른 어플리케이션의 적어도 일부 기능을 호출할 수도 있다.

음성 인식 모드에 진입하면 제어부(180)는 마이크(122)를 활성화시키고, 마이크를 통해 입력되는 음성을 인식하고(S320), 인식 결과를 터치스크린(151) 상에 소정 형태(예를 들어, 텍스트, 이미지 또는 그들의 조합)출력할 수 있다(S330).

여기서 사용자가 터치스크린 상에 출력된 인식 결과를 선택하면(S340), 제어부(180)는 추가로 입력되는 음성을 인식하고(S350), 선택된 인식 결과에 추가로 인식된 음성을 병합할 수 있다(S360).

여기서 병합한다고 함은, 1) 기 인식된 결과에 추가로 인식된 결과를 추가하여 기 인식 결과를 변경하거나, 2) 두 결과를 모두 포함하는 새로운 인식 결과를 출력하거나, 3) 기 인식된 결과에 대하여 추가로 인식된 결과에 대응되는 기능을 수행하거나, 4) 기 인식된 결과에 대한 동작을 추가로 인식된 결과에도 수행하는 등, 기 인식된 결과의 적어도 일부 정보 및 추가로 인식된 결과를 함께 이용하여 소정의 동작을 수행함을 의미할 수 있다.

이하, 도 4a 내지 도 7을 참조하여 본 발명에 따른 음성 인식 방법을 통하여 기 인식된 결과를 추가 인식된 결과로 수정하는 방법을 설명한다.

도 4a 내지 도 4c는 본 발명의 일 실시예에 따른 이동 단말기에서 음성 인식을 통해 작성된 메모에 추가 음성 인식을 통해 내용을 추가하는 방법의 일례를 나타낸다.

도 4a를 포함한 이하의 도면들에서는 소정의 명령 입력을 통해 음성 인식모드에 진입한 이후의 상황을 가정하며, 음성 인식 모드의 사용자 인터페이스 상에서 사용자로부터 인식된 음성과 그에 대한 제어부의 응답은 말풍선(메시지) 스레드 형태로 터치스크린 상에 출력되는 것으로 가정한다.

도 4a를 참조하면, 음성 인식 모드에 진입함에 따라 터치스크린(151) 상에 음성 인식 모드를 위한 사용자 인터페이스가 표시된다. 사용자는 먼저 "메모"란 음성을 마이크(122)를 통해 입력하고, 제어부(180)는 그 인식 결과를 텍스트(411)로 터치스크린 상에 출력한다. 그와 함께 제어부(180)는 인식 결과를 사용자 명령으로 인식하여 사용자가 메모 작성 기능을 사용할 것임을 판단하고, 메모 내용을 입력할 것을 텍스트(421)를 통해 사용자에게 알릴 수 있다.

사용자는 입력할 메모 내용으로 "제안서 작성하자. 7월"이란 음성을 마이크를 통해 입력한다. 입력된 음성은 다시 제어부(180)에 의해 텍스트(413)로 변환되어 터치스크린 상에 표시되고, 제어부(180)는 해당 인식 결과를 저장할지 여부를 묻는 텍스트(423)를 터치스크린 상에 표시할 수 있다. 그와 함께, 메모 어플리케이션 모듈(430)이 하단에 표시될 수 있다. 메모 어플리케이션 모듈(430)에는 메모 내용으로 음성 인식된 결과에 대응되는 텍스트와 함께, 저장 여부를 결정할 수 있는 메뉴가 표시될 수 있다. 이러한 상태에서 사용자가 메모 어플리케이션 모듈(430)의 저장 메뉴를 터치입력으로 선택하거나, "저장"이란 음성을 입력하여 인식된 메모 내용을 저장할 수 있다. 이렇게 저장된 메모는 추후 메모 어플리케이션을 호출하여 확인하거나 수정할 수 있다.

여기서, 사용자가 인식된 메모 내용을 음성 인식을 통해 수정하고자 하는 경우, 도 4b와 같이 기 입력된 메모에 대응하는 텍스트(413)를 선택할 수 있다. 그에 따라 기 입력된 메모에 대응하는 텍스트(413) 및/또는 메모 어플리케이션 모듈(430)에 표시된 메모 텍스트(431)에 해당 텍스트가 선택됨을 나타내는 소정의 시각효과가 표시될 수 있다. 이때, 제어부(180)는 터치스크린(151) 상으로 표시되는 수정 희망 인식 결과에 단순 터치, 근접 터치, 소정 시간 이상 터치 상태가 유지되는 경우, 또는 터치 상태가 유지되고 있는 동안 해당 인식 결과가 선택된 것으로 판단할 수 있다. 아울러, 선택됨을 나타내는 소정의 시각효과는 인식 결과가 표시되는 말풍선의 색상 변경, 테두리 강조 효과, 다른 색상의 점멸, 인디케이터 표시 등을 포함할 수 있으며, 보다 상세한 내용은 도 5를 참조하여 후술한다.

수정 희망 인식 결과(413)가 선택된 상태에서 사용자로부터 추가로 음성이 입력되면(여기서는 "25일까지 해야 한다") 제어부(180)는 도 4c와 같이 추가로 인식된 음성에 대응되는 정보를 이용하여 수정 희망 인식 결과를 수정(413')할 수 있다. 이때 메모 어플리케이션 모듈(430)에 표시되는 텍스트(431)도 함께 수정(431')될 수 있다.

한편, 수정 희망 인식 결과의 선택은 보다 다양한 방법을 통해 수행될 수 있으며, 제어부는 보다 다양한 방법을 통해 수정 희망 인식 결과가 선택됨을 사용자에게 알릴 수 있다. 이를 도 5를 참조하여 설명한다.

도 5는 본 발명의 일 실시예에 따른 이동 단말기에서 수정 희망 인식 결과를 선택하는 다른 방법 및 수정 희망 인식 결과가 선택됨을 나타내는 시각효과의 다른 일례를 나타낸다.

도 5의 (a)를 참조하면, 메모 어플리케이션 모듈에 "이어서 저장" 메뉴(433)가 추가로 표시될 수도 있다. 여기서 해당 메뉴(433)가 선택되는 경우 제어부(180)는 이후 입력되는 사용자 음성에 대응되는 인식 결과를 기 인식된 메모에 추가할 수 있다.

한편, 도 5의 (b)를 참조하면, 수정 희망 인식 결과의 정확한 선택을 도움과 함께(오작동 방지), 사용자에게 추가 음성 인식이 가능함을 알리기 위하여 제어부(180)는 수정 희망 인식 결과에 터치 입력이 유지되는 시간에 비례하여 사용자 인터페이스 하단의 음성 인식 아이콘(510)의 테두리의 색상이 점점 변하도록 할 수 있다. 소정 시간이상 터치 입력이 유지되면, 도 5의 (c)와 같이 음성 인식 아이콘(510)의 테두리의 색상이 완전히 변경될 수 있으며, 제어부(180)는 색상이 완전히 변경된 후에 입력되는 사용자 음성을 추가로 인식하여 선택된 말풍선(413), 즉, 수정 희망 인식 결과 및/또는 메모 어플리케이션 모듈의 메모 텍스트(431)에 반영할 수 있다.

또는 도 5의 (d)와 같이 수정 희망 인식 결과가 선택됨에 따라 제어부(180)는 메모 어플리케이션 모듈의 메모 텍스트(431)가 표시되는 영역에 커서(435)를 표시하거나, 해당 영역에 빈 칸(행)을 추가로 표시할 수도 있다.

다음으로, 도 6을 참조하여 추가 음성인식이 수행됨에 따라 터치스크린에 표시되는 기 인식된 결과의 처리를 설명한다.

도 6은 본 발명의 일 실시예에 따른 이동 단말기에서 추가 음성인식이 수행됨에 따른 기 인식된 결과를 표시하는 형태의 일례를 나타낸다.

도 6에서는 도 4b와 같은 상황에서 기 입력된 메모에 대응하는 텍스트(413)가 선택된 후 추가로 "25일까지 해야 한다"는 사용자 음성이 인식된 상황을 가정한다. 도 4c에서는 선택된 말풍선(413) 자체에서 추가로 인식된 음성 병합의 결과가 표시(413')되었다. 그런데, 도 6의 (a)와 같이 선택된 기존의 말풍선(413)은 그대로 둔 상태에서 추가로 병합 결과에 따른 말풍선(415)이 표시될 수도 있다. 그에 따른 제어부(180)의 응답 텍스트(425)가 추가로 표시될 수 있다.

또는, 도 6의 (b)와 같이 선택된 기존의 말풍선(413)이 수정됨을 나타내는 가로 선(610)이 추가로 표시될 수도 있다.

도 5 및 도 6을 참조하여 설명한 인식 결과 선택 방법, 선택됨을 알리는 시각 효과 및 추가 음성 인식에 따른 기존 인식 결과의 처리 방법은 전술한 도 4는 물론, 후술할 다른 도면들을 통해 설명될 실시예들에도 선택적으로 적용될 수 있다.

다음으로, 도 7을 참조하여 음성 인식을 통해 설정된 일정을 변경하거나 추가하는 방법을 설명한다.

도 7은 본 발명의 일 실시예에 따른 이동 단말기에서 음성 인식을 통해 작성된 일정에 추가 음성 인식을 통해 내용을 추가하거나 변경하는 방법의 일례를 나타낸다.

도 7의 (a)를 참조하면, 음성 인식 모드에 진입함에 따라 터치스크린(151) 상에 음성 인식 모드를 위한 사용자 인터페이스가 표시된다. 사용자는 먼저 "일정"이란 음성을 마이크(122)를 통해 입력하고, 제어부(180)는 그 인식 결과를 텍스트(711)로 터치스크린 상에 출력한다. 그와 함께 제어부(180)는 인식 결과를 사용자 명령으로 인식하여 사용자가 일정 추가 기능을 사용할 것임을 판단하고, 일정 시간을 입력할 것을 텍스트(721)를 통해 사용자에게 알릴 수 있다.

사용자는 시간에 대응되는 음성을 입력함에 따라 인식된 시간이 표시되며(713), 제어부(180)는 일정 내용 입력을 요구하는 텍스트(723)를 출력한다. 그에 따라 사용자가 "즐거운 생일 파티"란 음성을 마이크를 통해 입력한다. 입력된 음성은 다시 제어부(180)에 의해 텍스트(715)로 변환되어 터치스크린 상에 표시되고, 제어부(180)는 2회에 걸쳐 입력된 음성의 인식 결과를 통합하여 하나의 일정을 설정할지 여부를 묻는 텍스트(725)를 터치스크린 상에 표시할 수 있다.

그와 함께, 일정 어플리케이션 모듈(730)이 하단에 표시될 수 있다. 일정 어플리케이션 모듈(730)에는 메모 내용으로 음성 인식된 결과에 대응되는 일정 정보와 함께, 저장 여부를 결정할 수 있는 메뉴가 표시될 수 있다. 이러한 상태에서 사용자가 일정 어플리케이션 모듈(730)의 저장 메뉴를 터치입력으로 선택하거나, "저장"이란 음성을 입력하여 인식된 메모 내용을 저장할 수 있다. 이렇게 저장된 메모는 추후 일정 어플리케이션을 호출하여 확인하거나 수정할 수 있다.

여기서, 사용자가 인식된 일정 내용의 특정 부분에 음성 인식을 통해 정보를 추가하고자 하는 경우, 기 인식된 일정 내용이 표시되는 텍스트(715)에서 삽입 희망 지점에 터치 입력을 가할 수 있다.

이후 "민정이"란 음성을 추가로 입력하면 도 7의 (b)와 같이 선택된 지점, 즉, "즐거운"과 "생일 파티" 사이에 추가로 입력된 음성에 대응되는 내용이 추가될 수 있다(715'). 이때, 일정 어플리케이션 모듈에 표시되는 일정 정보 또한 변경될 수 있다(730'). 만일, 도 7의 (a)와 같이 말풍선 내의 텍스트 특정 부분이 아닌 공백 부분이 선택되면 도 4에서와 같이 텍스트 끝부분에 추가로 입력된 음성에 대응되는 내용이 추가될 수 있다. 유사하게, 도 6의 (c)와 같이 기 인식된 시간을 변경하고자 하는 경우, 사용자는 일정에 대응되는 텍스트(713)를 선택한 후 변경 희망 시간을 음성으로 입력하여 도 6의 (d)와 같이 시간을 변경할 수 있다.

병합 검색

지금까지는 메모나 일정처럼 새로운 정보를 생성한 후 수정하는 방법을 중심으로 본 발명을 설명하였다. 이와 달리, 본 발명의 다른 양상에서는 음성 인식을 이용한 검색 기능을 사용할 경우 기존 검색 결과에 새로운 검색 키워드를 병합하여 비교하는 방법을 제안한다.

도 8은 본 발명의 다른 양상에 따른 이동 단말기에서 음성 인식을 통해 검색이 수행된 후 추가 음성 인식을 통해 검색어를 추가하는 방법의 일례를 나타낸다.

도 8에서는 음성 인식 모드에 진입함에 따라 터치스크린(151) 상에 음성 인식 모드를 위한 사용자 인터페이스가 표시된 후, 음성 인식을 통해 "인터넷 검색"을 입력하고, 그에 대한 응답으로 "검색어를 입력해주세요"란 텍스트가 표시된 이후 상황을 가정한다.

도 8의 (a)를 참조하면, 검색어로 "광화문 근처"가 입력되어, 인식된 텍스트(811)가 표시되고, 제어부(180)는 해당 텍스트로 인터넷 검색을 수행한 후, 그 검색 결과로 응답 텍스트(821)와 광화문 인근에 해당하는 지도 정보(822)를 표시할 수 있다. 여기서 사용자가 다시 "서울역 근처"를 검색어로 입력하면, 인식된 텍스트(813), 응답 텍스트(823) 및 서울역 인근에 해당하는 지도 정보(824)가 순차적으로 표시될 수 있다.

그런데, 도 8의 (a)와 같은 상황에서 사용자가 기 인식된 검색어에 대응되는 텍스트(811)를 도 8의 (c)와 같이 터치 입력을 통해 선택한 후 추가로 "서울역은?"이란 음성을 입력하면, 도 8의 (d)와 같이 기 인식된 검색어와 함께 추가로 입력된 음성에 대응되는 검색어가 함께 표시된다(815). 그에 따라 제어부(180)는 각 검색어의 검색을 함께 수행하고, 그 결과에 따른 텍스트(825) 및 지도 정보(826)를 함께 표시할 수 있다. 이때, 표시되는 검색 결과에 해당하는 지도 정보는 도 8의 (d)와 같이 단독 검색어에 의한 지도 정보보다 간략한 형태가 될 수도 있고, 단독 검색시의 지도 정보 각각이 822 및 824와 같은 형태로 순차적으로 표시될 수도 있다(미도시). 만일 간략한 형태가 되는 경우에는, 각 검색 결과 중 어느 하나가 선택될 때 해당 결과가 보다 상세하게 표시될 수도 있다. 또한, 검색 대상이 각 지역의 날씨인 경우에는 지도 정보 대신 기온, 구름 상태 등이 서로 비교 가능한 형태로 표시될 수 있으며, 검색 대상이 네비게이션 경로인 경우에는 목적지까지의 거리나 예상 소요 시간 등이 비교 가능한 형태로 함께 표시될 수 있다.

기능 병합 실행

본 발명의 또 다른 양상에서는 기 인식된 음성에 대한 정보를 이용하여 추가 인식되는 음성에 대응되는 기능을 수행하는 방법을 제안한다.

도 9는 본 발명의 또 다른 양상에 따른 이동 단말기에서 음성 인식을 통해 기 입력된 정보에 대하여, 추가 인식된 음성을 이용하여 추가 기능을 수행하는 방법의 일례를 나타낸다.

도 9의 (a)를 참조하면, 음성 인식 모드에 진입함에 따라 터치스크린(151) 상에 음성 인식 모드를 위한 사용자 인터페이스가 표시된다. 사용자는 먼저 "아빠에게 문자 보내줘"란 음성을 마이크(122)를 통해 입력하고, 제어부(180)는 그 인식 결과를 텍스트(911)로 터치스크린 상에 출력한다. 그와 함께 제어부(180)는 인식 결과를 사용자 명령으로 인식하여 사용자가 "문자 메시지"를 "아빠"란 수신인에 전송할 것임을 판단하고, 전송할 메시지 내용을 입력할 것을 텍스트(921)를 통해 사용자에게 알릴 수 있다. 사용자는 전송할 메시지 내용에 대응되는 음성을 입력함에 따라 인식된 내용이 표시되며(912), 제어부(180)는 전송 여부를 사용자에게 문의하는 텍스트(922)를 출력한다. 그와 함께 인식된 내용을 포함하는 문자 메시지 어플리케이션 모듈(930)이 표시될 수 있다. 여기서 사용자가 문자 메시지 어플리케이션 모듈(930)의 전송 메뉴를 선택하면 해당 내용의 전송이 수행될 수 있다.

문자 메시지 전송이 완료되면, 도 9의 (b)와 같이 해당 모듈(930')에서 전송/취소 메뉴가 사라질 수 있으며, 메시지가 전송됨을 알리는 텍스트(923)가 표시될 수 있다. 이후, 사용자는 추가 기능 실행을 위해 "다른 명령 입력"을 음성으로 입력할 수 있고, 그에 따른 인식 텍스트(913)와 응답 텍스트(924)가 각각 표시될 수 있다. 이후 사용자는 전송 완료된 문자 메시지 어플리케이션 모듈(930;)을 선택하고, "엄마랑 동생에게 전달해"란 음성을 입력할 수 있다.

그에 따라, 도 9의 (c)와 같이 제어부(180)는 기 전송된 메시지와 동일한 내용의 메시지를 엄마와 동생에게 전달할지 여부를 사용자에게 문의하는 텍스트(925)를 표시할 수 있다. 또한, 제어부(180)는 엄마와 동생을 수신인으로 하면서 기 전송된 내용과 동일한 내용이 입력된 문자 메시지 어플리케이션 모듈(940)을 표시할 수 있다. 여기서 사용자가 문자 메시지 어플리케이션 모듈(940)의 전송 메뉴를 선택하거나, 음성으로 "전송"을 입력하는 경우 문자 메시지 어플리케이션 모듈(940)에 나타난 바와 같이 문자 메시지 전송이 수행될 수 있다.

그 결과, 도 9의 (d)와 같이 제어부(180)는 내용이 동일한 문자 메시지의 수신인이 추가됨을 판단하여 수신인이 수정된 문자 메시지 어플리케이션 모듈(940')과, 전송 완료를 나타내는 텍스트(926)를 표시할 수 있다. 만일, 도 9의 (d)와 같이 수신인이 수정되는 경우에는 이전의 문자 메시지 어플리케이션 모듈(930')은 사용자 인터페이스에서 사라지거나 도 6의 (b)에서와 같이 가로줄이 표시될 수 있다. 또한, 도 9의 (d)와 달리 수신인이 수정되지 않는 경우에는 이전의 문자 메시지 어플리케이션 모듈(930')은 그대로 유지될 수 있다.

물론, 도 9의 (a)와 같은 상황에서 전송을 선택하지 않고, 추가 기능 실행을 위해 "다른 명령 입력" 또한 입력하지 않은 상태에서 인식된 메시지 내용(912)을 선택하는 경우에는 도 4에서와 같이 해당 내용에 추가로 인식되는 음성에 대응되는 정보를 추가할 수 있다. 또한, 인식된 메시지 내용(912) 중에서 터치되는 부분에 따라 추가로 인식되는 음성에 대응되는 정보가 삽입될 위치가 변경될 수도 있다.

다음으로, 도 10을 참조하여 음성 인식에 따른 음성 통화의 경우를 설명한다.

도 10은 본 발명의 또 다른 양상에 따른 이동 단말기에서 음성 인식을 통해 기 입력된 정보에 대하여, 추가 인식된 음성을 이용하여 추가 기능을 수행하는 방법의 다른 일례를 나타낸다.

도 10의 (a)를 참조하면, 음성 인식 모드에 진입함에 따라 터치스크린(151) 상에 음성 인식 모드를 위한 사용자 인터페이스가 표시된다. 사용자는 먼저 "전화"란 음성을 마이크(122)를 통해 입력하고, 제어부(180)는 그 인식 결과를 텍스트(1011)로 터치스크린 상에 출력한다. 그와 함께 제어부(180)는 인식 결과를 사용자 명령으로 인식하여 사용자가 음성통화를 수행할 것임을 판단하고, 수신인을 입력할 것을 텍스트(1021)를 통해 사용자에게 알릴 수 있다. 사용자가 수신인의 이름에 대응되는 음성을 입력함에 따라 인식된 내용이 표시되며(1013), 제어부(180)는 전화번호부를 검색하여 입력된 음성에 대응되는 연락처 정보를 획득하고, 해당 연락처로의 음성통화 연결 여부를 사용자에게 문의하는 텍스트(1023)를 출력한다. 여기서 사용자가 현재 인식된 "홍길동"을 수정/변경하고자 하는 경우에는 인식된 수신인(1013)을 선택하고 추가로 음성을 입력할 수 있다. 이와 달리, 수신인을 추가하여 다자간 통화로 기능을 변경하고자 하는 경우에는 "다른 명령 입력" 음성을 입력할 수 있고, 터치스크린(151) 상에는 그에 따른 인식 텍스트(1015)와 응답 텍스트(1025)가 각각 표시될 수 있다.

이후 사용자가 "홍길순과 함께 통화"란 음성을 추가로 입력하면, 도 10의 (b)와 같이 이전에 인식된 상대방에 추가로 인식된 음성이 함께 텍스트(1017)로 표시될 수 있다. 이때, 제어부(180)는 통화 상대가 추가되어 복수의 통화 상대방이 선택됨을 인식하고, 사용자가 다자간 통화 기능을 요청함을 판단할 수 있으며, 그에 따라 다자간 통화 실행여부를 묻는 텍스트(1027)를 출력할 수 있다.

예측 정보 표시

본 발명에 따른 이동 단말기는 기 인식된 음성에 대한 정보가 선택될 때 사용자가 추가로 입력할 명령을 예측하고, 이를 표시해줄 수도 있다. 이를 도 11을 참조하여 설명한다.

도 11은 본 발명의 실시예들에 적용될 수 있는, 기 인식된 음성에 대응되는 정보가 선택됨에 따라 예측한 정보를 표시하는 방법의 일례를 나타낸다.

도 11의 (a)를 참조하면, 음성 인식 모드에 진입함에 따라 터치스크린(151) 상에 음성 인식 모드를 위한 사용자 인터페이스가 표시된다. 사용자는 먼저 "홍길동에게 전화걸어줘"란 음성을 마이크(122)를 통해 입력하고, 제어부(180)는 그 인식 결과를 텍스트(1111)로 터치스크린 상에 출력한다. 그와 함께 제어부(180)는 인식 결과를 사용자 명령으로 인식하여 사용자가 홍길동이란 상대방에게 음성통화를 수행할 것임을 판단하고, 전화번호부를 검색하여 홍길동에 대응되는 연락처 정보를 획득하고, 해당 연락처로의 음성통화 연결 여부를 사용자에게 문의하는 텍스트(1121)를 출력한다. 홀길동과의 통화 연결 여부에 관계없이, 사용자가 "다른 명령 입력" 음성을 입력하는 경우, 터치스크린(151) 상에는 그에 따른 인식 텍스트(1113)와 응답 텍스트(1123)가 각각 표시될 수 있다. 이러한 상태에서 최초 인식된 텍스트(1111)에서 수신인인 "홍길동" 부분이 선택되는 경우, 제어부(180)는 "홍길동"이란 수신인에 대하여 수행할 수 있는 기능을 판단하고, 도 11의 (b)와 같이 그 결과(1130)를 터치스크린 상에 표시할 수 있다. 이때, 판단 결과(1130)의 정렬 순서를 결정함에 있어서는 사용 빈도나 최근 실행 순서 등이 고려될 수 있다.

한편, 도 11의 (c)와 같이 최초 인식된 텍스트(1111)에서 실행 기능인 "전화" 부분이 선택되는 경우, 제어부(180)는 "전화"를 걸 수 있는 다른 수신인을 판단하고, 도 11의 (d)와 같이 그 결과(1140)를 터치스크린 상에 표시할 수 있다.

포인터의 개수에 따른 추가 음성 입력

본 발명의 또 다른 양상에서는 기 인식된 음성에 대한 정보를 선택함에 있어서 동시에 터치되는 포인터(즉, 터치 지점)의 개수에 따라 서로 다른 동작이 수행되도록 할 것을 제안한다.

도 12는 본 발명의 또 다른 양상에 따른 이동 단말기에서 기 인식된 결과를 선택하는 포인터의 개수에 따라 서로 다른 동작이 수행되는 형태의 일례를 나타낸다.

도 12의 (a)를 참조하면, 음성 인식 모드에 진입함에 따라 터치스크린(151) 상에 음성 인식 모드를 위한 사용자 인터페이스가 표시된다. 사용자는 먼저 "아빠에게 문자 보내줘"란 음성을 마이크(122)를 통해 입력하고, 제어부(180)는 그 인식 결과를 텍스트(1211)로 터치스크린 상에 출력한다. 그와 함께 제어부(180)는 인식 결과를 사용자 명령으로 인식하여 사용자가 "문자 메시지"를 "아빠"란 수신인에 전송할 것임을 판단하고, 전송할 메시지 내용을 입력할 것을 텍스트(1221)를 통해 사용자에게 알릴 수 있다. 사용자는 전송할 메시지 내용에 대응되는 음성을 입력함에 따라 인식된 내용이 표시되며(1213), 제어부(180)는 전송 여부를 사용자에게 문의하는 텍스트(1223)를 출력한다. 그와 함께 인식된 내용을 포함하는 문자 메시지 어플리케이션 모듈(1230)이 표시될 수 있다. 여기서 인식된 문자 메시지의 내용이 표시되는 텍스트(1213)가 한 손가락으로(즉, 하나의 터치 지점이 발생하도록) 선택되면 추가로 입력되는 음성이 해당 텍스트에 추가될 수 있다.

이와 달리, 인식된 문자 메시지의 내용이 표시되는 텍스트(1213)가 도 12의 (a)와 같이 두한 손가락으로(즉, 하나의 터치 지점이 발생하도록) 선택되면 추가로 입력되는 음성이 부가 기능을 수행하기 위한 명령으로 인식될 수 있다.

예를 들어, 도 12의 (b)와 같이 추가로 입력되는 음성이 "갤러리 사진 첨부"(1215)인 경우, 제어부(180)는 사용자가 해당 메시지에 이미지를 첨부하고자 하는 것으로 판단하고, 갤러리 어플리케이션을 실행함을 나타내는 텍스트(1225)를 출력한 후 갤러리 어플리케이션을 실행할 수 있다(미도시). 갤러리 어플리케이션에서 첨부할 이미지가 선택되면, 도 12의 (c)와 같이 선택된 이미지가 첨부되어 문자 메시지 어플리케이션 모듈(1230')에 표시될 수 있다.

다른 예로, 도 12의 (d)와 같이 추가로 입력되는 음성이 "수신인 추가"(1217)인 경우, 제어부(180)는 사용자가 해당 메시지의 수신인을 추가하고자 하는 것으로 판단하고, 추가 수신인을 입력할 것을 요청하는 텍스트(1227)를 출력한다. 그에 따라 사용자가 추가 수신인을 음성으로 입력(1219)하면, 제어부는 응답 텍스트(1229)를 출력하고, 문자 메시지 어플리케이션 모듈(1230")에 추가된 수신인이 표시될 수 있다.

한편, 도 12와 달리, 동시에 터치되는 지점의 수에 따라 추가 음성인식 없이 특정 기능이 바로 실행되도록 할 수도 있다. 예를 들어, 인식된 문자 메시지 내용에 대응되는 텍스트가 두 개의 손가락으로 선택되면 바로 이미지 첨부를 위한 갤러리 어플리케이션이 실행될 수도 있고, 인식된 문자 메시지 내용에 대응되는 텍스트가 세 개의 손가락으로 선택되면 바로 수신인 추가 입력을 요청하는 텍스트(1227)가 표시될 수 있다. 이러한 경우에는. 하나의 인식 결과에 동시 터치되는 지점의 수와 그에 대응되는 기능은 미리 결정되어 있는 것이 바람직하며, 그 대응관계는 사용자에 의해 변경될 수 있다.

전술한 실시예들에서, 제어부(180)는 음성 인식 모드에서 사용자 음성의 인식 결과에 따른 응답이나 사용자 음성 입력 요청을 위해 텍스트를 출력할 때, 해당 텍스트에 대응되는 음성을 음향 출력부(152)를 통해 출력할 수도 있다. 물론, 해당 텍스트를 출력(디스플레이)하지 않고 음성만이 출력되도록 할 수도 있다.

또한, 본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.

상기와 같이 설명된 이동 단말기 및 그 제어방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

Claims

마이크;
터치스크린; 및
음성 인식모드에서 상기 마이크를 통해 입력된 적어도 하나의 사용자 음성에 대한 인식 결과를 나타내는 제1 정보를 상기 터치스크린 상에 표시하고,
상기 제1 정보가 선택된 상태에서 상기 마이크를 통해 사용자 음성이 추가로 입력되면, 상기 선택된 제1 정보 및 상기 추가로 입력된 사용자 음성의 추가 인식 결과를 나타내는 제2 정보를 병합한 제3 정보를 상기 터치스크린 상에 표시하고,
상기 제3 정보가 표시된 후 상기 제1 정보에 기반하여 상기 제3 정보가 표시됨을 나타내는 시각 효과를 상기 제1 정보 상에 표시하는 제어부를 포함하는, 이동 단말기.
제 1항에 있어서,
상기 제어부는,
상기 선택된 제1 정보가 특정 항목에 입력되는 텍스트인 경우, 상기 제2 정보를 상기 텍스트에 삽입하는, 이동 단말기.
삭제
삭제
제 1항에 있어서,
상기 제어부는,
상기 제1 정보를 텍스트 형태로 상기 터치스크린 상에 표시하고,
상기 제1 정보에 대한 응답 또는 정보 입력 요청을 텍스트 형태로 상기 터치스크린 상에 표시하는, 이동 단말기.
삭제
삭제
제 1항에 있어서,
상기 제1 정보 및 제3 정보는, 메시지 스레드(message thread) 형태로 표시되는, 이동 단말기
제 1항에 있어서,
상기 제어부는,
상기 제1 정보가 제 1 검색어인 경우, 상기 제2 정보를 제 2 검색어로 인식하고, 상기 제 1 검색어의 검색 결과와 상기 제 2 검색어의 검색 결과를 함께 상기 터치스크린 상에 표시하는, 이동 단말기.
제 1항에 있어서,
상기 제어부는,
상기 마이크를 통해 특정 음성 명령이 입력된 후, 상기 제1 정보가 선택된 상태에서 상기 마이크를 통해 사용자 음성이 추가로 입력되면, 상기 선택된 제1 정보에 대하여 상기 추가로 입력된 사용자 음성의 인식 결과에 대응되는 기능을 수행하는, 이동 단말기.
삭제
제 1항에 있어서,
상기 제1 정보의 선택은 터치 입력을 통해 수행되고,
상기 제어부는 상기 제1 정보 상에 동시에 가해지는 터치 입력의 개수에 따라 서로 다른 방식으로 상기 제1 및 제2 정보를 병합 처리하는, 이동 단말기.
제 1항에 있어서,
상기 제어부는,
상기 제1 정보에 터치 입력이 지속되는 동안만 상기 터치 입력이 지속된 제1 정보가 선택된 것으로 인식하고,
상기 터치 입력의 지속 시간에 대응하여 그 형태 및 색상 중 적어도 하나가 변경되는 인디케이터를 상기 터치스크린 상에 표시하는, 이동 단말기.
삭제
삭제
삭제