KR20150032055A - 이동 단말기 및 그것의 제어방법 - Google Patents

이동 단말기 및 그것의 제어방법 Download PDF

Info

Publication number
KR20150032055A
KR20150032055A KR20130112042A KR20130112042A KR20150032055A KR 20150032055 A KR20150032055 A KR 20150032055A KR 20130112042 A KR20130112042 A KR 20130112042A KR 20130112042 A KR20130112042 A KR 20130112042A KR 20150032055 A KR20150032055 A KR 20150032055A
Authority
KR
South Korea
Prior art keywords
input
voice
display unit
handwriting input
touch
Prior art date
Application number
KR20130112042A
Other languages
English (en)
Other versions
KR102063766B1 (ko
Inventor
전현주
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020130112042A priority Critical patent/KR102063766B1/ko
Priority to US14/272,233 priority patent/US9390715B2/en
Priority to EP14183756.7A priority patent/EP2849055B1/en
Priority to CN201410471923.5A priority patent/CN104468964B/zh
Publication of KR20150032055A publication Critical patent/KR20150032055A/ko
Application granted granted Critical
Publication of KR102063766B1 publication Critical patent/KR102063766B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38—Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/40—Circuits
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/166—Editing, e.g. inserting or deleting
    • G06F40/171—Editing, e.g. inserting or deleting by use of digital ink
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/24—Speech recognition using non-acoustical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04808—Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Abstract

이동 단말기 및 그것의 제어방법이 개시된다. 본 발명의 실시예에 따른 이동 단말기는 음성을 입력받는 마이크와, 필기 입력을 위한 터치가 가능하도록 이루어지고, 터치에 따라 상기 입력받는 음성의 적어도 일부에 대한 필기 입력을 출력하는 디스플레이부와, 음성 인식 모드가 활성화되면 상기 입력받는 음성을 인식하고, 상기 음성인식되는 컨텐츠를 상기 디스플레이부에 출력되는 필기 입력과 비교하고, 비교 결과 상기 음성인식되는 컨텐츠 및 상기 필기 입력과 관련된 정보를 포함하는 입력 추천 정보가 출력되도록 상기 디스플레이부를 제어하는 제어부를 포함하여 이루어진다.

Description

이동 단말기 및 그것의 제어방법{MOBILE TERMINAL AND CONTROL METHOD FOR THE MOBILE TERMINAL}
본 발명은 음성인식된 문자가 디스플레이부에 표시되는 것이 가능한 이동 단말기 및 그것의 제어방법에 관한 것이다.
단말기(terminal)는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.
또한, 이러한 이동 단말기는, 통화내용이나 외부에서 발화되는 음성을 인식하여 다양한 방식으로 활용하려는 노력이 이루어지고 있다. 예를 들어, 통화내용이나 외부에서 발화되는 음성을 텍스트 변환하는 SST(Speech To Text) 기능을 이용하여 메시지(Message)를 작성할 수 있다.
한편, 사용자가 통화내용이나 외부에서 발화되는 모든 내용을 SST 기능만을 사용하여 입력하는 경우 시간이 많이 소요된다. 또한, 그러한 경우 통화내용이나 외부에서 발화되는 내용 중에서 특히 중요한 내용에 대해 사용자가 쉽게 인지하기가 어렵게 된다.
따라서, 본 발명의 일 목적은 마이크를 통해 입력되는 음성을 텍스트 변환할 때 사용자가 디스플레이부에 필기 입력한 부분을 고려할 수 있도록 한 이동 단말기 및 그것의 제어방법을 제공하는데 있다.
이를 위해, 본 발명의 일 실시 예에 따른 이동 단말기는 음성을 입력받는 마이크와; 필기 입력을 위한 터치가 가능하도록 이루어지고, 터치에 따라 상기 입력받는 음성의 적어도 일부에 대한 필기 입력을 출력하는 디스플레이부와; 음성 인식 모드가 활성화되면 상기 입력받는 음성을 인식하고, 상기 음성인식되는 컨텐츠를 상기 디스플레이부에 출력되는 필기 입력과 비교하고, 비교 결과 상기 음성인식되는 컨텐츠 및 상기 필기 입력과 관련된 정보를 포함하는 입력 추천 정보가 출력되도록 상기 디스플레이부를 제어하는 제어부를 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 입력 추천 정보는, 상기 음성인식되는 문자 중, 상기 필기 입력된 문자의 위치 정보와, 상기 필기 입력된 문자의 수정 정보와, 상기 필기 입력된 문자를 제외한 나머지 문자의 정보와, 상기 필기 입력된 문자와 상기 필기 입력된 문자를 제외한 나머지 문자를 서로 구별하기 위한 표시 정보 중 적어도 하나 이상을 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 음성인식되는 문자를 문장단위로 텍스트 변환하여, 상기 필기 입력과 중첩되지 않도록 상기 디스플레이부의 일 영역에 팝업시키고, 팝업된 문장이 선택되면, 상기 선택된 문장의 적어도 일부가 상기 입력 추천 정보를 기초로 상기 필기 입력이 출력된 영역에 삽입되도록 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 선택된 문장의 적어도 일부가 삽입되는 경우, 상기 디스플레이부에 출력된 필기 입력의 문자를 상기 선택된 문장의 문자로 대체시키고, 상기 대체된 문자를 상기 선택된 문장의 다른 문자와 시각적으로 구별되게 표시되도록 상기 디스플레이부를 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 대체된 문자의 형상을 상기 선택된 문장의 다른 문자의 형상과 다르게 변경하거나 또는 상기 대체된 문자에 하이라이팅 효과를 출력하도록 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 디스플레이부에 필기 입력의 공간이 부족한 것으로 판단되거나 상기 디스플레이부에 제1방향의 터치 입력이 감지되면, 기출력된 문자들의 크기를 조절하여 메모 공간이 확보되도록 상기 디스플레이부를 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 디스플레이부에 필기 입력의 공간이 부족한 것으로 판단되거나 상기 디스플레이부에 제2방향의 터치 입력이 감지되면, 페이지 넘김 효과가 출력되면서 새로운 페이지가 표시되도록 상기 디스플레이부를 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 필기 입력에 그림 이미지가 포함된 경우이면, 상기 제어부는, 상기 팝업된 문장이 선택되는 것에 응답하여, 상기 그림 이미지와 유사한 형상의 이모티콘을 메모리로부터 검출하고, 상기 그림 이미지를 상기 검출된 이모티콘으로 대체하여 상기 디스플레이부에 표시하는 것을 특징으로 한다.
일 실시예에서, 상기 필기 입력에 상기 음성인식된 문자의 추가 여부를 달리하는 제 1 화면 모드 및 제 2 화면 모드 중 어느 하나를 실행하기 위한 제어명령을 입력받도록 이루어진 사용자 입력부를 더 포함하고, 상기 제어부는, 상기 제 1 화면 모드에서는, 상기 디스플레이부에 상기 입력받는 음성의 적어도 일부와 관련된 필기 입력만 출력되도록 하고, 상기 제 2 화면 모드에서는, 상기 디스플레이부에 상기 입력받는 음성의 적어도 일부와 관련된 필기 입력과 상기 음성인식되는 문자중 적어도 일부가 상기 필기 입력에 추가 입력된 화면이 출력되도록 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 사용자 입력부는, 상기 입력받는 음성에 따른 녹음을 재생하기 위한 제어명령을 입력받도록 이루어지고, 상기 제어부는, 상기 제 1 및 제 2 화면 모드 중 어느 하나에 대응되는 화면이 출력된 상태에서 상기 녹음을 재생하기 위한 제어명령이 입력되면, 상기 녹음된 음성이 재생되는 속도에 따라 상기 출력된 화면을 스크롤하도록 상기 디스플레이부를 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 제 1 및 제 2 화면 모드 중 어느 하나에 대응되는 화면이 출력된 상태에서 상기 출력된 화면에 기설정된 터치 입력이 감지되면, 편집 모드로 진입하고 상기 터치 입력이 감지된 지점에 입력 위치를 나타내는 표시를 출력시키는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 음성 인식 모드가 비활성화 상태로 변경되거나 상기 입력받는 음성의 녹음이 완료되면, 상기 생성된 입력 정보를 기초로 상기 필기 입력에 추가가능한 문자의 리스트를 출력하도록 상기 디스플레이부를 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 리스트에서 특정 문자에 제1터치가 감지되면 상기 특정 문자를 상기 필기 입력에 추가시키고, 상기 추가된 특정 문자에 대한 제2터치가 감지되면, 상기 제2터치의 드래그가 종료되는 지점에 상기 특정 문자를 배치시키는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 음성 인식 모드가 활성화된 상태에서 자동 입력 기능이 선택되면, 상기 음성인식되는 문자를 일정단위로 텍스트 변환하고, 상기 입력 추천 정보에 근거하여, 상기 변환된 텍스트를 상기 필기 입력이 출력된 영역에 실시간으로 추가시키는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 제1 애플리케이션에 대응되는 상기 필기 입력의 화면이 상기 디스플레이부에 출력된 상태에서 제1 제어명령이 감지되면, 상기 필기 입력의 화면을 제2 애플리케이션에 대응되는 실행화면으로 전환시키고 상기 디스플레이부의 일 영역에 상기 입력받는 음성이 녹음중임을 나타내는 그래픽 객체를 출력하도록 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 그래픽 객체에 기설정된 방식의 터치 입력이 감지되면, 상기 제 1 애플리케이션에 대응되는 상기 필기 입력의 화면을 상기 디스플레이부에 다시 출력시키고, 상기 제 2 애플리케이션에 대응되는 실행화면이 출력되는 동안 자동 녹음된 음성에 대응되는 텍스트 문자를 상기 필기 입력이 출력된 영역에 삽입시키는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 디스플레이부에 인가되는 필기 입력의 속도가 상기 음성의 입력 속도보다 기준범위 이상 느린 것으로 판단되면, 상기 음성인식되는 문자를 텍스트 변환하고, 상기 변환된 텍스트를 상기 필기 입력이 출력된 영역에 실시간으로 추가하는 자동 입력 기능을 실행하도록 제어하는 것을 특징으로 한다.
일 실시예에서, 상기 입력받는 음성과 관련된 추가 검색을 실행하기 위한 제어명령을 입력받도록 이루어진 사용자 입력부를 더 포함하고, 상기 제어부는, 상기 추가 검색을 실행하기 위한 제어명령이 입력되면, 상기 입력받는 음성을 분석하여 동일인의 음성으로 인식되는 음성 파일을 본체의 메모리나 웹으로부터 검색하고, 상기 검색된 음성 파일의 리스트를 상기 디스플레이부에 출력시키는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 상기 필기 입력과 상기 입력 추천 정보를 기초로 한 추가 입력이 완료된 것에 응답하여, 적어도 하나의 음성 메모 파일을 생성하고, 상기 생성된 음성 메모 파일에 대응되는 아이콘을 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 한다.
일 실시예에서, 상기 제어부는, 복수의 상기 음성 메모 파일에 대응되는 복수의 아이콘 각각에 인가되는 두 개의 터치 시작점이 제1방향으로 드래그되는 것에 응답하여, 상기 복수의 아이콘과 그 사이에 존재하는 아이콘에 대응되는 복수의 음성 메모 파일을 병합하고, 병합된 음성 메모 파일을 나타내는 제1아이콘을 상기 디스플레이부에 출력시키는 것을 특징으로 한다.
또한, 본 발명의 실시예에 따른 이동 단말기의 제어방법에 의하면, 본체에 구비된 마이크를 통해 음성을 입력받는 단계와; 상기 입력받는 음성의 적어도 일부에 대하여 상기 본체의 디스플레이부상에서 이루어지는 터치에 대응되는 필기 입력을 출력하는 단계와; 음성 인식 모드가 활성화되면 상기 입력받는 음성을 인식하는 단계와; 상기 음성인식되는 컨텐츠를 상기 디스플레이부에 출력되는 필기 입력과 비교하고, 비교 결과 상기 음성인식되는 컨텐츠 및 상기 필기 입력과 관련된 정보를 포함하는 입력 추천 정보를 출력시키는 단계를 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 입력 추천 정보는, 상기 음성인식되는 문자 중, 상기 필기 입력된 문자의 위치 정보와, 상기 필기 입력된 문자의 수정 정보와, 상기 필기 입력된 문자를 제외한 나머지 문자의 정보와, 상기 필기 입력된 문자와 상기 필기 입력된 문자를 제외한 나머지 문자를 서로 구별하기 위한 표시 정보 중 적어도 하나 이상을 포함하는 것을 특징으로 한다.
본 발명의 일 실시 예에 따른 이동 단말기 및 그것의 제어방법은, 사용자가 통화내용이나 외부에서 발화되는 음성의 내용을 필기 입력할 때, 필기 입력을 놓친 부분을 음성 인식 기능에 따라 자동으로 완성할 수 있도록 함으로써, 사용자 편의를 제공한다.
또한, 본 발명의 일 실시 예에 따른 이동 단말기 및 그것의 제어방법은, 사용자가 통화내용이나 외부에서 발화되는 음성의 내용을 필기로 입력한 것과 음성 인식 기능에 따라서 삽입된 것을 시각적으로 구별되게 표시함으로써, 사용자가 필기한 문자를 직관적으로 인식할 수 있게 한다.
도 1은 본 발명의 일 실시 예에 따른 이동 단말기를 나타내는 블록도이다.
도 2a는 본 발명의 일 실시 예에 따른 이동 단말기의 일 예를 전면에서 바라본 사시도이다.
도 2b는 본 발명의 일 실시 예에 따른 이동 단말기의 일 예를 후면에서 바라본 사시도이다.
도 3은 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 문자를 필기 입력에 추가하는 방법을 설명하기 위한 흐름도이다.
도 4는 도 3의 흐름도와 추가된 문자를 디스플레이하는 방법을 설명하기 위한 개념도이다.
도 5는 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 문자와 매칭되지 않는 필기 입력을 처리하는 방법을 설명하기 위한 개념도이다.
도 6은 본 발명의 일 실시 예에 따른 이동 단말기에서 필기 입력 화면과 음성인식된 문자가 추가가능한 화면을 변환하는 방법을 설명하기 위한 개념도이다.
도 7a 및 도 7b는 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 문자가 추가된 필기 입력을 편집하는 방법을 설명하기 위한 개념도이다.
도 8은 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 문자를 필기 입력에 자동으로 삽입하는 방법을 설명하기 위한 개념도이다.
도 9는 본 발명의 일 실시 예에 따른 이동 단말기에서 멀티태스킹 실행시 음성인식된 문자를 필기 입력에 추가하는 방법을 설명하기 위한 개념도이다.
도 10은 본 발명의 일 실시 예에 따른 이동 단말기에서 필기 입력의 속도에 근거하여 음성인식된 문자를 필기 입력에 추가하는 방법을 설명하기 위한 개념도이다.
도 11a 및 도 11b는 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 복수의 추가가능한 문자들의 리스트를 디스플레이하는 방법을 설명하기 위한 개념도이다.
도 12는 본 발명의 일 실시 예에 따른 이동 단말기에서 음성 메모 파일과 매칭되는 음성 파일을 검색하는 방법을 설명하기 위한 개념도이다.
도 13은 본 발명의 일 실시 예에 따른 이동 단말기에서 음성 메모 파일을 분류하여 디스플레이부에 표시하는 방법을 설명하기 위한 개념도이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook) 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 명세서에 개시된 일 실시 예에 따른 이동 단말기(100)를 나타내는 블록도이다.
상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 감지부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.
상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
상기 이동통신 모듈(112)은 화상통화모드 및 음성통화모드를 구현하도록 이루어진다. 화상통화모드는 상대방의 영상을 보면서 통화하는 상태를 지칭하고, 음성통화모드는 상대방의 영상을 보지 않으면서 통화를 하는 상태를 지칭한다. 화상통화모드 및 음성통화모드를 구현하기 위하여 이동통신 모듈(112)은 음성 및 영상 중 적어도 하나를 송수신하도록 형성된다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN), WiFi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication) 등이 이용될 수 있다.
위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다.
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 여기에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라는(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부 기기로 전송될 수 있다. 또한, 카메라(121)에서 획득되는 화상 프레임으로부터 사용자의 위치 정보 등이 산출될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자로부터 인가되는 이동 단말기(100)의 동작을 제어하기 위한 제어명령에 따른 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.
감지부(또는 센싱부, 140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 감지 신호 (또는 센싱 신호)를 발생시킨다. 예를 들어 감지부(140)는 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 감지할 수 있다. 또한, 감지부(140)는 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 감지할 수도 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(153), 알람부(154) 및 햅틱 모듈(155) 등이 포함될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에 디스플레이부(151)는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.
이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부(152)로서 구성될 수 있다.
여기서, 입체영상은 3차원 입체영상(3-dimensional stereoscopic image)을 나타내며, 3차원 입체 영상(3-dimensional stereoscopic image)은 모니터나 스크린 상에서 사물이 위치한 점진적 깊이(depth)와 실체(reality)를 현실 공간과 동일하게 느낄 수 있도록 한 영상이다. 3차원 입체 영상은 양안시차(binocular disparity)를 이용하여 구현된다. 양안시차란 떨어져 있는 두 눈의 위치에 의하여 이루어지는 시차를 의미하는 것으로, 두 눈이 서로 다른 2차원 화상을 보고 그 화상들이 망막을 통하여 뇌로 전달되어 융합되면 입체 영상의 깊이 및 실제감을 느낄 수 있게 된다.
상기 입체 디스플레이부(152)에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다. 가정용 텔레비전 수신기 등에 많이 이용되는 스테레오스코픽 방식에는 휘스톤 스테레오스코프 방식 등이 있다.
상기 오토 스테레오스코픽 방식의 예로서, 패럴렉스 배리어(parallex barrier) 방식, 렌티큘러(lenticular) 방식, 집적영상(integral imaging) 방식, 스위츠블 렌즈(switchable lens) 등이 있다. 프로젝션 방식에는 반사형 홀로그래픽 방식, 투과형 홀로그래픽 방식 등이 있다.
일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.
또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이를 합쳐서 하나의 3차원 썸네일 영상을 생성할 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.
3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부(미도시)에 의하여 입체 디스플레이부(152)에 표시될 수 있다. 입체 처리부는 3D 영상을 입력받아 이로부터 좌 영상과 우 영상을 추출하거나, 2D 영상을 입력받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.
한편, 디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 대상체가 터치 센서 상에 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
도 1을 참조하면, 상기 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 근접 센서(141)는 상기 센싱부(140)의 일 예로서 구비될 수 있다. 상기 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서(141)는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치 스크린이 정전식인 경우에는 전도성을 갖는 물체(이하, 포인터라 함)의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치 스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치 스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치 스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다.
상기 근접센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
입체 디스플레이부(152)와 터치 센서가 상호 레이어 구조를 이루는 경우(이하, '입체 터치스크린'이라 함)나, 입체 디스플레이부(152)와 터치 동작을 감지하는 3차원 센서가 서로 조합되는 경우에는 상기 입체 디스플레이부(152)는 3차원의 입력 장치로도 사용될 수 있다.
상기 3차원 센서의 예로서, 상기 센싱부(140)는 근접 센서(141), 입체 터치센싱부(142), 초음파 센싱부(143), 카메라 센싱부(144)를 포함할 수 있다.
근접센서(141)는 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 터치를 가하는 감지대상(예를 들어, 사용자의 손가락이나 스타일러스 펜)와 검출면과의 거리를 측정한다. 단말기는 이러한 거리를 이용하여 입체영상의 어느 부분이 터치되었는지를 인식하게 된다. 특히, 터치스크린이 정전식인 경우에는 상기 감지대상의 근접에 따른 전계의 변화로 상기 감지대상의 근접 정도를 검출하고, 이러한 근접 정도를 이용하여 3차원상의 터치를 인식하도록 구성된다.
입체 터치센싱부(142)는 터치 스크린상에 가해지는 터치의 세기나 지속시간을 감지하도록 이루어진다. 예를 들어, 입체 터치센싱부(142)는 터치를 가하는 압력을 감지하고, 가압력이 강하면 이를 단말기의 내부를 향하여 터치 스크린과 보다 멀리 위치한 객체에 대한 터치로 인식한다.
초음파 센싱부(143)는 초음파를 이용하여, 감지대상의 위치정보를 인식하도록 이루어진다.
초음파 센싱부(143)는, 예를 들어 광 센서와 복수의 초음파 센서로 이루어질 수 있다. 광 센서는 광을 감지하도록 형성되며, 초음파 센서는 초음파를 감지하도록 형성된다. 광이 초음파보다 매우 빠르기 때문에, 광이 광 센서에 도달하는 시간은 초음파가 초음파 센서에 도달하는 시간보다 매우 빠르다. 따라서, 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치를 산출할 수 있게 된다.
카메라 센싱부(144)는 카메라(121), 포토 센서, 레이저 센서 중 적어도 하나를 포함한다.
예를 들어, 카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지한다. 카메라에 의하여 촬영된 2차원 영상에 레이저 센서에 의하여 감지된 거리정보가 더해지면, 3차원 정보가 획득될 수 있다.
또 다른 예로서, 포토 센서가 디스플레이 소자에 적층될 수 있다. 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보를 획득하게 된다.
음향 출력 모듈(153)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(153)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(153)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
알람부(154)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(154)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동을 이용하여, 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음향 출력 모듈(153)을 통해서도 출력될 수 있어서, 디스플레이부(151) 및 음향 출력 모듈(153)은 알람부(154)의 일부로 분류될 수도 있다.
햅틱 모듈(haptic module)(155)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(155)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅택 모듈(155)이 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(155)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(155)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(155)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(155)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(170)에 포함될 수 있다.
한편, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(170)를 통하여 단말기(100)와 연결될 수 있다.
또한, 상기 인터페이스부(170)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.
제어부(controller, 180)는 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
또한, 상기 제어부(180)는 상기 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
또한, 상기 제어부(180)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행할 수 있다. 또한, 상기 제어부(180)는 상기 잠금 상태에서 상기 디스플레이부(151)를 통해 감지되는 터치 입력에 근거하여 상기 잠금 상태에서 표시되는 잠금화면을 제어할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들은 제어부(180) 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다.
소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
이하, 상기 도 1에서 살펴본 본 발명의 일 실시 예에 따른 이동 단말기 또는 이동 단말기의 구성요소들이 배치된 이동 단말기 또는 이동 단말기의 구조를 살펴본다.
도 2a는 본 발명의 이동 단말기 또는 이동 단말기의 일 예를 전면에서 바라본 사시도이고, 도 2b는 도 2a에 도시된 이동 단말기의 후면 사시도이다.
도 2a는 본 발명과 관련된 이동 단말기 또는 이동 단말기의 일 예를 전면에서 바라본 사시도이고, 도 2b는 도 2a에 도시된 이동 단말기의 후면 사시도이다.
개시된 이동 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.
도시에 의하면, 단말기 본체(100)(이하, '바디'라 한다)는 전면, 측면 및 후면을 구비한다. 또한 바디는 길이방향을 따라 형성되는 양단을 구비한다.
바디(100)는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시 예에서, 케이스는 전면(이하, '프론트 케이스'라 한다, 101)과 후면(이하, '리어 케이스'라 한다, 102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스가 추가로 배치될 수도 있다.
케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.
단말기 바디(100)는 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.
디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(131)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다. 이에 반해, 마이크(122)는 바디(100)의 타단에 배치된다.
사용자 입력부(130)는 이동 단말기의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131, 132)을 포함할 수 있다. 조작 유닛들(131, 132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.
제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.
도 2b를 참조하면, 단말기 바디의 후면, 다시 말해 리어케이스(102)에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.
단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.
또한, 리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135) 또한 디스플레이부(151)와 마찬가지로 광 투과형으로 구성될 수 있다. 이 경우에, 디스플레이부(151)가 양면에서 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다. 이와 달리, 터치 패드(135)에는 디스플레이가 추가로 장착되어, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.
또한, 단말기 바디의 리어 케이스(102)에는 카메라가(121') 추가로 장착될 수 있다. 상기 카메라(121') 프론트 케이스에 장착된 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다.
예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지도록 이루어질 수 있다. 카메라(121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디(100)에 설치될 수도 있다.
상기 카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.
단말기 바디의 후면에는 음향 출력부(252')가 추가로 배치될 수도 있다. 음향 출력부(252')는 음향 출력부(252, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.
단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.
리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135) 또한 디스플레이부(151)와 마찬가지로 광 투과형으로 구성될 수 있다. 이 경우에, 디스플레이부(151)가 양면에서 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다. 이와 달리, 터치 패드(135)에는 디스플레이가 추가로 장착되어, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.
터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.
이상에서 살펴본 것과 같은 구성요소들 중 적어도 하나 이상을 포함하는 것이 가능한 본 발명의 일 실시 예에 따른 이동 단말기는, 마이크를 통해 소정의 음성이 입력되는 동안 디스플레이부에 필기 입력이 가능하도록 이루어진다. 또, 제어부는 음성 인식 모드가 활성화되면 마이크를 통해 입력되는 음성을 인식하고, 음성인식되는 문자 중 디스플레이부에 출력된 필기 입력과 매칭되는 문자를 추출한다. 그런 다음, 추출된 문자에 근거하여 디스플레이부에 출력된 필기 입력에 추가할 나머지 문자와 관련된 입력 추천 정보를 일정단위로 생성하여, 디스플레이부에 출력시킬 수 있다.
한편, 본 명세서에서는, '매칭되는 문자를 추출한다'는 "매칭되는 문자를 기억한다" 또는 "매칭되는 문자를 다른 문자와 구별한다" 의미로 이해될 수 있다. 또한, '필기 입력에 추가할 나머지 문자'란 "음성인식되는 문자 중 필기 입력된 문자를 제외한 나머지 문자"를 가리키는 것으로 이해될 수 있다. 또, '나머지 문자와 관련된 입력 정보'란, "추출된 문자에 나머지 문자를 추가하여 하나의 문장을 완료시키기 위한 정보"를 나타내는 것으로 이해될 수 있다.
이하, 사용자의 필기 입력에 근거하여, 음성인식되는 문자를 디스플레이부에 출력하는 방법에 대하여 첨부된 도면과 함께 보다 구체적으로 설명하기로 한다.
도 3은 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 문자를 필기 입력에 추가하는 방법을 설명하기 위한 흐름도이고, 도 4는 도 3의 흐름도 및 추가된 문자를 디스플레이부에 출력하는 방법을 설명하기 위한 개념도이다.
도 3을 참조하면, 먼저, 본 발명의 실시예에 따른 이동 단말기(100, 도 1)는 본체에 구비된 마이크(122, 도 1)를 통해 소정의 음성을 입력받는다(S301).
여기서, 상기 소정의 음성은 통화에 따른 상대방의 음성이거나, 이동 단말기(100)의 음향 출력부(153, 도 1)를 통해 출력되는 음성이거나, 또는 외부에서 발화되는 음성일 수 있다. 또한, 상기 소정의 음성은 복수인에 의하여 입력되는 복수의 음성이 동시에 입력되는 경우를 포함할 수 있다.
이와 같이 음성이 입력되는 동안, 사용자는 입력받는 음성의 적어도 일부에 대한 필기 입력을 디스플레이부(151)에서 수행할 수 있다. 즉, 상기 디스플레이부(151, 도 1)는 음성이 입력되는 동안 사용자의 터치에 따라 이루어지는 필기 입력을 출력한다(S302).
여기서, 상기 필기 입력은, 사용자가 입력되는 음성의 내용을 기억하기 위하여, 입력되는 음성의 적어도 일부와 관련된 사항을 디스플레이부(151)에 기록하는 것으로, 텍스트나 이미지 또는 이들의 조합을 모두 포함할 수 있다. 즉, 상기 필기 입력은 문자, 숫자, 기호, 및 기타 그림 이미지 등을 모두 포함할 수 있다.
또, 상기 필기 입력은 사용자의 손가락이나 스타일러스 펜 등과 같은 도구를 사용한 터치에 의해 수행될 수 있다.
또, 여기서, 상기 필기 입력은 디스플레이부(151)에서 임의의 입력 영역에 입력 및 출력될 수 있다. 예를 들어, 메모 기능 애플리케이션에 대응되는 메모장에 음성에 대응되는 필기가 입력 및 출력될 수 있다. 디스플레이부(151)에 메모 기능 애플리케이션의 실행에 대응되는 화면정보가 출력되는 경우 음성 인식 기능(STT, Speech To Text)을 실행하기 위한 아이콘이 표시될 수 있다. 또 예를 들어, 애플리케이션에 대한 제어명령의 입력이 제한되는 잠금화면이나 또는 대기화면 등에 음성에 대응되는 필기가 입력 및 출력되는 것도 가능하다.
이러한 경우, 상기 제어부(180)는 디스플레이부(151)에 출력된 필기 입력의 문자를 인식할 수 있다. 구체적으로, 상기 제어부(180)는 터치가 가능하도록 이루어진 디스플레이부(151)에 대한 터치(또는 필기)가 고유 패턴으로 이루어진 경우, 이 고유 패턴을 구별하여 필기 입력의 문자를 인식할 수 있다. 예를 들어, 사용자가 사용자가 디스플레이부(151)에서 일 방향으로 터치 궤적을 그리거나(예, 오른쪽으로 그리는 직선, 위쪽으로 이어지는 직선 등), 기설정된 방향으로 터치 궤적의 변화가 있거나(예, 시계방향으로 원형 궤적 등), 기설정된 형상을 그리거나 또는 기설정된 직선/곡선 또는 이들의 조합을 그리는 경우에 속하는지를 판단하여 문자를 인식할 수 있다.
한편, 제어부(180, 도 1)는 마이크(122)를 통해 음성이 입력되는 동안 음성 인식 모드가 활성화되는 것을 감지할 수 있다(S303). 즉, 상기 제어부(180)는 음성 인식 기능이 활성화되었는지 여부를 판단할 수 있다.
여기서, 음성 인식 모드의 활성화는 소정의 키 입력을 통해 이루어질 수도 있다. 예를 들어, 음성 인식 기능은 사용자가 이동 단말기(100)에 구비된 특정 키를 푸쉬(push)하거나 또는 디스플레이부(151)에 표시되는 소프트 키를 터치하거나, 또는 대응되는 메뉴의 조작이나, 음성 명령, 외부로부터 수신되는 소정의 무선신호, 또는 기설정된 제스처 입력에 의해 활성화될 수 있다.
예를 들어, 도 4의 (a)에 도시된 바와 같이, 메모 기능 애플리케이션의 실행화면이 디스플레이부(151)에 출력되면, 음성 인식 기능을 활성화시키기 위한 아이콘(400)이 디스플레이부의 일 영역, 예를 들어 상단 메뉴 영역에 표시될 수 있다. 사용자는 해당 아이콘(400)을 숏-터치 하거나 또는 롱-터치하면, 음성 인식 기능을 활성화된다. 이와 같이 음성 인식 기능이 활성화되면, 아이콘(400)의 형상(예, 색깔, 모양, 크기, 투명도)이 변경되어 음성 인식 기능이 활성화 상태임을 외부에서 인식할 수 있도록 한다. 한편, 음성 인식 기능이 활성화된 상태에서 상기 아이콘(400)을 다시 숏-터치 하거나 또는 롱-터치하면 음성 인식 모드의 활성화 상태가 종료될 수 있다.
또는, 상기 음성 인식 모드의 활성화는 기설정된 조건을 만족하는 경우 자동으로 수행되도록 할 수 있다. 여기서, 상기 기설정된 조건은, 예를 들어 메모 기능 애플리케이션의 실행화면이 출력된 상태에서 소정의 음성신호가 마이크(122)에 입력되는 조건일 수 있다. 또, 상기 기설정된 조건에는, 예를 들어 마이크(122)를 통해 입력되는 음성이 일정 레벨 이상이 되는 조건일 수 있다. 이러한 경우, 기설정된 시간 동안 음성이 입력되지 않으면, 제어부(180)가 음성 인식 모드의 활성화 상태를 종료시키거나 일시적으로 기능이 중단되도록 할 수 있다.
또한, 이와 같은 음성 인식 모드의 활성화 상태는, 상술한 음성 입력 단계(S301)와 필기 입력 단계(S302)가 수행되기 이전에 이미 이루어지도록 할 수도 있고, 상기한 단계들과 동시에 진행되도록 할 수도 있다.
이와 같이 음성 인식 모드가 활성화되면, 상기 제어부(180)는 음성 인식 알고리즘을 사용하여 마이크(122)를 통해 입력되는 음성을 인식한다.
이때, 음성인식 과정은 일정단위로 수행될 수 있다. 예를 들어, 상기 음성인식은 단어, 음절, 문장단위로 수행될 수 있고, 음성의 입력이 기설정된 시간동안 중단되면 즉시 음성인식 과정이 수행되도록 할 수 있다. 그리고, 이와 같이 음성인식된 문자는 텍스트 변환되어 디스플레이부(151)의 일 영역에 표시될 수 있다.
또한, 음성인식 과정은 입력되는 모든 음성에 대해 이루어질 수도 있고, 음성인식률이 기설정된 값을 초과하는 음성에 대해서만 부분적으로 수행되도록 할 수도 있다. 이러한 경우, 음성인식률이 낮은 문자를 사용자가 나중에 다시 청취할 수 있도록 '음성 녹음 기능'이 수행될 수 있다.
또한, 음성인식 과정에서, 사용자의 발음이 부정확하여 입력되는 음성의 적어도 일부가 정확하게 음성인식되지 않으면, 상기 제어부(180)는 필기 입력된 문자를 기초로 음성인식되는 문자를 수정하거나 또는 수정 여부를 질의할 수 있다. 이와 같이 필기 입력된 문자를 기초로 음성 인식 기능을 수행하면 문자인식률을 더욱 높일 수 있는 효과도 도출될 수 있다.
그런 다음, 상기 제어부(180)는 음성인식되는 컨텐츠를 필기 입력과 비교할 수 있다. 구체적으로, 상기 제어부(180)는 음성인식되는 문자 중 디스플레이부(151)에 출력되는 필기 입력과 매칭되는 문자를 추출할 수 있다.
이때, 음성이 입력되는 것에 응답하여 음성이 인식되는 과정과 필기 입력과 매칭시키는 과정은 실시간으로 수행될 수 있다. 즉, 음성 인식이 이루어지는 중에도 새로운 음성이 실시간으로 입력될 수 있고, 사용자에 의한 필기 입력도 지속적으로 수행될 수 있다. 이에, 본 발명에 따른 실시예에서는 상기한 음성인식 과정과 매칭 과정은 일정단위(예, 음절, 단어, 또는 문장단위)로 수행될 수 있다.
이와 같이 음성인식되는 컨텐츠를 필기 입력과 비교한 결과, 음성인식되는 컨텐츠 및 필기 입력과 관련된 정보를 포함하는 입력 추천 정보를 디스플레이부(151)에 출력시킬 수 있다(S304). 구체적으로, 음성인식되는 문자에서 필기 입력과 매칭되는 문자가 추출되면, 상기 제어부(180)는 추출된 문자 정보에 근거하여, 상기 필기 입력에 추가할 나머지 문자와 관련된 입력 추천 정보를 일정단위로 생성할 수 있다.
여기서, 상기 입력 추천 정보는, 상기 음성인식되는 문자 중, 상기 필기 입력된 문자의 위치 정보와, 상기 필기 입력된 문자의 수정 정보와, 상기 필기 입력된 문자를 제외한 나머지 문자의 정보와, 상기 필기 입력된 문자와 상기 필기 입력된 문자를 제외한 나머지 문자를 서로 구별하기 위한 표시 정보 중 적어도 하나 이상을 포함할 수 있다.
또한, 여기서 상기 필기 입력된 문자의 수정 정보는 음성인식된 문자와 매칭되는 필기 입력의 적어도 일부에 오타, 띄워쓰기 오류, 입력 오류, 입력 순서 오류 여부 및 그에 대한 정정 정보를 포함한다.
또한, 상기 제어부(180)는, 음성인식되는 문자를 일정단위, 예를 들어 문장단위로 텍스트 변환시킬 수 있다. 또, 상기 제어부(180)는 변환된 텍스트를 필기 입력과 중첩되지 않도록 디스플레이부(151)의 일 영역에 팝업시킬 수 있다.
예를 들어, 도 4의 (b)와 (c)를 참조하면, 메모 기능 애플리케이션의 실행화면이 출력된 상태에서, 사용자가 외부에서 발화되는 음성을 청취하면서 스타일러스 펜을 이용하여 디스플레이부(151)에 필기를 수행함에 따라, 터치 궤적을 따라 'today hot'과 'tomorror rain'이 디스플레이부(151)에 연속하여 출력된다. 이와 함께, 발화되는 음성은 일정단위, 예를 들어 쉼단위(,) 또는 문장단위(.)로 음성인식되어 텍스트 변환된다. 예를 들어, 마이크(122)를 통해 'It's hot today' 이 음성 입력되면, 음성인식된 'It's hot today'가 텍스트로 변환되고, 변환된 텍스트(410) 'It's hot today'가 디스플레이부(151)의 일 영역에 팝업된다. 그리고 이어서, 마이크(122)에 'but it will rain tomorrow in Seoul'이 음성 입력되면, 음성인식된 'but it will rain tomorrow in Seoul'가 텍스트 변환되고, 변환된 텍스트 'but it will rain tomorrow in Seoul'가 실시간으로 상기 팝업된 텍스트(410)에 추가되어 표시된다(420). 이때, 팝업 윈도우(410, 420)는 사용자의 필기 입력을 방해하지 않도록 필기 입력이 출력된 영역과 구별되는 영역에 표시된다.
일 예에서, 디스플레이부(151)의 일 영역에 팝업된 문장(또는 텍스트)이 선택되면, 상기 제어부(180)는 선택된 문장의 적어도 일부를 상기 생성된 입력 정보를 기초로, 필기 입력이 출력된 영역에 삽입시킬 수 있다.
여기서, 팝업된 문장의 선택은 본체에 구비된 특정 키 입력이나 문장이 표시된 영역에 인가되는 기설정된 터치 입력, 예를 들어 숏-터치, 롱-터치, 또는 기설정된 방향의 플리킹(flicking) 터치입력에 의하여 수행될 수 있다.
또한, 일 예에서, 상기 제어부(180)는, 디스플레이부(151)에 상기 선택된 문장의 적어도 일부가 삽입되는 경우, 상기 디스플레이부(151)에 출력된 필기 입력의 문자를 상기 선택된 문장의 문자로 대체시킬 수 있다. 또, 상기 제어부(180)는 대체된 문자를 선택된 문장의 다른 문자와 시각적으로 구별되게 표시하도록 상기 디스플레이부(151)를 제어할 수 있다.
이를 위해, 상기 제어부(180)는 대체된 문자의 형상을 상기 선택된 문장의 다른 문자의 형상과 다르게 변경하거나(예, 텍스트의 크기, 색상 변경) 또는 상기 대체된 문자에 하이라이팅 효과(예, 깜빡임 효과, 투명도의 조절 등)를 출력하도록 제어할 수 있다.
예를 들어, 도 4의 (c)와 (d)를 참조하면, 사용자가 팝업된 텍스트(420)가 표시된 영역에 터치 입력을 수행하면, 해당 텍스트(420)가 필기 입력이 출력된 위치 또는 영역에 삽입된다. 이때, 도 4의 (d)에 도시된 바와 같이, 사용자가 작성한 필기 입력 'today hot tomorror rain' 은 텍스트(420)의 문자로 대체되며, 사용자가 작성한 필기 입력의 오류('tomorror')나 정확하게 음성인식되지 않은 문자가 수정되어 표시된다. 이때, 필기 입력에 대응되는 문자('hot today rain tomorrow')가 나머지 문자('It's but it will in Seoul')와 시각적으로 구별될 수 있도록 볼드체로 표시할 수 있다. 이와 같이, 사용자가 필기 입력한 키워드(keyword) 문자에 강조효과를 출력시킴으로써, 한눈에 인식될 수 있도록 할 수 있다.
한편, 비록 도시되지는 않았지만, 제어부(180)에 의하여 생성된 입력 추천 정보, 즉 음성인식되는 문자 중 필기 입력된 문자의 위치 정보와, 상기 필기 입력된 문자의 수정 정보와, 필기 입력된 문자를 제외한 나머지 문자에 관한 정보를 기초로, 기출력된 필기 입력은 그대로 표시하고 음성인식된 나머지 문자가 추가되어 하나의 문장이 완성되도록 할 수도 있다.
또한, 상기 입력 정보에 필기 입력된 문자의 글꼴, 크기, 및 문자간의 간격 등의 정보가 포함된 경우, 필기 입력에 추가되는 나머지 문자의 글꼴, 크기, 및 문자간의 간격도 필기 입력된 문자의 크기와 유사한 글꼴, 크기 및 간격으로 출력될 수 있다. 또, 필기 입력의 필기 순서나 오류는 팝업된 텍스트에 기초하여 수정될 수 있다.
또한, 일 예에서, 디스플레이부(151)의 일 영역에 팝업된 문장(또는 텍스트)이 일정시간동안(예, 2초) 선택되지 않으면, 상기 제어부(180)는 해당 문장이 디스플레이부(151)로부터 사라지도록 하거나 유지된 상태에서, 다음 음성인식된 문장을 팝업시킬 수 있다. 이때, 선택되지 않은 문장은 메모리(160)에 저장되며, 소정의 제어명령에 따라 한꺼번에 추천되거나 디스플레이부(151)에 출력될 수 있다.
한편, 사용자의 필기 입력과 음성인식되는 문자의 삽입이 반복됨에 따라, 디스플레이부(151)에 필기 입력할 공간이나 음성인식되는 문자를 삽입할 공간이 부족한 경우가 있다.
예를 들어, 상기 제어부(180)는, 디스플레이부(151)에 문자가 출력된 영역이 기설정된 비율을 초과하거나 또는 문자가 출력되지 않은 영역이 기준값 이하가 되는 경우에 필기 입력의 공간이 부족한 것으로 판단할 수 있다.
일 예로, 디스플레이부(151)에 필기 입력의 공간이 부족한 것으로 판단되거나 또는 상기 디스플레이부(151)에 제1방향(예, 필기 입력되지 않은 영역내에서 바깥쪽으로 향하는 방향)의 터치 입력이 감지되면, 상기 제어부(180)는 기출력된 문자들의 크기를 조절하여 메모 공간을 확보할 수 있다.
다른 예로, 디스플레이부(151)에 필기 입력의 공간이 부족한 것으로 판단되거나 또는 상기 디스플레이부(151)에 제2방향의 터치 입력(예, 오른쪽(왼쪽)에서 왼쪽(오른쪽)으로 플리킹 터치 입력)이 감지되면, 페이지 넘김 효과를 출력하면서 상기 디스플레이부(151)에 새로운 메모 페이지를 표시할 수 있다.
이와 같이 필기 입력의 공간이 확보된 상태에서, 상술한 과정, 즉 입력받는 음성에 대한 필기 입력 및 출력과정(S302)과 음성인식되는 문자가 필기 입력에 추가 삽입되는 과정(S304)이 반복적으로 수행될 수 있다.
이상에서 살펴본 것과 같이, 본 발명의 일 실시 예에 따른 이동 단말기는 사용자가 통화내용이나 외부에서 발화되는 음성을 듣고 필기할 때, 필기 입력을 놓친 부분을 음성 인식 기능에 따라 자동으로 완성할 수 있도록 함으로써, 사용자에게 편리한 환경을 제공한다.
이하에서는, 필기 입력된 문자가 음성인식되는 문자와 매칭되지 않는 텍스트나 이미지를 포함하는 경우에 음성인식된 문자를 출력하는 방법을 기술하기로 한다. 이와 관련하여, 도 5는 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 문자와 매칭되지 않는 필기 입력을 처리하는 방법을 설명하기 위한 개념도이다.
본 발명에 따른 이동 단말기(100)는 음성 인식 기능이 활성화된 상태에서 마이크(122)를 통해 소정의 음성이 입력되는 동안에, 사용자가 상기 디스플레이부(151)에 필기한 상기 입력되는 음성과 관련된 입력을 출력할 수 있다.
제어부(180)는 상기 입력되는 음성을 인식하여 텍스트로 변환하여 디스플레이부(151)에 팝업시키고, 변환된 텍스트를 추가하기 위한 선택신호가 감지되면, 상기 변환된 텍스트가 필기 입력을 고려하여 출력될 수 있도록 한다. 이를 위해, 상기 제어부(180)는 필기 입력된 문자와 음성인식된 문자를 매칭시켜서, 음성인식된 문자 중 필기 입력에 대응되는 문자를 추출할 수 있다.
한편, 필기 입력이 마이크(122)를 통해 입력받는 음성내용과 관련은 있으나 음성인식되는 문자와 매칭되지 않는 문자나 이미지인 경우에는 다음과 같이 처리할 수 있다.
일 예로, 상기 제어부(180)는 음성인식되는 문자와 매칭되지 않는 필기 입력의 문자는 출력 상태를 그대로 유지시킬 수 있다. 이때, 해당 문자가 출력되는 위치는 음성인식되는 문자와 매칭되는 앞, 뒤 문자의 출력 위치에 따라 결정된다.
다른 예로, 상기 제어부(180)는 음성인식되는 문자와 매칭되지 않는 필기 입력의 문자나 이미지를 단말에 기등록된 이미지로 대체시킬 수 있다. 이때, 대체 이미지는 해당 문자의 형상이나 필기 패턴과 유사한 정도에 따라 선택될 수 있다.
구체적으로, 디스플레이부(151)에 출력된 필기 입력에 그림 이미지가 포함된 경우, 상기 제어부(180)는, 디스플레이부(151)에 팝업된 음성인식된 문장이 선택되는 것에 응답하여, 상기 그림 이미지와 유사한 형상의 이모티콘을 메모리(160) 또는 웹 검색을 통해 검출하고, 검출된 이모티콘으로 상기 그림 이미지를 대체시킨다.
예를 들어, 도 5의 (a)에서 사용자가 디스플레이부(151)에 필기 입력 공간이 부족함에 따라 필기 입력되지 않은 영역을 일 방향, 예를 들어 윗 방향으로 플리킹(flicking) 터치 입력하면, 필기 입력된 문자들(510)은 크기가 조절되어 디스플레이부(151)에 출력된다(510"). 이와 같이 필기 입력의 공간이 확보되면, 도 5의 (b)에 도시된 바와 같이, 사용자는 입력되는 음성('In NewYork, it will very very sunny')과 관련된 필기 입력(501)을 추가시킬 수 있다. 음성이 입력되는 동안 사용자의 필기 입력과 겹치지 않도록 디스플레이부(151)의 일 영역에 음성인식된 문장('In NewYork, it will very very sunny.')(520)이 팝업된다. 이때, 상기 팝업된 문장(520)에는 입력되는 음성의 끊어짐 정도나 음성의 톤에 따라, 적절한 문장부호 예를 들어 쉼표(,)나 마침표(.) 등이 추가될 수 있다.
사용자가 팝업된 문장(520)을 선택하면, 도 5의 (c)에 도시된 바와 같이 필기 입력된 문자나 이미지를 고려하여 팝업된 문장의 적어도 일부가 디스플레이부(151)에 출력된다(530). 구체적으로, 사용자가 필기 입력한 문자 중 'NY'는 음성인식된 문자 'NewYork'의 이니셜로 인식되어 'N, Y'철자를 다른 문자와 시각적으로 구별되는 볼드체로 출력시킬 수 있다. 한편, 사용자가 필기 입력한 이미지 중 '해를 나타내는 형상'은 음성인식되는 문자와 매칭되지 않는 이미지이므로, 이를 대체시킬 수 있는 '해' 이모티콘(540)을 검출하여 디스플레이부(540)에 출력할 수 있다.
한편, 사용자는 음성을 듣고 자신이 직접 필기 입력한 뷰 화면만을 보고 싶어할 수도 있다. 또는 자신이 직접 필기 입력한 제 1 뷰 화면과 음성인식된 문자가 추가입력된 제 2 뷰 화면을 비교하고 싶은 경우가 있을 수 있다.
이에, 도 6은 본 발명의 일 실시 예에 따른 이동 단말기에서 필기 입력 화면과 음성인식된 문자가 추가가능한 화면을 변환하는 방법을 도시한다.
상기한 필기 입력된 문자와 음성인식된 문자가 연동되어 입력된 화면 정보가 디스플레이부(151)에 출력된 상태에서, 사용자 입력부(130)는 상기 필기 입력에 상기 음성인식된 문자의 추가 여부를 달리하는 제 1 화면 모드 및 제 2 화면 모드 중 어느 하나를 실행하기 위한 제어명령을 사용자로부터 입력받을 수 있다.
예를 들어, 사용자가 특정 키를 입력하거나 또는 디스플레이부(151)에서 필기 입력되지 않은 영역을 터치하면, 상기 제어부(180)는 이를 화면 모드의 전환을 실행하기 위한 팝업 메뉴를 출력하는 제어명령으로 인식할 수 있다.
그러면, 상기 제어부(180)는 출력된 팝업 메뉴의 조작에 응답하여, 디스플레이부(151)에 제 1 화면 모드나 제 2 화면 모드를 출력시킨다.
구체적으로, 제 1 화면 모드가 선택되면, 제어부(180)는 상기 디스플레이부(151)에 입력받는 음성의 적어도 일부와 관련된 필기 입력만 출력되도록 한다. 또, 제 2 화면 모드가 선택되면, 제어부(180)는 상기 디스플레이부(151)에 상기 입력받는 음성의 적어도 일부와 관련된 필기 입력과 함께 음성인식되는 문자 중 적어도 일부가 상기 필기 입력에 추가 입력된 화면이 출력되도록 한다.
도 6의 (a)에 도시된 바와 같이, 필기 입력된 문자와 음성인식된 문자가 연동되어 입력된 화면 정보가 디스플레이부(151)에 출력된 상태에서, 기설정된 터치입력에 응답하여 필기 입력이 없는 영역에 화면 모드를 전환할 수 있는 메뉴(550)가 팝업된다. 사용자가 팝업된 메뉴(550)에서 'Orginal View' 키(551a)를 선택하면, 도 6의 (b)와 같이 디스플레이부(151)의 화면은 사용자가 필기 입력한 문자만 포함하는 화면으로 전환된다. 이와 함께 'Orginal View' 키(551a)는 'Voice Text View' 키(551b)로 전환되어, 사용자로부터 선택신호가 인가되면 현재 화면을 다시 필기 입력된 문자와 음성인식된 문자가 연동되어 입력된 화면으로 전환된다.
한편, 상기 사용자 입력부(130)는 마이크(122)를 통해 입력받는 음성에 대응되는 녹음을 재생하기 위한 제어명령을 더 입력받을 수 있다. 여기서, 본 발명의 실시예에 따른 이동 단말기는 마이크(122)를 통해 음성이 입력되는 동안 음성 녹음 기능이 활성화 상태인 것을 전제로 한다.
예를 들어, 사용자가 특정 키를 입력하거나 또는 디스플레이부(151)에서 필기 입력되지 않은 영역을 터치하면, 상기 제어부(180)는 이를 녹음된 음성의 재생을 실행하기 위한 팝업 메뉴를 출력하는 제어명령으로 인식할 수 있다.
그러면, 상기 제어부(180)는 상기 제 1 및 제 2 화면 모드 중 어느 하나에 대응되는 화면이 출력된 상태에서, 출력된 팝업 메뉴의 조작에 응답하여 녹음된 음성을 재생하기 위한 제어명령이 입력되면, 녹음된 음성이 재생되는 속도에 따라 디스플레이부(151)에 출력되는 화면을 스크롤한다.
도 6의 (b)에서 필기 입력된 문자와 음성인식된 문자가 연동되어 입력된 화면 정보가 디스플레이부(151)에 출력된 상태에서, 기설정된 터치입력에 응답하여 필기 입력이 없는 영역에 입력받는 음성에 대응되는 녹음을 재생할 수 있는 메뉴(550)가 팝업된다. 팝업된 메뉴(550)에서 'Play Voice' 키(552)를 선택하면, 녹음된 음성을 재생(▷), 되감기(◁◁), 또는 빨리감기(▷▷) 동작을 수행하기 위한 메뉴 아이콘(560)이 표시된다. 또한, 비록 도시되지는 않았지만, 상기 메뉴 아이콘(560)의 조작에 따라, 녹음된 음성이 재생되면, 디스플레이부(151)에 출력된 필기 입력이나 음성인식된 문장이 재생되는 속도에 따라 스크롤되거나 또는 현재 재생되는 위치가 화면에 표시된다(예, 노래방 자막 효과).
한편, 도 7a 및 도 7b는 본 발명의 일 실시 예에 따른 이동 단말기에서 필기 입력에 음성인식된 문자가 추가된 화면을 편집하는 방법을 설명하기 위한 개념도이다.
본 발명의 실시예에 따른 디스플레이부(151)는, 상술한 바와 같이 팝업 메뉴의 조작에 따라, 사용자가 직접 필기 입력만 출력되는 제 1 화면모드나 또는 상기 필기 입력을 기초로 음성인식된 문자가 추가된 제 2 화면모드 중 어느 하나가 출력될 수 있다.
이러한 경우, 디스플레이부의 일 영역에 대한 터치 입력이 감지되면, 상기 제어부(180)는 필기 입력 및/또는 음성인식된 문장의 입력을 편집하기 위한 편집 모드로 진입할 수 있다. 이와 같이 편집 모드로 진입하면, 상기 디스플레이부(151)에서 터치 입력이 감지된 지점에 소정의 입력 위치를 나타내는 표시(예, 커서)가 출력될 수 있다.
예를 들어, 도 7a의 (a)에 도시된 것처럼, 사용자가 음성인식된 문장이 삽입된 영역의 특정 위치, 예를 들어 'very'와 'sunny' 사이에 예를 들어 롱-터치 입력을 인가하면, 해당 위치에 편집을 수행할 수 있는 가이드로 '커서'(701)가 출력된다. 이와 함께 비록 도시되지는 않았지만, 디스플레이부(151)의 하단영역에 소정의 입력 키들이 출력될 수 있고, 사용자의 키 조작에 따라 '커서'(701)를 이동시키거나 '커서'가 표시된 위치에 특정 문자를 입력함으로써, 편집과정을 수행할 수 있다. 예를 들어, 도 7a의 (a)에서 커서(701)를 왼쪽방향으로 원하는 만큼 드래그하거나 또는 출력된 입력 키들 중 특정 키를 조작하여 도 7a의 (b)에 도시된 바와 같이 중복입력된 'very'를 삭제할 수 있다. 출력된 커서(701)는 기설정된 시간동안(예, 5초이상) 이동이 없으면 화면으로부터 사라지고 이와 함께 편집모드가 종료된다.
한편, 본 명세서에서 마이크(122)에 소정의 음성이 입력되는 동안, 음성 인식 기능은 활성화 상태로 유지되고 있더라도 음성인식된 문장의 팝업 내지 추천은 음성이 입력이 모두 완료된 다음에 한번만 수행되도록 구현될 수 있다.
구체적으로, 상기 제어부(180)는, 음성 인식 모드가 활성화에서 비활성화 상태로 변경되거나 또는 마이크(122)를 통해 입력받는 음성의 녹음이 완료되면, 제어부(180)에 의하여 생성된 입력 추천 정보(예, 필기 입력된 문자와 관련된 정보(위치, 형상, 간격 등), 필기 입력된 문자의 수정정보, 음성인식된 나머지 문자와 관련된 정보)를 기초로 필기 입력에 추가가능한 문자들의 리스트를 출력시킬 수 있다.
예를 들어, 도 7b의 (a)와 (b)에서, 사용자에 의한 필기 입력의 화면(703)이 디스플레이부(151)에 출력된 상태에서, 음성의 발화가 완료되거나 음성 인식 기능이 오프(off) 상태가 되면, 필기 입력을 놓친 일정단위(예, 쉼단위)의 문자들이 리스트(710)로 출력된다. 사용자는 상기 리스트(710)에서 특정 문자에 대응되는 체크박스에 'v'표시하여 추가 삽입시킬 특정 문자를 선택할 수 있다.
이와 같이 추가가능한 문자들의 리스트가 출력된 상태에서, 상기 리스트의 특정 문자(또는 특정 문장)에 제1터치(예, 숏-터치)가 감지되면, 상기 제어부(180)는 상기 특정 문자를 선택한 것으로 인식하여 필기 입력에 추가시킨다.
또, 상기 제어부(180)는 디스플레이부(151)에 추가된 특정 문자에 대한 제2터치(예, 롱-터치)가 감지되면, 상기 제2터치의 드래그가 종료되는 지점에 상기 특정 문자를 배치시킬 수 있다. 즉, 사용자가 드래그 터치 입력을 통해, 상기 선택된 특정 문자가 삽입되는 위치를 결정할 수 있다.
예를 들어, 도 7b의 (c)와 (d)를 참조하면, 추가된 문자('Seoul rain tomorrow')(711)가 표시된 영역에 롱-터치를 인가하면, 해당 문자 전체를 터치 궤적에 따라 이동시킬 수 있다. 예를 들어, 사용자의 손가락을 이용하여 a지점에서 b지점으로 상기 문자(711)를 이동하고 터치 업을 수행하면, 도 7b의 (d)와 같이 사용자가 원하는 b지점에 상기 문자(711)가 배치된 화면(720)이 출력된다.
이상에서는, 사용자가 필기 입력을 놓친 부분에 대해 음성인식된 문자의 추가가 선택(예, 터치입력)에 의하여 이루어지는 것을 설명하였다. 이하에서는, 추천 없이 실시간으로 음성인식된 문자가 필기 입력에 추가되는 것을 설명하기로 한다.
도 8은 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 문자를 필기 입력에 자동으로 삽입하는 방법을 설명하기 위한 개념도이다.
본 명세서에 개시된 이동 단말기(100)의 제어부(180)는 음성 인식 모드가 활성화된 상태에서 자동 입력 모드가 선택되는 것을 감지할 수 있다. 여기서, 자동 입력 모드의 선택은 특정 메뉴 키를 조작하여 이루어질 수도 있고, 특정 조건이 만족되는 경우에 자동으로 선택이 이루어지도록 할 수도 있다.
여기서, 특정 조건은 예로는 필기 입력의 속도가 음성의 입력속도가 기준값이상 차이가 나거나 또는 사용자가 기설정된 시간 동안 아무런 필기 입력을 수행하지 않거나, 또는 특정 이벤트(예, 호(call) 신호 착신)가 발생한 경우를 포함할 수 있다.
이와 같이 자동 입력 모드가 선택되면, 상기 제어부(180)는 상기 음성인식되는 문자를 텍스트 변환하여 상기 필기 입력이 출력된 영역에 실시간으로 추가시킬 수 있다. 이와 같은 자동 입력 모드는 필기 입력이 감지되거나 또는 특정 메뉴 키의 조작이 감지되면, 일시중단되거나 종료된다.
또한, 이와 같이 자동 입력 모드가 선택되면, 상기 제어부(180)는 음성인식되는 문자를 텍스트 변환하여 상기 필기 입력에 추가하는 동작 상태를 제어하기 위한 인디케이터 아이콘을 디스플레이부의 일 영역에 표시할 수 있다. 사용자는 표시된 인디케이터 아이콘을 조작하여 자동 입력의 동작, 일시중단, 종료, 및 입력속도(미도시) 등을 제어할 수 있다.
예를 들어, 도 8을 참조하면, 도 8의 (a)와 같이 음성인식된 문장(810)이 팝업된 영역에 자동 입력 모드의 전환을 실행하기 위한 특정 키(815)가 표시될 수 다. 사용자가 해당 키(815)를 터치하면, 도 8의 (b)에 도시된 것처럼, 음성인식되는 문장(830)이 실시간으로 추가 입력되고, 자동 입력 모드의 동작 상태를 제어하기 위한 인디케이터 아이콘(820)의 디스플레이부(151)의 하단에 표시된다.
이와 같이 음성인식된 문장들이 자동으로 디스플레이부(151)에 삽입되는 상태에서 사용자가 '일시중단'에 대응되는 키를 터치하면, 자동 입력의 실행이 일시 중단된다. 이때, 비록 도시되지는 않았지만, 디스플레이부(151)의 일 영역에는 추가가능한 음성인식된 문장이 팝업될 수 있다. 한편, 도 8의 (c) 및 (d)에서, 사용자가 자동 입력의 '일시중단' 상태에서 인디케이터 아이콘(820)의 '동작'에 대응되는 키를 터치하면, 다시 발화되는 내용의 음성인식된 문장('Torado warning')(840)이 디스플레이부에 출력된다.
또한, 이와 같이 자동 입력 모드가 실행되는 상태에서도 사용자에 의한 필기 입력이 이루어지면, 상기 제어부(180)는 사용자의 필기 입력을 우선적으로 처리(출력)한다. 이러한 경우, 추가가능한 음성인식된 문장은 다시 디스플레이부(151)상에서 추천만되는 수동 입력 모드로 전환시킨다.
한편, 상술한 바와 같이 마이크(122)를 통해 음성이 입력되는 동안, 사용자는 멀티태스킹을 수행할 수도 있고 또는 이동 단말기에 특정 이벤트가 수신되는 경우가 있다. 이와 관련하여, 도 9를 참조하여, 본 명세서에 개시된 이동 단말기(100)에서 멀티태스킹 실행시 음성인식된 문자를 필기 입력에 추가하는 방법을 설명하기로 한다.
메모 기능 애플리케이션에 대응되는 실행화면이 포그라운드(foreground)에서 실행되는 동안에는 상술한 바와 같이, 소정의 음성이 입력되는 동안 사용자의 수행한 필기 입력을 기초로 하여 음성인식된 문장들이 실시간으로 삽입될 수 있다.
한편, 음성이 입력되는 동안 다른 애플리케이션에 대응되는 실행화면이 디스플레이부(151)에 출력되는 경우에도, 입력되는 음성의 음성인식과 필기 입력을 기초로 한 입력 정보의 생성이 지속적으로 이루어져야 할 것이다.
이에, 제어부(180)는 제1 애플리케이션(예, 메모 기능 애플리케이션)에 대응되는 필기 입력의 화면이 상기 디스플레이부(151)에 출력된 상태에서, 제1 제어명령이 감지되면, 상기 필기 입력의 화면을 제2 애플리케이션에 대응되는 실행화면으로 전환시킬 수 있다. 이와 함께, 상기 제어부(180)는 상기 디스플레이부(151)의 일 영역에 상기 입력받는 음성의 자동 녹음을 나타내는 그래픽 객체를 출력시킬 수 있다.
여기서, 상기 제1제어명령은 상기 필기 입력의 화면이 출력된 상태에서 상기 디스플레이부(151)의 적어도 두 개의 터치지점에서 시작되는 드래그 터치 입력이 기설정된 방향으로 인가되는 것일 수 있다.
또한, 상기 제어부(180)는 제2 애플리케이션에 대응되는 실행화면에서 상기 그래픽 객체에 기설정된 방식의 터치 입력이 감지되면, 상기 제 1 애플리케이션에 대응되는 필기 입력의 화면을 상기 디스플레이부(151)에 다시 출력시킬 수 있다. 이와 같이 이전 화면으로 복귀되면, 상기 제어부(180)는 제 2 애플리케이션에 대응되는 실행화면이 출력되는 동안에 백그라운드(background)에서 자동 녹음된 음성에 대응되는 텍스트 문자를 상기 필기 입력에 추가 입력시킬 수 있다.
예를 들어, 도 9의 (a)에서, 마이크(122)를 통해 소정의 음성이 입력됨에 따라, 디스플레이부(151)에 사용자의 필기 입력과 이와 연동 처리되는 음성인식된 문장이 삽입된 화면(902)이 출력된 상태에서, 사용자가 상기 화면(902)에서 두 개의 터치지점(미도시)에서 시작되는 드래그 터치 입력을 오른쪽에서 왼쪽방향으로 인가하면, 애플리케이션에 대응되는 복수의 아이콘들이 출력된 대기화면으로 화면전환될 수 있다(미도시).
이와 같은 대기화면에서 사용자가 촬영 기능 애플리케이션에 대응되는 아이콘을 터치하면, 도 9의 (b)에 도시된 바와 같이, 카메라 촬영을 위한 프리뷰 화면(903)으로 화면전환된다. 이때, 백그라운드(background)에서는 입력되는 음성에 대한 음성 인식 기능과 음성 녹음 기능이 실행되고 있음을 나타내는 인디케이터(910)가 디스플레이부(151)의 일 영역, 예를 들어 상단 영역에 출력된다.
촬영이 종료되면, 디스플레이부(151)의 화면은 다시 메모 기능 애플리케이션에 대응되는 화면으로 복귀된다. 이때, 사용자는 도 9의 (c)에 도시된 바와 같이, 촬영된 이미지(930)를 붙여넣기(copy)하거나 불러오기하여 첨부시킬 수 있다. 한편, 이와 같이 메모 기능 애플리케이션에 대응되는 화면으로 복귀되면, 그동안 음성인식된 문장들이 한꺼번에 추가 삽입되며, 삽입시 음성인식된 문장에 특정 애니메이션효과(예, 회전하면서 날아오는 효과)가 출력될 수 있다. 한편, 도 9의 (d)에도시된 바와 같이 추가된 문장(940)이 표시된 영역내에는 삽입 취소를 실행하기 위한 키('x')(945)가 표시되어, 사용자의 터치에 따라 기삽입된 문장(940)이 삭제되도록 할 수 있다.
한편, 비록 도시되지는 않았지만, 필기 입력의 화면이 출력된 상태에서, 소정의 이벤트가 발생한 경우(예, 호(call) 신호의 착신), 상기 제어부(180)는 수신되는 음성과 외부에서 발화되는 음성을 구별하고(이를 구별하기 위해 복수의 마이크(122)가 구비될 수 있음), 외부에서 발화되는 음성에 대한 녹음 기능과 음성 인식 기능을 백그라운드(background)에서 실행하면서 디스플레이부(151)의 일 영역에 이에 대한 표시를 수행할 수 있다. 한편, 통화가 종료되면, 표시에 대한 터치의 수행이 없더라도 이전의 필기 입력의 화면으로 자동 복귀할 수 있다.
이하에서는 도 10을 참조하여, 음성인식된 문자의 추천이 필기 입력의 속도에 근거하여 이루어지는 실시예를 설명한다. 이와 관련하여, 도 10은 본 발명의 일 실시 예에 따른 이동 단말기에서 필기 입력의 속도에 근거하여 음성인식된 문자를 필기 입력에 추가하는 방법을 설명하기 위한 개념도이다.
상술한 실시예들은 음성 인식 모드가 활성화된 상태에서 음성인식된 문자가 일정단위로 디스플레이부(151)에 추천되거나 또는 자동 입력 기능에 따라 실시간으로 디스플레이부(151)에 삽입되는 과정을 설명하였다. 한편, 이와 같이 음성인식되는 문자를 디스플레이부(151)에 추천하거나 또는 직접 삽입하는 경우 사용자에 의한 필기 입력을 방해할 수 있다.
이에, 마이크(122)를 통해 소정의 음성이 입력될 때, 음성 인식 기능의 활성화 상태는 계속 유지되도록 하고, 평소에는 필기 입력을 우선으로 출력하고 기설정된 조건을 만족하거나 만족하지 않는 경우에 음성인식되는 문자를 추천하거나 삽입시도록 하면, 사용자에 의한 필기 입력의 방해를 최소화할 수 있다.
구체적으로, 상기 제어부(180)는 상기 디스플레이부(151)에 인가되는 필기 입력의 속도가 마이크(122)에 입력되는 음성의 입력 속도보다 기준범위 이상 느린 것으로 판단되는 경우에, 음성인식되는 문자를 텍스트 변환하여 필기 입력에 실시간으로 추가하는 자동 입력 기능이 실행되도록 할 수 있다. 즉, 평소에는 필기 입력만 디스플레이부(151)에 표시되고 음성인식된 문자는 아무런 표시나 팝업이 수행되지 않다가 상기한 속도조건을 만족하는 경우에만 자동 입력 기능에 의한 입력 모드로 전환한다.
도 10의 (a)와 같이 메모 기능 애플리케이션의 실행화면이 출력된 상태에서, 도 10의 (b)와 같이, 사용자는 입력되는 발화내용을 듣고 일부 내용이나 특정 단어의 필기 입력(1020)을 수행할 수 있다. 한편, 제어부(180)는 입력되는 발화내용과 필기 입력(1020)의 속도 및 매칭되는 문자를 비교하여, 기설정된 범위을 넘는 것으로 판단되면, 즉 사용자의 필기 입력 속도가 발화되는 속도를 따라가지 못하면, h 10의 (c)와 같이, 발화내용의 음성인식된 문장(1030)을 디스플레이부(151)에 추천하거나 또는 10의 (c) 단계를 생략하고, 도 10의 (d)에 도시된 바와 같이, 실시간으로 상기 음성인식된 문장을 필기 입력에 바로 추가 삽입할 수 있다(자동 입력 기능). 이때, 필기 입력과 매칭되는 문자들('it hot today it')은 다른 문자들과 시각적으로 구별되게 표시된다.
한편, 자동 입력 기능을 활성화시키기 위한 필기 입력과 음성의 입력의 속도 차는 사용자 입력을 통해 설정 또는 변경될 수 있다. 또, 자동 입력 기능을 활성화시키기 위한 조건은 필기 입력과 음성 입력의 속도 차 외에도 다른 조건으로 변경될 수 있다. 그러한 예로, 필기 입력의 문자와 음성인식된 문자의 매칭율이 기준값(예, 30프로 미만) 미만인 경우, 자동 입력 기능이 활성화되도록 할 수 있다.
한편, 도 11a 및 도 11b는 본 발명의 일 실시 예에 따른 이동 단말기에서 음성인식된 복수의 추가가능한 문자들의 리스트를 디스플레이하는 방법을 설명하기 위한 개념도이다.
본 발명의 실시예에 따라, 마이크(122)이 통해 입력되는 음성에 대한 음성 인식 기능에 따라 추천되는 문자들은 필기 입력된 문자를 기초로 다양한 형태로 제공될 수 있다.
일 예로, 상기 제어부(180)는, 음성 인식 모드가 비활성화 상태로 변경되거나 상기 입력받는 음성의 녹음이 완료되면, 생성된 입력 정보(즉, 음성인식된 문자 중 필기 입력된 문자와 매칭되는 문자와 관련된 정보, 및 이와 구별되는 나머지 문자와 관련된 정보)를 기초로 상기 필기 입력에 추가가능한 문자의 리스트를 출력할 수 있다. 이때, 상기 리스트에 출력되는 문자는 추천 우선순위가 반영될 수 있다.
예를 들어, 상기 제어부(180)는 음성인식된 문자 중 필기 입력된 문자와 직접적으로 관련된 텍스트들만 추천해주거나 또는 음성인식된 문자가 특정 언어로 번역된 텍스트들을 추천해줄 수 있다. 또는, 상기 제어부(180)는 복수의 추가가능한 문자들의 리스트를 표시할때 추가가능한 문자의 우선순위(예, 필기 입력과 가장 직접적인 관련있는 문자를 리스트의 맨 위에 추천함)를 리스트에 반영하여 출력시킬 수 있다.
도 11a를 참조하면, (a)에 도시된 바와 같이, 팝업 윈도우(1110)에 음성인시된 문자들을 전부나 일부를 리스트로 표시하되, 표시되는 순서는 필기 입력된 문자 'today hot'에 근거하여 관련도가 높은 문자부터 보여지도록 표시한다. 사용자는 우선순위가 반영된 리스트를 보고 추가를 원하는 특정 문자(예, 'It's hot today')를 선택할 수 있다. 그러면, (b)에 도시된 바와 같이, 입력 정보(즉, 음성인식된 문자 중 필기 입력과 매칭되는 문자와 관련된 정보 및 나머지 문자와 관련된 정보)에 따라 필기 입력된 문자('today hot')가 다른 문자('It's')와 시각적으로 구별되는 상태로 문장이 삽입된다(1110"). 이때, 필기입력의 순서('today 다음에 hot')와 음성인식된 문자의 순서('hot 다음에 today')가 매칭되지 않으면, 음성인식된 문자의 입력 순서에 따라서 또는 문법 패턴에 따라서 어법에 맞는 순서로 표시되도록 한다.
또한, 도 11b를 참조하면, (a)에 도시된 팝업 윈도우(1120)에는 필기 입력의 언어(예, 영어)를 다른 언어(예, 한국어 또는 일어)로 번역된 음성인식된 문자들이 출력될 수 있다. 사용자가 추천된 특정 언어로 번역된 문자를 선택하면, (b)와 같이 필기 입력된 문자 전체가 선택된 특정 언어의 문자로 대체된다(1120").
한편, 비록 도시되지는 않았지만, 상기 리스트에 출력되는 문자의 추천 우선순위는 음성인식된 시간, 음성인식률, 많이 선택된 단어, 자주 발화되는 단어 등을 기준으로 설정될 수 있다.
이상에서는, 사용자에 의한 필기 입력과 연동하여 음성인식된 문자를 추가 삽입하는 실시예들 살펴보았다. 이와 필기 입력과 음성인식된 문자가 추가된 화면은 음성 녹음과 함께 하나의 음성 메모 파일로 저장될 수 있다. 즉, 본 명세서에 개시된 이동 단말기(100)는 상술한 필기 입력과 일정단위로 생성된 입력 정보를 기초로 한 추가 입력이 완료되면 그에 대응되는 음성 메모 파일을 생성할 수 있다.
이하에서는, 이와 같이 생성된 음성 메모 파일을 이용한 검색 및 분류방법에 대하여 설명하겠다.
도 12는 본 발명의 일 실시 예에 따른 이동 단말기에서 음성 메모 파일과 매칭되는 음성 파일을 검색하는 방법을 설명하기 위한 개념도이고, 도 13은 본 발명의 일 실시 예에 따른 이동 단말기에서 음성 메모 파일을 분류하여 디스플레이부에 표시하는 방법을 설명하기 위한 개념도이다.
먼저, 본 명세서에 개시된 이동 단말기(100)의 사용자 입력부(130)는 마이크(122)를 통해 입력받는 음성과 관련된 추가 검색을 실행하기 위한 제어명령을 입력받을 수 있다. 또, 이와 같은 제어명령의 입력은, 음성 인식 기능이 활성화된 상태에서 메모 기능의 애플리케이션에 대응되는 실행화면에 기설정된 터치입력이 인가되는 것에 응답하여 팝업되는 메뉴의 조작에 의하여 이루어질 수 있다.
여기서, 상기 입력받는 음성과 관련된 추가 검색이란, 입력받는 음성과 동일인의 음성으로 인식되는 음성 파일의 웹(web) 검색을 의미할 수 있다. 또는, 상기 상기 입력받는 음성과 관련된 추가 검색이란, 입력받는 음성에 대응되는 인물 정보의 전화번호(전화번호에 인물의 음성이 저장된 경우)나 웹(web) 검색을 의미할 수 있다.
이와 같이, 입력받는 음성과 관련된 추가 검색을 실행하기 위한 제어명령이 입력되면, 상기 제어부(180)는, 상기 입력받는 음성을 분석하여 동일인의 음성으로 인식되는 음성 파일을 본체나 웹으로부터 검색한다. 그런 다음 검색된 음성 파일의 리스트를 디스플레이부(151)에 출력한다.
예를 들어, 도 12의 (a)에서 음성 메모 파일이 생성된 상태에서, 사용자의 터치에 따라 상기 생성된 음성 메모 파일에 대응되는 음성과 관련된 추가 검색을 실행할 수 있는 메뉴창(1210)이 팝업되면, 사용자는 '유투브 검색(YouTube Search)' 키를 터치하여 검색을 위한 제어명령을 입력할 수 있다. 그러면, 상기 제어부(180)는 음성 메모 파일에 녹음된 음성과 일치하는 음성 파일을 유투브(YouTube)에서 검색하고, 검색 결과의 리스트(1220) 디스플레이부(151)에 출력시킨다.
한편, 음성 메모 파일이 생성되면, 상기 제어부(180)는 메모 기능의 애플리케이션에 대응되는 실행화면의 일 영역에 상기 생성된 음성 메모 파일에 대응되는 아이콘을 출력시킬 수 있다. 이와 같이 출력된 아이콘은 터치에 따라 이동, 병합, 분리, 삭제 등이 가능하여, 음성 메모 파일에 대한 편집이 간편하게 이루어질 수 있다.
구체적으로, 상기 제어부(180)는 생성된 음성 메모 파일에 대응되는 아이콘을 디스플레이부(151)에 출력시킬 수 있다.
또, 상기 제어부(180)는 복수의 음성 메모 파일에 대응되는 복수의 아이콘에 각각 인가된 두 개의 터치 시작점이 제1방향(예, 핀치-인(pinch-in) 또는 핀치-아웃(pinch-out))으로 드래그되는 것에 응답하여, 드래그되는 정도에 따라 상기 복수의 아이콘과 그 사이에 존재하는 아이콘에 대응되는 복수의 음성 메모 파일을 병합시킬 수 있다(드래그되는 정도에 따라 병합의 범위가 달라질 수도 있음). 또, 상기 제어부(180)는 병합된 음성 메모 파일을 나타내는 새로운 아이콘(이하, '제1아이콘'이라 함)을 디스플레이부(151)에 출력시킬 수 있다.
한편, 상기 제어부(180)는 사용자가 제1아이콘을 제2방향(예, 핀치-아웃(pinch-out) 또는 핀치-인(pinch-in))으로 터치 드래그하는 것에 응답하여, 드래그되는 정도에 따라 기병합된 음성 메모 파일을 분리시킬 수 있다. 또, 상기 제어부(180)는 제1아이콘을 사라지게 하고, 분리된 음성 메모 파일에 대응되는 아이콘을 출력시킨다.
예를 들어, 도 13을 참조하면, (a)에서 복수의 음성 메모 파일의 아이콘들(1301, 1302, 1303, 1304)이 화면에 출력된 상태에서, 사용자가 음성녹음1에 대응되는 아이콘(1301)과 음성녹음3에 대응되는 아이콘(1303)에 각각에 대한 핀치-인 터치를 수행하면, (b)에 도시된 바와 같이 음성녹음1, 음성녹음2, 음성녹음3에 대응되는 아이콘들(1301, 1302, 1303)이 사라지고, 해당 음성 메모 파일들이 하나의 파일로 병합된다. 그리고 이에 대한 새로운 아이콘(1310)이 생성된다. 생성된 파일은 도시된 것처럼, 병합된 시간정보가 표시될 수 있으나 이에 한정되지 않는다(예를 들어 병합된 음성 메모 파일의 개수 정보 등이 표시되거나, 병합된 음성 메모 파일들의 명칭들 정보가 표시될 수 있음).
한편, 사용자가 새로운 아이콘(1310)에 대한 핀치-아웃(pinch-out) 터치를 수행하면, (c)에 도시된 바와 같이 병합된 음성 메모 파일들이 핀치-아웃 정도에 근거하여 분리된다. 즉, 핀치 아웃되는 거리가 멀어질수록 병합된 파일에서 분리되는 음성 메모 파일의 개수가 증가할 수 있다. 병합된 파일이 분리되면, 상기 아이콘(1310)은 사라지고, 분리된 음성 메모 파일에 대응되는 아이콘들(1301, 1302, 1303)이 다시 디스플레이부(151)에 표시된다.
이상에서 설명한 바와 같이, 본 발명의 실시예들은 사용자가 통화내용이나 외부에서 발화되는 음성의 내용을 필기 입력할 때, 필기 입력을 놓친 부분을 음성 인식 기능에 따라 자동으로 완성할 수 있도록 함으로써, 사용자 편의를 제공한다. 또한, 사용자가 통화내용이나 외부에서 발화되는 음성의 내용을 필기로 입력한 것과 음성 인식 기능에 따라서 삽입된 것을 시각적으로 구별되게 표시함으로써, 사용자가 필기한 문자를 직관적으로 인식할 수 있게 한다.
또한, 본 명세서에 개시된 일 실시 예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기와 같이 설명된 이동 단말기는 상기 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

Claims (22)

  1. 음성을 입력받는 마이크;
    필기 입력을 위한 터치가 가능하도록 이루어지고, 터치에 따라 상기 입력받는 음성의 적어도 일부에 대한 필기 입력을 출력하는 디스플레이부; 및
    음성 인식 모드가 활성화되면 상기 입력받는 음성을 인식하고,
    상기 음성인식되는 컨텐츠를 상기 디스플레이부에 출력되는 필기 입력과 비교하고, 비교 결과 상기 음성인식되는 컨텐츠 및 상기 필기 입력과 관련된 정보를 포함하는 입력 추천 정보가 출력되도록 상기 디스플레이부를 제어하는 제어부를 포함하는 것을 특징으로 하는 이동 단말기.
  2. 제1항에 있어서
    상기 입력 추천 정보는,
    상기 음성인식되는 문자 중, 상기 필기 입력된 문자의 위치 정보와, 상기 필기 입력된 문자의 수정 정보와, 상기 필기 입력된 문자를 제외한 나머지 문자의 정보와, 상기 필기 입력된 문자와 상기 필기 입력된 문자를 제외한 나머지 문자를 서로 구별하기 위한 표시 정보 중 적어도 하나 이상을 포함하는 것을 특징으로 하는 이동 단말기.
  3. 제1항에 있어서,
    상기 제어부는,
    상기 음성인식되는 문자를 문장단위로 텍스트 변환하여, 상기 필기 입력과 중첩되지 않도록 상기 디스플레이부의 일 영역에 팝업시키고,
    팝업된 문장이 선택되면, 상기 선택된 문장의 적어도 일부가 상기 입력 추천 정보를 기초로 상기 필기 입력이 출력된 영역에 삽입되도록 제어하는 것을 특징으로 하는 이동 단말기.
  4. 제3항에 있어서,
    상기 제어부는,
    상기 선택된 문장의 적어도 일부가 삽입되는 경우,
    상기 디스플레이부에 출력된 필기 입력의 문자를 상기 선택된 문장의 문자로 대체시키고, 상기 대체된 문자를 상기 선택된 문장의 다른 문자와 시각적으로 구별되게 표시되도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 이동 단말기.
  5. 제4항에 있어서,
    상기 제어부는,
    상기 대체된 문자의 형상을 상기 선택된 문장의 다른 문자의 형상과 다르게 변경하거나 또는 상기 대체된 문자에 하이라이팅 효과를 출력하도록 제어하는 것을 특징으로 하는 이동 단말기.
  6. 제1항에 있어서,
    상기 제어부는,
    상기 디스플레이부에 필기 입력의 공간이 부족한 것으로 판단되거나 상기 디스플레이부에 제1방향의 터치 입력이 감지되면,
    기출력된 문자들의 크기를 조절하여 메모 공간이 확보되도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 이동 단말기.
  7. 제1항에 있어서,
    상기 제어부는,
    상기 디스플레이부에 필기 입력의 공간이 부족한 것으로 판단되거나 상기 디스플레이부에 제2방향의 터치 입력이 감지되면,
    페이지 넘김 효과가 출력되면서 새로운 페이지가 표시되도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 이동 단말기.
  8. 제3항에 있어서,
    상기 필기 입력에 그림 이미지가 포함된 경우이면,
    상기 제어부는,
    상기 팝업된 문장이 선택되는 것에 응답하여, 상기 그림 이미지와 유사한 형상의 이모티콘을 메모리로부터 검출하고, 상기 그림 이미지를 상기 검출된 이모티콘으로 대체하여 상기 디스플레이부에 표시하는 것을 특징으로 하는 이동 단말기.
  9. 제3항에 있어서,
    상기 필기 입력에 상기 음성인식된 문자의 추가 여부를 달리하는 제 1 화면 모드 및 제 2 화면 모드 중 어느 하나를 실행하기 위한 제어명령을 입력받도록 이루어진 사용자 입력부를 더 포함하고,
    상기 제어부는,
    상기 제 1 화면 모드에서는, 상기 디스플레이부에 상기 입력받는 음성의 적어도 일부와 관련된 필기 입력만 출력되도록 하고,
    상기 제 2 화면 모드에서는, 상기 디스플레이부에 상기 입력받는 음성의 적어도 일부와 관련된 필기 입력과 상기 음성인식되는 문자중 적어도 일부가 상기 필기 입력에 추가 입력된 화면이 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  10. 제9항에 있어서,
    상기 사용자 입력부는, 상기 입력받는 음성에 따른 녹음을 재생하기 위한 제어명령을 입력받도록 이루어지고,
    상기 제어부는,
    상기 제 1 및 제 2 화면 모드 중 어느 하나에 대응되는 화면이 출력된 상태에서 상기 녹음을 재생하기 위한 제어명령이 입력되면, 상기 녹음된 음성이 재생되는 속도에 따라 상기 출력된 화면을 스크롤하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 이동 단말기.
  11. 제9항에 있어서,
    상기 제어부는,
    상기 제 1 및 제 2 화면 모드 중 어느 하나에 대응되는 화면이 출력된 상태에서 상기 출력된 화면에 기설정된 터치 입력이 감지되면, 편집 모드로 진입하고 상기 터치 입력이 감지된 지점에 입력 위치를 나타내는 표시를 출력시키는 것을 특징으로 하는 이동 단말기.
  12. 제1항에 있어서,
    상기 제어부는,
    상기 음성 인식 모드가 비활성화 상태로 변경되거나 상기 입력받는 음성의 녹음이 완료되면, 상기 생성된 입력 정보를 기초로 상기 필기 입력에 추가가능한 문자의 리스트를 출력하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 이동 단말기.
  13. 제12항에 있어서,
    상기 제어부는,
    상기 리스트에서 특정 문자에 제1터치가 감지되면 상기 특정 문자를 상기 필기 입력에 추가시키고,
    상기 추가된 특정 문자에 대한 제2터치가 감지되면, 상기 제2터치의 드래그가 종료되는 지점에 상기 특정 문자를 배치시키는 것을 특징으로 하는 이동 단말기.
  14. 제1항에 있어서,
    상기 제어부는,
    상기 음성 인식 모드가 활성화된 상태에서 자동 입력 기능이 선택되면, 상기 음성인식되는 문자를 일정단위로 텍스트 변환하고, 상기 입력 추천 정보에 근거하여, 상기 변환된 텍스트를 상기 필기 입력이 출력된 영역에 실시간으로 추가시키는 것을 특징으로 하는 이동 단말기.
  15. 제1항에 있어서,
    상기 제어부는,
    제1 애플리케이션에 대응되는 상기 필기 입력의 화면이 상기 디스플레이부에 출력된 상태에서 제1 제어명령이 감지되면,
    상기 필기 입력의 화면을 제2 애플리케이션에 대응되는 실행화면으로 전환시키고 상기 디스플레이부의 일 영역에 상기 입력받는 음성이 녹음중임을 나타내는 그래픽 객체를 출력하도록 제어하는 것을 특징으로 하는 이동 단말기.
  16. 제15항에 있어서,
    상기 제어부는,
    상기 그래픽 객체에 기설정된 방식의 터치 입력이 감지되면, 상기 제 1 애플리케이션에 대응되는 상기 필기 입력의 화면을 상기 디스플레이부에 다시 출력시키고,
    상기 제 2 애플리케이션에 대응되는 실행화면이 출력되는 동안 자동 녹음된 음성에 대응되는 텍스트 문자를 상기 필기 입력이 출력된 영역에 삽입시키는 것을 특징으로 하는 이동 단말기.
  17. 제1항에 있어서,
    상기 제어부는,
    상기 디스플레이부에 인가되는 필기 입력의 속도가 상기 음성의 입력 속도보다 기준범위 이상 느린 것으로 판단되면,
    상기 음성인식되는 문자를 텍스트 변환하고, 상기 변환된 텍스트를 상기 필기 입력이 출력된 영역에 실시간으로 추가하는 자동 입력 기능을 실행하도록 제어하는 것을 특징으로 하는 이동 단말기.
  18. 제3항에 있어서,
    상기 입력받는 음성과 관련된 추가 검색을 실행하기 위한 제어명령을 입력받도록 이루어진 사용자 입력부를 더 포함하고,
    상기 제어부는,
    상기 추가 검색을 실행하기 위한 제어명령이 입력되면, 상기 입력받는 음성을 분석하여 동일인의 음성으로 인식되는 음성 파일을 본체의 메모리나 웹으로부터 검색하고, 상기 검색된 음성 파일의 리스트를 상기 디스플레이부에 출력시키는 것을 특징으로 하는 이동 단말기.
  19. 제1항에 있어서,
    상기 제어부는,
    상기 필기 입력과 상기 입력 추천 정보를 기초로 한 추가 입력이 완료된 것에 응답하여, 적어도 하나의 음성 메모 파일을 생성하고,
    상기 생성된 음성 메모 파일에 대응되는 아이콘을 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 하는 이동 단말기.
  20. 제19항에 있어서,
    상기 제어부는,
    복수의 상기 음성 메모 파일에 대응되는 복수의 아이콘 각각에 인가되는 두 개의 터치 시작점이 제1방향으로 드래그되는 것에 응답하여,
    상기 복수의 아이콘과 그 사이에 존재하는 아이콘에 대응되는 복수의 음성 메모 파일을 병합하고, 병합된 음성 메모 파일을 나타내는 제1아이콘을 상기 디스플레이부에 출력시키는 것을 특징으로 하는 이동 단말기.
  21. 본체에 구비된 마이크를 통해 음성을 입력받는 단계;
    상기 입력받는 음성의 적어도 일부에 대하여 상기 본체의 디스플레이부상에서 이루어지는 터치에 대응되는 필기 입력을 출력하는 단계;
    음성 인식 모드가 활성화되면 상기 입력받는 음성을 인식하는 단계; 및
    상기 음성인식되는 컨텐츠를 상기 디스플레이부에 출력되는 필기 입력과 비교하고, 비교 결과 상기 음성인식되는 컨텐츠 및 상기 필기 입력과 관련된 정보를 포함하는 입력 추천 정보를 출력시키는 단계를 포함하는 것을 특징으로 하는 이동 단말기의 제어방법.
  22. 제21항에 있어서
    상기 입력 추천 정보는,
    상기 음성인식되는 문자 중, 상기 필기 입력된 문자의 위치 정보와, 상기 필기 입력된 문자의 수정 정보와, 상기 필기 입력된 문자를 제외한 나머지 문자의 정보와, 상기 필기 입력된 문자와 상기 필기 입력된 문자를 제외한 나머지 문자를 서로 구별하기 위한 표시 정보 중 적어도 하나 이상을 포함하는 것을 특징으로 하는 이동 단말기의 제어방법.
KR1020130112042A 2013-09-17 2013-09-17 이동 단말기 및 그것의 제어방법 KR102063766B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020130112042A KR102063766B1 (ko) 2013-09-17 2013-09-17 이동 단말기 및 그것의 제어방법
US14/272,233 US9390715B2 (en) 2013-09-17 2014-05-07 Mobile terminal and controlling method for displaying a written touch input based on a recognized input voice
EP14183756.7A EP2849055B1 (en) 2013-09-17 2014-09-05 Mobile terminal and method of controlling the same
CN201410471923.5A CN104468964B (zh) 2013-09-17 2014-09-16 移动终端及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130112042A KR102063766B1 (ko) 2013-09-17 2013-09-17 이동 단말기 및 그것의 제어방법

Publications (2)

Publication Number Publication Date
KR20150032055A true KR20150032055A (ko) 2015-03-25
KR102063766B1 KR102063766B1 (ko) 2020-01-08

Family

ID=51539138

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130112042A KR102063766B1 (ko) 2013-09-17 2013-09-17 이동 단말기 및 그것의 제어방법

Country Status (4)

Country Link
US (1) US9390715B2 (ko)
EP (1) EP2849055B1 (ko)
KR (1) KR102063766B1 (ko)
CN (1) CN104468964B (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170033641A (ko) * 2015-09-17 2017-03-27 삼성전자주식회사 전자 장치 및 전자 장치의 동작 제어 방법
KR20190101322A (ko) * 2019-08-12 2019-08-30 엘지전자 주식회사 Xr 디바이스 및 그 제어 방법
WO2022177164A1 (ko) * 2021-02-19 2022-08-25 삼성전자주식회사 온디바이스 인공지능 서비스를 제공하는 전자 장치 및 방법

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD746831S1 (en) * 2013-09-10 2016-01-05 Apple Inc. Display screen or portion thereof with graphical user interface
USD752078S1 (en) * 2013-10-03 2016-03-22 Thales Avionics, Inc. Display screen or portion thereof with graphical user interface
KR20150053339A (ko) * 2013-11-08 2015-05-18 삼성전자주식회사 전자 디바이스의 입력 처리 방법 및 장치
KR102305117B1 (ko) * 2014-04-30 2021-09-27 삼성전자주식회사 텍스트 입력 제어 방법 및 그 전자 장치
US9881611B2 (en) * 2014-06-19 2018-01-30 Verizon Patent And Licensing Inc. System and method for providing voice communication from textual and pre-recorded responses
CN104197299A (zh) * 2014-08-21 2014-12-10 浙江生辉照明有限公司 照明装置及基于该装置的语音播报系统及方法
CN104267922B (zh) * 2014-09-16 2019-05-31 联想(北京)有限公司 一种信息处理方法及电子设备
US10614300B2 (en) * 2014-12-23 2020-04-07 Lenovo (Singapore) Pte. Ltd. Formatting handwritten content
JP6400514B2 (ja) * 2015-03-20 2018-10-03 シャープ株式会社 表示システム、コンピュータプログラム及び記録媒体
USD765699S1 (en) 2015-06-06 2016-09-06 Apple Inc. Display screen or portion thereof with graphical user interface
USD824936S1 (en) 2016-07-22 2018-08-07 Xiaofeng Li Display screen with graphical user interface for operating an electronic candle
USD853417S1 (en) 2016-07-11 2019-07-09 Xiaofeng Li Display screen with graphical user interface for operating an electronic candle
CN106406729A (zh) * 2016-08-31 2017-02-15 乐视控股（北京）有限公司 便签控制方法及电子设备
US20180074661A1 (en) * 2016-09-14 2018-03-15 GM Global Technology Operations LLC Preferred emoji identification and generation
JP6852478B2 (ja) * 2017-03-14 2021-03-31 株式会社リコー 通信端末、通信プログラム及び通信方法
USD846587S1 (en) 2017-06-04 2019-04-23 Apple Inc. Display screen or portion thereof with animated graphical user interface
USD822711S1 (en) 2017-06-05 2018-07-10 Apple Inc. Display screen or portion thereof with graphical user interface
CN108519870A (zh) * 2018-03-29 2018-09-11 联想(北京)有限公司 一种信息处理方法及电子设备
USD860242S1 (en) 2018-06-03 2019-09-17 Apple Inc. Electronic device with graphical user interface
KR20200071841A (ko) * 2018-12-03 2020-06-22 현대자동차주식회사 차량용 음성명령어 처리 장치 및 그 방법
JP7219076B2 (ja) * 2018-12-07 2023-02-07 シャープ株式会社 筆記入力装置及び筆記入力システム
USD924912S1 (en) 2019-09-09 2021-07-13 Apple Inc. Display screen or portion thereof with graphical user interface
KR20210029921A (ko) * 2019-09-09 2021-03-17 현대자동차주식회사 터치 스크린, 그를 가지는 차량 및 그 제어 방법
CN110888581A (zh) * 2019-10-11 2020-03-17 广州视源电子科技股份有限公司 元素传递方法、装置、设备及存储介质
CN112887779B (zh) * 2021-01-20 2022-11-18 杭州小众圈科技有限公司 基于语音节奏进行自动滚动字幕的方法、系统及装置
EP4234264A1 (en) * 2022-02-25 2023-08-30 BIC Violex Single Member S.A. Methods and systems for transforming speech into visual text

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070019596A (ko) * 2005-08-12 2007-02-15 캐논 가부시끼가이샤 정보처리방법 및 정보처리장치

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6438523B1 (en) * 1998-05-20 2002-08-20 John A. Oberteuffer Processing handwritten and hand-drawn input and speech input
US7292986B1 (en) * 1999-10-20 2007-11-06 Microsoft Corporation Method and apparatus for displaying speech recognition progress
US20030233237A1 (en) * 2002-06-17 2003-12-18 Microsoft Corporation Integration of speech and stylus input to provide an efficient natural input experience
US9230222B2 (en) * 2008-07-23 2016-01-05 The Quantum Group, Inc. System and method enabling bi-translation for improved prescription accuracy
WO2011091402A1 (en) * 2010-01-25 2011-07-28 Justin Mason Voice electronic listening assistant
KR101675374B1 (ko) * 2010-06-10 2016-11-11 삼성전자 주식회사 휴대 단말기의 문자 입력 방법 및 장치
CN102541252A (zh) * 2010-12-26 2012-07-04 上海量明科技发展有限公司 一种语音协助字符输入的方法及系统
US9697871B2 (en) * 2011-03-23 2017-07-04 Audible, Inc. Synchronizing recorded audio content and companion content
WO2013185109A2 (en) * 2012-06-08 2013-12-12 Apple Inc. Systems and methods for recognizing textual identifiers within a plurality of words
US8806384B2 (en) * 2012-11-02 2014-08-12 Google Inc. Keyboard gestures for character string replacement
KR102011495B1 (ko) * 2012-11-09 2019-08-16 삼성전자 주식회사 사용자의 심리 상태 판단 장치 및 방법
CN103064530B (zh) * 2012-12-31 2017-03-08 华为技术有限公司 输入处理方法和装置
KR20140110627A (ko) * 2013-03-08 2014-09-17 엘지전자 주식회사 이동 단말기 및 이의 제어방법
US20160048372A1 (en) * 2014-08-14 2016-02-18 Nokia Corporation User Interaction With an Apparatus Using a Location Sensor and Microphone Signal(s)

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070019596A (ko) * 2005-08-12 2007-02-15 캐논 가부시끼가이샤 정보처리방법 및 정보처리장치

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170033641A (ko) * 2015-09-17 2017-03-27 삼성전자주식회사 전자 장치 및 전자 장치의 동작 제어 방법
KR20190101322A (ko) * 2019-08-12 2019-08-30 엘지전자 주식회사 Xr 디바이스 및 그 제어 방법
WO2022177164A1 (ko) * 2021-02-19 2022-08-25 삼성전자주식회사 온디바이스 인공지능 서비스를 제공하는 전자 장치 및 방법

Also Published As

Publication number Publication date
CN104468964A (zh) 2015-03-25
KR102063766B1 (ko) 2020-01-08
EP2849055A2 (en) 2015-03-18
EP2849055A3 (en) 2015-07-15
US20150081291A1 (en) 2015-03-19
EP2849055B1 (en) 2019-06-05
CN104468964B (zh) 2019-08-20
US9390715B2 (en) 2016-07-12

Similar Documents

Publication Publication Date Title
KR102063766B1 (ko) 이동 단말기 및 그것의 제어방법
KR102196671B1 (ko) 전자 기기 및 전자 기기의 제어 방법
JP5837627B2 (ja) 電子機器及び電子機器の制御方法
KR101961139B1 (ko) 이동 단말기 및 그것의 음성 인식 방법
KR101521920B1 (ko) 이동 단말기 및 그의 음악재생 제어방법
US8627235B2 (en) Mobile terminal and corresponding method for assigning user-drawn input gestures to functions
US9639251B2 (en) Mobile terminal and method of controlling the mobile terminal for moving image playback
KR101571723B1 (ko) 단말기 및 그 제어 방법
KR101853057B1 (ko) 이동 단말기 및 이동 단말기의 제어 방법
KR102217560B1 (ko) 이동 단말기 및 그것의 제어방법
KR101952177B1 (ko) 이동 단말기 및 그것의 제어 방법
KR20140009765A (ko) 휴대 단말기 및 그 제어 방법
KR20130071924A (ko) 이동 단말기 및 그것의 제어 방법
KR101592298B1 (ko) 이동 단말기 및 이동 단말기의 유저 인터페이스 방법
KR101629711B1 (ko) 이동 단말기
KR101513635B1 (ko) 단말기 및 그 제어 방법
KR101507833B1 (ko) 이동통신 단말기 및 이를 이용한 컨텐츠 재생 방법
KR101861699B1 (ko) 이동 단말기 및 그것의 제어 방법
KR101448650B1 (ko) 단말기 및 그 제어 방법
KR101521923B1 (ko) 단말기 및 그 제어 방법
KR101559778B1 (ko) 이동 단말기 및 그의 제어방법
KR101929777B1 (ko) 이동 단말기 및 그 제어방법
KR101643418B1 (ko) 아이콘 표시 방법 및 이를 적용한 이동 통신 단말기
KR20100072972A (ko) 단말기 및 그 제어 방법
KR101537594B1 (ko) 단말기 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant