KR20140039502A - 이동 단말기 및 이의 제어 방법 - Google Patents

이동 단말기 및 이의 제어 방법 Download PDF

Info

Publication number
KR20140039502A
KR20140039502A KR1020120105683A KR20120105683A KR20140039502A KR 20140039502 A KR20140039502 A KR 20140039502A KR 1020120105683 A KR1020120105683 A KR 1020120105683A KR 20120105683 A KR20120105683 A KR 20120105683A KR 20140039502 A KR20140039502 A KR 20140039502A
Authority
KR
South Korea
Prior art keywords
output
feedback
sound
mobile terminal
meaning
Prior art date
Application number
KR1020120105683A
Other languages
English (en)
Other versions
KR101978209B1 (ko
Inventor
김태준
남윤애
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020120105683A priority Critical patent/KR101978209B1/ko
Priority to EP13004033.0A priority patent/EP2712155B1/en
Priority to US14/012,732 priority patent/US9401139B2/en
Priority to CN201310453278.XA priority patent/CN103680492B/zh
Publication of KR20140039502A publication Critical patent/KR20140039502A/ko
Application granted granted Critical
Publication of KR101978209B1 publication Critical patent/KR101978209B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/08Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G10L13/086Detection of language
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/08Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/06Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
    • G10L21/10Transforming into visible information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/40Circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72436User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for text messaging, e.g. short messaging services [SMS] or e-mails
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72427User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting games or graphical animations

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Telephone Function (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은, 문장 단위의 텍스트를 디스플레이하기 위한 디스플레이부; 상기 텍스트를 소리로 변환한 합성음을 출력하기 위한 음향 출력 모듈; 및 상기 합성음을 생성하고, 상기 텍스트의 의미를 추출한 뒤, 상기 음향 출력 모듈을 통해 상기 합성음이 출력되는 동안 상기 텍스트의 의미에 부합하는 피드백이 출력되도록 제어하는 제어부를 포함하는 이동 단말기를 제공한다.

Description

이동 단말기 및 이의 제어 방법{MOBILE TERMINAL AND CONTROLLING METHOD THEREOF}
본 발명은 이동 단말기 이의 제어 방법에 관한 것으로 상세하게는 문장 단위의 자연어를 소리로 출력하는 동안 자연어의 의미에 부합하는 피드백을 출력하기 위한 이동 단말기 및 이의 제어 방법에 관한 것이다.
단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.
최근에는 이동 단말기 사용자의 편의 증대를 위해, 이동 단말기에서 디스플레이부에서 표시되는 텍스트 정보를 소리로 출력하는 음성 출력 기능이 추가되고 있다. 이에 사용자는 디스플레이부를 보지 않고서도 디스플레이부에 표시되는 내용을 손쉽게 인지할 수 있다.
다만, 종래 음성 출력 기능은 단순히 디스플레이부에 표시되는 텍스트를 읽어주는 것에 불과하여, 사용자에게 생동감 있는 정보를 전달하는 데는 적절한 수단으로 활용될 수 없다는 문제점이 있다.
본 발명은 사용자 편의를 향상시킨 이동 단말기를 제공하는 것에 목적이 있다.
구체적으로, 본 발명은 이동 단말기를 통해 소정 텍스트를 소리로 변환한 합성음이 출력되는 동안 소정 텍스트의 의미에 부합하는 피드백을 출력할 수 있는 이동 단말기를 제공하는 것에 목적이 있다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일실시예에 따른 이동 단말기는, 문장 단위의 텍스트를 디스플레이하기 위한 디스플레이부; 상기 텍스트를 소리로 변환한 합성음을 출력하기 위한 음향 출력 모듈; 및 상기 합성음을 생성하고, 상기 텍스트의 의미를 추출한 뒤, 상기 음향 출력 모듈을 통해 상기 합성음이 출력되는 동안 상기 텍스트의 의미에 부합하는 피드백이 출력되도록 제어하는 제어부를 포함할 수 있다.
이때, 상기 피드백은 상기 합성음의 배경음으로 활용되는 배음이나 상기 텍스트의 의미에 부합하는 이미지 파일을 포함할 수 있다.
나아가, 상기 피드백은 상기 디스플레이부의 출력 색상을 변화시키거나, 상기 디스플레이부의 밝기를 조절함으로써 출력될 수도 있다.
본 발명에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명은 사용자 편의를 향상시킨 이동 단말기를 제공할 수 있는 효과가 있다.
구체적으로, 본 발명은 이동 단말기를 통해 소정 텍스트를 소리로 변환한 합성음이 출력되는 동안 소정 텍스트의 의미에 부합하는 피드백을 출력함으로써, 사용자에게 텍스트 의미를 효과적으로 전달할 수 있는 이동 단말기를 제공할 수 있는 효과가 있다.
본 발명에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.
도 3은 도 2에 도시된 이동 단말기의 후면 사시도이다.
도 4는 본 발명의 일실시예에 따른 이동 단말기의 동작 흐름도이다.
도 5는 피드백이 이미지로 출력되는 것을 설명하기 위한 예시도이다.
도 6은 피드백이 이미지로 출력되는 것을 설명하기 위한 다른 예시도이다.
도 7은 핵심어의 출력 시점과 피드백의 출력 시점을 설명하기 위한 예시도이다.
도 8은 핵심어의 출력 시점과 피드백의 출력 시점을 설명하기 위한 다른 예시도이다.
도 9는 합성어의 출력 시점과 피드백의 출력 시점을 설명하기 위한 예시도이다.
도 10은 합성어의 출력 시점과 피드백의 출력 시점을 설명하기 위한 다른 예시도이다.
도 11은 합성음의 출력을 전후로 침묵 구간을 부가하는 것을 설명하기 위한 예시도이다.
도 12는 피드백이 출력되는 도중 진동이 출력되는 것을 설명하기 위한 예시도이다.
도 13은 사용자간 유저 데이터베이스를 공유하는 것을 설명하기 위한 예시도이다.
이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션, DSLR(Digital Single-Lens Reflex) 카메라, DSLT(Digital Single-Lens Translucent) 카메라, 미러리스 카메라, 콤팩트 카메라(Compact Camera) 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈(1100)이 상기 이동단말기(100)에 제공될 수 있다.
상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 관련 정보는 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미한다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS (Convergence of Broadcasting and Mobile Service), OMA-BCAST (Open Mobile Alliance-BroadCAST), CMMB (China Multimedia Mobile Broadcasting), MBBMS (Mobile Broadcasting Business Management System), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, GSM(Gobal System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA)(이에 한정되지 않음)와 같은 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), GSM, CDMA, WCDMA, LTE(Long Term Evolution)(이에 한정되지 않음) 등이 이용될 수 있다.
Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로으로 이해될 수도 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.
센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.
이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 호칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 호칭할 수 있다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미할 수 있다.
상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있으므로, 이 경우 상기 디스플레이부(151) 및 음음성출력모듈(152)은 알람부(153)의 일종으로 분류될 수도 있다.
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리부(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)가 저장될 수 있다.
또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.
식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.
상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
제어부(controller)(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.
개시된 이동 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.
바디는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스가 추가로 배치될 수도 있다.
케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.
단말기 바디, 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.
디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(151)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.
사용자 입력부(130)는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있다.
제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드 활성화/비활성화 등과 같은 명령을 입력받을 수 있다.
도 3은 도 2에 도시된 이동 단말기의 후면 사시도이다.
도 3을 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 같거나 서로 다른 화소를 가지는 카메라일 수 있다.
예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.
카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치될 수 있다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.
단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.
통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 단말기 바디의 측면에 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.
단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.
리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135)는 디스플레이부(151)를 위해 광 투과형으로 구성될 수도 있다. 이 경우에, 디스플레이부(151)가 양면에서(즉, 이동단말기의 전면 및 후면 둘 다의 방향으로) 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다.
한편, 터치 패드(135) 전용 디스플레이가 별도로 장착됨으로써, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.
터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.
설명의 편의를 위해, 본 발명에 따른 이동 단말기(100)는 도 1에 도시된 구성요소 중 적어도 하나를 포함하는 것으로 가정한다. 구체적으로, 본 발명에 따른 이동 단말기(100)는 도 1에 도시된 구성요소 중 디스플레이부(151), 음향 출력 모듈(152), 메모리(160) 및 제어부(180)를 포함하는 것으로 가정한다. 경우에 따라, 본 발명에 따른 이동 단말기(100)는 도 1에 도시된 구성요소 중 무선 통신부 및 카메라를 더 포함할 수도 있다.
도 1에 도시되지는 않았지만, 본 발명에 따른 제어부(180)는 TTS(Text To Speech) 모듈, 자연어 처리(Natural Language Processing) 모듈 및 피드백 추정 모듈을 포함할 수 있다.
TTS 모듈은 디스플레이부(151)에 디스플레이되는 자연어를 음성으로 바꿔 음향 출력 모듈(152)에 전달하기 위한 것으로, 녹음된 육성을 이용하지 않고 자연어를 바로 소리로 바꿔 음향 출력 모듈(152)에 전달하기 위한 것이다. 본 발명에 따른 TTS 모듈은 문장 단위의 자연어를 자동 분석해 합성음을 생성한 뒤 생성된 합성음을 음향 출력 모듈(152)로 전달할 수 있다. 자연어가 디스플레이부(151)에 디스플레이되는 경우, 문자열이 조합된 텍스트 형태로 표시될 수 있을 것이다.
자연어 처리 모듈은 인간이 발화하는 언어 현상을 기계적으로 분석하여 컴퓨터가 이해할 수 있는 형태로 변환하기 위한 것이다. 자연어 처리 모듈은 형태소 분석, 구절 단위 분석 및 구문 분석등을 수행하여 인간의 언어를 분석하고 이를 기계어로 자연어의 의미를 출력할 수 있다. 본 발명에 따른 자연어 처리 모듈은 문장 단위의 자연어의 의미를 분석하여 이를 출력할 수 있다.
자연어 처리 모듈에서, 형태소 분석이란 어떤 대상 어절의 모든 가능한 분석 결과를 출력하는 것을 의미하는 것일 수 있다. 구체적으로, 자연어 처리 모듈은 테이블 파싱(table parsing)을 이용하여 어절이 쪼개어질 수 있는 모든 경우의 수 중 적합한 결과를 선택할 수 있다. 구절 단위 분석은 명사구, 동사구, 부사구 등의 분석을 수행하는 것을, 절 단위 분석은 중문, 복문 등의 문장을 단문 단위로 분해하는 것을 의미할 수 있다. 구문 분석은 문장을 그것을 이루고 있는 구성 성분으로 분해하고 그들 사이의 위계 관계를 분석하여 문장의 구조를 결정하는 것을 의미할 수 있다.
피드백 추정 모듈은 자연어 처리 모듈로부터 출력되는 자연어의 의미에 부합하는 피드백을 결정하기 위한 것이다. 피드백 추정 모듈은 배음(背音, Background Sound) 추정 모듈, 진동 결정 모듈, 디스플레이 결정 모듈 및 광원 결정 모듈 중 적어도 하나를 포함할 수 있다. 배음 추정 모듈은 자연어의 의미에 부합하는 음향 데이터를 결정하기 위한 것이고, 진동 결정 모듈은 자연어의 의미에 따라 진동의 출력 여부를 결정하기 위한 것이다. 마찬가지로, 디스플레이 결정 모듈은 자연어의 의미에 따라 디스플레이부(151)의 출력 변화 여부를 결정하기 위한 것이고, 광원 결정 모듈은 자연어의 의미에 따라 광원의 점멸 여부를 결정하기 위한 것일 수 있다.
상술한 내용을 기초로 본 발명에 따른 이동 단말기(100)에 대해 상세히 설명하기로 한다.
도 4는 본 발명의 일실시예에 따른 이동 단말기의 동작 흐름도이다. 도 4를 참조하면, 먼저, 제어부(180)는 디스플레이부(151)에 문장 단위의 자연어가 디스플레이되도록 제어할 수 있다(S401). 문장은 인간의 생각이나 감정을 언어로 표현할 때 완결된 내용을 나타내는 최소의 단위로, 주어와 서술어를 갖추고 있는 것이 일반적이지만, 주어와 서술어가 반드시 구비되어야 하는 것은 아니다. 일예로, “멍멍”, ”땡땡” 과 같이 주어와 서술어가 생략된 의성어도 문장을 이룰 수 있으며, “정말?” 과 같이 주어는 생략된 채 서술어만이 문장을 구성할 수도 있다. S401 단계에 있어서, 제어부(180)는 e-Book, 문서(Document) 파일, 웹 페이지, 텍스트가 기입된 이미지 파일 등을 디스플레이부(151)에 출력함으로써 자연어가 디스플레이되도록 제어할 수 있다. 이미지 파일로부터 자연어를 추출하는 경우, 제어부(180)는 문자 인식 알고리즘을 이용하여 이미지 파일로부터 자연어를 추출할 수 있다.
디스플레이부(151)에 문장 단위의 자연어가 표시되면, 제어부(180)의 TTS 모듈은 문장 단위의 자연어를 TTS 분석하여 자연어를 소리로 변환한 합성음이 생성되도록 제어할 수 있다(S402). 이와 함께, 제어부(180)의 자연어 처리 모듈은 문장 단위의 자연어를 분석하여 자연어의 의미를 추출할 수 있다(S403).
자연어의 의미가 분석되면, 제어부(180)의 피드백 결정 모듈은 자연어의 의미에 부합하는 피드백을 결정할 수 있다(S404). 구체적으로, 피드백은 배음의 출력, 이미지의 디스플레이, 디스플레이부(151)의 출력 변화, 진동의 출력 및 광원의 점멸 중 적어도 하나의 형태로 나타날 수 있다. 이하에서는 디스플레이부(151)에 출력되는 자연어의 예시 및 자연어의 의미에 따라 피드백이 출력되는 것에 대해 구체적으로 살펴보기로 한다.
[피드백의 예시 - 배음]
제어부(180)는 자연어 의미에 부합하는 배음을 피드백으로 결정할 수 있다. 배음은 음향 출력 모듈(152)를통해 합성음이 출력되는 동안 합성음을 꾸며주는 배경음일 수 있다. 구체적으로, 제어부(180)는 메모리(160)에 저장된 배음 데이터베이스로부터 자연어 의미에 부합하는 배음을 추출할 수 있다. 자연어의 구체적 예를 곁들어 피드백의 결정 예를 상세히 살펴보기로 한다.
<자연어 예시 1 - 이번 주말에는 비가 내리겠습니다.>
상술한 예시 1의 의미는 주어 '비' 가 서술어 '내리다' 라는 동작을 취하는 것이므로, 제어부(180)는 예시 1의 '비가 내리다' 라는 의미에 부합하는 배음을 배음 데이터베이스로부터 추출할 수 있다. 구체적으로, 제어부(180)는 배음 데이터베이스로부터 빗소리에 해당하는 배음을 추출하고 이를 피드백으로 사용할 수 있다.
<자연어 예시 2 - 강풍을 동반한 폭우가 예상됩니다.>
상술한 예시 2의 의미는 주어 '폭우'가 서술어 '예상된다' 라는 액션을 취하고, 목적어 '강풍'이 서술어 '동반하다'라는 액션을 취하는 것이다. 바꿔 말하면, 예시 2의 의미는 '강풍이 불다' 와 '폭우가 내리다' 라는 의미가 합성된 것으로 볼 수 있다. 이에 따라, 제어부(180)는 배음 데이터베이스로부터 '강풍이 불다'라는 의미에 부합하는 바람소리를 표현하는 배음 및 '폭우가 내리다' 라는 의미에 부합하는 빗소리를 표현하는 배음을 피드백으로 사용할 수 있다.
상술한 자연어 예시 1, 2를 통해 기술된 바와 같이, 본 발명에 따른 제어부(180)는 자연어의 의미에 부합하는 배음이 피드백으로 결정되도록 제어할 수 있다. 다만, 배음 데이터베이스로부터 자연어의 의미에 부합하는 배음을 추출할 수 없는 경우에는 배음을 피드백으로 사용할 수 없을 것이다.
나아가, 제어부(180)는 문장의 의미가 부정 또는 부존재에 관련된 것일 경우에는 피드백을 출력하지 않을 수도 있다. 이에 대해서는 후술되는 예시를 참조한다.
<자연어 예시 3 - 이번 주말은 모처럼 비 소식이 없겠습니다.>
상술한 예시 3의 의미는 주어 '비 소식'의 부존재(서술어 '없겠습니다')를 알리는 것이다. 즉, 예시 3의 의미는 '비가 내리지 않는다' 라는 부정의 의미를 갖는 것으로 볼 수 있다. 이에 따라, 제어부(180)는 앞서 자연어 예시 1을 통해 기술한 것과는 반대로 배음 데이터베이스로부터 빗소리에 해당하는 배음을 추출하지 않을 수 있다. 즉, 예시 3에서 제어부(180)는 자연어의 의미에 부합할 수 있도록, 배음이 출력되지 않도록 제어할 수 있다.
자연어 예시 3에서와 같이, 본 발명에 따른 제어부(180)는 문장의 키워드 별로 피드백을 결정하는 것이 아니라 문장의 전체 의미에 따라 피드백이 결정되도록 제어할 수 있다. 즉, 자연어 예시 3의 문장 속 키워드 '비' 가 포함되어 있더라도, 반드시 '빗소리'를 피드백으로 결정하여야 하는 것은 아니라 할 것이다.
[피드백의 예시 - 진동]
제어부(180)는 자연어의 의미에 따라 피드백으로 진동이 출력되도록 제어할 수 있다. 구체적으로, 제어부(180)는 자연어의 의미가 흔들림, 진동, 충격, 깨짐, 파손, 훼손 등과 관련된 것일 경우, 피드백으로 진동이 출력되도록 제어할 수 있다. 자연어의 구체적 예를 곁들어 피드백으로 진동이 출력되는 것에 대해 상세히 살펴보기로 한다.
<자연어 예시 4 - 버스는 시골의 비포장 길을 달리며 심하게 흔들리고 있다.>
상술한 예시 4의 의미는 주어 '버스'가 '달린다' 및 '흔들린다'라는 동작을 수행하는 것이다. 제어부(180)는 예시 4의 의미 중 '버스가 흔들린다' 라는 의미에 부합하는 피드백으로 진동이 출력되도록 제어할 수 있다. 즉, 예시 4의 의미에서와 같이, 버스가 비포장 길을 달리는 것과 같은 촉각 효과를 부여하기 위해, 제어부(180)는 이동 단말기(100)를 통해 진동이 출력되도록 제어할 수 있다.
<자연어 예시 5 - 그는 힘껏 현관 문을 주먹으로 내리쳤다.>
상술한 예시 5의 의미는 주어 '그' 가 보어 '주먹'을 통해 목적어 '현관 문'을 '내리치다'라는 행위를 수행한다는 것이다. 예시 5에서와 같이 문장의 의미가 특정 객체에 충격이 가해진다는 의미를 포함하고 있는 경우, 제어부(180)는 피드백으로 진동이 출력되도록 제어할 수 있다. 예시 5에서, 제어부(180)는 현관 문에 주먹이 부딪힌 것과 같은 효과를 부여하기 위해, 이동 단말기(100)를 통해 진동이 출력되도록 제어할 수 있다.
[피드백의 예시 - 이미지]
제어부(180)는 자연어의 의미에 따라 피드백으로 이미지가 출력되도록 제어할 수 있다. 구체적으로, 제어부(180)는 메모리(160)에 저장된 이미지 데이터베이스로부터 자연어 의미에 부합하는 이미지를 추출할 수 있다. 자연어의 구체적 예를 참조하여 피드백으로 이미지가 출력되는 경우의 예시를 살펴보기로 한다.
<자연어 예시 6 - 멀리 날아간 야구공은 옆집 창문을 깨뜨리고 말았습니다.>
상술한 예시 6의 의미는 주어 '야구공'이 목적어 '옆집 창문'을 '깨뜨리다'라는 동작을 수행하는 것이다. 즉, 예시 6에서는 유리와 같은 물체가 깨진다는 의미를 포함하는 것으로 이해될 수 있다. 이에 따라, 제어부(180)는 이미지 데이터베이스로부터 예시 6에서 '유리가 깨진다'라는 의미에 부합할 수 있는 이미지를 추출하여 피드백으로 결정할 수 있다. 일예로, 도 5에 도시된 예에서와 같이, 제어부(180)는 예시 6의 의미에 부합하는 유리가 깨진 것과 같이 표현된 이미지가 피드백으로 디스플레이부(151)를 통해 출력되도록 제어할 수 있다. 도 5에 도시된 예에서와 같이, 제어부(180)는 디스플레이부(151)를 통해 자연어가 출력되는 동안 피드백으로 결정된 이미지가 배경 이미지를 구성하도록 제어할 수 있다.
<자연어 예시 7 - 창 밖을 보니 함박눈이 펑펑 내리고 있었습니다.>
상술한 예시 7의 의미는, 주어 '함박눈'이 서술어 '내리다' 라는 동작을 수행하는 것이다. 즉, 예시 7에서는 '눈이 내린다' 라는 의미를 포함하는 것으로 이해될 수 있다. 이에 따라, 제어부(180)는 이미지 데이터베이스로부터 예시 7에서 '눈이 내린다'라는 의미에 부합하는 이미지를 추출하여 피드백으로 결정할 수 있다. 일예로, 도 6에 도시된 예에서와 같이, 제어부(180)는 예시 7의 의미에 부합하도록, 눈 내리는 풍경을 표현한 이미지가 피드백으로 디스플레이부(151)를 통해 출력되도록 제어할 수 있다.
도 5 및 도 6에서와 같이, 자연어의 배경으로 피드백을 출력하는 경우, 제어부(180)는 자연어의 글자 색상이 배경 이미지의 색상과 명확히 대비되도록 제어할 수 있다. 이는 자연어의 글자 색상과 자연어가 디스플레이되는 위치에서의 배경 이미지 색상이 유사한 경우, 배경어로 인해 자연어의 시인성이 떨어지게 된다는 문제점을 방지하기 위함이다. 구체적으로, 제어부(180)는 자연어와 피드백으로 출력되는 배경 이미지의 색상이 유사하다고 판단되는 경우, 디스플레이부(151)에 피드백이 출력되는 동안 자연어의 글자 색상이 제 1 색상에서 제 2 색상으로 변경되어 디스플레이되도록 제어할 수 있다. 제 2 색상은 제 1 색상 혹은 자연어가 디스플레이되는 위치에서 배경 이미지의 색상과 보색 관계에 있을 수 있으나, 반드시 그래야 하는 것은 아니다. 자연어의 글자 색상을 제 1 색상에서 제 2 색상으로 변경함으로써, 피드백으로 이미지를 출력하는 동안에도 디스플레이되는 자연어의 시인성을 확보할 수 있다.
나아가, 피드백으로 사용되는 이미지가 반드시 정지 이미지(still cut)일 필요는 없다. 다른 예로, 제어부(180)는 움직이는 이미지나 동영상도 피드백으로 사용할 수 있다.
[피드백의 예시 - 디스플레이부(151)의 밝기 또는 색상 변화]
제어부(180)는 자연어의 의미에 따라 피드백으로 디스플레이부(151)의 밝기나 색상이 변화하도록 제어할 수 있다. 구체적으로, 자연어의 의미가 밤낮의 변화, 전등기구의 On/Off 등과 같이 밝기의 변화와 관련된 것일 경우, 제어부(180)는 디스플레이부(151)의 밝기를 변화시켜 자연어의 의미에 부합하는 피드백이 출력되도록 제어할 수 있다. 다른 예로, 자연어의 의미가 특정 색상과 관련된 것일 경우, 제어부(180)는 디스플레이부(151)를 통해 특정 색상을 출력 시켜 피드백이 출력되도록 제어할 수 있다. 자연어의 구체적 예를 참조하여 디스플레이부(151)의 밝기 또는 색상 변화를 통해 피드백이 출력되는 경우에 대해 상세히 살펴보기로 한다.
<자연어 예시 8 - 깊은 산중이라 그런지 벌써 어스름하게 어둠이 내려앉고 있었다.>
상술한 예시 8의 의미는 객체 '어둠' 이 서술어 '내려앉다' 라는 동작을 수행한다는 것이다. 즉, 예시 8에서는 '어두워지다' 라는 의미를 포함하는 것으로 이해될 수 있다. 이에 따라, 제어부(180)는 '어두워지다'라는 의미가 표현될 수 있도록 디스플레이부(151)의 밝기 레벨이 점진적으로 감소하도록 제어할 수 있다.
<자연어 예시 9 - 짙은 먹구름이 걷히고 태양이 솟아 올랐다.>
상술한 예시 9의 의미는 객체 '태양' 이 '솟아 오르다' 라는 동작을 수행한다는 것을 포함한다. 즉, 예시 9에서는 '해가 뜨다'라는 의미를 포함하는 것으로 이해될 수 있다. 이에 따라, 제어부(180)는 '해가 뜨다'라는 의미가 표현될 수 있도록 디스플레이부(151)의 밝기 레벨이 점진적으로 증가하도록 제어할 수 있다.
<자연어 예시 10 - 그가 천을 노랗게 물들였다.>
상술한 예시 10의 의미는 주어 '그' 가 목적어 '천'을 보어 '노랗게' 서술어 '물들이다' 라는 동작을 수행한다는 것을 포함한다. 즉, 예시 10에서는 '천이 노랗게 변하다' 라는 의미를 포함하는 것으로 이해될 수 있다. 이에 따라, 디스플레이부(151)의 색상을 점차 노란색으로 변경하여 '노랗게 변하다' 라는 의미를 표현할 수 있다.
[피드백의 예시 - 광원부의 점멸]
본 발명에 따른 이동 단말기(100)는 앞서 설명한 예에서와 같이 디스플레이부(151)의 밝기를 조절하여 밝기의 변화를 표현할 수도 있지만, 광원부의 점멸을 통해 밝기의 변화를 표현할 수도 있다. 여기서, 광원부는 사진 촬영시 빛을 보충하는데 이용하기 위한 카메라 플래쉬 및 키 패드의 뒤편에 위치하는 백라이트 LED 중 적어도 하나를 포함할 수 있다. 자연어의 구체적 예를 참조하여, 광원부의 점멸을 통해 피드백이 출력되는 경우에 대해 상세히 살펴보기로 한다.
<자연어 예시 11 - 먹구름이 몰려오는가 싶더니 순간 번쩍 하며 번개가 내리쳤다.>
상술한 예시 11의 자연어는 주어 '번개'가 서술어 '내리친다'라는 동작을 수행한다는 의미를 포함한다. 제어부(180)는 예시 11의 '번개가 친다' 라는 의미에 부합할 수 있도록, 광원부가 점멸하는 형태의 피드백이 출력되도록 제어할 수 있다.
상술한 예에서는 피드백의 예시로, 배음, 진동, 이미지, 디스플레이부(151)의 밝기 또는 색상 변화 및 광원부의 점멸을 열거하였다. 피드백이 열거된 예시 중 어느 하나로 결정되어야 하는 것은 아니며, 둘 이상이 조합된 형태로 피드백이 결정될 수도 있다. 즉, 피드백은 배음, 진동, 이미지, 디스플레이부(151)의 밝기 또는 색상 변화 및 광원부의 점멸 중 적어도 하나를 포함하는 것일 수 있다.
예컨대, '천둥번개가 무서운 소리를 내며 내리쳤다' 라는 자연어로부터, 제어부(180)는 천둥 소리에 해당하는 배음, 벼락이 치는 것을 표현하는 이미지 및 번개가 치는 것을 표현하기 위해 순간적으로 디스플레이 밝기 또는 색상을 변화시키거나, 광원부를 점멸하는 것 등 피드백이 다양한 형태로 출력되도록 제어할 수 있다.
다시 도 4를 참조하면, 제어부(180)는 음향 출력 모듈(152)을 통해 자연어를 소리로 변환한 합성음이 출력되도록 제어면서(S405), 합성음이 출력되는 동안 피드백이 출력되도록 제어할 수 있다(S406). 자연어를 소리로 변환한 합성음이 출력되는 동안 자연어의 의미에 부합하는 피드백이 출력되도록 제어함으로써, 사용자가 더욱 손쉽게 자연어의 의미를 이해할 수 있도록 제어할 수 있다.
음향 출력 모듈(152)을 통해 합성음이 출력되는 동안 피드백을 출력하도록 제어함에 있어서, 제어부(180)는 자연어에 피드백에 대응되는 핵심어(키워드) 유무나 합성음과 피드백의 재생 시간을 기초로 피드백의 출력 시기를 조절할 수 있다.
피드백의 출력 시기가 조절되는 것에 대해서는 구체적 예를 통해 상세히 살펴보기로 한다.
[피드백의 출력 시점 예시 1 - 핵심어의 출력에 맞춰 피드백을 출력]
피드백에 대응하는 핵심어가 존재하는 경우, 제어부(180)는 합성음 중 핵심어의 출력 시점에 맞춰 피드백이 출력되도록 제어할 수 있다. 이에 대해서는 도 7을 참조하여 상세히 설명하기로 한다.
도 7 및 도 8은 '내일은 비가 내리겠습니다'라는 자연어의 합성음이 출력되는 동안 피드백이 출력되는 것을 설명하기 위한 예시도이다. 도 7의 예시도에서, 합성음 바는 합성음의 출력 분량을 나타내기 위한 것으로, 합성음 바를 구성하는 각 블록은 자연어를 소리로 변환했을 경우 각 글자의 출력 시간을 예시한 것이다. 피드백 바는 피드백의 출력 분량을 나타내는 것으로, 피드백의 출력 분량은 피드백의 형태에 따라 다른 의미로 이해될 수 있다. 예컨대, 피드백의 출력 분량은 배음의 재생 시간, 이미지가 디스플레이되는 시간, 디스플레이부(151)의 밝기가 점진적으로 변화하여 목표 밝기에 도달할 때까지 소요되는 시간 또는 디스플레이부(151)의 출력 색상이 점진적으로 변화하여 목표 색상에 도달할 때까지 소요되는 시간 및 광원부의 점등이 유지되는 시간 또는 광원부가 결정된 횟수만큼 점멸하는데 소요되는 시간 중 적어도 하나를 의미하는 것일 수 있다.
일예로, 도 7의 예에서, 피드백이 '빗소리'를 표현하는 배음인 경우, 피드백에 부합하는 핵심어는 '비' 일 수 있다. 이에 따라, 제어부(180)는 도 7에 도시된 예에서와 같이 합성음 중 '비'라는 단어의 출력 시작 시점에 맞춰 피드백이 출력되도록 제어할 수 있다.
또 다른 예로, 제어부(180)는 도 8에 도시된 예에서와 같이, 합성음 중 '비'라는 단어의 출력 중심점과 피드백의 중심점을 일치시킨 상태에서 피드백이 출력되도록 제어할 수도 있다. 이 경우, 피드백은 '비'라는 단어가 소리로 출력되기 전에 출력되거나, '비'라는 단어가 소리로 출력된 이후에 출력될 수도 있을 것이다.
도시되지는 않았지만, 도 7의 예에서와는 반대로, '비'라는 단어의 출력의 종료 시점과 피드백의 종료 시점을 일치시켜 피드백이 출력되도록 제어할 수도 있을 것이다.
상술한 예에서와 같이, 제어부(180)는 피드백에 부합하는 핵심어를 추출한 뒤, 추출된 핵심어의 음성으로 출력 시점에 맞춰 피드백의 출력 시점이 조절되도록 제어할 수 있다. 피드백에 대응하는 핵심어가 존재하지 않는 경우라면, 후술될 출력 시점 예시 2를 따를 수 있을 것이다.
[피드백의 출력 시점 예시 2 - 합성음 전체의 출력에 맞춰 피드백을 출력]
제어부(180)는 합성음 전체의 출력의 출력 시점에 맞춰 피드백이 출력되도록 제어할 수 있다. 구체적으로, 제어부(180)는 합성음의 출력이 시작될 때 피드백도 출력되도록 제어하거나, 합성음의 출력 중심과 피드백의 출력 중심을 일치시킨 뒤 피드백이 출력되도록 제어할 수 있다. 이에 대해서는 도 9 및 도 10을 참조하여 설명하기로 한다. 설명의 편의를 위해, 도 9 및 도 10의 예에서, 피드백은 교통 체증을 표현하는 배음인 것으로 가정한다.
도 9 및 도 10은 '귀경길 정체가 시작되겠습니다'라는 자연어의 합성음이 출력되는 동안 피드백이 출력되는 것을 설명하기 위한 예시도이다. 도 9에 도시된 예에서와 같이, 제어부(180)는 합성음의 출력 시작 시점에 맞춰 피드백이 출력되도록 제어할 수 있다.
또 다른 예로, 제어부(180)는 도 10에 도시된 예에서와 같이 합성음의 총 재생 시간의 중심점과 피드백의 총 재생 시간의 중심점을 일치시킨 뒤 피드백이 출력되도록 제어할 수도 있다.
도시되지는 않았지만, 도 9의 예에서와는 반대로, 합성음의 출력 종료 시점과 피드백의 출력 종료 시점을 일치시켜 피드백이 출력되도록 제어할 수도 있을 것이다.
상술한 예에서와 같이, 제어부(180)는 합성음의 출력 시점에 맞춰 피드백의 출력 시점이 조절되도록 제어할 수 있다.
피드백이 출력 시점 예시 1이나 출력 시점 예시 2 중 어떠한 것을 따를 것인지 여부는 사용자 설정에 따라 결정되거나, 피드백에 부합하는 핵심어 유무에 따라 결정될 수 있다. 출력 시점 예시 1이나 출력 시점 예시 2 중 어느 하나를 따를 경우, 합성어의 합성어가 출력되기 전이나 합성어의 출력이 완료된 이후에도 피드백이 출력되어야 하는 상황이 발생할 수 있다. 예를 들어, 피드백의 총 재생 시간이 합성음의 총 재생 시간보다 길다면, 합성음의 출력 전후로 피드백이 출력되어야 하는 상황이 발생할 수 있다. 이 경우, 제어부(180)는 생성된 합성음의 출력 시작 전 및 합성음의 출력 완료 이후 중 적어도 하나에 침묵(silence) 구간이 부가되도록 제어함으로써, 합성음이 재생되는 동안 피드백이 출력되도록 제어할 수 있다. 합성음에 침묵 구간이 부가되는 경우, 합성음의 침묵 구간이 종료된 이후 자연어가 소리로 출력될 수 있을 것이다. 다만, 침묵 구간이 출력되는 동안에도 피드백은 지속적으로 출력될 수 있다. 합성음의 앞뒤에 침묵 구간이 부가되는 것은 도 11의 예시도를 참조하기로 한다.
도 11은 합성음의 출력을 전후로 침묵 구간을 부가하는 것을 설명하기 위한 예시도이다. 도 11에 예시에서는 합성음의 총 재생 시간의 중심점과 피드백의 총 재생 시간의 중심점을 일치시킨 뒤 피드백이 출력되는 것으로 예시하였다. 이때, 피드백의 총 재생 시간이 합성음의 총 재생 시간보다 큰 경우, 제어부(180)는 도 11에 도시된 예에서와 같이 생성된 합성음의 출력을 전후하여 침묵 구간이 부가되도록 제어할 수 있다. 생성된 합성음의 앞뒤에 침묵 구간이 부가되도록 제어함으로써, 침묵 구간이 부가된 합성음의 재생 시간이 피드백의 재생 시간 이상이 되도록 제어할 수 있다.
도 11의 예에서와 같이 생성된 합성음의 앞뒤로 침묵 구간을 부가하는 것은 피드백과 무관한 문장의 합성음이 출력되는 동안 피드백이 출력되는 것을 방지하기 위함이다. 예컨대, 이동 단말기(100)가 문장 단위의 제 1 자연어와 제 2 자연어 각각의 합성어를 연속적으로 출력해야 하는 경우, 제 2 자연어의 합성어가 출력되는 동안에는 제 1 자연어의 의미에 부합하는 제 1 피드백이 아닌 제 2 자연어의 의미에 부합하는 제 2 피드백이 출력되어야 할 것이다. 이에, 제어부(180)는 제 2 자연어의 합성어 또는 제 2 자연어의 의미에 부합하는 제 2 피드백과 제 1 자연어의 의미에 부합하는 제 1 피드백이 중첩 출력 되는 것을 방지하고, 제 2 자연어의 의미에 부합하는 제 2 피드백과 제 자연어의 합성어 또는 제 1 자연어의 의미에 부합하는 제 1 피드백이 중첩 출력되는 것을 방지하기 위해, 제 1 자연어의 합성어 또는 제 2 자연어의 합성어에 침묵 구간이 부가 되도록 제어할 수 있다. 이에 따라, 제 1 자연어의 합성어가 출력되는 동안에는 제 1 피드백만이 출력되고, 제 2 자연어의 합성어가 출력되는 동안에는 제 2 피드백만이 출력될 수 있을 것이다.
도 11에서는 생성된 합성음의 양쪽에 모두 침묵 구간이 부가되는 것으로 예시되었지만, 이와 달리 생성된 합성음의 어느 한쪽에 침묵 구간이 부가될 수도 있다.
피드백이 배음인 경우, 제어부(180)는 합성음과 배음을 하나의 파일로 머징(Merging) 한 뒤, 머징된 음향 파일을 출력함으로써, 합성음의 출력 도중 피드백이 출력되도록 제어할 수도 있다.
다시 도 4를 참조하면, 제어부(180)는 피드백이 출력되는 동안 피드백에 부수하는 진동이 출력되도록 제어할 수 있다(S407). 구체적으로, 피드백이 배음을 포함하는 경우, 제어부(180)는 배음의 세기를 기초로 진동의 출력 여부가 조절되도록 제어할 수 있다.
후술될 도 12를 참조하여, 피드백에 부수하여 진동이 출력되는 것에 대해 상세히 살펴보기로 한다. 도 12를 설명하기에 앞서, 피드백은 배음을 포함하는 것으로 가정한다.
도 12는 피드백이 출력되는 도중 진동이 출력되는 것을 설명하기 위한 예시도이다. 도 12는 배음의 파형을 시간 도메인(time domain)으로 플롯(plot)한 예시도이다. 제어부(180)는 도 12a에 도시된 예에서와 같이, 배음의 파형을 분석하여 배음의 진폭이 임계치(threshold)보다 큰 구간을 스캔할 수 있다. 이후, 제어부(180)는 임계 시간 동안 임계치보다 큰 진폭값을 갖는 구간을 초과 구간(1210)으로 설정할 수 있다. 제어부(180)는 피드백의 초과 구간이 출력되는 동안에는 진동이 출력되도록 제어할 수 있다.
여기서, 임계치는 배음의 평균 진폭(average amplitude)일 수 있으나 이에 한정되는 것은 아니라 할 것이다. 다른 예로, 제어부(180)는 사용자의 설정값을 기초로 임계치를 조절할 수도 있다.
피드백의 초과 구간(1210)이 출력되는 동안 진동을 출력하는 경우, 제어부(180)는 초과 구간의 최대 진폭값과 임계치의 비율에 따라 진동의 세기 레벨이 결정되도록 제어할 수 있다. 구체적으로, 제어부(180)는 하기 수학식 1 및 2를 기초로 진동의 세기 레벨이 결정되도록 제어할 수 있다.
Figure pat00001
Figure pat00002
여기서,
Figure pat00003
은 당해 초과 구간에서의 진동 세기 레벨, Int는 Integer 함수, Local_Max Amp는 당해 초과 구간에서의 최대 진폭(이하 로컬 최대 진폭이라 함), Global_Max Amp는 모든 초과 구간내에서의 최대 진폭 또는 배음의 전체 파형 중 최대 진폭(이하 글로벌 최대 진폭이라 함), Threshold 는 임계치,
Figure pat00004
은 설정 가능한 진동의 최대 세기 레벨일 수 있다. 수학식 2의 Step 은 진동의 최대 세기 레벨, 글로벌 최대 진폭 및 임계치의 함수로써 수학식 3에 의해 정의될 수 있다.
Figure pat00005
수학식 1 및 2를 통해 진동 세기 레벨이 결정되는 것을 설명하면, 먼저, 임계치 대비 글로벌 최대 진폭의 비율이 진동의 최대 세기 레벨 이하인 경우(수학식 1), 제어부(180)는 각각의 초과 구간에 대해 임계치 대비 로컬 최대 진폭의 정수비를 각각의 초과 구간에서의 진동 세기 레벨로 결정할 수 있다. 즉, 더 높은 최대 진폭을 갖는 초과 구간일수록 더 높은 세기 레벨의 진동이 출력되도록 제어할 수 있다.
반대로, 임계치 대비 글로벌 최대 진폭의 비율이 진동의 최대 세기 레벨보다 큰 경우(수학식 2), 제어부(180)는 Step의 역수와 임계치 대비 로컬 최대 진폭 비율을 승산한 값으로부 추출된 정수를 각 초과 구간에서의 진동 세기 레벨로 결정할 수 있다. 임계치 대비 글로벌 최대 진폭의 비율이 진동의 최대 세기 레벨보다 큰 경우, 임계치 대비 로컬 최대 진폭의 비율에 Step의 역수를 승산함으로써, 초과 구간의 실제 세기에 따라 진동의 세기 레벨이 적절히 분포되도록 제어할 수 있다. 예컨대, 모든 초과 구간에서 임계치 대비 로컬 최대 진폭의 비율이 진동의 최대 세기 레벨보다 큰 경우에도 수학식 1을 적용한다면, 모든 초과 구간에서의 진동 세기 레벨은 진동의 최대 세기 레벨로 결정될 것이다. 수학식 1이 아닌 수학식 2가 적용되는 경우네는 모든 초과 구간에서의 임계치 대비 로컬 최대 진폭의 비율이 진동의 최대 세기 레벨보다 크더라도 모든 구간에서 최대 세기 레벨의 진동이 출력되지는 않을 것이다. 이 경우, 글로벌 최대 진폭 대비 로컬 최대 진폭 값이 상대적으로 작은 구간에서는 상대적으로 작은 세기 레벨로 진동이 출력될 것이고, 글로벌 최대 진폭 대비 로컬 최대 진폭 값이 동등한 구간에서는 상대적으로 큰 세기 레벨로 진동이 출력될 수 있을 것이다.
도 4의 S404 단계를 설명하면서, 피드백으로 배음 또는 이미지를 선택할 수 있는 것으로 예시하였다. 구체적으로, 제어부(180)는 메모리(160)에 저장된 배음 데이터 또는 이미지 데이터베이스로부터 자연어의 의미에 부합하는 배음 또는 이미지를 추출할 수 있는 것으로 예시하였다. 여기서, 배음 또는 이미지를 추출하기 위한 배음 데이터베이스는 디폴트 배음 데이터베이스 및 유저 배음 데이터베이스를 포함할 수 있으며, 이미지 데이터베이스는 디폴트 이미지 데이터베이스 및 유저 이미지 데이터베이스를 포함할 수 있다. 설명의 편의를 위해, 배음 데이터 베이스 및 이미지 데이터베이스를 데이터베이스로, 디폴트 배음 데이터베이스 및 디폴트 이미지 데이터베이스를 디폴트 데이터베이스로, 유저 배음 데이터베이스 및 유저 이미지 데이터베이스를 유저 데이터베이스라 호칭하기로 한다.
디폴트 데이터베이스는 기본적으로 제공되는 배음 또는 이미지가 저장되어 있는 데이터베이스이고, 유저 데이터베이스는 사용자가 원하는 대로 배음 또는 이미지를 구성할 수 있는 데이터베이스를 의미하는 것일 수 있다. 유저 데이터베이스는 웹을 통해 사용자간 공유될 수 있다. 일예로, 도 13은 사용자간 유저 데이터베이스를 공유하는 것을 설명하기 위한 예시도이다. 사용자는 자신의 이동 단말기(100)에 저장된 데이터베이스를 글로벌 데이터베이스를 포함하는 웹 서버로 업로드 할 수 있으며, 웹 서버의 글로벌 데이터베이스로부터 다른 사용자가 업로드한 유저 데이터베이스를 다운로드 할 수도 있다. 예컨대, 도 13의 예시에서, 유저 2, 유저 3 및 유서 4의 데이터 베이스가 글로벌 데이터베이스로 업로드 되면, 유저 1은 유저 2, 유저 3 및 유저 4의 데이터 베이스 중 적어도 하나를 다운로드 받아 사용할 수 있다. 즉, 이동 단말기는 글로벌 데이터베이스를 통해 유저 데이터베이스를 업데이트할 수 있다.
자연어의 의미에 부합하는 배음 또는 이미지 등의 피드백을 결정함에 있어서, 반드시 메모리(160)에 저장된 배음 데이터 도는 이미지 데이터 베이스를 이용하여야 하는 것은 아니다. 다른 예로, 제어부(180)는 무선 통신부(110)를 통해 글로벌 데이터베이스나 타 단말에 접속한 뒤, 외부로부터 자연어의 의미에 부합하는 배음 또는 이미지를 수신받을 수도 있다. 즉, 제어부(180)는 네트워크 연결을 통한 외부 데이터베이스에 접근함으로써, 배음 또는 이미지 등의 피드백을 수신할 수도 있다.
상술한 예에서와 같이, 메모리(160)에 저장된 데이터베이스가 복수개인 경우, 제어부(180)는 데이터베이스의 우선 순위에 따라 배음 또는 이미지를 추출할 수도 있다. 예컨대, 디폴트 데이터베이스가 유저 데이터베이스보다 더 높은 우선 순위를 갖는 경우라면, 디폴트 데이터베이스로부터 문장 단위의 자연어의 의미에 부합하는 피드백을 추출할 수 없는 경우에 한하여, 유저 데이터베이스로부터 피드백의 추출을 시도할 수 있을 것이다.
사용자가 유저 데이터베이스를 편집할 수 있도록 하기 위해, 제어부(180)는 디스플레이부(151)에 유저 데이터베이스를 편집할 수 있는 템플릿이 디스플레이되도록 제어할 수 있다. 템플릿은 '인덱스' 항목, '메타데이터' 항목, '데이터 버퍼' 항목을 포함할 수 있다. '인덱스' 항목은 색인을 기록하기 위한 것이고, '메타데이터' 항목에는 배음 및 이미지와 연계되는 단어 혹은 의미들이 기록될 수 있다. 나아가, '데이터 버퍼' 항목에는 배음 또는 이미지 데이터가 기록될 수 있다.
예컨대, '데이터 버퍼' 항목에 기록되는 배음이 '빗소리'인 경우, '인덱스' 항목에는 색인(예컨대, 데이터베이스에서의 순번) 이 기록될 수 있고, '메타데이터' 항목에는 '빗소리'와 연관된 의미들, 예컨대, 태풍, 비, 소나기, 장마 등이 기록될 수 있을 것이다.
템플릿을 이용하여 유저 데이터베이스를 편집함에 있어서, 제어부(180)는 복사(Copy), 교환(Exchange), 추가(Add), 연동 및 다운로드 기능 중 적어도 하나를 지원할 수 있다. 복사 기능은 메모리(160)에 저장된 다른 데이터베이스에 있는 데이터를 가져오기 위한 것이고, 교환 기능은 데이터베이스에 기록된 배음 또는 이미지 파일을 다른 파일로 교체하기 위한 것일 수 있다. 추가 기능은 데이터베이스에 기록되지 않은 새로운 배음 또는 이미지를 추가하기 위한 것이다. 연동 기능은 외부 단말기에 저장된 유저 데이터베이스와의 연동을 통해 데이터베이스의 내용을 수정하는 것이고, 다운로드 기능은 글로벌 데이터베이스로부터 다른 사용자의 데이터베이스를 다운로드 하여 유저 데이터베이스를 구성하는 것일 수 있다.
상술한 도 4에서는 문장 단위의 자연어를 소리로 변환한 합성음을 생성한 뒤(S402), 자연어의 의미 추출 과정(S403) 및 자연어 의미에 부합하는 피드백의 결정 과정(S404)이 진행되는 것으로 예시하였다. 다만, S402 단계가 진행된 이후 S403 단계 및 S404 단계가 진행되어야 하는 것은 아니라 할 것이다. 이와 반대로, S403 단계 및 S404 단계 중 어느 하나가 종료된 이후 S402 단계가 진행되거나, S402 단계 및 S403 단계, 또는 S402 단계 및 S404 단계가 동시에 수행될 수도 있다.
본 발명의 일실시예에 의하면, 전술한 방법(동작 흐름도)은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.
상기와 같이 설명된 이동 단말기(100)는 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
100 : 이동 단말기
151 : 디스플레이부
152 : 음향 출력 모듈
160 : 메모리
180 : 제어부

Claims (16)

  1. 문장 단위의 텍스트를 디스플레이하기 위한 디스플레이부;
    상기 텍스트를 소리로 변환한 합성음을 출력하기 위한 음향 출력 모듈; 및
    상기 합성음을 생성하고, 상기 텍스트의 의미를 추출한 뒤,
    상기 음향 출력 모듈을 통해 상기 합성음이 출력되는 동안 상기 텍스트의 의미에 부합하는 피드백이 출력되도록 제어하는 제어부
    를 포함하는 이동 단말기.
  2. 제 1 항에 있어서, 상기 제어부는,
    상기 텍스트에 상기 피드백에 대응하는 핵심어가 포함되어 있는 경우,
    상기 합성음 중 상기 핵심어의 출력이 시작될 때 상기 피드백이 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  3. 제 1 항에 있어서, 상기 제어부는,
    상기 피드백의 재생 시간이 상기 합성음의 재생 시간보다 긴 경우,
    상기 합성음의 출력이 시작되기 이전 및 상기 합성음의 출력이 완료된 이후 중 적어도 하나의 경우에 침묵 구간이 부가되도록 제어하는 것을 특징으로 하는 이동 단말기.
  4. 제 3 항에 있어서,
    상기 침묵 구간이 부가된 합성음의 재생 시간은 상기 피드백의 재생 시간 이상인 것을 특징으로 하는 이동 단말기.
  5. 제 1 항에 있어서, 상기 피드백은,
    상기 합성음의 배경음으로 활용되는 배음을 포함하는 것을 특징으로 하는 이동 단말기.
  6. 제 5 항에 있어서, 상기 제어부는,
    상기 배음이 출력되는 동안 상기 배음의 출력에 부수되는 진동이 더욱 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  7. 제 6 항에 있어서, 상기 제어부는,
    상기 배음의 음파를 분석하여, 상기 음파의 진폭이 임계치 보다 큰 구간을 초과구간으로 설정하고, 상기 음향 출력부를 통해 상기 초과 구간이 출력되는 동안 상기 진동이 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  8. 제 7 항에 있어서, 상기 임계치는,
    상기 음파의 평균 진폭인 것을 특징으로 하는 이동 단말기.
  9. 제 7 항에 있어서, 상기 제어부는,
    상기 임계치와 상기 초과 구간에서의 최대 진폭 사이의 비율을 기초로 상기 진동의 출력 세기가 조절되도록 제어하는 것을 특징으로 하는 이동 단말기.
  10. 제 8 항에 있어서, 상기 진동의 출력 세기는 하기 수학식에 의해 결정되는 것을 특징으로 하는 이동 단말기.
    [수학식]
    Figure pat00006

    Figure pat00007

    Figure pat00008

    (여기서,
    Figure pat00009
    은 상기 초과 구간에서의 진동 세기 레벨, Int는 Integer 함수, Local_Max Amp는 상기 초과 구간에서의 최대 진폭, Threshold는 상기 임계치,
    Figure pat00010
    은 설정 가능한 최대 진동 세기 레벨임)
  11. 제 1 항에 있어서, 상기 피드백은,
    상기 텍스트의 의미에 부합하는 이미지 파일을 포함하는 것을 특징으로 하는 이동 단말기.
  12. 제 11 항에 있어서, 상기 제어부는,
    상기 합성음이 출력되는 동안 상기 이미지 파일이 상기 디스플레이부의 배경 화면으로 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  13. 제 1 항에 있어서, 상기 제어부는,
    상기 디스플레이부의 출력 색상을 변화시키거나, 상기 디스플레이부의 밝기를 조절함으로써 상기 피드백이 출력되도록 제어하는 것을 특징으로 하는 이동 단말기.
  14. 제 1 항에 있어서, 상기 피드백은,
    광원의 점멸인 것을 특징으로 하는 이동 단말기.
  15. 제 14 항에 있어서, 상기 광원은,
    사진 촬영시 빚을 보충하기 위한 카메라 플래시를 포함하는 것을 특징으로 하는 이동 단말기.
  16. 문장 단위의 텍스트를 디스플레이하는 단계;
    상기 텍스트를 소리로 변환한 합성음을 생성하고, 상기 텍스트의 의미를 추출한 뒤, 상기 텍스트 의미에 부합하는 피드백을 결정하는 단계;
    상기 합성음을 출력하는 단계; 및
    상기 합성음이 출력되는 동안 상기 피드백을 출력하는 단계
    를 포함하는 이동 단말기의 제어 방법.
KR1020120105683A 2012-09-24 2012-09-24 이동 단말기 및 이의 제어 방법 KR101978209B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020120105683A KR101978209B1 (ko) 2012-09-24 2012-09-24 이동 단말기 및 이의 제어 방법
EP13004033.0A EP2712155B1 (en) 2012-09-24 2013-08-13 Mobile terminal and controlling method thereof
US14/012,732 US9401139B2 (en) 2012-09-24 2013-08-28 Mobile terminal and controlling method thereof
CN201310453278.XA CN103680492B (zh) 2012-09-24 2013-09-24 移动终端及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120105683A KR101978209B1 (ko) 2012-09-24 2012-09-24 이동 단말기 및 이의 제어 방법

Publications (2)

Publication Number Publication Date
KR20140039502A true KR20140039502A (ko) 2014-04-02
KR101978209B1 KR101978209B1 (ko) 2019-05-14

Family

ID=49123616

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120105683A KR101978209B1 (ko) 2012-09-24 2012-09-24 이동 단말기 및 이의 제어 방법

Country Status (4)

Country Link
US (1) US9401139B2 (ko)
EP (1) EP2712155B1 (ko)
KR (1) KR101978209B1 (ko)
CN (1) CN103680492B (ko)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101605347B1 (ko) * 2009-12-18 2016-03-22 삼성전자주식회사 휴대단말의 외부 출력 제어 방법 및 장치
US10013482B2 (en) * 2014-06-19 2018-07-03 International Business Machines Corporation Context-dependent evidence detection
US9652450B1 (en) * 2016-07-06 2017-05-16 International Business Machines Corporation Rule-based syntactic approach to claim boundary detection in complex sentences
CN108733341B (zh) * 2018-05-18 2021-09-14 出门问问信息科技有限公司 一种语音交互方法及装置
CN108833992A (zh) * 2018-06-29 2018-11-16 北京优酷科技有限公司 字幕显示方法及装置
CN112424853A (zh) * 2018-07-24 2021-02-26 谷歌有限责任公司 以对文本文档的音频回放进行补充的视觉内容为特点的文本到语音界面
CN109036373A (zh) * 2018-07-31 2018-12-18 北京微播视界科技有限公司 一种语音处理方法及电子设备
CN109119066A (zh) * 2018-09-30 2019-01-01 苏州浪潮智能软件有限公司 一种快速进行语音播放的方法
CN112750423B (zh) * 2019-10-29 2023-11-17 阿里巴巴集团控股有限公司 个性化语音合成模型构建方法、装置、系统及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6324511B1 (en) * 1998-10-01 2001-11-27 Mindmaker, Inc. Method of and apparatus for multi-modal information presentation to computer users with dyslexia, reading disabilities or visual impairment
US20070094029A1 (en) * 2004-12-28 2007-04-26 Natsuki Saito Speech synthesis method and information providing apparatus
US20090164207A1 (en) * 2007-12-20 2009-06-25 Nokia Corporation User device having sequential multimodal output user interace
US20110029106A1 (en) * 2009-07-30 2011-02-03 Sony Ericsson Mobile Communications Ab Method and arrangement in a mobile terminal

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3968277B2 (ja) * 2002-08-26 2007-08-29 株式会社日立製作所 メールサーバ、そのメールサーバを実現するためのプログラム及び携帯端末
US7200560B2 (en) 2002-11-19 2007-04-03 Medaline Elizabeth Philbert Portable reading device with display capability
DE10327239A1 (de) * 2003-06-17 2005-01-27 Opticom Dipl.-Ing. Michael Keyhl Gmbh Vorrichtung und Verfahren zum extrahieren eines Testsignalabschnitts aus einem Audiosignal
JP2005115896A (ja) * 2003-10-10 2005-04-28 Nec Corp 通信装置及び通信方法
CN1246826C (zh) 2004-06-01 2006-03-22 安徽中科大讯飞信息科技有限公司 在语音合成系统中将背景音与文本语音混合输出的方法
US7163311B2 (en) * 2004-10-22 2007-01-16 Kramer James F Foodware having visual sensory stimulating or sensing means
US8239032B2 (en) * 2006-08-29 2012-08-07 David Charles Dewhurst Audiotactile vision substitution system
US20090157407A1 (en) 2007-12-12 2009-06-18 Nokia Corporation Methods, Apparatuses, and Computer Program Products for Semantic Media Conversion From Source Files to Audio/Video Files
US9857872B2 (en) * 2007-12-31 2018-01-02 Apple Inc. Multi-touch display screen with localized tactile feedback
US20100152600A1 (en) * 2008-04-03 2010-06-17 Kai Sensors, Inc. Non-contact physiologic motion sensors and methods for use
US8378979B2 (en) * 2009-01-27 2013-02-19 Amazon Technologies, Inc. Electronic device with haptic feedback
KR101628782B1 (ko) * 2009-03-20 2016-06-09 삼성전자주식회사 휴대용 단말기에서 복수의 진동자를 이용한 햅틱 기능 제공방법 및 장치
US8782556B2 (en) * 2010-02-12 2014-07-15 Microsoft Corporation User-centric soft keyboard predictive technologies
TWI528193B (zh) * 2010-11-12 2016-04-01 語意結合系統公司 可用以產生字、詞及句子之合成複數個字訊息之依序多意義觸感符號
US20120229264A1 (en) * 2011-03-09 2012-09-13 Analog Devices, Inc. Smart linear resonant actuator control
JP5697521B2 (ja) * 2011-04-07 2015-04-08 京セラ株式会社 文字入力装置、文字入力制御方法および文字入力プログラム
US9405424B2 (en) * 2012-08-29 2016-08-02 Wolfram Alpha, Llc Method and system for distributing and displaying graphical items

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6324511B1 (en) * 1998-10-01 2001-11-27 Mindmaker, Inc. Method of and apparatus for multi-modal information presentation to computer users with dyslexia, reading disabilities or visual impairment
US20070094029A1 (en) * 2004-12-28 2007-04-26 Natsuki Saito Speech synthesis method and information providing apparatus
US20090164207A1 (en) * 2007-12-20 2009-06-25 Nokia Corporation User device having sequential multimodal output user interace
US20110029106A1 (en) * 2009-07-30 2011-02-03 Sony Ericsson Mobile Communications Ab Method and arrangement in a mobile terminal

Also Published As

Publication number Publication date
US9401139B2 (en) 2016-07-26
KR101978209B1 (ko) 2019-05-14
US20140088955A1 (en) 2014-03-27
CN103680492B (zh) 2017-03-01
EP2712155A2 (en) 2014-03-26
EP2712155A3 (en) 2016-12-07
EP2712155B1 (en) 2018-08-08
CN103680492A (zh) 2014-03-26

Similar Documents

Publication Publication Date Title
KR101978209B1 (ko) 이동 단말기 및 이의 제어 방법
KR101952179B1 (ko) 이동 단말기 및 그것의 제어방법
KR101850035B1 (ko) 이동 단말기 및 그 제어방법
KR101513615B1 (ko) 이동 단말기 및 그 음성 인식 방법
US9509959B2 (en) Electronic device and control method thereof
KR101997447B1 (ko) 이동단말기 및 그 제어 방법
KR20140104183A (ko) 이동 단말기 및 이의 제어 방법
KR20100007625A (ko) 이동 단말기 및 그 메뉴 표시 방법
KR20090123697A (ko) 이동 단말기 및 그의 텍스트 수정방법
KR20090107364A (ko) 이동 단말기 및 그 메뉴 제어방법
KR101992194B1 (ko) 이동단말기 및 그 제어 방법
KR101698096B1 (ko) 단말기의 드로잉을 이용한 검색 방법 및 그 단말기
KR101552164B1 (ko) 이동단말기 및 이동단말기의 맵 상에 위치표시방법
KR101648509B1 (ko) 이동 단말기 및 그 제어방법
KR20130034885A (ko) 이동 단말 및 이의 지능형 정보 검색 방법
KR102090516B1 (ko) 이동 단말기 및 그 제어방법
KR101971967B1 (ko) 이동 단말기 및 이의 제어 방법
KR20120076147A (ko) 이동 단말기 및 이동 단말기에서의 화면 표시 제어 방법
KR101984179B1 (ko) 이동 단말기 및 그 제어방법
KR101691234B1 (ko) 이동 단말기에서 입체음향 출력방법 및 그 방법을 이용한 이동 단말기
KR101574115B1 (ko) 이동 단말기 및 그 동작제어방법
KR101529927B1 (ko) 단말기 및 그 제어 방법
KR101604357B1 (ko) 이동 단말기, 및 이를 이용한 메뉴 표시 방법
KR101540985B1 (ko) 이동 단말기 및 그 정보 처리 방법
KR101813036B1 (ko) 휴대 단말기 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant