KR20110005937A - 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법 - Google Patents

전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법 Download PDF

Info

Publication number
KR20110005937A
KR20110005937A KR1020090063315A KR20090063315A KR20110005937A KR 20110005937 A KR20110005937 A KR 20110005937A KR 1020090063315 A KR1020090063315 A KR 1020090063315A KR 20090063315 A KR20090063315 A KR 20090063315A KR 20110005937 A KR20110005937 A KR 20110005937A
Authority
KR
South Korea
Prior art keywords
voice
electronic device
audio
audio signal
mobile terminal
Prior art date
Application number
KR1020090063315A
Other languages
English (en)
Other versions
KR101061443B1 (ko
Inventor
김현돈
명주현
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020090063315A priority Critical patent/KR101061443B1/ko
Publication of KR20110005937A publication Critical patent/KR20110005937A/ko
Application granted granted Critical
Publication of KR101061443B1 publication Critical patent/KR101061443B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/12—Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/74—Details of telephonic subscriber devices with voice recognition means

Landscapes

  • Engineering & Computer Science (AREA)
  • Environmental & Geological Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Telephone Function (AREA)

Abstract

본 발명은 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법에 관한 것이다. 본 발명은, 오디오 소스의 위치, 오디오 신호의 오디오 특징, 전자 기기 또는 이동 단말기의 움직임, 주변 환경 정보, 사용자의 생체 정보, 전자 기기 또는 이동 단말기에 가해지는 물리적인 힘 등에 따라 음성인식 모드를 활성화하는, 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법을 제공한다.
전자 기기, 이동 단말기, 음성 인식

Description

전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법 {Electronic Device, Mobile Terminal And Method Of Performing Function Using Same}
본 발명은 음성 인식(voice recognition)에 관한 것이다. 본 발명은 다양한 조건들을 상정하여 이에 부합하는 경우에 음성인식 모드로 진입하도록 하는 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법에 관한 것이다.
최근 다양한 전자 기기에 음성인식 기술이 채택되어, 사용자에게 편의를 제공하고 있다. 그러나 종래의 전자 기기에서 제공되는 음성인식 기능은, 복잡한 메뉴 탐색 과정을 거쳐야 한다. 또한 사용자는, 상기 전자 기기에서 음성인식 기능으로 진입한 후에도, 언제 자신이 원하는 내용을 말하여야 하는지 알 수 없는 경우가 많다. 사용자의 편의성을 높일 수 있는 새로운 음성인식 기능이 절실히 필요한 실정이다.
본 발명의 과제는, 오디오 소스의 위치, 오디오 신호의 오디오 특징, 전자 기기 또는 이동 단말기의 움직임, 주변 환경 정보, 사용자의 생체 정보, 전자 기기 또는 이동 단말기에 가해지는 물리적인 힘 등에 따라 음성인식 모드를 활성화하는, 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법을 제공하는 것이다.
본 발명의 제1 양상에 따른 전자 기기는, 외부의 오디오 소스(audio source)에서 발생하는 오디오 신호를 수신하는 오디오 수신부; 및 기준점(reference point)에 대한 상기 오디오 소스의 방향에 관한 정보 및 상기 기준점과 상기 오디오 소스 간의 거리에 관한 정보 중 적어도 하나를 포함하는 위치 정보를 획득하고, 상기 획득된 위치 정보가 미리 설정된 기준에 부합되는 경우 상기 오디오 신호에 포함된 음성을 인식하기 위한 음성인식 모드를 활성화하는 제어부를 포함하여 이루어진다.
본 발명의 제2 양상에 따른 전자 기기는, 외부로부터 오디오 신호를 수신하는 오디오 수신부(MIC); 상기 오디오 신호로부터 음성을 검출하기 위한 음성 검출부(VAD); 및 상기 음성 검출부에 의해 상기 오디오 수신부를 통해 수신된 오디오 신호에서 음성이 검출된 경우, 기준점에 대한 상기 검출된 음성을 발생하는 오디오 소스(audio source)의 방향 및 거리 중 적어도 하나를 포함하는 위치 정보를 획득하고, 상기 획득된 위치 정보가 미리 설정된 기준에 부합하는 경우 상기 검출된 음 성을 인식하기 위한 음성인식 모드를 활성화하는 제어부를 포함하여 이루어진다.
본 발명의 제3 양상에 따른 전자 기기는, 외부로부터 오디오 신호를 수신하는 오디오 수신부(MIC); 및 상기 오디오 수신부로부터 전달되는 오디오 신호의 오디오 특징을 분석하고, 상기 분석된 오디오 특징이 미리 설정된 기준에 부합하는 경우, 상기 오디오 수신부를 통해 수신되는 오디오 신호에 포함된 음성을 인식하기 위한 음성 인식 모드를 활성화하는 제어부를 포함하여 이루어진다.
본 발명의 제4 양상에 따른 이동 단말기는, 이동 단말기의 움직임을 감지하는 센싱부; 및 상기 센싱부로부터 전달된 상기 움직임 정보가 미리 설정된 기준에 부합하는 경우, 외부로부터 수신되는 오디오 신호에 포함된 음성을 인식하기 위한 음성 인식 모드를 활성화하는 제어부를 포함하여 이루어진다.
본 발명의 제5 양상에 따른 이동 단말기는, 주변 환경에 관한 정보, 사용자의 생체에 관한 정보 및 이동 단말기에 가해지는 물리적 힘에 관한 정보 중 적어도 하나의 정보를 획득하는 센싱부; 및 상기 센싱부에 의해 획득된 상기 적어도 하나의 정보가 미리 설정된 기준에 부합하는 경우, 외부로부터 수신되는 오디오 신호에 포함된 음성을 인식하기 위한 음성 인식 모드를 활성화하는 제어부를 포함하여 이루어진다.
본 발명의 제6 양상에 따른 전자 기기의 기능 수행 방법은, 외부로부터 오디오 신호를 수신하는 단계; 상기 수신된 오디오 신호에서 음성을 검출하는 단계; 기준점에 대한, 상기 검출된 음성을 발생하는 음원의 방향 및 거리 중 적어도 하나를 포함하는 위치 정보를 획득하는 단계; 및 상기 획득된 위치 정보가 미리 설정된 기 준에 부합하는 경우, 상기 검출된 음성을 인식하기 위한 음성인식 모드를 활성화하는 단계를 포함하여 이루어진다.
본 발명의 제7 양상에 따른 이동 단말기의 기능 수행 방법은, 이동 단말기의 움직임과 관련되어 미리 정해진 이벤트의 발생을 감지하는 단계; 및 상기 미리 정해진 이벤트의 발생에 따라, 외부로부터 수신되는 오디오 신호에 포함된 음성을 인식하기 위한 음성인식 모드로 진입하는 단계를 포함하여 이루어진다.
본 발명에 따른 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법에 의하면, 다음과 같은 효과가 있다.
본 발명에 의하면, 다양한 조건들을 설정하고, 상기 조건들이 부합하지 않는 평상시에는 음성인식 모드를 오프(off)시키고, 상기 조건들이 부합하는 경우에 상기 음성인식 모드를 온(on)시킬 수 있다.
또한 본 발명에 의하면, 상기 음성인식 모드로의 진입을 위한 사용자의 복잡한 메뉴 탐색 과정과, 불필요한 대기 시간을 원천적으로 제거할 수 있다.
또한 본 발명에 의하면, 긴급 상황에서 상기 음성인식 모드로 자동 진입할 수 있으므로, 사용자는 적극적이고 능동적으로 긴급 상황에 대처할 수 있다.
본 발명의 상술한 목적, 특징들 및 장점은 첨부된 도면과 관련된 다음의 상세한 설명을 통하여 보다 분명해질 것이다. 이하 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예들을 상세히 설명한다. 명세서 전체에 걸쳐서 동일한 참조 번호들은 동일한 구성요소들을 나타낸다. 또한, 본 발명과 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우, 그 상세한 설명을 생략한다.
음성인식 기술은 패턴 매칭 기법의 응용이라 볼 수 있다. 즉 인식 대상 단어 또는 음소의 특징 파라미터를 미리 저장하여 놓고 음성이 입력되면 이를 분석하여 특징을 추출한 후 미리 저장되어 있는 단어 또는 음소의 특징들과 유사도(likelihood)를 측정하여 가장 유사한 것을 인식 결과로 출력한다. 음성은 시간의 진행에 따라 변화하므로 음성의 특성은 짧은 구간(frame) 동안에만 안정적인 특성을 갖는다. 따라서 음성의 특징은 각 프레임별로 분석되어 특징벡터가 생성되며 이 특징벡터들의 열로써 표현된다.
음성인식의 방법은 크게 두 가지로 분류된다. 첫째, 음성을 일종의 패턴으로 간주하여 등록되어 있는 패턴과 입력되는 패턴과의 유사도를 측정하여 인식하는 방법이 있다. 둘재, 음성이 발성되는 과정을 모델링하여 각 대상 단어 또는 음소마다 고유의 모델을 할당하여 입력되는 음성이 어떤 음성모델로부터 발생되었을 확률이 가장 높은지를 측정하여 인식하는 방법이 있다. 이외에도, 신경회로망을 이용하는 방법, 여러 가지 방법의 혼합형태 등이 있다. 음성인식 과정에는, 이와 같은 신호처리 측면 이외에도, 언어 체계와 관련된 지식정보를 포함하는 언어모델(language model)이 적용될 수 있다.
이하, 본 발명과 관련된 전자 기기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
본 명세서에서 설명되는 전자 기기에는, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 단말, DTV(Digital Television), IPTV(Internet Protocol Television) 등이 포함될 수 있다.
도 1은 본 발명의 일 실시예와 관련된 전자 기기의 블록 구성도(block diagram)이다. 도 2는 본 발명의 일 실시예에 따른 전자 기기(100)가 이동 단말기인 경우를 나타낸 도면이다. 도 3은 본 발명의 다른 실시예에 따른 전자 기기(100)가 DTV 또는 IPTV인 경우를 나타낸 도면이다.
상기 전자 기기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리부(160), 인터페이스부(170), 제어부(180), 음성 검출부(182), 음성 인식부(183), 음성 합성부(184) 및 전원 공급부(190) 등을 포함할 수 있다.
도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 전자 기기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 전자 기기(100)와 무선 통신 시스템 사이 또는 전자 기 기(100)와 전자 기기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.
상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 전자 기기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리부(160)에 저장될 수 있다.
이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 전자 기기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
위치정보 모듈(115)은 전자 기기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈(115)은 범지구적 위성항법시스템(Global Navigation Satellite System, GNSS)를 이용하여 위치정보를 획득할 수 있다. 여기서, 범지구적 위성 항법 시스템(GNSS)은 지구를 공전하여 무선 항법 수신기들의 소정의 타입들이 지표면 또는 지표면 근처의 그들의 위치를 결정할 수 있는 기준 신호들을 보내는 무선 항법위성 시스템들을 설명하기 위해 이용되는 용어이다. 상기 범지구적 위성 항법 시스템(GNSS)에는 미국에서 운영하는 GPS(Global Position System), 유럽에서 운영하는 갈릴레오(Galileo), 러시아에서 운영하는 GLONASS(Global Orbiting Navigational Satelite System), 중국에서 운영하는 COMPASS 및 일본에서 운영하는 QZSS(Quasi-Zenith Satellite System)등이 있다.
GNSS의 대표적인 예를 들면, 상기 위치정보 모듈(115)은 GPS(Global Position System) 모듈일 수 있다. 상기 GPS 모듈은, 일 지점(개체)이 3개 이상의 위성으로부터 떨어진 거리에 관한 정보와, 상기 거리 정보가 측정된 시간에 관한 정보를 산출한 다음 상기 산출된 거리 정보에 삼각법을 적용함으로써, 일 시간에 일 지점(개체)에 대한 위도, 경도, 및 고도에 따른 3차원의 위치 정보를 산출할 수 있다. 나아가, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법 또한 사용되고 있다. 상기 GPS 모듈은 현 위치를 실시간으로 계속 산출하고 그를 이용하여 속도 정보를 산출하기도 한다.
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 오디오 수신부(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리부(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 전자 기기(100)의 구성 태양에 따라 2개 이상이 구비될 수도 있다.
상기 오디오 수신부(122)는, 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 상기 오디오 수신부(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
도 2를 참조하면, 상기 오디오 수신부(122)는 이동 단말기의 전면에 배치되어 사용자의 음성을 포함한 다양한 오디오 신호를 수신할 수 있다.
도 3을 참조하면, 상기 오디오 수신부(122a)는 DTV(또는 IPTV)의 전면에 배치되어 사용자의 음성을 포함한 다양한 오디오 신호를 수신할 수 있다. 한편 상기 전자 기기(100)가 DTV 또는 IPTV인 경우, 상기 오디오 수신부(122b)는 상기 DTV 또는 상기 IPTV를 제어하기 위한 리모트 콘트롤(200)에 구비될 수도 있다.
상기 리모트 콘트롤(200)은, 상기 오디오 수신부(122b)를 통해 수신된 오디오 신호를 상기 DTV 또는 상기 IPTV로 전송할 수 있다.
한편 상기 리모트 콘트롤(200)은, 상기 음성 검출부(182)를 구비할 수도 있다. 상기 리모트 콘트롤(200)은, 상기 음성 검출부(182)를 이용하여 상기 오디오 수신부(122b)를 통해 수신된 오디오 신호에서 음성이 검출된 경우에만, 상기 오디오 신호를 상기 DTV(또는 상기 IPTV)로 전송할 수 있다.
사용자 입력부(130)는 사용자가 전자 기기(100)의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.
센싱부(140)는 전자 기기(100)의 개폐 상태, 전자 기기(100)의 위치, 사용자 접촉 유무, 전자 기기(100)의 방위, 전자 기기(100)의 가속/감속 등과 같이 전자 기기(100)의 현재 상태 또는 외부 환경을 감지하여 전자 기기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 전자 기기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(142)를 포함할 수 있다.
상기 센싱부(140)는, 상기 근접 센서(142) 이외에도, 움직임 센서(141), 환경 센서(143), 압력 센서(144) 및 생체 센서(145) 중 적어도 하나를 더 포함할 수 있다.
상기 움직임 센서(141)는, 상기 전자 기기(100)의 자세 또는 지향 방향을 감지하기 위해, 틸트 센서, 홀 센서(hall sensor), 3축 또는 6축 모션 센서(3-axis or 6-axis motion sensor), 지자기 센서, 가속도 센서, 충격 센서, 낙하 센서 중 적어도 하나를 포함할 수 있다.
상기 환경 센서(143)는, 주변의 온도, 습도 등을 측정하기 위한 센서, 광량을 측정할 수 있는 조도 센서 등을 포함할 수 있다.
상기 압력 센서(144)는, 상기 전자 기기(100)에 가해지는 압력을 측정하기 위한 센서이다.
상기 생체 센서(145)는, 사용자의 신체에 접촉 또는 근접하여 사용자의 맥박수, 혈압 등을 측정하기 위한 센서이다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153) 및 햅틱 모듈(154) 등이 포함될 수 있다.
디스플레이부(151)는 전자 기기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어, 전자 기기(100)가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 전자 기기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발 광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 투명 LCD 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 전자 기기(100) 바디의 디스플레이부(151)가 차지하는 영역을 통해 전자 기기(100) 바디의 후방에 위치한 사물을 볼 수 있다.
전자 기기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 전자 기기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 약칭함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 전자 기기(100)의 내부 영역 또는 상기 터치 스크린의 근처에 상기 근접 센서(142)가 배치될 수 있다. 상기 근접 센서(142)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 상기 근접 센서(142)는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서(142)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다.
상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상 기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.
상기 근접센서(142)는, 근접 터치 및 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리부(160)에 저장된 오디오 데이터를 출력할 수도 있다. 음향 출력 모듈(152)은 전자 기기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다. 또한 상기 음향 출력 모듈(152)은, 이어폰잭(116)을 통해 음향을 출력할 수 있다. 사용자는 상기 이어폰잭(116)에 이어폰을 연결하여 출력되는 음향을 들을 수 있다.
알람부(153)는 전자 기기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 전자 기기(100)에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 비디오 신호나 오디오 신호는 디스플레이부(151)이나 음향 출력 모듈(152)을 통해서도 출력될 수 있다.
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과 를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열에 의한 자극에 의한 효과, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력을 통한 자극에 의한 효과, 피부 표면을 스치는 자극에 의한 효과, 전극(eletrode)의 접촉을 통한 자극에 의한 효과, 정전기력을 이용한 자극에 의한 효과, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자의 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 전자 기기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리부(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리부(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
상기 메모리부(160)는, 음성 인식에 필요한 음향 모델, 인식 사전 및 번역 데이터베이스를 포함할 수 있다. 또한 상기 메모리부(160)는, 언어 모델을 포함할 수 있다.
상기 인식 사전은, 특정 언어로 구성되는 단어, 어절, 키워드 및 표현 중 적어도 하나를 포함할 수 있다.
상기 번역 데이터베이스는, 복수의 언어들을 서로 매칭시킨 데이터를 포함할 수 있다. 예를 들어, 상기 번역 데이터베이스는, 제1 언어(한국어)와 제2 언어(영어/일본어/중국어)를 서로 매칭시킨 데이터를 포함할 수 있다. 상기 제2 언어는, 상기 제1 언어와 구분하기 위한 용어로서, 복수의 언어일 수 있다. 예를 들어, 상기 번역 데이터베이스는, 한국어 "예약하고 싶습니다."를 영어 "I'd like to make a reservation."에 매칭시킨 데이터를 포함할 수 있다.
상기 번역 데이터베이스는, 상기 제1 언어와 상기 제2 언어를 카테고리별로 대응시킬 수 있다. 상기 카테고리는, 주제별 또는 언어별일 수 있다. 주제별 카테고리의 예를 들면, "일반", "여행", "호텔", "비행기", "쇼핑", "관공서" 등일 수 있다. 언어별 카테고리의 예를 들면, "영어", "일본어", "중국어", "스페인어" 등일 수 있다.
메모리부(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 전자 기기(100)는 인터 넷(internet)상에서 상기 메모리부(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(170)는 전자 기기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 전자 기기(100) 내부의 각 구성 요소에 전달하거나 전자 기기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.
식별 모듈은 전자 기기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 전자 기기(100)와 연결될 수 있다.
상기 인터페이스부(170)는 전자 기기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 전자 기기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 전자 기기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 전자 기기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위 한 신호로 동작될 수도 있다.
상기 음성 검출부(182)는, 상기 오디오 수신부(122)를 통해 입력된 오디오 신호에 포함된 음성 신호를 검출한다. 상기 음성 검출부(182)는, 상기 오디오 신호에 음성의 존재 여부를 판별할 수 있다. 상기 음성 검출부(182)는 일반적으로 VAD(Voice Activity Detector, Voice Activity Detection)로 호칭된다.
상기 음성 검출부(182)는, 상기 오디오 신호를 일정 구간 또는 일정 시간만큼 버퍼링(buffering)하면서, 음성을 검출할 수 있다.
상기 음성 인식부(183)는, 상기 오디오 수신부(122)를 통해 입력된 오디오 신호 또는 음성 신호에 대한 음성인식을 수행하고, 상기 인식된 음성에 대응되는 적어도 하나의 인식후보를 획득한다.
예를 들어, 상기 음성 인식부(183)는, 상기 입력된 음성 신호로부터 음성구간을 검출하고 음향분석을 수행한 후 이를 인식 단위로 인식함으로써 상기 입력된 음성 신호를 인식할 수 있다. 그리고 상기 음성 인식부(183)는, 상기 메모리(160)에 저장된 인식 사전과 번역 데이터베이스를 참조하여 상기 음성인식된 결과에 대응되는 상기 적어도 하나의 인식후보를 획득할 수 있다.
상기 음성 인식부(183)는, 상기 음성 검출부(182)를 포함하여 구성될 수도 있다.
상기 음성 합성부(184)는, TTS(Text-To-Speech) 엔진을 이용하여 텍스트를 음성으로 변환한다. TTS 기술은 문자 정보 또는 기호를 인간의 음성으로 변환하여 들려주는 기술이다. TTS 기술은, 언어의 모든 음소에 대한 발음 데이터베이스를 구 축하고 이를 연결시켜 연속된 음성을 생성하게 되는데, 이때 음성의 크기, 길이, 높낮이 등을 조절하여 자연스러운 음성을 합성해 내는 것으로서 이를 위해 자연어 처리 기술이 포함될 수 있다. TTS 기술은 CTI, PC, PDA 및 이동전화 등의 전자통신 분야와 녹음기, 장난감, 게임기 등의 가전 분야에서 쉽게 볼 수 있고, 공장에서 생산성 향상에 기여하거나 보다 편리한 일상생활을 위한 홈오토메이션 시스템 등에 널리 쓰여지고 있다. TTS 기술은 공지 기술이므로 더 이상의 상세한 설명은 생략하기로 한다.
한편 상기 음성 검출부(182) 및 상기 음성 인식부(183)가 반드시 상기 전자 기기(100)에 구비되어야 하는 것은 아니다. 예를 들어, 상기 음성 검출부(182) 및 상기 음성 인식부(183) 중 적어도 하나는, 상기 전자 기기(100)의 외부에 존재할 수도 있다. 도 4는 상기 전자 기기(100)와 외부 서버(300)가 인터넷(400)으로 연결된 개념도이다.
상기 외부 서버(300)는, 상기 음성 인식부(183)를 포함할 수 있다. 상기 전자 기기(100)는, 상기 음성 검출부(182)를 구비하고 상기 음성 인식부(183)를 구비하지 않을 수 있다. 상기 전자 기기(100)는, 상기 음성 검출부(182)를 이용하여 상기 오디오 수신부(122)로부터 수신된 오디오 신호로부터 음성 구간을 검출하고, 상기 검출된 음성 구간을 상기 외부 서버(300)로 전송할 수 있다.
상기 외부 서버(300)는 상기 전자 기기(100)로부터 전송된 상기 음성 구간을 상기 음성 인식부(183)를 통해 음성 인식하고, 그 인식 결과를 상기 전자 기기(100)로 전송할 수 있다.
한편 상기 외부 서버(300)는, 상기 음성 검출부(182)와 상기 음성 인식부(183)를 포함할 수 있다. 상기 전자 기기(100)는, 상기 오디오 수신부(122)로부터 수신된 오디오 신호를 상기 외부 서버(300)로 전송할 수 있다.
상기 외부 서버(300)는, 상기 음성 검출부(182) 및 상기 음성 인식부(183)를 이용하여 상기 전자 기기(100)로부터 수신된 오디오 신호로부터 음성을 검출하여 음성 인식하고, 그 인식 결과를 상기 전자 기기(100)로 전송할 수 있다.
제어부(180)는 통상적으로 상기 전자 기기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화, 음성 인식 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.
소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리부(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
이하 본 발명의 실시예들을 설명하기로 한다. 본 발명의 실시예들은, 도 1 내지 도 4를 참조하여 설명한 상기 전자 기기(100)에서 구현될 수 있다. 이하 설명의 편의를 위하여 상기 전자 기기(100)를 이동 단말기로 가정하여 본 발명의 실시예들을 설명하기로 한다. 전술한 바와 같이, 본 문서에서 개시되는 기술적 사상은, 다양한 전자 기기에 적용될 수 있음을 분명히 밝혀둔다.
도 5는 본 발명의 제1 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다. 도 6 및 도 7은, 본 발명의 제1 실시예에 따른 전자 기기의 기능 수행 방법 을 설명하기 위한 도면들이다. 이하 필요한 도면들을 참조하여, 본 발명의 제1 실시예에 따른 전자 기기의 기능 수행 방법과, 이를 구현하기 위한 상기 전자 기기(100)의 동작을 상세히 설명하기로 한다.
상기 제어부(180)는, 상기 오디오 수신부(122)를 통해, 외부의 오디오 소스(audio source)에서 발생하는 오디오 신호를 수신한다[S100]. 도 6을 참조하면, 참조번호 20a, 20b 및 20c가 각각 상기 오디오 소스에 해당한다.
상기 제어부(180)는, 상기 오디오 소스의 위치 정보를 획득한다[S110]. 상기 오디오 소스의 위치 정보는, 상기 오디오 소스의 방향에 관한 정보와, 기준점(reference point)과 상기 오디오 소스 간의 거리에 관한 정보 중 적어도 하나를 포함할 수 있다.
상기 오디오 수신부(180)는, 상기 오디오 소스의 방향 정보 및/또는 거리 정보를 획득하기 위해, 2개 이상의 마이크로폰을 포함하거나, 1개 이상의 지향성 마이크로폰을 포함할 수 있다.
또한 상기 제어부(180)는, 상기 수신되는 오디오 신호를 분석하여 상기 오디오 소스의 방향 정보 및/또는 거리 정보를 획득할 수 있다. 상기 메모리(160)는, 상기 오디오 소스의 방향 정보 및/또는 거리 정보 획득을 위해 필요한 룩업테이블(look-up table)을 저장할 수 있다. 상기 룩업테이블은, 오디오 신호의 세기 또는 파형에 따른 방향 정보 및/또는 거리 정보를 저장할 수 있다.
또는 상기 제어부(180)는, 기존에 알려진 다양한 방식을 이용하여 상기 오디오 소스의 위치 정보를 획득할 수 있다.
상기 기준점(10)은, 상기 전자 기기(100)의 어느 지점일 수 있다. 예를 들어 상기 기준점(10)은, 상기 전자 기기(100)에 구비된 상기 오디오 수신부(122)일 수 있다.
도 6을 참조하면, 상기 제어부(180)는, 상기 기준점(10)에 대한 상기 오디오 소스(20a, 20b, 20c)의 상대적 위치에 관한 정보를 획득할 수 있다. 예를 들어, 상기 기준점(10)에 대한 제1 오디오 소스(20a)의 상대적 위치 정보는, 좌측 30도의 방향과 d1의 거리를 포함할 수 있다. 또한 예를 들어, 상기 기준점(10)에 대한 제2 및 제3 오디오 소스(20b, 20c)의 상대적 위치 정보는, 거리는 d2로서 동일하고, 방향이 서로 다르다.
상기 제어부(180)는, 상기 획득된 위치 정보가 미리 설정된 기준에 부합하는지를 판단하고[S120], 상기 미리 설정된 기준에 부합하면, 상기 오디오 신호에 포함된 음성을 인식하기 위한 음성인식 모드를 활성화한다[S130].
상기 미리 설정된 기준은, 오디오 소스의 방향 및 거리 중 적어도 하나를 포함할 수 있다.
예를 들어, 상기 미리 설정된 기준은, 오디오 소스의 방향이 상기 전자 기기(100)의 정면일 수 있다. 따라서 상기 오디오 수신부(122)를 통해 수신되는 오디오 신호의 오디오 소스의 방향이 상기 전자 기기(100)의 정면이 아닌 경우, 상기 음성인식 모드는 활성화되지 않는다.
또한 예를 들어, 상기 미리 설정된 기준은, 도 6 및 도 7에 도시된 바와 같이, 오디오 소스의 거리가 상기 전자 기기(100)로부터 d2 이내일 수 있다. 따라서 상기 오디오 수신부(122)를 통해 수신되는 오디오 신호의 오디오 소스가 상기 전자 기기(100)로부터 d2 이상 떨어진 경우, 상기 음성인식 모드는 활성화되지 않는다.
또한 예를 들어, 상기 미리 설정된 기준은, 오디오 소스의 방향이 상기 전자 기기(100)의 정면임과 동시에, 상기 오디오 소스의 거리가 상기 전자 기기(100)로부터 d2 이내일 수 있다. 도 7을 참조하면 상기 제3 오디오 소스(20c)는 상기 거리 기준은 만족하지만 상기 방향 기준을 만족하지 않으므로, 상기 음성인식 모드는 활성화되지 않는다. 상기 제2 오디오 소스(20b)는 상기 거리 기준 및 상기 방향 기준을 모두 만족하므로, 상기 음성인식 모드가 활성화된다.
도 8은 본 발명의 제2 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다. 도 9는, 본 발명의 제2 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다. 이하 필요한 도면들을 참조하여, 본 발명의 제2 실시예에 따른 전자 기기의 기능 수행 방법과, 이를 구현하기 위한 상기 전자 기기(100)의 동작을 상세히 설명하기로 한다.
상기 제어부(180)는, 상기 오디오 수신부(122)를 통해, 외부의 오디오 소스(audio source)에서 발생하는 오디오 신호를 수신한다[S200]. 도 9를 참조하면, 참조번호 20d, 20e, 20f 및 20g가 각각 상기 오디오 소스에 해당한다.
상기 제어부(180)는, 상기 수신된 오디오 신호에서 음성이 검출되는지를 판단한다[S210]. 상기 제어부(180)는 상기 음성 검출부(182)를 제어하여 상기 S210 단계를 수행할 수 있다.
예를 들어, 도 9에서 참조번호 20d 및 20g에 해당하는 오디오 소스들에서 음성이 검출되고, 참조번호 20e 및 20f에 해당하는 오디오 소스들에서는 음성이 검출되지 않는다고 가정한다.
상기 제어부(180)는, 상기 S210 단계의 판단 결과, 상기 수신된 오디오 신호에서 음성이 검출되는 경우, 상기 수신된 오디오 신호의 오디오 소스에 관한 위치 정보를 획득한다[S220]. 상기 오디오 소스의 위치 정보는, 전술한 제1 실시예에서와 동일하다. 상기 S220 단계는, 전술한 제1 실시예에서 상기 S110 단계에 대응된다.
도 9를 참조하면, 상기 제어부(180)는, 음성이 검출된 오디오 소스들(20d, 20g)의 상기 기준점(10)에 대한 상대적 위치에 관한 정보를 획득할 수 있다.
상기 제어부(180)는, 상기 획득된 위치 정보가 미리 설정된 기준에 부합하는지를 판단하고[S230], 상기 미리 설정된 기준에 부합하면, 상기 오디오 신호에 포함된 음성을 인식하기 위한 음성인식 모드를 활성화한다[S240]. 상기 S220 단계 및 상기 S240 단계는 각각, 전술한 제1 실시예에서 상기 S120 단계 및 상기 S130 단계에 대응된다.
전술한 제1 및 제2 실시예에 따르면, 상기 미리 설정된 기준은 사용자에 의해 설정되거나 변경될 수 있다. 상기 제어부(180)는, 사용자가 상기 미리 설정된 기준을 설정 또는 변경할 수 있도록 하는 사용자 인터페이스를 제공할 수 있다. 도 10 및 도 11은 상기 미리 설정된 기준을 설정 또는 변경하기 위한 사용자 인터페이 스의 예들을 도시한 도면들이다.
도 10을 참조하면, 사용자는 격자형으로 배치된 사각형 모양의 객체(예를 들어, 참조번호 30)를 하나 이상 선택함으로써, 상기 음성인식 모드의 활성화를 위한 오디오 소스의 위치를 선택할 수 있다.
도 10에서 참조번호 11은 상기 기준점을 나타내고, 참조번호 13은 상기 기준점(11)에서의 거리를 나타낸다. 상기 기준점(11)은, 상기 전자 기기(100) 상에 존재하는 어느 지점이다.
예를 들어, 사용자가 참조번호 30a에 해당하는 객체를 선택하면, 상기 기준점(11)에서 0.5m 이내의 거리이고 상기 기준점(11)의 전방(front)에 위치하는 오디오 소스가 상기 음성인식 모드의 활성화를 위한 기준으로 설정될 수 있다.
또한 예를 들어, 사용자가 참조번호 30b에 해당하는 객체를 선택하면, 상기 기준점(11)에서 1.0m 이내의 거리이고 상기 기준점(11)의 전방(front) 우측에 위치하는 오디오 소스가 상기 음성인식 모드의 활성화를 위한 기준으로 설정될 수 있다.
또한 예를 들어, 사용자가 참조번호 30c에 해당하는 객체를 선택하면, 상기 기준점(11)으로부터 바로 우측에 위치하는 오디오 소스가 상기 음성인식 모드의 활성화를 위한 기준으로 설정될 수 있다.
참조번호 31이 나타내는 객체는, 상기 기준점(11)으로부터 전방(front)에 위치하는 모든 오디오 소스를 상기 음성인식 모드의 활성화를 위한 기준으로 설정하기 위한 것이다.
또한 참조번호 32가 나타내는 객체는, 상기 기준점(11)으로부터 후방(rear)에 위치하는 모든 오디오 소스를 상기 음성인식 모드의 활성화를 위한 기준으로 설정하기 위한 것이다.
도 11을 참조하면, 사용자는 방사형으로 배치된 객체를 하나 이상 선택함으로써, 상기 음성인식 모드의 활성화를 위한 오디오 소스의 위치를 선택할 수 있다. 도 11에서 참조번호 14는, 상기 기준점(11)으로부터의 방향(각도)을 나타낸다.
도 12는 전술한 제2 실시예의 상기 S210 단계의 수행을 위한 과정의 예를 도시한 도면이다. 상기 제어부(180)는 상기 S200 단계에서 수신된 상기 오디오 신호에서 음성을 검출하기 위한 동작을, 상기 전자 기기(100)의 움직임과 연동하여 수행할 수 있다.
상기 제어부(180)는, 상기 센싱부(140)를 제어하여 상기 전자 기기(100)의 움직임을 감지한다[S211].
상기 제어부(180)는, 상기 감지된 움직임이 미리 정해진 기준에 부합하는지를 판단하여[S212], 상기 감지된 움직임이 상기 미리 정해진 기준에 부합하는 경우, 상기 음성 검출부(182, VAD)를 활성화하고[S213], 상기 수신된 오디오 신호에 대해 음성 검출 동작을 수행할 수 있다[S214].
상기 전자 기기(100)는, 다양한 오디오 신호를 수신할 수 있다. 상기 다양한 오디오 신호는, 상기 전자 기기(100)의 사용자가 아닌 다른 사람들의 목소리를 포함하여, 소음 등 불필요한 잡음들을 포함할 수 있다.
도 12에 도시된 과정을 통해, 상기 음성 검출부(182)를 불필요하게 활성화하여 전력을 소모하지 않고, 상기 전자 기기(100)가 사용자에게 근접하는 것과 같은 움직임이 있는 경우에만 상기 음성 검출부(182)를 활성화하게 할 수 있다.
도 12에 도시된 과정은, 본 문서에서 개시되는 다른 실시예들에도 적용될 수 있다. 예를 들어, 본 문서의 다른 실시예들에서 언급되는, 음성인식 모드로의 진입을 위한 각종 조건들이 만족되더라도, 상기 전자 기기(100)의 움직임이 미리 설정된 기준에 부합하는 경우에, 상기 음성 검출부(182)가 활성화되거나, 상기 음성인식 모드로의 진입이 수행되도록 설정될 수 있다.
상기 전자 기기(100)의 움직임과 관련된 실시예는, 후술하는 제5 실시예에서 보다 상세히 설명하기로 한다.
도 13은 본 발명의 제3 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다. 이하 필요한 도면들을 참조하여, 본 발명의 제3 실시예에 따른 전자 기기의 기능 수행 방법과, 이를 구현하기 위한 상기 전자 기기(100)의 동작을 상세히 설명하기로 한다.
상기 제어부(180)는, 상기 오디오 수신부(122)를 통해 오디오 신호를 수신한다[S300].
상기 제어부(180)는, 상기 수신된 오디오 신호의 오디오 특징을 분석한다[S310]. 예를 들어, 상기 제어부(180)는, 상기 수신된 오디오 신호의 파형이나 주파수를 분석할 수 있다.
상기 제어부(180)는, 상기 분석된 오디오 특징이 미리 설정된 기준에 부합하는지를 판단하여[S320], 부합하는 경우에만 상기 음성인식 모드를 활성화할 수 있다[S330].
전술한 제3 실시예가 실제 구현될 수 있는 예를 들면, 상기 전자 기기(100)에 오디오 특징이 등록된 사용자의 음성을 수신한 경우에만, 상기 음성인식 모드가 활성화되도록 설정될 수 있다. 여기서 사용자의 음성은 일종의 암호 역할을 할 수 있다.
도 14는 본 발명의 제4 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다. 도 15는, 본 발명의 제4 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다. 이하 필요한 도면들을 참조하여, 본 발명의 제4 실시예에 따른 전자 기기의 기능 수행 방법과, 이를 구현하기 위한 상기 전자 기기(100)의 동작을 상세히 설명하기로 한다.
상기 제어부(180)는, 상기 전자 기기(100)의 주변 환경에 관한 정보, 사용자의 생체에 관한 정보, 상기 전자 기기(100)에 가해지는 물리적인 힘에 관한 정보 중 적어도 하나를 획득한다[S400].
상기 주변 환경에 관한 정보는, 날씨, 온도, 습도, 조도 등을 포함할 수 있다. 상기 제어부(180)는, 상기 환경 센서(143)를 통해 상기 주변 환경에 관한 정보를 획득할 수 있다. 또는 상기 제어부(180)는, 지역의 날씨, 온도 등의 기상 정보를 제공하는 서버 또는 웹사이트로부터 상기 무선 통신부(110)를 통해 상기 전자 기기(100)의 주변 환경에 관한 정보를 획득할 수도 있다.
상기 사용자 생체에 관한 정보는, 맥박수, 혈압 등을 포함할 수 있다. 상기 제어부(180)는, 상기 생체 센서(145)를 통해 상기 사용자 생체 정보를 획득할 수 있다.
상기 물리적인 힘에 관한 정보의 예를 들면, 압력이 있다. 상기 제어부(180)는, 상기 압력 센서(144)를 통해 상기 전자 기기(100)에 가해지는 압력에 관한 정보를 획득할 수 있다.
도 15는 사용자가 상기 전자 기기(100)를 손에 쥐는 경우, 상기 압력 센서(144)를 통해 상기 제어부(180)에 압력 정보가 전달되거나, 상기 생체 센서(145)를 통해 사용자의 맥박수와 같은 생체 정보가 전달되는 개념도를 나타낸다.
상기 제어부(180)는, 상기 S400 단계에서 획득된 정보가 미리 정해진 기준에 부합하는지를 판단하여[S410], 부합하는 경우 상기 음성 검출부(182)를 활성화하고[S420], 외부로부터 오디오 신호를 수신한다[S430].
상기 제어부(180)는, 상기 음성 검출부(182)를 제어하여 상기 수신되는 오디오 신호에서 음성이 검출되는지를 판단한다[S440].
상기 제어부(180)는, 상기 S440 단계의 판단 결과, 상기 수신되는 오디오 신호에서 음성이 검출되지 않으면, 상기 S430 단계로 회귀하고, 상기 수신되는 오디오 신호에서 음성이 검출되는 경우, 상기 음성인식 모드를 활성화한다[S450].
예를 들어 도 15를 참조하면, 사용자가 상기 전자 기기(100)를 꽉 쥔다거나, 사용자의 맥박수가 기준치 이상으로 올라가는 경우, 상기 음성인식 모드가 활성화 되도록 설정될 수 있다.
도 16은 본 발명의 제5 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다. 도 17 및 도 18은, 본 발명의 제5 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다. 이하 필요한 도면들을 참조하여, 본 발명의 제5 실시예에 따른 전자 기기의 기능 수행 방법과, 이를 구현하기 위한 상기 전자 기기(100)의 동작을 상세히 설명하기로 한다.
상기 제어부(180)는, 상기 전자 기기(100)의 움직임을 감지한다[S500]. 상기 제어부(180)는, 상기 움직임 센서(141) 및/또는 상기 근접 센서(142)를 제어하여 상기 전자 기기(100)의 움직임을 감지하고 상기 움직임에 관한 정보를 획득할 수 있다.
예를 들어 도 17을 참조하면, 상기 전자 기기(100)가 참조번호 100a의 상태에서 100b의 상태로 변화하는 경우, 상기 제어부(180)는 상기 상태 변화를 감지할 수 있다. 참조번호 100a의 상태는 상기 전자 기기(100)가 지표면에 평행한 상태이고, 참조번호 100b의 상태는 상기 전자 기기(100)가 지표면에 대해 각도 α를 형성하는 상태이다.
또한 예를 들어 도 18을 참조하면, 상기 전자 기기(100)가 참조번호 100c의 상태에서 참조번호 100d의 상태로 변화하는 경우, 상기 제어부(180)는, 상기 전자 기기(100)의 이동 속도 및/또는 이동 가속도를 획득하거나, 상기 전자 기기(100)와 사용자 간의 근접 정도를 감지할 수 있다.
상기 제어부(180)는, 상기 S500 단계에서 획득된 움직임 정보가 미리 설정된 기준에 부합되는지를 판단하여[S510], 부합하면 상기 음성 검출부(182)를 활성화할 수 있다[S520].
상기 움직임 정보에 관한 상기 미리 설정된 기준은, 다양할 수 있다.
예를 들어, 상기 전자 기기(100)와 사용자 간의 특정 거리가 상기 미리 설정된 기준에 해당될 수 있다. 상기 전자 기기(100)와 사용자 간의 거리는, 상기 근접 센서(142)를 통해 획득될 수 있다.
도 18을 참조하면, 상기 전자 기기(100)와 사용자 간의 거리가 d10인 경우(100c), 상기 거리 기준(A-A')을 만족하지 못하여 상기 음성 검출부(182)는 활성화되지 않는다. 그리고 상기 전자 기기(100)와 사용자 간의 거리가 d11인 경우(100d), 상기 거리 기준(A-A')을 만족하여, 상기 음성 검출부(182)는 활성화될 수 있다.
또한 예를 들어, 상기 전자 기기(100)의 특정 이동 속도 및/또는 이동 가속도가 상기 미리 설정된 기준에 해당될 수 있다. 상기 이동 속도 및/또는 이동 가속도는, 상기 움직임 센서(141)를 통해 획득될 수 있다.
또한 예를 들어, 상기 전자 기기(100)와 사용자 간의 특정 거리와, 상기 전자 기기(100)의 특정 이동 속도 및/또는 이동 가속도가, 상기 미리 설정된 기준에 해당될 수 있다. 여기서 상기 제어부(180)는, 상기 거리 기준과 상기 속도 및/또는 가속도 기준이 모두 만족되는 경우, 상기 음성 검출부(182)를 활성화한다.
또한 예를 들어, 상기 전자 기기(100)와 사용자 간의 특정 거리와, 상기 전 자 기기(100)가 지표면에 대해 형성하는 각도가, 상기 미리 설정된 기준에 해당될 수 있다. 도 17을 참조하면, 상기 전자 기기(100)가 참조번호 100a인 상태와 참조번호 100b인 상태 모두, 상기 전자 기기(100)와 사용자 간의 특정 거리에 관한 기준을 만족한다고 가정하자. 그러나, 상기 전자 기기(100)가 참조번호 100a인 상태인 경우, 지표면과 이루는 각도가 평행하므로, 상기 각도 기준을 만족하지 못하여, 상기 음성 검출부(182)는 활성화되지 않는다.
또한 상기 전자 기기(100)가 참조번호 100b인 상태인 경우, 지표면과 이루는 각도가 기준값 이상이므로, 상기 각도 기준을 만족하여, 상기 음성 검출부(182)가 활성화될 수 있다.
상기 제어부(180)는, 상기 오디오 수신부(122)를 통해 외부로부터 오디오 신호를 수신한다[S530]. 여기서, 상기 제어부(180)는, 상기 움직임 정보가 상기 미리 설정된 기준에 부합하는 경우, 상기 오디오 수신부(122)를 활성화하여 상기 외부로부터 오디오 신호를 수신할 수 있다. 예를 들어, 사용자가 상기 전자 기기(100)를 자신의 얼굴이나 입 쪽으로 이동시키는 경우, 상기 제어부(180)는 이를 감지하여 마이크를 켤 수 있다.
상기 제어부(180)는, 상기 음성 검출부(182)를 제어하여 상기 수신된 오디오 신호에서 음성이 검출되는지를 판단한다[S540].
상기 제어부(180)는, 상기 S540 단계의 판단 결과, 상기 수신된 오디오 신호에서 음성이 검출되지 않으면 상기 530 단계로 회귀하고, 상기 수신된 오디오 신호에서 음성이 검출되면 상기 음성인식 모드를 활성화한다[S550].
전술한 제1 내지 제5 실시예에 의하면, 평상시에는 음성인식을 위한 모듈을 비활성화 상태로 유지하고, 미리 설정된 조건에 부합하는 경우 음성인식을 위한 모듈을 자동으로 활성화할 수 있는 장점이 있다. 따라서, 불필요한 전력 소모나 메모리의 낭비를 방지할 수 있다. 또한 미리 설정된 조건에 부합하면 음성인식을 위한 모듈이 자동으로 활성화됨에 따라, 사용자가 번거롭게 음성인식 모드 진입을 위한 메뉴 탐색 과정을 수행할 필요가 없다.
도 19는 본 발명의 제6 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다. 도 20 내지 도 23은, 본 발명의 제6 실시예에 따른 전자 기기의 기능 수행 방법이 구현되는 화면의 예들을 도시한 도면이다.
이하 필요한 도면들을 참조하여, 본 발명의 제6 실시예에 따른 전자 기기의 기능 수행 방법과, 이를 구현하기 위한 상기 전자 기기(100)의 동작을 상세히 설명하기로 한다. 본 발명의 제6 실시예는, 전술한 제1 내지 제5 실시예와 연계하여 구현될 수 있다.
상기 제어부(180)는, 전술한 제1 내지 제5 실시예에서 설명한 바와 같이, 상기 음성인식 모드가 활성화된 후, 상기 음성 인식부(183)를 제어하여 상기 수신된 오디오 신호에 포함된 음성을 인식할 수 있다[S600].
상기 제어부(180)는, 상기 S600 단계의 음성인식 동작을 통한 인식 결과에 따라, 대응되는 동작을 수행한다[S610].
상기 S610 단계에서 상기 대응되는 동작은 다양하게 설정될 수 있다.
예를 들어, 상기 제어부(180)는, 상기 인식 결과를 이용하여 미리 설정된 애플리케이션에 의해 제공되는 기능을 실행할 수 있다.
예를 들어, 상기 미리 설정된 애플리케이션은, 콜 발신 기능을 포함하는 애플리케이션일 수 있다. 도 20을 참조하면, 상기 인식 결과가 숫자에 해당하면, 상기 제어부(180)는 상기 인식된 숫자를 전화번호로 하는 연락처로 콜을 발신할 수 있다. 또한 도 21을 참조하면, 상기 인식 결과가 문자에 해당하면, 상기 제어부(180)는 상기 인식된 문자를 상기 메모리(160)에 저장된 폰북(phonebook)에서 검색하여 해당되는 연락처로 콜을 발신할 수 있다.
또한 예를 들어, 상기 미리 설정된 애플리케이션은, 메모 기능을 제공하는 애플리케이션일 수 있다. 도 22를 참조하면, 사용자가 말하는 음성이 메모로 저장될 수 있다.
또한 예를 들어, 상기 제어부(180)는, 상기 인식 결과에 대응되는 애플리케이션을 구동할 수 있다. 도 23을 참조하면, 사용자가 "방송"이라고 말하면, 상기 제어부(180)는, 상기 방송 수신부(111)를 제어하여 방송 신호를 수신하여 출력할 수 있다.
도 24는 본 발명의 제7 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다. 도 25 및 도 26은, 본 발명의 제7 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다.
이하 필요한 도면들을 참조하여, 본 발명의 제7 실시예에 따른 전자 기기의 기능 수행 방법과, 이를 구현하기 위한 상기 전자 기기(100)의 동작을 상세히 설명하기로 한다. 이하 상기 전자 기기(100)를 이동 단말기로 대체하여 설명하기로 한다.
상기 제어부(180)는, 상기 센싱부(140)를 통해 상기 이동 단말기(100)의 이동 속도 및/또는 이동 가속도를 획득한다[S700].
상기 제어부(180)는, 상기 S700 단계에서 획득된 정보가 미리 정해진 기준에 부합하는지를 판단한다[S710].
상기 제어부(180)는, 상기 S710 단계의 판단 결과, 상기 S700 단계에서 획득된 정보가 상기 미리 정해진 기준에 부합하면, 콜 발신 모드로 진입하고[S720], 상기 음성 인식 기능을 활성화한다[S730].
상기 제어부(180)는, 상기 오디오 수신부(122)를 활성화하고, 상기 오디오 수신부(122)를 통해 외부로부터 오디오 신호를 수신한다[S740].
상기 제어부(180)는, 상기 음성 인식부(183)를 제어하여 상기 S740 단계에서 수신되는 상기 오디오 신호에 포함된 음성을 인식하고[S750], 상기 음성인식 결과에 따라 긴급 상황에 관한 정보를 외부로 전송하거나 콜을 발신할 수 있다[S760].
도 25 및 도 26은, 사용자가 계단에서 발을 헛디뎌 굴러 떨어진 상황을 도시한 개념도이다. 여기서 사용자는 계단에서 구르면서 상기 이동 단말기(100)를 손에서 놓치고, 사용자는 몸을 다쳐 움직이지 못하는 상황을 가정한다.
상기 이동 단말기(100)는 사용자의 손에서 떨어지면서 일정 기준 이상의 속 도 및/또는 가속도를 가지고 이동했을 것이다. 상기 제어부(180)는, 상기 이동 단말기(100)의 상기와 같은 움직임을 감지하여, 콜 발신 모드 및 음성인식 모드로 진입한다.
도 25를 참조하면, 상기 제어부(180)는, 사용자가 "119"라고 말하면, "119"를 전화번호로 갖는 긴급 센터로 콜을 발신할 수 있다.
또한 도 26을 참조하면, 상기 제어부(180)는, 사용자가 "다쳤어"라고 말하면, 이를 인식하고, 미리 설정된 바에 따라, 긴급 구조를 요청하는 긴급 메시지를, 미리 설정된 긴급 센터로 전송할 수 있다. 상기 긴급 메시지는, 상기 이동 단말기(100)의 현재 위치와 사용자의 개인 정보(50)를 포함할 수 있다. 상기 이동 단말기(100)의 현재 위치는, 상기 위치정보 모듈(115)을 통해 획득될 수 있다.
상기에서 설명한 본 발명에 의한 전자 기기 및 이동 단말기의 기능 수행 방법은, 컴퓨터에서 실행시키기 위한 프로그램으로 컴퓨터로 읽을 수 있는 기록매체에 기록하여 제공될 수 있다.
본 발명에 의한 전자 기기 및 이동 단말기의 기능 수행 방법은 소프트웨어를 통해 실행될 수 있다. 소프트웨어로 실행될 때, 본 발명의 구성 수단들은 필요한 작업을 실행하는 코드 세그먼트들이다. 프로그램 또는 코드 세그먼트들은 프로세서 판독 가능 매체에 저장되거나 전송 매체 또는 통신망에서 반송파와 결합된 컴퓨터 데이터 신호에 의하여 전송될 수 있다.
컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 장치의 예로는, ROM, RAM, CD-ROM, DVD±ROM, DVD-RAM, 자기 테이프, 플로피 디스크, 하드 디스크(hard disk), 광데이터 저장장치 등이 있다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 장치에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
이상에서 설명한 본 발명은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 있어 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경이 가능하므로 전술한 실시예 및 첨부된 도면에 의해 한정되는 것이 아니다. 또한 본 문서에서 설명된 실시예들은 한정되게 적용될 수 있는 것이 아니라, 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
도 1은 본 발명의 일 실시예와 관련된 전자 기기의 블록 구성도(block diagram)이다.
도 2는 본 발명의 일 실시예에 따른 전자 기기(100)가 이동 단말기인 경우를 나타낸 도면이다.
도 3은 본 발명의 다른 실시예에 따른 전자 기기(100)가 DTV 또는 IPTV인 경우를 나타낸 도면이다.
도 4는 상기 전자 기기(100)와 외부 서버(300)가 인터넷(400)으로 연결된 개념도이다.
도 5는 본 발명의 제1 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다.
도 6 및 도 7은, 본 발명의 제1 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면들이다.
도 8은 본 발명의 제2 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다.
도 9는, 본 발명의 제2 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다.
도 10 및 도 11은 상기 미리 설정된 기준을 설정 또는 변경하기 위한 사용자 인터페이스의 예들을 도시한 도면들이다.
도 12는 전술한 제2 실시예의 상기 S210 단계의 수행을 위한 과정의 예를 도 시한 도면이다.
도 13은 본 발명의 제3 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다.
도 14는 본 발명의 제4 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다.
도 15는, 본 발명의 제4 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다.
도 16은 본 발명의 제5 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다.
도 17 및 도 18은, 본 발명의 제5 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다.
도 19는 본 발명의 제6 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다.
도 20 내지 도 23은, 본 발명의 제6 실시예에 따른 전자 기기의 기능 수행 방법이 구현되는 화면의 예들을 도시한 도면이다.
도 24는 본 발명의 제7 실시예에 따른 전자 기기의 기능 수행 방법의 흐름도이다.
도 25 및 도 26은, 본 발명의 제7 실시예에 따른 전자 기기의 기능 수행 방법을 설명하기 위한 도면이다.
<도면의 주요 부분에 대한 부호의 설명>
100: 전자 기기(이동 단말기, DTV, IPTV)
110: 무선 통신부
122: 오디오 수신부
140: 센싱부
151: 디스플레이부
160: 메모리
182: 음성 검출부
183: 음성 인식부

Claims (11)

  1. 외부의 오디오 소스(audio source)에서 발생하는 오디오 신호를 수신하는 오디오 수신부; 및
    기준점(reference point)에 대한 상기 오디오 소스의 방향에 관한 정보 및 상기 기준점과 상기 오디오 소스 간의 거리에 관한 정보 중 적어도 하나를 포함하는 위치 정보를 획득하고, 상기 획득된 위치 정보가 미리 설정된 기준에 부합되는 경우 상기 오디오 신호에 포함된 음성을 인식하기 위한 음성인식 모드를 활성화하는 제어부를
    포함하는 전자 기기.
  2. 외부로부터 오디오 신호를 수신하는 오디오 수신부;
    상기 오디오 신호로부터 음성을 검출하기 위한 음성 검출부; 및
    상기 음성 검출부에 의해 상기 오디오 수신부를 통해 수신된 오디오 신호에서 음성이 검출된 경우, 기준점에 대한 상기 검출된 음성을 발생하는 오디오 소스(audio source)의 방향 및 거리 중 적어도 하나를 포함하는 위치 정보를 획득하고, 상기 획득된 위치 정보가 미리 설정된 기준에 부합하는 경우 상기 검출된 음성을 인식하기 위한 음성인식 모드를 활성화하는 제어부를
    포함하는 전자 기기.
  3. 제 2 항에 있어서,
    상기 이동 단말기의 움직임을 감지하는 센싱부를 더 포함하고,
    상기 제어부는, 상기 센싱부로부터 전달된 상기 움직임 정보가 미리 설정된 기준에 부합하는 경우, 상기 음성 검출부를 활성화하여 상기 오디오 신호로부터 음성을 검출하는 동작을 수행하는 것을 특징으로 하는 전자 기기.
  4. 제 1 항 또는 제 2 항에 있어서, 상기 제어부는,
    상기 음성인식 모드의 활성화 후, 상기 미리 설정된 기준에 부합하는 오디오 소스로부터 발생되는 상기 오디오 신호에 포함된 음성을 인식하는 것을 특징으로 하는 전자 기기.
  5. 제 4 항에 있어서, 상기 제어부는,
    상기 인식 결과를 이용하여 미리 설정된 애플리케이션에 의해 제공되는 기능을 실행하는 것을 특징으로 하는 전자 기기.
  6. 제 4 항에 있어서, 상기 제어부는,
    상기 인식 결과에 대응되는 애플리케이션을 구동하는 것을 특징으로 하는 전자 기기.
  7. 제 1 항 또는 제 2 항에 있어서, 상기 기준점은,
    상기 오디오 수신부에 포함된 마이크를 포함하는, 상기 전자 기기의 어느 지점인 것을 특징으로 하는 전자 기기.
  8. 외부로부터 오디오 신호를 수신하는 오디오 수신부(MIC); 및
    상기 오디오 수신부로부터 전달되는 오디오 신호의 오디오 특징을 분석하고, 상기 분석된 오디오 특징이 미리 설정된 기준에 부합하는 경우, 상기 오디오 수신부를 통해 수신되는 오디오 신호에 포함된 음성을 인식하기 위한 음성 인식 모드를 활성화하는 제어부를
    포함하는 전자 기기.
  9. 이동 단말기의 움직임을 감지하는 센싱부; 및
    상기 센싱부로부터 전달된 상기 움직임 정보가 미리 설정된 기준에 부합하는 경우, 외부로부터 수신되는 오디오 신호에 포함된 음성을 인식하기 위한 음성 인식 모드를 활성화하는 제어부를
    포함하는 이동 단말기.
  10. 전자 기기에서 기능을 수행하는 방법에 있어서,
    외부로부터 오디오 신호를 수신하는 단계;
    상기 수신된 오디오 신호에서 음성을 검출하는 단계;
    기준점에 대한, 상기 검출된 음성을 발생하는 음원의 방향 및 거리 중 적어 도 하나를 포함하는 위치 정보를 획득하는 단계; 및
    상기 획득된 위치 정보가 미리 설정된 기준에 부합하는 경우, 상기 검출된 음성을 인식하기 위한 음성인식 모드를 활성화하는 단계를
    포함하는 전자 기기의 기능 수행 방법.
  11. 이동 단말기에서 기능을 수행하는 방법에 있어서,
    상기 이동 단말기의 움직임과 관련되어 미리 정해진 이벤트의 발생을 감지하는 단계; 및
    상기 미리 정해진 이벤트의 발생에 따라, 외부로부터 수신되는 오디오 신호에 포함된 음성을 인식하기 위한 음성인식 모드로 진입하는 단계를
    포함하는 이동 단말기의 기능 수행 방법.
KR1020090063315A 2009-07-13 2009-07-13 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법 KR101061443B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090063315A KR101061443B1 (ko) 2009-07-13 2009-07-13 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090063315A KR101061443B1 (ko) 2009-07-13 2009-07-13 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법

Publications (2)

Publication Number Publication Date
KR20110005937A true KR20110005937A (ko) 2011-01-20
KR101061443B1 KR101061443B1 (ko) 2011-09-02

Family

ID=43612828

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090063315A KR101061443B1 (ko) 2009-07-13 2009-07-13 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법

Country Status (1)

Country Link
KR (1) KR101061443B1 (ko)

Cited By (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150133586A (ko) * 2014-05-20 2015-11-30 삼성전자주식회사 음성 명령 인식 장치 및 방법
US9223540B2 (en) 2012-10-30 2015-12-29 Samsung Electronics Co., Ltd. Electronic device and method for voice recognition upon charge transfer
KR20190001699A (ko) * 2017-06-28 2019-01-07 크리스토퍼 재현 윤 특정 조건에서 음성인식을 이용한 어플리케이션 제어 장치 및 방법
WO2019107945A1 (en) * 2017-11-30 2019-06-06 Samsung Electronics Co., Ltd. Method of providing service based on location of sound source and speech recognition device therefor
JP2020009463A (ja) * 2013-02-07 2020-01-16 アップル インコーポレイテッドＡｐｐｌｅ Ｉｎｃ． デジタルアシスタントのためのボイストリガ
US10984798B2 (en) 2018-06-01 2021-04-20 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US11009970B2 (en) 2018-06-01 2021-05-18 Apple Inc. Attention aware virtual assistant dismissal
US11036954B2 (en) 2018-02-27 2021-06-15 Samsung Electronics Co., Ltd. Electronic device and fingerprint authentication interface method thereof
US11037565B2 (en) 2016-06-10 2021-06-15 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US11070949B2 (en) 2015-05-27 2021-07-20 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on an electronic device with a touch-sensitive display
US11087759B2 (en) 2015-03-08 2021-08-10 Apple Inc. Virtual assistant activation
US11120372B2 (en) 2011-06-03 2021-09-14 Apple Inc. Performing actions associated with task items that represent tasks to perform
US11126400B2 (en) 2015-09-08 2021-09-21 Apple Inc. Zero latency digital assistant
US11133008B2 (en) 2014-05-30 2021-09-28 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US11152002B2 (en) 2016-06-11 2021-10-19 Apple Inc. Application integration with a digital assistant
US11169616B2 (en) 2018-05-07 2021-11-09 Apple Inc. Raise to speak
US11237797B2 (en) 2019-05-31 2022-02-01 Apple Inc. User activity shortcut suggestions
US11257504B2 (en) 2014-05-30 2022-02-22 Apple Inc. Intelligent assistant for home automation
US11321116B2 (en) 2012-05-15 2022-05-03 Apple Inc. Systems and methods for integrating third party services with a digital assistant
US11348582B2 (en) 2008-10-02 2022-05-31 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US11380310B2 (en) 2017-05-12 2022-07-05 Apple Inc. Low-latency intelligent automated assistant
US11388291B2 (en) 2013-03-14 2022-07-12 Apple Inc. System and method for processing voicemail
US11405466B2 (en) 2017-05-12 2022-08-02 Apple Inc. Synchronization and task delegation of a digital assistant
US11423886B2 (en) 2010-01-18 2022-08-23 Apple Inc. Task flow identification based on user intent
US11431642B2 (en) 2018-06-01 2022-08-30 Apple Inc. Variable latency device coordination
US11500672B2 (en) 2015-09-08 2022-11-15 Apple Inc. Distributed personal assistant
US11516537B2 (en) 2014-06-30 2022-11-29 Apple Inc. Intelligent automated assistant for TV user interactions
US11526368B2 (en) 2015-11-06 2022-12-13 Apple Inc. Intelligent automated assistant in a messaging environment
US11532306B2 (en) 2017-05-16 2022-12-20 Apple Inc. Detecting a trigger of a digital assistant
US11580990B2 (en) 2017-05-12 2023-02-14 Apple Inc. User-specific acoustic models
US11599331B2 (en) 2017-05-11 2023-03-07 Apple Inc. Maintaining privacy of personal information
US11657813B2 (en) 2019-05-31 2023-05-23 Apple Inc. Voice identification in digital assistant systems
US11670289B2 (en) 2014-05-30 2023-06-06 Apple Inc. Multi-command single utterance input method
US11671920B2 (en) 2007-04-03 2023-06-06 Apple Inc. Method and system for operating a multifunction portable electronic device using voice-activation
US11675829B2 (en) 2017-05-16 2023-06-13 Apple Inc. Intelligent automated assistant for media exploration
US11705130B2 (en) 2019-05-06 2023-07-18 Apple Inc. Spoken notifications
US11710482B2 (en) 2018-03-26 2023-07-25 Apple Inc. Natural assistant interaction
US11727219B2 (en) 2013-06-09 2023-08-15 Apple Inc. System and method for inferring user intent from speech inputs
US11765209B2 (en) 2020-05-11 2023-09-19 Apple Inc. Digital assistant hardware abstraction
US11798547B2 (en) 2013-03-15 2023-10-24 Apple Inc. Voice activated device for use with a voice-based digital assistant
US11809783B2 (en) 2016-06-11 2023-11-07 Apple Inc. Intelligent device arbitration and control
US11809483B2 (en) 2015-09-08 2023-11-07 Apple Inc. Intelligent automated assistant for media search and playback
US11853647B2 (en) 2015-12-23 2023-12-26 Apple Inc. Proactive assistance based on dialog communication between devices
US11854539B2 (en) 2018-05-07 2023-12-26 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US11853536B2 (en) 2015-09-08 2023-12-26 Apple Inc. Intelligent automated assistant in a media environment
US11888791B2 (en) 2019-05-21 2024-01-30 Apple Inc. Providing message response suggestions
US11886805B2 (en) 2015-11-09 2024-01-30 Apple Inc. Unconventional virtual assistant interactions
US11947873B2 (en) 2015-06-29 2024-04-02 Apple Inc. Virtual assistant for media playback
US12010262B2 (en) 2013-08-06 2024-06-11 Apple Inc. Auto-activating smart responses based on activities from remote devices
US12073147B2 (en) 2013-06-09 2024-08-27 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
US12087308B2 (en) 2010-01-18 2024-09-10 Apple Inc. Intelligent automated assistant

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100744301B1 (ko) * 2006-06-01 2007-07-30 삼성전자주식회사 음성 인식을 이용하여 동작 모드를 전환하는 휴대 단말기및 그 방법

Cited By (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11671920B2 (en) 2007-04-03 2023-06-06 Apple Inc. Method and system for operating a multifunction portable electronic device using voice-activation
US11348582B2 (en) 2008-10-02 2022-05-31 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US12087308B2 (en) 2010-01-18 2024-09-10 Apple Inc. Intelligent automated assistant
US11423886B2 (en) 2010-01-18 2022-08-23 Apple Inc. Task flow identification based on user intent
US11120372B2 (en) 2011-06-03 2021-09-14 Apple Inc. Performing actions associated with task items that represent tasks to perform
US11321116B2 (en) 2012-05-15 2022-05-03 Apple Inc. Systems and methods for integrating third party services with a digital assistant
US9223540B2 (en) 2012-10-30 2015-12-29 Samsung Electronics Co., Ltd. Electronic device and method for voice recognition upon charge transfer
US12009007B2 (en) 2013-02-07 2024-06-11 Apple Inc. Voice trigger for a digital assistant
US11862186B2 (en) 2013-02-07 2024-01-02 Apple Inc. Voice trigger for a digital assistant
US11557310B2 (en) 2013-02-07 2023-01-17 Apple Inc. Voice trigger for a digital assistant
US11636869B2 (en) 2013-02-07 2023-04-25 Apple Inc. Voice trigger for a digital assistant
JP2020009463A (ja) * 2013-02-07 2020-01-16 アップル インコーポレイテッドＡｐｐｌｅ Ｉｎｃ． デジタルアシスタントのためのボイストリガ
US10978090B2 (en) 2013-02-07 2021-04-13 Apple Inc. Voice trigger for a digital assistant
US11388291B2 (en) 2013-03-14 2022-07-12 Apple Inc. System and method for processing voicemail
US11798547B2 (en) 2013-03-15 2023-10-24 Apple Inc. Voice activated device for use with a voice-based digital assistant
US11727219B2 (en) 2013-06-09 2023-08-15 Apple Inc. System and method for inferring user intent from speech inputs
US12073147B2 (en) 2013-06-09 2024-08-27 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
US12010262B2 (en) 2013-08-06 2024-06-11 Apple Inc. Auto-activating smart responses based on activities from remote devices
KR20150133586A (ko) * 2014-05-20 2015-11-30 삼성전자주식회사 음성 명령 인식 장치 및 방법
US11699448B2 (en) 2014-05-30 2023-07-11 Apple Inc. Intelligent assistant for home automation
US11257504B2 (en) 2014-05-30 2022-02-22 Apple Inc. Intelligent assistant for home automation
US11810562B2 (en) 2014-05-30 2023-11-07 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US11670289B2 (en) 2014-05-30 2023-06-06 Apple Inc. Multi-command single utterance input method
US11133008B2 (en) 2014-05-30 2021-09-28 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US11516537B2 (en) 2014-06-30 2022-11-29 Apple Inc. Intelligent automated assistant for TV user interactions
US11087759B2 (en) 2015-03-08 2021-08-10 Apple Inc. Virtual assistant activation
US11842734B2 (en) 2015-03-08 2023-12-12 Apple Inc. Virtual assistant activation
US11070949B2 (en) 2015-05-27 2021-07-20 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on an electronic device with a touch-sensitive display
US11947873B2 (en) 2015-06-29 2024-04-02 Apple Inc. Virtual assistant for media playback
US11809483B2 (en) 2015-09-08 2023-11-07 Apple Inc. Intelligent automated assistant for media search and playback
US11500672B2 (en) 2015-09-08 2022-11-15 Apple Inc. Distributed personal assistant
US11550542B2 (en) 2015-09-08 2023-01-10 Apple Inc. Zero latency digital assistant
US11853536B2 (en) 2015-09-08 2023-12-26 Apple Inc. Intelligent automated assistant in a media environment
US11126400B2 (en) 2015-09-08 2021-09-21 Apple Inc. Zero latency digital assistant
US11526368B2 (en) 2015-11-06 2022-12-13 Apple Inc. Intelligent automated assistant in a messaging environment
US11886805B2 (en) 2015-11-09 2024-01-30 Apple Inc. Unconventional virtual assistant interactions
US11853647B2 (en) 2015-12-23 2023-12-26 Apple Inc. Proactive assistance based on dialog communication between devices
US11657820B2 (en) 2016-06-10 2023-05-23 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US11037565B2 (en) 2016-06-10 2021-06-15 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US11749275B2 (en) 2016-06-11 2023-09-05 Apple Inc. Application integration with a digital assistant
US11152002B2 (en) 2016-06-11 2021-10-19 Apple Inc. Application integration with a digital assistant
US11809783B2 (en) 2016-06-11 2023-11-07 Apple Inc. Intelligent device arbitration and control
US11599331B2 (en) 2017-05-11 2023-03-07 Apple Inc. Maintaining privacy of personal information
US11380310B2 (en) 2017-05-12 2022-07-05 Apple Inc. Low-latency intelligent automated assistant
US11580990B2 (en) 2017-05-12 2023-02-14 Apple Inc. User-specific acoustic models
US11405466B2 (en) 2017-05-12 2022-08-02 Apple Inc. Synchronization and task delegation of a digital assistant
US11532306B2 (en) 2017-05-16 2022-12-20 Apple Inc. Detecting a trigger of a digital assistant
US11675829B2 (en) 2017-05-16 2023-06-13 Apple Inc. Intelligent automated assistant for media exploration
KR20190001699A (ko) * 2017-06-28 2019-01-07 크리스토퍼 재현 윤 특정 조건에서 음성인식을 이용한 어플리케이션 제어 장치 및 방법
US10984790B2 (en) 2017-11-30 2021-04-20 Samsung Electronics Co., Ltd. Method of providing service based on location of sound source and speech recognition device therefor
WO2019107945A1 (en) * 2017-11-30 2019-06-06 Samsung Electronics Co., Ltd. Method of providing service based on location of sound source and speech recognition device therefor
US11036954B2 (en) 2018-02-27 2021-06-15 Samsung Electronics Co., Ltd. Electronic device and fingerprint authentication interface method thereof
US11710482B2 (en) 2018-03-26 2023-07-25 Apple Inc. Natural assistant interaction
US11487364B2 (en) 2018-05-07 2022-11-01 Apple Inc. Raise to speak
US11169616B2 (en) 2018-05-07 2021-11-09 Apple Inc. Raise to speak
US11854539B2 (en) 2018-05-07 2023-12-26 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US11900923B2 (en) 2018-05-07 2024-02-13 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US12080287B2 (en) 2018-06-01 2024-09-03 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US11360577B2 (en) 2018-06-01 2022-06-14 Apple Inc. Attention aware virtual assistant dismissal
US11431642B2 (en) 2018-06-01 2022-08-30 Apple Inc. Variable latency device coordination
US11009970B2 (en) 2018-06-01 2021-05-18 Apple Inc. Attention aware virtual assistant dismissal
US10984798B2 (en) 2018-06-01 2021-04-20 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US11705130B2 (en) 2019-05-06 2023-07-18 Apple Inc. Spoken notifications
US11888791B2 (en) 2019-05-21 2024-01-30 Apple Inc. Providing message response suggestions
US11657813B2 (en) 2019-05-31 2023-05-23 Apple Inc. Voice identification in digital assistant systems
US11237797B2 (en) 2019-05-31 2022-02-01 Apple Inc. User activity shortcut suggestions
US11924254B2 (en) 2020-05-11 2024-03-05 Apple Inc. Digital assistant hardware abstraction
US11765209B2 (en) 2020-05-11 2023-09-19 Apple Inc. Digital assistant hardware abstraction

Also Published As

Publication number Publication date
KR101061443B1 (ko) 2011-09-02

Similar Documents

Publication Publication Date Title
KR101061443B1 (ko) 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법
CN110288987B (zh) 用于处理声音数据的系统和控制该系统的方法
CN108461082B (zh) 控制执行多语音处理的人工智能系统的方法
EP3792911B1 (en) Method for detecting key term in speech signal, device, terminal, and storage medium
CN109243432B (zh) 话音处理方法以及支持该话音处理方法的电子设备
CN105976813B (zh) 语音识别系统及其语音识别方法
KR102222122B1 (ko) 감성음성 합성장치, 감성음성 합성장치의 동작방법, 및 이를 포함하는 이동 단말기
US9613618B2 (en) Apparatus and method for recognizing voice and text
EP3824462B1 (en) Electronic apparatus for processing user utterance and controlling method thereof
KR20190084789A (ko) 전자 장치 및 그 제어 방법
KR101696555B1 (ko) 영상 또는 지리 정보에서 음성 인식을 통한 텍스트 위치 탐색 시스템 및 그 방법
CN111919248B (zh) 用于处理用户发声的系统及其控制方法
CN111477225B (zh) 语音控制方法、装置、电子设备及存储介质
CN111661068A (zh) 智能体装置、智能体装置的控制方法及存储介质
CN111524501B (zh) 语音播放方法、装置、计算机设备及计算机可读存储介质
CN111833872B (zh) 对电梯的语音控制方法、装置、设备、系统及介质
CN111739517B (zh) 语音识别方法、装置、计算机设备及介质
KR20110006994A (ko) 이동 단말기의 음성 처리 장치 및 그 방법
KR20170000722A (ko) 전자기기 및 그의 음성 인식 방법
CN113220590A (zh) 语音交互应用的自动化测试方法、装置、设备及介质
CN111681655A (zh) 语音控制方法、装置、电子设备及存储介质
CN111341307A (zh) 语音识别方法、装置、电子设备及存储介质
CN113362836B (zh) 训练声码器方法、终端及存储介质
CN110944056A (zh) 交互方法、移动终端及可读存储介质
CN114299935A (zh) 唤醒词识别方法、装置、终端及存储介质

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20140724

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20150724

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20160722

Year of fee payment: 6