KR20220071591A - 전자장치 및 그 제어방법 - Google Patents

전자장치 및 그 제어방법 Download PDF

Info

Publication number
KR20220071591A
KR20220071591A KR1020200158904A KR20200158904A KR20220071591A KR 20220071591 A KR20220071591 A KR 20220071591A KR 1020200158904 A KR1020200158904 A KR 1020200158904A KR 20200158904 A KR20200158904 A KR 20200158904A KR 20220071591 A KR20220071591 A KR 20220071591A
Authority
KR
South Korea
Prior art keywords
audio signal
noise characteristic
reference data
noise
identified
Prior art date
Application number
KR1020200158904A
Other languages
English (en)
Inventor
김가을
최찬희
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020200158904A priority Critical patent/KR20220071591A/ko
Priority to PCT/KR2021/014693 priority patent/WO2022114532A1/ko
Priority to US17/566,347 priority patent/US20220165298A1/en
Publication of KR20220071591A publication Critical patent/KR20220071591A/ko

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/22Interactive procedures; Man-machine interfaces
    • G10L17/24Interactive procedures; Man-machine interfaces the user being prompted to utter a password or a predefined phrase
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/20Pattern transformations or operations aimed at increasing system robustness, e.g. against channel noise or different working conditions
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L21/0216Noise filtering characterised by the method used for estimating noise
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/15Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being formant information
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225Feedback of the input speech

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은, 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하고, 오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터 중에서 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 기초하여, 수신되는 제2오디오신호가 시작명령어에 대응하는지 여부를 식별하고, 시작명령어에 대응하는 것으로 식별되는 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 전자장치에 관한 발명이다.

Description

전자장치 및 그 제어방법 {ELECTRONICE DEVICE AND CONTROL METHOD THEREOF}
본 발명은 전자장치 및 그 제어방법에 관한 것으로서, 상세하게는, 수신된 오디오신호가 시작명령어에 대응하는지 여부를 참조데이터에 기초하여 식별하는 전자장치 및 그 제어방법에 관한 것이다.
최근 전자장치는 시작명령어 인식을 통해 음성인식기능을 활성화하는 기술을 탑재하고 있다. 시작명령어는 음성인식기능을 활성화하는 특정 명령어로서, 수신된 오디오신호가 특정 명령어에 대응하는 것으로 식별되면, 음성인식기능이 활성화되고, 이후에 수신되는 사용자 음성 입력에 대하여 음성인식처리가 수행되어, 인식결과에 따른 동작이 수행된다.
다만, 시작명령어 인식을 수행함에 있어서, 오디오신호와 함께 유입되는 잡음으로 인해 인식 정확도가 저하되는 문제가 있다. 잡음 별로 참조데이터를 마련함으로써, 잡음으로 인한 인식 정확도가 저하되는 문제를 해결하려는 시도가 있었으나, 잡음의 다양성으로 인해 방대한 참조데이터를 마련해야 하므로, 자원 효율성 및 인식 신속성이 저하되는 문제가 초래되었다. 또한, 전자장치 주변의 현재잡음환경과 무관한 참조데이터에 기초하여 잡음처리가 수행되는 결과, 인식 정확도가 오히려 저하되기에 이르렀다.
따라서, 전자장치 현재의 잡음특성을 고려한 참조데이터를 선택하여, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행함으로써, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있는 방안이 요청되고 있다.
본 발명의 목적은, 현재의 잡음특성을 고려한 참조데이터를 선택하여, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행함으로써, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있는 전자장치 및 그 제어방법을 제공하는 것이다.
상기한 본 발명의 목적은, 마이크를 통해 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하고, 오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 기초하여, 상기 마이크를 통해 수신되는 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하고, 상기 시작명령어에 대응하는 것으로 식별되는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 프로세서를 포함하는 전자장치에 의해 달성될 수 있다.
상기 프로세서는, 상기 제2오디오신호의 수신 시점 이전의 미리 정해진 시간 구간에서 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별한다.
상기 프로세서는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정한다.
상기 프로세서는, 상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 상기 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별한다.
상기 프로세서는, 상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 높은 가중치를 부여한다.
상기 프로세서는, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 제1기설정값 이상인 참조데이터의 제1잡음특성을 식별하고, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하면, 상기 제1잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별한다.
상기 프로세서는, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하지 않으면, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 상기 제1기설정값보다 높은 제2기설정값 이상인 제2잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별한다.
상기 프로세서는, 상기 식별된 잡음특성을 나타내는 사용자인터페이스를 제공하도록 제어한다.
상기 프로세서는, 상기 식별된 잡음특성의 세기 또는 종류에 따라 서로 구별되는 상기 사용자인터페이스를 제공하도록 제어한다.
상기한 본 발명의 목적은, 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계; 오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 기초하여, 수신되는 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계; 및 상기 시작명령어에 대응하는 것으로 식별되는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 전자장치의 제어방법에 의해서도 달성될 수 있다.
상기 잡음특성을 식별하는 단계는, 상기 제2오디오신호의 수신 시점 이전의 미리 정해진 시간 구간에서 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별하는 단계를 포함한다.
상기 잡음특성을 식별하는 단계는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정하는 단계를 포함한다.
상기 시작명령어에 대응하는지 여부를 식별하는 단계는, 상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 상기 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별한다.
상기 시작명령어에 대응하는지 여부를 식별하는 단계는, 상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 높은 가중치를 부여하는 단계를 포함한다.
상기 시작명령어에 대응하는지 여부를 식별하는 단계는, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 제1기설정값 이상인 참조데이터의 제1잡음특성을 식별하는 단계; 및 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하면, 상기 제1잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계를 포함한다.
상기 제1잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계는, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하지 않으면, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 상기 제1기설정값보다 높은 제2기설정값 이상인 제2잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계를 포함한다.
상기 식별된 잡음특성을 나타내는 사용자인터페이스를 제공하는 단계를 포함한다.
상기 식별된 잡음특성의 세기 또는 종류에 따라 서로 구별되는 상기 사용자인터페이스를 제공하는 단계를 포함한다.
상기한 본 발명의 목적은, 컴퓨터가 읽을 수 있는 코드로서, 전자장치의 제어방법을 수행하는 코드를 포함하는 컴퓨터 프로그램이 저장된 기록매체에 있어서, 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계; 오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 기초하여, 수신되는 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계; 및 상기 시작명령어에 대응하는 것으로 식별되는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 것을 특징으로 하는 컴퓨터가 읽을 수 있는 프로그램이 기록된 기록매체에 의해서도 달성될 수 있다.
본 발명에 의하면, 현재의 잡음특성을 고려한 참조데이터를 선택하여, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행함으로써, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있는 전자장치 및 그 제어방법을 제공한다.
도 1은 본 발명의 일 실시예에 따른 전자장치를 도시한다.
도 2는 도 1의 전자장치 및 서버에 관한 구성의 일 예를 도시한다.
도 3은 도 1의 전자장치에 대한 제어방법의 일 예를 도시한다.
도 4는 도 3의 동작 S31과 관련하여, 잡음특성을 식별하는 구체적인 예를 도시한다.
도 5는 도 3의 동작 S31과 관련하여, 시간 구간을 조정하는 구체적인 예를 도시한다.
도 6은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 어느 하나를 선택하는 구체적인 예를 도시한다.
도 7은 도 3의 동작 S32와 관련하여, 참조데이터에 가중치를 부여하거나, 가중치를 조정하는 구체적인 예를 도시한다.
도 8은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 유사도 및 가중치에 기초하여 참조데이터를 선택하기 위한 제어방법의 구체적인 예를 도시한다.
도 9는 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 동일한 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
도 10은 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 다른 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
도 11은 잡음특성을 나타내는 사용자인터페이스에 관한 구체적인 예를 도시한다.
도 12는 도 11의 사용자인터페이스가 잡음특성 별로 색상을 달리하여 표시되는 구체적인 예를 도시한다.
도 13은 도 11의 사용자인터페이스가 사용자입력에 따라 설정되는 구체적인 예를 도시한다.
이하에서는 첨부도면을 참조하여 본 발명에 따른 실시예들에 관해 상세히 설명한다. 이하 실시예들의 설명에서는 첨부된 도면들에 기재된 사항들을 참조하는 바, 각 도면에서 제시된 동일한 참조번호 또는 부호는 실질적으로 동일한 동작을 수행하는 구성요소를 나타낸다. 본 명세서에서의 복수의 구성 중 적어도 하나(at least one)는, 복수의 구성 전부뿐만 아니라, 복수의 구성 중 나머지를 배제한 각 하나 혹은 이들의 조합 모두를 지칭한다.
도 1은 본 발명의 일 실시예에 따른 전자장치를 도시한다.
도 1에 도시된 바와 같이, 전자장치(1)는 TV, 태블릿, 휴대용 미디어 플레이어, 웨어러블 디바이스, 비디오 월, 전자액자 등과 같이 영상표시장치뿐만 아니라, 디스플레이를 구비하지 않는 셋탑박스 등의 영상처리장치, 냉장고, 세탁기 등의 생활가전, 컴퓨터본체와 같은 정보처리장치 등 다양한 종류의 장치로 구현된다. 또한, 전자장치(1)는 인공지능 기능을 탑재한 인공지능(Artificial Intelligence, AI) 스피커, AI 로봇 등으로 구현된다. 전자장치(1)의 종류는 이에 한정되는 것은 아니며, 이하에서는 설명의 편의를 위해 전자장치(1)가 TV로 구현되는 경우를 가정한다.
전자장치(1)는 음성인식기능을 수행한다. 전자장치(1)는 사용자(2)로부터 발화된 오디오(3)의 신호에 대하여 음성인식처리를 수행한다. 전자장치(1)는 음성인식처리에 대한 인식결과를 획득하고, 획득된 인식결과에 대응하는 동작을 수행한다.
음성인식처리는 오디오(3)의 신호를 텍스트 데이터로 변환하는 STT(Speech-to-Text) 처리 과정과, 텍스트 데이터가 나타내는 커맨드를 식별하여, 식별된 커맨드가 지시하는 동작을 수행하는 커맨드 식별 및 수행 과정을 포함한다. 음성인식처리는 전자장치(1)에서 모두 실행될 수 있으나, 시스템 부하 및 소요 저장용량을 고려하여, 적어도 일부의 과정은 네트워크를 통해 전자장치(1)와 통신 가능하게 접속되는 적어도 하나의 서버에 의해 수행된다. 일 예로, 적어도 하나의 서버가 STT 처리 과정을 수행하고, 전자장치(1)가 커맨드 식별 및 수행 과정을 수행한다. 또는, 적어도 하나의 서버가 STT 처리 과정과, 커맨드 식별 및 수행 과정을 모두 수행하고, 전자장치(1)는 단지 적어도 하나의 서버로부터 결과를 수신하기만 할 수도 있다.
전자장치(1)는 본체에 마련된 내부 마이크(16) 또는 본체와 분리된 리모트 컨트롤러(4)를 통해 오디오(3)의 신호를 수신한다. 리모트 컨트롤러(4)를 활용하는 경우, 리모트 컨트롤러(4)로부터 오디오(3)의 신호를 전달받고, 전달받은 오디오(3)에 대한 음성인식처리를 수행한다.
전자장치(1)는 시작명령어(6)에 기초하여 음성인식기능을 활성화한다. 시작명령어(6)는 음성인식기능을 활성화하는 특정 명령어로서, 시작명령어(6)에 따라 음성인식기능이 활성화되면, 이후에 수신되는 사용자 음성 입력에 대하여 앞서 설명한 음성인식처리가 수행되고, 사용자 음성 입력에 대응하는 동작이 수행된다.
전자장치(1)는 참조데이터(9)에 기초하여 시작명령어 인식을 수행한다. 시작명령어 인식은, 제2오디오신호(7) 및 참조데이터(9) 간의 유사성 판단에 기초하여 수행된다. 제2오디오신호(7)는 사용자(2)로부터 내부 마이크(16) 또는 리모트 컨트롤러(4)를 통해 수신된 것일 수 있으나, 이에 한정되는 것은 아니다. 유사성 판단은 주파수특성에 관한 유사성 판단을 포함한다. 주파수특성은 주파수의 패턴, 톤, 세기, 빠르기, 주기, 진폭 중 적어도 하나를 포함한다. 참조데이터(9)는 패턴 등에 관한 음향모델을 포함하며, 음향모델은 하드웨어/소프트웨어 컴포넌트로 구현될 수 있다.
참조데이터(9)는 민감도 별로 마련될 수 있다. 민감도는 제2오디오신호(7)와의 주파수특성에 대한 유사성 판단이 얼마나 정밀하게 수행되는지를 나타내는 척도이다. 민감도가 높으면, 주파수특성이 약한 오디오신호에 대해서도 주파수특성에 대한 유사도 판단이 수행되는 반면에, 민감도가 낮으면, 주파수특성이 강한 오디오신호에 대해서만 주파수특성에 대한 유사도 판단이 수행된다.
참조데이터(9)는 잡음특성 별로 마련될 수 있다. 잡음은 바람 소리 등과 같은 자연 소음뿐만 아니라, 층간 소음, 가전제품 작동 소음과 같은 인공 소음을 포함한다. 또한, 잡음은 사용자(2)로부터의 음성 입력, 일상 대화를 포함할 수 있다. 사용자 음성 입력은 전자장치(1) 또는 음성인식기능을 제공하는 주변 기기의 기능을 제어하기 위한 사용자(2)로부터의 음성 명령을 포함한다. 일상 대화는 사용자(2) 또는 가족으로부터의 잡담, 통화 음성 등을 포함한다. 또한, 잡음은 전자장치(1)로부터 출력된 컨텐츠의 오디오를 포함할 수 있다. 컨텐츠의 오디오는 디스플레이(14)에 표시된 컨텐츠의 영상에 대응하는 오디오신호에 기초하여 출력된 오디오를 포함한다. 잡음특성은 상기한 잡음의 특성으로서, 잡음의 패턴, 톤, 세기, 빠르기, 주파수, 주기, 진폭 중 적어도 하나를 포함한다. 일 예로, 소음의 크기 별로 낮은 소음, 높은 소음 등에 대응하는 참조데이터(9)가 마련될 수 있다.
잡음은 내부 마이크(16) 또는 리모트 컨트롤러(4)를 통해 수신된 것일 수 있으나, 이에 한정되는 것은 아니므로, 네트워크를 통해 다른 외부장치 또는 서버(30)(도 2를 참조)로부터 수신된 데이터에 기초한 것일 수 있다.
전자장치(1)는 제1오디오신호(8)에 기초하여 잡음특성을 식별한다. 제1오디오신호(8)는 내부 마이크(16) 또는 리모트 컨트롤러(4)를 통해 수신된 것일 수 있으나, 이에 한정되는 것은 아니다. 잡음특성은 제2오디오신호(7)의 수신 이전에 전자장치(1) 주변의 현재잡음환경을 나타내는 것일 수 있다. 일 예로, 잡음특성이 낮은 수준의 소음 크기인 것으로 식별되면, 제2오디오신호(7)의 수신 이전의 현재잡음환경이 낮은 소음환경임을 나타낼 수 있다. 반면에, 높은 수준의 소음 크기인 것으로 식별되면, 현재잡음환경이 높은 소음환경임을 나타낼 수 있다.
전자장치(1)는 제1오디오신호(8)에 기초하여 식별된 잡음특성에 대응하는 잡음특성의 참조데이터(9)를 식별한다. 제1오디오신호(8)의 잡음특성이 낮은 수준의 소음 크기인 것으로 가정하면, 낮은 소음, 높은 소음 등에 대응하는 참조데이터(9) 중에서 제1오디오신호(8)의 낮은 수준의 소음 크기에 대응하는 낮은 소음의 참조데이터(9)가 선택될 수 있다. 즉, 주변의 현재잡음환경이 낮은 소음환경임을 반영한 참조데이터(9)가 선택된다.
전자장치(1)는 주변의 현재잡음환경에 대응하는 참조데이터(9)에 기초하여 시작명령어 인식을 수행할 수 있다. 시작명령어 인식은 참조데이터(9)에 기초한 잡음제거, 명령어검출 등의 동작을 포함한다. 잡음제거는 참조데이터(9)의 잡음특성에 기초하여 제2오디오신호(7)에서 잡음성분을 제거하는 동작을 포함한다. 명령어검출은 잡음성분이 제거된 제2오디오신호(7)에 대하여 참조데이터(9)와 주파수특성에 대한 유사도 판단을 통해 시작명령어(6)로의 대응 여부를 식별하는 동작을 포함한다. 전자장치(1)는 주변의 현재잡음환경을 고려한 시작명령어 인식을 수행할 수 있다.
전자장치(1)는 주변의 현재잡음환경을 고려한 유사도 판단을 통해 제2오디오신호(7)가 시작명령어(6)로 인식되면, 음성인식기능을 활성화하고, 활성화 이후에 수신되는 제3오디오신호(10)에 대하여, 앞서 설명한 바와 같이, 음성인식처리를 수행하고, 인식결과에 따른 동작을 수행한다.
한편, 앞서 설명한 참조데이터 마련, 시작명령어 인식 등의 동작은 전자장치(1)에서 모두 실행될 수 있으나, 시스템 부하 및 소요 저장용량을 고려하여, 적어도 일부의 과정은 네트워크를 통해 전자장치(1)와 통신 가능하게 접속되는 서버(30)에 의해 수행될 수 있다. 서버(30)는 음성인식처리를 위한 적어도 하나의 서버에 포함되거나, 별도로 마련될 수 있다. 일 예로, 서버(30)는 참조데이터 마련, 시작명령어 인식 등의 동작을 수행할 수 있으며, 전자장치(1)는 서버(30)가 상기한 동작을 수행할 수 있도록 제2오디오신호(7)를 서버(30)에 전송하거나, 서버(30)에 의한 처리결과를 수신하기만 할 수도 있다.
이와 같이, 전자장치(1)는 잡음특성 별로 마련된 참조데이터(9) 중에서 제1오디오신호(8)의 잡음특성에 기초하여 참조데이터(9)를 선택함으로써, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행할 수 있다. 따라서, 현재잡음환경에 최적화된 참조데이터(9)에 기초하여 시작명령어 인식을 수행할 수 있으므로, 주변의 현재잡음환경에 대한 고려없이 방대한 잡음데이터를 활용하여 시작명령어 인식을 수행하는 경우에 비해, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있다.
도 2는 도 1의 전자장치에 관한 구성의 일 예를 도시한다.
이하에서는 도 2를 참조하여, 전자장치(1)의 구성에 관해 자세히 설명한다. 본 실시예서는 전자장치(1)가 TV인 경우에 관해 설명하지만, 전자장치(1)는 다양한 종류의 장치로 구현될 수 있으므로, 본 실시예가 전자장치(1)의 구성을 한정하는 것은 아니다. 전자장치(1)가 TV와 같은 디스플레이장치로 구현되지 않는 경우도 가능하며, 이 경우 전자장치(1)는 디스플레이(14)와 같은 영상 표시를 위한 구성요소들을 포함하지 않을 수 있다. 일 예로, 전자장치(1)가 셋탑박스로 구현되는 경우, 전자장치(1)는 인터페이스부(11)를 통해 외부의 TV에 영상 신호를 출력한다.
전자장치(1)는 인터페이스부(11)를 포함한다. 인터페이스부(11)는 서버(30), 다른 외부장치 등과 네트워크를 통해 연결하여 데이터를 송수신한다. 다만 이에 한정되는 것은 아니므로, 인터페이스부(11)는 네트워크로 연결된 다양한 장치와 연결한다.
인터페이스부(11)는 유선 인터페이스부를 포함한다. 유선 인터페이스부는 지상파/위성방송 등 방송규격에 따른 방송신호를 수신할 수 있는 안테나가 연결되거나, 케이블 방송 규격에 따른 방송신호를 수신할 수 있는 케이블이 연결될 수 있는 커넥터 또는 포트를 포함한다. 다른 예로서, 전자장치(1)는 방송신호를 수신할 수 있는 안테나를 내장할 수도 있다. 유선 인터페이스부는 HDMI 포트, DisplayPort, DVI 포트, 썬더볼트, 컴포지트(Composite) 비디오, 컴포넌트(Component) 비디오, 슈퍼 비디오(Super Video), SCART 등과 같이, 비디오 및/또는 오디오 전송규격에 따른 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 USB 포트 등과 같은 범용 데이터 전송규격에 따른 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 광 전송규격에 따라 광케이블이 연결될 수 있는 커넥터 또는 포트 등을 포함한다.
유선 인터페이스부는 내부 마이크(16) 및 마이크를 구비한 외부 오디오기기가 연결될 수 있으며, 오디오기기로부터 오디오신호를 수신 또는 입력할 수 있는 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 헤드셋, 이어폰, 외부 스피커 등과 같은 오디오기기가 연결되며, 오디오기기로 오디오신호를 전송 또는 출력할 수 있는 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 이더넷 등과 같은 네트워크 전송규격에 따른 커넥터 또는 포트를 포함한다. 일 예로, 유선 인터페이스부는 라우터 또는 게이트웨이에 유선 접속된 랜카드 등으로 구현된다.
유선 인터페이스부는 상기 커넥터 또는 포트를 통해 셋탑박스, 광학미디어 재생장치와 같은 외부기기, 또는 외부 디스플레이장치나, 스피커, 서버(30) 등과 1:1 또는 1:N(N은 자연수) 방식으로 유선 접속됨으로써, 해당 외부기기로부터 비디오/오디오신호를 수신하거나 또는 해당 외부기기에 비디오/오디오신호를 송신한다. 유선 인터페이스부는, 비디오/오디오신호를 각각 별개로 전송하는 커넥터 또는 포트를 포함할 수도 있다.
유선 인터페이스부는 전자장치(1)에 내장되거나, 동글(Dongle) 또는 모듈(Module) 형태로 구현되어 전자장치(1)의 커넥터에 착탈될 수도 있다.
인터페이스부(11)는 무선 인터페이스부를 포함한다. 무선 인터페이스부는 전자장치(1)의 구현 형태에 대응하여 다양한 방식으로 구현된다. 예를 들면, 무선 인터페이스부는 통신방식으로 RF(Radio Frequency), 지그비(Zigbee), 블루투스(Bluetooth), 와이파이(Wi-Fi), UWB(Ultra-Wideband) 및 NFC(Near Field Communication) 등 무선통신을 사용한다. 무선 인터페이스부는 와이파이 방식에 따라서 AP와 무선통신을 수행하는 무선통신모듈이나, 블루투스 등과 같은 1대 1 다이렉트 무선통신을 수행하는 무선통신모듈 등으로 구현된다.
무선 인터페이스부는 네트워크 상의 서버(30)와 무선 통신함으로써, 서버(30)와의 사이에 데이터 패킷을 송수신한다. 무선 인터페이스부는 적외선 통신규격에 따라 IR(Infrared) 신호를 송신 및/또는 수신할 수 있는 IR송신부 및/또는 IR수신부를 포함한다.
무선 인터페이스부는 IR송신부 및/또는 IR수신부를 통해 리모트 컨트롤러(4) 또는 다른 외부기기로부터 리모트 컨트롤러신호를 수신 또는 입력하거나, 리모트 컨트롤러(4) 또는 다른 외부기기로 리모트 컨트롤러신호를 전송 또는 출력한다. 다른 예로서, 전자장치(1)는 와이파이, 블루투스 등 다른 방식의 무선 인터페이스부를 통해 리모트 컨트롤러(4) 또는 다른 외부기기와 리모트 컨트롤러신호를 송수신한다.
전자장치(1)는 인터페이스부(11)를 통해 수신하는 비디오/오디오신호가 방송신호인 경우, 수신된 방송신호를 채널 별로 튜닝하는 튜너(Tuner)를 더 포함한다.
전자장치(1)는 통신부(12)를 포함한다. 통신부(12)는 서버(30), 다른 외부장치 등과 연결되어 비디오/오디오 신호를 전송한다. 통신부(12)는 설계 방법에 따라 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 구성을 포함하며, 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 기능을 수행한다.
전자장치(1)는 사용자입력부(13)를 포함한다. 사용자입력부(13)는 사용자(2)의 입력을 수행하기 위해 사용자(2)가 조작할 수 있도록 마련된 다양한 종류의 입력 인터페이스 관련 회로를 포함한다. 사용자입력부(13)는 전자장치(1)의 종류에 따라서 여러 가지 형태의 구성이 가능하며, 예를 들면 전자장치(1)의 기계적 또는 전자적 버튼부, 터치패드, 디스플레이(14)에 설치된 터치스크린 등이 있다.
전자장치(1)는 디스플레이(14)를 포함한다. 디스플레이(14)는 화면 상에 영상을 표시할 수 있는 디스플레이 패널을 포함한다. 디스플레이 패널은 액정 방식과 같은 수광 구조 또는 OLED 방식과 같은 자발광 구조로 마련된다. 디스플레이(14)는 디스플레이 패널의 구조에 따라서 부가적인 구성을 추가로 포함할 수 있는데, 예를 들면, 디스플레이 패널이 액정 방식이라면, 디스플레이(14)는 액정 디스플레이 패널과, 광을 공급하는 백라이트유닛과, 액정 디스플레이 패널의 액정을 구동시키는 패널구동기판을 포함한다. 다만, 앞서 설명한 바와 같이, 디스플레이(14)는 전자장치(1)가 셋탑박스 등으로 구현되는 경우 생략된다.
전자장치(1)는 센서부(15)를 포함한다. 센서부(15)는 전자장치(1)의 전방을 센싱하여, 사용자(2) 또는 다른 전자장치의 유무, 움직임 등을 감지한다. 일 예로, 센서부(15)는 이미지 센서로 구현될 수 있으며, 전자장치(1)의 전방을 캡처하여, 캡처된 이미지로부터 사용자(2) 또는 다른 전자장치의 유무, 움직임 등에 관한 정보를 획득한다. 이미지 센서는, CMOS(Complementary Metal Oxide Semiconductor) 또는 CCD(Charge Coupled Device) 방식의 카메라로 구현된다. 센서부(15)는 적외선 센서로 구현될 수 있으며, 전방으로 출력되는 적외선 신호가 반사되어 돌아오는 시간을 측정하여 사용자(2) 또는 다른 전자장치의 유무, 움직임 등에 관한 정보를 획득한다.
전자장치(1)는 마이크(16)를 포함한다. 마이크(16)는 다양한 오디오신호를 수신한다. 마이크(16)는 사용자(2)로부터의 오디오(3)뿐만 아니라, 주변으로부터 유입된 소음과 같은 잡음의 오디오신호를 수신한다. 마이크(16)는 수집된 오디오신호를 프로세서(5)에 전달한다. 마이크(16)는 전자장치(1)에 마련된 내부 마이크(16) 또는 본체와 분리된 리모트 컨트롤러(4)에 마련된 외부 마이크로 구현된다. 마이크(16)가 외부 마이크로 구현되는 경우, 외부 마이크로 수신된 오디오신호는 디지털화 되어 리모트 컨트롤러(4)로부터 인터페이스부(11)를 통해 수신된다.
리모트 컨트롤러(4)는 스마트폰 등을 포함하며, 스마트폰 등에는 리모트 컨트롤러 어플리케이션이 설치된다. 스마트폰 등은 설치된 어플리케이션을 통해 리모트 컨트롤러(4)의 기능, 예컨대, 전자장치(1)를 제어하는 기능을 수행한다. 이러한 리모트 컨트롤러 어플리케이션은 AI 스피커, AI 로봇 등 다양한 외부 장치에 설치된다.
전자장치(1)는 스피커(17)를 포함한다. 스피커(17)는 오디오신호에 기초하여 다양한 오디오를 출력한다. 스피커(17)는 적어도 하나 이상의 스피커로 구현된다. 스피커(17)는 전자장치(1)에 마련된 내부 스피커 또는 외부에 마련되는 외부 스피커로 구현된다. 스피커(17)가 외부 스피커로 구현되는 경우, 전자장치(1)는 오디오신호를 외부 스피커로 유선 또는 무선으로 전송한다.
사용자입력부(13), 디스플레이(14), 센서부(15), 마이크(16), 스피커(17) 등은 인터페이스부(11)와 별도의 구성으로 기재되었으나, 설계 방법에 따라 인터페이스부(11)에 포함되도록 구성된다.
전자장치(1)는 저장부(18)를 포함한다. 저장부(18)는 디지털화된 데이터를 저장한다. 저장부(18)는 전원의 제공 유무와 무관하게 데이터를 보존할 수 있는 비휘발성 속성의 스토리지(Storage)를 포함한다. 스토리지는 플래시메모리(Flash-Memory), HDD(Hard-Disc Drive), SSD(Solid-State Drive), ROM(Read Only Memory) 등을 포함한다.
저장부(18)는 프로세서(5)에 의해 처리되기 위한 데이터 등이 로드 되며, 전원이 제공되지 않으면 데이터를 보존할 수 없는 휘발성 속성의 메모리(Memory)를 포함한다. 메모리는 버퍼(Buffer), 램(RAM; Random Access Memory) 등을 포함한다. 일 예로, 저장부(18)에는 제1어플리케이션(1)의 제1코드가 로드된다.
전자장치(1)는 프로세서(5)를 포함한다. 프로세서(5)는 인쇄회로기판 상에 장착되는 CPU, 칩셋, 버퍼, 회로 등으로 구현되는 하나 이상의 하드웨어 프로세서를 포함하며, 설계 방식에 따라서는 SOC(System On Chip)로 구현될 수도 있다. 프로세서(5)는 전자장치(1)가 디스플레이장치로 구현되는 경우에 디멀티플렉서, 디코더, 스케일러, 오디오 DSP(Digital Signal Processor), 앰프 등의 다양한 프로세스에 대응하는 모듈들을 포함한다. 여기서, 이러한 모듈들 중 일부 또는 전체가 SOC로 구현된다. 예를 들면, 디멀티플렉서, 디코더, 스케일러 등 영상처리와 관련된 모듈이 영상처리 SOC로 구현되고, 오디오 DSP는 SOC와 별도의 칩셋으로 구현되는 것이 가능하다.
프로세서(5)는 마이크(16)를 통해 수신되는 제1오디오신호(8)에 기초하여 현재잡음특성을 식별한다.
프로세서(5)는 오디오신호와, 시작명령어 간의 유사성을 인식하기 위하여 복수의 잡음특성 별로 마련된 참조데이터(9) 중에서 식별된 현재잡음특성에 대응하는 잡음특성의 참조데이터(9)에 기초하여, 마이크(16)를 통해 수신되는 제2오디오신호(7)가 시작명령어(6)에 대응하는지 여부를 식별한다.
프로세서(5)는 시작명령어(6)에 대응하는 것으로 식별되는 제2오디오신호(7) 이후에 마이크(16)를 통해 수신되는 제3오디오신호(10)에 기초하여 음성명령의 인식에 관한 동작을 수행한다.
전자장치(1)의 구성은 도 2에 도시된 바에 한정되는 것은 아니므로, 설계 방법에 따라 상기한 구성 중 일부를 제외하거나, 상기한 구성 이외의 구성을 포함한다.
이하에서는 도 2를 참조하여 서버(30)의 구성에 대해 자세히 설명한다. 서버(30)는 서버인터페이스부(31)를 포함한다. 전자장치(1) 및 서버(30)는 인터페이스부(11) 및 서버인터페이스부(31)를 통해 연결되어, 데이터를 송수신한다. 서버인터페이스부(31)는 유선 인터페이스부 및 무선 인터페이스부를 포함한다. 유선 인터페이스부 및 무선 인터페이스부에 대한 설명은 전자장치(1)에서 인터페이스부(11)에 포함된 유선 인터페이스부 및 무선 인터페이스부에 대한 설명과 중복되므로 생략하기로 한다.
서버(30)는 서버통신부(32)를 포함한다. 서버통신부(32)는 전자장치(1), 다른 외부장치 등과 네트워크를 통해 연결되어 데이터를 전송한다. 서버통신부(32)는 설계 방법에 따라 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 구성을 포함하며, 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 기능을 수행한다.
서버(30)는 서버저장부(33)를 포함한다. 서버저장부(33)는 디지털화된 데이터를 저장한다. 서버저장부(33)는 전원의 제공 유무와 무관하게 데이터를 보존할 수 있는 비휘발성 속성의 스토리지를 포함한다. 스토리지는 플래시메모리, HDD, SSD, ROM 등을 포함한다. 서버저장부(33)는 서버프로세서(35)에 의해 처리되기 위한 데이터 등이 로드 되며, 전원이 제공되지 않으면 데이터를 보존할 수 없는 휘발성 속성의 메모리를 포함한다. 메모리는 버퍼, 램 등을 포함한다.
서버(30)는 서버프로세서(35)를 포함한다. 서버프로세서(35)는 인쇄회로기판 상에 장착되는 CPU, 칩셋, 버퍼, 회로 등으로 구현되는 하나 이상의 하드웨어 프로세서를 포함하며, 설계 방식에 따라서는 SOC(로 구현될 수도 있다.
서버프로세서(35)는 앞서 프로세서(5)의 동작의 전부 또는 일부를 수행할 수 있다. 일 예로, 현재잡음특성의 식별, 제2오디오신호(7)가 시작명령어(6)에 대응하는지 여부의 식별, 음성명령의 인식에 관한 동작 중 적어도 하나가 서버프로세서(35)에 의해 수행될 수 있다. 이 경우, 프로세서(5)는 서버프로세서(35)가 상기한 동작을 수행할 수 있도록 필요한 정보를 제공하거나, 서버프로세서(35)에 의해 처리된 정보를 수신할 수 있다.
서버(30)의 구성은 도 2에 도시된 바에 한정되는 것은 아니므로, 설계 방법에 따라 상기한 구성 중 일부를 제외하거나, 상기한 구성 이외의 구성을 포함한다.
전자장치(1)의 프로세서(5) 또는 서버(30)의 서버프로세서(35)는 각각 수행되는 동작들을 위한 데이터 분석, 처리, 및 결과 정보 생성 중 적어도 일부에 대하여, 규칙 기반 또는 인공지능 알고리즘을 이용한 인공지능 기술을 적용함으로써, 인공지능 시스템을 구축한다.
인공지능 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템으로서 기계가 스스로 학습하고 판단하며, 사용할수록 인식률이 향상되는 시스템이며, 인공지능 알고리즘은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘이다.
인공지능 기술은 기계학습, 신경망 네트워크(Neural Network), 또는 딥러닝 알고리즘 중 적어도 하나를 이용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 요소 기술들로 구성된다.
요소기술들은 인간의 언어/문자를 인식하는 언어적 이해 기술, 사물을 인간의 시각처럼 인식하는 시각적 이해 기술, 정보를 판단하여 논리적으로 추론하고 예측하는 추론/예측 기술, 인간의 경험 정보를 지식데이터로 처리하는 지식 표현 기술 및 차량의 자율 주행, 로봇의 움직임을 제어하는 동작 제어 기술 중 적어도 하나를 포함할 수 있다.
언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다.
이하에서는 상기한 인공지능 알고리즘을 이용한 인공지능 기술이 전자장치(1)의 프로세서(5)에 의해 구현되는 일 예를 설명한다. 다만, 서버(30)의 서버프로세서(35)에 의해서도 동일한 인공지능 기술이 구현될 수 있음을 밝혀둔다.
프로세서(5)는 학습부 및 인식부의 기능을 함께 수행한다. 학습부는 학습된 신경망 네트워크를 생성하는 기능을 수행하고, 인식부는 학습된 신경망 네트워크를 이용하여 데이터를 인식, 추론, 예측, 추정, 판단하는 기능을 수행한다.
학습부는 신경망 네트워크를 생성하거나 갱신한다. 학습부는 신경망 네트워크를 생성하기 위해서 학습 데이터를 획득한다. 일 예로, 학습부는 학습 데이터를 저장부(18) 또는 서버저장부(33)로부터 획득하거나, 외부로부터 획득한다. 학습 데이터는, 신경망 네트워크의 학습을 위해 이용되는 데이터일 수 있으며, 상기한 동작을 수행한 데이터를 학습데이터로 이용하여 신경망 네트워크를 학습시킬 수 있다.
학습부는 학습 데이터를 이용하여 신경망 네트워크를 학습시키기 전에, 획득된 학습 데이터에 대하여 전처리 작업을 수행하거나, 또는 복수 개의 학습 데이터들 중에서 학습에 이용될 데이터를 선별한다. 일 예로, 학습부는 학습 데이터를 기 설정된 포맷으로 가공하거나, 필터링하거나, 또는 잡음을 추가/제거하여 학습에 적절한 데이터의 형태로 가공한다. 학습부는 전처리된 학습 데이터를 이용하여 상기한 동작을 수행하도록 설정된 신경망 네트워크를 생성한다.
학습된 신경망 네트워크는, 복수의 신경망 네트워크 또는 레이어들로 구성된다. 복수의 신경망 네트워크의 노드들은 가중치를 가지며, 복수의 신경망 네트워크들은 일 신경망 네트워크의 출력 값이 다른 신경망 네트워크의 입력 값으로 이용되도록 서로 연결된다. 신경망 네트워크의 예로는, CNN (Convolutional Neural Network), DNN (Deep Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN (Bidirectional Recurrent Deep Neural Network) 및 심층 Q-네트워크 (Deep Q-Networks)과 같은 모델을 포함한다.
한편, 인식부는 상기한 동작을 수행하기 위해, 타겟 데이터를 획득한다. 타겟 데이터는 저장부(18) 또는 서버저장부(33)로부터 획득하거나, 외부로부터 획득한다. 타겟 데이터는 신경망 네트워크의 인식 대상이 되는 데이터일 수 있다. 인식부는 타겟 데이터를 학습된 신경망 네트워크에 적용하기 전에, 획득된 타겟 데이터에 대하여 전처리 작업을 수행하거나, 또는 복수 개의 타겟 데이터들 중에서 인식에 이용될 데이터를 선별한다. 일 예로, 인식부는 타겟 데이터를 기 설정된 포맷으로 가공하거나, 필터링 하거나, 또는 잡음을 추가/제거하여 인식에 적절한 데이터의 형태로 가공한다. 인식부는 전처리된 타겟 데이터를 신경망 네트워크에 적용함으로써, 신경망 네트워크로부터 출력되는 츨력값을 획득한다. 인식부는 출력값과 함께, 확률값 또는 신뢰도값을 획득한다.
도 3은 도 1의 전자장치에 대한 제어방법의 일 예를 도시한다.
도 3를 참조하여 이하에서 설명하는 각 동작은 프로세서(5)가 저장부(18)에 저장된 프로그램을 실행함으로써 수행되지만, 설명의 편의를 위해 프로세서(5)가 수행하는 동작으로 기재한다.
프로세서(5)는 수신되는 제1오디오신호(8)에 기초하여 잡음특성을 식별한다(S31).
프로세서(5)는 오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터(9) 중에서 식별된 잡음특성에 대응하는 잡음특성의 참조데이터(9)에 기초하여, 수신되는 제2오디오신호(7)가 시작명령어(6)에 대응하는지 여부를 식별한다(S32).
프로세서(5)는 시작명령어(6)에 대응하는 것으로 식별되는 제2오디오신호(7) 이후에 마이크(16)를 통해 수신되는 제3오디오신호(10)에 기초하여 사용자 음성 입력에 대응하는 동작을 수행한다(S33).
이와 같이, 프로세서(5)는 잡음특성 별로 마련된 참조데이터(9) 중에서 제1오디오신호(8)의 잡음특성에 기초하여 참조데이터(9)를 선택함으로써, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행할 수 있다. 따라서, 주변의 현재잡음환경에 대한 고려없이 방대한 잡음데이터를 활용하여 시작명령어 인식을 수행하는 경우에 비해, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있다.
도 4는 도 3의 동작 S31과 관련하여, 잡음특성을 식별하는 구체적인 예를 도시한다.
도 1을 참조하여 설명한 바와 같이, 프로세서(5)는 제1오디오신호(8)에 기초하여 식별된 잡음특성에 기초하여 참조데이터(9)를 식별하고, 식별된 참조데이터(9)에 기초하여 제2오디오신호(7)에 대한 시작명령어 인식을 수행한다. 이하에서는 도 4를 참조하여, 제1오디오신호(8)의 시간 구간(d)에 기초하여 잡음특성을 식별하는 과정에 대해 설명한다.
도 4에 도시된 바와 같이, 프로세서(5)는 오디오신호(40)를 수신하는 것으로 가정한다. 프로세서(5)는 오디오신호(40) 중에서 시간 구간(d)에서 수신된 제1오디오신호(8)에 기초하여 잡음특성을 식별한다. 시간 구간(d)은 제2오디오신호(7)의 수신 시점 이전의 미리 정해진 시간 구간(d)을 포함한다. 설계 방법에 따라, 제2오디오신호(7)의 수신 시점은 제2오디오신호(7)의 인식 시점을 포함할 수 있으며, 시간 구간(d)은 제2오디오신호(7)의 수신 시점 또는 인식 시점 이후의 미리 정해진 시간 구간(d)을 포함할 수 있다. 즉, 시간 구간(d)은 제2오디오신호(7)의 수신 시점 또는 인식 시점과의 선후에 무관하게 설정될 수 있으므로, 예컨대, 시간 구간(d)은 제2오디오신호(7)의 수신 시점 또는 인식 시점과 겹칠 수 있다.
오디오신호(40)가 복수의 프레임을 포함하는 경우, 복수의 프레임 중 제2오디오신호(7)의 수신 시점 이전의 시간 구간(d)에 대응하는 적어도 하나의 프레임에 기초하여 현재잡음특성을 식별한다. 프로세서(5)는 오디오신호(40)에 대하여, 시간 구간(d) 및 제2오디오신호(7)에 해당하는 시간 구간을 버퍼링 하면서, 프레임 단위로 처리할 수 있다. 기존 잡음특성이 있는 경우, 기존 잡음특성은 시간 구간(d)에서의 잡음특성에 기초하여 업데이트 될 수 있다.
시간 구간(d)의 길이 또는 주기는 다르게 설정될 수 있다. 일 예로, 시간 구간(d)의 길이를 늘려서, 잡음특성에 대한 식별 정확도를 향상시킬 수 있다. 또는, 시간 구간(d)의 길이를 줄여서, 자원 효율성을 향상시킬 수 있다. 시간 구간(d)은 비주기적으로 설정될 수 있다.
프로세서(5)는 식별된 잡음특성에 기초하여 주변의 현재잡음환경을 식별할 수 있다. 잡음특성은 제1오디오신호(8)에 포함된 잡음의 패턴, 톤, 세기, 빠르기, 주파수, 주기, 진폭 중 적어도 하나에 기초하여 식별된다. 일 예로, 청소기 작동소음을 나타내는 주파수패턴에 기초하여, 현재잡음환경이 청소기 작동환경임을 식별할 수 있다. 또는, 낮은 수준을 나타내는 소음 크기에 기초하여, 현재잡음환경이 낮은 소음환경인 것으로 식별할 수 있다.
전자장치(1)는 제1오디오신호(8)의 잡음특성에 대응하는 잡음특성의 참조데이터(9)를 식별할 수 있다. 일 예로, 제1오디오신호(8)의 잡음특성이 청소기 작동소음을 나타내는 경우, 청소기 작동소음에 대응하는 참조데이터(9)가 식별될 수 있다. 또는, 제1오디오신호(8)의 잡음특성이 낮은 수준을 나타내는 소음 크기인 경우, 낮은 수준의 소음 크기에 대응하는 참조데이터(9)가 식별될 수 있다. 즉, 전자장치(1)는 주변의 현재잡음환경을 반영한 참조데이터(9)를 식별할 수 있다.
이와 같이, 프로세서(5)는 제2오디오신호(7)의 수신 시점 이전의 특정 시간 구간(d)에서 수신된 제1오디오신호(8)에 기초하여 잡음특성을 식별할 수 있으므로, 특정 시간 구간(d)에 대한 고려없이 잡음특성을 식별하는 경우에 비해 잡음특성을 식별함에 있어서의 자원 효율성을 향상시킬 수 있다.
도 5는 도 3의 동작 S31과 관련하여, 시간 구간을 조정하는 구체적인 예를 도시한다.
앞서 도 4를 참조하여 설명한 바와 같이, 프로세서(5)는 제1오디오신호(8)의 잡음특성의 크기에 기초하여 시간 구간(d)을 식별할 수 있다. 이하에서는 도 5를 참조하여 시간 구간(d)을 조정하는 과정에 대해 설명한다.
설명의 편의를 위해 잡음특성의 크기가 주파수크기인 경우를 예로 들면, 제1시간 구간(d1)의 대부분 시간 구간에서 제1오디오신호(8)의 주파수크기가 낮게 식별되다가, 제1시간 구간(d1)의 일부 시간 구간에서 주파수크기가 높게 식별될 수 있다. 이 경우, 프로세서(5)는 높은 주파수크기가 일시적인지 또는 지속적인지를 식별하기 위해, 제1시간 구간(d1)을 늘리거나, 도 5에 도시된 바와 같이, 제1시간 구간(d1) 자체를 제2시간 구간(d2)으로 변경할 수 있다. 제2시간 구간(d2)은 제1시간 구간(d1) 이후로, 예컨대, 제2오디오신호(7)의 시작 시점에 가깝도록 변경될 수 있다. 다만, 이에 한정되는 것은 아니므로, 제2시간 구간(d2)은 다양한 시간 구간으로 변경될 수 있다.
만일, 변경된 제2시간 구간(d2)에서도 높은 주파수크기가 지속적으로 식별되면, 제2시간 구간(d2)에서의 주파수크기가 높은 것으로 식별될 수 있다. 반면에, 일시적이라면, 주파수크기가 낮은 것으로 식별될 수 있다. 다만, 시간 구간(d)은 잡음특성의 크기에 기초하여 조정되는 것에 한정되지 아니므로, 다양한 상황에 따라 조정될 수 있다.
이와 같이, 프로세서(5)는 제1오디오신호(8)의 잡음특성의 크기에 따라 시간 구간(d)을 조정하고, 조정된 시간 구간(d)에 기초하여 잡음특성을 식별할 수 있으므로, 제1오디오신호(8)의 잡음특성에 대한 식별 정확도를 향상시킬 수 있다.
도 6은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 어느 하나를 선택하는 구체적인 예를 도시한다.
이하에서는, 도 6에 도시된 바와 같이, 제1참조데이터(63) 및 제2참조데이터(64)가 마련된 경우를 가정하여, 제1오디오신호(8)의 잡음특성에 기초하여 어느 하나의 참조데이터가 선택되는 경우에 대해 설명한다. 다만, 참조데이터(9)의 개수를 한정한 것은 아니므로, 다양한 개수의 참조데이터(9)가 마련될 수 있다.
제1참조데이터(63) 및 제2참조데이터(64)는, 서로 다른 잡음특성에 기초하여 마련된다. 일 예로, 제1참조데이터(63)는 낮은 수준의 소음 크기에 대응하도록 마련될 수 있으며, 제2참조데이터(64)는 높은 수준의 소음 크기에 대응하도록 마련될 수 있다.
프로세서(5)는 제2오디오신호(7)에 대한 시작명령어 인식을 위해 제2오디오신호(7)의 수신 시점 이전의 시간 구간(d)에서 수신된 제1오디오신호(8)에 기초하여 잡음특성을 식별하고, 식별된 잡음특성에 대응하는 잡음특성의 참조데이터(9)를 선택할 수 있다. 일 예로, 제1시간 구간(d1)에서 수신된 제1오디오신호(61)의 프레임에 기초하여 제1잡음특성이 낮은 수준의 소음 크기인 것으로 식별된 경우, 프로세서(5)는 낮은 수준의 소음 크기에 대응하도록 마련된 제1참조데이터(63)를 식별하고, 제2오디오신호(7)에 대한 시작명령어 인식을 위한 참조데이터로서 제1참조데이터(63)를 선택할 수 있다.
제1시간 구간(d1)에서 수신된 제1오디오신호(61)에 기초하여 제1잡음특성과 다른 제2잡음특성이 식별된 경우를 가정한다. 일 예로, 제1시간 구간(d1)에서 수신된 제1오디오신호(61)의 프레임에 기초하여 제1잡음특성이 높은 수준의 소음 크기인 것으로 식별된 경우, 프로세서(5)는 높은 수준의 소음 크기에 대응하도록 마련된 제2참조데이터(64)를 식별하고, 제2오디오신호(7)에 대한 시작명령어 인식을 위한 참조데이터로서 제2참조데이터(64)를 선택할 수 있다.
한편, 도 5를 참조하여 설명한 바와 같이, 제1시간 구간(d1)과 다른 제2시간 구간(d2)에서 수신된 제1오디오신호(62)의 프레임에 기초하여 제1잡음특성 또는 제2잡음특성이 식별될 수 있으며, 이 경우, 앞서 설명한 바와 마찬가지로, 각각의 잡음특성에 대응하는 잡음특성의 제1참조데이터(63) 또는 제2참조데이터(64)가 선택될 수 있다.
이와 같이, 프로세서(5)는 잡음특성 별로 마련된 복수의 참조데이터(9) 중에서, 제1오디오신호(62)의 프레임에 대한 잡음특성에 기초하여 선택된 참조데이터(9)에 따라 시작명령어 인식을 수행할 수 있다. 따라서, 단일한 참조데이터를 마련한 경우 대비 현재잡음환경에 최적화된 참조데이터(9)를 식별할 수 있으므로, 참조오디오에 기초한 시작명령어 인식에 있어서, 자원 효율성, 인식 신속성 및 인식 정확도를 더욱 향상시킬 수 있다.
도 7은 도 3의 동작 S32와 관련하여, 참조데이터에 가중치를 부여하거나, 가중치를 조정하는 구체적인 예를 도시한다.
프로세서(5)는 잡음특성 별로 마련된 참조데이터(9)에 대하여 가중치를 부여할 수 있다. 프로세서(5)는 시작명령어 인식을 위해 참조데이터(9)를 선택함에 있어서 가중치가 높은 참조데이터(9)를 선택할 수 있다. 일 예로, 도 7에 도시된 바와 같이, 제1참조데이터(63)보다 제2참조데이터(64)의 가중치가 높은 경우, 제2참조데이터(64)가 선택될 수 있다.
가중치는 제1참조데이터(63) 및 제2참조데이터(64) 각각의 잡음특성 중에서 제2시간 구간(d2)에서의 잡음특성에 대응하는 잡음특성의 참조데이터에 더 높게 부여될 수 있다. 좀더 구체적인 설명을 위해, 제1참조데이터(63)는 제1시간 구간(d1)에서의 제1잡음특성에 대응하는 잡음특성을 갖고, 제2참조데이터(64)는 제2시간 구간(d2)에서의 제2잡음특성에 대응하는 잡음특성을 갖는 것으로 가정한다. 또한, 제1참조데이터(63)의 초기 가중치는 0.6이고, 제2참조데이터(64)의 초기 가중치는 0.4인 것으로 가정한다. 다만, 초기 가중치는 설명의 편의를 위한 것이므로, 설계 방법에 따라 다양하게 설정될 수 있다.
제2시간 구간(d2)이 제1시간 구간(d1)보다 제2오디오신호(7)의 수신 시점에 근접하므로, 제2시간 구간(d2)에서의 제2잡음특성에 대응하는 잡음특성을 갖는 제2참조데이터(64)에 더 높은 가중치가 부여될 수 있다. 일 예로, 가중치 증감량이 0.4로 설정된 경우, 제2참조데이터(64)의 가중치는 초기 0.4에서 0.8가 되고, 제1참조데이터(63)의 가중치는 초기 0.6에서 0.2가 될 수 있다. 가중치는 가중치의 총합이 1이 되도록 조정될 수 있으나, 이에 한정되는 것은 아니다.
가중치 증감량은 시간 구간(d)이 제2오디오신호(7)의 시작 구간에 근접한 정도에 따라 다를 수 있다. 일 예로, 제2시간 구간(d2)이 제2오디오신호(7)의 시작 구간에 좀더 근접하면, 가중치 증감량이 0.5로 설정될 수 있다. 따라서, 제2시간 구간(d2)에서의 제2잡음특성에 대응하는 잡음특성을 갖는 제2참조데이터(64)의 가중치는 초기 0.4에서 0.9가 될 수 있다. 다만, 가중치 증감량은 제2시간 구간(d2)이 제2오디오신호(7)의 시작 구간에 근접한 정도에 비례하여 설정될 수 있으나, 이에 한정되는 것은 아니므로, 설계 방법에 따라 다양하게 설정될 수 있다.
이와 같이, 프로세서(5)는 제1오디오신호의 시간 구간(d1, d2) 및 제2오디오신호(7)의 수신 시점 구간 간의 관계에 기초하여 더 높은 가중치가 부여된 참조데이터(9)를 선택할 수 있다. 더 높은 가중치가 부여된 참조데이터(9)를 선택한다는 것은, 현재잡음환경에 부합하는 참조데이터(9)를 선택한다는 것이므로, 프로세서(5)는 시작 명령어 인식에 있어서, 현재잡음환경에 보다 적응적인 참조데이터(9)를 활용할 수 있다.
도 8은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 유사도 및 가중치에 기초하여 참조데이터를 선택하기 위한 제어방법의 구체적인 예를 도시한다.
프로세서(5)는 제1오디오신호(8)에 기초하여 잡음특성을 식별하고(S81), 식별된 잡음특성에 기초하여 참조데이터(9) 별로 가중치를 부여한다(S82). 앞서 도 6 및 7을 참조하여 설명한 바와 같이, 프로세서(5)는 가중치를 부여함에 있어서, 제1오디오신호(8)의 수신 구간(d) 및 제2오디오신호(7)의 수신 시점 간의 근접 여부를 고려할 수 있다.
프로세서(5)는 제2오디오신호(7)의 주파수특성을 식별하고(S83), 제2오디오신호(7)와 주파수특성의 유사도가 제1기설정값 이상인 참조데이터(9)가 2개 이상 존재하는지를 식별한다(S84).
동작 S84와 관련하여, 제2오디오신호(7)와 주파수특성의 유사도가 제1기설정값 이상인 참조데이터(9)가 2개 이상 존재하면, 프로세서(5)는 2개 이상의 참조데이터(9) 중에서 유사도가 가장 높은 참조데이터(9)가 가중치도 가장 높은지를 식별한다(S85).
동작 S85와 관련하여, 유사도가 가장 높은 참조데이터(9)의 가중치도 가장 높으면, 프로세서(5)는 유사도 및 가중치가 가장 높은 참조데이터(9)를 선택한다(S88).
반면에, 동작 S85와 관련하여, 유사도가 가장 높은 참조데이터(9)의 가중치도 가장 높지 않으면, 프로세서(5)는 해당 참조데이터(9)의 유사도가 제2기설정값 이상인지를 식별한다(S87). 제2기설정값은 제1기설정값보다 높게 설정될 수 있다.
동작 S87과 관련하여, 해당 참조데이터(9)의 유사도가 제2기설정값 이상이면, 프로세서(5)는 해당 참조데이터(9)를 선택한다(S90).
반면에, 동작 S87과 관련하여, 해당 참조데이터(9)의 유사도가 제2기설정값 미만이면, 프로세서(5)는 어떠한 참조데이터(9)도 선택하지 않는다(S89).
한편, 동작 S84와 관련하여, 제2오디오신호(7)와 주파수특성의 유사도가 제1기설정값 이상인 참조데이터(9)가 2개 이상 존재하지 않으면, 프로세서(5)는 해당 참조데이터(9)의 가중치가 가장 높은지를 식별한다(S86).
동작 S86과 관련하여, 해당 참조데이터(9)의 가중치가 가장 높으면, 앞서 설명한 동작 S90과 같이, 해당 참조데이터(9)를 선택한다.
반면에, S86과 관련하여, 해당 참조데이터(9)의 가중치가 가장 높지 않으면, 앞서 설명한 동작 S87과 같이, 프로세서(5)는 해당 참조데이터(9)의 유사도가 제2기설정값 이상인지에 따라(S87), 해당 참조데이터(9)를 선택하거나(S90), 어떠한 참조데이터(9)도 선택하지 않는다(S89).
이와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수특성의 유사도 및 잡음특성에 기초하여 부여된 가중치를 고려하여 참조데이터(9)를 선택할 수 있으므로, 시작명령어(6)에 대한 인식 정확도를 더욱 향상시킬 수 있다. 도 9은 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 동일한 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
도 8을 참조하여 설명한 바와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수특성에 대한 유사도 판단을 수행한다. 이하에서는, 설명의 편의를 위해 주파수특성이 주파수패턴인 경우를 가정하여, 주파수패턴의 유사도 판단에 기초하여 참조데이터(9)를 식별하는 과정에 대해 설명한다.
참조데이터(9)는 주파수패턴 별로 마련될 수 있다. 도 9에 도시된 바와 같이, 제1참조데이터(63)는 제1주파수패턴(81)에 대응하도록 마련되고, 제2참조데이터(64)는 제1주파수패턴(81)과 다른 제2주파수패턴(82)에 대응하도록 마련될 수 있다. 다만, 주파수패턴은 설명의 편의를 위한 것이므로, 설계 방법에 따라 다양하게 마련될 수 있다.
프로세서(5)는 제2오디오신호(7)의 주파수패턴(80)과 유사도가 제1기설정값 이상인 참조데이터(9)의 잡음특성을 제1잡음특성으로 식별할 수 있다. 일 예로, 제2오디오신호(7)의 주파수패턴(80)이 도 9에 도시된 바와 같은 경우, 프로세서(5)는 제2오디오신호(7)의 주파수패턴(80) 및 제2참조데이터(64)의 제2주파수패턴(82) 간의 유사도가 제1기설정값 이상인 것으로 식별할 수 있다. 따라서, 프로세서(5)는 제2참조데이터(64)의 잡음특성을 제1잡음특성으로 식별할 수 있다.
한편, 앞서 도 7을 참조하여, 프로세서(5)는 제1오디오신호(8)의 시간 구간(d1, d2) 및 제2오디오신호(7)의 인식 구간 간의 관계에 기초하여 참조데이터(9)에 높은 가중치를 부여할 수 있다고 설명한 바 있다. 설명의 편의를 위해 제1참조데이터(63)에 부여된 가중치가 0.2이고, 제2참조데이터(64)에 부여된 가중치가 0.8인 것으로 가정하면, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제2참조데이터(64)의 잡음특성이 일치하므로, 프로세서(5)는 제1잡음특성으로 식별된 잡음특성의 제2참조데이터(64)를 시작명령어 인식을 위한 참조데이터(9)로 식별할 수 있다.
다만, 주파수패턴의 유사도 및 가중치에 기초한 참조데이터(9)의 식별은 설계 방법에 따라 달라질 수 있다. 일 예로, 제1참조데이터(63)의 제1주파수패턴(81) 및 제2참조데이터(64)의 제2주파수패턴(82)이 제2오디오신호(7)의 주파수패턴(80)과의 유사도가 제1기설정값 미만인 경우, 어떠한 참조데이터(9)도 선택되지 않을 수 있다.
이와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수패턴의 유사도 및 잡음특성에 기초하여 부여된 가중치를 고려하여 참조데이터(9)를 식별할 수 있으므로, 시작명령어(6)에 대한 인식 정확도를 더욱 향상시킬 수 있다.
도 10은 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 다른 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
앞서 도 9를 참조하여, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제2참조데이터(64)의 잡음특성이 일치하여, 프로세서(5)는 제1잡음특성으로 식별된 잡음특성의 제2참조데이터(64)를 시작명령어 인식을 위한 참조데이터로 식별하는 과정에 대해 설명한 바 있다.
다만, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제2참조데이터(64)의 잡음특성이 일치하는 않는 경우가 있을 수 있으므로, 이하에서는, 이러한 상황에서 시작명령어 인식을 위한 참조데이터로 식별하는 과정에 대해 설명한다.
도 7에서 설명한 바와 같이, 제2오디오신호(7)의 주파수패턴(80) 및 제2참조데이터(64)의 제2주파수패턴(82) 간의 유사도가 제1기설정값 이상인 것으로 식별되어, 제2참조데이터(64)의 잡음특성이 제1잡음특성으로 식별된 것으로 가정한다. 반면에, 도 7에서 설명한 바와 달리, 제1참조데이터(63)에 부여된 가중치가 0.8이고, 제2참조데이터(64)에 부여된 가중치가 0.2인 것으로 가정한다.
이와 같이, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제1참조데이터(63)의 잡음특성이 일치하지 않는 경우, 프로세서(5)는 제2오디오신호(7)의 주파수패턴(80)과 유사도가 제2기설정값 이상인 참조데이터(9)의 제2잡음특성을 식별한다. 제2기설정값은 제1기설정값보다 높은 값을 갖는다. 만일, 제2오디오신호(7)의 주파수패턴(80) 및 제2참조데이터(64)의 주파수패턴(82) 간의 유사도가 제2기설정값 이상이면, 프로세서(5)는 제2참조데이터(64)의 잡음특성을 제2잡음특성으로 식별하고, 제2잡음특성의 제2참조데이터(64)를, 시작명령어 인식을 위한 참조데이터로 활용할 수 있다.
다만, 주파수패턴의 유사도 및 가중치에 기초한 참조데이터(9)의 식별은 설계 방법에 따라 달라질 수 있다. 일 예로, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제1참조데이터(63)의 잡음특성이 일치하지 않는 경우라도, 프로세서(5)는 높은 가중치가 부여된 제1참조데이터(63)의 잡음특성을 제2잡음특성으로 식별하고, 제2잡음특성의 제1참조데이터(63)를, 시작명령어 인식을 위한 참조데이터로 활용할 수 있다.
이와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수패턴의 유사도 및 현재잡음특성에 기초하여 부여된 가중치를 고려하여 참조데이터(9)를 식별할 수 있으므로, 시작명령어(6)에 대한 인식 정확도를 더욱 향상시킬 수 있다.
도 11은 잡음특성을 나타내는 사용자인터페이스에 관한 구체적인 예를 도시한다.
도 11에 도시된 바와 같이, 프로세서(5)는 잡음특성을 나타내는 사용자인터페이스(User Interface, UI, 110)를 표시할 수 있다. UI(110)는 제2오디오신호(7)의 수신 시점 또는 인식 시점에 대응하여 표시될 수 있다. 일 예로, 제2오디오신호(7)가 마이크(16)를 통해 수신되거나 인식되면, UI(110)가 표시될 수 있다.
또는, UI(110)는 사용자(2)에 대응하여 표시될 수 있다. 일 예로, 사용자(2)가 전자장치(1)로 접근하는 경우, 프로세서(5)는 음성인식기능을 활성화하기 위한 오디오(3)를 발화하기 위해 사용자(2)가 전자장치(1)로 접근하는 것으로 간주하고, UI(110)를 표시할 수 있다.
사용자(2)의 식별, 사용자(2)의 접근 여부 식별은 센서부(15)에 의해 획득된 정보에 기초하여 식별될 수 있다. 일 예로, 프로세서(5)는 전자장치(1)의 전방을 캡처하도록 센서부(15)를 제어하고, 센서부(15)에 의해 캡처된 이미지에 기초하여 사용자(2)를 식별하거나, 사용자(2)의 접근 여부를 식별할 수 있다.
잡음특성에 대응하는 UI(110)는 서로 구별되도록 표시된다. 일 예로, 잡음특성이 낮은 소음인 경우, 동그란 아이콘(111)이 표시될 수 있다. 반면에, 잡음특성이 높은 소음인 경우, 세모 아이콘(112)이 표시될 수 있다. 높은 소음의 경우, 좀더 세분화하여, 소음의 세기가 더 큰 경우, 네모 아이콘(113)이 표시될 수 있다. 잡음특성이 연속적으로 변하는 경우, UI(110)도 연속적으로 변하여 표시될 수 있다. 다만, 이에 한정되는 것은 아니므로, 잡음특성에 따른 UI(110)의 종류, 형태, 색상, 크기 등은 설계 방법에 따라 다양하게 설정될 수 있다.
만일, UI(110)를 통해 잡음특성이 낮은 소음인 것으로 표시되면, 사용자(2)는 주변의 현재잡음환경이 조용한 것으로 식별할 수 있다. 이 경우, 사용자(2)는 음성인식기능을 활성화하기 위한 오디오(3)를 작은 목소리로 발화할 수 있다. 반면에, 잡음특성이 높은 소음인 것으로 표시되면, 사용자(2)는 주변의 현재잡음환경이 소란한 것으로 식별하고, 음성인식기능을 활성화하기 위한 오디오(3)를 큰 목소리로 발화할 수 있다. 또는, 주변의 현재잡음환경을 소란하게 하는 원인이 되는 음원을 제거할 수 있다.
이와 같이, 프로세서(5)는 잡음특성을 나타내는 UI(110)를 표시할 수 있으므로, 사용자(2)로 하여금 현재잡음환경에 적응적으로 오디오(3)를 발화하도록 하거나, 오디오(3)의 발화에 적합한 현재잡음환경을 조성하도록 유도할 수 있다.
도 12는 도 11의 사용자인터페이스가 잡음특성 별로 색상을 달리하여 표시되는 구체적인 예를 도시한다.
앞서 도 11을 참조하여 설명한 바와 같이, 프로세서(5)는 잡음특성을 나타내는 UI(110)를 표시할 수 있으며 도 12에 도시된 바와 같이, 잡음특성에 따라 색상을 달리하는 UI(120)를 표시할 수 있다. 일 예로, 잡음특성이 낮은 소음인 경우, 흰색의 동그란 아이콘(121)이 표시될 수 있다. 반면에, 잡음특성이 높은 소음인 경우, 회색 동그란 아이콘(122)이 표시될 수 있으며, 소음의 세기가 더 큰 경우, 검은색 동그란 아이콘(123)이 표시될 수 있다.
UI(120)를 통해 잡음특성이 낮은 소음인 것으로 표시되면, 사용자(2)는 주변의 현재잡음환경이 조용한 것으로 식별하고, 음성인식기능을 활성화하기 위한 오디오(3)를 작은 목소리로 발화할 수 있으며, 반면에, 잡음특성이 높은 소음인 것으로 표시되면, 주변의 현재잡음환경이 소란한 것으로 식별하고, 음성인식기능을 활성화하기 위한 오디오(3)를 큰 목소리로 발화할 수 있다. 또는, 주변의 현재잡음환경을 소란하게 하는 원인이 되는 음원을 제거할 수 있다.
이와 같이, 프로세서(5)는 잡음특성 별로 색상을 달리하는 UI(120)를 표시할 수 있으므로, 사용자(2)로 하여금 현재잡음환경을 직관적으로 인식하도록 함으로써, 현재잡음환경에 적응적으로 오디오(3)를 발화하도록 하거나, 오디오(3)의 발화에 적합한 현재잡음환경을 조성하도록 유도할 수 있다.
도 13은 도 11의 사용자인터페이스가 사용자입력에 따라 설정되는 구체적인 예를 도시한다.
프로세서(5)는 도 11을 참조하여 설명한 UI(100)를 사용자입력에 따라 설정할 수 있다. 이를 위해 프로세서(5)는 설정UI를 표시할 수 있다. 일 예로, 프로세서(5)는 낮은 소음, 높은 소음 등과 같이 다양한 종류의 잡음특성을 나타내는 제1UI(101) 및 다양한 형태의 서로 다른 아이콘을 나타내는 제2UI(102)로 구성되는 설정UI를 표시할 수 있다.
설명의 편의를 위해 사용자(2)가 낮은 소음에 네모 아이콘을 대응시킨 경우를 가정한다. 프로세서(5)는 잡음특성이 낮은 소음인 것으로 식별되면, UI(100)를 통해 네모 아이콘을 표시할 수 있다. 반면에, 사용자(2)가 높은 소음에 동그란 아이콘을 대응시킨 경우라면, 프로세서(5)는 잡음특성이 높은 소음인 것으로 식별되면, UI(100)를 통해 동그란 아이콘을 표시할 수 있다.
또는, 프로세서(5)는 도 12를 참조하여 설명한 UI(110)를 사용자입력에 따라 설정할 수 있다. 일 예로, 사용자(2)가 낮은 소음에 흰색 동그란 아이콘을 대응시킨 경우, 프로세서(5)는 잡음특성이 낮은 소음인 것으로 식별되면, UI(120)를 통해 흰색 동그란 아이콘을 표시할 수 있다.
또는, 프로세서(5)는 사용자입력에 따라 도 11의 UI(100) 또는 도 12의 UI(120)의 표시 여부를 설정할 수 있다. 일 예로, 프로세서(5)는 표시 여부를 설정할 수 있는 UI를 표시하고, 사용자입력에 따라 표시 여부가 허용된 경우에 한하여, 식별된 잡음특성에 따라 도 11의 UI(100) 또는 도 12의 UI(120)를 표시할 수 있다.
이와 같이, 프로세서(5)는 설정UI를 통해 사용자입력에 따라 현재잡음특성을 나타내는 UI(100)를 임의적으로 설정할 수 있도록 함으로써, 사용자 기호에 맞는 UI(100)를 표시하도록 할 수 있다. 따라서, 사용자 편의성을 더욱 향상시킬 수 있다.
본 문서에 개시된 다양한 실시예들은 전자장치(1)와 같은 기기(Machine)가 읽을 수 있는 저장 매체(Storage Medium)에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어로서 구현된다. 일 예로, 전자장치(1)의 프로세서(5)는 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행한다. 이것은 전자장치(1)와 같은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함한다. 기기로 읽을 수 있는 저장매체는, 비일시적(Non-transitory) 저장매체의 형태로 제공된다. 여기서, ‘비일시적 저장매체'는 실재(tangible)하는 장치이고, 신호(예컨대, 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 일 예로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함한다.
일 예로, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(Computer Program Product)에 포함되어 제공된다. 본 개시에 의한 컴퓨터 프로그램 제품은, 앞서 언급된 바와 같은, 프로세서에 의해 실행되는 소프트웨어의 명령어들을 포함한다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래된다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예컨대, CD-ROM)의 형태로 배포되거나, 또는 어플리케이션 스토어(예컨대, 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예컨대, 스마트폰들) 간에 직접, 온라인으로 배포(예컨대, 다운로드 또는 업로드)된다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품(예: 다운로더블 앱(downloadable app))의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성된다.
이상, 바람직한 실시예를 통하여 본 발명에 관하여 상세히 설명하였으나, 본 발명은 이에 한정되는 것은 아니며 특허청구범위 내에서 다양하게 실시된다.
1: 전자장치
2: 사용자
3: 오디오
4: 리모트 컨트롤러
5: 프로세서
11: 인터페이스부
12: 통신부
13: 사용자입력부
14: 디스플레이
15: 센서부
16: 마이크
17: 스피커
18: 저장부
30: 서버
31: 서버인터페이스부
32; 서버통신부
33; 서버저장부
35: 서버프로세서

Claims (19)

  1. 전자장치에 있어서,
    마이크를 통해 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하고,
    오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 기초하여, 상기 마이크를 통해 수신되는 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하고,
    상기 시작명령어에 대응하는 것으로 식별되는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는
    프로세서를 포함하는 전자장치.
  2. 제1항에 있어서,
    상기 프로세서는, 상기 제2오디오신호의 수신 시점 이전의 미리 정해진 시간 구간에서 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별하는 전자장치.
  3. 제1항에 있어서,
    상기 프로세서는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정하는 전자장치.
  4. 제1항에 있어서,
    상기 프로세서는, 상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 상기 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 전자장치.
  5. 제4항에 있어서,
    상기 프로세서는, 상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 높은 가중치를 부여하는 전자장치.
  6. 제5항에 있어서,
    상기 프로세서는,
    상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 제1기설정값 이상인 참조데이터의 제1잡음특성을 식별하고,
    상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하면, 상기 제1잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 전자장치.
  7. 제6항에 있어서,
    상기 프로세서는, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하지 않으면, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 상기 제1기설정값보다 높은 제2기설정값 이상인 제2잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 전자장치.
  8. 제1항에 있어서,
    상기 프로세서는, 상기 식별된 잡음특성을 나타내는 사용자인터페이스를 제공하도록 제어하는 전자장치.
  9. 제8항에 있어서,
    상기 프로세서는, 상기 식별된 잡음특성의 세기 또는 종류에 따라 서로 구별되는 상기 사용자인터페이스를 제공하도록 제어하는 전자장치.
  10. 전자장치의 제어방법에 있어서,
    수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계;
    오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 기초하여, 수신되는 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계; 및
    상기 시작명령어에 대응하는 것으로 식별되는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 전자장치의 제어방법.
  11. 제10항에 있어서,
    상기 잡음특성을 식별하는 단계는, 상기 제2오디오신호의 수신 시점 이전의 미리 정해진 시간 구간에서 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별하는 단계를 포함하는 전자장치의 제어방법.
  12. 제10항에 있어서,
    상기 잡음특성을 식별하는 단계는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정하는 단계를 포함하는 전자장치의 제어방법.
  13. 제10항에 있어서,
    상기 시작명령어에 대응하는지 여부를 식별하는 단계는, 상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 상기 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계를 포함하는 전자장치의 제어방법.
  14. 제13항에 있어서,
    상기 시작명령어에 대응하는지 여부를 식별하는 단계는, 상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 높은 가중치를 부여하는 단계를 포함하는 전자장치의 제어방법.
  15. 제14항에 있어서,
    상기 시작명령어에 대응하는지 여부를 식별하는 단계는,
    상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 제1기설정값 이상인 참조데이터의 제1잡음특성을 식별하는 단계; 및
    상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하면, 상기 제1잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계를 포함하는 전자장치의 제어방법.
  16. 제15항에 있어서,
    상기 제1잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계는, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하지 않으면, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 상기 제1기설정값보다 높은 제2기설정값 이상인 제2잡음특성의 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계를 포함하는 전자장치의 제어방법.
  17. 제10항에 있어서,
    상기 식별된 잡음특성을 나타내는 사용자인터페이스를 제공하는 단계를 포함하는 전자장치의 제어방법.
  18. 제17항에 있어서,
    상기 식별된 잡음특성의 세기 또는 종류에 따라 서로 구별되는 상기 사용자인터페이스를 제공하는 단계를 포함하는 전자장치의 제어방법.
  19. 컴퓨터가 읽을 수 있는 코드로서, 전자장치의 제어방법을 수행하는 코드를 포함하는 컴퓨터 프로그램이 저장된 기록매체에 있어서, 상기 전자장치의 제어방법은,
    수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계;
    오디오신호와, 시작명령어 간의 유사성 인식에 대응한 복수의 잡음특성 별 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성의 참조데이터에 기초하여, 수신되는 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 단계; 및
    상기 시작명령어에 대응하는 것으로 식별되는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 것을 특징으로 하는 컴퓨터가 읽을 수 있는 프로그램이 기록된 기록매체.
KR1020200158904A 2020-11-24 2020-11-24 전자장치 및 그 제어방법 KR20220071591A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020200158904A KR20220071591A (ko) 2020-11-24 2020-11-24 전자장치 및 그 제어방법
PCT/KR2021/014693 WO2022114532A1 (ko) 2020-11-24 2021-10-20 전자장치 및 그 제어방법
US17/566,347 US20220165298A1 (en) 2020-11-24 2021-12-30 Electronic apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200158904A KR20220071591A (ko) 2020-11-24 2020-11-24 전자장치 및 그 제어방법

Publications (1)

Publication Number Publication Date
KR20220071591A true KR20220071591A (ko) 2022-05-31

Family

ID=81754786

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200158904A KR20220071591A (ko) 2020-11-24 2020-11-24 전자장치 및 그 제어방법

Country Status (2)

Country Link
KR (1) KR20220071591A (ko)
WO (1) WO2022114532A1 (ko)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102623272B1 (ko) * 2016-10-12 2024-01-11 삼성전자주식회사 전자 장치 및 이의 제어 방법
US10607601B2 (en) * 2017-05-11 2020-03-31 International Business Machines Corporation Speech recognition by selecting and refining hot words
KR20180127100A (ko) * 2017-05-19 2018-11-28 엘지전자 주식회사 홈 어플라이언스 및 음성 인식 서버 시스템의 동작 방법
KR101986354B1 (ko) * 2017-05-19 2019-09-30 네이버 주식회사 키워드 오인식을 방지하는 음성 제어 장치 및 이의 동작 방법
KR102372327B1 (ko) * 2017-08-09 2022-03-08 에스케이텔레콤 주식회사 음성 인식 방법 및 이에 사용되는 장치

Also Published As

Publication number Publication date
WO2022114532A1 (ko) 2022-06-02

Similar Documents

Publication Publication Date Title
KR20200043128A (ko) 전자장치 및 그 제어방법
US11942089B2 (en) Electronic apparatus for recognizing voice and method of controlling the same
KR20210053722A (ko) 전자장치 및 그 제어방법
KR20220071591A (ko) 전자장치 및 그 제어방법
KR20220033325A (ko) 음성 인식을 위한 전자장치 및 그 제어방법
KR20220065370A (ko) 전자장치 및 그 제어방법
KR20210029354A (ko) 전자장치 및 그 제어방법
KR20220015306A (ko) 전자장치 및 그 제어방법
US20220165298A1 (en) Electronic apparatus and control method thereof
KR20220164222A (ko) 전자장치 및 그 제어방법
WO2021112391A1 (ko) 전자장치 및 그 제어방법
KR20210155505A (ko) 이동 가능한 전자장치 및 그 제어방법
KR20210054246A (ko) 전자장치 및 그 제어방법
KR20210100368A (ko) 전자장치 및 그 제어방법
US20230237631A1 (en) Electronic device and control method thereof
US20220139413A1 (en) Electronic apparatus and method of controlling the same
US20210365232A1 (en) Electronic apparatus and control method thereof
KR20210042442A (ko) 전자장치 및 그 제어방법
US20230319339A1 (en) Electronic device and control method thereof
KR20220057989A (ko) 전자장치 및 그 제어방법
US20220353362A1 (en) Electronic device and control method therefor
US20230164856A1 (en) Electronic device and control method therefor
US20220165263A1 (en) Electronic apparatus and method of controlling the same
US11600275B2 (en) Electronic device and control method thereof
KR20220012746A (ko) 전자장치 및 그 제어방법