KR102093822B1 - 음원 분리 장치 - Google Patents

Abstract

음원 분리 장치가 개시된다. 개시된 음원 분리 장치는 하우징과, 하우징에 마련되는 마이크로폰들과, 마이크로폰들에 인접하여 상기 하우징에 마련되며 마이크로폰들에 음향을 가이드하며 음원의 방향에 따라 상기 마이크로폰들에 각각 도달하는 복수의 음향 정보들에 차이를 발생시키는 음향가이드들 및 마이크로폰들에서 입력된 복수의 음향 정보들에 기초하여 음원의 방향을 분리하는 프로세서를 포함한다.

Description

음원 분리 장치{Apparatus and method for separating sound sources}

본 개시는 음원 분리 장치에 관한 것이다.

전자 기술의 발달에 힘입어 다양한 유형의 사용자 단말 장치들이 개발 및 보급되고 있다. 최근에는 사용자 단말 장치의 크기도 최소화되면서 그 기능은 더욱 다양해져, 그 수요가 점점 더 늘어나고 있다.

사용자 단말 장치는 사용자의 요청에 따라 멀티미디어 컨텐츠나, 어플리케이션 화면 등과 같이 다양한 컨텐츠를 제공할 수 있다. 사용자는 사용자 단말 장치에 구비된 버튼이나 터치 스크린과 같은 사용자 인터페이스를 이용하여, 자신이 사용하고자 하는 기능을 선택할 수 있다.

음성 인식 기술의 발달로 말미암아 이러한 사용자 인터페이스로서 마이크가 구비되어, 사용자 단말 장치는 사용자의 음성에 따라 선택적으로 프로그램을 실행시킬 수 있다. 이러한 마이크를 통한 음성 인식을 위해서는 사용자의 음원을 주변 음원으로부터 분리하는 기술이 요구된다.

음원 분리란 혼합된 음향신호로부터 하나 이상의 혼합 전 음향신호를 분리해내는 것이다. 1990년대 초부터 블라인드(blind) 신호분리, 특히 독립성분 분석기술에 관한 연구가 시작되었고, 방위각 추정, ICA, NMF, 특징점 추출 등 여러 방법들이 사용되어 왔으며, 최근에는 딥 러닝(deep learning)의 발전으로 인해 뉴럴 네트워크(neural network)를 이용한 음원 분리 방법들이 제안되고 있다.

음성 인식 기술은 노이즈가 증가하면 정확도가 일관되게 떨어지는 바, 의미가 있는 음성과 노이즈를 구분 가능하게 음원 분리 장치를 제공하자고 한다.

혼합된 음향을 구성하는 각각의 음향에 대하여 음향 발생 지점의 위치를 파악할 수 있는 음원 분리 장치를 제공하고자 한다.

음성뿐만 아니라 원하는 음향을 다른 음향으로부터 구분 가능하게 하는 음원 분리 장치를 제공하고자 한다.

좀 더 사용자 환경이 개선된 음성 기반의 사용자 인터페이스를 갖는 음원 분리 장치를 제공하고자 한다.

본 발명의 한 측면에 따르는 음원 분리 장치는 하우징; 상기 하우징에 마련되는 마이크로폰들; 상기 마이크로폰들에 인접하여 상기 하우징에 마련되며, 상기 마이크로폰들에 음향을 가이드하며 음원의 방향에 따라 상기 마이크로폰들에 각각 도달하는 복수의 음향 정보들에 차이를 발생시키는 음향가이드들; 및 상기 마이크로폰들에서 입력된 복수의 음향 정보들에 기초하여 음원을 방향에 따라 분리하는 프로세서;를 포함한다.

상기 하우징은 몸체와 상기 몸체의 상부에 위치하는 머리 부분을 포함하며, 상기 마이크로폰들은 상기 머리 부분의 양측에 배치되는 제1 및 제2 마이크로폰을 포함하며, 상기 음향가이드들은 상기 제1 및 제2 마이크로폰 각각의 인접한 위치에서 상기 머리 부분의 외부로 돌출되어 형상을 지닌 제1 및 제2 음향가이드를 포함한다.

상기 음향가이드들은 변형 가능한 구조를 가지거나 상기 머리 부분에 움직임 가능하게 결합되어 있으며, 음원 분리 장치는 상기 프로세서에서의 음원 분리에 반응하여 상기 제1 및 제2 음향가이드를 움직이게 하는 음향가이드 구동부를 더 포함할 수 있다.

상기 머리 부분은 상기 몸체에 대해 움직임 가능하게 결합되어 있으며, 음원 분리 장치는 상기 몸체와 상기 머리 부분 중 적어도 어느 한쪽에 상기 머리 부분을 움직이게 하는 머리 구동부를 더 포함할 수 있다.

상기 프로세서가 음원을 방향에 따라 분리함에 있어서, 분리된 결과에 대한 확률적인 확실성이 기 설정된 기준값에 미치지 못할 경우에 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직여 상기 프로세서가 음원을 방향에 따라 분리함에 있어서 필요한 기초 데이터를 증가시킬 수 있다.

상기 프로세서가 음원을 방향에 따라 분리함에 있어서, 이미 학습된 화자(話者)의 목소리를 분리했을 경우에 상기 화자의 방향으로 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직일 수 있다.

상기 프로세서가 음원을 방향에 따라 분리함에 있어서, 복수의 이미 학습된 화자의 목소리를 분리했을 경우에 이미 설정된 순위 결정 방법에 따라 순서대로 상기 화자의 방향으로 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직일 수 있다.

상기 프로세서가 음원의 내용을 파악하지 못하는 경우에 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직일 수 있다.

상기 제1 및 제2 음향가이드는 토끼의 귀를 생체 모방한 형상을 지닐 수 있다.

본 발명의 다른 측면에 따르는 음원 분리 장치는 몸체; 상기 몸체의 상부에 위치하며, 상기 몸체에 대해 움직임 가능하게 결합되어 있는 머리 부분; 상기 머리 부분의 양측에 배치되는 제1 및 제2 마이크로폰; 상기 제1 및 제2 마이크로폰 각각의 인접한 위치에서 상기 머리 부분의 외부로 돌출되어 형상을 지니며, 상기 제1 및 제2 마이크로폰에 음향을 가이드하며 음원의 방향에 따라 상기 제1 및 제2 마이크로폰에 각각 도달하는 복수의 음향 정보들에 차이를 발생시키는 제1 및 제2 음향가이드; 상기 제1 및 제2 마이크로폰에서 입력된 복수의 음향 정보들에 기초하여 음원을 방향에 따라 분리하는 프로세서; 및 상기 프로세서에서의 음원 분리에 반응하여 상기 머리 부분을 움직이게 하는 머리 구동부;를 포함할 수 있다.

상기 프로세서는, 상기 복수의 음향 정보들 각각에 대하여 푸리에 변환하는 푸리에 변환부, 푸리에 변환된 복수의 음향 정보들을 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 파티션하는 파티션부, 및 파티션된 복수의 음향 정보들에 기초하여 형성된 뉴럴 네트워크를 포함하며, 상기 뉴럴 네트워크에서 출력된 출력정보에 기초하여 상기 복수의 음향 정보들에서 음원의 방향을 분리할 수 있다.

상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들 각각에 대하여 파티션하고, 상기 파티션된 복수의 음향정보들이 상기 뉴럴 네트워크에 입력될 수 있다.

상기 푸리에 변환된 복수의 음향정보들로부터 이루어진 적어도 하나의 쌍에서 차신호를 생성하는 차신호 생성부를 더 포함하며, 상기 파티션부는 상기 차신호에 대하여 파티션하며, 파티션된 차신호가 상기 뉴럴 네트워크에 입력될 수 있다.

상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 시간 대역에 대하여 기설정된 시간 간격으로 파티션하고, 상기 뉴럴 네트워크는 상기 시간 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제1 출력값을 출력하고, 상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 주파수 대역에 대하여 기설정된 주파수 간격으로 파티션하고, 상기 뉴럴 네트워크는 상기 주파수 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제2 출력값을 출력하고, 상기 제1 및 제2 출력값의 교집합으로 음원을 분리할 수 있다.

상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 시간 대역 및 주파수 대역에 대하여 기설정된 시간 간격 및 기설정된 주파수 간격으로 파티션하고, 상기 뉴럴 네트워크는 시간 대역 및 주파수 대역에 대하여 파티션된 복수의 음향정보들을 입력받을 수 있다.

상기 복수의 음향정보들의 파티션된 정보 조각들은 서로 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 오버랩될 수 있다.

상기 뉴럴 네트워크는 컨볼루셔널 뉴럴 네트워크, 볼츠만 머신, 제한된 볼츠만 머신, 또는 심층 신뢰 신경망일 수 있다.

음원 분리 장치는 스피커 및 디스플레이 중 적어도 하나를 더 포함할 수 있다.

개시된 실시예에 의한 음원 분리 장치는 복수의 마이크로폰에 대해 음향가이드를 마련함으로써 음원 분리 성능을 향상시킬 수 있다.

개시된 실시예에 의한 음원 분리 장치는 분리된 음원의 방향에 반응하여 음향가이드들을 움직이게 함으로써 음원 분리 성능을 좀 더 향상시킬 수 있다.

개시된 실시예에 의한 음원 분리 장치는 뉴럴 네트워크를 이용하여 음원을 분리함으로써 음원 분리 성능을 향상시킬 수 있다.

도 1은 본 발명의 일 실시예에 따른 음원 분리 장치의 외관을 개략적으로 도시한 도면이다.
도 2는 도 1의 음원 분리 장치의 제1 음향가이드의 구동 구조를 개략적으로 도시한 도면이다.
도 3은 도 1의 음원 분리 장치의 하우징 및 음향 가이드가 생체모방한 토끼의 구체적인 형상을 도시한다.
도 4는 도 1의 음원 분리 장치의 회로부를 개략적으로 도시한 블록도이다.
도 5는 본 발명의 다른 실시예에 따른 음원 분리 장치의 제1 음향가이드의 구동 구조를 개략적으로 도시한 도면이다.
도 6은 본 발명의 다른 실시예에 따른 음원 분리 장치의 외관을 개략적으로 도시한 도면이다.
도 7은 본 발명의 또 다른 실시예에 따른 음원 분리 장치의 외관을 개략적으로 도시한 도면이다.
도 8은 도 7의 음원 분리 장치의 회로부를 개략적으로 도시한 블록도이다.
도 9는 본 발명의 또 다른 실시예에 따른 음원 분리 장치의 외관을 개략적으로 도시한 도면이다.
도 10은 본 발명의 일 실시예에 따른 프로세서의 블록도이다.
도 11 및 도 12는 본 발명의 일 실시예에 따른 음원 분리 방법을 도시적으로 도시한 다이어그램이다.
도13은 일 예에 따라 시간에 대한 주파수별 세기 데이터를 나타내는 스펙트로그램을 도시한다.
도 14a 내지 도 14c은 3차원 공간으로 구의 표면적 4π 라디안(radian)을 일정 면적으로 나눈 예들을 도시한다.
도 15는 본 발명의 다른 실시예에 따른 프로세서의 블록도이다.
도 16 및 도 17은 본 발명의 다른 실시예에 따른 음원 분리 방법을 도시한 다이어그램이다.

이하 첨부된 도면들을 참조하여 본 발명의 여러 가지 실시 예를 상세히 설명한다.

도 1은 일 실시예에 따른 음원 분리 장치(100)의 외관을 개략적으로 도시한 도면이며, 도 2는 도 1의 음원 분리 장치의 제1 음향가이드의 구동 구조를 개략적으로 도시한 도면이다.

도 1 및 도 2를 참조하면, 음원 분리 장치(100)는 하우징(110)과, 제1 및 제2 마이크로폰(121, 122)과, 제1 및 제2 음향가이드(131, 132)를 포함한다.

하우징(110) 내부에는 음원 분리 장치(100)의 전반적인 동작을 제어하는 회로부(도 4의 200)가 마련된다.

하우징(110)은 몸체(111)와, 몸체(111)의 상부에 위치하는 머리 부분(112)을 포함하며, 제1 및 제2 마이크로폰(121, 122)은 머리 부분(112)의 양측에 배치된다.

제1 및 제2 음향가이드(131, 132)는 각각 제1 및 제2 마이크로폰(121, 122)에 인접한 위치에서 머리 부분(112)으로부터 돌출된 형상으로 위치하며, 나아가 움직임(133, 134)이 가능하게 머리 부분(112)에 결합된다.

제1 및 제2 음향가이드(131, 132)는 제1 및 제2 마이크로폰(121, 122) 각각에게 입력되는 음향 신호가 음원 방향에 따라 서로 다른 음향 특성을 지닐 수 있도록 하는 기능을 수행한다. 예를 들면, 제1 및 제2 음향가이드(131, 132)는, 도 3에 도시되듯이, 토끼의 귀를 생체 모방한 형상을 지닐 수 있다. 즉, 제1 및 제2 음향가이드(131, 132)은 길다란 형상을 지니며, 전면 및 측면에서 전달되는 음향이 제1 및 제2 마이크로폰(121, 122)으로 가이드 되도록 배치될 수 있다. 이와 같은 배치에 의해 음원이 음원 분리 장치(100)의 전면 및 측면에 있는 경우에 입력되는 음향의 특성과, 음원이 음원 분리 장치(100)의 배후에 있는 경우에 입력되는 음향의 특성이 서로 달라지게 될 것이다. 이러한 제1 및 제2 음향가이드(131, 132)는 토끼의 귀와 같은 형상으로 이해될 수 있으나 이에 한정되는 것은 아니다. 다른 예로서, 제1 및 제2 음향가이드(131, 132)는 평평한 판상 혹은 오목한 곡면 판상 형상을 지닐 수도 있다.

머리 부분(112)의 내부에는 제1 음향가이드 구동모터(141)가 마련되어 제1 음향가이드(131)가 능동적으로 움직일 수 있도록 한다. 마찬가지로 제2 음향가이드 구동모터(미도시)가 머리 부분(112)의 내부에 마련되어 제2 음향가이드(132)가 능동적으로 움직일 수 있도록 한다.

일 예로, 제1 및 제2 음향가이드(131, 132)는 음원 분리에 필요한 기초 데이터를 증가시키도록 움직일 수 있다. 가령, 후술하는 바와 같이 프로세서(도 4의 210)에서 음원을 방향에 따라 분리할 때에, 분리된 결과에 대한 확률적인 확실성이 기 설정된 기준값에 미치지 못할 수 있다. 이러한 경우에, 제1 및 제2 음향가이드(131, 132)를 움직이게 하여, 프로세서(210)가 음원을 분리함에 필요한 기초 데이터를 증가시키도록 할 수 있다. 제1 및 제2 음향가이드(131, 132)의 움직임(133, 134)의 방향은, 무작위로 결정되거나 혹은 음원 분리 결과에서 확률적으로 가장 높은 음원의 방향으로 결정될 수 있다.

다른 예로, 음원 분리 장치(100)는, 음원 분리 시 이미 학습된 화자(話者)의 음성을 분리하였을 경우에 제1 및 제2 음향가이드(131, 132)는 상기 화자(음원)의 방향으로 움직이도록 하여, 화자와의 교감하는 것을 모사할 수도 있다.

또 다른 예로, 프로세서(210)가 음원을 방향에 따라 분리함에 있어서, 복수의 이미 학습된 화자의 목소리를 분리했을 경우에, 제1 및 제2 음향가이드(131, 132)는 이미 설정된 순위 결정 방법에 따라 화자(음원)들의 방향으로 움직이도록 할 수도 있다. 가령, 음원 분리 장치(100) 또는 음원 분리 장치(100)와 통신하는 전자 장치가 화자의 음성 명령에 따라 동작하는 경우, 순위가 정해진 복수의 화자들에 대해 순서대로 유의미한 음성 명령이 입력되는지를 분석하여, 유의미한 음성 명령을 한 화자들 중에서 최우선 순위의 화자의 방향으로 제1 및 제2 음향가이드(131, 132)를 움직이게 할 수 있다.

또 다른 예로, 프로세서(210)가 음원을 방향에 따라 분리함에 있어서, 음원 분리 장치(100) 또는 음원 분리 장치(100)와 통신하는 전자 장치가 음원의 내용을 파악하지 못하는 경우에, 제1 및 제2 음향가이드(131, 132)를 움직이게 함으로써, 음원 분리 장치(100)가 무슨 말인지 모르겠다는 몸짓이나 몸동작을 모사할 수도 있다.

또 다른 예로, 제1 및 제2 음향가이드(131, 132)의 움직임(133, 134)은 제1 및 제2 마이크로폰(121, 122)에 음향이 입력되었을 때, 토끼가 귀를 쫑긋하는 행동을 모사하도록 상방으로 세우는 움직임일 수도 있다.

또 다른 예로, 프로세서(210)가 화자의 음원을 인지하지 못하는 경우에(즉, 아무 명령이 없거나 조용한 경우에), 기설정된 시간마다 제1 및 제2 음향가이드(131, 132)를 움직이게 함으로써, 화자와의 교감하는 것을 모사할 수도 있다.

제1 및 제2 음향가이드(131, 132)의 움직임(133, 134)은 이에 한정되지 아니하며, 사용자와의 상호 작용 또는 교감(interaction) 과정에서 자연스러울 수 있도록 기설정된 방향 혹은 패턴으로 구성될 수도 있다.

후술하는 바와 같이, 제1 및 제2 마이크로폰(121, 122)의 사이에 머리 부분(112)이 위치하고, 제1 및 제2 음향가이드(131, 132)가 제1 및 제2 마이크로폰(121, 122)에 인접하게 위치함으로써, 같은 음향이라도 음원의 방향에 따라서 제1 및 제2 마이크로폰(121, 122)에 도달하는 음향 정보에 차이가 발생하여, 머신 러닝 기법을 이용하여 음원 방향을 분리해 낼 수 있게 된다.

도 4는 본 실시예의 음원 분리 장치(100)의 회로부(200)를 개략적으로 도시한 블록도이다.

도 4를 참조하면, 회로부(200)는 프로세서(processor)(210), 메모리(230), 음향가이드 구동부(240), 및 인터페이스(250)를 포함한다.

프로세서(210)는 제1 및 제2 마이크로폰(121, 122), 메모리(230), 음향가이드 구동부(240), 및 인터페이스(250)를 포함한 음원 분리 장치(100)의 전반적인 동작을 제어할 수 있다.

또한, 프로세서(210)는 제1 및 제2 마이크로폰(121, 122)에서 입력된 복수의 음향 정보들에 기초하여 음원 방향을 분리한다. 프로세서(210)는 하나 혹은 복수의 유닛들로 이루어져 있을 수 있다. 다른 예로, 계산이 많이 필요한 부분은 네트워크를 통해 접속되는 서버에서 수행될 수 있으며, 이 경우 프로세서(210)는 네트워크를 통해 연결되는 서버의 일부까지 포함하여 해석될 수도 있다. 프로세서(210)에서의 음원 분리 동작에 대해서는 후술하기로 한다.

메모리(230)는 휘발성 메모리나 비휘발성 메모리와 같은 내장 메모리를 포함할 수 있다. 메모리(230)는 프로세서(210)의 제어에 의해 음원 분리 장치(100)를 구동하고 제어하는 다양한 데이터, 프로그램 또는 어플리케이션을 저장할 수 있다. 메모리(230)는 제1 및 제2 마이크로폰(121, 122), 프로세서(210), 음향가이드 구동부(240), 및 입/출력을 위한 인터페이스(250)의 구동에 대응되는 입력/출력되는 신호 또는 데이터를 저장할 수 있다.

음향가이드 구동부(240)는, 프로세서(210)에서 음원 방향을 분리하면, 음원 방향에 기초하여 제1 및 제2 음향가이드(131, 132)를 움직일 수 있도록 제1 음향가이드 구동모터(141) 및 제2 음향가이드 구동모터(미도시)를 구동시킨다. 인터페이스(250)는 음원 분리 장치(100)와 외부 사이의 입출력을 담당한다. 인터페이스(250)는 유선 혹은 무선 통신 모듈을 포함할 수 있다.

본 실시예에서의 제1 음향가이드(131)는 머리 부분(112)에 마련된 제1 음향가이드 구동모터(141)에 의하여 움직이는 경우를 예로 들어 설명하고 있지만, 이에 한정되는 것은 아니다.

도 5는 본 발명의 다른 실시예에 따른 음원 분리 장치의 제1 음향가이드(131')의 구동 구조를 개략적으로 도시한 도면이다.

도 5를 참조하면, 본 실시예에서의 제1 음향가이드(131')는 고무, 실리콘과 같은 유연한 재질(flexible material)로 형성되고, 그 내부에 변형력을 주는 구동수단이 내장된다. 변형력을 주는 구동수단으로 압전체를 이용할 수 있다. 제1 압전소자들(141')들은 와이어 형상을 지니며, 귀 형상의 제1 음향가이드(131')의 길이 방향으로 배열되어 있을 수 있다. 마찬가지로, 제2 압전소자들(142')들은 와이어 형상을 지니며, 귀 형상의 제1 음향가이드(131')의 길이 방향에 수직한 방향으로 배열되어 있을 수 있다. 제1 및 제2 압전소자들(141', 142')은 개별적으로 혹은 그룹지어 제어기(140')에 연결될 수 있다. 참조번호 143', 144'은 제1 및 제2 압전소자들(141', 142')의 배선을 나타낸다. 제1 및 제2 압전소자들(141', 142')의 양단에 적절한 전압을 인가함에 따라, 제1 및 제2 압전소자들(141', 142')은 휨이 발생하게 되므로, 제1 음향가이드(131')는 귀를 쫑긋하는 동작이나 귀를 숙이는 동작 등을 좀 더 자연스럽게 모사할 수 있을 것이다.

와이어 형상의 제1 및 제2 압전소자들(141', 142')은 예시적인 것이며, 이에 한정되는 것은 아니다. 다른 예로서, 유연한 재질의 제1 음향가이드(131') 내부에 와이어(미도시)가 배치되고, 와이어(미도시)의 끝단이 제1 음향가이드(131')의 끄트머리에 고정시킨 구조에서, 와이어를 외부(즉, 머리 부분(112))에서 당기거나 풀어줌으로써 제1 음향가이드(131')가 움직이도록 할 수도 있을 것이다. 그밖에, 제1 음향가이드(131')의 능동적 움직임을 위해 공지의 수단이 채용될 수 있음은 당업자에게 자명하게 이해될 수 있을 것이다. 제2 음향가이드(도 1의 132)에도 실질적으로 동일한 구동수단이 설치될 수 있음은 물론이다.

도 6은 본 발명의 다른 실시예에 따른 음원 분리 장치(100')의 외관을 개략적으로 도시한 도면이다.

본 실시예의 음원 분리 장치(100')는 도 1 내지 도 5를 참조하여 설명한 음원 분리 장치(100)에 출력장치(170)가 추가적으로 마련된 경우이다. 출력장치(170)는 예를 들어, 스피커 및 디스플레이장치 중 적어도 하나를 포함할 수 있다. 예를 들어, 출력장치(170)는 예를 들어 하우징(110')의 몸체(111') 전면에 위치할 수 있다.

프로세서(도 4의 210)는 입력된 음향 정보로부터 사용자의 음성 명령을 추출하는 동작을 수행하거나, 사용자의 음성 명령에 상응하는 임무를 수행할 수도 있다. 예를 들어, 스피커를 통해 음악을 재생하거나, 디스플레이를 통해 요청된 정보를 디스플레이할 수도 있다. 이와 같이 출력장치(170)를 구비한 음원 분리 장치(100')는 예를 들어, 인공지능 스피커로 이해될 수 있다.

도 7은 본 발명의 또 다른 실시예에 따른 음원 분리 장치(300)의 외관을 개략적으로 도시한 도면이며, 도 8은 도 7의 음원 분리 장치(300)의 회로부(400)를 개략적으로 도시한 블록도이다.

도 7 및 도 8을 참조하면, 음원 분리 장치(300)는 하우징(310)과, 제1 및 제2 마이크로폰(321, 322)과, 제1 및 제2 음향가이드(331, 332)를 포함한다.

하우징(310) 내부에는 음원 분리 장치(300)의 전반적인 동작을 제어하는 회로부(400)가 마련된다.

하우징(310)은 몸체(311)와, 몸체(311)의 상부에 위치하는 머리 부분(312)을 포함한다. 제1 및 제2 마이크로폰(321, 322)은 머리 부분(312)의 양측에 배치된다.

제1 및 제2 음향가이드(331, 332)는 각각 제1 및 제2 마이크로폰(321, 322)에 인접한 위치에서 머리 부분(312)에서 돌출되어 고정 결합된다. 도 3을 참조하여 전술한 예처럼, 제1 및 제2 음향가이드(331, 332)는 생체모방한 토끼의 귀 형상을 지니거나, 평평한 판상 혹은 오목한 곡면 판상의 형상을 지닐 수 있다.

머리 부분(312)은 몸체(311)에 움직임 가능하게 결합된다. 몸체(311) 또는 머리 부분(312)의 내부에는 머리 부분(312)을 움직이게 하는 머리 구동모터(미도시)가 마련될 수 있다.

도 8을 참조하면, 회로부(400)는 프로세서(410), 메모리(430), 머리 구동부(440), 및 인터페이스(450)를 포함한다. 본 실시예의 회로부(400)는 도 4를 참조하여 설명한 회로부(200)에서 음향가이드 구동부(240) 대신에 머리 구동부(440)가 마련된다는 점을 제외하고는 실질적으로 동일하므로, 머리 구동부(440)에 대해서만 설명하기로 한다.

머리 구동부(440)는, 프로세서(410)에서 음원 방향을 분리하면, 음원 방향에 기초하여 머리 구동모터를 구동시킨다.

머리 부분(312)의 움직임(313)은, 예를 들어, 수직 방향을 회전축으로 하여 좌우로 회전하는 움직임이거나 머리 부분(312)를 숙이거나 세우는 움직임, 또는 이들 움직임의 복합일 수 있다.

머리 부분(312)의 움직임(313)은 음원 분리에 필요한 기초 데이터를 증가시키도록 움직일 수 있다. 가령, 후술하는 바와 같이 프로세서(410)에서 음원을 방향에 따라 분리할 때에, 분리된 결과에 대한 확률적인 확실성이 기 설정된 기준값에 미치지 못할 수 있다. 이러한 경우에, 머리 부분(312)을 움직이게 하여 프로세서(410)가 음원을 분리함에 필요한 기초 데이터를 증가시키도록 할 수 있다. 머리 부분(312)의 움직임(313)의 방향은, 무작위로 결정되거나 혹은 음원 분리 결과에서 확률적으로 가장 높은 음원의 방향으로 결정될 수 있다.

다른 예로, 음원 분리 장치(300)는, 음원 분리 시 이미 학습된 화자(話者)의 음성을 분리하였을 경우에, 머리 부분(312)의 전면이 상기 화자(음원)의 방향을 향하도록 움직임으로써, 화자와의 교감하는 것을 모사할 수도 있다.

또 다른 예로, 프로세서(410)가 음원을 방향에 따라 분리함에 있어서, 복수의 이미 학습된 화자의 목소리를 분리했을 경우에, 머리 부분(312)은 이미 설정된 순위 결정 방법에 따라 화자(음원)들의 방향으로 움직이도록 할 수도 있다. 가령, 음원 분리 장치(300) 또는 음원 분리 장치(300)와 통신하는 전자 장치가 화자의 음성 명령에 따라 동작하는 경우, 순위가 정해진 복수의 화자들에 대해 순서대로 유의미한 음성 명령이 입력되는지를 분석하여, 유의미한 음성 명령을 한 화자들 중에서 최우선 순위의 화자의 방향으로 머리 부분(312)의 전면이 향하도록 머리 부분(312)을 움직이게 할 수 있다.

또 다른 예로, 프로세서(410)가 음원을 방향에 따라 분리함에 있어서, 음원 분리 장치(300) 또는 음원 분리 장치(300)와 통신하는 전자 장치가 음원의 내용을 파악하지 못하는 경우에, 머리 부분(312)을 움직이게 함으로써, 음원 분리 장치(300)가 무슨 말인지 모르겠다는 몸짓이나 몸동작을 모사할 수도 있다.

또 다른 예로, 프로세서(410)가 화자의 음원을 인지하지 못하는 경우에(즉, 아무 명령이 없거나 조용한 경우에), 기설정된 시간마다 머리 부분(312)을 움직이게 함으로써, 화자와의 교감하는 것을 모사할 수도 있다.

머리 부분(312)의 움직임(313)은 이에 한정되지 아니하며, 사용자와의 상호 작용 또는 교감 과정에서 자연스러울 수 있도록 기설정된 방향 혹은 패턴으로 구성될 수도 있다.

도 9는 본 발명의 또 다른 실시예에 따른 음원 분리 장치(500)의 외관을 개략적으로 도시한 도면이다.

도 9를 참조하면, 본 실시예의 음원 분리 장치(500)는 하우징(510)과, 제1 및 제2 마이크로폰(521, 522)과, 제1 및 제2 음향가이드(531, 532)를 포함한다. 하우징(510) 내부에는 음원 분리 장치(500)의 전반적인 동작을 제어하는 회로부(미도시)가 마련된다.

하우징(510)은 몸체(511)와, 몸체(511)의 상부에 위치하는 머리 부분(512)을 포함한다. 제1 및 제2 마이크로폰(521, 522)은 머리 부분(512)의 양측에 배치된다. 제1 및 제2 음향가이드(531, 532)는 각각 제1 및 제2 마이크로폰(521, 522)에 인접한 위치에서 머리 부분(512)에 배치된다.

머리 부분(512)은 몸체(511)에 움직임 가능하게 결합되며, 나아가 제1 및 제2 음향가이드(531, 532)는 각각 머리 부분(512)에 움직임 가능하게 결합된다.

머리 부분(512)의 움직임(513)이나 제1 및 제2 음향가이드(531, 532)의 움직임(533, 534)은, 도 1 내지 도 8을 참조한 실시예와 실질적으로 동일하므로, 반복되는 설명은 생략한다.

다음으로, 프로세서(도 4의 210, 도 8의 410)의 음원 분리에 대해, 도 10 내지 도 12를 참조하여, 좀 더 상세하게 설명하기로 한다.

도 10은 본 발명의 일 실시예에 따른 프로세서의 블록도이다.

도 10을 참조하면, 일 실시예에 따른 프로세서는 제1 푸리에 변환부(621), 제2 푸리에 변환부(622), 제1 파티션부(623), 제2 파티션부(624), 및 뉴럴 네트워크(625)를 포함할 수 있다.

제1 마이크로폰(예를 들어, 도 1의 121)에서 획득한 제1 음향신호(정보)는 제1 채널을 통해 제1 푸리에 변환부(621)로 전달되며, 제1 푸리에 변환부(621)는 수신된 제1 음향신호(정보)를 푸리에 변환하여 시간에 대한 주파수별 세기(intensity) 데이터를 생성한다. 마찬가지로 제2 마이크로폰(예를 들어, 도 1의 122)에서 획득한 제2 음향신호(정보)는 제2 채널을 통해 제2 푸리에 변환부(622)로 전달되며, 제2 푸리에 변환부(622)는 수신된 제2 음향신호(정보)를 푸리에 변환하여 시간에 대한 주파수별 세기 데이터를 생성한다. 상기 음향신호를 푸리에 변환하여 얻은, 시간에 대한 주파수별 세기 데이터를 스펙트로그램(spectrogram)이라고 한다. 본 발명의 명세서에서는 음향신호를 가공하는 방법으로 푸리에 변환을 이용하여 스펙트로그램을 얻는 것으로 표현하였으나, 상기 스펙트로그램을 대신하여 MFCC(Mel-Frequency Cepstral Coefficients)나 CRP(Cross Recurrence Plot)를 사용할 수 있다. MFCC는 음향의 파워 스펙트럼을 로그 스케일로 바꿔서 비선형적으로 표현하는 방법이고, CRP는 행렬 시각화 방법으로서 각각의 원소는 오디오 샘플의 위상 공간에서의 거리를 나타낸다. 이러한 MFCC, CRP 자체는 스펙트로그램과 함께 음향을 나타내는 공지의 방법이다.

제1 푸리에 변환부(621)에서 변환된 제1 음향신호(정보)는 제1 파티션부(623)에 전달되며, 제1 파티션부(623)는 푸리에 변환된 제1 음향신호(정보)를 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션한다. 마찬가지로, 제2 푸리에 변환부(622)에서 변환된 제2 음향신호(정보)는 제2 파티션부(624)에 전달되며, 제2 파티션부(624)는 푸리에 변환된 제2 음향신호(정보)를 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션한다.

프로세서의 제1 및 제2 푸리에 변환부(621,622)와 제1 및 제2 파티션부(623, 624)는 서로 분리된 모듈처럼 기술되어 있으나, 이는 기능 설명을 위한 것이고, 하나의 신호처리장치에서 처리될 수 있다.

상기 파티션된 제1 및 제2 음향신호(정보)는 뉴럴 네트워크(625)에 입력된다.

뉴럴 네트워크(625)의 내부 구조로 컨볼루셔널 뉴럴 네트워크(convolutional neural network, CNN)를 사용할 수 있다. 컨볼루셔널 뉴럴 네트워크는 하나 이상의 컨볼루션 레이어를 갖고 있으며, 학습 가능한 가중치(weight)와 바이어스(bias)로 구성되어 있다. 이러한 컨볼루셔널 뉴럴 네트워크에서 이미지를 분류(image classification)하는 알고리즘은 잘 알려져 있다. 이를 사용할 경우에, 입력을 이미지화하는 방법이 중요할 수 있다. 따라서, 제1 및 제2 음향신호를 그래프로 이미지화하여 입력으로 할 수 있고, 또한, 효율성을 기대하는 측면에서, 제1 및 제2 음향신호의 차이를 먼저 계산한 후 그래프로 이미지화하여 뉴럴 네트워크(625)의 입력으로 할 수 있다. 여기서, 이미지화하여 뉴럴 네트워크(625)의 입력으로 한다는 의미는, 이미지가 숫자 정보 리스트(매트릭스)로 바뀌어 입력되는 것을 의미한다.

다른 예로, 뉴럴 네트워크(625)의 내부 구조로 볼츠만 머신(Boltzmann machine) 또는 제한된 볼츠만 머신(restricted Boltzmann machine, RBM)을 사용할 수도 있다. 또한, RBM을 구성 요소로 하는 심층 신뢰 신경망(deep belief network)를 사용할 수도 있다. 제한된 볼츠만 머신은 볼츠만 머신에서, 일부 유닛(unit) 사이의 연결을 없앤 형태의 모델이다. 볼츠만 머신 또는 제한된 볼츠만 머신은 비지도 학습(unsupervised learning) 신경망 모델로서, 입력 뉴런층과 은닉 뉴런층을 포함한다.

후술하는 바와 같이, 뉴럴 네트워크(625)를 학습시켜 음원 분리를 수행토록 할 수 있다.

도 11 및 도 12는 본 발명의 일 실시예에 따른 음원 분리 방법을 도시한 다이어그램이다.

도 11을 참조하면, 본 실시예의 음원 분리 방법은 먼저 제1 및 제2 마이크로폰(예를 들어, 도 1의 121, 122)을 통해 제1 및 제2 음향 정보를 획득한다(S710). 상기 획득한 제1 및 제2 음향 정보는 시간에 대한 전자 신호의 강도(intensity) 데이터 리스트이다. 이러한 시간에 대한 전자 신호의 강도 데이터 리스트는 디지털화된 파동 그래프로 나타낼 수 있다.

제1 및 제2 음향 정보(711, 712)는 각각 제1 및 제2 푸리에 변환부(621, 622)에 입력된다. 제1 및 제2 음향 정보에 대하여 푸리에 변환을 하면 변환된 제1 및 제2 음향 정보를 얻는다(S720, S730). 푸리에 변환된 제1 및 제2 음향 정보는 시간에 대한 주파수별 세기(intensity) 데이터일 수 있다.

도 13은 일 예에 따라 시간에 대한 주파수별 세기 데이터를 나타내는 스펙트로그램(spectrogram)을 도시한다. 도 13을 참조하면, 스펙트로그램의 가로축은 시간 변수에 대한 축이고, 세로축은 주파수 변수에 대한 축이다. 세기(intensity) 차이는 인쇄 농도의 차이로 나타낸다. 다른 예로, 스펙트로그램은 인쇄 농도를 대신하여 표시 색상으로 세기의 차이를 나타낼 수도 있다.

제1 및 제2 파티션부(623, 624)는 각각 푸리에 변환된 제1 및 제2 음향 정보를 입력받아, 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션한다 (S740, S750). 도 13에 도시된 스펙트로그램에서 볼 때, 세로축(주파수축)을 미리 선택된 주파수 간격 f로, 및/또는 가로축(시간축)을 미리 선택된 시간 간격 t로 나누는 것으로 이해될 수 있다. 상기 파티션에서 파티션된 음향정보들의 오버랩(overlap)을 허용할 수도 있다. 가령, 자연수 1부터 100까지의 숫자들을 간격 10, 오버랩 2로 파티션하는 경우는 1-10, 8-17, 15-24, 22-31, ... 으로 파티션되는 것을 의미한다.

도 12를 참조하면, 파티션된 제1 및 제2 음향 정보(741, 742)는 뉴럴 네트워크(625)의 입력으로 한다(S760).

일 실시예의 뉴럴 네트워크(625)는 컨볼루셔널 뉴럴 네트워크를 사용할 수 있으며, 이 경우 뉴럴 네트워크(625)의 내부구조는 컨볼루션 레이어를 포함한다(S770).

음원의 방향은 예시적 방법으로 다음과 같은 카테고리로 분류할 수 있다.

- 2차원공간으로 전 후 좌 우 4개의 카테고리

- 3차원공간으로 전 후 좌 우 상 하 6개 카테고리

- 2차원 공간으로 360도를 일정 간격 θ₀로 나눈 카테고리

- 3차원 공간으로 구의 표면적 4π 라디안(radian)을 일정 면적으로 나눈 카테고리

가령, θ₀=10도일 경우, 2차원 공간은 36개의 카테고리로 나뉘게 된다.

다른 예로, 3차원 공간을 도 14a 내지 도 14c에 도시된 바와 같이 나눌 수도 있다 (참조: Zinovy Malkin, A new method to subdivide a spherical surface into equal-area cells, arXiv:1612.03467).

음향 정보에 방향값(정답)을 알려주는 지도 학습(supervised learning)으로 뉴럴 네트워크(625)를 학습시킨다.

파티션된 제1 및 제2 음향 정보(741, 742)는 뉴럴 네트워크(625)에 입력하면, 그 출력으로 방향값이 나온다(S780). 특정 세로 방향 띠에 복수의 음원이 담겨 있다면, 복수의 방향값이 나올 것이다.

음원의 방향으로 전후좌우 4개의 카테고리를 분류하는 경우, 학습 후에 전방 음향 정보를 입력으로 주게 되면, 예시적으로 출력은 다음과 같을 수 있다.

전: 0.9

후: 0.01

좌: 0.045

우: 0.045.

상기 예시된 출력은 음원이 전방에 있을 확률이 90%라는 것을 의미한다.

학습 후에 전방과 후방 소리 정보를 섞어서 입력으로 줄 경우, 예시적으로 출력은 다음과 같을 수 있다.

전: 0.45

후: 0.50

좌: 0.026

우: 0.024.

상기 예시된 출력은 음원이 전방에 있을 확률과 후방에 있을 확률이 비슷하게 나오는 것을 의미한다. 이와 같이 음원의 방향이 복수개 나오는 경우, 음원 자체가 복수 개 있을 수 있고, 또는 하나의 음원에 대해 그 방향 분리가 명확하지 않은 것을 의미할 수도 있다. 일 예로, 음원 자체가 복수 개인 경우, 음원 별로 학습시킴으로써, 음원들을 구분할 수 있다. 전술한 바와 같이 학습된 음원이 인식되는 경우, 제1 및 제2 음향가이드(예를 들어, 도 1의 131, 132)나, 머리 부분(예를 들어, 도 7의 312)을 학습된 음원의 방향으로 움직이는 동작을 수행하도록 할 수 있을 것이다.

다른 실시예의 뉴럴 네트워크(625)는 제한된 볼츠만 머신일 수 있으며, 이 경우 뉴럴 네트워크(625)의 내부구조는 가시 유닛들(Visible Units)과 은닉 유닛들(Hidden Units)을 포함한다(S770). 또는 상기 뉴럴 네트워크는 제한된 볼츠만 머신을 구성 요소로 하는 심층 신뢰 신경망일 수도 있다.

하나의 실시예를 들어 보면, 가시 유닛들에 음향 정보(전처리된 정보, 예를 들면 푸리에 변환, 파티션 후)를 입력하고, 은닉 유닛들은 전후좌우와 같은 카테고리로 한다. 제한된 볼츠만 머신은 학습이 진행됨에 따라서 전방 음향 정보가 입력될 경우에 전방에 해당하는 은닉 유닛이 활성화되고(즉, 큰 값이 나온다), 후방 음향 정보가 입력될 경우에 후방에 해당하는 은닉 유닛이 활성화된다.

모든 음원은 휴지기를 가지기 마련이다. 예를 들면, 사람이 말을 할 때, 매 순간 지속적으로 소리를 만들어 내는 것이 아니라, 잠시 쉬는 때가 있다. 물론 휴지기 없이 지속적으로 생성되는 노이즈도 있을 수 있다.

일부 음원이 휴지기인 경우, 스펙트로그램에서 특정 세로 방향 띠에 휴지기에 해당하는 음원의 데이터는 없다. 이 데이터를 인공지능에 입력하면, 그 출력으로 휴지기에 해당하는 음원에 대한 방향값은 사라진다. (즉, 사라진 방향값이 곧 휴지기 음원의 방향값이다.)

스펙트로그램에서의 모든 세로 방향 띠에 대하여 뉴럴 네트워크(625)의 입력과 출력 과정을 거친다.

본 발명의 일 실시예에 따르면, 앞서 설명한 단계 S740, S750, ? S780을 반복할 수 있다.

S740, S750, ? S780의 제1 순환에서 스펙트로그램에서의 가로축(시간축)을 미리 선택된 시간 간격 t으로 나누어 각각의 세로 방향 띠에 대하여, 뉴럴 네트워크(625)에 입력하면, 뉴럴 네트워크(625)는 제1 방향값을 출력한다. S740, S750, ? S780의 제2 순환으로 원래의 스펙트로그램으로 돌아가서 세로축(주파수축)을 미리 선택된 주파수 간격 f로 나누고, 각각의 가로 방향 띠에 대하여, 뉴럴 네트워크(625)에 입력하면, 뉴럴 네트워크(625)는 제2 방향값을 출력한다. 가로 방향 띠와 세로 방향 띠가 교차하는 부분의 방향값은 뉴럴 네트워크(625)의 제1 및 제2 출력값의 교집합이다. 이 교집합의 원소는 하나일 수 있고, 복수개일 수도 있다.

본 발명의 일 실시예에 따르면, 뉴럴 네트워크 출력값, 즉 음원 분리 성과가 목표에 미달할 경우에 상기 설정된 파티션 간격과 오버랩 크기를 조정하는 피드백 루프를 적용하여 음원 분리 성과를 높이는 프로세스를 수행할 수도 있다. 달리 말하면, t, f, 및 오버랩 크기 중 적어도 일부를 조정하여 다시 위의 과정, 즉 S740, S750, ? S780을 반복 수행할 수 있다. 또는, 설정된 파티션 간격과 오버랩 크기를 조정하는 피드백 루프의 적용과 함께, 제1 및 제2 음향가이드(가령, 도 1의 131, 132)나 머리 부분(도 7의 312)을 움직이게 하여 프로세서가 음원을 분리함에 필요한 기초 데이터를 증가시키도록 함으로써, 음원 분리 성과를 향상시킬 수 있을 것이다.

t, f, 오버랩 크기를 조정함에 따라, 파티션된 제1 및 제2 음향정보의 크기가 달라지게 되므로, 파티션이 조정된 제1 및 제2 음향정보는 뉴럴 네트워크(625)의 구조(입력의 크기)에 맞지 않을 수가 있다. 이러한 경우, 파티션이 조정된 제1 및 제2 음향정보는 그 크기를 기존 크기와 같게 만드는 조작을 수행한 후에 뉴럴 네트워크(625)에 입력한다. 가령, t와 f의 값이 좀 더 작게 하면, 파티션된 제1 및 제2 음향정보의 크기가 기존 크기보다 작아지게 되므로, 파티션된 제1 및 제2 음향정보의 크기를 크게 하여 기존 크기와 같도록 한다. 예를 들면, 뉴럴 네트워크(625)의 입력의 크기가 9*9 행렬인데, 파티션이 조정된 제1 및 제2 음향정보의 크기가 7*7 행렬이 되는 경우에, 파티션이 조정된 제1 및 제2 음향정보의 가장자리의 입력값으로 0을 덧붙여 그 크기를 크게 할 수 있다.

스펙트로그램 상의 일부 지역에 있어서, 예를 들면, 제1번 단일 원소를 갖는 지역은 1번 음원의 소리에 해당하며, 제1번과 제3번 원소를 갖는 지역은 1번과 3번 음원의 소리에 해당한다.

음원이 분리된 부분(단일 원소 지역)들을 제거하고, 다시 위의 과정, 즉 S740, S750, ? S780을 반복할 수 있다.

상기 스펙트로그램 대신 MFCC(Mel-frequency cepstral coefficients)나 CRP(Cross Recurrence Plot)를 사용할 수 있다.

앞서 설명에서 스펙트로그램에서의 세로 또는 가로 방향 띠를 뉴럴 네트워크(625) 입력의 단위로 하였으나, 스펙트로그램을 가로 세로 방향으로 나누어서 바둑판모양으로 나누고 각 셀을 뉴럴 네트워크(625) 입력의 단위로 할 수도 있다. 달리 말하면, 푸리에 변환된 음향정보들을 시간 및 주파수 대역을 기설정된 시간 간격 및 주파수 간격으로 파티션할 수도 있다.

다른 실시예로서, 복수의 음원이 담긴 입력 데이터를 인공지능에 넣었을 때, 출력으로 복수의 방향값이 나온다. 예를 들면 제 1방향과 제 2방향이 나온다고 할 때, 제 1방향이 나오도록 긍정적 영향을 끼친 입력 데이터의 일부분은 역전파 알고리즘을 통하여 파악할 수 있다. 이러한 부분들을 모으면 제 1방향의 음원을 추출할 수 있다.

본 발명의 다른 실시예에 따르면, 뉴럴 네트워크 출력값, 즉 음원 분리 성과가 목표에 미달할 경우에, 전술한 바와 같이 제1 및 제2 음향가이드(예를 들어, 도 1의 131, 132)나, 머리 부분(예를 들어, 도 7의 312)을 움직이게 한 후 다시 S710, S720, ? S780의 음원 분리 동작을 수행하도록 할 수 있을 것이다. 이와 같이, 제1 및 제2 음향가이드(예를 들어, 도 1의 131, 132)나, 머리 부분(예를 들어, 도 7의 312)을 움직이게 하면, 입력된 제1 및 제2 음향 정보의 특성이 변경됨에 따라 음원 분리에 필요한 데이터를 풍부하게 하여, 음원 분리의 성공률을 향상시킬 수 있다.

전술한 실시예는 도 3에 도시되듯이 제1 음향정보와 제2 음향정보를 각각 파티션하여 뉴럴 네트워크(625)에 입력한 경우를 예로 들어 설명하였으나, 이에 한정되는 것은 아니다. 음향입력장치에서 획득된 음향정보의 개수(즉, 채널수)가 3개 이상인 경우에 대해서도 3개 이상의 음향정보에 대해 각각 파티션하여 뉴럴 네트워크(625)에 입력할 수 있다는 것은 당업자라면 자명하게 이해할 수 있을 것이다.

도 15는 본 발명의 다른 실시예에 따른 프로세서의 블록도이며, 도 16 및 도 17은 본 실시예에 따른 음원 분리 방법을 도시적으로 도시한 다이어그램이다.

도 15 내지 도 17을 참조하면, 일 실시예에 따른 프로세서는 제1 푸리에 변환부(821), 제2 푸리에 변환부(822), 차신호 생성부(823), 파티션부(824), 및 뉴럴 네트워크(825)를 포함할 수 있다.

제1 및 제 마이크로폰(예를 들어, 도 1의 121, 122)에서 제1 및 제2 음향정보가 획득되면(S910), 제1 및 제2 푸리에 변환부(821, 822)는 제1 음향정보와 제2 음향정보 각각에 대해 주파수별 세기(intensity) 데이터를 생성한다 (S920, S930).

차신호 생성부(823)는 제1 음향정보와 제2 음향정보를 입력 받아 차신호로 생성한다(S940). 즉, 차신호 생성부(823)는 제1 음향정보와 제2 음향정보의 차신호로서, 주파수별 세기차(intensity difference) 데이터를 생성할 수 있다.

만일, 음향입력장치에서 획득된 음향정보의 개수(즉, 채널수)가 3개 이상인 경우, 상기 차신호는 음향정보들 중 임의의 조합으로 이루어진 쌍에서 얻어질 수 있다. 음향정보들의 쌍은 임의로 선택된 하나의 쌍 또는 복수개가 될 수 있다. 가령, 음향정보의 개수(즉, 채널수)가 3개인 경우, 음향정보의 쌍은 3개가 있는 바, 차신호는 이들 3개 쌍 중 임의로 선택하거나 모두를 선택할 수 있다. 전술한 바와 같이, 음원분리를 위해 도 9 및 도 10에서 도시된 단계 전부 혹은 일부가 반복될 수 있는 바, 이때, 반복하면서 음향정보들의 쌍의 조합을 달리 할 수도 있을 것이다.

파티션부(824)는 차신호 생성부(823)에서 생성된 차신호를 파티션한다(S950). 파티션부(824)에 입력되는 차신호는 스펙트로그램으로 묘사될 수 있으므로, 전술한 실시예와 유사하게 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션할 수 있다. 파티션된 차신호(951)는 뉴럴 네트워크(825)에 입력되며(S970), 뉴럴 네트워크(825)의 내부 구조를 거쳐(S980), 음원이 분리된 상태로 뉴럴 네트워크(825)에서 출력된다(S990). 파티션된 차신호(4951)는 역시 스펙트로그램, MFCC, 또는 CRP으로 묘사될 수 있으므로, 뉴럴 네트워크(825)의 내부 구조로 컨볼루셔널 뉴럴 네트워크, 볼츠만 머신, 제한된 볼츠만 머신, 또는 심층 신뢰 신경망일 수 있으며, 뉴럴 네트워크(825)에서의 학습이나, 음원 분리는 실질적으로 전술한 예와 동일할 수 있다.

전술한 실시예들에서 음향은 사람의 음성을 포함할 수 있으나, 이에 제한되는 것은 아니다.

전술한 실시예들의 음원 분리 장치(100, 100', 300, 500)는 2개의 마이크로폰을 가진 경우를 예로 들고 있으나, 3개 이상일 수 있음은 물론이다. 또한, 마이크로폰과 음향가이드가 일대일로 마련된 경우를 예로 들어 설명하고 있으나, 하나의 음향가이드에 복수의 마이크로폰이 위치할 수도 있다.

전술한 본 발명인 음원 분리 장치는 이해를 돕기 위하여 도면에 도시된 실시예를 참고로 설명되었으나, 이는 예시적인 것에 불과하며, 당해 분야에서 통상적 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위에 의해 정해져야 할 것이다.

100, 100', 300, 500: 음원 분리 장치
110. 하우징
111: 몸체
112: 머리 부분
121, 122: 마이크로폰
131, 132, 331, 332: 음향가이드
141: 구동모터
170: 출력장치
200, 400: 회로부
210, 410: 프로세서
240: 음향가이드 구동부
230, 430: 메모리
440: 머리 구동부
621, 622, 821, 822: 푸리에 변환부
623, 624, 824: 파티션부
625, 825: 뉴럴 네트워크
823: 차신호 생성부

Claims (18)

1. 하우징;
   상기 하우징에 마련되는 마이크로폰들;
   상기 마이크로폰들에 인접하여 상기 하우징에 마련되며, 상기 마이크로폰들에 음향을 가이드하며 음원의 방향에 따라 상기 마이크로폰들에 각각 도달하는 복수의 음향 정보들에 차이를 발생시키는 음향가이드들; 및
   상기 마이크로폰들에서 입력된 복수의 음향 정보들에 기초하여 음원을 방향에 따라 분리하는 프로세서;를 포함하며,
   상기 음향가이드들은 변형 가능한 구조를 가지거나 움직임 가능하게 결합되어 있으며,
   상기 프로세서에서의 음원 분리에 반응하여 상기 음향가이드들을 움직이게 하는 음향가이드 구동부를 더 포함하는 것을 특징으로 하는 음원 분리 장치.
2. 제1 항에 있어서,
   상기 하우징은 몸체와 상기 몸체의 상부에 위치하는 머리 부분을 포함하며,
   상기 마이크로폰들은 상기 머리 부분의 양측에 배치되는 제1 및 제2 마이크로폰을 포함하며,
   상기 음향가이드들은 상기 제1 및 제2 마이크로폰 각각의 인접한 위치에서 상기 머리 부분의 외부로 돌출되어 형상을 지닌 제1 및 제2 음향가이드를 포함하는 것을 특징으로 하는 음원 분리 장치.
3. 제2 항에 있어서,
   상기 제1 및 제2 음향가이드는 상기 머리 부분에 움직임 가능하게 결합되는 것을 특징으로 하는 음원 분리 장치.
4. 제3 항에 있어서,
   상기 머리 부분은 상기 몸체에 대해 움직임 가능하게 결합되어 있으며,
   상기 프로세서에서의 음원 분리에 반응하여 상기 몸체와 상기 머리 부분 중 적어도 어느 한쪽에 상기 머리 부분을 움직이게 하는 머리 구동부를 더 포함하는 것을 특징으로 하는 음원 분리 장치.
5. 제4 항에 있어서,
   상기 프로세서가 음원을 방향에 따라 분리함에 있어서, 분리된 결과에 대한 확률적인 확실성이 기 설정된 기준값에 미치지 못할 경우에 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직여 상기 프로세서가 음원을 방향에 따라 분리함에 있어서 필요한 기초 데이터를 증가시키는 것을 특징으로 하는 음원 분리 장치.
6. 제4 항에 있어서,
   상기 프로세서가 음원을 방향에 따라 분리함에 있어서, 이미 학습된 화자(話者)의 목소리를 분리했을 경우에 상기 화자의 방향으로 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직이는 것을 특징으로 하는 음원 분리 장치.
7. 제4 항에 있어서,
   상기 프로세서가 음원을 방향에 따라 분리함에 있어서, 복수의 이미 학습된 화자의 목소리를 분리했을 경우에 이미 설정된 순위 결정 방법에 따라 순서대로 상기 화자의 방향으로 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직이는 것을 특징으로 하는 음원 분리 장치.
8. 제4 항에 있어서,
   상기 프로세서가 음원의 내용을 파악하지 못하는 경우에 상기 제1 및 제2 음향가이드와 상기 머리 부분 중 적어도 어느 하나를 움직이는 것을 특징으로 하는 음원 분리 장치.
9. 제1 항에 있어서,
   상기 제1 및 제2 음향가이드는 토끼의 귀를 생체 모방한 형상을 지닌 것을 특징으로 하는 음원 분리 장치.
10. 몸체;
    상기 몸체의 상부에 위치하며, 상기 몸체에 대해 움직임 가능하게 결합되어 있는 머리 부분;
    상기 머리 부분의 양측에 배치되는 제1 및 제2 마이크로폰;
    상기 제1 및 제2 마이크로폰 각각의 인접한 위치에서 상기 머리 부분의 외부로 돌출되어 형상을 지니며, 상기 제1 및 제2 마이크로폰에 음향을 가이드하며 음원의 방향에 따라 상기 제1 및 제2 마이크로폰에 각각 도달하는 복수의 음향 정보들에 차이를 발생시키는 제1 및 제2 음향가이드;
    상기 제1 및 제2 마이크로폰에서 입력된 복수의 음향 정보들에 기초하여 음원을 방향에 따라 분리하는 프로세서; 및
    상기 프로세서에서의 음원 분리에 반응하여 상기 머리 부분을 움직이게 하는 머리 구동부;를 포함하며,
    상기 제1 및 제2 음향가이드는 상기 머리 부분에 움직임 가능하게 결합되어 있으며,
    상기 프로세서에서의 음원 분리에 반응하여 상기 제1 및 제2 음향가이드를 움직이게 하는 음향가이드 구동부를 더 포함하는 것을 특징으로 하는 음원 분리 장치.
11. 제1 항 내지 제10 항 중 어느 한 항에 있어서,
    상기 프로세서는,
    상기 복수의 음향 정보들 각각에 대하여 푸리에 변환하는 푸리에 변환부,
    푸리에 변환된 복수의 음향 정보들을 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 파티션하는 파티션부, 및
    파티션된 복수의 음향 정보들에 기초하여 형성된 뉴럴 네트워크를 포함하며,
    상기 뉴럴 네트워크에서 출력된 출력정보에 기초하여 상기 복수의 음향 정보들에서 음원의 방향을 분리하는 것을 특징으로 하는 음원 분리 장치.
12. 제11 항에 있어서,
    상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들 각각에 대하여 파티션하고,
    상기 파티션된 복수의 음향정보들이 상기 뉴럴 네트워크에 입력되는 것을 특징으로 하는 음원 분리 장치.
13. 제11 항에 있어서,
    상기 푸리에 변환된 복수의 음향정보들로부터 이루어진 적어도 하나의 쌍에서 차신호를 생성하는 차신호 생성부를 더 포함하며,
    상기 파티션부는 상기 차신호에 대하여 파티션하며, 파티션된 차신호가 상기 뉴럴 네트워크에 입력되는 것을 특징으로 하는 음원 분리 장치.
14. 제11 항에 있어서,
    상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 시간 대역에 대하여 기설정된 시간 간격으로 파티션하고, 상기 뉴럴 네트워크는 상기 시간 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제1 출력값을 출력하고,
    상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 주파수 대역에 대하여 기설정된 주파수 간격으로 파티션하고, 상기 뉴럴 네트워크는 상기 주파수 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제2 출력값을 출력하고,
    상기 제1 및 제2 출력값의 교집합으로 음원을 분리하는 것을 특징으로 하는 음원 분리 장치.
15. 제11 항에 있어서,
    상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 시간 대역 및 주파수 대역에 대하여 기설정된 시간 간격 및 기설정된 주파수 간격으로 파티션하고,
    상기 뉴럴 네트워크는 시간 대역 및 주파수 대역에 대하여 파티션된 복수의 음향정보들을 입력받는 것을 특징으로 하는 음원 분리 장치.
16. 제11 항에 있어서,
    상기 복수의 음향정보들의 파티션된 정보 조각들은 서로 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 오버랩되는 것을 특징으로 하는 음원 분리 장치.
17. 제11 항에 있어서,
    상기 뉴럴 네트워크는 컨볼루셔널 뉴럴 네트워크, 볼츠만 머신, 제한된 볼츠만 머신, 또는 심층 신뢰 신경망인 것을 특징으로 하는 음원 분리 장치.
18. 제1 항 내지 제10 항 중 어느 한 항에 있어서,
    스피커 및 디스플레이 중 적어도 하나를 더 포함하는 음원 분리 장치.

Images