KR20200029260A - 음원 분리 장치 및 방법 - Google Patents
음원 분리 장치 및 방법 Download PDFInfo
- Publication number
- KR20200029260A KR20200029260A KR1020180107886A KR20180107886A KR20200029260A KR 20200029260 A KR20200029260 A KR 20200029260A KR 1020180107886 A KR1020180107886 A KR 1020180107886A KR 20180107886 A KR20180107886 A KR 20180107886A KR 20200029260 A KR20200029260 A KR 20200029260A
- Authority
- KR
- South Korea
- Prior art keywords
- sound
- neural network
- information
- partitioned
- sound information
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000013528 artificial neural network Methods 0.000 claims abstract description 80
- 238000005192 partition Methods 0.000 claims abstract description 45
- 238000000638 solvent extraction Methods 0.000 claims abstract description 16
- 238000000926 separation method Methods 0.000 claims description 40
- 238000013527 convolutional neural network Methods 0.000 claims description 8
- 230000001131 transforming effect Effects 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 10
- 230000005236 sound signal Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 6
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012880 independent component analysis Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 210000002364 input neuron Anatomy 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000007794 visualization technique Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0272—Voice signal separating
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
- G10L19/022—Blocking, i.e. grouping of samples in time; Choice of analysis windows; Overlap factoring
- G10L19/025—Detection of transients or attacks for time/frequency resolution switching
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Quality & Reliability (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Circuit For Audible Band Transducer (AREA)
Abstract
음원 분리 장치 및 방법이 개시된다. 개시된 음원 분리 장치는 복수의 음향정보들을 획득하는 음향입력장치와, 복수의 음향정보들 각각에 대하여 푸리에 변환하는 푸리에 변환부와, 푸리에 변환된 복수의 음향정보들을 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 파티션하는 파티션부와, 파티션된 음향정보들에 기초하여 형성된 뉴럴 네트워크를 포함하며, 뉴럴 네트워크에서 출력된 출력정보에 기초하여 복수의 음향정보들에서 음원을 분리한다.
Description
본 개시는 음원 분리 장치 및 방법에 관한 것이다.
음원 분리란 혼합된 음향신호로부터 하나 이상의 혼합 전 음향신호를 분리해내는 것이다. 1990년대 초부터 블라인드(blind) 신호분리, 특히 독립성분 분석기술에 관한 연구가 시작되었고, 방위각 추정, ICA, NMF, 특징점 추출 등 여러 방법들이 사용되어 왔으며, 최근에는 딥 러닝(deep learning)의 발전으로 인해 뉴럴 네트워크(neural network)를 이용한 음원 분리 방법들이 제안되고 있다.
음원 분리 기술에 적용되고 있는 뉴럴 네트워크를 이용한 음원 분리 방법은 오디오 신호를 주파수 도메인 값으로 변환한 후 각 프레임 값을 입력하여 네트워크를 학습하고, 네트워크를 통과한 값을 바탕으로 음원을 분리한다.
음성 인식 기술은 노이즈가 증가하면 정확도가 일관되게 떨어지는 바, 의미가 있는 음성과 노이즈를 구분 가능하게 음원 분리 장치 및 방법을 제공하자고 한다. 또한, 혼합된 음향을 구성하는 각각의 음향에 대하여 음향 발생 지점의 위치를 파악할 수 있는 음원 분리 장치 및 방법을 제공하고자 한다. 음성뿐만 아니라 원하는 음향을 다른 음향으로부터 구분 가능하게 하는 음원 분리 장치 및 방법을 제공하고자 한다.
본 발명의 한 측면에 따르는 음원 분리 장치는 복수의 마이크로폰들을 포함하며, 복수의 마이크로폰들에서 복수의 음향정보들을 각각 획득하는 음향입력장치; 복수의 음향정보들 각각에 대하여 푸리에 변환하는 푸리에 변환부; 푸리에 변환된 복수의 음향정보들을 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 파티션하는 파티션부; 및 파티션된 복수의 음향정보들에 기초하여 형성된 뉴럴 네트워크;를 포함하며, 뉴럴 네트워크에서 출력된 출력정보에 기초하여 복수의 음향정보들에서 음원을 분리한다.
파티션부는 푸리에 변환된 복수의 음향정보들 각각에 대하여 파티션하고, 파티션된 복수의 음향정보들이 뉴럴 네트워크에 입력될 수 있다.
음원 분리 장치는 푸리에 변환된 복수의 음향정보들로부터 이루어진 적어도 하나의 쌍에서 차신호를 생성하는 차신호 생성부를 더 포함하며, 파티션부는 차신호에 대하여 파티션하며, 파티션된 차신호가 뉴럴 네트워크에 입력될 수 있다.
파티션부는 푸리에 변환된 복수의 음향정보들을 시간 대역에 대하여 기설정된 시간 간격으로 파티션하고, 뉴럴 네트워크는 시간 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제1 출력값을 출력하고, 파티션부는 푸리에 변환된 복수의 음향정보들을 주파수 대역에 대하여 기설정된 주파수 간격으로 파티션하고, 뉴럴 네트워크는 주파수 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제2 출력값을 출력하고, 제1 및 제2 출력값의 교집합으로 음원을 분리할 수 있다.
파티션부는 푸리에 변환된 복수의 음향정보들을 시간 대역 및 주파수 대역에 대하여 기설정된 시간 간격 및 기설정된 주파수 간격으로 파티션하고, 뉴럴 네트워크는 시간 대역 및 주파수 대역에 대하여 파티션된 복수의 음향정보들을 입력 받을 수 있다.
파티션된 복수의 음향정보들은 시간 및 주파수 대역 중 적어도 하나에 대하여 오버랩(overlap)될 수 있다.
뉴럴 네트워크는 컨볼루셔널 뉴럴 네트워크, 볼츠만 머신, 제한된 볼츠만 머신, 또는 심층 신뢰 신경망일 수 있다.
본 발명의 다른 측면에 따르는 음원 분리 방법은 복수의 마이크로폰으로부터 복수의 음향정보들을 각각 획득하는 단계; 획득된 복수의 음향정보들을 각각 푸리에 변환하는 단계; 푸리에 변환된 복수의 음향정보들을 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 파티션하는 단계; 및 파티션된 복수의 음향정보들을 뉴럴 네트워크에 입력하는 단계;를 포함하며, 뉴럴 네트워크에서 출력된 출력정보에 기초하여 음원을 분리할 수 있다.
파티션하는 단계는, 푸리에 변환된 복수의 음향정보들 각각에 대하여 파티션하고, 파티션된 복수의 음향정보들을 직접 뉴럴 네트워크에 입력할 수 있다.
음원 분리 방법은 푸리에 변환된 복수의 음향정보들로부터 이루어진 적어도 하나의 쌍에서 차신호를 생성하는 단계를 더 포함하며, 파티션하는 단계는 차신호에 대하여 파티션하고, 파티션된 차신호를 뉴럴 네트워크에 입력할 수 있다.
푸리에 변환된 복수의 음향정보들을 시간 대역에 대하여 기설정된 시간 간격으로 파티션하고, 시간 대역에 대해 파티션된 복수의 음향정보들을 뉴럴 네트워크에 입력하여 제1 출력값을 출력받고, 푸리에 변환된 복수의 음향정보들을 주파수 대역에 대하여 기설정된 주파수 간격으로 파티션하고, 주파수 대역에 대해 파티션된 복수의 음향정보들을 뉴럴 네트워크에 입력하여 제2 출력값을 출력받아, 제1 및 제2 출력값의 교집합으로 음원을 분리할 수 있다.
푸리에 변환된 음향정보들은 시간 및 주파수 대역에 대하여 기설정된 시간 간격 및 기설정된 주파수 간격으로 파티션하고, 시간 대역 및 주파수 대역에 대하여 파티션된 복수의 음향정보들을 뉴럴 네트워크에 입력할 수 있다.
뉴럴 네트워크는 파티션된 음향정보들을 통해 학습할 수 있다.
파티션하는 복수의 음향정보들은 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 중첩 크기로 오버랩될 수 있다.
뉴럴 네트워크의 출력값이 목표에 미달할 경우에 음원 분리 방법은 중첩 크기를 조정하는 단계를 더 포함할 수 있다.
뉴럴 네트워크의 출력값이 목표에 미달할 경우에 음원 분리 방법은 기설정된 간격을 조정하는 단계를 더 포함할 수 있다.
개시된 실시예에 의한 음원 분리 장치 및 방법은 뉴럴 네트워크를 이용하여 음원을 분리함으로써 음원 분리 성능을 향상시킬 수 있다.
도 1은 본 발명의 일 실시예에 따른 음원 분리 장치를 개략적으로 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 프로세서의 블록도이다.
도 3 및 도 4는 본 발명의 일 실시예에 따른 음원 분리 방법을 도시적으로 도시한 다이어그램이다.
도 5는 일 예에 따라 시간에 대한 주파수별 세기 데이터를 나타내는 스펙트로그램을 도시한다.
도 6a 내지 도 6c은 3차원 공간으로 구의 표면적 4π 라디안(radian)을 일정 면적으로 나눈 예들을 도시한다.
도 7은 본 발명의 다른 실시예에 따른 프로세서의 블록도이다.
도 8 및 도 9는 본 발명의 다른 실시예에 따른 음원 분리 방법을 도시한 다이어그램이다.
도 2는 본 발명의 일 실시예에 따른 프로세서의 블록도이다.
도 3 및 도 4는 본 발명의 일 실시예에 따른 음원 분리 방법을 도시적으로 도시한 다이어그램이다.
도 5는 일 예에 따라 시간에 대한 주파수별 세기 데이터를 나타내는 스펙트로그램을 도시한다.
도 6a 내지 도 6c은 3차원 공간으로 구의 표면적 4π 라디안(radian)을 일정 면적으로 나눈 예들을 도시한다.
도 7은 본 발명의 다른 실시예에 따른 프로세서의 블록도이다.
도 8 및 도 9는 본 발명의 다른 실시예에 따른 음원 분리 방법을 도시한 다이어그램이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
이하의 실시예에서, 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
이하의 실시예에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 다수의 표현을 포함한다. 이하의 실시예에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 발명의 실시예들은 기능적인 블록 구성들 및 다양한 처리 단계들로 나타내어질 수 있다. 이러한 기능 블록들은 특정 기능들을 실행하는 다양한 개수의 하드웨어 또는/및 소프트웨어 구성들로 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하나 이상의 마이크로프로세서들의 제어 또는 다른 제어 장치들에 의해서 다양한 기능들을 실행할 수 있는, 메모리, 프로세싱(processing), 로직(logic), 룩업 테이블(look-up table) 등과 같은 직접 회로 구성들을 채용할 수 있다. 본 발명의 실시예의 구성 요소들이 소프트웨어 프로그래밍 또는 소프트웨어 요소들로 실행될 수 있는 것과 유사하게, 본 발명의 실시예는 데이터 구조, 프로세스들, 루틴들 또는 다른 프로그래밍 구성들의 조합으로 구현되는 다양한 알고리즘을 포함하여, C, C++, 자바(Java), 어셈블러(assembler) 등과 같은 프로그래밍 또는 스크립팅 언어로 구현될 수 있다. 기능적인 측면들은 하나 이상의 프로세서들에서 실행되는 알고리즘으로 구현될 수 있다. 또한, 본 발명의 실시예들은 전자적인 환경 설정, 신호 처리, 및/또는 데이터 처리 등을 위하여 종래 기술을 채용할 수 있다. 매커니즘, 요소, 수단, 구성과 같은 용어는 넓게 사용될 수 있으며, 기계적이고 물리적인 구성들로서 한정되는 것은 아니다. 상기 용어는 프로세서 등과 연계하여 소프트웨어의 일련의 처리들(routines)의 의미를 포함할 수 있다.
이하 첨부된 도면들을 참조하여 본 발명의 여러 가지 실시 예를 상세히 설명한다.
도 1은 일 실시예에 따른 음원 분리 장치(100)를 개략적으로 도시한 블록도이며, 도 2는 일 실시예에 따른 프로세서(120)의 블록도이다.
도 1을 참조하면, 음원 분리 장치(100)는 음향입력장치(110), 프로세서(120), 메모리(130), 및 인터페이스(140)를 포함한다.
음향입력장치(110)는 음향을 수집하고, 수집된 음향 정보를 전기적 신호로 변환하는 장치이다. 예를 들어, 음향입력장치(110)는 제1 마이크로폰(111)과 제2 마이크로폰(112)을 포함할 수 있다. 음향입력장치(110)에 입력되는 음향은 사람의 음성을 포함할 수 있으나, 이에 제한되는 것은 아니다. 제1 마이크로폰(111)과 제2 마이크로폰(112)은 공간적으로 이격되어 있을 수 있다. 본 실시예에서는 제1 마이크로폰(111)과 제2 마이크로폰(112)을 통해 소리 정보를 획득하여 2개 채널을 통해 음향신호가 입력되는 경우를 예로 들어 설명하고 있으나, 이에 한정되는 것은 아니다. 마이크로폰의 개수가 늘어남에 따라 채널 수도 늘어날 수 있다. 마이크로폰의 개수와 채널 수는 일치하지 않을 수도 있다. 가령, 겉보기에 1개의 마이크로폰도 내부 구조상 2개의 채널로 정보를 획득할 수도 있다.
프로세서(processor)(120)는 음향입력장치(110), 메모리(130), 및 인터페이스(140)를 포함하여 음원 분리 장치(100)의 전반적인 동작을 제어할 수 있다.
도 2를 참조하면, 일 실시예에 따른 프로세서(120)는 제1 푸리에 변환부(121), 제2 푸리에 변환부(122), 제1 파티션부(123), 제2 파티션부(124), 및 뉴럴 네트워크(125)를 포함할 수 있다.
제1 마이크로폰(111)에서 획득한 제1 음향신호(정보)는 제1 채널을 통해 제1 푸리에 변환부(121)로 전달되며, 제1 푸리에 변환부(121)는 수신된 제1 음향신호(정보)를 푸리에 변환하여 시간에 대한 주파수별 세기(intensity) 데이터를 생성한다. 마찬가지로 제2 마이크로폰(112)에서 획득한 제2 음향신호(정보)는 제2 채널을 통해 제2 푸리에 변환부(122)로 전달되며, 제2 푸리에 변환부(122)는 수신된 제2 음향신호(정보)를 푸리에 변환하여 시간에 대한 주파수별 세기 데이터를 생성한다. 상기 음향신호를 푸리에 변환하여 얻은, 시간에 대한 주파수별 세기 데이터를 스펙트로그램(spectrogram)이라고 한다. 본 발명의 명세서에서는 음향신호를 가공하는 방법으로 푸리에 변환을 이용하여 스펙트로그램을 얻는 것으로 표현하였으나, 상기 스펙트로그램을 대신하여 MFCC(Mel-Frequency Cepstral Coefficients)나 CRP(Cross Recurrence Plot)를 사용할 수 있다. MFCC는 음향의 파워 스펙트럼을 로그 스케일로 바꿔서 비선형적으로 표현하는 방법이고, CRP는 행렬 시각화 방법으로서 각각의 원소는 오디오 샘플의 위상 공간에서의 거리를 나타낸다. 이러한 MFCC, CRP 자체는 스펙트로그램과 함께 음향을 나타내는 공지의 방법이다.
제1 푸리에 변환부(121)에서 변환된 제1 음향신호(정보)는 제1 파티션부(123)에 전달되며, 제1 파티션부(123)는 푸리에 변환된 제1 음향신호(정보)를 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션한다. 마찬가지로, 제2 푸리에 변환부(122)에서 변환된 제2 음향신호(정보)는 제2 파티션부(124)에 전달되며, 제2 파티션부(124)는 푸리에 변환된 제2 음향신호(정보)를 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션한다.
프로세서(120)의 제1 및 제2 푸리에 변환부(121,122)와 제1 및 제2 파티션부(123, 124)는 서로 분리된 모듈처럼 기술되어 있으나, 이는 기능 설명을 위한 것이고, 하나의 신호처리장치에서 처리될 수 있다.
상기 파티션된 제1 및 제2 음향신호(정보)는 뉴럴 네트워크(125)에 입력된다.
뉴럴 네트워크(125)의 내부 구조로 컨볼루셔널 뉴럴 네트워크(convolutional neural network, CNN)를 사용할 수 있다. 컨볼루셔널 뉴럴 네트워크는 하나 이상의 컨볼루션 레이어를 갖고 있으며, 학습 가능한 가중치(weight)와 바이어스(bias)로 구성되어 있다. 이러한 컨볼루셔널 뉴럴 네트워크에서 이미지를 분류(image classification)하는 알고리즘은 잘 알려져 있다. 이를 사용할 경우에, 입력을 이미지화하는 방법이 중요할 수 있다. 따라서, 제1 및 제2 음향신호를 그래프로 이미지화하여 입력으로 할 수 있고, 또한, 효율성을 기대하는 측면에서, 제1 및 제2 음향신호의 차이를 먼저 계산한 후 그래프로 이미지화하여 뉴럴 네트워크(125)의 입력으로 할 수 있다. 여기서, 이미지화하여 뉴럴 네트워크(125)의 입력으로 한다는 의미는, 이미지가 숫자 정보 리스트(매트릭스)로 바뀌어 입력되는 것을 의미한다.
다른 예로, 뉴럴 네트워크(125)의 내부 구조로 볼츠만 머신(Boltzmann machine) 또는 제한된 볼츠만 머신(restricted Boltzmann machine, RBM)을 사용할 수도 있다. 또한, RBM을 구성 요소로 하는 심층 신뢰 신경망(deep belief network)를 사용할 수도 있다. 제한된 볼츠만 머신은 볼츠만 머신에서, 일부 유닛(unit) 사이의 연결을 없앤 형태의 모델이다. 볼츠만 머신 또는 제한된 볼츠만 머신은 비지도 학습(unsupervised learning) 신경망 모델로서, 입력 뉴런층과 은닉 뉴런층을 포함한다.
후술하는 바와 같이, 뉴럴 네트워크(125)를 학습시켜 음원 분리를 수행토록 할 수 있다.
상기와 같은 프로세서(120)는 하나 혹은 복수의 유닛들로 이루어져 있을 수 있다. 다른 예로, 계산이 많이 필요한 부분은 네트워크를 통해 접속되는 서버에서 수행될 수 있으며, 이 경우 프로세서(120)는 네트워크를 통해 연결되는 서버의 일부까지 포함하여 해석될 수도 있다.
메모리(130)는 휘발성 메모리나 비휘발성 메모리와 같은 내장 메모리를 포함할 수 있다. 메모리(130)는 프로세서(120)의 제어에 의해 음원 분리 장치(100)를 구동하고 제어하는 다양한 데이터, 프로그램 또는 어플리케이션을 저장할 수 있다. 메모리(130)는 음향입력장치(110), 프로세서(120), 입/출력을 위한 인터페이스(140)의 구동에 대응되는 입력/출력되는 신호 또는 데이터를 저장할 수 있다.
인터페이스(140)는 음원 분리 장치(100)와 외부 사이의 입출력을 담당한다. 인터페이스(140)는 유선 혹은 무선 통신 모듈을 포함할 수 있다.
도 3 및 도 4는 본 발명의 일 실시예에 따른 음원 분리 방법을 도시한 다이어그램이다.
도 3을 참조하면, 본 실시예의 음원 분리 방법은 먼저 제1 및 제2 마이크로폰(111, 112)을 통해 제1 및 제2 음향 정보를 획득한다(S210). 상기 획득한 제1 및 제2 음향 정보는 시간에 대한 전자 신호의 강도(intensity) 데이터 리스트이다. 이러한 시간에 대한 전자 신호의 강도 데이터 리스트는 디지털화된 파동 그래프로 나타낼 수 있다.
제1 및 제2 음향 정보(211, 212)는 각각 제1 및 제2 푸리에 변환부(121, 122)에 입력된다. 제1 및 제2 음향 정보에 대하여 푸리에 변환을 하면 변환된 제1 및 제2 음향 정보를 얻는다(S220, S230). 푸리에 변환된 제1 및 제2 음향 정보는 시간에 대한 주파수별 세기(intensity) 데이터일 수 있다.
도 5는 일 예에 따라 시간에 대한 주파수별 세기 데이터를 나타내는 스펙트로그램(spectrogram)을 도시한다. 도 5를 참조하면, 스펙트로그램의 가로축은 시간 변수에 대한 축이고, 세로축은 주파수 변수에 대한 축이다. 세기(intensity) 차이는 인쇄 농도의 차이로 나타낸다. 다른 예로, 스펙트로그램은 인쇄 농도를 대신하여 표시 색상으로 세기의 차이를 나타낼 수도 있다.
제1 및 제2 파티션부(123, 124)는 각각 푸리에 변환된 제1 및 제2 음향 정보를 입력받아, 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션한다 (S240, S250). 도 5에 도시된 스펙트로그램에서 볼 때, 세로축(주파수축)을 미리 선택된 주파수 간격 f로, 및/또는 가로축(시간축)을 미리 선택된 시간 간격 t로 나누는 것으로 이해될 수 있다. 상기 파티션에서 파티션된 음향정보들의 오버랩(overlap)을 허용할 수도 있다. 가령, 자연수 1부터 100까지의 숫자들을 간격 10, 오버랩 2로 파티션하는 경우는 1-10, 8-17, 15-24, 22-31, ... 으로 파티션되는 것을 의미한다.
도 4를 참조하면, 파티션된 제1 및 제2 음향 정보(241, 242)는 뉴럴 네트워크(125)의 입력으로 한다(S260).
일 실시예의 뉴럴 네트워크(125)는 컨볼루셔널 뉴럴 네트워크를 사용할 수 있으며, 이 경우 뉴럴 네트워크(125)의 내부구조는 컨볼루션 레이어를 포함한다(S270).
음원의 방향은 예시적 방법으로 다음과 같은 카테고리로 분류할 수 있다.
- 2차원공간으로 전 후 좌 우 4개의 카테고리
- 3차원공간으로 전 후 좌 우 상 하 6개 카테고리
- 2차원 공간으로 360도를 일정 간격 θ0로 나눈 카테고리
- 3차원 공간으로 구의 표면적 4π 라디안(radian)을 일정 면적으로 나눈 카테고리
가령, θ0=10도일 경우, 2차원 공간은 36개의 카테고리로 나뉘게 된다.
다른 예로, 3차원 공간을 도 6a 내지 도 6c에 도시된 바와 같이 나눌 수도 있다 (참조: Zinovy Malkin, A new method to subdivide a spherical surface into equal-area cells, arXiv:1612.03467).
음향 정보에 방향값(정답)을 알려주는 지도 학습(supervised learning)으로 뉴럴 네트워크(125)를 학습시킨다.
파티션된 제1 및 제2 음향 정보(241, 242)는 뉴럴 네트워크(125)에 입력하면, 그 출력으로 방향값이 나온다(S280). 특정 세로 방향 띠에 복수의 음원이 담겨 있다면, 복수의 방향값이 나올 것이다.
음원의 방향으로 전후좌우 4개의 카테고리를 분류하는 경우, 학습 후에 전방 음향 정보를 입력으로 주게 되면, 예시적으로 출력은 다음과 같을 수 있다.
전: 0.9
후: 0.01
좌: 0.045
우: 0.045.
상기 예시된 출력은 음원이 전방에 있을 확률이 90%라는 것을 의미한다.
학습 후에 전방과 후방 소리 정보를 섞어서 입력으로 줄 경우, 예시적으로 출력은 다음과 같을 수 있다.
전: 0.45
후: 0.50
좌: 0.026
우: 0.024.
상기 예시된 출력은 음원이 전방에 있을 확률과 후방에 있을 확률이 비슷하게 나오는 것을 의미한다.
다른 실시예의 뉴럴 네트워크(125)는 제한된 볼츠만 머신일 수 있으며, 이 경우 뉴럴 네트워크(125)의 내부구조는 가시 유닛들(Visible Units)과 은닉 유닛들(Hidden Units)을 포함한다(S270). 또는 상기 뉴럴 네트워크는 제한된 볼츠만 머신을 구성 요소로 하는 심층 신뢰 신경망일 수도 있다.
하나의 실시예를 들어 보면, 가시 유닛들에 음향 정보(전처리된 정보, 예를 들면 푸리에 변환, 파티션 후)를 입력하고, 은닉 유닛들은 전후좌우와 같은 카테고리로 한다. 제한된 볼츠만 머신은 학습이 진행됨에 따라서 전방 음향 정보가 입력될 경우에 전방에 해당하는 은닉 유닛이 활성화 되고(즉, 큰 값이 나온다), 후방 음향 정보가 입력될 경우에 후방에 해당하는 은닉 유닛이 활성화 된다.
모든 음원은 휴지기를 가지기 마련이다. 예를 들면, 사람이 말을 할 때, 매 순간 지속적으로 소리를 만들어 내는 것이 아니라, 잠시 쉬는 때가 있다. 물론 휴지기 없이 지속적으로 생성되는 노이즈도 있을 수 있다.
일부 음원이 휴지기인 경우, 스펙트로그램에서 특정 세로 방향 띠에 휴지기에 해당하는 음원의 데이터는 없다. 이 데이터를 인공지능에 입력하면, 그 출력으로 휴지기에 해당하는 음원에 대한 방향값은 사라진다. (즉, 사라진 방향값이 곧 휴지기 음원의 방향값이다.)
스펙트로그램에서의 모든 세로 방향 띠에 대하여 뉴럴 네트워크(125)의 입력과 출력 과정을 거친다.
본 발명의 일 실시예에 따르면, 앞서 설명한 단계 S240, S250, ? S280을 반복할 수 있다.
S240, S250, ? S280의 제1 순환에서 스펙트로그램에서의 가로축(시간축)을 미리 선택된 시간 간격 t으로 나누어 각각의 세로 방향 띠에 대하여, 뉴럴 네트워크(125)에 입력하면, 뉴럴 네트워크(125)는 제1 방향값을 출력한다. S240, S250, ? S280의 제2 순환으로 원래의 스펙트로그램으로 돌아가서 세로축(주파수축)을 미리 선택된 주파수 간격 f로 나누고, 각각의 가로 방향 띠에 대하여, 뉴럴 네트워크(125)에 입력하면, 뉴럴 네트워크(125)는 제2 방향값을 출력한다. 가로 방향 띠와 세로 방향 띠가 교차하는 부분의 방향값은 뉴럴 네트워크(125)의 제1 및 제2 출력값의 교집합이다. 이 교집합의 원소는 하나일 수 있고, 복수개일 수도 있다.
본 발명의 일 실시예에 따르면, 뉴럴 네트워크 출력값, 즉 음원 분리 성과가 목표에 미달할 경우에 상기 설정된 파티션 간격과 오버랩 크기를 조정하는 피드백 루프를 적용하여 음원 분리 성과를 높이는 프로세스를 수행할 수도 있다. 달리 말하면, t, f, 및 오버랩 크기 중 적어도 일부를 조정하여 다시 위의 과정, 즉 S240, S250, ? S280을 반복 수행할 수 있다.
t, f, 오버랩 크기를 조정함에 따라, 파티션된 제1 및 제2 음향정보의 크기가 달라지게 되므로, 파티션이 조정된 제1 및 제2 음향정보는 뉴럴 네트워크(125)의 구조(입력의 크기)에 맞지 않을 수가 있다. 이러한 경우, 파티션이 조정된 제1 및 제2 음향정보는 그 크기를 기존 크기와 같게 만드는 조작을 수행한 후에 뉴럴 네트워크(125)에 입력한다. 가령, t와 f의 값이 좀 더 작게 하면, 파티션된 제1 및 제2 음향정보의 크기가 기존 크기보다 작아지게 되므로, 파티션된 제1 및 제2 음향정보의 크기를 크게 하여 기존 크기와 같도록 한다. 예를 들면, 뉴럴 네트워크(125)의 입력의 크기가 9*9 행렬인데, 파티션이 조정된 제1 및 제2 음향정보의 크기가 7*7 행렬이 되는 경우에, 파티션이 조정된 제1 및 제2 음향정보의 가장자리의 입력값으로 0을 덧붙여 그 크기를 크게 할 수 있다.
스펙트로그램 상의 일부 지역에 있어서, 예를 들면, 제1번 단일 원소를 갖는 지역은 1번 음원의 소리에 해당하며, 제1번과 제3번 원소를 갖는 지역은 1번과 3번 음원의 소리에 해당한다.
음원이 분리된 부분(단일 원소 지역)들을 제거하고, 다시 위의 과정, 즉 S240, S250, ? S280을 반복할 수 있다.
상기 스펙트로그램 대신 MFCC(Mel-frequency cepstral coefficients)나 CRP(Cross Recurrence Plot)를 사용할 수 있다.
앞서 설명에서 스펙트로그램에서의 세로 또는 가로 방향 띠를 뉴럴 네트워크(125) 입력의 단위로 하였으나, 스펙트로그램을 가로 세로 방향으로 나누어서 바둑판모양으로 나누고 각 셀을 뉴럴 네트워크(125) 입력의 단위로 할 수도 있다. 달리 말하면, 푸리에 변환된 음향정보들을 시간 및 주파수 대역을 기설정된 시간 간격 및 주파수 간격으로 파티션할 수도 있다.
다른 실시예로서, 복수의 음원이 담긴 입력 데이터를 인공지능에 넣었을 때, 출력으로 복수의 방향값이 나온다. 예를 들면 제 1방향과 제 2방향이 나온다고 할 때, 제 1방향이 나오도록 긍정적 영향을 끼친 입력 데이터의 일부분은 역전파 알고리즘을 통하여 파악할 수 있다. 이러한 부분들을 모으면 제 1방향의 음원을 추출할 수 있다.
전술한 실시예는 도 3에 도시되듯이 제1 음향정보와 제2 음향정보를 각각 파티션하여 뉴럴 네트워크(125)에 입력한 경우를 예로 들어 설명하였으나, 이에 한정되는 것은 아니다. 음향입력장치에서 획득된 음향정보의 개수(즉, 채널수)가 3개 이상인 경우에 대해서도 3개 이상의 음향정보에 대해 각각 파티션하여 뉴럴 네트워크(125)에 입력할 수 있다는 것은 당업자라면 자명하게 이해할 수 있을 것이다.
도 7은 본 발명의 다른 실시예에 따른 프로세서의 블록도이며, 도 8 및 도 9는 본 발명의 다른 실시예에 따른 음원 분리 방법을 도시적으로 도시한 다이어그램이다.
도 7 내지 도 9를 참조하면, 일 실시예에 따른 프로세서는 제1 푸리에 변환부(321), 제2 푸리에 변환부(322), 차신호 생성부(323), 파티션부(324), 및 뉴럴 네트워크(325)을 포함할 수 있다.
음향입력장치에서 제1 및 제2 음향정보가 획득되면(S410), 제1 및 제2 푸리에 변환부(321, 322)는 제1 음향정보와 제2 음향정보 각각에 대해 주파수별 세기(intensity) 데이터를 생성한다 (S420, S430).
차신호 생성부(323)는 제1 음향정보와 제2 음향정보를 입력 받아 차신호로 생성한다(S440). 즉, 차신호 생성부(323)는 제1 음향정보와 제2 음향정보의 차신호로서, 주파수별 세기차(intensity difference) 데이터를 생성할 수 있다.
만일, 음향입력장치에서 획득된 음향정보의 개수(즉, 채널수)가 3개 이상인 경우, 상기 차신호는 음향정보들 중 임의의 조합으로 이루어진 쌍에서 얻어질 수 있다. 음향정보들의 쌍은 임의로 선택된 하나의 쌍 또는 복수개가 될 수 있다. 가령, 음향정보의 개수(즉, 채널수)가 3개인 경우, 음향정보의 쌍은 3개가 있는 바, 차신호는 이들 3개 쌍 중 임의로 선택하거나 모두를 선택할 수 있다. 전술한 바와 같이, 음원분리를 위해 도 8 및 도 9에서 도시된 단계 S440 내지 S490은 반복될 수 있는 바, 이때, 반복하면서 음향정보들의 쌍의 조합을 달리 할 수도 있을 것이다.
파티션부(324)는 차신호 생성부(323)에서 생성된 차신호를 파티션한다(S450). 파티션부(324)에 입력되는 차신호는 스펙트로그램으로 묘사될 수 있으므로, 전술한 실시예와 유사하게 1) 일정 주파수 간격 또는 2) 일정 시간 간격 또는 3) 일정 주파수 그리고 일정 시간 간격으로 파티션할 수 있다. 파티션된 차신호(451)는 뉴럴 네트워크(325)에 입력되며(S470), 뉴럴 네트워크(325)의 내부 구조를 거쳐(S480), 음원이 분리된 상태로 뉴럴 네트워크(325)에서 출력된다(S490). 파티션된 차신호(451)는 역시 스펙트로그램, MFCC, 또는 CRP으로 묘사될 수 있으므로, 뉴럴 네트워크(325)의 내부 구조로 컨볼루셔널 뉴럴 네트워크, 볼츠만 머신, 제한된 볼츠만 머신, 또는 심층 신뢰 신경망일 수 있으며, 뉴럴 네트워크(325)에서의 학습이나, 음원 분리는 실질적으로 전술한 예와 동일할 수 있다.
전술한 본 발명인 음원 분리 장치 및 방법은 이해를 돕기 위하여 도면에 도시된 실시예를 참고로 설명되었으나, 이는 예시적인 것에 불과하며, 당해 분야에서 통상적 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위에 의해 정해져야 할 것이다.
100: 음원 분리 장치
110: 음향입력장치
111, 112: 마이크로폰
120: 프로세서
121, 122, 321, 322: 푸리에 변환부
123, 124, 324: 파티션부
125, 325: 뉴럴 네트워크
323: 차신호 생성부
110: 음향입력장치
111, 112: 마이크로폰
120: 프로세서
121, 122, 321, 322: 푸리에 변환부
123, 124, 324: 파티션부
125, 325: 뉴럴 네트워크
323: 차신호 생성부
Claims (16)
- 복수의 마이크로폰들을 포함하며, 상기 복수의 마이크로폰들에서 복수의 음향정보들을 각각 획득하는 음향입력장치;
상기 복수의 음향정보들 각각에 대하여 푸리에 변환하는 푸리에 변환부;
푸리에 변환된 복수의 음향정보들을 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 파티션하는 파티션부; 및
파티션된 복수의 음향정보들에 기초하여 형성된 뉴럴 네트워크;를 포함하며,
상기 뉴럴 네트워크에서 출력된 출력정보에 기초하여 상기 복수의 음향정보들에서 음원을 분리하는 것을 특징으로 하는 음원 분리 장치. - 제1 항에 있어서,
상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들 각각에 대하여 파티션하고,
상기 파티션된 복수의 음향정보들이 상기 뉴럴 네트워크에 입력되는 것을 특징으로 하는 음원 분리 장치. - 제1 항에 있어서,
상기 푸리에 변환된 복수의 음향정보들로부터 이루어진 적어도 하나의 쌍에서 차신호를 생성하는 차신호 생성부를 더 포함하며,
상기 파티션부는 상기 차신호에 대하여 파티션하며, 파티션된 차신호가 상기 뉴럴 네트워크에 입력되는 것을 특징으로 하는 음원 분리 장치. - 제1 항에 있어서,
상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 시간 대역에 대하여 기설정된 시간 간격으로 파티션하고, 상기 뉴럴 네트워크는 상기 시간 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제1 출력값을 출력하고,
상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 주파수 대역에 대하여 기설정된 주파수 간격으로 파티션하고, 상기 뉴럴 네트워크는 상기 주파수 대역에 대해 파티션된 복수의 음향정보들을 입력받아 제2 출력값을 출력하고,
상기 제1 및 제2 출력값의 교집합으로 음원을 분리하는 것을 특징으로 하는 음원 분리 장치. - 제1 항에 있어서,
상기 파티션부는 상기 푸리에 변환된 복수의 음향정보들을 시간 대역 및 주파수 대역에 대하여 기설정된 시간 간격 및 기설정된 주파수 간격으로 파티션하고,
상기 뉴럴 네트워크는 시간 대역 및 주파수 대역에 대하여 파티션된 복수의 음향정보들을 입력받는 것을 특징으로 하는 음원 분리 장치. - 제1 항에 있어서,
상기 복수의 음향정보들의 파티션된 정보 조각들은 서로 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 오버랩되는 것을 특징으로 하는 음원 분리 장치. - 제1 항에 있어서,
상기 뉴럴 네트워크는 컨볼루셔널 뉴럴 네트워크, 볼츠만 머신, 제한된 볼츠만 머신, 또는 심층 신뢰 신경망인 것을 특징으로 하는 음원 분리 장치. - 복수의 마이크로폰으로부터 복수의 음향정보들을 각각 획득하는 단계;
획득된 상기 복수의 음향정보들을 각각 푸리에 변환하는 단계;
푸리에 변환된 복수의 음향정보들을 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 간격으로 파티션하는 단계; 및
파티션된 복수의 음향정보들을 뉴럴 네트워크에 입력하는 단계;를 포함하며,
상기 뉴럴 네트워크에서 출력된 출력정보에 기초하여 음원을 분리하는 것을 특징으로 하는 음원 분리 방법. - 제8 항에 있어서,
상기 파티션하는 단계는, 상기 푸리에 변환된 복수의 음향정보들 각각에 대하여 파티션하고,
상기 파티션된 복수의 음향정보들을 직접 상기 뉴럴 네트워크에 입력하는 것을 특징으로 하는 음원 분리 방법. - 제8 항에 있어서,
상기 푸리에 변환된 복수의 음향정보들로부터 이루어진 적어도 하나의 쌍에서 차신호를 생성하는 단계를 더 포함하며,
상기 파티션하는 단계는 차신호에 대하여 파티션하고,
파티션된 차신호를 상기 뉴럴 네트워크에 입력하는 것을 특징으로 하는 음원 분리 방법. - 제8 항에 있어서,
푸리에 변환된 복수의 음향정보들을 시간 대역에 대하여 기설정된 시간 간격으로 파티션하고, 상기 시간 대역에 대해 파티션된 복수의 음향정보들을 상기 뉴럴 네트워크에 입력하여 제1 출력값을 출력받고,
푸리에 변환된 복수의 음향정보들을 주파수 대역에 대하여 기설정된 주파수 간격으로 파티션하고, 상기 주파수 대역에 대해 파티션된 복수의 음향정보들을 상기 뉴럴 네트워크에 입력하여 제2 출력값을 출력받아,
상기 제1 및 제2 출력값의 교집합으로 음원을 분리하는 것을 특징으로 하는 음원 분리 방법. - 제8 항에 있어서,
상기 푸리에 변환된 음향정보들은 시간 및 주파수 대역에 대하여 기설정된 시간 간격 및 기설정된 주파수 간격으로 파티션하고,
시간 대역 및 주파수 대역에 대하여 파티션된 복수의 음향정보들을 상기 뉴럴 네트워크에 입력하는 것을 특징으로 하는 음원 분리 방법. - 제8 항에 있어서,
상기 뉴럴 네트워크는 상기 파티션된 음향정보들을 통해 학습한 것을 특징으로 하는 음원 분리 장치. - 제8 항에 있어서,
상기 파티션하는 복수의 음향정보들은 시간 및 주파수 대역 중 적어도 하나에 대하여 기설정된 중첩 크기로 오버랩되는 것을 특징으로 하는 음원 분리 방법. - 제14 항에 있어서,
상기 뉴럴 네트워크의 출력값이 목표에 미달할 경우에 상기 중첩 크기를 조정하는 단계를 더 포함하는 음원 분리 방법. - 제8 항에 있어서,
상기 뉴럴 네트워크의 출력값이 목표에 미달할 경우에 상기 기설정된 간격을 조정하는 단계를 더 포함하는 음원 분리 방법.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180107886A KR102093819B1 (ko) | 2018-09-10 | 2018-09-10 | 음원 분리 장치 및 방법 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180107886A KR102093819B1 (ko) | 2018-09-10 | 2018-09-10 | 음원 분리 장치 및 방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20200029260A true KR20200029260A (ko) | 2020-03-18 |
| KR102093819B1 KR102093819B1 (ko) | 2020-03-26 |
Family
ID=69958438
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180107886A KR102093819B1 (ko) | 2018-09-10 | 2018-09-10 | 음원 분리 장치 및 방법 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102093819B1 (ko) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101433833B1 (ko) * | 2006-08-22 | 2014-08-27 | 하만 베커 오토모티브 시스템즈 게엠베하 | 음향 신호에 확장된 대역폭을 제공하기 위한 방법 및시스템 |
| US20170061981A1 (en) * | 2015-08-27 | 2017-03-02 | Honda Motor Co., Ltd. | Sound source identification apparatus and sound source identification method |
| KR101812159B1 (ko) * | 2016-10-12 | 2017-12-26 | 고려대학교 산학협력단 | 딥러닝을 이용한 음향 방향 추정 방법 및 장치 |
-
2018
- 2018-09-10 KR KR1020180107886A patent/KR102093819B1/ko active IP Right Grant
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101433833B1 (ko) * | 2006-08-22 | 2014-08-27 | 하만 베커 오토모티브 시스템즈 게엠베하 | 음향 신호에 확장된 대역폭을 제공하기 위한 방법 및시스템 |
| US20170061981A1 (en) * | 2015-08-27 | 2017-03-02 | Honda Motor Co., Ltd. | Sound source identification apparatus and sound source identification method |
| KR101812159B1 (ko) * | 2016-10-12 | 2017-12-26 | 고려대학교 산학협력단 | 딥러닝을 이용한 음향 방향 추정 방법 및 장치 |
Also Published As
| Publication number | Publication date |
|---|---|
| KR102093819B1 (ko) | 2020-03-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Tan et al. | A convolutional recurrent neural network for real-time speech enhancement. | |
| Luo et al. | Conv-tasnet: Surpassing ideal time–frequency magnitude masking for speech separation | |
| CN110459238B (zh) | 语音分离方法、语音识别方法及相关设备 | |
| US10679612B2 (en) | Speech recognizing method and apparatus | |
| Liu et al. | Multichannel speech enhancement by raw waveform-mapping using fully convolutional networks | |
| JP6668366B2 (ja) | オーディオ源の分離 | |
| US11282505B2 (en) | Acoustic signal processing with neural network using amplitude, phase, and frequency | |
| Chazan et al. | Multi-microphone speaker separation based on deep DOA estimation | |
| US11031028B2 (en) | Information processing apparatus, information processing method, and recording medium | |
| JP6482173B2 (ja) | 音響信号処理装置およびその方法 | |
| Hussain et al. | Ensemble hierarchical extreme learning machine for speech dereverberation | |
| Qu et al. | Multimodal target speech separation with voice and face references | |
| Vargas et al. | On improved training of CNN for acoustic source localisation | |
| Furnon et al. | DNN-based distributed multichannel mask estimation for speech enhancement in microphone arrays | |
| US11514927B2 (en) | System and method for multichannel speech detection | |
| Gadasin et al. | Using Formants for Human Speech Recognition by Artificial Intelligence | |
| KR102093819B1 (ko) | 음원 분리 장치 및 방법 | |
| CN112180318A (zh) | 声源波达方向估计模型训练和声源波达方向估计方法 | |
| KR101593672B1 (ko) | 음향 분리 방법 및 장치 | |
| Chauhan et al. | Speech recognition and separation system using deep learning | |
| Jafari et al. | Underdetermined blind source separation with fuzzy clustering for arbitrarily arranged sensors | |
| JP2020034870A (ja) | 信号解析装置、方法、及びプログラム | |
| Molés-Cases et al. | Providing spatial control in personal sound zones using graph signal processing | |
| US10803882B2 (en) | Apparatus and method of separating sound sources | |
| Yang et al. | Underwater acoustic target recognition based on sub-band concatenated Mel spectrogram and multidomain attention mechanism |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| AMND | Amendment | ||
| X091 | Application refused [patent] | ||
| AMND | Amendment | ||
| X701 | Decision to grant (after re-examination) |