KR20220061467A - 전자 장치 및 이의 오디오 신호 처리 방법 - Google Patents
전자 장치 및 이의 오디오 신호 처리 방법 Download PDFInfo
- Publication number
- KR20220061467A KR20220061467A KR1020200147475A KR20200147475A KR20220061467A KR 20220061467 A KR20220061467 A KR 20220061467A KR 1020200147475 A KR1020200147475 A KR 1020200147475A KR 20200147475 A KR20200147475 A KR 20200147475A KR 20220061467 A KR20220061467 A KR 20220061467A
- Authority
- KR
- South Korea
- Prior art keywords
- audio signal
- processor
- processing
- mask data
- memory
- Prior art date
Links
- 230000005236 sound signal Effects 0.000 title claims abstract description 147
- 238000000034 method Methods 0.000 title claims abstract description 31
- 238000012545 processing Methods 0.000 title claims description 17
- 238000003062 neural network model Methods 0.000 claims abstract description 14
- 238000003672 processing method Methods 0.000 claims abstract description 13
- 238000012805 post-processing Methods 0.000 claims description 34
- 238000007781 pre-processing Methods 0.000 claims description 33
- 230000001537 neural effect Effects 0.000 claims description 6
- 230000003111 delayed effect Effects 0.000 claims description 2
- 238000000926 separation method Methods 0.000 abstract description 17
- 230000008569 process Effects 0.000 abstract description 9
- 238000004891 communication Methods 0.000 description 30
- 230000000873 masking effect Effects 0.000 description 20
- 230000006870 function Effects 0.000 description 7
- 230000014509 gene expression Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 1
- 238000002583 angiography Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000002591 computed tomography Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 239000008103 glucose Substances 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000002595 magnetic resonance imaging Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 229910021420 polycrystalline silicon Inorganic materials 0.000 description 1
- 229920005591 polysilicon Polymers 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000000060 site-specific infrared dichroism spectroscopy Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 239000004753 textile Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0272—Voice signal separating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/16—Vocoder architecture
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/16—Vocoder architecture
- G10L19/167—Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Circuit For Audible Band Transducer (AREA)
Abstract
전자 장치 및 이의 오디오 신호 처리 방법이 제공된다. 본 개시에 따른 전자 장치는 입력 오디오 신호를 전처리하는 제1 프로세서, 전처리된 오디오 신호를 저장하는 메모리 및 학습된 신경망 모델에 전처리된 오디오 신호를 입력하여 전처리된 오디오 신호의 소스를 분리하기 위한 마스크 데이터를 획득하며, 획득된 마스크 데이터를 메모리에 저장하는 제2 프로세서를 포함하며, 제1 프로세서는 입력 오디오 신호를 전처리하고 기설정된 시간이 지연된 후 메모리에 저장된 마스크 데이터를 이용하여 전처리된 오디오 신호의 소스를 분리하며, 소스가 분리된 오디오 신호를 후처리한다.
Description
본 개시는 전자 장치 및 이의 오디오 신호 처리 방법에 관한 것으로, 더욱 상세하게는 마스크 데이터를 이용하여 오디오 신호의 소스를 분리할 수 있는 전자 장치 및 이의 오디오 신호 처리 방법에 관한 것이다.
오디오 소스 분리는 오디오 신호 처리의 대표적인 분야 중 하나이다. 특히, 오디오 소스 분리는 음성 신호의 전처리, 통화품질 향상, 보컬 및 악기 분리, 잡음제거, 음성 명료도 향상 등과 같은 다양한 효과를 가질 수 있기 때문에, 다양한 어플리케이션에서 활용된다.
최근에는 머신 러닝/딥 러닝을 활용한 오디오 신호의 처리 기술의 고도화와 동시에 고연산 능력을 갖춘 프로세서들이 양산되어, 향상된 성능을 가지는 오디오 소스 분리 기술이 개발되어 있다. 특히, 근래에는 NPU(Neural Processing Unit) 등과 같은 고연산 능력을 갖춘 프로세서를 이용하여 오디오 소스를 분리하는 기술이 개발되고 있다.
다만, 기존에는 단순히 NPU를 이용하여 오디오 소스를 분리하는 기술이 존재하나, NPU를 이용하여 실시간으로 전송되는 오디오 신호에 대한 소스 분리 기술은 개발되지 않고 있다. 따라서, NPU를 이용하여 실시간으로 전송되는 오디오 신호를 처리하는 방안에 대한 개발의 모색이 요청된다.
본 개시는 상술한 문제점을 해결하기 위해 안출된 것으로, 본 발명의 목적은 실시간으로 전송되는 오디오 신호의 소스 분리를 위하여, 오디오 신호에 대해 전처리를 수행한 후 일정 시간동안 지연 시키고 나서 마스크 데이터를 이용하여 전처리된 오디오 신호의 소스를 분리하는 전자 장치 및 이의 오디오 신호 처리 방법을 제공함에 있다.
본 개시의 일 실시예에 따른 전자 장치는, 입력 오디오 신호를 전처리하는 제1 프로세서; 상기 전처리된 오디오 신호를 저장하는 메모리; 및 학습된 신경망 모델에 상기 전처리된 오디오 신호를 입력하여 상기 전처리된 오디오 신호의 소스를 분리하기 위한 마스크 데이터를 획득하며, 상기 획득된 마스크 데이터를 상기 메모리에 저장하는 제2 프로세서;를 포함하며, 상기 제1 프로세서는, 상기 입력 오디오 신호를 전처리하고 기설정된 시간이 지연된 후 상기 메모리에 저장된 마스크 데이터를 이용하여 상기 전처리된 오디오 신호의 소스를 분리하며, 상기 소스가 분리된 오디오 신호를 후처리할 수 있다.
그리고, 상기 기설정된 시간은, 상기 오디오 신호의 전처리 시간, 상기 제2 프로세서가 마스크 데이터를 획득하는 시간 및 상기 오디오 신호의 후처리 시간 중 적어도 하나를 바탕으로 결정될 수 있다.
또한, 상기 기설정된 시간은, 상기 오디오 신호의 전처리 시간과 상기 오디오 신호의 후처리 시간과 상기 기설정된 시간의 합이 임계값보다 작도록 결정될 수 있다.
그리고, 상기 제1 프로세서는, n번째 또는 상기 n 번째 이전의 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리할 수 있다.
또한, 상기 제1 프로세서는, 기 지정된(Predetermined) 명령어를 바탕으로 유효한 결과값을 발생시키지 않고 상기 기설정된 시간 동안 연산을 수행함으로써 상기 기설정된 시간동안 지연시킬 수 있다.
그리고, 상기 제1 프로세서는 DSP(Digital signal processor)이며, 상기 제2 프로세서는 NPU(Neural Processing Unit)일 수 있다.
또한, 상기 제1 프로세서, 상기 메모리 및 상기 제2 프로세서는 하나의 칩으로 구현될 수 있다.
본 개시의 일 실시예에 따른, 전자 장치의 오디오 신호 처리 방법은, DSP(Digital signal processor)가 입력 오디오 신호를 전처리하는 단계; 상기 전처리된 오디오 신호를 메모리에 저장하는 단계; NPU(Neural Processing Unit)가 학습된 신경망 모델에 상기 전처리된 오디오 신호를 입력하여 상기 전처리된 오디오 신호의 소스를 분리하기 위한 마스크 데이터를 획득하는 단계; 상기 획득된 마스크 데이터를 상기 메모리에 저장하는 단계; 및 상기 입력 오디오 신호를 전처리하고 기설정된 시간이 지연된 후, 상기 DSP가 상기 메모리에 저장된 마스크 데이터를 이용하여 상기 전처리된 오디오 신호의 소스를 분리하며, 상기 소스가 분리된 오디오 신호를 후처리하는 단계;를 포함할 수 있다.
또한, 상기 기설정된 시간은, 상기 오디오 신호의 전처리 시간, 상기 제2 프로세서가 마스크 데이터를 획득하는 시간 및 상기 오디오 신호의 후처리 시간 중 적어도 하나를 바탕으로 결정될 수 있다.
그리고, 상기 기설정된 시간은, 상기 오디오 신호의 전처리 시간과 상기 오디오 신호의 후처리 시간과 상기 기설정된 시간의 합이 임계값보다 작도록 결정될 수 있다.
또한, 상기 후처리하는 단계는, n번째 또는 상기 n번째 이전의 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리하고, 상기 소스가 분리된 오디오 신호를 후처리할 수 있다.
그리고, 상기 제1 프로세서는, 기 지정된(Predetermined) 명령어를 바탕으로 유효한 결과값을 발생시키지 않고 상기 기설정된 시간 동안 연산을 수행함으로써 상기 기설정된 시간동안 지연시킬 수 있다.
또한, 상기 제1 프로세서, 상기 메모리 및 상기 제2 프로세서는 하나의 칩으로 구현될 수 있다.
상술한 바와 같은 다양한 실시예에 의해, 전자 장치는 실시간으로 전송되는 오디오 신호에 대한 소스 분리의 성능을 향상시킬 수 있다.
도 1은 본 개시의 일 실시예에 따른, 전자 장치의 구성을 간략히 설명하기 위한 블록도,
도 2는 본 개시의 일 실시예에 따른, 전자 장치가 오디오 소스를 분리하는 방법을 설명하기 위한 도면,
도 3은 지연 동작 없이 오디오 소스를 분리하는 실시예를 설명하기 위한 도면,
도 4는 본 개시의 일 실시예에 따른, 지연 동작을 수행하여 오디오 소스를 분리하는 실시예를 설명하기 위한 도면,
도 5는 본 개시의 일 실시예에 따른, 전자 장치의 오디오 신호 처리 방법을 설명하기 위한 흐름도, 그리고,
도 6은 본 개시의 일 실시예에 따른, 전자 장치의 구성을 상세히 설명하기 위한 블록도이다.
도 2는 본 개시의 일 실시예에 따른, 전자 장치가 오디오 소스를 분리하는 방법을 설명하기 위한 도면,
도 3은 지연 동작 없이 오디오 소스를 분리하는 실시예를 설명하기 위한 도면,
도 4는 본 개시의 일 실시예에 따른, 지연 동작을 수행하여 오디오 소스를 분리하는 실시예를 설명하기 위한 도면,
도 5는 본 개시의 일 실시예에 따른, 전자 장치의 오디오 신호 처리 방법을 설명하기 위한 흐름도, 그리고,
도 6은 본 개시의 일 실시예에 따른, 전자 장치의 구성을 상세히 설명하기 위한 블록도이다.
본 실시 예들은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 특정한 실시 형태에 대해 범위를 한정하려는 것이 아니며, 본 개시의 실시 예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 개시를 설명함에 있어서, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그에 대한 상세한 설명은 생략한다.
덧붙여, 하기 실시 예는 여러 가지 다른 형태로 변형될 수 있으며, 본 개시의 기술적 사상의 범위가 하기 실시 예에 한정되는 것은 아니다. 오히려, 이들 실시 예는 본 개시를 더욱 충실하고 완전하게 하고, 당업자에게 본 개시의 기술적 사상을 완전하게 전달하기 위하여 제공되는 것이다.
본 개시에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 권리범위를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 개시에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 개시에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 개시에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다.
반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 개시에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다.
대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
실시 예에 있어서 '모듈' 혹은 '부'는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 '모듈' 혹은 복수의 '부'는 특정한 하드웨어로 구현될 필요가 있는 '모듈' 혹은 '부'를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.
한편, 도면에서의 다양한 요소와 영역은 개략적으로 그려진 것이다. 따라서, 본 발명의 기술적 사상은 첨부한 도면에 그려진 상대적인 크기나 간격에 의해 제한되지 않는다.
한편, 본 개시의 다양한 실시 예에 따른 전자 장치는 예를 들면, 스마트 폰, 태블릿 PC, 데스크탑 PC, 랩탑 PC 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 예를 들면, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
이하에서는 첨부한 도면을 참고하여 본 개시에 따른 실시 예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다.
이하에서는 도면을 참조하여 본 개시에 대해 더욱 상세히 설명하기로 한다. 도 1은 본 개시의 일 실시예에 따른, 전자 장치의 구성을 간략히 설명하기 위한 블록도이다. 도 1에 도시된 바와 같이, 전자 장치(100)는 제1 프로세서(110), 메모리(120) 및 제2 프로세서(130)를 포함할 수 있다. 본 개시의 일 실시예에 따른 전자 장치는 실시간으로 방송 컨텐츠를 제공하는 TV일 수 있으나, 이는 일 실시예에 불과할 뿐, 상술한 바와 같은 다양한 장치로 구현될 수 있다.
제1 프로세서(110)는 입력된 오디오 신호를 전처리하고, 전처리된 오디오 신호를 메모리(120)로 전송할 수 있다. 그리고, 제1 프로세서(110)는 제2 프로세서(130)를 통해 획득된 마스크 데이터를 메모리(120)로부터 독출하여 전처리된 오디오 신호에 대한 소스 분리를 수행할 수 있다. 그리고, 제1 프로세서(110)는 소스 분리된 오디오 신호를 바탕으로 후처리 동작을 수행할 수 있다.
특히, 제1 프로세서(110)는 전처리를 수행한 후 기설정된 시간을 지연시키고 소스 분리 및 후처리를 수행할 수 있다. 즉, 제1 프로세서(110)는 메모리(120)에 저장된 가장 최신의 마스크 데이터를 이용하여 전처리된 오디오 신호로부터 소스를 분리할 수 있으며, 이에 의해, 오디오 신호의 소스 분리 성능이 향상될 수 있다. 제1 프로세서(110)가 지연 동작을 수행한 후 소스 분리 및 후처리를 수행하는 실시예는 추후에 도면을 참조하여 설명하기로 한다.
한편, 본 개시의 일 실시예에 따른, 제1 프로세서(110)는 DSP(Digital signal processor)로서, 범용 프로세서(예로, CPU(Central Processing Unit), AP(application processor) 등)으로 구현될 수 있다.
메모리(120)는 제1 프로세서(110)에 의해 전처리된 오디오 신호를 저장할 수 있다. 또한, 메모리(120)는 제2 프로세서(110)에 의해 획득된 마스크 데이터를 저장할 수 있다. 이때, 제1 프로세서(110)는 메모리(120)의 특정 주소에 저장된 마스크 데이터를 주기적으로 독출하여 전처리된 오디오 신호에 대한 소스 분리를 수행할 수 있다.
한편, 본 개시의 일 실시예에 따른, 메모리(120)는 버퍼(buffer)와 같은 휘발성 메모리로 구현될 수 있다.
제2 프로세서(130)는 메모리(120)에 저장된 전처리된 오디오 신호를 학습된 신경망 모델에 입력하여 오디오 신호의 소스 분리를 위한 마스크 데이터를 획득할 수 있다. 이때, 마스크 데이터는 오디오 신호에서 특정 주파수 대역의 신호를 추출하기 위한 데이터로서, 오디오 신호의 소스 분리에 이용될 수 있다. 또한, 학습된 신경망 모델은 전처리된 오디오 신호를 입력하여 전처리된 오디오 신호로부터 특정 주파수 대역(예로, 음성)을 획득하기 위한 마스크 데이터를 획득하도록 학습된 모델일 수 있다. 이때, 신경망 모델은 복수의 신경망 레이어들로 구성될 수 있다. 각 레이어는 복수의 가중치(weight values)을 갖고 있으며, 이전(previous) 레이어의 연산 결과와 복수의 가중치의 연산을 통해 레이어의 연산을 수행한다. 신경망의 예로는, CNN (Convolutional Neural Network), DNN (Deep Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN(Bidirectional Recurrent Deep Neural Network), GAN(Generative Adversarial Networks) 및 심층 Q-네트워크 (Deep Q-Networks)이 있으며, 본 개시에서의 신경망 모델은 명시한 경우를 제외하고 전술한 예에 한정되지 않는다.
한편, 제2 프로세서(130)는 신경망 모델을 이용하여 마스킹 데이터를 신속하게 획득하기 위하여 고성능의 프로세서, 예를 들어, NPU(Neural processing unit)로 구현될 수 있다.
또한, 제1 프로세서(110), 메모리(120) 및 제2 프로세서(130)은 하나의 칩으로 구현될 수 있다.
이하에서는 도 2 내지 도 4를 참조하여 본 개시의 일 실시예에 따른, 전자 장치의 오디오 신호 처리 방법에 대해 더욱 상세히 설명하기로 한다.
도 2는 본 개시의 일 실시예에 따른, 전자 장치의 오디오 신호 처리 방법을 설명하기 위한 도면이다.
우선, 제1 프로세서(110)는 오디오 신호를 입력받을 수 있다. 이때, 오디오 신호는 실시간으로 전송되는 방송 컨텐츠에 포함된 오디오 신호일 수 있으나, 이에 한정되는 것은 아니다.
제1 프로세서(110)는 입력된 오디오 신호에 대한 전처리를 수행할 수 있다(210). 구체적으로, 제1 프로세서(110)는 입력된 오디오 신호를 시간-주파수(Time-Frequency) 2차원의 스펙트로그램 데이터로 전처리를 수행할 수 있다. 이때, 제1 프로세서(110)는 푸리에 변환(Fourier Transform)을 이용하여 입력된 오디오 신호를 스펙트로그램 데이터로 처리할 수 있다. 그 밖에 제1 프로세서(110)는 입력된 오디오 신호의 노이즈를 제거하는 등의 전처리를 수행할 수 있다. 이때, 프로세서(110)는 최소 처리 시간 단위인 프레임 단위로 오디오 신호에 대한 전처리를 수행할 수 있다. 일 예로, 1 프레임은 5ms일 수 있으나, 이에 한정되는 것은 아니다.
제1 프로세서(110)는 전처리된 오디오 신호(즉, 스펙트로그램 데이터)를 메모리(120)에 저장될 수 있다.
제2 프로세서(130)는 메모리(120)에 저장된 전처리된 오디오 신호를 독출하고, 독출된 오디오 신호를 학습된 신경망 모델에 입력하여 오디오 신호로부터 특정 소스(예를 들어, 음성)를 추출하기 위한 마스크 데이터를 획득(또는 추출)할 수 있다(220). 이때, 학습된 신경망 모델은 전처리된 오디오 신호를 입력 데이터로 하여 오디오 신호의 소스를 추출하기 위한 마스크 데이터를 획득하도록 학습된 신경망 모델일 수 있으며, 일 예로, CNN으로 구현될 수 있으나, 이에 한정되는 것은 아니다. 이때, 마스크 데이터는 시간-주파수 2차원으로 표현되는 데이터일 수 있다.
제2 프로세서(130)는 획득된 마스크 데이터를 메모리(120)의 특정 주소에 저장할 수 있다. 즉, 제2 프로세서(130)는 프레임 단위로 획득된 마스크 데이터를 메모리(120)에 저장될 수 있다.
제1 프로세서(110)는 마스크 데이터를 이용하여 마스킹 동작(240)을 수행하기 전에 지연 동작을 수행할 수 있다(230). 구체적으로, 마스크 데이터를 이용하여 소스를 분리하는 마스킹 기법의 경우, 오디오 지연 효과를 방지하기 위하여 가장 최신의 마스크 데이터를 이용하여 소스 분리를 수행하여야 한다. 특히, 데이터 처리 및 이동 시간(예로, 제1 프로세서(110)와 메모리(120) 사이의 데이터 이동에 따른 시간, 메모리(120)와 제2 프로세서(130) 사이의 데이터 이동에 따른 시간)으로 인해 현재 오디오 프레임에 대응되는 마스크 데이터를 이용하여 현재 오디오 프레임의 소스를 분리하지 못하기 때문에, 가장 최근의 획득된 오디오 프레임에 대응되는 마스크 데이터를 이용하여 현재 오디오 프레임의 소스 분리를 수행하게 된다. 예로, 현재 오디오 프레임이 n번째라고 하면, 가장 최근에 획득한 n-p번째의 오디오 프레임에 대응되는 마스크 데이터가 n번째 오디오 프레임의 소스 분리를 위한 마스크 데이터로 이용될 수 있다. 이때, p가 클수록 현재보다 먼 과거의 오디오 프레임에 대응되는 마스크 데이터를 이용하므로 오디오 소스의 분리성능이 하락하는 결과를 초래하게 된다.
본 개시의 일 실시예에 따르면, n-2 번째 오디오 프레임의 전처리 시간을 t1이라 하고, n-2 번째 오디오 프레임의 마스킹 및 후처리 시간을 t2라 하고, n-2 번째 오디오 프레임에 대응되는 마스크 데이터를 획득하는 시간을 t3라고 하며, n-1 번째 오디오 프레임의 전처리 시간을 t4이라 하고, n-1 번째 오디오 프레임의 마스킹 및 후처리 시간을 t5라 하고, n-1 번째 오디오 프레임에 대응되는 마스크 데이터를 획득하는 시간을 t6라고 하며, n 번째 오디오 프레임의 전처리 시간을 t7이라 하고, n 번째 오디오 프레임의 마스킹 및 후처리 시간을 t8라 할 때, 전처리 동작과 마스킹 및 후처리 동작 사이에 지연 동작이 없는 경우, 도 3에 도시된 바와 같이, n 번째 오디오 프레임의 마스킹 및 후처리 동작(t8) 후에 n-1번째 오디오 프레임에 대응되는 마스크 데이터를 획득하게 된다. 즉, n 번째 오디오 프레임의 마스킹 및 후처리 동작(t8)이 수행될 때까지 n-1 번째 오디오 프레임에 대응되는 마스크 데이터를 획득할 수 없게 된다. 이에 의해, n 번째 오디오 프레임의 마스킹 동작을 위해 n-2 번째 오디오 프레임에 대응되는 마스크 데이터를 이용하게 된다.
그에 반해, 전처리 동작과 마스킹 및 후처리 동작 사이에 기설정된 시간(td)만큼의 지연 동작이 존재하는 경우, 도 4에 도시된 바와 같이, n 번째 오디오 프레임의 마스킹 및 후처리 동작(t8) 전에 n-1번째 오디오 프레임에 대응되는 마스크 데이터를 획득하게 된다. 즉, n 번째 오디오 프레임의 마스킹 동작을 위해 n-1 번째 오디오 프레임에 대응되는 마스크 데이터를 이용하게 된다. 따라서, 지연 동작으로 인해 현재 오디오 프레임의 이전 오디오 프레임에 대응되는 마스크 데이터를 이용하여 마스킹 동작을 수행할 수 있게 된다. 이에 의해, 가장 최신의 마스크 데이터를 이용하여 마스킹 동작의 성능을 높일 수 있으므로, 더욱 향상된 오디오 신호의 소스 분리가 가능하게 된다.
이때, 기설정된 시간(td)은 오디오 신호의 전처리 시간, 제2 프로세서(130)가 마스크 데이터를 획득하는 시간 및 오디오 신호의 후처리 시간(마스킹 동작 포함) 중 적어도 하나를 바탕으로 결정될 수 있다. 즉, 도 4에 도시된 바와 같이, 기설정된 시간(td)은 오디오 신호의 이전 오디오 프레임의 마스크 데이터를 획득하는 시간이 오디오 신호의 현재 오디오 프레임의 전처리 시간과 오디오 신호의 현재 오디오 프레임의 후처리 시간(마스킹 동작 포함) 사이가 되도록하는 시간일 수 있다.
특히, 기설정된 시간(td)은 오디오 출력 지연을 최소화하기 위해 임계값 이내로 제한할 수 있다. 즉, 기설정된 시간(td)은 아래의 수학식 1과 같이, 오디오 신호의 전처리 시간과 상기 오디오 신호의 후처리 시간과 상기 기설정된 시간의 합이 임계값보다 작도록 결정할 수 있다.
여기서, 임계값은 단일 오디오 프레임 시간으로 설정할 수 있다
특히, 제1 프로세서(110)는 기 지정된 명령어(예컨대, 공회전처럼 결과에 영향없이 연산량을 소모하는 코드)를 바탕으로 유효한 결과값을 발생시키지 않고 기설정된 시간 동안 연산을 수행함으로써 지연 동작(230)을 수행할 수 있다. 이때, 제1 프로세서(110)는 명령어에 포함된 사이클의 개수를 바탕으로 지연 시간(td)를 결정할 수 있다.
제1 프로세서(110)는 지연 동작(230) 이후 메모리(120)의 특정 주소에 저장된 마스크 데이터를 이용하여 마스킹 동작을 수행할 수 있다(240). 이때, 마스킹 동작(240)은 마스크 데이터를 이용하여 전처리된 오디오 신호로부터 소스를 분리하는 동작을 말한다. 앞서 설명한 바와 같은 지연 동작(230)을 수행한 후, 제1 프로세서(110)는 n번째 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리할 수 있다.
한편, 상술한 실시예에서는 n번째 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리하는 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, n번째 이전의 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리할 수 있다.
본 개시의 다른 실시예로, 마스크 데이터는 대응되는 오디오 프레임을 나타내는 프레임 인덱스를 포함할 수 있다. 즉, 제1 프로세서(110)는 프레임 인덱스를 바탕으로 메모리(120)에 저장된 마스크 데이터 중 가장 최신의 마스크 데이터를 식별하여 전처리된 오디오 신호의 소스를 분리할 수 있다.
이때, 오디오 신호로부터 분리된 소스는 방송 컨텐츠의 음성, 스포츠 컨텐츠의 함성 소리, 음악 컨텐츠의 악기 소리 등과 같은 소스일 수 있다.
제1 프로세서(110)는 마스킹 동작(240)을 통해 소스가 분리된 오디오 신호에 대한 후처리를 수행할 수 있다(250). 이때, 후처리는 시간-주파수 2차원의 오디오 신호를 출력 가능한 형태의 오디오 신호로 처리하는 동작을 포함할 수 있다. 또한, 후처리는 분리된 소스를 바탕으로 오디오 성능을 향상시키기 위한 동작을 포함할 수 있다. 예로, 제1 프로세서(110)는 방송 컨텐츠에 포함된 오디오 신호로부터 음성을 분리하고, 분리된 음성에 대한 명료도를 향상시킬 수 있다. 다른 예로, 제1 프로세서(110)는 스포츠 컨텐츠에 포함된 오디오 신호로부터 함성 소리를 분리하고, 분리된 함성 소리의 크기를 조절할 수 있다. 다른 예로, 제1 프로세서(110)는 음악 컨텐츠에서 악기 소리를 분리하고, 악기 중 일부의 크기를 조절할 수 있다. 또 다른 예로, 제1 프로세서(110)는 외부 장치와 전화 통신을 수행하는 동안 수신되는 오디오 신호 중 상대방 목소리를 분리하고, 분리된 목소리의 명료도를 향상시킬 수 있다.
제1 프로세서(110)는 후처리된 오디오 신호를 출력할 수 있다. 이때, 제1 프로세서(110)는 스피커를 통해 후처리된 오디오 신호를 출력할 수 있으나, 이는 일 실시예에 불과할 뿐, 출력 단자를 통해 외부 스피커로 오디오 신호를 출력할 수 있다.
도 5는 본 개시의 일 실시예에 따른, 전자 장치의 오디오 신호 처리 방법을 설명하기 위한 흐름도이다.
우선, 전자 장치(100)는 입력 오디오 신호를 수신할 수 있다(S510). 이때, 입력 오디오 신호는 튜너와 같은 방송 수신 장치를 통해 수신될 수 있으나, 이는 일 실시예에 불과할 뿐, 통신 인터페이스 등과 같은 다양한 통신 장치를 통해 수신될 수 있다.
전자 장치(100)는 제1 프로세서(110)를 통해 입력 오디오 신호를 전처리할 수 있다(S520). 이때, 전처리는 입력 오디오 신호를 시간-주파수 2차원의 스펙트로그램 데이터로 처리하는 것을 포함할 수 있다.
전자 장치(100)는 전처리된 오디오 신호를 메모리(120)에 저장할 수 있다(S530).
전자 장치(100)는 제2 프로세서(130)를 통해 학습된 신경망 모델에 전처리된 오디오 신호를 입력하여 전처리된 오디오 신호의 소스를 분리하기 위한 마스크 데이터를 획득할 수 있다(S540). 이때, 마스크 데이터는 오디오 신호로부터 특정 주파수 대역의 소스를 분리하기 위한 데이터로서, 시간-주파수 2차원 형태의 데이터일 수 있다.
전자 장치(100)는 획득된 마스크 데이터를 메모리(120)에 저장할 수 있다(S550).
전자 장치(100)는 입력 오디오 신호를 전처리하고 기설정된 시간이 지연된 후, 제1 프로세서(110)를 통해 메모리(120)에 저장된 마스크 데이터를 이용하여 전처리된 오디오 신호의 소스를 분리할 수 있다(S560). 이때, 기설정된 시간은 오디오 신호의 전처리 시간, 제2 프로세서(130)가 마스크 데이터를 획득하는 시간 및 오디오 신호의 후처리 시간 중 적어도 하나를 바탕으로 결정될 수 있다. 특히, 기설정된 시간은 오디오 신호의 이전 오디오 프레임의 마스크 데이터를 획득하는 시간이 오디오 신호의 현재 오디오 프레임의 전처리 시간과 오디오 신호의 현재 오디오 프레임의 후처리 시간 사이가 되도록하는 시간일 수 있다. 이에 의해, 전자 장치(100)는 n번째 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리할 수 있다.
전자 장치(100)는 소스가 분리된 오디오 신호를 후처리할 수 있다(S570). 이때, 후처리는 분리된 소스를 이용하여 오디오 성능을 향상시키기 위한 처리 또는 시간-주파수 2차원의 데이터를 출력 가능한 형태로 전환하는 처리를 포함할 수 있다.
전자 장치(100)는 추처리된 오디오 신호를 출력할 수 있다(S580).
도 6을 참조하면, 전자 장치(600)는 디스플레이(610), 통신 인터페이스(620), 메모리(630), 프로세서(640), 사용자 인터페이스(650), 입출력 인터페이스(660), 카메라(670), 마이크(680) 및 스피커(690)로 구성될 수 있다. 이때, 프로세서(640)는 제1 프로세서(641) 및 제2 프로세서(643)를 포함할 수 있다.
한편, 제1 프로세서(641), 메모리(630) 및 제2 프로세서(643)는 앞서 설명한 제1 프로세서(110), 메모리(120) 및 제2 프로세서(130)와 동일하므로, 중복 설명은 생략한다.
디스플레이(610)는 LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diodes) 디스플레이, PDP(Plasma Display Panel) 등과 같은 다양한 형태의 디스플레이로 구현될 수 있다. 디스플레이(110)내에는 a-si TFT, LTPS(low temperature poly silicon) TFT, OTFT(organic TFT) 등과 같은 형태로 구현될 수 있는 구동 회로, 백라이트 유닛 등도 함께 포함될 수 있다. 한편, 디스플레이(610)는 터치 센서와 결합된 터치 스크린, 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등으로 구현될 수 있다.
또한, 본 개시의 일 실시 예에 따른, 디스플레이(610)는 외부로부터 수신되는 다양한 영상 컨텐츠(예로, 방송 컨텐츠 등)를 디스플레이할 수 있다.
통신 인터페이스(620)는 다양한 유형의 통신 방식에 따라 다양한 유형의 외부 장치와 통신을 수행하는 구성이다. 통신 인터페이스(620)는 와이파이 모듈, 블루투스 모듈, 적외선 통신 모듈 및 무선 통신 모듈 등을 포함한다. 여기서, 각 통신 모듈은 적어도 하나의 하드웨어 칩 형태로 구현될 수 있다.
와이파이 모듈, 블루투스 모듈은 각각 WiFi 방식, 블루투스 방식으로 통신을 수행한다. 와이파이 모듈이나 블루투스 모듈을 이용하는 경우에는SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다.
적외선 통신 모듈은 가시 광선과 밀리미터파 사이에 있는 적외선을 이용하여 근거리에 무선으로 데이터를 전송하는 적외선 통신(IrDA, infrared Data Association)기술에 따라 통신을 수행한다.
무선 통신 모듈은 상술한 통신 방식 이외에 지그비(zigbee), 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution), LTE-A(LTE Advanced), 4G(4th Generation), 5G(5th Generation)등과 같은 다양한 무선 통신 규격에 따라 통신을 수행하는 적어도 하나의 통신 칩을 포함할 수 있다.
그 밖에 통신 인터페이스(620)는LAN(Local Area Network) 모듈, 이더넷 모듈, 페어 케이블, 동축 케이블, 광섬유 케이블 또는 UWB(Ultra Wide-Band) 모듈 등을 이용하여 통신을 수행하는 유선 통신 모듈 중 적어도 하나를 포함할 수 있다.
일 예에 따라 통신 인터페이스(620)는 리모컨과 같은 외부 장치 및 외부 서버와 통신하기 위해 동일한 통신 모듈(예를 들어, Wi-Fi 모듈)을 이용할 수 있다.
다른 예에 따라 통신 인터페이스(620)는 리모컨과 같은 외부 장치 및 외부 서버와 통신하기 위해 상이한 통신 모듈(예를 들어, Wi-Fi 모듈)을 이용할 수 있다. 예를 들어, 통신 인터페이스(620)는 외부 서버와 통신하기 위해 이더넷 모듈 또는 WiFi 모듈 중 적어도 하나를 이용할 수 있고, 리모컨과 같은 외부 장치와 통신하기 위해 BT 모듈을 이용할 수도 있다. 다만 이는 일 실시 예에 불과하며 통신 인터페이스(620)는 복수의 외부 장치 또는 외부 서버와 통신하는 경우 다양한 통신 모듈 중 적어도 하나의 통신 모듈을 이용할 수 있다.
한편, 전자 장치(600)는 구현 예에 따라 튜너 및 복조부를 추가적으로 포함할 수 있다. 튜너(미도시)는 안테나를 통해 수신되는 RF(Radio Frequency) 방송 신호 중 사용자에 의해 선택된 채널 또는 기 저장된 모든 채널을 튜닝하여 RF 방송 신호를 수신할 수 있다. 복조부(미도시)는 튜너에서 변환된 디지털 IF 신호(DIF)를 수신하여 복조하고, 채널 복호화 등을 수행할 수도 있다.
즉, 전자 장치(600)는 통신 인터페이스(620) 또는 튜너 등을 통해 오디오 신호가 포함된 컨텐츠를 외부로부터 실시간으로 수신할 수 있다.
메모리(630)는 프로세서(640)에 포함된 롬(ROM)(예를 들어, EEPROM(electrically erasable programmable read-only memory)), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(640)와 별도의 메모리로 구현될 수도 있다. 이 경우, 메모리(630)는 데이터 저장 용도에 따라 전자 장치(600)에 임베디드된 메모리 형태로 구현되거나, 전자 장치(600)에 탈부착이 가능한 메모리 형태로 구현될 수도 있다. 예를 들어, 전자 장치(600)의 구동을 위한 데이터의 경우 전자 장치(600)에 임베디드된 메모리에 저장되고, 전자 장치(600)의 확장 기능을 위한 데이터의 경우 전자 장치(600)에 탈부착이 가능한 메모리에 저장될 수 있다.
한편, 전자 장치(600)에 임베디드된 메모리의 경우 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나로 구현되고, 전자 장치(600)에 탈부착이 가능한 메모리의 경우 메모리 카드(예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 등), USB 포트에 연결 가능한 외부 메모리(예를 들어, USB 메모리) 등과 같은 형태로 구현될 수 있다.
사용자 인터페이스(650)는 버튼, 터치 패드, 마우스 및 키보드와 같은 장치로 구현되거나, 상술한 디스플레이 기능 및 조작 입력 기능도 함께 수행 가능한 터치 스크린으로도 구현될 수 있다. 여기서, 버튼은 전자 장치(600)의 본체 외관의 전면부나 측면부, 배면부 등의 임의의 영역에 형성된 기계적 버튼, 터치 패드, 휠 등과 같은 다양한 유형의 버튼이 될 수 있다.
입출력 인터페이스(660)는 HDMI(High Definition Multimedia Interface), MHL (Mobile High-Definition Link), USB (Universal Serial Bus), DP(Display Port), 썬더볼트(Thunderbolt), VGA(Video Graphics Array)포트, RGB 포트, D-SUB(D-subminiature), DVI(Digital Visual Interface) 중 어느 하나의 인터페이스일 수 있다.
입출력 인터페이스(660)는 오디오 및 비디오 신호 중 적어도 하나를 포함하는 컨텐츠를 입출력 할 수 있다. 구현 예에 따라, 입출력 인터페이스(660)는 오디오 신호만을 입출력하는 포트와 비디오 신호만을 입출력하는 포트를 별개의 포트로 포함하거나, 오디오 신호 및 비디오 신호를 모두 입출력하는 하나의 포트로 구현될 수 있다.
카메라(670)는 피사체를 촬상하여 촬상 영상을 생성하기 위한 구성이며, 여기서 촬상 영상은 동영상과 정지 영상 모두를 포함하는 개념이다. 카메라(670)는 적어도 하나의 외부 기기에 대한 이미지를 획득할 수 있으며, 카메라, 렌즈, 적외선 센서 등으로 구현될 수 있다.
마이크(680)는 사용자 음성이나 기타 소리를 입력받아 오디오 신호로 변환하기 위한 구성이다. 마이크(680)는 활성화 상태에서 사용자의 음성을 수신할 수 있다. 예를 들어, 마이크(680)는 전자 장치(600)의 상측이나 전면 방향, 측면 방향 등에 일체형으로 형성될 수 있다. 마이크(680)는 아날로그 형태의 사용자 음성을 수집하는 마이크, 수집된 사용자 음성을 증폭하는 앰프 회로, 증폭된 사용자 음성을 샘플링하여 디지털 신호로 변환하는 A/D 변환회로, 변환된 디지털 신호로부터 노이즈 성분을 제거하는 필터 회로 등과 같은 다양한 구성을 포함할 수 있다.
스피커(690)는 입출력 인터페이스에서 처리된 각종 오디오 데이터뿐만 아니라 각종 알림 음이나 음성 메시지 등을 출력하는 구성요소일 수 있다. 특히, 스피커(690)는 도 2 내지 도 4에서 설명한 바와 같이 후처리된 오디오 신호를 출력할 수 있다.
한편, 상술한 본 개시의 다양한 실시 예들에 따른 방법들은, 기존 전자 장치에 설치 가능한 어플리케이션 형태로 구현될 수 있다.
또한, 상술한 본 개시의 다양한 실시 예들에 따른 방법들은, 기존 전자 장치에 대한 소프트웨어 업그레이드, 또는 하드웨어 업그레이드 만으로도 구현될 수 있다.
또한, 상술한 본 개시의 다양한 실시 예들은 전자 장치에 구비된 임베디드 서버, 또는 전자 장치 및 디스플레이 장치 중 적어도 하나의 외부 서버를 통해 수행되는 것도 가능하다.
한편, 본 개시의 일시 예에 따르면, 이상에서 설명된 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 전자 장치를 포함할 수 있다. 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접, 또는 프로세서의 제어 하에 다른 구성요소들을 이용하여 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
또한, 본 개시의 일 실시 예에 따르면, 이상에서 설명된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
또한, 상술한 다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형 실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
110: 제1 프로세서
120: 메모리
130: 제2 프로세서
130: 제2 프로세서
Claims (13)
- 전자 장치에 있어서,
입력 오디오 신호를 전처리하는 제1 프로세서;
상기 전처리된 오디오 신호를 저장하는 메모리; 및
학습된 신경망 모델에 상기 전처리된 오디오 신호를 입력하여 상기 전처리된 오디오 신호의 소스를 분리하기 위한 마스크 데이터를 획득하며, 상기 획득된 마스크 데이터를 상기 메모리에 저장하는 제2 프로세서;를 포함하며,
상기 제1 프로세서는,
상기 입력 오디오 신호를 전처리하고 기설정된 시간이 지연된 후 상기 메모리에 저장된 마스크 데이터를 이용하여 상기 전처리된 오디오 신호의 소스를 분리하며, 상기 소스가 분리된 오디오 신호를 후처리하는 전자 장치. - 제1항에 있어서,
상기 기설정된 시간은,
상기 오디오 신호의 전처리 시간, 상기 제2 프로세서가 마스크 데이터를 획득하는 시간 및 상기 오디오 신호의 후처리 시간 중 적어도 하나를 바탕으로 결정되는 전자 장치. - 제2항에 있어서,
상기 기설정된 시간은,
상기 오디오 신호의 전처리 시간과 상기 오디오 신호의 후처리 시간과 상기 기설정된 시간의 합이 임계값보다 작도록 결정되는 전자 장치. - 제3항에 있어서,
상기 제1 프로세서는,
n번째 또는 상기 n 번째 이전의 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리하는 전자 장치. - 제1항에 있어서,
상기 제1 프로세서는,
기 지정된(Predetermined) 명령어를 바탕으로 유효한 결과값을 발생시키지 않고 상기 기설정된 시간 동안 연산을 수행함으로써 상기 기설정된 시간동안 지연시키는 전자 장치. - 제1항에 있어서,
상기 제1 프로세서는 DSP(Digital signal processor)이며, 상기 제2 프로세서는 NPU(Neural Processing Unit)인 전자 장치. - 제1항에 있어서,
상기 제1 프로세서, 상기 메모리 및 상기 제2 프로세서는 하나의 칩으로 구현되는 전자 장치. - 전자 장치의 오디오 신호 처리 방법에 있어서,
DSP(Digital signal processor)가 입력 오디오 신호를 전처리하는 단계;
상기 전처리된 오디오 신호를 메모리에 저장하는 단계;
NPU(Neural Processing Unit)가 학습된 신경망 모델에 상기 전처리된 오디오 신호를 입력하여 상기 전처리된 오디오 신호의 소스를 분리하기 위한 마스크 데이터를 획득하는 단계;
상기 획득된 마스크 데이터를 상기 메모리에 저장하는 단계; 및
상기 입력 오디오 신호를 전처리하고 기설정된 시간이 지연된 후, 상기 DSP가 상기 메모리에 저장된 마스크 데이터를 이용하여 상기 전처리된 오디오 신호의 소스를 분리하며, 상기 소스가 분리된 오디오 신호를 후처리하는 단계;를 포함하는 오디오 신호 처리 방법. - 제8항에 있어서,
상기 기설정된 시간은,
상기 오디오 신호의 전처리 시간, 상기 제2 프로세서가 마스크 데이터를 획득하는 시간 및 상기 오디오 신호의 후처리 시간 중 적어도 하나를 바탕으로 결정되는 오디오 신호 처리 방법. - 제9항에 있어서,
상기 기설정된 시간은,
상기 오디오 신호의 전처리 시간과 상기 오디오 신호의 후처리 시간과 상기 기설정된 시간의 합이 임계값보다 작도록 결정되는 오디오 신호 처리 방법. - 제10항에 있어서,
상기 후처리하는 단계는,
n번째 또는 상기 n번째 이전의 오디오 프레임으로부터 획득된 마스크 데이터를 이용하여 n+1 번째 오디오 프레임의 소스를 분리하고, 상기 소스가 분리된 오디오 신호를 후처리하는 오디오 신호 처리 방법. - 제8항에 있어서,
상기 제1 프로세서는,
기 지정된(Predetermined) 명령어를 바탕으로 유효한 결과값을 발생시키지 않고 상기 기설정된 시간 동안 연산을 수행함으로써 상기 기설정된 시간동안 지연시키는 오디오 신호 처리 방법. - 제8항에 있어서,
상기 제1 프로세서, 상기 메모리 및 상기 제2 프로세서는 하나의 칩으로 구현되는 오디오 신호 처리 방법.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200147475A KR20220061467A (ko) | 2020-11-06 | 2020-11-06 | 전자 장치 및 이의 오디오 신호 처리 방법 |
| PCT/KR2021/014185 WO2022097944A1 (ko) | 2020-11-06 | 2021-10-14 | 전자 장치 및 이의 오디오 신호 처리 방법 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200147475A KR20220061467A (ko) | 2020-11-06 | 2020-11-06 | 전자 장치 및 이의 오디오 신호 처리 방법 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20220061467A true KR20220061467A (ko) | 2022-05-13 |
Family
ID=81457156
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200147475A KR20220061467A (ko) | 2020-11-06 | 2020-11-06 | 전자 장치 및 이의 오디오 신호 처리 방법 |
Country Status (2)
| Country | Link |
|---|---|
| KR (1) | KR20220061467A (ko) |
| WO (1) | WO2022097944A1 (ko) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11740862B1 (en) | 2022-11-22 | 2023-08-29 | Algoriddim Gmbh | Method and system for accelerated decomposing of audio data using intermediate data |
| EP4375984A1 (en) * | 2022-11-22 | 2024-05-29 | algoriddim GmbH | Method and system for accelerated decomposing of audio data using intermediate data |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116030821A (zh) * | 2023-03-27 | 2023-04-28 | 北京探境科技有限公司 | 音频处理方法、装置、电子设备及可读存储介质 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4496186B2 (ja) * | 2006-01-23 | 2010-07-07 | 株式会社神戸製鋼所 | 音源分離装置、音源分離プログラム及び音源分離方法 |
| KR100891666B1 (ko) * | 2006-09-29 | 2009-04-02 | 엘지전자 주식회사 | 믹스 신호의 처리 방법 및 장치 |
| KR101243897B1 (ko) * | 2011-06-24 | 2013-03-20 | 서강대학교산학협력단 | 신호의 시간 지연 및 감쇄 추정에 기반한 반향 환경에서의 암묵 음원 분리 방법 |
| DE112018007846B4 (de) * | 2018-08-24 | 2022-06-02 | Mitsubishi Electric Corporation | Gesprochene-sprache-separationseinrichtung, gesprochene-sprache-separationsverfahren, gesprochene-sprache separationsprogramm und gesprochene-sprache-separationssystem |
| KR102136700B1 (ko) * | 2020-03-31 | 2020-07-23 | 한국건설기술연구원 | 톤 카운팅 기반의 음성활성구간 검출 장치 및 방법 |
-
2020
- 2020-11-06 KR KR1020200147475A patent/KR20220061467A/ko active Search and Examination
-
2021
- 2021-10-14 WO PCT/KR2021/014185 patent/WO2022097944A1/ko active Application Filing
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11740862B1 (en) | 2022-11-22 | 2023-08-29 | Algoriddim Gmbh | Method and system for accelerated decomposing of audio data using intermediate data |
| EP4375984A1 (en) * | 2022-11-22 | 2024-05-29 | algoriddim GmbH | Method and system for accelerated decomposing of audio data using intermediate data |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2022097944A1 (ko) | 2022-05-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR20220061467A (ko) | 전자 장치 및 이의 오디오 신호 처리 방법 | |
| KR102412523B1 (ko) | 음성 인식 서비스 운용 방법, 이를 지원하는 전자 장치 및 서버 | |
| KR102586014B1 (ko) | 전자 장치 및 전자 장치의 제어 방법 | |
| US11302319B2 (en) | Electronic apparatus and assistant service providing method thereof | |
| KR102525108B1 (ko) | 음성 인식 서비스 운용 방법 및 이를 지원하는 전자 장치 | |
| CN110163171B (zh) | 用于识别人脸属性的方法和装置 | |
| JP7277611B2 (ja) | テキスト類似性を使用した視覚的タグのサウンドタグへのマッピング | |
| KR20200063521A (ko) | 전자 장치 및 이의 제어 방법 | |
| EP3647986A1 (en) | Electronic apparatus and control method thereof | |
| CN110945455B (zh) | 处理用户话语以用于控制外部电子装置的电子装置及其控制方法 | |
| KR20220080270A (ko) | 전자 장치 및 전자 장치의 제어 방법 | |
| US20210044871A1 (en) | Display device and display device control method | |
| KR102416421B1 (ko) | 터치 패드 입력을 갖는 게임 컨트롤러 | |
| US11436760B2 (en) | Electronic apparatus and control method thereof for reducing image blur | |
| CN113519022B (zh) | 电子设备及其控制方法 | |
| US11972762B2 (en) | Electronic apparatus and controlling method thereof | |
| US20240221131A1 (en) | Image processing method and device for removing perceptible noise from image | |
| CN116508100A (zh) | 用文本和言语自动生成面部动作单元的面部动画控制 | |
| KR102584588B1 (ko) | 전자 장치 및 전자 장치의 제어 방법 | |
| US11710498B2 (en) | Electronic device and control method therefor | |
| KR102537781B1 (ko) | 전자 장치 및 이의 제어 방법 | |
| US20240046946A1 (en) | Speech denoising networks using speech and noise modeling | |
| KR20230078376A (ko) | 인공지능 모델을 이용하여 오디오 신호를 처리하는 방법 및 장치 | |
| EP4383752A1 (en) | Method and device for processing audio signal by using artificial intelligence model | |
| US20240203014A1 (en) | Machine learning-based approach for audio-driven avatar animation or other functions |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination |