KR20220042509A - 음성 처리 장치 및 이의 작동 방법 - Google Patents

음성 처리 장치 및 이의 작동 방법 Download PDF

Info

Publication number
KR20220042509A
KR20220042509A KR1020200125382A KR20200125382A KR20220042509A KR 20220042509 A KR20220042509 A KR 20220042509A KR 1020200125382 A KR1020200125382 A KR 1020200125382A KR 20200125382 A KR20200125382 A KR 20200125382A KR 20220042509 A KR20220042509 A KR 20220042509A
Authority
KR
South Korea
Prior art keywords
voice
voices
translation result
output
language
Prior art date
Application number
KR1020200125382A
Other languages
English (en)
Inventor
김정민
Original Assignee
주식회사 아모센스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 아모센스 filed Critical 주식회사 아모센스
Priority to KR1020200125382A priority Critical patent/KR20220042509A/ko
Priority to US18/029,060 priority patent/US20230377593A1/en
Priority to PCT/KR2021/013072 priority patent/WO2022065934A1/ko
Publication of KR20220042509A publication Critical patent/KR20220042509A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/802—Systems for determining direction or deviation from predetermined direction
    • G01S3/808—Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/802—Systems for determining direction or deviation from predetermined direction
    • G01S3/808—Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems
    • G01S3/8083—Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems determining direction of source
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/005—Language recognition
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/28—Constructional details of speech recognition systems
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification techniques
    • G10L17/02—Preprocessing operations, e.g. segment selection; Pattern representation or modelling, e.g. based on linear discriminant analysis [LDA] or principal components; Feature selection or extraction
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0272—Voice signal separating
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78—Detection of presence or absence of voice signals
    • G10L25/87—Detection of discrete points within a voice signal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00—Circuits for transducers, loudspeakers or microphones
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00—Circuits for transducers, loudspeakers or microphones
    • H04R3/005—Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G10L21/0216—Noise filtering characterised by the method used for estimating noise
    • G10L2021/02161—Number of inputs available containing the signal or the noise to be suppressed
    • G10L2021/02166—Microphone arrays; Beamforming
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78—Detection of presence or absence of voice signals
    • G10L25/84—Detection of presence or absence of voice signals for discriminating voice from noise

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Artificial Intelligence (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Otolaryngology (AREA)
  • Machine Translation (AREA)

Abstract

음성 처리 장치가 개시된다. 음성 처리 장치는 화자들로부터 발화된 음성들과 연관된 음성 신호를 수신하도록 구성되는 음성 수신 회로, 음성 신호를 음성들 각각의 음원 위치에 기초하여 음원 분리함으로써, 음성들 각각과 연관된 분리 음성 신호를 생성하고, 분리 음성 신호를 이용하여 음성들 각각에 대한 번역 결과를 생성하도록 구성되는 음성 처리 회로, 메모리 및 음성들 각각에 대한 번역 결과를 출력하도록 구성되는 출력 회로를 포함하고, 번역 결과의 출력 순서는 음성들 각각의 발화 시점에 기초하여 결정된다.

Description

음성 처리 장치 및 이의 작동 방법{VOICE PROCESSING DEVICE AND OPERATING METHOD OF THE SAME}
본 발명의 실시 예들은 음성 처리 장치 및 이의 작동 방법에 관한 것이다.
마이크(microphone)는 음성을 인식하고, 인식된 음성을 전기적인 신호인 음성 신호로 변환하는 장치이다. 회의실이나 교실과 같이 복수의 화자(speaker)들이 위치하는 공간 내에 마이크가 배치되는 경우, 상기 마이크는 복수의 화자들로부터 나온 음성들을 모두 수신하고, 복수의 화자들의 음성에 연관된 음성 신호들을 생성한다.
복수의 화자들이 동시에 발화하는 경우, 개별 화자들의 음성만을 나타내는 음성 신호를 분리하는 것이 필요하다. 또한, 복수의 화자들이 서로 다른 언어로 발화하는 경우, 복수의 화자들의 음성을 쉽게 번역하기 위해서는, 복수의 화자들의 음성의 원래 언어(즉, 출발 언어)를 파악해야 하는데, 음성 자체의 특징만으로 해당 음성의 언어를 파악하는 것은 시간이 많이 소요되고, 많은 리소스가 소요되는 문제가 있다.
한국공개특허공보 제10-2017-0112713호 (2017.10.12.)
본 발명이 해결하고자 하는 과제는 화자들의 음성으로부터 화자들의 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있는 음성 처리 장치를 제공하는 것에 있다.
본 발명이 해결하고자 하는 과제는 화자들 각각의 음성과 연관된 분리 음성 신호를 이용하여, 상기 음성에 대한 번역을 상기 음성의 발화 순서에 따라 순차적으로 제공 할 수 있는 음성 처리 장치를 제공하는 것에 있다.
본 발명의 실시 예들에 따른 음성 처리 장치는 화자들로부터 발화된 음성들과 연관된 음성 신호를 수신하도록 구성되는 음성 수신 회로, 음성 신호를 음성들 각각의 음원 위치에 기초하여 음원 분리함으로써, 음성들 각각과 연관된 분리 음성 신호를 생성하고, 분리 음성 신호를 이용하여 음성들 각각에 대한 번역 결과를 생성하도록 구성되는 음성 처리 회로, 메모리 및 음성들 각각에 대한 번역 결과를 출력하도록 구성되는 출력 회로를 포함하고, 번역 결과의 출력 순서는 음성들 각각의 발화 시점에 기초하여 결정된다.
본 발명의 실시 예들에 따른 음성 처리 장치는 음성의 음원 위치에 기초하여 특정 음원 위치로부터의 음성과 연관된 분리 음성 신호를 생성할 수 있으므로, 주변 소음의 영향을 최소화된 음성 신호를 생성할 수 있는 효과가 있다.
본 발명의 실시 예들에 따른 음성 처리 장치는 화자들의 음성과 연관된 음성 신호로부터 화자들의 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있는 효과가 있다.
본 발명의 실시 예들에 따른 음성 처리 장치는 화자들의 음성들에 대한 번역 결과를 생성할 수 있고, 번역 결과는 화자들에 의한 음성들의 발화 시점에 기초하여 결정되는 출력 순서에 따라 출력될 수 있다. 이에 따라, 화자들이 중첩적으로 음성들을 발화하더라도, 화자들 각각의 음성이 정확하게 인식되어 번역될 수 있을 뿐만 아니라, 화자들의 번역이 순차적으로 출력됨으로써 화자들 사이의 소통이 원활하게 이루어질 수 있는 효과가 있다.
도 1은 본 발명의 실시 예들에 따른 음성 처리 장치를 나타내는 도면이다.
도 2는 본 발명의 실시 예들에 따른 음성 처리 장치를 나타낸다.
도 3 내지 도 5는 본 발명의 실시 예들에 따른 음성 처리 장치의 동작을 설명하기 위한 도면이다.
도 6은 본 발명의 실시 예들에 따른 음성 처리 장치의 번역 기능을 설명하기 위한 도면이다.
도 7은 본 발명의 실시 예들에 따른 음성 처리 장치의 출력 동작을 설명하기 위한 도면이다.
도 8 및 도 9는 본 발명의 실시 예들에 따른 음성 처리 장치와 차량을 나타낸다.
도 10은 본 발명의 실시 예들에 따른 음성 처리 장치의 동작을 설명하기 위한 플로우 차트이다.
이하, 첨부된 도면들을 참조하여 본 발명의 실시 예들을 설명한다.
도 1은 본 발명의 실시 예들에 따른 음성 처리 장치를 나타내는 도면이다. 도 1을 참조하면, 음성 처리 장치(100)는 공간(예컨대, 회의실, 차량, 강의실 등)에 위치한 화자들(SPK1~SPK4)의 음성들과 연관된 음성 신호를 수신하고, 음성 신호를 처리함으로써, 화자들(SPK1~SPK4) 각각의 음성에 대한 음성 처리를 수행할 수 있다.
화자들(SPK1~SPK4) 각각은 자신의 위치에서 특정 음성을 발화(pronounce)할 수 있다. 실시 예들에 따라, 제1화자(SPK1)는 제1위치(P1)에 위치할 수 있고, 제2화자(SPK2)는 제2위치(P2)에 위치할 수 있고, 제3화자(SPK3)는 제3위치(P3)에 위치할 수 있고, 제4화자(SPK4)는 제4위치(P4)에 위치할 수 있다.
음성 처리 장치(100)는 화자들(SPK1~SPK4)에 의해 발화된 음성과 연관된 음성 신호를 수신할 수 있다. 음성 신호는 특정 시간동안 발화된 음성들과 연관된 신호로서, 복수의 화자들의 음성을 나타내는 신호일 수 있다.
음성 처리 장치(100)는 음원 분리를 수행함으로써 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 추출(또는 생성)할 수 있다. 실시 예들에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성들과 연관된 음성 신호들 사이의 시간 지연(또는 위상 지연)을 이용하여, 음성들에 대한 음원 위치를 결정하고, 특정 위치의 음원에만 대응하는 분리 음성 신호를 생성할 수 있다. 예컨대, 음성 처리 장치(100)는 특정 위치(또는 방향)에서 발화된 음성과 연관된 분리 음성 신호를 생성할 수 있다. 이에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있다.
예컨대, 제1분리 음성 신호는 제1화자의 음성과 연관될 수 있다. 이 때, 예컨대, 제1분리 음성 신호는 화자들의 음성들 중 제1화자의 음성과 가장 높은 연관도를 가질 수 있다. 다시 말하면, 제1분리 음성 신호에 포함된 음성 성분 중에서 제1화자의 음성 성분의 비중이 가장 높을 수 있다.
음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성에 대한 번역을 제공할 수 있다. 예컨대, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성을 번역하기 위한 출발 언어(source language; 번역 대상 언어)와 도착 언어(target language; 번역 후 언어)를 결정하고, 분리 음성 신호를 이용하여 화자들 각각의 언어에 대한 번역을 제공할 수 있다.
실시 예들에 따라, 음성 처리 장치(100)는 음성들 각각에 대한 번역 결과를 출력할 수 있다. 상기 번역 결과는 도착 언어로 표현된 화자들(SPK1~SPK4) 각각의 음성과 연관된 텍스트 데이터 또는 음성 신호일 수 있다.
즉, 본 발명의 실시 예들에 따른 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성 각각의 음원 위치에 따라 출발 언어와 도착 언어를 결정하므로, 화자의 음성의 언어가 무엇인지 식별할 필요없이 적은 시간과 적은 리소스로 화자의 음성에 대한 번역을 제공할 수 있는 효과가 있다.
예컨대, 음성 처리 장치(100)는 수신되는 음성들 각각의 음원 위치에 기초하여, 특정 화자의 음성과 대응하는 분리 음성 신호를 생성할 수 있다. 예컨대, 제1화자(SPK1) 및 제2화자(SPK2)가 함께 발화하는 경우, 음성 처리 장치(100)는 제1화자(SPK1)의 음성과 연관된 제1분리 음성 신호 제2화자(SPK2)의 음성과 연관된 제2분리 음성 신호를 생성할 수 있다.
도 2는 본 발명의 실시 예들에 따른 음성 처리 장치를 나타낸다. 도 1 내지 도 2를 참조하면, 음성 처리 장치(100)는 음성 신호 수신 회로(110), 음성 처리 회로(120), 메모리(130) 및 출력 회로(140)를 포함할 수 있다.
음성 신호 수신 회로(110)는 화자들(SPK1~SPK4)의 음성들에 대응하는 음성 신호를 수신할 수 있다. 실시 예들에 따라, 음성 신호 수신 회로(110)는 유선 통신 방식 또는 무선 통신 방식에 따라 음성 신호를 수신할 수 있다. 예컨대, 음성 신호 수신 회로(110)는 마이크로폰(microphone)과 같은 음성 신호 생성 장치로부터 음성 신호를 수신할 수 있으나, 이에 한정되는 것은 아니다.
실시 예들에 따라, 음성 신호 수신 회로(110)에 의해 수신되는 음성 신호는 복수의 화자들의 음성들과 연관된 신호일 수 있다. 예컨대, 제1화자(SPK1)와 제2화자(SPK2)가 시간적으로 중첩해서 발화하는 경우, 제1화자(SPK1)와 제2화자(SPK2)의 음성은 중첩될 수 있다.
음성 처리 장치(100)는 마이크(115)를 더 포함할 수 있으나, 실시 예들에 따라, 마이크(115)는 음성 처리 장치(100)와 별도로(예컨대, 다른 장치로서) 구현될 수 있고, 음성 처리 장치(100)는 마이크(115)로부터 음성 신호를 수신할 수 있다.
이하, 본 명세서에서, 음성 처리 장치(100)가 마이크(115)를 포함하는 것을 가정하고 설명하나, 본 발명의 실시 예들은 마이크(115)를 포함하지 않는 경우에도 마찬가지로 적용될 수 있다.
마이크(115)는 화자들(SPK1~SPK4)의 음성을 수신하고, 화자들(SPK1~SPK4)의 음성들과 연관된 음성 신호를 생성할 수 있다.
실시 예들에 따라, 음성 처리 장치(100)는 어레이 형태로 배열된 복수 개의 마이크들(115)을 포함할 수 있고, 복수의 마이크들(115)은 각각은 음성에 의한 매질(예컨대, 공기)의 압력 변화를 측정하고, 측정된 매질의 압력 변화를 전기적인 신호인 음성 신호로 변환하고, 음성 신호를 출력할 수 있다. 이하, 본 명세서에서는 마이크(115)가 복수임을 가정하고 설명한다.
마이크들(115) 각각에 의해 생성된 음성 신호는 적어도 하나 이상의 화자(SPK1~SPK4)의 음성에 대응할 수 있다. 예컨대, 화자들(SPK1~SPK4)이 동시에 발화하는 경우, 마이크들(115)에 각각에 의해 생성된 음성 신호들 각각은 화자들(SPK1~SPK4) 모두의 음성을 나타내는 신호일 수 있다.
마이크들(115)은 다방향(multi-direction)으로부터 음성을 입력받을 수 있다. 실시 예들에 따라, 마이크들(115) 은 서로 이격되어 배치되어, 하나의 마이크 어레이를 구성할 수 있으나, 본 발명의 실시 예들이 이에 한정되는 것은 아니다.
음성 처리 회로(120)는 음성 신호를 처리할 수 있다. 실시 예들에 따라, 음성 처리 회로(120)는 연산 처리 기능을 갖는 프로세서를 포함할 수 있다. 예컨대, 상기 프로세서는 DSP(digital signal processor), CPU(central processing unit) 또는 MCU(micro processing unit)일 수 있으나, 이에 한정되는 것은 아니다.
예컨대, 음성 처리 회로(120)는 음성 수신 회로(110)에 의해 수신된 음성 신호를 아날로그 ? 디지털 변환을 수행하고, 디지털 변환된 음성 신호를 처리할 수 있다.
음성 처리 회로(120)는 음성 신호를 이용하여, 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 추출(또는 생성)할 수 있다.
음성 처리 회로(120)는 음성 신호들 사이의 시간 지연(또는 위상 지연)을 이용하여 음성 신호들 각각의 음원 위치(즉, 화자들(SPK1~SPK4)의 위치)를 결정할 수 있다. 예컨대, 음성 처리 회로(120)는 음성 신호들 각각의 음원 위치(즉, 화자들(SPK1~SPK4)의 위치)를 나타내는 음원 위치 정보를 생성할 수 있다.
음성 처리 회로(120)는 결정된 음원 위치에 기초하여, 음성 신호로부터 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있다. 예컨대, 음성 처리 회로(120)는 특정 위치(또는 방향)에서 발화된 음성과 연관된 분리 음성 신호를 생성할 수 있다.
이 때, 음성 처리 회로(120)는 음성 신호를 이용하여 제1화자(SPK1) 및 제2화자(SPK2) 각각의 음성의 음원 위치를 파악하고, 음원 위치에 기초하여 제1화자(SPK1)의 음성과 연관된 제1분리 음성 신호와 제2화자(SPK2)의 음성을 나타내는 제2분리 음성 신호를 생성할 수 있다.
실시 예들에 따라, 음성 처리 회로(120)는 분리 음성 신호 및 음원 위치 정보를 매칭하여 저장할 수 있다. 예컨대, 음성 처리 회로(120)는 제1화자(SPK1)의 음성과 연관된 제1분리 음성 신호 및 제1화자(SPK1)의 음성의 음원 위치를 나타내는 제1음원 위치 정보를 매칭하여 저장할 수 있다.
음성 처리 회로(120)는 분리 음성 신호를 이용하여, 화자들(SPK1~SPK4) 각각의 음성에 대한 번역을 수행하고, 번역 결과를 생성할 수 있다. 예컨대, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성을 번역하기 위한 출발 언어(source language; 번역 대상 언어)와 도착 언어(target language; 번역 후 언어)를 결정하고, 화자들 각각의 언어에 대한 번역을 제공할 수 있다.
상기 번역 결과는 도착 언어로 표현된 화자들(SPK1~SPK4) 각각의 음성과 연관된 텍스트 데이터 또는 음성 신호일 수 있다.
메모리(130)는 음성 처리 장치(100)의 동작에 필요한 데이터를 저장할 수 있다. 실시 예들에 따라, 메모리(130)는 분리 음성 신호 및 음원 위치 정보를 저장할 수 있다.
출력 회로(140)는 데이터를 출력할 수 있다. 실시 예들에 따라, 출력 회로(140)는 외부 장치로 데이터를 전송하도록 구성되는 통신 회로, 데이터를 시각적인 형태로 출력하도록 구성되는 디스플레이 장치, 또는 데이터를 청각적인 형태로 출력하도록 구성되는 스피커 장치를 포함할 수 있으나, 본 발명의 실시 예들이 이에 한정되는 것은 아니다.
실시 예들에 따라, 출력 회로(140)가 통신 회로를 포함하는 경우, 출력 회로(140)는 외부 장치로 데이터를 전송하거나, 또는, 외부 장치로부터 데이터를 수신할 수 있다. 예컨대, 출력 회로(140)는 WiFi, Bluetooth, Zigbee, NFC, Wibro, WCDMA, 3G, LTE, 5G 등의 통신 방식을 지원할 수 있다. 예컨대, 출력 회로(140)는 음성 처리 회로(120)의 제어에 따라, 번역 결과를 외부 장치로 전송할 수 있다.
실시 예들에 따라, 출력 회로(140)가 디스플레이 장치를 포함하는 경우, 출력 회로(140)는 데이터를 시각적인 형태(예컨대, 영상 또는 이미지의 형태)로 출력할 수 있다. 예컨대, 출력 회로(140)는 번역 결과에 해당하는 텍스트를 나타내는 이미지를 표시할 수 있다.
실시 예들에 따라, 출력 회로(140)가 스피커 장치를 포함하는 경우, 출력 회로(140)는 데이터를 청각적인 형태(예컨대, 음성의 형태)로 출력할 수 있다. 예컨대, 출력 회로(140)는 번역 결과에 해당하는 음성을 재생할 수 있다.
도 3 내지 도 5는 본 발명의 실시 예들에 따른 음성 처리 장치의 동작을 설명하기 위한 도면이다. 도 1 내지 도 5를 참조하면, 각 위치(P1~P4)에 위치한 화자들(SPK1~SPK4) 각각이 발화할 수 있다. 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성을 수신하고, 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있다.
또한, 실시 예들에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성의 각각의 음원 위치를 나타내는 음원 위치 정보를 저장할 수 있다.
또한, 실시 예들에 따라, 음성 처리 장치(100)는 분리 음성 신호를 이용하여 화자들(SPK1~SPK4) 각각의 음성들의 발화 시점을 판단하고, 발화 시점을 나타내는 발화 시점 정보를 생성 및 저장할 수 있다.
도 3에 도시된 바와 같이, 제1화자(SPK1)는 제1시점(T1)에 음성 “AAA”를 발화할 수 있다. 음성 처리 장치(100)는 음성 신호를 수신하고, 음성 “AAA”의 음원 위치에 기초하여 음성 신호로부터 음성 “AAA”와 연관된 제1분리 음성 신호를 생성할 수 있다.
예컨대, 음성 처리 장치(100)는 제1화자(SPK1)의 음성 “AAA”의 음원 위치(P1)를 나타내는 제1음원 위치 정보를 생성 및 저장할 수 있다. 예컨대, 음성 처리 장치(100)는 음성 “AAA”의 발화 시점인 제1시점(T1)을 나타내는 제1발화 시점 정보를 생성 및 저장할 수 있다.
도 4에 도시된 바와 같이, 제2화자(SPK2)는 제1시점(T1) 이후의 제2시점(T2)에 음성 “BBB”를 발화할 수 있다. 음성 처리 장치(100)는 음성 신호를 수신하고, 음성 “BBB”의 음원 위치에 기초하여 음성 신호로부터 음성 “BBB”와 연관된 제2분리 음성 신호를 생성할 수 있다.
이 때, 음성 “AAA”의 발화 구간과 음성 “BBB”의 발화 구간은 적어도 일부가 중첩될 수 있지만, 본 발명의 실시 예들에 따른 음성 처리 장치(100)는 음성 “AAA”와 연관된 제1분리 음성 신호와, “BBB”와 연관된 제2분리 음성 신호를 생성할 수 있다.
예컨대, 음성 처리 장치(100)는 제2화자(SPK2)의 음성 “BBB”의 음원 위치(P2)를 나타내는 제2음원 위치 정보를 생성 및 저장할 수 있다. 예컨대, 음성 처리 장치(100)는 음성 “BBB”의 발화 시점인 제2시점(T2)을 나타내는 제2발화 시점 정보를 생성 및 저장할 수 있다.
도 5에 도시된 바와 같이, 제3화자(SPK3)는 제2시점(T2) 이후의 제3시점(T3)에 음성 “CCC”를 발화하고, 제4화자(SPK4)는 제3시점(T3) 이후의 제4시점(T4)에 음성 “DDD”를 발화할 수 있다. 음성 처리 장치(100)는 음성 신호를 수신하고, 음성 “CCC”의 음원 위치에 기초하여 음성 신호로부터 음성 “CCC”와 연관된 제3분리 음성 신호를 생성할 수 있고, 음성 “DDD”의 음원 위치에 기초하여 음성 신호로부터 음성 “DDD”와 연관된 제4분리 음성 신호를 생성할 수 있다.
예컨대, 음성 처리 장치(100)는 제3화자(SPK3)의 음성 “CCC”의 음원 위치(P3)를 나타내는 제3음원 위치 정보 및 제4화자(SPK4)의 음성 “DDD”의 음원 위치(P4)를 나타내는 제4음원 위치 정보를 생성 및 저장할 수 있다.
예컨대, 음성 처리 장치(100)는 음성 “CCC”의 발화 시점인 제3시점(T3)을 나타내는 제3발화 시점 정보 및 음성 “DDD”의 발화 시점인 제4시점(T4)을 나타내는 제4발화 시점 정보를 생성 및 저장할 수 있다.
도 6은 본 발명의 실시 예들에 따른 음성 처리 장치의 번역 기능을 설명하기 위한 도면이다. 도 1 내지 도 6을 참조하면, 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 각각의 음성과 연관된 분리 음성 신호를 생성하고, 분리 음성 신호들을 이용하여 화자들(SPK1~SPK4)의 각각의 음성에 대한 번역 결과를 출력할 수 있다.
도 6에 도시된 바와 같이, 제1화자(SPK1)는 음성 “AAA”를 한국어(KR)로 발화하고, 제2화자(SPK2)는 음성 “BBB”를 영어(EN)로 발화하고, 제3화자(SPK3)는 음성 “CCC”를 중국어(CN)로 발화하고, 제4화자(SPK4)는 음성 “DDD”를 일본어(JP)로 발화한다. 이 경우, 제1화자(SPK1)의 음성 “AAA”의 출발 언어는 한국어(KR)이고, 제2화자(SPK2)의 음성 “BBB”의 출발 언어는 영어(EN)이고, 제3화자(SPK3)의 음성 “CCC”의 출발 언어는 중국어(CN)이고, 제4화자(SPK4)의 음성 “DDD”의 출발 언어는 일본어(JP)이다.
이 때, 음성 “AAA”, “BBB”, “CCC”, “DDD”가 순차적으로 발화된다.
상술한 바와 같이, 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성에 대응하는 음성 신호를 이용하여, 화자들(SPK1~SPK4) 각각의 음성의 음원 위치를 결정하고, 음원 위치에 기초하여 화자들 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있다. 예컨대, 음성 처리 장치(100)는 제1화자(SPK1)의 음성 ”AAA(KR)”과 연관된 제1분리 음성 신호를 생성할 수 있다.
실시 예들에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성의 음원 위치를 나타내는 음원 위치 정보를 생성 및 저장할 수 있다.
실시 예들에 따라, 음성 처리 장치(100)는 음성들 각각의 발화 시점을 나타내는 발화 시점 정보를 생성 및 저장할 수 있다.
본 발명의 실시 예들에 따른 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 이용하여, 화자들(SPK1~SPK4) 각각의 음성에 대한 번역을 제공할 수 있다. 예컨대, 음성 처리 장치(100)는 제1화자(SPK1)에 의해 발화된 음성 “AAA(KR)”에 대한 번역을 제공할 수 있다.
음성 처리 장치(100)는 음원 위치에 따라 결정된 출발 언어와 도착 언어에 기초하여, 화자들(SPK1~SPK4) 각각의 음성의 언어에 대한 출발 언어로부터 도착 언어로의 번역을 제공할 수 있다.
실시 예들에 따라, 음성 처리 장치(100)는 출발 언어를 나타내는 출발 언어 정보 및 도착 언어를 나타내는 도착 언어 정보를 저장할 수 있다. 출발 언어와 도착 언어는 음원 위치에 따라 결정될 수 있다. 예컨대, 출발 언어 정보와 도착 언어 정보는 음원 위치 정보와 매칭되어 저장될 수 있다.
예컨대, 도 6에 도시된 바와 같이, 음성 처리 장치(100)는 제1위치(P1)(즉, 제1화자(SPK1))에 대한 출발 언어가 한국어(KR)임을 지시하는 제1출발 언어 정보 및 도착 언어가 영어(EN)임을 지시하는 제1도착 언어 정보를 생성 및 저장할 수 있다. 이 때, 제1출발 언어 정보와 제1도착 언어 정보는 제1위치(P1)를 나타내는 제1음원 위치 정보와 매칭되어 저장될 수 있다.
음성 처리 장치(100)는 음원 위치에 대응하는 출발 언어 정보 및 도착 언어 정보를 이용하여, 화자들(SPK1~SPK4) 각각의 음성에 대한 번역 결과를 출력할 수 있다.
음성 처리 장치(100)는 분리 음성 신호들 각각의 음원 위치에 대응하는 음원 위치 정보에 기초하여, 화자들(SPK1~SPK4) 각각의 음성을 번역하기 위한 출발 언어 및 도착 언어를 결정할 수 있다. 실시 예들에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성에 대한 음원 위치 정보를 이용하여, 각 음원 위치에 대응하는 출발 언어 정보와 도착 언어 정보를 리드함으로써, 화자들(SPK1~SPK4) 각각의 음성을 번역하기 위한 출발 언어 및 도착 언어를 결정할 수 있다.
예컨대, 음성 처리 장치(100)는 제1화자(SPK1)의 음성 “AAA (KR)”의 음원 위치인 제1위치(P1)를 나타내는 제1음원 위치 정보를 이용하여, 메모리(130)로부터 제1위치(P1)에 대응하는 제1출발 언어 정보와 제1도착 언어 정보를 리드할 수 있다. 리드 된 제1출발 언어 정보는 제1화자(SPK1)의 음성 “AAA’의 출발 언어가 한국어(KR)임을 지시하고, 제1도착 언어 정보는 제1화자(SPK1)의 음성 “AAA’의 도착 언어가 영어(EN)임을 지시한다.
음성 처리 장치(100)는 결정된 출발 언어 및 도착 언어에 기초하여, 화자들(SPK1~SPK4)의 음성들에 대한 번역을 제공할 수 있다. 실시 예들에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성들 각각의 번역 결과를 생성할 수 있다.
본 명세서에서, 음성 처리 장치(100)에 의해 출력되는 번역 결과는 도착 언어로 표현된 텍스트 데이터이거나 혹은 도착 언어로 발화된 음성과 연관된 음성 신호일 수 있으나, 이에 한정되는 것은 아니다.
본 명세서에서, 음성 처리 장치(100)가 번역 결과를 생성한다는 것은, 음성 처리 장치(100)의 음성 처리 회로(120) 자체의 연산을 통해 언어를 번역함으로써 번역 결과를 생성하는 것뿐만 아니라, 음성 처리 장치(100)가 번역 기능을 갖는 서버와의 통신을 통해, 상기 서버로부터 번역 결과를 수신함으로써 번역 결과를 생성하는 것을 포함한다.
예컨대, 음성 처리 회로(120)는 메모리(130)에 저장된 번역 애플리케이션을 실행함으로써, 화자들(SPK1~SPK4) 각각의 음성에 대한 번역 결과를 생성할 수 있다.
예컨대, 음성 처리 장치(100)는 분리 음성 신호, 출발 언어 정보 및 도착 언어 정보를 번역기(translator)로 전송하고, 번역기로부터 분리 음성 신호에 대한 번역 결과를 수신할 수 있다. 번역기는 언어에 대한 번역을 제공하는 환경 또는 시스템을 의미할 수 있다. 실시 예들에 따라, 번역기는 분리 음성 신호, 출발 언어 정보 및 도착 언어 정보를 이용하여, 화자들(SPK1~SPK4) 각각의 음성에 대한 번역 결과를 출력할 수 있다.
예컨대, 음성 처리 장치(100)는 한국어(KR)로 표현되는 제1화자(SPK1)의 음성 “AAA (KR)”과 연관된 분리 음성 신호를 이용하여, 영어(EN)로 표현되는 제1화자(SPK1)의 음성에 대한 번역 결과 “AAA (EN)”를 생성할 수 있다. 또한, 예컨대, 음성 처리 장치(100)는 영어(EN)로 표현되는 제2화자(SPK2)의 음성 “BBB (EN)”과 연관된 분리 음성 신호를 이용하여, 한국어(KR)로 표현되는 제2화자(SPK2)의 음성에 대한 번역 결과 “BBB (KR)”를 생성할 수 있다.
마찬가지로, 음성 처리 장치(100)는 제3화자(SPK3)의 음성 “CCC (CN)” 및 제4화자(SPK4)의 음성 “DDD (JP)”에 대한 번역 결과를 생성할 수 있다.
음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성에 대한 번역 결과를 출력할 수 있다. 실시 예들에 따라, 음성 처리 장치(100)는 디스플레이 또는 스피커와 같은 출력 장치를 통해, 번역 결과를 시각적 또는 청각적으로 출력할 수 있다. 예컨대, 음성 처리 장치(100)는 제1화자(SPK1)의 음성 “AAA (KR)”에 대한 번역 결과인 “AAA (EN)”을 출력 장치를 통해 출력할 수 있다.
후술하는 바와 같이, 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성들에 대한 번역 결과의 출력 순서를 결정하고, 결정된 출력 순서에 따라 번역 결과를 출력할 수 있다.
본 발명의 실시 예들에 따른 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있으며, 분리 음성 신호를 이용하여, 화자들(SPK1~SPK4) 음성의 음원 위치에 따라 출발 언어와 도착 언어를 결정하고, 화자들(SPK1~SPK4)의 음성을 번역할 수 있다. 또한, 음성 처리 장치(100)는 번역 결과를 출력할 수 있다.
도 7은 본 발명의 실시 예들에 따른 음성 처리 장치의 출력 동작을 설명하기 위한 도면이다. 도 1 내지 도 7을 참조하면, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성에 대한 번역 결과를 출력할 수 있다.
음성 처리 장치(100)는 화자들(SPK1~SPK4) 음성들 각각의 발화 시점에 기초하여, 음성들 각각에 대한 번역 결과의 출력 순서를 결정할 수 있다. 실시 예들에 따라, 음성 처리 장치(100)는 음성들과 연관된 음성 신호에 기초하여, 음성들 각각의 발화 시점을 나타내는 발화 시점 정보를 생성할 수 있다. 음성 처리 장치(100)는 발화 시점 정보에 기초하여, 음성들 각각에 대한 출력 순서를 결정하고, 결정된 출력 순서에 따라 번역 결과를 출력할 수 있다.
본 명세서에서, 음성 처리 장치(100)가 특정 출력 순서에 따라 번역 결과를 출력한다는 것은, 음성 처리 장치(100)가 음성들 각각에 대한 번역 결과를 상기 특정 출력 순서에 따라 순차적으로 각각 출력하는 것뿐만 아니라, 번역 결과들을 상기 특정 순서에 따라 출력하기 위한 데이터를 출력할 수 있다.
예컨대, 번역 결과가 번역된 음성인 경우, 음성 처리 장치(100)는 화자들 각각의 번역된 음성과 연관된 음성 신호를 특정 출력 순서에 따라 순차적으로 각각 출력하거나, 또는, 번역된 음성들이 상기 특정 출력 순서에 따라 재생되는 음성 신호를 출력할 수 있다.
예컨대, 음성 처리 장치(100)는 음성들 각각의 발화 순서와 동일하도록 번역 결과의 출력 순서를 결정하고, 결정된 출력 순서에 따라 음성들 각각에 대한 번역 결과를 출력할 수 있다. 즉, 음성 처리 장치(100)에 의해, 먼저 발화된 음성에 대한 번역 결과가 먼저 출력될 수 있다.
예컨대, 도 7에 도시된 바와 같이, 제1시점(T1)에 음성 “AAA (KR)”가 발화되고, 제1시점(T1) 이후의 제2시점(T2)에 음성 “BBB (EN)”가 발화된 경우, 제5시점(T5)에 음성 “AAA (KR)”에 대한 번역 결과 “AAA (EN)”가 출력되고, 제5시점(T5) 이후의 제6시점(T6)에 음성 “BBB”에 대한 번역 결과 “BBB (KR)”가 출력될 수 있다. 즉, 상대적으로 먼저 발화된 음성 “AAA (KR)”에 대한 번역 결과 “AAA (EN)”가 상대적으로 먼저 출력될 수 있다.
한편, 도 7에는 음성들 “AAA (KR)”, “BBB (EN)”, “CCC (CN)” 및 “DDD (JP)”가 모두 발화된 후, 번역 결과들 “AAA (EN)” 및 “BBB (KR)” 등이 출력되는 것으로 도시되어 있으나, 번역 결과들은 음성들이 모두 발화되기 전에 출력될 수 있음은 당연하다. 다만, 번역 결과들의 출력 순서는 해당하는 음성들의 발화 순서와 동일할 수 있다.
본 발명의 실시 예들에 따른 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성의 음원 위치에 따라 출발 언어와 도착 언어를 결정하고, 결정된 출발 언어와 도착 언어에 따라 화자들(SPK1~SPK4)의 음성을 번역하고, 번역 결과를 출력할 수 있다. 이 때, 번역 결과는 화자들(SPK1~SPK4)의 음성들 각각의 발화 시점에 따라 결정되는 출력 순서에 따라 출력될 수 있다. 이에 따라, 화자들(SPK1~SPK4)이 중첩적으로 음성들을 발화하더라도, 화자들 각각의 음성이 정확하게 인식되어 번역될 수 있을 뿐만 아니라, 화자들(SPK1~SPK4)의 번역이 순차적으로 출력됨으로써 화자들(SPK1~SPK4) 사이의 소통이 원활하게 이루어질 수 있는 효과가 있다.
도 8 및 도 9는 본 발명의 실시 예들에 따른 음성 처리 장치와 차량을 나타낸다.
도 8을 참조하면, 제1화자(SPK1)는 차량(200)의 전행(front row) 왼쪽 영역(FL)에 위치하고 음성 “AAA”를 한국어(KR)로 발화할 수 있다. 제2화자(SPK2)는 차량(200)의 전행 오른쪽 영역(FR)에 위치하고 음성 “BBB”를 영어(EN)로 발화할 수 있다. 제3화자(SPK3)는 차량(200)의 후행 왼쪽 영역(BL)에 위치하고 음성 “CCC”를 중국어(CN)로 발화할 수 있다. 제4화자(SPK4)는 차량(200)의 후행 오른쪽 영역(BR)에 위치하고 음성 “DDD”를 일본어(JP)로 발화할 수 있다.
상술한 바와 같이, 음성 처리 장치(100)는 화자들(SPK1~SPK4)각각의 음성과 연관된 분리 음성 신호를 이용하여, 화자들(SPK1~SPK4) 각각의 음성에 대한 번역을 제공할 수 있다. 예컨대, 음성 처리 장치(100)는 제1화자(SPK1)에 의해 발화된 음성 “AAA(KR)”에 대한 번역을 제공할 수 있다.
도 9를 참조하면, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성들에 대한 번역 결과를 차량(200)으로 전송할 수 있다. 번역 결과는 차량(200)에 설치된 스피커들(S1~S4)을 통해 출력될 수 있다.
차량(200)은 차량(200)을 제어하기 위한 전자 제어 유닛(electronic controller unit (ECU))을 포함할 수 있다. 전자 제어 유닛은 차량(200)의 전반적인 동작을 제어할 수 있다. 예컨대, 전자 제어 유닛은 스피커들(S1~S4)의 작동을 제어할 수 있다.
스피커들(S1~S4)은 음성 신호를 수신하고, 음성 신호에 해당하는 음성을 출력할 수 있다. 실시 예들에 따라, 스피커들(S1~S4)은 음성 신호에 기초하여 진동을 발생할 수 있고, 스피커들(S1~S4)의 진동에 따라 음성이 재생될 수 있다.
실시 예들에 따라, 스피커들(S1~S4)은 화자들(SPK1~SPK4) 각각의 위치에 배치될 수 있다. 예컨대, 스피커들(S1~S4) 각각은 화자들(SPK1~SPK4)이 위치한 좌석(seat)의 머리 받침(headrest)에 배치된 스피커일 수 있으나, 본 발명의 실시 예들이 이에 한정되는 것은 아니다.
화자들(SPK1~SPK4) 각각의 음성의 번역 결과는 차량(200) 내의 스피커들(S1~S4)을 통해 출력될 수 있다. 실시 예들에 따라, 화자들(SPK1~SPK4) 각각의 음성의 번역 결과는 스피커들(S1~S4) 중 특정 스피커를 통해 출력될 수 있다.
예컨대, 차량(200)은 음성 처리 장치(100)로부터 전송된 화자들(SPK1~SPK4) 각각의 번역된 음성과 연관된 음성 신호들을 스피커들(S1~S4)로 전송함으로써, 번역된 음성을 재생할 수 있다. 또한, 예컨대, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 번역된 음성과 연관된 음성 신호들 스피커들(S1~S4)로 전송할 수 있다.
음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성에 대한 번역 결과가 출력될 스피커들(S1~S4)의 위치를 결정할 수 있다. 실시 예들에 따라, 음성 처리 장치(100)는 번역 결과가 출력될 스피커의 위치를 나타내는 출력 위치 정보를 생성할 수 있다.
예컨대, 차량(300)의 제1행(예컨대, 전행)에 위치한 화자의 음성의 번역 결과는 동일한 행인, 제1행(예컨대, 전행)에 배치된 스피커로부터 출력될 수 있다.
예컨대, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성의 음원 위치들에 대한 출발 언어 정보 및 도착 언어 정보에 기초하여, 번역될 음성의 음원 위치의 도착 언어와, 출력될 스피커의 위치에 대응하는 출발 언어가 동일하도록 출력 위치 정보를 생성할 수 있다.
다만, 번역 결과가 출력될 스피커의 위치를 정하는 방법은 위 방법에 한정된 것은 아니다.
출력 위치 정보에 따라, 화자들(SPK1~SPK4) 각각의 음성의 번역 결과는 스피커들(S1~S4) 중 해당하는 스피커로부터 출력될 수 있다.
실시 예들에 따라, 음성 처리 장치(100)는 번역 결과와 함께, 해당 번역 결과가 출력될 스피커의 위치를 나타내는 출력 위치 정보를 함께 차량(200)으로 전송할 수 있고, 차량(200)은 출력 위치 정보를 이용하여, 스피커들(S1~S4) 중에서 해당 음성의 번역 결과를 출력할 스피커를 결정하고, 결정된 스피커로 출력될 번역된 음성과 연관된 음성 신호를 전송할 수 있다.
또한, 실시 예들에 따라, 음성 처리 장치(100)는 출력 위치 정보를 이용하여, 스피커들(S1~S4) 중에서 해당 음성의 번역 결과를 출력할 스피커를 결정하고, 결정된 스피커로 출력될 번역된 음성과 연관된 음성 신호를 전송할 수 있다.
예컨대, 도 8 및 도 9의 경우, 전행 왼쪽 위치의 도착 언어와 전행 오른쪽 위치의 출발 언어는 영어(EN) 이므로, 전행 왼쪽 위치에서의 음성의 번역 결과 “AAA (EN)”는 전행 오른쪽에 위치한 스피커(S2)에서 출력될 수 있다.
또한, 음성 처리 장치(100)는 번역 결과의 출력 순서를 결정할 수 있고, 번역 결과는 결정된 출력 순서에 따라 출력될 수 있다. 예컨대, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성들의 발화 시점에 기초하여, 번역 결과가 출력될 출력 순서를 결정할 수 있다. 또한, 예컨대, 음성 처리 장치(100)는 결정된 출력 순서에 따라 음성들 각각에 대한 번역 결과를 차량(200)으로 출력하거나, 또는, 결정된 출력 순서에 따라 번역된 음성이 출력되는 음성 신호를 차량(200)으로 전송할 수 있다.
예컨대, 도 8 및 도 9에 도시된 바와 같이, 음성들의 발화 순서는 “AAA (KR)”, “BBB (EN)”, “CCC (CN)” 및 “DDD (JP)” 순일 수 있고, 이에 따라, 번역 결과의 출력 순서 또한 “AAA (EN)”, “BBB (KR)”, “CCC (JP)” 및 “DDD (CN)”일 수 있다. 즉, 제1스피커(S1)에서 “AAA (EN)”이 출력된 후, 제2스피커(S2)에서 “BBB (KR)”이 출력될 수 있다.
도 10은 본 발명의 실시 예들에 따른 음성 처리 장치의 동작을 설명하기 위한 플로우 차트이다. 도 1 내지 도 10을 참조하면, 음성 처리 장치(100)는 음성 신호로부터 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있다(S110). 실시 예들에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4)의 음성들과 연관된 음성 신호를 수신하고, 음성 신호로부터 분리 음성 신호를 추출 또는 분리할 수 있다.
음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성에 대한 출발 언어와 도착 언어를 결정할 수 있다(S120). 실시 예들에 따라, 음성 처리 장치(100)는 메모리(130)를 참조하여, 분리 음원 신호와 연관된 음성의 음원 위치에 대응하는 출발 언어 정보와 도착 언어 정보를 리드하여, 분리 음원 신호 각각에 대한 출발 언어와 도착 언어를 결정할 수 있다.
음성 처리 장치(100)는 분리 음성 신호를 이용하여, 화자들(SPK1~SPK4) 각각의 음성에 대한 번역 결과를 생성할 수 있다(S130). 실시 예들에 따라, 음성 처리 장치(100)는 음성 처리 장치(100) 내에 저장된 자체 번역 알고리즘을 통해 번역 결과를 생성하거나, 또는, 통신 가능한 번역기로 분리 음성 신호, 도착 언어 및 출발 언어 정보를 전송하고, 번역기로부터 번역 결과를 수신할 수 있다.
음성 처리 장치(100)는 음성들의 발화 순서에 기초하여 번역 결과의 출력 순서를 결정할 수 있다(S140). 실시 예들에 따라, 음성 처리 장치(100)는 화자들(SPK1~SPK4) 각각의 음성들의 발화 순서를 판단하고, 판단된 발화 순서에 기초하여 음성들의 번역 결과의 출력 순서를 결정할 수 있다. 예컨대, 음성들의 발화 순서와, 대응하는 음성에 대한 번역 결과의 출력 순서는 동일할 수 있다.
음성 처리 장치(100)는 결정된 출력 순서에 따라 번역 결과를 출력할 수 있다(S150). 예컨대, 음성 처리 장치(100)에 의해 생성된 번역 결과는 스피커를 통해 출력될 수 있고, 스피커를 통해 출력되는 번역된 음성들의 출력 순서는 음성들의 발화 순서와 동일할 수 있다.
본 발명의 실시 예들에 따른 음성 처리 시스템은 화자들(SPK1~SPK4) 각각의 음성과 연관된 분리 음성 신호를 생성할 수 있으며, 분리 음성 신호를 이용하여, 화자들(SPK1~SPK4) 음성의 음원 위치에 따라 출발 언어와 도착 언어를 결정하고, 화자들(SPK1~SPK4)의 음성을 번역하고, 번역 결과를 출력할 수 있다. 이 때, 번역 결과는 화자들(SPK1~SPK4)의 음성들 각각의 발화 시점에 따라 결정되는 출력 순서에 따라 출력될 수 있다.
이상과 같이 실시 예들이 비록 한정된 실시 예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
100: 음성 처리 장치 110: 음성 신호 수신 회로
115: 마이크 120: 음성 처리 회로
130: 메모리 140: 출력 회로
200: 차량

Claims (8)

  1. 음성 처리 장치에 있어서,
    화자들로부터 발화된 음성들과 연관된 음성 신호를 수신하도록 구성되는 음성 수신 회로;
    상기 음성 신호를 상기 음성들 각각의 음원 위치에 기초하여 음원 분리함으로써, 상기 음성들 각각과 연관된 분리 음성 신호를 생성하고, 상기 분리 음성 신호를 이용하여 상기 음성들 각각에 대한 번역 결과를 생성하도록 구성되는 음성 처리 회로;
    메모리; 및
    상기 음성들 각각에 대한 번역 결과를 출력하도록 구성되는 출력 회로를 포함하고,
    상기 번역 결과의 출력 순서는 상기 음성들 각각의 발화 시점에 기초하여 결정되는,
    음성 처리 장치.
  2. 제1항에 있어서,
    상기 번역 결과는 상기 음성들 각각을 번역한 음성과 연관된 음성 신호 또는 상기 음성들에 대응하는 텍스트를 번역한 텍스트와 연관된 텍스트 데이터를 포함하는,
    음성 처리 장치.
  3. 제1항에 있어서, 상기 음성 처리 장치는,
    어레이를 이루도록 배치된 복수의 마이크들을 포함하고,
    상기 복수의 마이크들은 상기 음성들에 응답하여 상기 음성 신호를 생성하도록 구성되는,
    음성 처리 장치.
  4. 제3항에 있어서, 상기 음성 처리 회로는,
    상기 복수의 마이크로부터 생성된 복수의 음성 신호들 사이의 시간 지연에 기초하여, 상기 음성들 각각의 음원 위치를 판단하고,
    판단된 음원 위치에 기초하여, 상기 분리 음성 신호를 생성하는,
    음성 처리 장치.
  5. 제3항에 있어서, 상기 음성 처리 회로는,
    상기 복수의 마이크로부터 생성된 복수의 음성 신호들 사이의 시간 지연에 기초하여, 상기 음성들 각각의 음원 위치를 나타내는 음원 위치 정보를 생성하고, 상기 음성에 대한 음원 위치 정보와 상기 음성에 대한 분리 음성 신호를 서로 매칭하여 상기 메모리에 저장하는,
    음성 처리 장치.
  6. 제1항에 있어서, 상기 음성 처리 회로는,
    상기 메모리에 저장된 상기 분리 음성 신호의 음원 위치와 대응하는 출발 언어 정보 및 도착 언어 정보를 참조하여, 상기 분리 음성 신호와 연관된 음성을 번역하기 위한 출발 언어 및 도착 언어를 결정하고,
    상기 음성들 각각의 언어를 출력 언어로부터 도착 언어로 번역함으로써 상기 번역 결과를 생성하는,
    음성 처리 장치.
  7. 제1항에 있어서, 상기 음성 처리 회로는,
    상기 음성 신호에 기초하여 상기 화자들로부터 발화된 음성들의 발화 시점을 판단하고, 상기 번역 결과의 출력 순서와 상기 음성들 각각의 발화 순서가 서로 동일하도록, 상기 번역 결과의 출력 순서를 결정하고,
    상기 출력 회로는 결정된 출력 순서에 따라 상기 번역 결과를 출력하는,
    음성 처리 장치.
  8. 제1항에 있어서,
    상기 음성 처리 회로는,
    제1시점에 발화된 제1음성에 대한 제1번역 결과 및 상기 제1시점 이후의 제2시점에 발화된 제2음성에 대한 제2번역 결과를 생성하고,
    상기 제1번역 결과는 상기 제2번역 결과보다 먼저 출력되는,
    음성 처리 장치.
KR1020200125382A 2020-09-28 2020-09-28 음성 처리 장치 및 이의 작동 방법 KR20220042509A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020200125382A KR20220042509A (ko) 2020-09-28 2020-09-28 음성 처리 장치 및 이의 작동 방법
US18/029,060 US20230377593A1 (en) 2020-09-28 2021-09-24 Speech processing device and operation method thereof
PCT/KR2021/013072 WO2022065934A1 (ko) 2020-09-28 2021-09-24 음성 처리 장치 및 이의 작동 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200125382A KR20220042509A (ko) 2020-09-28 2020-09-28 음성 처리 장치 및 이의 작동 방법

Publications (1)

Publication Number Publication Date
KR20220042509A true KR20220042509A (ko) 2022-04-05

Family

ID=80846723

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200125382A KR20220042509A (ko) 2020-09-28 2020-09-28 음성 처리 장치 및 이의 작동 방법

Country Status (3)

Country Link
US (1) US20230377593A1 (ko)
KR (1) KR20220042509A (ko)
WO (1) WO2022065934A1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170112713A (ko) 2016-04-01 2017-10-12 삼성전자주식회사 음성 번역을 위한 장치 및 방법

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120097296A (ko) * 2011-02-24 2012-09-03 곽근창 다중화자의 다채널 음성신호로부터 음원분리를 통한 로봇청각시스템 및 방법
KR101542647B1 (ko) * 2012-12-10 2015-08-12 연세대학교 산학협력단 화자 검출을 이용한 오디오 신호 처리 방법 및 장치
JP6334354B2 (ja) * 2014-09-30 2018-05-30 株式会社東芝 機械翻訳装置、方法およびプログラム
JP6464465B2 (ja) * 2017-03-06 2019-02-06 本田技研工業株式会社 会話支援装置、会話支援装置の制御方法、及び会話支援装置のプログラム
KR20200083685A (ko) * 2018-12-19 2020-07-09 주식회사 엘지유플러스 실시간 화자 판단 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170112713A (ko) 2016-04-01 2017-10-12 삼성전자주식회사 음성 번역을 위한 장치 및 방법

Also Published As

Publication number Publication date
US20230377593A1 (en) 2023-11-23
WO2022065934A1 (ko) 2022-03-31

Similar Documents

Publication Publication Date Title
US9864745B2 (en) Universal language translator
JP5750380B2 (ja) 音声翻訳装置、音声翻訳方法および音声翻訳プログラム
JP4667085B2 (ja) 音声対話システム、コンピュータプログラム、対話制御装置及び音声対話方法
JP2011504624A (ja) 自動同時通訳システム
KR20180012639A (ko) 음성 인식 방법, 음성 인식 장치, 음성 인식 장치를 포함하는 기기, 음성 인식 방법을 수행하기 위한 프로그램을 저장하는 저장 매체, 및 변환 모델을 생성하는 방법
JP6800809B2 (ja) 音声処理装置、音声処理方法およびプログラム
KR20220042009A (ko) 차량과 통신할 수 있는 음성 처리 장치 및 이의 작동 방법
KR20220042509A (ko) 음성 처리 장치 및 이의 작동 방법
CN110737422B (zh) 一种声音信号采集方法及装置
JP2010128766A (ja) 情報処理装置、情報処理方法、プログラム及び記憶媒体
US20220101829A1 (en) Neural network speech recognition system
JP2007286376A (ja) 音声案内システム
KR102575293B1 (ko) 음성을 처리하기 위한 음성 처리 장치, 음성 처리 시스템 및 음성 처리 방법
KR20230013473A (ko) 화자들의 음성을 처리하기 위한 장치 및 방법
US20220366156A1 (en) Translation system, translation apparatus, translation method, and translation program
KR20220042010A (ko) 음성 처리 장치와 단말기를 포함하는 음성 처리 시스템
KR20180066513A (ko) 자동 통역 방법 및 장치, 및 기계 번역 방법
US20230377594A1 (en) Mobile terminal capable of processing voice and operation method therefor
JP2024521837A (ja) 音声を処理するための音声処理装置、音声処理システムおよび音声処理方法
JP2016186646A (ja) 音声翻訳装置、音声翻訳方法および音声翻訳プログラム
KR20220022674A (ko) 음성 데이터를 처리하기 위한 음성 처리 장치 및 이의 작동 방법
KR20220043279A (ko) 음성 처리 장치 및 이를 포함하는 음성 처리 시스템
US20230377592A1 (en) Voice processing device and operating method therefor
JP2014038150A (ja) 音声対話システム及び音声対話方法
JP2015187738A (ja) 音声翻訳装置、音声翻訳方法および音声翻訳プログラム