KR102320975B1

KR102320975B1 - 발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 장치 및 방법

Info

Publication number: KR102320975B1
Application number: KR1020190090462A
Authority: KR
Inventors: 채종훈; 김민욱; 김상기; 박용철; 양시영; 장주영; 한성민
Original assignee: 엘지전자 주식회사
Priority date: 2019-07-25
Filing date: 2019-07-25
Publication date: 2021-11-04
Also published as: KR20190104269A; US11107456B2; US20200005763A1

Abstract

본 발명은 서버 기반의 인공지능 쿠킹 로봇을 이용한 모션 학습 시스템 및 그 제어 방법에 관한 것이다. 본 발명은, 사물의 이미지를 인식하여 동작을 구현하는 서버 기반의 인공지능 쿠킹 로봇을 이용한 모션 학습 시스템에 있어서, 상기 사물의 이미지를 센싱부를 통해 획득하여 이미지 데이터를 생성하여 서버로 전송하거나 상기 서버의 요청에 의해 상기 사물에 대한 사용자의 동작을 입력부로부터 입력 받아 시연 데이터를 생성하여 상기 서버로 전송하며, 상기 이미지 데이터 또는 상기 시연 데이터에 대응되는 동작 데이터에 의해 상기 사물에 대한 동작을 구현하는 로봇; 및 상기 사물에 대한 동작 데이터를 검출하고, 상기 이미지 데이터에 대응되는 동작을 웹서버를 통해 검색하여 상기 동작 데이터를 생성하거나 상기 시연 데이터에 대응되는 동작 데이터를 생성하여 상기 로봇을 제어하는 서버를 포함하는 서버 기반의 인공지능 쿠킹 로봇을 이용한 모션 학습 시스템 및 그 제어 방법을 제공한다.

Description

발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 장치 및 방법{ARTIFICIAL INTELLIGENCE(AI)-BASED VOICE SAMPLING APPARATUS AND METHOD FOR PROVIDING SPEECH STYLE}

본 발명은 발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 장치 및 방법에 관한 것으로, 특히 딥 러닝 기반 음성 합성 시스템에서의 발화 스타일 부여를 위한 대표 샘플의 선택을 위한 음성 샘플링 장치 및 방법에 관한 것이다.

인공 지능(artificial intelligence)은 인간의 지능으로 할 수 있는 사고, 학습, 자기계발 등을 컴퓨터가 할 수 있도록 하는 방법을 연구하는 컴퓨터 공학 및 정보기술의 한 분야로, 컴퓨터가 인간의 지능적인 행동을 모방할 수 있도록 하는 것을 의미한다.

또한, 인공지능은 그 자체로 존재하는 것이 아니라, 컴퓨터 과학의 다른 분야와 직간접으로 많은 관련을 맺고 있다. 특히 현대에는 정보기술의 여러 분야에서 인공지능적 요소를 도입하여, 그 분야의 문제 풀이에 활용하려는 시도가 매우 활발하게 이루어지고 있다.

특히, 인공지능이 적용된 음성 인식 기술도 발전해 나가고 있는데, 음성은 인간의 기초적이고 효과적인 의사를 전달할 수 있는 도구 중 하나로, 음성 기반 통신은 사용자에게 직관적이고 편리한 서비스를 제공하고, 일부 장치는 음성을 사용하여 상호 작용할 수 있는 음성 사용자 인터페이스를 사용하고 있다. 종래의 음성 사용자 인터페이스에서 음성 응답을 구현하는 간단한 방법은 오디오 녹음이지만, 녹음된 음성만이 이용될 수 있다는 한계가 있었다. 이러한 장치는 녹음되지 않은 음성에 대해서는 응답 서비스를 제공할 수 없기 때문에, 장치 사용의 유연성이 떨어진다. 이러한 환경에서, 많은 연구자들이 자연스럽고 빠른 음성 합성 모델을 만들려고 노력하고 있다. 또한, 텍스트로부터 음성을 생성할 수 있는 TTS (text-to-speech)라고도 하는 텍스트-음성 합성이 널리 연구되고 있다.

이와 관련, 종래의 한국공개특허 제2019-0026518호(인공지능 음성 인식 장치의 동작 방법)는, 마이크를 통하여 사용자의 음성 입력 신호를 수신하는 단계, 음성 입력 신호 대응하는 음성 데이터를 음성 인식 서버 시스템으로 전송하는 단계, 음성 입력 신호의 주파수 및 세기에 기초하여 사용자를 식별하는 단계, 음성 인식 서버 시스템으로부터 음성 입력 신호에 기초한 응답 신호를 수신하는 단계, 및, 수신한 응답 신호에 대응하는 음성 안내 메시지를 출력하는 단계를 포함하고, 음성 안내 메시지 출력 단계는, 식별된 사용자에 대응하여 데이터베이스에 저장된 음색 데이터에 기초하는 음성으로 음성 안내 메시지를 출력함으로써, 사용자 맞춤형 음성 안내를 제공하고 있다.

다만, 종래 기술은, 사용자를 식별하는 기능과 이에 대한 응답 신호만을 생성하고, 사용자의 발화에 대한 운율을 분석하거나 발화 스타일을 분석하지는 않기 때문에 텍스트 형식의 음성이 출력이 되기 때문에 자연스러운 대화형 서비스를 제공하는데 한계가 있으며, 사용자에게 친화적이면서 자연스러운 대화를 생성하지는 못하는 문제점이 있다.

본 발명은 음성 합성에 있어 사용자의 음성을 반영하여 발화 스타일을 적용하는 인공지능 기반의 음성 샘플링 장치 및 방법을 제공하는 것을 일 목적으로 한다.

또한, 본 발명은 동작을 발화 스타일을 적용하기 위한 음성 샘플을 확보하기 위해 임베딩 기술을 적용하여 합성 음성 데이터를 제공하는 인공지능 기반의음성 샘플링 장치 및 방법을 제공하는 것을 다른 목적으로 한다.

상기 목적을 달성하기 위하여 본 발명은, 사용자의 음성을 입력 받아 음성 샘플을 추출하고 상기 음성 샘플에 포함된 발성 특징을 분석하는 운율 인코더; 상기 발성 특징을 반영하기 위한 텍스트를 입력 받는 텍스트 인코더; 상기 운율 인코더에 입력된 음성 샘플로부터 상기 발성 특징을 레이블에 따라 분류하고, 상기 레이블에서 상기 발성 특징을 나타내는 임베딩 벡터를 추출하며, 상기 임베딩 벡터로부터 발화 스타일을 생성하여 상기 텍스트에 적용시키는 프로세서; 및 상기 프로세서에 의해 상기 텍스트에 상기 발화 스타일이 적용된 합성 음성 데이터를 출력하는 운율 디코더를 포함하는 발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 장치를 제공한다.

실시 예에 따라, 상기 운율 인코더는, 상기 음성 샘플을 기 설정된 레이블로 나눠 상기 레이블에 대한 임베딩 벡터를 추출할 수 있다.

실시 예에 따라, 상기 운율 인코더는, 상기 음성 샘플에 포함된 상기 사용자의 발화 속도, 발음 강세, 휴지 구간, 음 높이 또는 억양 중 적어도 어느 하나를 포함하는 발성 특징을 통해 상기 임베딩 벡터를 추출할 수 있다.

실시 예에 따라, 상기 임베딩 벡터의 추출은, SPECTRAL 정보, SLIDING 정보 또는 평균값을 통해 추출될 수 있다.

실시 예에 따라, 상기 프로세서는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 상기 레이블 내 모든 음성 샘플 들의 벡터 성분 별 평균 값과 가장 가까운 음성 샘플을 선택할 수 있다.

실시 예에 따라, 상기 프로세서는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 각 음성 샘플 들과의 벡터 성분 별 거리의 합이 가장 작은 음성 샘플을 선택할 수 있다.

실시 예에 따라, 상기 프로세서는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 상기 레이블 내 각 음성 샘플 들과의 벡터 성분 별 거리의 합이 가장 작은 음성 샘플을 선택할 수 있다.

또한, 본 발명은 운율 인코더를 통해 사용자의 음성 샘플을 입력 받아 상기 사용자의 음성 샘플에 포함된 발성 특징을 분석하는 제1 단계; 상기 발성 특징을 반영하기 위한 텍스트를 텍스트 인코더를 통해 입력 받는 제2 단계; 상기 음성 샘플로부터 임베딩 벡터를 추출하며 프로세서에 의해 발화 스타일을 생성하여 상기 텍스트에 적용시키는 제3 단계; 및 상기 발화 스타일이 적용된 합성 음성 데이터를 운율 디코더를 통해 출력하는 제4 단계를 포함하는 발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 방법을 제공한다.

실시 예에 따라, 복수의 학습 텍스트 및 상기 복수의 학습 텍스트에 대응되는 음성 데이터에 기초하여 기계학습을 수행하여 생성된 인공 신경망 텍스트-음성 합성 모델을 생성하는 단계를 더 포함할 수 있다.

실시 예에 따라, 상기 제2 단계는, 상기 사용자로부터 음성 샘플을 수신하는 단계; 및 상기 음성 샘플을 기 설정된 레이블로 나눠 상기 레이블에 대한 임베딩 벡터를 추출하는 단계를 더 포함할 수 있다.

실시 예에 따라, 상기 임베딩 벡터는, 상기 음성 샘플에 포함된 상기 사용자의 발화 속도, 발음 강세, 휴지 구간, 음 높이 또는 억양 중 적어도 어느 하나를 포함하는 발성 특징을 통해 추출될 수 있다.

상기 프로세서는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 각 음성 샘플 들과의 벡터 성분 별 거리의 합이 가장 작은 음성 샘플을 선택할 수 있다.

상기 프로세서는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 상기 레이블 내 각 음성 샘플 들과의 벡터 성분 별 거리의 합이 가장 작은 음성 샘플을 선택할 수 있다.

실시 예에 따라, 상기 음성 샘플을 입력 받는 단계는, 미리 결정된 시간 구간 내에 상기 사용자로부터 실시간으로 입력 받을 수 있다.

전술한 바와 같은 구성을 갖는 본 발명에 따르면, 음성 샘플 등 중 대표 샘플을 선택하는 방법을 제공하여, 사용자의 발화 스타일에 가장 근접한 음성 샘플을 추출하는 이점이 있다.

또한 본 발명은, Spectral 정보 기반 Acoustic Feature 정보 추론을 제공하여, 특징 벡터의 추출을 용이하게 하는 이점이 있다.

도 1은 본 발명의 일 실시 예에 따른 로봇을 포함하는 AI 장치를 나타낸다.
도 2는 본 발명의 일 실시 예에 따른 로봇과 연결되는 AI 서버를 나타낸다.
도 3은 본 발명의 일 실시 예에 따른 로봇을 포함하는 AI 시스템을 나타낸다.
도 4는 본 발명의 일 실시 예에 따른 인공지능 기반의 음성 샘플링 장치의 구성을 나타낸다.
도 5는 본 발명의 일 실시 예에 따른 인공지능 기반의 음성 샘플링 방법의 순서도를 나타낸다.
도 6은 본 발명의 일 실시 예에 따른 합성 음성 데이터를 출력하는 세부 플로우차트를 나타낸다.
도 7은 본 발명의 일 실시 예에 따른 대표적인 음성 샘플을 선택하는 모습을 나타낸다.

이하, 첨부된 도면들에 기재된 내용들을 참조하여 본 발명을 상세히 설명한다. 다만, 본 발명이 예시적 실시 예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일 참조부호는 실질적으로 동일한 기능을 수행하는 부재를 나타낸다.

본 발명의 목적 및 효과는 하기의 설명에 의해서 자연스럽게 이해되거나 보다 분명해 질 수 있으며, 하기의 기재만으로 본 발명의 목적 및 효과가 제한되는 것은 아니다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이, 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다.

로봇은 스스로 보유한 능력에 의해 주어진 일을 자동으로 처리하거나 작동하는 기계를 의미할 수 있다. 특히, 환경을 인식하고 스스로 판단하여 동작을 수행하는 기능을 갖는 로봇을 지능형 로봇이라 칭할 수 있다.

로봇은 사용 목적이나 분야에 따라 산업용, 의료용, 가정용, 군사용 등으로 분류할 수 있다.

로봇은 액츄에이터 또는 모터를 포함하는 구동부를 구비하여 로봇 관절을 움직이는 등의 다양한 물리적 동작을 수행할 수 있다. 또한, 이동 가능한 로봇은 구동부에 휠, 브레이크, 프로펠러 등이 포함되어, 구동부를 통해 지상에서 주행하거나 공중에서 비행할 수 있다.

인공 지능은 인공적인 지능 또는 이를 만들 수 있는 방법론을 연구하는 분야를 의미하며, 머신 러닝(기계 학습, Machine Learning)은 인공 지능 분야에서 다루는 다양한 문제를 정의하고 그것을 해결하는 방법론을 연구하는 분야를 의미한다. 머신 러닝은 어떠한 작업에 대하여 꾸준한 경험을 통해 그 작업에 대한 성능을 높이는 알고리즘으로 정의하기도 한다.

인공 신경망(ANN: Artificial Neural Network)은 머신 러닝에서 사용되는 모델로써, 시냅스의 결합으로 네트워크를 형성한 인공 뉴런(노드)들로 구성되는, 문제 해결 능력을 가지는 모델 전반을 의미할 수 있다. 인공 신경망은 다른 레이어의 뉴런들 사이의 연결 패턴, 모델 파라미터를 갱신하는 학습 과정, 출력값을 생성하는 활성화 함수(Activation Function)에 의해 정의될 수 있다.

인공 신경망은 입력층(Input Layer), 출력층(Output Layer), 그리고 선택적으로 하나 이상의 은닉층(Hidden Layer)를 포함할 수 있다. 각 층은 하나 이상의 뉴런을 포함하고, 인공 신경망은 뉴런과 뉴런을 연결하는 시냅스를 포함할 수 있다. 인공 신경망에서 각 뉴런은 시냅스를 통해 입력되는 입력 신호들, 가중치, 편향에 대한 활성 함수의 함숫값을 출력할 수 있다.

모델 파라미터는 학습을 통해 결정되는 파라미터를 의미하며, 시냅스 연결의 가중치와 뉴런의 편향 등이 포함된다. 그리고, 하이퍼파라미터는 머신 러닝 알고리즘에서 학습 전에 설정되어야 하는 파라미터를 의미하며, 학습률(Learning Rate), 반복 횟수, 미니 배치 크기, 초기화 함수 등이 포함된다.

인공 신경망의 학습의 목적은 손실 함수를 최소화하는 모델 파라미터를 결정하는 것으로 볼 수 있다. 손실 함수는 인공 신경망의 학습 과정에서 최적의 모델 파라미터를 결정하기 위한 지표로 이용될 수 있다.

머신 러닝은 학습 방식에 따라 지도 학습(Supervised Learning), 비지도 학습(Unsupervised Learning), 강화 학습(Reinforcement Learning)으로 분류할 수 있다.

지도 학습은 학습 데이터에 대한 레이블(label)이 주어진 상태에서 인공 신경망을 학습시키는 방법을 의미하며, 레이블이란 학습 데이터가 인공 신경망에 입력되는 경우 인공 신경망이 추론해 내야 하는 정답(또는 결과 값)을 의미할 수 있다. 비지도 학습은 학습 데이터에 대한 레이블이 주어지지 않는 상태에서 인공 신경망을 학습시키는 방법을 의미할 수 있다. 강화 학습은 어떤 환경 안에서 정의된 에이전트가 각 상태에서 누적 보상을 최대화하는 행동 혹은 행동 순서를 선택하도록 학습시키는 학습 방법을 의미할 수 있다.

인공 신경망 중에서 복수의 은닉층을 포함하는 심층 신경망(DNN: Deep Neural Network)으로 구현되는 머신 러닝을 딥 러닝(심층 학습, Deep Learning)이라 부르기도 하며, 딥 러닝은 머신 러닝의 일부이다. 이하에서, 머신 러닝은 딥 러닝을 포함하는 의미로 사용된다.

도 1은 본 발명의 일 실시 예에 따른 AI 장치(100)를 나타낸다.

AI 장치(100)는 TV, 프로젝터, 휴대폰, 스마트폰, 데스크탑 컴퓨터, 노트북, 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 태블릿 PC, 웨어러블 장치, 셋톱박스(STB), DMB 수신기, 라디오, 세탁기, 냉장고, 데스크탑 컴퓨터, 디지털 사이니지, 로봇, 차량 등과 같은, 고정형 기기 또는 이동 가능한 기기 등으로 구현될 수 있다.

도 1을 참조하면, 단말기(100)는 통신부(110), 입력부(120), 러닝 프로세서(130), 센싱부(140), 출력부(150), 메모리(170) 및 프로세서(180) 등을 포함할 수 있다.

통신부(110)는 유무선 통신 기술을 이용하여 다른 AI 장치(100a 내지 100e)나 AI 서버(200) 등의 외부 장치들과 데이터를 송수신할 수 있다. 예컨대, 통신부(110)는 외부 장치들과 센서 정보, 사용자 입력, 학습 모델, 제어 신호 등을 송수신할 수 있다.

이때, 통신부(110)가 이용하는 통신 기술에는 GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), LTE(Long Term Evolution), 5G, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), 블루투스(Bluetooth??), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), ZigBee, NFC(Near Field Communication) 등이 있다.

입력부(120)는 다양한 종류의 데이터를 획득할 수 있다.

이때, 입력부(120)는 영상 신호 입력을 위한 카메라, 오디오 신호를 수신하기 위한 마이크로폰, 사용자로부터 정보를 입력 받기 위한 사용자 입력부 등을 포함할 수 있다. 여기서, 카메라나 마이크로폰을 센서로 취급하여, 카메라나 마이크로폰으로부터 획득한 신호를 센싱 데이터 또는 센서 정보라고 할 수도 있다.

입력부(120)는 모델 학습을 위한 학습 데이터 및 학습 모델을 이용하여 출력을 획득할 때 사용될 입력 데이터 등을 획득할 수 있다. 입력부(120)는 가공되지 않은 입력 데이터를 획득할 수도 있으며, 이 경우 프로세서(180) 또는 러닝 프로세서(130)는 입력 데이터에 대하여 전처리로써 입력 특징점(input feature)을 추출할 수 있다.

러닝 프로세서(130)는 학습 데이터를 이용하여 인공 신경망으로 구성된 모델을 학습시킬 수 있다. 여기서, 학습된 인공 신경망을 학습 모델이라 칭할 수 있다. 학습 모델은 학습 데이터가 아닌 새로운 입력 데이터에 대하여 결과 값을 추론해 내는데 사용될 수 있고, 추론된 값은 어떠한 동작을 수행하기 위한 판단의 기초로 이용될 수 있다.

이때, 러닝 프로세서(130)는 AI 서버(200)의 러닝 프로세서(240)과 함께 AI 프로세싱을 수행할 수 있다.

이때, 러닝 프로세서(130)는 AI 장치(100)에 통합되거나 구현된 메모리를 포함할 수 있다. 또는, 러닝 프로세서(130)는 메모리(170), AI 장치(100)에 직접 결합된 외부 메모리 또는 외부 장치에서 유지되는 메모리를 사용하여 구현될 수도 있다.

센싱부(140)는 다양한 센서들을 이용하여 AI 장치(100) 내부 정보, AI 장치(100)의 주변 환경 정보 및 사용자 정보 중 적어도 하나를 획득할 수 있다.

이때, 센싱부(140)에 포함되는 센서에는 근접 센서, 조도 센서, 가속도 센서, 자기 센서, 자이로 센서, 관성 센서, RGB 센서, IR 센서, 지문 인식 센서, 초음파 센서, 광 센서, 마이크로폰, 라이다, 레이더 등이 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시킬 수 있다.

이때, 출력부(150)에는 시각 정보를 출력하는 디스플레이부, 청각 정보를 출력하는 스피커, 촉각 정보를 출력하는 햅틱 모듈 등이 포함될 수 있다.

메모리(170)는 AI 장치(100)의 다양한 기능을 지원하는 데이터를 저장할 수 있다. 예컨대, 메모리(170)는 입력부(120)에서 획득한 입력 데이터, 학습 데이터, 학습 모델, 학습 히스토리 등을 저장할 수 있다.

프로세서(180)는 데이터 분석 알고리즘 또는 머신 러닝 알고리즘을 사용하여 결정되거나 생성된 정보에 기초하여, AI 장치(100)의 적어도 하나의 실행 가능한 동작을 결정할 수 있다. 그리고, 프로세서(180)는 AI 장치(100)의 구성 요소들을 제어하여 결정된 동작을 수행할 수 있다.

이를 위해, 프로세서(180)는 러닝 프로세서(130) 또는 메모리(170)의 데이터를 요청, 검색, 수신 또는 활용할 수 있고, 상기 적어도 하나의 실행 가능한 동작 중 예측되는 동작이나, 바람직한 것으로 판단되는 동작을 실행하도록 AI 장치(100)의 구성 요소들을 제어할 수 있다.

이때, 프로세서(180)는 결정된 동작을 수행하기 위하여 외부 장치의 연계가 필요한 경우, 해당 외부 장치를 제어하기 위한 제어 신호를 생성하고, 생성한 제어 신호를 해당 외부 장치에 전송할 수 있다.

프로세서(180)는 사용자 입력에 대하여 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 사용자의 요구 사항을 결정할 수 있다.

이때, 프로세서(180)는 음성 입력을 문자열로 변환하기 위한 STT(Speech To Text) 엔진 또는 자연어의 의도 정보를 획득하기 위한 자연어 처리(NLP: Natural Language Processing) 엔진 중에서 적어도 하나 이상을 이용하여, 사용자 입력에 상응하는 의도 정보를 획득할 수 있다.

이때, STT 엔진 또는 NLP 엔진 중에서 적어도 하나 이상은 적어도 일부가 머신 러닝 알고리즘에 따라 학습된 인공 신경망으로 구성될 수 있다. 그리고, STT 엔진 또는 NLP 엔진 중에서 적어도 하나 이상은 러닝 프로세서(130)에 의해 학습된 것이나, AI 서버(200)의 러닝 프로세서(240)에 의해 학습된 것이거나, 또는 이들의 분산 처리에 의해 학습된 것일 수 있다.

프로세서(180)는 AI 장치(100)의 동작 내용이나 동작에 대한 사용자의 피드백 등을 포함하는 이력 정보를 수집하여 메모리(170) 또는 러닝 프로세서(130)에 저장하거나, AI 서버(200) 등의 외부 장치에 전송할 수 있다. 수집된 이력 정보는 학습 모델을 갱신하는데 이용될 수 있다.

프로세서(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, AI 장치(100)의 구성 요소들 중 적어도 일부를 제어할 수 있다. 나아가, 프로세서(180)는 상기 응용 프로그램의 구동을 위하여, AI 장치(100)에 포함된 구성 요소들 중 둘 이상을 서로 조합하여 동작시킬 수 있다.

도 2는 본 발명의 일 실시 예에 따른 AI 서버(200)를 나타낸다.

도 2를 참조하면, AI 서버(200)는 머신 러닝 알고리즘을 이용하여 인공 신경망을 학습시키거나 학습된 인공 신경망을 이용하는 장치를 의미할 수 있다. 여기서, AI 서버(200)는 복수의 서버들로 구성되어 분산 처리를 수행할 수도 있고, 5G 네트워크로 정의될 수 있다. 이때, AI 서버(200)는 AI 장치(100)의 일부의 구성으로 포함되어, AI 프로세싱 중 적어도 일부를 함께 수행할 수도 있다.

AI 서버(200)는 통신부(210), 메모리(230), 러닝 프로세서(240) 및 프로세서(260) 등을 포함할 수 있다.

통신부(210)는 AI 장치(100) 등의 외부 장치와 데이터를 송수신할 수 있다.

메모리(230)는 모델 저장부(231)를 포함할 수 있다. 모델 저장부(231)는 러닝 프로세서(240)을 통하여 학습 중인 또는 학습된 모델(또는 인공 신경망, 231a)을 저장할 수 있다.

러닝 프로세서(240)는 학습 데이터를 이용하여 인공 신경망(231a)을 학습시킬 수 있다. 학습 모델은 인공 신경망의 AI 서버(200)에 탑재된 상태에서 이용되거나, AI 장치(100) 등의 외부 장치에 탑재되어 이용될 수도 있다.

학습 모델은 하드웨어, 소프트웨어 또는 하드웨어와 소프트웨어의 조합으로 구현될 수 있다. 학습 모델의 일부 또는 전부가 소프트웨어로 구현되는 경우 학습 모델을 구성하는 하나 이상의 명령어(instruction)는 메모리(230)에 저장될 수 있다.

프로세서(260)는 학습 모델을 이용하여 새로운 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수 있다.

도 3은 본 발명의 일 실시 예에 따른 AI 시스템(1)을 나타낸다.

도 3을 참조하면, AI 시스템(1)은 AI 서버(200), 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 중에서 적어도 하나 이상이 클라우드 네트워크(10)와 연결된다. 여기서, AI 기술이 적용된 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 등을 AI 장치(100a 내지 100e)라 칭할 수 있다.

클라우드 네트워크(10)는 클라우드 컴퓨팅 인프라의 일부를 구성하거나 클라우드 컴퓨팅 인프라 안에 존재하는 네트워크를 의미할 수 있다. 여기서, 클라우드 네트워크(10)는 3G 네트워크, 4G 또는 LTE(Long Term Evolution) 네트워크 또는 5G 네트워크 등을 이용하여 구성될 수 있다.

즉, AI 시스템(1)을 구성하는 각 장치들(100a 내지 100e, 200)은 클라우드 네트워크(10)를 통해 서로 연결될 수 있다. 특히, 각 장치들(100a 내지 100e, 200)은 기지국을 통해서 서로 통신할 수도 있지만, 기지국을 통하지 않고 직접 서로 통신할 수도 있다.

AI 서버(200)는 AI 프로세싱을 수행하는 서버와 빅 데이터에 대한 연산을 수행하는 서버를 포함할 수 있다.

AI 서버(200)는 AI 시스템(1)을 구성하는 AI 장치들인 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 중에서 적어도 하나 이상과 클라우드 네트워크(10)을 통하여 연결되고, 연결된 AI 장치들(100a 내지 100e)의 AI 프로세싱을 적어도 일부를 도울 수 있다.

이때, AI 서버(200)는 AI 장치(100a 내지 100e)를 대신하여 머신 러닝 알고리즘에 따라 인공 신경망을 학습시킬 수 있고, 학습 모델을 직접 저장하거나 AI 장치(100a 내지 100e)에 전송할 수 있다.

이때, AI 서버(200)는 AI 장치(100a 내지 100e)로부터 입력 데이터를 수신하고, 학습 모델을 이용하여 수신한 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성하여 AI 장치(100a 내지 100e)로 전송할 수 있다.

또는, AI 장치(100a 내지 100e)는 직접 학습 모델을 이용하여 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수도 있다.

이하에서는, 상술한 기술이 적용되는 AI 장치(100a 내지 100e)의 다양한 실시 예들을 설명한다. 여기서, 도 3에 도시된 AI 장치(100a 내지 100e)는 도 1에 도시된 AI 장치(100)의 구체적인 실시 예로 볼 수 있다.

로봇(100a)은 AI 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.

로봇(100a)은 동작을 제어하기 위한 로봇 제어 모듈을 포함할 수 있고, 로봇 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다.

로봇(100a)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 로봇(100a)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 사용자 상호작용에 대한 응답을 결정하거나, 동작을 결정할 수 있다.

여기서, 로봇(100a)은 이동 경로 및 주행 계획을 결정하기 위하여, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.

로봇(100a)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 로봇(100a)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 동작을 결정할 수 있다. 여기서, 학습 모델은 로봇(100a)에서 직접 학습되거나, AI 서버(200) 등의 외부 장치에서 학습된 것일 수 있다.

이때, 로봇(100a)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(200) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.

로봇(100a)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 로봇(100a)을 주행시킬 수 있다.

맵 데이터에는 로봇(100a)이 이동하는 공간에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 벽, 문 등의 고정 객체들과 화분, 책상 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.

또한, 로봇(100a)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이때, 로봇(100a)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.

본 발명의 로봇과 서버는 각각 도 1과 도 2에 개시된 AI 장치와 AI 서버에 대응될 수 있으며, 그 하위 구성들은 상술한 AI 장치(100) 및 AI 서버(200)의 일 예에 해당할 수 있다. 즉, 도 1의 AI 장치(100)에 포함된 구성과 도 2의 AI 서버(200)에 포함된 구성들은 본 발명의 로봇과 서버에 각각 포함될 수 있다.

도 4는 본 발명의 일 실시 예에 따른 인공지능 기반의 음성 샘플링 장치의 구성을 나타낸다.

도 4를 참조하면, 본 발명은 운율 인코더(210), 텍스트 인코더(220), 프로세서(260a), 러닝 프로세서(240a), 운율 디코더(230)를 포함할 수 있다.

운율 인코더(210)는, 사용자의 음성을 입력 받아 음성 샘플을 추출하고 상기 음성 샘플에 포함된 발성 특징을 분석할 수 있다. 운율 인코더(210)는, 표준 음성 데이터를 수집하고, 성대와 상기 성대에 의한 음원을 음운과 음색으로 나타내는 필터 역할을 하는 성도를 모델링 할 수 있다.

운율 인코더(210)는 상기 모델링을 기반으로 성대 특징 파라미터 및 성도 특징 모델 파라미터를 추출할 수 있고, 음성 신호에서 기본 주파수 추출 및 성도 켑스트럼 계수 추출 기술을 활용활 수도 있다. 이 과정을 통해 음성 샘플을 수집하고 발성한 음성에 대한 사용자의 발성 특징을 분석할 수 있다.

운율 인코더(210)는, 상기 음성 샘플을 기 설정된 레이블로 나눠 상기 레이블에 대한 임베딩 벡터를 추출할 수 있다. 레이블 내 음성 샘플로부터 특징 벡터를 추출하는 방법은, 단위 구간 별 Spectral 정보를 추출하거나, Sliding 추출 값을 사용할 수 있다. 또는 평균값을 사용하여 추출할 수 있다.

Spectral 정보 기반 Acoustic Feature 정보 추론은, 발화에 대한 사용자의 발화 속도, 발음 강세, 휴지 구간, 음 높이 또는 억양 중 적어도 어느 하나를 포함하는 발성 특징을 추출할 수 있다.

동일 레이블 내 다양한 특성을 가진 Reference Sample이 존재할 수 있는데, 그 이유는, 특정 레이블에 해당하는 음성 샘플을 확보하는 과정에서 발생하는데, 각 레이블에 존재하는 음성 샘플 들은 모두 동일한 정도의 특성을 나타내지 않기 때문에, 경우에 따라 다른 레이블의 음성 샘플과 비슷한 특성을 나타낼 수 있다.

운율 인코더(210)는, 상기 음성 샘플에 포함된 상기 사용자의 발화 속도, 발음 강세, 휴지 구간, 음 높이 또는 억양 중 적어도 어느 하나를 포함하는 발성 특징을 통해 상기 임베딩 벡터를 추출할 수 있다.

상기 임베딩 벡터의 추출은, SPECTRAL 정보, SLIDING 정보 또는 평균값을 통해 추출될 수 있다.

실시 예에 따라, 운율 인코더(210)는 별도의 임베딩 장치를 포함할 수 있다. 임베딩 장치는 사용자의 발화 스타일을 추출하는데, 사용자 또는 별도의 장치로부터 음성이 입력되면, 임베딩 장치는 이를 미리 학습된 뉴럴 네트워크 모델에 의해 벡터 표현으로 변환할 수 있다. 임베딩 장치는 예를 들어, 음성 내의 단어들을 미리 학습된 뉴럴 네트워크 모델에 의해 임베딩된 벡터 값 또는 특징 벡터로 변환할 수 있다. 이때, 뉴럴 네트워크 모델은 예를 들어, 회귀 뉴럴 네트워크(RNN)로 구성될 수 있다.

운율 인코더(210)는, 발화 스타일 프로파일 생성 모듈을 포함할 수 있고, 이를 통해 사용자로부터 입력 받은 사용자 발화에 대한 입력 신호를 전달 받고, 전달된 사용자 발화에 대한 입력 신호에 따라 사용자 발화 문장을 확인하여 확인된 사용자 발화 문장의 의미를 분석하고, 분석된 사용자 발화 문장의 의미에 따라 사용자 발화 스타일을 파악할 수 있다.

파악된 사용자 발화 스타일에 따른 개인 발화 스타일 프로파일을 생성하고, 이를 위해, 개인 발화 스타일 프로파일 생성 모듈은 형태소에 대한 분석기, 태거, 개체명 및 의미 자질 인식기, 개인 발화 스타일 프로파일 생성기를 포함하여 구성될 수 있다.

텍스트 인코더(220)는, 상기 발성 특징을 반영하기 위한 텍스트를 입력 받을 수 있다. 텍스트 인코더(220) 또한 운율 인코더(210)의 임베딩 장치와는 다른 또 다른 임베딩 장치를 포함할 수 있다.

텍스트 인코더(220)의 임베딩 장치는, 입력 문장에 포함된 레이블 된 단어들과 검색된 적어도 하나의 레이블된 단어에 기초하여, 언레이블 된 단어를 임베딩할 수 있다. 임베딩 장치는 입력 문장에 포함된 레이블된 단어들과 검색된 적어도 하나의 레이블된 단어에 기초하여 언레이블된 단어를 임베딩 함으로써 언레이블된 단어에 대응하는 특징 벡터가 문맥상 보다 유사한 의미를 가지도록 임베딩 정확도를 향상시킬 수 있다.

임베딩 장치는 적어도 하나의 유사 문장을 이용하여 언레이블된 단어를 임베딩할 수 있다. 임베딩 장치는 예를 들어, 적어도 하나의 유사 문장을 제1 모델과 구별되는 제2 모델에 인가함으로써 언레이블된 단어를 임베딩할 수 있다. 이때, 제2 모델은 예를 들어, 입력 문장의 문맥 및/또는 입력 문장에 포함된 단어들 간의 관계 중 적어도 하나에 기초하여 단어의 의미를 추정하는 뉴럴 네트워크를 포함할 수 있다.

제2 모델은 예를 들어, RNN(Recurrent Neural Network), CNN(Convolutional Neural Network), bidirectional RNN 등으로 구성될 수 있다. 임베딩 장치는 적어도 하나의 문장에 포함된 적어도 일부의 단어를 이용하여 언레이블된 단어를 임베딩할 수 있다.

프로세서(260a)는, 상기 운율 인코더(210)에 입력된 음성 샘플로부터 상기 발성 특징을 레이블에 따라 분류하고, 상기 레이블에서 상기 발성 특징을 나타내는 임베딩 벡터를 추출하며, 상기 임베딩 벡터로부터 발화 스타일을 생성하여 상기 텍스트에 적용시킬 수 있다.

프로세서(260a)는 텍스트 인코더(220)에 입력된 텍스트를 분석하고, 여기에 상술한 운율 인코더(210)에서 추출한 발화 스타일을 임베딩하여 적용할 수 있다. 프로세서(260a)는 입력 문장에 포함된 언레이블된 단어를 검출하고, 입력 문장에 포함된 레이블된 단어들에 기초하여, 언레이블된 단어를 임베딩 할 수 있다.

프로세서(260a)는 웹 서치 또는 미리 저장된 사전 데이터베이스 중 적어도 하나를 이용하여 언레이블된 단어에 대응하는 적어도 하나의 레이블된 단어를 검색할 수 있다. 프로세서(260a)는 입력 문장에 포함된 레이블된 단어 들과 검색된 적어도 하나의 레이블된 단어에 기초하여, 언레이블 된 단어를 임베딩 할 수 있다.

프로세서(260a)는 입력 문장에 포함된 복수의 단어들 각각에 대하여, 해당 단어에 대응하는 미리 정해진 유형의 특징 벡터를 획득할 수 있다. 프로세서(260a)는 해당 단어에 대응하여 미리 정해진 유형의 특징 벡터를 획득할 수 없는 경우, 해당 단어를 언레이블 된 단어로 검출할 수 있다.

본 발명은 메모리를 더 포함할 수 있는데, 메모리는 프로세서(260a)에서의 임베딩 결과에 따른 특징 벡터를 저장하거나, 웹 서치 또는 미리 저장된 사전 데이터베이스 중 적어도 하나를 이용하여 검색된, 언레이블된 단어에 대응하는 적어도 하나의 레이블된 단어를 저장할 수 있다. 메모리는 상술한 프로세서(260a)에서의 처리 과정에서 생성되는 다양한 정보들을 저장할 수 있다. 또한, 메모리는 송수신 인터페이스(1010)를 통해 수신된 정보를 저장할 수 있다.

본 발명의 실시 예에 따라 프로세서(260a)는 운율 인코더(210)로부터 입력된 음성 샘플로부터 대표 음성 샘플을 추출할 수 있다.

음성 샘플을 추출은 이하 방법 발명의 도 6 및 도 7과 더불어 실시 예 1 내지 3에 의해 설명하기로 한다.

러닝 프로세서(240a)는, 프로세서(260a)에 연결될 수 있으며, 상술한 AI 서버의 러닝 프로세서(240)와 유사한 역할을 하며, 러닝 프로세서(240a)는 학습 데이터를 이용하여 인공 신경망(231a)을 학습시킬 수 있다. 학습 모델은 인공 신경망의 AI 서버(200)에 탑재된 상태에서 이용되거나, AI 장치(100) 등의 외부 장치에 탑재되어 이용될 수도 있다.

운율 디코더(230)는, 상기 프로세서(260a)에 의해 상기 텍스트에 상기 발화 스타일이 적용된 합성 음성 데이터를 출력할 수 있다.

운율 디코더(230)는, 텍스트와 음성을 합성하여 출력하는 단말의 역할을 하며, 지정된 사용자의 발성 특징이 반영된 입력 텍스트에 대한 합성 음성 데이터를 출력하도록 구성될 수 있다.

실시 예에 따라, "How are you"의 입력 텍스트에 대한 합성 음성 데이터를 생성하는데 있어서, 발성 특징이 합성 음성 데이터에 반영되도록 구성될 수 있다. 여기서, 특정한 사용자의 발성 특징은 그 사용자의 음성을 모사하는 것뿐만 아니라, 그 발성을 구성할 수 있는 스타일인 운율, 감정, 음색, 음높이 등 다양한 요소들 중 적어도 하나를 포함할 수 있다.

이하, 상술한 인공지능 기반의 음성 샘플링 장치를 활용하여 발화 스타일 부여를 위한 샘플링 방법에 대해 설명한다.

도 5는 본 발명의 일 실시 예에 따른 인공지능 기반의 음성 샘플링 방법의 순서도를 나타낸다.

도 5를 참조하면, 발성 특징을 분석하는 제1 단계(S10), 텍스트 인코더(220)를 통해 텍스트를 입력 받는 제2 단계(S20), 발화 스타일을 생성하여 텍스트에 적용시키는 제3 단계(S30) 및 합성 음성 데이터를 운율 디코더(230)를 통해 출력하는 제4 단계(S40)를 포함할 수 있다.

발성 특징을 분석하는 제1 단계(S10)는, 운율 인코더(210)를 통해 사용자의 음성 샘플을 입력 받아 상기 사용자의 음성 샘플에 포함된 발성 특징을 분석하는 과정이다. 제1 단계(S10)는, 상술한 운율 인코더(210)가 사용될 수 있으며, 일 실시 예에 따라, 운율 인코더(210)는 사용자의 음성 샘플을 수신하고, 수신된 음성 신호로부터 화자의 발성 특징을 추출하도록 구성될 수 있다.

여기서, 수신된 음성 샘플은 사용자의 발성 특징과 관련된 정보를 나타내는 음성 스펙트럼 데이터를 포함할 수 있다. 사용자의 발성 특징을 추출하는데 있어서, 사용자의 음성 샘플로부터 발성 특징을 추출할 수 있는 임의의 알려진 적절한 특징 추출 방법이 사용될 수 있다.

실시 예에 따라, 멜 주파수 셉스트럴(MFC)과 같은 음성 처리 방법을 이용하여 수신된 음성 샘플로부터 발성 특징을 추출할 수 있다. 이와 달리, 음성 샘플을 러닝 프로세서(240a)의 인공신경망에 입력하여 발성 특징을 추출할 수도 있다. 이후, 추출된 사용자의 발성 특징은 임베딩 벡터로 나타낼 수 있다.

실시 예에 따라, 프로세서(260a)는 추출된 화자의 발성 특징을 러닝 프로세서(240a)에서 추출할 수도 있고, 메모리에 저장할 수도 있다. 또한 데이터베이스 또는 외부 저장 장치에 저장할 수 있다.

프로세서(260a)는 이에 따라, 입력된 텍스트에 대한 음성 합성 시, 저장매체에 미리 저장된 복수의 사용자의 발성 특징 중 적어도 한 명 이상의 사용자의 발성 특징이 선택 또는 지정될 수 있고, 선택 또는 지정된 사용자의 발성 특징이 음성 합성에 이용될 수 있다.

텍스트 인코더(220)를 통해 텍스트를 입력 받는 제2 단계는, 상기 음성 샘플로부터 임베딩 벡터를 추출하며 프로세서(260a)에 의해 발화 스타일을 생성하여 상기 텍스트에 적용하는 과정이다.

실시 예에 따라, 텍스트 인코더(220)는 입력 텍스트를 수신할 수 있으며, 입력 텍스트를 문자 임베딩으로 변환하여 생성하도록 구성될 수 있다. 이러한 문자 임베딩은 단일 인공 신경망 텍스트 음성 합성 모델, 예를 들어, pre-net, CBHG 모듈, DNN, CNN+DNN 등에 입력하여 생성할 수 있다.

제2 단계(S20)는, 상기 사용자로부터 음성 샘플을 수신하는 단계; 및 상기 음성 샘플을 기 설정된 레이블로 나눠 상기 레이블에 대한 임베딩 벡터를 추출하는 단계를 포함할 수 있다.

상기 임베딩 벡터의 추출은, SPECTRAL 정보, SLIDING 정보 또는 평균값을 통해 추출될 수 있다. 상기 임베딩 벡터는, 상기 음성 샘플에 포함된 상기 사용자의 발화 속도, 발음 강세, 휴지 구간, 음 높이 또는 억양 중 적어도 어느 하나를 포함하는 발성 특징을 통해 추출될 수 있다. 상기 음성 샘플을 입력 받는 단계는, 미리 결정된 시간 구간 내에 상기 사용자로부터 실시간으로 입력 받을 수 있다.

실시 예에 따라, 운율 인코더(210)는 별도의 임베딩 장치를 포함할 수 있다. 임베딩 장치는 사용자의 발화 스타일을 추출하는데, 사용자 또는 별도의 장치로부터 음성이 입력되면, 임베딩 장치는 이를 미리 학습된 뉴럴 네트워크 모델에 의해 벡터 표현으로 변환할 수 있다. 임베딩 장치는 예를 들어, 음성 내의 단어들을 미리 학습된 뉴럴 네트워크 모델에 의해 임베딩 된 벡터 값 또는 특징 벡터로 변환할 수 있다. 이때, 뉴럴 네트워크 모델은 실시 예에 따라, 회귀 뉴럴 네트워크(RNN)로 구성될 수 있다.

발화 스타일을 생성하여 텍스트에 적용시키는 제3 단계(S30)는, 프로세서(260a)가 관여하며, 프로세서(260a)는 상기 운율 인코더(210)에 입력된 음성 샘플로부터 상기 발성 특징을 레이블에 따라 분류하고, 상기 레이블에서 상기 발성 특징을 나타내는 임베딩 벡터를 추출하며, 상기 임베딩 벡터로부터 발화 스타일을 생성하여 상기 텍스트에 적용시킬 수 있다.

합성 음성 데이터를 운율 디코더(230)를 통해 출력하는 제4 단계(S40)는, 스타일이 반영된 텍스트인 합성 음성 데이터를 출력하는 과정이다. 즉, 프로세서(260a)로부터 전달 받은 사용자의 스타일을 텍스트에 반영하고, 운율 디코더(230)를 통해 합성 음성 데이터를 출력하는 과정이다.

운율 디코더(230)는 사용자의 발성 특징을 수신하도록 구성될 수 있다. 운율 디코더(230)는 프로세서(260a)로부터 사용자의 발성 특징을 수신할 수 있다. 실시 예에 따라, 운율 디코더(230)는 현재 시간-단계(time-step)에서 입력 텍스트 중 어떤 부분으로부터 음성을 생성할지 결정하도록 구성된 어텐션 모듈을 포함할 수 있다.

운율 디코더(230)는 사용자의 발성 특징 및 입력 텍스트를 단일 인공 신경망 텍스트 음성 합성 모델에 입력하여 입력 텍스트에 대응되는 합성 음성 데이터를 생성 및 출력할 수 있다. 이러한 출력된 합성 음성 데이터는 사용자의 발성 특징이 반영된 합성 음성 데이터로, 미리 설정된 제1 화자의 발성 특징에 기초하여, 제1 화자가 입력 텍스트를 읽는 것으로 보이는 출력 음성 데이터가 생성될 수 있다.

또한 본 발명은, 복수의 학습 텍스트 및 상기 복수의 학습 텍스트에 대응되는 음성 데이터에 기초하여 기계학습을 수행하여 생성된 인공 신경망 텍스트-음성 합성 모델을 생성하는 단계를 더 포함할 수 있다.

인공 신경망 텍스트 음성 합성 모델은, 텍스트와 음성 샘플의 쌍으로 존재하는 대용량의 데이터베이스를 이용하여 학습될 수 있으며, 입력으로 텍스트를 넣고 알고리즘을 통해 학습하여, 최종적으로 임의의 텍스트를 입력했을 때 원하는 음성 출력이 나오는 단일 인공 신경망 모델이다.

도 6은 본 발명의 일 실시 예에 따른 합성 음성 데이터를 출력하는 세부 플로우차트이고, 도 7은 본 발명의 일 실시 예에 따른 대표적인 음성 샘플을 선택하는 모습을 나타낸다.

도 6 및 도 7을 참조하면, 상술한 일련의 과정을 통해 합성 음성 데이터가 어떻게 생성되는지 알 수 있고, 특히 여기서는 사용자의 발화 스타일을 추출하기 위한 구체적인 음성 샘플링 방법에 대해 설명한다.

다시 도 7을 참조하면, 사용자로부터 여러 단어 들이 수신된 경우, 대표적인 음성 샘플을 얻는 과정에 대해 알 수 있다.

Case 1과 같이, 해당 레이블의 중심부에 위치한 음성 샘플을 Reference로 할 경우, 해당 레이블의 목적에 맞는 샘플을 중앙 값으로 볼 수 있고, 중앙 값에서 벗어나는 경우 원하지 않는 음성 샘플로 볼 수 있다.

Case 2와 같이,해당 레이블의 극단부에 위치한 음성 샘플을 Reference로 할 경우, 해당 레이블의 목적에 맞는 샘플로 보기 어려우며, 원하는 스타일 내 극단적인 음성으로 합성될 수 있다.

Case 3과 같이, 다른 레이블과의 경계에 위치한 샘플을 Reference로 할 경우, 해당 레이블의 목적에 맞는 샘플로 보기 어려우며, 의도하지 않게 다른 레이블의 스타일에 해당하는 음성으로 합성될 수 있다.

따라서, 중앙 값에 해당되는 음성 샘플을 도출하기 위해서는 각 음성 샘플을 상술한 바와 같이 임베딩 벡터 값으로 표현하여, 각각의 음성 샘플과 여타 음성 샘플과의 관계를 통해 가장 이상적인 음성 샘플을 추출할 수 있다.

<실시 예 1> - 중심부 기반

프로세서(260a)는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 상기 레이블 내 모든 음성 샘플 들의 벡터 성분 별 평균 값과 가장 가까운 음성 샘플을 선택할 수 있다.

전체 벡터의 평균을 산출하고, 각 벡터들과 벡터의 평균 값들을 비교할 수 있다. 만약 그 차이가 크다면 중앙 값으로부터 크게 벗어남을 의미하므로 그 차이가 가장 작은 벡터를 평균 값에 근접한 벡터로 볼 수 있다.

<실시 예 2> - 밀도 기반

상기 프로세서(260a)는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 각 음성 샘플 들과의 벡터 성분 별 거리의 합이 가장 작은 음성 샘플을 선택할 수 있다.

대표적인 음성 샘플이라면 그 벡터 값이 다른 벡터 들이 밀집한 공간에 있을 확률이 높고, 밀도가 작은 공간에 있다면, 의도되지 않은 우발적인 음성 샘플일 확률이 높을 것이다. 밀도가 가장 큰 곳에 있는 벡터를 산출하기 위해서는 각각의 벡터들에 대해 주변 벡터와의 공간 조밀도를 계산하여 현재 벡터의 밀도를 계산할 수 있다.

따라서, 주변 벡터와의 distance를 계산하고, 각 벡터들과의 distance의 총 합이 가장 작은 벡터를 찾는다면, 해당 음성 샘플이 다른 음성 샘플보다 밀도가 높은 곳에 위치할 것이다.

<실시 예 3> - 거리 기반

상기 프로세서(260a)는, 상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서, 상기 레이블 내 각 음성 샘플 들과의 벡터 성분 별 거리의 합이 가장 작은 음성 샘플을 선택할 수 있다.

거리 기반은, 상술한 밀도 기반과 유사한 개념으로, 해당 레이블 내에서 계산되는 것을 특징으로 하며, 레이블 내 모든 음성 샘플과의 distance의 총 합이 가장 적은 것을 선택할 수 있다.

상술한 <실시 예 1> 내지 <실시 예 3>을 통해 대표 음성 샘플을 추출할 수 있다.

또한 본 발명은, 도시되지는 않았으나 통신부를 더 포함할 수 있다. 통신부는 인공지능 기반의 음성 샘플링 장치가 외부 장치와 신호 또는 데이터를 송수신하도록 구성될 수 있다.

실시 예에 따라, 통신부는 외부 장치로부터 텍스트를 수신하도록 구성될 수 있다. 여기서, 텍스트는 단일 인공 신경망 텍스트-음성 합성 모델의 학습을 위해 사용될 학습 텍스트를 포함할 수 있다. 이와 달리, 텍스트는 사용자 단말기로부터 수신된 입력 텍스트를 포함할 수 있다. 이러한 텍스트는 텍스트 인코더(220) 또는 운율 디코더(230) 중 적어도 하나에 제공될 수 있다.

실시 예에 따라, 통신부는 외부 장치부터 사용자의 발성 특징을 수신할 수 있다. 통신부는 외부 장치로부터 사용자의 음성 샘플을 수신하여 운율 인코더(210)로 송신할 수 있다.

또한, 통신부는 생성된 합성 음성 데이터와 관련된 정보, 즉, 합성 음성 데이터를 외부장치로 송신할 수 있다. 또한, 생성된 단일 인공 신경망 텍스트 음성 합성 모델은 통신부를 통해 이를 다른 장치로 송신할 수 있다.

본 발명은, 사용자의 음성 샘플로부터 대표적인 음성 샘플을 선택하여 사용자의 발화 스타일에 따라 사용자에게 보다 친화적이면서 자연스러운 음성 데이터를 제공할 수 있는 효과가 있다.

또한 본 발명은, 음성 샘플링 장치 및 방법에 의해 합성 시 동일한 형태의 어절 또는 문장일지라도 사용자의 스타일에 따라 합성을 선택함으로써, 다양한 형태의 운율을 가지는 합성 음을 생성할 수 있는 이점이 있다.

이상에서 대표적인 실시예를 통하여 본 발명을 상세하게 설명하였으나, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 상술한 실시예에 대하여 본 발명의 범주에서 벗어나지 않는 한도 내에서 다양한 변형이 가능함을 이해할 것이다. 그러므로 본 발명의 권리 범위는 설명한 실시예에 국한되어 정해져서는 안 되며, 후술하는 특허청구범위뿐만 아니라 특허청구범위와 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태에 의하여 정해져야 한다.

Claims

사용자의 음성을 입력 받아 음성 샘플을 추출하고 상기 음성 샘플에 포함된 발성 특징을 분석하는 운율 인코더;
상기 발성 특징을 반영하기 위한 텍스트를 입력 받는 텍스트 인코더;
상기 운율 인코더에 입력된 음성 샘플로부터 분석된 상기 발성 특징을 복수의 레이블들 중 어느 하나의 레이블로 분류하고,
분류된 레이블에서 상기 발성 특징을 나타내는 임베딩 벡터를 추출하며,
상기 임베딩 벡터로부터 발화 스타일을 생성하여 상기 텍스트에 적용시키는 프로세서; 및
상기 프로세서에 의해 상기 텍스트에 상기 발화 스타일이 적용된 합성 음성 데이터를 출력하는 운율 디코더를 포함하고,
상기 복수의 레이블들 각각은 복수의 감정 상태들 각각을 나타내고,
상기 프로세서는,
상기 사용자로부터 입력된 복수의 음성 샘플 들 중에서,
각 음성 샘플 들과의 벡터 성분 별 거리의 합이 가장 작은 음성 샘플을 선택하는
발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 장치.
삭제
제 1 항에 있어서,
상기 운율 인코더는,
상기 음성 샘플에 포함된 상기 사용자의 발화 속도, 발음 강세, 휴지 구간, 음 높이 또는 억양 중 적어도 어느 하나를 포함하는 발성 특징을 통해 상기 임베딩 벡터를 추출하는 것을 특징으로 하는 발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 장치.
제 3 항에 있어서,
상기 임베딩 벡터의 추출은,
SPECTRAL 정보, SLIDING 정보 또는 평균값을 통해 추출되는 것을 특징으로 하는 발화 스타일 부여를 위한 인공지능 기반의 음성 샘플링 장치.
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제