JP7268711B2 - 信号処理システム、信号処理装置、信号処理方法、およびプログラム - Google Patents

信号処理システム、信号処理装置、信号処理方法、およびプログラム Download PDF

Info

Publication number
JP7268711B2
JP7268711B2 JP2021165174A JP2021165174A JP7268711B2 JP 7268711 B2 JP7268711 B2 JP 7268711B2 JP 2021165174 A JP2021165174 A JP 2021165174A JP 2021165174 A JP2021165174 A JP 2021165174A JP 7268711 B2 JP7268711 B2 JP 7268711B2
Authority
JP
Japan
Prior art keywords
feature vector
vector
weight
speaker
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021165174A
Other languages
English (en)
Other versions
JP2022008928A (ja
Inventor
浩司 岡部
孝文 越仲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JP2022008928A publication Critical patent/JP2022008928A/ja
Application granted granted Critical
Publication of JP7268711B2 publication Critical patent/JP7268711B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification
    • G10L17/02Preprocessing operations, e.g. segment selection; Pattern representation or modelling, e.g. based on linear discriminant analysis [LDA] or principal components; Feature selection or extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification
    • G10L17/18Artificial neural networks; Connectionist approaches

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Description

本発明は、信号処理システム、信号処理装置、信号処理方法、およびプログラムに関する。
特許文献1および特許文献2には、動画や楽曲などのコンテンツに対応する時系列の信号を解析することによって、コンテンツに含まれる音声の特徴を抽出する技術が開示されている。
話者の音声を用いた話者認識には、深層学習を利用したものがある。例えば、非特許文献1は、短時間特徴ベクトルと、その平均ベクトルと標準偏差ベクトルを生成する。そして、非特許文献1は、平均ベクトルと標準偏差ベクトルから長時間特徴ベクトルを生成することで、話者認識力が高い特徴ベクトルを生成するものである。
国際公開第2011/077696号 特開2006-287319号公報 国際公開第2011/033597号
David Snyder、Daniel Garcia-Romero、Daniel Povey、Sanjeev Khudanpur、Deep Neural Network Embeddings for Text-Independent Speaker Verification、INTERSPEECH2017 (2017年8月24日)
しかしながら、非特許文献1では、例えば、長時間にわたる音声データに用いる場合などにおいて、フレームごとに話者の特徴の確からしさにばらつきが生じるにも関わらず、全フレームに対して均等に重み付けて統計量を算出してしまうため、話者などのクラス認識能力が高い特徴ベクトルを生成することができない場合があった。
本発明は、上述の課題を解決する信号処理システム、信号処理装置、信号処理方法、およびプログラムを提供することを目的とする。
本発明の第1の態様は、話者の属性を識別するためのモデルデータを保持する保持手段と、時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成する第1生成手段と、前記第1の特徴ベクトルを用いて、重みを算出する重み算出手段と、前記第1の特徴ベクトルと、前記重みとを用いて、第2の特徴ベクトルを生成する第2生成手段と、前記第2の特徴ベクトルに基づき、前記話者の属性を識別する識別手段と、を備え、前記第1生成手段、前記重み算出手段及び第2生成手段は、前記保持手段の保持するモデルデータに基づき損失関数が最小になるようパラメータを学習させる、信号処理システムである。
本発明の第2の態様は、話者の属性を識別するためのモデルデータを保持する保持手段と、時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成する第1生成手段と、前記第1の特徴ベクトルを用いて、重みを算出する重み算出手段と、前記第1の特徴ベクトルと、前記重みとを用いて、第2の特徴ベクトルを生成する第2生成手段と、前記第2の特徴ベクトルに基づき、前記話者の属性を識別する識別手段と、を備え、前記第1生成手段、前記重み算出手段及び第2生成手段は、前記保持手段の保持するモデルデータに基づき損失関数が最小になるようパラメータを学習させる、信号処理装置である。
本発明の第3の態様は、コンピュータが、話者の属性を識別するためのモデルデータを取得し、時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成し、前記第1の特徴ベクトルを用いて、重みを算出し、前記第1の特徴ベクトルと、前記重みとを用いて第2の特徴ベクトルを生成すし、前記第2の特徴ベクトルに基づき、前記話者の属性を識別し、前記第1の特徴ベクトル、前記重み、前記第2の特徴ベクトルは、前記モデルデータに基づき損失関数が最小となるパラメータを用いて算出される、信号処理方法である。
本発明の第4の態様は、コンピュータが、話者の属性を識別するためのモデルデータを取得し、時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成する第1生成ステップと、前記第1の特徴ベクトルを用いて、重みを算出する重み算出ステップと、前記第1の特徴ベクトルと、前記重みとを用いて第2の特徴ベクトルを生成する第2生成ステップと、前記第2の特徴ベクトルに基づき、前記話者の属性を識別する識別ステップと、を実行するためのプログラムであって、前記第1の特徴ベクトル、前記重み、前記第2の特徴ベクトルは、前記モデルデータに基づき損失関数が最小となるパラメータを用いて算出される、プログラムである。
本発明の一態様によれば、クラス認識能力が高い特徴ベクトルを生成することができる。
第1の実施形態に係る信号処理システムの構成の一例を示すシステム構成図である。 第1の実施形態に係る信号処理装置のハードウェア構成の一例を示す概略ブロック図である。 第1の実施形態に係る信号処理装置の機能構成の一例を示す概略ブロック図である。 第1の実施形態に係る信号処理装置の最小構成の一例を示す概略ブロック図である。 第1の実施形態に係る信号処理の一例を示すフローチャートである。 変形例に係る信号処理システムの構成の一例を示すシステム構成図である。
以下、本発明の実施形態について図面を参照して説明する。
(第1の実施形態)
図1は、第1の実施形態に係る信号処理システムsysの構成の一例を示すシステム構成図である。
信号処理システムsysは、第1生成装置120と、第2生成装置130と、重み算出装置140と、統計量算出装置150と、含んで構成される。第1生成装置120と、第2生成装置130と、重み算出装置140と、統計量算出装置150とは、ネットワークNWを介して接続される。
例えば、第1生成装置120と、第2生成装置130と、重み算出装置140と、統計量算出装置150とのそれぞれは、ニューラルネットワークによって構成される。
第1生成装置120は、人物の音声などの音声データまたは人物の音声などの特徴量が入力されると、第1の特徴ベクトルを生成する。具体的には、第1生成装置120は、音声データまたは特徴量が入力されると、所定時刻(フレーム)毎の第1の特徴ベクトル、すなわち、短時間特徴ベクトルを生成する。
重み算出装置140は、第1生成装置120が生成した所定時刻(フレーム)毎の第1の特徴ベクトルに対して重みをそれぞれ算出する。例えば、重み算出装置140は、第1生成装置120から所定時刻(フレーム)毎の第1の特徴ベクトルとして、例えば、短時間特徴ベクトルを複数フレーム分並べた行列として入力されると、それぞれのフレーム(第1の特徴ベクトル)毎の重みを算出する。
統計量算出装置150は、第1生成装置120が生成した第1の特徴ベクトルと、重み算出装置140が算出した重みとを用いて、重み付き平均ベクトルおよび二次以上の重み付き高次統計ベクトルを算出する。具体的には、統計量算出装置150は、所定時刻(フレーム)毎の第1の特徴ベクトルとして、例えば、短時間特徴ベクトルを複数フレーム分並べた行列および重みとが入力されると、重み付き平均ベクトルおよび重み付き標準偏差ベクトルを算出する。
第2生成装置130は、統計量算出装置150が算出した重み付き高次統計ベクトルを用いて第2の特徴ベクトルを生成する。具体的には、第2生成装置130は、重み付き平均ベクトルおよび重み付き標準偏差ベクトルが入力されると、第2の特徴ベクトルとして、固定次元数の長時間特徴ベクトルを生成する。
信号処理システムは、第2の特徴ベクトルとして生成した長時間特徴ベクトルを用いることで、音声データの話者(クラス)を認識(識別)することができる。
上記では、第1生成装置120と、第2生成装置130と、重み算出装置140と、統計量算出装置150とのそれぞれは、ニューラルネットワークによって構成され、別々の装置として構成される場合の一例について説明した。以下の説明では、第1生成装置120と、第2生成装置130と、重み算出装置140と、統計量算出装置150とのそれぞれを、第1生成部121、第2生成部131、重み算出部141、統計量算出部151として、信号処理装置1として機能する場合の一例について説明する。第1生成部121は、第1生成手段の一例である。第2生成部131は、第2生成手段の一例である。重み算出部141は、重み算出手段の一例である。統計量算出部151は、統計量算出手段の一例である。
図2は、第1の実施形態に係る信号処理装置1のハードウェア構成の一例を示す概略ブロック図である。
信号処理装置1は、CPU100と、記憶媒体インタフェース部101と、記憶媒体102と、入力部103と、出力部104と、ROM105(Read Only Memory:ロム)と、RAM106(Random Access Memory:ラム)と、補助記憶部107と、ネットワークインターフェース部108と、を備える。CPU100と、記憶媒体インタフェース部101と、入力部103と、出力部104と、ROM105と、RAM106と、補助記憶部107と、ネットワークインターフェース部108とは、バスを介して相互に接続される。
CPU100は、補助記憶部107が記憶するプログラム、ROM105およびRAM106が記憶する各種データを読み出して実行し、信号処理装置1を制御する。また、CPU100は、記憶媒体インタフェース部101を介して記憶媒体102が記憶する各種データを読み出して実行し、信号処理装置1を制御する。記憶媒体102は、光磁気ディスク、フレキシブルディスク、フラッシュメモリなどの可搬記憶媒体であり、各種データを記憶する。
記憶媒体インタフェース部101は、光ディスクドライブ、フレキシブルディスクドライブなどの記憶媒体102の読み出し装置である。
入力部103は、マウス、キーボード、タッチパネルなどの入力装置である。
出力部104は、表示部、スピーカなどの出力装置である。
ROM105、RAM106は、各種データを記憶する。
補助記憶部107は、ハードディスクドライブ、フラッシュメモリなどであり、信号処理装置1の各機能部を動作させるためのプログラム、各種データを記憶する。
ネットワークインターフェース部108は、通信インタフェースを有し、有線または無線によりネットワークNWに接続される。
例えば、後述する図3における信号処理装置1のソフトウェア構成における制御部110、受付部160、提示部170は、図2におけるCPU100に対応する。
図3は、第1の実施形態に係る信号処理装置1の機能構成の一例を示す概略ブロック図である。
信号処理装置1は、制御部110と、受付部160と、提示部170と、を含んで構成される。制御部110は、生成部180と、算出部190と、を含んで構成される。生成部180は、第1生成部121と、第2生成部131と、を含んで構成される。算出部190は、重み算出部141と、統計量算出部151と、を含んで構成される。
受付部160は、ネットワークNWまたはユーザからの入力を受け付ける。具体的には、受付部160は、話者の音声などの音声データまたは音声特徴量を入力として受け付ける。受付部160は、受け付けた音声データまたは音声特徴量を制御部110に出力する。
制御部110は、信号処理装置1の各部の機能を制御する。
生成部180は、受付部160から音声データまたは音声特徴量が入力されると、短時間特徴ベクトルを、第1の特徴ベクトルとして生成する。また、生成部180は、算出部190が算出した高次統計ベクトルに基づいて、長時間特徴ベクトルを、第2の特徴ベクトルとして生成する。
より具体的には、第1生成部121は、受付部160から音声データまたは音声特徴量が入力されると、フレーム(単位時刻)毎の短時間特徴ベクトルを、第1の特徴ベクトルとして生成する。第1生成部121は、生成したフレームごとの第1の特徴ベクトルを、算出部190に出力する。
また、第2生成部131は、算出部190が算出した重み付き平均ベクトルおよび重み付き標準偏差ベクトルに基づいて、固定次元数の長時間特徴ベクトルを、第2の特徴ベクトルとして生成する。第2生成部131は、生成した第2の特徴ベクトルを、提示部170に出力する。
算出部190は、生成部180からフレームごとの第1の特徴ベクトルが入力されると、複数の第1の特徴ベクトルのそれぞれに対して重みを算出する。また、算出部190は、フレームごとの第1の特徴ベクトルと、算出した重みとにもとづいて、高次統計ベクトルを算出する。
より具体的には、重み算出部141は、第1生成部121からフレームごとの第1の特徴ベクトルを複数フレーム分並べた行列として入力されると、それぞれのフレームに対する重みを算出する。重み算出部141は、算出したフレームごとの重みを統計量算出部151に出力する。
統計量算出部151は、第1生成部121からフレームごとの第1の特徴ベクトルを複数フレーム分並べた行列として入力され、重み算出部141からフレームごとの重みが入力されると、重み付き平均ベクトルおよび重み付き標準偏差ベクトルを、高次統計ベクトルとして算出する。統計量算出部151は、算出した高次統計ベクトルを第2生成部131に出力する。
提示部170は、第2生成部131から第2の特徴ベクトルが入力されると、第2の特徴ベクトルに基づいて、話者認識を行う。提示部170は、認識結果を、例えばユーザに提示する。
なお、提示部170は、音声データまたは音声特徴量と第2の特徴ベクトルとに基づいて、話者認識を行ってもよい。
図4は、第1の実施形態に係る信号処理装置1の最小構成の一例を示す概略ブロック図である。
信号処理装置1は、最小構成として、例えば、生成部180と、算出部190とを少なくとも備えればよい。
生成部180は、時系列の音声データ、気象データ、センサデータ、テキストデータのいずれか、またはいずれかの特徴量に基づいて第1の特徴ベクトルを生成する。また、生成部180は、重み付き高次統計ベクトルを用いて、第2の特徴ベクトルを生成する。
算出部190は、第1の特徴ベクトルに対する重みを算出する。また、算出部190は、第1の特徴ベクトルと、重みとを用いて、重み付き平均ベクトル及び二次以上の重み付き高次統計ベクトルを算出する。
図5は、第1の実施形態に係る信号処理の一例を示すフローチャートである。
ステップS100において、第1生成部121は、音声データまたは音声特徴量が入力されると、第1の特徴ベクトルを生成する。入力される音声特徴量は、例えば、20次元のMFCC(Mel-Frequency Cepstral Coefficient)や、20次元のMFCCの時間方向の差分をとった一次や二次の動的特徴量を連結したり、連続する複数フレームの音声特徴量を連結したりして用いてもよい。また、音声データは、音声データに対して事前に平均分散正規化やVAD(Voice Activity Detection)を用いた雑音除去などの事前処理が施されていてもよい。第1生成部121が生成する第1の特徴ベクトルは、Multi-Layer Perceptron、Time-Delay Neural Network、Recurrent Neural Network、Conventional Neural Networkなどを用いて生成されればよい。
ステップS102において、重み算出部141は、複数フレーム分の第1の特徴ベクトルが行列として入力されると、フレームごとの重みを算出する。重み算出部141は、例えば、出力が一次元のニューラルネットワーク(例えば、Multi-Layer Perceptron)によりフレームごとの重みを算出する。また、重み算出部141は、算出した全てのフレームに対する重みを、softmax関数に入力することで、重みを正規化する。重み算出部141は、正規化された重みをフレームごとの重みとして、統計量算出部151に出力する。
ステップS104において、統計量算出部151は、第1の特徴ベクトルと、重みとに基づいて、式(1)および式(2)を用いて高次統計ベクトルとして、重み付き平均ベクトルおよび重み付き標準偏差ベクトルを算出する。
Figure 0007268711000001
ここで、xtiは、tフレーム目の第1の特徴ベクトルの第i要素、αは、tフレーム目の重み、μ、σは、それぞれ重み付き平均、重み付き標準偏差の第i要素を表す。
ステップS106において、第2生成部131は、重み算出部141から重み付き平均ベクトルおよび重み付き標準偏差ベクトルが入力されると、第2の特徴ベクトルを生成する。第2生成部131は、例えば、Multi-Layer Perceptronにより、第2の特徴ベクトルを生成する。
信号処理装置1は、話者の話者認識などのクラスのクラス認識精度(クラス識別能力)が高い第2の特徴ベクトルを生成することができる。また、信号処理装置1は、このようにして生成された第2の特徴ベクトルを用いることで話者認識精度を向上させることができ、話者認識を行う際の利便性を向上させることができる。
なお、本実施形態では、第1生成装置120と、第2生成装置130と、重み算出装置140と、統計量算出装置150とのそれぞれが、異なるニューラルネットワークによって構成される場合について説明したが、これらをネットワークで接続することで、上述の信号処理装置1のように1つの大きなニューラルネットワークとみなしてもよい。
なお、ニューラルネットワークの学習時には、例えば、出力層の各ノードが各話者クラスに相当する新たなニューラルネットワークを、提示部170に接続してもよい。この場合には、クロスエントロピーロスなどの損失関数を使用し、誤差逆伝播法により生成部180(第1生成部121、第2生成部131)、算出部190(重み算出部141)が持つパラメータを学習させることができる。
なお、本実施形態では、第2の特徴ベクトルを用いて話者を識別する場合の一例について説明したが、話者が話す言語、話者の性別、話者の年齢、話者の感情などを識別してもよい。この場合、提示部170は、言語ラベル(言語を識別するためのモデルデータ)を予め保持し、これに基づいて損失関数を最小化するように生成部180(第1生成部121、第2生成部131)、算出部190(重み算出部141)に学習させればよい。話者の性別、話者の年齢、話者の感情などについても同様である。
なお、本実施形態では、重み算出部141に第1の特徴ベクトルを複数フレーム分並べた行列として入力する場合の一例について説明したが、重み算出部141は、第1生成部121から逐次入力される第1の特徴ベクトルに対して算出可能な重みを算出してもよい。
なお、統計量算出部151は、重み付き平均ベクトルおよび重み付き標準偏差ベクトルの代わりに、二次統計量である分散ベクトル、第1の特徴ベクトルの異なる要素間の相関を示す重み付き共分散ベクトルを算出してもよい。また、統計量算出部151は、三次統計量である重み付き歪度(skewness)や四次統計量である重み付き尖度(kurtosis)などの三次以上の高次統計ベクトルを用いてもよい。
なお、本実施形態では、音声データまたは音声特徴量を用いる場合の一例について説明したが、文章などのテキストデータ、センサ出力などのセンサデータ、気象データやそれらの特徴量を用いてもよい。
このように、本実施形態に係る信号処理システムsysは、時系列の音声データ、気象データ、センサデータ、テキストデータのいずれか、またはいずれかの特徴量に基づいて第1の特徴ベクトルを生成する第1生成部121と、第1の特徴ベクトルに対する重みを算出する重み算出部141と、第1の特徴ベクトルと、重みとを用いて、重み付き平均ベクトル及び二次以上の重み付き高次統計ベクトルを算出する統計量算出部151と、重み付き高次統計ベクトルを用いて、第2の特徴ベクトルを生成する第2生成部131と、を備える。
この構成により、識別に重要なフレームに対して大きな重みを付加して第1の特徴ベクトルを生成することができるため、長時間にわたる音声データ等であっても、重要なフレームを考慮した第2の特徴ベクトルを生成することができる。このため、第2の特徴ベクトルを用いる話者認識精度を向上させることができる。また、話者の特徴が少ないフレーム(重要でないフレーム)に対する重みを低くすることができるため、認識精度を向上させることができる。これらにより、話者認識を行う際の利便性を向上させることができる。
図6は、変形例に係る信号処理システムsys1の構成の一例を示すシステム構成図である。
信号処理システムsys1は、第1の特徴量抽出ニューラルネットワーク12と、第2の特徴量抽出ニューラルネットワーク13と、重み算出ニューラルネットワーク14と、重み付き高次統計量算出ニューラルネットワーク15と、を含んで構成される。第1の特徴量抽出ニューラルネットワーク12と、第2の特徴量抽出ニューラルネットワーク13と、重み算出ニューラルネットワーク14と、重み付き高次統計量算出ニューラルネットワーク15と、はそれぞれニューラルネットワークで構成される。第1の特徴量抽出ニューラルネットワーク12と、第2の特徴量抽出ニューラルネットワーク13と、重み算出ニューラルネットワーク14と、重み付き高次統計量算出ニューラルネットワーク15と、は、相互にネットワークNWを介して接続される。
なお、第1の特徴量抽出ニューラルネットワーク12と、第2の特徴量抽出ニューラルネットワーク13と、重み算出ニューラルネットワーク14と、重み付き高次統計量算出ニューラルネットワーク15と、は1つのニューラルネットワークとして構成さてもよい。
第1の特徴量抽出ニューラルネットワーク12は、音声データまたは音声特徴量が入力されると、上述の第1生成装置120や第1生成部121と同様に第1の特徴ベクトルを生成する。第1の特徴量抽出ニューラルネットワーク12は、生成した第1の特徴ベクトルを、重み算出ニューラルネットワーク14に出力する。また、第1の特徴量抽出ニューラルネットワーク12は、生成した第1の特徴ベクトルを重み付き高次統計量算出ニューラルネットワーク15に出力する。ここで、第1の特徴ベクトルは、例えば、短時間特徴ベクトルである。
重み算出ニューラルネットワーク14は、第1の特徴量抽出ニューラルネットワーク12から第1の特徴ベクトルが入力されると、上述の重み算出装置140や重み算出部141と同様にそれぞれの第1の特徴ベクトルに対する重みを算出する。重み算出ニューラルネットワーク14は、それぞれの第1の特徴ベクトルに対する算出した重みを、重み付き高次統計量算出ニューラルネットワーク15に出力する。
重み付き高次統計量算出ニューラルネットワーク15は、第1の特徴量抽出ニューラルネットワーク12から入力された第1の特徴ベクトルと、重み算出ニューラルネットワーク14から入力された重みとに基づいて、上述の統計量算出装置150や統計量算出部151と同様に重み付き高次統計量を算出する。重み付き高次統計量算出ニューラルネットワーク15が算出する重み付き高次統計量は、重み付き平均と、重み付き標準偏差である。重み付き高次統計量算出ニューラルネットワーク15は、算出した重み付き平均および重み付き標準偏差を、第2の特徴量抽出ニューラルネットワーク13に出力する。
第2の特徴量抽出ニューラルネットワーク13は、重み付き高次統計量算出ニューラルネットワーク15から入力された重み付き平均および重み付き標準偏差に基づいて、上述の第2生成装置130や第2生成部131と同様に第2の特徴ベクトルを生成する。
第2の特徴ベクトルは、例えば、固定次元数の長時間特徴ベクトルである。
信号処理システムsys1は、話者認識などのクラス認識能力が高い第2の特徴ベクトルを生成することができる。また、信号処理システムsys1は、各ニューラルネットワークを介して生成された第2の特徴ベクトルを用いて話者認識(クラス認識、クラス識別)をすることができる。また、重み付き平均および重み付き標準偏差のような高次統計量を用いて第2の特徴ベクトルを生成することで、第2の特徴ベクトルを用いた場合の話者認識精度を向上させることができる。
なお、本発明の各実施形態や各変形例における信号処理装置1、信号処理システムsys、信号処理システムsys1で動作するプログラムは、本発明の一態様に関わる上記の各実施形態や変形例で示した機能を実現するように、CPU(Central Processing Unit)等を制御するプログラム(コンピュータを機能させるプログラム)であっても良い。そして、これらの各装置で取り扱われる情報は、その処理時に一時的にRAM(Random Access Memory)に蓄積され、その後、Flash ROM(Read Only Memory)などの各種ROMやHDD(Hard Disk Drive)に格納され、必要に応じてCPUによって読み出し、修正・書き込みが行われる。
なお、上述した各実施形態や変形例における信号処理装置1、信号処理システムsys、信号処理システムsys1の一部、をコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータが読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。
なお、ここでいう「コンピュータシステム」とは、信号処理装置1、信号処理システムsys、信号処理システムsys1に内蔵されたコンピュータシステムであって、OS(Operating System)や周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD(Compact Disc)-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信回線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、上述した各実施形態や変形例における信号処理装置1、信号処理システムsys、信号処理システムsys1の一部、又は全部を典型的には集積回路であるLSI(Large-Scale Integration)として実現してもよいし、チップセットとして実現してもよい。また、上述した各実施形態や変形例における信号処理装置1、信号処理システムsysの各機能ブロックは個別にチップ化してもよいし、一部、又は全部を集積してチップ化してもよい。また、集積回路化の手法は、LSIに限らず専用回路、および/または汎用プロセッサで実現しても良い。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いることも可能である。
以上、この発明の一態様として各実施形態や変形例に関して図面を参照して詳述してきたが、具体的な構成は各実施形態や変形例に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。また、本発明の一態様は、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。また、上記各実施形態や変形例に記載された要素であり、同様の効果を奏する要素同士を置換した構成も含まれる。
この出願は、2018年3月15日に出願された日本出願(特願2018-048419)を基礎とする優先権を主張し、その開示の全てをここに取り込む。
sys、sys1 信号処理システム
120 第1生成装置
130 第2生成装置
140 重み算出装置
150 統計量算出装置
121 第1生成部
131 第2生成部
141 重み算出部
151 統計量算出部
160 受付部
170 提示部
180 生成部
190 算出部
100 CPU
101 記憶媒体インタフェース部
102 記憶媒体
103 入力部
104 出力部
105 ROM
106 RAM
107 補助記憶部
108 ネットワークインターフェース部
12 第1の特徴量抽出ニューラルネットワーク
13 第2の特徴量抽出ニューラルネットワーク
14 重み算出ニューラルネットワーク
15 重み付き高次統計量算出ニューラルネットワーク

Claims (10)

  1. 話者の属性を識別するためのモデルデータを保持する保持手段と、
    時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成する第1生成手段と、
    前記第1の特徴ベクトルを用いて、重みを算出する重み算出手段と、
    前記第1の特徴ベクトルと、前記重みとを用いて、第2の特徴ベクトルを生成する第2生成手段と、
    前記第2の特徴ベクトルに基づき、前記話者の属性を識別する識別手段と、
    を備え、
    前記第1生成手段、前記重み算出手段及び第2生成手段は、前記保持手段の保持するモデルデータに基づき損失関数が最小になるようパラメータを学習させ、
    前記第1の特徴ベクトルと、前記重みとを用いて、重み付き平均ベクトル及び二次以上の重み付き高次統計ベクトルを算出する統計量算出手段を更に備え、
    前記第2生成手段は、前記重み付き高次統計ベクトルを用いて、前記第2の特徴ベクトルを生成する、
    信号処理システム。
  2. 前記保持手段は、前記話者の話す言語を識別するためのモデルデータ、前記話者の性別を識別するためのモデルデータ、前記話者の年齢を識別するためのモデルデータ及び前記話者の感情を識別するためのモデルデータのうち少なくとも一つを保持し、
    前記識別手段は、前記話者の話す言語、前記話者の性別、前記話者の年齢及び前記話者の感情のうち少なくとも一つを識別する、請求項1に記載の信号処理システム。
  3. 前記重み付き高次統計ベクトルは、重み付き標準偏差ベクトル、または重み付き分散ベクトルである、
    請求項1または2に記載の信号処理システム。
  4. 前記重み付き高次統計ベクトルは、三次以上の重み付き高次統計ベクトルである、
    請求項1または2に記載の信号処理システム。
  5. 前記第1生成手段と、前記重み算出手段と、前記統計量算出手段と、前記第2生成手段とは、ニューラルネットワークで構成され、それぞれが単一の損失関数に基づいて最適化される、
    請求項1から4のいずれか一項に記載の信号処理システム。
  6. 前記ニューラルネットワークで構成された前記重み算出手段は、前記第1生成手段により生成された前記第1の特徴ベクトルを入力とし、前記第1の特徴ベクトルのフレームごとの重みを出力とするよう構成される、請求項に記載の信号処理システム。
  7. 前記第1生成手段は、前記話者の特徴を有する、各時刻の短時間特徴ベクトルを前記第1の特徴ベクトルとして生成し、
    前記第2生成手段は、前記話者の特徴を有する、固定次元数の長時間特徴ベクトルを前記第2の特徴ベクトルとして生成する、
    請求項1から請求項のいずれか一項に記載の信号処理システム。
  8. 話者の属性を識別するためのモデルデータを保持する保持手段と、
    時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成する第1生成手段と、
    前記第1の特徴ベクトルを用いて、重みを算出する重み算出手段と、
    前記第1の特徴ベクトルと、前記重みとを用いて、第2の特徴ベクトルを生成する第2生成手段と、
    前記第2の特徴ベクトルに基づき、前記話者の属性を識別する識別手段と、
    を備え、
    前記第1生成手段、前記重み算出手段及び第2生成手段は、前記保持手段の保持するモデルデータに基づき損失関数が最小になるようパラメータを学習させ、
    前記第1の特徴ベクトルと、前記重みとを用いて、重み付き平均ベクトル及び二次以上の重み付き高次統計ベクトルを算出する統計量算出手段を更に備え、
    前記第2生成手段は、前記重み付き高次統計ベクトルを用いて、前記第2の特徴ベクトルを生成する、
    信号処理装置。
  9. コンピュータが、
    話者の属性を識別するためのモデルデータを取得し、
    時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成し、
    前記第1の特徴ベクトルを用いて、重みを算出し、
    前記第1の特徴ベクトルと、前記重みとを用いて、重み付き平均ベクトル及び二次以上の重み付き高次統計ベクトルを算出し、
    前記重み付き高次統計ベクトルを用いて第2の特徴ベクトルを生成し、
    前記第2の特徴ベクトルに基づき、前記話者の属性を識別し、
    前記第1の特徴ベクトル、前記重み、前記第2の特徴ベクトルは、前記モデルデータに基づき損失関数が最小となるパラメータを用いて算出される、
    ことを含む、
    信号処理方法。
  10. コンピュータが、
    話者の属性を識別するためのモデルデータを取得し、
    時系列の音声データまたは前記音声データの特徴量に基づいて第1の特徴ベクトルを生成する第1生成ステップと、
    前記第1の特徴ベクトルを用いて、重みを算出する重み算出ステップと、
    前記第1の特徴ベクトルと、前記重みとを用いて、重み付き平均ベクトル及び二次以上の重み付き高次統計ベクトルを算出する統計量算出ステップと、
    前記重み付き高次統計ベクトルを用いて第2の特徴ベクトルを生成する第2生成ステップと、
    前記第2の特徴ベクトルに基づき、前記話者の属性を識別する識別ステップと、
    を実行するためのプログラムであって、
    前記第1の特徴ベクトル、前記重み、前記第2の特徴ベクトルは、前記モデルデータに基づき損失関数が最小となるパラメータを用いて算出される、プログラム。
JP2021165174A 2018-03-15 2021-10-07 信号処理システム、信号処理装置、信号処理方法、およびプログラム Active JP7268711B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2018048419 2018-03-15
JP2018048419 2018-03-15
JP2020506585A JP6958723B2 (ja) 2018-03-15 2019-03-13 信号処理システム、信号処理装置、信号処理方法、およびプログラム
PCT/JP2019/010174 WO2019176986A1 (ja) 2018-03-15 2019-03-13 信号処理システム、信号処理装置、信号処理方法、および記録媒体

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020506585A Division JP6958723B2 (ja) 2018-03-15 2019-03-13 信号処理システム、信号処理装置、信号処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2022008928A JP2022008928A (ja) 2022-01-14
JP7268711B2 true JP7268711B2 (ja) 2023-05-08

Family

ID=67907911

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020506585A Active JP6958723B2 (ja) 2018-03-15 2019-03-13 信号処理システム、信号処理装置、信号処理方法、およびプログラム
JP2021165174A Active JP7268711B2 (ja) 2018-03-15 2021-10-07 信号処理システム、信号処理装置、信号処理方法、およびプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2020506585A Active JP6958723B2 (ja) 2018-03-15 2019-03-13 信号処理システム、信号処理装置、信号処理方法、およびプログラム

Country Status (3)

Country Link
US (1) US11842741B2 (ja)
JP (2) JP6958723B2 (ja)
WO (1) WO2019176986A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3707703A1 (en) * 2018-11-28 2020-09-16 Google LLC. Training and/or using a language selection model for automatically determining language for speech recognition of spoken utterance
US20220383113A1 (en) * 2019-11-12 2022-12-01 Nec Corporation Information processing device, information processing method, and recording medium
KR20210089295A (ko) * 2020-01-07 2021-07-16 엘지전자 주식회사 인공지능 기반의 정보 처리 방법
JP7465497B2 (ja) 2020-02-05 2024-04-11 日本電信電話株式会社 学習装置、学習方法及びプログラム
US20220012538A1 (en) * 2020-07-07 2022-01-13 Nec Laboratories America, Inc. Compact representation and time series segment retrieval through deep learning
US20220383858A1 (en) * 2021-05-28 2022-12-01 Asapp, Inc. Contextual feature vectors for processing speech

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004139049A (ja) 2002-09-24 2004-05-13 Matsushita Electric Ind Co Ltd 話者正規化方法及びそれを用いた音声認識装置
WO2011077924A1 (ja) 2009-12-24 2011-06-30 日本電気株式会社 音声検出装置、音声検出方法、および音声検出プログラム
JP2016075740A (ja) 2014-10-03 2016-05-12 日本電気株式会社 音声処理装置、音声処理方法、およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006287319A (ja) 2005-03-31 2006-10-19 Nippon Hoso Kyokai <Nhk> 番組ダイジェスト作成装置および番組ダイジェスト作成プログラム
CN101465123B (zh) * 2007-12-20 2011-07-06 株式会社东芝 说话人认证的验证方法和装置以及说话人认证系统
JP5356527B2 (ja) * 2009-09-19 2013-12-04 株式会社東芝 信号分類装置
US8751191B2 (en) * 2009-12-22 2014-06-10 Panasonic Corporation Action analysis device and action analysis method
US9837068B2 (en) * 2014-10-22 2017-12-05 Qualcomm Incorporated Sound sample verification for generating sound detection model
CN107492382B (zh) * 2016-06-13 2020-12-18 阿里巴巴集团控股有限公司 基于神经网络的声纹信息提取方法及装置
GB2552722A (en) * 2016-08-03 2018-02-07 Cirrus Logic Int Semiconductor Ltd Speaker recognition
KR20180080446A (ko) * 2017-01-04 2018-07-12 삼성전자주식회사 음성 인식 방법 및 음성 인식 장치

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004139049A (ja) 2002-09-24 2004-05-13 Matsushita Electric Ind Co Ltd 話者正規化方法及びそれを用いた音声認識装置
WO2011077924A1 (ja) 2009-12-24 2011-06-30 日本電気株式会社 音声検出装置、音声検出方法、および音声検出プログラム
JP2016075740A (ja) 2014-10-03 2016-05-12 日本電気株式会社 音声処理装置、音声処理方法、およびプログラム

Also Published As

Publication number Publication date
US20210050021A1 (en) 2021-02-18
WO2019176986A1 (ja) 2019-09-19
JP2022008928A (ja) 2022-01-14
US11842741B2 (en) 2023-12-12
JPWO2019176986A1 (ja) 2021-02-04
JP6958723B2 (ja) 2021-11-02

Similar Documents

Publication Publication Date Title
JP7268711B2 (ja) 信号処理システム、信号処理装置、信号処理方法、およびプログラム
US11545173B2 (en) Automatic speech-based longitudinal emotion and mood recognition for mental health treatment
JP6993353B2 (ja) ニューラルネットワークベースの声紋情報抽出方法及び装置
JP6832501B2 (ja) 意味生成方法、意味生成装置及びプログラム
Rohanian et al. Alzheimer's dementia recognition using acoustic, lexical, disfluency and speech pause features robust to noisy inputs
JP2019211749A (ja) 音声の始点及び終点の検出方法、装置、コンピュータ設備及びプログラム
Chittaragi et al. Automatic text-independent Kannada dialect identification system
EP3910625A2 (en) Method and apparatus for utterance time estimation
WO2021014612A1 (ja) 発話区間検出装置、発話区間検出方法、プログラム
WO2019107170A1 (ja) 緊急度推定装置、緊急度推定方法、プログラム
JP7266390B2 (ja) 行動識別方法、行動識別装置、行動識別プログラム、機械学習方法、機械学習装置及び機械学習プログラム
US20230076073A1 (en) Method and apparatus for speech recognition
JP6992725B2 (ja) パラ言語情報推定装置、パラ言語情報推定方法、およびプログラム
JP7028203B2 (ja) 音声認識装置、音声認識方法、プログラム
KR20210081166A (ko) 다국어 음성 환경에서의 언어 식별 장치 및 방법
Gupta et al. Gender and age recognition using audio data—artificial neural networks
JP2020129051A (ja) パラ言語情報推定モデル学習装置、パラ言語情報推定装置、およびプログラム
US20230410789A1 (en) System and Method for Secure Data Augmentation for Speech Processing Systems
WO2022270327A1 (ja) 構音異常検出方法、構音異常検出装置、及びプログラム
US20220036885A1 (en) Segment detecting device, segment detecting method, and model generating method
US11894017B2 (en) Voice/non-voice determination device, voice/non-voice determination model parameter learning device, voice/non-voice determination method, voice/non-voice determination model parameter learning method, and program
Maddali et al. Classification of disordered patient’s voice by using pervasive computational algorithms
JP2022010410A (ja) 音声認識装置、音声認識学習装置、音声認識方法、音声認識学習方法、プログラム
Gupta Audio processing on constrained devices

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230404

R151 Written notification of patent or utility model registration

Ref document number: 7268711

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151