JP5704071B2 - 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム - Google Patents

音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム Download PDF

Info

Publication number
JP5704071B2
JP5704071B2 JP2011522695A JP2011522695A JP5704071B2 JP 5704071 B2 JP5704071 B2 JP 5704071B2 JP 2011522695 A JP2011522695 A JP 2011522695A JP 2011522695 A JP2011522695 A JP 2011522695A JP 5704071 B2 JP5704071 B2 JP 5704071B2
Authority
JP
Japan
Prior art keywords
speaker
model
occurrence
cluster
speech data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011522695A
Other languages
English (en)
Other versions
JPWO2011007497A1 (ja
Inventor
孝文 越仲
孝文 越仲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2011522695A priority Critical patent/JP5704071B2/ja
Publication of JPWO2011007497A1 publication Critical patent/JPWO2011007497A1/ja
Application granted granted Critical
Publication of JP5704071B2 publication Critical patent/JP5704071B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/04Training, enrolment or model building

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Telephonic Communication Services (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、音声データ解析装置、音声データ解析方法及び音声データ解析用プログラムに関し、特に、多数の話者から発せられる音声データから話者を学習または認識することに用いる音声データ解析装置、音声データ解析方法及び音声データ解析用プログラムに関する。
音声データ解析装置の一例が、非特許文献1に記載されている。非特許文献1に記載されている音声データ解析装置は、予め記憶されている話者ごとの音声データと話者ラベルを用いて、話者ごとの音声の性質を規定する話者モデルを学習する。
例えば、話者A(音声データX,X,・・・),話者B(音声データX,・・・),話者C(音声データX,・・・),話者D(音声データX,・・・),・・・の各々について、話者モデルを学習する。
そして、記憶されている音声データとは独立に得られた未知の音声データXを受け取り、学習した個々の話者モデルと音声データXとの類似度を、「当該話者モデルが音声データXを生成する確率」といったものから定義される定義式に基づいて計算するマッチング処理を行う。ここでは、類似度上位あるいは所定のしきい値を超えるモデルに対応する話者ID(話者を識別する識別子。前述のA、B、C、D、・・・に相当)を出力する。あるいは、話者マッチング手段205は、未知の音声データXとある話者ID(指定話者ID)の対を受け取り、その指定話者IDのモデルと音声データXとの類似度を計算するマッチング処理を行う。そして、類似度が所定のしきい値を超えたか否か、すなわち音声データXがその指定話者IDのものであるか否かの判定結果を出力する。
また、例えば、特許文献1には、標準話者に対する声道長の伸縮係数に基づいてクラスタリングされた各クラスタに属する話者集合毎の学習によって混合ガウス分布型音響モデルを生成し、生成した各音響モデルに対する学習話者の音響サンプルの尤度を算出することにより、入力話者の特徴として1つの音響モデルを抽出する話者特徴抽出装置が記載されている。
特開2003−22088号公報
Douglas A, Reynolds et al, "Speaker Verification Using Adapted Gaussian Mixture Models", Digital signal Processing, Vol.10, 2000, p.19-41
非特許文献1および特許文献1に記載されている技術の問題点は、話者間に何らかの関係性がある場合に、その関係性有効に利用できず、認識精度の低下を招くということである。
例えば、非特許文献1に記載されている方法では、話者ごとに独立に用意された音声データ及び話者ラベルを使い、話者ごとに独立に話者モデルを学習する。そして、話者モデルごとに独立に、入力された音声データXとのマッチング処理を行う。このような方法においては、ある話者と別の話者との間の関係性は一切考慮されない。
また、例えば、特許文献1に記載されている方法では、各学習話者に対して、標準話者に対する声道長の伸縮係数を求めて、学習話者をクラスタリングする。このような方法においては、非特許文献1と同様に、ある話者と別の話者との間の関係性は一切考慮されない。
この種の音声データ解析装置の代表的な用途の一つとして、機密情報を保管したセキュリティルームの入退場管理(音声認証)が挙げられる。このような用途であれば、問題はさほど深刻ではない。なぜなら、セキュリティルームの入退場は、原則一人ずつ行われ、他者との関係性は基本的に生じないからである。
しかし、このような想定が成り立たない用途も存在する。例えば、犯罪捜査の場面では、誘拐犯が身代金要求の電話などで話した音声データを収集し、後の犯罪捜査に活用することがある。このようなケースでは、一人の犯人による単独犯の他に、犯人グループによる複数犯があり得る。例えば振り込め詐欺な どが典型例である。近年、「劇団型振り込め詐欺」と呼ばれる犯行が増加していて、被害者の身内を装う者の他に、警察官や弁護士を装う者、交通事故や痴漢事件の当事者を装う者などが次々と電話口に登場し、被害者を巧妙に欺くという被害が起こっている。
そこで、本発明は、複数の話者に対しても、高精度に話者を認識できる音声データ解析装置、音声データ解析方法及び音声データ解析用プログラムを提供することを目的とする。
本発明による音声データ解析装置は、話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから、話者ごとの音声の性質を規定するモデルである話者モデルを導出する話者モデル導出手段と、話者モデル導出手段が導出した話者モデルを用いて、音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから、話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおけるクラスタの出現確率、クラスタ内での話者の出現確率およびクラスタ内の一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを導出する話者共起モデル導出手段とを備えることを特徴とする。
本発明による他の態様の音声データ解析装置は、話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから導出される、話者ごとの音声の性質を規定するモデルである話者モデルを記憶する話者モデル記憶手段と、音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから導出される、話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおけるクラスタの出現確率、クラスタ内での話者の出現確率およびクラスタ内の一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを記憶する話者共起モデル記憶手段と、話者モデルと話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する話者認識手段を備えることを特徴とする。
本発明による音声データ解析方法は、話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから、話者ごとの音声の性質を規定するモデルである話者モデルを導出する話者モデル導出ステップと、話者モデル導出ステップで導出される話者モデルを用いて、音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから、話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおけるクラスタの出現確率、クラスタ内での話者の出現確率およびクラスタ内の一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを導出する話者共起モデル導出ステップとを含むことを特徴とする。
本発明による他の態様の音声データ解析方法は、話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから導出される、話者ごとの音声の性質を規定するモデルである話者モデルと、音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから導出される、話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおけるクラスタの出現確率、クラスタ内での話者の出現確率およびクラスタ内の一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する話者認識ステップを含むことを特徴とする。
本発明による音声データ解析用プログラムは、コンピュータに、話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから、話者ごとの音声の性質を規定するモデルである話者モデルを導出する話者モデル導出処理、および話者モデル導出処理で導出される話者モデルを用いて、音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから、話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおけるクラスタの出現確率、クラスタ内での話者の出現確率およびクラスタ内の一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを導出する話者共起モデル導出処理を実行させることを特徴とする。
本発明による他の態様の音声データ解析用プログラムは、コンピュータに、話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから導出される、話者ごとの音声の性質を規定するモデルである話者モデルと、音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから導出される、話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおけるクラスタの出現確率、クラスタ内での話者の出現確率およびクラスタ内の一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する話者認識処理を実行させることを特徴とする。
本発明によれば、上述のような構成を有することにより話者間の関係性を考慮して話者の認識を行うことができるので、複数の話者に対しても、高精度に話者を認識できる音声データ解析装置、音声データ解析方法及び音声データ解析用プログラムを提供することができる。
第1の実施形態の音声データ解析装置の構成例を示すブロック図である。 セッション音声データ記憶手段及びセッション話者ラベル記憶手段に記憶される情報の例を示す説明図である。 話者モデルを模式的に表す状態遷移図である。 話者共起モデルの基本単位を模式的に表す状態遷移図である。 話者共起モデルを模式的に表す状態遷移図である。 第1の実施形態における学習手段の動作例を示すフローチャートである。 第1の実施形態における認識手段の動作例を示すフローチャートである。 第2の実施形態の音声データ解析装置の構成例を示すブロック図である。 第2の実施形態における学習手段の動作例を示すフローチャートである。 第3の実施形態の音声データ解析装置(モデル生成装置)の構成例を示すブロック図である。 第4の実施形態の音声データ解析装置(話者認識装置)の構成例を示すブロック図である。 本発明の概要を示すブロック図である。 本発明の他の構成例を示すブロック図である。 本発明の他の構成例を示すブロック図である。 本発明の他の構成例を示すブロック図である。
実施形態1.
以下、本発明の実施形態を図面を参照して説明する。図1は、本発明の第1の実施形態の音声データ解析装置の構成例を示すブロック図である。図1に示すように、本実施形態の音声データ解析装置は、学習手段11と、認識手段12とを備える。
学習手段11は、セッション音声データ記憶手段100と、セッション話者ラベル記憶手段101と、話者モデル学習手段102と、話者共起学習手段104と、話者モデル記憶手段105と、話者共起モデル記憶手段106とを含む。
また、認識手段12は、セッションマッチング手段107と、話者モデル記憶手段105と、話者共起モデル記憶手段106とを含む。なお、話者モデル記憶手段105と話者共起モデル記憶手段106は、学習手段11と共有している。
これらの手段はそれぞれ概略次のように動作する。まず、学習手段11は、当該学習手段11に含まれる各手段の動作により、音声データと話者ラベルを用いて、話者モデルと話者共起モデルを学習する。
本実施形態では、セッション音声データ記憶手段100は、話者モデル学習手段102が学習に使用する多数の音声データを記憶する。音声データは、何らかの録音機で録音した音声信号であってもよいし、メルケプストラム係数(MFCC)などの特徴ベクトル系列に変換したものであってもよい。また、音声データの時間長については特に制約はないが、一般には長いほどよいとされている。また、各々の音声データは、単一の話者のみが発声する形態の他に、複数の話者から構成され、これらの話者が交替で発声するような形態において生成される音声データも含む。例えば、前出の振り込め詐欺のケースでは、単独犯の犯行から採取した音声データの他に、複数人からなる犯行グループのメンバーが交替で電話口で台詞を述べたような音声データも含む。このような一連の会話として収録された音声データの一つ一つを、ここでは「セッション」と呼ぶ。振り込め詐欺の場合は、1回の犯行が1セッションに相当する。
なお、各々の音声データは、非音声区間を除去することにより、適当な単位に分割されているものとする。この分割の単位を以降では「発話」と呼ぶ。もし分割がなされていない場合は、図示しない音声検出手段により、音声区間のみを検出し、分割がなされた形式に容易に変換することができる。
セッション話者ラベル記憶手段101は、話者モデル学習手段102及び話者共起学習手段104が学習に使用する話者ラベルを記憶する。ここで話者ラベルとは、各セッションの各発話に付与されている、話者を一意に特定するIDである。図2は、セッション音声データ記憶手段100及びセッション話者ラベル記憶手段101に記憶される情報の例を示す説明図である。なお、図2(a)でセッション音声データ記憶手段100に記憶される例を示し、図2(b)でセッション話者ラベル記憶手段101に記憶される情報の例を示している。図2(a)に示す例では、セッション音声データ記憶手段100に、各セッションを構成する発話X (n)が記憶されている。また、図2(b)に示す例では、セッション話者ラベル記憶手段101には、個々の発話に対応する話者ラベルz (n)が記憶されている。ここに、X (n)とz (n)は、それぞれ第nセッションのk番目の発話と話者ラベルを意味する。また、X (n)は、例えば以下の式(1)のように、メルケプストラム係数(MFCC)などの特徴ベクトル系列として扱うのが一般的である。ここに、L (n)は発話X (n)のフレーム数、つまり長さである。
Figure 0005704071
話者モデル学習手段102は、セッション音声データ記憶手段100及びセッション話者ラベル記憶手段101に記憶された音声データおよび話者ラベルを用いて、各話者のモデルを学習する。話者モデル学習手段102は、例えば、話者ごとの音声の性質を規定するモデル(確率モデルなどの数式モデル)を話者モデルとし、そのパラメータを導出する。具体的な学習の方法については、前述の非特許文献1に準じればよい。すなわち、話者A、話者B、話者C、・・・の各々について、図2に示すようなデータ一式から、当該話者ラベルが付与された発話をすべて用いて、話者ごとの音声特徴量の出現確率を規定する確率モデル(例えば、ガウス混合モデル(GMM)など)のパラメータを話者ごとに求めてもよい。
話者共起学習手段104は、セッション音声データ記憶手段100に記憶された音声データ、セッション話者ラベル記憶手段101に記憶された話者ラベル及び話者モデル学習手段102が求めた各話者モデルを用いて、話者間の共起関係を集約したモデルである話者共起モデルを学習する。発明が解決しようとする課題でも述べたように、話者間には人間的な関係の強弱がある。話者と話者とのつながりをネットワークと考えた場合、そのネットワークは均質ではなく、結合の強い箇所、弱い箇所がある。ネットワークを大局的にみると、結合の特に強いサブネットワーク(クラスタ)が散在するような様相を呈する。
話者共起学習手段104が行う学習では、このようなクラスタを抽出し、当該クラスタの特徴を表す数式モデル(確率モデル)を導出する。
次に、話者モデル学習手段102および話者共起学習手段104の動作について、さらに詳しく述べる。
まず、話者モデル学習手段102が学習する話者モデルは、発話Xの確率分布を規定する確率モデルであり、例えば図3のような状態遷移図で表すことができる。厳密には、話者i(i=1,2,・・・,S)のモデルは以下の式(2)の確率密度関数で表される。
Figure 0005704071
このような確率モデルは1状態の隠れマルコフモデルと呼ばれる。特にパラメータaは状態遷移確率と呼ばれる。fはパラメータλで規定される関数で、発話を構成する個々の特徴ベクトルxの分布を規定する。話者モデルの実体はパラメータa、λであり、話者モデル学習手段102における学習はこれらのパラメータの値を決定することといえる。なお、fの具体的な関数形としては、ガウス混合分布(GMM)などが挙げられる。話者モデル学習手段102は、このような学習方法に基づき、パラメータa、λを計算し、話者モデル記憶手段105に記録する。
次に、話者共起学習手段104が学習する話者共起モデルについては、上述の各話者(i=1,2,・・・,S)の話者モデルを並列させた図4に示すような状態遷移図を基本単位とし、さらにこれをT個並列させた図5に示すような状態遷移図(マルコフネットワーク)で表すことができる。
におけるwji(j=1,2,・・・,T、i=1,2,・・・,S)は、話者の集合(クラスタ)jにおける話者iの出現確率を意味するパラメータ(wj,1+・・・+wj,s=1)で、jに応じて異なるT通りのパターンがある。wji=0であれば、話者iは決して出現しないことになる。逆に、wji>0なる話者は互いに共起する可能性がある、つまり人間的な関係性があるということになる。また、wji>0なる話者の集合は、話者のネットワークにおけるクラスタに相当し、劇団型振り込め詐欺の例でいえば、典型的な犯行グループ1つを表すといえる。
図4が1つの振り込め詐欺の犯行グループを表すとして、犯行グループはT個のパターンに大別されると仮定したのが、図5のマルコフネットワークで現される確率モデルである。uは、犯行グループ、すなわち話者の集合(クラスタ)jの出現確率を表すパラメータで、犯行グループの活動の活発さと解釈できる。vは、話者の集合jの1セッションにおける発話数に関係するパラメータである。話者共起モデルの実体はパラメータu,v,wjiであり、話者共起学習手段104における学習は、これらのパラメータの値を決定することといえる。
ここまでに定義したパラメータのセットをθ={u,v,wji,a,λ}として、K個の発話からなるセッションΞ=(X,X,・・・,X)の確率分布を規定する確率モデルは以下の式(3)で表される。
Figure 0005704071
ここに、yは話者の集合(クラスタ)を指定するインデクスであり、Z=(z,z,・・・,z)は発話ごとに話者を指定するインデクス列である。また、表記の簡単化のため以下の式(4)のように置き換えを行っている。
Figure 0005704071
話者共起学習手段104は、セッション音声データ記憶手段100に記憶された音声データX (n)、セッション話者ラベル記憶手段101に記憶された話者ラベルz (n)及び話者モデル学習手段102が求めた各話者のモデルa、λを用いて、パラメータu,v,wjiを推定する。推定方法についてはいくつか考えられるが、尤度最大化基準(最尤基準)による方法が一般的である。すなわち、所与の音声データ、話者ラベル、各話者のモデルに対して、上述の式(3)の確率p(Ξ|θ)が最大となるように推定する。
最尤基準に基づく具体的な計算は、例えば期待値最大化法(Expectation-Maximization法、略してEM法)によって導出できる。具体的には、以下のステップS0〜S3において、ステップS1とステップS2を交互に反復するアルゴリズムを実行する。
ステップS0:
パラメータu,v,wjiに適当な値をセットする。
ステップS1:
セッションΞ(n)がクラスタyに属する確立を、以下の式(5)に従って計算する。ここに、K(n)は、セッションΞ(n)に含まれる発話数である。
Figure 0005704071
ステップS2:
パラメータu,v,wjiを以下の式(6)に従って更新する。ここに、Nはセッション総数、δijはクロネッカのデルタである。
Figure 0005704071
ステップS3:
以降、上述の式(3)の確率p(Ξ|θ)の値の上昇度合いなどから収束判定を行い、収束するまでステップS1とステップS2を交互に反復する。
以上のステップを経て計算された話者共起モデル、すなわちパラメータu,v,wjiは、話者共起モデル記憶手段106に記録される。
また、認識手段12は、当該認識手段12に含まれる各手段の動作により、与えられた任意の音声データに含まれる話者を認識する。
本実施形態では、セッションマッチング手段107は、任意の音声データを受け取る。ここでの音声データは、学習手段11で取り扱った音声データと同様、単一の話者のみが発声する形態の他に、複数の話者が交替で発声するような発話列の形態において生成される音声データも含む。このような音声データを、これまでと同様、Ξ=(X,X,・・・,X)と表し、Ξをセッションと呼ぶ。
セッションマッチング手段107はさらに、学習手段11によりあらかじめ計算されて、それぞれ話者モデル記憶手段105、話者共起モデル記憶手段106に記録された、話者モデル、話者共起モデルを参照して、セッションΞに含まれる各発話がどの話者から発せられたか、すなわち話者ラベル列Z=(z,z,・・・,z)を推定する。具体的に は、セッション音声データΞとパラメータθ={u,v,wji,a,λ}を所与として、以下の式(7)に基づいて話者ラベル列Zの確率分布が理論的に計算できる。
Figure 0005704071
よって、確率p(Ξ|θ)が最大となるZを求めることで、各発話の話者ラベルを計算することができる。なお、式(7)の右辺分母はZに依存しない定数となるので、計算を省略することができる。また、分子のクラスタjに関する総和は、この種の計算でよく行われるように、最大値演算maxに置き換えて近似計算としてもよい。さらに、Zの取り得る値の組合せはS通りあり、確率p(Ξ|θ)の最大値探索は計算量が膨大化する可能性があるが、動的計画法などの計算手法を適用することにより、効率的に探索することができる。
なお、以上述べた動作では、認識手段12に入力される音声データが、学習手段11で学習した話者の発話のみから構成されていることを前提としている。しかし、実際応用上は、学習手段11で獲得し得なかった未知の話者の発話を含む音声データが入力される場合があり得る。このような場合には、各発話について、未知話者か否かを判定する後処理を容易に導入することが可能である。すなわち、以下の式(8)によって個々の発話Xが話者zに属する確率を計算し、所定のしきい値以下の値となった場合に未知話者であると判定してもよい。
Figure 0005704071
上述の式(8)に代えて以下の式(9)に示すような近似計算を行ってもよい。
Figure 0005704071
また、式(8)や式(9)の右辺は、話者モデルi=1,・・・,Sに関する総和形式を含んでいるが、これらを非特許文献1に記載されている平均的な話者のモデル、すなわちユニバーサル・バックグラウンド・モデル(Universal Background model)に置き換えて計算してもよい。
本実施形態において、セッション音声データ記憶手段100と、セッション話者ラベル記憶手段101と、話者モデル記憶手段105と、話者共起モデル記憶手段106とは、例えば、メモリなどの記憶装置によって実現される。また、話者モデル学習手段102と、話者共起学習手段104と、セッションマッチング手段107とは、例えば、CPUなどのプログラムに従って動作する情報処理装置(プロセッサユニット)によって実現される。なお、セッション音声データ記憶手段100、セッション話者ラベル記憶手段101、話者モデル記憶手段105、話者共起モデル記憶手段106は、それぞれの別々の記憶装置として実現されていてもよい。また、話者モデル学習手段102、話者共起学習手段104、セッションマッチング手段107は、それぞれ別々のユニットとして実現されていてもよい。
次に、図6及び図7のフローチャートを参照して、本実施形態の全体の動作について詳細に説明する。なお、図6は、学習手段11の動作の一例を示すフローチャートである。また、図7は、認識手段12の動作の一例を示すフローチャートである。
まず、学習手段11において、話者モデル学習手段102と話者共起モデル学習手段104は、セッション音声データ記憶手段100から音声データを読み込む(図6のステップA1)。また、セッション話者ラベル記憶手段101から話者ラベルを読み込む(ステップA2)。これらのデータの読み込みについては、順序は任意である。また、話者モデル学習手段102と話者共起モデル学習手段104のデータ読み込みのタイミングを合わせなくてもよい。
次に、話者モデル学習手段102は、読み込んだ音声データおよび話者ラベルを用いて、各話者モデル、すなわちパラメータa,λ(i=1,・・・,S)を計算し(ステップA3)、話者モデル記憶手段105に記録する(ステップA4)。
さらに、話者共起学習手段104は、音声データ、話者ラベル及び話者モデル学習手段102によって計算された各話者モデルを用いて、例えば上述の式(5),式(6)の計算を含む反復解法等の所定の計算を実行することにより、話者共起モデル、すなわちパラメータu,v,wji(i=1,・・・,S、j=1,・・・,T)を計算し(ステップA5)、話者共起モデル記憶手段106に記録する(ステップA6)。
認識手段12において、セッションマッチング手段107は、話者モデル記憶手段105から話者モデルを読み込み(図7のステップB1)、話者共起モデル記憶手段106から話者共起モデルを読み込む(ステップB2)。また、任意の音声データを受け取り(ステップB3)、さらに、例えば上述の式(7)及び必要に応じて式(8)または式(9)等の所定の計算をすることにより、受け取った音声データの各発話に対する話者ラベルを求める。
以上のように、本実施形態によれば、学習手段11において、話者共起学習手段104が、会話などにおける一連の発話をまとめたセッションの単位で記録された音声データ及び話者ラベルを用いることにより、話者間の共起関係を話者共起モデルとして獲得(生成)する。また、認識手段12において、セッションマッチング手段107が、個々の発話について独立に話者の認識を行うのではなく、学習手段11が獲得した話者共起モデルを用いて、セッション全体の話者の共起の整合性を考慮して話者認識を行う。従って、話者のラベルを正確に求めることができ、話者を高精度に認識することができる。
例えば、前述の振り込め詐欺の例を考えると、劇団型振り込め詐欺のような複数犯の場合、話者間の関係性が生ずる。例えば、話者Aと話者Bは同じ犯行グループに属して活動しており、1回の犯行(電話)の中に共に現れる可能性が高いとか、話者Bと話者Cは犯行グループが異なり、一緒には現れないとか、話者Dは常に単独犯である等である。話者Aと話者Bのように、ある話者と話者が一緒に現れることを、本発明では「共起」と呼んでいる。
このような話者間の関係性が、話者、すなわち犯人を特定するための重要な情報である。とりわけ、電話から得られた音声は、帯域が狭く音質が劣悪であり、話者の区別が難しい。したがって、「ここに話者Aが出てきているから、こっちのこの声はおそらく仲間の話者Bのものであろう」というような推論は有効と予想される。したがって、上述のような構成を採用し、話者間の関係性を考慮して話者の認識を行うことにより本発明の目的を達成することができる。
実施形態2.
次に、本発明の第2の実施形態について説明する。図8は、本発明の第2の実施形態の音声データ解析装置の構成例を示すブロック図である。図8に示すように、本実施形態の音声データ解析装置は、学習手段31と、認識手段32とを備える。
また、学習手段31は、セッション音声データ記憶手段300と、セッション話者ラベル記憶手段301と、話者モデル学習手段302と、話者分類手段303と、話者共起学習手段304と、話者モデル記憶手段305と、話者共起モデル記憶手段306とを含む。なお、話者分類手段303を含む点が第1の実施形態と異なる。
また、認識手段32は、セッションマッチング手段307と、話者モデル記憶手段305と、話者共起モデル記憶手段306とを含む。なお、話者モデル記憶手段305と、話者共起モデル記憶手段306は、学習手段31と共有している。
これらの手段はそれぞれ概略次のように動作する。
学習手段31は、第1の実施形態と同様に、当該学習手段31が含む各手段の動作により、音声データと話者ラベルを用いて、話者モデルと話者共起モデルを学習する。ただし、第1の実施形態における学習手段11とは異なり、話者ラベルが不完全であってもよい。すなわち、音声データ中の一部のセッション、あるいは一部の発話に対応する話者ラベルが未知であってもよいとする。一般に、各発話に対して話者ラベルを付与する作業は、音声データの検聴などの多大な人的コストを伴うものであるから、このような状況は実際応用上しばしば起こり得る。
一部の話者ラベルが未知であるという点を除けば、セッション音声データ記憶手段300及びセッション話者ラベル記憶手段301は、第1の実施形態におけるセッション音声データ記憶手段100及びセッション話者ラベル記憶手段101と同様である。
話者モデル学習手段302は、セッション音声データ記憶手段300及びセッション話者ラベル記憶手段301にそれぞれ記憶された音声データおよび話者ラベル、並びに、話者分類手段303によって計算される未知の話者ラベルの推定結果、話者共起学習手段304によって計算される各セッションの帰属クラスタの推定結果を用いて、各話者のモデルを学習した後、最終的な話者モデルを話者モデル記憶手段305に記録する。
話者分類手段303は、セッション音声データ記憶手段300及びセッション話者ラベル記憶手段301にそれぞれ記憶された音声データおよび話者ラベル、並びに、話者モデル学習手段302によって計算される話者モデル、話者共起学習手段304によって計算される話者共起モデルを用いて、話者ラベル未知の発話に付与すべき話者ラベルを確率的に推定する。
話者共起学習手段304は、セッションごとに帰属クラスタを確率的に推定し、話者分類手段303によって計算される未知の話者ラベルの推定結果を参照し、話者共起モデルを学習する。また、最終的な話者共起モデルを話者共起モデル記憶手段306に記録する。
ここで、話者モデル学習手段302、話者分類手段303、話者共起学習手段304の動作についてさらに詳しく述べる。
話者モデル学習手段302が学習する話者モデル、話者共起学習手段304が学習する話者共起モデルは、いずれも第1の実施形態と同様であり、それぞれ図3や図5の状態遷移図で表される。ただし、話者ラベルが不完全であることから、話者モデル学習手段302、話者分類手段303、話者共起学習手段304は、互いの出力に依存し、交互に反復的に動作して、話者モデルおよび話者共起モデルを学習する。具体的には、以下のステップS30〜S35において、ステップS31〜S34をくり返すアルゴリズムによって推定する。
ステップS30:
者共起学習手段304は、話者共起モデルのパラメータu,v,wji(i=1,・・・,S、j=1,・・・,T)に適当な値をセットする。話者分類手段303は、未知の話者ラベルについて、乱数などにより適当なラベル(値)を付与する。
ステップ31:
話者モデル学習手段302は、セッション音声データ記憶手段300に記録された音声データ、セッション話者ラベル記憶手段301に記録された既知の話者ラベル及び話者分類手段303が推定した話者ラベルを用いて話者モデルを学習し、パラメータa,λ(i=1,・・・,S)を更新する。例えば話者モデルが、平均μと分散Σで規定されるガウス分布モデル、すなわちλ=(a,μ,Σ)であれば、以下の式(10)によってパラメータを更新する。
Figure 0005704071
ステップ32:
話者分類手段303は、セッション音声データ記憶手段300に記録された音声データ、並びに話者モデル、話者共起モデルを用いて、話者ラベルが未知の発話について、以下の式(11)に従って話者ラベルを確率的に推定する。
Figure 0005704071
ステップS33:
話者共起学習手段304は、セッション音声データ記憶手段300、セッション話者ラベル記憶手段301にそれぞれに記録された音声データ、既知の話者ラベル、並びに話者モデル学習手段302が算出した話者モデル、話者分類手段303が算出した未知の話者ラベルの推定結果を用いて、セッションΞ(n)がクラスタyに属する確率を、上述の式(5)に従って計算する。
ステップS34:
話者共起学習手段304はさらに、ステップS33の算出結果を用いて、話者共起モデルを学習する。すなわち、パラメータu,v,wji(i=1,・・・,S、j=1,・・・,T)を以下の式(12)に従って更新する。
Figure 0005704071
ステップS35:
以降、収束するまでステップS31〜S34を反復する。収束に至った時点で、話者 モデル学習手段302は話者モデルを話者モデル記憶手段305に、話者共起学習手段304は話者共起モデルを話者共起モデル記憶手段306に、それぞれ記録する。
上記ステップS31〜S35の処理は、第1の実施形態と同様に、尤度最大化基準に基づく期待値最大化法から導出されるものである。また、この導出はあくまで一例であり、他のよく知られる基準、例えば事後確率最大化(MAP)基準やベイズ基準に基づく定式化も可能である。
また、本実施形態の認識手段32は、当該認識手段32が含む各手段の動作により、与えられた任意の音声データに含まれる話者を認識する。動作の詳細については、第1の実施形態における認識手段12と同じであるため、説明を省略する。
本実施形態において、例えば、セッション音声データ記憶手段300と、セッション話者ラベル記憶手段301と、話者モデル記憶手段305と、話者共起モデル記憶手段306とは、メモリなどの記憶装置によって実現される。また、話者モデル学習手段302と、話者分類手段303と、話者共起学習手段304と、セッションマッチング手段307とは、CPUなどのプログラムに従って動作する情報処理装置(プロセッサユニット)によって実現される。なお、セッション音声データ記憶手段300、セッション話者ラベル記憶手段301、話者モデル記憶手段305、話者共起モデル記憶手段306は、それぞれの別々の記憶装置として実現されていてもよい。また、話者モデル学習手段302、話者分類手段303、話者共起学習手段304、セッションマッチング手段307は、それぞれ別々のユニットとして実現されていてもよい。
次に、図9に示すフローチャートを参照して、本実施形態の動作について詳細に説明する。図9は、本実施形態の学習手段31の動作の一例を示すフローチャートである。なお、認識手段32の動作については、第1の実施形態と同様であるため、説明を省略する。
まず、話者モデル学習手段302、話者分類手段303、話者共起学習手段304は、セッション音声データ記憶手段300に記憶された音声データを読み込む(図9のステップC1)。また、話者モデル学習手段302、話者共起学習手段304はさらに、セッション話者ラベル記憶手段301に記憶された既知の話者ラベルを読み込む(ステップC2)。
次に、話者モデル学習手段302は、話者分類手段303によって計算される未知の話者ラベルの推定結果、話者共起学習手段304によって計算される各セッションの帰属クラスタの推定結果を用いて、話者モデルを更新する(ステップC3)。
話者分類手段303は、話者モデル学習手段302から話者モデル、話者共起学習手段304から話者共起モデルをそれぞれ受け取り、話者ラベル未知の発話に付与すべきラベルを例えば、上述の式(11)に従って確率的に推定する(ステップC4)。
話者共起学習手段304は、セッションごとに帰属クラスタを例えば、上述の式(5)に従って確率的に推定し、さらに話者分類手段303によって計算される未知の話者ラベルの推定結果を参照し、話者共起モデルを例えば、上述の式(12)に従って更新する(ステップC5)。
ここで、収束判定を行い(ステップC6)、未収束であれば、ステップC3に戻る。収束していれば、話者モデル学習手段302は、話者モデルを話者モデル記憶手段305に記録し(ステップC7)、話者共起学習手段304は、話者共起モデルを話者共起モデル記憶手段306に記録する(ステップC8)。
なお、ステップC1とステップC2、ステップC7とステップC8の順序はそれぞれ任意である。また、ステップS33〜S35の順序についても、任意に入れ替え可能である。
以上のように、本実施形態によれば、学習手段31において、話者ラベルが未知であっても、話者分類手段303が話者ラベルを推定し、話者モデル学習手段302、話者共起学習手段304を含めた3つの手段が協調して反復的に動作することにより、話者モデル、話者共起モデルを得るように構成されているため、話者ラベルが一部欠如している、さらには完全にない場合であっても、話者を高精度に認識することができる。なお、他の点に関しては第1の実施形態と同様である。
実施形態3.
次に、本発明の第3の実施形態について説明する。図10は、本発明の第3の実施形態の音声データ解析装置(モデル生成装置)の構成例を示すブロック図である。図10に示すように、本実施形態の音声データ解析装置は、音声データ解析用プログラム51−1と、データ処理装置52と、記憶装置53とを備える。また、記憶装置53には、セッション音声データ記憶領域531と、セッション話者ラベル記憶領域532と、話者モデル記憶領域533と、話者共起モデル記憶領域534とが含まれる。なお、本実施形態は、第1または第2の実施形態における学習手段(学習手段11または学習手段31)を、プログラムにより動作されるコンピュータにより実現した場合の構成例である。
音声データ解析用プログラム51−1は、データ処理装置52に読み込まれ、データ処理装置52の動作を制御する。なお、音声データ解析用プログラム51−1には、第1または第2の実施形態における学習手段(学習手段11または学習手段31)の動作がプログラム言語を用いて記述されている。より具体的には、データ処理装置52は、音声データ解析用プログラム51−1の制御により、第1の実施形態における話者モデル学習手段102および話者共起学習手段104の処理、または第2の実施形態における話者モデル学習手段302、話者分類手段303および話者共起学習手段304の処理と同一の処理を実行する。すなわち、記憶装置53内のセッション音声データ記憶領域531、セッション話者ラベル記憶領域532にそれぞれ記録された音声データ、話者ラベルを読み込み、話者モデルおよび話者共起モデルを、記憶装置53内の話者モデル記憶領域533、話者共起モデル記憶領域534にそれぞれ記録する。
以上のように、本実施形態の音声データ解析装置(モデル生成装置)によれば、多数の話者から発せられる音声データから話者を学習または認識する際に有効な話者モデルおよび話者共起モデルを得ることができるため、得られた話者モデルおよび話者共起モデルを用いることによって話者を高精度に認識することができる。
実施形態4.
次に、本発明の第4の実施形態について説明する。図11は、本発明の第4の実施形態の音声データ解析装置(話者認識装置)の構成例を示すブロック図である。図11に示すように、本実施形態の音声データ解析装置は、音声データ解析用プログラム51−2と、データ処理装置52と、記憶装置53とを備える。また、記憶装置53には、話者モデル記憶領域533と、話者共起モデル記憶領域534とが含まれる。なお、本実施形態は、第1または第2の実施形態における認識手段(認識手段12または認識手段32)を、プログラムにより動作されるコンピュータにより実現した場合の構成例である。
音声データ解析用プログラム51−2は、データ処理装置52に読み込まれ、データ処理装置52の動作を制御する。なお、音声データ解析用プログラム51−2には、第1または第2の実施形態における認識手段(認識手段12または認識手段32)の動作がプログラム言語を用いて記述されている。より具体的には、データ処理装置52は、音声データ解析用プログラム51−2の制御により、第1の実施形態におけるセッションマッチング手段107の処理、または第2の実施形態におけるセッションマッチング手段307の処理と同一の処理を実行する。すなわち、記憶装置53内の話者モデル記憶領域533、話者共起モデル記憶領域534にそれぞれ記録されている話者モデル、話者共起モデルを参照し、任意の音声データに対して話者認識を行う。なお、話者モデル記憶領域533、話者共起モデル記憶領域534には、第1または第2の実施形態における学習手段、もしくは上記音声データ解析用プログラム51−1によるデータ処理装置52の制御によって生成されるものと同等の話者モデル、話者共起モデルが予め記憶されているものとする。
以上のように、本実施形態の音声データ解析装置(話者認識装置)によれば、話者モデルだけでなく、話者間の共起関係をモデル化(数式等で表現)した話者共起モデルを用いて、セッション全体の話者の共起の整合性を考慮して話者認識を行うので、話者を高精度に認識することができる。なお、話者モデルおよび話者共起モデルが予め記憶されていることによりモデル化のための演算処理が省略できる点を除けば、第1または第2の実施形態の効果と同様である。
なお、第3の実施形態の音声データ解析用プログラム51−1と、第4の実施形態の音声データ解析用プログラム51−2とを結合した音声データ解析用プログラム51をデータ処理装置52に読み込ませることにより、1つのデータ処理装置52に、第1または第2の実施形態における学習手段および認識手段の各処理をさせることも可能である。
次に、本発明の概要について説明する。図12は、本発明の概要を示すブロック図である。図12に示す音声データ解析装置は、話者モデル導出手段601と、話者共起モデル導出手段602とを備える。
話者モデル導出手段601(例えば、話者モデル学習手段102,302)は、話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから、話者ごとの音声の性質を規定するモデルである話者モデルを導出する。
話者モデル導出手段601は、例えば、話者モデルとして、話者ごとの音声特徴量の出現確率を規定する確率モデルを導出してもよい。確率モデルは、例えば、ガウス混合モデルまたは隠れマルコフモデルであってもよい。
話者共起モデル学習手段602(例えば、話者共起モデル学習手段103,304)は、話者モデル学習手段601が導出した話者モデルを用いて、音声データを一連の会話の単位で分割したセッションデータから、話者間の共起関係の強さを表すモデルである話者共起モデルを導出する。
話者共起モデル学習手段602は、例えば、話者共起モデルとして、共起関係の強い話者の集合すなわちクラスタの出現確率およびクラスタ内での話者の出現確率で規定されるマルコフネットワークを導出してもよい。
また、このような構成において、話者モデルおよび話者共起モデルを、音声データおよび話者ラベルに対する尤度最大化基準、事後確率最大化基準、ベイズ基準のいずれかの基準に基づいて、反復演算させることにより学習してもよい。
また、図13は、本発明の音声データ解析装置の他の構成例を示すブロック図である。図13に示すように、さらに話者推定手段603を備える構成であってもよい。話者推定手段603(例えば、話者分類手段303)は、話者モデル導出手段601または話者共起モデル導出手段602に入力される音声データ内に話者ラベルが付与されていない発話が存在する場合に、少なくともその時点において導出されている話者モデルまたは話者共起モデルを参照して、話者ラベルが付与されていない発話について話者ラベルを推定する。
このような構成の場合には、話者モデル導出手段601、話者共起モデル導出手段602および話者推定手段603を交互に反復動作させてもよい。
また、図14は、本発明の音声データ解析装置の他の構成例を示すブロック図である。図14に示すように、本発明の音声データ解析装置は、話者モデル記憶手段604と、話者共起モデル記憶手段605と、話者認識手段606とを備える構成であってもよい。
話者モデル記憶手段604(例えば、話者モデル記憶手段105,306)は、者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから導出される、話者ごとの音声の性質を規定するモデルである話者モデルを記憶する。
話者共起モデル記憶手段605(例えば、話者共起モデル記憶手段106,306)は、音声データを一連の会話の単位で分割したセッションデータから導出される、話者間の共起関係の強さを表すモデルである話者共起モデルを記憶する。
話者認識手段606(例えば、セッションマッチング手段107,307)は、記憶されている話者モデルと話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する。
なお、図15に示すように、記憶手段の代わりに話者モデル導出手段601と話者共起モデル導出手段602とを備え、1つの装置によりモデルの生成から話者の認識までの動作を実現させることも可能である。
以上、実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2009年7月16日に出願された日本特許出願2009−168290を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明は、多数の話者の音声を記録した人物データベースと入力音声とを照合する話者検索装置や話者照合装置といった用途に適用可能である。また、映像や音声からなるメディアデータのインデクシング・検索装置、あるいは、会議で出席者の発言を記録する会議録作成支援装置、会議支援装置といった用途にも適用可能である。
11,31 学習手段
100,300 セッション音声データ記憶手段
101,301 セッション話者ラベル記憶手段
102,302 話者モデル学習手段
104,304 話者共起学習手段
105,305 話者モデル記憶手段
106,306 話者共起モデル記憶手段
303 話者分類手段
12,32 認識手段
107,307,606 セッションマッチング手段
51,51−1,51−2 音声データ解析用プログラム
52 データ処理装置
53 記憶装置
531 セッション音声データ記憶領域
532 セッション話者ラベル記憶領域
533 話者モデル記憶領域
534 話者共起モデル記憶領域
601 話者モデル導出手段
602 話者共起モデル導出手段
603 話者推定手段
604 話者モデル記憶手段
605 話者共起モデル記憶手段
606 話者認識手段

Claims (14)

  1. 話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから、話者ごとの音声の性質を規定するモデルである話者モデルを導出する話者モデル導出手段と、
    前記話者モデル導出手段が導出した話者モデルを用いて、前記音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから、前記話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおける前記クラスタの出現確率、前記クラスタ内での話者の出現確率および前記クラスタ内の前記一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを導出する話者共起モデル導出手段とを備える
    ことを特徴とする音声データ解析装置。
  2. 話者モデル導出手段または話者共起モデル導出手段に入力される音声データ内に話者ラベルが付与されていない発話が存在する場合に、少なくともその時点において導出されている話者モデルまたは話者共起モデルを参照して、前記話者ラベルが付与されていない発話について話者ラベルを推定する話者推定手段を備える
    請求項1に記載の音声データ解析装置。
  3. 話者モデル導出手段、話者共起モデル導出手段および話者推定手段が交互に反復動作する
    請求項2に記載の音声データ解析装置。
  4. 話者モデルが、話者ごとの音声特徴量の出現確率を規定する確率モデルである
    請求項1から請求項のうちのいずれか1項に記載の音声データ解析装置。
  5. 話者モデルが、ガウス混合モデルまたは隠れマルコフモデルであることを特徴とする
    請求項に記載の音声データ解析装置。
  6. 話者モデルおよび話者共起モデルが、前記音声データおよび話者ラベルに対する尤度最大化基準、事後確率最大化基準、ベイズ基準のいずれかの基準に基づいて、反復演算されることにより学習される
    請求項1から請求項のうちのいずれか1項に記載の音声データ解析装置。
  7. 前記話者モデル導出手段が導出した話者モデルと、前記話者共起モデル導出手段が導出した話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する話者認識手段を備えた
    請求項1から請求項のうちのいずれか1項に記載の音声データ解析装置。
  8. 話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから導出される、話者ごとの音声の性質を規定するモデルである話者モデルを記憶する話者モデル記憶手段と、
    前記音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから導出される、前記話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおける前記クラスタの出現確率、前記クラスタ内での話者の出現確率および前記クラスタ内の前記一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを記憶する話者共起モデル記憶手段と、
    前記話者モデルと前記話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する話者認識手段を備える
    ことを特徴とする音声データ解析装置。
  9. 話者認識手段は、各発話について、各話者に該当する確率を算出し、前記確率が最大となる話者を認識結果として選択する
    請求項または請求項に記載の音声データ解析装置。
  10. 話者認識手段は、確率が最大となる話者の確率が所定の閾値に達していない場合に、該当する話者なしと判定する
    請求項に記載の音声データ解析装置。
  11. 話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから、話者ごとの音声の性質を規定するモデルである話者モデルを導出する話者モデル導出ステップと、
    前記話者モデル導出ステップで導出される話者モデルを用いて、前記音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから、前記話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおける前記クラスタの出現確率、前記クラスタ内での話者の出現確率および前記クラスタ内の前記一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを導出する話者共起モデル導出ステップとを含む
    ことを特徴とする音声データ解析方法。
  12. 話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから導出される、話者ごとの音声の性質を規定するモデルである話者モデルと、前記音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから導出される、前記話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおける前記クラスタの出現確率、前記クラスタ内での話者の出現確率および前記クラスタ内の前記一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する話者認識ステップを含む
    ことを特徴とする音声データ解析方法。
  13. コンピュータに、
    話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから、話者ごとの音声の性質を規定するモデルである話者モデルを導出する話者モデル導出処理、および
    前記話者モデル導出処理で導出される話者モデルを用いて、前記音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから、前記話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおける前記クラスタの出現確率、前記クラスタ内での話者の出現確率および前記クラスタ内の前記一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルを導出する話者共起モデル導出処理
    を実行させるための音声データ解析用プログラム。
  14. コンピュータに、
    話者を識別する情報である話者ラベルが付与された複数の発話からなる音声データから導出される、話者ごとの音声の性質を規定するモデルである話者モデルと、前記音声データを人間的な関係性の強弱が現れうる一連の会話の単位で分割したセッションデータから導出される、前記話者間の共起関係を集約したモデルであって、共起関係の強い話者の集合であるクラスタの特徴を、マルコフネットワークにおける前記クラスタの出現確率、前記クラスタ内での話者の出現確率および前記クラスタ内の前記一連の会話における発話数に関係するパラメータを用いて規定する確率モデルである話者共起モデルとを用いて、指定された音声データに含まれる各発話について、話者モデルとの整合性および音声データ全体における共起関係の整合性を算出し、指定された音声データに含まれる各発話の話者がいずれの話者かを認識する話者認識処理
    を実行させるための音声データ解析用プログラム。
JP2011522695A 2009-07-16 2010-06-03 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム Active JP5704071B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011522695A JP5704071B2 (ja) 2009-07-16 2010-06-03 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2009168290 2009-07-16
JP2009168290 2009-07-16
PCT/JP2010/003701 WO2011007497A1 (ja) 2009-07-16 2010-06-03 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム
JP2011522695A JP5704071B2 (ja) 2009-07-16 2010-06-03 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム

Publications (2)

Publication Number Publication Date
JPWO2011007497A1 JPWO2011007497A1 (ja) 2012-12-20
JP5704071B2 true JP5704071B2 (ja) 2015-04-22

Family

ID=43449109

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011522695A Active JP5704071B2 (ja) 2009-07-16 2010-06-03 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム

Country Status (3)

Country Link
US (1) US8954327B2 (ja)
JP (1) JP5704071B2 (ja)
WO (1) WO2011007497A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI413106B (zh) * 2010-08-04 2013-10-21 Hon Hai Prec Ind Co Ltd 電子記錄裝置及方法
US9837078B2 (en) * 2012-11-09 2017-12-05 Mattersight Corporation Methods and apparatus for identifying fraudulent callers
US10068587B2 (en) * 2014-06-30 2018-09-04 Rajeev Conrad Nongpiur Learning algorithm to detect human presence in indoor environments from acoustic signals
JP6622165B2 (ja) * 2016-09-16 2019-12-18 株式会社東芝 対話ログ分析装置、対話ログ分析方法およびプログラム
US10474967B2 (en) * 2017-05-23 2019-11-12 International Business Machines Corporation Conversation utterance labeling
CN112738338B (zh) * 2020-12-25 2022-10-14 平安科技(深圳)有限公司 基于深度学习的电话识别方法、装置、设备及介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6393397B1 (en) * 1998-06-17 2002-05-21 Motorola, Inc. Cohort model selection apparatus and method
JP2005140988A (ja) * 2003-11-06 2005-06-02 Canon Inc 音声認識装置及び方法
JP2007140988A (ja) * 2005-11-18 2007-06-07 Cse:Kk 身分証明システム
WO2007105409A1 (ja) * 2006-02-27 2007-09-20 Nec Corporation 標準パタン適応装置、標準パタン適応方法および標準パタン適応プログラム
WO2008126627A1 (ja) * 2007-03-26 2008-10-23 Nec Corporation 音声分類装置、音声分類方法、および音声分類用プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6029124A (en) * 1997-02-21 2000-02-22 Dragon Systems, Inc. Sequential, nonparametric speech recognition and speaker identification
US6684186B2 (en) * 1999-01-26 2004-01-27 International Business Machines Corporation Speaker recognition using a hierarchical speaker model tree
US6253179B1 (en) * 1999-01-29 2001-06-26 International Business Machines Corporation Method and apparatus for multi-environment speaker verification
US6556969B1 (en) * 1999-09-30 2003-04-29 Conexant Systems, Inc. Low complexity speaker verification using simplified hidden markov models with universal cohort models and automatic score thresholding
JP3919475B2 (ja) 2001-07-10 2007-05-23 シャープ株式会社 話者特徴抽出装置および話者特徴抽出方法、音声認識装置、並びに、プログラム記録媒体
JP4556028B2 (ja) * 2005-11-04 2010-10-06 株式会社国際電気通信基礎技術研究所 発話主体同定装置及びコンピュータプログラム
JP5055781B2 (ja) 2006-02-14 2012-10-24 株式会社日立製作所 会話音声分析方法、及び、会話音声分析装置
US8554562B2 (en) * 2009-11-15 2013-10-08 Nuance Communications, Inc. Method and system for speaker diarization

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6393397B1 (en) * 1998-06-17 2002-05-21 Motorola, Inc. Cohort model selection apparatus and method
JP2005140988A (ja) * 2003-11-06 2005-06-02 Canon Inc 音声認識装置及び方法
JP2007140988A (ja) * 2005-11-18 2007-06-07 Cse:Kk 身分証明システム
WO2007105409A1 (ja) * 2006-02-27 2007-09-20 Nec Corporation 標準パタン適応装置、標準パタン適応方法および標準パタン適応プログラム
WO2008126627A1 (ja) * 2007-03-26 2008-10-23 Nec Corporation 音声分類装置、音声分類方法、および音声分類用プログラム

Also Published As

Publication number Publication date
US8954327B2 (en) 2015-02-10
US20120116763A1 (en) 2012-05-10
JPWO2011007497A1 (ja) 2012-12-20
WO2011007497A1 (ja) 2011-01-20

Similar Documents

Publication Publication Date Title
JP5644772B2 (ja) 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム
US11900947B2 (en) Method and system for automatically diarising a sound recording
WO2019154107A1 (zh) 基于记忆性瓶颈特征的声纹识别的方法及装置
JP3584458B2 (ja) パターン認識装置およびパターン認識方法
WO2017076211A1 (zh) 基于语音的角色分离方法及装置
Lee et al. Modeling mutual influence of interlocutor emotion states in dyadic spoken interactions.
Yella et al. Artificial neural network features for speaker diarization
JP5704071B2 (ja) 音声データ解析装置、音声データ解析方法及び音声データ解析用プログラム
CN112289323A (zh) 语音数据处理方法、装置、计算机设备和存储介质
CN111524527A (zh) 话者分离方法、装置、电子设备和存储介质
Imoto et al. Acoustic scene analysis based on hierarchical generative model of acoustic event sequence
Yeh et al. A dialogical emotion decoder for speech emotion recognition in spoken dialog
Agrawal et al. Prosodic feature based text dependent speaker recognition using machine learning algorithms
Wöllmer et al. Multi-stream LSTM-HMM decoding and histogram equalization for noise robust keyword spotting
JP2008146054A (ja) 話者の音声特徴情報を利用した話者情報獲得システム及びその方法
JP6784255B2 (ja) 音声処理装置、音声処理システム、音声処理方法、およびプログラム
Koolagudi et al. Recognition of emotions from speech using excitation source features
KR101023211B1 (ko) 마이크배열 기반 음성인식 시스템 및 그 시스템에서의 목표음성 추출 방법
JP2011191542A (ja) 音声分類装置、音声分類方法、及び音声分類用プログラム
KR20110071742A (ko) 단어별 신뢰도 문턱값에 기반한 발화 검증 장치 및 그 방법
Hassan et al. Emotions analysis of speech for call classification
Madhusudhana Rao et al. Machine hearing system for teleconference authentication with effective speech analysis
Dhole et al. An Overview of Speaker Recognition: Conceptual Framework and CNN based Identification Technique
US20240304205A1 (en) System and Method for Audio Processing using Time-Invariant Speaker Embeddings
Beigi et al. Speaker Modeling

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140703

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150127

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150209

R150 Certificate of patent or registration of utility model

Ref document number: 5704071

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150