JP7696331B2 - 話者識別方法、話者識別装置、及び話者識別プログラム - Google Patents

話者識別方法、話者識別装置、及び話者識別プログラム Download PDF

Info

Publication number
JP7696331B2
JP7696331B2 JP2022509394A JP2022509394A JP7696331B2 JP 7696331 B2 JP7696331 B2 JP 7696331B2 JP 2022509394 A JP2022509394 A JP 2022509394A JP 2022509394 A JP2022509394 A JP 2022509394A JP 7696331 B2 JP7696331 B2 JP 7696331B2
Authority
JP
Japan
Prior art keywords
voice data
speaker
similarity
identification model
gender
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022509394A
Other languages
English (en)
Other versions
JPWO2021192719A1 (ja
Inventor
光佑 板倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Publication of JPWO2021192719A1 publication Critical patent/JPWO2021192719A1/ja
Application granted granted Critical
Publication of JP7696331B2 publication Critical patent/JP7696331B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/26Recognition of special voice characteristics, e.g. for use in lie detectors; Recognition of animal voices
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/02Preprocessing operations, e.g. segment selection; Pattern representation or modelling, e.g. based on linear discriminant analysis [LDA] or principal components; Feature selection or extraction
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/06Decision making techniques; Pattern matching strategies
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本開示は、話者を識別する技術に関するものである。
従来、識別対象の話者の音声データを取得し、取得した音声データに基づいて識別対象の話者が予め登録されている話者であるか否かを識別する技術が知られている。従来の話者識別では、識別対象話者の音声データの特徴量と、登録話者の音声データの特徴量との類似度が算出され、算出された類似度が閾値以上であれば、識別対象話者と登録話者とが同一であると判定される。
例えば、非特許文献1では、話者識別のための高精度な特徴量として、i-vectorと呼ばれる話者固有の特徴量について開示されている。
また、例えば、非特許文献2では、i-vectorに代わる特徴量としてx-vectorが開示されている。x-vectorは、ディープラーニングにより生成されたディープニューラルネットワークに音声データが入力されることによって抽出される特徴量である。
しかしながら、上記従来の技術では、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させるために、更なる改善が必要とされていた。
Najim Dehak、Patrick Kenny、Reda Dehak、Pierre Dumouchel、Pierre Ouellet、「Front-End Factor Analysis For Speaker Verification」、IEEE Transactions on Audio,Speech and Language Processing、2011年 David Snyder、Daniel Garcia-Romero、Gregory Sell、Daniel Povery、Sanjeev Khudanpur、「X-Vectors:Robust DNN Embeddings for Speaker Recognition」、IEEE、ICASSP 2018年
本開示は、上記の問題を解決するためになされたもので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる技術を提供することを目的とするものである。
本開示の一態様に係る話者識別方法は、コンピュータが、識別対象音声データを取得し、予め登録されている登録音声データを取得し、前記識別対象音声データの特徴量を抽出し、前記登録音声データの特徴量を抽出し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別する。
本開示によれば、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
本開示の実施の形態1における話者識別システムの構成を示す図である。 本開示の実施の形態1における性別識別モデル生成装置の構成を示す図である。 本開示の実施の形態1における話者識別モデル生成装置の構成を示す図である。 本実施の形態1における話者識別装置の登録処理の動作について説明するためのフローチャートである。 図4のステップS3の性別識別処理の動作について説明するためのフローチャートである。 本実施の形態1における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートである。 本実施の形態1における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。 本実施の形態1における性別識別モデル生成装置の性別識別モデル生成処理の動作について説明するためのフローチャートである。 本実施の形態1における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートである。 本実施の形態1における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートである。 従来の話者識別装置の話者識別性能評価結果と、実施の形態1の話者識別装置の話者識別性能評価結果とを示す図である。 本実施の形態1の変形例1における性別識別処理の動作について説明するためのフローチャートである。 本実施の形態1の変形例2における性別識別処理の動作について説明するためのフローチャートである。 本開示の実施の形態2における話者識別システムの構成を示す図である。 本実施の形態2における話者識別装置の登録処理の動作について説明するためのフローチャートである。 本実施の形態2における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートである。 本実施の形態2における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。 本開示の実施の形態3における話者識別モデル生成装置の構成を示す図である。 本開示の実施の形態3における話者識別システムの構成を示す図である。 本実施の形態3における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートである。 本実施の形態3における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートである。 本実施の形態3における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第3のフローチャートである。 本実施の形態3における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートである。 本実施の形態3における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。 本開示の実施の形態4における話者識別システムの構成を示す図である。 本開示の実施の形態4における話者識別モデル生成装置の構成を示す図である。 本実施の形態4における話者識別装置の登録処理の動作について説明するためのフローチャートである。 本実施の形態4における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートである。 本実施の形態4における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。 本実施の形態4における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートである。 本実施の形態4における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートである。 本開示の実施の形態5における話者識別システムの構成を示す図である。 本実施の形態5における話者識別装置の登録処理の動作について説明するためのフローチャートである。 本実施の形態5における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートである。 本実施の形態5における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。 本開示の実施の形態6における話者識別モデル生成装置の構成を示す図である。 本開示の実施の形態6における話者識別システムの構成を示す図である。 本実施の形態6における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートである。 本実施の形態6における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートである。 本実施の形態6における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第3のフローチャートである。 本実施の形態6における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートであ 本実施の形態6における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。
(本開示の基礎となった知見)
男性と女性とでは、発話した音声データの特徴量の分布が異なる。しかしながら、従来の話者識別装置は、話者の性別に関係なく収集した音声データから生成された話者識別モデルを用いて、識別対象の音声データの話者を識別している。このように、従来技術では、男性の話者及び女性の話者のそれぞれに特化した話者識別については検討されていない。そのため、性別を考慮した話者識別が行われることにより、話者識別の精度が向上する可能性がある。
以上の課題を解決するために、本開示の一態様に係る話者識別方法は、コンピュータが、識別対象音声データを取得し、予め登録されている登録音声データを取得し、前記識別対象音声データの特徴量を抽出し、前記登録音声データの特徴量を抽出し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別する。
この構成によれば、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が男性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、男性用に生成された第1話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。また、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が女性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、女性用に生成された第2話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。
したがって、音声データの特徴量の分布が性別によって異なる場合であっても、それぞれの性別に特化した第1話者識別モデル及び第2話者識別モデルにより、識別対象音声データの話者が識別されるので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
また、上記の話者識別方法において、前記第1話者識別モデル又は前記第2話者識別モデルの選択において、前記登録音声データの前記話者の性別が男性である場合、前記第1話者識別モデルを選択し、前記登録音声データの前記話者の性別が女性である場合、前記第2話者識別モデルを選択してもよい。
この構成によれば、登録音声データの話者の性別に応じて、第1話者識別モデル及び第2話者識別モデルのいずれかが選択される。したがって、登録時において予め登録音声データの話者の性別が1回だけ識別されることにより、話者識別毎に識別対象音声データの性別を識別する必要がなくなり、話者識別の処理負荷を軽減することができる。
また、上記の話者識別方法において、さらに、登録対象音声データを取得し、さらに、前記登録対象音声データの特徴量を抽出し、さらに、前記登録対象音声データの前記特徴量を用いて前記登録対象音声データの話者の性別を識別し、さらに、識別した前記性別に対応付けた前記登録対象音声データを前記登録音声データとして登録してもよい。
この構成によれば、登録時において、性別に対応付けた登録音声データを予め登録することができ、話者識別時において、予め登録されている登録音声データに対応付けられている性別を用いて第1話者識別モデル及び第2話者識別モデルのいずれかを容易に選択することができる。
また、上記の話者識別方法において、前記性別の識別において、話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを取得し、前記登録対象音声データの前記特徴量を前記性別識別モデルに入力することにより、前記登録対象音声データの前記話者の性別を識別してもよい。
この構成によれば、話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルに登録対象音声データが入力されるだけで、登録対象音声データの話者の性別を容易に識別することができる。
また、上記の話者識別方法において、前記性別の識別において、前記登録対象音声データの前記特徴量と、予め記憶されている男性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記男性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、取得した複数の類似度の平均を平均男性類似度として算出し、前記登録対象音声データの前記特徴量と、予め記憶されている女性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記女性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、取得した複数の類似度の平均を平均女性類似度として算出し、前記平均男性類似度が前記平均女性類似度より高い場合、前記登録対象音声データの前記話者の性別を男性と識別し、前記平均男性類似度が前記平均女性類似度より低い場合、前記登録対象音声データの前記話者の性別を女性と識別してもよい。
この構成によれば、登録対象音声データの話者が男性である場合、登録対象音声データの特徴量と複数の男性の音声データの特徴量との平均類似度は、登録対象音声データの特徴量と複数の女性の音声データの特徴量との平均類似度よりも高くなる。また、登録対象音声データの話者が女性である場合、登録対象音声データの特徴量と複数の女性の音声データの特徴量との平均類似度は、登録対象音声データの特徴量と複数の男性の音声データの特徴量との平均類似度よりも高くなる。そのため、登録対象音声データの特徴量と複数の男性の音声データの特徴量との平均類似度と、登録対象音声データの特徴量と複数の女性の音声データの特徴量との平均類似度とが比較されることにより、登録対象音声データの話者の性別を容易に識別することができる。
また、上記の話者識別方法において、前記性別の識別において、前記登録対象音声データの前記特徴量と、予め記憶されている男性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記男性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、取得した複数の類似度のうちの最大値を最大男性類似度として算出し、前記登録対象音声データの前記特徴量と、予め記憶されている女性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記女性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、取得した複数の類似度のうちの最大値を最大女性類似度として算出し、前記最大男性類似度が前記最大女性類似度より高い場合、前記登録対象音声データの前記話者の性別を男性と識別し、前記最大男性類似度が前記最大女性類似度より低い場合、前記登録対象音声データの前記話者の性別を女性と識別してもよい。
この構成によれば、登録対象音声データの話者が男性である場合、登録対象音声データの特徴量と複数の男性の音声データの特徴量との複数の類似度のうちの最大類似度は、登録対象音声データの特徴量と複数の女性の音声データの特徴量との複数の類似度のうちの最大類似度よりも高くなる。また、登録対象音声データの話者が女性である場合、登録対象音声データの特徴量と複数の女性の音声データの特徴量との複数の類似度のうちの最大類似度は、登録対象音声データの特徴量と複数の男性の音声データの特徴量との複数の類似度のうちの最大類似度よりも高くなる。そのため、登録対象音声データの特徴量と複数の男性の音声データの特徴量との複数の類似度のうちの最大類似度と、登録対象音声データの特徴量と複数の女性の音声データの特徴量との複数の類似度のうちの最大類似度とが比較されることにより、登録対象音声データの話者の性別を容易に識別することができる。
また、上記の話者識別方法において、前記性別の識別において、予め記憶されている男性の複数の音声データの平均特徴量を算出し、前記登録対象音声データの前記特徴量と男性の複数の音声データの前記平均特徴量とを前記性別識別モデルに入力することにより、前記登録対象音声データと男性の音声データ群との第1類似度を前記性別識別モデルから取得し、予め記憶されている女性の複数の音声データの平均特徴量を算出し、前記登録対象音声データの前記特徴量と女性の複数の音声データの前記平均特徴量とを前記性別識別モデルに入力することにより、前記登録対象音声データと女性の音声データ群との第2類似度を前記性別識別モデルから取得し、前記第1類似度が前記第2類似度より高い場合、前記登録対象音声データの前記話者の性別を男性と識別し、前記第1類似度が前記第2類似度より低い場合、前記登録対象音声データの前記話者の性別を女性と識別してもよい。
この構成によれば、登録対象音声データの話者が男性である場合、登録対象音声データの特徴量と複数の男性の音声データの平均特徴量との第1類似度は、登録対象音声データの特徴量と複数の女性の音声データの平均特徴量との第2類似度よりも高くなる。また、登録対象音声データの話者が女性である場合、登録対象音声データの特徴量と複数の女性の音声データの平均特徴量との第2類似度は、登録対象音声データの特徴量と複数の男性の音声データの平均特徴量との第1類似度よりも高くなる。そのため、登録対象音声データの特徴量と複数の男性の音声データの平均特徴量との第1類似度と、登録対象音声データの特徴量と複数の女性の音声データの平均特徴量との第2類似度とが比較されることにより、登録対象音声データの話者の性別を容易に識別することができる。
また、上記の話者識別方法において、前記登録音声データは、複数の登録音声データを含み、前記話者の識別において、前記識別対象音声データの前記特徴量と前記複数の登録音声データの前記特徴量それぞれとを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データと前記複数の登録音声データそれぞれとの類似度を前記第1話者識別モデル及び前記第2話者識別モデルのいずれかから取得し、取得した類似度が最も高い前記登録音声データの話者を前記識別対象音声データの話者として識別してもよい。
この構成によれば、第1話者識別モデル及び第2話者識別モデルのいずれかから、識別対象音声データと複数の登録音声データそれぞれとの類似度が取得され、類似度が最も高い登録音声データの話者が識別対象音声データの話者として識別される。そのため、複数の登録音声データの中から、最も類似する登録音声データの話者を識別対象音声データの話者として識別することができる。
また、上記の話者識別方法において、前記登録音声データは、複数の登録音声データを含み、前記複数の登録音声データは、前記複数の登録音声データそれぞれの話者を識別するための識別情報と対応付けられており、さらに、前記識別対象音声データの話者を識別するための識別情報を取得し、前記登録音声データの取得において、前記複数の登録音声データの中から、取得した前記識別情報と一致する識別情報が対応付けられている登録音声データを取得し、前記話者の識別において、前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データと前記登録音声データとの類似度を前記第1話者識別モデル及び前記第2話者識別モデルのいずれかから取得し、取得した前記類似度が閾値よりも高い場合、前記登録音声データの話者を前記識別対象音声データの話者として識別してもよい。
この構成によれば、複数の登録音声データの中から、識別対象音声データの話者を識別するための識別情報と一致する識別情報が対応付けられている1の登録音声データが取得される。そのため、複数の登録音声データのうちの全ての登録音声データの特徴量と識別対象音声データの特徴量との類似度を算出する必要がなく、複数の登録音声データのうちの1の登録音声データの特徴量と識別対象音声データの特徴量との類似度を算出すればよいので、話者識別の処理負荷を低減することができる。
また、上記の話者識別方法において、機械学習時に、男性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせが前記第1話者識別モデルに入力されることにより、前記2つの音声データの複数の組み合わせそれぞれの類似度が前記第1話者識別モデルから取得され、同一話者の前記2つの音声データの前記類似度と、互いに異なる話者の前記2つの音声データの前記類似度とを識別可能な第1閾値が算出され、機械学習時に、女性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせが前記第2話者識別モデルに入力されることにより、前記2つの音声データの複数の組み合わせそれぞれの類似度が前記第2話者識別モデルから取得され、同一話者の前記2つの音声データの前記類似度と、互いに異なる話者の前記2つの音声データの前記類似度とを識別可能な第2閾値が算出され、前記話者の識別において、前記第1話者識別モデルから前記類似度を取得した場合、取得した前記類似度から前記第1閾値を減算し、前記第2話者識別モデルから前記類似度を取得した場合、取得した前記類似度から前記第2閾値を減算してもよい。
2つの異なる第1話者識別モデルと第2話者識別モデルとが用いられる場合、第1話者識別モデルと第2話者識別モデルとの出力値の範囲が異なるおそれがある。そこで、登録時において、第1話者識別モデル及び第2話者識別モデルのそれぞれに対し、同一の話者を識別することが可能な第1閾値及び第2閾値が算出される。また、話者識別時において、算出された識別対象音声データと登録音声データとの類似度から第1閾値又は第2閾値が減算されることにより類似度が補正される。そして、補正された類似度が第1話者識別モデル及び第2話者識別モデルに共通の閾値と比較されることにより、識別対象音声データの話者をより高い精度で識別することができる。
本開示の他の態様に係る話者識別装置は、識別対象音声データを取得する識別対象音声データ取得部と、予め登録されている登録音声データを取得する登録音声データ取得部と、前記識別対象音声データの特徴量を抽出する第1抽出部と、前記登録音声データの特徴量を抽出する第2抽出部と、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択する話者識別モデル選択部と、前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別する話者識別部と、を備える。
この構成によれば、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が男性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、男性用に生成された第1話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。また、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が女性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、女性用に生成された第2話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。
したがって、音声データの特徴量の分布が性別によって異なる場合であっても、それぞれの性別に特化した第1話者識別モデル及び第2話者識別モデルにより、識別対象音声データの話者が識別されるので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
本開示の他の態様に係る話者識別プログラムは、識別対象音声データを取得し、予め登録されている登録音声データを取得し、前記識別対象音声データの特徴量を抽出し、前記登録音声データの特徴量を抽出し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別するようにコンピュータを機能させる。
この構成によれば、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が男性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、男性用に生成された第1話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。また、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が女性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、女性用に生成された第2話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。
したがって、音声データの特徴量の分布が性別によって異なる場合であっても、それぞれの性別に特化した第1話者識別モデル及び第2話者識別モデルにより、識別対象音声データの話者が識別されるので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
本開示の他の態様に係る性別識別モデル生成方法は、コンピュータが、男性及び女性のいずれかを示す性別ラベルが付与された複数の音声データを取得し、前記複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、前記第1音声データ及び前記第2音声データの各性別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を前記2つの音声データの類似度とする性別識別モデルを機械学習により生成する。
この構成によれば、機械学習により生成された性別識別モデルに、登録音声データ又は識別対象音声データの特徴量と、男性の音声データの特徴量とが入力されることにより、2つの音声データの第1類似度が出力される。また、性別識別モデルに、登録音声データ又は識別対象音声データの特徴量と、女性の音声データの特徴量とが入力されることにより、2つの音声データの第2類似度が出力される。そして、第1類似度と第2類似度とが比較されることにより、登録音声データ又は識別対象音声データの話者の性別を容易に推定することができる。
本開示の他の態様に係る話者識別モデル生成方法は、コンピュータが、男性である話者を識別するための話者識別ラベルが付与された複数の男性音声データを取得し、前記複数の男性音声データのうちの第1男性音声データ及び第2男性音声データの各特徴量と、前記第1男性音声データ及び前記第2男性音声データの各話者識別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を前記2つの音声データの類似度とする第1話者識別モデルを機械学習により生成し、女性である話者を識別するための話者識別ラベルが付与された複数の女性音声データを取得し、前記複数の女性音声データのうちの第1女性音声データ及び第2女性音声データの各特徴量と、前記第1女性音声データ及び前記第2女性音声データの各話者識別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を前記2つの音声データの類似度とする第2話者識別モデルを機械学習により生成する。
この構成によれば、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が男性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、男性用に生成された第1話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。また、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が女性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、女性用に生成された第2話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。
したがって、音声データの特徴量の分布が性別によって異なる場合であっても、男性に特化した第1話者識別モデル及び女性に特化した第2話者識別モデルにより、識別対象音声データの話者が識別されるので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
以下添付図面を参照しながら、本開示の実施の形態について説明する。なお、以下の実施の形態は、本開示を具体化した一例であって、本開示の技術的範囲を限定するものではない。
(実施の形態1)
図1は、本開示の実施の形態1における話者識別システムの構成を示す図である。
図1に示す話者識別システムは、マイクロホン1及び話者識別装置2を備える。なお、話者識別装置2は、マイクロホン1を備えていなくてもよいし、備えてもよい。
マイクロホン1は、話者が発話した音声を収音し、音声データに変換し、話者識別装置2へ出力する。マイクロホン1は、音声データを予め登録する際に、話者が発話した登録対象音声データを話者識別装置2へ出力する。また、マイクロホン1は、話者を識別する際に、話者が発話した識別対象音声データを話者識別装置2へ出力する。
話者識別装置2は、登録対象音声データ取得部201、特徴量抽出部202、性別識別モデル記憶部203、性別識別用音声データ記憶部204、性別識別部205、登録部206、識別対象音声データ取得部211、登録音声データ記憶部212、登録音声データ取得部213、特徴量抽出部214、特徴量抽出部215、話者識別モデル記憶部216、モデル選択部217、話者識別部218及び識別結果出力部219を備える。
登録対象音声データ取得部201、特徴量抽出部202、性別識別部205、登録部206、識別対象音声データ取得部211、登録音声データ取得部213、特徴量抽出部214、特徴量抽出部215、モデル選択部217、話者識別部218及び識別結果出力部219は、プロセッサにより実現される。プロセッサは、例えば、CPU(中央演算処理装置)などから構成される。
性別識別モデル記憶部203、性別識別用音声データ記憶部204、登録音声データ記憶部212及び話者識別モデル記憶部216は、メモリにより実現される。メモリは、例えば、ROM(Read Only Memory)又はEEPROM(Electrically Erasable Programmable Read Only Memory)などから構成される。
なお、話者識別装置2は、例えば、コンピュータ、スマートフォン、タブレット型コンピュータ又はサーバであってもよい。
登録対象音声データ取得部201は、マイクロホン1から出力された登録対象音声データを取得する。
特徴量抽出部202は、登録対象音声データ取得部201によって取得された登録対象音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。i-vectorは、GMM(Gaussian Mixture Model)スーパーベクトルに因子分析を用いることで音声データから抽出される低次元ベクトルの特徴量である。なお、i-vectorの抽出方法については従来技術であるため、詳細な説明は省略する。また、特徴量は、i-vectorに限定されず、例えばx-vectorなどの他の特徴量であってもよい。
性別識別モデル記憶部203は、話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを予め記憶する。なお、性別識別モデルの生成方法については後述する。
性別識別用音声データ記憶部204は、登録対象音声データの話者の性別を識別するために用いる性別識別用音声データの特徴量を予め記憶する。性別識別用音声データは、男性の複数の音声データと、女性の複数の音声データとを含む。なお、性別識別用音声データ記憶部204は、性別識別用音声データの特徴量を予め記憶しているが、本開示は特にこれに限定されず、性別識別用音声データを予め記憶してもよい。この場合、話者識別装置2は、性別識別用音声データの特徴量を抽出する特徴量抽出部を備える。
性別識別部205は、特徴量抽出部202によって抽出された登録対象音声データの特徴量を用いて登録対象音声データの話者の性別を識別する。性別識別部205は、話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを性別識別モデル記憶部203から取得する。性別識別部205は、登録対象音声データの特徴量を性別識別モデルに入力することにより、登録対象音声データの話者の性別を識別する。
性別識別部205は、登録対象音声データの特徴量と、性別識別用音声データ記憶部204に予め記憶されている男性の複数の音声データの特徴量それぞれとを性別識別モデルに入力することにより、登録対象音声データと男性の複数の音声データそれぞれとの類似度を性別識別モデルから取得する。そして、性別識別部205は、取得した複数の類似度の平均を平均男性類似度として算出する。
また、性別識別部205は、登録対象音声データの特徴量と、性別識別用音声データ記憶部204に予め記憶されている女性の複数の音声データの特徴量それぞれとを性別識別モデルに入力することにより、登録対象音声データと女性の複数の音声データそれぞれとの類似度を性別識別モデルから取得する。そして、性別識別部205は、取得した複数の類似度の平均を平均女性類似度として算出する。
性別識別部205は、平均男性類似度が平均女性類似度より高い場合、登録対象音声データの話者の性別を男性と識別する。一方、性別識別部205は、平均男性類似度が平均女性類似度より低い場合、登録対象音声データの話者の性別を女性と識別する。なお、性別識別部205は、平均男性類似度が平均女性類似度と同じである場合、登録対象音声データの話者の性別を男性と識別してもよいし、登録対象音声データの話者の性別を女性と識別してもよい。
登録部206は、性別識別部205によって識別された性別情報を対応付けた登録対象音声データを登録音声データとして登録する。登録部206は、登録音声データを登録音声データ記憶部212に登録する。
なお、話者識別装置2は、登録対象音声データの話者に関する情報の入力を受け付ける入力受付部をさらに備えてもよい。そして、登録部206は、話者に関する情報に対応付けて登録音声データを登録音声データ記憶部212に登録してもよい。話者に関する情報は、例えば、話者の名前などである。
識別対象音声データ取得部211は、マイクロホン1から出力された識別対象音声データを取得する。
登録音声データ記憶部212は、性別情報が対応付けられた登録音声データを記憶する。登録音声データ記憶部212は、複数の登録音声データを記憶する。
登録音声データ取得部213は、登録音声データ記憶部212に登録されている登録音声データを取得する。
特徴量抽出部214は、識別対象音声データ取得部211によって取得された識別対象音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。
特徴量抽出部215は、登録音声データ取得部213によって取得された登録音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。
話者識別モデル記憶部216は、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルと、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルとを予め記憶する。話者識別モデル記憶部216は、後述する話者識別モデル生成装置4によって生成された第1話者識別モデル及び第2話者識別モデルを予め記憶する。なお、第1話者識別モデル及び第2話者識別モデルの生成方法については後述する。
モデル選択部217は、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択する。また、モデル選択部217は、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択する。
本実施の形態1において、モデル選択部217は、登録音声データの話者の性別が男性である場合、第1話者識別モデルを選択し、登録音声データの話者の性別が女性である場合、第2話者識別モデルを選択する。登録音声データには、予め性別が対応付けられている。そのため、モデル選択部217は、登録音声データに対応付けられている性別が男性である場合、第1話者識別モデルを選択し、登録音声データに対応付けられている性別が女性である場合、第2話者識別モデルを選択する。
話者識別部218は、識別対象音声データの特徴量と登録音声データの特徴量とを、モデル選択部217によって選択された第1話者識別モデル及び第2話者識別モデルのいずれかに入力することにより、識別対象音声データの話者を識別する。
話者識別部218は、類似度算出部231及び類似度判定部232を備える。
類似度算出部231は、識別対象音声データの特徴量と複数の登録音声データの特徴量それぞれとを、選択された第1話者識別モデル及び第2話者識別モデルのいずれかに入力することにより、識別対象音声データと複数の登録音声データそれぞれとの類似度を第1話者識別モデル及び第2話者識別モデルのいずれかから取得する。
類似度判定部232は、取得した類似度が最も高い登録音声データの話者を識別対象音声データの話者として識別する。
なお、類似度判定部232は、最も高い類似度が閾値より大きいか否かを判定してもよい。識別対象音声データの話者と同じ話者の登録音声データが登録音声データ記憶部212に存在しない場合であっても、識別対象音声データと各登録音声データとの類似度は算出される。そのため、類似度が最も高い登録音声データであっても、当該登録音声データの話者が、識別対象音声データの話者と同じであるとは限らない。そこで、最も高い類似度が閾値より大きいか否かが判定されることにより、確実に話者を識別することができる。
識別結果出力部219は、話者識別部218による識別結果を出力する。識別結果出力部219は、例えばディスプレイ又はスピーカであり、識別対象音声データの話者が識別された場合、識別対象音声データの話者が予め登録されている話者であることを示すメッセージをディスプレイ又はスピーカに出力する。一方、識別結果出力部219は、識別対象音声データの話者が識別されなかった場合、識別対象音声データの話者が予め登録されている話者ではないことを示すメッセージをディスプレイ又はスピーカに出力する。識別結果出力部219は、話者識別部218による識別結果を、話者識別装置2以外の他の装置へ出力してもよい。
続いて、本開示の実施の形態1における性別識別モデル生成装置について説明する。
図2は、本開示の実施の形態1における性別識別モデル生成装置の構成を示す図である。
図2に示す性別識別モデル生成装置3は、性別識別用音声データ記憶部301、性別識別用音声データ取得部302、特徴量抽出部303、性別識別モデル生成部304及び性別識別モデル記憶部305を備える。
性別識別用音声データ取得部302、特徴量抽出部303及び性別識別モデル生成部304は、プロセッサにより実現される。性別識別用音声データ記憶部301及び性別識別モデル記憶部305は、メモリにより実現される。
性別識別用音声データ記憶部301は、男性及び女性のいずれかを示す性別ラベルが付与された複数の音声データを予め記憶する。性別識別用音声データ記憶部301は、複数の話者毎に互いに異なる複数の音声データを記憶する。
性別識別用音声データ取得部302は、男性及び女性のいずれかを示す性別ラベルが付与された複数の音声データを性別識別用音声データ記憶部301から取得する。なお、本実施の形態1では、性別識別用音声データ取得部302は、複数の音声データを性別識別用音声データ記憶部301から取得しているが、本開示は特にこれに限定されず、ネットワークを介して外部機器から複数の音声データを取得(受信)してもよい。
特徴量抽出部303は、性別識別用音声データ取得部302によって取得された複数の音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。
性別識別モデル生成部304は、複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各性別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする性別識別モデルを機械学習により生成する。例えば、性別識別モデルは、第1音声データの性別ラベルと第2音声データの性別ラベルとが同じであれば、最も高い類似度が出力され、第1音声データの性別ラベルと第2音声データの性別ラベルとが異なっていれば、最も低い類似度が出力されるように機械学習される。
性別識別モデルとしては、確率的線形判別分析(Probabilistic Linear Discriminant Analysis:PLDA)によるモデルが用いられる。PLDAモデルは、400次元のi-vector特徴量から話者の識別に有効な特徴量を自動的に選択し、対数尤度比を類似度として算出する。
なお、機械学習としては、例えば、入力情報に対してラベル(出力情報)が付与された教師データを用いて入力と出力との関係を学習する教師あり学習、ラベルのない入力のみからデータの構造を構築する教師なし学習、ラベルありとラベルなしとのどちらも扱う半教師あり学習、報酬を最大化する行動を試行錯誤により学習する強化学習なども挙げられる。また、機械学習の具体的な手法としては、ニューラルネットワーク(多層のニューラルネットワークを用いた深層学習を含む)、遺伝的プログラミング、決定木、ベイジアン・ネットワーク、又はサポート・ベクター・マシン(SVM)などが存在する。性別識別モデルの機械学習においては、以上で挙げた具体例のいずれかを用いればよい。
性別識別モデル記憶部305は、性別識別モデル生成部304によって生成された性別識別モデルを記憶する。
なお、性別識別モデル生成装置3は、性別識別モデル記憶部305に記憶された性別識別モデルを話者識別装置2へ送信してもよい。話者識別装置2は、受信した性別識別モデルを性別識別モデル記憶部203に記憶してもよい。また、話者識別装置2の製造時において、性別識別モデル生成装置3によって生成された性別識別モデルが話者識別装置2に記憶されてもよい。
また、本実施の形態1の性別識別モデル生成装置3においては、複数の音声データには、男性及び女性のいずれかを示す性別ラベルが付与されているが、本開示は特にこれに限定されず、話者を識別するための識別情報がラベルとして付与されてもよい。この場合、性別識別モデル生成部304は、複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各識別情報の類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする性別識別モデルを機械学習により生成する。例えば、性別識別モデルは、第1音声データの識別情報と第2音声データの識別情報とが同じであれば、最も高い類似度が出力され、第1音声データの識別情報と第2音声データの識別情報とが異なっていれば、最も低い類似度が出力されるように機械学習される。
続いて、本開示の実施の形態1における話者識別モデル生成装置について説明する。
図3は、本開示の実施の形態1における話者識別モデル生成装置の構成を示す図である。
図3に示す話者識別モデル生成装置4は、男性音声データ記憶部401、男性音声データ取得部402、特徴量抽出部403、第1話者識別モデル生成部404、第1話者識別モデル記憶部405、女性音声データ記憶部411、女性音声データ取得部412、特徴量抽出部413、第2話者識別モデル生成部414及び第2話者識別モデル記憶部415を備える。
男性音声データ取得部402、特徴量抽出部403、第1話者識別モデル生成部404、女性音声データ取得部412、特徴量抽出部413及び第2話者識別モデル生成部414は、プロセッサにより実現される。男性音声データ記憶部401、第1話者識別モデル記憶部405、女性音声データ記憶部411及び第2話者識別モデル記憶部415は、メモリにより実現される。
男性音声データ記憶部401は、男性である話者を識別するための話者識別ラベルが付与された複数の男性音声データを記憶する。男性音声データ記憶部401は、複数の話者毎に互いに異なる複数の男性音声データを記憶する。
男性音声データ取得部402は、男性である話者を識別するための話者識別ラベルが付与された複数の男性音声データを男性音声データ記憶部401から取得する。なお、本実施の形態1では、男性音声データ取得部402は、複数の男性音声データを男性音声データ記憶部401から取得しているが、本開示は特にこれに限定されず、ネットワークを介して外部機器から複数の男性音声データを取得(受信)してもよい。
特徴量抽出部403は、男性音声データ取得部402によって取得された複数の男性音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。
第1話者識別モデル生成部404は、複数の男性音声データのうちの第1男性音声データ及び第2男性音声データの各特徴量と、第1男性音声データ及び第2男性音声データの各話者識別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第1話者識別モデルを機械学習により生成する。例えば、第1話者識別モデルは、第1男性音声データの話者識別ラベルと第2男性音声データの話者識別ラベルとが同じであれば、最も高い類似度が出力され、第1男性音声データの話者識別ラベルと第2男性音声データの話者識別ラベルとが異なっていれば、最も低い類似度が出力されるように機械学習される。
第1話者識別モデルとしては、PLDAによるモデルが用いられる。PLDAモデルは、400次元のi-vector(特徴量)から話者の識別に有効な特徴量を自動的に選択し、対数尤度比を類似度として算出する。
なお、機械学習としては、例えば、入力情報に対してラベル(出力情報)が付与された教師データを用いて入力と出力との関係を学習する教師あり学習、ラベルのない入力のみからデータの構造を構築する教師なし学習、ラベルありとラベルなしとのどちらも扱う半教師あり学習、報酬を最大化する行動を試行錯誤により学習する強化学習なども挙げられる。また、機械学習の具体的な手法としては、ニューラルネットワーク(多層のニューラルネットワークを用いた深層学習を含む)、遺伝的プログラミング、決定木、ベイジアン・ネットワーク、又はサポート・ベクター・マシン(SVM)などが存在する。第1話者識別モデルの機械学習においては、以上で挙げた具体例のいずれかを用いればよい。
第1話者識別モデル記憶部405は、第1話者識別モデル生成部404によって生成された第1話者識別モデルを記憶する。
女性音声データ記憶部411は、女性である話者を識別するための話者識別ラベルが付与された複数の女性音声データを記憶する。女性音声データ記憶部411は、複数の話者毎に互いに異なる複数の女性音声データを記憶する。
女性音声データ取得部412は、女性である話者を識別するための話者識別ラベルが付与された複数の女性音声データを女性音声データ記憶部411から取得する。なお、本実施の形態1では、女性音声データ取得部412は、複数の女性音声データを女性音声データ記憶部411から取得しているが、本開示は特にこれに限定されず、ネットワークを介して外部機器から複数の女性音声データを取得(受信)してもよい。
特徴量抽出部413は、女性音声データ取得部412によって取得された複数の女性音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。
第2話者識別モデル生成部414は、複数の女性音声データのうちの第1女性音声データ及び第2女性音声データの各特徴量と、第1女性音声データ及び第2女性音声データの各話者識別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第2話者識別モデルを機械学習により生成する。例えば、第2話者識別モデルは、第1女性音声データの話者識別ラベルと第2女性音声データの話者識別ラベルとが同じであれば、最も高い類似度が出力され、第1女性音声データの話者識別ラベルと第2女性音声データの話者識別ラベルとが異なっていれば、最も低い類似度が出力されるように機械学習される。
第2話者識別モデルとしては、PLDAによるモデルが用いられる。PLDAモデルは、400次元のi-vector(特徴量)から話者の識別に有効な特徴量を自動的に選択し、対数尤度比を類似度として算出する。
なお、機械学習としては、例えば、入力情報に対してラベル(出力情報)が付与された教師データを用いて入力と出力との関係を学習する教師あり学習、ラベルのない入力のみからデータの構造を構築する教師なし学習、ラベルありとラベルなしとのどちらも扱う半教師あり学習、報酬を最大化する行動を試行錯誤により学習する強化学習なども挙げられる。また、機械学習の具体的な手法としては、ニューラルネットワーク(多層のニューラルネットワークを用いた深層学習を含む)、遺伝的プログラミング、決定木、ベイジアン・ネットワーク、又はサポート・ベクター・マシン(SVM)などが存在する。第2話者識別モデルの機械学習においては、以上で挙げた具体例のいずれかを用いればよい。
第2話者識別モデル記憶部415は、第2話者識別モデル生成部414によって生成された第2話者識別モデルを記憶する。
なお、話者識別モデル生成装置4は、第1話者識別モデル記憶部405に記憶された第1話者識別モデル及び第2話者識別モデル記憶部415に記憶された第2話者識別モデルを話者識別装置2へ送信してもよい。話者識別装置2は、受信した第1話者識別モデル及び第2話者識別モデルを話者識別モデル記憶部216に記憶してもよい。また、話者識別装置2の製造時において、話者識別モデル生成装置4によって生成された第1話者識別モデル及び第2話者識別モデルが話者識別装置2に記憶されてもよい。
続いて、本実施の形態1における話者識別装置2の登録処理及び話者識別処理のそれぞれの動作について説明する。
図4は、本実施の形態1における話者識別装置の登録処理の動作について説明するためのフローチャートである。
まず、ステップS1において、登録対象音声データ取得部201は、マイクロホン1から出力された登録対象音声データを取得する。自身が発話した音声データの登録を希望する話者は、マイクロホン1に向かって所定の文章を発話する。このとき、登録対象音声データの文章は、識別対象音声データの文章よりも長いことが好ましい。文字数が比較的多い登録対象音声データが取得されることにより、話者識別の精度を向上させることができる。また、話者識別装置2は、予め決められている複数の文章を登録対象話者に提示してもよい。この場合、登録対象話者は、提示された複数の文章を発話する。
次に、ステップS2において、特徴量抽出部202は、登録対象音声データ取得部201によって取得された登録対象音声データの特徴量を抽出する。
次に、ステップS3において、性別識別部205は、特徴量抽出部202によって抽出された登録対象音声データの特徴量を用いて登録対象音声データの話者の性別を識別する性別識別処理を行う。なお、性別識別処理については後述する。
次に、ステップS4において、登録部206は、性別識別部205によって識別された性別情報を対応付けた登録対象音声データを登録音声データとして登録音声データ記憶部212に記憶する。
図5は、図4のステップS3の性別識別処理の動作について説明するためのフローチャートである。
まず、ステップS11において、性別識別部205は、性別識別モデルを性別識別モデル記憶部203から取得する。性別識別モデルは、複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各性別ラベルの類似度とを教師データとして用いて機械学習された性別識別モデルである。なお、性別識別モデルは、複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各識別情報の類似度とを教師データとして用いて機械学習された性別識別モデルであってもよい。
次に、ステップS12において、性別識別部205は、男性音声データの特徴量を性別識別用音声データ記憶部204から取得する。
次に、ステップS13において、性別識別部205は、登録対象音声データの特徴量と、男性音声データの特徴量とを性別識別モデルに入力することにより、登録対象音声データと男性音声データとの類似度を算出する。
次に、ステップS14において、性別識別部205は、登録対象音声データと全ての男性音声データとの類似度が算出されたか否かを判定する。ここで、登録対象音声データと全ての男性音声データとの類似度が算出されていないと判定された場合(ステップS14でNO)、ステップS12に処理が戻る。そして、性別識別部205は、複数の男性音声データの特徴量の中から、類似度を算出していない男性音声データの特徴量を性別識別用音声データ記憶部204から取得する。
一方、登録対象音声データと全ての男性音声データとの類似度が算出されたと判定された場合(ステップS14でYES)、ステップS15において、性別識別部205は、算出した複数の類似度の平均を平均男性類似度として算出する。
次に、ステップS16において、性別識別部205は、女性音声データの特徴量を性別識別用音声データ記憶部204から取得する。
次に、ステップS17において、性別識別部205は、登録対象音声データの特徴量と、女性音声データの特徴量とを性別識別モデルに入力することにより、登録対象音声データと女性音声データとの類似度を算出する。
次に、ステップS18において、性別識別部205は、登録対象音声データと全ての女性音声データとの類似度が算出されたか否かを判定する。ここで、登録対象音声データと全ての女性音声データとの類似度が算出されていないと判定された場合(ステップS18でNO)、ステップS16に処理が戻る。そして、性別識別部205は、複数の女性音声データの特徴量の中から、類似度を算出していない女性音声データの特徴量を性別識別用音声データ記憶部204から取得する。
一方、登録対象音声データと全ての女性音声データとの類似度が算出されたと判定された場合(ステップS18でYES)、ステップS19において、性別識別部205は、算出した複数の類似度の平均を平均女性類似度として算出する。
次に、ステップS20において、性別識別部205は、平均男性類似度と平均女性類似度とのうちの高い方の性別を識別結果として登録部206へ出力する。
図6は、本実施の形態1における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートであり、図7は、本実施の形態1における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。
まず、ステップS31において、識別対象音声データ取得部211は、マイクロホン1から出力された識別対象音声データを取得する。識別対象話者は、マイクロホン1に向かって発話する。マイクロホン1は、識別対象話者によって発話された音声を収集し、識別対象音声データを出力する。
次に、ステップS32において、特徴量抽出部214は、識別対象音声データ取得部211によって取得された識別対象音声データの特徴量を抽出する。
次に、ステップS33において、登録音声データ取得部213は、登録音声データを登録音声データ記憶部212から取得する。このとき、登録音声データ取得部213は、登録音声データ記憶部212に登録されている複数の登録音声データの中から、1の登録音声データを取得する。
次に、ステップS34において、特徴量抽出部215は、登録音声データ取得部213によって取得された登録音声データの特徴量を抽出する。
次に、ステップS35において、モデル選択部217は、登録音声データ取得部213によって取得された登録音声データに対応付けられている性別を取得する。
次に、ステップS36において、モデル選択部217は、取得した性別が男性であるか否かを判定する。ここで、取得した性別が男性であると判定された場合(ステップS36でYES)、ステップS37において、モデル選択部217は、第1話者識別モデルを選択する。モデル選択部217は、選択した第1話者識別モデルを話者識別モデル記憶部216から取得し、取得した第1話者識別モデルを類似度算出部231へ出力する。
一方、取得した性別が男性ではないと判定された場合、すなわち取得した性別が女性であると判定された場合(ステップS36でNO)、ステップS38において、モデル選択部217は、第2話者識別モデルを選択する。モデル選択部217は、選択した第2話者識別モデルを話者識別モデル記憶部216から取得し、取得した第2話者識別モデルを類似度算出部231へ出力する。
次に、ステップS39において、類似度算出部231は、識別対象音声データの特徴量と登録音声データの特徴量とを、選択された第1話者識別モデル及び第2話者識別モデルのいずれかに入力することにより、識別対象音声データと登録音声データとの類似度を算出する。
次に、ステップS40において、類似度算出部231は、識別対象音声データと、登録音声データ記憶部212に記憶されている全ての登録音声データとの類似度が算出されたか否かを判定する。ここで、識別対象音声データと全ての登録音声データとの類似度が算出されていないと判定された場合(ステップS40でNO)、ステップS33に処理が戻る。そして、登録音声データ取得部213は、登録音声データ記憶部212に記憶されている複数の登録音声データの中から、類似度が算出されていない登録音声データを取得する。
一方、識別対象音声データと全ての登録音声データとの類似度が算出されたと判定された場合(ステップS40でYES)、ステップS41において、類似度判定部232は、最も高い類似度が閾値より大きいか否かを判定する。
ここで、最も高い類似度が閾値より大きいと判定された場合(ステップS41でYES)、ステップS42において、類似度判定部232は、類似度が最も高い登録音声データの話者を識別対象音声データの話者として識別する。
一方、最も高い類似度が閾値以下であると判定された場合(ステップS41でNO)、ステップS43において、類似度判定部232は、複数の登録音声データの中に、識別対象音声データと話者が同一である登録音声データが存在しないと判定する。
次に、ステップS44において、識別結果出力部219は、話者識別部218による識別結果を出力する。識別結果出力部219は、識別対象音声データの話者が識別された場合、識別対象音声データの話者が予め登録されている話者であることを示すメッセージを出力する。一方、識別結果出力部219は、識別対象音声データの話者が識別されなかった場合、識別対象音声データの話者が予め登録されている話者ではないことを示すメッセージを出力する。
このように、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が男性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、男性用に生成された第1話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。また、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が女性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、女性用に生成された第2話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。
したがって、音声データの特徴量の分布が性別によって異なる場合であっても、それぞれの性別に特化した第1話者識別モデル及び第2話者識別モデルにより、識別対象音声データの話者が識別されるので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
なお、本実施の形態1において、モデル選択部217は、登録音声データの話者の性別に基づいて、第1話者識別モデル及び第2話者識別モデルのいずれかを選択しているが、本開示は特にこれに限定されない。モデル選択部217は、識別対象音声データの話者の性別に基づいて、第1話者識別モデル及び第2話者識別モデルのいずれかを選択してもよい。この場合、話者識別装置2は、識別対象音声データの話者の性別を識別する性別識別部と、話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを予め記憶する性別識別モデル記憶部と、識別対象音声データの話者の性別を識別するために用いる性別識別用音声データの特徴量を予め記憶する性別識別用音声データ記憶部とを備える。性別識別部、性別識別モデル記憶部及び性別識別用音声データ記憶部は、上記の性別識別部205、性別識別モデル記憶部203及び性別識別用音声データ記憶部204と同じ構成である。また、識別対象音声データの話者の性別が識別される場合、性別識別部205、性別識別モデル記憶部203及び性別識別用音声データ記憶部204は不要となる。
続いて、本実施の形態1における性別識別モデル生成装置3の性別識別モデル生成処理の動作について説明する。
図8は、本実施の形態1における性別識別モデル生成装置の性別識別モデル生成処理の動作について説明するためのフローチャートである。
まず、ステップS51において、性別識別用音声データ取得部302は、男性及び女性のいずれかを示す性別ラベルが付与された複数の音声データを性別識別用音声データ記憶部301から取得する。
次に、ステップS52において、特徴量抽出部303は、性別識別用音声データ取得部302によって取得された複数の音声データの特徴量を抽出する。
次に、ステップS53において、性別識別モデル生成部304は、複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各性別ラベルの類似度とを教師データとして取得する。
次に、ステップS54において、性別識別モデル生成部304は、取得した教師データを用い、入力を2つの音声データの特徴量とし、出力を2つの音声データの類似度とする性別識別モデルを機械学習する。
次に、ステップS55において、性別識別モデル生成部304は、複数の音声データのうちの全ての音声データの組み合わせを用いて性別識別モデルを機械学習させたか否かを判定する。ここで、全ての音声データの組み合わせを用いて性別識別モデルを機械学習させていないと判定された場合(ステップS55でNO)、ステップS53に処理が戻る。そして、性別識別モデル生成部304は、複数の音声データのうちの機械学習に用いていない組み合わせの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各性別ラベルの類似度とを教師データとして取得する。
一方、全ての音声データの組み合わせを用いて性別識別モデルを機械学習させたと判定された場合(ステップS55でYES)、ステップS56において、性別識別モデル生成部304は、機械学習により生成した性別識別モデルを性別識別モデル記憶部305に記憶する。
このように、機械学習により生成された性別識別モデルに、登録音声データ又は識別対象音声データの特徴量と、男性の音声データの特徴量とが入力されることにより、2つの音声データの第1類似度が出力される。また、性別識別モデルに、登録音声データ又は識別対象音声データの特徴量と、女性の音声データの特徴量とが入力されることにより、2つの音声データの第2類似度が出力される。そして、第1類似度と第2類似度とが比較されることにより、登録音声データ又は識別対象音声データの話者の性別を容易に推定することができる。
続いて、本実施の形態1における話者識別モデル生成装置4の話者識別モデル生成処理の動作について説明する。
図9は、本実施の形態1における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートであり、図10は、本実施の形態1における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートである。
まず、ステップS61において、男性音声データ取得部402は、男性である話者を識別するための話者識別ラベルが付与された複数の男性音声データを男性音声データ記憶部401から取得する。
次に、ステップS62において、特徴量抽出部403は、男性音声データ取得部402によって取得された複数の男性音声データの特徴量を抽出する。
次に、ステップS63において、第1話者識別モデル生成部404は、複数の男性音声データのうちの第1男性音声データ及び第2男性音声データの各特徴量と、第1男性音声データ及び第2男性音声データの各話者識別ラベルの類似度とを教師データとして取得する。
次に、ステップS64において、第1話者識別モデル生成部404は、取得した教師データを用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第1話者識別モデルを機械学習する。
次に、ステップS65において、第1話者識別モデル生成部404は、複数の男性音声データのうちの全ての男性音声データの組み合わせを用いて第1話者識別モデルを機械学習させたか否かを判定する。ここで、全ての男性音声データの組み合わせを用いて第1話者識別モデルを機械学習させていないと判定された場合(ステップS65でNO)、ステップS63に処理が戻る。そして、第1話者識別モデル生成部404は、複数の男性音声データのうちの機械学習に用いていない組み合わせの第1男性音声データ及び第2男性音声データの各特徴量と、第1男性音声データ及び第2男性音声データの各話者識別ラベルの類似度とを教師データとして取得する。
一方、全ての男性音声データの組み合わせを用いて第1話者識別モデルを機械学習させたと判定された場合(ステップS65でYES)、ステップS66において、第1話者識別モデル生成部404は、機械学習により生成された第1話者識別モデルを第1話者識別モデル記憶部405に記憶する。
次に、ステップS67において、女性音声データ取得部412は、女性である話者を識別するための話者識別ラベルが付与された複数の女性音声データを女性音声データ記憶部411から取得する。
次に、ステップS68において、特徴量抽出部413は、女性音声データ取得部412によって取得された複数の女性音声データの特徴量を抽出する。
次に、ステップS69において、第2話者識別モデル生成部414は、複数の女性音声データのうちの第1女性音声データ及び第2女性音声データの各特徴量と、第1女性音声データ及び第2女性音声データの各話者識別ラベルの類似度とを教師データとして取得する。
次に、ステップS70において、第2話者識別モデル生成部414は、取得した教師データを用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第2話者識別モデルを機械学習する。
次に、ステップS71において、第2話者識別モデル生成部414は、複数の女性音声データのうちの全ての女性音声データの組み合わせを用いて第2話者識別モデルを機械学習させたか否かを判定する。ここで、全ての女性音声データの組み合わせを用いて第2話者識別モデルを機械学習させていないと判定された場合(ステップS71でNO)、ステップS69に処理が戻る。そして、第2話者識別モデル生成部414は、複数の女性音声データのうちの機械学習に用いていない組み合わせの第1女性音声データ及び第2女性音声データの各特徴量と、第1女性音声データ及び第2女性音声データの各話者識別ラベルの類似度とを教師データとして取得する。
一方、全ての女性音声データの組み合わせを用いて第2話者識別モデルを機械学習させたと判定された場合(ステップS71でYES)、ステップS72において、第2話者識別モデル生成部414は、機械学習により生成された第2話者識別モデルを第2話者識別モデル記憶部415に記憶する。
このように、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が男性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、男性用に生成された第1話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。また、識別対象音声データの話者及び登録音声データの話者のいずれかの性別が女性である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、女性用に生成された第2話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。
したがって、音声データの特徴量の分布が性別によって異なる場合であっても、男性に特化した第1話者識別モデル及び女性に特化した第2話者識別モデルにより、識別対象音声データの話者が識別されるので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
続いて、本実施の形態1における話者識別装置2の話者識別性能の評価について説明する。
図11は、従来の話者識別装置の話者識別性能評価結果と、実施の形態1の話者識別装置の話者識別性能評価結果とを示す図である。
図11に示す性能評価結果は、SRE19 progress dataset及びSRE19 Eevaluation datasetにより提供される音声データの話者を従来の話者識別装置及び本実施の形態1の話者識別装置2により識別した結果を表している。
SRE19は、アメリカ国立標準技術研究所(NIST)が主催する話者識別のコンペティションである。SRE19 progress dataset及びSRE19 Eevaluation datasetは、いずれもSRE19によって提供されるデータセットである。
従来の話者識別装置は、男性と女性とを区別することなく生成された話者識別モデルを用いて、音声データの話者を識別した。
また、本実施の形態1の話者識別装置2は、男性用の第1話者識別モデルと女性用の第2話者識別モデルとを用いて、音声データの話者を識別した。
評価結果は、話者識別の評価に一般的に用いられるEER(Equal Error Rate)(%)と、NISTによって定義されたコストであるminC(minimum Cost)と、NISTによって定義されたコストであるactC(actual Cost)とで表した。なお、EER、minC及びactCは、いずれも値が小さいほど性能が高いことを表している。
図11に示すように、本実施の形態1の話者識別装置2のEER、minC及びactCは、いずれも、従来の話者識別装置のEER、minC及びactCよりも小さくなっている。これにより、本実施の形態1の話者識別装置2の話者識別性能は、従来の話者識別装置の話者識別性能よりも高いことが分かる。
続いて、本実施の形態1の変形例1における話者識別装置2について説明する。
本実施の形態1の変形例1における話者識別装置2は、性別識別部205の性別識別処理が上記と異なる。
本実施の形態1の変形例1における性別識別部205は、登録対象音声データの特徴量と、性別識別用音声データ記憶部204に予め記憶されている男性の複数の音声データの特徴量それぞれとを性別識別モデルに入力することにより、登録対象音声データと男性の複数の音声データそれぞれとの類似度を性別識別モデルから取得する。そして、性別識別部205は、取得した複数の類似度のうちの最大値を最大男性類似度として算出する。
また、性別識別部205は、登録対象音声データの特徴量と、性別識別用音声データ記憶部204に予め記憶されている女性の複数の音声データの特徴量それぞれとを性別識別モデルに入力することにより、登録対象音声データと女性の複数の音声データそれぞれとの類似度を性別識別モデルから取得する。そして、性別識別部205は、取得した複数の類似度のうちの最大値を最大女性類似度として算出する。
性別識別部205は、最大男性類似度が最大女性類似度より高い場合、登録対象音声データの話者の性別を男性と識別する。一方、性別識別部205は、最大男性類似度が最大女性類似度より低い場合、登録対象音声データの話者の性別を女性と識別する。なお、性別識別部205は、最大男性類似度が最大女性類似度と同じである場合、登録対象音声データの話者の性別を男性と識別してもよいし、登録対象音声データの話者の性別を女性と識別してもよい。
続いて、本実施の形態1の変形例1における性別識別処理の動作について説明する。
図12は、本実施の形態1の変形例1における性別識別処理の動作について説明するためのフローチャートである。本実施の形態1の変形例1における性別識別処理は、図4のステップS3の性別識別処理の他の動作例である。
ステップS81~ステップS84の処理は、図5に示すステップS11~ステップS14の処理と同じであるので、説明を省略する。
登録対象音声データと全ての男性音声データとの類似度が算出されたと判定された場合(ステップS84でYES)、ステップS85において、性別識別部205は、算出した複数の類似度のうちの最大値を最大男性類似度として算出する。
ステップS86~ステップS88の処理は、図5に示すステップS16~ステップS18の処理と同じであるので、説明を省略する。
登録対象音声データと全ての女性音声データとの類似度が算出されたと判定された場合(ステップS88でYES)、ステップS89において、性別識別部205は、算出した複数の類似度のうちの最大値を最大女性類似度として算出する。
次に、ステップS90において、性別識別部205は、最大男性類似度と最大女性類似度とのうちの高い方の性別を識別結果として登録部206へ出力する。
続いて、本実施の形態1の変形例2における話者識別装置2について説明する。
本実施の形態1の変形例2における話者識別装置2は、性別識別部205の性別識別処理が上記と異なる。
本実施の形態1の変形例2における性別識別部205は、予め記憶されている男性の複数の音声データの平均特徴量を算出する。そして、性別識別部205は、登録対象音声データの特徴量と男性の複数の音声データの平均特徴量とを性別識別モデルに入力することにより、登録対象音声データと男性の音声データ群との第1類似度を性別識別モデルから取得する。
また、性別識別部205は、予め記憶されている女性の複数の音声データの平均特徴量を算出する。そして、性別識別部205は、登録対象音声データの特徴量と女性の複数の音声データの平均特徴量とを性別識別モデルに入力することにより、登録対象音声データと女性の音声データ群との第2類似度を性別識別モデルから取得する。
性別識別部205は、第1類似度が第2類似度より高い場合、登録対象音声データの話者の性別を男性と識別する。一方、性別識別部205は、第1類似度が第2類似度より低い場合、登録対象音声データの話者の性別を女性と識別する。なお、性別識別部205は、第1類似度が第2類似度と同じである場合、登録対象音声データの話者の性別を男性と識別してもよいし、登録対象音声データの話者の性別を女性と識別してもよい。
続いて、本実施の形態1の変形例2における性別識別処理の動作について説明する。
図13は、本実施の形態1の変形例2における性別識別処理の動作について説明するためのフローチャートである。本実施の形態1の変形例2における性別識別処理は、図4のステップS3の性別識別処理の他の動作例である。
まず、ステップS101において、性別識別部205は、性別識別モデルを性別識別モデル記憶部203から取得する。性別識別モデルは、複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各性別ラベルの類似度とを教師データとして用いて機械学習された性別識別モデルである。なお、性別識別モデルは、複数の音声データのうちの第1音声データ及び第2音声データの各特徴量と、第1音声データ及び第2音声データの各識別情報の類似度とを教師データとして用いて機械学習された性別識別モデルであってもよい。
次に、ステップS102において、性別識別部205は、複数の男性音声データの特徴量を性別識別用音声データ記憶部204から取得する。
次に、ステップS103において、性別識別部205は、取得した複数の男性音声データの平均特徴量を算出する。
次に、ステップS104において、性別識別部205は、登録対象音声データの特徴量と、複数の男性音声データの平均特徴量とを性別識別モデルに入力することにより、登録対象音声データと男性音声データ群との第1類似度を算出する。
次に、ステップS105において、性別識別部205は、複数の女性音声データの特徴量を性別識別用音声データ記憶部204から取得する。
次に、ステップS106において、性別識別部205は、取得した複数の女性音声データの平均特徴量を算出する。
次に、ステップS107において、性別識別部205は、登録対象音声データの特徴量と、複数の女性音声データの平均特徴量とを性別識別モデルに入力することにより、登録対象音声データと女性音声データ群との第2類似度を算出する。
次に、ステップS108において、性別識別部205は、第1類似度と第2類似度とのうちの高い方の性別を識別結果として登録部206へ出力する。
なお、本実施の形態1における性別識別処理では、登録音声データと男性音声データとの類似度と、登録音声データと女性音声データとの類似度とが算出され、算出された2つの類似度が比較されることにより、登録音声データの性別が判定されるが、本開示は特にこれに限定されない。例えば、性別識別モデル生成部304は、複数の音声データのうちの1の音声データの特徴量と、1の音声データの性別ラベルとを教師データとして用い、入力を音声データの特徴量とし、出力を男性及び女性のいずれかとする性別識別モデルを機械学習により生成してもよい。この場合、性別識別モデルは、例えば、ディープニューラルネットワークモデルであり、機械学習は、例えば、ディープラーニングである。
また、性別識別モデルは、入力された音声データに対して、男性である確率及び女性である確率を算出してもよい。この場合、性別識別部205は、男性である確率及び女性である確率のうちの高い方の確率の性別を識別結果として出力してもよい。
また、話者識別装置2は、登録対象音声データが取得される際に、登録対象音声データの話者の性別の入力を受け付ける入力受付部を備えてもよい。この場合、登録部206は、登録対象音声データ取得部201によって取得された登録対象音声データを、入力受付部によって受け付けられた性別と対応付けて登録音声データ記憶部212に記憶してもよい。これにより、特徴量抽出部202、性別識別モデル記憶部203、性別識別用音声データ記憶部204及び性別識別部205が不要となり、話者識別装置2の構成を簡略化することができるとともに、話者識別装置2の登録処理にかかる負荷を低減することができる。
(実施の形態2)
上記の実施の形態1では、登録音声データ記憶部212に記憶されている全ての登録音声データそれぞれと、識別対象音声データとの類似度が算出され、類似度が最も高い登録音声データの話者が識別対象音声データの話者として識別される。一方、実施の形態2では、識別対象音声データの話者の識別情報が入力され、登録音声データ記憶部212に記憶されている複数の登録音声データのうち、当該識別情報に予め対応付けられている1の登録音声データが取得される。そして、1の登録音声データと識別対象音声データとの類似度が算出され、類似度が閾値より高い場合、登録音声データの話者が識別対象音声データの話者として識別される。
図14は、本開示の実施の形態2における話者識別システムの構成を示す図である。
図14に示す話者識別システムは、マイクロホン1及び話者識別装置21を備える。なお、話者識別装置21は、マイクロホン1を備えていなくてもよいし、備えてもよい。
なお、本実施の形態2において、実施の形態1と同じ構成については同じ符号を付し、説明を省略する。
話者識別装置21は、登録対象音声データ取得部201、特徴量抽出部202、性別識別モデル記憶部203、性別識別用音声データ記憶部204、性別識別部205、登録部2061、識別対象音声データ取得部211、登録音声データ記憶部2121、登録音声データ取得部2131、特徴量抽出部214、特徴量抽出部215、話者識別モデル記憶部216、モデル選択部217、話者識別部2181、識別結果出力部219、入力受付部221及び識別情報取得部222を備える。
入力受付部221は、例えばキーボード、マウス及びタッチパネルなどの入力装置である。音声データの登録時において、入力受付部221は、音声データを登録する話者を識別するための識別情報の話者による入力を受け付ける。また、音声データの識別時において、入力受付部221は、識別する音声データの話者を識別するための識別情報の話者による入力を受け付ける。なお、入力受付部221は、カードリーダ又はRFID(Radio Frequency IDentification)リーダなどであってもよい。この場合、話者は、識別情報が記録されたカードをカードリーダに読み取らせる、又は識別情報が記録されたRFIDタグをRFIDリーダに読み取らせる。
識別情報取得部222は、入力受付部221によって受け付けられた識別情報を取得する。音声データの登録時において、識別情報取得部222は、登録対象音声データの話者を識別するための識別情報を取得し、取得した識別情報を登録部2061へ出力する。また、音声データの識別時において、識別情報取得部222は、識別対象音声データの話者を識別するための識別情報を取得し、取得した識別情報を登録音声データ取得部2131へ出力する。
登録部2061は、性別識別部205によって識別された性別情報及び識別情報取得部222によって取得された識別情報を対応付けた登録対象音声データを登録音声データとして登録する。登録部2061は、登録音声データを登録音声データ記憶部2121に登録する。
登録音声データ記憶部2121は、性別情報及び識別情報が対応付けられた登録音声データを記憶する。登録音声データ記憶部2121は、複数の登録音声データを記憶する。複数の登録音声データは、複数の登録音声データそれぞれの話者を識別するための識別情報と対応付けられている。
登録音声データ取得部2131は、登録音声データ記憶部2121に登録されている複数の登録音声データの中から、識別情報取得部222によって取得された識別情報と一致する識別情報が対応付けられている登録音声データを取得する。
話者識別部2181は、類似度算出部2311及び類似度判定部2321を備える。
類似度算出部2311は、識別対象音声データの特徴量と登録音声データの特徴量とを、選択した第1話者識別モデル及び第2話者識別モデルのいずれかに入力することにより、識別対象音声データと登録音声データとの類似度を第1話者識別モデル及び第2話者識別モデルのいずれかから取得する。
類似度判定部2321は、取得した類似度が閾値よりも高い場合、登録音声データの話者を識別対象音声データの話者として識別する。
続いて、本実施の形態2における話者識別装置21の登録処理及び話者識別処理のそれぞれの動作について説明する。
図15は、本実施の形態2における話者識別装置の登録処理の動作について説明するためのフローチャートである。
まず、ステップS121において、識別情報取得部222は、入力受付部221によって受け付けられた話者の識別情報を取得する。入力受付部221は、音声データを登録する話者を識別するための識別情報の話者による入力を受け付け、受け付けた識別情報を識別情報取得部222へ出力する。識別情報取得部222は、登録対象音声データの話者を識別するための識別情報を登録部2061へ出力する。
次に、ステップS122において、登録対象音声データ取得部201は、マイクロホン1から出力された登録対象音声データを取得する。識別情報を入力した、自身が発話した音声データの登録を希望する話者は、マイクロホン1に向かって所定の文章を発話する。
ステップS123及びステップS124の処理は、図4に示すステップS2及びステップS3の処理と同じであるので、説明を省略する。
次に、ステップS125において、登録部2061は、性別識別部205によって識別された性別情報及び識別情報取得部222によって取得された識別情報を対応付けた登録対象音声データを登録音声データとして登録音声データ記憶部2121に記憶する。これにより、登録音声データ記憶部2121は、性別情報及び識別情報を対応付けた登録音声データを記憶する。
図16は、本実施の形態2における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートであり、図17は、本実施の形態2における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。
まず、ステップS131において、識別情報取得部222は、入力受付部221によって受け付けられた話者の識別情報を取得する。入力受付部221は、識別する音声データの話者を識別するための識別情報の話者による入力を受け付け、受け付けた識別情報を識別情報取得部222へ出力する。識別情報取得部222は、識別対象音声データの話者を識別するための識別情報を登録音声データ取得部2131へ出力する。
次に、ステップS132において、登録音声データ取得部2131は、識別情報取得部222によって取得された識別情報と一致する識別情報が登録音声データ記憶部2121にあるか否かを判定する。ここで、取得された識別情報と一致する識別情報が登録音声データ記憶部2121にないと判定された場合(ステップS132でNO)、話者識別処理が終了する。なお、取得された識別情報と一致する識別情報が登録音声データ記憶部2121にないと判定された場合、識別結果出力部219は、入力された識別情報が登録されていないことを話者に通知するための通知情報を出力してもよい。また、取得された識別情報と一致する識別情報が登録音声データ記憶部2121にないと判定された場合、識別結果出力部219は、音声データの登録を話者に促すための通知情報を出力してもよい。
一方、取得された識別情報と一致する識別情報が登録音声データ記憶部2121にあると判定された場合(ステップS132でYES)、ステップS133において、識別対象音声データ取得部211は、マイクロホン1から出力された識別対象音声データを取得する。
次に、ステップS134において、特徴量抽出部214は、識別対象音声データ取得部211によって取得された識別対象音声データの特徴量を抽出する。
次に、ステップS135において、登録音声データ取得部2131は、登録音声データ記憶部2121に登録されている複数の登録音声データの中から、識別情報取得部222によって取得された識別情報と一致する識別情報が対応付けられている登録音声データを取得する。
ステップS136~ステップS141の処理は、図6に示すステップS34~ステップS39の処理と同じであるので、説明を省略する。
次に、ステップS142において、類似度判定部2321は、類似度算出部2311によって算出された類似度が閾値より大きいか否かを判定する。
ここで、類似度算出部2311によって算出された類似度が閾値より大きいと判定された場合(ステップS142でYES)、ステップS143において、類似度判定部2321は、登録音声データの話者を識別対象音声データの話者として識別する。
一方、類似度算出部2311によって算出された類似度が閾値以下であると判定された場合(ステップS142でNO)、ステップS144において、類似度判定部2321は、識別対象音声データの話者が登録音声データの話者ではないと判定する。
次に、ステップS145において、識別結果出力部219は、話者識別部2181による識別結果を出力する。識別結果出力部219は、識別対象音声データの話者が識別された場合、識別対象音声データの話者が予め登録されている話者であることを示すメッセージを出力する。一方、識別結果出力部219は、識別対象音声データの話者が識別されなかった場合、識別対象音声データの話者が予め登録されている話者ではないことを示すメッセージを出力する。
このように、本実施の形態2では、識別情報に対応付けられている登録音声データと識別対象音声データとの類似度のみが算出される。したがって、複数の登録音声データそれぞれと識別対象音声データとの複数の類似度が算出される実施の形態1と比較して、実施の形態2では、類似度算出の処理負荷を低減することができる。
(実施の形態3)
上記の実施の形態1及び実施の形態2では、登録音声データの話者の性別に応じて第1話者識別モデルと第2話者識別モデルとのいずれかが選択されるが、2つの異なる第1話者識別モデルと第2話者識別モデルとが用いられる場合、第1話者識別モデルと第2話者識別モデルとの出力値の範囲が異なるおそれがある。そこで、実施の形態3では、音声データの登録時において、第1話者識別モデル及び第2話者識別モデルのそれぞれに対し、同一の話者を識別することが可能な第1閾値及び第2閾値が算出され、算出された第1閾値及び第2閾値が記憶される。また、音声データの識別時において、算出された識別対象音声データと登録音声データとの類似度から第1閾値又は第2閾値が減算されることにより類似度が補正される。そして、補正された類似度が第1話者識別モデル及び第2話者識別モデルに共通の第3閾値と比較されることにより、識別対象音声データの話者が識別される。
まず、本開示の実施の形態3における話者識別モデル生成装置について説明する。
図18は、本開示の実施の形態3における話者識別モデル生成装置の構成を示す図である。
図18に示す話者識別モデル生成装置41は、男性音声データ記憶部401、男性音声データ取得部402、特徴量抽出部403、第1話者識別モデル生成部404、第1話者識別モデル記憶部405、第1話者識別部406、第1閾値算出部407、閾値記憶部408、女性音声データ記憶部411、女性音声データ取得部412、特徴量抽出部413、第2話者識別モデル生成部414、第2話者識別モデル記憶部415、第2話者識別部416及び第2閾値算出部417を備える。
なお、本実施の形態3において、実施の形態1及び実施の形態2と同じ構成については同じ符号を付し、説明を省略する。
第1話者識別部406は、男性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせを第1話者識別モデルに入力することにより、2つの音声データの複数の組み合わせそれぞれの類似度を第1話者識別モデルから取得する。
第1閾値算出部407は、同一話者の2つの音声データの類似度と、互いに異なる話者の2つの音声データの類似度とを識別可能な第1閾値を算出する。第1閾値算出部407は、第1話者識別部406によって算出された複数の類似度を回帰分析することにより、第1閾値を算出する。
第2話者識別部416は、女性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせを第2話者識別モデルに入力することにより、2つの音声データの複数の組み合わせそれぞれの類似度を第2話者識別モデルから取得する。
第2閾値算出部417は、同一話者の2つの音声データの類似度と、互いに異なる話者の2つの音声データの類似度とを識別可能な第2閾値を算出する。第2閾値算出部417は、第2話者識別部416によって算出された複数の類似度を回帰分析することにより、第2閾値を算出する。
閾値記憶部408は、第1閾値算出部407によって算出された第1閾値と、第2閾値算出部417によって算出された第2閾値とを記憶する。
続いて、本開示の実施の形態3における話者識別システムについて説明する。
図19は、本開示の実施の形態3における話者識別システムの構成を示す図である。
図19に示す話者識別システムは、マイクロホン1及び話者識別装置22を備える。なお、話者識別装置22は、マイクロホン1を備えていなくてもよいし、備えてもよい。
なお、本実施の形態3において、実施の形態1及び実施の形態2と同じ構成については同じ符号を付し、説明を省略する。
話者識別装置22は、登録対象音声データ取得部201、特徴量抽出部202、性別識別モデル記憶部203、性別識別用音声データ記憶部204、性別識別部205、登録部2061、識別対象音声データ取得部211、登録音声データ記憶部2121、登録音声データ取得部2131、特徴量抽出部214、特徴量抽出部215、話者識別モデル記憶部216、モデル選択部217、話者識別部2182、識別結果出力部219、入力受付部221、識別情報取得部222及び閾値記憶部223を備える。
話者識別部2182は、類似度算出部2311、類似度補正部233及び類似度判定部2322を備える。
類似度補正部233は、第1話者識別モデルから類似度を取得した場合、取得した類似度から第1閾値を減算する。また、類似度補正部233は、第2話者識別モデルから類似度を取得した場合、取得した類似度から第2閾値を減算する。類似度補正部233は、類似度算出部2311によって第1話者識別モデルを用いて類似度が算出された場合、閾値記憶部223から第1閾値を読み出し、算出された類似度から第1閾値を減算する。また、類似度補正部233は、類似度算出部2311によって第2話者識別モデルを用いて類似度が算出された場合、閾値記憶部223から第2閾値を読み出し、算出された類似度から第2閾値を減算する。
閾値記憶部223は、第1話者識別モデルを用いて算出された類似度を補正するための第1閾値と、第2話者識別モデルを用いて算出された類似度を補正するための第2閾値とを予め記憶する。閾値記憶部223は、話者識別モデル生成装置41によって生成された第1閾値及び第2閾値を予め記憶する。
なお、話者識別モデル生成装置41は、閾値記憶部408に記憶された第1閾値及び第2閾値を話者識別装置22へ送信してもよい。話者識別装置22は、受信した第1閾値及び第2閾値を閾値記憶部223に記憶してもよい。また、話者識別装置22の製造時において、話者識別モデル生成装置41によって生成された第1閾値及び第2閾値が閾値記憶部223に記憶されてもよい。
類似度判定部2322は、類似度補正部233によって第1閾値又は第2閾値が減算された類似度が第3閾値よりも高い場合、登録音声データの話者を識別対象音声データの話者として識別する。
続いて、本実施の形態3における話者識別モデル生成装置41の話者識別モデル生成処理の動作について説明する。
図20は、本実施の形態3における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートであり、図21は、本実施の形態3における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートであり、図22は、本実施の形態3における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第3のフローチャートである。
ステップS151~ステップS156の処理は、図9に示すステップS61~ステップS66の処理と同じであるので、説明を省略する。
次に、ステップS157において、第1話者識別部406は、第1話者識別モデル記憶部405から第1話者識別モデルを取得する。
次に、ステップS158において、第1話者識別部406は、特徴量抽出部403によって抽出された複数の男性音声データの特徴量の中から、2つの男性音声データの特徴量を取得する。
次に、ステップS159において、第1話者識別部406は、取得した2つの男性音声データの特徴量を第1話者識別モデルに入力することにより、2つの男性音声データの類似度を算出する。なお、2つの男性音声データは、1人の話者によって発話された2つの男性音声データと、2人の話者によって発話された2つの男性音声データとのいずれかである。このとき、2つの男性音声データが1人の話者によって発話された男性音声データである場合の類似度は、2つの男性音声データが2人の話者によって発話された男性音声データである場合の類似度よりも高くなる。
次に、ステップS160において、第1話者識別部406は、全ての男性音声データの組み合わせの類似度が算出されたか否かを判定する。ここで、全ての男性音声データの組み合わせの類似度が算出されていないと判定された場合(ステップS160でNO)、ステップS158に処理が戻る。そして、第1話者識別部406は、複数の男性音声データの特徴量の中から、類似度を算出していない2つの男性音声データの特徴量を特徴量抽出部403から取得する。
一方、全ての男性音声データの組み合わせの類似度が算出されたと判定された場合(ステップS160でYES)、ステップS161において、第1閾値算出部407は、第1話者識別部406によって算出された複数の類似度を回帰分析することにより、同一話者の2つの男性音声データの類似度と、互いに異なる話者の2つの男性音声データの類似度とを識別可能な第1閾値を算出する。
次に、ステップS162において、第1閾値算出部407は、算出した第1閾値を閾値記憶部408に記憶する。
ステップS163~ステップS168の処理は、図9及び図10に示すステップS67~ステップS72の処理と同じであるので、説明を省略する。
次に、ステップS169において、第2話者識別部416は、第2話者識別モデル記憶部415から第2話者識別モデルを取得する。
次に、ステップS170において、第2話者識別部416は、特徴量抽出部413によって抽出された複数の女性音声データの特徴量の中から、2つの女性音声データの特徴量を取得する。
次に、ステップS171において、第2話者識別部416は、取得した2つの女性音声データの特徴量を第2話者識別モデルに入力することにより、2つの女性音声データの類似度を算出する。なお、2つの女性音声データは、1人の話者によって発話された2つの女性音声データと、2人の話者によって発話された2つの女性音声データとのいずれかである。このとき、2つの女性音声データが1人の話者によって発話された女性音声データである場合の類似度は、2つの女性音声データが2人の話者によって発話された女性音声データである場合の類似度よりも高くなる。
次に、ステップS172において、第2話者識別部416は、全ての女性音声データの組み合わせの類似度が算出されたか否かを判定する。ここで、全ての女性音声データの組み合わせの類似度が算出されていないと判定された場合(ステップS172でNO)、ステップS170に処理が戻る。そして、第2話者識別部416は、複数の女性音声データの特徴量の中から、類似度を算出していない2つの女性音声データの特徴量を特徴量抽出部413から取得する。
一方、全ての女性音声データの組み合わせの類似度が算出されたと判定された場合(ステップS172でYES)、ステップS173において、第2閾値算出部417は、第2話者識別部416によって算出された複数の類似度を回帰分析することにより、同一話者の2つの女性音声データの類似度と、互いに異なる話者の2つの女性音声データの類似度とを識別可能な第2閾値を算出する。
次に、ステップS174において、第2閾値算出部417は、算出した第2閾値を閾値記憶部408に記憶する。
続いて、本実施の形態3における話者識別装置22の話者識別処理の動作について説明する。
図23は、本実施の形態3における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートであり、図24は、本実施の形態3における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。
ステップS181~ステップS191の処理は、図16及び図17に示すステップS131~ステップS141の処理と同じであるので、説明を省略する。
次に、ステップS192において、類似度補正部233は、閾値記憶部223から第1閾値又は第2閾値を取得する。このとき、モデル選択部217によって第1話者識別モデルが選択された場合、類似度補正部233は、閾値記憶部223から第1閾値を取得する。また、モデル選択部217によって第2話者識別モデルが選択された場合、類似度補正部233は、閾値記憶部223から第2閾値を取得する。
次に、ステップS193において、類似度補正部233は、取得した第1閾値又は第2閾値を用いて、類似度算出部2311によって算出された類似度を補正する。このとき、類似度補正部233は、類似度算出部2311によって算出された類似度から、第1閾値又は第2閾値を減算する。
次に、ステップS194において、類似度判定部2322は、類似度補正部233によって補正された類似度が第3閾値より大きいか否かを判定する。なお、第3閾値は、例えば0である。類似度判定部2322は、補正された類似度が0より大きい場合、識別対象音声データが予め登録されている登録音声データと一致すると判定し、補正された類似度が0以下である場合、識別対象音声データが予め登録されている登録音声データと一致しないと判定する。
ここで、類似度補正部233によって補正された類似度が第3閾値より大きいと判定された場合(ステップS194でYES)、ステップS195において、類似度判定部2322は、登録音声データの話者を識別対象音声データの話者として識別する。
一方、類似度補正部233によって補正された類似度が第3閾値以下であると判定された場合(ステップS194でNO)、ステップS196において、類似度判定部2322は、識別対象音声データの話者が登録音声データの話者ではないと判定する。
ステップS197の処理は、図17に示すステップS145の処理と同じであるので、説明を省略する。
2つの異なる第1話者識別モデルと第2話者識別モデルとが用いられる場合、第1話者識別モデルと第2話者識別モデルとの出力値の範囲が異なるおそれがある。そこで、本実施の形態3では、登録時において、第1話者識別モデル及び第2話者識別モデルのそれぞれに対し、同一の話者を識別することが可能な第1閾値及び第2閾値が算出される。また、話者識別時において、算出された識別対象音声データと登録音声データとの類似度から第1閾値又は第2閾値が減算されることにより類似度が補正される。そして、補正された類似度が第1話者識別モデル及び第2話者識別モデルに共通の第3閾値と比較されることにより、識別対象音声データの話者をより高い精度で識別することができる。
(実施の形態4)
発話時間が長いほど発話内の情報量が多いため、話者の識別が容易であり、本人同士の登録音声データと識別対象音声データとの類似度が高くなりやすい。一方、発話時間が短いほど発話内の情報量が少なくなるため、話者の識別が困難であり、本人同士の登録音声データと識別対象音声データとであっても類似度が低くなるおそれがある。そのため、発話時間が長い音声データを用いて機械学習した話者識別モデルにより、発話時間が短い識別対象音声データの話者を識別した場合、話者識別の精度が低下するおそれがある。
そこで、実施の形態4に係る話者識別方法は、コンピュータが、識別対象音声データを取得し、予め登録されている登録音声データを取得し、識別対象音声データの特徴量を抽出し、登録音声データの特徴量を抽出し、識別対象音声データの話者及び登録音声データの話者の少なくとも一方の発話時間が所定時間以上である場合、発話時間が所定時間以上の話者を識別するために発話時間が所定時間以上である音声データを用いて機械学習された第3話者識別モデルを選択し、識別対象音声データの話者及び登録音声データの話者の少なくとも一方の発話時間が所定時間より短い場合、発話時間が所定時間より短い話者を識別するために発話時間が所定時間より短い音声データを用いて機械学習された第4話者識別モデルを選択し、識別対象音声データの特徴量と登録音声データの特徴量とを、選択した第3話者識別モデル及び第4話者識別モデルのいずれかに入力することにより、識別対象音声データの話者を識別する。
図25は、本開示の実施の形態4における話者識別システムの構成を示す図である。
図25に示す話者識別システムは、マイクロホン1及び話者識別装置24を備える。なお、話者識別装置24は、マイクロホン1を備えていなくてもよいし、備えてもよい。
なお、本実施の形態4において、実施の形態1と同じ構成については同じ符号を付し、説明を省略する。
話者識別装置24は、登録対象音声データ取得部201、発話時間計測部207、登録部2064、識別対象音声データ取得部211、登録音声データ記憶部2124、登録音声データ取得部213、特徴量抽出部214、特徴量抽出部215、話者識別モデル記憶部2164、モデル選択部2174、話者識別部2184及び識別結果出力部219を備える。
発話時間計測部207は、登録対象音声データ取得部201によって取得された登録対象音声データの発話時間を計測する。なお、発話時間は、登録対象音声データ取得部201によって登録対象音声データの取得が開始された時刻から登録対象音声データの取得が終了された時刻までの時間である。
登録部2064は、発話時間計測部207によって計測された発話時間を示す発話時間情報を対応付けた登録対象音声データを登録音声データとして登録する。登録部2064は、登録音声データを登録音声データ記憶部2124に登録する。
なお、話者識別装置24は、登録対象音声データの話者に関する情報の入力を受け付ける入力受付部をさらに備えてもよい。そして、登録部2064は、話者に関する情報に対応付けて登録音声データを登録音声データ記憶部2124に登録してもよい。話者に関する情報は、例えば、話者の名前などである。
登録音声データ記憶部2124は、発話時間情報が対応付けられた登録音声データを記憶する。登録音声データ記憶部2124は、複数の登録音声データを記憶する。
話者識別モデル記憶部2164は、発話時間が所定時間以上の話者を識別するために発話時間が所定時間以上である音声データを用いて機械学習された第3話者識別モデルと、発話時間が所定時間より短い話者を識別するために発話時間が所定時間より短い音声データを用いて機械学習された第4話者識別モデルとを予め記憶する。話者識別モデル記憶部2164は、後述する話者識別モデル生成装置44によって生成された第3話者識別モデル及び第4話者識別モデルを予め記憶する。なお、第3話者識別モデル及び第4話者識別モデルの生成方法については後述する。
モデル選択部2174は、識別対象音声データの話者及び登録音声データの話者の少なくとも一方の発話時間が所定時間以上である場合、発話時間が所定時間以上の話者を識別するために発話時間が所定時間以上である音声データを用いて機械学習された第3話者識別モデルを選択する。また、モデル選択部2174は、識別対象音声データの話者及び登録音声データの話者の少なくとも一方の発話時間が所定時間より短い場合、発話時間が所定時間より短い話者を識別するために発話時間が所定時間より短い音声データを用いて機械学習された第4話者識別モデルを選択する。
本実施の形態4において、モデル選択部2174は、登録音声データの話者の発話時間が所定時間以上である場合、第3話者識別モデルを選択し、登録音声データの話者の発話時間が所定時間より短い場合、第4話者識別モデルを選択する。登録音声データには、予め発話時間が対応付けられている。そのため、モデル選択部2174は、登録音声データに対応付けられている発話時間が所定時間以上である場合、第3話者識別モデルを選択し、登録音声データに対応付けられている発話時間が所定時間より短い場合、第4話者識別モデルを選択する。なお、所定時間は、例えば60秒である。
話者識別部2184は、識別対象音声データの特徴量と登録音声データの特徴量とを、モデル選択部2174によって選択された第3話者識別モデル及び第4話者識別モデルのいずれかに入力することにより、識別対象音声データの話者を識別する。
話者識別部2184は、類似度算出部2314及び類似度判定部232を備える。
類似度算出部2314は、識別対象音声データの特徴量と複数の登録音声データの特徴量それぞれとを、選択された第3話者識別モデル及び第4話者識別モデルのいずれかに入力することにより、識別対象音声データと複数の登録音声データそれぞれとの類似度を第3話者識別モデル及び第4話者識別モデルのいずれかから取得する。
続いて、本開示の実施の形態4における話者識別モデル生成装置について説明する。
図26は、本開示の実施の形態4における話者識別モデル生成装置の構成を示す図である。
図26に示す話者識別モデル生成装置44は、長時間音声データ記憶部421、長時間音声データ取得部422、特徴量抽出部423、第3話者識別モデル生成部424、第3話者識別モデル記憶部425、短時間音声データ記憶部431、短時間音声データ取得部432、特徴量抽出部433、第4話者識別モデル生成部434及び第4話者識別モデル記憶部435を備える。
長時間音声データ取得部422、特徴量抽出部423、第3話者識別モデル生成部424、短時間音声データ取得部432、特徴量抽出部433及び第4話者識別モデル生成部434は、プロセッサにより実現される。長時間音声データ記憶部421、第3話者識別モデル記憶部425、短時間音声データ記憶部431及び第4話者識別モデル記憶部435は、メモリにより実現される。
長時間音声データ記憶部421は、話者を識別するための話者識別ラベルが付与された、発話時間が所定時間以上である複数の長時間音声データを記憶する。長時間音声データは、発話時間が所定時間以上である音声データである。長時間音声データ記憶部421は、複数の話者毎に互いに異なる複数の長時間音声データを記憶する。
長時間音声データ取得部422は、話者を識別するための話者識別ラベルが付与された複数の長時間音声データを長時間音声データ記憶部421から取得する。なお、本実施の形態4では、長時間音声データ取得部422は、複数の長時間音声データを長時間音声データ記憶部421から取得しているが、本開示は特にこれに限定されず、ネットワークを介して外部機器から複数の長時間音声データを取得(受信)してもよい。
特徴量抽出部423は、長時間音声データ取得部422によって取得された複数の長時間音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。
第3話者識別モデル生成部424は、複数の長時間音声データのうちの第1長時間音声データ及び第2長時間音声データの各特徴量と、第1長時間音声データ及び第2長時間音声データの各話者識別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第3話者識別モデルを機械学習により生成する。例えば、第3話者識別モデルは、第1長時間音声データの話者識別ラベルと第2長時間音声データの話者識別ラベルとが同じであれば、最も高い類似度が出力され、第1長時間音声データの話者識別ラベルと第2長時間音声データの話者識別ラベルとが異なっていれば、最も低い類似度が出力されるように機械学習される。
第3話者識別モデルとしては、PLDAによるモデルが用いられる。PLDAモデルは、400次元のi-vector(特徴量)から話者の識別に有効な特徴量を自動的に選択し、対数尤度比を類似度として算出する。
なお、機械学習としては、例えば、入力情報に対してラベル(出力情報)が付与された教師データを用いて入力と出力との関係を学習する教師あり学習、ラベルのない入力のみからデータの構造を構築する教師なし学習、ラベルありとラベルなしとのどちらも扱う半教師あり学習、報酬を最大化する行動を試行錯誤により学習する強化学習なども挙げられる。また、機械学習の具体的な手法としては、ニューラルネットワーク(多層のニューラルネットワークを用いた深層学習を含む)、遺伝的プログラミング、決定木、ベイジアン・ネットワーク、又はサポート・ベクター・マシン(SVM)などが存在する。第3話者識別モデルの機械学習においては、以上で挙げた具体例のいずれかを用いればよい。
第3話者識別モデル記憶部425は、第3話者識別モデル生成部424によって生成された第3話者識別モデルを記憶する。
短時間音声データ記憶部431は、話者を識別するための話者識別ラベルが付与された、発話時間が所定時間より短い複数の短時間音声データを記憶する。短時間音声データは、発話時間が所定時間より短い音声データである。短時間音声データ記憶部431は、複数の話者毎に互いに異なる複数の短時間音声データを記憶する。
短時間音声データ取得部432は、話者を識別するための話者識別ラベルが付与された複数の短時間音声データを短時間音声データ記憶部431から取得する。なお、本実施の形態4では、短時間音声データ取得部432は、複数の短時間音声データを短時間音声データ記憶部431から取得しているが、本開示は特にこれに限定されず、ネットワークを介して外部機器から複数の短時間音声データを取得(受信)してもよい。
特徴量抽出部433は、短時間音声データ取得部432によって取得された複数の短時間音声データの特徴量を抽出する。特徴量は、例えばi-vectorである。
第4話者識別モデル生成部434は、複数の短時間音声データのうちの第1短時間音声データ及び第2短時間音声データの各特徴量と、第1短時間音声データ及び第2短時間音声データの各話者識別ラベルの類似度とを教師データとして用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第4話者識別モデルを機械学習により生成する。例えば、第4話者識別モデルは、第1短時間音声データの話者識別ラベルと第2短時間音声データの話者識別ラベルとが同じであれば、最も高い類似度が出力され、第1短時間音声データの話者識別ラベルと第2短時間音声データの話者識別ラベルとが異なっていれば、最も低い類似度が出力されるように機械学習される。
第4話者識別モデルとしては、PLDAによるモデルが用いられる。PLDAモデルは、400次元のi-vector(特徴量)から話者の識別に有効な特徴量を自動的に選択し、対数尤度比を類似度として算出する。
なお、機械学習としては、例えば、入力情報に対してラベル(出力情報)が付与された教師データを用いて入力と出力との関係を学習する教師あり学習、ラベルのない入力のみからデータの構造を構築する教師なし学習、ラベルありとラベルなしとのどちらも扱う半教師あり学習、報酬を最大化する行動を試行錯誤により学習する強化学習なども挙げられる。また、機械学習の具体的な手法としては、ニューラルネットワーク(多層のニューラルネットワークを用いた深層学習を含む)、遺伝的プログラミング、決定木、ベイジアン・ネットワーク、又はサポート・ベクター・マシン(SVM)などが存在する。第4話者識別モデルの機械学習においては、以上で挙げた具体例のいずれかを用いればよい。
第4話者識別モデル記憶部435は、第4話者識別モデル生成部434によって生成された第4話者識別モデルを記憶する。
なお、話者識別モデル生成装置44は、第3話者識別モデル記憶部425に記憶された第3話者識別モデル及び第4話者識別モデル記憶部435に記憶された第4話者識別モデルを話者識別装置24へ送信してもよい。話者識別装置24は、受信した第3話者識別モデル及び第4話者識別モデルを話者識別モデル記憶部2164に記憶してもよい。また、話者識別装置24の製造時において、話者識別モデル生成装置44によって生成された第3話者識別モデル及び第4話者識別モデルが話者識別装置24に記憶されてもよい。
続いて、本実施の形態4における話者識別装置24の登録処理及び話者識別処理のそれぞれの動作について説明する。
図27は、本実施の形態4における話者識別装置の登録処理の動作について説明するためのフローチャートである。
まず、ステップS201において、登録対象音声データ取得部201は、マイクロホン1から出力された登録対象音声データを取得する。自身が発話した音声データの登録を希望する話者は、マイクロホン1に向かって所定の文章を発話する。このとき、所定の文章は、発話時間が所定時間以上になる文章、及び発話時間が所定時間より短くなる文章のいずれかである。話者識別装置24は、予め決められている複数の文章を登録対象話者に提示してもよい。この場合、登録対象話者は、提示された複数の文章を発話する。
次に、ステップS202において、発話時間計測部207は、登録対象音声データ取得部201によって取得された登録対象音声データの発話時間を計測する。
次に、ステップS203において、登録部2064は、発話時間計測部207によって計測された発話時間を示す発話時間情報を対応付けた登録対象音声データを登録音声データとして登録音声データ記憶部2124に記憶する。
図28は、本実施の形態4における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートであり、図29は、本実施の形態4における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。
ステップS211~ステップS214の処理は、図6に示すステップS31~ステップS34の処理と同じであるので、説明を省略する。
次に、ステップS215において、モデル選択部2174は、登録音声データ取得部213によって取得された登録音声データに対応付けられている発話時間を取得する。
次に、ステップS216において、モデル選択部2174は、取得した発話時間が所定時間以上であるか否かを判定する。ここで、取得した発話時間が所定時間以上であると判定された場合(ステップS216でYES)、ステップS217において、モデル選択部2174は、第3話者識別モデルを選択する。モデル選択部2174は、選択した第3話者識別モデルを話者識別モデル記憶部2164から取得し、取得した第3話者識別モデルを類似度算出部2314へ出力する。
一方、取得した発話時間が所定時間以上ではないと判定された場合、すなわち取得した発話時間が所定時間より短いと判定された場合(ステップS216でNO)、ステップS218において、モデル選択部2174は、第4話者識別モデルを選択する。モデル選択部2174は、選択した第4話者識別モデルを話者識別モデル記憶部2164から取得し、取得した第4話者識別モデルを類似度算出部2314へ出力する。
次に、ステップS219において、類似度算出部2314は、識別対象音声データの特徴量と登録音声データの特徴量とを、選択された第3話者識別モデル及び第4話者識別モデルのいずれかに入力することにより、識別対象音声データと登録音声データとの類似度を算出する。
次に、ステップS220において、類似度算出部2314は、識別対象音声データと、登録音声データ記憶部2124に記憶されている全ての登録音声データとの類似度が算出されたか否かを判定する。ここで、識別対象音声データと全ての登録音声データとの類似度が算出されていないと判定された場合(ステップS220でNO)、ステップS213に処理が戻る。そして、登録音声データ取得部213は、登録音声データ記憶部2124に記憶されている複数の登録音声データの中から、類似度が算出されていない登録音声データを取得する。
一方、識別対象音声データと全ての登録音声データとの類似度が算出されたと判定された場合(ステップS220でYES)、ステップS221において、類似度判定部232は、最も高い類似度が閾値より大きいか否かを判定する。
なお、ステップS221~ステップS224の処理は、図7に示すステップS41~ステップS44の処理と同じであるので、説明を省略する。
このように、識別対象音声データの話者及び登録音声データの話者の少なくとも一方の発話時間が所定時間以上である場合、識別対象音声データの特徴量と登録音声データの特徴量とが、発話時間が所定時間以上である音声データを用いて機械学習された第3話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。また、識別対象音声データの話者及び登録音声データの話者の少なくとも一方の発話時間が所定時間より短い場合、識別対象音声データの特徴量と登録音声データの特徴量とが、発話時間が所定時間より短い音声データを用いて機械学習された第4話者識別モデルに入力されることにより、識別対象音声データの話者が識別される。
したがって、識別対象音声データ及び登録音声データの少なくとも一方の発話時間の長さに応じた第3話者識別モデル及び第4話者識別モデルにより、識別対象音声データの話者が識別されるので、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができる。
なお、本実施の形態4において、モデル選択部2174は、登録音声データに対応付けられている発話時間に基づいて、第3話者識別モデル及び第4話者識別モデルのいずれかを選択しているが、本開示は特にこれに限定されない。話者識別装置24は、登録音声データ取得部213によって取得された登録音声データの話者の発話時間を計測する発話時間計測部を備えてもよい。発話時間計測部は、計測した発話時間をモデル選択部2174へ出力してもよい。なお、登録音声データ取得部213によって取得された登録音声データの話者の発話時間が計測される場合、発話時間計測部207は不要となり、登録部2064は、登録対象音声データ取得部201によって取得された登録対象音声データのみを登録音声データとして登録音声データ記憶部2124に記憶してもよい。
また、本実施の形態4において、モデル選択部2174は、登録音声データの話者の発話時間に基づいて、第3話者識別モデル及び第4話者識別モデルのいずれかを選択しているが、本開示は特にこれに限定されない。モデル選択部2174は、識別対象音声データの話者の発話時間に基づいて、第3話者識別モデル及び第4話者識別モデルのいずれかを選択してもよい。この場合、話者識別装置24は、識別対象音声データの話者の発話時間を計測する発話時間計測部を備えてもよい。発話時間計測部は、識別対象音声データ取得部211によって取得された識別対象音声データの発話時間を計測し、計測した発話時間をモデル選択部2174へ出力してもよい。モデル選択部2174は、識別対象音声データの話者の発話時間が所定時間以上である場合、第3話者識別モデルを選択し、識別対象音声データの話者の発話時間が所定時間より短い場合、第4話者識別モデルを選択してもよい。なお、所定時間は、例えば30秒である。また、識別対象音声データの話者の発話時間が計測される場合、発話時間計測部207は不要となり、登録部2064は、登録対象音声データ取得部201によって取得された登録対象音声データのみを登録音声データとして登録音声データ記憶部2124に記憶してもよい。
また、本実施の形態4において、モデル選択部2174は、登録音声データの話者の発話時間と識別対象音声データの話者の発話時間との両方に基づいて、第3話者識別モデル及び第4話者識別モデルのいずれかを選択してもよい。モデル選択部2174は、登録音声データの話者の発話時間と識別対象音声データの話者の発話時間との両方が所定時間以上である場合、第3話者識別モデルを選択してもよい。また、モデル選択部2174は、登録音声データの話者の発話時間と識別対象音声データの話者の発話時間との少なくとも一方が所定時間より短い場合、第4話者識別モデルを選択してもよい。なお、所定時間は、例えば20秒である。この場合、話者識別装置24は、識別対象音声データの話者の発話時間を計測する発話時間計測部をさらに備えてもよい。また、話者識別装置24は、発話時間計測部207を備えずに、登録音声データ取得部213によって取得された登録音声データの話者の発話時間を計測する発話時間計測部を備えてもよい。
さらに、本実施の形態4において、モデル選択部2174は、登録音声データの話者の発話時間と識別対象音声データの話者の発話時間とのいずれか一方が所定時間以上である場合、第3話者識別モデルを選択してもよい。また、モデル選択部2174は、登録音声データの話者の発話時間と識別対象音声データの話者の発話時間との両方が所定時間より短い場合、第4話者識別モデルを選択してもよい。なお、所定時間は、例えば100秒である。この場合、話者識別装置24は、識別対象音声データの話者の発話時間を計測する発話時間計測部をさらに備えてもよい。また、話者識別装置24は、発話時間計測部207を備えずに、登録音声データ取得部213によって取得された登録音声データの話者の発話時間を計測する発話時間計測部を備えてもよい。
続いて、本実施の形態4における話者識別モデル生成装置44の話者識別モデル生成処理の動作について説明する。
図30は、本実施の形態4における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートであり、図31は、本実施の形態4における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートである。
まず、ステップS231において、長時間音声データ取得部422は、話者を識別するための話者識別ラベルが付与された、発話時間が所定時間以上である複数の長時間音声データを長時間音声データ記憶部421から取得する。
次に、ステップS232において、特徴量抽出部423は、長時間音声データ取得部422によって取得された複数の長時間音声データの特徴量を抽出する。
次に、ステップS233において、第3話者識別モデル生成部424は、複数の長時間音声データのうちの第1長時間音声データ及び第2長時間音声データの各特徴量と、第1長時間音声データ及び第2長時間音声データの各話者識別ラベルの類似度とを教師データとして取得する。
次に、ステップS234において、第3話者識別モデル生成部424は、取得した教師データを用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第3話者識別モデルを機械学習する。
次に、ステップS235において、第3話者識別モデル生成部424は、複数の長時間音声データのうちの全ての長時間音声データの組み合わせを用いて第3話者識別モデルを機械学習させたか否かを判定する。ここで、全ての長時間音声データの組み合わせを用いて第3話者識別モデルを機械学習させていないと判定された場合(ステップS235でNO)、ステップS233に処理が戻る。そして、第3話者識別モデル生成部424は、複数の長時間音声データのうちの機械学習に用いていない組み合わせの第1長時間音声データ及び第2長時間音声データの各特徴量と、第1長時間音声データ及び第2長時間音声データの各話者識別ラベルの類似度とを教師データとして取得する。
一方、全ての長時間音声データの組み合わせを用いて第3話者識別モデルを機械学習させたと判定された場合(ステップS235でYES)、ステップS236において、第3話者識別モデル生成部424は、機械学習により生成された第3話者識別モデルを第3話者識別モデル記憶部425に記憶する。
次に、ステップS237において、短時間音声データ取得部432は、話者を識別するための話者識別ラベルが付与された、発話時間が所定時間より短い複数の短時間音声データを短時間音声データ記憶部431から取得する。
次に、ステップS238において、特徴量抽出部433は、短時間音声データ取得部432によって取得された複数の短時間音声データの特徴量を抽出する。
次に、ステップS239において、第4話者識別モデル生成部434は、複数の短時間音声データのうちの第1短時間音声データ及び第2短時間音声データの各特徴量と、第1短時間音声データ及び第2短時間音声データの各話者識別ラベルの類似度とを教師データとして取得する。
次に、ステップS240において、第4話者識別モデル生成部434は、取得した教師データを用い、入力を2つの音声データの各特徴量とし、出力を2つの音声データの類似度とする第4話者識別モデルを機械学習する。
次に、ステップS241において、第4話者識別モデル生成部434は、複数の短時間音声データのうちの全ての短時間音声データの組み合わせを用いて第4話者識別モデルを機械学習させたか否かを判定する。ここで、全ての短時間音声データの組み合わせを用いて第4話者識別モデルを機械学習させていないと判定された場合(ステップS241でNO)、ステップS239に処理が戻る。そして、第4話者識別モデル生成部434は、複数の短時間音声データのうちの機械学習に用いていない組み合わせの第1短時間音声データ及び第2短時間音声データの各特徴量と、第1短時間音声データ及び第2短時間音声データの各話者識別ラベルの類似度とを教師データとして取得する。
一方、全ての短時間音声データの組み合わせを用いて第4話者識別モデルを機械学習させたと判定された場合(ステップS241でYES)、ステップS242において、第4話者識別モデル生成部434は、機械学習により生成された第4話者識別モデルを第4話者識別モデル記憶部435に記憶する。
(実施の形態5)
上記の実施の形態4では、登録音声データ記憶部2124に記憶されている全ての登録音声データそれぞれと、識別対象音声データとの類似度が算出され、類似度が最も高い登録音声データの話者が識別対象音声データの話者として識別される。一方、実施の形態5では、識別対象音声データの話者の識別情報が入力され、登録音声データ記憶部212に記憶されている複数の登録音声データのうち、当該識別情報に予め対応付けられている1の登録音声データが取得される。そして、1の登録音声データと識別対象音声データとの類似度が算出され、類似度が閾値より高い場合、登録音声データの話者が識別対象音声データの話者として識別される。
図32は、本開示の実施の形態5における話者識別システムの構成を示す図である。
図32に示す話者識別システムは、マイクロホン1及び話者識別装置25を備える。なお、話者識別装置25は、マイクロホン1を備えていなくてもよいし、備えてもよい。
なお、本実施の形態5において、実施の形態1~4と同じ構成については同じ符号を付し、説明を省略する。
話者識別装置25は、登録対象音声データ取得部201、発話時間計測部207、登録部2065、識別対象音声データ取得部211、登録音声データ記憶部2125、登録音声データ取得部2135、特徴量抽出部214、特徴量抽出部215、話者識別モデル記憶部2164、モデル選択部2174、話者識別部2185、識別結果出力部219、入力受付部221及び識別情報取得部222を備える。
登録部2065は、発話時間計測部207によって計測された発話時間を示す発話時間情報及び識別情報取得部222によって取得された識別情報を対応付けた登録対象音声データを登録音声データとして登録する。登録部2065は、登録音声データを登録音声データ記憶部2125に登録する。
登録音声データ記憶部2125は、発話時間情報及び識別情報が対応付けられた登録音声データを記憶する。登録音声データ記憶部2125は、複数の登録音声データを記憶する。複数の登録音声データは、複数の登録音声データそれぞれの話者を識別するための識別情報と対応付けられている。
登録音声データ取得部2135は、登録音声データ記憶部2125に登録されている複数の登録音声データの中から、識別情報取得部222によって取得された識別情報と一致する識別情報が対応付けられている登録音声データを取得する。
話者識別部2185は、類似度算出部2315及び類似度判定部2325を備える。
類似度算出部2315は、識別対象音声データの特徴量と登録音声データの特徴量とを、選択した第3話者識別モデル及び第4話者識別モデルのいずれかに入力することにより、識別対象音声データと登録音声データとの類似度を第3話者識別モデル及び第4話者識別モデルのいずれかから取得する。
類似度判定部2325は、取得した類似度が閾値よりも高い場合、登録音声データの話者を識別対象音声データの話者として識別する。
続いて、本実施の形態5における話者識別装置25の登録処理及び話者識別処理のそれぞれの動作について説明する。
図33は、本実施の形態5における話者識別装置の登録処理の動作について説明するためのフローチャートである。
ステップS251及びステップS252の処理は、図15に示すステップS121及びステップS122の処理と同じであるので、説明を省略する。また、ステップS253の処理は、図27に示すステップS202の処理と同じであるので、説明を省略する。
次に、ステップS254において、登録部2065は、発話時間計測部207によって計測された発話時間情報及び識別情報取得部222によって取得された識別情報を対応付けた登録対象音声データを登録音声データとして登録音声データ記憶部2125に記憶する。これにより、登録音声データ記憶部2125は、発話時間情報及び識別情報を対応付けた登録音声データを記憶する。
図34は、本実施の形態5における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートであり、図35は、本実施の形態5における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。
ステップS261~ステップS264の処理は、図16に示すステップS131~ステップS134の処理と同じであるので、説明を省略する。
次に、ステップS265において、登録音声データ取得部2135は、登録音声データ記憶部2125に登録されている複数の登録音声データの中から、識別情報取得部222によって取得された識別情報と一致する識別情報が対応付けられている登録音声データを取得する。
ステップS266~ステップS270の処理は、図28に示すステップS214~ステップS218の処理と同じであるので、説明を省略する。
次に、ステップS271において、類似度算出部2315は、識別対象音声データの特徴量と登録音声データの特徴量とを、選択した第3話者識別モデル及び第4話者識別モデルのいずれかに入力することにより、識別対象音声データと登録音声データとの類似度を第3話者識別モデル及び第4話者識別モデルのいずれかから取得する。
次に、ステップS272において、類似度判定部2325は、類似度算出部2315によって算出された類似度が閾値より大きいか否かを判定する。
ここで、類似度算出部2315によって算出された類似度が閾値より大きいと判定された場合(ステップS272でYES)、ステップS273において、類似度判定部2325は、登録音声データの話者を識別対象音声データの話者として識別する。
一方、類似度算出部2315によって算出された類似度が閾値以下であると判定された場合(ステップS272でNO)、ステップS274において、類似度判定部2325は、識別対象音声データの話者が登録音声データの話者ではないと判定する。
ステップS275の処理は、図7に示すステップS44の処理と同じであるので、説明を省略する。
このように、本実施の形態5では、識別情報に対応付けられている登録音声データと識別対象音声データとの類似度のみが算出される。したがって、複数の登録音声データそれぞれと識別対象音声データとの複数の類似度が算出される実施の形態4と比較して、実施の形態5では、類似度算出の処理負荷を低減することができる。
(実施の形態6)
上記の実施の形態4及び実施の形態5では、登録音声データの話者の発話時間に応じて第3話者識別モデルと第4話者識別モデルとのいずれかが選択されるが、2つの異なる第3話者識別モデルと第4話者識別モデルとが用いられる場合、第3話者識別モデルと第4話者識別モデルとの出力値の範囲が異なるおそれがある。そこで、実施の形態6では、音声データの登録時において、第3話者識別モデル及び第4話者識別モデルのそれぞれに対し、同一の話者を識別することが可能な第3閾値及び第4閾値が算出され、算出された第3閾値及び第4閾値が記憶される。また、音声データの識別時において、算出された識別対象音声データと登録音声データとの類似度から第3閾値又は第4閾値が減算されることにより類似度が補正される。そして、補正された類似度が第3話者識別モデル及び第4話者識別モデルに共通の第5閾値と比較されることにより、識別対象音声データの話者が識別される。
まず、本開示の実施の形態6における話者識別モデル生成装置について説明する。
図36は、本開示の実施の形態6における話者識別モデル生成装置の構成を示す図である。
図36に示す話者識別モデル生成装置46は、長時間音声データ記憶部421、長時間音声データ取得部422、特徴量抽出部423、第3話者識別モデル生成部424、第3話者識別モデル記憶部425、第3話者識別部426、第3閾値算出部427、閾値記憶部428、短時間音声データ記憶部431、短時間音声データ取得部432、特徴量抽出部433、第4話者識別モデル生成部434、第4話者識別モデル記憶部435、第4話者識別部436及び第4閾値算出部437を備える。
なお、本実施の形態6において、実施の形態1~5と同じ構成については同じ符号を付し、説明を省略する。
第3話者識別部426は、発話時間が所定時間以上である複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせを第3話者識別モデルに入力することにより、2つの音声データの複数の組み合わせそれぞれの類似度を第3話者識別モデルから取得する。
第3閾値算出部427は、同一話者の2つの音声データの類似度と、互いに異なる話者の2つの音声データの類似度とを識別可能な第3閾値を算出する。第3閾値算出部427は、第3話者識別部426によって算出された複数の類似度を回帰分析することにより、第3閾値を算出する。
第4話者識別部436は、発話時間が所定の時間よりも短い複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせを第4話者識別モデルに入力することにより、2つの音声データの複数の組み合わせそれぞれの類似度を第4話者識別モデルから取得する。
第4閾値算出部437は、同一話者の2つの音声データの類似度と、互いに異なる話者の2つの音声データの類似度とを識別可能な第4閾値を算出する。第4閾値算出部437は、第4話者識別部436によって算出された複数の類似度を回帰分析することにより、第4閾値を算出する。
閾値記憶部428は、第3閾値算出部427によって算出された第3閾値と、第4閾値算出部437によって算出された第4閾値とを記憶する。
続いて、本開示の実施の形態6における話者識別システムについて説明する。
図37は、本開示の実施の形態6における話者識別システムの構成を示す図である。
図37に示す話者識別システムは、マイクロホン1及び話者識別装置26を備える。なお、話者識別装置26は、マイクロホン1を備えていなくてもよいし、備えてもよい。
なお、本実施の形態6において、実施の形態1~5と同じ構成については同じ符号を付し、説明を省略する。
話者識別装置26は、登録対象音声データ取得部201、発話時間計測部207、登録部2065、識別対象音声データ取得部211、登録音声データ記憶部2125、登録音声データ取得部2135、特徴量抽出部214、特徴量抽出部215、話者識別モデル記憶部2164、モデル選択部2174、話者識別部2186、識別結果出力部219、入力受付部221、識別情報取得部222及び閾値記憶部2236を備える。
話者識別部2186は、類似度算出部2315、類似度補正部2336及び類似度判定部2326を備える。
類似度補正部2336は、第3話者識別モデルから類似度を取得した場合、取得した類似度から第3閾値を減算する。また、類似度補正部2336は、第4話者識別モデルから類似度を取得した場合、取得した類似度から第4閾値を減算する。類似度補正部2336は、類似度算出部2315によって第3話者識別モデルを用いて類似度が算出された場合、閾値記憶部2236から第3閾値を読み出し、算出された類似度から第3閾値を減算する。また、類似度補正部2336は、類似度算出部2315によって第4話者識別モデルを用いて類似度が算出された場合、閾値記憶部2236から第4閾値を読み出し、算出された類似度から第4閾値を減算する。
閾値記憶部2236は、第3話者識別モデルを用いて算出された類似度を補正するための第3閾値と、第4話者識別モデルを用いて算出された類似度を補正するための第4閾値とを予め記憶する。閾値記憶部2236は、話者識別モデル生成装置46によって生成された第3閾値及び第4閾値を予め記憶する。
なお、話者識別モデル生成装置46は、閾値記憶部428に記憶された第3閾値及び第4閾値を話者識別装置26へ送信してもよい。話者識別装置26は、受信した第3閾値及び第4閾値を閾値記憶部2236に記憶してもよい。また、話者識別装置26の製造時において、話者識別モデル生成装置46によって生成された第3閾値及び第4閾値が閾値記憶部2236に記憶されてもよい。
類似度判定部2326は、類似度補正部2336によって第3閾値又は第4閾値が減算された類似度が第5閾値よりも高い場合、登録音声データの話者を識別対象音声データの話者として識別する。
続いて、本実施の形態6における話者識別モデル生成装置46の話者識別モデル生成処理の動作について説明する。
図38は、本実施の形態6における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第1のフローチャートであり、図39は、本実施の形態6における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第2のフローチャートであり、図40は、本実施の形態6における話者識別モデル生成装置の話者識別モデル生成処理の動作について説明するための第3のフローチャートである。
ステップS281~ステップS286の処理は、図30に示すステップS231~ステップS236の処理と同じであるので、説明を省略する。
次に、ステップS287において、第3話者識別部426は、第3話者識別モデル記憶部425から第3話者識別モデルを取得する。
次に、ステップS288において、第3話者識別部426は、特徴量抽出部423によって抽出された複数の長時間音声データの特徴量の中から、2つの長時間音声データの特徴量を取得する。
次に、ステップS289において、第3話者識別部426は、取得した2つの長時間音声データの特徴量を第3話者識別モデルに入力することにより、2つの長時間音声データの類似度を算出する。なお、2つの長時間音声データは、1人の話者によって発話された2つの長時間音声データと、2人の話者によって発話された2つの長時間音声データとのいずれかである。このとき、2つの長時間音声データが1人の話者によって発話された長時間音声データである場合の類似度は、2つの長時間音声データが2人の話者によって発話された長時間音声データである場合の類似度よりも高くなる。
次に、ステップS290において、第3話者識別部426は、全ての長時間音声データの組み合わせの類似度が算出されたか否かを判定する。ここで、全ての長時間音声データの組み合わせの類似度が算出されていないと判定された場合(ステップS290でNO)、ステップS288に処理が戻る。そして、第3話者識別部426は、複数の長時間音声データの特徴量の中から、類似度を算出していない2つの長時間音声データの特徴量を特徴量抽出部423から取得する。
一方、全ての長時間音声データの組み合わせの類似度が算出されたと判定された場合(ステップS290でYES)、ステップS291において、第3閾値算出部427は、第3話者識別部426によって算出された複数の類似度を回帰分析することにより、同一話者の2つの長時間音声データの類似度と、互いに異なる話者の2つの長時間音声データの類似度とを識別可能な第3閾値を算出する。
次に、ステップS292において、第3閾値算出部427は、算出した第3閾値を閾値記憶部428に記憶する。
ステップS293~ステップS298の処理は、図30及び図31に示すステップS237~ステップS242の処理と同じであるので、説明を省略する。
次に、ステップS299において、第4話者識別部436は、第4話者識別モデル記憶部435から第4話者識別モデルを取得する。
次に、ステップS300において、第4話者識別部436は、特徴量抽出部433によって抽出された複数の短時間音声データの特徴量の中から、2つの短時間音声データの特徴量を取得する。
次に、ステップS301において、第4話者識別部436は、取得した2つの短時間音声データの特徴量を第4話者識別モデルに入力することにより、2つの短時間音声データの類似度を算出する。なお、2つの短時間音声データは、1人の話者によって発話された2つの短時間音声データと、2人の話者によって発話された2つの短時間音声データとのいずれかである。このとき、2つの短時間音声データが1人の話者によって発話された短時間音声データである場合の類似度は、2つの短時間音声データが2人の話者によって発話された短時間音声データである場合の類似度よりも高くなる。
次に、ステップS302において、第4話者識別部436は、全ての短時間音声データの組み合わせの類似度が算出されたか否かを判定する。ここで、全ての短時間音声データの組み合わせの類似度が算出されていないと判定された場合(ステップS302でNO)、ステップS300に処理が戻る。そして、第4話者識別部436は、複数の短時間音声データの特徴量の中から、類似度を算出していない2つの短時間音声データの特徴量を特徴量抽出部433から取得する。
一方、全ての短時間音声データの組み合わせの類似度が算出されたと判定された場合(ステップS302でYES)、ステップS303において、第4閾値算出部437は、第4話者識別部436によって算出された複数の類似度を回帰分析することにより、同一話者の2つの短時間音声データの類似度と、互いに異なる話者の2つの短時間音声データの類似度とを識別可能な第4閾値を算出する。
次に、ステップS304において、第4閾値算出部437は、算出した第4閾値を閾値記憶部428に記憶する。
続いて、本実施の形態6における話者識別装置26の話者識別処理の動作について説明する。
図41は、本実施の形態6における話者識別装置の話者識別処理の動作について説明するための第1のフローチャートであり、図42は、本実施の形態6における話者識別装置の話者識別処理の動作について説明するための第2のフローチャートである。
ステップS311~ステップS321の処理は、図34及び図35に示すステップS261~ステップS271の処理と同じであるので、説明を省略する。
次に、ステップS322において、類似度補正部2336は、閾値記憶部2236から第3閾値又は第4閾値を取得する。このとき、モデル選択部2174によって第3話者識別モデルが選択された場合、類似度補正部2336は、閾値記憶部2236から第3閾値を取得する。また、モデル選択部2174によって第4話者識別モデルが選択された場合、類似度補正部2336は、閾値記憶部2236から第4閾値を取得する。
次に、ステップS323において、類似度補正部2336は、取得した第3閾値又は第4閾値を用いて、類似度算出部2315によって算出された類似度を補正する。このとき、類似度補正部2336は、類似度算出部2315によって算出された類似度から、第3閾値又は第4閾値を減算する。
次に、ステップS324において、類似度判定部2326は、類似度補正部2336によって補正された類似度が第5閾値より大きいか否かを判定する。なお、第5閾値は、例えば0である。類似度判定部2326は、補正された類似度が0より大きい場合、識別対象音声データが予め登録されている登録音声データと一致すると判定し、補正された類似度が0以下である場合、識別対象音声データが予め登録されている登録音声データと一致しないと判定する。
ここで、類似度補正部2336によって補正された類似度が第5閾値より大きいと判定された場合(ステップS324でYES)、ステップS325において、類似度判定部2326は、登録音声データの話者を識別対象音声データの話者として識別する。
一方、類似度補正部2336によって補正された類似度が第5閾値以下であると判定された場合(ステップS324でNO)、ステップS326において、類似度判定部2326は、識別対象音声データの話者が登録音声データの話者ではないと判定する。
ステップS327の処理は、図35に示すステップS275の処理と同じであるので、説明を省略する。
2つの異なる第3話者識別モデルと第4話者識別モデルとが用いられる場合、第3話者識別モデルと第4話者識別モデルとの出力値の範囲が異なるおそれがある。そこで、本実施の形態6では、登録時において、第3話者識別モデル及び第4話者識別モデルのそれぞれに対し、同一の話者を識別することが可能な第3閾値及び第4閾値が算出される。また、話者識別時において、算出された識別対象音声データと登録音声データとの類似度から第3閾値又は第4閾値が減算されることにより類似度が補正される。そして、補正された類似度が第3話者識別モデル及び第4話者識別モデルに共通の第5閾値と比較されることにより、識別対象音声データの話者をより高い精度で識別することができる。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
本開示の実施の形態に係る装置の機能の一部又は全ては典型的には集積回路であるLSI(Large Scale Integration)として実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
また、本開示の実施の形態に係る装置の機能の一部又は全てを、CPU等のプロセッサがプログラムを実行することにより実現してもよい。
また、上記で用いた数字は、全て本開示を具体的に説明するために例示するものであり、本開示は例示された数字に制限されない。
また、上記フローチャートに示す各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、同様の効果が得られる範囲で上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
本開示に係る技術は、識別対象の話者が予め登録されている話者であるか否かを識別する精度を向上させることができるので、話者を識別する技術として有用である。

Claims (9)

  1. コンピュータが、
    識別対象音声データを取得し、
    予め登録されている登録音声データを取得し、
    前記識別対象音声データの特徴量を抽出し、
    前記登録音声データの特徴量を抽出し、
    前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別
    登録対象音声データを取得し、
    前記登録対象音声データの特徴量を抽出し、
    前記登録対象音声データの前記特徴量を用いて前記登録対象音声データの話者の性別を識別し、
    識別した前記性別に対応付けた前記登録対象音声データを前記登録音声データとして登録し、
    前記性別の識別において、
    話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを取得し、
    前記登録対象音声データの前記特徴量と、予め記憶されている男性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記男性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度の平均を平均男性類似度として算出し、
    前記登録対象音声データの前記特徴量と、予め記憶されている女性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記女性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度の平均を平均女性類似度として算出し、
    前記平均男性類似度が前記平均女性類似度より高い場合、前記登録対象音声データの前記話者の性別を男性と識別し、
    前記平均男性類似度が前記平均女性類似度より低い場合、前記登録対象音声データの前記話者の性別を女性と識別する、
    話者識別方法。
  2. 前記第1話者識別モデル又は前記第2話者識別モデルの選択において、
    前記登録音声データの前記話者の性別が男性である場合、前記第1話者識別モデルを選択し、
    前記登録音声データの前記話者の性別が女性である場合、前記第2話者識別モデルを選択する、
    請求項1記載の話者識別方法。
  3. コンピュータが、
    識別対象音声データを取得し、
    予め登録されている登録音声データを取得し、
    前記識別対象音声データの特徴量を抽出し、
    前記登録音声データの特徴量を抽出し、
    前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別し、
    登録対象音声データを取得し、
    前記登録対象音声データの特徴量を抽出し、
    前記登録対象音声データの前記特徴量を用いて前記登録対象音声データの話者の性別を識別し、
    識別した前記性別に対応付けた前記登録対象音声データを前記登録音声データとして登録し、
    前記性別の識別において、
    話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを取得し、
    前記登録対象音声データの前記特徴量と、予め記憶されている男性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記男性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度のうちの最大値を最大男性類似度として算出し、
    前記登録対象音声データの前記特徴量と、予め記憶されている女性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記女性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度のうちの最大値を最大女性類似度として算出し、
    前記最大男性類似度が前記最大女性類似度より高い場合、前記登録対象音声データの前記話者の性別を男性と識別し、
    前記最大男性類似度が前記最大女性類似度より低い場合、前記登録対象音声データの前記話者の性別を女性と識別する、
    者識別方法。
  4. コンピュータが、
    識別対象音声データを取得し、
    予め登録されている登録音声データを取得し、
    前記識別対象音声データの特徴量を抽出し、
    前記登録音声データの特徴量を抽出し、
    前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別し、
    前記登録音声データは、複数の登録音声データを含み、
    前記話者の識別において、
    前記識別対象音声データの前記特徴量と前記複数の登録音声データの前記特徴量それぞれとを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データと前記複数の登録音声データそれぞれとの類似度を前記第1話者識別モデル及び前記第2話者識別モデルのいずれかから取得し、
    取得した類似度が最も高い前記登録音声データの話者を前記識別対象音声データの話者として識別する、
    者識別方法。
  5. 前記登録音声データは、複数の登録音声データを含み、
    前記複数の登録音声データは、前記複数の登録音声データそれぞれの話者を識別するための識別情報と対応付けられており、
    さらに、前記識別対象音声データの話者を識別するための識別情報を取得し、
    前記登録音声データの取得において、前記複数の登録音声データの中から、取得した前記識別情報と一致する識別情報が対応付けられている登録音声データを取得し、
    前記話者の識別において、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データと前記登録音声データとの類似度を前記第1話者識別モデル及び前記第2話者識別モデルのいずれかから取得し、
    取得した前記類似度が閾値よりも高い場合、前記登録音声データの話者を前記識別対象音声データの話者として識別する、
    請求項1~のいずれか1項に記載の話者識別方法。
  6. 機械学習時に、男性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせが前記第1話者識別モデルに入力されることにより、前記2つの音声データの複数の組み合わせそれぞれの類似度が前記第1話者識別モデルから取得され、同一話者の前記2つの音声データの前記類似度と、互いに異なる話者の前記2つの音声データの前記類似度とを識別可能な第1閾値が算出され、
    機械学習時に、女性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせが前記第2話者識別モデルに入力されることにより、前記2つの音声データの複数の組み合わせそれぞれの類似度が前記第2話者識別モデルから取得され、同一話者の前記2つの音声データの前記類似度と、互いに異なる話者の前記2つの音声データの前記類似度とを識別可能な第2閾値が算出され、
    前記話者の識別において、前記第1話者識別モデルから前記類似度を取得した場合、取得した前記類似度から前記第1閾値を減算し、前記第2話者識別モデルから前記類似度を取得した場合、取得した前記類似度から前記第2閾値を減算する、
    請求項記載の話者識別方法。
  7. コンピュータが、
    識別対象音声データを取得し、
    予め登録されている登録音声データを取得し、
    前記識別対象音声データの特徴量を抽出し、
    前記登録音声データの特徴量を抽出し、
    前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別し、
    前記登録音声データは、複数の登録音声データを含み、
    前記複数の登録音声データは、前記複数の登録音声データそれぞれの話者を識別するための識別情報と対応付けられており、
    さらに、前記識別対象音声データの話者を識別するための識別情報を取得し、
    前記登録音声データの取得において、前記複数の登録音声データの中から、取得した前記識別情報と一致する識別情報が対応付けられている登録音声データを取得し、
    前記話者の識別において、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データと前記登録音声データとの類似度を前記第1話者識別モデル及び前記第2話者識別モデルのいずれかから取得し、
    取得した前記類似度が閾値よりも高い場合、前記登録音声データの話者を前記識別対象音声データの話者として識別し、
    機械学習時に、男性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせが前記第1話者識別モデルに入力されることにより、前記2つの音声データの複数の組み合わせそれぞれの類似度が前記第1話者識別モデルから取得され、同一話者の前記2つの音声データの前記類似度と、互いに異なる話者の前記2つの音声データの前記類似度とを識別可能な第1閾値が算出され、
    機械学習時に、女性の複数の音声データのうちの2つの音声データの特徴量の全ての組み合わせが前記第2話者識別モデルに入力されることにより、前記2つの音声データの複数の組み合わせそれぞれの類似度が前記第2話者識別モデルから取得され、同一話者の前記2つの音声データの前記類似度と、互いに異なる話者の前記2つの音声データの前記類似度とを識別可能な第2閾値が算出され、
    前記話者の識別において、前記第1話者識別モデルから前記類似度を取得した場合、取得した前記類似度から前記第1閾値を減算し、前記第2話者識別モデルから前記類似度を取得した場合、取得した前記類似度から前記第2閾値を減算する、
    話者識別方法。
  8. 識別対象音声データを取得する識別対象音声データ取得部と、
    予め登録されている登録音声データを取得する登録音声データ取得部と、
    前記識別対象音声データの特徴量を抽出する第1抽出部と、
    前記登録音声データの特徴量を抽出する第2抽出部と、
    前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択する話者識別モデル選択部と、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別する話者識別部と、
    登録対象音声データを取得する登録対象音声データ取得部と、
    前記登録対象音声データの特徴量を抽出する第3抽出部と、
    前記登録対象音声データの前記特徴量を用いて前記登録対象音声データの話者の性別を識別する性別識別部と、
    識別した前記性別に対応付けた前記登録対象音声データを前記登録音声データとして登録する登録部と、
    を備え
    前記性別識別部は、
    話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを取得し、
    前記登録対象音声データの前記特徴量と、予め記憶されている男性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記男性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度の平均を平均男性類似度として算出し、
    前記登録対象音声データの前記特徴量と、予め記憶されている女性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記女性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度の平均を平均女性類似度として算出し、
    前記平均男性類似度が前記平均女性類似度より高い場合、前記登録対象音声データの前記話者の性別を男性と識別し、
    前記平均男性類似度が前記平均女性類似度より低い場合、前記登録対象音声データの前記話者の性別を女性と識別する、
    話者識別装置。
  9. 識別対象音声データを取得し、
    予め登録されている登録音声データを取得し、
    前記識別対象音声データの特徴量を抽出し、
    前記登録音声データの特徴量を抽出し、
    前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が男性である場合、男性の話者を識別するために男性の音声データを用いて機械学習された第1話者識別モデルを選択し、前記識別対象音声データの話者及び前記登録音声データの話者のいずれかの性別が女性である場合、女性の話者を識別するために女性の音声データを用いて機械学習された第2話者識別モデルを選択し、
    前記識別対象音声データの前記特徴量と前記登録音声データの前記特徴量とを、選択した前記第1話者識別モデル及び前記第2話者識別モデルのいずれかに入力することにより、前記識別対象音声データの前記話者を識別し、
    登録対象音声データを取得し、
    前記登録対象音声データの特徴量を抽出し、
    前記登録対象音声データの前記特徴量を用いて前記登録対象音声データの話者の性別を識別し、
    識別した前記性別に対応付けた前記登録対象音声データを前記登録音声データとして登録するようにコンピュータを機能させ、
    前記性別の識別において、
    話者の性別を識別するために男性及び女性の音声データを用いて機械学習された性別識別モデルを取得し、
    前記登録対象音声データの前記特徴量と、予め記憶されている男性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記男性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度の平均を平均男性類似度として算出し、
    前記登録対象音声データの前記特徴量と、予め記憶されている女性の複数の音声データの特徴量それぞれとを前記性別識別モデルに入力することにより、前記登録対象音声データと前記女性の複数の音声データそれぞれとの類似度を前記性別識別モデルから取得し、
    取得した複数の類似度の平均を平均女性類似度として算出し、
    前記平均男性類似度が前記平均女性類似度より高い場合、前記登録対象音声データの前記話者の性別を男性と識別し、
    前記平均男性類似度が前記平均女性類似度より低い場合、前記登録対象音声データの前記話者の性別を女性と識別する、
    話者識別プログラム。
JP2022509394A 2020-03-27 2021-02-15 話者識別方法、話者識別装置、及び話者識別プログラム Active JP7696331B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020057437 2020-03-27
JP2020057437 2020-03-27
PCT/JP2021/005466 WO2021192719A1 (ja) 2020-03-27 2021-02-15 話者識別方法、話者識別装置、話者識別プログラム、性別識別モデル生成方法及び話者識別モデル生成方法

Publications (2)

Publication Number Publication Date
JPWO2021192719A1 JPWO2021192719A1 (ja) 2021-09-30
JP7696331B2 true JP7696331B2 (ja) 2025-06-20

Family

ID=77891414

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022509394A Active JP7696331B2 (ja) 2020-03-27 2021-02-15 話者識別方法、話者識別装置、及び話者識別プログラム

Country Status (4)

Country Link
US (1) US12354606B2 (ja)
JP (1) JP7696331B2 (ja)
CN (1) CN115315746B (ja)
WO (1) WO2021192719A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023182014A1 (ja) * 2022-03-22 2023-09-28 パナソニックIpマネジメント株式会社 音声認証装置および音声認証方法
CN116110405B (zh) * 2023-04-11 2023-07-21 四川大学 一种基于半监督学习的陆空通话说话人识别方法及设备
KR20250062365A (ko) * 2023-10-30 2025-05-08 엘지전자 주식회사 화자 인식 장치 및 그의 동작 방법

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014048534A (ja) 2012-08-31 2014-03-17 Sogo Keibi Hosho Co Ltd 話者認識装置、話者認識方法及び話者認識プログラム
JP2018508799A (ja) 2015-12-30 2018-03-29 バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド 声紋認証処理方法及び装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130254787A1 (en) * 2006-05-02 2013-09-26 Invidi Technologies Corporation Method and apparatus to perform real-time audience estimation and commercial selection suitable for targeted advertising
US7822605B2 (en) * 2006-10-19 2010-10-26 Nice Systems Ltd. Method and apparatus for large population speaker identification in telephone interactions
CN103345467B (zh) * 2009-10-02 2017-06-09 独立行政法人情报通信研究机构 语音翻译系统
KR102505719B1 (ko) * 2016-08-12 2023-03-03 삼성전자주식회사 음성 인식이 가능한 디스플레이 장치 및 방법
US10497382B2 (en) * 2016-12-16 2019-12-03 Google Llc Associating faces with voices for speaker diarization within videos
EP3343432B1 (en) * 2016-12-29 2024-03-20 Elektrobit Automotive GmbH Generating training images for machine learning-based object recognition systems
KR20190024148A (ko) * 2017-08-31 2019-03-08 경북대학교 산학협력단 음성 인식 장치 및 음성 인식 방법
CN110020167B (zh) * 2017-12-22 2022-01-07 Oppo广东移动通信有限公司 用户性别识别方法、装置、存储介质及电子设备
CN110838295B (zh) * 2019-11-17 2021-11-23 西北工业大学 一种模型生成方法、声纹识别方法及对应装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014048534A (ja) 2012-08-31 2014-03-17 Sogo Keibi Hosho Co Ltd 話者認識装置、話者認識方法及び話者認識プログラム
JP2018508799A (ja) 2015-12-30 2018-03-29 バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド 声紋認証処理方法及び装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
RANJAN, Shivesh et al.,An i-Vector PLDA based gender identification approach for severely distorted and multilingual DARPA RATS Data,IEEE Workshop on Automatic Speech Recognition and Understanding,2015年12月,p.331-337
ROHDIN, Johan et al.,Robust 0-1 loss training for PLDA in speaker verification,日本音響学会講演論文集,2014年03月,p.101-102

Also Published As

Publication number Publication date
US12354606B2 (en) 2025-07-08
JPWO2021192719A1 (ja) 2021-09-30
US20230016655A1 (en) 2023-01-19
CN115315746A (zh) 2022-11-08
CN115315746B (zh) 2025-08-22
WO2021192719A1 (ja) 2021-09-30

Similar Documents

Publication Publication Date Title
US11882084B1 (en) Enhanced chatbot responses through machine learning
JP7696331B2 (ja) 話者識別方法、話者識別装置、及び話者識別プログラム
US20220253856A1 (en) System and method for machine learning based detection of fraud
JP5327415B1 (ja) 判別モデル学習装置、判別モデル学習方法および判別モデル学習プログラム
JP6052187B2 (ja) 最適クエリ生成装置、最適クエリ抽出方法および判別モデル学習方法
JPWO2019202941A1 (ja) 自己訓練データ選別装置、推定モデル学習装置、自己訓練データ選別方法、推定モデル学習方法、およびプログラム
CN110377733B (zh) 一种基于文本的情绪识别方法、终端设备及介质
US20150125072A1 (en) Data processing method for learning discriminator, and data processing apparatus therefor
CN112883990A (zh) 数据分类方法及装置、计算机存储介质、电子设备
CN115935344A (zh) 一种异常设备的识别方法、装置及电子设备
CN118212927B (zh) 基于声音特征的身份识别方法、系统、存储介质及电子设备
Alkurdi Enhancing Heart Disease Diagnosis Using Machine Learning Classifiers.
CN119991225B (zh) 对评价文本的评分修改方法、系统以及终端设备
CN118536001B (zh) 二维多模态表征学习的拉曼光谱识别方法、装置和设备
CN119130598A (zh) 电力现货市场市场主体串谋报价识别方法、装置及设备
CN114463746A (zh) 目标识别模型训练以及细胞识别方法、装置及电子设备
CN116842330A (zh) 一种可对比历史记录的保健信息处理方法及装置
Singh et al. Efficient model for prediction of parkinson's disease using machine learning algorithms with hybrid feature selection methods
US20240104178A1 (en) Information processing apparatus, information processing method, matching system, program, and storage medium
US12592238B2 (en) Information processing method, information processing device, and non-transitory computer readable recording medium storing information processing program
JP7174382B2 (ja) 学習装置、照合装置、学習方法、照合方法及びプログラム
CN117195895B (zh) 一种基于语义增强机制的关系抽取方法及系统
EP4550205A1 (en) Systems and methods of generative machine-learning guided by modal classification
US20250299101A1 (en) Model learning apparatus, model learning method, and program
CN116630677B (zh) 一种图像分类模型的训练方法、装置、计算机设备及介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250520

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250610

R150 Certificate of patent or registration of utility model

Ref document number: 7696331

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150