JP2009187000A - ユーザ音声診断装置及びユーザ音声診断方法 - Google Patents

ユーザ音声診断装置及びユーザ音声診断方法 Download PDF

Info

Publication number
JP2009187000A
JP2009187000A JP2009003711A JP2009003711A JP2009187000A JP 2009187000 A JP2009187000 A JP 2009187000A JP 2009003711 A JP2009003711 A JP 2009003711A JP 2009003711 A JP2009003711 A JP 2009003711A JP 2009187000 A JP2009187000 A JP 2009187000A
Authority
JP
Japan
Prior art keywords
voice
physical quantity
user
guidance
utterance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009003711A
Other languages
English (en)
Other versions
JP5185841B2 (ja
Inventor
Atsushi Okamoto
淳 岡本
Tomoyuki Kato
智之 加藤
Makoto Shosakai
誠 庄境
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asahi Kasei Corp
Original Assignee
Asahi Kasei Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asahi Kasei Corp filed Critical Asahi Kasei Corp
Priority to JP2009003711A priority Critical patent/JP5185841B2/ja
Publication of JP2009187000A publication Critical patent/JP2009187000A/ja
Application granted granted Critical
Publication of JP5185841B2 publication Critical patent/JP5185841B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】音声認識性能に影響を与えるユーザ音声の物理量の改善を支援する音声診断装置及びユーザ音声診断方法を提供する。
【解決手段】ユーザ音声診断装置10の音声信号入力部101は、ユーザの発声による音声信号を入力し、物理量算出部102は、入力された音声信号に基づいて母音間距離と話者固有度の両方を含む物理量を算出する。物理量提示部103は、算出された物理量をユーザに提示する。
【選択図】 図2

Description

本発明は、ユーザの音声の特徴を診断するユーザ音声診断装置及びユーザ音声診断方法に関するものである。
一般に、音声認識は、話者が発声した音声サンプルをある特徴パラメータの系列に変換する音響分析部と、音響分析部で得られた特徴パラメータの系列を予めメモリやハードディスクなどの記憶装置に蓄積した語彙単語の特徴パラメータに関する情報と照合して、最も類似度の高い音声を認識結果とする音声照合部の2つの部分から構成される。音声サンプルをある特徴パラメータの系列に変換する音響分析方法としては、ケプストラム分析や線形予測分析などが知られている。音声認識の中で、不特定話者の音声を認識する技術を一般に不特定話者音声認識と呼ぶ。不特定話者音声認識においては、語彙単語の特徴パラメータに関する情報が予め記憶装置に蓄積されているため、特定話者音声認識のようにユーザが音声認識させたい単語を登録するという作業は発生しない。また、語彙単語の特徴パラメータに関する情報の作成及びその情報と入力された音声から変換された特徴パラメータの系列との音声照合方法としては、隠れマルコフモデル(Hidden Markov Model)による方法が一般に用いられている。HMMによる方法においては、音節、半音節、音韻、biphone,triphoneなどの音声単位がHMMによりモデル化される。これらのモデルを一般に、音響モデルと呼ぶ。
従来、音響モデルは、男性/女性の性別、子供/大人/高齢者の年齢別、雑音に依存する話者環境別に複数種類作られることが多かった。これらの音響モデルは、上記の種類毎に作成される場合、該当する種類の音声を大量に集め、それらを学習サンプル母集団として、HMMによりモデル化され作成される。学習サンプル母集団は、一般に、ある分布群を形成するが、HMMは、それらの統計的なモデル化であるため、学習サンプル母集団の分布の中心部分に位置する音声と分布の周辺部分に位置する音声に対するモデル化精度は異なり、分布の中心部分に位置する音声の方が分布の周辺部分に位置する音声よりもモデル化精度は高い。従って、分布の中心部分に位置する音声の方が分布の周辺部分に位置する音声よりも精度良く音声認識される可能性が高く、分布から外れた音声は、精度良く認識されない可能性が極めて高い。そこで、音声認識装置及びサービスへの入力音声は、出来るだけ分布の中央部分に位置することが望ましい。音声の分布に影響する物理量としては、発声音量や発声速度が良く知られている。このため、従来からユーザの発声音量や発声速度をある範囲に収めることにより、音声認識性能を向上させる工夫がなされている(例えば、特許文献1参照)。
特許文献1では、ユーザの発声を分析し、当該分析結果に基づき音声認識の誤認識に寄与する誤認識要因を推定し、ユーザの発声を認識した結果を含む音声を合成して出力する応答手段を有し、推定された誤認識要因を強調した発声変換を施して応答する音声対話装置について開示している。誤認識要因としては、発声音量と発声速度を開示している。発声音量が大きすぎることが誤認識要因であると推定されたときは、ユーザの発声の認識結果部分をより大きい音量に発話変換して応答し、発声音量が小さすぎることが誤認識要因であると推定されたときは、ユーザの発声の誤認識結果部分をより小さい音量に発話変換して応答する。発声速度が速すぎることが誤認識要因であると推定されたときは、ユーザの発声の認識結果部分をより速い速度に発話変換して応答し、発声音量が遅すぎることが誤認識要因であると推定されたときは、ユーザの発声の認識結果部分をより遅い速度に発話変換して応答する。
特開2006−251061号公報
しかしながら、特許文献1に記載のように発声音量及び発声速度のみを調整するのみでは、十分な音声認識性能を得ることができなかった。
従来から、音声認識性能に大きく影響を与える物理量として、発声音量や発声速度だけではなく、音声の信号対雑音比(SNR:Signal to Noise Ratio)が知られている。さらに、最近の研究から、母音の発音がはっきりしているかの指標となる「母音間距離」や、標準的な声質か標準的でない声質かの指標となる「話者固有度」等の物理量も大きく影響することが判明した。しかしながら、従来においては、音声認識性能に影響を与える物理量を改善し、音声認識性能を向上させる方法は存在しなかった。
本発明はこのような従来の課題を解決するためになされたものであり、その目的は、音声認識性能に影響を与えるユーザ音声の物理量の改善を支援する音声診断装置及びユーザ音声診断方法を提供することにある。
上記課題を解決するために、請求項1に記載の発明は、ユーザの発声による音声信号を入力する音声信号入力手段と、前記音声信号入力手段により入力された音声信号に基づいて、数1式で定まる母音間距離と、前記ユーザの音響空間と不特定話者の音響空間との相互距離で定まる話者固有度と、の両方を含む物理量を算出する物理量算出手段と、前記物理量算出手段により算出された物理量の少なくとも一つをユーザに提示する物理量提示手段とを備えることを特徴とするユーザ音声診断装置を提供する。
Figure 2009187000
ただし、Spectrumx(f)は、母音xの音響スペクトル
本発明によれば、ユーザ音声診断装置は、ユーザの発声により入力された音声信号に基づいて母音間距離と話者固有度の両方を含む物理量を算出し、該物理量をユーザに提示するため、音声認識性能に影響を与えるユーザの母音間距離や話者固有度等の物理量の少なくとも一つをユーザに認識させ自己の発声でどの物理量に問題があったのかを把握させることが可能となる。
請求項2に記載の発明は、請求項1に記載のユーザ音声診断装置において、前記物理量提示手段は、前記物理量をレーダーチャート表示することを特徴とする。
本発明によれば、物理量提示手段はレーダーチャートにより各物理量の全体のバランスを容易に示すことができる。
請求項3に記載の発明は、請求項2に記載のユーザ音声診断装置において、前記物理量提示手段は、前記レーダーチャートの表示領域を、音声認識性能が比較的高い物理量が分布する安全領域と、音声認識性能が比較的低い物理量が分布する危険領域と、の少なくとも2つの領域に分類して表示することを特徴とする。
本発明によれば、物理量提示手段はレーダーチャートの表示領域を安全領域と危険領域との少なくとも2つの領域に分類して表示するため、ユーザは自己の発声が音声認識に適しているのか否かを視覚的に把握でき、どのような点を意識して発声すべきかを容易に認識することができる。
請求項4に記載の発明は、請求項3に記載のユーザ音声診断装置において、前記レーダーチャート表示された物理量のうちの少なくとも1つが前記危険領域に含まれている場合、該危険領域に含まれている物理量が前記安全領域に含まれるようにユーザの発声を誘導するためのガイダンスを出力する誘導手段をさらに備えることを特徴とする。
本発明によれば、誘導手段がガイダンスを出力することにより、ユーザの発声を改善させ、音声認識性能を向上させることが可能となる。
請求項5に記載の発明は、請求項4に記載のユーザ音声診断装置において、前記危険領域に含まれている前記物理量が2つ以上存在する場合、前記誘導手段は、前記物理量のうち前記安全領域から最も距離が離れている物理量が前記安全領域に含まれるようにユーザの発声を誘導するためのガイダンスを出力することを特徴とする。
本発明によれば、誘導手段は安全領域から最も距離が離れている物理量から順にユーザを誘導することができるため、効率的にユーザを誘導することができる。
請求項6に記載の発明は、請求項4又は5に記載のユーザ音声診断装置において、音声認識性能が比較的高い模範音声データを予め記憶する模範音声記憶手段をさらに備え、前記誘導手段は、前記ガイダンスを出力すると共に、前記模範音声データを再生した模範音声を出力することを特徴とする。
本発明によれば、誘導手段はガイダンスと共に模範音声を出力するため、ユーザの発声を容易に改善させることができる。
請求項7に記載の発明は、請求項6に記載のユーザ音声診断装置において、前記誘導手段は、前記ガイダンスを第1のスピーカから出力し、前記模範音声を第2のスピーカから出力することを特徴とする。
本発明によれば、誘導手段がガイダンスと模範音声を別々のスピーカから出力することで、ユーザはガイダンスと模範音声とを区別して聞き易い。
請求項8に記載の発明は、請求項6又は7に記載のユーザ音声診断装置において、前記物理量提示手段は、前記模範音声の物理量をレーダーチャート表示することを特徴とする。
本発明によれば、物理量提示手段が模範音声の物理量をレーダーチャート表示するため、ユーザは模範音声とユーザ音声との物理量の差をレーダーチャート上で視覚的に容易に認識することができる。
請求項9に記載の発明は、請求項6から8の何れか1項に記載のユーザ音声診断装置において、前記誘導手段は、前記模範音声を出力した後、ユーザに望ましい音声を復唱させるための復唱誘導ガイダンスを出力することを特徴とする。
本発明によれば、誘導手段は模範音声を出力した後に復唱誘導ガイダンスを出力するため、ユーザは復唱誘導ガイダンスに従って模範音声を真似て発声することができ、容易に発声を改善することができる。
請求項10に記載の発明は、請求項9に記載のユーザ音声診断装置において、前記物理量提示手段は、前記模範音声の物理量と、前記復唱誘導ガイダンスが出力された後にユーザの発声により再度入力された音声信号の物理量とを重ね合わせてレーダーチャート表示することを特徴とする。
本発明によれば、物理量提示手段は模範音声の物理量と再度入力された音声信号の物理量とを重ね合わせてレーダーチャート表示するため、ユーザは自己の発声が改善したのかをレーダーチャート上で容易に確認することができる。
請求項11に記載の発明は、請求項10に記載のユーザ音声診断装置において、再度入力された前記ユーザの発声による音声信号の物理量が前記危険領域に含まれる場合は、前記誘導手段は、音声認識に使用する音響モデルを別の音響モデルに置換すべき旨を音声認識装置に通知することを特徴とする。
本発明によれば、ユーザが再度発声しても物理量が危険領域に留まっている場合は、音声認識に使用する音響モデルを別の音響モデルに置換することができるため、ユーザに何度も発声させるという手間をかけずに音声認識性能を向上させることができる。
請求項12に記載の発明は、請求項1に記載のユーザ音声診断装置において、前記物理量提示手段は、ユーザの発音に対応する文字のフォントと、該文字の大きさと、該文字の書体と、該文字間の間隔と、の少なくとも1つを用いて前記物理量を表示することを特徴とする。
本発明によれば、文字のフォント等によりユーザの発声の物理量を視覚的に把握することが容易となる。
請求項13に記載の発明は、請求項1から12の何れか1項に記載のユーザ音声診断装置において、前記物理量提示手段は、前記物理量の代わりに前記物理量の偏差値を提示することを特徴とする。
本発明によれば、物理量提示手段は物理量の偏差値を提示するため、物理量の偏りを容易に認識できる。
請求項14に記載の発明は、請求項1から12の何れか1項に記載のユーザ音声診断装置において、前記物理量提示手段は、前記物理量の代わりに該物理量の偏差値を分類した段階値を提示することを特徴とする。
本発明によれば、物理量提示手段は偏差値を分類した段階値を提示するため、ユーザの音声の認識性能を容易に把握できる。
請求項15に記載の発明は、請求項1から14の何れか1項に記載のユーザ音声診断装置において、前記物理量算出手段及び前記物理量提示手段による処理は、前記音声信号入力手段への1回の音声信号の入力毎に行われることを特徴とする。
本発明によれば、ユーザ音声診断装置は1回の音声信号の入力毎に物理量の算出及び提示を行うため、ユーザの発声の手間をかけずに効率的に処理を行うことができる。
請求項16に記載の発明は、請求項1から14の何れか1項に記載のユーザ音声診断装置において、前記物理量算出手段及び前記物理量提示手段による処理は、前記音声信号入力手段への音声信号の複数回分の入力について行われることを特徴とする。
本発明によれば、ユーザ音声診断装置は音声信号の複数回分の入力について物理量の算出及び提示を行うため、より精度の高い診断を行うことができ、より適切なユーザの誘導を行うことができる。
請求項17に記載の発明は、ユーザの発声による音声信号を入力する音声信号入力ステップと、前記音声信号入力ステップにおいて入力された音声信号に基づいて、母音間距離と話者固有度の両方を含む物理量を算出する物理量算出ステップと、前記物理量算出ステップにおいて算出された物理量の少なくとも一つをユーザに提示する物理量提示ステップとを備えることを特徴とするユーザ音声診断方法を提供する。
本発明によれば、ユーザの発声により入力された音声信号に基づいて母音間距離と話者固有度の両方を含む物理量を算出し、該物理量の少なくとも一つをユーザに提示するため、音声認識性能に影響を与えるユーザの母音間距離や話者固有度等の物理量の少なくとも一つをユーザに認識させ改善させることが可能となる。
本発明によれば、ユーザ音声診断装置は、ユーザの発声により入力された音声信号に基づいて母音間距離と話者固有度の両方を含む物理量を算出し、該物理量の少なくとも一つをユーザに提示するため、音声認識性能に大きく影響を与えるユーザの母音間距離や話者固有度等の物理量の少なくとも一つをユーザに認識させ自己の発声でどの物理量に問題があったのかを把握させることが可能となる。
本発明の実施の形態に係るユーザ音声診断装置のハードウェア構成を示すブロック図である。 同実施の形態に係るユーザ音声診断装置の機能構成を示すブロック図である。 同実施の形態に係る表示装置に表示されるレーダーチャートの一例である。 話者固有度と音響モデル間距離との関係を表す概念図である。 同実施の形態に係る文字のフォント、サイズ、書体、文字間の間隔等で物理量を表現する場合の一例を示す図である。 同実施の形態に係る音声認識装置の機能構成を示すブロック図である。 実施例1における音声診断処理を示すフローチャートである。 実施例2における声診断処理を示すフローチャートである。 実施例3における音声診断処理を示すフローチャートである。 実施例4における音声診断処理を示すフローチャートである。 実施例5における音声診断処理を示すフローチャートである。 実施例6における音声診断処理を示すフローチャートである。 話者毎の音声認識性能の分布を示すグラフである。 各物理量のヒストグラムの一例を示す図である。 発声速度及び発声音量と、音声認識性能との関係を示す2次元グラフである。 発声速度及び発声音量と、音声認識性能との関係を示す2次元グラフである。 発声速度及び発声音量と、音声認識性能との関係を示す3次元グラフである。 母音間距離及び話者固有度と、音声認識性能との関係を示す2次元グラフである。 母音間距離及び話者固有度と、音声認識性能との関係を示す2次元グラフである。 母音間距離及び話者固有度と、音声認識性能との関係を示す3次元グラフである。
以下、本発明の実施の形態を、図面を参照しながら説明する。なお、以下の説明において参照する各図では、他の図と同等部分は同一符号によって示されている。
(ユーザ音声診断装置の構成)
図1は、本発明の実施の形態に係るユーザ音声診断装置10のハードウェア構成を示すブロック図である。ユーザ音声診断装置10は、ユーザの発声による空気振動を音声信号に変換するマイクロホン(microphone)11、液晶ディスプレイ等で構成された表示装置12、音声を出力する2つのスピーカ13,14、全体を制御するCPU(Central Processing Unit)15、メモリやハードディスク等の記憶装置16を含んで構成される。記憶装置16には、音声の物理量を算出及び診断するためのプログラム、物理量を算出するために使用される標準的な音声のパターンである標準パターン、ユーザの誘導のために出力される模範音声データやガイダンス等が記憶されている。また、ユーザ音声診断装置10は、データの授受が可能なように音声認識装置20に接続されている。
次に、図2を参照して、ユーザ音声診断装置10の機能構成について説明する。
音声信号入力部101は、マイクロホン11やA/Dコンバータ(不図示)等で構成され、ユーザの発声によりマイクロホン11に入力されたアナログの音声信号をデジタルの音声信号に変換して物理量算出部102に供給する。
物理量算出部102は、音声信号入力部101により入力された音声信号から物理量を算出する。物理量の算出方法としては、例えば、音声信号から一定周期のフレーム毎の特徴パラメータ系列を抽出し、当該抽出した特徴パラメータ系列から物理量を算出する。物理量には、母音間距離、話者固有度、発声速度、発声音量、SNR等が存在する。
ここで、「母音間距離」とは、音響空間における母音間の距離をいう。例えば、式(1)に示すように、ユーザの音声の中の5母音(日本語の場合は、「あ」、「い」、「う」、「え」、「お」)の相互距離の和で定義される。母音間距離が大きい話者ほど母音の発音の区別がはっきりしており、音声認識性能が高いといえる。詳細には、「山本一公,中川聖一,“発話スタイルによる話速・音韻間距離・ゆう度の違いと音声認識性能の関係”信学論(D),vol.J83-D-II,No.11,pp.2438-2447,2000.」に記載されている。
Figure 2009187000
また、「話者固有度」は、当該話者の音響空間と不特定話者の音響空間との相互距離と定義する。当該話者の音響空間は、当該話者の音声データのみから作成された当該話者特定音素モデルの集合体により近似できる。この音素モデルの集合体は、一般に、音響モデルと呼ばれる。一方、不特定話者の音響空間は、多数話者の音声データから作成された不特定話者音素モデルの集合体により近似できる。この不特定話者音素モデルの集合体である音響モデルを標準パターンという。
ゆえに、話者固有度は、当該話者音響モデルと不特定話者音響モデルの相互距離で近似できる。当該話者音響モデルを構成する音素モデルと不特定話者音響モデルを構成する音素モデルが、同じ構造の隠れマルコフモデルによりモデル化できることは、当業者にとって自明である。同じ構造を持つ2つの音素モデルの相互距離の算出には、例えば、「M. Shozakai and G. Nagino, “Analysis of speaking styles by two-dimensional visualization of aggregate of acoustic models,” ICSLP-04, 2004.」に記載の(2)式を使えば良い。さらに、同じ構造を持つ音素モデルの集合体である音響モデルの相互距離は、音素モデルの相互距離の総和で定義することができ、例えば、「M. Shozakai and G. Nagino, “Analysis of speaking styles by two-dimensional visualization of aggregate of acoustic models,” ICSLP-04, 2004.」に記載の(1)式を使えば良い。なお、話者固有度と音響モデル間距離との関係を図4に示す。
話者固有度が小さいほど標準パターンに近い声質であり、音声認識率は高いといえる。
また、SNR(=20×log10(音声のパワー/雑音のパワー))は、SNNR(=20×log10((音声のパワー+雑音のパワー)/雑音のパワー))であってもよい。
物理量提示部103は、物理量算出部102が計算した物理量をそのまま、又は診断した上でユーザに提示する。提示の方法としては、表示装置12に表示してもよいし、スピーカ13,14を用いて音声で通知してもよい。表示装置12に表示する場合には、例えば、図3に示すようなレーダーチャートを表示することができる。ここで、「レーダーチャート」とは、グラフの縦軸に相当する評価軸を複数軸以上中心から放射状に配置したグラフであり、複数の評価項目がある場合に全体のバランスを見るのに適したグラフである。さらに、物理量提示部103は、算出した物理量と、音声認識性能の高い模範音声の物理量とを重ね合わせてレーダーチャート表示することが可能である。
なお、レーダーチャート表示以外に、図5に示すように、文字のフォント、サイズ、書体、文字間の間隔等で物理量を表現してもよい。例えば、音声音量を文字のサイズで表現し、発声速度を文字間の間隔で表現し、SNRを文字の書体で表現し、母音間距離をイタリック体の文字で表示し、話者固有度を文字列のボールド体で表現することが考えられる。この場合、図5に示す(b)は、(a)に比較して音声音量が高く、かつ発声速度が速い発声であり、(c)は、(a)に比較して音声音量が低く、かつ発声速度が遅い発声であることがわかる。
また、物理量提示部103は診断機能1031を備えている。物理量提示部103は、診断機能1031を用いて、算出した物理量を診断した上で提示する。
例えば、物理量提示部103は、算出した物理量が、複数の話者の音声信号に基づいて作成された標準パターンの分布群のどこに位置するかを示すための情報として、物理量の偏差値を算出して提示する。物理量の偏差値の算出方法としては、例えば式(2)に示す一般的な計算式を用いて、ユーザの物理量が平均値の場合には偏差値が「50」、標準偏差が「10」となるように計算する。
Figure 2009187000
また、物理量提示部103は、レーダーチャートの表示領域を、音声認識性能が比較的高い物理量が分布する安全領域と、音声認識性能が比較的低い物理量が分布する危険領域と、に分類して表示する。ここで「安全領域」とは、音声が正しく認識される確率が例えば90%以上の物理量が分布する領域をいい、「危険領域」とは、音声認識性能が60%以下の物理量が分布する領域をいう。なお、この閾値は一例に過ぎず、例えば、音声認識性能が所定値(例えば70%)以上の物理量が分布する領域を「安全領域」、音声認識性能が所定値未満の物理量が分布する領域を「危険領域」としてもよい。また、領域の分類方法としては、領域の色分けをする、模様分けをする、境界線で区切られた領域毎に安全/危険の別を文字で表示する等が考えられる。
また、診断機能1031は、物理量が安全領域に含まれるか危険領域に含まれるかを判断するための指標として、物理量の偏差値から安全指数の計算を行う。具体的には、発声音量、発声速度、及び、話者固有度に関しては、標準パターンに近いものの方が音声認識性能が良いので、診断機能1031は、偏差値が「50」に近いものに安全指数「5」を割り振り、偏差値が「50」からずれていくにしたがって、安全指数を「4」、「3」、「2」、「1」と段階的に割り振る。SNR及び母音間距離に関しては、偏差値が大きい方が音声認識性能が良いので、偏差値の大きい順に「5」、「4」、「3」、「2」、「1」と段階的に安全指数を割り振る。
以上のように安全指数を割り振った場合、安全指数「2」と「1」は分布の端に位置することになるので、診断機能1031は、安全指数「2」と「1」が危険領域、安全指数「5」、「4」、「3」が安全領域に含まれていると診断する。なお、安全指数の段階は5段階に限らず、例えば3段階でも10段階でも構わない。
誘導部104は、ユーザの発声を音声ガイダンスにより誘導する。具体的には、レーダーチャート表示された物理量のうちの少なくとも1つが危険領域に含まれている場合、誘導部104は、当該危険領域に含まれている物理量が安全領域に含まれるようにユーザの発声を誘導するための音声ガイダンスをスピーカ13から出力する。図3に示すレーダーチャートにおいて色分けされた領域のうち最も外側の領域が危険領域である場合、3つの物理量(母音間距離、発声音量、発声速度)のうち母音間距離が危険領域に含まれているため、誘導部104は、例えば「もう少し滑舌良くお話ください」という音声ガイダンスを出力する。
なお、誘導部104は、危険領域に含まれている物理量が2つ以上存在する場合、効率よく順番に誘導ができるように、安全領域から最も距離が離れている物理量(すなわち、安全指数が小さい物理量)が安全領域に含まれるようにユーザの発声を誘導するための音声ガイダンスを出力する。
また、誘導部104は、音声ガイダンスをスピーカ13から出力した場合、模範音声を別のスピーカ14から出力する。さらに、誘導部104は、模範音声を出力した後、ユーザに望ましい音声の復唱を促すための復唱誘導ガイダンスを出力する。なお、誘導部104による誘導は音声ガイダンスに限らず、例えば、文字を表示することによるガイダンスであってもよい。
また、誘導部104は、何度かユーザに復唱させて入力した音声信号の物理量が未だ危険領域に含まれている場合には、現在使用している音響モデルを別の音響モデルに置換するように音声認識装置20に通知する。なお、音声認識装置20に音響モデル置換の通知を行う際には、ユーザに適した音響モデルが何かを通知してもよいし、ユーザの音声の物理量を通知して、ユーザに適した音響モデルを音声認識装置20に判断させてもよい。
模範音声記憶部105は、模範音声として再生して出力するための模範音声データを記憶装置16に記憶する。
なお、物理量算出部102、物理量提示部103及び誘導部104は、ユーザ音声診断装置10のCPU15が記憶装置16に記憶されているプログラムを実行することにより実現される機能である。
(音声認識装置の構成)
次に、音声認識装置20の構成について説明する。図6に示すように、音声認識装置20は、ユーザ音声診断装置10から取得した音声信号を特徴パラメータの系列に変換する音響分析部22と、音響分析部22で得られた特徴パラメータの系列を音響モデル21と照合して最も類似度の高い音声を認識結果とする照合部23と、を含んで構成される。これらの機能構成は、音声認識装置20の図示せぬCPUがメモリに記憶されたプログラムを実行することにより実現される。
音響モデル21は、複数話者の発声による音声信号に基づいて予め作成された語彙単語の特徴パラメータのモデルである。この音響モデル21には複数種類の音響モデルが含まれている。これらの複数種類の音響モデルは、物理量の特性が異なる話者の音声毎に学習サンプル母集団を生成しモデル化したものである。音声認識装置20は、通常はユーザ音声診断装置10で使用されている標準パターンに対応する音響モデルを使用して音声認識を行うが、ユーザ音声診断装置10からの音響モデル置換の通知を受けた場合には、音声認識に使用する音響モデルを置換して、音声認識性能を向上させる。
(実施例1)
次に、図7を参照して実施例1について説明する。まず、ユーザ音声診断装置10の音声信号入力部101は、ユーザの発声による音声信号を取り込む(ステップS101)。
次に、物理量算出部102は、入力された音声信号から、一定周期のフレーム毎の特徴パラメータを抽出する(ステップS104)。次に、物理量算出部102は、抽出された特徴パラメータと標準パターンを用いて、母音間距離、話者固有度、発声速度、発声音量、SNR等の物理量を算出する(ステップS107)。
以上の物理量を算出した後、診断機能1031は診断処理を行う(ステップS110)。具体的には、診断機能1031は、これらの物理量が標準パターンの分布群のどこに位置するかを示すためにそれらの偏差値を計算する。さらに、診断機能1031は、計算した偏差値の値からそれぞれが安全領域に含まれるか、危険領域に含まれるかを判断するために安全指数の計算を行う。物理量提示部103は、診断機能1031による診断の結果
をレーダーチャート、もしくはフォントや書体などで表示する(ステップS113)。
表示した物理量が危険領域に含まれる場合は、誘導部104はそれらの物理量が安全領域に含まれるように音声ガイダンスでユーザを誘導する(ステップS116)。
以上のように、ステップS110においてユーザの音声の特徴を標準パターンの分布に基づいて診断した結果が、ステップS113においてユーザに視覚的に把握可能となるように表示されるため、ユーザはステップS116において音声ガイダンスの誘導を受ける前にどのような点を意識して発声すべきかを知ることができるので、効率的な誘導が可能となる。なおステップS113においてユーザがより容易に視覚的に把握できるように、算出した物理量の一部のみを提示してもよい。
(実施例2)
次に、図8を参照して、実施例2について説明する。実施例1では、ステップS104以降の処理が、ステップS101での1回のユーザの発声による音声信号の入力毎に行われる。これに対して、実施例2では、ステップS104以降の処理が、複数回(所定の回数)のユーザの発声による音声信号の入力毎に(ステップS102の判断がYESの場合に)行われる。
このように、実施例2では所定の回数の音声信号を取り込むため、たとえば同じ単語を発声した場合の音声信号を繰り返し取り込む場合は、周囲の雑音の影響やユーザの言い淀みなどの影響を除去することが可能になる。また異なる単語を発声した音声信号を取り込む場合には、より多くの音素を取り込むことができる。このため、実施例2では、実施例1と比較して精度の高い物理量を算出することができ、精度の高い診断を行うことが可能となる。
(実施例3)
次に、図9を参照して実施例3について説明する。ステップS101からステップS113(音声取り込み、特徴パラメータ系列抽出、物理量算出、診断、表示)までの処理は、実施例1における処理と同じである。
ステップS114においては、診断の結果、すべての物理量が安全領域にあると判断した場合は(ステップS114;NO)、処理を中止する。一方、1つでも物理量が危険領域にあると判断した場合は(ステップS114;YES)、誘導部104は、危険領域にある物理量が安全領域に含まれるように音声ガイダンスで誘導する(ステップS116)。この際に複数の物理量が危険領域にある場合は、安全指数が最も小さい(つまり、音声認識性能が最も低い)物理量について誘導を行う。なお、安全領域から最も距離が遠い物理量について誘導を行ってもよい。誘導部104が誘導を行った後、音声信号入力部101は再び音声を取り込み(ステップS101)、上記と同じ処理を繰り返す。
以上のように、実施例3においては誘導を繰り返すので、ユーザは直前の誘導でどの程度正しく発声が出来るようになったかを安全指数を見て確認することができる。また複数の物理量が危険領域に含まれる場合は、安全指数の小さいものから誘導を行うので、効率的な誘導が可能になる。
(実施例4)
次に、図10を参照して実施例4について説明する。実施例3では、ステップS104以降の処理が、ステップS101での1回のユーザの発声による音声信号の入力毎に行われる。これに対して、実施例4では、ステップS104以降の処理が、複数回(所定の回数)のユーザの発声による音声信号の入力毎に(ステップS102の判断がYESの場合に)行われる。
実施例4の実施例3との違いは、実施例2の実施例1との違いと同様に、所定の回数だけ音声信号を取り込み、当該取り込んだ所定の回数分の音声信号について物理量算出処理及び表示処理を行う点にある。したがって、実施例4では、実施例2と同様に、より精度の高い診断を行い、より適切な誘導を行うことが可能となる。
(実施例5)
次に、図11を参照して実施例5について説明する。ステップS101〜114まで処理は実施例3における処理と同様である。ステップS115において、誘導部104は、ステップS116における誘導が所定の回数だけ繰り返されたか否かを判定する。所定の回数だけ誘導が繰り返されたと判定した場合(ステップS115;YES)、誘導部104はそれ以上の誘導を行わず、音声認識に使用する音響モデルを別の音響モデルに置換すべきことを音声認識装置20に通知して(ステップS117)、処理を終了する。
なお、所定の回数を決定する方法として話者固有度を利用してもよい。話者固有度はその話者の声質がどれだけ標準パターンに近いかをあらわす物理量であるから、誘導の結果、話者固有度の安全領域への変化が小さい場合は安全領域へ到達する可能性が低いと予想されるので所定の回数を小さく設定し、大きい場合は所定の回数を大きく設定すると、音響モデルの置換の判定を効率よく行うことが可能になる。
以上のように、実施例5においては、何度かユーザの誘導を行ってもすべての物理量が安全領域に含まれるように誘導できない場合に、音声認識装置20で使用される音響モデルをそのユーザの音声認識に適した音響モデルに置換することができる。これにより、音声認識装置20は、ユーザ音声診断装置10によるより少ない回数の誘導で、ユーザの音声を正しく認識することができる。
(実施例6)
次に、図12を参照して実施例6について説明する。実施例5では、ステップS104以降の処理が、ステップS101における1回のユーザの発声による音声信号の入力毎に行われる。これに対して、実施例6では、ステップS104以降の処理が、複数回(所定の回数)のユーザの発声による音声信号の入力毎に(ステップS102の判断がYESの場合に)行われる。
実施例6の実施例5との違いは、実施例2の実施例1との違い及び実施例2の実施例1との違いと同様に、所定の回数だけ音声信号を取り込み、当該取り込んだ所定の回数分の音声信号について物理量算出処理及び表示処理を行う点であるので、実施例2及び実施例4と同様により精度の高い診断を行うことが可能になる。このため、より適切な誘導が可能になる。
図13は、話者毎の音声認識性能の分布を示すグラフである。縦軸が音声認識性能、横軸が音声認識性能の降順に並べた話者を表す。同図に示すように、一般的に緩やかに音声認識性能が低下し、ある話者から急に音声認識性能が低下するような分布が得られる。音声認識性能が低い話者については、ユーザ音声診断装置10を使用してユーザを誘導する、又は音声認識装置20の音響モデルを置換することで、音声認識性能を改善することができる。
図14には、各物理量のヒストグラムの一例を示す。横軸が物理量、縦軸が頻度を表す。全話者は女性20名、発話数は1話者当り約30発語、1話者当りの母音出現数は約150、背景雑音の種類は自動車高速走行雑音、背景雑音の種類は1種類、発声音量及び発声速度は各話者の平均値である。各ヒストグラムの「低性能話者」は、「全話者」のうち、音声認識性能が所定値以下であった話者の分布を示す。同図の(c)、(d)から、低性能話者は、母音間分離度が比較的小さく、話者固有度が比較的大きいことがわかる。
図15及び図16は、発声速度及び発声音量と、音声認識性能との関係を2次元グラフで示したものであり、図17は3次元グラフで示したものである。図15は女性20名、図16及び図17は男女各20名ずつの音声データに基づいて作成されたグラフである。これらのグラフに示すように、分布に規則性がないため、発声速度と発声音量だけではどのような場合に音声認識性能が悪くなるのか判断するのが難しく、音声認識性能向上のためのユーザの誘導が難しい。
図18及び図19は、母音間距離及び話者固有度と、音声認識性能との関係を2次元グラフで示したものであり、図20は3次元グラフで示したものである。図18は女性20名、図19及び図20は男女各20名ずつの音声データに基づいたグラフである。
図18及び図19に示すグラフから、左上隅に分布する(つまり、話者固有度が大きく母音間距離が小さい)と音声認識性能が低下し、右下隅に分布する(つまり、話者固有度が小さく母音間距離が大きい)と音声認識性能が上がることがわかる。また、図20に示すグラフは、音声認識性能が低い領域と高い領域とに分離していることがわかる。したがって、母音間距離及び話者固有度は音声認識性能に大きな影響を与える物理量であり、音声認識性能が低い領域の話者を高い領域に誘導することで、音声認識性能が大きく改善することがわかる。
なお、図20に示すデータを記憶装置16に保持しておくことより、偏差値、安全指数等を計算しなくても、話者固有度と母音間距離の2つの物理量から直接認識精度を推定し、この認識精度に基づいて安全領域と危険領域を設定することが可能になる。また声質の異なる様々な標準パターンごとにこのデータを保持しておけば、ユーザに最適な音響モデルの選択が可能である。
以上説明したように、ユーザ音声診断装置10は、ユーザの発声により入力された音声信号に基づいて母音間距離と話者固有度の両方を含む物理量を算出し、当該物理量をユーザに提示するため、音声認識性能に大きな影響を与えるユーザの母音間距離や話者固有度等の物理量をユーザに認識させ改善させることが可能となる。
また、音声認識装置20にユーザ音声診断装置10を接続して、音声認識装置20にとって好適な入力音声の範囲をユーザにフィードバックすることにより、その範囲に収まるようにユーザの発声を誘導することができる。さらに、何度かユーザの発声の誘導を行ってもすべての物理量が安全領域に含まれるように誘導できない場合には、音声認識装置20で使用される音響モデルをユーザの音声認識に適した音響モデルに置換することができるため、全てのユーザに精度の良い音声認識性能を提供することが可能となる。
カーナビゲーションシステム等における音声認識装置の音声認識性能の向上に利用することができる。
10 ユーザ音声診断装置
11 マイクロホン
12 表示装置
13,14 スピーカ
16 記憶装置
101 音声信号入力部
102 物理量算出部
103 物理量提示部
1031 診断機能
104 誘導部
105 模範音声記憶部
20 音声認識装置
21 音響モデル
22 音響分析部
23 照合部

Claims (17)

  1. ユーザの発声による音声信号を入力する音声信号入力手段と、
    前記音声信号入力手段により入力された音声信号に基づいて、数1式で定まる母音間距離と、前記ユーザの音響空間と不特定話者の音響空間との相互距離で定まる話者固有度と、の両方を含む物理量を算出する物理量算出手段と、
    前記物理量算出手段により算出された物理量の少なくとも一つをユーザに提示する物理量提示手段と
    を備えることを特徴とするユーザ音声診断装置。
    Figure 2009187000
    ただし、Spectramx(f)は、母音xの音響スペクトル
  2. 前記物理量提示手段は、前記物理量をレーダーチャート表示することを特徴とする請求項1に記載のユーザ音声診断装置。
  3. 前記物理量提示手段は、前記レーダーチャートの表示領域を、音声認識性能が比較的高い物理量が分布する安全領域と、音声認識性能が比較的低い物理量が分布する危険領域と、の少なくとも2つの領域に分類して表示することを特徴とする請求項2に記載のユーザ音声診断装置。
  4. 前記レーダーチャート表示された物理量のうちの少なくとも1つが前記危険領域に含まれている場合、該危険領域に含まれている物理量が前記安全領域に含まれるようにユーザの発声を誘導するためのガイダンスを出力する誘導手段をさらに備えることを特徴とする請求項3に記載のユーザ音声診断装置。
  5. 前記危険領域に含まれている前記物理量が2つ以上存在する場合、
    前記誘導手段は、前記物理量のうち前記安全領域から最も距離が遠い物理量が前記安全領域に含まれるようにユーザの発声を誘導するためのガイダンスを出力することを特徴とする請求項4に記載のユーザ音声診断装置。
  6. 音声認識性能が比較的高い模範音声データを予め記憶する模範音声記憶手段をさらに備え、
    前記誘導手段は、前記ガイダンスを出力すると共に、前記模範音声データを再生した模範音声を出力することを特徴とする請求項4又は5に記載のユーザ音声診断装置。
  7. 前記誘導手段は、前記ガイダンスを第1のスピーカから出力し、前記模範音声を第2のスピーカから出力することを特徴とする請求項6に記載のユーザ音声診断装置。
  8. 前記物理量提示手段は、
    前記模範音声の物理量を前記レーダーチャート表示することを特徴とする請求項6又は7に記載のユーザ音声診断装置。
  9. 前記誘導手段は、前記模範音声を出力した後、ユーザに望ましい音声を復唱させるための復唱誘導ガイダンスを出力することを特徴とする請求項6から8の何れか1項に記載のユーザ音声診断装置。
  10. 前記物理量提示手段は、前記模範音声の物理量と、前記復唱誘導ガイダンスが出力された後にユーザの発声により再度入力された音声信号の物理量とを重ね合わせてレーダーチャート表示することを特徴とする請求項9に記載のユーザ音声診断装置。
  11. 再度入力された前記ユーザの発声による音声信号の物理量が前記危険領域に含まれる場合は、
    前記誘導手段は、音声認識に使用する音響モデルを別の音響モデルに置換すべき旨を音声認識装置に通知することを特徴とする請求項10に記載のユーザ音声診断装置。
  12. 前記物理量提示手段は、ユーザの発音に対応する文字のフォントと、該文字の大きさと、該文字の書体と、該文字間の間隔と、の少なくとも1つを用いて前記物理量を表示することを特徴とする請求項1に記載のユーザ音声診断装置。
  13. 前記物理量提示手段は、前記物理量の代わりに該物理量の偏差値を提示することを特徴とする請求項1から12の何れか1項に記載のユーザ音声診断装置。
  14. 前記物理量提示手段は、前記物理量の代わりに該物理量の偏差値を分類した段階値を提示することを特徴とする請求項1から12の何れか1項に記載のユーザ音声診断装置。
  15. 前記物理量算出手段及び前記物理量提示手段による処理は、前記音声信号入力手段への1回の音声信号の入力毎に行われることを特徴とする請求項1から14の何れか1項に記載のユーザ音声診断装置。
  16. 前記物理量算出手段及び前記物理量提示手段による処理は、前記音声信号入力手段への音声信号の複数回分の入力について行われることを特徴とする請求項1から14の何れか1項に記載のユーザ音声診断装置。
  17. ユーザの発声による音声信号を入力する音声信号入力ステップと、
    前記音声信号入力ステップにおいて入力された音声信号に基づいて、母音間距離と話者固有度の両方を含む物理量を算出する物理量算出ステップと、
    前記物理量算出ステップにおいて算出された物理量の少なくとも一つをユーザに提示する物理量提示ステップと
    を備えることを特徴とするユーザ音声診断方法。
JP2009003711A 2008-01-10 2009-01-09 ユーザ音声診断装置及びユーザ音声診断方法 Expired - Fee Related JP5185841B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009003711A JP5185841B2 (ja) 2008-01-10 2009-01-09 ユーザ音声診断装置及びユーザ音声診断方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008003260 2008-01-10
JP2008003260 2008-01-10
JP2009003711A JP5185841B2 (ja) 2008-01-10 2009-01-09 ユーザ音声診断装置及びユーザ音声診断方法

Publications (2)

Publication Number Publication Date
JP2009187000A true JP2009187000A (ja) 2009-08-20
JP5185841B2 JP5185841B2 (ja) 2013-04-17

Family

ID=41070248

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009003711A Expired - Fee Related JP5185841B2 (ja) 2008-01-10 2009-01-09 ユーザ音声診断装置及びユーザ音声診断方法

Country Status (1)

Country Link
JP (1) JP5185841B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012220701A (ja) * 2011-04-08 2012-11-12 Hitachi Ltd 音声合成装置及びその合成音声修正方法
CN109903777A (zh) * 2019-01-15 2019-06-18 华南理工大学 一种基于元音谱空间衰减率的异常说话人与正常说话人区分方法
JP2019164232A (ja) * 2018-03-19 2019-09-26 株式会社リコー 共有端末、方法、プログラム、共有システム及び方法
JP2020144213A (ja) * 2019-03-06 2020-09-10 Kddi株式会社 モデル間距離を用いた発音評価用のプログラム、装置及び方法
WO2021212717A1 (zh) * 2020-04-24 2021-10-28 中科新悦(苏州)科技有限公司 音频数据分析方法、电子设备及存储介质

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109727608B (zh) * 2017-10-25 2020-07-24 香港中文大学深圳研究院 一种基于中文语音的病态嗓音评估系统

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61107373A (ja) * 1984-10-31 1986-05-26 富士通株式会社 発声訓練装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61107373A (ja) * 1984-10-31 1986-05-26 富士通株式会社 発声訓練装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200200044005; 山本 一公 Kazumasa YAMAMOTO: '発話スタイルの違いが音声認識に及ぼす影響についての検討 A Study on Differences of Speaking Style and' 電子情報通信学会技術研究報告 Vol.99 No.121 IEICE Technical Report 第99巻, 19990618, 社団法人電子情報通信学会 The Institute of Electro *
JPN6012060224; 山本 一公 Kazumasa YAMAMOTO: '発話スタイルの違いが音声認識に及ぼす影響についての検討 A Study on Differences of Speaking Style and' 電子情報通信学会技術研究報告 Vol.99 No.121 IEICE Technical Report 第99巻, 19990618, 社団法人電子情報通信学会 The Institute of Electro *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012220701A (ja) * 2011-04-08 2012-11-12 Hitachi Ltd 音声合成装置及びその合成音声修正方法
JP2019164232A (ja) * 2018-03-19 2019-09-26 株式会社リコー 共有端末、方法、プログラム、共有システム及び方法
JP7091745B2 (ja) 2018-03-19 2022-06-28 株式会社リコー 表示端末、プログラム、情報処理システム及び方法
CN109903777A (zh) * 2019-01-15 2019-06-18 华南理工大学 一种基于元音谱空间衰减率的异常说话人与正常说话人区分方法
CN109903777B (zh) * 2019-01-15 2020-10-27 华南理工大学 一种基于元音谱空间衰减率的异常说话人与正常说话人区分方法
JP2020144213A (ja) * 2019-03-06 2020-09-10 Kddi株式会社 モデル間距離を用いた発音評価用のプログラム、装置及び方法
JP7039511B2 (ja) 2019-03-06 2022-03-22 Kddi株式会社 モデル間距離を用いた発音評価用のプログラム、装置及び方法
WO2021212717A1 (zh) * 2020-04-24 2021-10-28 中科新悦(苏州)科技有限公司 音频数据分析方法、电子设备及存储介质

Also Published As

Publication number Publication date
JP5185841B2 (ja) 2013-04-17

Similar Documents

Publication Publication Date Title
Dahake et al. Speaker dependent speech emotion recognition using MFCC and Support Vector Machine
CN106782607B (zh) 确定热词适合度
Friedland et al. Prosodic and other long-term features for speaker diarization
JP4911034B2 (ja) 音声判別システム、音声判別方法及び音声判別用プログラム
US20140207457A1 (en) False alarm reduction in speech recognition systems using contextual information
JP5185841B2 (ja) ユーザ音声診断装置及びユーザ音声診断方法
EP2048655A1 (en) Context sensitive multi-stage speech recognition
KR20080050311A (ko) 음성 처리 장치 및 음성 처리 방법 및 프로그램
JP5752060B2 (ja) 情報処理装置、大語彙連続音声認識方法及びプログラム
JP2021152682A (ja) 音声処理装置、音声処理方法、およびプログラム
JP2009128675A (ja) 音声を認識する装置、方法およびプログラム
JP2016062069A (ja) 音声認識方法、及び音声認識装置
JP4769098B2 (ja) 音声認識信頼度推定装置、その方法、およびプログラム
JP4353202B2 (ja) 韻律識別装置及び方法、並びに音声認識装置及び方法
Quan et al. Reduce the dimensions of emotional features by principal component analysis for speech emotion recognition
Grewal et al. Isolated word recognition system for English language
US20230148275A1 (en) Speech synthesis device and speech synthesis method
JP3444108B2 (ja) 音声認識装置
JP4839970B2 (ja) 韻律識別装置及び方法、並びに音声認識装置及び方法
JPH1185190A (ja) 音声認識装置及び音声認識方法
JP4259100B2 (ja) 音声認識用未知発話検出装置及び音声認識装置
JP7159655B2 (ja) 感情推定システムおよびプログラム
KR20100088461A (ko) 음성 신호를 이용한 감정 인식 장치 및 방법
JP2002189487A (ja) 音声認識装置および音声認識方法
KR20100094182A (ko) 음성 신호를 이용한 감정 인식 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130118

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160125

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

LAPS Cancellation because of no payment of annual fees