JP2013120379A - スペクトル歪みパラメータ推定値補正装置とその方法とプログラム - Google Patents

スペクトル歪みパラメータ推定値補正装置とその方法とプログラム Download PDF

Info

Publication number
JP2013120379A
JP2013120379A JP2011269727A JP2011269727A JP2013120379A JP 2013120379 A JP2013120379 A JP 2013120379A JP 2011269727 A JP2011269727 A JP 2011269727A JP 2011269727 A JP2011269727 A JP 2011269727A JP 2013120379 A JP2013120379 A JP 2013120379A
Authority
JP
Japan
Prior art keywords
spectrum
distortion
logarithmic
estimated value
estimate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011269727A
Other languages
English (en)
Other versions
JP5683446B2 (ja
Inventor
Takuya Yoshioka
拓也 吉岡
Tomohiro Nakatani
智広 中谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2011269727A priority Critical patent/JP5683446B2/ja
Publication of JP2013120379A publication Critical patent/JP2013120379A/ja
Application granted granted Critical
Publication of JP5683446B2 publication Critical patent/JP5683446B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Circuit For Audible Band Transducer (AREA)

Abstract

【課題】加法性歪み対数スペクトルの時系列と加法性歪み対数スペクトルの分散と乗法性歪み対数スペクトルを出力するスペクトル歪みパラメータ推定値補正方法を提供する。
【解決手段】この発明のスペクトル歪みパラメータ推定値補正方法は、パラメータ推定値初期化ステップと、パラメータ推定値選択ステップと、劣化対数スペクトルモデル合成ステップと、パラメータ推定値更新ステップと、収束判定ステップと、パラメータ推定値出力ステップとを備え、劣化対数スペクトルの時系列と公知の方法で求められた加法性歪み対数スペクトルの推定値の一次的な時系列が与えられたときに、各時間フレームにおける加法性歪み対数スペクトルの補正された推定値と、乗法性歪み対数スペクトル推定値と、加法性歪み対数スペクトルの分散の推定値を計算し、これらをスペクトル歪みパラメータの推定値として出力する。
【選択図】図1

Description

この発明は、音声信号に重畳した歪みを抑圧するために必要なスペクトル歪みパラメータを推定する装置とその方法とプログラムに関する。
スペクトル歪みパラメータとは、クリーン音声に重畳した加法性歪みないし乗法性歪みのスペクトルの時系列を表現するパラメータである。自動音声認識装置やテレビ会議装置等の音声処理装置を雑音や残響のある環境で使用する場合、雑音や残響、マイクロホン固有の特性によって生じる加法性・乗法性歪みを、スペクトル歪み抑圧装置を用いて抑圧する必要がある。スペクトル歪みパラメータは、スペクトル歪み抑圧装置が歪みを抑圧する過程で用いられる。
従来のスペクトル歪み抑圧装置が実行する処理の手順、すなわちスペクトル歪み抑圧方法について説明する。スペクトル歪み抑圧方法は、入力される劣化スペクトル系列からスペクトル歪みパラメータを推定する歪み推定ステップと、劣化スペクトル系列とスペクトル歪みパラメータを用いて強調スペクトル系列を計算する強調ステップを含む。ただし、劣化スペクトルと強調スペクトルは、それぞれ歪みによって劣化した音声のスペクトルと歪みを抑圧した後の音声のスペクトルを指す。
強調ステップを実施する方法には、VTS(Vector Taylor Series)法のように、スペクトル歪みパラメータとして加法性歪みのスペクトル(あるいは対数スペクトル)だけでなく、乗法性歪みのスペクトル(あるいは対数スペクトル)と加法性歪みの対数スペクトルの分散も必要とする方法が存在する。
歪み推定ステップを実施する方法には、雑音、すなわち加法性歪みが定常であることを仮定して、発話全体で平均された加法性歪みのスペクトルと、乗法性歪みのスペクトル、及び加法性歪みの対数スペクトルの分散を計算する方法が知られている。この方法によると加法性歪みのスペクトルと乗法性歪みのスペクトルと加法性歪みの対数スペクトルの分散が得られるので、強調ステップとしてVTS法を用いることができる。これとは別に、加法性歪みの定常性を仮定しないで歪み推定ステップを実施する方法も存在するが、この方法はスペクトル歪みパラメータとして各時間フレームにおける加法性歪みのスペクトルしか推定しない(非特許文献1と2)。この方法では乗法性歪みのスペクトルと加法性歪みの対数スペクトルの分散が得られないので、強調ステップとしてVTS法を用いることができない。
I. A. McCowan and H. Bourlard, "Microphone array post-filter based on noise field coherence," IEEE Trans. Speech, Audio Process., vol. 11, no.6, pp.709-716, 2003. K. Lebart, J. M. Boucher, and P. N. Denbigh, "A new method based on spectral subtraction for speech dereverberation," Acta Acustica united with Acustica, vol. 87, pp.359-366, 2001.
従来の歪み推定ステップを実施する方法には、非定常性な雑音環境において、加法性歪みのスペクトル系列と乗法性歪みのスペクトルと加法性歪みの対数スペクトルの分散を推定する方法は存在しなかった。よって、高精度なスペクトル歪み抑圧手段であるVTS法を非定常な雑音環境に適切に適用できず、十分なスペクトル歪み抑圧精度及び音声認識精度が得られないという課題があった。
この発明はこの課題を解決するためになされたものであり、劣化対数スペクトルの時系列と公知の方法で事前に求められた加法性歪みの対数スペクトルの一次的な推定値の時系列が与えられたときに、各時間フレームにおける加法性歪み対数スペクトルの補正された推定値の時系列と、乗法性歪みの対数スペクトルの推定値と、加法性歪みの対数スペクトルの分散の推定値を計算し、これらをスペクトル歪みパラメータの推定値として出力するスペクトル歪みパラメータ推定値補正装置とその方法とプログラムを提供することを目的とする。
この発明のスペクトル歪みパラメータ推定値補正装置は、劣化対数スペクトルの時系列と加法性歪み対数スペクトルの一次的な推定値である参照対数スペクトルの時系列とを入力とし、加法性歪み対数スペクトルの補正された推定値の時系列と加法性歪み対数スペクトル分散の推定値と乗法性歪み対数スペクトルの推定値とを出力するスペクトル歪みパラメータ推定値補正装置であって、パラメータ推定値更新部とパラメータ推定値出力部と、を具備する。パラメータ推定更新部は、バイアススペクトルと加法性歪み対数スペクトル分散と乗法性歪み対数スペクトルとからなる未知パラメータの推定値を、これら未知パラメータに関する尤度関数が最大化ないし増大されるように計算する。パラメータ推定値出力部は、加法性歪み対数スペクトルの補正された推定値を参照対数スペクトルとバイアススペクトルの推定値の和として計算する。
この発明のスペクトル歪みパラメータ推定値補正装置によれば、加法性歪み対数スペクトルの一次的な推定値があれば、加法性歪み対数スペクトルの補正された推定値の時系列と、乗法性歪み対数スペクトルの推定値と、加法性歪み対数スペクトル分散の推定値を計算することができる。よって、このスペクトル歪みパラメータ推定値補正装置と加法性歪み対数スペクトル系列だけを推定する公知の歪み推定ステップ実施手段(非特許文献1と2)を用いて歪み推定ステップを実行し、VTS法を用いて強調ステップを実行するスペクトル歪み抑圧装置によって、非定常雑音環境において音声に重畳した歪みを精度よく抑圧できる。これによって、このスペクトル歪み抑圧装置を用いた音声認識装置は、非定常雑音環境でも高い音声認識精度をもつ。
この発明のスペクトル歪みパラメータ推定値補正装置100の機能構成例を示す図。 スペクトル歪みパラメータ推定値補正装置100の動作フローを示す図。 パラメータ推定部10の機能構成例を示す図。 パラメータ推定部10の動作フローを示す図。 パラメータ推定値更新部14の機能構成例を示す図。 パラメータ推定値更新部14の動作フローを示す図。 この発明の音声認識装置200の機能構成例を示す図。 音声認識装置200の動作フローを示す図。
以下、この発明の実施の形態を図面を参照して説明する。複数の図面中同一のものには
同じ参照符号を付し、説明は繰り返さない。実施例の説明の前にこの発明の基本的な原理について説明する。
〔この発明の原理〕
まず、以降の説明で使用する文言について説明する。パワースペクトル、すなわち周波数帯域毎のパワーの配列を単にスペクトルと称する。スペクトルはどのような分析方法を用いて計算してもよい。例えば、短時間フーリエ変換、メルフィルタバンク分析、ガンマトーンフィルタバンク分析等のスペクトル分析方法を用いることができる。また、スペクトルの対数値を対数スペクトルと称する。スペクトルと対数スペクトルは互いに一意に変換できる。さらに、時間フレーム毎のXXからなる時系列をXX系列と称する。例えば、対数スペクトル系列は、時間フレーム毎の対数スペクトルの時系列を指す。
加法性歪みの対数スペクトル、乗法性歪みの対数スペクトル、加法性歪みの対数スペクトルの分散を、それぞれ加法性歪み対数スペクトル、乗法性歪み対数スペクトル、加法性歪み対数スペクトル分散と称する。また、入力される加法性歪み対数スペクトルの一次的な推定値を参照対数スペクトルと称する。
次に各種データの変数名を定義する。歪みによって劣化した音声信号から抽出された劣化対数スペクトルをx=(xn,jj=1,…,F、公知の方法で事前に求められた加法性歪み対数スペクトルの一次的な推定値、すなわち参照対数スペクトルをr=(rn,jj=1,…,Fと表記する。ただし、Fは処理対象の周波数チャネルの個数、nは時間フレームのインデクスである。また、観測されない真の加法性歪み対数スペクトルをμ=(μn,jj=1,…,F、乗法性歪み対数スペクトルをh=(hj=1,…,F、加法性歪み対数スペクトル分散をσ=(σj=1,…,Fと表記する。この表記から明らかなように、hとσは時間に依存しないと仮定する。さらに、μn,j−rn,jは時間に依存しないと仮定し、これをbと表記する。以降、b=(bj=1,…,Fをバイアススペクトルと称する。
この発明のスペクトル歪みパラメータ推定値補正方法は、クリーンな音声の対数スペクトル系列のモデルであるクリーン対数スペクトルモデルを用いる。クリーン対数スペクトルモデルとしては、混合正規分布(GMM:Gaussian Mixture Model)、隠れマルコフモデル(HMM:Hidden Markov Model)、切替線形動的モデル(SLDM:Switching Linear Dynamical Model)等を用いることができる。時間フレームの個数をT、クリーン対数スペクトル系列をs=(sn=1,…,Tと書くと、GMMを用いる場合のクリーン対数スペクトル系列の確率密度関数は次式で与えられる。
Figure 2013120379
ただし、kは時間フレームnにおけるGMMの状態を表す変数であり、1〜Kの範囲の値を取り得る。また、KはGMMの混合数、k=(kn=1,…,Tは状態kの時系列、f(x;μ,σ)は、平均μ、分散σの正規分布の確率密度関数である。なお、式(2)では、可読性を高めるために、時間フレームのインデクスnを省略している。以降の説明において、文脈から明らかな場合はこのように時間フレームのインデクスを省略して表記する。HMMあるいはSLDMを用いる場合、クリーン対数スペクトル系列の確率密度関数pS→(s)はそれぞれ次式で定義される。
Figure 2013120379
クリーン対数スペクトルモデルのパラメータであるπ,πk|k′,νk,j,τk,j,αk,j,βk,j,γk,jは、公知の学習方法を用いて予め訓練データから求められている。なお、上記したクリーン対数スペクトルモデルの例では対角共分散行列を仮定したが、対角共分散行列の代わりに全共分散行列を用いることもできる。
この発明のスペクトル歪みパラメータ推定値補正方法は、劣化対数スペクトル系列x=(xn=1,…,Tと参照対数スペクトル系列r=(rn=1,…,Tが与えられときに、バイアススペクトルb、乗法性歪み対数スペクトルh、加法性歪み対数スペクトル分散σを最尤推定によって推定する。つまり、次式で定義されるバイアススペクトルの推定値b^、乗法性歪み対数スペクトルの推定値h^、加法性歪み対数スペクトル分散の推定値σ^を計算する。
Figure 2013120379
ここでpX→(x;b,h,σ,r)は劣化対数スペクトル系列の確率密度関数であり、バイアススペクトルb、乗法性歪み対数スペクトルh、加法性歪み対数スペクトル分散σの尤度関数である。バイアススペクトルb、乗法性歪み対数スペクトルh、加法性歪み対数スペクトル分散σを最尤推定によって推定した後に、加法性歪み対数スペクトルの補正された推定値をμ^=r+b^として求め、加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1,…,Tと乗法性歪み対数スペクトルの推定値h^と加法性歪み対数スペクトル分散の推定値σ^を出力する。式(6)の最大化には、最急降下法等の汎用的な最適化技法を用いても良いし、後述する実施例で説明するEMアルゴリズムを用いても良い。
劣化対数スペクトル系列xの確率密度関数pX→(x;b,h,σ,r)について説明する。この発明のスペクトル歪みパラメータ推定値補正方法では、この確率密度関数を以下のように定義する。
Figure 2013120379
K→(k)は状態系列の事前確率であり、クリーン対数スペクトルモデルとしてGMMやSLDMを用いる場合は式(8)、HMMを用いる場合は式(9)により与えられる。
Figure 2013120379
X→|K→(x|k;b,h,σ,r)は状態系列が既知の条件下での劣化対数スペクトル系列の確率密度関数であり、クリーン対数スペクトル系列s=(sn=1,…,Tを用いて更に次式のように展開される。
Figure 2013120379
ただし、RはF次元ユークリッド空間を表す。状態系列が既知の条件下でのクリーン対数スペクトル系列の確率密度関数pS→|K→p(s|k)は、クリーン対数スペクトルモデルとしてGMMやHMMを用いる場合は式(11)、SLDMを用いる場合は式(12)として与えられる。
Figure 2013120379
一方、クリーン対数スペクトル系列と状態系列が既知の条件下での劣化スペクトル系列の確率密度関数pX→|S→,K→p(x|s,k;b,h,σ,r)は、次式のように時間フレーム毎の確率密度関数の積として表現される。
Figure 2013120379
クリーン対数スペクトルと状態が既知の条件下での劣化対数スペクトルの確率密度関数pX|S,K(x|s,k;b,h,σ,r)を歪みモデルと称する。歪みモデルは、具体的にはVTS(vector taylor series)モデルや位相感応(phase-sensitive)モデル、あるいはリフテド最大値(lifted max)モデル等を用いて定義される。例えば、VTSモデルの場合は次式のように表せる。
Figure 2013120379
ただし、f(x,y,z)はミスマッチ関数と称される関数であり、g(x,y,z)はミスマッチ関数のxに関する偏導関数である。具体的には、それぞれ次式で与えられる。
Figure 2013120379
上記したこの発明の原理をまとめると、この発明のスペクトル歪みパラメータ推定値補正方法は、劣化対数スペクトル系列xと参照対数スペクトル系列rが与えられたときに、バイアススペクトル、乗法性歪み対数スペクトル、加法性歪み対数スペクトル分散の各推定値b^,h^,σ^を上記した式(6)により求め、各時間フレームnにおける加法性歪み対数スペクトルの補正された推定値をμ^=r+b^として求め、加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1,…,Tと乗法性歪み対数スペクトルの推定値h^と加法性歪み対数スペクトル分散の推定値σ^を出力する。式(6)の最大化の実施には、最急降下法等の公知の最適化技法やEMアルゴリズムが用いられる。
図1に、この発明のスペクトル歪みパラメータ推定値補正装置100の機能構成例を示す。その動作フローを図2に示す。この実施例では、クリーン対数スペクトルモデルとしてGMMを、歪みモデルとしてVTSモデルを用い、EMアルゴリズムを用いて式(6)の最尤推定を実施する。以降、バイアススペクトル、加法性歪み対数スペクトル分散、乗法性歪み対数スペクトルをまとめて未知パラメータと称する。
スペクトル歪みパラメータ推定値補正装置100は、パラメータ推定部10と、クリーン対数スペクトルモデルパラメータ記憶部20と、パラメータ推定値出力部30と、を具備する。その各部の機能は、例えばROM、RAM、CPU等で構成されるコンピュータに所定のプログラムが読み込まれて、CPUがそのプログラムを実行することで実現されるものである。
パラメータ推定部10は、劣化対数スペクトル系列xと参照対数スペクトル系列rとクリーン対数スペクトルモデルパラメータ記憶部20に記憶されたクリーン対数スペクトルモデルのパラメータ{μ,ν,τk=1,…,Kを受け取り、バイアススペクトルの推定値b^と加法性歪み対数スペクトル分散の推定値σ^と乗法性歪み対数スペクトルの推定値h^を計算し、これら未知パラメータの推定値をパラメータ推定値出力部30に送出する(ステップS10)。
パラメータ推定値出力部30は、各未知パラメータの推定値b^、σ^、h^と参照対数スペクトル系列rを受け取り、加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1,…,Tと乗法性歪み対数スペクトルの推定値h^と加法性歪み対数パワースペクトル分散の推定値σ^を出力する(ステップS30)。
図3に、パラメータ推定値更新部10のより具体的な機能構成例を示す。図4にその動作フローを示す。パラメータ推定値更新部10は、パラメータ推定値初期化部11と、パラメータ推定値選択部12と、劣化対数スペクトルモデル合成部13と、パラメータ推定値更新部14と、収束判定部15と、を備える。パラメータ推定値選択部12、劣化対数スペクトルモデル合成部13、パラメータ推定値更新部14、収束判定部15の動作は繰り返し実行される。
パラメータ推定値初期化部11は、バイアススペクトルの初期推定値b^と加法性歪み対数スペクトル分散の初期推定値σ^と乗法性歪み対数スペクトルの初期推定値のh^を計算し、これら未知パラメータの初期推定値をパラメータ推定値選択部12に送出する(ステップS11)。
パラメータ推定値選択部12は、各未知パラメータの初期推定値b^、σ^、h^と後述する各未知パラメータの更新推定値b^、σ^、h^を受け取り、何れか一方を現在の繰り返しにおける各未知パラメータの暫定推定値b^、σ^、h^として選択し、これらの未知のパラメータの暫定推定値を劣化音声モデル合成部13に送出する(ステップS12)。具体的には、繰り返しの最初ではb^=b^、σ^=σ^、h^=h^とし、以降の繰り返しではb^=b^、σ^=σ^、h^=h^とする。
劣化対数スペクトル合成部13は、参照対数スペクトル系列rと各未知パラメータの暫定推定値b^、σ^、h^、及びクリーン対数スペクトルモデルのパラメータ{μ,ν,τk=1,…,Kを受け取り、状態系列が既知の条件下での劣化スペクトル系列の確率密度関数
X→|K→(x|k;b,h,σ,r)においてb=b^、h=h^、σ=σ^としたときのパラメータの集合Θ={Θψ,Θυ}を計算し、これをパラメータ推定値更新部14に送出する(ステップS13)。以降、pX→|K→(x|k;b,h,σ,r)を劣化対数スペクトル系列モデル、Θを劣化対数スペクトル系列モデルパラメータと称する。
パラメータ推定値更新部14は、劣化対数スペクトル系列xと参照対数スペクトル系列rと劣化対数スペクトル系列モデルパラメータΘと各未知パラメータの暫定推定値b^、σ^、h^を受け取り、EMアルゴリズムのEステップとMステップを各一回ずつ実施することにより式(6)右辺の尤度関数が大きくなるように各未知パラメータの更新推定値b^、σ^、h^を計算し、これらを収束判定部15とパラメータ推定値選択部12に送出する(ステップS14)。
収束判定部15は、各未知パラメータの更新推定値b^、σ^、h^を受け取り、収束条件が満たされているか否かを判定し、満たされている場合にのみ各未知パラメータの推定値b^、σ^、h^をb^=b^、σ^=σ^、h^=h^として計算し、これらを出力する(ステップS15)。収束条件は、例えば、繰り返し回数が一定回数を越えたか否か、尤度関数もしくは対数尤度関数の変化が閾値以下か否か、あるいは、各未知パラメータの推定値の変化が閾値以下か否かなどの条件を用いることができる。
以上述べたこの発明のスペクトル歪みパラメータ推定値補正装置100を用いると、劣化対数スペクトル系列xと参照対数スペクトル系列rから、加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1,…,Tと乗法性歪み対数スペクトルの推定値h^と加法性歪み対数パワースペクトル分散の推定値σ^が得られる。すなわち、このスペクトル歪みパラメータ推定値補正装置100と加法性歪み対数スペクトル系列だけを推定する公知の歪み推定ステップ実施手段(非特許文献1と2)を用いることにより、高精度なスペクトル歪み抑圧手段の一つであるVTS法を非定常な雑音環境でも有効に利用することができる。
なお、各機能部の間で直接データをやり取りする代わりに、これらのデータをスペクトル歪みパラメータ推定値補正装置100を構成するコンピュータの記憶装置に記憶して、必要時に適宜読み出して使用するような構成にしても良い。
以降各機能部の動作を更に詳しく説明する。
〔パラメータ推定値初期化部〕
パラメータ推定値初期化部11は、バイアススペクトルの初期推定値b^と加法性歪み対数スペクトル分散の初期推定値σ^と乗法性歪み対数スペクトルの初期推定値h^を所定の方法で計算する。例えば、全ての周波数jについてb0j^=0、σ0j^=1、h0j^=0とする。ただし、ベクトル変数の右下に付した添え字jは、当該ベクトル変数のj番目の要素を表す。なお、初期推定値はこの値に限定する趣旨ではないし、パラメータ推定値初期化部11に加法性雑音対数スペクトル系列xや参照対数スペクトルrを入力として、これらを用いて各初期推定値を計算するように構成しても良い。
〔劣化対数スペクトルモデル合成部〕
劣化音声モデル合成部13は、b^=b^h^=h^、σ^=σ^のときに、劣化対数スペクトル系列モデルpX→|K→(x|k;b,h,σ,r)を定義する劣化対数スペクトル系列モデルパラメータを計算する。
この実施例ではクリーン対数スペクトルモデルとしてGMMを、歪みモデルとしてVTSモデルを用いるため、劣化対数スペクトル系列モデルpX→|K→(x|k;b,h,σ,r)は、状態が既知の条件下での劣化対数スペクトルの各時間フレームにおける確率密度関数pX|K(x|k;b,h,σ,r)の全フレームに亘る積で与えられる。pX|K(x|k;b,h,σ,r)を劣化対数スペクトルモデルと称する。b^=b^、h^=h^、σ^=σ^としたときの劣化対数スペクトルモデルは式(20)で与えられ、その平均の集合Θψ={ψn,k,j}1≦n≦T,1≦k≦K,1≦j≦Fと分散の集合Θυ={υn,k,j}1≦n≦T,1≦k≦K,1≦j≦Fが劣化対数スペクトル系列モデルパラメータΘ={Θψ,Θυ}となる。
Figure 2013120379
〔パラメータ推定値更新部〕
図5に、パラメータ推定値更新部14のより具体的な機能構成例を示す。その動作フローを図6に示す。
パラメータ推定値更新部14は、分岐手段140と、Eステップを実行する事後確率計算手段141と、Mステップを実行する第二パラメータ推定値更新手段142と、で構成される。
分岐手段140は、第二パラメータ推定値更新手段142における処理を選択するのに用いられる分岐信号aを計算し、第二パラメータ推定値更新手段142に送出する。分岐信号a=0又はa=1の何れかの値を取る。繰り返しの度に、a=0とa=1を交互に選択しても良い。又は、乗法性歪み対数スペクトルが既知の場合には、a=0として第二パラメータ推定値更新手段142でバイアススペクトルと加法性歪み対数スペクトル分散の各推定値のみを更新するようにしても良い。
EMアルゴリズムのEステップを実行する事後確率計算手段141は、劣化対数スペクトル系列モデルパラメータΘと各未知パラメータの暫定推定値b^、σ^、h^と劣化対数スペクトル系列xと参照対数スペクトル系列rを受け取り、各時間フレームnについて状態の事後確率{wn,i}1≦i≦Kと加法性歪み対数スペクトルの事後確率分布の平均の集合{mn,k,j}1≦k≦K,1≦j≦Fと分散の集合{en,k,j}1≦k≦K,1≦j≦Fを計算し、それらの全時間フレームに亘る集合Θ={wn,k}1≦n≦T,1≦k≦K、Θ={mn,k,j}1≦n≦T,1≦k≦K,1≦j≦F、Θ={en,k,j}1≦n≦T,1≦k≦K,1≦j≦Fを第二パラメータ推定値更新手段142に送出する。(ステップS141)。
具体的には、wn,iは各未知パラメータの暫定推定値が与えられた条件下で時間フレームnにおける状態kがiである事後確率である。また、mn,k,jとen,k,jはそれぞれ、各未知パラメータの暫定推定値と状態kが与えられた条件下での時間フレームnにおける加法性歪み対数スペクトルの第j要素の事後分布の平均と分散である。これらはそれぞれ、式(23)〜(25)にしたがって計算される。
Figure 2013120379
ΘとΘを合わせて、単に加法性歪み対数スペクトルの事後分布のパラメータと称する。
EMアルゴリズムのMステップを実行する第二パラメータ推定値更新手段142は、参照対数スペクトルr、状態の事後確率の集合Θ={wn,k}1≦n≦T,1≦k≦K、加法性歪み対数スペクトルの事後分布のパラメータΘ={mn,k,j}1≦n≦T,1≦k≦K,1≦j≦FとΘ={en,k,j}1≦n≦T,1≦k≦K,1≦j≦F、各未知パラメータの暫定推定値b^、σ^、h^ならびに分岐信号aを受け取り、バイアススペクトルの更新推定値b^と加法性歪み対数スペクトル分散の更新推定値σ^と乗法性歪み対数スペクトルの更新推定値h^を計算して出力する(ステップS142)。各未知パラメータの更新推定値の計算方法は、分岐信号aの値によって異なる。a=0の場合、式(26)〜(28)を用いて、バイアススペクトルと加法性ひずみ対数スペクトル分散の各推定値のみ更新する(ステップS1420)。
Figure 2013120379
一方、a=1の場合、式(29)〜(33)を用いて、乗法性歪み対数スペクトルの推定値のみ更新する(ステップS1421)。
Figure 2013120379
なお、パラメータ推定値更新部142で計算された未知パラメータの更新推定値を用いて計算した尤度関数が、入力された未知パラメータの暫定推定値を用いて計算した尤度関数よりも小さい場合、バックオフ処理(参考文献:H. Liao, “Uncertainty decoding for noise robust speech recognition,” Ph.D. dissertation, The University of Cambridge,2007.)を行うようにしても良い。
〔パラメータ推定値出力部〕
パラメータ推定値出力部60は、各未知パラメータの推定値b^,σ^,h^と、加法性歪み対数スペクトル系列rを受け取り、各時間フレームnにおける加法性歪み対数スペクトルの補正された推定値μ^を式(31)で計算する。
Figure 2013120379
そして、加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1…,Tと乗法性歪み対数スペクトルの推定値h^と加法性歪み対数スペクトル分散の推定値σ^を外部に出力する。あるいは、(μ^)n=1…,Tとh^とσ^は、スペクトル歪みパラメータ推定値補正装置100を構成するコンピュータシステムの記憶装置に記憶しても良い。
〔音声認識装置〕
次に、スペクトル歪みパラメータ推定値補正装置100で求めた加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1…,Tと乗法性歪み対数スペクトルの推定値h^と加法性歪み対数スペクトル分散の推定値σ^を利用して、残響環境で音声認識する音声認識装置200を説明する。残響は極めて非定常な雑音と見做すことができる。
図7に、この発明を用いた音声認識装置200の機能構成例を示す。その動作フローを図8に示す。音声認識装置200は、メルフィルタバンク部210と、参照対数スペクトル生成部220と、スペクトル歪みパラメータ推定値補正部230と、音声強調部240と、音声認識部250と、を具備する。その各部の機能は、例えばROM、RAM、CPU等で構成されるコンピュータに所定のプログラムが読み込まれて、CPUがそのプログラムを実行することで実現されるものである。
メルフィルタバンク部210は、入力された残響を含む音声信号から対数メル周波数スペクトル系列を上記劣化対数スペクトル系列として抽出する(ステップS210)。メル周波数対数スペクトル系列は、音声認識装置200を構成するコンピュータの記憶装置に記憶しても良い。
参照対数スペクトル生成部220は、劣化対数スペクトル系列xを受け取り、加法性歪み対数スペクトルの一次的な推定値の時系列、すなわち参照対数スペクトル系列を計算し、これをスペクトル歪みパラメータ推定値補正部230に送出する(ステップS220)。各時間フレームにおける参照対数スペクトルは、既存の方法(例えば非特許文献2)を用いて残響のメル周波数スペクトルを計算し、その対数値をとることで計算する。
スペクトル歪みパラメータ推定値補正部230は、上記したスペクトル歪みパラメータ推定値補正装置100を用いて実施される。すなわち、スペクトル歪みパラメータ推定値補正部230は、劣化対数スペクトル系列xと参照対数スペクトル系列rを受け取り、上記したように加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1…,Tと乗法性歪み対数スペクトルの推定値h^と加法性歪み対数スペクトル分散の推定値σ^を求めて、音声強調部240に送出する。
音声強調部240は、劣化対数スペクトル系列xと加法性歪み対数スペクトルの補正された推定値の時系列(μ^)n=1…,Tと、乗法性歪み対数スペクトルの推定値h^と、加法性歪み対数スペクトル分散の推定値σ^と、を受け取り、VTS法を用いて残響が抑圧された強調対数スペクトル系列を計算し、これを音声認識部250に送出する。(ステップS240)。
音声認識部250は、強調対数スペクトル系列を受け取り、これに基づいて音声認識して、テキスト情報を出力する(ステップS250)。
〔評価実験〕
本発明のスペクトル歪みパラメータ推定値補正方法の効果を確認する目的で、音声認識装置200の音声認識精度を数字認識実験により評価した。実験用の残響音声信号は、TIDigitsコーパスに含まれるクリーン音声信号に可変残響室で計測されたインパルス応答を畳み込むことで合成した。
スペクトル歪み抑圧を伴わない標準的な音声認識装置による単語正解精度は70.77%、本発明を用いた音声認識装置200による単語正解精度は85.89%であった。このように、本発明によるスペクトル歪みパラメータ推定値補正方法とその方法を用いた音声認識装置の有効性を確認することができた。
なお、上記した実施例では、パラメータ推定部が尤度関数を最大化する方法としてEMアルゴリズムを用いたが、尤度関数の最大化には最急降下法等の他の汎用的な最適化技法を用いても良い。
上記装置における処理手段をコンピュータによって実現する場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、各装置における処理手段がコンピュータ上で実現される。
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。具体的には、例えば、磁気記録装置として、ハードディスク装置、フレキシブルディスク、磁気テープ等を、光ディスクとして、DVD(Digital Versatile Disc)、DVD-RAM(Random Access Memory)、CD-ROM(Compact Disc Read Only Memory)、CD-R(Recordable)/RW(ReWritable)等を、光磁気記録媒体として、MO(Magneto Optical disc)等を、半導体メモリとしてEEP-ROM(Electronically Erasable and Programmable-Read Only Memory)等を用いることができる。
また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD-ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記録装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
また、各手段は、コンピュータ上で所定のプログラムを実行させることにより構成することにしてもよいし、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。

Claims (7)

  1. 劣化対数スペクトルの時系列と加法性歪み対数スペクトルの一次的な推定値である参照対数スペクトルの時系列とを入力とし、前記加法性歪み対数スペクトルの補正された推定値の時系列と加法性歪み対数スペクトル分散の推定値と乗法性歪み対数スペクトルの推定値とを出力するスペクトル歪みパラメータ推定値補正装置であって、
    バイアススペクトルの推定値と前記加法性歪み対数スペクトル分散の推定値と前記乗法性歪み対数スペクトルの推定値を、尤度関数が最大化ないし増大されるように計算するパラメータ推定部と、
    前記加法性歪み対数スペクトルの前記補正された推定値を前記参照対数スペクトルと前記バイアススペクトルの前記推定値の和として計算するパラメータ推定値出力部と、
    を具備することを特徴とするスペクトル歪みパラメータ推定値補正装置。
  2. 請求項1に記載したスペクトル歪みパラメータ推定値補正装置において、前記パラメータ推定部は、
    前記バイアススペクトルの初期推定値と前記加法性歪み対数スペクトル分散の初期推定値と前記乗法性歪み対数スペクトルの初期推定値を計算するパラメータ推定値初期化部と、
    前記バイアススペクトルの前記初期推定値と前記バイアススペクトルの更新推定値の一方を前記バイアススペクトルの暫定推定値とし、前記加法性歪み対数スペクトル分散の前記初期推定値と前記加法性歪み対数スペクトル分散の更新推定値の一方を前記加法性歪み対数スペクトル分散の暫定推定値とし、前記乗法性歪み対数スペクトルの前記初期推定値と前記乗法性歪み対数スペクトルの更新推定値の一方を前記乗法性歪み対数スペクトルの暫定推定値とするパラメータ推定値選択部と、
    前記参照対数スペクトルの時系列と前記バイアススペクトルの前記暫定推定値と前記加法性歪み対数スペクトル分散の前記暫定推定値と前記乗法性歪み対数スペクトルの前記暫定推定値とクリーン対数スペクトルモデルパラメータとを用いて、劣化対数スペクトル系列モデルパラメータを計算する劣化対数スペクトルモデル合成部と、
    前記劣化対数スペクトルの時系列と前記参照対数スペクトルの時系列と前記バイアススペクトルの前記暫定推定値と前記加法性歪み対数スペクトル分散の前記暫定推定値と前記乗法性歪み対数スペクトルの前記暫定推定値と前記劣化対数スペクトル系列モデルパラメータと前記クリーン対数スペクトルモデルパラメータとを用いて、EMアルゴリズムのEステップとMステップを実行することによって尤度関数が増大されるように前記バイアススペクトルの前記更新推定値と前記加法性歪み対数スペクトル分散の前記更新推定値と前記乗法性歪み対数スペクトルの前記更新推定値を計算するパラメータ推定値更新部と、
    収束条件を満たしていれば前記バイアススペクトルの前記更新推定値を前記バイアススペクトルの前記推定値とし、前記加法性歪み対数スペクトル分散の前記更新推定値を前記加法性歪み対数スペクトル分散の前記推定値とし、前記乗法性歪み対数スペクトルの前記更新推定値を前記乗法性歪み対数スペクトルの前記推定値として出力する収束判定部と、
    を備えることを特徴とするスペクトル歪みパラメータ推定値補正装置。
  3. 請求項2に記載したスペクトル歪みパラメータ推定値補正装置において、前記パラメータ推定値更新部は、
    第二パラメータ推定値更新手段の処理を選択するのに用いられる分岐信号を計算する分岐手段と、
    前記劣化対数スペクトル系列モデルパラメータと前記バイアススペクトルの前記暫定推定値と前記加法性歪み対数スペクトル分散の前記暫定推定値と前記乗法性歪み対数スペクトルの前記暫定推定値と前記劣化対数スペクトルの時系列と前記参照対数スペクトルの時系列とを用いて、EMアルゴリズムのEステップにしたがって状態事後確率と前記加法性歪み対数スペクトルの事後確率分布のパラメータを計算する事後確率計算手段と、
    前記参照対数スペクトルの時系列と前記状態事後確率と前記加法性歪み対数スペクトルの前記事後確率分布のパラメータと前記分岐信号を用いて、EMアルゴリズムのMステップにしたがって前記バイアススペクトルの前記更新推定値と前記加法性歪み対数スペクトル分散の前記更新推定値と前記乗法性歪み対数スペクトルの前記更新推定値を計算する前記第二パラメータ推定値更新手段と、
    を備えることを特徴とするスペクトル歪みパラメータ推定値補正装置。
  4. 劣化対数スペクトルの時系列と加法性歪み対数スペクトルの一次的な推定値である参照対数スペクトルの時系列とを入力とし、前記加法性歪み対数スペクトルの補正された推定値の時系列と加法性歪み対数スペクトル分散の推定値と乗法性歪み対数スペクトルの推定値とを出力するスペクトル歪みパラメータ推定値補正方法であって、
    バイアススペクトルの推定値と前記加法性歪み対数スペクトル分散の推定値と前記乗法性歪み対数スペクトルの推定値を、尤度関数が最大化ないし増大されるように計算するパラメータ推定過程と、
    前記加法性歪み対数スペクトルの前記補正された推定値を前記参照対数スペクトルと前記バイアススペクトルの前記推定値の和として計算するパラメータ推定値出力過程と、
    を備えることを特徴とするスペクトル歪みパラメータ推定値補正方法。
  5. 請求項4に記載したスペクトル歪みパラメータ推定値補正方法において、前記パラメータ推定過程は、
    前記バイアススペクトルの初期推定値と前記加法性歪み対数スペクトル分散の初期推定値と前記乗法性歪み対数スペクトルの初期推定値を計算するパラメータ推定値初期化ステップと、
    前記バイアススペクトルの前記初期推定値と前記バイアススペクトルの更新推定値の一方を前記バイアススペクトルの暫定推定値とし、前記加法性歪み対数スペクトル分散の前記初期推定値と前記加法性歪み対数スペクトル分散の更新推定値の一方を前記加法性歪み対数スペクトル分散の暫定推定値とし、前記乗法性歪み対数スペクトルの前記初期推定値と前記乗法性歪み対数スペクトルの更新推定値の一方を前記乗法性歪み対数スペクトルの暫定推定値とするパラメータ推定値選択ステップと、
    前記参照対数スペクトルの時系列と前記バイアススペクトルの前記暫定推定値と前記加法性歪み対数スペクトル分散の前記暫定推定値と前記乗法性歪み対数スペクトルの前記暫定推定値とクリーン対数スペクトルモデルパラメータとを用いて、劣化対数スペクトル系列モデルパラメータを計算する劣化対数スペクトルモデル合成ステップと、
    前記劣化対数スペクトルの時系列と前記参照対数スペクトルの時系列と前記バイアススペクトルの前記暫定推定値と前記加法性歪み対数スペクトル分散の前記暫定推定値と前記乗法性歪み対数スペクトルの前記暫定推定値と前記劣化対数スペクトル系列モデルパラメータと前記クリーン対数スペクトルモデルパラメータとを用いて、EMアルゴリズムのEステップとMステップを実行することによって尤度関数が増大されるように前記バイアススペクトルの前記更新推定値と前記加法性歪み対数スペクトル分散の前記更新推定値と前記乗法性歪み対数スペクトルの前記更新推定値を計算するパラメータ推定値更新ステップと、
    収束条件を満たしていれば前記バイアススペクトルの前記更新推定値を前記バイアススペクトルの前記推定値とし、前記加法性歪み対数スペクトル分散の前記更新推定値を前記加法性歪み対数スペクトル分散の前記推定値とし、前記乗法性歪み対数スペクトルの前記更新推定値を前記乗法性歪み対数スペクトルの前記推定値として出力する収束判定ステップと、
    を含むことを特徴とするスペクトル歪みパラメータ推定値補正方法。
  6. 請求項5に記載したスペクトル歪みパラメータ推定値補正方法において、前記パラメータ推定値更新ステップは、
    第二パラメータ推定値更新ステップの処理を選択するのに用いられる分岐信号を計算する分岐ステップと、
    前記劣化対数スペクトル系列モデルパラメータと前記バイアススペクトルの前記暫定推定値と前記加法性歪み対数スペクトル分散の前記暫定推定値と前記乗法性歪み対数スペクトルの前記暫定推定値と前記劣化対数スペクトルの時系列と前記参照対数スペクトルの時系列とを用いて、EMアルゴリズムのEステップにしたがって状態事後確率と前記加法性歪み対数スペクトルの事後確率分布のパラメータを計算する事後確率計算ステップと、
    前記参照対数スペクトルの時系列と前記状態事後確率と前記加法性歪み対数スペクトルの前記事後確率分布のパラメータと前記分岐信号を用いて、EMアルゴリズムのMステップにしたがって前記バイアススペクトルの前記更新推定値と前記加法性歪み対数スペクトル分散の前記更新推定値と前記乗法性歪み対数スペクトルの前記更新推定値を計算する前記第二パラメータ推定値更新ステップと、
    を含むことを特徴とするスペクトル歪みパラメータ推定値補正方法。
  7. 請求項1乃至3の何れかに記載したスペクトル歪みパラメータ推定値補正装置としてコンピュータを機能させるためのプログラム。
JP2011269727A 2011-12-09 2011-12-09 スペクトル歪みパラメータ推定値補正装置とその方法とプログラム Active JP5683446B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011269727A JP5683446B2 (ja) 2011-12-09 2011-12-09 スペクトル歪みパラメータ推定値補正装置とその方法とプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011269727A JP5683446B2 (ja) 2011-12-09 2011-12-09 スペクトル歪みパラメータ推定値補正装置とその方法とプログラム

Publications (2)

Publication Number Publication Date
JP2013120379A true JP2013120379A (ja) 2013-06-17
JP5683446B2 JP5683446B2 (ja) 2015-03-11

Family

ID=48773024

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011269727A Active JP5683446B2 (ja) 2011-12-09 2011-12-09 スペクトル歪みパラメータ推定値補正装置とその方法とプログラム

Country Status (1)

Country Link
JP (1) JP5683446B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10026A (en) * 1853-09-20 Improvement in turbines
JPH09258768A (ja) * 1996-03-25 1997-10-03 Mitsubishi Electric Corp 騒音下音声認識装置及び騒音下音声認識方法
JP2002091485A (ja) * 2000-09-18 2002-03-27 Pioneer Electronic Corp 音声認識システム
JP2002091478A (ja) * 2000-09-18 2002-03-27 Pioneer Electronic Corp 音声認識システム
JP2003271190A (ja) * 2002-03-15 2003-09-25 Matsushita Electric Ind Co Ltd 雑音除去方法、雑音除去装置及び、それを用いた音声認識装置
JP2006243290A (ja) * 2005-03-02 2006-09-14 Advanced Telecommunication Research Institute International 外乱成分抑圧装置、コンピュータプログラム、及び音声認識システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10026A (en) * 1853-09-20 Improvement in turbines
JPH09258768A (ja) * 1996-03-25 1997-10-03 Mitsubishi Electric Corp 騒音下音声認識装置及び騒音下音声認識方法
JP2002091485A (ja) * 2000-09-18 2002-03-27 Pioneer Electronic Corp 音声認識システム
JP2002091478A (ja) * 2000-09-18 2002-03-27 Pioneer Electronic Corp 音声認識システム
JP2003271190A (ja) * 2002-03-15 2003-09-25 Matsushita Electric Ind Co Ltd 雑音除去方法、雑音除去装置及び、それを用いた音声認識装置
JP2006243290A (ja) * 2005-03-02 2006-09-14 Advanced Telecommunication Research Institute International 外乱成分抑圧装置、コンピュータプログラム、及び音声認識システム

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
CSNG200501401001; 藤本雅清他: '"GMMとEMアルゴリズムを用いた加法性雑音及び乗法性ひずみの抑圧"' 電子情報通信学会論文誌 Vol.J88-D-II,No.7, 200507, pp.1093-1102 *
JPN6014045687; 藤本雅清他: '"GMMとEMアルゴリズムを用いた加法性雑音及び乗法性ひずみの抑圧"' 電子情報通信学会論文誌 Vol.J88-D-II,No.7, 200507, pp.1093-1102 *
JPN6014045689; Pedro J. MORENO, et al.: '"A VECTOR TAYLOR SERIES APPROACH FOR ENVIRONMENT-INDIPENDENT SPEECH RECOGNITION"' Proceedings of the 1996 IEEE International Conference on Acoustics, Speech and Signal Processing (IC Vol.2, 199605, pp.733-736 *

Also Published As

Publication number Publication date
JP5683446B2 (ja) 2015-03-11

Similar Documents

Publication Publication Date Title
US9824683B2 (en) Data augmentation method based on stochastic feature mapping for automatic speech recognition
CN101385386B (zh) 混响除去装置和混响除去方法
JP5842056B2 (ja) 雑音推定装置、雑音推定方法、雑音推定プログラム及び記録媒体
JP4875656B2 (ja) 信号区間推定装置とその方法と、プログラムとその記録媒体
CN106558315B (zh) 异质麦克风自动增益校准方法及系统
JP2007279444A (ja) 特徴量補正装置、特徴量補正方法および特徴量補正プログラム
US9520138B2 (en) Adaptive modulation filtering for spectral feature enhancement
JP2007065204A (ja) 残響除去装置、残響除去方法、残響除去プログラム及びその記録媒体
JP5994639B2 (ja) 有音区間検出装置、有音区間検出方法、及び有音区間検出プログラム
JP5351856B2 (ja) 音源パラメータ推定装置と音源分離装置とそれらの方法と、プログラムと記憶媒体
JP6721165B2 (ja) 入力音マスク処理学習装置、入力データ処理関数学習装置、入力音マスク処理学習方法、入力データ処理関数学習方法、プログラム
Doulaty et al. Automatic optimization of data perturbation distributions for multi-style training in speech recognition
Nathwani et al. DNN uncertainty propagation using GMM-derived uncertainty features for noise robust ASR
JP2013114151A (ja) 雑音抑圧装置、方法及びプログラム
JP5191500B2 (ja) 雑音抑圧フィルタ算出方法と、その装置と、プログラム
JP5438704B2 (ja) 音源パラメータ推定装置と音源分離装置とそれらの方法とプログラム
JP4630203B2 (ja) 信号分離装置、信号分離方法、信号分離プログラム及び記録媒体、並びに、信号到来方向推定装置、信号到来方向推定方法、信号到来方向推定プログラム及び記録媒体
JP5683446B2 (ja) スペクトル歪みパラメータ推定値補正装置とその方法とプログラム
EP3557576A1 (en) Target sound emphasis device, noise estimation parameter learning device, method for emphasizing target sound, method for learning noise estimation parameter, and program
JP5172536B2 (ja) 残響除去装置、残響除去方法、コンピュータプログラムおよび記録媒体
JP5457999B2 (ja) 雑音抑圧装置とその方法とプログラム
JP6000094B2 (ja) 話者適応化装置、話者適応化方法、プログラム
Han et al. Switching linear dynamic transducer for stereo data based speech feature mapping
JP6059112B2 (ja) 音源分離装置とその方法とプログラム
JP4242320B2 (ja) 音声認識方法、その装置およびプログラム、その記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141028

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150113

R150 Certificate of patent or registration of utility model

Ref document number: 5683446

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150