JP2009198892A - 音処理装置およびプログラム - Google Patents

音処理装置およびプログラム Download PDF

Info

Publication number
JP2009198892A
JP2009198892A JP2008041520A JP2008041520A JP2009198892A JP 2009198892 A JP2009198892 A JP 2009198892A JP 2008041520 A JP2008041520 A JP 2008041520A JP 2008041520 A JP2008041520 A JP 2008041520A JP 2009198892 A JP2009198892 A JP 2009198892A
Authority
JP
Japan
Prior art keywords
sound
index value
unvoiced
unit
unit section
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008041520A
Other languages
English (en)
Other versions
JP5169297B2 (ja
Inventor
Yasuo Yoshioka
靖雄 吉岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2008041520A priority Critical patent/JP5169297B2/ja
Publication of JP2009198892A publication Critical patent/JP2009198892A/ja
Application granted granted Critical
Publication of JP5169297B2 publication Critical patent/JP5169297B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Telephone Function (AREA)

Abstract

【課題】無声音を高精度に判別する。
【解決手段】変調スペクトル特定部34は、入力音VINの各単位区間TUについて変調スペクトルMSを特定する。指標算定部42は、変調スペクトルMSのうち変調周波数が所定の範囲に属する成分の強度に応じた指標値D1を算定する。指標算定部44は、入力音VINの零交差数に応じた指標値D2を各単位区間TUについて算定する。指標算定部46は、入力音VINの周波数スペクトルS0の平坦性に応じた指標値D3を各単位区間TUについて算定する。無声音判定部54は、各単位区間TUの入力音VINが無声音であるか否かを指標値D1と指標値D2と指標値D3とに基づいて判定する。
【選択図】図2

Description

本発明は、音響の種類を判別する技術に関する。
収音機器による収録音などの音響(以下「入力音」という)を音声の区間と非音声の区間とに区別する技術が従来から提案されている。例えば特許文献1には、入力音のうち所定の周波数帯域に属する成分の強度に基づいて音声を検出する技術が開示されている。
特開2000−132177号公報
しかし、特許文献1の技術においては、音響的な特性が非音声に類似する無声音を高精度に検出することが困難である。したがって、実際には音声(有声音および無声音)が継続している区間内であっても、無声音の区間が非音声と誤判定され、音声と判定される区間が途切れる可能性がある。以上の事情に鑑みて、本発明は、無声音を高精度に判別することをひとつの目的とする。
以上の課題を解決するために、本発明の第1の態様に係る音処理装置は、入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定手段と、変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定手段(例えば図2の指標算定部42)と、入力音の零交差数に応じた第2指標値を各単位区間について算定する第2指標算定手段(例えば図2の指標算定部44)と、各単位区間の入力音が無声音であるか否かを第1指標値と第2指標値とに基づいて判定する無声音判定手段とを具備する。
以上の構成においては、変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に基づいて各単位区間の入力音が無声音であるか否かが判定されるから、入力音の周波数スペクトルを利用する技術と比較して高精度に無声音を判別することが可能となる。また、入力音の零交差数に応じた第2指標値が無声音判定手段による無声音の判定に利用されるから、第1指標値のみを利用する構成と比較して高精度に無声音が判別される。例えば、有声音は無声音と比較して零交差数が小さいという傾向があるから、第2指標値を利用することで無声音を有声音と高精度に区別することが可能である。
本発明の好適な態様に係る音処理装置は、入力音の周波数スペクトルの平坦性に応じた第3指標値を各単位区間について算定する第3指標算定手段(例えば図2の指標算定部46)を具備し、無声音判定手段は、各単位区間の入力音が無声音であるか否かを第1指標値と第2指標値と第3指標値とに基づいて判定する。以上の態様においては、入力音の周波数スペクトルの平坦性に応じた第3指標値が無声音判定手段による無声音の判定に利用されるから、第1指標値および第2指標値のみを利用する構成と比較して高精度に無声音を判別することが可能である。例えば、有声音や環境音(例えばプッシュトーン)などの音響は無声音と比較して周波数スペクトルの平坦性が低いという傾向があるから、第3指標値を利用することで無声音を有声音や環境音と高精度に区別することが可能である。
本発明の第2の態様に係る音処理装置は、入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定手段と、変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定手段と、入力音の周波数スペクトルの平坦性に応じた第3指標値を各単位区間について算定する第3指標算定手段と、各単位区間の入力音が無声音であるか否かを第1指標値と第3指標値とに基づいて判定する無声音判定手段とを具備する。
第2の態様においては、変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に基づいて各単位区間の入力音が無声音であるか否かが判定されるから、入力音の周波数スペクトルを利用する技術と比較して高精度に無声音を判別することが可能となる。また、入力音の周波数スペクトルの平坦性に応じた第3指標値が無声音判定手段による無声音の判定に利用されるから、第1指標値のみを利用する構成と比較して高精度に無声音が判別される。例えば、有声音や環境音(例えばプッシュトーン)などの音響は無声音と比較して周波数スペクトルの平坦性が低いという傾向があるから、第3指標値を利用することで無声音を有声音や環境音と高精度に区別することが可能である。
なお、無声音は、声帯の振動を伴わない音声(有声音以外の音声)である。無声子音や無声化した有声音(母音)が無声音に該当する。無声化とは、本来的には声帯の振動を伴なって発声されるべき有声音が何らかの条件のもとで声帯の振動を伴なわずに発声される現象である。
また、「入力音が無声音であるか否かを指標値に基づいて判定する」とは、入力音が無声音であるか否かの判定の結果が当該指標値の大小に応じて変化することを意味する。無声音判定手段による判定の具体的な方法は、以下に例示するように各指標値の定義に応じて適宜に選定される。
第1の態様および第2の態様に係る音処理装置において、変調スペクトルのうち変調周波数が所定の範囲内にある成分の強度が高いほど第1指標値が減少するように第1指標値が定義される場合、例えば、第1指標値が小さいほど、入力音が無声音と判定される可能性が上昇するように、無声音判定手段による判定の内容が選定される。例えば、第1指標値以外の指標値が入力音を無声音と判定するための条件を充足している場合、無声音判定手段は、第1指標値が所定の閾値(例えば図9の閾値T1B)を下回る場合に入力音を無声音と判定し、第1指標値が当該閾値を上回る場合に入力音が無声音ではないと判定する。一方、変調スペクトルのうち変調周波数が所定の範囲内にある成分の強度が高いほど第1指標値が増加するように第1指標値が定義される場合、例えば、第1指標値が大きいほど、入力音が無声音と判定される可能性が上昇するように、無声音判定手段による判定の内容が選定される。例えば、第1指標値以外の指標値が入力音を無声音と判定するための条件を充足している場合、無声音判定手段は、第1指標値が所定の閾値を上回る場合に入力音を無声音と判定し、第1指標値が当該閾値を下回る場合に入力音が無声音ではないと判定する。
また、第1の態様に係る音処理装置において、入力音の零交差数が多いほど第2指標値が増加するように第2指標値が定義される場合、例えば、第2指標値が大きいほど、入力音が無声音と判定される可能性が上昇するように、無声音判定手段による判定の内容が選定される。例えば、第2指標値以外の指標値が入力音を無声音と判定するための条件を充足している場合、無声音判定手段は、第2指標値が所定の閾値(例えば図9の閾値T2)を上回る場合に入力音を無声音と判定し、第2指標値が当該閾値を下回る場合に入力音が無声音ではないと判定する。一方、入力音の零交差数が多いほど第2指標値が減少するように第2指標値が定義される場合(例えば零交差数の逆数が第2指標値として算定される場合)、例えば、第2指標値が小さいほど、入力音が無声音と判定される可能性が上昇するように無声音判定手段による判定の内容が選定される。例えば、第2指標値以外の指標値が入力音を無声音と判定するための条件を充足している場合、無声音判定手段は、第2指標値が所定の閾値を下回る場合に入力音を無声音と判定し、第2指標値が当該閾値を上回る場合に入力音が無声音ではないと判定する。
第2の態様に係る音処理装置において、入力音の周波数スペクトルの平坦性が高いほど第3指標値が減少するように第3指標値が定義される場合、例えば、第3指標値が小さいほど、入力音が無声音と判定される可能性が上昇するように、無声音判定手段による判定の内容が選定される。例えば、第3指標値以外の指標値が入力音を無声音と判定するための条件を充足している場合、無声音判定手段は、第3指標値が所定の閾値(例えば図9の閾値T3)を下回る場合に入力音を無声音と判定し、第3指標値が当該閾値を上回る場合に入力音が無声音ではないと判定する。一方、入力音の周波数スペクトルの平坦性が高いほど第3指標値が増加するように第3指標値が定義される場合、例えば、第3指標値が大きいほど、入力音が無声音と判定される可能性が上昇するように、無声音判定手段による判定の内容が選定される。例えば、第3指標値以外の指標値が入力音を無声音と判定するための条件を充足している場合、無声音判定手段は、第3指標値が所定の閾値を上回る場合に入力音を無声音と判定し、第3指標値が当該閾値を下回る場合に入力音が無声音ではないと判定する。
第1の態様および第2の態様に係る音処理装置の具体例においては、各単位区間の入力音が音声であるか否かを判定する音声判定手段が設置される。以上の態様においては、無声音判定手段が無声音と判定した単位区間と音声判定手段が音声と判定した単位区間とを除いた各単位区間の入力音を非音声と判定することが可能である。また、音声判定手段が第1指標値に基づいて判定する構成によれば、音声判定手段による判定に第1指標値とは別個の指標値を使用する構成と比較して指標値の算定の負荷が軽減されるという利点がある。
変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度が高いほど第1指標値が減少するように第1指標値が算定される構成において、音声判定手段は、第1指標値が第1閾値(例えば図6の閾値T1A)を下回る単位区間の入力音を音声と判定し、無声音判定手段は、第1閾値よりも大きい第2閾値を第1指標値が下回る単位区間の入力音を無声音と判定する。また、変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度が高いほど第1指標値が増加するように第1指標値が算定される構成において、音声判定手段は、第1指標値が第1閾値を上回る単位区間の入力音を音声と判定し、無声音判定手段は、第1閾値よりも小さい第2閾値を第1指標値が上回る単位区間の入力音を無声音と判定する。以上の各態様によれば、有声音と無声音とを高精度に区別することが可能である。
第1の態様および第2の態様に係る音処理装置の具体例において、無声音判定手段が無声音と判定した単位区間の入力音と他の単位区間の入力音とに対して異なる処理を実行する音処理手段が設置される。また、他の具体例においては、音声判定手段が音声と判定した単位区間の入力音と無声音判定手段が無声音と判定した単位区間の入力音とに対して異なる処理を実行する音処理手段が設置される。以上の構成においては、入力音の種類(音声/非音声または有声音/無声音)に応じた適切な処理を実行することで所望の特性の音響を生成することが可能である。
以上の総ての態様に係る音処理装置は、入力音の処理に専用されるDSP(Digital Signal Processor)などのハードウェア(電子回路)によって実現されるほか、CPU(Central Processing Unit)などの汎用の演算処理装置とプログラムとの協働によっても実現される。第1の態様に係るプログラムは、入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定処理と、変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定処理と、入力音の零交差数に応じた第2指標値を各単位区間について算定する第2指標算定処理と、各単位区間の入力音が無声音であるか否かを第1指標値と第2指標値とに基づいて判定する無声音判定処理とをコンピュータに実行させる。第2の態様に係るプログラムは、入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定処理と、変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定処理と、入力音の周波数スペクトルの平坦性に応じた第3指標値を各単位区間について算定する第3指標算定処理と、各単位区間の入力音が無声音であるか否かを第1指標値と第3指標値とに基づいて判定する無声音判定処理とをコンピュータに実行させる。本発明のプログラムによれば、以上の各態様に係る音処理装置と同様の作用および効果が奏される。本発明のプログラムは、コンピュータが読取可能な記録媒体に格納された形態で利用者に提供されてコンピュータにインストールされるほか、通信網を介した配信の形態でサーバ装置から提供されてコンピュータにインストールされる。
図1は、本発明の実施の形態に係る遠隔会議システムのブロック図である。遠隔会議システム100は、地理的に離間した空間R1と空間R2とで複数の利用者U(会議の参加者)が相互に音声を授受するシステムである。各空間R(R1,R2)には、収音機器12と音処理装置14と音処理装置16と放音機器18とが設置される。
収音機器12は、空間R内に存在する入力音VINの波形を表す音響信号SINを生成する装置(マイクロホン)である。空間R1および空間R2の各々の音処理装置14は、音響信号SINから出力信号SOUTを生成して空間R1および空間R2の他方の音処理装置16に送信する。音処理装置16は、出力信号SOUTを増幅して放音機器18に出力する。放音機器18は、音処理装置16から供給される増幅後の出力信号SOUTに応じた音波を放射する装置(スピーカ)である。以上の構成により、空間R1内の各利用者Uの発声音が空間R2内の放音機器18から出力され、空間R2内の各利用者Uの発声音が空間R1内の放音機器18から出力される。
図2は、空間R1および空間R2の各々に設置される音処理装置14の構成を示すブロック図である。図2に示すように、音処理装置14は、制御装置22と記憶装置24とを具備する。制御装置22は、プログラムを実行することで図2の各要素として機能する演算処理装置である。なお、図2の各要素はDSPなどの電子回路によっても実現される。記憶装置24は、制御装置22が実行するプログラムや制御装置22が使用する各種のデータを記憶する。半導体記憶装置や磁気記憶装置など公知の記憶媒体が記憶装置24として任意に利用される。
制御装置22は、収音機器12から供給される音響信号SIN(入力音VIN)を時間軸に沿って区分した複数の区間(以下「単位区間」という)の各々について当該入力音VINの種類(有声音/無声音/非音声)を判別する機能と、判別の結果に応じた処理を音響信号SINに対して実行することで出力信号SOUTを生成する機能とを実現する。有声音は、声帯の振動を伴なう音声(発話音)である。無声音は、声帯の振動を伴なわない音声である。一方、非音声は、音声以外の音響(雑音)である。各種の暗騒音(例えば空調設備の動作音)や各種の環境音(例えば携帯電話機の着信音や扉の開閉音)が非音声に該当する。
図2の周波数分析部32は、フーリエ変換(例えばFFT(Fast Fourier Transform))を含む周波数分析を音響信号SINに対して実行することで、音響信号SINを時間軸に沿って区分した複数のフレームの各々について周波数スペクトル(対数スペクトル)S0を算定する。各フレームは単位区間と比較して充分に短い時間長に設定される。
変調スペクトル特定部34は、音響信号SIN(入力音VIN)の変調スペクトルMSを特定する。変調スペクトルMSは、音響信号SINの周波数スペクトルS0のうち特定の周波数帯域に属する成分の時間的な変動(以下「時間軌跡」という)についてフーリエ変換を実行した結果に相当する。
図3は、変調スペクトル特定部34のブロック図である。図4は、変調スペクトル特定部34による処理を説明するための概念図である。図4の部分(A)には、周波数分析部32がフレーム毎に特定した周波数スペクトルS0を時系列に配列したスペクトログラムSPが図示されている。
図3に示すように、変調スペクトル特定部34は成分抽出部342と周波数分析部344とで構成される。成分抽出部342は、図4の部分(A)および部分(B)に示すように、スペクトログラムSPのうち特定の周波数帯域ωに属する成分の強度(エネルギ)の時間軌跡STを抽出する。さらに詳述すると、成分抽出部342は、各フレームの周波数スペクトルS0のうち周波数帯域ωに属する成分の強度を算定し、周波数スペクトルS0の強度を複数のフレームついて時系列に配列することで時間軌跡STを生成する。周波数帯域ωは、入力音VINが音声である場合の時間軌跡STの周波数特性(変調スペクトルMS)と入力音VINが非音声である場合の時間軌跡STの周波数特性とが顕著に相違するように実験的または統計的に選定される。例えば、周波数帯域ωは、10Hz(さらに好適には50Hz)から800Hzまでの範囲に選定される。なお、各周波数スペクトルS0におけるひとつの周波数の成分の強度の時系列を時間軌跡STとして成分抽出部342が抽出する構成も採用される。
図3の周波数分析部344は、図4の部分(B)および部分(C)に示すように、時間軌跡STに対してフーリエ変換を実行することで、時間軌跡STを時間軸に沿って区分した複数の単位区間TUの各々について変調スペクトルMSを算定する。単位区間TUは、複数のフレームで構成される所定の時間長(例えば1秒程度)の期間である。なお、本形態においては各単位区間TUが重複しない構成を便宜的に例示するが、相前後する各単位区間TUが部分的に重複する構成も採用される。
図5は、複数種の音響(有声音/無声音/非音声)の変調スペクトルMSを示す。図5の部分(A)は有声音(「あいうえお」と発声した音声)の変調スペクトルMSである。図5の部分(B)は、無声音が豊富な音響の変調スペクトルMSである。さらに詳述すると、図5の部分(B)は、特に「さ」および「し」が殆ど無声化されるように「さしすせそ」と発声した場合の音声の変調スペクトルMSである。また、図5の部分(C)および部分(D)は非音声の変調スペクトルMSである。さらに詳述すると、図5の部分(C)はホワイトノイズ(暗騒音)の変調スペクトルMSであり、図5の部分(D)は電話機のプッシュトーン(環境音)の変調スペクトルMSである。
人間の通常の発話音(すなわち音声)の変調スペクトルMSにおいては、図4の部分(C)に示すように、発話中に音節が切替わる周波数に相当する4Hz程度の変調周波数にて強度が極大となる場合が多い。さらに詳述すると、音声(有声音および無声音)の変調スペクトルMS(図5の部分(A)および部分(B))においては、変調周波数が10Hzを下回る範囲内で強度が高いという傾向がある。一方、多くの非音声の変調スペクトルMS(図5の部分(C)および部分(D))においては、変調周波数が10Hzを上回る範囲の成分の強度が高いという傾向がある。
以上の特性の相違を考慮して、本形態においては、変調スペクトル特定部34が特定した変調スペクトルMSのうち変調周波数が所定の範囲(以下「判定対象範囲」という)Aに属する成分の強度を入力音VINの種類の判定に利用する。判定対象範囲Aは、変調スペクトルMSの強度の相違が音声と非音声とで顕著となる範囲に設定される。例えば10Hz以下の範囲(さらに好適には2Hzから8Hzの範囲)が判定対象範囲Aとして適切である。
図2の指標算定部42は、変調スペクトル特定部34が各単位区間TUについて特定した変調スペクトルMSについて、判定対象範囲Aに属する成分の強度(エネルギ)に応じた指標値D1を算定する。さらに詳述すると、指標算定部42は、第1に、変調スペクトルMSのうち変調周波数が判定対象範囲Aに属する成分の強度(例えば判定対象範囲A内の各変調周波数における強度の加算値や平均値)L1と、変調周波数の全範囲にわたる変調スペクトルMSの強度(総ての変調周波数における強度の加算値や平均値)L2とを算定する。第2に、指標算定部42は、強度L1と強度L2との相対比(L1/L2)を含む以下の演算式(A)に基づいて指標値D1を算定する。
D1=1−(L1/L2) ……(A)
演算式(A)の内容から理解されるように、変調スペクトルMSのうち判定対象範囲A内の成分の強度L1が高いほど(すなわち入力音VINが音声である可能性が高いほど)、指標値D1は小さい数値となる。したがって、指標値D1は、入力音VINが音声および非音声の何れであるかを判断するための指標となる。また、判定対象範囲Aは発話時に音節が切替わる周波数の成分を豊富に含むから、指標値D1は、音声に特有なリズム(発話のリズム)が入力音VINに含まれるか否かを判断するための指標としても把握される。
図2の指標算定部44は、入力音VIN(音響信号SIN)の零交差数に応じた指標値D2を単位区間TU毎に算定する。零交差数(ゼロクロス数)は、音響信号SINの強度の符号が反転する回数(音響信号SINの強度がゼロを跨いで変化する回数)である。指標算定部44は、例えば、単位区間TU内の零交差数の合計値や単位区間TU内の所定の時間毎の零交差数の平均値を指標値D2として算定する。したがって、音響信号SINの零交差数が多いほど指標値D2は大きい数値となる。
図2の指標算定部46は、周波数分析部32が特定した周波数スペクトルS0の形状の平坦性に応じた指標値D3を単位区間TU毎に算定する。例えば、指標算定部46は、第1に、単位区間TU内の複数のフレームにわたる平均的な周波数スペクトルS0を複数の周波数帯域に分割し、各周波数帯域内の成分の強度(エネルギの平均値)を算定する。第2に、指標算定部46は、複数の周波数帯域の強度のうちの最大値Emaxと最小値Eminとの相対比を指標値D3(D3=Emax/Emin)として単位区間TU毎に算定する。したがって、周波数スペクトルS0の平坦性が高い(すなわち強度の最大値Emaxと最小値Eminとの相違が小さい)ほど指標値D3は小さい数値となる。なお、各フレームの周波数スペクトルS0における最大値Emaxと最小値Eminとの相対比を単位区間TU内の複数のフレームについて平均することで指標値D3を算定してもよい。
図2の判定部50は、指標値D1と指標値D2と指標値D3とに基づいて入力音VINの種類(有声音/無声音/非音声)を判定する。本形態の判定部50は、音声判定部52と無声音判定部54とで構成される。音声判定部52は、各単位区間TUの入力音VINが有声(特に有声音)であるか否かを指標値D1に基づいて判定する。図6は、音声判定部52の具体的な動作を示すフローチャートである。図6の処理は、ひとつの単位区間TUについて指標値D1が算定されるたびに実行される。
音声判定部52は、指標値D1が閾値T1Aを下回るか否かを判定する(ステップSA1)。閾値T1Aは、有声音の指標値D1が閾値T1Aを下回るとともに非音声の指標値D1が閾値T1Aを上回るように実験的または統計的に設定される。ステップSA1の結果が否定である場合、音声判定部52は、今回の処理の対象である単位区間TUの入力音VINは有声音でないと判定する(ステップSA2)。一方、ステップSA1の結果が肯定である場合、音声判定部52は、今回の単位区間TUの入力音VINが有声音であると判定する(ステップSA3)。ステップSA3において、音声判定部52は、有声音を指定する識別データdを生成して音処理部60に出力する。
ところで、図5に示すように、有声音(部分(A))と無声音(部分(B))とでは変調スペクトルMSの特性が相違する。さらに詳述すると、無声音の変調スペクトルMSは、有声音の変調スペクトルMSと比較して高域側の変調周波数にて強度が極大となる傾向がある。すなわち、無声音については変調スペクトルMSのうち判定対象範囲A内の成分の強度L1が有声音と比較して低いから、無声音の変調スペクトルMSから算定される指標値D1は、有声音の指標値D1と比較して大きい数値となる場合が多い。したがって、図6のステップSA1における指標値D1と閾値T1Aとの比較だけでは、無声音が音声に分類されない。そこで、無声音判定部54は、各単位区間TUの入力音VINが無声音であるか否かを判定する。
図7は、音響信号SINの時間波形を示す。図8は、音響信号SINの周波数スペクトルS0を示す。図7および図8の各々における部分(A)は、図5の部分(A)に変調スペクトルMSを図示した有声音の特性である。同様に、図7および図8の各々における部分(B)は無声音(図5の部分(B))の特性である。また、図7および図8の各々における部分(C)は、図5の部分(C)に変調スペクトルMSを図示したホワイトノイズの特性であり、図7および図8の各々における部分(D)は、図5の部分(D)に変調スペクトルMSを例示したプッシュトーンの特性である。
図7の部分(A)ないし部分(D)の対比から理解されるように、無声音(部分(B))および非音声(部分(C)および部分(D))は、有声音(部分(A))と比較して単位時間内の零交差数が多い。したがって、無声音または非音声(ホワイトノイズやプッシュトーン)の単位区間TUについて算定される指標値D2は、有声音の単位区間TUの指標値D2と比較して大きい数値となる。
また、図8の部分(A)ないし部分(D)の対比から理解されるように、部分(B)の無声音および部分(C)のホワイトノイズは、部分(A)の有声音や部分(D)のプッシュトーンと比較すると、周波数スペクトルS0の形状が平坦である(すなわち強度の相違が少ない)。したがって、無声音またはホワイトノイズの単位区間TUについて算定される指標値D3は、有声音やプッシュトーンの単位区間TUの指標値D3と比較して小さい数値となる。
さらに、図5の部分(A)ないし部分(D)の対比から理解されるように、部分(A)の有声音および部分(B)の無声音(すなわち音声)は、部分(C)のホワイトノイズや部分(D)のプッシュトーン(すなわち非音声)と比較すると、変調スペクトルMSのうち判定対象範囲A内の強度が高い。したがって、無声音または有声音の単位区間TUについて算定される指標値D1は、非音声の単位区間TUの指標値D1と比較して大きい数値となる。
各指標値D(D1〜D3)と入力音VINの種類とが以上の関係にあることを考慮し、無声音判定部54は、各単位区間TUの入力音VINが無声音であるか否かを指標値D1ないし指標値D3に基づいて判定する。図9は、無声音判定部54の具体的な動作を示すフローチャートである。図9の処理は、指標値D1ないし指標値D3がひとつの単位区間TUについて算定されるたびに実行される。
無声音判定部54は、指標算定部44の算定した指標値D2が閾値T2を上回るか否かを判定する(ステップSB1)。閾値T2は、無声音および非音声の指標値D2が閾値T2を上回るとともに有声音の指標値D2が閾値T2を下回るように実験的または統計的に選定される。ステップSB1の結果が否定である場合、無声音判定部54は、今回の単位区間TUの入力音VINを無声音でないと判定する(ステップSB2)。
ステップSB1の結果が肯定である場合、無声音判定部54は、指標算定部46の算定した指標値D3が閾値T3を下回るか否かを判定する(ステップSB3)。閾値T3は、無声音および暗騒音(ホワイトノイズ)の指標値D3が閾値T3を下回るとともに有声音および環境音(プッシュトーン)の指標値D3が閾値T3を上回るように実験的または統計的に選定される。ステップSB3の結果が否定である場合、無声音判定部54は、今回の単位区間TUの入力音VINは無声音でないと判定する(ステップSB2)。
ステップSB3の結果が肯定である場合、無声音判定部54は、指標算定部42の算定した指標値D1が閾値T1Bを下回るか否かを判定する(ステップSB4)。閾値T1Bは、無声音および有声音の指標値D1が閾値T1Bを下回るとともに非音声の指標値D1が閾値T1Bを上回るように実験的または統計的に選定される。図5を参照して前述したように、無声音の変調スペクトルMSのうち強度が最大となる変調周波数は有声音の変調スペクトルMSと比較して高域側にある。したがって、無声音および有声音の双方の指標値D1を上回るように設定された閾値T1Bは、音声判定部52が有声音の判別に使用した閾値T1Aと比較して大きい数値となる。
ステップSB4の結果が肯定である場合、無声音判定部54は、今回の単位区間TUの入力音VINを無声音と判別する(ステップSB5)。ステップSB5において、無声音判定部54は、無声音を指定する識別データdを生成して音処理部60に出力する。一方、ステップSB4の結果が否定である場合、無声音判定部54は、今回の単位区間TUの入力音VINは無声音でないと判定する(ステップSB2)。音声判定部52が有声音でないと判定し(ステップSA2)、かつ、無声音判定部54が無声音でないと判定した(ステップSB2)単位区間TUは非音声に分類される。すなわち、非音声を指定する識別データdが判定部50から音処理部60に出力される。
図2の音処理部60は、判定部50(音声判定部52および無声音判定部54)が単位区間TUについて判定した結果に応じた処理を当該単位区間TUの音響信号SINに対して実行することで出力信号SOUTを生成する。音処理部60の具体的な処理について以下に詳述する。
第1に、音処理部60は、音声判定部52が有声音と判定した単位区間TUの音響信号SINと無声音判定部54が無声音と判定した単位区間TUの音響信号SINとに対して別個の処理を実行する。例えば、音処理部60は、無声音の単位区間TUについては音響信号SINの高域の成分をローパスフィルタ処理で抑制する一方、有声音の単位区間TUについてはフィルタ処理を実行しない。
第2に、音処理部60は、音声(有声音または無声音)の単位区間TUの音響信号SINと非音声の単位区間TUの音響信号SINとに対して別個の処理を実行する。例えば、音処理部60は、音声判定部52が有声音と判定した単位区間TUと無声音判定部54が無声音と判定した単位区間TUとについては音響信号SINを出力信号SOUTとして出力する一方、非音声と判定された単位区間TUについては音量をゼロに設定した出力信号SOUTを出力する(すなわち音響信号SINを出力しない)。したがって、空間R1および空間R2の各々においては、他方の空間R内の入力音VINのうちの非音声が除去され、利用者が本来的に受聴する必要のある音声のみが音処理装置16を介して放音機器18から放射される。さらに、無声音については高域の成分が抑圧されているから、利用者にとって受聴し易い音声が放音機器18から放射される。
音声判定部52が有声音と判定した単位区間TUのみを出力信号SOUTとして出力される構成においては、無声音が非音声として処理されるから、出力信号SOUTに応じて放射される音響は無声音の単位区間TUで途切れる。本形態においては、音声判定部52が有声音の単位区間TUを判別するだけでなく、無声音判定部54が指標値D1ないし指標値D3に基づいて無声音の単位区間TUを判別するから、入力音VINの有声音および無声音の双方について出力信号SOUTとして放音することが可能である。したがって、出力信号SOUTから放射される音響のうち入力音VINの無声音に対応する区間の中断が防止されるという利点がある。
また、変調スペクトルMSのうち判定対象範囲A内の成分の強度L1(発話のリズムの有無)に基づいて音声(有声音および無声音)と非音声とが区別されるから、入力音VINの周波数スペクトルを利用する特許文献1の技術と比較して高精度に音声と非音声とを判別することが可能である。なお、非音声の音量が大きい場合、変調スペクトルMSの強度は変調周波数の全帯域にわたって高い。したがって、変調スペクトルMSの判定対象範囲A内の強度L1のみに基づいて音声と非音声とを区別する構成においては、音量の大きい非音声が音声と誤判定される可能性がある。本形態においては、判定対象範囲A内の強度L1と変調周波数の全範囲にわたる強度L2との相対比が判定部50による判定に使用されるから、非音声の音量が大きい場合であっても音声と非音声とを正確に判定できるという利点がある。
<変形例>
以上の形態には様々な変形が加えられる。具体的な変形の態様を例示すれば以下の通りである。なお、以下の例示から2以上の態様を任意に選択して組合わせてもよい。
(1)変形例1
以上の形態においては変調スペクトルMSに応じた指標値D1と零交差数に応じた指標値D2と周波数スペクトルS0の平坦性に応じた指標値D3とを入力音VINの判別に利用したが、指標値D2および指標値D3の一方と指標値D1とに基づいて入力音VINを判別する構成も採用される。例えば、指標値D1と指標値D2とを利用する態様においては、図2の指標算定部46や図9のステップSB3が省略される。また、指標値D1と指標値D3とを利用する態様においては、図2の指標算定部44や図9のステップSB1が省略される。ただし、図2の構成のように3種類の指標値(D1〜D3)を利用する構成によれば、2種類の指標値Dのみを利用する構成と比較して入力音VINを高精度に判別できるという利点がある。
(2)変形例2
以上の形態においては、有声音の指標値D1を上回るとともに無声音の指標値D1を下回るように閾値T1Aが設定されるから、音声判定部52は、有声音を無声音や非音声から判別する手段として機能する。しかし、有声音および無声音の双方(すなわち音声)の指標値D1を上回るように閾値T1Aを設定することで、音声(有声音および無声音)を非音声から判別する手段として音声判定部52を機能させてもよい。なお、有声音および無声音の双方の指標値D1を上回るように閾値T1Aが設定された場合であっても、無声音の単位区間TUが非音声と誤判定される可能性はあるから、無声音を音声に分類する(すなわち非音声から除外する)ために無声音判定部54は好適に利用される。
(3)変形例3
以上の形態においては、入力音VINの総ての単位区間TUについて無声音判定部54が図9の処理(無声音の判別)を実行したが、音声判定部52が音声(有声音)でないと判定した単位区間TUについてのみ図9の処理を実行してもよい。本変形例においては、音声判定部52が音声と判定した単位区間TUについて無声音判定部54の処理が省略されるから、判定部50(無声音判定部54)による処理の負荷が削減されるという利点がある。
(4)変形例4
各指標値D(D1,D2,D3)の定義は適宜に変更される。したがって、各指標値D(D1,D2,D3)の大小と入力音VINの種類との関係は任意である。例えば、以上の形態においては、変調スペクトルMSにおける判定対象範囲A内の強度L1が高いほど指標値D1が減少するように指標値D1を定義した構成(すなわち指標値D1が小さいほど入力音VINが音声と判定される可能性が上昇する構成)を例示したが、判定対象範囲A内の強度L1が高いほど指標値D1が増加するように指標値D1を定義した構成(すなわち指標値D1が大きいほど入力音VINが音声と判定される可能性が上昇する構成)も採用される。強度L1が高いほど指標値D1が増加する構成において、音声判定部52は、指標値D1が閾値T1Aを上回る単位区間TUの入力音VINを有声音と判定し(ステップSA1およびステップSA2)、無声音判定部54は、指標値D1が閾値T1Bを上回る単位区間TUの入力音VINを無声音と判定する(ステップSB4およびステップSB5)。閾値T1Aは、閾値T1Bと比較して小さい数値に設定される。
また、音響信号SINの零交差数が多いほど指標値D2が減少するように指標値D2を定義した構成(例えば零交差数の逆数を指標値D2とした構成)や、周波数スペクトルS0の平坦性が高いほど指標値D3が増加するように指標値D3を定義した構成も好適である。また、周波数スペクトルS0の分散を指標値D3として算定してもよい。すなわち、指標算定部46は、周波数スペクトルS0を区分した各周波数帯域の強度(エネルギ)と全帯域にわたる強度の平均値との差分値の自乗を総ての周波数帯域にわたって平均した数値を指標値D3として算定する。以上の方法で算定された指標値D3は、周波数スペクトルS0の平坦性が高いほど小さい数値となる。
(5)変形例5
以上の形態においては周波数スペクトルS0において周波数帯域ωに属する成分の時間軌跡STに対してフーリエ変換を実行することで変調スペクトルMSを特定したが、音響信号SIN(入力音VIN)のケプストラムの時間軌跡に対してフーリエ変換を実行することで変調スペクトルMSを特定する構成も採用される。さらに詳述すると、変調スペクトル特定部34の成分抽出部342は、音響信号SINの各フレームのケプストラムのうちケフレンシが特定の範囲内にある成分の時間軌跡STを抽出し、周波数分析部344は、ケプストラムの時間軌跡STに対して単位区間TU毎にフーリエ変換を実行することで各単位区間TUの変調スペクトルMSを算定する。
(6)変形例6
以上の形態においては、音声判定部52による判定に指標値D1を利用したが、入力音VINが音声(有声音)か否かを判定する方法には公知の技術が任意に採用される。例えば、音声判定部52が音響信号SINのピッチ(基本周波数)の検出を実行し、明確なピッチが検出された単位区間TUを音声と判定するとともにピッチが検出されない単位区間TUを非音声と判定する構成も好適である。もっとも、図2の構成においては、無声音判定部54で使用される指標値D1が音声判定部52でも使用されるから、指標値D1とは別個の指標値(例えばピッチ)が音声判定部52による判定に使用される構成と比較して指標値の算定の負荷が軽減されるという利点がある。なお、例えば入力音VINから無声音の単位区間TUのみを検出する音処理装置14においては音声判定部52が省略される。
(7)変形例7
以上の形態においては、入力音VINを収音した空間R内の音処理装置14にて識別データdおよび出力信号SOUTを生成したが、識別データdを生成する位置(入力音VINを分類する位置)や出力信号SOUTを生成する位置は適宜に変更される。例えば、収音機器12が生成した音響信号SINと判定部50の生成した識別データdとを音処理装置14が出力する構成においては、音響信号SINと識別データdとから出力信号SOUTを生成する音処理部60が受信側の音処理装置16に設置される。また、収音機器12が生成した音響信号SINを音処理装置14が送信する構成においては、受信側の音処理装置16に図2と同様の要素が設置される。もっとも、遠隔会議システム100は本発明の用途の例示に過ぎない。したがって、出力信号SOUTや音響信号SINの送受信は本発明において必須ではない。
(8)変形例8
以上の形態においては、非音声と判定された単位区間TUの音響信号SINを音処理部60が出力しない(出力信号SOUTの音量をゼロに設定する)構成を例示したが、音処理部60による処理の内容は適宜に変更される。例えば、非音声と判定された単位区間TUについて音響信号SINの音量を低下させた信号を音処理部60が出力信号SOUTとして出力する構成も好適である。また、音声(有声音または無声音)の単位区間TUと非音声の単位区間TUとについて音響信号SINに別個の音響的な効果を付与することで出力信号SOUTを生成する構成や、有声音の単位区間TUと無声音の単位区間TUとについて音響信号SINに別個の音響的な効果を付与する構成も採用される。さらに、出力信号SOUTの出力先(音処理装置16)において話者認識(話者識別または話者認証)や音声認識が実行される構成において、音処理部60は、例えば、有声音または無声音と判定された単位区間TUについては、音声認識や話者認識に使用される特徴量を音響信号SINから抽出して出力信号SOUTとして出力する一方、非音声と判定された単位区間TUについては特徴量の抽出を停止する。
本発明の実施の形態に係る遠隔会議システムのブロック図である。 図1の音処理装置のブロック図である。 図2の変調スペクトル特定部のブロック図である。 図2の変調スペクトル特定部による処理の手順を示す概念図である。 複数種の音響の変調スペクトルである。 図2の音声判定部の動作を示すフローチャートである。 複数種の音響の時間波形である。 複数種の音響の周波数スペクトルである。 図2の無声音判定部の動作を示すフローチャートである。
符号の説明
100……遠隔会議システム、12……収音機器、14……音処理装置、16……音処理装置、18……放音機器、22……制御装置、24……記憶装置、32……周波数分析部、34……変調スペクトル特定部、42……指標算定部、44……指標算定部、46……指標算定部、50……判定部、52……音声判定部、54……無声音判定部、60……音処理部、VIN……入力音、SIN……音響信号、SOUT……出力信号、d……識別データ、MS……変調スペクトル、D1,D2,D3……指標値、TU……単位区間。

Claims (11)

  1. 入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定手段と、
    前記変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定手段と、
    前記入力音の零交差数に応じた第2指標値を前記各単位区間について算定する第2指標算定手段と、
    前記各単位区間の入力音が無声音であるか否かを前記第1指標値と前記第2指標値とに基づいて判定する無声音判定手段と
    を具備する音処理装置。
  2. 前記入力音の周波数スペクトルの平坦性に応じた第3指標値を前記各単位区間について算定する第3指標算定手段を具備し、
    前記無声音判定手段は、前記各単位区間の入力音が無声音であるか否かを前記第1指標値と前記第2指標値と前記第3指標値とに基づいて判定する
    請求項1の音処理装置。
  3. 入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定手段と、
    前記変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定手段と、
    前記入力音の周波数スペクトルの平坦性に応じた第3指標値を前記各単位区間について算定する第3指標算定手段と、
    前記各単位区間の入力音が無声音であるか否かを前記第1指標値と前記第3指標値とに基づいて判定する無声音判定手段と
    を具備する音処理装置。
  4. 前記各単位区間の入力音が音声であるか否かを判定する音声判定手段
    を具備する請求項1から請求項3の何れかの音処理装置。
  5. 前記音声判定手段は、前記各単位区間の入力音が音声であるか否かを前記第1指標値に基づいて判定する
    請求項4の音処理装置。
  6. 前記第1指標算定手段は、前記変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度が高いほど前記第1指標値が減少するように前記第1指標値を算定し、
    前記音声判定手段は、前記第1指標値が第1閾値を下回る単位区間の入力音を音声と判定し、
    前記無声音判定手段は、前記第1閾値よりも大きい第2閾値を前記第1指標値が下回る単位区間の入力音を無声音と判定する
    請求項4または請求項5の音処理装置。
  7. 前記第1指標算定手段は、前記変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度が高いほど前記第1指標値が増加するように前記第1指標値を算定し、
    前記音声判定手段は、前記第1指標値が第1閾値を上回る単位区間の入力音を音声と判定し、
    前記無声音判定手段は、前記第1閾値よりも小さい第2閾値を前記第1指標値が上回る単位区間の入力音を無声音と判定する
    請求項4または請求項5の音処理装置。
  8. 前記無声音判定手段が無声音と判定した単位区間の入力音と他の単位区間の入力音とに対して異なる処理を実行する音処理手段
    を具備する請求項1から請求項7の何れかの音処理装置。
  9. 前記音声判定手段が音声と判定した単位区間の入力音と前記無声音判定手段が無声音と判定した単位区間の入力音とに対して異なる処理を実行する音処理手段
    を具備する請求項4から請求項7の何れかの音処理装置。
  10. 入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定処理と、
    前記変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定処理と、
    前記入力音の零交差数に応じた第2指標値を前記各単位区間について算定する第2指標算定処理と、
    前記各単位区間の入力音が無声音であるか否かを前記第1指標値と前記第2指標値とに基づいて判定する無声音判定処理と
    をコンピュータに実行させるプログラム。
  11. 入力音の各単位区間について変調スペクトルを特定する変調スペクトル特定処理と、
    前記変調スペクトルのうち変調周波数が所定の範囲に属する成分の強度に応じた第1指標値を算定する第1指標算定処理と、
    前記入力音の周波数スペクトルの平坦性に応じた第3指標値を前記各単位区間について算定する第3指標算定処理と、
    前記各単位区間の入力音が無声音であるか否かを前記第1指標値と前記第3指標値とに基づいて判定する無声音判定処理と
    をコンピュータに実行させるプログラム。
JP2008041520A 2008-02-22 2008-02-22 音処理装置およびプログラム Expired - Fee Related JP5169297B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008041520A JP5169297B2 (ja) 2008-02-22 2008-02-22 音処理装置およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008041520A JP5169297B2 (ja) 2008-02-22 2008-02-22 音処理装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2009198892A true JP2009198892A (ja) 2009-09-03
JP5169297B2 JP5169297B2 (ja) 2013-03-27

Family

ID=41142421

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008041520A Expired - Fee Related JP5169297B2 (ja) 2008-02-22 2008-02-22 音処理装置およびプログラム

Country Status (1)

Country Link
JP (1) JP5169297B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63262693A (ja) * 1987-04-20 1988-10-28 日本電気株式会社 音声判定検出装置
JPH04100099A (ja) * 1990-08-20 1992-04-02 Nippon Telegr & Teleph Corp <Ntt> 音声検出装置
JP2000132177A (ja) * 1998-10-20 2000-05-12 Canon Inc 音声処理装置及び方法
JP2001022368A (ja) * 1993-08-17 2001-01-26 Mitsubishi Electric Corp 音声判別装置及び音声判別方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63262693A (ja) * 1987-04-20 1988-10-28 日本電気株式会社 音声判定検出装置
JPH04100099A (ja) * 1990-08-20 1992-04-02 Nippon Telegr & Teleph Corp <Ntt> 音声検出装置
JP2001022368A (ja) * 1993-08-17 2001-01-26 Mitsubishi Electric Corp 音声判別装置及び音声判別方法
JP2000132177A (ja) * 1998-10-20 2000-05-12 Canon Inc 音声処理装置及び方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
CSNG200202401003; 金寺登他: '"ロバストな音声認識実現を目的とした変調スペクトル特性の検討"' 電子情報通信学会技術研究報告 Vol.97,No.439(1997-12), pp.15-22 *
CSNG200701100008; 高橋亘他: '"RSFを用いた雑音ロバスト音声区間検出の一考察"' 電子情報通信学会技術研究報告 Vol.107,No.234(2007-09), pp.59-64 *
JPN6012013512; 谷口徹他: '"音声・音楽識別を目的とした特徴量の検討"' 電子情報通信学会技術研究報告 Vol.102,No.527(2002-12), pp.87-91 *
JPN6012013513; 高橋亘他: '"RSFを用いた雑音ロバスト音声区間検出の一考察"' 電子情報通信学会技術研究報告 Vol.107,No.234(2007-09), pp.59-64 *
JPN6012013514; 金寺登他: '"ロバストな音声認識実現を目的とした変調スペクトル特性の検討"' 電子情報通信学会技術研究報告 Vol.97,No.439(1997-12), pp.15-22 *

Also Published As

Publication number Publication date
JP5169297B2 (ja) 2013-03-27

Similar Documents

Publication Publication Date Title
EP2083417B1 (en) Sound processing device and program
JP2008139568A (ja) 音声処理装置および音声処理方法、並びに、プログラム
US20100274554A1 (en) Speech analysis system
JP5050698B2 (ja) 音声処理装置およびプログラム
US11727949B2 (en) Methods and apparatus for reducing stuttering
JP2010210758A (ja) 音声を含む信号の処理方法及び装置
Alonso-Martin et al. Multidomain voice activity detection during human-robot interaction
US8219390B1 (en) Pitch-based frequency domain voice removal
JP5282523B2 (ja) 基本周波数抽出方法、基本周波数抽出装置、およびプログラム
JP2017187676A (ja) 音声判別装置、音声判別方法、コンピュータプログラム
JP6565548B2 (ja) 音響解析装置
Bäckström et al. Voice activity detection
JP5157474B2 (ja) 音処理装置およびプログラム
JP2797861B2 (ja) 音声検出方法および音声検出装置
JP5169297B2 (ja) 音処理装置およびプログラム
JP2006154212A (ja) 音声評価方法および評価装置
JP2006010739A (ja) 音声認識装置
JP5157475B2 (ja) 音処理装置およびプログラム
JP2023539121A (ja) オーディオコンテンツの識別
VH et al. A study on speech recognition technology
JP6565549B2 (ja) 音響解析装置
Ishizuka et al. A feature for voice activity detection derived from speech analysis with the exponential autoregressive model
JP4349415B2 (ja) 音信号処理装置およびプログラム
JP2011158515A (ja) 音声認識装置および音声認識方法
Every et al. Enhancement of harmonic content of speech based on a dynamic programming pitch tracking algorithm

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120508

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121217

R150 Certificate of patent or registration of utility model

Ref document number: 5169297

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees