JP2000181472A - 信号分析装置 - Google Patents
信号分析装置Info
- Publication number
- JP2000181472A JP2000181472A JP10350949A JP35094998A JP2000181472A JP 2000181472 A JP2000181472 A JP 2000181472A JP 10350949 A JP10350949 A JP 10350949A JP 35094998 A JP35094998 A JP 35094998A JP 2000181472 A JP2000181472 A JP 2000181472A
- Authority
- JP
- Japan
- Prior art keywords
- frequency
- signal
- instantaneous
- time
- window
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
Abstract
とみなし、写像の安定な平衡点の性質に基づいて、信号
の構造ならびに、最小分散推定の意味で最適な基本周波
数及び、それぞれの周波数領域における周期性/雑音性
/駆動エネルギーの集中度を併せて求めることにより、
信号の的確な分析を行うことができる信号分析装置を提
供する。 【解決手段】 信号分析装置において、各周波数におけ
る瞬時周波数を周波数から周波数への写像と見なして安
定な平衡点を求める装置と、この装置により求めた安定
な平衡点の周辺の変動に基づいた加重を設定する装置
と、この加重を設定する装置を通じてそれらの平衡点の
周波数に関する情報を統合して基本周波数を求める装置
とを具備する。
Description
するものである。
これまでの音の分析においては、音色の主要な要因であ
るスペクトルの全体的な形と、有声音などの周期的な音
の高さを決めるスペクトルの微細構造とを別のものとし
て、それぞれ専用に開発された方法を用いてパラメータ
が抽出されてきた。
の全体的な形に関しては、人間の聴覚にならったほぼ対
数周波数軸上で等間隔に分布する周波数を有する帯域フ
ィルタ群を用いる方法や、スペクトルの概形を有理スペ
クトルと仮定して、モデルのパラメータを統計的に推定
する手法であるARモデルによる方法、対数スペクトル
のフーリエ変換を介して微細構造成分と概形の成分の分
離を図るCepstrum法および、それらを対象とす
る問題に応じて改良した様々な方法が用いられてきた。
上記のそれぞれの方法で求められたスペクトルの概形を
用いて元のパワースペクトルを正規化し、逆フーリエ変
換することにより求められる基本周期成分を強調した自
己相関関数を用いて基本周波数を求める方法や、遅延さ
せた波形との距離を最小にする遅延量として基本周期を
求める方法、基本波成分の瞬時周波数として基本周波数
を求める方法が用いられている。
たいずれの方法においても、もともと単一のものである
スペクトルをスペクトルの概形と微細構造という二重の
構造に天下りに分けようとするため、いずれも近似的な
分析にならざるを得ず、求められたそれぞれのパラメー
タの間に複雑な相関が残留し、高品質な処理や高精度の
分析が困難であるという問題があった。
する音声のような信号を適切に表現する方法として、正
弦波モデル(Robert J.McAulay an
dThomas F.Quatieri“Speech
analysis/synthesis based
on a sinusoidal represen
tation”IEEE Trans.ASSP,Vo
l.34,pp.744−754,1986)や基本周
波数の抽出方法やTEMPO法(河原英紀,Alain
de Cheveigne.“原理的に抽出誤りの存
在しないピッチ抽出方法とその評価について”信学技
報,Vol.SP96−96,pp.9−18,199
7)等に用いられている。
されており、Flanaganによる方法(J.L.F
lanagan and R.M.Golden.“P
hase vocoder” Bell System
Technical Journal,Vol.4
5,pp.1439−1509,1966)や、その阿
部の方法(T.Abe T.Kobayashi,an
d S.Imai.“Harmonics estim
ation based on instaneous
frequency and its applic
ation topitch determinati
on”.IEICE Transaction Inf
ormation and Systems,Vol.
E78−D,No.9,pp.1188−1194,1
995及びT.Abe T.Kobayashi,an
d S.Imai.“Robust pitch es
timation with harmonics e
nhancement in noisy envir
onments based on instanta
neous frequency”.Proceedi
ng of International Spoke
n Language Proceedings 19
96(ICSLP 96),pp.1277−128
0,Philadelphia,1990.)による変
形は、位相を直接計算することを避け、また、逆三角関
数を用いずに瞬時周波数を計算することのできる優れた
計算方法である。
トルの時間微分を求めたり、別に微分時間窓を用いるこ
とが必要であった。
数特性を周波数から周波数への写像とみなし、写像の不
動点(以下の説明では写像を繰り返した時の周囲の点の
安定性に注目するので、平衡点と呼ぶことにする)の性
質に基づいて、信号の構造ならびに、最小分散推定の意
味で最適な基本周波数及び、それぞれの周波数領域にお
ける周期性/雑音性/駆動エネルギーの集中度を併せて
求めることにより、信号の的確な分析を行うことができ
る信号分析装置を提供することを目的とする。
成するために、 〔1〕信号分析装置において、各周波数における瞬時周
波数を周波数から周波数への写像と見なして安定な平衡
点を求める装置と、この装置により求めた安定な平衡点
の周辺の変動に基づいた加重を設定する装置と、この加
重を設定する装置を通じて前記平衡点の周波数に関する
情報を統合して基本周波数を求める装置とを具備するよ
うにしたものである。
いて、時間窓の分解能を基本周波数及び基本周期の近似
値と同程度に設定し、基本周波数及び調波成分の瞬時周
波数を求めて基本周波数を高精度に求めるようにしたも
のである。
いて、前記時間窓の分解能を基本周波数及び基本周期の
近似値と同程度に設定し、基本周期の近似値に適応的に
定められる周期成分抑圧用平滑化関数と畳み込んで作成
される窓を用いることにより、基本周波数及び調波成分
の瞬時周波数を求めて基本周波数を高精度に求めるよう
にしたものである。
いて、対数周波数軸上でほぼ等間隔あるいは、直線周波
数軸上でほぼ等間隔、あるいは、特定の時間サイズに密
に配置する等の不等間隔になるように設計された複数の
時間長の時間窓の組を用いることにより信号の階層構造
を分析するようにしたものである。
いて、画像の走査により得られる信号を入力信号として
用いることにより画像の構造を解析するようにしたもの
である。
て詳細に説明する。
装置の基本周波数抽出装置のブロック図である。
装置は、入力回路1、窓作成手段2、サンプル遅延手段
3、FFT(短時間フーリエ変換)手段4,5、振幅正
規化手段6,7、差分抽出手段8、絶対値計算手段9、
瞬時周波数変換手段10、変動計算手段11、基本周波
数計算手段12から構成されている。なお、X(t)は
入力信号、Xout は出力信号である。
装置の各部分を詳細に説明する。
あるいは、画像を走査して得られた信号のような時系列
として扱うことのできるアナログ信号あるいはディジタ
ル信号を、内部処理のための時間的に等間隔に標本化さ
れたディジタル信号に変換する。
基本周波数の分布等の事前の知識に基づいて、ガウス窓
と、2次のcardinal B−spline関数を
求め、それらを畳み込むことによって、FFT手段4及
び5で用いる時間窓を作成する。この時間窓は、性能の
劣化を許容すれば、上述したガウス窓とcardina
l B−spline関数の畳み込みによる窓以外の窓
を用いることもできる。
IFO(first in first out)メモ
リ等の方法により、入力回路で変換されたディジタル信
号を1サンプル時点だけ遅延させた信号を作成する。
た窓により入力手段1で変換されたディジタル信号のあ
る時間的区間を取り出して、高速フーリエ変換により信
号の短時間フーリエ変換を計算する。
た窓により入力手段1で変換されたディジタル信号をサ
ンプル遅延手段3で1サンプル時点だけ遅延させた信号
からある時間的区間を取り出して、高速フーリエ変換に
より遅延された信号の短時間フーリエ変換を計算する。
られた信号の短時間フーリエ変換を、その絶対値で除算
することにより、絶対値が1で信号の位相情報のみを保
持する振幅正規化複素スペクトルを計算する。
られた遅延された信号の短時間フーリエ変換を、その絶
対値で除算することにより、絶対値が1で遅延された信
号の位相情報のみを保持する振幅正規化複素スペクトル
を計算する。
相情報のみを保持する振幅正規化複素スペクトルと絶対
値が1で遅延された信号の位相情報のみを保持する振幅
正規化複素スペクトルとの差分を計算する。
められた差分の絶対値を計算する。
用いて絶対値計算手段9で求められた絶対値を各周波数
における瞬時周波数に変換する。また、周波数と瞬時周
波数の対応関係から安定平衡点を求める。
10により求められた安定平衡点について、安定平衡点
の周波数の周囲の周波数における瞬時周波数と、瞬時周
波数の時間変化に基づいて瞬時周波数の分散の推定値で
ある変動を計算する。
算手段10により求められたそれぞれの安定平衡点にお
ける瞬時周波数の情報を変動計算手段11により求めら
れた変動の値に基づき、最小分散推定となるように統合
して、基本周波数の推定値Xout を得る。
装置の構造解析及び基本周波数抽出装置のブロック図で
ある。
本周波数抽出装置は、入力回路21、窓作成手段22、
サンプル遅延手段23、FFT(短時間フーリエ変換)
手段24,25、振幅正規化手段26,27、差分抽出
手段28、絶対値計算手段29、瞬時周波数変換手段3
0、変動計算手段31、信号構造マップ作成手段32、
調波性マップ作成手段33、最適窓選択手段34、基本
周波数計算手段35から構成されている。なお、X
(t)は入力信号、Xout は出力信号である。
本周波数抽出装置の各部分を詳細に説明する。
号あるいは、画像を走査して得られた信号のような時系
列として扱うことのできるアナログ信号あるいはディジ
タル信号を、内部処理のための時間的に等間隔に標本化
されたディジタル信号に変換する。
の基本周波数の分布等の事前の知識に基づいて、幾つか
の基本周波数の候補を設定し、その各々についてガウス
窓と、2次のcardinal B−spline関数
を求め、それらを畳み込むことによって、FFT手段2
4及び25と信号構造マップ作成手段32で用いる時間
窓を作成する。この時間窓は、性能の劣化を許容すれ
ば、上で説明したガウス窓とcardinal B−s
pline関数の畳み込みによる窓以外の窓を用いるこ
ともできる。
FIFO(first in first out)メ
モリ等の方法により、入力回路で変換されたディジタル
信号を1サンプル時点だけ遅延させた信号を作成する。
された複数の窓により入力手段21で変換されたディジ
タル信号のある時間的区間を取り出して、高速フーリエ
変換により信号の短時間フーリエ変換を複数個計算す
る。
された複数の窓により入力手段21で変換されたディジ
タル信号をサンプル遅延手段23で1サンプル時点だけ
遅延させた信号からある時間的区間を取り出して、高速
フーリエ変換により遅延された信号の短時間フーリエ変
換を複数個計算する。
求められた信号の複数個の短時間フーリエ変換を、それ
ぞれの絶対値で除算することにより、絶対値が1で信号
の位相情報のみを保持する振幅正規化複素スペクトルを
複数個計算する。
求められた遅延された信号の複数個の短時間フーリエ変
換を、その絶対値で除算することにより、絶対値が1で
遅延された信号の位相情報のみを保持する振幅正規化複
素スペクトルを複数個計算する。
位相情報のみを保持する複数個の振幅正規化複素スペク
トルと絶対値が1で遅延された信号の位相情報のみを保
持する複数個の振幅正規化複素スペクトルとの各々の差
分を複数個計算する。
で求められた複数個の差分のそれぞれの絶対値を複数個
計算する。
用いて絶対値計算手段29で求められたそれぞれの時間
窓に対応する絶対値を各周波数における瞬時周波数に変
換する。また、周波数と瞬時周波数の対応関係からそれ
ぞれの時間窓に対応する安定平衡点を求める。
30により求められたそれぞれの時間窓に対応する安定
平衡点について、安定平衡点の周波数の周囲の周波数に
おける瞬時周波数と、瞬時周波数の時間変化に基づいて
瞬時周波数の分散の推定値である変動を計算する。
波数変換手段30により求められたそれぞれの時間窓に
対応する安定平衡点を用いて、時間窓の窓長と安定平衡
点の瞬時周波数をそれぞれの軸とする平面にそれぞれの
時間窓について求められた安定平衡点を配置し、変動計
算手段31により求められた変動の値を付与することに
より、信号構造マップを作成する。
点の瞬時周波数から求められる自己相関の次元を持つ余
弦関数を、それぞれの安定平衡点に付与された変動の値
から計算される加重を掛けて総和を計算することによ
り、それぞれの時間窓長についての正規化された相関関
数を求め、時間窓の窓長と時間差をそれぞれの軸とする
平面上のマップとして調波性マップを作成する。
長について求められた相関関数により調波性マップ作成
手段33により作成されたマップを時間窓方向に統合す
ることにより、基本周波数のおおよその値を求め、それ
に近い窓長を有する時間窓を最適な時間窓として選択す
る。
プ作成手段32により求められたマップから最適窓選択
手段34により求められた最適な時間窓に相当する安定
平衡点の情報を選択抽出し、それぞれの安定平衡点にお
ける瞬時周波数の情報を変動計算手段31により求めら
れた変動の値に基づき、最小分散推定となるように統合
して基本周波数の推定値Xout を得る。
装置の高精度音源情報抽出装置のブロック図である。
抽出装置は、入力回路41、窓作成手段42、瞬時周波
数抽出(低域情報)手段43、安定平衡点抽出手段4
4、瞬時周波数時間微分抽出手段45、変動計算手段4
6、基本周波数計算(低域情報)手段47、瞬時周波数
抽出〔チャープ(Chirp)基底〕手段48、安定平
衡点抽出手段49、瞬時周波数時間微分抽出手段50、
変動計算手段51、基本周波数計算(チャープ基底)5
2、周期性指標計算手段53、逆フィルタ54、駆動力
局所性指標計算手段55から構成されている。なお、X
(t)は入力信号、Xout 1〜Xout 3は出力信号であ
る。ここで、チャープ(Chirp)とは、搬送波の周
波数が一定の方向に変化するような信号を意味する。
るための音源情報を、本発明に基づいて抽出する装置に
関するものである。
抽出装置の各部分を詳細に説明する。
号を表すアナログ信号あるいはディジタル信号を、内部
処理のための時間的に等間隔に標本化されたディジタル
信号に変換する。
の基本周波数の分布等の事前の知識に基づいて、ガウス
窓と、2次のcardinal B−spline関数
を求め、それらを畳み込むことによって、瞬時周波数抽
出手段43で用いる時間窓を作成する。この時間窓は、
性能の劣化を許容すれば、上述したガウス窓とcard
inal B−spline関数の畳み込みによる窓以
外の窓を用いることもできる。
3次ないし、4次までの調波成分を含む周波数帯域につ
いて、入力回路41で変換されたディジタル信号と窓作
成手段42で作成された時間窓を用いて、第1実施例あ
るいは第2実施例に示した方法あるいはそれらと数学的
に等価である方法によって周波数毎の瞬時周波数を計算
する。
出(低域情報)手段43により求められた瞬時周波数に
基づいて、周波数から瞬時周波数への写像の安定な平衡
点を抽出する。
周波数抽出(低域情報)手段43で求められた瞬時周波
数の値および1サンプル過去の瞬時周波数の値との差に
基づいて瞬時周波数時間微分を求める。
44で求められた安定平衡点の周辺での瞬時周波数と、
瞬時周波数時間微分抽出手段45で求められる瞬時周波
数時間微分の同じく安定平衡点の周辺での値に基づい
て、瞬時周波数の推定値の分散に相当する変動量を計算
する。
安定平衡点抽出手段44で求められたそれぞれの安定平
衡点における瞬時周波数の情報を変動計算手段46によ
り求められた変動の値に基づき、最小分散推定となるよ
うに統合して基本周波数の低域情報に基づく推定値を計
算する。
は、瞬時周波数時間微分抽出手段45で求められた瞬時
周波数の時間微分に基づいて、瞬時周波数の時間変化を
直線近似することで見かけの周波数が一定となるような
新しい時間軸の上で短時間フーリエ変換を行い、第1実
施例あるいは第2実施例に示した方法あるいはそれらと
数学的に等価である方法によって、周波数毎の瞬時周波
数を計算する。
出(チャープ基底)手段48により求められた瞬時周波
数に基づいて、周波数から瞬時周波数への写像のチャー
プ基底における安定な平衡点を抽出する。
周波数抽出(チャープ基底)手段48で求められた瞬時
周波数の値および1サンプル過去の瞬時周波数の値との
差に基づいてチャープ基底における瞬時周波数時間微分
を求める。
49で求められたチャープ基底における安定平衡点の周
辺での瞬時周波数と、瞬時周波数時間微分抽出手段50
で求められるチャープ基底における瞬時周波数時間微分
の同じく安定平衡点の周辺での値に基づいて、瞬時周波
数の推定値の分散に相当する変動量を計算する。
は、安定平衡点抽出手段49で求められたチャープ基底
におけるそれぞれの安定平衡点における瞬時周波数の情
報を変動計算手段51により求められたチャープ基底に
おける変動の値に基づき、最小分散推定となるように統
合して基本周波数のチャープ基底に基づく推定値を計算
し、Xout 2とする。
出手段49で求められたチャープ基底における安定平衡
点のそれぞれについて、変動計算手段51で求められた
チャープ基底における変動の値に基づき、安定平衡点の
周波数の付近での信号成分がどの程度周期的であるかを
表す指標を求め、Xout 1とする。因みに、変動の値が
ほぼ0であれば、当該の周波数の付近の信号成分は、ほ
ぼ完全に周期的であるとみなされ、指標の値として1が
与えられる。また、逆に変動の値が大きく、白色雑音を
分析したときの変動の期待値程度の大きさである場合に
は、当該の周波数の付近の信号成分は、ほぼ完全に非周
期的であるとみなされ、指標の値として0が与えられ
る。
段55は、本発明の請求項目に関わるものではないが、
音声分析合成用の信号分析装置として完結したものとす
るために記載するものである。
形に起因する信号に内在する時間依存性を除去して冗長
性の無い残差信号を計算する。この逆フィルタには、線
形予測分析を用いても、ケプストラムに基づく方法を用
いても構わない。
間区間の中で残差信号の振幅の分布がどの程度偏ってい
るかを表す指標である。この指標としては、例えば、あ
る時間範囲内での振幅の標準偏差と振幅の絶対値の最大
値との比や統計量の一つである尖度を用いることができ
る。
を周波数から周波数への写像ととらえ、その写像の安定
な平衡(不動)点が調波に対応するという着想と、調波
成分の統計的な性質を安定な平衡点の近傍の時間周波数
の形状から求めることができるという発見にある。ま
た、これを有効に生かすために、性質の良い時間窓の設
定を行う点が重要な点である。
を、調波成分に対応する安定な平衡点の近傍の形状から
求め、最小分散推定となるようにそれらの情報を統合し
て基本周波数を推定する。
成分の分散の推定値と、ガウス型の白色雑音で生ずる安
定平衡点の周波数の分散に基づいて決定する。
めることにより、信号への駆動の時間的不均一性を表現
する指標を得る。
の問題点を、分析の時間軸を瞬時周波数の時間微分に基
づいて時間軸を非線形に伸縮することにより解消するよ
うにしている。
説明する。
クトル(低周波部分)を示す図である。この図におい
て、横軸は周波数(Hz)、縦軸はレベル(dB)であ
る。こでは、窓の伸長係数=1である。
=1とした母音「ア」の振幅スペクトルの低周波部分が
表されている。
クトルにより正規化した隣接する時点での複素スペクト
ルの差の絶対値から求められた瞬時周波数(低周波部
分)を示す図である。
z)、縦軸は瞬時周波数(Hz)が示され、破線は、瞬
時周波数がフィルタの中心周波数と同じ場合を示し、窓
の伸長係数=1、破線を実線が左から右に横切る部分が
安定な平衡点を示している。
における「単一正弦波らしさ」を示す図である。
z)、縦軸は平均標準誤差(Hz)であり、標準誤差で
表しているため、値が小さい程、単一正弦波らしい。横
軸の周波数は、フィルタの中心周波数。窓の伸長係数=
1である。
た平衡点における瞬時周波数を基本周波数に換算した値
を示す図である。ここで、縦軸は評価基底周波数(H
z)、横軸はフィルタの中心周波数、窓の伸長係数=1
である。
ついて表示されているフィルタの中心周波数までの基本
周波数情報を統合したときの標準誤差を示す図である。
はトータル標準誤差(Hz)、窓の伸長係数=1であ
る。
ついて表示されているフィルタの中心周波数までの基本
周波数情報を統合したときの基本周波数の推定値を示す
図である。
z)、縦軸は評価基底周波数(Hz)であり、ここで、
窓の伸長係数=1である。
「ア」の基本周波数の推定値を示す図である。
軸は評価基底周波数(Hz)であり、実線は11番目の
調波成分までの値から最小分散推定した結果を示し、+
印は基本波のみを使用して基本周波数を推定した結果を
示しており、窓の伸長係数=1である。
「ア」からの正弦波成分の抽出を示す図である。
置を点により表しており、縦軸は窓の伸長係数、横軸は
抽出された成分の瞬時周波数である。
「ア」から抽出された正弦波成分の変動(その1)を示
す図である。
軸は抽出された成分の相対的変動量を示している。
「ア」から抽出された正弦波成分の変動(その2)を示
す図である。この図において、横軸は抽出された成分の
周波数、縦軸は抽出された成分の相対的変動量を示して
いる。
「ア」からの事前情報無しの場合の基本周波数抽出マッ
プを示す図である。
縦軸は伸長指標を示している。図14における濃度は、
補正された自己相関に相当する値を表している。
「ア」からの事前情報無しの場合の基本周波数抽出マッ
プの一断面を示す図である。
(Hz)、縦軸は補正された自己相関を示している。
400Hz正弦波を示す図である。この図において、横
軸は時間(ms)であり、20000Hzサンプリング
で、S/N=0dBである。
対する出力瞬時周波数を示す図である。
z)、縦軸は瞬時周波数(Hz)であり、信号は白色雑
音の混入した400Hz正弦波である。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は白色雑音の混入した
400Hz正弦波(S/N=0dB)、伸長係数=1で
ある。
相対的標準誤差を示す図である。
縦軸は相対的標準誤差であり、信号は白色雑音の混入し
た400Hz正弦波(S/N=0dB)、伸長係数=1
である。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は白色雑音の混入した
400Hz正弦波(S/N=0dB)、伸長係数=4で
ある。
相対的標準誤差を示す図である。
縦軸は相対的標準誤差を示し、信号は白色雑音の混入し
た400Hz正弦波(S/N=0dB)、伸長係数=4
である。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は周期が増加するパル
ス列、伸長係数=1である。
辺の傾きを示す図である。
縦軸は勾配であり、ここで、伸長係数=1である。
お」を示す図である。
り、ここで、標本化周波数は44100Hzである。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は男性の発声した「あ
いうえお」、伸長係数=1、ピッチ適応窓である。
えお」についてチャープ基底を用いて求めた、基準とな
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
したパルス列について求めた、基準となる周波数から瞬
時周波数への写像の安定な平衡点を示す図である。
軸は周波数(Hz)であり、ここで、周期5ms、1個
だけ5.05msである。
したパルス列について求めた、基準となる周波数から瞬
時周波数への写像の安定な平衡点のうち、第一次調波成
分に対応する平衡点を示す図である。
軸は周波数(Hz)であり、ここで、周期5ms、1個
だけ5.05ms、基本波成分だけの拡大表示を行って
いる。
する(図1〜図3参照)。
数は、その信号のヒルベルト(Hilbert)変換H
[x(t)]を用いて次のように定義される。
この定義では、位相の時間微分として瞬時周波数を求め
ているため、履歴依存性のあるunwrapの処理が必
要である。これは、以下のような演算により、履歴依存
性の無い処理に置き換えることができる。
として表される信号s(t)を次式のように表すことと
する。
一意的に定まる。ここで用いられている位相φ(t)
と、瞬時周波数ω(t)との間には、次の関係がある。
したものを時間微分した信号をy(t)とする。する
と、y(t)は次のように表される。
瞬時周波数となる。
号を扱う必要がある。差分信号を、yd (t)とする。
また、サンプリング周期をΔtとする。
(t)の関係についての定義を参照する。角瞬時周波数
ω(t)の変化速度がゆっくりとしておりサンプリング
周期の間では一定であると近似できるものとする。する
と、yd (t)は、次のように書き換えることができ
る。
められる。
は、離散時間系の標本化周波数fsを用いて次のように
表される。
定義を参照する。
分的に切り出すための時間窓である。すると、各周波数
に対応する成分は、w(t−r)ejwt という複素数の
インパルス応答を有するフィルタの出力と解釈すること
ができる。w(t)のスペクトルが負の領域にもれを持
たなければ、この信号の実部と虚部はヒルベルト変換の
関係にあるから、上で行った議論を利用して、二つの引
き続く標本化時刻におけるフィルタ出力をそれぞれの振
幅で正規化した信号の差の絶対値から瞬時周波数を求め
ることができる。
分に同時に適用することができる。したがって、以下の
演算により、各周波数における瞬時周波数f(λ,t)
を一括して求めることができる。
る装置と、逆正弦関数を計算する装置(逆関数表)があ
れば、簡単な積和演算により各周波数における瞬時周波
数が求められる。
い。しかし、毎回、逆三角関数を計算することは、実装
上では不経済である。テイラー(Taylor)展開の
1次の項までを考慮し、それ以上の項を無視することに
より、毎回逆三角関数を計算する手間を以下のようにし
て省くことができる。
る周波数だけの関数であるから、最初に表を作成してお
けば、毎回計算する必要は無い。この方法によれば、フ
ーリエ変換さえできれば、簡単な積和演算により、一挙
に各周波数における瞬時周波数が求められる。
微分を差分と位相調整で近似した計算法についても、以
下に記す。
t)|がほとんど変化しないと仮定して、次に示すよう
な簡単化を試みると、低い周波数領域でかつ平衡点の周
辺では、比較的良い近似を示すものの、平衡点と平衡点
の中間や高い周波数領域では誤差が大きくなり、実用に
耐えない。
性能は、ピークの時間方向の変動が小さいことと、時間
周波数の不確定性が小さいことである。目的を調波複合
音の中の成分である単一正弦波の抽出とすれば、時間方
向の変動の主要な要因は、隣接する調波成分からの干渉
である。そこで、時間周波数の不確定性の小さな窓を最
初用意し、隣接する調波成分からの干渉を抑圧するよう
な変形を加えて、目的とする窓を作ることとする。
号音のように周波数が比較的安定しているものの場合に
は、時間方向の時間分解能を低下させることで、周波数
方向の分解能を向上させることができる。その場合に
は、以下で説明するようなcardinal B−sp
lineによるゼロの付加は必須ではない。しかし、音
声の場合は、常に基本周波数が変動しているため、窓の
長さを長くしていくと、測定値の信頼性が急速に低下す
る。
次のようなガウス(Gauss)関数から出発する。
リエ変換であり、ω0 =2πf0 は、時間と周波数分解
能が等方的になる角周波数及び周波数を表すものとす
る。
適切である。なぜなら、負の周波数側への漏れが多く、
また、waveletの許容条件を満たしていないから
である。
本周波数(すなわち、隣接調波成分との間隔)であると
解釈すると、この時間窓と、基本周波数で定まる基本周
期の間隔を節点間隔とする2次のcardinal B
−splineを畳み込めば、基本波以外の調波の周波
数における応答がゼロでありかつ(ゼロが2次のゼロで
あるから、基本周波数の)誤差に鈍感になるようにでき
る。また、そうして作成された窓関数は、wavele
tの許容条件を実用的な意味において満たす。
抽出について説明する。
タの通過帯域内に単一の周波数成分のみが存在する場合
には、フィルタ出力は、強制振動解であるから入力であ
る単一周波数成分の周波数が瞬時周波数として得られ
る。すなわち、瞬時周波数ω(λ,t)を注目する周波
数λに沿って見ていくと、雑音のみが存在する部分で
は、ωは、λの周辺を変動しながらλに追従して変化し
ていく。
規定するフィルタの通過帯域内に単一の周波数成分が入
ってくると、ωは、急速にその単一周波数成分の周波数
ωcに接近し、再度単一周波数成分が通過域から外れる
λの位置を超えるまで、ωは一定値ωc を維持する。こ
の一定値がλと交差する位置を求めれば、そこがフィル
タの中心周波数と一致することが分かる。
められた瞬時周波数を表し、λがフーリエ変換の周波数
軸を表すものとする。λはフーリエ変換を直線周波数軸
上で等間隔に並んだ複素帯域フィルタ群とみなした時
の、各フィルタの中心周波数とみなすこともできる。ω
とλは、両方とも周波数の次元を有しているので、ω
(λ)を周波数から周波数への写像と考えることもでき
る。
に、正弦波成分が存在する場合には、その正弦波の周波
数は、この写像の平衡点でかつ安定な平衡点となること
が分かる。安定な平衡点でないものは、いずれにせよ、
レベルが低いか、誤差が大きいかであり、注目する必要
の無い成分である。
択することで、重要な線スペクトル成分は、全て拾い出
すことができる。
心として、フィルタの通過帯域内の瞬時周波数の一定値
ωc からのずれを指標(例えば、誤差の自乗和)とする
ことで、単一周波数成分の確からしさを表すことができ
る。
ならえば、「正弦波らしさ」と言えよう。
n ,t)の計算方法を示しておく。以下の式を用いる。
る。この窓関数は、フィルタの通過帯域内部の情報を極
度な偏りなく拾い出すことができて、両端が滑らかに0
になるような関数であればよい。これは、時間窓w
(t)に連動して決められるべきものである。また、平
衡点の周波数(ただし、フィルタ中心周波数軸上の値)
λnは、次の条件を満たす周波数である。
際には、これはf(λn ,t)の性質により決まるもの
であるから、λn (t)と書かなければならない。むし
ろ扱いとしては、集合を規定した方がすっきりする。
る誤差に起因する変動量は、窓関数wの時間領域の表現
であるWの幅に依存した相対的な量になりそうである。
数式と数値シミュレーションにより確認することが必要
である。論理は、「同じ2次モーメントを持っていて
も、幅が広い方が、大きく離れた帯域内の他の周波数成
分からの影響を受ける。その影響の大きさは、Wの幅に
比例する。」である。ここでは、簡単な数式による検討
を行う。
とする成分ejwt の他に、僅かに周波数が違い、微少な
大きさの成分εej(ω +δ)tが存在すると仮定する。こ
こで、εとδは、適当な小さな定数である。この信号を
単一の成分がAM変調とFM変調を受けているものとし
て表現すると、以下のように近似できる。
るので、ここで求めたAM成分とFM成分が検出される
こととなる。この表現は、微少成分の周波数が主要な正
弦波の周波数からの差に比例して、周波数に対する誤差
が増加することを示している。また、最終的な近似式
は、εが微少な場合には、微少成分による影響は、線形
加算により近似できることを示している。
音)の影響を2次のモーメントで評価することは妥当で
あるし、その2次のモーメントを分散と解釈して、抽出
された瞬時周波数の誤差を議論しても構わない。その結
果、同じ2次のモーメントが得られた場合であっても瞬
時周波数の抽出誤差は、窓関数の等価帯域幅に比例して
増加する。
プ信号の場合には、通過域の中に成分が入った場合に
は、傾いた直線状になる(傾きは、スィープ速度の2次
関数で近似される)。周波数が一定で、振幅が一様に増
加あるいは減少するような場合には、偶関数成分として
表れる。
上の成分を変動成分として扱うことになる。複数の周波
数成分を統合する場合に、最小分散推定を導き出すこと
ができる。なお、瞬時周波数の解析で無視した2次の変
動成分は、対応する成分の瞬時振幅の変化の1次成分と
して、瞬時周波数を求めるために用いた二つの短時間フ
ーリエ変換から簡単に求めることができる。
抽出手段45,50を入れることにより、非常に性質の
良いものとなった。この計算はヒルベルト変換を用いた
包絡の計算を近似するものでもある。
る。
%程度)の値が分かっており、精密な基本周波数を求め
たい場合について説明する。この精度で基本周波数が分
かっていれば、窓関数のパラメータτ0 をこの基本周波
数に対応する値に設定し、分析を行う。すると、平衡点
として、調波成分に対応するもののみが抽出されてく
る。
ら、それらを統合して基本周波数の推定値を求めるため
の漸化式は次のようになる。
波成分の誤差の分散を基本周波数に対応するものに換算
した値である。V(n) (t;τc )は、n番目までの調
波成分を考慮した最小分散推定による分散の値である。
また、fn (t;τc )は、n番目の調波成分の瞬時周
波数を基本周波数に対応するものに換算した値である。
f0 (n) (t;τc )は、n番目までの調波成分を考慮
した最小分散推定による基本周波数の推定値である。τ
c は、時刻である。
制御への応用について説明する。
合、これまでは、有声/無声の判定は困難な問題とし
て、様々な工夫が行われてきた。各周波数における自己
相関やスペクトルの形状を利用して周波数帯域毎に有声
/無声を判定するMBEは、比較的品質の良い方法とし
て利用されてきた。また、非常に高品質の音声分析変換
合成法であるSTRAIGHT(河原英紀,増田郁代,
“時間周波数領域での補間を用いた音声の変換につい
て”信学技報,Vol.EA96−28,August
1996.8及びHideki Kawahara.
“Speech representation an
d transformation using ad
aptive interpolation of w
eighted spectrum:Vocoder
revisited”.in Proceedings
of IEEE int,Conf.Acous
t.,Speech and Signal Proc
eeding,Vol.2,pp.1303−130
6.Munich,1997.)においても、MBE
〔Daniel W.Griffin and Jae
S.Lim.“Multihaud excitat
ion Vocoder”.IEEE Trans.o
nAcoustics,Speech and Sig
nal Proceeding,36(8):1223
−1235,1988〕と類似のアイデアによる合成音
源の分析と制御が用いられていた。しかし、これらは、
近似的な発見的工夫を随所に取り入れたものであり、所
期の性能を発揮させるためには、様々な試行錯誤が必要
であった。
変動Vn (t;τc )〔正確には、f0 Vn (t;
τc )/τc という形に正規化する必要がある〕は、音
源の性質そのものを直接表している。この量は、簡単な
変換でそのまま音源特性の制御に用いることができると
いう見通しの良さと性質の良さを併せ持っている。
規則的な駆動源による信号であっても、このような評価
基準で見たときに「雑音性」の成分があるように見えて
しまうことがある。また、ホルマント等の共振が鋭い場
合のパルス性の駆動の場合にも、たまたま次のパルスに
よる応答が、以前のパルスによる応答の逆相となること
もあり得る。そのような場合も、見かけ上の雑音性は増
加する。
軸の伸縮で解消された。また、定量的に変換法則を書け
る材料はそろってきた。
明する。
利用して正弦波成分に帰着させることのできる成分の瞬
時周波数を求めることができる。これは、多数の繰り返
し演算を必要とする正弦波モデルを効率良く計算するた
めの別解を与える。
成分を選択することにより、本質的な成分だけを取り出
すことができる。
(t)の長さを短いものから拡大していくことを考え
る。あるいは、複素wavelet変換の二つの隣接す
る時刻を考えても良い。すると、Λは、観測時刻とスケ
ールの関数Λ(a、t)となる。ここで、aはスケール
を表す指標とする。
が増加するので、ある時刻を固定して周波数λとスケー
ルaによって定められる2次元平面上に表示すると、分
岐図となる。それぞれのΛ(a、t)には、誤差の分散
と、周波数ならびに振幅方向の変化速度、その位置にお
けるエネルギーが付随しているので、それらをもとにし
て、信号の構造を規定することができる。
造、基本周波数に起因する構造、サブハーモニックな、
声帯の振動に起因する構造が見える。
解析を用いた基本周波数の抽出について説明する。
は、予め基本周波数が分からなければ、利用することが
困難である。ここでは、信号の構造解析の結果を統合し
て基本周波数を求める方法を説明するまず、ある長さに
ついて、議論する。各単一正弦波成分をcos位相と
し、それぞれの振幅を標準偏差で正規化して合成すれ
ば、調波構造が存在する場合には、基本波の整数倍の部
分にピークが発生する。Lは、「周期らしさ」を表すと
言って良い。
少するような正の数である。ただし、実際の音声では、
低い調波成分ほど変動が小さいようなので、用いる最高
の次数だけを決めておけば、αk は一定の値でも構わな
い。なお、実用的には、Vkの大きさに下限を設ける
か、ある時間範囲について積分したVk の値を用いて、
統計的な揺らぎによって1/√Vk が過大な値を取らな
いようにする工夫が必要である。
比の拾い出しにより生ずるピークの横軸上での間隔は、
基本周波数によらずに一定の系列になる。つまり、調波
構造が存在すれば、その形は、平行移動による変化を除
き、一定になる。対数周波数軸uを形式的に表せば以下
のようになる。
基本周波数に対応するピークは、それよりも低い基本周
波数に対応するピークに用いられた成分を含んでいるか
ら、それらを差し引くことで、その低い方の基本周波数
のみに帰属させられる変動成分を求めるためには、上記
の一定の系列を利用した、デコンボリューションを行え
ば良い。
長係数を、例えば0.2から2あるいは5まで、例え
ば、sqrt2の比で、対数軸上で等間隔に、変化させ
ながらこのようなデコンボリューションを行えば、調波
構造を明瞭にすることのできる伸長係数が、事前情報を
利用せずに求められる。この伸長係数(窓長)を利用し
て、適切な窓長を選択し、そこで窓長が既知の場合の方
法を用いることにより、基本周波数の最小分散推定が可
能になる。
の他に、「周期らしさ」Lを計算する部分を修正し、整
数倍の周期への影響を計算の段階で取り除いて、「基本
周期らしさ」という指標Mを定義することができる。形
式的には、この操作は、以下のように示すことができ
る。
は滑らかな半波整流関数である。バイアスは、考慮すべ
き平衡点の個数をNとすると、例えば、1/√Nと選択
すれば良い。
る。
析装置の基本周波数抽出装置のブロック図である。
装置は、入力回路61、分析ウェーブレット作成手段6
2、ウェーブレット分析手段63、瞬時周波数抽出手段
64、安定平衡点抽出手段65、瞬時周波数時間微分抽
出手段66、変動計算手段67、基本周波数計算手段6
8から構成されている。なお、X(t)は、入力信号、
Xout は出力信号である。
ついて詳細に説明する。
号あるいは画像の走査によって得られるような時系列信
号を表すアナログ信号あるいはディジタル信号を、内部
処理のための時間的に等間隔に標本化されたディジタル
信号に変換する。
周波数が出現し得る全周波数範囲をカバーするように搬
送周波数を設定して、その中の一つの搬送周波数に基づ
いて、ガウス窓と、2次のcardinal B−sp
line関数を求め、それらを畳み込んだものに、更に
搬送周波数の複素指数関数を掛けることによって、ウェ
ーブレット分析手段63で用いる分析ウェーブレットを
作成する。この分析ウェーブレットは、性能の劣化を許
容すれば、上述したガウス窓とcardinal B−
spline関数の畳み込みによるもの以外を用いるこ
ともできる。
ーブレット作成手段62で求められた分析ウェーブレッ
トを対数周波数軸上で等間隔になるように伸縮して複数
の信号を作成し、それらをもとの信号と畳み込むことに
より複素ウェーブレット分析を計算する。
析ウェーブレットが対応する搬送周波数における瞬時周
波数を、第1実施例あるいは第2実施例に示した方法あ
るいはそれらと数学的に等価である方法によって計算す
る。
出手段64により求められた瞬時周波数に基づいて、周
波数から瞬時周波数への写像の安定な平衡点を抽出す
る。
周波数抽出手段64で求められた瞬時周波数の値および
1サンプル過去の瞬時周波数の値との差に基づいて瞬時
周波数時間微分を求める。
65で求められた安定平衡点の周辺での瞬時周波数と、
瞬時周波数時間微分抽出手段66で求められる瞬時周波
数時間微分の同じく安定平衡点の周辺での値に基づい
て、瞬時周波数の推定値の分散に相当する変動量を計算
する。
出手段67で求められたそれぞれの安定平衡点につい
て、変動計算手段67により求められた変動の値の時間
方向での累積値が最小になるような安定平衡点の系列を
選択することにより、基本周波数を求める。なお、音声
の開始や終了のような基本周波数成分が非常に弱い特殊
な場合以外であれば、単純にそれぞれの時刻において最
も変動が少ない安定平衡点を選択するだけで、基本周波
数が求められる。
ば、第1実施例や第3実施例で必要であったある程度の
精度を有する基本周波数の近似値を必要としない基本周
波数の抽出を可能とする。また、本装置を、例えば第3
実施例の基本周波数計算(低域情報)手段までの部分と
置き換えて用いることもできる。
ウェーブレット分析を用いた安定平衡点の時間−スケー
ル平面における散布図が示されている。ここで用いた分
析ウェーブレットは、絶対値の形状を伸長係数μ=1を
用いて決定した。図中の最も滑らかな軌跡は、基本波成
分に対応する安定平衡点から構成されている。平均的に
は、この軌跡上での変動が最小となる。
のではなく、本発明の趣旨に基づいて種々の変形が可能
であり、これらを本発明の範囲から排除するものではな
い。
よれば、次のような効果を奏することができる。
への写像とみなし、写像の安定な平衡点の性質に基づい
て、信号の構造ならびに、最小分散推定の意味で最適な
基本周波数及び、それぞれの周波数領域における周期性
/雑音性/駆動エネルギーの集中度を併せて求めること
により、信号の的確な分析を行うことができる。
精度の分析を行うことができる。
で、高精度の計測装置として利用できる他、音声認識
や、音声合成・変換、音響現象を用いた機械の診断、電
子楽器等の高品質化、高精度化のためにこれらの装置の
一部として組み込んで利用することができる。
ぞれの調波成分の正弦波らしさを精密に定量的に分析・
表示することができる。
楽器を特徴付ける様々な共鳴腔の特性、振動物体の特徴
的な共振周波数や声の高さ(ピッチ)等を、安定に高速
に求めることができる。
周波数抽出装置のブロック図である。
解析及び基本周波数抽出装置のブロック図である。
度音源情報抽出装置のブロック図である。
示す図(窓の伸長係数=1)である。
隣接する時点での複素スペクトルの差の絶対値から求め
られた瞬時周波数(低周波部分)を示す図(窓の伸長係
数=1)である。
しさ」を示す図(窓の伸長係数=1)である。
波数を基本周波数に換算した値を示す図(窓の伸長係数
=1)である。
フィルタの中心周波数までの基本周波数情報を統合した
ときの標準誤差を示す図(窓の伸長係数=1)である。
フィルタの中心周波数までの基本周波数情報を統合した
ときの基本周波数の推定値を示す図(窓の伸長係数=
1)である。
推定値を示す図(窓の伸長係数=1)である。
の抽出を示す図である。
弦波成分の変動(その1)を示す図である。
弦波成分の変動(その2)を示す図である。
しの場合の基本周波数抽出マップを示す図である。
しの場合の基本周波数抽出マップの一断面を示す図であ
る。
図である。
示す図である。
への写像の安定な平衡点を示す図である。
(伸長係数=1)である。
への写像の安定な平衡点を示す図である。
(伸長係数=4)である。
への写像の安定な平衡点を示す図である。
係数=1)である。
への写像の安定な平衡点を示す図である。
いてチャープ基底を用いて求めた、基準となる周波数か
ら瞬時周波数への写像の安定な平衡点を示す図である。
(その1)である。
(その2)である。
本周波数抽出装置のブロック図である。
分析を用いた安定平衡点の時間−スケール平面における
散布図である。
手段 6,7,26,27 振幅正規化手段 8,28 差分抽出手段 9,29 絶対値計算手段 10,30 瞬時周波数変換手段 11,31,46,51,67 変動計算手段 12,35,68 基本周波数計算手段 32 信号構造マップ作成手段 33 調波性マップ作成手段 34 最適窓選択手段 43,64 瞬時周波数抽出(低域情報)手段 44,65 安定平衡点抽出手段 45,66 瞬時周波数時間微分抽出手段 47 基本周波数計算(低域情報)手段 48 瞬時周波数抽出〔チャープ(Chirp)基
底〕手段 49 安定平衡点抽出手段 50 瞬時周波数時間微分抽出手段 52 基本周波数計算(チャープ基底) 53 周期性指標計算手段 54 逆フィルタ 55 駆動力局所性指標計算手段 62 分析ウェーブレット作成手段 63 ウェーブレット分析手段
3)
するものである。
これまでの音の分析においては、音色の主要な要因であ
るスペクトルの全体的な形と、有声音などの周期的な音
の高さを決めるスペクトルの微細構造とを別のものとし
て、それぞれ専用に開発された方法を用いてパラメータ
が抽出されてきた。
の全体的な形に関しては、人間の聴覚にならったほぼ対
数周波数軸上で等間隔に分布する周波数を有する帯域フ
ィルタ群を用いる方法や、スペクトルの概形を有理スペ
クトルと仮定して、モデルのパラメータを統計的に推定
する手法であるARモデルによる方法、対数スペクトル
のフーリエ変換を介して微細構造成分と概形の成分の分
離を図るCepstrum法および、それらを対象とす
る問題に応じて改良した様々な方法が用いられてきた。
上記のそれぞれの方法で求められたスペクトルの概形を
用いて元のパワースペクトルを正規化し、逆フーリエ変
換することにより求められる基本周期成分を強調した自
己相関関数を用いて基本周波数を求める方法や、遅延さ
せた波形との距離を最小にする遅延量として基本周期を
求める方法、基本波成分の瞬時周波数として基本周波数
を求める方法が用いられている。
たいずれの方法においても、もともと単一のものである
スペクトルをスペクトルの概形と微細構造という二重の
構造に天下りに分けようとするため、いずれも近似的な
分析にならざるを得ず、求められたそれぞれのパラメー
タの間に複雑な相関が残留し、高品質な処理や高精度の
分析が困難であるという問題があった。
する音声のような信号を適切に表現する方法として、正
弦波モデル(Robert J.McAulay an
dThomas F.Quatieri“Speech
analysis/synthesis based
on a sinusoidal represen
tation”IEEE Trans.ASSP,Vo
l.34,pp.744−754,1986)や基本周
波数の抽出方法やTEMPO法(河原英紀,Alain
de Cheveigne.“原理的に抽出誤りの存
在しないピッチ抽出方法とその評価について”信学技
報,Vol.SP96−96,pp.9−18,199
7)等に用いられている。
されており、Flanaganによる方法(J.L.F
lanagan and R.M.Golden.“P
hase vocoder” Bell System
Technical Journal,Vol.4
5,pp.1439−1509,1966)や、その阿
部の方法(T.Abe T.Kobayashi,an
d S.Imai.“Harmonics estim
ation based on instaneous
frequency and its applic
ation topitch determinati
on”.IEICE Transaction Inf
ormation and Systems,Vol.
E78−D,No.9,pp.1188−1194,1
995及びT.Abe T.Kobayashi,an
d S.Imai.“Robust pitch es
timation with harmonics e
nhancement in noisy envir
onments based on instanta
neous frequency”.Proceedi
ng of International Spoke
n Language Proceedings 19
96(ICSLP 96),pp.1277−128
0,Philadelphia,1990.)による変
形は、位相を直接計算することを避け、また、逆三角関
数を用いずに瞬時周波数を計算することのできる優れた
計算方法である。
トルの時間微分を求めたり、別に微分時間窓を用いるこ
とが必要であった。
数特性を周波数から周波数への写像とみなし、写像の不
動点(以下の説明では写像を繰り返した時の周囲の点の
安定性に注目するので、平衡点と呼ぶことにする)の性
質に基づいて、信号の構造ならびに、最小分散推定の意
味で最適な基本周波数及び、それぞれの周波数領域にお
ける周期性/雑音性/駆動エネルギーの集中度を併せて
求めることにより、信号の的確な分析を行うことができ
る信号分析装置を提供することを目的とする。
成するために、 〔1〕信号分析装置において、各周波数における瞬時周
波数を周波数から周波数への写像と見なして安定な平衡
点を求める装置と、この安定な平衡点を求める装置によ
り求めた安定な平衡点の周辺の変動に基づいた加重を設
定する装置と、この加重を設定する装置を通じて前記平
衡点の周波数に関する情報を統合して基本周波数を求め
る装置とを具備するようにしたものである。
いて、時間窓の分解能を基本周波数及び基本周期の近似
値と同程度に設定し、基本周波数及び調波成分の瞬時周
波数を求めて基本周波数を高精度に求めるようにしたも
のである。
いて、前記時間窓の分解能を基本周波数及び基本周期の
近似値と同程度に設定し、基本周期の近似値に適応的に
定められる周期成分抑圧用平滑化関数と畳み込んで作成
される窓を用いることにより、基本周波数及び調波成分
の瞬時周波数を求めて基本周波数を高精度に求めるよう
にしたものである。
いて、対数周波数軸上でほぼ等間隔あるいは、直線周波
数軸上でほぼ等間隔、あるいは、特定の時間サイズに密
に配置する等の不等間隔になるように設計された複数の
時間長の時間窓の組を用いることにより信号の階層構造
を分析するようにしたものである。
いて、画像の走査により得られる信号を入力信号として
用いることにより画像の構造を解析するようにしたもの
である。
て詳細に説明する。
装置の基本周波数抽出装置のブロック図である。
装置は、入力回路1、窓作成手段2、サンプル遅延手段
3、FFT(短時間フーリエ変換)手段4,5、振幅正
規化手段6,7、差分抽出手段8、絶対値計算手段9、
瞬時周波数変換手段10、変動計算手段11、基本周波
数計算手段12から構成されている。なお、X(t)は
入力信号、Xout は出力信号である。
装置の各部分を詳細に説明する。
あるいは、画像を走査して得られた信号のような時系列
として扱うことのできるアナログ信号あるいはディジタ
ル信号を、内部処理のための時間的に等間隔に標本化さ
れたディジタル信号に変換する。
基本周波数の分布等の事前の知識に基づいて、ガウス窓
と、2次のcardinal B−spline関数を
求め、それらを畳み込むことによって、FFT手段4及
び5で用いる時間窓を作成する。この時間窓は、性能の
劣化を許容すれば、上述したガウス窓とcardina
l B−spline関数の畳み込みによる窓以外の窓
を用いることもできる。
IFO(first in first out)メモ
リ等の方法により、入力回路1で変換されたディジタル
信号を1サンプル時点だけ遅延させた信号を作成する。
た窓により入力回路1で変換されたディジタル信号のあ
る時間的区間を取り出して、高速フーリエ変換により信
号の短時間フーリエ変換を計算する。
た窓により入力回路1で変換されたディジタル信号をサ
ンプル遅延手段3で1サンプル時点だけ遅延させた信号
からある時間的区間を取り出して、高速フーリエ変換に
より遅延された信号の短時間フーリエ変換を計算する。
られた信号の短時間フーリエ変換を、その絶対値で除算
することにより、絶対値が1で信号の位相情報のみを保
持する振幅正規化複素スペクトルを計算する。
られた遅延された信号の短時間フーリエ変換を、その絶
対値で除算することにより、絶対値が1で遅延された信
号の位相情報のみを保持する振幅正規化複素スペクトル
を計算する。
相情報のみを保持する振幅正規化複素スペクトルと絶対
値が1で遅延された信号の位相情報のみを保持する振幅
正規化複素スペクトルとの差分を計算する。
められた差分の絶対値を計算する。
用いて絶対値計算手段9で求められた絶対値を各周波数
における瞬時周波数に変換する。また、周波数と瞬時周
波数の対応関係から安定平衡点を求める。
10により求められた安定平衡点について、安定平衡点
の周波数の周囲の周波数における瞬時周波数と、瞬時周
波数の時間変化に基づいて瞬時周波数の分散の推定値で
ある変動を計算する。
換手段10により求められたそれぞれの安定平衡点にお
ける瞬時周波数の情報を変動計算手段11により求めら
れた変動の値に基づき、最小分散推定となるように統合
して、基本周波数の推定値Xout を得る。
装置の構造解析及び基本周波数抽出装置のブロック図で
ある。
本周波数抽出装置は、入力回路21、窓作成手段22、
サンプル遅延手段23、FFT(短時間フーリエ変換)
手段24,25、振幅正規化手段26,27、差分抽出
手段28、絶対値計算手段29、瞬時周波数変換手段3
0、変動計算手段31、信号構造マップ作成手段32、
調波性マップ作成手段33、最適窓選択手段34、基本
周波数計算手段35から構成されている。なお、X
(t)は入力信号、Xout は出力信号である。
本周波数抽出装置の各部分を詳細に説明する。
号あるいは、画像を走査して得られた信号のような時系
列として扱うことのできるアナログ信号あるいはディジ
タル信号を、内部処理のための時間的に等間隔に標本化
されたディジタル信号に変換する。
の基本周波数の分布等の事前の知識に基づいて、幾つか
の基本周波数の候補を設定し、その各々についてガウス
窓と、2次のcardinal B−spline関数
を求め、それらを畳み込むことによって、FFT手段2
4及び25と信号構造マップ作成手段32で用いる時間
窓を作成する。この時間窓は、性能の劣化を許容すれ
ば、上で説明したガウス窓とcardinal B−s
pline関数の畳み込みによる窓以外の窓を用いるこ
ともできる。
FIFO(first in first out)メ
モリ等の方法により、入力回路1で変換されたディジタ
ル信号を1サンプル時点だけ遅延させた信号を作成す
る。
された複数の窓により入力回路21で変換されたディジ
タル信号のある時間的区間を取り出して、高速フーリエ
変換により信号の短時間フーリエ変換を複数個計算す
る。
された複数の窓により入力回路21で変換されたディジ
タル信号をサンプル遅延手段23で1サンプル時点だけ
遅延させた信号からある時間的区間を取り出して、高速
フーリエ変換により遅延された信号の短時間フーリエ変
換を複数個計算する。
求められた信号の複数個の短時間フーリエ変換を、それ
ぞれの絶対値で除算することにより、絶対値が1で信号
の位相情報のみを保持する振幅正規化複素スペクトルを
複数個計算する。
求められた遅延された信号の複数個の短時間フーリエ変
換を、その絶対値で除算することにより、絶対値が1で
遅延された信号の位相情報のみを保持する振幅正規化複
素スペクトルを複数個計算する。
位相情報のみを保持する複数個の振幅正規化複素スペク
トルと絶対値が1で遅延された信号の位相情報のみを保
持する複数個の振幅正規化複素スペクトルとの各々の差
分を複数個計算する。
で求められた複数個の差分のそれぞれの絶対値を複数個
計算する。
用いて絶対値計算手段29で求められたそれぞれの時間
窓に対応する絶対値を各周波数における瞬時周波数に変
換する。また、周波数と瞬時周波数の対応関係からそれ
ぞれの時間窓に対応する安定平衡点を求める。
30により求められたそれぞれの時間窓に対応する安定
平衡点について、安定平衡点の周波数の周囲の周波数に
おける瞬時周波数と、瞬時周波数の時間変化に基づいて
瞬時周波数の分散の推定値である変動を計算する。
波数変換手段30により求められたそれぞれの時間窓に
対応する安定平衡点を用いて、時間窓の窓長と安定平衡
点の瞬時周波数をそれぞれの軸とする平面にそれぞれの
時間窓について求められた安定平衡点を配置し、変動計
算手段31により求められた変動の値を付与することに
より、信号構造マップを作成する。
点の瞬時周波数から求められる自己相関の次元を持つ余
弦関数を、それぞれの安定平衡点に付与された変動の値
から計算される加重を掛けて総和を計算することによ
り、それぞれの時間窓長についての正規化された相関関
数を求め、時間窓の窓長と時間差をそれぞれの軸とする
平面上のマップとして調波性マップを作成する。
長について求められた相関関数により調波性マップ作成
手段33により作成されたマップを時間窓方向に統合す
ることにより、基本周波数のおおよその値を求め、それ
に近い窓長を有する時間窓を最適な時間窓として選択す
る。
プ作成手段32により求められたマップから最適窓選択
手段34により求められた最適な時間窓に相当する安定
平衡点の情報を選択抽出し、それぞれの安定平衡点にお
ける瞬時周波数の情報を変動計算手段31により求めら
れた変動の値に基づき、最小分散推定となるように統合
して基本周波数の推定値Xout を得る。
装置の高精度音源情報抽出装置のブロック図である。
抽出装置は、入力回路41、窓作成手段42、瞬時周波
数抽出(低域情報)手段43、安定平衡点抽出手段4
4、瞬時周波数時間微分抽出手段45、変動計算手段4
6、基本周波数計算(低域情報)手段47、瞬時周波数
抽出〔チャープ(Chirp)基底〕手段48、安定平
衡点抽出手段49、瞬時周波数時間微分抽出手段50、
変動計算手段51、基本周波数計算(チャープ基底)手
段52、周期性指標計算手段53、逆フィルタ54、駆
動力局所性指標計算手段55から構成されている。な
お、X(t)は入力信号、Xout 1〜Xout 3は出力信
号である。ここで、チャープ(Chirp)とは、搬送
波の周波数が一定の方向に変化するような信号を意味す
る。
るための音源情報を、本発明に基づいて抽出する装置に
関するものである。
抽出装置の各部分を詳細に説明する。
号を表すアナログ信号あるいはディジタル信号を、内部
処理のための時間的に等間隔に標本化されたディジタル
信号に変換する。
の基本周波数の分布等の事前の知識に基づいて、ガウス
窓と、2次のcardinal B−spline関数
を求め、それらを畳み込むことによって、瞬時周波数抽
出手段43で用いる時間窓を作成する。この時間窓は、
性能の劣化を許容すれば、上述したガウス窓とcard
inal B−spline関数の畳み込みによる窓以
外の窓を用いることもできる。
3次ないし、4次までの調波成分を含む周波数帯域につ
いて、入力回路41で変換されたディジタル信号と窓作
成手段42で作成された時間窓を用いて、第1実施例あ
るいは第2実施例に示した方法あるいはそれらと数学的
に等価である方法によって周波数毎の瞬時周波数を計算
する。
出(低域情報)手段43により求められた瞬時周波数に
基づいて、周波数から瞬時周波数への写像の安定な平衡
点を抽出する。
周波数抽出(低域情報)手段43で求められた瞬時周波
数の値および1サンプル過去の瞬時周波数の値との差に
基づいて瞬時周波数時間微分を求める。
44で求められた安定平衡点の周辺での瞬時周波数と、
瞬時周波数時間微分抽出手段45で求められる瞬時周波
数時間微分の同じく安定平衡点の周辺での値に基づい
て、瞬時周波数の推定値の分散に相当する変動量を計算
する。
安定平衡点抽出手段44で求められたそれぞれの安定平
衡点における瞬時周波数の情報を変動計算手段46によ
り求められた変動の値に基づき、最小分散推定となるよ
うに統合して基本周波数の低域情報に基づく推定値を計
算する。
は、瞬時周波数時間微分抽出手段45で求められた瞬時
周波数の時間微分に基づいて、瞬時周波数の時間変化を
直線近似することで見かけの周波数が一定となるような
新しい時間軸の上で短時間フーリエ変換を行い、第1実
施例あるいは第2実施例に示した方法あるいはそれらと
数学的に等価である方法によって、周波数毎の瞬時周波
数を計算する。
出(チャープ基底)手段48により求められた瞬時周波
数に基づいて、周波数から瞬時周波数への写像のチャー
プ基底における安定な平衡点を抽出する。
周波数抽出(チャープ基底)手段48で求められた瞬時
周波数の値および1サンプル過去の瞬時周波数の値との
差に基づいてチャープ基底における瞬時周波数時間微分
を求める。
49で求められたチャープ基底における安定平衡点の周
辺での瞬時周波数と、瞬時周波数時間微分抽出手段50
で求められるチャープ基底における瞬時周波数時間微分
の同じく安定平衡点の周辺での値に基づいて、瞬時周波
数の推定値の分散に相当する変動量を計算する。
は、安定平衡点抽出手段49で求められたチャープ基底
におけるそれぞれの安定平衡点における瞬時周波数の情
報を変動計算手段51により求められたチャープ基底に
おける変動の値に基づき、最小分散推定となるように統
合して基本周波数のチャープ基底に基づく推定値を計算
し、Xout 2とする。
出手段49で求められたチャープ基底における安定平衡
点のそれぞれについて、変動計算手段51で求められた
チャープ基底における変動の値に基づき、安定平衡点の
周波数の付近での信号成分がどの程度周期的であるかを
表す指標を求め、Xout 1とする。因みに、変動の値が
ほぼ0であれば、当該の周波数の付近の信号成分は、ほ
ぼ完全に周期的であるとみなされ、指標の値として1が
与えられる。また、逆に変動の値が大きく、白色雑音を
分析したときの変動の期待値程度の大きさである場合に
は、当該の周波数の付近の信号成分は、ほぼ完全に非周
期的であるとみなされ、指標の値として0が与えられ
る。
段55は、本発明の請求項目に関わるものではないが、
音声分析合成用の信号分析装置として完結したものとす
るために記載するものである。
形に起因する信号に内在する時間依存性を除去して冗長
性の無い残差信号を計算する。この逆フィルタには、線
形予測分析を用いても、ケプストラムに基づく方法を用
いても構わない。
間区間の中で残差信号の振幅の分布がどの程度偏ってい
るかを表す指標である。この指標としては、例えば、あ
る時間範囲内での振幅の標準偏差と振幅の絶対値の最大
値との比や統計量の一つである尖度を用いることができ
る。
を周波数から周波数への写像ととらえ、その写像の安定
な平衡(不動)点が調波に対応するという着想と、調波
成分の統計的な性質を安定な平衡点の近傍の時間周波数
の形状から求めることができるという発見にある。ま
た、これを有効に生かすために、性質の良い時間窓の設
定を行う点が重要な点である。
を、調波成分に対応する安定な平衡点の近傍の形状から
求め、最小分散推定となるようにそれらの情報を統合し
て基本周波数を推定する。
成分の分散の推定値と、ガウス型の白色雑音で生ずる安
定平衡点の周波数の分散に基づいて決定する。
めることにより、信号への駆動の時間的不均一性を表現
する指標を得る。
の問題点を、分析の時間軸を瞬時周波数の時間微分に基
づいて時間軸を非線形に伸縮することにより解消するよ
うにしている。
説明する。
クトル(低周波部分)を示す図である。この図におい
て、横軸は周波数(Hz)、縦軸はレベル(dB)であ
る。ここでは、窓の伸長係数=1である。
=1とした母音「ア」の振幅スペクトルの低周波部分が
表されている。
クトルにより正規化した隣接する時点での複素スペクト
ルの差の絶対値から求められた瞬時周波数(低周波部
分)を示す図である。
z)、縦軸は瞬時周波数(Hz)が示され、破線は、瞬
時周波数がフィルタの中心周波数と同じ場合を示し、窓
の伸長係数=1、破線を実線が左から右に横切る部分が
安定な平衡点を示している。
における「単一正弦波らしさ」を示す図である。
z)、縦軸は平均標準誤差(Hz)であり、標準誤差で
表しているため、値が小さい程、単一正弦波らしい。横
軸の周波数は、フィルタの中心周波数。窓の伸長係数=
1である。
た平衡点における瞬時周波数を基本周波数に換算した値
を示す図である。ここで、縦軸は評価基底周波数(H
z)、横軸はフィルタの中心周波数(Hz)、窓の伸長
係数=1である。
ついて表示されているフィルタの中心周波数までの基本
周波数情報を統合したときの標準誤差を示す図である。
はトータル標準誤差(Hz)、窓の伸長係数=1であ
る。
ついて表示されているフィルタの中心周波数までの基本
周波数情報を統合したときの基本周波数の推定値を示す
図である。
z)、縦軸は評価基底周波数(Hz)であり、ここで、
窓の伸長係数=1である。
「ア」の基本周波数の推定値を示す図である。
軸は評価基底周波数(Hz)であり、実線は11番目の
調波成分までの値から最小分散推定した結果を示し、+
印は基本波のみを使用して基本周波数を推定した結果を
示しており、窓の伸長係数=1である。
「ア」からの正弦波成分の抽出を示す図である。
置を点により表しており、縦軸は窓の伸長係数、横軸は
抽出された成分の瞬時周波数(Hz)である。
「ア」から抽出された正弦波成分の変動(その1)を示
す図である。
軸は抽出された成分の相対的変動量を示している。
「ア」から抽出された正弦波成分の変動(その2)を示
す図である。この図において、横軸は抽出された成分の
周波数(Hz)、縦軸は抽出された成分の相対的変動量
を示している。
「ア」からの事前情報無しの場合の基本周波数抽出マッ
プを示す図である。
縦軸は伸長指標を示している。図14における濃度は、
補正された自己相関に相当する値を表している。
「ア」からの事前情報無しの場合の基本周波数抽出マッ
プの一断面を示す図である。
(Hz)、縦軸は補正された自己相関を示している。
400Hz正弦波を示す図である。この図において、横
軸は時間(ms)であり、20000Hzサンプリング
で、S/N=0dBである。
対する出力瞬時周波数を示す図である。
z)、縦軸は瞬時周波数(Hz)であり、信号は白色雑
音の混入した400Hz正弦波である。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は白色雑音の混入した
400Hz正弦波(S/N=0dB)、伸長係数=1で
ある。
相対的標準誤差を示す図である。
縦軸は相対的標準誤差であり、信号は白色雑音の混入し
た400Hz正弦波(S/N=0dB)、伸長係数=1
である。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は白色雑音の混入した
400Hz正弦波(S/N=0dB)、伸長係数=4で
ある。
相対的標準誤差を示す図である。
縦軸は相対的標準誤差を示し、信号は白色雑音の混入し
た400Hz正弦波(S/N=0dB)、伸長係数=4
である。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は周期が増加するパル
ス列、伸長係数=1である。
辺の傾きを示す図である。
縦軸は勾配であり、ここで、伸長係数=1である。
お」を示す図である。
り、ここで、標本化周波数は44100Hzである。
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
軸は周波数(Hz)であり、信号は男性の発声した「あ
いうえお」、伸長係数=1、ピッチ適応窓である。
えお」についてチャープ基底を用いて求めた、基準とな
る周波数から瞬時周波数への写像の安定な平衡点を示す
図である。
したパルス列について求めた、基準となる周波数から瞬
時周波数への写像の安定な平衡点を示す図である。
軸は周波数(Hz)であり、ここで、周期5ms、1個
だけ5.05msである。
したパルス列について求めた、基準となる周波数から瞬
時周波数への写像の安定な平衡点のうち、第一次調波成
分に対応する平衡点を示す図である。
軸は周波数(Hz)であり、ここで、周期5ms、1個
だけ5.05ms、基本波成分だけの拡大表示を行って
いる。
する(図1〜図3参照)。
数は、その信号のヒルベルト(Hilbert)変換H
[X(t)]を用いて次のように定義される。
この定義では、位相の時間微分として瞬時周波数を求め
ているため、履歴依存性のあるunwrapの処理が必
要である。これは、以下のような演算により、履歴依存
性の無い処理に置き換えることができる。
として表される信号s(t)を次式のように表すことと
する。
一意的に定まる。ここで用いられている位相φ(t)
と、瞬時周波数ω(t)との間には、次の関係がある。
したものを時間微分した信号をy(t)とする。する
と、y(t)は次のように表される。
瞬時周波数となる。
号を扱う必要がある。差分信号を、yd (t)とする。
また、サンプリング周期をΔtとする。
(t)の関係についての定義を参照する。角瞬時周波数
ω(t)の変化速度がゆっくりとしておりサンプリング
周期の間では一定であると近似できるものとする。する
と、yd (t)は、次のように書き換えることができ
る。
められる。
は、離散時間系の標本化周波数fsを用いて次のように
表される。
定義を参照する。
分的に切り出すための時間窓である。すると、各周波数
に対応する成分は、w(t−r)ejwt という複素数の
インパルス応答を有するフィルタの出力と解釈すること
ができる。w(t)のスペクトルが負の領域にもれを持
たなければ、この信号の実部と虚部はヒルベルト変換の
関係にあるから、上で行った議論を利用して、二つの引
き続く標本化時刻におけるフィルタ出力をそれぞれの振
幅で正規化した信号の差の絶対値から瞬時周波数を求め
ることができる。
分に同時に適用することができる。したがって、以下の
演算により、各周波数における瞬時周波数f(λ,t)
を一括して求めることができる。
る装置と、逆正弦関数を計算する装置(逆関数表)があ
れば、簡単な積和演算により各周波数における瞬時周波
数が求められる。
い。しかし、毎回、逆三角関数を計算することは、実装
上では不経済である。そこで、テイラー(Taylo
r)展開の1次の項までを考慮し、それ以上の項を無視
することにより、毎回逆三角関数を計算する手間を以下
のようにして省くことができる。
る周波数だけの関数であるから、最初に表を作成してお
けば、毎回計算する必要は無い。この方法によれば、フ
ーリエ変換さえできれば、簡単な積和演算により、一挙
に各周波数における瞬時周波数が求められる。
微分を差分と位相調整で近似した計算法についても、以
下に記す。
t)|がほとんど変化しないと仮定して、次に示すよう
な簡単化を試みると、低い周波数領域でかつ平衡点の周
辺では、比較的良い近似を示すものの、平衡点と平衡点
の中間や高い周波数領域では誤差が大きくなり、実用に
耐えない。
性能は、ピークの時間方向の変動が小さいことと、時間
周波数の不確定性が小さいことである。目的を調波複合
音の中の成分である単一正弦波の抽出とすれば、時間方
向の変動の主要な要因は、隣接する調波成分からの干渉
である。そこで、時間周波数の不確定性の小さな窓を最
初に用意し、隣接する調波成分からの干渉を抑圧するよ
うな変形を加えて、目的とする窓を作ることとする。
号音のように周波数が比較的安定しているものの場合に
は、時間方向の時間分解能を低下させることで、周波数
方向の分解能を向上させることができる。その場合に
は、以下で説明するようなcardinal B−sp
lineによるゼロの付加は必須ではない。しかし、音
声の場合は、常に基本周波数が変動しているため、窓の
長さを長くしていくと、測定値の信頼性が急速に低下す
る。
次のようなガウス(Gauss)関数から出発する。
リエ変換であり、ω0 =2πf0 は、時間と周波数分解
能が等方的になる角周波数及び周波数を表すものとす
る。
適切である。なぜなら、負の周波数側への漏れが多く、
また、waveletの許容条件を満たしていないから
である。
本周波数(すなわち、隣接調波成分との間隔)であると
解釈すると、この時間窓と、基本周波数で定まる基本周
期の間隔を節点間隔とする2次のcardinal B
−splineを畳み込めば、基本波以外の調波の周波
数における応答がゼロでありかつ(ゼロが2次のゼロで
あるから、基本周波数の)誤差に鈍感になるようにでき
る。また、そうして作成された窓関数は、wavele
tの許容条件を実用的な意味において満たす。
抽出について説明する。
タの通過帯域内に単一の周波数成分のみが存在する場合
には、フィルタ出力は、強制振動解であるから入力であ
る単一周波数成分の周波数が瞬時周波数として得られ
る。すなわち、瞬時周波数ω(λ,t)を注目する周波
数λに沿って見ていくと、雑音のみが存在する部分で
は、ωは、λの周辺を変動しながらλに追従して変化し
ていく。
規定するフィルタの通過帯域内に単一の周波数成分が入
ってくると、ωは、急速にその単一周波数成分の周波数
ωcに接近し、再度単一周波数成分が通過域から外れる
λの位置を超えるまで、ωは一定値ωc を維持する。こ
の一定値がλと交差する位置を求めれば、そこがフィル
タの中心周波数と一致することが分かる。
められた瞬時周波数を表し、λがフーリエ変換の周波数
軸を表すものとする。λはフーリエ変換を直線周波数軸
上で等間隔に並んだ複素帯域フィルタ群とみなした時
の、各フィルタの中心周波数とみなすこともできる。ω
とλは、両方とも周波数の次元を有しているので、ω
(λ)を周波数から周波数への写像と考えることもでき
る。
に、正弦波成分が存在する場合には、その正弦波の周波
数は、この写像の平衡点でかつ安定な平衡点となること
が分かる。安定な平衡点でないものは、いずれにせよ、
レベルが低いか、誤差が大きいかであり、注目する必要
の無い成分である。
択することで、重要な線スペクトル成分は、全て拾い出
すことができる。
心として、フィルタの通過帯域内の瞬時周波数の一定値
ωc からのずれを指標(例えば、誤差の自乗和)とする
ことで、単一周波数成分の確からしさを表すことができ
る。
ならえば、「正弦波らしさ」と言えよう。
n ,t)の計算方法を示しておく。以下の式を用いる。
る。この窓関数は、フィルタの通過帯域内部の情報を極
度な偏りなく拾い出すことができて、両端が滑らかに0
になるような関数であればよい。これは、時間窓w
(t)に連動して決められるべきものである。また、平
衡点の周波数(ただし、フィルタ中心周波数軸上の値)
λnは、次の条件を満たす周波数である。
際には、これはf(λn ,t)の性質により決まるもの
であるから、λn (t)と書かなければならない。むし
ろ扱いとしては、集合を規定した方がすっきりする。
る誤差に起因する変動量は、窓関数wの時間領域の表現
であるWの幅に依存した相対的な量になりそうである。
数式と数値シミュレーションにより確認することが必要
である。論理は、「同じ2次モーメントを持っていて
も、幅が広い方が、大きく離れた帯域内の他の周波数成
分からの影響を受ける。その影響の大きさは、Wの幅に
比例する。」である。ここでは、簡単な数式による検討
を行う。
かに周波数が違い、微少な大きさの成分εej(ω +δ)t
が存在すると仮定する。ここで、εとδは、適当な小さ
な定数である。この信号を単一の成分がAM変調とFM
変調を受けているものとして表現すると、以下のように
近似できる。
るので、ここで求めたAM成分とFM成分が検出される
こととなる。この表現は、微少成分の周波数が主要な正
弦波の周波数からの差に比例して、周波数に対する誤差
が増加することを示している。また、最終的な近似式
は、εが微少な場合には、微少成分による影響は、線形
加算により近似できることを示している。
音)の影響を2次のモーメントで評価することは妥当で
あるし、その2次のモーメントを分散と解釈して、抽出
された瞬時周波数の誤差を議論しても構わない。その結
果、同じ2次のモーメントが得られた場合であっても瞬
時周波数の抽出誤差は、窓関数の等価帯域幅に比例して
増加する。
プ信号の場合には、通過域の中に成分が入った場合に
は、傾いた直線状になる(傾きは、スィープ速度の2次
関数で近似される)。周波数が一定で、振幅が一様に増
加あるいは減少するような場合には、偶関数成分として
表れる。
上の成分を変動成分として扱うことになる。複数の周波
数成分を統合する場合に、最小分散推定を導き出すこと
ができる。なお、瞬時周波数の解析で無視した2次の変
動成分は、対応する成分の瞬時振幅の変化の1次成分と
して、瞬時周波数を求めるために用いた二つの短時間フ
ーリエ変換から簡単に求めることができる。
抽出手段45,50を入れることにより、非常に性質の
良いものとなった。この計算はヒルベルト変換を用いた
包絡の計算を近似するものでもある。
る。
%程度)の値が分かっており、精密な基本周波数を求め
たい場合について説明する。この精度で基本周波数が分
かっていれば、窓関数のパラメータτ0 をこの基本周波
数に対応する値に設定し、分析を行う。すると、平衡点
として、調波成分に対応するもののみが抽出されてく
る。
ら、それらを統合して基本周波数の推定値を求めるため
の漸化式は次のようになる。
波成分の誤差の分散を基本周波数に対応するものに換算
した値である。V(n) (t;τc )は、n番目までの調
波成分を考慮した最小分散推定による分散の値である。
また、fn (t;τc )は、n番目の調波成分の瞬時周
波数を基本周波数に対応するものに換算した値である。
f0 (n) (t;τc )は、n番目までの調波成分を考慮
した最小分散推定による基本周波数の推定値である。τ
c は、時刻である。
制御への応用について説明する。
合、これまでは、有声/無声の判定は困難な問題とし
て、様々な工夫が行われてきた。各周波数における自己
相関やスペクトルの形状を利用して周波数帯域毎に有声
/無声を判定するMBEは、比較的品質の良い方法とし
て利用されてきた。また、非常に高品質の音声分析変換
合成法であるSTRAIGHT(河原英紀,増田郁代,
“時間周波数領域での補間を用いた音声の変換につい
て”信学技報,Vol.EA96−28,August
1996.8及びHideki Kawahara.
“Speech representation an
d transformation using ad
aptive interpolation of w
eighted spectrum:Vocoder
revisited”.in Proceedings
of IEEE int,Conf.Acous
t.,Speech and Signal Proc
eeding,Vol.2,pp.1303−130
6.Munich,1997.)においても、MBE
〔Daniel W.Griffin and Jae
S.Lim.“Multihaud excitat
ion Vocoder”.IEEE Trans.o
nAcoustics,Speech and Sig
nal Proceeding,36(8):1223
−1235,1988〕と類似のアイデアによる合成音
源の分析と制御が用いられていた。しかし、これらは、
近似的な発見的工夫を随所に取り入れたものであり、所
期の性能を発揮させるためには、様々な試行錯誤が必要
であった。
変動Vn (t;τc )〔正確には、f0 Vn (t;
τc )/τc という形に正規化する必要がある〕は、音
源の性質そのものを直接表している。この量は、簡単な
変換でそのまま音源特性の制御に用いることができると
いう見通しの良さと性質の良さを併せ持っている。
規則的な駆動源による信号であっても、このような評価
基準で見たときに「雑音性」の成分があるように見えて
しまうことがある。また、ホルマント等の共振が鋭い場
合のパルス性の駆動の場合にも、たまたま次のパルスに
よる応答が、以前のパルスによる応答の逆相となること
もあり得る。そのような場合も、見かけ上の雑音性は増
加する。
軸の伸縮で解消された。また、定量的に変換法則を書け
る材料はそろってきた。
明する。
利用して正弦波成分に帰着させることのできる成分の瞬
時周波数を求めることができる。これは、多数の繰り返
し演算を必要とする正弦波モデルを効率良く計算するた
めの別解を与える。
成分を選択することにより、本質的な成分だけを取り出
すことができる。
(t)の長さを短いものから拡大していくことを考え
る。あるいは、複素wavelet変換の二つの隣接す
る時刻を考えても良い。すると、Λは、観測時刻とスケ
ールの関数Λ(a、t)となる。ここで、aはスケール
を表す指標とする。
が増加するので、ある時刻を固定して周波数λとスケー
ルaによって定められる2次元平面上に表示すると、分
岐図となる。それぞれのΛ(a、t)には、誤差の分散
と、周波数ならびに振幅方向の変化速度、その位置にお
けるエネルギーが付随しているので、それらをもとにし
て、信号の構造を規定することができる。
造、基本周波数に起因する構造、サブハーモニックな、
声帯の振動に起因する構造が見える。
解析を用いた基本周波数の抽出について説明する。
は、予め基本周波数が分からなければ、利用することが
困難である。ここでは、信号の構造解析の結果を統合し
て基本周波数を求める方法を説明するまず、ある長さに
ついて、議論する。各単一正弦波成分をcos位相と
し、それぞれの振幅を標準偏差で正規化して合成すれ
ば、調波構造が存在する場合には、基本波の整数倍の部
分にピークが発生する。Lは、「周期らしさ」を表すと
言って良い。
少するような正の数である。ただし、実際の音声では、
低い調波成分ほど変動が小さいようなので、用いる最高
の次数だけを決めておけば、αk は一定の値でも構わな
い。なお、実用的には、Vkの大きさに下限を設ける
か、ある時間範囲について積分したVk の値を用いて、
統計的な揺らぎによって1/√Vk が過大な値を取らな
いようにする工夫が必要である。
比の拾い出しにより生ずるピークの横軸上での間隔は、
基本周波数によらずに一定の系列になる。つまり、調波
構造が存在すれば、その形は、平行移動による変化を除
き、一定になる。対数周波数軸uを形式的に表せば以下
のようになる。
基本周波数に対応するピークは、それよりも低い基本周
波数に対応するピークに用いられた成分を含んでいるか
ら、それらを差し引くことで、その低い方の基本周波数
のみに帰属させられる変動成分を求めるためには、上記
の一定の系列を利用した、デコンボリューションを行え
ば良い。
長係数を、例えば0.2から2あるいは5まで、例え
ば、sqrt2の比で、対数軸上で等間隔に、変化させ
ながらこのようなデコンボリューションを行えば、調波
構造を明瞭にすることのできる伸長係数が、事前情報を
利用せずに求められる。この伸長係数(窓長)を利用し
て、適切な窓長を選択し、そこで窓長が既知の場合の方
法を用いることにより、基本周波数の最小分散推定が可
能になる。
の他に、「周期らしさ」Lを計算する部分を修正し、整
数倍の周期への影響を計算の段階で取り除いて、「基本
周期らしさ」という指標Mを定義することができる。形
式的には、この操作は、以下のように示すことができ
る。
は滑らかな半波整流関数である。バイアスは、考慮すべ
き平衡点の個数をNとすると、例えば、1/√Nと選択
すれば良い。
る。
析装置の基本周波数抽出装置のブロック図である。
装置は、入力回路61、分析ウェーブレット作成手段6
2、ウェーブレット分析手段63、瞬時周波数抽出手段
64、安定平衡点抽出手段65、瞬時周波数時間微分抽
出手段66、変動計算手段67、基本周波数計算手段6
8から構成されている。なお、X(t)は、入力信号、
Xout は出力信号である。
ついて詳細に説明する。
号あるいは画像の走査によって得られるような時系列信
号を表すアナログ信号あるいはディジタル信号を、内部
処理のための時間的に等間隔に標本化されたディジタル
信号に変換する。
周波数が出現し得る全周波数範囲をカバーするように搬
送周波数を設定して、その中の一つの搬送周波数に基づ
いて、ガウス窓と、2次のcardinal B−sp
line関数を求め、それらを畳み込んだものに、更に
搬送周波数の複素指数関数を掛けることによって、ウェ
ーブレット分析手段63で用いる分析ウェーブレットを
作成する。この分析ウェーブレットは、性能の劣化を許
容すれば、上述したガウス窓とcardinal B−
spline関数の畳み込みによるもの以外を用いるこ
ともできる。
ーブレット作成手段62で求められた分析ウェーブレッ
トを対数周波数軸上で等間隔になるように伸縮して複数
の信号を作成し、それらをもとの信号と畳み込むことに
より複素ウェーブレット分析を計算する。
析ウェーブレットが対応する搬送周波数における瞬時周
波数を、第1実施例あるいは第2実施例に示した方法あ
るいはそれらと数学的に等価である方法によって計算す
る。
出手段64により求められた瞬時周波数に基づいて、周
波数から瞬時周波数への写像の安定な平衡点を抽出す
る。
周波数抽出手段64で求められた瞬時周波数の値および
1サンプル過去の瞬時周波数の値との差に基づいて瞬時
周波数時間微分を求める。
65で求められた安定平衡点の周辺での瞬時周波数と、
瞬時周波数時間微分抽出手段66で求められる瞬時周波
数時間微分の同じく安定平衡点の周辺での値に基づい
て、瞬時周波数の推定値の分散に相当する変動量を計算
する。
出手段67で求められたそれぞれの安定平衡点につい
て、変動計算手段67により求められた変動の値の時間
方向での累積値が最小になるような安定平衡点の系列を
選択することにより、基本周波数を求める。なお、音声
の開始や終了のような基本周波数成分が非常に弱い特殊
な場合以外であれば、単純にそれぞれの時刻において最
も変動が少ない安定平衡点を選択するだけで、基本周波
数が求められる。
ば、第1実施例や第3実施例で必要であったある程度の
精度を有する基本周波数の近似値を必要としない基本周
波数の抽出を可能とする。また、本装置を、例えば第3
実施例の基本周波数計算(低域情報)手段までの部分と
置き換えて用いることもできる。
ウェーブレット分析を用いた安定平衡点の時間−スケー
ル平面における散布図が示されている。ここで用いた分
析ウェーブレットは、絶対値の形状を伸長係数μ=1を
用いて決定した。図中の最も滑らかな軌跡は、基本波成
分に対応する安定平衡点から構成されている。平均的に
は、この軌跡上での変動が最小となる。
のではなく、本発明の趣旨に基づいて種々の変形が可能
であり、これらを本発明の範囲から排除するものではな
い。
よれば、次のような効果を奏することができる。
への写像とみなし、写像の安定な平衡点の性質に基づい
て、信号の構造ならびに、最小分散推定の意味で最適な
基本周波数及び、それぞれの周波数領域における周期性
/雑音性/駆動エネルギーの集中度を併せて求めること
により、信号の的確な分析を行うことができる。
精度の分析を行うことができる。
で、高精度の計測装置として利用できる他、音声認識
や、音声合成・変換、音響現象を用いた機械の診断、電
子楽器等の高品質化、高精度化のためにこれらの装置の
一部として組み込んで利用することができる。
ぞれの調波成分の正弦波らしさを精密に定量的に分析・
表示することができる。
楽器を特徴付ける様々な共鳴腔の特性、振動物体の特徴
的な共振周波数や声の高さ(ピッチ)等を、安定に高速
に求めることができる。
周波数抽出装置のブロック図である。
解析及び基本周波数抽出装置のブロック図である。
度音源情報抽出装置のブロック図である。
示す図(窓の伸長係数=1)である。
隣接する時点での複素スペクトルの差の絶対値から求め
られた瞬時周波数(低周波部分)を示す図(窓の伸長係
数=1)である。
しさ」を示す図(窓の伸長係数=1)である。
波数を基本周波数に換算した値を示す図(窓の伸長係数
=1)である。
フィルタの中心周波数までの基本周波数情報を統合した
ときの標準誤差を示す図(窓の伸長係数=1)である。
フィルタの中心周波数までの基本周波数情報を統合した
ときの基本周波数の推定値を示す図(窓の伸長係数=
1)である。
定値を示す図(窓の伸長係数=1)である。
の抽出を示す図である。
弦波成分の変動(その1)を示す図である。
弦波成分の変動(その2)を示す図である。
しの場合の基本周波数抽出マップを示す図である。
しの場合の基本周波数抽出マップの一断面を示す図であ
る。
図である。
示す図である。
への写像の安定な平衡点を示す図である。
(伸長係数=1)である。
への写像の安定な平衡点を示す図である。
(伸長係数=4)である。
への写像の安定な平衡点を示す図である。
係数=1)である。
への写像の安定な平衡点を示す図である。
いてチャープ基底を用いて求めた、基準となる周波数か
ら瞬時周波数への写像の安定な平衡点を示す図である。
(その1)である。
(その2)である。
本周波数抽出装置のブロック図である。
分析を用いた安定平衡点の時間−スケール平面における
散布図である。
手段 6,7,26,27 振幅正規化手段 8,28 差分抽出手段 9,29 絶対値計算手段 10,30 瞬時周波数変換手段 11,31,46,51,67 変動計算手段 12,35,68 基本周波数計算手段 32 信号構造マップ作成手段 33 調波性マップ作成手段 34 最適窓選択手段 43,64 瞬時周波数抽出(低域情報)手段 44,65 安定平衡点抽出手段 45,50,66 瞬時周波数時間微分抽出手段 47 基本周波数計算(低域情報)手段 48 瞬時周波数抽出〔チャープ(Chirp)基
底〕手段 49 安定平衡点抽出手段 52 基本周波数計算(チャープ基底)手段 53 周期性指標計算手段 54 逆フィルタ 55 駆動力局所性指標計算手段 62 分析ウェーブレット作成手段 63 ウェーブレット分析手段
Claims (5)
- 【請求項1】(a)各周波数における瞬時周波数を周波
数から周波数への写像と見なして安定な平衡点を求める
装置と、(b)該装置により求めた安定な平衡点の周辺
の変動に基づいた加重を設定する装置と、(c)該加重
を設定する装置を通じて前記平衡点の周波数に関する情
報を統合して基本周波数を求める装置とを具備すること
を特徴とする信号分析装置。 - 【請求項2】 請求項1記載の信号分析装置において、
時間窓の分解能を基本周波数及び基本周期の近似値と同
程度に設定し、基本周波数及び調波成分の瞬時周波数を
求めて基本周波数を高精度に求めることを特徴とする信
号分析装置。 - 【請求項3】 請求項2記載の信号分析装置において、
前記時間窓の分解能を基本周波数及び基本周期の近似値
と同程度に設定し、基本周期の近似値に適応的に定めら
れる周期成分抑圧用平滑化関数と畳み込んで作成される
窓を用いることにより、基本周波数及び調波成分の瞬時
周波数を求めて基本周波数を高精度に求めることを特徴
とする信号分析装置。 - 【請求項4】 請求項1記載の信号分析装置において、
対数周波数軸上でほぼ等間隔あるいは、直線周波数軸上
でほぼ等間隔、あるいは、特定の時間サイズに密に配置
する等の不等間隔になるように設計された複数の時間長
の時間窓の組を用いることにより信号の階層構造を分析
することを特徴とする信号分析装置。 - 【請求項5】 請求項1記載の信号分析装置において、
画像の走査により得られる信号を入力信号として用いる
ことにより画像の構造を解析することを特徴とする信号
分析装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP35094998A JP3251555B2 (ja) | 1998-12-10 | 1998-12-10 | 信号分析装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP35094998A JP3251555B2 (ja) | 1998-12-10 | 1998-12-10 | 信号分析装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000181472A true JP2000181472A (ja) | 2000-06-30 |
JP3251555B2 JP3251555B2 (ja) | 2002-01-28 |
Family
ID=18414011
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP35094998A Expired - Fee Related JP3251555B2 (ja) | 1998-12-10 | 1998-12-10 | 信号分析装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3251555B2 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001004873A1 (fr) * | 1999-07-07 | 2001-01-18 | Japan Science And Technology Corporation | Procede d'extraction d'information de source sonore |
US6675114B2 (en) | 2000-08-15 | 2004-01-06 | Kobe University | Method for evaluating sound and system for carrying out the same |
WO2005062291A1 (ja) * | 2003-12-19 | 2005-07-07 | Toudai Tlo, Ltd. | 信号解析方法 |
WO2006132159A1 (ja) * | 2005-06-09 | 2006-12-14 | A.G.I. Inc. | ピッチ周波数を検出する音声解析装置、音声解析方法、および音声解析プログラム |
JP2007303995A (ja) * | 2006-05-12 | 2007-11-22 | Univ Of Tokyo | 振動波検出方法及び装置 |
JP2008176752A (ja) * | 2007-01-22 | 2008-07-31 | National Institute Of Information & Communication Technology | 系列データ間の類似性検査方法及び装置 |
WO2008136443A1 (ja) * | 2007-04-26 | 2008-11-13 | The University Of Tokyo | 正弦波パラメータ推定方法 |
US8280724B2 (en) | 2002-09-13 | 2012-10-02 | Nuance Communications, Inc. | Speech synthesis using complex spectral modeling |
JP2015102486A (ja) * | 2013-11-27 | 2015-06-04 | 積水化学工業株式会社 | 欠陥位置の特定方法 |
JPWO2014203854A1 (ja) * | 2013-06-17 | 2017-02-23 | 国立研究開発法人産業技術総合研究所 | マルチパス伝搬環境における伝搬遅延特性の測定方法および装置、並びに外部音知覚装置 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109361477B (zh) * | 2018-11-13 | 2021-04-13 | 中电科思仪科技股份有限公司 | 一种瞬时频率测量装置及测量方法 |
-
1998
- 1998-12-10 JP JP35094998A patent/JP3251555B2/ja not_active Expired - Fee Related
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001004873A1 (fr) * | 1999-07-07 | 2001-01-18 | Japan Science And Technology Corporation | Procede d'extraction d'information de source sonore |
US6675114B2 (en) | 2000-08-15 | 2004-01-06 | Kobe University | Method for evaluating sound and system for carrying out the same |
WO2004084176A1 (ja) * | 2000-08-15 | 2004-09-30 | Yoichi Ando | 音響評価方法およびそのシステム |
US8280724B2 (en) | 2002-09-13 | 2012-10-02 | Nuance Communications, Inc. | Speech synthesis using complex spectral modeling |
WO2005062291A1 (ja) * | 2003-12-19 | 2005-07-07 | Toudai Tlo, Ltd. | 信号解析方法 |
US8738370B2 (en) | 2005-06-09 | 2014-05-27 | Agi Inc. | Speech analyzer detecting pitch frequency, speech analyzing method, and speech analyzing program |
KR101248353B1 (ko) | 2005-06-09 | 2013-04-02 | 가부시키가이샤 에이.지.아이 | 피치 주파수를 검출하는 음성 해석 장치, 음성 해석 방법,및 음성 해석 프로그램 |
WO2006132159A1 (ja) * | 2005-06-09 | 2006-12-14 | A.G.I. Inc. | ピッチ周波数を検出する音声解析装置、音声解析方法、および音声解析プログラム |
WO2007132756A1 (ja) * | 2006-05-12 | 2007-11-22 | The University Of Tokyo | 振動波検出方法及び装置 |
JP4539920B2 (ja) * | 2006-05-12 | 2010-09-08 | 国立大学法人 東京大学 | 振動波検出方法及び装置 |
JP2007303995A (ja) * | 2006-05-12 | 2007-11-22 | Univ Of Tokyo | 振動波検出方法及び装置 |
JP2008176752A (ja) * | 2007-01-22 | 2008-07-31 | National Institute Of Information & Communication Technology | 系列データ間の類似性検査方法及び装置 |
WO2008136443A1 (ja) * | 2007-04-26 | 2008-11-13 | The University Of Tokyo | 正弦波パラメータ推定方法 |
JP5553334B2 (ja) * | 2007-04-26 | 2014-07-16 | 国立大学法人 東京大学 | 正弦波パラメータ推定方法 |
JPWO2014203854A1 (ja) * | 2013-06-17 | 2017-02-23 | 国立研究開発法人産業技術総合研究所 | マルチパス伝搬環境における伝搬遅延特性の測定方法および装置、並びに外部音知覚装置 |
JP2015102486A (ja) * | 2013-11-27 | 2015-06-04 | 積水化学工業株式会社 | 欠陥位置の特定方法 |
Also Published As
Publication number | Publication date |
---|---|
JP3251555B2 (ja) | 2002-01-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5275612B2 (ja) | 周期信号処理方法、周期信号変換方法および周期信号処理装置ならびに周期信号の分析方法 | |
EP0388104B1 (en) | Method for speech analysis and synthesis | |
JP5958866B2 (ja) | 音声分析合成のためのスペクトル包絡及び群遅延の推定システム及び音声信号の合成システム | |
Sukhostat et al. | A comparative analysis of pitch detection methods under the influence of different noise conditions | |
EP1422693B1 (en) | Pitch waveform signal generation apparatus; pitch waveform signal generation method; and program | |
Caetano et al. | Improved estimation of the amplitude envelope of time-domain signals using true envelope cepstral smoothing | |
JP3251555B2 (ja) | 信号分析装置 | |
Manfredi et al. | Perturbation measurements in highly irregular voice signals: Performances/validity of analysis software tools | |
Hess | Algorithms and devices for pitch determination of speech signals | |
JP3417880B2 (ja) | 音源情報の抽出方法及び装置 | |
Cavaliere et al. | Granular synthesis of musical signals | |
US7438689B2 (en) | Method for arbitrary two-dimensional scaling of phonocardiographic signals | |
Niederjohn et al. | A zero-crossing consistency method for formant tracking of voiced speech in high noise levels | |
JP6241131B2 (ja) | 音響用フィルタ装置、音響用フィルタリング方法、およびプログラム | |
Esquef et al. | Frequency-zooming ARMA modeling for analysis of noisy string instrument tones | |
Chowdhury et al. | Formant estimation from speech signal using the magnitude spectrum modified with group delay spectrum | |
Rao et al. | Speech formant frequency estimation: evaluating a nonstationary analysis method | |
Rodet | Musical sound signal analysis/synthesis: Sinusoidal+ residual and elementary waveform models | |
Usman et al. | Empirical mode decomposition for analysis and filtering of speech signals | |
Derrien | A very low latency pitch tracker for audio to MIDI conversion | |
KR100484666B1 (ko) | 성도특성 변환을 이용한 음색변환장치 및 방법 | |
Beauchamp | Comparison of vocal and violin vibrato with relationship to the source/filter model | |
Caetano et al. | Adaptive sinusoidal modeling of percussive musical instrument sounds | |
Zhang et al. | A matlab-based signal processing toolbox for the characterization and analysis of musical vibrato | |
JP6213217B2 (ja) | 音声合成装置及び音声合成用コンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20011106 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071116 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081116 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091116 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101116 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111116 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121116 Year of fee payment: 11 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121116 Year of fee payment: 11 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131116 Year of fee payment: 12 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |