JP3601373B2 - 波形編集方法 - Google Patents
波形編集方法 Download PDFInfo
- Publication number
- JP3601373B2 JP3601373B2 JP27663599A JP27663599A JP3601373B2 JP 3601373 B2 JP3601373 B2 JP 3601373B2 JP 27663599 A JP27663599 A JP 27663599A JP 27663599 A JP27663599 A JP 27663599A JP 3601373 B2 JP3601373 B2 JP 3601373B2
- Authority
- JP
- Japan
- Prior art keywords
- waveform
- target
- correlation
- reference waveform
- editing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Electrophonic Musical Instruments (AREA)
Description
【発明の属する技術分野】
本発明は、複数の波形の相関性が高くなるように相互のタイミングを合わせる波形編集方法に関するものである。特に、電子楽器において、関連性のある複数の波形を混合して音源波形とする際の波形編集に好適なものである。
【0002】
【従来の技術】
電子楽器の波形メモリ音源においては、発生源を同じくする2波形を混合して音源波形とする場合がある。しかし、2波形のタイミング(時間軸上の位置あるいは位相)がずれると、混合波形にノイズが発生したり波形が歪むことがある。したがって、波形同士の相関性が高くなるように2波形のタイミング合わせを行う必要がある。
従来は、発生源を同じくする2波形の相関性を高くするタイミング合わせ(位相合わせ)を自動的に行う方法がなかった。ユーザは、ディスプレイに表示された2波形を見ながら操作子を操作し、波形を相対的に少しずつ動かして2波形のタイミング合わせをしていた。
【0003】
一方、波形を部分的に間引いたり繰り返したりすることにより、波形の時間軸を圧縮/伸張する時間軸圧縮伸長技術がある。この場合、間引きの前後の波形の接続、ないし、波形の繰り返し部分の接続を滑らかにするために、接続部の波形同士で相互相関(Cross Correlation)関数を計算し、相互相関関数値の高い部分で接続を行っていた。この場合、接続すべき位置が確定しているために、相互相関値の算出が可能であった。
【0004】
それに対し、上述したような混合しようとする2波形のタイミング合わせでは、相互相関関数を計算すべき比較範囲があらかじめ特定されていない。
例えば、楽音の立ち上がり部(アタック部)で2波形のタイミングを合わせるのに、楽音の立ち上がりから立下りまでの全体波形の相互相関関数を計算したのでは効率が悪い。また、楽音の立ち上がり部の波形の相関性を高めるのに有効なタイミング合わせができるとも限らない。
【0005】
【発明が解決しようとする課題】
本発明は、上述した問題点を解決するためになされたもので、対象波形と参照波形との相関性が高くなるように、対象波形と参照波形のタイミング合わせを自動的に行う波形編集方法を提供することを目的とするものである。
【0006】
【課題を解決するための手段】
本発明は、請求項1に記載の発明においては、対象波形と参照波形が記憶された波形メモリと波形編集処理手段を有する波形編集装置において用いられ、前記波形編集処理手段により、前記対象波形と前記参照波形との相関性が高くなるように、前記対象波形と前記参照波形とのタイミングを合わせる波形編集方法であって、前記波形編集処理手段は、前記対象波形の立ち上がり部と前記参照波形の立ち上がり部との相関度を算出し、前記相関度を最大とするときの前記対象波形と前記参照波形との時間差を算出するステップと、前記対象波形を前記参照波形に対し前記時間差だけ相対的にシフトさせる処理をするステップ、を実行するものである。
したがって、対象波形と参照波形の相関性が高くなるように、両波形のタイミングを自動的に合わせることができる。
請求項2に記載の発明においては、対象波形と参照波形が記憶された波形メモリと波形編集処理手段を有する波形編集装置において用いられ、前記波形編集処理手段により、前記対象波形と前記参照波形との相関性が高くなるように、前記対象波形と前記参照波形とのタイミングを合わせる波形編集方法であって、前記波形編集処理手段は、前記対象波形および前記参照波形について、ある1つの波形パラメータのエンベロープを検出するステップと、前記対象波形および前記参照波形の前記エンベロープを基準に、前記対象波形および前記参照波形に比較範囲を設定するステップと、前記比較範囲において、前記対象波形と前記参照波形との相関度を算出し、前記相関度を最大とするときの前記対象波形と前記参照波形との時間差を算出するステップと、前記波形メモリに記憶された対象波形を前記波形メモリに記憶された参照波形に対し前記時間差だけ相対的にシフトさせる処理をするステップ、を実行するものである。
したがって、対象波形と参照波形の相関性が高くなるように、両波形のタイミングを自動的に合わせることができる。その際、波形の特徴が良く反映されている、波形パラメータのエンベロープを基準に比較範囲を設定しているため、相関性が高いと推定される比較範囲をあらかじめ設定できるので、正確に、かつ、少ない処理データ量で相関度の算出を行うことができる。
【0007】
請求項3に記載の発明においては、対象波形と参照波形が記憶された波形メモリと波形編集処理手段を有する波形編集装置において用いられ、前記波形編集処理手段により、前記対象波形と前記参照波形との相関性が高くなるように、前記対象波形と前記参照波形とのタイミングを合わせる波形編集方法であって、前記波形編集処理手段は、前記対象波形および前記参照波形について、ある1つの波形パラメータのエンベロープを検出するステップと、前記対象波形および前記参照波形の前記エンベロープを基準に、前記対象波形および前記参照波形に比較範囲を設定するステップと、前記比較範囲において、前記対象波形と前記参照波形、および、前記対象波形を極性反転させた極性反転波形と前記参照波形、について相関度を算出し、前記相関度を最大とするときの、前記対象波形または前記極性反転波形と前記参照波形との時間差を算出するステップと、前記対象波形と前記参照波形との前記相関度の方が前記相関度を最大とするときには、前記波形メモリに記憶された対象波形を前記波形メモリに記憶された参照波形に対して前記時間差だけ相対的にシフトさせるとともに、前記極性反転波形と前記参照波形との相関度の方が前記相関度を最大とするときには、前記波形メモリに記憶された対象波形を前記極性反転波形に置き換えるとともに、前記波形メモリに記憶された参照波形に対し前記時間差だけ相対的にシフトさせる処理をするステップ、を実行するものである。
したがって、請求項2に記載の発明と同様な作用効果に加えて、対象波形と参照波形との極性が逆であっても、極性反転を検出した上でタイミング合わせができる。
【0008】
【発明の実施の形態】
図1は、本発明の波形編集方法を実行する波形編集装置のブロック図である。図中、1は波形編集装置全体の制御を行うCPU(Central Processing Unit)、2は制御プログラムなどの各種プログラムおよび各種の制御情報などが格納されるROM、3はワークエリアやバッファ領域あるいは各種プログラムを格納する領域として使用されるRAM、4は計時動作やCPU1に対するタイマ割込を行うためのタイマ、5は各種の操作スイッチが配備されたパネルスイッチ、6は処理対象波形などの各種の表示を行うパネル表示器である。7は外部MIDI(Musical Instrument Digital Interface)機器との間でMIDIイベントの授受を行うためのMIDIインターフェース、8はCD−ROM(Compact Disk−Read Only Memory)、HD(ハード磁気ディスク)、FD(フレキシブル磁気ディスク)等の記録媒体9にアクセスするための駆動装置である。
【0009】
10は波形メモリであり、入力波形データや生成波形データを記憶するもので、複数の波形データの書き込み読み出しが可能である。11はアクセス管理部であり、波形メモリ10に対する、書込回路13、バッファ14、あるいは、音源部15からのアクセスが互いに衝突しないように、波形メモリ10のアクセスタイムスロットを管理する。12は外部波形入力端子、13は書込回路であって、外部波形入力端子12から入力される対象波形をサンプリングして、波形メモリ10に書き込む。14はバッファであって、記録媒体9やRAM3から波形メモリ10に書き込まれる波形データ、あるいは、波形メモリ10から読み出される波形データを転送する。15は音源部であって、波形メモリ10から読み出された波形データを用いて楽音信号を生成する。16はサウンドシステムであって、音源部15から出力された楽音信号を出力する。17はバスラインであって、上述した各要素間の情報の授受に使用される。
【0010】
ここで、ROM2あるいはRAM3には、全般的な制御を行うプログラムに加えて、外部入力された対象波形を分析し、波形を編集して音源波形を作成する音源波形作成プログラム、および、音源波形を用いて波形メモリ音源として機能させるための演奏処理プログラムなどが含まれる。
CPU1は、ROM2あるいはRAM3に記憶された各種制御プログラムに従い、パネルスイッチ5やMIDIインターフェース7からの入力等に応じて、各種の制御を行う。また、波形編集処理時および音源波形作成処理時においては、バッファ14を介して波形メモリ10のデータの読み書きを行い、波形データを読み出して分析、加工し、再度波形メモリ10に書き込んだり、記録媒体9や図示しない通信ネットワークから供給された波形データを波形メモリ10に書き込んだり、逆に波形メモリ10から前記記録媒体9や通信ネットワークに波形データを供給したりする。
【0011】
さらに、CPU1は、演奏処理実行時において、MIDIインターフェース7、記録媒体9あるいはRAM3などから供給される演奏情報に応じて、音源部15の発音チャンネルの楽音生成状態を制御する。
例えば、MIDIインターフェース7から発音開始を示すノートオン信号が入力された場合、音源部15の発音チャンネルの1つにその楽音の発生を割り当て、割り当てられた発音チャンネルに楽音パラメータ(ピッチ情報、波形選択情報、音量エンベロープ制御情報、エフェクト情報等)を供給するとともに、発音開始の指示を与える。
これに応じて、音源部15では、割り当てられた発音チャンネルを用いて、波形選択情報に応じて波形メモリ10から読み出された楽音波形データを使用して上述した楽音パラメータに対応した楽音信号を生成する。
【0012】
なお、図示を省略したが、LANあるいはインターネットなどの通信ネットワークに接続するための通信インターフェース回路を設け、通信ネットワークを介してサーバから波形データや各種プログラムなどをダウンロードしてもよい。さらにまた、鍵盤操作子を設け、この鍵盤操作子を用いて演奏することもできる。
上述した説明では、波形編集方法や演奏処理方法をCPU1に実行させるプログラムは、CD−ROM等の記録媒体9により供給を受け、ハード磁気ディスク等の記録媒体9にインストールされて実行されてもよい。また、プログラムは、ネットワーク上のサーバから記録媒体9にダウンロードされて実行されてもよい。
【0013】
図2は、図1に示した波形編集装置を用いて波形を分析し、分析結果を用いて波形を加工して音源波形を作成し、人(操作者)が演奏をするまでの処理の概要を示したフローチャートである。
S21において、元となる原波形データが用意される。図1に示したパネルスイッチ5の録音スイッチ操作に応じて、原波形データが、例えば、外部波形入力端子12から書込回路13に入力されてサンプリングされ、アクセス管理部11を介して、波形メモリ10に書き込まれる。
あるいは、記録媒体9に記憶された原波形データを駆動装置8で読み込み、バッファ14、アクセス管理部11を経由して波形メモリ10に記録する。
【0014】
次のS22において、波形メモリ10の原波形データから音源波形データを作成する。すなわち、パネルスイッチ5の編集スイッチ操作に応じて、原波形データを分析して加工し、音源波形データを合成して、再び、波形メモリ10に書き込む。
S23においては、音源波形データを使用して演奏する。すなわち、パネルスイッチ5の演奏スイッチ操作に応じて音源波形データを選択する。次に、音源波形データを使用し、MIDIインターフェース7、記録媒体9、あるいは、図示しない通信ネットワークから入力されるMIDIデータ等の演奏データに基づいて演奏する。
【0015】
本発明の波形編集方法の実施の形態によれば、上述したS22において、2波形のエンベロープのレベルに基づいて、所望の波形部分において大ざっぱに相関性の高い範囲を設定し、この範囲において相関度を算出することにより、相関性の高いタイミング合わせを正確に行うものである。
2波形の一方を対象波形(ターゲット)とし、他方を参照波形(リファレンス)として説明する。
【0016】
処理ステップの概要は、一例として次の通りである。
第1に、タイミング合わせを行いたい楽音波形の部分波形、例えば、楽音波形の立上り部分(アタック部)において、参照波形および対象波形のエンベロープのレベルに基づいて相関性が高いと推定される比較範囲を決定する。
第2に、その比較範囲において、対象波形と参照波形との相関度を、例えば、相互相関関数を用いて算出する。
第3に、参照波形と、対象波形を極性反転した波形との相関度を算出する。
第4に、第2,第3のステップで算出した双方の相関度の最大値をそれそれ検索する。
第5に、双方の相関度の最大値を比較し、対象波形および極性反転波形のうち、相関度の最大値が高い方を採用する。
【0017】
第6に、採用された対象波形または極性反転波形が、相関度の最大値を与えたときの時間差(位相差)だけ、対象波形を参照波形に対して相対的にシフトさせる処理をする。
ここで、相対的にシフトさせる処理とは、例えば、対象波形の比較範囲の開始位置に上述した時間差を加算して新たに開始位置として、ここを切り出し開始位置として、前記対象波形を波形メモリ記憶し直すことである。あるいは、対象波形と参照波形とを同時に読み出して波形データを利用する際に、対象波形の読み出し開始タイミングを上述した時間差だけ遅らせる(時間差が負の場合には進ませる)ような読み出し制御情報をメモリに記憶しておくことを意味する。
【0018】
上述した相対シフト処理により、自動的に、2波形の相関性が高くなるようにタイミング合わせをすることができる。その際、エンベロープのレベルに基づいて相関度が高いと推定される比較範囲を設定するため、有効なタイミング合わせを行うことができる。
以後、フローチャートおよび波形図を参照し、この実施の形態の動作を具体的に説明する。
【0019】
図3は、本発明の波形編集方法の実施の形態の動作を説明するための第1のフローチャートである。相互相関関数値を算出する比較範囲を設定する。
図4は、本発明の波形編集方法の実施の一形態の動作を説明するための第2のフローチャートである。相互相関関数値が最大となる時間差を算出し、対象波形と参照波形の相互相関関数値が最も高くなるように、対象波形と参照波形とのタイミング合わせをする。
図5〜図10は、波形編集処理時の各段階における、対象波形、参照波形、エンベロープ、および、相互相関関数値を示す説明図である。これらは、編集処理時において、図1のパネル表示器6の画面上に表示される。
【0020】
図5は、対象波形Aおよび参照波形Bの波形図である。図5(a)は対象波形、図5(b)は参照波形の波形図である。横軸は時間軸に相当するが、サンプル番号で表している。縦軸は振幅である。
図3のフローチャートから説明する。
S31においては、タイミングを合わせたい対象波形A、参照波形Bの各音量エンベロープを検出する。
次のS32において、各音量エンベロープのレベルに基づいて、タイミングを合わせたい部分波形、この具体例では、アタック部を検出する。
【0021】
図6は、対象波形Aおよび参照波形Bの音量エンベロープを示す線図である。図6(a)は対象波形の音量エンベロープ(部分)、図6(b)は参照波形の音量エンベロープ(部分)を示す線図である。横軸はサンプル番号で表している。縦軸は音量エンベロープである。
音量エンベロープは、入力波形に対して、例えば、時定数が比較的短いピークホールドを行うことにより検出される。ここでは、楽音波形の立ち上がりから終了までの間における音量エンベロープの最大値が100になるように正規化している。
【0022】
アタック部は、通常、楽音波形の先頭位置(音量エンベロープの先頭位置でもある)から楽音波形が最大値を取る(音量エンベロープも最大値を取る)ときまでの期間であるとされている。しかし、この定義に従えば、対象波形Aのアタック部の時間長と、参照波形Bのアタック部の時間長とは必ずしも一致しない。しかし、相関度を算出するには、同じ時間長の比較範囲で行う。
また、波形の先頭位置の近傍は、ノイズ等の影響により不確定さがあるから、対象波形Aの先頭位置と参照波形Bの先頭位置のタイミングを揃えた場合には、必ずしも相関性が高くならない。
【0023】
次のS33において、対象波形Aおよび参照波形Bのそれぞれに比較範囲を設定する。
音量エンベロープには、楽音波形が端的に反映されているから、音量エンベロープに基づいて、対象波形Aと参照波形Bの相関性が高いと推定される比較範囲を設定する。
参照波形B側の比較範囲の開始位置は先頭位置そのものとする。対象波形側Aの比較範囲の開始位置は、対象波形Aと参照波形Bの音量エンベロープのレベルを基準として決定する。
【0024】
まず、図6(b)に示す参照波形Bの音量エンベロープのレベルが、その最大値に対するある閾値(例えば、最大値の25%)を超えるレベルとなる基準位置を検出する。参照波形Bの先頭位置から基準位置までの時間長をt0とする。一方、図6(a)に示す対象波形Aの音量エンベロープのレベルが、同様に、その最大値に対する同じ閾値(最大値の25%)を超えるレベルの基準位置を検出する。この基準位置から波形の先頭側に、上述した時間長t0だけ遡ったタイミングを仮の先頭位置とし、ここを対象波形A側における比較範囲の開始位置とする。
【0025】
なお、上述した時間長t0は、対象波形Aの音量エンベロープが上述した最大値に対する閾値(最大値の25%)を超える基準位置から、対象波形Aの実際の先頭位置までの時間長であると定義してもよい。この場合、この時間長t0を用いて、参照波形B側に仮の先頭位置を設定する。
あるいは、上述した時間長t0を、参照波形B、対象波形Aの実際の先頭位置に関わらず、一定値に設定するようにしてもよい。
【0026】
ところで、参照波形Bの先頭位置から音量エンベロープが最大となるまでのアタック部の時間長(TB)と、対象波形Aの上述した仮の先頭位置から対象波形の音量エンベロープが最大となるまでのアタック部の時間長(TA)とは必ずしも一致しない。
したがって、時間長(TA)、時間長(TB)のいずれか短い方、あるいは、これよりさらに短い所定の時間を比較範囲の時間長とする。
【0027】
エンベロープの最大値によって決まる所定レベルの時点を基準位置として、両波形の比較範囲を決定しているので、参照波形Bと対象波形Aとは、ラフではあるが相関性の高い比較範囲を設定できる。
さらに、基準位置から先頭側の時間長を一定にしているために、先頭近傍の不確定性の影響が軽減された相関性の高い比較範囲を設定できる。
従って、この後で行う、相関度の厳密な算出において、参照波形Bと対象波形Aとの相関度が最もとれる時間差の算出誤差を少なくすることができる。
【0028】
なお、比較範囲の設定は、上述した例に限られない。参照波形B,対象波形Aの音量エンベロープが、それぞれ最大となる位置から時間を遡って、所定の時間長となる範囲を、参照波形B,対象波形Aの比較範囲とすることができる。この所定の時間長は、より好ましくは、参照波形B,対象波形Aの各先頭位置の近傍になるようにする。
また、上述した参照波形Bの音量エンベロープが、最大値に対するある閾値(例えば、最大値の25%)を超える基準位置を参照波形側の比較範囲の開始位置とし、対象波形の音量エンベロープが、同様に、最大値に対する同じ閾値(最大値の25%)を超える基準位置を対象波形側の比較範囲の開始位置とし、いずれも、比較範囲の時間長を一定とする。この所定の時間長は、より好ましくは、参照波形B,対象波形Cの各音量エンベロープの最大値の近傍になるようにする。
【0029】
図7は、対象波形Aおよび参照波形Bの拡大波形図である。図6(a)は対象波形A(部分)、図6(b)は参照波形B(部分)を示す波形図である。図中、横軸はサンプル番号、縦軸は振幅である。
参照波形Bと対象波形Aとのタイミング合わせは、相関度を計算することにより行う。この具体例では、参照波形Bと対象波形Aの相関度の計算は、FFT(Fast Fourier Transform)を用いて相互相関関数(厳密には、離散相互相関関数であるが、略して、相互相関関数という)を計算することにより行う。
【0030】
ここで、FFTを用いた相互相関関数の算出法について説明しておく。
波形x(t)とy(t)とがあった場合、その相互相関関数c(Δt)は、
【数1】
波形x(t)とy(t)とは、それぞれ同じ周期の周期関数であるとし、その1周期につき、相互相関関数c(Δt)をフーリエ変換する。
C(ω)= X(ω)* × Y(ω)
ここで、C(ω)はc(Δt)のフーリエ変換F(c(ω))、X(ω)*はX(ω)の複素共役、X(ω)は x(t) のフーリエ変換F(x(t))、Y(ω)は y(t) のフーリエ変換F(y(t))である。
すなわち、相互相関関数c(Δt)のフーリエ変換は、x(t)をフーリエ変換したものの複素共役と、y(t)をフーリエ変換したものとを乗算した値となる。
それを逆変換すれば、
F−1( C(ω) )= c(Δt) =F−1( X(ω)*×Y(ω) )
したがって、相互相関関数を得ることができる。
【0031】
上述した波形x(t)とy(t)とが、サンプリング波形x(n)とy(n)(t=n×ts:tsはサンプリング周期)の場合には、Δt=Δn×tsとして、その相互相関関数c(Δn)は、
【数2】
これを、FFT処理すると、
Cm=Xm *×Ym
ここで、Cmはc(Δn)のFFT、Xm *はXmの複素共役、Xmはx(n)のFFT、Ymはy(n)のFFTである。
Cmを逆変換すれば、
【数3】
したがって、参照波形をx(n)とし、対象波形をy(n)として、相互相関関数の値RABをFFT処理を用いて算出することができる。ただし、参照波形,対象波形は非周期波形であるが、比較範囲を1周期とする周期関数であるとして、相互相関関数を算出している。
【0032】
図4のフローチャートを参照してタイミング合わせを説明する。
S41において、対象波形Aと参照波形Bとの各比較範囲を、それぞれ、FFT処理(FFTA,FFTB)する。
次に、S42において、FFT処理(FFTA,FFTB)の結果に基づいて、対象波形Aと参照波形Bとの相互相関関数の値RABを算出する。
S43においては、相互相関関数の値RABが最大となる値と、そのときのΔtの値を検出する。
図8は、対象波形Aと参照波形Bとの相互相関関数RABを示す線図である。図中、横軸はサンプル数で表した時間差Δtであり、縦軸は相互相関関数RABの値(%)である。
図示の例では、Δtが、わずかに正の値をとるときに、相互相関関数RABの値が最大値をとることがわかる。
【0033】
次のS44において、対象波形Aの極性を反転した極性反転波形Cについて、対象波形Aと同じ比較範囲でFFT処理(FFTC)する。
S45においては、参照波形BのFFT処理(FFTB)と極性反転波形CのFFT処理(FFTC)の結果に基づいて、相互相関関数RCBの値を算出する。
図9は、対象波形Aを極性反転させた極性反転波形Cと参照波形Bとの相互相関関数RCBを示す線図である。図中、横軸はサンプル数で表した時間差であり、縦軸は相互相関関数RCBの値(%)である。なお、図8に比べて横軸が半分に圧縮されている。
S46において、相互相関関数値RCBが最大となる値と、そのときのΔtの値とを検出する。
【0034】
S47においては、S43において得られた相互相関関数値RABの最大値と、S46において得られた、相互相関関数値RCBの最大値とを比較して、相互相関関数の最大値が大きい方について、その最大値をとるときの時間差Δtに応じて、対象波形Aの移動量Δtを決定する。
図9の例では、相互相関関数RCBの値の最大値は、図8に示した相互相関関数RABの最大値よりも小さい。そのため、相互相関関数RABの値が最大となる時間差Δtに応じて、対象波形Aの移動量Δtを決定する。
【0035】
ここで、対象波形Aの極性反転波形Cに対しても、参照波形Bとの離散相互相関関数の算出をする理由を説明する。
マイクロホンの出力特性や、対象波形A,参照波形Bの録音時のケーブル接続のセッティング状況、コネクタの接続特性等により、対象波形Aと参照波形Bの極性が反転している(逆位相)場合がある。
したがって、上述したように対象波形Aとその極性反転波形の両方について相互相関関数を算出しているので、逆位相になっている場合でも問題なく自動的にタイミング合わせができる。
【0036】
次のS48においては、S47において、相互相関関数の最大値が大きい方が相互相関関数値RCBの方であったときには、対象波形Aの極性を反転させた極性判定波形Cを対象波形Aと置き換え、改めて対象波形Aとする。
次のS49においては、S47において決定された移動量Δtにしたがい、対象波形Aの開始アドレスを仮の先頭位置からシフトさせる。対象波形Aと参照波形Bとの相対時間差に意味があるので、相対時間差をΔtに保ったまま、対象波形Aおよびまたは参照波形Bの開始アドレスをシフトさせてもよい。
【0037】
図10は、対象波形Aの開始アドレスを時間差Δtだけずらせてタイミング合わせをした後の対象波形Aと参照波形Bとの比較図である。上段がタイミング合わせ後の対象波形A、下段が参照波形Bの波形図である。横軸はサンプル数で表した時間、縦軸は振幅である。
この具体例では、対象波形Aの開始アドレス(切り出し位置)のシフトによって、対象波形Aは、波形の先頭位置から波形の終了位置までの全データをシフトさせる。シフトさせた対象波形Aと参照波形Bとは、アタック部の比較範囲において相関性が最も高いものとなる。
対象波形Aおよび参照波形Bのタイミング合わせをした後に、両波形をそれぞれの開始アドレス(切り出し位置)から読み出せば、両波形は、アタック部内の比較範囲において、最も相関性の高いタイミングで同時再生されることになる。なお、対象波形Aの開始アドレスを移動させない場合には、上述した時間差Δtを記憶しておき、両波形を読み出す際に、時間差Δtに応じて両波形の読み出し開始タイミングをずらせればよい。
【0038】
上述した具体例では、FFT処理によって、対象波形Aおよび参照波形Bの相互相関関数を算出しているが、相互相関関数を、実時間軸上で波形振幅を乗算して相互相関関数の本来の定義通りに算出してもよい。
上述した説明では、相互相関関数の値にもとづいて、対象波形Aおよび参照波形Bの相関性が高くなるように開始タイミングをずらせた。これに代えて、他の方法で、対象波形Aおよび参照波形Bの相関度を算出してもよい。
例えば、参照波形Bに対して、対象波形Aを時間軸上でずらしていったときに、両波形の振幅の差の絶対値の、比較期間における総和が最小となるときの時間差を検出する。また、両波形の振幅差の自乗の値の、比較期間における総和が最小となるときの時間差を検出することもできる。これらの例は、総和が最小となるときに相関度が最も高くなる。
【0039】
この実施の形態では、相関性が高くなるようにタイミング合わせする部分を波形のアタック部に設定した。しかし、タイミング合わせする部分は、波形編集の目的に応じて、楽音波形の持続部、立ち下がり部、アタック部を含めたこれらの相互の過渡的な接続部等に設定することもできる。いずれの場合も、両波形が大体において相関性が高いと推定される比較範囲を設定してから、相関度の算出を行うことにより、タイミング合わせの正確性が高まる。
【0040】
上述した説明では、対象波形および参照波形を楽音波形の立ち上がりから立下りまでの全期間とした。しかし、波形編集の目的に応じて、楽音波形の一部の期間、例えば、アタック部の波形部分を対象波形Aおよび参照波形Bとして、この波形部分でのみ、タイミング合わせをすることもできる。
なお、波形を記憶する際に、波形の立ち上がり前に無音期間を記憶しておきたい場合がある。このような場合には、無音期間の時間長を時間単位で設定できるようにして、参照波形Bと対象波形Aとをタイミング合わせした後に、両波形の先頭部分に無音期間を加えればよい。あるいは、タイミング合わせの前に、参照波形Bの先頭部分に加えてから対象波形Aとタイミング合わせをすることも可能である。
【0041】
上述した説明では、2波形の相関性を高くするように2波形のタイミング合わせを行った。3以上の波形について相関性を高くするようにタイミング合わせをするには、1つを参照波形Bと決め、この参照波形Bと他の対象波形Aとを2つずつ比較することにより、参照波形Bを基準に、他の対象波形Aのタイミングを合わせればよい。
また、上述した説明では、モノラル波形として説明した。ステレオ波形の場合には、対象波形Aと参照波形Bとを、左右の一方のチャンネルに関して対象波形Aと参照波形Bとの相関度を計算し、相関度が最も高くなる時間差を検出し、対象波形Aの左右それぞれのチャンネルを、その時間差だけ、共にシフトさせればよい。
【0042】
次に、上述した対象波形Aおよび参照波形Bのタイミング合わせの第1の応用例を説明する。
図11は、タッチコントロール用の音源波形の作成の第1の例を示すフローチャートである。
この第1の応用例では、アタック部に着目して対象波形Aと参照波形Bのタイミング合わせを行った上で、対象波形Aのフーリエ成分(非倍音を含む周波数成分)の各位相(位相角)を、参照波形Bの同じ周波数のフーリエ成分の位相(位相角)に合わせることにより、合成波形Aを作成するものである。そして、楽音波形の全期間において、合成波形A,参照波形Bを混合して音源波形とするものである。
【0043】
図11のS51において、対象波形A,参照波形Bの比較範囲を設定し、S52に処理を進める。この比較範囲がアタック部であるときは、図3に示した処理を実行する。
次にS52において、対象波形A,参照波形Bのタイミングを、比較範囲において、両波形の相関性が高くなるように合わせるために、図4に示した処理を実行する。
次のS53において、対象波形Aをその波形の全期間において、FFT処理して得られたフーリエ成分Aを検出する。主要なフーリエ成分について、対応する複数の周波数の正弦波を加算(正弦波加算合成)することにより、波形を合成する。この合成波形を対象波形Aから減算し、その残差成分Aを検出する。S52において、FFTを用いて相互相関関数を算出する場合には、このS52のステップで、波形の全期間においてフーリエ成分Aを算出しておき、これを使用してもよい。
【0044】
次のS54においては、S53と同様に、参照波形Bをその波形の全期間において、FFT処理して得られたフーリエ成分B、および、このフーリエ成分Bから合成された波形を参照波形Bから減算し、その残差成分Bを検出する。S52のステップにおいて、FFTを用いて相互相関関数を算出する場合には、このS52のステップにおいて、波形の全期間におけるフーリエ成分Bを算出しておき、これを使用してもよい。
次に、S55において、フーリエ成分Aの各周波数の位相を同じ周波数のフーリエ成分Bの位相で置換することにより、フーリエ成分A’を作成する。次に、S56において、フーリエ成分A’および残差成分Aから合成波形Aを合成する。この合成波形Aは、対象波形Aとは異なるものとなる。参照波形Bはそのまま使用する。
【0045】
合成波形Aおよび参照波形Bをキータッチに応じて混合して音源波形とする。ノートオン(発音指示信号)に応じて、波形メモリに記憶された合成波形A,参照波形Bの再生を同時にスタートさせる。その際、ノートオン情報に含まれるベロシティ(キータッチデータ)の値に応じ、合成波形A,参照波形Bの混合率(重み係数)を制御する。ピアノ音色の場合、対象波形Aとしてフォルテッシモ(ff)で弾かれたものを用い、参照波形Bとしてメゾフォルテ(mf)で弾かれたものを用いるとよい。
【0046】
上述した合成波形Aを用いれば、目的とするアタック部において合成波形A,参照波形Bの相関性が高くなるように、タイミングが合わされるから、合成波形A,参照波形Bを混合したときに、ノイズが発生したり波形が歪んだりすることが少ない。
加えて、合成波形Aの位相スペクトルを参照波形Bの位相スペクトルに揃えているので、混合により特定のスペクトルの消失や減衰の可能性が少なくなる。その結果、ベロシティによる音色の変化に違和感が少なくなる。
【0047】
上述した説明では、メゾフォルテ(mf)として弾かれた参照波形Bの位相スペクトルに一致するように、他方の合成波形Aの位相スペクトルを置き換えている。
しかし、フォルテッシモ(ff)として弾かれた対象波形Aの位相スペクトルに一致するように、他方の参照波形Bの位相スペクトルを置き換えることも可能である。ただし、通常の演奏では、メゾフォルテ(mf)として弾かれる参照波形Bの混合率の方が大きくなるから、参照波形Bの方をそのまま使用する方が違和感が少ない。
【0048】
上述した第1の応用例は、キータッチのベロシティに応じて、混合率を制御するものであった。これに代えて、ノートオン(発音指示信号)に応じて、合成波形A,参照波形Bのいずれか一方を選択的に再生してもよい。どちらの波形を選択するかは、上述したベロシティに応じて決定される。つまり、ベロシティが所定値より大きいときは合成波形A、小さいときは参照波形Bを選択する。合成波形A,参照波形Bの相関性が高くなるように合成波形A,参照波形Bのタイミングを揃えているため、違和感の少ない波形切換ができる。
【0049】
上述した説明では、強タッチ(ff)と中タッチ(mf)の2段階の波形を用意したが、3段階以上のタッチで弾き分けられた3以上の波形データを混合して音源波形を作成してもよい。ノートオン情報に含まれるベロシティに応じて、3以上の波形データの混合率を変更したり、3以上の波形データの1つを選択することができる。
【0050】
次に、上述した対象波形Aおよび参照波形Bのタイミング合わせの第2の応用例を説明する。
図12は、タッチコントロール用音源波形の作成の第2の例を示すフローチャートである。
この例では、アタック部から持続部の導入部分まで、対象波形Aの部分波形A,参照波形Bの部分波形Bをベロシティの値に応じて混合して用いる。そして、持続部では、部分波形Dを用い、持続部の導入部分では、部分波形Aおよび部分波形Bの混合波形と部分波形Dとをクロスフェードして用いる。
【0051】
図12のS61において、対象波形Aから「アタック部〜持続部の導入部分」の部分波形Aを作成し、次のS62において、参照波形Bから「アタック部〜持続部の導入部分」の部分波形Bを作成する。通常は、対象波形A,参照波形Bの各「アタック部〜持続部の導入部分」を、そのまま切り出せばよいが、波形を加工してもよい。
次に、S63において、対象波形Aおよびまたは参照波形Bから、「持続部〜リリース部」の部分波形Dを作成する。通常は、参照波形Bの「持続部〜リリース部」を用いればよい。持続部のサステイン部分をループ波形として繰り返し再生する場合には、ループ波形のつなぎ目の前後の部分において周波数スペクトル上で急激な変化がないように波形処理をするとよい。
【0052】
次のS64において、図3のフローに示されたように、部分波形Aのアタック部と部分波形Bのアタック部との比較範囲を設定する。
次のS65において、図4のフローに示されたように、部分波形Aと部分波形Bのタイミングを合わせる。なお、図11の例と同様に、位相スペクトルを置き換えた部分合成波形Aを作成してもよい。
次のS66において、部分波形Aおよび部分波形Bの混合波形(適当な混合率にする)と部分波形Dとの比較範囲を設定する。比較範囲は、混合波形と部分波形Dのそれぞれについて、例えば、音量エンベロープが最大値になってから、この最大値の所定比率になる基準位置までの期間とする。混合波形の比較範囲および部分波形Dの比較範囲の時間長が異なる場合には、例えば、短い方の時間長に合わせて比較範囲の開始点側をずらせる。
【0053】
次のS67においては、混合波形と部分波形Dのタイミング合わせを行う。
図4を参照して説明したタイミング合わせは、アタック部に関するものであったが、これと同様な方法で相互相関関数を算出し、S66において設定された比較範囲において、混合波形と部分波形Dとの相関性が高くなるように、部分波形Dをずらせる。
【0054】
波形再生は次のようにして行う。ノートオンに応じて、「アタック部〜持続部の導入部分」の部分波形A,Bの再生を同時スタートさせる。その際、ノートオン情報に含まれるベロシティの値に応じて、部分波形Aと部分波形Bの混合率を制御する。部分波形A,Bのアタック部終了時に「持続部〜リリース部」の部分波形Dの再生をスタートさせる。部分波形Aおよび部分波形Bの混合波形から部分波形Dへは、持続部の導入部においてクロスフェードされる。
このクロスフェード用の音量変化は、波形メモリに記憶する部分波形A,B,Dに最初から付けておく。あるいは、タイミング合わせされた部分波形A,B,Dをメモリに記憶しておいて、再生時のクロスフェード期間において、クロスフェード用の重み付け係数を用いて、各部分波形の音量エンベロープを制御してもよい。
【0055】
先に説明したように、「アタック部〜持続部の導入部」については、部分波形Aと部分波形Bの混合率が制御された波形とする。「持続部〜リリース部」の部分波形Dとは、持続部の導入部分において、部分波形A,Bの混合波形と部分波形Dとがクロスフェード的に接続される。その際、部分波形A,Bの混合波形および部分波形Dのタイミングが、相関度が最も高くなるように揃えられるため、混合によってノイズが発生したり波形が歪んだりすることが少ない。
【0056】
なお、上述した説明では、第1の応用例において、波形のアタック部(立ち上がり部)の波形の相関性が高くなるようにして、対象波形Aと参照波形Bとのタイミング合わせを行った。また、第2の応用例においては、加えて、音量エンベロープが最大となった後の持続部の導入部分において波形の相関が高くなるように部分波形A,Bの混合波形と部分波形Dのタイミングを合わせた。
しかし、部分波形を使用する目的によっては、上述した波形部分に限らず、波形がほぼ平坦になったところの持続部あるいは波形のリリース部において、相関性が高くなるようにタイミング合わせをしてもよい。
リリース部でタイミング合わせする場合に、相関性の算出を行う比較範囲を設定するには、両波形の音量エンベロープにおいて、最後に減衰速度が加速した時点を検出し、その近傍ないし前後に所定の比較範囲を設定すればよい。
【0057】
また、上述した説明では、音量エンベロープに注目して、相関性の高い、おおよその比較範囲を設定していた。それに加えて、ないし、その代わりに、ピッチエンベロープ(基音の周波数の時間的変化)やスペクトルエンベロープ(特定の条件を満たす周波数成分の各レベルの総和とった値の時間的変化)を比較範囲の設定の根拠としてもよい。
例えば、ピッチが1発音期間中に過渡的に変化するスラー波形,グライド波形,ビブラート波形等のタイミングを、対象波形Aと参照波形Bとの間で揃えようとする場合には、ピッチエンベロープに基づいて比較範囲を設定するのが好適である。
また、アタック部は非調和成分が多く、アタック部が終了すると非調和成分が減衰することから、非調和成分のスペクトルエンベロープに基づいて、アタック部の比較範囲を設定することができる。
【0058】
【発明の効果】
本発明は、上述した説明から明らかなように、2波形の相関性が高くなるようなタイミング合わせを自動的に行なえるという効果がある。
あらかじめ、波形パラメータのエンベロープを基準に、比較範囲を適切に設定できるため、相関度の算出において、タイミング合わせを有効に行えるという効果がある。
また、入力された対象波形Aと参照波形Bとが極性反転した関係にあったとしても、自動的に極性反転を検出してタイミング合わせができるという効果がある。
【図面の簡単な説明】
【図1】本発明の波形編集方法を実行する波形編集装置のブロック図である。
【図2】図1に示した波形編集装置を用いて波形を分析し、人が演奏をするまでの処理の概要を示したフローチャートである。
【図3】本発明の波形編集方法の実施の形態の動作を説明するための第1のフローチャートである。
【図4】本発明の波形編集方法の実施の一形態の動作を説明するための第2のフローチャートである。
【図5】対象波形Aおよび参照波形Bの波形図である。
【図6】対象波形Aおよび参照波形Bの音量エンベロープを示す波形図である。
【図7】対象波形Aおよび参照波形Bの拡大波形図である。
【図8】対象波形Aと参照波形Bとの相互相関関数RABを示す線図である。
【図9】対象波形Aを極性反転させた極性反転波形Cと参照波形Bとの相互相関関数RCBを示す線図である。
【図10】対象波形Aの開始アドレスを時間差Δtだけずらせてタイミング合わせをした後の対象波形Aと参照波形Bとの比較図である。
【図11】タッチコントロール用の音源波形の作成の第1の例を示すフローチャートである。
【図12】タッチコントロール用音源波形の作成の第2の例を示すフローチャートである。
【符号の説明】
1 CPU、2 ROM、3 RAM、4 タイマ、5 パネルスイッチ、6パネル表示器、7 MIDIインターフェース、8 駆動装置、10 波形メモリ、11 アクセス管理部、12 外部波形入力端子、13 書込回路、14バッファ、15 音源部、16 サウンドシステム、17 バスライン
Claims (3)
- 対象波形と参照波形が記憶された波形メモリと波形編集処理手段を有する波形編集装置において用いられ、前記波形編集処理手段により、前記対象波形と前記参照波形との相関性が高くなるように、前記対象波形と前記参照波形とのタイミングを合わせる波形編集方法であって、
前記波形編集処理手段は、
前記対象波形の立ち上がり部と前記参照波形の立ち上がり部との相関度を算出し、前記相関度を最大とするときの前記対象波形と前記参照波形との時間差を算出するステップと、
前記対象波形を前記参照波形に対し前記時間差だけ相対的にシフトさせる処理をするステップ、
を実行するものであることを特徴とする波形編集方法。 - 対象波形と参照波形が記憶された波形メモリと波形編集処理手段を有する波形編集装置において用いられ、前記波形編集処理手段により、前記対象波形と前記参照波形との相関性が高くなるように、前記対象波形と前記参照波形とのタイミングを合わせる波形編集方法であって、
前記波形編集処理手段は、
前記対象波形および前記参照波形について、ある1つの波形パラメータのエンベロープを検出するステップと、
前記対象波形および前記参照波形の前記エンベロープを基準に、前記対象波形および前記参照波形に比較範囲を設定するステップと、
前記比較範囲において、前記対象波形と前記参照波形との相関度を算出し、前記相関度を最大とするときの前記対象波形と前記参照波形との時間差を算出するステップと、
前記波形メモリに記憶された対象波形を前記波形メモリに記憶された参照波形に対し前記時間差だけ相対的にシフトさせる処理をするステップ、
を実行するものであることを特徴とする波形編集方法。 - 対象波形と参照波形が記憶された波形メモリと波形編集処理手段を有する波形編集装置において用いられ、前記波形編集処理手段により、前記対象波形と前記参照波形との相関性が高くなるように、前記対象波形と前記参照波形とのタイミングを合わせる波形編集方法であって、
前記波形編集処理手段は、
前記対象波形および前記参照波形について、ある1つの波形パラメータのエンベロープを検出するステップと、
前記対象波形および前記参照波形の前記エンベロープを基準に、前記対象波形および前記参照波形に比較範囲を設定するステップと、
前記比較範囲において、前記対象波形と前記参照波形、および、前記対象波形を極性反転させた極性反転波形と前記参照波形、について相関度を算出し、前記相関度を最大とするときの、前記対象波形または前記極性反転波形と前記参照波形との時間差を算出するステップと、
前記対象波形と前記参照波形との前記相関度の方が前記相関度を最大とするときには、前記波形メモリに記憶された対象波形を前記波形メモリに記憶された参照波形に対して前記時間差だけ相対的にシフトさせるとともに、前記極性反転波形と前記参照波形との相関度の方が前記相関度を最大とするときには、前記波形メモリに記憶された対象波形を前記極性反転波形に置き換えるとともに、前記波形メモリに記憶された参照波形に対し前記時間差だけ相対的にシフトさせる処理をするステップ、
を実行するものであることを特徴とする波形編集方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP27663599A JP3601373B2 (ja) | 1999-09-29 | 1999-09-29 | 波形編集方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP27663599A JP3601373B2 (ja) | 1999-09-29 | 1999-09-29 | 波形編集方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001100756A JP2001100756A (ja) | 2001-04-13 |
JP3601373B2 true JP3601373B2 (ja) | 2004-12-15 |
Family
ID=17572203
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP27663599A Expired - Fee Related JP3601373B2 (ja) | 1999-09-29 | 1999-09-29 | 波形編集方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3601373B2 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1304680A3 (en) | 2001-09-13 | 2004-03-03 | Yamaha Corporation | Apparatus and method for synthesizing a plurality of waveforms in synchronized manner |
JP4562685B2 (ja) * | 2006-04-27 | 2010-10-13 | 富士通テン株式会社 | デジタルデータ受信機 |
US8208648B2 (en) | 2007-03-09 | 2012-06-26 | Pioneer Corporation | Sound field reproducing device and sound field reproducing method |
JP5609281B2 (ja) * | 2010-06-08 | 2014-10-22 | 大日本印刷株式会社 | 差分符号データの作成方法および装置 |
JP5188561B2 (ja) * | 2010-10-22 | 2013-04-24 | 中国電力株式会社 | 音響診断を支援する装置、システム、方法およびプログラム |
JP6469553B2 (ja) * | 2015-08-31 | 2019-02-13 | 株式会社小野測器 | 機器状態判定装置、機器状態判定方法及びノッキング判定装置 |
JP6973130B2 (ja) * | 2018-01-31 | 2021-11-24 | オムロン株式会社 | 制御装置及び制御方法 |
CN112741598A (zh) * | 2019-10-30 | 2021-05-04 | 株式会社理光 | 波形生成识别方法和计算机可读介质 |
EP4047595B1 (de) | 2021-02-23 | 2024-08-14 | e-instruments lab GmbH | Verfahren zur erstellung einer gruppe von phasenkohärenten samples für ein virtuelles instrument |
-
1999
- 1999-09-29 JP JP27663599A patent/JP3601373B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001100756A (ja) | 2001-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3399297B2 (ja) | 電子楽器 | |
US20060272485A1 (en) | Evaluating and correcting rhythm in audio data | |
MXPA01004262A (es) | Metodo para modificar el contenido armonico de una forma de onda compleja. | |
US7396992B2 (en) | Tone synthesis apparatus and method | |
KR100256718B1 (ko) | 음피치 변환 장치 | |
JP3601373B2 (ja) | 波形編集方法 | |
WO2020162392A1 (ja) | 音信号合成方法およびニューラルネットワークの訓練方法 | |
Gouyon et al. | Rhythmic expressiveness transformations of audio recordings: swing modifications | |
Jensen | The timbre model | |
JP3008922B2 (ja) | 楽音発生装置および楽音発生方法 | |
JPH11259066A (ja) | 音楽音響信号分離方法、その装置およびそのプログラム記録媒体 | |
JP3534012B2 (ja) | 波形分析方法 | |
JP4736046B2 (ja) | 波形データ生産方法、波形データ生産装置、プログラムおよび波形メモリ生産方法 | |
JP3659053B2 (ja) | 波形データ生成方法、波形データ生成プログラムを記録した記録媒体および波形データ生成装置 | |
JP3780857B2 (ja) | 波形編集方法および波形編集装置 | |
JP3733964B2 (ja) | 分析結果を用いた音源波形合成装置 | |
JP3428230B2 (ja) | 電子楽器の繰返し波形の形成法及び繰返し波形形成装置 | |
JP3654227B2 (ja) | 楽曲データ編集装置及びプログラム | |
JP3752855B2 (ja) | 波形データ作成方法 | |
JP2002287744A (ja) | 波形データ分析方法、波形データ分析装置およびプログラム | |
JP3636056B2 (ja) | 波形データ処理方法 | |
US6235980B1 (en) | Apparatus and method for generating waveform data for musical tone signal generating apparatus | |
JP3095018B2 (ja) | 楽音発生装置 | |
JP3744315B2 (ja) | 波形分析方法および波形分析装置 | |
JP3885803B2 (ja) | 演奏データ変換処理装置及び演奏データ変換処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040330 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040507 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040831 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040913 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313532 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071001 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081001 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091001 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101001 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101001 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111001 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111001 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121001 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121001 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131001 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |