JP4047109B2 - 特定音響信号検出方法、信号検出装置、信号検出プログラム及び記録媒体 - Google Patents
特定音響信号検出方法、信号検出装置、信号検出プログラム及び記録媒体 Download PDFInfo
- Publication number
- JP4047109B2 JP4047109B2 JP2002265427A JP2002265427A JP4047109B2 JP 4047109 B2 JP4047109 B2 JP 4047109B2 JP 2002265427 A JP2002265427 A JP 2002265427A JP 2002265427 A JP2002265427 A JP 2002265427A JP 4047109 B2 JP4047109 B2 JP 4047109B2
- Authority
- JP
- Japan
- Prior art keywords
- small region
- spectrum
- similarity
- search
- reference signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Description
【発明の属する技術分野】
本発明は、参照信号と呼ぶ音響信号と、より長い蓄積信号と呼ぶ2つの音響信号が与えられたとき、蓄積信号中の参照信号に類似した音が含まれる区間を探し出す方法に関するものであり、例えばTV放送中でBGMとして使われた音楽の検出に利用することができる。この場合、TV放送の音声を録音したものを蓄積信号として蓄積しておき、ある特定音楽のCDの一部を参照信号とし、蓄積信号中の参照信号を含む区間を検出することで、その音楽がBGMとして使われた区間を検出することができる。
【0002】
【従来の技術】
特定音響信号含有区間検出は図5にあるように、参照信号と呼ぶある特定の音響信号と類似する音を含む区間を蓄積信号と呼ぶ参照信号より長い音響信号中で検出することである。なお、区間を検出するとは、区間の先頭の時点を検出することとである。従来、蓄積信号中の参照信号に類似する区間を検出する高速な手法としては、時系列アクティブ探索法(非特許文献1)等があるが、このような蓄積信号中の参照信号の検出手法の多くは、蓄積信号中の参照信号と類似する区間が参照信号とほぼ同一であることが前提であり、蓄積信号中で検出したい音楽にナレーション等の他の音が重なった場合などには、この区間の音響信号が参照信号と著しく異なるために検出できなかった。そして、BGMとして使われた音楽の検出なども目的とした特定音響信号含有区間検出方法は、従来、ほとんど例が無く、唯一、自己最適化スペクトル相関法がある(非特許文献2)。
【0003】
ここで、自己最適化スペクトル相関法ついて簡単に説明する。自己最適化スペクトル相関法においては参照信号と蓄積信号の各スペクトラムである参照信号スペクトラムと蓄積信号スペクトラムを用いて特定音響信号含有区間検出を行う。自己最適化スペクトル相関法では図6にあるように、参照信号スペクトラムを小領域に分割(これを小領域参照信号スペクトラムと呼ぶ)し、各小領域参照信号スペクトラムについて、蓄積信号スペクトラム中の同じ周波数帯の全ての時点の小領域スペクトラムとの間での類似度(小領域類似度)を計算する。なお、ここで、参照信号スペクトラムをF、蓄積信号スペクトラムをGと書き、F,Gの時点t、周波数ωのスペクトラムの値をf(t,ω),g(t,ω)と表すとする。
【0004】
そして、時点tiと周波数ωmについて、Γti , ωm={(t,ω)|ti−Δt≦t≦ti+Δt,ωm−Δω≦ω≦ωm+Δω}の部分を切り出した小領域のスペクトラムを(ti,ωm)を中心とする小領域スペクトラムと呼びF,Gの各々について、Fti , ωm,Gti , ωmと書くとする。そして、自己最適化スペクトル相関法においてはFti , ωm,Gτ+ti , ωm間の誤差を
【数1】
とする。ここでαは振幅に関するスケーリングパラメータであり、
【数2】
の時、d(α,τ,ti,ωm)は最小となる。このときのd(α,τ,ti,ωm)をd(τ,ti,ωm)とする。なお、ここで、0≦d(τ,ti,ωm)≦1である。そして、Fti , ωmとGτ+ti , ωmの類似度を
【数3】
とし、小領域類似度とする。そして、蓄積信号の時点τについて、その時点でのスケーリングパラメータαによる参照信号との区間類似度S(α,τ)を
【数4】
と、投票法により求める。ここで、TRとΩRは、各々、分割された参照信号の小領域スペクトラムの中心となる時点と周波数の集合であり、I=|TR|×|ΩR|である。また、δ(x)は
【数5】
である。
【0005】
なお、ここで、S(α,τ)については、sp(τ,ti,ω)のうち閾値以上のものを積算(投票)することや、sp(τ,ti,ω)がτ∈TaSの全てのτにおいて最大であるときのみ積算するとすることもできる。TaSは蓄積信号の全ての時点の集合である。そして、自己最適化スペクトラム相開法においては以上のようにして、S(α,τ)を各α,τについて求め、S(α,τ)が閾値以上の場合やピークになっている場合などにτの時点に参照信号が含まれていたとする。なお、小領域類似度sp(τ,ti,ωm)については図6にあるように、各tiについて、全てのτで、すなわち、照合位置τsをずらしながら、全てのτについて、小領域類似度sp(τ,ti,ωm)を求めることになる。なお、簡単のため、Sp(τ,ti,ωm)をs'p(τs,ti,ωm)と書き、照合位置τsでの照合による小領域類似度とする。このとき、τs=τ+tiである。そして、全てのτについて、小領域類似度sp(τ,ti,ωm)を求めることは、全てのτsについて照合位置をずらしながらs'p(τs,ti,ωm)を求めることである。
本明細書では、原則的にパラメータの添字を下付きの小さい文字で記載したが、添字付きのパラメータ(例えば、tiやωm)が添字になる場合(例えば、Fti , ωm)は添字内の文字の大きさを区別していない。
【0006】
【非特許文献1】
柏野邦夫、ガビンスミス、村瀬洋著「ヒストグラム特徴を用いた音響信号の高速探索法−時系列アクティブ探索法−」電子情報通信学会論文誌D−II、Vol.J82−D−II、No.9、pp.1365−1373、September 1999.
【非特許文献2】
安部素嗣、西口正之著「背景音楽同定のための自己最適化スペクトル相関法」In Technical Report of IEICE、PRMU2001−209、January 2002.
【非特許文献3】
柏野邦夫、黒住隆行、村瀬洋著「ヒストグラム特徴を用いた音や映像の高速AND/OR探索」電子情報通信学会論文誌D−II、Vol.J83−D−II、No.12、pp.2735−2744、December 2000.
【0007】
【発明が解決しようとする課題】
ところで、前述した自己最適化スペクトル相関法においては、ある中心周波数ωωにおいて、Fti , ωmとGτ+ti , ωmの小領域類似度を全てのτとtiの組合せについて求めていたため、この小領域類似度の計算に時間を要するとともに小領域類似度の計算回数が多く、特定音響信号含有区間検出に非常に長い時間を要するという問題がある。
【0008】
本発明は、このような事情に鑑みてなされたもので、公知の手法で長時間を要していた小領域類似度の計算を高速に行い、特定音響信号含有区間検出をより高速に行うことが可能な特定音響信号検出方法、信号検出装置、信号検出プログラム及び記録媒体を提供することを目的とする。
【0009】
【課題を解決するための手段】
請求項1に記載の発明は、参照信号と呼ぶ特定の音響信号と類似する音を含む区間を蓄積信号と呼ぶ参照信号より長い音響信号中から検出する特定音響信号検出方法であって、参照信号スペクトラムと呼ぶ前記参照信号の時間周波数スペクトラムを小領域参照信号スペクトラムと呼ぶ時間軸方向と周波数軸方向の双方の軸で小領域のスペクトラムに分割するスペクトラム分割過程と、前記小領域参照信号スペクトラムの分割周波数ごとに、各分割周波数に含まれる小領域参照信号スペクトラムと、蓄積信号スペクトラムと呼ぶ前記蓄積信号のスペクトラム内の該分割周波数に含まれる蓄積信号スペクトラムとから小領域類似度を算出し、該算出した小領域類似度が与えられた小領域用探索閾値未満のときに次の探索位置の決定を行う処理をそれぞれ周波数に対して行う類似小領域探索過程と、前記類似小領域探索過程で探索された前記蓄積信号スペクトラム中の小領域参照信号スペクトラムに類似した小領域の小領域類似度のうち、参照信号中の同一時点の複数の異なる周波数の小領域参照信号スペクトラムについて、各周波数で算出された小領域類似度の最大値を抽出し、該抽出した最大値を同一区間内で積算することにより小領域を含む蓄積信号の区間と参照信号との類似度を計算する区間類似度計算過程を有し、前記区間類似度計算過程より計算された区間類似度により、蓄積信号中の参照信号と類似する音を含む区間を検出することを特徴とする。
この発明によれば、類似小領域探索過程において、各小領域参照信号スペクトラムについて、蓄積信号スペクトラムから小領域類似度が与えられた小領域用探索閾値より大きい小領域(時点)のみを探索するようにしたため、従来の方法に比ベ、小領域類似度を計算する回数を低減することができる。これにより、従来の各小領域参照信号スペクトラムについて全ての蓄積信号スペクトラム中の全ての時点での小領域類似度を計算する場合に比ベ、特定音響信号含有区間検出をより高速に行うことができる。
【0010】
請求項2に記載の発明は、前記類似小領域探索過程は、前記小領域類似度が前記小領域用探索閾値より大きい場合は類似小領域の探索を続行し、前記小領域類似度が前記小領域用探索閾値より小さい場合は、算出された前記小領域類似度に基づき得られた範囲の探索を省略して、次の類似小領域の探索を行うことを特徴とする。
この発明によれば、類似小領域探索過程において、前記小領域類似度が前記小領域用探索閾値より大きい場合は類似小領域の探索を続行し、前記小領域類似度が前記小領域用探索閾値より小さい場合は、算出された前記小領域類似度に基づき得られた範囲の探索を省略して、次の類似小領域の探索を行うようにしたため、従来の方法の場合に比べ、小領域類似度を計算する回数を低減することができる。
【0011】
請求項3に記載の発明は、前記類似小領域探索過程は、小領域参照信号スペクトラムと蓄積信号スペクトラムのある時点の小領域スペクトラムの照合の際において前記小領域用探索閾値より大きくなる可能性の無くなった場合は該時点での照合を打ち切り、蓄積信号スペクトラムの次の時点での照合を行うことを特徴とする。
この発明によれば、類似小領域探索過程において、小領域参照信号スペクトラムと蓄積信号スペクトラムのある時点の小領域スペクトラムの照合の際において前記小領域用探索閾値より大きくなる可能性の無くなった場合は該時点での照合を打ち切り、蓄積信号スペクトラムの次の時点での照合を行うようにしたため、従来の方法の場合に比べ、小領域類似度を計算する回数を低減することができる。
【0012】
請求項4に記載の発明は、前記類似小領域探索過程は、小領域スペクトラムのヒストグラム特徴を用いた照合を用い、前記蓄積信号スペクトラムから、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする。
この発明によれば、類似小領域探索過程において、小領域スペクトラムのヒストグラム特徴を用いた照合を用い、前記蓄積信号スペクトラムから、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを探索し、探索で得られた小領域のみ小領域類似度を計算するようにしたため、従来の方法の場合に比べ、小領域類似度を計算する回数を低減することができる。
【0013】
請求項5に記載の発明は、前記類似小領域探索過程は、小領域スペクトラムのヒストグラム特徴を用い、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを、複数の小領域参照信号スペクトラムについてまとめて探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする。
この発明によれば、類似小領域探索過程において、小領域スペクトラムのヒストグラム特徴を用い、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを、複数の小領域参照信号スペクトラムについてまとめて探索し、探索で得られた小領域のみ小領域類似度を計算するようにしたため、従来の方法の場合に比べ、小領域類似度を計算する回数を低減することができる。
【0014】
請求項6に記載の発明は、参照信号と呼ぶ特定の音響信号と類似する音を含む区間を蓄積信号と呼ぶ参照信号より長い音響信号中から検出する特定音響信号検出装置であって、参照信号スペクトラムと呼ぶ前記参照信号の時間周波数スペクトラムを小領域参照信号スペクトラムと呼ぶ時間軸方向と周波数軸方向の双方の軸で小領域のスペクトラムに分割するスペクトラム分割手段と、前記小領域参照信号スペクトラムの分割周波数ごとに、各分割周波数に含まれる小領域参照信号スペクトラムと、蓄積信号スペクトラムと呼ぶ前記蓄積信号のスペクトラム内の該分割周波数に含まれる蓄積信号スペクトラムとから小領域類似度を算出し、該算出した小領域類似度が与えられた小領域用探索閾値未満のときに次の探索位置の決定を行う処理をそれぞれ周波数に対して行う類似小領域探索手段と、前記類似小領域探索手段で探索された前記蓄積信号スペクトラム中の小領域参照信号スペクトラムに類似した小領域の小領域類似度のうち、参照信号中の同一時点の複数の異なる周波数の小領域参照信号スペクトラムについて、各周波数で算出された小領域類似度の最大値を抽出し、該抽出した最大値を同一区間内で積算することにより小領域を含む蓄積信号の区間と参照信号との類似度を計算する区間類似度計算手段を備え、前記区間類似度計算手段より計算された区間類似度により、蓄積信号中の参照信号と類似する音を含む区間を検出することを特徴とする。
【0015】
請求項7に記載の発明は、前記類似小領域探索手段は、前記小領域類似度が前記小領域用探索閾値より大きい場合は類似小領域の探索を続行し、前記小領域類似度が前記小領域用探索閾値より小さい場合は、算出された前記小領域類似度に基づき得られた範囲の探索を省略して、次の類似小領域の探索を行うことを特徴とする。
【0016】
請求項8に記載の発明は、前記類似小領域探索手段は、小領域参照信号スペクトラムと蓄積信号スペクトラムのある時点の小領域スペクトラムの照合の際において前記小領域用探索閾値より大きくなる可能性の無くなった場合は該時点での照合を打ち切り、蓄積信号スペクトラムの次の時点での照合を行うことを特徴とする。
【0017】
請求項9に記載の発明は、前記類似小領域探索手段は、小領域スペクトラムのヒストグラム特徴を用いた照合を用い、前記蓄積信号スペクトラムから、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする。
【0018】
請求項10に記載の発明は、前記類似小領域探索手段は、小領域スペクトラムのヒストグラム特徴を用い、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを、複数の小領域参照信号スペクトラムについてまとめて探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする。
【0019】
請求項11に記載の発明は、参照信号と呼ぶ特定の音響信号と類似する音を含む区間を蓄積信号と呼ぶ参照信号より長い音響信号中から検出する特定音響信号検出プログラムであって、参照信号スペクトラムと呼ぶ前記参照信号の時間周波数スペクトラムを小領域参照信号スペクトラムと呼ぶ時間軸方向と周波数軸方向の双方の軸で小領域のスペクトラムに分割するスペクトラム分割処理と、前記小領域参照信号スペクトラムの分割周波数ごとに、各分割周波数に含まれる小領域参照信号スペクトラムと、蓄積信号スペクトラムと呼ぶ前記蓄積信号のスペクトラム内の該分割周波数に含まれる蓄積信号スペクトラムとから小領域類似度を算出し、該算出した小領域類似度が与えられた小領域用探索閾値未満のときに次の探索位置の決定を行う処理をそれぞれ周波数に対して行う類似小領域探索処理と、前記類似小領域探索処理で探索された前記蓄積信号スペクトラム中の小領域参照信号スペクトラムに類似した小領域の小領域類似度のうち、参照信号中の同一時点の複数の異なる周波数の小領域参照信号スペクトラムについて、各周波数で算出された小領域類似度の最大値を抽出し、該抽出した最大値を同一区間内で積算することにより小領域を含む蓄積信号の区間と参照信号との類似度を計算する区間類似度計算処理からなり、前記区間類似度計算処理より計算された区間類似度により、蓄積信号中の参照信号と類似する音を含む区間を検出する処理をコンピュータに行わせることを特徴とする。
【0020】
請求項12に記載の発明は、前記類似小領域探索処理は、前記小領域類似度が前記小領域用探索閾値より大きい場合は類似小領域の探索を続行し、前記小領域類似度が前記小領域用探索閾値より小さい場合は、算出された前記小領域類似度に基づき得られた範囲の探索を省略して、次の類似小領域の探索を行うことを特徴とする。
【0021】
請求項13に記載の発明は、前記類似小領域探索処理は、小領域参照信号スペクトラムと蓄積信号スペクトラムのある時点の小領域スペクトラムの照合の際において前記小領域用探索閾値より大きくなる可能性の無くなった場合は該時点での照合を打ち切り、蓄積信号スペクトラムの次の時点での照合を行うことを特徴とする。
【0022】
請求項14に記載の発明は、前記類似小領域探索処理は、小領域スペクトラムのヒストグラム特徴を用いた照合を用い、前記蓄積信号スペクトラムから、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする。
【0023】
請求項15に記載の発明は、前記類似小領域探索処理は、小領域スペクトラムのヒストグラム特徴を用い、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを、複数の小領域参照信号スペクトラムについてまとめて探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする。
【0024】
請求項16に記載の発明は、請求項11ないし15のいずれかに記載の特定音響信号検出プログラムを記録したことを特徴とする。
【0025】
【発明の実施の形態】
以下、本発明の一実施形態による特定音響信号検出装置を図面を参照して説明する。
<第1の実施形態>
図1は同実施形態の構成を示すブロック図である。この図において、符号1は、特定音響信号含有区間を検出する特定音響信号検出装置であり、CPUやメモリを有する一般的な計算機上に実現される。
自己最適化スペクトル相関法では小領域類似度と区間類似度を時点(τ)とスケーリングパラメータ(α)について求めていたが、小領域スペクトラムをスケールについて正規化した特徴ベクトルの系列とし、この特徴ベクトルを符号化した符号系列間の類似度を小領域類似度とすることで、区間類似度を時点によってのみ定まる類似度とすることも考えられる。この場合、例えば、Fti , ωmについて、tiの時点の特徴ベクトルfυ(ti,ωm)を、
【数6】
【数7】
とする。ここでωm , jはωm−Δωmからωm+Δωの間のいくつかの周波数であり、aυgti , ωmはf(ti,ωm , j)(1≦j≦dim)の平均値である。
【0026】
そして、fυ(ti,ωm)をベクトル量子化によりυf(ti,ωm)で表すスカラー量に符号化する。その結果、Fti , ωmから{υf(ti−Δt,ωm),υf(ti−Δt+1,ωm),...,υf(ti,ωm),...,υf(ti+Δt,ωm)}という符号系列を得る。同様にして、Gτ+ti , ωmから符号系列{υg(τ+ti−Δt,ωm),υg(τ+ti−Δt+1,ωm),...,υg(τ+ti,ωm),...,υg(τ+ti+Δt,ωm)}を得る。そして、小領域類似度sp(τ,ti,ωm)を
【数8】
とする。ここで、Γ(ti)はti−Δt≦t≦ti+Δtである時点tの集合である。式(8)で得られる小領域類似度を符号列小領域類似度と呼ぶ。そして、この符号列小領域類似度を用いて、区間類似度S(τ)を
【数9】
とすることも可能である。また、区間類似度S(τ)は
【数10】
とすることも考えられる。これらの符号列小領域類似度を用いた区間類似度を符号列区間類似度と呼ぶ。
【0027】
また、Fti , ωm、Gτ+ti , ωmの符号系列について、その符号の種類ごとに符号系列での出現回数を数え上げたヒストグラムであるHf(ti,ωm)とHg(τ+ti,ωm)を用いて小領域類似度を定義することもできる。この場合、
【数11】
とすることが考えられる。ここで、hf(ti,ωm,l),hg(τ+ti,ωm,l)は、各々、Hf(ti,ωm)とHg(τ+ti,ωm)のl番目のビンに含まれる度数であり、Lはヒストグラムのビンの数である。式(11)で得られる小領域類似度をヒストグラム小領域類似度と呼ぶ。そして、このヒストグラム小領域類似度を用いて、区間類似度S(τ)を
【数12】
とすることも可能である。また、区間類似度S(τ)は
【数13】
とすることも考えられる。ヒストグラム小領域類似度を用いたこれらの区間類似度をヒストグラム区間類似度と呼ぶ。
区間類似度に符号列区間類似度、ヒストグラム区間類似度を用いた場合でも、自己最適化スペクトル相関法と同様に、区間類似度の値に基づき特定音響信号含有区間検出を行うことができる。本実施形態では小領域類似度と区間類似度として、ヒストグラム小領域類似度と式(13)のヒストグラム区間類似度を用いる。
【0028】
次に、図2を参照して、図1に示す装置の動作を説明する。図2は、図1に示す装置の動作を示すフローチャートである。
まず、スペクトラム分割装置101はファイルから参照信号スペクトラムを読み込み、これを小領域参照信号スペクトラムに分割する(ステップS101)。次に、分割された小領域参照信号スペクトラムは類似小領域探索装置102に供給される。これを受けて類似小領域探索装置102は、スペクトラム分割装置101から供給された小領域参照信号スペクトラムとファイルから読み込んだ蓄積信号スペクトラムを用い、各小領域参照信号スペクトラムFti , ωmについてヒストグラム小領域類似度Sp(τ,ti,ωm)が小領域用探索閾値より大きい全てのτとそのときのSp(τ,ti,ωm)を求める(ステップS102)。このとき、図3に示すようにして、各Fti , ωmについて、Sp(τ,ti,ωm)が小領域用探索閾値以上の全てのτを、全てのτについてsp(τ,ti,ωm)を求めること無く計算することができる。ここで、図3に示すu(x)は、
【数14】
であり、[a]はaを超えない最大整数である。この探索は非特許文献1にある手法の応用である。
【0029】
そして、類似小領域探索装置102は小領域用探索閾値より大きい全てのsp(τ,ti,ωm)を区間類似度計算装置103に出力する。区間類似度計算103では、類似小領域探索装置102から供給されたsp(τ,ti,ωm)を用い式(13)に従い、各τについてヒストグラム区間類似度を求める(ステップS103)。なお、式(13)において、類似小領域探索装置102から供給されない、すなわち、小領域用探索閾値以下のsp(τ,ti,ωm)は0とする。そして、区間類似度計算装置103は各τにおけるヒストグラム区間類似度を検出判定装置104に供給する。検出判定装置104においては供給された各τにおけるヒストグラム区間類似度において、ヒストグラム区間類似度が検出閾値以上の時点τを検出位置として出力する(ステップS104)。
【0030】
次に、第1の実施形態についてその実験結果を説明する。従来技術である全てのtiとτについてsp(τ,ti,ωm)を計算する装置と、第1の実施形態の装置をそれぞれパソコン上に実装して、その検出速度を計測、比較した。本実験では|ΩR|は4とすることとし、525Hzから2000Hzの帯域に対数軸上で等間隔に配置された28のバンドパスフィルタの0.5ミリ秒毎の出力をスペクトラムとした。そして、各出力の低周波から7つずつを順に選び7次元の特徴ベクトルを各時点で4つ抽出した。また、Δtは25ミリ秒とし、TRの要素は参照信号の先頭から等間隔(0.6秒おき)にとった各時点とした。この実験では、約30分の音響信号(蓄積信号)から、約15秒の音楽の断片(参照信号)15個を検出し、その検出にかかった時間(検出時間)の平均を計測した。平均の検出時間は、第1の実施形態の装置では8.31秒、従来の装置では207.29秒であり、約25倍高速な検出を行うことが可能であった。なお、このとき、蓄積信号は音楽信号と音声信号を電力比(10log10(音楽信号の平均電力/音声信号の平均電力))(dB)が平均−5dBになるように混合したものであったが、この検出実験においては検出洩れおよび誤検出は無かった。
【0031】
<第2の実施形態>
次に第2の実施形態を説明する。本実施形態は第1の実施形態において、類似小領域探索装置102とそこで処理されるステップS102を変更したものであり、図4に示すように、各Fti , ωmについて、sp(τ,ti,ωm)が小領域用探索閾値以上の全てのτを、あるωmにおいて複数のtiをまとめてスキップを行いながら全てのτについてsp(τ,ti,ωm)を求めること無く計算する。これは、非特許文献3にある手法の応用である。以下、その処理を詳細に述べる。
まず、前処理として、まとめて選択した複数のFti , ωm(ここで、i=1,2,...,|TR|)について、これらの小領域ペアの間でのヒストグラム小領域類似度を求める。なお、このとき|Γ(ti)|は一定である。Fti , ωmとFtj , ωmのヒストグラム小領域類似度sh(Fti , ωm,Ftj , ωm)は式(11)と同様にして求められ、
【数1】
である。なお、hf(ti,ωm,l)はFti , ωmのヒストグラムH(ti,ωm)のl番目のビンの度数である。そして、いま照合位置が蓄積信号スペクトラムのτs上にあったとする。すると、s'p(τs,tj,ωm)≦1−|s'p(τs,ti,ωm)−sh(Fti , ωm,Ftj , ωm)|であり、s'p(τs,ti,ωm)の計算結果から照合位置を
【数2】
のスキップ幅でずらしても、そのスキップされた間の時点τsでs'p(τs,tj,ωm)>小領域用探索閾値となることはない。
【0032】
そこで各ωmにおいて、上記に基づき、以下に述べる(1)から(6)のようにして、S'p(τs,ti,ωm)が小領域用探索閾値より大きいτsとtiを、照合位置をスキップさせながら求め、すなわち、小領域用探索閾値より大きいsp(τ,ti,ωm)(ただしτ=τs−ti)を求める。なお、式(16)でのスキップ幅が0以下のとき、または、この照合位置でのFtj , ωmのヒストグラム小領域類似度が小領域用探索閾値より大きい時、スキップ幅は1とする。
(1)前処理として、対象とする選択した小領域参照信号スペクトラムFti , ωm(i=1,2,...,|TR|)について、相互にヒストグラム小領域類似度を全て求める。
(2)現在の照合位置を蓄積信号スペクトラムの最初に位置づける。
(3)スキップ幅が最小の小領域参照信号スペクトラムを一つ選択し、照合位置をそのスキップ幅だけずらす。
(4)選択した小領域参照信号スペクトラムについて、照合位置でのヒストグラム小領域類似度を計算する。
(5)得られたヒストグラム小領域類似度をもとに、全ての小領域参照信号スペクトラムについてスキップ幅を更新する。
(6)(3)に戻る。
【0033】
次に、第2の実施形態についてその実験結果を説明する。従来技術である全てのtiとτについてsp(τ,ti,ωm)を計算する装置と、第2の実施形態の装置をそれぞれパソコン上に実装して、その検出速度を計測、比較した。本実験では|ΩR|は4とすることとし、525Hzから2000Hzの帯域に対数軸上で等間隔に配置された28のバンドパスフィルタの0.5ミリ秒毎の出力をスペクトラムとした。そして、各出力の低周波から7つずつを順に選び7次元の特徴べクトルを各時点で4つ抽出した。また、Δtは25ミリ秒とし、TRの要素は参照信号の先頭から等間隔(0.6秒おき)にとった各時点とした。この実験では、約30分の音響信号(蓄積信号)から、約15秒の音楽の断片(参照信号)15個を検出し、その検出にかかった時間(検出時間)の平均を計測した。平均の検出時間は、第2の実施形態の装置では8.54秒、従来の装置では207.29秒であり、約24倍高速な検出を行うことが可能であった。なお、このとき、蓄積信号は音楽信号と音声信号を電力比(10log10(音楽信号の平均電力/音声信号の平均電力))(dB)が平均−5dBになるように混合したものであったが、この検出実験においては検出洩れおよび誤検出は無かった。
【0034】
<第3の実施形態>
次に第2の実施形態を説明する。本実施形態は第1の実施例の類似小領域探索装置102とそこで処理されるステップS102、区間類似度計算装置103とそこで処理されるステップS103および検出判定装置104とそこで処理されるステップS104を変更したものである。本実施形態では小領域類似度と区間類似度に符号列小領域類似度と符号列区間類似度を用いる。
類似小領域探索装置102において処理されるステップS102においては、スペクトラム分割装置101から供給された小領域参照信号スペクトラムとファイルから読み込んだ蓄積信号スペクトラムを用い、各小領域参照信号スペクトラムFti , ωmについて符号列小領域類似度sp(τ,ti,ωm)が小領域用探索閾値より大きい全てのτとそのときのsp(τ,ti,ωm)を求める(ステップS102)。このとき、各Fti , ωmについて、sp(τ,ti,ωm)を式(8)に従い、Σt∈Γ(ti)δ(υf(t,ωm)−υg(τ+t,ωm))の積算をtを変化させながらδ(υf(t,ωm)−υg(τ+t,ωm))を順次積算していくことで行うが、この積算値xがx+(|Γ(ti)|−(これまでの積算回数))≦|Γ(ti)|×(小領域用探索閾値)となった時点で積算を打ち切る。このようにして、sp(τ,ti,ωm)が小領域用探索閾値より大きい全てのτを、全てのτについてsp(τ,ti,ωm)を求めること無く計算する。
【0035】
そして、類似小領域探索装置102は小領域用探索閾値より入きいsp(τ,ti,ωm)を区間類似度計算装置103に出力する。区間類似度計算103は、類似小領域探索装置102から供給されたsp(τ,ti,ωm)を用い式(10)に従い、各τについて符号列区間類似度を求める(ステップS103)。なお、式(10)において、類似小領域探索装置102から供給されない、すなわち、小領域用探索閾値以下のsp(τ,ti,ωm)は0とする。そして、区間類似度計算装置103は各τにおける符号列区間類似度を検出判定装置104に供給する。検出判定装置104においては供給された各τにおける符号列区間類似度において、符号列区間類似度が検出閾値以上の時点τを検出位置として出力する。
【0036】
次に、第3の実施形態についてその実験結果を説明する。従来技術である全てのtiとτについてsp(τ,ti,ωm)を計算する装置と、第3の実施形態の装置をそれぞれパソコン上に実装して、その検出速度を計測、比較した。本実験では|ΩR|は4とすることとし、525Hzから2000Hzの帯域に対数軸上で等間隔に配置された28のバンドパスフィルタの0.5ミリ秒毎の出力をスペクトラムとした。そして、各出力の低周波から7つずつを順に選び7次元の特徴ベクトルを各時点で4つ抽出した。また、Δtは25ミリ秒とし、TRの要素は参照信号の先頭から等間隔(0.6秒おき)にとった各時点とした。この実験では、約30分の音響信号(蓄積信号)から、約15秒の音楽の断片(参照信号)15個を検出し、その検出にかかった時間(検出時間)の平均を計測した。平均の検出時間は、第3の実施形態の装置では91.02秒、従来の装置では114.63秒であり、約13倍高速な検出を行うことが可能であった。なお、このとき、蓄積信号は音楽信号と音声信号を電力比(10log10(音楽信号の平均電力/音声信号の平均電力))(dB)が平均−5dBになるように混合したものであったが、この検出実験においては検出洩れおよび誤検出は無かった。
【0037】
なお、図2に示す各処理の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより信号検出処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
【0038】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【0039】
【発明の効果】
以上説明したように、この発明によれば、照合回数を減らすともに照合を効率的に行うようにしたため、高速な特定音響信号含有区間検出処理を行うことができるという効果が得られる。
【図面の簡単な説明】
【図1】 本発明の一実施形態の構成を示すブロック図である。
【図2】 図1に示す特定音響信号検出装置1の動作を示すフローチャートである。
【図3】 小領域スペクトラムの照合動作を示す説明図である。
【図4】 小領域スペクトラムの照合動作を示す説明図である。
【図5】 特定音響信号検出の動作を示す説明図である。
【図6】 自己最適化スペクトル相関法におけるスペクトラムの分割と照合の動作を示す説明図である。
【符号の説明】
1・・・特定音響信号検出装置
101・・・スペクトラム分割装置
102・・・類似小領域探索装置
103・・・区間類似度計算装置
104・・・検出判定装置
Claims (16)
- 参照信号と呼ぶ特定の音響信号と類似する音を含む区間を蓄積信号と呼ぶ参照信号より長い音響信号中から検出する特定音響信号検出方法であって、
参照信号スペクトラムと呼ぶ前記参照信号の時間周波数スペクトラムを小領域参照信号スペクトラムと呼ぶ時間軸方向と周波数軸方向の双方の軸で小領域のスペクトラムに分割するスペクトラム分割過程と、
前記小領域参照信号スペクトラムの分割周波数ごとに、各分割周波数に含まれる小領域参照信号スペクトラムと、蓄積信号スペクトラムと呼ぶ前記蓄積信号のスペクトラム内の該分割周波数に含まれる蓄積信号スペクトラムとから小領域類似度を算出し、該算出した小領域類似度が与えられた小領域用探索閾値未満のときに次の探索位置の決定を行う処理をそれぞれ周波数に対して行う類似小領域探索過程と、
前記類似小領域探索過程で探索された前記蓄積信号スペクトラム中の小領域参照信号スペクトラムに類似した小領域の小領域類似度のうち、参照信号中の同一時点の複数の異なる周波数の小領域参照信号スペクトラムについて、各周波数で算出された小領域類似度の最大値を抽出し、該抽出した最大値を同一区間内で積算することにより小領域を含む蓄積信号の区間と参照信号との類似度を計算する区間類似度計算過程を有し、
前記区間類似度計算過程より計算された区間類似度により、蓄積信号中の参照信号と類似する音を含む区間を検出することを特徴とする特定音響信号検出方法。 - 前記類似小領域探索過程は、
前記小領域類似度が前記小領域用探索閾値より大きい場合は類似小領域の探索を続行し、前記小領域類似度が前記小領域用探索閾値より小さい場合は、算出された前記小領域類似度に基づき得られた範囲の探索を省略して、次の類似小領域の探索を行うことを特徴とする請求項1に記載の特定音響信号検出方法。 - 前記類似小領域探索過程は、
小領域参照信号スペクトラムと蓄積信号スペクトラムのある時点の小領域スペクトラムの照合の際において前記小領域用探索閾値より大きくなる可能性の無くなった場合は該時点での照合を打ち切り、蓄積信号スペクトラムの次の時点での照合を行うことを特徴とする請求項1に記載の特定音響信号検出方法。 - 前記類似小領域探索過程は、
小領域スペクトラムのヒストグラム特徴を用いた照合を用い、前記蓄積信号スペクトラムから、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする請求項1ないし3のいずれかに記載の特定音響信号検出方法。 - 前記類似小領域探索過程は、
小領域スペクトラムのヒストグラム特徴を用い、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを、複数の小領域参照信号スペクトラムについてまとめて探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする請求項4に記載の特定音響信号検出方法。 - 参照信号と呼ぶ特定の音響信号と類似する音を含む区間を蓄積信号と呼ぶ参照信号より長い音響信号中から検出する特定音響信号検出装置であって、
参照信号スペクトラムと呼ぶ前記参照信号の時間周波数スペクトラムを小領域参照信号スペクトラムと呼ぶ時間軸方向と周波数軸方向の双方の軸で小領域のスペクトラムに分割するスペクトラム分割手段と、
前記小領域参照信号スペクトラムの分割周波数ごとに、各分割周波数に含まれる小領域参照信号スペクトラムと、蓄積信号スペクトラムと呼ぶ前記蓄積信号のスペクトラム内の該分割周波数に含まれる蓄積信号スペクトラムとから小領域類似度を算出し、該算出した小領域類似度が与えられた小領域用探索閾値未満のときに次の探索位置の決定を行う処理をそれぞれ周波数に対して行う類似小領域探索手段と、
前記類似小領域探索手段で探索された前記蓄積信号スペクトラム中の小領域参照信号スペクトラムに類似した小領域の小領域類似度のうち、参照信号中の同一時点の複数の異な る周波数の小領域参照信号スペクトラムについて、各周波数で算出された小領域類似度の最大値を抽出し、該抽出した最大値を同一区間内で積算することにより小領域を含む蓄積信号の区間と参照信号との類似度を計算する区間類似度計算手段を備え、
前記区間類似度計算手段より計算された区間類似度により、蓄積信号中の参照信号と類似する音を含む区間を検出することを特徴とする特定音響信号検出装置。 - 前記類似小領域探索手段は、
前記小領域類似度が前記小領域用探索閾値より大きい場合は類似小領域の探索を続行し、前記小領域類似度が前記小領域用探索閾値より小さい場合は、算出された前記小領域類似度に基づき得られた範囲の探索を省略して、次の類似小領域の探索を行うことを特徴とする請求項6に記載の特定音響信号検出装置。 - 前記類似小領域探索手段は、
小領域参照信号スペクトラムと蓄積信号スペクトラムのある時点の小領域スペクトラムの照合の際において前記小領域用探索閾値より大きくなる可能性の無くなった場合は該時点での照合を打ち切り、蓄積信号スペクトラムの次の時点での照合を行うことを特徴とする請求項6に記載の特定音響信号検出装置。 - 前記類似小領域探索手段は、
小領域スペクトラムのヒストグラム特徴を用いた照合を用い、前記蓄積信号スペクトラムから、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする請求項6ないし8のいずれかに記載の特定音響信号検出装置。 - 前記類似小領域探索手段は、
小領域スペクトラムのヒストグラム特徴を用い、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを、複数の小領域参照信号スペクトラムについてまとめて探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする請求項9に記載の特定音響信号検出装置。 - 参照信号と呼ぶ特定の音響信号と類似する音を含む区間を蓄積信号と呼ぶ参照信号より長い音響信号中から検出する特定音響信号検出プログラムであって、
参照信号スペクトラムと呼ぶ前記参照信号の時間周波数スペクトラムを小領域参照信号スペクトラムと呼ぶ時間軸方向と周波数軸方向の双方の軸で小領域のスペクトラムに分割するスペクトラム分割処理と、
前記小領域参照信号スペクトラムの分割周波数ごとに、各分割周波数に含まれる小領域参照信号スペクトラムと、蓄積信号スペクトラムと呼ぶ前記蓄積信号のスペクトラム内の該分割周波数に含まれる蓄積信号スペクトラムとから小領域類似度を算出し、該算出した小領域類似度が与えられた小領域用探索閾値未満のときに次の探索位置の決定を行う処理をそれぞれ周波数に対して行う類似小領域探索処理と、
前記類似小領域探索処理で探索された前記蓄積信号スペクトラム中の小領域参照信号スペクトラムに類似した小領域の小領域類似度のうち、参照信号中の同一時点の複数の異なる周波数の小領域参照信号スペクトラムについて、各周波数で算出された小領域類似度の最大値を抽出し、該抽出した最大値を同一区間内で積算することにより小領域を含む蓄積信号の区間と参照信号との類似度を計算する区間類似度計算処理からなり、
前記区間類似度計算処理より計算された区間類似度により、蓄積信号中の参照信号と類似する音を含む区間を検出する処理をコンピュータに行わせることを特徴とする特定音響信号検出プログラム。 - 前記類似小領域探索処理は、
前記小領域類似度が前記小領域用探索閾値より大きい場合は類似小領域の探索を続行し、前記小領域類似度が前記小領域用探索閾値より小さい場合は、算出された前記小領域類似度に基づき得られた範囲の探索を省略して、次の類似小領域の探索を行うことを特徴とする請求項11に記載の特定音響信号検出プログラム。 - 前記類似小領域探索処理は、
小領域参照信号スペクトラムと蓄積信号スペクトラムのある時点の小領域スペクトラムの照合の際において前記小領域用探索閾値より大きくなる可能性の無くなった場合は該時点での照合を打ち切り、蓄積信号スペクトラムの次の時点での照合を行うことを特徴とする請求項11に記載の特定音響信号検出プログラム。 - 前記類似小領域探索処理は、
小領域スペクトラムのヒストグラム特徴を用いた照合を用い、前記蓄積信号スペクトラムから、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする請求項11ないし13のいずれかに記載の特定音響信号検出プログラム。 - 前記類似小領域探索処理は、
小領域スペクトラムのヒストグラム特徴を用い、前記各小領域参照信号スペクトラムの小領域類似度が、与えられた小領域用探索閾値より大きい小領域のみを、複数の小領域参照信号スペクトラムについてまとめて探索し、探索で得られた小領域のみ小領域類似度を計算することを特徴とする請求項14に記載の特定音響信号検出プログラム。 - 請求項11ないし15のいずれかに記載の特定音響信号検出プログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002265427A JP4047109B2 (ja) | 2002-09-11 | 2002-09-11 | 特定音響信号検出方法、信号検出装置、信号検出プログラム及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002265427A JP4047109B2 (ja) | 2002-09-11 | 2002-09-11 | 特定音響信号検出方法、信号検出装置、信号検出プログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004102023A JP2004102023A (ja) | 2004-04-02 |
JP4047109B2 true JP4047109B2 (ja) | 2008-02-13 |
Family
ID=32264573
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002265427A Expired - Lifetime JP4047109B2 (ja) | 2002-09-11 | 2002-09-11 | 特定音響信号検出方法、信号検出装置、信号検出プログラム及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4047109B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7860714B2 (en) | 2004-07-01 | 2010-12-28 | Nippon Telegraph And Telephone Corporation | Detection system for segment including specific sound signal, method and program for the same |
DE602005026661D1 (de) | 2004-07-09 | 2011-04-14 | Nippon Telegraph & Telephone | Ur detektion eines bildsignals |
US20090132074A1 (en) * | 2005-12-08 | 2009-05-21 | Nec Corporation | Automatic segment extraction system for extracting segment in music piece, automatic segment extraction method, and automatic segment extraction program |
JP5082257B2 (ja) * | 2006-02-27 | 2012-11-28 | 大日本印刷株式会社 | 音響信号検索装置 |
JP5022025B2 (ja) * | 2006-12-27 | 2012-09-12 | インターナショナル・ビジネス・マシーンズ・コーポレーション | コンテンツのデータ・ストリームとメタデータを同期するための方法および装置。 |
KR101002778B1 (ko) * | 2008-04-02 | 2010-12-21 | 인천대학교 산학협력단 | 신호 인식 방법 |
KR101201971B1 (ko) | 2010-04-29 | 2012-11-20 | 인천대학교 산학협력단 | 사운드 분석 장치 및 방법 |
JP5851455B2 (ja) * | 2013-08-06 | 2016-02-03 | 日本電信電話株式会社 | 共通信号含有区間有無判定装置、方法、及びプログラム |
-
2002
- 2002-09-11 JP JP2002265427A patent/JP4047109B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2004102023A (ja) | 2004-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9589283B2 (en) | Device, method, and medium for generating audio fingerprint and retrieving audio data | |
EP2659480B1 (en) | Repetition detection in media data | |
Cano et al. | A review of algorithms for audio fingerprinting | |
US7612275B2 (en) | Method, apparatus and computer program product for providing rhythm information from an audio signal | |
EP2791935B1 (en) | Low complexity repetition detection in media data | |
EP1763018B1 (en) | System for detection section including particular acoustic signal, method and program thereof | |
US7659471B2 (en) | System and method for music data repetition functionality | |
US20050177372A1 (en) | Robust and invariant audio pattern matching | |
CN102479509A (zh) | 旋律辨识方法与其装置 | |
US11556587B2 (en) | Audio matching | |
JP2000101439A (ja) | 情報処理装置および方法、情報記録装置および方法、記録媒体、並びに提供媒体 | |
WO2005022318A2 (en) | A method and system for generating acoustic fingerprints | |
JP4047109B2 (ja) | 特定音響信号検出方法、信号検出装置、信号検出プログラム及び記録媒体 | |
US7054388B2 (en) | Signal detection method and apparatus, relevant program, and storage medium storing the program | |
CN112802453B (zh) | 快速自适应预测拟合语音方法、系统、终端及存储介质 | |
US9215350B2 (en) | Sound processing method, sound processing system, video processing method, video processing system, sound processing device, and method and program for controlling same | |
JP3408800B2 (ja) | 信号検出方法、装置及びそのプログラム、記録媒体 | |
Nagano et al. | A fast audio search method based on skipping irrelevant signals by similarity upper-bound calculation | |
JP3574075B2 (ja) | 信号検出方法、信号検出装置、記録媒体及びプログラム | |
Medina et al. | Audio fingerprint parameterization for multimedia advertising identification | |
JP7276469B2 (ja) | 波源方向推定装置、波源方向推定方法、およびプログラム | |
JP4762871B2 (ja) | 信号箇所・変動パラメータ検出方法、信号箇所・変動パラメータ検出装置ならびにそのプログラムと記録媒体 | |
JP5230567B2 (ja) | 信号検出装置、信号検出方法、信号検出プログラム及び記録媒体 | |
US20050254374A1 (en) | Method for performing fast-forward function in audio stream | |
KR101608849B1 (ko) | 방송 콘텐츠의 음원 검색을 위한 오디오 신호 처리 시스템 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20040130 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040901 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20061023 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061031 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071113 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071121 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101130 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4047109 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101130 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111130 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111130 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121130 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121130 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131130 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |