JP2003022084A - 信号検出方法及び装置、プログラムならびに記録媒体 - Google Patents

信号検出方法及び装置、プログラムならびに記録媒体

Info

Publication number
JP2003022084A
JP2003022084A JP2001209813A JP2001209813A JP2003022084A JP 2003022084 A JP2003022084 A JP 2003022084A JP 2001209813 A JP2001209813 A JP 2001209813A JP 2001209813 A JP2001209813 A JP 2001209813A JP 2003022084 A JP2003022084 A JP 2003022084A
Authority
JP
Japan
Prior art keywords
feature
signal
input
normalization
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001209813A
Other languages
English (en)
Other versions
JP3746690B2 (ja
Inventor
Takayuki Kurozumi
隆行 黒住
Kunio Kayano
邦夫 柏野
Hiroshi Murase
洋 村瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2001209813A priority Critical patent/JP3746690B2/ja
Publication of JP2003022084A publication Critical patent/JP2003022084A/ja
Application granted granted Critical
Publication of JP3746690B2 publication Critical patent/JP3746690B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

(57)【要約】 (修正有) 【課題】 入力信号内において参照信号と類似の部分を
検出する信号検出方法において、汎用的で特徴ひずみに
頑健な信号検出方法を提供する。 【解決手段】 参照特徴計算手段1は、参照信号を基に
参照特徴を計算する。入力特徴計算手段2は、入力信号
を基に入力特徴を計算する。参照特徴正規化手段3は、
計算された参照特徴を基に、周辺の参照特徴の統計量を
用いて正規化対象の参照特徴を正規化し、参照正規化特
徴を求める。入力特徴正規化手段4は、計算された入力
特徴を基に、周辺の入力特徴の統計量を用いて正規化対
象の入力特徴を正規化し、入力正規化特徴を求める。特
徴照合手段は、入力正規化特徴中の区間ごとに、その区
間における入力正規化特徴と参照正規化特徴との類似度
を求める。そして、求められたこの類似度を基に、入力
信号内において参照信号に類似している区間が検出され
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】入力信号内において参照信号
と類似した部分を検出する信号検出方法およびその装置
に関する。特に、例えば映像信号や音響信号などといっ
た入力時系列信号の中から、入力時系列信号よりも短い
参照時系列信号と類似した部分を検出する信号検出方法
およびその装置に関する。
【0002】
【従来の技術】従来、信号検出方法に関しては、特許第
3065314号「高速信号検出法、装置およびその記
録媒体」のように、あらかじめ登録した音響信号と類似
した音響信号の場所を探し出す音響信号検出方法が知ら
れている。しかし、この方法では、参照時系列信号、ま
たは入力時系列信号のノイズによる特徴ひずみが少ない
ことが想定されており、特徴ひずみが激しい場合、探索
精度が低下する可能性があるという欠点があった。
【0003】また、本願発明者らは、変動付加過程を設
けることによって特徴ひずみに対して頑健な信号検出を
行う方法を発明し、既に特許出願を行っている。また、
注目領域全体のパワーを用いて正規化することで、特徴
ひずみに対して頑健な信号検出を行う方法もある。
【0004】
【発明が解決しようとする課題】上述した変動付加過程
を設ける方法においては、複数の特徴ひずみを考慮する
場合、複数の参照特徴を用意しなければならないという
欠点があった。また、上述した注目領域全体のパワーを
用いて正規化する方法においては、周波数特性が変化し
た場合、探索精度が低下するという欠点があった。
【0005】本発明は、以上のような事情を考慮してな
されたものであり、従来の方法よりも特徴ひずみに頑健
な信号検出の処理手段を提供するとともに、従来の方法
よりも汎用的で特徴ひずみに頑健な信号検出の処理手段
を提供することを目的としている。
【0006】
【課題を解決するための手段】上記の課題を解決するた
めに、本発明は、入力時系列信号から、該入力時系列信
号よりも短い参照時系列信号に類似した部分を探し出す
信号検出方法であって、前記参照時系列信号から、特徴
ベクトルからなる参照特徴を導く参照特徴計算過程と、
前記入力時系列信号から、特徴ベクトルからなる入力特
徴を導く入力特徴計算過程と、前記参照特徴を正規化す
る処理により参照正規化特徴を導く参照特徴正規化過程
と、前記入力特徴を正規化する処理により入力正規化特
徴を導く入力特徴正規化過程と、前記入力正規化特徴中
に照合区間を設定し、前記参照正規化特徴と、前記入力
正規化特徴中の該照合区間のそれぞれから類似度を計算
する特徴照合過程とを含み、前記入力正規化特徴中の照
合区間を変えながら前記特徴照合過程の処理を行い、各
々の照合区間において計算された前記類似度から参照正
規化特徴と類似する入力正規化特徴の箇所を検出するこ
とを特徴とする信号検出方法を要旨とする。
【0007】また、本発明の信号検出方法は、前記参照
特徴正規化過程においては、記憶装置から前記参照特徴
の特徴ベクトルを読み出すとともに、その周辺の参照特
徴から導かれる特徴量を用いて、ベクトルの要素ごとに
独立に正規化した参照正規化特徴を導いて、この参照正
規化特徴の特徴ベクトルを記憶装置に書き込むものであ
り、前記入力特徴正規化過程においては、記憶装置から
前記参照特徴の特徴ベクトルを読み出すとともに、その
周辺の入力特徴から導かれる特徴量を用いて、ベクトル
の要素ごとに独立に正規化した入力正規化特徴を導い
て、この入力正規化特徴の特徴ベクトルを記憶装置に書
き込むものであり、前記特徴照合過程においては、前記
参照特徴正規化過程において前記記憶装置に書き込まれ
た参照正規化特徴の特徴ベクトルを読み出すとともに、
前記入力特徴正規化過程において前記記憶装置に書き込
まれた入力正規化特徴の当該設定区間の特徴ベクトルを
読み出して、前記類似度を計算することを特徴とする。
【0008】また、本発明の信号検出方法は、前記参照
特徴正規化過程及び前記入力特徴正規化過程において
は、それぞれ正規化処理対象の特徴ベクトルと周辺の特
徴ベクトルからベクトルの要素毎に平均値と標準偏差を
求め、この正規化処理対象の特徴ベクトルの要素毎に前
記平均値を差し引き、前記標準偏差で割った値からなる
特徴ベクトルを正規化特徴とすることを特徴とするもの
である。
【0009】また、本発明の信号検出方法は、前記参照
特徴正規化過程において計算された参照正規化特徴及び
前記入力特徴正規化過程において計算された入力正規化
特徴の少なくともいずれか一方に対して所定の変換処理
を行う変換過程を有することを特徴とするものである。
【0010】また、本発明の信号検出方法では、前記変
換過程における前記変換処理として線形変換を行うこと
を特徴とする。
【0011】また、本発明の信号検出方法は、特徴ひず
みによる変動の少ない特徴への変換を前もって学習処理
によって求める学習過程を有しており、前記変換過程で
は、前記学習処理の結果得られる変換を用いて前記変換
処理を行うことを特徴とする。
【0012】また、本発明の信号検出方法は、前記学習
過程では、特徴ひずみのない原信号と、該原信号に特徴
ひずみが加えられた1つまたは複数のひずみ信号とを基
に、前記原信号と前記ひずみ信号の対応する区間の信号
を切り取って得られる信号対を複数作成し、前記原信号
と前記ひずみ信号から導かれる変換後の前記信号対の級
間分散を前記原信号のまわりの二次モーメントを全信号
対における和で割った値を評価関数としたときに該評価
関数が最大となる変換係数を求めることを特徴とするも
のである。
【0013】また、本発明の信号検出方法は、前記学習
過程では、特徴ひずみのない原信号と、該原信号に特徴
ひずみが加えられた1つまたは複数のひずみ信号とを基
に、前記原信号と前記ひずみ信号の対応する区間の信号
を切り取って得られる信号対を複数作成し、前記原信号
と前記ひずみ信号から導かれる変換後の前記信号対の級
間分散を評価関数としたときに該評価関数が最大となる
変換係数を求めることを特徴とするものである。
【0014】また、本発明の信号検出方法は、前記参照
時系列信号及び前記入力時系列信号に映像信号を用いる
ことを特徴とするものである。
【0015】また、本発明の信号検出方法は、前記参照
時系列信号及び前記入力時系列信号に音響信号を用いる
ことを特徴とするものである。
【0016】また、本発明のコンピュータ読み取り可能
な記録媒体は、上記の信号検出方法の各過程の処理をコ
ンピュータに実行させるコンピュータプログラムを記録
したものである。
【0017】また、本発明のコンピュータプログラム
は、上記の信号検出方法の各過程の処理をコンピュータ
に実行させるものである。
【0018】また、本発明の信号検出装置は、入力信号
から、該入力信号よりも短い参照信号に類似した部分を
検出するものであって、前記参照信号を読み取り、この
参照信号から参照特徴を抽出する参照特徴計算手段と、
前記参照特徴を基に正規化処理を行うことによって参照
正規化特徴を導く参照特徴正規化手段と、前記入力信号
を読み取り、この入力信号から入力特徴を抽出する入力
特徴計算手段と、前記入力特徴を基に正規化処理を行う
ことによって入力正規化特徴を導く入力特徴正規化手段
と、照合区間における前記入力正規化特徴と前記参照正
規化特徴との類似度を計算する特徴照合手段とを備え、
前記特徴照合手段によって計算される前記類似度を基
に、前記入力信号中で前記参照信号に類似する箇所を検
出することを特徴とするものである。
【0019】また、本発明の信号検出装置は、前記参照
特徴正規化手段によって導かれた参照正規化特徴に所定
の変換処理を行う参照特徴変換手段と、前記入力特徴正
規化手段によって導かれた入力正規化特徴に所定の変換
処理を行う入力特徴変換手段とを備え、前記特徴照合手
段は、前記参照特徴変換手段によって変換処理を行った
後の参照正規化特徴と、前記入力特徴変換手段によって
変換処理を行った後の入力正規化特徴とを用いて前記類
似度を計算することを特徴とするものである。
【0020】また、本発明の信号検出装置は、特徴ひず
みによる変動の少ない特徴への変換を前もって学習処理
によって求める学習手段を備えており、前記参照特徴変
換手段は、前記参照正規化特徴に対して前記学習手段に
よって求められた前記変換の処理を行い、前記入力特徴
変換手段は、前記入力正規化特徴に対して前記学習手段
によって求められた前記変換の処理を行うことを特徴と
するものである。
【0021】また、本発明の信号検出装置においては、
前記学習手段は、特徴ひずみのない原信号と、該原信号
に特徴ひずみが加えられた1つまたは複数のひずみ信号
とを基に、前記原信号と前記ひずみ信号の対応する区間
の信号を切り取って得られる信号対を複数作成し、前記
原信号と前記ひずみ信号から導かれる変換後の前記信号
対の級間分散を前記原信号のまわりの二次モーメントを
全信号対における和で割った値を評価関数としたときに
該評価関数が最大となる変換係数を求めることを特徴と
する。
【0022】また、本発明の信号検出装置においては、
前記学習手段は、特徴ひずみのない原信号と、該原信号
に特徴ひずみが加えられた1つまたは複数のひずみ信号
とを基に、前記原信号と前記ひずみ信号の対応する区間
の信号を切り取って得られる信号対を複数作成し、前記
原信号と前記ひずみ信号から導かれる変換後の前記信号
対の級間分散を評価関数としたときに該評価関数が最大
となる変換係数を求めることを特徴とする。
【0023】
【発明の実施の形態】以下、図面を参照しながら、本発
明の実施形態について説明する。
【0024】<第1の実施形態>図1は、本発明の第1
の実施形態であり、音響信号を対象とする特徴ひずみに
頑健な信号検出装置の構成を示すブロック図である。図
1に示す信号検出装置は、音響信号を対象とする特徴ひ
ずみに頑健な信号検出を実現するものであり、参照特徴
計算手段1と、入力特徴計算手段2と、参照特徴正規化
手段3と、入力特徴正規化手段4と、特徴照合手段5で
構成され、参照時系列信号すなわち検索したい音響信号
と、入力時系列信号すなわち検索される音響信号を入力
とし、参照時系列信号との類似した入力時系列信号中の
箇所を出力する。
【0025】参照特徴計算手段1は、参照時系列信号か
ら、特徴ベクトルからなる参照特徴を導くものである。
入力特徴計算手段2は、入力時系列信号から、特徴ベク
トルからなる入力特徴を導くものである。参照特徴正規
化手段3は、前記参照特徴から、周辺の参照特徴から導
いた統計量を用いて特徴ベクトルの各要素ごと独立に正
規化した参照正規化特徴を導くものである。入力特徴正
規化手段4は、前記入力特徴から、周辺の入力特徴から
導いた統計量を用いて特徴ベクトルの各要素ごと独立に
正規化した入力正規化特徴を導くものである。特徴照合
手段5は、前記入力正規化特徴中に照合区間を設定し、
前記参照正規化特徴と、前記入力正規化特徴中の該照合
区間のそれぞれから類似度を計算するものである。
【0026】次に、上述した参照特徴計算手段1〜特徴
照合手段5における処理内容を具体的に説明する。図2
は、図1に示した特徴ひずみに頑健な信号検出装置の動
作を示すフローチャートである。以下、このフローチャ
ートに沿って説明する。参照特徴計算手段1は、はじめ
に、与えられた参照時系列信号を読み込む(ステップS
1)。次に、読み込んだ参照時系列信号に対して特徴抽
出を行う(ステップS2)。
【0027】本実施形態では、特徴として音響信号のフ
ーリエ変換の振幅成分を用いる。例えば、実環境中で流
れるCDの音響信号から携帯端末で受音した5秒程度の
音響信号を探索したい場合、特徴抽出の具体的な設定を
次のようにすると、良い結果が得られる。すなわち、周
波数8000Hz(ヘルツ)で標本化した音響信号の1
秒の区間をフーリエ変換し、0〜4000Hzを等間隔
に20区間に分割し、各区間内での振幅成分の平均パワ
ーからなる20次元のベクトルを抽出する。また、前記
特徴ベクトルは0.1秒毎に抽出する。
【0028】本実施形態とは別に、特徴として映像信号
の縮小画像を用いることもできる。例えば、テレビの放
送信号から15秒程度の映像信号を探索したい場合、特
徴抽出の具体的な設定を次のようにすると、良い結果が
得られる。すなわち、1フレームの画像を横に4等分
割、縦に3等分割し、12個の領域を設け、各領域内で
RGB(赤、緑、青の三原色)それぞれについて画素値
を平均する。前記12個の領域のRGBそれぞれの平均
画素値からなる36次元ベクトルを特徴ベクトルとす
る。この場合、前記特徴ベクトルは1フレーム毎に得ら
れる。
【0029】入力特徴計算手段2は、はじめに、入力信
号を読み込む(ステップS3)。次に、読み込んだ入力
信号に対して特徴抽出を行う(ステップS4)。特徴抽
出は、前記参照特徴計算手段1において行ったものと同
様の操作を行う。
【0030】参照特徴正規化手段3では、はじめに、参
照特徴計算手段1により得られた参照特徴を読み込む。
次に参照特徴の特徴ベクトルの各要素毎に、ある一定区
画の平均値と標準偏差を求める。例えば、該特徴ベクト
ルの前後1秒間の区画の特徴ベクトルに対して、平均値
と標準偏差を求める。次に、該特徴ベクトルから該平均
値を差し引き、該標準偏差で割った値を要素にもつ特徴
ベクトルを参照正規化特徴とする(以上、ステップS
5)。
【0031】入力特徴正規化手段4では、はじめに、入
力特徴計算手段2により得られた入力特徴を読み込む。
次に、読み込んだ入力特徴に対して正規化を行う。正規
化は、前記参照特徴正規化手段3において行ったものと
同様の操作を行う(以上、ステップS6)。
【0032】特徴照合手段5では、はじめに、参照特徴
正規化手段3及び入力特徴正規化手段4により得られた
参照正規化特徴及び入力正規化特徴を読み込む。続い
て、入力正規化特徴に対して参照特徴正規化手段3で与
えられた参照正規化特微と同じ長さの照合区間を設定す
る。次に、参照正規化特徴と入力正規化特徴の照合区間
内の類似度を計算する。ここでは、類似度としてユーク
リッド距離を用いる。例えば、参照正規化特徴が5秒の
長さの場合、参照正規化特徴のベクトルを1秒ごとに5
つ抽出し、それらからなる100次元を照合に用いるベ
クトルとする。つまり、音響信号をフーリエ変換するこ
とによって得た特徴ベクトルが20次元であるので、そ
のベクトル5つ分(5秒分)で100次元となる。
【0033】照合箇所は入力正規化特徴の先頭からずら
しながら照合する。最後まで照合した後、ユークリッド
距離が最も小さい箇所を探索結果として出力する。つま
り、特徴照合手段5は、入力信号の位置を初期化すると
ともに最短距離を初期化し(ステップS7)、参照信号
と現位置における入力信号とを基にベクトル間のユーク
リッド距離を算出し(ステップS8)、算出された距離
が最短距離より小さいか否かを判定し(ステップS
9)、小さければ最短距離を更新し(ステップS1
0)、小さくなければステップS10の処理をスキップ
する。そして、入力信号が終了したか否かを判定し(ス
テップS11)、まだ終了していなければ、入力信号の
位置をずらして(ステップS12)、ステップS8の処
理へ戻る。ステップS11の判定において入力信号が終
了していたなら、結果を出力して(ステップS13)、
全体の処理を終える。
【0034】なお、探索結果は、事前にユークリッド距
離のしきい値を与えられていた場合、しきい値を下回る
もののみ出力することもできる。これにより、入力信号
中に参照信号にマッチする音響信号が存在しない場合に
は、結果を出力しないようにすることができる。また、
ユークリッド距離の上位N位までを出力するようにする
ことも可能である。これにより、入力信号中に参照信号
にマッチする可能性のある箇所が複数存在する場合に
も、それら複数の候補を出力することができる。
【0035】<第2の実施形態>次に説明する第2の実
施形態は、前記第1の実施形態に更に、変換手段を付加
したものである。図3は、本発明の第2の実施形態であ
り、音響信号を対象とする特徴ひずみに頑健な信号検出
装置の構成を示すブロック図である。図3に示した参照
特徴変換手段6及び入力特徴変換手段7は、参照時系列
信号及び入力時系列信号から計算された正規化特徴に対
して変換を行う。
【0036】次に、上述した参照特徴変換手段6及び入
力特徴変換手段7における処理を具体的に説明する。図
4は、図3に示した特徴ひずみに頑健な信号検出装置の
動作を示すフローチャートである。このフローチャート
において、ステップS21からS26までの処理は、図
2に示したステップS1からS6までの処理と同じであ
る。
【0037】そして、参照特徴変換手段6は、はじめに
前記参照特徴正規化手段3により得られた参照正規化特
徴を読み込み、次に、前記参照正規化特徴の線形変換を
行う(ステップS27)。例えば、全20次元のベクト
ルにおける4次元ずつの和をとり、5次元のベクトルに
変換する。また、入力特徴変換手段7は、はじめに前記
入力特徴正規化手段4により得られた入力正規化特徴を
読み込み、次に、上の参照特徴変換手段6による処理と
同様の線形変換を行う(ステップS28)。また、図4
のステップS29からS35までの処理は、図2に示し
たステップS7からS13までの処理と同様である。
【0038】<第3の実施形態>次に説明する第3の実
施形態は、前記第2の実施形態に更に学習手段を有する
形態である。図5は、本発明の第3の実施形態であり、
音響信号を対象とする特徴ひずみに頑健な信号検出装置
の一実施形態を示すブロック図である。図5に示した学
習手段8は、特徴ひずみによる変動の少ない変換を前も
って学習により求める。
【0039】次に、上述した学習手段8における処理を
具体的に説明する。図6は、図5に示した特徴ひずみに
頑健な信号検出装置の動作を示すフローチャートであ
る。このフローチャートにおいて、ステップS41から
S46までの処理は、図4に示したステップS21から
S26までの処理と同じである。
【0040】学習手段8では、はじめに、十分長いCD
の楽曲などの音響信号を用意する。次に、この原信号と
同一内容の楽曲などの音響信号で、特徴ひずみを含んだ
ひずみ信号を複数用意する。ひずみ信号とは、例えば、
携帯電話で受音した音響信号や車のエンジン音の雑音を
含む音響信号などである。次に、原信号とひずみ信号か
ら同一区間を複数切り取って信号対を作成する。原信号
とひずみ信号から導かれる特徴または正規化特徴の変換
出力において、信号対の級間分散を、原信号のまわりの
二次モーメントを全信号対における和で割った値を評価
関数とする。その評価関数が最大となるような変換係数
を前もって学習する、すなわち、次の式(1)〜(3)
で定義される一般固有値問題の固有ベクトルを変換係数
として用いる。
【0041】
【数1】
【0042】
【数2】
【0043】
【数3】
【0044】ただし、Mは信号対の数、Nは特徴ひずみ
を含む音響信号の種類、xijはi番目の信号対のj番目
の特徴ひずみを含む音響信号の正規化特徴(列ベクト
ル)、x(バー)iはi番目の信号対中の信号の正規化
特徴の平均、xi0はi番目の信号対の原音の信号の正規
化特徴、x(バー)は全ての正規化特徴の平均、λは固
有値、φは固有ベクトル、tは転置を表す。前記行列の
固有ベクトルを固有値の大きいものから複数求めてお
く。本実施形態では、従来技術であるハウスホルダー法
により8個の固有ベクトルを求めた。
【0045】つまり、学習手段8は上記のように、まず
学習用信号を読み込み(ステップS47)、その学習用
信号を基に行列計算を行い(ステップS48)、そして
固有ベクトルを計算する(ステップS49)。
【0046】次に、学習手段8が求めた固有ベクトルを
用いて特徴の変換を行う。参照特徴変換手段6は、はじ
めに、参照特徴正規化手段3により得られた参照正規化
特微を読み込む。次に、前記学習手段8により得られた
固有ベクトルを読み込む。そして、固有ベクトルを用い
て前記参照正規化特徴を変換する(以上、ステップS5
0)。なお、変換後のk番目の特徴ベクトルの要素yk
は、次の式(4)で定義される値である。ただし、φk
はk番目の固有ベクトルである。
【0047】
【数4】
【0048】入力特徴変換手段7は、はじめに、入力特
徴正規化手段4により得られた入力正規化特徴を読み込
む。次に、前記学習手段8により得られた固有ベクトル
を読み込む。そして、上述した参照正規化特徴の変換と
同様の変換を入力正規化特徴に対して行う(以上、ステ
ップS51)。
【0049】変換後の処理、すなわちステップS52か
らS58までの処理は、図4に示したステップS29か
らS35までの処理と同様である。
【0050】<第4の実施形態>次に説明する第4の実
施形態は、前記第3の実施形態と同様に学習手段を有す
る構成であるが、その学習の処理の方法が異なるもので
ある。この第4の実施形態による信号検出装置の構成
は、図5に示したものと同じである。また、その信号検
出装置の動作手順も図6のフローチャートで示したもの
と同様である。
【0051】次に、本実施形態特有の学習処理の方法に
ついて説明する。学習手段は、はじめに、十分長いCD
の楽曲などの音響信号を用意する。次に、この原信号と
同一内容の楽曲などの音響信号であって特徴ひずみを含
んだひずみ信号を複数用意する。ひずみ信号とは、例え
ば、携帯電話で受音した音響信号や車のエンジン音の雑
音を含む音響信号などである。次に、原信号とひずみ信
号から同一区間を複数切り取って信号対を作成する。原
信号とひずみ信号から導かれる特徴または正規化特徴の
変換出力において、信号対の級間分散を評価関数とす
る。その評価関数が最大となるような変換係数を前もっ
て学習する、すなわち、次の式(5)〜(7)で定義さ
れる一般固有値問題の固有ベクトルを変換係数として用
いる。
【0052】
【数5】
【0053】
【数6】
【0054】
【数7】
【0055】ただし、Mは信号対の数、Nは原信号及び
特徴ひずみを含む音響信号の種類、xijはi番目の信号
対のj番目の特徴ひずみを含む音響信号の正規化特徴
(列ベクトル)、x(バー)iはi番目の信号対中の信
号の正規化特徴の平均、x(バー)は全ての正規化特徴
の平均、λは固有値、φは固有ベクトル、tは転置を表
す。前記行列の固有ベクトルを固有値の大きいものから
複数求めておく。本実施形態では、従来技術であるハウ
スホルダー法により8個の固有ベクトルを求めた。
【0056】つまり、学習手段8は上記のように、まず
学習用信号を読み込み(図6のステップS47)、その
学習用信号を基に行列計算を行い(同、ステップS4
8)、そして固有ベクトルを計算する(同、ステップS
49)。
【0057】次に、学習手段8が求めた固有ベクトルを
用いて特徴の変換を行う。参照特徴変換手段6は、はじ
めに、参照特徴正規化手段3により得られた参照正規化
特微を読み込む。次に、前記学習手段8により得られた
固有ベクトルを読み込む。そして、固有ベクトルを用い
て前記参照正規化特徴を変換する。なお、変換後のk番
目の特徴ベクトルの要素ykは、次の式(8)で定義さ
れる値である。ただし、φkはk番目の固有ベクトルで
ある。
【0058】
【数8】
【0059】入力特徴変換手段7は、はじめに、入力特
徴正規化手段4により得られた入力正規化特徴を読み込
む。次に、前記学習手段8により得られた固有ベクトル
を読み込む。そして、上述した参照正規化特徴の変換と
同様の変換を入力正規化特徴に対して行う。変換後の処
理については、実施形態3と同様である。
【0060】上述した各実施形態の信号検出装置は、コ
ンピュータを用いて実現される。そして、上述した参照
信号読み込み、参照特徴抽出、入力信号読み込み、入力
特徴抽出、参照特徴正規化、入力特徴正規化、学習、参
照特徴変換、入力特徴変換、特徴間のユークリッド距離
算出、最短ユークリッド距離による信号のマッチングな
どの各処理の過程は、プログラムの形式でコンピュータ
読み取り可能な記録媒体に記憶されており、このプログ
ラムをコンピュータが読み出して実行することによっ
て、上記処理が行われる。ここでコンピュータ読み取り
可能な記録媒体とは、磁気ディスク、光磁気ディスク、
CD−ROM、DVD−ROM、半導体メモリ等をい
う。また、このコンピュータプログラムを通信回線によ
ってコンピュータに配信し、この配信を受けたコンピュ
ータが当該プログラムを実行するようにしても良い。
【0061】なお、入力信号及び参照信号は、入力ポー
ト等から電気信号として入力するようにする。あるい
は、入力信号あるいは参照信号のいずれか一方または両
方に相当するデジタルデータを予め磁気ディスク等の記
録媒体に書き込んでおいて、この記録媒体からデータを
読み込んで処理するようにしても良い。
【0062】また、前記各実施形態において、参照特徴
計算手段1が計算した参照特徴のベクトルや、入力特徴
計算手段2が計算した入力特徴のベクトルや、参照特徴
正規化手段3が正規化の処理を行った参照正規化特徴の
ベクトルや、入力特徴正規化手段4が正規化の処理を行
った入力正規化特徴のベクトルや、参照特徴変換手段6
によって変換された後のベクトルや、入力特徴変換手段
7によって変換された後のベクトルや、学習手段8によ
って求められた変換係数などのデータ、あるいはその他
の必要なデータは、コンピュータが備える記憶装置にそ
れぞれ書き込まれる。また、後続する各過程でこれらの
データを参照する際には前記記憶装置に書き込まれたデ
ータがそれぞれ読み出される。
【0063】次に、この発明を適用した装置の動作実験
例を示す。本発明の効果を確認するため、次のような比
較実験を行った。まず入力時系列信号として12分間の
音響信号を用意した。そして、その音響信号の中から無
作為に200個の各5秒間の参照信号を選択した。そし
て、本発明を適用した場合としなかった場合とで、それ
ぞれ上記入力時系列信号内での上記参照信号の探索を行
い、その精度を比較した。
【0064】入力信号としては、あるCDの音響信号を
そのまま装置に取り込んだもの、実環境中でマイクを用
いて受音したもの、PHS(パーソナル・ハンディフォ
ン・システム)で受音したもの、携帯電話で受音したも
のを用意した。またこれらを室内において、自動車内に
おいて、そして商店街において、それぞれ収録して用意
した。
【0065】そして、信号検出装置によって最も類似し
た部分として出力された探索結果の再現率をもって精度
とした。ここで前記再現率とは、探索されるべきものの
うち探索結果として出力されたものの割合である。
【0066】上記のような実験の結果、本発明を適用し
なかった場合すなわち正規化を行わなかった場合の精度
は6.04%であった。正規化特徴に対して変換を行っ
た場合すなわち本発明の第2の実施形態を用いた場合の
精度は50.2%であった。また、学習結果を用いて変
換を行った場合、本発明の第3の実施形態を用いた場合
の精度は59.6%、本発明の第4の実施形態を用いた
場合の精度は61.2%であった。このように、本発明
を適用することにより、従来技術に比べて信号検出の精
度が大幅に向上することが実証できた。
【0067】なお、本発明を応用することによって、例
えば、実環境中に流れている音楽やCM(コマーシャル
メッセージ)を携帯端末で受音し、その受音された音響
信号を用いて膨大な音楽CMデータベースの中から同一
の音楽やCMを検索するといったコンテンツ検索装置が
実現可能となる。また、このようなコンテンツ検索装置
を、コンテンツの不正な複製や不正な再生を検出するた
めに用いることもできる。また、音響信号だけでなく、
映像信号など一般の信号の検出にも応用することができ
る。
【0068】以上、図面を参照してこの発明の実施形態
を詳述してきたが、具体的な構成はこれらの実施形態に
限られるものではなく、この発明の要旨を逸脱しない範
囲の設計等も含まれる。
【0069】
【発明の効果】以上説明したように、この発明によれ
ば、参照特徴を正規化する処理により参照正規化特徴を
導く参照特徴正規化過程と、入力特徴を正規化する処理
により入力正規化特徴を導く入力特徴正規化過程とを有
し、特徴照合過程においては、これら正規化された特徴
同士を用いて類似度の計算を行うため、様々な種類の特
徴ひずみに共通な方法により、特徴ひずみに頑健な信号
検出を行うことが可能となる。
【0070】また、この発明によれば、参照特徴正規化
過程において計算された参照正規化特徴及び入力特徴正
規化過程において計算された入力正規化特徴の少なくと
もいずれか一方に対して所定の変換処理を行う変換過程
を有するため、より一層特徴ひずみに頑健な信号検出を
行うことが可能となる。
【0071】また、この発明によれば、特徴ひずみによ
る変動の少ない特徴への変換を前もって学習処理によっ
て求める学習過程を有しており、変換過程においては学
習処理の結果得られる変換を用いて変換処理を行うた
め、より一層特徴ひずみに頑健な信号検出を行うことが
可能となる。
【0072】これらにより、例えば映像信号や音響信号
など、時系列信号において特定の信号と類似の部分を探
索する場合に、探索精度を向上させることが可能とな
り、例えば、データベースの中から特定の音楽やCMや
映像などを検索するコンテンツ検索装置の検索精度を向
上させることが可能となる。
【0073】また、特に、複数の特徴ひずみに対しても
一つの参照特徴で信号検出を可能とした点、注目領域全
体のパワーを用いて正規化する方法に比べて周波数特性
の変化にも対応可能にした点などにおいて、本願発明の
技術は従来技術よりも飛躍的に進歩している。
【図面の簡単な説明】
【図1】 この発明の第1の実施形態による信号検出装
置の構成を示すブロック図である。
【図2】 この発明の第1の実施形態による信号検出装
置の動作手順を示すフローチャートである。
【図3】 この発明の第2の実施形態による信号検出装
置の構成を示すブロック図である。
【図4】 この発明の第2の実施形態による信号検出装
置の動作手順を示すフローチャートである。
【図5】 この発明の第3および第4の実施形態による
信号検出装置の構成を示すブロック図である。
【図6】 この発明の第3および第4の実施形態による
信号検出装置の動作手順を示すフローチャートである。
【符号の説明】
1 参照特徴計算手段 2 入力特徴計算手段 3 参照特徴正規化手段 4 入力特徴正規化手段 5 特徴照合手段 6 参照特徴変換手段 7 入力特徴変換手段 8 学習手段
───────────────────────────────────────────────────── フロントページの続き (72)発明者 村瀬 洋 東京都千代田区大手町二丁目3番1号 日 本電信電話株式会社内 Fターム(参考) 5D015 CC17

Claims (17)

    【特許請求の範囲】
  1. 【請求項1】 入力時系列信号から、該入力時系列信号
    よりも短い参照時系列信号に類似した部分を探し出す信
    号検出方法であって、 前記参照時系列信号から、特徴ベクトルからなる参照特
    徴を導く参照特徴計算過程と、 前記入力時系列信号から、特徴ベクトルからなる入力特
    徴を導く入力特徴計算過程と、 前記参照特徴を正規化する処理により参照正規化特徴を
    導く参照特徴正規化過程と、 前記入力特徴を正規化する処理により入力正規化特徴を
    導く入力特徴正規化過程と、 前記入力正規化特徴中に照合区間を設定し、前記参照正
    規化特徴と、前記入力正規化特徴中の該照合区間のそれ
    ぞれから類似度を計算する特徴照合過程とを含み、前記
    入力正規化特徴中の照合区間を変えながら前記特徴照合
    過程の処理を行い、各々の照合区間において計算された
    前記類似度から参照正規化特徴と類似する入力正規化特
    徴の箇所を検出することを特徴とする信号検出方法。
  2. 【請求項2】 前記参照特徴正規化過程においては、記
    憶装置から前記参照特徴の特徴ベクトルを読み出すとと
    もに、その周辺の参照特徴から導かれる特徴量を用い
    て、ベクトルの要素ごとに独立に正規化した参照正規化
    特徴を導いて、この参照正規化特徴の特徴ベクトルを記
    憶装置に書き込むものであり、 前記入力特徴正規化過程においては、記憶装置から前記
    参照特徴の特徴ベクトルを読み出すとともに、その周辺
    の入力特徴から導かれる特徴量を用いて、ベクトルの要
    素ごとに独立に正規化した入力正規化特徴を導いて、こ
    の入力正規化特徴の特徴ベクトルを記憶装置に書き込む
    ものであり、 前記特徴照合過程においては、前記参照特徴正規化過程
    において前記記憶装置に書き込まれた参照正規化特徴の
    特徴ベクトルを読み出すとともに、前記入力特徴正規化
    過程において前記記憶装置に書き込まれた入力正規化特
    徴の当該設定区間の特徴ベクトルを読み出して、前記類
    似度を計算することを特徴とする請求項1に記載の信号
    検出方法。
  3. 【請求項3】 前記参照特徴正規化過程及び前記入力特
    徴正規化過程においては、それぞれ正規化処理対象の特
    徴ベクトルと周辺の特徴ベクトルからベクトルの要素毎
    に平均値と標準偏差を求め、この正規化処理対象の特徴
    ベクトルの要素毎に前記平均値を差し引き、前記標準偏
    差で割った値からなる特徴ベクトルを正規化特徴とする
    ことを特徴とする請求項1又は2に記載の信号検出方
    法。
  4. 【請求項4】 前記参照特徴正規化過程において計算さ
    れた参照正規化特徴及び前記入力特徴正規化過程におい
    て計算された入力正規化特徴の少なくともいずれか一方
    に対して所定の変換処理を行う変換過程を有することを
    特徴とする請求項1から3までのいずれかに記載の信号
    検出方法。
  5. 【請求項5】 前記変換過程における前記変換処理とし
    て線形変換を行うことを特徴とする請求項4に記載の信
    号検出方法。
  6. 【請求項6】 特徴ひずみによる変動の少ない特徴への
    変換を前もって学習処理によって求める学習過程を有し
    ており、 前記変換過程では、前記学習処理の結果得られる変換を
    用いて前記変換処理を行うことを特徴とする請求項4又
    は5に記載の信号検出方法。
  7. 【請求項7】 前記学習過程では、特徴ひずみのない原
    信号と、該原信号に特徴ひずみが加えられた1つまたは
    複数のひずみ信号とを基に、前記原信号と前記ひずみ信
    号の対応する区間の信号を切り取って得られる信号対を
    複数作成し、前記原信号と前記ひずみ信号から導かれる
    変換後の前記信号対の級間分散を前記原信号のまわりの
    二次モーメントを全信号対における和で割った値を評価
    関数としたときに該評価関数が最大となる変換係数を求
    めることを特徴とする請求項6に記載の信号検出方法。
  8. 【請求項8】 前記学習過程では、特徴ひずみのない原
    信号と、該原信号に特徴ひずみが加えられた1つまたは
    複数のひずみ信号とを基に、前記原信号と前記ひずみ信
    号の対応する区間の信号を切り取って得られる信号対を
    複数作成し、前記原信号と前記ひずみ信号から導かれる
    変換後の前記信号対の級間分散を評価関数としたときに
    該評価関数が最大となる変換係数を求めることを特徴と
    する請求項6に記載の信号検出方法。
  9. 【請求項9】 前記参照時系列信号及び前記入力時系列
    信号に映像信号を用いることを特徴とする請求項1から
    8までのいずれかに記載の信号検出方法。
  10. 【請求項10】 前記参照時系列信号及び前記入力時系
    列信号に音響信号を用いることを特徴とする請求項1か
    ら8までのいずれかに記載の信号検出方法。
  11. 【請求項11】 請求項1から10までのいずれかに記
    載の信号検出方法の各過程の処理をコンピュータに実行
    させるコンピュータプログラムを記録したコンピュータ
    読み取り可能な記録媒体。
  12. 【請求項12】 請求項1から10までのいずれかに記
    載の信号検出方法の各過程の処理をコンピュータに実行
    させるコンピュータプログラム。
  13. 【請求項13】 入力信号から、該入力信号よりも短い
    参照信号に類似した部分を検出する信号検出装置であっ
    て、 前記参照信号を読み取り、この参照信号から参照特徴を
    抽出する参照特徴計算手段と、 前記参照特徴を基に正規化処理を行うことによって参照
    正規化特徴を導く参照特徴正規化手段と、 前記入力信号を読み取り、この入力信号から入力特徴を
    抽出する入力特徴計算手段と、 前記入力特徴を基に正規化処理を行うことによって入力
    正規化特徴を導く入力特徴正規化手段と、 照合区間における前記入力正規化特徴と前記参照正規化
    特徴との類似度を計算する特徴照合手段とを備え、 前記特徴照合手段によって計算される前記類似度を基
    に、前記入力信号中で前記参照信号に類似する箇所を検
    出することを特徴とする信号検出装置。
  14. 【請求項14】 前記参照特徴正規化手段によって導か
    れた参照正規化特徴に所定の変換処理を行う参照特徴変
    換手段と、 前記入力特徴正規化手段によって導かれた入力正規化特
    徴に所定の変換処理を行う入力特徴変換手段とを備え、 前記特徴照合手段は、前記参照特徴変換手段によって変
    換処理を行った後の参照正規化特徴と、前記入力特徴変
    換手段によって変換処理を行った後の入力正規化特徴と
    を用いて前記類似度を計算することを特徴とする請求項
    13に記載の信号検出装置。
  15. 【請求項15】 特徴ひずみによる変動の少ない特徴へ
    の変換を前もって学習処理によって求める学習手段を備
    えており、 前記参照特徴変換手段は、前記参照正規化特徴に対して
    前記学習手段によって求められた前記変換の処理を行
    い、 前記入力特徴変換手段は、前記入力正規化特徴に対して
    前記学習手段によって求められた前記変換の処理を行う
    ことを特徴とする請求項14に記載の信号検出装置。
  16. 【請求項16】 前記学習手段は、特徴ひずみのない原
    信号と、該原信号に特徴ひずみが加えられた1つまたは
    複数のひずみ信号とを基に、前記原信号と前記ひずみ信
    号の対応する区間の信号を切り取って得られる信号対を
    複数作成し、前記原信号と前記ひずみ信号から導かれる
    変換後の前記信号対の級間分散を前記原信号のまわりの
    二次モーメントを全信号対における和で割った値を評価
    関数としたときに該評価関数が最大となる変換係数を求
    めることを特徴とする請求項15に記載の信号検出装
    置。
  17. 【請求項17】 前記学習手段は、特徴ひずみのない原
    信号と、該原信号に特徴ひずみが加えられた1つまたは
    複数のひずみ信号とを基に、前記原信号と前記ひずみ信
    号の対応する区間の信号を切り取って得られる信号対を
    複数作成し、前記原信号と前記ひずみ信号から導かれる
    変換後の前記信号対の級間分散を評価関数としたときに
    該評価関数が最大となる変換係数を求めることを特徴と
    する請求項15に記載の信号検出装置。
JP2001209813A 2001-07-10 2001-07-10 信号検出方法及び装置、プログラムならびに記録媒体 Expired - Lifetime JP3746690B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001209813A JP3746690B2 (ja) 2001-07-10 2001-07-10 信号検出方法及び装置、プログラムならびに記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001209813A JP3746690B2 (ja) 2001-07-10 2001-07-10 信号検出方法及び装置、プログラムならびに記録媒体

Publications (2)

Publication Number Publication Date
JP2003022084A true JP2003022084A (ja) 2003-01-24
JP3746690B2 JP3746690B2 (ja) 2006-02-15

Family

ID=19045418

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001209813A Expired - Lifetime JP3746690B2 (ja) 2001-07-10 2001-07-10 信号検出方法及び装置、プログラムならびに記録媒体

Country Status (1)

Country Link
JP (1) JP3746690B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006006528A1 (ja) * 2004-07-09 2006-01-19 Nippon Telegraph And Telephone Corporation 音響信号検出システム、音響信号検出サーバ、映像信号探索装置、映像信号探索方法、映像信号探索プログラムと記録媒体、信号探索装置、信号探索方法、及び、信号探索プログラムと記録媒体
JP2008176752A (ja) * 2007-01-22 2008-07-31 National Institute Of Information & Communication Technology 系列データ間の類似性検査方法及び装置
US7860714B2 (en) 2004-07-01 2010-12-28 Nippon Telegraph And Telephone Corporation Detection system for segment including specific sound signal, method and program for the same

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0519782A (ja) * 1991-05-02 1993-01-29 Ricoh Co Ltd 音声特徴抽出装置
JPH10288996A (ja) * 1997-04-11 1998-10-27 Nokia Mobile Phones Ltd 音声認識方法及び音声信号処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0519782A (ja) * 1991-05-02 1993-01-29 Ricoh Co Ltd 音声特徴抽出装置
JPH10288996A (ja) * 1997-04-11 1998-10-27 Nokia Mobile Phones Ltd 音声認識方法及び音声信号処理装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7860714B2 (en) 2004-07-01 2010-12-28 Nippon Telegraph And Telephone Corporation Detection system for segment including specific sound signal, method and program for the same
WO2006006528A1 (ja) * 2004-07-09 2006-01-19 Nippon Telegraph And Telephone Corporation 音響信号検出システム、音響信号検出サーバ、映像信号探索装置、映像信号探索方法、映像信号探索プログラムと記録媒体、信号探索装置、信号探索方法、及び、信号探索プログラムと記録媒体
US7873521B2 (en) 2004-07-09 2011-01-18 Nippon Telegraph And Telephone Corporation Sound signal detection system, sound signal detection server, image signal search apparatus, image signal search method, image signal search program and medium, signal search apparatus, signal search method and signal search program and medium
EP2312475A1 (en) 2004-07-09 2011-04-20 Nippon Telegraph and Telephone Corporation Sound signal detection and image signal detection
JP2008176752A (ja) * 2007-01-22 2008-07-31 National Institute Of Information & Communication Technology 系列データ間の類似性検査方法及び装置

Also Published As

Publication number Publication date
JP3746690B2 (ja) 2006-02-15

Similar Documents

Publication Publication Date Title
US8082150B2 (en) Method and apparatus for identifying an unknown work
US8145656B2 (en) Matching of modified visual and audio media
US8977067B1 (en) Audio identification using wavelet-based signatures
US7003156B1 (en) Object detection method and a video data retrieval method
CN112584062B (zh) 背景音频构建方法及装置
US7035775B2 (en) Similar time series detection method and apparatus, program and recording medium
WO2020135756A1 (zh) 视频段的提取方法、装置、设备及计算机可读存储介质
US7054388B2 (en) Signal detection method and apparatus, relevant program, and storage medium storing the program
CN117251598A (zh) 视频检索方法
JP4447602B2 (ja) 信号検出方法,信号検出システム,信号検出処理プログラム及びそのプログラムを記録した記録媒体
JP2003022084A (ja) 信号検出方法及び装置、プログラムならびに記録媒体
JP3408800B2 (ja) 信号検出方法、装置及びそのプログラム、記録媒体
CN112992148A (zh) 视频内的语音识别方法及装置
CN109635777B (zh) 一种视频数据编辑识别方法及装置
KR102592601B1 (ko) 합성 표정을 이용한 얼굴인식 방법
CN111599378A (zh) 音频匹配方法,电子设备及存储介质
JPH11282492A (ja) 音声認識装置、話者検出装置及び画像記録装置
CN113987270A (zh) 相似视频片段的确定方法、装置、终端及存储介质
JP3943060B2 (ja) 信号検出方法、装置、プログラム及びその記録媒体
CN112765394A (zh) 数据处理方法、装置、电子设备及存储介质
JP2009049667A (ja) 情報処理装置、その処理方法およびプログラム
CN111291224A (zh) 视频流数据处理方法、装置、服务器及存储介质
Lakshmi et al. Searching for Telugu script in noisy images using SURF descriptors
JP2002014973A (ja) 映像検索装置、方法、映像検索プログラムを記録した記録媒体
JP2004193983A (ja) 映像信号検出方法および装置、映像信号検出プログラム並びにそのプログラムを記録した記録媒体

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20050920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051124

R151 Written notification of patent or utility model registration

Ref document number: 3746690

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091202

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101202

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101202

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111202

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111202

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121202

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121202

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131202

Year of fee payment: 8

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term