JP3560159B2 - 周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法 - Google Patents

周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法 Download PDF

Info

Publication number
JP3560159B2
JP3560159B2 JP2001542051A JP2001542051A JP3560159B2 JP 3560159 B2 JP3560159 B2 JP 3560159B2 JP 2001542051 A JP2001542051 A JP 2001542051A JP 2001542051 A JP2001542051 A JP 2001542051A JP 3560159 B2 JP3560159 B2 JP 3560159B2
Authority
JP
Japan
Prior art keywords
texture
image
video
frequency space
gabor filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001542051A
Other languages
English (en)
Other versions
JP2003515852A (ja
Inventor
ムン−チュール・キム
ジン−ウーン・キム
ビー・エス・マンジュナス
ヨン−マン・ロ
ヒュン−ドー・シン
ヤン−リム・チョイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Electronics and Telecommunications Research Institute ETRI
University of California
Original Assignee
Electronics and Telecommunications Research Institute ETRI
University of California
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Electronics and Telecommunications Research Institute ETRI, University of California filed Critical Electronics and Telecommunications Research Institute ETRI
Publication of JP2003515852A publication Critical patent/JP2003515852A/ja
Application granted granted Critical
Publication of JP3560159B2 publication Critical patent/JP3560159B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/42Analysis of texture based on statistical description of texture using transform domain methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5862Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/431Frequency domain transformation; Autocorrelation
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99931Database or file accessing
    • Y10S707/99933Query processing, i.e. searching

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Probability & Statistics with Applications (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)
  • Complex Calculations (AREA)
  • Image Generation (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は映像のテクスチャを記述する方法に係り、より詳細には時間領域の映像を周波数領域の映像に変換し、ガボールフィルタリングしてテクスチャ特徴を抽出する周波数空間上でのテクスチャ記述方法に関する。また、本発明は前述のテクスチャ記述方法で索引された映像についてのテクスチャ基盤映像検索方法に関する。
【0002】
【従来の技術】
映像でテクスチャ情報はその映像の特徴を示す重要な視覚的特徴のうち一つとして長い間研究されてきた。このような映像のテクスチャ情報は映像またはビデオデータを内容基盤索引及び要約化することにおいて、主要な下位レベル記述子として用いられる。また、この映像のテクスチャ情報は電子アルバムで特定写真を検索したり、タイルまたは織物データベースでの内容基盤検索に重要に用いられる情報である。
【0003】
現在までは映像のテクスチャ特徴を抽出するために時間領域や周波数領域で特徴値を計算した。特に周波数領域で映像のテクスチャ特徴を抽出する方法は多様な形態の映像のテクスチャ特徴を記述するのに適したものと知られてきた。
【0004】
これに関する論文が次のように発表された。著者がB.S.ManjunathとW.Y.Maであり、論文題目が”Texture features for browsing and retrieval of image data”であり、掲載誌が”IEEE Transaction on Pattern Analysis and Machine Intelligence”第18巻第8号であり、1996年8月に発表された論文では、周波数空間でガボールフィルタリングした後に得た映像で各チャンネルでの平均と分散とを映像テクスチャの特徴値として抽出して特徴ベクトルを計算する方法が発表された。
【0005】
しかしこのような従来のガボールフィルタリングを用いた映像テクスチャ記述技法は次のような問題点がある。第一に、映像のガボールフィルタリングを信号領域で行うことによって計算時間が長くかかる。第二に、直交周波数空間を用いるために低周波領域で狭い通過帯域を有するガボールフィルタを使用してテクスチャ情報を抽出する場合に映像の周波数サンプリングの密度が低くて充分な情報を獲得できない。第三に、映像輝度値の平均と分散とを映像のテクスチャ特徴としてどちらも用いるために特徴技術のためのデータサイズが大きいという短所がある。
【0006】
【発明が解決しようとする課題】
したがって、本発明は前述のような従来の技術の問題点を解決するために案出されたものであり、本発明の目的は、映像の信号領域ではない周波数領域でガボールフィルタリングを行うことによって、フィルタリング計算時間を短縮する周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法を提供することである。
【0007】
本発明の他の目的は、極座標系を用いてガボールフィルタリングを行うことによって、映像の低周波領域には周波数サンプリング密度を高くして映像のテクスチャ情報が充分に抽出されようにし、高周波領域には周波数サンプリング密度を低くして広い通過帯域を有するガボールフィルタリングを行っても充分なテクスチャ情報を抽出させる周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法を提供することである。
【0008】
本発明のまた他の目的は、映像テクスチャの特徴記述子のために映像の輝度値の平均、映像輝度値の分散、エネルギー、及びエネルギー分散値を使用することによって、検索率を高める周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法を提供することである。
【0009】
本発明のさらに他の目的は、ガボールフィルタをデザインする時、映像の低周波成分の変化に敏感で高周波成分の変化には鈍感な人間の視覚認知特性に基づいて、低周波領域は周波数通過帯域を狭く設計し、高周波領域に行くほど周波数通過帯域を広く設計することによって、人間の視覚認知特性を考慮した周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法を提供することである。
【0010】
本発明のさらに他の目的は、映像が回転及び拡大/縮少されてもその変化量が微細であれば映像のテクスチャ記述子の値はほとんど変化しないようにガボールフィルタリングすることによって、微細な量で変化された映像は容易に検索できる周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法を提供することである。
【0011】
【課題を解決するための手段】
前記目的を達成するための本発明に係る周波数空間上でのガボールフィルタを用いたテクスチャ記述方法は、時間領域の映像を周波数領域の映像に変換する第1段階と、NとMを各々所定の正の整数とする時、変換された周波数領域の映像をN×M個のフィルタリング領域を有するガボールフィルタを使用してフィルタリングする第2段階と、前記ガボールフィルタのN×Mフィルタ領域に対応する周波数空間分割レイアウトの各チャンネルから前記ガボールフィルタリングされた映像のテクスチャ特徴値を抽出する第3段階と、前記映像のテクスチャ特徴値を用いて前記映像のテクスチャ記述子を記述する第4段階とを含むことを特徴とする。
【0012】
望ましくは、前記第1段階は、前記時間領域の映像を2次元フーリエ変換して直交座標系周波数領域の映像に変換したり、前記時間領域の映像をラドン変換した後、1次元フーリエ変換して極座標系周波数領域の映像に変換することを特徴とする。
【0013】
また、本発明によれば、前述した周波数空間上でのガボールフィルタを用いたテクスチャ記述方法を実行するためのプログラムを記録したコンピュータで読出しうる記録媒体が提供される。
【0014】
また、本発明に係る周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法は、データ映像をガボールフィルタを用いてフィルタリングすることによってデータテクスチャ記述子を抽出し、抽出されたデータテクスチャ記述子をデータベースに貯蔵する第1段階と、質疑映像が入力されれば前記質疑映像の質疑テクスチャ記述子をガボールフィルタを用いて抽出して貯蔵する第2段階と、前記データテクスチャ記述子と質疑テクスチャ記述子とを整合して二つのテクスチャ記述子間の距離を測定する第3段階と、前記二つのテクスチャ記述子間の距離によって二つの映像の類似度を判定する第4段階とを含むことを特徴とする。
【0015】
望ましくは、前記第1段階と第2段階とで、前記データテクスチャ記述子と質疑テクスチャ記述子とを抽出する過程は、時間領域の映像を周波数領域の映像に変換する第1下位段階と、NとMを各々所定の正の整数とする時、前記周波数領域の映像をN×M個のフィルタ領域を有するガボールフィルタを使用してフィルタリングする第2下位段階と、前記ガボールフィルタのN×Mフィルタ領域に対応する周波数空間分割レイアウトの各チャンネルから前記ガボールフィルタリングされた映像のテクスチャ特徴値を抽出する第3下位段階と、前記映像のテクスチャ特徴値を用いて前記映像のテクスチャ記述子を記述する第4下位段階とを含むことを特徴とする。
【0016】
また、本発明によれば、前述した周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法を実行するためのプログラムを記録したコンピュータで読出しうる記録媒体が提供される。
【0017】
【発明の実施の形態】
以下、添付した図面を参照して本発明の一実施形態に係る”周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びこれを用いたテクスチャ基盤映像検索方法”をより詳細に説明すれば次の通りである。
【0018】
図1は、本発明に係るガボールフィルタを用いた周波数空間上でのテクスチャ記述方法を示す処理フローチャートである。
【0019】
このようなテクスチャ記述方法は、映像をテクスチャ情報基盤索引する時とテクスチャ情報基盤検索する時とにどちらにも使われるところ、入力された映像を処理してテクスチャ記述子を作る方法である。すなわち、データベースに索引して貯蔵しようとする映像が入力されれば図1のテクスチャ記述方法によってデータテクスチャ記述子を生成し、生成されたテクスチャ記述子をデータベースに貯蔵する。また、質疑映像が入力されれば図1のテクスチャ記述方法によって質疑映像のテクスチャ記述子を生成し、生成されたテクスチャ記述子とデータベースに貯蔵されたデータ映像のテクスチャ記述子とを比較することによって検索される。
【0020】
図1を参照して本発明に係るテクスチャ記述方法を詳細に説明すれば次の通りである。
【0021】
先ず、任意の映像を入力し(S11)、入力された映像をフーリエ変換(S12)することによって直交座標系または極座標系周波数空間上の映像に変換する。ここで、入力される映像は前述したようにデータ映像または質疑映像になりうる。入力された映像を2次元フーリエ変換すれば直交座標系周波数空間上のデータに変換される。また、入力された映像をラドン変換した後、変換されたデータを1次元フーリエ変換すれば極座標系周波数空間上のデータに変換される。
【0022】
入力された映像を極座標系周波数空間に変換する過程を説明すれば次の通りである。先ず入力された映像をラドン変換するが、ラドン変換とは、2次元映像または多次元マルチメディアデータを角度によって線積分しつつ1次元投影データを得る一連の過程をいう。すなわち、物体は見る角度により異なって見られ、ある物体をあらゆる角度から見ればその物体の輪郭の見当がつけられるが、ラドン変換はこのような原理を用いたものである。
【0023】
このような2次元映像についてのラドン変換式は数式1のように表現される。
【数1】
Figure 0003560159
【0024】
ここで、f(x,y)は直交座標系時間領域での映像関数であり、pθ(R)は直交座標系で原点を通過しつつ正のx軸となす角がθの光線軸に沿って線積分して得た1次投影関数、すなわち1次ラドン変換関数である。δ(x)関数はx値が0の時に1になる関数である。2次元映像は直交座標系で’−∞<x,y<∞’の領域を有し、ラドン座標系で’0<s<∞、0<θ<π’の領域を有する。xcos0+ysin0=sの時、δ(xcos0+ysin0−s)=1になる。
【0025】
このようにθを0度から180度まで回転して得た1次ラドン変換関数pθ(R)の集合をシグノグラムという。このシグノグラムをフーリエ変換すれば直交座標系時間領域での映像関数f(x,y)を2次元フーリエ変換した関数と数式2のような関係式が成立する。
【数2】
Figure 0003560159
【0026】
ここで、P(ω,θ)はラドン変換関数pθ(R)のフーリエ変換関数である。そして、ωは(ω +ω )の平方根であり、θはtan−1(ω/ω)である。
【0027】
セントラルスライス理論によれば、シグノグラムフーリエ変換は2次元原映像フーリエ変換関数を各θ軸に沿って切断することによって得られる1次元関数値である。このように映像をラドン変換後フーリエ変換すれば、映像は極座標系周波数領域の映像に変換する。
【0028】
次に、段階S13では各チャンネル別テクスチャ記述子を抽出するために、図2に示したような周波数空間分割レイアウトを使用してフィルタリングを行う。図3には図2の周波数空間分割をより実際的な形で示した。段階S13でのフィルタリングのためのガボールフィルタは、図3に示したように分割された特徴チャンネルに基づいて設計されたものと理解されうる。すなわち、本実施形態では放射方向に5つの領域、角度方向に6つの領域に分割された5×6特徴チャンネルに基づいて設計されたガボールフィルタを使用してガボールフィルタリングを行う。ここで、図2のように分割された各周波数領域は特徴チャンネルに該当する。
【0029】
前述したように設計されたガボールフィルタの動作を説明するために先ず数式3のようにガボールフィルタの応答特性を表現する。
【数3】
Figure 0003560159
【0030】
ここではAs,r定数であり、GPs,r(ω,θ)(ここで、“Ps,r”は、“Ps,r”を表すものとする)はs番目放射方向、r番目角度方向に該当する特徴チャンネルに該当するフィルタの応答特性を示し、sは{0,1,2,3,4}のうち一つの整数値として放射方向への位置を、rは{0,1,2,3,4,5}のうち一つの整数値として角度方向への位置を示す。また、σρ とσθ (ここで、“ρs”,“θr”は、“ρ”,“θ”をそれぞれ表すものとする)は各々sとr方向に関する座標ρとθ方向の特徴チャンネルの標準偏差値で、角度方向、放射方向の特徴チャンネルの幅に該当すると理解されうる。
【0031】
本実施形態のように5×6のフィルタ個数を有するガボールフィルタ内で特徴チャンネルの標準偏差は下記の表1及び表2のように示しうる。表1には放射方向でのガボールフィルタ変数値を示し、表2には角度方向でのガボールフィルタ変数値を示した。
【表1】
Figure 0003560159
【表2】
Figure 0003560159
【0032】
次に、段階S15では直交座標系周波数領域または極座標周波数領域でガボールフィルタリングされた映像のテクスチャ特徴を抽出する。この時、直交座標系周波数領域または極座標系周波数領域は人間視覚認知システムに基づいて図2に示したように分割されるが、分割された各周波数領域を特徴チャンネルという。この特徴チャンネルをCに表示し、i=6×s+r+1であり、CはDC特徴チャンネルを示す。
【0033】
極座標系周波数領域分割レイアウトは、周波数領域を人間視覚認知システム(HVS: Human Visual System)に基づいて分割したものである。これはガボールフィルタの−3dB通過帯域周波数特性がHVSに合うように周波数領域で配列されるようにデザインする。このような周波数領域分割方法及びガボールフィルタデザイン原則は直交座標系でも類似して適用される。すなわち、HVSは低周波成分に敏感で高周波成分に鈍感な特性を示すが、このような特徴を用いて周波数分割レイアウトを決定する。これに係る詳細な事項を以下で記述する。
【0034】
本発明では映像のテクスチャ特徴として、各ガボールフィルタリングされた周波数領域のエネルギー平均値とエネルギー分散値とを用いる。
【0035】
図2は、人間視覚認知システムに基づいてエネルギー平均を抽出するための極座標周波数空間分割レイアウトを示す図面である。
【0036】
図2に示したように極座標周波数空間は放射方向と角度方向とに分割されるが、放射方向はオクターブ間隔で原点から遠ざかる方向に分割し、角度方向はθを180/P(ここで、Pはθの分割解像度である)に分割する。このように分割すればエネルギー平均を抽出するための極座標周波数レイアウトは、低周波領域は周波数空間が稠密に分割され、高周波領域は粗く分割される。各分割された周波数領域が特徴チャンネルCであり、斜線をひいた部分が5番特徴チャンネルである。
【0037】
ここで、本発明の主要な特徴が分かるが、本発明ではラドン変換により低周波領域でのサンプリングは稠密にし、高周波領域でのサンプリングは粗くし、これをHVSに基づいて分割する時に低周波領域は稠密に分け、高周波領域は粗く分ける。分割された各周波数領域別に、すなわち、各チャンネル別に抽出された特徴値がテクスチャ特徴を巧みに反映する。
【0038】
各チャンネル別にエネルギー平均値とエネルギー分散値とが求められれば、段階S15でこの特徴値から映像のテクスチャを記述する映像のテクスチャ記述子、すなわち、特徴ベクトルを計算する。エネルギー平均値とエネルギー分散値を求める方法は後述する。
【0039】
このテクスチャ記述子は数式4のように表現される。
【数4】
Figure 0003560159
【0040】
ここで、e(i)は図2の周波数レイアウトでi番目ガボールフィルタリングされたチャンネルでのエネルギー平均値であり、d(i)は図2の周波数レイアウトでi番目ガボールフィルタリングされたチャンネルでのエネルギー分散値である。ここで、特にfDCはDCチャンネルのエネルギーを示し、fSTDは映像で全体画素値の分散を示す。前述の数式4で各特徴値はそのチャンネルの優先順位によって先ず記述され、チャンネルの重要度によって重要度が低いチャンネルの特徴値は除外することによってデータ容量を減少させうる。また特徴の重要度によって各チャンネルのエネルギーだけを特徴値として用いるか、またはエネルギーとエネルギー分散とをどちらも用いてテクスチャ記述子特徴ベクトルを構成することもできる。
【0041】
前述の特徴ベクトルをなすエネルギー平均値e(i)とエネルギー分散値d(i)とは下記の数式6と数式8とにより求められ、このために数式5ではフーリエ変換後にガボールフィルタリングされた関数GPs,r(ω,θ)・P(ω,θ)(ここで、“Ps,r”は、“Ps,r”を表すものとする)を用いてp(i)値を求める。このp(i)を数式6に適用すればエネルギー平均値e(i)を求めうる。また、数式7ではフーリエ変換された1次ラドン変換関数と数式5で求めたp(i)値とを用いてq(i)値を求める。このq(i)を数式8に適用すればエネルギー分散値d(i)を求めうる。
【数5】
Figure 0003560159
【数6】
Figure 0003560159
【数7】
Figure 0003560159
【数8】
Figure 0003560159
【0042】
これにより各チャンネルでのエネルギー平均値とエネルギー分散値とよりなるテクスチャ記述子が求められる。
【0043】
入力される全ての映像に対して前記S11ないし段階S16を反復実行して各データテクスチャ記述子をデータベースに貯蔵する。
【0044】
このようにデータベースに貯蔵されたデータテクスチャ記述子は、質疑映像から求められた質疑テクスチャ記述子と整合して質疑映像と類似の映像を検索するのに使われる。下では本発明の実施形態に係るテクスチャ基盤検索方法について記述する。
【0045】
データベースにはデータテクスチャ記述子Fを使用してインデクシングされていると仮定する。次に、質疑映像qを図1を参照して説明したテクスチャ記述方法によって質疑テクスチャ記述子Fを抽出して、データベース内の任意の映像データdのテクスチャ記述子Fと質疑テクスチャ記述子Fとの類似度を計算することによって整合度を測定する。
【0046】
この類似度は、数式9により求められる二つのテクスチャ記述子間の距離Dに反比例する値である。
【数9】
Figure 0003560159
【0047】
ここでF={f(k),k=1,K}であり、ω(k)は各チャンネルの加重値を示す。このように、データテクスチャ記述子と質疑テクスチャ記述子との距離は各チャンネル別にその平均と分散とを比較することによって得られる。
【0048】
回転された映像をフーリエ変換した結果は、回転される前の映像のフーリエ変換中に周波数領域で回転した結果と同一である。したがって、二つの映像を比較して検索する時、周波数領域で回転しつつ比較すれば回転角度が相異なる類似した二つの映像を捜し出せる。このような回転不変性を式で表現すれば数式10の通りである。
【数10】
Figure 0003560159
ここで、φ=30度である。
【0049】
このように質疑映像を周波数領域で回転させつつデータ映像と比較することによって二つの映像間の距離を求めた後、その距離の最小値を最終的な二つの映像間の非類似度として設定する。これを式で表現すれば数式11の通りである。
【数11】
Figure 0003560159
【0050】
また、大きさ変化された映像をフーリエ変換した結果は、大きさ変化される前の映像のフーリエ変換中に周波数領域で大きさ変換した結果と同一である。二つの映像を比較する時、周波数領域で大きさ変化させつつ比較すれば大きさが相異なる類似した二つの映像を捜し出せる。このような大きさ変化不変性を式で表現すれば数式12の通りである。
【数12】
Figure 0003560159
【0051】
ここで、nは大きさ変化された場合の数である。
本発明の好ましい実施形態によれば、テクスチャ基盤映像検索方法は、質疑映像を周波数領域における所定のスケールにおいて大きさ変化する段階と、各々のスケールのためのテクスチャ記述子を抽出する段階と、これらのテクスチャ記述子間の距離を、データ映像テクスチャ記述子とともに計算する段階と、最小距離を2つの映像間の距離として選択する段階と有する。最小距離を選択する段階を式で表現すれば数式13の通りである。
【数13】
Figure 0003560159
【0052】
ここで、Nは質疑映像の実際の大きさ変換された数字である。
【0053】
前述において望ましい実施形態に基づいてこの発明を説明したが、この実施形態はこの発明を制限するものではなく例示するものである。この発明が属する分野の当業者にはこの発明の技術思想から逸脱せずに前述の実施形態についての多様な変化や変更または調節が可能であることは明らかである。したがって、この発明の保護範囲は特許請求範囲のみにより限定され、前述のような変化例や変更例または調節例を全て含むことと解釈されねばならない。
【0054】
【発明の効果】
以上のように本発明によれば、周波数空間でガボールフィルタリング方法と、各特徴値を抽出するのに適した極座標系周波数空間分割レイアウト、各周波数領域での特徴値抽出方法、各周波数チャンネルに重要度及び優先順位付与技術を用いることによって、映像のテクスチャをより正確に記述できるだけでなく効率的な索引及び検索が可能になる。
【0055】
このようなテクスチャ記述方法により抽出された映像のテクスチャ記述子は、ぼう大な大きさの航空写真及び軍事用レーダー映像で特別な特徴を有する映像を探そうとする時に有用な検索の手掛かりとして用いられうる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係る周波数空間上でのテクスチャ記述方法を示すフローチャートである。
【図2】本発明で各チャンネル別テクスチャ記述子を抽出するために使用する周波数空間分割レイアウトを示す図である。
【図3】本発明で各チャンネル別テクスチャ記述子を抽出するために使用するガボールフィルタの構造を説明するための図である。
【符号の説明】
S11 任意の映像を入力する段階
S12 入力された映像をフーリエ変換する段階
S13 周波数空間分割レイアウトを使用してフィルタリングを行う段階
S15 ガボールフィルタリングされた映像のテクスチャ特徴を抽出する段階

Claims (22)

  1. 映像のテクスチャ情報を記述する方法において、
    時間領域の映像を周波数領域の映像に変換する第1段階と、
    NとMを各々所定の正の整数とする時、変換された周波数領域の映像をN×M個のフィルタリング領域を有するガボールフィルタを使用してフィルタリングする第2段階と、
    前記ガボールフィルタのN×Mフィルタ領域に対応する周波数空間分割レイアウトの各チャンネルから前記ガボールフィルタリングされた映像のテクスチャ特徴値を抽出する第3段階と、
    前記映像のテクスチャ特徴値を用いて前記映像のテクスチャ記述子を記述する第4段階とを含むことを特徴とする周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  2. 前記第1段階は、
    前記時間領域の映像を2次元フーリエ変換し、直交座標系周波数領域の映像に変換することを特徴とする請求項1に記載の周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  3. 前記第1段階は、
    前記時間領域の映像をラドン変換した後で1次元フーリエ変換し、極座標系周波数領域の映像に変換することを特徴とする請求項1に記載の周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  4. 前記第3段階の前記周波数空間分割レイアウトは、人間視覚認知システム(HVS)に基づいて作ることを特徴とする請求項1ないし請求項3のうちいずれか一項に記載の周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  5. 前記周波数空間分割レイアウトは、
    周波数空間を放射方向にオクターブ間隔で原点から遠ざかる方向に分割し、角度方向に‘180/分割解像度’間隔で分割して作ることを特徴とする請求項4に記載の周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  6. 前記周波数空間分割レイアウトの各チャンネルについて重要度または優先順位を与えることを含むことを特徴とする請求項4に記載の周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  7. 前記第3段階は、
    前記周波数空間分割レイアウトの各チャンネルから前記ガボールフィルタリングされた映像のエネルギー平均値とエネルギー分散値とのうち少なくとも一つの値を特徴値として抽出することを特徴とする請求項4に記載の周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  8. 前記テクスチャ記述子はDCチャンネルのエネルギーと、映像の全体画素値の分散と、各チャンネル別に求められたエネルギー平均値及び/または各チャンネル別に求められたエネルギー分散値とを含むことを特徴とする請求項7に記載の周波数空間上でのガボールフィルタを用いたテクスチャ記述方法。
  9. コンピュータに、
    時間領域の映像を周波数領域の映像に変換する第1段階と、
    NとMを各々所定の正の整数とする時、前記周波数領域の映像をN×M個のフィルタ領域を有するガボールフィルタを使用してフィルタリングする第2段階と、
    前記ガボールフィルタのN×Mフィルタ領域に対応する周波数空間分割レイアウトの各チャンネルから前記ガボールフィルタリングされた映像のテクスチャ特徴値を抽出する第3段階と、
    前記映像のテクスチャ特徴値を用いて前記映像のテクスチャ記述子を記述する第4段階とを実行させるためのプログラムを記録したコンピュータで読出しうる記録媒体。
  10. 質疑映像と類似のデータ映像をテクスチャ基盤検索する方法において、
    データベースに貯蔵するデータ映像を周波数領域に変換し、データテクスチャ記述子をガボールフィルタを用いて抽出して貯蔵する第1段階と、
    質疑映像が入力されれば前記質疑映像を、質疑テクスチャ記述子をガボールフィルタを用いて抽出して貯蔵する第2段階と、
    前記データテクスチャ記述子と質疑テクスチャ記述子とを整合して二つのテクスチャ記述子間の距離を測定する第3段階と、
    前記二つのテクスチャ記述子間の距離によって二つの映像の類似度を判定する第4段階とを含むことを特徴とする周波数空間上でガボールフィルタを用いたテクスチャ基盤映像検索方法。
  11. 前記第1段階と第2段階とで、
    前記データテクスチャ記述子と質疑テクスチャ記述子とを抽出する過程は、
    時間領域の映像を周波数領域の映像に変換する第1下位段階と、
    NとMを各々所定の正の整数とする時、前記周波数領域の映像をN×M個のフィルタ領域を有するガボールフィルタを使用してフィルタリングする第2下位段階と、
    前記ガボールフィルタのN×Mフィルタ領域に対応する周波数空間分割レイアウトの各チャンネルから前記ガボールフィルタリングされた映像のテクスチャ特徴値を抽出する第3下位段階と、
    前記映像のテクスチャ特徴値を用いて前記映像のテクスチャ記述子を記述する第4下位段階とを含むことを特徴とする請求項10に記載の周波数空間上でガボールフィルタを用いたテクスチャ基盤映像検索方法。
  12. 前記第1下位段階は、
    前記時間領域の映像を2次元フーリエ変換し、直交座標系周波数領域の映像に変換することを特徴とする請求項11に記載の周波数空間上でガボールフィルタを用いたテクスチャ基盤映像検索方法。
  13. 前記第1下位段階は、
    前記時間領域の映像をラドン変換した後で1次元フーリエ変換し、極座標系周波数領域の映像に変換することを特徴とする請求項11に記載の周波数空間上でガボールフィルタを用いたテクスチャ基盤映像検索方法。
  14. 前記第3下位段階の前記周波数空間分割レイアウトは、人間視覚認知システム(HVS)に基づいて作ることを特徴とする請求項11ないし請求項13のうちいずれか一項に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  15. 前記周波数空間分割周波数レイアウトは、
    周波数空間を放射方向にオクターブ間隔で原点から遠ざかる方向に分割し、角度方向に‘180/分割解像度’間隔で分割して作られたことを特徴とする請求項14に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  16. 前記周波数空間分割レイアウトの各チャンネルの重要度または優先順位を付与することを含むことを特徴とする請求項14に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  17. 前記第3下位段階は、
    前記周波数空間分割レイアウトの各チャンネルから前記ガボールフィルタリングされた映像のエネルギー平均値とエネルギー分散値とのうち少なくとも一つの値を特徴値として抽出することを特徴とする請求項14に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  18. 前記テクスチャ記述子はDCチャンネルのエネルギーと、映像の全体画素値の分散と、各チャンネル別に求められたエネルギー平均値及び/または各チャンネル別に求められたエネルギー分散値を含むことを特徴とする請求項17に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  19. 前記第3下位段階で二つのテクスチャ記述子間の距離は、各チャンネル別に抽出された特徴値を各々比較して測定することを特徴とする請求項17に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  20. 前記質疑映像を周波数領域で一定角度ずつ回転しつつ前記データ映像との距離を測定し、最小になる距離を二つの映像間の距離と設定することを特徴とする請求項19に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  21. 前記質疑映像を周波数領域で大きさ変換しつつ前記データ映像との距離を測定し、最小になる距離を二つの映像間の距離と設定することを特徴とする請求項19に記載の周波数空間上でのガボールフィルタを用いたテクスチャ基盤映像検索方法。
  22. コンピュータに、
    データ映像をガボールフィルタを用いてフィルタリングすることによってデータテクスチャ記述子を抽出し、抽出されたデータテクスチャ記述子をデータベースに貯蔵する第1段階と、
    質疑映像が入力されれば前記質疑映像を周波数領域の映像に変換し、変換された映像をガボールフィルタリングすることによって特徴値を抽出し、抽出された特徴値を質疑テクスチャ記述子として決定する第2段階と、
    前記データテクスチャ記述子と前記質疑テクスチャ記述子とを整合して二つのテクスチャ記述子間の距離を測定する第3段階と、
    前記二つのテクスチャ記述子間の距離によって二つの映像の類似度を判定する第4段階とを実行させるためのプログラムを記録したコンピュータで読出しうる記録媒体。
JP2001542051A 1999-12-03 2000-11-30 周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法 Expired - Fee Related JP3560159B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR1999-54904 1999-12-03
KR19990054904 1999-12-03
KR2000-62260 2000-10-23
KR1020000062260A KR100355404B1 (ko) 1999-12-03 2000-10-23 주파수 공간상에서의 가보 필터를 이용한 질감표현방법 및질감기반 영상 검색방법
PCT/KR2000/001387 WO2001041071A1 (en) 1999-12-03 2000-11-30 Texture description method and texture-based image retrieval method using gabor filter in frequency domain

Publications (2)

Publication Number Publication Date
JP2003515852A JP2003515852A (ja) 2003-05-07
JP3560159B2 true JP3560159B2 (ja) 2004-09-02

Family

ID=26636401

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001542051A Expired - Fee Related JP3560159B2 (ja) 1999-12-03 2000-11-30 周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法

Country Status (11)

Country Link
US (1) US6870965B2 (ja)
EP (1) EP1159709A4 (ja)
JP (1) JP3560159B2 (ja)
KR (1) KR100355404B1 (ja)
CN (1) CN1319030C (ja)
AU (1) AU767153B2 (ja)
BR (1) BR0007955A (ja)
CA (1) CA2360364C (ja)
MX (1) MXPA01007847A (ja)
NZ (1) NZ513086A (ja)
WO (1) WO2001041071A1 (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000046750A1 (en) * 1999-02-05 2000-08-10 Samsung Electronics Co., Ltd. Image texture retrieving method and apparatus thereof
GB2388761B (en) * 1999-07-09 2004-01-21 Korea Electronics Telecomm Texture description method and texture-based retrieval method in frequency domain
KR100355404B1 (ko) * 1999-12-03 2002-10-11 삼성전자 주식회사 주파수 공간상에서의 가보 필터를 이용한 질감표현방법 및질감기반 영상 검색방법
JP3550681B2 (ja) * 1999-12-10 2004-08-04 日本電気株式会社 画像検索装置及び方法、並びに類似画像検索プログラムを格納した記憶媒体
IL146597A0 (en) * 2001-11-20 2002-08-14 Gordon Goren Method and system for creating meaningful summaries from interrelated sets of information
JP2003006643A (ja) 2001-06-25 2003-01-10 Canon Inc 画像処理装置及びその方法、プログラム
KR100477801B1 (ko) * 2002-12-26 2005-03-22 한국전자통신연구원 3차원 영상정보 기술장치와 그 방법 및 이를 이용한 3차원영상정보 검색장치 및 그 방법
EP1498848A3 (en) * 2003-07-18 2007-03-07 Samsung Electronics Co., Ltd. GoF/GoP texture description, and texture-based GoF/GoP retrieval
JP4345426B2 (ja) * 2003-10-07 2009-10-14 ソニー株式会社 画像照合方法、プログラム、および画像照合装置
JP2006195536A (ja) * 2005-01-11 2006-07-27 Ntt Data Corp 画像処理装置、画像処理方法及びプログラム
CN100369047C (zh) * 2005-04-30 2008-02-13 中国科学院计算技术研究所 一种基于Gabor相位模式的图像识别方法
KR101161803B1 (ko) 2005-05-25 2012-07-03 삼성전자주식회사 가버 필터 및 그것의 필터링 방법, 그리고 그것을 이용한영상 처리 방법
US7941002B2 (en) * 2006-12-01 2011-05-10 Hewlett-Packard Development Company, L.P. Apparatus and methods of producing photorealistic image thumbnails
CN101236646B (zh) * 2007-01-30 2011-09-14 宝利微系统控股公司 在频率域检测与估计图像显著的强相关方向的方法和系统
CN101276363B (zh) * 2007-03-30 2011-02-16 夏普株式会社 文档图像的检索装置及文档图像的检索方法
DE102007019057A1 (de) 2007-04-23 2008-10-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Bestimmen eines Kanten-Histogramms, Vorrichtung und Verfahren zum Ablegen eines Bildes in einer Bilddatenbank, Vorrichtung und Verfahren zum Auffinden von zwei ähnlichen Bildern und Computerprogramm
US20080281182A1 (en) * 2007-05-07 2008-11-13 General Electric Company Method and apparatus for improving and/or validating 3D segmentations
KR100932210B1 (ko) * 2007-10-12 2009-12-16 광주과학기술원 영상 특징 추출 방법 및 장치, 이를 이용한 컨텐츠 기반의영상 검색 방법 및 장치 그리고 상기 방법들을 수행하는프로그램이 기록된 기록 매체
CN102113306A (zh) 2008-03-20 2011-06-29 惠普开发有限公司 基于缩略图的图像质量检查
JP4950970B2 (ja) * 2008-09-18 2012-06-13 日本放送協会 画像特徴抽出装置
BRPI1014232A2 (pt) * 2009-06-09 2016-04-12 Sony Corp aparelho para gerar múltiplas árvores de codificação de candidato para uso durante codificação, sistema para codificação e de codificação adaptável de imagens ou vídeos, e, método para gerar múltiplas árvores de codificação de candidato
US8670606B2 (en) * 2010-01-18 2014-03-11 Disney Enterprises, Inc. System and method for calculating an optimization for a facial reconstruction based on photometric and surface consistency
US9317970B2 (en) 2010-01-18 2016-04-19 Disney Enterprises, Inc. Coupled reconstruction of hair and skin
CN101777121A (zh) * 2010-03-02 2010-07-14 中国海洋大学 一种无角毛类赤潮藻显微图像细胞目标提取方法
WO2012064522A1 (en) 2010-11-12 2012-05-18 3M Innovative Properties Company Rapid processing and detection of non-uniformities in web-based materials
CN102081797B (zh) * 2010-12-30 2013-01-09 天津大学 应用于轮胎x光图像胎冠部位多带束层纹理分离方法
KR20140031201A (ko) 2011-02-24 2014-03-12 쓰리엠 이노베이티브 프로퍼티즈 캄파니 웨브 기반 재료 내의 불균일성의 검출 시스템
CN102332163B (zh) * 2011-10-24 2013-07-31 刘国英 基于三层fcm聚类的小波域多尺度非监督纹理分割方法
KR101241983B1 (ko) 2011-11-18 2013-03-11 인하대학교 산학협력단 정렬된 주변화소 차에 기반한 회전불변 질감 특성 추출 방법
CN102567483B (zh) * 2011-12-20 2014-09-24 华中科技大学 多特征融合的人脸图像搜索方法和系统
CN103455817A (zh) * 2013-04-28 2013-12-18 南京理工大学 一种鲁棒的时空域的人体特征提取方法
KR102048885B1 (ko) * 2013-05-09 2019-11-26 삼성전자 주식회사 그래픽 프로세싱 유닛, 이를 포함하는 그래픽 프로세싱 시스템, 및 이를 이용한 렌더링 방법
CN104504667B (zh) * 2014-12-18 2017-08-29 北京智谷睿拓技术服务有限公司 图像处理方法及装置
CN106295613A (zh) * 2016-08-23 2017-01-04 哈尔滨理工大学 一种无人机目标定位方法及系统
CN107862709B (zh) * 2017-09-28 2020-03-27 北京华航无线电测量研究所 一种多方向模式连接规则的图像纹理描述方法
CN109389148B (zh) * 2018-08-28 2021-11-23 昆明理工大学 一种基于改进DHash算法的图像相似判定方法
CN112560893B (zh) * 2020-11-13 2022-11-04 贝壳技术有限公司 图片纹理匹配方法、装置、电子介质及存储介质
US20230086521A1 (en) * 2021-09-20 2023-03-23 Tencent America LLC Feature compression for video coding for machines
CN116843689B (zh) * 2023-09-01 2023-11-21 山东众成菌业股份有限公司 一种菌盖表面破损检测方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5101270A (en) * 1990-12-13 1992-03-31 The Johns Hopkins University Method and apparatus for radon transformation and angular correlation in optical processors
JP3026712B2 (ja) * 1993-12-09 2000-03-27 キヤノン株式会社 画像検索方法及びその装置
CA2227184A1 (en) * 1995-07-19 1997-02-06 Morphometrix Technologies Inc. Window texture extraction for image analysis
JPH1011454A (ja) * 1996-06-20 1998-01-16 Nippon Telegr & Teleph Corp <Ntt> 映像素材検索方法及び装置
US6647058B1 (en) * 1997-06-23 2003-11-11 Paradyne Corporation Performance customization system and process for optimizing XDSL performance
JPH11110556A (ja) * 1997-10-02 1999-04-23 Ntt Data Corp 画像類似度判定方法、類似画像判定装置及び記録媒体
KR20000013751A (ko) * 1998-08-12 2000-03-06 서평원 Cdma 시스템에서 소프트 핸드 오프시 이동국의 송신 전력제어 방법
US6192150B1 (en) * 1998-11-16 2001-02-20 National University Of Singapore Invariant texture matching method for image retrieval
WO2000046750A1 (en) * 1999-02-05 2000-08-10 Samsung Electronics Co., Ltd. Image texture retrieving method and apparatus thereof
US6424741B1 (en) 1999-03-19 2002-07-23 Samsung Electronics Co., Ltd. Apparatus for analyzing image texture and method therefor
US6259396B1 (en) * 1999-08-26 2001-07-10 Raytheon Company Target acquisition system and radon transform based method for target azimuth aspect estimation
KR100616229B1 (ko) * 1999-09-16 2006-08-25 주식회사 팬택앤큐리텔 텍스쳐 영상 검색 장치 및 그 방법
KR100788642B1 (ko) * 1999-10-01 2007-12-26 삼성전자주식회사 디지털 영상 텍스쳐 분석 방법
KR100355404B1 (ko) * 1999-12-03 2002-10-11 삼성전자 주식회사 주파수 공간상에서의 가보 필터를 이용한 질감표현방법 및질감기반 영상 검색방법
KR20020011529A (ko) * 2000-08-02 2002-02-09 송문섭 주파수 평면 분할 특징값과 저니크 변환을 이용한 영상의특징추출 방법/장치 및 그를 이용한 영상 검색 방법 및 장치

Also Published As

Publication number Publication date
KR20010078707A (ko) 2001-08-21
NZ513086A (en) 2004-11-26
CN1319030C (zh) 2007-05-30
US6870965B2 (en) 2005-03-22
KR100355404B1 (ko) 2002-10-11
US20010031103A1 (en) 2001-10-18
MXPA01007847A (es) 2004-03-10
CN1342300A (zh) 2002-03-27
WO2001041071A1 (en) 2001-06-07
EP1159709A4 (en) 2007-04-18
CA2360364A1 (en) 2001-06-07
CA2360364C (en) 2007-09-04
AU1900201A (en) 2001-06-12
BR0007955A (pt) 2002-04-09
EP1159709A1 (en) 2001-12-05
JP2003515852A (ja) 2003-05-07
AU767153B2 (en) 2003-10-30

Similar Documents

Publication Publication Date Title
JP3560159B2 (ja) 周波数空間上でのガボールフィルタを用いたテクスチャ記述方法及びテクスチャ基盤映像検索方法
JP4733813B2 (ja) 周波数空間上における質感表現方法
JP3635368B2 (ja) 内容基盤イメージ検索システム及びその検索方法
Milanese et al. A rotation, translation, and scale-invariant approach to content-based image retrieval
Jian et al. Content-based image retrieval via a hierarchical-local-feature extraction scheme
Wang et al. Duplicate discovery on 2 billion internet images
JP2000311246A (ja) 類似画像表示方法及び類似画像表示処理プログラムを格納した記録媒体
Sundara Vadivel et al. An efficient CBIR system based on color histogram, edge, and texture features
Song et al. Analyzing scenery images by monotonic tree
Chen et al. Contourlet-1.3 texture image retrieval system
JP2011100293A (ja) 情報処理装置及びその制御方法、プログラム
Ling et al. Fine-search for image copy detection based on local affine-invariant descriptor and spatial dependent matching
Shambharkar et al. A comparative study on retrieved images by content based image retrieval system based on binary tree, color, texture and canny edge detection approach
Kumar et al. HPCIR: histogram positional centroid for image retrieval
Barkalle et al. An Effective Content Based Image Retrieval System Based on Global Representation and Multi-Level Searching
Sugamya et al. A comparative analysis for CBIR using fast discrete curvelet transform
Jeong et al. An efficient method of image identification by combining image features
Gancarczyk et al. Shape based retrieval of ownership and production marks in historical documents
Alqaraleh et al. A Comparison Study on Image Content Based Retrieval Systems
Kothyari et al. A Comprehensive Study of Content based Image Retrieval
Tiwari Image Retrieval using Hybrid Technique
Barcelos et al. Texture image retrieval: A feature-based correspondence method in fourier spectrum
Raut et al. Overview of Content Base Image Retrieval
Foo Detection of near-duplicates in large image collections
MUNJE et al. NOVEL CONTENT–BASED IMAGE RETRIEVAL TECHNIQUES FOR MEDICAL DATABASE

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040420

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040519

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090604

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100604

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100604

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100604

Year of fee payment: 6

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100604

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110604

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110604

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120604

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120604

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130604

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees