JP3276547B2 - 画像認識方法 - Google Patents

画像認識方法

Info

Publication number
JP3276547B2
JP3276547B2 JP31383895A JP31383895A JP3276547B2 JP 3276547 B2 JP3276547 B2 JP 3276547B2 JP 31383895 A JP31383895 A JP 31383895A JP 31383895 A JP31383895 A JP 31383895A JP 3276547 B2 JP3276547 B2 JP 3276547B2
Authority
JP
Japan
Prior art keywords
shape
image
autocorrelation
resolution
same
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP31383895A
Other languages
English (en)
Other versions
JPH09153137A (ja
Inventor
進 関
茂喜 長屋
隆一 岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP31383895A priority Critical patent/JP3276547B2/ja
Priority to US08/672,759 priority patent/US5838839A/en
Publication of JPH09153137A publication Critical patent/JPH09153137A/ja
Application granted granted Critical
Publication of JP3276547B2 publication Critical patent/JP3276547B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、例えば、カメラに
よって撮影した画像において、画像中の対象物体の数や
位置を求めるとともに、予め記憶されている基準画像と
の自己相関関数を比較することにより、形状の同定を行
うことも可能とする画像認識方法に関するものである。
【0002】
【従来の技術】画像中の対象の形状特徴を対象の位置に
よらずに認識する手法として、栗田らは、入力画像に対
して解像度の異なる画像を作成し、それに対して3×3
のマスクを用いて高次の自己相関を求める手法を提案し
た(T.Kurita,N.Otsu,and T.sato:‘A Face Recognition
Method Using Higher Order Local Autocorrelation A
nd Multivariate Analysis‘,pp213-216,ICPR,(199
2).)。この手法は、小さいスケールの特徴と、大きいス
ケールの特徴をそれぞれとらえることができるので、対
象の細かな形状まで認識することができる。
【0003】しかしながら、上記方法では、複数の対象
が同一画像中に存在する場合は、最初に、対象領域の矩
形の切り出しを別の処理によって行わなければならず、
処理が複雑になる虞がある。また、形状という位置によ
らない特徴は一般的に位置情報とは独立に求めるため、
位置情報が必要な場合には、別途処理を行わなければな
らない。また、通常、対象が基準となる形状と同じ形状
でも大きさが異なるものの識別を行う場合には、画像を
サイズに合わせて正規化を行うという処理を必要として
いる。
【0004】
【発明が解決しようとする課題】本発明は、このような
従来における問題点に鑑みてなされたもので、その課題
は、画像中の対象が人間のように連続性を仮定できる場
合に、形状を求めると同時に対象の切り出しを行い、ま
た、形状だけではなく位置情報も同時に得ることがで
き、更に、大きさが異なるが形状が同じものの認識を行
うことを可能とする画像認識方法を提供することにあ
る。
【0005】
【課題を解決するための手段】請求項1の発明は、入力
画像データの解像度を変更することによって形状自己相
関を求め、求められた入力画像における形状自己相関
と、あらかじめ記憶されている標準形状について求めら
れた形状自己相関とを比較することによって画像を認識
する画像認識方法において、解像度ごとに近傍相関を求
め、求められた近傍相関によって対象の切り出しを行
い、この近傍相関により切り出された対象それぞれの形
状自己相関を求めることにより得る多重解像度特徴を用
いるようにし、入力画像中の各画素の接続関係を調べる
と共に、相関値を求めることにより対象の切り出しを行
い、切り出された複数の対象の形状認識の処理を同時に
行うので、処理を単純化し得るものである。
【0006】請求項2の発明は、請求項1の発明におい
て、前記近傍相関を求める際に、求めようとする画像に
おける画素の座標情報を保存しておくことにより、前記
対象の形状特徴と位置情報を同時に求めるようにし、相
関値を求めると同時に、座標値を求め、形状情報と重心
位置といった位置情報を同時に検出できるので、複数の
対象の相互の関係も分かるようにするものである。
【0007】請求項3の発明は、請求項1の発明におい
て、前記した標準形状について求められた形状自己相関
との比較に際して、自己相関関数の対数をとることによ
り、大きさが異なるが同じ形状をしている対象の識別を
行うようにし、形のみを純粋に認識し得るようにするも
のである。
【0008】
【発明の実施の形態】以下、本発明の実施の形態を図面
に沿って説明する。図1は、本発明の画像認識方法を実
施するための画像認識装置の概略構成の一例を示すもの
である。画像データ入力手段1から入力された画像デー
タは、例えば、1画素8bitでL×Mの画像サイズを
有するが、画像サイズ縮小処理手段2により解像度1か
ら解像度nの縮小画像1〜nとされる。この縮小画像1
〜nは、例えば、1画素32bitの浮動小数点数でサ
イズは、解像度r1からrnによって、(L/r1)×
(M/r1)から(L/rn)×(M/rn)のサイズを
有する。また、標準形状自己相関を記憶するメモリ6は
基準となる動作数をpとすると、n×p×9の32bi
tの浮動小数点数を有する。図2は、解像度rでの縮小
画像の生成例を説明するための図を示すものである。図
2に示されると同様にして、画像サイズ縮小処理手段2
は、L×Mの入力画像データをn種類の解像度r1から
nに従って各々r1×r1からrn×rnの正方形の画素
領域を加算し、(L/r1)×(M/r1)から(L/r
n)×(M/rn)の縮小画像を作成する。
【0009】そして、各解像度の縮小画像1〜nに対し
て、各画素と、その周囲のつながり方を知るために、各
画素毎に注目している画素の周辺の8方向の画素との積
を計算する。図3は、この計算を縮小画像全体にわたっ
て行う場合の概略図を示すものである。ここに、この計
算は、解像度rのとき、座標(i,j)の画素値をP
(i,j;r)とすると,座標(i,j)で次のように
表わされる。
【0010】
【数1】
【0011】この各解像度での座標を変数とした8個の
値をもつ関数C→(i,j;r)を近傍相関と定義す
る。図1の例では、画像サイズ縮小処理手段2で求めた
各縮小画像1〜nの各々の画像について、近傍相関処理
手段3で近傍相関31〜3nをとることになる。このよう
にして求めた近傍相関31〜3nにおいて、近傍相関の値
が0でない画素との間は接続していて同一対象であると
いう判断をすることになる。
【0012】こうして対象が切り出されるが、このと
き、切り出された相異なる対象の数をK(r)とする。
また、切り出された同一対象の領域に対して8近傍の画
素値との積を各々の方向に加算し、その値をその対象の
形状相関Xのある解像度rでの値X(r;同一対象)と
定義する。 X(r;同一対象)=ΣC→(i,j;r;同一対象) …(2) また、近傍相関を計算する際に同一対象ではその画素値
の和をとり、それを面積A(;同一対象)として計算す
る。 A(r;同一対象)=ΣP(i,j;r;同一対象) …(3) また、画素の座標と画素値から重心G→(r;同一対
象)を計算する。 G→(r;同一対象) =Σ(i,j)P(i,j;r;同一対象)/A(r;同一対象)…(4) X(r;同一対象),A(r;同一対象),G→(r;
同一対象)を求める計算は、いずれも画像中各画素毎に
行うので、処理として、各解像度毎に1度ずつ画像上で
計算するだけですむ。
【0013】図1の、対象数え上げ,形状自己相関,位
置抽出処理手段4では、下記のような処理を行う。ま
ず、解像度間の対象数K(r)を比較する。このとき、
K(r)が同じである解像度の範囲がある一定数以上で
ある場合、このときの範囲ではノイズの影響が少ないと
考えられる。そこで、この範囲の形状を調べるための解
像度範囲とし、そのときの対象数の個数を実際の対象の
個数と決定する。このようにして決定された解像度範囲
内で各対象の位置関係から解像度間の同一対象の対応づ
けを行う。そして、最も細かい解像度の面積をその対象
の面積,そのときの重心を重心として決定する。更に、
各対象毎の解像度の関数として形状自己相関を求める
が、これは、通常の自己相関関数の近似となっている。
ここに、この形状自己相関と、近傍相関を併せて多重解
像度特徴と呼ぶ。
【0014】図1の形状認識処理手段6では、予め求め
られ標準形状自己相関データメモリ5に記憶されている
データをもとに各対象について形状認識処理手段6によ
り形状の識別を行う。このとき、大きさの異なる図形を
違うものとして認識したい場合は、直接に形状自己相関
を比較すれば良い。また、大きさは異なるが形状が同じ
ものを同一として認識したい場合は、自己相関関数の対
数及び解像度の対数、すなわち、
【0015】
【数2】
【0016】をとり、それを基にして差分を求める。こ
のようにすると、図形の大きさの効果を消すことができ
る。
【0017】図4は、上述したところの処理の流れを示
すフローチャートである。図4において、最初に撮像装
置等の画像データ入力手段によって、対象となるフレー
ム画像を入力する(S1)。次に、最も粗い解像度の画
像を作成する(S2)。そして、次の解像度の画像に対
して相関値を計算しながら接続関係を調べる。このと
き、同時に、画素値を用いて面積を、画素値と画素の座
標情報を用いて重心を計算する(S3)。そして、接続
関係をもとに対象数を調べる(S4)。このとき解像度
が1つ粗い画像と対象数が同じであるかを調べ(S
5)、同じであれば、解像度が最も細かくない時(S
9)には、次に細かい解像度の画像を作成し(S6)、
同様の処理を続ける。最も細かければ、処理を終了す
る。対象数の数が1つ粗い解像度の画像と同じでない時
(S5)、対象数の数が同じ解像度がある閾値Kを越え
ていれば(S7)、解像度間の対象の対応づけを行い、
自己相関関数を求め、形状認識を行い(S8)、処理を
終了する。
【0018】このように求めた形状自己相関の形状識別
の有効性及び近傍相関の対象の切り出し能力を調べるた
めに実験を行った。図5は、実験に用いた入力画像を示
すもので、図示のように、4つの図形で構成された画像
とした。ここで、左側の☆を星1、右側の☆を星2とす
る。自己相関関数を求めたところ、図6のような結果が
得られた。この結果、4つの図形を分離できること、2
種類の☆はグラフの値が一致するが、☆,△,○の3種
類の図形は一致せず、識別できることが分かった。な
お、図6のグラフでは4つのそれぞれの図形について各
解像度毎に5つの値がプロットされている。本来8つの
値を表示しなければならないが、実際には図3に示した
注目画素の周囲の8つの近傍のうち、対称な位置にある
1と8、2と7、3と6、4と5は同じ相関値をもつの
で5,6,7,8の値の表示を省略し、独立な1,2,
3,4の近傍の値を表示している。図6のグラフで各解
像度での1番左の値は、注目画素と近傍の画素の積の代
わりに、注目画素自身の自乗をもとにした相関値を、近
傍との相関値との比較のためにプロットしている。
【0019】次に、大きさの異なる対象への有効性を調
べた。入力画像として図7に示すサイズの異なる2種類
の☆である星(大),星(小)の2枚の画像を用いた。
その結果、図8に示すように、直接形状自己相関を比較
すると同じ形でも形状自己相関は一致しない。しかし、
解像度としてある定数の巾r1=a,…,rn=(aのn
乗)をとり、形状自己相関の対数を次に細かい形状自己
相関値との間で差分をとり、図9の解像度方向、すなわ
ち、横軸方向にずらしてマッチングしてプロットすると
値が殆んど一致し、異なる大きさの対象の認識が可能で
あることが分かる。このずらしは解像度という1つのパ
ラメータの単なるスケールシフトなので、計算量は少な
くてすむ。なお、図8及び図9のグラフでは、図6のグ
ラフと同様に、8近傍のうちの独立な4つの値と、注目
画素自身の相関値を併せた5つの値を各解像度毎に表示
している。
【0020】また、図10に示すような、実際にカメラ
で撮影した画像として、二人の人物が同一シーンに存在
する画像を用いて切り出し、及び、ジェスチャの認識,
重心と面積の検出を試みた。但し、人物の映っている画
像と予め撮影しておいた、背景のみの画像を画素毎に比
較し、画素値がほとんど同じ画素は背景として画素値を
0にしたものを入力画像として利用した。このような単
純な背景処理では、多くのノイズが現れるが、本手法を
適用したところ、2人の人物の切り出し,重心の検出,
面積計算,ポーズの認識(図10に即していうと、「直
立」あるいは「挙手」のいずれかのポーズであるか)を
行うことができた。
【0021】
【発明の効果】以上、説明したように、本発明によれ
ば、画像上の複数の対象を分離し形状を識別できる、と
共に、その対象の位置,面積を同時に検出できる。これ
により、例えば、複数の人物が存在している画像から、
それぞれの人物がどのような位置関係でどのようなポー
ズをとっているかが分かり、ヒューマン・インタフェー
スや監視などに有用である。
【図面の簡単な説明】
【図1】本発明の画像認識方法を実施するための装置の
概略構成の一例を示すものである。
【図2】解像度rでの縮小画像の生成例を示すものであ
る。
【図3】近傍相関を縮小、画像全体にわたって行う場合
の概念図を示すものである。
【図4】本発明の画像認識方法の実施の形態における処
理の流れを示すフローチャートである。
【図5】実験に用いた4つのパターンの存在する入力画
像を示す。
【図6】実験に用いた4つのパターンの形状自己相関の
結果を示すグラフである。
【図7】実験に用いた大きさの異なる同じ形の入力画像
を示す。
【図8】実験に用いた大きさが異なる対象の形状自己相
関の結果を示すグラフである。
【図9】形状自己相関を対数化し、解像度による差分を
求めることにより得た結果を示すグラフである。
【図10】実際にカメラで撮影した、2人の異なるポー
ズをとる人物が存在する入力画像を示すものである。
【符号の説明】
1…画像データ入力手段、2…画像サイズ縮小処理手
段、3…近傍相関処理手段、4…対象数え挙げ,形状自
己相関,位置抽出処理手段、5…標準形状自己相関デー
タメモリ、6…形状認識処理手段、S1〜S9…処理ス
テップ。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 岡 隆一 茨城県つくば市竹園1丁目6番1号 つ くば三井ビル RWCPつくば研究セン タ内 (56)参考文献 特開 昭61−211783(JP,A) 特開 平6−160993(JP,A) 栗田多喜夫外2名,高次局所自己相関 特徴を用いた顔画像の識別,情報処理学 会第45回全国大会講演論文集(2),社 団法人情報処理学会,1992年9月28日, pp.2−247〜2−248 (58)調査した分野(Int.Cl.7,DB名) G06T 7/00 - 7/60 JICSTファイル(JOIS)

Claims (3)

    (57)【特許請求の範囲】
  1. 【請求項1】 入力画像データの解像度を変更すること
    によって形状自己相関を求め、求められた入力画像にお
    ける形状自己相関と、あらかじめ記憶されている標準形
    状について求められた形状自己相関とを比較することに
    よって画像を認識する画像認識方法において、解像度ご
    とに近傍相関を求め、求められた近傍相関によって対象
    の切り出しを行い、この近傍相関により切り出された対
    象それぞれの形状自己相関を求めることにより得る多重
    解像度特徴を用いるようにしたことを特徴とする画像認
    識方法。
  2. 【請求項2】 前記近傍相関を求める際に、求めようと
    する画像における画素の座標情報を保存しておくことに
    より、前記対象の形状特徴と位置情報を同時に求めるよ
    うにしたことを特徴とする請求項1記載の画像認識方
    法。
  3. 【請求項3】 前記した標準形状について求めた形状自
    己相関との比較に際して、自己相関関数の対数をとるこ
    とにより、大きさが異なるが同じ形状をしている対象の
    識別を行うようにしたことを特徴とする請求項1記載の
    画像認識方法。
JP31383895A 1995-12-01 1995-12-01 画像認識方法 Expired - Lifetime JP3276547B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP31383895A JP3276547B2 (ja) 1995-12-01 1995-12-01 画像認識方法
US08/672,759 US5838839A (en) 1995-12-01 1996-06-28 Image recognition method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP31383895A JP3276547B2 (ja) 1995-12-01 1995-12-01 画像認識方法

Publications (2)

Publication Number Publication Date
JPH09153137A JPH09153137A (ja) 1997-06-10
JP3276547B2 true JP3276547B2 (ja) 2002-04-22

Family

ID=18046127

Family Applications (1)

Application Number Title Priority Date Filing Date
JP31383895A Expired - Lifetime JP3276547B2 (ja) 1995-12-01 1995-12-01 画像認識方法

Country Status (2)

Country Link
US (1) US5838839A (ja)
JP (1) JP3276547B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4604439B2 (ja) * 1999-08-19 2011-01-05 ソニー株式会社 画像処理装置及び画像処理方法、並びに記録媒体
US7365873B2 (en) * 2000-01-27 2008-04-29 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and storage medium
US6993719B1 (en) 2000-02-11 2006-01-31 Sony Corporation System and method for animated character photo-editing interface and cross-platform education icon
US7136528B2 (en) 2000-02-11 2006-11-14 Sony Corporation System and method for editing digital images
US7262778B1 (en) 2000-02-11 2007-08-28 Sony Corporation Automatic color adjustment of a template design
JP4532678B2 (ja) * 2000-06-16 2010-08-25 キヤノン株式会社 パターン検出装置及び方法、画像処理装置及び方法、ニューラルネットワーク装置
KR100543706B1 (ko) * 2003-11-28 2006-01-20 삼성전자주식회사 비젼기반 사람 검출방법 및 장치
US7504942B2 (en) 2006-02-06 2009-03-17 Videoiq, Inc. Local verification systems and methods for security monitoring
US7774951B2 (en) * 2006-10-04 2010-08-17 Northwestern University Sensing device with whisker elements
JP5227639B2 (ja) * 2008-04-04 2013-07-03 富士フイルム株式会社 オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出プログラム
US8320634B2 (en) * 2009-07-11 2012-11-27 Richard Deutsch System and method for monitoring protective garments
TWI428508B (zh) * 2011-04-12 2014-03-01 Hon Hai Prec Ind Co Ltd 風扇控制系統、方法及具有該系統的風扇
RU2538941C1 (ru) * 2013-06-14 2015-01-10 Общество с ограниченной ответственностью "Аби Девелопмент" Улучшения качества распознавания за счет повышения разрешения изображений
EP3161728B1 (en) * 2014-10-10 2023-05-17 Beijing Kuangshi Technology Co., Ltd. Hierarchical interlinked multi-scale convolutional network for image parsing
US20160110791A1 (en) 2014-10-15 2016-04-21 Toshiba Global Commerce Solutions Holdings Corporation Method, computer program product, and system for providing a sensor-based environment
KR102474837B1 (ko) * 2015-09-14 2022-12-07 주식회사 한화 전경 추출 방법 및 장치
CN107967677B (zh) * 2017-12-15 2020-02-04 Oppo广东移动通信有限公司 图像处理方法、装置、计算机可读存储介质和计算机设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58115492A (ja) * 1981-12-29 1983-07-09 シャープ株式会社 パタ−ン認識用自己相関器
US5220441A (en) * 1990-09-28 1993-06-15 Eastman Kodak Company Mechanism for determining parallax between digital images
US5440312A (en) * 1991-06-27 1995-08-08 The Commonwealth Of Australia, The Secretary, Department Of Defence Auto correlation technique for -co-ordinate registration
US5550937A (en) * 1992-11-23 1996-08-27 Harris Corporation Mechanism for registering digital images obtained from multiple sensors having diverse image collection geometries
US5619596A (en) * 1993-10-06 1997-04-08 Seiko Instruments Inc. Method and apparatus for optical pattern recognition
US5640468A (en) * 1994-04-28 1997-06-17 Hsu; Shin-Yi Method for identifying objects and features in an image
US5638465A (en) * 1994-06-14 1997-06-10 Nippon Telegraph And Telephone Corporation Image inspection/recognition method, method of generating reference data for use therein, and apparatuses therefor

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
栗田多喜夫外2名,高次局所自己相関特徴を用いた顔画像の識別,情報処理学会第45回全国大会講演論文集(2),社団法人情報処理学会,1992年9月28日,pp.2−247〜2−248

Also Published As

Publication number Publication date
JPH09153137A (ja) 1997-06-10
US5838839A (en) 1998-11-17

Similar Documents

Publication Publication Date Title
JP3276547B2 (ja) 画像認識方法
JP4739355B2 (ja) 統計的テンプレートマッチングによる高速な物体検出方法
US8594396B2 (en) Image processing apparatus, image processing method, and computer program product
US7215798B2 (en) Method for forgery recognition in fingerprint recognition by using a texture classification of gray scale differential images
EP1973060A2 (en) Object image detection method and object image detection device
CN103391424B (zh) 分析监控摄像机捕获的图像中的对象的方法和对象分析器
CN106326832A (zh) 基于物体区域处理图像的装置及方法
JP3134845B2 (ja) 動画像中の物体抽出装置及び方法
JPH07249128A (ja) 車両用画像処理装置
JP4192719B2 (ja) 画像処理装置および方法、並びにプログラム
JP2001043383A (ja) 画像監視システム
JP4096757B2 (ja) 画像追跡装置
JP3230509B2 (ja) 動画像処理装置
JP3957495B2 (ja) 画像センサ
JP3417635B2 (ja) 侵入物体認識方法
JP3507857B2 (ja) 交通流検出装置
JP2008165705A (ja) 画像処理装置及び画像処理方法
JP2007304675A (ja) 画像合成方法および装置ならびにプログラム
WO2005024726A1 (ja) 対象物進行方向検出方法
JP2005072840A (ja) 動体検出装置
JP2001501750A (ja) アイローカリゼーションフィルタ
JP3447751B2 (ja) パターン認識方法
JPH08315149A (ja) 侵入物体認識装置
CN115830304A (zh) 物体检测系统
JPH1091793A (ja) オプティカルフロー算出方法及び装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080208

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080208

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090208

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100208

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110208

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110208

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120208

Year of fee payment: 10

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130208

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130208

Year of fee payment: 11

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term