JP2667885B2 - 移動物体の自動追尾装置 - Google Patents

移動物体の自動追尾装置

Info

Publication number
JP2667885B2
JP2667885B2 JP63277162A JP27716288A JP2667885B2 JP 2667885 B2 JP2667885 B2 JP 2667885B2 JP 63277162 A JP63277162 A JP 63277162A JP 27716288 A JP27716288 A JP 27716288A JP 2667885 B2 JP2667885 B2 JP 2667885B2
Authority
JP
Japan
Prior art keywords
moving object
imaging
image
luminance
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP63277162A
Other languages
English (en)
Other versions
JPH02123877A (ja
Inventor
圭三 川崎
浩 中田
克俊 山地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Heavy Industries Ltd
Original Assignee
Sumitomo Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Heavy Industries Ltd filed Critical Sumitomo Heavy Industries Ltd
Priority to JP63277162A priority Critical patent/JP2667885B2/ja
Publication of JPH02123877A publication Critical patent/JPH02123877A/ja
Application granted granted Critical
Publication of JP2667885B2 publication Critical patent/JP2667885B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Image Analysis (AREA)

Description

【発明の詳細な説明】 [産業上の利用分野] この発明は移動物体をTVカメラ等の撮像装置によつて
撮像し、画像処理によりその移動物体の位置を求めこれ
を繰り返すことで、連続的に移動物体を追尾する移動物
体の自動追尾装置に関するものである。
[従来の技術] この発明は出願人が先に出願した特開昭63−67087号
の改良に関するものである。すなわち、特開昭63−6708
7号では移動物体を識別するのに、撮像フレームの移動
物体を取り囲む所定の枠状の背景領域を設定し、この背
景領域の輝度を背景の平均的な背景輝度とみなし、前記
設定された背景領域内であて背景輝度と異なる輝度を有
する部分を移動物体と判別していた。
[発明が解決しようとする問題点] このため、特開昭63−67087号に記載の構成では、周
囲の背景の輝度と移動物体の輝度との比較判別を行つて
いるため、背景部分に背景領域に存在しない輝度を有す
る移動物体以外の部分が存在した場合には、判別不充分
となる場合もあつた。
そこで、この発明は上記のような先行出願の構成を改
良して、移動物体の輝度に相当する輝度を各撮像フレー
ム毎に順次更新して生成し、この移動物体の輝度そのも
のを判断基準として移動物体の画素を判別することで、
背景の輝度の影響を受けずに的確に移動物体を判別し
て、より確実な移動物体の自動追尾を行うものである。
また、この発明の別の実施例によれば、画像中の移動
物体の面積が小さいような場合でも、移動物体の像を拡
大処理してS/N比を上げ、安定して移動物体の自動追尾
を行うことを目的とする。
[問題点を解決するための手段] この発明による移動物体の自動追尾装置は、移動物体
を撮像して映像信号を出力する撮像装置と、当該撮像装
置からの撮像信号を処理して前記移動物体の自動追尾を
制御する制御信号を発生する制御装置と、前記撮像装置
を支承し前記制御装置からの制御信号に基づいて撮像装
置の撮像方向を制御する駆動台と、からなる移動物体の
自動追尾装置であつて、前記制御装置は初期設定された
移動物体の重心当該物体をとりまく背景ならびに追尾す
る移動物体の最終識別輝度とに基づいて、現在の撮像フ
レームnで得られた画像内の移動物体及びその近傍を含
む矩形領域の輝度ヒストグラムHTR1(i)と、現在の撮
像フレームn内での現在位置と次の撮像フレームn+1
時の移動物体の予測位置とを含んで設定される予測領域
内の輝度ヒストグラムHTR1(i)とを生成する手段と、
この生成する手段で得られた双方の輝度ヒストグラムH
MR(i)と、HTR1(i)を比較判別して次の撮像フレー
ムn+1時点での移動物体の判別輝度を生成する点に特
徴がある。
また、この発明の別の実施例によれば、前記制御装置
を前回の撮像フレームnで判別された移動物体の判別輝
度で判別される現在の撮像フレームn+1中の移動物体
の2値像を拡大処理して得られる拡大移動物体像を含む
領域を前記矩形領域として、前記移動物体の判別輝度を
生成するように構成した点に特徴がある。
[実施例] 以下、図示するこの発明の実施例に基づいて説明す
る。
第1図にこの発明による移動物体自動追尾装置実施例
の装置構成ブロツク図を示した。
この実施例では撮像装置としてTVカメラ1が用いられ
てカメラ駆動台2に支承されて撮像方向調整自在となっ
ており、さらにこの装置には画像処理装置5、位置演算
装置6及び駆動台制御装置7とからなる制御装置が設け
られている。TVカメラ1から得られる映像信号3は次段
に設けられた画像処理装置5に入力されて、TV映像内に
おける移動物体に幾何学重心データ9が算出される。
さらに、TVカメラ1はズーム機構を内蔵しており、画
像処理装置5内でのデジタル画像処理に必要な程度まで
に移動物体を自動的にズーミングする。位置演算装置6
は後に詳述するが、画像処理装置5から入力される幾何
学重心データから移動物体の方位角、角速度等の計測デ
ータ8を算出して、他の機器の制御情報とすることがで
きる。さらに、この位置演算装置6は幾何学重心データ
から1フレームの映像信号中の幾何学重心座標を算出し
て、駆動台制御装置7に出力する。駆動台制御装置7は
TVカメラ1を制御するものであり、前記位置演算装置6
からの入力信号から幾何学重心が画面の中央に位置する
ようカメラ駆動台2に対して駆動台動作信号4を出力す
る。これにより、TVカメラ1は移動物体の画像を画面の
中央で捉えるよう方位角が制御される。また駆動台制御
装置7からは画像処理装置5を介して位置演算装置6に
対してTVカメラ1の現在の撮像方位を示す方位角信号が
出力される。これにより、位置演算装置6はTVカメラ1
の方位角信号及び映像画面中の幾何学重心座標から移動
物体の方位角、方位角速度等の計測データ8を出力す
る。
次に、画像処理装置5の詳細なブロツク構成を第2図
に示す。この画像処理装置は画像信号の1フレーム毎の
画像データを格納する画像メモリ16と2値画像データ、
撮像装置方位10を入力して幾何学重心9を算出するとと
もに後に詳述するMR,TR1領域を演算して出力する画像演
算装置15と、さらに最終的に画像信号の2値画像データ
を生成する輝度ヒストグラム演算器14、輝度判定器、ル
ツクアツプテーブル12及び2値画像生成器11が備えられ
ている。
移動物体の画像は撮像装置であるTVカメラ1によつて
1/30sec毎に、1/60sec間で画像信号3として伝達され画
像メモリ16に格納され、かつ2値画像生成器11にも供給
される。ここで、ルツクアツプテーブル12には装置の動
作開始時の為に所定のスレーシヨルドレベルで背景と移
動物体を判別する為の初期値を設定可能となつており、
この初期値により作動開始時の最初のフレームの映像信
号が入力されると、このスレシヨールドレベルにより、
2値画像生成器11が画像信号3を背景を“0"移動物体を
“1"の2値画像に変換して2値画像データを画像演算装
置15に出力する。これにより、画像演算装置15は既知の
X−Y軸投影法により移動物体の幾何学重心と、テータ
包絡線処理により移動物体の大きさを算出するこの装置
の初期化が終了する。この初期化を行うのには、前述し
たようにルツクアツプテーブル12に始動時に外部条件に
適した輝度のスレシヨールドレベルを設定するととも
に、TVカメラ1を例えば手動で移動物体に一旦セツトし
て、装置の演算を開始させれば可能となる。
こうして、移動物体の幾何学重心、及び大きさの初期
データが得られた状態で通常の処理が開始される。ここ
で、t1時に得られた撮像フレームnの画像から次のt2
のフレームn+1の画像が入力されるまでの間の装置内
での信号処理を第3図に示したタイムチヤートに基づい
て説明する。
t0時点の映像信号は時刻t0+1/60secには画像メモリ1
6内に格納されており、この画像のイメージは第4図の
ようになつている。ここで、画像演算装置15は既に求め
られている時刻t0における移動物体の位置(幾何学重心
の座標)と大きさから第4図に示したように移動物体18
の近傍を囲む矩形領域19(以下MRと記す)と、これとと
もに次の撮像フレームn+1の時刻t1における移動物体
18の予想される移動範囲領域20(以下TR1と記す)を決
定し、TR及びMR信号として輝度ヒストグラム演算器14に
出力する。
ここで、1フレーム間での撮像画面中の移動物体の変
位可能範囲について、以下に概説する。
画面内での移動物体の位置の変化量ΔX20m spanの移
動物体が最高340m/sで画面を横切る方向に移動している
ものとし、これを画面中の30画素程度でとらえたとする
と、1/30sec毎のずれは340m/s×1/30sec×30画素/20m=
17画素 すなわち1フレーム間での位置の変位量ΔXは、 ΔX≦17画素 で規定される。
以上の記載のようにt0からt1時までの1フレーム間で
の移動物体の撮像フレーム範囲内での移動予測範囲位置
は規定され、これに基づいて充分な余裕を持つた範囲TR
1を設定することが出来る。
こうして、MR,TR1領域信号が入力された輝度ヒストグ
ラム演算器14は各々指定された領域の画像データを画像
メモリ16から読み込み、各領域のヒストグラムH
MR(i)(MR領域)とHTR1(i)(TR1領域)を算出す
る。この各ヒストグラム例を第6図(a),(b)に示
した。ここで、第6図(a)のMRのヒストグラムでは移
動物体18の輝度に該当する部分に画素数のピークが現
れ、一方同図(b)のTR1のヒストグラムでは移動物体1
8のピークと背景の輝度に該当する部分にも画素数のピ
ークがあらわれる。輝度ヒストグラム演算器14は、こう
して得られた2つのヒストグラムを輝度判定器13に出力
する。この輝度判定器13では、入力された2つのヒスト
グラムから、 の演算を行い、MRおよびTR1の各領域に含まれる各輝度
毎の画素数の比率を求め、第6図(c)に示したような
比率特性がえられる。さらに、輝度判定器13ではH
MR(i)≠0でかつP(i)が所定のスレシヨールド値
21よりも大なる輝度は、その輝度を有する画素のほとん
どがMR内に存在する為、即ち移動物体18を表す輝度であ
ると判断し、ルツクアツプテーブル12内の該当する部分
に“1"を、又それ以外の輝度の部分には“0"をセツトす
る。ここでは移動物体18を表す輝度を“1"とし、背景を
表す輝度を“0"とした。
次の時刻t1から時刻t1+1/60secまでの間において、T
Vカメラ1から出力される次の撮像フレームn+1の画
像信号3は、ルツクアツプテーブル12に設定された内容
に従い2値画像生成器11によつて2値化される。
画像演算装置15では、TVカメラ1の移動物体18方向へ
の追尾によりTVカメラ1の方向が変化するが、第5図に
示したように、入力される撮像装置方位信号10に基づい
てTR1と空間的に同一な領域TR2を設定する。さらに、画
像演算装置15は設定された領域TR2内で2値画像生成器1
1から出力された2値化像の幾何学的重心及び対象物18
の大きさを求める。こうして求められた情報は、t1+1/
60secからt2までの期間中に、前述したt0+1/60secから
t1までの期間と同様にその時点での移動物体18に相当す
る輝度を生成するのに用いられる。こうして、t1+1/60
secからt2までの間に更新された移動物体18に相当する
輝度は次のt2時点からの判別に用いられる。こうして、
撮像フレームが変わる度に、順次設定される領域MR,TR
間の輝度ヒストグラム比較により、そのフレーム時点毎
の移動物体18に相当する輝度を判定し、これにより入力
される画像信号を2値化像に変換して移動物体18の外形
を識別する。さらに、この2値化像より求められる幾何
学重心9に基づき、位置演算装置6のよりTVカメラの目
標方位が定められ、その目標方位に従つて駆動台制御装
置7がカメラ駆動台2を制御しTVカメラ1が移動物体18
を追尾するよう操作される。こうして、移動物体18の一
部に背景と同一の輝度のものが存在したり、移動物体18
の近傍にその周囲には少ない輝度を有する背景部分が存
在したとしても、単に所定のスレシヨールドレベルで輝
度差を判別するのでは無く撮像フレーム毎に変化し得る
移動物体の輝度に相当する輝度を順次更新し、これに基
づいて移動物体の2値化像を生成する構成としているた
め、環境変化にも対応して連続的に移動物体18を自動追
尾することが出来る。
次に、第7図から第11図に基づいて、この発明の別の
実施例について説明する。第7図にこの実施例の画像処
理装置5の構成ブロツク図を示したが、当初の実施例と
同じ部分には同じ参照番号をつけてその説明を省略す
る。この第7図の構成においては、第2図で示した構成
に加えて2値画像メモリ22、対象物領域判定器23及び対
象物画像メモリ24とが加えられた点が異なつている。
この実施例では、以下に記載する具体的なブロツクの
動作の説明の部分でその特徴部分を明らかに述べるが、
前回の実施例では移動物体の近傍を矩形の領域MRで囲み
背景との間で輝度ヒストグラムの比較を行つたが、この
実施例では2値画像の拡大処理により移動物体の輪郭を
囲む領域としてとらえることでMR内の背景による外乱の
低減を図つたものである。
この第7図の実施例の動作を第3図のタイムチャート
に基づいて説明する。時刻t0+1/60secには、前述の実
施例と同様に時刻t0における画像信号が第8図に示した
ように画像メモリ16に格納されるとともに2値画像生成
器11で生成された2値化画像が第9図に示したように2
値画像メモリ22に格納され、時刻t0における移動物体18
の位置及び大きさは画像演算装置15内で既に求まつてい
るものとする。画像演算装置15は既に求めてある時刻t0
における移動物体18の位置及び大きさから移動物体18の
近傍を囲む矩形領域19(MR)及び時刻t1において移動物
体18の存在を予測して探す領域20(TR1)を決定し、MR
領域信号25を対象物領域判定器23に、又TR領域信号26を
輝度ヒストグラム演算器14に出力する。
ここで、対象物領域判定器23は入力されたMR領域信号
25に基づいてMR領域の画素を2値画像メモリ22から検索
して入力して対象物領域を決定する操作を行う。この対
象物領域決定とは、MR領域内のノイズ等の外乱により対
象物である移動物体18の像の一部が欠落している可能性
があるために2値画像の拡大処理を行うことでこれを補
正しこれを対象物である移動物体18を示す2値画像とす
る。ここで言う拡大処理とは、移動物体18の輪郭画素の
各々について(“1"なる画素の各々について)、その4
近傍の画素を“1"にするという操作を行うものである。
こうして、第9図の18′で示したような2値化時の判別
で輪郭が粗い状態となつた場合の移動物体像も対象領域
判定器23の拡大処理で、第10図の18″で示したように、
その輪郭がやや膨らんだ状態となつて対象物画素メモリ
24に格納される。ここで、輝度ヒストグラム演算器14は
対象物画像メモリ24からの入力信号に従いMR領域内で移
動物体と判断された画素を含む輝度ヒストグラムH
MR(i)及び、TR1領域の輝度ヒストグラムHTR1(i)
を算出し、輝度判定器13へ伝送する。以後の処理は前回
に実施例と同様に を算出し、その時点での移動物体に相当する輝度を算出
し、第3図に示したt1時点の2値画像処理の算出データ
とする。順次この操作を繰り返して、移動物体の自動追
尾を行う。この、第7図以降に示した実施例では移動物
体の2値画像を拡大処理した後に輝度ヒストグラムを生
成する構成をとつているため、背景のノイズによる外乱
を防止し、さらに画面上の移動物体を表示する画像面積
が少ない場合等にも的確に移動物体を判別して自動的に
追尾することが出来る。
[発明の効果] この発明による移動物体の自動追尾装置の実施例は以
下のとうりであり、移動物体の一部に背景と同一の輝度
のものが存在したり、移動物体18の近傍にその周囲には
少ない輝度を有する背景部分が存在したとしても、単に
所定のスレシヨールドレベルで輝度差を判別するのでは
無く撮像フレーム毎に変化し得る移動物体の輝度に相当
する輝度を順次更新し、これに基づいて移動物体の2値
化像を生成する構成としているため、環境変化にも対応
して連続的に移動物体を自動追尾することが出来る。
また、この発明の別の態様によれば移動物体の2値画
像を拡大折した後に輝度ヒストグラムを生成する構成を
とつているため、背景のノイズによる外乱を防止し、画
面上の移動物体を表示する画像面積が少ない場合等にも
的確に移動物体を判別して自動的に追尾することが出来
る。
【図面の簡単な説明】
第1図は実施例の全体の構成を示すブロツク図、第2図
は特徴部分である第1図の画像処理装置の構成を示すブ
ロツク図、第3図は第2図の構成による信号処理の状態
を示すタイムチヤート、第4図はt0時刻の画像信号によ
る画像を示す概略図、第5図は時刻t1における画像の概
略図、第6図(a),(b),(c)はそれぞれ輝度ヒ
ストグラム演算器及び輝度判定器内での輝度ヒストグラ
ム例図、第7図は別の実施例による画像処理装置部分の
ブロツク構成図、第8図は第7図の構成における時刻t0
における画像例、第9図は同じく時刻t0における2値画
像例、第10図は同じく拡大処理されて対象物メモリ内に
格納された2値画像例、第11図は同じく時刻t1における
画像例図である。 1……TVカメラ、2……カメラ駆動台、3……映像信
号、 4……駆動台動作信号、5……画像処理装置、 6……位置演算装置、7……駆動台制御位置、 8……計測データ、9……幾何学重心データ、 10……撮像方位信号、11……2値画像生成器、 12……ルツクアツプテーブル、13……輝度判定器、 14……輝度ヒストグラム演算器、 15……画像演算装置、16……画像メモリ、 17……画像、18……移動物体、 18′……移動物体2値画像、 18″……拡大処理後移動物体2値画像、 19……矩形領域MR、20……領域TR1、 20′……領域TR2、21……スレシヨールドレベル、 22……2値画像メモリ、23……対象物領域判定器、 24……対象物画像メモリ。

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】移動物体を撮像して映像信号を出力する撮
    像装置と、当該撮像装置からの撮像信号を処理して前記
    移動物体の自動追尾を制御する制御信号を発生する制御
    装置と、前記撮像装置を支承し前記制御装置からの制御
    信号に基づいて撮像装置の撮像方向を制御する駆動台
    と、からなる移動物体の自動追尾装置において、 前記制御装置は初期設定された背景と移動物体とを判別
    する為の初期判別輝度に基づいて算出される移動物体の
    重心及び当該移動物体をとりまく背景ならびに追尾する
    移動物体の初期判別輝度とに基づいて、現在の撮像フレ
    ームnで得られた画像内の移動物体及びその近傍を含む
    矩形領域の輝度ヒストグラムHMR(i)と、現在の撮像
    フレームn内での現在位置と次の撮像フレームn+1時
    の移動物体の予測位置とを含んで設定される予測領域内
    の輝度ヒストグラムHTR1(i)とを生成する手段と、こ
    の生成する手段で得られた双方の輝度ヒストグラムHMR
    (i)と、HTR1(i)との双方の比を所定値と比較判別
    して次の撮像フレームn+1時点での移動物体の判別輝
    度を生成することを特徴とする移動物体の自動追尾装
    置。
  2. 【請求項2】特許請求の範囲第1項において、 前記比較判別は の値を所定のスレシヨールド値で判別して移動物体の各
    時点の輝度を生成することを特徴とする移動物体の自動
    追尾装置。
  3. 【請求項3】特許請求の範囲第1項において、 前記制御装置は前回の撮像フレームnで判別された移動
    物体の判別輝度で判別される現在の撮像フレームn+1
    中の移動物体の2値像を拡大処理して得られる移動物体
    の拡大2値像の近傍を囲む領域を前記矩形領域として、
    前記移動物体の判別輝度を生成することを特徴とする移
    動物体の自動追尾装置。
  4. 【請求項4】特許請求の範囲第3項において、 前記2値像を拡大処理する操作は、2値データ中の“1"
    なる画素の近傍の画素を“1"とする処理であることを特
    徴とする移動物体の自動追尾装置。
JP63277162A 1988-11-01 1988-11-01 移動物体の自動追尾装置 Expired - Lifetime JP2667885B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP63277162A JP2667885B2 (ja) 1988-11-01 1988-11-01 移動物体の自動追尾装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP63277162A JP2667885B2 (ja) 1988-11-01 1988-11-01 移動物体の自動追尾装置

Publications (2)

Publication Number Publication Date
JPH02123877A JPH02123877A (ja) 1990-05-11
JP2667885B2 true JP2667885B2 (ja) 1997-10-27

Family

ID=17579668

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63277162A Expired - Lifetime JP2667885B2 (ja) 1988-11-01 1988-11-01 移動物体の自動追尾装置

Country Status (1)

Country Link
JP (1) JP2667885B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69128163T2 (de) * 1990-03-30 1998-06-18 Sanyo Electric Co Bildaufnahmevorrichtung mit einer Kamera-Erschütterungsdetektionsfunktion
GB2270436A (en) * 1992-09-05 1994-03-09 Ibm Target tracking system
EP0878965A3 (en) * 1997-05-14 2000-01-12 Hitachi Denshi Kabushiki Kaisha Method for tracking entering object and apparatus for tracking and monitoring entering object
JP2006270404A (ja) * 2005-03-23 2006-10-05 Mitsubishi Electric Corp 撮影制御装置、撮影制御方法および撮影制御プログラム
JP6869672B2 (ja) * 2016-09-14 2021-05-12 株式会社デンソーアイティーラボラトリ 物体追従システム、物体追従装置、物体追従方法、及び物体追従プログラム

Also Published As

Publication number Publication date
JPH02123877A (ja) 1990-05-11

Similar Documents

Publication Publication Date Title
JP3279479B2 (ja) 映像監視方法及び装置
JPH0766446B2 (ja) 移動物体像を抽出する方法
JP2008259161A (ja) 目標追尾装置
JPH11150676A (ja) 画像処理装置及び追尾装置
JPH10126721A (ja) 動画像検索用情報生成装置
JP2667885B2 (ja) 移動物体の自動追尾装置
JPH1144533A (ja) 先行車両検出装置
JP2001268425A (ja) 自動追尾装置
JP2000276297A (ja) ポインティング位置検出装置、ポインティング位置検出方法、プレーゼンテーションシステムおよび情報記憶媒体
JPH0793558A (ja) 画像監視装置
JP3828096B2 (ja) 物体追跡装置
JPH09265538A (ja) 自動追尾装置
JP3796356B2 (ja) カメラ制御装置、方法及びコンピュータ読み取り可能な記憶媒体
JP5015121B2 (ja) 撮像装置
JP4363152B2 (ja) 撮影画像投影装置、撮影画像投影装置の画像処理方法及びプログラム
JPH10336506A (ja) 画像処理システム、追尾システム,追尾方法,記憶媒体
JP2580516B2 (ja) 実時間3次元運動測定装置およびその方法
JP2001092976A (ja) 移動体の検知方法
JPH07162730A (ja) 移動体撮像装置
JP3610604B2 (ja) ビデオカメラの被写体追尾装置及び追尾方法
JP2912629B2 (ja) 移動物体の自動追尾装置
JP2005100388A (ja) 物体追跡方法
JP2807232B2 (ja) 医用画像差異認識表示方法及びこの医用画像差異認識表示装置
JP4306333B2 (ja) 物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体
JPH10162138A (ja) 画像処理方法

Legal Events

Date Code Title Description
S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080627

Year of fee payment: 11

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080627

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090627

Year of fee payment: 12

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090627

Year of fee payment: 12