JPH11215422A - 被写体追尾装置 - Google Patents

被写体追尾装置

Info

Publication number
JPH11215422A
JPH11215422A JP10015849A JP1584998A JPH11215422A JP H11215422 A JPH11215422 A JP H11215422A JP 10015849 A JP10015849 A JP 10015849A JP 1584998 A JP1584998 A JP 1584998A JP H11215422 A JPH11215422 A JP H11215422A
Authority
JP
Japan
Prior art keywords
speed
subject
image
wide
tracking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10015849A
Other languages
English (en)
Other versions
JP4003275B2 (ja
Inventor
Ken Tamayama
研 玉山
Masakazu Koyanagi
正和 小柳
Toshiyuki Iijima
利幸 飯島
Teruhiko Kori
照彦 郡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP01584998A priority Critical patent/JP4003275B2/ja
Publication of JPH11215422A publication Critical patent/JPH11215422A/ja
Application granted granted Critical
Publication of JP4003275B2 publication Critical patent/JP4003275B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Devices (AREA)

Abstract

(57)【要約】 【課題】 比較的簡単な方法で、追尾範囲が広く応答追
従性に優れた被写体追尾装置を実現することを課題とす
る。 【解決手段】 撮像方向を変更する手段として、可動範
囲が狭く比較的高速で追従する高速狭域雲台1−3と、
可動範囲が広く比較的低速で追従する低速広域雲台1−
4と、高速狭域雲台1−3と低速広域雲台1−4とが協
調して動作するように働く被写体認識部1−5、加算器
1−6、コントローラ1−7、1−8、減算器1−9な
どの協調手段とを設ける。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、被写体追尾装置に
関し、特にビデオカメラ等における被写体追尾装置の改
良に関する。
【0002】
【従来の技術】ビデオカメラの視野内の被写体の位置変
化に追従して、自動的に被写体が視野の中央付近に収ま
るようにビデオカメラを移動さえる装置として被写体追
尾装置がある。このような被写体追尾装置は被写体の輝
度信号などのパターンを記憶しておいて、そのパターン
の移動を被写体の移動として認識し、このパターンが視
野の中央に来るように駆動機構を作動させたり、ズーム
を行うなどの方法を採っている。
【0003】ところでこのような従来の被写体認識・追
尾装置では、追尾範囲の広さと応答追従性は相互に相反
するトレードオフの関係に有り、両方の性能を同時に向
上することは難しかった。また、自動的にズームを行っ
て被写体を画面内で一定の画角を保持し同じ大きさで撮
影し続ける追尾装置も知られているが、ズームが急に変
わると撮影された画の距離感などに影響を与えてしま
い、画像の連続性がとぎれて不自然な感じが伴う。かと
いって実際にカメラを移動させて被写体とカメラとの距
離を保とうとすると、カメラの移動速度に限界がある場
合、どうしても応答が遅れてしまという問題がある。
【0004】
【発明が解決しようとする課題】上述のごとく、従来の
被写体追尾装置は追尾範囲の広さと応答追従性を同時に
向上することは困難であった。また被写体を画面内で一
定の画角を保持して不自然にならないように追い続ける
こともカメラの移動速度に限界がある場合は困難であっ
た。
【0005】本発明はこれらの問題を解決して、比較的
簡単な方法で、追尾範囲が広く応答追従性に優れた被写
体追尾装置を実現することを課題とする。また、比較的
簡単な方法で、自然さを失うことなく応答性を向上し常
に被写体の大きさを保った画面が得られる被写体追尾装
置を実現することを課題とする。
【0006】
【課題を解決するための手段】上記課題を達成するた
め、本発明は、ビデオカメラなどの撮像手段と、この撮
像手段で撮影された画像面から特定の被写体像を検出す
る被写体認識手段と、この被写体認識手段が検出した被
写体像が画像の所定位置に収まるように前記撮像手段の
撮像方向を変更する撮像方向変更手段とを具備し、特定
の被写体像を記憶して追尾する被写体追尾装置におい
て、前記撮像方向変更手段は、可動範囲が狭く比較的高
速で追従する第1の撮像方向変更手段と、可動範囲が広
く比較的低速で追従する第2の撮像方向変更手段と、前
記第1の撮像方向変更手段と前記第2の撮像方向変更手
段が協調して動作するように働く協調手段とを具備する
ことを特徴とする。
【0007】また、ビデオカメラなどの撮像手段と、こ
の撮像手段で撮影された画像面から特定の被写体像を検
出する被写体認識手段と、前記撮像手段の画角を任意に
決められるズーム手段と、前記撮像手段を被写体に対し
て前後に動かす移動手段とを具備し、特定の被写体像が
前記撮像手段が撮影する画像面内で所定の画角になるよ
うに追尾する被写体追尾装置において、前記ズーム手段
と前記移動手段とが協調して動作するように働く協調手
段を具備することを特徴とする。
【0008】
【発明の実施の形態】以下、本発明にかかる被写体追尾
装置を添付図面を参照にして詳細に説明する。図1は、
本発明の被写体追尾装置の一実施の形態の構成を示すブ
ロック図である。図1において、1−1はカメラブロッ
ク、1−2はレゾルバ、1−3は高速狭域雲台、1−4
は低速広域雲台、1−5は被写体認識部、1−6は加算
器、1−7、1−8はコントローラ、1−9は減算器、
1−10はスイッチ回路、1−11はロストシーケンス
回路、1−12、1−13は雲台のドライバである。こ
の図1の構成は、請求項1に述べたような高速狭域と低
速広域のパン機構を有する被写体追尾装置の構成であ
る。
【0009】ここでカメラブロック1−1は比較的高速
で可動範囲の狭い高速狭域雲台1−3の上に載置されて
いて、この高速狭域雲台1−3の撮像方向はレゾルバ1
−2によって測定される。この高速狭域雲台1−3はさ
らに比較的低速で可動範囲の広い低速広域雲台1−4に
載置されている。カメラブロック1−1のカメラで撮影
された映像は被写体認識部1−5へ送られ、記憶させた
被写体が撮像画面中に見えているかどうかの判定、ある
ばあいはその位置が認識される。被写体認識法について
は、例えば、特開平7−30796号公報に述べられて
いる手法等が利用できる。
【0010】被写体が視野内に見えている場合、被写体
認識部1−5から出力される被写体の認識位置とレゾル
バ1−2による高速狭域雲台1−3の方向を加算器1−
6で加え、その和が0となるようコントローラ1−7に
よって低速広域雲台1−4が制御される。
【0011】これにより、常に高速狭域雲台1−3の可
動範囲の中央を目指して制御が行われることになる。高
速狭域雲台1−3は認識された被写体の位置を0(視野
中央)とするようコントローラ1−8によって制御され
るが、コントローラ1−8の速度指令から低速広域雲台
1−4の速度指令を減算器1−9で減じた速度で高速狭
域雲台1−3を駆動する。このことは、低速広域雲台1
−4の運動をキャンセルし高速狭域雲台1−3を真に被
写体に対して制御するために必要である。
【0012】もし、被写体が視野内に見つからない場
合、スイッチ1−10の働きによってコントローラ1−
7へはレゾルバ1−2による高速狭域雲台1−3の方向
のみが入力され、低速広域雲台1−4は高速狭域雲台1
−3の方向を0(可動範囲中央)に持ってくるよう制御
される。この時、高速狭域雲台1−3は、被写体の(画
像上の)位置がわからないため、ロストシーケンサ1−
11の出力に基づいて動作する。ロストシーケンサ1−
11は、被写体を見失った場合の被写体再発見のための
動作手順を内蔵しており、被写体を見失った場合にそれ
を起動する。被写体を見失った場合、低速広域雲台1−
4もストシーケンサ1−11の制御によって被写体検索
動作に使われる場合がある。コントローラ1−7、1−
8は、制御誤差から各雲台1−3、1−4の速度を決定
する。
【0013】図2はこのコントローラ1−7、1−8の
制御機能の特性の一例である。制御誤差が大きくなるほ
どそれを打ち消す方向の速度を大きく(定数倍:図2に
ゲイン2−1で示した傾斜角に相当)出力するいわゆる
比例制御の方法が採られる。ただし視野の中央付近に被
写体を捕らえた場合には、視野が頻繁に動いて見苦しく
なることを防ぐため、一定範囲の不惑帯2−2を設ける
ことがある。また、あまりに低速での駆動はアクチュエ
ータの特性上好ましくないことがあるので、速度に一定
のオフセット2−3を設けることがある。
【0014】以上のような作用により、図3のような協
調動作が実現される。すなわち、図3(a)のようにカ
メラが被写体を視野の中央に捕らえているときには、低
速広域雲台1−4の位置を復帰させる。また、図3
(b)のように低速広域雲台1−4の移動速度は高速狭
域雲台1−3の移動を妨げない程度の速度である。また
被写体の移動が速く広範囲の時は図3(c)のように高
速狭域雲台1−3と低速広域雲台1−4が同時に同じ方
向に動いて応答速度が早くなる。これによって、追尾範
囲の広くて応答速度の遅い低速広域雲台1−4と追尾範
囲は狭いが応答速度の速い高速狭域雲台1−3とが互い
にその長所を生かし、短所を補えるので、可動範囲が広
く応答の高速な追尾が可能になる。
【0015】次に、本発明の他の実施の形態として、距
離・画角を一定に保つ被写体追尾装置のブロック図を図
4に示す。この図4の構成は請求項2で述べた被写体追
尾装置の構成である。この実施の形態の構成は概ね図1
で説明した構成と類似している。図4において、4−1
はカメラブロック、4−2はレゾルバ、4−3はズーム
モータ、4−4は前進後退装置、4−5は被写体認識
部、4−6は加算器、4−7、4−8はコントローラ、
4−10はスイッチ回路、4−11はロストシーケンス
回路、4−12はズームモータ4−3のドライバ、4−
13は前進・後退装置4−4のドライバである。
【0016】この図4で、図1のカメラブロック1−1
に対応すものは、カメラブロック4−1である。また、
図1の被写体認識部1−5と図4の被写体認識部4−5
も対応している。図1の高速狭域雲台1−3に対応する
のは、図4ではズーム機構4−3である。さらに、図1
の低速広域雲台1−4に対応するのは、図4の前進後退
装置4−4である。また、レゾルバ4−2の値を被写体
大きさの誤差に加えて制御する点は、図1の雲台1−
3、1−4の場合と同様に、被写体をズーム可動範囲の
中央付近(あるいは設定位置付近)で撮影するための工
夫である。
【0017】この図4が図1と違う点は前後(低速)側
の動きをズーム(高速)側に伝達していない点である。
これは、ズーム倍率を変更すれば被写体の大きさが変わ
ることは保証されているのに対し、前進・後退によって
被写体の大きさがどの程度変わるかは、被写体との距離
によって大きく違ってきて一義的に決められないという
違いがあるため、同じ扱いができないためである。ロス
トシーケンサ4−11は図1のロストシーケンサ1−1
1に対応していて、被写体消失時の再発見機能を内蔵し
ており、被写体を見失ったならばズームをワイドに引い
て被写体が視野内に入る可能性を高めるよう働く。以上
のような作用により、請求項2に述べたような距離・ズ
ームの協調動作が可能となり、高速に追従する距離・画
角追尾が実現できる。
【0018】図5に、本発明の被写体追尾装置のさらに
他の実施の形態の構成を表すブロック図を示した。この
実施の形態の追尾装置は、高速の撮像方向変更手段とし
てDD(Direct Drive)モータによるパン機構(ここで
は左右に振る機構)と、画角変更のためのズーム機構
を、低速のパン機構及び前進後退の移動手段として左右
に車輪を有する構成である。
【0019】図5において、5−1はカメラブロック、
5−2はパン機構のレゾルバ、5−3はズーム機構のレ
ゾルバ、5−4はズームドライバ、5−5はパンモー
タ、5−6は左車輪モータ、5−7は右車輪モータ、5
−8は被写体認識部、5−9、5−10は加算器、5−
11はシーケンサ、5−12はズームコントローラ、5
−13は高速パンコントローラ、5−14は低速パンコ
ントローラ、5−15は前進後退コントローラ、5−1
6、5−18は減算器、5−17は加算器、5−19、
5−20はスイッチ回路、5−21、5−22、5−2
3はドライバある。
【0020】この装置の動作原理は図1および図4をあ
わせたものになっている。ここで、左右の車輪は低速の
パン手段と前進後退手段を兼ねている。前進後退成分は
両輪に同符号で、回転成分は両輪に異符号で与えること
により兼用する。被写体が視野内に見えている場合、被
写体認識部5−8から出力される被写体の認識位置とレ
ゾルバ5−2によるカメラブロック5−1の方向が加算
器5−10で加えられて、その和が0となるよう低速パ
ンコントローラ5−14が右車輪モータ5−7の移動量
から減算器5−18で減算して回転を制御する。
【0021】また、被写体認識部5−8から出力される
被写体の認識大きさとレゾルバ5−3によるズームドラ
イバ5−3のズーム量が加算器5−9で加えられて、そ
の和が0となるよう前進後退コントローラ5−15が左
車輪モータ5−6、右車輪モータ5−7の移動量を加算
器5−17、減算器5−18に加算して前進後退を制御
する。画面上で被写体の位置がわからない時には、シー
ケンサ5−11が内蔵する被写体再発見のための動作手
順に基づいて各コントローラ5−12〜5−15が動作
して被写体を捜し出す。チルト機構(ここでは上下に振
る機構)に対してもパン機構と同様の構成で追尾機能を
実現することができる。
【0022】本発明により、比較的容易に実現可能な、
高速であるが可動範囲の狭い機構と低速であるが可動範
囲の広い機構を組み合わせて、高速かつ広範囲をカバー
する被写体追尾装置が構成できる。同様に、ズームと前
進後退動作を組み合わせて被写体の見かけの大きさを保
つ装置の応答性を上げつつ自然な画像を得る事ができ
る。
【0023】
【発明の効果】以上説明したように本発明の請求項1の
発明は、ビデオカメラなどの撮像手段と、この撮像手段
で撮影された画像面から特定の被写体像を検出する被写
体認識手段と、この被写体認識手段が検出した被写体像
が画像の所定位置に収まるように撮像手段の撮像方向を
変更する撮像方向変更手段とを具備し、特定の被写体像
を記憶して追尾する被写体追尾装置において、撮像方向
変更手段は、可動範囲が狭く比較的高速で追従する第1
の撮像方向変更手段である高速狭域雲台と、可動範囲が
広く比較的低速で追従する第2の撮像方向変更手段であ
る低速広域雲台と、高速狭域雲台と低速広域雲台とが協
調して動作するように働く協調手段とを具備することを
特徴とする。これにより、追尾範囲の広くて応答速度の
遅い低速広域雲台と追尾範囲は狭いが応答速度の速い高
速狭域雲台とが互いにその長所を生かし、短所を補える
ので、追尾範囲が広く応答追従性に優れた被写体追尾装
置を容易に実現することができる。
【0024】また、本発明の請求項2の発明は、ビデオ
カメラなどの撮像手段と、この撮像手段で撮影された画
像面から特定の被写体像を検出する被写体認識手段と、
撮像手段の画角を任意に決められるズーム手段と、撮像
手段を被写体に対して前後に動かす移動手段とを具備
し、特定の被写体像が撮像手段が撮影する画像面内で所
定の画角になるように追尾する被写体追尾装置におい
て、ズーム手段と移動手段とが協調して動作するように
働く協調手段を具備することを特徴とする。これによ
り、ズーム手段と前進後退移動手段とが互いに協調しあ
ってその長所を生かし、短所を補えるので、応答性を上
げつつ自然な画像で被写体の大きさを保った画面が得ら
れる被写体追尾装置を容易に実現することができる。
【図面の簡単な説明】
【図1】本発明の被写体追尾装置の一実施の形態の構成
を示すブロック図。
【図2】図1の実施の形態に用いられるコントローラの
制御機能の特性を示す図。
【図3】図1の実施の形態での雲台の協調動作の説明
図。
【図4】本発明の被写体追尾装置の他の実施の形態の構
成を示すブロック図。
【図5】本発明の被写体追尾装置のさらに他の実施の形
態の構成を示すブロック図。
【符号の説明】
1−1、4−1、5−1…カメラブロック、1−2、4
−2…レゾルバ、1−3…高速狭域雲台、1−4…低速
広域雲台、1−5、4−5、5−8…被写体認識部、1
−6、4−6、5−9、5−10、5−17…加算器、
1−7、1−8、4−7、4−8…コントローラ、1−
9、5−16、5−18…減算器、1−10、4−1
0、5−19、5−20…スイッチ回路、1−11、4
−11、5−11…ロストシーケンス回路、1−12、
1−13…雲台のドライバ、4−3…ズームモータ、4
−4…前進後退装置、4−12…ズームモータのドライ
バ、4−13…前進・後退装置のドライバ、5−2はパ
ン機構のレゾルバ、5−3はズーム機構のレゾルバ、5
−4…ズームドライバ、5−5…パンモータ、5−6…
左車輪モータ、5−7…右車輪モータ、5−21、5−
22、5−23…ドライバ。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 郡 照彦 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内

Claims (2)

    【特許請求の範囲】
  1. 【請求項1】 ビデオカメラなどの撮像手段と、この撮
    像手段で撮影された画像面から特定の被写体像を検出す
    る被写体認識手段と、この被写体認識手段が検出した被
    写体像が画像の所定位置に収まるように前記撮像手段の
    撮像方向を変更する撮像方向変更手段とを具備し、特定
    の被写体像を記憶して追尾する被写体追尾装置におい
    て、 前記撮像方向変更手段は、可動範囲が狭く比較的高速で
    追従する第1の撮像方向変更手段と、 可動範囲が広く比較的低速で追従する第2の撮像方向変
    更手段と、 前記第1の撮像方向変更手段と前記第2の撮像方向変更
    手段とが協調して動作するように働く協調手段とを具備
    することを特徴とする被写体追尾装置。
  2. 【請求項2】 ビデオカメラなどの撮像手段と、この撮
    像手段で撮影された画像面から特定の被写体像を検出す
    る被写体認識手段と、前記撮像手段の画角を任意に決め
    られるズーム手段と、前記撮像手段を被写体に対して前
    後に動かす移動手段とを具備し、特定の被写体像が前記
    撮像手段が撮影する画像面内で所定の画角になるように
    追尾する被写体追尾装置において、 前記ズーム手段と前記移動手段とが協調して動作するよ
    うに働く協調手段を具備することを特徴とする被写体追
    尾装置。
JP01584998A 1998-01-28 1998-01-28 被写体追尾装置 Expired - Fee Related JP4003275B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01584998A JP4003275B2 (ja) 1998-01-28 1998-01-28 被写体追尾装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01584998A JP4003275B2 (ja) 1998-01-28 1998-01-28 被写体追尾装置

Publications (2)

Publication Number Publication Date
JPH11215422A true JPH11215422A (ja) 1999-08-06
JP4003275B2 JP4003275B2 (ja) 2007-11-07

Family

ID=11900275

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01584998A Expired - Fee Related JP4003275B2 (ja) 1998-01-28 1998-01-28 被写体追尾装置

Country Status (1)

Country Link
JP (1) JP4003275B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007068008A (ja) * 2005-09-01 2007-03-15 Matsushita Electric Ind Co Ltd 自動追尾装置
JP2009284075A (ja) * 2008-05-20 2009-12-03 Nec Electronics Corp 撮影装置および撮影方法
WO2010064445A1 (ja) * 2008-12-05 2010-06-10 パナソニック株式会社 回転台付きカメラ装置
JP2010256642A (ja) * 2009-04-27 2010-11-11 Daiichikosho Co Ltd 歌唱者画像撮影機能を有するカラオケシステム
JP2011075805A (ja) * 2009-09-30 2011-04-14 Daiichikosho Co Ltd カラオケパーティに集う人々の顔を識別する歌唱時に個別にズームアップ撮影して記録するシステム
JP2011075804A (ja) * 2009-09-30 2011-04-14 Daiichikosho Co Ltd カラオケパーティに集う人々の顔を識別するシステム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007068008A (ja) * 2005-09-01 2007-03-15 Matsushita Electric Ind Co Ltd 自動追尾装置
JP4594197B2 (ja) * 2005-09-01 2010-12-08 パナソニック株式会社 自動追尾装置
JP2009284075A (ja) * 2008-05-20 2009-12-03 Nec Electronics Corp 撮影装置および撮影方法
WO2010064445A1 (ja) * 2008-12-05 2010-06-10 パナソニック株式会社 回転台付きカメラ装置
JP2010256642A (ja) * 2009-04-27 2010-11-11 Daiichikosho Co Ltd 歌唱者画像撮影機能を有するカラオケシステム
JP2011075805A (ja) * 2009-09-30 2011-04-14 Daiichikosho Co Ltd カラオケパーティに集う人々の顔を識別する歌唱時に個別にズームアップ撮影して記録するシステム
JP2011075804A (ja) * 2009-09-30 2011-04-14 Daiichikosho Co Ltd カラオケパーティに集う人々の顔を識別するシステム

Also Published As

Publication number Publication date
JP4003275B2 (ja) 2007-11-07

Similar Documents

Publication Publication Date Title
CN104954668A (zh) 变焦倍率算出装置及其控制方法、摄像装置以及移动体
JPH0327011A (ja) レンズ位置制御方法
JP2002369186A (ja) 車両後方画像表示装置、車両周囲画像表示方法
JPH11215422A (ja) 被写体追尾装置
JP3806198B2 (ja) カメラ及びステレオカメラシステム
US5623326A (en) Camera-shake correction apparatus
JP3615867B2 (ja) 自動撮影カメラシステム
JP2013047760A (ja) 指示位置表示装置および指示位置表示システム
JPH0963000A (ja) 車両搭載用映像装置
JP7122697B2 (ja) 駐車支援装置
JP4866227B2 (ja) 自動追尾撮影装置
JP2833425B2 (ja) ビデオカメラにおける被写体追尾装置
JP2001186513A (ja) 撮像装置
JPH0630327A (ja) ビデオカメラ装置
JP3357628B2 (ja) ビューファインダの制御装置およびテレビカメラ
JP2001160916A (ja) 自動追尾装置
JP3741681B2 (ja) 追尾雲台
JP7281728B2 (ja) 駐車支援装置
JPH06276423A (ja) テレビカメラの遠隔制御装置
JPS6125144B2 (ja)
JPH1023467A (ja) 立体映像装置
JP3440727B2 (ja) 車両周辺視認装置
JP2962758B2 (ja) 移動車の画像入力装置
JP2000066083A (ja) テレビカメラ用レンズの制御装置
JPH07298116A (ja) 雲台一体型ビデオカメラ

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041220

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20041220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070813

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100831

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120831

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees