JPH08237590A - 映像処理装置 - Google Patents

映像処理装置

Info

Publication number
JPH08237590A
JPH08237590A JP7036931A JP3693195A JPH08237590A JP H08237590 A JPH08237590 A JP H08237590A JP 7036931 A JP7036931 A JP 7036931A JP 3693195 A JP3693195 A JP 3693195A JP H08237590 A JPH08237590 A JP H08237590A
Authority
JP
Japan
Prior art keywords
video
image
range
camera
cutout
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP7036931A
Other languages
English (en)
Other versions
JP3559607B2 (ja
Inventor
Tomoaki Kawai
智明 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP03693195A priority Critical patent/JP3559607B2/ja
Priority to US08/603,611 priority patent/US6768563B1/en
Priority to DE69624603T priority patent/DE69624603T2/de
Priority to EP96301225A priority patent/EP0729275B8/en
Publication of JPH08237590A publication Critical patent/JPH08237590A/ja
Priority to HK98113109A priority patent/HK1012141A1/xx
Priority to US10/865,729 priority patent/US7321453B2/en
Application granted granted Critical
Publication of JP3559607B2 publication Critical patent/JP3559607B2/ja
Priority to US11/468,602 priority patent/US7583414B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【目的】 1台のカメラ装置で、方位及びズームを瞬時
に切り替えた映像を得られるようにする。 【構成】 ビデオ・カメラ24の出力映像信号をビデオ
・キャプチャ装置26を介してフレーム・メモリ20に
書き込む。ビデオ・カメラ24のレンズは広角レンズで
ある。メモリ20から切り出す範囲の位置及び大きさを
マウス16により指定する。指定された切り出し範囲の
画像データをメモリ20から読み出し、映像表示域の大
きさに合うように画素密度を変換し、ディスプレイ14
の映像表示ウインドウに表示する。必要により、ネット
ワーク・インターフェース18を介して外部に伝送す
る。切り出し範囲は複数設定できる。切り出し範囲の位
置はカメラ24のパン角及びチルト角に対応し、切り出
し範囲の大きさは、ズーム倍率に対応する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、1つの撮影映像から1
又は複数の映像を生成する映像処理装置に関する。
【0002】
【従来の技術】テレビ会議システム及び監視カメラ・シ
ステム等では、広範囲の様子を撮影できるように、ビデ
オ・カメラの雲台及び撮影レンズをモータ等で駆動し
て、撮影方向及び倍率(即ち、パン、チルト及びズー
ム)を遠隔制御できるようにしたカメラ装置や、複数の
カメラを設け、それらの出力映像を自在に切り替えでき
るようにした構成が提案されている。たとえば、テレビ
会議などで、複数の話者がおり、それらの複数の話者を
次々に切り替えて表示したい場合に、1台のカメラをパ
ンしたり、予め各話者の方向に向けた複数のカメラの出
力映像を逐次、電子的に切り替えていく方法が採られ
る。
【0003】
【発明が解決しようとする課題】前者の場合、1台のカ
メラ装置で対応できるので、安価に構築できるという利
点があるが、パン駆動に高速のモータを使用しないと、
撮影対象の切替えに時間がかかって、間延びしたものに
なってしまう。パン速度を上げようとすれば、高速で高
価なモータを使用しなければならない。いずれにして
も、切替え速度は、モータの物理的な回転速度で限定さ
れるので、瞬間的な切替えは実質的に不可能である。
【0004】逆に、後者の場合には、撮影対象の切替え
は電子的に瞬時に行なえるものの、複数のカメラ装置を
用意しなければならないので、非常に高くついてしま
う。また、各カメラ装置を撮影対象に向けて予め設置し
ておかなければならず、撮影対象の位置の変動に対処し
にくい固定的なシステムになってしまう。
【0005】ズーム倍率の制御についても同様の問題が
あり、前者及び後者の従来例共に、撮影方向の制御にズ
ーム倍率の制御を加えると、非常に高価なシステムにな
ってしまう。
【0006】本発明はこのような問題点を解決し、異な
る方向及びズーム倍率に瞬時に切替えできる映像処理装
置を提示することを目的とする。
【0007】本発明は更に、1つの撮影映像から、様々
な方向及びズーム倍率の映像を生成し、それらの瞬時的
な変更を可能にする映像処理装置を提示する事を目的と
する。
【0008】
【課題を解決するための手段】本発明に係る映像処理装
置は、入力映像を実時間で記憶するメモリ手段と、当該
メモリ手段に蓄積される画像の少なくとも1以上の切り
出し範囲を指定する切り出し範囲指定手段と、当該1以
上の切り出し範囲の画像を読み出し、所定表示サイズに
変換する変換手段と、当該変換手段の出力画像を出力す
る出力手段とからなることを特徴とする。
【0009】
【作用】上記手段により、入力映像の一部を切り出して
出力(表示又は外部に転送)する。従って、切り出し範
囲を変更することにより、画面で見られる方位及びズー
ム倍率を変更できる。電子的な切り替えになるので、方
位及びズームの変更も瞬時に行なえる。また、1台のカ
メラ装置で済むので、安価に構成できる。
【0010】
【実施例】以下、図面を参照して、本発明の実施例を詳
細に説明する。
【0011】図1は本発明の一実施例の概略構成ブロッ
ク図を示す。10は全体を制御するCPU、12はCP
U10の主記憶、14はビットマップ・ディスプレイ、
16はマウス、18はネットワーク・インターフェー
ス、20はフレーム・メモリであり、これらは、バス2
2に接続している。
【0012】24はビデオ・カメラ、26はビデオ・カ
メラ24の出力映像信号をディジタル信号に変換してフ
レーム・メモリ20に取り込むためのビデオ・キャプチ
ャ装置である。なお、ビデオ・カメラ24の撮影レンズ
は、撮影したい範囲を画角内に納め得る高解像度の広角
レンズになっている。ビデオ・カメラ24の撮像手段は
また、例えばハイビジョン・カメラ又はそれ以上に、高
解像度のものであることが望ましい。
【0013】図2は、ディスプレイ14の表示画面の一
例を示す。ディスプレイ14上では、複数のウィンドウ
を重ねて表示可能なウィンドウ・システムが動作してい
る。図2では、ビデオ・カメラ24による撮影映像の一
部を表示する映像表示ウインドウ30と、ビデオ・カメ
ラ24による撮影画像のうちでどの部分をどの倍率で映
像表示ウインドウ30に表示するかを指定操作する操作
パネル32を設定する。制御操作する操作パネル32を
設定する。操作パネル32は、ビデオ・カメラ24によ
る撮影画像のうちで映像表示ウインドウ30に表示する
部分を指定する位置指定パネル34と、映像表示パネル
30に表示する画像の倍率を指定する倍率指定パネル3
6を具備する。
【0014】図3は、ビデオ・カメラ24により撮影さ
れフレーム・メモリ20に格納される画像(撮影画像)
と映像表示ウインドウ30に表示される画像(表示画
像)との関係を示す。40はビデオ・カメラ24により
撮影され、ビデオ・キャプチャ装置26によりフレーム
・メモリ20に格納される画像、即ち、撮影画像であ
り、42は、撮影画像40の内で、映像表示ウインドウ
30に表示されるべく切り出される範囲である。いうま
でもないが、切り出し範囲42が撮影画像40を外れる
ときには、外れた部分については一定色データなどをは
め込むなどして、撮影範囲の外も見ようとしていること
が画面上で容易に分かるようにする。従って、このよう
な例外的な場合又は部分を除いて、切り出し範囲42は
一般に表示画像に一致する。
【0015】カメラ24の撮影画面で上下方向をx軸、
左右方向をy軸とし、x方向の角度をθ、y方向の角度
をφで表わし、撮影画像の中央でθ=0、φ=0、x=
0、及びy=0とすると、表示画像の中心座標(x1,
y1)は、 x1=Ltanθ y1=Ltanφ となる。但し、Lは定数である。撮影画像から表示用に
切り出す範囲は、この原点座標(x1,y1)と表示倍
率で決まる。表示倍率が高いほど、切り出す範囲は縦横
共に小さくなる。
【0016】切り出し範囲42から切り出された画像
を、映像表示ウインドウ30の画素数に合うように画素
密度変換する。例えば、映像表示ウィンドウ30(の映
像表示域)の画素数をH(縦)×Wで(横)、撮影画像
から切り出した範囲の画素数をh(縦)×w(横)であ
るとすると、Hとh、Wとwが一致するのは稀であり、
一般的には、切り出し範囲の画素データに内挿と間引き
を施して、映像表示ウインドウ30の映像表示域の画素
数に合わせることになる。また、画素密度変換方法とし
て、周知の種々の方法を採用し得る。
【0017】切り出し範囲42の中心(x1,y1)
は、位置指定パネル34の4方向キーをマウスで操作す
ることにより、任意に指定でき、表示倍率は倍率指定パ
ネル36により任意に指定できる。切り出し範囲42の
縦hと横wは、倍率指定パネル36で指定された倍率
と、映像表示ウインドウ30の縦横の大きさにより決ま
る。
【0018】切り出し範囲42の画像は、ディスプレイ
14に表示され、また、ネットワーク・インターフェー
ス18を介して遠隔地に伝送される。
【0019】本実施例では、切り出し範囲42の中心を
変更するコマンド系として、カメラ操作コマンド系と同
様に、tilt(θ)、pan(φ)及びzoom
(z)を使用する。tilt(θ)は上下方向のチルト
のコマンド、pan(φ)は水平方向のパンのコマン
ド、zoom(z)はズームのコマンドである。
【0020】即ち、チルト・コマンドは、位置指定パネ
ル34の上下方向ボタンに割り付けられ、これらのボタ
ンを押下している間、CPU10は角度θを増加又は減
少させてtilt(θ)コマンドを生成する。パン・コ
マンドは位置指定パネル34の左右方向キーに割り付け
られ、これらのボタンを押下している間、CPU10は
角度φを増加又は減少させてpan(φ)コマンドを生
成する。ズーム・コマンドは倍率指定パネル36のスク
ロール・バーに割り付けられ、CPU10は、このスク
ロール・バーの移動に伴い、その位置に従う倍率zのz
oom(z)コマンドを生成する。
【0021】これらのチルト・コマンド及びパン・コマ
ンドにより、フレーム・メモリ20からの切り出し範囲
42の中心が変更され、ズーム・コマンドにより切り出
し範囲42の大きさが変更される。これらのコマンドは
ネットワーク・インターフェース18を介して遠隔地に
伝送することができる。即ち、遠隔地に設置した図1と
同じ構成の装置のフレーム・メモリからの切り出し範囲
を遠隔制御により変更できる。
【0022】図4は、本実施例における撮影から画像表
示までの処理の流れを示す。これらの処理が、動画の1
フレーム・サイクルの間に実行できれば、動画を再生表
示できることになる。
【0023】フレーム・メモリ20からの切り出し範囲
42を電子的に切り替えることで、表示する方向と範囲
を変更できるので、実質的に、1台のカメラ装置の撮影
方向及びズーム倍率を瞬時に変更できたのと同様の作用
効果を得ることができる。
【0024】フレーム・メモリ20の切り出し範囲42
から切り出した画像をネットワークを介して遠隔地の端
末に伝送し、当該遠隔地の端末から逆に上述の各コマン
ドを伝送するようにすることで、遠隔制御が可能にな
る。基本的には、カメラ装置のパン、チルト及びズーム
を遠隔操作するのと全く同じである。
【0025】本実施例では、フレーム・メモリ20の切
り出し範囲42から切り出した画像を、ビットマップ・
ディスプレイ14の映像表示ウインドウ30に表示し、
必要により、ネットワークに出力するが、同時に、ファ
イルに書き出してもよいことは明らかである。処理速度
が間に合えば、出力の形態にこだわらない。転送に際し
てJPEG又はMPEG等の画像圧縮を施しても構わな
い。
【0026】ビデオ・カメラ24が読み出し範囲を外部
制御できるメモリ手段を具備する場合、そのメモリ手段
をフレーム・メモリ20の代用としてもよいこともま
た、明らかである。
【0027】上記実施例では、撮影画像に対して1つの
切り出し範囲42を設定したが、複数の切り出し範囲を
設定することができる。各切り出し範囲について、切り
出し範囲から切り出した画像を表示する映像表示ウイン
ドウと、その切り出し範囲を設定する操作パネルを具備
するカメラ・ウインドウを設ける。図5は、4つのカメ
ラ・ウインドウ50,52,54,56を設けた画面例
であり、図6は、これに対応するフレーム・メモリ20
上の切り出し範囲58,60,62,64の設定例であ
る。カメラ・ウインドウ50,52,54,56の映像
表示ウインドウ50a,52a,54a,56aには、
それぞれ、切り出し範囲58,60,62,64から切
り出された画像が表示される。また、カメラ・ウインド
ウ50,52,54,56の操作パネル50b,52
b,54b,56bは、それぞれ、切り出し範囲58,
60,62,64の位置及び大きさを操作するのに使用
される。
【0028】カメラ・ウインドウ50,52,54,5
6と切り出し範囲58,60,62,64との対応は、
図7に示すような表で管理される。直接的には、仮想カ
メラ番号が、切り出し範囲58,60,62,64と対
応している。操作パネル50b,52b,54b,56
bの操作に応じて、該当する操作パネルIDの列におけ
るθ、φ及びズーム倍率の該当する値を更新し、新たな
値に従って、対応する切り出し範囲を再設定する。
【0029】図8は、複数の切り出し範囲を設定可能に
した場合の動作フローチャートであり、図4に示すフロ
ーチャートを、図7に示す表の各エントリに対応するよ
うに拡張したものであり、ループ処理が加わった点のみ
が異なる。動画のフレーム・レートをF(フレーム/
秒)とすると、1/F秒の間にS1〜S19の処理を実
行できる限り、1台のカメラの撮影画像からN個の映像
を取り出すことが出来る。なお、ネットワークに出力す
る際には、伝送する映像データに仮想カメラ番号を付与
して、各映像がどの切り出し範囲からのものかを識別で
きるようにする。仮想カメラ番号の異なる複数の映像を
表示すると、あたかも複数のカメラの映像が表示されて
いるかのように見える。
【0030】このようにして、物理的に1台のカメラ装
置を使用しながら、複数のカメラ装置を使用しているか
のように、様々な方位及びズーム倍率の映像を得ること
ができる。勿論、個々の映像の方位及びズーム倍率は互
いに独立に、且つ瞬時に変更できる。
【0031】図9に示すグラフィカル・ユーザ・インタ
ーフェースを用いることにより、1又は複数の切り出し
範囲をより視覚的に設定できる。70は切り出し範囲を
設定するための操作ウインドウであり、このウインドウ
70の大きさが、フレーム・メモリ20にとりこまれる
撮影画像の大きさに比例する。ウインドウ70内で、所
望する位置及び大きさの切り出し範囲を示す矩形枠7
2,74,76,78を設定する。矩形枠72〜78
は、ウインドウ70内で伸縮及び移動自在であり、ウイ
ンドウ70内で占める位置及び大きさが、それぞれが示
す切り出し範囲の位置及び大きさを代表する。最初に矩
形枠72〜78を設定するときには、例えば、マウスに
より矩形枠の対角頂点を指定する。図9により、各切り
出し範囲が撮影画像の中でどの部分に該当するかが一目
瞭然となる。
【0032】
【発明の効果】以上の説明から容易に理解できるよう
に、本発明によれば、物理的に1台のカメラ装置を使用
しながら、あたかも複数のカメラ装置を使用しているか
のような作用効果を得ることができる。即ち、撮影方位
及びズーム倍率を瞬時に変更でき、また、様々な方位及
びズーム倍率の映像を同時に得ることができる。
【図面の簡単な説明】
【図1】 本発明の一実施例の概略構成ブロック図であ
る。
【図2】 本実施例の画面例である。
【図3】 撮影画像と切り出し範囲の説明図である。
【図4】 本実施例のフローチャートである。
【図5】 4つの切り出し範囲を設定したときの画面例
である。
【図6】 撮影画像に設定する4つの切り出し範囲の説
明図である。
【図7】 切り出し範囲とカメラ・ウインドウの対応表
である。
【図8】 N個の仮想カメラを有する場合の動作フロー
チャートである。
【図9】 切り出し範囲を操作し、表示するユーザ・イ
ンターフェース例である。
【符号の説明】
10:CPU 12:主記憶 14:ビットマップ・ディスプレイ 16:マウス 18:ネットワーク・インターフェース 20:フレーム・メモリ 22:バス 24:ビデオ・カメラ 26:ビデオ・キャプチャ装置 30:映像表示ウインドウ 32:操作パネル 34:位置指定パネル 36:倍率指定パネル 40:撮影画像 42:切り出し範囲 50,52,54,56:カメラ・ウインドウ 50a,52a,54a,56a:映像表示ウインドウ 50b,52b,54b,56b:操作パネル 58,60,62,64:切り出し範囲 70:操作ウインドウ 72,74,76,78:矩形枠

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 入力映像を実時間で記憶するメモリ手段
    と、当該メモリ手段に蓄積される画像の少なくとも1以
    上の切り出し範囲を指定する切り出し範囲指定手段と、
    当該1以上の切り出し範囲の画像を読み出し、所定表示
    サイズに変換する変換手段と、当該変換手段の出力画像
    を出力する出力手段とからなることを特徴とする映像処
    理装置。
  2. 【請求項2】 上記切り出し範囲指定手段は、上記1以
    上の切り出し範囲のそれぞれに設けられる請求項1に記
    載の映像処理装置。
  3. 【請求項3】 上記メモリ手段が、ビデオ・カメラの撮
    像手段に含まれる請求項1又は2に記載の映像処理装
    置。
  4. 【請求項4】 上記出力手段が、映像表示手段である請
    求項1乃至3の何れか1項に記載の映像処理装置。
  5. 【請求項5】 上記映像表示手段が伝送路を介して接続
    する請求項4に記載の映像処理装置。
  6. 【請求項6】 上記切り出し範囲指定手段は、切り出し
    範囲の中心位置と大きさを指定する請求項1乃至5の何
    れか1項に記載の映像処理装置。
  7. 【請求項7】 ビデオ・カメラと、当該ビデオ・カメラ
    の出力映像信号を取り込むビデオ・キャプチャ手段と、
    当該ビデオ・キャプチャ手段の出力画像を一時記憶する
    メモリ手段と、当該メモリ手段に蓄積される画像の少な
    くとも1以上の切り出し範囲を指定する切り出し範囲指
    定手段と、当該1以上の切り出し範囲の画像を読み出
    し、所定表示サイズに変換する変換手段と、当該変換手
    段の出力画像を出力する出力手段とからなることを特徴
    とする映像処理装置。
JP03693195A 1995-02-24 1995-02-24 映像処理装置及び映像処理装置の制御方法 Expired - Fee Related JP3559607B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP03693195A JP3559607B2 (ja) 1995-02-24 1995-02-24 映像処理装置及び映像処理装置の制御方法
US08/603,611 US6768563B1 (en) 1995-02-24 1996-02-21 Image input system
EP96301225A EP0729275B8 (en) 1995-02-24 1996-02-23 Image input system
DE69624603T DE69624603T2 (de) 1995-02-24 1996-02-23 System für Bildeinspeisung
HK98113109A HK1012141A1 (en) 1995-02-24 1998-12-10 Image input system
US10/865,729 US7321453B2 (en) 1995-02-24 2004-06-10 Image input system
US11/468,602 US7583414B2 (en) 1995-02-24 2006-08-30 Image input system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP03693195A JP3559607B2 (ja) 1995-02-24 1995-02-24 映像処理装置及び映像処理装置の制御方法

Publications (2)

Publication Number Publication Date
JPH08237590A true JPH08237590A (ja) 1996-09-13
JP3559607B2 JP3559607B2 (ja) 2004-09-02

Family

ID=12483512

Family Applications (1)

Application Number Title Priority Date Filing Date
JP03693195A Expired - Fee Related JP3559607B2 (ja) 1995-02-24 1995-02-24 映像処理装置及び映像処理装置の制御方法

Country Status (1)

Country Link
JP (1) JP3559607B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100348131B1 (ko) * 1998-11-18 2002-08-09 가시오게산키 가부시키가이샤 촬영화상검색장치, 전자카메라장치 및 촬영화상검색방법
US7092012B2 (en) 1996-11-15 2006-08-15 Canon Kabushiki Kaisha Image processing apparatus and method, storage medium, and communication system
JP2013051522A (ja) * 2011-08-30 2013-03-14 Honda Elesys Co Ltd 画像圧縮装置、画像圧縮方法および画像圧縮プログラム
US8937667B2 (en) 2011-10-27 2015-01-20 Panasonic Intellectual Property Management Co., Ltd. Image communication apparatus and imaging apparatus
JP2015173433A (ja) * 2014-02-19 2015-10-01 株式会社リコー 端末装置及び通信システム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7092012B2 (en) 1996-11-15 2006-08-15 Canon Kabushiki Kaisha Image processing apparatus and method, storage medium, and communication system
KR100348131B1 (ko) * 1998-11-18 2002-08-09 가시오게산키 가부시키가이샤 촬영화상검색장치, 전자카메라장치 및 촬영화상검색방법
JP2013051522A (ja) * 2011-08-30 2013-03-14 Honda Elesys Co Ltd 画像圧縮装置、画像圧縮方法および画像圧縮プログラム
US8937667B2 (en) 2011-10-27 2015-01-20 Panasonic Intellectual Property Management Co., Ltd. Image communication apparatus and imaging apparatus
JP2015173433A (ja) * 2014-02-19 2015-10-01 株式会社リコー 端末装置及び通信システム

Also Published As

Publication number Publication date
JP3559607B2 (ja) 2004-09-02

Similar Documents

Publication Publication Date Title
EP0644694B1 (en) Video System
US6034740A (en) Keying system and composite image producing method
JP3315555B2 (ja) カメラ制御装置
KR101778744B1 (ko) 다중 카메라 입력의 합성을 통한 실시간 모니터링 시스템
JP2007096588A (ja) 画像撮影装置および画像表示方法
JP2004266670A (ja) 撮像装置及び方法、画像情報提供システム並びにプログラム
JP3559607B2 (ja) 映像処理装置及び映像処理装置の制御方法
JP7386307B2 (ja) ビデオストリームを送信するための方法およびシステム
JP3994469B2 (ja) 撮像装置、表示装置及び記録装置
JP3784964B2 (ja) 書画カメラ付きデータプロジェクタ
KR20200128541A (ko) 다안 카메라 시스템, 다안촬영용 카메라 헤드, 화상처리장치, 다안촬영용 프로그램 및 다안촬영방법
JPH1042307A (ja) キーシステム及び合成画像作成方法
KR20170055455A (ko) 초광각 카메라를 이용한 렌즈 왜곡 영상 보정 카메라 시스템 및 그가 적용된 tvi 장치
JPH0678198A (ja) 撮像装置
JPH11331833A (ja) 広視野監視カメラシステム
JPH03217978A (ja) 画像表示装置
JP3221004B2 (ja) ビデオカメラ
JP3231859B2 (ja) 画像情報処理装置
JP3033619B2 (ja) テレビ会議システム
JP3066594U (ja) 画像変換装置
JPH08149345A (ja) カメラシステム
JP6828069B2 (ja) 撮像装置、撮像方法およびプログラム
JP5115018B2 (ja) モニタリングシステム
JPH06233169A (ja) テレビカメラシステム
JP2006222617A (ja) 遠隔撮影システム、遠隔表示制御装置及び遠隔撮影装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040518

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040524

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090528

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100528

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100528

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110528

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120528

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120528

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140528

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees