JP2004248318A - 画像データ記録システムおよび画像データ記録方法 - Google Patents

画像データ記録システムおよび画像データ記録方法 Download PDF

Info

Publication number
JP2004248318A
JP2004248318A JP2004117082A JP2004117082A JP2004248318A JP 2004248318 A JP2004248318 A JP 2004248318A JP 2004117082 A JP2004117082 A JP 2004117082A JP 2004117082 A JP2004117082 A JP 2004117082A JP 2004248318 A JP2004248318 A JP 2004248318A
Authority
JP
Japan
Prior art keywords
image data
frame
recording
compression
intra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004117082A
Other languages
English (en)
Other versions
JP3645254B2 (ja
Inventor
Tatsuo Nagasaki
達夫 長崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004117082A priority Critical patent/JP3645254B2/ja
Publication of JP2004248318A publication Critical patent/JP2004248318A/ja
Application granted granted Critical
Publication of JP3645254B2 publication Critical patent/JP3645254B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

【課題】連続記録された画像について一駒毎の再生などの再生機能を損なわないように対応可能な画像データ記録システムおよび画像データ記録方法を提供すること。
【解決手段】フレーム内圧縮がなされた画像データを生成する一駒記録と、フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データを生成する連続記録とに対応可能であって、供給された画像信号についてフレーム内圧縮またはフレーム間圧縮を行なう画像データ圧縮手段(10,12,15,16,17)と、ここで圧縮された画像データを一駒記録であるか連続記録であるかを識別可能な状態で第1の記録媒体(8)に記録する第1の記録手段(7)と、ここに記録された画像データが一駒記録であるか連続記録であるかに応じて、フレーム内復号、または、フレーム内復号及びフレーム間復号を行なう復号手段(13,14,22)と、復号手段から出力された画像データを第2の記録媒体(16)に記録する記録手段(17)とを具備することを特徴としている。
【選択図】図1

Description

本発明は、フレーム内圧縮やフレーム間圧縮が施された画像データに好適な画像データ記録システムおよび画像データ記録方法に関する。
従来の電子スチルカメラとして、2インチの磁気ディスクに、20フレーム程度のフレーム画像を記録できるものがある。このカメラで20枚以上の画像を記録するときは、新しい磁気ディスクを入れ換えて記録する。すなわち磁気記録形式はフロッピーディスク形式になっていて、ディスク交換ができるものとなっている(特許文献1参照)。
特開昭63−122392号公報
電子スチルカメラは解像度の点では銀塩カメラに劣るが、再生の即時性、電送性、編集性、検索性等については優れている。高速連写が可能な点も電子スチルカメラの優れた点の一つであるといわれ、これについてのユーザーのニーズは高い。しかし現状では、この磁気ディスクの記録スピードは15フレーム/秒が限界である。しかも記録容量(枚数)が20枚程度であるため、連写は1秒程度で終了してしまう。このように記録スピードと記録時間の点から、現状の電子スチルカメラでの連写は、ゴルフのスイング一つ撮るのも難しいというのが現状である。また解像度を上げるために将来にわたって画素数が増えていくことは間違いないと思われるが、例えばHDTV方式の画素数になったときは、データ量から考えて連写の記録枚数と記録スピードはさらに低下し1/5程に減ってしまう。
そこで本発明の目的は、連続記録された画像について一駒毎の再生などの再生機能を損なわないように対応可能な画像データ記録システムおよび画像データ記録方法を提供することにある。
前記目的を達成するために、本発明の画像データ記録システム及び画像データ記録方法は、下記のような特徴ある構成を有している。なお下記以外の本発明の特徴ある構成については実施形態の中で明らかにする。
本発明の画像データ記録システムは、フレーム内圧縮がなされた画像データを生成する一駒記録と、フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データを生成する連続記録とに対応可能であって、供給された画像信号についてフレーム内圧縮またはフレーム間圧縮を行なうようになされた画像データ圧縮手段と、前記画像データ圧縮手段により圧縮された画像データを前記一駒記録であるか前記連続記録であるかを識別可能な状態で第1の記録媒体に記録する第1の記録手段と、前記第1の記録媒体に記録された画像データが前記一駒記録であるか前記連続記録であるかに応じて、フレーム内復号、または、フレーム内復号及びフレーム間復号を行なう復号手段と、前記復号手段から出力された画像データを第2の記録媒体に記録する第2の記録手段とを具備することを特徴とする。
また、本発明の画像データ記録システムは、フレーム内圧縮がなされた画像データを生成する一駒記録と、フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データを生成する連続記録とに対応可能であって、供給された画像信号についてフレーム内圧縮またはフレーム間圧縮を行なうようになされた画像データ圧縮手段と、前記画像データ圧縮手段により圧縮された画像データを前記一駒記録であるか前記連続記録であるかを識別可能な状態で第1の記録媒体に記録する第1の記録手段と、前記第1の記録媒体に記録された画像データが前記一駒記録であるか前記連続記録であるかに応じて、フレーム内復号、または、フレーム内復号及びフレーム間復号を行なう復号手段と、前記復号手段から出力された画像データを、一駒毎の再生処理が可能な状態で第2の記録媒体に記録する第2の記録手段とを具備することを特徴とする。
また、本発明の画像データ記録システムは、フレーム内圧縮がなされた画像データの生成と、フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データとの生成と、に対応可能であって、供給された画像信号についてフレーム内圧縮またはフレーム間圧縮を行なうようになされた画像データ圧縮手段と、前記画像データ圧縮手段により圧縮された画像データを、前記フレーム内圧縮がなされた画像データの生成により生成された画像データであるか、前記フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データとの生成により生成された画像データであるかを識別可能な状態で第1の記録媒体に記録する第1の記録手段と、前記第1の記録媒体に記録された画像データが、前記フレーム内圧縮がなされた画像データの生成により生成された画像データであるか、前記フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データとの生成により生成された画像データであるかに応じて所定の信号処理を施して、一駒毎の再生処理が可能な形態で出力する出力手段と、前記出力手段から出力された画像データを第2の記録媒体に記録する第2の記録手段とを具備することを特徴とする。
また、本発明の画像データ記録方法は、供給された画像信号について、連続記録に対応したフレーム間圧縮を行なうことによって圧縮画像データを生成し、前記圧縮画像データに連続記録であるか否かが識別可能な情報を付加し、前記圧縮画像データに付加された前記情報に基づき、当該圧縮画像データが連続記録に対応したフレーム間圧縮がなされた圧縮画像データである場合に、一駒毎の再生処理が可能なように変換処理を行なって記録することを特徴とする。
本発明によれば、連続記録された画像について一駒毎の再生などの再生機能を損なわないように対応可能な画像データ記録システムおよび画像データ記録方法を提供することができる。
(一実施形態)
図1は本発明の一実施形態に係る画像データ記録システムを利用した電子スチルカメラの構成の一部を示すブロック図、図2は同電子スチルカメラの構成の残余の部分を示すブロック図である。以下本実施形態の構成を図1および図2により説明する。撮像素子1に対してレンズ50を通して入射した被写体像は、この撮像素子1で映像信号に変換される。この映像信号はプリアンプ2で増幅された後、A/D変換器3でデジタル信号に変換され、フレームメモリ4に一時的に記憶される。このフレームメモリ4は、この後の各種信号処理のための時間変換やデータ列の変換などを行なうためのものである。映像信号はフレームメモリ4とビデオプロセス回路5とにより、Y,R−Y,B−Yの順次信号に変換される。また後段のデータ圧縮部6において、後述するデータ圧縮を行なうために、前記各順次信号(Y,R−Y,B−Y)は8×8画素のブロックごとの画像データとして出力される。そしてデータ圧縮部6によって圧縮された画像データは、記録部7を通じて記録媒体8に記録される。記録部7は、記録媒体8が磁気ディスクや磁気テープ等である時は、エラー訂正符号化回路や記録用変調回路で構成されている。記録媒体8がメモリカード等のように半導体メモリであるときは、特に必要としない。
次にデータ圧縮回路6について説明する。このデータ圧縮回路6はフレーム内の圧縮と、フレーム間の圧縮とが同時にできるように構成されている。また切換えによりフレーム内の圧縮のみに設定することもできる。フレーム内のデータ圧縮は高画質で圧縮率の高い、特願平01−283761号に示すようなADCT(アダプディブディスクリートコサイントランスフォーマー)方式で行なわれる。フレーム間のデータ圧縮は前フレームを使ってブロックごとに動き補償フレーム間予測を行ない、現フレームとの差をとって予測誤差を得て、この予測誤差信号に対して量子化を行なう前値予測方式で行なわれる。
まず一駒撮影をするときのデータ圧縮回路6の動作について説明する。カメラ24には一駒撮影と連続撮影を選択する切換えスイッチ36がついている。これを一駒撮影に設定すると、コントロール部9を通じて切換えスイッチ10が端子11側に切替わり、減算回路12は映像信号を通過させるだけになる。このとき逆量子化回路(代表値設定回路)13と、逆DCT回路14と、加算回路15と、フレームメモリ16と、フレームメモリコントロール部17と、動きベクトル検出部18とは使用しない。このため、電源は電源コントロール部19を通じてOFF状態に設定される。フレームメモリ4とビデオプロセス回路5とにより、8×8画素のブロック単位に変換されたY,R−Y,B−Yの順次信号は、ブロックごとにDCT回路20によって、2次元DCT係数(8×8係数)に変換される。次に量子化回路21によって、この2次元DCT係数を各周波数成分ごとに予め割り当てられた量子化幅(量子化マトリクス)で割ることにより、各周波数成分に応じた線形量子化を行なう。この量子化幅は、通常の場合高周波数成分に近づくに従って大きくなっている。それは高周波数成分は発生頻度が低く振幅も小さいので、視覚特性上、若干欠落が生じても画質に大きな影響を与えにくいからである。これを利用し、以上の量子化を行なうことで後段の符号化回路22における、圧縮効果を大幅に上げることができる。つまり符号化回路22では量子化後の8×8の系統行列を左上の低周波成分から右下の高周波成分に向かってジグザグに走査し、零の値の成分が連続する頻度を高くして2次元ハフマン符号化を行なう。このため先に述べたような量子化を行なうことで、高周波成分はほとんど零値が続くことになり、2次元ハフマン符号化による圧縮効果を大幅に上げることができる。以上のADCT方式の詳細な説明に関しては特願平01−283761号に記されている。また2次元ハフマン符号化は可変長符号であるが、検索、編集等のことを考慮すると、1画面の符号量は一定である方が望ましい。2次元ハフマン符号を使用して、なおかつ画面当たりの符号量を一定にする方法についても前記出願に記されている。
次に連続撮影すなわち連写をするときのデータ圧縮回路6の動作について説明する。まず切換スイッチ36を連写に設定し、シャッター26を押すと、必要な各回路の電源が電源コントロール部19を通じて動作状態になる。特に減算回路12と逆量子化回路13と、逆DCT回路14と、加算回路15と、フレームメモリ16と、フレームメモリコントロール部17と、動きベクトル検出部18とは、一駒撮影の時とは違って動作状態に設定される。そしてオートフォーカス動作、測光等が行われた後、連写が開始される。連写が開始されてから最初の画像フレームについては切換スイッチ10は端子11側に切換えられていて、先に述べた一駒撮りの時と同じ圧縮(ADCTによるフレーム内圧縮)が行なわれ、記録媒体8に記録される。これと同時に量子化回路21の出力は逆量子化回路13と逆DCT回路14とによって、元の画像に復号され、最初のフレームデータとしてフレームメモリ16に記憶される。ただしこのときのフレームデータは量子化回路21による量子化誤差を含んだ形として記憶されている。これと同時にこのフレームデータは動きベクトル検出部18において、ビデオプロセス回路5から出力された第2フレーム信号(現フレーム信号25)と相関演算が行なわれ、第2フレーム(現フレーム)の各ブロックを基準とした動きベクトルが検出される。そしてこの動きベクトルに対応した位置にある最初のフレーム(前フレーム)の8×8画素分のデータをメモリコントロール部17を通じてフレームメモリ16から読出す。そして減算回路12によって第2フレーム(現フレーム)の画像データ25との差がとられる。そしてこの差分について前述したADCT方式による圧縮が行なわれる。つまりDCT回路20によって、フレーム内のDCT変換が行なわれ、量子化回路21によって所定の量子化が行なわれた後、符号化回路22によって、ハフマン符号化が行なわれ、記録媒体8に記憶される。このとき動きベクトル信号28も符号化回路22で符号化され、ブロックデータと一緒に記録される。この差分のデータ量はフレーム間の相関が高いため、動き補償フレーム間予測が行なわれると極めて少ないデータ量となり、符号化回路22の後では1/100程度の圧縮が可能になる。いま記録媒体に2M BYTEのメモリカードを使用したとき、連写の継続時間はおよそ16〜20秒程度が可能となる。減算回路12によって最初のフレームと第2のフレームの画像データの差がとられるとき、切換スイッチ10は当然端子23の側へ切換わっている。そしてこのデータの差分は直ちに回路20,21,13,14と加算回路15とを通じて復号され、フレームメモリ16と動きベクトル検出部18内のバッファメモリに記憶される。フレームメモリ16への書き込みと読出しは20,21,13,14の回路の処理による時間的な遅延があるため、同一アドレスのデータがかち合うことはなく、クロックごとに書き込みと読出しを時分割で行なえば同時アクセスができる。データがかち合うときは、それに見合った遅延量の遅延回路を加算回路15の後に挿入しておけばよい。また遅延回路の遅延量は、現フレーム信号25が動きベクトル検出部18に入力された時から動きベクトルを検出し、それに対応してメモリコントロール部17を通じてフレームメモリ16から前フレームのデータを読出すまでの時間に設定してあり、減算回路12の処理がリアルタイムで行なえるようになっている。第3フレーム以降の圧縮についても、以上述べた動作を繰り返して圧縮を行なう。そして画像データには、それぞれアドレス情報(検索、編集のための)とID情報(日付等)と一駒撮影と連写とを識別するための連写識別信号29とが、コントロール回路9と符号化回路22とを通じて付加される。ところで図に示されているように、データ圧縮回路6において、前フレームとの予測誤差を検出するのに局部復号器27をわざわざ設けてフィードバック構成とし、このフィードバックループの中にDCT回路20と量子化回路21が挿入されている。その理由は量子化によって起きる量子化雑音の積分値を考慮しつつ予測誤差が量子化されるため、復号時において雑音が蓄積されるのを回避するためである。
次に画像の再生を行なう動作について簡単に説明する。まず一駒再生を行なう時は、切換スイッチ10は端子11の側に設定される。そして設定されたアドレスに従って圧縮画像データが記録媒体8から読み出される。記録媒体8が磁気ディスクや磁気テープであるときは、記録部7によって記録符号の復調とエラー訂正が行なわれる。そして符号化回路22に入力され、2次元ハフマンの復号が行なわれる。そして次に逆量子化回路13と逆DCT回路14とを通じて画像データが復元される。復元された画像データは直並列変換器30によってY,R−Y,B−Yの並列信号に変換され、NTSC回路31にてNTSC信号に変換される。そしてD/A変換器32によって、アナログ信号に変換され、TVモニタ33に表示される。
次に連写の再生について説明する。この場合の切換スイッチ10は、最初の画像が一駒再生と同じ処理で復元されてフレームメモリ16に記憶された後、端子23の側に設定される。これは圧縮データの先頭に付加してある連写識別信号29を符号化回路22で判定してコントロール部9を通じて制御される。そしてその後は連写の局部復号器27の動作とまったく同じ動作で、連写画像の再生が行なわれる。ところで本発明の連写方式はフレーム内の圧縮(ADCT)に加えてフレーム間の圧縮を前値予測方式により行なっている。このため、ノーマル再生はできても逆転再生等のトリック再生や一駒ごとの検索再生が難しくなる。そこで磁気ディスクや光ディスク、またデジタルVTR等の電子アルバム装置60に移し変えるときは、再度フレーム内の圧縮(ADCT)を回路34で行なってからマスストレージ35に記録する。こうすることにより、トリック再生、検索、編集が可能になる。
この画像データ記録システム及び画像データ記録方法によれば、フレーム間圧縮が施された画像データの再生処理などに好適なので、例えば電子スチルカメラにて連続記録されたフレーム間圧縮された画像データの記録に極めて好適である。
本発明の一実施形態に係る画像データ記録システムを利用した電子スチルカメラの構成の一部を示すブロック図 本発明の一実施形態に係る画像データ記録システムを利用した電子スチルカメラの構成の残余の部分を示すブロック図。
符号の説明
1・・・撮像素子、 3・・・A/D変換器、 4・・・フレームメモリ、 6・・・データ圧縮部、 9・・・コントロール部、 36・・・一駒/連写切換スイッチ。

Claims (4)

  1. フレーム内圧縮がなされた画像データを生成する一駒記録と、フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データを生成する連続記録とに対応可能であって、供給された画像信号についてフレーム内圧縮またはフレーム間圧縮を行なうようになされた画像データ圧縮手段と、
    前記画像データ圧縮手段により圧縮された画像データを前記一駒記録であるか前記連続記録であるかを識別可能な状態で第1の記録媒体に記録する第1の記録手段と、
    前記第1の記録媒体に記録された画像データが前記一駒記録であるか前記連続記録であるかに応じて、フレーム内復号、または、フレーム内復号及びフレーム間復号を行なう復号手段と、
    前記復号手段から出力された画像データを第2の記録媒体に記録する第2の記録手段と、
    を具備することを特徴とする画像データ記録システム。
  2. フレーム内圧縮がなされた画像データを生成する一駒記録と、フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データを生成する連続記録とに対応可能であって、供給された画像信号についてフレーム内圧縮またはフレーム間圧縮を行なうようになされた画像データ圧縮手段と、
    前記画像データ圧縮手段により圧縮された画像データを前記一駒記録であるか前記連続記録であるかを識別可能な状態で第1の記録媒体に記録する第1の記録手段と、
    前記第1の記録媒体に記録された画像データが前記一駒記録であるか前記連続記録であるかに応じて、フレーム内復号、または、フレーム内復号及びフレーム間復号を行なう復号手段と、
    前記復号手段から出力された画像データを、一駒毎の再生処理が可能な状態で第2の記録媒体に記録する第2の記録手段と、
    を具備することを特徴とする画像データ記録システム。
  3. フレーム内圧縮がなされた画像データの生成と、フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データとの生成と、に対応可能であって、供給された画像信号についてフレーム内圧縮またはフレーム間圧縮を行なうようになされた画像データ圧縮手段と、
    前記画像データ圧縮手段により圧縮された画像データを、前記フレーム内圧縮がなされた画像データの生成により生成された画像データであるか、前記フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データとの生成により生成された画像データであるかを識別可能な状態で第1の記録媒体に記録する第1の記録手段と、
    前記第1の記録媒体に記録された画像データが、前記フレーム内圧縮がなされた画像データの生成により生成された画像データであるか、前記フレーム間圧縮がなされた画像データと少なくとも一駒のフレーム内圧縮がなされた画像データとの生成により生成された画像データであるかに応じて所定の信号処理を施して、一駒毎の再生処理が可能な形態で出力する出力手段と、
    前記出力手段から出力された画像データを第2の記録媒体に記録する第2の記録手段と、
    を具備することを特徴とする画像データ記録システム。
  4. 供給された画像信号について、連続記録に対応したフレーム間圧縮を行なうことによって圧縮画像データを生成し、
    前記圧縮画像データに連続記録であるか否かが識別可能な情報を付加し、
    前記圧縮画像データに付加された前記情報に基づき、当該圧縮画像データが連続記録に対応したフレーム間圧縮がなされた圧縮画像データである場合に、一駒毎の再生処理が可能なように変換処理を行なって記録することを特徴とする画像データ記録方法。
JP2004117082A 2004-04-12 2004-04-12 画像データ記録システムおよび画像データ記録方法 Expired - Fee Related JP3645254B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004117082A JP3645254B2 (ja) 2004-04-12 2004-04-12 画像データ記録システムおよび画像データ記録方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004117082A JP3645254B2 (ja) 2004-04-12 2004-04-12 画像データ記録システムおよび画像データ記録方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2003288904A Division JP3645249B2 (ja) 2003-08-07 2003-08-07 電子スチルカメラ

Publications (2)

Publication Number Publication Date
JP2004248318A true JP2004248318A (ja) 2004-09-02
JP3645254B2 JP3645254B2 (ja) 2005-05-11

Family

ID=33028589

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004117082A Expired - Fee Related JP3645254B2 (ja) 2004-04-12 2004-04-12 画像データ記録システムおよび画像データ記録方法

Country Status (1)

Country Link
JP (1) JP3645254B2 (ja)

Also Published As

Publication number Publication date
JP3645254B2 (ja) 2005-05-11

Similar Documents

Publication Publication Date Title
JP3796756B2 (ja) 静止画動画記録装置及び静止画動画記録方法
JP3787398B2 (ja) 画像処理装置及びその方法
US9154760B2 (en) Apparatus for recording signals on disk recording medium
JPH04373374A (ja) 撮像装置及びその方法
JP3221785B2 (ja) 撮像装置
JP3592025B2 (ja) 撮影画像記録装置
US20090153677A1 (en) Recording and reproduction apparatus and methods, and a recording medium storing a computer program for executing the methods
JP2001352524A (ja) 再生装置及び再生方法
JP2009147745A (ja) 記録装置、再生装置、記録方法、再生方法及びプログラム
JP3645249B2 (ja) 電子スチルカメラ
JP3500147B2 (ja) 電子スチルカメラシステム、画像データ処理方法、及び画像データ記録装置
JP3645254B2 (ja) 画像データ記録システムおよび画像データ記録方法
JP2004180345A (ja) 撮影画像記録装置
US20040101051A1 (en) Image processing apparatus and method for processing motion-picture data and still-image data
JP2005277591A (ja) 電子カメラ装置、及び撮像信号生成方法
JP2007109329A (ja) 画像データ記録装置、画像データ再生装置、画像データ記録方法、プログラム及び記録媒体
JP3897783B2 (ja) 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP2006174025A (ja) 動画静止画同時記録可能な撮像記録再生装置
JP4217504B2 (ja) 画像再生方式及び方法
JP2002165175A (ja) 画像記録装置、画像再生装置及び画像記録再生装置
JP3191019B2 (ja) 画像記録装置及びその方法
JP3809301B2 (ja) 再生装置及び再生方法
JP3714363B2 (ja) 電子スチルカメラ
JP2008092503A (ja) 撮像装置
JPH0556397A (ja) 画像信号記録再生方式

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050202

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090210

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090210

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100210

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees