JP3650378B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP3650378B2
JP3650378B2 JP2002200058A JP2002200058A JP3650378B2 JP 3650378 B2 JP3650378 B2 JP 3650378B2 JP 2002200058 A JP2002200058 A JP 2002200058A JP 2002200058 A JP2002200058 A JP 2002200058A JP 3650378 B2 JP3650378 B2 JP 3650378B2
Authority
JP
Japan
Prior art keywords
distortion
image
lens
data
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002200058A
Other languages
English (en)
Other versions
JP2003110847A (ja
Inventor
哲也 豊田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2002200058A priority Critical patent/JP3650378B2/ja
Publication of JP2003110847A publication Critical patent/JP2003110847A/ja
Application granted granted Critical
Publication of JP3650378B2 publication Critical patent/JP3650378B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、撮影された画像を歪曲のない画像に補正する画像処理装置に関する。
【0002】
【従来の技術】
一般に、レンズには箇所によって倍率の違いがあり、レンズに入射する画像の主光線の光軸の角度によっては、歪曲収差が発生する。この歪曲収差には、正の歪曲(糸巻き型歪曲)と負の歪曲(樽型歪曲)とがある。
前記歪曲収差は、非対称に構成されたレンズ群では生じ易く、対称であれば、前方のレンズ群で生じた歪曲が後方のレンズ群で打ち消され歪曲が目立たなくなる。しかし、歪曲収差が生じるような場合には、撮影された画像が撮影対象と相似形にならず、直線が歪んで写り、絞りを絞り込んでも収差は減少しない。
【0003】
この歪曲収差を補正するものとして、例えば、特開昭62−230267号公報に開示されているような、歪曲した画像を画像処理によって補正する技術がある。
【0004】
この補正技術は、データ圧縮を利用したものであり、ドアカメラで撮影した画像をデジタル信号に変換し、フレームメモリに書き込む際に、画像の圧縮する度合いを順次変えて、補正された画像をCRTに写し出しているものである。
【0005】
すなわち、負の歪曲の場合に、各走査線データの書込み時に、画面の左側からの画面中心線までは順次データ圧縮率を強め、画面中心線から右側の圧縮率を順次弱めるようにする。同様に上下方向の圧縮も、中心の走査線ほど圧縮率を強め、上下端ほど圧縮率を弱める。
【0006】
このようなデータ圧縮を撮影した画像に施し、正常な画像になるように補正している。しかし一般的には、前述したような補正技術を用いず、カメラの撮像レンズ系自体で歪曲を少なくなるように設計して、用いられている。
【0007】
【発明が解決しようとする課題】
しかしながら、撮影レンズ系のみで解決しようとしても、レンズ配置は構造上制約される場合が多く、任意の絞りでも常に歪曲が発生しないように設計することは大変困難である。また、歪曲を補正するために、レンズ系の構成が複雑になり、カメラ自体の重量、体積がともに大きくなるという欠点がある。
【0008】
また、特開昭62−230267号公報に記載されている補正技術は、テレビカメラとテレビジョンのような、アナログやデジタルによる画像信号として、画像を撮影し補正し、表示画面に写し出す場合には、好適する補正技術であるが、フィルムを利用するカメラにおいては、画像を光学的に記録するため、前述した補正技術では光学的に画像を補正することはできない。
そこで本発明は、歪曲のない画像を得るための画像処理装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
上記目的を達成するために、カメラで撮影された画像をデジタル処理して出力する画像処理装置において、複数の歪曲補正データを記憶する記憶手段と、上記記憶手段に記憶された歪曲補正データを用いて上記画像の歪曲補正を行う歪曲補正手段とを備え、上記歪曲補正手段は、撮影時のレンズ種類、絞り値、焦点距離及び、焦点位置に応じて上記記憶手段に記憶されていた歪曲補正データを読出し、該歪曲補正データで再現される歪曲収差近似曲線式を用いて歪曲補正演算を行う画像処理装置を提供する。
【0011】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態を詳細に説明する。
図1は、本発明による第1の実施形態としてのカメラシステムの概略的な構成を示し説明するブロック図である。
このカメラシステムは、撮影時のレンズの歪曲データを記録可能なカメラ1と、歪曲データを記録するための磁気テープ11が設けられた光学画像を記録するフィルム10と、前記歪曲データと光学画像からなる情報を読み出す画像出力装置12と、画像を出力するためのカラープリンタ18とに大別される。
【0012】
前記カメラ1においては、焦点距離及び焦点位置が可変できるレンズ3と、該レンズ3の焦点距離及び焦点位置を変化させるためのレンズ駆動部4と、前記レンズ3の歪曲データを予め記録するROM5と、被写体までの距離を測定する測距部6と、被写体の明るさを測光し、露出を制御する露出制御部7と、レリーズボタン8と、撮影時の歪曲データを前記磁気テープ11に記録するための歪曲データ書込み部9と、前記レンズ駆動部4、ROM5、測距部6、露出制御部7、歪曲データ書込み部9を制御するCPU2とからなる。
【0013】
また、前記画像出力装置12においては、前記磁気テープ11に記録された歪曲データを読出すための歪曲データ読出し部14と、前記フィルム10から画像を読込むためのフィルムスキャナ15と、該フィルムスキャナ15によって読出された画像を記録しておくためのフレームメモリ16と、前記フィルムスキャナ15、歪曲データ読出し部14を制御するCPU13と、該CPU13によって歪曲を補正された画像を記録するためのフレームメモリ17とから構成されている。
【0014】
次に図2に示すフローチャートを参照して、前記カメラシステムにおけるカメラ1の動作を説明する。
まず、カメラ1のメインスイッチオンでシーケンススタートした後、撮影者によるファーストレリーズのオン/オフを判定し(ステップS1)、オンされると(YES)、前記露出制御部7により測光が行われ(ステップS2)、続いて前記測距部6により測距が行われる(ステップS3)。
【0015】
その測距の結果を受けて絞り値が決定され、前記レンズ駆動部4によりレンズが駆動され、オートフォーカスが完了する(ステップS4)。
更に撮影者によるセカンドレリーズのオン/オフを判定し(ステップS5)、オンされると(YES)、前記ステップS2〜S4で決定された絞りレンズ配置で露光が行われる(ステップS6)。続いて前記CPU2により撮影時のレンズ情報(焦点距離、焦点位置及び絞り)が判断され(ステップS7)、そのレンズ情報はレンズに内蔵された前記ROM5内のデータを用いて歪曲データに変換される(ステップS8)。
【0016】
次に変換された歪曲データは、前記歪曲データ書込み部9によって前記磁気テープ11に書き込まれる(ステップS9)。更に撮影者が撮影を終了するか判定する(ステップS10)。撮影を継続する場合は(NO)、フィルムを送り(ステップS11)、ステップS1に戻る。しかし撮影者が撮影を終了する場合には(YES)、本シーケンスは終了する。
【0017】
ここで、前記ステップS8の歪曲データ変換の際に必要な歪曲データについて説明する。
図3は、角度θで光学系Osに入射した光の歪曲収差を示す。光学系Osから焦点距離f離れた光軸上には、理想像高z’に対し、歪曲の影響を受けた実像高zの像が結像する。この場合、歪曲の大きさaは次式(1)で表わされる。
a=(z−z')/z'×100(%) …(1)
z'=f・tan(θ) …(2)
光学系の収差は、一般的には、像高の関数になる。
【0018】
図4には、実像高zを横軸、歪曲aを縦軸にとった場合の歪曲の収差曲線を示す。また図5には、正方格子が歪曲を受けた時の画像イメージを示す。それぞれ図5(a)樽型、同図(b)糸巻型、同図(c)陣笠型と呼ばれており、図4 (a)が図5(a)に、図4(b)が図5(b)に、図4(c)が図5(c)に対応している。ここで、これらの収差曲線を次式のように展開する。
a(z)=az+a+a+a+… …(3)
この展開により、式(3)の展開係数a1、a2、a3、a4、…を歪曲データとして持てば、図4に示すような収差曲線が再現できるため、これらの係数列a1、a2、a3、a4、…、を歪曲データとして採用する。ただし、本実施形態では、前記ROM5の容量を抑え、前記CPU13による歪曲補正の計算時間を短縮するため、歪曲データをa1、a2、a3の3つに限定する。
【0019】
次に表1、表2を参照して、前記ROM5内の具体的な歪曲データのフォーマットについて説明する。
【0020】
【表1】
Figure 0003650378
【0021】
【表2】
Figure 0003650378
【0022】
前記ROM5は、表1、表2に示すような2つのテーブルを持っている。表1は、前記CPU2で判断されたレンズ情報(「焦点距離f」と「焦点位置d」)を、その値によって9つのグループに分ける表である。
【0023】
一般的に、歪曲は同じレンズであってもその焦点距離や焦点位置によって変化するため、歪曲データを焦点距離や焦点位置によって変化させる必要がある。このグループ分けは、焦点距離、焦点位置による歪曲の変化率を考慮して、歪曲の変化の大きなところは細かく、変化の小さなところは粗に分けるようにする。
【0024】
そして表2は、このように表1でグループ分けされたレンズ情報nを歪曲データa1、a2、a3に変換する変換表である。
【0025】
図6は、図2の前記ステップS8の歪曲データを変換し前記ROM5から読み出すサブルーチン「歪曲データ変換」のシーケンスを示したフローチャートである。
まず、シーケンススタートした後、図2のステップS7における撮影時のレンズ情報「焦点距離f」と「焦点位置d」は、前記表1に従ってレンズ情報nにグループ分けされる(ステップS21)。グループ分けされたレンズ情報nは、表2の変換表に従って歪曲データa1、a2、a3に変換され(ステップS22)、本シーケンスが終了する。
【0026】
図7に示すフローチャートを参照して、前記画像出力装置12の動作を説明する。ここで、構成部材の参照符号は、図1に示した符号を用いる。
まず、シーケンススタートした後、フィルム10に記録された画像がフィルムスキャナ15により読み出され(ステップS31)、前記フレームメモリ16に転送される(ステップS32)。
【0027】
次に、前記磁気テープ11に記録された歪曲データが前記歪曲データ読出し部14により読み出される(ステップS33)。それから前記CPU13により、読み出された歪曲データを用いて前記フレームメモリ16に記憶された画像の歪曲が補正され(ステップS34)、前記フレームメモリ17に転送される(ステップS35)。そして、前記カラープリンタ18によって補正画像が出力されて(ステップS36)、本シーケンスが終了する。
【0028】
図8に示すフローチャートを参照して、図6に示したステップS34の歪曲補正について説明する。
まず、シーケンススタートした後、歪曲データa1〜a3がすべて「0」か否か判定し(ステップS41)、すべて「0」であると判定された場合は(YES)、歪曲補正は行われず、本シーケンスが終了する。しかし、歪曲データa1〜a3のうち1つでも「0」でないものがあると判定された場合は(NO)、補正を計算し(ステップS42)、本シーケンスを終了する。
【0029】
次に、図8のステップ42の歪曲補正の補正計算の具体的な方法について説明する。表2に示す歪曲データa1、a2、a3が与えられると、歪曲の近似収差曲線、
a(z)=az+a+a …(4)
が得られる。これは式(1)の通り、理想像高に対する実像高の歪曲の割合を表わしているが、この式を理想像高z’について解くと、
z'=(1+a(z)/100)z …(5)
となる。つまり、zを(1+a/100)倍することにより、z'が得られる。
【0030】
この場合、実像高zは画像の中心から距離zだけ離れた場所にある画素に相当する。よって、歪曲を補正するためには画像の中心から距離z離れた注目画素の値をその延長上の距離z’にある画素の値とすればよい。
具体的には、各画素は一般的に縦横直行するように並んでいるので、ある注目画素(x、y)に対し、
x=zcos(θ) …(6a)
y=zsin(θ) …(6b)
という座標変換を行い、zとθを求め、像高と実際の画素を対応させる。そして、いま求めたθと、式(5)を用いて計算されるz'を用いて、
x'=z'cos(θ) …(7a)
y'=z'sin(θ) …(7b)
より(x'、y')を求める。もし(x'、y')に相当する画素がない場合は、一番値の近い画素に置き換える。
【0031】
た、歪曲が負の場合、補正画像は元の画像より面積が大きくなるため、すべての(x、y)に対応した(x'、y')を求めても画像周辺部に画素のとびが出るが、その場合は、適当な補間を行い空いている画素を埋めればよい。
しかし逆に歪曲が正の場合、補正画像は元の画像より面積が小さくなるため、異なる(x、y)に対して同じ(x'、y')が対応するが、その場合は重なった画素値をその平均値等で置き換えればよい。
【0032】
以上の構成により、撮像レンズ自体で歪曲を補正する必要がなくなり、レンズの構成をシンプルにすることができる。また、任意の焦点距離、焦点位置で歪曲補正が可能になり、より高品質な写真を提供できる。
【0033】
図9は、本発明による第2の実施形態としてのカメラシステムの概略的な構成を示し説明する。
このカメラシステムは、第1の実施形態と同様に、撮影時のレンズの歪曲データを記録可能なカメラ21と、歪曲データを記録するための磁気テープ30が設けられた光学画像を記録するフィルム29と、前記歪曲データと光学画像からなる情報を読み出す画像出力装置31と、画像を出力するためのカラープリンタ38とに大別される。
【0034】
この第2の実施形態において、第1の実施形態と異なる点は、図1に示したROM5に相当する記憶素子を有していないこと、前記歪曲データ書込み部9及び歪曲データ読み出し部14に相当するものが、それぞれレンズ情報書込み部28及びレンズ情報読み出し部33となること、更に、画像出力装置31内にROM36を有することである。尚、前記ROM36には、撮影に使用される複数のレンズに対応した歪曲データが記憶されている。
【0035】
次に図10のフローチャートを参照して、本実施形態のカメラシステムのカメラ21の動作を説明する。
まず、カメラ1のメインステップオンでシーケンススタートした後、撮影者によるファーストレリーズのオン/オフの判定を行い(ステップS51)、オンされると(YES)、露出制御部26により測光が行われ(ステップ52)、続いて測距部25により測距が行われる(ステップS53)。
【0036】
その測距の結果を受けて絞り値が決定され、前記レンズ駆動部24によりレンズが駆動され、オートフォーカスが完了する(ステップS54)。
次に、撮影者によるセカンドレリーズのオン/オフを判定し(ステップS55)、オンされると(YES)、前記ステップS52〜S54で決定された絞りレンズ配置で露光が行われる(ステップS56)。続いて前記CPU22により撮影時のレンズ情報(レンズの種類、焦点距離、焦点位置、絞り)が判断され(ステップS57)、該レンズ情報は、前記レンズ情報書込み部28によって前記磁気テープ30に書き込まれる(ステップS58)。
【0037】
次に撮影者が撮影を終了するか判定する(ステップS59)。撮影者が撮影を継続する場合は(NO)、フィルムを送り(ステップS60)、ステップS51へ戻り、撮影者が撮影を終了する場合に本シーケンスは終了する。
次に図11に示すフローチャートを参照して、画像出力装置31の動作について説明する。
まず、シーケンススタートした後、前記フィルム29に記録された画像が前記フィルムスキャナ34により読み出され(ステップS61)、前記フレームメモリ35に転送される(ステップS62)。
【0038】
次に、前記磁気テープ30に記録されたレンズ情報が前記レンズ情報読出し部33により読み出される(ステップS63)。そして前記CPU32により、前記ROM36に記憶されているデータを用いてレンズ情報が歪曲データに変換され(ステップS64)、変換された歪曲データを用いて前記フレームメモリ35に記憶された画像の歪曲が補正される(ステップS65)。
そして補正された画像が前記フレームメモリ37に転送される(ステップS66)。さらに前記カラープリンタ38によって、補正画像がプリンタ出力されて(ステップS67)、本シーケンスが終了する。
【0039】
次に図12のフローチャートは、図11に示したステップS64の歪曲データ変換のサブルーチンである。
この歪曲データ変換について説明する。まず、シーケンススタートした後、読み出されたレンズ情報の中の「レンズの種類」と「絞り」によって、前記ROM36に記憶されている複数の変換テーブルのうち適当な変換テーブルを選択する(ステップS71)。次に、読み出された撮影時のレンズ情報の中の「焦点距離」、「焦点位置」は、前記ステップS71で選択された変換表に従ってグループ分けされ(ステップS72)、グループ分けされたレンズ位置情報nは、歪曲データa1、a2、a3に変換されて(ステップS73)、本シーケンスが終了する。 なお、本発明の実施形態では歪曲データを収差曲線の3次までの係数で表わしたが、それ以上の次数で表わしてもよいし、それ以下でもよい。また、歪曲データをべき展開せず、像高zに対する歪曲a(z)の値そのもので表わしてもよい。 以上のようなカメラシステムによれば、撮影時のコマ毎の情報を用いて画像の歪曲を補正するため、任意の焦点距離、焦点位置において歪曲を補正し、高画質の画像を得ることができる。また、本実施形態では、周辺減光データのレンズ情報をコマ毎に記録したが、他の半導体メモリのような記憶素子に一時的に記録しておき、撮影完了後の巻き戻しの際に、まとめて一括記録してもよい。
【0040】
従って、本発明によるカメラシステムは、撮像レンズ自体で歪曲を補正する必要がなく、レンズの構成を簡単にすることができ、小型で軽量なカメラで歪曲のない画像(写真)を提供する。
【0041】
また本発明は、前述した実施形態に限定されるものではなく、他にも発明の要旨を逸脱しない範囲で種々の変形や応用が可能であることは勿論である。
【0042】
【発明の効果】
以上詳述したように本発明によれば、歪曲のない画像を得るための画像処理装置を提供することができる。
【図面の簡単な説明】
【図1】図1は、本発明による第1の実施形態としてのカメラシステムの概略的な構成を示すブロック図である。
【図2】図2は、図1に示すカメラシステムにおけるカメラの動作を説明するためのフローチャートである。
【図3】図3は、角度θで光学系Osに入射した光の収差を示す図である。
【図4】図4は、実像高zを横軸、歪曲aを縦軸にとった場合の歪曲の収差曲線を示す図である
【図5】図5には、正方格子が歪曲を受けた時の画像イメージを示す図である。
【図6】図6は、図2の歪曲データ変換のシーケンスを示すフローチャートである。
【図7】図7は、画像出力装置の動作を説明するためのフローチャートである。
【図8】図8は、歪曲データを用いて画像の周辺減光を補正するサブルーチンのフローチャートである。
【図9】図9は、本発明による第2の実施形態としてのカメラシステムの構成を示す図である。
【図10】図10は、図8に示すカメラシステムのカメラの動作について説明するためのフローチャートである。
【図11】図11は、図8に示した画像出力装置の動作について説明するためのフローチャートである。
【図12】図12は、図11に示した歪曲データ変換を行うためのサブルーチンのフローチャートである。
【符号の説明】
1…カメラ
2、13…CPU
3…レンズ
4…レンズ駆動部
5…ROM
6…測距部
7…露出制御部
8…レリーズボタン
9…周辺減光データ書込み部
10…フィルム
11…磁気テープ
12…画像出力装置
14…周辺減光データ読出し部
15…フィルムスキャナ
16、17…フレームメモリ
18…カラープリンタ

Claims (1)

  1. カメラで撮影された画像をデジタル処理して出力する画像処理装置において、
    複数の歪曲補正データを記憶する記憶手段と、
    上記記憶手段に記憶された歪曲補正データを用いて上記画像の歪曲補正を行う歪曲補正手段と、
    を具備しており、
    上記歪曲補正手段は、撮影時のレンズ種類、絞り値、焦点距離及び、焦点位置に応じて上記記憶手段に記憶されていた歪曲補正データを読出し、該歪曲補正データで再現される歪曲収差近似曲線式を用いて歪曲補正演算を行うことを特徴とする画像処理装置。
JP2002200058A 2002-07-09 2002-07-09 画像処理装置 Expired - Lifetime JP3650378B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002200058A JP3650378B2 (ja) 2002-07-09 2002-07-09 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002200058A JP3650378B2 (ja) 2002-07-09 2002-07-09 画像処理装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP3507493A Division JPH06250277A (ja) 1993-02-10 1993-02-24 カメラシステム

Publications (2)

Publication Number Publication Date
JP2003110847A JP2003110847A (ja) 2003-04-11
JP3650378B2 true JP3650378B2 (ja) 2005-05-18

Family

ID=19195672

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002200058A Expired - Lifetime JP3650378B2 (ja) 2002-07-09 2002-07-09 画像処理装置

Country Status (1)

Country Link
JP (1) JP3650378B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006305963A (ja) * 2005-04-28 2006-11-09 Seiko Epson Corp 画像処理、補正値取得方法、印刷装置製造方法及び印刷方法
EP1959676B1 (en) 2005-12-05 2017-04-12 Nikon Corporation Distortion correction method, image processing apparatus, interchangeable lens, camera, and camera system
WO2007129444A1 (ja) 2006-04-14 2007-11-15 Nikon Corporation 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置
KR101014572B1 (ko) * 2007-08-27 2011-02-16 주식회사 코아로직 영상 왜곡 보정 방법 및 그 보정 방법을 채용한 영상처리장치
CN115782180A (zh) * 2023-01-20 2023-03-14 杭州爱新凯科技有限公司 一种线阵激光打印图像变形矫正方法

Also Published As

Publication number Publication date
JP2003110847A (ja) 2003-04-11

Similar Documents

Publication Publication Date Title
US5461440A (en) Photographing image correction system
US7190845B2 (en) Image correction according to transmission characteristics of image sensing optical system
CN103647898B (zh) 摄像设备及其控制方法
US9071751B2 (en) Image processor method and program for correcting distance distortion in panorama images
JP4354076B2 (ja) 画枠センタリング調整方法および撮像装置
US6219446B1 (en) Image forming apparatus and manufacturing method of lens fitted film unit
JP2004336106A (ja) 画像処理装置、画像処理方法ならびに撮像装置
US7286160B2 (en) Method for image data print control, electronic camera and camera system
JP2006295626A (ja) 魚眼像処理装置及びその方法並びに魚眼像撮像装置
JP2008092297A (ja) 画像処理装置、画像処理プログラム、画像製造方法、及び記録媒体
JP3035416B2 (ja) 撮像装置及び画像再生装置及び映像システム
US7260271B2 (en) Digital image data correction apparatus, digital image data correction method and digital image pickup apparatus
JPH07284011A (ja) デジタル電子スチルカメラ
JP3984346B2 (ja) 撮像装置及び画像合成方法
JP6468868B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
US7719727B2 (en) Image reproducing apparatus for preventing white balance offset and solid-state imaging apparatus
JPH07288826A (ja) フィルム画像再生装置
JP3650378B2 (ja) 画像処理装置
JP4299561B2 (ja) 撮像装置
US8514305B2 (en) Imaging apparatus
JPH11250240A (ja) Yuvデータによりディストーション補正を行うディジタル撮像装置
JPH06250277A (ja) カメラシステム
JPH06292052A (ja) 静止画像撮像装置
JP3457975B2 (ja) カメラシステム及び、画像出力装置
JPH1169277A (ja) 画像処理方法および装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050217

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090225

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090225

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100225

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110225

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110225

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120225

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120225

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130225

Year of fee payment: 8

EXPY Cancellation because of completion of term