JP3685818B2 - 三次元画像構成方法及びその装置 - Google Patents

三次元画像構成方法及びその装置 Download PDF

Info

Publication number
JP3685818B2
JP3685818B2 JP17397294A JP17397294A JP3685818B2 JP 3685818 B2 JP3685818 B2 JP 3685818B2 JP 17397294 A JP17397294 A JP 17397294A JP 17397294 A JP17397294 A JP 17397294A JP 3685818 B2 JP3685818 B2 JP 3685818B2
Authority
JP
Japan
Prior art keywords
dimensional image
viewpoint
stacked
projection plane
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP17397294A
Other languages
English (en)
Other versions
JPH0836652A (ja
Inventor
良洋 後藤
一弘 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Healthcare Manufacturing Ltd
Original Assignee
Hitachi Medical Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Medical Corp filed Critical Hitachi Medical Corp
Priority to JP17397294A priority Critical patent/JP3685818B2/ja
Priority to US08/460,937 priority patent/US6535212B1/en
Publication of JPH0836652A publication Critical patent/JPH0836652A/ja
Application granted granted Critical
Publication of JP3685818B2 publication Critical patent/JP3685818B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Image Generation (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

【0001】
【産業上の利用分野】
本発明は、例えばX線CT装置で得られた複数の断層像や、MRI装置などの三次元計測によるボリューム画像を分解して得られた複数の断層像を積み上げて積上げ三次元画像を得、これを任意の方向から見た二次元画像に陰影づけを行って三次元画像(ここでの三次元画像は、画素は二次元配列であって、それに陰影づけして三次元的に見せた画像を指す。)として構成する三次元画像構成方法に関するものである。
【0002】
【従来の技術】
この種の三次元画像構成方法は、従来から知られているが、従来方法では、表示画面に相当する投影面座標系への画素座標の変換に平行投影法が用いられていた。
【0003】
【発明が解決しようとする課題】
上記のように従来技術では、画素座標の変換に平行投影が用いられていたが、これは、例えば臓器などの対象物を、その外側から見た三次元画像として構成するには有効であったが、その内側から見た(内部に視点をおいた)三次元画像を構成するには向いていなく、対象物内部を内視鏡で見ているような三次元画像を得たいという要望を満たすことができなかった。
【0004】
そこで、特願平6−3492号で示される三次元画像の構成方法が考えられた。これは、投影面への各断層像の投影に当たり、各断層像の画素座標の投影面上の座標への変換は中心投影法を用いて行い、陰影づけアルゴリズムに従って前記投影面上での各画素座標に画素値を与えて陰影づけを行い、三次元画像として構成するもので、以下、図6を参照してこのような三次元画像構成方法を説明する。
【0005】
図6は、中心投影法による座標変換を説明するための図で、断層像30上のS点(x0,z0,y0)の投影結果が投影面20上のP点(x,y,z)になることを示す。
【0006】
この図6において、中心投影法による投影面20への断層像30の投影に当たっての、断層像30の画素座標の投影面20上の座標への変換は次のように行われる。
ここで、
aはx軸と投影面20の交わる点、
bはy軸と投影面20の交わる点、
cはz軸と投影面20の交わる点、
である。
【0007】
また、
αは原点から投影面20に下ろした垂線をz−x面に投影した線がx軸となす角
βは前記垂線がx−z面となす角
e点(x1,y1,z1)は視点eの位置、
P点(x,y,z)は投影面(表示画面に相当する)21上の点、
S点(x0,z0,y0)はe点(x1,y1,z1)とP点(x,y,z) を通る直線22と断層像30の交わる点、
とすると、次の式が成り立つ。
【0008】
まず、投影面20は
(x/a)+(y/b)+(z/c)=1 …(1)
で表わされる。
また、e点(x1,y1,z1)とP点(x,y,z) を通る直線22は
Figure 0003685818
で与えられる。
【0009】
投影面20がC1点(xc1,yc1,zc1)を通るとき、
k1=sinα
k2=cosα/sinβ
k3=cosα・cosβ/sinβ
ai=1/a
bi=1/b
ci=1/c
として、
Figure 0003685818
ここで、上記C1点(xc1,yc1,zc1)には、例えば、視点e(x1,y1,z1)から投影面20に下ろした垂線と投影面20の交わる点(この点と視点e間の距離はh)として、
zc1=z1+−[h/sqrt{1+(c2/a2)+(c2/b2)}]
(「z1+−」の「−」はz0<zc1のとき) …(6)
xc1=x1+{c・(z1−zc1)/a} …(7)
yc1=y1+{c・(z1−zc1)/b} …(8)
を使ってもよい。
【0010】
投影された画像を投影面20に相当する表示画面(図示せず)上に、縦512画素×横512画素で表示するとき、X,Yは−256から+256までの値を取る。それぞれのX,Yに対して上掲(3),(4),(5)式によりx,yが決まる。e点のx1,y1,z1は任意に与えるので、下掲(9),(10)式により、y0=d0の断層像上で画素S点の座標x0,z0が決まる。
【0011】
x0={(d0−y)/(y1−y)}×(x1−x)+x …(9)
z0={(d0−y)/(y1−y)}×(z1−z)+z …(10)
断層像は複数あって、d0も複数個あるので、1組のX,Yに対して複数の投影すべき点x0,y0が決まる。
【0012】
なお、図6中のLは視点eからS点までの距離を示すもので、このLはP点の画素値(輝度)を求める際のパラメータとなる。P点の画素値は、設定された画素値(輝度)の最大値Lmax から上記Lを引算した値に比例する。
【0013】
以上のような座標変換を、表示画面に相当する投影面20上の全ての点について行う。また、全ての断層像30について行う。
【0014】
また二次元表示画面に表示するときに、遠近間が与えられて三次元画像として表示されるようにするために陰影づけを行う。陰影づけには、所定の陰影づけアルゴリズム、例えばデプス法が用いられるもので、その陰影づけアルゴリズムに従って前記投影面20上での各画素座標に画素値を与えるものである。
【0015】
この方法によれば、対象物内部を内視鏡で見ているような三次元画像を得ることができる。
【0016】
しかし上述方法は、食道、気管、腸などのように、対象物内部に元々あいている空間内に視点eが置かれることを前提としたもので、小さい穴から内部(広がりのある内部)を覗き込んだような三次元画像、特に図7に示すように、腹腔鏡60で観察しながらそれを被検体61内に挿入してゆく時に見えるような三次元画像を構成することはできず、そのような画像を得たいという要望を満たすことができなかった。
【0017】
本発明の目的は、小さい穴から内部(広がりのある内部)を覗き込んだような三次元画像、特に、腹腔鏡で観察しながらそれを被検体内に挿入してゆく時に見えるような三次元画像を得ることのできる三次元画像構成方法を提供することにある。
【0018】
【課題を解決するための手段】
本発明は、ボリュ一ム画像を含む複数の断層像を積み上げて積み上げ三次元画像を得、これを任意の方向に設定した投影面に二次元画像として投影し、その二次元画像に陰影付けを行って三次元画像として構成すると共に、前記投影面への各断層像の座標変換は視点からの中心投影法を用いる三次元画像構成方法において、
前記視点と前記円筒モデルの間に位置するように投影対象となる積み上げ三次元画像を配置するステップと、前記視点を内部に含む腹腔鏡を模した円筒モデルを前記積み上げ三次元画像内に設定するステップと、前記積み上げ三次元画像の画素が前記設定された円筒モデルの内/外の何れかに存在するかを判別するステップと、前記円筒モデルの外に存在すると判別された画素についてのみ前記陰影付けを行うステップと、を備えたことを特徴とする三次元画像構成方法を開示する。
更に本発明は、ボリューム画像を含む複数の断層像を積み上げて積み上げ三次元画像を得、これを任意の方向に設定した投影面に二次元画像として投影し、その二次元画像に陰影付けを行って三次元画像として構成すると共に、前記投影面への各断層像の座標変換は視点からの中心投影法を用いる三次元画像構成装置において、
前記視点と前記投影面の間に位置するように投影対象となる積み上げ三次元画像を配置する手段と、前記視点を内部に含む腹腔鏡を模した円筒モデルを前記積み上げ三次元画像内に設定する手段と、前記積み上げ三次元画像の画素が前記設定された円筒モデルの内/外の何れに存在するかを判別する手段と、前記円筒モデルの外に存在すると判別された画素についてのみ前記陰影付けを行う手段と、を備えたことを特徴とする三次元画像構成装置を開示する。
【0019】
【作用】
視点を含んで設定された円筒モデルが小さい穴の役割を果たし、断層像の画素座標の変換には中心投影法を使うので、上記穴の大きさより大きなものが見えるようになる。
【0020】
これにより、円筒モデルによる小さい穴から内部(広がりのある内部)を覗き込んだような三次元画像、特に図7に示すように、腹腔鏡60で観察しながらそれを被検体61内に挿入してゆく時に見えるような三次元画像が得られることになる。
【0021】
【実施例】
以下、図面を参照して本発明の実施例を説明するが、それに先立ってまずその原理につき図2及び図3に基づき述べておく。
本発明方法においては、投影面20への各断層像30の投影に当たり、各断層像30の画素座標の投影面20上の座標への変換は中心投影法を用いて行い、陰影づけアルゴリズムに従って前記投影面20上での各画素座標に画素値を与えて陰影づけを行う。
【0022】
この時、図2,図3に示すように、視点eの回りに断層像30を貫いて一定の領域21を設定しておき、この領域21内に含まれる断層像30の画素を無視し、座標変換及び陰影づけの処理対象から外す。そして、領域21外の断層像30の画素についてのみ前記座標変換及び陰影づけを行う。
【0023】
このように、領域21内に含まれる断層像30の画素を無視することが、腹腔鏡を使った時などのように、被検体に穴をあけることに相当する。
これを図3で説明する。ここで、前記領域21の形状を円柱形とし、その半径をr、視点eから円柱(領域21)の先端面までの距離をdとする。
【0024】
この図3において、投影面20上の点(X,Y)と視点eを結ぶ直線と断層像30との交点をp(p1,p2…)としたとき、視点eと交点pとの距離Lを考え、下記(イ),(ロ)の場合にのみ座標変換及び陰影づけをする。なお、A1は視点eと投影面20を結ぶ直線l1と、視点eと円柱(領域21)の角c1を結ぶ直線とでなす角度である。また、Dは投影面20から視点eへの垂線の距離、Rは前記直線l1と投影面20の交点から前記点(X,Y)までの距離である。
【0025】
(イ)交点pが円柱(領域21)の側面にある場合、すなわち、A> A1の場合、
L>r/sinA ならば座標変換及び陰影づけをする。
【0026】
(ロ)交点pが円柱(領域21)の先端面にある場合、すなわち、A<=A1の場合、
L>d/cosA ならば座標変換及び陰影づけをする。
【0027】
ここで、
Figure 0003685818
である。
【0028】
このように、領域21の形状を円柱形としたとき、上記(イ),(ロ)の場合のみが領域21外に断層像30の画素が存在しているもので、この場合にのみ座標変換及び陰影づけをするものである。
【0029】
座標変換は前述中心投影法で行われる。陰影づけには、所定の陰影づけアルゴリズム、例えばデプス法が用いられるもので、その陰影づけアルゴリズムに従って前記投影面20上での各画素座標に画素値を与えるものである。
【0030】
図1は、本発明による三次元画像構成方法の一実施例を示すフローチャートである。以下、この図1のステップに従い、かつ図2,図3を併用して本発明方法の一実施例を説明する。
【0031】
ここでは、予め、図2に示すように視点eの回りに断層像30を貫いて一定の領域21が設定されており、またこの領域21は図2,図3に示すように円柱形で、その半径はr、視点eから円柱(領域21)の先端面までの距離はdであるものとする。
【0032】
ステップ1
投影面20上の座標(X,Y)をX=−256,Y=−256とする。
ステップ2
座標yを視点eに最も近い断層像30の位置とする。
ステップ3
座標(X,Y)と視点eを結ぶ直線と断層像30との交点p(z,x)を求め、視点eから交点pまで距離Lを求める。
【0033】
ステップ4
交点pが円柱(領域21)の側面か先端面かを判定する。側面であるときにはステップ5に、先端面であるときにはステップ6に跳ぶ。
ステップ5
交点pが円柱(領域21)の側面の場合は、L>d/cosAかどうかを判定する。これを満たせばステップ7に跳び、満たさなければステップ9に跳ぶ。
【0034】
ステップ6
交点pが円柱(領域21)の先端面の場合は、L>r/sinA かどうかを判定する。これを満たせばステップ8に跳び、満たさなければステップ9に跳ぶ。
【0035】
ステップ7,8
前述座標変換及び陰影づけ処理をする。
ステップ9
次の断層像30について処理をするためにyを更新する。
ステップ10
全ての断層像30について上記処理が終了したかどうかを判定する。終了してなければステップ3に跳ぶ。
【0036】
ステップ11
投影点のX位置を1画素ずらす。
ステップ12
Xが最大値(+256)かどうかを判定する。最大値でなければステップ2に戻り、最大値になるまで処理を繰り返す。
ステップ13
投影点を次のライン上にして(Yに1を加えて)、X=−256とする。
ステップ14
Yが最大値(+256)かどうかを判定する。最大値でなければステップ2に戻り、最大値になるまで処理を繰り返し、最大値で全ての処理を終了する。
【0037】
以上により、小さい穴から内部(広がりのある内部)を覗き込んだような三次元画像が構成される。
【0038】
なお、視点eの座標は可変であるが、この視点eと領域21先端の座標移動を平行移動(所定間隔を保持しつつ同方向移動)となるようにし、この平行移動を領域21先端方向へ行えば、あたかも腹腔鏡で観察しながらそれを被検体内に挿入してゆく時に見えるような三次元画像が得られる。
【0039】
また、図4に示すように、複数の断層像30のうち前記領域21内に含まれる部分40の画素値を所定の値、例えば陰影づけ処理上のしきい値から外れるような極端に大きな値に変更し、陰影づけ処理から除外されるようにしてもよい。これによっても、被検体に穴をあけたことに相当する効果が得られる。
【0040】
また上述実施例では、視点eを含む一定の領域21の形状を円柱形としたが、これに代えて球形としてもよい。球形にすれば、図1中のステップ4におけるような場合分けの必要はなくなり、Lと球の半径だけを比較すればよい。
【0041】
図5は本発明方法が適用可能なハードウェア構成例を示すブロック図である。
この図5において、50はCPU、51は主メモリ、52は磁気ディスク、53は表示メモリ、55はマウスコントローラで、これらは共通バス57に接続されている。磁気ディスク52には、複数の断層像及び座標変換や陰影づけ(図1に示したもの)のためのプログラムなどが格納されている。
【0042】
CPU50は、これら複数の断層像及び座標変換や陰影づけのためのプログラムを読み出し、主メモリ51を用いて対象物内部を腹腔鏡で見ているような三次元画像を構成し、その結果を表示メモリ53に送り、CRTモニタ54に表示させる。マウスコントローラ55に接続されたマウス56は、三次元画像を構成する際の、視点位置などを指定する。得られた三次元画像は、必要に応じて磁気ディスク52に格納される。
【0043】
【発明の効果】
以上説明したように本発明によれば、小さい穴から内部(広がりのある内部)を覗き込んだような三次元画像、特に、腹腔鏡で観察しながらそれを被検体内に挿入してゆく時に見えるような三次元画像を得ることができるという効果がある。
【図面の簡単な説明】
【図1】本発明方法の一実施例を示すフローチャートである。
【図2】本発明による三次元画像構成方法の原理説明図である。
【図3】本発明による三次元画像構成方法の原理説明図である。
【図4】本発明方法の他の実施例を示すフローチャートである。
【図5】本発明方法が適用可能なハードウェア構成例を示すブロック図である。
【図6】中心投影法による座標変換を説明するための図である。
【図7】腹腔鏡の使用例を示す図である。
【符号の説明】
20 投影面
21 視点を含む一定の領域
30 断層像
60 腹腔鏡
61 被検体
x 断層像のx軸又はx座標
y 断層像の積上げ方向の軸
z 断層像のz軸又はz座標
e 視点(視点の位置)
X 投影面上のX軸又はX座標
Y 投影面上のY軸又はY座標
r 円柱形領域の半径
d 視点から円柱形領域の先端面までの距離
A1 視点と投影面を結ぶ直線と、視点と円柱形領域の角を結ぶ直線とでなす角度
D 投影面から視点への垂線の距離

Claims (3)

  1. ボリュ一ム画像を含む複数の断層像を積み上げて積み上げ三次元画像を得、これを任意の方向に設定した投影面に二次元画像として投影し、その二次元画像に陰影付けを行って三次元画像として構成すると共に、前記投影面への各断層像の座標変換は視点からの中心投影法を用いる三次元画像構成方法において、
    前記視点と前記投影面の間に位置するように投影対象となる積み上げ三次元画像を配置するステップと、前記視点を内部に含む腹腔鏡を模した円筒モデルを前記積み上げ三次元画像内に設定するステップと、前記積み上げ三次元画像の画素が前記設定された円筒モデルの内/外の何れかに存在するかを判別するステップと、前記円筒モデルの外に存在すると判別された画素についてのみ前記陰影付けを行うステップと、を備えたことを特徴とする三次元画像構成方法。
  2. 前記視点と前記円筒モデルとは、所定間隔を保持しつつ、両者が同方向に移動可能であることを特徴とする請求項1に記載の三次元画像構成方法。
  3. ボリューム画像を含む複数の断層像を積み上げて積み上げ三次元画像を得、これを任意の方向に設定した投影面に二次元画像として投影し、その二次元画像に陰影付けを行って三次元画像として構成すると共に、前記投影面への各断層像の座標変換は視点からの中心投影法を用いる三次元画像構成装置において、
    前記視点と前記投影面の間に位置するように投影対象となる積み上げ三次元画像を配置する手段と、前記視点を内部に含む腹腔鏡を模した円筒モデルを前記積み上げ三次元画像内に設定する手段と、前記積み上げ三次元画像の画素が前記設定された円筒モデルの内/外の何れに存在するかを判別する手段と、前記円筒モデルの外に存在すると判別された画素についてのみ前記陰影付けを行う手段と、を備えたことを特徴とする三次元画像構成装置。
JP17397294A 1994-07-26 1994-07-26 三次元画像構成方法及びその装置 Expired - Lifetime JP3685818B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP17397294A JP3685818B2 (ja) 1994-07-26 1994-07-26 三次元画像構成方法及びその装置
US08/460,937 US6535212B1 (en) 1994-07-26 1995-06-05 Method of constructing three-dimensional image such as three-dimensional image obtained when internal parts are observed through a hole

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP17397294A JP3685818B2 (ja) 1994-07-26 1994-07-26 三次元画像構成方法及びその装置

Publications (2)

Publication Number Publication Date
JPH0836652A JPH0836652A (ja) 1996-02-06
JP3685818B2 true JP3685818B2 (ja) 2005-08-24

Family

ID=15970440

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17397294A Expired - Lifetime JP3685818B2 (ja) 1994-07-26 1994-07-26 三次元画像構成方法及びその装置

Country Status (2)

Country Link
US (1) US6535212B1 (ja)
JP (1) JP3685818B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3595042B2 (ja) * 1995-09-27 2004-12-02 株式会社日立メディコ 疑似三次元画像構成法及び投影画像表示装置
CA2239279C (en) * 1997-06-02 2002-04-23 Nippon Telegraph And Telephone Corporation Image generating apparatus and method
WO2008157346A1 (en) 2007-06-15 2008-12-24 Black & Decker Inc. Hybrid impact tool
US9193053B2 (en) 2008-09-25 2015-11-24 Black & Decker Inc. Hybrid impact tool
US8631880B2 (en) * 2009-04-30 2014-01-21 Black & Decker Inc. Power tool with impact mechanism
US8460153B2 (en) 2009-12-23 2013-06-11 Black & Decker Inc. Hybrid impact tool with two-speed transmission
US8584770B2 (en) * 2010-03-23 2013-11-19 Black & Decker Inc. Spindle bearing arrangement for a power tool

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6437678A (en) * 1987-08-03 1989-02-08 Toshiba Corp Three-dimensional image processor
US5249264A (en) * 1988-11-14 1993-09-28 International Business Machines Corporation Image display method and apparatus
JPH02224183A (ja) * 1989-02-27 1990-09-06 Toshiba Corp 情報処理装置
US5101475A (en) * 1989-04-17 1992-03-31 The Research Foundation Of State University Of New York Method and apparatus for generating arbitrary projections of three-dimensional voxel-based data

Also Published As

Publication number Publication date
US6535212B1 (en) 2003-03-18
JPH0836652A (ja) 1996-02-06

Similar Documents

Publication Publication Date Title
JP3619063B2 (ja) 立体画像処理装置、その方法、立体視パラメータ設定装置、その方法そしてコンピュータプログラム記憶媒体
JP3770280B2 (ja) 三次元画像の表示方法及び装置
US7232409B2 (en) Method and apparatus for displaying endoscopic images
JP5866177B2 (ja) 画像処理装置および画像処理方法
US6411298B1 (en) Method and apparatus for determining visual point and direction of line of sight in three-dimensional image construction method
JP4200546B2 (ja) 画像表示装置
EP1775685A1 (en) Information processing device and program
JP2020173529A (ja) 情報処理装置、情報処理方法、及びプログラム
JP3685818B2 (ja) 三次元画像構成方法及びその装置
JP3459401B2 (ja) Zバッファを用いた立体映像生成方法
JPH07210704A (ja) 三次元画像の構成方法
JP3632862B2 (ja) 三次元画像表示方法及び装置
EP3573018A1 (en) Image generation device, and image display control device
JP4110226B2 (ja) 三次元画像表示装置
CN109816765A (zh) 面向动态场景的纹理实时确定方法、装置、设备和介质
JP4113040B2 (ja) 医用三次元画像構成方法
JPH0254381A (ja) 画像処理及び装置
JP3889031B2 (ja) 三次元画像の構成方法及び装置
JP3839092B2 (ja) 三次元画像表示のための視点位置の更新装置
KR100298814B1 (ko) 실시간 처리가 가능한 타원해석 볼륨렌더링 방법
JPH11219448A (ja) 画像表示方法
JP2001014496A (ja) 画像表示装置
JP3411745B2 (ja) 断層像補間法及び装置
JP3712145B2 (ja) 三次元画像構成方法及び装置
JP6106293B2 (ja) 画像処理装置、画像処理システム、および画像処理方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050531

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050601

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090610

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090610

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100610

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110610

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110610

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120610

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120610

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130610

Year of fee payment: 8

EXPY Cancellation because of completion of term