JP2009028096A - 分離測度を用いた重み付け最小二乗法による境界抽出 - Google Patents

分離測度を用いた重み付け最小二乗法による境界抽出 Download PDF

Info

Publication number
JP2009028096A
JP2009028096A JP2007192435A JP2007192435A JP2009028096A JP 2009028096 A JP2009028096 A JP 2009028096A JP 2007192435 A JP2007192435 A JP 2007192435A JP 2007192435 A JP2007192435 A JP 2007192435A JP 2009028096 A JP2009028096 A JP 2009028096A
Authority
JP
Japan
Prior art keywords
boundary
image data
temporary
separation measure
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007192435A
Other languages
English (en)
Other versions
JP4963278B2 (ja
Inventor
Eiji Uchino
英治 内野
Noriaki Suetake
規哲 末竹
Ryosuke Kubota
良輔 久保田
Masunori Matsuzaki
益徳 松崎
Takashi Ko
高史 廣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaguchi University NUC
Original Assignee
Yamaguchi University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaguchi University NUC filed Critical Yamaguchi University NUC
Priority to JP2007192435A priority Critical patent/JP4963278B2/ja
Publication of JP2009028096A publication Critical patent/JP2009028096A/ja
Application granted granted Critical
Publication of JP4963278B2 publication Critical patent/JP4963278B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

【課題】 画像データ(特に、血管内超音波画像データ)上での境界(特に、血管内腔輪郭および血管内膜輪郭)を、従来よりも少ないシード点(ユーザによる設定点)でより滑らかに、より高速に抽出する境界抽出方法、プログラム及び装置を提供する。
【解決手段】 画像データ上の境界を抽出する境界抽出方法(プログラム・装置)であって、前記画像データ上にユーザにより設定された複数のシード点間を補間することにより仮境界を求める仮境界設定ステップと、前記画像データの、少なくとも前記仮境界近傍の各画素における分離測度を計算する分離測度分布計算ステップと、前記仮境界近傍の各画素における前記分離測度を重み付け係数とした最小二乗法による多項式近似により前記境界を求める境界抽出ステップと、を有することを特徴とする。
【選択図】 図6

Description

本発明は、画像データの境界抽出方法、プログラム及び装置に関する。特に、血管内超音波(Intravascular Ultrasound: IVUS)のBモード画像における、内腔-プラーク間の境界(内腔面)及びプラーク-内膜間の境界(外弾性板)を抽出する方法に関する。
先端部に超音波探触子が付いたカテーテルを血管内に挿入し、該超音波探触子を回転させることにより血管の断層像(Bモード画像)を得る技術が知られている(特許文献1)。図1は血管内超音波(IVUS)の概略図であり、図2は血管内超音波(IVUS)の画像表示例である。血管内超音波(IVUS)により冠動脈疾患の診断が可能であるが、血管内のプラークには、「安定プラーク」(安定なプラーク)と「不安定プラーク」(破綻により血栓を生じる)とがあり、これらを正確に診断する必要がある。図3は、安定プラークと不安定プラークの説明図である。
血管内超音波画像において、プラークの正確な診断を行うためには、内腔-プラーク間の境界及びプラーク-内膜間の境界線を正確に求める必要がある。図4は、血管内超音波画像における境界線を示す図である。正確な面積・体積を算出するためには境界線を精度良く抽出する必要があるが、現在は医師による手作業により境界線が抽出されている。図5に、従来の境界線抽出の例を示す。図5に示すように、従来は、ユーザが血管内超音波画像を見ながら境界線上にシード点を設定し、これらのシード点を補間(例えば、パラメトリックスプライン補間など)することにより、境界線を求めていた。補間により境界線を求めているので、シード点を多く設定しないと正確な境界線が抽出できず、多くの時間と手間が掛かる上、熟練した知識と経験が必要であるという問題があった。また、シード点の補間に画像データを利用する方法として、動的輪郭モデル(SNAKE法)を用いた抽出法や、遺伝的アルゴリズムを用いた抽出法などがあるが、これらのアルゴリズムは膨大な繰り返し処理が必要であり、実応用には向かない。なお、スネークス法(SNAKE法)はエネルギー最小化原理を用いて対象となる領域の輪郭を抽出する方法の1つであり、エネルギー関数を輪郭線(SNAKE)上で定義し、このエネルギー関数が最小となるように輪郭線を変形し、境界、線、主観的な輪郭線などを求めるというものである(特許文献2、非特許文献1)。
このほかに、本発明に関連する従来技術として、特許文献3〜5、非特許文献2がある。非特許文献2には、輪郭を「領域と領域を最も分離する領域境界」として捉え、輪郭モデルの内側と外側間において領域特徴量(輝度、色相など)の分離度合を表す量(分離度)を導入することで、「分離度最大=境界」として、対象物の輪郭として抽出する方法が提案されている。
特表2003-503141号公報「有効な輪郭線作成法及びシステムを使用する血管内の超音波分析」 特開平7-128200号公報「監視方法及び装置」 特開2003-334194号公報「画像処理装置及び超音波診断装置」 特開平7-184892号公報「超音波画像処理装置及び方法」 特開平7-093561号公報「エッジ及び輪郭抽出装置」 M.Kass, A.Witik, and D.Terzopoulos: "Snakes:Active Contour Model", International of Computer Vision, Vol.1, No.4,pp.321-331(1988) 情報処理学会 研究報告「コンピュータビジョンとイメージメディア」Vol.1994 No.27(文献番号:IPSJ-CVIM93088002,文献名:領域間の分離度に基づく物体輪郭抽出)
血管内超音波で得られる画像をもとに血管内プラークの組織性状を診断するには、画像からプラーク領域を抽出することが重要であるが、従来はユーザ(医師)による手作業にて領域抽出を行っており、多くの時間と手間が掛かり、熟練した知識と経験が必要な大変な作業であった。本発明は、画像データ(特に、血管内超音波画像データ)上での境界(特に、血管内腔輪郭および血管内膜輪郭)を、従来よりも少ないシード点(ユーザによる設定点)でより滑らかに、より高速に抽出する境界抽出方法、プログラム及び装置を提供することを目的とする。
上記目的を達成するため、本発明は以下の構成を有する。
画像データ上の境界を抽出する境界抽出方法であって、
前記画像データ上にユーザにより設定された複数のシード点間を補間することにより仮境界を求める仮境界設定ステップと、
前記画像データの、少なくとも前記仮境界近傍の各画素における分離測度を計算する分離測度分布計算ステップと、
前記仮境界近傍の各画素における前記分離測度を重み付け係数とした最小二乗法による多項式近似により前記境界を求める境界抽出ステップと、を有することを特徴とする境界抽出方法。
画像データ上の境界を抽出する境界抽出プログラムであって、
前記画像データ上にユーザにより設定された複数のシード点間を補間することにより仮境界を求める仮境界設定ステップと、
前記画像データの、少なくとも前記仮境界近傍の各画素における分離測度を算出する分離測度分布計算ステップと、
前記仮境界近傍の各画素における前記分離測度を重み付け係数とした最小二乗法による多項式近似により前記境界を求める境界抽出ステップと、を有することを特徴とする境界抽出プログラム。
画像データ上の境界を抽出する境界抽出装置であって、
前記画像データ上にユーザにより設定された複数のシード点間を補間することにより仮境界を求める仮境界設定手段と、
前記画像データの、少なくとも前記仮境界近傍の各画素における分離測度を算出する分離測度分布計算手段と、
前記仮境界近傍の各画素における前記分離測度を重み付け係数とした最小二乗法による多項式近似により前記境界を求める境界抽出手段と、を有することを特徴とする境界抽出装置。
また、好ましくは以下の実施態様を有してもよい。
前記分離測度分布計算ステップにおいて、
画素点(i,j)における前記分離測度は、前記画素点(i,j)を挟んでi方向またはj方向に領域A及び領域Bを設定し、
(ただし、nAは領域A内の画素数、nBは領域B内の画素数、μAは領域A内の画素値平均、μBは領域B内の画素値平均、μA+Bは領域A及び領域B内の画素値平均、IAは領域A内の画素の集合、IBは領域B内の画素の集合、Iは画素集合内の各画素の画素値)
により求める。
前記画像データはBモード画像であり、
前記領域A及び領域Bを、画素点(i,j)を挟んで深度方向に設定する。
前記画像データは、極座標系画像データを、一方軸が角度、他方軸が中心点からの距離である直交座標系に展開したものである。
前記極座標系画像データは血管内超音波によるBモード画像であり、
血管内の、内腔面と外弾性板の少なくとも一方を抽出する。
少ないシード点を選定するだけで、従来よりも、効率的かつ精度良く、輪郭(境界)のコンピュータによる抽出が可能になる。特に本発明の方法はコンピュータにかかる計算負荷が従来より格段に少ないので、実問題(リアルタイムアプリケーション)に容易に適用できるという利点を備えている。このことは2次元画像上での処理では大差は感じられないが、2次元画像データ(血管様円形画像)を積層したような3次元画像データ(円筒管様画像)の処理(例えば血管長軸方向断面画像上での血管内壁等境界抽出等)に援用した場合には使用者に違和感を与えずリアルタイム処理実現に結びつき、このメリットは莫大なものである。
境界線の抽出に画像データ内の特徴情報を用いているため、少ないシード点でも滑らかで正確な境界抽出が可能である。また、分離測度を重み付け係数とした最小二乗法による多項式近似を用いて境界線を求めるので、スネークス法や遺伝的アルゴリズムのような繰り返し演算が不要であり、高速な演算が可能である。さらに、事前に設定したシード点を補間することにより求められた仮境界線の近傍のみで演算処理を行えば良いので、少ない演算量で効果的な境界抽出が可能である。
以下、図面を用いて本発明の実施形態について説明する。
図6は、本発明のフローチャートである。本発明の領域抽出方法は、以下の手順から成っている。
<ステップ1>GUI上でシード点決定
<ステップ2>線形補間による第1次近似
<ステップ3>分離測度の計算
<ステップ4>第1次近似による近似範囲の決定
<ステップ5>重み付き最小二乗法を用いた多項式近似
以下、各ステップについて詳細に説明する。
<ステップ1>GUI上でシード点決定
図5に記載されている従来方法と同様な方法により、内腔-プラーク間またはプラーク-内膜間の境界線上のシード点をユーザのクリックにより設定する。
血管内超音波画像は中心点からの距離に対応した超音波反射データを表示した極座標系画像データ(図7の上図)であるが、分離測度の計算及び重み付き最小二乗法を用いた多項式近似を容易にするため、以後、横軸を角度、縦軸を中心点からの距離の直交座標系に展開した画像データ(図7の下図)を用いる。
<ステップ2>線形補間による第1次近似
次に、ステップ1で設定されたシード点間を補間することにより「仮境界線」を設定する。本実施形態では簡単のため、シード点間の補間には線形補間を用いている。図8は、シード点間を線形補間して仮境界線を設定した画像である。シード点間の補間方法については、公知の方法ならばどのような方法でも良く、スプライン補間などでも良い。
<ステップ3>分離測度の計算
次に、画像データの各画素における局所統計量である「分離測度」を計算する。分離測度は「クラス内分散・クラス間分散比」とも言われ、上記数式(数2)で定義される。つまり、分離測度はクラス内分散とクラス間分散の比で定義される。なお、分離測度については上記非特許文献2にも記載されている。図9は、分離測度の説明図である。図のように、分離測度を求める画素点を挟んで領域A及び領域Bを設定し、それぞれの領域内の画素の輝度値を用いて分離測度を計算する。図9の中図のグラフに示されるように、分離測度は、領域Aと領域Bの輝度値の差が大きいときに大きな値になる。図10は、画像データの分離測度分布を計算したグラフである。図10は、画素点を挟んで深さ方向に領域A及び領域Bを設定して分離測度を計算したものである。図10からわかるように、境界部分では分離測度は高い値をとるが、分離測度分布のみから境界線を求めることは困難である。なお、図10はカラー画像をグレー表示したものであり、分離測度が中程度の部分(黄色・緑色に相当)に囲まれた暗い部分(赤色に相当)の分離測度値がもっとも高い。
<ステップ4>第1次近似による近似範囲の決定
次に、ステップ2で求められた仮境界線の近傍領域を近似範囲として設定する。これは、次のステップにおける計算範囲を絞り込むものである。求めようとする境界線は仮境界線の近傍にあるので、仮境界線の近傍領域に着目範囲を絞ることにより、より精度の高い境界抽出が可能になる。近似範囲の設定方法については、公知の方法ならばどのような方法でも良い。また、本実施形態ではステップ3において画像データ全体の分離測度分布を求めているが、分離測度の計算が必要なのは仮境界線の近傍のみであるので、分離測度分布の着目範囲を絞り込むことによって、演算速度の向上を図ることも可能である。図11は、仮境界線近傍に設定した近似範囲における分離測度分布である。なお、図11中の仮境界線上にある長方形部分(3箇所)は、近似範囲を明示するためのスケールである。
<ステップ5>重み付き最小二乗法を用いた多項式近似
次に、ステップ4で計算範囲が絞り込まれた分離測度分布に基づいて境界線を抽出する。図12は、重み付き最小二乗法による境界線抽出の説明図である。境界線をP次多項式近似し、多項式F(j)の各係数akを最小二乗法により求めるものであるが、本発明では最小二乗法の際の重み付け係数として、ステップ4で求められた仮境界線近傍の分離測度分布Sijを用いることを特徴とする。これにより比較的少ない演算量で、より正確な境界線抽出が可能となる。
以下に、本発明の境界抽出方法による実験結果を示す。図13は、境界抽出結果((a)従来方法、(b)本発明)である。図中のX印は、シード点を表す。図13(a)は従来のパラメトリックスプライン補間を用いたものであるが、この程度の数のシード点だと境界線が歪んでしまい実用にならないことがわかる。従来方法で正確に境界線を抽出するためにはより多くのシード点を設定する必要があるが、そのためにはより多くの時間と手間が掛かる上、熟練した知識と経験が必要である。これに対し、図13(b)の本発明のものは、少ないシード点でも境界線が正確に抽出できることがわかる。
以上、本発明の実施形態の一例を説明したが、本発明はこれに限定されるものではなく、特許請求の範囲に記載された技術的思想の範疇において各種の変更が可能であることは言うまでもない。例えば、本実施形態では2次元画像データ上の境界線を抽出する例を説明したが、分離測度分布は3次元データでも計算は可能なので、3次元データ上の境界面の抽出にも応用可能である。
血管内超音波(IVUS)の概略図。 血管内超音波(IVUS)の画像表示例。 安定プラークと不安定プラークの説明図。 血管内超音波画像における境界線を示す図。 シード点の設定及びシード点間の補間の説明図。 本発明のフローチャート。 血管超音波画像の極座標系表示(上図)と直交座標系表示(下図)。 シード点間を線形補間して仮境界線を設定した画像。 分離測度の説明図。 画像データの分離測度分布を計算したグラフ。 仮境界線近傍に設定した近似範囲における分離測度分布。 重み付き最小二乗法による境界線抽出の説明図。 境界抽出結果((a)従来方法、(b)本発明)。

Claims (7)

  1. 画像データ上の境界を抽出する境界抽出方法であって、
    前記画像データ上にユーザにより設定された複数のシード点間を補間することにより仮境界を求める仮境界設定ステップと、
    前記画像データの、少なくとも前記仮境界近傍の各画素における分離測度を計算する分離測度分布計算ステップと、
    前記仮境界近傍の各画素における前記分離測度を重み付け係数とした最小二乗法による多項式近似により前記境界を求める境界抽出ステップと、を有することを特徴とする境界抽出方法。
  2. 前記分離測度分布計算ステップにおいて、
    画素点(i,j)における前記分離測度は、前記画素点(i,j)を挟んでi方向またはj方向に領域A及び領域Bを設定し、
    (ただし、nAは領域A内の画素数、nBは領域B内の画素数、μAは領域A内の画素値平均、μBは領域B内の画素値平均、μA+Bは領域A及び領域B内の画素値平均、IAは領域A内の画素の集合、IBは領域B内の画素の集合、Iは画素集合内の各画素の画素値)
    により求めることを特徴とする請求項1記載の境界抽出方法。
  3. 前記画像データはBモード画像であり、
    前記領域A及び領域Bを、画素点(i,j)を挟んで深度方向に設定することを特徴とする請求項2記載の境界抽出方法。
  4. 前記画像データは、極座標系画像データを、一方軸が角度、他方軸が中心点からの距離である直交座標系に展開したものであることを特徴とする請求項3記載の境界抽出方法。
  5. 前記極座標系画像データは血管内超音波によるBモード画像であり、
    血管内の、内腔面と外弾性板の少なくとも一方を抽出することを特徴とする請求項4記載の境界抽出方法。
  6. 画像データ上の境界を抽出する境界抽出プログラムであって、
    前記画像データ上にユーザにより設定された複数のシード点間を補間することにより仮境界を求める仮境界設定ステップと、
    前記画像データの、少なくとも前記仮境界近傍の各画素における分離測度を算出する分離測度分布計算ステップと、
    前記仮境界近傍の各画素における前記分離測度を重み付け係数とした最小二乗法による多項式近似により前記境界を求める境界抽出ステップと、を有することを特徴とする境界抽出プログラム。
  7. 画像データ上の境界を抽出する境界抽出装置であって、
    前記画像データ上にユーザにより設定された複数のシード点間を補間することにより仮境界を求める仮境界設定手段と、
    前記画像データの、少なくとも前記仮境界近傍の各画素における分離測度を算出する分離測度分布計算手段と、
    前記仮境界近傍の各画素における前記分離測度を重み付け係数とした最小二乗法による多項式近似により前記境界を求める境界抽出手段と、を有することを特徴とする境界抽出装置。
JP2007192435A 2007-07-24 2007-07-24 分離測度を用いた重み付け最小二乗法による境界抽出 Expired - Fee Related JP4963278B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007192435A JP4963278B2 (ja) 2007-07-24 2007-07-24 分離測度を用いた重み付け最小二乗法による境界抽出

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007192435A JP4963278B2 (ja) 2007-07-24 2007-07-24 分離測度を用いた重み付け最小二乗法による境界抽出

Publications (2)

Publication Number Publication Date
JP2009028096A true JP2009028096A (ja) 2009-02-12
JP4963278B2 JP4963278B2 (ja) 2012-06-27

Family

ID=40399320

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007192435A Expired - Fee Related JP4963278B2 (ja) 2007-07-24 2007-07-24 分離測度を用いた重み付け最小二乗法による境界抽出

Country Status (1)

Country Link
JP (1) JP4963278B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012046433A1 (ja) * 2010-10-08 2012-04-12 パナソニック株式会社 超音波診断装置、及び超音波診断方法
KR101366341B1 (ko) 2012-02-15 2014-02-24 계명대학교 산학협력단 비모수적 확률 모델과 스무딩 함수를 이용한 혈관 내 초음파 영상에서 내강 경계면 자동 분할 방법
US10078893B2 (en) 2010-12-29 2018-09-18 Dia Imaging Analysis Ltd Automatic left ventricular function evaluation
CN110355464A (zh) * 2019-07-05 2019-10-22 上海交通大学 激光加工的视觉匹配方法、系统及介质
WO2020012884A1 (ja) * 2018-07-13 2020-01-16 古野電気株式会社 超音波撮像装置、超音波撮像システム、超音波撮像方法および超音波撮像プログラム
WO2021048834A1 (ja) * 2019-09-12 2021-03-18 テルモ株式会社 診断支援装置、診断支援システム、及び診断支援方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012046433A1 (ja) * 2010-10-08 2012-04-12 パナソニック株式会社 超音波診断装置、及び超音波診断方法
CN102639064A (zh) * 2010-10-08 2012-08-15 松下电器产业株式会社 超声波诊断装置、以及超声波诊断方法
JP5265810B2 (ja) * 2010-10-08 2013-08-14 パナソニック株式会社 超音波診断装置、及び体内観察方法
US10078893B2 (en) 2010-12-29 2018-09-18 Dia Imaging Analysis Ltd Automatic left ventricular function evaluation
KR101366341B1 (ko) 2012-02-15 2014-02-24 계명대학교 산학협력단 비모수적 확률 모델과 스무딩 함수를 이용한 혈관 내 초음파 영상에서 내강 경계면 자동 분할 방법
WO2020012884A1 (ja) * 2018-07-13 2020-01-16 古野電気株式会社 超音波撮像装置、超音波撮像システム、超音波撮像方法および超音波撮像プログラム
US11589841B2 (en) 2018-07-13 2023-02-28 Furuno Electric Co., Ltd. Ultrasound imaging device, ultrasound imaging system, ultrasound imaging method and ultrasound imaging program
CN110355464A (zh) * 2019-07-05 2019-10-22 上海交通大学 激光加工的视觉匹配方法、系统及介质
WO2021048834A1 (ja) * 2019-09-12 2021-03-18 テルモ株式会社 診断支援装置、診断支援システム、及び診断支援方法
JP2021041029A (ja) * 2019-09-12 2021-03-18 テルモ株式会社 診断支援装置、診断支援システム、及び診断支援方法
JP7300352B2 (ja) 2019-09-12 2023-06-29 テルモ株式会社 診断支援装置、診断支援システム、及び診断支援方法
US11957509B2 (en) 2019-09-12 2024-04-16 Terumo Kabushiki Kaisha Diagnosis assistance device, diagnosis assistance system, and diagnosis assistance method

Also Published As

Publication number Publication date
JP4963278B2 (ja) 2012-06-27

Similar Documents

Publication Publication Date Title
JP6640922B2 (ja) 超音波診断装置及び画像処理装置
JP5670324B2 (ja) 医用画像診断装置
JP5469101B2 (ja) 医用画像処理装置、医用画像処理方法、医用画像診断装置、医用画像診断装置の作動方法及び医用画像表示方法
KR101121396B1 (ko) 2차원 초음파 영상에 대응하는 2차원 ct 영상을 제공하는 시스템 및 방법
US8343052B2 (en) Ultrasonograph, medical image processing device, and medical image processing program
US11100665B2 (en) Anatomical measurements from ultrasound data
US10878565B2 (en) Analyzing apparatus and analyzing method
US9119559B2 (en) Method and system of generating a 3D visualization from 2D images
Chung et al. Freehand three-dimensional ultrasound imaging of carotid artery using motion tracking technology
WO2014080833A1 (ja) 超音波診断装置、画像処理装置及び画像処理方法
JP7232195B2 (ja) 血管内の壁せん断応力の同時視覚化及び定量化のためのシステム及び方法
JP4963278B2 (ja) 分離測度を用いた重み付け最小二乗法による境界抽出
CN109584195B (zh) 一种双模图像自动融合方法
JP2018507730A (ja) ユーザ制御による心臓モデル心室セグメンテーションを用いた心臓機能の超音波診断
JP2020511250A (ja) ボリュームレンダリングされる超音波画像
Haak et al. Segmentation of multiple heart cavities in 3-D transesophageal ultrasound images
EP3905960A1 (en) Systems and methods for contrast enhanced imaging
JP2022111140A (ja) 超音波診断装置
JP2009513221A (ja) 3次元画像から2次元心エコービューを生成して表示するためのシステム及び方法
JP5982602B2 (ja) 解剖学的に知的な心エコー法における肺組織同定
Khan et al. Semiautomatic quantification of carotid plaque volume with three-dimensional ultrasound imaging
Loizou et al. Segmentation of atherosclerotic carotid plaque in ultrasound video
JP6150922B1 (ja) 超音波診断装置
JP2010094287A (ja) 超音波診断装置、超音波信号処理装置及び超音波信号処理プログラム
WO2020133236A1 (zh) 一种脊柱的成像方法以及超声成像系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120313

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120322

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150406

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees