JPWO2002045021A1 - エントロピーフィルタ及び該フィルタを用いた領域抽出法 - Google Patents

エントロピーフィルタ及び該フィルタを用いた領域抽出法 Download PDF

Info

Publication number
JPWO2002045021A1
JPWO2002045021A1 JP2002547111A JP2002547111A JPWO2002045021A1 JP WO2002045021 A1 JPWO2002045021 A1 JP WO2002045021A1 JP 2002547111 A JP2002547111 A JP 2002547111A JP 2002547111 A JP2002547111 A JP 2002547111A JP WO2002045021 A1 JPWO2002045021 A1 JP WO2002045021A1
Authority
JP
Japan
Prior art keywords
image
entropy
original image
filter
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002547111A
Other languages
English (en)
Other versions
JP3860540B2 (ja
Inventor
濱橋 秀互
大浪 修一
北野 宏明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Science and Technology Agency
Original Assignee
Japan Science and Technology Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Science and Technology Corp filed Critical Japan Science and Technology Corp
Publication of JPWO2002045021A1 publication Critical patent/JPWO2002045021A1/ja
Application granted granted Critical
Publication of JP3860540B2 publication Critical patent/JP3860540B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/143Segmentation; Edge detection involving probabilistic approaches, e.g. Markov random field [MRF] modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Investigating Or Analysing Biological Materials (AREA)

Abstract

画像から平坦な部分を効率的に抽出する。元画像中に注目画素(x,y)を決定し、該画素から幅A、高さBの大きさのウィンドウで元画像を区画し、区画されたウィンドウのエントロピーを計算し、得られたエントロピー値を処理画像の座標(x,y)に保存するようにしたエントロピーフィルタを提供する。ここに、注目画素(x,y)において、x:0〜元画像の幅−A,y:0〜元画像の高さ−Bである。エントロピーフィルタを用いることによって、原画像から画質が平坦な部分を抽出する。平坦な部分は好適な例では、細胞核である。

Description

技術分野
本発明は画像から画質が平坦な部分あるいは画質が粗い部分を抽出することができるフィルタ、および、画像から画質が平坦な部分あるいは画質が粗い部分を効率的に抽出する領域抽出法に関するものである。本明細書では、一つの好ましい例として、ノマルスキー型透過型微分干渉顕微鏡(以下「ノマルスキー顕微鏡」という)により撮影された細胞画像からの核の抽出に基づいて本発明を説明する。本発明に係る手法は、ノマルスキー顕微鏡により取得された画像、また、細胞画像からの核の抽出に限定されるものでははく、画像からの特徴抽出、画像認識全般に広く適用されるものである。
背景技術
細胞画像から核領域を抽出したい場合がある。例えば、線虫の細胞系譜を作成する場合には、得られた画像から、いかに効率良く核領域を認識するかが重要となる。細胞画像の取得には、いわゆるノマルスキー顕微鏡が用いられる。ノマルスキー顕微鏡によれば、透明な観察対象の内容物の分布や外形状を明暗像で捉えることができる。生物学で言うと、通常の光学顕微鏡では透明に見える細胞の内容物(細胞核)や、外形(細胞膜)を明暗像で捕らえることができる。
従来、ノマルスキー顕微鏡で取得した画像から核領域を抽出するために、幾つかの画像処理アルゴリズムを用いている。これらの画像処理アルゴリズムは、画像の明暗の細かい変化が少ない領域を核として検出したり、あるいは、光の角度に沿って広い範囲で明暗の変化の大きい部分を核として抽出したりしている。前者の例としては、Kirschテンプレート型エッジ検出オペレータと移動平均法を組み合わせたフィルタや、Prewittテンプレート型エッジ検出オペレータの出力を2値化し、さらに距離変換を適用するフィルタが挙げられる。後者の例としては、見た目の光の角度に沿って上下所定ピクセル分の輝度値の合計の差分を取るフィルタが採用される。しかしながら、これらの画像処理アルゴリズムによる核の認識は完全なものではなく、これら3種類のアルゴリズムのいずれかが核であると認識した領域を、画像処理システム全体の結論として核領域であると判断しており、核領域の抽出作業が煩雑になっていた。
ノマルスキー顕微鏡で撮影した細胞画像において、細胞質の画質がザラザラしている(粗い)のに対して、核領城の画質は比較的平坦である。この画質の差異を利用して、画像から平坦な部分を核として抽出する手法について研究を行った。
本発明の目的は、画像から画質が平坦な部分あるいは画質が粗い部分を効率的に抽出することにある。
本発明の他の目的は、画像から画質が平坦な部分あるいは画質が粗い部分を抽出することができるフィルタを提供することにある。
発明の開示
本発明に係るフィルタは、注目画素を含む小区画のエントロピーを計算し、得られたエントロピー値を該注目画素の新しい値とすることを特徴とするものである。
好ましくは、該フィルタは、元画像中に始点(x,y)を決定し、該始点から幅A、高さBの大きさのウィンドウで元画像を区画し、区画されたウィンドウのエントロピーを計算し、得られたエントロピー値を処理画像の座標(x,y)に保存するものである。そして、一つの望ましい例では、始点(x,y)において、x:0〜元画像の幅−A,y:0〜元画像の高さ−B,である。
そして、本発明が採用した領域抽出手段は、前記エントロピーフィルタを用いるものであり、画像を小ウィンドウで区切り、該ウィンドウのエントロピーを計算しながら画像を走査することで画像から平坦な部分を抽出することを特徴とするものである。エントロピーフィルタによるフィルタリング画像を閾値を用いて二値化処理することで、画像から平坦な部分を良好に抽出することができる。本明細書において、「平坦」とは、画素値の差が比較的小さい、すなわち、画素の濃度値(輝度値)が比較的均一であることを意味する。これに対して、「平坦でない」とは、画素値の差が比較的大きい、すなわち、画素の濃度値(輝度値)が不均一であることを意味する。グレースケール画像では、濃度値は、白黒の濃淡を示す値である。カラー画像では、濃度値は、R,G,Bそれぞれの濃度(輝度)を示す値である。カラー画像について、「画素値の差が小さい、大きい」とは、R,G,Bの組み合わせがより近ければ小さい、組み合わせが異なるほど大きい、と言うことができる。
本発明によれば、画像の中で、画質が平坦な部分とそうでない部分(画質が粗い部分)とに分けることが容易となる。本発明は、画像の明暗に左右されない。したがって、自動露出型の自動撮影機器によって撮影された画像に対して有効に機能する。一般に広く用いられているノマルスキー型微分干渉顕微鏡の自動撮影システムでは、自動露出カメラで撮影されるため、画像によって明暗が大きく変化する場合があるが、本発明は、このような場合であっても影響を受けることがない。また、本発明に係る抽出法の対象となる画像は、白黒/カラーを問わない。
本発明は、ウィンドウサイズを変化させることで、いわゆるエントロピーフィルタの感受性を任意に変化させることができる。これは、非常に細かい部分を対象にする場合や、反対に画像全体を対象とする場合など、状況に応じて操作することができる。これによって、顕微鏡の倍率が変化した場合にも良好に対応できる。また、対象生物が変化した場合にも有効に働く。例えば、画像対象が生物の場合には、対象生物が変化すると、細胞質のザラつき度合いや、核領域の平坦さ等に変化が生じると考えられるが、ウィンドウサイズを好適に選択することで、これらの変化に良好に対応することができる。
本発明に係るエントロピーフィルタの用途は、画像から画質が平坦な部分を抽出することに限定されるものではない。焦点がずれると画像がぼやけることを利用することで、エントロピーフィルタをオートフォーカスに応用することも可能である。
発明を実施するための最良の形態
本発明に係る領域抽出法を、好適な例として、ノマルスキー型透過型微分干渉顕微鏡で撮影した線虫の初期胚からの核領域の抽出に基づいて説明する。図2は、線虫初期胚の顕微鏡画像であって、濃淡差の大きい細胞質の部分(画質がザラザラしている部分)と、比較的濃淡差の小さい核の部分(画質が比較的平坦な部分)が観察される。
本発明が採用したエントロピーフィルタは、画像から平坦な部分を効率的に抽出するフィルタである。これは、細胞質の画質がザラザラしているのに対して、核領域の画質が比較的平坦であることを利用したものである。
図1の左図は、大きさM×N画素のディジタル画像データを示し、左上が(0,0)、右下が(M−1,N−1)となっている。M×N画素の元画像の中に始点(x,y)を決定する。x:0〜(画像幅−ウィンドウ幅);y:0〜(画像の高さ−ウィンドウの高さ)である。
次いで、始点として選択した注目画素から(幅、高さ)=(A,B)の大きさのウィンドウで画像を区画する。区画されたウィンドウのエントロピーを計算し、得られたエントロピー値を、新しい画素値として、処理画像の座標(x,y)に保存する。図示のものでは、x:0〜(M−1−A)、y:0〜(N−1−B)である。
エントロピー計算は式(1)に基づいて行なわれる。
Figure 2002045021
式(1)において、P(l)は、特徴を計測したい画像領域に対して、濃度ヒストグラムH(l)(濃度レベル数がLであれば、1=0,1,2,・・・,L−1である)を求め、頻度の総数(画像領域の画素数)で各濃度レベルの頻度を割って、総画素数が1.0になるように正規化した濃度ヒストグラムである。式(1)によって求められるエントロピーの値を基準にして核領域、細胞質領域の区別を行う。
実施例のものでは、始点として選択した注目画素から(幅、高さ)=(A,B)の大きさのウィンドウで画像を区画して、区画されたウィンドウのエントロピーを計算しているが、ウィンドウの左上角部にはない注目画素(x,y)を含む(幅、高さ)=(A,B)の大きさのウィンドウで画像を区画して、区画されたウィンドウのエントロピーを計算してもよい。この場合は、注目画素(x,y)のx,yの範囲は図示のものとは異なる。例えば、注目画素(x,y)は(1,1)から順次に(M−A,N−B)までの座標を取る。
小区画のエントロピー計算を行いながら元画像を走査することで、効率良く核の位置を抽出することができる。エントロピーウィンドウサイズについては、顕微鏡の種類や倍率等に依存するものであるが、6[pixel]×6[pixel]〜20[pixel]×20[pixel](好ましくは、10[pixel]×10[pixel]、または、12[pixel]×12[pixel])の画像領域ウィンドウを用いることで良好な結果を得た。この場合、核領域のピクセルは、細胞分裂等の要因によって幅があるが、だいたい1000ピクセルから10000ピクセルである。もちろん、前述したウィンドウサイズや核領域のピクセル数は単なる例に過ぎない。
このようなエントロピーフィルタを用いて図2の細胞画像を処理したものを図3に示す。図4は、図3におけるエントロピーフィルタによる処理後の画像を閾値処理したものを、図2に示す顕微鏡画像に重ね合わせたものである。細胞画像から画質が平坦な部分が核候補として抽出される。
本発明に係る好ましい実施形態についてノマルスキー型透過型微分干渉顕微鏡で撮影した線虫の初期胚から核領域を抽出することに関連して説明したが、本発明は、細胞画像から核を抽出することに限定されるものではない。また、対象となる画像もノマルスキー型透過型微分干渉顕微鏡で撮影した画像のみならず、他の顕微鏡によって撮影された画像、さらにはコンピュータで扱う画像全般に適用可能である。
エントロピーフィルタを用いたオートフォーカスについて説明する。オートフォーカスに関して、従来はコントラストを利用することで行っていた。しかしながら、ノマルスキー顕微鏡で撮影された画像では、このコントラストを用いた方法がうまく機能しなかった。焦点がずれると画像がぼやけることを利用することで、エントロピーフィルタをオートフォーカスに応用することができる。ピントがあっていると画像がくっきりする(エントロピー増大)、ピントがぼやけていると画像がなめらかになる(エントロピー減少)という特性を利用する。対象画像(例えば、細胞画像)がいつも同じ場合には、ピントが合っているかいないかの判断をエントロピー値の振れ幅で予想できる。オートフォーカスのやり方は、以下のようになる。まず、ピントを少しずつずらしながら、得られた画像のエントロピーを計算する。この時、ウィンドウサイズは固定である。次いで、計算された一枚の画像の各エントロピーの値をチェックする。そして、相対的に大きな値のエントロピーが含まれるピントの位置は、そのピントが合っていると判断する。
産業上の利用可能性
エントロピーフィルタは、画像の明暗や白黒/カラーに影響されることなく、画像から平坦な部分を効率的に抽出することを可能とする。好適には細胞から核領域を抽出することに用いることができ、線虫の細胞系譜自動構築システムの画像処理部に適用することができる。また、エントロピーフィルタを写真のオートフォーカスに応用することができる。
【図面の簡単な説明】
図1は、エントロピーフィルタの説明図であり、図2は、顕微鏡画像であり、図3は、図2に示す画像のエントロピーフィルタによる処理後のフィルタリング画像であり、図4は、エントロピーフィルタによる処理後の画像を閾値処理したものを、図2の顕微鏡画像に重ね合わせたものである。

Claims (8)

  1. 注目画素(x,y)を含む小区画のエントロピーを計算し、得られたエントロピー値を該注目画素(x,y)の新しい値とすることを特徴とするエントロピーフィルタ。
  2. 元画像中に始点(x,y)を決定し、該始点から幅A、高さBの大きさのウィンドウで元画像を区画し、区画されたウィンドウのエントロピーを計算し、得られたエントロピー値を処理画像の座標(x,y)の画素値とすることを特徴とするエントロピーフィルタ。
  3. 請求の範囲2において、始点(x,y)は以下の範囲を取ることを特徴とするエントロピーフィルタ。
    x:0〜元画像の幅−A
    y:0〜元画像の高さ−B。
  4. 請求の範囲1乃至3いずれかにおいて、エントロピー値は式(1)に基づいて算出されることを特徴とするエントロピーフィルタ。
    Figure 2002045021
    ここで、P(l)は、正規化された濃度ヒストグラムである。
  5. 請求の範囲1乃至4いずれかに記載のエントロピーフィルタを用いて元画像を処理することで、元画像から画質が平坦な部分あるいは画質が粗い部分を抽出することを特徴とする領域抽出法。
  6. 請求の範囲5において、元画像はノマルスキー型透過型微分干渉顕微鏡で撮影されたものであることを特徴とする領域抽出法。
  7. 請求の範囲5,6いずれかにおいて、該元画像は細胞画像であると共に、該平坦な部分は核であり、細胞画像から核を抽出することを特徴とする領域抽出法。
  8. 請求項5乃至7いずれかにおいて、処理画像を閾値を用いて二値化する工程を含むことを特徴とする領域抽出法。
JP2002547111A 2000-12-01 2001-11-13 エントロピーフィルタ及び該フィルタを用いた領域抽出法 Expired - Fee Related JP3860540B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2000367632 2000-12-01
JP2000367632 2000-12-01
PCT/JP2001/009901 WO2002045021A1 (fr) 2000-12-01 2001-11-13 Filtre d'entropie et procede d'extraction de surface utilisant ce filtre

Publications (2)

Publication Number Publication Date
JPWO2002045021A1 true JPWO2002045021A1 (ja) 2004-04-02
JP3860540B2 JP3860540B2 (ja) 2006-12-20

Family

ID=18838022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002547111A Expired - Fee Related JP3860540B2 (ja) 2000-12-01 2001-11-13 エントロピーフィルタ及び該フィルタを用いた領域抽出法

Country Status (4)

Country Link
US (1) US7460702B2 (ja)
EP (1) EP1339020A4 (ja)
JP (1) JP3860540B2 (ja)
WO (1) WO2002045021A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100456619B1 (ko) * 2001-12-05 2004-11-10 한국전자통신연구원 에스.브이.엠(svm)을 이용한 얼굴 등록/인증 시스템 및방법
WO2003078965A2 (en) * 2002-03-13 2003-09-25 Q3Dm, Llc System and method for measurement of a response of localized cellular compartments
JP3921182B2 (ja) * 2003-05-27 2007-05-30 独立行政法人科学技術振興機構 核領域認識における結合核領域の切断方法
CN100485312C (zh) * 2004-03-11 2009-05-06 Icos视检系统有限公司 用于波前控制和改进的3d测量的方法和装置
WO2011056994A2 (en) 2009-11-04 2011-05-12 Board Of Regents, The University Of Texas System Adaptive automatic exposure apparatus and method for digital images
US8792140B2 (en) 2009-12-01 2014-07-29 Ricoh Company, Ltd. Image information processing method, image information processing apparatus, image processing apparatus, and recording medium
US20130051651A1 (en) * 2010-05-07 2013-02-28 Purdue Research Foundation Quantitative image analysis for wound healing assay
KR101757071B1 (ko) * 2015-12-08 2017-07-12 성균관대학교산학협력단 엔트로피 기초 영상 분할 방법
CN113866834A (zh) * 2021-09-15 2021-12-31 吉林大学 一种基于熵滤波的场源中心位置反演方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5046118A (en) * 1990-02-06 1991-09-03 Eastman Kodak Company Tone-scale generation method and apparatus for digital x-ray images
JPH06113697A (ja) 1991-10-07 1994-04-26 Taneaki Oikawa 胚発生可能なウシ卵子の選択方法
JP3297725B2 (ja) * 1991-12-09 2002-07-02 国立循環器病センター総長 造影血管高精度管径計測装置
US5317644A (en) * 1992-06-16 1994-05-31 Mcgill University Method for the enhancement of cell images
US5502710A (en) * 1993-03-08 1996-03-26 Canon Kabushiki Kaisha Recording bit extraction by calculating curvature of pixels in scanning probe microscope
JP3009805B2 (ja) 1993-04-05 2000-02-14 キヤノン株式会社 記録再生装置
US5790692A (en) * 1994-09-07 1998-08-04 Jeffrey H. Price Method and means of least squares designed filters for image segmentation in scanning cytometry
US5848177A (en) * 1994-12-29 1998-12-08 Board Of Trustees Operating Michigan State University Method and system for detection of biological materials using fractal dimensions
US5901245A (en) * 1997-01-23 1999-05-04 Eastman Kodak Company Method and system for detection and characterization of open space in digital images
DE60026732T2 (de) * 2000-03-23 2006-08-17 Japan Science And Technology Agency, Kawaguchi Zellenreihen-extraktionsverfahren
US6956961B2 (en) * 2001-02-20 2005-10-18 Cytokinetics, Inc. Extracting shape information contained in cell images
US7397953B2 (en) * 2001-07-24 2008-07-08 Hewlett-Packard Development Company, L.P. Image block classification based on entropy of differences

Also Published As

Publication number Publication date
WO2002045021A1 (fr) 2002-06-06
EP1339020A1 (en) 2003-08-27
EP1339020A4 (en) 2009-05-06
US7460702B2 (en) 2008-12-02
US20040028273A1 (en) 2004-02-12
JP3860540B2 (ja) 2006-12-20

Similar Documents

Publication Publication Date Title
KR101266817B1 (ko) 디지털 영상들의 개선된 전경/배경 분리
JP2005228342A (ja) 走査された書類の区分方法及びシステム
JP2005310123A (ja) 特定シーンの画像を選別する装置、プログラムおよびプログラムを記録した記録媒体
WO2007095483A2 (en) Detection and removal of blemishes in digital images utilizing original images of defocused scenes
WO2015145643A1 (ja) 画像処理装置および画像処理プログラム
CN107170002B (zh) 一种图像自动对焦方法和设备
JP3860540B2 (ja) エントロピーフィルタ及び該フィルタを用いた領域抽出法
CN115100104A (zh) 玻璃油墨区的缺陷检测方法、装置、设备及可读存储介质
KR101792564B1 (ko) 영상 처리 방법 및 이를 이용한 영상 처리 장치
WO2020038065A1 (zh) 一种图像处理方法、终端及计算机存储介质
CN110717935A (zh) 一种基于图像特征信息的图像匹配方法,装置与系统
CN112529773B (zh) Qpd图像后处理方法及qpd相机
CN110348442A (zh) 一种基于支持向量机的船载雷达图像海上油膜识别方法
JP2005165387A (ja) 画面のスジ欠陥検出方法及び装置並びに表示装置
JP3906221B2 (ja) 画像処理方法及び画像処理装置
JP2016059051A (ja) 撮像装置および距離情報取得方法
JP2001311730A (ja) 細胞系譜抽出方法
CN108269240B (zh) 一种图像自动聚焦方法、电子设备及存储介质
JP3772845B2 (ja) 画像処理プログラム、画像処理装置、および撮影装置
JP2001258599A (ja) 細胞系譜抽出方法
JP2003141550A (ja) 位置検出方法
KR100705660B1 (ko) 컬러영상의 위치 추정 방법 및 그 방법에 따른 차량 번호판번호 인식 및 위치추정 장치
JP4271648B2 (ja) 画像合成装置、撮像手段、およびプログラム
JP3464182B2 (ja) カラー画像の処理方法
JP2004145592A (ja) 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20031216

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20040210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060815

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060921

R150 Certificate of patent or registration of utility model

Ref document number: 3860540

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100929

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110929

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 6

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 6

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130929

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees