JP5086563B2 - 画像処理装置及び画像処理プログラム - Google Patents
画像処理装置及び画像処理プログラム Download PDFInfo
- Publication number
- JP5086563B2 JP5086563B2 JP2006147316A JP2006147316A JP5086563B2 JP 5086563 B2 JP5086563 B2 JP 5086563B2 JP 2006147316 A JP2006147316 A JP 2006147316A JP 2006147316 A JP2006147316 A JP 2006147316A JP 5086563 B2 JP5086563 B2 JP 5086563B2
- Authority
- JP
- Japan
- Prior art keywords
- bubble
- image
- image processing
- correlation value
- edge strength
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/041—Capsule endoscopes for imaging
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/155—Segmentation; Edge detection involving morphological operators
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Surgery (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Radiology & Medical Imaging (AREA)
- Optics & Photonics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biophysics (AREA)
- Endoscopes (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Description
図1は、本実施の形態1の画像処理装置の構成を示す概略ブロック図であり、図2は、カプセル型内視鏡等により撮像された泡を含む体腔内画像例を示す図である。本実施の形態1の画像処理装置100は、体腔内を撮像して得られた図2に示すような体腔内画像内の画素のエッジ強度を算出するエッジ強度算出部101と、算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を算出する相関値算出部102と、算出された相関値を基に画像内の泡領域を検出する泡領域検出部103とを備えるマイクロコンピュータ構成の演算部110と、取得した体腔内画像及び各部で利用するデータを保存するメモリ120とから構成されている。なお、処理対象の体腔内画像を画像処理装置100に入力するための構成や、出力後の泡領域検出結果を処理する構成に関しては、本実施の形態では特に限定しない。
dV(x,y)=P(x,y)−0.5×(P(x,y−r)+P(x,y+r))……(2)
dD1(x,y)
=P(x,y)−0.5×(P(x−r´,y+r´)+P(x+r´,y−r´))
ただし、r´はr/(20.5)を四捨五入した整数
…………………………………………(3)
dD2(x,y)
=P(x,y)−0.5×(P(x−r´,y−r´)+P(x+r´,y+r´))
ただし、r´はr/(20.5)を四捨五入した整数
…………………………………………(4)
E(x,y)
=max(0,dH(x,y),dV(x,y),dD1(x,y),dD2(x,y)) ……(5)
C=F-1{F{E}×F{R{a}}} ………………………………(6)
ただし、C:相関値、E:エッジ強度、a:泡モデル、F{}:フーリエ変換、F-1{}:フーリエ逆変換、R{}:180度回転である。
図13は、本発明の実施の形態2の画像処理装置の構成を示す概略ブロック図である。本実施の形態2の画像処理装置200は、実施の形態1の画像処理装置100におけるエッジ強度算出部101、相関値算出部102と、それぞれ同一の機能を有するエッジ強度算出部201、相関値算出部202と、体腔内画像内のエッジに基づき体腔内画像を領域分割する領域分割部203と、相関値算出部202により算出された相関値及び領域分割部203で分割された領域分割結果を基に体腔内画像中から泡領域を検出する泡領域検出部204と、泡領域検出部204による泡領域検出結果に対してモルフォロジ処理を行うモルフォロジ処理部205と、を備えるマイクロコンピュータ構成の演算部210と、取得した体腔内画像及び各部で利用するデータを保存するメモリ220とから構成されている。なお、処理対象の体腔内画像を画像処理装置200に入力するための構成や、出力後の泡領域検出結果を処理する構成に関しては、実施の形態1の場合と同様、本発明では特に限定しない。
膨張(dilation):構造要素Bの原点を対象領域A内で平行移動させた際に構造要素Bが覆う領域を出力する(図18参照)。
収縮(erosion):構造要素Bを対象領域A内で平行移動した際に構造要素Bの原点が覆う領域を出力する(図19参照)。
closing:構造要素Bを対象領域Aの外側から外接させて移動した際に構造要素Bが囲む領域を出力する(図20参照)。
opening:構造要素Bを対象領域Aの内側から内接させて移動した際に構造要素Bが囲む領域を出力する。
102 相関値算出部
103 泡領域検出部
130 泡モデル
131,132 高輝度構造部
133,135 泡モデル
136a,136b 弧形状の輝度構造部
137 泡モデル
138a,138b 弧形状の輝度構造部
140 泡モデル
201 エッジ強度算出部
202 相関値算出部
203 領域分割部
204 泡領域検出部
205 モルフォロジ処理部
Claims (12)
- 画像内の画素のエッジ強度を算出するエッジ強度算出手段と、
前記エッジ強度算出手段によって算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を算出する相関値算出手段と、
前記相関値算出手段によって算出された相関値を基に泡領域を検出する泡領域検出手段と、
を備え、
前記泡モデルは、リング形状の高輝度構造部とリング形状の内部に位置する高輝度構造部とを有するテンプレートパターンであることを特徴とする画像処理装置。 - 前記エッジ強度算出手段は、方向別の2次微分処理を用いて前記エッジ強度を算出することを特徴とする請求項1に記載の画像処理装置。
- 前記相関値算出手段は、複数種類の泡モデルとの相関値を算出し、
前記泡領域検出手段は、前記相関値算出手段によって算出された複数種類の泡モデルとの相関値を基に泡領域を検出することを特徴とする請求項1または2に記載の画像処理装置。 - 画像内のエッジに基づき画像を領域分割する領域分割手段を更に備え、
前記泡領域検出手段は、前記相関値算出手段によって算出された相関値及び前記領域分割手段によって領域分割された領域分割結果を基に、泡領域を検出することを特徴とする請求項1〜3のいずれか一つに記載の画像処理装置。 - 前記泡領域検出手段の検出結果に対し、モルフォロジ処理を行うモルフォロジ処理手段を更に備えることを特徴とする請求項1〜4のいずれか一つに記載の画像処理装置。
- 前記画像は、体腔内を撮像した画像であることを特徴とする請求項1〜5のいずれか一つに記載の画像処理装置。
- 画像内の泡領域を検出する処理を画像処理装置に実行させる画像処理プログラムであって、
前記画像処理装置に、
画像内の画素のエッジ強度を算出するエッジ強度算出手順と、
前記エッジ強度算出手順で算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルの相関値を算出する相関値算出手順と、
前記相関値算出手順で算出された相関値を基に泡領域を検出する泡領域検出手順と、
を実行させ、
前記泡モデルは、リング形状の高輝度構造部とリング形状の内部に位置する高輝度構造部とを有するテンプレートパターンであることを特徴とする画像処理プログラム。 - 前記エッジ強度算出手順は、方向別の2次微分処理を用いて前記エッジ強度を算出することを特徴とする請求項7に記載の画像処理プログラム。
- 前記相関値算出手順は、複数種類の泡モデルとの相関値を算出し、
前記泡領域検出手順は、前記相関値算出手順で算出された複数種類の泡モデルとの相関値を基に泡領域を検出することを特徴とする請求項7または8に記載の画像処理プログラム。 - 前記画像処理装置に、画像内のエッジに基づき画像を領域分割する領域分割手順を更に実行させ、
前記泡領域検出手順は、前記相関値算出手順によって算出された相関値及び前記領域分割手順によって領域分割された領域分割結果を基に、泡領域を検出することを特徴とする請求項7〜9のいずれか一つに記載の画像処理プログラム。 - 前記画像処理装置に、前記泡領域検出手順の検出結果に対し、モルフォロジ処理を行うモルフォロジ処理手順を更に実行させることを特徴とする請求項7〜10のいずれか一つに記載の画像処理プログラム。
- 前記画像は、体腔内を撮像した画像であることを特徴とする請求項7〜11のいずれか一つに記載の画像処理プログラム。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2006147316A JP5086563B2 (ja) | 2006-05-26 | 2006-05-26 | 画像処理装置及び画像処理プログラム |
| PCT/JP2007/057924 WO2007138792A1 (ja) | 2006-05-26 | 2007-04-10 | 画像処理装置及び画像処理プログラム |
| EP07741360.7A EP2033567B1 (en) | 2006-05-26 | 2007-04-10 | Image processing device and image processing program |
| US12/277,775 US8116531B2 (en) | 2006-05-26 | 2008-11-25 | Image processing apparatus, image processing method, and image processing program product |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2006147316A JP5086563B2 (ja) | 2006-05-26 | 2006-05-26 | 画像処理装置及び画像処理プログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2007313119A JP2007313119A (ja) | 2007-12-06 |
| JP5086563B2 true JP5086563B2 (ja) | 2012-11-28 |
Family
ID=38778315
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2006147316A Expired - Fee Related JP5086563B2 (ja) | 2006-05-26 | 2006-05-26 | 画像処理装置及び画像処理プログラム |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US8116531B2 (ja) |
| EP (1) | EP2033567B1 (ja) |
| JP (1) | JP5086563B2 (ja) |
| WO (1) | WO2007138792A1 (ja) |
Families Citing this family (31)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8213698B2 (en) * | 2006-09-19 | 2012-07-03 | Capso Vision Inc. | Systems and methods for capsule camera control |
| JP4859713B2 (ja) * | 2007-03-08 | 2012-01-25 | トヨタ自動車株式会社 | 非金属介在物数の測定方法 |
| JP2010217553A (ja) * | 2009-03-17 | 2010-09-30 | Sony Corp | 画像生成装置及び画像生成方法 |
| JP5361530B2 (ja) * | 2009-05-20 | 2013-12-04 | キヤノン株式会社 | 画像認識装置、撮像装置及び画像認識方法 |
| CN102414720B (zh) * | 2010-03-19 | 2015-08-19 | 松下电器(美国)知识产权公司 | 特征量计算装置、特征量计算方法 |
| JP5011452B2 (ja) | 2010-04-12 | 2012-08-29 | オリンパスメディカルシステムズ株式会社 | 医用画像処理装置および医用画像処理装置の制御方法 |
| JP5597049B2 (ja) * | 2010-07-07 | 2014-10-01 | オリンパス株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
| JP5757724B2 (ja) * | 2010-12-10 | 2015-07-29 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
| JP5576782B2 (ja) | 2010-12-16 | 2014-08-20 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
| JP5526044B2 (ja) * | 2011-01-11 | 2014-06-18 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
| EP2567651B1 (en) * | 2011-02-01 | 2015-04-22 | Olympus Medical Systems Corp. | Diagnosis supporting apparatus |
| DE102011004160A1 (de) * | 2011-02-15 | 2012-08-16 | Siemens Aktiengesellschaft | Verfahren und Einrichtung zur Untersuchung eines Hohlorgans mit einer magnetgeführten Endoskopkapsel |
| JP6279825B2 (ja) * | 2011-05-18 | 2018-02-14 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラムおよび撮像装置 |
| KR101248808B1 (ko) * | 2011-06-03 | 2013-04-01 | 주식회사 동부하이텍 | 경계 영역의 잡음 제거 장치 및 방법 |
| JP5959168B2 (ja) | 2011-08-31 | 2016-08-02 | オリンパス株式会社 | 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム |
| JP5980490B2 (ja) | 2011-10-18 | 2016-08-31 | オリンパス株式会社 | 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム |
| JP6265588B2 (ja) | 2012-06-12 | 2018-01-24 | オリンパス株式会社 | 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム |
| JP5948200B2 (ja) | 2012-09-27 | 2016-07-06 | オリンパス株式会社 | 画像処理装置、プログラム及び画像処理方法 |
| JP6242072B2 (ja) | 2012-09-27 | 2017-12-06 | オリンパス株式会社 | 画像処理装置、プログラム及び画像処理装置の作動方法 |
| JP6422198B2 (ja) | 2012-11-29 | 2018-11-14 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
| KR20140121711A (ko) * | 2013-04-08 | 2014-10-16 | 삼성전자주식회사 | 색 추출 기반의 영상 처리 방법, 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 디지털 영상 장치 |
| JP5937286B1 (ja) * | 2014-09-29 | 2016-06-22 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
| US9773154B2 (en) * | 2015-10-09 | 2017-09-26 | Universidad Nacional Autónoma de México | System for the identification and quantification of helminth eggs in environmental samples |
| US10318845B2 (en) * | 2016-04-14 | 2019-06-11 | Research International, Inc. | Coupon reader |
| WO2017203701A1 (ja) | 2016-05-27 | 2017-11-30 | オリンパス株式会社 | 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム |
| JP6346721B1 (ja) | 2016-11-07 | 2018-06-20 | オリンパス株式会社 | カプセル型内視鏡、受信装置、カプセル型内視鏡の作動方法、及びカプセル型内視鏡の作動プログラム |
| US11426229B2 (en) | 2019-02-21 | 2022-08-30 | Medtronic Navigation, Inc. | Method and apparatus for magnetic resonance imaging thermometry |
| US11403760B2 (en) | 2019-02-21 | 2022-08-02 | Medtronic Navigation, Inc. | Method and apparatus for magnetic resonance imaging thermometry |
| US11276174B2 (en) | 2019-02-21 | 2022-03-15 | Medtronic Navigation, Inc. | Method and apparatus for magnetic resonance imaging thermometry |
| CN114821072B (zh) * | 2022-06-08 | 2023-04-18 | 四川大学 | 一种从动态冰图像中提取气泡的方法、装置、设备和介质 |
| CN115797654B (zh) * | 2022-12-09 | 2023-06-23 | 中国民用航空飞行学院 | 气液两相流动中气泡泡底参数识别方法 |
Family Cites Families (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5566249A (en) * | 1994-09-20 | 1996-10-15 | Neopath, Inc. | Apparatus for detecting bubbles in coverslip adhesive |
| US5835620A (en) * | 1995-12-19 | 1998-11-10 | Neuromedical Systems, Inc. | Boundary mapping system and method |
| FI114414B (fi) * | 1999-05-05 | 2004-10-15 | Outokumpu Oy | Menetelmä ja laitteisto vaahdottuneen aineen pinnan valvomiseksi ja analysoimiseksi |
| AUPR509601A0 (en) * | 2001-05-18 | 2001-06-14 | Polartechnics Limited | Diagnostic feature extraction in dermatological examination |
| JP4493386B2 (ja) | 2003-04-25 | 2010-06-30 | オリンパス株式会社 | 画像表示装置、画像表示方法および画像表示プログラム |
| JP4254347B2 (ja) * | 2003-05-27 | 2009-04-15 | パナソニック電工株式会社 | 容器内液体中の異物検出方法及びその装置 |
| JP4254923B2 (ja) | 2003-07-03 | 2009-04-15 | 株式会社山武 | 流量検出装置および流量制御装置 |
| EP1665130A4 (en) * | 2003-09-25 | 2009-11-18 | Paieon Inc | SYSTEM FOR THREE-DIMENSIONAL RECONSTRUCTION OF A TUBULAR ORGAN |
| US7676257B2 (en) * | 2003-11-25 | 2010-03-09 | General Electric Company | Method and apparatus for segmenting structure in CT angiography |
| JP4652694B2 (ja) | 2004-01-08 | 2011-03-16 | オリンパス株式会社 | 画像処理方法 |
| WO2005101314A2 (en) * | 2004-04-12 | 2005-10-27 | The General Hospital Corporation | Method and apparatus for processing images in a bowel subtraction system |
| JP4615963B2 (ja) * | 2004-10-29 | 2011-01-19 | オリンパス株式会社 | カプセル型内視鏡装置 |
| JP4630127B2 (ja) * | 2005-05-17 | 2011-02-09 | 株式会社日立製作所 | 超音波診断治療装置 |
-
2006
- 2006-05-26 JP JP2006147316A patent/JP5086563B2/ja not_active Expired - Fee Related
-
2007
- 2007-04-10 WO PCT/JP2007/057924 patent/WO2007138792A1/ja not_active Ceased
- 2007-04-10 EP EP07741360.7A patent/EP2033567B1/en not_active Not-in-force
-
2008
- 2008-11-25 US US12/277,775 patent/US8116531B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| US20090148014A1 (en) | 2009-06-11 |
| WO2007138792A1 (ja) | 2007-12-06 |
| EP2033567B1 (en) | 2015-08-26 |
| EP2033567A4 (en) | 2010-03-10 |
| JP2007313119A (ja) | 2007-12-06 |
| EP2033567A1 (en) | 2009-03-11 |
| US8116531B2 (en) | 2012-02-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5086563B2 (ja) | 画像処理装置及び画像処理プログラム | |
| US8798344B2 (en) | Image processing apparatus, image processing method and computer-readable recording device | |
| KR20220139292A (ko) | 문자 분할 방법, 장치 및 컴퓨터 판독 가능 저장 매체 | |
| CN105787912B (zh) | 一种基于分类的阶跃型边缘亚像素定位方法 | |
| CN104182952B (zh) | 多聚焦序列图像融合方法 | |
| CN111259866B (zh) | 一种基于改进背景差分法的海上舰船目标检测方法 | |
| CN109410147A (zh) | 一种超空泡图像增强方法 | |
| CN116596791B (zh) | 一种基于凸包高次幂拟合的医学分割图像凹缺陷填补方法 | |
| CN114926387B (zh) | 基于背景估计与边缘梯度抑制的焊缝缺陷检测方法及装置 | |
| CN113139929B (zh) | 包含信息筛选与融合修复的胃肠道内窥镜图像预处理方法 | |
| CN111415340B (zh) | 一种面向大面积高密度影ct图像的脏器分割方法及装置 | |
| CN105809646A (zh) | 基于迭代最佳阈值法计算冻土的孔隙参数的方法及系统 | |
| CN109300104A (zh) | 角点检测方法、装置 | |
| CN115546232B (zh) | 一种肝脏超声图像工作区域提取方法、系统及电子设备 | |
| CN101866420A (zh) | 一种用于光学体全息虹膜识别的图像前处理方法 | |
| CN111260673B (zh) | 一种适用边缘破碎脏器造影的脏器实质分割方法及装置 | |
| CN102663387A (zh) | 基于牙科全景图的皮质骨宽度自动计算方法 | |
| CN114945825A (zh) | 癌症判定装置、癌症判定方法以及程序 | |
| JP6132485B2 (ja) | 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム | |
| CN114708271A (zh) | 一种基于高亮点去除的医学图像分割方法 | |
| JP4631199B2 (ja) | 画像処理装置および画像処理方法、記録媒体、並びにプログラム | |
| CN111192280B (zh) | 一种基于局部特征的视盘边缘检测方法 | |
| CN111223116A (zh) | 一种面向破碎边缘目标的两阶段边缘检测方法及装置 | |
| CN108629780B (zh) | 基于颜色分解和阈值技术的舌图像分割方法 | |
| CN112749624A (zh) | 基于深度学习语义分割的复杂背景图像抠像方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090406 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120619 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120809 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120828 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120907 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5086563 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150914 Year of fee payment: 3 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |