JP2007313119A - 画像処理装置及び画像処理プログラム - Google Patents

画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP2007313119A
JP2007313119A JP2006147316A JP2006147316A JP2007313119A JP 2007313119 A JP2007313119 A JP 2007313119A JP 2006147316 A JP2006147316 A JP 2006147316A JP 2006147316 A JP2006147316 A JP 2006147316A JP 2007313119 A JP2007313119 A JP 2007313119A
Authority
JP
Japan
Prior art keywords
bubble
image
image processing
correlation value
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006147316A
Other languages
English (en)
Other versions
JP5086563B2 (ja
Inventor
Yamato Kanda
大和 神田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2006147316A priority Critical patent/JP5086563B2/ja
Priority to EP07741360.7A priority patent/EP2033567B1/en
Priority to PCT/JP2007/057924 priority patent/WO2007138792A1/ja
Publication of JP2007313119A publication Critical patent/JP2007313119A/ja
Priority to US12/277,775 priority patent/US8116531B2/en
Application granted granted Critical
Publication of JP5086563B2 publication Critical patent/JP5086563B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration by the use of local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/155Segmentation; Edge detection involving morphological operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Abstract

【課題】臓器判定や患部検出の精度低下の要因となる泡領域を、体腔内画像より検出できるようにすることである。
【解決手段】画像内の画素のエッジ強度をエッジ強度算出部101で算出し、算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を相関値算出部102で算出し、算出された相関値に基づき画像内の泡領域を泡領域検出部103で検出することで、体腔内画像内の泡領域を適正に検出できるようにした。
【選択図】 図1

Description

本発明は、画像内の泡領域を検出する画像処理装置及び画像処理プログラム、特に、体腔内を撮像した画像における泡領域を検出する画像処理装置及び画像処理プログラムに関する。
特許文献1は、体腔内画像における画像処理として、カプセル型内視鏡画像の平均色情報を基に臓器を判定する処理を開示している。具体的には、時系列の連続画像として取り込まれるカプセル型内視鏡画像の各画像において、画素の赤色レベルの画像内平均値、及び画素の青色レベルの画像内平均値を算出し、この値を時系列方向に平滑化した後、各色レベルの変化量が所定以上となる変色エッジ位置を検出して、臓器の切り替わりを判定している。
また、特許文献2は、カプセル型内視鏡画像内の各画素の色情報を基に患部領域を検出する処理を開示している。具体的には、画像内の各画素又は平均化した画素値を、その色情報に基づく特徴空間に写像し、特徴空間内でクラスタリングした後に正常粘膜クラスタと患部クラスタを特定し、患部クラスタに属する画素領域を患部として検出している。
特開2004−337596号公報 特開2005−192880号公報
しかしながら、カプセル型内視鏡が撮像する体腔内には、気泡(以下、単に「泡」という)が存在するため、体腔内画像には粘膜と同時に泡が撮像される場合がよくある。泡が画像内に存在する場合、特許文献1で算出している各色レベルの画像内平均値は、泡の影響により、本来の粘膜の色レベルを十分に反映した値とならない。このため、臓器判定精度が低下してしまう。
また、泡領域の画素は、色情報に基づく特徴空間内にて非常に幅広い分布となり、正常粘膜や患部の分布と重なる。このため、特許文献2においても、泡領域の画素情報を含めて患部検出を行う場合、検出精度が低下してしまう。
いずれの場合にも、体腔内画像において泡領域を検出することができれば、泡領域内の画素を無効な画素として後段の処理から除外することで、臓器判定や患部検出の精度低下を抑制できる。しかしながら、これまで体腔内画像より泡領域を検出するという課題に対し、有効な解決策が見出されていない現状にある。
本発明は、上記に鑑みてなされたものであって、臓器判定や患部検出の精度低下の要因となる泡領域を、体腔内画像より検出することができる画像処理装置及び画像処理プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、画像内の画素のエッジ強度を算出するエッジ強度算出手段と、算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を算出する相関値算出手段と、算出された相関値を基に泡領域を検出する泡領域検出手段と、を備えることを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、前記泡モデルは、弧形状の輝度構造部を有するテンプレートパターンであることを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、前記泡モデルは、リング形状の輝度構造部を有するテンプレートパターンであることを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、前記泡モデルは、リング形状の高輝度構造部とリング形状の内部に位置する高輝度構造部とを有するテンプレートパターンであることを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、前記エッジ強度算出手段は、方向別の2次微分処理を用いてエッジ強度を算出することを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、前記相関値算出手段は、複数種類の泡モデルとの相関値を算出し、前記泡領域検出手段は、算出された複数種類の泡モデルとの相関値を基に泡領域を検出することを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、画像内のエッジに基づき画像を領域分割する領域分割手段を更に備え、前記泡領域検出手段は、相関値及び領域分割結果を基に、泡領域を検出することを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、前記泡領域検出手段の検出結果に対し、モルフォロジ処理を行うモルフォロジ処理手段を更に備えることを特徴とする。
また、本発明に係る画像処理装置は、上記発明において、前記画像は、体腔内を撮像した画像であることを特徴とする。
また、本発明に係る画像処理プログラムは、画像内の泡領域を検出する処理を画像処理装置に実行させる画像処理プログラムであって、前記画像処理装置に、画像内の画素のエッジ強度を算出するエッジ強度算出手順と、算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルの相関値を算出する相関値算出手順と、算出された相関値を基に泡領域を検出する泡領域検出手順と、を実行させることを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、相関値の算出に用いる前記泡モデルは、弧形状の輝度構造部を有するテンプレートパターンであることを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、相関値の算出に用いる前記泡モデルは、リング形状の輝度構造部を有するテンプレートパターンであることを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、相関値の算出に用いる前記泡モデルは、リング形状の高輝度構造部とリング形状の内部に位置する高輝度構造部とを有するテンプレートパターンであることを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、前記エッジ強度算出手順は、方向別の2次微分処理を用いてエッジ強度を算出することを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、前記相関値算出手順は、複数種類の泡モデルとの相関値を算出し、前記泡領域検出手順は、算出された複数種類の泡モデルとの相関値を基に泡領域を検出することを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、前記画像処理装置に、画像内のエッジに基づき画像を領域分割する領域分割手順を更に実行させ、前記泡領域検出手順は、相関値及び領域分割結果を基に、泡領域を検出することを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、前記画像処理装置に、前記泡領域検出手順の検出結果に対し、モルフォロジ処理を行うモルフォロジ処理手順を更に実行させることを特徴とする。
また、本発明に係る画像処理プログラムは、上記発明において、前記画像は、体腔内を撮像した画像であることを特徴とする。
本発明に係る画像処理装置及び画像処理プログラムによれば、画像内の画素のエッジ強度を算出し、算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を算出し、算出された相関値に基づき画像内の泡領域を検出するようにしたので、画像内の泡領域を適正に検出することができるという効果を奏する。
また、本発明に係る画像処理装置及び画像処理プログラムによれば、算出されたエッジ強度と泡モデルとの相関値に加えて、画像内のエッジに基づき画像を領域分割した領域分割結果に基づいて画像内の泡領域を検出するようにしたので、泡の輪郭エッジに一致する、より正確な泡領域の検出が可能になり、適正な患部検出等に役立てることができるという効果を奏する。
本発明を実施するための最良の形態について図面を参照して説明する。以下に説明する本実施の形態では、カプセル型内視鏡等により撮像して得られた体腔内画像より泡領域を検出する画像処理装置を示す。なお、通常カプセル型内視鏡等により撮像される体腔内画像は、各画素位置においてR(赤),G(緑),B(青)の各色に対する画素レベル(画素値)を持つカラー画像である。しかし、本実施の形態での体腔内画像とは、上記のカラー画像を既に公知の変換により、輝度(YCbCr変換)、明度(HSI変換)等の濃淡画像へ変換したものとする。変換に関しては、泡部分の画像情報が失われないほど良いが、通常、色素や染色剤等を使用しない場合の体腔内画像の色調変化は、血液中のヘモグロビンの吸収帯域(波長)に最も依存し、構造情報は一般にG成分に多く含まれることが知られているため、単にカラー画像のうちのG成分を濃淡画像としても良い。
(実施の形態1)
図1は、本実施の形態1の画像処理装置の構成を示す概略ブロック図であり、図2は、カプセル型内視鏡等により撮像された泡を含む体腔内画像例を示す図である。本実施の形態1の画像処理装置100は、体腔内を撮像して得られた図2に示すような体腔内画像内の画素のエッジ強度を算出するエッジ強度算出部101と、算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を算出する相関値算出部102と、算出された相関値を基に画像内の泡領域を検出する泡領域検出部103とを備えるマイクロコンピュータ構成の演算部110と、取得した体腔内画像及び各部で利用するデータを保存するメモリ120とから構成されている。なお、処理対象の体腔内画像を画像処理装置100に入力するための構成や、出力後の泡領域検出結果を処理する構成に関しては、本実施の形態では特に限定しない。
図3は、本実施の形態1の画像処理装置100の演算部110により実行される処理の流れを示す概略フローチャートである。以下、図1に示した構成と対比しながら、画像処理手順について説明する。
まず、演算部110は、処理対象となる体腔内画像を取得する(ステップS101)。次に、エッジ強度算出部101は、取得した体腔内画像の画素のエッジ強度を算出する(ステップS102)。エッジ強度の算出には様々な方法があるが、ここでは方向別の2次微分処理を用いる方法を示す。図4は、エッジ強度算出における2次微分算出の方向を示す説明図である。まず、体腔内画像の画素(x,y)に対して、式(1)〜式(4)に従い、図4に示すような、水平方向の2次微分dH、垂直方向の2次微分dV、斜め1方向の2次微分dD1、斜め2方向の2次微分dD2を算出する。
dH(x,y)=P(x,y)−0.5×(P(x−r,y)+P(x+r,y))……(1)
dV(x,y)=P(x,y)−0.5×(P(x,y−r)+P(x,y+r))……(2)
dD1(x,y)
=P(x,y)−0.5×(P(x−r´,y+r´)+P(x+r´,y−r´))
ただし、r´はr/(20.5)を四捨五入した整数
…………………………………………(3)
dD2(x,y)
=P(x,y)−0.5×(P(x−r´,y−r´)+P(x+r´,y+r´))
ただし、r´はr/(20.5)を四捨五入した整数
…………………………………………(4)
なお、P(x,y)は、体腔内画像の座標(x,y)の画素値であり、rは2次微分算出時の画素範囲を示すパラメータ(整数)である。パラメータrの値を小さくすれば高周波なエッジ成分を、パラメータrの値を大きくすれば低周波なエッジ成分を算出することができる。なお、パラメータrは、事前に静的に設定してもよいし、画像等を基に動的に設定してもよい。また、外部より与えて処理する構成としてもよい。
次に、式(5)に従い、方向別の2次微分算出結果のプラス側の最大値を算出し、画素におけるエッジ強度Eとする。
E(x,y)
=max(0,dH(x,y),dV(x,y),dD1(x,y),dD2(x,y)) ……(5)
以上の処理により、パラメータrで指定した範囲における画素値変化が、水平、垂直、斜め1、斜め2のいずれかの方向において凸となる部分のエッジ強度が大きくなるようなエッジ強度算出が行われる。図5−1に示すような泡部分の画像中のA−A´部分の画素値変化を図5−2に示す。図5−2に示すような泡の画像の特徴によれば、体腔内画像における泡では、泡の輪郭部及び泡の内部に撮像のための照明反射による凸エッジが存在する。このため上記の処理により、他の体腔内構造に起因する画素値変化を抑えながら、泡構造の特徴を反映したエッジ強度を得ることが可能となる。図6に、図2に示した体腔内画像に対してエッジ強度算出を行った結果例を示す。
以上、本実施の形態1では体腔内画像に対する方向別2次微分によるエッジ強度算出法を示したが、エッジ強度算出の方法は、体腔内画像を照明・撮像する照明系や撮像系に応じて他の方法に変更しても良い。例えば、既に公知である1次微分フィルタ(プリューウィットフィルタ、ソーベルフィルタ等)や、2次微分フィルタ(ラプラシアンフィルタ、LOG(Laplacian of Gaussian)フィルタ等)を用いて空間フィルタリングを行うことでも算出できる(参考文献:CG−ARTS協会:ディジタル画像処理:114p、エッジ抽出)。
次に、相関値算出部102は、エッジ強度算出部101で算出されたエッジ強度と泡モデルとの相関値を算出する(ステップS103)。ここで、泡モデルとは、泡画像の特徴、例えば、カプセル型内視鏡の照明・撮像系により得られる体腔内画像における泡画像では、泡の輪郭部及び泡の内部に照明反射による弧形状の凸エッジが存在するという特徴に基づき設定されたものであり、図7に示すようなリング形状の高輝度構造部131とリング形状の内部に位置する高輝度構造部132とを有するテンプレートパターンである。泡モデルの作成方法は様々であるが、例えば、図8に示すような低輝度の背景部分と高輝度の構造部分とからなる基本図形を作成し、平滑化フィルタ(ガウシアンフィルタ等)による空間フィルタリングを行うことで作成できる。なお、図8に示す泡モデル作成のための基本図形例において、高輝度構造部131,132の半径R1,R2及び高輝度構造部131の幅tは、図形サイズに関するパラメータであり、事前に静的に設定してもよいし、画像等を基に動的に設定してもよい。また、外部より与えて処理する構成としてもよい。平滑化の程度を調整するパラメータに関しても同様である。
泡モデルに関しては、検出すべき体腔内画像における泡画像の特徴を考慮した場合、弧形状の集合が泡画像となるので、少なくとも弧形状の輝度構造部を有することが重要であり、図7に示すような泡モデル130に限らず、例えば図9−1〜図9−4に示すような泡モデル等を用いても良い。図9−1の泡モデル133は、やや楕円形状となる扁平なリング形状の輝度構造部134を有する。図9−2の泡モデル135は、対をなす2つの弧形状の輝度構造部136a,136bを有する。図9−3の泡モデル137は、対をなす2つの弧形状の輝度構造部138a,138bとその内部に位置する高輝度構造部139とを有する。図9−4の泡モデル140は、対をなす2つの弧形状の輝度構造部141a,141bとその内部に位置して対をなす2つの高輝度構造部142a,142bとを有する。
ここで、エッジ強度と泡モデルとの相関の算出に関しては、式(6)に示すように、エッジ強度と泡モデルとをフーリエ変換により周波数空間に変換し、互いの積をとってフーリエ逆変換することで実現できる。
C=F-1{F{E}×F{R{a}}} ………………………………(6)
ただし、C:相関値、E:エッジ強度、a:泡モデル、F{}:フーリエ変換、F-1{}:フーリエ逆変換、R{}:180度回転である。
図10は、図6に示したエッジ強度算出の結果例と、図7に示した泡モデル130との間の相関値算出の結果を示す図である。なお、相関値算出部102による本処理は、エッジ強度と泡モデルとの類似性を、相関値として算出していることに他ならないため、テンプレートマッチングの手法として既に公知である他の類似度算出法(SAD:差分絶対値和、SSD:差分2乗和など)を利用しても良い(参考文献:CG−ARTS協会:ディジタル画像処理:203p、類似度)。
また、本実施の形態1では、1つの泡モデルとの相関を求める例を示したが、サイズ、形状の異なる複数種類の泡モデルを予め設定しておき、各泡モデルとエッジ強度との相関値を算出した後、各画素位置毎に最大の相関値を得ることで、より多様な泡の種類に対応することができる。図11は、図6に示したエッジ強度算出の結果例に対して、複数種類の泡モデルを用いた相関値算出結果の一例を示す図である。
次に、泡領域検出部103は、相関値算出部102で算出された相関値を基に体腔内画像中の泡領域を検出する(ステップS104)。泡の特徴を示す泡モデルとの相関が高い部分は、泡領域に属する可能性が高い。そこで、泡領域検出部103では、所定の閾値を設定し、この閾値より高い相関値を持つ部分を体腔内画像中で泡領域として検出する。図12は、相関値に基づく泡領域の検出結果を示す図であり、白抜き部分が泡領域として検出された部分である。
最後に、演算部110は、泡領域検出部103が検出した泡領域の情報を出力し(ステップS105)、画像処理装置100での処理は終了する。
上述したような本実施の形態1の画像処理装置100によれば、体腔内画像内の画素のエッジ強度を算出し、算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を算出し、算出された相関値に基づき体腔内画像内の泡領域を検出するようにしたので、体腔内画像内の泡領域を適正に検出することができる。よって、カプセル型内視鏡等で撮像された体腔内画像中で泡領域内の画素を無効な画素として後の画像処理の対象から除外することで、体腔内画像における臓器判定や患部検出などの検出精度の低下を抑制することが可能となる。
(実施の形態2)
図13は、本発明の実施の形態2の画像処理装置の構成を示す概略ブロック図である。本実施の形態2の画像処理装置200は、実施の形態1の画像処理装置100におけるエッジ強度算出部101、相関値算出部102と、それぞれ同一の機能を有するエッジ強度算出部201、相関値算出部202と、体腔内画像内のエッジに基づき体腔内画像を領域分割する領域分割部203と、相関値算出部202により算出された相関値及び領域分割部203で分割された領域分割結果を基に体腔内画像中から泡領域を検出する泡領域検出部204と、泡領域検出部204による泡領域検出結果に対してモルフォロジ処理を行うモルフォロジ処理部205と、を備えるマイクロコンピュータ構成の演算部210と、取得した体腔内画像及び各部で利用するデータを保存するメモリ220とから構成されている。なお、処理対象の体腔内画像を画像処理装置200に入力するための構成や、出力後の泡領域検出結果を処理する構成に関しては、実施の形態1の場合と同様、本発明では特に限定しない。
図14は、本実施の形態2の画像処理装置200の演算部210により実行される処理の流れを示す概略フローチャートである。なお、処理ステップS201〜S203に関しては、実施の形態1での処理ステップS101〜S103と同様である。以下、処理ステップS204〜S207に関して、図13に示す構成と対比しながら説明する。
領域分割部203は、体腔内画像内のエッジに基づき体腔内画像を領域分割する(ステップS204)。領域分割の手法には、本願出願人による特願2005−24511に示す領域分割の手法を用いる。手順としては、まず、体腔内画像に対して、ノイズ除去を目的とする平滑化処理を行った後、各画素における画素値の勾配方向を求める。このとき勾配方向は近傍画素との輝度差が最小(負の値が最大)となる方向とする。次に、各画素が画素値の勾配方向に沿って到達する極値画素を求め、近接する極値画素に到達した各画素が同一の領域となるように画像を領域分割する。図15は、座標(x1,y1)で示される或る注目画素Tから座標(x4,y4)で示される極値画素Mまでの走査例を示す模式図である。また、図16は、図2に示したような体腔内画像に対して領域分割部203で領域分割を行った結果例を示す図である。
なお、他の領域分割の方法として、例えば分水嶺(watershed)アルゴリズム(参考:Luc Vincent and Pierre Soille. Watersheds in digital spaces:An efficient algorithm based on immersion simulations. Transactionson Pattern Analysis and Machine Intelligence, Vol.13, No.6, pp.583-598,June 1991.)を用いる方法もある。分水嶺アルゴリズムは、画像の画素値情報を高度とみなした地形において水を満たしていく際に、異なる窪みに溜まる水の間で境界ができるように画像を分割していく方法である。このため、体腔内画像に対し、適当な平滑化を行った後に、分水嶺アルゴリズムを実行することにより、図16に示す結果と類似した領域分割結果を得ることが可能である。
次に、泡領域検出部204は、相関値算出部202により算出された相関値及び領域分割部203で分割された領域分割結果を基に体腔内画像中から泡領域を検出する(ステップS205)。実際には、まず領域分割結果の各領域毎に相関値の平均値を求める。泡領域に属する領域では、高い相関値が得られるため、所定の閾値を設定し、この閾値より高い平均相関値となる領域を泡領域として検出する。図17は、泡領域検出部204による検出結果を示す図である。図17から確認できるように、領域分割部203により領域分割された結果を利用することにより、泡領域の境界が体腔内画像での泡の輪郭エッジと一致し、より正確な泡領域の境界を得ることができる。
ここで、図17中のA部、B部に示すように、ノイズなどの影響で部分的に適切な境界が得られない場合もある。また、図12に示した実施の形態1の泡領域検出結果のように、領域内部に孔が存在したり、泡領域でない細かな領域が存在する場合もある。そこでモルフォロジ処理部205は、モルフォロジ処理(参考文献:コロナ社:モルフォロジー:小畑秀文著)により、これらノイズによる泡領域の形状の不整を整える(ステップS206)。モルフォロジ処理の基本は、膨張(dilation)、収縮(erosion)の2つの処理であり、それぞれ対象領域に対して構造要素と呼ばれる基準図形(基準画像)を用いて処理する。各処理の内容は以下の通りである。
膨張(dilation):構造要素Bの原点を対象領域A内で平行移動させた際に構造要素Bが覆う領域を出力する(図18参照)。
収縮(erosion):構造要素Bを対象領域A内で平行移動した際に構造要素Bの原点が覆う領域を出力する(図19参照)。
これら2つの処理の組合せからなる処理として、closing(対象領域に対してdilationを行った後、erosionを行う:図20参照)と、opening(対象領域に対してerosionを行った後、dilationを行う)とがある。結果的には以下の処理内容となる。
closing:構造要素Bを対象領域Aの外側から外接させて移動した際に構造要素Bが囲む領域を出力する(図20参照)。
opening:構造要素Bを対象領域Aの内側から内接させて移動した際に構造要素Bが囲む領域を出力する。
これらの処理を検出した泡領域に対して行うことにより、形状の不整を整えることができる。図21は、図17に示した泡領域検出結果に対して、円形構造要素によるclosing処理を行った結果例を示す図である。図17中のA部、B部の形状が整えられている様子が確認できる。領域内の孔を除去するためにはclosing処理を、泡領域外の細かなノイズ領域を除去するためにはopening処理を、検出した泡領域より少し広めの領域を得るためにdilation処理を、というようにモルフォロジ処理部205は、用途によって様々なモルフォロジ処理を行う。
最後に、演算部210は、整えられた泡領域情報を出力し(ステップS207)、画像処理装置200での処理は終了する。
上述したような本実施の形態2の画像処理装置200によれば、算出されたエッジ強度と泡モデルとの相関値に加えて、体腔内画像内のエッジに基づき体腔内画像を領域分割した領域分割結果に基づいて、画像内の泡領域を検出するので、泡の輪郭エッジに一致する、より正確な泡領域の検出が可能になる。よって、患部の近傍に泡領域が存在するような場合でも、患部を含めて泡領域として検出してしまうことがなく、より適正な患部検出等に役立てることができる。
なお、前述のエッジ強度算出部101,201、相関値算出部102,202、領域分割部203、泡領域検出部103,204、モルフォロジ処理部205の各部による図3、図14等に示す処理手順は、あらかじめ用意された画像処理プログラムをパーソナルコンピュータなどのコンピュータで構成された画像処理装置に実行させることにより実現するようにしてもよい。この画像処理プログラムは、インターネットなどのネットワークを介して配布することもできる。また、この画像処理プログラムは、ハードディスク、FD、CD−ROM、MO、DVDなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることにより実行することもできる。
本発明の実施の形態1の画像処理装置の構成を示す概略ブロック図である。 カプセル型内視鏡等により撮像された泡を含む体腔内画像例を示す図である。 本実施の形態1の画像処理装置の演算部により実行される処理の流れを示す概略フローチャートである。 エッジ強度算出における2次微分算出の方向を示す説明図である。 泡部分の画像例を示す図である。 図5−1の泡部分の画像中のA−A´部分の画素値変化を示す図である。 エッジ強度算出の結果例を示す図である。 泡モデルの一例を示す図である。 泡モデル作成のための基本図形例を示す図である。 泡モデルの変形例を示す図である。 泡モデルの変形例を示す図である。 泡モデルの変形例を示す図である。 泡モデルの変形例を示す図である。 図6に示したエッジ強度算出の結果例と、図7に示した泡モデルとの間の相関値算出の結果を示す図である。 図6に示したエッジ強度算出の結果例に対して、複数種類の泡モデルを用いた相関値算出結果の一例を示す図である。 相関値に基づく泡領域の検出結果を示す図である。 本発明の実施の形態2の画像処理装置の構成を示す概略ブロック図である。 実施の形態2の画像処理装置の演算部により実行される処理の流れを示す概略フローチャートである。 座標(x1,y1)で示される或る注目画素Tから座標(x4,y4)で示される極値画素Mまでの走査例を示す模式図である。 図2に示した体腔内画像に対して領域分割部で領域分割を行った結果例を示す図である。 泡領域検出部による検出結果を示す図である。 膨張処理を説明するための図である。 収縮処理を説明するための図である。 closing処理を説明するための図である。 図17に示した泡領域検出結果に対して、円形構造要素によるclosing処理を行った結果例を示す図である。
符号の説明
101 エッジ強度算出部
102 相関値算出部
103 泡領域検出部
130 泡モデル
131,132 高輝度構造部
133,135 泡モデル
136a,136b 弧形状の輝度構造部
137 泡モデル
138a,138b 弧形状の輝度構造部
140 泡モデル
201 エッジ強度算出部
202 相関値算出部
203 領域分割部
204 泡領域検出部
205 モルフォロジ処理部

Claims (18)

  1. 画像内の画素のエッジ強度を算出するエッジ強度算出手段と、
    算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルとの相関値を算出する相関値算出手段と、
    算出された相関値を基に泡領域を検出する泡領域検出手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記泡モデルは、弧形状の輝度構造部を有するテンプレートパターンであることを特徴とする請求項1に記載の画像処理装置。
  3. 前記泡モデルは、リング形状の輝度構造部を有するテンプレートパターンであることを特徴とする請求項1に記載の画像処理装置。
  4. 前記泡モデルは、リング形状の高輝度構造部とリング形状の内部に位置する高輝度構造部とを有するテンプレートパターンであることを特徴とする請求項1に記載の画像処理装置。
  5. 前記エッジ強度算出手段は、方向別の2次微分処理を用いてエッジ強度を算出することを特徴とする請求項1〜4のいずれか一つに記載の画像処理装置。
  6. 前記相関値算出手段は、複数種類の泡モデルとの相関値を算出し、
    前記泡領域検出手段は、算出された複数種類の泡モデルとの相関値を基に泡領域を検出することを特徴とする請求項1〜5のいずれか一つに記載の画像処理装置。
  7. 画像内のエッジに基づき画像を領域分割する領域分割手段を更に備え、
    前記泡領域検出手段は、相関値及び領域分割結果を基に、泡領域を検出することを特徴とする請求項1〜6のいずれか一つに記載の画像処理装置。
  8. 前記泡領域検出手段の検出結果に対し、モルフォロジ処理を行うモルフォロジ処理手段を更に備えることを特徴とする請求項1〜7のいずれか一つに記載の画像処理装置。
  9. 前記画像は、体腔内を撮像した画像であることを特徴とする請求項1〜8のいずれか一つに記載の画像処理装置。
  10. 画像内の泡領域を検出する処理を画像処理装置に実行させる画像処理プログラムであって、
    前記画像処理装置に、
    画像内の画素のエッジ強度を算出するエッジ強度算出手順と、
    算出されたエッジ強度と泡画像の特徴を基に予め設定された泡モデルの相関値を算出する相関値算出手順と、
    算出された相関値を基に泡領域を検出する泡領域検出手順と、
    を実行させることを特徴とする画像処理プログラム。
  11. 相関値の算出に用いる前記泡モデルは、弧形状の輝度構造部を有するテンプレートパターンであることを特徴とする請求項10に記載の画像処理プログラム。
  12. 相関値の算出に用いる前記泡モデルは、リング形状の輝度構造部を有するテンプレートパターンであることを特徴とする請求項10に記載の画像処理プログラム。
  13. 相関値の算出に用いる前記泡モデルは、リング形状の高輝度構造部とリング形状の内部に位置する高輝度構造部とを有するテンプレートパターンであることを特徴とする請求項10に記載の画像処理プログラム。
  14. 前記エッジ強度算出手順は、方向別の2次微分処理を用いてエッジ強度を算出することを特徴とする請求項10〜13のいずれか一つに記載の画像処理プログラム。
  15. 前記相関値算出手順は、複数種類の泡モデルとの相関値を算出し、
    前記泡領域検出手順は、算出された複数種類の泡モデルとの相関値を基に泡領域を検出することを特徴とする請求項10〜14のいずれか一つに記載の画像処理プログラム。
  16. 前記画像処理装置に、画像内のエッジに基づき画像を領域分割する領域分割手順を更に実行させ、
    前記泡領域検出手順は、相関値及び領域分割結果を基に、泡領域を検出することを特徴とする請求項10〜15のいずれか一つに記載の画像処理プログラム。
  17. 前記画像処理装置に、前記泡領域検出手順の検出結果に対し、モルフォロジ処理を行うモルフォロジ処理手順を更に実行させることを特徴とする請求項10〜16のいずれか一つに記載の画像処理プログラム。
  18. 前記画像は、体腔内を撮像した画像であることを特徴とする請求項10〜17のいずれか一つに記載の画像処理プログラム。
JP2006147316A 2006-05-26 2006-05-26 画像処理装置及び画像処理プログラム Active JP5086563B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006147316A JP5086563B2 (ja) 2006-05-26 2006-05-26 画像処理装置及び画像処理プログラム
EP07741360.7A EP2033567B1 (en) 2006-05-26 2007-04-10 Image processing device and image processing program
PCT/JP2007/057924 WO2007138792A1 (ja) 2006-05-26 2007-04-10 画像処理装置及び画像処理プログラム
US12/277,775 US8116531B2 (en) 2006-05-26 2008-11-25 Image processing apparatus, image processing method, and image processing program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006147316A JP5086563B2 (ja) 2006-05-26 2006-05-26 画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2007313119A true JP2007313119A (ja) 2007-12-06
JP5086563B2 JP5086563B2 (ja) 2012-11-28

Family

ID=38778315

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006147316A Active JP5086563B2 (ja) 2006-05-26 2006-05-26 画像処理装置及び画像処理プログラム

Country Status (4)

Country Link
US (1) US8116531B2 (ja)
EP (1) EP2033567B1 (ja)
JP (1) JP5086563B2 (ja)
WO (1) WO2007138792A1 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010271872A (ja) * 2009-05-20 2010-12-02 Canon Inc 画像認識装置、撮像装置及び画像認識方法
WO2011129176A1 (ja) 2010-04-12 2011-10-20 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理方法
CN102349018A (zh) * 2009-03-17 2012-02-08 索尼公司 图像形成设备和图像形成方法
EP2463822A1 (en) 2010-12-10 2012-06-13 Olympus Medical Systems Corporation Image processing apparatus, image processing method and image processing program
EP2466541A2 (en) 2010-12-16 2012-06-20 Olympus Corporation Image processing apparatus, image processing method and image processing program
JP2012143340A (ja) * 2011-01-11 2012-08-02 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
EP2565845A2 (en) 2011-08-31 2013-03-06 Olympus Corporation Image processing device, image processing method, and image processing program
EP2584526A2 (en) 2011-10-18 2013-04-24 Olympus Corporation Image processing device, image processing method, and image processing program
WO2013187206A1 (ja) 2012-06-12 2013-12-19 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2014050638A1 (ja) 2012-09-27 2014-04-03 オリンパス株式会社 画像処理装置、プログラム及び画像処理方法
WO2014050637A1 (ja) 2012-09-27 2014-04-03 オリンパス株式会社 画像処理装置、プログラム及び画像処理方法
WO2014084083A1 (ja) 2012-11-29 2014-06-05 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2016051840A1 (ja) * 2014-09-29 2016-04-07 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
DE112016006913T5 (de) 2016-05-27 2019-02-14 Olympus Corporation Bildverarbeitungsvorrichtung, Betriebsverfahren der Bildverarbeitungsvorrichtung und Betriebsprogramm der Bildverarbeitungsvorrichtung
US10939037B2 (en) 2016-11-07 2021-03-02 Olympus Corporation Capsule endoscope, receiving device, operation method of capsule endoscope, and computer readable recording medium
CN114821072A (zh) * 2022-06-08 2022-07-29 四川大学 一种从动态冰图像中提取气泡的方法、装置、设备和介质
CN115797654A (zh) * 2022-12-09 2023-03-14 中国民用航空飞行学院 气液两相流动中气泡泡底参数识别方法

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8213698B2 (en) * 2006-09-19 2012-07-03 Capso Vision Inc. Systems and methods for capsule camera control
JP4859713B2 (ja) * 2007-03-08 2012-01-25 トヨタ自動車株式会社 非金属介在物数の測定方法
JP5719297B2 (ja) * 2010-03-19 2015-05-13 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 特徴量算出装置、特徴量算出方法及びプログラム
JP5597049B2 (ja) * 2010-07-07 2014-10-01 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
EP2567651B1 (en) 2011-02-01 2015-04-22 Olympus Medical Systems Corp. Diagnosis supporting apparatus
DE102011004160A1 (de) * 2011-02-15 2012-08-16 Siemens Aktiengesellschaft Verfahren und Einrichtung zur Untersuchung eines Hohlorgans mit einer magnetgeführten Endoskopkapsel
JP6279825B2 (ja) * 2011-05-18 2018-02-14 ソニー株式会社 画像処理装置、画像処理方法、プログラムおよび撮像装置
KR101248808B1 (ko) * 2011-06-03 2013-04-01 주식회사 동부하이텍 경계 영역의 잡음 제거 장치 및 방법
KR20140121711A (ko) * 2013-04-08 2014-10-16 삼성전자주식회사 색 추출 기반의 영상 처리 방법, 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 디지털 영상 장치
US9773154B2 (en) * 2015-10-09 2017-09-26 Universidad Nacional Autónoma de México System for the identification and quantification of helminth eggs in environmental samples
US10318845B2 (en) * 2016-04-14 2019-06-11 Research International, Inc. Coupon reader
US11426229B2 (en) 2019-02-21 2022-08-30 Medtronic Navigation, Inc. Method and apparatus for magnetic resonance imaging thermometry
US11276174B2 (en) 2019-02-21 2022-03-15 Medtronic Navigation, Inc. Method and apparatus for magnetic resonance imaging thermometry
US11403760B2 (en) 2019-02-21 2022-08-02 Medtronic Navigation, Inc. Method and apparatus for magnetic resonance imaging thermometry

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004354100A (ja) * 2003-05-27 2004-12-16 Matsushita Electric Works Ltd 容器内液体中の異物検出方法及びその装置
JP2006122502A (ja) * 2004-10-29 2006-05-18 Olympus Corp 画像処理方法及びカプセル型内視鏡装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5566249A (en) * 1994-09-20 1996-10-15 Neopath, Inc. Apparatus for detecting bubbles in coverslip adhesive
US5835620A (en) * 1995-12-19 1998-11-10 Neuromedical Systems, Inc. Boundary mapping system and method
FI114414B (fi) * 1999-05-05 2004-10-15 Outokumpu Oy Menetelmä ja laitteisto vaahdottuneen aineen pinnan valvomiseksi ja analysoimiseksi
AUPR509601A0 (en) * 2001-05-18 2001-06-14 Polartechnics Limited Diagnostic feature extraction in dermatological examination
JP4493386B2 (ja) 2003-04-25 2010-06-30 オリンパス株式会社 画像表示装置、画像表示方法および画像表示プログラム
JP4254923B2 (ja) 2003-07-03 2009-04-15 株式会社山武 流量検出装置および流量制御装置
EP1665130A4 (en) * 2003-09-25 2009-11-18 Paieon Inc SYSTEM FOR THREE-DIMENSIONAL RECONSTRUCTION OF A TUBULAR ORGAN
US7676257B2 (en) * 2003-11-25 2010-03-09 General Electric Company Method and apparatus for segmenting structure in CT angiography
JP4652694B2 (ja) 2004-01-08 2011-03-16 オリンパス株式会社 画像処理方法
WO2005101314A2 (en) * 2004-04-12 2005-10-27 The General Hospital Corporation Method and apparatus for processing images in a bowel subtraction system
JP4630127B2 (ja) * 2005-05-17 2011-02-09 株式会社日立製作所 超音波診断治療装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004354100A (ja) * 2003-05-27 2004-12-16 Matsushita Electric Works Ltd 容器内液体中の異物検出方法及びその装置
JP2006122502A (ja) * 2004-10-29 2006-05-18 Olympus Corp 画像処理方法及びカプセル型内視鏡装置

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102349018B (zh) * 2009-03-17 2014-01-29 索尼公司 图像形成设备和图像形成方法
CN102349018A (zh) * 2009-03-17 2012-02-08 索尼公司 图像形成设备和图像形成方法
JP2010271872A (ja) * 2009-05-20 2010-12-02 Canon Inc 画像認識装置、撮像装置及び画像認識方法
WO2011129176A1 (ja) 2010-04-12 2011-10-20 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理方法
EP2463822A1 (en) 2010-12-10 2012-06-13 Olympus Medical Systems Corporation Image processing apparatus, image processing method and image processing program
US8805086B2 (en) 2010-12-10 2014-08-12 Olympus Corporation Image processing apparatus, image processing method and computer-readable recording device
JP2012120799A (ja) * 2010-12-10 2012-06-28 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
JP2012125469A (ja) * 2010-12-16 2012-07-05 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
US8798344B2 (en) 2010-12-16 2014-08-05 Olympus Corporation Image processing apparatus, image processing method and computer-readable recording device
EP2466541A2 (en) 2010-12-16 2012-06-20 Olympus Corporation Image processing apparatus, image processing method and image processing program
JP2012143340A (ja) * 2011-01-11 2012-08-02 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
EP2565845A2 (en) 2011-08-31 2013-03-06 Olympus Corporation Image processing device, image processing method, and image processing program
EP2584526A2 (en) 2011-10-18 2013-04-24 Olympus Corporation Image processing device, image processing method, and image processing program
WO2013187206A1 (ja) 2012-06-12 2013-12-19 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2014050638A1 (ja) 2012-09-27 2014-04-03 オリンパス株式会社 画像処理装置、プログラム及び画像処理方法
WO2014050637A1 (ja) 2012-09-27 2014-04-03 オリンパス株式会社 画像処理装置、プログラム及び画像処理方法
US9652835B2 (en) 2012-09-27 2017-05-16 Olympus Corporation Image processing device, information storage device, and image processing method
US9684849B2 (en) 2012-09-27 2017-06-20 Olympus Corporation Image processing device, information storage device, and image processing method
WO2014084083A1 (ja) 2012-11-29 2014-06-05 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2016051840A1 (ja) * 2014-09-29 2016-04-07 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP5937286B1 (ja) * 2014-09-29 2016-06-22 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
DE112016006913T5 (de) 2016-05-27 2019-02-14 Olympus Corporation Bildverarbeitungsvorrichtung, Betriebsverfahren der Bildverarbeitungsvorrichtung und Betriebsprogramm der Bildverarbeitungsvorrichtung
US10939037B2 (en) 2016-11-07 2021-03-02 Olympus Corporation Capsule endoscope, receiving device, operation method of capsule endoscope, and computer readable recording medium
CN114821072A (zh) * 2022-06-08 2022-07-29 四川大学 一种从动态冰图像中提取气泡的方法、装置、设备和介质
CN114821072B (zh) * 2022-06-08 2023-04-18 四川大学 一种从动态冰图像中提取气泡的方法、装置、设备和介质
CN115797654A (zh) * 2022-12-09 2023-03-14 中国民用航空飞行学院 气液两相流动中气泡泡底参数识别方法

Also Published As

Publication number Publication date
EP2033567A1 (en) 2009-03-11
US8116531B2 (en) 2012-02-14
EP2033567A4 (en) 2010-03-10
WO2007138792A1 (ja) 2007-12-06
US20090148014A1 (en) 2009-06-11
EP2033567B1 (en) 2015-08-26
JP5086563B2 (ja) 2012-11-28

Similar Documents

Publication Publication Date Title
JP5086563B2 (ja) 画像処理装置及び画像処理プログラム
US8798344B2 (en) Image processing apparatus, image processing method and computer-readable recording device
JP5113841B2 (ja) 内視鏡からの映像を用いるコンピュータ支援解析
KR101899866B1 (ko) 병변 경계의 오류 검출 장치 및 방법, 병변 경계의 오류 수정 장치 및 방법 및, 병변 경계의 오류 검사 장치
CN105654445B (zh) 一种基于小波变换边缘检测的手机图像去噪方法
JP2004164624A (ja) 低被写界深度画像セグメンテーションの方法及び機器
WO2009013636A3 (en) A method for automatic boundary segmentation of object in 2d and/or 3d image
CN108109155A (zh) 一种基于改进Canny的自动阈值边缘检测方法
JP2007207009A (ja) 画像処理方法及び画像処理装置
CN105828691B (zh) 图像处理装置、图像处理方法
CN105787912B (zh) 一种基于分类的阶跃型边缘亚像素定位方法
CN109410147A (zh) 一种超空泡图像增强方法
CN109300104A (zh) 角点检测方法、装置
CN111260673B (zh) 一种适用边缘破碎脏器造影的脏器实质分割方法及装置
JP2006338191A (ja) 画像処理装置及び領域分割プログラム
JP2010115260A (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
JP2006121138A (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2005165969A (ja) 画像処理装置、及び方法
CN109426770B (zh) 虹膜识别方法
JP6132485B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP4631199B2 (ja) 画像処理装置および画像処理方法、記録媒体、並びにプログラム
Nguyen et al. Improved watershed segmentation using water diffusion and local shape priors
JP4622141B2 (ja) 画像処理装置および画像処理方法、記録媒体、並びにプログラム
CN110033464B (zh) 一种基于水平集算法的乳腺肿瘤超声图像分割方法
JP4622140B2 (ja) 画像処理装置および画像処理方法、記録媒体、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120619

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120907

R151 Written notification of patent or utility model registration

Ref document number: 5086563

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250