JP5190944B2 - 内視鏡装置および内視鏡装置の作動方法 - Google Patents

内視鏡装置および内視鏡装置の作動方法 Download PDF

Info

Publication number
JP5190944B2
JP5190944B2 JP2008167249A JP2008167249A JP5190944B2 JP 5190944 B2 JP5190944 B2 JP 5190944B2 JP 2008167249 A JP2008167249 A JP 2008167249A JP 2008167249 A JP2008167249 A JP 2008167249A JP 5190944 B2 JP5190944 B2 JP 5190944B2
Authority
JP
Japan
Prior art keywords
image
distance information
spectral
image signal
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008167249A
Other languages
English (en)
Other versions
JP2010005095A (ja
Inventor
遼 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2008167249A priority Critical patent/JP5190944B2/ja
Priority to US12/457,938 priority patent/US20090322863A1/en
Publication of JP2010005095A publication Critical patent/JP2010005095A/ja
Application granted granted Critical
Publication of JP5190944B2 publication Critical patent/JP5190944B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/507Depth or shape recovery from shading
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Description

本発明は、内視鏡装置により被観察体の観察を行なう際、被観察体とスコープ部の撮像素子との距離情報を取得する距離情報取得方法およびその内視鏡装置に関するものである。
従来、体腔内の組織を観察する内視鏡装置が広く知られており、白色光によって照明された体腔内の被観察体を撮像して通常画像を得、この通常画像をモニタ画面上に表示する電子式の内視鏡が広く実用化されている。
ここで、上記のような内視鏡装置において、体腔内に挿入されるスコープ部の先端部と被観察体との距離を測定する方法が種々提案されている。
たとえば、特許文献1においては、照明光とは別の測定光をスコープ部により被観察体に照射することによってスコープ部の先端と被観察体との距離を測定する方法が提案されている。
また、特許文献2においては、スコープ部により被観察体に干渉縞を投影し、この干渉縞に基づいて被観察体の3次元形状を計測する、つまり、撮像素子の各画素と被観察体との距離情報を計測する方法が提案されている。
特開平3−197806号公報 特開平5−211988号公報
しかしながら、特許文献1に記載の方法では、距離測定用の光源やファイバを別に設ける必要があり、特許文献2に記載の方法では、干渉縞を被観察体に投影するためのフィルタなどをスコープ部に設ける必要がある。そして、これによりスコープ部の径が拡大したり、また、被観察体の像の撮像と距離の測定とを切り替えて別々に行なう必要があるので検査時間が増加してしまうため患者の負担が大きくなってしまうという問題点がある。また、光源やフィルタなどを設ける必要があるためコストアップにもなる。
本発明は上記の問題に鑑みてなされたものであり、患者の負担を増大させることなく、かつコストダウンを図ることができる距離情報取得方法および内視鏡装置を提供することを目的とする。
本発明の距離情報取得方法は、照明光を被観察体に照射する照明光照射部と照明光の照射により被観察体から反射された反射光を受光して被観察体の像を撮像する撮像素子とを有するスコープ部と、スコープ部の撮像素子から出力された画像信号に分光画像処理を施して所定波長の分光推定画像信号を生成する分光画像処理部とを備えた内視鏡装置において、被観察体とその被観察体の像が結像する撮像素子の各画素との距離情報を取得する距離情報取得方法であって、分光画像処理部において、撮像素子から出力された画像信号に基づいて、650nm以上の所定波長の分光推定画像信号を距離情報取得用分光推定画像信号として生成し、距離情報取得用分光推定画像信号に基づいて、上記距離情報を取得することを特徴とする。
本発明の内視鏡装置は、照明光を被観察体に照射する照明光照射部と照明光の照射により被観察体から反射された反射光を受光して被観察体の像を撮像する撮像素子とを有するスコープ部と、スコープ部の撮像素子から出力された画像信号に分光画像処理を施して所定波長の分光推定画像信号を生成する分光画像処理部とを備えた内視鏡装置において、分光画像処理部が、撮像素子から出力された画像信号に基づいて、650nm以上の所定波長の分光推定画像信号を距離情報取得用分光推定画像信号として生成するものであり、距離情報取得用分光推定画像信号に基づいて、被観察体とその被観察体の像が結像する撮像素子の各画素との距離を示す距離情報を取得する距離情報取得部を備えたことを特徴とする。
また、上記本発明の内視鏡装置においては、分光画像処理部を、650nm以上700nm以下の所定波長の分光推定画像信号を距離情報取得用分光推定画像信号として生成するものとすることができる。
また、距離情報取得部により取得された各画素の距離情報に基づいて、撮像素子から出力された画像信号に対して、被観察体とその被観察体の像が結像する撮像素子の各画素との距離を補正する距離補正処理を施す距離補正部をさらに設けるようにすることができる。
また、距離情報取得部により取得された各画素の距離情報に基づいて、距離情報を表わす画像を生成する距離情報画像生成部をさらに設けるようにすることができる。
また、撮像素子から出力された画像信号に基づく通常画像または分光画像処理部で生成された分光推定画像信号に基づく分光推定画像を表示する表示部を備えるものとし、表示部を、通常画像上または分光推定画像上に、距離情報を表わす画像を表示するものとすることができる。
また、撮像素子から出力された画像信号に基づく通常画像または分光画像処理部で生成された分光推定画像信号に基づく分光推定画像を表示する表示部を備えるものとし、表示部を、通常画像または分光推定画像と併置して距離情報を表わす画像を表示するものとすることができる。
また、撮像素子から出力された画像信号に基づく通常画像または分光画像処理部で生成された分光推定画像信号に基づく分光推定画像を表示する表示部を備えるものとし、表示部を、通常画像または分光推定画像とは異なるタイミングで距離情報を表わす画像のみを表示するものとすることができる。
また、表示部を、距離情報を表す画像を、通常画像または分光推定画像を表示するウィンドウとは別のウィンドウに表示するものとすることができる。
また、表示部を、撮像素子の画素のうち特定の画素についてのみ距離情報を表わす画像を表示するものとすることができる。
また、表示部を、周囲の画素に対して距離情報が所定閾値以上の差がある画素について強調表示するものとすることができる。
本発明の距離情報取得方法および内視鏡装置によれば、分光画像処理部において、撮像素子から出力された画像信号に基づいて、650nm以上の所定波長の分光推定画像信号を距離情報取得用分光推定画像信号として生成し、距離情報取得用分光推定画像信号に基づいて、被観察体とその被観察体の像が結像する撮像素子の各画素との距離を示す距離情報を取得するようにしたので、従来技術のように距離測定用の光源およびファイバや、フィルタなどをスコープ部に設ける必要がなく、スコープの径の拡大を招くことがないので、患者の負担を増大させることなく距離情報を取得することができる。また、コストダウンを図ることもできる。
また、上記本発明の内視鏡装置において、650nm以上700nm以下の所定波長の分光推定画像信号を距離情報取得用分光推定画像信号として生成するようにした場合には、より精度の高い距離情報を取得することができる。その根拠については後で詳述する。
また、距離情報取得部により取得された各画素の距離情報に基づいて、撮像素子から出力された画像信号に対して、被観察体とその被観察体の像が結像する撮像素子の各画素との距離を補正する距離補正処理を施すようにした場合には、全ての撮像素子の画素が被観察体から同じ距離にあると仮定した場合の画像を取得することができ、単に被観察体から撮像素子の画素が遠いために暗く映っているものを病変部として誤診断するのを防止することができる。
また、距離情報取得部により取得された各画素の距離情報に基づいて、距離情報を表わす画像を生成し、通常画像上または分光推定画像上に、距離情報を表わす画像を表示するようにした場合には、通常画像または分光推定画像の凹凸のパターンを認識することができる。
また、通常画像または分光推定画像と併置して距離情報を表わす画像を表示するようにした場合には、通常画像または分光推定画像の凹凸のパターンを距離情報を表わす画像により認識することができるとともに、通常画像または分光推定画像の特徴も正確に認識することができる。
また、表示部を、撮像素子の画素のうち特定の画素についてのみ距離情報を表わす画像を表示するものとした場合には、操作者が距離情報を認識したい画素についてのみ距離情報を表わす画像を表示することができ、操作者にニーズに応じた画像を表示することができる。
また、表示部を、周囲の画素に対して距離情報が所定閾値以上の差がある画素について強調表示するようにした場合には、被観察体の凹凸が特に大きい部分を強調して表示することができ、操作者に注意を促すことができる。
以下、図面を参照して本発明の内視鏡装置の第1の実施形態を用いた内視鏡システムについて詳細に説明する。図1は、本発明の第1の実施形態を用いた内視鏡システム1の概略構成を示すものである。
内視鏡システム1は、図1に示すように、被験者の体腔内に挿入され、被観察体を観察するためのスコープユニット20と、このスコープユニット20が着脱自在に接続されるプロセッサユニット30と、スコープユニット20が光学的に着脱自在に接続され、照明光L0を射出するキセノンランプが収納された照明光ユニット10とを備えている。なお、プロセッサユニット30と照明光ユニット10とは、一体的に構成されているものであってもよいし、あるいは別体として構成されているものであってもよい。
照明光ユニット10は、通常観察を行うための照明光L0をキセノンランプから射出するものである。照明光ユニット10は、スコープユニット20のライトガイド11に光学的に接続されており、照明光L0をライトガイド11の一端から入射するように構成されている。
スコープユニット20は、結像光学系21、撮像素子22、CDS/AGC回路23、A/D変換部24、およびCCD駆動部25を備えており、各構成要素はスコープコントローラ26により制御される。撮像素子22はたとえばCCDやCMOS等からなり、結像光学系21により結像された被観察体像を光電変換して画像情報を取得するものである。この撮像素子22としては、例えば撮像面にMg(マゼンタ),Ye(イエロー),Cy(シアン),G(グリーン)の色フィルタを有する補色型の撮像素子、あるいはRGBの色フィルタを有する原色型撮像素子を用いることができるが、本実施形態においては、原色型撮像素子を用いるものとする。なお、撮像素子22の動作はCCD駆動部25により制御される。また、撮像素子22が画像信号を取得したとき、CDS/AGC(相関二重サンプリング/自動利得制御)回路23がサンプリングして増幅し、A/D変換部24がCDS/AGC回路23から出力された画像信号をA/D変換し、その画像信号がプロセッサユニット30に出力される。
また、スコープユニット20には、スコープコントローラ26に接続され、観察モードの切換などの種々の操作を設定可能な操作部27が設けられている。
また、スコープユニット20の先端には照明窓28が設けられ、この照明窓28には、一端が照明光ユニット10に接続されたライトガイド11の他端が対面している。
プロセッサユニット30は、照明光L0の被観察体への照射によってスコープユニット20により撮像された通常像に基づいて生成されたR、G、Bの3色のカラー画像信号を取得する画像取得部31と、画像取得部31により取得されたカラー画像信号に分光画像処理を施して所定波長の分光推定画像信号を生成する分光画像生成部32と、分光画像生成部32において分光画像処理を行うために用いられる分光推定マトリクスデータが記憶されている記憶部33と、分光画像生成部32において生成された距離情報取得用分光推定画像信号に基づいて、撮像素子22の各画素と被観察体との距離を示す距離情報を取得する距離情報取得部34と、距離情報取得部34において取得された各画素毎の距離情報に基づいて、画像取得部31において取得されたカラー画像信号に距離補正処理を施す距離補正部35と、分光画像生成部32において生成された分光推定画像信号、距離補正部35において距離補正処理の施された距離補正済画像信号などに種々の処理を施して、表示用画像信号を生成する表示信号生成部36と、プロセッサユニット30全体を制御する制御部37とを備えている。各部の動作については、後で詳述する。
また、プロセッサユニット30には、操作者の入力を受け付ける入力部2が接続されている。そして、スコープユニット20の操作部27と同様に、入力部2においても観察モードが設定可能であり、また、後述する距離情報取得指示、基準画素の設定方法の選択、および基準画素の特定などの操作入力を受け付けるものである。
表示装置3は、液晶表示装置やCRT等から構成され、プロセッサユニット30から出力された表示用画像信号に基づいて、通常画像、分光推定画像または距離情報画像などを表示するものである。その作用については、後で詳述する。
次に、本実施形態の内視鏡システムの動作について、図2および図3のフローチャートを参照して説明する。まず、被観察体へ照明光L0を照射して取得したカラー画像信号に基づいて、通常画像を表示する通常観察モードの際の動作について説明する。
まず、スコープユニット20の操作部27または入力部2において、操作者により通常観察モードが設定される(S10)。そして、通常観察モードが設定されると、照明光ユニット10から照明光L0が射出される。そして、照明光L0はライトガイド11を介して照明窓28から被観察体に照射される。そして、照射光L0の照射によって被観察体を反射した反射光L1がスコープユニット20の結像光学系21に入射され、結像光学系21によって撮像素子22の撮像面に通常像が結像される。そして、CCD駆動部25によって駆動された撮像素子22が被観察体の通常像を撮像してカラー画像信号を取得する(S12)。このカラー画像信号はCDS/AGC回路23で相関二重サンプリングと自動利得制御による増幅を受けた後、A/D変換部24でA/D変換されて、デジタル信号としてプロセッサユニット30に入力される。
そして、スコープユニット20から出力されたカラー画像信号が、プロセッサユニット30の画像取得部31により取得され、そして、そのカラー画像信号は、表示信号生成部36に出力される。そして、表示信号生成部36は、そのカラー画像信号に各種の信号処理を施した上、輝度信号Yと色差信号Cで構成されるY/C信号を生成し、さらに、このY/C信号へ対し、I/P変換およびノイズ除去などの各種信号処理を施して表示用画像信号を生成し、この表示用画像信号を表示装置3へ出力する。そして、表示装置3は、入力された表示用画像信号に基づいて通常画像を表示する(S14)。
そして、上記のように通常画像が一旦表示された後、制御部37は、相対距離情報の算出の指示待ち状態となり(S16)、操作者によって相対距離情報の算出指示が入力部2により入力されると相対距離情報算出モードに切り替えられる(S18)。そして、制御部37は相対距離情報算出モードに切り替えられると、相対距離情報を算出するために用いる基準画素の設定を手動で行なうか否かを問うメッセージを表示装置3に表示させる(S20)。そして、上記メッセージを見た操作者により基準画素を手動で設定するか、もしくは自動で設定するかが入力部2を用いて選択される。
そして、操作者により基準画素を手動で設定するよう選択された場合には、たとえば、既に表示された通常画像の中の所定の表示画素がマウスなどによって選択されることにより、この表示画素に対応する撮像素子22の画素が基準画素として選択される(S22)。または、撮像素子22の画素の位置を数値情報として予め設定しておき、その数値を操作者が入力することによって基準画素を選択するようにしてもよい。
一方、操作者により基準画素を自動で設定するよう選択された場合には、たとえば、既に表示された通常画像の表示画素の中から最も明るい表示画素を自動的に選択し、その選択した表示画素に対応する撮像素子22の画素が基準画素として選択される(S24)。
そして、上記のようにして手動または自動で選択された基準画素の位置情報が距離情報取得部34に入力され、その基準画素の参照輝度値Lbに基づいて、基準画素以外の画素について相対距離情報が算出される(S26)。相対距離情報の算出方法については、後で詳述する。
そして、上記のようにして算出された相対距離情報が距離補正部35に入力され、距離補正部35は、入力された相対距離情報に基づいて、画像取得部31から入力されたカラー画像信号に距離補正処理を施し、その距離補正済画像信号を表示信号生成部36に出力する(S28)。
ここで、距離補正処理とは、被観察体と撮像素子22の各画素との距離を補正する処理であり、たとえば、被観察体と撮像素子22の各画素との距離による明るさの変化をキャンセルするような処理である。より具体的には、たとえば、通常画像の各表示画素の値に対して相対距離情報の大きさに応じた係数などを掛け合わせることによって上記のような処理を施すことができる。
そして、表示信号生成部36は、入力された距離補正済画像信号に各種の信号処理を施した上、輝度信号Yと色差信号Cで構成されるY/C信号を生成し、さらに、このY/C信号へ対し、I/P変換およびノイズ除去などの各種信号処理を施して表示用画像信号を生成し、この表示用画像信号を表示装置3へ出力する。そして、表示装置3は、入力された表示用画像信号に基づいて距離補正画像を表示する(S30)。この距離補正画像は、全ての撮像素子22の画素が被観察体から同じ距離にあると仮定した場合の画像となり、単に被観察体から撮像素子22の画素が遠いために暗く映っているものを病変部として誤診断するのを防止することができる。
なお、通常画像と距離補正画像とを同時に表示するようにしてもよいし、通常画像を表示した後、距離補正画像を表示するようにしてもよい。
次に、相対距離情報の算出方法を、図3に示すフローチャートを参照しながらより詳細に説明する。
まず、上述した通常観察モードにおいてプロセッサユニット30の画像取得部31により取得されたカラー画像信号は、分光画像生成部32にも出力される。
そして、分光画像生成部32において、入力されたカラー画像信号に基づいて推定反射スペクトルデータが算出される(S32)。具体的には、分光画像生成部32では、各画素毎のカラー画像信号R、G、Bに対して、下表1に示すような、記憶部33に記憶されている分光推定マトリクスデータの全てのパラメータからなる3×121のマトリクスを用いて、次式(1)で示すマトリクス演算を行って、推定反射スペクトルデータ(q1〜q121)を算出する。
Figure 0005190944
ここで、分光推定マトリクスデータは、上述したようにテーブルとして記憶部33にあらかじめ記憶されている。なお、この分光推定マトリクスデータの詳細は、特開2003−93336号公報あるいは特開2007−202621号公報などに開示されている。本実施形態において、記憶部33に格納されている分光推定マトリクスデータの一例は次の表1のようになる。
Figure 0005190944
この表1の分光推定マトリクスデータは、例えば400nmから1000nmの波長域を5nm間隔で分けた121の波長域パラメータ(係数セット)p1〜p121からなる。パラメータp1〜p121は各々、マトリクス演算のための係数kpr,kpg,kpb(p=1〜121)から構成されている。
そして、この推定反射スペクトルデータに基づいて、700nmの波長の分光推定画像が作成される(S34)。具体的には、700nmの波長の分光推定画像のR成分、G成分、B成分として、推定反射スペクトルデータ(q1〜q121)のうち、700nmの推定反射スペクトルデータq61が取得される。
そして、その700nmの波長の分光推定画像のR成分、G成分、B成分に対し、XYZ変換が施され、さらにXYZ変換によって取得されたY値に基づいてL値が画素毎に算出され、輝度画像信号が生成される(S36)。
そして、その輝度画像信号に対して配光補正処理が施されて画素毎にl値が算出され、補正済輝度画像信号が生成される(S38)。ここで、配光補正処理とは、スコープユニット20から平坦な面に照明光L0を照射した場合における照射光L0の光量ムラを補正する処理である。たとえば、予め上記のような光量ムラを表わす画像信号を取得し、その画像信号に基づいて光量ムラをキャンセルするような配光補正画像信号を取得しておき、その配光補正画像信号に基づいて輝度画像信号に対して配光補正処理を施すようにすればよい。また、本実施形態においては、上記のように光量ムラをキャンセルするような配光補正処理を施すようにしたが、これに限らず、たとえば、医者などが普段見慣れている診断画像に近づけるように、輝度画像信号に対して、中央部分より周縁部分の方が暗くなるような配光補正処理を施すようにしてもよい。
次に、上述した撮像素子22の基準画素の位置情報に基づいて、補正済輝度画像信号から基準画素に対応するl値を参照輝度Lbとして取得する(S40)。
そして、下式に示すように、基準画素および基準画素以外の画素に対応するl*値を参照輝度Lbで除算することによって各画素毎の相対輝度Lrを算出する(S42)。
Lr=l値/Lb
そして、下式を算出することによって各画素毎の相対距離情報Dを取得する(S44)。
D=1/Lr
なお、本実施形態においては、上記のように相対距離情報を求めるために700nmの波長の分光推定画像を用いているが、これに限らず、650nm以上の所定の波長の分光推定画像であれば、いずれの波長を選択してもよい。その根拠を以下に説明する。
図4に、ヘモグロビンHbと酸化ヘモグロビンHbOの分光反射スペクトルを示す。なお、これらは血管の分光反射スペクトルと同等と考えることができるので、すなわち、血管の密集する粘膜も同等の分光反射スペクトルが得られるものと考えられる。
図4に示すように、ヘモグロビンHbと酸化ヘモグロビンHbOの分光反射スペクトルは、ともに450nm付近で一度低下し、その後、600nm付近までは穏やかに上昇し、その後、ほぼ一定の値を示す。そして、600nm以前の特定の波長の分光反射スペクトルを見ると、ヘモグロビンHbと酸化ヘモグロビンHbOとでそれぞれ異なる大きさを示すためこの違いにより組織の違いを判別することができる。それに対し、650nm以上の分光反射スペクトルの強度はヘモグロビンHbと酸化ヘモグロビンHbOともに一定である。そして、これらの分光反射スペクトルの差を見ると、図5に示すように、650nmから700nmの間はほぼ0である。つまり、650nmから700nmの間の分光反射スペクトルは、生体情報の吸収による影響がなく、距離に依存する輝度情報のみを表しているといえる。
したがって、本発明においては、相対距離情報を求めるために650nm以上の所定波長の分光推定画像を用いている。なお、より好ましくは650nmから700nmの間の所定波長の分光推定画像である。
次に、本実施形態の内視鏡システムにおいて、被観察体へ照明光L0を照射して取得したカラー画像信号に基づいて、分光推定画像を表示する分光推定画像観察モードの際の動作について説明する。
まず、スコープユニット20の操作部27または入力部2において、操作者により分光推定画像観察モードが設定される。そして、分光推定画像観察モードにおいても、照明光L0の照射からカラー画像信号の取得までのステップについては、通常観察モードと同様である。
そして、画像取得部31によって取得されたカラー画像信号は、分光画像生成部32に出力される。
そして、分光画像生成部32において、入力されたカラー画像信号に基づいて推定反射スペクトルデータが算出される。推定反射スペクトルデータの算出方法については、上述した相対距離情報の算出における算出方法と同様である。
そして、推定反射スペクトルデータを算出した後、たとえば、入力部2の操作によってλ1,λ2,λ3の3つの波長域が選択され、その波長域に対応する推定反射スペクトルデータが取得される。
例えば、3つの波長域λ1,λ2,λ3として波長500nm,620nm,650nmが選択された場合は、それぞれの波長に対応する表1のパラメータp21,p45,p51の係数が用いられて算出された推定反射スペクトルデータq21,q45,q51が取得される。
そして、この取得された推定反射スペクトルデータq21,q45,q51にそれぞれ適切なゲイン、オフセットを加味して擬似色分光推定データs21,s45,s51が算出され、この擬似色分光推定データs21,s45,s51がそれぞれ分光推定画像のR成分の画像信号R’、G成分の画像信号G’、B成分の画像信号B’とされる。
そして、この擬似3色画像信号R’、G’、B’が分光画像生成部32から表示信号生成部36に出力される。そして、表示信号生成部36は、その擬似3色画像信号R’、G’、B’に各種の信号処理を施した上、輝度信号Yと色差信号Cで構成されるY/C信号を生成し、さらに、このY/C信号へ対し、I/P変換およびノイズ除去などの各種信号処理を施して表示用画像信号を生成し、この表示用画像信号を表示装置3へ出力する。そして、表示装置3は、入力された表示用画像信号に基づいて分光推定画像を表示する。
なお、上記説明では、3つの波長域λ1,λ2,λ3として波長500nm,620nm,650nmを選択するようにしたが、このような波長域の組み合わせはたとえば血管、生体組織等の観察したい部位毎に記憶部33に記憶されており、各部位にマッチングした波長域の組み合わせを用いて分光推定画像が生成される。具体的には、λ1,λ2,λ3の波長セットとしては、例えば400nm,500nm,600nmの標準セットa、血管を描出するための470nm,500nm,670nmの血管B1セットb、同じく血管を描出するための475nm,510nm,685nmの血管B2セットc、特定組織を描出するための440nm,480nm,520nmの組織E1セットd、同じく特定組織を描出するための480nm,510nm,580nmの組織E2セットb、オキシヘモグロビンとデオキシヘモグロビンとの差を描出するための400nm,430nm,475nmのヘモグロビンセットf、血液とカロテンとの差を描出するための415nm,450nm,500nmの血液‐カロテンセットg、血液と細胞質の差を描出するための420nm,550nm,600nmの血液‐細胞質セットhの8つの波長域の組み合わせ等が挙げられる。
なお、上記第1の実施形態の内視鏡システムにおいては、通常観察モードにおいて通常画像および距離補正画像を表示し、分光推定画像観察モードにおいて分光推定画像を表示するようにしたが、これらのモードの処理を両方行って、通常画像、距離補正画像および分光推定画像を同時もしくは切り替えて表示するようにしてもよい。
次に、本発明の内視鏡装置の第2の実施形態を用いた内視鏡システムについて詳細に説明する。図6は、本発明の第2の実施形態を用いた内視鏡システム5の概略構成を示すものである。第2の実施形態を用いた内視鏡システム5は、第1の実施形態を用いた内視鏡システムとは、相対距離情報の使用方法が異なる。その他の構成は同様であるので第1の実施形態を用いた内視鏡システムを異なる構成のみを説明する。
内視鏡システム5は、図6に示すように、距離情報取得部34により取得された各画素の相対距離情報に配色処理を施して、相対距離情報を表す画像信号を生成する配色処理部を備えている。
そして、表示信号生成部36は、配色処理部38において生成された相対距離情報を表す画像信号と、画像取得部31から出力されたカラー画像信号または分光画像生成部32から出力された分光推定画像を表わす擬似3色画像信号とを合成して表示用画像信号を生成するものある。
次に、本実施形態の内視鏡システムの動作について説明する。まず、被観察体へ照明光L0を照射して取得したカラー画像信号に基づいて、通常画像を表示する通常観察モードの際の動作について説明する。
照射光L0の照射による通常像を撮像し、通常画像を表示するまでのステップ(図2のS10〜S14)、および相対距離算出モードへの切り替えから相対距離情報を算出するまでのステップ(S16〜S26)までは上記第1の実施形態の内視鏡システムと同様である。
そして、第2の実施形態の内視鏡システム5においては、各画素毎の相対距離情報Dを算出した後、その相対距離情報Dは、配色処理部38に入力される。そして、配色処理部38において、各画素毎の色を決定する。具体的には、全ての画素の相対距離情報から最大値と最小値とを選択する。そして、最大値に割り当てる色と最小値に割り当てる色とを決定する。そして、基準画素を始点として最大値の画素および最小値の画素に向かって相対距離情報Dの大きさに応じてグラデーションとなるように各画素に色の割り当てを行う。そして、上記のようにして割り当てた色情報を各画素が表すように相対距離情報を表す画像信号を生成し、表示信号生成部36に出力する。
そして、表示信号生成部36は、配色処理部38において生成された相対距離情報を表す画像信号と、画像取得部31から出力されたカラー画像信号とを合成して合成画像信号を生成し、その合成画像信号に各種の信号処理を施した上、輝度信号Yと色差信号Cで構成されるY/C信号を生成し、さらに、このY/C信号へ対し、I/P変換およびノイズ除去などの各種信号処理を施して表示用画像信号を生成し、この表示用画像信号を表示装置3へ出力する。そして、表示装置3は、入力された表示用画像信号に基づいて、通常画像上に相対距離情報を表す画像を重ね合わせた合成画像を表示する。図8に合成画像の一例を示す。通常画像G1上に相対距離情報を表すグラデーション画像G2が重ね合わされている。
また、分光推定画像観察モードの際の動作については、擬似3色画像信号を取得する作用までは、上記第1の実施形態の内視鏡システムと同様である。
そして、表示信号生成部36は、配色処理部38において生成された相対距離情報を表す画像信号と、分光画像生成部32から出力された擬似3色画像信号とを合成して合成画像信号を生成し、その合成画像信号に各種の信号処理を施した上、輝度信号Yと色差信号Cで構成されるY/C信号を生成し、さらに、このY/C信号へ対し、I/P変換およびノイズ除去などの各種信号処理を施して表示用画像信号を生成し、この表示用画像信号を表示装置3へ出力する。そして、表示装置3は、入力された表示用画像信号に基づいて、分光推定画像上に相対距離情報を表す画像を重ね合わせた合成画像を表示する。
なお、上記第2の実施形態の内視鏡システムにおいては、相対距離情報Dの大きさに応じてグラデーションとなるように各画素に色を割り当てたが、必ずしもグラデーションにする必要はなく、相対距離情報の大きさに応じて変化するのであればその他の色の割り当て方法でもよい。
また、相対距離情報Dに応じて画素に色を割り当てて塗りつぶすのではなく、同じ大きさの相対距離情報Dの範囲を線で示した等高線を表わす画像を通常画像上または分光推定画像上に重ねて表示するようにしてもよい。すなわち、図8におけるグラデーション画像G2の輪郭線のみを表示することになる。
また、互いに異なる大きさの相対距離情報Dの範囲同士を異なる種類の斜線で示すようにしてもよい。
また、相対距離情報を表わす画像は、必ずしも全画素について表示する必要はなく、一部の特定の範囲の画素についてのみ相対距離情報を表わす画像を表示するようにしてもよい。特定の範囲の画素については、たとえば、操作者により通常画像上における画素をマウスなどのポインターによって指定することによって決定することができる。
また、周囲の画素に対して相対距離情報が所定閾値以上の差がある画素を特定し、その画素について強調表示するようにしてもよい。
また、上記第2の実施形態の内視鏡システムにおいては、相対距離情報を表わす画像を、通常画像上または分光推定画像上に重ねて表示するようにしたが、これに限らず、相対距離情報を表わす画像のみを通常画像または分光推定画像と併置して表示するようにしてもよい。
なお、上記第2の実施形態の内視鏡システムにおいては、通常観察モードにおいて通常画像および相対距離情報を表わす画像を表示し、分光推定画像観察モードにおいて分光推定画像および相対距離情報を表わす画像を表示するようにしたが、これらのモードの処理を両方行って、通常画像、分光推定画像および相対距離情報を表わす画像を同時もしくは切り替えて表示するようにしてもよい。また、通常画像上に相対距離情報を表わす画像を重ね合わせた合成画像と、分光推定画像上に相対距離情報を表わす画像を重ね合わせた合成画像とを同時もしくは切り替えて表示するようにしてもよい。また、さらに第1の実施形態の内視鏡システムと同様にして、距離補正画像も表示するようにしてもよい。
また、上記第1および第2の実施形態の内視鏡システムにおいて、各画素の相対距離情報Dを用いて、通常画像または分光推定画像に対し、被観察体の凹凸を強調する処理を施し、その凹凸強調画像を表示装置3において表示するようにしてもよい。
また、上記第1および第2の実施形態の内視鏡システムにおいて、各画素の相対距離情報Dを用いて、被観察体に対するスコープユニット20の先端の向きを取得し、その取得した向きを表示装置3において表示するようにしてもよい。
本発明の内視鏡装置の第1の実施形態を用いた内視鏡システムの概略構成を示すブロック図 図1に示す内視鏡システムの作用を説明するためのフローチャート 図1に示す内視鏡システムにおける相対距離情報の算出方法を説明するためのフローチャート ヘモグロビンHbと酸化ヘモグロビンHbOの分光反射スペクトルを示す図 ヘモグロビンHbと酸化ヘモグロビンHbOの分光反射スペクトルを示す図 本発明の内視鏡装置の第2の実施形態を用いた内視鏡システムの概略構成を示すブロック図 図6に示す内視鏡システムの作用を説明するためのフローチャート 相対距離情報を表わす画像の一例を示す図
符号の説明
1,5 内視鏡システム
2 入力部
3 表示装置
10 照明光ユニット
11 ライトガイド
20 スコープユニット
21 結像光学系
22 撮像素子
23 CDS/AGC回路
24 A/D変換部
25 CCD駆動部
26 スコープコントローラ
27 操作部
28 照明窓
30 プロセッサユニット
31 画像取得部
32 分光画像生成部(分光画像処理部)
33 記憶部
34 距離情報取得部
35 距離補正部
36 表示信号生成部
37 制御部
38 配色処理部

Claims (14)

  1. 照明光照射部と撮像素子とを有するスコープ部と、分光画像処理部と、距離情報取得部とを備えた内視鏡装置の作動方法であって、
    前記分光画像処理部が、前記撮像素子から出力された画像信号に分光画像処理を施して650nm以上の所定波長の分光推定画像信号を距離情報取得用分光推定画像信号として生成し、
    前記距離情報取得部が、前記距離情報取得用分光推定画像信号に基づいて、前記被観察体と該被観察体の像が結像する前記撮像素子の各画素との距離を示す距離情報を、前記撮像素子の各画素についてそれぞれ取得する際、前記画像信号の中の予め設定された基準画素の前記距離情報取得用分光推定画像信号に基づいて、該基準画素以外の前記画像信号の中の画素の距離情報を取得することを特徴とする内視鏡装置の作動方法。
  2. 照明光を被観察体に照射する照明光照射部と前記照明光の照射により前記被観察体から反射された反射光を受光して前記被観察体の像を撮像する撮像素子とを有するスコープ部と、該スコープ部の撮像素子から出力された画像信号に分光画像処理を施して所定波長の分光推定画像信号を生成する分光画像処理部とを備えた内視鏡装置において、
    前記分光画像処理部が、前記撮像素子から出力された画像信号に基づいて、650nm以上の所定波長の分光推定画像信号を距離情報取得用分光推定画像信号として生成するものであり、
    該距離情報取得用分光推定画像信号に基づいて、前記被観察体と該被観察体の像が結像する前記撮像素子の各画素との距離を示す距離情報を、前記撮像素子の各画素についてそれぞれ取得する距離情報取得部を備え、
    該距離情報取得部が、前記画像信号の中の予め設定された基準画素の前記距離情報取得用分光推定画像信号に基づいて、該基準画素以外の前記画像信号の中の画素の距離情報を取得するものであることを特徴とする内視鏡装置。
  3. 前記分光画像処理部が、650nm以上700nm以下の所定波長の分光推定画像信号を前記距離情報取得用分光推定画像信号として生成するものであることを特徴とする請求項2記載の内視鏡装置。
  4. 前記距離情報取得部により取得された各画素の距離情報に基づいて、前記撮像素子から出力された画像信号に対して、前記被観察体と該被観察体の像が結像する前記撮像素子の各画素との距離を補正する距離補正処理を施す距離補正部を備えたことを特徴とする請求項2または3記載の内視鏡装置。
  5. 前記距離情報取得部により取得された各画素の距離情報に基づいて、該距離情報を表わす画像を生成する距離情報画像生成部を備えたことを特徴とする請求項2から4いずれか1項記載の内視鏡装置。
  6. 前記撮像素子から出力された画像信号に基づく通常画像または前記分光画像処理部で生成された分光推定画像信号に基づく分光推定画像を表示する表示部を備え、
    該表示部が、前記通常画像上または前記分光推定画像上に、前記距離情報を表わす画像を表示するものであることを特徴とする請求項5記載の内視鏡装置。
  7. 前記撮像素子から出力された画像信号に基づく通常画像または前記分光画像処理部で生成された分光推定画像信号に基づく分光推定画像を表示する表示部を備え、
    該表示部が、前記通常画像または前記分光推定画像と併置して前記距離情報を表わす画像を表示するものであることを特徴とする請求項5記載の内視鏡装置。
  8. 前記撮像素子から出力された画像信号に基づく通常画像または前記分光画像処理部で生成された分光推定画像信号に基づく分光推定画像を表示する表示部を備え、
    該表示部が、前記通常画像または前記分光推定画像とは異なるタイミングで前記距離情報を表わす画像のみを表示するものであることを特徴とする請求項5記載の内視鏡装置。
  9. 前記表示部が、前記距離情報を表す画像を、前記通常画像または前記分光推定画像を表示するウィンドウとは別のウィンドウに表示するものであることを特徴とする請求項5記載の内視鏡装置。
  10. 前記表示部が、前記撮像素子の画素のうち特定の画素についてのみ前記距離情報を表わす画像を表示するものであることを特徴とする請求項6から9いずれか1項記載の内視鏡装置。
  11. 前記表示部が、周囲の画素に対して前記距離情報が所定閾値以上の差がある画素について強調表示するものであることを特徴とする請求項6から10いずれか1項記載の内視鏡装置。
  12. 前記距離情報取得部が、前記基準画素を自動的に設定するものであることを特徴とする請求項記載の内視鏡装置。
  13. 前記距離情報取得部が、前記画像信号の中の全ての画素のうち、最も明るい画素を前記基準画素として設定するものであることを特徴とする請求項12記載の内視鏡装置。
  14. 前記基準画素が、ユーザによる設定入力によって指定されるものであることを特徴とする請求項記載の内視鏡装置。
JP2008167249A 2008-06-26 2008-06-26 内視鏡装置および内視鏡装置の作動方法 Expired - Fee Related JP5190944B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008167249A JP5190944B2 (ja) 2008-06-26 2008-06-26 内視鏡装置および内視鏡装置の作動方法
US12/457,938 US20090322863A1 (en) 2008-06-26 2009-06-25 Distance information obtainment method in endoscope apparatus and endoscope apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008167249A JP5190944B2 (ja) 2008-06-26 2008-06-26 内視鏡装置および内視鏡装置の作動方法

Publications (2)

Publication Number Publication Date
JP2010005095A JP2010005095A (ja) 2010-01-14
JP5190944B2 true JP5190944B2 (ja) 2013-04-24

Family

ID=41446886

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008167249A Expired - Fee Related JP5190944B2 (ja) 2008-06-26 2008-06-26 内視鏡装置および内視鏡装置の作動方法

Country Status (2)

Country Link
US (1) US20090322863A1 (ja)
JP (1) JP5190944B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5291955B2 (ja) * 2008-03-10 2013-09-18 富士フイルム株式会社 内視鏡検査システム
US9099042B2 (en) * 2010-05-12 2015-08-04 Sharp Kabushiki Kaisha Display apparatus
JP2012090889A (ja) * 2010-10-28 2012-05-17 Olympus Corp 蛍光観察装置
EP2633798B1 (en) * 2011-01-20 2017-08-30 Olympus Corporation Image processing device, image processing method, image processing program, and endoscope system
EP2810596A4 (en) * 2012-01-31 2015-08-19 Olympus Corp BIOLOGICAL OBSERVATION SYSTEM
JP6265588B2 (ja) * 2012-06-12 2018-01-24 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP6253230B2 (ja) * 2012-12-25 2017-12-27 オリンパス株式会社 画像処理装置、プログラム及び画像処理装置の作動方法
JP6112879B2 (ja) * 2013-01-28 2017-04-12 オリンパス株式会社 画像処理装置、内視鏡装置、画像処理装置の作動方法及び画像処理プログラム
JP6176978B2 (ja) * 2013-01-31 2017-08-09 オリンパス株式会社 内視鏡用画像処理装置、内視鏡装置、内視鏡用画像処理装置の作動方法及び画像処理プログラム
JP6150554B2 (ja) * 2013-02-26 2017-06-21 オリンパス株式会社 画像処理装置、内視鏡装置、画像処理装置の作動方法及び画像処理プログラム
JP6150555B2 (ja) * 2013-02-26 2017-06-21 オリンパス株式会社 内視鏡装置、内視鏡装置の作動方法及び画像処理プログラム
JP6128989B2 (ja) * 2013-06-27 2017-05-17 オリンパス株式会社 画像処理装置、内視鏡装置及び画像処理装置の作動方法
JP6109695B2 (ja) * 2013-09-27 2017-04-05 富士フイルム株式会社 内視鏡システム及びプロセッサ装置並びに作動方法並びに距離測定装置
JP2015127680A (ja) * 2013-12-27 2015-07-09 スリーエム イノベイティブ プロパティズ カンパニー 計測装置、システムおよびプログラム
JP6473222B2 (ja) 2015-03-04 2019-02-20 オリンパス株式会社 画像処理装置、生体観察装置および画像処理装置の制御方法
CN107529969B (zh) * 2015-07-03 2019-04-23 奥林巴斯株式会社 图像处理装置以及内窥镜系统
EP3590402A4 (en) * 2017-03-03 2020-03-11 Fujifilm Corporation ENDOSCOPE SYSTEM, PROCESSOR DEVICE, AND OPERATION METHOD OF ENDOSCOPE SYSTEM

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59151119A (ja) * 1983-02-17 1984-08-29 Olympus Optical Co Ltd 測長内視鏡
JPS60237419A (ja) * 1984-05-09 1985-11-26 Olympus Optical Co Ltd 内視鏡用測長光学アダプタ
JPS62161337A (ja) * 1986-01-09 1987-07-17 富士写真光機株式会社 測長内視鏡
JPS6368127A (ja) * 1986-09-11 1988-03-28 株式会社東芝 内視鏡
JP2761238B2 (ja) * 1989-04-20 1998-06-04 オリンパス光学工業株式会社 内視鏡装置
US5436655A (en) * 1991-08-09 1995-07-25 Olympus Optical Co., Ltd. Endoscope apparatus for three dimensional measurement for scanning spot light to execute three dimensional measurement
JPH0541901A (ja) * 1991-08-09 1993-02-23 Olympus Optical Co Ltd 三次元計測用内視鏡装置
JPH05103747A (ja) * 1991-10-15 1993-04-27 Matsushita Electric Ind Co Ltd 内視鏡用処置具と患部の検出方法
DE60109989T2 (de) * 2000-06-26 2006-02-23 Fuji Photo Film Co. Ltd., Minamiashigara Vorrichtung zur Aufnahme von Fluoreszenzbildern
JP2002078670A (ja) * 2000-06-26 2002-03-19 Fuji Photo Film Co Ltd 蛍光撮像装置
JP2002065585A (ja) * 2000-08-24 2002-03-05 Fuji Photo Film Co Ltd 内視鏡装置
US7123756B2 (en) * 2001-04-27 2006-10-17 Fuji Photo Film Co., Ltd. Method and apparatus for standardized fluorescence image generation
JP2003093336A (ja) * 2001-09-26 2003-04-02 Toshiba Corp 電子内視鏡装置
JP5461753B2 (ja) * 2004-07-30 2014-04-02 オリンパス株式会社 内視鏡装置
JP2007101268A (ja) * 2005-09-30 2007-04-19 Fujifilm Corp 光断層画像化装置
JP4773217B2 (ja) * 2006-01-31 2011-09-14 富士フイルム株式会社 電子内視鏡装置
JP5044126B2 (ja) * 2006-02-23 2012-10-10 オリンパス株式会社 内視鏡観察装置および画像形成を行う内視鏡の作動方法

Also Published As

Publication number Publication date
US20090322863A1 (en) 2009-12-31
JP2010005095A (ja) 2010-01-14

Similar Documents

Publication Publication Date Title
JP5190944B2 (ja) 内視鏡装置および内視鏡装置の作動方法
JP5294723B2 (ja) 画像取得装置
JP5457247B2 (ja) 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
JP5405373B2 (ja) 電子内視鏡システム
JP5616303B2 (ja) 電子内視鏡システム及び電子内視鏡システムの作動方法
JP5968944B2 (ja) 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
JP5431252B2 (ja) 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
JP6561000B2 (ja) 内視鏡システム及びその作動方法
WO2018159083A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US11179024B2 (en) Endoscope system capable of correcting image, processor device, and method for operating endoscope system
EP2505121B1 (en) Endoscope apparatus
JP6629639B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US9962070B2 (en) Endoscope system, processor device, and method for operating endoscope system
WO2017110469A1 (ja) 内視鏡システム及び内視鏡システムの作動方法
WO2019163540A1 (ja) 内視鏡システム
JP2016192985A (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6562554B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの信号処理方法
JP6774550B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6085649B2 (ja) 内視鏡用光源装置及び内視鏡システム
WO2016139768A1 (ja) 画像処理装置、生体観察装置および画像処理方法
JP5829568B2 (ja) 内視鏡システム、画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP6254502B2 (ja) 内視鏡用光源装置及び内視鏡システム
CN112584747A (zh) 内窥镜系统
JP6039605B2 (ja) 内視鏡システム及びその作動方法
WO2023119795A1 (ja) 内視鏡システム及びその作動方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20100614

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120919

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130124

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160208

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees