JP3662367B2 - Endoscope device - Google Patents

Endoscope device Download PDF

Info

Publication number
JP3662367B2
JP3662367B2 JP26827696A JP26827696A JP3662367B2 JP 3662367 B2 JP3662367 B2 JP 3662367B2 JP 26827696 A JP26827696 A JP 26827696A JP 26827696 A JP26827696 A JP 26827696A JP 3662367 B2 JP3662367 B2 JP 3662367B2
Authority
JP
Japan
Prior art keywords
image
light
observation
image signal
living body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP26827696A
Other languages
Japanese (ja)
Other versions
JPH10108831A (en
Inventor
和男 袴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP26827696A priority Critical patent/JP3662367B2/en
Publication of JPH10108831A publication Critical patent/JPH10108831A/en
Application granted granted Critical
Publication of JP3662367B2 publication Critical patent/JP3662367B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は生体内部を観察するための内視鏡装置、特に内視鏡における照度分布に応じた補正を行う画像処理に関するものである。
【0002】
【従来の技術】
従来より、生体内部を観察したり、また観察しながら治療するために、内視鏡が広く用いられている。この内視鏡を使用して生体内部を観察するために、通常、生体外部に配された照明光源から発せられた光を可撓性の導入管に収納された光ファイバよりなるライトガイドを介して生体内に導き観察部を照射する。通常像撮像手段が、この観察部で反射した照明光により観察部の通常像を撮像し、この撮像手段の出力をCRT等よりなる画像表示手段に表示する。そこで術者は、この画像表示手段に表示された通常像を参考にして生体内部における観察部の診断を行うことができる。
【0003】
一方、従来より、一般にPDD(Photodynamic Diagnosis)と称される光力学診断についての研究が種々なされている。このPDDとは、腫瘍親和性を有し、光により励起されたとき蛍光を発する光感受性物質を予め生体内部の腫瘍部分に吸収させておき、その部分に光感受性物質の励起波長領域にある励起光を照射して蛍光を生じさせ、この蛍光による画像を表示して腫瘍部分を診断する技術である。
【0004】
例えば特公昭63−9464号、特開平1−136630号、特開平7−59783号には、このPDDを行なうための蛍光画像診断装置が開示されている。この種の蛍光画像診断装置は基本的に、光感受性物質の励起波長領域にある励起光を生体内部の観察部に対して照射する励起光照射手段と、光感受性物質が発する蛍光を検出して観察部の蛍光像を撮像する手段と、この撮像手段の出力を受けてこの蛍光像を表示する画像表示手段とからなるものであり、多くの場合、体腔内部に挿入される内視鏡等に組み込まれた形に構成される。ここで、撮像された観察部の蛍光像を画像表示手段に表示させると、光感受性物質が腫瘍親和性を有することにより、腫瘍の浸潤範囲が蛍光像として示される。そこで術者はこの表示画像を参考にして腫瘍の浸潤範囲を把握し、適切な切除範囲を決定することができる。
【0005】
これら内視鏡や蛍光診断装置(以下、「内視鏡装置」という)を使用して治療操作を行う場合には、観察部の腫瘍部分の位置を特定するため生体内部に挿入された内視鏡先端部の生体での位置を正確に把握したいという要求がある。通常は、内視鏡装置の導入管の挿入長さに基づいて観察部の位置を特定しており、術者の経験を必要としている。
【0006】
ところで、生体の部位には凹凸が有り、照明光照射系や励起光照射系から観察部までの距離が均一ではない事と照射光の光軸に対し生体の部位との角度が一定でないために、観察部における光の照度は一般に不均一である。このように光の照度が不均一であると、光の照度の高低に応じて反射光や蛍光の強度が変化するので、画像表示手段に表示される通常像や蛍光像は観察部の状態を正確に表わしたものとはならず、観察部の腫瘍部分の診断を誤ることもあり得る。
【0007】
そこで、このような光の照度分布の不均一性に起因する通常像や蛍光像のむらを除去するために、例えば特開昭62−247232号、特公平3−58729号に示されるように、蛍光像を撮像する際に観察部で反射した励起光による反射像も撮像し、蛍光画像信号を、この反射像を示す画像信号で割算して規格化する方法や、本出願人による特願平8−109369号に示されるように、生体内部の観察部に波長650nm以上の近赤外光を照射し観察部で反射した近赤外光を検出して観察部の近赤外像を撮像し、蛍光画像信号を、この近赤外像を示す画像信号に基づいて各画素毎に規格化する方法が提案されている。
【0008】
しかし、蛍光診断装置において通常用いられる励起光の波長範囲は、紫外部から可視部(300〜600nm程度)にあり、このような励起光は人体等の生体に大きく吸収されてしまうことが知られている(特願平8−109369号明細書参照)。従って、励起光が生体に大きく吸収されると、前記反射像を示す画像信号は励起光照度分布だけではなく、この吸収の分布も反映したものとなってしまう。そのため、この反射像を示す画像信号を用いて前述の規格化を行っても、励起光の照度分布の不均一性に起因する蛍光像のむらを正確に除去することは不可能となる。一方、波長650nm以上の近赤外光は、生体での吸収が少ないという点では優れているが、励起光と近赤外光の波長が異なることから同じ光学系を用いて観察部を照射する場合、照射領域が異なるという問題を有する。従って、近赤外像を示す画像信号に基づいて各画素毎に前述の規格化を行っても、励起光の照度分布の不均一性に起因する蛍光像のむらを正確に除去することは依然として不可能である。
【0009】
一方、上述のいずれの方法も、観察部における反射光による反射像を示す画像信号に基づいて蛍光画像信号の規格化を行う方法であるが、反射像には反射光に含まれる正反射光による成分も含まれるため、観察部における励起光の照度分布がたとえ均一であったとしても、規格化された信号は強度のむらを生じるという問題を有する。これは以下の理由による。
【0010】
蛍光には指向性がないから、反射像を示す画像信号で蛍光画像信号を規格化する場合には指向性のない反射光による反射像を示す画像信号を使用する必要がある。反射光は、観察部での表面反射光(正反射光)とこの正反射光を除いた拡散反射光よりなるため、前記観察部の反射像は、観察部での正反射光と拡散反射光に依存する成分を重畳した像として得られる。一般には、この拡散反射光の指向性は、蛍光と同様に指向性がない。従って、蛍光画像信号の規格化を正確に行うためには、正反射光による成分を除去した拡散反射光に依存する成分のみの反射像を示す画像信号で前述の正規化を行う必要がある。
【0011】
この正反射光による成分を除去する方法として、例えば特開昭62−247232号に示されるように、偏光フィルタで正反射光と拡散反射光に依存する成分を分離、検出する方法が知られている。しかし、正反射光の強度は励起光が観察部に入射する角度に依存するため、偏光フィルタの回転角度を一定にした場合、凹凸を有する観察部の反射像から正反射光に依存する成分を完全に除去することは困難である。
【0012】
また、照明光光学系においても、生体内部の観察部の凹凸により照明光照度分布が不均一となる問題を有している。従って、照明光の照度の高低に応じて観察部での反射光の強度が変化するので、画像表示手段に表示される通常像は輝度や色相にむらを生じる。また、生体内部の観察部における照明光の反射光は、観察部での正反射光とこの正反射光を除いた拡散反射光よりなり、観察部を正確に診断するに際しては、この正反射光に依存する成分を除去する必要もある。
【0013】
【発明が解決しようとする課題】
本発明は上記の事情に鑑みてなされたものであり、生体内部の観察部における照明光や励起光の照度分布の不均一性に起因する画像信号のむらを除去可能ならしめるとともに、この観察部の正反射光に起因する正反射像の除去も可能ならしめ、前記生体内部の観察部の状態を精度よく観察することのできる内視鏡装置を提供することを目的とする。また、本発明は生体内部の観察部の位置の特定を容易ならしめる内視鏡装置を提供することを目的とすものである。
【0014】
【課題を解決するための手段】
本発明による内視鏡装置は、
生体内部に先端が挿入され、生体外に配された光源からの光をこの生体内部に導入し、この生体内部の観察部に照射せしめる導入管と、
前記観察部を撮像し、この観察部を示す画像信号を出力する撮像手段と、
前記観察部と前記導入管より出射される前記光の出射部との相対的な位置関係を求める計測手段と、
この計測手段の出力とあらかじめ測定された前記出射部から出射される照射光の特性に基づいて前記画像信号に含まれる擬似成分を解析し、この画像信号からこの擬似成分を除去するように補正する画像処理手段とを備えたことを特徴とするものである。
【0015】
ここで、「画像信号に含まれる擬似成分」とは、前記観察部と前記導入管より出射される前記光の出射部との相対的な位置関係に応じて前記光に起因して発生する画像信号の成分であって、本来、画像信号として表出してはならない不要な成分である。
【0016】
なお、前記画像信号は、前記光源より発せられた照明光に照射された前記観察部の通常像を示す画像信号、または、蛍光を発する光感受性物質を吸収している前記観察部に対して、この光感受性物質の励起波長領域にある前記光源より発せられた励起光を照射し、そのときこの観察部から発せられた蛍光を検出して得られるこの観察部の蛍光像を示す画像信号であることが望ましい。この際、この画像信号は、いずれか一方に限るものではなく、通常像を示す画像信号および蛍光像を示す画像信号の両方であってもかまわない。
【0017】
また、前記擬似成分は、前記光の前記観察部の正反射光に起因するこの観察部の正反射像および/または前記光の前記観察部の照度分布に起因する前記画像信号のむらであることが望ましく、さらに詳細には、この画像信号のむらが、この画像信号の強度および/または色調のむらであることが望ましい。
【0018】
また、前記計測手段としては、コンピュータトモグラフィ装置と、
このコンピュータトモグラフィ装置より得られる前記観察部の形状および前記導入管より出射される前記光の出射部の前記観察部の位置のデータに基づいて前記観察部と前記導入管より出射される前記光の出射部との相対的な位置関係を算出する演算手段とから構成されることが望ましい。
【0019】
【発明の効果】
上記構成を有する本発明の内視鏡装置においては、この内視鏡装置の導入管より生体内部の観察部へ出射される光の出射部とこの観察部との相対的な位置関係、例えば距離や傾き等を計測手段によって求めることができるので、この計測手段の出力とあらかじめ測定された前記出射部から出射される照射光の特性に基づいて前記観察部を示す画像信号に含まれる擬似成分を解析し、画像処理手段によってこの画像信号から擬似成分を除去することができる。従って、この画像処理手段より得られる補正された画像信号は、生体内部の観察部を示す画像信号として不要な成分を含まない。
【0020】
例えば、画像信号が観察部の通常像を示す画像信号である場合は、照明光の照度分布の不均一性に起因する輝度や色相のむらを除去することができ、さらに、正反射光に起因する輝度のむらも除去できる。
【0021】
また、画像信号が観察部の蛍光像を示す画像信号である場合は、励起光の照度分布の不均一性に起因する蛍光強度のむらを除去することができる。
【0022】
また、照射部と観察部の距離が客観的に測定されるため、観察部の位置の特定が容易となる。
【0023】
従って、本発明による内視鏡装置を医療現場で使用すれば、生体内部の観察部の位置を特定しつつこの観察部の通常像や蛍光像を良好な映像として画像表示装置に表示することができるため、診断の精度を向上させることができる。また、術者はこの表示画像を参考にして腫瘍の浸潤範囲を把握し、適切な切除範囲を決定することができる。
【0024】
一方、本発明においては、計測手段を生体外部に配することもできる。この場合、X線CT、超音波診断装置、MRI(磁気共鳴イメージング)装置、PET(ポジトロン・エミッション・トモグラフィ)、SPECT(シングル・フォトン・エミッション・コンピュータ・トモグラフィ)等の各種コンピュータ・トモグラフィ装置(以下「CT装置」という)を使用することが可能である。CT装置を使うことにより生体内部の観察部へ出射される光の出射部とこの観察部との相対的な位置関係を精度良く測定することができ、また、挿入した内視鏡の生体内部の位置も正確に把握できるため、導入管の挿入長さに頼ることなく観察部の位置の特定を行うことができる。さらに、内視鏡装置の映像とCT装置の映像を画像表示装置に同時に表示できるので、この両映像を比較、検討することにより、さらに診断の精度を高めることが可能となる。
【0025】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を詳細に説明する。図1は、本発明による内視鏡装置の実施の形態を示すブロック図である。この内視鏡装置は、内視鏡20と、生体外に配設されたX線CT装置本体30、X線源32、およびX線検出器34からなるX線CT装置と、励起光用光源12、画像処理装置14、演算装置16よりなり生体外に配された制御装置10と、画像信号を表示する画像表示装置40、42とにより構成される。
【0026】
内視鏡20は可撓性を有する導入管20aを有しており、この導入管20aの先端部が生体50の内部の観察部52の近傍まで挿入されている。励起光L1が制御装置10を構成する励起光用光源12から発せられ、ライトガイド13を介して内視鏡20へ導かれ、さらに導入管20aに納められたライトガイド(図示せず)を介して導入管20aの先端の励起光照射部まで導かれ、観察部52を照射する。導入管20aの先端部には、励起光L1が照射されたことにより観察部52から発せられる蛍光を検出して蛍光像を撮像する蛍光像撮像手段(図示せず)が配設されており、この蛍光像撮像手段が蛍光像を示す蛍光映像信号S1を出力する。蛍光映像信号S1は、導入管20aを介して生体外に導かれ制御装置10を構成する画像処理装置14へ入力される。
【0027】
一方、X線源32およびX線検出器34が、生体50の内部の観察部52および導入管20aの先端の励起光照射部を断層観察し得るように、X線CT装置本体30からの制御信号S6に基づいて移動可能なように生体50を中心に対向して配設されている。X線検出器34は、X線源32より発せられたX線のうち生体50を透過した成分を検出するものであり、X線検出器34の出力S5がX線CT装置本体30に入力されている。X線CT装置本体30は、測定データD1を制御装置10を構成する演算装置16へ出力するとともに、生体50の内部の観察部52および導入管20aの先端部の励起光照射部の断層像を示すCT像映像信号S7をCT画像表示装置42へ出力する。
【0028】
演算装置16は、演算結果である照度分布データD2を画像処理装置14へ出力し、画像処理装置14が、強度補正された蛍光像映像信号S3を画像表示装置40へ出力する。
【0029】
なお、導入管20aの先端の励起光照射部における励起光L1の照射特性データD3が、あらかじめ測定されており、演算装置16を構成する記憶素子(図示せず)に記憶されている。
【0030】
以下、上記構成の内視鏡装置の作用について説明する。生体50の内部の観察部52には、腫瘍親和性を有し、光により励起されたとき蛍光を発する光感受性物質が予め吸収されている。この光感受性物質としては、例えばポルフィリン系のものが用いられる。
【0031】
生体外に配された制御装置10を構成する励起光用光源12から発せられる励起光L1は、ライトガイド13を介して内視鏡20へ導かれ、さらに導入管20aに納められたライトガイド(図示せず)を介して導入管20aの先端の励起光照射部まで導かれ、観察部52を照射する。励起光L1が観察部52に照射されると、上記光感受性物質から蛍光が発せられ、この蛍光により導入管20aの先端部に配設された蛍光像撮像手段(図示せず)が観察部52の蛍光像を撮像し、この観察部52の蛍光像を示す蛍光映像信号S1を出力する。蛍光映像信号S1は、導入管20aを介して生体外に導かれ制御装置10を構成する画像処理装置14へ入力されている。
【0032】
一方、X線CT装置本体30は、制御信号S6によりX線源32およびX線検出器34を少しずつ移動させつつ、X線源32から生体50にX線を照射しながら、生体50を透過したX線をX線検出器34により検出することにより、生体50の内部の観察部52および導入管20aの先端部の励起光照射部の断層像(CT像)を撮像する。このようなX線CT装置により、生体50を輪切りするようにCT像を何枚も撮像することによって、生体50の内部の観察部52および導入管20aの先端部の励起光照射部を立体的に観察し得るようになる。従って、それぞれのCT像とX線源32およびX線検出器34の移動距離から、演算処理によって生体50の内部の観察部52と導入管20aの先端部の励起光照射部との距離と傾き、および観察部52の形状を測定することができる。この演算処理は通常X線CT装置本体30の一部を構成するコンピュータにより行うことができる。また、後述の演算装置16によって行うことも可能である。この場合は、前記CT像を示す信号および前記X線源32およびX線検出器34の移動距離を示すデータを演算装置16へ入力させればよい。
【0033】
X線CT装置により得られる生体50の内部の観察部52と導入管20aの先端部の励起光照射部との距離と傾き、および観察部52の形状の測定データD1は演算装置16へ入力される。演算装置16は、測定データD1中の距離のデータおよび導入管20aの先端部の励起光照射部における励起光L1の照射特性データD3に基づいて、観察部52における励起光照度分布を以下のように解析し、照度分布データD2を算出する。励起光L1の照射特性データD3はあらかじめ測定されており、観察部52が平坦であれば励起光L1の照射特性データD3がそのまま観察部52の励起光照度分布として与えられる。しかし、一般には、観察部52は平坦ではなく凹凸を有する。この場合は、励起光の観察部52へ照射される励起光密度は距離の2乗に反比例することが知られており、観察部52と導入管20aの先端部の励起光照射部との距離のデータD1と、励起光L1の照射特性のデータD3より、観察部52の励起光照度分布を演算により算出することができる。従って、観察部52における照度分布データD2が正確に求められる。蛍光像は、励起光の強度にほぼ比例することは周知である。画像処理装置14は、この照度分布データD2に基づき蛍光像映像信号S1に対して強度補正を行い、強度補正のされた蛍光像映像信号S3を画像表示装置40へ入力する。これにより、観察部52における励起光の照度分布の不均一性に起因する蛍光強度のむらが除去され、精度の良い蛍光画像を画像表示装置40に表示することができる。また、X線CT装置により得られる観察部52のCT像が、X線CT装置本体30よりCT像映像信号S7としてCT画像表示装置42に入力されCT像が表示されているため、同時に表示されたCT像と蛍光像とを比較することができ、一層精度の良い診断が可能となる。従って、この内視鏡装置を生体内部の腫瘍の診断、治療に使用することにより、診断の精度を向上させることができ、術者は、これら表示画像を参考にして腫瘍の浸潤範囲を把握し、適切な切除範囲を決定し切除することができる。
【0034】
なお、本発明による内視鏡装置は、上述した実施例の構成に限定されるものではなく、この発明の範囲内で種々変形可能である。例えば、照明光による通常像を撮像する場合にあって、観察部52における照明光の照度分布の不均一性に起因する通常画像の輝度や色相のむらを上述と同様な方法により除去することができる。
【0035】
さらに、照明光の観察部52における正反射光による正反射像の成分を以下のように解析し、通常像に含まれる正反射像を除去することも可能である。正反射光は、照明光が観察部52へ入射する角度に等しい角度で、観察部52の表面から反射していく光である。従って、距離、傾きおよび形状の測定データD1中の傾きおよび形状のデータより、照明光が観察部52へ入射する角度が算出でき正反射光の反射角度も算出できる。一方、正反射光の強度は照明光の強度に比例するから、前述と同様に、演算装置16は、観察部52における照明光の照度分布を正確に算出し、正反射光の反射角度に基づいて正反射像を正確に解析することができる。画像処理装置14は、この解析結果に基づいて、通常像に含まれる正反射像の成分を精度良く除去することができる。これにより、観察部52における照明光の正反射光に起因する通常像の輝度のむらが除去され、精度の良い通常像を画像表示装置40に表示することができる。
【図面の簡単な説明】
【図1】本発明の実施の形態である内視鏡装置を示すブロック図
【符号の説明】
10 制御装置
12 励起光用光源
13 ライトガイド
14 画像処理装置
16 演算装置
20 内視鏡
20a 導入管
30 X線CT装置本体
32 X線源
34 X線検出器
40 画像表示装置
42 CT画像表示装置
50 生体
52 観察部
L1 励起光
D1 距離、傾きおよび形状の測定データ
D2 照度分布データ
S1 蛍光像映像信号
S3 強度補正のされた蛍光像映像信号
S5 X線検出信号
S6 制御信号
S7 CT像映像信号
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an endoscope apparatus for observing the inside of a living body, and more particularly to image processing for performing correction according to the illuminance distribution in the endoscope.
[0002]
[Prior art]
Conventionally, endoscopes have been widely used for observing the inside of a living body or treating while observing. In order to observe the inside of a living body using this endoscope, usually, light emitted from an illumination light source arranged outside the living body is passed through a light guide made of an optical fiber housed in a flexible introduction tube. Then, guide it into the living body and irradiate the observation part. The normal image capturing unit captures a normal image of the observation unit with the illumination light reflected by the observation unit, and displays the output of the imaging unit on an image display unit such as a CRT. Therefore, the surgeon can diagnose the observation unit inside the living body with reference to the normal image displayed on the image display means.
[0003]
On the other hand, various studies on photodynamic diagnosis, generally called PDD (Photodynamic Diagnosis), have been made. This PDD has a tumor affinity, and a photosensitizer that emits fluorescence when excited by light is absorbed in advance in a tumor part inside the living body, and excitation exists in the excitation wavelength region of the photosensitizer in that part. It is a technique for diagnosing a tumor part by irradiating light to generate fluorescence and displaying an image of the fluorescence.
[0004]
For example, Japanese Patent Publication No. 63-9464, Japanese Patent Application Laid-Open No. 1-136630, and Japanese Patent Application Laid-Open No. 7-59783 disclose fluorescent image diagnostic apparatuses for performing PDD. This type of fluorescence diagnostic imaging device basically detects excitation light irradiation means for irradiating the observation part inside the living body with excitation light in the excitation wavelength region of the photosensitive substance, and detects fluorescence emitted by the photosensitive substance. It consists of a means for capturing a fluorescent image of the observation unit and an image display means for receiving the output of this imaging means and displaying this fluorescent image. In many cases, the endoscope is inserted into a body cavity. Constructed into an embedded form. Here, when the imaged fluorescence image of the observed part is displayed on the image display means, the infiltration range of the tumor is shown as a fluorescence image because the photosensitive substance has tumor affinity. Therefore, the surgeon can grasp the tumor infiltration range with reference to the display image and determine an appropriate excision range.
[0005]
When performing a therapeutic operation using these endoscopes or fluorescence diagnostic apparatuses (hereinafter referred to as “endoscopic apparatuses”), an endoscope inserted in the living body to identify the position of the tumor portion of the observation section. There is a demand to accurately grasp the position of the mirror tip in the living body. Usually, the position of the observation part is specified based on the insertion length of the introduction tube of the endoscope apparatus, and an operator's experience is required.
[0006]
By the way, there are irregularities in the part of the living body, and the distance from the illumination light irradiation system or the excitation light irradiation system to the observation part is not uniform, and the angle between the living body part and the optical axis of the irradiation light is not constant. The illuminance of light in the observation part is generally non-uniform. If the illuminance of the light is not uniform in this way, the intensity of the reflected light or fluorescence changes depending on the level of the illuminance of the light. Therefore, the normal image or the fluorescent image displayed on the image display means shows the state of the observation unit. It is not an accurate representation, and the diagnosis of the tumor part of the observation part may be wrong.
[0007]
Therefore, in order to remove the unevenness of the normal image and the fluorescent image due to such nonuniformity of the illuminance distribution of light, as shown in, for example, JP-A-62-247232 and JP-B-3-58729, fluorescence A method of capturing a reflected image of excitation light reflected by the observation unit when capturing an image and dividing the fluorescent image signal by an image signal indicating the reflected image, As shown in No. 8-109369, near-infrared light having a wavelength of 650 nm or more is irradiated to the observation unit inside the living body, and the near-infrared light reflected by the observation unit is detected, and a near-infrared image of the observation unit is captured. A method has been proposed in which the fluorescent image signal is normalized for each pixel based on the image signal indicating the near-infrared image.
[0008]
However, the wavelength range of excitation light that is normally used in a fluorescence diagnostic apparatus is from the ultraviolet part to the visible part (about 300 to 600 nm), and it is known that such excitation light is greatly absorbed by a living body such as a human body. (See Japanese Patent Application No. 8-109369). Therefore, when the excitation light is largely absorbed by the living body, the image signal indicating the reflected image reflects not only the excitation light illuminance distribution but also the absorption distribution. Therefore, even if the above-described normalization is performed using the image signal indicating the reflected image, it is impossible to accurately remove the unevenness of the fluorescent image due to the non-uniformity of the illuminance distribution of the excitation light. On the other hand, near-infrared light having a wavelength of 650 nm or more is excellent in that it is less absorbed by a living body, but the observation unit is irradiated using the same optical system because the wavelengths of excitation light and near-infrared light are different. In this case, there is a problem that the irradiation areas are different. Therefore, even if the above-described normalization is performed for each pixel based on the image signal indicating the near-infrared image, it is still not possible to accurately remove the unevenness of the fluorescent image due to the nonuniformity of the illuminance distribution of the excitation light. Is possible.
[0009]
On the other hand, any of the above-described methods is a method of normalizing the fluorescent image signal based on the image signal indicating the reflected image by the reflected light in the observation unit, but the reflected image is based on the regular reflected light included in the reflected light. Since the component is included, even if the illuminance distribution of the excitation light in the observation unit is uniform, the standardized signal has a problem that unevenness in intensity occurs. This is due to the following reason.
[0010]
Since fluorescence has no directivity, when a fluorescent image signal is normalized with an image signal indicating a reflected image, it is necessary to use an image signal indicating a reflected image by reflected light having no directivity. Since the reflected light is composed of surface reflected light (regular reflected light) at the observation unit and diffuse reflected light excluding the regular reflected light, the reflected image of the observation unit is the regular reflected light and diffuse reflected light at the observation unit. It is obtained as an image in which components depending on are superimposed. In general, the directivity of the diffusely reflected light is not as directivity as fluorescence. Therefore, in order to correctly standardize the fluorescence image signal, it is necessary to perform the above-described normalization with an image signal that shows a reflected image of only a component that depends on diffusely reflected light from which a component due to specularly reflected light is removed.
[0011]
As a method for removing the component due to the specularly reflected light, for example, as shown in Japanese Patent Laid-Open No. Sho 62-247232, there is known a method for separating and detecting the component depending on the specularly reflected light and the diffusely reflected light with a polarizing filter. Yes. However, since the intensity of the specularly reflected light depends on the angle at which the excitation light is incident on the observation part, when the rotation angle of the polarizing filter is constant, a component that depends on the specularly reflected light from the reflected image of the observation part having irregularities is obtained. It is difficult to remove completely.
[0012]
Also, the illumination light optical system has a problem that the illumination light illuminance distribution becomes non-uniform due to the unevenness of the observation part inside the living body. Therefore, the intensity of the reflected light at the observation unit changes according to the illumination intensity of the illumination light, so that the normal image displayed on the image display means has uneven brightness and hue. In addition, the reflected light of the illumination light in the observation part inside the living body is composed of regular reflection light from the observation part and diffuse reflection light excluding the regular reflection light. When the observation part is accurately diagnosed, this regular reflection light is used. It is also necessary to remove components that depend on
[0013]
[Problems to be solved by the invention]
The present invention has been made in view of the above circumstances, and it is possible to remove unevenness of an image signal due to unevenness of illumination intensity distribution of illumination light and excitation light in an observation part inside a living body. An object of the present invention is to provide an endoscope apparatus that can remove a specular reflection image caused by specular reflection light and can accurately observe the state of the observation unit inside the living body. Another object of the present invention is to provide an endoscope apparatus that makes it easy to specify the position of an observation unit inside a living body.
[0014]
[Means for Solving the Problems]
An endoscope apparatus according to the present invention includes:
A leading end inserted inside the living body, introducing light from a light source arranged outside the living body into the living body, and irradiating the observation part inside the living body,
Imaging means for imaging the observation unit and outputting an image signal indicating the observation unit;
A measuring means for obtaining a relative positional relationship between the observation part and the light emission part emitted from the introduction tube;
The pseudo component included in the image signal is analyzed based on the output of the measuring means and the characteristics of the irradiation light emitted from the emitting unit measured in advance, and correction is performed so as to remove the pseudo component from the image signal. And an image processing means.
[0015]
Here, the “pseudo component included in the image signal” refers to an image generated due to the light according to a relative positional relationship between the observation unit and the light emission unit emitted from the introduction tube. It is a signal component and is an unnecessary component that should not be represented as an image signal.
[0016]
The image signal is an image signal indicating a normal image of the observation unit irradiated with illumination light emitted from the light source, or the observation unit that absorbs a photosensitive substance that emits fluorescence. It is an image signal indicating a fluorescence image of this observation part obtained by irradiating excitation light emitted from the light source in the excitation wavelength region of this photosensitive substance and detecting fluorescence emitted from this observation part at that time It is desirable. At this time, the image signal is not limited to either one, and may be both an image signal indicating a normal image and an image signal indicating a fluorescent image.
[0017]
In addition, the pseudo component may be a regular reflection image of the observation unit due to the regular reflection light of the observation unit of the light and / or unevenness of the image signal due to an illuminance distribution of the observation unit of the light. More preferably, it is desirable that the unevenness of the image signal is unevenness of the intensity and / or tone of the image signal.
[0018]
Further, as the measuring means, a computer tomography apparatus,
The light emitted from the observation unit and the introduction tube based on the shape of the observation unit obtained from the computer tomography apparatus and the position data of the observation unit of the light emission unit emitted from the introduction tube It is desirable that it is comprised from the calculating means which calculates a relative positional relationship with the radiation | emission part.
[0019]
【The invention's effect】
In the endoscope apparatus of the present invention having the above-described configuration, the relative positional relationship between the observation part and the light emission part emitted from the introduction tube of the endoscope apparatus to the observation part inside the living body, for example, the distance Since the measurement means can determine the inclination and the inclination, the pseudo component included in the image signal indicating the observation unit based on the output of the measurement unit and the characteristics of the irradiation light emitted from the emission unit measured in advance is obtained. The pseudo component can be removed from the image signal by analysis and image processing means. Therefore, the corrected image signal obtained from the image processing means does not include an unnecessary component as an image signal indicating the observation unit inside the living body.
[0020]
For example, in the case where the image signal is an image signal indicating a normal image of the observation unit, it is possible to remove unevenness in luminance and hue due to the unevenness of the illuminance distribution of the illumination light, and furthermore, due to regular reflection light. Uneven brightness can be removed.
[0021]
In addition, when the image signal is an image signal indicating a fluorescence image of the observation unit, it is possible to remove unevenness of the fluorescence intensity due to the nonuniformity of the illuminance distribution of the excitation light.
[0022]
In addition, since the distance between the irradiation unit and the observation unit is objectively measured, the position of the observation unit can be easily specified.
[0023]
Therefore, when the endoscope apparatus according to the present invention is used at a medical site, it is possible to display the normal image or fluorescent image of the observation unit on the image display device as a good image while specifying the position of the observation unit inside the living body. Therefore, the accuracy of diagnosis can be improved. In addition, the surgeon can grasp the tumor infiltration range with reference to this display image and determine an appropriate excision range.
[0024]
On the other hand, in the present invention, the measuring means can be arranged outside the living body. In this case, various types of computer tomography such as X-ray CT, ultrasonic diagnostic apparatus, MRI (magnetic resonance imaging) apparatus, PET (positron emission tomography), SPECT (single photon emission computer tomography), etc. An apparatus (hereinafter referred to as “CT apparatus”) can be used. By using the CT apparatus, it is possible to accurately measure the relative positional relationship between the emission part of the light emitted to the observation part inside the living body and the observation part, and the inside of the living body of the inserted endoscope. Since the position can also be accurately grasped, the position of the observation unit can be specified without depending on the insertion length of the introduction tube. Furthermore, since the video image of the endoscope apparatus and the video image of the CT apparatus can be simultaneously displayed on the image display device, it is possible to further improve the accuracy of diagnosis by comparing and examining these two videos.
[0025]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing an embodiment of an endoscope apparatus according to the present invention. The endoscope apparatus includes an endoscope 20, an X-ray CT apparatus body 30, an X-ray source 32, and an X-ray detector 34 disposed outside the living body, and an excitation light source. 12, the image processing device 14 and the calculation device 16 are configured by the control device 10 disposed outside the living body, and image display devices 40 and 42 for displaying image signals.
[0026]
The endoscope 20 has a flexible introduction tube 20 a, and the distal end portion of the introduction tube 20 a is inserted to the vicinity of the observation unit 52 inside the living body 50. Excitation light L1 is emitted from the excitation light source 12 constituting the control device 10, guided to the endoscope 20 via the light guide 13, and further via a light guide (not shown) stored in the introduction tube 20a. Then, the light is guided to the excitation light irradiation unit at the tip of the introduction tube 20a and irradiates the observation unit 52. At the distal end portion of the introduction tube 20a, fluorescent image capturing means (not shown) for detecting the fluorescence emitted from the observation unit 52 when the excitation light L1 is irradiated and capturing a fluorescent image is disposed. This fluorescent image imaging means outputs a fluorescent video signal S1 indicating a fluorescent image. The fluorescent video signal S1 is guided outside the living body through the introduction tube 20a and is input to the image processing device 14 constituting the control device 10.
[0027]
On the other hand, control from the X-ray CT apparatus main body 30 so that the X-ray source 32 and the X-ray detector 34 can perform tomographic observation of the observation part 52 inside the living body 50 and the excitation light irradiation part at the tip of the introduction tube 20a. The living body 50 is disposed to face the center so as to be movable based on the signal S6. The X-ray detector 34 detects a component transmitted through the living body 50 among the X-rays emitted from the X-ray source 32, and an output S5 of the X-ray detector 34 is input to the X-ray CT apparatus body 30. ing. The X-ray CT apparatus main body 30 outputs the measurement data D1 to the arithmetic unit 16 that constitutes the control apparatus 10, and obtains tomographic images of the observation part 52 inside the living body 50 and the excitation light irradiation part at the distal end of the introduction tube 20a. The CT image video signal S7 shown is output to the CT image display device 42.
[0028]
The calculation device 16 outputs the illuminance distribution data D2 as the calculation result to the image processing device 14, and the image processing device 14 outputs the fluorescence image video signal S3 whose intensity has been corrected to the image display device 40.
[0029]
Note that the irradiation characteristic data D3 of the excitation light L1 in the excitation light irradiation part at the tip of the introduction tube 20a is measured in advance and stored in a storage element (not shown) constituting the arithmetic device 16.
[0030]
Hereinafter, an operation of the endoscope apparatus having the above configuration will be described. In the observation part 52 inside the living body 50, a photosensitive substance having tumor affinity and emitting fluorescence when excited by light is absorbed in advance. As this photosensitive substance, for example, a porphyrin-based one is used.
[0031]
Excitation light L1 emitted from the excitation light source 12 constituting the control device 10 arranged outside the living body is guided to the endoscope 20 through the light guide 13, and further, a light guide (contained in the introduction tube 20a ( (Not shown) is guided to the excitation light irradiation unit at the tip of the introduction tube 20a to irradiate the observation unit 52. When the observation part 52 is irradiated with the excitation light L1, fluorescence is emitted from the photosensitive substance, and a fluorescence image capturing means (not shown) disposed at the distal end of the introduction tube 20a is caused by the fluorescence. The fluorescence image is taken and the fluorescence image signal S1 indicating the fluorescence image of the observation unit 52 is output. The fluorescent video signal S1 is guided to the outside of the living body through the introduction tube 20a and input to the image processing device 14 constituting the control device 10.
[0032]
On the other hand, the X-ray CT apparatus body 30 transmits the living body 50 while irradiating the living body 50 with X-rays while moving the X-ray source 32 and the X-ray detector 34 little by little according to the control signal S6. By detecting the X-rays detected by the X-ray detector 34, a tomographic image (CT image) of the observation part 52 inside the living body 50 and the excitation light irradiation part at the tip of the introduction tube 20a is taken. With such an X-ray CT apparatus, a number of CT images are taken so as to cut the living body 50 in a round shape, and thus the observation part 52 inside the living body 50 and the excitation light irradiation part at the distal end of the introduction tube 20a are three-dimensional. To be able to observe. Therefore, from the respective CT images and the movement distances of the X-ray source 32 and the X-ray detector 34, the distance and inclination between the observation unit 52 inside the living body 50 and the excitation light irradiation unit at the tip of the introduction tube 20a are calculated. , And the shape of the observation unit 52 can be measured. This arithmetic processing can be normally performed by a computer constituting a part of the main body 30 of the X-ray CT apparatus. It can also be performed by the arithmetic unit 16 described later. In this case, a signal indicating the CT image and data indicating the movement distance of the X-ray source 32 and the X-ray detector 34 may be input to the arithmetic unit 16.
[0033]
Measurement data D1 of the distance and inclination between the observation part 52 inside the living body 50 obtained by the X-ray CT apparatus and the excitation light irradiation part at the tip of the introduction tube 20a and the shape of the observation part 52 are input to the arithmetic unit 16. The Based on the distance data in the measurement data D1 and the irradiation characteristic data D3 of the excitation light L1 in the excitation light irradiation unit at the tip of the introduction tube 20a, the arithmetic device 16 calculates the excitation light illuminance distribution in the observation unit 52 as follows. Analysis is performed to calculate illuminance distribution data D2. The irradiation characteristic data D3 of the excitation light L1 is measured in advance, and if the observation unit 52 is flat, the irradiation characteristic data D3 of the excitation light L1 is directly given as the excitation light illuminance distribution of the observation unit 52. However, in general, the observation unit 52 is not flat but has irregularities. In this case, it is known that the excitation light density irradiated to the observation part 52 of the excitation light is inversely proportional to the square of the distance, and the distance between the observation part 52 and the excitation light irradiation part at the tip of the introduction tube 20a. From the data D1 and the irradiation characteristic data D3 of the excitation light L1, the excitation light illuminance distribution of the observation unit 52 can be calculated. Therefore, the illuminance distribution data D2 in the observation unit 52 is accurately obtained. It is well known that the fluorescence image is approximately proportional to the intensity of the excitation light. The image processing device 14 performs intensity correction on the fluorescent image video signal S1 based on the illuminance distribution data D2, and inputs the fluorescent image video signal S3 subjected to intensity correction to the image display device 40. Thereby, unevenness of the fluorescence intensity due to the non-uniformity of the illuminance distribution of the excitation light in the observation unit 52 is removed, and an accurate fluorescent image can be displayed on the image display device 40. In addition, the CT image of the observation unit 52 obtained by the X-ray CT apparatus is input to the CT image display device 42 as the CT image video signal S7 from the X-ray CT apparatus main body 30, and the CT image is displayed. The CT image and the fluorescence image can be compared, and a more accurate diagnosis is possible. Therefore, by using this endoscopic device for diagnosis and treatment of tumors inside the living body, the accuracy of diagnosis can be improved, and the surgeon can grasp the infiltration range of the tumor with reference to these display images. , Can determine the appropriate ablation range and ablate.
[0034]
The endoscope apparatus according to the present invention is not limited to the configuration of the above-described embodiment, and can be variously modified within the scope of the present invention. For example, in the case of capturing a normal image by illumination light, unevenness in luminance and hue of the normal image due to non-uniformity of the illumination light illumination distribution in the observation unit 52 can be removed by the same method as described above. .
[0035]
Furthermore, it is also possible to analyze the component of the regular reflection image by the regular reflection light in the observation unit 52 of the illumination light as follows and remove the regular reflection image included in the normal image. The specularly reflected light is light reflected from the surface of the observation unit 52 at an angle equal to the angle at which the illumination light enters the observation unit 52. Therefore, the angle at which the illumination light is incident on the observation unit 52 can be calculated from the inclination and shape data in the distance, inclination, and shape measurement data D1, and the reflection angle of the regular reflection light can also be calculated. On the other hand, since the intensity of the regular reflection light is proportional to the intensity of the illumination light, the calculation device 16 accurately calculates the illuminance distribution of the illumination light in the observation unit 52 based on the reflection angle of the regular reflection light, as described above. Thus, the specular reflection image can be analyzed accurately. Based on the analysis result, the image processing device 14 can accurately remove the components of the regular reflection image included in the normal image. Thereby, the uneven brightness of the normal image due to the regular reflection light of the illumination light in the observation unit 52 is removed, and the normal image with high accuracy can be displayed on the image display device 40.
[Brief description of the drawings]
FIG. 1 is a block diagram showing an endoscope apparatus according to an embodiment of the present invention.
10 Control unit
12 Light source for excitation light
13 Light guide
14 Image processing device
16 Arithmetic unit
20 Endoscope
20a introduction pipe
30 X-ray CT system
32 X-ray source
34 X-ray detector
40 Image display device
42 CT image display device
50 living body
52 Observation section L1 Excitation light D1 Distance, inclination and shape measurement data D2 Illuminance distribution data S1 Fluorescence image video signal S3 Intensity corrected fluorescence image video signal S5 X-ray detection signal S6 Control signal S7 CT image video signal

Claims (4)

生体内部に先端が挿入され、生体外に配された光源からの光を該生体内部に導入し該生体内部の観察部に照射せしめる導入管と、
前記観察部を撮像し該観察部を示す画像信号を出力する撮像手段と、
コンピュータトモグラフィ装置と、該コンピュータトモグラフィ装置により得られる画像から、前記観察部の形状および前記導入管より出射される前記光の出射部の位置のデータを求め、前記観察部と前記出射部との相対的な位置関係を算出する演算手段とから成る計測手段と
該計測手段の出力と、あらかじめ測定された前記出射部から出射される光照度分布とに基づいて、前記画像信号に含まれる前記光の前記観察部における照度分布の不均一性に起因する前記画像信号の強度のむらを解析し、該画像信号から前記画像信号の強度のむらを除去するように補正する画像処理手段とを備えたことを特徴とする内視鏡装置。
An introduction tube in which a tip is inserted inside a living body, light from a light source arranged outside the living body is introduced into the living body, and irradiated to an observation unit inside the living body;
Imaging means for imaging the observation unit and outputting an image signal indicating the observation unit;
A computer tomography device and an image obtained by the computer tomography device are used to obtain data on the shape of the observation unit and the position of the light emission unit emitted from the introduction tube, and the observation unit and the emission unit. Measuring means comprising an arithmetic means for calculating the relative positional relationship of
The output of said measuring means, based on the illuminance distribution of the light that will be emitted from the emitting portion, which is measured in advance, due to the nonuniformity of the illuminance distribution in the observation portion of the light included in the image signal the An endoscope apparatus comprising: an image processing unit that analyzes unevenness of an intensity of an image signal and corrects the unevenness of the intensity of the image signal from the image signal .
生体内部に先端が挿入され、生体外に配された光源からの光を該生体内部に導入し該生体内部の観察部に照射せしめる導入管と、
前記観察部を撮像し該観察部を示す画像信号を出力する撮像手段と、
コンピュータトモグラフィ装置と、該コンピュータトモグラフィ装置により得られる画像から、前記観察部の形状および前記導入管より出射される前記光の出射部の位置のデータを求め、前記観察部と前記出射部との相対的な位置関係を算出する演算手段とから成る計測手段と
該計測手段の出力とあらかじめ測定された前記出射部から出射される光照度分布とに基づいて、前記画像信号に含まれる前記光の前記観察部の正反射光に起因する該観察部の正反射像を解析し、該画像信号から前記正反射像を除去するように補正する画像処理手段とを備えたことを特徴とする内視鏡装置。
An introduction tube in which a tip is inserted inside a living body, light from a light source arranged outside the living body is introduced into the living body, and irradiated to an observation unit inside the living body;
Imaging means for imaging the observation unit and outputting an image signal indicating the observation unit;
A computer tomography device and an image obtained by the computer tomography device are used to obtain data on the shape of the observation unit and the position of the light emission unit emitted from the introduction tube, and the observation unit and the emission unit. Measuring means comprising an arithmetic means for calculating the relative positional relationship of
On the basis of the output pre-measured illuminance distribution of light that will be emitted from the emission portion of the measuring means, the positive of the observation portion due to the regular reflection light of the observation portion of the light included in the image signal An endoscope apparatus comprising: an image processing unit that analyzes a reflection image and corrects the image signal so as to remove the specular reflection image .
前記画像信号が、前記光源より発せられた照明光に照射された前記観察部の通常像を示す画像信号であることを特徴とする請求項1または2記載の内視鏡装置。The image signal is, the endoscope apparatus according to claim 1, wherein that the image signal representing the ordinary image of the observation area that is irradiated to the illumination light emitted from the light source. 前記画像信号が、蛍光を発する光感受性物質を吸収している前記観察部に対して、該光感受性物質の励起波長領域にある前記光源より発せられた励起光を照射し、そのとき該観察部から発せられた蛍光を検出して得られる該観察部の蛍光像を示す画像信号であることを特徴とする請求項記載の内視鏡装置。The image signal is irradiated with excitation light emitted from the light source in the excitation wavelength region of the photosensitive substance to the observation part that absorbs the photosensitive substance that emits fluorescence, and then the observation part The endoscope apparatus according to claim 1 , wherein the endoscope apparatus is an image signal indicating a fluorescence image of the observation unit obtained by detecting fluorescence emitted from the endoscope.
JP26827696A 1996-10-09 1996-10-09 Endoscope device Expired - Fee Related JP3662367B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP26827696A JP3662367B2 (en) 1996-10-09 1996-10-09 Endoscope device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP26827696A JP3662367B2 (en) 1996-10-09 1996-10-09 Endoscope device

Publications (2)

Publication Number Publication Date
JPH10108831A JPH10108831A (en) 1998-04-28
JP3662367B2 true JP3662367B2 (en) 2005-06-22

Family

ID=17456316

Family Applications (1)

Application Number Title Priority Date Filing Date
JP26827696A Expired - Fee Related JP3662367B2 (en) 1996-10-09 1996-10-09 Endoscope device

Country Status (1)

Country Link
JP (1) JP3662367B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020117744A1 (en) * 2018-12-05 2020-06-11 Intuitive Surgical Operations, Inc. Illumination corrected near-infrared (nir) imaging for image guided surgery

Also Published As

Publication number Publication date
JPH10108831A (en) 1998-04-28

Similar Documents

Publication Publication Date Title
US10314490B2 (en) Method and device for multi-spectral photonic imaging
US9226645B2 (en) System and method for normalized diffuse emission epi-illumination imaging and normalized diffuse emission transillumination imaging
JP4217403B2 (en) System for characterization and mapping of tissue lesions
US10070791B2 (en) Apparatus for caries detection
US9247241B2 (en) Method and apparatus for detection of caries
US10362983B2 (en) Near infrared photonic prostatoscopy analyzer
US10413619B2 (en) Imaging device
JP2987816B2 (en) Fluorescence observation device
JPS61159936A (en) Spectral image pick-up apparatus of biological tissue
EP1797818A2 (en) Method and system for tomographic imaging using fluorescent proteins
JP3662367B2 (en) Endoscope device
JP4109132B2 (en) Fluorescence determination device
RU2528087C1 (en) Device for measuring haemoglobin concentration and degree of blood oxygenation in mucous membranes
JP2010502980A (en) Displacement detection in optical tomography system
US20200405154A1 (en) Apparatus and method for in vivo imaging of soft and hard tissue interfaces

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040427

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050323

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080401

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090401

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090401

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100401

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110401

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120401

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130401

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees