JPH10108831A - Endoscope device - Google Patents
Endoscope deviceInfo
- Publication number
- JPH10108831A JPH10108831A JP8268276A JP26827696A JPH10108831A JP H10108831 A JPH10108831 A JP H10108831A JP 8268276 A JP8268276 A JP 8268276A JP 26827696 A JP26827696 A JP 26827696A JP H10108831 A JPH10108831 A JP H10108831A
- Authority
- JP
- Japan
- Prior art keywords
- image
- light
- image signal
- unit
- observation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
【0001】[0001]
【発明の属する技術分野】本発明は生体内部を観察する
ための内視鏡装置、特に内視鏡における照度分布に応じ
た補正を行う画像処理に関するものである。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an endoscope apparatus for observing the inside of a living body, and more particularly to image processing for performing correction in accordance with an illuminance distribution in an endoscope.
【0002】[0002]
【従来の技術】従来より、生体内部を観察したり、また
観察しながら治療するために、内視鏡が広く用いられて
いる。この内視鏡を使用して生体内部を観察するため
に、通常、生体外部に配された照明光源から発せられた
光を可撓性の導入管に収納された光ファイバよりなるラ
イトガイドを介して生体内に導き観察部を照射する。通
常像撮像手段が、この観察部で反射した照明光により観
察部の通常像を撮像し、この撮像手段の出力をCRT等
よりなる画像表示手段に表示する。そこで術者は、この
画像表示手段に表示された通常像を参考にして生体内部
における観察部の診断を行うことができる。2. Description of the Related Art Conventionally, an endoscope has been widely used for observing the inside of a living body or for treating while observing the inside of a living body. In order to observe the inside of a living body using this endoscope, light emitted from an illumination light source arranged outside the living body is usually transmitted through a light guide made of an optical fiber housed in a flexible introduction tube. To irradiate the observation section with the guide. The normal image capturing unit captures a normal image of the observation unit using the illumination light reflected by the observation unit, and displays the output of the imaging unit on an image display unit such as a CRT. Thus, the operator can diagnose the observation unit inside the living body with reference to the normal image displayed on the image display means.
【0003】一方、従来より、一般にPDD(Photodyn
amic Diagnosis)と称される光力学診断についての研究
が種々なされている。このPDDとは、腫瘍親和性を有
し、光により励起されたとき蛍光を発する光感受性物質
を予め生体内部の腫瘍部分に吸収させておき、その部分
に光感受性物質の励起波長領域にある励起光を照射して
蛍光を生じさせ、この蛍光による画像を表示して腫瘍部
分を診断する技術である。On the other hand, conventionally, generally, PDD (Photodyn
Various studies have been made on photodynamic diagnosis called amic Diagnosis). The PDD means that a photosensitizer having a tumor affinity and emitting fluorescence when excited by light is previously absorbed in a tumor portion inside a living body, and the portion in the excitation wavelength region of the photosensitizer in the portion is excited. This is a technique for irradiating light to generate fluorescence, displaying an image based on the fluorescence, and diagnosing a tumor portion.
【0004】例えば特公昭63−9464号、特開平1
−136630号、特開平7−59783号には、この
PDDを行なうための蛍光画像診断装置が開示されてい
る。この種の蛍光画像診断装置は基本的に、光感受性物
質の励起波長領域にある励起光を生体内部の観察部に対
して照射する励起光照射手段と、光感受性物質が発する
蛍光を検出して観察部の蛍光像を撮像する手段と、この
撮像手段の出力を受けてこの蛍光像を表示する画像表示
手段とからなるものであり、多くの場合、体腔内部に挿
入される内視鏡等に組み込まれた形に構成される。ここ
で、撮像された観察部の蛍光像を画像表示手段に表示さ
せると、光感受性物質が腫瘍親和性を有することによ
り、腫瘍の浸潤範囲が蛍光像として示される。そこで術
者はこの表示画像を参考にして腫瘍の浸潤範囲を把握
し、適切な切除範囲を決定することができる。For example, Japanese Patent Publication No. 63-9664,
JP-136630 and JP-A-7-59783 disclose a fluorescent image diagnostic apparatus for performing this PDD. Basically, this kind of fluorescent image diagnostic apparatus detects the excitation light irradiating means that irradiates the observation part inside the living body with the excitation light in the excitation wavelength region of the photosensitizer, and detects the fluorescence emitted by the photosensitizer. It consists of a means for capturing a fluorescent image of the observation unit, and an image display means for receiving the output of the image capturing means and displaying the fluorescent image. Composed into an integrated form. Here, when the captured fluorescent image of the observation unit is displayed on the image display means, the infiltration range of the tumor is shown as a fluorescent image because the photosensitizer has tumor affinity. Therefore, the operator can refer to this display image to grasp the invasion range of the tumor and determine an appropriate resection range.
【0005】これら内視鏡や蛍光診断装置(以下、「内
視鏡装置」という)を使用して治療操作を行う場合に
は、観察部の腫瘍部分の位置を特定するため生体内部に
挿入された内視鏡先端部の生体での位置を正確に把握し
たいという要求がある。通常は、内視鏡装置の導入管の
挿入長さに基づいて観察部の位置を特定しており、術者
の経験を必要としている。[0005] When performing a treatment operation using these endoscopes or fluorescence diagnostic devices (hereinafter referred to as "endoscope devices"), the medical device is inserted into a living body in order to identify the position of a tumor portion in an observation portion. There is also a demand to accurately grasp the position of the distal end of the endoscope in a living body. Usually, the position of the observation unit is specified based on the insertion length of the introduction tube of the endoscope apparatus, and requires the experience of the operator.
【0006】ところで、生体の部位には凹凸が有り、照
明光照射系や励起光照射系から観察部までの距離が均一
ではない事と照射光の光軸に対し生体の部位との角度が
一定でないために、観察部における光の照度は一般に不
均一である。このように光の照度が不均一であると、光
の照度の高低に応じて反射光や蛍光の強度が変化するの
で、画像表示手段に表示される通常像や蛍光像は観察部
の状態を正確に表わしたものとはならず、観察部の腫瘍
部分の診断を誤ることもあり得る。However, the body part has irregularities, the distance from the illumination light irradiation system or the excitation light irradiation system to the observation part is not uniform, and the angle of the body part with respect to the optical axis of the irradiation light is constant. Therefore, the illuminance of light at the observation unit is generally non-uniform. When the illuminance of the light is non-uniform, the intensity of the reflected light or the fluorescence changes according to the level of the illuminance of the light. Therefore, the normal image or the fluorescent image displayed on the image display means changes the state of the observation unit. It is not exactly represented, and the diagnosis of the tumor part in the observation part may be erroneous.
【0007】そこで、このような光の照度分布の不均一
性に起因する通常像や蛍光像のむらを除去するために、
例えば特開昭62−247232号、特公平3−587
29号に示されるように、蛍光像を撮像する際に観察部
で反射した励起光による反射像も撮像し、蛍光画像信号
を、この反射像を示す画像信号で割算して規格化する方
法や、本出願人による特願平8−109369号に示さ
れるように、生体内部の観察部に波長650nm以上の
近赤外光を照射し観察部で反射した近赤外光を検出して
観察部の近赤外像を撮像し、蛍光画像信号を、この近赤
外像を示す画像信号に基づいて各画素毎に規格化する方
法が提案されている。Therefore, in order to remove the unevenness of the normal image and the fluorescent image due to the non-uniformity of the illuminance distribution of light,
For example, Japanese Patent Application Laid-Open No. 62-247232, Japanese Patent Publication No. 3-587
As shown in No. 29, when a fluorescent image is captured, a reflected image due to the excitation light reflected by the observation unit is also captured, and the fluorescent image signal is divided by an image signal indicating the reflected image to standardize the fluorescent image signal. Further, as shown in Japanese Patent Application No. 8-109369 filed by the present applicant, near-infrared light having a wavelength of 650 nm or more is irradiated to an observation section inside a living body, and near-infrared light reflected by the observation section is detected and observed. A method has been proposed in which a near-infrared image of a part is captured and a fluorescence image signal is normalized for each pixel based on an image signal indicating the near-infrared image.
【0008】しかし、蛍光診断装置において通常用いら
れる励起光の波長範囲は、紫外部から可視部(300〜
600nm程度)にあり、このような励起光は人体等の
生体に大きく吸収されてしまうことが知られている(特
願平8−109369号明細書参照)。従って、励起光
が生体に大きく吸収されると、前記反射像を示す画像信
号は励起光照度分布だけではなく、この吸収の分布も反
映したものとなってしまう。そのため、この反射像を示
す画像信号を用いて前述の規格化を行っても、励起光の
照度分布の不均一性に起因する蛍光像のむらを正確に除
去することは不可能となる。一方、波長650nm以上
の近赤外光は、生体での吸収が少ないという点では優れ
ているが、励起光と近赤外光の波長が異なることから同
じ光学系を用いて観察部を照射する場合、照射領域が異
なるという問題を有する。従って、近赤外像を示す画像
信号に基づいて各画素毎に前述の規格化を行っても、励
起光の照度分布の不均一性に起因する蛍光像のむらを正
確に除去することは依然として不可能である。However, the wavelength range of the excitation light usually used in the fluorescence diagnostic apparatus is from the ultraviolet to the visible part (300 to
It is known that such excitation light is largely absorbed by a living body such as a human body (see Japanese Patent Application No. 8-109369). Therefore, when the excitation light is largely absorbed by the living body, the image signal indicating the reflected image reflects not only the illuminance distribution of the excitation light but also the distribution of the absorption. Therefore, even if the above-described normalization is performed using the image signal indicating the reflection image, it is impossible to accurately remove the unevenness of the fluorescent image due to the non-uniformity of the illuminance distribution of the excitation light. On the other hand, near-infrared light having a wavelength of 650 nm or more is excellent in that absorption in a living body is small, but the excitation light and the near-infrared light have different wavelengths so that the same optical system is used to irradiate the observation unit. In this case, there is a problem that the irradiation areas are different. Therefore, even if the above-described normalization is performed for each pixel based on an image signal indicating a near-infrared image, it is still impossible to accurately remove the unevenness of the fluorescent image due to the non-uniformity of the illuminance distribution of the excitation light. It is possible.
【0009】一方、上述のいずれの方法も、観察部にお
ける反射光による反射像を示す画像信号に基づいて蛍光
画像信号の規格化を行う方法であるが、反射像には反射
光に含まれる正反射光による成分も含まれるため、観察
部における励起光の照度分布がたとえ均一であったとし
ても、規格化された信号は強度のむらを生じるという問
題を有する。これは以下の理由による。On the other hand, any of the above-mentioned methods is a method of normalizing a fluorescent image signal based on an image signal indicating an image reflected by the reflected light in the observation unit. Since a component due to the reflected light is included, even if the illuminance distribution of the excitation light in the observation unit is uniform, the standardized signal has a problem that the intensity becomes uneven. This is for the following reason.
【0010】蛍光には指向性がないから、反射像を示す
画像信号で蛍光画像信号を規格化する場合には指向性の
ない反射光による反射像を示す画像信号を使用する必要
がある。反射光は、観察部での表面反射光(正反射光)
とこの正反射光を除いた拡散反射光よりなるため、前記
観察部の反射像は、観察部での正反射光と拡散反射光に
依存する成分を重畳した像として得られる。一般には、
この拡散反射光の指向性は、蛍光と同様に指向性がな
い。従って、蛍光画像信号の規格化を正確に行うために
は、正反射光による成分を除去した拡散反射光に依存す
る成分のみの反射像を示す画像信号で前述の正規化を行
う必要がある。Since fluorescence has no directivity, when standardizing a fluorescence image signal with an image signal representing a reflected image, it is necessary to use an image signal representing a reflected image due to reflected light having no directivity. The reflected light is the surface reflection light (specular reflection light) at the observation unit
And the diffuse reflection light excluding the regular reflection light, the reflection image of the observation unit is obtained as an image in which the component depending on the regular reflection light and the diffuse reflection light in the observation unit is superimposed. Generally,
The directivity of the diffusely reflected light has no directivity similarly to the fluorescence. Therefore, in order to accurately standardize the fluorescence image signal, it is necessary to perform the above-described normalization on an image signal indicating a reflection image of only a component dependent on diffuse reflection light from which a component due to regular reflection light has been removed.
【0011】この正反射光による成分を除去する方法と
して、例えば特開昭62−247232号に示されるよ
うに、偏光フィルタで正反射光と拡散反射光に依存する
成分を分離、検出する方法が知られている。しかし、正
反射光の強度は励起光が観察部に入射する角度に依存す
るため、偏光フィルタの回転角度を一定にした場合、凹
凸を有する観察部の反射像から正反射光に依存する成分
を完全に除去することは困難である。As a method of removing the component due to the specular reflection light, for example, as disclosed in Japanese Patent Application Laid-Open No. 62-247232, a method of separating and detecting a component depending on the specular reflection light and the diffuse reflection light with a polarizing filter is known. Are known. However, since the intensity of the specularly reflected light depends on the angle at which the excitation light is incident on the observation unit, when the rotation angle of the polarizing filter is fixed, a component that depends on the specularly reflected light is obtained from the reflection image of the observation unit having irregularities. It is difficult to completely remove.
【0012】また、照明光光学系においても、生体内部
の観察部の凹凸により照明光照度分布が不均一となる問
題を有している。従って、照明光の照度の高低に応じて
観察部での反射光の強度が変化するので、画像表示手段
に表示される通常像は輝度や色相にむらを生じる。ま
た、生体内部の観察部における照明光の反射光は、観察
部での正反射光とこの正反射光を除いた拡散反射光より
なり、観察部を正確に診断するに際しては、この正反射
光に依存する成分を除去する必要もある。Further, the illumination light optical system also has a problem that the illumination light illuminance distribution becomes non-uniform due to unevenness of the observation portion inside the living body. Therefore, since the intensity of the reflected light at the observation unit changes according to the level of the illuminance of the illumination light, the normal image displayed on the image display means has uneven brightness and hue. The reflected light of the illumination light at the observation unit inside the living body is composed of the specular reflection light at the observation unit and the diffuse reflection light excluding the specular reflection light. It is also necessary to remove components that depend on.
【0013】[0013]
【発明が解決しようとする課題】本発明は上記の事情に
鑑みてなされたものであり、生体内部の観察部における
照明光や励起光の照度分布の不均一性に起因する画像信
号のむらを除去可能ならしめるとともに、この観察部の
正反射光に起因する正反射像の除去も可能ならしめ、前
記生体内部の観察部の状態を精度よく観察することので
きる内視鏡装置を提供することを目的とする。また、本
発明は生体内部の観察部の位置の特定を容易ならしめる
内視鏡装置を提供することを目的とすものである。SUMMARY OF THE INVENTION The present invention has been made in view of the above circumstances, and eliminates unevenness of an image signal due to non-uniformity of the illuminance distribution of illumination light or excitation light in an observation section inside a living body. It is also possible to provide an endoscope apparatus capable of observing the state of the observation unit inside the living body with high accuracy, as well as removing a regular reflection image caused by the regular reflection light of the observation unit. Aim. Another object of the present invention is to provide an endoscope apparatus that facilitates identification of the position of an observation unit inside a living body.
【0014】[0014]
【課題を解決するための手段】本発明による内視鏡装置
は、生体内部に先端が挿入され、生体外に配された光源
からの光をこの生体内部に導入し、この生体内部の観察
部に照射せしめる導入管と、前記観察部を撮像し、この
観察部を示す画像信号を出力する撮像手段と、前記観察
部と前記導入管より出射される前記光の出射部との相対
的な位置関係を求める計測手段と、この計測手段の出力
とあらかじめ測定された前記出射部から出射される照射
光の特性に基づいて前記画像信号に含まれる擬似成分を
解析し、この画像信号からこの擬似成分を除去するよう
に補正する画像処理手段とを備えたことを特徴とするも
のである。An endoscope apparatus according to the present invention has a distal end inserted into a living body, introduces light from a light source disposed outside the living body into the living body, and provides an observation section inside the living body. An imaging tube for imaging the observation unit and outputting an image signal indicating the observation unit; and a relative position between the observation unit and the emission unit of the light emitted from the introduction tube. Measuring means for determining the relationship; analyzing a pseudo component included in the image signal based on an output of the measuring means and a previously measured characteristic of irradiation light emitted from the emission unit; And image processing means for correcting so as to remove the image.
【0015】ここで、「画像信号に含まれる擬似成分」
とは、前記観察部と前記導入管より出射される前記光の
出射部との相対的な位置関係に応じて前記光に起因して
発生する画像信号の成分であって、本来、画像信号とし
て表出してはならない不要な成分である。Here, "a pseudo component included in an image signal"
Is a component of an image signal generated due to the light in accordance with a relative positional relationship between the observation unit and an emission unit of the light emitted from the introduction tube, and is originally an image signal. It is an unnecessary component that must not be exposed.
【0016】なお、前記画像信号は、前記光源より発せ
られた照明光に照射された前記観察部の通常像を示す画
像信号、または、蛍光を発する光感受性物質を吸収して
いる前記観察部に対して、この光感受性物質の励起波長
領域にある前記光源より発せられた励起光を照射し、そ
のときこの観察部から発せられた蛍光を検出して得られ
るこの観察部の蛍光像を示す画像信号であることが望ま
しい。この際、この画像信号は、いずれか一方に限るも
のではなく、通常像を示す画像信号および蛍光像を示す
画像信号の両方であってもかまわない。The image signal may be an image signal indicating a normal image of the observation unit irradiated with the illumination light emitted from the light source, or the image signal may be transmitted to the observation unit absorbing a fluorescent substance which emits fluorescence. On the other hand, an image showing a fluorescence image of the observation part obtained by irradiating the excitation light emitted from the light source in the excitation wavelength region of the photosensitive substance and detecting the fluorescence emitted from the observation part at that time. Preferably, it is a signal. At this time, the image signal is not limited to either one, and may be both an image signal indicating a normal image and an image signal indicating a fluorescent image.
【0017】また、前記擬似成分は、前記光の前記観察
部の正反射光に起因するこの観察部の正反射像および/
または前記光の前記観察部の照度分布に起因する前記画
像信号のむらであることが望ましく、さらに詳細には、
この画像信号のむらが、この画像信号の強度および/ま
たは色調のむらであることが望ましい。Further, the pseudo component includes a specular reflection image of the observation unit and / or a specular reflection image of the light resulting from the specular reflection light of the observation unit.
Or it is desirable that the image signal is uneven due to the illuminance distribution of the observation unit of the light, more specifically,
It is desirable that the unevenness of the image signal is unevenness of the intensity and / or color tone of the image signal.
【0018】また、前記計測手段としては、コンピュー
タトモグラフィ装置と、このコンピュータトモグラフィ
装置より得られる前記観察部の形状および前記導入管よ
り出射される前記光の出射部の前記観察部の位置のデー
タに基づいて前記観察部と前記導入管より出射される前
記光の出射部との相対的な位置関係を算出する演算手段
とから構成されることが望ましい。The measuring means may include a computer tomography apparatus, a shape of the observation section obtained by the computer tomography apparatus, and a position of the observation section of the emission section of the light emitted from the introduction tube. It is preferable that the information processing apparatus includes an arithmetic unit that calculates a relative positional relationship between the observation unit and an emission unit of the light emitted from the introduction tube based on data.
【0019】[0019]
【発明の効果】上記構成を有する本発明の内視鏡装置に
おいては、この内視鏡装置の導入管より生体内部の観察
部へ出射される光の出射部とこの観察部との相対的な位
置関係、例えば距離や傾き等を計測手段によって求める
ことができるので、この計測手段の出力とあらかじめ測
定された前記出射部から出射される照射光の特性に基づ
いて前記観察部を示す画像信号に含まれる擬似成分を解
析し、画像処理手段によってこの画像信号から擬似成分
を除去することができる。従って、この画像処理手段よ
り得られる補正された画像信号は、生体内部の観察部を
示す画像信号として不要な成分を含まない。According to the endoscope apparatus of the present invention having the above-described structure, the relative position between the exit section of light emitted from the introduction tube of the endoscope apparatus to the observation section inside the living body and the observation section is determined. Since a positional relationship, for example, a distance or a tilt, can be obtained by the measuring unit, the image signal indicating the observation unit is output based on the output of the measuring unit and the previously measured characteristics of the irradiation light emitted from the emission unit. The included pseudo component is analyzed, and the pseudo component can be removed from the image signal by the image processing means. Therefore, the corrected image signal obtained by the image processing means does not include an unnecessary component as an image signal indicating the observation section inside the living body.
【0020】例えば、画像信号が観察部の通常像を示す
画像信号である場合は、照明光の照度分布の不均一性に
起因する輝度や色相のむらを除去することができ、さら
に、正反射光に起因する輝度のむらも除去できる。For example, when the image signal is an image signal indicating a normal image of the observation section, unevenness in luminance and hue due to non-uniformity of the illuminance distribution of the illumination light can be removed. The unevenness in luminance due to the above can also be removed.
【0021】また、画像信号が観察部の蛍光像を示す画
像信号である場合は、励起光の照度分布の不均一性に起
因する蛍光強度のむらを除去することができる。Further, when the image signal is an image signal indicating a fluorescent image of the observation section, it is possible to remove unevenness in fluorescent intensity due to non-uniformity of the illuminance distribution of the excitation light.
【0022】また、照射部と観察部の距離が客観的に測
定されるため、観察部の位置の特定が容易となる。Further, since the distance between the irradiation unit and the observation unit is objectively measured, it is easy to specify the position of the observation unit.
【0023】従って、本発明による内視鏡装置を医療現
場で使用すれば、生体内部の観察部の位置を特定しつつ
この観察部の通常像や蛍光像を良好な映像として画像表
示装置に表示することができるため、診断の精度を向上
させることができる。また、術者はこの表示画像を参考
にして腫瘍の浸潤範囲を把握し、適切な切除範囲を決定
することができる。Therefore, when the endoscope apparatus according to the present invention is used in a medical field, the position of the observation section inside the living body is specified, and the normal image and the fluorescence image of the observation section are displayed on the image display device as good images. Therefore, the accuracy of diagnosis can be improved. Also, the operator can grasp the invasion range of the tumor with reference to the displayed image and determine an appropriate resection range.
【0024】一方、本発明においては、計測手段を生体
外部に配することもできる。この場合、X線CT、超音
波診断装置、MRI(磁気共鳴イメージング)装置、P
ET(ポジトロン・エミッション・トモグラフィ)、S
PECT(シングル・フォトン・エミッション・コンピ
ュータ・トモグラフィ)等の各種コンピュータ・トモグ
ラフィ装置(以下「CT装置」という)を使用すること
が可能である。CT装置を使うことにより生体内部の観
察部へ出射される光の出射部とこの観察部との相対的な
位置関係を精度良く測定することができ、また、挿入し
た内視鏡の生体内部の位置も正確に把握できるため、導
入管の挿入長さに頼ることなく観察部の位置の特定を行
うことができる。さらに、内視鏡装置の映像とCT装置
の映像を画像表示装置に同時に表示できるので、この両
映像を比較、検討することにより、さらに診断の精度を
高めることが可能となる。On the other hand, in the present invention, the measuring means can be arranged outside the living body. In this case, X-ray CT, ultrasonic diagnostic equipment, MRI (magnetic resonance imaging) equipment, P
ET (positron emission tomography), S
Various computer tomography apparatuses (hereinafter, referred to as “CT apparatuses”) such as PECT (single photon emission computer tomography) can be used. By using a CT device, it is possible to accurately measure the relative positional relationship between the emission part of the light emitted to the observation part inside the living body and this observation part, and also to measure the inside of the living body of the inserted endoscope. Since the position can be accurately grasped, the position of the observation unit can be specified without depending on the insertion length of the introduction tube. Further, since the image of the endoscope apparatus and the image of the CT apparatus can be simultaneously displayed on the image display apparatus, the accuracy of diagnosis can be further improved by comparing and examining the two images.
【0025】[0025]
【発明の実施の形態】以下、図面を参照して本発明の実
施の形態を詳細に説明する。図1は、本発明による内視
鏡装置の実施の形態を示すブロック図である。この内視
鏡装置は、内視鏡20と、生体外に配設されたX線CT装
置本体30、X線源32、およびX線検出器34からなるX線
CT装置と、励起光用光源12、画像処理装置14、演算装
置16よりなり生体外に配された制御装置10と、画像信号
を表示する画像表示装置40、42とにより構成される。Embodiments of the present invention will be described below in detail with reference to the drawings. FIG. 1 is a block diagram showing an embodiment of an endoscope apparatus according to the present invention. The endoscope apparatus includes an endoscope 20, an X-ray CT apparatus including an X-ray CT apparatus main body 30, an X-ray source 32, and an X-ray detector 34 provided outside a living body, and a light source for excitation light. It comprises a control device 10, which is composed of an image processing device 14, an arithmetic device 16, and is arranged outside the living body, and image display devices 40, 42 for displaying image signals.
【0026】内視鏡20は可撓性を有する導入管20aを有
しており、この導入管20aの先端部が生体50の内部の観
察部52の近傍まで挿入されている。励起光L1が制御装
置10を構成する励起光用光源12から発せられ、ライトガ
イド13を介して内視鏡20へ導かれ、さらに導入管20aに
納められたライトガイド(図示せず)を介して導入管20
aの先端の励起光照射部まで導かれ、観察部52を照射す
る。導入管20aの先端部には、励起光L1が照射された
ことにより観察部52から発せられる蛍光を検出して蛍光
像を撮像する蛍光像撮像手段(図示せず)が配設されて
おり、この蛍光像撮像手段が蛍光像を示す蛍光映像信号
S1を出力する。蛍光映像信号S1は、導入管20aを介
して生体外に導かれ制御装置10を構成する画像処理装置
14へ入力される。The endoscope 20 has a flexible introduction tube 20a, and the distal end of the introduction tube 20a is inserted into the living body 50 to the vicinity of the observation section 52. The excitation light L1 is emitted from the excitation light source 12 constituting the control device 10, guided to the endoscope 20 via the light guide 13, and further transmitted through the light guide (not shown) accommodated in the introduction tube 20a. Introductory pipe 20
The light is guided to the excitation light irradiation unit at the tip of “a”, and irradiates the observation unit 52. At the distal end portion of the introduction tube 20a, a fluorescence image capturing means (not shown) for detecting a fluorescence emitted from the observation unit 52 by being irradiated with the excitation light L1 and capturing a fluorescence image is provided. The fluorescent image capturing means outputs a fluorescent image signal S1 indicating a fluorescent image. The fluorescent image signal S1 is guided out of the living body through the introduction tube 20a, and constitutes the control device 10.
Entered into 14.
【0027】一方、X線源32およびX線検出器34が、生
体50の内部の観察部52および導入管20aの先端の励起光
照射部を断層観察し得るように、X線CT装置本体30か
らの制御信号S6に基づいて移動可能なように生体50を
中心に対向して配設されている。X線検出器34は、X線
源32より発せられたX線のうち生体50を透過した成分を
検出するものであり、X線検出器34の出力S5がX線C
T装置本体30に入力されている。X線CT装置本体30
は、測定データD1を制御装置10を構成する演算装置16
へ出力するとともに、生体50の内部の観察部52および導
入管20aの先端部の励起光照射部の断層像を示すCT像
映像信号S7をCT画像表示装置42へ出力する。On the other hand, the X-ray CT apparatus main body 30 is so arranged that the X-ray source 32 and the X-ray detector 34 can perform tomographic observation of the observation section 52 inside the living body 50 and the excitation light irradiation section at the tip of the introduction tube 20a. Are arranged facing each other around the living body 50 so as to be movable based on a control signal S6. The X-ray detector 34 detects a component of the X-rays emitted from the X-ray source 32 that has passed through the living body 50. The output S5 of the X-ray detector 34 is an X-ray C
It is input to the T device main body 30. X-ray CT system body 30
Is an arithmetic unit 16 that constitutes the control device 10
At the same time, a CT image video signal S7 indicating a tomographic image of the observation section 52 inside the living body 50 and the excitation light irradiation section at the distal end of the introduction tube 20a is output to the CT image display device 42.
【0028】演算装置16は、演算結果である照度分布デ
ータD2を画像処理装置14へ出力し、画像処理装置14
が、強度補正された蛍光像映像信号S3を画像表示装置
40へ出力する。The arithmetic unit 16 outputs the illuminance distribution data D2 as a calculation result to the image processing unit 14, and outputs the illuminance distribution data D2 to the image processing unit 14.
Converts the intensity-corrected fluorescent image video signal S3 into an image display device.
Output to 40.
【0029】なお、導入管20aの先端の励起光照射部に
おける励起光L1の照射特性データD3が、あらかじめ
測定されており、演算装置16を構成する記憶素子(図示
せず)に記憶されている。The irradiation characteristic data D3 of the excitation light L1 in the excitation light irradiation section at the tip of the introduction tube 20a is measured in advance and stored in a storage element (not shown) constituting the arithmetic unit 16. .
【0030】以下、上記構成の内視鏡装置の作用につい
て説明する。生体50の内部の観察部52には、腫瘍親和性
を有し、光により励起されたとき蛍光を発する光感受性
物質が予め吸収されている。この光感受性物質として
は、例えばポルフィリン系のものが用いられる。Hereinafter, the operation of the endoscope apparatus having the above configuration will be described. In the observation section 52 inside the living body 50, a photosensitizer having a tumor affinity and emitting fluorescence when excited by light is previously absorbed. As the photosensitizer, for example, a porphyrin-based photosensitizer is used.
【0031】生体外に配された制御装置10を構成する励
起光用光源12から発せられる励起光L1は、ライトガイ
ド13を介して内視鏡20へ導かれ、さらに導入管20aに納
められたライトガイド(図示せず)を介して導入管20a
の先端の励起光照射部まで導かれ、観察部52を照射す
る。励起光L1が観察部52に照射されると、上記光感受
性物質から蛍光が発せられ、この蛍光により導入管20a
の先端部に配設された蛍光像撮像手段(図示せず)が観
察部52の蛍光像を撮像し、この観察部52の蛍光像を示す
蛍光映像信号S1を出力する。蛍光映像信号S1は、導
入管20aを介して生体外に導かれ制御装置10を構成する
画像処理装置14へ入力されている。Excitation light L1 emitted from the excitation light source 12 constituting the control device 10 arranged outside the living body is guided to the endoscope 20 via the light guide 13, and further stored in the introduction tube 20a. Introducing tube 20a via light guide (not shown)
The light is guided to the excitation light irradiating section at the tip of, and is irradiated to the observation section 52. When the observation section 52 is irradiated with the excitation light L1, fluorescence is emitted from the photosensitizer, and the fluorescence causes the introduction tube 20a to emit light.
The fluorescent image capturing means (not shown) provided at the tip of the camera captures a fluorescent image of the observation unit 52 and outputs a fluorescent image signal S1 indicating the fluorescent image of the observation unit 52. The fluorescent image signal S1 is guided out of the living body through the introduction tube 20a and is input to the image processing device 14 constituting the control device 10.
【0032】一方、X線CT装置本体30は、制御信号S
6によりX線源32およびX線検出器34を少しずつ移動さ
せつつ、X線源32から生体50にX線を照射しながら、生
体50を透過したX線をX線検出器34により検出すること
により、生体50の内部の観察部52および導入管20aの先
端部の励起光照射部の断層像(CT像)を撮像する。こ
のようなX線CT装置により、生体50を輪切りするよう
にCT像を何枚も撮像することによって、生体50の内部
の観察部52および導入管20aの先端部の励起光照射部を
立体的に観察し得るようになる。従って、それぞれのC
T像とX線源32およびX線検出器34の移動距離から、演
算処理によって生体50の内部の観察部52と導入管20aの
先端部の励起光照射部との距離と傾き、および観察部52
の形状を測定することができる。この演算処理は通常X
線CT装置本体30の一部を構成するコンピュータにより
行うことができる。また、後述の演算装置16によって行
うことも可能である。この場合は、前記CT像を示す信
号および前記X線源32およびX線検出器34の移動距離を
示すデータを演算装置16へ入力させればよい。On the other hand, the main body 30 of the X-ray CT
While the X-ray source 32 and the X-ray detector 34 are moved little by little by 6 and the X-ray source 32 irradiates the living body 50 with X-rays, the X-rays transmitted through the living body 50 are detected by the X-ray detector 34. Thus, a tomographic image (CT image) of the excitation light irradiating unit at the distal end of the observation unit 52 and the introduction tube 20a inside the living body 50 is captured. By using such an X-ray CT apparatus, a plurality of CT images are taken so as to slice the living body 50, and the observation section 52 inside the living body 50 and the excitation light irradiating section at the distal end of the introduction tube 20a are three-dimensionally formed. Can be observed. Therefore, each C
From the T image and the moving distance of the X-ray source 32 and the X-ray detector 34, the distance and inclination between the observation unit 52 inside the living body 50 and the excitation light irradiation unit at the distal end of the introduction tube 20a are calculated, and the observation unit 52
Can be measured. This arithmetic processing is usually X
It can be performed by a computer constituting a part of the X-ray CT apparatus main body 30. Further, it can also be performed by the arithmetic unit 16 described later. In this case, a signal indicating the CT image and data indicating the moving distance of the X-ray source 32 and the X-ray detector 34 may be input to the arithmetic unit 16.
【0033】X線CT装置により得られる生体50の内部
の観察部52と導入管20aの先端部の励起光照射部との距
離と傾き、および観察部52の形状の測定データD1は演
算装置16へ入力される。演算装置16は、測定データD1
中の距離のデータおよび導入管20aの先端部の励起光照
射部における励起光L1の照射特性データD3に基づい
て、観察部52における励起光照度分布を以下のように解
析し、照度分布データD2を算出する。励起光L1の照
射特性データD3はあらかじめ測定されており、観察部
52が平坦であれば励起光L1の照射特性データD3がそ
のまま観察部52の励起光照度分布として与えられる。し
かし、一般には、観察部52は平坦ではなく凹凸を有す
る。この場合は、励起光の観察部52へ照射される励起光
密度は距離の2乗に反比例することが知られており、観
察部52と導入管20aの先端部の励起光照射部との距離の
データD1と、励起光L1の照射特性のデータD3よ
り、観察部52の励起光照度分布を演算により算出するこ
とができる。従って、観察部52における照度分布データ
D2が正確に求められる。蛍光像は、励起光の強度にほ
ぼ比例することは周知である。画像処理装置14は、この
照度分布データD2に基づき蛍光像映像信号S1に対し
て強度補正を行い、強度補正のされた蛍光像映像信号S
3を画像表示装置40へ入力する。これにより、観察部52
における励起光の照度分布の不均一性に起因する蛍光強
度のむらが除去され、精度の良い蛍光画像を画像表示装
置40に表示することができる。また、X線CT装置によ
り得られる観察部52のCT像が、X線CT装置本体30よ
りCT像映像信号S7としてCT画像表示装置42に入力
されCT像が表示されているため、同時に表示されたC
T像と蛍光像とを比較することができ、一層精度の良い
診断が可能となる。従って、この内視鏡装置を生体内部
の腫瘍の診断、治療に使用することにより、診断の精度
を向上させることができ、術者は、これら表示画像を参
考にして腫瘍の浸潤範囲を把握し、適切な切除範囲を決
定し切除することができる。The measurement data D1 of the distance and inclination between the observation section 52 inside the living body 50 and the excitation light irradiation section at the distal end of the introduction tube 20a, and the measurement data D1 of the shape of the observation section 52 obtained by the X-ray CT apparatus are calculated by the arithmetic unit 16 Is input to The arithmetic unit 16 calculates the measurement data D1
Based on the medium distance data and the irradiation characteristic data D3 of the excitation light L1 in the excitation light irradiation unit at the distal end of the introduction tube 20a, the excitation light illuminance distribution in the observation unit 52 is analyzed as follows, and the illuminance distribution data D2 is obtained. calculate. The irradiation characteristic data D3 of the excitation light L1 is measured in advance, and the observation unit
If 52 is flat, the irradiation characteristic data D3 of the excitation light L1 is directly given as the excitation light illuminance distribution of the observation unit 52. However, in general, the observation section 52 is not flat but has irregularities. In this case, it is known that the excitation light density of the excitation light applied to the observation unit 52 is inversely proportional to the square of the distance, and the distance between the observation unit 52 and the excitation light irradiation unit at the distal end of the introduction tube 20a is known. The excitation light illuminance distribution of the observation unit 52 can be calculated by calculation from the data D1 and the irradiation characteristic data D3 of the excitation light L1. Therefore, the illuminance distribution data D2 in the observation unit 52 can be obtained accurately. It is well known that a fluorescent image is almost proportional to the intensity of excitation light. The image processing device 14 performs intensity correction on the fluorescent image video signal S1 based on the illuminance distribution data D2, and performs the intensity-corrected fluorescent image video signal S1.
3 is input to the image display device 40. Thereby, the observation unit 52
The unevenness of the fluorescence intensity due to the non-uniformity of the illuminance distribution of the excitation light in the above is removed, and a high-accuracy fluorescence image can be displayed on the image display device 40. Further, the CT image of the observation unit 52 obtained by the X-ray CT apparatus is input from the X-ray CT apparatus main body 30 as the CT image video signal S7 to the CT image display apparatus 42 and displayed at the same time. C
The T image and the fluorescent image can be compared, and more accurate diagnosis can be performed. Therefore, the accuracy of diagnosis can be improved by using this endoscope apparatus for diagnosis and treatment of a tumor inside a living body, and the operator can grasp the invasion range of the tumor by referring to these display images. , An appropriate resection range can be determined and resection can be performed.
【0034】なお、本発明による内視鏡装置は、上述し
た実施例の構成に限定されるものではなく、この発明の
範囲内で種々変形可能である。例えば、照明光による通
常像を撮像する場合にあって、観察部52における照明光
の照度分布の不均一性に起因する通常画像の輝度や色相
のむらを上述と同様な方法により除去することができ
る。The endoscope apparatus according to the present invention is not limited to the configuration of the above-described embodiment, but can be variously modified within the scope of the present invention. For example, when capturing a normal image with illumination light, unevenness in luminance and hue of the normal image due to non-uniformity of the illuminance distribution of the illumination light in the observation unit 52 can be removed by the same method as described above. .
【0035】さらに、照明光の観察部52における正反射
光による正反射像の成分を以下のように解析し、通常像
に含まれる正反射像を除去することも可能である。正反
射光は、照明光が観察部52へ入射する角度に等しい角度
で、観察部52の表面から反射していく光である。従っ
て、距離、傾きおよび形状の測定データD1中の傾きお
よび形状のデータより、照明光が観察部52へ入射する角
度が算出でき正反射光の反射角度も算出できる。一方、
正反射光の強度は照明光の強度に比例するから、前述と
同様に、演算装置16は、観察部52における照明光の照度
分布を正確に算出し、正反射光の反射角度に基づいて正
反射像を正確に解析することができる。画像処理装置14
は、この解析結果に基づいて、通常像に含まれる正反射
像の成分を精度良く除去することができる。これによ
り、観察部52における照明光の正反射光に起因する通常
像の輝度のむらが除去され、精度の良い通常像を画像表
示装置40に表示することができる。Further, it is also possible to analyze the components of the specular reflection image of the illumination light by the specular reflection light in the observation unit 52 as follows, and remove the specular reflection image included in the normal image. The specularly reflected light is light that is reflected from the surface of the observation unit 52 at an angle equal to the angle at which the illumination light enters the observation unit 52. Therefore, the angle at which the illumination light enters the observation unit 52 can be calculated from the inclination and shape data in the distance, inclination, and shape measurement data D1, and the reflection angle of the specularly reflected light can also be calculated. on the other hand,
Since the intensity of the specularly reflected light is proportional to the intensity of the illumination light, the arithmetic unit 16 accurately calculates the illuminance distribution of the illumination light in the observation unit 52 as described above, and based on the reflection angle of the specularly reflected light. The reflected image can be accurately analyzed. Image processing device 14
Can accurately remove the components of the regular reflection image included in the normal image based on the analysis result. As a result, the unevenness of the brightness of the normal image caused by the specular reflection light of the illumination light in the observation unit 52 is removed, and the accurate normal image can be displayed on the image display device 40.
【図1】本発明の実施の形態である内視鏡装置を示すブ
ロック図FIG. 1 is a block diagram showing an endoscope apparatus according to an embodiment of the present invention.
10 制御装置 12 励起光用光源 13 ライトガイド 14 画像処理装置 16 演算装置 20 内視鏡 20a 導入管 30 X線CT装置本体 32 X線源 34 X線検出器 40 画像表示装置 42 CT画像表示装置 50 生体 52 観察部 L1 励起光 D1 距離、傾きおよび形状の測定データ D2 照度分布データ S1 蛍光像映像信号 S3 強度補正のされた蛍光像映像信号 S5 X線検出信号 S6 制御信号 S7 CT像映像信号 10 Control device 12 Light source for excitation light 13 Light guide 14 Image processing device 16 Processing device 20 Endoscope 20a Introductory tube 30 X-ray CT device main body 32 X-ray source 34 X-ray detector 40 Image display device 42 CT image display device 50 Living body 52 Observation part L1 Excitation light D1 Measurement data of distance, inclination and shape D2 Illuminance distribution data S1 Fluorescence image image signal S3 Fluorescence image image signal with intensity correction S5 X-ray detection signal S6 Control signal S7 CT image image signal
Claims (6)
された光源からの光を該生体内部に導入し該生体内部の
観察部に照射せしめる導入管と、 前記観察部を撮像し該観察部を示す画像信号を出力する
撮像手段と、 前記観察部と前記導入管より出射される前記光の出射部
との相対的な位置関係を求める計測手段と、 該計測手段の出力とあらかじめ測定された前記出射部か
ら出射される照射光の特性に基づいて前記画像信号に含
まれる擬似成分を解析し、該画像信号から該擬似成分を
除去するように補正する画像処理手段とを備えたことを
特徴とする内視鏡装置。1. An introduction tube having a tip inserted into a living body, for introducing light from a light source arranged outside the living body into the living body, and irradiating an observation section inside the living body, and an imaging section for imaging the observation section. An imaging unit that outputs an image signal indicating an observation unit; a measurement unit that determines a relative positional relationship between the observation unit and an emission unit of the light that is emitted from the introduction tube; an output of the measurement unit and measurement in advance Image processing means for analyzing a pseudo component included in the image signal based on the characteristics of the irradiated light emitted from the output unit, and correcting the image signal so as to remove the pseudo component from the image signal. An endoscope device characterized by the above-mentioned.
た照明光に照射された前記観察部の通常像を示す画像信
号であることを特徴とする請求項1記載の内視鏡装置。2. The endoscope apparatus according to claim 1, wherein the image signal is an image signal indicating a normal image of the observation unit irradiated with illumination light emitted from the light source.
物質を吸収している前記観察部に対して、該光感受性物
質の励起波長領域にある前記光源より発せられた励起光
を照射し、そのとき該観察部から発せられた蛍光を検出
して得られる該観察部の蛍光像を示す画像信号であるこ
とを特徴とする請求項1記載の内視鏡装置。3. The image signal irradiates an excitation light emitted from the light source in an excitation wavelength region of the photosensitive substance to the observation unit absorbing a photosensitive substance emitting fluorescence. 2. The endoscope apparatus according to claim 1, wherein the endoscope apparatus is an image signal indicating a fluorescence image of the observation unit obtained by detecting fluorescence emitted from the observation unit at that time.
正反射光に起因する該観察部の正反射像および/または
前記光の前記観察部の照度分布に起因する前記画像信号
のむらであることを特徴とする請求項1から3いずれか
1項記載の内視鏡装置。4. The pseudo component is a specular reflection image of the observation unit due to the specular reflection light of the observation unit of the light and / or the unevenness of the image signal caused by the illuminance distribution of the observation unit of the light. The endoscope apparatus according to any one of claims 1 to 3, wherein:
度および/または色調のむらであることを特徴とする請
求項4記載の内視鏡装置。5. The endoscope apparatus according to claim 4, wherein the unevenness of the image signal is unevenness of intensity and / or color tone of the image signal.
フィ装置と、該コンピュータトモグラフィ装置より得ら
れる前記観察部の形状および前記導入管より出射される
前記光の出射部の前記観察部の位置のデータに基づいて
前記相対的な位置関係を算出する演算手段とから構成さ
れることを特徴とする請求項1から5いずれか1項記載
の内視鏡装置。6. The computer tomography apparatus according to claim 6, wherein the measurement unit is a computer tomography apparatus, and the data of a shape of the observation unit obtained from the computer tomography apparatus and a position of the observation unit of an emission unit of the light emitted from the introduction tube. The endoscope apparatus according to any one of claims 1 to 5, further comprising: a calculation unit that calculates the relative positional relationship based on the relationship.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26827696A JP3662367B2 (en) | 1996-10-09 | 1996-10-09 | Endoscope device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26827696A JP3662367B2 (en) | 1996-10-09 | 1996-10-09 | Endoscope device |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10108831A true JPH10108831A (en) | 1998-04-28 |
JP3662367B2 JP3662367B2 (en) | 2005-06-22 |
Family
ID=17456316
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP26827696A Expired - Fee Related JP3662367B2 (en) | 1996-10-09 | 1996-10-09 | Endoscope device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3662367B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022510393A (en) * | 2018-12-05 | 2022-01-26 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | Illuminated Near Infrared (NIR) Imaging for Image Guided Surgery |
-
1996
- 1996-10-09 JP JP26827696A patent/JP3662367B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022510393A (en) * | 2018-12-05 | 2022-01-26 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | Illuminated Near Infrared (NIR) Imaging for Image Guided Surgery |
Also Published As
Publication number | Publication date |
---|---|
JP3662367B2 (en) | 2005-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10314490B2 (en) | Method and device for multi-spectral photonic imaging | |
US4768513A (en) | Method and device for measuring and processing light | |
JP4217403B2 (en) | System for characterization and mapping of tissue lesions | |
KR100411631B1 (en) | Fluorescence endoscope apparatus and a method for imaging tissue within a body using the same | |
US9247241B2 (en) | Method and apparatus for detection of caries | |
US7804075B2 (en) | Method and system for tomographic imaging using fluorescent proteins | |
JP3394447B2 (en) | Fluorescent endoscope | |
US7242997B2 (en) | Diffuse optical tomography system and method of use | |
EP2583617A2 (en) | Systems for generating fluorescent light images | |
US20110087111A1 (en) | System and Method for Normalized Diffuse Emission Epi-illumination Imaging and Normalized Diffuse Emission Transillumination Imaging | |
US20090240138A1 (en) | Diffuse Optical Tomography System and Method of Use | |
JPH10500588A (en) | Apparatus and method for imaging diseased tissue using integrated internal fluorescence | |
US10413619B2 (en) | Imaging device | |
US6343228B1 (en) | Method and apparatus for fluorescence imaging of tissue | |
JP2001137173A (en) | Fluorescent image measurement method and equipment | |
JP2007530185A (en) | Method for measuring the diameter of an optically accessible blood vessel | |
JPH02200237A (en) | Fluorescent observing method | |
JP3664541B2 (en) | Fluorescence diagnostic equipment | |
EP1797818A2 (en) | Method and system for tomographic imaging using fluorescent proteins | |
US20190167116A1 (en) | Optical redox imaging systems and methods | |
JP3662367B2 (en) | Endoscope device | |
JP2010502980A (en) | Displacement detection in optical tomography system | |
KR20180066645A (en) | Fluorescence endoscopy system | |
JPH09294707A (en) | Endoscope | |
JPH07246198A (en) | Bioinstrument |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040422 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040427 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040628 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050323 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080401 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090401 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090401 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100401 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110401 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120401 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130401 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |