JPH10276974A - 内視鏡装置 - Google Patents

内視鏡装置

Info

Publication number
JPH10276974A
JPH10276974A JP9084830A JP8483097A JPH10276974A JP H10276974 A JPH10276974 A JP H10276974A JP 9084830 A JP9084830 A JP 9084830A JP 8483097 A JP8483097 A JP 8483097A JP H10276974 A JPH10276974 A JP H10276974A
Authority
JP
Japan
Prior art keywords
color
marker
circuit
image
extraction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9084830A
Other languages
English (en)
Other versions
JP3762512B2 (ja
Inventor
Masahiko Iida
雅彦 飯田
Masahiro Kudo
正宏 工藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP08483097A priority Critical patent/JP3762512B2/ja
Publication of JPH10276974A publication Critical patent/JPH10276974A/ja
Application granted granted Critical
Publication of JP3762512B2 publication Critical patent/JP3762512B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Surgical Instruments (AREA)
  • Endoscopes (AREA)

Abstract

(57)【要約】 【課題】撮影画像の輝度変化による色分布変化が起こっ
ても、色抽出能力が低下したり、ノイズを拾ったりする
ことなく、色マーカを確実に抽出できる内視鏡装置を提
供する。 【解決手段】内視鏡の観察像を撮像する撮像手段からの
画像信号に基づいて処置部に設けられた色マーカの位置
を検出し、検出された位置情報に基づき内視鏡の視野変
換を行う内視鏡装置において、画像信号の輝度を推定す
る輝度推定回路20と、推定された輝度情報に応じて色
抽出しきい範囲を選択する色抽出しきい範囲選択回路2
1と、選択されたしきい範囲に基づき画像中の特定色を
抽出する色抽出回路23と、この色抽出結果に基づき色
マーカの位置を特定する重心位置算出回路24とを具備
する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は内視鏡装置に関す
る。
【0002】
【従来の技術】従来より、手術器具としての処置具の先
端に設けられた色マーカの位置を検出し、この検出位置
に基づいて内視鏡の視野変換を行なう内視鏡装置が知ら
れている。
【0003】特開平6−30896号公報は色マーカが
設けられた処置具で対象組織を指し示し、このときの画
像中の色マーカの位置を画像処理により検出し、検出位
置に基づいて内視鏡を保持している電動マニピュレータ
を移動させて色マーカが画面中央に移動するように視野
変換を行っている。
【0004】また、特願平7−142133号明細書や
特願平7−143667号明細書は、色マーカの位置検
出方法は特源平6−30896号公報と同一であるが、
内視鏡で得られた像を撮像するTVカメラに接続された
視野変換手段を備え、内視鏡を固定した状態で視野変換
を行なう内視鏡装置を開示している。
【0005】上記した画像処理は色抽出処理と位置検出
処理とから構成される。色抽出処理は撮像した映像信号
を色空間データに変換し、そのデータがあらかじめ設定
された色マーカの特定色を表すしきい値の範囲内にある
かどうかを判断し、判断結果として2値画像(例えば抽
出部を白とし、それ以外を黒とする)を出力している。
【0006】
【発明が解決しようとする課題】ところで、体腔内の画
像は内視鏡と観察対象との距離変化や、内視鏡から出射
される照明光の配光ムラ等の照明条件によって明るさ
(輝度)が変化する。この変化する輝度と色(色度、彩
度)が独立している色空間を用いれば、理論的には輝度
が変化しても色分布は不変である。しかしながら、実際
には輝度が上がると彩度も上昇する。また、撮像素子の
ダイナミックレンジを越える高輝度像が入力されると、
色度も変化してしまう。また、しきい値が固定されてい
るので、色度の変化に対応できず色抽出能力が低下して
しまう。一方、この変動を見越してしきい値の範囲を大
きくすると、色マーカ以外の部分までノイズとして抽出
されてしまうという問題があった。
【0007】本発明の内視鏡装置はこのような課題に着
目してなされたものであり、その目的とするところは、
撮影画像の輝度変化による色分布変化が起こっても、色
抽出能力が低下したり、ノイズを拾ったりすることな
く、色マーカを確実に抽出可能な画像処理手段を備えた
内視鏡装置を提供することにある。
【0008】
【課題を解決するための手段】上記の目的を達成するた
めに、本発明の内視鏡装置は、内視鏡と、特定色を持つ
色マーカが設けられた手術器具と、前記内視鏡の観察像
を撮像する撮像手段と、この撮像手段からの画像信号に
基づいて前記色マーカの位置を検出する位置検出手段
と、検出された位置情報に基づき内視鏡の視野変換を行
う視野変換手段とを具備する内視鏡装置において、前記
位置検出手段は、前記画像信号の輝度を検出する輝度検
出手段と、検出された輝度情報に応じて色抽出しきい範
囲を設定するしきい範囲設定手段と、設定されたしきい
範囲に基づき画像中の特定色を抽出する色抽出手段と、
この色抽出結果に基づき前記色マーカの位置を特定する
色マーカ位置特定手段とを具備する。
【0009】すなわち、本発明は、内視鏡の観察像を撮
像して得られる画像信号に基づいて手術器具に設けられ
た色マーカの位置を検出し、この位置情報に基づいて内
視鏡の視野変換を行なう内視鏡装置において、色マーカ
の位置を検出するにあたって、まず、前記画像信号の輝
度を検出して、検出された輝度情報に応じて色抽出しき
い範囲を設定する。そして、この設定されたしきい範囲
に基づき画像中の特定色を抽出し、この色抽出結果に基
づき前記色マーカの位置を特定するようにする。
【0010】
【発明の実施の形態】以下、図面を参照して本発明の実
施形態を詳細に説明する。
【0011】図1(a)は本実施形態に係る内視鏡装置
全体の概略構成を示す図である。この内視鏡装置には患
者の体腔内を観察する例えば腹腔鏡等の直視型の硬性の
スコープ(内視鏡)1が設けられている。このスコープ
1には患者の体腔内に挿入される挿入部2と、この挿入
部2の基端部に配設された接眼部3とが設けられてい
る。
【0012】また、スコープ1の挿入部2は予め例えば
患者の腹壁10等に穿刺されたトラカール9内に挿通さ
れ、体腔内に挿入されている。ここで、スコープ1の挿
入部2の接眼部3側は多関節構造、本実施例では3関節
構造のスコープ保持具8によって移動可能に保持されて
いる。なお、このスコープ保持具(内視鏡保持手段)8
には定位置に固定される基台部8aと、回動可能に連結
されたスコープホルダ8bとが設けられている。
【0013】また、患者の腹壁10等には処置具である
鉗子11がスコープ1の挿入場所とは別の挿入場所から
体腔内に挿入されている。この鉗子11には体腔内に挿
入される挿入部12の先端部に処置部13が配設されて
いる。この処置部13には後述する色マーカ14が設け
られている。なお、処置具としては鉗子11の代わりに
剥離鉗子、ハサミ、レーザープローブ、縫合器、電気メ
ス、持針器、超音波吸引器等の他の構成の処置具を使用
してもよい。
【0014】また、スコープ1の接眼部3にはこのスコ
ープ1の観察像の一部又は全部を撮像するTVカメラ
(撮像手段)4が取付けられている。このTVカメラ4
のケーシング内にはレンズ、プリズム、ミラー、ズーム
レンズ等からなる光学素子5や、固体撮像素子であるC
CD6等の撮像光学系の各光学部品が設けられている。
ズームレンズは図示しないズーム駆動部により光軸方向
に進退される。このズームレンズの移動により、スコー
プ1の接眼部3で得られるスコープ1の観察像の一部又
は全部が光学素子5を経てCCD6に撮像されるように
なっている。
【0015】さらに、TVカメラ4内にはCCD6をそ
の光軸方向に対して直交する平面内に沿って直交する2
方向、例えば上下方向および左右方向に駆動するCCD
駆動部7が設けられている。
【0016】また、TVカメラ4には画像処理を行なう
鉗子追尾装置(位置検出手段)16が接続されている。
この鉗子追尾装置16には例えばフットスイッチ、ハン
ドスイッチ等の操作スイッチ15および例えばTVモニ
タ、HMD(HEAD MOUTED DISPLA
Y:頭部装着型ディスプレー)等の表示モニタ17がそ
れぞれ接続されている。
【0017】さらに、鉗子追尾装置37にはCCD6お
よび表示モニタ17がそれぞれ接続されている。
【0018】また、操作スイッチ15には鉗子11の先
端の追尾機能のオン/オフの切り換え操作を行う操作ボ
タンが設けられている。そして、この操作スイッチ15
は例えば、操作ボタンの押下操作時のみ、鉗子追尾装置
16の画像演算処理により検出された鉗子11の先端位
置が表示モニタ17の概ね中央に配置されるように、鉗
子11の先端位置に追従してCCD6の移動位置が制御
されるようになっている。ここで、図1(b)に示すよ
うに表示モニタ17の概ね中央位置に鉗子11の先端位
置が表示されていない状態で、操作スイッチ15の操作
ボタンを押した場合には、鉗子11の先端部分が予め指
定された速度で表示モニタ17の中央位置に移動するよ
うに、CCD6の移動制御が行われるようになってい
る。
【0019】次に、上記構成の作用について説明する。
まず、本実施例の内視鏡装置の使用時には図1(a)に
示すように予め例えば患者の腹壁10等に穿刺されたト
ラカール9内にスコープ1の挿入部2が挿通され、体腔
内に挿入される。さらに、患者の腹壁10等にはスコー
プ1の挿入場所とは別の挿入場所から鉗子11が体腔内
に挿入される。このとき、鉗子11の先端の処置部13
がスコープ1の接眼部3による視野範囲R1 内に挿入さ
れる状態にセットされる。
【0020】そして、スコープ1の観察像の一部がTV
カメラ4によって撮像され、表示モニタ17に表示され
る。ここで、TVカメラ4の光学素子5を経てCCD6
に撮像される観察像の視野範囲R2 はスコープ1の接眼
部3による視野範囲R1 より小さくなっており、スコー
プ1の接眼部3による視野範囲R1 の一部の観察像がC
CD6によって撮像される。
【0021】そして、TVカメラ4によるスコープ1の
観察像の撮像中、操作スイッチ15の操作ボタンが押下
操作された場合には鉗子追尾装置16による鉗子11の
先端の追尾機能が作動する。この鉗子追尾機能の作動時
にはCCD6からの画像信号が鉗子追尾装置16に送ら
れ、この鉗子追尾装置16で画像処理が行われ、鉗子1
1の先端の位置が求められる。
【0022】ここでは、鉗子11の位置を検出するため
に鉗子11の処置部13の先端に色マーカ14を設けて
いる。
【0023】以下に本発明の第1実施形態を説明する。
まず、第1実施形態の概略を説明する。
【0024】画像処理による色マーカ14の色抽出を行
なう場合、画像を色空間と呼ばれる特徴空間に変換し、
この特徴空間で特定色の領域を抽出する方法がしばしば
用いられる。色空間としては、輝度と2つの色度とで表
わすもの(YIQ、HSI色空間など)がよく用いられ
る。これら色空間における色度、色相等の要素は輝度に
対する独立性が高いために照明条件の変化に対して抽出
範囲を設定して色抽出を行なうのが一般的である。図2
はYIQ色空間を用いた場合の色抽出設定の様子を示し
ている。
【0025】ところが実際には、輝度に完全に独立した
要素を持つ色空間は存在しない。従って、色度及び色相
は輝度変化に伴って変化する。YIQ色空間における色
度I及びQも通常、図3に示すように変化する。すなわ
ち、輝度が高くなるとI、Q色度平面上で原点から遠い
方向へシフトする(色飽和度、すなわち彩度が高くな
る)。
【0026】図3の場合、色相角は不変で、色飽和度だ
けが変化している。しかし、撮像系のダイナミックレン
ジの影響等によって図4に示すように色相も変化する場
合がある。したがって、従来のように固定の色抽出範囲
を用いる方法では色抽出性能が低下してしまう。そこ
で、第1実施形態では、色抽出しきい範囲を図5に示す
ように輝度に応じて変化させるようにする。ここで輝度
毎の色抽出範囲はあらかじめ設定しておく。このような
方法を用いることによって、色マーカ14の色変化に応
じて最適な色抽出しきい範囲の設定が可能となり、色抽
出性能が向上する。
【0027】図6は図1に示す鉗子追尾装置16の第1
実施形態に係る構成とその周辺を示すブロック図であ
る。CCU18の出力は表示モニタ17の他に、A/D
変換部19を介して、輝度検出手段としての輝度推定回
路20と色変換回路22とに接続されている。輝度推定
回路20はしきい範囲設定手段としての色抽出しきい範
囲選択回路21を介して色抽出回路23の第1の入力に
接続されている。また、色変換回路22は色抽出回路2
3の第2の入力に接続されている。色変換回路22及び
色抽出回路23は色抽出手段を構成する。色抽出回路2
3の出力は色マーカ位置特定手段としての重心位置算出
回路24と、視野変換手段としてのCCD駆動部制御回
路25とを介してTVカメラ4に接続されている。
【0028】上記した構成において、TVカメラ4から
の画像信号はCCU18でTV信号化されてA/D変換
部19でデジタル信号に変換される。このデジタル信号
は輝度推定回路20と色変換回路22に同時に入力され
て処理される。輝度推定回路20はデジタル信号から画
像の輝度を検出して色抽出しきい範囲選択回路21に出
力する。色抽出しきい範囲選択回路21は検出された輝
度に対応するしきい範囲を選択して色抽出回路23に出
力する。一方、色変換回路22は入力されたデジタル信
号を色空間に変換して色抽出回路23に出力する。色抽
出回路23は選択されたしきい範囲に基づいて色空間中
の特定色を抽出し、例えば抽出された部分を黒、それ以
外は白とする2値画像を作成する。重心位置算出回路2
4は抽出された黒の部分の重心位置を求めて、黒の画像
の中心と、この重心位置との距離を求める。CCD駆動
部制御回路25はこの距離情報に基づいてCCD駆動部
7へCCD6の駆動量に関する制御信号を送る。
【0029】以下に上記した輝度推定回路20の輝度推
定方法について説明する。第1の推定方法では、まず、
画像をブロックに分割して、各ブロックの平均輝度を算
出する。この算出結果に基づいてブロック毎に色抽出し
きい範囲選択回路21で色抽出しきい範囲を選択する。
【0030】図7は512×512画素の画像をそれぞ
れが128×128画素からなる16個のブロックに分
割した例を示している。さらに、細かく輝度の推定を行
なうためには、64×64画素のブロックを64個、3
2×32画素のブロックを256個、…というように細
かく分割していけばよい。
【0031】第2の推定方法として、図8に示すよう
に、着目する1画素ごとに周囲の画素を参照して輝度を
算出し、この算出結果に基づいて色抽出しきい範囲選択
回路21で色抽出しきい範囲を選択するようにする。参
照画素としては、例えば図9に示すように着目画素を中
心にして5×5の近傍画素を参照して、合計25画素の
平均輝度を算出する。
【0032】上記した第1の推定方法ではブロック内の
色抽出領域は固定であるのに対して、第2の推定方法で
は画素毎に最適な色抽出範囲を選択できるため、色抽出
能がより向上する。
【0033】上記した第1実施形態によれば、撮影画像
の輝度変化による色分布変化が起こっても、色抽出能力
が低下したり、ノイズを拾ったりすることなく、色マー
カを確実に抽出することができる。
【0034】以下に本発明の第2実施形態を説明する。
色マーカの色は色マーカ自体の劣化や、CCU18での
ユーザによる色設定、生体内の色特性等によって変化す
るものである。このことより、実際の画像中の色マーカ
の色に基づいて色抽出範囲を定めるのが望ましい。そこ
で第2実施形態では図10に示すような構成を用いる。
図10の構成は、図6に示す第1実施形態の構成におい
て、A/D変換部19の後段に切替回路26をさらに設
け、輝度推定回路20及び色抽出しきい範囲選択回路2
1を、マーカ色分析回路(色分析手段)27と色抽出し
きい範囲設定回路(しきい範囲設定手段)28とからな
るキャリブレーション部(キャリブレーション手段)2
9に置き換えた点が異なっているが、他の構成は図6の
構成と同様である。
【0035】第2実施形態では装置の動作に先だってマ
ーカ色分析回路27で処置具先端の色マーカ部分の色分
析を行い、その結果に基づいて色抽出しきい範囲設定回
路28で色抽出しきい範囲を設定するものである。すな
わち、まず、A/D変換部19から出力されるデジタル
映像信号(例えば、R、G、B、NTSC)がキャリブ
レーション部29に入力されるように切替回路26を手
動で切り替えた後、マーカ色分析回路27で色分析対象
を指摘する。第1の指摘方法では、図11に示すような
表示モニタ17中のカーソル100を色マーカ101へ
と移動して、この移動した位置を中心とする例えば5×
5などの近傍エリア内の画像信号から色分析を行なう。
【0036】また、第2の指摘方法では、図12に示す
ような表示モニタ17中にあらかじめ設定されたウィン
ドウ102(図では画面の中心に設定されている)に色
マーカ101を移動させるようにする。
【0037】次に、色抽出しきい範囲設定回路28での
色抽出しきい範囲の設定は以下のようにして行なう。こ
こでは簡単のためにIQ2次元平面を考える。
【0038】第1の設定方法では、IQ平面図により色
分布を表示モニタ17上に表示させた状態で、色抽出し
きい範囲を定める直線の傾き及び円の直径をマウス操作
や数値入力により変更して、分析したマーカー部がノイ
ズ成分を含まず適切に抽出されるようにする。すなわ
ち、図13(a)に示すような色分布103において、
この色分布103を包含するような2つの直線A、Bに
挟まれるとともに、図13(b)に示すように、IQ座
標の原点からの径方向距離を半径とする下限円104
(この部分は低彩度領域であり、ノイズを含んでいる)
を除去した部分を色抽出しきい範囲105として定め
る。
【0039】第2の設定方法は、図14(a)に示すよ
うにエリア内の画像信号についての画素ごとの分布を表
示モニタ17上に表示させた状態で、分布106の輪郭
線107を検出する(図14(b))。そして、この輪
郭線107で囲まれた範囲を色抽出しきい範囲108と
して定める(図14(c))。第2の設定方法において
もノイズを含む下限円10の部分を除去する。
【0040】第2の設定方法によれば、第1の設定方法
よりもさらに色分布形状に適応した色抽出しきい範囲を
自動的に設定することができる。
【0041】なお、上記した第1、第2の設定方法にお
いては、実際は輝度Yを含む3次元色空間で色抽出しき
い範囲の設定を行なうものとする。これによって、輝度
変化に頑健な色抽出が可能となる。
【0042】第3の設定方法では、複数の色抽出しきい
範囲をテンプレートとしてあらかじめ用意しておき、そ
の中から最適なものを選択するようにする。例えば、図
15において、複数の色抽出しきい範囲110〜115
において、表示されている色分布109の領域を最も多
く含む色抽出しきい範囲(図では110)を最適なもの
として選択する。あるいは、色分布109の全分布数の
うち、どの色抽出しきい範囲が最も多く色分布109の
分布数を含んでいるかを計算により求めて最適なものを
選択するようにしてもよい。第3の設定方法においても
ノイズを含む下限円10の部分を除去する。
【0043】なお、エリア内の色分析結果が全て色抽出
しきい範囲外になった場合にはその色分布はノイズを発
生する下限円104に含まれていると判断して抽出不可
の警告を出力するようにする。
【0044】第3の設定方法によれば、あらかじめ色抽
出しきい範囲を複数用意しておいて選択するので、しき
い範囲の計算処理のための回路構成が簡単である効果が
ある。
【0045】次に、切替回路26を切り替えてA/D変
換部19からの出力が色変換回路22に入力されるよう
にする。この後の処理は上記した第1実施形態と同様で
ある。なお、切替回路26での切替えは自動で行なって
もよい。
【0046】上記した第2実施形態によれば、色マーカ
の劣化、光学系のバラツキ、映像信号処理系の設定等に
よる色マーカの色変化が起こっても、色抽出能力を落と
すことなく色マーカを抽出することができる。
【0047】以下に本発明の第3実施形態を説明する。
第3実施形態では上記した第1、第2実施形態のように
色抽出しきい範囲を変更するのではなく、色抽出をより
確実に行うために複数の色をもつマーカを用い、複数の
色の抽出結果に基づいて色マーカ位置を特定するもので
ある。図16は本発明の第3実施形態に係る鉗子追尾装
置16の構成を示す図であり、CCU18からのTV信
号が入力されるA/D変換部19と、色変換回路22
と、色抽出回路30と、マーカ位置検出回路31と、C
CD駆動部制御回路25とが順に接続されている。
【0048】図17(a)はマーカ配置の第1の例とし
て、色の異なる2つのマーカ120(マーカ1)とマー
カ121(マーカ2)を交互に配置した例を示してい
る。ここで、色抽出領域を無彩度領域にまで拡大して抽
出すると、色抽出結果は図17(b)に示すように色マ
ーカが確実に検出される反面、マーカ1の誤抽出による
ノイズ122やマーカ2の誤抽出によるノイズ123も
検出されてしまう。
【0049】そこで、マーカ位置検出回路31は、色抽
出回路30によって抽出された抽出色1、2、3、…n
に基づいて、マーカ1とマーカ2の抽出領域が交互に並
んたパターンであるか否かを判断し、この判断に基づい
て色マーカの検出を行なう。このような判断では、マー
カ1の誤抽出によるノイズ122やマーカ2の誤抽出に
よるノイズ123は当該パターンであるとはみなされな
いので除去され(図17(c))、これによって色マー
カのみを確実に検出することができる。
【0050】図18(a)は図18(b)に示すような
マンセル表色系の色相環上で、10Gから10GYまで
の5種類の色相を色マーカに配置したマーカ配置の第2
の例を示す図である。
【0051】以下にこのような色マーカを用いた場合の
利点を説明する。色マーカが1種類の色からなる場合に
は、その色に対応して図19(a)に示す色相環上のあ
るマーカ色相が抽出しきい範囲となるが、色調が変化し
た場合には、図19(b)に示すように、マーカ色相は
抽出しきい範囲からはずれた位置にシフトしてしまい、
色の抽出ができなくなってしまう。
【0052】これに対して、図19(c)に示すように
5種類の色相をもつ色マーカを用いることにより、色調
が変化して図19(d)に示すようにマーカ色相がシフ
トしても、いずれかのマーカ色相が抽出しきい範囲に属
している可能性が高いので色マーカの抽出が可能であ
る。
【0053】図20は第3のマーカ配置例として、10
G、5G、10GYの3種類の色相を配置し、各色相に
ついて2種類の異なる明度を色マーカとして用いた例を
示している。このような構成によれば、色調の変化とと
もに輝度が変化した場合でも頑健な色の抽出が可能であ
る。
【0054】上記した第3実施形態によれば、ノイズ抽
出を防いで高精度で色マーカを抽出でき、色マーカ位置
を検出できる。
【0055】以下に本発明の第4実施形態を説明する。
第4実施形態では色マーカ検出画像処理において、色情
報の加えて色情報以外の画像情報をも用いることにより
検出精度をさらに上げることを意図している。
【0056】図21は第4実施形態に係る鉗子追尾装置
16の構成を示す図であり、A/D変換部19の後段に
は色抽出回路23と直線抽出回路(直線抽出手段)44
とが並列に接続され、これらの後段にはマーカ位置決定
回路45を介して重心位置算出回路24が接続されてい
る。重心位置算出回路24はTVカメラ4に接続されて
いるCCD駆動部制御回路25に接続されている。
【0057】上記した構成において、色抽出回路23は
図22(a)に示すような色マーカ14を有する処置部
の原画像から色マーカ14の色の抽出を行って図22
(b)に示すような画像を得る。同時に直線抽出回路4
4は原画像から色マーカ14のエッジ部の2直線を抽出
して図22(c)に示すような画像を得る。マーカ位置
決定回路45は色抽出回路23で抽出された画像のう
ち、直線抽出回路44で抽出された2直線に挟まれる画
像のみをマーカ位置決定のための画像とする(図22
(d))。
【0058】また、色マーカ14は処置部の先端より多
少手前の位置に設けられているが、処置部の最先端に設
けたい場合がある。このような場合は図23(a)に示
すように直線抽出回路44で求めた2直線の相対角度
θ、及び2直線間の距離などの情報に基づいて先端位置
を求めることができる。
【0059】また、色マーカ14の形状の変形例とし
て、図23(b)に示すように、鉗子軸方向に平行な直
線を用いてマーカを形成することにより、上記した2直
線の情報に鉗子方向の直線情報を追加する。これによっ
て鉗子方向を表す直線情報の検出がより確実になる。
【0060】上記した第4実施形態によれば、ノイズ抽
出を防いで高精度で色マーカを抽出でき、色マーカ位置
を検出できる。
【0061】図24は本発明の第5実施形態に係る鉗子
追尾装置16及び鉗子11の構成を示す図であり、A/
D変換部19の後段には順に色変換回路22、色抽出回
路23、重心位置算出回路53、CCD駆動部制御回路
25が接続されている。また、鉗子11の柄の部分には
ジャイロ及び加速度センサからなるマーカ位置センサ5
1が設けられ、このマーカ位置センサ51はマーカ位置
候補領域設定回路(候補領域設定手段)52を介して重
心位置算出回路53に接続されている。
【0062】上記した構成において、図25(a)に示
すような原画像から色抽出回路23で色抽出を行って図
25(b)に示すような画像を得る。同時にマーカ位置
センサ51によって色マーカ14の位置が検出されたと
き、マーカ位置候補領域設定回路52は検出されたマー
カ位置に対応するマーカ位置候補領域を設定する(図2
5(c))。重心位置算出回路53はこのマーカ位置候
補領域に入る画像のみを色マーカ14の領域とし、その
他の画像はノイズとして除去する(図25(d))。
【0063】上記した第5実施形態によれば、ノイズ抽
出を防いで高精度で色マーカを抽出でき、色マーカ位置
を検出できる。また、マーカ位置センサ51によって検
出されるのが点ではなく範囲でよく、高い検出精度が必
要ではないため、センサのコストを低減することができ
る。
【0064】以下に本発明の第6実施形態を説明する。
画面中における処置部の先端に設けられた色マーカの大
きさはスコープからの鉗子の距離によって変化する。例
えば、鉗子が遠くにあるときには鉗子に設けられた色マ
ーカからの反射光量が微弱になり色の検出ができなくな
ってしまう。そこで、色マーカの大きさを大きくするこ
とが考えられるが、今度は鉗子が近くにある場合に画面
に占める面積が大きくなって適切な視野変換ができなく
なってしまう。
【0065】第6実施形態ではこのような問題を考慮し
て、図26に示すように大きさの異なる複数のマーカ
(マーカ1、マーカ2)を用いて、スコープと鉗子との
距離に応じて、視野変換の目標として最適なものを選択
するようにする。
【0066】図27は第6実施形態に係る鉗子追尾装置
16の構成を示す図であり、CCU18からのTV信号
が入力されるA/D変換部19と、色変換回路20と、
色抽出回路32と、マーカ選択回路33と、重心位置算
出回路24と、CCD駆動部制御回路25とが順に接続
されている。
【0067】色抽出回路32はマーカ1及びマーカ2の
色を抽出し、位置・面積検出手段としてのマーカ選択回
路33はこの色抽出結果に基づいてマーカ1とマーカ2
の位置及び面積を検出する。そして、目標位置決定手段
としての重心位置算出回路24は、抽出された各マーカ
の面積から鉗子−スコープ間距離を求め、図28に示す
ように、その距離がしきい値よりも大きい場合には面積
の小さいマーカ2をターゲットして選択し、その距離が
しきい値よりも小さい場合には面積の大きいマーカ1を
ターゲットして選択する。
【0068】すなわち、鉗子−スコープ間距離が小さく
近接している場合には、図29(a)に示すように面積
の小さいマーカ2をターゲットとすることにより、重心
位置算出回路24で算出されるマーカ重心位置と、鉗子
先端位置との誤差が小さくなるようにする。また、鉗子
−スコープ間距離が大きく鉗子が遠点にある場合には、
図29(b)に示すように面積の大きいマーカ1をター
ゲットとすることにより、十分なマーカ抽出面積を確保
して先端位置の推定を確実に行なうようにする。
【0069】上記した第6実施形態によれば、内視鏡と
色マーカとの距離が大きく変化する場合でも、適切な面
積の色マーカを抽出でき、これによって安定した色抽
出、色マーカ位置の検出が可能となる。
【0070】以下に、本発明の第7実施形態を説明す
る。第7実施形態は色マーカとして蛍光マーカを用い、
色マーカの検出をより確実に行なうことを目的としてい
る。蛍光マーカは、特定波長の光が照射されている間に
吸収した光エネルギーを変換して可視光を発光する蛍光
体を用いたマーカである。蛍光体の例としては、ローダ
ミンB、ブリリアントスルホフラビンFFなどがある。
【0071】図30は本発明の第7実施形態の構成を示
す図である。図30において、画像処理装置40は観察
画像生成回路(観察画像生成手段)42と、切替回路
(信号経路切替手段)41と、マーカ位置検出回路43
とから構成される。また、照明手段としての光源35
は、ランプ34と、回転フィルタ36と、モータ38
と、タイミングコントローラ37とから構成される。画
像処理装置40の観察画像生成回路42は表示モニタ1
7に接続され、画像処理装置40の切替回路41は光源
35のタイミングコントローラ37に接続されている。
【0072】また、光学素子5とCCD6とCCD駆動
部7とから構成されるTVカメラ4には、スコープ1が
接続されるとともに、画像処理回路40が接続されてい
る。さらに、光源35はライトガイドケーブル34を介
してスコープ1に接続されている。
【0073】図31(a)は上記した回転フィルタ36
の構成を示す図である。図31(a)に示すように、3
/4円領域の通常照明光用フィルタ36aと、蛍光マー
カを有して励起光のみを透過する1/4円領域のフィル
タ36bとから構成される。以下に上記した構成の作用
を図32のタイミングチャートに基づいて説明する。タ
イミングコントローラ37による制御の下にモータ38
が駆動され、これによって回転フィルタ36が4フレー
ムの画像につき1回転される。この回転によってフィル
タ36a、36bからは図32の(a)、(b)で示す
ような光が出力される。したがって、ランプ34からの
照明光がフィルタ36aを通過したときには、通常照明
光が色マーカ14に、フィルタ36bを通過したときに
は励起光が色マーカ14に時分割的に供給される。本実
施形態では色マーカ14として図31(b)に示す蛍光
マーカを用いているので、図31(c)に示すような特
性により、色マーカ14は励起光が供給されたときにの
み蛍光を発する。
【0074】信号経路切替手段としての切替回路41の
切替え動作はタイミングコントローラ37によって以下
のように制御される。すなわち、TVカメラ4による撮
像により得られる画像信号(図32の(c))は、通常
照明光の供給時には観察画像生成回路42に送信され、
励起光供給時(色マーカ14から蛍光が発生されている
とき)には位置検出手段としてのマーカ位置検出回路4
3に送信されるように制御される。
【0075】マーカ位置検出回路43は励起光供給のタ
イミングで入力される画像信号(図32の(f))に基
づいて色マーカ14の位置を検出して、検出された位置
に基づいて内視鏡の視野を変換すべく図32の(g)に
示すようなCCD駆動制御信号を生成してTVカメラ4
のCCD駆動部7に供給する。
【0076】また、観察画像生成回路42には切替回路
41の切替動作により図32の(d)に示すように一部
が欠落した画像信号が入力されるので、観察画像生成回
路42はこの欠落画像を予測生成(この実施形態では1
つ前の画像信号を用いて補間)する(図32の
(e))。これによって表示モニタ17には画像の切れ
目のない表示がなされる。
【0077】上記した第7実施形態によれば、照明条
件、体腔内組織の状態によらず、確実に色マーカの抽
出、色マーカの位置検出が可能となる。
【0078】以下に本発明の第8実施形態を説明する。
第8実施形態の基本的回路構成は第7実施形態と同様で
あるが、回転フィルタ36と色マーカ14の構成が異な
っている。すなわち、第6実施形態の回転フィルタ3
6′は図33(a)に示すように、3/4円領域の通常
照明用フィルタ36a′と1/4円領域の遮光部36
b′とから構成される。また、第8実施形態では色マー
カとして図33(b)に示すような発光マーカ14′を
用いることを特徴とする。発光マーカ14′は光照射後
も発光を持続する燐光体を用いたマーカである。ここで
は図33(c)に示すように、発光期間が画像1フレー
ムに相当する1/30秒よりも長い燐光材料を用いる。
燐光体の例としては、硫化カルシウム系(CaS/B
i、Ca・Sr・S/Bi)や、硫化亜鉛系(ZnS/
Cu、Zn・Cd・S/Cu)などがある。
【0079】なお、発光マーカ14′を用いた場合の信
号処理の流れは、上記した図23のタイミングチャート
において、蛍光励起用照明を除いたものと同一である。
【0080】上記した第8実施形態によれば、照明条
件、体腔内組織の状態によらず、確実に色マーカの抽
出、色マーカの位置検出が可能となる。
【0081】以下に本発明の第9実施形態を説明する。
画像中に色マーカが存在しない状態でノイズを誤抽出し
てしまうことがある。このような状況において操作スイ
ッチを誤って押してしまうと、抽出されたノイズを色マ
ーカであるとみなして誤動作を起こしてしまう。第8実
施形態はこのような不具合を防止することを意図してい
る。
【0082】図34は本発明の第9実施形態に係る鉗子
追尾装置16の構成を示す図であり、A/D変換部19
の後段には、色変換回路22を介して色抽出回路23が
接続されている。色抽出回路22は色マーカ認識手段と
しての抽出画素数計数回路46を介してCCD駆動部制
御回路47の第1の入力に接続されるとともに、重心位
置算出回路(色マーカ位置特定手段)24を介してCC
D駆動部制御回路47の第2の入力に接続されている。
【0083】この実施形態では抽出画素数計数回路46
は、色抽出回路23にて抽出された色に基づいて画素数
を計数して、所定の画素数以上である場合に色マーカが
存在するものと認識してCCD駆動部制御回路47に信
号を送って視野変換動作を行なう。また、色マーカが存
在しないと判断された場合には視野変換動作を行わない
ようにする。
【0084】図35は色マーカが存在しない場合の誤動
作を防止する第2の構成を示す図であり、A/D変換部
19の後段には、色変換回路22を介して色抽出回路2
3が接続されている。色抽出回路22は重心位置算出回
路24を介してCCD駆動部制御回路47の第1の入力
に接続されている。CCD駆動部制御回路47の第2の
入力にはマーカ存在判定回路49を介して鉗子11の柄
の部分に設けられ、ジャイロと加速度センサとからなる
鉗子先端位置センサ(色マーカ位置センサ)48が接続
されている。
【0085】この構成では鉗子の先端位置がどこにある
のかを鉗子先端位置センサ48によって検出して、検出
された位置情報に基づいてマーカ存在判定回路49で色
マーカ14が視野内にあるか否かを判定する。そして、
色マーカ14が視野内にあるときのみCCD駆動部制御
回路50に視野変換動作のための信号を送るようにす
る。
【0086】上記した第9実施形態によれば、ノイズ抽
出を防ぎ、高精度での色マーカの抽出、色マーカ位置の
検出が可能となる。
【0087】以下に本発明の第10実施形態を説明す
る。第10実施形態はノイズの誤抽出は、輝度が高く白
とびの部分(ハイライト部)において発生しやすいの
で、これを抑制することを意図している。
【0088】図36は本発明の第10実施形態の構成を
示す図であり、TVカメラ4とスコープ1との間には偏
光フィルタ55bが設けられている。また、スコープ1
にはランプ34と偏光フィルタ55aを備えた照明手段
としての光源54が接続されている。さらに、TVカメ
ラ4は鉗子追尾装置16を介して表示モニタ17に接続
されている。
【0089】上記した構成において、光源54の偏光フ
ィルタ55aとTVカメラ4とスコープ1の間の偏光フ
ィルタ55bの位相を、調節手段としての偏光フィルタ
回転操作部6を手動操作することにより調節してハイラ
イト部の発生を抑制する。
【0090】上記した第10実施形態によれば、特にハ
イライト部のノイズ抽出を防ぎ、高精度での色マーカの
抽出、色マーカ位置の検出が可能となる。
【0091】以下に、本発明の第11実施形態を説明す
る。第11実施形態では、上記した実施形態のようにす
べての画像について色抽出を行なうのではなく、予測に
よって得られるマーカ位置領域についてのみ色抽出を行
なう。これによって色抽出画像処理における画像操作方
法を色抽出処理に最適なものとすることにより、色抽出
性能を向上することを意図している。
【0092】図37は第11実施形態に係る鉗子追尾装
置16の構成を示す図であり、A/D変換部19の後段
には、フレームメモリ57、メモリ読み出し回路58、
色変換回路22、色抽出回路23が順に接続されてい
る。色抽出回路23は重心位置算出回路(位置算出手
段)59とデータバッファ1(61)とを介して重心位
置予測回路(位置予測手段)63に接続されるととも
に、面積算出回路(面積算出手段)60とデータバッフ
ァ2(62)とを介して面積予測回路64に接続されて
いる。重心位置予測回路(面積予測回路)63はメモリ
読み出し回路58に接続されている。
【0093】面積比較回路65の入力は面積算出回路6
0と面積予測回路64とに接続されるとともに、その出
力はメモリ読み出し回路58とCCD駆動部制御回路6
6とに接続されている。さらに、このCCD駆動部制御
回路66は重心位置算出回路59とデータバッファ1
(61)の接続点に接続されている。
【0094】以下に上記した構成の作用を説明する。
【0095】まず、例えば図38に示すような過去の3
枚のフレーム、n−3、n−2、n−1をあらかじめデ
ータバッファ1(61)に記憶し、これら3枚のフレー
ムから重心位置予測回路63でマーカ重心位置を予測す
る。同様に、過去の3枚のフレーム、n−3、n−2、
n−1をあらかじめデータバッファ2(62)に記憶
し、これら3枚のフレームから面積予測回路64でマー
カ面積を予測する。次に、メモリ読み出し回路58は重
心位置予測回路63によって予測された重心位置に対応
する読み出し位置指示信号に基づいて、予測マーカ重心
位置に近い所定エリアの画素を読み出す(図39
(a))。読み出された画素に対して色変換回路22で
色変換を行い、色抽出回路23で色抽出を行った後、重
心位置算出回路59で重心位置を算出するとともに、面
積算出回路60で面積の算出を行なう。
【0096】面積比較回路65はこの算出された面積と
面積予測回路64で予測された面積とを比較して予測マ
ーカ面積に到達したか否かを判断する。到達していなけ
れば、さらに読み出し画素領域を増やして再度色抽出回
路23で色抽出を行って(図39(b))、面積算出回
路60で面積を算出し、面積比較回路65で面積予測回
路64で予測した面積と比較する。このように、予測マ
ーカ位置に近い画素から順に色抽出処理を行って面積を
算出し、算出面積が予測マーカ面積に達したときに(図
39(c))、メモリ読み出し回路58に処理終了信号
を供給してマーカ抽出を終了する。
【0097】上記した第11実施形態によれば、背景の
ノイズを誤抽出することなく、高精度での色マーカの抽
出、色マーカ位置の検出が可能となる。
【0098】以下に本発明の第12実施形態を説明す
る。上記した実施形態では色変換回路と色抽出回路と別
個に構成している。このような構成では色空間を変更す
る場合には双方の回路を変更する必要がある。また、色
変換回路と色空間回路とを各々LUTによって構成した
場合も双方のテーブルを書き換える必要がある。
【0099】そこで、第12実施形態では図40(a)
に示すようなルックアップテーブル(LUT)を用い
て、RGBの映像信号をYIQの色空間に変換する処理
と、しきい値を用いた色抽出処理とを1つの素子で行な
うことを意図している。この場合、LUT100はRO
Mで構成される。
【0100】また、従来では色変換回路をハードウェア
で構成する場合、特定の色空間に対してそのハードウェ
ア構成が特定されてしまい、複数の異なる色空間に対し
てそれぞれのハードウェア構成が必要になる。そこで、
第12実施形態では、LUT100に不揮発性のメモリ
を用い、図40(b)に示すようにYIQ、HCV、L
* * * などの各色空間に応じて書き換えるようにす
る。このようにすれば、いかなる色空間でもLUT10
0の入出力パターンを書き換えるだけで用いることがで
きる。
【0101】なお、上記した具体的実施形態には以下の
構成1乃至42を有する発明が含まれている。
【0102】1.内視鏡と、特定色を持つ色マーカが設
けられた手術器具と、前記内視鏡の観察像を撮像する撮
像手段と、この撮像手段からの画像信号に基づいて前記
色マーカの位置を検出する位置検出手段と、検出された
位置情報に基づき内視鏡の視野変換を行う視野変換手段
とを具備する内視鏡装置において、前記位置検出手段
は、前記画像信号の輝度を検出する輝度検出手段と、検
出された輝度情報に応じて色抽出しきい範囲を設定する
しきい範囲設定手段と、設定されたしきい範囲に基づき
画像中の特定色を抽出する色抽出手段と、この色抽出結
果に基づき前記色マーカの位置を特定する色マーカ位置
特定手段と、を具備することを特徴とする内視鏡装置。
【0103】2.1において、前記輝度検出手段は、画
像を複数のブロックに分割した後に各ブロック毎に輝度
を検出し、前記しきい範囲設定手段は、検出された輝度
に基づきブロック毎にしきい範囲を定める。
【0104】3.1において、前記輝度検出手段は、画
素毎に近傍画素を参照して輝度を検出し、前記しきい範
囲設定手段は、検出された輝度に基づき画素毎にしきい
範囲を定める。
【0105】4.2、3において、前記しきい範囲設定
手段で設定されるしきい範囲は、検出された輝度に応じ
てその位置・大きさが定められている色度平面上の長方
形領域である。
【0106】5.内視鏡と、特定色を持つ色マーカが設
けられた手術器具と、前記内視鏡の観察像を撮像する撮
像手段と、この撮像手段からの画像信号に基づいて前記
色マーカの位置を検出する位置検出手段と、検出された
位置情報に基づき内視鏡の視野変換を行う視野変換手段
とを具備する内視鏡装置において、前記位置検出手段
は、色抽出しきい範囲を定めるキャリブレーション手段
と、このキャリブレーション手段によって設定されたし
きい範囲に基づき画像中の特定色を抽出する色抽出手段
と、色抽出結果に基づき色マーカの位置を特定する色マ
ーカ位置特定手段とを有する。
【0107】6.5において、前記キャリブレーション
手段は、画像中の色マーカの色を分析する色分析手段
と、色分析結果に基づき色抽出しきい範囲を定めるしき
い範囲設定手段とを有する。
【0108】7.6において、前記色分析手段は、画像
中に表示された位置可変のカーソルを中心とする所定エ
リアの画像信号を画素毎に色空間に変換し、前記しきい
範囲設定手段は、色空間の色度平面上で2直線に挟ま
れ、かつ色空間原点からの距離が所定値以上となる領域
を色抽出しきい範囲とする。
【0109】8.6において、前記色分析手段は、画像
中に表示された位置可変のカーソルを中心とする所定エ
リアの画像信号を画素毎に色空間に変換し、前記しきい
範囲設定手段は、色空間原点からの距離が所定値以上と
なる領域で、かつ色空間に変換された分析対象画素の色
分布の輪郭線に囲まれた閉領域を色抽出しきい範囲とす
る。
【0110】9.6において、前記色分析手段は、画像
中に表示されたウィンドウ内の画像信号を画素毎に色空
間に変換し、前記しきい範囲設定手段は、色空間の色度
平面上で2直線に挟まれ、かつ色空間原点からの距離が
所定値以上となる領域を色抽出しきい範囲とする。
【0111】10.6において、前記色分析手段は、画
像中に表示されたウィンドウ内の画像信号を画素毎に色
空間に変換し、前記しきい範囲設定手段は、色空間原点
からの距離が所定値以上となる領域で、かつ色空間に変
換された分析対象画素の色分布の輪郭線に囲まれた閉領
域を色抽出しきい範囲とする。
【0112】11.6において、前記色分析手段は、画
像中に表示された位置可変のカーソルを中心とする所定
エリアの画像信号を画素毎に色空間に変換し、前記しき
い範囲設定手段は、色分析結果に基づきあらかじめ定め
られた複数の色抽出しきい範囲の中から最適なものを選
択する。
【0113】12.6において、前記色分析手段は、画
像中に表示されたウィンドウ内の画像信号を画素毎に色
空間に変換し、前記しきい範囲設定手段は、色分析結果
に基づきあらかじめ定められた複数の色抽出しきい範囲
の中から最適なものを選択する。
【0114】13.11、12においてしきい範囲設定
手段は、色分析結果に基づき複数の色抽出しきい範囲の
中で適したものがない場合に警告を発する。
【0115】14.内視鏡と、特定色を持つ色マーカが
設けられた手術器具と、前記内視鏡の観察像を撮像する
撮像手段と、この撮像手段からの画像信号に基づいて前
記色マーカの位置を検出する位置検出手段と、検出され
た位置情報に基づき内視鏡の視野変換を行う視野変換手
段とを具備する内視鏡装置において、前記位置検出手段
は、色マーカが持つ複数の特定色を抽出する色抽出手段
と、複数の色抽出結果に基づき色マーカの位置を特定す
る色マーカ位置特定手段を有する。
【0116】15.14において、前記色マーカは、色
特性の異なる複数のマーカを近接して配置してなる。
【0117】16.14において、前記色マーカは、色
特性の異なる2つのマーカを交互に並べて配置してな
る。 17.15、16において、前記色特性は、色相及び/
または明度である。
【0118】18.15、17において、前記色マーカ
位置特定手段は、複数の特定色が近接して抽出された領
域のみを色マーカと判定し、その他の領域をノイズとし
て色抽出領域から除外する。
【0119】19.16、17において、前記色マーカ
位置特定手段は、2種類の特定色が交互に並んで抽出さ
れた領域のみを色マーカと判定し、その他の領域をノイ
ズとして色抽出領域から除外する。
【0120】20.内視鏡と、特定色を持つ色マーカが
設けられた手術器具と、前記内視鏡の観察像を撮像する
撮像手段と、この撮像手段からの画像信号に基づいて前
記色マーカの位置を検出する位置検出手段と、検出され
た位置情報に基づき内視鏡の視野変換を行う視野変換手
段とを具備する内視鏡装置において、前記位置検出手段
は、画像中の特定色を抽出する色抽出手段と、画像中の
直線を抽出する直線抽出手段と、色抽出結果と直線抽出
結果を統合して色マーカ位置を特定する色マーカ位置特
定手段とを有する。
【0121】21.20において前記色マーカの一部
は、鉗子軸方向に平行に直線状に施される。
【0122】22.20、21において、前記色マーカ
位置検出手段は、所定の間隔及び相対角度を有する2直
線に挟まれた色抽出領域を色マーカと判定する。
【0123】23.22において、前記色マーカ位置検
出手段は、2直線の間隔及び相対角度から鉗子先端位置
を推定する。
【0124】24.内視鏡と、特定色を持つ色マーカが
設けられた手術器具と、色マーカ位置センサと、前記内
視鏡の観察像を撮像する撮像手段と、この撮像手段から
の画像信号に基づいて前記色マーカの位置を検出する位
置検出手段と、検出された位置情報に基づき内視鏡の視
野変換を行う視野変換手段とを具備する内視鏡装置にお
いて、前記位置検出手段は、画像中の特定色を抽出する
色抽出手段と、前記色マーカ位置センサの出力に基づき
画像中の色マーカ位置の候補領域を設定する候補領域設
定手段と、候補領域内の色抽出領域を色マーカと判定す
る色マーカ位置特定手段とを有する。
【0125】25.24において、色マーカ位置センサ
は、ジャイロ及び加速度センサからなる。
【0126】26.内視鏡と、特定色を持つ色マーカが
設けられた手術器具と、前記内視鏡の観察像を撮像する
撮像手段と、この撮像手段からの画像信号に基づいて前
記色マーカの位置を検出する位置検出手段と、検出され
た位置情報に基づき内視鏡の視野変換を行う視野変換手
段とを具備する内視鏡装置において、前記位置検出手段
は、複数の特定色を抽出する色抽出手段と、複数の色抽
出結果に基づき、複数の色マーカ各々の位置及び面積を
検出する位置・面積検出手段と、検出された複数の色マ
ーカ各々の面積に基づき、視野変換の目標位置を決定す
る目標位置決定手段とを有する。
【0127】27.26において前記複数の色マーカ
は、色特性及び大きさが異なる。
【0128】28.27において前記目標位置決定手段
は、前記色マーカ検出手段にて検出された面積に基づい
て内視鏡先端と鉗子先端との距離を推定し、距離が大き
い場合には面積が小さい色マーカ、距離が小さいときに
は面積が大きい色マーカの位置を目標位置とする。
【0129】29.内視鏡と、通常照明光と蛍光励起光
を時分割的に供給する照明手段と、前記励起光に対して
蛍光を発する蛍光マーカが設けられた手術器具と、前記
内視鏡の観察像を撮像する撮像手段と、この撮像手段か
らの画像信号に基づいて前記色マーカの位置を検出する
位置検出手段と、モニタに表示する観察画像を生成する
観察画像生成手段と、前記内視鏡から得られた画像信号
を、通常照明光供給時には観察画像生成手段に送信し、
励起光供給時には位置検出手段に送信する信号経路切換
手段と、検出された位置情報に基づき内視鏡の視野変換
を行う視野変換手段と、を具備する内視鏡装置。
【0130】30.29において、前記照明手段は、通
常照明用フィルタと励起光透過フィルタからなる回転フ
ィルタを有する。
【0131】31.29、30において前記観察画像生
成手段は、励起光供給時には過去の画像信号に基づき予
測処理により観察画像を生成する。
【0132】32.内視鏡と、一定周期で照明点灯と消
灯を繰り返す照明手段と、所定時間以上の発光期間を有
する発光マーカが設けられた手術器具と、前記内視鏡の
観察像を撮像する撮像手段と、この撮像手段からの画像
信号に基づいて前記色マーカの位置を検出する位置検出
手段と、モニタに表示する観察画像を生成する観察画像
生成手段と、前記内視鏡から得られた画像信号を、照明
点灯時には観察画像生成手段に送信し、照明消灯時には
位置検出手段に送信する信号経路切換手段と、検出され
た位置情報に基づき内視鏡の視野変換を行う視野変換手
段と、を具備する内視鏡装置。
【0133】33.32において前記照明手段は、照明
光透過と遮断とを切り替える回転フィルタを有する。
【0134】34.32、33において、前記観察画像
生成手段は、照明消灯時には過去の画像信号に基づき予
測処理により観察画像を生成する。
【0135】35.32、33、34において、前記発
光マーカの発光期間は少なくとも画像1フレームに相当
する時間である。
【0136】36.内視鏡と、特定色を持つ色マーカが
設けられた手術器具と、前記内視鏡の観察像を撮像する
撮像手段と、この撮像手段からの画像信号に基づいて前
記色マーカの位置を検出する位置検出手段と、検出され
た位置情報に基づき内視鏡の視野変換を行う視野変換手
段とを具備する内視鏡装置において、前記位置検出手段
は、画像中の特定色を抽出する色抽出手段と、色抽出結
果に基づき色マーカ位置を特定する色マーカ位置特定手
段と、画像中の色マーカの存在を認識する色マーカ認識
手段とを有し、前記色マーカ認識手段が画像中に色マー
カが存在しないと判定した場合には、視野変換動作を停
止する。
【0137】37.36において前記色マーカ認識手段
は、前記色抽出手段の抽出画素数が所定値以下の場合
に、色マーカが画像中に存在しないと判定する。
【0138】38.34において前記手術器具には色マ
ーカ位置センサが設けられ、前記色マーカ認識手段は、
この色マーカ位置センサの出力に基づき、画像中の色マ
ーカの存在を判定する。 39.38において前記色マーカ位置センサは、ジャイ
ロ及び加速度センサからなる。
【0139】40.内視鏡と、照明光を偏向させる第1
の偏光フィルタを有する照明手段と、特定色を持つ色マ
ーカが設けられた手術器具と、前記内視鏡の観察像を撮
像する撮像手段と、この撮像手段からの画像信号に基づ
いて前記色マーカの位置を検出する位置検出手段と、前
記撮像手段に設けた第2の偏光フィルタの偏光方向を調
節する調節手段と、検出された位置情報に基づき内視鏡
の視野変換を行う視野変換手段と、を具備する内視鏡装
置。
【0140】41.内視鏡と、特定色を持つ色マーカが
設けられた手術器具と、前記内視鏡の観察像を撮像する
撮像手段と、この撮像手段からの画像信号に基づいて前
記色マーカの位置を検出する位置検出手段と、検出され
た位置情報に基づき内視鏡の視野変換を行う視野変換手
段とを具備する内視鏡装置において、前記位置検出手段
は、1画面を記憶するフレームメモリと、画像中の特定
色を抽出する色抽出手段と、色抽出結果に基づき色マー
カの位置及び面積を求める位置・面積算出手段と、過去
の画像の色マーカの位置及び面積から、現在の画像の色
マーカの位置及び面積を予測する位置・面積予測手段と
を有し、予測した色マーカ位置と距離が近い画素から順
にフレームメモリより読み出し色抽出手段に入力し、色
抽出面積が予測した色マーカ面積に達した時点でマーカ
位置検出処理を完了とする。
【0141】42.内視鏡と、特定色を持つ色マーカが
設けられた手術器具と、前記内視鏡の観察像を撮像する
撮像手段と、この撮像手段からの画像信号に基づいて前
記色マーカの位置を検出する位置検出手段と、検出され
た位置情報に基づき内視鏡の視野変換を行う視野変換手
段とを具備する内視鏡装置において、前記画像信号を所
定の色空間に変換する色変換手段と、色変換された画像
中の特定色を抽出する色抽出手段と、を具備し、前記色
変換手段と色抽出手段とを1つの素子で構成する。
【0142】上記した構成1乃至42に対する従来技
術、発明の目的は以下の通りである。 1乃至4(第1実施形態) 従来技術 従来より、手術器具としての処置具の先端に設けられた
色マーカの位置を検出し、この検出位置に基づいて内視
鏡の視野変換を行なう内視鏡装置が知られている。
【0143】特開平6−30896号公報は色マーカが
設けられた処置具で対象組織を指し示し、このときの画
像中の色マーカの位置を画像処理により検出し、検出位
置に基づいて内視鏡を保持している電動マニピュレータ
を移動させて色マーカが画面中央に移動するように視野
変換を行っている。
【0144】また、特願平7−142133号明細書や
特願平7−143667号明細書は、色マーカの位置検
出方法は特源平6−30896号公報と同一であるが、
内視鏡で得られた像を撮像するTVカメラに接続された
視野変換手段を備え、内視鏡を固定した状態で視野変換
を行なう内視鏡装置を開示している。
【0145】上記した画像処理は色抽出処理と位置検出
処理とから構成される。色抽出処理は撮像した映像信号
を色空間データに変換し、そのデータがあらかじめ設定
された色マーカの特定色を表すしきい値の範囲内にある
かどうかを判断し、判断結果として2値画像(例えば抽
出部を白とし、それ以外を黒とする)を出力している。
【0146】ところで、体腔内の画像は内視鏡と観察対
象との距離変化や、内視鏡から出射される照明光の配光
ムラ等の照明条件によって明るさ(輝度)が変化する。
この変化する輝度と色(色度、彩度)が独立している色
空間を用いれば、理論的には輝度が変化しても色分布は
不変である。しかしながら、実際には輝度が上がると彩
度も上昇する。また、撮像素子のダイナミックレンジを
越える高輝度像が入力されると、色度も変化してしま
う。また、しきい値が固定されているので、色度の変化
に対応できず色抽出能力が低下してしまう。一方、この
変動を見越してしきい値の範囲を大きくすると、色マー
カ以外の部分までノイズとして抽出されてしまうという
問題があった。
【0147】発明の目的 撮像画像の輝度変化による色分布変化が起こっても、色
抽出能力が落ちたりノイズを拾ったりすることなく、色
マーカを抽出可能である画像処理手段を備えた内視鏡装
置の提供。
【0148】5乃至13(第2実施形態) 従来技術 処置具に設けられた色マーカは、洗浄・滅菌を行ううち
に色が劣化してくる。また、内視鏡・TVカメラの光学
系のバラツキ、CCU(カメラコントロールユニット)
のユーザーによる色設定の違い、生体内色特性の固体差
等により、同じ色マーカでも違った色として認識でも違
った色として認識されることがある。これら複数の要因
による色変化がある状況では、固定されたしきい範囲で
この変化に対応し高い色抽出能力を持たせることは困難
である。
【0149】発明の目的 色マーカの劣化、光学系のバラツキ、映像信号処理系の
設定等による色マーカの色変化が起こっても、色抽出能
力を落とすことなく色マーカを抽出可能である画像処理
手段を備えた内視鏡装置の提供。
【0150】14乃至19(第3実施形態)、20乃至
23(第4実施形態)、24、25(第5実施形態)、
36乃至39(第9実施形態)、40(第10実施形
態)、41(第11実施形態) 従来技術 体腔内組織の内、腸や脂肪等の白っぽい組織は表面が濡
れていてるとハイライトになる場合がある。このハイラ
イト部が光学系・撮像素子の特性等で色が付いて撮像さ
れ、ノイズとして抽出されてしまう。また、色マーカが
内視鏡軸に対し傾いたり、内視鏡から遠くにあると色マ
ーカの彩度が下がるため、しきい範囲を低彩度側まで拡
げて抽出能を上げることが必要となる。しかし色抽出能
力が向上する反面、色マーカ以外の低彩度領域もノイズ
として抽出してしまう。
【0151】発明の目的 ノイズ抽出を防ぎ、高精度で色マーカを抽出可能、色マ
ーカ位置を検出可能な内視鏡装置の提供。
【0152】26乃至28(第6実施形態) 従来技術 体腔内での内視鏡先端と観察対象との距離は、症例によ
っても、また同一症例でも変化する。処置具に単一の色
マーカのみが設けられている場合は、内視鏡と色マーカ
の距離が離れてしまうと抽出しずらくなる。色マーカの
面積を大きくすれば抽出能は上がるが、距離が短くなる
と画面中に占める色マーカの面積が大きすぎて、所望の
位置への視野変換ができなくなる。
【0153】発明の目的 内視鏡と色マーカの距離が大きく変化する場合でも、適
切な面積の色マーカを抽出可能とすることにより、安定
した色抽出、色マーカ位置の検出が可能な内視鏡の提
供。
【0154】29乃至31(第7実施形態)、32乃至
35(第8実施形態) 従来技術 通常の色マーカを用い、色抽出画像処理により色マーカ
を抽出する方法では、照明条件や体腔内組織の状態によ
って抽出状態が変化するため、全ての条件において安定
した色マーカの抽出を可能にすることは難しい。
【0155】発明の目的 照明条件、体腔内組織の状態によらず、確実に色マーカ
の抽出、色マーカ位置の検出が可能となる内視鏡装置の
提供。
【0156】42(第12実施形態) 従来技術 色変換回路と色抽出回路と別個に構成していたので色空
間を変更する場合には双方の回路を変更する必要があ
る。また、色変換回路と色空間回路とを各々LUTによ
って構成した場合も双方のテーブルを書き換える必要が
あった。
【0157】発明の目的 RGBの映像信号をYIQの色空間に変換する処理と、
しきい値を用いた色抽出処理とを1つの素子で行ない、
色空間に応じて入出力パターンを書き換えることができ
る内視鏡装置の提供。
【0158】
【発明の効果】本発明によれば、撮影画像の輝度変化に
よる色分布変化が起こっても、色抽出能力が低下した
り、ノイズを拾ったりすることなく、色マーカを確実に
抽出できるようになる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る内視鏡装置全体の概略
構成を示す図である。
【図2】YIQ色空間を用いた場合の色抽出設定の様子
を示している。
【図3】YIQ色空間における色度I及びQの変化の様
子を示す図である。
【図4】撮像系のダイナミックレンジの影響等による色
相の変化の様子を示す図である。
【図5】色抽出しきい範囲を輝度に応じて変化させる本
実施形態の概略を説明するための図である。
【図6】本発明の第1実施形態に係る鉗子追尾装置の構
成とその周辺を示すブロック図である。
【図7】第1の輝度推定方法を説明するための図であ
る。
【図8】第2の輝度推定方法を説明するための図であ
る。
【図9】第2の輝度推定方法の具体的例を示す図であ
る。
【図10】本発明の第1実施形態に係る鉗子追尾装置の
構成とその周辺を示すブロック図である。
【図11】色分析対象の第1の指摘方法を説明するため
の図である。
【図12】色分析対象の第1の指摘方法を説明するため
の図である。
【図13】色抽出しきい範囲の第1の設定方法を説明す
るための図である。
【図14】色抽出しきい範囲の第2の設定方法を説明す
るための図である。
【図15】色抽出しきい範囲の第3の設定方法を説明す
るための図である。
【図16】本発明の第3実施形態に係る鉗子追尾装置の
構成を示す図である。
【図17】第1のマーカ配置方法を説明するための図で
ある。
【図18】第2のマーカ配置方法を説明するための図で
ある。
【図19】第2のマーカ配置方法の作用を従来と比較し
て説明するための図である。
【図20】第3のマーカ配置方法を説明するための図で
ある。
【図21】本発明の第4実施形態に係る鉗子追尾装置の
構成を示す図である。
【図22】第4実施形態の作用を説明するための図であ
る。
【図23】色マーカの配置及び色マーカの形状について
の変形例を示す図である。
【図24】本発明の第5実施形態に係る鉗子追尾装置及
び鉗子の構成を示す図である。
【図25】第5実施形態の作用を説明するための図であ
る。
【図26】本発明の第6実施形態に係る色マーカの配置
を示す図である。
【図27】第6実施形態に係る鉗子追尾装置の構成を示
す図である。
【図28】抽出面積と鉗子−スコープ間距離との関係を
各マーカについて示す図である。
【図29】鉗子−スコープ間距離に応じた色マーカの切
替について説明するための図である。
【図30】本発明の第7実施形態の構成を示す図であ
る。
【図31】第7実施形態に係る回転フィルタの構成及
び、蛍光マーカの特性を示す図である。
【図32】第7実施形態の作用を示すタイミングチャー
トである。
【図33】本発明の第8実施形態に係る回転フィルタの
構成及び、発光マーカに用いられる材料について説明す
るための図である。
【図34】本発明の第9実施形態に係る鉗子追尾装置の
構成を示す図である。
【図35】第9実施形態の他の構成を示す図である。
【図36】本発明の第10実施形態に係る鉗子追尾装置
の構成を示す図である。
【図37】本発明の第11実施形態に係る鉗子追尾装置
の構成を示す図である。
【図38】第11実施形態において、過去のフレームか
らマーカ重心位置とマーカ面積とを予測する様子を示す
図である。
【図39】第11実施形態の作用を説明するための図で
ある。
【図40】本発明の第11実施形態の構成を説明するた
めの図である。
【符号の説明】
13…処置部、14…色マーカ、15…操作スイッチ、
16…鉗子追尾装置、17…表示モニタ、18…CC
U、19…A/D、20…輝度推定回路、21…色抽出
しきい範囲選択回路、22…色変換回路、23…色抽出
回路、24…重心位置算出回路、25…CCD駆動部制
御回路。

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】内視鏡と、特定色を持つ色マーカが設けら
    れた手術器具と、前記内視鏡の観察像を撮像する撮像手
    段と、この撮像手段からの画像信号に基づいて前記色マ
    ーカの位置を検出する位置検出手段と、検出された位置
    情報に基づき内視鏡の視野変換を行う視野変換手段とを
    具備する内視鏡装置において、 前記位置検出手段は、 前記画像信号の輝度を検出する輝度検出手段と、 検出された輝度情報に応じて色抽出しきい範囲を設定す
    るしきい範囲設定手段と、 設定されたしきい範囲に基づき画像中の特定色を抽出す
    る色抽出手段と、 この色抽出結果に基づき前記色マーカの位置を特定する
    色マーカ位置特定手段と、を具備することを特徴とする
    内視鏡装置。
JP08483097A 1997-04-03 1997-04-03 内視鏡装置 Expired - Fee Related JP3762512B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP08483097A JP3762512B2 (ja) 1997-04-03 1997-04-03 内視鏡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP08483097A JP3762512B2 (ja) 1997-04-03 1997-04-03 内視鏡装置

Publications (2)

Publication Number Publication Date
JPH10276974A true JPH10276974A (ja) 1998-10-20
JP3762512B2 JP3762512B2 (ja) 2006-04-05

Family

ID=13841698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP08483097A Expired - Fee Related JP3762512B2 (ja) 1997-04-03 1997-04-03 内視鏡装置

Country Status (1)

Country Link
JP (1) JP3762512B2 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004154176A (ja) * 2002-11-01 2004-06-03 Olympus Corp 内視鏡撮像装置
JP2007222238A (ja) * 2006-02-21 2007-09-06 Fujinon Corp 体腔内観察装置
CN100431475C (zh) * 2003-04-25 2008-11-12 奥林巴斯株式会社 图像显示装置、图像显示方法以及图像显示程序
JP2009201682A (ja) * 2008-02-27 2009-09-10 Hitachi Ltd 回転状態検出方法および装置
US7938771B2 (en) 2002-11-01 2011-05-10 Olympus Corporation Endoscope image pick-up apparatus
WO2012035923A1 (ja) * 2010-09-14 2012-03-22 オリンパスメディカルシステムズ株式会社 内視鏡システム及び視界不良判定方法
WO2012165203A1 (ja) * 2011-05-27 2012-12-06 オリンパス株式会社 内視鏡装置
WO2015019957A1 (ja) * 2013-08-07 2015-02-12 オリンパスメディカルシステムズ株式会社 内視鏡システム、内視鏡システムの作動方法
WO2015146836A1 (ja) * 2014-03-27 2015-10-01 オリンパス株式会社 内視鏡システム
JP2016532488A (ja) * 2013-07-31 2016-10-20 マッケ・ゲゼルシャフトミットベシュレンクターハフトゥング 外科的介入中の画像化支援を提供するための装置
US9801531B2 (en) 2011-05-27 2017-10-31 Olympus Corporation Endoscope system and method for operating endoscope system
JP2018519941A (ja) * 2015-08-10 2018-07-26 ジャイラス エーシーエムアイ インク 拡張バルーン用中心マーカ
WO2023170889A1 (ja) * 2022-03-10 2023-09-14 オリンパス株式会社 画像処理装置、エネルギー処置具、処置システムおよび画像処理方法

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004154176A (ja) * 2002-11-01 2004-06-03 Olympus Corp 内視鏡撮像装置
JP4583704B2 (ja) * 2002-11-01 2010-11-17 オリンパス株式会社 内視鏡撮像装置
US7938771B2 (en) 2002-11-01 2011-05-10 Olympus Corporation Endoscope image pick-up apparatus
CN100431475C (zh) * 2003-04-25 2008-11-12 奥林巴斯株式会社 图像显示装置、图像显示方法以及图像显示程序
US8182420B2 (en) 2004-03-01 2012-05-22 Olympus Corporation Endoscope image pick-up apparatus
JP2007222238A (ja) * 2006-02-21 2007-09-06 Fujinon Corp 体腔内観察装置
US8038596B2 (en) 2006-02-21 2011-10-18 Fujifilm Corporation Observation apparatus that detects position of a treatment tool from an image
JP2009201682A (ja) * 2008-02-27 2009-09-10 Hitachi Ltd 回転状態検出方法および装置
WO2012035923A1 (ja) * 2010-09-14 2012-03-22 オリンパスメディカルシステムズ株式会社 内視鏡システム及び視界不良判定方法
US8497898B2 (en) 2010-09-14 2013-07-30 Olympus Medical Systems Corp. Endoscope system and low visibility determining method
WO2012165203A1 (ja) * 2011-05-27 2012-12-06 オリンパス株式会社 内視鏡装置
JP2012245157A (ja) * 2011-05-27 2012-12-13 Olympus Corp 内視鏡装置
US9801531B2 (en) 2011-05-27 2017-10-31 Olympus Corporation Endoscope system and method for operating endoscope system
US9486123B2 (en) 2011-05-27 2016-11-08 Olympus Corporation Endoscope system which enlarges an area of a captured image, and method for operating endoscope system
JP2016532488A (ja) * 2013-07-31 2016-10-20 マッケ・ゲゼルシャフトミットベシュレンクターハフトゥング 外科的介入中の画像化支援を提供するための装置
WO2015019957A1 (ja) * 2013-08-07 2015-02-12 オリンパスメディカルシステムズ株式会社 内視鏡システム、内視鏡システムの作動方法
CN105188509A (zh) * 2013-08-07 2015-12-23 奥林巴斯株式会社 内窥镜系统和内窥镜系统的工作方法
JP5792415B2 (ja) * 2013-08-07 2015-10-14 オリンパス株式会社 内視鏡システム、内視鏡システムの作動方法
EP2982290A4 (en) * 2013-08-07 2017-01-18 Olympus Corporation Endoscope system and endoscope system operation method
US9629526B2 (en) 2013-08-07 2017-04-25 Olympus Corporation Endoscope system for controlling output of laser from laser probe
WO2015146836A1 (ja) * 2014-03-27 2015-10-01 オリンパス株式会社 内視鏡システム
JP2018519941A (ja) * 2015-08-10 2018-07-26 ジャイラス エーシーエムアイ インク 拡張バルーン用中心マーカ
JP2020072920A (ja) * 2015-08-10 2020-05-14 ジャイラス エーシーエムアイ インク 拡張バルーン用中心マーカ
US10940299B2 (en) 2015-08-10 2021-03-09 Gyms Acmi, Inc. Center marker for dilatation balloon
WO2023170889A1 (ja) * 2022-03-10 2023-09-14 オリンパス株式会社 画像処理装置、エネルギー処置具、処置システムおよび画像処理方法

Also Published As

Publication number Publication date
JP3762512B2 (ja) 2006-04-05

Similar Documents

Publication Publication Date Title
US10799098B2 (en) Medical image processing device, endoscope system, diagnosis support device, and medical service support device
CN110325100B (zh) 内窥镜系统及其操作方法
US11759092B2 (en) Endoscope system, processor device, and method of operating endoscope system
US10362928B2 (en) Image processing apparatus and image processing method
EP2979618B1 (en) Image processing device for operating endoscope system
US20210076917A1 (en) Image processing apparatus, endoscope system, and image processing method
US11563921B2 (en) Image processing apparatus, endoscope system, and image processing method
US10820786B2 (en) Endoscope system and method of driving endoscope system
EP2904956A1 (en) Endoscope system, processor device for endoscope system, operation method for endoscope system, and operation method for processor device
US20040064016A1 (en) Diagnosis supporting device
JP3762512B2 (ja) 内視鏡装置
US20210169306A1 (en) Medical image processing apparatus, endoscope system, and method for operating medical image processing apparatus
US20210307587A1 (en) Endoscope system, image processing device, total processing time detection method, and processing device
US20230165433A1 (en) Endoscope system and method of operating the same
US20220383533A1 (en) Medical image processing apparatus, endoscope system, medical image processing method, and program
EP3520671A1 (en) Processor device, endoscope system, and method for operation of processor device
US10462440B2 (en) Image processing apparatus
US20220237795A1 (en) Image processing device and method of operating the same
US20220409010A1 (en) Medical image processing device, operation method therefor, and endoscope system
JP7447243B2 (ja) プロセッサ装置及びその作動方法
WO2022059233A1 (ja) 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム
WO2021176890A1 (ja) 内視鏡システム、制御方法、及び制御プログラム
WO2022210508A1 (ja) プロセッサ装置、医療画像処理装置、及び医療画像処理システム、並びに内視鏡システム
CN112689469A (zh) 内窥镜装置、内窥镜处理器及内窥镜装置的操作方法
CN111989026A (zh) 内窥镜装置、内窥镜操作方法及程序

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100120

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110120

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120120

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130120

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140120

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees