JP5269921B2 - 電子内視鏡システム及び電子内視鏡システムの作動方法 - Google Patents

電子内視鏡システム及び電子内視鏡システムの作動方法 Download PDF

Info

Publication number
JP5269921B2
JP5269921B2 JP2011011699A JP2011011699A JP5269921B2 JP 5269921 B2 JP5269921 B2 JP 5269921B2 JP 2011011699 A JP2011011699 A JP 2011011699A JP 2011011699 A JP2011011699 A JP 2011011699A JP 5269921 B2 JP5269921 B2 JP 5269921B2
Authority
JP
Japan
Prior art keywords
image
pixel
change
electronic endoscope
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011011699A
Other languages
English (en)
Other versions
JP2012152266A (ja
Inventor
俊彦 加來
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2011011699A priority Critical patent/JP5269921B2/ja
Priority to EP11188640.4A priority patent/EP2479724B1/en
Priority to US13/303,003 priority patent/US9111335B2/en
Publication of JP2012152266A publication Critical patent/JP2012152266A/ja
Application granted granted Critical
Publication of JP5269921B2 publication Critical patent/JP5269921B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20132Image cropping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Description

本発明は、電子内視鏡によって被検体内を撮影する電子内視鏡システム、及び電子内視鏡システム用の画像処理方法に関する。
医療分野では、電子内視鏡を用いた診断や治療が普及している。電子内視鏡によって被検体内を撮影する電子内視鏡システムでは、被検体内に白色光(以下、通常光という)を照射して撮影する態様が知られている。しかし、通常光を照射して撮影した画像では、組織性状等を把握し難い場合があるので、近年では、特定の狭い波長帯の光(以下、特殊光という)を照射しながら撮影することにより、特定の組織性状を把握し易くした画像を撮影する電子内視鏡が知られている。
また、近年では、撮影された画像に特定の組織のコントラストを向上させる画像処理を施すことにより、特定の組織を強調して表示する技術が知られている。例えば、撮影された画像に所定周波数の像を強調する画像処理(以下、周波数強調処理という)を施すことにより、粘膜表層の血管(以下、表層血管という)のコントラストを向上させることができることが知られている。周波数強調処理等の画像処理は、特殊光観察時に併用することで、観察対象の組織の視認性を特に向上させることができる。
ところで、電子内視鏡は、鉗子等の処置具を挿通するチャネルを備えている。これにより、被検体内に挿入する挿入部の先端から処置具を突出させ、腫瘍組織等に対して処置を行うことができる。処置具は電子内視鏡による観察野に突出されるので、術者は画像に写り込む処置具先端の位置等を観察しながら処置を行う。
しかし、処置具が観察野に突出されることによる弊害が生じる場合もある。例えば、処置具の種類によっては、処置具によって照明光が強く反射され、観察する画像にスミアやフレアが生じて、観察の妨げになることがある。このため、処置具からの反射光が撮像素子に入射しないようにすることで、スミアやフレアを防止した電子内視鏡が知られている(特許文献1,2)。
特開2002−65586号公報 特開平3−275028号公報
特殊光観察時に撮影画像に周波数強調処理等の画像処理を施す場合に、撮影画像内に処置具が写り込んでいると、被検体内の像だけでなく、処置具に対しても画像処理が施されてしまうという問題がある。処置具に画像処理が施されると、処置具が変色されてしまったり、周期的な模様が生じる等の好ましくない態様で強調されてしまう等、かえって被検体内の観察を妨げる観察し難い画像となってしまうことがある。この問題は、電子内視鏡の先端部を大きく湾曲させたときに電子内視鏡の挿入部自体が画像に写り込む場合にも起こり得る。
また、こうした画像処理による弊害は、撮影画像内に処置具が写し出されている以上、避けることができない。したがって、特許文献1,2に記載されている電子内視鏡のように処置具からの反射光を撮像素子に入射し難くしたとしても、画像処理による弊害を除くことはできない。
本発明は、上述の問題点に鑑みてなされたものであり、処置具等の人工物に画像処理が施されないようにし、観察しやすい画像を提供することを目的とする。
本発明の電子内視鏡システムは、被検体内に挿入され、前記被検体内を撮影する電子内視鏡と、前記電子内視鏡によって撮影された画像データの各画素の画素値を監視し、所定以上の変化があった画素を変化画素として検出し、前記変化画素をクラスタリングし、前記変化画素のクラスタのうち、所定サイズ以上のクラスタを前記変化領域として検出することにより、前記画像データから人工物の写り込みにより像の特徴が変化した変化領域を検出する変化領域検出手段と、前記変化領域に基づいて、前記変化領域と他の領域とで各々異なる態様で画像処理が施されるように、前記画像処理のパラメータを前記画素毎に定めたマスクデータを生成するマスクデータ生成手段と、前記マスクデータに基づいて前記画像データに前記画像処理を施す画像処理手段と、を備えることを特徴とする。
前記変化領域検出手段は、前記画像データの各画素の画素値が所定の第1閾値以上の大きさの画素を前記変化画素として検出することが好ましい。
前記画像データは、赤色画素を含むカラーの画像データであり、前記第1閾値は、前記赤色画素の画素値に基づく値であることが好ましい。
前記変化領域検出手段は、変化の基準となるベース画像を保持し、新たに撮影された前記画像データと前記ベース画像の差分を算出し、前記差分が第2閾値以上の値の画素を前記変化画素として検出することが好ましい。
前記ベース画像は、以前に撮影された画像データの平均値であることが好ましい。
前記ベース画像は、前のフレームで撮影された前記画像データであり、前記マスクデータ生成手段は、前記変化領域検出手段が検出した前記変化領域に基づいてプレマスクデータを生成するとともに、前記マスクデータ生成手段は前のフレームで生成した前記マスクデータを保持し、前記プレマスクデータと前のフレームで生成した前記マスクデータとに基づいて新たなマスクデータを生成することが好ましい。
前記変化領域検出手段は、前記電子内視鏡の挿入が開始されてから一定の時間内の場合には、前記画像データの各画素の画素値が所定の第1閾値以上の大きさの画素を前記変化画素として検出し、前記電子内視鏡の挿入が開始されてから一定時間の経過した場合には、新たに撮影された前記画像データと前記ベース画像の差分を算出し、前記差分が第2閾値以上の値の画素を前記変化画素として検出することが好ましい。
前記変化領域検出手段は、前記画像データの一部の領域を指定領域として、前記指定領域内で前記変化画素を検出し、検出した前記画素をクラスタリングして所定サイズ以上のクラスタをプレ変化領域として検出し、前記プレ変化領域の代表色の画素を前記プレ変化領域に連結してクラスタリングし、前記代表色の画素を連結したクラスタのうち所定サイズ以上のクラスタを前記変化領域として検出することが好ましい。
前記指定領域は、前記画像データ内に処置具が突出する出元の領域であることが好ましい。
前記指定領域は、前記電子内視鏡の種類に応じて切り替えられることが好ましい。
前記プレ変化領域と、前記プレ変化領域の代表色の画素を連結するクラスタリングは、前記指定領域に連結して定められた所定エリア内で行われることが好ましい。
前記変化領域検出手段は、前フレームで撮影された前記画像データについて検出した前記変化領域を、新たに撮影された前記画像データの前記プレ変化領域として用いることが好ましい。
前記マスクデータは、前記画像処理のオンオフを切り替える2値のパラメータであることが好ましい。
前記マスクデータは、前記画像処理の強弱を設定するパラメータであることが好ましい。
前記マスクデータは、前記画像処理の強弱を定めるパラメータであり、前記画像データの画素値に応じて、前記変化領域に対応するパラメータと、像の特徴が変化しない非変化領域に対応するパラメータと、前記画素値が前記変化領域の画素と前記非変化領域の画素の中間的な変化をした画素を含む中間変化領域に対応するパラメータとを有することが好ましい。
前記画像処理手段は、前記中間変化領域に対応する画素に対して、前記変化領域に施す画像処理と、前記非変化領域に施す画像処理とを、前記マスクデータに定めた前記パラメータに応じた比率で混合して行うことが好ましい。
前記画像処理手段は、撮影された前記画像データに対して、画像処理を行った第1画像と、他の画像処理を行った第2画像とを並行して生成し、前記マスクデータに応じて前記第1画像と前記第2画像とを合成した合成画像を表示手段に表示させることが好ましい。
前記画像処理手段は、少なくとも前記画像データに写された構造を強調する強調処理を、前記マスクデータに基づいて行うことが好ましい。
前記強調処理は、特定の周波数の像を強調する周波数強調処理であることが好ましい。
本発明の電子内視鏡システムの作動方法は、被検体内を撮影する電子内視鏡と、前記電子内視鏡によって撮影された画像データに画像処理を施す画像処理回路とを備える電子内視鏡システムの作動方法であって、前記画像処理回路が、前記電子内視鏡によって撮影された画像データの各画素の画素値を監視して、所定以上の変化があった画素を変化画素として検出し、前記変化画素をクラスタリングし、前記変化画素のクラスタのうち、所定サイズ以上のクラスタを前記変化領域として検出することにより、前記画像データから人工物の写り込みにより像の特徴が変化した変化領域を検出する変化領域検出ステップと、前記変化領域に基づいて、前記変化領域と他の領域とで各々異なる態様で画像処理が施されるように、前記画像処理のパラメータを前記画素毎に定めたマスクデータを生成するマスクデータ生成ステップと、前記マスクデータに基づいて前記画像データに前記画像処理を施す画像処理ステップと、を行うことを特徴とする。
本発明によれば、処置具等の人工物には強調処理等の不必要な画像処理が施されず、被検体内の像にだけ所望の画像処理が施されるので、観察しやすい画像を提供することができる。
電子内視鏡システムの構成を示す外観図である。 電子内視鏡システムの電気的構成を示すブロック図である。 画像処理の態様を示すフローチャートである。 画像処理の態様を示す説明図である。 マスクデータの有無による画像処理後の相違を示す説明図である。 変化領域を検出する態様を示すフローチャートである。 変化領域を検出する態様を示す説明図である。 内視鏡挿入後の経過時間で変化領域を検出する態様を変化させる例を示すフローチャートである。 変化領域を検出する別の態様を示すフローチャートである。 指定領域でプレ変化領域を指定して変化領域を検出する態様を示す説明図である。 電子内視鏡の種類に応じて指定領域を変更する態様を示す説明図である。 変化領域の検出を代表色結合エリア内に限って行う態様を示す説明図である。 前フレームの変化領域を次フレームのプレ変化領域として利用する態様を示す説明図である。 マスクデータを多値化した態様を示す説明図である。 先端部を180度屈曲させる例を示す説明図である。 撮影画像に挿入部が写し出された例を示す説明図である。 マスクデータを用いた画像処理と他の画像処理を並行して行う例を示すフローチャートである。
[第1実施形態]
図1に示すように、電子内視鏡システム11は、電子内視鏡12、プロセッサ装置13、及び光源装置14を備える。電子内視鏡12は、被検者の体内に挿入される可撓性の挿入部16と、挿入部16の基端部分に連接された操作部17と、プロセッサ装置13及び光源装置14に接続されるコネクタ18と、操作部17‐コネクタ18間を繋ぐユニバーサルコード19とを有する。挿入部16の先端(以下、先端部という)20には、被検体内撮影用のCCD型イメージセンサ(図2参照。以下、CCDという)21が設けられている。
操作部17には、先端部20を上下左右に湾曲させるためのアングルノブや挿入部16の先端からエアーや水を噴出させるための送気/送水ボタン、観察画像を静止画像記録するためのレリーズボタン、モニタ22に表示された観察画像の拡大/縮小を指示するズームボタン、通常光観察と特殊光観察の切り替えを行う切り替えボタンといった操作部材が設けられている。また、操作部17の先端側には、電気メス等の処置具26(図2参照)が挿通される鉗子入口27が設けられている。鉗子入口27は、挿入部16内の鉗子チャネル28(図2参照)を介して、先端部20に設けられた鉗子出口29(図2参照)に連通している。
プロセッサ装置13は、光源装置14と電気的に接続され、電子内視鏡システム11の動作を統括的に制御する。プロセッサ装置13は、ユニバーサルコード19や挿入部16内に挿通された伝送ケーブルを介して電子内視鏡12に給電を行い、CCD21の駆動を制御する。また、プロセッサ装置13は、伝送ケーブルを介してCCD21から出力された撮像信号を取得し、各種画像処理を施して画像データを生成する。プロセッサ装置13で生成された画像データは、プロセッサ装置13にケーブル接続されたモニタ22に観察画像として表示される。
図2に示すように、先端部20には、対物光学系31、CCD21、投光ユニット41,46等が設けられている。また、タイミングジェネレータ(以下、TGという)32、アナログ信号処理回路(以下、AFEという)33、CPU34は、操作部17やコネクタ18等に設けられている。
対物光学系31は、レンズ群やプリズム等からなり、観察窓36を介して入射する被検体内からの光をCCD21に結像させる。
CCD21は、対物光学系31によって撮像面に結像された被検体内の像を画素毎に光電変換し、入射光量に応じた信号電荷を蓄積する。CCD21は、各画素で蓄積した信号電荷を撮像信号として出力する。また、CCD21は、各画素に複数の色セグメントからなるカラーフィルタが形成されている。CCD21のカラーフィルタは、例えばベイヤー配列の原色(RGB)のカラーフィルタである。
TG32は、CCD21にクロック信号を入力する。CCD21は、TG32から入力されるクロック信号に基づいて、信号電荷を蓄積する蓄積動作や信号電荷の読み出しを行う読み出し動作を所定のタイミングで行う。TG32から出力されるクロック信号はCPU34によって制御される。
AFE33は、相関二重サンプリング(CDS)回路、自動ゲイン調節(AGC)回路、A/D変換回路からなり、CCD21からアナログの撮像信号をノイズを除去しながら取得し、ゲイン補正処理を施した後にデジタル信号に変換してDSP52に入力する。CDS回路は、相関二重サンプリング処理により、CCD21が駆動することによって生じるノイズを除去しながら撮像信号を取得する。AGC回路は、CDS回路から入力される撮像信号を増幅する。A/D変換回路は、AGC回路から入力される撮像信号を所定のビット数のデジタルな撮像信号に変換し、DSP52に入力する。AFE33の駆動は、CPU34によって制御される。例えば、CPU34は、プロセッサ装置13のCPU51から入力される信号に基づいてAGC回路による撮像信号の増幅率(ゲイン)を調節する。
投光ユニット41,46は、被検体内に照明光を照射するユニットであり、投光ユニット41は通常光を、投光ユニット46は特殊光をそれぞれ照明光として出射する。
投光ユニット41は蛍光体43を備えるとともに、光ファイバからなるライトガイド42によって光源装置14から青色レーザー光が導光される。蛍光体43は、青色レーザー光の一部を吸収して緑色〜黄色に励起発光する蛍光体であり、例えばYAG系蛍光体、BAM(BaMgAl1017)系蛍光体等からなる。投光ユニット41に導光された青色レーザー光は、蛍光体43に一部吸収されることにより、蛍光体43から緑色〜黄色の蛍光を発光させるとともに、一部は蛍光体43を透過する。したがって、投光ユニット41は、蛍光体43が発する緑色〜黄色の蛍光と、蛍光体43を透過した青色レーザー光とが合わさった擬似白色光(通常光)を照明光として被検体内に照射する。なお、蛍光体43を透過する青色レーザー光は、蛍光体43によって拡散されるため、投光ユニット41から照射される通常光は電子内視鏡12の視野内で均一である。
投光ユニット46は、光拡散部材47を備えるとともに、光ファイバからなるライトガイド48によって光源装置14から青紫色レーザー光が導光される。光拡散部材47は、青紫色レーザー光を透過するとともに拡散する。したがって、投光ユニット46は、青紫色レーザー光を拡散させた青紫光を特殊光として被検体内に照射する。投光ユニット46が照射する特殊光は、光拡散部材47によって拡散されたものであるため、電子内視鏡12の視野内で均一である。
プロセッサ装置13は、CPU51、デジタル信号処理回路(DSP)42、デジタル画像処理回路(DIP)43、表示制御回路54、操作部56等を有する。
CPU51は、図示しないデータバスやアドレスバス、制御線を介して各部と接続されており、プロセッサ装置13の全体を統括的に制御する。ROM57にはプロセッサ装置13の動作を制御するための各種プログラム(OS,アプリケーションプログラム等)やグラフィックデータ等の各種データが記憶されている。CPU51は、ROM57から必要なプログラムやデータを読み出して、作業メモリであるRAM58に展開し、読み出したプログラムを逐次処理する。また、CPU51は、検査日時、被検体や術者の情報等の文字情報といった検査毎に変わる情報を、操作部56やLAN等のネットワークより取得し、RAM58に記憶する。
DSP52は、AFE33を介してCCD21から入力される撮像信号に対して色分離、色補間、ゲイン補正、ホワイトバランス調節、ガンマ補正等の各種信号処理を施して画像データを生成する。DSP52で生成された画像データは、DIP53の作業メモリに入力される。また、DSP52は、例えば生成した画像データの各画素の輝度を平均した平均輝度値等、照明光量の自動制御(ALC制御)に必要なALC制御用データを生成し、CPU51に入力する。
DIP53は、DSP52で生成された画像データに対して、電子変倍や強調処理等の各種画像処理を施す回路であり、変化領域検出部61、マスクデータ生成部62、画像処理部63を有する。DIP53で各種画像処理が施された画像データは、観察画像としてVRAM59に一時的に記憶された後、表示制御回路54に入力される。
変化領域検出部61は、順次入力される画像データの中で像の特徴が変化した部分を変化領域として検出する。変化領域は、所定数以上の画素を含むものであり、所定数よりも少数の画素からなる領域は変化領域として検出されない。変化領域検出部61が検出した変化領域は、マスクデータ生成部62に通知される。
マスクデータ生成部62は、変化領域に対応するマスクデータを生成する。マスクデータは、所定の画像処理を行うか否か(または画像処理の強弱)を定めるパラメータを画素毎に定めたデータであり、画像処理部63が画像データに対して各種画像処理を施す際に使用される。マスクデータを考慮して行われる画像処理は、例えば、変化領域の画素には施されず、変化領域以外の部分に対してだけ施されるようになる。
画像処理部63は、電子変倍や強調処理等の各種画像処理を入力された画像データに施す。画像処理部63が画像データに施す強調処理は、例えば周波数強調処理である。表層血管は細く、密なので、空間周波数は高周波になる。また、周波数強調処理は、所定の高周波成分の画素値を増大させることにより、コントラストを向上させる画像処理である。このため、周波数強調処理を施すことにより表層血管が強調される。なお、画像処理部63は、複数種類の画像処理を行うが、少なくとも強調処理を施すときにマスクデータを使用する。例えば、強調処理の態様は、変化領域と変化領域以外の部分で異なり、変化領域以外の部分にだけ強調処理が施され、変化領域には強調処理が施されない。
表示制御回路54は、VRAM59から観察画像を取得するとともに、CPU51からROM57及びRAM58に記憶されたグラフィックデータ等を受け取る。グラフィックデータ等には、観察画像のうち被写体が写された有効画素領域のみを表示させる表示マスク、被検体及び術者の氏名等の情報や検査日時等の文字情報、GUIといったものがある。表示制御回路54は、観察画像に対してグラフィックデータ等の重畳処理を行うとともに、モニタ22の表示形式に応じたビデオ信号(コンポーネント信号、コンポジット信号等)に変換してモニタ22に出力する。これにより、モニタ22に観察画像が表示される。
操作部56は、プロセッサ装置13の筐体に設けられる操作パネル、マウスやキーボード等の周知の入力デバイスである。CPU51は、操作部56や電子内視鏡12の操作部17から入力される操作信号に応じて電子内視鏡システム11の各部を動作させる。
プロセッサ装置13には、上記の他にも、画像データに所定の圧縮形式(例えばJPEG形式)で画像圧縮処理を施す圧縮処理回路や、レリーズボタンの操作に連動して圧縮された画像をリムーバブルメディアに記録するメディアI/F、LAN等のネットワークとの間で各種データの伝送を行うネットワークI/F等が設けられている。これらは、データバス等を介してCPU51と接続されている。
光源装置14は、光源として青色LD66と青紫色LD67の2つのレーザーダイオードを有する。
青色LD66は、中心波長445nmの青色レーザー光を発光する。青色LD66が発する青色レーザー光は、コネクタ18やライトガイド42を介して投光ユニット41に導光され、蛍光体43に入射することによって擬似白色の通常光となって被検体内に照射される。
青紫色LD67は、中心波長405nmの青紫色レーザー光を発光する。青紫色LD67が発する青紫色レーザー光は、コネクタ18やライトガイド48を介して投光ユニット46に導光され、特殊光として被検体内に照射される。
青色LD66及び青紫色LD67の発光タイミングや発光量は、CPU68によって制御される。CPU68は、プロセッサ装置13のCPU51から入力されるALC制御用データに基づいて、観察に適切な光量となるように、青色LD66及び青紫色LD67の発光量をリアルタイムに自動制御する。
また、CPU68は、通常光観察を行う場合には青色LD66を点灯させることにより通常光のみを照明光として照射させ、特殊光観察を行う場合には、青色LD66と青紫色LD67を同時に点灯させることにより、被検体内に通常光と特殊光を同時に照射する。特殊光観察の場合、通常光観察の場合よりも表層血管のコントラストが向上した観察画像が撮影される。なお、青色LD66と青紫色LD67の光量制御は各々独立して行うことができる。したがって、特殊光観察を行う場合、CPU68は、青色LD66の発光量を調節することにより照明光に含まれる通常光の光量を調節し、青紫色LD67の発光量を調節することにより、照明光に含まれる特殊光の光量を調節する。
上述のように構成される電子内視鏡システム11は、図3及び図4に示すように画像処理を行い、モニタ22に表示する観察画像を生成する。
電子内視鏡システム11に電源を投入し、挿入部16を被検体内に挿入すると、CCD21によって被検体内の像が撮像される。このとき、鉗子入口27から処置具26を挿入し、その先端を鉗子出口29から突出させると、処置具26の先端は電子内視鏡12の視野内に入る。また、通常光観察と特殊光観察は必要に応じて任意のタイミングで切り替えられる。以下では、特殊光観察を行う場合を例に説明する。
CCD21が出力する撮像信号は、AFE33を介してDSP52に入力され、各種信号処理が施されることにより画像データ71が生成される。こうして生成された画像データ71は、DIP53に入力される(ステップS100)。
画像データ71が入力されると、DIP53は変化領域検出部61によって画像データ71の変化領域72を検出する(ステップS200)。
変化領域検出部61は、順次入力される画像データ71を監視して、変化した部分を変化領域72として検出する。画像データ71の変化は、例えば、被検体内の動きや先端部20の向きを変化させることによる撮影アングルの変更、照明光量の変化、処置具26の挿入等によって起こる。
これらの画素値の変化要因のうち、被検体内の動き及び撮影アングルの変更は、画像データ71内で被検体内の像が移動するが、被検体内という類似した像であるため、変化領域72としては検出されない。また、照明光量の変化は撮影間隔に比べて緩やかであり、照明光量の変化では写し出された像の明るさが変化するだけであり、変化領域として検出されるほどの大きな像の変化を生じない。
一方、処置具26を挿入すると、被検体内の像であった部分が処置具26の像に変化するので、処置具26に対応する部分の変化は大きい。また、処置具26によって生じる像の変化は、画像データ71内のある領域に固まって検出される。このため、被検体内の像が処置具26に置き換わった部分が、変化領域72として検出される。したがって、変化領域72を検出することは処置具26を検出することに等しい。
なお、変化領域72の検出により、画像データ71は、変化領域72と非変化領域73に区分けされる。非変化領域73は像の変化が少ない領域であり、被検体内の像が写し出されている部分に対応する。
こうして変化領域72(処置具26)を検出すると、DIP53は、マスクデータ生成部62によってマスクデータ74を生成する(ステップS300)。ここで生成されるマスクデータ74は、画像データ71の各画素に対して画像処理を行うか否かを決定するマトリックス状のデータである。具体的には、マスクデータ74は、変化領域72の画素に画像処理を施さないことを示すパラメータ「0」を設定し、非変化領域73(被検体内)の画素に画像処理を施すことを示すパラメータ「1」を設定したものである。
マスクデータ74を生成すると、DIP53は画像処理部63によって画像データ71に各種画像処理を施す。このとき、所定の画像処理、例えば特殊光観察時に周波数強調処理を行う場合に、画像処理部63はマスクデータ74に基づいて画素毎に画像処理を行うか否かを切り替えながら処理を行う(ステップS400)。したがって、マスクデータ74に基づいて行われた画像処理は、変化領域72として検出された処置具26の像には処理が施されず、非変化領域73の被検体内の像に対しては処理が施される。
この結果、被検体内のマクロな構造75が強調されたり、画像データ71ではコントラストが低く識別の難しい表層血管76を明瞭に識別できるようになる。一方、変化領域72として検出された処置具26には周波数強調処理等が施されないので、処置具26は、変色や変形、好ましくない模様等が生じることなく、画像データ71と同じ像である。
DIP53は上述のように画像処理を施した画像データ71を観察画像としてVRAM59に出力する。観察画像は、表示制御回路54によってモニタ22に表示される(ステップS500)。
図5(A)及び図5(B)に示すように、マスクデータ74を用いて周波数強調処理を施した画像データ71と、マスクデータ74を用いずに周波数強調処理を施した画像データ77を比較すると、被検体内の構造75や表層血管76が強調される態様は同様である。しかし、マスクデータ74を用いた場合の画像データ71では、処置具26が観察の妨げにならない色(例えば、本来の処置具の色)を維持しているが、マスクデータ74を用いなかった場合の画像データ77では、処置具26や処置具26の近傍の像が好ましくない色に変色され、観察の妨げになることがある。
上述のように、電子内視鏡システム11は、処置具26に対応する変化領域72を検出し、画素毎に画像処理を施すか否かを決定するマスクデータ74を生成する。そして、このマスクデータ74に基づいて画像データ71に画像処理を施すことにより、被検体内の像が写し出された非変化領域73にだけ画像処理が施され、処置具26の像が写し出された変化領域72には画像処理が施されないようにすることができる。
なお、上述の第1実施形態では、変化領域検出部61によって画像データ71の変化領域72を検出することを説明したが、変化領域72として処置具26を検出することができれば変化領域検出部61が変化領域72を検出する具体的な態様は任意である。但し、以下に第2実施形態として説明するようにして変化領域72を検出することができる。なお、変化領域72を検出する態様以外は、前述の第1実施形態と同様であるので説明を省略する。
[第2実施形態]
図6に示すように、変化領域検出部61は、入力された画像データ71の各画素の画素値を監視することにより、画素毎に画素値の変化量を算出し(ステップS210)、画素値が所定以上に変化した画素を変化画素81(図7B参照)として検出する。
変化画素81の検出は、例えば、次のように行う。変化領域検出部61は、入力された画像データ71の各画素の画素値を所定の閾値(以下、第1閾値という)と比較し、画素値が第1閾値以上の値であるか否かを算出する。そして、変化領域検出部61は、画素値が第1閾値以上の値の画素を変化画素として検出する。第1閾値は、例えばR画素の画素値の平均値である。撮影する画像データ71は生体内の画像なのでR画素の平均値は概ね一定である。このため、R画素の画素値の平均を第1閾値とすることで、処置具26等の人工物に対応する画素を検出することができる。
また、例えば、次のように変化画素の検出を行っても良い。以前に撮影された画像データ71を平均した平均画像データを、変化の基準とする画像データ(以下、ベース画像という)として保持しておき、新たに入力された画像データ71からベース画像を減算する。そして、ベース画像を減算することにより算出された差分画像データの各画素を、所定の閾値(以下、第2閾値という)と比較することにより、新たに入力された画像データ71の各画素の画素値が、ベース画像に対して第2閾値以上に変化した画素を変化画素として検出する。
こうして変化画素を検出すると、変化領域検出部61は、検出した変化画素をクラスタリングし(ステップS211)、所定サイズ(画素数が所定以上の大きさ)のクラスタを変化領域72として検出する(ステップS212)。
上述の態様で変化領域72を検出すると、図7に示すようにして処置具26が変化領域72として検出される。図7(A)に示すように、連続する2フレーム間で画像データ71内に処置具26の先端が、先端26A、先端26Bの順に突出されたとする。このとき、図7(B)に示すように、変化領域検出部61は、処置具26の先端26Aと先端26Bとの間にある画素を変化画素81として検出する。また、この段階では、被検体内の像の動き等により、被検体内の像の中にも変化画素81a〜81cが検出されることがあるが、後述するようにこれらの全てが変化領域72として検出されるわけではない。
変化画素81,81a〜81cが検出されると、次いで、図7(C)に示すように、変化領域検出部61は処置具26の挿入による変化画素81や、被検体内の動き等による変化画素81a〜81cをクラスタリングし、変化画素81(または変化画素81と画像データ71のエッジ)を周縁とするクラスタの中で、所定サイズ以上のクラスタだけを変化領域72として検出する。処置具26を使用する段階では、通常、撮影アングルを大きく変化させないので被検体内の像の動きは小さく、処置具26の挿入による変化画素81からなるクラスタと比べて、被検体内の動き等による変化画素81a〜81cからなるクラスタは小さい。このため、処置具26の挿入による変化画素81を周縁とするクラスタだけが変化領域72として検出され、被検体内の動き等による変化画素81を含む領域は非変化領域73とされる。
上述のように、変化画素81を検出し、これをクラスタリングして、所定サイズ以上のクラスタを変化領域72として検出することで、処置具26だけを変化領域72として検出することができる。
なお、上述の第2実施形態では、以前に撮影された画像データ71を平均した平均画像データをベース画像として保持しておき、ベース画像との比較により変化領域72を検出する例を説明したが、ベース画像は平均画像データでなくても良く、例えば、前フレームで撮影された画像データ71をベース画像として用いることができる。但し、ベース画像として前フレームで撮影された画像データ71を用いる場合には次のようにしてマスクデータ74を生成することが好ましい。
まず、変化領域検出部61は、新たにされた撮影画像に対して前述と同様に変化領域72を検出する。次に、マスクデータ生成部62は、検出された変化領域72に基づいてプレマスクデータを生成する。プレマスクデータは、変化領域72から忠実に生成されたマスクデータ74である。しかし、ベース画像として前フレームの画像データ71を用いる場合、処置具26を突出/退避させる場合等に、画像処理がマスクされる部分と処置具26との一致性が悪く、処置具26よりも広い範囲がマスクされていたり、処置具26よりも狭い範囲がマスクされていたりすることがある。
このため、マスクデータ生成部62は、前のフレームの撮影画像に対して生成したマスクデータ74(以下、前回マスクデータという)を保持しておき、プレマスクデータとプレマスクデータと前回マスクデータに基づいて、今回撮影された新たな撮影画像に対して新たなマスクデータ74を生成する。具体的には、プレマスクデータと前回マスクデータとを比較し、生成したプレマスクデータの変化領域72に対応する画素について、前回マスクデータのデータを画素毎に反転させたものを新たなマスクデータ74とする。データの反転とは、パラメータ「0」とパラメータ「1」を交換することを意味する。
上述のようにしてマスクデータ74を生成すると、前フレームで撮影された画像データ71をベース画像として用いる場合に、処置具26に対してより正確に一致するマスクデータ74を生成することができる。特に、処置具26が殆ど動かなかった場合や、処置具26が退避される場合にも処置具26に正確に一致するマスクデータ74を生成することができる。
なお、上述の第2実施形態では、変化領域検出部61が変化領域72を検出する際に行う変化画素81の検出の態様として、入力された画像データ71の各画素の画素値を第1閾値と比較する第1の態様と、ベース画像を減算した差分画像の各画素の画素値を第2閾値と比較する第2の態様の2種類を例に挙げて説明したが、これらのいずれの態様で変化画素81を検出するかは任意である。また、例に挙げた2種以外の態様で変化画素81を検出するようにしても良い。但し、以下に第3実施形態として説明するように、変化画素81の検出態様を組み合わせて使い分けることが好ましい。
[第3実施形態]
図8に示すように、変化領域検出部61は、挿入部16(電子内視鏡12)の被検体内への挿入開始後、一定時間内か否かによって変化画素81を検出する態様を切り替える(ステップS220)。挿入部16の挿入開始後から一定時間内では、画素値を第1閾値と比較して変化画素81の検出を行う。一方、挿入部16の挿入開始後、一定時間以上経過した後は、入力された画像データ71からベース画像を減算して算出した差分画像の画素値を第2閾値と比較することによって変化画素81の検出を行う。
このように挿入部16の挿入開始後の経過時間に応じた態様で変化画素81を検出した後、検出した変化画素81をクラスタリングし(ステップS211)、所定サイズ以上のクラスタを変化領域72として検出する(ステップS212)ことは、前述の第2実施形態と同様である。
挿入部16の挿入時は処置具26が突出していなくても画像の変化が大きいのでベース画像との比較では広範な変化領域71が検出されてしまう。このため、挿入部16の挿入開始後一定の時間内では画素値を第1閾値と比較して変化画素81を検出することで、適切な変化領域71を検出することができる。一方、挿入部16の挿入後一定の時間が経過して、先端部20が観察部位に到達すると、画像の動きは少なくなる。このため、ベース画像との比較によって変化画素81を検出することによって、より適切な変化領域71を検出することができる。
なお、上述の第3実施形態では、挿入部16の挿入開始後の経過時間に応じて変化画素81の検出態様を切り替える例を説明したが、挿入部16の挿入開始後の経過時間の計時する方法は任意である。例えば、処置具26の挿入を開始するときに、プロセッサ装置13等を操作して計時を開始させれば良い。また、上述の第3実施形態では、挿入部16の挿入開始後の経過時間に応じて、変化画素81の検出態様が自動的に切り替わる例を説明したが、プロセッサ装置13等の操作によって、変化画素81の検出態様を任意のタイミングで切り替えるようにしても良い。
なお、上述の第3実施形態では、挿入部16の挿入開始後の経過時間に応じて変化画素81の検出態様を切り替える例を説明したが、同様の切り替えを、処置具26の挿入開始後の経過時間に応じて行っても良い。すなわち、鉗子入口27に処置具26を挿入した時点から一定の時間が経過するまでは、第1閾値との比較によって検出画素81を検出し、鉗子入口27に処置具26を挿入した時点から一定の時間が経過した後は、ベース画像との比較によって検出画素81を検出する。これは、処置具26が撮影画像内に現れるときには画像の変化が大きいので、ベース画像との比較によるよりも第1閾値との比較によって変化画素81を検出する方がより精度良く好適な変化画素81を検出することができ、一旦、処置具26が撮影画像内に現れ、撮影画像内で処置具26が操作されて動くだけの場合には、ベース画像との比較により変化画素81を検出する方がより正確に好適な変化画素81を検出することができるからである。
このように、処置具26の挿入開始後の経過時間に応じて変化画素81の検出態様を切り替える場合、鉗子入口27や鉗子出口29に処置具26を検知するセンサを設け、このセンサによって処置具26が検出されたことを契機として、変化領域検出部61及びマスクデータ生成部62を機能させたり、処置具26の挿入開始を計時するようにしても良い。
なお、上述の第1〜第3実施形態では、画像データ71の全体から変化領域72を検出する例を説明したが、これに限らない。例えば、以下に、第4実施形態として説明するように、画像データ71の一部の領域で変化画素81を検出し、この一部の領域で検出した変化画素81に基づいて変化領域72を検出しても良い。
[第4実施形態]
図9に示すように、変化領域検出部61は、画像データ71の全体ではなく、指定領域86(図10参照)内で、画素毎に変化量を算出することにより、変化画素81の検出を行う(ステップS231)。指定領域86は、画像データ71内に処置具26が現れる位置に対応する位置に設けられる。
変化領域検出部61は、指定領域86内で検出された変化画素81をクラスタリングし(ステップS232)、所定サイズ以上のクラスタをプレ変化領域87として検出する(ステップS233)。プレ変化領域87は、指定領域86内の変化画素81をクラスタリングして検出した領域なので、変化領域72の一部分であるとともに、変化領域72全体の検出の核になる領域である。後述のようにプレ変化領域87に基づいて変化領域72全体の検出が行われる。
変化領域検出部61は、指定領域86内でプレ変化領域87を検出すると、プレ変化領域87の画素の代表色を抽出する(ステップS234)。そして、プレ変化領域87に、プレ変化領域87の代表色と同色の画素を連結することにより、プレ変化領域87の画素と、プレ変化領域87から伸びるプレ変化領域87の代表色と同色の画素とをクラスタリングする(ステップS235)。さらに、変化領域検出部61は、こうして生成したクラスタが所定サイズ以上のクラスタである場合に、その全体を変化領域72として検出する(ステップS236)。
例えば、図10(A)に示すように、画像データ71内で処置具26の先端が、先端26Aから先端26Bに突出される場合を考える。この場合、斜線で示すように、指定領域86は処置具26の出元に設定される。処置具26の出元は、鉗子出口29と電子内視鏡12の視野範囲との位置関係等によって定まるので、電子内視鏡12の種類に応じて既知である。
図10(B)に示すように、変化領域検出部61は、指定領域86内で変化画素81の検出を行うので、例えば墨塗りで示すように、指定領域86内の先端26Aと先端26Bとの間の領域がプレ変化領域87として検出される。その後、図10(C)に示すように、プレ変化領域87の代表色を抽出し、斜線で示すようにプレ変化領域87から伸びる代表色と同色の画素を連結してクラスタリングすると、プレ変化領域87と連結した画素(斜線)の全体は先端26Bにほぼ一致する。このため、先端26Bが変化領域72として検出される。
上述の第4実施形態のように、指定領域86内で変化画素81を検出し、指定領域86内の変化画素81のクラスタをプレ変化領域87として検出し、プレ変化領域87を核として変化領域72の検出を行うと、画像データ71の全画面で変化領域72を検出するよりも少ない計算量で効率良く、素早く変化領域72を検出することができる。
なお、上述の第4実施形態では、指定領域86を画像データ71の右下に設定する例を説明したが、これに限らない。前述のように、処置具26が画像データ71内に突出されるときの出元の位置は、電子内視鏡12の種類等に応じて予め定められており、電子内視鏡システム11の使用時に既知であるので、指定領域86は、電子内視鏡12の種類等に応じて設定されることが好ましい。
例えば、図11(A)に示すように、視野の左下から処置具26が突出される電子内視鏡を用いる場合には、画像データ71の左下の一部領域を指定領域86とする。また、図11(B)に示すように、視野の右下から処置具26が突出される種類の電子内視鏡12を用いる場合には、指定領域86を画像データ71の右下の一部領域に切り替える。
また、電子内視鏡12を交換したときに、使用する電子内視鏡12の種類等に応じて指定領域86の設定位置を切り替えられるようにしておくことが好ましい。指定領域86の切り替えは、プロセッサ装置13の操作により切り替えられるようにしても良いが、例えば、電子内視鏡12がプロセッサ装置13に接続されたときに、プロセッサ装置13で電子内視鏡12の機種情報を取得するようにし、取得した機種情報に基づいて適切な指定領域86を自動設定することが好ましい。
なお、上述の第4実施形態では、指定領域86内でプレ変化領域87を検出し、プレ変化領域87の代表色と同色画素を連結したクラスタを変化領域72として検出するときに、プレ変化領域87に代表色と同色画素を連結させる領域に制限がない例を説明したが、これに限らない。例えば図12に示すように、指定領域86に連結された代表色結合エリア88を予め定めておき、代表色結合エリア88と指定領域86内だけで、プレ変化領域87に代表色と同色の画素を連結するクラスタリングを行うことが好ましい。この場合、電子内視鏡12に機種情報等を記憶するEEPROM等のメモリを搭載し、プロセッサ装置13には電子内視鏡12の機種情報に対応する指定領域のデータを予め登録しておく。
画像データ71内では、処置具26は、指定領域86から奥に突出される程、その先端が小さく写し出される。このため、代表色結合エリア88は、例えば、指定領域86から三角形状に突出するエリアが指定される。こうして、代表色結合エリア88を定めておくと、プレ変化領域87の代表色(処置具26の色)と被検体内の像の色が同様の色であった場合でも、代表色結合エリア88の外に変化領域72が拡張され、検出した変化領域72が処置具26の像から大きくズレてしまうことを防ぐことができる。
なお、上述の第4実施形態では、入力される画像データ71毎にプレ変化領域87を検出し、これに基づいて変化領域72を検出する態様を説明したがこれに限らない。例えば、図13に示すように、前フレームで撮影した画像データ71について検出した変化領域72を、新たに撮影された画像データ71のプレ変化領域87として設定し、斜線で示すようにこのプレ変化領域87(前フレームの変化領域72)の代表色を周囲に拡張して連結するようにクラスタリングすることで、新たな変化領域72を検出するようにしても良い。
このように、前フレームの画像データ71で検出した変化領域72を次のフレームの画像データ71のプレ変化領域87に設定することで、より素早く変化領域72を検出することができる。
なお、上述のように前フレームで検出した変化領域72を次のフレームの画像データ71でプレ変化領域87として利用する場合には、単にプレ変化領域87(前フレームの変化領域72)の代表色を結合するだけでなく、プレ変化領域87から代表色と相違する画素をプレ変化領域87及び変化領域72から除く除去処理を行うことが好ましい。除去処理を行うことで、処置具26を突出させる場合だけでなく、処置具26を退避させる場合にも変化領域72を適切に検出することができる。
なお、第1〜第4実施形態では、検出した変化領域72に応じて、画素毎に0または1の2値データを割り当てたマスクデータ74を生成し、画像処理時にマスクデータ74を用いることによって画素毎に画像処理を行うか否かを制御する例を説明したが、これに限らない。例えば、図14に示すように、マスクデータ91は、検出した変化領域72に応じて、画素毎に0〜1の間の値をとる多値データとしても良い。このマスクデータ91を用いる場合、例えば、「1」が割り当てられた変化領域72の画素には周波数強調処理等の特定の画像処理は施されず、「0」が割り当てられる非変化領域73の画素には画像処理が施されるのは上述の第1〜第4実施形態と同様である。
一方、マスクデータ91を多値データとする場合には、変化領域72と非変化領域73との間に、画素値の変化量に応じて0〜1の間の中間値が与えられた中間変化領域92が設けられる。中間変化領域92の画素に対しては、マスクデータ91に設定された値に応じた強度で画像処理が施される。例えば、0.2が与えられた画素に対しては、80%の強度で周波数強調処理が施され、0.5が与えられた画素に対しては、50%の強度で周波数強調処理が施される。
このように、変化領域72と非変化領域73の間に画素値の変化量に応じた中間変化領域92を設定し、強調処理等の強度を調節する領域を設けることで、画像データ71に対してより滑らかに画像処理を施すことができ、画像処理の有無に応じた急峻な画像の変化による違和感を低減することができる。
また、ここでは、マスクデータ91に与えられた値に応じて、強調処理等の特定の画像処理の強度を調節する例を説明したが、これに限らず、通常光観察時に施す強調処理と特殊光観察に施す強調処理をマスクデータ91に与えられた比率で混合して行うようにしても良い。例えば、マスクデータ91で「1」が与えられた変化領域72の画素には、通常光観察時に行う画像処理を施し、「0」が与えられた非変化領域73の画素には特殊光観察時に行う画像処理を施す。そして、中間変化領域92では、マスクデータ91に与えられた比率に応じて、通常光観察時と特殊光観察時に共通して行う画像処理を施した場合の画素値と、特殊光観察時にだけ行う画像処理を施した場合の画素値とを平均化することにより新たな画素値とする。これにより、中間変化領域92の画素には、通常光観察時と特殊光観察時に共通して行う画像処理と、特殊光観察時にだけ行う画像処理が混合して施される。例えば、マスクデータ91で「0.2」が与えられた画素では、特殊光観察時にだけ行う画像処理を施した場合の画素値と、通常光観察時と特殊光観察時に共通して行う画像処理を施した場合の画素値を各々算出し、これらを4:1の割合で足し合わせて2で割り、新たな画素値とする。また、マスクデータ91で「0.5」が与えられた画素では、特殊光観察時に行う画像処理を施した場合の画素値と、通常光観察時と特殊光観察時に共通して行う画像処理を施した場合の画素値を1:1の割合で足し合わせて2で割り、新たな画素値とする。ここでいう画像処理は、例えば、各々の観察態様に適した強調処理である。例えば、通常光観察時及び特殊光観察時に共通して施す画像処理は例えばシャープネスを向上させる強調処理であり、特殊光観察時に施す画像処理は特定の構造(表層血管76等)のコントラストを向上させる強調処理である。
上述のように、マスクデータ91を多値化し、マスクデータ91に与えられた数値に応じて2種の画像処理を混合して行うことにより、変化領域72と比変化領域73の境界をより滑らかにすることができる。例えば、処置具26には通常光観察時に適した強調処理が施され、被検体内には特殊光観察時に適した強調処理が施され、1枚の観察画像の中で複数種類の画像処理が滑らかに切り替わり、観察に特に好適な画像を得ることができる。
なお、上述の第1〜第4実施形態では、処置具26が電子内視鏡12の視野に突出される例を説明したがこれに限らない。本発明は、人工物と被検体内(生体)の像とに分けて、各々に適切な画像処理を施す場合に好適である。
例えば図15に示すように、電子内視鏡システム11では、噴門をいの側から撮影する場合等、先端部20をほぼ180度折り曲げ、電子内視鏡12を挿入した側から被検体内93を観察することがある。この場合、電子内視鏡12の視野94には、挿入部16が写し出される。こうした場合にも、図16に示すように、本発明の電子内視鏡システム11によれば、元の画像データ71に対して、被検体内93の像には、表層血管76の強調処理が施され、挿入部16には画像処理が施されない(あるいは他の態様の画像処理が施される)ので、挿入部16の像が不適切に変色されたりすることを防止することができる。なお、こうして挿入部16が写り込む場合であっても、先端部20の可動範囲の制約から挿入部16が写り込む領域がほぼ定まっているので、挿入部16が写り込む領域を指定領域に設定しても良い。
なお、上述の第1〜第4実施形態では、変化領域72を検出し、検出した変化領域72に応じたマスクデータ74を生成して、マスクデータ74に基づいた画像処理を画素毎に行う態様を説明したが、これに限らない。例えば、図17に示すように、入力された画像データ71に対して、マスクデータ74を生成するとともに(ステップS200〜S300)、これと並行して、通常観察時及び特殊光観察時に共通して行う画像処理を施した第1の観察画像と(ステップS700)、特殊光観察時に行う画像処理を施した第2の観察画像(ステップS800)を生成する。そして、これらの観察画像をマスクデータ74に応じて合成した観察画像を生成し、モニタ22に表示(ステップS900)するようにしても良い。例えば、マスクデータ74で「0」が設定された変化領域72の画素には第2の観察画像の画素値を用い、マスクデータ74で「1」が設定された非変化領域73の画素には第1の観察画像の画素値を用いられるように合成された観察画像を生成、表示する。
このように、第1の観察画像と第2の観察画像を並行して生成し、これらを用いてマスクデータ74に応じた観察画像を合成するようにすると、多値化されたマスクデータ91を使用して中間変化領域92を設ける場合にも、中間変化領域92の画素値の算出が容易になる。
なお、上述の第1〜第4実施形態では、入力された画像データ71の画素値に基づいて、変化領域72を検出する例を説明したが、これに限らない。例えば、画像データ71の明るさの変化や、RGBの各色の変化、写り込んだ像のマクロな構造の変化、あるいはこれらの組み合わせ等に基づいて変化領域72を検出しても良い。
なお、本発明は、通常光観察だけを行う電子内視鏡12を用いる場合にも好適であるが、特殊光観察を行う電子内視鏡12を用いる場合に特に好適である。特殊光観察を行う場合には、表層血管76や中深層血管等、観察する対象に合わせて様々な画像処理を施す必要があり、その分、人工物が好ましくない写り方になる可能性が高いからである。
なお、上述の第1〜第4実施形態では、被検体内を観察する例を説明したが、本発明は、処置具26の使用頻度が高い、EMR(Endoscopic Mucosal Resection;内視鏡的粘膜切除術)やESD(Endoscopic Submucosal Dissection;内視鏡的粘膜下層剥離術)を行う電子内視鏡システム11に特に有用である。
なお、上述の第1〜第4実施形態では、撮像素子としてCCD21を用いる例を説明したが、CMOS型のイメージセンサを撮像素子として用いても良い。また、上述の第1〜第4実施形態では、フルカラーのCCD21を用いる例を説明したが、撮像素子にはカラーフィルタを設けずに、撮像素子の前面でカラーフィルタを回転させることにより、複数色の画像を取得し、これらを合成することによってカラーの画像を取得するシステムにおいても本発明を好適に用いることができる。
なお、上述の第1〜第4実施形態では、挿入部16の先端にCCD21を設ける態様を説明したが、CCD21はプロセッサ装置13等、他の箇所に設けられていても良い。
なお、上述の第1〜第4実施形態では、青色LD66と、蛍光体43を有する投光ユニット41とによって白色光を生成する態様を説明したが、被検体内に通常光を照射する態様はこれに限らない。例えば、キセノンランプ等の周知の白色光源を用いても良い。また、上述の第1〜第4実施形態では、特殊光の生成に青紫色LD67を用いる例を説明したが、白色光をフィルタに通すことにより特殊光を生成しても良い。
なお、上述の第1〜第4実施形態では、特殊光観察を行うときに、通常光に加えて特殊光を照射する例を説明したが、特殊光だけを被検体内に照射するようにしても良い。
なお、上述の第1〜第4実施形態では、通常光と1種類の特殊光を被検体内に照射可能な構成を例に説明したが、複数の異なる波長帯域の特殊光を照射可能な構成の場合にも本発明は好適である。
11 電子内視鏡システム
12 電子内視鏡
13 プロセッサ装置
14 光源装置
16 挿入部
17 操作部
18 コネクタ
19 ユニバーサルコード
20 先端部
21 CCD
22 モニタ
26 処置具
26A,26B 先端
27 鉗子入口
28 鉗子チャネル
29 鉗子出口
31 対物光学系
32 TG
33 AFE
34,51,68 CPU
36 観察窓
41,46 投光ユニット
42,48 ライトガイド
43 蛍光体
47 光拡散部材
52 DSP
53 DIP
54 表示制御回路
56 操作部
57 ROM
58 RAM
59 VRAM
61 変化領域検出部
62 マスクデータ生成部
63 画像処理部
66 青色LD
67 青紫色LD
71 画像データ
72 変化領域
73 非変化領域
74,91 マスクデータ
75 被検体内の構造
76 表層血管
77 画像データ
81 変化画素
86 指定領域
87 プレ変化領域
88 代表色結合エリア
92 中間変化領域
93 被検体内
94 視野

Claims (20)

  1. 被検体内に挿入され、前記被検体内を撮影する電子内視鏡と、
    前記電子内視鏡によって撮影された画像データの各画素の画素値を監視し、所定以上の変化があった画素を変化画素として検出し、前記変化画素をクラスタリングし、前記変化画素のクラスタのうち、所定サイズ以上のクラスタを前記変化領域として検出することにより、前記画像データから人工物の写り込みにより像の特徴が変化した変化領域を検出する変化領域検出手段と、
    前記変化領域に基づいて、前記変化領域と他の領域とで各々異なる態様で画像処理が施されるように、前記画像処理のパラメータを前記画素毎に定めたマスクデータを生成するマスクデータ生成手段と、
    前記マスクデータに基づいて前記画像データに前記画像処理を施す画像処理手段と、
    を備えることを特徴とする電子内視鏡システム。
  2. 前記変化領域検出手段は、前記画像データの各画素の画素値が所定の第1閾値以上の大きさの画素を前記変化画素として検出することを特徴とする請求項1記載の電子内視鏡システム。
  3. 前記画像データは、赤色画素を含むカラーの画像データであり、
    前記第1閾値は、前記赤色画素の画素値に基づく値であることを特徴とする請求項2記載の電子内視鏡システム。
  4. 前記変化領域検出手段は、変化の基準となるベース画像を保持し、新たに撮影された前記画像データと前記ベース画像の差分を算出し、前記差分が第2閾値以上の値の画素を前記変化画素として検出することを特徴とする請求項1記載の電子内視鏡システム。
  5. 前記ベース画像は、以前に撮影された画像データの平均値であることを特徴とする請求項4記載の電子内視鏡システム。
  6. 前記ベース画像は、前のフレームで撮影された前記画像データであり、
    前記マスクデータ生成手段は、前記変化領域検出手段が検出した前記変化領域に基づいてプレマスクデータを生成するとともに、前記マスクデータ生成手段は前のフレームで生成した前記マスクデータを保持し、前記プレマスクデータと前のフレームで生成した前記マスクデータとに基づいて新たなマスクデータを生成することを特徴とする請求項4記載の電子内視鏡システム。
  7. 前記変化領域検出手段は、前記電子内視鏡の挿入が開始されてから一定の時間内の場合には、前記画像データの各画素の画素値が所定の第1閾値以上の大きさの画素を前記変化画素として検出し、前記電子内視鏡の挿入が開始されてから一定時間の経過した場合には、新たに撮影された前記画像データと前記ベース画像の差分を算出し、前記差分が第2閾値以上の値の画素を前記変化画素として検出することを特徴とする請求項2〜4のいずれか1項に記載の電子内視鏡システム。
  8. 前記変化領域検出手段は、前記画像データの一部の領域を指定領域として、前記指定領域内で前記変化画素を検出し、検出した前記画素をクラスタリングして所定サイズ以上のクラスタをプレ変化領域として検出し、前記プレ変化領域の代表色の画素を前記プレ変化領域に連結してクラスタリングし、前記代表色の画素を連結したクラスタのうち所定サイズ以上のクラスタを前記変化領域として検出することを特徴とする請求項1〜7のいずれか1項に記載の電子内視鏡システム。
  9. 前記指定領域は、前記画像データ内に処置具が突出する出元の領域であることを特徴とする請求項8記載の電子内視鏡システム。
  10. 前記指定領域は、前記電子内視鏡の種類に応じて切り替えられることを特徴とする請求項9記載の電子内視鏡システム。
  11. 前記プレ変化領域と、前記プレ変化領域の代表色の画素を連結するクラスタリングは、前記指定領域に連結して定められた所定エリア内で行われることを特徴とする請求項8〜10のいずれか1項に記載の電子内視鏡システム。
  12. 前記変化領域検出手段は、前フレームで撮影された前記画像データについて検出した前記変化領域を、新たに撮影された前記画像データの前記プレ変化領域として用いることを特徴とする請求項8〜11のいずれか1項に記載の電子内視鏡システム。
  13. 前記マスクデータは、前記画像処理のオンオフを切り替える2値のパラメータであることを特徴とする請求項1〜12のいずれか1項に記載の電子内視鏡システム。
  14. 前記マスクデータは、前記画像処理の強弱を設定するパラメータであることを特徴とする請求項1〜12のいずれか1項に記載の電子内視鏡システム。
  15. 前記マスクデータは、前記画像処理の強弱を定めるパラメータであり、
    前記画像データの画素値に応じて、前記変化領域に対応するパラメータと、像の特徴が変化しない非変化領域に対応するパラメータと、前記画素値が前記変化領域の画素と前記非変化領域の画素の中間的な変化をした画素を含む中間変化領域に対応するパラメータとを有することを特徴とする請求項1〜12のいずれか1項に記載の電子内視鏡システム。
  16. 前記画像処理手段は、前記中間変化領域に対応する画素に対して、前記変化領域に施す画像処理と、前記非変化領域に施す画像処理とを、前記マスクデータに定めた前記パラメータに応じた比率で混合して行うことを特徴とする請求項15記載の電子内視鏡システム。
  17. 前記画像処理手段は、撮影された前記画像データに対して、画像処理を行った第1画像と、他の画像処理を行った第2画像とを並行して生成し、前記マスクデータに応じて前記第1画像と前記第2画像とを合成した合成画像を表示手段に表示させることを特徴とする請求項1〜16のいずれか1項に記載の電子内視鏡システム。
  18. 前記画像処理手段は、少なくとも前記画像データに写された構造を強調する強調処理を行うときに、前記マスクデータに基づいて前記強調処理を行うことを特徴とする請求項1〜17のいずれか1項に記載の電子内視鏡システム。
  19. 前記強調処理は、特定の周波数の像を強調する周波数強調処理であることを特徴とする請求項18記載の電子内視鏡システム。
  20. 被検体内を撮影する電子内視鏡と、前記電子内視鏡によって撮影された画像データに画像処理を施す画像処理回路とを備える電子内視鏡システムの作動方法であって、
    前記画像処理回路が、
    前記電子内視鏡によって撮影された画像データの各画素の画素値を監視して、所定以上の変化があった画素を変化画素として検出し、前記変化画素をクラスタリングし、前記変化画素のクラスタのうち、所定サイズ以上のクラスタを前記変化領域として検出することにより、前記画像データから人工物の写り込みにより像の特徴が変化した変化領域を検出する変化領域検出ステップと、
    前記変化領域に基づいて、前記変化領域と他の領域とで各々異なる態様で画像処理が施されるように、前記画像処理のパラメータを前記画素毎に定めたマスクデータを生成するマスクデータ生成ステップと、
    前記マスクデータに基づいて前記画像データに前記画像処理を施す画像処理ステップと、
    を行うことを特徴とする電子内視鏡システムの作動方法
JP2011011699A 2011-01-24 2011-01-24 電子内視鏡システム及び電子内視鏡システムの作動方法 Active JP5269921B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011011699A JP5269921B2 (ja) 2011-01-24 2011-01-24 電子内視鏡システム及び電子内視鏡システムの作動方法
EP11188640.4A EP2479724B1 (en) 2011-01-24 2011-11-10 Electronic endoscope system and image processing method
US13/303,003 US9111335B2 (en) 2011-01-24 2011-11-22 Electronic endoscope system and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011011699A JP5269921B2 (ja) 2011-01-24 2011-01-24 電子内視鏡システム及び電子内視鏡システムの作動方法

Publications (2)

Publication Number Publication Date
JP2012152266A JP2012152266A (ja) 2012-08-16
JP5269921B2 true JP5269921B2 (ja) 2013-08-21

Family

ID=45217193

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011011699A Active JP5269921B2 (ja) 2011-01-24 2011-01-24 電子内視鏡システム及び電子内視鏡システムの作動方法

Country Status (3)

Country Link
US (1) US9111335B2 (ja)
EP (1) EP2479724B1 (ja)
JP (1) JP5269921B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9418442B2 (en) * 2011-07-22 2016-08-16 The Trustees Of Columbia University In The City Of New York Tool tracking during surgical procedures
JP5897308B2 (ja) * 2011-11-24 2016-03-30 株式会社東芝 医用画像処理装置
JP2014178739A (ja) * 2013-03-13 2014-09-25 Sony Corp 画像処理装置及び画像処理方法、並びにプログラム
EP3006820B1 (en) * 2013-05-29 2020-04-29 Sharp Kabushiki Kaisha Light emitting device and lighting device
JP2015156938A (ja) * 2014-02-24 2015-09-03 ソニー株式会社 画像処理装置、画像処理方法
WO2016111178A1 (ja) * 2015-01-05 2016-07-14 オリンパス株式会社 内視鏡システム
JP6472279B2 (ja) * 2015-03-09 2019-02-20 キヤノン株式会社 画像処理装置及び画像処理方法
JP6448509B2 (ja) 2015-10-30 2019-01-09 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6779089B2 (ja) * 2016-10-05 2020-11-04 富士フイルム株式会社 内視鏡システム及び内視鏡システムの駆動方法
WO2018198255A1 (ja) * 2017-04-26 2018-11-01 オリンパス株式会社 画像処理装置、画像処理装置の作動方法およびプログラム
GB2576574B (en) * 2018-08-24 2023-01-11 Cmr Surgical Ltd Image correction of a surgical endoscope video stream
US11625825B2 (en) 2019-01-30 2023-04-11 Covidien Lp Method for displaying tumor location within endoscopic images
US11232570B2 (en) * 2020-02-13 2022-01-25 Olympus Corporation System and method for diagnosing severity of gastritis
CN116523907B (zh) * 2023-06-28 2023-10-31 浙江华诺康科技有限公司 内窥镜成像质量检测方法、装置、设备和存储介质

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2921682B2 (ja) * 1989-05-23 1999-07-19 オリンパス光学工業株式会社 電子式内視鏡装置
JP2552728B2 (ja) * 1989-05-31 1996-11-13 富士通株式会社 赤外線監視システム
JP2542102B2 (ja) * 1990-03-23 1996-10-09 オリンパス光学工業株式会社 内視鏡
DE19648935B4 (de) * 1996-11-26 2008-05-15 IMEDOS Intelligente Optische Systeme der Medizin- und Messtechnik GmbH Vorrichtung und Verfahren zur Untersuchung von Gefäßen
JP4370008B2 (ja) * 1998-11-17 2009-11-25 オリンパス株式会社 内視鏡画像処理装置
JP2001154232A (ja) * 1999-11-24 2001-06-08 Olympus Optical Co Ltd 測光装置
JP2002065586A (ja) 2000-08-25 2002-03-05 Asahi Optical Co Ltd 前方視型内視鏡
US7195588B2 (en) * 2004-03-01 2007-03-27 Olympus Corporation Endoscope image pick-up apparatus
KR100943367B1 (ko) * 2005-04-27 2010-02-18 올림푸스 메디칼 시스템즈 가부시키가이샤 화상 처리 장치, 화상 처리 방법, 및 화상 처리 프로그램을 기록한 기록 매체
JP2007068763A (ja) * 2005-09-07 2007-03-22 Fujinon Corp カプセル内視鏡システム
JP4694336B2 (ja) * 2005-09-30 2011-06-08 富士フイルム株式会社 電子内視鏡装置
JP4814649B2 (ja) * 2006-02-17 2011-11-16 Hoya株式会社 内視鏡装置
US8217895B2 (en) * 2006-04-28 2012-07-10 Mtekvision Co., Ltd. Non-contact selection device
JP4633672B2 (ja) * 2006-05-19 2011-02-16 財団法人電力中央研究所 プランクトン観察装置、並びにプランクトン計測装置、プランクトン計測方法及びプランクトン計測プログラム
US8520916B2 (en) * 2007-11-20 2013-08-27 Carestream Health, Inc. Enhancement of region of interest of radiological image
JP5291955B2 (ja) * 2008-03-10 2013-09-18 富士フイルム株式会社 内視鏡検査システム
US8169468B2 (en) * 2008-04-26 2012-05-01 Intuitive Surgical Operations, Inc. Augmented stereoscopic visualization for a surgical robot
JP4655238B2 (ja) * 2008-09-19 2011-03-23 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP2010142605A (ja) * 2008-12-22 2010-07-01 Hoya Corp 内視鏡装置

Also Published As

Publication number Publication date
JP2012152266A (ja) 2012-08-16
EP2479724B1 (en) 2014-08-06
EP2479724A2 (en) 2012-07-25
US9111335B2 (en) 2015-08-18
EP2479724A3 (en) 2013-06-26
US20120188351A1 (en) 2012-07-26

Similar Documents

Publication Publication Date Title
JP5269921B2 (ja) 電子内視鏡システム及び電子内視鏡システムの作動方法
US9675238B2 (en) Endoscopic device
US11759092B2 (en) Endoscope system, processor device, and method of operating endoscope system
US10335014B2 (en) Endoscope system, processor device, and method for operating endoscope system
JP5460506B2 (ja) 内視鏡装置の作動方法及び内視鏡装置
JP5371920B2 (ja) 内視鏡装置
JP5757891B2 (ja) 電子内視鏡システム、画像処理装置、画像処理装置の作動方法及び画像処理プログラム
JP2010227254A (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
JP5762344B2 (ja) 画像処理装置及び内視鏡システム
JP5335017B2 (ja) 内視鏡装置
JP6259747B2 (ja) プロセッサ装置、内視鏡システム、プロセッサ装置の作動方法、及びプログラム
JP5554288B2 (ja) 内視鏡システム、プロセッサ装置及び画像補正方法
WO2020054255A1 (ja) 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の操作方法
JP2016174976A (ja) 内視鏡システム
JP5631757B2 (ja) 電子内視鏡システム
JP7214886B2 (ja) 画像処理装置及びその作動方法
JP6454755B2 (ja) 内視鏡システム
JP5965028B2 (ja) 内視鏡システム
JP7234320B2 (ja) 画像処理装置および画像処理装置の作動方法
JP7235832B2 (ja) 内視鏡システム
WO2022230607A1 (ja) 医療画像処理装置、内視鏡システム、及び医療画像処理装置の作動方法
JP2020142090A (ja) 内視鏡システム
JP2012232063A (ja) 内視鏡装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120606

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130410

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130508

R150 Certificate of patent or registration of utility model

Ref document number: 5269921

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250