JP6581730B2 - 電子内視鏡用プロセッサ及び電子内視鏡システム - Google Patents

電子内視鏡用プロセッサ及び電子内視鏡システム Download PDF

Info

Publication number
JP6581730B2
JP6581730B2 JP2018537336A JP2018537336A JP6581730B2 JP 6581730 B2 JP6581730 B2 JP 6581730B2 JP 2018537336 A JP2018537336 A JP 2018537336A JP 2018537336 A JP2018537336 A JP 2018537336A JP 6581730 B2 JP6581730 B2 JP 6581730B2
Authority
JP
Japan
Prior art keywords
pixel
color
evaluation value
image
electronic endoscope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018537336A
Other languages
English (en)
Other versions
JPWO2018043550A1 (ja
Inventor
貴雄 牧野
貴雄 牧野
洋祐 池本
洋祐 池本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Publication of JPWO2018043550A1 publication Critical patent/JPWO2018043550A1/ja
Application granted granted Critical
Publication of JP6581730B2 publication Critical patent/JP6581730B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/1032Determining colour for diagnostic purposes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7425Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30028Colon; Small intestine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Description

本発明は、電子内視鏡用プロセッサ及び電子内視鏡システムに関する。
病変部は、一般に正常な粘膜組織とは異なる色を呈する。カラー内視鏡装置の性能向上により、正常組織とわずかに色の異なる病変部の識別も可能になってきている。しかしながら、術者が内視鏡画像上のわずかな色の相違により正常組織から病変部を正確に識別できるようになるには、熟練者の指導下で長期間のトレーニングを受ける必要があった。また、熟練した術者であっても、わずかな色の違いから病変部を識別することは容易ではなく、慎重な作業が要求された。そこで、血管や病変部の識別を容易にするために、白色光を使用して撮像した内視鏡画像データに対して、色の違いを強調する色変換処理を行う機能を備えた電子内視鏡システムが提案されている(特許文献1)。
特開2009−106424号公報
特許文献1の電子内視鏡システムが生成する画像は、通常の内視鏡画像に比べれば病変部等を識別し易いものの、正常な粘膜組織と病変部等との境界における色の変化は連続的であり、また疾患の種類によっては正常な粘膜組織との色の違いが僅かであるため、やはり経験の浅い術者には病変部等の識別が難しい場合もあった。また、特許文献1の電子内視鏡システムを使用した場合でも、病変部かどうかの判断は、最終的には術者の経験や知識に依存する読像技能に委ねられており、客観的かつ再現性のある(術者のスキルに依存しない)検査結果を得ることができなかった。
本発明の一実施形態に係る電子内視鏡用プロセッサは、nを3以上の自然数とし、mを2以上の自然数とし、n種類の色成分よりなる体腔内の生体組織のカラー画像を構成する各画素データをn種類よりも少ない前記n種類の色成分のうちのm種類の色成分よりなる画素データに変換する変換手段と、
m種類の色成分よりなる変換された前記画素データに基づいて対象疾患に関する評価値を前記カラー画像の画素単位で算出する評価値算出手段と、
算出された前記カラー画像の画素の評価値に基づいて前記対象疾患に関する複数種類の病変の各々の症状のレベルを示す病変指数を計算する病変指数計算手段と
を備える。
本発明の他の一実施形態に係る電子内視鏡用プロセッサは、nを3以上の自然数とし、mを2以上の自然数とし、n種類の色成分よりなる体腔内の生体組織のカラー画像を構成する各画素データをn種類よりも少ないm種類の色成分よりなる画素データに変換する変換手段と、 m種類の色成分よりなる変換された前記画素データに基づいて対象疾患に関する評価値を前記カラー画像の画素単位で算出する評価値算出手段と、
算出された前記カラー画像の画素の評価値に基づいて前記対象疾患に関する複数種類の病変の各々の病変指数を計算する病変指数計算手段と、
を備え、
前記評価値算出手段は、
前記m種類の色成分より定義される色空間内において、所定の基準点から見た前記対象疾患に関する基準方向を設定しており、前記カラー画像の各画素について、前記色空間における前記変換された画素データに対応する画素対応点の前記基準点から見た方向の、前記基準方向からのずれの程度に基づいて、前記対象疾患に関する評価値を算出する。
また、本発明のさらに他の一実施形態に係る電子内視鏡用プロセッサは、nを3以上の自然数とし、mを2以上の自然数とし、n種類の色成分よりなる体腔内の生体組織のカラー画像を構成する各画素データをn種類よりも少ないm種類の色成分よりなる画素データに変換する変換手段と、
m種類の色成分よりなる変換された前記画素データに基づいて対象疾患に関する評価値を前記カラー画像の画素単位で算出する評価値算出手段と、
算出された前記カラー画像の画素の評価値に基づいて前記対象疾患に関する複数種類の病変の各々の病変指数を計算する病変指数計算手段と、
を備え、
前記評価値算出手段は、
前記m種類の色成分より定義される色平面内において、所定の基準点を通る、前記対象疾患に関する基準軸を設定しており、前記カラー画像の各画素について、前記基準点と前記変換された画素データに対応する画素対応点とを結ぶ線分と、前記基準軸と、がなす角度θに基づいて、前記対象疾患に関する評価値を算出する。
本発明の一実施形態によれば、病変指数計算手段は、複数種類の病変指数の合計を総病変指数として計算する構成とすることが好ましい。
また、本発明の一実施形態によれば、病変指数計算手段は、評価値算出手段にて算出された評価値が第一の範囲に収まる値の画素の数に基づいて第一の病変指数を計算し、該評価値が第二の範囲に収まる値の画素の数に基づいて第二の病変指数を計算する構成とすることが好ましい。
また、本発明の一実施形態によれば、前記電子内視鏡用プロセッサは、
前記カラー画像の各画素について、画素値が所定の条件を満たす値であるか否かによって該各画素が有効画素であるか否かを判定する有効画素判定手段を更に備える構成とすることが好ましい。この場合、前記評価値算出手段は、前記有効画素だけを前記評価値を算出する対象として前記評価値を算出することが好ましい。
また、本発明の一実施形態によれば、前記電子内視鏡用プロセッサは、有効画素であると判定された画素の数である有効画素数を計算する有効画素計数手段を更に備える構成とすることが好ましい。この場合、病変指数計算手段は、前記有効画素における前記評価値に基づいて複数種類の病変の各々に該当する画素の数である各病変画素数を計算し、複数種類の病変の各々について、有効画素数に対する該病変画素数の比率を病変指数として計算することが好ましい。
また、本発明の一実施形態によれば、前記電子内視鏡用プロセッサは、変換手段によって変換されたm種類の色成分よりなる画素データを所定の色成分補正係数を用いて補正する色成分補正手段を更に備える構成とすることが好ましい。この場合、評価値算出手段は、色成分補正係数によって補正されたm種類の色成分よりなる画素データに基づいて対象疾患に関する評価値を画素単位で算出する構成とすることが好ましい。
また、本発明の一実施形態によれば、色成分補正係数は、例えば、m種類の色成分よりなる画素データを補正する所定の補正マトリックス係数であることが好ましい。
また、本発明の一実施形態によれば、前記基準軸を第1基準軸というとき、
前記評価値算出手段は、前記色平面内において、前記基準点を通る、前記対象疾患が無い健常部位に関する第2基準軸を設定しており、
前記第1基準軸と前記第2基準軸の交差角度を最大角度として、前記角度θを正規化して前記評価値を算出する、ことが好ましい。
また、本発明の一実施形態によれば、変換手段は、n種類の色成分より定義される色空間における各画素の画素データを色平面に正射影する構成とすることが好ましい。
また、本発明の一実施形態によれば、基準軸は、例えば、対象疾患について症状レベルの最も高い炎症部位を示す軸であることが好ましい。
また、本発明の一実施形態によれば、前記評価値は、体腔内の生体組織の粘膜の炎症の強さの程度を示す値である、ことが好ましい。この場合、前記評価値には、粘膜が存在せず下部組織が露出し孔が開いた潰瘍は除外される。したがって、前記評価値は、粘膜は存在し、この粘膜の荒れた状態の強さの程度を示す値である。
また、本発明の一実施形態によれば、前記変換された画素データのm種類の色成分のいずれも、波長帯域が互いに異なるように設定された色成分である、ことが好ましい。
前記変換された画素データのm種類の色成分は、赤成分(波長620〜750nm)、緑成分(波長495〜570nm)、及び青成分(波長450〜495nm)の少なくとも2つを含む、ことが好ましい。この場合、前記変換された画素データのm種類の色成分は、前記赤成分と、前記緑成分及び前記青成分のいずれか1つの色成分と、を含む、ことが好ましい。
また、本発明の一実施形態によれば、色平面は、例えば、赤(R)成分の軸と緑(G)成分の軸を含む平面であることが好ましい。
また、本発明の一実施形態によれば、前記電子内視鏡用プロセッサは、各画素の評価値に基づいて該各画素の色を変更したオーバーレイ画像を生成するオーバーレイ画像生成手段を更に備える構成とすることが好ましい。
してもよい。
また、本発明の一実施形態によれば、前記電子内視鏡用プロセッサは、病変指数を表示装置の表示画面に表示させる表示手段を更に備える構成とすることが好ましい。この表示手段は、カラー画像とオーバーレイ画像とを表示装置の一画面内に並べて表示させる構成とすることが好ましい。
また、本発明の一実施形態によれば、前記電子内視鏡用プロセッサは、カラー画像を撮像した位置の情報を取得する撮像位置取得手段と、カラー画像を撮像した複数の位置と、該位置において撮像したカラー画像の病変指数との関係を、表、グラフ及び模式図の少なくとも一つを用いて表したものを出力装置に出力するレポート出力手段とを更に備える構成とすることが好ましい。
また、本発明の一実施形態に係る電子内視鏡システムは、上記の電子内視鏡用プロセッサと、カラー画像のデータを生成して電子内視鏡用プロセッサに出力するように構成された電子スコープと、電子内視鏡用プロセッサにより求められた病変指数を表示するように構成された表示装置と、を備える。
また、本発明の一実施形態によれば、前記表示装置は、複数種類の前記病変の各々の前記病変指数を、前記カラー画像とともに表示するように構成されている、ことが好ましい。
また、本発明の一実施形態によれば、色相及び彩度は、色成分から除かれることが好ましい。
上述の電子内視鏡用プロセッサ及び電子内視鏡システムによれば、病変部と正常部との正確な判別を容易に行うことが可能になる。
本発明の一実施形態に係る電子内視鏡システムの概略構成を示すブロック図である。 本発明の一実施形態に係る画像処理ユニットの概略構成を示すブロック図である。 画像メモリ224の記憶領域の概略構成を示す図である。 メモリ226の記憶領域の概略構成を示す図である。 画像処理ユニットが行う処理の手順を示すフローチャートである。 TE処理に使用されるゲイン曲線の一例である。 有効画素判定処理の手順を示すフローチャートである。 炎症強度算出処理の手順を示すフローチャートである。 画素対応点がプロットされるRG平面を示す図である。 RG平面内に設定される基準軸について説明する図である。 病変指数計算処理の手順を示すフローチャートである。 画面表示処理によって生成される表示画面の一例である。 レポート出力処理において印刷されるレポート画面である。
以下、本発明の実施の形態について図面を参照しながら説明する。以下においては、本発明の一実施形態として電子内視鏡システムを例に取り説明する。
図1は、本発明の一実施形態に係る電子内視鏡システム1の概略構成を示すブロック図である。図1に示すように、本実施形態の電子内視鏡システム1は、電子スコープ100、電子内視鏡用プロセッサ200、モニタ300及びプリンタ400を備えている。
電子内視鏡用プロセッサ200は、システムコントローラ202やタイミングコントローラ206を備えている。システムコントローラ202は、メモリ204に記憶された各種プログラムを実行し、電子内視鏡システム1の全体を統合的に制御する。また、システムコントローラ202は、操作パネル208に入力されるユーザ(術者又は補助者)からの指示に応じて、電子内視鏡システム1の各種設定を変更する。タイミングコントローラ206は、各部の動作のタイミングを調整するクロックパルスを電子内視鏡システム1内の各種回路に出力する。
また、電子内視鏡用プロセッサ200は、電子スコープ100のLCB(Light Carrying Bundle)102に白色光束である照明光を供給する光源装置230を備えている。光源装置230は、ランプ232、ランプ電源234、集光レンズ236及び調光装置240を備えている。ランプ232は、ランプ電源234から駆動電力の供給を受けて照明光を放射する高輝度ランプであり、例えば、キセノンランプ、メタルハライドランプ、水銀ランプ又はハロゲンランプが使用される。ランプ232が放射した照明光は、集光レンズ236により集光された後、調光装置240を介してLCB102に導入される。
なお、ランプ232は、LD(Laser Diode)やLED(Light Emitting Diode)等の半導体発光素子に置き換えてもよい。半導体発光素子に関しては、他の光源と比較して、低消費電力、発熱量が小さい等の特徴があるため、消費電力や発熱量を抑えつつ明るい画像を取得できるというメリットがある。明るい画像が取得できることは、後述する炎症に関する評価値の精度を向上させることにつながる。半導体発光素子は、プロセッサ200に限らず、電子スコープ100に内蔵されてもよい。一例として、半導体発光素子は、電子スコープ100の先端部内に備えられてもよい。
調光装置240は、システムコントローラ202の制御に基づいてLCB102に導入する照明光の光量を調整する装置であり、絞り242、モータ243及びドライバ244を備えている。ドライバ244は、モータ243を駆動するための駆動電流を生成して、モータ243に供給する。絞り242は、モータ243によって駆動され、照明光が通過する開口を変化させて、開口を通過する照明光の光量を調整する。
入射端からLCB102に導入された照明光は、LCB102内を伝播し、電子スコープ100の先端に配置されたLCB102の出射端から出射して、配光レンズ104を介して被写体に照射される。被写体からの反射光は、対物レンズ106を介して固体撮像素子108の受光面上で光学像を結ぶ。
固体撮像素子108は、IR(Infra Red)カットフィルタ108a、ベイヤ配列カラーフィルタ108bの各種フィルタが受光面に配置された単板式カラーCCD(Charge-Coupled Device)イメージセンサであり、受光面上で結像した光学像に応じた3原色R、G、B各色の撮像信号を生成する。生成された撮像信号は、電子スコープ100の接続部内に設けられたドライバ信号処理回路112において、増幅された後、輝度信号Y及び色差信号Cb,Crからなる画像信号に変換され、更にデジタル信号に変換された後、電子内視鏡用プロセッサ200の画像処理ユニット220に送られる。また、ドライバ信号処理回路112は、メモリ114にアクセスして電子スコープ100の固有情報を読み出す。メモリ114に記録される電子スコープ100の固有情報には、例えば固体撮像素子108の画素数や感度、動作可能なフレームレート等が含まれる。ドライバ信号処理回路112は、メモリ114から読み出した固有情報をシステムコントローラ202に出力する。
原色系(RGB)フィルタは、補色系フィルタと比較して発色性が良い。そのため、原色系フィルタを搭載した撮像素子によるRGB形式の画像信号を後述の炎症に関する評価値の計算に使用すると、その評価精度を向上させることができる。また、原色系フィルタを使用することにより、炎症に関する評価値の計算処理において信号の変換を行う必要がない。そのため、評価計算の処理負荷を抑えることが可能となる。
システムコントローラ202は、電子スコープ100の固有情報に基づいて各種演算を行い、制御信号を生成する。システムコントローラ202は、生成した制御信号を用いて、電子内視鏡用プロセッサ200に接続された電子スコープ100に適した処理がなされるように、電子内視鏡用プロセッサ200内の各種回路の動作やタイミングを制御する。
タイミングコントローラ206は、システムコントローラ202によるタイミング制御に従って、ドライバ信号処理回路112及び画像処理ユニット220にクロックパルスを供給する。ドライバ信号処理回路112は、タイミングコントローラ206から供給されるクロックパルスに従って、固体撮像素子108を電子内視鏡用プロセッサ200側で処理される映像のフレームレートに同期したタイミングで駆動制御する。
電子内視鏡用プロセッサ200の画像処理ユニット220は、システムコントローラ202による制御の下、電子スコープ100のドライバ信号処理回路112から送られてくる画像信号に基づいて内視鏡画像等をモニタ表示するためのビデオ信号を生成し、表示装置であるモニタ300に出力する。術者は、モニタ300に表示された内視鏡画像を確認しながら例えば消化管内の観察や治療を行う。また、画像処理ユニット220は、画像信号に基づいて後述するレポート画面を印刷出力するためのレポート出力信号(印刷信号)を生成して、プリンタ400に出力する。
電子内視鏡用プロセッサ200は、ネットワークインタフェース210及びネットワーク500を介してサーバ600に接続されている。電子内視鏡用プロセッサ200は、内視鏡検査に関する情報(例えば、患者の電子カルテ情報や術者の情報)をサーバ600から取得してモニタ300や操作パネル208に表示し、内視鏡検査結果(内視鏡画像データ、検査条件、後述の画像解析結果、術者所見等)をサーバ600に送信して、蓄積する。
また、電子内視鏡システム1は、複数の内視鏡画像の静止画を撮像箇所(すなわち、撮像時の電子スコープ100の先端部の位置(挿入長))の情報と関連付けて記録する機能を備えている。電子スコープ100の挿入部130の外周には、複数の光センサ132が長さ方向に等間隔(例えば5cm間隔)で設けられている。光センサ132は、フォトダイオード等の受光素子であり、外光(内視鏡検査が行われる部屋の室内照明)を検出する。挿入部130の消化管内に挿入され部分に設けられた光センサ132は外光を検出せず、消化管内に挿入されていない部分に設けられた光センサ132は外光を検出する。そのため、光を検出していない光センサの分布長を消化管内に挿入された挿入部130の長さと判定することで、電子スコープ100先端部の位置(挿入長)の情報を取得することができる。光センサ132は、ドライバ信号処理回路112に接続されており、検出した光量を示すセンサ信号をドライバ信号処理回路112に送信する。ドライバ信号処理回路112は、光センサ132からのセンサ信号に基づいて、電子スコープ100の先端部の位置(挿入長)Posを計算する。
また、電子スコープ100の操作部120に対して静止画取得を指示するユーザ操作が行われると、操作部120からドライバ信号処理回路112に操作信号が送信される。システムコントローラ202は、操作部120から静止画取得の操作信号を取得すると、現在の電子スコープ100先端部の位置情報(挿入長)Posと共に静止画取得の指令を画像処理ユニット220に送信する。これにより、画像処理ユニット220において、撮像時の電子スコープ100の位置情報Posと関連付けられて内視鏡観察画像の静止画が記録される。画像処理ユニット220が静止画を記録する処理の詳細は後述する。
図2は、画像処理ユニット220の概略構成を示すブロック図である。画像処理ユニット220は、第1画像処理回路222、画像メモリ224、メモリ226及び第2画像処理回路228を備えている。第1画像処理回路222は、ドライバ信号処理回路112からの画像信号に対して種々の画像処理を施して、画像メモリ224に出力する。
図2に示すように、第1画像処理回路222は、RGB変換部222a、TE処理部222b、有効画素判定部222c、色空間変換部222d、炎症強度算出部222e及びオーバーレイ処理部222fを備えている。また、第2画像処理回路228は、病変指数計算部228a、表示画面生成部228b及びレポート生成部228cを備えている。第1画像処理回路222及び第2画像処理回路228の各部が行う具体的な処理については後述する。
図3は、画像メモリ224が備える記憶領域の概略構成を示す図である。本実施形態の画像メモリ224には、7つの記憶領域群Pk(k=0〜6)が設けられている。各憶領域群Pkは、通常観察画像データNの3原色信号R,G,Bをそれぞれ記憶する通常画像メモリ領域knR,knG,knB(k=0〜6)と、後述するTE処理S3により生成されるトーン強調画像データEの原色信号R’,G’,B’をそれぞれ記憶するトーン強調画像メモリ領域keR,keG,keB(k=0〜6)と、後述するオーバーレイ処理S7により生成されるオーバーレイ画像データSの3原色信号R”,G”,B”をそれぞれ記憶するオーバーレイ画像メモリ領域ksR,ksG,ksB(k=0〜6)を備えている。すなわち、画像メモリ224は、通常観察画像データNとトーン強調画像データEとオーバーレイ画像データSのデータセットを最大7セット記憶することができる。画像メモリ224は、第1画像処理回路222から出力された画像データ(通常観察画像データN、トーン強調画像データE又はオーバーレイ画像データS)を、システムコントローラ202の制御に従い、記憶領域群P0〜P6のいずれかに記憶させるように構成されている。なお、記憶領域P0には、第1画像処理回路222から順次出力される画像データが上書きされ、常にリアルタイムの動画を構成する画像データが保持される。一方、記憶領域群P1〜P6には、システムコントローラ202から指令があった時にのみ、第1画像処理回路222から出力された画像データが書き込まれる。すなわち、画像メモリ224には最大6枚の静止画を記録することができる。
図4は、メモリ226が備える記憶領域の概略構成を示す図である。メモリ226は、RGBマトリックス記憶領域226a、フラグ記憶領域226b、設定情報記憶領域226c、病変指数記憶領域群226d、補正マトリックス記憶領域226e及び色情報記憶領域226fを備えている。RGBマトリックス記憶領域226aには後述するRGB変換処理S1において使用されるRGB変換マトリックス係数M1が格納され、フラグ記憶領域226bには第1画像処理回路222での処理に使用されるフラグテーブルT2が格納される。なお、フラグテーブルT2は、画像データを構成する各画素(x,y)に関する解析結果を示すフラグf(x,y)から構成された数値テーブルである。設定記憶領域226cには、画像処理ユニット220での処理に使用される各種設定値が記録されている。また、病変指数記憶領域群226dには、画像メモリ224の記憶領域群Pk(k=0〜6)に対応する7つの記憶領域群Qk(k=0〜6)が設けられている。各記憶領域群Qkには、対応する記憶領域群Pkに記憶された画像の解析結果である病変指数IdxR、IdxW、IdxTが記録される。
ホワイトバランス補正は、無彩色軸上の一点(例えば白色)のみで色補正を行うものである。そのため、炎症等の有彩色を持つ部位を対象とした評価を行う場合、ホワイトバランス補正だけでは、電子内視鏡システム1(主に電子スコープ100の光学部品)の個体差による評価値のばらつきを抑えることが難しい。そこで、補正マトリックス記憶領域226eには、この種のばらつきを抑えるための補正マトリックス係数M2が格納されている。
また、色情報記憶領域226fには、後述するオーバーレイ処理S7においてオーバーレイ画像を生成するために必要なデータが格納されている。
なお、記憶領域群Pk及びQk(k=1〜6)は、それぞれ電子スコープ100の先端部の位置情報(挿入長)Posの値と関連付けられている。具体的には、記憶領域群P1及びQ1は検査範囲の最奥部(例えば横行結腸の右結腸曲付近)に相当する挿入長Posの範囲に対応し、k値が大きくなるほど対応する挿入長Posが短くなり、記憶領域群P6及びQ6が直腸付近に相当する挿入長Posの範囲に対応する。すなわち、検査範囲の最奥部から電子スコープ100の挿入部130を引き抜きながら静止画を取得していくと、取得した順にk=1〜6の記憶領域に静止画が記録される。位置情報Posと記憶領域群Pk、Qk(k=1〜6)との対応関係を規定する設定情報は、設定情報記憶領域226cに記録されている。画像データが記録される記憶領域群Pk、Qkは、画像データの位置情報Pos(撮像時の電子スコープ100先端部の位置)に応じて決定される。
第2画像処理回路228は、画像メモリ224に記憶された画像信号を使用してモニタ表示用のビデオ信号を生成し、モニタ300に出力する。また、第2画像処理回路228は、画像メモリ224に記憶された画像信号やメモリ226に記憶される病変指数(後述)を使用して、後述するレポート出力信号(印刷信号)を生成してプリンタ400に出力する。
次に、画像処理ユニット220が行う処理の詳細を説明する。図5は、画像処理ユニット220が行う処理の手順を示すフローチャートである。画像処理ユニット220の処理が開始すると、先ず、第1画像処理回路222のRGB変換部222aによりRGB変換処理S1が行われる。RGB変換処理S1では、RGB変換部222aが、ドライバ信号処理回路112から送られてくる輝度信号Y及び色差信号Cb,Crをそれぞれ増幅した後、3原色信号R,G,Bに変換する。RGB変換処理S1は、メモリ226のRGBマトリックス記憶領域226aに格納されたRGB変換マトリックス係数M1を使用して行われる。RGB変換マトリックス係数M1は、撮像に用いる照明光のスペクトル特性に応じて予め設定されており、Y,Cb,Cr信号からR,G,B信号への信号形式の変換と同時に、照明光のスペクトル特性の補正が行われる。また、RGB変換処理S1が完了すると、生成された通常観察画像データNの3原色信号R,G,Bは画像メモリ224に出力され、それぞれ通常画像メモリ領域0nR,0nG,0nBに記憶される。
次に、画像解析モードに設定されているか否かが判断される(S2)。画像解析モードは、画像データの各画素について色成分(特にR,G成分)を解析し、色成分の解析結果から対象疾患(病変)に関する評価結果(例えば炎症に関する評価値やカラーマップ画像)を取得し、取得された評価結果を表示する動作モードである。対象疾患の種類は、検査内容に応じて選択することができる。画像解析モードを実行することにより、例示的には、炎症性腸疾患(IBD)の病変である潰瘍(白苔や膿様粘液を含む白色病変)や炎症(浮腫や易出血性を含む赤変病変)の観察像に特有の色域にある画素を抽出して、識別表示することができる。
なお、本実施形態の電子内視鏡システム1は、画像解析モードと通常観察モードの2つの動作モードで動作するように構成されている。動作モードは、電子スコープ100の操作部120や電子内視鏡用プロセッサ200の操作パネル208に対するユーザ操作によって切り換えられる。通常観察モードに設定されている場合は(S2:No)、処理はS9に進む。
画像解析モードが選択されている場合は(S2:Yes)、次にトーン強調(TE)処理部222bによるTE処理S3が行われる。TE処理S3は、病変の判定精度を上げるために、各原色信号R,G,Bに対して非線形なゲイン(利得)を与えるゲイン調整を行い、判定する病変に特有の色域(特に境界部)付近におけるダイナミックレンジを実質的に広げて、色表現の実効的な分解能を高める処理である。具体的には、TE処理S3では、各原色信号R,G,Bに対して、図6に示すような単調増加の非線形のゲインを与えて原色信号R’,G’,B’(トーン強調画像データE)を取得する処理が行われる。例えば、潰瘍に特有な色域の境界のR空間への写像を境界領域RAとし、炎症に特有な色域の境界のR空間への写像を境界領域RBとすると、境界領域RA及びRBの付近においてゲイン曲線の傾きが最も急峻になっている。このようなゲイン曲線に従ってゲインを与えることにより、境界領域RA及びRBの付近における原色信号R’(原色信号Rに対してTE処理S3を施した信号)の実質的なダイナミックレンジを広げることができ、より精密な閾値判定が可能になる。
ここで、各原色信号R,G,Bに対してそれぞれ異なるゲイン調整を行ってもよい。さらにまた、各原色信号G,Bは同じ非線形のゲインを与え、原色信号Rにはこれらとは異なる非線形のゲインを与える処理であってもよい。また、TE処理S3により生成された3原色信号R’,G’,B’(トーン強調画像データE)は、画像メモリ224に出力され、それぞれトーン強調画像メモリ領域0eR,0eG,0eBに記憶される。
なお、TE処理S3により、炎症部が赤く、潰瘍部が白く、正常部が緑色に色味が変化する。そのため、TE処理S3により生成されたトーン強調画像データEをモニタ300に表示した場合、TE処理S3前の通常観察画像データNよりも病変部(炎症部や潰瘍部)を容易に視認することができる。
TE処理S3が完了すると、次にトーン強調画像データEに対して有効画素判定部222cによる有効画素判定処理S4が行われる。図7は、有効画素判定処理S4の手順を示すフローチャートである。図7に示す有効画素判定処理S4は、画像データを構成する全ての画素(x,y)について順次行われる。有効画素判定処理S4では、まず各画素(x,y)について、原色信号R’(x,y),G’(x,y),B’(x,y)から、下記数1に記載の式により補正輝度int(x,y)が計算される(S41)。
なお、計算した補正輝度int(x,y)の値は、後述する適正露出判定S42に使用される。また、数式1から分かるように、補正輝度int(x,y)は、原色信号R’(x,y),G’(x,y),B’(x,y)の単純平均ではなく、ヒト(術者)の比視感度特性に基づいた加重平均として求められる。
次に、各画素について、処理S41において計算したトーン強調画像データEの補正輝度int(x,y)及び原色信号R’(x,y),G’(x,y),B’(x,y)に基づいて、露出の適否(画像解析に必要な露出レベルか否か)を判定する(S42)。適正露出判定S42では、次の2つの条件(数式2、数式3)の少なくとも一方(或いは両方)を満たす場合に、適正露出(S42:Yes)と判定する。なお、下記数2に記載の式により補正輝度int(x,y)(全体の光量)の上限値が規定されており、下記数3に記載の式により各原色信号R’(x,y),G’(x,y),B’(x,y)の下限値が規定されている。
画素(x,y)について、数2又は数3に記載の式を満たし、適正露出と判定されると(S42:Yes)、有効画素判定部222cは、メモリ226のフラグ記憶領域226bに格納されているフラグテーブルT2の画素(x,y)に対応するフラグf(x,y)の値を「1」に書き換える(S43)。なお、フラグf(x,y)は、0,1のいずれかのフラグ値をとる。各フラグ値の定義は以下の通りである。
0:画素データ無効
1:病変無し(正常)又は病変未判定(画素データ有効)
また、適正露出判定S42において、数2、数3に記載の式のいずれの条件も満たさず、露出不適正と判定されると(S42:No)、有効画素判定部222cは、フラグテーブルT2のフラグf(x,y)の値を「0」に書き換える(S44)。
次に、処理S45では、全ての画素(x,y)について処理が完了したかどうかが判定される。全ての画素(x,y)の処理が完了するまで、上記の処理S41〜S45が繰り返される。
なお、有効画素判定処理S4にて実行される、有効画素を判定する動作は、有効画素判定手段により行われる。一実施形態によれば、図2に示す有効画素判定部222cが上記有効画素判定手段の機能を担うことが好ましい。
有効画素判定処理S4が完了すると、次に色空間変換部222dにより色空間変換処理S5が行われる。色空間変換処理S5は、RGB3原色で定義されるRGB色空間のトーン強調された画素データをRG平面の画素データに変換する処理である。なお、色空間変換処理S5では、トーン強調されていないRGB色空間の画素データをRG平面の画素データに変換してもよい。
図9に、互いに直交するR軸とG軸とによって定義されるRG平面を示す。なお、R軸は、R成分(Rの画素値)の軸であり、G軸は、G成分(Gの画素値)の軸である。
色空間変換処理S5では、RGB3原色で定義されるRGB色空間の各画素の画素データ(3種類の色成分よりなる三次元の画素データ)がRGの画素データ(2種類の色成分よりなる二次元の画素データ)に変換される。概念的には、図9に示されるように、RGB色空間の各画素の画素データが、R、Gの画素値に応じてRG平面内(より詳細には、R=0〜255、G=0〜255の値を取るRG平面内の区画)にプロットされる。以下、説明の便宜上、RGB色空間の各画素の画素データの点及びRG平面内にプロットされた画素データの点を「画素対応点」と記す。なお、図9においては、図面を明瞭化する便宜上、全ての画素の画素対応点を示すのではなく一部の画素の画素対応点のみ示している。
なお、色成分は、色空間(色平面も含む。)を構成するものである。一実施形態によれば、色成分のいずれも、波長帯域が互いに異なるように設定された色成分であることが好ましい。したがって、この場合、色相及び彩度は、「色成分」から除かれる。
このように、色空間変換処理S5では、RGBプロット色空間の各画素データ(三次元データ)がRG平面に正射影され、各画素データに対応するRGB色空間内の点からRG平面に下された垂線の足が各画素対応点(二次元データ)となる。
なお、色空間変換処理S5にて実行される、RGB色空間の各画素の画素データをRG平面内の画素データに変換(正射影)する動作は、変換手段により行われる。一実施形態によれば、図2に示す色空間変換部222dが上記変換手段の機能を担うことが好ましい。
なお、露出が不足又は過剰な画素のデータは精度が低く、解析結果の信頼度を下げてしまう。そのため、色空間変換処理S5は、フラグf(x,y)の値が「1」に設定された画素(x,y)、すなわち、上述の有効画素判定処理S4において適正露出と判定された画素(x,y)についてのみ行われる。
色空間変換処理S5が完了すると、次に炎症強度算出部222eにより炎症強度算出処理S6が行われる。炎症強度算出処理S6は、内視鏡画像の各画素(x,y)について対象疾患に関する症状レベルを示す炎症強度を算出する処理である。
図8は、炎症強度算出処理S6の手順を示すフローチャートである。処理S61では、フラグテーブルT2を参照して、各画素(x,y)のデータが有効であるか否かが判定される。具体的には、フラグf(x,y)の値が「1」の画素は、画素データが有効であると判定され、フラグf(x,y)の値が「0」の画素は、画素データが無効であると判定される。
炎症強度算出処理S6において、処理S62以降の処理は、処理S61で画素データが有効であると判定された有効画素を処理対象として実行される。
処理S62では、対象疾患に関する評価値(例えば炎症の強さを示す炎症強度等)を計算するために必要なRG平面内の基準軸が設定される。図10に、基準軸の説明を補助する図を示す。
撮影対象となる患者の体腔内は、ヘモグロビン色素等の影響によりR成分が他の成分(G成分及びB成分)に対して支配的であり、典型的には、炎症が強いほど赤味(R成分)が他の色味(G成分及びB成分)に対して強くなる。しかし、体腔内の撮影画像は、明るさに影響する撮影条件(例えば照明光の当たり具合)に応じて色味が変化する。例示的には、照明光の届かない陰影部分は黒(無彩色であり、例えば、R、G、Bがゼロ又はゼロに近い値)となり、照明光が強く当たって正反射する部分は白(無彩色であり、例えば、R、G、Bが255又は255に近い値)となる。すなわち、炎症が起こっている同じ異常部位を撮影した場合であっても、照明光が強く当たるほどその異常部位画像の画素値が大きくなる。そのため、照明光の当たり具合によっては、画素値が炎症の強さと相関の無い値を取ることがある。
一般に、炎症が起こっていない体腔内の正常部位は十分な粘膜で覆われている。これに対し、炎症が起こっている体腔内の異常部位は十分な粘膜で覆われていない。具体的には、血管が拡張すると共に血管から血液・体液が漏出するため、相対的に粘膜が薄くなり血液の色が目に映り易くなる。粘膜は、基本的には白基調ではあるが、色味としては若干黄味がかっており、その濃淡(粘膜の厚み)によって画像上に写る色味(黄色の色味)が変化する。従って、粘膜の濃淡も炎症の強さを評価する指標の一つになるものと考えられる。
そこで、図10に示されるように、RG平面内において、(50,0)及び(255,76)を通る直線が基準軸の1つとして設定されると共に、(0,0)及び(255,192)を通る直線が基準軸の1つとして設定される。説明の便宜上、前者の基準軸を「ヘモグロビン変化軸AX1」と記し、後者の基準軸を「粘膜変化軸AX2」と記す。
図10に示されるプロットは、本発明者が体腔内の多数のサンプル画像を解析した結果得たものである。解析に用いられるサンプル画像には、症状レベルの最も高い炎症画像例(最も重症なレベルの炎症画像例)や、症状レベルの最も低い炎症画像例(実質的に正常部位であるとみなされる画像例)など、各段階の炎症画像例が含まれる。なお、図10に示す例では、図面を明瞭化する便宜上、解析の結果得られたプロットを一部だけ示している。解析の結果実際に得られたプロットは、図10に示されるプロットの数よりも遥かに多い。
上述したように、炎症が強い異常部位ほどR成分が他の成分(G成分及びB成分)に対して強くなる。そのため、プロットが分布する領域と分布しない領域との境界線であって、G軸よりもR軸に近い方の境界線上の軸、図10に示す例では、(50,0)及び(255,76)を通る境界線上の軸が、症状レベルの最も高い病変部(症状レベルの最も高い炎症(異常)部位)と相関の高い軸として設定される。この軸がヘモグロビン変化軸AX1である。ヘモグロビン変化軸AX1には、様々な撮影条件(例えば照明光の当たり具合で撮影された症状レベルの最も高い炎症部位に対応するプロットが重畳される。
一方、正常部位に近いほどG成分(又はB成分)がR成分に対して強くなる。そのため、プロットが分布する領域と分布しない領域との境界線であって、R軸よりもG軸に近い方の境界線上の軸、図10に示す例では、(0,0)及び(255,192)を通る境界線上の軸が、症状レベルの最も低い病変部(症状レベルの最も低い炎症(異常)部位であって、実質的に正常(健常)部位であるとみなされるもの)と相関の高い軸として設定される。この軸が粘膜変化軸AX2である。粘膜変化軸AX2には、様々な撮影条件(例えば照明光の当たり具合)で撮影された症状レベルの最も低い炎症部位(実質的に正常部位あるいは健常部位とみなされるもの)に対応するプロットが重畳される。
補足すると、対象疾患について症状レベルの最も高い炎症部位は、出血を伴う。一方、症状レベルの最も低い炎症部位は、実質正常部位であるから、十分な粘膜で覆われている。そのため、図10に示されるRG平面内のプロットは、血液(ヘモグロビン色素)と最も相関の高い軸と、粘膜の色味と最も相関の高い軸に挟まれた領域内に分布すると捉えることができる。そのため、プロットが分布する領域と分布しない領域との境界線のうち、R軸に近い(R成分が強い)方の境界線が、症状レベルの最も高い炎症部位を示す軸(ヘモグロビン変化軸AX1)に相当し、G軸に近い(G成分が強い)方の境界線が、症状レベルの最も低い炎症部位を示す軸(粘膜変化軸AX2)に相当する。
図8に戻り、処理S63では、画素データ(R,G)が補正マトリックス係数を用いて補正される。メモリ226の補正マトリックス記憶領域226eには、補正マトリックス係数M2が保存されている。処理S63では、同一の病変部を異なる電子内視鏡システムで撮影したときのスコア値のばらつき(言い換えると、電子スコープの個体差)を抑えるため、各有効画素の画素対応点である画素データ(R,G)が補正マトリックス係数M2を用いて補正される。
・補正マトリックス係数例
new :補正後の画素データ(R成分)
new :補正後の画素データ(G成分)
00〜M11:補正マトリックス係数
R :補正前の画素データ(R成分)
G :補正前の画素データ(G成分)
なお、本処理S63にて実行される、各有効画素の画素対応点を補正マトリックス係数M2を用いて補正する動作は、色成分補正手段により行われる。一実施形態によれば、図2に示す画像処理ユニット220内の色補正回路が機能を担うことが好ましい。
処理S64では、補正マトリックス係数M2を用いて補正された各有効画素の画素データ(Rnew,Gnew)について、炎症強度を計算するための角度が算出される。具体的には、処理S64では、各有効画素について、ヘモグロビン変化軸AX1と粘膜変化軸AX2との交点(基準点)O’と画素対応点(Rnew,Gnew)とを結ぶ線分Lと、ヘモグロビン変化軸AX1とがなす角度θ(図9参照)が算出される。なお、基準点O’は、座標(−150,−75)に位置する。
体腔内の撮影画像の明るさが照明光の当たり具合によって変化すると、撮影画像の色味は、個人差、撮影箇所、炎症の状態等の影響があるものの、RG平面内において、概ね、症状レベルの最も高い炎症部位ではヘモグロビン変化軸AX1上に沿って変化し、症状レベルの最も低い炎症部位、すなわち、疾患が実質的に無い健常部位では粘膜変化軸AX2上に沿って変化する。また、中間の症状レベルの炎症部位の撮影画像の色味も同じ傾向で変化するものと推定される。すなわち、炎症部位に対応する画素対応点は、照明光の当たり具合によって変化すると、基準点O’を起点とした方位角方向にシフトする。言い換えると、炎症部位に対応する画素対応点は、照明光の当たり具合によって変化すると、角度θが一定のまま移動して基準点O’との距離が変わる。これは、角度θが撮影画像の明るさの変化に実質的に影響を受けないパラメータであることを意味する。
角度θが小さいほどR成分がG成分に対して強くなり、炎症部位の症状レベルが高いことを示す。また、角度θが大きいほどG成分がR成分に対して強くなり、炎症部位の症状レベルが低いことを示す。
そこで、処理S65では、角度θがゼロであるときに値255となり、角度θがθMA であるときに値ゼロとなるように、各有効画素について角度θが正規化される。なお、θMAXは、ヘモグロビン変化軸AX1と粘膜変化軸AX2とがなす角度と等しい。これにより、全ての有効画素について、0〜255の範囲に収まる炎症強度(8bitの情報)が得られる。
このように、R成分及びG成分の2種類の色成分より定義される色平面(色空間)内において、所定の基準点O’から見た対象疾患に関する基準方向、例えばヘモグロビン変化軸AX1あるいは粘膜変化軸AX2の軸方向を設定しており、各画素について、この色空間における基準点O’から見た画素対応点の方向の、基準方向からのずれの程度に基づいて、対象疾患に関する評価値を算出する。
さらに、RG平面内において、基準点O’を通る、対象疾患が無い健常部位に関する粘膜変化軸AX2(第2基準軸)を設定しており、ヘモグロビン変化軸AX1(第1基準軸)と粘膜変化軸AX2の交差角度を最大角度θMAXとして、角度θを正規化して評価値を算出する。
なお、処理S65にて実行される、各有効画素について対象疾患に関する評価値(ここでは炎症強度)を算出する動作は、評価値算出手段により行われる。一実施形態によれば、図2に示す炎症強度算出部222eが上記評価値算出手段の機能を担うことが好ましい。
炎症強度算出処理S6が完了すると、次にオーバーレイ処理部222fによりオーバーレイ処理S7が行われる。オーバーレイ処理S7では、炎症強度算出処理S6にて算出された炎症強度に応じた表示色で撮影画像をモザイク化するオーバーレイ画像データSの原色信号R”,G”,B”が生成される。
具体的には、オーバーレイ画像を表示可能とするため、炎症強度の値と所定の表示色とを対応付けたカラーテーブルT2がメモリ226の色情報記憶領域226fに記憶されている。カラーテーブルT2では、例えば、値5刻みで異なる表示色が対応付けられている。例示的には、炎症強度の値が0〜5の範囲では黄色が対応付けられており、該値が5増える毎に色相環での色の並び順に従って異なる表示色が対応付けられており、該値が250〜255の範囲では赤色が対応付けられている。
オーバーレイ処理S7では、通常観察画像データNの各有効画素が、カラーテーブルT2に基づいて、炎症強度算出処理S6にて得た炎症強度の値に応じた色に変換され、変換された表示色で表示される画素よりなるオーバーレイ画像データSが生成される。
なお、オーバーレイ処理S7にて実行される、オーバーレイ画像を生成する動作は、オーバーレイ画像生成手段により行われる。一実施形態によれば、図2に示すオーバーレイ処理部222fが、オーバーレイ画像生成手段の機能を担うことが好ましい。
オーバーレイ処理S7が完了すると、オーバーレイ処理S7により生成されたオーバーレイ画像データSが、画像メモリ224に出力され、それぞれオーバーレイ画像メモリ領域0sR,0sG,0sB(k=0〜6)に記憶される。
次に、第2画像処理回路228の病変指数計算部228aにより病変指数計算処理S8が行われる。病変指数計算処理S8では、内視鏡画像の有効画素数(有効画素判定処理S4において適正露出と判定された画素数)のうち、病変とみなされる箇所を写す画素の数(例えば炎症強度算出処理S6において算出された炎症強度の値が一定値以上の画素の数)の占める割合(病変指数)を計算する処理である。なお、病変指数は、全ての有効画素の炎症強度の合計値や平均値など、他の方法によって算出される値であってもよい。
図11は、病変指数計算処理S8の手順を示すフローチャートである。病変指数計算処理S8では、まず各パラメータをリセットする(S81)。なお、NumO、NumR及びNumWは、それぞれ、有効画素、対象疾患について第一の症状レベル(例えば炎症強度の値が第一の値以上かつ第二の値未満)に相当する箇所を写す画素、及び対象疾患について第二の症状レベル(例えば炎症強度の値が第二の値以上)に相当する箇所を写す画素を計数するカウンタである。
なお、処理S81、さらに、後述する処理S82〜87にて実行される、有効画素の数を計算する動作は、有効画素計数手段により行われる。一実施形態によれば、図2に示す病変指数計算部228aが有効画素計数手段の機能を担うことが好ましい。
次に、フラグテーブルT2を参照して、注目画素(x,y)が有効画素であるか否かが判断される(S82)。有効画素ではない場合は(S82:No)、各カウンタを変更せずに処理をS87に進める。有効画素である場合は(S82:Yes)、カウンタNumOをインクリメントする(S83)。次に、注目画素が正常(例えば炎症強度の値が第一の値未満)、第一の症状レベル、第二の症状レベルの何れに該当する画素であるかが判定される(S84)。正常と判定されていれば(S84:正常)、そのまま処理をS87に進める。また、第一の症状レベルと判定されていれば(S84:第一の症状レベル)、カウンタNumRをインクリメントし(S85)、第二の症状レベルと判定されていれば(S84:第二の症状レベル)、カウンタNumWをインクリメントした後(S86)、処理をS87に進める。
次に、全ての画素(x,y)について処理が完了したかどうかが判定される(S87)。全ての画素(x,y)の処理が完了するまで、上記の処理S81〜S87が繰り返される。
全ての画素(x,y)についてカウントが完了すると、次に、病変指数IdxRが計算される(S88)。病変指数IdxRは、全有効画素数に占める、第一の症状レベルに相当する箇所を写す画素数の割合であり、IdxR=NumR/NumOにより計算される。
次に、病変指数IdxWが計算される(S89)。病変指数IdxWは、全有効画素数に占める、第二の症状レベルに相当する箇所を写す画素数の割合であり、IdxW=NumW/NumOにより計算される。
次に、総病変指数IdxTが計算される(S90)。総病変指数IdxTは、全有効画素数に占める、病変(第一及び第二の症状レベルに相当する箇所)を写す画素数の割合であり、IdxT=IdxR+IdxWにより計算される。
なお、病変指数計算処理S8にて実行される、病変指数及び総病変指数を計算する動作は、病変指数算出手段により行われる。一実施形態によれば、図2に示す病変指数計算部228aが上記病変指数算出手段の機能を担うことが好ましい。
ここで、これまで説明した方法と同様の方法により、炎症性腸疾患について、その病変である潰瘍、炎症の夫々で個別の病変指数を計算し、計算された2つの病変指数の合計を総病変指数IdxTとして算出する場合を考える。本発明者の研究により、このようにして計算された炎症性腸疾患の内視鏡画像の総病変指数IdxTと炎症性腸疾患の重症度を示すMayoスコアとの間に強い相関があり、総病変指数IdxTが炎症性腸疾患の重症度を簡易的に判定するための良い指標となることが明らかにされている。
次に、メモリ226に各病変指数IdxR、IdxW、IdxTを記録して(S91)、病変指数計算処理S8が終了する。
次に、静止画保存の指令が出されているか否かの判定S9(図5)が行われる。画像処理ユニット220は、ドライバ信号処理回路112から静止画保存の指令と共に電子スコープ100先端部の位置情報Posを受け取ると(S9:Yes)、画像メモリ224の記憶領域群P0に記憶された通常観察画像データN、トーン強調画像データE及びオーバーレイ画像データSの複製を、位置情報Posに対応する記憶領域群P1〜6のいずれかに記憶させ(S10)、次いで画面表示処理S11が行われる。ドライバ信号処理回路112から静止画保存の指令が無ければ(S9:No)、処理S10を行わずに画面表示処理S11に進む。
なお、画像処理ユニット220による位置情報Posを受け取る上記の動作は、撮像位置取得手段により行われる。一実施形態によれば、画像処理ユニット220内の図示されない位置取得部が、撮像位置取得手段の機能を担うことが好ましい。
次の画面表示処理S11は、モニタ300に表示するための表示画面データを生成し、ビデオ信号に変換して出力する処理であり、第2画像処理回路228の表示画面生成部228bによって行われる。表示画面生成部228bは、システムコントローラ202の制御に応じて、複数種類の表示画面データを生成することができる。
図12は、画面表示処理S11によって生成される表示画面の一例であり、画像解析モードでの内視鏡観察中に表示される解析モード観察画面320である。解析モード観察画面320は、撮像日時が表示される日時表示領域321と、検査に関連する基本的な情報(例えば、カルテ番号、患者名、術者名)を表示する基本情報表示領域322と、病変指数計算処理S8において計算された病変指数IdxR、IdxW、IdxTを表示する病変指数表示領域323と、通常観察画像データN(又はトーン強調画像データE)を表示する通常画像表示領域324と、オーバーレイ画像データS(オーバーレイ処理S7後の観察画像)を表示する解析画像表示領域325を備えている。
画面表示処理S11において、表示画面生成部228bは、メモリ226の記憶領域群Q0からリアルタイムの病変指数IdxR、IdxW、IdxTを読み取り、病変指数表示領域323に表示する。図12中の「第一の症状レベル:25.8%」、「第二の症状レベル:19.8%」及び「検出面積:45.6%」は、それぞれ病変指数IdxR、病変指数IdxW及び総病変指数IdxTの表示である。また、表示画面生成部228bは、画像メモリ224の記憶領域群P0からリアルタイムの通常観察画像データN(又はトーン強調画像データE)及びオーバーレイ画像データSを読み取り、それぞれ通常画像表示領域324及び解析画像表示領域325に表示する。また、日時表示領域321及び基本情報表示領域322には、システムコントローラ202から提供された情報が表示される。
なお、画面表示処理S11にて実行される、病変指数IdxR、病変指数IdxW及び総病変指数IdxT並びに通常観察画像データN(又はトーン強調画像データE)及びオーバーレイ画像データSをモニタ300に表示させる動作は、表示手段により行われる。一実施形態によれば、図2に示す表示画面生成部228bが表示手段の機能を担うことが好ましい。
術者は、解析モード観察画面320を見ながら内視鏡観察を行う。具体的には、解析画像表示領域325に表示されるオーバーレイ画像データSを参照しつつ、通常画像表示領域324に表示される通常観察画像データN(又はトーン強調画像データE)を見ながら内視鏡観察を行う。オーバーレイ画像データSにおいて色付けされた部位について特に慎重に観察を行うことで、病変部を見落とすことなく、正確な診察を行うことができる。また、病変指数表示領域323に表示される病変指数IdxR、IdxW、IdxTの客観的かつ具体的な数値を参照しながら観察することにより、通常観察画像データNやオーバーレイ画像データSから受ける主観的な印象に囚われず、より客観的かつ緻密な診断を行うことが可能になる。
例示的には、炎症性腸疾患では、病変部(炎症部、潰瘍部)が広範囲に及び、重症になるほど病変部の割合が高くなるため、総病変指数IdxTが重症度の良い指標となる。他方、病変部が局在する疾患(例えばポリープ)では、電子スコープ100の先端部が病変部に接近するほど、病変部の画角が大きくなるため、総病変指数IdxTが増大する。そのため、総病変指数IdxTは、病変部に接近しているかどうかの良い指標となり、総病変指数IdxTが増え始めたときに注意深く観察することにより、病変部の見落としを防ぐことができる。
次に、システムコントローラ202からレポート出力の実行指令を受けたか否かが判断される(S12)。電子スコープ100の操作部120や電子内視鏡用プロセッサ200の操作パネル208に対するユーザ操作によりレポート出力の実行が指示されると、システムコントローラ202は後述するレポート出力処理S13の実行指令を画像処理ユニット220に送る。システムコントローラ202からレポート出力処理S13の実行指令が出されていれば(S12:Yes)、続いてレポート出力処理S13が行われる。また、実行指令が出されていなければ(S12:No)、レポート出力処理S13を行わずに処理がS14へ進む。
レポート出力処理S13は、内視鏡検査結果を整理したレポート画面420を生成し、これをレポート出力信号(印刷信号)に変換してプリンタ400に出力して、レポート画面420を印刷する処理である。図13に示すレポート画面420は、大腸モデル図421、病変指数リスト422、病変指数分布図423、統計値リスト424及びサムネイル画像リスト425を備えている。
大腸モデル図421は、静止画を取得した位置(観察ポイント)を図示したものであり、大腸の模式図421a上に観察ポイント1〜6を示す複数の丸印421bが配置されている。観察ポイント1〜6は、上述した画像メモリ224の記憶領域群P1〜P6及びメモリ226の記憶領域群Q1〜6にそれぞれ対応する。病変指数リスト422は各観察ポイント1〜6(422b)における総病変指数IdxT(422c)を一覧表示したものである。また、病変指数分布図423は病変指数リスト422をグラフ表示したものである。統計値リスト424は、総病変指数IdxTの統計値(平均値、分散、標準偏差)を一覧表示したものである。また、サムネイル画像リスト425は、各観察ポイント1〜6(425a)において取得した通常観察画像データN(又はトーン強調画像データE)の静止画サムネイル画像425b、オーバーレイ画像データSの静止画サムネイル画像425c及び各通常観察画像データNに対して割り当てられたカルテ番号425dを一覧表示したものである。
レポート画面420を使用することにより、腸管の長さ方向における内視鏡画像及び病変指数の変化の様子を一見して把握することができ、診断のみならず、患者へ検査結果の説明も適確かつ容易に行うことが可能になる。
なお、レポート出力処理S13にて実行される、レポート出力信号をプリンタ400に出力する動作は、レポート出力手段により行われる。一実施形態によれば、図2に示すレポート生成部228cがレポート出力手段の機能を担うことが好ましい。
次に、内視鏡観察を継続するか否かが判断される(S14)。電子内視鏡用プロセッサ200の操作パネル208に対して、内視鏡観察終了又は電子内視鏡システム1の運転停止を指示するユーザ操作が行われる(S14:No)まで、上記の処理S1〜S14が繰り返される。
上述したように、実施形態によれば、複数種類の病変指数の合計が総病変指数として計算されるので、撮像された被写体の症状レベルを総合的に評価することができる。また、評価値が第一の範囲に収まる値の画素の数に基づいて第一の病変指数は計算され、評価値が第二の範囲に収まる値の画素の数に基づいて第二の病変指数は計算されるので、病変部の、症状レベル毎に占める領域の大きさを細かく評価することができる。このため、数日間の時間をあけて同じ病変部を観察したとき、症状レベル毎に占める領域の大きさの時間変化を知ることができるので、病変部の進行の程度を精度良く知ることができる。
また、上述したように、実施形態によれば、予め定めた条件式を満足する画素を有効画素とし、この有効画素だけを評価値を算出する対象として評価値が算出されるので、評価値計算の処理負荷が軽減されるほか、精度の高い評価値を得ることができる。このとき、有効画素における評価値に基づいて複数種類の病変の各々に該当する画素の数である各病変画素数が計算され、複数種類の病変の各々について、有効画素数に対する病変画素数の比率が病変指数として設定されるので、撮像画像内の有効画素に占める各病変の占める大きさを知ることができ、病変部の症状レベルとともに、病変部の広がりを同時に知ることができる。
また、上述したように、実施形態によれば、色平面内において、ヘモグロビン変化軸AX1(第1基準軸)の他に、基準点O’を通る、対象疾患が無い健常部位に関する粘膜変化軸AX2(第2基準軸)を設定しており、ヘモグロビン変化軸AX1と粘膜変化軸AX2の交差角度を最大角度θMAXとして、角度θを正規化して評価値を算出するので、0〜1の評価値の大小により、各画素における症状レベルの強弱を容易に区分けすることができる。
なお、上述したように、実施形態によれば、色空間変換処理S5において変換された2種類の色成分のいずれも、波長帯域が互いに異なるように設定された色成分であることが好ましい。したがって、波長帯域が互いに異なるように設定されない色相及び彩度の組み合わせは除外される。異なる波長帯域で設定される色成分は、画像の明暗によらず、図9に示す角度θはあまり変化せず、基準点O’からの距離が変化するだけである。このため、変換された2種類の色成分として波長帯域で設定される色成分が用いられることが好ましい。この色成分は、R成分、G成分、及びB成分の少なくとも2つを含むことが好ましい。さらに、この色成分は、R成分と、G成分及びB成分のいずれか1つの色成分と、を含むことが好ましい。2種類の色成分がR成分とB成分であっても、R成分とB成分の色空間において、図9に示すような基準となる軸に対する角度θを用いて対象疾患に関する評価値を算出することができる。
また、評価値は、生体組織の粘膜の炎症の強さの程度を示す値である、ことが好ましい。粘膜の炎症の強さを、評価値を用いて細かく設定することができる。実施形態では、2つのレベルにより症状レベルを区分けしているが、3つ以上の症状レベルに区分けして病変指数を定めることもできる。
実施形態に係る電子内視鏡システムは、当技術分野における次のような効果及び課題の解決をもたらすものである。
第1に、実施形態に係る電子内視鏡システムは、炎症性疾患を早期に発見するための診断補助となるということである。
第2に、実施形態の構成によれば、視認し難い軽度炎症を術者が発見できるように、炎症程度(炎症強度や病変指数、オーバーレイ画像等)を画面表示する、又は、炎症が生じている領域の画像を強調することができる。特に、軽度炎症は正常部との判別が難しいため、軽度炎症の評価に関して実施形態の構成によりもたらされる効果が顕著となる。
第3に、実施形態の構成によれば、炎症度の評価として客観的な評価値を術者に提供することができるため、術者間の診断差を低減することができる。特に、経験の浅い術者に対して実施形態の構成による客観的な評価値を提供できるメリットは大きい。
第4に、実施形態の構成によれば、画像処理の負荷が軽減されることにより、炎症部を画像としてリアルタイムに表示することができる。そのため、診断精度を向上させることができる。
第5に、実施形態の構成によれば、評価値計算の処理負荷が軽減されるため、遅滞なくオーバーレイ画像と通常画像とを並べて、又は、合成して表示することができる。そのため、検査時間の延長を伴うことなくオーバーレイ画像を表示することが可能となり、ひいては、患者負担が増すことを回避することが可能となる。
実施形態における観察の対象部位は、例えば、呼吸器等、消化器等である。呼吸器等は、例えば、肺、耳鼻咽喉である。消化器等は、例えば、大腸、小腸、胃、十二指腸、子宮等である。実施形態に係る電子内視鏡システムは、観察対象が大腸である場合に効果がより顕著になると考えられる。これは、具体的には、次のような理由による。
大腸には炎症を基準として評価できる病があり、炎症している箇所を発見するメリットが他の器官と比較して大きいということである。特に、潰瘍性大腸炎に代表される炎症性腸疾患(IBD)の指標として、実施形態に例示される評価値(病変指数)は有効である。潰瘍性大腸炎は治療法が確立されていないため、実施形態の構成の電子内視鏡システムの使用により早期に発見して進行を抑える効果は非常に大きい。
大腸は、胃等と比較して細長い器官であり、得られる画像は奥行きがあり、奥ほど暗くなる。実施形態の構成によれば、画像内の明るさの変化に起因する評価値の変動を抑えることができる。従って、実施形態に係る電子内視鏡システムを大腸の観察に適用すると、実施形態による効果が顕著となる。すなわち、実施形態に係る電子内視鏡システムは、呼吸器用電子内視鏡システム又は消化器用電子内視鏡システムであることが好ましく、大腸用電子内視鏡システムであることがより好ましい。
また、軽度の炎症は一般に診断が難しいが、本実施形態の構成によれば、例えば、炎症度を評価した結果を画面に表示することで、術者が軽度炎症を見逃すことを回避することができる。特に、軽度の炎症に関しては、その判断基準は明瞭なものではないため、術者間の個人差を大きくする要因となっている。この点に関しても、実施形態の構成によれば、客観的な評価値を術者に提供できるため、個人差による診断のばらつきを低減することができる。
なお、実施形態の上記構成は、炎症度のみでなく、ガン、ポリープその他の色変化を伴う各種病変の評価値の算出に適用することができ、それらの場合においても、上述と同様の有利な効果をもたらすことができる。つまり、実施形態の評価値は、色変化を伴う病変の評価値であることが好ましく、炎症度、ガン、ポリープの少なくとも何れかの評価値を含む。
以上が、実施形態の説明であるが、本発明は、上記実施形態の構成に限定されるものではなく、特許請求の範囲の記載によって表現された技術的思想の範囲内で様々な変形が可能である。
上記の実施形態では、RGB色空間の画素データがRG平面の画素データに変換され、変換された各画素データに含まれるR成分とG成分を用いて対象疾患に関する評価が行われているが、別の実施形態では、RGB色空間に代えて、CIE 1976 L*a*b*色空間、CIE LCh色空間、CIE 1976 L*u*v*色空間、HSB色空間、sRGB色空間、CMK色空間、CMYK色空間、CMYG色空間等の他の色空間(n(n≧3)種類の色成分より定義される色空間)の画素データをこれよりも低次の色空間(m(n>m≧2)種類の色成分より定義される色空間)の画素データに変換したものを用いることにより、それぞれの色空間に対応する、上記の実施形態とは別の対象疾患(胃の委縮や大腸腫瘍等)に関する評価を行うこともできる。
また、上記の実施形態では、TE処理S3がRGB色空間上で行われているが、色空間変換処理S5の後にHSI空間など、別の色空間上でTE処理S3を行う構成としてもよい。
電子内視鏡システム1に使用される光源としては、様々なタイプの光源を用いることができる。他方、電子内視鏡システム1の観察目的等に依存して、光源のタイプを限定的なものとする形態もあり得る(例えば、光源のタイプとしてレーザを除く等)。ここで、補正マトリックス係数M2は、使用光源の分光特性によって最適値が変わる。従って、例えば、プロセッサ200が複数種類の光源を備える場合(又は複数種類の外部光源を切り替えて使用する場合)には、光源の種類毎の補正マトリックス係数M2がメモリ226に保存されていてもよい。これにより、使用光源の分光特性による評価結果のばらつきが抑えられる。
また、上記の実施形態では、基準点O’と注目画素の画素対応点とを結ぶ線分Lと、ヘモグロビン変化軸AX1とがなす角度θを算出し、算出された角度θに基づいて対象疾患についての評価が行われているが、本発明はこれに限らない。例えば、線分Lと粘膜変化軸AX2とがなす角度を算出し、算出された角度に基づいて対象疾患についての評価が行われてもよい。この場合、算出角度が小さいほどG成分がR成分に対して強くなり、炎症部位の重症度が低いことを示し、算出角度が大きいほどR成分がG成分に対して強くなり、炎症部位の重症度が高いことを示す。そのため、図8の処理S65では、算出角度がゼロであるときに値ゼロとなり、算出角度がθMAXであるときに値255となるように、算出角度を正規化する。
また、上記の実施形態では、撮影画像の明るさによる炎症評価値への影響を極力抑えるため、ヘモグロビン変化軸AX1と粘膜変化軸AX2との交点が基準点O’として設定されているが、本発明はこれに限らない。例えば、粘膜変化軸AX2上に位置するRG平面の原点(0,0)が基準点O’として設定されてもよい。この場合、最低限必要な基準軸が一軸(粘膜変化軸AX2)で足りるため、処理負荷が軽くなり、処理速度が向上する。
また、上記の実施形態では、光源装置230が、電子内視鏡用プロセッサ200と一体に設けられているが、光源装置230は電子内視鏡用プロセッサ200とは別体の装置として設けられていてもよい。
また、固体撮像素子108としてCCDイメージセンサに代え、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサが用いられてもよい。CMOSイメージセンサは、一般に、CCDイメージセンサと比較して画像が全体的に暗くなる傾向にある。従って、上記の実施形態の構成による、画像の明るさによる評価値の変動を抑えることができるという有利な効果は、固体撮像素子としてCMOSイメージセンサが用いられ状況においてより顕著に表れる。
診断を精度よく行うためには高精細な画像を得ることが好ましい。従って、診断の精度をより向上させる観点では、画像の解像度は、100万画素以上であることが好ましく、200万画素であることがより好ましく、800万画素以上であることが更に好ましい。画像の解像度が高くなるほど全画素について上述の評価値計算を行うための処理負荷が重くなる。しかし、上記の実施形態の構成によれば、評価値計算の処理負荷を抑えることができるため、高精細な画像を処理する状況において本実施形態の構成による有利な効果が顕著に表れる。
また、上記の実施形態では、光センサ132を使用して電子スコープ100先端部の位置(撮像位置)の情報を取得する構成が採用されているが、本発明はこの構成に限定されず、他の手段によって撮像位置の情報を取得する構成としてもよい。例えば、光センサ132に替えて、光源と受光素子を備えた光学式近接センサを電子スコープ100の挿入部130に設けた構成としてもよい。この場合、光学式近接センサが消化管内に挿入されたときに、消化管の内壁で反射したセンサ光が受光素子で検出され、近接を検出する。そのため、上記の実施形態とは逆に、受光素子が光を検出している光学式近接センサの分布長を消化管内に挿入された挿入部130の長さと判断することで、電子スコープ100先端部の位置の情報を取得することができる。
また、光センサ132に替えて、光学式マウスと同じ原理により移動量(移動の距離及び方向)を検出する移動量センサを電子スコープ100の挿入部130に設けた構成としてもよい。この場合には、移動量センサは挿入部130の先端付近に一つだけ設ければよい。
なお、光学式近接センサや移動量センサの光源には、近赤外線から可視光域の範囲の任意の波長の光源(例えばLDやLED)を使用することができるが、ヘモグロビンによる吸収が少なく、生体組織表面での反射率の高い赤色領域の光源を使用することで、高い検出精度を得ることができる。
また、内視鏡検査中に被検者の体外から磁気共鳴画像、X線画像又は超音波画像を取得して、これらの画像から内視鏡先端部の位置を決定することもできる。また、内視鏡画像の画像解析により、内視鏡先端部の消化管内での移動量を計算することで、内視鏡先端部の位置を決定することもできる。
また、上記の実施形態では、対象疾患について第一の症状レベルと第二の症状レベルの判定条件が重複していないため、総病変指数を互いの病変指数の和として計算している。しかしながら、各病変の判定条件が重複する場合には、いずれかの病変を有すると判定された画素の数を有効画素数で割った値を総病変指数としてもよい。
また、上記の実施形態は、術者の手動操作によって静止画が記録される構成であるが、電子スコープ100の挿入部130が検査範囲の最奥部から引き抜かれる際に、挿入部130の先端が予め設定された静止画取得位置(観察ポイント)に達した時に、ドライバ信号処理回路112が自動的に静止画保存の指令を出して、自動的に静止画を保存する構成としてもよい。
また、上記の実施形態では、R、G、Bのベイヤ配列カラーフィルタ108bを有する固体撮像素子108が使用されているが、補色系のCy(シアン)、Mg(マゼンタ)、Ye(イエロー)、G(グリーン)のフィルタを有する固体撮像素子を用いた構成としてもよい。
1 電子内視鏡システム
100 電子スコープ
132 移動量センサ
200 電子内視鏡用プロセッサ
202 システムコントローラ
220 画像処理ユニット
222 第1画像処理回路
222a RGB変換部
222b TE処理部
222c 有効画素判定部
222d 色空間変換部
222e 炎症強度算出部
222f オーバーレイ処理部
224 画像メモリ
226 メモリ
228 第2画像処理回路
228a 病変指数計算部
228b 表示画面生成部
228c レポート生成部
300 モニタ
400 プリンタ
600 サーバ

Claims (14)

  1. nを3以上の自然数とし、mを2以上の自然数とし、n種類の色成分よりなる体腔内の生体組織のカラー画像を構成する各画素データをn種類よりも少ない前記n種類の色成分のうちのm種類の色成分よりなる画素データに変換する変換手段と、
    m種類の色成分よりなる変換された前記画素データに基づいて対象疾患に関する評価値を前記カラー画像の画素単位で算出する評価値算出手段と、
    算出された前記カラー画像の画素の評価値に基づいて前記対象疾患に関する複数種類の病変の各々の症状のレベルを示す病変指数を計算する病変指数計算手段と、
    を備える、電子内視鏡用プロセッサ。
  2. nを3以上の自然数とし、mを2以上の自然数とし、n種類の色成分よりなる体腔内の生体組織のカラー画像を構成する各画素データをn種類よりも少ないm種類の色成分よりなる画素データに変換する変換手段と、
    m種類の色成分よりなる変換された前記画素データに基づいて対象疾患に関する評価値を前記カラー画像の画素単位で算出する評価値算出手段と、
    算出された前記カラー画像の画素の評価値に基づいて前記対象疾患に関する複数種類の病変の各々の病変指数を計算する病変指数計算手段と、
    を備え、
    前記評価値算出手段は、
    前記m種類の色成分より定義される色空間内において、所定の基準点から見た前記対象疾患に関する基準方向を設定しており、前記カラー画像の各画素について、前記色空間における前記変換された画素データに対応する画素対応点の前記基準点から見た方向の、前記基準方向からのずれの程度に基づいて、前記対象疾患に関する評価値を算出する、
    電子内視鏡用プロセッサ。
  3. nを3以上の自然数とし、mを2以上の自然数とし、n種類の色成分よりなる体腔内の生体組織のカラー画像を構成する各画素データをn種類よりも少ないm種類の色成分よりなる画素データに変換する変換手段と、
    m種類の色成分よりなる変換された前記画素データに基づいて対象疾患に関する評価値を前記カラー画像の画素単位で算出する評価値算出手段と、
    算出された前記カラー画像の画素の評価値に基づいて前記対象疾患に関する複数種類の病変の各々の病変指数を計算する病変指数計算手段と、
    を備え、
    前記評価値算出手段は、
    前記m種類の色成分より定義される色平面内において、所定の基準点を通る、前記対象疾患に関する基準軸を設定しており、前記カラー画像の各画素について、前記基準点と前記変換された画素データに対応する画素対応点とを結ぶ線分と、前記基準軸と、がなす角度θに基づいて、前記対象疾患に関する評価値を算出する、
    電子内視鏡用プロセッサ。
  4. 前記病変指数計算手段は、前記複数種類の病変指数の合計を総病変指数として計算する、請求項1から請求項3の何れか一項に記載の電子内視鏡用プロセッサ。
  5. 前記病変指数計算手段は、
    前記評価値が第一の範囲に収まる値の画素の数に基づいて第一の病変指数を計算し、
    前記評価値が第二の範囲に収まる値の画素の数に基づいて第二の病変指数を計算する、
    請求項1から請求項4の何れか一項に記載の電子内視鏡用プロセッサ。
  6. 前記カラー画像の各画素について、画素値が所定の条件を満たす値であるか否かによって該各画素が有効画素であるか否かを判定する有効画素判定手段を更に備え、
    前記評価値算出手段は、前記有効画素だけを前記評価値を算出する対象として前記評価値を算出する、
    請求項1から請求項5の何れか一項に記載の電子内視鏡用プロセッサ。
  7. 前記有効画素であると判定された画素の数である有効画素数を計算する有効画素計数手段を更に備え、
    前記病変指数計算手段は、前記有効画素における前記評価値に基づいて前記複数種類の病変の各々に該当する画素の数である各病変画素数を計算し、前記複数種類の病変の各々について、前記有効画素数に対する該病変画素数の比率を前記病変指数として計算する、
    請求項に記載の電子内視鏡用プロセッサ。
  8. 前記基準軸を第1基準軸というとき、
    前記評価値算出手段は、前記色平面内において、前記基準点を通る、前記対象疾患が無い健常部位に関する第2基準軸を設定しており、
    前記第1基準軸と前記第2基準軸の交差角度を最大角度として、前記角度θを正規化して前記評価値を算出する、請求項に記載の電子内視鏡用プロセッサ。
  9. 前記変換された画素データのm種類の色成分のいずれも、波長帯域が互いに異なるように設定された色成分である、請求項1から請求項8の何れか一項に記載の電子内視鏡用プロセッサ。
  10. 前記変換された画素データのm種類の色成分は、赤成分、緑成分、及び青成分の少なくとも2つを含む、請求項1から請求項8の何れか一項に記載の電子内視鏡用プロセッサ。
  11. 前記変換された画素データのm種類の色成分は、前記赤成分と、前記緑成分及び前記青成分のいずれか1つの色成分と、を含む、請求項10に記載の電子内視鏡用プロセッサ。
  12. 前記評価値は、体腔内の生体組織の粘膜の炎症の強さの程度を示す値である、請求項1から請求項11の何れか一項に記載の電子内視鏡プロセッサ。
  13. 請求項1から請求項12の何れか一項に記載の電子内視鏡用プロセッサと、
    前記カラー画像のデータを生成して前記電子内視鏡用プロセッサに出力するように構成された電子スコープと、
    前記電子内視鏡用プロセッサにより求められた病変指数を表示するように構成された表示装置と、
    を備える、電子内視鏡システム。
  14. 前記表示装置は、複数種類の前記病変の各々の前記病変指数を、前記カラー画像とともに表示するように構成されている、請求項13に記載の電子内視鏡システム。
JP2018537336A 2016-08-31 2017-08-30 電子内視鏡用プロセッサ及び電子内視鏡システム Active JP6581730B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016169231 2016-08-31
JP2016169231 2016-08-31
PCT/JP2017/031123 WO2018043550A1 (ja) 2016-08-31 2017-08-30 電子内視鏡用プロセッサ及び電子内視鏡システム

Publications (2)

Publication Number Publication Date
JPWO2018043550A1 JPWO2018043550A1 (ja) 2019-02-07
JP6581730B2 true JP6581730B2 (ja) 2019-09-25

Family

ID=61309217

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018537336A Active JP6581730B2 (ja) 2016-08-31 2017-08-30 電子内視鏡用プロセッサ及び電子内視鏡システム

Country Status (5)

Country Link
US (2) US11589777B2 (ja)
JP (1) JP6581730B2 (ja)
CN (1) CN109310301B (ja)
DE (1) DE112017002932T5 (ja)
WO (1) WO2018043550A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6581730B2 (ja) * 2016-08-31 2019-09-25 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡システム
JP6724154B2 (ja) * 2016-10-05 2020-07-15 富士フイルム株式会社 プロセッサ装置及び内視鏡システム並びにプロセッサ装置の作動方法
CN110325098A (zh) 2016-11-28 2019-10-11 适内有限责任公司 具有可分离一次性轴的内窥镜
JP6774550B2 (ja) * 2017-03-03 2020-10-28 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
WO2018211902A1 (ja) * 2017-05-16 2018-11-22 ソニー株式会社 制御装置、制御方法、及びプログラム
JP6926242B2 (ja) * 2018-01-19 2021-08-25 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡システム
US11521319B2 (en) * 2018-02-07 2022-12-06 Hoya Corporation Endoscope system
JP7159577B2 (ja) * 2018-03-20 2022-10-25 ソニーグループ株式会社 内視鏡システム、制御方法、情報処理装置、およびプログラム
CN112351724B (zh) * 2018-09-27 2024-03-01 Hoya株式会社 电子内窥镜系统
CN112351723B (zh) * 2018-09-27 2024-01-05 Hoya株式会社 电子内窥镜系统与数据处理装置
WO2020070877A1 (ja) * 2018-10-05 2020-04-09 国立大学法人大阪大学 画像処理装置、観察装置、画像処理方法及び画像処理プログラム
CN109965829B (zh) * 2019-03-06 2022-05-06 重庆金山医疗技术研究院有限公司 成像优化方法、图像处理装置、成像装置及内窥镜系统
CN112469323B (zh) 2019-03-20 2023-08-18 Hoya株式会社 内窥镜系统
WO2020203705A1 (ja) * 2019-04-02 2020-10-08 Hoya株式会社 電子内視鏡システム及びデータ処理装置
CN110123247B (zh) * 2019-04-09 2021-12-28 苏州西能捷科技发展有限公司 一种鼻窦炎检测系统
CN110123249B (zh) * 2019-04-09 2022-02-01 苏州西能捷科技发展有限公司 一种鼻窦炎检测装置及使用方法
CN110136808B (zh) * 2019-05-23 2022-05-24 安翰科技(武汉)股份有限公司 一种拍摄装置辅助显示系统
CN114554937A (zh) * 2019-12-02 2022-05-27 富士胶片株式会社 内窥镜系统、控制程序及显示方法
USD1018844S1 (en) 2020-01-09 2024-03-19 Adaptivendo Llc Endoscope handle
JP7276513B2 (ja) * 2020-01-10 2023-05-18 日本電気株式会社 内視鏡検査支援装置、内視鏡検査支援方法、及びプログラム
WO2023054366A1 (ja) * 2021-10-01 2023-04-06 富士フイルム株式会社 医療画像処理システム
WO2023187886A1 (ja) * 2022-03-28 2023-10-05 日本電気株式会社 画像処理装置、画像処理方法及び記憶媒体
CN116721175B (zh) * 2023-08-09 2023-10-10 安翰科技(武汉)股份有限公司 一种图像显示方法、图像显示装置以及胶囊内窥镜系统

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5006759B2 (ja) 2007-10-29 2012-08-22 Hoya株式会社 電子内視鏡用信号処理装置および電子内視鏡装置
JP5581237B2 (ja) 2011-01-24 2014-08-27 Hoya株式会社 画像処理装置、電子内視鏡用プロセッサ装置、画像処理装置の作動方法および画像処理用コンピュータプログラム
JP5851160B2 (ja) * 2011-08-31 2016-02-03 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP5355820B2 (ja) * 2011-09-20 2013-11-27 オリンパスメディカルシステムズ株式会社 画像処理装置及び内視鏡システム
JP6027803B2 (ja) 2012-07-17 2016-11-16 Hoya株式会社 画像処理装置及び内視鏡装置
JP6097629B2 (ja) * 2013-04-26 2017-03-15 Hoya株式会社 病変評価情報生成装置
EP3127467B1 (en) * 2014-03-31 2018-03-28 Fujifilm Corporation Medical image processing device, operation method thereof, and endoscope system
US20160100789A1 (en) * 2014-10-13 2016-04-14 National Central University Computer-aided diagnosis system and computer-aided diagnosis method
JP6367683B2 (ja) * 2014-10-21 2018-08-01 富士フイルム株式会社 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP6581730B2 (ja) * 2016-08-31 2019-09-25 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡システム

Also Published As

Publication number Publication date
CN109310301A (zh) 2019-02-05
DE112017002932T5 (de) 2019-02-21
US11701032B2 (en) 2023-07-18
US20190192048A1 (en) 2019-06-27
WO2018043550A1 (ja) 2018-03-08
JPWO2018043550A1 (ja) 2019-02-07
US11589777B2 (en) 2023-02-28
CN109310301B (zh) 2021-07-20
US20220296123A1 (en) 2022-09-22

Similar Documents

Publication Publication Date Title
JP6581730B2 (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JP6027803B2 (ja) 画像処理装置及び内視鏡装置
JP6067264B2 (ja) 画像処理装置及び内視鏡装置
JP6125740B1 (ja) 内視鏡システム及び評価値計算装置
CN112351723B (zh) 电子内窥镜系统与数据处理装置
JP6427280B2 (ja) 補正データ生成方法及び補正データ生成装置
CN112351724A (zh) 电子内窥镜系统
JP6270967B2 (ja) 画像処理装置及び内視鏡装置
JP6433634B2 (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JP6591688B2 (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JP6877672B2 (ja) 電子内視鏡システム及びデータ処理装置
CN112930136B (zh) 电子内窥镜系统与数据处理装置
WO2022064987A1 (ja) 内視鏡用プロセッサ及び内視鏡システム
JP6926242B2 (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JP2022053845A (ja) 内視鏡用プロセッサ及び内視鏡システム
JP6420358B2 (ja) 内視鏡システム及び評価値計算装置
JP2018023497A (ja) 色補正用治具及び電子内視鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190830

R150 Certificate of patent or registration of utility model

Ref document number: 6581730

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250