JP7346602B2 - 内視鏡システム、内視鏡プロセッサ、内視鏡プロセッサの作動方法及び内視鏡プロセッサの作動プログラム - Google Patents

内視鏡システム、内視鏡プロセッサ、内視鏡プロセッサの作動方法及び内視鏡プロセッサの作動プログラム Download PDF

Info

Publication number
JP7346602B2
JP7346602B2 JP2021572155A JP2021572155A JP7346602B2 JP 7346602 B2 JP7346602 B2 JP 7346602B2 JP 2021572155 A JP2021572155 A JP 2021572155A JP 2021572155 A JP2021572155 A JP 2021572155A JP 7346602 B2 JP7346602 B2 JP 7346602B2
Authority
JP
Japan
Prior art keywords
image
light
wavelength band
band
unevenness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021572155A
Other languages
English (en)
Other versions
JPWO2021149140A5 (ja
JPWO2021149140A1 (ja
Inventor
昌士 弘田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2021149140A1 publication Critical patent/JPWO2021149140A1/ja
Publication of JPWO2021149140A5 publication Critical patent/JPWO2021149140A5/ja
Application granted granted Critical
Publication of JP7346602B2 publication Critical patent/JP7346602B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Veterinary Medicine (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Endoscopes (AREA)

Description

本発明は、内視鏡システム内視鏡プロセッサ、内視鏡プロセッサの作動方法及び内視鏡プロセッサの作動プログラム等に関する。
内視鏡装置において、特定部位を発見又は診断しやすくするために画像処理により特定部位を抑制又は強調する手法が知られている。特許文献1には、生体における2種類の異なる構造を抑制又は強調する手法が開示されている。具体的には、特許文献1の手法は、周波数帯域の異なる2種のフィルタ処理を紫色狭帯域光の画像に施すことで、腺管と血管の2種類の構造情報を抽出し、それらを抑制又は強調する。
特開2014-212925号公報
例えばNBI(Narrow Band Imaging)による内視鏡観察では、通常光による内視鏡観察と比較して平坦型の病変を発見し易いが、凹凸情報を伴う粘膜の質感が分かり難いという課題がある。質感は病変が癌であるか否かを判断する指標の一つであり、病変診断にとって重要な情報である。
上述の特許文献1では紫色狭帯域光の画像から腺管と血管の構造情報を抽出しているが、紫色狭帯域光の画像は質感情報の抽出対象としては適していない。具体的には、紫色狭帯域光の画像では血管による吸光変化が大きいため、病変部において血管新生等による表層血管が高コントラストに写り、質感の情報が埋もれやすい。また、紫色狭帯域光の画像において、質感に関係する凹凸構造と血管とが異なる周波数帯域になるとは限らない。このため、質感情報を抽出する際に血管情報が含まれる可能性がある。
本発明の一態様は、緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域を含む複数の波長帯域の光を、照明光として発生する光源部と、前記照明光が照射された生体からの戻り光を撮像して撮像信号を出力する撮像部と、前記第1波長帯域の光による第1画像を前記撮像信号から取得し、前記第1画像から粘膜の凹凸変化情報を検出し、前記撮像信号による撮像画像において前記凹凸変化情報に基づいて前記粘膜の凹凸変化を強調することで表示画像を生成する処理部と、を含む内視鏡装置に関係する。
また本発明の他の態様は、緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域を含む複数の波長帯域の光を、照明光として光源部に発生させる処理部と、前記照明光が照射された生体からの戻り光を撮像した撮像部から撮像信号を受信する撮像信号受信部と、を含み、前記処理部は、前記第1波長帯域の光による第1画像を前記撮像信号から取得し、前記第1画像から粘膜の凹凸変化情報を検出し、前記撮像信号による撮像画像において前記凹凸変化情報に基づいて前記粘膜の凹凸変化を強調することで表示画像を生成する制御装置に関係する。
また本発明の更に他の態様は、緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域を含む複数の波長帯域の光を、照明光として発生し、前記照明光が照射された生体からの戻り光を撮像して撮像信号を出力し、前記第1波長帯域の光による第1画像を前記撮像信号から取得し、前記第1画像から粘膜の凹凸変化情報を検出し、前記撮像信号による撮像画像において前記凹凸変化情報に基づいて前記粘膜の凹凸変化を強調することで表示画像を生成する内視鏡装置の作動方法に関係する。
また本発明の更に他の態様は、緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域を含む複数の波長帯域の光を、照明光として光源部に発生させ、前記照明光が照射された生体からの戻り光を撮像した撮像部から撮像信号を受信し、前記第1波長帯域の光による第1画像を前記撮像信号から取得し、前記第1画像から粘膜の凹凸変化情報を検出し、前記撮像信号による撮像画像において前記凹凸変化情報に基づいて前記粘膜の凹凸変化を強調することで表示画像を生成するステップを、コンピュータに実行させるプログラムに関係する。
内視鏡装置の構成例。 光源部の詳細構成例。 光源部が発生する照明光の波長特性例。 第1実施形態における処理部の構成例。 第1実施形態における画像処理の手順を説明する図。 第2実施形態における画像処理の手順を説明する図。 第3実施形態における処理部の構成例。 第3実施形態における画像処理の手順を説明する図。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.内視鏡装置
図1は、内視鏡装置の構成例である。内視鏡装置は、撮像部200と制御装置300と表示部400と外部I/F部500と光源部100とを含む。内視鏡装置としては、例えば泌尿器又は消化管等に用いられる軟性鏡や、腹腔鏡等に用いられる硬性鏡を想定できるが、これらに限定されない。
光源部100は、照明光を発生する装置である。光源部100を光源装置とも呼ぶ。光源部100は、照明光として白色光及び特殊光を発生する。具体的には、光源部100はWLI(White Light Imaging)モードにおいて白色光を発生し、特殊光モードにおいて特殊光を発生する。特殊光モードは、例えば紫色狭帯域光及び緑色狭帯域光を照明光とするNBI(Narrow Band Imaging)モードである。照明光の発光タイミングは、複数の光源を同時に発光させる同時式、又は複数の光源を順次に発光させる面順次式のいずれであってもよい。
撮像部200は、体内へ挿入されると共に被写体を撮像する部分である。撮像部200をスコープとも呼ぶ。撮像部200は、ライトガイド210と照明レンズ220と対物レンズ230と撮像素子240とを含む。撮像素子240はイメージセンサとも呼ぶ。撮像部200は不図示のコネクタを有し、そのコネクタにより制御装置300に対して着脱される。
ライトガイド210は、光源部100からの照明光を、撮像部200の先端まで導光する。照明レンズ220は、ライトガイド210により導光された照明光を被写体へ照射する。本実施形態において被写体は生体である。例えば泌尿器用の内視鏡装置において、被写体は、膀胱等の粘膜である。或いは、上部消化管用の内視鏡装置において、被写体は、胃又は食道等の粘膜である。被写体からの反射光は、対物レンズ230へ入射する。対物レンズ230によって被写体像が結像され、撮像素子240が、その被写体像を撮像する。
撮像素子240は、照明光が照射された被写体からの戻り光を撮像して撮像信号を出力する。撮像素子240は、各画素にカラーフィルタが設けられたカラーイメージセンサ、又はモノクロイメージセンサのいずれであってもよい。カラーイメージセンサは、例えばベイヤ配列のカラーフィルタを有するベイヤ型イメージセンサ、或いは補色フィルタを有する補色イメージセンサである。
撮像部200はA/D変換回路を含む。A/D変換回路は、撮像素子240からのアナログ撮像信号をデジタル撮像信号にA/D変換する。A/D変換回路は、例えば撮像素子240に内蔵される。
制御装置300は、画像処理を含む信号処理を行う。また制御装置300は、内視鏡装置の各部を制御する。制御装置300を処理装置又はプロセッサ部とも呼ぶ。制御装置300は、処理部310と撮像信号受信部330とを含む。処理部310は処理回路又はプロセッサとも呼ぶ。
撮像信号受信部330は、撮像素子240からの撮像信号を受信する。撮像信号受信部330は、例えば撮像部200と制御装置300を接続するコネクタ、又は撮像信号を受信するインターフェース回路、又は撮像信号から画像データを生成する前処理回路等である。なお撮像信号受信部330と処理部310は別個のハードウェアにより実現されてもよいし、一体のハードウェアにより実現されてもよい。
処理部310は、撮像信号受信部330が受信した撮像信号に基づいて画像処理を行うことで、表示画像を生成し、その表示画像を表示部400へ出力する。また処理部310は、内視鏡装置の各部を制御する。
具体的には、処理部310は、光源の発光タイミングと撮像素子240の撮像タイミングを制御する。例えばユーザが外部I/F部500を操作してWLIモードと特殊光モードを切り替える。例えば特殊光モードが設定された場合、処理部310は、特殊光の発光を光源部100に指示し、撮像信号から特殊光画像を生成し、その特殊光画像を表示部400に出力する。WLIモードが設定された場合、処理部310は、白色光の発光を光源部100に指示し、撮像信号から白色光画像を生成し、その白色光画像を表示部400に出力する。
表示部400は、処理部310からの表示画像を表示する装置である。表示部400は、例えば液晶表示装置等である。外部I/F部500は、ユーザから内視鏡装置に対する操作を受け付ける装置である。例えば、外部I/F部500は、ボタン、ダイヤル、ポインティングデバイス、タッチパネル、又はフットスイッチ等である。
2.光源部
以下、特殊光観察がNBI観察である場合を例に説明するが、本実施形態の手法はNBI以外の特殊光観察又は白色光観察にも適用できる。即ち、粘膜の質感が視認しにくい場合、或いは粘膜の質感を強調したい場合に、本実施形態と同様の手法を適用できる。
図2は、光源部100の詳細構成例である。光源部100は、駆動部110と光源LDV、LDG、LDR、LDWと合波部120とを含む。
駆動部110には、各光源の発光タイミング及び光量を指示する制御信号が光源制御部312から入力される。図4で後述するように光源制御部312は処理部310に含まれる。駆動部110は、光源制御部312からの制御信号に基づいて光源LDV、LDG、LDR、LDWを駆動する。例えば、駆動部110は駆動電流を光源に供給することで光源を発光させる。
光源LDV、LDG、LDR、LDWの各々は、所定の波長特性を有する光を発生する。光源LDRは第1波長帯域の光を発生し、光源LDVは第2波長帯域の光を発生し、光源LDGは第3波長帯域の光を発生する。第2、第3波長帯域の光は狭帯域光である。狭帯域光の半値幅は例えば数nm~数10nmである。光源LDWは白色光を発生する。白色光は可視光帯域において連続スペクトルを有する。或いは、白色光は、複数帯域の光によって構成されてもよい。各光源は例えばLED又はレーザー等である。或いは、白色光源であるLDWはキセノンランプ等であってもよい。また光源LDV、LDG、LDRは、白色光源と、各狭帯域光を通過させる光学フィルタとによって実現されてもよい。
合波部120は、光源LDV、LDG、LDR、LDWが射出する光を合波し、その合波された光をライトガイド210へ入射させる。合波部120は、例えばダイクロイックミラーとレンズにより構成される。或いは合波部120は、複数の入射端から入射された光を1つの出射端に出射する光ファイバであってもよい。
図3は、光源部100が発生する照明光の波長特性例である。HBCは、ヘモグロビン吸光係数の波長特性である。
光源部100は、複数の波長帯域の光を照明光として発生する。複数の波長帯域は、緑色帯域に比べてヘモグロビンの吸光が小さい波長帯域NRを含む。NRを第1波長帯域とする。緑色帯域は、可視光帯域を三原色に分割したときの緑色帯域に相当し、例えば500nm~570nmである。
具体的には、波長帯域NRは、赤色帯域に属する。赤色帯域は、可視光帯域を三原色に分割したときの赤色帯域に相当し、例えば570nm~700nmである。より具体的には、波長帯域NRは、ヘモグロビンの吸光係数が十分小さい波長範囲に属し、例えば600nm以上の波長範囲に属し、より望ましくは630nm以上の波長範囲に属する。波長帯域NRは、例えば630nm~650nmである。なお、波長帯域NRの幅は20nmに限定されず、数nm~百数十nmであってよい。
また照明光の複数の波長帯域は、波長帯域NVを含む。NVを第2波長帯域とする。波長帯域NVは紫色帯域に属しており、波長帯域NVの光は、NBI(Narrow Band Imaging)で用いられる紫色狭帯域光である。紫色帯域は例えば400nm~430nmである。
具体的には、波長帯域NVのピーク波長は415nmであり、吸光係数HBCにおける極大に相当する。波長帯域NVは狭帯域であり、その幅は、例えば数nm~数10nmである。なお、波長帯域NVのピーク波長は、吸光係数HBCにおける極大を含む所定波長範囲にあればよく、例えば400nm~430nmの範囲内であればよい。
また照明光の複数の波長帯域は、波長帯域NGを含む。NGを第3波長帯域とする。波長帯域NGの光は、NBIで用いられる緑色狭帯域光である。
具体的には、波長帯域NGのピーク波長は540nmである。波長帯域NGは狭帯域であり、その幅は、例えば数nm~数10nmである。なお、波長帯域NGのピーク波長は、緑色帯域に属していればよく、例えば530nm~550nmの範囲内であればよい。
波長帯域NV、NGの光量比は任意であってよい。例えば、波長帯域NV、NGの光量比はNBIに適する光量比に設定される。また波長帯域NV、NRの光量比、及び波長帯域NG、NRの光量比は任意であってよい。これらの光量比は、後述する質感強調に適する光量比に設定されればよい。
なお、上記ではNBIと波長帯域NRの光とを組み合わせているが、これに限定されず、白色光と波長帯域NRの光とを組み合わせてもよい。また、上記では波長帯域NRの光として630nm~650nmの光を用いているが、これに限定されず、例えば白色光をRGBのLEDで発生する場合において、その赤色光を波長帯域NRの光として用いてもよい。
以上の本実施形態によれば、光源部100は、緑色帯域に比べてヘモグロビンの吸光が小さい波長帯域NRを含む複数の波長帯域の光を、発生する。波長帯域NRではヘモグロビンの吸光が小さいので、波長帯域NRの光により撮像された画像において、血管情報が抑制されると共に、相対的に質感の情報が多くなる。即ち、血管情報と分離して質感の情報を取得することができる。そして、この質感の情報を用いることで、内視鏡画像において質感の視認性を向上することが可能となる。
例えばNBIにおいて粘膜表層の血管を高コントラストに観察できるが、白色光観察に比べて粘膜の質感が視認しにくい傾向がある。従来は、白色光観察とNBIを切り替えることで粘膜の質感を確認していたが、本実施形態では、NBI画像において粘膜の質感を強調することが可能となる。なお後述するように、白色光観察においても、波長帯域NRの光を用いることで粘膜の質感を強調することが可能である。
以下、質感強調手法の詳細について、処理部310の動作説明と共に説明する。
3.第1実施形態
図4は、第1実施形態における処理部310の構成例である。処理部310は、凹凸検出部311と光源制御部312と強調画像生成部313とを含む。なお以下では被写体が膀胱である場合を例に説明するが、被写体は他の臓器又は組織であってもよい。
光源制御部312は、光源部100に含まれる光源LDV、LDG、LDR、LDWの発光タイミング及び光量を制御する。
具体的には、ユーザが外部I/F部500を介してWLIモードを設定したとき、外部I/F部500からのモード設定信号に基づいて光源制御部312は光源LDWを発光させる。また、ユーザが外部I/F部500を介してNBIモードを設定したとき、外部I/F部500からのモード設定信号に基づいて光源制御部312は光源LDV、LDG、LDRを発光させる。第1実施形態では、NBIモードが設定されたものとする。
凹凸検出部311は、波長帯域NRの光による第1画像を撮像信号から取得し、その第1画像から粘膜の凹凸変化情報を検出する。強調画像生成部313は、撮像信号による撮像画像において凹凸変化情報に基づいて粘膜の凹凸変化を強調することで表示画像を生成する。
このようにすれば、波長帯域NRにおいてヘモグロビンの吸光が小さいので、その波長帯域NRの光による第1画像では、血管情報が抑制されると共に相対的に質感の情報が多くなる。そして、この第1画像から粘膜の凹凸変化情報を検出することで、NBIの撮像画像において粘膜の凹凸変化を強調できる。これにより、NBI観察において粘膜表層血管の観察と粘膜質感の観察とを両立できる。また、第1画像では血管情報から分離して質感の情報が得られるので、画像における血管と質感の周波数帯域が重複するような場合であっても、質感のみを適切に強調できる。
ここで、第1画像は、撮像信号のうち波長帯域NRに対応する信号から生成される。具体的には、ベイヤ型カラーイメージセンサを用いた場合、波長帯域NRはR画素により撮像される。この場合、凹凸検出部311は、撮像信号のR信号から第1画像を取得する。或いはモノクロイメージセンサを用いた面順次方式では、凹凸検出部311は、光源LDRが発光したときの撮像信号から第1画像を取得する。
粘膜の凹凸変化情報とは、第1画像に含まれる情報のうち粘膜の凹凸変化に対応した情報であり、視覚的な質感に影響する情報である。例えば、所望の凹凸変化よりも大局的な形状情報が除かれたものである。大局的な形状とは、粘膜表面の微細な構造ではなく、粘膜全体のうねりやヒダなどのことである。具体的には、粘膜の凹凸変化は、病変に伴って生じた粘膜表面の微細構造である。例えば膀胱粘膜に発生したガンにおいて、粘膜細胞に細かい剥がれが生じるが、その剥がれによる凹凸が粘膜の質感に影響を与える。
図4に示すように、凹凸検出部311は高周波成分算出部314を含む。また強調画像生成部313は撮像画像生成部315と合成部316とを含む。以下、図5を用いて、第1実施形態における画像処理の手順を説明する。
図3で説明したように、第1画像を取得するための波長帯域NRは、赤色帯域に属する。即ち、図5において、R画像IMRが第1画像に相当する。高周波成分算出部314は、R画像IMRから高周波成分を算出することで、凹凸変化情報IMTXを検出する。
具体的には、高周波成分算出部314は、R画像IMRに対してハイパスフィルター処理又はバンドパスフィルター処理を行うことで高周波成分を算出する。高周波成分は、R画像IMRの各画素に対して算出される。ハイパスフィルター処理又はバンドパスフィルター処理の通過帯域は、所望の質感に関連する凹凸情報の周波数帯域を含むように設定される。この通過帯域は、粘膜表層血管の周波数帯域を含んでいてもよい。
被写体からの戻り光には、被写体の表面で反射された光と、被写体内部において散乱された光とが含まれている。赤色帯域では、緑色帯域に比べてヘモグロビンの吸光係数が小さい。このような赤色帯域の光は、被写体内部において血管に吸収されにくいので、R画像IMRは被写体表面の凹凸変化情報を相対的に多く含むことになる。本実施形態では、この凹凸変化情報を用いることで粘膜の質感を強調できる。なお、凹凸検出部311が凹凸変化情報を検出する手法は、上述した方法でR画像IMRから高周波成分を算出する手法に限定されない。例えば、凹凸検出部311は、公知のモフォロジー処理等によって粘膜表面の凹凸変化情報を検出してもよい。
撮像画像生成部315は、複数の波長帯域の光による複数の画像を用いて撮像画像を生成する。合成部316は、複数の画像に含まれるV画像IMVに対して凹凸変化情報IMTXを合成することで、凹凸変化を強調する。
具体的には撮像画像生成部315は、V画像IMVとG画像IMGとを撮像画像として生成する。V画像IMVは、波長帯域NVの光による第2画像であり、G画像IMGは、波長帯域NGの光による第3画像である。撮像画像を、強調処理のベースとなるベース画像とも呼ぶ。合成部316は、各画素においてV画像IMVと凹凸変化情報IMTXとを所定比率で加算することで、強調後のV画像IMVTXを生成する。
このようにすれば、R画像IMRとは異なる画像であるV画像IMVに対して凹凸変化情報IMTXを合成することで、V画像IMVの凹凸変化を強調できる。そして、V画像IMVを含む複数の画像を用いて撮像画像を生成することで、質感が強調された表示画像が得られる。
なお、上記ではV画像IMVを第2画像としたが、第2画像は、波長帯域NV以外の第2波長帯域の光による画像であればよい。後述するように、白色光観察における質感強調では、第2画像は、白色光画像におけるG画像である。
合成部316は、強調後のV画像IMVTXを、表示画像のGチャンネル及びBチャンネルに入力する。また合成部316は、G画像IMGを表示画像のRチャンネルに入力する。
このようにすれば、表示画像のGチャンネルに入力されるV画像の凹凸変化が強調される。Gチャンネルは輝度に対する寄与が大きいため、輝度における凹凸変化が強調されることになる。これにより、粘膜の質感を効果的に強調できる。またV画像をG、Bチャンネルに入力し、G画像をRチャンネルに入力することで、NBI画像を構成できる。即ち第1実施形態によれば、NBI画像における粘膜質感の視認性を向上できる。
図5に示す病変部は、例えば膀胱粘膜に発生したガンである。膀胱粘膜に発生したガンでは表層血管が密集しているため、NBI画像において周囲の正常粘膜とは色又は輝度が異なる領域として見える。このガンの領域では紫色狭帯域光の吸収が大きいため、表示画像において輝度成分であるGチャンネルの信号値が小さくなり、粘膜の質感が視認しにくい。第1実施形態によれば、V画像、即ち表示画像のGチャンネルに凹凸変化情報が合成されるので、粘膜の質感を視認しやすくなる。これにより、NBIによる膀胱観察において、ヘモグロビン吸光による病変の視認性と、質感による病変の視認性とを、両立できる。
4.第2実施形態
図6は、第2実施形態における画像処理の手順を説明する図である。なお第2実施形態における処理部310の構成は図4の第1実施形態と同様である。
第2実施形態では、照明光は白色光である。即ち、光源制御部312は、光源LDWを発光させる。また第2実施形態では、白色光における赤色帯域、緑色帯域、青色帯域が、それぞれ第1波長帯域、第2波長帯域、第3波長帯域である。
撮像画像生成部315は、撮像信号から白色光画像を生成する。具体的には、撮像画像生成部315は、撮像信号のRチャンネルからR画像WIMRを生成し、撮像信号のGチャンネルからG画像WIMGを生成し、撮像信号のBチャンネルからB画像WIMBを生成する。R画像WIMRは赤色帯域による第1画像であり、G画像WIMGは緑色帯域による第2画像であり、B画像WIMBは青色帯域による第3画像である。
凹凸検出部311は、白色光画像である撮像画像のRチャンネルから凹凸変化情報WIMTXを検出する。
具体的には、高周波成分算出部314は、R画像WIMRから高周波成分を算出することで、凹凸変化情報WIMTXを検出する。高周波成分算出部314は、R画像WIMRに対してハイパスフィルター処理又はバンドパスフィルター処理を行うことで高周波成分を算出する。高周波成分は、R画像WIMRの各画素に対して算出される。ハイパスフィルター処理又はバンドパスフィルター処理の通過帯域は、所望の質感に関連する凹凸情報の周波数帯域を含むように設定される。この通過帯域は、粘膜表層血管の周波数帯域を含んでいてもよい。
合成部316は、撮像画像のGチャンネルに凹凸変化情報WIMTXを合成することで凹凸変化を強調する。
具体的には、合成部316は、各画素においてG画像WIMGと凹凸変化情報WIMTXとを所定比率で加算することで、強調後のG画像WIMGTXを生成する。合成部316は、強調後のG画像WIMGTXを、表示画像のGチャンネルに入力する。また合成部316は、R画像WIMRを表示画像のRチャンネルに入力し、B画像WIMBを表示画像のBチャンネルに入力する。
第2実施形態によれば、白色光観察において粘膜質感の視認性を向上できる。上述したように、赤色帯域では、緑色帯域に比べてヘモグロビンの吸光係数が小さいため、被写体内部において血管に吸収されにくい。このため白色光画像におけるR画像WIMRは、被写体表面の凹凸変化情報を相対的に多く含むことになる。本実施形態では、この凹凸変化情報を用いることで粘膜の質感を強調できる。
また第2実施形態によれば、表示画像のGチャンネルに入力されるG画像WIMGの凹凸変化が強調される。これにより、輝度における凹凸変化が強調されるので、粘膜の質感を効果的に強調できる。
図6に示す病変部は、図5と同様に、膀胱粘膜に発生したガンである。白色光観察ではNBI観察に比べると、膀胱粘膜に発生したガンにおける粘膜質感の視認性が高い。しかしながら、輝度成分であるGチャンネルではヘモグロビンの吸光が大きいため、粘膜の質感情報が相対的に抑制されている可能性がある。第2実施形態によれば、ヘモグロビンの吸光が小さいRチャンネルの凹凸変化情報を用いてGチャンネルの質感を強調できるので、白色光観察において更に粘膜質感の視認性を高めることができる。
5.第3実施形態
図7は、第3実施形態における処理部310の構成例である。第3実施形態では、強調画像生成部313が血管像抑制部317を更に含む。なお以下では第1実施形態と異なる部分を主に説明し、第1実施形態と同じ部分については適宜に説明を省略する。
図8は、第3実施形態における画像処理の手順を説明する図である。第3実施形態ではNBIモードが設定される。即ち、光源制御部312は光源LDV、LDG、LDRを発光させる。紫色狭帯域光、緑色狭帯域光、赤色光を発生させる。
血管像抑制部317は、撮像画像における血管像を抑制する。具体的には、血管像抑制部317は、血管像を含むV画像IMVの高周波成分を算出し、その高周波成分をV画像IMVから減算することで、血管像を抑制する。血管像抑制後のV画像をIMVLSとする。
具体的には、血管像抑制部317は、V画像IMVに対してハイパスフィルター処理又はバンドパスフィルター処理を行うことで高周波成分を算出する。高周波成分は、V画像IMVの各画素に対して算出される。ハイパスフィルター処理又はバンドパスフィルター処理の通過帯域は、粘膜表層血管の周波数帯域を含むように設定される。
合成部316は、血管像抑制後のV画像IMVLSと、R画像IMRから抽出された凹凸変化情報IMTXとを加算し、質感強調後の画像IMVLTを出力する。合成部316は、質感強調後の画像IMVLTを表示画像のGチャンネル及びBチャンネルに入力し、G画像IMGを表示画像のRチャンネルに入力する。
上述したように、膀胱粘膜に発生したガンは、NBI画像において周囲の正常粘膜とは色又は輝度が異なる領域として見える。一方、正常粘膜には、ガンに比べると低い密度で表層血管が存在しており、各血管が分離した状態となっている。このためV画像IMVから高周波成分を抽出することで、正常粘膜における表層血管の情報を抽出できる。この表層血管の情報をV画像IMVから減算することで、V画像IMVにおいてガンの領域を残しつつ正常粘膜の表層血管を抑制できる。これにより、膀胱のNBI観察において不要な情報である微細血管を抑制できるので、病変部における粘膜質感の視認性を更に向上できる。
なお、処理部310を含む制御装置300は以下のように構成されてもよい。即ち、制御装置300は、情報を記憶するメモリと、メモリに記憶された情報に基づいて動作するプロセッサと、を含む。情報は、例えばプログラムと各種のデータ等である。プロセッサは、ハードウェアを含む。
プロセッサは、緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域を含む複数の波長帯域の光を、照明光として光源部100に発生させる。プロセッサは、照明光が照射された生体からの戻り光を撮像した撮像部200から撮像信号を受信する。プロセッサは、第1波長帯域の光による第1画像を撮像信号から取得し、その第1画像から粘膜の凹凸変化情報を検出する。そしてプロセッサは、撮像信号による撮像画像において凹凸変化情報に基づいて粘膜の凹凸変化を強調することで表示画像を生成する。
プロセッサは、例えば各部の機能が個別のハードウェアで実現されてもよいし、或いは各部の機能が一体のハードウェアで実現されてもよい。例えば、プロセッサはハードウェアを含み、そのハードウェアは、デジタル信号を処理する回路及びアナログ信号を処理する回路の少なくとも一方を含むことができる。例えば、プロセッサは、回路基板に実装された1又は複数の回路装置や、1又は複数の回路素子で構成することができる。1又は複数の回路装置は例えばIC等である。1又は複数の回路素子は例えば抵抗、キャパシター等である。プロセッサは、例えばCPU(Central Processing Unit)であってもよい。ただし、プロセッサはCPUに限定されるものではなく、GPU(Graphics Processing Unit)、或いはDSP(Digital Signal Processor)等、各種のプロセッサを用いることが可能である。またプロセッサはASIC(Application Specific Integrated Circuit)又はFPGA(Field Programmable Gate Array)等の集積回路装置でもよい。またプロセッサは、アナログ信号を処理するアンプ回路やフィルタ回路等を含んでもよい。
メモリは、SRAM、DRAMなどの半導体メモリであってもよいし、レジスターであってもよいし、ハードディスク装置等の磁気記憶装置であってもよいし、光学ディスク装置等の光学式記憶装置であってもよい。例えば、メモリはコンピュータにより読み取り可能な命令を格納しており、当該命令がプロセッサにより実行されることで、処理部310の機能が処理として実現されることになる。ここでの命令は、プログラムを構成する命令セットの命令でもよいし、プロセッサのハードウェア回路に対して動作を指示する命令であってもよい。
また、処理部310が行う処理を実現するプログラムは、例えばコンピュータにより読み取り可能な媒体である情報記憶媒体に格納できる。情報記憶媒体は、例えば光ディスク、メモリカード、HDD、或いは半導体メモリ(ROM)などにより実現できる。半導体メモリは例えばROMである。処理部310は、情報記憶媒体に格納されるプログラムとデータに基づいて本実施形態の種々の処理を行う。即ち情報記憶媒体には、処理部310としてコンピュータを機能させるためのプログラムが記憶される。コンピュータは、入力装置、及び処理部、記憶部、出力部を備える装置である。
以上、本発明を適用した実施形態及びその変形例について説明したが、本発明は、各実施形態やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施形態や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。更に、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。また、明細書又は図面において、少なくとも一度、より広義又は同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。
100 光源部、110 駆動部、120 合波部、200 撮像部、210 ライトガイド、220 照明レンズ、230 対物レンズ、240 撮像素子、300 制御装置、310 処理部、311 凹凸検出部、312 光源制御部、313 強調画像生成部、314 高周波成分算出部、315 撮像画像生成部、316 合成部、317 血管像抑制部、330 撮像信号受信部、400 表示部、500 外部I/F部、HBC ヘモグロビンの吸光係数、IMG G画像、IMR R画像、IMTX 凹凸変化情報、IMV V画像、LDG,LDR,LDV,LDW 光源、NG,NR,NV 波長帯域、WIMB B画像、WIMG G画像、WIMR R画像、WIMTX 凹凸変化情報

Claims (12)

  1. 緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域の光、および前記第1波長帯域とは異なる第2波長帯域の光を、照明光として発生する光源部と、
    り光を撮像して撮像信号を出力する撮像部と、
    前記第1波長帯域の光による第1画像を前記撮像信号から取得し、前記第1画像から粘膜の凹凸変化情報を検出する処理部と、
    を含み、
    前記処理部は、
    前記第2波長帯域の光による第2画像を前記撮像信号から取得し、前記第2画像に対して前記凹凸変化情報を合成することで、前記第2画像内の凹凸部分が強調された表示画像を生成する内視鏡システム
  2. 請求項1において、
    前記第1波長帯域は、赤色帯域に属することを特徴とする内視鏡システム
  3. 請求項1において、
    前記処理部は、
    前記第1画像から高周波成分を算出することで、前記凹凸変化情報を検出することを特徴とする内視鏡システム
  4. 請求項において、
    前記処理部は、
    強調後の前記第2画像を、前記表示画像のGチャンネルに入力することを特徴とする内視鏡システム
  5. 請求項1において、
    前記処理部は、
    前記第2画像における血管像を抑制することを特徴とする内視鏡システム
  6. 請求項において、
    前記処理部は、
    記血管像を含む前記第2画像の高周波成分を算出し、前記第2画像から前記高周波成分を減算することで、前記血管像を抑制することを特徴とする内視鏡システム
  7. 請求項1において、
    前記第2波長帯域は、紫色帯域に属するとを特徴とする内視鏡システム
  8. 請求項において、
    前記第1波長帯域は、赤色帯域に属し、
    前記照明光は、前記緑色帯域に属する第3波長帯域の光を含み、
    前記処理部は、
    前記第1画像から高周波成分を算出することで前記凹凸変化情報を検出し、前記第2波長帯域の光による前記第2画像に前記凹凸変化情報を合成することで前記凹凸部分を強調し、強調後の前記第2画像を前記表示画像のBチャンネル及びGチャンネルに入力し、前記第3波長帯域の光による第3画像を前記表示画像のRチャンネルに入力することを特徴とする内視鏡システム
  9. 請求項1において、
    前記照明光は、白色光であり、
    前記第1波長帯域は、前記白色光における赤色帯域であり、
    前記第2波長帯域は、前記白色光における前記緑色帯域及び青色帯域を含み、
    前記処理部は、
    前記白色光による白色光画像Rチャンネルから前記凹凸変化情報を検出し、前記白色光画像のGチャンネルに前記凹凸変化情報を合成することで前記凹凸部分を強調することを特徴とする内視鏡システム
  10. 緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域の光、および前記第1波長帯域とは異なる第2波長帯域の光を、照明光として光源部に発生させる処理部と、
    り光を撮像した撮像部から撮像信号を受信する撮像信号受信部と、
    を含み、
    前記処理部は、
    前記第1波長帯域の光による第1画像を前記撮像信号から取得し、前記第1画像から粘膜の凹凸変化情報を検出し、前記撮像信号による撮像画像において前記凹凸変化情報に基づいて前記粘膜の凹凸変化を強調することで表示画像を生成し、
    前記第1波長帯域以外の前記第2波長帯域の光による第2画像を前記撮像信号から取得し、前記第2画像に対して前記凹凸変化情報を合成することで前記凹凸変化を強調することを特徴とする内視鏡プロセッサ
  11. 光源部に、緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域の光、および前記第1波長帯域とは異なる第2波長帯域の光を、照明光として発生させ
    撮像部に、戻り光を撮像して撮像信号を出力させ
    処理部に、前記第1波長帯域の光による第1画像を前記撮像信号から取得し、前記第1画像から粘膜の凹凸変化情報を検出させて
    前記第2波長帯域の光による第2画像を前記撮像信号から取得し、前記第2画像に対して前記凹凸変化情報を合成することで、第2画像内の凹凸部分が強調された表示画像を生成させる内視鏡プロセッサの作動方法。
  12. 内視鏡プロセッサに、
    緑色帯域に比べてヘモグロビンの吸光が小さい第1波長帯域の光、および前記第1波長帯域とは異なる第2波長帯域の光を、照射した際の戻り光から撮像信号を受信させ
    前記第1波長帯域の光による第1画像を前記撮像信号から取得させ
    前記第1画像から粘膜の凹凸変化情報を検出させ
    前記第2波長帯域の光による第2画像を前記撮像信号から取得させ、
    前記第2画像に対して前記凹凸変化情報を合成させることで、第2画像内の凹凸部分が強調された表示画像を生成させる内視鏡プロセッサの作動プログラム。
JP2021572155A 2020-01-21 2020-01-21 内視鏡システム、内視鏡プロセッサ、内視鏡プロセッサの作動方法及び内視鏡プロセッサの作動プログラム Active JP7346602B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/001891 WO2021149140A1 (ja) 2020-01-21 2020-01-21 内視鏡装置、制御装置、内視鏡装置の作動方法及びプログラム

Publications (3)

Publication Number Publication Date
JPWO2021149140A1 JPWO2021149140A1 (ja) 2021-07-29
JPWO2021149140A5 JPWO2021149140A5 (ja) 2022-09-09
JP7346602B2 true JP7346602B2 (ja) 2023-09-19

Family

ID=76992100

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021572155A Active JP7346602B2 (ja) 2020-01-21 2020-01-21 内視鏡システム、内視鏡プロセッサ、内視鏡プロセッサの作動方法及び内視鏡プロセッサの作動プログラム

Country Status (3)

Country Link
US (1) US20220351350A1 (ja)
JP (1) JP7346602B2 (ja)
WO (1) WO2021149140A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117830114B (zh) * 2024-01-02 2024-08-09 瀚湄信息科技(上海)有限公司 基于白光led照明的血红蛋白增强方法、装置及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010050400A1 (ja) 2008-10-27 2010-05-06 オリンパスメディカルシステムズ株式会社 画像処理装置、被検体内導入装置、医療システムおよび画像処理方法
JP2012152284A (ja) 2011-01-24 2012-08-16 Hoya Corp 画像処理装置、電子内視鏡用プロセッサ装置、画像処理方法
WO2019130868A1 (ja) 2017-12-25 2019-07-04 富士フイルム株式会社 画像処理装置、プロセッサ装置、内視鏡システム、画像処理方法、及びプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5948203B2 (ja) * 2011-10-12 2016-07-06 富士フイルム株式会社 内視鏡システム及びその作動方法
JP6013382B2 (ja) * 2014-02-27 2016-10-25 富士フイルム株式会社 内視鏡システム及びその作動方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010050400A1 (ja) 2008-10-27 2010-05-06 オリンパスメディカルシステムズ株式会社 画像処理装置、被検体内導入装置、医療システムおよび画像処理方法
JP2012152284A (ja) 2011-01-24 2012-08-16 Hoya Corp 画像処理装置、電子内視鏡用プロセッサ装置、画像処理方法
WO2019130868A1 (ja) 2017-12-25 2019-07-04 富士フイルム株式会社 画像処理装置、プロセッサ装置、内視鏡システム、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
US20220351350A1 (en) 2022-11-03
JPWO2021149140A1 (ja) 2021-07-29
WO2021149140A1 (ja) 2021-07-29

Similar Documents

Publication Publication Date Title
CN109068945B (zh) 图像处理装置、图像处理装置的工作方法及记录介质
CN108109134B (zh) 图像处理装置及其工作方法
US10362928B2 (en) Image processing apparatus and image processing method
JP5997817B2 (ja) 内視鏡システム
JP6883627B2 (ja) 血液を含む組織の画像形成装置
JP4849985B2 (ja) 電子内視鏡システム
WO2019235195A1 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
JP5844230B2 (ja) 内視鏡システム及びその作動方法
JP6259747B2 (ja) プロセッサ装置、内視鏡システム、プロセッサ装置の作動方法、及びプログラム
US20070013771A1 (en) Image processing device
JP6203088B2 (ja) 生体観察システム
JP6054806B2 (ja) 画像処理装置及び内視鏡システムの作動方法
JP5715602B2 (ja) 内視鏡システム及び内視鏡システムの作動方法
JP7113903B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、内視鏡システム
US20220351350A1 (en) Endoscope processor, method for operating endoscope processor, and storage medium
JP7389257B2 (ja) 内視鏡システム及びその作動方法
JP7019039B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
US20230101620A1 (en) Medical image processing apparatus, endoscope system, method of operating medical image processing apparatus, and non-transitory computer readable medium
WO2022071413A1 (ja) 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム
JP7217351B2 (ja) 画像処理装置、内視鏡システム、及び画像処理装置の作動方法
JP7123135B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
JP7158562B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
JP6285373B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法
JP7123247B2 (ja) 内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム
JP2022180108A (ja) 医療画像処理装置、内視鏡システム、及び医療画像処理装置の作動方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220719

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230906

R151 Written notification of patent or utility model registration

Ref document number: 7346602

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151