JP7386347B2 - 内視鏡システム及びその作動方法 - Google Patents

内視鏡システム及びその作動方法 Download PDF

Info

Publication number
JP7386347B2
JP7386347B2 JP2022538577A JP2022538577A JP7386347B2 JP 7386347 B2 JP7386347 B2 JP 7386347B2 JP 2022538577 A JP2022538577 A JP 2022538577A JP 2022538577 A JP2022538577 A JP 2022538577A JP 7386347 B2 JP7386347 B2 JP 7386347B2
Authority
JP
Japan
Prior art keywords
image
light
illumination
reference image
illumination light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022538577A
Other languages
English (en)
Other versions
JPWO2022018894A5 (ja
JPWO2022018894A1 (ja
Inventor
進吾 増野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2022018894A1 publication Critical patent/JPWO2022018894A1/ja
Publication of JPWO2022018894A5 publication Critical patent/JPWO2022018894A5/ja
Application granted granted Critical
Publication of JP7386347B2 publication Critical patent/JP7386347B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、検査画像と、診断済みのリファレンス画像のうち、検査画像との類似度が高いリファレンス画像を表示する内視鏡システム及びその作動方法に関する。
医療分野においては、内視鏡画像等を用いて、患者の病状の診断や経過観察などの画像診断が行われている。このような画像診断に基づき、医師等は治療方針の決定などを行っている。しかしながら、医師などの画像診断を行う者の経験が浅い場合や、経験があっても、診断の対象となる画像が珍しい症例であり、専門性分野以外のものである場合には、医師が診断を確実に行うことが難しい場合がある。
このような状況において、医師などの経験不足等を補うため、診断時に取得した診断時取得画像に合わせて、過去の症例の画像を用いることが行われている。例えば、特許文献1では、観察対象を撮像部で撮像して得られる第1の医用画像と、データベースに蓄積した第2の医用画像とを比較し、画像的特徴量の類似度の高い第2の医用画像を検索して、それら検索した第2の医用画像を表示装置に並べて表示している。
国際公開第2018/180631号
近年の内視鏡システムにおいては、特定の波長帯域を有する光を観察対象に照明して、観察対象上の病変部の視認性を向上することによって、病変部の検出をし易くすることが盛んに行われている。したがって、内視鏡診断においては、白色光により得られる白色光画像の他、特定の波長帯域を有する光により得られる特殊光画像が用いられつつある。また、特殊光画像については、近年の光源等の開発によって、種類が増えてきている傾向にある。
以上のような、白色光、及び、複数種類の特殊光については、検査中に都度切り替える操作を行うと、ユーザーに負担を強いることになることから、白色光、及び、複数種類の特殊光などの複数の照明光を自動的に切り替えて病変部などに照明し、それら白色光に基づく白色光画像、及び複数種類の特殊光に基づく特殊光画像を検査画像として提供することが好ましい。なお、特許文献1には、このように照明光の自動照明切替により複数種類の検査画像を取得し、各検査画像と、各検査画像と較するためのリファレンス画像を合わせて表示することについては、記載されていない。
本発明は、複数種類の照明光の照明切替などによって、ユーザーに負担をかけることなく、複数種類の照明光に基づく複数種類の検査画像と、各検査画像と較するためのリファレンス画像とをディスプレイに表示することができる内視鏡システム及びその作動方法を提供することを目的とする。
本発明の内視鏡システムは、光源ユニットと、画像制御用プロセッサを備える。光源ユニットは、互いに発光スペクトルが異なる第1照明光と第2照明光とを発する。光源ユニットは、第1照明光を発光する第1照明期間と第2照明光を発光する第2照明期間とを自動的に切り替える場合において、第1照明光を第1発光パターンで発光し、第2照明光を第2発光パターンで発光する。画像制御用プロセッサは、第1照明光を被写体に照射して撮像した第1照明光画像、第2照明光を被写体に照射して撮像した第2照明光画像、及び、第2照明光画像を解析処理して得られた解析結果を第1照明光画像に重畳表示した重畳画像のうち少なくともいずれか1つを検査画像として取得し、検査画像とリファレンス画像とを特徴量に基づいて比較して総合類似度を算出し、診断済みのリファレンス画像を記憶するリファレンス画像記憶メモリを参照して、総合類似度が算出された複数のリファレンス画像のうち、総合類似度が特定の条件を満たすリファレンス画像を選択し、検査画像と、選択されたリファレンス画像とをディスプレイに表示し、ディスプレイに表示される検査画像と同じ種類の照明光で撮像されたリファレンス画像を表示するように、リファレンス画像を自動的に切り替える。
画像制御用プロセッサは、リファレンス画像提示スイッチが押された後に、リファレンス画像の特徴量を算出し、検査画像及びリファレンス画像の特徴量に基づいて総合類似度が算出された上で、特定の条件を満たすリファレンス画像と検査画像とを表示することが好ましい。
リファレンス画像の表示は、総合類似度の順位にならって切り替えが可能であることが好ましい。検査画像として表示する画像は、重畳画像、第1照明光画像又は第2照明光画像の少なくともいずれか1つであり、互いに切り替えが可能であることが好ましい。リファレンス画像として表示する画像は、白色光画像又は特殊光画像のいずれか1つであり、互いに切り替えが可能であることが好ましい。
検査画像とリファレンス画像の特徴量の比較は、第1照明光画像と白色光画像との間、又は、第2照明光画像と特殊光画像との間で行うことが好ましい。特定の条件が満たされない場合に警告表示を行うことが好ましい。リファレンス画像を複数選択する場合、特定の条件を変更できることが好ましい。
検査画像を静止画として取得し、静止画をリファレンス画像としてリファレンス画像記憶メモリに保存できることが好ましい。静止画と、診断結果とを対応付け、新規の診断済みのリファレンス画像としてリファレンス画像記憶メモリに保存できることが好ましい。
検査画像及びリファレンス画像における、注目領域の診断結果を表示することが好ましい。
検査画像及びリファレンス画像と同一の画面上に、総合類似度とリファレンス画像に対応付けた総合類似度の順位とをディスプレイに表示することが好ましい。検査画像とリファレンス画像を同一の画面上に表示し、かつ、検査画像が第2照明光画像である場合、検査画像を撮像した際に照射した第2照明光と同じ発光スペクトルの特殊光を照射して撮像されたリファレンス画像の表示に自動的に切り替えることが好ましい。画像制御用プロセッサは、解析処理によって、注目領域を検出した場合に、リファレンス画像の特徴量を算出し、特徴量に基づいて総合類似度が算出された上で、特定の条件を満たすリファレンス画像と検査画像とを表示することが好ましい。画像制御用プロセッサは、検査画像、及び、リファレンス画像記憶メモリに記憶されるリファレンス画像を、類似度出力用の学習モデルに入力することにより、リファレンス画像毎に、総合類似度を出力することが好ましい。
第1発光パターンは、第1照明期間のフレーム数が、それぞれの第1照明期間において同じである第1Aターンと、第1照明期間のフレーム数が、それぞれの第1照明期間において異なっている第1Bターンとのうちのいずれか1つであることが好ましい。第2発光パターンは、第2照明期間のフレーム数が、それぞれの第2照明期間において同じであり、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において同じである第2Aパターン、第2照明期間のフレーム数が、それぞれの第2照明期間において同じであり、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において異なっている第2Bパターン、第2照明期間のフレーム数が、それぞれの第2照明期間において異なっており、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において同じである第2Cパターン、及び、第2照明期間のフレーム数が、それぞれの第2照明期間において異なっており、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において異なっている第2Dパターンのうちのいずれか1つであることが好ましい。
本発明の内視鏡システムの作動方法は、互いに発光スペクトルが異なる第1照明光と第2照明光とを発する光源ユニットであって、第1照明光を発光する第1照明期間と第2照明光を発光する第2照明期間とを自動的に切り替える場合において、第1照明光を第1発光パターンで発光し、第2照明光を第2発光パターンで発光する光源ユニット、及び、画像制御用プロセッサを備える内視鏡システムの作動方法において、画像制御用プロセッサは、第1照明光を被写体に照射して撮像した第1照明光画像、第2照明光を被写体に照射して撮像した第2照明光画像、及び、第2照明光画像を解析処理して得られた解析結果を第1照明光画像に重畳表示した重畳画像のうち少なくともいずれか1つを検査画像として取得し、検査画像とリファレンス画像とを特徴量に基づいて比較して総合類似度を算出し、診断済みのリファレンス画像を記憶するリファレンス画像記憶メモリを参照して、総合類似度が算出された複数のリファレンス画像のうち、総合類似度が特定の条件を満たすリファレンス画像を選択し、検査画像と、選択されたリファレンス画像とをディスプレイに表示し、ディスプレイに表示される検査画像と同じ種類の照明光で撮像されたリファレンス画像を表示するように、リファレンス画像を自動的に切り替える。
本発明によれば、複数種類の照明光の照明切替などによって、ユーザーに負担をかけることなく、複数種類の照明光に基づく複数種類の検査画像と、各検査画像と較するためのリファレンス画像とを表示することができる。
内視鏡システムの外観図である。 内視鏡システムの機能を示すブロック図である。 紫色光V、青色光B、緑色光G、及び赤色光Rのスペクトルを示すグラフである。 第1特殊光の発光スペクトルを示すグラフである。 第2特殊光の発光スペクトルを示すグラフである。 重畳モード時の第1Aターン及び第2Aパターンを示す説明図である。 重畳モード時の第1Bターンを示す説明図である。 重畳モード時の第2パターンを示す説明図である。 重畳モード時の第2パターンを示す説明図である。 重畳モード時の第2Dパターンを示す説明図である。 撮像センサの各カラーフィルタの分光透過率を示すグラフである。 第1撮像期間及び第2撮像期間を示す説明図である。 重畳モードにおける照明制御、解析処理、及び画像表示を時系列順で示す説明図である。 検査画像取得部、リファレンス画像記憶メモリ、類似度算出部、リファレンス画像選択部、表示制御部における関係を示す説明図である。 類似度算出部の、検査画像の特徴量算出部、リファレンス画像の特徴量選択部、個別類似度及び総合類似度算出部、注目領域強調処理部における関係を示す説明図である。 リファレンス画像選択部内の関係を示す説明図である。 リファレンス画像提示画面を示す説明図である。 総合類似度の異ならせた場合のリファレンス画像提示画面を示す説明図である。 内視鏡画像の種類を異ならせた場合のリファレンス画像提示画面を示す説明図である。 特定の条件が満たされない場合のリファレンス画像提示画面を示す説明図である。 リファレンス画像提示モードの制御の流れを示すフローチャートである。 第2実施形態におけるリファレンス画像提示画面を示す説明図である。 第2実施形態における制御の流れを示すフローチャートである。
[第1実施形態]
図1において、内視鏡システム10は、内視鏡12と、光源装置13と、プロセッサ装置14と、ディスプレイ15と、UI(User InterFace、ユーザーインターフェース)16とを有する。内視鏡12は、光源装置13と光学的に接続され、且つ、プロセッサ装置14と電気的に接続される。内視鏡12は、挿入部12a、操作部12b、湾曲部12c及び先端部12dを有している。挿入部12aは、観察対象の体内に挿入される。操作部12bは、挿入部12aの基端部分に設けられる。湾曲部12c及び先端部12dは、挿入部12aの先端側に設けられる。湾曲部12cは、操作部12bのアングルノブ12eを操作することにより湾曲動作する。先端部12dは、湾曲部12cの湾曲動作によって所望の方向に向けられる。
また、操作部12bには、アングルノブ12e、観察モード切替スイッチ12f、リファレンス画像提示スイッチ12g及びズーム操作部12iが設けられている。観察モード切替スイッチ12fは、観察モードの切り替え操作に用いる。リファレンス画像提示スイッチ12gは、リファレンス画像の提示に用いる。静止画像取得指示スイッチ12hは、観察対象の静止画の取得指示に用いる。ズーム操作部12iは、ズームレンズ42の操作に用いる。
なお、内視鏡システム10は、観察モードとして、第1照明観察モード、第2照明観察モード及び重畳モードの3つのモードを有する。観察モード切替スイッチ12fを押すと、画像処理切替部54を介してモードが切り替わる。さらに、内視鏡システム10は、表示モードとして、検査画像表示モード及びリファレンス画像提示モードの2つのモードを有する。リファレンス画像提示スイッチ12gを押すと、リファレンス画像提示モード切替部56を介して表示モードが切り替わる。すなわち、本発明の内視鏡システムに搭載されるモードとしては、検査画像表示第1照明観察モード、検査画像表示第2照明観察モード、検査画像表示重畳モード、リファレンス画像提示第1照明観察モード、リファレンス画像表示第2照明観察モード及びリファレンス画像提示重畳モードの、計6つのモードが存在する。本段落以降、単に「検査画像表示モード」と記載してある際は、検査画像表示第1照明観察モード、検査画像表示第2照明観察モード、検査画像表示重畳モードのいずれかの3つのモードの場合すべてを指すが、デフォルトとしては、検査画像表示重畳モードを想定している。また、単に「リファレンス画像提示モード」と記載してある際は、リファレンス画像提示第1照明観察モード、リファレンス画像表示第2照明観察モード及びリファレンス画像提示重畳モードのいずれかの3つのモードの場合すべてを指すが、デフォルトとしては、リファレンス画像提示重畳モードを想定している。
検査画像表示第1照明観察モード及びリファレンス画像提示第1照明観察モードでは、白色光などの通常光(第1照明光)を観察対象に照明して撮像することによって、自然な色合いの第1照明光画像を表示部としてのディスプレイ15に表示する。検査画像表示第2照明観察モード及びリファレンス画像提示第2照明観察モードでは、通常光と波長帯域が異なる特殊光(第2照明光)を観察対象に照明して撮像することによって、特定の構造を強調した第2照明光画像をディスプレイ15に表示する。検査画像表示重畳モード及びリファレンス画像提示重畳モードでは、発光スペクトルが異なる第1照明光と第2照明光とを切り替えて発光し、且つ、第1照明光に基づく画像に対して、ディスプレイ15に表示するための表示用画像とする処理を行い、一方、第2照明光に基づく画像に対して、AI(Artificial Intelligence)に関する処理、観察対象に関する特徴量等を得る処理などの解析処理を行う。解析処理の結果は、第1照明光画像に重畳表示される。また、検査画像表示モードでは、類似度算出部60、検査画像から個別特徴量の値及び総合特徴量の値を算出する。総合特徴量は注目領域強調処理部111又は表示制御部62に送信される。類似度算出部60については後述する(図15参照)。
検査画像表示モードでは、観察モードの3態様において表示される画面をディスプレイ15に表示する。リファレンス画像提示モードでは、後述の通り、検査画像と特定の条件を満たすリファレンス画像を、リファレンス画像提示画面120として表示する。
検査画像表示モード及びリファレンス画像提示モードにおいて、静止画像取得指示スイッチ12hをユーザーが操作することにより、静止画取得指示に関する信号が内視鏡12、光源装置13、及びプロセッサ装置14に送られる。検査画像表示モードにおいて静止画像取得指示スイッチ12hが押された場合、プロセッサ装置14では、第1照明期間もしくは第2照明期間、あるいはその両方において観察対象の静止画がメモリ(図示しない)に保存される。なお、リファレンス画像提示モードにおける静止画保存については、後に詳説する。
プロセッサ装置14は、ディスプレイ15及びUI16と電気的に接続される。ディスプレイ15は、観察対象の画像や、観察対象の画像に付帯する情報などを出力表示する。UI16は、キーボード、マウス、タッチパッド、マイク等を有し、機能設定などの入力操作を受け付ける機能を有する。プロセッサ装置14には、画像や画像情報などを記録するリファレンス画像記憶メモリ80が接続される(図2、図14参照)。なお、リファレンス画像記憶メモリ80は、Webシステム上のストレージであってもよい。また、プロセッサ装置14に外付けのメモリ(図示しない)を接続してもよい。
図2において、光源装置13は、光源ユニット20と、光源ユニット20を制御する光源用プロセッサ21とを備える。光源ユニット20は、例えば、複数の半導体光源を有し、これらをそれぞれ点灯又は消灯し、点灯する場合には各半導体光源の発光量を制御することにより、観察対象を照明する照明光を発する。光源ユニット20は、V-LED(Violet Light Emitting Diode)20a、B-LED(Blue Light Emitting Diode)20b、G-LED(Green Light Emitting Diode)20c、及びR-LED(Red Light Emitting Diode)20dの4色のLEDを有する。
図3に示すように、V-LEDは、中心波長405±10nm、波長範囲380~420nmの紫色光Vを発生する。B-LEDは、中心波長450±10nm、波長範囲420~500nmの青色光Bを発生する。G-LEDは、波長範囲が480~600nmに及ぶ緑色光Gを発生する。R-LEDは、中心波長620~630nmで、波長範囲が600~650nmに及ぶ赤色光Rを発生する。
光源用プロセッサ21は、V-LED20a、B-LED20b、G-LED20c、及びR-LED20dを制御する。光源用プロセッサ21は、各LED20a~20dをそれぞれ独立に制御することで、紫色光V、青色光B、緑色光G、又は赤色光Rをそれぞれ独立に光量を変えて発光可能である。また、光源用プロセッサ21は、第1照明観察モード時には、紫色光V、青色光B、緑色光G、及び赤色光R間の光量比がVc:Bc:Gc:Rcとなる白色光を発光するように、各LED20a~20dを制御する。なお、Vc、Bc、Gc、Rc>0である。
なお、図4に示すように、第2照明光として、紫色光Vの光量を他の青色光B、緑色光G、及び赤色光Rの光量よりも大きくした第1特殊光を用いてもよい。また、図5に示すように、第2照明光として、緑色光Gの光量を、他の紫色光V、青色光B、及び赤色光Rの光量よりも大きくした第2特殊光を用いてもよい。
また、光源用プロセッサ21は、第2照明観察モード時には、短波長の狭帯域光としての紫色光V、青色光B、緑色光G、及び赤色光Rとの光量比がVk:Bs:Gs:Rsとなる特殊光を発光するように、各LED20a~20dを制御する。光量比Vs:Bs:Gs:Rsは、第1照明観察モード時に使用する光量比Vc:Bc:Gc:Rcと異なっており、観察目的に応じて適宜定められる。例えば、表層血管を強調する場合には、Vsを、他のBs、Gs、Rsよりも大きくすることが好ましく、中血管を強調する場合には、Gsを、他のVs、Gs、Rsよりも大きくすることが好ましい。
また、光源用プロセッサ21は、重畳モード時に、第1照明光と第2照明光とを自動的に切り替えて発光する場合において、第1照明光を第1発光パターンで発光し、第2照明光を第2発光パターンで発光する。具体的には、第1発光パターンは、図6に示すように、第1照明期間のフレーム数が、それぞれの第1照明期間において同じである第1Aターンと、図7に示すように、第1照明期間のフレーム数が、それぞれの第1照明期間において異なっている第1Bターンとのうちのいずれか1つであることが好ましい。
第2発光パターンは、図6に示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において同じであり、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において同じである第2Aパターン、図8示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において同じであり、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において異なっている第2Bパターン、図9に示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において異なっており、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において同じである第2Cパターン、図10に示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において異なっており、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において異なっている第2Dパターンのうちのいずれか1つであることが好ましい。なお、第1照明光の発光スペクトルは、それぞれの第1照明期間において同じであってもよく、異なってもよい。
ここで、第1照明期間は第2照明期間よりも長くすることが好ましく、第1照明期間は2フレーム以上とすることが好ましい。例えば、図6では、第1発光パターンを第1Aパターンとし、第2発光パターンを第2Aパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:同じ)とする場合において、第1照明期間を2フレームとし、第2照明期間を1フレームとしている。第1照明光は、ディスプレイ15に表示する表示用画像の生成に用いられることから、第1照明光を観察対象に照明することによって、明るい画像が得られることが好ましい。
第1照明光は、白色光であることが好ましい。一方、第2照明光は、解析処理に用いることから、第2照明光を観察対象に照明することによって、解析処理に適した画像が得られることが好ましい。例えば、血管深さが異なる複数の血管の形状情報に基づいて、解析処理を行う場合には、第2照明光として、紫色光V、青色光B、緑色光G、赤色光Rを用いることが好ましい。この場合、第2発光パターンを第2Aパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:同じ)又は第2Cパターン(第2照明期間のフレーム数:異なる、第2照明光の発光スペクトル:同じ)とする場合には、紫色光V、青色光B、緑色光G、赤色光Rのうちのいずれか1つの光を用いることが好ましい。一方、第2発光パターンを第2Bパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:異なる)又は第2Dパターン(第2照明期間のフレーム数:異なる、第2照明光の発光スペクトル:異なる)とする場合には、第2照明期間において、紫色光V、青色光B、緑色光G、赤色光Rのうち少なくとも2つの光を特定の順番で切り替えて発光することが好ましい。後述の図13では、紫色光V、緑色光G、及び赤色光Rの3つの光を、その順番で順次発光している。
ここで、第2照明光として、第1特殊光と第2特殊光の両方を用いる場合は、第2発光パターンを第2Bパターン又は第2Dパターンとして、第1特殊光と第2特殊光を交互に発光するようにしてもよい。
なお、第1照明期間と第2照明期間の切替パターンである第1、2発光パターンの詳細については、撮像用プロセッサ44による撮像センサ43の撮像制御に基づいて定められることから、後述する。また、フレームとは、撮像センサ43において特定タイミングから信号読み出し完了までの間の期間を少なくとも含む期間の単位のことをいう。
例えば、粘膜表面からの深さが50μmの範囲内にある表層血管、粘膜表面からの深さが200μmの範囲内にある中層血管、及び、粘膜表面からの深さが600μmの範囲内にある深層血管に関する血管の形状情報を取得し、これら表層、中層、深層の血管の形状情報に基づいて解析処理を行う場合には、表層血管を強調する紫色光V、中層血管を強調する緑色光G、深層血管を強調する赤色光Rを用いることが好ましい。
なお、本明細書において、光量比は、少なくとも1つの半導体光源の比率が0(ゼロ)の場合を含む。したがって、各半導体光源のいずれか1つ又は2つ以上が点灯しない場合を含む。例えば、紫色光V、青色光B、緑色光G、及び赤色光R間の光量比が1:0:0:0の場合のように、半導体光源の1つのみを点灯し、他の3つは点灯しない場合も、光量比を有するものとする。
図2に示すように、各LED20a~20dが発する光は、ミラーやレンズなどで構成される光路結合部22を介して、ライトガイド23に入射される。ライトガイド23は、内視鏡12及びユニバーサルコード(内視鏡12と、光源装置13及びプロセッサ装置14を接続するコード)に内蔵されている。ライトガイド23は、光路結合部22からの光を、内視鏡12の先端部12dまで伝搬する。
内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは照明レンズ31を有しており、ライトガイド23によって伝搬した照明光は照明レンズ31を介して観察対象に照射される。撮像光学系30bは、対物レンズ41、撮像センサ43を有している。照明光を照射したことによる観察対象からの光は、対物レンズ41及びズームレンズ42を介して撮像センサ43に入射する。これにより、撮像センサ43に観察対象の像が結像される。ズームレンズ42は観察対象を拡大するためのレンズであり、ズーム操作部12iを操作することによって、テレ端とワイド端と間を移動する。
撮像センサ43は、原色系のカラーセンサであり、青色カラーフィルタを有するB画素(青色画素)、緑色カラーフィルタを有するG画素(緑色画素)、及び、赤色カラーフィルタを有するR画素(赤色画素)の3種類の画素を備える。図11に示すように、青色カラーフィルタBFは、主として青色帯域の光、具体的には80~560nmの波長帯域の光を透過する。青色カラーフィルタBFの透過率は、波長460~470nm付近においてピークになる。緑色カラーフィルタ、主として緑色帯域の光、具体的には、460~620nmの波長帯域の光を透過する。赤色カラーフィルタRFは、主として赤色帯域の光、具体的には、580~760nmの波長帯域の光を透過する。
また、撮像センサ43は、CCD(Charge-Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)であることが好ましい。撮像用プロセッサ44は、撮像センサ43を制御する。具体的には、撮像用プロセッサ44により撮像センサ43の信号読み出しを行うことによって、撮像センサ43から画像信号が出力される。第1照明観察モードでは、白色光が撮像センサ43に露光された状態で、撮像用プロセッサ44が信号読み出しを行うことにより、撮像センサ43のB画素からBc画像信号が出力され、G画素からGc画像信号が出力され、R画素からRc画像信号が出力される。第2照明観察モードでは、特殊光が撮像センサ43に露光された状態で、撮像用プロセッサ44が信号読み出しを行うことによって、撮像センサ43のB画素からBs画像信号が出力され、G画素からGs画像信号が出力され、R画素からRs画像信号が出力される。
重畳モードでは、撮像用プロセッサ44は、図12に示すように、第1照明期間において第1照明光を撮像センサ43に露光させた状態で、信号読み出しを行うことにより、撮像センサ43から第1画像信号を出力させる。第1画像信号を出力する期間を第1撮像期間とする。第1画像信号には、B画素から出力されるB1画像信号、G画素から出力されるG1画像信号、及び、R画素から出力されるR1画像信号が含まれる。また、撮像用プロセッサ44は、第2照明期間において第2照明光を撮像センサ43に露光させた状態で、信号読み出しを行うことにより、撮像センサ43から第2画像信号を出力させる。第2画像信号を出力する期間を第撮像期間とする。第2画像信号には、B画素から出力されるB2画像信号、G画素から出力されるG2画像信号、及び、R画素から出力されるR2画像信号が含まれる。
図2に示すように、CDS/AGC(Correlated Double Sampling/Automatic Gain Control)回路4は、撮像センサ43から得られるアナログの画像信号に相関二重サンプリング(CDS)や自動利得制御(AGC)を行う。CDS/AGC回路45を経た画像信号は、A/D(Analog/Digital)コンバータ4により、デジタルの画像信号に変換される。A/D変換後のデジタル画像信号がプロセッサ装置14に入力される。
本段落以降で記載するプロセッサ装置14の構成及び作動方法は、検査画像取得部55及び表示制御部62を介する検査画像の取得と表示に関して、検査画像表示モードと、リファレンス画像提示モードとにおいて共通である。
プロセッサ装置14においては、画像制御用プロセッサによって構成される中央制御部70によって、プログラム用メモリ内のプログラムが動作することによって、画像取得部50と、DSP(Digital Signal Processor)52と、ノイズ低減部53と、画像処理切替部54と、画像処理部58と、表示制御部62の機能が実現される。また、画像処理部58の機能実現に伴って、検査画像取得部55において、第1照明光画像生成部55aと、第2照明光画像生成部55bと、重畳画像生成部55cとの機能が実現される。なお、重畳モードにおいては、画像制御用プロセッサは、第1画像信号又は第2画像信号に基づいて画像処理を行い、ディスプレイ15に対する制御を行う。
画像取得部50は、内視鏡12から入力されるカラー画像を取得する。カラー画像には、撮像センサ43のB画素、G画素、R画素から出力される青色信号(B画像信号)、緑色信号(G画像信号)、赤色信号(R画像信号)が含まれている。取得したカラー画像はDSP52に送信される。DSP52は、受信したカラー画像に対して、欠陥補正処理、オフセット処理、ゲイン補正処理、マトリクス処理、ガンマ変換処理、デモザイク処理、及びYC変換処理等の各種信号処理を行う。ノイズ低減部53は、DSP52でデモザイク処理等を施したカラー画像に対して、例えば移動平均法やメディアンフィルタ法等によるノイズ低減処理を施す。ノイズを低減したカラー画像は、画像処理切替部54に入力される。
ゲイン補正処理後の各色の画像信号には、色再現性を高めるマトリクス処理が施される。その後、ガンマ変換処理によって、カラー画像の明るさや彩度が整えられる。マトリクス処理後のカラー画像には、デモザイク処理(等方化処理,同時化処理とも言う)が施され、補間により各画素の欠落した色の信号を生成される。デモザイク処理によって、全画素がRGB各色の信号を有するようになる。DSP52は、デモザイク処理後のカラー画像にYC変換処理を施し、輝度信号Yと色差信号Cb及び色差信号Crをノイズ低減部53に出力する。
なお、第2照明光として第1特殊光を用いた場合には、第2画像信号に対して、観察対象に含まれる正常部と異常部(病変部など)との色の差を拡張する色差拡張処理を行ってもよい。色差拡張処理済みの第2画像信号に対して、解析処理を行ってもよい。
ノイズ低減部53は、DSP52でデモザイク処理等を施したカラー画像に対して、例えば移動平均法やメディアンフィルタ法等によるノイズ低減処理を施す。ノイズを低減したカラー画像は、画像処理切替部54に入力される。
画像処理切替部54は、設定されているモードによって、ノイズ低減部53からの画像信号の送信先を、検査画像取得部55内の、第1照明光画像生成部55aと、第2照明光画像生成部55bと、重畳画像生成部55cのいずれか1つに切り替える。具体的には、第1照明観察モードにセットされている場合には、ノイズ低減部53からの画像信号を第1照明光画像生成部55aに入力する。第2照明観察モードにセットされている場合には、ノイズ低減部53からの画像信号を第2照明光画像生成部55bに入力する。重畳モードにセットされている場合には、ノイズ低減部53からの画像信号を重畳画像生成部55cに入力する。
第1照明光画像生成部55aは、入力した1フレーム分のRc画像信号、Gc画像信号、Bc画像信号に対して、第1照明光画像用画像処理を施す。第1照明光画像用画像処理には、3×3のマトリクス処理、階調変換処理、3次元LUT(Look Up Table)処理等の色変換処理、色彩強調処理、空間周波数強調等の構造強調処理が含まれる。第1照明光画像用画像処理が施されたRc画像信号、Gc画像信号、Bc画像信号は、第1照明光画像として表示制御部62に入力される。
第2照明光画像生成部55bは、入力した1フレーム分のRs画像信号、Gs画像信号、Bs画像信号に対して、第2照明光画像用画像処理を施す。第2照明光画像用画像処理には、3×3のマトリクス処理、階調変換処理、3次元LUT(Look Up Table)処理等の色変換処理、色彩強調処理、空間周波数強調等の構造強調処理が含まれる。第2照明光画像用画像処理が施されたRs画像信号、Gs画像信号、Bs画像信号は、第2照明光画像として表示制御部62に入力される。
重畳画像生成部55cは、入力した1フレーム分のR1画像信号、G1画像信号、B1画像信号に対して、上述と同様の第1照明光画像用画像処理を施す。第1照明光画像画像処理が施されたR1画像信号、G1画像信号、B1画像信号は、表示用画像として使用される。また、重畳画像生成部55cは、入力した特定フレーム分のR2画像信号、G2画像信号、B2画像信号に対して、解析処理を行う。また、重畳画像生成部55cは、特徴量を算出した解析処理の結果である解析結果を重畳画像として表示させる表示制御処理を行う。
例えば、第1発光パターンを第1Aターンとし、第2発光パターンを第2Bパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:異なる)とする場合において、第1照明光として白色光Wを2フレーム分、第2照明光としての紫色光V、緑色光G、赤色光Rを、白色光Wの発光の間に、それぞれ1フレーム分だけ観察対象に照明する場合には、図13に示すように、白色光の照明により得られる第1画像信号に対して第1照明光画像用画像処理を施すことによって、重畳画像を得る。
一方、紫色光Vの照明により得られる第2画像信号(R2画像信号、G2画像信号、B2画像信号)に対して解析処理を行って、解析結果Vを得る。同様にして、緑色光Gの照明により得られる第2画像信号(R2画像信号、G2画像信号、B2画像信号)に対して解析処理を行って、解析結果Gを得る。また、赤色光Rの照明により得られる第2画像信号(R2画像信号、G2画像信号、B2画像信号)に対して解析処理を行って、解析結果Rを得る。これら解析結果V、G、Rは、赤色光Rに関する解析処理が完了した後、一まとめにした解析結果Tとして、表示用画像に表示される。なお、解析結果V、G、Rは、それぞれ単独で表示用画像に表示してもよく、また、解析結果V、G、Rのうち少なくとも2つ組み合わせて得られる解析結果を、重畳画像としてもよい。
なお、解析処理としては、後述する類似度算出部60における検査画像の特徴量算出部101における特徴量の算出、及び、算出した解析結果を表示用画像に重畳表示するための重畳表示制御処理が含まれる。解析処理の結果が表示された重畳画像は、表示制御部62に入力される。なお、特徴量算出部100における解析処理の詳細については後述する。
検査画像表示モードとリファレンス画像提示モードの両方において、表示制御部62は、画像処理部58から出力される画像をディスプレイ15に表示するための制御を行う。具体的には、表示制御部62は、第1照明光画像、第2照明光画像、又は、重畳画像を、ディスプレイ15においてフルカラーで表示可能にする映像信号に変換する。変換済みの映像信号はディスプレイ15に入力される。これにより、ディスプレイ15には第1照明光画像、第2照明光画像、又は、重畳画像が表示される。
第2照明光を発光する第2照明期間は、第1照明期間よりもフレーム数が少ないことから、光量制御値を大きくして光量を大きくしたとしても、光量が大きくなる時間は短時間且つ間欠的であるため、内視鏡の先端部12dの温度上昇は一時的で安全性が確保される。
撮像用プロセッサ44は、第1照明期間において第1照明光が照明された観察対象を撮像センサ43で撮像させることにより、撮像センサ43から第1画像信号を出力する。撮像用プロセッサ44は、第2照明期間において第2照明光が照明された観察対象を撮像センサ43で撮像させることにより、撮像センサ43から第2画像信号を出力する。表示制御部62は、第1画像信号に基づく表示用画像に対して、第2画像信号に基づく解析処理により得られた解析結果を表示する重畳画像をディスプレイ15に表示する。
なお、第1実施形態においては、第1照明光に基づく第1画像信号は、表示用画像に用い、第2照明光に基づく第2画像信号は、解析処理にのみに用いて、ディスプレイ15への表示に用いていないが、第2画像信号についても、ディスプレイ15への表示に用いてもよい。この場合には、第1画像信号に基づく表示用画像と、第2画像信号に基づく表示用画像とを、ディスプレイ15に対して切り替えて表示することになる。第2画像信号に基づく画像のディスプレイ15への表示又は非表示については、UI16によって適宜設定できるようにすることが好ましい。
本段落以降で、検査画像が取得された後の制御である、リファレンス画像提示モードについて開示する。リファレンス画像提示モードの概略を説明すると、図14の通り、検査画像取得部55で取得された検査画像は、類似度算出部60において、リファレンス画像記憶メモリ80を参照し、保存されている診断済みのリファレンス画像と、特徴量に基づいて比較され、結果として、総合類似度が算出される。次に、リファレンス画像選択部61において、総合類似度が特定の条件を満たすリファレンス画像が選択され、表示制御部62に送信される。具体的には、総合類似度が一定値以上よりも高いリファレンス画像を選択する。最終的に、検査画像と、特定の条件を満たすリファレンス画像とが、一画面にリファレンス画像提示画面120として表示され、ユーザーが視認できる状態になる。
以降、リファレンス画像提示モードについての詳細を説明する。リファレンス画像提示スイッチ12gが押されると、リファレンス画像提示モード切替部56を介し、検査画像表示第1照明観察モードからリファレンス画像提示第1照明観察モードに、検査画像表示第2照明観察モードからリファレンス画像提示第2照明観察モードに、検査画像表示重畳モードからリファレンス画像提示重畳モードに切り替わる。上記構成により、ユーザーの任意のタイミングで、リファレンス画像提示モードに切り替え、リファレンス画像を表示することができる。
リファレンス画像提示モードである場合、検査画像取得部55で取得された第1照明光画像、第2照明光画像又は重畳画像、もしくは、そのすべてが、類似度算出部60内の検査画像の特徴量算出部101に送信される。また、リファレンス画像記憶メモリ80から、複数の診断済みの白色光画像又は複数の診断済みの特殊光画像の両方、もしくは、その両方が送信される。なお、検査画像表示第2照明観察モード及び検査画像表示重畳モードにおいても、前述の通り、特定の構造を強調した第2照明光画像もしくは重畳画像を生成するため、検査画像取得部55から特徴量算出部100に画像が送信され、特徴量算出の解析処理を行う。
リファレンス画像記憶メモリ80には、診断済みの白色光画像及び診断済みの特殊光画像が保存されている。リファレンス画像記憶メモリ80に保存されている診断済みの白色光画像及び診断済みの特殊光画像は、教科書又はアトラスの画像、学会で基準として用いられる画像、症例報告又は論文で用いられた画像、ユーザーが登録した画像があり、この限りではない。診断済みの白色光画像及び診断済みの特殊光画像に対応付けされている診断結果としては、病変部もしくは正常部であること、活動期又は寛解期であること、国際疾病分類、UICC TNM(Union for International Cancer Control Tumor Lymph Nodes Metastasis)分類、TNM(Tumor Lymph Nodes Metastasis)分類、Dukes分類、その他の分類、診断基準、ガイドライン、教科書及びアトラスに基づく診断名、種類、タイプ(type)、進展度、ステージのいずれかひとつ以上を含むことが好ましい。
類似度算出部60は、図15に示すように、特徴量算出部100、個別類似度及び総合類似度算出部110、注目領域強調処理部111を含む。
検査画像の特徴量算出部101及びリファレンス画像の特徴量算出部102は、図15に示す通り、検査画像取得部55及びリファレンス画像記憶メモリ80から送信された画像の特徴量を算出する。特徴量は、観察対象が表層、中層、深層の少なくともいずれか1つに位置するかによって分類されることが好ましい。また、特徴量は、観察対象の形状、色又はそれら形状や色などから得られる値であることが好ましい。特徴量の項目としては、例えば、血管密度、血管形状、血管の分岐数、血管の太さ、血管の長さ、血管の蛇行度、血管の深達度、腺管形状、腺管開口部形状、腺管の長さ、腺管の蛇行度、色情報である。特徴量はこれらの少なくともいずれか1つ、もしくは、これらの2以上を組み合わせた値であることが好ましい。なお、特徴量の項目については、この限りではなく、使用状況に応じて適宜追加されてもよい。
検査画像の特徴量算出部101又はリファレンス画像の特徴量算出部102によって算出された、各内視鏡画像に係る個別特徴量の総和を総合特徴量とすることが好ましい。総合特徴量は、図15に示す通り、注目領域強調処理部111に送信される。注目領域強調処理部111については後述する。
なお、リファレンス画像記憶メモリ80に保存されているリファレンス画像の個別特徴量が算出された後、リファレンス画像と、このリファレンス画像に係る個別特徴量とを対応付けてリファレンス画像記憶メモリ80に保存してもよい。また、過去に個別特徴量が算出されたリファレンス画像は、同一の個別特徴量を算出する工程をスキップしてもよい。プロセッサ装置14の演算領域の節約のためである。
リファレンス画像提示モードである場合、特徴量算出部100によって算出された各検査画像又は各診断済みのリファレンス画像に係る個別特徴量の値は、個別類似度及び総合類似度算出部110に送信される。
個別類似度及び総合類似度算出部110は、第1照明光画像、第2照明光画像あるいは重畳画像である検査画像と、複数の、1種類又は複数種類の診断済みのリファレンス画像と、に係る個別特徴量の比較をおこなう。個別特徴量の比較は、第1照明光画像と診断済みの白色光画像との間、もしくは、第2照明光画像と診断済みの特殊光画像との間でおこない、それぞれの画像間における個別類似度を算出する。図15の具体例では、検査画像に係る表層の血管の形状・分岐の個別特徴量がA1、表層の血管の均一度の個別特徴量がA2…と、リファレンス画像に係る表層の血管の形状・分岐の個別特徴量がa1、表層の血管の均一度の個別特徴量がa2…と、検査画像とリファレンス画像のそれぞれについて、個別特徴量の項目に係る値が算出される。個別特徴量が算出されると、これらを総和した総合特徴量が算出される。図15の具体例では、検査画像の総合特徴量がABC、リファレンス画像の総合特徴量がabcと算出される。総合特徴量は注目領域強調処理部111に送信され、検査画像とリファレンス画像とのそれぞれに注目領域の強調表示を行う解析処理に使用される。さらに、各特徴量の項目に係る個別特徴量は個別類似度及び総合類似度算出部110に送信される。図15の具体例では、表層の血管の形状・分岐に係る個別類似度について、A1とa1の値を比較し(図15では「A1vs a1」と表記)、個別類似度がα1であると算出している。続いて、個別類似度の総和を総合類似度として算出し、リファレンス画像選択部61に送信する。図15の具体例では、当該検査画像と当該リファレンス画像との間の総合類似度はαβγという値として算出され、この値がリファレンス画像選択部61に送信される。
なお、類似度算出部60に、Convolutional Neural Network等を用いた人工知能を搭載し、人工知能を用いて、総合類似度を算出してもよい。例えば、類似度算出部60は、機械学習等による類似度出力用の学習モデルで構成し、検査画像、及び、リファレンス画像記憶メモリ80に記憶されるリファレンス画像を、類似度出力用の学習モデルに入力することにより、リファレンス画像毎に、総合類似度を出力することが好ましい。
なお、リファレンス画像として重畳画像が存在する場合は、検査画像取得部55から送信された重畳画像と、リファレンス画像記憶メモリ80から送信された重畳画像との間で個別類似度及び総合類似度が算出される。また、第1照明光画像と比較するための診断済みの白色光画像、もしくは、第2照明光画像と比較するための診断済みの特殊光画像が存在しない場合は、リファレンス画像である診断済みの白色光画像もしくは診断済みの特殊光画像を、第1照明光画像又は第2照明光画像と比較できるように、画像の色相、色調等に関して色合わせを行なった上で比較を行う。
リファレンス画像選択部61は、類似度算出部60から、1又は複数のリファレンス画像と、リファレンス画像毎に算出又は出力された総合類似度を受信する。リファレンス画像選択部61は、図16に示すように、総合類似度によって複数のリファレンス画像に順位を付与する。続いて、複数のリファレンス画像のうち、総合類似度が特定の条件を満たすリファレンス画像を選択し、表示制御部62に送信する。特定の条件とは、総合類似度の値によって決定される閾値である。この特定の条件となる閾値は変更可能であり、自動的もしくはユーザーにより手動的に設定される。具体的には、総合類似度が一定値(閾値)よりも高いリファレンス画像を選出し、表示するようにする。第1実施形態では、総合類似度が特定の条件以上(閾値以上)であるリファレンス画像が表示用のリファレンス画像として選択され、表示制御部62に送信される。具体的には、図15で、検査画像との比較により総合類似度がαβγと算出されたリファレンス画像が、リファレンス画像選択部61に送信される。ここでは、図16で示すような、総合類似度がそれぞれ87、95、92、30と算出されたリファレンス画像がリファレンス画像選択部61に送信されたとする。これらのリファレンス画像の中で順位付けを行うと、総合類似度が95のリファレンス画像が1位、92のリファレンス画像が2位、87のリファレンス画像が3位、30のリファレンス画像が4位と順位付けされる。ここで、特定の条件を「総合類似度が31以上」としたとする。この条件では、総合類似度が30のリファレンス画像は特定の条件を満たさないため、表示制御部62に送信されず、総合類似度が95、92、87のリファレンス画像は選択され、表示制御部62に送信される。上記構成により、提示するリファレンス画像を総合類似度の値によって取捨選択できる。例えば、リファレンス画像がリファレンス画像選択部61によって複数選択され、選択されたリファレンス画像がユーザーの想定よりも多い場合に、総合類似度の閾値を上げることで、より類似度が高いリファレンス画像のみを提示することができる。
注目領域強調処理部111は、前述の通り、総合特徴量の値に応じて、検査画像又はリファレンス画像における注目領域をマーキングとして強調表示する注目領域強調処理を行う。注目領域強調処理済みの検査画像と、注目領域強調処理済みのリファレンス画像とは、表示制御部62に送信されて、ディスプレイ15に表示される。以下、注目領域強調処理済みの検査画像については単に検査画像と表記し、注目領域強調処理済みのリファレンス画像についても単にリファレンス画像と表記する。なお、注目領域強調処理については、行わなくともよい。この場合には、注目領域のマーキング等が表示されていない検査画像又はリファレンス画像が、表示制御部62に送信されて、ディスプレイ15に表示される。
なお、注目領域強調処理に基づくマーキングの表示態様の例としては、図17に示すように、注目領域を囲うような円形の枠と符号(検査画像:I1、リファレンス画像:R1)で示している。なお、マーキングの表示態様としてはこの例に限られず、形状、色、大きさ、太さを適宜変更可能である。注目領域が複数存在する場合、各注目領域によって異なる形状、色、大きさ、太さ等のマーキングを使用してもよい。各マーキングに数字や文字等の記号を付記してもよい。なお、病変が極めて要注意であることをユーザーに意識させる場合は、黄色や赤色等で表示させてもよい。また、マーキングを表示させる総合特徴量の値は自動的もしくは手動的に設定される閾値によって設定されることが好ましい。なお、ディスプレイ15に表示される各内視鏡画像にマーキングを表示するか否かは、ユーザーが適宜設定できる。上記構成により、ユーザーが注目領域を容易に認識できるようになる。
表示制御部62は、検査画像と、リファレンス画像選択部61で選択されたリファレンス画像とを一画面にし、リファレンス画像提示画面120としてディスプレイ15に表示する。また、リファレンス画像と、リファレンス画像の診断結果と、総合類似度と、総合類似度の順位とを、リファレンス画像提示画面120として一画面に表示することが好ましい。第1実施形態における表示例を図17に示す。図17では、ディスプレイ15に検査画像ナンバー、検査画像の種類121、注目領域が強調表示された検査画像(この場合は重畳画像)123、リファレンス画像ナンバー、リファレンス画像の種類122、注目領域が強調表示されたリファレンス画像(白色光画像)124、リファレンス画像の診断結果125、総合類似度及び総合類似度の順位126が表示されている。上記構成により、ユーザーが、検査画像と診断済みのリファレンス画像を比較することで画像診断の鑑別精度を向上させることが可能になる。さらに、ユーザーと、ディスプレイ15を同時に観察している第三者との情報伝達を容易にする。また、検査画像中にリファレンス画像と比較するための情報(例えば、注目領域の画面中における大きさ、画面のブレ、明るさ、フォーカス)が不足しているかどうかの気づきを、内視鏡検査中においてユーザーに促すことができ、検査のやり直しを防止することができる。
リファレンス画像提示画面120において、デフォルトでは最も総合類似度の順位が高いリファレンス画像124が表示される。表示中のリファレンス画像124を、総合類似度が上位又は下位のリファレンス画像に切り替えるための操作用アイコンとして、順位切り替え用アイコン127がリファレンス画像提示画面120に表示されている。順位切り替え用アイコン127は、リファレンス画像124の右側又は左側に設けられている。順位切り替え用アイコン127は三角形のアイコンで表され、右方向又は左方向に向いている。左側の順位切り替え用アイコン127(図18参照)を操作することで、総合類似度が上位のリファレンス画像に切り替わる。一方、右側の順位切り替え用アイコン127を操作することで、総合類似度が下位のリファレンス画像に切り替わる。なお、順位切り替え用アイコン127の形状や表示態様はこの限りではない。
また、リファレンス画像提示画面120においては、検査画像123とリファレンス画像124の上側又は下側には、検査画像及びリファレンス画像の種類を切り替え可能であることを示す画像種類切替用アイコン128が表示されている。画像種類切替用アイコン128は三角形で表され、上方向又は下方向に向いている。なお、画像種類切替用アイコン128の形状や表示態様はこの限りではない。
順位切り替え用アイコン127又は画像種類切替用アイコン128に対する操作は、UI16のマウスやタッチパネルなどを用いてユーザーが操作することが好ましい。また、UI16とリファレンス画像提示スイッチ12gとを組み合わせて操作してもよい。例えば、ユーザーが、UI16のマウスやタッチパネルを介して、順位切り替え用アイコン127又は画像種類切替用アイコン128のいずれか1つを選択し、選択済みのアイコンをアクティブにした上で、リファレンス画像提示スイッチ12gを押すと、アクティブにしたアイコンに対応する表示が切り替わる。
順位切り替え用アイコン127を用いるリファレンス画像の切り替えについて、以下説明する。例えば、図17に示すように、総合類似度の順位が1位のリファレンス画像124が表示されている場合において、右側の順位切り替え用アイコン127をアクティブにした上でリファレンス画像提示スイッチ12gを押すと、総合類似度が2位のリファレンス画像に切り替わる他、リファレンス画像の診断結果、総合類似度及び総合類似度の順位の表示が切り替わり、図18に示す画面が表示される。すなわち、リファレンス画像提示スイッチ12gは、リファレンス画像の表示を切り替えるトグルスイッチとしても機能させることができる。
なお、ユーザー設定により、順位切り替え用アイコン127のみをアクティブにすることも可能である。この場合には、UI16による順位切り替え用アイコン127をアクティブにする操作は不要である。例えば、リファレンス画像提示スイッチ12gの普通押しにより、右側の順位切り替え用アイコン127を操作して、総合類似度が下位のリファレンス画像に表示を切り替え、リファレンス画像提示スイッチ12gの早押し(普通押しよりも短い間隔での押圧操作)により、左側の順位切り替え用アイコン127を操作して、総合類似度が上位のリファレンス画像に表示を切り替えるようにしてもよい。
なお、内視鏡12やUI16に、新たに順位切り替え用ボタンや表示画像切り替え用ボタンを設けてもよい。上記構成により、ユーザーが、診断済みのリファレンス画像を見比べることができ、診断精度を向上させることが可能になる。さらに、ユーザーが経験した症例に類似の症例を収集しやすくすることができる。
画像種類切替用アイコン128を用いる検査画像の切り替えについて、以下説明する。例えば、図17に示すように、リファレンス画像提示画面120において、デフォルトでは、検査画像123として表示される画像は重畳画像であり、リファレンス画像124として表示される画像は診断済みの白色光画像である。
検査画像123としてディスプレイ15に表示可能な画像は、第1照明光画像、第2照明光画像もしくは重畳画像の少なくともいずれか1つであり、検査画像側の画像種類切替用アイコン128を操作することによって、互いに切り替えが可能である。また、リファレンス画像124として表示可能な画像は、リファレンス画像記憶メモリ80に記憶されている診断済みの画像、例えば、診断済みの白色光画像もしくは診断済みの特殊光画像である。リファレンス画像側の画像種類切替用アイコン128を操作することによって、診断済みの白色光画像もしくは診断済みの特殊光画像を互いに切り替えが可能である。なお、検査画像側又はリファレンス画像側の画像種類切替用アイコン128の操作方法については、画像種類切替用アイコン128の操作方法と同様である。
例えば、図17に示すように、検査画像123として重畳画像が、リファレンス画像124として白色光画像が表示されている場合において、検査画像側の画像種類切替用アイコン128を操作すると、図19に示すように、表示中の検査画像123が、重畳画像から第2照明光画像に切り替わる。また、リファレンス画像側の画像種類切替用アイコン128を操作すると、表示中のリファレンス画像124が、白色光画像から特殊光画像に切り替わる。上記構成により、ユーザーが希望する内視鏡画像の種類で、検査画像とリファレンス画像とを比較することができる。加えて、リファレンス画像として白色光画像もしくは特殊光画像のどちらかのみが存在する場合における、検査画像とリファレンス画像との比較においても上記構成は有用である。
リファレンス画像提示画面120において、検査画像側の画像種類切替用アイコン128で特殊光画像(第2照明光画像)に設定した場合には、リファレンス画像側の画像種類切替用アイコン128を操作しなくとも、査画像と同じ種類の同じ種類の特殊光で撮像したリファレンス画像(特殊光画像)の表示に自動的に切り替えるようにしてもよい。なお、この場合、検査画像の種類に合わせてリファレンス画像の種類を自動的に切り替える設定ができるとよい。上記構成により、ユーザーが使い慣れていない特殊光画像を観察する場合においても、リファレンス画像と見比べることで着目すべき領域を把握し、鑑別を行いやすくすることができる。本願発明の内視鏡システムでは、複数種類の第2照明光を自動的に切り替えて被写体を撮像することを想定しているため、ユーザーが使い慣れていない種類の第2照明光画像が検査画像として表示される場合がある。また、第2照明光の種類が増えると、ユーザーはあらゆる第2照明光の種類で撮影された被写体の鑑別方法を習得しなければならないため、第2照明光の種類によっては、ユーザーが観察に慣れていないことが想定される。上記構成により、検査画像の第2照明光の種類と同じ種類の第2照明光を用いて撮像されたリファレンス画像を観察できるため、ユーザーが見慣れていない種類の第2照明光画像の観察を容易にすることができる。
総合類似度が特定の条件を満たすリファレンス画像が存在しない場合、あるいはリファレンス画像の数が適宜設定した閾値を下回る場合、リファレンス画像選択部61は表示制御部62に警告表示を行う旨の指示を送り、リファレンス画像提示画面120において警告を表示する。例えば、図20に示すように、総合類似度と総合類似度の順位を示す枠を通常より太く表示し、警告表示130としてもよい。警告表示130はこの方法に限られない。例えば、総合類似度や総合類似度の順位の色、大きさ、太さを変更してもよく、通常リファレンス画像が表示される位置に「リファレンス画像が存在しません」と文字で警告表示してもよく、ランプ(図示しない)や音声によって警告してもよい。上記構成により、類似度が低い場合、もしくは適切なリファレンス画像が存在しない場合に、ユーザーが精度の低い診断を行うことを防止できる。また、ユーザーに対し、検査画像における新しい症例や珍しい症例の発見を促すことができる。
第1実施形態におけるリファレンス画像提示モードの一連の流れについて、図21に示すフローチャートに沿って説明を行う。検査画像が取得されているもしくはされた際に(ステップS11)、リファレンス画像提示スイッチ12gが押されると、リファレンス画像提示モード切替部56を操作して、リファレンス画像提示モードに切り替える(ステップS12)。この操作により、検査画像及びリファレンス画像記憶メモリ80に保存されている診断済みのリファレンス画像が類似度算出部60に送信され(ステップS13、ステップS14)、検査画像とリファレンス画像との間における総合類似度が算出される(ステップS15)。次に、特定の条件を満たすリファレンス画像がリファレンス画像選択部で選択され(ステップS16)、最終的に、検査画像と、特定の条件を満たすリファレンス画像と、当該の画像間における総合類似度とが、リファレンス画像提示画面120としてディスプレイ15に表示される(ステップS17)。
上記段落までにおいて、リファレンス画像提示スイッチ12gをユーザーが手動で操作することにより、リファレンス画像提示モードに切り替えて、リファレンス画像を提示する例を示したが、これに加えて、解析処理に基づいて、リファレンス画像提示モードに自動的に切り替えるようにしてもよい。例えば、解析処理によって、注目領域を検出した場合、注目領域の検出をトリガーとして、リファレンス画像提示スイッチ12gを押さなくとも、自動的にリファレンス画像提示モードに切り替えて、検査画像とリファレンス画像とをディスプレイ15に表示する。リファレンス画像提示モードに切り替えた後の処理等については、リファレンス画像提示スイッチ12gによって手動で切り替えた場合の処理等と同様である。
[第2実施形態]
第2実施形態では、検査画像をリファレンス画像として保存するために、検査画像保存ボタン150、静止画像取得部63、診断結果入力部64を有する場合について記載する。
リファレンス画像提示画面120をディスプレイ15に表示するに至るまでの構成は第1実施形態と共通であるため、記載を省略する。リファレンス画像提示画面120において、第2実施形態においては、図22が表示される。図22では、リファレンス画像提示画面120として、第1実施形態において表示される、検査画像ナンバー、検査画像の種類121、注目領域が強調表示された検査画像(重畳画像)123、リファレンス画像ナンバー、リファレンス画像の種類122、注目領域が強調表示された最も総合類似度の順位が高いリファレンス画像(白色光画像)124、リファレンス画像の診断結果125、総合類似度及び総合類似度の順位126に加えて、リファレンス画像の診断結果を検査画像の診断結果としてユーザーが承認又は否認するための、「Yes」もしくは「No」で示す承認ボタン140及び否認ボタン141、否認ボタン141の近傍に表示される診断結果入力フォーム142、検査画像保存ボタン150、スクリーンショットボタン151、処置開始ボタン152が表示されている。
ユーザーがリファレンス画像の診断結果と、検査画像の診断結果が一致しないと認識し、否認ボタン141が押された場合、ユーザーは検査画像に係る診断結果を、UI16を通じて、診断結果入力フォーム142に入力することができる。否認ボタン141が押され、診断結果が入力され、検査画像保存ボタン150が押された場合、静止画像取得部63が、検査画像を静止画として取得し、診断結果入力部64が、静止画として取得した検査画像と、特徴量と、ユーザーが入力した診断結果とを対応付けて、新規の診断済みのリファレンス画像としてリファレンス画像記憶メモリ80に保存することができる。なお、検査画像保存ボタン150に替えて、静止画像取得指示スイッチ12hを検査画像取得のトリガーとしてもよい。なお、上記の実施例では、否認ボタン141が押され、診断結果入力フォーム142に診断結果が入力された後に、検査画像保存ボタン150もしくは静止画像取得指示スイッチ12hが押される構成であるが、検査画像保存ボタン150もしくは静止画像取得指示スイッチ12hが押されるタイミングは、否認ボタン141が押されて診断結果が入力される。
上記構成の具体例を挙げると、例えば、図22において、検査画像の注目領域I1が、リファレンス画像の注目領域R1に係る鑑別結果(腫瘍の種類がType1、腫瘍のステージがStage1)と異なるとユーザーが判断した場合、否認ボタン141を押すと診断結果入力フォーム142に入力ができるようになる。ここで、ユーザーが診断した検査画像の注目領域I1に係る診断結果(例えば、腫瘍の種類がType1、腫瘍のステージがStage2)を入力し、検査画像保存ボタン150を押すと、現在表示されている検査画像123が静止画として取得されて診断結果入力部64に送信され、診断結果入力部64において、静止画に「腫瘍の種類がType1、腫瘍のステージがStage2」という診断結果が対応付けられる。上記構成により、検査画像と、検査画像に対応付けられる診断結果とを、診断済みのリファレンス画像として、リファレンス画像記憶メモリ80に保存することができる。また、その上で、AI(Artificial Intelligence)の教師データとして学習に用い、リファレンス画像を提示する精度を向上させることができる。
第2実施形態において、検査画像をリファレンス画像として保存する一連の流れについて、図23に示すフローチャートに沿って説明を行う。まず、リファレンス画像提示画面120に否認ボタン141が押されると(ステップS21)、診断結果が診断結果入力フォーム142に入力される(ステップS22)。次に、検査画像保存ボタン150が押されると(ステップS23)、静止画像取得部63が、検査画像を静止画として取得する(ステップS24)。次いで、診断結果入力部64が、静止画として取得された検査画像と、診断結果入力フォーム142に入力された診断結果とを対応付ける(ステップS25)。最終的に、診断結果が対応付けられたことで診断済みになった静止画が、新規にリファレンス画像記憶メモリ80に保存される(ステップS26)。
第2実施形態において、リファレンス画像記憶メモリ80に、検査画像が新規のリファレンス画像として1つ以上保存されている場合、リファレンス画像提示画面120においてデフォルトでリファレンス画像として表示される画像は重畳画像である。この場合において、リファレンス画像として表示する画像は、白色光画像(第1照明光画像)、特殊光画像(第2照明光画像)もしくは重畳画像の少なくともいずれか1つであり、リファレンス画像提示スイッチ12gを押すことで、互いに切り替えが可能であることが好ましい。
リファレンス画像提示画面120には、スクリーンショットボタン151が表示されている。ユーザーがスクリーンショットボタン151を押すと、ディスプレイ15に表示されているリファレンス画像提示画面120を静止画として取得し、メモリ(図示しない)に保存できる。上記構成により、検査記録システムや電子カルテなどの保存媒体にリファレンス画像提示画面120を記録することができる。さらに、症例記録の収集を検査中において容易に行うことができる。
リファレンス画像提示画面120には、処置開始ボタン152が表示されている。ユーザーが処置開始ボタン152を押すと、処置開始時間がメモリ(図示しない)に記録される。上記構成により、検査記録システムや電子カルテなどの保存媒体に処置開始時間を記録することができる。さらに、検査画像を静止画として取得した場合に、静止画中の注目領域の処置に掛かる時間を、静止画に対応付けて保存することができる。
なお、上記実施形態では、医用画像として、内視鏡画像を取得する内視鏡システムに対して、本発明の医療用画像処理装置を適用しているが、カプセル内視鏡など、さまざまな内視鏡システムに対して、適用可能であることはいうまでもなく、その他の医用画像として、X線画像、CT画像、MR画像、超音波画像、病理画像、PET(Positron Emission Tomography)画像などを取得する各種医用画像装置に対しても、本発明の医療用画像処理装置の適用は可能である。
上記実施形態において、光源用プロセッサ21、撮像用プロセッサ44、画像取得部50、DPS52、ノイズ低減部53、画像処理切替部54、画像処理部58に含まれる第1照明光画像生成部55a、第2照明光画像生成部55b、重畳画像生成部55c、中央制御部70といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよく、同種又は異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。また、記憶部のハードウェア的な構造はHDD(hard disc drive)やSSD(solid state drive)等の記憶装置である。
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
12f 観察モード切替スイッチ
12g リファレンス画像提示スイッチ
12h 静止画像取得指示スイッチ
12i ズーム操作部
13 光源装置
14 プロセッサ装置
15 ディスプレイ
16 UI
20 光源ユニット
20a V-LED
20b B-LED
20c G-LED
20d R-LED
21 光源用プロセッサ
22 光路結合部
23 ライトガイド
30a 照明光学系
30b 撮像光学系
31 照明レンズ
41 対物レンズ
42 ズームレンズ
43 撮像センサ
44 撮像用プロセッサ
45 CDS/AGC回路
46 A/Dコンバータ
50 画像取得部
52 DSP
53 ノイズ低減部
54 画像処理切替部
55 検査画像取得部
55a 第1照明光画像生成部
55b 第2照明光画像生成部
55c 重畳画像生成部
56 リファレンス画像提示モード切替部
60 類似度算出部
61 リファレンス画像選択部
62 表示制御部
63 静止画像取得部
64 診断結果入力部
70 中央制御部
80 リファレンス画像記憶メモリ
100 特徴量算出部
101 検査画像の特徴量算出部
102 リファレンス画像の特徴量算出部
110 個別類似度及び総合類似度算出部
111 注目領域強調処理部
120 リファレンス画像提示画面
121 検査画像の種類
122 リファレンス画像の種類
123 検査画像
124 リファレンス画像
125 リファレンス画像の診断結果
126 総合類似度及び総合類似度の順位
127 順位切り替え用アイコン
128 画像種類切替用アイコン
130 警告表示
140 承認ボタン
141 否認ボタン
142 診断結果入力フォーム
150 検査画像保存ボタン
151 スクリーンショットボタン
152 処置開始ボタン

Claims (18)

  1. 互いに発光スペクトルが異なる第1照明光と第2照明光とを発する光源ユニットであって、前記第1照明光を発光する第1照明期間と前記第2照明光を発光する第2照明期間とを自動的に切り替える場合において、前記第1照明光を第1発光パターンで発光し、前記第2照明光を第2発光パターンで発光する光源ユニットと、
    画像制御用プロセッサを備え、
    前記画像制御用プロセッサは、
    前記第1照明光を被写体に照射して撮像した第1照明光画像、前記第2照明光を被写体に照射して撮像した第2照明光画像、及び、前記第2照明光画像を解析処理して得られた解析結果を前記第1照明光画像に重畳表示した重畳画像のうち少なくともいずれか1つを検査画像として取得し、
    前記検査画像とリファレンス画像とを特徴量に基づいて比較して総合類似度を算出し、
    診断済みの前記リファレンス画像を記憶するリファレンス画像記憶メモリを参照して、総合類似度が算出された複数の前記リファレンス画像のうち、前記総合類似度が特定の条件を満たす前記リファレンス画像を選択し、
    前記検査画像と、選択された前記リファレンス画像とをディスプレイに表示し、
    前記ディスプレイに表示される前記検査画像と同じ種類の照明光で撮像された前記リファレンス画像を表示するように、前記リファレンス画像を自動的に切り替える内視鏡システム。
  2. 前記画像制御用プロセッサは、
    リファレンス画像提示スイッチが押された後に、前記リファレンス画像の前記特徴量を算出し、
    前記検査画像及び前記リファレンス画像の前記特徴量に基づいて前記総合類似度が算出された上で、前記特定の条件を満たす前記リファレンス画像と前記検査画像とを表示する請求項1に記載の内視鏡システム。
  3. 前記リファレンス画像の表示は、前記総合類似度の順位にならって切り替えが可能である請求項1又は2に記載の内視鏡システム。
  4. 前記検査画像として表示する画像は、前記重畳画像、前記第1照明光画像又は前記第2照明光画像の少なくともいずれか1つであり、互いに切り替えが可能である請求項1ないし3のいずれか1項に記載の内視鏡システム。
  5. 前記リファレンス画像として表示する画像は、白色光画像又は特殊光画像のいずれか1つであり、互いに切り替えが可能である請求項1ないし4のいずれか1項に記載の内視鏡システム。
  6. 前記検査画像と前記リファレンス画像の前記特徴量の比較は、前記第1照明光画像と前記白色光画像との間、又は、前記第2照明光画像と前記特殊光画像との間で行う請求項5に記載の内視鏡システム。
  7. 前記特定の条件が満たされない場合に警告表示を行う請求項1ないし6のいずれか1項に記載の内視鏡システム。
  8. 前記リファレンス画像を複数選択する場合、前記特定の条件を変更できる請求項1ないし7のいずれか1項に記載の内視鏡システム。
  9. 前記検査画像を静止画として取得し、前記静止画を前記リファレンス画像として前記リファレンス画像記憶メモリに保存する請求項1ないし8のいずれか1項に記載の内視鏡システム。
  10. 前記静止画と、診断結果とを対応付け、新規の診断済みの前記リファレンス画像として前記リファレンス画像記憶メモリに保存する請求項9に記載の内視鏡システム。
  11. 前記検査画像及び前記リファレンス画像における、注目領域の診断結果を前記ディスプレイに表示する請求項1ないし10のいずれか1項に記載の内視鏡システム。
  12. 前記検査画像及び前記リファレンス画像と同一の画面上に、前記総合類似度と前記リファレンス画像に対応付けた前記総合類似度の順位とを前記ディスプレイに表示する請求項1ないし11のいずれか1項に記載の内視鏡システム。
  13. 前記検査画像と前記リファレンス画像を同一の画面上に表示し、かつ、前記検査画像が前記第2照明光画像である場合、前記検査画像を撮像した際に照射した前記第2照明光と同じ発光スペクトルの特殊光を照射して撮像された前記リファレンス画像の表示に自動的に切り替える請求項1ないし12のいずれか1項に記載の内視鏡システム。
  14. 前記画像制御用プロセッサは、
    前記解析処理によって、注目領域を検出した場合に、前記リファレンス画像の前記特徴量を算出し、前記特徴量に基づいて前記総合類似度が算出された上で、前記特定の条件を満たす前記リファレンス画像と前記検査画像とを表示する請求項1ないし13のいずれか1項記載の内視鏡システム。
  15. 前記画像制御用プロセッサは、
    前記検査画像、及び、前記リファレンス画像記憶メモリに記憶される前記リファレンス画像を、類似度出力用の学習モデルに入力することにより、前記リファレンス画像毎に、前記総合類似度を出力する請求項1ないし14のいずれか1項記載の内視鏡システム。
  16. 前記第1発光パターンは、前記第1照明期間のフレーム数が、それぞれの前記第1照明期間において同じである第1Aターンと、前記第1照明期間のフレーム数が、それぞれの前記第1照明期間において異なっている第1Bターンとのうちのいずれか1つである、請求項1ないし15のいずれか1項に記載の内視鏡システム。
  17. 前記第2発光パターンは、
    前記第2照明期間のフレーム数が、それぞれの前記第2照明期間において同じであり、且つ、前記第2照明光の発光スペクトルが、それぞれの前記第2照明期間において同じである第2Aパターン、
    前記第2照明期間のフレーム数が、それぞれの前記第2照明期間において同じであり、且つ、前記第2照明光の発光スペクトルが、それぞれの前記第2照明期間において異なっている第2Bパターン、
    前記第2照明期間のフレーム数が、それぞれの前記第2照明期間において異なっており、且つ、前記第2照明光の発光スペクトルが、それぞれの前記第2照明期間において同じである第2Cパターン、及び、
    前記第2照明期間のフレーム数が、それぞれの前記第2照明期間において異なっており、且つ、前記第2照明光の発光スペクトルが、それぞれの前記第2照明期間において異なっている第2Dパターンのうちのいずれか1つである、請求項1ないし16のいずれか1項に記載の内視鏡システム。
  18. 互いに発光スペクトルが異なる第1照明光と第2照明光とを発する光源ユニットであって、前記第1照明光を発光する第1照明期間と前記第2照明光を発光する第2照明期間とを自動的に切り替える場合において、前記第1照明光を第1発光パターンで発光し、前記第2照明光を第2発光パターンで発光する光源ユニット、及び、画像制御用プロセッサを備える内視鏡システムの作動方法において、
    前記画像制御用プロセッサは、
    前記第1照明光を被写体に照射して撮像した第1照明光画像、前記第2照明光を被写体に照射して撮像した第2照明光画像、及び、前記第2照明光画像を解析処理して得られた解析結果を前記第1照明光画像に重畳表示した重畳画像のうち少なくともいずれか1つを検査画像として取得し、
    前記検査画像とリファレンス画像とを特徴量に基づいて比較して総合類似度を算出し、
    診断済みの前記リファレンス画像を記憶するリファレンス画像記憶メモリを参照して、前記総合類似度が算出された複数の前記リファレンス画像のうち、前記総合類似度が特定の条件を満たす前記リファレンス画像を選択し、
    前記検査画像と、選択された前記リファレンス画像とをディスプレイに表示し、
    前記ディスプレイに表示される前記検査画像と同じ種類の照明光で撮像された前記リファレンス画像を表示するように、前記リファレンス画像を自動的に切り替える内視鏡システムの作動方法。
JP2022538577A 2020-07-21 2021-02-09 内視鏡システム及びその作動方法 Active JP7386347B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020124793 2020-07-21
JP2020124793 2020-07-21
PCT/JP2021/004825 WO2022018894A1 (ja) 2020-07-21 2021-02-09 内視鏡システム及びその作動方法

Publications (3)

Publication Number Publication Date
JPWO2022018894A1 JPWO2022018894A1 (ja) 2022-01-27
JPWO2022018894A5 JPWO2022018894A5 (ja) 2023-02-22
JP7386347B2 true JP7386347B2 (ja) 2023-11-24

Family

ID=79729362

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022538577A Active JP7386347B2 (ja) 2020-07-21 2021-02-09 内視鏡システム及びその作動方法

Country Status (3)

Country Link
JP (1) JP7386347B2 (ja)
CN (1) CN116134363A (ja)
WO (1) WO2022018894A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2607579A (en) * 2021-06-01 2022-12-14 Geovisual Tech Inc Tool for counting and sizing plants in a field
CN115835448B (zh) * 2022-12-28 2024-03-19 无锡车联天下信息技术有限公司 一种调节灯光的方法、装置、内窥镜设备及介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015146519A1 (ja) 2014-03-27 2015-10-01 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
WO2017199509A1 (ja) 2016-05-19 2017-11-23 オリンパス株式会社 生体観察システム
WO2018159347A1 (ja) 2017-02-28 2018-09-07 富士フイルム株式会社 プロセッサ装置、内視鏡システム及びプロセッサ装置の作動方法
WO2018180631A1 (ja) 2017-03-30 2018-10-04 富士フイルム株式会社 医療用画像処理装置及び内視鏡システム並びに医療用画像処理装置の作動方法
WO2020054255A1 (ja) 2018-09-12 2020-03-19 富士フイルム株式会社 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の操作方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015146519A1 (ja) 2014-03-27 2015-10-01 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
WO2017199509A1 (ja) 2016-05-19 2017-11-23 オリンパス株式会社 生体観察システム
WO2018159347A1 (ja) 2017-02-28 2018-09-07 富士フイルム株式会社 プロセッサ装置、内視鏡システム及びプロセッサ装置の作動方法
WO2018180631A1 (ja) 2017-03-30 2018-10-04 富士フイルム株式会社 医療用画像処理装置及び内視鏡システム並びに医療用画像処理装置の作動方法
WO2020054255A1 (ja) 2018-09-12 2020-03-19 富士フイルム株式会社 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の操作方法

Also Published As

Publication number Publication date
CN116134363A (zh) 2023-05-16
WO2022018894A1 (ja) 2022-01-27
JPWO2022018894A1 (ja) 2022-01-27

Similar Documents

Publication Publication Date Title
JP6785948B2 (ja) 医療用画像処理装置及び内視鏡システム並びに医療用画像処理装置の作動方法
JP7146925B2 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JP6917518B2 (ja) 内視鏡システム
US11969148B2 (en) Medical image processing device
JP6823072B2 (ja) プロセッサ装置及び内視鏡システム
JP7386347B2 (ja) 内視鏡システム及びその作動方法
JP2020065685A (ja) 内視鏡システム
JP7508559B2 (ja) 画像解析処理装置、内視鏡システム、画像解析処理装置の作動方法、及び画像解析処理装置用プログラム
WO2022014258A1 (ja) プロセッサ装置、プロセッサ装置の作動方法
WO2021199910A1 (ja) 医用画像処理システム、医用画像処理システムの作動方法
JPWO2020039929A1 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
US20230101620A1 (en) Medical image processing apparatus, endoscope system, method of operating medical image processing apparatus, and non-transitory computer readable medium
JP6731065B2 (ja) 内視鏡システム及びその作動方法
WO2022071413A1 (ja) 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム
JP7217351B2 (ja) 画像処理装置、内視鏡システム、及び画像処理装置の作動方法
WO2023007896A1 (ja) 内視鏡システム、プロセッサ装置及びその作動方法
JP7411515B2 (ja) 内視鏡システム及びその作動方法
WO2022044371A1 (ja) 内視鏡システム及びその作動方法
JP7506159B2 (ja) 内視鏡システム及びその作動方法
WO2022059233A1 (ja) 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム
JP7307709B2 (ja) 処置具管理システム、内視鏡システム及びその作動方法
JP7556960B2 (ja) 内視鏡システム及びその作動方法
JP2022090759A (ja) 医用画像処理システム、医用画像処理システムの作動方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231024

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231113

R150 Certificate of patent or registration of utility model

Ref document number: 7386347

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150