JP7477208B2 - 内視鏡システム及びその作動方法 - Google Patents

内視鏡システム及びその作動方法 Download PDF

Info

Publication number
JP7477208B2
JP7477208B2 JP2022530028A JP2022530028A JP7477208B2 JP 7477208 B2 JP7477208 B2 JP 7477208B2 JP 2022530028 A JP2022530028 A JP 2022530028A JP 2022530028 A JP2022530028 A JP 2022530028A JP 7477208 B2 JP7477208 B2 JP 7477208B2
Authority
JP
Japan
Prior art keywords
image
observation
still
observational
still image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022530028A
Other languages
English (en)
Other versions
JPWO2021250952A1 (ja
Inventor
昌之 蔵本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2021250952A1 publication Critical patent/JPWO2021250952A1/ja
Application granted granted Critical
Publication of JP7477208B2 publication Critical patent/JP7477208B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)

Description

本発明は、複数種類の観察画像を切り替えて表示する場合において、複数種類の観察画像の静止画を保存する内視鏡システム及びその作動方法に関する。
近年の医療分野では、光源装置、内視鏡、プロセッサ装置を備える内視鏡システムが広く用いられている。内視鏡システムでは、内視鏡から観察対象に照明光を照射し、その照明光で照明中の観察対象を内視鏡の撮像素子で撮像して得られるRGB画像信号に基づいて、観察対象の画像をディスプレイ上に表示する。
また、近年では、診断の目的に応じて、表示内容が異なる複数の観察画像を同時に又は切り替えてディスプレイに表示することが行われている。例えば、特許文献1では、表層血管を強調する第1観察画像と深層血管を強調する第2観察画像とを切り替えてディスプレイの表示する場合において、第1観察画像と第2観察画像の背景粘膜の色調を同一とすることにより、第1観察画像と第2観察画像の違いが分かるようにしている。
国際公開第2019/163540号 特許第5587932号公報
上記のように、表示内容が異なる複数種類の観察画像を同時に又は切り替えてディスプレイに表示する場合においても、事後的な診断を行うため、それら複数種類の観察画像の静止画を静止画保存メモリに保存することが求められている。複数種類の観察画像の静止画を保存する場合には、ユーザーが事前に、それら静止画の内容を確認してから、静止画保存メモリに保存することが好ましい。
これに関して、特許文献2には、複数種類の観察画像として、酸素飽和度観察用静止画、通常観察用静止画、血管強調観察用静止画を保存する場合には、それら3種類の静止画を、一定時間ごとに1つずつ切り替えて連続的にディスプレイに表示することが記載されている。ただし、3種類の静止画の表示を切り替える時間によっては、それら静止画の内容の違いを把握することが難しい場合がある。
本発明は、複数種類の観察画像の静止画を保存する場合において、それら複数種類の観察画像の静止画の違いを保存前に確認することができる内視鏡システム及びその作動方法を提供することを目的とする。
本発明の内視鏡システムは、第1観察画像、又は、第1観察画像と異なる第2観察画像を表示するディスプレイと、第1観察画像の静止画又は第2観察画像の静止画を取得するためのフリーズ処理を行うフリーズ処理操作部材と、画像処理用プロセッサとを備え、画像処理用プロセッサは、動画表示期間において、第1観察画像と第2観察画像とを動画切替周期で自動的に切り替えてディスプレイに表示し、フリーズ処理によって開始する静止画表示期間において、第1観察画像の静止画及び第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリに保存する候補として、第1観察画像の静止画に対応する第1保存候補画像と第2観察画像の静止画に対応する第2保存候補画像とを選択し、且つ、第1保存候補画像と第2保存候補画像とを静止画切替周期で自動的に切り替えてディスプレイに表示し、静止画切替周期は前記動画切替周期よりも早くし、静止画切替周期>動画切替周期の関係を維持されるように、ユーザーインターフェースを用いて、動画切替周期と静止画切替周期の少なくとも一方を設定する。
画像処理用プロセッサは、静止画セットに含まれる第1観察画像の静止画のうち、最もブレが少ないブレ最小の第1観察画像の静止画を、第1保存候補画像として選択し、且つ、静止画セットに含まれる第2観察画像の静止画のうち、ブレ最小の第1観察画像の静止画に対して位置ずれが少ない位置ずれ最小の第2観察画像の静止画を、第2保存候補画像として選択することが好ましい。画像処理用プロセッサは、ブレ最小の第1観察画像の静止画と位置ずれ最小の第2観察画像の静止画とを位置合わせする位置合わせ処理を行うことが好ましい。
画像処理用プロセッサは、静止画セットに含まれる第2観察画像の静止画のうち、最もブレが少ないブレ最小の第2観察画像の静止画を、第2保存候補画像として選択し、且つ、静止画セットに含まれる第1観察画像の静止画のうち、ブレ最小の第2観察画像の静止画に対して位置ずれが少ない位置ずれ最小の第1観察画像の静止画を、第1保存候補画像として選択することが好ましい。画像処理用プロセッサは、位置ずれ最小の第1観察画像の静止画とブレ最小の第2観察画像の静止画とを位置合わせする位置合わせ処理を行うことが好ましい。
静止画切替周期は、第1保存候補画像と第2保存候補画像の切替表示の回数が1秒間で3回以下であることが好ましい。画像処理用プロセッサは、ユーザーインターフェースを用いて、動画切替周期と静止画切替周期との少なくとも一方を設定することが好ましい。画像処理用プロセッサは、フリーズ処理を開始したタイミングで第1観察画像をディスプレイに表示している場合には、静止画表示期間では、第1保存候補画像の静止画をディスプレイに表示した後に、第1保存候補画像と第2保存候補画像とを静止画切替周期で自動的に切り替えてディスプレイに表示することが好ましい。
フリーズ処理操作部材に加えて、第1保存候補画像と第2保存候補画像を静止画保存メモリに保存する静止画保存処理を行うための保存処理操作部材を備え、画像処理用プロセッサは、少なくともフリーズ処理操作部材を操作した場合にフリーズ処理を実行し、フリーズ処理実行中に、保存処理操作部材を操作することにより、静止画保存処理を実行することが好ましい。フリーズ処理操作部材の操作に従って開始するフリーズ設定時間内は、フリーズ処理操作部材の操作を解除した場合であっても、フリーズ処理が継続することが好ましい。
第1分光情報を有する第1照明光と、第1分光情報とことなる第2分光情報を有する第2照明光とを発する光源部と、光源用プロセッサとを有し、光源用プロセッサは、第1照明光と第2照明光とを自動的に切り替え、第1観察画像は、第1照明光により照明された観察対象を撮像することにより得られ、第2観察画像は、第2照明光により照明された観察対象を撮像することにより得られることが好ましい。
画像処理用プロセッサは、観察画像生成用画像を取得し、観察画像生成用画像の第1色信号を明るさ情報に割り当てて第1観察画像を生成し、観察画像生成用画像の第2色信号を明るさ情報に割り当てて第2観察画像を生成することが好ましい。
第1観察画像と第2観察画像とは同一の観察対象が表示されており、かつ、少なくとも背景粘膜の一部が同じ色調であり、第1観察画像が有する第1分光情報と第2観察画像が有する第2分光情報とは異なっていることが好ましい。
本発明の内視鏡システムは、第1観察画像、又は、第1観察画像と異なる第2観察画像を表示するディスプレイと、第1観察画像の静止画又は第2観察画像の静止画を取得するためのフリーズ処理を行うフリーズ処理操作部材と、画像処理用プロセッサとを備え、画像処理用プロセッサは、観察画像生成用画像を取得し、観察画像生成用画像の第1色信号を明るさ情報に割り当てた第1色信号画像、又は、観察画像生成用画像の第2色信号を明るさ情報に割り当てた第2色信号画像のいずれか一方を第1観察画像と、他方を第2観察画像として生成し、動画表示期間において、第1観察画像と第2観察画像とを動画切替周期で自動的に切り替えてディスプレイに表示し、フリーズ処理によって開始する静止画表示期間において、第1観察画像の静止画及び第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリに保存する候補として、ブレ最小の第1観察画像の静止画に対応する第1保存候補画像と、第1保存候補画像と同じ観察画像生成用画像より生成された第2観察画像の静止画に対応する第2保存候補画像とを選択し、且つ、第1保存候補画像と第2保存候補画像とを静止画切替周期で自動的に切り替えてディスプレイに表示し、静止画切替周期は動画切替周期よりも早くし、静止画切替周期>動画切替周期の関係を維持されるように、ユーザーインターフェースを用いて、動画切替周期と静止画切替周期の少なくとも一方を設定する。
本発明は、第1観察画像、又は、第1観察画像と異なる第2観察画像を表示するディスプレイと、第1観察画像の静止画又は第2観察画像の静止画を取得するためのフリーズ処理を行うフリーズ処理操作部材と、画像処理用プロセッサとを備える内視鏡システムの作動方法おいて、画像処理用プロセッサは、動画表示期間において、第1観察画像と第2観察画像とを動画切替周期で自動的に切り替えてディスプレイに表示し、フリーズ処理によって開始する静止画表示期間において、第1観察画像の静止画及び第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリに保存する候補として、第1観察画像の静止画に対応する第1保存候補画像と第2観察画像の静止画に対応する第2保存候補画像とを選択し、且つ、第1保存候補画像と第2保存候補画像とを静止画切替周期で自動的に切り替えてディスプレイに表示し、静止画切替周期は動画切替周期よりも早くし、静止画切替周期>動画切替周期の関係を維持されるように、ユーザーインターフェースを用いて、動画切替周期と静止画切替周期の少なくとも一方を設定する。
本発明によれば、複数種類の観察画像の静止画を保存する場合において、それら複数種類の観察画像の静止画の違いを保存前に確認することができる。
第1実施形態の内視鏡システムの外観図である。 第1実施形態の内視鏡システムの機能を示すブロック図である。 紫色光V、青色光B、緑色光G、及び赤色光Rの発光スペクトルを示すグラフである。 紫色光V、緑色光G、及び赤色光Rを含む第1照明光の発光スペクトルを示すグラフである。 緑色光G及び赤色光Rを含む第2照明光の発光スペクトルを示すグラフである。 第1観察画像を示す画像図である。 第2観察画像を示す画像図である。 カラーの第1観察画像と第2観察画像の切り替え表示を示す説明図である。 動画表示期間及び静止画表示期間を示す説明図である。 静止画セットを示す説明図である。 ブレ最小の第1観察画像の静止画と位置ずれ最小の第2観察画像の静止画を示す説明図である。 ブレ最小の第1観察画像の静止画と位置ずれ最小の第2観察画像の静止画の切替表示を示す説明図である。 動画切替周期及び静止画切替周期を示す説明図である。 切替周期設定メニューを示す画像図である。 フリーズ処理及び静止画保存処理の流れを示すフローチャートである。 別の実施形態の内視鏡の操作部の一部を示す平面図である。 第1実施形態における別形態の内視鏡システムの機能を示すブロック図である。 第2実施形態の内視鏡システムの機能を示すブロック図である。 第1観察画像生成処理を示す説明図である。 第2観察画像生成処理を示す説明図である。 解析処理モード時の第1Aターン又は第2Aパターンを示す説明図である。 解析処理モード時の第1Bターンを示す説明図である。 解析処理モード時の第2Bパターンを示す説明図である。 解析処理モード時の第2Cパターンを示す説明図である。 解析処理モード時の第2Dパターンを示す説明図である。 第1撮像期間及び第2撮像期間を示す説明図である。 解析処理モードにおける照明制御、解析処理、及び画像表示を時系列順で示す説明図である。
[第1実施形態]
図1に示すように、第1実施形態の内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、ディスプレイ18と、ユーザーインターフェース19とを有する。内視鏡12は光源装置14と光学的に接続され、且つ、プロセッサ装置16と電気的に接続される。内視鏡12は、被検体内に挿入される挿入部12aと、挿入部12aの基端部分に設けられた操作部12bと、挿入部12aの先端側に設けられる湾曲部12c及び先端部12dを有している。操作部12bのアングルノブ12eを操作することにより、湾曲部12cは湾曲動作する。この湾曲動作に伴って、先端部12dが所望の方向に向けられる。なお、ユーザーインターフェース19は図示したキーボードの他、マウスなどが含まれる。
また、操作部12bには、アングルノブ12eの他、モード切替SW13a、フリーズ処理操作部材13bが設けられている。モード切替SW13aは、通常観察モードと、第1特殊観察モードと、第2特殊観察モードと、マルチ観察モードとの切替操作に用いられる。通常観察モードは、通常画像をディスプレイ18上に表示するモードである。第1特殊観察モードは、表層血管を強調した第1観察画像をディスプレイ18上に表示するモードである。第2特殊観察モードは、深層血管を強調した第2観察画像をディスプレイ18上に表示するモードである。マルチ観察モードは、第1観察画像と第2観察画像とを自動的に切り替えてディスプレイ18に表示するモードである。なお、モードを切り替えるためのモード切替部としては、モード切替SW13aの他に、フットスイッチを用いてもよい。
フリーズ処理操作部材13bは、フリーズ処理の実行操作に用いられる。また、フリーズ処理操作部材13bは、静止画保存処理を実行する保存処理操作部材としての機能も兼ねている。少なくともフリーズ処理操作部材13bを操作した場合に前記フリーズ処理を実行する。このフリーズ処理の実行中に、保存処理操作部材としてのフリーズ処理操作部材13bを更に操作することにより、静止画保存処理が実行される。静止画保存処理が完了すると、フリーズ処理、即ち、観察画像静止状態が解除される。フリーズ処理及び静止画保存処理の詳細については、後述する。なお、フリーズ処理操作部材13bの操作に従って開始するフリーズ設定時間内は、フリーズ処理操作部材13bの操作を解除した場合であっても、フリーズ処理を継続させることが好ましい。フリーズ設定時間は、サービスマンなどがユーザーインターフェース19を操作することによって、予め設定が可能である。
プロセッサ装置16は、ディスプレイ18及びユーザーインターフェース19と電気的に接続される。ディスプレイ18は、画像情報等を出力表示する。ユーザーインターフェース19は、機能設定等の入力操作を受け付けるUI(User Interface:ユーザーインターフェース)として機能する。なお、プロセッサ装置16には、画像情報等を記録する外付けの記録部(図示省略)を接続してもよい。
図2に示すように、光源装置14は、光源部20と、光源用プロセッサ21と、光路結合部23とを有している。光源部20は、V-LED(Violet Light Emitting Diode)20a、B-LED(Blue Light Emitting Diode)20b、G-LED(Green Light Emitting Diode)20c、R-LED(Red Light Emitting Diode)20dを有している。光源用プロセッサ21は、LED20a~20dの駆動を制御する。光路結合部23は、4色のLED20a~20dから発せられる4色の光の光路を結合する。光路結合部23で結合された光は、挿入部12a内に挿通されたライトガイド41及び照明レンズ45を介して、被検体内に照射される。なお、LEDの代わりに、LD(Laser Diode)を用いてもよい。
図3に示すように、V-LED20aは、中心波長405±10nm、波長範囲380~420nmの紫色光Vを発生する。B-LED20bは、中心波長460±10nm、波長範囲420~500nmの青色光Bを発生する。G-LED20cは、波長範囲が480~600nmに及ぶ緑色光Gを発生する。R-LED20dは、中心波長620~630nmで、波長範囲が600~650nmに及ぶ赤色光Rを発生する。
光源用プロセッサ21は、通常観察モード時には、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVc:Bc:Gc:Rcとなる通常光を発光するように、各LED20a~20dを制御する。また、光源用プロセッサ21は、第1特殊観察モード時には、第1分光情報として、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVs1:Bs1:Gs1:Rs1となる第1照明光を発光するように、各LED20a~20dを制御する。第1照明光は、表層血管を強調するとともに、背景粘膜の色を正確に再現することができることが好ましい。そのため、例えば、図4に示すように、少なくともVs1を、その他のBs1、Gs1、Rs1よりも大きくすることが好ましい。Bs1は「0」としてもよい。この場合の第1照明光は、紫色光、緑色光、及び赤色光を含むため、上記のような表層血管を強調することができるとともに、背景粘膜の色を正確に再現でき、且つ、腺管構造や凹凸など各種構造も強調することができる。なお、後述の第2照明光のスペクトル(図5参照)と比較すると、Gs1<Gs2、Rs1<Rs2とすることが好ましい。
なお、本明細書において、光強度比は、少なくとも1つの半導体光源の比率が0(ゼロ)の場合を含む。したがって、各半導体光源のいずれか1つまたは2つ以上が点灯しない場合を含む。例えば、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比が1:0:0:0の場合のように、半導体光源の1つのみを点灯し、他の3つは点灯しない場合も、光強度比を有するものとする。
また、光源用プロセッサ21は、第2特殊観察モード時には、第2分光情報として、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVs2:Bs2:Gs2:Rs2となる第2照明光を発光するように、各LED20a~20dを制御する。第2照明光は、深層血管を強調するとともに、背景粘膜の色を正確に再現することができることが好ましい。そのため、例えば、図5に示すように、Gs2、Rs2>0とすることが好ましい。Vs1、Bs1はGs2、Rs2よりも小さいことが好ましい。この場合の第2照明光は、緑色光及び赤色光を含むため、深層血管を強調することができ、且つ、背景粘膜の色を正確に再現することができる。
光源用プロセッサ21は、マルチ観察モードに設定されている場合には、第1照明光と第2照明光とをそれぞれ2フレーム以上の発光期間にて発光し、且つ、第1照明光と第2照明光とを自動的に切り替えて発光する制御を行う。第1照明光の発光時に得られる第1観察画像と、第2照明光の発光時に得られる第2観察画像とにおいては、それぞれの背景粘膜の一部の色調を少なくとも同じにするように生成している。ここで、「背景粘膜の色調が同じ」とは、第1観察画像の背景粘膜と第2観察画像の背景粘膜の色調が全く同じである他、第1観察画像の背景粘膜と第2観察画像の背景粘膜との色差が一定の範囲内であることをいう。また、第1観察画像と第2観察画像において、背景粘膜の一部だけでなく、一部以外の色調を同じようにしてもよい。なお、背景粘膜とは、観察対象のうち、血管や腺管構造など構造物として認識又は撮像される領域を含まない領域をいう。
なお、「フレーム」とは、観察対象を撮像する撮像センサ48を制御するための単位をいい、例えば、「1フレーム」とは、観察対象からの光で撮像センサ48を露光する露光期間と画像信号を読み出す読出期間とを少なくとも含む期間のことをいう。本実施形態においては、撮像の単位である「フレーム」に対応して発光期間が定められている。
また、光源用プロセッサ21は、プロセッサ装置16の明るさ情報算出部54から送られる明るさ情報に基づいて、各LED20a~20dから発せられる照明光の発光量を制御する。
図2に示すように、ライトガイド41は、内視鏡12及びユニバーサルコード(内視鏡12と光源装置14及びプロセッサ装置16とを接続するコード)内に内蔵されており、光路結合部23で結合された光を内視鏡12の先端部12dまで伝搬する。なお、ライトガイド41としては、マルチモードファイバを使用することができる。一例として、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3~0.5mmの細径なファイバケーブルを使用することができる。
内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは照明レンズ45を有しており、この照明レンズ45を介して、ライトガイド41からの光が観察対象に照射される。撮像光学系30bは、対物レンズ46及び撮像センサ48を有している。観察対象からの反射光は、対物レンズ46を介して、撮像センサ48に入射する。これにより、撮像センサ48に観察対象の反射像が結像される。
撮像センサ48はカラーの撮像センサであり、被検体の反射像を撮像して画像信号を出力する。この撮像センサ48は、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサ等であることが好ましい。本発明で用いられる撮像センサ48は、R(赤)、G(緑)及びB(青)の3色のRGB画像信号を得るためのカラーの撮像センサ、即ち、Rフィルタが設けられたR画素、Gフィルタが設けられたG画素、Bフィルタが設けられたB画素を備えた、いわゆるRGB撮像センサである。
なお、撮像センサ48としては、RGBのカラーの撮像センサの代わりに、C(シアン)、M(マゼンタ)、Y(イエロー)及びG(緑)の補色フィルタを備えた、いわゆる補色撮像センサであっても良い。補色撮像センサを用いる場合には、CMYGの4色の画像信号が出力されるため、補色-原色色変換によって、CMYGの4色の画像信号をRGBの3色の画像信号に変換する必要がある。また、撮像センサ48はカラーフィルタを設けていないモノクロ撮像センサであっても良い。この場合、光源用プロセッサ21は青色光B、緑色光G、及び赤色光Rを時分割で点灯させて、撮像信号の処理では同時化処理を加える必要がある。
撮像センサ48から出力される画像信号は、CDS/AGC回路50に送信される。CDS/AGC回路50は、アナログ信号である画像信号に相関二重サンプリング(CDS(Correlated Double Sampling))や自動利得制御(AGC(Auto Gain Control))を行う。CDS/AGC回路50を経た画像信号は、A/D変換器(A/D(Analog /Digital)コンバータ)52により、デジタル画像信号に変換される。A/D変換されたデジタル画像信号は、プロセッサ装置16に入力される。
プロセッサ装置16は、フリーズ処理、静止画保存処理などの各種処理に関するプログラムがプログラム用メモリ(図示しない)に組み込まれている。画像処理用プロセッサによって構成される中央制御部59がプログラムを実行することによって、プロセッサ装置16では、画像取得部53と、明るさ情報算出部54と、DSP(Digital Signal Processor)56と、ノイズ除去部58と、信号切替部60と、通常観察画像処理部62と、第1特殊観察画像処理部63と、第2特殊観察画像処理部64と、表示制御部66と、静止画保存メモリ67と、静止画関連処理部68の機能が実現する。
画像取得部53は、内視鏡12において観察対象を撮像することにより得られた観察画像を取得する。具体的には、観察画像として、内視鏡12からのデジタルのカラー画像信号が画像取得部53に入力される。カラー画像信号は、撮像センサ48のR画素から出力されるR画像信号と、撮像センサ48のG画素から出力されるG画像信号と、撮像センサ48のB画素から出力されるB画像信号とから構成されるRGB画像信号である。明るさ情報算出部54は、画像取得部53から入力されるRGB画像信号に基づいて、観察対象の明るさを示す明るさ情報を算出する。算出した明るさ情報は光源用プロセッサ21に送られ、照明光の発光量の制御に用いられる。
DSP56は、受信した画像信号に対して、欠陥補正処理、オフセット処理、ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、又はデモザイク処理等の各種信号処理を施す。欠陥補正処理では、撮像センサ48の欠陥画素の信号が補正される。オフセット処理では、欠陥補正処理が施されたRGB画像信号から暗電流成分が除かれ、正確な零レベルが設定される。ゲイン補正処理では、オフセット処理後のRGB画像信号に特定のゲインを乗じることにより信号レベルが整えられる。ゲイン補正処理後のRGB画像信号には、色再現性を高めるためのリニアマトリクス処理が施される。その後、ガンマ変換処理によって明るさや彩度が整えられる。リニアマトリクス処理後のRGB画像信号には、デモザイク処理(等方化処理、同時化処理とも言う)が施され、各画素で不足した色の信号が補間によって生成される。このデモザイク処理によって、全画素がRGB各色の信号を有するようになる。
ノイズ除去部58は、DSP56でガンマ補正等が施されたRGB画像信号に対してノイズ除去処理(例えば移動平均法やメディアンフィルタ法等)を施すことによって、RGB画像信号からノイズを除去する。ノイズが除去されたRGB画像信号は、信号切替部60に送信される。
信号切替部60は、モード切替SW13aにより、通常観察モードにセットされている場合には、RGB画像信号を通常観察画像処理部62に送信する。また、第1特殊観察モードにセットされている場合には、RGB画像信号を第1特殊観察画像処理部63に送信する。また、第2特殊観察モードにセットされている場合には、RGB画像信号を第2特殊観察画像処理部64に送信する。また、マルチ観察モードにセットされている場合には、第1照明光の照明及び撮像で得られたRGB画像信号は第1特殊観察画像処理部63に送信され、第2照明光の照明及び撮像で得られたRGB画像信号は第2特殊観察画像処理部64に送信される。
通常観察画像処理部62は、通常観察モード時に得られたRGB画像信号に対して、通常画像用の画像処理を施す。通常画像用の画像処理には、通常画像用の構造強調処理などが含まれる。通常観察画像処理部62では、通常画像用の画像処理を行うために、RGB画像信号に対して掛け合わされる通常画像用パラメータが設けられている。通常画像用の画像処理が施されたRGB画像信号は、通常画像として、通常観察画像処理部62から表示制御部66に入力される。
第1特殊観察画像処理部63は、第1照明光の照明及び撮像時に得られた第1観察画像のRGB画像信号に基づいて、彩度強調処理、色相強調処理、及び構造強調処理などの画像処理(第1観察画像用画像処理)が行われた第1観察画像を生成する。第1観察画像では、表層血管が多く含まれているとともに、背景粘膜の色も正確に再現されている。なお、第1特殊観察画像処理部63では、第1観察画像をできるだけディスプレイ18に表示するようにするために、表層血管を強調する表層血管強調処理は行わないが、処理負荷の状況によっては、表層血管強調処理を行うようにしてもよい。
第2特殊観察画像処理部64は、第2照明光の照明及び撮像時に得られた第2観察画像の第2RGB画像信号に基づいて、彩度強調処理、色相強調処理、及び構造強調処理などの画像処理(第2観察画像用画像処理)が行われた第2観察画像を生成する。第2観察画像では、深層血管が多く含まれているとともに、背景粘膜の色も正確に再現されている。なお、マルチ観察モードでは、第1観察画像と第2観察画像において、少なくとも背景粘膜の一部の色調は同じになっている。
表示制御部66は、通常観察画像処理部62、第1特殊観察画像処理部63、第2特殊観察画像処理部64から入力された通常画像、第1観察画像、又は第2観察画像を、ディスプレイ18で表示可能な画像として表示するための制御を行う。表示制御部の詳細については後述する。
静止画関連処理部68は、各観察モードに対応する画像の静止画を取得するためのフリーズ処理と、フリーズ処理で得られる静止画を静止画保存メモリ67に保存する静止画保存処理を行う。通常観察モードの場合であれば、フリーズ処理により通常画像の静止画を取得し、取得した通常画像の静止画を静止画保存処理によって静止画保存メモリ67に保存する。第1特殊観察モードの場合であれば、フリーズ処理により第1観察画像の静止画を取得し、取得した第1画像の静止画を静止画保存処理によって静止画保存メモリ67に保存する。第2特殊観察モードの場合であれば、フリーズ処理により第2観察画像の静止画を取得し、取得した第2観察画像の静止画を静止画保存処理によって静止画保存メモリ67に保存する。マルチ観察モードにおけるフリーズ処理と静止画保存処理の詳細については、後述する。
以下、表示制御部66の詳細について説明を行う。表示制御部66による制御によって、各観察モードに応じた画像が表示される。通常観察モードの場合には、通常画像がディスプレイ18に表示される。また、第1特殊観察モードの場合には、図6に示すように、観察対象のうち背景粘膜、及び、表層血管が表された第1観察画像が表示される。また、第2特殊観察モードの場合には、図7に示すように、観察対象のうち背景粘膜、及び、深層血管が表された第2観察画像が表示される。
また、マルチ観察モードの場合には、図8に示すように、第1照明光の発光期間と第2照明光の発光期間に合わせて、カラーの第1観察画像と第2観察画像が切り替えてディスプレイ18に表示される。即ち、第1照明光の発光期間が2フレームで、第2照明光の発光期間が3フレームである場合には、第1観察画像が2フレーム続けて表示され、且つ、第2観察画像が3フレーム続けて表示される。
以上のように、マルチ観察モードにおいては、ユーザーによるモード切替SW13aの操作を行うことなく、2種類の第1観察画像と第2観察画像を自動的に切り替えて表示することができる。このように自動的に切り替えて表示することで、観察対象に動き又は内視鏡12の先端部12dに動きが無い限り、第1観察画像と第2観察画像とでは同一の観察対象が表示される。ただし、第1観察画像と第2観察画像とでは同一の観察対象であっても、それぞれ分光情報が異なっているため、分光情報の違いにより観察対象の見え方は異なっている。即ち、第1分光情報を有する第1観察画像では表層血管の視認性が高くなっている一方、第2分光情報を有する第2観察画像では深層血管の視認性が高くなっている。したがって、第1観察画像と第2観察画像とを切り替えて表示することによって、深さが異なる複数の血管に対する視認性の向上を図ることができる。
また、第1観察画像と第2観察画像は、それぞれ赤色、緑色、青色帯域を含む照明光に基づいて得られた画像であるため、背景粘膜の色調を再現することができる。したがって、マルチ観察モードで表示される第1観察画像と第2観察画像は、通常画像と背景粘膜の色調がほとんど変わらない画像を生成しているため、ユーザーに違和感を与えることがない。その結果、マルチ観察モードに対するユーザーの学習を比較的短い期間で行うことができる。また、第1観察画像と第2観察画像を切り替えて表示することで、深層血管から表層血管までどのように血管が立ち上がっているかを把握することができる。また、第1観察画像と第2観察画像とでは、背景粘膜の色調が同じであるため、画像の切替によって、血管の違いだけを強調して表示することが可能となる。
次に、マルチ観察モードにおけるフリーズ処理と静止画保存処理について、説明する。マルチ観察モードにおいては、図9に示すように、第1観察画像又は第2観察画像をディスプレイ18に表示する期間として、動画表示期間と、フリーズ処理によって開始する静止画表示期間が設けられている。動画表示期間では、第1観察画像と第2観察画像とを動画切替周期で自動的に切り替えてディスプレイ18に表示する。動画表示期間は、フリーズ処理又は静止画保存処理は行われない期間、又は、静止画表示期間終了後に復帰する期間となっている。
静止画表示期間においては、第1観察画像の静止画と第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリ67に保存する候補として、第1観察画像の静止画に対応する第1保存候補画像と第2観察画像の静止画に対応する第2保存候補画像と選択し、且つ、第1保存候補画像と第2保存候補画像を静止画切替周期で自動的に切り替えてディスプレイ18に表示する。なお、フリーズ処理を開始したタイミングに第1観察画像をディスプレイ18に表示している場合には、静止画表示期間では、第1保存候補画像の静止画をディスプレイに表示した後に、第1保存候補画像と第2保存候補画像とを静止画切替周期で自動的に切り替えてディスプレイ1に表示することが好ましい。
静止画セットとしては、具体的には、動画表示期間で得られる静止画セット、又は、静止画表示期間で得られる静止画セットのいずれでもよい。例えば、図10に示すように、静止画表示期間において、3フレームの第1照明光と2フレームの第2照明光からなる発光サイクルを繰り返し行う場合においては場合には、1の発光サイクル毎に、静止画セットとして、3フレーム分の第1観察画像と2フレーム分の第2観察画像が得られる。なお、静止画セットは、1の発光サイクルから得られる第1観察画像又は第2観察画像に限らず、複数の発光サイクルから得られる第1観察画像又は第2観察画像であってもよい。また、静止画表示期間は、ユーザーが静止画の画像の内容を把握できるのに十分な一定時間であることが好ましい。
そして、動画表示期間又は静止画表示期間で得られた静止画セットの中から、静止画保存メモリ67に保存する候補として第1保存候補画像と第2保存候補画像と選択する。具体的には、静止画セットに含まれる第1観察画像の静止画のうち、最もブレが少ないブレ最小の第1観察画像の静止画を、第1保存候補画像として選択し、且つ、静止画セットに含まれる第2観察画像の静止画のうち、ブレ最小の第1観察画像の静止画に対して位置ずれが少ない位置ずれ最小の第2観察画像の静止画を、第2保存候補画像として選択する。また、ブレ最小の第1観察画像の静止画と、位置ずれ最小の第2観察画像とは、後述の「位置ずれ」に関する指標値を用いて、位置合わせする位置合わせ処理を行うことが好ましい。
なお、静止画セットに含まれる第2観察画像の静止画のうち、最もブレが少ないブレ最小の第2観察画像の静止画を、第2保存候補画像として選択し、且つ、静止画セットに含まれる第1観察画像の静止画のうち、ブレ最小の第2観察画像の静止画に対して位置ずれが少ない位置ずれ最小の第1観察画像の静止画を、第1保存候補画像として選択してもよい。この場合、位置ずれ最小の第1観察画像の静止画とブレ最小の第2観察画像の静止画とを位置合わせする位置合わせ処理を行うことが好ましい。
なお、「ブレ」とは、観察対象又は内視鏡の先端部12dが動くことにより発生して観察対のシャープネスを低下させるものである。「ブレ」に関する指標値は、画像の空間周波数などにより算出することが好ましく、ブレ最小の第1観察画像の静止画の選択には、「ブレ」に関する指標値を用いて行うことが好ましい。また、なお、「位置ずれ」に関する指標値は、ブレ最小の第1観察画像の静止画と、ブレ最小の第1観察画像の静止画と比較する第2観察画像との移動ベクトルなどから算出することが好ましく、位置ずれ最小静止画の選択は、「位置ずれ」に関する指標値を用いて行うことが好ましい。
例えば、図11に示すように、静止画セットが、3フレーム分の第1観察画像の静止画P1a、P1b、P1cと2フレーム分の第2観察画像P2a、P2bの静止画から構成される場合には、第1観察画像P1a、P1b、P1cの静止画の中から、ブレ最小の第1観察画像の静止画として、第1観察画像P1bを選択する。そして、第2観察画像P2a、P2bの静止画の中から、第1観察画像P1bに対して位置ずれが少ない位置ずれ最小の第2観察画像の静止画として、第2観察画像P2aを選択する。
そして、静止画表示期間においては、第1保存候補画像と第2保存候補画像とを静止画切替周期で自動的に切り替えてディスプレイ18に表示する場合として、ブレ最小の第1観察画像の静止画と、位置ずれ最小の第2観察画像とを静止画切替周期で自動的にディスプレイ18に表示する。例えば、図11に示すように、ブレ最小の第1観察画像の静止画として、第1観察画像P1bを選択し、位置ずれ最小の第2観察画像の静止画として、第2観察画像P2aを選択した場合には、図12に示すように、第1観察画像P1bと第2観察画像P2aとを静止画切替周期で自動的に切り替えてディスプレイ18に表示する。ユーザーは、ディスプレイ18の第1観察画像P1bと第2観察画像P2aとを確認した上で、フリーズ処理操作部材13bを全押しして静止画保存処理を実行することにより、第1観察画像P1bと第2観察画像P2aとが静止画保存メモリ67に保存される。
ここで、静止画切替周期は、動画切替周期よりも早くすることが好ましい。これは、ユーザーが、静止画保存メモリ67に保存しようとする第1保存候補画像及び第2保存候補画像の違いを確認できるように、静止画切替周期を動画切替周期よりも早くしている。動画切替周期は、1秒間において、第1観察画像と第2観察画像をディスプレイ18で切替表示する回数(回/秒)で表される。静止画切替周期は、1秒間において、第1保存候補画像と第2保存候補画像をディスプレイ18で切替表示する回数(回/秒)で表される。
例えば、図13に示すように、動画切替周期は1回/秒とし、静止画切替周期は、3回/秒とすることで、静止画表示期間において、第1保存候補画像と第2保存候補画像の違いを確実に確認することができる。静止画切替回数は3回/秒以下であることが好ましく、3回/秒を超える場合には、光過敏の問題が生じるおそれがある。なお、詳細は、「https://www.jstage.jst.go.jp/article/jsmbe1987/18/1/18_1_21/_pdf」(特集:ユビキタス映像社会における健康と安全、題名「視覚刺激による生体影響:脳波, 脳内イメージングによる検討」(BME Vol.18, No.1, 2004))に記載あり。
動画切替周期と静止画切替周期については、静止画関連処理部68において、適宜変更が可能である。ユーザーインターフェース19の操作により、動画切替周期と静止画切替周期の変更操作を受け付けると、静止画関連処理部68は、図14に示す切替周期設定メニューをディスプレイ18上に表示する。静止画切替周期は、例えば、1回/秒から3回/秒の間で、0.5回/秒刻みで変更可能である。各切替周期については、スライドバー80a上に割り当てられている。
静止画切替周期を変更する場合には、ユーザーインターフェース19を操作して、スライドバー80a上の変更したい切替周期を示す位置にスライダ81aを合わせることで、静止画切替周期が変更される。動画切替周期についても、ユーザーインターフェース19を操作して、スライドバー80b(例えば、1回/秒から3回/秒の切替周期で、0.5回/秒刻みで変更可能)上の変更したい切替周期を示す位置にスライダ8bを合わせること動画切替期間が変更される。なお、静止画切替周期は動画切替周期よりも早いことが好ましいことから、この場合には、静止画切替周期>動画切替周期の関係が維持されるように、静止画切替周期又は動画切替周期が変更される。
次に、マルチ観察モードにおけるフリーズ処理及び静止画保存処理の一連の流れについて、図15に示すフローチャートに沿って説明する。動画表示期間においては、第1観察画像と第2観察画像とが、動画切替周期で自動的に切り替えてディスプレイ18に表示される。フリーズ処理操作部材13bを半押しすることにより、フリーズ処理が実行される。これにより、静止画表示期間に切り替わる。
静止画表示期間では、まず、第1観察画像の静止画と第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリ67に保存する候補として第1保存候補画像と第2保存候補画像とを選択する。第1保存候補画像と第2保存候補画像とが選択されると、第1保存候補画像と第2保存候補画像とを静止画切替周期で自動的に切り替えてディスプレイ18に表示する。静止画切替周期を動画切替周期よりも早くすることにより、第1候補観察画像と第2候補観察画像の違いがより分かるようになる。
ユーザーは、ディスプレイ18に表示された第1保存候補画像と第2保存候補画像について、静止画として保存することに同意する場合には、フリーズ処理操作部材13bを全押しすることにより、静止画保存処理が実行される。これにより、第1保存補画像と第2保存候補画像が静止画保存メモリ67に保存される。一方、ユーザーが、ディスプレイ18に表示された第1保存候補画像と第2保存候補画像について、静止画として保存することに同意しない場合には、フリーズ処理操作部材13bを操作せず、そのまま放置する。もしくは、ユーザーインターフェース19を操作して、第1保存候補画像と第2保存候補画像を保存しない旨の操作を行う。そして、一定時間の静止画表示期間が終了すると、動画表示期間に復帰する。
なお、本実施形態では、フリーズ処理と静止画保存処理を、1つのフリーズ処理操作部材13bで操作しているが、図16に示すように、フリーズ処理操作部材13bはフリーズ処理のみを行い、フリーズ処理操作部材13bとは別体の保存処理操作部材13cで静止画保存処理を行うようにしてもよい。
なお、第1実施形態では、通常観察画像処理部62と、第1特殊観察画像処理部63と、第2特殊観察画像処理部64とを設けて、観察モードに応じて、いずれの処理部で処理するかを信号切替部60によって決定するようにしているが、その他の方法で処理を行うようにしてもよい。例えば、通常観察画像処理部62と、第1特殊観察画像処理部63と、第2特殊観察画像処理部64の代わりに、図17に示すように、それら処理部62、63、64一まとめにした特定の画像処理部80を設け、観察モードに対応するパラメータを用いて、各観察モードに対応する画像処理を行うようにしてもよい。
例えば、通常観察モードの場合であれば、特定の画像処理部80において、通常画像用パラメータに設定して画像処理を行うことにより、通常画像を生成する。第1特殊観察モードの場合であれば、特定の画像処理部80において、第1観察画像用パラメータに設定して、第1観察画像を生成する。第2特殊観察モードの場合であれば、特定の画像処理部80において、第2観察画像用パラメータに設定して、第2観察画像を生成する。マルチ観察モードの場合であれば、第1照明光と第2照明光との切替に合わせて、特定の画像処理部80において、第1観察画像用パラメータと第2観察画像用パラメータとの切替を行うことによって、第1観察画像と第2観察画像とがそれぞれ生成されるようにする。
[第2実施形態]
第1実施形態では、2種類の第1観察画像と第2観察画像を取得するために、第1観察画像の取得に用いる第1照明光と第2観察画像の取得に用いる第2照明光とを切り替えて発光を行っているが、第2実施形態では、1種類の特殊光によって得られた観察画像生成用画像から、第1分光情報を有する第1観察画像と、第1分光情報と異なる第2分光情報を有する第2観察画像を取得する。第2実施形態の第1観察画像と第2観察画像は、1フレームの観察画像生成用画像から生成されるため、観察対象は同一であり、且つ、画像間で位置ズレ等は生じていない。
第2実施形態の内視鏡システム100では、図18に示すように、プロセッサ装置16において、第1特殊観察画像処理部63、第2特殊観察画像処理部64に代えて、特殊観察画像処理部102、マルチ観察画像処理部104が設けられていること以外、及び、第1特殊観察モード、第2特殊観察モードに代えて、特殊観察モード及びマルチ観察モードが設けられている以外は、第1実施形態とほぼ同様である。
第2実施形態において、特殊観察モードは、特定深さの血管を強調した特殊観察画像をディスプレイ18上に表示するモードである。マルチ観察モードは、観察画像生成用画像から、表層血管を強調した第1観察画像、及び、深層血管を強調した第2観察画像を生成し、且つ、第1観察画像と第2観察画像とを自動的に切り替えてディスプレイ18に表示するモードである。
第2実施形態では、光源用プロセッサ21は、特殊観察モード又はマルチ観察モード時には、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVs:Bs:Gs:Rsとなる特殊光を発光するように、各LED20a~20dを制御する。特殊光は、特定深さの血管を強調するとともに、背景粘膜の色を正確に再現することができることが好ましい。
第2実施形態においては、信号切替部60は、モード切替SW13aにより、通常観察モードにセットされている場合には、ノイズ除去部58を経たRGB画像信号を通常観察画像処理部62に送信する。また、特殊観察モードにセットされている場合には、ノイズ除去部58を経たRGB画像信号を特殊観察画像処理部63に送信する。また、マルチ観察モードにセットされている場合には、ノイズ除去部58を経たRGB画像信号をマルチ観察画像処理部104に送信する。
特殊観察画像処理部63は、特殊観察モード時に得られたRs画像信号、Gs画像信号、Bs画像信号が入力される。この入力されたRs画像信号、Gs画像信号、Bs画像信号に対して、特殊観察モード用の画像処理を施す。特殊観察画像処理部63では、特殊観察モード用の画像処理を行うために、Rs画像信号、Gs画像信号、Bs画像信号に対して掛け合わされる特殊観察モード用のパラメータが設けられている。特殊観察モード用の画像処理には、特殊観察モード用の構造強調処理などが含まれる。特殊観察画像用の画像処理が施されたRGB画像信号は、特殊観察画像として、特殊観察画像処理部63から表示制御部66に入力される。
マルチ観察画像処理部104は、マルチ観察モード時に得られたRs画像信号、Gs画像信号、Bs画像信号が入力される。この入力されたRs画像信号、Gs画像信号、Bs画像信号に対して、マルチ観察モード用の画像処理を施す。マルチ観察モード用の画像処理は、1フレームの観察画像生成用画像から、互いに異なる深さの血管を強調した複数の観察画像を生成する。本実施形態では、複数の観察画像として、表層血管を強調した第1観察画像と深層血管を強調した第2観察画像とを生成する。マルチ観察モード用の画像処理の詳細については後述する。第1観察画像と第2観察画像とは、マルチ観察画像処理部104から表示制御部66に入力される。なお、マルチ観察画像処理部104においても、マルチ観察モード用の画像処理を行うために、Rs画像信号、Gs画像信号、Bs画像信号に掛け合わされるマルチ観察モード用のパラメータが設けられている。
次に、マルチ観察モード用の画像処理について説明する。マルチ観察モードの画像処理においては、観察画像生成用画像の第1色信号を明るさ情報に割り当てた第1色信号画像、又は、観察画像生成用画像の第2色信号を明るさ情報に割り当てた第2色信号画像のいずれか一方を第1観察画像と、他方を第2観察画像として生成する。本実施形態では、第1色信号画像を第1観察画像とし、第2色信号画像を第2観察画像とするが、その反対でもよい。
第1観察画像を生成する第1観察画像生成処理は、図19に示すように、マルチ観察モード時に得られるBs画像信号、Gs画像信号、Rs画像信号に対して、輝度色差信号変換処理を行って、輝度信号Y、色差信号Cr、Cbに変換する。次に、輝度信号Y(明るさ情報)をBs画像信号(観察画像の第1色信号(青色信号))に割り当てる輝度信号割り当て処理を行うことによって、輝度信号Yを輝度信号Ymに変換する。Bs画像信号は、後述するように、表層血管の情報を含んでいることから、第1観察画像について、背景粘膜以外の領域に含まれる第1特定情報として、表層血管を強調した画像にすることができる。また、第1観察画像は、特殊光のうち緑色光G及び赤色光Rの成分が含まれるGs画像信号、Rs画像信号に基づいて生成されるため、背景粘膜の色調も正確に表されている。
次に、輝度信号Yを輝度信号Ymに変換することに伴う色差信号Cr、Cbのずれを補正する色差信号補正処理を行う。具体的には、色差信号Crに対して、変換後の色差信号Ym/変換後の色差信号Yを掛け合わせる。同様にして、色差信号Cbに対して、変換後の色差信号Ym/変換後の色差信号Yを掛け合わせる。これにより、色差信号Cr、Cbのずれを補正することにより、色相を維持したまま、輝度の変換に応じて彩度のずれを補正することができる(輝度が小さくなる場合には彩度を小さくすることができ、輝度が大きくなる場合には彩度を大きくすることができる)。そして、輝度信号Ym、色差信号Cr×Ym/Y、色差信号Cb×Ym/Yに対して、RGB変換処理を行うことによって、B1画像信号、G1画像信号、R1画像信号に変換する。これらB1画像信号、G1画像信号、R1画像信号が第1色信号画像に相当し、第1観察画像となる。
第2観察画像を生成する第2観察画像生成処理は、図20に示すように、第1観察画像生成処理と同様、マルチ観察モード時に得られるBs画像信号、Gs画像信号、Rs画像信号に対して、輝度色差信号変換処理を行って、輝度信号Y、色差信号Cr、Cbに変換する。次に、輝度信号Y(明るさ情報)をGs画像信号(観察画像の第2色信号(緑色信号))に割り当てる輝度信号割り当て処理を行うことによって、輝度信号Yを輝度信号Ynに変換する。Gs画像信号は、後述するように、深層血管の情報を含んでいることから、第2観察画像について、背景粘膜以外の領域に含まれる第2特定情報として、深層血管を強調した画像にすることができる。また、第2観察画像は、特殊光のうち緑色光G及び赤色光Rの成分が含まれるGs画像信号、Rs画像信号に基づいて生成されるため、背景粘膜の色調も正確に表されている。
なお、観察画像の第2色信号は観察画像の第1色信号よりも長波の成分を持つ色信号である。本実施形態では、第1色信号を青色信号、第2色信号を緑色信号としているが、これに限られない。例えば、第1色信号を緑色信号とし、第2色信号をRs画像信号のような赤色信号としてもよい。
次に、輝度信号Yを輝度信号Ynに変換することに伴う色差信号Cr、Cbのずれを補正する色差信号補正処理を行う。具体的には、色差信号Crに対して、変換後の色差信号Yn/変換後の色差信号Yを掛け合わせる。同様にして、色差信号Cbに対して、変換後の色差信号Yn/変換後の色差信号Yを掛け合わせる。これにより、色差信号Cr、Cbのずれを補正することができる。そして、輝度信号Yn、色差信号Cr×Yn/Y、色差信号Cb×Yn/Yに対して、RGB変換処理を行うことによって、B2画像信号、G2画像信号、R2画像信号に変換する。これらB2画像信号、G2画像信号、R2画像信号が第2色信号画像に相当し、第2観察画像となる。
第2実施形態の静止画保存処理は、以下のようにして行われる。静止画表示期間で得られた静止画セットの中から、静止画保存メモリ67に保存する候補として、ブレ最小の第1観察画像の静止画に対応する第1保存候補画像と、第1保存候補画像と同じ観察画像生成用画像により生成された第2観察画像の静止画に対応する第2保存候補画像選択する。なお、第1観察画像と第2観察画像は1フレームの観察画像生成用画像から生成されるものであるため、第1観察画像のブレが最小であれば、第2観察画像のブレも最小となっている。ブレ最小の第1観察画像を選択する方法は、第1実施形態と同様である。
なお、本実施形態においては、Bs画像信号、Gs画像信号、又は合成信号を割り当てる信号を、輝度信号Yとするが、その他の明るさ情報に割り当てるようにしてもよい。例えば、第1観察画像を明度、彩度、色相で構成する場合には、明るさ情報に対応する明度にBs画像信号又はGs画像信号を割り当てるようにしてもよい。
なお、光源用プロセッサ21は、マルチ観察モード時に、第1照明光と第2照明光とを自動的に切り替えて発光する場合において、第1照明光を第1発光パターンで発光し、第2照明光を第2発光パターンで発光してもよい。具体的には、第1発光パターンは、図21に示すように、第1照明期間のフレーム数が、それぞれの第1照明期間において同じである第1Aターンと、図22に示すように、第1照明期間のフレーム数が、それぞれの第1照明期間において異なっている第1Bターンとのうちのいずれかであることが好ましい。
第2発光パターンは、図21に示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において同じであり、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において同じである第2Aパターン、図23に示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において同じであり、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において異なっている第2Bパターン、図24に示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において異なっており、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において同じである第2Cパターン、図25に示すように、第2照明期間のフレーム数が、それぞれの第2照明期間において異なっており、且つ、第2照明光の発光スペクトルが、それぞれの第2照明期間において異なっている第2Dパターンのうちのいずれかであることが好ましい。なお、第1照明光の発光スペクトルは、それぞれの第1照明期間において同じであってもよく、異なってもよい。
ここで、第1照明期間は第2照明期間よりも長くすることが好ましく、第1照明期間は2フレーム以上とすることが好ましい。例えば、図21では、第1発光パターンを第1Aパターンとし、第2発光パターンを第2Aパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:同じ)とする場合において、第1照明期間を2フレームとし、第2照明期間を1フレームとしている。第1照明光は、ディスプレイ18に表示する表示用画像の生成に用いられることから、第1照明光を観察対象に照明することによって、明るい画像が得られることが好ましい。
例えば、第1照明光は、白色光であることが好ましい。一方、第2照明光は、解析処理に用いることから、第2照明光を観察対象に照明することによって、解析処理に適した画像が得られることが好ましい。例えば、血管深さが異なる複数の血管の形状情報に基づいて、解析処理を行う場合には、第2照明光として、紫色光V、青色光B、緑色光G、赤色光Rを用いることが好ましい。この場合、第2発光パターンを第2Aパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:同じ)又は第2Cパターン(第2照明期間のフレーム数:異なる、第2照明光の発光スペクトル:同じ)とする場合には、紫色光V、青色光B、緑色光G、赤色光Rのうちのいずれか1つの光を用いることが好ましい。一方、第2発光パターンを第2Bパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:異なる)又は第2Dパターン(第2照明期間のフレーム数:異なる、第2照明光の発光スペクトル:異なる)とする場合には、第2照明期間において、紫色光V、青色光B、緑色光G、赤色光Rのうち少なくとも2つの光を特定の順番で切り替えて発光することが好ましい。後述では、紫色光V、緑色光G、及び赤色光Rの3つの光を、その順番で順次発光している。
マルチ観察モードで行う撮像制御では、図26に示すように、第1照明期間において第1照明光を撮像センサ44に露光させた状態で、信号読み出しを行うことにより、撮像センサ44から第1画像信号を出力させる。第1画像信号を出力する期間を第1撮像期間とする。第1画像信号には、B画素から出力されるB1画像信号、G画素から出力されるG1画像信号、及び、R画素から出力されるR1画像信号が含まれる。また、撮像用プロセッサ45は、第2照明期間において第2照明光を撮像センサ44に露光させた状態で、信号読み出しを行うことにより、撮像センサ44から第2画像信号を出力させる。第2画像信号を出力する期間を第撮像期間とする。第2画像信号には、B画素から出力されるB2画像信号、G画素から出力されるG2画像信号、及び、R画素から出力されるR2画像信号が含まれる。
マルチ観察モードにおいては、プロセッサ装置内の解析処理部(図示しない)は、入力した1フレーム分のR1画像信号、G1画像信号、B1画像信号に対して、通常観察画像用の画像処理を施す。通常観察画像用の画像処理が施されたR1画像信号、G1画像信号、B1画像信号は、表示用画像として使用される。また、解析処理部は、入力した特定フレーム分のR2画像信号、G2画像信号、B2画像信号に対して、解析処理を行う。また、解析処理部は、解析処理の結果である解析結果を表示用画像に表示させる表示制御処理を行う。
例えば、第1発光パターンを第1Aターンとし、第2発光パターンを第2Bパターン(第2照明期間のフレーム数:同じ、第2照明光の発光スペクトル:異なる)とする場合において、第1照明光として白色光Wを2フレーム分、第2照明光としての紫色光V、緑色光G、赤色光Rを、白色光Wの発光の間に、それぞれ1フレーム分だけ観察対象に照明する場合には、図27に示すように、白色光の照明により得られる第1画像信号に対して通常観察画像用画像処理を施すことによって、表示用画像を得る。
一方、紫色光Vの照明により得られる第2画像信号(R2画像信号、G2画像信号、B2画像信号)に対して解析処理を行って、解析結果Vを得る。同様にして、緑色光Gの照明により得られる第2画像信号(R2画像信号、G2画像信号、B2画像信号)に対して解析処理を行って、解析結果Gを得る。また、赤色光Rの照明により得られる第2画像信号(R2画像信号、G2画像信号、B2画像信号)に対して解析処理を行って、解析結果Rを得る。これら解析結果V、G、Rは、赤色光Rに関する解析処理が完了した後、一まとめにした解析結果Tとして、表示用画像に表示される。なお、解析結果V、G、Rは、それぞれ単独で表示用画像に表示してもよく、また、解析結果V、G、Rのうち少なくとも2つ組み合わせて得られる解析結果を、表示用画像に表示してもよい。
なお、解析処理としては、例えば、血管の形状情報を抽出する血管抽出処理、抽出した血管の形状情報に基づいて、血管に関する指標値を算出する指標値算出処理、及び、算出した指標値を表示用画像に重畳表示するための重畳表示制御処理が含まれる。解析処理の結果が表示された解析結果付き表示用画像は、表示制御部66に入力される。
上記第1及び第2実施形態において、画像取得部53、明るさ情報算出部54、DSP56、ノイズ除去部58、通常観察画像処理部62第1特殊観察画像処理部63、第2特殊観察画像処理部64、静止画保存メモリ67、静止画関連処理部68、表示制御部66、表示期間設定部66a、静止画関連処理部68、特定の画像処理部80、特殊観察画像処理部102、マルチ観察画像処理部104など、プロセッサ装置16に含まれる処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。また、記憶部のハードウェア的な構造はHDD(hard disc drive)やSSD(solid state drive)等の記憶装置である。
なお、本発明は、内視鏡システムの他、カプセル内視鏡システムに組み込まれるプロセッサ装置の他、各種の医用画像処理装置に対して適用することが可能である。
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
13a モード切替SW
13b フリーズ処理操作部材
13c 保存処理操作部材
14 光源装置
16 プロセッサ装置
18 ディスプレイ
19 ユーザーインターフェース
20 光源部
20a V-LED
20b B-LED
20c G-LED
20d R-LED
21 光源用プロセッサ
23 光路結合部
30a 照明光学系
30b 撮像光学系
41 ライトガイド
45 照明レンズ
46 対物レンズ
48 撮像センサ
50 CDS/AGC回路
52 A/D変換器
53 画像取得部
54 明るさ情報算出部
56 DSP
58 ノイズ除去部
59 中央制御部
60 信号切替部
62 通常観察画像処理部
63 第1特殊観察画像処理部
64 第2特殊観察画像処理部
66 表示制御部
67 静止画保存メモリ
68 静止画関連処理部
80 画像処理部
80a スライドバー
80b スライドバー
81a スライダ
81b スライダ
100 内視鏡システム
102 特殊観察画像処理部
104 マルチ観察画像処理部




Claims (15)

  1. 第1観察画像、又は、前記第1観察画像と異なる第2観察画像を表示するディスプレイと、
    前記第1観察画像の静止画又は前記第2観察画像の静止画を取得するためのフリーズ処理を行うフリーズ処理操作部材と、
    画像処理用プロセッサとを備え、
    前記画像処理用プロセッサは、
    動画表示期間において、前記第1観察画像と前記第2観察画像とを動画切替周期で自動的に切り替えて前記ディスプレイに表示し、
    前記フリーズ処理によって開始する静止画表示期間において、前記第1観察画像の静止画及び前記第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリに保存する候補として、前記第1観察画像の静止画に対応する第1保存候補画像と前記第2観察画像の静止画に対応する第2保存候補画像とを選択し、且つ、前記第1保存候補画像と前記第2保存候補画像とを静止画切替周期で自動的に切り替えて前記ディスプレイに表示し、
    前記静止画切替周期は前記動画切替周期よりも大きくし、
    前記静止画切替周期>前記動画切替周期の関係を維持されるように、ユーザーインターフェースを用いて、前記動画切替周期と前記静止画切替周期の少なくとも一方を設定し、
    前記第1観察画像と前記第2観察画像は、同一の観察対象に関するものである内視鏡システム。
  2. 前記画像処理用プロセッサは、
    前記静止画セットに含まれる第1観察画像の静止画のうち、最もブレが少ないブレ最小の第1観察画像の静止画を、前記第1保存候補画像として選択し、且つ、前記静止画セットに含まれる第2観察画像の静止画のうち、ブレ最小の第1観察画像の静止画に対して位置ずれが少ない位置ずれ最小の第2観察画像の静止画を、前記第2保存候補画像として選択する請求項1記載の内視鏡システム。
  3. 前記画像処理用プロセッサは、前記ブレ最小の第1観察画像の静止画と前記位置ずれ最小の第2観察画像の静止画とを位置合わせする位置合わせ処理を行う請求項2記載の内視鏡システム。
  4. 前記画像処理用プロセッサは、
    前記静止画セットに含まれる第2観察画像の静止画のうち、最もブレが少ないブレ最小の第2観察画像の静止画を、前記第2保存候補画像として選択し、且つ、前記静止画セットに含まれる第1観察画像の静止画のうち、ブレ最小の第2観察画像の静止画に対して位置ずれが少ない位置ずれ最小の第1観察画像の静止画を、前記第1保存候補画像として選択する請求項1記載の内視鏡システム。
  5. 前記画像処理用プロセッサは、前記位置ずれ最小の第1観察画像の静止画と前記ブレ最小の第2観察画像の静止画とを位置合わせする位置合わせ処理を行う請求項4記載の内視鏡システム。
  6. 前記静止画切替周期は、前記第1保存候補画像と前記第2保存候補画像の切替表示の回数が1秒間で3回以下である請求項1ないし5いずれか1項記載の内視鏡システム。
  7. 前記画像処理用プロセッサは、前記フリーズ処理を開始したタイミングで前記第1観察画像を前記ディスプレイに表示している場合には、前記静止画表示期間では、前記第1保存候補画像の静止画を前記ディスプレイに表示した後に、前記第1保存候補画像と前記第2保存候補画像とを静止画切替周期で自動的に切り替えて前記ディスプレイに表示する請求項1ないし6いずれか1項記載の内視鏡システム。
  8. 前記フリーズ処理操作部材に加えて、前記第1保存候補画像と前記第2保存候補画像を静止画保存メモリに保存する静止画保存処理を行うための保存処理操作部材を備え、
    前記画像処理用プロセッサは、
    少なくとも前記フリーズ処理操作部材を操作した場合に前記フリーズ処理を実行し、前記フリーズ処理実行中に、前記保存処理操作部材を操作することにより、前記静止画保存処理を実行する請求項1ないし7いずれか1項記載の内視鏡システム。
  9. 前記フリーズ処理操作部材の操作に従って開始するフリーズ設定時間内は、前記フリーズ処理操作部材の操作を解除した場合であっても、前記フリーズ処理が継続する請求項1ないし7いずれか1項記載の内視鏡システム。
  10. 第1分光情報を有する第1照明光と、前記第1分光情報とことなる第2分光情報を有する第2照明光とを発する光源部と、
    光源用プロセッサとを有し、
    前記光源用プロセッサは、
    前記第1照明光と前記第2照明光とを自動的に切り替え、
    前記第1観察画像は、前記第1照明光により照明された観察対象を撮像することにより得られ、
    前記第2観察画像は、前記第2照明光により照明された観察対象を撮像することにより得られる請求項1ないし9いずれか1項記載の内視鏡システム。
  11. 前記画像処理用プロセッサは、
    観察画像生成用画像を取得し、
    前記観察画像生成用画像の第1色信号を明るさ情報に割り当てて前記第1観察画像を生成し、前記観察画像生成用画像の第2色信号を明るさ情報に割り当てて前記第2観察画像を生成する請求項1ないし9いずれか1項記載の内視鏡システム。
  12. 前記第1観察画像と前記第2観察画像とは、なくとも背景粘膜の一部が同じ色調であり、
    前記第1観察画像が有する第1分光情報と前記第2観察画像が有する第2分光情報とは異なっている請求項1記載の内視鏡システム。
  13. フリーズ処理操作部材の操作によって、前記第1保存候補画像と前記第2保存候補画像を前記静止画保存メモリに保存し、前記フリーズ処理操作部材が操作されない状態で、一定時間の前記静止画表示期間が終了すると、前記動画表示期間に復帰する請求項1ないし12いずれか1項記載の内視鏡システム。
  14. 第1観察画像、又は、前記第1観察画像と異なる第2観察画像を表示するディスプレイと、
    前記第1観察画像の静止画又は前記第2観察画像の静止画を取得するためのフリーズ処理を行うフリーズ処理操作部材と、
    画像処理用プロセッサとを備え、
    前記画像処理用プロセッサは、
    観察画像生成用画像を取得し、
    前記観察画像生成用画像の第1色信号を明るさ情報に割り当てた第1色信号画像、又は、前記観察画像生成用画像の第2色信号を明るさ情報に割り当てた第2色信号画像のいずれか一方を前記第1観察画像と、他方を前記第2観察画像として生成し、
    動画表示期間において、前記第1観察画像と前記第2観察画像とを動画切替周期で自動的に切り替えて前記ディスプレイに表示し、
    前記フリーズ処理によって開始する静止画表示期間において、前記第1観察画像の静止画及び前記第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリに保存する候補として、ブレ最小の前記第1観察画像の静止画に対応する第1保存候補画像と、前記第1保存候補画像と同じ前記観察画像生成用画像より生成された前記第2観察画像の静止画に対応する前記第2保存候補画像とを選択し、且つ、前記第1保存候補画像と前記第2保存候補画像とを静止画切替周期で自動的に切り替えて前記ディスプレイに表示し、
    前記静止画切替周期は前記動画切替周期よりも大きくし、
    前記静止画切替周期>前記動画切替周期の関係を維持されるように、ユーザーインターフェースを用いて、前記動画切替周期と前記静止画切替周期の少なくとも一方を設定し、
    前記第1観察画像と前記第2観察画像は、同一の観察対象に関するものである内視鏡システム。
  15. 第1観察画像、又は、前記第1観察画像と異なる第2観察画像を表示するディスプレイと、
    前記第1観察画像の静止画又は前記第2観察画像の静止画を取得するためのフリーズ処理を行うフリーズ処理操作部材と、
    画像処理用プロセッサとを備える内視鏡システムの作動方法において、
    前記画像処理用プロセッサは、
    動画表示期間において、前記第1観察画像と前記第2観察画像とを動画切替周期で自動的に切り替えて前記ディスプレイに表示し、
    前記フリーズ処理によって開始する静止画表示期間において、前記第1観察画像の静止画及び前記第2観察画像の静止画を含む静止画セットの中から、静止画保存メモリに保存する候補として、前記第1観察画像の静止画に対応する第1保存候補画像と前記第2観察画像の静止画に対応する第2保存候補画像とを選択し、且つ、前記第1保存候補画像と前記第2保存候補画像とを静止画切替周期で自動的に切り替えて前記ディスプレイに表示し、
    前記静止画切替周期は前記動画切替周期よりも大きくし、
    前記静止画切替周期>前記動画切替周期の関係を維持されるように、ユーザーインターフェースを用いて、前記動画切替周期と前記静止画切替周期の少なくとも一方を設定し、
    前記第1観察画像と前記第2観察画像は、同一の観察対象に関するものである内視鏡システムの作動方法。
JP2022530028A 2020-06-08 2021-03-04 内視鏡システム及びその作動方法 Active JP7477208B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020099306 2020-06-08
JP2020099306 2020-06-08
PCT/JP2021/008524 WO2021250952A1 (ja) 2020-06-08 2021-03-04 内視鏡システム及びその作動方法

Publications (2)

Publication Number Publication Date
JPWO2021250952A1 JPWO2021250952A1 (ja) 2021-12-16
JP7477208B2 true JP7477208B2 (ja) 2024-05-01

Family

ID=78847188

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022530028A Active JP7477208B2 (ja) 2020-06-08 2021-03-04 内視鏡システム及びその作動方法

Country Status (3)

Country Link
JP (1) JP7477208B2 (ja)
CN (1) CN115697179A (ja)
WO (1) WO2021250952A1 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4643481B2 (ja) * 2006-03-23 2011-03-02 オリンパスメディカルシステムズ株式会社 画像処理装置
JP5587932B2 (ja) * 2012-03-14 2014-09-10 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法
JP6956197B2 (ja) * 2017-11-10 2021-11-02 富士フイルム株式会社 内視鏡システム及びその作動方法
JP6917518B2 (ja) * 2018-02-20 2021-08-11 富士フイルム株式会社 内視鏡システム
JP7052003B2 (ja) * 2018-02-22 2022-04-11 富士フイルム株式会社 内視鏡システム

Also Published As

Publication number Publication date
JPWO2021250952A1 (ja) 2021-12-16
WO2021250952A1 (ja) 2021-12-16
CN115697179A (zh) 2023-02-03

Similar Documents

Publication Publication Date Title
JP6917518B2 (ja) 内視鏡システム
WO2019093355A1 (ja) 内視鏡システム及びその作動方法
CN112584747B (zh) 内窥镜系统
US11510559B2 (en) Endoscope system and method of operating the same
CN111568340B (zh) 内窥镜系统
WO2019093356A1 (ja) 内視鏡システム及びその作動方法
JP7477208B2 (ja) 内視鏡システム及びその作動方法
JPWO2019159817A1 (ja) 内視鏡システム及びその作動方法
US11547272B2 (en) Endoscope system and method of operating the same
JP7171885B2 (ja) 内視鏡システム
JP7273988B2 (ja) 内視鏡システム
JP7337190B2 (ja) 内視鏡システム及びその作動方法
JP7163243B2 (ja) プロセッサ装置及び内視鏡システム並びにプロセッサ装置の作動方法
WO2021149357A1 (ja) 内視鏡システム及びその作動方法
CN112472011A (zh) 内窥镜系统及其工作方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221125

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240411

R150 Certificate of patent or registration of utility model

Ref document number: 7477208

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150