JP2023112340A - 内視鏡システム及びその作動方法 - Google Patents

内視鏡システム及びその作動方法 Download PDF

Info

Publication number
JP2023112340A
JP2023112340A JP2022014070A JP2022014070A JP2023112340A JP 2023112340 A JP2023112340 A JP 2023112340A JP 2022014070 A JP2022014070 A JP 2022014070A JP 2022014070 A JP2022014070 A JP 2022014070A JP 2023112340 A JP2023112340 A JP 2023112340A
Authority
JP
Japan
Prior art keywords
marker
image
display
candidate
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022014070A
Other languages
English (en)
Inventor
将人 吉岡
Masahito Yoshioka
剛志 福田
Tsuyoshi Fukuda
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2022014070A priority Critical patent/JP2023112340A/ja
Priority to US18/160,173 priority patent/US20230240511A1/en
Priority to EP23154377.8A priority patent/EP4218563A1/en
Publication of JP2023112340A publication Critical patent/JP2023112340A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1076Measuring physical dimensions, e.g. size of the entire body or parts thereof for measuring dimensions inside body cavities, e.g. using catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00064Constructional details of the endoscope body
    • A61B1/00071Insertion part of the endoscope body
    • A61B1/0008Insertion part of the endoscope body characterised by distal tip features
    • A61B1/00096Optical elements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0623Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for off-axis illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0676Endoscope light sources at distal tip of an endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Signal Processing (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

【課題】観察対象物を測りやすい方向に仮想スケールの表示を調節し、ほぼリアルタイムで仮想スケールを表示することができる内視鏡システム及びその作動方法を提供する。【解決手段】計測補助光によって形成される特定領域を含む撮像画像を取得し、撮像画像から抽出した注目領域エッジ情報と、指定距離位置情報とに基づいてマーカ方向候補位置を検出し、特定領域の位置からマーカ方向候補位置までの候補距離を算出し、特定領域の位置と指定距離以上の候補距離をなすマーカ方向候補位置を通る延長線の一部を通る表示用マーカを、特定領域の位置を基点として撮像画像に重畳した測長画像を作成し、表示する。【選択図】図20

Description

本発明は、被写体の大きさを測定するための仮想スケールを表示する内視鏡システム及びその作動方法に関する。
光源装置、内視鏡、及び、プロセッサ装置を有する内視鏡システムでは、被写体までの距離又は被写体の大きさなどを取得することが行われている。例えば、特許文献1には、「被写体に計測補助光を照射する補助光照射部と、計測補助光によりスポットが形成された被写体の画像を撮像光学系及び撮像素子を介して取得する撮像部と、取得した被写体の画像を表示する表示装置と、撮像部が被写体の画像を取得するのに応じて、被写体における特定領域の実サイズを示す指標図形であって、撮像素子におけるスポットの位置に応じて設定した大きさの指標図形を被写体の画像と共に表示装置に表示させるプロセッサ」が記載されている。
また、特許文献2には、「プロセッサは、計測補助光によって被写体上に形成される特定領域を含む被写体を撮像した撮像画像を取得し、撮像画像において被写体上の特定領域の位置を特定し、特定領域の位置に基づいて被写体の実寸サイズを示す基準スケールを設定し、撮像画像において被写体が含む注目領域を抽出し、注目領域においてサイズを計測する計測部分を決定し、基準スケールに基づいて注目領域の計測部分を計測した計測値を示す計測値マーカを生成し、撮像画像に計測値マーカを重畳した特定画像を作成する。」と記載されている。
国際公開第2018/051680号 国際公開第2021/131238号
特許文献1、及び、特許文献2では、レーザースポットを観察対象物に合わせることで、指標図形(仮想スケール)と、注目領域等の観察対象物とを比較することで、観察対象物の大きさを推定することが可能となっている。しかしながら、観察画面上に仮想スケールが表示される方向と、医師等のユーザーが観察対象物を測りたい方向は必ずしも一致するものではない。このため、観察画面上の仮想スケールで観察対象物を測るために、ユーザーが内視鏡を操作し、仮想スケールの方向と、観察したい方向とを一致させなければならない手間が生じている場合がある。また、生体内における観察対象物の位置によっては、内視鏡を観察したい方向に操作することが難しい場合がある。さらに、内視鏡検査においてほぼリアルタイムに仮想スケールを表示するために、仮想スケールの表示までの処理を高速化することが望まれている。
本発明は、観察対象物を測りやすい方向に仮想スケールの表示を調節し、ほぼリアルタイムで仮想スケールを表示することができる内視鏡システム及びその作動方法を提供することを目的とする。
本発明の内視鏡システムは、被写体を撮像する撮像素子と、被写体の計測に用いる計測補助光を発する計測補助光用光源と、プロセッサと、を備える。プロセッサは、計測補助光によって形成される特定領域を含む被写体を撮像した撮像画像を取得し、撮像画像における特定領域の位置を特定し、特定領域の位置に基づいて被写体の実寸サイズを示す基準スケールを設定し、基準スケールに基づき、撮像画像に重畳するための表示用マーカを生成し、撮像画像から注目領域エッジ情報を抽出し、注目領域エッジ情報と、特定領域の位置からの距離を示す指定距離位置情報とに基づき、表示用マーカの表示方向の決定に用いるマーカ方向候補位置を検出し、特定領域の位置からマーカ方向候補位置までの距離である候補距離を算出し、特定領域の位置と指定距離以上の候補距離をなすマーカ方向候補位置を、マーカ方向決定位置と決定し、撮像画像に、特定領域の位置を始点とし、かつ、マーカ方向決定位置を通る延長線の一部を通る表示用マーカを、特定領域の位置を基点とするように重畳した測長画像を作成し、測長画像を表示する。
指定距離位置情報は、特定領域の位置からの等間隔位置を示す情報であることが好ましい。指定距離位置情報は、特定領域の位置を中心とする同心円であることが好ましい。
指定距離位置情報は、歪曲収差が補正されていることが好ましい。指定距離位置情報は、実寸サイズを示すサイズ情報と対応付けされていることが好ましい。
プロセッサは、指定距離位置情報のうち、特定領域の位置と最も近い指定距離位置情報を代表指定距離位置情報とし、代表指定距離位置情報にサイズ情報を対応付けることが好ましい。
表示用マーカは、基点を特定領域の位置とし、終点をマーカ方向決定位置とする線分であり、プロセッサは、サイズ情報に基づき、特定領域の位置からマーカ方向決定位置までの距離である、表示用マーカの実寸サイズの長さを表示することが好ましい。
プロセッサは、マーカ方向決定位置が複数存在する場合、複数の候補マーカを、表示用マーカとして測長画像に表示することが好ましい。
プロセッサは、測長画像において、複数の候補マーカを、それぞれ切り替えて表示することが好ましい。
表示用マーカは、特定領域の位置を基点とする複数の線分からなり、複数の線分の1つは、特定領域の位置を始点とし、マーカ方向決定位置を通る延長線上に終点を含むことが好ましい。
注目領域エッジ情報は、構造強調処理によって抽出されることが好ましい。注目領域エッジ情報は、学習済みモデルを用いて抽出されることが好ましい。学習済みモデルは、畳み込みニューラルネットワークであることが好ましい。
プロセッサは、特定領域の位置と、注目領域エッジ情報とを用いて、計測補助光を注目領域の端部に照射する報知指示を生成することが好ましい。
本発明の内視鏡システムの作動方法は、被写体を撮像するステップと、被写体の計測に用いる計測補助光を発するステップと、計測補助光によって形成される特定領域を含む被写体を撮像した撮像画像を取得するステップと、撮像画像において特定領域の位置を特定するステップと、特定領域の位置に基づいて被写体の実寸サイズを示す基準スケールを設定するステップと、基準スケールに基づき、撮像画像に重畳するための表示用マーカを生成するステップと、撮像画像から注目領域エッジ情報を抽出するステップと、注目領域エッジ情報と、特定領域の位置からの距離を示す指定距離位置情報とに基づいて、表示用マーカの表示方向の決定に用いるマーカ方向候補位置を検出するステップと、特定領域の位置からマーカ方向候補位置までの距離である候補距離を算出するステップと、特定領域の位置と指定距離以上の候補距離をなすマーカ方向候補位置を、マーカ方向決定位置と決定するステップと、撮像画像に特定領域の位置を始点とし、かつ、マーカ方向決定位置を通る延長線の一部を通る表示用マーカを、特定領域の位置を基点とするように重畳した測長画像を作成するステップと、測長画像を表示するステップと、を備える。
本発明によれば、観察対象物を測りやすい方向に仮想スケールの表示を調節し、ほぼリアルタイムで仮想スケールを表示することができる。
内視鏡システムの概略図である。 内視鏡の先端部を示す平面図である。 内視鏡装置の機能を示すブロック図である。 信号処理部の機能を示すブロック図である。 計測補助光出射部の機能を示すブロック図である。 スポットが形成された被写体を含む撮像画像の一例の画像図である。 計測補助光によって被写体上に形成されるスポットの位置を説明する説明図である。 測長画像生成部の機能を示すブロック図である。 基準スケール設定部の機能を示すブロック図である。 基準スケールを重畳して表示した測長画像の一例を示す画像図である。 表示用マーカ生成部の機能を示すブロック図である。 マーカ形状設定用画像の一例を示す画像図である。 マーカ表示調節部の機能を示すブロック図である。 注目領域エッジ情報を画像上に示した一例を示す画像図である。 真円形の指定距離位置情報を画像上に示した一例を示す画像図である。 線形の指定距離位置情報を画像上に示した一例を示す画像図である。 間隔漸増位置情報を画像上に示した一例を示す画像図である。 間隔漸減位置情報を画像上に示した一例を示す画像図である。 マーカ方向候補位置を画像上に示した一例を示す画像図である。 候補距離を画像上に示した一例を示す画像図である。 表示サイズ設定画像の一例を示す画像図である。 表示用マーカを設定されたサイズで重畳表示する場合の、表示用マーカが表示された測長画像の一例を示す画像図である。 マーカサイズ表示欄を設けた測長画像の一例を示す画像図である。 一定間隔の距離が大きい場合の指定距離位置情報を画像上に示した一例を示す画像図である。 歪曲補正用チャート画像の一例を示す画像図である。 歪曲補正された指定距離位置情報を画像上に示した一例を示す画像図である。 基準スケールを歪曲補正する方法について示す説明図である。 表示用マーカを最大候補距離で重畳表示する場合の測長画像の一例を示す画像図である。 マーカ方向決定位置が複数存在する場合のマーカ方向候補位置を画像上に示した一例を示す画像図である。 マーカ方向決定位置が複数存在する場合のマーカ方向決定位置を画像上に示した一例を示す画像図である。 複数の互いに候補マーカが表示された測長画像の一例を示す画像図である。 互いに異なる候補マーカが表示された測長画像を切り替えて表示する一例を示す説明図である。 十字形の表示用マーカが表示された測長画像の一例を示す画像図である。 三本線形の表示用マーカが表示された測長画像の一例を示す画像図である。 円形の表示用マーカが表示された測長画像の一例を示す画像図である。 報知制御部を設けた測長画像生成部の機能を示すブロック図である。 メッセージ表示による報知を行う特定領域画像の一例を示す画像図である。 測長モードにおける内視鏡システムの動作の流れを示すフロー図である。
図1に示すように、内視鏡システム10は、内視鏡12と、光源装置13と、プロセッサ装置14と、ディスプレイ15と、ユーザーインターフェース16を有する。内視鏡12は、光源装置13と光学的に接続され、且つ、プロセッサ装置14と電気的に接続される。各種接続は有線に限られず、無線であってもよい。また、ネットワークを介したものでもよい。
内視鏡12は、観察対象の体内に挿入される挿入部12aと、挿入部12aの基端部分に設けられた操作部12bと、挿入部12aの先端側に設けられた湾曲部12c及び先端部12dとを有している。湾曲部12cは、操作部12bのアングルノブ12eを操作することにより湾曲動作する。先端部12dは、湾曲部12cの湾曲動作によって所望の方向に向けられる。
先端部12dは、照明光を観察対象に向けて照射し、且つ、観察対象からの反射光を受光して観察対象を撮像する。挿入部12aから先端部12dにわたり、処置具などを挿通するための鉗子チャンネル(図示しない)を設けてもよい。処置具は、鉗子口12jから鉗子チャンネル内に挿入する。
また、操作部12bには、観察モードの切り替え操作に用いる観察モード切替スイッチ12fと、観察対象の静止画の取得指示に用いられる静止画取得指示スイッチ12gと、ズームレンズ(図示しない)の操作に用いられるズーム操作部12hとが設けられている。
プロセッサ装置14は、ディスプレイ15及びユーザーインターフェース16と接続される。ディスプレイ15は、プロセッサ装置14で処理された医用画像(撮像画像、特定領域画像、通常光画像、特殊光画像、及び、測長画像が含まれる。)又は情報等を出力表示する。ユーザーインターフェース16は、キーボード、マウス、マイク、スピーカー、フットスイッチ、タッチパッド、タブレット及びタッチペン等を有し、機能設定等の入力操作を受け付ける。
内視鏡12は、通常観察モードと、特殊観察モードと、測長モードとを備えており、観察モード切替スイッチ12fによって切り替えられる。通常観察モードは、広帯域の照明光である通常光で観察対象を照明するモードである。特殊観察モードは、通常光と異なる狭帯域の照明光である特殊光で観察対象を照明するモードである。測長モードは、照明光又は計測補助光を観察対象に照明し、且つ、観察対象の撮像により得られる撮像画像上に、観察対象等の大きさの測定に用いられる仮想スケールとしての表示用マーカを表示する。表示用マーカが重畳表示された測長画像、又は、表示用マーカが重畳表示されない撮像画像(通常光画像、特殊光画像、及び、特定領域画像が含まれる)はディスプレイ15に表示される。なお、複数台のディスプレイ15をプロセッサ装置14に接続し、撮像画像と、測長画像とを、それぞれ異なるディスプレイ15に表示させてもよい。
なお、通常光は、観察対象全体に明るさを与えて観察対象全体を観察するために用いられる照明光である。特殊光は、観察対象のうち、腺管構造や血管等の構造を強調して観察するために用いられる照明光である。計測補助光は、表示用マーカを生成するための基準スケールの設定、表示用マーカを表示させる位置や方向の決定、及び、表示用マーカの基点の決定に用いられる光である。また、本実施形態では、測長画像上に表示する仮想スケールについて説明するが、実際の管腔内に実スケールを設け、実スケールを、撮像画像や測長画像を通して確認できるようにしてもよい。この場合には、実スケールは、内視鏡12の鉗子チャンネルを介して挿入し、先端部12dから実スケールを突出させることが考えられる。
ユーザーが静止画取得指示スイッチ12gを操作することにより、ディスプレイ15に表示される画面がフリーズ表示し、合わせて、静止画取得を行う旨のアラート音を発する。そして、静止画取得指示スイッチ12gの操作タイミング前後に得られる被写体画像の静止画が、プロセッサ装置14内の画像保存部52に保存される。なお、画像保存部52はハードディスクやUSB(Universal Serial Bus)メモリなどの不揮発性メモリである。プロセッサ装置14がネットワークに接続可能である場合には、画像保存部52に代えて又は加えて、ネットワークに接続された画像保存サーバ(図示しない)に撮像画像の静止画を保存するようにしてもよい。
なお、静止画取得指示スイッチ12g以外の操作機器を用いて、静止画取得指示を行うようにしてもよい。例えば、プロセッサ装置14にフットスイッチを接続し、ユーザーがフットスイッチを操作した場合に、静止画取得指示を行うようにしてもよい。また、モード切替をフットペダルで行うようにしてもよい。また、プロセッサ装置14に、ユーザーのジェスチャーを認識するジェスチャー認識部(図示しない)を接続し、ジェスチャー認識部が、ユーザーによって行われた特定のジェスチャーを認識した場合に、静止画取得指示を行うようにしてもよい。モード切替についても、ジェスチャー認識部を用いて行うようにしてもよい。
また、ディスプレイ15の近くに設けた視線入力部(図示しない)をプロセッサ装置14に接続し、視線入力部が、ディスプレイ15のうち所定領域内にユーザーの視線が一定時間以上入っていることを認識した場合に、静止画取得指示を行うようにしてもよい。また、プロセッサ装置14に音声認識部(図示しない)を接続し、音声認識部が、マイクを介して入力されるユーザーから発せられる特定の音声を認識した場合に、静止画取得指示や、モード切替を行うようにしてもよい。また、プロセッサ装置14に、タッチパネルなどのオペレーションパネル(図示しない)を接続し、オペレーションパネルに対してユーザーが特定の操作を行った場合に、静止画取得指示やモード切替を行うようにしてもよい。
図2に示すように、内視鏡12の先端部12dは略円形となっており、内視鏡12の撮像光学系44bを構成する光学部材のうち最も被写体側に位置する対物レンズ31と、被写体に対して照明光を照射するための照明レンズ32と、後述する計測補助光を被写体に照明するための計測補助光用レンズ33と、処置具を被写体に向けて突出させるための開口34と、送気送水を行うための送気送水ノズル35とが設けられている。
被写体からの反射光が入光する撮像光学系44b(図3参照)の光軸Ax(図7参照)は、紙面に対して垂直な方向に延びている。縦の第1方向D1は、光軸Axに対して直交しており、横の第2方向D2は、光軸Ax及び第1方向D1に対して直交する。対物レンズ31と計測補助光用レンズ33とは、第1方向D1に沿って配列されている。
図3に示すように、光源装置13は、光源部20と、光源制御部21とを備えている。光源部20は、被写体を照明するための照明光を発する。光源部20から出射された照明光は、ライトガイド22に入射され、照明レンズ32を通って被写体に照射される。
光源部20は、例えば、複数色のLED(Light Emitting Diode)等の半導体光源、レーザダイオードと蛍光体との組み合わせ、又はキセノンランプやハロゲン光源で構成される。例えば、光源部20は、紫色光を発するV-LED(Violet Light Emitting Diode)、青色光を発するB-LED(Blue Light Emitting Diode)、緑色光を発するG-LED(Green Light Emitting Diode)、及び、赤色光を発するR-LED(Red Light Emitting Diode)等のLEDを有する。また、光源部20には、LED等が発光した光の波長帯域を調整するための光学フィルタ等が含まれる。
光源制御部21は、システム制御部60からの指示に基づいて光源部20を制御する。システム制御部60は、光源制御部21に対して、光源制御に関する指示を行う他に、計測補助光出射部45の計測補助光用光源45a(図5参照)も制御する。通常観察モードの場合には、システム制御部60は、通常観察モードの場合は、光源部20から通常光を出射し、計測補助光用光源45aを消灯する制御を行う。特殊観察モードの場合は、光源部20から特殊光を出射し、計測補助光用光源45aを消灯する制御を行う。測長モードの場合には、システム制御部60は、通常光又は特殊光を出射する光源部20の各光源、及び、計測補助光を出射する計測補助光用光源45aを、点灯又は消灯する制御を行う。
照明光学系44aは照明レンズ32を有しており、照明レンズ32を介して、ライトガイド22からの光が観察対象に照射される。撮像光学系44bは、対物レンズ31、ズームレンズ(図示しない)、及び、撮像素子46を有している。観察対象からの反射光は、対物レンズ31、及び、ズームレンズを介し、撮像素子46に入射する。これにより、撮像素子46に観察対象の反射像が結像される。
ズームレンズは、テレ端とワイド端との間で移動することによって、ズーム機能として、被写体を拡大又は縮小する光学ズーム機能を有する。光学ズーム機能のONとOFFは、内視鏡の操作部12bに設けられたズーム操作部12h(図1参照)により切り替えることが可能であり、光学ズーム機能がONの状態で、さらにズーム操作部12hを操作することにより、特定の拡大率で被写体を拡大又は縮小する。
撮像素子46はカラーの撮像センサであり、被検体の反射像を撮像して画像信号を出力する。この撮像素子46は、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサ等であることが好ましい。本発明で用いられる撮像素子46は、R(赤)、G(緑)B(青)の3色の赤色画像、緑色画像、及び赤色画像を得るためのカラーの撮像センサである。赤色画像は、撮像素子46において赤色のカラーフィルタが設けられた赤色画素から出力される画像である。緑色画像は、撮像素子46において緑色のカラーフィルタが設けられた緑色画素から出力される画像である。青色画像は、撮像素子46において青色のカラーフィルタが設けられた青色画素から出力される画像である。撮像素子46は、撮像制御部47によって制御される。
撮像素子46から出力される画像信号は、CDS/AGC回路48に送信される。CDS/AGC回路48は、アナログ信号である画像信号に相関二重サンプリング(CDS(Correlated Double Sampling))や自動利得制御(AGC(Auto Gain Control))を行う。CDS/AGC回路48を経た画像信号は、A/D変換器(A/D(Analog /Digital)コンバータ)49により、デジタル画像信号に変換される。A/D変換されたデジタル画像信号は、通信I/F(Interface)50を介して、プロセッサ装置14に入力される(図3参照)。
プロセッサ装置14は、各種処理又は制御などに関するプログラムがプログラム格納メモリ(図示しない)に組み込まれている。プロセッサによって構成されるシステム制御部60は、プログラム格納メモリに組み込まれたプログラムを動作することによって、受信部51、表示制御部53、及び、信号処理部70の機能が実現する。
プロセッサ装置14の受信部51は、通信I/F50から伝送されてきた画像信号を受信し、信号処理部70に伝達する。信号処理部70は、受信部51から受けた画像信号を一時記憶するメモリを内蔵しており、メモリに記憶された画像信号の集合である画像信号群を処理する。なお、光源制御部21に関連する制御信号については、システム制御部60に直接送るようにしてもよい。
図4に示すように、信号処理部70は、通常光画像生成部80、特殊光画像生成部90、及び、測長画像生成部100を備える。通常観察モードに設定されている場合、信号処理部70の通常光画像生成部80が、撮像画像に対して、色変換処理、色彩強調処理、及び構造強調処理を行って、通常光画像を得ることが好ましい。通常光画像は、紫色光V、青色光B、緑色光G、赤色光Rがバランス良く発せられた通常光に基づいて得られた画像であるため、自然な色合いの画像となっている。
一方、特殊観察モードに設定されている場合、信号処理部70の特殊光画像生成部90が、撮像画像に対して、血管などの構造を強調する構造強調処理や、観察対象のうち正常部と病変部等との色差を拡張した色差強調処理を行い、特殊光画像を得ることが好ましい。
測長モードに設定されている場合、計測補助光が照射された被写体を撮像素子46が撮像し、計測補助光が照射された領域である特定領域を含む撮像画像(特定領域画像)が画像信号としてプロセッサ装置14に入力される。これ以降、測長モードにおいて、特定領域が含まれる画像、及び、表示用マーカを重畳する対象である撮像画像を、特別に特定領域画像と称する。特許請求の範囲における「撮像画像」は、特定領域画像を含む。測長モードでは、特定領域画像を、信号処理部70の測長画像生成部100に送信し、特定領域画像に表示用マーカを重畳した測長画像を作成する。測長画像の生成に関する詳細は後述する。
また、測長モードに設定されている場合、特定領域画像を通常光画像生成部80にも送信し、特定領域が含まれる通常光画像を同時に得るようにしてもよい。また、特定領域画像を特殊光画像生成部90にも送信し、特定領域が含まれる特殊光画像を同時に得るようにしてもよい。
表示制御部53は、信号処理部70によって作成された通常光画像、特殊光画像、又は、測長画像をディスプレイ15に表示する制御を行う。システム制御部60は、内視鏡12に設けられた撮像制御部47を介して、撮像素子46の制御を行い、さらに、画像保存部52に保存された画像に関する制御を行う。撮像制御部47は、撮像素子46の制御に合わせてCDS/AGC48及びA/D49の制御を行い、さらに、光源制御部21に情報を送る。
図5に示すように、計測補助光出射部45は、撮像光学系44bの光軸Ax(図8参照)に対して斜めに計測補助光を出射する。計測補助光出射部45は、計測補助光用光源45a、計測補助光生成素子45b、プリズム45c、及び、計測補助光用レンズ33を備える。計測補助光用光源45aは、被写体の計測に用いるスポット状の計測補助光を発する。計測補助光用光源45aは、撮像素子46の画素によって検出可能な色の光(具体的には可視光)を出射するものであり、レーザー光源LD(Laser Diode)又はLED等の発光素子と、この発光素子から出射される光を集光する集光レンズとを含む。
計測補助光用光源45aが出射する光の波長は、例えば、600nm以上650nm以下の赤色光であることが好ましい。もしくは、495nm以上570nm以下の緑色光を用いてもよい。計測補助光生成素子45bは、計測補助光用光源45aから出射した光を、計測情報を得るための計測補助光に変換する。計測補助光生成素子45bは、具体的には、コリメータレンズ、又は回折光学素子(DOE、Diffractive Optical Element)等を用いる。
プリズム45cは、計測補助光生成素子45bで変換後の計測補助光の進行方向を変えるための光学部材である。プリズム45cは、対物レンズ31及びレンズ群を含む撮像光学系44bの視野と交差するように、計測補助光の進行方向を変更する。計測補助光の進行方向の詳細については、後述する。プリズム45cから出射した計測補助光Lmは、計測補助光用レンズ33を通って、被写体へと照射される。
計測補助光が被写体に照射されることにより、被写体上にスポット(撮像画像上の特定領域)が形成される。画像取得部である受信部51は、照明光によって照明され、かつ、計測補助光によりスポットが形成された被写体を撮像して得られる特定領域画像を取得する。受信部51が取得した特定領域画像における特定領域の位置は、位置特定部120(図8参照)によって特定される。特定された特定領域の位置に応じて、基準スケール設定部130が基準スケールを設定し、表示用マーカ生成部140が、基準スケールに基づいて、測長画像上で実寸サイズ(実際のサイズ)を表す表示用マーカを生成する。生成された表示用マーカは、撮像画像上に重畳されて、測長画像としてディスプレイ15に表示される。
図6に示すように、特定領域画像121で認識される計測補助光がスポット状である場合、特定領域は、円形の領域のスポットSPである。位置特定部120(図8参照)は、特定領域画像におけるスポットSPの位置を特定領域として特定する。なお、図6に示す特定領域画像121は、測長モードにおいてスポットSPが照射されたタイミングから、表示用マーカが表示されるまでに、ディスプレイ15に表示されることが好ましい。図6に示す特定領域画像121である撮像画像は、被写体に注目領域122を含む。注目領域については後述する。
なお、計測補助光用レンズ33に代えて、内視鏡12の先端部12dに計測補助用スリットを設けてもよい。また、計測補助光用レンズ33には、反射防止コート(AR(Anti-Reflection)コート)(反射防止部)を施すことが好ましい。反射防止コートを設けることにより、計測補助光が計測補助光用レンズ33を透過せず反射されてしまうことで、被写体に照射される計測補助光の割合が低下することを抑制し、位置特定部120(図8参照)が、計測補助光により被写体上に形成されるスポットSPの位置を認識し難くなることを防止することができる。
計測補助光出射部45は、計測補助光を撮像光学系44bの画角(視野)に向けて出射できるものであればよい。例えば、計測補助光用光源45aが光源装置13に設けられ、計測補助光用光源45aから出射された光が、光ファイバ等によって計測補助光生成素子45bにまで導光されるものであってもよい。また、プリズム45cを用いず、計測補助光用光源45a、及び、計測補助光生成素子45bの向きを撮像光学系44bの光軸Axに対して斜めに設置することで、撮像光学系44bの視野を横切る方向に計測補助光を出射させる構成としてもよい。
測長モードにおいて計測補助光を発光する場合、計測補助光の進行方向は、図7に示すように、計測補助光の光軸Lmが対物レンズの光軸Axと交差する状態で、かつ、計測補助光の光軸Lmが撮像光学系の撮影画角(2つの実線Li1で挟まれる領域内)に入る状態で、スポット状の計測補助光を出射する。観察距離の範囲Rxにおいて観察可能であるとすると、範囲Rxの近端Px、中央付近Py、及び遠端Pzでは、各点での撮像範囲(矢印Qx、Qy、Qzで示す)における計測補助光によって被写体上に形成されるスポットSPの位置(各矢印Qx、Qy、Qzが光軸Lmと交わる点)が異なることが分かる。内視鏡12の先端部12dの位置を位置P1とする。観察距離は、内視鏡12の先端部12dと被写体との距離である。したがって、観察距離は、それぞれ、位置P1と、近端Px、中央付近Py、又は遠端Pzとの間の距離である。観察距離は、詳細には、内視鏡12の先端部12dにおける撮像光学系44bの光軸Axの始点から被写体までの距離となる。軸Dvは観察距離を示す。なお、撮像光学系44bの撮影画角は2つの実線Li1で挟まれる領域内で表され、この撮影画角のうち収差の少ない中央領域(2つの破線Li2で挟まれる領域)で計測を行うようにしている。
以上のように、撮像光学系の撮影画角に入る状態で、計測補助光を出射することによって、観察距離の変化に対するスポット位置の移動の感度が高いことから、被写体の大きさを高精度に計測することができる。計測補助光が照明された被写体を撮像素子46で撮像することによって、スポットSPを含む撮像画像が得られる。撮像画像では、スポットSPの位置は、撮像光学系44bの光軸Axと計測補助光の光軸Lmとの関係、及び観察距離に応じて異なるが、観察距離が近ければ、同一の実寸サイズ(例えば5mm)を示すピクセル数が多くなり、観察距離が遠ければピクセル数が少なくなる。したがって、スポットSPの位置と被写体の実寸サイズに対応する計測情報(画像上のピクセル数)とを対応付けた対応情報(スケール用テーブル131、図8参照)を予め記憶しておくことで、スポットSPの位置から基準スケールを設定し、表示用マーカ生成部140が表示用マーカを生成することができる。
図8に示すように、信号処理部70の測長画像生成部100は、位置特定部120、基準スケール設定部130、表示用マーカ生成部140、マーカ表示調節部150、及び、表示用マーカ重畳部160を備える。位置特定部120は、基準スケールの設定等を行うために、被写体上のスポットの位置を、特定領域画像における特定領域の位置として特定する。基準スケール設定部130は、特定領域の位置に基づいて被写体の実寸サイズを示す基準スケールを設定する。
表示用マーカ生成部140は、設定された基準スケールに基づいて、さらに、マーカ形状設定に従って、特定領域画像に重畳表示される表示用マーカを生成する。マーカ表示調節部150は、表示用マーカを特定領域画像に重畳する際の、表示方向を決定する。また、予め設定された表示サイズを表示用マーカに反映させる。表示用マーカ重畳部160は、マーカ表示調節部150の調節内容に従って、特定領域画像に表示用マーカを重畳し、測長画像を生成する。生成された測長画像は、表示制御部53に送信され、ディスプレイ15に表示される。
測長モードに設定されている場合、光源部20、及び、計測補助光出射部45は、照明光と計測補助光とを連続的に発光する。場合によっては、計測補助光を、点滅または減光して発光してもよい。なお、撮像画像は3色のRGB画像とするが、その他のカラー画像(輝度信号Y、色差信号Cr、Cb)であってもよい。
位置特定部120は、特定領域の位置を特定する。特定領域の位置の特定は、測長モードにて照明光および計測補助光により被写体を照明した特定領域画像に基づいて行う。計測補助光によりスポットSPが形成された被写体の特定領域画像は、撮像光学系44b及び撮像素子46を介して取得される。
位置特定部120は、特定領域画像のうち、計測補助光の色に対応する成分を多く含む画像から特定領域を認識し、その位置を位置情報として特定することが好ましい。計測補助光は、特定の色、例えば赤色の成分を多く含む光である。特定の色が赤色である場合、特定領域画像のうち赤色画像から、被写体に形成されたスポットSPの位置である、特定領域の位置を特定することが好ましい。特定領域の位置の特定方法は、例えば、特定領域画像の赤色画像を二値化し、二値化した画像のうちの黒部分(信号値が位置特定用閾値より高い画素)の重心を、特定領域の位置として特定する方法がある。
なお、計測補助光の特定の色は他の色、例えば緑色であってもよい。この場合、特定領域画像のうち緑色画像から、特定領域の位置を特定する。また、スポットSPの形は、円形でもよく、星形多角形を含む多角形でもよく、星芒形であってもよい。
図9に示すように、基準スケール設定部130は、スケール用テーブル131を備える。基準スケール設定部130は、スケール用テーブル131を参照して、特定した特定領域の位置に対応した、被写体の実寸サイズを示す基準スケールを設定する。スケール用テーブル131は、特定領域の位置と被写体の実寸サイズに対応する計測情報とを対応付けた対応情報である。
スケール用テーブル131の作成方法について具体的に説明すると、例えば、特定領域の位置とマーカの大きさ(計測情報)との関係は、実寸サイズのパターンが規則的に形成されたチャートを撮像することで得ることができる。スポット状の計測補助光をチャートに向けて出射し、観察距離を変化させてスポットの位置を変えながら実寸サイズと同じ罫(5mm)もしくはそれより細かい罫(例えば1mm)の方眼紙状のチャートを撮像し、スポットの位置(撮像素子46の撮像面におけるピクセル座標)と実寸サイズに対応するピクセル数(実寸サイズである5mmが何ピクセルで表されるか)との関係を取得する。
基準スケールは、実寸サイズを示す数値及び単位、さらに、その情報であって、例えば、実寸サイズにおける20mmに対応するピクセル数を有する線分である。通常は基準スケールをディスプレイ15に表示しないが、基準スケールをディスプレイ15に表示してもよい。この場合、例えば表示用マーカ生成部140に基準スケール表示機能を持たせることで、図10に示すような測長画像132として、基準スケール133(図10では実寸サイズが20ミリメートル)を特定領域画像に重畳してディスプレイ15に表示してもよい。
表示用マーカ生成部140は、基準スケールの情報を基準スケール設定部130から受信し、又は、メモリから読み出し、表示用マーカを生成する。表示用マーカは、測長画像に表示される仮想スケールのことである。図11に示すように、表示用マーカ生成部140は、マーカ形状設定が記憶されているマーカ形状設定部141を備える。生成された表示用マーカは、メモリに一時記憶される。
マーカ形状設定部141には、ユーザーが選択した、又は、自動的に設定されたマーカ形状設定が記憶されている。ユーザーにマーカ形状を選択させる場合、システム制御部60が、図12に示すようなマーカ形状設定用画像142をディスプレイ15に表示してもよい。マーカ形状設定用画像142では、任意のマーカ形状を、例えば、ラジオボタン143で選択できる。マーカ形状には、例えば、線分、十字形、三本線形、円形があり、これに限られない。なお、円形には、真円と楕円が含まれる。また、図面には、特に記載のない場合、表示用マーカを実線で示すが、表示用マーカは破線で表示されてもよい。測長画像に表示される表示用マーカを実線又は破線のいずれで表示するかを設定できるようにしてもよく、表示用マーカの色を設定できるようにしてもよい。
図13に示すように、マーカ表示調節部150は、注目領域エッジ情報抽出部170、指定距離位置情報設定部180、マーカ方向候補位置検出部190、候補距離算出部200、方向決定部210、及び、表示サイズ設定部220を備える。
マーカ表示調節部150では、注目領域エッジ情報抽出部170が抽出した注目領域エッジ情報と、指定距離位置情報設定部180が読み出した設定に基づく指定距離位置情報とを用い、マーカ方向候補位置検出部190が、少なくとも1つ以上のマーカ方向候補位置を検出する。次いで、候補距離算出部200が、特定領域の位置からマーカ方向候補位置までの距離である候補距離を算出する。次いで、方向決定部210が、特定領域の位置から最大の候補距離をなすマーカ方向候補位置の方向に、表示用マーカを表示することを決定する。
表示用マーカの基点は特定領域の位置である。表示用マーカ重畳部160(図8参照)は、位置特定部120が特定した特定領域の位置を、表示用マーカの重畳表示に用いる。表示サイズ設定部220は、表示用マーカの表示サイズを設定し、保持する。表示用マーカ重畳部160は、表示サイズを読み出し、表示用マーカの重畳表示に用いる。
マーカ表示調節部150の注目領域エッジ情報抽出部170は、特定領域画像から注目領域エッジ情報を抽出する。特定領域画像は、受信部51から測長画像生成部100に送信されたものを用いる。注目領域エッジ情報とは、被写体の注目領域の端部に相当する部分を、特定領域画像から抽出した情報のことである。
注目領域とは、被写体に含まれる、ユーザーが注目すべき領域である。注目領域は、例えば、ポリープ、腫瘍、炎症等の病変が存在する領域、又は、病変が存在すると疑われる領域である。測長画像に表示用マーカを表示することで、注目領域の正確な実寸サイズを計測することができる。注目領域の正確な実寸サイズは、診断の精度向上に役に立つ。また、どのような処置を行うかをユーザー等が判断し、さらに、処置を行うための適切な処置具を選択する際に有益な情報である。
例えば、撮像画像に示されるポリープの実寸サイズは、ユーザー等が胃や大腸でポリープを発見したシーンにおいて、ポリペクトミーを行うか、他の処置方法を適応させるかを判断する際の判断材料のひとつになる。また、ポリペクトミーやEMR(Endoscopic Mucosal Resection;内視鏡的粘膜切除術)等の処置を行う場合に、観察中の注目領域の実寸サイズがわかることで、適切な大きさのスネアループを有するポリペクトミースネアを選択することに貢献できる。
特定領域画像から注目領域エッジ情報を抽出した具体例を説明する。図14に示す例では、スポットSPが形成された特定領域画像171のうち、注目領域は、球が重なったような立体形状を有するポリープである(図6参照)。注目領域エッジ情報抽出部170は、図14のように、特定領域画像171に含まれる注目領域の端部を、注目領域エッジ情報173として抽出する。このように抽出された注目領域エッジ情報173は、マーカ方向候補位置検出部190に送信される。
指定距離位置情報設定部180は、後述する、マーカ方向候補位置を検出するために用いる指定距離位置情報に関する設定を読み出し、マーカ方向候補位置検出部190に送信する。指定距離位置情報とは、特定領域画像において、特定領域の位置から、ある指定間隔の距離分離れた位置の情報を指す。本実施形態では、特定領域画像に指定距離位置情報を重ねることを、「特定領域画像に指定距離位置情報を設定する」と記載する。
具体的には、図15に示すような、特定領域画像171の特定領域の位置(スポットSPで示す)から、指定された一定間隔ごとに離れた位置の情報である。図15では、等間隔である一定間隔の距離分離れた位置の軌跡を円又は円弧(点線)で表した指定距離位置情報181を示している。指定距離位置情報設定部180は、指定距離位置情報181を、特定領域画像171における画像上のピクセル数で表すか、又は、サイズ情報を伴う実寸サイズで表すかの設定を読み出す。なお、図15では、最もスポットSPから離れた指定距離位置情報181を代表として引き出し線及び符号を付している。また、後述のとおり、指定距離位置情報181のうち、代表同心円のみにサイズ情報を対応付ける設定が可能であることが好ましい。
指定距離位置情報をピクセル数で表す場合、指定距離位置情報は実寸サイズの情報を伴わない。また、この場合、指定距離位置情報設定部180は、一定間隔の距離が何ピクセル分であるかの情報を読み出す。
例えば、等間隔である一定間隔の距離が100ピクセルである場合、図15では、特定領域の位置(スポットSPで示す)から最も内側の円で示す指定距離位置情報181は、特定領域の位置から100ピクセル離れた位置の軌跡を示している。同様に、最も内側の円で示す指定距離位置情報181から、200ピクセル、300ピクセル、400ピクセルと、100ピクセルごとに離れた位置の軌跡を指定距離位置情報181として例示している。
詳細は後述するが、指定距離位置情報181は図15に示すような真円の形に限られない。例えば、図16に示すように、100ピクセルごとに離れた位置を目盛りで示した、特定領域の位置(スポットSPで示す)を中心として放射状に描画される、複数本の矢印で示す指定距離位置情報181であってもよい。この場合、指定距離位置情報181の数は8つに限られず、任意の数に設定できることが好ましい。
指定距離位置情報を実寸サイズで表す場合、基準スケール設定部130が出力したサイズ情報と、指定距離位置情報とが対応付けられる。サイズ情報は、基準スケール(ピクセル数と実寸サイズとの対応関係)の情報のことを指す。この場合、指定距離位置情報設定部180は、一定間隔の距離が何ミリメートル分であるかの情報を読み出す。一定間隔の距離の単位は、ミリメートルに限られない。例えば、センチメートル、マイクロメートル又はナノメートルでもよい。
図15に示す例を用いると、等間隔である一定間隔の距離が10ミリメートルである場合、特定領域の位置(スポットSPで示す)から最も内側の円で示す指定距離位置情報181は、特定領域の位置から10ミリメートル離れた位置の軌跡を示している。同様に、最も内側の円で示す指定距離位置情報181から、20ミリメートル、30ミリメートル、40ミリメートルと、10ミリメートルごとに離れた位置の軌跡が指定距離位置情報となる。
なお、指定距離位置情報は、図15に示すような等間隔以外に、漸増又は漸減する一定間隔の距離の情報であってもよい。例えば、指定距離位置情報を、一定間隔で漸増する間隔の情報(間隔漸増位置情報)とすることができる。この場合、指定距離位置情報は、例えば、100ピクセルごとに漸増する。
具体的には、図17に示すように、特定領域の位置(スポットSPで示す)から最も内側の円で示す指定距離位置情報181は、特定領域の位置から100ピクセル離れた位置の軌跡を示し、そのひとつ外側の円で示す指定距離位置情報181は、スポットSPから、300ピクセル離れた位置の軌跡である。さらにひとつ外側の円で示す指定距離位置情報181は、スポットSPから、600ピクセル離れた位置の軌跡である。すなわち、図17に示す指定距離位置情報181は、スポットSPから、100ピクセル、200ピクセル、300ピクセルと、一定間隔を漸増させた指定距離位置情報181である。指定距離位置情報を間隔漸増位置情報とすることで、特定領域画像の広い範囲に指定距離位置情報を設定できる。特に、高倍率観察を行う場合等、注目領域が特定領域画像の広い範囲に存在する場合に有用である。
また、指定距離位置情報を、一定間隔で漸減する間隔の情報(間隔漸減位置情報)とする場合、指定距離位置情報は、例えば、100ピクセルごとに漸増する。
具体的には、図18に示すように、特定領域の位置(スポットSPで示す)から最も内側の円で示す指定距離位置情報181は、特定領域の位置から150ピクセル離れた位置の軌跡を示し、そのひとつ外側の円で示す指定距離位置情報181は、スポットSPから、300ピクセル離れた位置の軌跡である。同様に、その外側の円で示す指定距離位置情報181は、スポットSPから450ピクセル、500ピクセルと離れた位置の軌跡である。すなわち、図18に示す指定距離位置情報181は、スポットSPから、150ピクセル、300ピクセル、450ピクセル、500ピクセルと、一定間隔を漸減させた指定距離位置情報181である。指定距離位置情報を間隔漸減位置情報とすることで、特定領域画像の狭い範囲に指定距離位置情報を設定できる。特に、低倍率観察を行う場合等、注目領域が特定領域画像の狭い範囲に存在する場合に有用である。
指定距離位置情報をピクセル数又は実寸サイズのいずれで表すかの設定、並びに、一定間隔の距離の設定は、自動的に、又は、任意に行えることが好ましい。ユーザーが指定距離位置情報の設定を行う場合、ディスプレイ15に指定距離位置情報設定画像(図15から図18参照)を表示し、一定間隔を等距離にする場合の一定間隔の距離や、一定間隔の漸増又は漸減の幅を設定できるようにしてもよい。
マーカ方向候補位置検出部190は、注目領域エッジ情報、及び、指定距離位置情報を用いて、表示用マーカの表示方向を決定するために用いるマーカ方向候補位置を検出する。マーカ方向候補位置検出部190は、特定領域の位置の情報を位置特定部120から受け取り、又は、メモリから読み出す。また、指定距離位置情報を指定距離位置情報設定部180から受け取り、又は、メモリから読み出す。
具体的なマーカ方向候補位置の検出方法を説明する。マーカ方向候補位置検出部190は、図19の具体例に示すような、特定領域画像171から抽出した注目領域エッジ情報173と、指定距離位置情報181とが重なる交点を、マーカ方向候補位置191a、191b、191c、191d、191e、191f、191gとして検出する。図19では、7個検出されるマーカ方向候補位置191a、191b、191c、191d、191e、191f、191gは、特定領域画像171における座標情報である。
図19には、理解を助けるため、特定領域画像171における注目領域エッジ情報173、及び、指定距離位置情報181を示しているが、これらの情報は、実際には、プロセッサ装置14の内部で処理される座標情報である。なお、図19のような、注目領域エッジ情報173、及び、指定距離位置情報181を確認することができる指定距離位置情報画像を生成し、ディスプレイ15に表示するようにしてもよい。
候補距離算出部200は、特定領域の位置からマーカ方向候補位置までの距離である候補距離を算出する。具体的には、図20のように、スポットSPから、それぞれのマーカ方向候補位置191a、191b、191c、191d、191e、191f、191gの距離である候補距離201を算出する。図20では、スポットSPからマーカ方向候補位置191aまでの候補距離201に代表として引き出し線と符号を付している。
候補距離201は、指定距離位置情報から算出することが好ましい。例えば、図19及び図20において、指定距離位置情報が、100ピクセルごとの等距離の位置を示す場合、マーカ方向候補位置191aとの候補距離は400ピクセルであり、マーカ方向候補位置191b、191gとの候補距離は300ピクセルであり、マーカ方向候補位置191c、191fとの候補距離は200ピクセルであり、マーカ方向候補位置191d、191eとの候補距離は100ピクセルである。
方向決定部210は、候補距離算出部200が算出した複数の候補距離と、予め設定された指定距離とを参照し、特定領域の位置(スポットSPの位置)と、指定距離以上の候補距離をなすマーカ方向候補位置を、マーカ方向決定位置と決定する。指定距離は、任意に又は自動的に設定されることが好ましい。算出された候補距離のうち、最大のもの(最大候補距離)を指定距離としてもよい。
図20に示す具体例では、最大候補距離である候補距離201に、引き出し線と符号を付している。最大候補距離を指定距離とした場合、方向決定部210は、マーカ方向候補位置191aをマーカ方向決定位置と決定する。マーカ方向決定位置は、特定領域の位置を基点とする表示用マーカの、終点方向を決めるための座標情報である。すなわち、方向決定部210が決定するマーカ方向決定位置によって、表示用マーカの表示方向が定まる。
なお、指定距離位置情報について、特定領域の位置から近い順に番号を付して第N指定距離位置情報(Nは自然数)とし、指定距離を、特定領域の位置から第M指定距離位置情報までの距離としてもよい。例えば、図20に示す具体例において、指定距離を第4指定距離位置情報とした場合、マーカ方向決定位置は、マーカ方向候補位置191aとなる。指定距離を第3指定距離位置情報とした場合、マーカ方向決定位置は、マーカ方向候補位置191a、191b、191gとなる。マーカ方向決定位置が複数存在する場合の表示用マーカの表示方法については後述する。
表示サイズ設定部220は、表示用マーカの表示サイズの設定を読み出す。表示サイズの設定は、例えば、図21に示す具体例が挙げられる。図21に示す表示サイズ設定用画像221では、表示用マーカを「20ミリメートルで表示する」又は「最大候補距離で表示する」を選択できるようになっている。
特定領域画像に重畳する表示用マーカの表示サイズは任意に設定できることが好ましい。例えば、表示サイズ設定用画像221の表示サイズ入力欄222に任意の数値を入力することで表示用マーカの表示サイズを変更する。また、表示サイズの単位(例えば、センチメートル、マイクロメートル、又は、ナノメートル)を設定できるようにしてもよい。
表示用マーカ重畳部160は、特定領域の位置を基点とする表示用マーカを、表示サイズ設定部220が読み出した表示サイズで、少なくともマーカ方向決定位置が示す座標を通る延長線上を通るように、特定領域画像に重畳し、測長画像を生成する。生成された測長画像は表示制御部53に送信され、ディスプレイ15に表示される。
表示用マーカを実寸サイズで重畳表示する具体例を説明する。例えば、表示サイズの設定は「20ミリメートルで表示する」とされている。この場合、図22に示す測長画像230の例では、スポットSPの位置を基点として、マーカ方向決定位置231(図20のマーカ方向候補位置191a)の方向を向くように表示方向が調節された、実寸サイズにして20ミリメートルの線分である表示用マーカ232が表示される。表示用マーカ232は、少なくとも、特定領域の位置(スポットSPの位置)を始点としてマーカ方向決定位置231を通る延長線233の一部(延長線233のを構成する点の座標の一部)を通るように重畳表示される。
表示用マーカ232の実寸サイズは、図22に示すように、表示用マーカ232の近傍に表示してもよく、図23に示すように、被写体に被らないようなマーカサイズ表示欄234として表示してもよい。実寸サイズを表示用マーカの近傍に表示することで、観察中の注目領域の実寸サイズをスポットSPの近くで確認することができる。一方、実寸サイズを被写体に被らないように表示することで、ユーザーはできるだけ情報を排除した測長画像を観察でき、必要な場合にのみ実寸サイズを確認することができる。
上記構成により、固定された仮想スケールの方向に合わせて内視鏡12を操作することなく、注目領域の大きさに合わせて仮想スケールを表示することができる。表示方向が自動的に決定されることで、例えば大腸のヒダや大きな病変等、生体内の構造物に物理的に阻まれることにより観察が難しい状況でも、仮想スケールの固定表示位置に合わせて内視鏡12を動かすことなく、撮像画像で観察される注目領域の最大サイズの方向に合わせて、仮想スケールの表示方向を自動的に調節することが実現される。
さらに、注目領域エッジ情報のみから候補距離を求める方法は、注目領域エッジ情報のうち、どの部分の座標情報を用いて候補距離を計算するか定まらないため、候補距離の計算量が膨大になってしまう。一方、エッジ情報と指定距離位置情報を組み合わせる本実施形態の方法では、方向決定の候補となるマーカ方向候補位置を検出し、マーカ方向候補位置の数の分だけ候補距離を算出すればよい。このため、エッジ情報のみから大量の候補距離を算出するよりも、指定距離位置情報をさらに組み合わせてマーカ方向候補位置を検出することで、候補距離の算出を高速化することができ、表示用マーカの表示方向の決定を速く行うことができる。このような構成により、内視鏡観察時において、ほぼリアルタイムでの仮想スケールの表示を実現できる。
指定距離位置情報の一定間隔の距離を大きくすること、すなわち、指定距離位置情報の数を減らすことで、計算速度をさらに大きくすることができる。図24に例示するように、図15の具体例よりも、指定距離位置情報181の一定間隔の距離を大きくした場合、マーカ方向候補位置191の数は少なくなる。このため、算出される候補距離の数も少なくなるため、表示用マーカの表示方向を決定するまでの時間を早めることができる。
一方、指定距離位置情報の一定間隔の距離を小さくした場合、すなわち、指定距離位置情報の数を増やす場合、計算に時間はかかるが、表示用マーカの表示方向の調節の精度を上げることができる。まとめると、マーカ方向候補位置の数が少ないと計算速度が上昇し、マーカ方向候補位置の数が多いと調整精度が上昇する。
指定距離位置情報は、特定領域の位置からの等間隔位置を示す情報であることが好ましい。図15に示すように、特定領域の位置から、等間隔で一定間隔の距離分離れた位置に指定距離位置情報を設定することで、特定領域画像の撮影倍率にかかわらず、速く正確に表示用マーカの表示方向を決定することができる。
指定距離位置情報は、特定領域の位置を中心とする同心円であることが好ましい。すなわち、図15に示すように、特定領域の位置を中心として、一定間隔の距離分離れた位置の軌跡を示す同心円であることが好ましい。指定距離位置情報を線とする場合、線の本数によっては、マーカ方向候補位置の数が多すぎる、又は、少なすぎる可能性がある。このため、指定距離位置情報を同心円にすることで、安定した精度で表示方向の調節を行うことができる。
マーカ方向候補位置検出部190は、歪曲収差が補正された指定距離位置情報を用いて、マーカ方向候補位置を検出することが好ましい。この場合、マーカ方向候補位置検出部190は、予め保存されている、一定間隔の距離に応じて歪曲収差が補正された指定距離位置情報を読み出してもよく、画像保存部52に保存されている歪曲補正用チャート画像185を用いて、指定距離位置情報181の歪曲補正を行うようにしてもよい。
歪曲補正用チャート画像185は、図25に示すような、実寸サイズのパターンが規則的に形成されたチャート186を内視鏡12を用いて撮像することで得ることができる。歪曲補正用チャート画像185内のチャート186は、内視鏡12に入射する反射光が対物レンズ31を透過するときに屈折することにより、実際の像と比較して歪みが生じている。指定距離位置情報設定部180は、図25に示すように、歪曲補正用チャート画像185を用いて指定距離位置情報181を設定してもよく、歪曲補正用チャート画像185内のチャート186と、歪みのない仮想チャートとの座標のずれとの対応関係から得た歪曲補正用演算式を読み出し、歪曲収差を補正した指定距離位置情報を設定するようにしてもよい。
指定距離位置情報の歪曲収差を補正した場合であって、指定距離位置情報181を同心円とする場合、特定領域画像171に設定される指定距離位置情報181は、図26に示すように、楕円形になる。
なお、基準スケール設定部130も、歪曲補正用チャート画像185を用いて、歪曲収差が補正された基準スケールを算出するようにしてもよい。この場合、スポット状の計測補助光をチャート186に向けて出射し、観察距離を変化させてスポットの位置を変えながら実寸サイズと同じ罫(5mm)もしくはそれより細かい罫(例えば1mm)の方眼紙状のチャート186を撮像し、スポットSPの位置(撮像素子46の撮像面におけるピクセル座標)と、実寸サイズに対応する補正ピクセル数(例えば、実寸サイズである5mmが何ピクセルで表されるか)との関係を補正スケール用テーブル134として取得する。例えば、図27に示すように、基準スケール133の最大値「20」を補正ピクセルの最大値Pに対応させ、基準スケール133の中間点「10」を補正ピクセルの中間点0.5Pに対応させる。
上記構成により、内視鏡12のレンズの歪みが考慮されたマーカ方向候補位置を検出することができ、表示用マーカの表示方向の決定の精度を向上させることができる。
指定距離位置情報は、実寸サイズを示すサイズ情報と対応付けされていることが好ましい。この場合、「指定距離位置情報を実寸サイズで表す」設定を指定距離位置情報設定部180が読み出す。次いで、候補距離算出部200は、特定領域の位置からマーカ方向候補位置との候補距離201(図23参照)を実寸サイズとして算出する。
この場合、表示用マーカ重畳部160は、図28に示すように、注目領域の実寸サイズと同じ実寸サイズである線分である表示用マーカ232(図28では18ミリメートル)を測長画像230に表示することができる。なお、図28では、表示用マーカ232は最大候補距離で表示されている。表示用マーカ232として重畳される最大候補距離は、特定領域の位置からマーカ方向決定位置231までの実寸サイズの距離である。上記構成により、マーカ方向決定位置が決定された時点で、直接的に、注目領域の実寸サイズを表示用マーカとして表示することができる。
一方、指定距離位置情報をサイズ情報と対応付けることなく、指定距離位置情報181をピクセル数で表す場合、すなわち、表示用マーカ232を最大候補距離ではなく、「20ミリメートル」のような任意の表示サイズで重畳表示する場合は、指定距離位置情報181にサイズ情報が対応付いていない分、計算処理が速くなり、表示用マーカが重畳された測長画像を表示するまでの時間を短くすることができる。
なお、指定距離位置情報のうち、最も特定領域の位置に近い座標位置に存在する指定距離位置情報にサイズ情報を対応付け、候補距離の算出時に一定間隔の距離を用いて補間処理を行うようにしてもよい。指定距離位置情報を同心円とする場合、特定領域の位置から最も内側の円を代表指定距離位置情報とし、代表指定距離位置情報にサイズ情報を対応付ける。候補距離の算出時には、、代表同心円に対応付けられたサイズ情報と、一定間隔の距離の設定情報と、代表同心円から何ピクセル離れた同心円であるかとの情報を用いた補間処理を行い、候補距離を算出してもよい。上記構成により、すべての指定距離位置情報にサイズ情報を対応付ける場合よりも計算処理を速くすることができる。
ここで、第1の変形例として、特定領域の位置と指定距離以上の候補距離をなすマーカ方向候補位置が複数存在する場合について説明する。この場合、方向決定部210は、複数のマーカ方向決定位置を決定し、表示用マーカ重畳部160は、特定領域の位置を基点とし、それぞれのマーカ方向決定位置を少なくとも含む、複数の表示用マーカを特定領域画像に重畳した測長画像を生成することが好ましい。
具体例を説明する。図29の具体例で、指定距離を最大候補距離とした場合、特定領域画像171において、6つのマーカ方向候補位置192a、192b、192c、192d、192e、192fのうち、特定領域の位置(スポットSPの位置)と最大候補距離をなすマーカ方向候補位置が2つ存在している(マーカ方向候補位置192a、192b)。この場合、方向決定部210は、図30に示すように、マーカ方向候補位置192a(図29参照)を第1マーカ方向決定位置231a、マーカ方向候補位置192b(図29参照)を第2マーカ方向決定位置231b、とそれぞれ決定する。
次いで、表示用マーカ重畳部160は、図31に示すように、複数の表示用マーカを、候補マーカとして特定領域画像に重畳することで生成された測長画像230を生成する。第1候補マーカ232aは、第1マーカ方向決定位置231aを通る。第2候補マーカ232bは、第2マーカ方向決定位置231bを通る。上記構成により、同じ実寸サイズを有する表示用マーカを複数表示することができる。さらに、ユーザーがより観察しやすい方向に表示された表示用マーカを選ぶための選択肢を作ることができる。
複数の候補マーカは、図31に示すように、同じ表示態様で測長画像230に重畳表示してもよく、異なる表示態様で重畳表示してもよい。例えば、第1候補マーカ232aを実線で表示し、第2候補マーカ232bを破線で表示するようにしてもよい。また、第1候補マーカ232aと第2候補マーカ232bの色を異ならせて表示してもよい。複数の候補マーカの表示態様はこれに限られない。
さらに、複数の候補マーカは、切り替えて表示することが好ましい。具体的には、図32に示すように、第1候補マーカ232aを表示する第1測長画像230aと、第2候補マーカ232bを表示する第2測長画像230bとを切り替えて表示させる。図32では、第1測長画像230aには表示されない第2候補マーカ232bと、第2測長画像230bは表示されない第1候補マーカ232aを破線で示している。
なお、図32のように、第1測長画像230aでは第1候補マーカ232aを実線で、第2候補マーカ232bを破線で表示し、第2測長画像230bでは第1候補マーカ232aを破線で、第2候補マーカ232bを実線で表示するように、切り替える測長画像ごとに、最も強調したい候補マーカと、それ以外の候補マーカの表示態様をそれぞれ異ならせるようにしてもよい。候補マーカの表示態様の異ならせ方は、実線又は破線としてもよく、色や透過度を異ならせるようにしてもよく、これに限られない。
切り替え方法としては、内視鏡12、又は、ユーザーインターフェース16としてのフットスイッチやタッチパネルに候補マーカ切り替えスイッチ(図示しない)を設け、候補マーカ切り替えスイッチの操作をトリガーとしてそれぞれの測長画像230a、230bを切り替えるようにする方法がある。なお、切り替え方法はこれに限られない。例えば、音声認識、ジェスチャー認識、又は、視線認識(アイトラッキング)を切り替え操作のトリガーとしてもよい。
また、複数の候補マーカのうち、いずれかの候補マーカを表示用マーカとして決定し、測長画像には決定された表示用マーカのみを表示するようにしてもよい。この場合、候補マーカ選択ボタンを内視鏡12やユーザーインターフェース16に設けてもよい。音声認識、ジェスチャー認識、又は、視線認識を候補マーカ選択操作のトリガーとしてもよい。上記構成により、ユーザーがより観察しやすい方向に表示された表示用マーカを選択することができる。
ここで、第2の変形例として、表示用マーカを線分(矢印)以外の表示態様で表示する例を説明する。表示用マーカ重畳部160は、表示用マーカ生成部140が読み出したマーカ形状で、表示用マーカ232を測長画像230に表示することが好ましい。例えば、図33に示すように、測長画像230に表示される表示用マーカ232のマーカ形状を十字形にした場合、基点を特定領域の位置(スポットSP)とし、表示用マーカ232である十字形を構成する線分のいずれかひとつの終点が、特定領域の位置(スポットSP)を始点とし、マーカ方向決定位置231を通る延長線233上に含まれる。
また、図34に示すように、測長画像230に表示される表示用マーカ232のマーカ形状を三本線形にした場合、基点を特定領域の位置(スポットSP)とし、三本線形を構成する線分のいずれかひとつの終点が、特定領域の位置(スポットSP)を始点とし、マーカ方向決定位置231を通る延長線233上に含まれる。なお、図33及び図34では、表示用マーカ232の表示サイズの設定を「10ミリメートルで表示する」とした例を示している。
また、図35に示すように、測長画像230に表示される表示用マーカ232のマーカ形状を円形にした場合は、表示用マーカ232の中心を基点とする。この場合、基点を特定領域の位置(スポットSP)とし、表示用マーカ232の周線上又は周線より内側の領域にマーカ方向決定位置231を含む。図35に示す例では、表示用マーカ232の周線にマーカ方向決定位置231が含まれている。なお、図35では、表示用マーカ232の表示サイズの設定を「最大候補距離で表示する」とした例を示している。また、表示用マーカ232のうち、測長画像230に表示される部分を実線で示し、画面外となり、測長画像230に表示されない部分を破線で示している。
表示用マーカを円形で示すことで、処置をどのような範囲で行うかを可視化することができ、処置具の選定を補助することができる。また、表示用マーカを最大候補距離よりも大きく表示するように設定することで、EMRを適用する際に、局注液を局注すべき範囲を視認することができる。
ここで、注目領域エッジ情報の抽出方法について説明する。注目領域エッジ情報抽出部170は、構造強調処理を特定領域画像に施すことによって、特定領域画像から注目領域エッジ情報を抽出することが好ましい。構造強調処理は、コントラスト調整処理、エッジ強調処理及び/又は二値化処理を施す画像処理のことである。
コントラスト調整処理では、まず、取得された特定領域画像から、横軸に画素値(輝度値)を、縦軸に頻度を取った濃度ヒストグラムを求める。次に、濃度ヒストグラムから分布関数を求める。さらに、特定領域画像において、濃度が低い部分はより低く、濃度が高い部分はより高くなるように諧調補正を行う。この場合、分布関数に代入する諧調補正用演算値を定めることが好ましい。また、諧調補正を行う際に、濃度と出力値が対応付けられた諧調補正テーブルを用いてもよい。
エッジ強調処理では、特定領域画像を構成する画素に対して、3×3の中心画素の濃度を置き換える膨張フィルタ、収縮フィルタ、平均化フィルタ及び/又はメディアンフィルタ等のフィルタを組み合わせた画像処理を施すことで、エッジを強調する。膨張フィルタは、3×3の画素に含まれる画素のうち、最大の明るさを有する画素を中心画素に置き換える。収縮フィルタは、3×3の画素に含まれる画素のうち、最小の明るさを有する画素を中心画素に置き換える。平均化フィルタは、3×3の画素に含まれる画素の画素値の平均値を中心画素の画素値とする。メディアンフィルタは、3×3の画素に含まれる画素の中央値を中心画素の画素値とする。
二値化処理では、二値化処理用閾値を用いて、特定領域画像を二値化する。例えば、特定領域画像の各画素が有する画素値を参照し、二値化処理用閾値以上の画素は黒に、二値化処理用閾値未満の画素は白に変換して二値化画像とする。コントラスト調整処理及び/又はエッジ強調処理を行った特定領域画像に対して、さらに、二値化処理を行ってもよい。また、コントラスト調整処理及び/又はエッジ強調処理を行わずに二値化処理を行ってもよい。
注目領域エッジ情報抽出部170は、このような構造強調処理を行った処理済み特定領域画像から、特定領域画像に写る注目領域の端部に相当する注目領域エッジ情報を位置情報として抽出する。注目領域エッジ情報を構造強調処理によって抽出することにより、既存の画像処理の方法を応用して注目領域エッジ情報することができる。
また、注目領域エッジ情報抽出部170を学習済みモデルとし、特定領域画像を入力することで注目領域エッジ情報を抽出することが好ましい。学習済みモデルの生成に用いるモデルは、機械学習による画像認識において好適な各種のモデルを用いることができる。
学習により学習済みモデルとするモデルには、深層学習を採用することが好ましい。さらに、画像から注目領域エッジ情報を抽出する目的のため、畳み込みニューラルネットワークを採用すること好ましい。機械学習には、深層学習に加え、決定木、サポートベクトルマシン、ランダムフォレスト、回帰分析、教師あり学習、半教師なし学習、教師なし学習、強化学習、深層強化学習、敵対的生成ネットワーク等が含まれる。
モデルの学習には、過去に取得された撮像画像を用いることが好ましい。例えば、過去に取得された撮像画像から生成した注目領域エッジ情報と、注目領域エッジ情報を抽出した元の画像とを対応付けて教師データやテストデータとする。また、モデルの種類に応じて、注目領域エッジ情報を持たない撮像画像を学習用画像として学習に用いてもよい。注目領域エッジ情報を学習済みモデルによって抽出することにより、注目領域エッジ情報の抽出精度を向上することができる。
ここで、第3の変形例として、スポットを注目領域の端部に形成させるための報知を行う例を説明する。この場合、図36に示すように、測長画像生成部100に、報知制御部240をさらに設ける。報知制御部240は、特定領域の位置と、注目領域エッジ情報とを用いて、スポットを注目領域の端部に照射させるための報知指示を生成し、ユーザーインターフェース16を介して報知を行うように制御することが好ましい。
粘膜の一部が隆起したポリープ等、立体的な注目領域が被写体に含まれる場合であって、注目領域の隆起の頂点(先端部12dに向かって隆起した頂点)にスポットが形成される場合、隆起の起始部にスポットが形成される場合よりも、測長画像に表示される表示用マーカのサイズが小さくなってしまい、診断や処置の対象となる注目領域全体の実寸サイズを小さく見誤ってしまうおそれがある。このような問題は、スポットが形成される位置によって、生成される仮想スケールのサイズが異なるために生じる(図7参照)。このため、注目領域の隆起の起始部に近い位置の粘膜、又は、起始部にスポットを形成することで、注目領域全体の正確な実寸サイズの表示用マーカを、測長画像に表示することができる。
注目領域全体の正確な実寸サイズを示す表示用マーカを重畳表示するためには、計測補助が被写体に形成するスポットが、注目領域の端部、すなわち、特定領域画像上での注目領域エッジ情報の示す位置に形成されることが好ましい。そこで、「スポットが注目領域の端部に形成されていない場合」に報知を行うことで、内視鏡12を操作してスポットが注目領域の端部に形成するよう、ユーザーに促すことができる。
報知制御部240は、まず、位置特定部120が特定した特定領域の位置の情報と、注目領域エッジ情報を受信、又は、メモリから読み出す。次いで、注目領域エッジ情報と、特定領域の位置の情報を参照し、両者の座標情報が重ならない場合、システム制御部60に報知指示を送信する。
なお、注目領域エッジ情報が含む座標と、特定領域の位置の座標の距離を算出し、その距離が報知用閾値以上であった場合に報知指示を送信してもよい。報知指示としては、ブザー音や音声メッセージ等の音による報知指示、並びに、ユーザーインターフェース16として報知ランプを設け、報知ランプの発光色や点滅による報知、又は、特定領域画像や測長画像上でメッセージ表示を行う報知等の視覚情報による報知指示がある。なお、報知指示はこれに限られない。
特定領域画像のメッセージ表示による報知を行う具体例について、図37に示す具体例を用いて説明する。測長画像230には、被写体に形成されたスポットSPを含む。報知制御部240によって、スポットSPを「注目領域の端部に形成されていない」と判断された場合、測長画像230の被写体を含まない部分に、メッセージ261を表示する。図37に示す具体例では、メッセージ261として「計測補助光を端部に照射してください」と表示している。
なお、この場合、「内視鏡を右にAセンチメートル動かしてください」のメッセージ261を表示する等、内視鏡12の操作に関する指示を表示してもよい。また、スポットSPを形成すべき場所の候補位置を、候補スポット位置として、特定領域画像の被写体を含む部分に表示してもよい。
本実施形態の測長モードにおける内視鏡システムの動作の一連の流れについて、図38に示すフローチャートに沿って説明する。まず、計測補助光を発光し(ステップST101)、計測補助光が被写体に形成するスポットを含む被写体を撮像して撮像画像(特定領域画像)を取得する(ステップST102)。次に、位置特定部120は、被写体に形成されたスポットの位置を、特定領域画像の特定領域の位置として特定する(ステップST103)。次に、基準スケール設定部130が、特定領域の位置に基づいて基準スケールを設定する(ステップST104)。
次に、表示用マーカ生成部140が、設定された基準スケールに基づき、マーカ形状設定に従って、特定領域画像に重畳表示される表示用マーカを生成する(ステップST105)。次に、マーカ表示調節部150の注目領域エッジ情報抽出部170が注目領域エッジ情報を抽出する(ステップST106)。このステップは、基準スケールの生成(ステップST104)と同時に行うようにしてもよい。
次に、マーカ方向候補位置検出部190が、注目領域エッジ情報と、指定距離位置情報とを用いて、少なくとも1つ以上のマーカ方向候補位置を検出する(ステップST107)。次に、候補距離算出部200が特定領域の位置からマーカ方向候補位置までの候補距離を算出する(ステップST108)。次に、方向決定部210がマーカ方向決定位置を決定し、表示用マーカの表示方向を決定する(ステップST109)。次に、表示用マーカ重畳部160が、特定領域画像に表示方向が決定された表示用マーカを重畳して測長画像を生成する(ステップST110)。最終的に、表示制御部53が、測長画像をディスプレイ15に表示する(ステップST111)。
なお、プロセッサ装置14から、測長画像生成部100を分離し、拡張プロセッサ装置(図示しない)に測長画像生成部100を設けてもよい。この場合、拡張プロセッサ装置は、プロセッサ装置14、ユーザーインターフェース16、及び、ディスプレイ15と接続するようにしてもよい。
上記実施形態において、受信部51、信号処理部70、表示制御部53、システム制御部60といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。また、記憶部のハードウェア的な構造はHDD(hard disc drive)やSSD(solid state drive)等の記憶装置である。
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
12f 観察モード切替スイッチ
12g 静止画取得指示スイッチ
12h ズーム操作部
12j 鉗子口
13 光源装置
14 プロセッサ装置
15 ディスプレイ
16 ユーザーインターフェース
20 光源部
21 光源制御部
22 ライトガイド
31 対物レンズ
32 照明レンズ
33 計測補助光用レンズ
34 開口
35 送気送水ノズル
44a 照明光学系
44b 撮像光学系
45 計測補助光出射部
45a 計測補助光用光源
45b 計測補助光生成素子
45c プリズム
46 撮像素子
47 撮像制御部
48 CDS/AGC回路
49 A/D変換器
50 通信I/F
51 受信部
52 画像保存部
53 表示制御部
60 システム制御部
70 信号処理部
80 通常光画像生成部
90 特殊光画像生成部
100 測長画像生成部
120 位置特定部
121、171 特定領域画像
122 注目領域
130 基準スケール設定部
131 スケール用テーブル
132、230 測長画像
133 基準スケール
134 補正スケール用テーブル
140 表示用マーカ生成部
141 マーカ形状設定部
142 マーカ形状設定用画像
143 ラジオボタン
150 マーカ表示調節部
160 表示用マーカ重畳部
170 注目領域エッジ情報抽出部
173 注目領域エッジ情報
180 指定距離位置情報設定部
181 指定距離位置情報
185 歪曲補正用チャート画像
186 チャート
190 マーカ方向候補位置検出部
191、191a、191b、191c、191d、191e、191f、191g、192a、192b、192c、192d、192e、192f マーカ方向候補位置
200 候補距離算出部
201 候補距離
210 方向決定部
220 表示サイズ設定部
221 表示サイズ設定用画像
222 表示サイズ入力欄
231 マーカ方向決定位置
231a 第1マーカ方向決定位置
231b 第2マーカ方向決定位置
232 表示用マーカ
232a 第1候補マーカ
232b 第2候補マーカ
233 延長線
234 マーカサイズ表示欄
240 報知制御部
261 メッセージ

Claims (15)

  1. 被写体を撮像する撮像素子と、
    被写体の計測に用いる計測補助光を発する計測補助光用光源と、
    プロセッサと、を備え、
    前記プロセッサは、
    前記計測補助光によって形成される特定領域を含む前記被写体を撮像した撮像画像を取得し、
    前記撮像画像における前記特定領域の位置を特定し、
    前記特定領域の位置に基づいて前記被写体の実寸サイズを示す基準スケールを設定し、
    前記基準スケールに基づき、前記撮像画像に重畳するための表示用マーカを生成し、
    前記撮像画像から注目領域エッジ情報を抽出し、
    前記注目領域エッジ情報と、前記特定領域の位置からの距離を示す指定距離位置情報とに基づき、前記表示用マーカの表示方向の決定に用いるマーカ方向候補位置を検出し、
    前記特定領域の位置から前記マーカ方向候補位置までの距離である候補距離を算出し、
    前記特定領域の位置と指定距離以上の前記候補距離をなす前記マーカ方向候補位置を、マーカ方向決定位置と決定し、
    前記撮像画像に、前記特定領域の位置を始点とし、かつ、前記マーカ方向決定位置を通る延長線の一部を通る前記表示用マーカを、前記特定領域の位置を基点とするように重畳した測長画像を作成し、
    前記測長画像を表示する内視鏡システム。
  2. 前記指定距離位置情報は、前記特定領域の位置からの等間隔位置を示す情報である請求項1に記載の内視鏡システム。
  3. 前記指定距離位置情報は、前記特定領域の位置を中心とする同心円である請求項1又は2に記載の内視鏡システム。
  4. 前記指定距離位置情報は、歪曲収差が補正されている請求項1ないし3のいずれか1項に記載の内視鏡システム。
  5. 前記指定距離位置情報は、実寸サイズを示すサイズ情報と対応付けされている請求項1ないし4のいずれか1項に記載の内視鏡システム。
  6. 前記プロセッサは、
    前記指定距離位置情報のうち、前記特定領域の位置と最も近い前記指定距離位置情報を代表指定距離位置情報とし、前記代表指定距離位置情報に前記サイズ情報を対応付ける請求項5に記載の内視鏡システム。
  7. 前記表示用マーカは、基点を前記特定領域の位置とし、終点を前記マーカ方向決定位置とする線分であり、
    前記プロセッサは、
    前記サイズ情報に基づき、前記特定領域の位置から前記マーカ方向決定位置までの距離である、前記表示用マーカの実寸サイズの長さを表示する請求項5又は6に記載の内視鏡システム。
  8. 前記プロセッサは、
    前記マーカ方向決定位置が複数存在する場合、前記表示用マーカとして複数の候補マーカを前記測長画像に表示する請求項1ないし7のいずれか1項に記載の内視鏡システム。
  9. 前記プロセッサは、
    前記測長画像において、複数の前記候補マーカをそれぞれ切り替えて表示する請求項8に記載の内視鏡システム。
  10. 前記表示用マーカは、前記特定領域の位置を基点とする複数の線分からなり、
    前記複数の線分の1つは、前記特定領域の位置を始点とし、前記マーカ方向決定位置を通る前記延長線上に終点を含む請求項1ないし9のいずれか1項に記載の内視鏡システム。
  11. 前記注目領域エッジ情報は、構造強調処理によって抽出される請求項1ないし10のいずれか1項に記載の内視鏡システム。
  12. 前記注目領域エッジ情報は、学習済みモデルを用いて抽出される請求項1ないし10のいずれか1項に記載の内視鏡システム。
  13. 前記学習済みモデルは、畳み込みニューラルネットワークである請求項12に記載の内視鏡システム。
  14. 前記プロセッサは、
    前記特定領域の位置と、前記注目領域エッジ情報とを用い、前記計測補助光を注目領域の端部に照射する報知指示を生成する請求項1ないし13のいずれか1項に記載の内視鏡システム。
  15. 被写体を撮像するステップと、
    被写体の計測に用いる計測補助光を発するステップと、
    前記計測補助光によって形成される特定領域を含む前記被写体を撮像した撮像画像を取得するステップと、
    前記撮像画像において前記特定領域の位置を特定するステップと、
    前記特定領域の位置に基づいて前記被写体の実寸サイズを示す基準スケールを設定するステップと、
    前記基準スケールに基づき、前記撮像画像に重畳するための表示用マーカを生成するステップと、
    前記撮像画像から注目領域エッジ情報を抽出するステップと、
    前記注目領域エッジ情報と、前記特定領域の位置からの距離を示す指定距離位置情報とに基づき、前記表示用マーカの表示方向の決定に用いるマーカ方向候補位置を検出するステップと、
    前記特定領域の位置から前記マーカ方向候補位置までの距離である候補距離を算出するステップと、
    前記特定領域の位置と指定距離以上の前記候補距離をなす前記マーカ方向候補位置を、マーカ方向決定位置と決定するステップと、
    前記撮像画像に、前記特定領域の位置を始点とし、かつ、前記マーカ方向決定位置を通る延長線の一部を通る前記表示用マーカを、前記特定領域の位置を基点とするように重畳した測長画像を作成するステップと、
    前記測長画像を表示するステップと、を備える内視鏡システムの作動方法。
JP2022014070A 2022-02-01 2022-02-01 内視鏡システム及びその作動方法 Pending JP2023112340A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022014070A JP2023112340A (ja) 2022-02-01 2022-02-01 内視鏡システム及びその作動方法
US18/160,173 US20230240511A1 (en) 2022-02-01 2023-01-26 Endoscope system and endoscope system operation method
EP23154377.8A EP4218563A1 (en) 2022-02-01 2023-02-01 Endoscope system and endoscope system operation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022014070A JP2023112340A (ja) 2022-02-01 2022-02-01 内視鏡システム及びその作動方法

Publications (1)

Publication Number Publication Date
JP2023112340A true JP2023112340A (ja) 2023-08-14

Family

ID=85158842

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022014070A Pending JP2023112340A (ja) 2022-02-01 2022-02-01 内視鏡システム及びその作動方法

Country Status (3)

Country Link
US (1) US20230240511A1 (ja)
EP (1) EP4218563A1 (ja)
JP (1) JP2023112340A (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018051680A1 (ja) 2016-09-15 2018-03-22 富士フイルム株式会社 内視鏡システム
JP7214840B2 (ja) * 2019-03-29 2023-01-30 富士フイルム株式会社 内視鏡、内視鏡装置
CN114286961A (zh) * 2019-08-28 2022-04-05 富士胶片株式会社 内窥镜系统及其工作方法
WO2021131238A1 (ja) 2019-12-25 2021-07-01 富士フイルム株式会社 内視鏡装置及びその作動方法並びに内視鏡装置用プログラム

Also Published As

Publication number Publication date
EP4218563A1 (en) 2023-08-02
US20230240511A1 (en) 2023-08-03

Similar Documents

Publication Publication Date Title
JP6785941B2 (ja) 内視鏡システム及びその作動方法
JP2019037688A (ja) 医療画像処理システム、内視鏡システム、診断支援装置、並びに医療業務支援装置
US20240049942A1 (en) Endoscope system and method of operating the same
JP7116264B2 (ja) 内視鏡システム及びその作動方法
JP2023005896A (ja) 内視鏡システム、医療画像処理装置及びその作動方法
JP2020141712A (ja) 内視鏡装置、キャリブレーション装置、及びキャリブレーション方法
US11490784B2 (en) Endoscope apparatus
US20230200682A1 (en) Endoscope system and method of operating the same
US20220330850A1 (en) Endoscope apparatus, method of operating the same, and non-transitory computer readable medium
JP2023112340A (ja) 内視鏡システム及びその作動方法
JP2020014807A (ja) 内視鏡装置及びその作動方法並び内視鏡装置用プログラム
EP3942991A1 (en) Endoscope processor device, medical image processing device, operation method thereof, and program for medical image processing device
EP3586719B1 (en) Endoscope apparatus
JP7167352B2 (ja) 内視鏡システム及びその作動方法
US12029386B2 (en) Endoscopy service support device, endoscopy service support system, and method of operating endoscopy service support device
WO2020153186A1 (ja) 内視鏡装置
US20220409010A1 (en) Medical image processing device, operation method therefor, and endoscope system
US11399707B2 (en) Endoscope apparatus
US20240188798A1 (en) Endoscope system, medical information processing apparatus, medical information processing method, medical information processing program, and recording medium
JP7343594B2 (ja) 内視鏡
CN114286641A (zh) 内窥镜装置及其工作方法以及内窥镜装置用程序
WO2022186111A1 (ja) 医用画像処理装置、医用画像処理方法、及びプログラム
WO2021199294A1 (ja) 情報処理装置、表示方法、及びプログラムが格納された非一時的なコンピュータ可読媒体
JP2020151250A (ja) 内視鏡装置及びその作動方法並びに内視鏡装置用プログラム