JP6840846B2 - 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置 - Google Patents

医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置 Download PDF

Info

Publication number
JP6840846B2
JP6840846B2 JP2019522008A JP2019522008A JP6840846B2 JP 6840846 B2 JP6840846 B2 JP 6840846B2 JP 2019522008 A JP2019522008 A JP 2019522008A JP 2019522008 A JP2019522008 A JP 2019522008A JP 6840846 B2 JP6840846 B2 JP 6840846B2
Authority
JP
Japan
Prior art keywords
display
condition
region
area
display area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019522008A
Other languages
English (en)
Other versions
JPWO2018221033A1 (ja
Inventor
正明 大酒
正明 大酒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2018221033A1 publication Critical patent/JPWO2018221033A1/ja
Application granted granted Critical
Publication of JP6840846B2 publication Critical patent/JP6840846B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/542Event management; Broadcasting; Multicasting; Notifications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00055Operational features of endoscopes provided with output arrangements for alerting the user
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/07Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Endoscopes (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、医療画像を用いて、ユーザーに報知するための報知情報を提供する医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置に関する。
現在の医療分野においては、光源装置、内視鏡、及びプロセッサ装置を備える内視鏡システムなどのように、医療画像を用いる医療画像処理装置が普及している。また、近年においては、医療画像に画像解析を行うことによって、診断の対象となる注目領域を検出し、ユーザーに報知することも行われている。その他、被写体や医療画像に関するエラーや、被写体の観察状態、病変の有無、種類などを報知することも行われている。
以上のようなユーザーに報知するための報知情報をモニタに表示して提供する場合には、ユーザーによる医療画像の観察を極力阻害しないことが求められている。これに対して、例えば、特許文献1に示すように、親画面中の操作カーソルが子画面と重ならないようにする技術を参考にし、医療画像中の注目すべき領域と報知情報が重ならないようにすることが考えられる。また、特許文献2に示すように、時計などの必要情報の表示を一定時間経過後は非表示にする技術を参考にし、報知情報を一定時間経過後に非表示にすることが考えられる。また、特許文献3に示すように、異常の検出時は、通常画像から異常メッセージに切り替える技術を参考にし、エラー発生時には、医療画像の表示を停止し、報知情報のみを表示することが考えられる。
特開2011−96084号公報 特開2007−243275号公報 特公平7−27481号公報
ユーザーに対して報知情報を提供する場合には、上記したように、ユーザーによる医療画像の観察を極力阻害しないことに加え、注目領域の見逃しの防止や観察時に要する注意を持続させることが必要である。したがって、特許文献2のように、報知情報を非表示にした場合には、注目領域を見逃したりするおそれがある。また、特許文献3のように、医療画像の表示を停止した場合にも、注目領域を見逃すおそれがある。なお、特許文献1に関しては、操作カーソルが位置する領域が必ずしも注目領域とは限らないため、報知情報を表示する子画面と注目領域が重なってしまうおそれがある。
本発明は、ユーザーによる医療画像の観察を阻害せず、且つ注目領域の見逃しを防止することができ、さらに、観察時に要する注意を持続させることができる医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置を提供することを目的とする。
本発明の医療画像処理装置は、被写体を含む医療画像を取得する画像取得部と、医療画像を第1の表示領域に表示する表示部と、ユーザーに報知するための報知情報を表示部において表示する制御、又は報知情報を表示部において非表示にする制御を行う表示制御部と、を有する。
表示制御部は、第1の表示領域と異なる第2の表示領域において、報知情報を表示する制御、又は表示中の報知情報を非表示にする制御を行うことが好ましい。表示制御部は、第1の条件を満たした場合に、第1の表示領域において報知情報を表示する制御を行い、第1の条件と異なる第2の条件を満たした場合に、第1の表示領域において表示中の報知情報を非表示にし、第1の表示領域と異なる第2の表示領域において、報知情報を表示する制御を行うことが好ましい。
医療画像から注目領域を検出する注目領域検出部を有し、第1の条件は、注目領域の面積が面積用閾値以下の場合であり、第2の条件は、注目領域の面積が面積用閾値を超える場合であることが好ましい。医療画像から注目領域を検出する注目領域検出部を有し、第1の条件は、注目領域の位置が第1の表示領域の中心範囲から外れている場合であり、第2の条件は、注目領域の位置が第1の表示領域の中心範囲に入っている場合であることが好ましい。
医療画像から注目領域を検出する注目領域検出部を有し、第1の条件は、注目領域の時間的変化量が変化量用閾値を超える場合であり、第2の条件は、注目領域の時間的変化量が変化量用閾値以下の場合であることが好ましい。医療画像から注目領域を検出する注目領域検出部を有し、第1の条件は、注目領域の輝度値が輝度値用閾値以下の場合であり、第2の条件は、注目領域の変化量が輝度値用閾値を超える場合であることが好ましい。
第1の条件は、第1の表示領域に報知情報を表示する第1の表示時間が表示制限時間以下であり、第2の条件は、第1の表示時間が表示制限時間を超えた場合であることが好ましい。第1の条件は、ユーザー入力により、報知情報を表示する領域が第1の表示領域に指定された場合であり、第2の条件は、ユーザー入力により、報知情報を表示する領域が第2の表示領域に指定された場合であることが好ましい。
医療画像から注目領域を検出する注目領域検出部を有し、第1の条件は、注目領域の面積、注目領域の位置、注目領域の時間的変化量、注目領域の輝度値、及び、第1の表示領域に報知情報を表示する第1の表示時間の少なくとも2つを組み合わせた組み合わせ情報が、組合せ用条件を満たす場合であり、第2の条件は、組み合わせ情報が、組合せ用条件を満たさない場合であることが好ましい。第1の条件は、注目領域の面積と注目領域の輝度値を組み合わせた面積輝度組合せ情報が、面積輝度用組合せ条件を満たす場合であり、第2の条件は、面積輝度組合せ情報が、面積輝度用組合せ条件を満たさない場合であることが好ましい。
表示制御部は、第1の条件及び第2の条件と異なる第3の条件を満たした場合に、第2の表示領域において、表示中の報知情報を非表示にする制御を行うことが好ましい。
表示制御部は、特定の条件を満たした場合に、第1の表示領域、第1の表示領域と異なる第2の表示領域、又は第1の表示領域及び第2の表示領域の両方のいずれかにおいて、報知情報を表示する制御、又は報知情報を非表示にする制御を行い、特定の条件を満たさない場合に、特定の条件を満たす場合と異なる表示領域において、報知情報を表示する制御、又は報知情報を非表示にする制御を行うことが好ましい。
表示制御部は、第1の表示領域において、報知情報を医療画像に重畳させて表示する制御を行うことが好ましい。
医療画像から注目領域を検出する注目領域検出部を有し、報知情報は、注目領域に関する情報を報知するための報知情報であることが好ましい。
被写体又は医療画像に関するエラーを検出するエラー検出部を有し、報知情報はエラーであることが好ましい。エラー検出部は、医療画像を解析してエラーを検出するエラー検出用画像解析部である。エラーは医療画像上に表れるブレであることが好ましい。エラーは被写体の汚れ度合いであることが好ましい。エラー検出部はエラー検出用のセンサであることが好ましい。
報知情報は被写体の観察状態であることが好ましい。観察状態は、被写体に対して照射する照明光に関する照明モード、医療画像に対して施す画像処理に関する画像処理モード、被写体を拡大する拡大観察、又は被写体を拡大しない非拡大観察のうち少なくともいずれかで表されることが好ましい。報知情報は、病変の有無、病変の種類、又は処置具の検出状況であることが好ましい。
報知情報は、医療画像に重畳して保存されることが好ましい。報知情報は、医療画像とひとつのデータ形式にまとめて保存されることが好ましい。報知情報と医療画像は、少なくとも2つの別データとして保存されることが好ましい。
本発明によれば、ユーザーによる医療画像の観察を阻害せず、且つ注目領域の見逃しを防止することができ、さらに、観察時に要する注意を持続させることができる。
内視鏡システムの外観図である。 内視鏡システムのブロック図である。 第1実施形態の画像処理部を示すブロック図である。 報知情報の一つであるバウンディングボックスを示す説明図である。 モニタにおける第1の表示領域A1及び第2の表示領域A2を示す画像図である。 (A)は、注目領域の面積が小さい場合に報知情報としてバウンディングボックスを表示する画像図であり、(B)は、注目領域の面積が大きい場合に報知情報としてアイコンを表示する画像図である。 (A)は、注目領域が中心範囲から外れている場合に報知情報としてバウンディングボックスを表示する画像図であり、(B)は、注目領域が中心範囲に入っている場合に報知情報としてアイコンを表示する画像図である。 (A)は、注目領域の動きが遅い場合に報知情報としてアイコンを表示する画像図であり、(B)は、注目領域の動きが速い場合に報知情報としてバウンディングボックスを表示する画像図である。 報知情報の表示制御に関する一連の流れを示すフローチャートである。 第2実施形態の画像処理部を示すブロック図である。 報知情報として「ブレ発生」の文字情報を表示する画像図である。 第3実施形態の画像処理部を示すブロック図である。 報知情報として「白色光モード」の文字情報を表示する画像図である。 第4実施形態の画像処理部を示すブロック図である。 鑑別スコア値とシークバーを示す説明図である。 報知情報として鑑別スコア値及びシークバーを示す画像図である。
[第1実施形態]
図1に示すように、内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、モニタ18と、コンソール19と、を備える。内視鏡12は、観察対象である被写体に照明光を照射し、照明光で照射された被写体を撮像する。光源装置14は、被写体に照射するための照明光を発生する。プロセッサ装置16は、内視鏡システム10のシステム制御及び画像処理等を行う。モニタ18は、プロセッサ装置16から出力された画像を表示する表示部である。コンソール19は、キーボードなどのように、プロセッサ装置16等への設定入力等を行う入力デバイスである。
内視鏡12は、被検体内に挿入する挿入部12aと、挿入部12aの基端部分に設けた操作部12bと、挿入部12aの先端側に設けた湾曲部12cと、先端部12dと、を有している。操作部12bのアングルノブ12eを操作することにより、湾曲部12cが湾曲する。湾曲部12cが湾曲することにより、先端部12dが所望の方向に向く。先端部12dには、被写体に向けて空気や水等を噴射する噴射口(図示しない)が設けられている。
また、操作部12bには、アングルノブ12eの他、ズーム操作部13が設けられている。ズーム操作部13を操作することによって、被写体を拡大または縮小して撮像することができる。また、挿入部12aから先端部12dにわたって、処置具などを挿通するための鉗子チャンネル(図示しない)が設けられている。処置具は、鉗子入口12fから鉗子チャンネル内に挿入される。
図2に示すように、光源装置14は、光源部20と、光源制御部22と、を備える。光源部20は、被写体を照明するための照明光を発光する。光源部20は、1又は複数の光源を備えている。光源制御部22は、光源部20の駆動を制御する。光源制御部22は、光源部20を構成する光源の点灯または消灯のタイミング、及び、点灯時の発光量等をそれぞれ独立に制御する。その結果、光源部20は、発光量や発光タイミングが異なる複数種類の照明光を発光することができる。
光源部20が発光した照明光は、ライトガイド41に入射する。ライトガイド41は、内視鏡12及びユニバーサルコード内に内蔵されており、照明光を内視鏡12の先端部12dまで伝搬する。ユニバーサルコードは、内視鏡12と光源装置14及びプロセッサ装置16とを接続するコードである。なお、ライトガイド41としては、マルチモードファイバを使用できる。一例として、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3〜0.5mmの細径なファイバケーブルを使用できる。
内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは、照明レンズ45を有しており、この照明レンズ45を介して照明光が被写体に向けて出射する。撮像光学系30bは、対物レンズ46、ズームレンズ47、及びイメージセンサ48を有している。イメージセンサ48は、対物レンズ46及びズームレンズ47を介して、被写体から戻る照明光の反射光等(反射光の他、散乱光、被写体が発する蛍光、または、被写体に投与等した薬剤に起因した蛍光等を含む)を用いて被写体を撮像する。ズームレンズ47は、ズーム操作部13の操作をすることで移動し、イメージセンサ48を用いて撮像する被写体を拡大または縮小する。
イメージセンサ48は、例えば原色系のカラーフィルタを有するカラーセンサであり、青色カラーフィルタを有するB画素(青色画素)、緑色カラーフィルタを有するG画素(緑色画素)、及び、赤色カラーフィルタを有するR画素(赤色画素)の3種類の画素を備える。青色カラーフィルタは、主として紫色から青色の光を透過する。緑色カラーフィルタは、主として緑色の光を透過する。赤色カラーフィルタは、主として赤色の光を透過する。上記のように原色系のイメージセンサ48を用いて被写体を撮像すると、最大で、B画素から得るB画像(青色画像)、G画素から得るG画像(緑色画像)、及び、R画素から得るR画像(赤色画像)の3種類の画像を同時に得ることができる。
なお、イメージセンサ48としては、CCD(Charge Coupled Device)センサや、CMOS(Complementary Metal Oxide Semiconductor)センサを利用可能である。また、本実施形態のイメージセンサ48は、原色系のカラーセンサであるが、補色系のカラーセンサを用いることもできる。補色系のカラーセンサは、例えば、シアンカラーフィルタが設けられたシアン画素、マゼンタカラーフィルタが設けられたマゼンタ画素、イエローカラーフィルタが設けられたイエロー画素、及び、グリーンカラーフィルタが設けられたグリーン画素を有する。補色系カラーセンサを用いる場合に上記各色の画素から得る画像は、補色−原色色変換をすれば、B画像、G画像、及びR画像に変換できる。また、カラーセンサの代わりに、カラーフィルタを設けていないモノクロセンサをイメージセンサ48として使用できる。この場合、BGR等各色の照明光を用いて被写体を順次撮像することにより、上記各色の画像を得ることができる。
プロセッサ装置16は、制御部52と、画像取得部54と、画像処理部61と、表示制御部66と、記録制御部68と、保存用メモリ69と、を有する。制御部52は、照明光の照射タイミングと撮像のタイミングの同期制御等の内視鏡システム10の統括的な制御を行う。また、コンソール19等を用いて、各種設定の入力等をした場合には、制御部52は、その設定を、光源制御部22、イメージセンサ48、または画像処理部61等の内視鏡システム10の各部に入力する。
画像取得部54は、イメージセンサ48から、被写体を撮像した画像を取得する。この画像取得部54で取得する画像は、内視鏡12のような医療用装置により得られた画像であることから、医療画像と称する。画像取得部54は、DSP(Digital Signal Processor)56と、ノイズ低減部58と、変換部59と、を有し、これらを用いて、取得した医療画像に必要に応じて各種処理を施す。DSP56は、取得した医療画像に対し、必要に応じて欠陥補正処理、オフセット処理、ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、デモザイク処理、及びYC変換処理等の各種処理を施す。
欠陥補正処理は、イメージセンサ48の欠陥画素に対応する画素の画素値を補正する処理である。オフセット処理は、欠陥補正処理を施した画像から暗電流成分を低減し、正確な零レベルを設定する処理である。ゲイン補正処理は、オフセット処理をした画像にゲインを乗じることにより各画像の信号レベルを整える処理である。リニアマトリクス処理は、オフセット処理をした画像の色再現性を高める処理であり、ガンマ変換処理は、リニアマトリクス処理後の画像の明るさや彩度を整える処理である。
なお、イメージセンサ48がカラーセンサである場合には、デモザイク処理が行われる。デモザイク処理(等方化処理や同時化処理とも言う)は、欠落した画素の画素値を補間する処理であり、ガンマ変換処理後の画像に対して施す。欠落した画素とは、カラーフィルタの配列に起因して(イメージセンサ48において他の色の画素を配置しているため)、画素値がない画素である。例えば、B画像はB画素において被写体を撮像して得る画像なので、G画素やR画素に対応する位置の画素には画素値がない。デモザイク処理は、B画像を補間して、イメージセンサ48のG画素及びR画素の位置にある画素の画素値を生成する。YC変換処理は、デモザイク処理後の画像を、輝度チャンネルYと色差チャンネルCb及び色差チャンネルCrに変換する処理である。
ノイズ低減部58は、輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrに対して、例えば、移動平均法またはメディアンフィルタ法等を用いてノイズ低減処理を施す。変換部59は、ノイズ低減処理後の輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrを再びBGRの各色の画像に再変換する。
画像処理部61は、画像取得部54が取得した医療画像に対して各種の画像処理を施す。本実施形態では、画像処理部61において、ユーザーに報知するための報知情報を生成する。画像処理部61は、報知情報と医療画像を表示制御部66又は記録制御部68に送る。画像処理部61の詳細については後述する。
表示制御部66は、画像処理部61から送られる報知情報及び医療情報を用い、モニタ18での表示に適した形式に変換してモニタ18に出力する。これにより、モニタ18には、医療画像と報知情報が少なくとも表示される。本実施形態では、表示制御部66は、報知情報をモニタ18に表示する制御、又は、報知情報をモニタ18から非表示にする制御を行う。表示制御部66の詳細については後述する。
記録制御部68は、画像処理部61から送られる報知情報及び医療画像を、保存用メモリ69での保存に適した形式に変換して、保存用メモリ69に記録する。記録制御部68においては、表示制御部66での制御に従って記録制御する場合と、表示制御部66での制御に関わらず、記録制御する場合とがある。表示制御部66での制御に従って記録制御する場合としては、例えば、表示制御部66により報知情報が表示されたタイミングで、その時点での報知情報及び医療画像が、記録制御部68によって保存用メモリ69に保存される。一方、表示制御部66での制御に関わらず、記録制御する場合としては、例えば、画像処理部61において注目領域が検出されたタイミングで、その時点での報知情報及び医療画像が、記録制御部68によって保存用メモリ69に保存される。
なお、報知情報と医療画像を保存用メモリ69に保存する場合には、報知情報を医療画像に重畳して保存用メモリ69に保存するようにしてもよく、それら報知情報及び医療画像を少なくとも2つの別データとして保存用メモリ69に保存するようにしてもよい。また、報知情報と医療画像とをひとつのデータにまとめて保存用メモリ69に保存する場合には、PNG、Exif、GIF、MP4などのデータ形式にして保存することが好ましい。
図3に示すように、画像処理部61は、注目領域検出部70と、報知情報生成部72とを備えている。注目領域検出部70は、医療画像から検査または診断の対象として注目すべき注目領域を検出する。注目領域検出部70では、例えば、医療画像に対してConvolutional Neural Networkを行うことの他、医療画像の色情報、画素値の勾配等で得られる特徴量を元に、注目領域の検出を行う。なお、画素値の勾配等は、例えば、被写体の形状(粘膜の大局的な起伏または局所的な陥凹もしくは隆起等)、色(炎症、出血、発赤、または萎縮に起因した白化等の色)、組織の特徴(血管の太さ、深さ、密度、もしくはこれらの組み合わせ等)、または、構造の特徴(ピットパターン等)等によって、変化が表れる。
なお、注目領域検出部70で検出される注目領域は、例えば、がんに代表される病変部、良性腫瘍部、炎症部(いわゆる炎症の他、出血または萎縮等の変化がある部分を含む)、加熱による焼灼跡もしくは着色剤、蛍光薬剤等による着色によってマーキングしたマーキング部、または、生体検査(いわゆる生検)を実施した生検実施部を含む領域である。すなわち、病変を含む領域、病変の可能性がある領域、生検等の何らかの処置をした領域、クリップやかん子などの処置具、または、暗部領域(ヒダ(襞)の裏、管腔奥のため観察光が届きにくい領域)など病変の可能性にかかわらず詳細な観察が必要である領域等が注目領域になり得る。内視鏡システム10においては、注目領域検出部70は、病変部、良性腫瘍部、炎症部、マーキング部、または、生検実施部のうち少なくともいずれかを含む領域を注目領域として検出する。
報知情報生成部72は、注目領域検出部70で検出した注目領域を元に、注目領域に関する情報を報知するための報知情報を生成する。具体的には、図4に示すように、報知情報として、注目領域ROIを点線で覆う矩形上のバウンディングボックス74を生成する。その他、報知情報として、注目領域を示す矢印や、注目領域を検出中であることを示すアイコン(図6のアイコン76参照)などを生成するようにしてもよい。また、報知情報として、注目領域をその他の領域と区別できる色に関する色情報としてもよい。なお、報知情報生成部72は、表示制御部66での表示制御に応じて異なる報知情報を表示できるようにするため、表示制御に適した複数の報知情報を生成することが好ましい。
図5に示すように、表示制御部66は、モニタ18の第1の表示領域A1に医療画像を表示する制御を行う。また、表示制御部66は、報知情報をモニタ18上に表示する制御と、表示中の報知情報をモニタ18上から非表示にする制御を行う。具体的には、表示制御部66は、第1の表示領域A1に報知情報を表示し、表示中の報知情報を第1の表示領域から非表示にする制御を行う。また、表示制御部66は、モニタ18における第1の表示領域と異なる第2の表示領域A2に報知情報を表示し、表示中の報知情報を非表示にする制御を行う。なお、報知情報を第1の表示領域A1に表示する際は、医療画像に報知情報を重畳して表示することが好ましい。
また、表示制御部66は、第1の表示領域A1及び第2の表示領域A2の両方に報知情報を表示し、表示中の報知情報を第1の表示領域A1又は第2の表示領域A2の少なくとも一方から非表示にする制御を行う。なお、表示制御部66は、第1の表示領域A1に報知情報を表示する場合には、第1の表示領域A1に表示中の医療画像に報知情報を重畳して表示する制御を行う。
ここで、第1の表示領域A1は、少なくとも内視鏡12の前方にある被写体の像を含む領域である。第2の表示領域A2は、少なくとも内視鏡12の概ね側方または後方にある被写体を含む領域である。本実施形態においては、第1の表示領域A1は樽型の領域であり、第2の表示領域A2は、モニタ18の全画面から樽型の第1の表示領域A2を除いた領域である。
表示制御部66は、報知情報の表示が注目領域の観察を阻害しないように、報知情報の表示制御を行う。具体的には、表示制御部66は、第1の条件を満たした場合に、第1の表示領域A1に報知情報を表示し、第1の条件と異なる第2の条件を満たした場合に、第1の表示領域に表示中の報知情報を非表示にし、且つ、第2の表示領域A2に報知情報を表示するようにする。
例えば、第1の条件は、注目領域の面積が面積用閾値以下の場合であり、第2の条件は、注目領域の面積が面積用閾値を超える場合であってもよい。この場合、図6(A)に示すように、表示制御部66は、注目領域ROIの面積が面積用閾値以下となる場合(第1の条件を満たす場合)、報知情報として、注目領域ROIを囲むバウンディングボックス74を第1の表示領域A1に重畳して表示する制御を行う。このようにバウンディングボックス74を重畳表示することにより、注目領域ROIが小さい場合であっても、ユーザーは、注目領域を確実に認識することができる。
その後、内視鏡12の操作により、第1の表示領域A1に表示される医療画像が変化すると、それに伴って注目領域の面積も変化する。この場合、医療画像上における注目領域が大きくなると、それに合わせてバウンディングボックス74も大きくなるため、このように大きくなったバウンディングボックス74が医療画像の観察を阻害する場合がある。そこで、図6(B)に示すように、表示制御部66は、注目領域ROIの面積が面積用閾値を超える場合(第2の条件を満たす場合)、バウンディングボックス74を第1の表示領域A1から非表示にする。また、表示制御部66は、報知情報として、注目領域ROIを検出中であることを示すアイコン76を第2の表示領域A2に表示する。これにより、第1の表示領域A1からバウンディングボックス74が非表示になっても、注目領域の見逃しを防ぐことができる。
また、第1の条件は、注目領域の位置が第1の表示領域A1の中心範囲から外れている場合であり、第2の条件は、注目領域の位置が第1の表示領域A1の中心範囲に入っている場合であってもよい。ここで、第1の表示領域A1の中心範囲CRとは、第1の表示領域の中心CPから、予め設定した距離L1までの範囲のことをいう(図7(A)参照)。図7(A)に示すように、注目領域ROIの位置が中心範囲CRから外れている場合(第1の条件を満たす場合)、ユーザーは注目領域ROIを認識し難いことから、報知情報として、注目領域ROIを囲むバウンディングボックス74を重畳表示する。
その後、内視鏡12の操作により、第1の表示領域A1に表示される医療画像が変化すると、それに伴って注目領域の位置も変化する。この場合、中心範囲CRから外れていた注目領域が中心範囲CRに入ると、バウンディングボックス74が無くても、ユーザーは注目領域を認識できるようになる。そこで、表示制御部66は、図7(B)に示すように、注目領域ROIが中心範囲CRに入った場合(第2の条件を満たす場合)、バウンディングボックス74を第1の表示領域A1から非表示にする。また、表示制御部66は、報知情報として、注目領域ROIを検出中であることを示すアイコン76を第2の表示領域A2に表示する。これにより、第1の表示領域A1からバウンディングボックス74が非表示になっても、注目領域の見逃しを防ぐことができる。
また、第1の条件は、注目領域の時間的変化量が変化量用閾値を超える場合であり、第2の条件は、注目領域の時間的変化量が変化量用閾値以下の場合であってもよい。ここで、注目領域の時間的変化量とは、例えば、特定の時間内に注目領域が動いた移動量のことをいう。図8(A)に示すように、表示制御部66は、注目領域ROIの時間的変化量が変化量用閾値以下の場合(第2の条件を満たす場合)、報知情報として、注目領域ROIを検出中であることを示すアイコン76を第2の表示領域A2に表示する。このように注目領域の動きが遅い場合には、ユーザーは注目領域を把握することができるため、アイコン76表示だけで注意を促したほうが好ましい。
そして、注目領域の動きが速くなった場合などには、図8(B)に示すように、表示制御部66は、注目領域ROIの時間的変化量が変化量用閾値を超えることを契機に(第1の条件を満たす場合)、報知情報として、注目領域ROIを囲むバウンディングボックス74を第1の表示領域A1に表示する。これにより、注目領域の動きが速くなったとしても、ユーザーは、注目領域の位置を把握して、確実に診断を行うことができるようになる。
また、第1の条件は、注目領域の輝度値が輝度値用閾値以下の場合であり、第2の条件は、注目領域の輝度値が輝度値用閾値を超える場合であってもよい。ここで、注目領域の輝度値とは、例えば、注目領域に含まれる画素の画素値の平均値や、注目領域に含まれる画素の画素値から得られる画素値の最頻値などの代表値である。医療画像上に表示される注目領域を観察する際、注目領域の輝度値が低い場合には、ユーザーは注目領域を認識し難くなっている。そこで、表示制御部66は、注目領域の輝度値が輝度値用閾値以下である場合(第1の条件を満たす場合)、報知情報として、注目領域を囲むバウンディングボックス(図6等のバウンディングボックス74と同様)を第1の表示領域A1に表示する。これにより、注目領域が暗い場合であっても、注目領域を認識して確実に診断を行うことができるようになる。
一方、注目領域の輝度値が高い場合には、ユーザーは、バウンディングボックスなどの注目領域の位置を報知する情報が無くとも、注目領域を認識することができる。このような場合、表示制御部66は、注目領域の輝度値が輝度値用閾値を超える場合(第2の条件を満たす場合)、第1の表示領域A1に表示中のバウンディングボックスを非表示にする。また、表示制御部66は、報知情報として、注目領域を検出中であることを示すアイコン(図6等のアイコン76と同様)を第2の表示領域A2に表示する。これにより、第1の表示領域A1からバウンディングボックス74が非表示になっても、注目領域の見逃しを防ぐことができる。
また、注目領域の検出を契機に、報知情報を第1の表示領域A1に表示する場合には、第1の条件を、報知情報を第1の表示領域A1に表示する第1の表示時間が、予め設定した表示制限時間内である場合とし、第2の条件を、第1の表示時間が表示制限時間を超えた場合としてもよい。ここで、報知情報時間は、第1の表示領域A1に報知情報の表示開始を契機にカウントされる。
表示制御部66は、第1の表示時間が表示制限時間内である場合(第1の条件を満たす場合)、報知情報として、注目領域を囲むバウンディングボックス(図6等のバウンディングボックス74と同様)を第1の表示領域A1に表示する。また、表示制御部66は、第1の表示時間が表示制限時間を超えた場合(第2の条件を満たす場合)、バウンディングボックスを第1の表示領域A1から非表示とする。また、表示制御部66は、報知情報として、注目領域を検出中であることを示すアイコン(図6等のアイコン76と同様)を第2の表示領域A2に表示する。これにより、一定時間の間、バウンディングボックスを表示すれば、ユーザーは注目領域を認識することができるため、一定時間経過後は、バウンディングボックスを非表示とすることで、医療画像の観察を阻害することがなくなる。また、第1の表示領域A1からバウンディングボックス74が非表示になっても、第2の表示領域A2にアイコンを表示することで、注目領域の見逃しを防ぐことができる。
また、第1の条件は、ユーザー入力により、報知情報を表示する領域を第1の表示領域A1に指定した場合であり、第2の条件は、ユーザー入力により、報知情報を表示する領域を第2の表示領域A2に指定した場合であってもよい。ユーザー入力は、コンソール19の他、内視鏡12の操作部12bに設けた表示領域指定部(図示しない)により行われる。表示制御部66は、第1の表示領域A1への指定が行われた場合(第1の条件を満たす場合)、注目領域の検出中であることを条件に、報知情報を第1の表示領域A1に表示する。表示制御部66は、第2の表示領域A2への指定が行われた場合(第1の条件を満たす場合)、注目領域の検出中であることを条件に、報知情報を第2の表示領域A2に表示する。この場合、第2の表示領域A2への指定前に、第1の表示領域A1に報知情報を表示している場合には、報知情報を第1の表示領域A1から非表示にしてもよい。
なお、第1の条件としては、注目領域の面積、注目領域の位置、注目領域の時間的変化量、注目領域の輝度値、及び第1の表示時間の少なくとも2つを組み合わせた組み合わせ情報が、組合せ用条件を満たす場合とし、第2の条件として、前記の組み合わせ条件が、組合せ用条件を満たさない場合としてもよい。例えば、第1の条件として、注目領域の面積と注目領域の輝度値を組み合わせた面積輝度組合せ情報が、面積輝度用組合せ条件を満たす場合とし、第2の条件として、注目領域の面積と注目領域の輝度値を組み合わせた面積輝度組合せ情報が、面積輝度用組合せ条件を満たさない場合としてもよい。
ここで、面積輝度組合せ情報が面積輝度用組合せ条件を満たす場合(第1の条件を満たす場合)として、注目領域の面積が面積用閾値以下で、且つ注目領域の輝度値が輝度値用閾値以下とする。この場合には、表示制御部66は、報知情報として、注目領域を囲むバウンディングボックス(図6等のバウンディングボックス74と同様)を第1の表示領域A1に表示する。
一方、面積輝度組合せ情報が面積輝度用組合せ条件を満たさない場合(第2の条件を満たす場合)として、注目領域の面積が面積用閾値を超え、且つ注目領域の輝度値が輝度値用閾値以下である場合、注目領域の面積が面積用閾値以下、且つ注目領域の輝度値が輝度値用閾値を超える場合、注目領域の面積が面積用閾値を超え、且つ注目領域の輝度値が輝度値用閾値を超える場合とする。この場合には、表示制御部66は、バウンディングボックスを第1の表示領域A1から非表示とする。また、表示制御部66は、報知情報として、注目領域を検出中であることを示すアイコン(図6等のアイコン76と同様)を第2の表示領域A2に表示する。
表示制御部66は、第1の条件と第2の条件を用いて、報知情報の表示制御を行う場合には、第1の条件及び第2の条件と異なる第3の条件を用いて、報知情報の表示制御を行うようにしてもよい。表示制御部66は、第3の条件を満たす場合には、第2の表示領域A2に表示中の報知情報を非表示にする制御を行う。ユーザーが注目領域を確実に認識できる状況下では、第1表示領域A1及び第2表示領域A2のいずれの領域においても、報知情報を非表示にすることで、報知情報が医療画像の観察の妨げになることを防止できる。なお、第3の条件としては、例えば、報知情報を第2の表示領域A2に表示する第2の表示時間が表示制限時間を超えた場合がある。ここで、第2の表示時間は、報知情報が第2の表示領域A2の表示開始を契機にカウントされる。
また、表示制御部66は、特定の条件を満たす場合に、第1の表示領域A1、第2の表示領域A2、又は、第1の表示領域A1及び第2の表示領域A2の両方のいずれかにおいて、報知情報を表示する制御、又は報知情報を非表示にする制御を行うようにしてもよい。また、表示制御部66は、特定の条件を満たさない場合には、特定の条件を満たす場合と異なる表示領域において、報知情報を表示する制御、又は報知情報を非表示にする制御を行うようにしてもよい。なお、特定の条件を満たす場合とは「第1の条件を満たす場合」とし、特定の条件を満たさない場合とは「第2の条件を満たす場合」としてもよい。
例えば、表示制御部66は、特定の条件を満たす場合に、注目領域の検出中であることを条件に、第1の表示領域A1において報知情報を表示し、且つ第2の表示領域A2において報知情報を非表示にする。また、表示制御部66は、特定の条件を満たさない場合に、注目領域の検出中であることを条件に、第2の表示領域A2において報知情報を表示し、且つ第1の表示領域A1において報知情報を非表示にする。なお、表示制御部66は、特定の条件を満たさない場合には、注目領域の検出中であることを条件に、第1の表示領域A1及び第2の表示領域A2の両方において、報知情報を表示するようにしてもよい。なお、ユーザー入力は、上記したように、コンソール19の他、内視鏡12の操作部12bに設けた表示領域指定部により行われる。
次に、表示制御部66による報知情報の表示制御について、図9に示すフローチャートに沿って説明を行う。内視鏡12は、被写体である被写体に照明光を照射し、被写体を撮像する。この被写体の撮像により医療画像が得られる。注目領域検出部70は、医療画像から注目領域を検出する。注目領域が検出されると、注目領域に関する情報を報知するための報知情報を報知情報生成部72で生成する。報知情報としては、例えば、注目領域を囲むバウンディングボックスが生成される。医療画像と報知情報は表示制御部66に送られる。
表示制御部66は、モニタ18の第1の表示領域A1に医療画像を表示する制御を行う。また、表示制御部66は、報知情報をモニタ18上に表示する制御と、表示中の報知情報をモニタ18上から非表示にする制御を行う。表示制御部66は、報知情報の表示が注目領域の観察を阻害しないように、報知情報の表示制御を行う。表示制御部66は、注目領域の面積が小さいなど第1の条件を満たす場合には、第1の表示領域A1において報知情報を医療画像に重畳する表示を行う。例えば、注目領域をバウンディングボックスで囲んで表示する。また、注目領域を特定の色で塗りつぶす、あるいは、注目領域に半透明の色を重畳して表示してもよい。その際、報知情報の内容に従って、重畳する色を変えてもよい。
これに対して、表示制御部66は、注目領域の面積が大きいなど第2の条件を満たす場合には、第2の表示領域A2に報知情報を表示するようにする。この場合、報知情報を第1の表示領域A1に表示中である場合には、第1の表示領域A1における報知情報を非表示にする。例えば、第1の表示領域A1にバウンディングボックスを表示中であれば、第1の表示領域A1からバウンディングボックスを非表示にする一方、第2の表示領域A2に、注目領域を検出中であることを示すアイコンを表示する。これにより、バウンディングボックスを非表示にしても、注目領域の見逃しを防ぐことができる。なお、以上の表示制御部66による報知情報の表示制御は、注目領域の観察を終了するまで繰り返し行われる。注目領域の観察の終了に関する指示は、コンソール19等を操作することにより行われる。
[第2実施形態]
第2実施形態では、報知情報として、被写体像又は医療画像に関するエラーをモニタ18に表示する。したがって、図10に示すように、第2実施形態の画像処理部61では、注目領域検出部70に加えて、エラーを検出するエラー検出部として、医療画像からエラーを検出するエラー検出用画像解析部80が設けられている。なお、エラー検出部としては、エラー検出用のセンサを用いて、エラーを検出するようにしてもよい。エラー検出用のセンサは、内視鏡12の先端部12dに設ける他、鉗子チャンネルに挿通する処置具に設けるようにしてもよい。また、第2の実施形態では、エラーを検出できれば、注目領域の検出を行わなくてもよいため、画像処理部61では注目領域検出部70を設けなくてもよい。
エラー検出用画像解析部80では、エラーとして、医療画像上に表れるブレを検出する。このブレは、被写体又は内視鏡12の先端部の少なくともいずれかが動くことによって発生する。ブレの検出方法としては、例えば、医療画像の高周波成分を算出し、高周波成分が一定値以下となった場合にブレが発生しているとする方法がある。また、エラー検出用画像解析部80は、エラーとして、被写体の汚れ度合いを検出する。被写体の汚れとしては、残渣、残液などがある。被写体の汚れ度合いの検出方法としては、例えば、医療画像から色情報(例えば、B画像とG画像の比及びG画像とR画像の比)を算出し、算出した色情報と、被写体上の汚れに相当する汚れ色情報との比較によって、被写体の汚れ度合いを算出する方法がある。この場合、汚れ色情報と近ければ近いほど、被写体の汚れ度合いは大きくなる。
また、第2実施形態の報知情報生成部72では、エラーを報知するための報知情報を生成する。報知情報としては、例えば、エラーが発生していること及びエラーの種類を示す文字情報がある。エラーが医療画像上に表れるブレである場合には、ブレが発生していることを示す「ブレ発生」の文字情報とすることが好ましい。また、エラーが被写体の汚れである場合には、汚れの発生及び汚れ度合いを示す「汚れ発生(中程度)」の文字情報とすることが好ましい。
表示制御部66は、報知情報の表示が医療画像の観察を阻害しないように、報知情報の表示制御を行う。具体的には、図11に示すように、表示制御部66は、エラー検出用に用いられる特定の条件を満たした場合に、第2の表示領域A2に報知情報(図11では「ブレ発生」の文字情報)を表示する。ここで、特定の条件とは、第1実施形態で示した第1の条件、第2の条件のうちエラー検出に関する条件とすることが好ましい。
その後の状況の変化により、特定の条件を満たさない場合に、第2の表示領域A2から報知情報を非表示するようにする。なお、特定の条件を満たさない場合であっても、エラーの検出が一定時間以上継続するなどの場合には、報知情報を第2の表示領域A2に表示し続けるようにしてもよい。また、報知情報は、第2の表示領域A2に代えて又は加えて、第1の表示領域A1に表示するようにしてもよい。
[第3実施形態]
第3実施形態では、報知情報として、被写体の観察状態をモニタ18に表示する。内視鏡システム10を用いる被写体の観察状態は、種々挙げられる。例えば、内視鏡システム10においては、波長などが異なる複数種類の照明光を被写体に照射することが可能である。したがって、照明光の種類が異なる複数の照明モードによって、被写体の観察状態は変化し得る。
また、内視鏡システム10においては、被写体の撮像により得られた医療画像に対して、複数種類の画像処理を施すことが可能である。したがって、医療画像に施す画像処理の種類が異なる複数の画像処理モードによって、被写体の観察状態は変化し得る。また、内視鏡システム10は、ズーム操作部13の操作によって、被写体を拡大することが可能である。したがって、被写体を拡大しない非拡大観察又は被写体を拡大する拡大観察によって、被写体の観察状態は変化し得る。
第3実施形態の画像処理部61では、図12に示すように、注目領域検出部70に加えて、被写体の観察状態を取得する観察状態取得部81が設けられている。観察状態取得部81は、プロセッサ装置16だけでなく、内視鏡12又は光源装置14との通信が可能となっている。したがって、観察状態取得部81は、被写体の観察状態として、現在、画像処理部61で使用中の照明モード又は画像処理モードを取得する。また、観察状態取得部81は、ズーム操作部13による操作状況により、被写体の観察状態として、非拡大観察又は拡大観察を取得する。
また、第3実施形態の報知情報生成部72では、被写体の観察状態を報知するための報知情報を生成する。報知情報としては、例えば、被写体の観察状態を示す文字情報がある。被写体の観察状態が照明モードで表される場合には、現在使用中の照明モードの文字情報(例えば、照明光として白色光を使用する場合であれば、「白色光モード」)とすることが好ましい。また、被写体の観察状態が画像処理モードで表される場合には、現在使用中の画像処理モードの文字情報(例えば、白色光で照明された被写体を撮像して得た白色画像を画像処理する場合には、「白色画像モード」)とすることが好ましい。また、被写体の観察状態が非拡大観察である場合には、「非拡大観察」の文字情報とし、被写体の観察状態が拡大観察である場合には、「拡大観察」の文字情報とすることが好ましい。
表示制御部66は、報知情報の表示が医療画像の観察を阻害しないように、報知情報の表示制御を行う。具体的には、図13に示すように、表示制御部66は、特定の条件を満たした場合に、第2の表示領域A2に報知情報(図13では「白色光モード」の文字情報)を表示する。ここで、特定の条件とは、第1実施形態で示した第1の条件、第2の条件のうち被写体の観察状態に関する条件とすることが好ましい。
その後の状況の変化により、特定の条件を満たさなくなった場合に、第2の表示領域A2から報知情報を非表示するようにする。なお、特定の条件を満たさない場合であっても、コンソール19等の操作によりユーザーよる別途の指定がある場合には、報知情報を第2の表示領域A2に表示し続けるようにしてもよい。また、報知情報は、第2の表示領域A2に代えて又は加えて、第1の表示領域A1に表示するようにしてもよい。また、被写体の観察状態が変わった場合に、報知情報の種類を切り替えるようにしてもよい。例えば、白色光モードから特定帯域の光を用いる特殊光モードに変わった場合には、報知情報を「白色光モード」から「特殊光モード」に切り替える。また、報知情報は一定時間の間表示を継続した後は非表示にしてもよい。
[第4実施形態]
第4実施形態では、報知情報として、病変の有無、病変の種類又は処置具の検出状況をモニタ18に表示する。病変の有無及び病変の種類については、図14に示すように、注目領域に含まれる特徴量を元に、鑑別処理部82にて鑑別する。鑑別処理部82では、Convolutional Neural Networkなどの鑑別処理を用いて、注目領域について病変の有無、病変の種類を算出する。また、処置具の検出については、注目領域に含まれる特徴量を元に、処置具検出部86にて行う。処置具検出部86についても、Convolutional Neural Networkなどの処置具検出処理を用いて、注目領域に処置具が含まれるか否かの検出を行う。
また、第4実施形態の報知情報生成部72では、被写体の観察状態を報知するための報知情報を生成する。報知情報が病変の有無又は病変の種類である場合には、図15に示すように、報知情報として、病変の進行度や病変らしさを示す鑑別スコア値88と、鑑別スコア値88に連動して動くシークバー90を生成することが好ましい。鑑別スコア値88は、スコア値が高ければ高いほど、病変の可能性が高いことを示している。シークバー90は、鑑別スコア値88が高ければ高いほど、長さLsが大きくなる。また、報知情報が処置具の有無である場合には、報知情報として、処置具の有無を示す文字情報(例えば、「処置具検出有り」など)を生成することが好ましい。
表示制御部66は、報知情報の表示が医療画像の観察を阻害しないように、報知情報の表示制御を行う。具体的には、図16に示すように、表示制御部66は、特定の条件を満たした場合に、第2の表示領域A2に報知情報(図13では鑑別スコア値88及びシークバー90)を表示する。その後の状況の変化により、特定の条件を満たさなくなった場合に、第2の表示領域A2から報知情報を非表示するようにする。なお、特定の条件を満たさない場合であっても、コンソール19等の操作によりユーザーよる別途の指定がある場合には、報知情報を第2の表示領域A2に表示し続けるようにしてもよい。また、報知情報は、第2の表示領域A2に代えて又は加えて、第1の表示領域A1に表示するようにしてもよい。
なお、ユーザーに報知するための報知情報として、第1実施形態で示した「注目領域に関する情報」、第2実施形態で示した「被写体又は医療画像に関するエラー」、第3実施形態で示した「被写体の観察状態」、第4実施形態で示した「病変の有無、病変の種類、処置具の検出状況」のうち2つ以上を組み合わせて、第1の表示領域A1又は第2の表示領域に表示又は非表示する制御を行うようにしてもよい。
なお、第1〜第4実施形態では、内視鏡システム10に対して本発明の適用を行っているが、内視鏡システム10に限らず、医療画像を処理する医療画像処理装置に対して、本発明の適用は可能である。また、医療画像を用いてユーザーに診断支援を行うための診断支援装置に対しても本発明の適用は可能である。また、医療画像を用いて、診断レポートなどの医療業務を支援するための医療業務支援装置に対しても本発明の適用は可能である。
なお、第1〜第4実施形態で使用する医療画像としては、白色帯域の光、又は前記白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像であることが好ましい。
また、第1〜第4実施形態で使用する医療画像としては、特定の波長帯域の光を照射して得た特殊光画像であることが好ましい。特定の波長帯域の光は白色帯域よりも狭い帯域であることが好ましい。特定の波長帯域は可視域の青色もしくは緑色帯域に含まれることが好ましい。特定の波長帯域はピークが390nm〜450nm、または530nm〜550nmにあることが好ましい。
特定の波長帯域は可視域の赤色帯域に含まれることが好ましい。特定の波長帯域は、ピークが585nm〜615nm、または610nm〜730nmにあることが好ましい。
特定の波長帯域は、ピークが、酸化ヘモグロビンと還元ヘモグロビンとで吸収係数の異なる帯域にあることが好ましい。特定の波長帯域は、ピークが400±10nm、440±10nm、470±10nm、又は600nm〜750nmにあることが好ましい。
また、第1〜第4実施形態で使用する医療画像としては、生体内を写した生体内画像であることが好ましい。生体内画像は、生体内の蛍光物質が発する蛍光の情報を有することが好ましい。蛍光は、ピークが390〜470nmである励起光を前記生体内に照射して得られることが好ましい。
また、第1〜第4実施形態で使用する医療画像としては、生体内を写した生体内画像であることが好ましい。特定の波長帯域は赤外光の波長帯域であることが好ましい。特定の波長帯域は、ピークが790nm〜820nm、又は905nm〜970nmにあることが好ましい。
また、第1〜第4実施形態で使用する医療画像を取得する画像取得部54は、白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像に基づいて、特定の波長帯域の信号を有する特殊光画像を取得する特殊光画像取得部を有することが好ましい。医療画像は特殊光画像であることが好ましい。特定の波長帯域の信号は、通常光画像に含まれるRGBあるいはCMYの色情報に基づく演算により得られることが好ましい。
また、第1〜第4実施形態で使用する医療画像は特徴量画像とすることが好ましい。この特徴量画像を生成する特徴量画像生成部は、白色帯域の光、又は前記白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像と、特定の波長帯域の光を照射して得られる特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成することが好ましい。
10 内視鏡システム(医療画像処理装置)
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
12f 鉗子入口
13 ズーム操作部
14 光源装置
16 プロセッサ装置
18 モニタ
19 コンソール
20 光源部
22 光源制御部
30a 照明光学系
30b 撮像光学系
41 ライトガイド
45 照明レンズ
46 対物レンズ
47 ズームレンズ
48 イメージセンサ
52 制御部
54 画像取得部
56 DSP(Digital Signal Processor)
58 ノイズ低減部
59 変換部
61 画像処理部
66 表示制御部
68 記録制御部
69 保存用メモリ
70 注目領域検出部
72 報知情報生成部
74 バウンディングボックス
76 アイコン
80 エラー検出用画像解析部
81 観察状態取得部
82 鑑別処理部
86 処置具検出部
88 鑑別スコア値
90 シークバー

Claims (13)

  1. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲から外れている場合であり、
    前記第2の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲に入っている場合である医療画像処理装置。
  2. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の面積が面積用閾値以下の場合であり、
    前記第2の条件は、前記注目領域の面積が前記面積用閾値を超える場合である医療画像処理装置。
  3. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の時間的変化量が変化量用閾値を超える場合であり、
    前記第2の条件は、前記注目領域の時間的変化量が前記変化量用閾値以下の場合である医療画像処理装置。
  4. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の面積、前記注目領域の位置、前記注目領域の時間的変化量、前記注目領域の輝度値、及び、前記第1の表示領域に前記報知情報を表示する第1の表示時間の少なくとも2つを組み合わせた組み合わせ情報が、組合せ用条件を満たす場合であり、
    前記第2の条件は、前記組み合わせ情報が、前記組合せ用条件を満たさない場合であり、
    前記第1の条件は、前記注目領域の面積と前記注目領域の輝度値を組み合わせた面積輝度組合せ情報が、面積輝度用組合せ条件を満たす場合であり、
    前記第2の条件は、前記面積輝度組合せ情報が、前記面積輝度用組合せ条件を満たさない場合である医療画像処理装置。
  5. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の面積、前記注目領域の位置、前記注目領域の時間的変化量、前記注目領域の輝度値、及び、前記第1の表示領域に前記報知情報を表示する第1の表示時間の少なくとも2つを組み合わせた組み合わせ情報が、組合せ用条件を満たす場合であり、
    前記第2の条件は、前記組み合わせ情報が、前記組合せ用条件を満たさない場合である医療画像処理装置。
  6. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の輝度値が輝度値用閾値以下の場合であり、
    前記第2の条件は、前記注目領域の輝度値が前記輝度値用閾値を超える場合である医療画像処理装置。
  7. 前記表示制御部は、前記第1の条件及び前記第2の条件と異なる第3の条件を満たした場合に、前記第2の表示領域において、表示中の前記報知情報を非表示にする制御を行う請求項1記載の医療画像処理装置。
  8. 前記表示制御部は、
    特定の条件を満たした場合に、前記第1の表示領域、前記第2の表示領域、又は前記第1の表示領域及び前記第2の表示領域の両方のいずれかにおいて、前記報知情報を表示する制御、又は前記報知情報を非表示にする制御を行い、
    前記特定の条件を満たさない場合に、前記特定の条件を満たす場合と異なる表示領域において、前記報知情報を表示する制御、又は前記報知情報を非表示にする制御を行う請求項1記載の医療画像処理装置。
  9. 前記表示制御部は、前記第1の表示領域において、前記報知情報を前記医療画像に重畳させて表示する制御を行う請求項1ないし8いずれか1項記載の医療画像処理装置。
  10. 白色帯域の光、又は前記白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像と、特定の波長帯域の光を照射して得られる特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を有し、
    前記医療画像は前記特徴量画像である請求項1ないし9いずれか1項記載の医療画像処理装置。
  11. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲から外れている場合であり、
    前記第2の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲に入っている場合である内視鏡システム。
  12. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲から外れている場合であり、
    前記第2の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲に入っている場合である診断支援装置。
  13. 被写体を含む医療画像を取得する画像取得部と、
    前記医療画像を第1の表示領域に表示する表示部と、
    ユーザーに報知するための報知情報を前記表示部において表示にする制御、又は前記報知情報を前記表示部において非表示にする制御を行う表示制御部と、
    を有し、
    前記表示制御部は、前記第1の表示領域と異なる第2の表示領域において、前記報知情報を表示する制御、又は表示中の前記報知情報を非表示にする制御を行い、
    前記表示制御部は、第1の条件を満たした場合に、前記第1の表示領域において前記報知情報を表示する制御を行い、
    前記第1の条件と異なる第2の条件を満たした場合に、前記第1の表示領域において表示中の前記報知情報を非表示にし、前記第2の表示領域において、前記報知情報を表示する制御を行い、
    前記医療画像から注目領域を検出する注目領域検出部を有し、
    前記第1の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲から外れている場合であり、
    前記第2の条件は、前記注目領域の位置が前記第1の表示領域の中心範囲に入っている場合である医療業務支援装置。
JP2019522008A 2017-06-02 2018-04-12 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置 Active JP6840846B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017109923 2017-06-02
JP2017109923 2017-06-02
PCT/JP2018/015361 WO2018221033A1 (ja) 2017-06-02 2018-04-12 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置

Publications (2)

Publication Number Publication Date
JPWO2018221033A1 JPWO2018221033A1 (ja) 2020-04-02
JP6840846B2 true JP6840846B2 (ja) 2021-03-10

Family

ID=64454494

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019522008A Active JP6840846B2 (ja) 2017-06-02 2018-04-12 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置

Country Status (5)

Country Link
US (1) US10799098B2 (ja)
EP (1) EP3633987A4 (ja)
JP (1) JP6840846B2 (ja)
CN (2) CN114145693A (ja)
WO (1) WO2018221033A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024079710A1 (en) * 2021-10-15 2024-04-18 Verb Surgical Inc. Method and system for controlling and displaying video streams

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11100633B2 (en) 2018-06-13 2021-08-24 Cosmo Artificial Intelligence—Al Limited Systems and methods for processing real-time video from a medical image device and detecting objects in the video
US10810460B2 (en) 2018-06-13 2020-10-20 Cosmo Artificial Intelligence—AI Limited Systems and methods for training generative adversarial networks and use of trained generative adversarial networks
JP6978604B2 (ja) * 2018-07-10 2021-12-08 オリンパス株式会社 内視鏡装置、内視鏡装置の作動方法及びプログラム
JP7009636B2 (ja) * 2018-08-17 2022-01-25 富士フイルム株式会社 内視鏡システム
JPWO2020036121A1 (ja) * 2018-08-17 2021-08-26 富士フイルム株式会社 内視鏡システム
CN112739250A (zh) * 2018-09-18 2021-04-30 富士胶片株式会社 医用图像处理装置、处理器装置、医用图像处理方法及程序
JP6856594B2 (ja) * 2018-09-25 2021-04-07 株式会社メディカロイド 手術システムおよび表示方法
JPWO2020162275A1 (ja) * 2019-02-08 2021-12-02 富士フイルム株式会社 医療画像処理装置、内視鏡システム、及び医療画像処理方法
WO2020170809A1 (ja) * 2019-02-19 2020-08-27 富士フイルム株式会社 医療画像処理装置、内視鏡システム、及び医療画像処理方法
EP3932290B1 (en) * 2019-02-26 2023-08-16 FUJIFILM Corporation Medical image processing device, processor device, endoscope system, medical image processing method, and program
JP7128135B2 (ja) 2019-03-08 2022-08-30 富士フイルム株式会社 内視鏡画像学習装置、方法及びプログラム、内視鏡画像認識装置
CN113543694B (zh) 2019-03-08 2024-02-13 富士胶片株式会社 医用图像处理装置、处理器装置、内窥镜系统、医用图像处理方法、及记录介质
JPWO2021029293A1 (ja) * 2019-08-13 2021-02-18
JPWO2021075306A1 (ja) * 2019-10-17 2021-04-22
WO2021140644A1 (ja) * 2020-01-10 2021-07-15 日本電気株式会社 内視鏡検査支援装置、内視鏡検査支援方法、及びコンピュータ読み取り可能な記録媒体
WO2021149552A1 (ja) * 2020-01-20 2021-07-29 富士フイルム株式会社 医療画像処理装置、医療画像処理装置の作動方法、及び内視鏡システム
US20230041542A1 (en) * 2020-01-21 2023-02-09 Nec Corporation Surgical operation support apparatus, surgical operation support method, and computer-readable recording medium
CN114980799A (zh) * 2020-01-27 2022-08-30 富士胶片株式会社 医疗图像处理装置、医疗图像处理方法及程序
WO2021205778A1 (ja) * 2020-04-08 2021-10-14 富士フイルム株式会社 医療画像処理システム、認識処理用プロセッサ装置、及び医療画像処理システムの作動方法
JPWO2021220822A1 (ja) * 2020-04-27 2021-11-04
JP7307709B2 (ja) * 2020-09-11 2023-07-12 富士フイルム株式会社 処置具管理システム、内視鏡システム及びその作動方法
EP4299015A1 (en) * 2021-02-25 2024-01-03 FUJIFILM Corporation Medical image processing apparatus, method and program
EP4338683A1 (en) 2021-05-10 2024-03-20 FUJIFILM Corporation Image processing device, image processing system, image processing method, and image processing program
JPWO2023281607A1 (ja) * 2021-07-05 2023-01-12
US20230181002A1 (en) * 2021-12-14 2023-06-15 Karl Storz Imaging, Inc. Frame processing of imaging scope data for user interface presentation

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2983413B2 (ja) 1993-07-08 1999-11-29 新日本製鐵株式会社 2槽式アーク炉設備
JP2006043196A (ja) * 2004-08-05 2006-02-16 Pentax Corp 電子内視鏡システム及び電子内視鏡用プロセッサ
JP2007243275A (ja) 2006-03-06 2007-09-20 Sony Ericsson Mobilecommunications Japan Inc 携帯端末装置ならびに画面表示方法および画面表示プログラム
JP5523718B2 (ja) * 2008-04-02 2014-06-18 株式会社東芝 医用撮像装置
JP5570769B2 (ja) 2009-07-23 2014-08-13 オリンパス株式会社 内視鏡装置、計測方法、およびプログラム
DK3988470T3 (da) * 2009-08-31 2023-08-28 Abbott Diabetes Care Inc Visningsindretninger til en medicinsk indretning
JP2011096084A (ja) 2009-10-30 2011-05-12 Toshiba Corp 表示装置
JP5220780B2 (ja) * 2010-02-05 2013-06-26 オリンパス株式会社 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法
JP5597021B2 (ja) * 2010-04-15 2014-10-01 オリンパス株式会社 画像処理装置及びプログラム
US9717471B2 (en) * 2010-11-23 2017-08-01 Mayo Foundtion For Medical Education And Research Method and apparatus for multiple-wave doppler velocity meter
US8579800B2 (en) * 2011-03-22 2013-11-12 Fabian Emura Systematic chromoendoscopy and chromocolonoscopy as a novel systematic method to examine organs with endoscopic techniques
WO2013146014A1 (ja) * 2012-03-29 2013-10-03 オリンパスメディカルシステムズ株式会社 内視鏡システム
JP5810248B2 (ja) * 2013-10-02 2015-11-11 オリンパス株式会社 内視鏡システム
JP6039639B2 (ja) 2014-02-27 2016-12-07 富士フイルム株式会社 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、及び内視鏡システム用プロセッサ装置の作動方法
CN108135457B (zh) * 2015-10-26 2020-02-21 奥林巴斯株式会社 内窥镜图像处理装置
WO2017073337A1 (ja) * 2015-10-27 2017-05-04 オリンパス株式会社 内視鏡装置
CN108348145B (zh) 2015-11-10 2020-06-26 奥林巴斯株式会社 内窥镜装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024079710A1 (en) * 2021-10-15 2024-04-18 Verb Surgical Inc. Method and system for controlling and displaying video streams

Also Published As

Publication number Publication date
US20200069160A1 (en) 2020-03-05
CN110663251A (zh) 2020-01-07
CN114145693A (zh) 2022-03-08
JPWO2018221033A1 (ja) 2020-04-02
US10799098B2 (en) 2020-10-13
WO2018221033A1 (ja) 2018-12-06
EP3633987A1 (en) 2020-04-08
CN110663251B (zh) 2021-12-31
EP3633987A4 (en) 2020-04-08

Similar Documents

Publication Publication Date Title
JP6840846B2 (ja) 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置
CN110325100B (zh) 内窥镜系统及其操作方法
WO2017057574A1 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
JP6833978B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP5073579B2 (ja) 撮像装置
US10426318B2 (en) Image processing apparatus, endoscope system, and image processing method
EP2979618B1 (en) Image processing device for operating endoscope system
JP2010172673A (ja) 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法
JP5789280B2 (ja) プロセッサ装置、内視鏡システム、及び内視鏡システムの作動方法
EP2979617B1 (en) Image processing device, and method for operating endoscope system
JP6420492B2 (ja) 画像処理装置、内視鏡システム、及び画像処理装置の作動方法
JP7337073B2 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
WO2018159083A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
WO2017057573A1 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
JP2012170639A (ja) 内視鏡システム、および粘膜表層の毛細血管の強調画像表示方法
JP6469558B2 (ja) 内視鏡システム及び内視鏡システムの作動方法
WO2018155560A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP2012170640A (ja) 内視鏡システム、および粘膜表層の毛細血管の強調画像表示方法
JP6017669B2 (ja) 画像処理装置及び内視鏡システムの作動方法
JP6054806B2 (ja) 画像処理装置及び内視鏡システムの作動方法
JP6731065B2 (ja) 内視鏡システム及びその作動方法
JP6243311B2 (ja) 内視鏡用のプロセッサ装置、内視鏡用のプロセッサ装置の作動方法、内視鏡用の制御プログラム
JP6458142B2 (ja) 赤外蛍光観察装置
JP2022090759A (ja) 医用画像処理システム、医用画像処理システムの作動方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210217

R150 Certificate of patent or registration of utility model

Ref document number: 6840846

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250