JP2021108793A - 医療画像生成装置、医療画像生成方法および医療画像生成プログラム - Google Patents

医療画像生成装置、医療画像生成方法および医療画像生成プログラム Download PDF

Info

Publication number
JP2021108793A
JP2021108793A JP2020001051A JP2020001051A JP2021108793A JP 2021108793 A JP2021108793 A JP 2021108793A JP 2020001051 A JP2020001051 A JP 2020001051A JP 2020001051 A JP2020001051 A JP 2020001051A JP 2021108793 A JP2021108793 A JP 2021108793A
Authority
JP
Japan
Prior art keywords
medical image
scattering
degree
fluorescence
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020001051A
Other languages
English (en)
Inventor
健太郎 深沢
Kentaro Fukazawa
健太郎 深沢
宇紀 深澤
Takanori Fukazawa
宇紀 深澤
恭司 山口
Kyoji Yamaguchi
恭司 山口
成司 和田
Seiji Wada
成司 和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2020001051A priority Critical patent/JP2021108793A/ja
Priority to PCT/JP2020/048316 priority patent/WO2021140923A1/ja
Priority to CN202080083458.1A priority patent/CN114786558A/zh
Priority to US17/790,125 priority patent/US20230047294A1/en
Publication of JP2021108793A publication Critical patent/JP2021108793A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • A61B1/3132Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes for laparoscopy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)

Abstract

【課題】蛍光観察において、視認性が高い医療画像を生成すること。【解決手段】本願に係る医療画像生成装置は、取得部と、算出部と、生成部とを備える。取得部は、所定の波長の蛍光によって撮像された第1の医療画像と、所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する。算出部は、取得部によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する。生成部は、算出部によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する。【選択図】図7

Description

本発明は、医療画像生成装置、医療画像生成方法および医療画像生成プログラムに関する。
医療分野において、生体に特定の波長帯域を有する特殊光(例えば近赤外光)を照射して撮影した特殊光画像を医師等が見ることで病変部等を視認する場合がある。しかし、白色光よりも波長帯域が狭い特殊光で撮影した特殊光画像は、一般に白色光画像よりも暗く、生体の深部の微弱な蛍光が視認しにくい場合等がある。
この視認性の向上を促進するために、波長が異なる医療画像を取得し、その医療画像から、出力画像を生成する技術が知られている。具体的には、波長が異なる医療画像の輝度比に応じて合成比率を制御することで、出力画像を生成する技術が知られている。
特開2018−175762号公報
しかしながら、上述の方法で出力画像を生成すると、波長が異なる医療画像のうち、より明るい医療画像である短波長の医療画像の合成比率が高くなり、散乱度の大きい医療画像が生成され、生体の深部の視認性が下がることがあった。
本願は、上記に鑑みてなされたものであって、蛍光観察において、視認性が高い医療画像を生成することができる医療画像生成装置、医療画像生成方法および医療画像生成プログラムを提案する。
本願に係る医療画像生成装置は、所定の波長の蛍光によって撮像された第1の医療画像と、当該所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する取得部と、前記取得部によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する算出部と、前記算出部によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する生成部と、を備えることを特徴とする。
実施形態に係る技術思想を用いた手術室システムが適用された手術の様子の一例を示す図である。 図1に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。 実施形態に係る医療画像生成システム1を示す図である。 実施形態に係る撮像部の構成例(単板撮像の場合)を示す図である。 実施形態に係る撮像部の構成例(2板撮像の場合)を示す図である。 実施形態に係るフィルタが透過する波長帯域の一例を示す図である。 実施形態に係る医療画像生成装置の構成例を示す図である。 実施形態に係る波長と蛍光強度との関係性を示す図である。 実施形態に係る波長の異なる蛍光で撮像された医療画像の特性を示す図である。 実施形態に係る波長の異なる蛍光で撮像された医療画像の一例を示す図である。 実施形態に係る散乱度とぼけ幅との関係性を示す図である。 実施形態に係る散乱度とぼけ幅との関係性を示す図である。 実施形態に係る情報処理の一例を示す図である。 実施形態に係る散乱度とフィルタ係数との関係性を示す図である。 実施形態に係る出力画像の一例を示す図である。 実施形態に係る処理手順を示すフローチャートである。 実施形態に係る医療画像生成装置の構成例を示す図である。 実施形態に係る情報処理の一例を示す図である。 実施形態に係る処理手順を示すフローチャートである。 実施形態に係る医療画像生成装置の構成例を示す図である。 実施形態に係る情報処理の一例を示す図である。 実施形態に係る散乱度の差と合成比率との関係性を示す図である。 実施形態に係る処理手順を示すフローチャートである。 実施形態に係る医療画像生成装置の構成例を示す図である。 実施形態に係る散乱度と深度との関係性を示す図である。 実施形態に係る散乱度の差と重みとの関係性を示す図である。 実施形態に係る散乱抑制効果を視認可能な状態で示す出力画像の一例(カラーマップ)を示す図である。 実施形態に係る散乱抑制効果を視認可能な状態で示す出力画像の一例(単色)を示す図である。 実施形態に係る処理手順を示すフローチャートである。 実施形態に係る波長と蛍光強度との関係性(5−Ala)を示す図である。 実施形態に係る波長と蛍光強度との関係性(フルオレセイン)を示す図である。 医療画像生成装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
以下に、本願に係る医療画像生成装置、医療画像生成方法および医療画像生成プログラムを実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る医療画像生成装置、医療画像生成方法および医療画像生成プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
以下に示す項目順序に従って本開示を説明する。
1.適用例
2.実施形態に係るシステムの構成
3.情報処理の一例
3.1.医療画像生成装置
3.2.処理手順
4.変形例
4.1.変形例1:散乱度を近づける場合
4.1.1.医療画像生成装置
4.1.2.逆フィルタ係数を用いた出力画像の生成
4.2.変形例2:散乱度の差に基づく出力画像の生成
4.2.1.医療画像生成装置
4.2.2.処理手順
4.3.変形例3:出力画像における散乱抑制効果の可視化
4.3.1.医療画像生成装置
4.3.2.処理手順
5.処理のバリエーション
5.1.領域ごと、画素ごとにぼけを除去する
5.2.ぼけ幅が所定の閾値未満の場合の情報処理
5.3.学習モデルを用いた散乱度の算出
5.4.ICG蛍光以外の蛍光例
5.5.分光板の限定
5.6.フィルタ強度
6.ハードウェア構成
7.その他
(実施形態)
〔1.適用例〕
本開示の各実施形態に共通する技術思想の適用例について説明する。図1は、本開示に係る技術思想を用いた手術室システム5100が適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、視聴覚コントローラ及び手術室制御装置(図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a〜5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a〜5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。ここで、チューブ5133は、体控内に生じた煙を体腔外に排煙するための構成であってよい。また、一方で、チューブ5133は、体控内にガスを注入し体腔を膨らませる機能を有してよい。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、上述した視聴覚コントローラが接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インターフェイスである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。排煙装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、チューブ5133を介して当該体腔内にガスを送り込む。また、排煙装置5165は、内視鏡5115による視野の確保のため、体腔内に生じた煙を排煙する機能を有する。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図1では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a〜5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a〜5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a〜5147cにはアクチュエータが設けられており、関節部5147a〜5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a〜5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a〜5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a〜5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図2を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図2は、図1に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図2を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に
基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
上述のように、医療用光源装置が内視鏡に接続される例として挙げた内視鏡手術システムでは、医療用光源装置(図1における光源装置5157)はカートに搭載される。本技術の小型化された医療用光源装置が搭載されることにより、医療用光源装置を含む各種装置が搭載されるカート全体を小型化することができる。更に、医療用光源装置の小型化の実現により医療用光源装置の設置範囲の自由度が増し、例えばカートに搭載することができ、術場の乱雑さが解消され、手術環境がより良好なものとなる。
〔2.実施形態に係るシステムの構成〕
図3を用いて、実施形態に係る医療画像生成システム1について説明する。図3は、実施形態に係る医療画像生成システム1を示す図である。図3に示すように、医療画像生成システム1は、カメラヘッド5119と、表示装置5155と、医療画像生成装置100とを含む。
カメラヘッド5119は、撮像した医療画像を医療画像生成装置100へ提供する。その他のカメラヘッド5119に関する説明は、図1のカメラヘッド5119に関する説明と同様である。
撮像部5123は、カメラヘッド型のカメラであり、例えば病院や研究所で、体内を撮像するために用いられる。撮像部5123は、近赤外線を用いて、例えば血管中に流れるICGなどの色素を発色させる。そして、撮像部5123は、発色した蛍光を撮像することで、医療画像を取得する。図3に示すように、撮像部5123は、光源11と、フィルタ12と、撮像素子13とを含む。
光源11は、ICGなどの色素の蛍光を発色させる光を発する光源である。光源11は、例えば近赤外線を発する光源である。
フィルタ12は、特定の波長の蛍光のみを透過するフィルタである。例えば、フィルタ12は、長波長側の波長を透過させ、短波長側の波長を遮断するフィルタである。フィルタ12は、光源11によって発色された蛍光のうち、特定の波長の蛍光のみを透過するために用いられる。光学特性として、長波長側の蛍光ほど散乱が抑制されるため、蛍光波長の全域ではなく、そのうちの長波長側の蛍光のみを透過して、撮像する技術が考えられる。しかしながら、長波長側のみの蛍光で撮像する場合、蛍光強度が小さくなるため、医療画像の画質が悪くなり得る。また、医療画像も暗くなる。このため、長波長側の蛍光のみで撮像する技術では、視認性の向上を促進するために改善の余地がある。
撮像素子13は、体内の観察対象物を撮像し、医療画像(例えば、病理画像)を取得する撮像装置である。なお、観察対象物とは、例えば、血管、組織、細胞等である。撮像素子13は、フィルタ12によって透過された特定の波長の蛍光で撮像するために用いられる。また、撮像素子13は、取得した医療画像を、医療画像生成装置100に送る。
表示装置5155は、医療画像生成装置100から出力画像を受信し、受信した出力画像を表示する。その他の表示装置5155に関する説明は、図1の表示装置5155に関する説明と同様である。
医療画像生成装置100は、PC、WS(Work Station)等の情報処理装置である。医療画像生成装置100は、撮像部5123で撮像された医療画像を取得する。具体的には、医療画像生成装置100は、撮像素子13によって、波長の異なる蛍光で撮像された医療画像を取得する。そして、医療画像生成装置100は、波長の異なる蛍光で撮像された医療画像の散乱度に基づいて、出力画像を生成する。また、医療画像生成装置100は、出力画像を、表示装置5155に送信する。医療画像生成装置100は、例えば、図1で説明したようにCCU5153であってもよい。
ここで、撮像部5123の構成の詳細を説明する。撮像部5123の構成は、2通りある。この2通りの構成とは、単板撮像と呼ばれる1種類の撮像素子に基づく撮像方法を用いる構成と、2板撮像と呼ばれる2種類の撮像素子に基づく撮像方法を用いる構成である。この撮像素子は、可視光画像撮像用撮像素子でもよいし、蛍光画像撮像用撮像素子でもよい。可視光画像撮像用撮像素子に可視光波長帯域に属する光が結像することで、可視光画像が生成される。また、蛍光画像撮像用撮像素子に蛍光波長帯域に属する光が結像することで、蛍光画像が生成される。具体的には、撮像素子が可視光画像撮像用撮像素子である場合、フィルタを透過した可視光波長帯域の光が可視光画像撮像用撮像素子に結合することで、可視光画像である医療画像が生成される。同様に、撮像素子が蛍光画像撮像用撮像素子である場合、フィルタを透過した蛍光波長帯域の光が蛍光画像撮像用撮像素子に結合することで、蛍光画像である医療画像が生成される。以下、図4及び5を用いて、撮像部5123が単板撮像を用いる構成と、2板撮像を用いる構成とを説明する。本実施形態では、撮像部5123による撮像方法は、単板撮像と2板撮像とを含むものとする。
図4は、単板撮像を用いた撮像部5123の構成を示す。図4では、一つの撮像素子13に対して、2つのフィルタ12(フィルタAとフィルタB)を用いる。フィルタAとフィルタBでは、それぞれのフィルタが透過する蛍光が波長に応じて異なるものとする。フィルタAとフィルタBとを定期的(例えば、所定の時間間隔ごと)に入れ替えることによって、波長の異なる蛍光が撮像素子13に入力される。ここで、フィルタAが短波長を透過するフィルタであり、フィルタBが長波長を透過するフィルタとする。この場合、短波長と長波長の蛍光が別々に撮像素子13に入力される。このため、撮像部5123は、波長の異なる蛍光で撮像された医療画像を取得することができる。そして、撮像部5123は、取得した医療画像を外部の情報処理装置(例えば、医療画像生成装置100)に提供する。
なお、単板撮像の場合、フィルタAとフィルタBとを定期的(例えば、所定の時間間隔ごと)に入れ替えることによって、波長の異なる蛍光が撮像素子13に入力されるため、波長の異なる蛍光の入力に、フィルタAとフィルタBとを入れ替えることによる時間差が生じる。このため、撮像部5123は、波長の異なる蛍光で撮像された医療画像を同時に取得することが困難である。この時間差による制限を解消するために、撮像部5123は、どちらか一方の波長の蛍光で撮像された医療画像を一旦記憶することにより、他方の波長の蛍光で撮像された医療画像の取得と同時に、双方の医療画像を外部の情報処理装置に提供することができる。すなわち、撮像部5123は、フィルタAで撮像された医療画像と、フィルタBで撮像された医療画像とを同時に外部の情報処理装置に提供することができる。
図5は、2板撮像を用いた撮像部5123の構成を示す。なお、単板撮像と同様の説明は適宜省略する。図5では、単板撮像の場合とは異なり、2つのフィルタ12(フィルタAとフィルタB)に対して、2つの撮像素子13(撮像素子Aと撮像素子B)を用いる。なお、2つの撮像素子13は同一であるものとする。2板撮像の場合には、撮像部5123は、分光板14を含む。分光板14は、蛍光に含まれる特定の波長の蛍光を反射させて、その蛍光に含まれる特定の波長以外のその他の波長の蛍光を透過させるために用いられる。分光板14は、例えばダイクロイックミラーである。撮像部5123では、分光板14は、光源11によって発色された蛍光のうち、特定の波長の蛍光を反射させて、特定の波長以外のその他の波長の蛍光を透過させるために用いられる。以下、分光板14が、短波長の蛍光を反射させて、長波長の蛍光を透過させる場合を説明する。
この場合、分光板14で反射された短波長の蛍光は、フィルタAで透過される。なお、フィルタAは、短波長を透過するフィルタであるものとする。分光板14では、特定の波長の蛍光のみを完全に反射させることができない場合がある。このため、分光板14で反射された短波長の蛍光には、波長に誤差がある場合がある。フィルタAは、分光板14による反射の誤差を補正するために用いられる。そして、フィルタAで透過された短波長の蛍光が撮像素子13に入力される。この場合、撮像素子13では、短波長で撮像された医療画像が取得される。一方、分光板14で透過された長波長の蛍光は、フィルタBで透過される。なお、フィルタBは、長波長を透過するフィルタであるものとする。分光板14で透過された長波長の蛍光にも、反射と同様に、波長に誤差がある場合がある。フィルタBは、分光板14による透過の誤差を補正するために用いられる。そして、フィルタBで透過された長波長の蛍光が撮像素子13に入力される。この場合、撮像素子13では、長波長で撮像された医療画像が取得される。
なお、2板撮像の場合、分光板14で分光された蛍光は、それぞれの撮像素子13に別々に入力されるため、それぞれの撮像素子13に対する蛍光の入力に、時間差が生じないように調整することができる。例えば、分光板14からそれぞれの撮像素子13への距離を同一にすることによって、それぞれの撮像素子13に対する蛍光の入力に、時間差が生じないように調整することができる。このため、撮像部5123は、波長の異なる蛍光で撮像された医療画像を同時に取得することができる。それゆえ、撮像部5123は、異なる撮像素子13で取得された医療画像を同時に外部の情報処理装置に提供することができる。
ここで、図6を用いて、フィルタA及びフィルタBが透過の対象とする波長について説明する。図6では、縦軸が蛍光強度を示し、横軸が波長を示す。図6では、それぞれのフィルタが透過の対象とする蛍光の分光強度に、それぞれのフィルタの特性を乗じた値がプロットされる。フィルタAが透過の対象とする短波長は、波長の異なる蛍光のうち、長波長の帯域を含む、より広い波長の帯域を対象とする波長である。一方、フィルタBが透過の対象とする長波長は、波長の異なる蛍光のうち、より長い波長の帯域を対象とする波長である。図6のFA1では、約800nm〜1000nmの波長の蛍光が、フィルタAとフィルタBに入光される。この波長は、約850nmで蛍光強度が最大になるものとする。このうち、フィルタAが透過の対象とする波長は、808nmより長い波長である。この波長の帯域は、入光される蛍光の波長の全域とする。このため、フィルタAが透過の対象とする波長は、全域を示す波長FA11と同一になる。また、フィルタBが透過の対象とする波長は、875nmより長い波長である。このように、フィルタAは、フィルタBよりも短波長側に感度を有するフィルタであることが望まれる。フィルタAは、フィルタBよりも短波長側に感度を有するフィルタであれば、どのような帯域の波長を透過の対象とするフィルタであってもよい。図6のFA2及びFA3の場合も同様であるので、説明を適宜省略する。ここで、図6のFA3では、フィルタAが透過の対象とする波長は、875nmよりも長い波長であり、全域を示す波長FA11と同一ではない。このため、図6のFA3では、3つのプロットを示す。この3つのプロットとは、全域を示す波長FA11と、フィルタAが透過の対象とする波長と、フィルタBが透過の対象とする波長である。なお、図6のFA3では、フィルタAが透過の対象とする波長は、875nmよりも長い波長であるため、フィルタAとフィルタBが対象とする波長のどちらにも、蛍光強度が最大となる850nmの波長は含まれない。
以下、医療画像生成装置100が、波長の異なる蛍光で撮像された医療画像の散乱度に基づいて、低散乱かつ低ノイズである出力画像を生成する処理について説明する。
〔3.情報処理の一例〕
〔3−1.医療画像生成装置〕
次に、図7を用いて、実施形態に係る医療画像生成装置100について説明する。図7は、実施形態に係る医療画像生成装置100の一例を示す図である。図7に示すように、医療画像生成装置100は、通信部110と、記憶部120と、制御部130とを有するコンピュータである。
通信部110は、例えば、NIC(Network Interface Card)等によって実現される。通信部110は、図示しないネットワークNと有線又は無線で接続され、ネットワークNを介して、カメラヘッド5119等との間で情報の送受信を行う。後述する制御部130は、通信部110を介して、これらの装置との間で情報の送受信を行う。
記憶部120は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部120は、撮像部5123から送信された医療画像を記憶する。また、記憶部120は、制御部130によって生成された出力画像を記憶する。この出力画像の詳細については後述する。
制御部130は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)によって、医療画像生成装置100内部に記憶されたプログラム(医療画像生成プログラムの一例)がRAM等を作業領域として実行されることにより実現される。また、制御部130は、例えばASIC(Application specific Integrated Circuit)やFPGA(Field Programmable gate Array)等の集積回路により実行されてもよい。
図7に示すように、制御部130は、取得部131と、算出部132と、設定部133と、生成部134と、提供部135とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図7に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
取得部131は、通信部110を介して、撮像部5123から送信された医療画像を取得する。具体的には、取得部131は、波長の異なる蛍光で撮像された複数の医療画像を取得する。ここで、波長の異なる蛍光で撮像された医療画像の特性を説明する。波長の異なる蛍光で撮像された医療画像の特性を説明するために、図8を用いて、波長と蛍光強度との関係性を説明する。
図8は、波長と蛍光強度との関係性を示す。図8では、縦軸が蛍光強度を示し、横軸が波長を示す。図8では、蛍光強度と波長との関係性がプロットされる。図8に示すように、蛍光強度は、波長HA1で最大となる。具体的には、800nmから900nmの間にある波長HA1で蛍光強度が最大となる。そして、蛍光強度が最大となる波長以上の波長では、波長が長くなるほど蛍光強度は減少する。実施形態では、取得部131は、波長の異なる蛍光で撮像された医療画像として、長波長で撮像された医療画像と、短波長で撮像された医療画像とを取得する。図8では、長波長よりも短波長の方が、より蛍光強度が大きい波長の帯域を対象とする。この場合には、長波長の蛍光で撮像された医療画像よりも、短波長の蛍光で撮像された医療画像の方が明るくなる。すなわち、短波長で撮像された医療画像の方が、散乱度が大きくなる。なお、散乱度の算出は、後述する算出部132で行われる。この場合には、取得部131は、短波長で撮像された散乱度の大きい医療画像と、長波長で撮像された散乱度の小さい医療画像とを取得する。
図9は、長波長の蛍光で撮像された医療画像と、短波長の蛍光で撮像された医療画像の特性を示す。ここで、医療画像の視認性を高くする特性をメリットとし、医療画像の視認性を低くする特性をデメリットとする。図9に示すように、短波長の蛍光で撮像された医療画像では、ノイズが小さくなるメリットがあるが、散乱度が大きくなるデメリットがある。一方、長波長の蛍光で撮像された医療画像では、散乱度が小さくなるメリットがあるが、ノイズが大きくなるデメリットがある。
図10は、血管などの生体が写る医療画像を示す。図10を用いて、波長の異なる蛍光で撮像された医療画像を説明する。図10(a)は、短波長の蛍光で撮像された医療画像LA1を示す。図10(a)では、医療画像の蛍光の散乱度が大きいため、例えば医療画像LA1に写る生体LL1や生体LL2等がぼける。ここで、実施形態に係る「ぼけ」について説明する。医療画像に含まれる所定領域の特徴量が、医療画像の一画素にマッピングできる場合を、ぼけていないとする。また、医療画像に含まれる所定領域の特徴量が、医療画像の複数の画素にマッピングされる必要がある場合、一画素で表現するものを複数の画素で表現するため、その部分の画像がにじむ。このにじみを、ぼけとする。医療画像に含まれる所定領域の特徴量を表現するための画素数が多いほど、医療画像はぼける。このため、医療画像の視認性の向上させるために更なる改善の余地がある。一方、図10(b)は、長波長の蛍光で撮像された医療画像LA11を示す。図10(b)に示す医療画像LA11は、図10(a)に示す医療画像LA1と同一の生体の領域を写す医療画像である。図10(b)では、医療画像の蛍光の散乱度が小さいため、医療画像LA11に写る生体LL1や生体LL2等はぼけていない(すなわち、くっきりしている)が、医療画像にノイズが増える。このため、図10(b)でも、医療画像の視認性の向上させるために更なる改善の余地がある。
算出部132は、取得部131によって取得された異なる蛍光の波長を撮像した医療画像のそれぞれの散乱度を算出する。この散乱度は、医療画像に写る生体のぼけ具合を示すぼけ幅により算出される。ここで、ぼけ幅とは、生体がぼけていない医療画像を基準として、基準となる医療画像からのぼけ具合を示す。ぼけ幅は、基準となる医療画像の特徴量と、対象となる医療画像の特徴量との差に基づいて算出部132により算出される。なお、実施形態では、医療画像の特徴量とは、ぼけ幅に関する情報を算出するための特徴量とする。以下、図11及び12を用いて、ぼけ幅に基づく散乱度の算出について説明する。
図11は、ぼけ幅と散乱度との関係性を示す。図11に示すぼけ幅は、医療画像に対してフィルタを適用した適用前後の差分である。図11では、縦軸がぼけ幅(フィルタ適用前後の差分)を示し、横軸が散乱度を示す。算出部132は、散乱させるためのフィルタとして、小さく散乱させるための弱めのフィルタから、大きく散乱させるための強めのフィルタなどを医療画像に適用することにより、ぼけ幅を算出する。ここで、算出部132は、ぼけが大きい医療画像に、弱めのフィルタを適用しても、ぼけ幅は変化しない可能性が高い。このように、算出部132は、ぼけが大きい医療画像ほど、強めのフィルタを適用しないと、ぼけ幅は変化しない。算出部132は、変化したぼけ幅の度合に基づいて、散乱度を算出する。また、算出部132は、適用するフィルタの強さのランクと散乱度との関係性に基づいて、散乱度を算出してもよい。例えば、算出部132は、フィルタの強さのランクが最も弱い「1」のフィルタでぼけ幅が変化する場合には、散乱度をそのフィルタに相当する散乱度とする。図11に示すように、散乱度を増加させていくと、散乱度がT1を過ぎたところで、ぼけ幅が増加し始める。算出部132は、このぼけ幅に基づいて、散乱度を算出する。例えば、撮像部5123は、透過させる蛍光の波長が異なる複数のフィルタ12を用いることで、ぼけ幅の異なる医療画像を生成することができる。この場合には、取得部131は、ぼけ幅の小さい医療画像からぼけ幅の大きい医療画像までのぼけ幅の異なる複数の医療画像を取得する。そして、算出部132は、複数のフィルタ12を用いることにより生成された医療画像のぼけ幅に基づいて、散乱度を算出する。また、後述する生成部134は、このぼけ幅が所定の閾値T2以上となる医療画像を、散乱度の大きい医療画像として出力画像の生成に用いてもよい。なお、この所定の閾値T2は、医療画像のノイズなどの画質に基づいて算出部132により算出される。
図12は、ぼけ幅と散乱度との関係性を示す。図12では、ぼけ幅が大きくなるにつれて、散乱度が大きくなることを示す。図12(a)は、ぼけ幅を算出するための基準となる散乱度の幅AA1を示す。すなわち、図12(a)では、ぼけ幅はゼロである。算出部132は、AA1を用いて、ぼけている医療画像の散乱度を算出する。図12(b)では、算出部132は、「AA2−AA1」により算出されるぼけ幅に基づいて、対象となる医療画像の散乱度を算出する。図12(c)では、算出部132は、「AA3−AA1」により算出されるぼけ幅に基づいて、対象となる医療画像の散乱度を算出する。
図13は、複数の医療画像に基づいて、出力画像を生成する場合を示す。図13では、フィルタ係数を設定することにより、対象となる医療画像にフィルタ係数を適用することで、医療画像Aのぼけを除去することで、出力画像を生成する。以下、フィルタ係数の設定について説明する。
図14は、医療画像の散乱度とフィルタとの関係性を示す。図14では、縦軸が医療画像Bの散乱度を示す、横軸が医療画像Aの散乱度を示す。図14では、医療画像Aと医療画像Bの散乱度の組み合わせに基づいて、対象となる医療画像に適用する係数(以下、適宜、「フィルタ係数」とする。)が定められる。例えば、医療画像Aの散乱度が小さく、医療画像Bの散乱度が大きい場合には、フィルタ係数02等が定められる。また、医療画像Aの散乱度が大きく、医療画像Bの散乱度が小さい場合には、フィルタ係数20等が定められる。設定部133は、算出部132により算出された医療画像の散乱度の組み合わせと、医療画像の散乱度とフィルタとの関係性を示す情報とに基づいて、対象となる医療画像に適用するフィルタ係数を設定する。図14の例では、設定部133は、医療画像Aの散乱度が小さく、医療画像Bの散乱度が大きい場合には、例えばフィルタ係数02を設定する。また、設定部133は、医療画像Aの散乱度が大きく、医療画像Bの散乱度が小さい場合には、例えばフィルタ係数20を設定する。
設定部133は、算出部132により算出された複数の医療画像の散乱度に基づいて、どちらか一方の医療画像に適用することにより、その医療画像の散乱度とは異なる散乱度を再現するためのフィルタ係数を設定する。そして、生成部134は、散乱度の大きい医療画像の散乱度と、散乱度の小さい医療画像の散乱度との差に基づいて、出力画像を生成する。
生成部134は、設定部133によって設定されたフィルタ係数と、散乱度の大きい医療画像の特徴量とに基づいて、出力画像を生成する。これにより、生成部134は、散乱度が小さく、かつ、ノイズが少ない出力画像を生成することができる。具体的には、生成部134は、LA1のぼけを小さくしたものがLA11であり、LA1のぼけをLA11のぼけにするためのフィルタ係数が設定部133により設定されたため、このフィルタ係数をLA1に適用することにより、LA1のぼけを適切に除去することができる。これにより、生成部134は、高散乱かつ低ノイズであるLA1の特徴のうち低ノイズの特徴と、低散乱かつ高ノイズであるLA11の特徴のうち低散乱の特徴とを組み合わせた双方の利点を有する出力画像を生成することができる。これにより、生成部134は、視認性が高い医療画像を生成することができる。
図15は、生成部134により生成される出力画像の一例を示す。図15に示す出力画像LA2は、図10に示す医療画像LA1又は医療画像LA11と同一の生体の領域を写す出力画像である。出力画像LA2は、蛍光の散乱度が小さいため、例えば出力画像LA2に写る生体LL1や生体LL2等がぼけない。また、出力画像LA2は、出力画像にノイズが少ない。これにより、生成部134は、蛍光観察において、視認性が高い医療画像を生成することができる。
提供部135は、生成部134によって生成された出力画像を表示装置5155へ提供する。表示装置5155は、提供部135から提供された出力画像をリアルタイムに表示する。これにより、ユーザは、提供部135から提供される出力画像を、表示装置5155を介してリアルタイムに観察することができる。
〔3−2.処理手順〕
次に、図16を用いて、実施形態に係る処理手順を説明する。図16は、実施形態に係る処理手順を示すフローチャートである。図16に示すように、医療画像生成装置100は、波長の異なる蛍光で撮像された複数の医療画像を取得する(ステップS101)。
また、医療画像生成装置100は、取得された複数の医療画像のそれぞれの散乱度を、対応するそれぞれの医療画像の特徴量に基づいてそれぞれ算出する(ステップS102)。続いて、医療画像生成装置100は、算出された散乱度に基づいて、散乱度の大きい医療画像のぼけ幅を小さくするための最適なフィルタ係数を設定する(ステップS103)。そして、医療画像生成装置100は、設定されたフィルタ係数と、散乱度の大きい医療画像の特徴量とに基づいて、出力画像を生成する(ステップS104)。
〔4.変形例〕
上述した実施形態に係る医療画像生成システム1は、上記実施形態以外にも種々の異なる形態にて実施されてよい。そこで、以下では、医療画像生成システム1の他の実施形態について説明する。なお、上記実施形態と同様の点については説明を省略する。
〔4−1.変形例1:散乱度を近づける場合〕
上述した例では、設定部133が、散乱度の組み合わせとフィルタ係数との関係性に基づいて、フィルタ係数を設定する場合を示した。ここで、設定部133は、複数の医療画像の散乱度に基づいて、散乱度の大きい医療画像のぼけ幅を小さくするための最適なフィルタ係数を設定してもよい。なお、変形例1では、正確な散乱度の値を求める必要がないため、医療画像の散乱度の算出を行わない。
〔4−1−1.医療画像生成装置〕
次に、図17を用いて、変形例1に係る医療画像生成装置200について説明する。図17は、変形例1に係る医療画像生成装置200の一例を示す図である。図17に示すように、医療画像生成装置200は、通信部110と、記憶部120と、制御部230とを有するコンピュータである。以下、上記実施形態と同様の説明は、適宜省略する。
図17に示すように、制御部230は、取得部131と、導出部233と、設定部133と、生成部134と、提供部135とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部230の内部構成は、図17に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
導出部233は、複数の医療画像の散乱度に基づいて、一方の散乱度の医療画像に適用することで、他方の医療画像の散乱度を再現するためのフィルタ係数を導出する。例えば、導出部233は、散乱度の大きい医療画像で、小さい散乱度を再現するためのフィルタ係数のうち、散乱度の小さい医療画像の散乱度を再現するための最適なフィルタ係数を導出する。
設定部133は、導出部233により導出されたフィルタ係数に基づいて、散乱度の大きい医療画像で、散乱度の小さい医療画像の散乱度を再現するための最適なフィルタ係数を設定する。
生成部134は、設定部133により設定されたフィルタ係数と、散乱度の大きい医療画像の特徴量とに基づいて、出力画像を生成する。
〔4−1−2.逆フィルタ係数を用いた出力画像の生成〕
また、医療画像生成装置200は、散乱度の小さい医療画像で、散乱度の大きい医療画像の散乱度を再現するための最適なフィルタ係数を導出することにより、散乱度の大きい医療画像のぼけ幅を小さくするための最適なフィルタ係数を設定してもよい。
図18に示すように、導出部233は、複数の医療画像の散乱度に基づいて、散乱度の小さい医療画像で、大きな散乱度を再現するためのフィルタ係数(以下、適宜、「散乱フィルタ係数」とする。)のうち、散乱度の大きい医療画像の散乱度を再現するための最適なフィルタ係数(以下、適宜、「差分最小フィルタ係数」とする。)を導出する。すなわち、図18では、導出部233は、散乱度の小さい医療画像に散乱フィルタ係数を適用することによって再現される複数の散乱度のうち、散乱度の大きい医療画像の散乱度との差が最小となる差分最小フィルタ係数を導出する。
設定部133は、導出部233により導出された差分最小フィルタ係数に基づいて、散乱度の大きい医療画像で、散乱度の小さい医療画像の散乱度を再現するための最適なフィルタ係数を設定する。このような、差分最小フィルタ係数に基づくフィルタ係数を、適宜、「逆フィルタ係数」とする。
生成部134は、設定部133により設定された逆フィルタ係数と、散乱度の大きい医療画像の特徴量とに基づいて、出力画像を生成する。
次に、図19を用いて、変形例1に係る処理手順を説明する。図19は、変形例1に係る処理手順を示すフローチャートである。ステップS201及び202は、上記実施形態と同様であるため、記載を省略する。
図19に示すように、医療画像生成装置100は、算出された散乱度に基づいて、散乱度の小さい医療画像に散乱フィルタ係数を適用することによって再現される複数の散乱度のうち、散乱度の大きい医療画像の散乱度との差が最小となる差分最小フィルタ係数を導出する(ステップS203)。また、医療画像生成装置100は、導出された差分最小フィルタに基づいて、逆フィルタ係数を設定する(ステップS204)。そして、医療画像生成装置100は、設定された逆フィルタ係数と、散乱度の大きい医療画像の特徴量とに基づいて、出力画像を生成する(ステップS205)。
〔4−2.変形例2:散乱度の差に基づく出力画像の生成〕
上述した例では、生成部134が、散乱度の大きい医療画像の特徴量と、フィルタ係数とに基づいて、出力画像を生成する場合を示した。このように、上述した例では、生成部134は、設定部133により設定されたフィルタ係数を用いて、出力画像を生成した。ここで、医療画像生成装置300は、散乱度の大きい医療画像と、散乱度の小さい医療画像とを合成するための比率である合成比率に基づいて、出力画像を生成してもよい。具体的には、医療画像生成装置300は、散乱度の大きい医療画像と、散乱度の小さい医療画像との散乱度の差に応じた合成比率に基づいて、出力画像を生成してもよい。
〔4−2−1.医療画像生成装置〕
次に、図20を用いて、変形例2に係る医療画像生成装置300について説明する。図20は、変形例2に係る医療画像生成装置300の一例を示す図である。図20に示すように、医療画像生成装置300は、通信部110と、記憶部120と、制御部330とを有するコンピュータである。以下、上記実施形態と同様の説明は、適宜省略する。
図20に示すように、制御部330は、取得部131と、算出部132と、生成部134と、提供部135とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、医療画像生成装置300は、設定部133を有しなくてもよい。なお、制御部330の内部構成は、図20に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
図21は、算出部132と生成部134とが行う情報処理を説明するための図である。算出部132は、散乱度の大きい医療画像と、散乱度の小さい医療画像との散乱度の差を算出する。そして、算出部132は、この散乱度の差と、合成比率と散乱度の差との関係性を示す情報とに基づいて、合成比率を算出する。
図22は、合成比率と散乱度の差との関係性を示す情報の一例を示す。図22では、縦軸が医療画像Aの合成比率を示し、横軸が医療画像Aと医療画像Bとの散乱度の差を示す。なお、図22では、医療画像Aが、散乱度の大きい医療画像の一例であり、医療画像Bが、散乱度の小さい医療画像の一例とする。図21では、医療画像Aと医療画像Bとの散乱度の差に応じて、医療画像Aの合成比率がプロットされている。算出部132は、対象となる複数の医療画像の散乱度の差と、合成比率と散乱度の差との関係性を示す情報とを比較することにより、対象となる複数の医療画像の合成比率を算出する。
また、算出部132は、合成比率と散乱度の差との関係性を学習することにより生成された学習モデルM2を用いて、合成比率を算出してもよい。例えば、算出部132は、散乱度の差を入力情報とし、合成比率を出力情報として学習することにより生成された学習モデルM2を用いて、合成比率を算出してもよい。算出部132は、対象となる複数の医療画像の散乱度の差を学習モデルM2に入力することにより、対象となる複数の医療画像の合成比率を算出してもよい。
生成部134は、算出部132により算出された合成比率に基づいて、散乱度の大きい医療画像と、散乱度の小さい医療画像とを合成することにより、出力画像を生成する。
〔4−2−2.処理手順〕
次に、図23を用いて、変形例2に係る処理手順を説明する。図23は、変形例2に係る処理手順を示すフローチャートである。ステップS301及び302は、上記実施形態と同様であるため、記載を省略する。
図23に示すように、医療画像生成装置100は、算出された複数の医療画像の散乱度の差を算出する(ステップS303)。また、医療画像生成装置100は、算出された散乱度の差と、合成比率と散乱度の差との関係性を示す情報とに基づいて、合成比率を算出する(ステップS304)。そして、医療画像生成装置100は、算出された合成比率に基づいて、出力画像を生成する(ステップS305)。
〔4−3.変形例3:出力画像における散乱抑制効果の可視化〕
上述した例では、生成部134が、低散乱かつ低ノイズである出力画像を生成する場合を示す。これにより、生成部134は、蛍光観察において、生体の深部の蛍光の視認性が高い出力画像を生成することができる。ただし、上述した例では、蛍光の散乱が抑制されたことで、出力画像の奥行き感が低減してしまう可能性も否定できない。以下、医療画像生成装置400が、蛍光の散乱が抑制された効果(以下、適宜、「散乱抑制効果」とする。)を視認可能な状態で表示するための情報を付加することで、出力画像の奥行き感を向上させることができる情報処理を説明する。
〔4−3−1.医療画像生成装置〕
次に、図24を用いて、変形例3に係る医療画像生成装置400について説明する。図24は、変形例3に係る医療画像生成装置400の一例を示す図である。図24に示すように、医療画像生成装置400は、通信部110と、記憶部120と、制御部430とを有するコンピュータである。以下、上記実施形態と同様の説明は、適宜省略する。
図24に示すように、制御部430は、取得部131と、算出部132と、設定部133と、生成部134と、可視化部435と、提供部135とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部430の内部構成は、図23に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
算出部132は、以下の2つの処理のいずれかを用いて、散乱抑制効果を示す散乱抑制効果値を算出する。
算出部132は、複数の医療画像の散乱度の差を、散乱抑制効果値として算出する。
図25は、医療画像の散乱度と、医療画像が撮像された深度との関係性を示す情報の一例を示す。なお、医療画像が撮像された深度とは、観察対象物の表面からの深度である。図25では、縦軸が深度を示し、横軸が散乱度を示す。図25では、医療画像の散乱度と深度との関係性がプロットされている。算出部132は、対象となる医療画像の散乱度と、医療画像の散乱度と深度との関係性を示す情報とを比較することにより、対象となる医療画像の深度を算出する。
図26は、散乱度の差と、散乱抑制効果値を算出するための重みとの関係性を示す情報の一例を示す。図26では、縦軸が重みを示し、横軸が散乱度の差を示す。図26では、医療画像の散乱度の差に応じて、重みがプロットされている。算出部132は、対象となる複数の医療画像の散乱度の差と、散乱度の差と重みとの関係性を示す情報とを比較することにより、散乱抑制効果値を算出するための重みを算出する。
算出部132は、対象となる医療画像の深度と、散乱抑制効果値を算出するための重みとを乗じることにより、散乱抑制効果値を算出する。
可視化部435は、算出部132により算出された散乱抑制効果値に基づいて、生成部134により生成された出力画像に、散乱抑制効果を視認可能な状態で表示するための情報を付加する。ここで、散乱抑制効果を視認可能な状態で表示するための情報とは、例えば色情報である。この色情報は、カラーマップで色付けされる色情報であってもよいし、単色で色付けされる色情報であってもよい。
図27は、散乱抑制効果を、カラーマップを用いて視認可能な状態で表示した出力画像LA3を示す。図27では、散乱抑制効果値が小さいほど赤色で色付けされ、散乱抑制効果値が大きいほど青色で色付けされる。図27では、生体LL1を点線で囲む領域CC1は、緑色を示すCC11で色付けされる。また、生体LL2を点線で囲む領域CC2は、青色を示すCC22で色付けされる。また、生体LL3を点線で囲む領域CC3は、赤色を示すCC33で色付けされる。これにより、出力画像LA3に写る生体では、生体LL2が最もぼけていなく、生成LL3が最もぼけていたことを視覚的に理解することができる。
図28は、散乱抑制効果を、単色を用いて視認可能な状態で表示した出力画像LA3を示す。図28では、散乱抑制効果値が小さいほど暗色で色付けされ、散乱抑制効果値が大きいほど明色で色付けされる。図28では、生体LL1を点線で囲む領域DD1は、明暗の中間色を示すDD11で色付けされる。また、生体LL2を点線で囲む領域DD2は、明色を示すDD22で色付けされる。また、生体LL3を点線で囲む領域DD3は、暗色を示すDD33で色付けされる。これにより、出力画像LA3に写る生体では、生体LL2が最もぼけていなく、生成LL3が最もぼけていたことを視覚的に理解することができる。
提供部135は、可視化部435によって、散乱抑制効果を視認可能な状態で表示するための情報が付加された出力画像を表示装置5155へ提供する。
〔4−3−2.処理手順〕
次に、図29を用いて、変形例3に係る処理手順を説明する。図29は、変形例3に係る処理手順を示すフローチャートである。ステップS401及び402は、上記実施形態と同様であるため、記載を省略する。
図29に示すように、医療画像生成装置100は、算出された複数の医療画像の散乱度の差に基づいて散乱抑制効果値を算出する(ステップS403)。また、医療画像生成装置100は、算出された散乱抑制効果値に基づいて、散乱抑制効果を視認可能な状態で表示するための情報を付加する(ステップS404)。そして、医療画像生成装置100は、散乱抑制効果を視認可能な状態で示す出力画像を提供する(ステップS405)。
〔5.処理のバリエーション〕
〔5−1.領域ごと、画素ごとにぼけを除去する〕
上記実施形態では、設定部133が、複数の医療画像の散乱度に基づいて、医療画像のぼけを除去するための処理を行う場合を示した。ここで、設定部133は、複数の医療画像に含まれる領域ごと又は画素ごとの医療画像の散乱度に基づいて、領域ごと又は画素ごとに医療画像のぼけを除去するための処理を行ってもよい。以下、設定部133が、領域ごとにぼけを除去するための具体的な処理を一例として説明するが、画素ごとにぼけを除去する場合も同様である。なお、上記実施形態と同様の説明は、適宜省略する。
算出部132は、複数の医療画像に含まれる領域ごとに、医療画像の散乱度を算出する。具体的には、算出部132は、それぞれの医療画像に含まれる同一の位置情報に対応する領域ごとに、医療画像の散乱度を算出する。また、設定部133は、算出部132により算出された領域ごとの散乱度に基づいて、領域ごとに最適なフィルタ係数を設定する。これにより、設定部133は、領域ごとに医療画像のぼけを除去するための最適なフィルタ係数を設定することができるため、より高精度にぼけを除去することができる。そして、生成部134は、設定部133により設定された領域ごとのフィルタ係数を、領域ごとに対象となる医療画像に適用することにより、出力画像を生成する。
〔5−2.ぼけ幅が所定の閾値未満の場合の情報処理〕
上記実施形態では、生成部134が、ぼけ幅が所定の閾値以上となる医療画像を、散乱度が大きい医療画像として出力画像の生成に用いる場合を示した。ここで、算出部132により算出される散乱度が最大となるフィルタ12を用いても、ぼけ幅が所定の閾値を上回らない場合には、生成部134は、このフィルタ12が適用された医療画像を、散乱度が大きい医療画像として出力画像の生成に用いてもよい。
〔5−3.学習モデルを用いた散乱度の算出〕
上記実施形態では、算出部132が、予め定められたぼけ幅と散乱度の関係性に基づいて、散乱度を算出する場合を示した。ここで、算出部132は、ぼけ幅と散乱度との関係性を学習することにより生成された学習モデルM1を用いて、散乱度を算出してもよい。例えば、算出部132は、複数のフィルタ12を用いることにより生成される複数の医療画像に基づくぼけ幅を入力情報とし、散乱度を出力情報として学習することにより生成された学習モデルM1を用いて、散乱度を算出してもよい。上述したように、ぼけ幅は、複数のフィルタ12を用いることにより生成される複数の医療画像に基づいて算出され得る。このため、算出部132は、対象となる医療画像を含む複数の医療画像から算出されるぼけ幅を学習モデルM1に入力することにより、対象となる医療画像の散乱度を算出してもよい。
〔5−4.ICG蛍光以外の蛍光例〕
上記実施形態では、ICGによる蛍光観察に用いるための情報処理の一例を示したが、この例に限られない。すなわち、実施形態に係る蛍光は、ICGによる蛍光に限らず、どのようなものであってもよい。例えば、実施形態に係る蛍光は、5−Ala(PpIX)やフルオレセインなどによる蛍光であってもよい。図30は、5−Ala(PpIX)を用いた場合の、波長と蛍光強度との関係性を示す。図30に示すように、5−Ala(PpIX)は、波長が635nmと、700nmとの辺りで、蛍光強度がピークとなる。また、図31は、フルオレセインを用いた場合の、波長と蛍光強度との関係性を示す。図30に示すように、フルオレセインは、波長が520nmの辺りで、蛍光強度がピークとなる。図30及び31では、ICGの場合と同様に、フィルタAは、フィルタBよりも短波長側に感度を有するフィルタであれば、どのような帯域の波長を透過の対象とするフィルタであってもよい。
〔5−5.分光板の限定〕
上記実施形態では、分光板14が、蛍光に含まれる特定の波長の蛍光を反射させて、その蛍光に含まれる特定の波長以外のその他の波長の蛍光を透過させる場合を示した。ここで、分光板14は、特定の波長の蛍光を反射させるものではなくて、入光された蛍光自体を、フィルタAとフィルタBとの2方向に反射させるものであってもよい。この場合、フィルタAとフィルタBには、同一の蛍光が入光される。そして、フィルタAとフィルタBを用いて、それぞれの撮像素子で撮像するための波長の選択を行ってもよい。この場合、フィルタAとフィルタBでは、所望の波長の蛍光のみが透過される。
〔5−6.フィルタ強度〕
上記実施形態では、設定部133が、対象となる医療画像に適用するフィルタ係数を設定する場合を示した。この場合、生成部134は、医療画像の特徴量にフィルタ係数を適用することにより、ぼけの少ない出力画像を生成した。ここで、設定部133は、対象となる医療画像に適用するフィルタの強度を設定してもよい。この場合、生成部134は、設定部133により設定された強度のフィルタを対象となる医療画像に適用することにより、出力画像を生成する。
〔6.ハードウェア構成〕
また、上述してきた実施形態に係る医療画像生成装置100(200、300、400)やカメラヘッド5119は、例えば、図32に示すような構成のコンピュータ1000によって実現される。図32は、医療画像生成装置100(200、300、400)の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM1300、HDD1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
CPU1100は、ROM1300またはHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、所定の通信網を介して他の機器からデータを受信してCPU1100へ送り、CPU1100が生成したデータを所定の通信網を介して他の機器へ送信する。
CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、生成したデータを入出力インターフェイス1600を介して出力装置へ出力する。
メディアインターフェイス1700は、記録媒体1800に格納されたプログラムまたはデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、かかるプログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
例えば、コンピュータ1000が実施形態に係る医療画像生成装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、取得部131、算出部132、設定部133、生成部134、提供部135等の機能を実現する。コンピュータ1000のCPU1100は、これらのプログラムを記録媒体1800から読み取って実行するが、他の例として、他の装置から所定の通信網を介してこれらのプログラムを取得してもよい。また、HDD1400には、本開示に係る医療画像生成プログラムや、記憶部120内のデータが格納される。
〔7.その他〕
また、上記実施形態および変形例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
また、上述してきた実施形態および変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。
なお、本技術は以下のような構成も取ることができる。
(1)
所定の波長の蛍光によって撮像された第1の医療画像と、当該所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する取得部と、
前記取得部によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する算出部と、
前記算出部によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する生成部と、
を備える医療画像生成装置。
(2)
前記取得部は、
前記所定の波長よりも長波長の蛍光によって撮像された前記第2の医療画像と、当該長波長の蛍光よりも短波長である当該所定の波長の蛍光によって撮像された前記第1の医療画像とを取得する
前記(1)に記載の医療画像生成装置。
(3)
前記生成部は、
前記第1の医療画像の散乱度である第1の散乱度と、前記第2の医療画像の散乱度である第2の散乱度との差に基づいて、前記出力画像を生成する
前記(1)又は(2)に記載の医療画像生成装置。
(4)
前記第1の医療画像又は前記第2の医療画像のどちらか一方に適用することにより、他方の当該第1の医療画像の散乱度である第1の散乱度又は当該第2の医療画像の散乱度である第2の散乱度を再現するためのフィルタ係数を設定する設定部と、を更に備え、
前記生成部は、
前記設定部によって設定されたフィルタ係数と、前記第1の医療画像とに基づいて、前記出力画像を生成する
前記(1)〜(3)のいずれか1つに記載の医療画像生成装置。
(5)
前記設定部は、
前記第2の医療画像よりも散乱度の大きい前記第1の医療画像に適用することにより、前記第1の医療画像で前記第2の散乱度を再現するための前記フィルタ係数を設定する
前記(4)に記載の医療画像生成装置。
(6)
前記設定部は、
前記第1の医療画像よりも散乱度の小さい前記第2の医療画像に適用することにより、前記第2の医療画像で前記第1の散乱度を再現するための前記フィルタ係数に基づく逆フィルタ係数を設定し、
前記生成部は、
前記設定部によって設定された逆フィルタ係数と、前記第1の医療画像とに基づいて、前記出力画像を生成する
前記(4)に記載の医療画像生成装置。
(7)
前記設定部は、
前記第1の医療画像よりも散乱度の小さい前記第2の医療画像に適用することによって再現される複数の前記第2の散乱度のうち、前記第1の散乱度と当該第2の散乱度との差が最小となる前記フィルタ係数に基づく逆フィルタ係数を設定する
前記(6)に記載の医療画像生成装置。
(8)
前記生成部は、
前記第1の散乱度と前記第2の散乱度とに基づいて、前記第1の医療画像と前記第2の医療画像とを合成するための合成比率に基づいて、前記出力画像を生成する
前記(3)に記載の医療画像生成装置。
(9)
前記生成部は、
前記第1の散乱度と前記第2の散乱度との差に応じて、前記出力画像を生成する
前記(8)に記載の医療画像生成装置。
(10)
前記算出部は、
前記第1の医療画像の散乱度である第1の散乱度と、前記第2の医療画像の散乱度である第2の散乱度との差に関する情報に基づいて、蛍光の散乱が抑制された効果を示す散乱抑制効果値を算出し、
前記算出部によって算出された散乱抑制効果値に基づいて、蛍光の散乱が抑制された効果を視認可能な状態で表示するための情報が付加された前記出力画像を提供する提供部と、
前記(1)〜(9)のいずれか1つに記載の医療画像生成装置。
(11)
前記算出部は、
前記第1の医療画像と前記第2の医療画像とに含まれる同一の位置情報に対応する領域ごとの医療画像の散乱度を算出する
前記(1)〜(10)のいずれか1つに記載の医療画像生成装置。
(12)
前記算出部は、
前記第1の医療画像と前記第2の医療画像とに含まれる同一の位置情報に対応する画素ごとの医療画像の散乱度を算出する
前記(1)〜(11)のいずれか1つに記載の医療画像生成装置。
(13)
前記取得部は、
前記蛍光として、ICG(インドシアニングリーン)、5−Ala(PpIX)、又は、フルオレセインによる蛍光によって撮像された前記第1の医療画像と前記第2の医療画像とを取得し、
前記生成部は、
ICG、5−Ala(PpIX)、又は、フルオレセインによる蛍光観察のための前記出力画像を生成する
前記(1)〜(12)のいずれか1つに記載の医療画像生成装置。
(14)
コンピュータが実行する医療画像生成方法であって、
所定の波長の蛍光によって撮像された第1の医療画像と、当該所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する取得工程と、
前記取得工程によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する算出工程と、
前記算出工程によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する生成工程と、
を含むことを特徴とする医療画像生成方法。
(15)
所定の波長の蛍光によって撮像された第1の医療画像と、当該所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する取得手順と、
前記取得手順によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する算出手順と、
前記算出手順によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する生成手順と、
をコンピュータに実行させることを特徴とする医療画像生成プログラム。
1 医療画像生成システム
10 撮像部
11 光源
12 フィルタ
13 撮像素子
100 医療画像生成装置(200、300、400)
110 通信部
120 記憶部
130 制御部(230、330、430)
131 取得部
132 算出部
133 設定部
134 生成部
135 提供部
233 導出部
435 可視化部
N ネットワーク

Claims (15)

  1. 所定の波長の蛍光によって撮像された第1の医療画像と、当該所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する取得部と、
    前記取得部によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する算出部と、
    前記算出部によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する生成部と、
    を備える医療画像生成装置。
  2. 前記取得部は、
    前記所定の波長よりも長波長の蛍光によって撮像された前記第2の医療画像と、当該長波長の蛍光よりも短波長である当該所定の波長の蛍光によって撮像された前記第1の医療画像とを取得する
    ことを特徴とする請求項1に記載の医療画像生成装置。
  3. 前記生成部は、
    前記第1の医療画像の散乱度である第1の散乱度と、前記第2の医療画像の散乱度である第2の散乱度との差に基づいて、前記出力画像を生成する
    ことを特徴とする請求項1に記載の医療画像生成装置。
  4. 前記第1の医療画像又は前記第2の医療画像のどちらか一方に適用することにより、他方の当該第1の医療画像の散乱度である第1の散乱度又は当該第2の医療画像の散乱度である第2の散乱度を再現するためのフィルタ係数を設定する設定部と、を更に備え、
    前記生成部は、
    前記設定部によって設定されたフィルタ係数と、前記第1の医療画像とに基づいて、前記出力画像を生成する
    ことを特徴とする請求項1に記載の医療画像生成装置。
  5. 前記設定部は、
    前記第2の医療画像よりも散乱度の大きい前記第1の医療画像に適用することにより、前記第1の医療画像で前記第2の散乱度を再現するための前記フィルタ係数を設定する
    ことを特徴とする請求項4に記載の医療画像生成装置。
  6. 前記設定部は、
    前記第1の医療画像よりも散乱度の小さい前記第2の医療画像に適用することにより、前記第2の医療画像で前記第1の散乱度を再現するための前記フィルタ係数に基づく逆フィルタ係数を設定し、
    前記生成部は、
    前記設定部によって設定された逆フィルタ係数と、前記第1の医療画像とに基づいて、前記出力画像を生成する
    ことを特徴とする請求項4に記載の医療画像生成装置。
  7. 前記設定部は、
    前記第1の医療画像よりも散乱度の小さい前記第2の医療画像に適用することによって再現される複数の前記第2の散乱度のうち、前記第1の散乱度と当該第2の散乱度との差が最小となる前記フィルタ係数に基づく逆フィルタ係数を設定する
    ことを特徴とする請求項6に記載の医療画像生成装置。
  8. 前記生成部は、
    前記第1の散乱度と前記第2の散乱度とに基づいて、前記第1の医療画像と前記第2の医療画像とを合成するための合成比率に基づいて、前記出力画像を生成する
    ことを特徴とする請求項3に記載の医療画像生成装置。
  9. 前記生成部は、
    前記第1の散乱度と前記第2の散乱度との差に応じて、前記出力画像を生成する
    ことを特徴とする請求項8に記載の医療画像生成装置。
  10. 前記算出部は、
    前記第1の医療画像の散乱度である第1の散乱度と、前記第2の医療画像の散乱度である第2の散乱度との差に関する情報に基づいて、蛍光の散乱が抑制された効果を示す散乱抑制効果値を算出し、
    前記算出部によって算出された散乱抑制効果値に基づいて、蛍光の散乱が抑制された効果を視認可能な状態で表示するための情報が付加された前記出力画像を提供する提供部と、
    を更に備えることを特徴とする請求項1に記載の医療画像生成装置。
  11. 前記算出部は、
    前記第1の医療画像と前記第2の医療画像とに含まれる同一の位置情報に対応する領域ごとの医療画像の散乱度を算出する
    ことを特徴とする請求項1に記載の医療画像生成装置。
  12. 前記算出部は、
    前記第1の医療画像と前記第2の医療画像とに含まれる同一の位置情報に対応する画素ごとの医療画像の散乱度を算出する
    ことを特徴とする請求項1に記載の医療画像生成装置。
  13. 前記取得部は、
    前記蛍光として、ICG(インドシアニングリーン)、5−Ala(PpIX)、又は、フルオレセインによる蛍光によって撮像された前記第1の医療画像と前記第2の医療画像とを取得し、
    前記生成部は、
    ICG、5−Ala(PpIX)、又は、フルオレセインによる蛍光観察のための前記出力画像を生成する
    ことを特徴とする請求項1に記載の医療画像生成装置。
  14. コンピュータが実行する医療画像生成方法であって、
    所定の波長の蛍光によって撮像された第1の医療画像と、当該所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する取得工程と、
    前記取得工程によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する算出工程と、
    前記算出工程によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する生成工程と、
    を含むことを特徴とする医療画像生成方法。
  15. 所定の波長の蛍光によって撮像された第1の医療画像と、当該所定の波長とは異なる波長の蛍光によって撮像された第2の医療画像とを取得する取得手順と、
    前記取得手順によって取得された第1の医療画像と第2の医療画像とに含まれる生体の蛍光のぼけ具合を示す散乱度を算出する算出手順と、
    前記算出手順によって算出された散乱度のうち、少なくともいずれか一方の散乱度に基づいて、出力画像を生成する生成手順と、
    をコンピュータに実行させることを特徴とする医療画像生成プログラム。
JP2020001051A 2020-01-07 2020-01-07 医療画像生成装置、医療画像生成方法および医療画像生成プログラム Pending JP2021108793A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020001051A JP2021108793A (ja) 2020-01-07 2020-01-07 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
PCT/JP2020/048316 WO2021140923A1 (ja) 2020-01-07 2020-12-23 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
CN202080083458.1A CN114786558A (zh) 2020-01-07 2020-12-23 医学图像生成装置、医学图像生成方法和医学图像生成程序
US17/790,125 US20230047294A1 (en) 2020-01-07 2020-12-23 Medical image generation apparatus, medical image generation method, and medical image generation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020001051A JP2021108793A (ja) 2020-01-07 2020-01-07 医療画像生成装置、医療画像生成方法および医療画像生成プログラム

Publications (1)

Publication Number Publication Date
JP2021108793A true JP2021108793A (ja) 2021-08-02

Family

ID=76788628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020001051A Pending JP2021108793A (ja) 2020-01-07 2020-01-07 医療画像生成装置、医療画像生成方法および医療画像生成プログラム

Country Status (4)

Country Link
US (1) US20230047294A1 (ja)
JP (1) JP2021108793A (ja)
CN (1) CN114786558A (ja)
WO (1) WO2021140923A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4113638A2 (en) 2021-06-30 2023-01-04 Seiko Epson Corporation Piezoelectric element and piezoelectric device

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8169468B2 (en) * 2008-04-26 2012-05-01 Intuitive Surgical Operations, Inc. Augmented stereoscopic visualization for a surgical robot
JP5250342B2 (ja) * 2008-08-26 2013-07-31 富士フイルム株式会社 画像処理装置およびプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4113638A2 (en) 2021-06-30 2023-01-04 Seiko Epson Corporation Piezoelectric element and piezoelectric device

Also Published As

Publication number Publication date
US20230047294A1 (en) 2023-02-16
WO2021140923A1 (ja) 2021-07-15
CN114786558A (zh) 2022-07-22

Similar Documents

Publication Publication Date Title
JP7074065B2 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
US11004197B2 (en) Medical image processing apparatus, medical image processing method, and program
JP7088185B2 (ja) 医療用システム、医療用装置および制御方法
JP7095693B2 (ja) 医療用観察システム
US20200084379A1 (en) Control apparatus, control method, and program
US20210019921A1 (en) Image processing device, image processing method, and program
JPWO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
WO2020008920A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
JP7063321B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
US11778325B2 (en) Image processing apparatus, image processing method, and image processing program
WO2018173605A1 (ja) 手術用制御装置、制御方法、手術システム、およびプログラム
WO2020009127A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
JP7140113B2 (ja) 内視鏡
WO2020116067A1 (ja) 医療システム、情報処理装置及び情報処理方法
JPWO2020045014A1 (ja) 医療システム、情報処理装置及び情報処理方法
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP7480779B2 (ja) 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム
WO2022239495A1 (ja) 生体組織観察システム、生体組織観察装置及び生体組織観察方法
WO2020246181A1 (ja) 画像処理装置、画像処理方法、プログラム
WO2020184228A1 (ja) 医療用画像処理装置、医療用画像処理装置の駆動方法、及び医療用観察システム
WO2021044900A1 (ja) 施術システム、画像処理装置、画像処理方法、及びプログラム
JP2020525055A (ja) 医療撮影システム、方法及びコンピュータプログラム