JP2019136269A - 蛍光撮像装置 - Google Patents

蛍光撮像装置 Download PDF

Info

Publication number
JP2019136269A
JP2019136269A JP2018021597A JP2018021597A JP2019136269A JP 2019136269 A JP2019136269 A JP 2019136269A JP 2018021597 A JP2018021597 A JP 2018021597A JP 2018021597 A JP2018021597 A JP 2018021597A JP 2019136269 A JP2019136269 A JP 2019136269A
Authority
JP
Japan
Prior art keywords
image
light
visible
fluorescence
fluorescent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018021597A
Other languages
English (en)
Inventor
辰弥 池原
Tatsuya Ikehara
辰弥 池原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Priority to JP2018021597A priority Critical patent/JP2019136269A/ja
Priority to EP19155416.1A priority patent/EP3524140A1/en
Priority to US16/270,758 priority patent/US11439468B2/en
Publication of JP2019136269A publication Critical patent/JP2019136269A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7425Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00064Constructional details of the endoscope body
    • A61B1/00071Insertion part of the endoscope body
    • A61B1/0008Insertion part of the endoscope body characterised by distal tip features
    • A61B1/00096Optical elements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0653Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with wavelength conversion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • A61B5/14556Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases by fluorescence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems
    • A61B2034/2057Details of tracking cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • G06T2207/30104Vascular flow; Blood flow; Perfusion

Abstract

【課題】外科手術などに蛍光撮像装置を用いる場合でも、蛍光撮像装置によって精度の高い動体追跡処理を行うことが可能な蛍光撮像装置を提供する。【解決手段】この蛍光撮像装置100は、励起光ELを照射する第1光源11aと、可視照明光VLを照射する第2光源11bと、可視波長領域外の非可視光ILを照射する第3光源11cと、を含む光源部11と、可視波長領域の光と、励起光ELにより励起された蛍光FLおよび非可視光ILと、を分離する光学フィルタ12bを含み、蛍光画像41、可視画像42、および非可視画像43をそれぞれ撮像する撮像部10と、蛍光画像41、可視画像42、非可視画像43のうちから動体追跡に用いる画像を選択する選択部32gと、選択された画像少なくとも非可視画像43に基づいて、画像中に設定された関心領域51の動体追跡を行う追跡処理部32eと、を備える。【選択図】図1

Description

本発明は、蛍光撮像装置に関し、特に、被写体に投与される蛍光剤により画像を撮像する蛍光撮像装置に関する。
従来、被写体に投与される蛍光剤により画像を撮像する蛍光撮像装置が知られている(たとえば、特許文献1参照)。
上記特許文献1には、蛍光剤が予め注入されたリンパ節を含む生体観察部に、励起光を照射し、生体観察部から発せられる蛍光を透過する光学フィルタを介して、蛍光像を撮像するリンパ節検出装置(蛍光撮像装置)が開示されている。上記特許文献1には、光学フィルタが生体観察部で反射された反射光も透過するようにして、蛍光像に加えて、生体観察部で反射された反射像を撮像し、蛍光像と反射像とを重畳させた観察画像を得ることが開示されている。表示する特許文献1では、蛍光剤として、インドシアニングリーン(以下、ICGという)が用いられている。ICGは、800nm前後の近赤外の波長帯域の蛍光を発生する。
特許第4745059号公報
上記特許文献1に開示されたような蛍光撮像装置は、センチネルリンパ節生検において、蛍光像により切除するセンチネルリンパ節を可視化するために用いられる。蛍光撮像装置は、他の応用例として、冠動脈バイパス移植術において、グラフト吻合部に蛍光剤を流通させ蛍光像を取得することにより、グラフト吻合部の血流確認を行うために用いられ得る。また、蛍光撮像装置は、内視鏡装置と組み合わされ、内視鏡手術において蛍光像によって手術部位などを確認するためにも用いられ得る。
これらのような用途においては、観察部位自体の動きや、内視鏡装置の場合には内視鏡の移動などが発生するため、撮像された画像において観察部位の動体追跡処理を行うことが望まれる。動体追跡処理は、観察部位中の特徴点を基準(目印)として、継続的に撮像される各画像(動画像)中から、観察部位の位置を検出するものである。
しかしながら、蛍光撮像装置において動体追跡処理を行う場合には、以下の問題点がある。まず、蛍光像を用いて動体追跡処理を行う場合、蛍光強度が十分に上昇するまで蛍光剤が観察部位に流入した後でなければ、画像中から観察部位を検出することができない。可視光の反射像を用いて動体追跡処理を行う場合、手術用照明(いわゆる無影灯)の反射光の画像中への写り込みにより高輝度の輝点が発生することがある。観察部位に輝点が発生すると観察部位の画像が得られなくなり、観察部位の動きに伴って輝点の位置も変化するなどにより、観察部位の検出精度が低下してしまう。
そのため、外科手術などに蛍光撮像装置を用いる場合でも、蛍光撮像装置によって精度の高い動体追跡処理を行えるようにすることが望まれている。
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、外科手術などに蛍光撮像装置を用いる場合でも、蛍光撮像装置によって精度の高い動体追跡処理を行うことが可能な蛍光撮像装置を提供することである。
上記目的を達成するために、この発明の一の局面における蛍光撮像装置は、被写体に投与される蛍光剤の励起光を照射する第1光源と、可視波長領域の可視照明光を照射する第2光源と、可視波長領域外の非可視光を照射する第3光源と、を含む光源部と、可視波長領域の光と、励起光により励起された可視波長領域外の蛍光および非可視光と、を分離する光学フィルタを含み、蛍光に基づく蛍光画像、可視照明光の反射光に基づく可視画像、および非可視光の反射光に基づく非可視画像をそれぞれ撮像する撮像部と、蛍光画像、可視画像、非可視画像のうちから動体追跡に用いる画像を選択する選択部と、選択された画像に基づいて、画像中に設定された関心領域の動体追跡を行う追跡処理部と、を備える。
本明細書において、可視波長領域の可視照明光とは、可視波長領域に強度ピークを有している光を意味し、可視波長領域外の波長成分を含むことを許容する。同様に、可視波長領域外の非可視光は、非可視波長領域に強度ピークを有している光を意味し、可視波長領域の波長成分を含むことを許容する。すなわち、光源から発生する光は、光源に応じた所定の波長範囲に渡って拡がる波長スペクトルを有するので、スペクトルの裾の部分が、可視領域と非可視領域とに跨がって存在してもよい。可視波長領域は、たとえばJIS規格によれば、短波長限界が360nm〜400nm、長波長限界が760nm〜830nmにあると考えてよい。
この発明の一の局面における蛍光撮像装置は、上記のように、可視波長領域の光と、励起光により励起された可視波長領域外の蛍光および非可視光と、を分離する光学フィルタを含み、蛍光に基づく蛍光画像、可視照明光の反射光に基づく可視画像、および非可視光の反射光に基づく非可視画像をそれぞれ撮像する撮像部を設ける。これにより、可視波長領域の光である手術用照明(無影灯)の反射光を光学フィルタによって分離して、第3光源の非可視光の反射光による非可視画像を取得できる。そのため、非可視画像において、手術用照明の反射に起因する輝点が画像中に写り込むことを抑制できる。そして、非可視光については、たとえば関心領域内の観察部位と被写体の他の部位とで吸収特性または反射特性が異なる波長を用いれば、蛍光剤を投与しなくても、観察部位と他の部位とを識別可能なコントラストのある非可視画像を得ることができる。なお、可視画像においても、手術用照明の反射に起因する輝点が画像中に写り込んでいない可視画像については、動体追跡に用いることが可能である。そこで、上記のように、蛍光画像、可視画像、非可視画像のうちから動体追跡に用いる画像を選択する選択部を設けることによって、蛍光剤の投与前の蛍光像が得られない場合や手術用照明の反射が写り込む場合でも、状況に応じて動体追跡が可能な適切な画像を選択することができるので、追跡処理部によって画像中から関心領域を検出することができる。以上の結果、外科手術などに蛍光撮像装置を用いる場合でも、蛍光撮像装置によって精度の高い動体追跡処理を行うことができる。
上記一の局面における蛍光撮像装置において、好ましくは、動体追跡結果に基づいて、蛍光画像中において関心領域を通過する蛍光剤の流れを解析する解析処理部をさらに備える。このように構成すれば、冠動脈バイパス移植術において蛍光剤によるグラフト吻合部の血流確認を行う場合のように、関心領域が動く場合でも、解析処理部により、追跡処理部の動体追跡結果に基づいて、被写体の同一の関心領域についての時間変化(関心領域を通過する蛍光剤の流れ)を蛍光画像から把握することができる。その結果、蛍光撮像装置によっても、動体追跡結果を利用して、画像解析による蛍光剤の流れ解析を行うことができる。なお、画像解析による流れ解析は、たとえば関心領域近傍に留置した金マーカーを目印として、X線撮像装置により造影剤の流れ解析を行う技術がある。上記構成によれば、X線撮像装置を用いる場合と比較して、X線による放射線被曝が生じない、金マーカーなどの目印の留置が必ずしも必要でないため低侵襲である、大がかりな装置構成になりやすいX線を用いないため装置構成が簡素化できる、などの顕著な利点がある。
この場合、好ましくは、解析処理部は、蛍光画像中で関心領域を流れる蛍光剤に起因する蛍光の時間強度曲線(Time Intensity Curve)を生成するように構成されている。このように構成すれば、蛍光剤の流れの経時的な変化を表す時間強度曲線により、冠動脈などの血管であれば血流確認を行うことができ、リンパ管などではリンパ流の確認を行うことができる。そして、蛍光強度が少ない段階(蛍光剤の関心領域への流入直後の立ち上がりや、蛍光剤の濃度ピーク後の立ち下がり)においても、信号強度の低い蛍光画像を用いずに非可視画像を用いて動体追跡を行えるので、蛍光強度の立ち上がりから立ち下がりまでの広い範囲で時間強度曲線を精度よく取得することができる。時間強度曲線は、平均流量、傾きや通過時間などの各種パラメータを解析することで治療、診断に有用な様々な情報が得られるため、精度の高い時間強度曲線が治療、診断等において有用である。
上記一の局面における蛍光撮像装置において、好ましくは、選択部は、追跡処理部による動体追跡中に、蛍光画像、可視画像、非可視画像のうちから、動体追跡に用いる画像を切り替えるように構成されている。このように構成すれば、動体追跡中に、より高精度な動体追跡が可能な画像を状況に応じて選択することができるので、動体追跡処理をより高精度に行うことができる。たとえば、蛍光画像は、蛍光剤の投与直後の段階や、関心領域から流れ去る段階では、蛍光強度(蛍光剤の濃度)が低いため動体追跡には適さない一方、蛍光強度のピーク付近では高いコントラストが得られ、動体追跡を高精度に行うことができる。そのため、蛍光画像、可視画像、非可視画像を動体追跡中に切り替えて利用することによって、より高精度に動体追跡を行うことができる。
この場合、好ましくは、選択部は、少なくとも蛍光剤の投与前に、動体追跡に用いる画像として非可視画像を選択し、画素値に基づいて、動体追跡に用いる画像を蛍光画像に切り替えるように構成されている。このように構成すれば、蛍光強度(画素値)が低い蛍光剤の投与前の段階では、非可視画像を用いて動体追跡を行うことができ、蛍光強度(画素値)が十分に高くなった段階では、蛍光画像を用いて高精度に動体追跡を行うことができる。その結果、蛍光剤の投与前後のそれぞれで、適切な画像選択によって高精度に動体追跡を行うことができる。
上記動体追跡中に動体追跡に用いる画像を切り替える構成において、好ましくは、選択部は、蛍光剤の投与前に、動体追跡に用いる画像として非可視画像を選択し、蛍光剤の投与後に、動体追跡に用いる画像を蛍光画像に切り替えるように構成されている。この場合、たとえば蛍光剤の投与時点からの経過時間等に基づいて、蛍光強度(画素値)が十分に高くなるタイミングで、非可視画像から蛍光画像に切り替えて動体追跡を行うことができる。その結果、適切な画像選択によって高精度に動体追跡を行うことができる。
上記一の局面における蛍光撮像装置において、好ましくは、第3光源は、近赤外波長領域の非可視光を照射するように構成されている。近赤外波長領域は、短波長限界が可視光の長波長限界(760nm〜830nm)であり、長波長限界が1400nm〜2500nm程度とされる。近赤外光は、生体組織を透過しやすい一方、血中ヘモグロビンなどに吸収されやすいことが知られている。そこで、上記のように非可視画像を近赤外光とすれば、非可視画像において、血液が流れる血管が吸収により相対的に暗く、血管以外の領域が相対的に明るくなり、蛍光剤を投与しなくても、観察部位としての血管と他の部位とを識別可能なコントラストのある非可視画像を得ることができる。そのため、特に関心領域として被写体の血管を撮像する場合に、より高精度に動体追跡を行うことができる。
上記一の局面における蛍光撮像装置において、好ましくは、第3光源は、蛍光の波長と重複する波長領域の非可視光を照射し、撮像部は、蛍光画像および非可視画像を撮像する第1撮像素子と、可視画像を撮像する第2撮像素子とを備える。このように構成すれば、蛍光の波長と非可視光の波長とが重複する波長領域を有することを利用して、共通の撮像素子を用いて蛍光画像および非可視画像の両方を撮像することができる。その結果、蛍光画像と、非可視画像と、可視画像とをそれぞれ撮像する場合でも、装置構成を簡素化することができる。
上記一の局面における蛍光撮像装置において、好ましくは、第3光源は、実質的に蛍光灯の光の波長領域を含まない非可視光を照射するように構成されている。なお、本明細書にいて、「実質的に蛍光灯の光の波長領域を含まない」とは、第3光源および蛍光灯のスペクトルを比較して、少なくとも半値幅(全値半幅)の波長領域で互いに重複しない事を意味し、たとえばピーク強度に対して20%以下となるような低強度の波長成分について波長領域が重複することを許容する。このように構成すれば、一般に蛍光灯が用いられる手術用照明の光(反射光)と、第3光源の非可視光とを、光学フィルタによって容易に分離できるので、映り込みを極力抑制して非可視画像の画像品質を向上させることができる。その結果、非可視画像を用いた動体追跡の精度をさらに向上させることができる。
上記一の局面における蛍光撮像装置において、好ましくは、追跡処理部は、画像中に含まれる画像部分と、テンプレート画像とのテンプレートマッチングにより、関心領域の動体追跡を行うように構成されている。このように構成すれば、予めテンプレート画像を用意しておくだけで、容易に関心領域の動体追跡を精度よく行うことができる。
この場合、好ましくは、追跡処理部は、撮像された画像によりテンプレート画像を更新する処理を行うように構成されている。このように構成すれば、関心領域中の観察部位がたとえば血管、リンパ管(リンパ節)や腫瘍などであり、心拍動などの生体活動に伴って変形する場合でも、新たに撮像された画像を用いてテンプレート画像を更新することによって、関心領域中の観察部位の変形が発生しても精度低下を抑制可能な頑健な動体追跡処理を行うことができる。
上記一の局面における蛍光撮像装置において、好ましくは、撮像部は、同一視野における蛍光画像、可視画像、および非可視画像を撮像するように構成され、追跡処理部は、可視画像上で受け付けた関心領域について、少なくとも非可視画像の同一位置の関心領域の動体追跡を行うように構成されている。このように構成すれば、蛍光画像、可視画像、および非可視画像が同一視野で撮像されるので、可視画像上で指定した被写体の部位が蛍光画像および非可視画像においても同一の部位を示すことになる。そのため、ユーザは、実際に視認しているのと同様の可視画像上で関心領域を指定することができ、指定された関心領域の位置座標を非可視画像でそのまま用いることができるので、ユーザにとっての利便性を確保しつつ関心領域の位置座標を容易に取得することができる。
上記一の局面における蛍光撮像装置において、好ましくは、光源部および撮像部を含む内視鏡装置をさらに備える。このように構成すれば、被写体の体内での蛍光撮像を行う場合にも、非可視画像を用いて関心領域の動体追跡を行うことができる。内視鏡装置の場合、被検体内の関心領域が動くだけでなく、内視鏡自体も被検体内で動くため、たとえば内視鏡生検などを行う場合にも、観察部位を含んだ関心領域の動体追跡を行えることが特に有用である。
本発明によれば、上記のように、外科手術などに蛍光撮像装置を用いる場合でも、蛍光撮像装置によって精度の高い動体追跡処理を行うことができる。
第1実施形態による蛍光撮像装置の全体構成を示した模式図である。 蛍光撮像装置を外科手術に用いられる治療支援システムに適用した例を示す模式図である。 光源部を説明するための撮像部の概略図である。 撮像部の構造を説明するための模式図である。 光学フィルタによって分離される光のスペクトルを示した図である。 各光源から照射される光と、撮像される画像とを説明するための模式図である。 特徴点抽出の前後における可視画像(A)、蛍光画像(B)および非可視画像(C)の模式図である。 各光源の点灯制御を説明するためのタイミングチャートである。 画像処理部の構成を説明するためのブロック図である。 時間強度曲線を説明するための図である。 表示装置に出力される画面画像を説明するための図である。 動体追跡および時間強度曲線の生成処理を示したフロー図である。 動体追跡処理の詳細を示したフロー図である。 動体追跡処理におけるテンプレートマッチングおよびテンプレート画像の更新を説明するための模式図である。 画素値に応じて動体追跡に用いる画像を切り替える制御を説明するための模式図である。 第2実施形態による蛍光撮像装置の全体構成を示した模式図である。 撮像部の第1変形例を示した模式図である。 撮像部の第2変形例を示した模式図である。
以下、本発明を具体化した実施形態を図面に基づいて説明する。
[第1実施形態]
図1〜図11を参照して、本発明の第1実施形態による蛍光撮像装置100の構成について説明する。
図1に示すように、第1実施形態による蛍光撮像装置100は、励起光ELを照射することにより被写体Pに投与された蛍光剤FAから発せられる蛍光FLを検出し、蛍光FLに基づいて被写体Pの観察部位を可視化(画像化)する装置である。第1実施形態では、被写体Pから離隔した位置に配置される撮像部10により、観察部位を被写体Pの外部から撮像する蛍光撮像装置100について説明する。被写体Pは、生体であり、たとえばヒトである。被写体Pは、たとえばマウスなどの小動物のような生体でもよい。
図2に示すように、蛍光撮像装置100は、たとえば外科手術において観察部位を確認するために用いられる。一例として、以下では、冠動脈バイパス移植術などの心臓外科手術において利用される蛍光撮像装置100について説明する。冠動脈バイパス術は、狭窄した冠動脈の狭窄部をバイパスする血管を繋ぐことにより血流量の回復をはかる手術である。冠動脈バイパス移植術では、医師は、開胸した心臓の動脈に対して、グラフトと呼ばれるバイパス血管を吻合することにより、冠動脈のバイパス経路を形成する。医師は、吻合後、グラフトの血流を確認した後、必要な処置を行って閉胸する。グラフトの血流を確認する際、蛍光剤FAがグラフトの上流側の血管内に投与(注入)される。蛍光撮像装置100は、血流によってグラフトに送り込まれる蛍光剤FAからの蛍光FLを検出することにより、蛍光剤FAがグラフトに対して流入出する様子を可視化(画像化)することが可能である。
図2では、手術台1の上に被写体Pが載せられる。手術台1の上方には、手術用の可視光照明である無影灯2が配置されている。無影灯2は、影が生じないように多方向から術野に可視光を照射する。蛍光撮像装置100は、被写体Pの上方で、術野を撮像可能な位置に配置された撮像部10により、観察部位の撮像を行う。図2では、蛍光撮像装置100は、表示装置3に接続され、撮像した画像を表示装置3に出力するように構成されている。
表示装置3は、蛍光撮像装置100から出力される被写体Pの画像を表示するように構成されている。表示装置3は、たとえば、液晶ディスプレイなどのモニタである。このように、蛍光撮像装置100と、表示装置3とにより、蛍光画像の撮像および表示を行う外科手術用の治療支援システムが構成される。グラフトの血流を確認する際、ユーザは、表示装置3に表示された画像を確認することができる。
(蛍光撮像装置の構成)
第1実施形態による蛍光撮像装置100は、図1に示すように、撮像部10と、アーム機構20と、筐体に収容された本体部30とを備える。アーム機構20は、一端が本体部30に接続され、他端に接続された撮像部10を支持し、可動範囲内で撮像部10を任意の位置および向きに保持可能に構成されている。
(撮像部)
撮像部10は、被写体Pに撮像用の照明光を照射する光源部11と、撮像部10に入射する光が通過する光学系12と、撮像部10に入射した光を受光して画像信号を生成する受光部13とを含む。
光源部11は、第1光源11aと、第2光源11bと、第3光源11cとを含む。第1光源11aは、被写体に投与される蛍光剤FAの励起光ELを照射するように構成されている。第2光源11bは、可視波長領域の可視照明光VLを照射するように構成されている。第3光源11cは、可視波長領域外の非可視光ILを照射するように構成されている。これらの光源は、それぞれ、たとえば、レーザダイオード(LD)または発光ダイオード(LED)を含む。第1光源11a、第2光源11b、第3光源11cは、それぞれ1つまたは複数設けられる。図3では、第1光源11a、第2光源11bおよび第3光源11cが、それぞれ4つ配置される例を示している。図3では、撮像部10の端部において、第1光源11a、第2光源11bおよび第3光源11cが、中央部に配置された光学系12の周囲を取り囲むように円環状に並んで配置されている。
第1光源11aは、蛍光剤FAの光吸収特性に応じて、適した波長の励起光ELを照射する。一例として、蛍光剤FAはインドシアニングリーン(ICG)である。ICGは、約750nm以上約800nm未満の波長領域に吸収ピークを有し、励起されることにより約800nm以上約850nm未満の波長領域にピークを有する蛍光FL(図5参照)を発する。第1光源11aは、たとえば約750nmにピークを有する励起光EL(図5参照)を照射する。なお、蛍光剤FAはICG以外でもよい。
第2光源11bは、たとえば可視照明光VLとして白色光を照射する。白色光は、可視波長領域の略全体に亘る波長成分(図5参照)を含んでいる。可視照明光VLは、可視波長領域外の波長成分を含んでいてもよいが、可視波長領域外の波長成分の強度は、蛍光FLや第3光源11cによる非可視光ILの強度と比較して十分に弱い。
第3光源11cの非可視光ILとしては、可視波長領域外の光であって、観察部位と被写体の他の部位とで吸収特性または反射特性が異なる波長の光が選択される。観察部位としてグラフト吻合部の血管を撮像する場合、生体組織を透過しやすく、血中のヘモグロビンにより吸収されやすい近赤外波長領域の光(近赤外光)が非可視光ILとして好ましい。第1実施形態では、第3光源11cは、近赤外波長領域の非可視光ILを照射するように構成されている。第3光源11cは、たとえば、約800nm以上約850nm未満の波長領域にピークM(図5参照)を有する非可視光IL(図5参照)を照射する。したがって、第3光源11cは、蛍光FLの波長と重複する波長領域(約800nm以上約850nm未満)の非可視光ILを照射するように構成されている。また、第3光源11cは、実質的に蛍光灯(手術用照明)の光の波長領域(図5参照)を含まない非可視光ILを照射するように構成されている。すなわち、図5では、蛍光灯の光は全値半幅では約600nm付近が上限となっている。これに対して、第3光源11cは、約800nm以上約850nm未満のピークを有し、たとえば半値幅の下限が約700nm以上800nm未満の非可視光ILを照射するように構成されている。
図4に示すように、受光部13は、蛍光画像41および非可視画像43を撮像する第1撮像素子13aと、可視画像42を撮像する第2撮像素子13bとを含んでいる。第1実施形態では、共通の第1撮像素子13aにより、蛍光画像41および非可視画像43の両方を撮像することが可能である。第1撮像素子13aおよび第2撮像素子13bは、それぞれ、たとえばCMOS(Complementary Netal Oxide Semiconductor)イメージセンサやCCD(Charge Coupled Device)イメージセンサなどの固体撮像素子により構成される。第2撮像素子13bは、白色光である可視照明光VLを用いて可視画像42をカラー画像として撮影することが可能である。第1撮像素子13aは、蛍光画像41および非可視画像43を、たとえばグレースケール画像として撮影することが可能である。
光学系12は、ズームレンズ12aと、光学フィルタ12bとを含む。光学系12は、撮像部10に入射した光を受光部13に結像させる。また、光学系12は、被写体Pから反射された可視照明光VLの反射光と、蛍光剤FAから発せられる蛍光FLおよび非可視光ILの反射光とを分離する。
ズームレンズ12aは、レンズ移動機構(図示せず)によって光軸AX方向に往復移動可能に構成され、フォーカス調整を行う。光学フィルタ12bは、ズームレンズ12aと光学系(第1撮像素子13aおよび第2撮像素子13b)との間に設置されている。図4の例では、光学フィルタ12bは、プリズム型のビームスプリッタにより構成されている。光学フィルタ12bは、特定の波長の光を選択的に透過し、その他の波長の光を反射する機能を有する。これにより、光学フィルタ12bは、可視波長領域の光と、励起光ELにより励起された可視波長領域外の蛍光FLおよび非可視光ILと、を分離するように構成されている。
図5に示すように、光学フィルタ12bは、可視照明光VLおよび無影灯2の反射光などの可視波長領域の光および励起光ELを反射して、第2撮像素子13bに投影するように構成されている。光学フィルタ12bは、可視波長領域外の蛍光FLおよび非可視光ILを透過して、第1撮像素子13aに投影するように構成されている。すなわち、光学フィルタ12bは、可視光および励起光ELの波長と、蛍光FLおよび非可視光ILの波長との間の所定波長DWを境界として、所定波長DW以上の光(蛍光FLおよび非可視光IL)を選択的に透過させ、所定波長DW未満の光(可視照明光VLの反射光、無影灯2の反射光、励起光ELの反射光)を反射させるように構成されている。
第1撮像素子13aおよび第2撮像素子13bは、共通の光学系12によって、可視照明光VLの反射光、蛍光FLおよび非可視光ILの反射光を検出するように構成されている。
図6のように、第1光源11aから照射された励起光ELは、一部が被写体Pの表面で反射(図示せず)され、一部が被写体P内に透過する。励起光ELは、蛍光剤FAが投与されている場合、蛍光剤FAに吸収される。この結果、蛍光剤FAから蛍光FLが発生し、光学系12に入射する。入射した蛍光FLは、光学フィルタ12b(図4参照)を透過して第1撮像素子13a(図4参照)により撮像される。この結果、蛍光FLに基づく蛍光画像41が取得される。
第2光源11bから照射された可視照明光VLは、主として被写体Pの表面で反射され、光学系12に入射する。入射した可視照明光VLの反射光は、光学フィルタ12b(図4参照)で反射されて第2撮像素子13b(図4参照)により撮像される。この結果、可視照明光VLの反射光に基づく可視画像42が取得される。
第3光源11cから照射された近赤外の非可視光ILは、生体組織に透過しやすいため、被写体Pの表面および内部で反射され、反射光が光学系12に入射する。入射した非可視光ILの反射光は、光学フィルタ12bを透過して第1撮像素子13aにより撮像される。この結果、非可視光ILの反射光に基づく非可視画像43が取得される。
これにより、撮像部10は、蛍光FLに基づく蛍光画像41、可視照明光VLの反射光に基づく可視画像42、および非可視光ILの反射光に基づく非可視画像43をそれぞれ撮像するように構成されている。
図7(A)に示すように、可視画像42では、ユーザが観察部位を視認するのと同様のカラー画像が得られる。図7(B)に示すように、蛍光画像41では、蛍光剤FAの濃度が高いほど画素値が大きくなる態様でコントラストのついた画像が得られる。なお、図7(B)では便宜的に血管全体に蛍光剤FAが存在している例を示しているが、実際には、血管中に蛍光剤FAが存在する部分だけが明るくなる。図7(C)に示すように、非可視画像43では、血管部分と血管部分以外との間の非可視光ILの吸収特性の相違を反映して、血管部分と血管部分以外とでコントラストのついた画像が得られる。すなわち、近赤外波長領域の非可視光ILが血中のヘモグロビンにより吸収されやすいため、非可視光ILが相対的に吸収されやすい血液B(図6参照)が流通する血管部分で画素値が小さく、非可視光ILが相対的に吸収されにくい血管部分以外で画素値が大きくなる態様の非可視画像43が得られる。
これらの画像は、共通の光学系12(図4参照)に入射して分離された光に基づいてそれぞれ取得されるため、同一視野の画像となる。つまり、撮像部10は、同一視野における蛍光画像41、可視画像42、および非可視画像43を撮像するように構成されている。
(本体部)
図1に戻り、本体部30には、制御部31、画像処理部32および記憶部33が設けられている。また、本体部30には、制御部31に対するユーザの操作入力を受け付けるための操作部(図示せず)が設けられている。本体部30は、たとえば、台車型の筐体(図2参照)内にPC(Personal Computer)が内蔵された構成となっている。
制御部31は、光源部11からの光(励起光EL、可視照明光VL、非可視光IL)の照射開始、照射の停止などを、操作部による入力操作に基づいて制御するように構成されている。制御部31は、画像処理部32において生成した画像を、表示装置3に出力するように構成されている。制御部31は、たとえば、CPU(Central Processing Unit)などのプロセッサによって構成されている。
図8に示すように、制御部31は、蛍光撮像装置100による撮像中、第1光源11a、第2光源11bおよび第3光源11cの点灯タイミングを制御する。具体的には、制御部31は、可視照明光VLを照射する第2光源11bを、全てのタイミングで点灯(ON)させるように制御する。一方、制御部31は、励起光ELを照射する第1光源11aと、非可視光ILを照射する第3光源11cとを、所定の時間間隔Tで点灯(ON)と消灯(OFF)とを交互に繰り返すように制御する。時間間隔Tは、任意に設定することができ、たとえば第1撮像素子13aの信号読み出しのフレームレートと同等とすることができる。フレームレートは、たとえば30fps以上である。この結果、第1撮像素子13aでは、1フレーム毎に、蛍光画像41と非可視画像43とが交互に取得される。
図1に戻り、画像処理部32は、第1撮像素子13aで検出された信号に基づき、蛍光画像41および非可視画像43を生成するように構成されている。また、画像処理部32は、第2撮像素子13bで検出された信号に基づき、可視画像42を生成するように構成されている。また、画像処理部32は、蛍光画像41と可視画像42とを合成した合成画像44(図11参照)を生成するように構成されている。画像処理部32は、たとえば、GPU(Graphics Processing Unit)または画像処理用に構成されたFPGA(Field−Programmable Gate Array)などのプロセッサを含む。
記憶部33は、プロセッサをそれぞれ制御部31および画像処理部32として機能させるための各種プログラムを記憶している。記憶部33は、画像処理部32が生成した画像(蛍光画像41、可視画像42および非可視画像43を含む各種画像)などを記憶するように構成されている。記憶部33は、たとえば、不揮発性のメモリまたはハードディスクドライブ(HDD)などを含む。
(画像処理部の構成)
図9に示すように、第1実施形態では、画像処理部32は、蛍光画像処理部32a、可視画像処理部32bおよび非可視画像処理部32cと、画像合成部32dと、追跡処理部32eと、画像出力部32fと、選択部32gとを備える。また、第1実施形態では、画像処理部32は、解析処理部32hを備える。画像処理部32に含まれるこれらの処理部は、プロセッサが画像処理用のプログラムを実行することにより実現される機能ブロックとしてソフトウェア的に構成される。FPGAなどのプロセッサを用いる場合、プロセッサにそれぞれの機能ブロックが構築される。処理部毎に専用のプロセッサ(処理回路)を設けて、各処理部を個別のハードウェアにより構成してもよい。
蛍光画像処理部32aおよび非可視画像処理部32cは、それぞれ、第1撮像素子13aから画像信号を取得して、蛍光画像41および非可視画像43を生成する。可視画像処理部32bは、第2撮像素子13bから画像信号を取得して、可視画像42を生成する。また、蛍光画像処理部32a、可視画像処理部32bおよび非可視画像処理部32cは、ノイズ除去のフィルタ処理など、公知の補正処理を行いうる。
画像合成部32dは、可視画像42および蛍光画像41を合成して、1つの合成画像44(図11参照)を生成する。合成は、たとえば可視画像42上に、蛍光画像41を重畳させる処理である。画像合成部32dは、可視画像42および蛍光画像41に加えて、非可視画像43を合成してもよい。
選択部32gは、蛍光画像41、可視画像42、非可視画像43のうちから動体追跡に用いる画像を選択するように構成されている。たとえば、選択部32gは、蛍光画像処理部32a、可視画像処理部32bおよび非可視画像処理部32cからそれぞれ、蛍光画像41、可視画像42、非可視画像43を取得して、動体追跡に適したいずれか1つまたは複数の画像を選択する。選択部32gは、動体追跡に用いる画像として選択した画像を、追跡処理部32eに出力する。選択は、たとえば画像中の輝度値や、経過時間(たとえば蛍光剤FAの被写体Pへの投与からの経過時間)、その他予め設定された選択基準に従って行われる。選択方法の詳細については後述する。
本実施形態では、追跡処理部32eは、選択部32gにより選択された画像に基づいて、画像中に設定された関心領域51(図11参照)の動体追跡を行う。具体的には、追跡処理部32eは、画像中に含まれる画像部分と、テンプレート画像52(図14参照)とのテンプレートマッチングにより、関心領域51(図14参照)の動体追跡を行うように構成されている。関心領域51は、動体追跡の開始前に、取得された画像中でユーザによって指定された所定範囲の領域である。関心領域51は、手術において注目している観察部位を含んだ領域として指定される。冠動脈バイパス手術では、血流確認を行うグラフト吻合部を含む範囲が、関心領域51として設定される。グラフト吻合部を含む周辺の血管は、心拍動に伴って位置や形状が変化する。そのため、フレーム画像が新たに取得される度に追跡処理部32eが動体追跡を行って、関心領域51の位置を検出する。
追跡処理部32eは、選択部32gにより選択されたフレーム画像が新たに取得されると、動体追跡を行い、動体追跡結果として、新たに取得されたフレーム画像中における関心領域51の位置座標を出力する。
解析処理部32hは、動体追跡結果に基づいて、蛍光画像41中において関心領域51を通過する蛍光剤FAの流れを解析するように構成されている。具体的には、図10に示すように、解析処理部32hは、蛍光画像41中で関心領域51を流れる蛍光剤FAに起因する蛍光FLの時間強度曲線(TIC)61を生成するように構成されている。冠動脈バイパス手術では、グラフト吻合部が関心領域51として設定されることにより、グラフト吻合部を流れる蛍光剤FAから発生する蛍光FLの時間強度曲線61が生成される。時間強度曲線61は、関心領域51を通過する蛍光剤FAの濃度変化を表すため、グラフト吻合部における血流を反映したものとなる。
解析処理部32hは、蛍光画像41の各フレーム画像から、動体追跡結果に基づいて特定された関心領域51内の画素値を取得する。そして、解析処理部32hは、図10に示すように各々のフレーム画像における関心領域51内の画素値の時間的な変化をプロットすることにより、時間強度曲線61を生成する。時間強度曲線61は、蛍光FLの信号強度である蛍光画像41の画素値を縦軸に取り、経過時間を横軸に取ったグラフの形式で表される。通常、蛍光剤FAが関心領域51の上流側の位置から血管内に投与(注入)され、血流によって関心領域51まで運ばれる。蛍光剤FAが関心領域51に到達すると、関心領域51内の画素値(蛍光強度)が徐々に増大し、所定のタイミングでピークに達した後、蛍光剤FAが関心領域51を通り過ぎるのに伴って徐々に画素値(蛍光強度)が低下する。時間強度曲線61は、ピークを持った山なりの曲線となる。蛍光剤FAは、投与する部位(臓器、場所)や投与量にも依存するが、たとえば約10秒で関心領域51に達し、約30秒で関心領域51における濃度がピークに達する。
図9に戻り、画像出力部32fは、画像合成部32d、追跡処理部32eおよび解析処理部32hの処理結果を用いて、表示装置3に出力する画面画像45(図11参照)を生成し、出力する。画像出力部32fは、図11に示すように、たとえば、撮像された可視画像42および蛍光画像41と、画像合成部32dによって生成された合成画像44とを含む画面画像45を生成する。また、画像出力部32fは、追跡処理部32eの動体追跡結果に基づいて、各画像中に関心領域51の現在位置を表示させる。図11では、矩形状の関心領域51が、各画像上に重畳して表示されている。また、画像出力部32fは、解析処理部32hによる蛍光剤FAの流れの解析結果を画面画像45に含める。図11では、流れの解析結果としての時間強度曲線61が、各画像と並べて表示されている。したがって、画面画像45において、撮像された画像に重畳させて表示された関心領域51における血流の解析結果として、時間強度曲線61が表示されている。
(画像処理部の処理動作)
次に、動体追跡処理および時間強度曲線61の解析処理に関わる動作について説明する。図12に示すように、撮像が開始されると、ステップS1において、画像処理部32は、取得されたフレーム画像から特徴量を抽出する処理を行う。
選択部32gは、フレーム画像(蛍光画像41、可視画像42、非可視画像43)が新たに取得されると、画像から特徴量を抽出する処理を行う。特徴量を抽出する処理は、たとえば、2値化処理、微分フィルタなどの画像処理により、画像中のエッジ抽出を行う処理である。特徴量の抽出により、動体追跡を行うための構造的特徴が画像中から取得できる。
図7(A)〜(C)の図中右側には、それぞれ蛍光画像41、可視画像42および非可視画像43に対する特徴量抽出処理の結果を示す。冠動脈バイパス手術では、特徴量抽出処理によってグラフト吻合部を含む血管部分が抽出される。可視画像42においても、外部から視認可能な血管については、特徴量抽出処理により抽出することができる。しかし、外科手術などでの手術用照明(無影灯2の照明)下では、照明光が映り込み、可視画像42中に白飛び(画素値が飽和)した輝点BSが発生してしまうことがある。この場合に可視画像42に対して特徴量抽出処理を行うと、図7(A)に示すように輝点BSの形状が抽出されてしまい、血管の形状を抽出することができないため、動体追跡の精度低下の要因となる。一方、蛍光画像41および非可視画像43では、光学フィルタ12bによって可視光波長領域の光から分離された蛍光FLおよび非可視光IL(反射光)により画像が生成されるため、手術用照明の影響を受けずに動体追跡が可能となる。また、照明光の映り込みがなく、輝点BSが発生しない可視画像42については、動体追跡が可能である。
次に、図12のステップS2において、画像処理部32(追跡処理部32e)は、特徴量の抽出が行われたフレーム画像(蛍光画像41、可視画像42、非可視画像43)のうちから、選択部32gにより選択された画像に基づいて、動体追跡処理を行う。
(動体追跡処理)
図13および図14を参照して、動体追跡処理について詳細に説明する。追跡処理部32eは、設定された関心領域51に対して、動体追跡を行う。動体追跡処理は、上記の特徴量抽出処理後の画像(蛍光画像41、可視画像42、非可視画像43)を用いて行われる。以下では、動体追跡に用いる画像として、非可視画像43または蛍光画像41が選択部32gにより選択される例について説明する。また、以下では便宜的に、特徴量抽出処理後の非可視画像43または蛍光画像41を、単に非可視画像43または蛍光画像41という。
ステップS11において、追跡処理部32eは、1番目のフレーム(i=1)の可視画像42上で、関心領域51(図11参照)の指定を受け付ける。iはフレーム番号を表す。このように、追跡処理部32eは、可視画像42上で受け付けた関心領域51について、少なくとも非可視画像43の同一位置の関心領域51の動体追跡を行うように構成されている。上記の通り、同じフレームで取得された可視画像42と、非可視画像43または蛍光画像41とは、同一視野の画像となるため、画像中の位置座標が示す被写体Pの部位は同一となる。そのため、ユーザが目視で視認するのと同じ可視画像42上で関心領域51の設定が受け付けられ、可視画像42上の位置座標(x,y)を非可視画像43または蛍光画像41に適用することにより、非可視画像43上または蛍光画像41上に関心領域51が設定される。設定操作は、図示しない操作部への入力により行われる。
ステップS12において、追跡処理部32eは、関心領域51の画像部分を切り出し、i+n番目(nは正の整数)のフレーム画像に対する動体追跡用のテンプレート画像52(図14参照)とする。ステップS11で関心領域51の指定を受け付けた直後は、ユーザにより指定された関心領域51の画像が2番目のフレーム(i=1、n=1)のテンプレート画像52とされる。
ステップS13において、追跡処理部32eは、i+n番目のフレーム用のテンプレート画像52と、新たに取得されたi+n番目のフレーム画像(非可視画像43または蛍光画像41)とのテンプレートマッチング(図14参照)を行う。テンプレートマッチングは、たとえば相互相関係数Rの算出により行う。
図14に示すように、追跡処理部32eは、i番目のフレーム画像における関心領域51の中心位置座標(x1,y1)を中心とする探索範囲53を、i+n番目のフレーム画像に設定する。ここでは、n=1の例を示す。探索範囲53は、テンプレート画像52(すなわち関心領域51)よりも広い範囲として設定される。探索範囲53の大きさは、心拍動による血管の移動速度および移動範囲と、取得される画像のフレームレートとに応じて、新たに取得されたフレーム画像(i+1)において関心領域51が探索範囲53に含まれるように設定される。ここでは便宜的に、テンプレート画像52(関心領域51)が10画素×10画素の正方形領域として設定された場合に、探索範囲53は、20画素×20画素の領域として設定されるとする。
追跡処理部32eは、探索範囲53内に関心領域51と同じサイズの検出窓54を設定し、検出窓54内の画像部分と、テンプレート画像52との間の相互相関係数Rを算出する。追跡処理部32eは、検出窓54を移動させて、探索範囲53内の全領域で、それぞれ相互相関係数Rを算出する。そして、追跡処理部32eは、最大の相互相関係数Rmaxが得られた位置座標(x2,y2)を、i+1番目のフレーム画像における関心領域51の位置座標として決定する。これにより、図13のステップS13において、i+1番目のフレーム画像における関心領域51の位置座標(x2,y2)が取得される。
ここで、第1実施形態では、追跡処理部32eは、撮像された画像によりテンプレート画像52を更新する処理を行うように構成されている。すなわち、追跡処理部32eは、今回取得されたフレーム画像において最大の相互相関係数Rmaxが得られた関心領域51の画像部分を、次フレームで取得されるフレーム画像に対するテンプレート画像52として用いる。
具体的には、追跡処理部32eは、ステップS14において、i+n番目のフレーム画像における関心領域51の位置座標(x2,y2)において得られた最大の相互相関係数Rmaxを、所定の閾値pと比較する。追跡処理部32eは、最大の相互相関係数Rmaxが閾値pよりも大きい場合に、ステップS14において最後のフレームであるか否かを判断し、最後のフレームでなければ、ステップS12に戻ってフレーム番号iにi+nをセットして、テンプレート画像52を更新する。たとえば2番目(i+n=2)のフレームにおいて、Rmaxが閾値pよりも大きい場合、2番目のフレーム画像によって、テンプレート画像52が更新される。
すなわち、図14に示したように、追跡処理部32eは、最大の相互相関係数Rmaxが閾値pよりも大きい場合に、最大の相互相関係数Rmaxが算出された関心領域51の画像部分を切り出して、次のフレーム用のテンプレート画像52(i+n+1番目のテンプレート画像)として更新する。
したがって、図14に示すように、i+1番目とi+2番目のフレーム間で、テンプレート画像52に写る特徴量(血管)の形状が相違しうる。この結果、心拍動に伴って血管の形状が変化する場合でも、血管の形状の変化に追従してテンプレート画像52も変化(更新)される。
一方、図13のステップS14において、最大の相互相関係数Rmaxが閾値p以下となる場合には、追跡処理部32eは、ステップS13に戻って変数nにn+1をセットすることにより、i+n番目のテンプレート画像52とのテンプレートマッチングを行う。つまり、追跡処理部32eは、最大の相互相関係数Rmaxが閾値p以下となる場合には、テンプレート画像52の更新を行わない。たとえば2番目(i+n=2)のフレームにおいて、Rmaxが閾値p以下となった場合、2番目のフレーム用のテンプレート画像52をそのまま用いて、次に取得される3番目(i+n=3)のフレーム画像における関心領域51の探索が行われることになる。
最大の相互相関係数Rmaxが閾値p以下となる場合、テンプレート画像52との類似度が低く、何らかのエラーが含まれる可能性があり得る。そのため、Rmaxが閾値p以下となる場合にテンプレート画像52の更新を行わないことにより、不適切な画像がテンプレート画像52として設定されることが回避できる。
以上のようにして、動体追跡処理が行われる。
図12に戻り、ステップS3において、画像処理部32(解析処理部32h)は、時間強度曲線61を算出する解析処理を行う。蛍光剤FAの投与前の段階では、時間強度曲線61は算出されない(蛍光強度が略0として算出される)。
ステップS1〜S3の処理は、動体追跡開始後、新たにフレーム画像が取得される度に、実行される。そのため、動体追跡開始後、所定のタイミングが来ると、ユーザにより、被写体Pへの蛍光剤FAの投与(注入)が行われる。蛍光剤FAの投与後は、蛍光画像41において蛍光強度(画素値)が変化するので、ステップS3において、算出される時間強度曲線61の蛍光強度が図10に示したように変化することになる。
(動体追跡に用いる画像の選択)
次に、動体追跡(図12のステップS2)に用いる画像(フレーム画像)について説明する。第1実施形態では、選択部32gは、追跡処理部32eによる動体追跡中に、蛍光画像41、可視画像42、非可視画像43のうちから、動体追跡に用いる画像を切り替えるように構成されている。具体的には、たとえば選択部32gは、少なくとも蛍光剤FAの投与前に、動体追跡に用いる画像として非可視画像43を選択し、画素値に基づいて、動体追跡に用いる画像を蛍光画像41に切り替えるように構成されている。
図15に示すように、関心領域51における蛍光剤FAの投与前後に亘る蛍光強度は、時間強度曲線61のように山なりに変化する。追跡処理部32eは、たとえば、各フレームで取得した蛍光画像41の画素値(蛍光強度)毎の度数分布(ヒストグラム)55を取得する。図15は、横軸に画素値(蛍光強度)をとり、縦軸に頻度(画素数)をとった度数分布55を示している。そして、追跡処理部32eは、画素値(蛍光強度)が所定値q1を超える画素の数が、所定の閾値q2を上回る場合に、動体追跡に用いる画像を蛍光画像41に切り替える。画素値(蛍光強度)が所定値q1を超える画素の数が、所定の閾値q2以下となる場合には、追跡処理部32eは、動体追跡に用いる画像を非可視画像43に切り替える。所定の閾値q2は、特徴量抽出を行うためのコントラストが非可視画像43を上回る場合に蛍光画像41に切り替わるような値が選択され予め設定される。
上記の通り、関心領域51への蛍光剤FAの流入前から時間強度曲線61のピーク前の立ち上がりの段階、および、時間強度曲線61のピーク後の蛍光剤FAの濃度が低下する立ち下がりの段階では、蛍光画像41において高い画素値(蛍光強度)を有する画素数が少なくなるため、追跡処理部32eは、非可視画像43を用いて動体追跡を行う。そして、蛍光剤FAの濃度が高い時間強度曲線61のピークおよびピーク前後の段階では、蛍光画像41において高い画素値(蛍光強度)の画素数が所定の閾値q2を上回るため、追跡処理部32eは、蛍光画像41を用いて動体追跡を行う。
〈動体追跡に用いる画像の選択の変形例〉
図15では、選択部32gが、画素値に基づいて動体追跡に用いる画像を切り替える(選択する)例を示したが、選択部32gは、取得されたフレーム画像の画素値以外の他の情報に基づいて画像の選択を行ってもよい。たとえば、変形例では、選択部32gは、蛍光剤FAの投与前に、動体追跡に用いる画像として非可視画像43を選択し、蛍光剤FAの投与後に、動体追跡に用いる画像を蛍光画像41に切り替えるように構成されている。蛍光剤FAの投与後、関心領域51において蛍光剤濃度がピークとなるタイミングは、上記のように投与する部位(臓器、場所)や投与量などに依存して、予め把握できる。そのため、選択部32gは、たとえば蛍光剤FAの投与後の時間経過に基づいて、予め設定されたタイミングで動体追跡に用いる画像を切り替える。
また、以上の説明では、動体追跡に用いる画像を非可視画像43と蛍光画像41との間で切り替える例を示しているが、選択部32gは、可視画像42を選択してもよい。上記のように、画像中に輝点BSが発生しない場合、可視画像42を用いて動体追跡が可能である。そのため、選択部32gは、蛍光画像41、可視画像42、非可視画像43のうちから動体追跡に適した画像を選択すればよい。
(第1実施形態の効果)
第1実施形態では、以下のような効果を得ることができる。
第1実施形態では、上記のように、可視波長領域の光と、蛍光FLおよび非可視光ILと、を分離する光学フィルタ12bを含み、蛍光画像41、可視画像42、および非可視画像43をそれぞれ撮像する撮像部10を設ける。これにより、可視波長領域の光である手術用照明(無影灯2)の反射光を光学フィルタ12bによって分離して、第3光源11cの非可視光ILの反射光による非可視画像43を取得できる。そのため、非可視画像43において、手術用照明の反射に起因する輝点BSが画像中に写り込むことを抑制できる。そして、非可視光ILによって、蛍光剤FAを投与しなくても、観察部位と他の部位とを識別可能なコントラストのある非可視画像43を得ることができる。そこで、蛍光画像41、可視画像42、非可視画像43のうちから動体追跡に用いる画像を選択する選択部32gを設けることによって、蛍光剤FAの投与前の蛍光像が得られない場合や手術用照明(無影灯2)の反射が写り込む場合でも、状況に応じて動体追跡が可能な適切な画像を選択することができるので、追跡処理部32eによって画像中から関心領域51を検出することができる。以上の結果、外科手術などに蛍光撮像装置100を用いる場合でも、蛍光撮像装置100によって精度の高い動体追跡処理を行うことができる。
第1実施形態では、上記のように、動体追跡結果に基づいて、蛍光画像41中において関心領域51を通過する蛍光剤FAの流れを解析する解析処理部32hを設ける。これにより、関心領域51が動く場合でも、追跡処理部32eの動体追跡結果に基づいて、解析処理部32hにより、被写体の同一の関心領域51についての時間変化(関心領域51を通過する蛍光剤FAの流れ)を蛍光画像41から把握することができる。その結果、蛍光撮像装置100によっても、動体追跡結果を利用して、画像解析による蛍光剤FAの流れ解析を行うことができる。
第1実施形態では、上記のように、蛍光画像41中で関心領域51を流れる蛍光剤FAに起因する蛍光FLの時間強度曲線(TIC)61を生成するように解析処理部32hを構成する。これにより、時間強度曲線61により、冠動脈などの血管であれば血流確認を行うことができ、リンパ管などではリンパ流の確認を行うことができる。そして、蛍光強度が少ない段階(蛍光剤FAの関心領域51への流入直後の立ち上がりや、蛍光剤FAの濃度ピーク後の立ち下がり)においても、信号強度の低い蛍光画像41を用いずに非可視画像43を用いて動体追跡を行えるので、蛍光強度の立ち上がりから立ち下がりまでの広い範囲で時間強度曲線61を精度よく取得することができる。
第1実施形態では、上記のように、追跡処理部32eによる動体追跡中に、蛍光画像41、可視画像42、非可視画像43のうちから、動体追跡に用いる画像を切り替えるように選択部32gを構成する。これにより、動体追跡中に、より高精度な動体追跡が可能な画像を状況に応じて選択することができるので、動体追跡処理をより高精度に行うことができる。上記のように、蛍光画像41は、蛍光剤FAの投与直後の段階や、関心領域51から流れ去る段階以外の蛍光強度のピーク付近では高いコントラストが得られ、動体追跡を高精度に行うことができる。また、手術用照明の反射が写り込んでいなければ、可視画像42も動体追跡に用いることができる。非可視画像43は、蛍光剤FAの投与の有無や手術用照明の反射に影響されずに安定したコントラストを得ることができる。そのため、蛍光画像41、可視画像42、非可視画像43を動体追跡中に切り替えて利用することによって、より高精度に動体追跡を行うことができる。
第1実施形態では、上記のように、選択部32gは、少なくとも蛍光剤FAの投与前に、動体追跡に用いる画像として非可視画像43を選択し、画素値に基づいて、動体追跡に用いる画像を蛍光画像41に切り替えるように構成されている。これにより、蛍光強度(画素値)が低い蛍光剤FAの投与前の段階では、非可視画像43を用いて動体追跡を行うことができ、蛍光強度(画素値)が十分に高くなった段階では、蛍光画像41を用いて高精度に動体追跡を行うことができる。その結果、蛍光剤FAの投与前後のそれぞれで、適切な画像選択によって高精度に動体追跡を行うことができる。
また、蛍光剤FAの投与前に、動体追跡に用いる画像として非可視画像43を選択し、蛍光剤FAの投与後に、動体追跡に用いる画像を蛍光画像41に切り替えるように選択部32gを構成する場合、蛍光剤FAの投与時点からの経過時間に基づいて、蛍光強度(画素値)が十分に高くなるタイミングで、非可視画像43から蛍光画像41に切り替えて動体追跡を行うことができる。その結果、適切な画像選択によって高精度に動体追跡を行うことができる。
第1実施形態では、上記のように、第3光源11cを、近赤外波長領域の非可視光ILを照射するように構成する。これにより、非可視画像43において、血液が流れる血管が吸収により相対的に暗く、血管以外の領域が相対的に明るくなり、蛍光剤FAを投与しなくても、観察部位としての血管と他の部位とを識別可能なコントラストのある非可視画像43を得ることができる。そのため、特に関心領域51として被写体の血管を撮像する場合に、より高精度に動体追跡を行うことができる。
第1実施形態では、上記のように、第3光源11cを、蛍光FLの波長と重複する波長領域の非可視光ILを照射するように構成し、撮像部10に、蛍光画像41および非可視画像43を撮像する第1撮像素子13aと、可視画像42を撮像する第2撮像素子13bとを設ける。これにより、蛍光FLの波長と非可視光ILの波長とが重複する波長領域を有することを利用して、共通の撮像素子を用いて蛍光画像41および非可視画像43の両方を撮像することができる。その結果、蛍光画像41と、非可視画像43と、可視画像42とをそれぞれ撮像する場合でも、装置構成を簡素化することができる。
第1実施形態では、上記のように、第3光源11cを、実質的に蛍光灯の光の波長領域を含まない非可視光ILを照射するように構成する。これにより、一般に蛍光灯が用いられる手術用照明(無影灯2)の光と、第3光源11cの非可視光ILとを、光学フィルタ12bによって容易に分離できるので、映り込みを極力抑制して非可視画像43の画像品質を向上させることができる。その結果、非可視画像43を用いた動体追跡の精度をさらに向上させることができる。
第1実施形態では、上記のように、追跡処理部32eを、画像中に含まれる画像部分と、テンプレート画像52とのテンプレートマッチングにより、関心領域51の動体追跡を行うように構成する。これにより、予めテンプレート画像52を用意しておくだけで、容易に関心領域51の動体追跡を精度よく行うことができる。
第1実施形態では、上記のように、撮像された画像によりテンプレート画像52を更新する処理を行うように追跡処理部32eを構成する。これにより、関心領域51の観察部位が心拍動などの生体活動に伴って変形する場合でも、新たに撮像された画像を用いてテンプレート画像52を更新することによって、関心領域51中の観察部位の変形が発生しても精度低下を抑制可能な頑健な動体追跡処理を行うことができる。
第1実施形態では、上記のように、同一視野における蛍光画像41、可視画像42、および非可視画像43を撮像するように撮像部10を構成し、追跡処理部32eを、可視画像42上で受け付けた関心領域51について、少なくとも非可視画像43の同一位置の関心領域51の動体追跡を行うように構成する。これにより、ユーザは、実際に視認しているのと同様の可視画像42上で関心領域51を指定することができ、指定された関心領域51の位置座標を非可視画像43でそのまま用いることができるので、ユーザにとっての利便性を確保しつつ関心領域51の位置座標を容易に取得することができる。
[第2実施形態]
次に、図16を参照して、本発明の第2実施形態について説明する。被写体Pの外部から撮像を行う第1実施形態とは異なり、第2実施形態では、内視鏡装置110を備えた蛍光撮像装置200について説明する。なお、上記第1実施形態と同様の構成については同様の符号を付し、説明を省略する。
図16に示すように、第2実施形態の蛍光撮像装置200は、光源部11および撮像部10を含む内視鏡装置110を備える。また、蛍光撮像装置200は、内視鏡装置110と接続された本体部30を備えている。
内視鏡装置110は、柔軟で変形可能なケーブル部120を備えている。ケーブル部120は、分岐した根元部111において光源部11および撮像部10にそれぞれ接続されている。ケーブル部120は、先端部112が、被写体P内に挿入され、被写体Pの内部の観察部位の近傍まで送り込まれる。
ケーブル部120の内部には、送光ガイド部121および受光ガイド部122が設けられている。送光ガイド部121および受光ガイド部122は、それぞれ、光ファイバなどにより構成されたライトガイドである。
送光ガイド部121は、根元部111において光源部11に光学的に接続され、先端部112まで延びている。送光ガイド部121は、光源部11から照射された光を、先端部112まで送光し、レンズ部123aを介してケーブル部120の先端部112から出射させるように構成されている。送光ガイド部121は、光源部11の第1光源11a、第2光源11bおよび第3光源11cの各々に光学的に接続され、各光源から照射される励起光EL、可視照明光VLおよび非可視光ILを、それぞれ先端部112へ送光可能に構成されている。
受光ガイド部122は、根元部111において撮像部10に光学的に接続され、先端部112まで延びている。受光ガイド部122は、先端部112においてレンズ部123bを介して受光した光(可視照明光VLの反射光、蛍光FL、非可視光ILの反射光)を、根元部111に接続された撮像部10まで送光可能に構成されている。
撮像部10に送光された光は、光学フィルタ12bによって分離される。すなわち、蛍光FLおよび非可視光ILの反射光は、光学フィルタ12bを透過して第1撮像素子13aに受光され、励起光ELの反射光および可視照明光VLの反射光は、光学フィルタ12bで反射して第2撮像素子13bに受光される。第1撮像素子13aおよび第2撮像素子13bの各々により、蛍光画像41、可視画像42および非可視画像43が取得される。
蛍光画像41、可視画像42および非可視画像43は、画像処理部32により取得される。選択部32g(図9参照)により選択された画像を用いて、追跡処理部32e(図9参照)により、関心領域51の動体追跡が行われる。また、画像処理部32の解析処理部32h(図9参照)により、蛍光剤FAの流れ解析が行われる。画像処理部32の構成は、上記第1実施形態と同様である。選択部32gによる画像選択、追跡処理部32eによる動体追跡処理、および、解析処理部32hによる解析処理は、上記第1実施形態と同様である。画像処理部32では、画像合成部32dによって可視画像42および蛍光画像41が合成される。画像処理部32は、可視画像42、蛍光画像41、合成画像44および時間強度曲線61を含んだ画面画像45を、表示装置3に出力するように構成されている。
第2実施形態のその他の構成は、上記第1実施形態と同様である。
なお、第2実施形態において、光源部11(第1光源11a、第2光源11bおよび第3光源11c)は、ケーブル部120の先端部112に内蔵されていてもよい。この場合、送光ガイド部121に代えて、光源部11と本体部30とを電気的に接続するための接続線が、ケーブル部120に設けられる。同様に、撮像部10(第1撮像素子13aおよび第2撮像素子13b)は、ケーブル部120の先端部112に内蔵されていてもよい。この場合、受光ガイド部122に代えて、撮像部10と本体部30とを電気的に接続するための接続線が、ケーブル部120に設けられる。
(第2実施形態の効果)
内視鏡装置110では、先端部112が移動して観察部位との距離を一定に保つことができない(観察部位に対する照明光の照射強度が制御できない)ため、可視照明光VLの反射光が可視画像42中に強く写り込んで輝点BSを生じる可能性がある。そこで、第2実施形態では、可視画像42の撮像と動体追跡を同時に行う場合でも、上記第1実施形態と同様に、非可視画像43において、可視照明光VLの反射に起因する輝点BSが画像中に写り込むことを抑制できる。そして、観察部位と他の部位とを識別可能なコントラストのある非可視画像43に基づいて、画像中に設定された関心領域51の動体追跡を行うことによって、蛍光剤FAの投与を行わなくても画像中から関心領域51を検出することができる。以上の結果、反射光の影響を抑制した非可視画像43を用いて、蛍光剤FAの投与を行わなくても関心領域51を検出できるので、内視鏡手術などに蛍光撮像装置200を用いる場合でも、蛍光撮像装置200によって精度の高い動体追跡処理を行うことができる。
また、第2実施形態では、上記のように、光源部11および撮像部10を含む内視鏡装置110を設ける。これにより、被写体の体内での蛍光撮像を行う場合にも、非可視画像43を用いて関心領域51の動体追跡を行うことができる。内視鏡装置110の場合、被検体内の関心領域51が動くだけでなく、内視鏡自体も被検体内で動くため、たとえば内視鏡生検などを行う場合にも、可視画像42では認識できないような観察部位を含んだ関心領域51の動体追跡を行えることが特に有用である。
第2実施形態のその他の効果は、上記第1実施形態と同様である。
(変形例)
なお、今回開示された実施形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施形態の説明ではなく、特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内での全ての変更(変形例)が含まれる。
たとえば、上記第1および第2実施形態では、蛍光剤FAの流れを解析する解析処理部32hを設けた例を示したが、本発明はこれに限られない。本発明では、解析処理部32hを設けなくてもよい。動体追跡は、蛍光剤FAの流れの解析のみならず、たとえば生検時の切除部位の画像上での特定や、治療箇所の特定などにおいて有用である。
また、上記第1および第2実施形態では、蛍光剤FAの流れ解析として、解析処理部32hが蛍光の時間強度曲線61を生成する例を示したが、本発明はこれに限られない。解析処理部32hは、画像解析により蛍光剤の流れを解析する処理を行うのであれば、時間強度曲線61の生成以外のどのような解析処理を行ってもよい。
また、上記第1および第2実施形態では、追跡処理部32eが非可視画像43に加えて、蛍光画像41にも基づいて、関心領域51の動体追跡を行う例を示したが、本発明はこれに限られない。追跡処理部32eは、蛍光画像41、可視画像42および非可視画像43のいずれか1つのみに基づいて動体追跡を行ってもよい。
また、上記第1および第2実施形態では、追跡処理部32eが、画素値に基づいて、動体追跡に用いる画像を非可視画像43または蛍光画像41に切り替える例を示したが、本発明はこれに限られない。追跡処理部32eは、動体追跡に用いる画像を切り替えなくてもよい。追跡処理部32eは、非可視画像43および蛍光画像41の両方を用いて動体追跡を行ってもよい。非可視画像43および蛍光画像41の合成画像を作成して、合成画像に対して動体追跡を行ってもよい。また、追跡処理部32eが動体追跡に用いる画像を切り替える場合、画素値以外の情報に基づいて、切り替えを行ってもよい。
また、上記第1および第2実施形態では、追跡処理部32eがテンプレートマッチングにより動体追跡を行う例を示したが、本発明はこれに限られない。追跡処理部32eによる動体追跡の手法は、テンプレートマッチング以外のどのような手法によってもよい。たとえば、機械学習により、テンプレート画像52を用いずに、画像中に設定した関心領域51を検出してもよい。
また、上記第1および第2実施形態では、追跡処理部32eがテンプレート画像52を更新する処理を行う例を示したが、本発明はこれに限られない。追跡処理部32eは、テンプレート画像52を更新しなくてもよい。たとえば、追跡処理部32eは、最初にユーザにより指定された関心領域51の画像のみをテンプレート画像52として用いてもよい。被写体Pにおいて変形が小さい部位を関心領域51とする場合には、テンプレート画像52を更新しなくても、関心領域51を精度よく検出可能である。
また、上記第1および第2実施形態では、第3光源11cが、近赤外波長領域の非可視光ILを照射する例を示したが、本発明はこれに限られない。第3光源11cは、近赤外波長領域以外の赤外光を非可視光ILとして照射してもよい。また、第3光源11cは、可視波長領域に対して短波長側の紫外領域の波長の非可視光ILを照射してもよい。非可視光ILの波長は、上記のように、関心領域内の観察部位と被写体の他の部位とで吸収特性または反射特性が異なる波長を用いればよく、これによって関心領域内の観察部位を識別する特徴量を画像処理により抽出することが可能となる。
また、上記第1および第2実施形態では、第3光源11cが、蛍光FLの波長と重複する波長領域の非可視光ILを照射する例を示したが、本発明はこれに限られない。非可視光ILと蛍光FLとで、ピーク波長が異なっていて波長領域が重複しなくてもよい。また、蛍光画像41および非可視画像43を、共通の第1撮像素子13aによって撮像しなくてもよい。この場合、図17に示す第1変形例のように、蛍光用撮像素子301と、可視光用撮像素子302と、非可視光用撮像素子303とを、それぞれ別々に設けてもよい。第1変形例では、可視光(励起光ELおよび無影灯2などの照明光を含む)と非可視光(蛍光FL、非可視光ILを含む)とを分離する第1の光学フィルタ304と、蛍光FLと非可視光ILとを分離する第2の光学フィルタ305と、が設けられている。
この他、図18に示す第2変形例のように、蛍光FLの波長領域の光を選択的に透過する蛍光用フィルタ311と、可視照明光VLの波長領域の光を選択的に透過する可視光用フィルタ312と、非可視光ILの波長領域の光を選択的に透過する非可視光用フィルタ313とを設けて、これらのフィルタを共通(単一)の撮像素子310の光路上に交替で移動させる構成としてもよい。ことにより、共通の撮像素子310を用いて、蛍光画像41と、可視画像42と、非可視画像43とをそれぞれ撮像することができる。
また、上記第1および第2実施形態では、追跡処理部32eが、可視画像42上で関心領域51の指定を受け付ける例を示したが、本発明はこれに限られない。追跡処理部32eは、可視画像42以外の画像(蛍光画像41、非可視画像43または合成画像44)上で関心領域51の指定を受け付けてもよい。
10 撮像部
11 光源部
11a 第1光源
11b 第2光源
11c 第3光源
12b、304、305、311、312、313 光学フィルタ
13a 第1撮像素子
13b 第2撮像素子
32e 追跡処理部
32g 選択部
32h 解析処理部
41 蛍光画像
42 可視画像
43 非可視画像
51 関心領域
52 テンプレート画像
61 時間強度曲線
100、200 蛍光撮像装置
110 内視鏡装置
EL 励起光
FA 蛍光剤
P 被写体
上記目的を達成するために、この発明の一の局面における蛍光撮像装置は、被写体に投与される蛍光剤の励起光を照射する第1光源と、可視波長領域の可視照明光を照射する第2光源と、可視波長領域外の非可視光を照射する第3光源と、を含む光源部と、可視波長領域の光と、励起光により励起された可視波長領域外の蛍光および非可視光と、を分離する光学フィルタを含み、蛍光に基づく蛍光画像、可視照明光の反射光に基づく可視画像、および非可視光の反射光に基づく非可視画像をそれぞれ撮像する撮像部と、少なくとも非可視画像に基づいて、画像中に設定された関心領域の動体追跡を行う追跡処理部と、を備える。
この発明の一の局面における蛍光撮像装置は、上記のように、可視波長領域の光と、励起光により励起された可視波長領域外の蛍光および非可視光と、を分離する光学フィルタを含み、蛍光に基づく蛍光画像、可視照明光の反射光に基づく可視画像、および非可視光の反射光に基づく非可視画像をそれぞれ撮像する撮像部を設ける。これにより、可視波長領域の光である手術用照明(無影灯)の反射光を光学フィルタによって分離して、第3光源の非可視光の反射光による非可視画像を取得できる。そのため、非可視画像において、手術用照明の反射に起因する輝点が画像中に写り込むことを抑制できる。そして、非可視光については、たとえば関心領域内の観察部位と被写体の他の部位とで吸収特性または反射特性が異なる波長を用いれば、蛍光剤を投与しなくても、観察部位と他の部位とを識別可能なコントラストのある非可視画像を得ることができる。そこで、上記のように、蛍光剤の投与前の蛍光像が得られない場合や手術用照明の反射が写り込む場合でも、追跡処理部によって画像中から関心領域を検出することができる。以上の結果、外科手術などに蛍光撮像装置を用いる場合でも、蛍光撮像装置によって精度の高い動体追跡処理を行うことができる。
上記一の局面における蛍光撮像装置において、好ましくは、追跡処理部は、非可視画像に加えて、蛍光画像にも基づいて関心領域の動体追跡を行う。
上記一の局面における蛍光撮像装置において、好ましくは、追跡処理部は、被検体への蛍光薬剤投与前には、非可視画像に基づいて関心領域の動体追跡を行い、蛍光薬剤投与後は非可視画像または蛍光画像に基づいて関心領域の動体追跡を行う。
上記一の局面における蛍光撮像装置において、好ましくは、蛍光画像、非可視画像、および可視画像のうちから、動体追跡に用いる画像を選択する選択部をさらに備える。なお、可視画像においても、手術用照明の反射に起因する輝点が画像中に写り込んでいない可視画像については、動体追跡に用いることが可能である。選択部を設けることによって、蛍光剤の投与前の蛍光像が得られない場合や手術用照明の反射が写り込む場合でも、状況に応じて動体追跡が可能な適切な画像を選択することができる。
上記選択部を備える構成において、好ましくは、選択部は、追跡処理部による動体追跡中に、蛍光画像、可視画像、非可視画像のうちから、動体追跡に用いる画像を切り替えるように構成されている。このように構成すれば、動体追跡中に、より高精度な動体追跡が可能な画像を状況に応じて選択することができるので、動体追跡処理をより高精度に行うことができる。たとえば、蛍光画像は、蛍光剤の投与直後の段階や、関心領域から流れ去る段階では、蛍光強度(蛍光剤の濃度)が低いため動体追跡には適さない一方、蛍光強度のピーク付近では高いコントラストが得られ、動体追跡を高精度に行うことができる。そのため、蛍光画像、可視画像、非可視画像を動体追跡中に切り替えて利用することによって、より高精度に動体追跡を行うことができる。
上記追跡処理部が、蛍光薬剤投与前には非可視画像に基づいて動体追跡を行い、蛍光薬剤投与後は非可視画像または蛍光画像に基づいて動体追跡を行う構成において、好ましくは、追跡処理部は、少なくとも蛍光剤の投与前に、動体追跡に用いる画像として非可視画像を用い、画素値に基づいて、動体追跡に用いる画像を蛍光画像に切り替えるように構成されている。このように構成すれば、蛍光強度(画素値)が低い蛍光剤の投与前の段階では、非可視画像を用いて動体追跡を行うことができ、蛍光強度(画素値)が十分に高くなった段階では、蛍光画像を用いて高精度に動体追跡を行うことができる。その結果、蛍光剤の投与前後のそれぞれで、適切な画像選択によって高精度に動体追跡を行うことができる。

Claims (13)

  1. 被写体に投与される蛍光剤の励起光を照射する第1光源と、可視波長領域の可視照明光を照射する第2光源と、可視波長領域外の非可視光を照射する第3光源と、を含む光源部と、
    可視波長領域の光と、前記励起光により励起された可視波長領域外の蛍光および前記非可視光と、を分離する光学フィルタを含み、前記蛍光に基づく蛍光画像、前記可視照明光の反射光に基づく可視画像、および前記非可視光の反射光に基づく非可視画像をそれぞれ撮像する撮像部と、
    前記蛍光画像、前記可視画像、前記非可視画像のうちから動体追跡に用いる画像を選択する選択部と、
    選択された画像に基づいて、画像中に設定された関心領域の動体追跡を行う追跡処理部と、を備える、蛍光撮像装置。
  2. 動体追跡結果に基づいて、前記蛍光画像中において前記関心領域を通過する蛍光剤の流れを解析する解析処理部をさらに備える、請求項1に記載の蛍光撮像装置。
  3. 前記解析処理部は、前記蛍光画像中で前記関心領域を流れる蛍光剤に起因する前記蛍光の時間強度曲線を生成するように構成されている、請求項2に記載の蛍光撮像装置。
  4. 前記選択部は、前記追跡処理部による動体追跡中に、前記蛍光画像、前記可視画像、前記非可視画像のうちから、動体追跡に用いる画像を切り替えるように構成されている、請求項1〜3のいずれか1項に記載の蛍光撮像装置。
  5. 前記選択部は、少なくとも前記蛍光剤の投与前に、動体追跡に用いる画像として前記非可視画像を選択し、画素値に基づいて、動体追跡に用いる画像を前記蛍光画像に切り替えるように構成されている、請求項4に記載の蛍光撮像装置。
  6. 前記選択部は、前記蛍光剤の投与前に、動体追跡に用いる画像として前記非可視画像を選択し、前記蛍光剤の投与後に、動体追跡に用いる画像を前記蛍光画像に切り替えるように構成されている、請求項4に記載の蛍光撮像装置。
  7. 前記第3光源は、近赤外波長領域の前記非可視光を照射するように構成されている、請求項1〜6のいずれか1項に記載の蛍光撮像装置。
  8. 前記第3光源は、前記蛍光の波長と重複する波長領域の前記非可視光を照射し、
    前記撮像部は、前記蛍光画像および前記非可視画像を撮像する第1撮像素子と、前記可視画像を撮像する第2撮像素子とを備える、請求項1〜7のいずれか1項に記載の蛍光撮像装置。
  9. 前記第3光源は、実質的に蛍光灯の光の波長領域を含まない前記非可視光を照射するように構成されている、請求項1〜8のいずれか1項に記載の蛍光撮像装置。
  10. 前記追跡処理部は、画像中に含まれる画像部分と、テンプレート画像とのテンプレートマッチングにより、前記関心領域の動体追跡を行うように構成されている、請求項1〜9のいずれか1項に記載の蛍光撮像装置。
  11. 前記追跡処理部は、撮像された画像により前記テンプレート画像を更新する処理を行うように構成されている、請求項10に記載の蛍光撮像装置。
  12. 前記撮像部は、同一視野における前記蛍光画像、前記可視画像、および前記非可視画像を撮像するように構成され、
    前記追跡処理部は、前記可視画像上で受け付けた前記関心領域について、少なくとも前記非可視画像の同一位置の前記関心領域の動体追跡を行うように構成されている、請求項1〜11のいずれか1項に記載の蛍光撮像装置。
  13. 前記光源部および前記撮像部を含む内視鏡装置をさらに備える、請求項1〜12のいずれか1項に記載の蛍光撮像装置。
JP2018021597A 2018-02-09 2018-02-09 蛍光撮像装置 Pending JP2019136269A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018021597A JP2019136269A (ja) 2018-02-09 2018-02-09 蛍光撮像装置
EP19155416.1A EP3524140A1 (en) 2018-02-09 2019-02-05 Fluorescence imaging device
US16/270,758 US11439468B2 (en) 2018-02-09 2019-02-08 Fluorescent imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018021597A JP2019136269A (ja) 2018-02-09 2018-02-09 蛍光撮像装置

Publications (1)

Publication Number Publication Date
JP2019136269A true JP2019136269A (ja) 2019-08-22

Family

ID=65529227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018021597A Pending JP2019136269A (ja) 2018-02-09 2018-02-09 蛍光撮像装置

Country Status (3)

Country Link
US (1) US11439468B2 (ja)
EP (1) EP3524140A1 (ja)
JP (1) JP2019136269A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021020885A (ja) * 2020-03-09 2021-02-18 雪印メグミルク株式会社 記憶・学習能維持および/または向上用組成物及び組成物を含む食品、医薬品、飼料
JP6877705B1 (ja) * 2020-10-05 2021-05-26 ニレック株式会社 内視鏡及び当該内視鏡に設けられた撮像部
WO2022192322A1 (en) * 2021-03-10 2022-09-15 Karl Storz Imaging, Inc. Unwanted near-infrared signal suppression

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021003578A1 (en) * 2019-07-10 2021-01-14 Novadaq Technologies ULC Systems and methods for persistent ureter visualization
US11276199B2 (en) * 2020-02-17 2022-03-15 The Boeing Company Image template based tracking
CN115803706A (zh) * 2020-06-30 2023-03-14 直观外科手术操作公司 用于基于标签的器械控制的系统和方法
CA3213787A1 (en) * 2021-04-14 2022-10-20 Arthrex, Inc. System and method for using detectable radiation in surgery
WO2022245450A1 (en) * 2021-05-17 2022-11-24 Stryker Corporation Medical imaging
CN114689558B (zh) * 2022-05-31 2022-10-28 中国科学技术大学 无背景宽场与低损超分辨两用成像装置及成像方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3495710B2 (ja) 2001-02-01 2004-02-09 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 血流イメージング装置および超音波診断装置
AU2003218116A1 (en) * 2002-03-12 2003-09-29 Beth Israel Deaconess Medical Center Medical imaging systems
US20040225222A1 (en) * 2003-05-08 2004-11-11 Haishan Zeng Real-time contemporaneous multimodal imaging and spectroscopy uses thereof
JP4537681B2 (ja) 2003-09-24 2010-09-01 株式会社東芝 血流解析装置
JP4745059B2 (ja) 2003-11-20 2011-08-10 浜松ホトニクス株式会社 リンパ節検出装置
JP2006263044A (ja) * 2005-03-23 2006-10-05 Fuji Photo Film Co Ltd 蛍光検出システム
JP5603676B2 (ja) * 2010-06-29 2014-10-08 オリンパス株式会社 画像処理装置及びプログラム
US11206987B2 (en) * 2015-04-03 2021-12-28 Suzhou Caring Medical Co., Ltd. Method and apparatus for concurrent imaging at visible and infrared wavelengths
US20170004344A1 (en) * 2015-07-02 2017-01-05 Canon Kabushiki Kaisha Robust Eye Tracking for Scanning Laser Ophthalmoscope

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021020885A (ja) * 2020-03-09 2021-02-18 雪印メグミルク株式会社 記憶・学習能維持および/または向上用組成物及び組成物を含む食品、医薬品、飼料
JP6877705B1 (ja) * 2020-10-05 2021-05-26 ニレック株式会社 内視鏡及び当該内視鏡に設けられた撮像部
JP2022060811A (ja) * 2020-10-05 2022-04-15 ニレック株式会社 内視鏡及び当該内視鏡に設けられた撮像部
US11369254B2 (en) 2020-10-05 2022-06-28 Nirec Corporation Endoscope and image capturing unit provided therein
WO2022192322A1 (en) * 2021-03-10 2022-09-15 Karl Storz Imaging, Inc. Unwanted near-infrared signal suppression

Also Published As

Publication number Publication date
US11439468B2 (en) 2022-09-13
EP3524140A1 (en) 2019-08-14
US20190247126A1 (en) 2019-08-15

Similar Documents

Publication Publication Date Title
JP2019136269A (ja) 蛍光撮像装置
JP5160276B2 (ja) 画像表示方法及び装置
JP5634755B2 (ja) 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
US20170079741A1 (en) Scanning projection apparatus, projection method, surgery support system, and scanning apparatus
JP5502812B2 (ja) 生体情報取得システムおよび生体情報取得システムの作動方法
JP5460488B2 (ja) 電子内視鏡システム、電子内視鏡用のプロセッサ装置、画像検索システム、及び電子内視鏡システムの作動方法
JP2021100555A (ja) 医療画像処理装置、内視鏡システム、診断支援方法及びプログラム
US8633976B2 (en) Position specifying system, position specifying method, and computer readable medium
JP5587020B2 (ja) 内視鏡装置、内視鏡装置の作動方法およびプログラム
US11684237B2 (en) Endoscopic image acquisition system and method
JPWO2019078237A1 (ja) 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置
WO2019123986A1 (ja) 医療画像処理装置及び方法、内視鏡システム、プロセッサ装置、診断支援装置並びにプログラム
JP6745508B2 (ja) 画像処理システム、画像処理装置、投影装置、及び投影方法
US20110267444A1 (en) Endoscope apparatus, method, and computer readable medium
US20190239860A1 (en) Apparatus, method and program for displaying ultrasound image and photoacoustic image
JP6978604B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
JPWO2019176253A1 (ja) 医療用観察システム
JP5844447B2 (ja) 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
JP7306461B2 (ja) 治療支援装置および治療支援方法
US20220054855A1 (en) Treatment support system and treatment support device
WO2018216658A1 (ja) 撮像装置、撮像システム、及び撮像方法
US20220414956A1 (en) Endoscope system, medical image processing device, and operation method therefor
JP6535701B2 (ja) 撮像装置
WO2020188969A1 (ja) 医療用制御装置及び医療用観察装置
WO2020203034A1 (ja) 内視鏡システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180312