JPWO2018216658A1 - 撮像装置、撮像システム、及び撮像方法 - Google Patents

撮像装置、撮像システム、及び撮像方法 Download PDF

Info

Publication number
JPWO2018216658A1
JPWO2018216658A1 JP2019520244A JP2019520244A JPWO2018216658A1 JP WO2018216658 A1 JPWO2018216658 A1 JP WO2018216658A1 JP 2019520244 A JP2019520244 A JP 2019520244A JP 2019520244 A JP2019520244 A JP 2019520244A JP WO2018216658 A1 JPWO2018216658 A1 JP WO2018216658A1
Authority
JP
Japan
Prior art keywords
light
image
sample
blood vessel
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019520244A
Other languages
English (en)
Inventor
譲 池原
譲 池原
広介 鈴木
広介 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
Nikon Corp
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp, National Institute of Advanced Industrial Science and Technology AIST filed Critical Nikon Corp
Publication of JPWO2018216658A1 publication Critical patent/JPWO2018216658A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B10/00Other methods or instruments for diagnosis, e.g. instruments for taking a cell sample, for biopsy, for vaccination diagnosis; Sex determination; Ovulation-period determination; Throat striking implements

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

鮮明な、サンプルの特定部分の画像を生成する。本実施形態による撮像装置は、サンプルに第1光を照射して得られる第2光と、サンプルに赤外光を照射して得られる赤外光とを検出する光検出部と、検出した赤外光から元画像を生成し、検出した第2光の前記サンプルにおける発光位置と元画像とに基づいてサンプル画像を生成する制御部と、を備える(図1参照)。

Description

本開示は、撮像装置、撮像システム、及び撮像方法に関する。
例えば医療などの分野においては、生物の組織(例、血管など)を撮像し、撮像した画像が各種診断や検査、観察等に活用されている(特許文献1参照)。しかしながら、例えば、血管などを低侵襲で観察するために、撮像装置は更なる改良が求められている。
国際公開WO2015/159704号公報
本実施形態によれば、サンプルに第1光を照射して得られる第2光と、サンプルに赤外光を照射して得られる赤外光とを検出する光検出部と、検出した赤外光から元画像を生成し、検出した第2光の前記サンプルにおける発光位置と元画像とに基づいてサンプル画像を生成する制御部と、を備える、撮像装置が提供される。
本実施形態によれば、光検出部が、サンプルに第1光を照射して得られる第2光と、サンプルに赤外光を照射して得られる赤外光と、を検出することと、制御部が、検出された赤外光から元画像を生成することと、制御部が、光検出部が検出した第2光のサンプルにおける発光位置と、元画像とに基づいてサンプル画像を生成することと、を含む、撮像方法が提供される。
本実施形態によれば、サンプルから発光される蛍光と、サンプルから得られる赤外光とを検出する光検出部と、検出した赤外光に基づく第1の赤外画像を生成し、検出した蛍光を基にサンプルの血管情報を取得して、血管情報に基づき特定した第1の赤外画像における血管位置を含む教師データを生成する制御部と、教師データを記憶する記憶部と、を備え、制御部は、教師データを生成した後に検出された画像であってサンプルから得られる赤外光に基づく第2の赤外画像と、記憶部から取得した教師データとを用いて、血管位置の血管を含むサンプル画像を生成する、撮像システムが提供される。
第1の実施形態に係る撮像システム1の構成例を説明するための図である。 本実施形態における撮像システム1の撮像部30において採用することができる光学系300の概略構成を示す図である。 本実施形態における手術野の周辺にアライメント用マークを配置する構成を示す図である。 本実施形態の撮像システム(手術支援システム)1における血管画像生成処理の詳細を説明するためのフローチャートである。 本実施形態におけるICGの蛍光画像から血管情報の1つである血管の深さを算出する方法について説明するための図である。 本実施形態における血管位置と血管の太さの算出について説明するための図である。 本実施形態における教師データを生成するとき(ステップ104)や血管画像を生成するとき(ステップ106)において、波長2から波長5の光を組織BTに照射する際の周期(例)を示す図である。 本実施形態における血管情報を用いて血管画像を補正する処理を説明するための図である。 本実施形態における各過程で生成される画像の例と教師データを用いずに生成した血管画像の例を示す図である。 本実施形態におけるICG蛍光画像を取得するときの波長1の光、教師データ及び血管画像を取得するときの波長2から波長5の光の各波長値を設定する際に用いるGUI(Graphical User Interface)1000の例を示す図である。 本実施形態の撮像システム(手術支援システム)1における血管画像生成処理の変形例1を説明するためのフローチャートである。 本実施形態の撮像システム(手術支援システム)1における血管画像生成処理の変形例2を説明するためのフローチャートである。 第2の実施形態に係る撮像システム1の構成例を説明するための図である。 第2の実施形態の変形例に係る撮像部30の撮像デバイス31の撮像面(レンズが配置される面)を示す図である。 第2の実施形態の撮像システム(手術支援システム)1における血管画像生成処理を説明するためのフローチャートである。
以下、添付図面を参照して本実施形態について説明する。添付図面では、機能的に同じ要素は同じ番号で表示される場合もある。なお、添付図面は本開示の原理に則った実施形態と実装例を示しているが、これらは本開示の理解のためのものであり、決して本開示を限定的に解釈するために用いられるものではない。本明細書の記述は典型的な例示に過ぎず、本開示の特許請求の範囲又は適用例を如何なる意味においても限定するものではない。
本実施形態では、当業者が本開示を実施するのに十分詳細にその説明がなされているが、他の実装・形態も可能で、本開示の技術的思想の範囲と精神を逸脱することなく構成・構造の変更や多様な要素の置き換えが可能であることを理解する必要がある。従って、以降の記述をこれに限定して解釈してはならない。
更に、本実施形態は、後述されるように、汎用コンピュータ上で稼動するソフトウェアで実装しても良いし専用ハードウェア又はソフトウェアとハードウェアの組み合わせで実装しても良い。
A.第1の実施形態
<血管造影について>
本実施形態における血管造影は、例えば、インドシアニングリーン(ICG:Indocyanine Green)を生体の特定部分の血管に流(導入)し、ICGが当該血管に存在する間(例、ICGの存在期間、ICGの導入期間、ICGによる発光期間)に赤外光(近赤外光を含む)を生体に照射することによって発せられる蛍光を検出することによって行われる。これにより、観察装置(撮像装置)は、生体内の血管の位置を光学的に特定することができる。また、血管内を血液が適切に流れているか確認することが可能となる(血流測定)。
しかしながら、血管造影を行う際に、ICGは血管に留まりにくく、血流と共に血管内を流れていくため、生体の特定の部位(例、血管など)を長期間造影することができない。例えば、従来の赤外観察カメラシステムにおける造影可能時間は、15分程度であると言われており、観察時間が短い。したがって、血管造影は、例えば手術など長時間に亘って血管の位置を確認する必要があるような場面で用いることには適さない可能性がある。
一方、例えば、ICGをリンパ節に導入して癌又は癌の疑いがある部分を造影させる場合、リンパ液の流れは血液に比べて非常に遅いため、ICGがリンパ節に留まる時間は比較的長くなり、リンパ節の位置を特定し、リンパ節に癌が存在するか否かについての確認は比較的容易である。ただし、リンパ液の速度は血液の速度よりも遅いものの、リンパ液も生体内を流れることには変わりなく、時間経過によってリンパ節に導入したICGも対象の特定部分から無くなってしまうことに変わりはない。この点、例えば、ICGを点滴のように少しずつ生体内に導入し続けるという方法も考えられるが、生体への影響(例、生体がショックを起こす危険性)を考え、生体に導入するICGの量はできるだけ少なくしたい。
このように、生体内にICGを導入し特定部分を造影する場合に、例えば、特定部分の特定の臓器(例えば、血管やリンパ節などの特定部分)の位置を常時又は断続的に長時間確認しながら診断や手術を行いたいというニーズがある。
そこで、本実施形態は、例えば、生体の特定部分に導入したICGが流れてなくなってしまった場合(例、ICGが存在するような上記特定部分を光学的に検出しない場合)であっても、特定部分の特定の臓器などの位置を継続的に確認することを可能とする技術を提供する。
<撮像システム1の構成>
図1は、第1の実施形態に係る撮像システム1の構成例を説明するための図である。撮像システム1は、例えば、病理診断支援、臨床診断支援、観察支援、手術支援などの医療支援に利用される。図1に示すように、本実施形態では、撮像システム1の例として手術支援システム(手術用撮像システム)について説明する。
撮像システム1は、例えば、撮像システム1の全体を制御する制御装置(制御部)10と、組織BTに照射する光を発する光源部20と、組織BTからの発光あるいは放射光を撮像する撮像部(光検出部)30と、ユーザ(オペレータ)が各種データや制御装置10への指示コマンドなどを入力する際に用いる入力装置40と、例えば後述のGUIや撮像部30によって撮像された画像などを表示する表示装置(表示部)50と、制御装置10と通信可能に接続された手術用無影灯60と、を備えている。なお、撮像システム1は、撮像装置とも言える。この場合、撮像装置は、制御装置10、光源部20、及び撮像部30などを備える構成である。
組織BTは、例えば、手術台に横たわる患者の、開腹され、露出された臓器などである。組織BTは、サンプルやターゲットと言うことも可能である。組織BTには、例えば、インドシアニングリーン(ICG:Indocyanine Green)やフルオレセイン(Fluorescein)などの造影蛍光剤が導入され(例えば血管造影の場合には、患者の静脈から所定量のICGやフルオレセインが注入される)、このICGやフルオレセインが組織BT内を流れている間に所定波長の光を組織BTに照射すると、ICGやフルオレセインが流れる血管が蛍光発光する。以下の説明は、ICGを用いて行うが、フルオレセインなどの他の造影剤と読み替えることもできる。
制御装置10は、例えば、コンピュータで構成され、プロセッサなどで構成される制御部101と、各種プログラムやパラメータなどを格納する記憶部102と、を備えている。制御部101は、記憶部102から各種プログラムやパラメータなどを読み込み、図示しない内部メモリに読み込んだ各種プログラムを展開し、入力装置40から入力される指示や各種プログラムによって特定される情報処理シーケンスに従って各種プログラムの処理を実行する。制御部101は、例えば、光源部20の光の照射を制御する光照射制御部1011と、撮像部30が検出(撮像)した画像データを撮像部30から取得し、後述する血管情報や教師データを生成するデータ取得部1012と、撮像部30から取得した画像データから画像を生成する画像生成部1013と、血管情報に基づいて画像生成部が生成した画像を補正する画像補正部1014と、を備える。血管情報は、例えば、組織BTにおけるICGから発光される蛍光に基づいて生成される。なお、例えば、血管情報は、蛍光を撮像して得られる画像(例、光量に基づく画素値など)から生成しても良いし、蛍光をそのまま検出して得られる情報(例、受光信号)から生成しても良い。血管情報の内容及び算出方法の詳細例については後述する。なお、教師データは、血管情報に含まれる血管の位置と後述の第2波長から第5波長の光を組織BTに照射することによって検出される輝度情報(例えば、血管の位置における輝度値、輝度値に付随する、例えば輝度値を有する位置の情報、あるいは輝度分布などの少なくとも1つを含む)とによって生成される。記憶部102は、例えば、少なくとも、光照射制御部1011、データ取得部1012、画像生成部1013、及び画像補正部1014に対応するプログラムを格納する。
光源部20は、例えば、波長が700nmから850nmから選択された光を射出(放射)する第1光源21と、波長800nmから2500nm(又は波長850nmから3000nm)の光を射出(放射)する第2光源22と、を含む。図1では、光源部20が2つの光源で構成される例が示されているが、光源部20は例えば1つの光源から射出(放射)された広帯域の波長帯を有する光を光学系で分光し、分光した各光を光路に配置された光学フィルタでフィルタリングして所望の波長の光を生成するように構成しても良い。また、例えば、光源部20を、組織BTに照射する波長の光を射出(放射)する複数の光源を予め設置し、各光源を切り替えて使用する構成にしても良い。第1光源21が射出(放射)する光の波長及び第2光源22が射出(放射)する光の波長は、後述するGUI(Graphical User Interface)を介してオペレータによって設定される。制御部101は、例えば、光照射制御部1011(プログラム)に基づいて、GUIで設定された各光源の波長の値を読み込み、光源部20の駆動部(図示せず)に印加する電圧と各光源が射出(放射)する光の波長値とを伝達する。当該駆動部は、制御部101の制御の下、第1光源21及び第2光源22に電圧を印加し、光を射出(放射)させる。また、制御部101は、例えば、第2光源22が各波長の光を射出(放射)するタイミングと光の射出(放射)時間を光源部20の駆動部(図示せず)に送信し、第2光源22から複数の波長の光が周期的に射出(放射)されるように光源部20を制御する。
撮像部30は、例えば、ICGが組織BTの血管を流れる間に、手術野に配置された組織BTに第1波長の光(例:780nmの光であって、可視光と赤外光の丁度境界となる波長の光(励起光))を照射することによって組織BTの血管から発光される蛍光を検出する第1撮像デバイスと、ICGが組織BTの血管を流れる間に、手術野に配置された組織BTに第2波長の光から第5波長の光(ここでは4種類の波長の光としているが5種類以上の波長の光であっても良い)を周期的に順次照射することにより組織BTから放射される光であって、血管の位置における光の輝度(輝度値)を検出する第2撮像デバイスと、を含む。なお、第2撮像デバイスは、第2波長から第5波長の何れかの光を照射して組織BTから放射される光の輝度(輝度値)を検出することにより得られる画像(例えば、血管中の血液に吸収される光の量が多い波長を用いて得られる画像)を検出するようにしても良い。第2波長から第5波長は、第1波長よりも長い波長であって、例えば、800nmから2000nmの波長から4種類の光(赤外光)が選択される。また、第1撮像デバイスとして、例えば、シリコン(Si)カメラを用いることができる。第2撮像デバイスとして、例えば、センサにInGaAs(インジウムカリウムヒ素)を用いたInGaAsカメラを用いることができる。第1撮像デバイス31の光軸と第2撮像デバイス32の光軸とは、図1に示されるように、同じでなくても良いが、図2を用いて後述するように、双方の撮像デバイスの光軸を同軸にする光学系を撮像部30に設けるようにしても良い。
入力装置40は、例えば、キーボード、マウス、マイク、タッチパネルなどによって構成され、オペレータ(ユーザ)が制御装置10に所定の処理を実行させる際に指示やパラメータなどを入力する際に使用するデバイスである。また、例えば、単にUSBなどの半導体メモリを制御装置10に設けられた入力ポート(図示せず)に挿入することにより、制御装置10の制御部101が自動的に半導体メモリからデータや指示(予め決められたルールで記述された指示)を読み込み、各種プログラムを実行するようにしても良い。
表示装置50は、制御部101が生成した画像(例えば、サンプル画像や教師データを生成するために用いる元画像)や、制御部101が画像(例えば、サンプル画像)を補正して得られた補正画像(補正サンプル画像)を制御装置10から受信し、生成画像(補正なし画像、サンプル画像)や補正画像を表示画面に表示する。また、表示装置50は、オペレータの指示に応答して、制御部101が生成した組織BTの蛍光画像(Siカメラによって撮像されたデータに基づく画像)や検出された組織BTからの蛍光を表示画面に表示するようにしても良い。なお、表示装置50は、例えば、生成画像(補正なし画像)や補正画像と蛍光画像とを合成して組織BTの画像(合成サンプル画像)として出力してもよい。また、表示装置50は、このような生成画像(補正なし画像)、補正画像、あるいは合成サンプル画像を、例えば術中に表示画面上に出力することができる。なお、合成サンプル画像の生成に関し、例えば、制御部101が、血管情報に含まれる血管の位置に基づいて、組織BTの蛍光画像と補正なし画像あるいは補正画像との座標位置を合わせしながら、蛍光画像を補正なし画像あるいは補正画像に重畳して合成サンプル画像を生成する。
手術用無影灯60は、例えば、複数のLED光源やハロゲン光源によって構成される可視光源である。手術用無影灯60は、例えば、最大160000ルクスと非常に明るい。従って、ICGを組織BTに導入している間(例、薬剤導入期間)、手術用無影灯60は消灯される。また、例えば、手術用無影灯60の点灯及び消灯が制御装置10によって制御されるようにしても良い。
以上のように、本実施形態による撮像システム(手術支援システム)1は、生体の組織BT内に導入したICGが特定の部分(造影対象の部位)から流れ出てしまい、特定の部位を造影できなくなった場合でも、蛍光発光していた当該特定部分の画像を教師データに基づいて生成することができるので、造影対象の部分(例えば、血管などの特定部分)の位置を確認することが可能な画像を生成・提供することができる。以下、本実施形態による撮像システム(手術支援システム)1の動作や構成の更なる詳細について説明する。
<撮像デバイスの光軸を同一にする光学系>
図2は、撮像システム1の撮像部30において採用することができる光学系300の概略構成を示す図である。光学系300は、第1撮像デバイス31の光軸と第2撮像デバイス32の光軸とを同一にする光学系である。
光学系300は、例えば、ダイクロイックミラー33と、ミラー34とを構成として含むことができる。ダイクロイックミラー33は、特定の波長の光を反射し、その他の波長の光を透過させる作用を有する光学素子(ミラー)である。例えば、ショートパスダイクロイックミラーを用いると、カットオフ波長よりも短い波長の光の透過率は高く、カットオフ波長よりも長い波長の光の反射率は高くなる。例えば、ICGを導入した血管から蛍光を発光させるために組織BTに照射する励起光の波長(第1波長)を例えば780nm付近とすると、組織BTの血管から発光される蛍光(ICGからの蛍光)は、830nm付近となる。従って、例えば、ダイクロイックミラー33としてショートパスダイクロイックミラーを採用し、カットオフ波長を840nm付近に設定すれば、組織BTからの蛍光(ICGからの蛍光)はダイクロイックミラー33を透過して第1撮像デバイス31に入射し、一方、第2波長から第5波長の4種類の波長の光(例えば、950nmから1600nmの光から選択された光)を組織BTに照射して放射(反射を含む)した光はダイクロイックミラー33及びミラー34で反射し、第2撮像デバイス32に入射する。
以上のような光学系を採用すれば、第1撮像デバイス31の光軸と第2撮像デバイス32の光軸とを同一にすることができ、2つの撮像デバイスから得られる画像同士の位置合わせをする必要がなくなるという効果を奏することができる。
<アライメント用マーク>
図3は、手術野の周辺(例、手術用布)にアライメント用マークを配置する構成を示す図である。本実施形態におけるアライメント用マークは、例えば、赤外光を発するLEDや特定の波長の光を反射する反射体などを採用することができる。
アライメント用マーク71乃至74は、例えば、第1撮像デバイス31がICGの蛍光(これに基づいて血管情報が生成される)を検出することにより得られる画像(この場合、蛍光画像)と、第2撮像デバイスが組織BTに第2波長から第5波長の光を順次照射して組織BTから放射される光の輝度(輝度値)を検出することにより得られる画像(例、組織BTに照射された赤外光によって得られる元画像)、あるいは第2波長から第5波長の何れかの光を照射して組織BTから放射される光の輝度(輝度値)を検出することにより得られる画像(例えば、血管中の血液に吸収される光の量が多い波長を用いて得られる画像)とを位置合わせ(アライメント)する際に用いられる。例えば、第1撮像デバイス31の光軸と第2撮像デバイス32の光軸とが一致していない場合に、制御部101は、第1撮像デバイス31が検出したアライメント用マーク71乃至74の画像の位置と、第2撮像デバイス32が検出したアライメント用マーク71乃至74の画像の位置とを合致させ、双方の撮像デバイスから撮像される画像の位置を合わせる。このようにすることにより、教師データに基づく血管画像の生成をさらに高精度に実行することができるようになる。
また、アライメント用マークを設けることにより、各撮像デバイスの単純な位置移動や回転だけでなく、遠近移動による画像のずれにも対応して画像補正することが可能となる。アライメント用マークとしてLEDを採用する場合、例えば、LEDの発光波長を800nmから1100nmとすることにより、オペレータ(例えば、医師など)の動作(手術)の邪魔となることもない。さらに、例えば、アライメント用マークとして発光波長が750nm付近のLEDを採用すると、オペレータ(例えば、医師など)への影響を最小限に抑えて、LEDのON/OFFを目視で確認することができるようになる。
なお、本実施形態(図3)では、アライメント用マークを手術用布の手術野付近に設置した例を示しているが、手術用鉗子にアライメント用マーク(例えばLEDや反射体)を設けるようにしても良い。
<血管画像生成処理の詳細>
図4は、本実施形態の撮像システム(手術支援システム)1における血管画像生成処理の詳細を説明するためのフローチャートである。血管画像生成処理は、ICGを生体内に導入してから補正された血管画像を生成するまでの処理で構成される。以下、各ステップについて説明する。
(i)ステップ101
オペレータがICGを生体の組織BT内の特定の部位(例えば、組織BTの血管)に導入(注入:例えば、静脈注射によって注入)し、撮像システム1を作動させた時(スイッチON)、制御部101は、光照射制御部1011を用いて、組織BTに対する波長1の励起光、及び波長2から波長5の光の照射の準備をする。例えば、制御部101は、後述するGUIなどを用いて設定された、各波長の光を射出(放射)する光源の電圧値(又は電圧値を示す情報:例えば、電圧値そのものの情報、あるいは電圧値を指し示す、電圧値テーブルなどにおけるポインタ情報)を記憶部102から読み込み、各光源の駆動部(図示せず)に取得した電圧値を送信する。この段階では、例えば、各光源に電圧値が送信されただけであり、制御部101からの指示に従って、各光源は各波長の光を組織BTに対して照射を開始することになる。
(ii)ステップ102
オペレータが室内(例えば、手術室内)の照明(例えば、無影灯60)を消灯し、組織BTへの光の照射を指示すると、制御部101は、光の照射の指示(など信号)に基づき、各光源の駆動部(図示せず)に組織BT(手術野)への光の照射を指示する。
別の形態として、例えば、制御部101が、ステップ101の処理を完了させた後、室内(例えば、手術室内)の照明(例えば、無影灯60)を自動的に消灯し、各光源の駆動部(図示せず)に組織BT(手術野)への光の照射を指示するようにしても良い。
(iii)ステップ103
制御部101からの指示に応答し、第1光源21は、例えば、波長1(例えば、780nm)の励起光を手術野の組織BTに対して照射する。励起光は、ICGが組織BTの血管内を流れている間に照射される。制御部101は、データ取得部1012を用いて、組織BTの血管にICGが流れている間に励起光を照射することによって生じる蛍光を検出(撮像)するように第1撮像デバイス31を制御する。制御部101は、第1撮像デバイス31によって検出された蛍光から、血管の位置、血管の太さ、血管の深さ、及び血管の経路(分岐)を含む情報(血管情報)を取得することができる。取得された血管情報は、記憶部102に格納される。血管情報の生成の詳細については、図5及び図6に基づいて詳細に後述する。
(iv)ステップ104
次に、制御部101からの指示に応答し、第2光源22は、例えば、波長2から波長5の光(例えば、波長1とは異なる4種類の波長の光であって、950nmから1600nmの中からGUIを介して選択された波長の光)を周期的に手術野の組織BTに照射する。波長2から波長5の光をどのように照射するかについては後述する(図7参照)。制御部101は、データ取得部1012を用いて、組織BTの血管にICGが流れている間に波長2から波長5の光を照射することによって放射される光の輝度を検出(撮像)するように第2撮像デバイス32を制御する。この際、制御部101は、ステップ103で取得した血管情報に含まれる血管位置における組織BTの部分の輝度情報(例えば、血管の位置における輝度値、輝度値に付随する、例えば輝度値を有する位置の情報、あるいは輝度分布などの少なくとも1つを含む)を血管の教師データとして記憶部102に格納する。ここで、血管位置における組織BTの部分の輝度情報(例えば、血管の位置における輝度値、輝度値に付随する、例えば輝度値を有する位置の情報、あるいは輝度分布などの少なくとも1つを含む)は、第1撮像デバイス(Siカメラ)31で血管であると判明した部分の赤外光照射によるスペクトルデータ(光の強度がスペクトルデータとなる)を計測することにより得られる情報である。なお、制御部101は、血管のスペクトル(照射する光の波長によってスペクトルの形状が異なる)の他、血管以外の部分(例、周辺部、癌の部分、リンパ節の部分など)のスペクトル(暗いスペクトルになる)も取得し、取得した該スペクトルを記憶部102に格納しても良い。また、制御部101は、教師データとして、血管に対応する教師データ、及び血管以外の部分に対応する教師データの2種類のデータを生成しても良い。教師データとして重要なことは、血管を精度よく特定することである。従って、血管に対応する教師データのみによって血管が特定できれば血管に対応する教師データ(血管部分のスペクトルデータ)のみ取得すれば良いが、血管以外の教師データ(血管以外の部分のスペクトルデータ)を併せて用いた方が血管と血管以外の部分とで高いコントラストが得られる場合には、血管に対応する教師データと血管以外の教師データとを取得して、精度良く血管を特定することが可能となる。
ステップ103の処理とステップ104の処理とは、少なくとも1回実行され、血管情報と教師データとが取得される。
(v)ステップ105
血管情報(血管の位置、血管の太さ、血管の深さ、血管の経路(画像))及び教師データ(スペクトルデータ)が取得され、ICGの蛍光の検出をしない場合又はICGの蛍光の効果(例、発光)が切れた場合、オペレータ(例えば、医師など)は、室内(例えば、手術室内など)の照明(無影灯60)を点灯する。また、例えば、オペレータ(例えば、医師など)は、血管情報(血管の位置、血管の太さ、血管の深さ、血管の経路(画像))と、血管の教師データ(それ以外の臓器の教師データを生成してもよい)とを制御装置10によって生成すれば、ICGの蛍光の効果が切れていなくても室内の照明を点灯してもよい。なお、血管の教師データが一番重要であるが、制御装置10は、血管の教師データと血管以外の臓器の教師データとを用いれば、血管と血管以外の臓器とではどれ程度異なるか判断することができ、血管を明確に特定することができるようになる。
また、別の一実施形態として、例えば、第1撮像デバイス31によってICGの蛍光が検出されなくなった場合(ICGの蛍光の効果が切れた場合)、制御部101は、室内(例えば、手術室内)の照明(無影灯60)を点灯するように、照明(無影灯60)の駆動部(図示せず)を制御するようにしても良い。照明(無影灯60)が点灯された後、オペレータ(医師など)は、手術野の組織BTに対する手術を行うことができるようになる。
(vi)ステップ106
制御部101は、例えば、光照射制御部1011を用いて、波長2から波長5の光(例、赤外光)を周期的に組織BTに照射するように第2光源22を制御する。また、制御部101は、例えば、データ取得部1012を用いて、波長2から波長5の光を照射することによって組織BTから放射される輝度(輝度値、輝度情報、あるいは画像データのうち少なくとも1つ)を検出するように第2撮像デバイス32を制御する。そして、制御部101は、例えば、画像生成部1013を用いて、上述の教師データに基づいて(教師データのスペクトルに近いスペクトルを発光する部分が血管(例)であると分かる)、第2撮像デバイス32によって検出された画像データに対して多変量解析(例:SAM、MLR、PCR、PLSなど)を実行し、血管画像を生成する。生成された血管画像(サンプル画像)は、第2撮像デバイス32によって検出された画像データに対応する画像(元画像)を教師データに基づいて強調した画像(スペクトルのみから生成された画像)となっている。
ICGの蛍光の効果が切れた後は、教師データは過去(ICGが組織BT内を流れている時)の画像である。従って、ステップ106では、第1撮像デバイス31及び第2撮像デバイス32によって過去に取得して予め記憶部102に記憶された上述の教師データを用いて、リアルタイム画像を鮮明にして血管画像を生成している。
なお、ICG蛍光に基づく組織BTの画像(第1画像)と、教師データに基づいて生成した血管画像(サンプル画像)と、当該血管画像を補正した画像(ステップ107の処理を施した画像、補正サンプル画像)と、教師データを用いずに生成した血管画像との比較については図9を用いて後述する。
(vii)ステップ107
制御部101は、画像補正部1014を用いて、ステップ106で生成された血管画像(サンプル画像)の全画素又は一部の画素の画素値を補正し、より鮮明な画像(補正血管画像、補正画像)にする。制御部101は、例えば、ステップ103で取得した血管情報を用い、血管部分の画像を強調する(シャープにする)ことにより、ステップ108で生成した血管画像を補正する。これにより、第2撮像デバイス(例えば、InGaAsカメラ)32で撮像して得られる画像(元画像、赤外画像)を第1撮像デバイス(例えば、Siカメラ)31で撮像して得られる画像(第1画像、蛍光画像)に近づけるようにすることが可能となる。なお、補正処理の例については、図8を参照して後述する。
(viii)ステップ108
制御部101は、ステップ107で生成した補正血管画像をサンプル画像として表示装置50の表示画面上に表示するように、表示装置50に当該補正血管画像(補正サンプル画像)のデータを送信する。表示装置50は、制御装置10の制御部101から補正血管画像(補正サンプル画像)のデータを受信し、表示画面上に表示する。なお、補正血管画像ではなく、ステップ106で生成された血管画像をサンプル画像として表示装置50に表示するようにしても良いし、血管画像と補正血管画像との両方をサンプル画像として表示装置50に表示するようにしても良い。
以上のようにして、ICGの蛍光効果が切れた後(生体の組織BTの特定部分に導入したICGが血管などを流れ、当該特定部分にICGが残存しなくなった後)であっても、ICGの蛍光効果が存在したときに生成した蛍光画像(第1画像)の血管情報と元画像(赤外画像)に対する教師データとを用いて、組織BTにおける血管などの特定臓器の位置を示すサンプル画像(血管画像あるいは補正血管画像)を生成し、オペレータに対してサンプル画像を表示装置50に提供し続けることができる。オペレータ(医師など)は、表示装置50に提供(表示)された血管画像あるいは補正血管画像をチェックすることにより、目視で組織BTにおける血管の存在を確認しながら手術することが可能となる。
<血管の深さ及び血管の経路の算出について>
図5は、ICGの蛍光画像から血管情報の1つである血管の深さを算出(推定)する方法について説明するための図である。
(i)ICGの蛍光画像の輝度分布(例えば、輝度情報に含まれる)の標準偏差を血管の深さとする方法
例えば、表面の血管の輝度分布は、グラフ511及び512に示されるように、血管の太さに関係なく、矩形に近い形状となる。一方、例えば、脂肪層に埋もれた血管の輝度分布は、グラフ512及び522→グラフ513及び523→グラフ514及び524に示されるように、深さに応じて徐々になまった形状(ぼけた輝度分布)となる。そこで、本実施形態では、輝度分布のぼけ具合(なまり具合)を示す標準偏差σを式1に基づいて算出し、この値を深さとし、標準偏差σが大きいほど血管が深い場所に存在するとしている。式1において、xは図5のグラフの横軸に示されるカメラ素子座標を示し、yは図5のグラフの縦軸に示されるカメラ輝度(輝度値)を示している。また、計算する範囲のx軸(カメラ素子座標)の左端を1、右端をnとする。nは、隣の血管に干渉しない範囲で指定される。
Figure 2018216658
標準偏差を血管の深さとする方法は、統計学上では輝度分布を正規分布の度数分布グラフとみなして、ばらつき具合のσを求める手法である。
(ii)半値幅を血管の深さとする方法
血管の深さを求める別の方法は、ICGの蛍光画像の輝度分布の半値幅を血管の深さとするものである。例えば、ICG蛍光画像の輝度(輝度値)のピーク値の半分の値で輝度分布をスライスして、その幅を深さとする。標準偏差の算出に比べて、半値でスライスした部分の信号しか使用しないので、計算時間の短縮で高速化できる。一方、標準偏差を血管の深さとする方法で求めた深さはノイズには強いと言うメリットがある。
(iii)予め作成したテーブルから血管の深さの情報(深さの値)を取得する方法
組織BTにおいて深い位置にある血管の蛍光画像は、生体内にある脂質(脂肪)層の影響により不鮮明になる(ぼけた画像となる)。一方、組織BTの表面に近い位置にある血管の蛍光画像は、脂質(脂肪)の影響を受けにくいため鮮明(輪郭がはっきりしており、太さも計測しやすい)となる。例えば、この性質を利用し、画像の鮮明さ(輝度値)と深さの関係を予め検証しておき、これらの関係をテーブル(例)として記憶部102に格納しておいても良い。この際、制御部101は、当該テーブルを参照し、計測した蛍光の輝度値から血管の深さの情報(深さの値)を記憶部102から読み込み、血管の深さの情報(深さの値)を取得する。
(iv)血管の経路について
例えば、組織BTにおけるICGの蛍光画像から求められた各血管の深さの情報(深さの値)に基づいて、血管の深さ(深さの値)が同程度の血管は繋がっていると判断して血管の経路図(経路画像)が作成される。つまり、血管の深さが同程度を判断された血管の画像を繋ぎ合せることにより、血管の経路図(経路画像)が作成される。ここで、深さが同程度か否かは、例えば、上述した方法で求めた各血管の深さが所定誤差範囲(閾値範囲)内にあるか否かによって判断される。所定誤差範囲内にある場合には血管の深さが同程度であると判断される。
以上のようにして、血管情報に含まれる、血管の深さ、及び血管の経路を算出することができる。なお、本実施形態で示した方法は一例であり、他の算出方法を用いても良い。
<血管位置と血管の太さの算出について>
図6A及びBは、血管位置と血管の太さとの算出について説明するための図である。まず、例えば、血管の深さを算出(推定)するときと同様、図6Bに示されるように、太さ算出対象の血管(ICGの蛍光画像)を血管が伸びる方向と垂直な方向における各断面(断面1,断面2,・・・,断面k,・・・,断面n:n個の断面)における輝度分布を取得する。血管位置については、例えば、取得した各輝度分布の断面の重心をその断面における位置を血管位置xmeanとすることができる。例えば、式2によって血管位置を求めることができる。
Figure 2018216658
また、血管の太さは、例えば、式3を用いて、各血管断面における輝度分布の面積(断面積S)を算出することにより求めることができる。
Figure 2018216658
以上のようにして、血管情報に含まれる、血管の太さ、及び血管の位置を算出することができる。なお、本実施形態で示した方法は一例であり、他の算出方法を用いても良い。
<波長2から波長5の光の周期的照射について>
図7は、教師データを生成するとき(ステップ104)や血管画像を生成するとき(ステップ106)において、波長2から波長5の光を組織BTに照射する際の周期(例)を示す図である。
第2撮像デバイス(例えば、InGaAsカメラ)32は、波長2から波長5の光の全てに対して感度を有しているため、各波長の光を照射して得られる画像をそれぞれ独立して検出できるようにする必要がある。このために、図7に示されるように、例えば、波長2から波長5の4種類の光のそれぞれを、1フレーム時間(例えば、1/60秒間)の間に、順次かつ周期的に照射する必要がある。例えば、波長2の光が第1フレーム時間に照射され、第3波長の光が第2フレーム時間に照射され、第4波長の光が第3フレーム時間に照射され、第5波長の光が第4フレーム時間に照射される。これら4種類の光の全てが1回ずつ組織BTに照射されると、4フレーム分の時間(例えば、1フレーム時間は1/60秒間)が経過することになるため、1周期は、例えば、1/15秒の時間となる。従って、例えば、4種類の波長の光を用いて組織BTに順次かつ周期的に照射する場合、各波長の光は、1秒間に15回ずつ照射されることになる。
本実施形態では、例えば、各波長の光を照射することによりそれぞれ1フレーム分の画像データが取得される。そして、4フレーム分の撮像データによって1つの画像が形成される。従って、通常1秒間にn個(例えば、n=60)の画像が形成されるが、本実施形態では、n/4個(例えば、15)の画像が形成されることになり、1/15秒(66.7ms)間隔で画像(ステップ106で生成される血管画像やステップ107で生成される補正血管画像)が更新されることになる。例えば、100ms以下の間隔で画像が更新されれば、オペレータ(医師など)が画像を見ても不自然に感じる可能性は低い。一方、画像更新間隔が100msを超えると不自然な画像となってしまう。そこで、照射される異なる波長の光の数は、画像更新間隔が100msを超えないように設定することが望ましい。
図7のようなタイミングで各波長の光の照射を切り替えるに、制御部101は、例えば、各波長の光の照射タイミング(例えば、フレーム番号)と照射時間(1フレームの時間:例えば、1/60秒間)とを光照射制御部(例えば、プログラムで構成される)1011から取得し、各照射タイミング及び照射時間(露光時間)に従って各波長の光が射出(放射)されるように光源部20(特に、第2光源22)を制御する。また、制御部101は、例えば、データ取得部(例えば、プログラムで構成される)1012を用いて、第2撮像デバイス32によって撮像された、各波長の光に対応する画像データ(スペクトラムデータ)を取得する。さらに、制御部101は、例えば、画像生成部(例えば、プログラムで構成される)1013を用いて、1周期分(例えば、1/15秒間)の、各波長の光に対応する画像データを統合し、表示装置50に表示する1つの画像を生成する。上述のように、制御部101は、例えば、1周期毎に画像を生成し、画像を更新する。
<血管画像の補正処理>
図8は、血管情報を用いて血管画像(サンプル画像)を補正する処理を説明するための図である。図8Aは、ステップ106で生成された血管画像(サンプル画像)の例を示す図である。図8Bは、ステップ107で生成された補正血管画像(補正サンプル画像:血管画像を補正して得られる画像)の例を示す図である。図8Cは、補正の概念を示すグラフである。
血管画像(図8A)はスペクトルデータから生成されるため、全体的にぼけた画像となっている。この画像の輝度分布は、例えばグラフ801(図8C参照)のようになまった形状となる。血管画像(サンプル画像)の補正は、例えば、グラフ801のなまった形状を例えばグラフ802のように明暗の境界(エッジ)が明確になる形状とすることにより、実行される。グラフ801は、例えば、以下の式4を用いて輝度分布の標準偏差σを変更することにより、グラフ802のような形状とすることが可能となる。
Figure 2018216658
ここで、Sは血管情報に含まれる血管の太さを示す断面積Sを、σは血管情報に含まれる輝度分布(グラフ801に相当)を、xmeanは蛍光から得られる画像(蛍光画像:第1画像)から算出される血管位置(血管情報に含まれる情報)を、それぞれ示している。式4による補正は、補正前後の各輝度分布の波形を正規分布と仮定して、標準偏差σを変更する演算を実行することにより、実現される処理である。
以上説明した画像補正を血管画像(図8A:サンプル画像)に実施すると、血管の部分と血管以外の部分との境界(エッジ)が明確となった画像(図8B:補正サンプル画像)を生成することができる。これにより、組織BTのどの部分に血管が存在するかはっきりと目視で確認することができるようになり、例えば手術中に血管を傷つけてしまうという事態を避けることが可能となる。
<各過程で生成される画像の例と教師データを用いずに生成した血管画像の例>
図9は、各過程で生成される画像の例と教師データを用いずに生成した血管画像の例を示す図である。図9Aは、ICGの蛍光画像(第1画像)の例を示す。図9Bは、教師データを用いて生成した血管画像(サンプル画像)の例を示す。図9Cは、図9Bの血管画像を補正することにより生成された補正血管画像(補正サンプル画像)の例を示す。図9Dは、教師データを用いずに生成した血管画像の例を示す。
ICGに励起光を照射することによって生じる蛍光は自己発光であるため、得られる画像は図9Aに示されるように、非常に鮮明である。ただし、組織BTに脂質(脂肪)が多く含まれているほど、蛍光画像は不鮮明な(ぼけた)ものとなる。また、深い部分にある血管からの蛍光発光はぼけて輪郭が不鮮明になる。
血管画像(図9B:サンプル画像)は赤外光を照射することによって得られる画像であるが、赤外光を組織BTに照射すると、拡散し散乱した光が組織BTから戻ってきて第2撮像デバイス(例えば、InGaAsカメラ)に入射するので、自己発光(蛍光画像:第1画像)の場合とは異なり、血管画像(サンプル画像)は鮮明とはならない。血管画像(サンプル画像)は、上述したように、例えば、組織BTに、波長2から波長5の何れか1つの波長の光を照射して得られるスペクトルデータ、あるいは波長2から波長5の光(例えば、赤外光)を周期的に組織BTに順次照射して得られるスペクトルデータであって、教師データのスペクトルに近い特性を有するスペクトルに多変量解析を実行することにより得られる画像である。また、教師データは、ICGの蛍光が存在する間に、第1撮像デバイス(例えば、Siカメラ)31が撮像した画像から特定された血管位置の画像(元画像:血管の位置の輝度(輝度値)を検出することにより得られる画像)のスペクトルデータである。このスペクトルデータは、例えば、組織BTに波長2から波長5の光(例えば、赤外光)を周期的に照射して組織BTから放射される光を第2撮像デバイス(例えば、InGaAsカメラ)32で取得することにより得られるデータである。なお、赤外光の方が蛍光よりも透過率が高いので、蛍光よりも深い箇所のスペクトルを取得することができる。
なお、教師データの生成処理は、例えば、次のように行われる。まず、第1撮像デバイス31が、励起光(第1光)を組織BTに照射して得られる蛍光発光(第2光)を検出する。制御部101は、蛍光発光(第2光)の発光位置(例えば、血管の位置を表す)を第1撮像デバイス31の撮像視野に設定された座標から特定する。また、第2撮像デバイス32は、上述のように、1波長の光を組織BTに照射して得られる画像(元画像:例えば、赤外画像)、あるいは複数波長の光を照射して得られる画像(元画像:例えば、赤外画像)を検出する。そして、制御部101は、蛍光発光(第2光)から特定した発光位置(例えば、血管の位置)に基づいて、その発光位置における、1波長の元画像の輝度値、あるいは複数波長の元画像に対して多変量解析を実行することによって得られる輝度値を、特定部分(例えば、血管)の教師データとする。
補正血管画像(図9C:補正サンプル画像)は、図9AのICG蛍光画像(第1画像)から得られる血管情報(例えば、血管位置、血管の太さ、血管の深さ、血管の経路などを含む)を用いて、血管画像(図9B:サンプル画像)を補正することにより得られる画像である。血管画像(サンプル画像)は、スペクトルデータのみから生成される画像(強調画像)であるため不鮮明であるが、血管情報を用いてICG蛍光画像(例えば、Siカメラで撮像した画像:第1画像)にできるだけ近づくように補正される。補正処理については図8を参照して説明した通りである。
図9Dは、組織BTの特定部分(例えば、血管)の位置のスペクトルデータである教師データを用いずに、組織BTに赤外光を照射して得られるスペクトルデータのみから生成した画像を示している。血管に流れる血液にはヘモグロビンが含まれている。従って、特徴が既知であるヘモグロビンのスペクトルデータを用いて、凡その血管位置を認識し、赤外光を組織BTに照射することによって得られるスペクトルとヘモグロビンのスペクトルの類似性を確認することにより、教師なし血管画像(図9D)を生成することができる。ただし、教師なし血管画像は、一般的な血液の情報(ヘモグロビンのスペクトルデータ)を用いて生成されるので、教師データに基づく血管画像(図9B:サンプル画像)よりもかなり不鮮明な画像である。従って、教師データを用いて血管画像(サンプル画像)を生成する方が正確な血管位置を特定することができ、オペレータ(医師など)にとっては血管を容易に確認しやすくなるという利点が本実施形態による手法にはある。
<照射光の波長設定のGUI>
図10は、ICG蛍光画像(第1画像)を取得するときの波長1の光(励起光:第1光)、教師データ及び血管画像(サンプル画像)を取得するときの波長2から波長5の光(赤外光)の各波長値を設定する際に用いるGUI(Graphical User Interface)1000の例を示す図である。
GUI1000は、例えば、複数の波長選択欄1002乃至1006と、各波長選択欄1002乃至1006に設けられた波長種類欄1001と、保存ボタン1007と、終了ボタン1008と、によって構成される。
波長種類欄1001は、各光源から射出される光の種類を示す欄である。波長種類欄1001は、例えば、波長1、波長2などのような番号が付けられて表示されている。
波長1を設定するための波長選択欄1002は、例えば、波長が700nmから850nmまでの光を選択可能なように構成されており、本実施形態では、図10において、700nm、730nm、750nm、780nm、800nm、850nmの波長が示されている。波長2から波長5を設定するための波長選択欄1003乃至1006は、例えば、波長が800nmから2500nmまでの光を選択可能なように構成されており、本実施形態では、図10において、800nm、850nm、940nm、970nm、1070nm、1450nm、2500nmの波長が示されている。これらの波長の値は単なる例示であり、波長1としては700nmから850nmの中から、波長2から波長5としては800nmから2500nmの中から任意に選択することができる。ただし、波長2から波長5の値は、波長1よりも長くなるように選択する必要があり、また、波長2から波長5は重複しないように選択する必要がある。従って、例えば、波長2から波長5を選択する際には、波長1より短い波長を選択できないように、かつ、既に選択した波長値を選択できないように、制御部101がGUI1000に対する入力を制御するようにしても良い。
オペレータがGUI1000における設定が完了し、保存ボタン1007を押下すると、制御部101は、記憶部102に各波長の設定値を格納する。また、オペレータが終了ボタン1008を押下すると、制御部101は、GUI1000の画面を終了させる。
制御部101は、例えば、光照射制御部1011を用いて、各光源の出力値(例、電圧値、光源の最大出力の割合で設定された値)とGUI1000を介して設定された各光源の波長の値とを記憶部102から読み込み、各光源の駆動部(図示せず)に当該出力値を伝達する。出力値が通知された各光源の駆動部(図示せず)は、制御部101の指示に応答して、設定された出力値で各光源から各波長の光を射出(放射)させる。
<血管画像生成処理:変形例1>
図11は、本実施形態の撮像システム(手術支援システム)1における血管画像生成処理の変形例1を説明するためのフローチャートである。上述したように、血管画像生成処理は、ICGを生体内に導入してから補正された血管画像(補正サンプル画像)を生成するまでの処理で構成される。変形例1は、撮像デバイスの観察位置が変更された場合に対処するための処理に関する。なお、図4と同じ処理については、同一符号を付している。ここでは、図4と異なる点のみ説明する。当該変形例1では、図4のステップ101乃至ステップ108の処理に加えて、ステップ201が実行される。
ステップ201において、制御部101は、例えば、手術野の組織BTに対する撮像デバイスの観察位置に変更があるか判断する。観察位置の変更は、例えば、制御部が撮像部30からの時系列の画像データから基準点を任意に設定し、時系列の各画像データにおける基準点の位置を逐次比較することにより検知することができる。
撮像デバイスの観察位置に変更がないと判断された場合(ステップ201でNoの場合)、処理はステップ105に移行する。撮像デバイスの観察位置に変更があったと判断された場合(ステップ201でYesの場合)、処理はステップ103に移行する。ステップ103において、制御部101は、例えば、更新(変更)された観察位置におけるICGの蛍光を検出するように撮像部30の第1撮像デバイス31を制御し、検出したICGの蛍光画像に基づいて組織BT中の血管情報を生成(再計算、再度特定)する。血管情報の生成処理については上述した通りである。
ステップ104において、制御部101は、例えば、更新(変更)された観察位置に波長2から波長5の光(赤外光)を照射するように光源部20を制御する。また、制御部101は、例えば、波長2から波長5の光(赤外光)の照射によって組織BTから放射された光の輝度(輝度値)であって、ステップ103で生成された血管情報に含まれる血管位置における輝度(輝度値)を教師データとして取得するように第2撮像デバイス32を制御する。
<血管画像生成処理:変形例2>
図12は、本実施形態の撮像システム(手術支援システム)1における血管画像生成処理の変形例2を説明するためのフローチャートである。上述したように、血管画像生成処理は、ICGを生体内に導入してから補正された血管画像(補正サンプル画像)を生成するまでの処理で構成される。変形例2は、ICGの蛍光(第1画像)を検出する間は、連続的に血管画像(サンプル画像)及び教師データを生成して最適な血管情報及び教師データを血管画像生成に用いる処理に関する。なお、図4と同じ処理については、同一符号を付している。ここでは、図4と異なる点のみ説明する。当該変形例2では、図4のステップ101乃至ステップ108の処理に加えて、ステップ301及びステップ302が実行される。
(i)ステップ301
制御部101は、例えば、第1撮像デバイス31からの検出結果を確認し、手術野の組織BTにおけるICGの蛍光が継続しているか否か(例、第1撮像デバイス31の検出結果から得られる蛍光の輝度値が所定の閾値(検出限界値など)と比較して大きい値か小さい値か、等)を判断する。ICGが流れて行ってしまい、ICGの蛍光が継続していない場合(ステップ301でNoの場合)、処理はステップ302に移行する。ICGが手術野の組織BTにおける血管内に存在し、ICGの蛍光が継続している場合(ステップ301でYesの場合)、処理はステップ103に移行する。
ステップ103において、制御部101は、例えば、観察位置において検出されたICG蛍光の輝度値を再度算出し、さらに、検出したICGの蛍光画像(第1画像)に基づいて組織BT中の血管情報を生成(再計算、再度特定)する。このとき、制御部101は、例えば、生成した血管情報とそれに対応するICG蛍光の輝度値とを記憶部102に格納する。血管情報の生成処理については上述した通りである。
ステップ104において、制御部101は、例えば、継続して波長2から波長5の光(赤外光)を組織BTに照射するように光源部20を制御する。また、制御部101は、例えば、波長2から波長5の光(赤外光)の照射によって組織BTから放射された光の輝度(輝度値)であって、ステップ103で新たに生成された血管情報に含まれる血管位置における輝度(輝度値)を教師データとして取得するように第2撮像デバイス32を制御する。制御部101は、生成した教師データを、ステップ103で新たに生成された血管情報及びICG蛍光の輝度値と共に記憶部102に格納する。
(ii)ステップ302
制御部101は、例えば、記憶部102に格納されている、ICG蛍光の輝度値、血管情報、及び教師データの複数の組を読み込み、その複数の組の中で最大の輝度値を有する血管情報、及び教師データを、血管画像(サンプル画像)及び補正血管画像(補正サンプル画像)を生成する際に用いる血管情報、及び教師データとして制御部101の内部メモリに保持する。ICG蛍光の輝度値が最大の場合であれば正確な血管情報を得ることができるとともに、血管情報に基づいて生成される教師データも正確なデータを得ることができるようになる。
B.第2の実施形態
第1の実施形態では、例えば、ICG蛍光を検出する撮像デバイス(例えば、Siカメラ)と教師データ及び血管のスペクトルを検出する撮像デバイス(例えば、InGaAsカメラ)の2つの撮像デバイスを用いているが、第2の実施形態では、ICG蛍光の検出と教師データ及び血管のスペクトルの検出とを1つのカメラ(例えば、Siカメラ)で行う実施例について開示される。以下では、第2の実施形態について、第1の実施形態と異なる部分を中心に説明する。第2の実施形態において説明がない部分については第1の実施形態と同様であるので、上述の第1の実施形態を参照されたい。なお、第2の実施形態で一例として用いるSiカメラは、InGaAsカメラよりも安価であるので、第2の実施形態による撮像システム1にはコストメリットがある。
<撮像システム1の構成>
図13は、第2の実施形態に係る撮像システム1の構成例を説明するための図である。撮像システム1は、例えば、病理診断支援、臨床診断支援、観察支援、手術支援などの医療支援に利用される。図13は、手術支援システムとして撮像システム1を活用した場合の構成例を示している。
撮像部30は、例えば、1つの撮像デバイス31と、可視光カットフィルタ37と、撮像デバイス31の光路に可視光カットフィルタ37をスライド移動させて挿抜するスライド機構38と、を備えている。第2の実施形態では、一例として、1つの撮像デバイス31を備えているが、第1の実施形態のように、撮像システム1が複数(例えば2つ)の撮像デバイスを備える場合に、1つの撮像デバイスのみを血管画像の生成に用いるようにしても良い。第2の実施形態で用いられる撮像デバイスは、例えば、第1の実施形態の第1撮像デバイス(例えば、Siカメラ)31に相当する。波長2から波長5の光(赤外光)を組織BTに照射して組織BTから放射(例えば、反射)される光を撮像デバイス31で検出するが、例えば、撮像デバイス31としてSiカメラを用いる場合、Siカメラは室内照明(例えば、手術用無影灯60)が射出(放射)する可視光にも感度を有するため、第2の実施形態による撮像システム1の撮像部30は、可視光カットフィルタ37を備えている。可視光カットフィルタ37は、撮像デバイス31の光路に挿入される。これにより、撮像デバイス31は、組織BTから照射される赤外光を感度よく検出することができるようになる。第2の実施形態では、1つの撮像デバイス(例えば、Siカメラ)で血管情報と組織BTから得られるスペクトル(教師データ及び血管画像(サンプル画像)を生成するためのスペクトル)を検出するようにしているので、第1の実施形態で光軸を一致する光学系(図2参照)を設置する必要がなる(光軸合わせの必要性がない)。
また、例えば、本実施形態では、ICG蛍光の検出、及び教師データの生成は、室内照明(例えば、手術用無影灯60)を消灯して実行されるので、可視光カットフィルタ37を撮像デバイス31の光路に挿入する必要がなくなる。このため、撮像部30は、可視光カットフィルタ37を撮像デバイス31の光路に挿抜(出し入れ)するスライド機構38を備えている。
第2の実施形態において、光源部20の第1光源21は、第1の実施形態と同様に、ICG蛍光を発生させるため、手術野の組織BTに対して、例えば、波長が780nm(波長1)の光を射出(放射)するように構成される。また、光源部20の第2光源22は、例えば、例えば、850nmから1100nmの中から選択された複数の波長(例えば、第1の実施形態と同様、波長2から波長5)の光を射出(放射)するように構成される。波長1から波長5の選択、及び各光源の出力値の設定については、第1の実施形態で説明したGUI1000(図10参照)とは選択可能な波長の値が異なるだけで他は共通であるので、その説明は省略する。第2光源22は、例えば、設定可能な波長の数に相当する複数の光源を備えるようにしても良いし、光を各波長の分光する光学系を備えて、1つの光源で複数の波長の光を発生させるような光源であっても良い。
<撮像部30と光源部20の別形態:変形例>
図14は、第2の実施形態の変形例に係る撮像部30の撮像デバイス31の撮像面(レンズが配置される面)を示す図である。図14に示されるように、撮像部30の撮像デバイス31と光源部20の別形態として、例えば、第1光源21および第2光源22の代わりに、撮像デバイス31の周囲に複数の光源1401から1405を配置してもよい。例えば、光源1401は、波長が780nm(波長1)の光を射出(放射)するように構成される。光源1402から光源1405は、例えば、例えば、850nmから1100nmの中から選択された複数の波長(例えば、第1の実施形態と同様、波長2から波長5)の光を射出(放射)するように構成される。図14では、5つの光源が示されているが、光源の個数は任意である。
<血管画像生成処理>
図15は、第2の実施形態の撮像システム(手術支援システム)1における血管画像生成処理を説明するためのフローチャートである。上述したように、血管画像生成処理は、ICGを生体内に導入してから補正された血管画像(補正サンプル画像)を生成するまでの処理で構成される。なお、図4と同じ処理については、同一符号を付している。ここでは、図4と異なる点のみ説明する。第2の実施形態では、図4のステップ104の代わりにステップ401が実行され、図4のその他のステップ(ステップ101乃至103、及びステップ105乃至108)の処理に加えて、ステップ402が実行される。
(i)ステップ401
制御部101からの指示に応答し、第2光源22は、例えば、波長2から波長5の光(例えば、波長1とは異なる4種類の波長の光であって、850nmから1100nmの中からGUIを介して選択された波長の光)を周期的に手術野の組織BTに照射する。波長2から波長5の光をどのように照射するかについては図7で説明した通りであるのでここでは繰り返さない。ただし、Siカメラは、波長が1100nm付近(例えば1070nmの光)に対しては、それ未満の波長の光よりも感度が悪い。このため、上記4種類の波長の光を周期的に繰り返して照射するときに、波長が1100nm付近の光の照射時間をその他の波長の光の照射時間よりも長めに設定してもよい。図7の説明では、1つの波長の光の照射時間を1/15秒としているが、波長5の光などの照射時間を1/15秒よりも長めに設定することができる。また、例えば、波長2から波長5の光の照射時間は、撮像部(例、第2撮像デバイス32)のフレームレートの範囲内において各々変更してもよい。
制御部101は、データ取得部1012を用いて、組織BTの血管にICGが流れている間に波長2から波長5の光を照射することによって放射される光の輝度(輝度値)を検出(撮像)するように撮像デバイス(ICG蛍光を検出した撮像デバイスと同一の撮像デバイス(例えば、Siカメラ))31を制御する。この際、制御部101は、ステップ103で取得した血管情報に含まれる血管位置に相当する組織BTの部分の輝度(輝度値)の情報(輝度情報に含まれる輝度値:輝度情報は、例えば、血管の位置における輝度値、輝度値に付随する、例えば輝度値を有する位置の情報、あるいは輝度分布などの少なくとも1つを含む)を教師データ(スペクトルデータ)として記憶部102に格納する。なお、教師データとして、血管に対応する教師データ、及び血管以外の部分に対応する教師データの2種類のデータを生成しても良い。教師データとして重要なことの1つは、血管を精度よく特定することである。従って、血管に対応する教師データのみによって血管が特定できれば血管に対応する教師データ(血管部分のスペクトルデータ)のみ取得すれば良いが、一般的に血管以外の教師データ(血管以外の部分のスペクトルデータ)を併せて用いた方が血管と血管以外の部分とでコントラストを付けることができ、精度良く血管を特定することが可能となる。
ステップ103の処理とステップ401の処理とは、少なくとも1回実行され、血管情報と教師データとが取得される。ステップ103の処理とステップ401の処理をそれぞれ複数回ずつ実行する場合には、制御部101は、例えば、ステップ103の処理を実行して血管情報を取得し、ステップ401を実行して取得した血管情報を用いて教師データを生成する。制御部101は、例えば、ステップ103→ステップ401の処理を複数回繰り返すことになる。
(ii)ステップ402
制御部101は、室内(例えば、手術室内)の照明(例えば、手術用無影灯60)の点灯を検知すると(ステップ105)、可視光カットフィルタ37を撮像デバイス(例えば、Siカメラ)31の光路に挿入するように、スライド機構を制御する。ステップ106における血管画像(サンプル画像)の生成処理は、可視光がカットされ、撮像デバイス31によって取得されたスペクトルデータを用いて実行される。なお、第1の実施形態では、第2撮像デバイス32として、例えば、赤外光領域に感度を有するInGaAsカメラが用いられるので、可視光をカットする必要が無かったが、撮像デバイス31としてSiカメラを用いる場合には、Siカメラは可視光にも感度を有するため、可視光カットフィルタによって可視光がカットされる。
なお、第1の実施形態で説明した血管画像生成処理の変形例1及び2は、第2の実施形態における血管画像生成処理にも適用することができる。
C.その他の実施形態
(i)本実施形態は、複数の波長の光をサンプル(例えば、組織BT)に照射して当該サンプル画像(例えば、血管画像)を取得し、当該画像を表示画面に表示する撮像装置(上述の撮像システム)について開示する。当該撮像装置は、サンプルに第1光(例えば、励起光)を照射して得られる第2光(例えば、サンプルからの蛍光)と、サンプルに赤外光を照射して得られる赤外光(第3光:例えば、サンプルに赤外光を照射して得られる反射(放射)光)と、を検出する光検出部(例えば、撮像部30などの検出部)と、検出した赤外光(第3光)から元画像(例えば、血管の位置の輝度(輝度値)を検出することにより得られる画像)を生成し、検出した第2光のサンプルにおける発光位置と元画像とに基づいてサンプル画像(例えば、血管画像(図9B参照:サンプル画像))を生成する制御部(例えば、制御部101、あるいは制御装置10)と、を備える。元画像(例えば、血管の位置の輝度(輝度値)を検出することにより得られる画像)は、所定のタイミングで(例えば、リアルタイム、サンプル画像を生成するタイミング、あるいは元画像生成後常に)表示装置に表示される。このような構成を採ることにより、インドシアニングリーン(ICG)を生体の特定の部位に導入した場合、ICGが特定部分から流れてなくなってしまったとしても、特定部分における特定の臓器(例えば、血管)の位置を判別しやすい画像を提供することができる。このため、オペレータ(例えば、医師など)は、表示装置50に表示された血管を含むサンプル画像を視認して、術中に当該特定の臓器を傷つけることなく作業を遂行することができるようになる。
制御部は、第2光の情報(例えば、蛍光から生成された蛍光画像の輝度値)から第2光の発光位置を算出し、元画像(例えば、血管の位置の輝度(輝度値)を検出することにより得られる画像)における第2光の発光位置を含む教師データを生成し、当該教師データを用いて元画像(例えば、血管の位置の輝度(輝度値)を検出することにより得られる画像)を補正してサンプル画像(例えば、血管画像)を生成する。教師データを生成してしまえば、特定部分における特定の臓器(例えば、血管)の位置を示す画像を正確に生成することが可能となる。
制御部は、血管情報(蛍光画像から得られる、血管の太さの情報(太さの値)、血管の位置情報(発光位置の座標値)、血管の深さの情報(深さの値)、血管の経路の情報(経路を示す画像))に基づいてサンプル画像(例えば、血管画像)を補正し、補正サンプル画像(例えば、図9C参照:補正血管画像)を生成する。制御部は、例えば、サンプル画像のスペクトル分布の標準偏差を蛍光の輝度分布の標準偏差に変更することにより、サンプル画像(例えば、血管画像)を補正する。制御部は、例えば、血管から放射された蛍光の輝度分布と当該輝度分布の標準偏差とを算出し、当該標準偏差の値に基づいて血管の深さを求めることができる。制御部は、例えば、蛍光の輝度分布の標準偏差の値が同程度の血管画像(サンプル画像)をつなぎ合せて血管の経路画像を生成することができる。制御部は、例えば、血管からの蛍光の輝度分布の波形の面積を血管の太さとすることができる。制御部は、例えば、血管からの蛍光の輝度分布の重心を血管の位置とすることができる。
上記第2光(例えば、蛍光)は、サンプルに所定の造影剤(例えば、ICG)を導入した状態で、第1波長の第1光(例えば、励起光:700nmから850nmから選択された光)をサンプルに照射することにより発せられる。制御部は、例えば、第2光(例えば、蛍光)の発光位置と、所定の造影剤(例えば、ICG)を導入した状態で第1波長よりも長い複数の異なる波長の光(例えば、波長2から波長5の赤外光)をサンプルに順次照射して計測される赤外光(第3光:例えば、サンプルかからの反射光)、あるいは第2波長から第5波長の何れかの光を照射して計測される赤外光(第3光:例えば、血管中の血液に吸収される光の量が多い波長を用いて得られる赤外光(第3光))とに基づいて、教師データを生成する。
サンプル画像(例えば、血管画像)を生成する際には、光検出部(撮像部30)が、第1波長よりも長い複数の異なる波長の光(例えば、赤外光:800nmから2500nmの波長の光)をサンプルに順次照射することにより、あるいは第1波長よりも長い複数の異なる波長の光の何れかをサンプルに照射することにより、サンプルから反射(放射)される光(反射光)を検出し、制御部が、サンプルからの反射光を用いて、各波長の光(スペクトル)に対応する複数の画像(スペクトル画像)を生成し、教師データに基づいて、それら複数のスペクトル画像に対して多変量解析を実行することにより、強調画像(サンプル画像)を生成する。
光検出部(例えば、撮像部30)は、可視光領域の光において高い検出感度を有する第1撮像デバイス(例えば、Siカメラ)と、当該第1撮像デバイスとは種類の異なり、赤外領域において高い検出感度を有する第2撮像デバイス(例えば、InGaAsカメラ)と、によって構成しても良い。第1撮像デバイスは、780nmの波長の光(例えば、励起光)をサンプルに照射して得られる、サンプルの中を流れる所定の造影剤(例えば、ICG)の蛍光を計測する。第2撮像デバイスは、950nmから1600nmの波長の光(赤外光)の中から選択された複数の異なる波長の光をサンプルに照射して得られる、サンプルからの反射(放射)光を計測する。なお、第1撮像デバイスの光軸は、第2撮像デバイスの光軸と一致するように光検出部を構成しても良い。
光検出部(例えば、撮像部30)は、可視光領域の光において高い検出感度を有する第1撮像デバイス(例えば、Siカメラ)のみで構成しても良い。第1撮像デバイスは、780nmの波長の光(例えば、励起光)をサンプルに照射して得られる、サンプルの中を流れる所定の造影剤(例えば、ICG)の蛍光である第2光を計測するとともに、850nmから1100nmの波長の光(赤外光)の中から選択された複数の異なる波長の光をサンプルに照射して得られる、サンプルからの反射(放射)光を計測する。1つの撮像デバイスのみを用いるので、撮像デバイスの光軸の調整が不要となり、光学系を簡素化することが可能である。
(ii)光検出部(例えば、撮像部30)は、サンプルから発光される蛍光と、サンプルに赤外光を照射して得られる赤外光とを検出する。制御部(例えば、制御部101、あるいは制御装置10)は、検出した赤外光に基づく赤外画像を生成し、検出した蛍光を基にサンプルの血管情報を取得して、この血管情報に基づき特定した赤外画像(第1の赤外画像)における血管位置を含む教師データを生成する。生成された教師データは、記憶部(例えば、記憶部102)に記憶される。そして、上記制御部は、例えば、教師データを生成した後に検出された画像であってサンプルに赤外光を照射して得られる赤外光に基づく第2の赤外画像(教師データの元になった第1の赤外画像とは時間的に異なる赤外画像。ただし、第1の赤外画像と第2の赤外画像とは、同じ血管位置の血管の画像を含んでいる。)と、記憶部から取得した教師データとを用いて、血管位置の血管を含むサンプル画像を生成するようにしてもよい。このようにすることにより、最新のサンプル画像に血管位置を正確に示すことができるようになる。よって、上述と同様に、インドシアニングリーン(ICG)を生体の特定の部位に導入した場合、ICGが特定部分から流れてなくなってしまったとしても、特定部分における特定の臓器(例えば、血管)の位置を判別しやすい最新のサンプル画像を提供することができる。このため、オペレータ(例えば、医師など)は、表示装置50に表示された血管を含む最新のサンプル画像を視認して、術中に当該特定の臓器を傷つけることなく作業を遂行することができるようになる。なお、上記蛍光に基づく蛍光画像と第1の赤外画像とは、少なくとも血管位置の血管を含む画像である。また、表示部(例えば、表示装置50)は、上記蛍光に基づく蛍光画像と生成されたサンプル画像とを表示可能なように構成されている。そして、制御部は、蛍光画像とサンプル画像とを選択的に切り替えて表示部に表示させたり、あるいは蛍光画像とサンプル画像とを同時に表示部に表示させたりする。蛍光画像とサンプル画像とを選択的に切り替える場合、例えば、蛍光の輝度値(輝度値が所定値以上、あるいは所定値以下の場合に蛍光画像の表示に切り替える)やユーザ(術者)によって入力された切り替え指示(信号:リアルタイムに入力される切り替え信号)に基づいて画像を切り替えたり、ユーザ(術者)が予め設定した時間間隔毎に画像を切り替えたりすることができる。また、蛍光画像とサンプル画像の同時表示とそれらの選択的表示とを蛍光の輝度値やユーザ(術者)による入力切り替え指示等に基づいて切り替えるようにしてもよい。
(iii)本実施形態の機能は、ソフトウェアのプログラムコードによっても実現することが可能である。この場合、プログラムコードを記録した記憶媒体をシステム或は装置に提供し、そのシステム或は装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出す。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコード自体、及びそれを記憶した記憶媒体は本実施形態を構成することになる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、CD−ROM、DVD−ROM、ハードディスク、光ディスク、光磁気ディスク、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどが用いられる。
また、プログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現されるようにしてもよい。さらに、記憶媒体から読み出されたプログラムコードが、コンピュータ上のメモリに書きこまれた後、そのプログラムコードの指示に基づき、コンピュータのCPUなどが実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現されるようにしてもよい。
さらに、実施形態の機能を実現するソフトウェアのプログラムコードを、ネットワークを介して配信することにより、それをシステム又は装置のハードディスクやメモリ等の記憶手段又はCD−RW、CD−R等の記憶媒体に格納し、使用時にそのシステム又は装置のコンピュータ(又はCPUやMPU)が当該記憶手段や当該記憶媒体に格納されたプログラムコードを読み出して実行するようにしても良い。
ここで述べたプロセス及び技術は本質的に如何なる特定の装置に関連することはなく、コンポーネントの如何なる相応しい組み合わせによってでも実装できる。更に、汎用目的の多様なタイプのデバイスがここで記述した方法に従って使用可能である。ここで述べた方法のステップを実行するのに、専用の装置を構築するのが有益である場合もある。また、実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
本技術分野の通常の知識を有する者には、本発明のその他の実装がここに開示された本発明の明細書及び実施形態の考察から明らかになる。記述された実施形態の多様な態様及び/又はコンポーネントは、単独又は如何なる組み合わせでも使用することが出来る。
1 撮像システム
10 制御装置
20 光源部
21 第1光源
22 第2光源
30 撮像部
31 第1撮像デバイス(撮像デバイス)
32 第2撮像デバイス
40 入力装置
50 表示装置
60 手術用無影灯
101 制御部
1011 光照射制御部
1012 データ取得部
1013 画像生成部
1014 画像補正部
102 記憶部
BT 組織

Claims (35)

  1. サンプルに第1光を照射して得られる第2光と、前記サンプルに赤外光を照射して得られる前記赤外光とを検出する光検出部と、
    検出した前記赤外光から元画像を生成し、検出した前記第2光の前記サンプルにおける発光位置と前記元画像とに基づいてサンプル画像を生成する制御部と、
    を備える、撮像装置。
  2. 請求項1において、
    前記制御部は、前記サンプルにおける前記第2光の発光位置に対応する前記元画像における特定部分の輝度情報を含む教師データを生成し、前記教師データを生成後に検出される前記元画像と前記教師データとを用いて前記サンプル画像を生成する、撮像装置。
  3. 請求項2において、
    前記教師データを記憶する記憶部を備え、
    前記制御部は、記憶されている前記教師データを用いて前記サンプル画像を生成し、リアルタイム画像として前記サンプル画像を表示部に表示させる、撮像装置。
  4. 請求項2または3において、
    前記制御部は、前記第2光から第1画像を生成し、前記第1画像をもとに前記教師データを生成する、撮像装置。
  5. 請求項4において、
    前記制御部は、前記第1画像から得られる情報に基づいて前記サンプル画像を補正し、前記サンプル画像として補正サンプル画像を生成する、撮像装置。
  6. 請求項4又は5において、
    前記第1画像から得られる情報は、前記サンプルにおける血管の太さの情報と、前記サンプルにおける血管の位置情報と、前記サンプルにおける血管の深さの情報と、前記血管の経路の情報との少なくとも1つを含む、撮像装置。
  7. 請求項6において、
    前記制御部は、前記血管から放射された前記第2光の輝度分布と当該輝度分布の標準偏差とを算出し、当該標準偏差の値に基づいて前記血管の深さを求める、撮像装置。
  8. 請求項7において、
    前記制御部は、前記標準偏差の値が同程度の血管画像をつなぎ合せて前記血管の経路画像を生成する、撮像装置。
  9. 請求項6から8の何れか1項において、
    前記制御部は、前記血管における前記第2光の輝度分布を求め、当該輝度分布の値の面積を前記血管の太さとする、撮像装置。
  10. 請求項6から9の何れか1項において、
    前記制御部は、前記血管における前記第2光の輝度分布を求め、当該輝度分布の重心を前記血管の位置とする、撮像装置。
  11. 請求項1から10の何れか1項において、
    前記制御部は、時系列の複数の前記元画像における基準点の位置を比較することによって、前記サンプルに対する観察位置の変更があるかどうかを検出する、撮像装置。
  12. 請求項1から11の何れか1項において、
    前記第2光として蛍光を発光させる前記第1光を照射する光源部を備える、撮像装置。
  13. 請求項1から12の何れか1項において、
    前記制御部は、前記サンプル画像を表示装置に出力する、撮像装置。
  14. 請求項1から13の何れか1項において、
    前記制御部は、前記サンプル画像のスペクトル分布の標準偏差を前記第2光の輝度分布の標準偏差に変更することにより、前記サンプル画像を補正する、撮像装置。
  15. 請求項2から12の何れか1項において、
    前記第2光は、前記サンプルに所定の造影剤を導入した状態で、第1波長の前記第1光を前記サンプルに照射することにより発せられ、
    前記制御部は、前記第2光の発光位置と、前記サンプルの前記所定の造影剤を導入した状態で、前記第1波長よりも長い複数の異なる波長の光を前記サンプルに順次照射して検出される前記赤外光とに基づいて、前記教師データを生成する、撮像装置。
  16. 請求項15において、
    前記光検出部は、前記第1波長よりも長い複数の異なる波長の光を前記サンプルに順次照射することにより前記サンプルから得られる前記赤外光を検出し、
    前記制御部は、前記赤外光を用いて、各波長の光に対応する複数のスペクトル画像を生成し、前記教師データに基づいて、前記複数のスペクトル画像に対して多変量解析を実行することにより強調画像を生成する、撮像装置。
  17. 請求項15または16において、
    前記第1波長の前記第1光は、700nmから850nmから選択された光であり、
    前記第1波長よりも長い複数の異なる波長の光は、800nmから2500nmの波長の光の中から選択された複数の異なる波長の光である、撮像装置。
  18. 請求項17において、
    前記光検出部は、可視光領域において高い検出感度を有する第1撮像デバイスと、当該第1撮像デバイスと異なり、赤外領域において高い検出感度を有する第2撮像デバイスと、を含み、
    前記第1撮像デバイスは、780nmを含む波長の光を前記サンプルに照射して得られる、前記サンプルの中を流れる前記所定の造影剤の蛍光である前記第1光を検出し、
    前記第2撮像デバイスは、950nmから1600nmの波長の光の中から選択された複数の異なる波長の光を前記サンプルに照射して得られる前記赤外光を検出する、撮像装置。
  19. 請求項18において、
    前記第1撮像デバイスの光軸は、前記第2撮像デバイスの光軸と一致する、撮像装置。
  20. 請求項17において、
    前記光検出部は、可視光領域において高い検出感度を有する第1撮像デバイスを含み、 前記第1撮像デバイスは、780nmを含む波長の前記第1光を前記サンプルに照射して得られる、前記サンプルの中を流れる前記所定の造影剤の蛍光である前記第2光を検出するとともに、850nmから1100nmの波長の光の中から選択された前記複数の異なる波長の光を前記サンプルに照射して得られる前記赤外光を検出する、撮像装置。
  21. 請求項16において、
    前記制御部は、前記第2光から生成された第1画像と前記複数のスペクトル画像とをアライメント処理する、撮像装置。
  22. 請求項1から21の何れか1項の撮像装置と、
    前記サンプル画像を表示する表示装置と、
    を備える、撮像システム。
  23. 光検出部が、サンプルに第1光を照射して得られる第2光と、前記サンプルに赤外光を照射して得られる前記赤外光と、を検出することと、
    制御部が、検出された前記赤外光から元画像を生成することと、
    前記制御部が、前記光検出部が検出した前記第2光の前記サンプルにおける発光位置と、前記元画像とに基づいて前記サンプル画像を生成することと、
    を含む、撮像方法。
  24. 請求項23において、さらに、
    前記光検出部が、前記光検出部の光検出範囲の変更に応答して前記サンプルから発せられる前記第2光を再検出することと、
    前記制御部が、前記再検出された第2光から前記第2光の発光位置を再計算することと、
    を含む、撮像方法。
  25. 請求項24において、さらに、
    前記制御部が、前記再計算された前記第2光の発光位置に基づいて、前記サンプルの前記再計算された前記第2光の発光位置を含む教師データを再生成することを含む、撮像方法。
  26. 請求項23において、
    前記光検出部は、前記サンプルから前記第2光が発せられる間、前記第2光を連続的に検出し、
    前記制御部は、前記光検出部から受け取った今回の第2光の輝度が前回の第2光の輝度よりも大きい場合に、前記今回の第2光の発光位置を再計算し、当該再計算された今回の第2光の発光位置に基づいて、前記サンプルの前記今回の第2光の発光位置を含む教師データを再生成する、撮像方法。
  27. 請求項21から26の何れか1項において、
    可視光域において高い検出感度を有する第1撮像デバイスが、前記サンプルの中に所定の造影剤を導入した状態で第1波長の前記第1光を前記サンプルに照射することにより前記サンプルから得られる前記第2光を検出し、
    赤外領域において高い検出感度を有する第2撮像デバイスが、前記サンプルの中に前記所定の造影剤を導入した状態で前記第1波長よりも長い複数の異なる波長の光を前記サンプルに順次照射することにより前記サンプルから得られる前記赤外光を検出する、撮像方法。
  28. 請求項21から26の何れか1項において、
    可視光域において高い検出感度を有する第1撮像デバイスが、前記サンプルの中に所定の造影剤を導入した状態で第1波長の前記第1光を前記サンプルに照射することにより前記サンプルから得られる前記第2光を検出し、前記サンプルの中に前記所定の造影剤を導入した状態で前記第1波長よりも長い複数の異なる波長の光を前記サンプルに順次照射することにより前記サンプルから得られる前記赤外光を検出する、撮像方法。
  29. 請求項27または28において、
    前記第1波長の前記第1光は、700nmから850nmから選択された光であり、
    前記第1波長よりも長い複数の異なる波長の光は、800nmから2500nmの波長の光の中から選択された複数の異なる波長の光である、撮像方法。
  30. 請求項27において、
    前記第1撮像デバイスの光軸と前記第2撮像デバイスの光軸とを一致させて、前記第1撮像デバイスで前記第2光を検出し、前記第2撮像デバイスで前記赤外光を検出する、撮像方法。
  31. 請求項21から30の何れか1項において、さらに、
    前記制御部が、前記第2光から得られる情報に基づいて前記サンプル画像を補正し、前記サンプル画像として補正サンプル画像を生成することを含む、撮像方法。
  32. サンプルから発光される蛍光と、前記サンプルから得られる赤外光とを検出する光検出部と、
    検出した前記赤外光に基づく第1の赤外画像を生成し、検出した前記蛍光を基に前記サンプルの血管情報を取得して、前記血管情報に基づき特定した前記第1の赤外画像における血管位置を含む教師データを生成する制御部と、
    前記教師データを記憶する記憶部と、を備え、
    前記制御部は、前記教師データを生成した後に検出された画像であって前記サンプルから得られる赤外光に基づく第2の赤外画像と、前記記憶部から取得した前記教師データとを用いて、前記血管位置の血管を含む前記サンプル画像を生成する、撮像システム。
  33. 請求項32において、
    前記第1の赤外画像と前記第2の赤外画像とは、同じ前記血管位置の血管を含む、撮像システム。
  34. 請求項32または33において、
    前記蛍光に基づく蛍光画像と前第1の記赤外画像とは、少なくとも前記血管位置の血管を含む画像である、撮像システム。
  35. 請求項32から34の何れか1項において、
    前記蛍光に基づく蛍光画像と前記サンプル画像とを表示可能な表示部を備え、
    前記制御部は、前記蛍光画像と前記サンプル画像とを選択的に切り替えて前記表示部に表示させる、撮像システム。
JP2019520244A 2017-05-23 2018-05-21 撮像装置、撮像システム、及び撮像方法 Pending JPWO2018216658A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017102015 2017-05-23
JP2017102015 2017-05-23
PCT/JP2018/019505 WO2018216658A1 (ja) 2017-05-23 2018-05-21 撮像装置、撮像システム、及び撮像方法

Publications (1)

Publication Number Publication Date
JPWO2018216658A1 true JPWO2018216658A1 (ja) 2020-03-26

Family

ID=64396817

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019520244A Pending JPWO2018216658A1 (ja) 2017-05-23 2018-05-21 撮像装置、撮像システム、及び撮像方法

Country Status (2)

Country Link
JP (1) JPWO2018216658A1 (ja)
WO (1) WO2018216658A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009028136A1 (ja) * 2007-08-29 2009-03-05 Panasonic Corporation 蛍光観察装置
US20120061590A1 (en) * 2009-05-22 2012-03-15 British Columbia Cancer Agency Branch Selective excitation light fluorescence imaging methods and apparatus
JP2013514156A (ja) * 2009-12-15 2013-04-25 エモリー ユニバーシティ 診断又は治療処置においてリアルタイム解剖学的指針を提供するシステム及び方法
WO2015186225A1 (ja) * 2014-06-05 2015-12-10 株式会社ニコン 走査型投影装置、投影方法、及び手術支援システム
JP2017042257A (ja) * 2015-08-25 2017-03-02 株式会社島津製作所 イメージング装置
WO2017043539A1 (ja) * 2015-09-11 2017-03-16 国立研究開発法人産業技術総合研究所 画像処理システム、画像処理装置、投影装置、及び投影方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9625386B2 (en) * 2014-09-10 2017-04-18 Iwasaki Electric Co., Ltd. Imaging system
JP6485275B2 (ja) * 2015-08-03 2019-03-20 株式会社島津製作所 イメージング装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009028136A1 (ja) * 2007-08-29 2009-03-05 Panasonic Corporation 蛍光観察装置
US20120061590A1 (en) * 2009-05-22 2012-03-15 British Columbia Cancer Agency Branch Selective excitation light fluorescence imaging methods and apparatus
JP2013514156A (ja) * 2009-12-15 2013-04-25 エモリー ユニバーシティ 診断又は治療処置においてリアルタイム解剖学的指針を提供するシステム及び方法
WO2015186225A1 (ja) * 2014-06-05 2015-12-10 株式会社ニコン 走査型投影装置、投影方法、及び手術支援システム
JP2017042257A (ja) * 2015-08-25 2017-03-02 株式会社島津製作所 イメージング装置
WO2017043539A1 (ja) * 2015-09-11 2017-03-16 国立研究開発法人産業技術総合研究所 画像処理システム、画像処理装置、投影装置、及び投影方法

Also Published As

Publication number Publication date
WO2018216658A1 (ja) 2018-11-29

Similar Documents

Publication Publication Date Title
US11439468B2 (en) Fluorescent imaging device
JP5160276B2 (ja) 画像表示方法及び装置
JP5074044B2 (ja) 蛍光観察装置および蛍光観察装置の作動方法
JP5634755B2 (ja) 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
JP2016030214A (ja) マルチスペクトル医用撮像装置及びその方法
US11941768B2 (en) Methods and systems for alignment of a subject for medical imaging
JPWO2018159363A1 (ja) 内視鏡システム及びその作動方法
WO2015001806A1 (ja) 投影システム
JP6581984B2 (ja) 内視鏡システム
US20120289801A1 (en) Tissue imaging system and in vivo monitoring method
WO2009120228A1 (en) Image processing systems and methods for surgical applications
JP2008522761A (ja) 規準化された蛍光又は生物発光撮像のためのシステムと方法
JP2009039515A (ja) 画像処理システム、画像処理方法およびプログラム
JP6234648B1 (ja) 画像解析装置、画像解析システム、及び画像解析装置の作動方法
JP6796725B2 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置
EP3838109A1 (en) Endoscope system
JP6744712B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法
JP2016214507A (ja) イメージング装置
JPWO2018159082A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6744713B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法
WO2018216658A1 (ja) 撮像装置、撮像システム、及び撮像方法
JP5844447B2 (ja) 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
JP7306461B2 (ja) 治療支援装置および治療支援方法
JP6850358B2 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置
CN115668296A (zh) 全局处理多个发光图像以对其进行映射和/或分割

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210519

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210519

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20221108