JP6295915B2 - イメージング装置 - Google Patents

イメージング装置 Download PDF

Info

Publication number
JP6295915B2
JP6295915B2 JP2014215017A JP2014215017A JP6295915B2 JP 6295915 B2 JP6295915 B2 JP 6295915B2 JP 2014215017 A JP2014215017 A JP 2014215017A JP 2014215017 A JP2014215017 A JP 2014215017A JP 6295915 B2 JP6295915 B2 JP 6295915B2
Authority
JP
Japan
Prior art keywords
image
hue
fluorescent
visible
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014215017A
Other languages
English (en)
Other versions
JP2016077769A (ja
Inventor
紘之 妻鳥
紘之 妻鳥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Priority to JP2014215017A priority Critical patent/JP6295915B2/ja
Publication of JP2016077769A publication Critical patent/JP2016077769A/ja
Application granted granted Critical
Publication of JP6295915B2 publication Critical patent/JP6295915B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

この発明は、被写体に注入された蛍光色素に対して励起光を照射し、蛍光色素から発生した蛍光を撮影するイメージング装置に関する。
近年、近赤外蛍光イメージングと呼称される手法が外科手術に利用されている。この近赤外蛍光イメージングにおいては、蛍光色素としてのインドシアニングリーン(ICG)を患部に注入する。そして、このインドシアニングリーンに750〜810nm(ナノメータ)の近赤外光を励起光として照射すると、インドシアニングリーンはおおよそ850nmをピークとする近赤外領域の蛍光を発する。この蛍光を、近赤外光を検出可能なカメラで撮影し、その画像を液晶表示パネル等の表示部に表示する。この近赤外蛍光イメージングによれば、体表から20mm程度までの深さに存在する血管やリンパ管等の観察が可能となる。
特許文献1には、インドシアニングリーンが投与された生体の被検臓器に対して、インドシアニングリーンの励起光を照射して得られた、近赤外蛍光の強度分布イメージと、インドシアニングリーン投与前の被検臓器に対して、X線、核磁気共鳴または超音波を作用させて得られた、癌病巣分布イメージと、を比較し、近赤外蛍光の強度分布イメージで検出されるが、癌病巣分布イメージでは検出されない領域のデータを、癌の副病巣領域データとして収集するデータ収集方法が開示されている。
また、特許文献2には、血管造影剤が投与された被検体に対して励起光と可視光とを交互に照射し、撮像手段によって励起光が照射された蛍光画像と可視画像とを交互に取得するとともに、蛍光画像を所定の閾値により閾値処理して血管画像を抽出し、可視画像と抽出した血管画像を重畳させた合成画像を作成する手術支援方法が開示されている。
国際公開第2009/139466号公報 特開2009−226072号公報
特許文献2に記載されたように、可視画像と蛍光画像とを合成した合成画像を作成する場合においては、蛍光画像における造影剤の領域は明度として表現されるために白黒の画像となり、可視画像とその蛍光画像とを合成しているが、合成後における可視画像と蛍光画像との判別が困難となる場合がある。
すなわち、蛍光画像は可視画像上に白く表示されることから、その輪郭は鮮明ではない。特に明度差が小さくなるにつれて輪郭は不鮮明となる。このため、蛍光画像における蛍光領域がどこまでであるのかを正確に判別することはできない。このような場合においては、患者に対する施術等を正確に実行することが困難となるという問題が生ずる。
この発明は上記課題を解決するためになされたものであり、被写体の可視画像と蛍光画像とを合成して合成画像を作成するときに、蛍光画像の視認性を向上することが可能なイメージング装置を提供することを目的とする。
第1の発明では、被写体に注入された蛍光色素を励起させるための励起光を前記被写体に向けて照射する励起用光源と、前記被写体に向けて可視光を照射する可視光源と、励起光が照射されることにより前記蛍光色素から発生した蛍光と、前記被写体表面で反射した可視光とを撮影するための、蛍光と可視光とを検出可能なカメラと、を備えたイメージング装置において、前記カメラにより撮影した前記被写体の可視画像における支配的な色相を特定する支配的色相特定部と、前記支配的色相特定部で特定された色相に対して、R、G、B値においてそれぞれの差の絶対値の総和が設定値以上となり、かつ、輝度比が最大となる色相を着色色相として特定する着色色相特定部と、前記カメラにより撮影した前記被写体の蛍光画像を前記着色色相特定部で特定された着色色相で着色する蛍光画像着色部と、前記カメラにより撮影した前記被写体の可視画像と前記蛍光画像着色部で着色された着色蛍光画像とを合成することにより、合成画像を作成する合成部と、を備えたことを特徴とする。
第2の発明では、前記支配的色相特定部は、前記可視画像から前記蛍光画像における蛍光領域の画像を減算した画像を使用して、支配的な色相を特定する。
第3の発明では、前記支配的色相特定部は、ヒストグラムを利用して最も多く現れる色相を支配的な色相として特定する。
第1の発明によれば、被写体の可視画像と蛍光画像とを合成して合成画像を作成するときに、蛍光画像と背景となる可視画像とを明確に識別することができ、蛍光画像の視認性を向上させることが可能となる。
第2の発明によれば、可視画像から蛍光画像を除外することにより、背景画像における支配的な色相を適切に特定することが可能となる。
第3の発明によれば、ヒストグラムを利用することにより、支配的な色相を容易に特定することが可能となる。
この発明に係るイメージング装置の概要図である。 照明・撮影部12の斜視図である。 この発明に係るイメージング装置の主要な制御系を示すブロック図である。 この発明に係るイメージング装置により可視画像と近赤外画像とを合成して合成画像を作成する画像合成工程のフロー図である。
以下、この発明の実施の形態を図面に基づいて説明する。図1は、この発明に係るイメージング装置の概要図である。
このイメージング装置は、タッチパネル等の入力部11を備え、後述する制御部30等を内蔵した本体10と、アーム13により移動可能に支持された照明・撮影部12と、液晶表示パネル等から構成される表示部14と、患者17を載置する治療台16とを備える。なお、照明・撮影部12はアーム13によって支持されたものに限定されず、術者が手に携帯するものであってもよい。
図2は、上述した照明・撮影部12の斜視図である。
この照明・撮影部12は、近赤外線および可視光を検出可能なカメラ21と、このカメラ21の外周部に配設された多数のLEDよりなる可視光源22と、この可視光源22の外周部に配設された多数のLEDよりなる励起用光源23とを備える。可視光源22は、可視光を照射する。励起用光源23は、インドシアニングリーンを励起させるための励起光であるその波長が780nmの近赤外光を照射する。
図3は、この発明に係るイメージング装置の主要な制御系を示すブロック図である。
このイメージング装置は、論理演算を実行するCPU、装置の制御に必要な動作プログラムが格納されたROM、制御時にデータ等が一時的にストアされるRAM等から構成され、装置全体を制御する制御部30を備える。この制御部30は、後述する各種の画像処理を実行する画像処理部31を備える。この画像処理部31は、可視画像と蛍光画像を合成することにより合成画像を作成する合成部36と、支配的な色相を特定する支配的色相特定部37と、着色色相を特定する着色色相特定部38と、蛍光画像を着色色相で着色する蛍光画像着色部39とを備える。
この制御部30は、上述した入力部11および表示部14と接続されている。また、この制御部30は、カメラ21、可視光源22および励起用光源23を備えた照明・撮影部12と接続されている。さらに、この制御部30は、カメラ21により撮影された画像を記憶する画像記憶部33とも接続されている。この画像記憶部33は、近赤外画像を記憶する近赤外画像記憶部34と、可視画像を記憶する可視画像記憶部35とから構成される。なお、近赤外画像記憶部34および可視画像記憶部35を備えるかわりに、可視画像と近赤外画像とを合成した画像を記憶する合成画像記憶部を備えていてもよい。
以下、この発明に係るイメージング装置を使用して外科の手術を行う場合の動作について説明する。なお、以下の説明においては、患者17に対して乳癌の手術を行う場合について説明する。
この発明に係るイメージング装置を使用して乳癌の手術を行う場合には、治療台16上の仰臥した患者17の乳房にインドシアニングリーンを注射により注入する。そして、患部を含む被写体に向けて、励起用光源23から近赤外線を照射するとともに可視光源22から可視光を照射する。なお、励起用光源23から照射される近赤外光としては、上述したように、インドシアニングリーンが蛍光を発するための励起光として作用する780nmの近赤外光が採用される。これにより、インドシアニングリーンは、約850nmをピークとする近赤外領域の蛍光を発生する。
そして、患者17の患部付近をカメラ21により撮影する。このカメラ21は、近赤外光と可視光とを検出することが可能となっている。患者17に可視光を照射し、これをカメラ21により撮影した画像が可視画像となり、患者17に近赤外光を照射し、インドシアニングリーンからの蛍光をカメラ21により撮影した画像が近赤外画像となる。カメラ21により撮影された近赤外画像および可視画像は、図3に示す画像処理部31に送られる。画像処理部31においては、近赤外画像および可視画像が表示部14に表示可能な画像データに変換される。近赤外画像のデータは画像記憶部33における近赤外画像記憶部34に記憶される。また、可視画像のデータは、画像記憶部33における可視画像記憶部35に記憶される。
この状態において、画像処理部31における合成部36は、後述するように、近赤外画像データと可視画像データとを利用して、可視画像と近赤外画像とを融合させた合成画像を作成する。そして、画像処理部31は、表示部14に、近赤外画像、可視画像および合成画像を、領域を分けて同時に、あるいは、選択的に表示する。
次に、この発明の特徴部分である合成画像の作成動作について説明する。図4は、この発明に係るイメージング装置により可視画像と近赤外画像とを合成して合成画像を作成する画像合成工程のフロー図である。
図3に示す制御部30における画像処理部31は、支配的色相特定部37により可視画像における支配的な色相を特定し、着色色相特定部38により支配的色相に対して、R、G、B値においてそれぞれの差の絶対値の総和が設定値以上となり、かつ、輝度比が最大となる色相を着色色相として特定し、蛍光画像着色部39により蛍光画像である近赤外画像を着色色相特定部38で特定された着色色相で着色し、合成部36により可視画像と蛍光画像着色部39で着色された近赤外画像とを合成して合成画像を作成する。
すなわち、画像処理部31は、最初に、可視画像から、近赤外画像における蛍光領域であるインドシアニングリーンの領域の画像を減算することにより、下地(バックグラウンド)となる可視画像を作成する。そして、支配的色相特定部37によりこの可視画像に対してカラー抽出を行い、蛍光領域を減算(除外)した可視画像における支配的な色相(hue)を特定する。ここで、支配的な色相とは、ドミナントカラー(dominant color)とも呼称され、その画像全体の印象を支配する色である。
この支配的な色相は、例えば、可視画像に最も多く現れる色相である。この支配的な色相は、可視画像に対するヒストグラムを利用することにより特定される。このとき、可視画像の周辺領域には、患者17の患部以外の画像も撮影される可能性があることから、可視画像の中央部付近の画像に対してヒストグラムを適用するようにしてもよい。なお、支配的な色相の特定には任意の色空間で諧調変換、平均値、中間値、最頻値を用いて算出してもよい。
次に、着色色相特定部38により、インドシアニングリーンを示す近赤外画像を着色すべき着色色相を特定する。この着色色相は、先に特定した可視画像における支配的な色相に対して、識別力が高い色相とすることが好ましい。このため、この着色色相は、支配的色相に対して、R、G、B値においてそれぞれの差の絶対値の総和である色差ΔRGBが設定値以上となり、かつ、支配的色相に対して輝度比(輝度Lの比)が最大となる色相が選択される。
ここで、上述した色差ΔRGBは、以下の式で表される。
ΔRGB=[max(Rb、Rf)−min(Rb、Rf)]+[max(Gb、Gf)−min(Gb、Gf)]+[max(Bb、Bf)−min(Bb、Bf)]
ここで、Rb、Gb、Bbは、背景(バックグラウンド)となる可視画像のRGB値で有り、Rf、Gf、Bfは、背景となる可視画像上(フォアグラウンド)に表示される蛍光画像である赤外画像のRGB値である。この式により、R、G、B値においてそれぞれの差の絶対値の総和である色差ΔRGBが演算される。
また、輝度Lは、以下の式で表される。なお、以下の式以外に色差信号で用いられる輝度算出式を用いてもよい。
L=R1×0.2126+G1×0.7152+B1×0.0722
ここで、sR=R/255、sB=B/255、sG=G/255とした場合、上記R1は、sRが0.03928以下であれば[sR/12.92]となり、0.03928より大きければ[sR+0.055)/1.055]の2.4乗となる。同様に、上記G1は、sGが0.03928以下であれば[sG/12.92]となり、0.03928より大きければ[sR+0.055)/1.055]の2.4乗となる。また、上記B1は、sBが0.03928以下であれば[sB/12.92]となり、0.03928より大きければ[sR+0.055)/1.055]の2.4乗となる。
上述した色差ΔRGBおよび輝度Lの計算については、ウエブ上で使用される各種技術の標準化を推進するために設立された標準化団体であるW3C(World Wide Web Consortium)による「ウエブコンテンツ・アクセシビリティ・ガイドライン)WCAG)」の1.0および2.0により規定されている。
そして、画像処理部31における蛍光画像着色部39により、蛍光画像である近赤外画像が着色色相特定部38で特定された着色色相で着色される。なお、このときの赤外画像を着色するときの明度(value)は、造影画像である近赤外画像の明度と同じ明度が採用され、彩度(saturation)としては最大値が採用される。これにより、インドシアニングリーンによる蛍光領域を可視画像上においてより好適に認識することが可能となる。
しかる後、画像処理部31における合成部36が、蛍光画像着色部39で着色された着色蛍光画像と可視画像とを、スクリーン合成や加算合成等により合成して、合成画像を作成する。
以上のように、この発明に係るイメージング装置においては、着色色相として、支配的色相に対して、R、G、B値においてそれぞれの差の絶対値の総和である色差ΔRGBが設定値以上となり、かつ、支配的色相に対して輝度比が最大となる色相が選択されることから、インドシアニングリーンによる蛍光領域を、背景となる可視画像と明確に識別することが可能となる。このため、患者17に対する施術等を正確に実行することが可能となる。
なお、上述した色差ΔRGBに対する設定値とは、例えば、R、G、B値がそれぞれ256階調、Hueが360諧調であるとき、上述したWCAGで規定される500を適用することができる。このときには、着色色相と支配的色相との色相の差であるΔHueは、118〜242となる。但し、支配的色相に対して、ΔHueが90〜270程度となる着色色相を選択するようにしてもよい。
また、上述した実施形態においては、励起用光源23として、波長が780nmの近赤外光を照射するものを使用しているが、励起用光源23としては、インドシアニングリーンを励起させて励起光を発生させることが可能な750nm〜810nm程度の近赤外光を照射させるものを使用することができる。
さらに、上述した実施形態においては、蛍光色素を含む材料としてインドシアニングリーンを使用し、このインドシアニングリーンに対して780nmの近赤外光を励起光として照射することにより、インドシアニングリーンからおおよそ850nmをピークとする近赤外領域の蛍光を発光させる場合について説明したが、近赤外線以外の光を使用してもよい。
例えば、蛍光色素として、5−ALA(5−アミノレブリン酸/5−Aminolevulinic Acid)を使用することができる。この5−ALAを使用した場合には、患者17の体内に侵入した5−ALAが蛍光物質であるプロトポルフィリン(protoporphyrinIX/PpIX)に変化する。このプロトポルフィリンに向けて400nm程度の可視光を照射すると、プロトポルフィリンから赤色の可視光が蛍光として照射される。このため、5−ALAを使用する場合には、励起用光源としてはその波長が400nm程度の可視光を照射するものを使用すればよい。
10 本体
11 入力部
12 照明・撮影部
13 アーム
14 表示部
16 治療台
17 患者
21 カメラ
22 可視光源
23 励起用光源
30 制御部
31 画像処理部
33 画像記憶部
34 近赤外画像記憶部
35 可視画像記憶部
36 合成部
37 支配的色相特定部
38 着色色相特定部
39 蛍光画像着色部

Claims (3)

  1. 被写体に注入された蛍光色素を励起させるための励起光を前記被写体に向けて照射する励起用光源と、
    前記被写体に向けて可視光を照射する可視光源と、
    励起光が照射されることにより前記蛍光色素から発生した蛍光と、前記被写体表面で反射した可視光とを撮影するための、蛍光と可視光とを検出可能なカメラと
    を備えたイメージング装置において、
    前記カメラにより撮影した前記被写体の可視画像における支配的な色相を特定する支配的色相特定部と、
    前記支配的色相特定部で特定された色相に対して、R、G、B値においてそれぞれの差の絶対値の総和が設定値以上となり、かつ、輝度比が最大となる色相を着色色相として特定する着色色相特定部と、
    前記カメラにより撮影した前記被写体の蛍光画像を前記着色色相特定部で特定された着色色相で着色する蛍光画像着色部と、
    前記カメラにより撮影した前記被写体の可視画像と前記蛍光画像着色部で着色された着色蛍光画像とを合成することにより、合成画像を作成する合成部と、
    を備えたことを特徴とするイメージング装置。
  2. 請求項1に記載のイメージング装置において、
    前記支配的色相特定部は、前記可視画像から前記蛍光画像における蛍光領域の画像を減算した画像を使用して、支配的な色相を特定するイメージング装置。
  3. 請求項1または請求項2に記載のイメージング装置において、
    前記支配的色相特定部は、ヒストグラムを利用して最も多く現れる色相を支配的な色相として特定するイメージング装置。
JP2014215017A 2014-10-22 2014-10-22 イメージング装置 Active JP6295915B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014215017A JP6295915B2 (ja) 2014-10-22 2014-10-22 イメージング装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014215017A JP6295915B2 (ja) 2014-10-22 2014-10-22 イメージング装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018028621A Division JP6512320B2 (ja) 2018-02-21 2018-02-21 イメージング装置

Publications (2)

Publication Number Publication Date
JP2016077769A JP2016077769A (ja) 2016-05-16
JP6295915B2 true JP6295915B2 (ja) 2018-03-20

Family

ID=55956919

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014215017A Active JP6295915B2 (ja) 2014-10-22 2014-10-22 イメージング装置

Country Status (1)

Country Link
JP (1) JP6295915B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230025936A (ko) * 2016-11-11 2023-02-23 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 다중 모달리티 이미지 디스플레이를 구비한 수술 시스템
JP2021021573A (ja) * 2019-07-24 2021-02-18 株式会社島津製作所 イメージング装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001299676A (ja) * 2000-04-25 2001-10-30 Fuji Photo Film Co Ltd センチネルリンパ節検出方法および検出システム
JP4949806B2 (ja) * 2006-11-10 2012-06-13 オンセミコンダクター・トレーディング・リミテッド 撮像装置及び画像信号処理装置
JP4971816B2 (ja) * 2007-02-05 2012-07-11 三洋電機株式会社 撮像装置

Also Published As

Publication number Publication date
JP2016077769A (ja) 2016-05-16

Similar Documents

Publication Publication Date Title
JP6319449B2 (ja) イメージング装置
JP6778807B2 (ja) 臨床画像上に強調された画像化データを表示するための方法および装置
CN102083362A (zh) 定位和分析用于整形和重建手术的穿支皮瓣
JP6485275B2 (ja) イメージング装置
WO2009120228A1 (en) Image processing systems and methods for surgical applications
JPWO2016039000A1 (ja) イメージング装置
JPWO2015092882A1 (ja) 赤外光イメージング装置
US20190239749A1 (en) Imaging apparatus
JP2016214507A (ja) イメージング装置
JP6512320B2 (ja) イメージング装置
JP6295915B2 (ja) イメージング装置
JP6721939B2 (ja) 蛍光画像解析装置
JP2021021573A (ja) イメージング装置
WO2016039001A1 (ja) イメージング装置
JP2016112220A (ja) イメージング装置
US11689689B2 (en) Infrared imaging system having structural data enhancement
Taniguchi et al. Improving convenience and reliability of 5-ALA-induced fluorescent imaging for brain tumor surgery
JP5662457B6 (ja) 臨床画像上に強調された画像化データを表示するための方法および装置
JP2018134421A (ja) 赤外光イメージング装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170725

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170726

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180123

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180205

R151 Written notification of patent or utility model registration

Ref document number: 6295915

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151