1.診断方法1〜6で必要な照明光とカラーフィルタについて
先ず、上述した診断方法1〜6で必要な光源装置の照明光の帯域特性と撮像装置のカラーフィルタの帯域特性について集約し、照明光とカラーフィルタの共通化及び照明光の切換の必要性について検討する。
1−1.診断方法1の場合
診断方法1の場合、波長帯域420〜450nmのNB照明光を患部に照射し、Bフィルタで撮像することにより、血管画像をコントラスト良く撮像することができる。撮像した血管画像は、白黒画像として表示し、又はRGB画像の血管部分を強調するための信号として使用する。
但し、NB照明光は、生体(血管及び表層粘膜)からの反射が小さく、狭帯域のため、画像として表示するための感度(SN比)を得るには、それに対応した照明光の強度と信号の増幅が必要になる。図1より約100倍程度の増幅が必要となるので、そのうち10倍程度を照明光の強度調整で担い、残りの10倍を信号の増幅器で担う必要がある。このことから、NB照明光としては、専用の照明が必要になる。
また、表示するRGB画像の撮像は、画像のフレーム単位で白色のW(White)照明光とNB照明光を交互に切換えて撮像を行ってもよいし、NB,G,Rの照明光で撮像し、NB照明光によって広がった色度座標を所定のマトリクス変換で補正して、NB照明光によるNB画像と同時にRGB画像を得るようにしてもよい。
1−2.診断方法2の場合
診断方法2の場合、W照明光とIR照明光(790〜970nm)を同時に照射してRGB画像を撮像するとともに、2つのIR1フィルタ(680〜810nm;760nmを中心)とIR2フィルタ(810〜990nm;940nmを中心)で2つのIR画像を撮像する。また、そのIR画像をカラー表示し、RGB画像と融合表示するため、図5に示したように酸化ヘモグロビンと還元ヘモグロビンの光吸収係数が810nm付近で反転していることを利用して、IR1フィルタで撮像したIR画像信号をRGB画像のR信号に割り当て、IR2フィルタで撮像したIR画像信号をG信号に割り当てることで、動脈と静脈の色相コントラストを上げ、動脈と静脈を分別しやすくする。
診断方法1で得られる血管画像は、生体表層の静脈がほとんどで、赤黒い色で表示されるが、上述した色の割り当てを行うことにより、診断方法2の静脈の色相を診断方法1で得た静脈の色相に合わせる調整が容易になり、医師が通常観察している診断方法1の画像と違和感のない融合表示が可能になる。また、動脈についても、赤色の多い静脈や粘膜に対して、色のコントラストを出しやすい緑色の多い色調への調整が容易になる。
1−3.診断方法3の場合
診断方法3の場合、血管内にICGを注入し、図6に示すように、W照明光とIR照明光(774nmを中心とする)を同時に照射してRGB画像を撮像するとともに、ICGが発する蛍光(805nmを中心とする)の画像をIRフィルタで撮像する。
但し、IR照明光がICG蛍光撮像の背景光とならないようにIR照明光の長波長側を790nmでシャープカットし、IRフィルタも、IR照明光が干渉しないように短波長側を790nmでシャープカットする。また、IR照明光の短波長側もRフィルタの帯域に掛からないように680nmでシャープカットし、Rフィルタの長波長側も680nmでシャープカットする。更に、ICGの蛍光度は弱いため、IR照明光は、その蛍光を検出するのに相応しい照明強度にする。
1−4.診断方法4の場合
診断方法4の場合、図7に示すように、励起光としてSB照明光を行い、生体粘膜と癌が発する自家蛍光の違いをGフィルタとRフィルタで撮像してカラー表示を行う。癌の部分は蛍光度が微弱なため、SB照明光は、それを撮像するのに相応しい照明強度とし、撮像した画像信号を増幅する必要がある。
また、Gフィルタでの撮像の背景光とならないように、SB照明光の長波長側を480nmでシャープカットを行い、Gフィルタの短波長側を480nmでシャープカットする。なお、RGB画像が必要な場合は、画像フレームごとにW照明光とSB照明光を切換えて撮像を行う。
1−5.診断方法5の場合
診断方法5の場合、図8に示すように、励起光としてB照明光を行い、γ−グルタミルトランスペプチダーゼの蛍光プローブが発するGの自家蛍光をGフィルタで撮像する。B照明光の長波長側は480nmでシャープカットし、Gフィルタの短波長側も480nmでカットシャープカットする。これにより、診断方法4との共通化を図る。
蛍光プローブは、γ−グルタミルトランスペプチダーゼのほか、例えばセラミックナノ粒子又は量子ドットを蛍光体とした蛍光プローブ等が研究されている。但し、癌診断に用いる蛍光プローブは、手術中に術者が目視できるように可視光帯の蛍光を発するように設計されることが多い。生体色は赤色(R)が多いので色相コントラストを得るためにGの蛍光を発するように設計される。一部にR(5−アミノレブリン酸など)やIRの蛍光を発するものもある。このような理由から、今後新しい蛍光プローブや蛍光色素が開発されても、可視光帯域とIR帯域に対応した本発明による内視鏡や術野カメラにより癌を検出することができる。
1−6.診断方法6の場合
酸素飽和ヘモグロビンと還元ヘモグロビンからの反射光の比が一番大きくなる波長帯域は、図5に示した光吸収係数より、420〜450nmの狭い帯域となる。この帯域は、生体からの反射が小さく、狭帯域のため、所定の感度を得るために、それに応じた強度を持つ照明光を用いる必要がある。それゆえ、診断方法6の照明光は、診断方法1のNB照明光と共通化することができる。一方、カラーフィルタについては、RGBフィルタを用いることとなる。
酸素飽和濃度については、ルックアップテーブルを用いて求める。酸素飽和濃度を算出するには、先ず、G信号でNB信号とR信号を除して、照明ムラや変化を正規化する。G信号を撮像するカラーフィルタの帯域特性は、診断方法4,5と共通化するために、短波長側を480nmでシャープカットし、長波長側のカットオフ特性は、酸素飽和ヘモグロビンと還元ヘモグロビンのそれぞれの反射輝度の積分値が等しくなるように設定する。
G信号でNB信号を除したNB/G値は、酸素飽和濃度によって大きく変化するが、血液量によっても非線形に変化するため、このNB/G値と、G信号でR信号を除したR/G値とを所定のルックアップテーブル(酸素飽和濃度値への変換テーブル)に入力し、酸素飽和濃度値に変換する。
次に、R/G値のみを所定のルックアップテーブル(血液量への変換テーブル)に入力して血液量に変換する。その後、酸素飽和濃度値と血液量を用いた2つの画像を擬似カラー化し、RGB画像と融合表示する。
これにより、癌を含めて、動脈、静脈の状況を画像として診断することができる。すなわち、癌は進行に応じて酸素飽和濃度が変化するので、酸素飽和濃度を参照することにより癌のステージを判断することができる。また、酸素飽和濃度と血液量の両方のデータより、酸素飽和濃度だけでは分からなかった未分化型早期癌を診断できる。更に、良性、悪性、癌のステージ、発生部位に応じて、このような酸素飽和濃度や血液量の画像を、パターン分類化することも期待できる。
特に、術野カメラの場合、内視鏡のように生体表層ではなく、生体内部の酸素飽和濃度を知る必要がある。酸素飽和濃度の違いによって動脈、静脈、癌を選別し、手術のナビゲーションに役立てるようにする。生体を透過しやすいIR1(790〜810nm)とIR2(810〜990nm)の帯域も、図5に示したように酸素飽和ヘモグロビンと還元ヘモグロビンの吸収率又は反射率に違いが出るため、これを利用して生体内部の酸素飽和濃度を検出する。
具体的には、先ず、照明の変動やムラを正規化するため、IR1・g+IR2・h=Nの値でIR1信号とIR2信号をそれぞれ除する。係数g,hの値は、酸素飽和ヘモグロビンと還元ヘモグロビンのそれぞれの反射輝度の積分値が等しくなるように設定する。
次に、N値でIR1信号を除したIR1/Nと、N値でIR2信号を除したIR2/Nの2つの信号を用いて、図9に示すルックアップテーブルで酸素飽和濃度に変換する。このときの光源装置の波長帯域と術野カメラのカラーフィルタは、診断方法2の場合と共通になる。
2.共通化に必要な照明とカラーフィルタ
上述した診断方法1〜6で必要な光源装置の照明光の帯域特性と撮像装置のカラーフィルタ特性を集約すると、光源装置の照明光については、各診断方法の目的に応じて照明光の波長帯域を切り換えなくてはならないが、診断方法1,6についてはNB照明光を共通化でき、診断方法4,5はB照明光(SB照明光)を共通化でき、診断方法2,3はIR照明光を共通化することができる。
また、撮像装置のカラーフィルタについては、R,G,Bフィルタに対するカットオフ特性の制約はいずれも色度座標を広げる方向となるため、マトリクス変換(色空間の変換処理)を行うことにより、診断方法1〜6の全てに共通使用し得るように撮像した画像信号を補正する必要がある。また、IRフィルタについては、所定特性のものをRGBフィルタとは別に用意しなくてはならないが、診断方法2,3,6についてはIRフィルタを共通化することができる。
それゆえ、診断方法1〜6で共通に使用可能な撮像装置のカラーフィルタは、図10に示す特性を備えればよい。なお、診断方法1,2,3,6は、同時に撮像ができるが、診断方法1,2,3,6と診断方法4,5の組み合わせは、照明光の切換や撮像方式の違いから同時に撮像することができない。これらを組み合わせて診断を行う場合は、照明光を切換えて撮像し、その撮像画像をメモリに一旦保存しておき融合処理を行うようにする。
3.本発明の目的と構成
3−1.目的及び全体構成
本発明の目的は、上述した課題を解決するため、複数の特殊光画像診断に共通に使用できる内視鏡、術野カメラ、手術顕微鏡用カメラ等を提供することにある。加えて、上述した診断方法1〜6を組み合わせ、融合表示を行うことで、診断精度の向上や新しい診断情報を得ることが可能な画像診断装置を提供することにある。
本実施の形態に係る医療診断システムの全体構成を図11に示す。この医療診断システムは、特殊光を照射して診断対象である生体を照明する光源装置1と、光源装置1により光照射された生体を撮像する撮像装置3と、光源装置1と撮像装置3を制御するための設定値を含むコントロール信号を出力するコントロール部5と、を備えて構成される。
光源装置1は、複数の照明光源を備える光源部11と、診断方法1〜6に応じて照明光の波長帯域を切り換える照明光切換部12と、を備える。この光源装置1は、例えば、内視鏡用、術野カメラ用、手術顕微鏡用カメラ等の各光源装置及び無影灯等として用いることができ、それらに組み合わせることも可能である。
撮像装置3は、診断方法1〜6で共通に用いる色の異なる複数のカラーフィルタを配列した撮像用カラーフィルタ部31と、複数のカラーフィルタを共通化したことで生じる色の歪を補正するため、表示画像(RGB画像)用として選択した信号の色をマトリクス変換し、更に所定の画像を強調するための強調用信号を生成するマトリクス変換部32と、その強調用信号を用いて表示画像に含まれる血管構造等の必要な画像を強調する画像強調部33と、複数の診断方法に対応する複数の表示画像を適宜組み合わせて融合する融合処理部34と、を備える。この撮像装置3は、例えば、内視鏡、術野カメラ、手術顕微鏡用カメラ等として用いることができ、それらに組み合わせることも可能である。
特に、融合処理部34は、診断方法1〜6で撮像された各画像を同時に検出し、又は光源装置1の照明光切換部12により照明光を撮像フレームごとに切り換えて撮像された各画像を短時間にて検出を行い、それらの画像を融合する処理を行う。それゆえ、融合処理部34は上述した画像診断装置に相当する機能部として機能し、これにより、術者の診断効果を更に向上し、新しい診断方法の可能性を高めることができる。
3−2.光源装置
光源装置1の構成例を図12に示す。光源装置1は、上述した診断方法1〜6に対応して照明を選択し、又は撮像した画像フレームごとにその照明を電子的又は機械的に切り換えて、診断方法1〜6の画像を同時もしくは短時間に取得することができる。
上述したように、診断方法1,6については、NB照明を共通化することができる。診断方法4,5や診断方法3,4についても、それぞれ照明の共通化を行うことができる。また、それらの照明強度の調整及び切換方法については、照明光源となるLED(Light Emitting Diode)又はLD(Laser Diode)の駆動電流を調整することで対応できる。
そこで、図12(a)に示すように、W,NB,SB,IR1,IR2の各照明光源となる4つのLED21aと1つのLD21bを、透過膜を兼ねた各帯域の波長帯域フィルタ22を介して、複数に分束された光源用ライトガイドファイバ23(その他スコープライトガイドなどの多分岐ライトガイド)の各端面にそれぞれ接合し、コントロール部5からのコントロール信号に基づき、いずれかの照明光源を電子的に選択する。これにより、複数の照明光源を同時に駆動したり、画像フレームごとに照明光源を切り換えたりすることができる。なお、NB照明光源については、光強度の強いLD21bを用いる。
LED21a又はLD21bについては、既存製品を利用可能である。現在、青色と緑色等のLEDを併用した蛍光発光で、演色性の良いW照明用のLED、大光量出力のLED及びLDが開発されており、それらを流用できる。但し、これらのLED又はLDの場合、所望の光量を得るために大電流を流す必要があり、そのために発熱が起きる。そこで、発熱による劣化や破壊を防止するため、空冷用の放熱フィンを接続し、又は近接配置した放熱ファンで強制空冷を行うことが好ましい。
このような電子的切換方式を適用すると、本来であれば診断方法ごとに必要な照明光源が共用化されるので、光源装置1の機構寸法が極めて小さくなり、内視鏡又は腹腔鏡(以下、内視鏡等)の内部への格納が可能となる。また、この光源装置1を内視鏡等に格納した場合、光源用ライトガイドファイバ23の出射端面を内視鏡等内のスコープライトガイドファイバに直に接合できるので、内視鏡等から光源装置1までのライトガイドファイバの距離長に起因する照明光の減衰を省くことができる。
次に、照明光源を機械的に切り換える方式について説明する。その方式の構成例を図12(b)に示す。図中の500は、内視鏡等のスコープライトガイドファイバであり、図示しないスコープライトガイドファイバ用のコネクタによって光源用ライトガイドファイバ23に接続される。
光源用ライトガイドファイバ23は、LED21a又はLD21bの発光を内視鏡等のスコープライトガイドファイバ500に導くためのものであり、光源用ライトガイドファイバ23とLED21a又はLD21bとの間には、診断方法1〜6に応じた各帯域の波長帯域フィルタ22が透過膜を兼ねて配置されている。また、光源用ライトガイドファイバ23とスコープライトガイドファイバ500との間の各接合端面には、それぞれ透過膜24,501が配置されている。
このような透過膜24、光源用ライトガイドファイバ23、波長帯域フィルタ22、LED21a又はLD21bを1つの照明光源ブロックとし、共通化可能な診断方法ごとに構成する。例えば、診断方法1,6について1つの照明光源ブロックを形成する。
図中の25は、光源ブロックを切り換えるための回転切換機構部25である。回転切換機構部25は、2つの光源ブロックを平面基板に線対称状に配置し、図面の水平軸を中心に回転することにより、いずれかの光源ブロックに切り替える。3つ以上の光源ブロックを必要とする場合には、上述した平面基板を複数用意し、その複数の平面基板を互いの水平軸に沿って嵌合し、風車の羽根のような構造にする。
また、図中の26は、回転切換機構部25を回転移動させて光源ブロックを機械的に切り換える切換駆動部である。コントロール部5からのコントロール信号に基づき、回転切換機構部25の備える複数の光源ブロックのうちいずれかにスタティックに切り換えることにより、診断方法1〜6で用いる照明光をスコープライトガイドファイバ500を通じて内視鏡先端に供給する。
なお、図12(a)の電子的切換方式と図12(b)の機械的切換方式を組み合わせることも可能である。回転切換機構部25内の構成を、図12(a)に示す電子的に切り換える構成とする。具体的には、図12(b)に示した回転切換機構部25が備える複数の光源ブロックのうちいずれか、個々の光源ブロックが備える複数のLED及びLDのうちいずれかを電子的に切り換える。これにより、更に多様な光源ブロックの切換えを実現することができる。また、将来、新たな診断方法が開発されたときのために、新しいLED及びLDを追加搭載できる予備のスペースを設けておくことが好ましい。
3−3.術野カメラ用照明の切換方法
次に、光源装置1を術野カメラ用の複数診断用無影灯として用いる場合について説明する。無影灯の場合、W,NB,SB,IR1,IR2の各照明光源を2次元にモザイク配列する。
照明光源の2次元モザイク配列例を図13に示す。図13(a)に示すように、W,SB,IR1,IR2の各照明光源を行列状にモザイク配列し、1つの光源体27を構成する。その他、図13(b)に示すように、W,2つのSB(SB1,SB2)、IR1,IR2の各照明光源を正五角形の各頂点に配置する。また、図13(c)に示すように、Wの照明光源を中央に配置し、その周りにSB1,SB2の各照明光源とIR1,IR2の各照明光源と2つの予備照明光源(X1,X2)を配置する。図13に示したいずれの配列例であっても、放射された複数色の光が空間内で均一に混ざるように、IR1とIR2等、波長帯域の近い照明光源を分散配置する。そして、このような光源体27を1種類以上用いて、無影灯1’の光源形成面に高密度に配列する。
なお、駆動方法や撮像方法は内視鏡の実施例の場合と同じである。具体的には、図14に示すように、各色の照明光源をそれぞれ制御するための各コントロール信号により、診断方法1〜6に応じて照明光源を切り替える。また、LED21aの前段にLED駆動部28(定電流源駆動部)を配置し、診断方法1〜6に応じてLED駆動部28の駆動電流の大きさを変えることにより、照明光の強度(光量)を調整する。
3−4.手術顕微鏡カメラ用照明の切換方法
次に、光源装置1を手術顕微鏡カメラ用のファイバ照明装置として用いる場合について説明する。ファイバ照明装置の照明についても、上述した2次元モザイク配列した照明光源及び光源用ライトガイドファイバで構成する。具体的には、図15に示すように、光源用ライトガイドファイバ23の光出射端側をリング状に密集させることにより、ファイバ照明装置のリング照明29を形成する。なお、駆動方法や撮像方法については、上述した内視鏡及び複数診断用無影灯の場合と同じである。
4.撮像装置
4−1.撮像用カラーフィルタ部
続いて、撮像装置3について説明する。まず、撮像用カラーフィルタ部31について説明する。昨今、撮像素子の画素に多層膜の干渉フィルタをモザイク配列する技術が開発され、所望の帯域幅とカットオフ特性を有するカラーフィルタのモザイク配列が可能になっている。
4−1−1.カラーフィルタの配列例
本実施の形態に係る内視鏡、腹腔鏡、術野カメラ、手術顕微鏡用カメラに使用する撮像素子のカラーフィルタの配列例を図16に示す。このR,G,B,IRのカラーフィルタは、図10に示した波長帯域特性を備え、診断方法1〜6で共通使用可能である。
内視鏡診断においては、前述したように、癌を診断するうえで血管のテクスチャを観察することが重要である。表層粘膜と血管の反射の比は、図1に示したようにNB照明光が一番大きいため、内視鏡用撮像素子のカラーフィルタのモザイク配列は、図16(a)に示すように、NB照明光の反射光を受光するBフィルタの配列密度を一番高くする。そして、次に寄与度が高いGフィルタを2番目の配列密度とする。そして更に、寄与度が低いRフィルタをその次に低い配列密度とする。なお、IRはその透過性から生体内部の血管画像を検出できるが、その分、生体内部を透過する際の散乱によって分解能が劣化するため、IRフィルタについてはRフィルタと同じ配列密度とする。
また、診断方法2,6のように、IRフィルタが更にIR1,IR2というように2つのIRフィルタが必要になる場合には、図16(b)に示すように、Rフィルタに比べて血管検出の寄与度が高いIR1フィルタを同図(a)のRフィルタと入れ替え、生体深部の血管を検出するために散乱によって解像度が落ちるIR2フィルタと血管検出における寄与度がほとんど無いRフィルタとを同図(b)のようにIR1フィルタよりも低密度に配列する。
ここで、NB照明光の特性について説明し、特に術野カメラの場合におけるカラーフィルタ配列について説明する。NB照明光は、図1に示したように、生体からの反射率が小さく、狭帯域のため、一定の感度(SN比)を確保するには、従来よりも100倍(40db)程度の照明光量を必要とするが、内視鏡等の光源でその照明光量を実現するのは難しい。また、術者が照明を直視することもあり、安全上からも難しい。
そこで、内視鏡の照明は、通常のB照明の10倍程度の強度でNB照明を行い、不足する10倍(20db)をNB信号の増幅により稼ぐようにする。表示に必要なSN比は46db程度であるが、CMOS(complementary metal oxide semiconductor)等の撮像素子のSN比が通常70db程度あるので、これからNB信号の増幅度20dbを引くとSN比は50dbとなり、表示のためのSN比は確保可能である。
ところが、術野カメラの照明は、内視鏡のように専用照明ではなく、術者が観察する手術用の照明も兼ねるため、照明強度の強いNB照明光を使用することはできない。表層粘膜と血管からの反射率の比は、図1から分かるようにNB照明光に次いでG照明光が大きいため、術野カメラの場合は、G照明光を血管構造の強調信号に使用する。ゆえに、術野カメラの場合のカラーフィルタ配列は、図16に示したBフィルタとGフィルタを互いに入れ替えて、Gフィルタの配列密度を一番高くしておく。
4−1−2.多板プリズム方式
次に、撮像用カラーフィルタ部31を多板プリズム方式の撮像素子で構成する場合について説明する。
例えば、4板プリズム方式の撮像素子を用いる。4板プリズムの場合、図17に示すように、入射光を、その撮像素子内のIR反射ダイクロイックミラー311a〜G反射ダイクロイックミラー311cで分光し、IR,R,B,Gの各チャネルから信号をそれぞれ出力する。各チャネルの出力端面には、それぞれIR撮像素子312a〜G撮像素子312dが接合されている。なお、IR撮像素子とは、IRフィルタが画素上に積層された撮像素子である。他の撮像素子についても同様である。
この4板プリズム方式は、図16に示したモザイク配列の単版素子と比べると、カメラの大きさ、コストの点で劣るが、解像度、感度の点で優れ、カラーフィルタの特性も反射ダイクロックミラーによって所望の帯域特性が得やすい。そのため、腹腔鏡の外付けカメラ、術野カメラ、手術顕微鏡カメラ等に向いている。
また、この多板プリズム方式をモザイク配列方式と組み合わせることにより、新しい診断方法が今後開発されても、更に多様な特殊光の撮像に対応できる撮像装置3を提供することが可能になる。例えば、IR1,IR2というように2つのIRフィルタが必要な場合、図17の右側に示すように、IR撮像素子312aのIRフィルタ配列を更にIR1フィルタとIR2フィルタにモザイク配列する。
その他、2板プリズム方式の撮像素子を用いてもよい。図18では、2板プリズムによる内視鏡用5バンド撮像の撮像素子を示している。この2板プリズムの場合、入射光をIR反射ダイクロイックミラー311aで分光し、IR信号とRGB信号をそれぞれ出力する。また、IR1,IR2フィルタをモザイク配列したIR撮像素子312aと、一般的なRGB撮像素子312eとを各チャネルの出力端面にそれぞれ接合する。4板プリズムよりも簡易に構成できるので、内視鏡の先端に装着可能な大きさにすることもできる。また、IR撮像に製造が容易なIR専用のIR撮像素子312aを使用し、廉価なRGB撮像素子312eを使用するので、撮像用カラーフィルタ部31のコストを低減することもできる。
そのほか、3板プリズム方式の撮像素子を用いてもよい。図19に示すように、入射光をIR1反射ダイクロイックミラー311dとIR2反射ダイクロイックミラー311eとで分光し、IR1用白黒撮像素子302fとIR2用白黒撮像素子312gとRGB撮像素子312eとを各チャネルの出力端面にそれぞれ接合する。この場合にも廉価なRGB撮像素子を使用し、IR撮像に白黒撮像素子を使用するので、撮像用カラーフィルタ部31のコストを低減することができる。
4−2.マトリクス変換部
次に、マトリクス変換部32について説明する。上述したように、R,G,B,IR1,IR2フィルタのカットオフ特性の制約は、いずれも色度座標を広げる方向となるため、マトリクス変換部32では、診断方法1〜6の全てに共通に使用できるように画像信号を補正する。また、マトリクス変換部32は、所定の画像を強調するための強調用信号を生成する。
4−2−1.画像強調信号の生成
マトリクス変換部32の構成を図20に示す。マトリクス変換部32は、コントロール部から送信されるコントロール信号C1に従い、図11に示した前段の映像信号処理部からのR,G,B,IR1,IR2の各信号のうち1つ以上を画像強調信号Sとしてマルチプレクサ321で選択し、その画像強調信号Sの増幅度をコントロール信号C2に従い増幅度切換部322で設定する。
診断方法1の画像強調信号SであるNB信号(B信号)は、図1から分かるように、反射率が小さく、狭帯域のため、増幅器323の増幅度は、照明と分担して大きな増幅度を必要とする。また、診断方法1において、内視鏡や手術顕微鏡の場合は、NB信号(B信号)を選択し、特に術野カメラの場合は、G信号を選択する。
そのほか、診断方法2では、IR1信号若しくはIR2信号、又は(IR1+IR2)信号を選択する。診断方法3,4,5では、G信号を選択する。
一方、診断方法6の場合、正常部位と異常部位の酸素飽和濃度の違いを利用する。そのため、映像信号処理部からのR,G,B,IR1,IR2の各信号は、酸素飽和濃度変換部324にも入力される。そして、内視鏡用の場合、図21(a)に示すように、除算回路324aによりNB信号(B信号)をG信号で除し、除算回路324bによりR信号をG信号で除して、得られたNB(B)/G値とR/G値をルックアップテーブル324cで酸素飽和濃度値に変換した信号を選択する。
また、術野カメラ又は手術顕微鏡用カメラの場合は、図21(b)に示すように、乗算回路324dでIR1信号に係数gを乗じ、乗算回路324eでIR2信号に係数hを乗じて、それらを加算回路324fで合算し、2つの除算回路324g,324hにより、IR1・g+IR2・h=Nの値でIR1信号とIR2信号をそれぞれ除する。そして、得られたIR1/N値とIR2/N値をルックアップテーブル324iで酸素飽和濃度値に変換した信号を選択する。
ルックアップテーブル324c,324iでは、図9に示した変換テーブルを元に酸素飽和濃度値への非線形変換処理が行われる。その後、酸素飽和濃度に変換された信号はマルチプレクサ321へ入力され、図22に示す変換テーブルを用いて、その酸素飽和濃度信号の値に応じてG信号の値が非線形に変換される。
4−2−2.表示画像の生成
また、マトリクス変換部32では、画像強調信号Sと同時に表示用のRGB画像を得るため、上述したマルチプレクサ321、増幅度切換部322、及び増幅器323からなる回路と同一の回路を更に3つ備え、コントロール部から送られてくるコントロール信号C3に従って、R,G,B,IR1,IR2の各信号の中から、RGB表示に必要な信号をマルチプレクサ321a〜321cにより選択し、コントロール信号C3に従って、増幅度切換部322a〜322cで増幅器323a〜323cの増幅度を切換えて所定の増幅を行う。
診断方法1では、内視鏡や手術顕微鏡の場合、R信号,G信号に加えてNB信号をB信号として選択し、術野カメラの場合、RGBの各信号をそのまま選択する。診断方法2では、IR1信号をR信号として選択し、IR2信号をG信号として選択する。診断方法3,4,5では、G信号とR信号のみを選択し、B信号は使用しない。
診断方法6では、内視鏡用の場合、NB(B)/G値とR/G値をルックアップテーブルで酸素飽和濃度に変換した信号を、生体の色とコントラストが大きいG信号として選択し、術野カメラ又は手術顕微鏡の場合、IR1/N値とIR2/N値をルックアップテーブルで酸素飽和濃度に変換した信号を、同じくG信号として選択する。
次に、コントロール信号C4に従い、マトリクス変換処理部325で表示用のY,Cr,Cbの各信号へと、診断方法1〜6のそれぞれに対応したマトリクス変換を行う。狭帯域のNB信号と、短波長側を480nmでカットしたG信号で撮像された画像は、BとGの色度座標の範囲がそれぞれ外側に広がるため、Bradford変換やCAT02変換、又はCIECAM02変換等を応用した色空間の補正を兼ねて、Y,Cr,Cbの各信号へマトリクス変換を行う。
なお、診断方法1〜6に応じて複数の診断画像を用いて画像の融合処理を行う場合、複数の強調信号とRGB信号が必要になるため、その数の分だけマトリクス変換部32と画像強調部33を用意し、各々のコントロール信号に従って並列に処理を行うことになる。
4−3.画像強調部
4−3−1.画像強調処理の概要
次に、画像強調部33について説明する。ここでは、診断方法1での血管と粘膜の画像を強調する例を用いる。
観察者が、内視鏡画像等で血管構造を認識するときに、無意識に捉える第1の特徴は、表層粘膜と血管のテクスチャの違いである。画像強調部33は、診断方法1〜6における画像のテクスチャを構成する3つの要素を強調し、その要素を阻害する2つの要因を抑制することによって、画像のテクスチャを比較的簡便な方法で強調する。
強調する要素の1つ目は、診断方法1においては、表層粘膜と血管の反射輝度の比(コントラスト)を強調する。具体的には、もともとその2つの比が大きいNB信号をそのための強調信号として用い、NB信号のダイナミックレンジ(分散)を表示範囲に最適化し、それに非線形な変換を行うことで、表層粘膜と血管のコントラストの最大化を行う。
強調する要素の2つ目は、診断方法1においては、表層粘膜と血管の画像の2次元周波数成分の違いを強調する。表層粘膜と血管の2次元周波数成分の違いを拡大することでテクスチャを強調する。テクスチャを理論的に捉える手法としては、同時共起行列やフラクタル解析等の優れた解析手法があるが、本実施例の画像強調部33では、ハードウェアの実現性と効果とのバランスを考えて、NB信号の2次元周波数成分の違いを強調する。
強調する要素の3つ目は、診断方法1においては、表層粘膜と血管の色の違いを強調する。具体的には、上記強調信号を用いて、色度座標上の彩度と色相の違いを拡大する。
また、血管画像のテクスチャを劣化させる大きな要因として、血管の上層に位置する表層粘膜による照明光及び反射光の吸収と散乱がある。深部にある血管ほどコントラストが落ち、ボケた画像になる。曇り硝子を通して血管を観察するのと同様である。そこで、画像強調部33では、テクスチャの阻害要因である散乱によるボケを修正する。
また、消化器の内側を観察する内視鏡では、消化器の構造が管腔状のものが多く、照明が点光源であるため、照明に近い周辺の画像が明るく、照明から遠くなる画像の中心部が暗くなるという照明ムラが起きる。また、腹腔鏡等も点光源に近いため周辺減光によって照明ムラが起きる。これらの照明ムラは、いずれも低周波数成分で画像信号に乗算されているため、照明の暗い部分の画像のコントラストを劣化させている。そこで、画像強調部33では、この照明ムラを抑制し、コントラストを回復させる。
4−3−2.画像強調処理の詳細
上述に従った画像強調部33の処理プロセスの概要を図23に示す。具体的には、画像強調部33では、(1)照明ムラの抑制、(2)周波数成分の違いの強調、(3)ボケの修正、(4)コントラストの強調、(5)輝度の強調、(6)色度の強調について、順次実行する。
マトリクス変換部32で選択された増幅後の画像強調信号Sは、図24に示す画像強調部33に入力される。図24と後述する図35は、画像強調部33の構成を示している。画像強調部33では、照明ムラの抑制がなされ、テクスチャの基となる周波数成分の強調が行われた後、輝度と彩度と色相の強調が順次行われる。
以下、画像強調部33の各処理プロセスの実施例を説明する。診断方法1のNB信号(=画像強調信号S)を用いて血管構造を強調する実施例を用いて説明を行う。
強調信号にNB信号を用いる理由を先ず説明しておく。E.H.Landによって提案された視覚モデル(Retinex)によれば、人が画像のコントラストを感じる要素は、注目画素と近傍画素との輝度の差ではなく、輝度の比となる。図1に示した表層粘膜と血管の反射率(反射輝度)の比をみると、表層粘膜と血管の反射輝度の比は400〜440nmのNB帯域で最も大きくなるので、NB信号を用いて表層粘膜と血管のテクスチャの違いを強調すれば、最も良い結果が得られることになる。
(1)照明ムラの抑制
マトリクス変換部32で選択されたNB信号は、最初に対数変換部331に入力され、対数変換部331で60dbの対数変換を行う。NB信号のSN比を60dBとしたとき、ノイズレベルを1(log(1)=0)として、NB信号の飽和値1000が3(log(1000))になるように、60dBの対数圧縮が行われる。対数変換されたlog(NB)の信号は、次に照明ムラ抑制部332に入力される。
ここで、対数圧縮を行ってから、照明ムラの抑制処理を行う理由について説明する。図25(a)に示すように、NB信号は、均一照明を行ったときのNB’信号に照明ムラLが掛算されたNB=NB’×Lという形の信号になっている。そのため、図26に示す照明ムラ抑制部332の2次元ローパスフィルタ332aで低周波成分である照明ムラを検出して減算(デコンボリューション)しても、図25(b)に示すように、照明ムラによって劣化したコントラストを回復することはできない。
そこで、図25(c)に示すように、先ずNB信号に対して対数変換を行い、log(NB)=log(NB’×L)=log(NB’)+log(L)という照明ムラが加算された形の信号にしてから、図26の2次元ローパスフィルタ332aで低周波成分である照明ムラlog(L)を検出し、乗算回路332bで係数1/m(0<m≦1)を乗じ、減算回路332cでlog(NB)から減算し、その後に逆対数変換を行う。その結果、図25(d)に示すように、照明ムラを抑制すると同時に、照明の暗い部分の劣化したコントラストNB’を回復させることができる。
このとき、内視鏡の照明ムラの周波数成分は、画像のナイキスト周波数に比して1000分の1以下という低い周波数成分であるため、対数圧縮(非線形変換)によって発生する高調波を含めて、2次元ローパスフィルタによって照明ムラを分離して抑制することができる。
なお、係数1/mを乗ずる理由は、照明ムラ抑制によって暗い部分のコントラストを回復させると、ノイズも持ち上がるため、照明ムラの抑制とSNの劣化のバランスを調整するためである。
また、2次元ローパスフィルタによって検出した照明ムラでNB信号を除して照明ムラを抑制してもよいが、後に説明する血管構造のテクスチャを示す周波数成分の強調や、ダイナミックレンジの最適化によるコントラストの強調を行う上で、NB信号を対数変換してから行うことで回路規模を縮小することができる。
また、この2次元ローパスフィルタにエッジ保存型のガウシアンフィルタ(バイラテラルフィルタ)を採用し、人の目の高解像視野角(視野の中心から±1度の範囲)に対応する表示画面上の画素数(4K表示装置を有効視野角30度で観察するならば、約256×256画素に相当する画素数)に応じて、カットオフ周波数を適宜設定することにより、照明ムラの抑制と同時に、血管画像のエッジにおいてもハロー(輪状光)を起こさずに、血管画像のコントラストを強調することができる。
なお、人の目は、上述した高解像視野角の範囲(±1度に対応する2度の範囲)を高速に走査し、脳内で画像を合成し、有効視野全体で高精細画像を得ており、また、その範囲の明るさに応じて瞳孔径を瞬時に調整し、1:1000000のダイナミックレンジを得ていることを付言しておく。
(2)周波数成分の違いの強調
照明ムラが抑制されたNB信号は、次に、図24の周波数成分強調部333に入力され、血管のテクスチャを構成する周波数成分の差が強調される。以下、その原理を説明する。
人の目がコントラストを感じる要素は、前述したように、注目画素と近傍画素との輝度の差ではなく輝度の比であるが、これは画像を2次元周波数成分で表現したときも同じで、表層粘膜と血管のテクスチャの違いを強調するには、その特徴となる2次元周波数成分の差ではなく比を拡大しなければならない。その理由を次に説明する。
2次元周波数成分を直交軸とした多次元空間において、表層粘膜と血管の各画像の周波数成分の分布クラスタ(表層粘膜と血管の各画像の周波数成分値を事前に複数抽出して周波数成分を多次元直交軸とする座標空間にプロットした分布クラスタ)を模擬的に表したものを図27に示す。この2つの分布クラスタの主成分分析を行って求めた第1主成分軸(F軸)が、クラスタ全体の分散の大きさ(該2つの分布クラスタの全体の大きさ)が最も大きく、表層粘膜と血管の画像のテクスチャの特徴の違いを最もよく表す周波数成分ベクトルの方向となる。このF軸の方向に、その2つの分布クラスタの比k/j(k;基準点から血管画像の周波数ベクトル分布までの大きさ,j;基準点から表層粘膜画像の周波数ベクトル分布までの大きさ)を拡大することで、表層粘膜と血管のテクスチャの違いを強調することができる。
但し、バンドパスフィルタでF軸の第1主成分を抽出し、係数を乗じてNB信号に加算してみても、F軸に投影された2つのクラスタの比j/kを拡大させることはできない。その比j/kを拡大させるには、F軸方向の周波数成分に対して非線形な処理を加えなくてはならない。
以上に基づき、表層粘膜と血管の周波数成分の違いを強調する実施例について以下説明する。周波数成分強調部333の構成を図28に示す。同図の333Aは、周波数成分の違いを強調するための回路であり、333Bは、ボケを補正するための回路である。
周波数成分強調部333は、バンドパスフィルタ333aで証明ムラ抑制後のlog(NB)信号からF軸方向の周波数成分log(F)を抽出し、非線形変換回路333bの備えるルックアップテーブルを用いて非線形変換を行い、乗算回路333cで係数pを乗じた後に、加算回路333dで元のlog(NB)信号に加算する。
非線形変換回路333bでは、血管画像に比べてF軸方向の周波数成分の振幅が小さい表層粘膜の強調量を少なくし、振幅が大きい血管画像のF軸方向の周波数成分の強調量を大きくする。ゆえに、非線形変換回路333bは、逆γ補正的な処理が必要となる。この補正処理により、2つのクラスタ間のF軸方向の周波数成分の比を拡大させることができる。なお、非線形変換回路333bでの非線形変換の特性、乗算回路333cでの係数pは、事前の検証により半固定的に設定される。
上述した処理を簡便に行う回路構成例を図29に示す。照明ムラ抑制後のlog(NB)信号から、バンドパスフィルタ333hでF軸方向の周波数成分log(F)を抽出し、乗算回路333iで係数tを乗じることでlog(F)tとし、加算器333jで元のlog(NB)信号に加算する。これにより上記と同様な効果を得ることができる。
血管や表層粘膜のテクスチャはフラクタル構造であるため、その画像の周波数成分の帯域特性は、ナイキスト周波数を正規化してみると、撮像の倍率や撮像部位によらず似たような帯域特性となり、撮像の倍率や撮像部位で大きく変わることがない。ゆえに、図28,図29に示したバンドパスフィルタ333aをデジタルコンボリューションフィルタで構成すれば、その2次元マスク係数を撮像倍率や撮像部位に応じて切り換える必要がなく、比較的簡便な回路で効果の高いテクスチャの強調が可能になる。血管や消化器の構造がフラクタルである理由は、生物の進化の過程において、占有する体積をなるべく小さくし、必要な物質の供給・交換のために表面積をなるべく大きくするというニーズから、フラクタル構造に行き着いたといわれている。遺伝子の情報量もフラクタル次元により少なくて済むといわれている。
(3)ボケの修正
周波数成分強調部333では、上記の血管画像のテクスチャ強調に加えて、図28に示したように、ボケ補正部333Bにおいて、血管の上層部に位置する表層粘膜の散乱によって起きる画像のボケを修正する輪郭強調を行う。具体的には、ハイパスフィルタ333eで周波数成分強調後の信号からボケで失われた高周波成分を抽出し、乗算回路333fで、その抽出した高周波数成分に係数qを乗じ、加算回路333gで係数qを乗じた信号を元の信号(周波数成分強調後の信号)に加算する。
ここで、バンドパスフィルタ333aとハイパスフィルタ333eの具体的な回路構成について説明する。これらのフィルタには、実時間で動画を処理するために、2次元コンボリューションフィルタを用いる。
例えば、図30(a)に示す5×5行の2次元係数を用いて画像をコンボリューションすれば、フーリエ対の関係から図30(c)に示すグラフのバンドパスフィルタを実現できる。このバンドパスフィルタを用いて、対象画素を含む計25マスの各画素と5×5行の25マスの各2次元係数とをそれぞれ積算し、合算した値を対象画素の値とする。
図30(c)は、画像の1次元方向の周波数特性{1−cos(2πf/Nf)}を示している。Nfは、ナイキスト周波数を示す。バンドパスフィルタ333aの特性は、図27に示したF軸方向の周波数ベクトルの周波数成分と一致させるのが理想ではあるが、回路規模とのバランスを考慮し、図30(a)に示したバンドパスフィルタで近似してもテクスチャ強調の効果を高く得ることができる。
また、図30(b)に示す3×3行の2次元係数を用いて画像をコンボリューションすれば、フーリエ対の関係から図30(c)に示すグラフのハイパスフィルタ{1−cos(πf/Nf)}を実現できる。
以上説明した2つのフィルタの2次元係数を適宜調整することで、図31に示すようにテクスチャの強調とボケの修正を行うことができる。
(4)コントラストの強調
照明ムラが抑制され、テクスチャを示す周波数成分が強調され、ボケが修正されたlog(NB)信号は、図24のコントラスト強調部334に入力される。そして、このコントラスト強調部334において、log(NB)信号はフレームメモリ334aに一旦格納され、更に平均値検出部334bでlog(NB)信号の平均値log(a)が算出される。その後、その平均値log(a)は加算回路334cに入力され、元のlog(NB)信号に加算される。これにより、log(NB)信号はlog(NB・a)信号となるので、NB信号がa倍(aは、logNBの利得となる)されたことになる。つまり、図32に示す片対数グラフで見ると、縦軸に沿ってlog(NB)のグラフをlog(a)だけ平行移動したことになる。
次に、log(NB・a)信号は、図24に示したようにフレームメモリ334dに一旦格納され、更に分散値検出部334eで平均値log(a)を用いて信号の分散値γが算出される。その後、その分散値γは乗算回路334fに入力され、元のlog(NB・a)信号に乗算される。これは、図32に示した片対数グラフで見ると、log(NB)の傾きをγだけ変えたことになる。これにより、信号はlog(NB・a)γとなるので、log(NB・a)信号に対してγ補正を施したことになる。
以上の処理によって、log(NB)信号のコントラストが最適化されることとなる。なお、画面フレームが変わると、その都度、利得aと補正γの調整が必要になる。そこで、信号のダイナミックレンジ(分散)をディスプレイ表示範囲(表示装置のダイナミックレンジ)に収まるように最適化する。
具体的には、図24の平均値検出部334b内の累積加算回路で1フレーム分のlog(NB)信号の累積加算を行い、その値を全画素数で除することで1フレーム分の平均値(A)を算出し、その値と図32に示すディスプレイ表示範囲の中心値(1.5)との差log(a)(=A−1.5)を求め、それを加算回路334cで元のlog(NB)信号に加算することにより、log(NB)信号の1画面の平均値が図32に示したディスプレイ表示範囲の中心となるように、利得aの自動制御AGC(automatic gain control)を行う。
また、分散値検出部334eでlog(NB)信号の分散を検出して表示範囲との比γを求め、その比γの平均値を乗算回路334fで乗算の中心としてlog(NB)信号に乗算することで、図32に示したlog(NB)の1画面の輝度の分散(標準偏差)が、同図に示すディスプレイ表示範囲に収まるように、ダイナミックレンジの自動制御ADC(Automatic Dynamic range Control),ALC(Automatic Latitude Control),ACC(Automatic Contrast Control)を行う。なお、分散値γについては、log(NB)信号の1画面分の二乗平均平方根の値を用いる。
ここで、補正γが必要な理由を以下に説明する。
前述したように、人の目がコントラストを感じるパラメータは、輝度の差ではなく輝度の比である。表層粘膜と血管の反射輝度の比を拡大するには、図32の片対数グラフに示す表層粘膜と血管の2つのクラスタ間の比を拡大しなくてはならない。利得aを調整(=log(a)を加減算)しても、2つのクラスタは上記対数グラフの縦軸に沿って平行移動するだけで、2つのクラスタ間の比は変らない。傾きを変える(つまり補正γを行う)ことで、はじめて2つのクラスタ間の比を変えることができる。傾きを上げるということは、NB信号に逆γ補正という非線形な処理を施すことになる。
いま、血管からの反射輝度を式(1)で近似することができる。
第1項は上層粘膜からの反射輝度を表し、第2項は血管からの反射輝度を表している。I0は照明輝度、βは粘膜の吸収係数、xは表層から血管までの粘膜の厚み、Rは粘膜の単位厚み(Δx)あたりの反射係数、β’は血管の吸収係数、x’は血管内の深さ、R’は血管の単位厚み(Δx’)あたりの反射係数を示す。但し、結像系のNA(Numerical Aperture)と照明の拡散による影響は、微量のため省略してある。
図33(a)に示すように、血管の上層部には表層粘膜が位置するので、血管に到達するNB照明光の強度は、血管が深くなるに連れ、上層粘膜の吸収により急速に減衰する。また、血液の吸収係数は表層粘膜に比べて大きいため、表層にある血管の反射輝度は式(1)となるが、内部にある血管の反射輝度は、生体表層から血管の深さまで表層粘膜の反射を積分した第1項で近似することができる。
これをグラフに表すと、図33(b)に示す実線のグラフになる。これを、破線に示すように逆γ補正することで、内部の血管画像のコントラストを回復することができる。なお、この補正のレベルは、表層粘膜のコントラストも同時に強調されるため、強調とのバランスを事前検証で決める。
ここまで、フレームメモリを用いたコントラスト強調部334について説明した。その一方で、フレームメモリを用いることなく帰還型で構成してもよい。フレームメモリを必要としないネガティブ・フィードック方式の利得とダイナミックレンジの自動制御方式の構成を図34に示す。
逆対数変換部334gからの出力信号は、平均値検出部334hと分散値検出部334iに入力され、平均値検出部334hで平均値log(a)が算出される。また、その平均値log(a)は分散値検出部334iに入力され、分散値検出部334iで分散値γが算出される。そして、平均値log(a)は比較回路334jで参照信号ref1(平均値log(a)の上限閾値)と比較され、小さい方が平均値log(a)として加算回路334lへ入力される。また、分散値γは比較回路334kで参照信号ref2(分散値γの上限閾値)と比較され、小さい方が分散値γとして乗算回路334mへ入力される。
その後、加算回路334lにより、次の画像フレームのlog(NB)信号に平均値log(a)が加算され、a倍されたlog(NB・a)信号が乗算回路334mへ入力される。また、乗算回路334mにより、log(NB・a)信号に分散値γが乗算され、γ補正が施されたlog(NB・a)γ信号が逆対数変換部334gへ入力される。その後、逆対数変換部334gにより、log(NB・a)γ信号が(NB・a)γ信号に逆対数変換され、平均値検出部334hと分散値検出部334iへ入力されるとともに、コントラスト強調部334から出力される。
この方式の場合、時間的に前の画像フレームの画像情報に基づく画像処理を後の画像フレームに適用するので、数フレーム分の遅延時間が生じるが、フレームメモリを用いないので低コストで実現できる。なお、図34に示した逆対数変換部334gは、図24の逆対数変換部335に相当する。
(5)輝度の強調
以上の制御がなされたlog(NB・α)γ信号は、図24の逆対数変換部335で(NB・α)γ信号(以下、NB’信号)に逆対数変換される。このNB’信号を用いて、血管の構造を白黒画像として表示してもよいし、擬似カラー化を行って表示画像と融合表示してもよい。また、医師が日頃見慣れている内視鏡画像の色調を残したまま、血管画像の輝度だけを強調して表示してもよい。更に、以下に述べるように、輝度と彩度と色相をそれぞれ独立に強調して表示してもよい。その方法について以下説明する。
先ず、輝度の強調方法について説明する。図24に示すように、輝度強調部336において、乗算回路336aでNB’信号に係数cを乗じ、マトリクス変換部32から出力された撮像画像(Y,Cr,Cbの各信号に変換された表示用の基準画像)のY信号に乗算回路336bで係数dを乗じて、加算回路336cで加算を行い、Y’=Y・d+NB’・cとしてY信号の強調を行う。このY’信号を表示用の輝度信号とする。なお、係数c,dは、c+d=1の関係にあり、係数cの値を変えることでYとNB’の成分のバランスが変り、強調量を変えることができる。係数cは事前検証で求められ、コントロール部からのコントロール信号C5によって、半固定的に設定される。
また、彩度については、輝度信号を正規化したときの値であるため、輝度信号の変化分となるY’/Yを除算回路336dで算出し、乗算回路336eと乗算回路336fにおいて、そのY’/Y値をCr信号とCb信号にそれぞれ乗じることで、輝度を強調したことで起きる彩度の変化を取り除き、輝度信号のみを強調することができる。
(6)色度の強調
次に、輝度に続いて、彩度と色相を別々に強調する方法について説明する。
図35に示すように、色度強調部337において、先ず、Cr’信号(=Cr・Y’/Y)とCb’信号(=Cb・Y’/Y)をルックアップテーブル337aに入力し、色空間の変換情報を用いて、彩度√(Cr2+Cb2)の算出と、色相角θ=sin−1(Cr/√(Cr2+Cb2))の算出を行う。
また、Y/Y’値(輝度信号の強調量)に、コントロール部から送信される係数eを乗算回路337bで乗じて強調量を調整し、その信号を乗算回路337cで彩度√(Cr2+Cb2)に乗じることで彩度の強調を行う。なお、係数eは、診断方法1〜6において事前検証で求められたものである。
次に、乗算回路337eでY/Y’値に係数fを乗じた信号を、乗算回路337eで色相角θに乗じることで、色相の強調を行う。係数fは、診断方法1〜6において事前検証で求められたものである。
最後に、彩度と色相が強調された信号をルックアップテーブル337fに入力し、Cr’’信号とCb’’信号に再変換する。なお、乗算回路337g、加算回路337h、係数発生回路337iの各処理については、融合処理部34で説明する。
(7)診断方法2〜6における画像強調処理
ここまで、診断方法1の血管構造を強調するための処理を例にして、画像強調部33の処理を説明したが、その他の診断方法2〜6についても同様に、それぞれの特殊光撮像で得られた信号を強調信号として、目的に応じた画像の強調を行うことができる。
例として、診断方法4の場合を説明する。癌と正常組織の自家蛍光のスペクトルの違いをみると、正常組織は、コラーゲンからの緑色蛍光が強く起こるが、癌組織は、正常組織に比べて血液量が多く、また酸素飽和濃度が低いため、血液中のポルフィリンが増加して赤色蛍光が増え、フラピンの還元が起きて緑色蛍光が減少する。また、癌部では粘膜上皮が肥厚するため、緑色蛍光がそれに吸収されて減少することが起きる。
このような診断方法4の場合、正常組織と癌組織における緑色蛍光の輝度比が、赤色蛍光のそれよりも大きいため、G信号を強調信号として用いる。強調処理は、前述した診断方法1の場合と同じである。処理中に用いる各係数は、事前検証で診断方法4として求められたものが、コントロール部から送られ使用される。
コラーゲン以外にも、生体組織で自家蛍光を発生する物質は数多くある。例えば、エラスチン、NADH(ニコチンアミド・アデニン・ジヌクレオチド酸)、FAD(フラビン・アデニン・ジヌクレオチド酸)、ポルフィリン等は蛍光診断において重要といわれている。コラーゲン、エラスチンは粘膜下層の結合組織に多く含まれ、NADH,FADは細胞のエネルギー代謝に関わるミトコンドリアに、ポルフィリンは進行癌に多く含まれるといわれている。
これらの蛍光物質は、それぞれ励起波長と蛍光波長が異なるため、診断目的に応じて、新たな強調信号を発見できる可能性があり、診断目的に応じて画像の強調信号が明確になれば、前述同様、画像強調部33によって画像の強調処理が可能になる。
その他の診断方法2,3,5,6についても、強調する信号はそれぞれ自明である。診断方法2では、IR1信号とIR2信号をそれぞれ、又は(IR1+IR2)信号を強調用信号として使用し、診断方法3ではIR2信号、診断方法5ではG信号、診断方法6ではB信号から酸素飽和濃度にルックアップテーブルで変換した信号、又はIR信号から酸素飽和濃度に変換した信号を使用すればよい。マトリクス変換部32のマルチプレクサ321(図20参照)で、目的に応じて、それらの信号を選択し、画像強調部33によって前述同様の強調処理を行い、それぞれの診断精度を向上させることが可能になる。
術野カメラの場合は、前述したようにNB照明光が使えないため、B信号に次いで反射率の比が大きいG信号及びIR信号を画像強調信号として利用する。術野カメラのRGB画像とIR画像を融合する方法は、融合処理部34で詳述する方法と同じである。
4−4.融合処理部
図11に示した融合処理部34の構成を図36に示す。融合処理部34では、診断方法1〜6の画像情報を適宜組み合わせて融合処理を行うことで、診断効果を向上し、新しい診断効果を生み出すことを目的とする。また、融合処理部34は、融合処理のための各種係数や関数の設定が、図11のコントロール部5を介して事前の検証によって可能な構成となっている。以下、その実施例について説明する。
4−4−1.診断方法1,4の画像の融合処理
診断方法1,4の画像融合処理の必要性を先ず説明する。診断方法1では、癌の発生部位独自の血管構造を観察して、癌の診断と治療方針の決定ができるが、診断方法4の自家蛍光画像は、その癌の輪郭を明瞭に検出できるといわれている。そこで、診断方法1,4の画像を融合表示することで、それぞれの診断方法で得られる情報の相乗効果が期待できる。
画像の診断は、医学上の様々な要素が絡むので、融合の方法や条件を医師の検証で決定することになるが、一例として診断方法1,4の画像の融合処理の実施例について以下説明する。
診断方法1,4の融合処理の方法は、医師が日ごろ見慣れている診断方法1の画像を基準として、診断方法4の自家蛍光画像の彩度と色相を適宜調整して融合するのが良い。
先ず、診断方法1と診断方法4は同時に検出できないため、前述したように、画像フレーム単位で照明光を切換えて撮像し、融合処理部34のフレームメモリ34a,34bを利用して診断方法1の(Y1’,Cr1’’,Cb1’’)と診断方法4の(Y4’,Cr4’’,Cb4’’)を同時に取得する。なお、Yn’(n;診断方法の識別子)は、図24の輝度強調部336から出力された輝度強調後のY’信号であり、Crn’’とCbn’’は、図35の色度強調部337から出力された彩度及び色相強調後のCr’’信号とCb’’信号である。
次に、コントロール部からのコントロール信号C6に基づき、マルチプレクサ34cで(Y1’,Cr1’’,Cb1’’)と(Y4’,Cr4’’,Cb4’’)を選択し、コントロール信号C7に従い融合係数発生部34dで発生させた融合係数a〜fを、乗算回路34e〜34jでそれぞれの信号に乗じ、加算回路34k〜34mで加算することで、診断方法1と診断方法4の画像の融合処理を行う。但し、輝度信号は、診断方法1の画像を優先するためにY1’信号のみを使用する。具体的には、乗算回路34eの係数を1に設定し、乗算回路34fの係数を0にしてY1’信号のみを選択する。
融合処理のための彩度と色相の調整は、診断方法1の画像をいじらず、診断方法4で得られた画像の彩度と色相を調整して、融合時に癌の輪郭がコントラストよく表示できるように融合する。具体的には、図35に示した診断方法4用での色度強調部337において、コントロール部からのコントロール信号C8に従って係数発生回路337iで生成した係数gを、乗算回路337gで診断方法4の画像の彩度に乗じ、同じく係数発生回路337iで生成した定数hを加算回路337hで色相角に加算することで、診断方法4の画像の彩度の調整と色相を回転させる調整を行う。これにより、癌の部分の色調そのままとし、それ以外の正常組織の部分を赤色とコントラストの大きい緑色系統の色調とすることで、癌の輪郭を観察することができる。
なお、図35に示した融合係数e,f及びg,hを含め、以上に述べた各係数や関数変換や座標変換のためのコントロール信号は、医師との事前検証で決められ、図11に示したコントロール部5に設定される。コントロール部5は、各係数を医師が調整して事前検証できるように、ユーザーとのインタフェース機能と、事前検証によって決定した各係数や関数変換や座標変換のためのコントロール信号を記憶する機能を保有している。
その他、診断方法1,3、診断方法1,5、診断方法1,6の各融合処理についても、上記と同様に、医師が日ごろ見慣れている診断方法1の画像を基準として、診断方法5又は診断方法6の蛍光画像の彩度と色相を適宜調整して融合することができる。
4−4−2.診断方法1,2の画像の融合処理
次に、診断方法1のNB信号による表面血管画像と、診断方法2のIR1信号,IR2信号による生体内部の血管画像を融合表示する実施例について説明する。
診断方法1のY1’信号と診断方法2のY2’信号の振幅を正規化し、生体の深さを対数メモリで表すと、吸収散乱による減衰は負の指数関数であるため、図37(a)に示すように2つの直線で表すことができる。そして、浅い部分で反射したY1’信号とY2’信号は、利得と分散(ダイナミックレンジ)が制御された後は波形も振幅も相似となる。ゆえに、輝度信号の比Y1’/Y2’は、図37(b)に示すように、表面からの反射は1に近い分散となり、深くなるにつれてY1’信号が減衰して急速に小さくなるため、生体内深さ1〜3mmで0に近づく。
この違いを利用して、画素ごとに画像の深さを判別し、生体の浅い部分については、医師が日ごろ見慣れている診断方法1の画像を優先して表示し、深い部分については診断方法2の画像を優先して表示する。その処理について以下説明する。
図36に示したように、除算回路34nで診断方法1のY1’信号と診断方法2のY2’信号の比Y2’/Y1’を求め、融合係数発生部34dのルックアップテーブルを用いて、図37(b)に示すように、Y2’/Y1’の値によって(生体の深さによって)変化する2つの関数F1とF2を生成する。この2つの関数はF1+F2=1の関係にある。融合係数発生部34dのルックアップテーブルには、その関数を生成するための関数及びデータが格納されている。
そして、この2つの関数を乗算回路34e,34fでY1’信号とY2’信号にそれぞれ乗じ、加算回路34kで加算行うことで、診断方法1と診断方法2の輝度信号の融合を行う。この関数変換の特性は、医師の事前検証で決められ、図11のコントロール部5に格納されている。
Cr’’,Cb’’信号についても同様に、2つの関数F1,F2を乗算回路34g〜34jでCr1’’信号とCb1’’に乗じてから、加算回路34l,34mで加算することで、診断方法1,2の色度信号の融合を行う。
この処理により、診断方法1で検出できない生体内部の血管を、診断方法2のIR1信号とIR2信号で検出し、診断方法1の画像に融合表示することが可能になる。
次に、診断方法2のカラー表示について説明する。
図5より、酸化ヘモグロビンと還元ヘモグロビンの吸収係数は810nm付近で反転しているので、診断方法2のIR1信号を表示画像(RGB画像)のR信号に割り当て、IR2信号をG信号に割り当てると、動脈と静脈の色相のコントラストを上げることができ、動脈と静脈を分離して観察しやすくなる。診断方法1で得られる血管画像は、生体表層であるため静脈がほとんどで、赤黒い色で表示されるため、上記の割り当てを行うことで、診断方法2の静脈の色相を診断方法1で得た静脈の色相に合わせる調整が容易になり、医師が通常観察している診断方法1の画像と違和感のない表示が可能になる。動脈も、赤色の多い静脈や粘膜に対して、色のコントラストを出しやすい橙色から黄色を経て緑色へと、緑色が多い色度への調整が、図35に示した色度強調部337によって容易になる。
以上の処理により、生体の浅い部分については、医師が日ごろ見慣れている診断方法1の画像を優先して表示し、深い部分については、診断方法1の画像をある程度残しつつ、診断方法2の画像を優先して表示することが可能になり、観察上違和感のない表示が可能になる。
4−4−3.診断方法1,2,4の画像の融合処理
次に、診断方法1,2,4の画像の融合処理方法について説明する。診断方法1,2,4の画像の融合処理の場合、図38に示すように、融合処理部34を多段に構成する。
先ず、診断方法1,2の融合処理を、1つ目の融合処理部34’で上記と同様に行い、そこで得た画像と診断方法4の画像を、融合処理部34’に縦列接続した2つ目の融合処理部34’’で融合処理を行うことで、診断方法1,2,4の画像の融合処理を行うことが可能となる。
その他の診断方法の組み合わせによる融合処理や、また、新しい特殊光観察の診断方法が開発されたときの融合処理についても、事前検証でコントロール信号を設定することで、照明光を切り替え、強調信号を選択し、マトリクス変換部や画像強調部を並列に使用して画像の強調を行い、融合処理部を並列もしくは縦列に使用して、画像の融合処理を行うことが可能になる。
4−4−4.診断方法1,2,6の画像の融合処理
最後に、診断方法1,2,6の画像の融合処理方法について説明する。この融合処理の1つ目の目的は、医師が日ごろ見慣れている診断方法1の癌画像の輝度と色度を保持したまま、癌と正常部との輪郭を明瞭に見分けることができる融合処理を行うことにある。また、2つ目の目的は、手術のナビゲーションに応用できるように、動脈を見分けることができる融合処理を行うことにある。
そこで、図39に示すように、先ず、診断方法1,2の融合処理を前段の融合処理部34’で行い(「4−4−2.診断方法1,2の画像の融合処理」参照)、そこで得た診断方法1,2の融合画像と、診断方法6で得た酸素飽和濃度の擬似カラー画像(彩度と色相を調整した後の画像)の融合処理を、縦列に接続した後段の融合処理部34’’で更に行うことで、上述の目的を達成する。
酸素飽和濃度の擬似カラー画像の作成は、診断方法6の酸素飽和濃度値をG信号に割り当てることで行なう。これにより、診断方法2の擬似カラー画像作成の際に、静脈と動脈に割り当てた色度と一致させることができるので、動脈を見極める際の相乗効果が期待できる。
そして、診断方法1の癌画像の輝度と色度を保持するため、図22に示したように、癌の酸素飽和濃度が30%以下のときのG信号の値をゼロとし、酸素飽和濃度が100%のときのG信号の値が飽和値となるように、非線形な割り当てを行なう。この非線形変換は、酸素飽和濃度への変換と併せて、図21に示したルックアップテーブル324c,324iによって行われる。
そして、次に、診断方法6での色度強調部337(図35参照)において、コントロール信号C8に応じて係数発生回路337iから発生される係数g,hによって、診断方法6の擬似カラー画像の彩度と色相の微調整が行われ、融合後の癌と正常部の色度のコントラストの最適化がなされる。
これにより、診断方法1,2で検出した癌画像の輝度と色度を保持したまま、正常組織部分の色度を、酸素飽和濃度に応じて、癌画像の色度に対してコントラストが大きい緑色を含んだ橙や黄色の色度へと変換することが可能になり、癌と正常組織の輪郭を明瞭に表示し、認識することができることになる。
また、正常組織の静脈(酸素飽和濃度が70%程度)は、赤黒い色(赤>緑)として表示され、動脈(酸素飽和濃度が98%)が、緑色の多さに応じて、橙色から黄色を経て緑色(赤<緑)として表示されることになり、静脈と動脈を見分けることができる。これらの色度は、診断方法2の擬似カラー画像作成時に、静脈と動脈に割り当てた色度と一致することになる。