JP5228729B2 - スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム - Google Patents

スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム Download PDF

Info

Publication number
JP5228729B2
JP5228729B2 JP2008236153A JP2008236153A JP5228729B2 JP 5228729 B2 JP5228729 B2 JP 5228729B2 JP 2008236153 A JP2008236153 A JP 2008236153A JP 2008236153 A JP2008236153 A JP 2008236153A JP 5228729 B2 JP5228729 B2 JP 5228729B2
Authority
JP
Japan
Prior art keywords
image processing
pixel
spectrum
processing method
spectral image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008236153A
Other languages
English (en)
Other versions
JP2010071662A (ja
Inventor
正文 三村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2008236153A priority Critical patent/JP5228729B2/ja
Publication of JP2010071662A publication Critical patent/JP2010071662A/ja
Application granted granted Critical
Publication of JP5228729B2 publication Critical patent/JP5228729B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Description

本発明は、複数種類の蛍光物質で標識された被観察物のスペクトル画像(波長成分毎の画像)に基づき、被観察物の各位置に対する各物質の寄与率を計算するスペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステムに関する。
生細胞の動態観察では、蛍光試薬や蛍光タンパクなどの蛍光物質で被観察物を標識し、それを蛍光レーザ顕微鏡等の光学顕微鏡で観察することがある。特に、被観察物を標識した蛍光試薬の種類数が複数であった場合には、被観察物からスペクトル画像(実測スペクトル画像)を取得し、それをコンピュータ上で蛍光物質毎の画像に分離する解析方法が有効である。本明細書ではこの解析を「アンミックス」と称す。
アンミックスでは、複数種類の蛍光試薬の各々に固有の発光スペクトルであるリファレンススペクトルを説明変数とした最小二乗法等により、被観察物の各位置に対する複数の蛍光試薬の寄与率を推定する。因みに、リファレンススペクトルが未知である場合、そのアンミックスはブラインドアンミックスとなる。
従来のブラインドアンミックスは、実測スペクトル画像の中から単一の蛍光試薬の寄与しか受けていない幾つかの画素(最適サンプリング画素)を幾何学的に見いだし、複数種類の蛍光試薬のリファレンススペクトルを、それら最適サンプリング画素の実測スペクトルと同等とみなしてアンミックスを行っている(例えば特許文献1を参照。)。
特開2004−286515号公報
しかしながら従来の方法では、最適サンプリング画素を適切かつ容易に選定できない可能性があるため、ブラインドアンミックスの演算精度を高めることが難しいことが判明した。
そこで本発明は、複数種類の蛍光物質で標識された被観察物のスペクトル画像を高精度にブラインドアンミックスすることのできるスペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステムを提供することを目的とする。
本発明を例示するスペクトル画像処理方法の一態様は、被観察物の実測スペクトル画像を構成する各画素を、そのスペクトルの次元より低次元のM次元色空間へと写像する次元削減手順と、前記M次元色空間上で各画素の位置ベクトルの平均ベクトルを法線とした超平面を算出し、その超平面へ向けて前記各画素を原点から中心射影し、その超平面における前記各画素の分布域を示す超多面体のM個の頂点を見いだし、それら頂点に位置するM個の画素を最適サンプリング画素に選定する選定手順と、最適サンプリング画素に選定された前記M個の画素の各々の実測スペクトルに基づき、前記被観察物を標識した複数種類の物質に固有の発光スペクトルを推定し、それら発光スペクトルと前記実測スペクトル画像とに基づき前記被観察物の各位置に対する前記複数種類の物質の寄与率を計算するアンミックス手順とを含むことを特徴とする。
また、本発明を例示するスペクトル画像処理プログラムの一態様は、前記スペクトル画像処理方法をコンピュータに実効させることを特徴とする。
また、本発明を例示するスペクトルイメージングシステムの一態様は、被観察物から実測スペクトル画像を取得するスペクトルイメージング装置と、取得された前記実測スペクトル画像を取り込み、前記スペクトル画像処理方法を実行するスペクトル画像処理装置とを備えたことを特徴とする。
本発明によれば、複数種類の蛍光物質で標識された被観察物のスペクトル画像を高精度にブラインドアンミックスすることのできるスペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステムが実現する。
[第1実施形態]
本発明の第1実施形態を説明する。本実施形態は、スペクトルイメージング蛍光レーザコンフォーカル顕微鏡システムの実施形態である。
図1は、本システムの構成図である。図1に示すとおり本システムには、顕微鏡本体10と、それに接続されたコンピュータ20と、それに接続された入力器30及び表示器40とが備えられる。入力器30はマウスやキーボードなどであり、表示器40はLCDなどである。
顕微鏡本体10には、レーザ光源11と、ダイクロイックミラー12と、光スキャナ13と、対物レンズ14と、標本15と、観察レンズ16と、共焦点絞りの役割を果たすピンホールマスク17と、分光素子18と、多チャンネル光検出器19とが配置される。標本15は、1種類又は複数種類の蛍光試薬で標識されており、多チャンネル光検出器19は、試薬数Mよりも十分に多いN個(例えばN=32)の波長チャンネルを有している。なお、本実施形態のコンピュータ20は、後述するとおりブラインドアンミックスを行うので、試薬数Mと、各蛍光試薬のリファレンススペクトルとは、それぞれ未知であっても構わない。
コンピュータ20には、CPU23と、CPU23の基本的動作プログラムが書き込まれたROM24と、CPU23の動作中の一時的な記憶手段として使用されるRAMと、データを長期保存するためのハードディスクドライブ26と、入力器30及び表示器40とのインタフェースをとるインタフェース回路27と、多チャンネル光検出器19の波長チャンネル数と同数のA/D変換回路21,21,…,21と、それと同数のフレームメモリ22,22,…,22とが備えられる。なお、フレームメモリ22,22,…,22、ハードディスクドライブ26、CPU23、ROM24、RAM25、インタフェース回路27は、バス20Bを介して接続されており、ハードディスクドライブ26には、本システムに必要なCPU23の動作プログラムが予め格納されている。
顕微鏡本体10のレーザ光源11からは、レーザ光(例えば白色レーザ光)が発せられる。このレーザ光は、ダイクロイックミラー12を反射し、光スキャナ13及び対物レンズ14を順に介して標本15上の1点に集光する。その集光点の近傍では様々な波長成分からなる蛍光が生じ、その蛍光は、対物レンズ14及び光スキャナ13を順に介してダイクロイックミラー12へ入射すると、そのダイクロイックミラー12を透過し、観察レンズ16を介してピンホールマスク17へ入射する。このピンホールマスク17のピンホールは、観察レンズ16及び対物レンズ14により前記集光点と共役関係に結ばれており、標本15で発生した蛍光のうち、前記集光点から射出した必要な光線のみを通過させる働きがある。ピンホールマスク17を通過した蛍光は、分光素子18へ入射すると、複数の波長成分に分離される。それらの各波長成分は、多チャンネル光検出器19の互いに異なる波長チャンネルへ入射し、独立かつ同時に検出される。
多チャンネル光検出器19のN個の波長チャンネルは、例えば、可視光域内のN種類の波長成分を同時かつ個別に検出する。それらN個の波長チャンネルから出力される各信号は、コンピュータ20へ並列に取り込まれ、A/D変換回路21,21,…,21を介してフレームメモリ22,22,…,22へ個別に入力される。
この多チャンネル光検出器19と前述した光スキャナ13とは同期駆動され、これによって、標本15上を集光点で二次元的に走査している期間に、多チャンネル光検出器19から繰り返し信号が出力される。このとき、フレームメモリ22,22,…,22には、標本15の各波長チャンネルの画像が徐々に蓄積されることになる。フレームメモリ22,22,…,22に蓄積された各波長チャンネルの画像(チャンネル画像D,D,…,D)は、適当なタイミングでCPU23によって読み出され、1つのスペクトル画像(実測スペクトル画像)Dに纏められてからハードディスクドライブ26へ格納される。CPU23は、この実測スペクトル画像Dに対して後述するアンミックス処理(ブラインドアンミックス)を施す。
図2は、アンミックスの基本原理を示す図である。なお、基本原理の説明では、蛍光試薬の種類数を「3」と仮定する。
先ず、3種類の蛍光試薬のリファレンススペクトルS,S,S(図2(A)参照)は、それぞれ式(1)のとおりベクトルで表される。以下、これらのベクトルS,S,Sを「リファレンススペクトルベクトルS,S,S」と称す。リファレンススペクトルベクトルSの成分sijは、第j蛍光試薬のi番目の波長チャンネルの強度(輝度値)である。
Figure 0005228729
また、実測スペクトル画像Dにおける或る画素の実測スペクトルf(図2(B)参照)も、式(2)のとおりベクトルで表される。以下、このベクトルfを「実測スペクトルベクトルf」と称す。この実測スペクトルベクトルfの成分fは、この画素のi番目の波長チャンネルの強度(輝度値)である。
Figure 0005228729
よって、或る画素の実測スペクトルベクトルfと3種類の蛍光試薬のリファレンススペクトルベクトルS,S,Sと、その画素に対する3種類の蛍光試薬の寄与率p、p、pとの間には、式(3)が成り立つ(図2(C)参照)。
Figure 0005228729
よって、式(4)、(5)に示すとおり、3つのリファレンススペクトルベクトルS,S,Sを並べてできる行列(リファレンススペクトル行列)Sと、3つの寄与率p,p,pを並べてできるベクトル(寄与率ベクトル)Pとによって、式(3)は式(6)のとおり整理される。
Figure 0005228729
Figure 0005228729
Figure 0005228729
よって、或る画素のアンミックス(図2(D)参照)では、その画素の実測スペクトルベクトルfと、リファレンススペクトル行列Sとを式(6)へ当てはめ、それを寄与率ベクトルPについて解けばよい。
但し、本システムでは、波長チャンネルの数(チャンネル数N)が蛍光試薬の種類数(ここでは3)よりも十分に多く設定されているので、最小二乗法(最小二乗アンミックス)が適用される。その最小二乗アンミックスでは、式(6)において誤差εを考慮した式(7)が用意され、その誤差εの二乗値が最小となるような寄与率ベクトルPが求められる。
Figure 0005228729
因みに、最小二乗法による寄与率ベクトルPの算出式を具体的に示すと、式(8)に示す通りである。式(8)においてSは、Sの転置行列である。
Figure 0005228729
図3は、CPU23によるアンミックス処理(ブラインドアンミックス)のフローチャートである。以下、各ステップを順に説明する。
ステップS1:CPU23は、ハードディスクドライブ26からRAM25上へ実測スペクトル画像Dを読み出す。
ステップS2:CPU23は、実測スペクトル画像Dを構成するチャンネル画像D,D,…,Dの各々に対して空間方向の平滑化処理、例えば式(9)で表されるガウシアンフィルタ処理を施す。これによって、チャンネル画像,D,…,Dの各々に重畳されていたランダムノイズが軽減される。また、CPU23は、平滑化処理の前又は後に、チャンネル画像,D,…,Dの各々に対し背景レベルを除去するための閾値処理を施す。これによって、チャンネル画像D,D,…,Dの各々に発生していた暗電流ノイズが除去される。
Figure 0005228729
ステップS3:CPU23は、ノイズ除去後の実測スペクトル画像Dを示す行列Fを作成する。この行列Fは、各画素のノイズ除去後の実測スペクトルベクトルf(式(2))を並べてできる行列であって、行列Fの行数(縦の成分数)はチャンネル数N(例えば32)と同じであり、行列Fの列数(横の成分数)は画素数L(例えば512×512)と同じである。
さらにCPU23は、行列Fを特異値分解し、式(10)で表される特異値行列Λを取得する。なお、式(10)においてUはユニタリ行列であり、Vはユニタリ行列の随伴行列である。特異値行列Λは、行列Fのランクを示す行列であって、非対角成分は全てゼロである。
Figure 0005228729
そしてCPU23は、特異値行列Λの対角成分に現れた値(特異値)を参照し、それらの特異値の中で予め決められた閾値を超える有効特異値の個数を計数し、試薬数Mの初期値を、その有効特異値の個数と同じに設定する。
図4は、或る実測スペクトル画像Dから得られた特異値を次数順に並べたグラフであり、図5は、別の実測スペクトル画像Dから得られた特異値を次数順に並べたグラフである。これらの例では、閾値を超える有効特異値の個数が3なので、試薬数Mの初期値も3に設定される。以下、試薬数Mの初期値は3に設定されたものと仮定する。
なお、本ステップで使用される閾値は、例えば次の手順で設定されたものである。すなわち、試薬数が既知である実測スペクトル画像から同様の手順で特異値行列が取得され、その特異値行列に含まれる特異値のうち試薬数と同じ次数の特異値と、それよりも1だけ次数の大きい特異値とを参照し、両者の中間値に上記閾値が設定される。但し、試薬数Mの初期値が実際の試薬数以上に設定されるよう、その閾値は意図的に低めに設定されてもよい。なぜなら試薬数Mは、後段のステップにおいて適宜に修正することが可能であり、また、標本15が自家蛍光を発する場合には、その自家蛍光の寄与率も蛍光試薬の寄与率と共に算出されることが望ましいからである。
ステップS4:CPU23は、或る画素のノイズ除去後の実測スペクトルfを、図6に示すとおり2つの分割線B、Bによって波長方向に亘り3分割する。これによって、試薬数Mの初期値と同じ個数(つまり3個)の部分実測スペクトルが得られる。そしてCPU23は、その画素を、それら部分実測スペクトルの各々の積算強度(又は平均強度)I、I、Iによって規定される3次元色空間上の点へと写像する。この積算強度(又は平均強度)I、I、Iは、単純に実測スペクトルからサンプリングされたM個の特定波長の強度I”、I”、I”よりもSNが良い。例えば、サンプリングされた或る波長の強度にたまたまノイズが乗っていた場合には後の処理に大きな影響を与える可能性があり、それを防ぐためにも分割した範囲における積算や平均が有効である。
さらにCPU23は、他の各画素についても同様にして同じ3次元色空間上の点へと写像する(図7(A)参照)。これによって、各画素のスペクトルベクトルの次元が3次元に削減されたことになる。
そしてCPU23は、その3次元色空間における各画素の分布を示す行列Fを作成する。この行列Fは、次元削減後の各画素のスペクトルベクトル、すなわちベクトル(I、I、I)を並べてできる行列であって、行列Fの行数(縦の成分数)は3(=試薬数Mの初期値)であり、行列Fの列数(横の成分数)は画素数L(例えば512×512)と同じである。そしてCPU23は、その行列Fを特異値分解し、式(10)で表される特異値行列Λを取得する。
CPU23は、特異値行列Λの対角成分に現れた3個の特異値の総和を、現時点における3次元色空間の評価値として算出する。この評価値が高いほど3次元色空間における各画素の分布域が広がるので好ましい。
ステップS5:CPU23は、分割線B、Bの組み合わせの異なる全ての3次元色空間に関して評価値が算出済みであるか否かを判別し、算出済みでない場合はステップS6へ移行し、算出済みである場合はステップS7へ移行する。
ステップS6:CPU23は、分割線B、Bの組み合わせを変更してからステップS4へ戻る。
ステップS7:CPU23は、分割線B、Bの組み合わせの異なる全ての3次元色空間に関して算出した評価値を比較し、その評価値が最大となった3次元色空間を、最適サンプリング画素の選定に使用されるべき3次元色空間(最適3次元色空間)に決定する。
ステップS8:CPU23は図7(A)に示すとおり、最適3次元色空間に写像された各画素の位置ベクトルの平均(平均ベクトル)Vaを求め、その平均ベクトルVaを法線とする平面Paを算出する。そしてCPU23は、最適3次元色空間上で原点から平面Paに向けて各画素を中心射影する。その平面Paにおける各画素の分布域は、図7(B)に示すような最適三角形Aaによって表される。
但し、CPU23は、中心射影に先立ち各画素の位置ベクトルの長さを評価し、その長さが予め決められた閾値以下である画素については、中心射影の対象から外すことが望ましい。なぜなら、原点からの距離が近すぎる画素(つまり輝度が低すぎる画素)の実測スペクトルはSNが悪いからである。
なお、ここでは試薬数Mの初期値を3と仮定した(色空間の次元を3とした)ので、平均ベクトルVaを法線とする超平面は平面となったが(図7(A)参照)、試薬数Mの初期値が2である場合(色空間の次元が2である場合)は、平均ベクトルVaを法線とする超平面は直線となる(図8(A)参照)。
また、ここでは試薬数Mの初期値を3と仮定した(色空間の次元を3とした)ので、各画素の分布域を示す超多面体は三角形となったが(図7(B)参照)、試薬数Mの初期値が2である場合(色空間の次元が2である場合)は、各画素の分布域を示す超多面体は線分となり(図8(B)参照)、試薬数Mの初期値が4である場合(色空間の次元が4である場合)は、各画素の分布域を示す超多面体は4個の頂点を有した4面体となる(不図示)。
ステップS9:CPU23は、平面Paにおける各画素の凸包(Convex Hull)を算出する。例えば、最適3次元色空間における各画素の実際の分布が図9に示すとおりであって、平面Paにおける各画素の分布が図10に示すとおりであったとすると、それら各画素の凸包は、図10中に矢印で示した12個の点を頂点とした12角形となる。
ステップS10:CPU23は、凸包の何れか3つの頂点が成す三角形のうち面積が最大となるものを探索し、その三角形を図10に示すとおり最適三角形Aaとおく。そしてCPU23は、最適三角形Aaの頂点に位置する3個の画素a、b、cを、最適サンプリング画素に選定する。このようにして選定された最適サンプリング画素a、b、cは、1種類の蛍光試薬の寄与しか受けていない画素とみなせる。
なお、ここでは試薬数Mの初期値を3と仮定した(色空間の次元を3とした)ので、凸包の中から面積が最大となる三角形が探索されたが、試薬数Mの初期値が2である場合(色空間の次元が2である場合)は、凸包の中から長さが最大となる線分が探索され、試薬数Mの初期値が4である場合(色空間の次元が4である場合)は、凸包の中から体積が最大となる4面体が探索される。
ステップS11:CPU23は、試薬数Mの初期値(ここでは3)と同数の蛍光試薬(第1蛍光試薬、第2蛍光試薬、第3蛍光試薬)を想定し、リファレンススペクトル行列Sの初期値を次のとおり設定する。
まず、CPU23は、図11に示すとおり実測スペクトル画像D上に1つ目の最適サンプリング画素aを中心とした矩形領域を設定し、その矩形領域内の複数画素の実測スペクトルベクトルの平均(平均実測スペクトルベクトルfa)を求め、第1蛍光試薬のリファレンススペクトルベクトルSの値を、そのスペクトルベクトルfaと同じ値に設定する。
また、CPU23は、図11に示すとおり実測スペクトル画像D上に2つ目の最適サンプリング画素bを中心とした矩形領域を設定し、その矩形領域内の複数画素の実測スペクトルベクトルの平均(平均実測スペクトルベクトルfb)を求め、第2蛍光試薬のリファレンススペクトルベクトルSの値を、そのスペクトルベクトルfbと同じ値に設定する。
また、CPU23は、図11に示すとおり実測スペクトル実測D上に3つ目の最適サンプリング画素cを中心とした矩形領域を設定し、その矩形領域内の複数画素の実測スペクトルベクトルの平均(平均実測スペクトルベクトルfc)を求め、第3蛍光試薬のリファレンススペクトルベクトルSの値を、そのスペクトルベクトルfcと同じ値に設定する。
そして、CPU23は、リファレンススペクトルベクトルS、S、Sを並べてできる行列(式(4)を参照。)を、リファレンススペクトル行列Sの初期値とする。
なお、本ステップでは、最適サンプリング画素a、b、cの実測スペクトルベクトルを、それらの画素に対して空間的に近接する画素の実測スペクトルベクトルで平均化したが、この平均化によれば、実測スペクトルベクトルに含まれるノイズがリファレンススペクトル行列Sに与える影響を抑えることができる。
ステップS12:CPU23は、リファレンススペクトル行列Sと、アンミックスの対象である画素の実測スペクトルベクトルfとを式(8)に当てはめることにより、その画素の最小二乗アンミックスを行い、式(8)の未知数であった寄与率ベクトルPを既知とする。
なお、本ステップにおける寄与率ベクトルPの次元は、試薬数Mと同じに設定される。例えば、試薬数Mが3である場合は、寄与率ベクトルPの成分は、第1蛍光試薬の寄与率p、第2蛍光試薬の寄与率p、第3蛍光試薬の寄与率pの3つとなる。
ステップS13:CPU23は、最小二乗アンミックスで算出された寄与率の中に負値(異常値)が含まれているか否かを判別する。負値が含まれていた場合にはステップS14へ移行し、負値が含まれていない場合にはステップS15へ移行する。
ステップS14:CPU23は、最小二乗アンミックスで算出された寄与率のうち、負値であった寄与率の個数を計数し、その個数の分だけ試薬数Mの値を減算する。これによって試薬数Mが小さい値に修正される。また、CPU23は、リファレンススペクトル行列Sから、その寄与率に対応する蛍光試薬のリファレンススペクトルベクトルを削除する。これによって、リファレンススペクトル行列Sの次元が低い次元に修正される。
その後、CPU23はステップS12へ移行し、修正後の試薬数Mと、修正後のリファレンススペクトル行列Sとにより、同じ画素の最小二乗アンミックスを行う。
ステップS15:CPU23は、最小二乗アンミックスが全画素について終了したか否かを判別する。終了していなかった場合はステップS16へ移行し、終了していた場合はステップS17へ移行する。
ステップS16:CPU23は、試薬数M及びリファレンススペクトル行列Sをそれぞれ初期値に戻すと共にアンミックスの対象を次の画素に変更してからステップS12へ移行する。
ステップS17:CPU23は、全画素に関して個別に算出された寄与率をカラー画像化して表示器40へ表示し、フローを終了する。なお、上述したステップS11〜S16では試薬数Mが画素毎に修正されるので、3つの寄与率が算出される画素と、2つの寄与率しか算出されない画素と、1つの寄与率しか算出されない画素とが混在している可能性がある。
以上、本実施形態のCPU23は、平均ベクトルVaを法線とした平面Paを算出し(図7(A)参照)、その平面Paへ向けて各画素を原点から中心射影し(図7(B)参照)、その平面Pa上で各画素の分布域を示す最適三角形Aaを求めるので(図7(B)参照)、最適サンプリング画素を正確に選定することができる。
また、本実施形態のCPU23は、最適サンプリング画素を選定するための3次元色空間として、3つの部分実測スペクトルの積算強度(又は平均強度)I、I、Iによって規定される3次元色空間を使用する(図6参照)。このような3次元色空間は、3つの特定波長の強度で規定される3次元色空間よりも、各画素のスペクトル情報を正しく反映させることができると考えられる。
また、本実施形態のCPU23は、試薬数Mの初期値を、実測スペクトル画像を示す行列Fのランク(特異値行列Λの有効特異値数)と同等に設定するので、アンミックスに要する演算量を必要最小限に抑えることができる。
また、本実施形態のCPU23は、各画素の分布域が最大となるような3次元色空間を最適3次元色空間として使用するので、最適サンプリング画素の選定精度を最大に高めることができる。
また、本実施形態のCPU23は、最適三角形Aaを見いだすに当たって各画素の凸包を求めるので、最適三角形Aaの頂点の候補になり得ないような画素を高速に排除することができる。
また、本実施形態のCPU23は、或る画素に対する或る蛍光試薬の寄与率が負値(異常値)として計上された場合には、試薬数Mとリファレンススペクトル行列Sの次元とを修正してからその画素に関するアンミックスを再実行するので、アンミックス精度が高い。
[各実施形態の変形例]
なお、上述したステップS11〜S16では、或る画素に対する或る蛍光試薬の寄与率が負値(異常値)として計上された場合に、試薬数Mとリファレンススペクトル行列Sの次元とを修正してからその画素に関するアンミックスを再実行したが、負値として計上された寄与率をゼロに置換するのみとしてもよい。但し、アンミックスを再実行する方が、寄与率を高精度に求めることができる。
また、上述したステップS10では、凸包の中から面積(超体積)が最大となる三角形(超多面体)を探索したが、内包画素数が最大となる三角形(超多面体)を探索してもよい。なお、前者を採用した場合は処理の高速化が可能であり、後者を採用した場合は処理の高精度化が可能となる。
また、本実施形態のCPU23は、ユーザに試薬数を指定させなかったが、ユーザに試薬数を指定させ、指定された試薬数、又は指定された試薬数に幾つかの数(例えば1)を加算した値を、試薬数Mの初期値としてもよい。
また、本実施形態のシステムでは、CPU23の動作プログラムがハードディスクドライブ26に予め格納されていたが、そのプログラムの一部又は全部は、インターネットや記憶媒体などを介して外部からコンピュータ20へインストールされたものであってもよい。
また、本実施形態のシステムでは、各処理がコンピュータ20によって実行されたが、コンピュータ20の一部又は全部の動作は、顕微鏡本体10に専用の装置(制御・画像処理装置)によって実行されてもよい。
また、本実施形態の顕微鏡本体10は、入射光の各波長成分を検出するために多チャンネル光検出器19を使用しているが、多チャンネル光検出器19の代わりに、1チャンネル光検出器と可動マスクとの組み合わせ、複数の1チャンネル光検出器と複数のフィルタとの組み合わせなどを使用してもよい。但し、多チャンネル光検出器19を使用すると、各チャンネルの同時検出と省スペース化との双方が可能である。
また、本実施形態の顕微鏡本体10は、標本15からの光を共焦点検出する顕微鏡(共焦点顕微鏡)であるが、その共焦点検出の機能を省略しても構わない。その場合、ピンホールマスク17は不要となる。
また、本実施形態の顕微鏡本体10は、標本15上を光走査する走査型顕微鏡であるが、非走査型顕微鏡に変形しても構わない。その場合、光スキャナ13は不要となる。すなわち、本発明は、スペクトルイメージングを行う各種の装置に適用することが可能である。
[課題を解決するための手段の補足]
前述したスペクトル画像処理方法の一態様において、前記M次元色空間は、前記各画素の実測スペクトルを波長方向にM分割してできるM個の部分実測スペクトルの各々の積算強度又は平均強度で規定される色空間であってもよい。
また、前記分割の分割位置は、前記M次元色空間における各画素の分布を示す行列の特異値行列に含まれる特異値の総和が最大となるような分割位置に設定されてもよい。
また、前記M次元色空間の次元Mは、前記実測スペクトル画像を示す行列の特異値行列に含まれる有効特異値の個数と同じに設定されてもよい。
また、前記超多面体は、前記超平面における前記各画素の凸包の何れかM個の頂点が成す超多面体のうち、超体積が最大の超多面体であってもよい。
また、前記超多面体は、前記超平面における前記各画素の凸包の何れかM個の頂点が成す超多面体のうち、内包画素数が最大の超多面体であってもよい。
また、前記アンミックス手順では、前記被観察物の或る位置に対する或る物質の寄与率が負値として計上された場合には、その画素に対するその物質の寄与率をゼロに置換してもよい。
また、前記アンミックス手順では、前記被観察物の或る位置に対する或る物質の寄与率が負値として計上された場合には、その物質の固有の発光スペクトルをゼロに置換してから、その画素に関する前記寄与率の計算を再実行してもよい。
本システムの構成図である。 アンミックスの基本原理を示す図である。 CPU23によるアンミックス処理(ブラインドアンミックス)のフローチャートである。 或る実測スペクトル画像Dから得られた特異値を次数順に並べたグラフである。 別の実測スペクトル画像Dから得られた特異値を次数順に並べたグラフである。 実測スペクトルfと、分離線B、Bと、積算強度I、I、Iとの関係を示す図である。 ステップS7〜S9を説明する図である(M=3の場合)。 ステップS7〜S9を説明する図である(M=2の場合)。 3次元色空間における各画素の実際の分布を示す例である。 平面Paにおける各画素の実際の分布を示す例である。 最適サンプリング画素a、b、cと、第1蛍光試薬のリファレンススペクトルベクトルS、第1蛍光試薬のリファレンススペクトルベクトルS、第3蛍光試薬のリファレンススペクトルベクトルSの関係を説明する図である。
符号の説明
10・・・顕微鏡本体、20・・・コンピュータ、30・・・入力器、40・・・表示器、11・・・レーザ光源、12・・・ダイクロイックミラー、13・・・光スキャナ、14・・・対物レンズ、15・・・標本、16・・・観察レンズ、17・・・ピンホールマスク、18・・・分光素子、19・・・多チャンネル光検出器

Claims (10)

  1. 被観察物の実測スペクトル画像を構成する各画素を、そのスペクトルの次元より低次元のM次元色空間へと写像する次元削減手順と、
    前記M次元色空間上で各画素の位置ベクトルの平均ベクトルを法線とした超平面を算出し、その超平面へ向けて前記各画素を原点から中心射影し、その超平面における前記各画素の分布域を示す超多面体のM個の頂点を見いだし、それら頂点に位置するM個の画素を最適サンプリング画素に選定する選定手順と、
    最適サンプリング画素に選定された前記M個の画素の各々の実測スペクトルに基づき、前記被観察物を標識した複数種類の物質に固有の発光スペクトルを推定し、それら発光スペクトルと前記実測スペクトル画像とに基づき前記被観察物の各位置に対する前記複数種類の物質の寄与率を計算するアンミックス手順と
    を含むことを特徴とするスペクトル画像処理方法。
  2. 請求項1に記載のスペクトル画像処理方法において、
    前記M次元色空間は、
    前記各画素の実測スペクトルを波長方向にM分割してできるM個の部分実測スペクトルの各々の積算強度又は平均強度で規定される色空間である
    ことを特徴とするスペクトル画像処理方法。
  3. 請求項2に記載のスペクトル画像処理方法において、
    前記分割の分割位置は、
    前記M次元色空間における各画素の分布を示す行列の特異値行列に含まれる特異値の総和が最大となるような分割位置に設定される
    ことを特徴とするスペクトル画像処理方法。
  4. 請求項1〜請求項3の何れか一項に記載のスペクトル画像処理方法において、
    前記M次元色空間の次元Mは、
    前記実測スペクトル画像を示す行列の特異値行列に含まれる有効特異値の個数と同じに設定される
    ことを特徴とするスペクトル画像処理方法。
  5. 請求項1〜請求項4の何れか一項に記載のスペクトル画像処理方法において、
    前記超多面体は、
    前記超平面における前記各画素の凸包の何れかM個の頂点が成す超多面体のうち、超体積が最大の超多面体である
    ことを特徴とするスペクトル画像処理方法。
  6. 請求項1〜請求項4の何れか一項に記載のスペクトル画像処理方法において、
    前記超多面体は、
    前記超平面における前記各画素の凸包の何れかM個の頂点が成す超多面体のうち、内包画素数が最大の超多面体である
    ことを特徴とするスペクトル画像処理方法。
  7. 請求項1〜請求項6の何れか一項に記載のスペクトル画像処理方法において、
    前記アンミックス手順では、
    前記被観察物の或る位置に対する或る物質の寄与率が負値として計上された場合には、その画素に対するその物質の寄与率をゼロに置換する
    ことを特徴とするスペクトル画像処理方法。
  8. 請求項1〜請求項6の何れか一項に記載のスペクトル画像処理方法において、
    前記アンミックス手順では、
    前記被観察物の或る位置に対する或る物質の寄与率が負値として計上された場合には、その物質の固有の発光スペクトルをゼロに置換してから、その画素に関する前記寄与率の計算を再実行する
    ことを特徴とするスペクトル画像処理方法。
  9. 請求項1〜請求項8の何れか一項に記載のスペクトル画像処理方法をコンピュータに実効させることを特徴とするスペクトル画像処理プログラム。
  10. 被観察物から実測スペクトル画像を取得するスペクトルイメージング装置と、
    取得された前記実測スペクトル画像を取り込み、請求項1〜請求項8の何れか一項に記載のスペクトル画像処理方法を実行するスペクトル画像処理装置と
    を備えたことを特徴とするスペクトルイメージングシステム。
JP2008236153A 2008-09-16 2008-09-16 スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム Active JP5228729B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008236153A JP5228729B2 (ja) 2008-09-16 2008-09-16 スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008236153A JP5228729B2 (ja) 2008-09-16 2008-09-16 スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム

Publications (2)

Publication Number Publication Date
JP2010071662A JP2010071662A (ja) 2010-04-02
JP5228729B2 true JP5228729B2 (ja) 2013-07-03

Family

ID=42203617

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008236153A Active JP5228729B2 (ja) 2008-09-16 2008-09-16 スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム

Country Status (1)

Country Link
JP (1) JP5228729B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5841315B2 (ja) 2010-04-28 2016-01-13 ソニー株式会社 微小粒子分析装置
JP5601098B2 (ja) * 2010-09-03 2014-10-08 ソニー株式会社 蛍光強度補正方法及び蛍光強度算出装置
JP5870821B2 (ja) * 2012-04-03 2016-03-01 国立研究開発法人理化学研究所 多重蛍光画像の画像解析のための装置、システム、方法、およびプログラム
JP6172356B2 (ja) * 2016-07-21 2017-08-02 ソニー株式会社 表示方法及び微小粒子分析装置
JP7028287B2 (ja) * 2020-07-22 2022-03-02 ソニーグループ株式会社 微小粒子分析システム及び微小粒子分析方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4037294B2 (ja) * 2003-03-20 2008-01-23 オリンパス株式会社 分光画像から複数の固有スペクトル成分の存在割合を求める方法
JP4634304B2 (ja) * 2003-10-10 2011-02-16 浜松ホトニクス株式会社 蛍光色素の濃度を定量する方法およびシステム
JP4021414B2 (ja) * 2003-11-26 2007-12-12 オリンパス株式会社 スペクトラルデコンボリューション法及びスペクトラルブラインドデコンボリューション法
US8045153B2 (en) * 2006-02-23 2011-10-25 Nikon Corporation Spectral image processing method, spectral image processing program, and spectral imaging system

Also Published As

Publication number Publication date
JP2010071662A (ja) 2010-04-02

Similar Documents

Publication Publication Date Title
JP4826586B2 (ja) スペクトル画像処理方法、コンピュータ実行可能なスペクトル画像処理プログラム、スペクトルイメージングシステム
JP4872914B2 (ja) スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム
US20200003990A1 (en) Methods, systems and devices for automatically focusing a microscope on a substrate
JP2019520574A (ja) ハイパースペクトルイメージング方法および装置
US20140056505A1 (en) Visualization and measurement of cell compartments
US20090263002A1 (en) Wave field microscope with sub-wavelength resolution and methods for processing microscopic images to detect objects with sub-wavelength dimensions
JP5228729B2 (ja) スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム
US8306317B2 (en) Image processing apparatus, method and computer program product
JP6605716B2 (ja) 病理学的明視野画像における自動染色検出
EP3963381A1 (en) Self-calibrating and directional focusing systems and methods for infinity corrected microscopes
US10416427B2 (en) Scan-based imaging with variable scan speed using predictions of region-of-interest positions
JP2019520721A (ja) デジタルパソロジーのカラーキャリブレーションおよび実証
US10866400B2 (en) Data recovery device, microscope system, and data recovery method
JP4733433B2 (ja) ビーズアレイ用蛍光読取装置及びビーズアレイ用蛍光読取方法
WO2021005652A1 (ja) 検査方法、及び、システム
Salem et al. Probing dynamics in single molecules
US12038380B2 (en) Fluorescence microscope and method for imaging an object
US20110208478A1 (en) Method for evaluating fluorescence correlation spectroscopy measurement data
KR20160014340A (ko) 형광수명 분석 시스템 및 그 분석 방법
US8963105B2 (en) Image obtaining apparatus, image obtaining method, and image obtaining program
US20230175963A1 (en) Method of analyzing a mixed fluorescence response of a plurality of fluorophores, fluorescence analyzer, fluorescence microscope and computer program
US20230129462A1 (en) Fluorescence microscope and method for imaging an object
CN117546007A (zh) 信息处理装置、生物样本观察系统及图像生成方法
Holden et al. Supporting Material, Defining the limits of single-molecule FRET resolution in TIRF microscopy

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110916

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130304

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160329

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5228729

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250