JP2011039247A - 顕微鏡、画像処理装置、及び画像処理方法。 - Google Patents
顕微鏡、画像処理装置、及び画像処理方法。 Download PDFInfo
- Publication number
- JP2011039247A JP2011039247A JP2009185997A JP2009185997A JP2011039247A JP 2011039247 A JP2011039247 A JP 2011039247A JP 2009185997 A JP2009185997 A JP 2009185997A JP 2009185997 A JP2009185997 A JP 2009185997A JP 2011039247 A JP2011039247 A JP 2011039247A
- Authority
- JP
- Japan
- Prior art keywords
- image
- fluorescent
- scattered
- observed
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
Landscapes
- Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Microscoopes, Condenser (AREA)
Abstract
【課題】蛍光波長域の互いに重複する複数種類の光活性化蛍光物質が被観察物に含まれていたとしても同時励起観察を行うことが可能な顕微鏡を提供する。
【解決手段】本発明の顕微鏡は、被観察物(10A)に含まれる光活性化蛍光物質を所定の活性化密度で活性化する活性化手段(121)と、活性化中の光活性化蛍光物質を励起することにより、前記被観察物内に蛍光輝点を点在させる励起手段(122)と、前記被観察物の蛍光像を所定の撮像面上に形成することにより、前記撮像面内に蛍光輝点像を点在させる結像光学系(17、14、20)と、前記被観察物から前記撮像面へ向かう蛍光を所定の分光量で分光することにより、前記撮像面内に点在する蛍光輝点像の各々を、空間的拡がりを持った分光像とする分光手段(18)と、前記撮像面上の輝度分布を示す画像を取得する撮像手段(21)とを備える。
【選択図】 図1
【解決手段】本発明の顕微鏡は、被観察物(10A)に含まれる光活性化蛍光物質を所定の活性化密度で活性化する活性化手段(121)と、活性化中の光活性化蛍光物質を励起することにより、前記被観察物内に蛍光輝点を点在させる励起手段(122)と、前記被観察物の蛍光像を所定の撮像面上に形成することにより、前記撮像面内に蛍光輝点像を点在させる結像光学系(17、14、20)と、前記被観察物から前記撮像面へ向かう蛍光を所定の分光量で分光することにより、前記撮像面内に点在する蛍光輝点像の各々を、空間的拡がりを持った分光像とする分光手段(18)と、前記撮像面上の輝度分布を示す画像を取得する撮像手段(21)とを備える。
【選択図】 図1
Description
本発明は、PALM(Photoactivation Localization Microscopy)又はSTORM(Stochastic Optical Reconstruction Microscopy)の原理を利用した顕微鏡、画像処理装置、及び画像処理方法に関する。
近年提案されたPALMあるいはSTORMは、通常の共焦点顕微鏡よりも分解能の高い顕微鏡として知られている(非特許文献1、2等を参照)。PALMとSTORMは原理的にはほぼ同一の技術なので、以下PALMを例に説明する。
PALMの被観察物である細胞は、活性化されているときにのみ蛍光を発することが可能な蛍光蛋白質(光活性化蛍光蛋白質)で標識される。PALMは、その被観察物へ適当な強度の活性化光を照射することにより、被観察物に含まれる蛍光分子を適当な活性化密度で活性化し、さらに被観察物へ励起光を照射することにより、被観察物に含まれる蛍光分子の分布を画像として検出し、さらに被観察物へ不活性化光(又は高強度の励起光)を照射することにより、活性化中の蛍光分子を不活性化(又は褪色)させる。
PALMは、これらの活性化、励起、検出、不活性化(又は褪色)を繰り返すことにより複数の画像を取得する。これらの画像には、互いに近接していた複数の蛍光分子の像が個別に反映されることになる。よって、これら複数の画像を適切に合成すれば、被観察物上の蛍光強度分布を高い分解能(例えば10nmの分解能)で観察することができる。
Samuel T. Hess et al. "Ultra-High Resolution Imaging by Fluorescence Photoactivation Localization Microscopy", Biophysical Journal, December 2006, Vol. 91, pp. 4258-4272
Eric Betzig et al. "Imaging Intracellular Flourescent Proteins at Nanometer Resolution" SCIENCE, Vol. 313, 15 September 2006, pp. 1642-1645
ところで、PALMにおいても通常の共焦点顕微鏡と同様、複数種類の光活性化蛍光蛋白質を使用し、被観察物に含まれる複数種類の蛍光分子を同時に励起して観察すること(同時励起観察)が望まれる。
しかしながら、従来のPALMで同時励起観察を行おうとしたならば、被観察物で発生する他種類の蛍光を分離可能とするために、複数種類の光活性化蛍光蛋白質として蛍光波長域がなるべく重複していないもの同士を選定しなければならなかった。
そこで本発明は、蛍光波長域の互いに重複する複数種類の光活性化蛍光物質が被観察物に含まれていたとしても同時励起観察を行うことが可能な顕微鏡、それに好適な画像処理装置及び画像処理方法を提供することを目的とする。
本発明の顕微鏡を例示する一態様は、被観察物に含まれる光活性化蛍光物質を所定の活性化密度で活性化する活性化手段と、前記被観察物に含まれる活性化中の光活性化蛍光物質を励起することにより、前記被観察物内に蛍光輝点を点在させる励起手段と、前記被観察物の蛍光像を所定の撮像面上に形成することにより、前記撮像面内に蛍光輝点像を点在させる結像光学系と、前記被観察物から前記撮像面へ向かう蛍光を所定の分光量で分光することにより、前記撮像面内に点在する蛍光輝点像の各々を、空間的拡がりを持った分光像とする分光手段と、前記蛍光像の輝度分布を示す画像を取得する撮像手段とを備える。
また、本発明の画像処理装置を例示する一態様は、前記画像内に点在する分光像の各々の輝度分布に基づき、前記被観察物内に点在した蛍光輝点の各々の発光スペクトルを求める演算手段を備える。
また、本発明の画像処理方法を例示する一態様は、前記画像内に点在する分光像の各々の輝度分布に基づき、前記被観察物内に点在した蛍光輝点の各々の発光スペクトルを求める演算手順を含む。
本発明によれば、蛍光波長域の互いに重複する複数種類の光活性化蛍光物質が被観察物に含まれていたとしても同時励起観察を行うことが可能な顕微鏡、それに好適な画像処理装置及び画像処理方法が実現する。
[第1実施形態]
以下、本発明に係るPALM装置を第1実施形態として説明する。
以下、本発明に係るPALM装置を第1実施形態として説明する。
図1は、本実施形態のPALM装置の構成図である。図1に示されているとおり、本装置には活性化レーザ光源121と、励起レーザ光源122と、ダイクロイックミラー101と、レンズ13と、ダイクロイックミラー15と、対物レンズ17と、サンプルステージ11と、リレー光学系14と、回折格子18と、レンズ20と、EM−CCD(Electron Multiplying CCD)21と、コントロールユニット30とが備えられる。
サンプルステージ11には、標本10Aが配置される。標本10Aは、複数種類の光活性化蛍光蛋白質で標識された生体細胞である。標本10Aの標識に使用された光活性化蛍光蛋白質は、例えばPA−GFP、Dronpaの2種類である。PA−GFP及びDronpaの活性化波長は、400nmの近傍であり、PA−GFP及びDronpaの励起波長は、500nmの近傍であり、PA−GFP及びDronpaの蛍光波長は600nmの近傍である。
コントロールユニット30のメモリには、様々な種類の蛍光蛋白質(ここではM種類の蛍光蛋白質)に固有の蛍光スペクトルの情報として、リファレンススペクトルS1〜SM(図2参照)が予め格納されており、リファレンススペクトルS1〜SMの中には、標本10Aに使用されたPA−GFP及びDronpaの各々のリファレンススペクトルも含まれている。
活性化レーザ光源121から射出する活性化レーザ光の波長は、PA−GFP及びDronpaを活性化する約400nmに設定されており、励起レーザ光源122から射出する励起レーザ光の波長は、PA−GFP及びDronpaを励起する約500nmに設定されている。また、ダイクロイックミラー101の波長特性は、500nm及びその近傍の波長に対して透過性を示し、400nm及びその近傍に対して反射性を示すように設定されている。
活性化レーザ光源121から射出した活性化レーザ光は、ダイクロイックミラー101を反射し、励起レーザ光源122から射出した励起レーザ光は、ダイクロイックミラー101を透過し、両者は同一の光路へ導かれる。同一の光路へ導かれた活性化レーザ光及び励起レーザ光は、レンズ13によって緩やかに集光されながら、ダイクロイックミラー15へ入射する。なお、ダイクロイックミラー15の波長特性は、500nm以下の波長に対して反射性を示し、500nmを超過する波長に対して透過性を示すように設定されている。
ダイクロイックミラー15へ入射した活性化レーザ光及び励起レーザ光は、ダイクロイックミラー15を反射し、対物レンズ17の瞳面上に集光する。対物レンズ17の瞳面上に集光した励起レーザ光及び活性化レーザ光は、対物レンズ17の先端から射出し、標本10A上の円形領域へ照射される。標本10Aの観察視野内に存在する幾つかの蛍光分子が光り活性化レーザ光の照射により活性化される。
ここで、活性化レーザ光源121のパワー(活性化レーザ光の強度)は、標本10A上で活性化される蛍光分子の配置密度(活性化密度)が適切になるよう予め設定されている。本実施形態では、観察視野中で同時に活性化される蛍光分子が数個(1〜5個)となるようその設定が行われる。
観察視野内で活性化中の蛍光分子は、励起レーザ光の照射により励起され、蛍光輝点となり、それぞれ蛍光(500〜700nmの波長範囲の蛍光)を発する。観察視野で発生した蛍光は、先端側から対物レンズ17へ入射し、対物レンズ17を通過した後、ダイクロイックミラー15へ入射する。ダイクロイックミラー15へ入射した蛍光は、そのダイクロイックミラー15を透過し、リレー光学系14へ入射する。
リレー光学系14へ入射した蛍光は、リレー光学系14の一方のレンズ14aにより集光され、観察視野の蛍光像(中間像)を形成する。図1において、符号14cで示したのは、中間像の形成面に配置された視野絞りである。視野絞り14cを通過した蛍光は、発散しながらリレー光学系14の他方のレンズ14bへ入射し、平行光束となる。
平行光束となった蛍光は、対物レンズ17の瞳面に配置された回折格子18へ入射し、各次数の回折光に分離される。なお、回折格子18は、0次回折光及び+1次回折光の回折効率が、その他の回折光と比べて十分に高くなるように設計されているものとする。よって以下では、その他の回折光を無視する。回折格子18で0次回折光及び1次回折光は、レンズ20によって集光され、EM−CCD21の撮像面上に観察視野の蛍光像を形成する。なお、本実施形態では、0次回折光と1次回折光との双方が撮像面上に到達するので、撮像面上に形成される蛍光像には、0次回折光による蛍光像(非分光像)と、1次回折光による蛍光像(分光像)との2種類がある(詳細は後述)。
EM−CCD21は、撮像面上の輝度分布を示す画像を取得し、その画像をコントロールユニット30へ出力する。なお、EM−CCD21による画像取得のタイミングは、コントロールユニット30によって制御される。
コントロールユニット30は、EM−CCD21、活性化レーザ光源121、励起レーザ光源122を同期駆動する制御装置としての機能と、EM−CCD21が取得した画像を処理する画像処理装置としての機能とを有する。例えば、制御装置としてのコントロールユニット30は、画像を取得する測定処理を実行し、画像処理装置としてのコントロールユニット30は、その画像からスペクトルデータを抽出するスペクトル抽出処理や、そのスペクトルデータを解析するスペクトル解析処理などを実行する。これら各処理のプログラムは、コントロールユニット30のメモリに予め格納され、必要に応じて実行される。コントロールユニット30による各処理の詳細は、後述する。
なお、コントロールユニット30の画像処理装置として機能は、コントロールユニット30に接続された不図示のコンピュータに付加されてもよい。
図3は、撮像面上に形成された、観察視野の非分光像IFP及び分光像IFSを示す図である。図3において符号Xで示す方向が回折による蛍光の分離方向である。
図3では、観察視野内に点在した蛍光輝点の個数が3であったときの様子を示している。この場合、観察視野の非分光像IFPには3つの蛍光輝点の非分光像IP1〜IP3が現れており、観察視野の分光像IFSには3つの蛍光輝点の分光像IS1〜IS3が現れている。
図3に示すとおり、蛍光輝点の非分光像IPk(1〜3)の各々は点状であり、蛍光輝点の分光像ISk(1〜3)の各々はX方向に長い線分状である。よって、以下では、蛍光輝点の非分光像を「点像」と称し、蛍光輝点の分光像を「線像」と称す。なお、前述した活性化密度と、1次回折光の拡がり量との関係は、適切に設定されているので、互いに異なる2つの線像ISが重なることは無い。
図3に示した点像IPk(1〜3)及び線像ISk(1〜3)のうち、共通の添え字kが付与されているもの同士の間では、発光元蛍光輝点が共通する。発生元蛍光輝点が共通するもの点像IPkと線像ISkとの間では、CCD座標Xのみが異なり、CCD座標Yは共通である。
また、3つの点像IP1、IP2、IP3の位置関係は、それら点像IP1、IP2、IP3の発生元となった3つの蛍光輝点の位置関係(=線像IS1、IS2、IS3の発生元となった3つの蛍光輝点の位置関係)を示している。
また、3つの線像IS1、IS2、IS3の各々の輝度分布は、点像IP1、IP2、IP3の各々のスペクトル、すなわち点像IP1、IP2、IP3の発生元(=線像IS1、IS2、IS3の発生元)となった3つの蛍光輝点の各々の発光スペクトルを示している。
図4には、発生元蛍光輝点が共通する点像IP及び線像ISのX方向の輝度分布の例を示した。点像IPの輝度最大値は、線像ISの輝度最大値よりも大きい。本実施形態では、このうち点像IPを検出し、その点像IPのCCD座標(X,y)を変換することにより、蛍光輝点の標本座標(x,y)を取得し、その点像IPに対応する線像ISの輝度分布のCCD座標(X)を変換することにより、蛍光輝点の発光スペクトルI(λ)を取得する(詳細は後述)。
以下、本装置の各部の設計例を説明する。
先ず、標本10Aにおける観察視野の径は、80μmであり、対物レンズ17から撮像面までのトータルの倍率は100倍であり、レンズ14b及びレンズ20からなる光学系の倍率は1倍である。よって、観察視野の非分光像IFPの径は8mmとなり、観察視野の分光像IFSの径は8mm+αとなる。
また、回折格子18は、溝本数が100本/mmの透過型回折格子である。中心波長が530nmであり、半値全幅が約50nmであるスペクトルを有した蛍光を入射角度0度で回折格子18へ入射させたとき、その回折格子18で発生する0次回折光と1次回折光との角度差は、約3度であり、その1次回折光の拡がり角度は約0.3度である。
また、レンズ20の焦点距離は、100mmである。よって、その0次回折光が撮像面上に形成する点像IPと、その1次回折光が撮像面に形成する線像ISとの分離量は、約5mmであり、その線像ISのX方向の拡がり幅は、約0.5mmである。
したがって、前述した活性化密度(観察視野内に点在する蛍光輝点は1〜5個)によると、互いに異なる線像IS同士が撮像面上で重なる虞は無い。なお、本実施形態では簡単のため、活性化密度は十分に低いもの(観察視野内に点在する蛍光輝点は1〜3個)と仮定し、撮像面上の同一ライン上に形成される線像ISの個数は、多くても1個とする。なお、ここでいう「ライン」は、撮像面上でX方向に延びる各ラインのことを指す。
また、撮像面は、観察視野の非分光像IFPと観察視野の分光像IFSとの双方を最小限の面積でカバーできるようX方向に長い長方形状をしている。撮像面の画素ピッチは8μmであり、撮像面のX方向の画素数は2048であり、X方向に垂直なY方向の画素数は1024である。よって、撮像面のX方向のサイズは約16mm、撮像面のY方向のサイズは約8mmとなる。
したがって、本実施形態のEM−CCD21は、観察視野の非分光像IFPと観察視野の分光像IFSとの双方を一括で検出することができる。
図5は、コントロールユニット30による測定処理のフローチャートである。以下、図5の各ステップを順に説明する。
ステップS11:コントロールユニット30は、画像番号jを初期値1に設定する。
ステップS12:コントロールユニット30は、活性化レーザ光源121を適当なパワーでオンすることにより観察視野内に存在する蛍光蛋白質を前述した活性化密度で活性化し、その後、活性化レーザ光源121をオフする。
ステップS13:コントロールユニット30は、励起レーザ光源122を適当なパワーでオンし、その状態でEM−CCD21を駆動して画像を取り込み、取り込んだ画像を、画像番号jに対応する画像Ijとしてメモリへ格納する。なお、本ステップにおける励起レーザ光源122のパワーは、活性化中の蛍光分子を励起するのに必要な最小限の値に設定される。また、励起レーザ光源122をオンするタイミングは、活性化レーザ光源121をオンするタイミングと同じであっても構わない。
ステップS14:コントロールユニット30は、励起レーザ光源122のパワーを高い値に切り換えてから所定期間が経過するのを待機し、その後、励起レーザ光源122をオフする。なお、本ステップにおける励起レーザ光源123のパワー及び待機期間は、活性化中の蛍光分子を褪色させるのに必要な十分に高い値に設定される。
ステップS15:コントロールユニット30は、画像番号jが最終値に達しているか否かを判別する。コントロールユニット30は、画像番号jが最終値に達していない場合にはステップS16へ移行し、画像番号jが最終値に達していた場合には、フローを終了する。なお、ここでは、画像の取得枚数を100とするために、画像番号jの最終値は、100に設定されたと仮定する。
ステップS16:コントロールユニット30は、画像番号jをインクリメントしてからステップS12に戻り、次の画像の取得を開始する。
以上の結果、コントロールユニット30のメモリには、100枚の画像Ij(j=1〜100)が格納される。
図6は、コントロールユニット30によるスペクトル抽出処理のフローチャートである。なお、スペクトル抽出処理の実行に先立ち、コントロールユニット30のメモリには前述した100枚の画像Ij(j=1〜100)が格納されており、かつ、それら100枚の画像Ij(j=1〜100)に対応する100個のスペクトル画像Ij’(j’=1〜100)の記憶領域が用意されているものと仮定する。なお、j番目のスペクトル画像Ij’は、j回目の画像取得時に標本10Aで発生した蛍光のスペクトルを、標本座標(x,y)毎に示すものである。
以下、図6の各ステップを順に説明する。
ステップS21:コントロールユニット30は、画像番号jを初期値1に設定する。
ステップS22:コントロールユニット30は、ライン番号mを初期値1に設定する。なお、ライン番号mとは、画像Ij上のm番目のラインLmの番号である。
ステップS23:コントロールユニット30は、画像番号jに対応する画像Ijをメモリから読み出し、その画像Ijにおけるm番目のラインLmの各位置の輝度を閾値と比較することにより、そのラインLm上に点像IPが存在しているか否かを判別し、存在していたならばステップS24へ移行し、存在していなければステップS26へ移行する。なお、本ステップの閾値は、例えば、比較的暗い点像の輝度と比較的明るい線像の輝度との間の値(例えば、図4の符号Thで示す値。)に設定される。なお、ラインLm上の点像IPが存在しているか否かの判別は、他の方法で行われてもよい。例えば、ラインLmの微分データ中に閾値を超える画素が存在するか否かによって判別が行われてもよい。
ステップS24:コントロールユニット30は、ラインLm上で輝度が最大となる画素のCCD座標を、点像IPの存在しているCCD座標(X0,Y0)として認識し、ラインLmのうち、そのCCD座標(X0,Y0)の+X側に延在する所定画素分(例えば630画素分)の部分ラインLm’を参照する。この部分ラインLm’は、その点像IPと発生元蛍光輝点が共通する線像ISの輝度分布を示している。
ステップS25:コントロールユニット30は、部分ラインLm’に含まれる各画素のCCD座標Xを波長λへ変換することにより、点像IP及び線像ISの発光元となった蛍光輝点の発光スペクトルI(λ)を取得する。また、コントロールユニット30は、点像IPのCCD座標(X0,Y0)を蛍光輝点の標本座標(x,y)へ変換する。そして、コントロールユニット30は、メモリ上に用意されたスペクトル画像Ij’の標本座標(x,y)に対し、本ステップで取得したスペクトルI(λ)を対応付ける。
なお、本ステップにおけるCCD座標Xから波長λへの変換には、次式が使用される。但し、fはレンズ14bの焦点距離であり、Pgは回折格子18の格子ピッチであり、Pccdは画素ピッチである。
また、本ステップにおけるCCD座標(X0,Y0)から標本座標(x,y)への変換には、次式が使用される。但し、Mは標本面から視野絞り面までの倍率である。
x=X0Pccd/M
y=Y0Pccd/M
ステップS26:コントロールユニット30は、ライン番号mが最終値に達したか否かを判別し、達していなかった場合にはステップS27へ移行し、達していた場合にはステップS28へ移行する。
y=Y0Pccd/M
ステップS26:コントロールユニット30は、ライン番号mが最終値に達したか否かを判別し、達していなかった場合にはステップS27へ移行し、達していた場合にはステップS28へ移行する。
ステップS27:コントロールユニット30は、ライン番号mをインクリメントしてからステップS23に戻り、次のラインの処理を開始する。
ステップS28:コントロールユニット30は、画像番号jが最終値(100)に達したか否かを判別し、達していなかった場合にはステップS29へ移行し、達していた場合にはフローを終了する。
ステップS29:コントロールユニット30は、画像番号jをインクリメントしてからステップS22に戻り、次の画像の処理を開始する。
以上の結果、コントロールユニット30のメモリには、100個のスペクトル画像Ij’(j’=1〜100)が蓄積されることになる。
図7は、コントロールユニット30によるスペクトル解析処理のフローチャートである。なお、スペクトル解析処理の実行に先立ち、コントロールユニット30のメモリには、前述した100個のスペクトル画像Ij’(j’=1〜100)と、M種類の蛍光蛋白質のリファレンススペクトルS1〜SMとが格納されているものと仮定する。なお、リファレンススペクトルS1〜SMの各々は、次式のとおり列ベクトルで表される。列ベクトルの各成分は、リファレンススペクトルの各波長における強度を示す。
以下、図7の各ステップを順に説明する。
ステップS31:コントロールユニット30は、画像番号jを初期値1に設定する。
ステップS32:コントロールユニット30は、画像番号jに対応するスペクトル画像Ij’をメモリから読み出し、そのスペクトル画像Ij’の個々の標本座標(x,y)に対応付けられたスペクトルI(λ)をそれぞれアンミックスする。なお、個々の標本座標(x,y)に関するアンミックスは、例えば次の手順(a)〜(d)によって行われる。なお、このアンミックスは、線形最小二乗法によるアンミックスである。
(a)コントロールユニット30は、M個のリファレンススペクトルS1〜SMを、纏めて次式のとおり1つの行列Sで表す。
(b)コントロールユニット30は、標本座標(x,y)のスペクトルI(λ)(以下、「観測スペクトルI(λ)」と称す。)を次式のとおり1つの列ベクトルIで表す。列ベクトルIの各成分は、観測スペクトルI(λ)の各波長における強度を示す。また、列ベクトルIの成分数Nは、蛍光蛋白質の種類数Mより十分に多く設定される。
(c)コントロールユニット30は、標本座標(x,y)に対するM種類の蛍光蛋白質の寄与率p1〜pMを、次式のとおり1つの列ベクトルPで表す。
この場合、以下の関係が成り立つ。
I=S・P …(1)
よって、以下の関係が成り立つ(但し、[A]tはAの転置行列である。)。
よって、以下の関係が成り立つ(但し、[A]tはAの転置行列である。)。
P=(StS)−1StI …(1’)
(d)コントロールユニット30は、行列Sと、列ベクトルIと、式(1’)とに基づく最小二乗法により、列ベクトルPの各成分p1〜pMを既知とする(以上、手順(d))。
(d)コントロールユニット30は、行列Sと、列ベクトルIと、式(1’)とに基づく最小二乗法により、列ベクトルPの各成分p1〜pMを既知とする(以上、手順(d))。
したがって、本ステップによれば、全ての標本座標(x,y)の各々に関するM種類の蛍光蛋白質の寄与率p1〜pMが既知となる(以上、ステップS32)。
ステップS33:コントロールユニット30は、ステップS32で取得した全ての標本座標(x,y)の各々に関するM種類の寄与率p1〜pMを、蛍光蛋白質の種類毎に纏めることにより、画像番号jに関するM枚の寄与率画像Pj1〜PjMを作成する。
ステップS34:コントロールユニット30は、画像番号jが最終値(100)に達したか否かを判別し、達していなかった場合にはステップS35へ移行し、達していた場合にはステップS36へ移行する。
ステップS35:コントロールユニット30は、画像番号jをインクリメントしてからステップS32へ戻る。したがって、M枚の寄与率画像Pj1〜PjMは、トータルで100組分作成されることになる。
ステップS36:コントロールユニット30は、100組の寄与率画像Pj1〜PjM(j=1〜100)を、蛍光蛋白質の種類毎に合成することにより、M枚の合成寄与率画像P1〜PMを作成し、それらM枚の合成寄与率画像P1〜PMを、標本10Aの観察データとしてメモリへ格納する。
以上、本実施形態の装置は、対物レンズ17の瞳面に分光素子(ここでは回折格子18)を配することにより、撮像面上に点在する蛍光輝点像の各々を、拡がりを持った分光像とするので(図3参照)、標本10A内に点在していた蛍光輝点の各々の発光スペクトルを、撮像面上に点在する線像として一括に取得することができる。
したがって、本実施形態の標本10Aには蛍光波長域の互いに重複する複数の光活性化蛍光蛋白質(PA−GFP、Dronpa)が使用されているにも拘わらず、同時励起観察が可能である。
また、本実施形態の装置は、線像の拡がり量と、活性化密度との関係を、前述したとおり適切に設定しているので、互いに異なる2つの線像同士が撮像面上で重なる可能性は無い。したがって、本実施形態のコントロールユニット30は、観察視野に点在していた蛍光輝点の各々の発光スペクトルを上述したとおり簡単に求めることができる。
また、本実施形態の装置は、分光素子として回折格子18を使用することにより、撮像面上に線像と点像との双方を形成する。したがって、本実施形態のコントロールユニット30は、線像及び点像の発生元となった共通の蛍光輝点の標本座標(x,y)を、点像のCCD座標(X0,Y0)のみから簡単に算出することができる。
また、本実施形態のコントロールユニット30は、個々の蛍光輝点の発光スペクトルに対してスペクトルアンミックスの処理を施すので、蛍光輝点に寄与する蛍光蛋白質の種類を同定したり、蛍光輝点に対する複数の蛍光蛋白質の寄与率を既知としたりすることができる。
[第2実施形態]
以下、本発明に係るPALM装置の第2実施形態を説明する。ここでは、第1実施形態との相違点のみを説明する。
以下、本発明に係るPALM装置の第2実施形態を説明する。ここでは、第1実施形態との相違点のみを説明する。
図8は、本実施形態のPALM装置の構成図である。図8に示すとおり、本実施形態では回折格子18の代わりにプリズム221が使用される。また、本実施形態では、プリズム221の生成する線像が撮像面から外れないよう、レンズ20及びEM−CCD21は、図8に示すとおり傾斜した姿勢で配置される。
ここで、プリズム221の材質がSF10であったとすると、プリズム221の頂角を45度に設定すれば、撮像面上に蛍光輝点の線像を形成する各蛍光の拡がり角度(スペクトル拡がり)を、第1実施形態のそれと同じにすることができる。
なお、プリズム221は回折格子18とは異なり0次回折光に相当する光が発生しないので、撮像面上に蛍光輝点の点像は生起しない。このため、本実施形態のコントロールユニット30は、蛍光輝点の標本座標(x,y)の算出を、蛍光輝点の線像に基づき行う必要がある。
ここで、プリズム221の頂角をαとおき、波長λにおけるプリズム221の屈折率をn(λ)とおき、基準波長(530nm)におけるプリズム221の屈折率をn0とおくと、標本座標(x,y)に位置する蛍光輝点から射出した波長λの蛍光が到達するCCD座標(X,Y)は、次式(2)で表される。
よって、本実施形態のコントロールユニット30は、この式(2)に基づくことにより、蛍光輝点の線像から蛍光輝点の標本座標(x,y)を算出することができる。
但し、標本座標(x,y)のうち、特に標本座標xの算出には式(2)をそのまま使用することが難しいので、式(2)の代わりに、式(2)から導出される対応表を使用することが望ましい。この対応表は、蛍光蛋白質の種類毎に用意され、コントロールユニット30のメモリに予め記憶される。メモリに予め記憶される対応表の個数は、蛍光蛋白質の種類数と同じくMである。
M個の対応表の各々には、図9に示すとおり、蛍光輝点の標本座標xと、その蛍光輝点が撮像面上の対応ラインに与える輝度分布Lx(以下、「リファレンスラインLx」と称す。)とが、互いに対応づけられて格納されている。この対応表において、リファレンスラインLxは、全ての標本座標xの各々について格納されている。上述したとおり、撮像面のX方向の画素数は2048なので、ここでは、1つの対応表に含まれるリファレンスラインLxの個数を、2048個とする。なお、図9では、分かりやすくするためにリファレンスラインLxに含まれる各画素の輝度を濃度で表したが、実際の対応表では、各画素の輝度は数値によって表される。また、個々のリファレンスラインLxは、本装置から実測されたもの、或いは、本装置の設計データに基づくシミュレーションによって取得されたものである。
本実施形態のコントロールユニット30は、M個の対応表に基づくスペクトルアンミックス(以下、「拡張スペクトルアンミックス」と称す。)により、線像の存在するラインLmから、その線像の発光元となった蛍光輝点の標本座標(x,y)と、その蛍光輝点に対するM種類の蛍光蛋白質の寄与率とを、一緒に算出する。
先ず、蛍光輝点に寄与する蛍光蛋白質の種類数が1である場合に適用可能な拡張スペクトルアンミックスは、次の手順(a’)〜(c’)からなる。
(a’)コントロールユニット30は、M個の対応表の中から、ラインLmの輝度分布と最も類似した輝度分布を持つリファレンスラインLxを見出し、そのリファレンスラインLxに対応づけられた標本座標を、蛍光輝点の標本座標xとみなす。
(b’)コントロールユニット30は、ラインLmのCCD座標Yを式(2)へ当てはめることにより、蛍光輝点の標本座標yを算出する。これによって、蛍光輝点の標本座標(x,y)が既知となる。
(c’)コントロールユニット30は、リファレンスラインLxの属していた対応表の種類により、蛍光輝点に寄与した蛍光蛋白質の種類を同定し、リファレンスラインLxに対するラインLmの輝度比を、その蛍光輝点に対するその蛍光蛋白質の寄与率として求める(以上、種類数が1である場合に適用可能な拡張スペクトルアンミックスの手順)。
一方、蛍光輝点に寄与する蛍光蛋白質の種類数が2以上である場合に適用される拡張スペクトルアンミックスは、次の手順(a”)〜(g”)からなる。
(a”)コントロールユニット30は、M種類の対応表に含まれるM×2048個のリファレンスラインLx1〜Lx2048を、それぞれ列ベクトルで表す。なお、M×2048個のリファレンスラインLx1〜Lx2048の各々は、列ベクトルで表され、列ベクトルの各成分は、リファレンスラインの各CCD座標Xにおける輝度を示す。なお、個々の列ベクトルの成分数Nは、蛍光蛋白質の種類数Mより十分に多く設定される。
(b”)コントロールユニット30は、M×2048個のリファレンスラインLx1〜Lx2048を、纏めて1つの行列Sで表す。
(c”)コントロールユニット30は、ラインLmの輝度分布(以下、「観測輝度分布Lm(X)」と称す。)を、1つの列ベクトルIで表す。列ベクトルIの各成分は、観測輝度分布Lm(X)の各CCD座標Xにおける輝度を示す。また、列ベクトルIの成分数Nは、蛍光蛋白質の種類数Mより十分に多く設定される。
(d”)コントロールユニット30は、ラインLm上の2048個のX座標の各々に対するM種類の蛍光蛋白質の寄与率p11〜pM2048を、1つの列ベクトルPで表す。この場合、上述した式(1),(1’)が成り立つ。
(e”)コントロールユニット30は、行列Sと、列ベクトルIと、式(1’)とに基づく最小二乗法により、列ベクトルPの各成分p11〜pM2048を既知とする。
(f”)コントロールユニット30は、手順(d”)で既知とした成分p11〜pM2048によって表される列ベクトルPと、行列Sとを、式(1)へ当てはめることにより、列ベクトルIを合成する。そして、コントロールユニット30は、合成された列ベクトルIと、観測輝度分布Lm(X)の列ベクトルIとを比較し、両者の差(残差)が最小となるような標本座標xを見出し、その標本座標xを、蛍光輝点の標本座標xとみなす。
(g”)コントロールユニット30は、ラインLmのCCD座標Yを式(2)へ当てはめることにより、蛍光輝点の標本座標yを算出する。これによって、蛍光輝点の標本座標(x,y)が既知となる(以上、種類数が2以上である場合に適用される拡張スペクトルアンミックスの手順)。
なお、以上の拡張スペクトルアンミックスは、第1実施形態へ適用することも可能である。拡張スペクトルアンミックスを適用すれば、点像が撮像面から外れたり、互いに異なる線像同士が撮像面上で重複したりすることを許容できる。
また、本実施形態の装置は、次のように変形することも可能である。
すなわち、プリズム221へ向かう蛍光をプリズム221の直前で二つに分岐する分岐素子を配置し、分岐された蛍光の一方については、プリズム221を介して撮像面上に結像させ、他方については、プリズム221を介さずに撮像面上に結像させる。このうち、プリズム221を介して結像する蛍光は、撮像面上に分光像を形成し、プリズム221を介さずに結像する蛍光は、撮像面上に非分光像を形成する。
このようにして非分光像を形成した場合、本実施形態のコントロールユニット30は、蛍光輝点の標本座標(x,y)と、その蛍光輝点の発光スペクトルI(λ)とを、第1実施形態のコントロールユニット30と同様の手順で算出することができる。
但し、本実施形態の装置では、回折格子18の代わりにプリズム221が使用されているので、CCD座標Xから波長λへの変換には、次式が使用される。
具体的には、本実施形態のコントロールユニット30は、この式による反復計算等により屈折率n(λ)を算出してから、波長λを求めることになる。
[蛍光蛋白質の種類の補足]
上述した何れかの実施形態では、標本10Aに使用される蛍光蛋白質を、PA−GFPとDronpaとの組み合わせとした。PA−GFPとDronpaとは、互いの励起波長がほぼ等しいため同時励起が可能であるという利点があるのに対し、互いの蛍光波長の極大波長が1nm程度しか離れていないため、従来は同時励起観察が困難とされていた。しかし、上述した何れかの実施形態によると、確実に同時励起観察を行うことが可能である。
[蛍光蛋白質の種類の補足]
上述した何れかの実施形態では、標本10Aに使用される蛍光蛋白質を、PA−GFPとDronpaとの組み合わせとした。PA−GFPとDronpaとは、互いの励起波長がほぼ等しいため同時励起が可能であるという利点があるのに対し、互いの蛍光波長の極大波長が1nm程度しか離れていないため、従来は同時励起観察が困難とされていた。しかし、上述した何れかの実施形態によると、確実に同時励起観察を行うことが可能である。
なお、PA−GFPとDronpaとの組み合わせ以外に、PS−CFP2とDronpaの組み合わせや、PS−CFP2とPA−GFPとの組み合わせも採用することが可能である。これらの組み合わせは、互いの励起波長はやや離れているが、490nm〜500nmの波長で同時励起が可能であり、蛍光の極大波長が6〜7nm離れているので、使い易い。因みに、ここで挙げた各種の蛍光蛋白質は、何れも400nm前後の光により活性化することが可能である。
121…活性化レーザ光源、122…励起レーザ光源、101…ダイクロイックミラー、13…レンズ、15…ダイクロイックミラー、17…対物レンズ、11…サンプルステージ、14…リレー光学系、18…回折格子、20…レンズ、21…EM−CCD、30…コントロールユニット
Claims (12)
- 被観察物に含まれる光活性化蛍光物質を所定の活性化密度で活性化する活性化手段と、
前記被観察物に含まれる活性化中の光活性化蛍光物質を励起することにより、前記被観察物内に蛍光輝点を点在させる励起手段と、
前記被観察物の蛍光像を所定の撮像面上に形成することにより、前記撮像面内に蛍光輝点像を点在させる結像光学系と、
前記被観察物から前記撮像面へ向かう蛍光を所定の分光量で分光することにより、前記撮像面内に点在する蛍光輝点像の各々を、空間的拡がりを持った分光像とする分光手段と、
前記撮像面上の輝度分布を示す画像を取得する撮像手段と、
を備えることを特徴とする顕微鏡。 - 請求項1に記載の顕微鏡において、
前記所定の活性化密度と前記所定の分光量との関係は、
前記撮像面内に点在する分光像同士が互いに重ならないように設定される
ことを特徴とする顕微鏡。 - 請求項1又は請求項2に記載の顕微鏡において、
前記分光手段は、
前記結像光学系の瞳面に配置された回折格子である
ことを特徴とする顕微鏡。 - 請求項1又は請求項2に記載の顕微鏡において、
前記分光手段は、
前記結像光学系の瞳面に配置されたプリズムである
ことを特徴とする顕微鏡。 - 請求項1〜請求項4の何れか1項に記載の顕微鏡が取得した画像を処理する画像処理装置であって、
前記画像内に点在する分光像の各々の輝度分布に基づき、前記被観察物内に点在した蛍光輝点の各々の発光スペクトルを求める演算手段を備えた
ことを特徴とする画像処理装置。 - 請求項5に記載の画像処理装置において、
前記演算手段は、
前記被観察物内に点在した蛍光輝点の各々の発光スペクトルと、複数種類の光活性化蛍光物質の発光特性情報とに基づき、それら蛍光輝点の各々に対する前記複数種類の光活性化蛍光物質の寄与率を算出する
ことを特徴とする画像処理装置。 - 請求項1〜請求項4の何れか一項に記載の顕微鏡が取得した画像を処理する画像処理装置であって、
前記画像内に点在する分光像の各々の輝度分布と、複数種類の光活性化蛍光物質の発光特性情報とに基づき、前記被観察物内に点在した蛍光輝点の各々の位置を算出する演算手段を備えた
ことを特徴とする画像処理装置。 - 請求項7に記載の画像処理装置において、
前記演算手段は、
前記画像内に点在する分光像の各々の輝度分布と、複数種類の光活性化蛍光物質の発光特性情報とに基づき、前記被観察物内に点在した蛍光輝点の各々に対する前記複数種類の光活性化蛍光物質の寄与率を算出する
ことを特徴とする画像処理装置。 - 請求項1〜請求項4の何れか1項に記載の顕微鏡が取得した画像を処理する画像処理方法であって、
前記画像内に点在する分光像の各々の輝度分布に基づき、前記被観察物内に点在した蛍光輝点の各々の発光スペクトルを求める演算手順を含む
ことを特徴とする画像処理方法。 - 請求項9に記載の画像処理方法において、
前記演算手順では、
前記被観察物内に点在した蛍光輝点の各々の発光スペクトルと、複数種類の光活性化蛍光物質の発光特性情報とに基づき、それら蛍光輝点の各々に対する前記複数種類の光活性化蛍光物質の寄与率を算出する
ことを特徴とする画像処理方法。 - 請求項1〜請求項4の何れか1項に記載の顕微鏡が取得した画像を処理する画像処理方法であって、
前記画像内に点在する分光像の各々の輝度分布と、複数種類の光活性化蛍光物質の発光特性情報とに基づき、前記被観察物内に点在した蛍光輝点の各々の位置を算出する演算手順を含む
ことを特徴とする画像処理方法。 - 請求項11に記載の画像処理方法において、
前記演算手順では、
前記画像内に点在する分光像の各々の輝度分布と、複数種類の光活性化蛍光物質の発光特性情報とに基づき、前記被観察物内に点在した蛍光輝点の各々に対する前記複数種類の光活性化蛍光物質の寄与率を算出する
ことを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009185997A JP2011039247A (ja) | 2009-08-10 | 2009-08-10 | 顕微鏡、画像処理装置、及び画像処理方法。 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009185997A JP2011039247A (ja) | 2009-08-10 | 2009-08-10 | 顕微鏡、画像処理装置、及び画像処理方法。 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011039247A true JP2011039247A (ja) | 2011-02-24 |
JP2011039247A5 JP2011039247A5 (ja) | 2012-10-04 |
Family
ID=43767085
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009185997A Pending JP2011039247A (ja) | 2009-08-10 | 2009-08-10 | 顕微鏡、画像処理装置、及び画像処理方法。 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011039247A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013005765A1 (ja) * | 2011-07-04 | 2013-01-10 | 株式会社ニコン | 顕微鏡装置 |
JP2013015665A (ja) * | 2011-07-04 | 2013-01-24 | Nikon Corp | 顕微鏡装置及び画像形成方法 |
JP2015022070A (ja) * | 2013-07-17 | 2015-02-02 | 独立行政法人理化学研究所 | 光学顕微鏡システム |
CN113155786A (zh) * | 2020-01-22 | 2021-07-23 | 纬创资通股份有限公司 | 检测装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0756092A (ja) * | 1993-08-19 | 1995-03-03 | Olympus Optical Co Ltd | 落射照明装置 |
JP2001296180A (ja) * | 2000-04-12 | 2001-10-26 | Mitsubishi Electric Corp | 分光画像取得装置 |
JP2005337793A (ja) * | 2004-05-25 | 2005-12-08 | Olympus Corp | 分光画像入力装置及びそれを備えた光学装置 |
JP2006242899A (ja) * | 2005-03-07 | 2006-09-14 | Institute Of Physical & Chemical Research | 多重蛍光からの蛍光色素濃度の推定方法および多重蛍光からの蛍光強度の推定方法 |
JP2008542826A (ja) * | 2005-05-23 | 2008-11-27 | エフ. ヘスス ハラルド | 光変換可能な光学標識を用いる光学顕微鏡法 |
-
2009
- 2009-08-10 JP JP2009185997A patent/JP2011039247A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0756092A (ja) * | 1993-08-19 | 1995-03-03 | Olympus Optical Co Ltd | 落射照明装置 |
JP2001296180A (ja) * | 2000-04-12 | 2001-10-26 | Mitsubishi Electric Corp | 分光画像取得装置 |
JP2005337793A (ja) * | 2004-05-25 | 2005-12-08 | Olympus Corp | 分光画像入力装置及びそれを備えた光学装置 |
JP2006242899A (ja) * | 2005-03-07 | 2006-09-14 | Institute Of Physical & Chemical Research | 多重蛍光からの蛍光色素濃度の推定方法および多重蛍光からの蛍光強度の推定方法 |
JP2008542826A (ja) * | 2005-05-23 | 2008-11-27 | エフ. ヘスス ハラルド | 光変換可能な光学標識を用いる光学顕微鏡法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013005765A1 (ja) * | 2011-07-04 | 2013-01-10 | 株式会社ニコン | 顕微鏡装置 |
JP2013015665A (ja) * | 2011-07-04 | 2013-01-24 | Nikon Corp | 顕微鏡装置及び画像形成方法 |
JP2015022070A (ja) * | 2013-07-17 | 2015-02-02 | 独立行政法人理化学研究所 | 光学顕微鏡システム |
CN113155786A (zh) * | 2020-01-22 | 2021-07-23 | 纬创资通股份有限公司 | 检测装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11988604B2 (en) | Optical microscopy with phototransformable optical labels | |
US8089691B2 (en) | Projection device for patterned illumination and microscopy | |
US8908174B2 (en) | Apparatus, especially microscope, for the analysis of samples | |
US10527838B2 (en) | Analysis device, microscope device, analysis method, and program | |
JP5746161B2 (ja) | 顕微鏡画像における蛍光の評価方法 | |
JP2016526185A5 (ja) | ||
JP2013545127A (ja) | 光学測定方法および光学測定装置 | |
EP2887116B1 (en) | Microscope apparatus | |
JP2011039247A (ja) | 顕微鏡、画像処理装置、及び画像処理方法。 | |
US20130250088A1 (en) | Multi-color confocal microscope and imaging methods | |
CN113281305B (zh) | 一种基于散射介质实现超分辨显微成像方法及其装置 | |
KR101603726B1 (ko) | 멀티모달 현미경 | |
JP6206871B2 (ja) | 光学顕微鏡システム | |
JP2007101476A (ja) | ラマンスペクトル取得方法 | |
US10883940B2 (en) | Fluctuation-based fluorescence microscopy | |
Vakili et al. | High brightness LED in confocal microscopy | |
Abrahamsson et al. | Structured illumination microscopy | |
Lew | Accurate 3D Nanoscale Imaging of Dipole-like Emitters | |
Haase | OMX-a novel high speed and high resolution microscope and its application to nuclear and chromosomal structure analysis | |
Izeddin et al. | Imaging Actin Filaments in Synaptic Spines Beyond the Diffraction Limit of Light | |
Cutrale | Paxillin focal adhesions, localization and implication: insight from Photo-Activated Localization Microscopy | |
Wiltgen et al. | Super-resolution Imaging Of Ca2+ Flux Through IP3Rs With Millisecond Temporal Resolution And Nanometer Spatial Resolution | |
Small et al. | Computational and Statistical Limits to Palm, Storm, and Related Sub-Diffraction Fluorescence Microscopy Techniques |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120809 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120820 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130509 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20131217 |