JP5747690B2 - 顕微鏡装置及び画像形成方法 - Google Patents

顕微鏡装置及び画像形成方法 Download PDF

Info

Publication number
JP5747690B2
JP5747690B2 JP2011148230A JP2011148230A JP5747690B2 JP 5747690 B2 JP5747690 B2 JP 5747690B2 JP 2011148230 A JP2011148230 A JP 2011148230A JP 2011148230 A JP2011148230 A JP 2011148230A JP 5747690 B2 JP5747690 B2 JP 5747690B2
Authority
JP
Japan
Prior art keywords
molecule
data
list
molecule list
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011148230A
Other languages
English (en)
Other versions
JP2013015665A (ja
Inventor
岡本 高明
高明 岡本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2011148230A priority Critical patent/JP5747690B2/ja
Publication of JP2013015665A publication Critical patent/JP2013015665A/ja
Application granted granted Critical
Publication of JP5747690B2 publication Critical patent/JP5747690B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、顕微鏡装置及び画像形成方法に関するものである。
従来から、超解像顕微鏡として、STORM(Stochastic Optical Reconstruction Microscopy)が知られている(例えば特許文献1参照)。この顕微鏡では、観察試料として、所定波長の活性化光を照射すると活性化し、後に活性化光とは異なる波長の励起光を照射すると蛍光を発して不活性化する特性を有する蛍光物質又はこの蛍光物質を付着させたものが用いられる。このような観察試料に対して微弱な活性化光を照射することで低密度に蛍光物質を活性化させ、その後に励起光を照射して蛍光物質を発光させることで蛍光画像を取得する。このようにして取得した蛍光画像では、蛍光輝点(蛍光物質の像)が低密度に配置され、個々に分離されたものとなるため、個々の像の重心位置を求めることができる。このような蛍光画像を得るステップを複数回、例えば数百回〜数万回以上繰り返し、得られた複数の蛍光画像を合成する画像処理を行うことにより、高分解能の試料画像を得ることができる。
米国特許出願公開第2008/0032414号明細書
しかし、従来の観察方法では、顕微鏡の一視野に収まりきらない観察試料の超解像画像を得ることができなかった。
本発明は、上記従来技術の問題点に鑑み成されたものであって、広視野の超解像画像が得られる顕微鏡装置、及び広視野の超解像画像を形成することができる画像形成方法を提供することを目的の一つとする。
本発明の顕微鏡装置は、活性化光及び励起光の照射、又は励起光の照射により蛍光を発する蛍光物質を含む試料に、前記活性化光及び前記励起光、又は前記励起光を照射する照明光学系と、前記試料の観察領域の蛍光画像を撮像する撮像装置と、前記試料に前記励起光を繰り返し照射することにより取得された複数の蛍光画像の各々において蛍光輝点の位置を解析し、分子リストとして構築する画像解析装置と、複数の前記観察領域において取得された複数の前記分子リストを、前記分子リスト同士が重なり合う領域における前記分子リスト間の前記蛍光輝点同士の相対位置情報に基づいて算出した位置補正情報を用いて連結する画像連結装置と、を備えたことを特徴とする。
本発明の画像形成方法は、活性化光及び励起光の照射、又は励起光の照射により蛍光を発する蛍光物質を含む試料に、前記活性化光及び前記励起光、又は前記励起光を照射する照明光学系と、前記試料の観察領域の蛍光画像を撮像する撮像装置と、を備えた顕微鏡装置における画像形成方法であって、前記試料に前記励起光を繰り返し照射することにより複数の蛍光画像を取得するステップと、取得した複数の前記蛍光画像の各々において蛍光輝点の位置を解析し、分子リストとして構築するステップと、複数の前記観察領域において取得された複数の前記分子リストを、前記分子リスト同士が重なり合う領域における前記分子リスト間の前記データ同士の相対位置情報に基づいて算出した位置補正情報を用いて連結するステップと、を有することを特徴とする。
本発明によれば、広視野の超解像画像が得られる顕微鏡装置、及び画像形成方法が提供される。
実施形態に係る顕微鏡装置を示す概略図。 制御部の詳細を示す図。 実施形態の画像形成方法を示すフローチャート。 実施形態の画像形成方法により得られるタイリング画像の一例を示す図。 画像連結ステップの詳細を示すフローチャート。 分子リスト間の重なり領域の抽出動作に関する説明図。 第2実施形態に係る画像形成方法の説明図。
以下、図面を参照して試料の観察方法、および顕微鏡装置の一実施形態について説明する。なお、本実施形態は、発明の趣旨をより良く理解させるために具体的に説明するものであり、特に指定のない限り、本発明を限定するものではない。また、以下の説明で用いる図面は、特徴をわかりやすくするために、便宜上、要部となる部分を拡大して示している場合があり、各構成要素の寸法比率などが実際と同じであるとは限らない。
(第1実施形態)
図1は本実施形態に係る顕微鏡装置を示す概略図である。
顕微鏡装置10は、照明光学系12と、制御部14と、顕微鏡本体15と、記憶部16と、表示部17とを備えている。
本実施形態の顕微鏡装置10は超解像顕微鏡技術(Stochastic Optical Reconstruction Microscopy;STORM)を用いた顕微鏡装置である。顕微鏡装置10では、活性化状態で励起光L1が照射されると蛍光を発して不活性化する蛍光物質を標識として付与された試料を用いる。この蛍光物質は、励起光L1が照射されることで蛍光を発して不活性化した後、励起光L1とは異なる波長の活性化光L2が照射されると再度活性化状態となる特性を有している。そして、励起光L1と活性化光L2とを用いて試料中の一部の蛍光物質のみを発光させることで離散的に分布した蛍光を観察する動作を繰り返し、これにより取得した多数の蛍光画像を解析することにより超解像の試料画像を形成する。
本実施形態に係る照明光学系12は、励起照明系11と、活性化照明系13と、を含む。
励起照明系11は、レーザ光源21と、シャッタ22と、全反射ミラー32とを備えており、全反射ミラー32を介して励起照明系11と顕微鏡本体15とが接続されている。
レーザ光源21は、試料に付与した蛍光物質を発光させるための励起光L1を顕微鏡本体15に供給する光源である。レーザ光源21は、試料に含まれる蛍光物質に適合する波長の励起光L1を射出するものであればよく、例えば、蛍光物質の種類に応じて、緑色レーザ(波長532nm)、赤色レーザ(波長633nm、657nm)、紫色レーザ(波長405nm)、青色レーザ(波長457nm)などを用いることができる。
シャッタ22は、顕微鏡本体15への励起光L1の供給、停止を切り替える装置であり、例えば、レーザ光源21から射出される励起光L1を遮蔽する遮光部材と、この遮光部材を励起光L1の光路に対して進退させる駆動装置とを備えた構成とすることができる。あるいはシャッタ22として、AOTF(Acousto-Optic Tunable Filter;音響光学フィルタ)を用いても良い。
全反射ミラー32は、レーザ光源21から照射される励起光L1を後述する顕微鏡本体15のステージ31に向けて全反射させる。
このような構成に基づき、励起照明系11は、ステージ31上の観察視野(観察領域)の全域に対して励起光L1を照射する。
一方、活性化照明系13は、レーザ光源42と、スキャナ43と、ダイクロイックミラー33とを備えている。ダイクロイックミラー33は励起光L1の光路上に挿入され、これにより活性化照明系13と顕微鏡本体15とが接続されている。ダイクロイックミラー33は、レーザ光源42から照射される活性化光L2をステージ31に向けて反射させる一方、励起照明系11から供給される励起光L1をステージ31に向けて透過させる。
レーザ光源42は、試料に含まれる蛍光物質を活性化するための活性化光L2を顕微鏡本体15に向けて照射する。レーザ光源42は、試料に含まれる蛍光物質に適合する波長の活性化光L2を射出するものであればよく、例えば、蛍光物質の種類に応じて、緑色レーザ(波長532nm)、赤色レーザ(波長633nm、657nm)、紫色レーザ(波長405nm)、青色レーザ(波長457nm)などを用いることができる。
スキャナ43は、活性化光L2を顕微鏡本体15のステージ31上で走査する。スキャナ43としては、例えば、二軸のガルバノスキャナを用いることができる。
このような構成に基づき、活性化照明系13は、ステージ31上の観察視野(観察領域)に対して、活性化光L2をスキャナ43により走査しながら照射可能になっている。
なお、照明光学系12として、レーザ光源21とレーザ光源41とを1つの筐体内に備え、複数種のレーザ光を射出可能に構成されたレーザ光源装置を採用してもよい。このようなレーザ光源装置を備える場合、レーザ光源装置とともにシャッタ22やスキャナ43を備えた照明系を構成することで、1つの照明系により励起光L1と活性化光L2の両方を顕微鏡本体15に供給可能となる。
顕微鏡本体15は、例えば、倒立顕微鏡である。顕微鏡本体15は、観察対象である試料を載置するステージ31を備えている。また、顕微鏡本体15には、ステージ31に載置された試料の蛍光画像を撮像するカメラ(撮像装置)34が接続されている。カメラ34としては、例えば複数の画素を有したCCDカメラを用いることができる。
また図示は省略しているが、顕微鏡本体15には、ステージ31に励起光L1及び活性化光L2を照射する対物レンズや、試料内の蛍光物質から放射された蛍光(観察光)をカメラ34の受光面に結合させる結像レンズなどが設けられている。上記対物レンズ及び結像レンズは、ステージ31に載置される試料を観察する本実施形態の顕微鏡装置における結像光学系を構成する。
ステージ31は、試料とカバーガラスとの界面で励起光L1及び活性化光L2を全反射させる全反射照明が可能に構成されている。全反射照明によれば、照明光(励起光L1、活性化光L2)が全反射する際にカバーガラスから試料側へにじみ出るエバネッセント光により試料を浅く照明することができる。エバネッセント光が届く範囲は界面から100〜150nm程度の範囲に限られるため、カバーガラス表面近傍に位置する蛍光物質のみを発光させることができ、バックグランウドの蛍光を著しく低減することで高いS/N比で実現することができる。
なお、本実施形態の顕微鏡本体15は、上記の全反射照明と、通常の落射照明とを切り替えて使用可能に構成されている。
制御部14は、顕微鏡装置10を総合的に制御するコンピュータであり、記憶部16と、表示部17と、カメラコントローラ19とに接続されている。本実施形態において、制御部14は、少なくとも、これらの装置を制御するための制御信号を生成する制御信号生成機能を備えており、さらに図2に示すように、蛍光画像取得部14aと、画像解析部14bと、画像連結部14cとを備えている。
記憶部16は、例えば半導体メモリやハードディスクなどからなり、制御部14において使用されるプログラムや制御部14から供給されるデータ(蛍光画像、分子リストなど)を、制御部14から読出可能な状態で記憶する。
表示部17は、例えばモニタ(表示装置)やプリンタ(印刷装置)であり、制御部14から出力される画像データに基づく映像を表示、印刷する機能を提供する。本実施形態では、表示部17としてモニタを用いている。
カメラコントローラ19は、顕微鏡本体15に接続されたカメラ34を駆動制御する。カメラコントローラ19は、制御部14から入力される制御信号に基づいてカメラ34を動作させ、試料から放射された蛍光の画像を取得し、取得した蛍光画像を制御部14に出力する。
制御部14の蛍光画像取得部14aは、カメラコントローラ19と接続されており、カメラコントローラ19を介してカメラ34を作動させることにより試料の蛍光画像Rを取得する。取得された蛍光画像Rは、直接又は記憶部16を介して画像解析部14bに出力される。
画像解析部14bは、入力された蛍光画像Rを解析することにより蛍光輝点Pfに対応する蛍光物質の位置や蛍光強度を特定し、蛍光物質の位置に対応する分子リストSを作成する。分子リストSは、蛍光輝点Pfの解析により得られた重心位置、ピーク強度、ピーク幅等を含むデータ構造体であり、図2では重心位置をプロットした図を用いて分子リストS1〜S4を概念的に表示している。作成された分子リストS(分子リストS1〜S4)は、直接又は記憶部16を介して画像連結部14cに出力される。
画像連結部14cは、視野をずらしながら取得した複数の分子リストSを連結することによりタイリング画像(試料画像)Imtを形成する。例えば図2に示すように、4枚の分子リストS1〜S4の互いに重なり合う領域を利用して位置合わせすることにより、1枚の大きなタイリング画像Imtを形成する。作成されたタイリング画像Imtは例えば表示部17に表示される。
顕微鏡装置10は、制御部14に備えられた上記の機能を組み合わせて実行することにより、後述する画像形成方法の実施に必要な各種の動作を実現する。したがって、顕微鏡装置10は、試料の観察領域の蛍光画像を撮像する撮像装置と、試料に励起光L1を繰り返し照射することにより取得された複数の蛍光画像の各々において蛍光輝点の位置を解析し、分子リストとして構築する画像解析装置と、複数の観察領域において取得された複数の分子リストを、分子リスト同士が重なり合う領域における分子リスト間の蛍光輝点同士の距離に基づいて算出した位置補正情報を用いて連結する画像連結装置の機能を兼ね備えたものである。
次に、顕微鏡装置10の動作、及び顕微鏡装置10における画像形成方法について説明する。
図3は、本実施形態の画像形成方法を示すフローチャートである。本実施形態の画像形成方法は、観察領域設定ステップS101と、画像取得ステップS102と、画像連結ステップS103とを有する。
図4は、本実施形態の画像形成方法により得られるタイリング画像の一例を示す図である。図4に示すタイリング画像は、観察領域A〜Dに対応する4枚の分子リストS1〜S4(STORM画像)を連結することにより作成される。
観察領域設定ステップS101は、顕微鏡装置10の顕微鏡本体15において、対物レンズ(図示略)とステージ31とを相対移動させ、試料上の観察領域(視野)を設定するステップS11を含む。
画像取得ステップS102は、試料に対して活性化光L2を照射するステップS12と、試料に対して励起光を照射して蛍光画像を取得するステップS13と、撮像動作の終了を判定するステップS14と、蛍光画像を解析して分子リストを形成するステップS15と、を含む。
画像連結ステップS103は、画像取得ステップS102で作成された複数の分子リストを連結し、1枚のタイリング画像を形成するステップS17を含む。
まず、顕微鏡装置10のステージ31上に、標識として蛍光物質を付与された試料がセットされる。観察対象となる試料は、例えば培養液に浸漬された細胞などである。蛍光物質としては、活性化光L2を照射されることにより活性化状態へ移行し、活性化状態で活性化光L2とは異なる波長の励起光L1を照射されると蛍光を発して不活性化する蛍光物質が用いられる。また、この蛍光物質は、励起光L1が照射されることで蛍光を発して不活性化した後、再び活性化光L2が照射されると再び活性化状態となる。具体的には、米国特許公開第2008/0032414号明細書に記載されたものを用いることができ、例えば、2種類のシアニン染料を結合させた染料対(Cy3−Cy5染料対、Cy2−Cy5染料対、Cy3−Alexa647染料対など)を用いることができる。
上記の染料対において、一方の染料(第1の染料)が励起光により発光する光放射部分を形成し、他方の染料(第2の染料)が、光照射に応答して第1の染料を活性化するか、あるいは第1の染料の状態を切り替えるスイッチとして機能する活性化部分を形成する。例えば、Cy3−Cy5染料対では、Cy5が光放射部分であり、Cy3はCy5を活性化可能な活性化部分である。したがって、Cy3−Cy5染料対を含む蛍光物質に、Cy3の吸収波長に対応する緑色レーザ(532nm)を照射すると、光放射部分であるCy5が活性化され、Cy5が蛍光状態に移行する。そして、Cy5が蛍光状態にある蛍光物質に対してCy5の吸収波長に対応する赤色レーザ(633nm)を照射すると、Cy5が発光するとともに、非活性状態(暗状態)に戻る。
STORMでは、蛍光物質における蛍光状態と暗状態とのスイッチング動作を制御することで、試料に付与された蛍光物質のごく一部のみを選択的に発光させ、蛍光物質を1分子レベルで検出可能としている。
ステージ31への試料のセットが完了したならば、ステージ31を駆動することにより、試料の観察視野が図4に示す観察領域Aにセットされる。この最初の観察領域のセット動作は、ユーザーによる手動操作により行ってもよく、制御部14によりステージ31を移動させ、予め設定された座標位置にステージ31を配置することにより行ってもよい。
観察領域のセットが完了したならば、次に、画像取得ステップS102に移行する。
画像取得ステップS102では、試料に対して制御された活性化光L2を照射するステップS12と、試料に対して励起光を照射して蛍光画像を取得するステップS13とを繰り返し実行する処理(STORM撮影処理)と、取得した複数の蛍光画像を解析して分子リストを作成する処理(ステップS15;STORM画像処理)とが実行される。
まず、ステップS12では、活性化照明系13から射出される活性化光L2が顕微鏡本体15に供給され、ステージ31上の試料に対して活性化光L2が照射される。このとき、励起照明系11のシャッタ22が閉状態とされることで励起光L1が遮断され、顕微鏡本体15には活性化光L2のみが入射する。
活性化照明系13では、活性化光L2がスキャナ43により位置制御されてダイクロイックミラー33に入射し、ダイクロイックミラー33で反射された活性化光L2がステージ31上の観察視野の所定位置に照射される。すなわち、スキャナ43により活性化光L2が観察視野全域に対して走査され、視野全域の試料に対して均一な強度の活性化光L2が照射される。ただし、このとき照射される活性化光L2の強度レベルは非常に低く抑えられており、これにより試料に含まれる蛍光物質のうちの一部のみが確率的に活性化される。なお、活性化光L2は全反射照明、落射照明のいずれの形態で試料に照射してもよい。
次に、ステップS13に移行すると、活性化照明系13が活性化光L2を射出しない状態とされるとともに、励起照明系11のシャッタ22が開状態とされる。これにより、レーザ光源21から射出される励起光L1が全反射ミラー32を介して顕微鏡本体15に供給され、励起光L1が観察視野全域に照射される。すると、活性化光L2で活性化されている蛍光物質のみが選択的に発光し、蛍光を発した蛍光物質は不活性状態に移行する。制御部14の蛍光画像取得部14aは、この蛍光物質が発する蛍光を、カメラコントローラ19を介してカメラ34を動作させることで撮影し、蛍光画像R(図2参照)を取得する。蛍光画像取得部14aは、取得した蛍光画像Rを必要に応じて記憶部16に記憶させる。
次に、ステップS14において、STORM撮影処理が終了したか否かが判定される。すなわち、予め設定された枚数の蛍光画像Rの取得が終了したか否かが判定される。蛍光画像Rの枚数が予定枚数(例えば5000枚)に達していない場合には、ステップS12に戻り、上述したステップS12〜S14の実行動作が繰り返される。
なお、ステップS13において発光した蛍光物質は、発光後に不活性化されるため、ステップS14からステップS12に戻って活性化光L2の照射が再度行われる際には、試料に含まれる蛍光物質は不活性状態に戻っている。そのため、ステップS12を再実行するたびに、活性化される蛍光物質は確率的に異なるものとなり、その後のステップS13で取得される蛍光画像Rは、前のサイクルで取得された蛍光画像Rと異なる蛍光輝点のパターンを示すものとなる。
ステップS14において終了と判定された場合には、ステップS15に移行する。
ステップS15では、制御部14の画像解析部14bにより、記憶部16に蓄積されている数百〜数万枚の蛍光画像Rが解析され、分子リストS1が作成される。
具体的に、画像解析部14bは、図2に示した蛍光画像Rから蛍光輝点Pfを特定し、その強度ピークをGaussian関数又は楕円Gaussian関数にフィッティングすることで、蛍光輝点Pfに対応する蛍光物質の位置、蛍光輝点Pfの強度等を特定する。例えば、蛍光輝点Pfの強度ピークを二次元Gaussian関数にフィッティングし、ピークの中心位置(重心位置)を特定することにより蛍光物質の位置を特定する。また蛍光輝点Pfの輝度を、観測された強度ピークからバックグラウンドの蛍光輝度を差し引くことにより算出する。このようにして数百〜数万枚の蛍光画像Rについて重心位置の座標値や輝度値を取得し、それらを連結したデータ構造体として分子リストS1を作成する。作成された分子リストS1は、記憶部16に記憶される。
また、蛍光画像Rを取得する際に、光路中にシリンドリカルレンズを介在させて蛍光輝点の撮像を行う三次元方式のSTORM撮像処理(下記文献参照)を採用している場合には、試料の平面方向(XY方向)における蛍光物質の位置特定に加えて、試料の厚さ方向(Z方向)における蛍光物質の位置特定も行われる。具体的には、画像解析部14bは、蛍光輝点Pfを解析する際に、蛍光輝点Pfの強度ピークの楕円率からZ方向の座標を算出し、分子リストS1に追加する。したがって、分子リストS1は、蛍光画像Rに含まれる蛍光輝点Pfのそれぞれについて、X座標、Y座標、Z座標、輝度値の情報をリスト化したものとなる。
(文献)Bo Huang,et.al.Science 319,810-813(2008)
なお、蛍光画像Rの蛍光輝点Pfを同定する際に、輪郭の曖昧な蛍光輝点や径が大きすぎる蛍光輝点、平面形状が曲がっている蛍光輝点などは、Gaussian関数にフィッティングすることができなかったり、正確な重心位置の特定が困難であったりするため、蛍光輝点Pfを同定する際にこれらを除外してもよい。また、分子リストS1は、上記した位置情報及び輝度情報以外の情報(例えば蛍光輝点Pfの楕円率など)を含んでいてもよい。
上記の動作により作成された分子リストS1は、観察視野における蛍光物質の位置情報を含んでおり、これをXY平面上にプロットすると、図4に菱形の点の集合として例示するSTORM画像が得られる。
次に、ステップS16では、全ての観察領域(図4に示す分子リストS1〜S4に対応する観察領域A〜D)について画像取得動作が終了したか否かが判定される。ここでは、観察領域Aに対応する分子リストS1の取得までしか完了していないため、終了していないと判定され、観察領域設定ステップS101へ戻って分子リストS2の取得動作が開始される。
分子リストS2を取得する動作における観察領域設定ステップS101では、制御部14は、ステージ31を動作させ、観察視野を図4に示す観察領域Aから観察領域Bへ、X軸方向のプラス側に所定距離だけ移動させて再設定する。このとき、制御部14は、観察領域Bを観察領域Aと部分的に重なる領域を有するように設定する。例えば、観察領域Aの一辺の長さが25μm(25000nm)であるときに、観察領域Bを、観察領域AからX軸方向に20μm(20000nm)移動した位置に設定し、観察領域A、B間に、5μm(5000nm)の幅を有する帯状の重なり領域を形成する。
観察領域の設定が完了したならば、設定された観察領域Bに対して画像取得ステップS102が実行される。すなわち、蛍光画像取得部14aにより数百〜数万枚の蛍光画像Rが取得され(ステップS12〜S14)、その後、画像解析部14bにより観察領域Bに対応する分子リストS2が作成される(ステップS15)。
分子リストS2の作成が完了した後、ステップS16を経由して観察領域設定ステップS101に戻り、図4に示す分子リストS3の作成が開始される。観察領域設定ステップS101では、観察視野を観察領域Bから観察領域Cへ、Y軸方向のプラス側に所定距離だけ移動させて再設定する。このとき、制御部14は、観察領域Cを観察領域Bと部分的に重なるように設定する。例えば、観察領域Bの一辺の長さが25μmであるときに、観察領域Cを、観察領域BからY軸方向に20μm移動した位置に設定し、観察領域B、C間に、Y軸方向に5μmの幅を有する帯状の重なり領域を形成する。
観察領域の設定が完了したならば、設定された観察領域Cに対して画像取得ステップS102が実行される。すなわち、蛍光画像取得部14aにより数百〜数万枚の蛍光画像Rが取得され(ステップS12〜S14)、その後、画像解析部14bにより観察領域Cに対応する分子リストS3が作成される(ステップS15)。
分子リストS3の作成が完了した後、ステップS16を経由して観察領域設定ステップS101に戻り、図4に示す分子リストS4の作成が開始される。観察領域設定ステップS101では、観察視野を観察領域Cから観察領域Dへ、X軸方向のマイナス側に所定距離だけ移動させて再設定する。このとき、制御部14は、観察領域Dを観察領域Cと部分的に重なるように設定する。例えば、観察領域Cの一辺の長さが25μmであるときに、観察領域Dを、観察領域CからX軸方向に−20μm移動した位置に設定し、観察領域C、D間に、X軸方向に5μmの幅を有する帯状の重なり領域を形成する。
観察領域の設定が完了したならば、設定された観察領域Dに対して画像取得ステップS102が実行される。すなわち、蛍光画像取得部14aにより数百〜数万枚の蛍光画像Rが取得され(ステップS12〜S14)、その後、画像解析部14bにより観察領域Dに対応する分子リストS4が作成される(ステップS15)。
分子リストS4の作成が完了した後のステップS16では、観察領域A〜Dのそれぞれに対応する分子リストS1〜S4の作成が完了しているため、終了と判定され、画像連結ステップS103へ移行する。
画像連結ステップS103では、上記ステップで作成された4つの分子リストS1〜S4を1つの分子リストに連結する動作が行われる。
図5は、画像連結ステップS103の詳細を示すフローチャートである。図6は、分子リスト間の重なり領域の抽出動作に関する説明図である。
図5に示すように、画像連結ステップS103は、連結する分子リストを選択するステップS21と、分子リストの重なり領域のデータを抽出するステップS22と、データ間の距離計算を行うステップS23と、同一データペアとなる候補を選出するステップS24と、データペアの候補数を判定するステップS25と、各データペアにおける輝度値の一致度を比較するステップS26と、同一データペアを確定するステップS27と、分子リスト間の位置補正情報を計算するステップS28と、終了判定を行うステップS29と、分子リストを連結するステップS30と、を有する。
まず、ステップS21において、制御部14の画像連結部14cは、連結される2つの分子リストを選択し、これらを記憶部16から読み出すことにより、データ処理可能な状態とする。ここでは、図6に示すように、分子リストS1と分子リストS2を連結する場合について説明する。
次に、ステップS22において、画像連結部14cは、分子リストS1と分子リストS2の重なり領域からデータを抽出する。
先に図4を参照して説明したように、分子リストS2に対応する観察領域Bは、観察領域設定ステップS101において、分子リストS1に対応する観察領域Aと部分的に重なるように設定される。そのため、図6に示すように、分子リストS1、S2は、試料の同一部位を観察した画像を含んでいる。具体的には、分子リストS1には、分子リストS2側の辺(図示右辺)に沿って帯状の重なり領域S1xが形成されており、分子リストS2には、分子リストS1側の辺(図示左辺)に沿って帯状の重なり領域S2xが形成されている。これらの重なり領域S1x、S2xは、試料の同一部位における蛍光輝点のデータ(座標値、輝度値)を含んでいる。
重なり領域S1x、S2xは、観察領域設定ステップS101において観察領域Bが設定された時点で決定されているため、画像連結部14cは、観察領域設定ステップS101において用いた観察領域A、Bの位置情報に基づいて、分子リストS1、S2の所定領域を重なり領域S1x、S2xとして設定する。そして、図6に示すように、重なり領域S1xに含まれる蛍光輝点のデータA1〜A11と、重なり領域S2xに含まれる蛍光輝点のデータB1〜B11を抽出する。
次に、ステップS23では、ステップS22で抽出されたデータA1〜A11と、データB1〜B11とについて、全てのデータ間の距離(相対位置情報)が算出される。すなわち、データA1−B1、データA1−B2、データA1−B3、…、データA11−B10、データA11−B11のように、全てのデータの組み合わせについて、XY平面(観察領域の平面)における距離計算が実行される。
下記の表1は重なり領域S1xに含まれるデータの一部(データA1〜A5)について具体例を示したものである。表2は重なり領域S2xに含まれるデータの一部(データB1〜B5)について具体例を示したものである。表1及び表2において、「X」「Y」「Z」はそれぞれの蛍光輝点に対応する蛍光物質の位置座標であり、「I」は蛍光輝点の輝度値である。
なお、以下の説明では、演算処理の具体的内容を理解しやすくするために、一部のデータ(A1〜A5、B1〜B5)についてのみ演算処理を例示して説明する。また表1,2に示す数値も、理解を助けるために用意したものであり、図6に示すデータA1〜A5、B1〜B5の位置とは一致しない。
Figure 0005747690
Figure 0005747690
ステップS23では、下記表3に示すように、各データ間のXY平面における距離が算出される。
Figure 0005747690
次に、ステップS24では、ステップS23で算出した距離の値から、データA1〜A5と、データB1〜B5とで、蛍光輝点が同一であるデータペアの候補を選出する。具体的には、まず、表3から距離の値が同じであるデータペアを抽出する。抽出結果を以下の表4に示す。
Figure 0005747690
本実施形態の例では、表4に示すように、距離の値が同一であり、そのペア数が最大であるデータペア群が4種類存在し、いずれのペア数も2である。したがって、ステップS24では、それぞれ2つのデータペアからなる4種類のデータペア群が同一データペア候補として選出される。そして、ステップS25では、同一データペア候補が複数種類存在すると判定され、ステップS26に移行する。
ステップS26では、ステップS24で候補に挙げられた4種類のデータペア群について、それぞれのデータペア群内での輝度値の一致度が比較される。より詳しくは、表4に示すペア1−1、ペア1−2において、データA1、B1、A3、B3の輝度値はいずれも100であり、一致度は100%である。
これに対して、ペア2−1、2−2では、データA2とデータB1、データA4とデータB3の輝度値はいずれも一致しておらず、一致度は0%である。ペア3−1、3−2についても、データA2とデータB2、データA4とデータB4の輝度値はいずれも一致しておらず、一致度は0%である。ペア4−1、4−2では、データA3とデータB1の輝度値は一致しているが、データA5とデータB3の輝度値は一致しておらず、一致度は50%である。
以上の結果から、ステップS27において、輝度値の一致度が最も高いペア1−1、1−2が、同一データペアとして確定される。なお、距離の値が最大であるデータペアが1種類のみである場合には、ステップS25からステップS27へ移行し、上記1種類のデータペアが同一データペアとして確定される。
上記ステップS27までの一連の動作により、重なり領域S1xと重なり領域S2xに共通する蛍光輝点のデータのペア(同一データペア)を特定することができる。
重なり領域S1xと重なり領域S2xは、試料上の同一部位における分子リストであるため、同一の蛍光輝点は同一座標に観測されるはずであるが、ステージ31の位置精度に起因する位置ずれが生じる。そして、この位置ずれは、重なり領域S1xと重なり領域S2xとに共通する蛍光輝点については、試料の平面方向(XY方向)における一定の位置ずれとして観測され、蛍光輝点が異なるものであれば蛍光輝点間の距離が上記位置ずれの値とは異なる値になる。
そこで本実施形態の画像形成方法では、ステップS23において全てのデータ間の距離を算出し、ステップS24においてデータ間の距離が等しいデータペアからなるデータペア群を抽出するとともに、最もペア数が多いデータペア群を構成するデータペアを、原則的に同一データペアとすることとした。
通常、それぞれの分子リストS1〜S4は数万〜数百万の蛍光輝点のデータを含んでおり、重なり領域S1x、S2xの面積率が分子リストS1、S2の10%であるとしても、数千〜数十万の蛍光輝点のデータを含む。そして、これらの全ての蛍光輝点について距離を算出した場合に、重なり領域S1x、S2xに共通の蛍光輝点では距離の値が同じになるが、異なる蛍光輝点間の距離は全くランダムであり、確率的に一致する場合があるのみである。したがって、距離の値が同じであるデータペアの数をカウントすれば、共通の蛍光輝点の位置ずれに対応する距離の値が突出して多くなると考えられる。よって通常は、距離の値が一致するペア数が最も多いものを同一データペアとして確定してもよい。
しかし、先の説明で用いたように重なり領域S1x、S2xのデータ数が少ない場合には、ペア数が偶然に一致する場合が考えられる。この場合には、距離の値だけでは同一データペアにおける位置ずれであるのか、単に距離の値が偶然に一致したものであるのか判別できないので、各データペアにおける輝度値の一致度を比較し、その一致度が最も高いものを同一データペアとして確定することとした。
STORMでは、蛍光物質の発光単位の大きさが固定されているために、同一の蛍光輝点は同じ輝度で発光する。そこで、同一データペアの候補において各データペアを構成する2つのデータの輝度値が一致していれば、高い確度でそれらは同じ蛍光輝点であると判定することができる。
以上の動作により、重なり領域S1x、S2xにおける同一データペアが確定されたならば、ステップS28において、分子リストS1、S2間の位置補正情報が算出される。具体的には、同一データペアを構成する2つのデータのX座標の差(ΔX)、及びY座標の差(ΔY)が、位置補正情報として設定される。表1〜4に示した例では、データA1、B1間でX座標及びY座標を減算した値(ΔX,ΔY)=(−5,0)となる。
なお、分子リストS1、S2が、Z座標を含むデータを有している場合には、同一データペアを構成する2つのデータのZ座標の差(ΔZ)を算出し、位置補正情報に追加する。これにより、分子リストを連結する際に、試料の厚さ方向についても位置合わせすることができる。以下で説明する分子リストS2、S3間の位置補正情報、分子リストS3、S4間の位置補正情報についても同様である。
次に、ステップS29において、全ての分子リスト間の位置補正情報の計算が終了したか否かが判定される。ここでは、分子リストS1、S2間の位置補正情報までしか計算が完了していないため、未終了と判定され、ステップS21に戻り、ステップS21〜S28が再実行される。
2回目のステップS21では、分子リストS2と分子リストS3とが選択され、続くステップS22では、分子リストS2と分子リストS3との重なり領域のデータが抽出される。ステップS23〜S28の一連の動作は、先の分子リストS1、S2の位置補正情報を取得する動作と同様である。以上の動作により、分子リストS2と分子リストS3との位置補正情報が取得される。
次に、ステップS29において、全ての計算が終了したか否かが再び判定される。ここでは、分子リストS2、S3間の位置補正情報までしか計算が完了していないため、未終了と判定され、ステップS21に戻り、ステップS21〜S28が再実行される。
3回目のステップS21では、分子リストS3と分子リストS4とが選択され、続くステップS22では、分子リストS3と分子リストS4との重なり領域のデータが抽出される。ステップS23〜S28の一連の動作は、先の分子リストS1、S2の位置補正情報を取得する動作と同様である。以上の動作により、分子リストS3と分子リストS4との位置補正情報が取得される。
次に、ステップS29において、全ての計算が終了したか否かが再び判定される。ここでは、分子リストS3、S4間の位置補正情報まで計算が完了しているので終了と判定され、ステップS30に移行する。
次に、ステップS30において、画像連結部14cは、以上の動作により得られた位置補正情報を用いて、分子リストS1〜S4を順に連結する。本実施形態の場合、まず、分子リストS1を基準の分子リストに設定する。また分子リストS1に連結される分子リストS2の各データの座標値を、位置補正情報を用いて補正する。そして、補正された分子リストS2を分子リストS1に追加する。
このとき、分子リストS1と補正後の分子リストS2を単に連結すると、重なり領域S1x、S2xにおいて共通する蛍光輝点のデータが重複するので、連結処理時に重複データを除外するようにしてもよい。しかし、連結時の重複データの除外は必須ではない。重複データはXY座標が一致しており、タイリング画像を表示する際には1つのドットとして表示されるため、表示処理の無駄は生じるもののタイリング画像の品質にはほとんど影響しないからである。
次に、分子リストS1、S2を連結した分子リスト(連結分子リストTS12と称する。)に対して、分子リストS3を連結する。このとき、連結分子リストT12に含まれる分子リストS2のデータの位置情報は、分子リストS1、S2間の位置補正情報を用いて補正された値であるため、連結分子リストTS12に対して分子リストS3を連結するに際しては、分子リストS3のデータの座標値を、分子リストS2、S3間の位置補正情報を用いて補正した後、さらに分子リストS1、S2間の位置補正情報を用いて補正する。これにより、連結分子リストTS12と分子リストS3との重なり領域のデータを正確に重ね合わせた上で、分子リストS1〜S3が連結された連結分子リストTS123を得ることができる。
次に、連結分子リストTS123に対して、分子リストS4を連結する。このときにも上記と同様に、分子リストS4のデータの座標値を、分子リストS3、S4間の位置補正情報、分子リストS2、S3間の位置補正情報、及び分子リストS1、S2間の位置補正情報により順に補正する。そうして得られた補正後の分子リストS4を、連結分子リストTS123に追加することにより、分子リストS1〜S4が連結された連結分子リストTS1234を得ることができる。
以上の工程により得られる連結分子リストTS1234を構成するデータのXY座標をプロットすると、図4に示すようなタイリング画像を得ることができる。
なお、上記のステップS30では、分子リストS1に対して、分子リストS2〜S4を順に連結する場合について説明したが、逆順に連結してもよい。すなわち、分子リストS4と分子リストS3を連結した後、連結後の分子リストに対して分子リストS2を連結し、最後に分子リストS1を連結してもよい。このようにすれば、連結する分子リストの補正が1回のみで済むため、連結時の演算処理を削減することができ、高速にタイリング画像を作成することができる。
また、上記実施形態では、画像連結ステップS103において、ステップS23のデータ間距離の算出とステップS24の同一データペア候補の選出を行った後、ステップS26の同一データペアの候補において輝度値の一致度の比較を行うこととしたが、これに限られない。例えば、まず、重なり領域S1x、S2xのそれぞれのデータについての輝度値の比較を行って輝度値が一致するデータのペアを選出し、その後に、それぞれのデータペアについて、データ間距離の算出を行うことにより同一データペアを選出することもできる。
また上記実施形態では、ステップS23においてデータ間の距離を計算することとしたが、これに限られない。ステップS23では重なり領域S1xのデータと、重なり領域S2xのデータとの間における相対位置情報が取得できればよいため、上記データ間の距離に代えて、データ間を結んだ線分の角度を算出してもよい。角度を用いた場合には、ステップS24において、角度の値が同じであるデータのペアからなるデータペア群に分類し、ペア数の最も多いデータペア群に属するデータのペアを同一データペアの候補とする。
また上記実施形態では、ステップS26において、各データペアの輝度値の一致度を比較することとしたが、輝度値に代えて、データのZ座標の値を用いてもよい。
具体的に、表4に示したペア1−1では、データA1(Z:100)とデータB1(Z:100)のZ座標値が一致しており、データA3(Z:120)とデータB3(Z:120)もZ座標値が一致している。これに対して、ペア3−1ではデータA2(Z:110)とデータB2(Z:60)のZ座標値は一致しておらず、ペア3−2についてもデータA4(Z:130)とデータB4(Z;60)のZ座標値は一致していない。したがって、データのZ座標値を利用することにより同一データペアを確定することができる。
(第2実施形態)
上記実施形態では、試料の平面方向(XY方向)に配置された観察領域A〜Dのタイリング画像を形成する場合について説明したが、試料の厚さ方向(Z方向)に複数の観察領域を設定して取得した分子リストを連結することもできる。
図7は、第2実施形態に係る画像形成方法の説明図である。本実施形態では、図7に示すように、Z方向に並んだ4つの観察領域a、b、c、dに対応する分子リストZ1、Z2、Z3、Z4をタイリングすることにより3Dタイリング画像を形成する場合について説明する。
各々の分子リストZ1〜Z4の作成手順は、図3に示したフローに準ずる。すなわち、観察領域設定ステップS101において観察視野をZ方向にずらして観察領域a〜dを設定しつつ、先の実施形態と同様の画像取得ステップS102を実行することで、分子リストZ1〜Z4を順に作成する。
STORM画像の取得に際して、観察領域a〜dは、それぞれ隣り合う観察領域と部分的に重なるように設定される。これにより、分子リストZ1、Z2の境界部分には、重なり領域Lz1が形成され、分子リストZ2、Z3の境界部分には重なり領域Lz2が形成され、分子リストZ3、Z4の境界部分には重なり領域Lz4が形成される。
画像連結ステップS103では、重なり領域Lz1〜Lz3のデータを利用して分子リストを位置合わせするための位置補正情報を算出する。
まず、ステップS21において、制御部14の画像連結部14cは、連結される2つの分子リストZ1、Z2を選択する。次に、ステップS22において、画像連結部14cは、分子リストZ1と分子リストZ2の重なり領域Lz1からデータを抽出する。
次に、ステップS23では、ステップS22で抽出された、重なり領域Lz1に属する分子リストZ1のデータと、分子リストZ2のデータとについて、データ間の距離(相対位置情報)が算出される。このとき、第1実施形態ではデータのXY座標を用いたが、第2実施形態では分子リストをZ方向に連結するので、Z座標を含む平面におけるデータ間の距離を算出する。具体的には、データのXZ座標、又はYZ座標を用いて、データ間の距離を算出する。なお、XZ平面,YZ平面以外のZ軸を含む任意の面にデータを投影したときの座標値を用いてデータ間の距離を算出してもよい。
次に、ステップS24では、ステップS23で算出した距離の値から、分子リストZ1に属するデータと、分子リストZ2に属するデータとで、蛍光輝点が同一であるデータペアの候補を選出する。すなわち、算出した距離の値が同じであるデータペアからなるデータペア群を抽出する。そして、ステップS25においてペア数が最も多いデータペア群が複数あるか否かが判定され、複数存在する場合には、ステップS26へ移行する。一方、ペア数が最も多いデータペア群が1つのみである場合にはそのデータペア群のデータペアを同一データペアとして確定する(ステップS27)。
ステップS26では、複数のデータペア群について、データペアを構成するデータの輝度値の一致度が比較され、輝度値の一致度が最も高いデータペア群のデータペアを同一データペアとして確定する(ステップS27)。
ステップS27までの一連の動作により、重なり領域Lz1において共通する蛍光輝点のデータのペア(同一データペア)を特定することができる。その後、ステップS28において、分子リストZ1、Z2間の位置補正情報が算出される。具体的には、同一データペアを構成する2つのデータの座標値の差が位置補正情報として設定される。このとき、先のステップS23においてXZ座標を用いて距離を算出した場合には、X座標の差(ΔX)とZ座標の差(ΔZ)を、位置補正情報として設定する。次いで、同一データペアにおけるY座標の差(ΔY)を算出し、位置補正情報に追加する。これにより、分子リストZ1、Z2間のXYZ方向における位置補正情報を得ることができる。
以上のステップS21〜S27の動作を、分子リストZ2と分子リストZ3、及び分子リストZ3と分子リストZ4とについて繰り返すことで、分子リストZ1、Z2間の位置補正情報、分子リストZ2、Z3間の位置補正情報、及び、分子リストZ3、Z4間の位置補正情報を得ることができる。
その後、ステップS30において、上記の位置補正情報を用いて分子リストZ2〜Z4の座標値を補正しつつ連結して連結分子リストを作成する。作成された連結分子リストのデータをXYZ空間にプロットすれば、Z方向に並んだ4つの観察領域a〜dを含む3Dタイリング画像を得ることができる。
なお、本実施形態では、ステップS28において、ΔX、ΔY、ΔZの3種類の補正値を含む位置補正情報を算出することとしたが、本実施形態のように観察領域a〜dをZ方向にずらしている場合、観察領域の変更時に試料を平面方向(XY方向)に移動させる必要がないため、XY方向のずれが生じることはほとんど無いと考えられる。したがって、位置補正情報としては、ΔX、ΔYはいずれか一方のみであってもよい。具体的には、データ間距離の算出にXZ座標を用いている場合には、位置補正情報としてΔX、ΔZのみを取得してもよい。
(第3実施形態)
上記実施形態では、活性化用と励起用に波長の異なる2つのレーザを用いる顕微鏡装置について説明してきた。一方、1つの短波長レーザのみを用いる超解像顕微鏡技術として、dSTORM(direct Stochastic Optical Reconstruction Microscopy)が知られている(例えば、論文:Applied Physics B(2008)93: 725-731, Photoswitching microscopy with standard fluorophores、 S.van de Linde・R.Kasper・ M.Heilemann・ M.Sauer)。dSTORMによれば、従来のSTORMのように活性化用のレーザを照射することなく、蛍光物質の自発的な明滅を元に、少数の蛍光物質のみの画像を取得することができる。
第3実施形態の顕微鏡装置は、このdSTORMを適用した構成である。
このような顕微鏡装置としては、図1に示した顕微鏡装置10から活性化照明系13を省略した構成を採用することができる。かかる構成の顕微鏡装置では、励起照明系11によって所定波長の励起光を照射されると自発的に明滅する蛍光物質を含む試料を顕微鏡本体15のステージ31上の観察領域に配置し、この観察領域に対して、励起照明系11から励起光を照射することで蛍光物質を明滅させ、蛍光物質から放射される光をカメラ34により撮像することで蛍光画像を取得する。
第3実施形態に係る顕微鏡装置において、制御部14は、観察領域に対して励起光を照射する動作と、観察領域の励起光で励起された蛍光画像を取得する動作とを交互に複数回繰り返すことで複数の蛍光画像を取得し、複数の蛍光画像から分子リストを生成する。このように本実施形態の場合、試料から蛍光を生じさせる手段として、活性化照明系13ではなく、励起照明系11が用いられる。
本実施形態においても、得られる分子リストは第1実施形態と同等のものであるため、全く同様の手順によって複数の分子リストを連結することができ、広視野のタイリング画像を生成することができる。
(第4実施形態)
先の第1実施形態では、活性化後に励起光を照射すると蛍光を発して不活性化する蛍光物質を用いた顕微鏡技術(STORM)に関して説明したが、蛍光物質の種類が異なる同様の技術として、PALM(Photoactivated Localization Microscopy)も知られている(例えば、特表2008−542826号公報、論文:Proposed method for molecular optical imaging, Optics Letters, vol.20, No.3, (Feb.1, 1995), pp.237-239.)。
先の第1実施形態の分子リストの作成手順は、PALMを用いる場合にもそのまま適用され、顕微鏡装置10の構成変更も不要である。顕微鏡装置10において、制御部14は、観察領域に対して所定の照射強度の活性化光を照射する動作と、励起光を照射して蛍光画像を取得する動作とを交互に複数回繰り返すことで複数の蛍光画像を取得し、複数の蛍光画像から分子リストを生成する。
PALMを用いる場合には、試料に付与される蛍光物質が変更される。具体的には、蛍光物質として、所定波長の活性化光を照射されると活性化し、活性化状態で活性化光とは異なる波長の励起光を照射されると蛍光を発する蛍光物質が用いられる。
このような蛍光物質としては、クラゲやサンゴ由来の蛍光タンパク質の変異種が挙げられる。例えば、クラゲ由来の蛍光タンパク質の変異種であるPA-GFPは、活性化光の照射により蛍光強度が大幅に上昇し、PS-CFPは、活性化光の照射により他の色の蛍光を発光可能に変化する。また、サンゴ由来の蛍光タンパク質の変異種であるDronpaは、活性化光の照射により励起波長の光の照射による発光が可能になり、Kaedeは、活性化光の照射により蛍光色が変化する。
本実施形態においても、得られる分子リストは第1実施形態と同等のものであるため、全く同様の手順によって複数の分子リストを連結することができ、広視野のタイリング画像を生成することができる。
A1〜A11,B1〜B11…データ、a〜d,A〜D…観察領域、R…蛍光画像、S,S1〜S4,Z1〜Z4…分子リスト、10…顕微鏡装置、12…照明光学系、34…カメラ(撮像装置)、Lz1〜Lz4,S1x,S2x…重なり領域、L1…励起光、L2…活性化光、Pf…蛍光輝点

Claims (16)

  1. 活性化光及び励起光の照射、又は励起光の照射により蛍光を発する蛍光物質を含む試料に、前記活性化光及び前記励起光、又は前記励起光を照射する照明光学系と、
    前記試料の観察領域の蛍光画像を撮像する撮像装置と、
    前記試料に前記励起光を繰り返し照射することにより取得された複数の蛍光画像の各々において蛍光輝点の位置を解析し、分子リストとして構築する画像解析装置と、
    複数の前記観察領域において取得された複数の前記分子リストを、前記分子リスト同士のうち前記試料の同一部位における前記分子リスト間の前記蛍光輝点同士の相対位置情報に基づいて算出した位置補正情報を用いて連結する画像連結装置と、を備え
    前記画像連結装置は、
    複数の前記分子リストから連結対象とする第1の前記分子リストと第2の前記分子リストを選択する動作と、
    前記第1の分子リストと前記第2の分子リストから、それぞれ、前記分子リスト同士の前記同一部位に属する蛍光輝点のデータを抽出する動作と、
    前記第1の分子リストから抽出された複数の前記データと、前記第2の分子リストから抽出された複数の前記データとの相対位置情報をそれぞれ算出する動作と、
    算出した前記相対位置情報に基づいて、前記第1の分子リストおよび前記第2の分子リストにおけるデータを分類する動作と、
    前記分類したデータに基づいて、前記第1の分子リストにおけるデータと前記第2の分子リストにおけるデータとの位置ずれを補正するための位置補正情報を算出する動作と、
    を実行する顕微鏡装置。
  2. 前記画像連結装置は、前記相対位置情報の算出に前記データのペアを用いており、
    前記相対位置情報の算出に用いた前記データのペアを、前記相対位置情報の値ごとのデータペア群に分類する、請求項1に記載の顕微鏡装置。
  3. 前記画像連結装置は、最もペア数の多い前記データペア群に属する前記ペアを同一データペアとして選択し、前記同一データペアにおける前記相対位置情報を位置補正情報として算出する、請求項2に記載の顕微鏡装置。
  4. 前記位置補正情報を算出する動作において、最もペア数の多い前記データペア群が複数存在する場合に、前記データに含まれる輝度値の一致度が最も高い前記データペア群に属する前記ペアを前記同一データペアとして選択し、前記同一データペアにおける前記相対位置情報を前記位置補正情報として取得する、請求項に記載の顕微鏡装置。
  5. 前記位置補正情報を算出する動作において、最も数の多い前記データペア群が複数存在する場合に、前記データのペアにおける前記試料の厚さ方向の位置の一致度が最も高い前記データペア群に属する前記ペアを前記同一データペアとして選択し、前記同一データペアにおける前記相対位置情報を前記位置補正情報として取得する、請求項に記載の顕微鏡装置。
  6. 前記画像連結装置は、前記位置補正情報に基づいて前記第1の分子リストと前記第2の分子リストの相対位置を補正し、前記第1の分子リストと前記第2の分子リストとを連結する、請求項1〜5のいずれか1項に記載の顕微鏡装置。
  7. 活性化光及び励起光の照射、又は励起光の照射により蛍光を発する蛍光物質を含む試料に、前記活性化光及び前記励起光、又は前記励起光を照射する照明光学系と、
    前記試料の観察領域の蛍光画像を撮像する撮像装置と、
    前記試料に前記励起光を繰り返し照射することにより取得された複数の蛍光画像の各々において蛍光輝点の位置を解析し、分子リストとして構築する画像解析装置と、
    複数の前記観察領域において取得された複数の前記分子リストを、前記分子リスト同士のうち前記試料の同一部位における前記分子リスト間の前記蛍光輝点同士の相対位置情報に基づいて算出した位置補正情報を用いて連結する画像連結装置と、を備え、
    前記画像連結装置は、
    複数の前記分子リストから連結対象とする第1の前記分子リストと第2の前記分子リストを選択する動作と、
    前記第1の分子リストと前記第2の分子リストから、それぞれ、前記分子リスト同士のうち前記試料の同一部位に属する蛍光輝点のデータを抽出する動作と、
    前記第1の分子リストから抽出された複数の前記データにおける輝度値と、前記第2の分子リストから抽出された複数の前記データにおける輝度値と比較し、前記輝度値が一致する前記データのペアを選出する動作と、
    各々の前記データのペアに属する前記データ同士の相対位置情報を算出する動作と、
    複数の前記ペアを、前記相対位置情報の値ごとのデータペア群に分類し、最もペア数の多い前記データペア群に属する前記ペアを同一データペアとして選択し、前記同一データペアにおける前記相対位置情報を位置補正情報として取得する動作と、
    前記位置補正情報に基づいて前記第1の分子リストと前記第2の分子リストの相対位置を補正し、前記第1の分子リストと前記第2の分子リストとを連結する動作と、
    を実行する顕微鏡装置。
  8. 前記同一データペアに属する前記蛍光輝点同士の前記試料の厚さ方向の距離に基づいて前記第1の分子リストと前記第2の分子リストの前記厚さ方向における相対位置を補正し、前記第1の分子リストと前記第2の分子リストとを連結する、請求項から5、7のいずれか1項に記載の顕微鏡装置。
  9. 前記画像連結装置は、前記試料の厚さ方向の位置が異なる複数の前記分子リストを連結する、請求項1〜4、7のいずれか1項に記載の顕微鏡装置。
  10. 前記画像連結装置は、
    複数の前記分子リストから連結対象とする第1の前記分子リストと第2の前記分子リストを選択する動作と、
    前記第1の分子リストと前記第2の分子リストから、それぞれ、前記分子リスト同士のうち前記試料の同一部位に属する蛍光輝点のデータを抽出する動作と、
    前記第1の分子リストから抽出された複数の前記データと、前記第2の分子リストから抽出された複数の前記データとの相対位置情報を、前記データに対応する蛍光輝点を前記厚さ方向に平行な投影面に投影したときの座標値を用いてそれぞれ算出する動作と、
    前記相対位置情報の算出に用いた前記データのペアを、前記相対位置情報の値ごとのデータペア群に分類し、最もペア数の多い前記データペア群に属する前記ペアを同一データペアとして選択し、前記同一データペアにおける前記相対位置情報を位置補正情報として取得する動作と、
    前記位置補正情報に基づいて前記第1の分子リストと前記第2の分子リストとの相対位置を補正し、前記第1の分子リストと前記第2の分子リストとを連結する動作と、
    を実行する、請求項に記載の顕微鏡装置。
  11. 前記同一データペアに属する前記データ同士の前記投影面の法線方向の距離に基づいて前記第1の分子リストと前記第2の分子リストの前記法線方向における相対位置を補正し、前記第1の分子リストと前記第2の分子リストとを連結する、請求項10に記載の顕微鏡装置。
  12. 活性化光及び励起光の照射、又は励起光の照射により蛍光を発する蛍光物質を含む試料に、前記活性化光及び前記励起光、又は前記励起光を照射する照明光学系と、前記試料の観察領域の蛍光画像を撮像する撮像装置と、を備えた顕微鏡装置における画像形成方法であって、
    前記試料に前記励起光を繰り返し照射することにより複数の蛍光画像を取得する撮像ステップと、
    取得した複数の前記蛍光画像の各々において蛍光輝点の位置を解析し、分子リストとして構築する画像解析ステップと、
    複数の前記観察領域において取得された複数の前記分子リストを、前記分子リスト同士のうち前記試料の同一部位における前記分子リスト間の前記データ同士の相対位置情報に基づいて算出した位置補正情報を用いて連結する画像連結ステップと、を有し、
    前記画像連結ステップは、
    複数の前記分子リストから連結対象とする第1の前記分子リストと第2の前記分子リストを選択するステップと、
    前記第1の分子リストと前記第2の分子リストから、それぞれ、前記分子リスト同士の前記同一部位に属する蛍光輝点のデータを抽出するステップと、
    前記第1の分子リストから抽出された複数の前記データと、前記第2の分子リストから抽出された複数の前記データとの相対位置情報をそれぞれ算出するステップと、
    算出した前記相対位置情報に基づいて、前記第1の分子リストおよび前記第2の分子リストにおけるデータを分類するステップと、
    前記分類したデータに基づいて、前記第1の分子リストにおけるデータと前記第2の分子リストにおけるデータとの位置ずれを補正するための位置補正情報を算出するステップと、を実行する画像形成方法。
  13. 前記画像連結ステップにおいては、前記相対位置情報の算出に前記データのペアを用いており、
    前記相対位置情報の算出に用いた前記データのペアを、前記相対位置情報の値ごとのデータペア群に分類する、請求項12に記載の画像形成方法。
  14. 前記画像連結ステップにおいては、最もペア数の多い前記データペア群に属する前記ペアを同一データペアとして選択し、前記同一データペアにおける前記相対位置情報を位置補正情報として取得する、請求項13に記載の画像形成方法。
  15. 前記画像連結ステップにおいては、前記位置補正情報に基づいて前記第1の分子リストと前記第2の分子リストの相対位置を補正し、前記第1の分子リストと前記第2の分子リストとを連結する、請求項12〜14のいずれか1項に記載の画像形成方法。
  16. 活性化光及び励起光の照射、又は励起光の照射により蛍光を発する蛍光物質を含む試料に、前記活性化光及び前記励起光、又は前記励起光を照射する照明光学系と、前記試料の観察領域の蛍光画像を撮像する撮像装置と、を備えた顕微鏡装置における画像形成方法であって、
    前記試料に前記励起光を繰り返し照射することにより複数の蛍光画像を取得する撮像ステップと、
    取得した複数の前記蛍光画像の各々において蛍光輝点の位置を解析し、分子リストとして構築する画像解析ステップと、
    複数の前記観察領域において取得された複数の前記分子リストを、前記分子リスト同士のうち前記試料の同一部位における前記分子リスト間の前記データ同士の相対位置情報に基づいて算出した位置補正情報を用いて連結する画像連結ステップと、を有し、
    前記画像連結ステップは、
    複数の前記分子リストから連結対象とする第1の前記分子リストと第2の前記分子リストを選択するステップと、
    前記第1の分子リストと前記第2の分子リストから、それぞれ、前記分子リスト同士のうち前記試料の同一部位に属する蛍光輝点のデータを抽出するステップと、
    前記第1の分子リストから抽出された複数の前記データにおける輝度値と、前記第2の分子リストから抽出された複数の前記データにおける輝度値と比較し、前記輝度値が一致する前記データのペアを選出するステップと、
    各々の前記データのペアに属する前記データ同士の相対位置情報を算出するステップと、
    複数の前記ペアを、前記相対位置情報の値ごとのデータペア群に分類し、最もペア数の多い前記データペア群に属する前記ペアを同一データペアとして選択し、前記同一データペアにおける前記相対位置情報を位置補正情報として取得するステップと、
    前記位置補正情報に基づいて前記第1の分子リストと前記第2の分子リストの相対位置を補正し、前記第1の分子リストと前記第2の分子リストとを連結するステップと、
    を実行する画像形成方法。
JP2011148230A 2011-07-04 2011-07-04 顕微鏡装置及び画像形成方法 Active JP5747690B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011148230A JP5747690B2 (ja) 2011-07-04 2011-07-04 顕微鏡装置及び画像形成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011148230A JP5747690B2 (ja) 2011-07-04 2011-07-04 顕微鏡装置及び画像形成方法

Publications (2)

Publication Number Publication Date
JP2013015665A JP2013015665A (ja) 2013-01-24
JP5747690B2 true JP5747690B2 (ja) 2015-07-15

Family

ID=47688398

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011148230A Active JP5747690B2 (ja) 2011-07-04 2011-07-04 顕微鏡装置及び画像形成方法

Country Status (1)

Country Link
JP (1) JP5747690B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6131568B2 (ja) * 2012-10-30 2017-05-24 株式会社ニコン 顕微鏡装置及び画像形成方法
EP3051276B1 (en) 2013-09-27 2021-03-31 Nikon Corporation Analysis device, microscope device, analysis method, and program
WO2016152244A1 (ja) * 2015-03-25 2016-09-29 コニカミノルタ株式会社 目的生体物質の検出方法および検出システム
JP6617774B2 (ja) * 2015-11-27 2019-12-11 株式会社ニコン 顕微鏡装置
EP3382439A4 (en) 2015-11-27 2019-12-11 Nikon Corporation MICROSCOPE, OBSERVATION METHOD, AND IMAGE PROCESSING PROGRAM
DE102015121920A1 (de) * 2015-12-16 2017-06-22 Carl Zeiss Microscopy Gmbh Hochauflösendes Kurzzeit-Mikroskopieverfahren und hochauflösendes Kurzzeit-Mikroskop
JP6639227B2 (ja) * 2015-12-28 2020-02-05 マクセルホールディングス株式会社 イオン風の可視化方法及びイオン密度分布表示体
JP6680653B2 (ja) * 2016-09-12 2020-04-15 シスメックス株式会社 顕微鏡装置、顕微鏡システムおよび撮像方法
JP2020042283A (ja) * 2019-11-14 2020-03-19 株式会社ニコン 顕微鏡装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62189582A (ja) * 1986-02-17 1987-08-19 Hitachi Ltd Ct画像位置合わせ方式
JPH09281405A (ja) * 1996-04-17 1997-10-31 Olympus Optical Co Ltd 顕微鏡システム
JPH09322061A (ja) * 1996-05-28 1997-12-12 Canon Inc 画像合成装置
JP3766498B2 (ja) * 1997-01-24 2006-04-12 オリンパス株式会社 走査型細胞測定装置および細胞測定方法
JP2000292422A (ja) * 1999-04-02 2000-10-20 Olympus Optical Co Ltd 走査型サイトメータ
AU1182401A (en) * 1999-10-15 2001-04-23 Cellavision Ab Microscope and method for manufacturing a composite image with a high resolution
JP3849385B2 (ja) * 2000-02-03 2006-11-22 コニカミノルタホールディングス株式会社 画像処理装置、画像処理方法および画像処理プログラムを記録したコンピュータ読取可能な記録媒体
JP2002181729A (ja) * 2000-12-12 2002-06-26 Saki Corp:Kk 外観検査装置および外観検査方法
JP2003052642A (ja) * 2001-08-13 2003-02-25 Shiseido Co Ltd 皮膚の表皮−真皮界面の検出装置
GB2383487B (en) * 2001-12-18 2006-09-27 Fairfield Imaging Ltd Method and apparatus for acquiring digital microscope images
JP3627020B2 (ja) * 2002-03-28 2005-03-09 独立行政法人産業技術総合研究所 三次元透過型顕微鏡システムおよび画像表示方法
US7141802B2 (en) * 2003-12-01 2006-11-28 Olympus Corporation Optical device and imaging method
JP2005164815A (ja) * 2003-12-01 2005-06-23 Olympus Corp 光学装置
JP4709278B2 (ja) * 2005-05-23 2011-06-22 エフ. ヘスス ハラルド 光変換可能な光学標識を用いる光学顕微鏡法
US7776613B2 (en) * 2006-08-07 2010-08-17 President And Fellows Of Harvard College Sub-diffraction image resolution and other imaging techniques
JP5006062B2 (ja) * 2007-02-05 2012-08-22 オリンパス株式会社 バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム
US20090041316A1 (en) * 2007-08-07 2009-02-12 California Institute Of Technology Vibratome assisted subsurface imaging microscopy (vibra-ssim)
US8712116B2 (en) * 2007-10-17 2014-04-29 Ffei Limited Image generation based on a plurality of overlapped swathes
JP5499732B2 (ja) * 2009-06-23 2014-05-21 ソニー株式会社 生体サンプル像取得装置、生体サンプル像取得方法及び生体サンプル像取得プログラム
JP2011039247A (ja) * 2009-08-10 2011-02-24 Nikon Corp 顕微鏡、画像処理装置、及び画像処理方法。

Also Published As

Publication number Publication date
JP2013015665A (ja) 2013-01-24

Similar Documents

Publication Publication Date Title
JP5747690B2 (ja) 顕微鏡装置及び画像形成方法
JP5392406B2 (ja) 顕微鏡装置、観察方法
Gregor et al. Image scanning microscopy
US8704196B2 (en) Combination microscopy
JP6587004B2 (ja) 装置、システム、方法、及びプログラム
JP5566188B2 (ja) 生体観察装置
US8089691B2 (en) Projection device for patterned illumination and microscopy
US8773758B2 (en) Microscope apparatus with an imaging system including an astigmatic difference changing device
JP2018097382A (ja) 高分解能ルミネッセンス顕微鏡法
JP5826561B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
CN110140129A (zh) 使用双光学路径和单成像传感器的低分辨率载片成像和载片标签成像以及高分辨率载片成像
CN110114709A (zh) 确定荧光强度的方法和显微镜
US10725278B2 (en) Microscope, observation method, and storage medium
JP6131568B2 (ja) 顕微鏡装置及び画像形成方法
CN115426934A (zh) 医疗光学系统、数据处理系统、计算机程序和非易失性计算机可读存储介质
US20180180867A1 (en) Microscope and setting support method
JP2021184264A (ja) 画像処理装置、顕微鏡システム、画像処理方法、及びプログラム
WO2013005765A1 (ja) 顕微鏡装置
JP2005098808A (ja) 生体情報検出装置
US10883940B2 (en) Fluctuation-based fluorescence microscopy
US20220043245A1 (en) Method and device for scanning a sample
WO2012144515A1 (ja) 顕微鏡装置、及び画像処理方法
WO2018131173A1 (ja) 画像処理装置、顕微鏡システム、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140407

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150427

R150 Certificate of patent or registration of utility model

Ref document number: 5747690

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250