JPWO2016157346A1 - 顕微鏡装置、観察方法、及び制御プログラム - Google Patents

顕微鏡装置、観察方法、及び制御プログラム Download PDF

Info

Publication number
JPWO2016157346A1
JPWO2016157346A1 JP2017508872A JP2017508872A JPWO2016157346A1 JP WO2016157346 A1 JPWO2016157346 A1 JP WO2016157346A1 JP 2017508872 A JP2017508872 A JP 2017508872A JP 2017508872 A JP2017508872 A JP 2017508872A JP WO2016157346 A1 JPWO2016157346 A1 JP WO2016157346A1
Authority
JP
Japan
Prior art keywords
image
period
imaging
light
excitation light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017508872A
Other languages
English (en)
Other versions
JP6631620B2 (ja
Inventor
亘 友杉
亘 友杉
賢二 ▲高▼塚
賢二 ▲高▼塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2016157346A1 publication Critical patent/JPWO2016157346A1/ja
Application granted granted Critical
Publication of JP6631620B2 publication Critical patent/JP6631620B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N2021/178Methods for obtaining spatial resolution of the property being measured
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N2021/1789Time resolved
    • G01N2021/1791Time resolved stroboscopic; pulse gated; time range gated

Landscapes

  • Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Optics & Photonics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

【課題】試料の損傷の蓄積を抑制可能な顕微鏡装置を提供する。【解決手段】顕微鏡装置(1)は、活性化光(L1)と励起光(L2)とを照射する照明光学系(4)と、結像光学系(5)が形成した像を撮像する撮像部(6)と、撮像部の撮像結果を用いて画像処理を行う画像処理部(7)と、制御部(42)と、を備える顕微鏡装置であって、制御部は、画像生成期間と、中断期間とを複数設け、画像生成期間において、活性化された蛍光物質に対して励起光を照射し、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させ、中断期間における励起光の強度を、画像生成期間における強度よりも低減させ、又は中断期間における励起光の照射を停止させ、画像処理部は、複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成する。

Description

本発明は、顕微鏡装置、観察方法、及び制御プログラムに関する。
超解像顕微鏡の技術として、例えばSingle-molecule Localization Microscopy法がある。例えば、確率的光学再構築顕微鏡技術(Stochastic Optical Reconstruction Microscopy)を利用した顕微鏡装置(以下、STORMという)がある(例えば特許文献1参照)。STORMは、蛍光物質が付与された試料の観察に用いられる。蛍光物質は、例えば、活性化光の照射により活性化し、活性化した状態で励起光の照射により蛍光を発するか、または不活性化する。STORMは、例えば、蛍光物質を低密度で活性化し、活性化した蛍光物質のみを励起光の照射により発光させることで、蛍光物質の像が疎な分布の蛍光画像を取得する。蛍光画像において、蛍光物質の像は個々に分離されており、個々の像の重心位置を求めることができる。STORMは、多数の蛍光画像から得られる多数の蛍光物質の重心位置にそれぞれ像を配置することで、高分解能の画像を生成(構築)する。
米国特許出願公開第2008/0182336号
上述のようなSTORMは、例えば、活性化光、高強度の励起光を連続的に照射しながら多数の蛍光画像を取得するので、試料に損傷を与える。例えば、試料が生きた細胞(ライブセル)を含む場合、高強度の励起光を連続的に照射することにより損傷が蓄積して細胞が死滅し、所望の観察ができないことがある。本発明は、上述の事情に鑑みなされたものであり、試料の損傷の蓄積を抑制可能な顕微鏡装置、観察方法、及び制御プログラムを提供することを目的とする。
本発明の第1の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射する照明光学系と、蛍光物質からの蛍光の像を形成する結像光学系と、結像光学系が形成した像を撮像する撮像部と、撮像部の撮像結果を用いて画像処理を行う画像処理部と、制御部と、を備える顕微鏡装置であって、制御部は、画像生成期間と、中断期間とを複数設け、画像生成期間において、活性化された蛍光物質に対して励起光を照射し、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させ、中断期間における励起光の強度を、画像生成期間における強度よりも低減させ、又は中断期間における励起光の照射を停止させ、画像処理部は、複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成する、ことを特徴とする顕微鏡装置が提供される。
本発明の第2の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射することと、蛍光物質からの蛍光の像を形成することと、結像光学系が形成した像を撮像することと、撮像の結果を用いて画像処理を行うことと、を含む観察方法であって、画像生成期間と、中断期間とを複数設けることと、画像生成期間において、活性化された蛍光物質に対して励起光を照射し、活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、中断期間における励起光の強度を、画像生成期間における強度よりも低減させ、又は中断期間における励起光の照射を停止させることと、を含み、画像処理は、複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする観察方法が提供される。
本発明の第3の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射し、蛍光物質からの蛍光の像を撮像し、撮像の結果を用いて画像処理を行う顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、制御は、画像生成期間と、中断期間とを複数設けることと、画像生成期間において、活性化された蛍光物質に対して励起光を照射し、活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、中断期間における励起光の強度を、画像生成期間における強度よりも低減させ、又は中断期間における励起光の照射を停止させることと、を含み、画像処理は、複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする制御プログラムが提供される。
本発明によれば、試料の損傷の蓄積を抑制可能な顕微鏡装置、観察方法、及び制御プログラムを提供することができる。
実施形態に係る顕微鏡装置の動作を示す説明図である。 細胞内過酸化水素量の時間変化を示す概念図である。 第1実施形態に係る顕微鏡装置を示す図である。 第1実施形態に係る照明と撮像のシーケンスを示す図である。 第1実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。 第1実施形態に係る観察方法を示すフローチャートである。 第2実施形態に係る顕微鏡装置を示す図である。 第2実施形態に係る照明と撮像のシーケンスを示す図である。 第3実施形態に係る照明と撮像のシーケンスを示す図である。 第4実施形態に係る顕微鏡装置1を示す図である。 第4実施形態に係る照明と撮像のシーケンスを示す図である。 試料の変位を検出する処理、撮像結果を補正する処理を示す図である。 第5実施形態に係る顕微鏡装置1を示す図である。 第5実施形態に係る照明と撮像のシーケンスを示す図である。 第6実施形態に係る顕微鏡装置1を示す図である。
実施形態について説明する。実施形態に係る顕微鏡装置は、例えば、STORM、PALM等のSingle-molecule Localization Microscopy法を利用した顕微鏡装置である。実施形態に係る顕微鏡装置は、1種類の蛍光物質で標識(ラベル)された試料の蛍光観察、及び2種類以上の蛍光物質で標識された試料の蛍光観察のいずれにも利用できる。また、実施形態に係る顕微鏡装置は、2次元の超解像画像を生成するモード、及び3次元の超解像画像を生成するモードを有し、2つのモードを切り替え可能である。以下、2次元の超解像画像を生成するモードを中心に説明した後、3次元の超解像画像を生成するモードについて説明する。
試料は、生きた細胞(ライブセル)を含むものでもよいし、ホルムアルデヒド溶液等の組織固定液を用いて固定された細胞を含むものでもよく、組織等でもよい。蛍光物質は、シアニン(cyanine)染料等の蛍光色素でもよいし、蛍光タンパク質でもよい。蛍光色素は、活性化された状態(以下、活性化状態という)で励起光を受けた場合に蛍光を発するレポータ色素を含む。また、蛍光色素は、活性化光を受けてレポータ色素を活性化状態にするアクティベータ色素を含む場合がある。蛍光色素がアクティベータ色素を含まない場合、レポータ色素は、活性化光を受けて活性化状態になる。蛍光色素は、例えば、2種類のシアニン(cyanine)染料を結合させた染料対(例、Cy3−Cy5染料対、Cy2−Cy5染料対、Cy3−Alexa Fluor647染料対(Alexa Fluorは登録商標))、1種類の染料(例、Alexa Fluor647(Alexa Fluorは登録商標))である。蛍光タンパク質は、例えばPA−GFP、Dronpaなどである。
まず、実施形態に係る顕微鏡装置の動作を概略して説明する。図1は、実施形態に係る顕微鏡装置の動作を示す説明図である。顕微鏡装置は、活性化された蛍光物質に対して励起光を照射し(図1の光照射;ON)、試料に対する撮像を複数のフレーム期間Tfのそれぞれで行う。なお、蛍光物質は、確率的に活性化されている。1つのフレーム期間Tfは、1枚の撮像画像を生成する期間である。1つのフレーム期間Tfは、例えば、電荷を蓄積する期間Tf1、及び期間Tf1に蓄積された電荷を読み出す期間Tf2を含む。なお、電荷の蓄積と電荷の読み出しとが並列に行われる場合、1つのフレーム期間Tfは、蛍光に応じた電荷を蓄積する期間Tf1となる。1つのフレーム期間Tfの長さは、例えば、フレームレートの逆数である。顕微鏡装置は、各フレーム期間Tfの撮像結果として、撮像画像P1〜Pnを生成する。撮像画像P1〜Pnのそれぞれにおいて、蛍光の像Imは、低密度で離散的に分布する。顕微鏡装置は、例えば、蛍光の像Imの光強度分布をガウシアン関数等でフィッティングすること等により、蛍光の像Imの位置情報(例、重心位置Q)を算出する。
顕微鏡装置は、例えば、複数の撮像画像P1〜Pnから得られる多数の重心位置Qを用いて、1枚の画像SPを生成(構築)する。画像SPは、例えば、STORM、PALMなどの超解像画像である。画像SPの生成に使われる撮像画像P1〜Pnの枚数は、例えば、予め設定されたデフォルト値、ユーザが指定する指定値などの設定値である。画像生成期間T1は、例えば、所定値の枚数の撮像画像P1〜Pnを取得する期間であり、複数のフレーム期間Tfを含む。図1に示されるように、画像生成期間T1において、励起光が照射されている。
また、顕微鏡装置は、複数回数の画像生成期間T1で撮像を行って複数の画像SPを生成することができる。例えば、複数の画像SPはそれぞれ超解像画像として利用できるが、複数の画像SPをマージすることで、1枚の画像SPよりも情報量が多い超解像画像を得ることができる。また、複数の画像SPを連続して再生することにより、動画とすることもできる。
図2は、生きた細胞を含む試料に対して複数回数の画像生成期間T1で撮像を行う場合において、細胞内過酸化水素量の時間変化を示す概念図である。図2(A)は、複数回数の画像生成期間T1で撮像を連続的に行う場合の細胞内過酸化水素量を示す図である。この場合、複数回数の画像生成期間T1が連続することになり、複数回数の画像生成期間T1にわたり、光照射が連続的に行われる(光照射;ON)。励起光等の光強度の強い光が細胞に照射されると、細胞内および細胞外環境に、例えば活性酸素が生成される。なお、活性化光の光強度は、過酸化水素量の生成に対して無視できる程度に弱い。活性酸素は、例えば、水分子と反応して過酸化水素となり、細胞に損傷を与える。光照射が連続的に行われる場合、細胞外環境では、カタラーゼを溶液中に添加するため、発生した過酸化水素を分解することができる。一方、細胞内では、過酸化水素が蓄積し、細胞内の過酸化水素量が時間経過とともに上昇する。例えば、数分程度(例、3〜5分)の間、継続的に励起光を細胞に照射すると、過酸化水素量が閾値を超えて細胞が死滅してしまう。
本願発明者は、生きた細胞に、過酸化水素を分解(無毒化)する機能があることに着目し、この分解機能を利用して、細胞が死滅するまでに照射可能な光量(光の強さと照射時間の積)の総和を増やすこと、細胞を死滅させずに光照射を行うこと等が可能であることに思い至った。例えば、細胞内小器官のペルオキシソーム内にはカタラーゼという酵素が存在する。一方、細胞内であっても、ペルオキシソーム外では、カタラーゼの量が非常に少ない。したがって、励起光等の光強度の強い光が細胞に照射されると、過酸化水素が大量に発生し、ペルオキシソーム外では、過酸化水素の分解(無毒化)が追い付かない。本願発明者は、光照射を中断すると活性酸素の発生が抑制されるのに加え、蓄積された過酸化水素が分解により減少し、観察可能な時間が増加することを思い至った。
図2(B)は、画像生成期間T1の後に、活性化光および励起光を照射しない中断期間T2(回復期間、分解期間、非画像生成期間)を設ける場合の細胞内過酸化水素量を示す図である。図2(B)において、中断期間T2の長さは、画像生成期間T1に蓄積した細胞内過酸化水素のほぼ全部を分解する時間に設定されている。この場合、中断期間T2の終了時の細胞内過酸化水素量は、画像生成期間T1の開始時の細胞内過酸化水素量と同じになり、画像生成期間T1と中断期間T2とを交互に繰り返し行うと、細胞を死滅させずに光照射を行うことができる。
図2(C)は、画像生成期間T1の後に中断期間T2を設ける場合の細胞内過酸化水素量の他の例を示す図である。図2(C)において、中断期間T2の長さは、画像生成期間T1に蓄積した細胞内過酸化水素量の一部を分解する時間に設定されている。この場合、1組の画像生成期間T1および中断期間T2における細胞内過酸化水素量の増分は、1つの画像生成期間T1における細胞内過酸化水素量の増分と比べて減少する。したがって、1組の画像生成期間T1および中断期間T2を繰り返し設ける場合に、細胞内過酸化水素量が閾値に至るまでの画像生成期間T1の数は、画像生成期間T1のみを連続的に設ける場合に、細胞内過酸化水素量が閾値に至るまでの画像生成期間T1の数よりも多くなる。よって、細胞が死滅するまでに照射可能な光量(光の強さと照射時間の積)の総和を増やすことができ、より多くの情報を取得可能になる。例えば、画像生成期間T1に増加する細胞内過酸化水素量をU1、中断期間T2に減少する細胞内過酸化水素量をU2とする。1つの画像生成期間T1と1つの中断期間とを設ける場合の細胞内過酸化水素量の増分はU1−U2である。細胞を死滅させずに、所定の光の強さで画像生成期間T1を設けることが可能な回数(光量)は、画像生成期間T1のみを設ける場合にQ/U1回であるが、中断期間T2を設ける場合にQ/(U1−U2)となり、画像生成期間T1のみを設ける場合よりも増加する。例えばU2=U1/2とすると、中断期間T2を設ける場合に細胞を死滅させずに画像生成期間T1を設けることが可能な回数(光量)は、2Q/U1となり、中断期間T2を設けない場合に比べて2倍になる。
なお、図2(B)、図2(C)では、上記中断期間T2において、活性化光および励起光を照射しない場合を例示して説明したが、活性化光および励起光の照射を停止せず、低減してもよい。なぜなら、活性化光および励起光の照射を停止せず、低減した場合でも同様に、活性酸素の発生が抑制され、蓄積された過酸化水素が分解により減少し、観察可能な時間が増加するからである。このことは、以下の説明でも同様である。また、上記図2(A)、図2(B)、図2(C)では、活性化光および励起光を照射する場合を記載したが、活性化光の光強度は、過酸化水素量の生成に対して無視できる程度に弱い。一方、励起光の光強度は強いため、上述したように、継続して照射すると、細胞内の過酸化水素量が時間経過とともに上昇する。つまり、図2(B)、図2(C)で示したように、中断期間を設けることにより、強い強度の励起光が停止または低減されるので、上述したように、細胞が死滅するまでに照射可能な光量(光の強さと照射時間の積)の総和を増やすことができる。このことは、以下の説明でも同様である。
なお、実施形態に係る顕微鏡装置は、図2(A)に示したように、複数の画像生成期間T1を連続して設けることもできる。例えば、固定化された細胞あるいは組織、生きた細胞あるいは組織などの観察を行う際に、実施形態に係る顕微鏡装置は、図2(A)に示した照明と撮像のシーケンスで動作することもできる。本実施形態に係る顕微鏡装置は、例えばユーザの指定により、中断期間T2を設けるか否かを切り替えることができる。
[第1実施形態]
第1実施形態について説明する。本実施形態では、標識に用いられる蛍光色素(例、レポータ色素)が1種類である形態について説明する。図3は、本実施形態に係る顕微鏡装置1を示す図である。顕微鏡装置1は、ステージ2、光源装置3と、照明光学系4と、結像光学系5と、撮像部6と、画像処理部7と、制御装置8とを備える。制御装置8は、顕微鏡装置1の各部を包括的に制御する制御部42を備える。
ステージ2は、観察対象の試料Xを保持する。ステージ2は、例えば、その上面に試料Xを載置可能なものである。ステージ2は、例えば、机等のように試料Xを移動させる機構を有さないものでもよいし、XYステージのように試料Xを移動させる機構を有するものでもよい。顕微鏡装置1は、ステージ2を備えなくてもよい。
光源装置3は、活性化光源10a、励起光源10b、シャッタ11a、及びシャッタ11bを備える。活性化光源10aは、試料Xに含まれる蛍光物質を活性化する活性化光L1を発する。ここでは、蛍光物質がレポータ色素を含み、アクティベータ色素を含まないものとする。蛍光物質のレポータ色素は、活性化光L1が照射されることで、蛍光を発することが可能な活性化状態となる。蛍光物質は、レポータ色素およびアクティベータ色素を含むものでもよく、この場合、アクティベータ色素は、活性化光L1を受けた場合にレポータ色素を活性状態にする。なお、蛍光物質は、例えばPA−GFP、Dronpaなどの蛍光タンパク質でもよい。
励起光源10bは、試料Xに含まれる蛍光物質を励起する励起光L2を発する。蛍光物質は、活性化状態において励起光L2が照射されると、蛍光を発するか、不活性化される。蛍光物質は、不活性化された状態(以下、不活性化状態という)において活性化光L1が照射されると、再度、活性化状態となる。
活性化光源10aおよび励起光源10bは、例えば、レーザ光源などの固体光源を含み、それぞれ、蛍光物質の種類に応じた波長のレーザ光を発する。活性化光源10aの射出波長、励起光源10bの射出波長は、例えば、約405nm、約457nm、約488nm、約532nm、約561nm、約640nm、約647nmなどから選択される。ここでは、活性化光源10aの射出波長が約405nmであり、励起光源10bの射出波長が約488nm、約561nm、約647nmから選択される波長であるとする。
シャッタ11aは、制御部42により制御され、活性化光源10aからの活性化光L1を通す状態と、活性化光L1を遮る状態とを切り替え可能である。シャッタ11bは、制御部42により制御され、励起光源10bからの励起光L2を通す状態と、励起光L2を遮る状態とを切り替え可能である。
なお、顕微鏡装置1は、光源装置3の少なくとも一部を備えなくてもよい。例えば、光源装置3は、ユニット化されており、顕微鏡装置1に交換可能(取り付け可能、取り外し可能)に設けられていてもよい。例えば、光源装置3は、顕微鏡装置1による観察時などに、顕微鏡装置1に取り付けられてもよい。
照明光学系4は、活性化光L1と、励起光L2とを試料Xに照射する。照明光学系4は、ミラー12、ダイクロイックミラー13、音響光学素子14、レンズ15、導光部材16、レンズ17、レンズ18、フィルタ19、ダイクロイックミラー20、及び対物レンズ21を備える。ミラー12は、例えば、励起光源10bの射出側に設けられる。励起光源10bからの励起光L2は、ミラー12で反射し、ダイクロイックミラー13に入射する。ダイクロイックミラー13は、例えば、活性化光源10aの射出側に設けられる。ダイクロイックミラー13は、活性化光L1が透過し、励起光L2が反射する特性を有する。ダイクロイックミラー13を透過した活性化光L1と、ダイクロイックミラー13で反射した励起光L2は、同じ光路を通って音響光学素子14に入射する。音響光学素子14は、例えば音響光学フィルタなどである。
音響光学素子14は、制御部42に制御され、活性化光L1の光強度および励起光L2の光強度のそれぞれを調整可能である。また、音響光学素子14は、制御部42に制御され、活性化光L1、励起光L2のそれぞれについて、音響光学素子14を通る状態(以下、通光状態という)と、音響光学素子14により遮られる状態または強度が低減される状態(以下、遮光状態という)とを切り替え可能である。例えば、蛍光物質がレポータ色素を含みアクティベータ色素を含まない場合、制御部42は、活性化光L1の照射と励起光L2の照射とを並行して行うように、音響光学素子14を制御する。また、蛍光物質がレポータ色素およびアクティベータ色素を含む場合、制御部42は、例えば、活性化光L1の照射後に励起光L2を照射するように、音響光学素子14を制御する。
レンズ15は、例えばカプラであり、音響光学素子14からの活性化光L1、励起光L2を導光部材16に集光する。導光部材16は、例えば光ファイバであり、活性化光L1、励起光L2をレンズ17へ導く。レンズ17は、例えばコリメータであり、活性化光L1、励起光L2を平行光に変換する。レンズ18は、例えば、活性化光L1、励起光L2を対物レンズ21の瞳面の位置に集光する。フィルタ19は、例えば、活性化光L1および励起光L2が透過し、他の波長の光の少なくとも一部を遮る特性を有する。ダイクロイックミラー20は、活性化光L1および励起光L2が反射し、試料Xからの光のうち所定の波長帯の光(例、蛍光)が透過する特性を有する。フィルタ19からの光は、ダイクロイックミラー20で反射し、対物レンズ21に入射する。試料Xは、観察時に対物レンズ21の焦点面に配置される。
活性化光L1、励起光L2は、上述のような照明光学系4により、試料Xに照射される。なお、上述した照明光学系4は一例であり、適宜、変更可能である。例えば、上述した照明光学系4の一部が省略されてもよい。また、照明光学系4は、光源装置3の少なくとも一部を含んでいてもよい。また、照明光学系4は、開口絞り、照野絞りなどを備えてもよい。
結像光学系5は、試料Xに含まれる蛍光物質からの蛍光の像を形成する。結像光学系5は、対物レンズ21、ダイクロイックミラー20、フィルタ24、レンズ25、光路切替部材26、レンズ27、及びレンズ28を備える。結像光学系5は、対物レンズ21およびダイクロイックミラー20を照明光学系4と共用している。試料Xからの光は、対物レンズ21およびダイクロイックミラー20を通ってフィルタ24に入射する。フィルタ24は、試料Xからの光のうち所定の波長帯の光が選択的に通る特性を有する。フィルタ24は、例えば、試料Xで反射した照明光、外光、迷光などを遮断する。フィルタ24は、例えば、フィルタ19およびダイクロイックミラー20とユニット化され、このフィルタユニット29は、交換可能に設けられる。フィルタユニット29は、例えば、光源装置3から射出される光の波長(例、活性化光L1の波長、励起光L2の波長)、試料Xから放射される蛍光の波長などに応じて交換される。
フィルタ24を通った光は、レンズ25を介して光路切替部材26に入射する。光路切替部材26は、例えばプリズムであり、結像光学系5の光路に挿脱可能に設けられる。光路切替部材26は、例えば、制御部42により制御される駆動部(図示せず)によって、結像光学系5の光路に挿脱される。光路切替部材26は、結像光学系5の光路に挿入された状態において、試料Xからの蛍光を内面反射によって撮像部6へ向かう光路へ導く。レンズ27及びレンズ28は、例えば、アフォーカル光学系を構成する。
上述のような結像光学系5は、試料Xと光学的に共役な位置に、蛍光の像を形成する。上述した結像光学系5は一例であり、適宜、変更可能である。例えば、上述した結像光学系5の一部が省略されてもよい。また、結像光学系5は、開口絞り、視野絞りなどを備えてもよい。
本実施形態に係る顕微鏡装置1は、観察範囲の設定などに利用される観察光学系30を備える。観察光学系30は、試料Xから観察者の視点Vpに向かう順に、対物レンズ21、ダイクロイックミラー20、フィルタ24、レンズ25、ミラー31、レンズ32、ミラー33、レンズ34、レンズ35、ミラー36、及びレンズ37を備える。観察光学系30は、対物レンズ21からレンズ25までの構成を結像光学系5と共用している。試料Xからの光は、レンズ25を通った後に、光路切替部材26が結像光学系5の光路から退避した状態において、ミラー31に入射する。ミラー31で反射した光は、レンズ32を介してミラー33に入射し、ミラー33で反射した後に、レンズ34およびレンズ35を介してミラー36に入射する。ミラー36で反射した光は、レンズ37を介して、視点Vpに入射する。観察光学系30は、例えば、レンズ35とレンズ37との間の光路に試料Xの中間像を形成する。レンズ37は、例えば接眼レンズであり、観察者は、中間像を観察することにより観察範囲の設定などを行うことができる。
撮像部6は、結像光学系5が形成した像を撮像する。撮像部6は、撮像素子40および制御部41を備える。撮像素子40は、例えばCMOSイメージセンサであるが、CCDイメージセンサなどの他のイメージセンサなどでもよい。撮像素子40は、例えば、二次元的に配列された複数の画素を有し、各画素にフォトダイオードなどの光電変換素子が配置された構造である。撮像素子40は、例えば、光電変換素子に蓄積された電荷を、読出回路によって読み出す。撮像素子40は、読み出された電荷をデジタルデータに変換し、画素の位置と階調値とを関連付けたデジタル形式のデータを出力する。制御部41は、制御装置8の制御部42から入力される制御信号に基づいて撮像素子40を動作させ、撮像画像のデータを制御装置8に出力する。また、制御部41は、電荷の蓄積期間と電荷の読み出し期間を制御装置8に出力する。
制御装置8は、顕微鏡装置1の各部を総括して制御する。制御装置8は、制御部42および画像処理部7を備える。制御部42は、制御部41から供給される電荷の蓄積期間と電荷の読み出し期間を示す信号(撮像タイミングの情報)に基づいて、音響光学素子14に、光源装置3からの光を通す通光状態と、光源装置3からの光を遮る遮光状態とを切り替える制御信号を供給する。音響光学素子14は、この制御信号に基づいて、通光状態と遮光状態とを切り替える。制御部42は、音響光学素子14を制御し、試料Xに活性化光L1が照射される期間、及び試料Xに活性化光L1が照射されない期間を制御する。また、制御部42は、音響光学素子14を制御し、試料Xに励起光L2が照射される期間、及び、試料Xに励起光L2が照射されない期間を制御する。制御部42は、音響光学素子14を制御し、試料Xに照射される活性化光L1の光強度および励起光L2の光強度を制御する。制御部42は、撮像部6を制御し、撮像素子40に撮像を実行させる。なお、制御部42の代わりに制御部41は、電荷の蓄積期間と電荷の読み出し期間を示す信号(撮像タイミングの情報)に基づいて、音響光学素子14に遮光状態と通光状態とを切り替える制御信号を供給し、音響光学素子14を制御してもよい。制御部42が制御する照明と撮像のシーケンスについては、後に図4等を参照しつつ説明する。制御部42は、撮像部6から撮像結果(撮像画像のデータ)を取得する。画像処理部7は、撮像部6の撮像結果を用いて、個々の像の重心位置を求めるなどの画像処理を行う。画像処理部7は、図1に示したように、例えば、複数のフレーム期間Tfで得られた撮像画像P1〜Pnに含まれる複数の蛍光の像のそれぞれの重心位置を輝点で表し、複数の輝点の少なくとも一部を重ねて(マージして)1枚の画像SP(例、超解像画像)を生成する。
制御装置8は、記憶装置(記憶部)43および表示装置(表示部)44のそれぞれと通信可能に接続される。表示装置44は、例えば、液晶ディスプレイなどである。表示装置44は、例えば、顕微鏡装置1の各種設定を示す画像、撮像部6による撮像画像、撮像画像から生成された画像などの各種画像を表示する。制御部42は、表示装置44を制御し、表示装置44に各種画像を表示させる。例えば、制御部42は、画像処理部7が生成した画像(例、STORM画像、PALM画像などの超解像画像)のデータを表示装置44に供給し、この画像を表示装置44に表示させる。例えば、顕微鏡装置1は、観察対象の試料Xの超解像画像をライブ映像で表示すること等もできる。記憶装置43は、例えば磁気ディスクや光学ディスクなどであり、顕微鏡装置1の各種設定のデータ、撮像部6による撮像画像のデータ、画像処理部7が生成した画像のデータなど各種データを記憶する。制御部42は、例えば、記憶装置43に記憶された超解像画像のデータを表示装置44に供給し、超解像画像を表示装置44に表示させることができる。制御部42は、記憶装置43を制御し、各種データを記憶装置43に記憶させる。
図4(A)は、試料Xを観察する視野が固定される場合について、本実施形態に係る照明と撮像のシーケンスを示す概念図、図4(B)は視野Yの説明図である。制御部42は、画像生成期間T1において、活性化光L1および励起光L2の少なくとも一方を試料Xにおける視野Yに照射させる。視野Yは、例えば撮像部6における撮像素子40の受光面と光学的に共役な領域であり、試料Xの一部に配置される。例えば、制御部42は、時刻t1において、活性化光L1の照射を開始(活性化光;ON)させ、時刻t1から時刻t2までの期間において、活性化光L1を照射させる。また、制御部42は、時刻t1において、励起光L2の照射を開始(励起光;ON)させ、時刻t1から時刻t2までの期間において、励起光L2を照射させる。図4の「光照射(合算)」は、活性化光と励起光の少なくとも1つが照射される状態を「ON」で表し、活性化光及び励起光が照射されない状態を「OFF」で表したものである。制御部42は、画像生成期間T1において、撮像部6に複数のフレーム期間Tf(図1参照)で撮像させる。画像処理部7は、時刻t1から時刻t2までの画像生成期間T1内の複数のフレーム期間Tfにおける撮像結果の少なくとも一部を用いて、1枚の画像SPを生成する。
制御部42は、画像生成期間T1後の中断期間T2における活性化光L1および励起光L2の照射を停止、または中断期間T2における活性化光L1および励起光L2の光強度を画像生成期間T1よりも弱く(低減)する。例えば、制御部42は、時刻t2において、活性化光L1の照射を停止(活性化光;OFF)させ、時刻t2から時刻t3までの期間において、活性化光L1の照射の停止を維持させる。制御部42は、時刻t2において、励起光L2の照射を停止(励起光;OFF)させ、時刻t2から時刻t3までの期間において、励起光L2の照射の停止を維持させる。この場合、活性化光L1および励起光L2が試料Xにおける視野Yに照射されない中断期間T2は、時刻t2から時刻t3までの期間になる。中断期間T2は、例えば、複数のフレーム期間Tf(図1参照)のいずれよりも長い。中断期間T2は、画像生成期間T1よりも長くてもよいし、短くてもよい。
制御部42は、画像生成期間T1と中断期間T2とを交互に行う。例えば、制御部42は、時刻t2から時刻t3までの中断期間T2に続いて、時刻t3から時刻t4までの画像生成期間T1を行う。制御部42は、時刻t3から時刻t4までの画像生成期間T1において、時刻t1から時刻t2までの画像生成期間T1と試料Xにおける同じ視野Yに対して、活性化光L1、励起光L2を照射させる。制御部42は、時刻t3から時刻t4までの画像生成期間T1において、時刻t1から時刻t2までの画像生成期間T1と試料Xにおける同じ視野Yを撮像させる。画像処理部7は、時刻t3から時刻t4までの画像生成期間T1内の複数のフレーム期間Tfにおける撮像結果の少なくとも一部を用いて、1枚の画像SPを生成する。このように、制御部42は、中断期間T2の前後の画像生成期間T1において、試料Xにおける視野Yに活性化光L1、励起光L2を照射させ、試料Xにおける視野Yを撮像させる。画像処理部7は、各画像生成期間T1内の複数のフレーム期間Tfにおける撮像結果の少なくとも一部を用いて、1枚の画像SPを生成する。制御部42は、以下同様に画像生成期間T1と中断期間T2とを交互に繰り返し設け、画像処理部7は、複数の画像SPを生成する。
図5(A)は、試料Xを観察する視野が変更される場合について、本実施形態に係る照明と撮像のシーケンスを示す概念図、図5(B)は視野の説明図である。試料Xにおける視野は、例えば、初期状態でY1に配置され、ステージ2を移動させることで、Y2、Y3へ順に移動した後にY1へと戻る。図5(A)において、「ステージ」の「Y1」、「Y2」、「Y3」は、それぞれ、試料Xにおける視野が図5(B)のY1、Y2、Y3に配置された状態を表す。制御部42は、視野がY1に配置された状態(ステージ;Y1)において、活性化光L1および励起光L2を照射させ、撮像部6に撮像処理を行わせる。画像処理部7は、この視野(Y1)における画像生成期間T1の撮像結果の少なくとも一部を用いて、1枚の画像SP(Y1)を生成する。
制御部42は、視野(Y1)における画像生成期間T1の終了後に、ステージ2を制御して、試料Xにおける視野をY2に配置させる。制御部42は、視野がY2に配置された状態(ステージ;Y2)において、活性化光L1および励起光L2を照射させ、撮像部6に撮像処理を行わせる。画像処理部7は、この視野(Y2)における画像生成期間T1の撮像結果の少なくとも一部を用いて、1枚の画像SP(Y2)を生成する。制御部42は、視野(Y2)における画像生成期間T1の終了後に、ステージ2を制御して、試料Xにおける視野をY3に配置させる。制御部42は、視野がY3に配置された状態(ステージ;Y3)において、活性化光L1および励起光L2を照射させ、撮像部6に撮像処理を行わせる。画像処理部7は、この視野(Y3)における画像生成期間T1の撮像結果の少なくとも一部を用いて、1枚の画像SP(Y3)を生成する。
制御部42は、視野(Y3)における画像生成期間T1の終了後に、ステージ2を制御して、試料Xにおける視野をY1に配置させ、画像生成期間T1を再度行う。前回の画像生成期間T1と、今回の画像生成期間T1との間において、視野Y1は、活性化光L1および励起光L2が照射されない状態になっている。すなわち、視野Y1において、前回と今回の画像生成期間T1の間が中断期間T2になる。視野Y2、視野Y3についても同様に、前回と今回の画像生成期間T1の間が中断期間T2になる。
なお、制御部42は、一連の制御において画像生成期間T1を少なくとも2回行うが、画像生成期間T1を行う回数は任意に設定される。また、複数の画像生成期間T1は、長さが同じでもよいし、異なっていてもよい。また、制御部42は、複数の画像生成期間T1の間に中断期間T2を少なくとも1回行えばよい。例えば、制御部42は、画像生成期間T1を2回連続で行った後、中断期間T2を行い、続いて画像生成期間T1を行ってもよい。複数の中断期間T2を行う場合、複数の中断期間T2は、長さが同じでもよいし、異なっていてもよい。
次に、上述のような顕微鏡装置1の構成に基づき、実施形態に係る観察方法を説明する。図6は、実施形態に係る観察方法を示すフローチャートである。まず、顕微鏡装置1は、前処理として、中断期間T2を行うか否かを設定する。例えば、制御部42は、中断期間T2を行うか否かの指示をユーザに求める画像を表示装置44に表示させ、ユーザの指示に従って中断期間T2を行うか否かを設定する。また、制御部42は、中断期間T2を行うか否かを示す設定情報に従って、中断期間T2を行うか否かを設定してもよい。この設定情報は、例えば、予め記憶装置43に記憶されたものでもよい。以下、中断期間T2を行う場合について説明する。
ステップS1において、制御部42は、例えば音響光学素子14を制御し、活性化光L1、励起光L2の照射を開始させ、画像生成期間T1を開始する。これにより、照明光学系4は、試料Xにおける視野Yに活性化光L1、励起光L2を照射し、結像光学系5は、試料Xに含まれる蛍光物質からの蛍光の像を形成する(ステップS2)。ステップS3において、制御部42は、撮像部6を制御し、蛍光の像を撮像させる。ステップS4において、制御部42は、1回の画像生成期間T1における撮像が終了したか否かを判定する。例えば、1回の画像生成期間T1におけるフレーム期間の数(撮像回数)の設定値が記憶装置43に記憶されており、制御部42は、ステップS3の撮像が完了した際に撮像回数のカウンタをインクリメントし、このカウンタと設定値との比較により、1回の画像生成期間T1における撮像が終了したか否かを判定する。制御部42は、1回の画像生成期間T1における撮像が終了していないと判定した場合(ステップS4;No)、ステップS3の処理を実行させる。
制御部42は、1回の画像生成期間T1における撮像が終了したと判定した場合(ステップS4;Yes)、例えば、ステップS5において、画像処理部7に1枚の超解像画像を生成させる。画像処理部7は、ステップS3の撮像を設定値の回数だけ繰り返して得られた撮像結果の少なくとも一部を用いて、1枚の超解像画像を生成する。また、制御部42は、1回の画像生成期間T1における撮像が終了したと判定した場合(ステップS4;Yes)、ステップS6において、所定回数の画像生成期間T1が終了したか否かを判定する。例えば、画像生成期間T1の回数の設定値が記憶装置43に記憶されており、制御部42は、1回の画像生成期間T1における撮像が終了したと判定した場合に画像生成期間T1の回数のカウンタをインクリメントし、このカウンタと設定値との比較により、所定回数の画像生成期間T1における撮像が終了したか否かを判定する。
制御部42は、所定回数の画像生成期間T1における撮像が終了したと判定した場合(ステップS7;Yes)、一連の処理を終了する。また、制御部42は、所定回数の画像生成期間T1における撮像が終了していないと判定した場合(ステップS7;No)、例えば音響光学素子14を制御し、活性化光L1および励起光L2の照射を停止または低減させ、中断期間T2を開始する。ステップS8において、制御部42は、活性化光L1および励起光L2の照射を停止または低減させてから所定時間が経過したか否かを判定する。所定時間は、複数の中断期間T2で一定(固定値)でもよいし、複数の中断期間T2で異なってもよい(可変値でもよい)。例えば、中断期間T2の長さは、画像生成期間T1の長さに応じて調整されてもよい。例えば、連続する画像生成期間T1と中断期間T2との合計の長さが固定値でもよい。例えば、画像生成期間T1が長い場合、この画像生成期間T1の次の中断期間T2を短く調整してもよい。例えば、画像生成期間T1の変動分を、次の中断期間T2に吸収させるように、中断期間T2の長さを調整してもよい。また、画像生成期間T1が長い場合、この画像生成期間T1の次の中断期間T2を長く調整してもよい。制御部42は、所定時間が経過していないと判定した場合(ステップS8;No)、例えば所定の時間間隔でステップS8の処理を繰り返し行う。制御部42は、所定時間が経過したと判定した場合(ステップS8;Yes)、ステップS1に戻り、活性化光L1、励起光L2の照射を開始させ、次の画像生成期間T1を開始する。制御部42は、上述の処理を繰り返すことにより、所定回数の画像生成期間T1における撮像を実行させる。
[第2実施形態]
第2実施形態について説明する。本実施形態では、標識に用いられる蛍光色素(例、レポータ色素)が2種類である形態について説明するが、蛍光色素(例、レポータ色素)の数は3種類以上でもよい。図7は、本実施形態に係る顕微鏡装置1を示す図である。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
本実施形態において、照明光学系4は、蛍光色素(例、レポータ色素)に応じた2種類の波長の励起光を試料Xに照射する。光源装置3は、励起光源10cおよびシャッタ11cを備える。励起光源10bは、第1波長の励起光L2を発生し、励起光源10cは、第1波長と異なる第2波長の励起光L3を発生する。ここでは、第2波長は、第1波長よりも短波長であるとする。例えば、第1波長は647nmであり、第2波長は561nmである。シャッタ11cは、制御部42により制御され、励起光源10cからの励起光L3を通す状態と、励起光L3を遮る状態とを切り替え可能である。照明光学系4は、励起光源10cの出射側にミラー51を備える。励起光源10cからの励起光L3は、ミラー51で反射し、ダイクロイックミラー13に入射する。ダイクロイックミラー13およびダイクロイックミラー20は、励起光L3が反射する特性を有し、励起光L3は、励起光L2と同じ光路を通って、試料Xに照射される。
図8は、本実施形態に係る照明と撮像のシーケンスを示す概念図である。制御部42は、第1励起光(励起光L2)と第2励起光(励起光L3)とを、画像生成期間T1において交互に照射させる。制御部42は、画像生成期間T1内の第1の期間(以下、第1波長期間T3という)において第1励起光を照射させ、画像生成期間T1内の第2の期間(以下、第2波長期間T4という)において第2励起光を照射させる。また、制御部42は、画像生成期間T1において、活性化光を、第1励起光または第2励起光と並行して照射させる。例えば、制御部42は、第1波長期間T3および第2波長期間T4にわたって、活性化光を照射させる。なお、活性化光の強度は、蛍光物質に応じて調整される。例えば、活性化光の強度は、第2励起光の照射時に、第1励起光の照射時よりも強く設定される。例えば、制御部42は、音響光学素子14を制御し、活性化光の強度を調整する。図8の「光照射(合算)」は、活性化光、第1励起光、第2励起光の少なくとも1つが照射される状態を「ON」で表し、活性化光、第1励起光、及び第2励起光が照射されない状態を「OFF」で表したものである。
制御部42は、撮像部6を制御し、第1波長期間T3(第1励起光の照射時)において第1撮像処理を実行させる。制御部42は、画像生成期間T1において、第1波長期間T3に対応して第1撮像処理を繰り返し実行させる。画像処理部7は、画像生成期間T1における複数の第1撮像処理により得られる撮像結果の少なくとも一部を用いて、第1の画像Paを生成する。また、制御部42は、撮像部6を制御し、第2波長期間T4(第2励起光の照射時)において第2撮像処理を実行させる。制御部42は、画像生成期間T1において、第2撮像処理を繰り返し実行させる。画像処理部7は、画像生成期間T1における複数の第2撮像処理により得られる撮像結果の少なくとも一部を用いて、第2の画像Pbを生成する。2種類の蛍光色素(例、レポータ色素)は、試料Xにおいて異なる小器官などに標識されており、第1の画像Paと第2の画像Pbとで異なる小器官などの画像が得られる。画像処理部7は、例えば、第1の画像Paおよび第2の画像Pbを合成して、1枚の画像Ptを生成する。なお、画像処理部7は、例えば、第1の画像Paおよび第2の画像Pbを用いずに、1枚の画像Ptを生成してもよい。つまり、画像生成処理部7は、複数の第1撮像処理により得られる撮像結果の少なくとも一部と、第2撮像処理により得られる撮像結果の少なくとも一部と、を用いて、1枚の画像Ptを生成してもよい。このように、画像生成期間T1において、第1励起光の照射と第2励起光の照射とを、フレーム期間ごとに切り替えて交互に繰り返し行う場合、時間空間的に観察対象の蛍光物質の局在を明らかにしやすい。
[第3実施形態]
第3実施形態について説明する。本実施形態では、標識に用いられる蛍光色素(例、レポータ色素)が2種類である他の形態について説明する。蛍光色素(例、レポータ色素)の数は3種類以上でもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
図9は、本実施形態に係る照明と撮像のシーケンスを示す概念図である。制御部42は、画像生成期間T1において、複数の第1波長期間T3を連続的に行った後、複数の第2波長期間T4を連続的に行う。制御部42は、複数の第1波長期間T3において、第1励起光を照射させ、撮像部6により第1撮像処理を繰り返し実行させる。画像処理部7は、画像生成期間T1における複数の第1撮像処理により得られる撮像結果の少なくとも一部を用いて、第1の画像Paを生成する。制御部42は、複数の第2波長期間T4において、第2励起光を照射させ、撮像部6により第2撮像処理を繰り返し実行させる。画像処理部7は、画像生成期間T1における複数の第2撮像処理により得られる撮像結果の少なくとも一部を用いて、第2の画像Pbを生成する。画像処理部7は、例えば、第1の画像Paおよび第2の画像Pbを合成して、1枚の画像Ptを生成する。なお、画像処理部7は、例えば、第1の画像Paおよび第2の画像Pbを用いずに、1枚の画像Ptを生成してもよい。つまり、画像生成処理部7は、複数の第1撮像処理により得られる撮像結果の少なくとも一部と、第2撮像処理により得られる撮像結果の少なくとも一部と、を用いて、1枚の画像Ptを生成してもよい。このように、第1波長期間T3において2以上のフレーム期間を連続的に設け、続いて第2波長期間T4において2以上のフレーム期間を連続的に設ける場合、観察対象の蛍光物質の退色を抑制することができ、また、2種類以上の蛍光を分離しやすい。なお、顕微鏡装置1は、第2実施形態で説明したように1つのフレーム期間ごとに励起光を切り替えるモードと、本実施形態のように2以上のフレーム期間ごとに励起光を切り替えるモードと、を切り替え可能でもよい。
[第4実施形態]
第4実施形態について説明する。本実施形態では、顕微鏡装置1におけるステージ2などの変位(ドリフト量)を検出する形態について説明する。ここでは、蛍光色素(例、レポータ色素)が2種類である例を説明するが、蛍光色素(例、レポータ色素)は、1種類または3種類以上でもよい。図10は、本実施形態に係る顕微鏡装置1を示す図である。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
本実施形態において、照明光学系4は、試料Xの位置を検出するための補助光L4を照射する。例えば、試料Xには、試料Xの位置を示す基準マーカが付与され、照明光学系4は、基準マーカを検出するための補助光L4を照射する。例えば、基準マーカは、蛍光を発する蛍光ビーズなどであり、補助光L4は、基準マーカを励起する光を含む。
光源装置3は、励起光源10dおよびシャッタ11dを備える。励起光源10dは、補助光L4を発生する。補助光L4の波長は、例えば、活性化光L1、及び励起光L2のいずれとも異なる波長に設定される。補助光L4の光強度は、例えば、励起光L2の光強度よりも弱い。シャッタ11dは、制御部42により制御され、励起光源10dからの補助光L4を通す状態と、補助光L4を遮る状態とを切り替え可能である。また、音響光学素子14は、制御部42に制御され、補助光L4を通す通光状態と、補助光L4を遮る状態または補助光L4の強度を低減する状態(遮光状態)とを切り替える。
照明光学系4は、励起光源10dの出射側にミラー51を備える。励起光源10dからの補助光L4は、ミラー51で反射し、ダイクロイックミラー13に入射する。ダイクロイックミラー13およびダイクロイックミラー20は、補助光L4が反射する特性を有し、補助光L4は、活性化光L1、及び励起光L2と同じ光路を通って、試料Xに照射される。
制御部42は、試料Xに補助光L4を照射させ、撮像部6に撮像させ、基準マーカからの蛍光を検出させる。基準マーカからの蛍光を検出する頻度は、任意に設定される。例えば、補助光L4に応じた撮像は、励起光に応じた1つのフレーム期間の撮像ごとに行ってもよいし、励起光に応じた複数のフレーム期間のそれぞれの撮像ごとに行ってもよい。
図11は、本実施形態に係る照明と撮像のシーケンスを示す図である。制御部42は、期間Taにおいて、活性化光L1および励起光L2を試料Xに照射させ、撮像部6に試料Xを撮像させる。活性化光L1は、蛍光物質を確率的に活性化させ、活性化された蛍光物質は、励起光L2の照射により、励起される。期間Taで取得される撮像画像(Pd1〜Pdm)は、例えば試料Xに含まれる蛍光物質(例えば、レポータ色素)からの蛍光の像を撮像したものであり、試料Xの構造を示す画像の生成に使われる。撮像部6は、各フレーム期間Tfの撮像結果として、撮像画像Pd1〜Pdnを生成する。画像処理部7は、撮像画像Pd1〜Pdnの少なくとも一部を用いて1枚の画像SP(例、超解像画像)を生成する。
また、制御部42は、期間Tbにおいて、活性化光L1および励起光L2の照射を停止あるいは低減した状態で補助光L4を照射させ、撮像部6に試料Xを撮像させる。期間Tbは、例えば、期間Taの1つ前のフレーム期間Tfに行われる。例えば、図11において、最初の期間Tbの撮像により撮像画像Pc1が取得され、この期間Tbに続く期間Taにおいて所定回数(m回)のフレーム期間Tfの撮像により撮像画像Pd1〜Pdmが取得され、続いて期間Tbの撮像により撮像画像Pc2が取得される。この場合、補助光L4に応じた撮像画像Pc1は、励起光L2に応じた撮像画像(Pd1〜Pdm)に対して、1/mの頻度で取得される。なお、所定回数(m)は、任意に設定され、例えば、1、10、100、1000、5000、10000などでもよい。図11において、符号T6は、1回の期間Tbと、この期間Tbに連続する期間Taとを含む期間である。制御部42は、例えば、1回の画像生成期間T1において複数回数の期間T6を設ける。
画像処理部7は、期間Tbで得られた撮像結果(例、撮像画像Pc1、Pc2)を用いて、撮像画像Pc2の次の1つの期間Taで得られた撮像画像の少なくとも一部を補正する。また、画像処理部7は、複数の期間Taから得られる複数の撮像画像を補正し、補正後の撮像画像の少なくとも一部を用いて1枚の画像を生成する。画像処理部7は、期間Tbにおける撮像結果(撮像画像Pc1、Pc2)を用いて、変位(ドリフト量、移動量)を算出する。画像処理部7は、算出した変位を用いて、期間Taにおける撮像画像を補正する。例えば、画像処理部7は、撮像画像Pc1および撮像画像Pc2から算出される変位を用いて、撮像画像Pc2から撮像画像Pc3(図12に示す)の間に期間Taに撮像される撮像画像の重心位置Qを補正する。画像処理部7は、例えば、補正後の多数の重心位置Qをマージすることにより、1枚の画像を生成(構築)する。
図12は、試料の変位を検出する処理、撮像結果を補正する処理を示す図である。図12において、符号Pc1〜Pcnは、補助光L4に応じた撮像画像を示す。画像処理部7は、例えば、撮像画像Pc2と撮像画像Pc3との間に撮像される撮像画像を同じ補正量で補正する。画像処理部7は、例えば、撮像画像Pc1と撮像画像Pc2を用いて、撮像画像Pc2から撮像画像Pc3の間の期間Taに撮像される撮像画像の補正量を算出する。図12において、符号Pe1の撮像画像は、撮像画像Pc1と撮像画像Pc2との間に撮像される撮像画像Pd1〜Pdmのうちの1枚を代表的に示したものである。撮像画像Pe2〜Penについても同様である。符号Pf2〜Pfnは、補正された画像を示す。例えば、画像Pf2は、撮像画像Pe2を補正した画像である。
撮像画像Pc1〜Pcnには、それぞれ、基準マーカからの蛍光の像Im2が分布している。撮像画像Pc2〜Pcnには、1回前に撮像された撮像画像における蛍光の像を点線で示した。例えば、撮像画像Pc2における点線の部分は、撮像画像Pc1における蛍光の像Im2に相当する。画像処理部7は、例えば、撮像画像Pc1と撮像画像Pc2とで対応する蛍光の像の変位V(ベクトル)をそれぞれ算出する。例えば、試料Xにおいて基準マーカの間隔が、変位(例、ステージ2の変位)として想定される上限値よりも大きくなるように、試料Xにおいて基準マーカを疎に分布させておく。そして、画像処理部7は、撮像画像Pc1と撮像画像Pc2とで最も近い蛍光の像を、同じ基準マーカに対応する蛍光の像であるものとし、対応する蛍光の像の変位を算出する。そして、画像処理部7は、複数の蛍光について変位Vの平均Va(ベクトル)を算出する。なお、画像処理部7は、撮像画像Pc1と撮像画像Pc2とを相対的に移動させながら画像相関を求め、最も相関係数が高くなる撮像画像Pc1と撮像画像Pc2との相対移動量を変位の平均としてもよい。
画像処理部7は、撮像画像Pc1〜Pcnのうち比較する2つの画像の双方に写っている蛍光の像を用いて、変位を求める。例えば、画像処理部7は、撮像画像Pc1と撮像画像Pc3とに同じ基準マーカに対応する蛍光の像が写っており、この蛍光の像が撮像画像Pc2に写っていない場合、この蛍光の像を用いて、撮像画像Pc1と撮像画像Pc3とで蛍光の像の変位を算出することができる。また、画像処理部7は、比較する2つの画像のうち一方のみに写っている蛍光の像を、変位の算出に用いないこともできる。
画像処理部7は、励起光L2に応じた撮像画像Pe2〜Penのそれぞれについて、蛍光物質の重心位置を算出する。ここでは、撮像画像Pe1が基準の画像であるものとし、撮像画像Pe2における蛍光の像の位置を補正する例を説明する。画像処理部7は、撮像画像Pe2の各蛍光の像の重心位置Qを算出する。そして、画像処理部7は、補正対象の撮像画像Pe2の撮像タイミングに対応する補正用の撮像画像Pc2と、基準となる撮像画像Pe1の撮像タイミングに対応する補正用の撮像画像Pc1との変位の平均Vaを用いて、補正を行う。補正用の撮像画像Pc2は、例えば、補正対象の撮像画像Pe2が撮像された期間Taの直前の期間Tbで撮像された撮像画像である。画像処理部7は、画像Pf2のように、撮像画像Pe2における蛍光の像の重心位置Qを、変位の平均Vaを反転した補正量Vb(ベクトル)だけ移動させた重心位置Q2に補正する。画像処理部7は、撮像画像Pe2と同様に、撮像画像Pc2から撮像画像Pc3の間の期間Taに撮像される複数の撮像画像の少なくとも一部を補正する。また、画像処理部7は、同様にして、撮像画像Pc3以降の期間Taに撮像される複数の撮像画像の少なくとも一部を補正する。画像処理部7は、例えば、基準の撮像画像(例、撮像画像Pd1〜Pdm)、及び補正された画像の少なくとも一部を用いて、1枚の画像を生成する。
なお、上記では、撮像画像Pd1からPdmまでの画像をPc1とPc2との変位の平均Vaを用いて補正する場合を例示したが、Pd1からPdmの複数の撮像画像に対する補正量を個別に算出してもよい。例えば、Pc1とPc2の変位の量を用いて、線形補間してもよい。例えば、Pc1とPc2で求められる変位の平均Vaを撮像画像の数 mで除算した値を、Pd1に対する補正量とし、以後の撮像画像は、この除算した値を撮像画像の取得順序に応じて積算した補正量としてもよい。これにより、撮像画像をより精度よく補正できる。
[第5実施形態]
第5実施形態について説明する。本実施形態では、顕微鏡装置1におけるステージ2などの変位(ドリフト量)を検出する形態について説明する。ここでは、蛍光色素(例、レポータ色素)が2種類である例を説明するが、蛍光色素(例、レポータ色素)は、1種類または3種類以上でもよい。図13は、本実施形態に係る顕微鏡装置1を示す図である。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
本実施形態において、照明光学系4は、試料Xの位置を検出するための補助光L4を照射する。例えば、試料Xには、試料Xの位置を示す基準マーカが付与され、照明光学系4は、基準マーカを検出するための補助光L4を照射する。例えば、基準マーカは、蛍光を発する蛍光ビーズなどであり、補助光L4は、基準マーカを励起する光を含む。
光源装置3は、励起光源10dおよびシャッタ11dを備える。励起光源10dは、補助光L4を発生する。補助光L4の波長は、例えば、活性化光L1、励起光L2、及び励起光L3のいずれとも異なる波長に設定される。補助光L4の光強度は、例えば、励起光L2の光強度、及び励起光L3の光強度のいずれよりも弱い。シャッタ11dは、制御部42により制御され、励起光源10dからの補助光L4を通す状態と、補助光L4を遮る状態とを切り替え可能である。また、音響光学素子14は、制御部42に制御され、補助光L4を通す通光状態と、補助光L4を遮る状態または補助光L4の強度を低減する状態(遮光状態)とを切り替える。
照明光学系4は、励起光源10dの出射側にミラー51を備える。励起光源10dからの補助光L4は、ミラー51で反射し、ダイクロイックミラー13に入射する。ダイクロイックミラー13およびダイクロイックミラー20は、補助光L4が反射する特性を有し、補助光L4は、活性化光L1、励起光L2、及び励起光L3と同じ光路を通って、試料Xに照射される。
制御部42は、試料Xに補助光L4を照射させ、撮像部6に撮像させ、基準マーカからの蛍光を検出させる。基準マーカからの蛍光を検出する頻度は、任意に設定される。例えば、補助光L4に応じた撮像は、励起光に応じた1つのフレーム期間の撮像ごとに行ってもよいし、励起光に応じた複数のフレーム期間のそれぞれの撮像ごとに行ってもよい。
図14は、本実施形態に係る照明と撮像のシーケンスを示す図である。制御部42は、画像生成期間T1に、第1波長期間T3(例、期間T12、期間T14、期間T16)と、第2波長期間T4(例、期間T18、期間T20、期間T22)とを設ける。画像処理部7は、第1波長期間T3における撮像部6の撮像結果の少なくとも一部と、第2波長期間T4における撮像部の撮像結果の少なくとも一部とを用いて少なくとも1枚の画像を形成する。例えば、画像処理部7は、第1波長期間T3における撮像結果の少なくとも一部を用いて第1の画像Paを生成し、第2波長期間T4における撮像結果の少なくとも一部を用いて第2の画像Pbを生成する。例えば、第1の画像Paおよび第2の画像Pbは、試料Xの異なる構造を表した画像である。画像処理部7は、例えば、第1の画像Paおよび第2の画像Pbを用いて、1枚の画像Ptを生成する。画像Ptは、例えば、第1の画像Paと第2の画像Pbとを合成した画像である。なお、画像処理部7は、例えば、第1の画像Paおよび第2の画像Pbを用いずに、1枚の画像Ptを生成してもよい。つまり、画像生成処理部7は、複数の第1撮像処理により得られる撮像結果の少なくとも一部と、第2撮像処理により得られる撮像結果の少なくとも一部と、を用いて、1枚の画像Ptを生成してもよい。以下、より詳しく説明する。
制御部42は、第1波長期間T3(例、期間T12)において、活性化光L1を照射させ(活性化光;ON)、励起光L2を照射させ(第1励起光;ON)、活性化された蛍光物質からの蛍光の像を撮像部6に複数のフレーム期間で連続的に撮像させる(第1撮像処理;ON)。制御部42は、例えば、第1波長期間T3における活性化光L1の光強度(図中H1レベル)を、蛍光物質の種類に応じて調整する。制御部42は、第1波長期間T3において撮像を連続的に行う各期間(例、期間T12)の1つ前のフレーム期間(例、期間T11)において、補助光L4を照射させ、基準マーカからの光の像を撮像部6に撮像させる(第3撮像処理;ON)。画像処理部7は、例えば、期間T14における試料Xの位置を、期間T14の1つ前の期間T13の基準マーカの位置と対応付けて、撮像画像の補正を行う。例えば、画像処理部7は、期間T12の撮像画像と期間T14の撮像画像とで位置合わせを行う際に、期間T11の撮像画像と期間T13の撮像画像を用いて、期間T11から期間T13までの基準マーカの変位を求め、この変位の分だけ期間T14の撮像画像を補正することにより、期間T14の撮像画像を期間T12の撮像画像に位置合わせすることができる。今回と前回の第1波長期間T3のドリフト量は、直前の期間T5と、さらに1回前の期間T5との比較により求まる。この処理を繰り返すことにより、基準となる第1波長期間T3に位置合わせすることができる。このように、画像処理部7は、第1波長期間T3に得られる複数の撮像画像を位置合わせし、第1の画像Paを生成する。
また、制御部42は、第2波長期間T4(例、期間T18)において、活性化光L1を照射させ(活性化光;ON)、第2励起光L3を照射させ(第2励起光;ON)、活性化された第2の蛍光物質からの蛍光の像を撮像部6に複数のフレーム期間で連続的に撮像させる(第2撮像処理;ON)。制御部42は、例えば、第2波長期間T4における活性化光L1の光強度(図中H2レベル)を、第2の蛍光物質の種類に応じて調整する。制御部42は、第2波長期間T4において撮像を連続的に行う各期間(例、期間T20)の1つ前のフレーム期間(例、期間T19)において、補助光L4を照射させ、基準マーカからの光の像を撮像部6に撮像させる(第3撮像処理;ON)。画像処理部7は、例えば、期間T20における試料Xの位置を、期間T20の1つ前の期間T19の基準マーカの位置と対応付けて、撮像画像の補正を行う。例えば、画像処理部7は、期間T18の撮像画像と期間T20の撮像画像とで位置合わせを行う際に、期間T17の撮像画像と期間T19の撮像画像を用いて、期間T17から期間T19までの基準マーカの変位を求め、この変位の分だけ期間T20の撮像画像を補正することにより、期間T20の撮像画像を期間T18の撮像画像に位置合わせすることができる。なお、上記では、期間T17から期間T19までの基準マーカの変位の分だけ、期間T20の撮像画像を補正する場合を例示したが、期間T17から期間T19までの基準マーカの変位を用いて、期間T20の複数の撮像画像に対する補正量を個別に算出してもよい。例えば、期間T17から期間T19までの基準マーカの変位の量を、期間T20の撮像画像において、線形補間してもよい。例えば、期間T17から期間T19までの基準マーカの変位の量を、期間T20の撮像画像の数で除算した値を、期間T20の1枚目の撮像画像に対する補正量とし、以後の撮像画像は、この除算した値を撮像画像の取得順序に応じて積算した補正量としてもよい。これにより、撮像画像をより精度よく補正できる。このように、画像処理部7は、第2波長期間T4に得られる複数の撮像画像を位置合わせし、第2の画像Pbを生成する。また、画像処理部7は、第1の画像Paの位置の基準となる撮像画像(例、期間T12における撮像画像)と、第2の画像Pbの位置となる撮像画像(例、期間T18における撮像画像)とで生じたドリフト量を、期間T11と期間T17の撮像画像を用いて求め、この変位に応じた補正量で第2の画像Pbを補正する。これにより、第2の画像Pbを第1の画像Paと位置合わせすることができ、補正後の第2の画像Pbと、第1の画像Paとを合成することにより、画像Ptが得られる。制御部42は、例えば、画像Ptを表示装置44に表示させる。
ところで、試料Xのうち第1の画像Paに表される部分は、第2の画像Pbに表される部分と異なる。このような場合、自己相関によりドリフト量を求めることは難しいが、本実施形態によれば、ドリフト量を精度よく求めることができる。
なお、制御部42は、例えば図8に示したシーケンスにおいて、中断期間T2に補助光L4を照射させ、撮像部6に補助光L4に応じた蛍光の像を撮像させてもよい。補助光L4に応じた蛍光の像を撮像は、第1励起光に応じた蛍光の撮像、第2励起光に応じた蛍光の撮像と比較して少ないフレーム数でもよく、試料Xに与える損傷が少ない。
なお、基準マーカを照明する補助光L4が励起光でなくてもよく、顕微鏡装置1は、試料Xを透過した光により基準マーカを検出するものでもよい。また、この場合、試料Xに基準マーカが付与されていなくてもよく、例えば試料Xの位置と関連付けられるキズなどを検出し、試料Xの変位を算出することもできる。また、画像処理部7は、撮像画像の全域における変位の平均を算出し、この平均を用いて撮像画像の全域で一様に補正を行ってもよいし、撮像画像の領域(例、複数の画素)ごとに変位を算出し、領域ごとに補正を行ってもよい。これにより、例えば、結像光学系5の視野の外縁に向かうにつれて収差が大きくなる場合、収差を加味した補正を行うこともできる。
[第6実施形態]
第6実施形態について説明する。本実施形態では、3次元の超解像画像を生成するモードについて説明する。図15は、本実施形態に係る顕微鏡装置1を示す図である。ここでは、照明、撮像のシーケンスが第1実施形態と同様であるものとするが、照明、撮像のシーケンスは、上述した各実施形態のいずれであってもよいし、上述した各実施形態を組み合わせたものでもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
本実施形態に係る結像光学系5は、光学部材52を備える。光学部材52は、例えば、シリンドリカルレンズである。光学部材52は、レンズ27とレンズ28との間の光路に挿脱可能に設けられる。光学部材52は、2次元の超解像画像を生成するモードにおいて結像光学系5の光路から退避しており、3次元の超解像画像を生成するモードにおいて結像光学系5の光路に挿入される。光学部材52が結像光学系5の光路に挿入された状態において、蛍光物質からの蛍光の像は、蛍光物質が結像光学系5の合焦位置に近いほど円形に近づき、蛍光物質が結像光学系5の合焦位置から離れるほど扁平率(楕円率)が高くなる。また、蛍光物質が結像光学系5の合焦位置に対して前ピン側に存在する場合と、後ピン側に存在する場合とで、楕円の長軸と短軸の方向が反転するため、扁平率と楕円の長軸、短軸の向きから、合焦位置に対するずれ量およびずれの向きが分かる。顕微鏡装置1は、例えば、キャリブレーションなどによって、予め取得された扁平率と合焦位置に対するずれ量との関係を用いて、結像光学系5の光軸方向における蛍光物質の位置を算出することができる。
なお、第4実施形態、第5実施形態で説明した基準マーカからの光(例、蛍光)の像を撮像する場合も同様であり、この像の扁平率と楕円の長軸、短軸の向きから、結像光学系5の光軸方向における試料Xの変位を算出することもできる。また、画像処理部7は、結像光学系5の光軸方向における試料Xの変位を用いて、補正を行うこともできる。
なお、第1実施形態、第2実施形態で説明した画像生成期間と中断期間とを設ける場合と、第4実施形態、第5実施形態で説明した基準マーカからの光(例、蛍光)の像を撮像する場合、とを組み合わせることもできる。この場合、例えば、基準マーカの変位の量を線形補間するに当たっては、画像生成期間に撮影された撮像画像のタイミングを利用して補正量を算出してもよい。
上述の実施形態において、制御装置8は、例えばコンピュータシステムを含む。制御装置8は、記憶装置43に記憶されている制御プログラムを読み出し、この制御プログラムに従って各種の処理を実行する。この制御プログラムは、例えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射し、蛍光物質からの蛍光の像を撮像し、撮像の結果を用いて画像処理を行う顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、制御は、画像生成期間と、中断期間とを複数設けることと、画像生成期間において、活性化された蛍光物質に対して励起光を照射し、活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、中断期間における励起光の強度を、画像生成期間における強度よりも低減させ、又は中断期間における励起光の照射を停止させることと、を含み、画像処理は、複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む。このプログラムは、コンピュータ読み取り可能な記憶媒体に記録されて提供されてもよい。
なお、本発明の技術範囲は、上述の実施形態などで説明した態様に限定されるものではない。上述の実施形態などで説明した要件の1つ以上は、省略されることがある。また、上述の実施形態などで説明した要件は、適宜組み合わせることができる。また、法令で許容される限りにおいて、上述の実施形態などで引用した全ての文献の開示を援用して本文の記載の一部とする。
1・・・顕微鏡装置、4・・・照明光学系、5・・・結像光学系、6・・・撮像部
7・・・画像処理部、42・・・制御部、X・・・試料

Claims (19)

  1. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光とを照射する照明光学系と、
    前記蛍光物質からの蛍光の像を形成する結像光学系と、
    前記結像光学系が形成した像を撮像する撮像部と、
    前記撮像部の撮像結果を用いて画像処理を行う画像処理部と、
    制御部と、を備える顕微鏡装置であって、
    前記制御部は、
    画像生成期間と、中断期間とを複数設け、
    前記画像生成期間において、前記活性化された蛍光物質に対して前記励起光を照射し、前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させ、
    前記中断期間における前記励起光の強度を、前記画像生成期間における強度よりも低減させ、又は前記中断期間における前記励起光の照射を停止させ、
    前記画像処理部は、
    前記複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成する、
    ことを特徴とする顕微鏡装置。
  2. 前記制御部は、前記画像生成期間と、中断期間とを交互に設ける、
    ことを特徴とする
    請求項1に記載の顕微鏡装置。
  3. 前記中断期間は、前記複数のフレーム期間のいずれよりも長い、
    ことを特徴とする請求項1又は2に記載の顕微鏡装置。
  4. 前記中断期間は、前記画像生成期間よりも長い、
    ことを特徴とする請求項1〜3のいずれか1項に記載の顕微鏡装置。
  5. 前記制御部は、
    前記複数の画像生成期間の少なくとも1つの画像生成期間において、第1の期間と第2の期間とを設け、
    前記第1の期間において、第1波長の前記励起光を照射させ、前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させ、
    前記第2の期間において、第2波長の前記励起光を照射させ、前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させ、
    前記画像処理部は、前記第1の期間における前記撮像部の撮像結果の少なくとも一部と、前記第2の期間における前記撮像部の撮像結果の少なくとも一部とを用いて少なくとも1枚の画像を形成する、
    ことを特徴とする請求項1〜請求項4のいずれか一項に記載の顕微鏡装置。
  6. 前記画像処理部は、
    前記第1の期間における前記撮像部の撮像結果の少なくとも一部および前記第2の期間における前記撮像部の撮像結果の少なくとも一部を用いて1枚の画像を生成する、
    ことを特徴とする請求項5に記載の顕微鏡装置。
  7. 前記画像処理部は、
    前記第1の期間における前記撮像部の撮像結果の少なくとも一部を用いて第1の画像を形成し、前記第2の期間における前記撮像部の撮像結果の少なくとも一部を用いて第2の画像を形成する、
    ことを特徴とする請求項5に記載の顕微鏡装置。
  8. 前記画像処理部は、前記第1の画像および前記第2の画像を用いて1枚の画像を生成する、
    ことを特徴とする請求項7に記載の顕微鏡装置。
  9. 前記制御部は、
    基準マーカの位置を検出するための補助光を前記照明光学系から照射させ、前記基準マーカからの光の像を前記撮像部に撮像させる処理を、複数回実行させる、
    ことを特徴とする請求項5〜8のいずれか1項に記載の顕微鏡装置。
  10. 前記補助光の光強度は、前記励起光の光強度よりも弱い、
    ことを特徴とする請求項9に記載の顕微鏡装置。
  11. 前記画像処理部は、
    前記基準マーカからの光に応じた撮像結果の少なくとも一部を用いて、前記第1の期間における前記撮像部の撮像結果を補正し、前記第2の期間における前記撮像部の撮像結果を補正する、
    ことを特徴とする請求項9または10に記載の顕微鏡装置。
  12. 前記画像処理部は、前記第1の期間における前記撮像部の撮像結果から得られる画像と、前記第2の期間における前記撮像部の撮像結果から得られる画像との位置関係を補正する、
    ことを特徴とする請求項9〜11のいずれか一項に記載の顕微鏡装置。
  13. 前記制御部は、
    前記複数の画像生成期間の少なくとも1つの画像生成期間において、第1の期間と第2の期間とを複数設け、
    前記第1の期間において、第1波長の前記励起光を照射させ、前記試料からの光を前記撮像部に1つのフレーム期間で撮像させ、
    前記第2の期間において、第2波長の前記励起光を照射させ、前記試料からの光を前記撮像部に1つのフレーム期間で撮像させ、
    前記画像処理部は、前記複数の第1の期間における前記撮像部の撮像結果の少なくとも一部と、前記複数の第2の期間における前記撮像部の撮像結果の少なくとも一部とを用いて、少なくとも1枚の画像を形成する
    ことを特徴とする請求項1〜請求項4のいずれか一項に記載の顕微鏡装置。
  14. 前記制御部は、
    前記画像生成期間において、前記第1の期間と前記第2の期間とを交互に設ける
    ことを特徴とする請求項13に記載の顕微鏡装置。
  15. 前記画像処理部は、
    前記複数の第1の期間における前記撮像部の撮像結果の少なくとも一部および前記複数の第2の期間における前記撮像部の撮像結果の少なくとも一部を用いて1枚の画像を形成する
    ことを特徴とする請求項13または14に記載の顕微鏡装置。
  16. 前記画像処理部は、前記複数の第1の期間における前記撮像部の撮像結果を用いて第1の画像を形成し、前記複数の第2の期間における前記撮像部の撮像結果を用いて第2の画像を形成する、
    ことを特徴とする請求項13または14に記載の顕微鏡装置。
  17. 前記画像処理部は、前記第1の画像および前記第2の画像を用いて前記1枚の画像を生成する、
    ことを特徴とする請求項16に記載の顕微鏡装置。
  18. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光とを照射することと、
    前記蛍光物質からの蛍光の像を形成することと、
    前記結像光学系が形成した像を撮像することと、
    前記撮像の結果を用いて画像処理を行うことと、を含む観察方法であって、
    画像生成期間と、中断期間とを複数設けることと、
    前記画像生成期間において、前記活性化された蛍光物質に対して前記励起光を照射し、前記活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、
    前記中断期間における前記励起光の強度を、前記画像生成期間における強度よりも低減させ、又は前記中断期間における前記励起光の照射を停止させることと、を含み、
    前記画像処理は、
    前記複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする観察方法。
  19. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光とを照射し、前記蛍光物質からの蛍光の像を撮像し、前記撮像の結果を用いて画像処理を行う顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、
    前記制御は、
    画像生成期間と、中断期間とを複数設けることと、
    前記画像生成期間において、前記活性化された蛍光物質に対して前記励起光を照射し、前記活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、
    前記中断期間における前記励起光の強度を、前記画像生成期間における強度よりも低減させ、又は前記中断期間における前記励起光の照射を停止させることと、を含み、
    前記画像処理は、
    前記複数のフレーム期間で得られた撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする制御プログラム。
JP2017508872A 2015-03-27 2015-03-27 顕微鏡装置、観察方法、及び制御プログラム Active JP6631620B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/059815 WO2016157346A1 (ja) 2015-03-27 2015-03-27 顕微鏡装置、観察方法、及び制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2016157346A1 true JPWO2016157346A1 (ja) 2018-02-08
JP6631620B2 JP6631620B2 (ja) 2020-01-15

Family

ID=57003986

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017508872A Active JP6631620B2 (ja) 2015-03-27 2015-03-27 顕微鏡装置、観察方法、及び制御プログラム

Country Status (4)

Country Link
US (1) US11086115B2 (ja)
EP (1) EP3276335B1 (ja)
JP (1) JP6631620B2 (ja)
WO (1) WO2016157346A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3414553B1 (en) * 2016-02-12 2022-09-28 Massachusetts Institute of Technology Method and apparatus for imaging unsectioned tissue specimens
US10558029B2 (en) * 2016-10-27 2020-02-11 Scopio Labs Ltd. System for image reconstruction using a known pattern
WO2018105298A1 (ja) * 2016-12-09 2018-06-14 ソニー株式会社 情報処理装置、情報処理方法及び情報処理システム
WO2019135069A1 (en) * 2018-01-02 2019-07-11 King's College London Method and system for localisation microscopy

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002048693A1 (fr) * 2000-12-14 2002-06-20 Olympus Optical Co., Ltd. Analyseur fluorometrique et analyse fluorometrique
JP2003050354A (ja) * 2001-08-06 2003-02-21 Olympus Optical Co Ltd 走査型レーザ顕微鏡
EP1413911A1 (en) * 2002-10-25 2004-04-28 Evotec Technologies GmbH Method and device for 3 dimensional imaging of suspended micro-objects providing high-resolution microscopy
JP2005195940A (ja) * 2004-01-08 2005-07-21 Olympus Corp 蛍光顕微鏡
JP2005331887A (ja) * 2004-05-21 2005-12-02 Keyence Corp 蛍光顕微鏡、蛍光顕微鏡装置を使用した表示方法、蛍光顕微鏡画像表示プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2010500563A (ja) * 2006-08-07 2010-01-07 プレジデント アンド フェローズ オブ ハーバード カレッジ 回折限界以下の画像解像技術および他の画像化技術
JP2013020204A (ja) * 2011-07-14 2013-01-31 Olympus Corp 蛍光顕微鏡装置
JP5392406B2 (ja) * 2010-06-11 2014-01-22 株式会社ニコン 顕微鏡装置、観察方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5733721A (en) * 1992-11-20 1998-03-31 The Board Of Regents Of The University Of Oklahoma Cell analysis method using quantitative fluorescence image analysis
US7838302B2 (en) * 2006-08-07 2010-11-23 President And Fellows Of Harvard College Sub-diffraction limit image resolution and other imaging techniques
DE102007039111B4 (de) * 2007-08-18 2014-11-20 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. STED-Fluoreszenzmikroskopie mit Zweiphotonen-Anregung
US8564792B2 (en) * 2007-12-21 2013-10-22 President And Fellows Of Harvard College Sub-diffraction limit image resolution in three dimensions
JP5771371B2 (ja) * 2010-07-22 2015-08-26 オリンパス株式会社 レーザ走査型顕微鏡
JP6066925B2 (ja) 2011-01-12 2017-01-25 ジーイー・ヘルスケア・バイオサイエンス・コーポレイション 顕微鏡計器内におけるカメラによる画像処理のためのシステムおよび方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002048693A1 (fr) * 2000-12-14 2002-06-20 Olympus Optical Co., Ltd. Analyseur fluorometrique et analyse fluorometrique
JP2003050354A (ja) * 2001-08-06 2003-02-21 Olympus Optical Co Ltd 走査型レーザ顕微鏡
EP1413911A1 (en) * 2002-10-25 2004-04-28 Evotec Technologies GmbH Method and device for 3 dimensional imaging of suspended micro-objects providing high-resolution microscopy
JP2005195940A (ja) * 2004-01-08 2005-07-21 Olympus Corp 蛍光顕微鏡
JP2005331887A (ja) * 2004-05-21 2005-12-02 Keyence Corp 蛍光顕微鏡、蛍光顕微鏡装置を使用した表示方法、蛍光顕微鏡画像表示プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2010500563A (ja) * 2006-08-07 2010-01-07 プレジデント アンド フェローズ オブ ハーバード カレッジ 回折限界以下の画像解像技術および他の画像化技術
JP5392406B2 (ja) * 2010-06-11 2014-01-22 株式会社ニコン 顕微鏡装置、観察方法
JP2013020204A (ja) * 2011-07-14 2013-01-31 Olympus Corp 蛍光顕微鏡装置

Also Published As

Publication number Publication date
JP6631620B2 (ja) 2020-01-15
EP3276335B1 (en) 2021-06-09
EP3276335A4 (en) 2018-12-05
EP3276335A1 (en) 2018-01-31
WO2016157346A1 (ja) 2016-10-06
US20180017774A1 (en) 2018-01-18
US11086115B2 (en) 2021-08-10

Similar Documents

Publication Publication Date Title
US20170031145A1 (en) Stimulated emission depletion microscope
US20190294930A1 (en) Information processing device, image processing device, microscope, information processing method, and information processing program
US11086115B2 (en) Microscope device, viewing method, and control program
JP5784393B2 (ja) 標本観察装置
US10725278B2 (en) Microscope, observation method, and storage medium
US11215804B2 (en) Microscope and method for imaging a sample
CN110470667B (zh) 基于压缩感知和随机多焦点扫描的三维体成像方法及装置
US11449964B2 (en) Image reconstruction method, device and microscopic imaging device
US11426052B2 (en) Endoscopic system
EP3520074B1 (en) Method for the analysis of spatial and temporal information of samples by means of optical microscopy
JP6451833B2 (ja) 顕微鏡装置、観察方法、及び制御プログラム
US10031023B2 (en) Speckle imaging device, speckle imaging system, and speckle imaging method
JP6822483B2 (ja) 球面収差補正算出装置、顕微鏡、球面収差補正算出プログラム及び球面収差補正算出方法
JP6753454B2 (ja) 顕微鏡装置、観察方法、及び制御プログラム
KR102469852B1 (ko) 집적 영상 현미경의 조명계 시스템
Galwaduge et al. Signal-based adaptive optics optimization for in-vivo two-photon microscopy of the brain
KR20130010924A (ko) 일회용 내시경
JP2016049352A (ja) 内視鏡システム
Gmitro et al. A Novel Multi-Point Scan Architecture for a High Frame Rate Multi-Spectral Confocal Microendoscope

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180619

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190312

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191125

R150 Certificate of patent or registration of utility model

Ref document number: 6631620

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250