JPWO2016157345A1 - 顕微鏡装置、観察方法、及び制御プログラム - Google Patents

顕微鏡装置、観察方法、及び制御プログラム Download PDF

Info

Publication number
JPWO2016157345A1
JPWO2016157345A1 JP2017508871A JP2017508871A JPWO2016157345A1 JP WO2016157345 A1 JPWO2016157345 A1 JP WO2016157345A1 JP 2017508871 A JP2017508871 A JP 2017508871A JP 2017508871 A JP2017508871 A JP 2017508871A JP WO2016157345 A1 JPWO2016157345 A1 JP WO2016157345A1
Authority
JP
Japan
Prior art keywords
imaging
image
period
light
imaging unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017508871A
Other languages
English (en)
Other versions
JP6451833B2 (ja
Inventor
亘 友杉
亘 友杉
亮介 小松
亮介 小松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2016157345A1 publication Critical patent/JPWO2016157345A1/ja
Application granted granted Critical
Publication of JP6451833B2 publication Critical patent/JP6451833B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6408Fluorescence; Phosphorescence with measurement of decay time, time resolved fluorescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/58Optics for apodization or superresolution; Optical synthetic aperture systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/32Fiducial marks and measuring scales within the optical system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Immunology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Microscoopes, Condenser (AREA)

Abstract

【課題】顕微鏡の変位を精度よく検出可能な顕微鏡装置を提供する。【解決手段】顕微鏡装置(1)は、撮像部(6)と、画像処理部(7)と、制御部(42)と、を備え、制御部は、第1の期間において、励起光を照射させ、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させ、第2の期間において、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を撮像部に撮像させ、第2の期間における励起光の照射を停止させ、または、第2の期間における励起光の強度を第1の期間より低減させ、第1の期間における補助光の照射を停止させ、または、第1の期間における補助光の強度を第2の期間より低減させ、画像処理部は、第2の期間で得られた撮像結果を用いて、第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する。

Description

本発明は、顕微鏡装置、観察方法、及び制御プログラムに関する。
超解像顕微鏡の技術として、例えばSingle-molecule Localization Microscopy法がある。例えば、確率的光学再構築顕微鏡技術(Stochastic Optical Reconstruction Microscopy)を利用した顕微鏡装置(以下、STORMという)がある(例えば特許文献1参照)。STORMは、蛍光物質が付与された試料の観察に用いられる。蛍光物質は、例えば、活性化光の照射により活性化し、活性化した状態で励起光の照射により蛍光を発するか、または不活性化する。STORMは、例えば、蛍光物質を低密度で活性化し、活性化した蛍光物質のみを励起光の照射により発光させることで、蛍光の分布が疎な蛍光画像を取得する。蛍光画像において、蛍光物質の像は個々に分離され、個々の像の重心位置を求めることができる。STORMは、多数の蛍光画像から得られる多数の蛍光物質の位置にそれぞれ像を配置することで、高分解能の画像を得ることができる。また、時間経過とともに動く試料の観察において、蛍光ビーズなどの基準マーカを用いて、変位(ドリフト量)を算出する技術が提案されている。
米国特許出願公開第2008/0182336号
蛍光ビーズなどの基準マーカは、試料の観察用の蛍光物質と比較して、強い蛍光を発する。例えば、観察用の蛍光物質に合わせて活性化光、励起光の照射条件を設定すると、基準マーカから発せられた蛍光をカメラで検出した際に検出値が飽和し、顕微鏡におけるステージ等の変位(ドリフト量)の検出精度が低下する。本発明は、上述の事情に鑑みなされたものであり、顕微鏡の変位(ドリフト量)を精度よく検出し、ひいては試料の挙動を精度よく検出可能な顕微鏡装置、観察方法、及び制御プログラムを提供することを目的とする。
本発明の第1の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射する照明光学系と、蛍光物質からの蛍光の像を形成する結像光学系と、結像光学系が形成した像を撮像する撮像部と、撮像部の撮像結果を用いて画像処理を行う画像処理部と、撮像部を制御する制御部と、を備える顕微鏡装置であって、制御部は、第1の期間において、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させ、第2の期間において、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を撮像部に撮像させ、第2の期間における励起光の照射を停止させ、または、第2の期間における励起光の強度を第1の期間より低減させ、第1の期間における補助光の照射を停止させ、または、第1の期間における補助光の強度を第2の期間より低減させ、画像処理部は、第2の期間で得られた撮像結果を用いて、第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する、ことを特徴とする顕微鏡装置が提供される。
本発明の第2の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射する照明光学系と、蛍光物質からの蛍光の像を形成する結像光学系と、結像光学系が形成した像を撮像する撮像部と、撮像部の撮像結果を用いて画像処理を行う画像処理部と、撮像部を制御する制御部と、を備える顕微鏡装置であって、撮像部は、第1撮像部および第2撮像部を備え、結像光学系は、活性化された蛍光物質からの蛍光の像を第1撮像部に形成し、基準マーカからの蛍光の像を第2撮像部に形成し、制御部は、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの光を第1撮像部に複数のフレーム期間で撮像させ、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を第2撮像部に撮像させ、画像処理部は、第2撮像部の撮像結果を用いて、第1撮像部の撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する、ことを特徴とする顕微鏡装置が提供される。
本発明の第3の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射する照明光学系と、蛍光物質からの蛍光の像を形成する結像光学系と、結像光学系が形成した像を撮像する撮像部と、撮像部の撮像結果を用いて画像処理を行う画像処理部と、撮像部を制御する制御部と、を備える顕微鏡装置であって、結像光学系は、活性化された蛍光物質からの蛍光の像を撮像部の第1撮像領域に形成し、基準マーカからの蛍光の像を撮像部の第2撮像領域に形成し、制御部は、活性化された蛍光物質に対して励起光を照射させ、基準マーカに対して補助光を照射させ、撮像部に複数のフレーム期間で撮像させ、画像処理部は、第2撮像領域で得られる撮像結果を用いて、第1撮像領域で得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する、ことを特徴とする顕微鏡装置が提供される。
本発明の第4の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射する照明光学系と、蛍光物質からの蛍光の像を形成する結像光学系と、結像光学系が形成した像を撮像する撮像部と、撮像部の撮像結果を用いて画像処理を行う画像処理部と、撮像部を制御する制御部と、を備える顕微鏡装置であって、撮像部は、CMOSイメージセンサを含み、制御部は、撮像部の露光効率、撮像部の撮像結果のうち画像処理に用いられるフレーム期間の比率、及び活性化光の照射タイミングと励起光の照射タイミングとの関係の少なくとも1つに基づいて、撮像部のフレーム期間における励起光の照射期間を設定し、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させ、画像処理部は、撮像部の撮像結果の少なくとも一部を用いて、1枚の画像を生成する、ことを特徴とする顕微鏡装置が提供される。
本発明の第5の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射することと、蛍光物質からの蛍光の像を形成することと、像を撮像することと、撮像の結果を用いて画像処理を行うことと、撮像を制御することと、を含む観察方法であって、制御は、第1の期間において、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、第2の期間において、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を撮像させることと、第2の期間における励起光の照射を停止させること、または、第2の期間における励起光の強度を第1の期間より低減させることと、第1の期間における補助光の照射を停止させること、または、第1の期間における補助光の強度を第2の期間より低減させることと、を含み、画像処理は、第2の期間で得られた撮像結果を用いて、第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする観察方法が提供される。
本発明の第6の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射することと、蛍光物質からの蛍光の像を結像光学系によって形成することと、像を撮像部によって撮像することと、撮像の結果を用いて画像処理を行うことと、撮像を制御することと、を含む観察方法であって、撮像部は、第1撮像部および第2撮像部を備え、結像光学系は、活性化された蛍光物質からの蛍光の像を第1撮像部に形成し、基準マーカからの蛍光の像を第2撮像部に形成し、制御は、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの光を第1撮像部に複数のフレーム期間で撮像させることと、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を第2撮像部に撮像させることと、を含み、画像処理は、第2撮像部の撮像結果を用いて、第1撮像部の撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする観察方法が提供される。
本発明の第7の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射することと、蛍光物質からの蛍光の像を結像光学系によって形成することと、像を撮像部によって撮像することと、撮像の撮像結果を用いて画像処理を行うことと、撮像を制御することと、を含む観察方法であって、結像光学系は、活性化された蛍光物質からの蛍光の像を撮像部の第1撮像領域に形成し、基準マーカからの蛍光の像を撮像部の第2撮像領域に形成し、制御は、活性化された蛍光物質に対して励起光を照射させ、基準マーカに対して補助光を照射させ、撮像部に複数のフレーム期間で撮像させることを含み、画像処理は、第2撮像領域で得られる撮像結果を用いて、第1撮像領域で得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする観察方法が提供される。
本発明の第8の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射することと、蛍光物質からの蛍光の像を形成することと、像を撮像部によって撮像することと、撮像の結果を用いて画像処理を行うことと、撮像を制御することと、を含む観察方法であって、撮像部は、CMOSイメージセンサを含み、制御は、撮像部の露光効率、撮像部の撮像結果のうち画像処理に用いられるフレーム期間の比率、及び活性化光の照射タイミングと励起光の照射タイミングとの関係の少なくとも1つに基づいて、撮像部のフレーム期間における励起光の照射期間を設定し、活性化された蛍光物質に対して励起光を照射させることと、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させることと、を含み、画像処理は、撮像の結果の少なくとも一部を用いて、1枚の画像を生成することを含む、ことを特徴とする観察方法が提供される。
本発明の第9の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、蛍光物質からの蛍光の像を形成し、像を撮像し、撮像の結果を用いて画像処理を行い、撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、顕微鏡装置の制御は、第1の期間において、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、第2の期間において、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を撮像させることと、第2の期間における励起光の照射を停止させること、または、第2の期間における励起光の強度を第1の期間より低減させることと、第1の期間における補助光の照射を停止させること、または、第1の期間における補助光の強度を第2の期間より低減させることと、を含み、画像処理は、第2の期間で得られた撮像結果を用いて、第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする制御プログラムが提供される。
本発明の第10の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、蛍光物質からの蛍光の像を結像光学系によって形成し、像を撮像部によって撮像し、撮像の結果を用いて画像処理を行い、撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、撮像部は、第1撮像部および第2撮像部を備え、結像光学系は、活性化された蛍光物質からの蛍光の像を第1撮像部に形成し、基準マーカからの蛍光の像を第2撮像部に形成し、顕微鏡装置の制御は、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの光を第1撮像部に複数のフレーム期間で撮像させることと、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を第2撮像部に撮像させることと、を含み、画像処理は、第2撮像部の撮像結果を用いて、第1撮像部の撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする制御プログラムが提供される。
本発明の第11の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、蛍光物質からの蛍光の像を結像光学系によって形成し、像を撮像部によって撮像し、撮像の撮像結果を用いて画像処理を行い、撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、結像光学系は、活性化された蛍光物質からの蛍光の像を撮像部の第1撮像領域に形成し、基準マーカからの蛍光の像を撮像部の第2撮像領域に形成し、顕微鏡装置の制御は、活性化された蛍光物質に対して励起光を照射させ、基準マーカに対して補助光を照射させ、撮像部に複数のフレーム期間で撮像させることを含み、画像処理は、第2撮像領域で得られる撮像結果を用いて、第1撮像領域で得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、ことを特徴とする制御プログラムが提供される。
本発明の第12の態様に従えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射し、蛍光物質からの蛍光の像を形成し、像を撮像部によって撮像し、撮像の結果を用いて画像処理を行い、撮像を制御する顕微鏡装置を制御する制御プログラムであって、撮像部は、CMOSイメージセンサを含み、顕微鏡装置の制御は、撮像部の露光効率、撮像部の撮像結果のうち画像処理に用いられるフレーム期間の比率、及び活性化光の照射タイミングと励起光の照射タイミングとの関係の少なくとも1つに基づいて、撮像部のフレーム期間における励起光の照射期間を設定し、活性化された蛍光物質に対して励起光を照射させることと、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させることと、を含み、画像処理は、撮像の結果の少なくとも一部を用いて、1枚の画像を生成することを含む、ことを特徴とする制御プログラムが提供される。
本発明によれば、顕微鏡の変位を精度よく検出し、ひいては試料の挙動を精度よく検出可能な顕微鏡装置、観察方法、及び制御プログラムを提供することができる。
第1実施形態に係る顕微鏡装置を示す図である。 第1実施形態に係る照明と撮像のシーケンスを示す図である。 第1の期間および第2の期間の照明と撮像のシーケンスを示す図である。 試料の変位を検出する処理、撮像結果を補正する処理を示す図である。 第1実施形態に係る観察条件の設定処理を示すフローチャートである。 第1実施形態に係る観察方法を示すフローチャートである。 第2実施形態に係る顕微鏡装置を示す図である。 第2実施形態に係る照明と撮像のシーケンスを示す図である。 第2実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。 第3実施形態に係る顕微鏡装置を示す図である。 第3実施形態に係る撮像部および結像光学系の一部を示す図である。 第3実施形態に係る照明と撮像のシーケンスを示す図である。 第3実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。 第3実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。 第3実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。 第3実施形態に係る観察条件の設定処理を示すフローチャートである。 第3実施形態に係る観察方法を示すフローチャートである。 第4実施形態に係る顕微鏡装置を示す図である。 第4実施形態に係る撮像部および結像光学系の一部を示す図である。 第5実施形態に係るローリングシャッタ照明の説明図である。 第5実施形態に係るグローバル露光照明の説明図である。 第5実施形態に係る観察方法を示すフローチャートである。 第6実施形態に係る照明と撮像のシーケンスを示す図である。 第6実施形態に係る観察方法を示すフローチャートである。 第7実施形態に係る顕微鏡装置を示す図である。
[第1実施形態]
第1実施形態について説明する。実施形態に係る顕微鏡装置は、例えば、STORM、PALM等のSingle-molecule Localization Microscopy法を利用した顕微鏡装置である。本実施形態では、試料の標識に用いられるレポータ色素が1種類であって、レポータ色素からの蛍光の検出と試料の位置の検出とを時分割で行う形態について説明する。図1は、第1実施形態に係る顕微鏡装置1を示す図である。顕微鏡装置1は、ステージ2、光源装置3と、照明光学系4と、結像光学系5と、撮像部6と、制御装置8とを備える。制御装置8は、画像処理部7と、制御部42とを備える。
ステージ2は、観察対象の試料Xを保持する。ステージ2は、例えば、その上面に試料Xを載置可能なものである。ステージ2は、例えば、机等のように試料Xを移動させる機構を有さないものでもよいし、XYステージのように試料Xを移動させる機構を有するものでもよい。顕微鏡装置1は、ステージ2を備えなくてもよい。
試料Xは、生きた細胞(ライブセル)を含むものでもよいし、ホルムアルデヒド溶液等の組織固定液を用いて固定された細胞を含むものでもよく、組織等でもよい。蛍光物質は、シアニン(cyanine)染料等の蛍光色素でもよいし、蛍光タンパク質でもよい。蛍光色素は、活性化された状態(以下、活性化状態という)で励起光を受けた場合に蛍光を発するレポータ色素を含む。また、蛍光色素は、活性化光を受けてレポータ色素を活性化状態にするアクティベータ色素を含む場合がある。蛍光色素がアクティベータ色素を含まない場合、レポータ色素は、活性化光を受けて活性化状態になる。蛍光色素は、例えば、2種類のシアニン(cyanine)染料を結合させた染料対(例、Cy3−Cy5染料対、Cy2−Cy5染料対、Cy3−Alexa Fluor647染料対(Alexa Fluorは登録商標))、1種類の染料(例、Alexa Fluor647(Alexa Fluorは登録商標))である。蛍光タンパク質は、例えばPA−GFP、Dronpaなどである。
光源装置3は、活性化光源10a、励起光源10b、励起光源10d、シャッタ11a、シャッタ11b、及びシャッタ11dを備える。活性化光源10aは、試料Xに含まれる蛍光物質を活性化する活性化光L1を発する。蛍光物質は、例えば、生きた細胞において抗体を介して細胞膜タンパク質と結合したもの、固定化された細胞内に存在するもの等である。活性化光L1は、試料Xに含まれるレポータ色素を活性化する。ここでは、蛍光物質がレポータ色素を含み、アクティベータ色素を含まないものとする。蛍光物質のレポータ色素は、活性化光L1が照射されることで、蛍光を発することが可能な活性化状態となる。蛍光物質は、レポータ色素およびアクティベータ色素を含むものでもよく、この場合、アクティベータ色素は、活性化光L1を受けた場合にレポータ色素を活性化状態にする。
励起光源10bは、試料Xに含まれる蛍光物質を励起する第1波長の励起光(以下、第1励起光L2という)を発する。蛍光物質は、活性化状態において第1励起光L2が照射されると、蛍光を発するか、不活性化される。蛍光物質は、不活性化された状態(以下、不活性化状態という)において活性化光L1が照射されると、再度、活性化状態となる。
励起光源10dは、ステージ2等の顕微鏡の変位(ドリフト量)を検出するための補助光L4を発する。例えば、試料Xには、顕微鏡の変位(ドリフト量)を検出するための基準マーカが付与され、補助光は基準マーカの検出に利用される。基準マーカは、例えば、蛍光ビーズなどのように蛍光物質を含むものであり、補助光は、基準マーカを励起する。基準マーカは、例えば、活性化光が照射されなくとも補助光L4の照射により蛍光を発する。
活性化光源10a、励起光源10b、励起光源10dは、例えば、それぞれ、レーザ光源などの固体光源を含み、蛍光物質の種類に応じた波長のレーザ光を発する。活性化光源10aの射出波長、励起光源10bの射出波長は、例えば、約405nm、約457nm、約488nm、約532nm、約561nm、約640nm、約647nmなどから選択される。励起光源10dの射出波長は、例えば活性化光源10a、励起光源10bと異なるが、同じでもよい。ここでは、活性化光源10aの射出波長が約405nmであり、励起光源10bの射出波長が約488nm、約561nm、約647nmから選択される波長であるとする。
シャッタ11aは、制御部42により制御され、活性化光源10aからの活性化光L1を通す状態と、活性化光L1を遮る状態とを切り替え可能である。シャッタ11bは、制御部42により制御され、励起光源10bからの第1励起光L2を通す状態と、第1励起光L2を遮る状態とを切り替え可能である。シャッタ11dは、制御部42により制御され、励起光源10dからの補助光L4を通す状態と、補助光L4を遮る状態とを切り替え可能である。
なお、顕微鏡装置1は、光源装置3の少なくとも一部を備えなくてもよい。例えば、光源装置3は、ユニット化されており、顕微鏡装置1に交換可能(取り付け可能、取り外し可能)に設けられていてもよい。例えば、光源装置3は、顕微鏡装置1による観察時などに、顕微鏡装置1に取り付けられてもよい。
照明光学系4は、活性化光L1と、第1励起光L2と、補助光L4とを試料Xに照射する。照明光学系4は、ダイクロイックミラー12、ミラー51、ダイクロイックミラー13、音響光学素子14、レンズ15、導光部材16、レンズ17、レンズ18、フィルタ19、ダイクロイックミラー20、及び対物レンズ21を備える。ミラー51は、例えば、励起光源10dの射出側に設けられる。励起光源10dからの補助光L4は、ミラー51で反射し、ダイクロイックミラー12に入射する。ダイクロイックミラー12は、例えば、励起光源10bの光射出側に設けられる。ダイクロイックミラー12は、第1励起光L2が反射し、補助光L4が透過する特性を有する。ダイクロイックミラー12で反射した第1励起光L2、及びダイクロイックミラー12を透過した補助光L4は、同じ光路を通ってダイクロイックミラー13に入射する。ダイクロイックミラー13は、例えば、活性化光源10aの射出側に設けられる。ダイクロイックミラー13は、活性化光L1が透過し、第1励起光L2および補助光L4が反射する特性を有する。ダイクロイックミラー13を透過した活性化光L1と、ダイクロイックミラー13で反射した第1励起光L2および補助光L4は、同じ光路を通って音響光学素子14に入射する。
音響光学素子14は、例えば音響光学フィルタなどである。音響光学素子14は、制御部42に制御され、活性化光L1の光強度、第1励起光L2の光強度、及び補助光L4の光強度のそれぞれを調整可能である。また、音響光学素子14は、制御部42に制御され、活性化光L1、第1励起光L2、及び補助光L4のそれぞれについて、音響光学素子14を通る状態(以下、通光状態という)と、音響光学素子14により遮られる状態または照射強度が低減される状態(以下、これらを遮光状態という)とを切り替え可能である。
例えば、蛍光物質がレポータ色素を含みアクティベータ色素を含まない場合、制御部42は、活性化光L1の照射と第1励起光L2の照射とを並行して行うように、音響光学素子14を制御する。また、蛍光物質がレポータ色素およびアクティベータ色素を含む場合、制御部42は、例えば、活性化光L1の照射後に第1励起光L2を照射するように、音響光学素子14を制御する。また、制御部42は、活性化光L1および第1励起光L2の照射が停止または照射強度が低減された状態で補助光L4が照射されるように、音響光学素子14を制御する。
レンズ15は、例えばカプラであり、音響光学素子14からの活性化光L1、第1励起光L2、及び補助光L4のそれぞれを導光部材16に集光する。導光部材16は、例えば光ファイバであり、活性化光L1、第1励起光L2、及び補助光L4のそれぞれをレンズ17へ導く。レンズ17は、例えばコリメータであり、活性化光L1、第1励起光L2、及び補助光L4を平行光に変換する。レンズ18は、例えば、活性化光L1、第1励起光L2、及び補助光L4をそれぞれ対物レンズ21の瞳面の位置に集光する。フィルタ19は、例えば、活性化光L1、第1励起光L2、及び補助光L4が透過し、他の波長の光(例、外光、迷光)の少なくとも一部を遮る特性を有する。ダイクロイックミラー20は、活性化光L1第1励起光L2、及び補助光L4が反射し、試料Xからの光のうち所定の波長帯の光(例、蛍光)が透過する特性を有する。フィルタ19を透過した光は、ダイクロイックミラー20で反射し、対物レンズ21に入射する。試料Xは、観察時に対物レンズ21の焦点面に配置される。
活性化光L1、第1励起光L2、及び補助光L4は、上述のような照明光学系4により、試料Xに照射される。なお、上述した照明光学系4は一例であり、適宜、変更可能である。例えば、上述した照明光学系4の一部が省略されてもよい。また、照明光学系4は、光源装置3の少なくとも一部を含んでいてもよい。また、照明光学系4は、開口絞り、照野絞りなどを備えてもよい。
結像光学系5は、試料Xに含まれる蛍光物質からの蛍光の像を形成する。結像光学系5は、対物レンズ21、ダイクロイックミラー20、フィルタ24、レンズ25、光路切替部材26、レンズ27、及びレンズ28を備える。結像光学系5は、対物レンズ21およびダイクロイックミラー20を照明光学系4と共用している。試料Xからの光は、対物レンズ21およびダイクロイックミラー20を通ってフィルタ24に入射する。フィルタ24は、試料Xからの光のうち所定の波長帯の光が選択的に透過する特性を有する。フィルタ24は、例えば、試料Xで反射した照明光、外光、迷光などを遮断する。フィルタ24は、例えば、フィルタ19およびダイクロイックミラー20とユニット化され、このフィルタユニット29は、交換可能に設けられる。フィルタユニット29は、例えば、光源装置3から射出される照明光の波長(例、活性化光L1の波長、第1励起光L2の波長、補助光L4の波長)、試料Xから放射される蛍光の波長などに応じて交換される。
フィルタ24を透過した光は、レンズ25を介して光路切替部材26に入射する。光路切替部材26は、例えばプリズムであり、結像光学系5の光路に挿脱可能に設けられる。光路切替部材26は、例えば、制御部42により制御される駆動部(図示せず)によって、結像光学系5の光路に挿脱される。光路切替部材26は、結像光学系5の光路に挿入された状態において、試料Xからの蛍光を内面反射によって撮像部6へ向かう光路へ導く。レンズ27及びレンズ28は、例えば、アフォーカル光学系を構成する。
上述のような結像光学系5は、試料Xと光学的に共役な位置に、試料Xから放射された蛍光の像(例、蛍光の像)を形成する。上述した結像光学系5は一例であり、適宜、変更可能である。例えば、上述した結像光学系5の一部が省略されてもよい。また、結像光学系5は、開口絞り、視野絞りなどを備えてもよい。
本実施形態に係る顕微鏡装置1は、観察範囲の設定などに利用される観察光学系30を備える。観察光学系30は、試料Xから観察者の視点Vpに向かう順に、対物レンズ21、ダイクロイックミラー20、フィルタ24、レンズ25、ミラー31、レンズ32、ミラー33、レンズ34、レンズ35、ミラー36、及びレンズ37を備える。観察光学系30は、対物レンズ21からレンズ25までの構成を結像光学系5と共用している。試料Xからの光は、レンズ25を通った後に、光路切替部材26が結像光学系5の光路から退避した状態において、ミラー31に入射する。ミラー31で反射した光は、レンズ32を介してミラー33に入射し、ミラー33で反射した後に、レンズ34およびレンズ35を介してミラー36に入射する。ミラー36で反射した光は、レンズ37を介して、視点Vpに入射する。観察光学系30は、例えば、レンズ35とレンズ37との間の光路に試料Xの中間像を形成する。レンズ38は、例えば接眼レンズであり、観察者は、中間像を観察することにより観察範囲の設定などを行うことができる。
撮像部6は、結像光学系5が形成した像を撮像する。撮像部6は、撮像素子40および制御部41を備える。撮像素子40は、例えばCMOSイメージセンサであるが、CCDイメージセンサなどの他のイメージセンサなどでもよい。撮像素子40は、例えば、二次元的に配列された複数の画素を有し、各画素にフォトダイオードなどの光電変換素子が配置された構造である。撮像素子40は、例えば、光電変換素子に蓄積された電荷を、読出回路によって読み出す。撮像素子40は、読み出された電荷をデジタルデータ(例、階調値)に変換し、画素の位置と階調値とを関連付けたデジタル形式のデータを出力する。制御部41は、制御部42から入力される制御信号に基づいて撮像素子40を動作させ、撮像画像のデータを制御部42に出力する。また、撮像部6の制御部41は、撮像素子40における電荷の蓄積期間と電荷の読み出し期間を示す信号(撮像タイミングの情報)を制御部42の制御部42に出力する。
制御装置8は、顕微鏡装置1の各部を総括して制御する。制御装置8は、制御部42および画像処理部7を備える。制御部42は、例えば、撮像部6から供給される信号(撮像タイミングを示す情報)に基づいて、音響光学素子14を制御する。例えば、制御部42は、撮像部6から供給される信号を音響光学素子14に供給し、音響光学素子14は、この信号をトリガーとして通光状態と遮光状態とを切り替える。
例えば、制御部42は、音響光学素子14を制御し、試料Xに活性化光L1が照射される期間、及び試料Xに活性化光L1が照射されない期間を制御する。また、制御部42は、例えば音響光学素子14を制御し、試料Xに第1励起光L2が照射される期間、及び、試料Xに第1励起光L2が照射されない期間を制御する。また、制御部42は、例えば音響光学素子14を制御し、試料Xに補助光L4が照射される期間、及び試料Xに補助光L4が照射されない期間を制御する。制御部42は、音響光学素子14を制御し、試料Xに照射される活性化光L1の光強度、第1励起光L2の光強度、補助光L4の光強度をそれぞれ制御する。なお、撮像部6の制御部41は、制御部42の代わりに、音響光学素子14を制御してもよい。例えば、撮像部6は、電荷の蓄積期間と電荷の読み出し期間を示す信号(撮像タイミングの情報)に基づいて、音響光学素子14に遮光状態と通光状態とを切り替える制御信号を供給し、音響光学素子14を制御してもよい。
制御部42は、撮像部6を制御し、撮像素子40に撮像を実行させる。制御部42の制御による照明と撮像のシーケンスについては、後述する。制御部42は、撮像部6から撮像結果(撮像画像のデータ)を取得する。画像処理部7は、撮像部6の撮像結果を用いて画像処理を行う。画像処理部7が行う処理については、後に図3、図4等を参照しつつ、説明する。
制御部42は、記憶装置(記憶部)43および表示装置(表示部)44のそれぞれと通信可能に接続される。表示装置44は、例えば、液晶ディスプレイなどである。表示装置44は、例えば、顕微鏡装置1の各種設定を示す画像、撮像部6による撮像画像、撮像画像から生成された画像などの各種画像を表示する。制御部42は、表示装置44を制御し、表示装置44に各種画像を表示させる。例えば、制御部42は、画像処理部7が生成した画像(例、STORM画像、PALM画像などの超解像画像)のデータを表示装置44に供給し、この画像を表示装置44に表示させる。例えば、顕微鏡装置1は、観察対象の試料Xの超解像画像をライブ映像で表示すること等もできる。記憶装置43は、例えば磁気ディスクや光学ディスクなどであり、顕微鏡装置1の各種設定のデータ、撮像部6による撮像画像のデータ、画像処理部7が生成した画像のデータなど各種データを記憶する。制御部42は、例えば、記憶装置43に記憶された超解像画像のデータを表示装置44に供給し、超解像画像を表示装置44に表示させることができる。制御部42は、記憶装置43を制御し、各種データを記憶装置43に記憶させる。
図2は、第1実施形態に係る照明と撮像のシーケンスを示す図である。制御部42は、第1の期間Taにおいて、活性化光L1を照射させる(活性化光;ON)。第1の期間Taにおいて、制御部42は、活性化された蛍光物質に対して第1励起光L2を照射させ、活性化された蛍光物質からの蛍光の像を撮像部6に複数のフレーム期間Tfで撮像させる。制御部42は、第2の期間Tbにおいて、第1励起光L2の照射を停止または照射強度を低減した状態で補助光L4を基準マーカに対して照射させ、基準マーカからの蛍光の像を撮像部6に撮像させる。なお、本実施形態では、第1励起光L2と補助光L4とで波長が異なるものとするが、同じでもよい。第2の期間Tbは、例えば、第1の期間Taの1つ前のフレーム期間Tfを含む。制御部42は、期間T1の間に、第1の期間Taと第2の期間Tbとを交互に繰り返し行う。画像処理部7は、第2の期間Tbにおける撮像画像を用いて、第1の期間Taの撮像画像を補正する。画像処理部7は、補正によって、期間T1に含まれる複数の第1の期間Taで得られる複数の撮像画像の位置合わせを行い、複数の撮像画像で蛍光の像に相当する輝点をマージすることによって、1枚の画像を生成する。図2では、第1の期間Taにおいて、活性化光L1を照射させた場合を例示して説明したが、例えば、活性化光L1は、第1の期間Taと異なる期間で照射されていてもよい。また、例えば、活性化光L1は、第1の期間Taの前に照射されていてもよい。また、例えば、活性化光L1は、第2の期間Tbと同じ期間で照射されてもよいし、第2の期間Tbと異なる期間で照射されてもよい(以下同様)。
図3は、第1の期間および第2の期間の照明と撮像のシーケンスを示す図である。図3において、符号Tfは、撮像処理の1つのフレーム期間である。1つのフレーム期間Tfは、1枚の撮像画像を生成する期間である。1つのフレーム期間Tfは、例えば、電荷を蓄積する期間Tf1、及び期間Tf1に蓄積された電荷を読み出す期間Tf2を含む。なお、電荷の蓄積と電荷の読み出しとが並列に行われる場合、1つのフレーム期間Tfは、蛍光に応じた電荷を蓄積する期間Tf1となる。1つのフレーム期間Tfの長さは、例えば、フレームレートの逆数である。
制御部42は、第1の期間Taにおいて、活性化光L1および第1励起光L2を試料Xに照射させ、撮像部6に試料Xを撮像させる。活性化光L1および第1励起光L2の照射は、試料Xからの蛍光の像が疎な分布になるように行われる。第1の期間Taで取得される撮像画像(Pd1〜Pdm)は、例えば試料Xに含まれる蛍光物質(例えば、レポータ色素)からの蛍光の像を撮像したものであり、試料Xの構造を示す画像の生成に使われる。撮像部6は、各フレーム期間Tfの撮像結果として、撮像画像Pd1〜Pdnを生成する。画像処理部7は、撮像画像Pd1〜Pdnの少なくとも一部を用いて1枚の画像SP(例、超解像画像)を生成する。以下の説明において、少なくとも1枚の画像SPの生成に用いられる撮像画像(例えば、撮像画像Pd1〜Pdn)の一連の撮像処理を、適宜、1ピリオドの撮像という。画像SPの生成に使われる撮像画像(例えば、撮像画像Pd1〜Pdn)の枚数は、例えば、予め設定されたデフォルト値、ユーザが指定する指定値などの設定値である。
また、制御部42は、第2の期間Tbにおいて、活性化光L1および第1励起光L2の照射を停止または照射強度を低減した状態で補助光L4を照射させ、撮像部6に試料Xを撮像させる。第2の期間Tbは、例えば、第1の期間Taの1つ前のフレーム期間Tfに行われる。例えば、図2において、最初の第2の期間Tbの撮像により撮像画像Pc1が取得され、この第2の期間Tbに続く第1の期間Taにおいて所定回数(m回)のフレーム期間Tfの撮像により撮像画像Pd1〜Pdmが取得され、続いて第2の期間Tbの撮像により撮像画像Pc2が取得される。この場合、補助光L4に応じた撮像画像Pc1は、第1励起光L2に応じた撮像画像(Pd1〜Pdm)に対して、1/mの頻度で取得される。なお、所定回数(m)は、任意に設定され、例えば、1、10、100、1000、5000、10000などでもよい。図2において、符号T2は、1回の第2の期間Tbと、この第2の期間Tbに連続する所定回数の第1の期間Taとを含む期間である。制御部42は、期間T2を繰り返し行うことで、1ピリオドの撮像を行い、複数の撮像画像を取得する。
画像処理部7は、第2の期間Tbで得られた撮像結果(例、撮像画像Pc1、Pc2)を用いて、1つの第1の期間Taで得られた撮像画像の少なくとも一部を補正する。また、画像処理部7は、複数の第1の期間Taから得られる複数の撮像画像を補正し、補正後の撮像画像の少なくとも一部を用いて1枚の画像を生成する。例えば、撮像画像Pd1〜Pdmのそれぞれにおいて、蛍光の像Imは、低密度で離散的に分布する。画像処理部7は、例えば、蛍光の像Imの光強度分布をガウシアン関数等でフィッティングすること等により、蛍光の像Imの位置情報(例、重心位置Q)を算出する。また、画像処理部7は、第2の期間Tbにおける撮像結果(撮像画像Pc1、Pc2)を用いて、変位(ドリフト量、移動量)を算出する。画像処理部7は、算出した変位を用いて、第1の期間Taにおける撮像画像を補正する。例えば、画像処理部7は、撮像画像Pc1および撮像画像Pc2から算出される変位を用いて、撮像画像Pc2から撮像画像Pc3の間の第1の期間Taに撮像される撮像画像の重心位置Qを補正する。画像処理部7は、例えば、補正後の多数の重心位置Qをマージすることにより、1枚の画像を生成(構築)する。
図4は、試料の変位を検出する処理、撮像結果を補正する処理を示す図である。図4において、符号Pc1〜Pcnは、補助光L4に応じた撮像画像を示す。画像処理部7は、例えば、撮像画像Pc2と撮像画像Pc3との間に撮像される撮像画像を同じ補正量で補正する。画像処理部7は、例えば、撮像画像Pc1と撮像画像Pc2を用いて、撮像画像Pc2から撮像画像Pc3の間の第1の期間Taに撮像される撮像画像の補正量を算出する。図4において、符号Pe1の撮像画像は、撮像画像Pc1と撮像画像Pc2との間に撮像される撮像画像Pd1〜Pdmのうちの1枚を代表的に示したものである。撮像画像Pe2〜Penについても同様である。符号Pf2〜Pfnは、補正された画像を示す。例えば、画像Pf2は、撮像画像Pe2を補正した画像である。
撮像画像Pc1〜Pcnには、それぞれ、基準マーカからの蛍光の像Im2が分布している。撮像画像Pc2〜Pcnには、1回前に撮像された撮像画像における蛍光の像を点線で示した。例えば、撮像画像Pc2における点線の部分は、撮像画像Pc1における蛍光の像Im2に相当する。画像処理部7は、例えば、撮像画像Pc1と撮像画像Pc2とで対応する蛍光の像の変位V(ベクトル)をそれぞれ算出する。例えば、試料Xにおいて基準マーカの間隔が、変位(例、ステージ2の変位)として想定される上限値よりも大きくなるように、試料Xにおいて基準マーカを疎に分布させておく。そして、画像処理部7は、撮像画像Pc1と撮像画像Pc2とで最も近い蛍光の像を、同じ基準マーカに対応する蛍光の像であるものとし、対応する蛍光の像の変位を算出する。そして、画像処理部7は、複数の蛍光について変位Vの平均Va(ベクトル)を算出する。なお、画像処理部7は、撮像画像Pc1と撮像画像Pc2とを相対的に移動させながら画像相関を求め、最も相関係数が高くなる撮像画像Pc1と撮像画像Pc2との相対移動量を変位の平均としてもよい。
画像処理部7は、撮像画像Pc1〜Pcnのうち比較する2つの画像の双方に写っている蛍光の像を用いて、変位を求める。例えば、画像処理部7は、撮像画像Pc1と撮像画像Pc3とに同じ基準マーカに対応する蛍光の像が写っており、この蛍光の像が撮像画像Pc2に写っていない場合、この蛍光の像を用いて、撮像画像Pc1と撮像画像Pc3とで蛍光の像の変位を算出することができる。画像処理部7は、画像に写っている像の一部を変位の算出に用いなくてもよい。例えば、画像処理部7は、比較する2つの画像のうち一方のみに写っている蛍光の像を、変位の算出に用いなくてもよい。例えば、画像処理部7は、光強度、像のサイズに関する閾値に基づいて変位の算出に用いない像を選択してもよい。例えば、光強度、像のサイズに関する閾値は、ユーザにより設定されてもよい。例えば、画像処理部7は、所定の領域に写っている蛍光の像を、変位の算出に用いなくてもよい。この所定の領域は、ユーザにより選択されてもよい。上記は、画像に写っている像の一部を変位の算出に用いないものの指定であるが、逆に用いるものを選択、設定する様にするようにしてもよい。上記により、より精度よく補正することが可能となる。
画像処理部7は、第1励起光L2に応じた撮像画像Pe2〜Penのそれぞれについて、蛍光物質の重心位置を算出する。ここでは、撮像画像Pe1が基準の画像であるものとし、撮像画像Pe2における蛍光の像の位置を補正する例を説明する。画像処理部7は、撮像画像Pe2の各蛍光の像の重心位置Qを算出する。そして、画像処理部7は、補正対象の撮像画像Pe2の撮像タイミングに対応する補正用の撮像画像Pc2と、基準となる撮像画像Pe1の撮像タイミングに対応する補正用の撮像画像Pc1との変位の平均Vaを用いて、補正を行う。補正用の撮像画像Pc2は、例えば、補正対象の撮像画像Pe2が撮像された第1の期間Taの直前の第2の期間Tbで撮像された撮像画像である。画像処理部7は、画像Pf2のように、撮像画像Pe2における蛍光の像の重心位置Qを、変位の平均Vaを反転した補正量Vb(ベクトル)だけ移動させた重心位置Q2に補正する。画像処理部7は、撮像画像Pe2と同様に、撮像画像Pc2から撮像画像Pc3の間の第1の期間Taに撮像される複数の撮像画像の少なくとも一部を補正する。また、画像処理部7は、同様にして、撮像画像Pc3以降の第1の期間Taに撮像される複数の撮像画像の少なくとも一部を補正する。画像処理部7は、例えば、基準の撮像画像(例、撮像画像Pd1〜Pdm)、及び補正された画像の少なくとも一部を用いて、1枚の画像を生成する。
次に、上述の顕微鏡装置1の構成に基づき、本実施形態に係る観察方法について説明する。顕微鏡装置1は、例えば、観察条件の設定を行った後、撮像画像の取得などを行う。観察方法の全体のフローの説明に先立ち、まず観察条件の設定処理について説明する。図5は、観察条件の設定処理(後に図6に示すステップS10の処理)を示すフローチャートである。
ステップS1において、例えば、ユーザは、第1励起光L2の波長、活性化光L1の波長を選択し、制御部42は、第1励起光L2の波長、活性化光L1の波長を設定する。例えば、制御部42は、第1励起光L2の波長、活性化光L1の波長の候補を示すリストを表示装置44に表示させ、ユーザの入力を受け付ける。制御部42は、第1励起光L2の波長、活性化光L1の波長を、ユーザの入力に応じて設定する。なお、ユーザが蛍光物質の種類を指定し、制御部42は、第1励起光L2の波長、活性化光L1の波長を、蛍光物質の種類に応じた波長に設定してもよい。この場合、例えば、蛍光物質の種類と、第1励起光L2の波長および活性化光L1の波長とを関連付けたテーブルデータを、予め記憶装置43に記憶させておき、制御部42は、このテーブルデータを用いて、第1励起光L2の波長、活性化光L1の波長を設定してもよい。ステップS2において、制御部42は、第1励起光L2の強度、活性化光L1の強度を設定する。本実施形態では、第1励起光L2に応じた蛍光物質からの蛍光の像と、補助光L4に応じた基準マーカからの蛍光の像とを期間を分けて撮像するので、例えば、第1励起光L2、活性化光L1の波長、強度を蛍光物質からの蛍光の像の撮像に適した波長、強度に設定可能である。第1励起光L2の強度、活性化光L1の強度は、例えば、上記のテーブルデータに含まれてもよい。ステップS3において、制御部42は、撮像条件の設定を行う。例えば、制御部42は、撮像条件として、1つのフレーム期間Tfの長さ(露光時間)を設定する。露光時間は、例えば、蛍光物質の種類、第1励起光L2の強度に応じて定められてもよく、上記のテーブルデータに含まれてもよい。
ステップS4において、例えば、ユーザは、補助光L4の波長を選択し、制御部42は、補助光L4の波長を設定する。ステップS4の処理は、例えば、ステップS1の処理と同様に、表示装置44に表示された候補から選択する形態などでもよい。ステップS5において、制御部42は、補助光L4の強度を設定する。本実施形態では、補助光L4に応じた基準マーカからの光と、第1励起光L2に応じた蛍光物質からの蛍光とを期間を分けて検出するので、例えば、補助光L4の波長、強度を基準マーカの検出に適した波長、強度に設定可能である。
ステップS6において、制御部42は、例えば、第1励起光L2に応じた撮像の総フレーム数、ピリオド数を設定する。総フレーム数は、ピリオド数に含まれるフレーム期間の総数である。例えば、1ピリオドに含まれるフレーム期間が2000回であり、ピリオド数が10である場合、総フレーム数は2000×10である。制御部42は、例えば、総フレーム数とピリオド数を用いて、1ピリオドに含まれるフレーム期間の数を算出する。このように、総フレーム数、1ピリオドに含まれるフレーム期間の数、ピリオド数の3項目のパラメータうち、2項目の値が指定される場合、例えば制御部42は、これらの値を用いて残り1項目の値を算出することができる。また、3項目のパラメータのうち少なくとも1項目の値は、予めデフォルト値として与えられてもよい。例えば、1項目のパラメータの値がデフォルト値で与えられる場合、ユーザは、1項目の値を指定し、制御部42は、指定された値およびデフォルト値を用いて、残りの1項目のパラメータの値を算出してもよい。ステップS7において、制御部42は、補助光L4に応じた撮像の頻度を設定する。補助光L4に応じた撮像の頻度は、例えば、第1励起光L2に応じた撮像を何回行うたびに、補助光L4に応じた撮像を行うかで表される。補助光L4に応じた撮像の頻度は、例えば、図3を参照した説明における所定回数(m)である。制御部42は、例えば、補助光L4に応じた撮像の頻度を、ユーザの指定値、あるいは予め記憶されたデフォルト値に設定する。
次に、本実施形態に係る観察方法のフローについて説明する。図6は、本実施形態に係る観察方法を示すフローチャートである。ステップS10において、制御部42は、観察条件を設定する(図5参照)。制御部42は、ステップS11において、補助光L4の照射を開始させ、第2の期間Tbを開始する。ステップS12において、結像光学系5は、補助光L4に応じた基準マーカからの蛍光の像を形成する。ステップS13において、制御部42は、撮像部6に、補助光L4に応じた基準マーカからの蛍光の像を撮像させる。ステップS14において、制御部42は、補助光L4の照射を停止または照射強度を低減させ、第2の期間Tbを終了する。ステップS15において制御部42は、活性化光L1、第1励起光L2の照射を開始させ、第1の期間Taを開始する。ステップS16において、結像光学系5は、第1励起光L2に応じた蛍光物質からの蛍光の像を形成する。ステップS17において、制御部42は、第1励起光L2に応じた蛍光物質からの蛍光の像を、撮像部6に撮像させる。ステップS8において、制御部42は、第1の期間を終了するか否かを判定する。例えば、制御部42は、ステップS3の撮像が完了した際に撮像回数(フレーム期間の数)のカウンタをインクリメントし、このカウンタと設定値との比較により、第1の期間Taをするか否かを判定する。撮像回数の設定値は、例えば、図3を参照して説明した所定回数(m)であり、補助光L4に応じた撮像の頻度の逆数に相当する。撮像回数の設定値は、例えば、ステップS10の設定処理(図5のステップS7参照)で設定され、制御部42は、撮像回数のカウンタが設定値に達した場合に、第1の期間Taを終了すると判定する。制御部42は、例えば、カウンタが設定値未満である場合に、第1の期間Taを終了しないと判定し(ステップS18;No)、ステップS17の撮像処理を繰り返す。
制御部42は、第1の期間Taを終了すると判定した場合(ステップS18;Yes)、ステップS19において、活性化光L1、第1励起光L2の照射を停止または照射強度を低減させ、第1の期間Taを終了する。ステップS20において、制御部42は、撮像を終了するか否かを判定する。例えば、制御部42は、撮像回数のカウンタが総フレーム数(図5のステップS6参照)に達した場合に、撮像を終了すると判定する。制御部42は、撮像を終了しないと判定した場合(ステップS20;No)、ステップS11に戻り、補助光L4の照射を開始させ、第1の期間Taに続く第2の期間Tbを開始させる。制御部42は、ステップS11以降の処理を繰り返すことによって、総フレーム数に応じた撮像画像を取得させる。ステップS21において、画像処理部7は、例えば、制御部42が撮像を終了すると判定した場合(ステップS19;Yes)、少なくとも1枚の画像を生成する。例えば、画像処理部7は、1ピリオドに含まれるフレーム期間の数を用いて、各ピリオドの撮像画像を特定する。画像処理部7は、特定した撮像画像の少なくとも一部を用いて、超解像画像を生成する。また、制御部42は、画像処理部7が生成した超解像画像を表示装置44に表示させる。
なお、ステップS10の設定処理(図5のステップS6参照)において、ピリオド数が2以上に設定されている場合、画像処理部7は、例えば、1ピリオドの撮像の結果を用いて1枚の画像SPを生成し、ピリオド数に応じた数の画像SPを生成する。画像処理部7は、画像SPを生成する処理の少なくとも一部を、1ピリオドの撮像と並行して、行ってもよい。例えば、画像処理部7は、ステップS17の撮像処理が行われるたびに、撮像画像のデータを取得し、その撮像画像に含まれる蛍光の像Im(図3参照)の重心位置Qを算出してもよい。また、例えば、ピリオド数が2以上に設定されている場合、画像処理部7は、1ピリオドの撮像の結果を用いて画像SPを生成する処理の少なくとも一部を、次の1ピリオドの撮像を行う間に行ってもよい。なお、本実施形態では、第1励起光L2と補助光L4とで波長が異なるが同じでもよく、この場合にも、第1励起光L2を停止または照射強度を低減した第2の期間Tbで基準マーカからの蛍光の像を撮像するので、基準マーカの位置を精度よく検出することができ、ドリフト量を精度よく求めることができる。第1励起光L2と補助光L4とで波長が異なる場合、第1励起光L2により試料Xから放射される蛍光の像を撮像する際に、基準マーカからの蛍光の像が撮像画像に写り込むことを抑制することができる。本実施形態において、活性化光L1および第1励起光L2を照射するが、蛍光物質(レポータ色素)の種類によっては、活性化光L1を照射せずに励起光(例、第1励起光L2)を照射してもよく、以下の実施形態についても同様である。
[第2実施形態]
第2実施形態について説明する。本実施形態では、標識に用いられるレポータ色素が2種類であって、レポータ色素からの蛍光の検出と試料の位置の検出とを時分割で行う形態について説明する。レポータ色素の数は1種類または3種類以上でもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
図7は、第2実施形態に係る顕微鏡装置を示す図である。本実施形態において、光源装置3は、励起光源10cおよびシャッタ11cを備える。励起光源10cは、試料Xに含まれる第2の蛍光物質を励起する第2波長の励起光(以下、第2励起光L3という)を発する。ここでは、励起光源10cの射出波長は、例えば、約488nm、約561nm、約647nmから選択される波長であるとする。第2の蛍光物質は、例えば、第1励起光L2に対応する蛍光物質(以下、第1の蛍光物質という)と同様に、レポータ色素を含み試料Xの標識に用いられる。第2の蛍光物質は、アクティベータ色素を含んでもよいし、アクティベータ色素を含まなくてもよい。第2の蛍光物質は、例えば、抗体を介して細胞のタンパク質などと結合したものであり、結合先のタンパク質の種類が第1の蛍光物質と異なる。第2の蛍光物質は、活性化光L1が照射されると、活性化状態になる。第2の蛍光物質を活性化する活性化光の波長は、例えば、第1の蛍光物質を活性化する活性化光L1の波長と同じであるが、異なってもよい。第2の蛍光物質は、活性化状態において第2励起光L3が照射されると、蛍光を発するか、不活性化される。第2の蛍光物質は、不活性化された状態(以下、不活性化状態という)において活性化光L1が照射されると、再度、活性化状態となる。シャッタ11cは、制御部42により制御され、励起光源10cからの第2励起光L3を通す状態と、第2励起光L3を遮る状態とを切り替え可能である。
照明光学系4は、励起光源10cの出射側にダイクロイックミラー50を備える。ダイクロイックミラー50は、第2励起光L3が反射し、補助光L4が透過する特性を有する。励起光源10cからのは、ダイクロイックミラー50で反射し、ダイクロイックミラー12を透過して、ダイクロイックミラー13に入射する。ダイクロイックミラー13およびダイクロイックミラー20は、第2励起光L3が反射する特性を有し、第2励起光L3は、活性化光L1、第1励起光L2、及び補助光L4と同じ光路を通って、試料Xに照射される。制御部42は、例えば、音響光学素子14を制御し、第2励起光L3が音響光学素子14を通る通光状態と、第2励起光L3が音響光学素子14で遮られるまたは照射強度が低減される遮光状態とを切り替える。制御部42は、試料Xに第2励起光L3を照射させ、撮像部6に撮像させる。
図8は、本実施形態に係る照明と撮像のシーケンスを示す図である。制御部42は、1ピリオドの撮像の期間T3に、第1波長期間(例、期間T12、期間T14、期間T16)と、第2波長期間(例、期間T18、期間T20、期間T22)とを設ける。本実施形態では、第1の期間Taに、第1波長期間または第2波長期間が1つ含まれる。画像処理部7は、第1波長期間における撮像部6の撮像結果の少なくとも一部と、第2波長期間における撮像部の撮像結果の少なくとも一部とを用いて少なくとも1枚の画像を形成する。例えば、画像処理部7は、例えば、第1波長期間における撮像結果を用いて第1の画像Paを生成し、第2波長期間における撮像結果を用いて第2の画像Pbを生成する。例えば、第1の画像Paおよび第2の画像Pbは、試料Xの異なる構造を表した画像である。画像処理部7は、例えば、第1の画像Paおよび第2の画像Pbを用いて、画像Ptを生成する。画像Ptは、例えば、第1の画像Paと第2の画像Pbとを合成した画像である。なお、画像Ptは、第1の画像Paと第2の画像Pbとを生成することなく、第1波長期間における撮像部6の撮像結果の少なくとも一部と、第2波長期間における撮像部の撮像結果の少なくとも一部とを用いて作成してもよい。以下、より詳しく説明する。
制御部42は、第1波長期間(例、期間T12)において、活性化光L1を照射させ(活性化光;ON)、第1励起光L2を照射させ(第2励起光;ON)、活性化された第1の蛍光物質からの蛍光の像を撮像部6に複数のフレーム期間で連続的に撮像させる(第1撮像処理;ON)。制御部42は、例えば、第1波長期間における活性化光L1の光強度を、第1の蛍光物質の種類に応じて調整する。制御部42は、第1波長期間において撮像を連続的に行う各期間(例、期間T12)の1つ前のフレーム期間(例、期間T11)において、補助光L4を照射させ、基準マーカからの蛍光の像を撮像部6に撮像させる(第3撮像処理;ON)。画像処理部7は、例えば、期間T14における試料Xの撮像画像を、期間T14の1つ前の期間T13の基準マーカの撮像画像と対応付けて、撮像画像の補正を行う。例えば、画像処理部7は、期間T12の撮像画像と期間T14の撮像画像とで位置合わせを行う際に、期間T11の撮像画像と期間T13の撮像画像を用いて、期間T11から期間T13までの基準マーカの変位を求め、この変位の分だけ期間T14の撮像画像を補正することにより、期間T14の撮像画像を期間T12の撮像画像に位置合わせすることができる。すなわち、今回と前回の第1の期間Taのドリフト量は、直前の第2の期間Tbと、さらに1回前の第2の期間Tbとの比較により求まる。この処理を繰り返すことにより、基準となる第1の期間Taに位置合わせすることができる。このように、画像処理部7は、第1波長期間に得られる複数の撮像画像を位置合わせし、第1の画像Paを生成する。
また、制御部42は、第2波長期間(例、期間T18)において、活性化光L1を照射させ(活性化光;ON)、第2励起光L3を照射させ(第2励起光;ON)、活性化された第2の蛍光物質からの蛍光の像を撮像部6に複数のフレーム期間で連続的に撮像させる(第2撮像処理;ON)。制御部42は、例えば、第2波長期間における活性化光L1の光強度を、第2の蛍光物質の種類に応じて調整する。制御部42は、第2波長期間において撮像を連続的に行う各期間(例、期間T20)の1つ前のフレーム期間(例、期間T19)において、補助光L4を照射させ、基準マーカからの蛍光の像を撮像部6に撮像させる(第3撮像処理;ON)。画像処理部7は、例えば、期間T20における試料Xの撮像画像を、期間T20の1つ前の期間T19の基準マーカの撮像画像と対応付けて、撮像画像の補正を行う。例えば、画像処理部7は、期間T18の撮像画像と期間T20の撮像画像とで位置合わせを行う際に、期間T17の撮像画像と期間T19の撮像画像を用いて、期間T17から期間T19までの基準マーカの変位を求め、この変位の分だけ期間T20の撮像画像を補正することにより、期間T20の撮像画像を期間T18の撮像画像に位置合わせすることができる。なお、上記では、期間T17から期間T19までの基準マーカの変位の分だけ、期間T20の撮像画像を補正する場合を例示したが、期間T17から期間T19までの基準マーカの変位を用いて、期間T20の複数の撮像画像に対する補正量を個別に算出してもよい。例えば、期間T17から期間T19までの基準マーカの変位の量を、期間T20の撮像画像において、線形補間してもよい。例えば、期間T17から期間T19までの基準マーカの変位の量を、期間T20の撮像画像の数で除算した値を、期間T20の1枚目の撮像画像に対する補正量とし、以後の撮像画像は、この除算した値を撮像画像の取得順序に応じて積算した補正量としてもよい。これにより、撮像画像をより精度よく補正できる。このように、画像処理部7は、第2波長期間に得られる複数の撮像画像を位置合わせし、第2の画像Pbを生成する。また、画像処理部7は、第1の画像Paの位置の基準となる撮像画像(例、期間T12における撮像画像)と、第2の画像Pbの位置となる撮像画像(例、期間T18における撮像画像)とで生じたドリフト量を、期間T11と期間T17の撮像画像を用いて求め、この変位に応じた補正量で第2の画像Pbを補正する。これにより、第2の画像Pbを第1の画像Paと位置合わせすることができ、補正後の第2の画像Pbと、第1の画像Paとを合成することにより、画像Ptが得られる。制御部42は、例えば、画像Ptを表示装置44に表示させる。
ところで、試料Xのうち第1の画像Paに表される部分は、第2の画像Pbに表される部分と異なる。このような場合、自己相関によりドリフト量を求めることは難しいが、本実施形態によれば、ドリフト量を精度よく求めることができる。
図9は、本実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。制御部42は、第1の期間Taに第1波長期間Tcと第2波長期間Tdとを複数設ける。制御部42は、第1波長期間Tcにおいて、第1励起光L2を照射させ(第1励起光;ON)、活性化光L1を照射させ(活性化光;ON)、試料Xからの蛍光の像を撮像部6に1つのフレーム期間で撮像させる(第1撮像処理;ON)。また、制御部42は、第2波長期間Tdにおいて、第2励起光L3を照射させ(第2励起光;ON)、活性化光L1を照射させ(活性化光;ON)、試料Xからの蛍光の像を撮像部6に1つのフレーム期間で撮像させる(第2撮像処理;ON)。制御部42は、例えば、第1波長期間Tcと第2波長期間Tdとを交互に設ける。画像処理部7は、図8と同様に、今回と前回の第1の期間Taのドリフト量を、直前の第2の期間Tbと、さらに1回前の第2の期間Tbとの比較により求める。画像処理部7は、この処理を繰り返すことにより、各第1の期間Taの撮像画像と、基準となる第1の期間Taの撮像画像との位置を補正する。画像処理部7は、補正後の複数の第1波長期間Tcにおける撮像部6の撮像結果の少なくとも一部と、補正後の複数の第2波長期間Tdにおける撮像部6の撮像結果の少なくとも一部とを用いて、輝点をマージした少なくとも1枚の画像(例、超解像画像)を形成する。
なお、画像処理部7は、撮像画像の全域における変位の平均を算出し、この平均を用いて撮像画像の全域で一様に補正を行ってもよいし、撮像画像の領域(例、複数の画素)ごとに変位を算出し、領域ごとに補正を行ってもよい。これにより、例えば、結像光学系5の視野の外縁に向かうにつれて収差が大きくなる場合、収差を加味した補正を行うこともできる。
[第3実施形態]
第3実施形態について説明する。本実施形態では、レポータ色素からの蛍光の光路と、試料の位置の検出に用いられる光の光路とを空間的に分離する形態について説明する。レポータ色素は、1種類でもよいし、2種類以上でもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
図10は、本実施形態に係る顕微鏡装置1を示す図である。本実施形態に係る撮像部6は、第1撮像部55および第2撮像部56を備える。第1撮像部55および第2撮像部56は、それぞれ、例えば撮像素子を備えるカメラなどである。制御部42は、活性化光L1および第1励起光L2を照射させ、第1撮像部55に撮像させ、補助光L4を試料に照射させ、第2撮像部56に撮像させる。画像処理部7(図1参照)は、第2撮像部56の撮像結果を用いて変位(ドリフト量)を算出し、この変位を用いて第1撮像部55の撮像結果を補正し、補正後の撮像結果を用いて超解像画像を生成する。制御部42は、例えば、活性化光L1および第1励起光L2の照射と、補助光L4の照射とを並行して実行させ、第1撮像部55の撮像と、第2撮像部56の撮像とを並行して実行させる。
なお、補助光L4の照射が行われる期間は、その少なくとも一部が、活性化光L1および第1励起光L2の照射が行われる期間とずれていてもよい。また、第1撮像部55による撮像が行われる期間は、その少なくとも一部が、第2撮像部56による撮像が行われる期間とずれていてもよい。
図11は、本実施形態に係る撮像部および結像光学系の一部を示す図である。結像光学系5は、試料Xからの蛍光のうち、第1励起光L2に応じた蛍光物質からの蛍光L5を第1撮像部55へ導き、試料Xからの蛍光のうち補助光L4に応じた基準マーカからの蛍光L6を第2撮像部56へ導く。結像光学系5は、レンズ28の光出射側に、ダイクロイックミラー57を備える。ダイクロイックミラー57は、蛍光L5が透過し、蛍光L6が反射する特性を有する。ダイクロイックミラー57と第1撮像部55との間の光路には、フィルタ58およびレンズ59が設けられる。フィルタ58は、蛍光L5と異なる波長の光を遮断する。ダイクロイックミラー57と第2撮像部56との間の光路には、フィルタ60およびレンズ61が設けられる。フィルタ60は、蛍光L6と異なる波長の光を遮断する。
図12は、本実施形態に係る照明と撮像のシーケンスを示す図である。図12において、制御部42は、蛍光物質からの蛍光L5の像を第1撮像部55に連続的に撮像させ、基準マーカからの蛍光L6の像を第2撮像部56に間欠的に撮像させる。制御部42は、例えば、期間T2を通して、第1励起光L2および活性化光L1を照射させる。制御部42は、例えば、期間T2の最初のフレーム期間Tfにおいて、補助光L4を照射させ、第1撮像部55および第2撮像部56に、それぞれ撮像を行わせる。図11に示したように、第1撮像部55には、第1励起光L2に応じた蛍光物質からの蛍光L5が入射し、第1撮像部55は、蛍光L5の像を撮像する。制御部42は、期間T2において、第1撮像部55に繰り返し撮像させる。第2撮像部56には、補助光L4に応じた基準マーカからの蛍光L6が入射し、第2撮像部56は、蛍光L6の像を撮像する。図12において、制御部42は、期間T2において第2撮像部56の撮像の終了時またはその後に、補助光L4の照射を停止または照射強度を低減する。制御部42は、期間T2を繰り返し行う。画像処理部7は、第2撮像部56の撮像結果を用いて、第1撮像部55の撮像結果を補正し、少なくとも1枚の画像SPを生成する。
図13は、本実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。制御部42は、例えば、第1励起光L2および活性化光L1を、期間T2を通して連続的に照射させる。制御部42は、期間T2において、補助光L4を間欠的に照射させる。制御部42は、例えば、期間T2の最初のフレーム期間Tfにおいて、補助光L4を照射させ、第2撮像部56に撮像させる。制御部42は、期間T2において第2撮像部56の撮像終了時またはその後に、補助光L4の照射を停止または照射強度を低減する。制御部42は、期間T2において、第1撮像部55および第2撮像部56に連続的に撮像させる。制御部42は、基準マーカからの蛍光L6の像を第2撮像部56に連続的に撮像させる。期間T2において電荷読出を繰り返し行うが、補助光L4が照射されていないフレーム期間Tfにおいては、基準マーカから蛍光L6がほぼ放射されないので、撮像画像に蛍光L6の像がほぼ写らない。制御部42は、期間T2を繰り返し行う。画像処理部7は、第2撮像部56の撮像結果を用いて、第1撮像部55の撮像結果を補正し、少なくとも1枚の画像SPを生成する。
図14は、本実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。制御部42は、例えば、第1励起光L2および活性化光L1を、期間T2を通して連続的に照射させる。制御部42は、期間T2において、補助光L4を連続的に照射させる。制御部42は、蛍光物質からの蛍光L5の像を第1撮像部55に連続的に撮像させ、基準マーカからの蛍光L6の像を第2撮像部56に間欠的に撮像させる。制御部42は、期間T2を繰り返し行う。画像処理部7は、第2撮像部56の撮像結果を用いて、第1撮像部55の撮像結果を補正し、少なくとも1枚の画像SPを生成する。
図15は、本実施形態に係る照明と撮像のシーケンスの他の形態を示す図である。制御部42は、例えば、第1励起光L2および活性化光L1を、期間T2を通して連続的に照射させる。制御部42は、期間T2において、補助光L4を連続的に照射させる。制御部42は、蛍光物質からの蛍光L5の像を第1撮像部55に連続的に撮像させ、基準マーカからの蛍光L6の像を第2撮像部56に連続的に撮像させる。この場合、期間T2において、基準マーカからの蛍光L6の像を撮像した画像が複数得られる。画像処理部7は、期間T2において第2撮像部56が撮像した撮像画像から1または2以上の撮像画像を用いて、第1撮像部55が撮像した撮像画像を補正する。制御部42は、期間T2を繰り返し行う。画像処理部7は、第2撮像部56の撮像結果を用いて、第1撮像部55の撮像結果を補正し、少なくとも1枚の画像SPを生成する。
図16は、観察条件を設定する処理(図17のステップS23の処理)の一例を示すフローチャートである。ステップS30において、例えば、ユーザは、第1励起光L2の波長、活性化光L1の波長を選択し、制御部42は、第1励起光L2の波長、活性化光L1の波長を設定する。ステップS31において、制御部42は、第1励起光L2の強度、活性化光L1の強度を設定する。ステップS32において、例えば、ユーザは、補助光L4の波長を選択し、制御部42は、補助光L4の波長を設定する。ステップS33において、制御部42は、補助光L4の強度を設定する。ステップS34において、制御部42は、撮像条件を設定する。例えば、制御部42は、蛍光物質の種類に応じて第1撮像部55の露光時間、ゲインなどを調整する。また、例えば、制御部42は、第2の蛍光物質の種類に応じて第2撮像部56の露光時間、ゲインなどを調整する。ステップS35において、制御部42は、第1励起光L2に応じた撮像の総フレーム数を設定する。総フレーム数は、例えば、少なくとも1枚の超解像画像を生成するのに必要とされる撮像画像の枚数に相当する。総フレーム数は、複数の画像を生成するのに必要とされるフレーム数でもよい。
図17は、本実施形態に係る観察方法を示すフローチャートである。ここでは、図15に示したシーケンスを例に説明する。まず、ステップS23において、制御部42は、観察条件を設定する。ステップS24において制御部42は、活性化光L1、第1励起光L2、及び補助光L4を照射させる。補助光L4は、例えば、活性化光L1、第1励起光L2の照射と並行して、照射される。例えば、補助光L4の照射は、活性化光L1、第1励起光L2が照射される期間の一部に、間欠的に行われてもよい。ステップS25において、結像光学系5は、試料Xから放射される蛍光の像を形成する。例えば、結像光学系5は、試料Xから放射される蛍光L5の像を第1撮像部55に形成し、基準マーカからの蛍光L6の像を第2撮像部56に形成する。ステップS26において、制御部42は、撮像部6に蛍光の像を撮像させる。例えば、制御部42は、試料Xから放射される蛍光L5の像を第1撮像部55に撮像させ、基準マーカからの蛍光L6の像を第2撮像部56に撮像させる。ステップS27において、撮像を終了するか否かを判定する。例えば、制御部42は、予め設定された撮像回数(フレーム期間の数)に到達した場合に、撮像を終了すると判定し(ステップS27;Yes)、ステップS28において画像を生成し、一連の処理を終了する。制御部42は、ステップS27において、撮像を終了しないと判定した場合(ステップS27;No)、ステップS26に戻り撮像を繰り返させる。なお、図12、図13のように補助光L4を間欠的に照射する場合、例えば、観察条件の設定処理(図17、ステップS23参照)において、補助光L4を照射させるフレーム期間を設定しておき、この設定に基づいて、補助光L4を照射(図17、ステップS24参照)させてもよい。また、図12、図14のように、補助光L4に応じた撮像を行うフレーム期間を間欠的に設ける場合、例えば、観察条件の設定処理(図17、ステップS23参照)において、図5のステップS7のように補助光L4に応じた撮像の頻度を設定しておき、この設定に基づいて撮像させてもよい。
[第4実施形態]
第4実施形態について説明する。本実施形態では、レポータ色素からの蛍光の光路と、試料の位置の検出に用いられる光の光路とを空間的に分離する他の形態について説明する。レポータ色素は、1種類でもよいし、2種類以上でもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
図18は、本実施形態に係る顕微鏡装置1を示す図である。結像光学系5は、活性化された蛍光物質からの蛍光の像を撮像部6の第1撮像領域6aに形成し、基準マーカからの蛍光の像を撮像部の第2撮像領域6bに形成する。制御部42は、活性化された蛍光物質に対して第1励起光L2を照射させ、基準マーカに対して補助光L4を照射させ、撮像部6に複数のフレーム期間で撮像させる。画像処理部7は、第2撮像領域6bで得られる撮像結果を用いて、第1撮像領域6aで得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する。
図19は、第4実施形態に係る撮像部および結像光学系の一部を示す図である。結像光学系5は、試料Xからの蛍光のうち第1励起光L2に応じた蛍光物質からの蛍光L5を第1撮像領域6aへ導き、試料Xからの蛍光のうち補助光L4に応じた基準マーカからの蛍光L6を第2撮像領域6bへ導く。結像光学系5は、レンズ28の光出射側に、ダイクロイックミラー57を備える。ダイクロイックミラー57は、蛍光L5が透過し、蛍光L6が反射する特性を有する。ダイクロイックミラー57を透過した蛍光L5は、フィルタ58を介してミラー65に入射し、ミラー65で反射してダイクロイックミラー66に入射する。ダイクロイックミラー57で反射した蛍光L6は、ミラー67で反射した後にフィルタ60を介して、ダイクロイックミラー66に入射する。ダイクロイックミラー66は、蛍光L5が反射し、蛍光L6が透過する特性を有する。ダイクロイックミラー66で反射した蛍光L5およびダイクロイックミラー66を透過した蛍光L6は、レンズ68を通って撮像部6に入射する。結像光学系5において、ダイクロイックミラー57、ミラー65、ダイクロイックミラー66、ミラー67の少なくとも1つは、撮像部6へ向かう蛍光L5の光路と蛍光L6の光路とがずれるように、結像光学系5の光軸に対する角度が調整されている。ダイクロイックミラー66で反射した蛍光L5は、第1撮像領域6aに入射し、第2撮像領域6bに入射しない。また、ダイクロイックミラー66を透過した蛍光L6は、第2撮像領域6bに入射し、第1撮像領域6aに入射しない。
図19において、符号Pgは、撮像部6により得られる画像を示す。画像Pgにおいて、第1撮像領域6aに対応する領域A1には、第1励起光L2に応じた蛍光物質からの蛍光の像Imが写っており、第2撮像領域6bには、補助光L4に応じた基準マーカからの蛍光の像Im2が写っている。図1などに示した画像処理部7は、第2撮像領域6bで得られる画像データを用いてステージ2等の顕微鏡の変位(ドリフト量)を算出し、この変位を用いて、第1撮像領域6aで得られる画像データを補正し、補正後の画像データを用いて試料Xの構造を示す画像(例、超解像画像)を生成する。なお、本実施形態において、照明と撮像のシーケンスは、例えば、図13に示したシーケンスでもよいし、図15に示したシーケンスでもよい。この場合、第1撮像部を第1撮像領域とし、第2撮像部を第2撮像領域とする。
[第5実施形態]
第5実施形態について説明する。本実施形態では、標識に用いられるレポータ色素が2種類であって、露光期間の設定を切り替える形態について説明する。レポータ色素は、1種類でもよいし、3種類以上でもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。本実施形態に係る顕微鏡装置1において、撮像部6の撮像素子40(図1参照)は、CMOSイメージセンサを含む。顕微鏡装置1は、ローリングシャッタ照明モード(以下、RS照明モードという)と、グローバル露光照明モード(以下、GE照明モードという)とを有し、これら2つの照明モードを切替可能である。
図20(A)は、撮像素子40の動作の説明図である。撮像素子40は、水平方向に並ぶ1行の画素(ライン)ごとに、露光と電荷の読出を行う。例えば、垂直方向の始端の1行の画素群PX1は、時刻t1に露光を開始し、時刻t2に露光を終了して電荷の読出を行う。また、垂直走査方向において、1行の画素群PX1の次の1行の画素群PX2は、時刻t1よりも後の時刻t3に露光を開始し、時刻t4に露光を終了した後、電荷の読出を行う。このように撮像素子40は、線順次で電荷を読出し、1行の画素群PX1〜PXJから読み出された電荷に基づいて、1枚の撮像画像X1を生成する。撮像素子40は、同様の動作により、撮像画像X2、撮像画像X3、・・・を生成する。
図20(B)は、RS照明モードの説明図を示す図である。RS照明モードにおいて、フレーム期間Tf1(例、撮像画像X1の生成期間)に対応する1行の画素群PX1の露光開始時刻t1から、1行の画素群PXJの露光終了時刻t5に全てにわたって、試料Xに第1励起光L2が照射され、撮像素子40には、第1励起光L2に応じた蛍光物質からの蛍光L5が入射する。このフレーム期間Tf1においては、蛍光L5に応じた電荷を時刻t1〜t5にわたって蓄積するので、ノイズの少ない撮像画像X1が得られる。
ここで、フレーム期間Tf2(例、撮像画像X2の生成期間)に対応する1行の画素群PX1の露光開始時刻t6から、1行の画素群PXJ露光終了時刻t7の間の時刻t8において、第1励起光L2の照射が停止され、第2励起光L3の照射が開始されたとする。時刻t8以降の期間において、撮像素子40には、第2励起光L3に応じた蛍光物質からの蛍光L7が入射する。このフレーム期間Tf2においては、蛍光L5の入射による電荷と、蛍光L7の入射による電荷とが混在して、撮像画像X2が生成される。撮像画像X2は、試料Xにおいて蛍光L5に対応する構造と蛍光L7に対応する構造との区別が難しく、例えば、超解像画像の生成に用いられない(捨てフレーム、無効フレームになる)。なお、フレーム期間Tf2の次のフレーム期間Tf3においては、露光期間にわたって波長の蛍光L7が入射するので、蛍光L7に対応する構造を区別することが容易であり、かつノイズの少ない撮像画像X3が得られる。撮像画像X2を超解像画像の生成に用いない場合、総フレーム数を確保する上で必要な撮像回数が増加し、総フレーム数の撮像に要する時間が増加する。また、超解像画像の生成に用いない撮像画像X2を取得する際に試料Xに励起光が照射されている場合、試料Xのダメージ増加、退色を招く可能性がある。
図21(A)は、GE照明モードの説明図を示す図である。GE照明モードにおいて、1行の画素群PX1の露光開始が可能になる時刻t10から、1行の画素群PXJの露光開始が可能になる時刻t11までの間、第1励起光L2および第2励起光L3の照射が停止される。そして、時刻t11において、第1励起光L2の照射が開始され、1行の画素群PX1の露光終了時刻t12において、第1励起光L2の照射が停止される。このフレーム期間Tf4においては、露光期間にわたって、ほぼ蛍光L5のみが入射するので、蛍光L5に対応する構造を区別することが容易な撮像画像が得られる。また、1行の画素群PXJの露光開始が可能になる時刻t13において、第2励起光L3の照射が開始され、1行の画素群PX1の露光終了時刻t14において、第2励起光L3の照射が停止される。このフレーム期間Tf5においては、露光期間にわたって、ほぼ蛍光L7のみが入射するので、蛍光L7に対応する構造を区別することが容易な撮像画像が得られる。このように、GE照明モードでは、例えば励起光の波長が切り替わるフレーム期間Tf4、フレーム期間Tf5の双方の撮像画像を超解像画像の生成に用いることができ、撮像部6が行う複数のフレーム期間の撮像のうち画像処理部7の画像処理に用いられるフレーム期間の比率(以下、フレーム利用率という)を、RS照明モードよりも高くすることができる。
図21(B)は、GE照明モードにおける露光効率の説明図である。GE照明モードは、RS照明モードと比較して、フレーム利用率を高くすることができるが、露光効率が低くなる。露光効率は、1つのフレーム期間の長さに占める露光期間の長さの割合である。GE照明モードでは、1つのフレーム期間の長さは、1行の画素群の露光開始が可能な時刻t20から、この1行の画素群の電荷読出時刻t21までの時間(図21(B)の「露光時間」)である。ここでは、露光効率ηは、露光時間をD1とし、通光時間(励起光の照射時間)をD2として、η=D2/D1×100(%)で表される。なお、GE照明モードにおいて、露光時間D1は、通光時間D2と、励起光の照射が停止されている遮光時間D3との和に相当し、概ねD1=D2+D3の関係がある。この式をηの式の右辺に代入すると、η=1/(1+D3/D2)×100(%)となる。ここで、遮光時間D3は、撮像素子40の電荷読出の速度に依存する装置パラメータであり、D2を増加させるほどD3/D2が減少し、ηを増加させることができる。
本実施形態において、制御部42は、上記のフレーム利用率と露光効率との少なくとも一方に基づいて、撮像部6のフレーム期間における励起光(例、第1励起光L2、第2励起光L3)の照射期間(照明モード)を設定する。例えば、制御部42は、照明モードを、RS照明モード(図20(B)参照)またはGE照明モード(図21(A)参照)に設定することで、励起光の照射期間を設定する。
図22は、本実施形態に係る観察方法を示すフローチャートである。ステップS40において、制御部42は、露光時間を決定する。例えば、制御部42は、露光時間をユーザからの指定値、または予め定められた設定値に決定する。ステップS41において、制御部42は、ステップS40で決定した露光時間(D1)を用いて、GE照明モードを採用した場合の露光効率を算出する。例えば、遮光時間D3は装置パラメータであり、D1とD3とからD2が求まるので、ηを求めることができる。ステップS42において、制御部42は、露光効率ηが閾値以上であるか否かを判定する。この閾値は、任意に設定される値であり、例えば90%である。制御部42は、ηが閾値以上であると判定した場合(ステップS42;Yes)、ステップS46において、照明モードをGE照明モードに設定する。この場合、露光効率ηを閾値以上に確保しつつ、RS照明モードに比べてフレーム利用率を高くすることができる。また、制御部42は、露光効率ηが閾値未満であると判定した場合(ステップS42;No)、ステップS43においてRS照明を採用した場合の処理時間を算出する。処理時間は、画像処理に用いないフレーム期間と画像処理に用いるフレーム期間との和であり、例えば、総フレーム数、上記のフレーム利用率、及び1つのフレーム期間の長さから求まる。制御部42は、ステップS44において処理時間が閾値未満であるか否かを判定する。制御部42は、処理時間が閾値未満であると判定した場合(ステップS44;Yes)、ステップS45において、照明モードをRS照明モードに設定する。この場合、処理時間を閾値未満におさえつつ、ノイズの少ない撮像画像が得られる。制御部42は、処理時間が閾値以上であると判定した場合(ステップS44;No)、ステップS46において、照明モードをGE照明モードに設定する。制御部42は、活性化された蛍光物質に対して、GE照明モードまたはRS照明モードにより励起光を照射させ、活性化された蛍光物質からの蛍光の像を撮像部6に複数のフレーム期間で撮像させる。画像処理部7は、撮像部6の撮像結果の少なくとも一部を用いて、1枚の画像を生成する。
なお、ステップS44は、処理時間による判定処理の代わりに、画像処理に用いない撮像画像の枚数(捨てフレームの数、無効フレームの数)が閾値未満であるか否かの判定処理であってもよい。本実施形態において、制御部42は、処理時間に応じた判定処理(ステップS44)を露光効率に応じた判定処理(ステップS42)の後で行うが、ステップS42の判定処理をステップS44の判定処理の後で行ってもよい。例えば、制御部42は、ステップS40の次に、RS照明を採用した場合の処理時間を算出(例、ステップS43)し、次いで処理時間が閾値未満であるか否かの判定を行ってもよい。また、制御部42は、処理時間が閾値未満であると判定した場合にRS照明モードに設定し、処理時間が閾値以上であると判定した場合にステップS42の判定処理を行ってもよい。
なお、制御部42は、処理時間に応じた判定処理(ステップS44)を行わなくてもよい。例えば、制御部42は、ステップS42において露光効率ηが閾値未満であると判定した場合(ステップS42;No)、ステップS43およびステップS44の処理を行わずに、ステップS45において照明モードをRS照明モードに設定してもよい。また、制御部42は、露光効率ηに応じた判定処理(ステップS42)を行わなくてもよい。例えば、制御部42は、ステップS41およびステップS42の処理を行わないで、ステップS43およびステップS44の処理を行って、照明モードをGE照明モードまたはRS照明モードに設定してもよい。
[第6実施形態]
第6実施形態について説明する。本実施形態では、標識に用いられるレポータ色素が2種類であって、露光期間の設定を切り替える他の形態について説明する。レポータ色素は、3種類以上でもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
本実施形態において、制御部42は、活性化光L1の照射タイミングと励起光(第1励起光L2、第2励起光L3)の照射タイミングとの関係に基づいて、撮像部のフレーム期間における励起光の照射期間を設定する。活性化光L1の照射タイミングと励起光(第1励起光L2、第2励起光L3)の照射タイミングとの関係は、例えば、蛍光物質の種類によって定まる。
図23は、照明と撮像のシーケンスの例を示す図である。図23(A)は、例えば、レポータ色素を含みアクティベータ色素を含まない蛍光物質を用いる場合の例である。この場合、活性化光L1の照射と第1励起光L2の照射とを並行して行う。例えば、制御部42は、期間T25において、活性化光L1および第1励起光L2を照射させ、かつ第2励起光L3を照射させないで、撮像部6に複数のフレーム期間で撮像処理を実行させる。また、第2励起光L3についても同様に、活性化光L1と並行して照射を行う。制御部42は、期間T26において、活性化光L1および第2励起光L3を照射させ、かつ第1励起光L2を照射させないで、撮像部6に複数のフレーム期間で撮像処理を実行させる。なお、期間T25と期間T26において活性化光L1の強度は異なってもよい。
図23(A)において、RS照明モードを採用した場合、期間T26の最初のフレーム期間Tf10において、撮像素子40に、第1励起光L2に応じた蛍光物質からの蛍光と第2励起光L3に応じた蛍光物質からの蛍光とが入射する。そのため、フレーム期間Tf10における撮像画像は、例えば画像処理に利用されない。例えば、図23(A)において期間T26には15回のフレーム期間が含まれており、フレーム利用率が14/15となり、GE照明モードを採用する場合と比較して処理時間の増加が無視できる場合が多い。
図23(B)は、例えば、レポータ色素およびアクティベータ色素を含む蛍光物質を用いる場合の例である。この場合、活性化光L1の照射と、第1励起光L2の照射と、第2励起光L3の照射とを、時間的に切り替えて行う。例えば、制御部42は、期間T27において活性化光L1を照射させ、次に期間T28において第1励起光L2を照射させ、かつ第2励起光L3を照射させないで、撮像部6に複数のフレーム期間で撮像処理を実行させる。また、制御部42は、期間T29において活性化光L1を照射させ、次に期間T30において第2励起光L3を照射させ、かつ第1励起光L2を照射させないで、撮像部6に複数のフレーム期間で撮像処理を実行させる。制御部42は、例えば期間T28〜期間T30を含む期間を繰り返し設ける。
図23(B)において、RS照明モードを採用した場合、期間T28の最初のフレーム期間Tf11において、撮像素子40に試料Xから第1励起光L2に応じた蛍光物質からの蛍光が入射する期間は、図20に示した1行の画素群PX1と1行の画素群PXJとで異なることになる。そのため、RS照明モードを採用した場合、フレーム期間Tf11における撮像画像は、例えば画像処理に使われない。例えば、図23(B)において期間T28には、3回のフレーム期間が含まれており、フレーム期間Tf11における撮像画像を用いない場合のフレーム利用率が2/3となり、GE照明モードを採用する場合と比較して処理時間の増加が無視できない場合が多い。また、期間T28において後のフレーム期間になるほど、活性化光L1の照射から時間が経過しており、所望の撮像画像を取得しにくい場合がある。例えば、期間T28において最後のフレーム期間Tf12における撮像画像を画像処理に用いない場合、フレーム利用率はさらに低下して1/3になる。期間T30についても同様に、例えば、最初のフレーム期間Tf13における撮像画像を画像処理に用いない場合、フレーム利用率が2/3となり、さらに、最後のフレーム期間Tf14における撮像画像を画像処理に用いない場合、フレーム利用率が1/3となる。図23(B)において、GE照明モードを採用すると、RS照明モードを採用する場合と比較して、フレーム利用率が高くなり、処理時間を短縮すること等ができる。また、活性化光L1が照射された後の最初のフレームの期間(例、フレーム期間Tf11、フレーム期間Tf13)は、所望の撮像画像を得やすいので、GE照明モードを採用すると、所望の撮像画像を用いて画像処理を行うことができる。
図24は、本実施形態に係る観察方法を示すフローチャートである。ステップS50において、制御部42は、活性化光L1と励起光(第1励起光L2、第2励起光L3)とが並行して照射されるか否かを判定する。例えば、制御部42は、ユーザからの入力情報、あるいは予め記憶装置43などに記憶された設定情報に基づいて、ステップS50の判定処理を行う。例えば、活性化光L1と励起光とを並行して照射されるか否かをユーザが指示し、制御部42は、ユーザの指示を示す入力情報に従って、ステップS50の判定処理を行ってもよい。また、例えば、蛍光物質の種類をユーザが入力し、制御部42は、蛍光物質の種類と、活性化光、励起光の照射タイミングとを関連付けたデータベースを参照して、蛍光物質の種類に応じた活性化光、励起光の照射タイミングの情報を取得し、この情報に基づいて、ステップS50の判定処理を行ってもよい。制御部42は、活性化光L1と励起光とが並行して照射される(例、図23(A))と判定した場合(ステップS50;Yes)、ステップS51において照明モードをRS照明に設定する。また、制御部42は、活性化光L1と励起光とが並行して照射されない(例、図23(B))と判定した場合(ステップS50;No)、ステップS52において照明モードをGE照明に設定する。なお、制御部42は、照明光(例、活性化光L1、第1励起光L2、第2励起光L3)の波長が切り替わる頻度(例、周波数)に応じて、GE照明モードに設定するか、もしくはRS照明モードに設定するかを判定してもよい。例えば、制御部42は、照明光の波長が切り替わる頻度が閾値以上である場合に照明モードをGE照明モードに設定し、照明光の波長が切り替わる頻度が閾値未満である場合に照明モードをRS照明モードに設定してもよい。
[第7実施形態]
第7実施形態について説明する。本実施形態では、3次元の超解像画像を生成するモードについて説明する。照明のシーケンスは、上述した各実施形態のいずれであってもよいし、上述した各実施形態を組み合わせたものでもよい。本実施形態において、上述した実施形態と同様の構成については、同じ符号を付してその説明を、適宜、簡略化あるいは省略する。
図25は、第7実施形態に係る顕微鏡装置を示す図である。本実施形態に係る結像光学系5は、光学部材52を備える。光学部材52は、例えば、シリンドリカルレンズである。光学部材52は、レンズ27とレンズ28との間の光路に挿脱可能に設けられる。光学部材52は、2次元の超解像画像を生成するモードにおいて結像光学系5の光路から退避しており、3次元の超解像画像を生成するモードにおいて結像光学系5の光路に挿入される。光学部材52が結像光学系5の光路に挿入された状態において、蛍光物質からの蛍光の像は、蛍光物質が結像光学系5の合焦位置に近いほど円形に近づき、蛍光物質が結像光学系5の合焦位置から離れるほど扁平率(楕円率)が高くなる。また、蛍光物質が結像光学系5の合焦位置に対して前ピン側に存在する場合と、後ピン側に存在する場合とで、楕円の長軸と短軸の方向が反転するため、扁平率と楕円の長軸、短軸の向きから、合焦位置に対するずれ量およびずれの向きが分かる。顕微鏡装置1は、例えば、キャリブレーションなどによって、予め取得された扁平率と合焦位置に対するずれ量との関係を用いて、結像光学系5の光軸と平行な方向における蛍光物質の位置を算出することができる。
なお、第4実施形態で説明した基準マーカからの光(例、蛍光)の像を撮像する場合も同様であり、この像の扁平率と楕円の長軸、短軸の向きから、結像光学系5の光軸方向における変位(ドリフト量)を算出することもできる。また、画像処理部7は、結像光学系5の光軸方向における変位(ドリフト量)を用いて、補正を行うこともできる。
上述の実施形態において、制御部42は、例えばコンピュータシステムを含む。制御部42は、記憶装置43に記憶されている制御プログラムを読み出し、この制御プログラムに従って各種の処理を実行する。この制御プログラムは、例えば、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、蛍光物質からの蛍光の像を形成し、像を撮像し、撮像の結果を用いて画像処理を行い、撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、顕微鏡装置の制御は、第1の期間において、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、第2の期間において、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を撮像させることと、第2の期間における励起光の照射を停止させること、または、第2の期間における励起光の強度を第1の期間より低減させることと、第1の期間における補助光の照射を停止させること、または、第1の期間における補助光の強度を第2の期間より低減させることと、を含み、画像処理は、第2の期間で得られた撮像結果を用いて、第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む。
また、上記の制御プログラムは、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、蛍光物質からの蛍光の像を結像光学系によって形成し、像を撮像部によって撮像し、撮像の結果を用いて画像処理を行い、撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、撮像部は、第1撮像部および第2撮像部を備え、結像光学系は、活性化された蛍光物質からの蛍光の像を第1撮像部に形成し、基準マーカからの蛍光の像を第2撮像部に形成し、顕微鏡装置の制御は、活性化された蛍光物質に対して励起光を照射させ、活性化された蛍光物質からの光を第1撮像部に複数のフレーム期間で撮像させることと、補助光を基準マーカに対して照射させ、基準マーカからの蛍光の像を第2撮像部に撮像させることと、を含み、画像処理は、第2撮像部の撮像結果を用いて、第1撮像部の撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含むものでもよい。
また、上記の制御プログラムは、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、蛍光物質からの蛍光の像を結像光学系によって形成し、像を撮像部によって撮像し、撮像の撮像結果を用いて画像処理を行い、撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって結像光学系は、活性化された蛍光物質からの蛍光の像を撮像部の第1撮像領域に形成し、基準マーカからの蛍光の像を撮像部の第2撮像領域に形成し、顕微鏡装置の制御は、活性化された蛍光物質に対して励起光を照射させ、基準マーカに対して補助光を照射させ、撮像部に複数のフレーム期間で撮像させることを含み、画像処理は、第2撮像領域で得られる撮像結果を用いて、第1撮像領域で得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含むものでもよい。
また、上記の制御プログラムは、試料に含まれる蛍光物質を活性化する活性化光と、活性化された蛍光物質を励起する励起光とを照射し、蛍光物質からの蛍光の像を形成し、像を撮像部によって撮像し、撮像の結果を用いて画像処理を行い、撮像を制御する顕微鏡装置を制御する制御プログラムであって、撮像部は、CMOSイメージセンサを含み、顕微鏡装置の制御は、撮像部の露光効率、撮像部の撮像結果のうち画像処理に用いられるフレーム期間の比率、及び活性化光の照射タイミングと励起光の照射タイミングとの関係の少なくとも1つに基づいて、撮像部のフレーム期間における励起光の照射期間を設定し、活性化された蛍光物質に対して励起光を照射させることと、活性化された蛍光物質からの蛍光の像を撮像部に複数のフレーム期間で撮像させることと、を含み、画像処理は、撮像の結果の少なくとも一部を用いて、1枚の画像を生成することを含むものでもよい。
上述の各種制御プログラムは、コンピュータ読み取り可能な記憶媒体に記録されて提供されてもよい。
なお、本発明の技術範囲は、上述の実施形態などで説明した態様に限定されるものではない。上述の実施形態などで説明した要件の1つ以上は、省略されることがある。また、上述の実施形態などで説明した要件は、適宜組み合わせることができる。また、法令で許容される限りにおいて、上述の実施形態などで引用した全ての文献の開示を援用して本文の記載の一部とする。
1・・・顕微鏡装置、4・・・照明光学系、5・・・結像光学系、6・・・撮像部
6a・・・第1撮像領域、6b・・・第2撮像領域、7・・・画像処理部、
41・・・制御部、42・・・制御部、55・・・第1撮像部、56・・・第2撮像部

Claims (21)

  1. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射する照明光学系と、
    前記蛍光物質からの蛍光の像を形成する結像光学系と、
    前記結像光学系が形成した像を撮像する撮像部と、
    前記撮像部の撮像結果を用いて画像処理を行う画像処理部と、
    前記撮像部を制御する制御部と、を備える顕微鏡装置であって、
    前記制御部は、
    第1の期間において、前記活性化された蛍光物質に対して前記励起光を照射させ、前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させ、
    第2の期間において、前記補助光を前記基準マーカに対して照射させ、前記基準マーカからの蛍光の像を前記撮像部に撮像させ、
    前記第2の期間における前記励起光の照射を停止させ、または、前記第2の期間における前記励起光の強度を前記第1の期間より低減させ、
    前記第1の期間における前記補助光の照射を停止させ、または、前記第1の期間における前記補助光の強度を前記第2の期間より低減させ、
    前記画像処理部は、
    前記第2の期間で得られた撮像結果を用いて、前記第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する、
    ことを特徴とする顕微鏡装置。
  2. 前記励起光の波長と前記補助光の波長とが互いに異なる、
    ことを特徴とする請求項1に記載の顕微鏡装置。
  3. 前記補助光は前記励起光よりも弱い、
    ことを特徴とする請求項1または請求項2に記載の顕微鏡装置。
  4. 前記制御部は、
    前記第1の期間内に、第1波長期間と第2波長期間とを設け、
    前記第1波長期間において、第1波長の前記励起光を照射させ、前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させ、
    前記第2波長期間において、第2波長の前記励起光を照射させ、前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させ、
    前記画像処理部は、前記第1波長期間における前記撮像部の撮像結果の少なくとも一部と、前記第2波長期間における前記撮像部の撮像結果の少なくとも一部とを用いて少なくとも1枚の画像を形成する、
    ことを特徴とする請求項1〜請求項3のいずれか一項に記載の顕微鏡装置。
  5. 前記制御部は、
    前記第1の期間内に、第1波長期間と第2波長期間とを設け、
    前記第1波長期間において、第1波長の前記励起光を照射させ、前記試料からの光を前記撮像部に1つのフレーム期間で撮像させ、
    前記第2波長期間において、第2波長の前記励起光を照射させ、前記試料からの光を前記撮像部に1つのフレーム期間で撮像させ、
    前記画像処理部は、前記複数の第1波長期間における前記撮像部の撮像結果の少なくとも一部と、前記複数の第2波長期間における前記撮像部の撮像結果の少なくとも一部とを用いて、少なくとも1枚の画像を形成する、
    ことを特徴とする請求項1〜請求項3のいずれか一項に記載の顕微鏡装置。
  6. 前記制御部は、前記第1波長期間と前記第2波長期間とを交互に設ける、
    ことを特徴とする請求項5に記載の顕微鏡装置。
  7. 前記画像処理部は、
    前記第1波長期間における前記撮像部の撮像結果の少なくとも一部および前記第2波長期間における前記撮像部の撮像結果の少なくとも一部を用いて1枚の画像を生成する、
    ことを特徴とする請求項4〜請求項6のいずれか一項に記載の顕微鏡装置。
  8. 前記画像処理部は、
    前記第1波長期間における前記撮像部の撮像結果の少なくとも一部を用いて第1の画像を形成し、前記第2波長期間における前記撮像部の撮像結果の少なくとも一部を用いて第2の画像を形成する、
    ことを特徴とする請求項4〜請求項6のいずれか一項に記載の顕微鏡装置。
  9. 前記画像処理部は、
    前記第1の期間における前記撮像部の撮像結果の少なくとも一部を用いて、前記第1の画像と前記第2の画像との位置関係を補正する、
    ことを特徴とする請求項8に記載の顕微鏡装置。
  10. 前記画像処理部は、前記第1の画像および前記第2の画像を用いて1枚の画像を生成する、
    ことを特徴とする請求項8または請求項9に記載の顕微鏡装置。
  11. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、前記励起光と波長が異なり基準マーカを励起する補助光とを照射する照明光学系と、
    前記蛍光物質からの蛍光の像を形成する結像光学系と、
    前記結像光学系が形成した像を撮像する撮像部と、
    前記撮像部の撮像結果を用いて画像処理を行う画像処理部と、
    前記撮像部を制御する制御部と、を備える顕微鏡装置であって、
    前記撮像部は、第1撮像部および第2撮像部を備え、
    前記結像光学系は、前記活性化された蛍光物質からの蛍光の像を前記第1撮像部に形成し、前記基準マーカからの蛍光の像を前記第2撮像部に形成し、
    前記制御部は、
    前記活性化された蛍光物質に対して前記励起光を照射させ、前記活性化された蛍光物質からの光を前記第1撮像部に複数のフレーム期間で撮像させ、
    前記補助光を前記基準マーカに対して照射させ、前記基準マーカからの蛍光の像を前記第2撮像部に撮像させ、
    前記画像処理部は、
    前記第2撮像部の撮像結果を用いて、前記第1撮像部の撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する、
    ことを特徴とする顕微鏡装置。
  12. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射する照明光学系と、
    前記蛍光物質からの蛍光の像を形成する結像光学系と、
    前記結像光学系が形成した像を撮像する撮像部と、

    前記撮像部の撮像結果を用いて画像処理を行う画像処理部と、
    前記撮像部を制御する制御部と、を備える顕微鏡装置であって、
    前記結像光学系は、前記活性化された蛍光物質からの蛍光の像を前記撮像部の第1撮像領域に形成し、前記基準マーカからの蛍光の像を前記撮像部の第2撮像領域に形成し、
    前記制御部は、前記活性化された蛍光物質に対して前記励起光を照射させ、前記基準マーカに対して前記補助光を照射させ、前記撮像部に複数のフレーム期間で撮像させ、
    前記画像処理部は、
    前記第2撮像領域で得られる撮像結果を用いて、前記第1撮像領域で得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成する、
    ことを特徴とする顕微鏡装置。
  13. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光とを照射する照明光学系と、
    前記蛍光物質からの蛍光の像を形成する結像光学系と、
    前記結像光学系が形成した像を撮像する撮像部と、
    前記撮像部の撮像結果を用いて画像処理を行う画像処理部と、
    前記撮像部を制御する制御部と、を備える顕微鏡装置であって、
    前記撮像部は、CMOSイメージセンサを含み、
    前記制御部は、
    前記撮像部の露光効率、前記撮像部の撮像結果のうち前記画像処理に用いられるフレーム期間の比率、及び前記活性化光の照射タイミングと前記励起光の照射タイミングとの関係の少なくとも1つに基づいて、前記撮像部のフレーム期間における前記励起光の照射期間を設定し、前記活性化された蛍光物質に対して前記励起光を照射させ、
    前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させ、
    前記画像処理部は、
    前記撮像部の撮像結果の少なくとも一部を用いて、1枚の画像を生成する、
    ことを特徴とする顕微鏡装置。
  14. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射することと、
    前記蛍光物質からの蛍光の像を形成することと、
    前記像を撮像することと、
    前記撮像の結果を用いて画像処理を行うことと、
    前記撮像を制御することと、を含む観察方法であって、
    前記制御は、
    第1の期間において、前記活性化された蛍光物質に対して前記励起光を照射させ、前記活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、
    第2の期間において、前記補助光を前記基準マーカに対して照射させ、前記基準マーカからの蛍光の像を撮像させることと、
    前記第2の期間における前記励起光の照射を停止させること、または、前記第2の期間における前記励起光の強度を前記第1の期間より低減させることと、
    前記第1の期間における前記補助光の照射を停止させること、または、前記第1の期間における前記補助光の強度を前記第2の期間より低減させることと、を含み、
    前記画像処理は、
    前記第2の期間で得られた撮像結果を用いて、前記第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする観察方法。
  15. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射することと、
    前記蛍光物質からの蛍光の像を結像光学系によって形成することと、
    前記像を撮像部によって撮像することと、
    前記撮像の結果を用いて画像処理を行うことと、
    前記撮像を制御することと、を含む観察方法であって、
    前記撮像部は、第1撮像部および第2撮像部を備え、
    前記結像光学系は、前記活性化された蛍光物質からの蛍光の像を前記第1撮像部に形成し、前記基準マーカからの蛍光の像を前記第2撮像部に形成し、
    前記制御は、
    前記活性化された蛍光物質に対して前記励起光を照射させ、前記活性化された蛍光物質からの光を前記第1撮像部に複数のフレーム期間で撮像させることと、
    前記補助光を前記基準マーカに対して照射させ、前記基準マーカからの蛍光の像を前記第2撮像部に撮像させることと、を含み、
    前記画像処理は、
    前記第2撮像部の撮像結果を用いて、前記第1撮像部の撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする観察方法。
  16. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射することと、
    前記蛍光物質からの蛍光の像を結像光学系によって形成することと、
    前記像を撮像部によって撮像することと、
    前記撮像の撮像結果を用いて画像処理を行うことと、
    前記撮像を制御することと、を含む観察方法であって、
    前記結像光学系は、前記活性化された蛍光物質からの蛍光の像を前記撮像部の第1撮像領域に形成し、前記基準マーカからの蛍光の像を前記撮像部の第2撮像領域に形成し、
    前記制御は、前記活性化された蛍光物質に対して前記励起光を照射させ、前記基準マーカに対して前記補助光を照射させ、前記撮像部に複数のフレーム期間で撮像させることを含み、
    前記画像処理は、
    前記第2撮像領域で得られる撮像結果を用いて、前記第1撮像領域で得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする観察方法。
  17. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光とを照射することと、
    前記蛍光物質からの蛍光の像を形成することと、
    前記像を撮像部によって撮像することと、
    前記撮像の結果を用いて画像処理を行うことと、
    前記撮像を制御することと、を含む観察方法であって、
    前記撮像部は、CMOSイメージセンサを含み、
    前記制御は、
    前記撮像部の露光効率、前記撮像部の撮像結果のうち前記画像処理に用いられるフレーム期間の比率、及び前記活性化光の照射タイミングと前記励起光の照射タイミングとの関係の少なくとも1つに基づいて、前記撮像部のフレーム期間における前記励起光の照射期間を設定し、前記活性化された蛍光物質に対して前記励起光を照射させることと、
    前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させることと、を含み、
    前記画像処理は、
    前記撮像の結果の少なくとも一部を用いて、1枚の画像を生成することを含む、
    ことを特徴とする観察方法。
  18. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、前記蛍光物質からの蛍光の像を形成し、前記像を撮像し、前記撮像の結果を用いて画像処理を行い、前記撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、
    前記顕微鏡装置の制御は、
    第1の期間において、前記活性化された蛍光物質に対して前記励起光を照射させ、前記活性化された蛍光物質からの蛍光の像を複数のフレーム期間で撮像させることと、
    第2の期間において、前記補助光を前記基準マーカに対して照射させ、前記基準マーカからの蛍光の像を撮像させることと、
    前記第2の期間における前記励起光の照射を停止させること、または、前記第2の期間における前記励起光の強度を前記第1の期間より低減させることと、
    前記第1の期間における前記補助光の照射を停止させること、または、前記第1の期間における前記補助光の強度を前記第2の期間より低減させることと、を含み、
    前記画像処理は、
    前記第2の期間で得られた撮像結果を用いて、前記第1の期間で得られた撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする制御プログラム。
  19. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、前記蛍光物質からの蛍光の像を結像光学系によって形成し、前記像を撮像部によって撮像し、前記撮像の結果を用いて画像処理を行い、前記撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、
    前記撮像部は、第1撮像部および第2撮像部を備え、
    前記結像光学系は、前記活性化された蛍光物質からの蛍光の像を前記第1撮像部に形成し、前記基準マーカからの蛍光の像を前記第2撮像部に形成し、
    前記顕微鏡装置の制御は、
    前記活性化された蛍光物質に対して前記励起光を照射させ、前記活性化された蛍光物質からの光を前記第1撮像部に複数のフレーム期間で撮像させることと、
    前記補助光を前記基準マーカに対して照射させ、前記基準マーカからの蛍光の像を前記第2撮像部に撮像させることと、を含み、
    前記画像処理は、
    前記第2撮像部の撮像結果を用いて、前記第1撮像部の撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする制御プログラム。
  20. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光と、基準マーカを励起する補助光とを照射し、前記蛍光物質からの蛍光の像を結像光学系によって形成し、前記像を撮像部によって撮像し、前記撮像の撮像結果を用いて画像処理を行い、前記撮像を制御する顕微鏡装置の制御をコンピュータに実行させる制御プログラムであって、
    前記結像光学系は、前記活性化された蛍光物質からの蛍光の像を前記撮像部の第1撮像領域に形成し、前記基準マーカからの蛍光の像を前記撮像部の第2撮像領域に形成し、
    前記顕微鏡装置の制御は、前記活性化された蛍光物質に対して前記励起光を照射させ、前記基準マーカに対して前記補助光を照射させ、前記撮像部に複数のフレーム期間で撮像させることを含み、
    前記画像処理は、
    前記第2撮像領域で得られる撮像結果を用いて、前記第1撮像領域で得られる撮像結果の少なくとも一部を補正し、補正後の撮像結果の少なくとも一部を用いて1枚の画像を生成することを含む、
    ことを特徴とする制御プログラム。
  21. 試料に含まれる蛍光物質を活性化する活性化光と、前記活性化された蛍光物質を励起する励起光とを照射し、前記蛍光物質からの蛍光の像を形成し、前記像を撮像部によって撮像し、前記撮像の結果を用いて画像処理を行い、前記撮像を制御する顕微鏡装置を制御する制御プログラムであって、
    前記撮像部は、CMOSイメージセンサを含み、
    前記顕微鏡装置の制御は、
    前記撮像部の露光効率、前記撮像部の撮像結果のうち前記画像処理に用いられるフレーム期間の比率、及び前記活性化光の照射タイミングと前記励起光の照射タイミングとの関係の少なくとも1つに基づいて、前記撮像部のフレーム期間における前記励起光の照射期間を設定し、前記活性化された蛍光物質に対して前記励起光を照射させることと、
    前記活性化された蛍光物質からの蛍光の像を前記撮像部に複数のフレーム期間で撮像させることと、を含み、
    前記画像処理は、
    前記撮像の結果の少なくとも一部を用いて、1枚の画像を生成することを含む、
    ことを特徴とする制御プログラム。
JP2017508871A 2015-03-27 2015-03-27 顕微鏡装置、観察方法、及び制御プログラム Active JP6451833B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/059814 WO2016157345A1 (ja) 2015-03-27 2015-03-27 顕微鏡装置、観察方法、及び制御プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018232540A Division JP6753454B2 (ja) 2018-12-12 2018-12-12 顕微鏡装置、観察方法、及び制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2016157345A1 true JPWO2016157345A1 (ja) 2017-12-28
JP6451833B2 JP6451833B2 (ja) 2019-01-16

Family

ID=57004003

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017508871A Active JP6451833B2 (ja) 2015-03-27 2015-03-27 顕微鏡装置、観察方法、及び制御プログラム

Country Status (4)

Country Link
US (1) US20180017773A1 (ja)
EP (1) EP3276334B1 (ja)
JP (1) JP6451833B2 (ja)
WO (1) WO2016157345A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019108696B3 (de) 2019-04-03 2020-08-27 Abberior Instruments Gmbh Verfahren zum Erfassen von Verlagerungen einer Probe gegenüber einem Objektiv
EP3822687A1 (en) * 2019-11-15 2021-05-19 Leica Microsystems CMS GmbH Optical imaging device for a microscope
CN117396749A (zh) * 2021-05-27 2024-01-12 索尼集团公司 信息处理方法、信息处理装置及程序

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004194711A (ja) * 2002-12-16 2004-07-15 Matsushita Electric Ind Co Ltd 超音波診断装置および超音波プローブ
JP2005331887A (ja) * 2004-05-21 2005-12-02 Keyence Corp 蛍光顕微鏡、蛍光顕微鏡装置を使用した表示方法、蛍光顕微鏡画像表示プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2006194711A (ja) * 2005-01-13 2006-07-27 Matsushita Electric Ind Co Ltd 蛍光発光色素の性能評価方法および性能評価装置
JP2010500563A (ja) * 2006-08-07 2010-01-07 プレジデント アンド フェローズ オブ ハーバード カレッジ 回折限界以下の画像解像技術および他の画像化技術
JP2013101124A (ja) * 2005-05-23 2013-05-23 Harald F Hess 光変換可能な光学標識を用いる光学顕微鏡法
JP5392406B2 (ja) * 2010-06-11 2014-01-22 株式会社ニコン 顕微鏡装置、観察方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005331889A (ja) * 2004-05-21 2005-12-02 Keyence Corp 蛍光顕微鏡及び蛍光観察方法
DE102010036709A1 (de) * 2010-07-28 2012-02-02 Leica Microsystems Cms Gmbh Einrichtung und Verfahren zur mikroskopischen Bildaufnahme einer Probenstruktur
WO2012037058A1 (en) * 2010-09-14 2012-03-22 Albert Einstein College Of Medicine Of Yeshiva University Methods and apparatus for imaging molecules in living systems
WO2013016356A1 (en) * 2011-07-25 2013-01-31 Mad City Labs, Inc. Active-feedback positional drift correction in a microscope image using a fiduciary element held on a nanopositioning stage
US9435993B2 (en) * 2013-03-24 2016-09-06 Bruker Nano, Inc. Three dimensional microscopy imaging

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004194711A (ja) * 2002-12-16 2004-07-15 Matsushita Electric Ind Co Ltd 超音波診断装置および超音波プローブ
JP2005331887A (ja) * 2004-05-21 2005-12-02 Keyence Corp 蛍光顕微鏡、蛍光顕微鏡装置を使用した表示方法、蛍光顕微鏡画像表示プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2006194711A (ja) * 2005-01-13 2006-07-27 Matsushita Electric Ind Co Ltd 蛍光発光色素の性能評価方法および性能評価装置
JP2013101124A (ja) * 2005-05-23 2013-05-23 Harald F Hess 光変換可能な光学標識を用いる光学顕微鏡法
JP2010500563A (ja) * 2006-08-07 2010-01-07 プレジデント アンド フェローズ オブ ハーバード カレッジ 回折限界以下の画像解像技術および他の画像化技術
JP5392406B2 (ja) * 2010-06-11 2014-01-22 株式会社ニコン 顕微鏡装置、観察方法

Also Published As

Publication number Publication date
EP3276334A1 (en) 2018-01-31
US20180017773A1 (en) 2018-01-18
EP3276334B1 (en) 2023-11-22
EP3276334A4 (en) 2019-04-24
WO2016157345A1 (ja) 2016-10-06
JP6451833B2 (ja) 2019-01-16

Similar Documents

Publication Publication Date Title
US8704196B2 (en) Combination microscopy
US11086115B2 (en) Microscope device, viewing method, and control program
US10725278B2 (en) Microscope, observation method, and storage medium
US9921398B2 (en) Drive control method for objective lens and fluorescence microscope system
JP2005284136A (ja) 観察装置および観察装置の焦点合わせ方法
JP6451833B2 (ja) 顕微鏡装置、観察方法、及び制御プログラム
JP5346635B2 (ja) 蛍光観察装置
US8994806B2 (en) Microscope apparatus chronologically storing different types of image information
JP6822483B2 (ja) 球面収差補正算出装置、顕微鏡、球面収差補正算出プログラム及び球面収差補正算出方法
US11906431B2 (en) Microscope apparatus
US10823675B2 (en) Microscope, observation method, and a storage medium
JP2008113779A (ja) 角膜内皮撮影装置及び角膜内皮撮影方法
JP6753454B2 (ja) 顕微鏡装置、観察方法、及び制御プログラム
JP4968337B2 (ja) 共焦点顕微鏡装置
WO2013005765A1 (ja) 顕微鏡装置
JP6708289B2 (ja) 顕微鏡、観察方法、及び制御プログラム
JP2020042283A (ja) 顕微鏡装置
JP2016049352A (ja) 内視鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170911

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180827

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181126

R150 Certificate of patent or registration of utility model

Ref document number: 6451833

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250