JP6645506B2 - 構造化照明顕微鏡、観察方法、及び顕微鏡制御プログラム - Google Patents

構造化照明顕微鏡、観察方法、及び顕微鏡制御プログラム Download PDF

Info

Publication number
JP6645506B2
JP6645506B2 JP2017546286A JP2017546286A JP6645506B2 JP 6645506 B2 JP6645506 B2 JP 6645506B2 JP 2017546286 A JP2017546286 A JP 2017546286A JP 2017546286 A JP2017546286 A JP 2017546286A JP 6645506 B2 JP6645506 B2 JP 6645506B2
Authority
JP
Japan
Prior art keywords
light
voltage pattern
image
voltage
interference fringes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017546286A
Other languages
English (en)
Other versions
JPWO2017068620A1 (ja
Inventor
大澤 日佐雄
日佐雄 大澤
文宏 嶽
文宏 嶽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2017068620A1 publication Critical patent/JPWO2017068620A1/ja
Application granted granted Critical
Publication of JP6645506B2 publication Critical patent/JP6645506B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0092Polarisation microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/082Condensers for incident illumination only
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/58Optics for apodization or superresolution; Optical synthetic aperture systems

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Immunology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • Microscoopes, Condenser (AREA)
  • Liquid Crystal (AREA)

Description

本発明は、構造化照明顕微鏡、観察方法、及び顕微鏡制御プログラムに関する。
顕微鏡装置において、光学系の分解能を越えた観察を可能とする超解像顕微鏡がある。この超解像顕微鏡の一形態として、縞パターン(構造化照明)により標本を照明して変調画像を取得し、その変調画像を復調することにより、標本の超解像画像を生成する構造化照明顕微鏡(SIM:Structured Illumination Microscopy)が知られている(例えば、特許文献1を参照)。この手法においては、光源から射出された光束を回折格子等により複数の光束に分岐し、それらの光束を標本の中で互いに干渉させることで形成された干渉縞で標本を照明することにより、標本の変調画像を取得している。構造化照明顕微鏡では、構造化照明の位相および方位を変化させるので、取得する画像の枚数が増える。そのため、構造化照明装置は、構造化照明を高速で切り替え可能であることが期待される。
構造化照明の切り替えの高速化を実現する技術として、非特許文献1に開示された技術がある。非特許文献1では、回折格子として、空間光変調器(Spatial Light Modulator;SLM)を用いる。SLMは、各画素の電圧を制御することで、構造化照明の方位と位相とを変化させることができるため、機械的な駆動が不要となる。SLMに強誘電性液晶(Ferroelectric Liquid Crystal;FLC)を用いる場合、分子が自発分極を持つため、ネマティック液晶に比べて、より高速な動作が可能となる。
FLCタイプのSLMは、例えば、複数の画素電極が形成された第1基板と、透明電極が形成された第2基板と、第1基板と第2基板との間に配置された強誘電性液晶層とを備える。SLMは、例えば、画素電極にプラス電位となる電圧と、マイナス電位となる電圧を印加する。第1基板と第2基板との電位差の時間総和が0でない場合、すなわち電圧の直流成分が存在する場合、直流成分の偏りにより強誘電性液晶の内部イオンが1方向に引き付けられ、焼付が生じる。一般に、基板間の電界による焼付は、電極間に印加された電圧の直流成分を打ち消すように逆電圧を印加することにより、防止することが行われている(例えば、特許文献1参照)。例えば、表示期間と非表示期間とを交互に設け、非表示期間において表示期間とは逆の電圧を印加することで、焼付を防止するのである。
特許第5301223号明細書
しかしながら、構造化照明顕微鏡において、逆電圧を印加する時間が多くなると、画像取得のフレームレートが低下してしまう。
本発明の態様に従えば、複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器と、光変調器から射出された複数の光束の少なくとも一部により形成される干渉縞によって標本を照明する照明光学系と、干渉縞が照射された標本の像を撮像して画像を生成する撮像装置と、撮像装置により生成された画像を複数用いて、標本の画像を生成する復調部と、制御部と、を備える構造化照明顕微鏡であって、制御部は、撮像装置が像を撮像する間に、複数の画素電極の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加する、構造化照明顕微鏡が提供される。
本発明の態様に従えば、複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器と、光変調器から射出された複数の光束の少なくとも一部により形成される干渉縞によって標本を照明する照明光学系と、干渉縞が照射された標本の像を撮像して画像を生成する撮像装置と、撮像装置により生成された画像を複数用いて、標本の画像を生成する復調部と、制御部と、を備える構造化照明顕微鏡であって、制御部は、撮像装置が像を撮像する第1フレーム期間において複数の画素電極の少なくとも一部に第1電圧パターンを印加し、像を撮像する第2フレーム期間において第1電圧パターンに対して反転した第2電圧パターンを印加し、復調部は、少なくとも、第1フレーム期間で撮像された画像と、第2フレーム期間で撮像された画像とを用いて、復調処理を行う、構造化照明顕微鏡が提供される。
本発明の態様に従えば、複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器によって、光源からの光を複数の回折光に分岐することと、複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明することと、干渉縞が照射された標本の像を撮像することと、撮像された画像を複数用いて、復調処理を行うことと、像を撮像する間に、複数の画素電極の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加することと、を含む観察方法が提供される。
本発明の態様に従えば、複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器によって、光源からの光を複数の回折光に分岐することと、複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明することと、干渉縞が照射された標本の像を撮像することと、撮像された画像を複数用いて、復調処理を行うことと、像を撮像する第1フレーム期間において複数の画素電極の少なくとも一部に第1電圧パターンを印加し、像を撮像する第2フレーム期間において第1電圧パターンに対して反転した第2電圧パターンを印加することと、少なくとも、第1フレーム期間で撮像された画像と、第2フレーム期間で撮像された画像を用いて、復調処理を行うことと、を含む観察方法が提供される。
本発明の態様に従えば、複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器によって、光源からの光を複数の回折光に分岐することと、複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明することと、干渉縞が照射された標本の像を撮像することと、撮像された画像を複数用いて、復調処理を行うことと、像を撮像する間に、複数の画素電極の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加することと、をコンピュータに実行させる顕微鏡制御プログラムが提供される。
本発明の態様に従えば、複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器によって、光源からの光を複数の回折光に分岐することと、複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明することと、干渉縞が照射された標本の像を撮像することと、撮像された画像を複数用いて、復調処理を行うことと、像を撮像する第1フレーム期間において複数の画素電極の少なくとも一部に第1電圧パターンを印加し、像を撮像する第2フレーム期間において第1電圧パターンに対して反転した第2電圧パターンを印加することと、少なくとも、第1フレーム期間で撮像された画像と、第2フレーム期間で撮像された画像を用いて、復調処理を行うことと、をコンピュータに実行させる顕微鏡制御プログラムが提供される。
本発明の第1の態様に従えば、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含み、光源からの光を複数の回折光に分岐する分岐部と、複数の回折光の少なくとも一部により形成される干渉縞によって標本を照明する照明光学系と、干渉縞が照射された標本の像を形成する結像光学系と、結像光学系が形成した像を撮像する撮像装置と、撮像装置により撮像された画像を複数用いて、復調処理を行う復調部と、干渉縞の方向および位相を制御する制御部と、を備える構造化照明顕微鏡であって、制御部は、撮像装置が撮像する1フレーム期間において、複数の画素電極の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加する、ことを特徴とする構造化照明顕微鏡が提供される。
本発明の第2の態様に従えば、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含み、光源からの光を複数の回折光に分岐する分岐部と、複数の回折光の少なくとも一部により形成される干渉縞によって標本を照明する照明光学系と、干渉縞が照射された標本の像を形成する結像光学系と、結像光学系が形成した像を撮像する撮像装置と、撮像装置により撮像された画像を複数用いて、復調処理を行う復調部と、干渉縞の方向および位相を制御する制御部と、を備える構造化照明顕微鏡であって、制御部は、撮像装置が撮像する第1フレームの期間において複数の画素電極の少なくとも一部に第1電圧パターンを印加し、標本を撮像する第2フレームの期間において第1電圧パターンに対して反転した第2電圧パターンを印加し、復調部は、少なくとも、第1フレーム期間で撮像された画像と、第2フレーム期間で撮像された画像を用いて、復調処理を行う、ことを特徴とする構造化照明顕微鏡が提供される。
本発明の第3の態様に従えば、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含む分岐部によって、光源からの光を複数の回折光に分岐することと、複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明することと、干渉縞が照射された標本の像を形成することと、像を撮像することと、撮像された画像を複数用いて、復調処理を行うことと、干渉縞の方向および位相を制御することと、を含む観察方法であって、制御は、撮像の1フレーム期間において、複数の画素電極の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加する、ことを特徴とする観察方法が提供される。
本発明の第4の態様に従えば、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含む分岐部によって、光源からの光を複数の回折光に分岐することと、複数の回折光の少なくとも一部により形成される干渉縞によって標本を照明することと、干渉縞が照射された標本の像を形成することと、結像光学系が形成した像を撮像することと、撮像された画像を複数用いて、復調処理を行うことと、干渉縞の方向および位相を制御することと、を含む観察方法であって、制御は、標本を撮像する第1フレームの期間において複数の画素電極の少なくとも一部に第1電圧パターンを印加し、標本を撮像する第2フレームの期間において第1電圧パターンに対して反転した第2電圧パターンを印加することを含み、復調処理は、少なくとも、第1フレーム期間で撮像された画像と、第2フレーム期間で撮像された画像を用いる、ことを特徴とする観察方法が提供される。
本発明の第5の態様に従えば、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含む分岐部によって、光源からの光を複数の回折光に分岐し、複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明し、干渉縞が照射された標本の像を形成し、像を撮像し、撮像された画像を複数用いて復調処理を行い、干渉縞の方向および位相を制御する、構造化照明顕微鏡の制御をコンピュータに実行させる顕微鏡制御プログラムであって、制御は、撮像の1フレーム期間において、複数の画素電極の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加することを含む、ことを特徴とする顕微鏡制御プログラムが提供される。
本発明の第6の態様に従えば、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含む分岐部によって、光源からの光を複数の回折光に分岐し、複数の回折光の少なくとも一部により形成される干渉縞によって標本を照明し、干渉縞が照射された標本の像を形成し、結像光学系が形成した像を撮像し、撮像された画像を複数用いて、復調処理を行い、干渉縞の方向および位相を制御する、構造化照明顕微鏡の制御をコンピュータに実行させる顕微鏡制御プログラムであって、制御は、標本を撮像する第1フレームの期間において複数の画素電極の少なくとも一部に第1電圧パターンを印加し、標本を撮像する第2フレームの期間において第1電圧パターンに対して反転した第2電圧パターンを印加することを含み、復調処理は、少なくとも、第1フレーム期間で撮像された画像と、第2フレーム期間で撮像された画像を用いる、ことを特徴とする顕微鏡制御プログラムが提供される。
本実施形態の構造化照明顕微鏡を示す図である。 分岐部の光変調器を示す図である。 光変調器の各画素における変調を示す説明図である。 2D−SIMモードにおける電圧パターンおよび干渉縞を示す概念図である。 干渉縞の条件の一例を示す図である。 2D−SIMモードにおける構造化照明顕微鏡の動作を示す図である 干渉縞の各位相の形成に使われる電圧パターンの例を示す概念図である。 光変調器および撮像素子の動作を示すタイミングチャートである。 光変調器および撮像素子の動作の他の例を示すタイミングチャートである。 3D−SIMモードにおける光源部から標本までの光路を示す図である。 3D−SIMモードにおける電圧パターン及び干渉縞を示す概念図である。 3D−SIMモードにおける干渉縞の条件の一例を示す図である。 光変調器および撮像素子の動作を示すタイミングチャートである。 光変調器の向きと、偏光分離素子から出射する照明光との関係を示す説明図である。 干渉縞の例を示す図である。
次に、図面を参照しながら実施形態について説明する。図1は、本実施形態の構造化照明顕微鏡1を示す図である。構造化照明顕微鏡1は、構造化照明装置2と、撮像装置3と、制御装置4と、表示装置5と、記憶装置6とを備える。構造化照明顕微鏡1は、例えば蛍光顕微鏡であり、予め蛍光染色された細胞などを含む標本Xの観察などに利用される。標本Xは、例えば、不図示のステージに保持される。
構造化照明顕微鏡1は、概略すると以下のように動作する。構造化照明装置2は、干渉縞を形成し、干渉縞で標本Xを照明する。撮像装置3は、干渉縞により照明されている標本Xの蛍光像を撮像する。この蛍光像は、干渉縞により変調された変調像(例、モアレ像)を含む。制御装置4は、構造化照明顕微鏡1の各部を制御する。すなわち、制御装置4は、構造化照明装置2を制御して干渉縞を複数の状態に切り替え、撮像装置3に複数の干渉縞における標本Xの像を撮像させ、それら複数の画像を用いて復調処理を行い撮像装置3の光学系の解像限界を超えた超解像画像を形成し、表示装置5に表示させる。制御装置4は、さらに、形成した超解像画像のデータを記憶装置6に記憶させることができる。
構造化照明顕微鏡1は、標本Xのうち観察対象の面(以下、標本面という)の2次元的な超解像画像を形成する2D−SIMモードと、標本面に垂直な方向の情報を含む3次元的な3次元超解像画像を形成する3D−SIMモードとを備える。まず、2D−SIMモードについて説明し、次に3D−SIMモードについて説明する。
構造化照明装置2は、光源部11(光源装置)と、偏光分離素子12と、分岐部13と、照明光学系14と、制御部15とを備える。制御部15は、例えば制御装置4に設けられるが、制御装置4と別に設けられていてもよい。以下の説明において、図1などに示すXYZ直交座標系を適宜参照する。このXYZ直交座標系において、Z方向は、結像光学系35(後述する)の光軸と平行な方向である。また、X方向はZ方向と直交する任意の方向であり、Y方向はX方向およびZ方向のそれぞれに直交する方向である。
光源部11は、例えば、光源20、導光部材21、及びコリメータ22を含む。光源20は、例えばレーザダイオードを含み、レーザ光などの可干渉光を発する。以下の説明において、光源20から発せられた光を照明光という。構造化照明顕微鏡1により蛍光観察を行う場合、照明光の波長は、標本Xに含まれる蛍光物質の励起波長を含む波長帯に設定される。導光部材21は、例えば光ファイバーを含み、光源20からの照明光をコリメータ22へ導く。コリメータ22は、導光部材21からの照明光を平行光に変換する。
なお、光源部11の少なくとも一部は、構造化照明装置2に含まれていなくてもよい。例えば、光源部11は、ユニット化されており、構造化照明装置2に交換可能(取り付け可能、取り外し可能)に設けられていてもよい。例えば、光源部11は、構造化照明顕微鏡1による観察時などに、構造化照明装置2に取り付けられてもよい。
偏光分離素子12は、例えば偏光ビームスプリッタプリズムである。偏光分離素子12は、コリメータ22の光軸に対して例えば45°傾いた偏光分離膜12aを有する。この偏光分離膜12aは、偏光分離膜12aに対するP偏光が透過し、偏光分離膜12aに対するS偏光が反射する特性を有する。ここでは、光源部11は、照明光として偏光分離膜12aに対するP偏光(X方向の偏光)を射出し、コリメータ22からの照明光は、偏光分離膜12aを透過して、分岐部13に入射する。
分岐部13は、光源からの光を複数の回折光に分岐する。図1には、複数の光束のうち0次回折光(実線で示す)、+1次回折光(破線で示す)、及び−1次回折光(2点鎖線で示す)を代表的に示した。以下の説明において、回折光のうち+1次回折光と−1次回折光の一方または双方を指す場合に、単に1次回折光と表記する。分岐部13は、制御部15に制御され、周期構造の状態(位相および方向)を制御部15から指示された状態に変更可能である。
分岐部13は、例えば、偏光分離素子12からの照明光の偏光状態をP偏光からS偏光に変換する。分岐部13から射出された照明光は、分岐部13が位相板の機能を兼ね備えていることから、S偏光になっており、偏光分離素子12の偏光分離膜12aで反射し、照明光学系14に入射する。分岐部13の構成については、図2、図3などを参照して後述する。
照明光学系14は、複数の回折光の少なくとも一部により形成される干渉縞によって標本を照明する。例えば、照明光学系14は、2D−SIMモードにおいて、複数の回折光のうち+1次回折光と−1次回折光との干渉により形成される干渉縞によって標本を照明する。2D−SIMモードにおいて、照明光学系14は、例えば、+1次回折光と−1次回折光との干渉縞を形成し、0次回折光および2次以上の回折光を干渉縞の形成に用いない。なお、照明光学系14は、±1次回折光以外の回折光により干渉縞を形成してもよい(以下、同様)。例えば、照明光学系14は、+1次回折光と+3次回折光との干渉縞を形成してもよいし、0次回折光と2次回折光との干渉縞を形成してもよい。照明光学系14は、例えば、球面レンズ、非球面レンズなどの回転対称な形状のレンズ部材を含む。以下、このレンズ部材の対称軸を、照明光学系14の光軸14aという。なお、照明光学系14は、自由曲面レンズを含んでいてもよい。
照明光学系14は、分岐部13から標本Xに向かう順に、レンズ25、1/2波長板26、マスク27、レンズ28、視野絞り29、レンズ30、フィルタ31、ダイクロイックミラー32、及び対物レンズ33を含む。なお、照明光学系14は、光源部11の少なくとも一部を含んでいてもよいし、偏光分離素子12を含んでいてもよく、分岐部13を含んでいてもよい。
分岐部13で発生した回折光は、偏光分離素子12を介してレンズ25に入射する。レンズ25は、例えば、その焦点が分岐部13とほぼ一致するように、配置される。レンズ25は、対物レンズ33の後側焦点面(瞳面)と共役な位置である、いわゆる瞳共役面P1において、分岐部13で分岐した複数の光束のうち同じ次数の回折光を対応する位置に集光する。レンズ25は、分岐部13で発生した+1次回折光を、瞳共役面P1において、光軸14aから離れた位置に集光する。レンズ25は、分岐部13で発生した−1次回折光を、光軸14aに関して+1次回折光と対称的な位置に集光する。
1/2波長板26は、例えばレンズ25とレンズ28との間の光路に配置され、標本Xに入射する際の照明光の標本面に対する偏光状態がS偏光になるように、照明光の偏光状態を調整する。例えば、1次回折光が0次回折光に対して偏向する方向(以下、回折方向という)がXZ面内にある場合、1/2波長板26は、照明光学系14から射出される照明光の偏光状態がY方向の直線偏光になるように、照明光の偏光状態を調整する。分岐部13において回折方向が変更されると標本Xに対する1次回折光の入射面がZ方向の周りで回転するため、1/2波長板26は、回折方向に応じて照明光の偏光状態を調整する。なお、1/2波長板26は、偏光分離素子12と標本Xとの間の光路のいずれの位置に配置されていてもよい。
マスク27は、干渉縞の形成に使われる回折光を通し、干渉縞の形成に使われない回折光を遮断する。マスク27は、2D−SIMモードにおいて、1次回折光を通し、0次回折光および2次以上の回折光を遮断する。マスク27は、0次回折光の光路と1次回折光の光路とが分離する位置、例えば、対物レンズ33の後側焦点面と共役な面(瞳共役面P1)に配置される。マスク27は、例えば開口絞りであり、標本Xに入射する光線の回折光を制限する。マスク27は、0次回折光が入射する部分が遮光部になっており、1次回折光が入射する分が開口部(透過部)になっている。なお、マスク27において0次回折光が入射する部分は、0次回折光の通過と遮断とを切り替え可能なシャッタ部になっていていて、本2D−SIMモードでは閉じていてもよい。
マスク27を通った照明光は、レンズ28に入射する。レンズ28は、分岐部13と光学的に共役な面(以下、中間像面28aという)を形成する。視野絞り29は、例えば中間像面28aに配置される。視野絞り29は、照明光学系14の光軸14aに垂直な面内において、照明光学系14から標本Xに照明光が照射される範囲(照野、照明領域)を規定する。
視野絞り29を通った照明光は、レンズ30に入射する。レンズ30は、分岐部13上の各点からの±1次光を対物レンズ33の後ろ側焦点面(瞳面P0)のそれぞれ対応する位置に集光する。つまり、レンズ30は、分岐部13上の各点からの−1次回折光を、照明光学系14の光軸に関して+1次回折光と対称的な位置に集光する。
レンズ30を通った照明光は、フィルタ31に入射する。フィルタ31は、例えば励起フィルタであり、標本Xに含まれる蛍光物質の励起波長を含む波長帯の光が選択的に通る特性を有する。フィルタ31は、光源20の持つ励起光により励起された標本が発する蛍光波長と等しい波長の光を遮断する。フィルタ31を通った光は、ダイクロイックミラー32に入射する。ダイクロイックミラー32は、標本Xに含まれる蛍光物質の励起波長を含む波長帯の光が反射し、標本Xからの光のうち所定の波長帯の光(例、蛍光)が通る特性を有する。フィルタ31からの光は、ダイクロイックミラー32で反射し、対物レンズ33に入射する。
対物レンズ33は、中間像面28aと光学的に共役な面、すなわち分岐部13と光学的に共役な面を、標本上に形成する。つまり、対物レンズ33は、標本上に、構造化照明を形成する。+1次回折光は、対物レンズ33の瞳面P0上で光軸14aから離れた位置に集光される。−1次回折光は、瞳面P0において、光軸14aに関して+1次回折光と対称的な位置に集光される。1次回折光は、対物レンズ33の開口数(NA)に応じた角度で焦点面に入射する。
標本Xは、観察時に、その観察対象の部分が対物レンズ33の前側焦点面に配置される。2DSIMモードにおいて、標本Xには、例えば、+1次回折光と−1次回折光との干渉により干渉縞が形成される。この干渉縞は、例えば、照明光学系14の光軸14aに垂直な方向に光強度の周期的な分布を有する。この干渉縞は、分岐部13の周期方向に応じた方向に、明部と暗部とが周期的に並ぶパターンである。標本Xのうち干渉縞の明部に配置されている部分は、蛍光物質が励起されて、蛍光を発する。この蛍光の像は、照明光学系14が形成する干渉縞と、標本Xにおける蛍光物質の分布(蛍光密度分布)との変調像(モアレ像)である。撮像装置3は、この変調像の画像を取得する。
撮像装置3は、結像光学系35および撮像素子36を備える。結像光学系35は、対物レンズ33、ダイクロイックミラー32、フィルタ37、及びレンズ38を備える。結像光学系35は、対物レンズ33およびダイクロイックミラー32を照明光学系14と共用している。標本Xからの光(以下、観察光という)は、対物レンズ33に入射して平行化され、ダイクロイックミラー32を通ってフィルタ37に入射する。
フィルタ37は、蛍光フィルタである。フィルタ37は、標本Xからの観察光のうち所定の波長帯の光(例、蛍光)が選択的に通る特性を有する。フィルタ37は、例えば、標本Xで反射した照明光、外光、迷光などを遮断する。フィルタ37を通った光は、レンズ38に入射する。レンズ38は、対物レンズ33の前側焦点面(物体面)と光学的に共役な面(像面)を形成する。標本Xからの蛍光による像(モアレ像を含む)は、この像面に形成される。
撮像素子36は、例えばCCDイメージセンサやCMOSイメージセンサなどの二次元イメージセンサを含む。撮像素子36は、例えば、二次元的に配列された複数の画素を有し、各画素にフォトダイオードなどの光電変換素子が配置された構造である。撮像素子36は、例えば、観察光の照射によって光電変換素子に生じた電荷を、読出回路によって読み出す。撮像素子36は、読み出された電荷をデジタルデータ(例、8ビットの階調値)に変換し、画素の位置と階調値とを関連付けたデジタル形式の画像データを出力する。撮像素子36による1フレーム当たりの電荷蓄積時間は、例えば約100ミリ秒、約200ミリ秒などである。
構造化照明顕微鏡1は、撮像装置3が取得した画像を使って復調処理を行う復調部40を備える。復調部40は、例えば、制御装置4に設けられるが、制御装置4と別に設けられていてもよい。2D−SIMモードにおける復調処理には、例えば、干渉縞の周期方向が異なる3状態と、干渉縞の位相が異なる3状態との組み合わせによる9状態の変調像(モアレ像を含む)の画像が用いられる。復調処理の例については後述する。
本実施形態係る分岐部13は、照明光を変調する光変調器(図2などに示す)を含み、この光変調器によって干渉縞の状態(周期方向および位相)を変化させることができる。制御部15は、分岐部13の光変調器を制御して干渉縞を複数の状態に切替えながら、撮像装置3を制御して干渉縞の各状態において標本Xの変調像を取得する。撮像素子36は、結像光学系35により形成された変調像を撮像して、変調画像を生成する。
図2(A)は、分岐部13の光変調器41を示す平面図、図2(B)は光変調器41を示す断面図である。光変調器41は、二次元的に配列された複数の画素Pxを有する。画素Pxは、X方向(例、水平走査方向)とY方向(例、垂直走査方向)のそれぞれに、複数配置されている。光変調器41は、照明光を画素Pxごとに変調することができる。
図2(B)に示すように、光変調器41は、第1基板42と、第1基板42と対向する第2基板43と、第1基板42と第2基板43との間に挟まれた液晶層44とを備える。本実施形態において、光変調器41は、反射型の素子である。光源部11からの照明光L1は、第2基板43に入射し、第2基板を通って液晶層44に入射する。液晶層44を通った照明光は、第1基板42で反射して液晶層44を通り、第2基板43から射出される。なお、光変調器41は、透過型の素子であってもよい。
第2基板43は、ガラスなどの透光性を有する基板に、対向電極45などを形成したものである。対向電極45は、例えば、インジウムスズ酸化物(ITO)などで形成され、透光性を有する。対向電極45は、複数の画素Pxにわたって形成され、複数の画素で共通である。対向電極45は、例えば基準電位に保持される。
第1基板42は、シリコンなどの基板に、素子層46、画素電極47などを形成したものである。画素電極47は、複数の画素Pxのそれぞれに設けられている。画素電極47は、例えば金属材料などで形成される反射電極である。素子層46は、例えば、TFTなどのスイッチング素子、及び走査線や信号線などの配線を含むアクティブマトリックス回路を有する。このアクティブマトリックス回路は、例えば、制御部15から供給される駆動信号(例、画像データ)に基づき、画素電極47のそれぞれに電圧を印加可能である。画素電極47には、アクティブマトリックス回路によって、基準電位に対するプラス電圧(例、+V1)またはマイナス電圧(−V1)が印加される。
液晶層44は、強誘電性液晶(FLC)を含む。強誘電性液晶は、液晶分子が自発分極を持ち、層構造を有する。液晶層44には、画素Pxごとに、対向電極45に対する画素電極47の電圧に応じた電界が印加される。強誘電性液晶は、XY平面内に平行に分布しており、印加される電界により、プラス電圧に応じた配向状態とマイナス電圧に応じた配向状態とに変化する。液晶分子は、屈折率の異方性を有し、入射光(照明光)のうち光学軸(例、進相軸)と平行な方向の偏光成分と、この光学軸に垂直な方向の偏光成分とに異なる位相を付与する。光変調器41は、反射型のSLMであり、入射光が第2基板から第1基板へ向かう往路と、入射光が第1基板で反射して第2基板へ向かう復路とで、入射光が液晶層44を2回分通る。そのため、液晶層44が入射光に付与する位相は、透過型のSLMと比較して2倍になる。液晶層44が入射光に付与する位相Δφは、入射光の波長をλとし、進相軸の方向と遅相軸の方向の屈折率差をΔnとし、液晶層44の厚みをdとすると、Δφ=2πΔn(2d)/λで表される。位相差Δφ=πとなるように、液晶層44の厚みd、屈折率差Δn(液晶材料)を選択すると、光変調器41は、入射光に対して1/2波長板となる。
光変調器41は、各画素において液晶層44に印加される電界を切り替えることにより、光学軸の方向を画素ごとに2状態で切り替えることができる。光変調器41は、入射光に付与する位相を画素ごとに切替えることにより、振幅型あるいは位相型の回折格子として利用可能である。光変調器41は、強誘電性液晶を用いているため、例えば、ネマティック液晶などを用いた場合に比べて、電圧の変化に対する屈折率の変化の速度を向上させることができる。例えば、光変調器41は、マイクロ秒単位で光学軸の方向を2状態に切り替えることができる。
図3(A)は、コリメータ22から光変調器41を介してレンズ25に向かう照明光の光路を示す図である。図3(A)において、符号L1は、光変調器41に入射する照明光を示し、符号L2は、光変調器41の往路および復路を通った照明光を示す。符号L3は、偏光分離素子12の偏光分離膜12aで反射した照明光を示す。このとき、照明光L1は、偏光分離膜12aによって偏光方向が図3(B)においてD1の方向となる。
図3(B)は、光変調器41の各画素Pxにおける変調を示す概念図である。符号D2は、液晶分子のダイレクタ(長軸方向)を示す。液晶分子のコーン中心を照明光L1の偏光方向から数度ずれるように設置することが望ましい。これにより、例えば、3D−SIMモードで使われる0次回折光の強度を十分確保することが容易になる。
プラス電圧が印加された状態における液晶分子のダイレクタD2は、照明光L1の偏光方向D1から反時計回りに角度θ1/2[rad]回転した方向である。また、マイナス電圧が印加された状態における液晶分子のダイレクタD2は、照明光L1の偏光方向から時計回りに角度θ2/2[rad]回転した方向である。
光変調器41は、プラス電圧が印加された画素において、照明光の偏光方向を角度θ1だけ反時計方向に回転させる。また、光変調器41は、マイナス電圧が印加された画素において、照明光の偏光方向を角度θ2だけ時計方向に回転させる。ここで、光変調器41から射出された照明光L2を、X方向の偏光成分とY方向の偏光成分とに分離する。Y方向の偏光成分は、プラス電圧が印加された画素に入射した光線と、マイナス電圧が印加された画素に入射した光線とで位相差がπ[rad]となる。光変調器41は、Y方向の偏光成分に対して位相差π[rad]の回折格子となり、回折光が発生する。また、X方向の偏光成分は、プラス電圧が印加された画素に入射した光線と、マイナス電圧が印加された画素に入射した光線とで位相差が0[rad]となる。この場合、回折光として0次回折光のみが発生する。
光変調器41で回折し、偏光分離素子12に入射した照明光L2は、偏光分離膜12aに対するS偏光(例、Y方向の偏光成分)が偏光分離膜12aで反射してレンズ25へ向かう。X方向の偏光成分(P偏光)は、偏光分離膜12aを通って、標本Xに向かう光路から除かれる。すなわち、照明光L3は、照明光L2のうちY方向の偏光成分を抽出した光であり、プラス電圧が印加された画素を通った場合とマイナス電圧が印加された画素を通った場合とで位相がπずれる。
光変調器41で発生する回折光の回折方向および位相は、複数の画素Pxにおけるプラス電圧が印加された画素Pxとマイナス電圧が印加された画素Pxの分布により定まる。以下の説明において、プラス電圧が印加された画素Pxとマイナス電圧が印加された画素Pxの分布を電圧パターン(電圧分布)という。図1に示した制御部15は、光変調器41にパターンデータを供給し、光変調器41にパターンデータに応じた電圧パターンを形成させることによって、光変調器41で発生する回折光の回折方向および位相を制御する。このパターンデータは、例えば、画素Pxに印加する電圧がプラス電圧であるか、もしくはマイナス電圧であるかを示す階調値(例、0または1)と、この画素Pxの位置とを関連付けたビットマップデータである。
ところで、電界効果により光を変調するSLMは、変調の際に印加される電圧の直流成分の偏りにより強誘電性液晶の内部イオンが1方向に引き付けられ、焼付が生じることがある。
図4(a)、(b)は、電圧パターンを示す図であり、図4(c)、(d)は、+1次回折光と−1次回折光との干渉縞を示す概念図である。図4(a)に示すように、光変調器41は、例えば撮像の1フレーム内の前半期に、電圧パターンDPaを形成する。電圧パターンDPaは、例えば、プラス電圧が印加された画素群Pxaとマイナス電圧が印加された画素群Pxbが、X方向に並んでいる。電圧パターンDPaは、画素群Pxaと画素群Pxbとの組を単位構造PR1として、単位構造PR1が周期的に並ぶパターンである。図4(c)に示される干渉縞IFaは、図4(a)に示した電圧パターンDPaが印加された光変調器41において回折された回折光のうち、+1次回折光と−1次回折光との干渉で形成された干渉縞を示す。干渉縞IFaは、明部A1と暗部A2とを単位構造PR2として、単位構造PR2が周期的に並ぶパターンである。
また、図4(b)に示すように、光変調器41は、例えば撮像の1フレーム内の後半期に、前半期と反転した電圧パターンである電圧パターンDPbを形成する。つまり、電圧パターンDPbは、電圧パターンDPaのプラス電圧とマイナス電圧とを反転したパターンに相当する。周期性を持つ電圧パターンDPbは、単位構造PR1の位相が電圧パターンDPaとπ(1/2周期)ずれた関係になる。また、図4(d)に示される干渉縞IFbは、図4(b)に示した電圧パターンDPbが印加された光変調器41において回折された回折光のうち、+1次回折光と−1次回折光との干渉で形成された干渉縞を示す。干渉縞IFbは、干渉縞IFaと位相が2π(1周期)ずれた干渉縞である。そのため、1フレームの前半期における干渉縞IFaの明部A1の位置には、後半期における干渉縞IFbの明部A1が配置され、前半期における干渉縞IFaの暗部A2の位置には、後半期における干渉縞IFbの暗部A2が配置される。
つまり、電圧パターンDPa(図4(a)参照)を光変調器41に印加することにより干渉縞IFa(図4(c)参照)が形成され、電圧パターンDPb(図4(b)参照)を光変調器41に印加することにより、干渉縞IFa図4(c)参照)と位相が2π(1周期)ずれた干渉縞IFb((図4(d)参照))が形成される。言い換えると、電圧パターンDPaを光変調器41に印加しても、電圧パターンDPbを印加しても同じ干渉縞を形成することができる。一方、光変調器41において、電圧パターンDPaの印加時と電圧パターンDPbの印加時とで、液晶層44に印加される電界の向きが反転するので、焼付の発生が抑制される。したがって、光変調器41における焼付の発生を抑制しつつ、1フレーム内の前半期と後半期とで位相が同じ干渉縞で標本Xを照明することができる。
なお、制御部15は、撮像装置3が撮像する1フレーム期間において、複数の画素電極47の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加すればよい。例えば、1つのフレーム期間に印加される電圧パターンが反転する画素電極47は、複数の画素電極47の一部でもよいし、全部でもよい(以下、同様)。例えば、制御部15は、複数の画素電極47のうち半分の画素電極47において、1つのフレーム期間内で電圧パターンを反転させ、残りの半分の画素電極47において、他の1つのフレーム期間内で電圧パターンを反転させてもよい。
次に、図5〜図9を参照しつつ、構造化照明顕微鏡1の動作に基づいて、2D−SIMモードにおける観察方法について説明する。図5は、干渉縞の条件の一例を示す図である。構造化照明顕微鏡1は、例えば、干渉縞の周期方向を、第1方向と第2方向と第3方向の3方向に切り替える。例えば、第1方向は任意に選択される方向であり、第2方向は第1方向から反時計回りに120°の方向であり、第3方向は第2方向から反時計回りに120°(第1方向から時計回りに−120°)の方向である。
また、構造化照明顕微鏡1は、干渉縞の周期方向の各条件において、位相を3通りに切り替える。例えば、構造化照明顕微鏡1は、干渉縞の周期方向が第1方向に設定されている状態で、干渉縞の位相を0(任意の基準の位相)と、基準の位相に対して2π/3ずれた位相と、基準の位相に対して4π/3ずれた位相との3通りに切り替える。
図6は、2D−SIMモードにおける構造化照明顕微鏡1の動作を示すフローチャートである(構造化照明顕微鏡1の各部については図1〜図3参照)。ステップS11において、制御装置4の制御部15は、干渉縞の条件(位相、方向)を設定する。制御部15は、例えば、干渉縞の周期方向を第1方向に設定し、干渉縞の位相を0に設定する。ステップS12において、制御部15は、ステップS11において設定した干渉縞の条件に応じた駆動信号を光変調器41に供給する。光変調器41は、この駆動信号に従って電圧を各画素に印加することにより、電圧パターンを形成し、構造化照明装置2は、この電圧パターンに応じた干渉縞を標本X上に形成する。ステップS13において、制御部15は、撮像装置3を制御し、干渉縞で照明されている標本Xを撮像する。
ステップS14において、制御部15は、干渉縞の全ての条件における撮像が終了したか否かを判定する。制御部15は、予定されている複数の条件(例、図5に示した9条件)の少なくとも1つに対する撮像が終了していないと判定した場合(ステップS14;No)、ステップS15において干渉縞の条件を変更する。また、ステップS15の処理の終了後に、制御部15は、ステップS12からステップS14の処理を繰り返すことにより、予定されている複数の条件のそれぞれにおいて、標本Xを撮像する。
例えば、制御部15は、例えば、干渉縞の周期方向を第1方向に設定し、干渉縞の位相を0、2π/3、4π/3に切り替えて第1方向に関する3枚の画像を取得する。また、制御部15は、例えば、干渉縞の周期方向を第2方向に設定し、干渉縞の位相を0、2π/3、4π/3に切り替えて第2方向に関する3枚の画像を取得する。制御部15は、例えば、干渉縞の周期方向を第3方向に設定し、干渉縞の位相を0、2π/3、4π/3に切り替えて第3方向に関する3枚の画像を取得する。なお、干渉縞の複数の条件は、いずれの順番で設定されてもよい。
制御部15は、予定されている複数の条件の全ての撮像が完了したと判定した場合(ステップS14;Yes)、ステップS16において復調部40に復調処理を実行させる。復調部40は、複数の条件のそれぞれにおいて撮像装置3が撮像した画像を使って復調処理を実行し、超解像画像のデータを形成する。制御装置4は、例えば、超解像画像のデータを図示略の記憶装置に記憶させる。また、制御装置4は、例えば、超解像画像を表示装置5に表示させる。
図7は、第1方向に関する3枚の画像を取得する際に使われる電圧パターンの例を示す概念図である。図7に示す各電圧パターンにおいて、プラス電圧が印加される画素に相当する部分を白で表し、マイナス電圧が印加される画素に相当する部分を黒で表した。
図7(A)の電圧パターンVPaおよび図7(B)の電圧パターンVPbは、干渉縞の位相が0の条件で用いられる電圧パターンであり、例えば撮像の1フレーム内の前半期に用いられる。電圧パターンVPbは、電圧パターンVPaと反転したパターンであり、例えば撮像の1フレーム内の後半期に用いられる。図7(C)の電圧パターンVPcおよび図7(D)の電圧パターンVPdは、干渉縞の位相が2π/3の条件で用いられる電圧パターンである。VPcは、例えば1フレーム内の前半期に用いられる。電圧パターンVPdは、電圧パターンVPcと反転したパターンであり、例えば撮像の1フレーム内の後半期に用いられる。図7(E)の電圧パターンVPeおよび図7(F)の電圧パターンVPfは、干渉縞の位相が4π/3の条件で用いられる電圧パターンであり、例えば撮像の1フレーム内の前半期に用いられる。電圧パターンVPfは、電圧パターンVPeと反転したパターンであり、例えば撮像の1フレーム内の後半期に用いられる。
図8は、第1方向に関する3枚の画像を取得する際の光変調器41および撮像素子36の動作を示すタイミングチャートである。制御部15は、フレームFr1の前半期が開始されるよりも前に、電圧パターンVPaを示す駆動信号(例、ビットマップデータ)を光変調器41に供給する。光変調器41は、フレームFr1の前半期において、複数の画素電極47の電圧値の分布が電圧パターンVPaとなるように、画素電極47にプラス電位(例、+V1)と、マイナス電位(例、−V1)とを印加する。制御部15は、フレームFr1の後半期が開始されるよりも前に、電圧パターンVPbを示す駆動信号(例、ビットマップデータ)を光変調器41に供給する。光変調器41は、フレームFr1の後半期において、複数の画素電極47の電圧値の分布が電圧パターンVPbとなるように、画素の画素電極47のそれぞれに電位(例、+V1または−V1)を印加する。
フレームFr1の前半期において、光変調器41の液晶層44には駆動信号に応じた電界が印加され、第1基板42側と第2基板43側とで電荷の偏りが生じることがある。しかしながら、フレームFr1の後半期において、光変調器41の液晶層44には駆動信号に応じて前半期と反転した電界が印加されるので、前半期に生じた電荷の偏り(例、焼付)の少なくとも一部が解消される。
図4に示したように、光変調器41が形成する電圧パターンは、前半期と後半期とで反転した関係になるが、標本X上に形成される干渉縞の位相は前半期と後半期とで揃っている(同じとなる)。制御部15は、撮像素子36を制御し、フレームFr1の前半期および後半期にまたがって撮像素子36の各画素の光電変換素子に、標本Xからの光による電荷を蓄積させる。このように、構造化照明顕微鏡1は、撮像素子36の露光期間の一部を使って、光変調器41における焼付の発生を抑制できる。
制御部15は、フレームFr2においても同様に、第3電圧パターンVPcを示す駆動信号および第4電圧パターンVPdを示す駆動信号を、光変調器41に供給する。光変調器41は、フレームFr2の前半期において、複数の画素電極47の電圧値の分布を第3電圧パターンVPc保持にする。光変調器41は、フレームFr2の後半期において、複数の画素電極47の電圧値の分布を第4電圧パターンVPdに保持する。光変調器41は、フレームFr1において電荷の偏りの少なくとも一部が解消されているので、フレームFr2における電圧パターンを精度よく形成することができる。制御部15は、撮像素子36を制御し、フレームFr2の前半期および後半期にまたがって、標本Xからの光による電荷を撮像素子36に蓄積させる。
制御部15は、フレームFr3においても同様に、第5電圧パターンVPeを示す駆動信号および第6電圧パターンVPfを示す駆動信号を、光変調器41に供給する。光変調器41は、フレームFr3の前半期において、複数の画素電極47の電圧値の分布を第5電圧パターンVPeに保持する。光変調器41は、フレームFr3の後半期において、複数の画素電極47の電圧値の分布を第6電圧パターンVPfに保持する。光変調器41は、フレームFr2において電荷の偏りの少なくとも一部が解消されているので、フレームFr3における電圧パターンを精度よく形成することができる。制御部15は、撮像素子36を制御し、フレームFr3の前半期および後半期にまたがって、標本Xからの光による電荷を撮像素子36に蓄積させる。
制御部15は、フレームFr1〜Fr3の撮像により、干渉縞の周期方向が第1方向であって位相が3通りの3枚の画像を取得する。制御部15は、干渉縞の周期方向が第2方向である場合、干渉縞の周期方向が第3方向である場合についても同様にして、画像を取得する。
上述の各フレームにおいて、前半期の長さは、例えば後半期の長さと同じに設定される。なお、各フレームの開始時点から前半期の開始時点までの時間は、任意に設定され、例えば、前半期の開始時点は、各フレームの開始時点とほぼ同時であってもよいし、各フレームの開始時点から所定時間の経過後であってもよい。また、各フレームの前半期の終了時点から後半期の開始時点までの時間は、任意に設定される。例えば、後半期の開始時点は、前半期の終了時点とほぼ同時であってもよいし、前半期の終了時点から所定時間の経過後であってもよい。また、構造化照明装置2は、少なくとも1フレームにおいて前半期と後半期とで電圧パターンを反転させることで焼付の発生を抑制することができ、一部のフレームにおいて前半期と後半期とで電圧パターンを反転させなくてもよい。
図9は、光変調器41および撮像素子36の動作の他の例を示すタイミングチャートである。図9(A)において、光変調器41は、1フレームのうち第1期間t1において、複数の画素電極47の電圧値の分布を第1電圧パターンに保持する。また、光変調器41は、1フレームのうち第2期間t2において、複数の画素電極47の電圧値の分布を、第1電圧パターンと反転した第2電圧パターンに保持する。第1期間t1の長さは、第2期間t2の長さと異なっている。
このような場合においても、光変調器41において、第1期間t1に発生した電荷の偏りの少なくとも一部を、第2期間t2において解消することができる。なお、光変調器41において、第1基板42側と第2基板43側とで電気特性(例、寄生容量)が異なる場合がある。このような場合に、第1期間t1と第2期間t2の相対的な長さを調整することで、光変調器41における電荷の偏りを調整してもよい。
図9(B)において、光変調器41は、1フレームのうち第3期間t3と第5期間t5のそれぞれにおいて、複数の画素電極47の電圧値の分布を第1電圧パターンに保持する。また、光変調器41は、1フレームのうち第4期間t4と第6期間t6のそれぞれにおいて、複数の画素電極47の電圧値の分布を、第1電圧パターンと反転した第2電圧パターンに保持する。例えば、撮像素子36のフレームレートが30fpsであり、光変調器41のリフレッシュレートが120Hzである場合、光変調器41は、撮像の1フレーム期間に電圧パターンを4回切り替えることができる。このような場合、光変調器41は、複数の画素電極47の電圧値の分布を、例えば第1電圧パターンと第2電圧パターンとに交互に2回ずつ保持してもよい。
このように、1フレームにおいて、光変調器41が複数の画素電極47の電圧値の分布を第1電圧パターンに保持する回数は、複数回数であってもよい。また、1フレームにおいて、光変調器41が複数の画素電極47の電圧値の分布を第2電圧パターンに保持する回数は、複数回数であってもよく、第1電圧パターンの回数と同じであってもよいし、異なっていてもよい。
次に、3D−SIMモードについて説明する。図10は、3D−SIMモードにおける光源部11から標本Xまでの光路を示す図である。図10においては、図を見やすくするために標本Xから撮像素子36までの光路を省略したが、撮像装置3は、図1と同様に標本Xを撮像する。
3D−SIMモードにおいて、構造化照明装置2は、+1次回折光と−1回折光との干渉縞、+1次回折光と0次回折光との干渉縞、及び−1次回折光と0次回折光との干渉縞が合成された合成干渉縞を形成する。この合成干渉縞は、例えば、照明光学系14の光出射側の光軸14aに垂直な面内の1方向と、照明光学系14の光出射側の光軸14aに平行な1方向との合計2方向に周期構造を有する。
マスク27は、3D−SIMモードにおいて、0次回折光および1次回折光を通し、2次以上の回折光を遮断する。マスク27は、例えば、0次回折光の通過と遮断とを切り替え可能なシャッタ部を備え、3D−SIMモードにおいては0次回折光が通過するように設けられる。なお、構造化照明装置2は、3D−SIMモードに使用される際に、マスク27を、0次回折光が入射する位置に開口部を有するマスクに交換可能であってもよい。
上述のように3D−SIMモードでは3つの干渉縞が形成されるが、そのうち+1次回折光と−1回折光との干渉縞は2D−SIMモードの場合と同様なので説明を省略し、0次回折光と+1次回折光との干渉縞と0次回折光と−1次回折光との干渉縞のみについて記述する。なお、その際これら2つの干渉縞は全く同位相となることから「0次回折光と1次回折光との干渉縞」と記述する。図11は、電圧パターン、及び0次回折光と1次回折光との干渉縞を示す概念図である。光変調器41は、第1フレームの期間に電圧パターンDPcを形成する。また、光変調器41は、第2フレームの期間に、電圧パターンDPcと反転した電圧パターンDpdを形成する。
3D−SIMモードにおいて、干渉縞IFcは、電圧パターンDPcが印加された光変調器41により回折した0次回折光と1次回折光との干渉により形成される。電圧パターンDPcの反転パターンである電圧パターンDPdにより形成される干渉縞IFdは、電圧パターンDPcにより形成される干渉縞IFcと位相がπずれた関係になる。より詳細に説明すると、0次回折光と1次回折光との干渉は、回折光の次数の差が1であるので、電圧パターンを反転させると、形成される干渉縞の位相がπずれるので、干渉縞IFdは、干渉縞IFcと位相がπずれた関係になる。
一般的に、3D−SIMモードでは、干渉縞の方向を3通りに変更し、干渉縞の位相を5通り以上に変化させて、干渉縞の方向と位相との組み合わせにより15状態以上の干渉縞を形成し、各干渉縞に応じた標本の画像を取得する。本実施形態における構造化照明装置2は、干渉縞の各方向について、干渉縞の位相を偶数(例、2、4、6)通りに変化させる。正の整数uに対して干渉縞の位相の種類を2u通りとおくと、位相の等間隔で変化させる場合、0からu−1までの整数vに対して干渉縞の位相φvは、φv=πv/uで表される。ここで、φvの干渉縞の形成に用いる電圧パターンを反転させると、例えば図11に示したように干渉縞の位相がπずれてπ(v+u)/uになり、位相がφv+uの干渉縞として使うことができる。
図12は、3D−SIMモードにおける干渉縞の条件の一例を示す図である。図12において位相は6通り(0、π/3、2π/3、3π/3、4π/3、5π/3)であり、上述のu=3に相当する。φ1=0、φ2=π/3、φ3=2π/3、φ4=3π/3、φ5=4π/3、φ6=5π/3とおくと、φ1の干渉縞を形成するための電圧パターンとφ4の干渉縞を形成するための電圧パターンとが反転の関係になる。また、φ2の干渉縞を形成するための電圧パターンと、φ5の干渉縞を形成するための電圧パターンとが反転の関係になる。また、φ3の干渉縞を形成するための電圧パターンと、φ6の干渉縞を形成するための電圧パターンとが反転の関係になる。例えば、光変調器41は、位相がφ4の干渉縞を形成する際に、位相φ1の干渉縞の形成時するために印加する電圧パターンと反転する電圧パターンを形成する。
ここで、φ1、φ2、φ3のそれぞれに応じた電圧パターンを含むグループを第1電圧パターン群とする。φ4、φ5、φ6のそれぞれに応じた電圧パターンを含むグループを第2電圧パターン群とする。第2電圧パターン群は、第1電圧パターン群に含まれる電圧パターンと反転した電圧パターンを含むグループである。制御部15は、光変調器41の複数の画素電極47における電圧値の分布を、第1電圧パターン群と第2電圧パターン群とから順に選択される電圧パターンに設定する。第2電圧パターン群に含まれる電圧パターンは、第1電圧パターンに群に含まれる電圧パターンと反転の関係にあることから、光変調器41の液晶層44における電荷の偏り(焼付)の発生が抑制される。
上述のような位相がφ1〜φ6の干渉縞を形成するには、例えば図7に示した6種類の電圧パターンを用いればよい。例えば、図7(A)の電圧パターンVPaを位相がφ1(0)の干渉縞に用いる場合、図7(B)の電圧パターンVPbは、電圧パターンVPaの反転電圧パターンであるので、位相がφ4(3π/3)の干渉縞の形成に使える。図7(C)の電圧パターンVPcを位相がφ3(2π/3)の干渉縞の形成に使用する場合、図7(D)の電圧パターンVPdは、電圧パターンVPcの反転電圧パターンであるので、位相がφ6(5π/3)の干渉縞の形成に使える。図7(E)の電圧パターンVPeを位相がφ5(4π/3)の干渉縞の形成に使用する場合、図7(F)の電圧パターンVPfは、電圧パターンVPeの反転電圧パターンであるため、位相がφ2(π/3)の干渉縞の形成に使える。
なお、制御部15は、撮像装置3が撮像する第1フレームの期間において複数の画素電極47の少なくとも一部に第1電圧パターンを印加し、標本Xを撮像する第2フレームの期間において第1電圧パターンに対して反転した第2電圧パターンを印加すればよい。第1フレームの期間と第2フレームの期間とで印加される電圧パターンが反転する画素電極47は、複数の画素電極47の一部でもよいし、全部でもよい(以下、同様)。
次に、構造化照明顕微鏡1の動作に基づいて、3D−SIMモードにおける観察方法について説明する。構造化照明顕微鏡1は、図6に示したように干渉縞の条件を変更しながら、各条件の干渉縞に照明されている標本Xの画像を取得する。3D−SIMモードにおける干渉縞の条件は、例えば図12に示した通りである。この場合、構造化照明顕微鏡1は、干渉縞の方向を3通りに変更し、干渉縞の各方向について位相を6通りに変更し、干渉縞の方向と位相との組み合わせの18通りの条件のそれぞれにおいて、干渉縞に照明されている標本Xの画像を取得する。
図13は、第1方向に関する6枚の画像を取得する際の光変調器41および撮像素子36の動作を示すタイミングチャートである。ここでは、図7に示した6種類の電圧パターンを用いて干渉縞の位相を6通りに変更する例を説明するが、3D−SIMモードで用いる電圧パターンは、周期、位相、及び方向(例、周期方向)の少なくとも1つが2D−SIMモードで用いる電圧パターンと異なっていてもよい。
制御部15は、第1フレームが開始されるよりも前に、電圧パターンVPaを示す駆動信号(例、ビットマップデータ)を光変調器41に供給する。光変調器41は、第1フレームにおいて、複数の画素電極47の電圧値の分布が第1電圧パターンVPaとなるように、プラス電位(例、+V1)と、マイナス電位(例、−V1)とを印加する。これにより、標本X上には位相がφ1の干渉縞が形成される。制御部15は、撮像素子36を制御し、第1フレームにおいて、撮像素子36の各画素の光電変換素子に標本Xからの光による電荷を蓄積させる。
制御部15は、第1フレームの次の第2フレームが開始されるよりも前に、第1フレームの電圧パターンVPaと反転の関係にある電圧パターンVPbを示す駆動信号を光変調器41に供給する。光変調器41は、第2フレームにおいて、複数の画素電極47の電圧値の分布を電圧パターンVPbに保持にする。これにより、標本X上には位相がφ4の干渉縞が形成される。制御部15は、撮像素子36を制御し、第2フレームにおいて、撮像素子36の各画素の光電変換素子に標本Xからの光による電荷を蓄積させる。
ところで、第1フレームにおいて、光変調器41の液晶層44には駆動信号に応じた電界が印加され、第1基板42側と第2基板43側とで電荷の偏りが生じることがある。しかしながら、第2フレームにおいて、光変調器41の液晶層44には第1フレームと反転した電界が印加されるので、第1フレームに生じた電荷の偏り(例、焼付)の少なくとも一部が解消される。このように、構造化照明顕微鏡1は、撮像素子36の露光期間の一部を使って、光変調器41における焼付の発生を抑制できる。
制御部15は、第3フレームが開始されるよりも前に、電圧パターンVPcを示す駆動信号を光変調器41に供給する。光変調器41は、第3フレームにおいて、複数の画素電極47の電圧値の分布を電圧パターンVPcに保持にする。これにより、標本X上には位相がφ3の干渉縞が形成される。光変調器41は、第2フレームにおいて電荷の偏りの少なくとも一部が解消されているので、第3フレームにおける電圧パターンを精度よく形成することができる。制御部15は、撮像素子36を制御し、第3フレームにおいて、撮像素子36の各画素の光電変換素子に標本Xからの光による電荷を蓄積させる。
制御部15は、第3フレームの次の第4フレームが開始されるよりも前に、第3フレームの電圧パターンVPcと反転の関係にある電圧パターンVPdを示す駆動信号を光変調器41に供給する。光変調器41は、第4フレームにおいて、複数の画素電極47の電圧値の分布を電圧パターンVPdに保持にする。第3フレームにおいて光変調器41に生じた電荷の偏りは、その少なくとも一部が第4フレームにおいて解消される。標本X上には位相がφ6の干渉縞が形成される。制御部15は、撮像素子36を制御し、第4フレームにおいて、撮像素子36の各画素の光電変換素子に標本Xからの光による電荷を蓄積させる。
制御部15は、第5フレームが開始されるよりも前に、電圧パターンVPeを示す駆動信号を光変調器41に供給する。光変調器41は、第5フレームにおいて、複数の画素電極47の電圧値の分布を電圧パターンVPeに保持にする。これにより、標本X上には位相がφ5の干渉縞が形成される。光変調器41は、第4フレームにおいて電荷の偏りの少なくとも一部が解消されているので、第5フレームにおける電圧パターンを精度よく形成することができる。制御部15は、撮像素子36を制御し、第5フレームにおいて、撮像素子36の各画素の光電変換素子に標本Xからの光による電荷を蓄積させる。
制御部15は、第5フレームの次の第6フレームが開始されるよりも前に、第5フレームの電圧パターンVPeと反転の関係にある電圧パターンVPfを示す駆動信号を光変調器41に供給する。光変調器41は、第6フレームにおいて、複数の画素電極47の電圧値の分布を電圧パターンVPfに保持にする。第5フレームにおいて光変調器41に生じた電荷の偏りは、その少なくとも一部が第6フレームにおいて解消される。標本X上には位相がφ2の干渉縞が形成される。制御部15は、撮像素子36を制御し、第6フレームにおいて、撮像素子36の各画素の光電変換素子に標本Xからの光による電荷を蓄積させる。
制御部15は、第1〜第6フレームの撮像により、干渉縞の周期方向が第1方向であって位相が6通り6枚の画像を取得する。制御部15は、干渉縞の周期方向が第2方向である場合、干渉縞の周期方向が第3方向である場合についても同様にして、画像を取得する。このようにして、制御装置4は、干渉縞の方向を3通りに変更し、各方向について位相を6通りに変化せて、18枚の画像を取得する。復調部40は、これら18枚の画像を使って復調処理を実行し、超解像画像のデータを生成する。
本実施形態において、奇数番目のフレーム(例、第1フレーム)において所定の電圧パターンを形成し、その次のフレームにおいて所定の電圧パターンに対して反転した電圧パターンを形成する。このようにすれば、光変調器41における電荷の偏りが解消された状態で、次の奇数番目のフレームを開始することができる。なお、奇数番目のフレーム(例、第1フレーム)と反転の関係になるフレーム(第2フレーム)の撮像は、2番目から6番目のフレームのいずれにおいて行われてもよい。この場合においても、第1フレームにおいて光変調器41に発生した電荷の偏りの少なくとも一部を第2フレームにおいて解消することができる。
本実施形態においては、撮像のフレーム数が偶数(例、6)である場合、奇数番目のフレーム(例、第1フレーム)と次の偶数番目のフレーム(第2フレーム)とを1組のフレームとして、1組のフレームにおいて電圧パターンを反転させる。構造化照明装置2は、干渉縞の各方向について6枚の画像を取得する場合、例えば、全ての組(3組)のフレームのそれぞれにおいて電圧パターンを反転させるが、複数組のフレームのうち、少なくとも1組のフレームにおいて電圧パターンを反転させればよい。このような場合においても、構造化照明装置2は、撮像素子36の露光期間の少なくとも一部を利用して、光変調器41における電荷の偏り(焼付)を低減できる。例えば、干渉縞の方向を所定の方向にした状態で位相を変更しながら5枚の画像を取得し、露光期間以外の期間に電荷の偏りを解消する場合、10フレーム分の時間を要するが、本実施形態においては、6フレーム分の時間で画像を取得するとともに電荷の偏りを解消することができる。また、干渉縞の周期方向の1方向について6枚の画像を取得することにより、復調処理を精度よく行うこともできる。
なお、復調処理に使われる画像の数は、復調処理のアルゴリズムに応じて異なる。3方向の超解像効果を得る場合、例えば米国特許第8115806号明細書に開示されているように、干渉縞の各方向について位相が異なる5枚の画像を取得してもよい。この場合、構造化照明装置2は、上述した6つのフレーム期間のうち1つのフレーム期間に対応する画像取得を行わなければよい。このような場合において、構造化照明装置2は、撮像素子36の露光期間の少なくとも一部を利用して、光変調器41における電荷の偏り(焼付)を低減できる。
以上述べたように、本実施形態による制御方式に従うことで、例えば米国特許第8115806号明細書に開示されているように、3D−SIMモードにおいて必要な位相の異なる5枚の画像を取得するために5つの電圧パターンとその反転パターンを用意するのに比べ、取得画像数が増えるにもかかわらず、少ないパターン数と短い時間での画像取得が可能である。
また、3方向の超解像効果を得る場合、例えば国際公開第2014/013720号に開示されているように、15枚よりも少ない枚数の画像により復調画像を行うこともある。例えば、干渉縞の方向が第1方向である条件において、干渉縞の位相を0、π/2、π、3π/2の4通りに変更し、干渉縞の方向が第2方向、第3方向である条件において、各方向について、干渉縞の位相を0、πの2通りに変更する。この場合、構造化照明装置2は、干渉縞の方向が第1方向である条件において、干渉縞の位相が0、πであるフレームを1組のフレームとして電圧パターンを反転させ、干渉縞の位相がπ/2、3π/2であるフレームを1組のフレームとして電圧パターンを反転させてもよい。また、構造化照明装置2は、干渉縞の方向が第2方向、第3方向である条件において、各方向について、干渉縞の位相が0、πであるフレームを1組のフレームとして電圧パターンを反転させてもよい。
次に、復調部40が実行する復調処理の例について説明する。復調部40は、干渉縞の向きおよび方向が互いに異なる状態で撮像された、複数の変調像を用いて、復元画像を生成することができる。復調部40は、例えば、米国特許番号8115806号明細書に開示された方法で復調処理を行ってもよいが、この方法に限られない。
上述した実施形態の制御装置4は、例えば、メモリおよびCPUを備えるコンピュータを含む。このコンピュータは、例えば記憶装置6などの記録媒体に記録された顕微鏡制御プログラムを読み出し、この顕微鏡制御プログラムに従って構造化照明顕微鏡1の各部に対する制御を実行することで、構造化照明顕微鏡1の各部に処理を実行させる。
この顕微鏡制御プログラムは、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含む分岐部によって、光源からの光を複数の回折光に分岐し、複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明し、干渉縞が照射された標本の像を形成し、像を撮像し、撮像された画像を複数用いて復調処理を行い、干渉縞の方向および位相を制御する、構造化照明顕微鏡の制御をコンピュータに実行させる顕微鏡制御プログラムであって、制御は、撮像の1フレーム期間において、複数の画素電極の少なくとも一部に、第1電圧パターンと、第1電圧パターンに対して反転した第2電圧パターンとを印加することを含む。
また、この顕微鏡制御プログラムは、複数の画素電極が設けられた第1基板と、第1基板に対向する第2基板と、第1基板と第2基板との間に配置された強誘電性液晶とを含む分岐部によって、光源からの光を複数の回折光に分岐し、複数の回折光の少なくとも一部により形成される干渉縞によって標本を照明し、干渉縞が照射された標本の像を形成し、結像光学系が形成した像を撮像し、撮像された画像を複数用いて、復調処理を行い、干渉縞の方向および位相を制御する、構造化照明顕微鏡の制御をコンピュータに実行させる顕微鏡制御プログラムであって、制御は、標本を撮像する第1フレームの期間において複数の画素電極の少なくとも一部に第1電圧パターンを印加し、標本を撮像する第2フレームの期間において第1電圧パターンに対して反転した第2電圧パターンを印加することを含み、復調処理は、少なくとも、第1フレーム期間で撮像された画像と、第2フレーム期間で撮像された画像を用いる。
上述のプログラムは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等のコンピュータ読み取り可能な記録媒体に記録されていてもよい。また、コンピュータは、WWWシステムを利用している場合、ホームページ提供環境(あるいは表示環境)を含んでいてもよい。コンピュータ読み取り可能な記録媒体は、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものを含んでいてもよい。プログラムは、構造化照明装置2が行う処理の一部を実行させるものであってもよい。
なお、制御部15の少なくとも一部は、制御装置4と別に設けられていてもよく、例えば光変調器41に設けられていてもよい。この場合、例えば、2−DSIMモードにおいて、制御装置4は、干渉縞のパターンを示すビットマップデータを制御部15に供給し、制御部15は、このビットマップデータに相当する第1電圧パターンと、第1電圧パターンと反転した第2電圧パターンとを生成して、光変調器41の複数の画素電極を駆動してもよい。
ところで、3D−SIMモードにおいては、複数の回折光のうち干渉縞の形成に用いる回折光の強度が適切に調整されていることが望まれる。例えば、複数の回折光のうち0次回折光と1次回折光との干渉縞を形成する場合、0次回折光と1次回折光の強度比を予め調整しておくことが望まれる。しかしながら、例えば強誘電液晶を用いて回折光を発生させる場合、各次数の回折光の強度を調整することが容易でない場合がある。例えば、文献「L. Shao et. al., Nat. Method 8, 1044(2011)」には、デューティにより各次数の回折光の強度を調整ことが示されているが、デューティ変化の分解能が十分でない場合がある。また、SLMへの入射光の偏光方向と、コーン中心(cone半角)の方向を調整するために1/2波長板を用いる場合、波長特性の影響が強く出る場合がある。
ここでは、複数の回折光のうち干渉縞の形成に用いる回折光の強度を調整(設定)する手法について説明する。本実施形態では、光変調器41(図3参照)に入射する照明光L1の偏光方向と、光変調器41の液晶層44(図2参照)のコーン中心との角度を調整することにより、回折光の強度を調整する。光変調器41における液晶層44のコーン中心は、例えば、光変調器41に設けられる配向膜(図示せず)にラビング処理などの表面処理を施しておくことにより、予め調整されている。ここでは、光変調器41の向きにより、光変調器41に入射する照明光L1の偏光方向と、光変調器41の液晶層44のコーン中心との角度を調整する。
図14は、光変調器41の向きと、偏光分離素子12から出射する照明光L3との関係を示す説明図である(偏光分離素子12、光変調器41、照明光L1から照明光L3については、適宜、図3)。図14(A)には、光変調器41における液晶層44の液晶分子のコーン中心(図中符号51で表す)の方向が光変調器41に入射する照明光L1の偏光方向(X方向)と平行である場合を示した。また、図14(B)には、コーン中心51の方向が光変調器41に入射する照明光L1の偏光方向と角度α(α>0)をなす場合を示した。
コーン中心51は、プラス電圧が印加された状態の液晶分子のダイレクタの方向D5と、マイナス電圧が印加された状態の液晶分子のダイレクタの方向D6との中心線である。なお、図中の符号θは、ダイレクタの方向D5と方向D6との角度(以下、コーン角という)である。
図14(A)に示すように(左から1つ目の図参照)、偏光分離素子12から光変調器41へ向かう照明光L1の偏光状態は、X方向の直線偏光である。また、光変調器41のコーン中心51(左から2つ目の図参照)の方向は、照明光L1の偏光方向(X方向)と平行に設定されている。まず、プラス電圧が印加された状態について説明する。プラス電圧が印加された画素において、ダイレクタの方向D5と照明光L1の偏光方向(X方向)との角度は反時計回りを正としてθ/2である。プラス電圧が印加された画素を通った照明光L2(左から3つ目の上図参照)の偏光方向とX方向との角度は、反時計回りを正としてθである。この照明光L2のうち偏光分離膜12a(図3参照)で反射した照明光L3は、照明光L2のうちY方向の直線偏光であり、その偏光方向とX方向との角度は、反時計回りを正として+π/2である。次に、マイナス電圧が印加された状態について説明する。マイナス電圧が印加された画素において、ダイレクタの方向D6と照明光L1の偏光方向(X方向)との角度は反時計回りを正として−θ/2である。マイナス電圧が印加された画素を通った照明光L2(左から3つ目の下図参照)の偏光方向とX方向との角度は、反時計回りを正として−θである。この照明光L2のうち偏光分離膜12aを透過した照明光L3は、照明光L2のうちY方向の直線偏光であり、その偏光方向とX方向との角度は、反時計回りを正として−π/2である。このようにコーン中心51の方向が、光変調器41に入射する照明光L1の偏光方向と平行である場合、光変調器41および偏光分離素子12は、位相差πの位相差型回折格子として機能する。
次に、コーン中心51の方向が、光変調器41に入射する照明光L1の偏光方向と非平行である場合について説明する。図14(B)に示すように(左から1つ目の図参照)、入射する光L1の偏光状態は、X方向の直線偏光である。また、コーン中心51(左から2つ目の図参照)の方向と、照明光L1の偏光方向(X方向)との角度は、反時計回りを正としてαである。まず、プラス電圧が印加された状態について説明する。プラス電圧が印加された画素において、ダイレクタの方向D5と照明光L1の偏光方向(X方向)との角度は反時計回りを正としてθ/2+αである。プラス電圧が印加された画素を通った照明光L2(左から3つ目の上図参照)の偏光方向とX方向との角度は、反時計回りを正としてθ+2αである。この照明光L2のうち偏光分離膜12aを透過した照明光L3は、照明光L2のうちY方向の直線偏光であり、その偏光方向とX方向との角度は、反時計回りを正として+π/2である。次に、マイナス電圧が印加された状態について説明する。マイナス電圧が印加された画素において、ダイレクタの方向D6と照明光L1の偏光方向(X方向)との角度は反時計回りを正として−θ/2+αである。マイナス電圧が印加された画素を通った照明光L2(左から3つ目の下図参照)の偏光方向とX方向との角度は、反時計回りを正として−θ+2αである。この照明光L2のうち偏光分離膜12aを透過した照明光L3は、照明光L2のうちY方向の直線偏光であり、その偏光方向とX方向との角度は、反時計回りを正として−π/2である。光変調器41をαだけ傾けた場合、偏光分離素子12から出射する照明光L3の強度(図14(B)左から4つ目の上下図において矢印の大きさで示す)は、プラス電圧が印加された状態(上図)において、マイナス電圧が印加された状態(下図)と比較して強くなる。このようにコーン中心51の方向が、光変調器41に入射する照明光L1の偏光方向と非平行である場合、光変調器41および偏光分離素子12(図3参照)は、位相差πの位相差型回折格子として機能し、かつ振幅型回折格子として機能する。そのため、例えば、0次回折光の強度が光変調器41の向き(例、角度α)に応じた強度になり、0次回折光と1次回折光との強度比を調整(設定)することができる。
図15は、干渉縞の例を示す図である。図15(A)は、例えば図14(A)に対応する干渉縞であり、図15(B)は、例えば図14(B)に対応する干渉縞である。図15(A)、図15(B)には、それぞれ、縞方位(ライン方向)を3通りに変化させた際のそれぞれの干渉縞を示した。図15(B)において符号52は、撮像装置3(図10参照)の視野を示す。上述のように光変調器41の向きを角度αだけ変更すると、干渉縞の縞方位が角度αだけ変化する。そのため、撮像装置3の視野内において、干渉縞の縞方位が変化する。
ところで、光変調器41の画素は、有限のサイズを有するので、表示する電圧パターンの配列方向やその周期によって必ずしも理想的な縞パターンを表示できるとは限らない。例えば、光変調器41の画素の配列方向に回折光が発生するような向きの電圧パターンであれば、周期は必ず整数となるため、所望の周期の電圧パターンを表示することが困難となる場合がある。従って、複数の構造化照明に対応する回折光の向きがどれも光変調器41の画素の配列方向とは異なるように、光変調器41の向きをその面内で回転させておくことが望ましい。あるいは、光変調器41に対して撮像素子を受光面内で回転させることで相対的に光変調器41を回転させてもよい。
なお、図3などでは、光源20からの照明光L1のうち偏光分離膜12aを透過した照明光L1が光変調器41に入射する構成であるが、光源20からの照明光L1のうち偏光分離膜12aを反射した照明光が光変調器41に入射する構成でもよい。この場合、照明光L1の偏光状態を、偏光分離膜12aに対するS偏光にしておくとよい。また、光変調器41から出射する照明光のうち、偏光分離膜12aで透過した照明光(偏光分離膜12aに対するP偏光)を、試料Sへ照射すればよい。
なお、本発明の技術範囲は、上記の実施形態あるいは変形例に限定されるものではない。例えば、上記の実施形態あるいは変形例で説明した要件の1つ以上は、省略されることがある。また、上記の実施形態あるいは変形例で説明した要件は、適宜組み合わせることができる。また、法令で許容される限りにおいて、上述の実施形態などで引用した全ての文献の開示を援用して本文の記載の一部とする。
1 構造化照明顕微鏡、2 構造化照明装置、3 撮像装置、X 標本
13 分岐部、15 制御部、41 光変調器、42 第1基板、43 第2基板
45 対向電極、47 画素電極、VPa〜VPf 電圧パターン

Claims (13)

  1. 複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器と、
    前記光変調器から射出された複数の光束の少なくとも一部により形成される干渉縞によって標本を照明する照明光学系と、
    前記干渉縞が照射された前記標本の像を撮像して画像を生成する撮像装置と、
    前記撮像装置により生成された画像を複数用いて、前記標本の画像を生成する復調部と、
    制御部と、を備える構造化照明顕微鏡であって、
    前記制御部は、前記撮像装置が前記像を撮像する第1フレーム期間において前記複数の画素電極の少なくとも一部に第1電圧パターンを印加し、前記像を撮像する第2フレーム期間において前記第1電圧パターンに対して反転した第2電圧パターンを印加し、
    前記復調部は、少なくとも、前記第1フレーム期間で撮像された画像と、前記第2フレーム期間で撮像された画像とを用いて、復調処理を行う、
    構造化照明顕微鏡。
  2. 前記第2フレーム期間は、前記第1フレーム期間の次のフレーム期間である、
    請求項に記載の構造化照明顕微鏡。
  3. 前記制御部は、前記干渉縞の位相が2π/N+1(Nは奇数)シフトした複数の干渉縞が生成されるように、複数の電圧パターンを印加し、
    前記撮像装置は、前記干渉縞の位相が異なる少なくもN枚の画像を撮像し、
    前記復調部は、少なくとも前記N枚の画像を用いて復調処理を行う、
    請求項または請求項に記載の構造化照明顕微鏡。
  4. 前記撮像装置は、干渉縞の位相が異なるN+1枚の画像を撮像し、
    前記復調部は、前記N+1枚の画像を用いて復調処理を行う、
    請求項に記載の構造化照明顕微鏡。
  5. N=5である、ことを特徴とする
    請求項または請求項に記載の構造化照明顕微鏡。
  6. 前記複数の電圧パターンは、第1電圧パターン群と、第2電圧パターン群とを有し、前記第1電圧パターン群に含まれる電圧パターンは、前記第2電圧パターン群に含まれる電圧パターンの反転パターンである、
    請求項から請求項のいずれか1項に記載の構造化照明顕微鏡。
  7. 前記照明光学系は、前記第1電圧パターンにより駆動される前記光変調器によって分岐した回折光により第1干渉縞を形成し、前記第2電圧パターンにより駆動される前記光変調器によって分岐した回折光により、前記第1干渉縞と位相がπずれた第2干渉縞を形成する、
    請求項から請求項のいずれか1項に記載の構造化照明顕微鏡。
  8. 前記照明光学系は、前記干渉縞を、0次回折光と1次回折光との干渉により形成して、前記標本を照明する、
    請求項から請求項のいずれか1項に記載の構造化照明顕微鏡。
  9. 前記電子光学素子は、液晶である
    請求項から請求項のいずれか1項に記載の構造化照明顕微鏡
  10. 前記電子光学素子は、強誘電性液晶である
    請求項から請求項のいずれか1項に記載の構造化照明顕微鏡
  11. 前記干渉縞が照射された前記標本の像を形成する結像光学系を備える
    請求項から請求項10のいずれか1項に記載の構造化照明顕微鏡。
  12. 複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器によって、光源からの光を複数の回折光に分岐することと、
    前記複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明することと、
    前記干渉縞が照射された前記標本の像を撮像することと、
    前記撮像された画像を複数用いて、復調処理を行うことと、
    前記像を撮像する第1フレーム期間において前記複数の画素電極の少なくとも一部に第1電圧パターンを印加し、前記像を撮像する第2フレーム期間において前記第1電圧パターンに対して反転した第2電圧パターンを印加することと、
    少なくとも、前記第1フレーム期間で撮像された画像と、前記第2フレーム期間で撮像された画像を用いて、復調処理を行うことと、を含む観察方法。
  13. 複数の画素電極が設けられた基板と、電子光学素子とを含む光変調器によって、光源からの光を複数の回折光に分岐することと、
    前記複数の回折光のうち少なくとも一部により形成される干渉縞によって標本を照明することと、
    前記干渉縞が照射された前記標本の像を撮像することと、
    前記撮像された画像を複数用いて、復調処理を行うことと、
    前記像を撮像する第1フレーム期間において前記複数の画素電極の少なくとも一部に第1電圧パターンを印加し、前記像を撮像する第2フレーム期間において前記第1電圧パターンに対して反転した第2電圧パターンを印加することと、
    少なくとも、前記第1フレーム期間で撮像された画像と、前記第2フレーム期間で撮像された画像を用いて、復調処理を行うことと、をコンピュータに実行させる顕微鏡制御プログラム。
JP2017546286A 2015-10-19 2015-10-19 構造化照明顕微鏡、観察方法、及び顕微鏡制御プログラム Active JP6645506B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/079422 WO2017068620A1 (ja) 2015-10-19 2015-10-19 構造化照明顕微鏡、観察方法、及び顕微鏡制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2017068620A1 JPWO2017068620A1 (ja) 2018-08-02
JP6645506B2 true JP6645506B2 (ja) 2020-02-14

Family

ID=58557120

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017546286A Active JP6645506B2 (ja) 2015-10-19 2015-10-19 構造化照明顕微鏡、観察方法、及び顕微鏡制御プログラム

Country Status (4)

Country Link
US (1) US10900900B2 (ja)
EP (1) EP3367151B1 (ja)
JP (1) JP6645506B2 (ja)
WO (1) WO2017068620A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018185489A1 (en) 2017-04-07 2018-10-11 Universitetet I Tromsø - Norges Arktiske Universitet Optical component for generating a periodic light pattern
KR101934956B1 (ko) * 2017-10-18 2019-03-18 고려대학교 산학협력단 구조 조명과 위상 검출을 이용한 단분자 중심위치 측정 장치 및 방법
DE102018108657B4 (de) 2018-04-12 2024-03-28 Jenoptik Optical Systems Gmbh Vorrichtung zur Aufnahme wenigstens eines mikroskopischen Bildes und Verfahren zur Aufnahme eines mikroskopischen Bildes
ES2753927A1 (es) * 2018-10-10 2020-04-14 Consejo Superior Investigacion Sistema y metodo de identificacion de particulas en microscopia de transmision
WO2020205952A1 (en) * 2019-04-02 2020-10-08 Thermo Electron Scientific Instruments Llc Enhanced sample imaging using structured illumination microscopy
KR102473456B1 (ko) * 2019-08-19 2022-12-07 부산대학교 산학협력단 원통 금형에 형성된 나노패턴 측정을 위한 고해상도 구조 조명 현미경 시스템 및 그의 동작 방법
CN113138500B (zh) * 2021-04-29 2022-05-03 深圳市华星光电半导体显示技术有限公司 显示面板及显示模组

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5748164A (en) * 1994-12-22 1998-05-05 Displaytech, Inc. Active matrix liquid crystal image generator
US6525709B1 (en) * 1997-10-17 2003-02-25 Displaytech, Inc. Miniature display apparatus and method
JP2000292772A (ja) * 1999-04-08 2000-10-20 Sony Corp 液晶素子の駆動方法及び液晶素子
US6545656B1 (en) * 1999-05-14 2003-04-08 Semiconductor Energy Laboratory Co., Ltd. Liquid crystal display device in which a black display is performed by a reset signal during one sub-frame
JP4801239B2 (ja) * 1999-05-14 2011-10-26 株式会社半導体エネルギー研究所 液晶表示装置
JP2006145591A (ja) * 2004-11-16 2006-06-08 Toshiba Corp 画像形成装置
EP1865355B1 (en) 2005-03-30 2013-03-06 Nikon Corporation Image forming method and microscope device
JP4335904B2 (ja) * 2006-12-07 2009-09-30 エルジー ディスプレイ カンパニー リミテッド 液晶表示装置
JP2009116173A (ja) 2007-11-08 2009-05-28 Dainippon Printing Co Ltd 液晶表示装置の駆動方法
JP5301223B2 (ja) 2008-09-11 2013-09-25 シチズンファインテックミヨタ株式会社 強誘電液晶表示装置
JP5578781B2 (ja) * 2008-11-11 2014-08-27 治雄 岡村 ダンボールに穴を開けると同時に紐を通す工具
WO2014013720A1 (ja) 2012-07-19 2014-01-23 株式会社ニコン 構造化照明顕微鏡装置
JP6194710B2 (ja) * 2013-09-11 2017-09-13 株式会社ニコン 構造化照明装置及び構造化照明顕微鏡装置
WO2015087960A1 (ja) * 2013-12-12 2015-06-18 株式会社ニコン 構造化照明顕微鏡、構造化照明方法、及びプログラム

Also Published As

Publication number Publication date
EP3367151A1 (en) 2018-08-29
WO2017068620A1 (ja) 2017-04-27
EP3367151B1 (en) 2024-07-17
US20180238803A1 (en) 2018-08-23
EP3367151A4 (en) 2019-07-24
US10900900B2 (en) 2021-01-26
JPWO2017068620A1 (ja) 2018-08-02

Similar Documents

Publication Publication Date Title
JP6645506B2 (ja) 構造化照明顕微鏡、観察方法、及び顕微鏡制御プログラム
JP6197880B2 (ja) 構造化照明顕微鏡、構造化照明方法、及びプログラム
US10739574B2 (en) Structured illumination optical system and structured illumination microscope device
CN106464857B (zh) 紧凑型3d深度捕获系统
EP2136233B1 (en) Microscope device
US20160131885A1 (en) Structured illumination device and structured illumination microscope device
JP6194710B2 (ja) 構造化照明装置及び構造化照明顕微鏡装置
US20130342886A1 (en) Variable orientation illumination-pattern rotator
US9146393B2 (en) Structured illumination apparatus, structured illumination microscopy, and structured illumination method
CN105122116B (zh) 光学模块以及观察装置
WO2016199179A1 (ja) 構造化照明顕微鏡システム、方法及びプログラム
US20180246307A1 (en) Polarisation microscope
JP6496745B2 (ja) 結像光学系、照明装置および観察装置
JP6413364B2 (ja) 照明光学系及び顕微鏡装置
JP5939301B2 (ja) 構造化照明観察装置
WO2015052920A1 (ja) 構造化照明装置及び構造化照明顕微鏡装置
US20240134176A1 (en) Luminescence microscope for imaging a sample or for localizing or tracking emitters in a sample
US20240231066A9 (en) Luminescence microscope for imaging a sample or for localizing or tracking emitters in a sample
Shao et al. Structured illumination microscopy
Paturzo et al. Improving Numerical Aperture in DH Microscopy by 2D Diffraction Grating
JP2019086562A (ja) 観察装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190709

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191223

R150 Certificate of patent or registration of utility model

Ref document number: 6645506

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250