JP7099143B2 - Microscope, observation method, and control program - Google Patents
Microscope, observation method, and control program Download PDFInfo
- Publication number
- JP7099143B2 JP7099143B2 JP2018143686A JP2018143686A JP7099143B2 JP 7099143 B2 JP7099143 B2 JP 7099143B2 JP 2018143686 A JP2018143686 A JP 2018143686A JP 2018143686 A JP2018143686 A JP 2018143686A JP 7099143 B2 JP7099143 B2 JP 7099143B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- image
- phase
- excitation light
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Microscoopes, Condenser (AREA)
Description
本発明は、顕微鏡、観察方法、及び制御プログラムに関する。 The present invention relates to a microscope, an observation method, and a control program.
構造化照明を用いた顕微鏡が提案されている(例えば、下記の特許文献1参照)。構造化照明は、光学系の分解能を越えた観察を可能とする構造化照明顕微鏡(Structured Illumination Microscopy ; SIM)に用いられる場合がある。構造化照明顕微鏡は、1方向において強度が周期的に変化する照明光(例、縞パターン)が照射された試料を撮像する。構造化照明顕微鏡は、照明光の周期方向を変更して撮像した画像を用いることで、解像度が2方向において向上した画像を生成する。このような技術において、照明光の強度の周期方向を変更しなくても複数の方向(例、2方向)の解像度が撮像画像と異なる画像(例、超解像画像)を取得可能(例、生成可能)であることが望まれる。
A microscope using structured illumination has been proposed (see, for example,
本発明の第1の態様に従えば、蛍光物質を含む試料が配置される試料面上の第1方向において強度が周期的に変化し蛍光物質を活性化する活性化光と、試料面上で第1方向に交差する第2方向において強度が周期的に変化し活性化光によって活性化した蛍光物質を励起する励起光とを試料に照射する照射部と、第1方向における活性化光の強度分布と、第2方向における励起光の強度分布とを変更する制御部と、活性化光の照射と励起光の照射とによって試料から放射される蛍光の像を撮像する撮像部と、撮像部が撮像して得られる第1画像に基づいて、第1画像と解像度が異なる第2画像を生成する画像処理部と、を備える顕微鏡が提供される。 According to the first aspect of the present invention, activation light whose intensity changes periodically in the first direction on the sample surface on which the sample containing the fluorescent substance is placed to activate the fluorescent substance, and on the sample surface. The irradiation part that irradiates the sample with the excitation light that excites the fluorescent substance activated by the activation light whose intensity changes periodically in the second direction intersecting the first direction, and the intensity of the activation light in the first direction. The control unit that changes the distribution and the intensity distribution of the excitation light in the second direction, the imaging unit that captures the image of the fluorescence emitted from the sample by the irradiation of the activation light and the irradiation of the excitation light, and the imaging unit Provided is a microscope including an image processing unit that generates a second image having a different resolution from the first image based on the first image obtained by imaging.
本発明の第2の態様に従えば、蛍光物質を含む試料が配置される試料面上の第1方向において強度が周期的に変化し蛍光物質を活性化する活性化光と、試料面上で第1方向に交差する第2方向において強度が周期的に変化し活性化光によって活性化した蛍光物質を励起する励起光とを試料に照射することと、第1方向における活性化光の強度分布を変更することと、第2方向における励起光の強度分布を変更することと、活性化光の照射と励起光の照射とによって試料から放射される蛍光の像を撮像することと、撮像によって得られる第1画像に基づいて、第1画像と解像度が異なる第2画像を生成することと、を含む観察方法が提供される。 According to the second aspect of the present invention, activation light whose intensity changes periodically in the first direction on the sample surface on which the sample containing the fluorescent substance is placed to activate the fluorescent substance, and on the sample surface. Irradiating the sample with excitation light that excites the fluorescent substance activated by the activation light whose intensity changes periodically in the second direction intersecting the first direction, and the intensity distribution of the activation light in the first direction. By changing the intensity distribution of the excitation light in the second direction, and by imaging the fluorescence image emitted from the sample by the irradiation of the activation light and the irradiation of the excitation light. An observation method including generating a second image having a different resolution from the first image based on the first image to be obtained is provided.
本発明の第3の態様に従えば、コンピュータに、蛍光物質を含む試料が配置される試料面上の第1方向において強度が周期的に変化し蛍光物質を活性化する活性化光と、試料面上で第1方向に交差する第2方向において強度が周期的に変化し活性化光によって活性化した蛍光物質を励起する励起光とを試料に照射する制御と、第1方向における活性化光の強度分布を変更する制御と、第2方向における励起光の強度分布を変更する制御と、活性化光の照射と励起光の照射とによって試料から放射される蛍光の像を撮像する制御と、を実行させる制御プログラムが提供される。 According to the third aspect of the present invention, the computer comprises activated light whose intensity changes periodically in the first direction on the sample surface on which the sample containing the fluorescent substance is placed to activate the fluorescent substance, and the sample. Control to irradiate the sample with excitation light that excites the fluorescent substance activated by the activation light whose intensity changes periodically in the second direction that intersects the first direction on the surface, and activation light in the first direction. Control to change the intensity distribution of the A control program is provided to execute.
[第1実施形態]
第1実施形態について説明する。図1は、第1実施形態に係る顕微鏡を示す図である。顕微鏡1は、蛍光物質で標識(ラベル)された試料Sの蛍光観察に利用される。顕微鏡1は、試料Sに含まれる蛍光物質が発する蛍光を検出する。試料Sは、生きた細胞(ライブセル)を含んでもよいし、ホルムアルデヒド溶液等の組織固定液を用いて固定された細胞を含んでもよく、組織等を含んでもよい。試料Sは、観察対象物を保持する保持部材(例、カバーガラス、シャーレ)を含んでもよい。
[First Embodiment]
The first embodiment will be described. FIG. 1 is a diagram showing a microscope according to the first embodiment. The
蛍光物質は、フォトスイッチャブル プローブ(Photoswitchable Probe;PP)を含む。蛍光物質は、活性化光が照射されることで不活性状態から活性状態に遷移する。蛍光物質は、活性状態において励起光が照射されることによって、基底状態から励起状態に遷移する。蛍光物質は、励起状態において蛍光を発して、基底状態に遷移する。また、蛍光物質は、不活性化光が照射されることによって活性化状態から不活性状態に遷移する。不活性状態において、蛍光物質は、励起光が照射されても励起状態に遷移せず、蛍光を発しない。不活性化光は、励起光と同じ波長である場合もあるし、励起光と異なる波長である場合もある。上記の蛍光物質は、シアニン(cyanine)染料等の蛍光色素でもよいし、蛍光タンパク質でもよい。試料Sに含まれる蛍光物質の種類は、1種類でもよいし、2種類以上でもよい。 Fluorescent material includes a photoswitchable probe (PP). The fluorescent substance transitions from the inactive state to the active state when it is irradiated with the activating light. The fluorescent substance transitions from the ground state to the excited state by being irradiated with the excited light in the active state. The fluorescent substance emits fluorescence in the excited state and transitions to the ground state. In addition, the fluorescent substance transitions from the activated state to the inactive state when it is irradiated with the inactivating light. In the inert state, the fluorescent substance does not transition to the excited state even when irradiated with the excitation light and does not fluoresce. The deactivating light may have the same wavelength as the excitation light, or may have a different wavelength from the excitation light. The fluorescent substance may be a fluorescent dye such as a cyanine dye or a fluorescent protein. The type of the fluorescent substance contained in the sample S may be one kind or two or more kinds.
顕微鏡1は、ステージ2と、照射部3と、撮像部4と、制御装置5と、表示装置6(表示部)と、記憶装置7(記憶部)とを備える。ステージ2は、試料Sを保持する保持面を有する。ステージ2は、例えば、XYステージまたはXYZステージを含む。ステージ2は、試料Sを保持した状態で、対物レンズ28(後述する)に対して可動である。ステージ2は、対物レンズ28に対して移動しなくてもよい(固定されていてもよい)。
The
照射部3(照明部、照明装置)は、試料Sに含まれる蛍光物質を活性化する活性化光L1を試料Sに照射する。活性化光L1は、試料Sが配置される試料面Sa上の第1方向D1(後に図2に示す)において強度が周期的に変化する。また、照射部3は、活性化光L1によって活性化した蛍光物質を励起する励起光L2を試料Sに照射する。ここでは、励起光L2の波長は、活性化光L1と異なるものとする。励起光L2の波長は、活性化光L1の波長と同じでもよい。
励起光L2は、試料面Sa上で第1方向D1に交差(例、直交)する第2方向D2(後に図2に示す)において強度が周期的に変化する。
The irradiation unit 3 (illumination unit, illumination device) irradiates the sample S with the activation light L1 that activates the fluorescent substance contained in the sample S. The intensity of the activation light L1 changes periodically in the first direction D1 (later shown in FIG. 2) on the sample surface Sa on which the sample S is placed. Further, the
The intensity of the excitation light L2 changes periodically in the second direction D2 (later shown in FIG. 2) intersecting (eg, orthogonal to) the first direction D1 on the sample surface Sa.
また、照射部3は、試料Sにおいて活性化光L1が照射された領域に対して、不活性化光L3を照射する。ここでは、不活性化光L3の波長が、活性化光L1の波長および励起光L2の波長のいずれとも異なるものとする。不活性化光L3の波長は、励起光L2の波長と同じでもよい。
Further, the
照射部3は、強度が空間的に均一な不活性化光L3を試料Sに照射する。試料面Saにおける不活性化光L3の強度分布は均一でなくてもよい。例えば、試料面Saにおける不活性化光L3の強度分布は、試料Sのうち活性化光L1によって活性化した蛍光物質を選択的に不活性化するように所定の分布(例、活性化光L1と同じ縞パターン)に設定されてもよい。
The
図2は、第1実施形態に係る縞パターンおよび強度分布を示す図である。図2において、符号PL1は、試料面Sa(図1参照)における活性化光L1に相当する縞パターンである。符号PL2は、試料面Saにおける励起光L2に相当する縞パターンである。蛍光物質は、活性化光L1および励起光L2の双方が照射された場合に、蛍光を発することができる。以下の説明において、適宜、活性化光L1および励起光L2の双方を掛けあわせた照明を有効照明という。符号PLは、試料面Saにおける有効照明に相当する縞パターンである。図2の各縞パターンにおいて、相対的に明るい(白い)部分は相対的に強度が高い部分(例、明部)であり、相対的に暗い(黒い)部分は相対的に強度が低い部分(例、暗部)である。 FIG. 2 is a diagram showing a fringe pattern and an intensity distribution according to the first embodiment. In FIG. 2, reference numeral PL1 is a fringe pattern corresponding to the activation light L1 on the sample surface Sa (see FIG. 1). Reference numeral PL2 is a fringe pattern corresponding to the excitation light L2 on the sample surface Sa. The fluorescent substance can emit fluorescence when both the activation light L1 and the excitation light L2 are irradiated. In the following description, illumination in which both activation light L1 and excitation light L2 are appropriately multiplied is referred to as effective illumination. Reference numeral PL is a fringe pattern corresponding to effective illumination on the sample surface Sa. In each stripe pattern of FIG. 2, the relatively bright (white) part is the relatively high intensity part (eg, the bright part), and the relatively dark (black) part is the relatively low intensity part (the relatively low intensity part). For example, the dark part).
図2の符号D3は、活性化光L1の縞パターンPL1において強度がほぼ同じ位置を結ぶ線に平行、かつ試料面Saに平行な方向(以下、ライン方向と称する)である。縞パターンPL1のライン方向D3は、任意の方向に設定される。第1方向D1は、縞パターンPL1のライン方向D3に垂直、かつ試料面Saに平行な方向である。また、符号DL1は、試料面Sa上の第1方向D1における活性化光L1の強度分布である。強度分布DL1は、第1方向D1の位置(横軸)に対する強度(縦軸)のグラフで表されている。活性化光L1の縞パターンPL1は、第1方向D1において強度が周期的に変化する。活性化光L1の縞パターンPL1の強度は、図2において正弦波状に変化するが、その他の関数形の波状(例、三角波状、矩形波状)に変化してもよい。 Reference numeral D3 in FIG. 2 is a direction parallel to a line connecting positions having substantially the same intensity in the fringe pattern PL1 of the activation light L1 and parallel to the sample surface Sa (hereinafter referred to as a line direction). The line direction D3 of the stripe pattern PL1 is set in any direction. The first direction D1 is a direction perpendicular to the line direction D3 of the stripe pattern PL1 and parallel to the sample surface Sa. Further, reference numeral DL1 is an intensity distribution of the activated light L1 in the first direction D1 on the sample surface Sa. The intensity distribution DL1 is represented by a graph of the intensity (vertical axis) with respect to the position (horizontal axis) of the first direction D1. The intensity of the fringe pattern PL1 of the activation light L1 changes periodically in the first direction D1. The intensity of the fringe pattern PL1 of the activation light L1 changes in a sinusoidal shape in FIG. 2, but may change in other functional wavy shapes (eg, triangular wavy shape, rectangular wavy shape).
図2の符号D4は、励起光L2の縞パターンPL2において強度がほぼ同じ位置を結ぶ線に平行、かつ試料面Saに平行な方向(以下、ライン方向と称する)である。励起光L2の縞パターンPL2のライン方向D4は、活性化光L1の縞パターンPL1のライン方向D3と交差する方向(非平行な方向、異なる方向)に設定される。ライン方向D4は、ライン方向D3と交差するという条件下で、任意に設定される。第2方向D2は、縞パターンPL2のライン方向D4に垂直、かつ試料面Saに平行な方向である。第2方向D2は、例えば、第1方向D1に垂直な方向に設定される。第1方向D1と第2方向D2とがなす角度は、例えば90°に設定される。第1方向D1と第2方向D2とがなす角度は、90°以外の角度に設定されてもよい(後に図10で説明する)。 Reference numeral D4 in FIG. 2 is a direction parallel to a line connecting positions having substantially the same intensity in the fringe pattern PL2 of the excitation light L2 and parallel to the sample surface Sa (hereinafter referred to as a line direction). The line direction D4 of the fringe pattern PL2 of the excitation light L2 is set in a direction (non-parallel direction, different direction) intersecting with the line direction D3 of the fringe pattern PL1 of the activation light L1. The line direction D4 is arbitrarily set under the condition that it intersects the line direction D3. The second direction D2 is a direction perpendicular to the line direction D4 of the stripe pattern PL2 and parallel to the sample surface Sa. The second direction D2 is set, for example, in a direction perpendicular to the first direction D1. The angle formed by the first direction D1 and the second direction D2 is set to, for example, 90 °. The angle formed by the first direction D1 and the second direction D2 may be set to an angle other than 90 ° (described later with reference to FIG. 10).
図2の符号DL2は、試料面Sa上の第2方向D2における励起光L2の強度分布である。強度分布DL2は、第2方向D2の位置(横軸)に対する強度(縦軸)のグラフで表されている。励起光L2の縞パターンPL2は、第2方向D2において強度が周期的に変化する。励起光L2の縞パターンPL2の強度は、図2において正弦波状に変化するが、その他の関数形の波状(例、三角波状、矩形波状)に変化してもよい。 Reference numeral DL2 in FIG. 2 is an intensity distribution of the excitation light L2 in the second direction D2 on the sample surface Sa. The intensity distribution DL2 is represented by a graph of the intensity (vertical axis) with respect to the position (horizontal axis) of the second direction D2. The intensity of the fringe pattern PL2 of the excitation light L2 changes periodically in the second direction D2. The intensity of the fringe pattern PL2 of the excitation light L2 changes in a sinusoidal shape in FIG. 2, but may change in other functional wavy shapes (eg, triangular wavy shape, rectangular wavy shape).
有効照明の縞パターンPLは、活性化光L1の縞パターンPL1と励起光L2の縞パターンPL2とを掛け合わせた縞パターンに相当する。縞パターンPLにおいて、明るい部分に蛍光物質が存在する場合、暗い部分に蛍光物質が存在する場合と比較して、発生する蛍光の強度が強い。縞パターンPLの強度は、第1方向D1において周期的に変化し、かつ第2方向D2において周期的に変化する。縞パターンPLにおいて強度が極小となる点は、第1方向D1において一定の間隔で配置され、かつ第2方向D2において一定の間隔で配置される。縞パターンPL3において強度が極小となる点は、直交格子における格子点のように二次元的に配置される。 The fringe pattern PL of the effective illumination corresponds to a fringe pattern obtained by multiplying the fringe pattern PL1 of the activation light L1 and the fringe pattern PL2 of the excitation light L2. In the fringe pattern PL, when the fluorescent substance is present in the bright portion, the intensity of the generated fluorescence is stronger than in the case where the fluorescent substance is present in the dark portion. The intensity of the fringe pattern PL changes periodically in the first direction D1 and changes periodically in the second direction D2. The points at which the intensity becomes the minimum in the fringe pattern PL are arranged at regular intervals in the first direction D1 and at regular intervals in the second direction D2. The points at which the intensity becomes the minimum in the fringe pattern PL3 are arranged two-dimensionally like the grid points in the orthogonal grid.
図1の説明に戻り、照射部3は、第1光源LS1と、第2光源LS2と、第3光源LS3と、照明光学系11とを備える。第1光源LS1は、活性化光L1を発する。第1光源LS1は、例えばレーザダイオード(LD)あるいは発光ダイオード(LED)などの固体光源を含む。第2光源LS2は、励起光L2を発する。第2光源LS2は、例えばレーザダイオード(LD)あるいは発光ダイオード(LED)などの固体光源を含む。第3光源LS3は、不活性化光L3を発する。第3光源LS3は、例えばレーザダイオード(LD)あるいは発光ダイオード(LED)などの固体光源を含む。
Returning to the description of FIG. 1, the
活性化光L1の波長、励起光L2の波長、及び不活性化光L3の波長は、それぞれ、蛍光物質の種類によって予め定まっている。本実施形態において、不活性化光L3の波長は、活性化光L1の波長と励起光L2の波長とのいずれとも異なる。不活性化光L3の波長は、励起光L2の波長と同じでもよい。 The wavelength of the activating light L1, the wavelength of the excitation light L2, and the wavelength of the deactivating light L3 are each predetermined depending on the type of the fluorescent substance. In the present embodiment, the wavelength of the deactivating light L3 is different from the wavelength of the activating light L1 and the wavelength of the excitation light L2. The wavelength of the deactivating light L3 may be the same as the wavelength of the excitation light L2.
照明光学系11は、第1光源LS1から発せられた活性化光L1を試料Sに照射する。また、照明光学系11は、第2光源LS2から発せられた励起光L2を試料Sに照射する。また、照明光学系11は、第3光源LS3から発せられた不活性化光L3を試料Sに照射する。照明光学系11は、例えば、球面レンズ、非球面レンズなどの回転対称な形状の光学部材(例、レンズ部材)を含む。以下の説明において、適宜、照明光学系11に含まれる光学部材の回転対称軸を、照明光学系11の光軸11aという。なお、照明光学系11は、自由曲面レンズを含んでいてもよい。
The illumination
以下の説明において、適宜、図3(A)および図3(B)を参照する。図3(A)および図3(B)は、それぞれ、実施形態に係る顕微鏡における活性化光の光路、励起光の光路を示す図である。図1において、励起光L2の光路はダイクロイックミラー16で折れ曲がるが、図3(B)では、照明光学系11の光軸11aが直線になるように光路を展開して図示した。図3(A)および図3(B)に示すXYZ直交座標系において、Z方向は、照明光学系11の光軸11aに平行な方向である。また、X方向は、Z方向に垂直な方向であり、図2の第1方向D1に対応する方向である。また、Y方向は、Z方向に垂直な方向であり、図2の第2方向D2に対応する方向である。図3(A)はY方向から平面視した活性化光L1の光路図であり、図3(B)はX方向から平面視した励起光L2の光路図である。図3(A)および図3(B)では、+1次回折光および-1次回折光を点線で表し、0次回折光を実線で表した。
In the following description, FIGS. 3 (A) and 3 (B) will be referred to as appropriate. 3A and 3B are diagrams showing an optical path of activation light and an optical path of excitation light in the microscope according to the embodiment, respectively. In FIG. 1, the optical path of the excitation light L2 is bent by the
照明光学系11は、第1光源LS1の光出射側に、レンズ12および分岐部13を備える。レンズ12は、例えばコリメータであり、第1光源LS1から出射した活性化光L1をほぼ平行光に変換する。分岐部13は、縞パターンPL1(図2参照)の生成に利用される。分岐部13は、活性化光L1を複数の光束に分岐させる。例えば、分岐部13は、活性化光L1を回折によって複数の光束(例、回折光)に分岐させる。ここでは、分岐部13が回折格子(適宜、符号13で表す)であるものとして説明する。なお、分岐部13は、回折格子の代わりに空間光変調器(SLM)を用いるものでもよい。
The illumination
照明光学系11は、活性化光L1を回折格子13によって複数の回折光に分岐させ、複数の回折光の干渉により形成される縞パターンPL1(干渉縞)で試料Sを照明する。照明光学系11は、例えば、複数の回折光のうち2つの光束の干渉(2光束干渉)によって縞パターンPL1を形成する。照明光学系11は、干渉する2つの光束の相対的な位相を変えることで、活性化光L1の強度分布(例、縞パターンPL1の位相)を変更可能である。照明光学系11は、干渉する2つの光束の光路長を相対的に変えることで、これら2つの光束の相対的な位相を変えることができる。例えば、照明光学系11は、干渉する2つの光束の光路のうち一方の光路に位相板を配置して該2つの光束の光路長を相対的に変えることによって、これら2つの光束の相対的な位相を変える。
The illumination
なお、照明光学系11は、回折格子13を、照明光学系11の光軸と交差(例、直交)する方向に移動させることで、活性化光L1の強度分布(例、縞パターンPL1の位相)を変更する構成でもよい。また、分岐部13として空間光変調器を用いる場合、照明光学系11は、空間光変調器における屈折率の分布を変更することで、活性化光L1の強度分布(例、縞パターンPL1の位相)を変更する構成でもよい。
The illumination
回折格子13(図3(A)参照)は、第1方向D1に対応するX方向において構造が周期的に変化する。回折格子13は、照明光学系11の光軸11aに交差する方向を含む面内(例、交差面)に、例えば1次元の周期構造を有する。この周期構造は、濃度(又は透過率)が周期的に変化する構造であってもよいし、段差(又は位相差)が周期的に変化する構造であってもよい。回折格子13が位相型である場合、±1次回折光の回折効率が高く、縞パターンの形成に±1次回折光を用いる場合に光量のロスを低減することができる。回折格子13は、試料面Saと光学的に共役な位置FV1(例、視野共役位置)に配置される。回折格子13は、縞パターンのコントラスト値が許容される範囲内で、位置FV1からずれた位置(視野共役位置の近傍)に配置されてもよい。
The structure of the diffraction grating 13 (see FIG. 3A) changes periodically in the X direction corresponding to the first direction D1. The
また、照明光学系11は、第2光源LS2の光出射側に、レンズ14および分岐部15を備える。レンズ14は、例えばコリメータであり、第2光源LS2から出射した励起光L2をほぼ平行光に変換する。分岐部15は、縞パターンPL2(図2参照)の生成に利用される。分岐部15は、励起光L2を複数の光束に分岐させる。例えば、分岐部15は、励起光L2を回折によって複数の光束(例、回折光)に分岐させる。ここでは、分岐部15が回折格子(適宜、符号15で表す)であるものとして説明する。なお、分岐部15は、回折格子の代わりに空間光変調器(SLM)を用いるものでもよい。
Further, the illumination
照明光学系11は、励起光L2を回折格子15によって複数の回折光に分岐させ、複数の回折光の干渉により形成される縞パターンPL2(干渉縞)で試料Sを照明する。照明光学系11は、例えば、複数の回折光のうち2つの光束の干渉(2光束干渉)によって縞パターンPL2を形成する。照明光学系11は、干渉する2つの光束の相対的な位相を変えることで、励起光L2の強度分布(例、縞パターンPL2の位相)を変更可能である。上記同様に、照明光学系11は、干渉する2つの光束の光路長を相対的に変えることで、これら2つの光束の相対的な位相を変えることができる。
The illumination
なお、照明光学系11は、回折格子15を、照明光学系11の光軸と交差(例、直交)する方向に移動させることで、励起光L2の強度分布(例、縞パターンPL2の位相)を変更する構成でもよい。また、分岐部15として空間光変調器を用いる場合、照明光学系11は、空間光変調器における屈折率の分布を変更することで、励起光L2の強度分布(例、縞パターンPL2の位相)を変更する構成でもよい。
The illumination
回折格子15(図3(B)参照)は、第2方向D2に対応するY方向において構造が周期的に変化する。回折格子15は、照明光学系11の光軸11aに交差する面内に、例えば1次元の周期構造を有する。この周期構造は、濃度(又は透過率)が周期的に変化する構造であってもよいし、段差(又は位相差)が周期的に変化する構造であってもよい。回折格子15が位相型である場合、±1次回折光の回折効率が高く、縞パターンの形成に±1次回折光を用いる場合に光量のロスを低減することができる。回折格子15は、試料面Saと光学的に共役な位置FV2(例、視野共役位置)に配置される。回折格子15は、縞パターンのコントラスト値が許容される範囲内で、位置FV2からずれた位置(例、視野共役位置の近傍)に配置されてもよい。
The structure of the diffraction grating 15 (see FIG. 3B) changes periodically in the Y direction corresponding to the second direction D2. The
照明光学系11は、活性化光L1と励起光L2とを試料Sへ導くダイクロイックミラー16を備える。ダイクロイックミラー16は、回折格子13から出射した活性化光L1が入射し、かつ回折格子15から出射した励起光L2が入射する位置に配置される。ダイクロイックミラー16は、活性化光L1が透過し、励起光L2が反射する特性を有する。活性化光L1は、ダイクロイックミラー16を透過して試料Sへ向かう。励起光L2は、ダイクロイックミラー16で反射して試料Sへ向かう。
The illumination
照明光学系11は、ダイクロイックミラー16から試料Sに向かう順に、レンズ21、マスク22、レンズ23、照野絞り24、レンズ25、フィルタ26、ダイクロイックミラー27、及び対物レンズ28を含む。
The illumination
ダイクロイックミラー16から出射した活性化光L1および励起光L2は、レンズ21に入射する。レンズ21は、第1光源LS1と同じ側の焦点面が回折格子13と同じ位置またはその近傍の位置になるように、配置される。レンズ21は、例えば、第2光源LS2と同じ側の焦点面が回折格子15と同じ位置またはその近傍の位置になるように、配置される。レンズ21は、例えば、試料Sと同じ側の焦点面が瞳共役面P1と一致するように配置される。瞳共役面P1は、対物レンズ28の瞳面P0と光学的に共役な面である。
The activation light L1 and the excitation light L2 emitted from the
マスク22は、縞パターンPL1の形成に使われる回折光を通し、縞パターンPL1の形成に使われない回折光を遮る。本実施形態において、縞パターンPL1の形成に使われる回折光は、回折格子13で回折した活性化光L1の1次回折光(+1次回折光、-1次回折光)である。また、本実施形態において、縞パターンPL1の形成に使われない回折光は、回折格子13で回折した活性化光L1の0次回折光および2次以上の回折光である。
The
また、マスク22は、縞パターンPL2の形成に使われる回折光を通し、縞パターンPL2の形成に使われない回折光を遮る。本実施形態において、縞パターンPL2の形成に使われる回折光は、回折格子15で回折した励起光L2の1次回折光(+1次回折光、-1次回折光)である。また、本実施形態において、縞パターンPL2の形成に使われない回折光は、回折格子15で回折した励起光L2の0次回折光および2次以上の回折光である。
Further, the
マスク22は、活性化光L1および励起光L2のそれぞれについて、1次回折光を通し、0次回折光および2次以上の回折光を遮断する。マスク22は、1次回折光の光路が他の回折光と空間的に分離する位置、例えば瞳共役面P1またはその近傍に配置される。マスク22において、0次回折光が入射する部分は遮光部であり、1次回折光が入射する部分は開口部(透過部)である。
The
マスク22(図3(A)、図3(B)参照)は、開口22aから開口22dを有する。開口22aと開口22b(図3(A)参照)とは、活性化光L1の1次回折光が入射する位置に配置される。開口22aと開口22bとは、第1方向D1(図2参照)に対応するX方向に並んでいる。開口22aと開口22bとは、活性化光L1が透過する透過部である。マスク22において開口22aの周囲および開口22bの周囲の部分は、活性化光L1を遮光する遮光部である。
The mask 22 (see FIGS. 3A and 3B) has
また、開口22cと開口22d(図3(B)参照)とは、励起光L2の1次回折光が入射する位置に配置される。開口22cと開口22dとは、第2方向D2(図2参照)に対応するY方向に並んでいる。開口22cと開口22dとは、励起光L2が透過する透過部である。マスク22において開口22cの周囲および開口22dの周囲の部分は、励起光L2を遮光する遮光部である。
Further, the
マスク22を通った活性化光L1および励起光L2は、レンズ23に入射する。レンズ23は、第1光源LS1と反対側(試料Sと同じ側)の焦点面23aが回折格子13と光学的に共役な位置またはその近傍の位置になるように、配置される。レンズ23は、第2光源LS2と反対側(試料Sと同じ側)の焦点面23aが回折格子15と光学的に共役な位置またはその近傍の位置になるように、配置される。
The activation light L1 and the excitation light L2 that have passed through the
図3(A)および図3(B)において、符号FV3は、図1の試料面Saと光学的に共役な面(例、レンズ23の焦点面23a)である。また、図3(A)の符号PL1aは、面FV3における活性化光L1の強度分布(縞パターン)である。強度分布PL1aは、図2の第1方向D1に対応するX方向において強度が周期的に変化する分布である。図3(B)において、符号PL2aは、面FV3における励起光L2の強度分布(縞パターン)である。強度分布PL2aは、図2の第2方向D2に対応するY方向において強度が周期的に変化する分布である。
In FIGS. 3A and 3B, reference numeral FV3 is a plane optically conjugate with the sample plane Sa of FIG. 1 (eg, the
図1の説明に戻り、照明光学系11は、第3光源LS3の光出射側に、レンズ17およびダイクロイックミラー18を備える。レンズ17は、例えばコリメータであり、第3光源LS3から出射した不活性化光L3をほぼ平行光に変換する。レンズ17を通った不活性化光L3は、ダイクロイックミラー18に入射する。本実施形態において、ダイクロイックミラー18は、活性化光L1が入射し、かつ励起光L2が入射する位置に配置される。ダイクロイックミラー18は、活性化光L1および励起光L2が透過し、不活性化光L3が反射する特性である。
Returning to the description of FIG. 1, the illumination
ダイクロイックミラー18は、例えば、マスク22と試料Sとの間の光路に配置される。ダイクロイックミラー18は、例えば、第3光源LS3と照野絞り24(後述する)との間の光路に配置される。本実施形態において、ダイクロイックミラー18は、レンズ23と照野絞り24との間の光路に配置される。レンズ23を通った活性化光L1および励起光L2は、ダイクロイックミラー18を透過して照野絞り24へ向かう。レンズ17を通った不活性化光L3は、ダイクロイックミラー18で反射して照野絞り24へ向かう。
The
照野絞り24は、レンズ23の焦点面23aまたはその近傍に配置される。照野絞り24は、照明光学系11の光軸11aに垂直な面内において、照明光学系11から試料Sに照明光(活性化光L1、励起光L2、不活性化光L3)が照射される範囲(照野、照明領域)を規定する。なお、顕微鏡1は、照野絞り24を備えなくてもよい。照野絞り24を通った活性化光L1および励起光L2は、レンズ25に入射する。レンズ25は、例えば、その試料Sと同じ側の焦点面が瞳面P0の位置になるように、配置される。
The
レンズ25を通った活性化光L1、励起光L2、及び不活性化光L3は、フィルタ26に入射する。フィルタ26は、活性化光L1と励起光L2と不活性化光L3とが選択的に通る特性を有する。フィルタ26は、例えば、所定波長以外の波長の光の少なくとも一部、迷光、外光などを遮断する。フィルタ26を通った活性化光L1、励起光L2、及び不活性化光L3は、ダイクロイックミラー27に入射する。ダイクロイックミラー27は、活性化光L1、励起光L2、及び不活性化光L3が反射し、試料Sから放射される光のうち所定の波長帯の光(例、蛍光L)が通る特性を有する。フィルタ26から出射した活性化光L1、励起光L2、及び不活性化光L3は、ダイクロイックミラー27で反射し、対物レンズ28に入射する。
The activating light L1, the excitation light L2, and the deactivating light L3 that have passed through the
対物レンズ28に関して光源(第1光源LS1、第2光源LS2、第3光源LS3)と反対側の焦点面は、観察対象の面(例、物体面)に相当する。この焦点面は、試料Sが配置される試料面Saに相当する。試料面Saは、回折格子13と光学的に共役な位置またはその近傍の位置に配置される。また、試料面Saは、回折格子15と光学的に共役な位置またはその近傍の位置に配置される。
The focal plane on the opposite side of the
照射部3は、対物レンズ28を介して試料Sに縞パターンPL1と縞パターンPL2とを照射する。試料面Saには、回折格子13の周期構造に対応して、活性化光L1の縞パターンPL1(図2参照)が形成される。また、試料面Saには、回折格子15の周期構造に対応して、励起光L2の縞パターンPL2(図2参照)が形成される。試料Sに含まれる蛍光物質は、活性化光L1が照射された状態で励起光L2が照射されることによって蛍光Lを発する。
The
照射部3は、活性化光L1と励起光L2とを試料Sに照射し、蛍光Lの検出(例、撮像部3による撮像)が実行された後に、不活性化光L3を試料Sに照射する。また、照射部3は、不活性化光L3を試料Sに照射した後に、次に蛍光Lの検出(撮像部3による撮像)が実行される前に、活性化光L1と励起光L2とを試料Sに照射する。
The
撮像部4は、対物レンズ28を介して蛍光Lの像(試料Sの像、試料Sにおける蛍光物質の分布)を撮像する。撮像部4は、結像光学系31および撮像素子32を備える。結像光学系31は、試料Sから撮像素子32へ向かう順に、対物レンズ28、ダイクロイックミラー27、フィルタ33、及びレンズ34を備える。対物レンズ28およびダイクロイックミラー27は、照明光学系11と結像光学系31とで共用である。試料Sから放射される蛍光Lは、対物レンズ28に入射して平行光に変換され、ダイクロイックミラー27を通ってフィルタ33に入射する。
The
フィルタ33は、例えば蛍光フィルタである。フィルタ33は、試料Sからの蛍光Lが選択的に通る特性を有する。フィルタ33は、例えば、試料Sで反射した照明光(活性化光L1、励起光L2、不活性化光L3)、外光、及び迷光の少なくとも一部を遮断する。フィルタ33を通った蛍光Lは、レンズ34に入射する。レンズ34は、試料Sと同じ側の焦点面が対物レンズ28の瞳面P0と一致するように、配置される。結像光学系31は、対物レンズ28の試料面Sa(物体面)と光学的に共役な面(像面)を形成する。
The
撮像素子32は、例えばCCDイメージセンサやCMOSイメージセンサなどの二次元イメージセンサを含む。撮像素子32は、例えば、二次元的に配列された複数の画素を有し、各画素にフォトダイオードなどの光電変換素子が配置された構造である。以下、撮像素子32において光電変換素子が配置される面を、適宜、受光面という。撮像素子32は、受光面が対物レンズ28の試料面Saと光学的に共役になるように、配置される。撮像素子32は、例えば、光電変換素子への蛍光Lの照射によって生じた電荷を、読出回路によって読み出す。撮像素子32は、読み出された電荷をデジタルデータ(例、8ビットの階調値)に変換し、画素の位置と階調値とを関連付けたデジタル形式の画像データを出力する。撮像素子32は、撮像結果として、撮像画像のデータを制御装置5に出力する。
The
制御装置5は、制御部41および画像処理部42を備える。制御部41は、顕微鏡1の各部を制御する。制御部41は、照射部3を制御して、試料Sに活性化光L1が照射される第1期間を設定する。例えば、制御部41は、第1光源LS1を点灯させることによって試料Sに対する活性化光L1の照射を開始させ、第1光源LS1を消灯させることによって試料Sに対する活性化光L1の照射を停止させる。上記の第1期間は、試料Sに対する活性化光L1の照射の開始から停止までの期間である。制御部41は、照射部3の光路に設けられるシャッタ(例、音響光学素子)の開閉を制御することによって、試料Sに対する活性化光L1の照射の開始と停止との一方または双方を制御してもよい。
The
また、制御部41は、照射部3を制御して、試料Sに励起光L2が照射される第2期間を設定する。第2期間は、上記の第1期間の少なくとも一部と重複する期間に設定されてもよいし、第1期間の終了後の期間に設定されてもよい。制御部41は、例えば、第2光源LS2を点灯させることによって試料Sに対する励起光L2の照射を開始させ、第2光源LS2を消灯させることによって試料Sに対する励起光L2の照射を停止させる。上記の第2期間は、試料Sに対する励起光L2の照射の開始から停止までの期間である。制御部41は、照射部3の光路に設けられるシャッタ(例、音響光学素子)の開閉を制御することによって、試料Sに対する励起光L2の照射の開始と停止との一方または双方を制御してもよい。
Further, the
また、制御部41は、撮像部4を制御して、撮像部4によって試料Sを撮像させる。制御部41は、試料Sに対して活性化光L1と励起光L2とが照射されるタイミングに基づいて、撮像部4によって試料Sを撮像させる。制御部41は、照射部3を制御して試料Sに活性化光L1と励起光L2とを照射させ、試料Sに含まれる蛍光物質が励起した状態において撮像部4によって試料Sを撮像させる。
Further, the
また、制御部41は、第1方向D1における活性化光L1の強度分布と、第2方向D2における励起光L2の強度分布とを変更する。制御部41は、第1方向D1において強度が周期的に変化する活性化光L1の強度分布の位相と、第2方向D2において強度が周期的に変化する励起光L2の強度分布の位相とを変更して、撮像部4に試料Sを撮像させる。画像処理部42は、撮像部4が撮像して得られる第1画像に基づいて、第1画像と解像度が異なる第2画像を生成する。第2画像は、例えば、第1画像よりも解像度が高い超解像画像である。
Further, the
図4は、第1実施形態に係る活性化光の強度分布の位相を示す図である。本実施形態において、制御部41は、活性化光L1の強度分布の位相(縞パターンPL1の位相)を、第1位相と第2位相と第3位相とに切り替えて、各位相に対応する第1画像を撮像部4によって撮像させる。図4において、符号PL1a、PL1b、PL1cは、それぞれ、第1位相、第2位相、第3位相の縞パターンPL1である。また、符号DL1a、DL1b、DL1cは、それぞれ、第1位相の縞パターンPL1aの強度分布、第2位相の縞パターンPL1bの強度分布、第3位相の縞パターンPL1cの強度分布である。第2位相は、例えば、第1位相に対して120°進んだ位相である。第3位相は、例えば第1位相に対して120°遅れた位相である。
FIG. 4 is a diagram showing the phase of the intensity distribution of the activation light according to the first embodiment. In the present embodiment, the
図5は、第1実施形態に係る励起光の強度分布の位相を示す図である。本実施形態において、制御部41は、励起光L2の強度分布の位相(縞パターンPL2の位相)を、第4位相と第5位相と第6位相とに切り替えて、各位相に対応する第1画像を撮像部4によって撮像させる。図5において、符号PL2a、PL2b、PL2cは、それぞれ、第4位相、第5位相、第6位相の縞パターンPL2である。また、符号DL2a、DL2b、DL2cは、それぞれ、第4位相の縞パターンPL2aの強度分布、第5位相の縞パターンPL2bの強度分布、第6位相の縞パターンPL2cの強度分布である。第5位相は、例えば、第4位相に対して120°進んだ位相である。第6位相は、例えば第4位相に対して120°遅れた位相である。
FIG. 5 is a diagram showing the phase of the intensity distribution of the excitation light according to the first embodiment. In the present embodiment, the
図1の説明に戻り、本実施形態に係る顕微鏡1は、第1位相設定部45と第2位相設定部46とを備え、上記したように、制御部41は、第1位相設定部45と第2位相設定部46とを制御して、活性化光L1の強度分布の位相と励起光L2の強度分布の位相とをそれぞれ変更する。
Returning to the description of FIG. 1, the
第1位相設定部45は、第1方向D1における活性化光L1の強度分布の位相を設定する。例えば第1位相設定部45は、試料面Saと光学的に共役な面上において、第1方向D1に対応する方向における回折格子13の位置を設定することによって、活性化光L1の強度分布の位相を設定する。試料面Saと光学的に共役な面上において、第1方向D1に対応する方向は、回折格子13において周期構造が繰り返し配列される周期方向である。第1位相設定部45は、例えばアクチュエータなどの駆動部であり、回折格子13をその周期方向に移動させることによって、活性化光L1の強度分布の位相を設定する。制御部41は、第1位相設定部45に制御信号を供給し、第1位相設定部45が制御信号に基づいて回折格子13を移動させることによって、活性化光L1の強度分布の位相を変更する。
The first
第2位相設定部46は、第2方向D2における励起光L2の強度分布の位相を設定する。例えば第2位相設定部46は、試料面Saと光学的に共役な面上において、第2方向D2に対応する方向における回折格子15の位置を設定することによって、励起光L2の強度分布の位相を設定する。試料面Saと光学的に共役な面上において、第2方向D2に対応する方向は、回折格子15において周期構造が繰り返し配列される周期方向である。第2位相設定部46は、例えばアクチュエータなどの駆動部であり、回折格子15をその周期方向に移動させることによって、励起光L2の強度分布の位相を設定する。制御部41は、第2位相設定部46に制御信号を供給し、第2位相設定部46が制御信号に基づいて回折格子15を移動させることによって、励起光L2の強度分布の位相を変更する。
The second
制御部41は、第1位相設定部45および撮像部4を制御して、第1方向D1における活性化光L1の強度分布の位相が異なる複数の第1条件(第1位相条件)で、撮像部4に撮像させる。複数の第1条件は、活性化光L1の強度分布の位相が第1位相である条件、第2位相である条件、及び第3位相である条件を含む。また、制御部41は、第2位相設定部46および撮像部4を制御して、第2方向D2における励起光L2の強度分布の位相が異なる複数の第2条件(第2位相条件)で、撮像部4に撮像させる。複数の第2条件は、励起光L2の強度分布の位相が第4位相である条件、第5位相である条件、及び第6位相である条件を含む。
The
ここでは、第1方向D1における活性化光L1の強度分布の位相が3条件(3通り)であって、第2方向D2における励起光L2の強度分布の位相が3条件(3通り)であるので、活性化光L1の強度分布の位相と励起光L2の強度分布の位相との組み合わせは3×3の9条件(9通り)ある。制御部41は、これら9条件のそれぞれについて撮像部4に順次連続して撮像させ、撮像部4は、複数の第1画像として9枚の画像を撮像する。画像処理部42(画像生成部、復調部)は、複数の第1画像として撮像部4が撮像した9枚の画像を用いて、第1画像とは解像度が異なる1枚の第2画像(例、超解像画像)を生成する。例えば、画像処理部42は、第1画像より相対的に解像度が高い第2画像を生成する。また、制御部41は、第1方向D1における位相の異なる活性化光L1を用いた複数回の撮像と、第2方向D2における位相の異なる励起光L2を用いた複数回の撮像とを連動して行うことによって、複数の第1画像を取得する。
Here, the phase of the intensity distribution of the activation light L1 in the first direction D1 is three conditions (three ways), and the phase of the intensity distribution of the excitation light L2 in the second direction D2 is three conditions (three ways). Therefore, there are 9 conditions (9 ways) of 3 × 3 for the combination of the phase of the intensity distribution of the activation light L1 and the phase of the intensity distribution of the excitation light L2. The
図6は、第1実施形態に係る画像処理部の処理を示す図である。画像処理部42は、複数の第1画像を用いて周波数空間における領域ごとの成分を分離し、分離した成分を再構築した後に実空間上の成分へ戻すことによって、第2画像を生成する。図6において、符号FD1は、第1方向D1に対応する周波数空間上の第1軸方向である。また、符号FD2は、第1方向D1に垂直な方向に対応する周波数空間上の第2軸方向である。本実施形態において、第2方向D2は第1方向D1に垂直であり、第2軸方向FD2は、第2方向D2に対応する周波数空間上の方向である。 FIG. 6 is a diagram showing processing of the image processing unit according to the first embodiment. The image processing unit 42 generates a second image by separating the components for each region in the frequency space using the plurality of first images, reconstructing the separated components, and then returning the components to the components in the real space. In FIG. 6, reference numeral FD1 is the first axial direction on the frequency space corresponding to the first direction D1. Further, the reference numeral FD2 is a second axis direction on the frequency space corresponding to the direction perpendicular to the first direction D1. In the present embodiment, the second direction D2 is perpendicular to the first direction D1, and the second axial direction FD2 is a direction on the frequency space corresponding to the second direction D2.
また、符号AR1aは、光学系の光学伝達関数(Optical transfer function;OTF)に対応する領域である。領域AR1aの外側の空間周波数成分は、縞パターンの照明によって空間周波数がシフトして領域AR1a内に他の空間周波数の成分と混在して表れ、光学系を介して検出可能になる。実施形態に係る顕微鏡1は、活性化光L1の位相および励起光L2の位相の一方または双方が異なる複数の条件で、試料Sから放射される蛍光を撮像によって検出する。また、顕微鏡1は、活性化光L1の位相および励起光L2の位相の一方または双方が異なる複数の条件で取得される撮像結果(複数の撮像画像)を用いて、空間周波数がシフトした空間周波数成分を分離し、分離した空間周波数成分をシフト前の空間周波数の空間周波数成分として配置して、空間周波数成分の分布を再構築する。そして、顕微鏡1は、再構築した空間周波数成分の分布を逆フーリエ変換によって実空間上の成分(輝度値)の分布に変換することによって、画像を生成する。
Further, the reference numeral AR1a is a region corresponding to an optical transfer function (OTF) of an optical system. The spatial frequency component outside the region AR1a is shifted in spatial frequency by the illumination of the fringe pattern and appears in the region AR1a mixed with other spatial frequency components, and can be detected via the optical system. The
ここで、超解像画像を生成する処理について数式を用いて説明する。図7から図9は、超解像画像を生成する処理の説明に用いる数式である。撮像画像は、図7の式(1)で表される。式(1)において、rは、撮像部4が検出する領域における各位置(例、撮像画像における各画素の位置)であり、例えばベクトルで表される。Iim(r)は、位置rにおける蛍光Lの強度であり、撮像画像の位置rにおける輝度値(例、画素値)に相当する。O(r)は位置rにおける物体(試料Sの蛍光物質)に相当する。また、Iact(r)は位置rにおける活性化光L1の強度に相当し、Iexc(r)は位置rにおける励起光L2の強度に相当する。また、PSF(r)は、点像分布関数(Point Spread Function, PSF)である。PSF(r)の左隣の記号*は、畳み込みの演算子である。
Here, the process of generating a super-resolution image will be described using a mathematical formula. 7 to 9 are mathematical formulas used for explaining the process of generating a super-resolution image. The captured image is represented by the equation (1) in FIG. In the formula (1), r is each position (eg, the position of each pixel in the captured image) in the region detected by the
また、Iact(r)は、図7の式(2)で表される。式(2)のC1は活性化光L1の縞パターンにおけるコントラストであり、k1は、活性化光L1の強度分布の周期によって定まる波数ベクトルであり、θは活性化光L1の強度分布の位相である。また、Iexc(r)は、図7の式(3)で表される。式(3)のC2は励起光L2の縞パターンにおけるコントラストであり、k2は、励起光L2の強度分布の周期によって定まる波数ベクトルであり、φ(phi)は励起光L2の強度分布の位相である。なお、図中の数式においてφはtimes new romanのフォントで表されている。撮像画像をフーリエ変換して得られるスペクトル(以下、撮像画像スペクトルと称する)は、図7の式(4)で表される。式(4)のkは、空間周波数である。 Further, I act (r) is represented by the equation (2) in FIG. C 1 in the equation (2) is the contrast in the fringe pattern of the activated light L1, k 1 is a wave vector determined by the period of the intensity distribution of the activated light L1, and θ is the intensity distribution of the activated light L1. The phase. Further, I exc (r) is represented by the equation (3) in FIG. C 2 in the equation (3) is the contrast in the fringe pattern of the excitation light L2, k 2 is a wave vector determined by the period of the intensity distribution of the excitation light L2, and φ (phi) is the intensity distribution of the excitation light L2. Phase. In the mathematical formula in the figure, φ is represented by the font of times new roman. The spectrum obtained by Fourier transforming the captured image (hereinafter referred to as the captured image spectrum) is represented by the equation (4) in FIG. K in the equation (4) is a spatial frequency.
顕微鏡1は、活性化光L1の位相を3通りに設定し(図4参照)、励起光L2の位相を3通りに設定する(図5参照)。顕微鏡1は、活性化光L1の位相および励起光L2の位相の一方または双方が異なる9通りの条件のそれぞれについて撮像画像を取得し、9通りの撮像画像を取得する。画像処理部42が各撮像画像に対してフーリエ変換を施すことによって、9通りの撮像画像のそれぞれについて式(4)の左辺の値が既知となり、左辺の値が既知の式(4)が9つ得られる。左辺の値が既知の9つの式(4)を連立した連立方程式を、行列を用いて図8の式(5)に示す。また、式(5)のMは9行9列の行列であり、その要素を図9の式(6)に示す。
In the
式(5)の左辺のIim0(k)からIim8(k)は、式(4)の左辺に対応する。ここでは、9通りの位相の条件に0から8の9種類の番号を割り付け、この番号を加えた添え字(例、im0、im1、・・・、im8)によって位相の条件を区別している。式(6)に示すように、行列Mは、係数C1、係数C2、活性化光L1の位相θ、及び励起光L2の位相φで定まる行列である。式(6)のθ0、θ1、θ2は、それぞれ、活性化光L1の位相θの設定値(第1位相、第2位相、第3位相)である。また、式(6)のφ0、φ1、φ2は、それぞれ、励起光L2の位相φの設定値(第4位相、第5位相、第6位相)である。
I im0 (k) to I im8 (k) on the left side of the equation (5) correspond to the left side of the equation (4). Here, nine types of numbers from 0 to 8 are assigned to the nine phase conditions, and the phase conditions are distinguished by the subscripts (eg, im0, im1, ..., Im8) to which these numbers are added. As shown in the equation (6), the matrix M is a matrix determined by the coefficient C 1 , the coefficient C 2 , the phase θ of the activation light L1, and the phase φ of the
画像処理部42は、式(5)を解くことによって、O(k)、O(k+k1)、・・・、O(k-k1+k2)を算出する。O(k+k1)、・・・、O(k-k1+k2)は、それぞれ、空間周波数がシフトした空間周波数成分である。画像処理部42は、式(5)を解くことによって、シフトした空間周波数成分を分離する。また、画像処理部42は、空間周波数がシフトした空間周波数成分を、周波数空間においてシフトする前の位置に配置することで、図6の領域AR1の空間周波数成分を構築する。また、画像処理部42は、図6の領域AR1の空間周波数成分に対して逆フーリエ変換を施すことによって、実空間上の輝度分布(例、超解像画像の各画素の輝度値)を取得し、超解像画像を生成する。 The image processing unit 42 calculates O (k), O (k + k 1 ), ..., O (k−k 1 + k 2 ) by solving the equation (5). O (k + k 1 ), ..., O (k−k 1 + k 2 ) are spatial frequency components whose spatial frequencies are shifted, respectively. The image processing unit 42 separates the shifted spatial frequency component by solving the equation (5). Further, the image processing unit 42 constructs the spatial frequency component of the region AR1 of FIG. 6 by arranging the spatial frequency component whose spatial frequency is shifted at a position before the shift in the frequency space. Further, the image processing unit 42 acquires the brightness distribution in the real space (eg, the brightness value of each pixel of the super-resolution image) by performing an inverse Fourier transform on the spatial frequency component of the region AR1 in FIG. And generate a super-resolution image.
図6の説明に戻り、領域AR1の成分は、光学系のOTFに対応する領域AR1aの成分に比べて、第1軸方向FD1および第2軸方向FD2のそれぞれにおいて高周波数成分を含む。画像処理部42は、領域AR1の成分を逆フーリエ変換によって実空間上の成分へ変換することで、第2画像を生成する。第2画像は、第1軸方向FD1に対応する第1方向D1および第2軸方向FD2に対応する第2方向D2のそれぞれにおいて、第1画像よりも解像度が高い。 Returning to the description of FIG. 6, the component of the region AR1 includes a high frequency component in each of the first axial direction FD1 and the second axial direction FD2 as compared with the component of the region AR1a corresponding to the OTF of the optical system. The image processing unit 42 generates a second image by converting the component of the region AR1 into a component in the real space by the inverse Fourier transform. The second image has a higher resolution than the first image in each of the first direction D1 corresponding to the first axial direction FD1 and the second direction D2 corresponding to the second axial direction FD2.
なお、画像処理部42は、領域AR1の成分の一部を抽出して、抽出した成分を実空間上の成分に変換することで第2画像を生成してもよい。例えば、領域AR2は、周波数空間の原点を中心とする円形の領域である。領域AR2は、領域AR1aよりも半径が大きく、かつ領域AR1に収まる(例、領域AR1に内接する)ように設定される。画像処理部42は、領域AR2の内側の成分を用いるとともに領域AR2の外側の成分を除外して、第2画像を生成してもよい。この場合、第2画像として、第1方向D1および第2方向D2のそれぞれにおいて第1画像よりも解像度が高く、かつ解像度の等方性が向上した画像が得られる。例えば、第2画像として、第1方向D1の解像度と、第1方向D1に対して45°の角度をなす方向の解像度とが揃った画像を取得可能である。 The image processing unit 42 may generate a second image by extracting a part of the component of the region AR1 and converting the extracted component into a component in the real space. For example, the region AR2 is a circular region centered on the origin of the frequency space. The region AR2 is set to have a larger radius than the region AR1a and to fit in the region AR1 (eg, inscribed in the region AR1). The image processing unit 42 may generate a second image by using the component inside the region AR2 and excluding the component outside the region AR2. In this case, as the second image, an image having a higher resolution than the first image and an improved isotropic resolution can be obtained in each of the first direction D1 and the second direction D2. For example, as the second image, it is possible to acquire an image in which the resolution of the first direction D1 and the resolution of the direction forming an angle of 45 ° with respect to the first direction D1 are aligned.
図10(A)および図10(B)は、第1実施形態に係る画像処理部の処理、比較例の処理を示す図である。比較例では、強度が周期的に変化する方向(周期方向)の数が1つである縞パターンを照明光として用いる。また比較例では、縞パターンの周期方向を3方向(図中では0°、120°、240°の方向)に変更し、縞パターンの位相を3位相に変更した9条件で試料を撮像する。比較例では、9条件の撮像によって得られる9枚の第3画像を用いて、第3画像よりも解像度が高い第4画像を生成する。複数の第3画像から第4画像を生成する処理は、構造化照明顕微鏡において超解像画像を生成する処理を適用可能である(例えば、文献 “Three-dimensional resolution doubling in wide-field fluorescence microscopy by structured illumination”, M. G. L. Gustafsson et al., Biophysical Journal 94, 4957 (2008)」を参照)。 10 (A) and 10 (B) are diagrams showing the processing of the image processing unit and the processing of the comparative example according to the first embodiment. In the comparative example, a fringe pattern in which the number of directions in which the intensity changes periodically (periodic direction) is one is used as the illumination light. In the comparative example, the periodic direction of the fringe pattern is changed to three directions (directions of 0 °, 120 °, and 240 ° in the figure), and the sample is imaged under nine conditions in which the phase of the fringe pattern is changed to three phases. In the comparative example, nine third images obtained by imaging under nine conditions are used to generate a fourth image having a higher resolution than the third image. The process of generating a fourth image from a plurality of third images can be applied to the process of generating a super-resolution image in a structured illumination microscope (for example, the document “Three-dimensional resolution doubling in wide-field fluorescence microscopy by”. See structured illumination ”, M.G.L. Gustafsson et al., Biophysical Journal 94, 4957 (2008)”).
図10(A)の符号AR3は、比較例の9枚の第3画像から周波数空間上の成分が得られる領域である。図6で説明した本実施形態に係る領域AR1は、例えば第1軸方向FD1に対して45°の方向等において、比較例の領域AR3よりも高周波数成分を含む。実施形態に係る顕微鏡1は、領域AR1の成分を実空間上の成分へ変換することによって、比較例の領域AR3の成分を実空間の成分へ変換して得られる第4画像よりも、解像度が高い第2画像を取得可能である。実施形態に係る顕微鏡1は、例えば、従来のSIMと同じ枚数の撮像画像を用いて第2画像を生成する場合、従来のSIMと比べて高解像度の画像を取得可能である。また、実施形態に係る顕微鏡1は、例えば、照明光の方向を変更する従来のSIMと比較して、照明光の方向を変更する動作を省くことができる。
Reference numeral AR3 in FIG. 10A is a region in which components on the frequency space can be obtained from the nine third images of the comparative example. The region AR1 according to the present embodiment described with reference to FIG. 6 contains a higher frequency component than the region AR3 of the comparative example, for example, in a direction of 45 ° with respect to the first axial direction FD1. The
また、図10(B)の符号AR2は、実施形態に係る領域AR1に内接し、周波数空間の原点を中心とする円形の領域である。また、符号AR4は、比較例の領域AR3に内接し、周波数空間の原点を中心とする円形の領域である。実施形態に係る領域RA2は、比較例に係る領域AR4に比べて半径が大きく、高周波数成分を含む。実施形態に係る領域AR2の成分を用いて画像を生成する場合、解像度が等方的な画像が得られ、かつ比較例に係る領域AR4の成分を用いて画像を生成する場合よりも解像度が高い画像が得られる。 Further, the reference numeral AR2 in FIG. 10B is a circular region inscribed in the region AR1 according to the embodiment and centered on the origin of the frequency space. Further, the reference numeral AR4 is a circular region inscribed in the region AR3 of the comparative example and centered on the origin of the frequency space. The region RA2 according to the embodiment has a larger radius than the region AR4 according to the comparative example and contains a high frequency component. When an image is generated using the component of the region AR2 according to the embodiment, an image having an isotropic resolution is obtained, and the resolution is higher than when the image is generated using the component of the region AR4 according to the comparative example. An image is obtained.
図11は、第1実施形態に係る第1方向と第2方向との関係を示す図である。第2方向D2は、図2等において第1方向D1に対して垂直としているが、第1方向D1に対して垂直でなくてもよい。図11の符号αは、第1方向D1と第2方向D2との角度である。また、符号Kv1は活性化光L1の縞パターンPL1の波数ベクトルであり、符号Kv2は、励起光L2の縞パターンPL2の波数ベクトルであり、符号Kv3は、波数ベクトルKv1と波数ベクトルKv2との合成ベクトルである。また、符号D5は、第1方向D1に垂直な方向である。 FIG. 11 is a diagram showing the relationship between the first direction and the second direction according to the first embodiment. Although the second direction D2 is perpendicular to the first direction D1 in FIG. 2 and the like, it does not have to be perpendicular to the first direction D1. Reference numeral α in FIG. 11 is an angle between the first direction D1 and the second direction D2. Further, reference numeral Kv1 is a wave vector of the fringe pattern PL1 of the activation light L1, reference numeral Kv2 is a wave number vector of the fringe pattern PL2 of the excitation light L2, and reference numeral Kv3 is a combination of the wave number vector Kv1 and the wave number vector Kv2. It is a vector. Further, the reference numeral D5 is a direction perpendicular to the first direction D1.
ここで、合成ベクトルKv3の第1方向D1の成分と、合成ベクトルKv3の方向D5の成分との比をRで表す。比Rは、第1方向D1における解像度と方向D5における解像度の比に対応する。比Rは、例えば解像度の等方性が要求される場合に、0.9以上1.1以下の範囲内に設定されてもよい。比Rは、αを用いるとR=(1+cosα)/sinαで表され、角度αは、0.9≦(1+cosα)/sinα≦1.1を満たすように設定されてもよい。例えば、角度αは、85°以上95°以下の範囲内に設定されてもよい。 Here, the ratio of the component of the first direction D1 of the composite vector Kv3 to the component of the direction D5 of the composite vector Kv3 is represented by R. The ratio R corresponds to the ratio of the resolution in the first direction D1 to the resolution in the direction D5. The ratio R may be set in the range of 0.9 or more and 1.1 or less, for example, when isotropic resolution is required. The ratio R is represented by R = (1 + cosα) / sinα when α is used, and the angle α may be set to satisfy 0.9 ≦ (1 + cosα) / sinα ≦ 1.1. For example, the angle α may be set within the range of 85 ° or more and 95 ° or less.
次に、上記顕微鏡1の構成に基づいて、第1実施形態に係る観察方法について説明する。図12は、第1実施形態に係る観察方法の第1例を示すフローチャートである。第1例において、励起光L2の波長は、活性化光L1の波長および不活性化光L3の波長のいずれとも異なる。励起光L2の波長が活性化光L1の波長または不活性化光L3の波長と同じ場合については、後に図14で説明する。また、顕微鏡1の各部については、適宜、図1を参照する。
Next, the observation method according to the first embodiment will be described based on the configuration of the
ステップS1において、制御部41は、第1方向D1において強度が周期的に変化する活性化光L1の位相を設定する。例えば、制御部41は、第1位相設定部45を制御して、活性化光L1(縞パターンPL1)の位相を第1位相に設定する。ステップS2において、照射部3は、活性化光L1を試料Sに照射する。照射部3は、活性化光L1として第1位相の縞パターンPL1を、試料Sに照射する。
In step S1, the
ステップS3において、制御部41は、第2方向D2において強度が周期的に変化する励起光L2の位相を設定する。例えば、制御部41は、第2位相設定部46を制御して、励起光L2(縞パターンPL2)の位相を第4位相に設定する。ステップS4において、照射部3は、励起光L2を試料に照射する。照射部3は、励起光L2として第4位相の縞パターンPL2を、試料Sに照射する。照射部3は、ステップS4の処理を、ステップS2の処理と並行して実行してもよい。照射部3は、励起光L2を、活性化光L1の照射と並行して又は活性化光L1の照射後に、試料Sに照射する。
In step S3, the
ステップS5において、撮像部4は、試料Sを撮像して第1画像を取得する。撮像部4は、活性化光L1として第1位相の縞パターンPL1が照射され、かつ励起光L2として第4位相の縞パターンPL2が照射された試料を撮像する。撮像部4は、撮像により得られる第1画像のデータを制御装置5に出力する。制御装置5は、撮像部4から出力された第1画像のデータを記憶装置7に記憶させる。
In step S5, the
ステップS6において、制御部41は、励起光L2の位相を変更するか否かを判定する。制御部41は、ステップS1で設定された活性化光L1の位相に対して予定された複数の第2条件(例、励起光L2の位相が第4位相、第5位相、第6位相)の一部について撮像が完了していない場合、励起光L2の位相を変更すると判定する。制御部41は、励起光L2の位相を変更すると判定した場合(ステップS6;Yes)、ステップS3に戻り、励起光L2の位相を次の位相(例、第5位相)に変更する。そして、顕微鏡1は、ステップS4からステップS6の処理を繰り返す。
In step S6, the
ステップS6において、制御部41は、ステップS1で設定された活性化光L1の位相に対して予定された複数の第2条件(例、励起光L2の位相が第4位相、第5位相、第6位相)の全てについて撮像が完了している場合、励起光L2の位相を変更しないと判定する。制御部41は、励起光L2の位相を変更しないと判定した場合(ステップS6;No)、ステップS7において、不活性化光L3を試料Sに照射させる。制御部41は、ステップS8において、活性化光L1の位相を変更するか否かを判定する。
In step S6, the
制御部41は、予定された複数の第1条件(例、活性化光L1の位相が第1位相、第2位相、第3位相)の一部について撮像が完了していない場合、活性化光L1の位相を変更すると判定する。制御部41は、活性化光L1の位相を変更すると判定した場合(ステップS8;Yes)、ステップS1に戻り、活性化光L1の位相を次の位相(例、第2位相)に変更する。そして、顕微鏡1は、ステップS2からステップS7の処理を繰り返す。
When the
ステップS8において、予定された複数の第1条件(例、活性化光L1の位相が第1位相、第2位相、第3位相)の全てについて撮像が完了している場合、制御部41は、活性化光L1の位相を変更しないと判定する。制御部41は、活性化光L1の位相を変更しないと判定した場合(ステップS8;No)、画像処理部42に第2画像を生成させる。ステップS9において、画像処理部42は、複数の第1画像(撮像画像)に基づいて、第1画像と解像度が異なる第2画像を生成する。例えば、画像処理部42は、第2画像として、第1画像(撮像画像)よりも解像度が高い超解像画像を生成する。画像処理部42は、複数の第1画像のデータを記憶装置7から読み出し、複数の第1画像に基づいて第1画像よりも解像度が高い第2画像を生成する。画像処理部42は、生成した第2画像のデータを記憶装置7に記憶させる。制御装置5は、画像処理部42が生成した第2画像を表示装置6に表示させる。なお、第2画像の解像度は、第1方向D1と第2方向D2との一方または双方において、第1画像の解像度よりも低くても構わない。
In step S8, when the imaging is completed for all of the plurality of scheduled first conditions (eg, the phases of the activated light L1 are the first phase, the second phase, and the third phase), the
ここで、本実施形態に係る照明光(活性化光L1、励起光L2、不活性化光L3)の照射タイミングおよび撮像タイミングについて説明する。図13(A)から(C)は、第1実施形態に係る照明光の照射タイミングおよび撮像タイミングを示すタイミングチャートである。ここでは、励起光L2の波長が、活性化光L1の波長と不活性化光L3の波長とのいずれとも異なるものとする。顕微鏡1の各部については、適宜、図1を参照する。
Here, the irradiation timing and the imaging timing of the illumination light (activating light L1, excitation light L2, deactivating light L3) according to the present embodiment will be described. 13 (A) to 13 (C) are timing charts showing the irradiation timing and the imaging timing of the illumination light according to the first embodiment. Here, it is assumed that the wavelength of the excitation light L2 is different from the wavelength of the activation light L1 and the wavelength of the deactivation light L3. For each part of the
まず、図13(A)に示すタイミングチャートについて説明する。照射部3は、期間T1において、活性化光L1を試料Sに照射する。照射部3は、期間T2において、励起光L2を試料Sに照射する。図13(A)において、期間T2の開始時は、期間T1の終了後である。図13(A)において、期間T2は、期間T1と重複しない期間である。
First, the timing chart shown in FIG. 13A will be described. The
撮像部4は、期間T3において試料Sを撮像する。期間T3は、撮像素子32において受光により発生する電荷を、撮像素子32が蓄積する露光期間である。期間T3は、励起光L2の照射によって試料Sから蛍光Lが放射される期間を含むように設定される。図13(A)において、期間T3は、期間T2と同じ期間である。
The
照射部3は、期間T4において、不活性化光L3を試料Sに照射する。期間T4の開始時は、期間T3の終了後である。期間T4の終了後に次のフレームが予定されている場合、照射部3および撮像部4は、上述の処理を繰り返す。制御部41は、照射部3を制御して上述のタイミングで照明光を試料Sに照射させ、撮像部4を制御して上述のタイミングで試料Sを撮像させる。
The
次に、図13(B)に示すタイミングチャートについて説明する。図13(B)において、励起光L2が試料Sに照射される期間T2は、活性化光L1が試料Sに照射される期間T1の少なくとも一部と重複する。期間T2は、期間T1と同じでもよい。また、期間T2は、期間T1の一部でもよい。また、期間T1は、期間T2の一部でもよい。撮像が実行される期間T3は、励起光L2の照射によって試料Sから蛍光Lが放射される期間を含むように設定される。期間T3は、期間T1の少なくとも一部と重複してもよい。また、期間T3は、期間T1と重複しなくてもよい。例えば、図13(B)において、期間T1は、期間T1の終了後における期間T2を含むように設定されてもよい。 Next, the timing chart shown in FIG. 13B will be described. In FIG. 13B, the period T2 in which the excitation light L2 is irradiated on the sample S overlaps with at least a part of the period T1 in which the activation light L1 is irradiated on the sample S. The period T2 may be the same as the period T1. Further, the period T2 may be a part of the period T1. Further, the period T1 may be a part of the period T2. The period T3 in which the imaging is executed is set to include a period in which the fluorescence L is emitted from the sample S by the irradiation of the excitation light L2. The period T3 may overlap with at least a portion of the period T1. Further, the period T3 does not have to overlap with the period T1. For example, in FIG. 13B, the period T1 may be set to include the period T2 after the end of the period T1.
次に、図13(C)に示すタイミングチャートについて説明する。図13(C)において、励起光L2が試料Sに照射される期間T2は、撮像が実行される期間T3の一部である。このように、期間T3は、開始時と、終了時と、期間の長さとの少なくとも1つが期間T2と異なってもよい。期間T3は、期間T2の一部でもよい。なお、図13(A)のように、期間T1と期間T2とが重複しない場合についても同様に、期間T3は、開始時と、終了時と、期間の長さとの少なくとも1つが期間T2と異なってもよい。 Next, the timing chart shown in FIG. 13C will be described. In FIG. 13C, the period T2 in which the excitation light L2 is applied to the sample S is a part of the period T3 in which imaging is performed. Thus, the period T3 may differ from the period T2 in at least one of a start time, an end time, and a length of the period. The period T3 may be a part of the period T2. Similarly, when the period T1 and the period T2 do not overlap as shown in FIG. 13 (A), the period T3 is different from the period T2 in at least one of the start time, the end time, and the length of the period. You may.
図14は、第1実施形態に係る観察方法の第2例を示すフローチャートである。図14において、図11と同様の処理については同じ符号を付してその説明を省略あるいは簡略化する。図14において、ステップS1からステップS5の処理は、図11と同様である。 FIG. 14 is a flowchart showing a second example of the observation method according to the first embodiment. In FIG. 14, the same processing as in FIG. 11 is designated by the same reference numerals, and the description thereof will be omitted or simplified. In FIG. 14, the processes from step S1 to step S5 are the same as those in FIG.
制御部41は、ステップS5において試料Sを撮像部4にさせた後、ステップS11において試料Sに不活性化光L3を照射させる。ステップS11の処理は、図11のステップS7と同様の内容であるが、実行される順番が図11と異なる。制御部41は、不活性化光L3が試料に照射された後、ステップS12において励起光L2の位相を変更するか否かを判定する。ステップS12の処理は、図11のステップS6と同様の内容であるが、実行される順番が図11と異なる。制御部41は、励起光L2の位相を変更すると判定した場合(ステップS11;Yes)、ステップS3に戻って励起光L2の位相を次の位相に設定し、ステップS4、ステップS5、ステップS11、ステップS12の処理を繰り返す。制御部41は、励起光L2の位相を変更しないと判定した場合(ステップS11;No)、ステップS8、ステップS9の処理を実行する。ステップS8、ステップS9の処理は、図11と同様である。
The
ここで、励起光L2の波長が活性化光L1の波長または不活性化光L3の波長と同じである場合の照明光の照射タイミングおよび撮像タイミングについて説明する。励起光L2の波長が活性化光L1の波長と同じである場合、照射部3は、例えば図13(A)で説明したタイミングで照明光を試料Sに照射する。励起光L2が照射される期間T2は、活性化光L1が照射される期間T1と重複しない期間に設定されることが望ましい。撮像が実行される期間T3は、活性化光L1が照射される期間T1と重複しない期間に設定される。
Here, the irradiation timing and the imaging timing of the illumination light when the wavelength of the excitation light L2 is the same as the wavelength of the activation light L1 or the wavelength of the deactivation light L3 will be described. When the wavelength of the excitation light L2 is the same as the wavelength of the activation light L1, the
また、励起光L2の波長が不活性化光L3の波長と同じである場合、照射部3は、例えば図13(A)から図13(C)のいずれかのタイミングで照明光を試料Sに照射する。励起光L2が照射される期間T2は、活性化光L1が照射される期間T1と重複しない期間でもよい。また、期間T2は、期間T1の少なくとも一部と重複する期間でもよい。また、撮像が実行される期間T3は、不活性化光L3が照射される期間T4と重複しない期間に設定される。
Further, when the wavelength of the excitation light L2 is the same as the wavelength of the inactivated light L3, the
なお、励起光L2の波長が活性化光L1または不活性化光L3の波長と異なる場合(図11参照)に、図14と同様に、ステップS5において試料を撮像するたびに不活性化光L3を試料Sに照射してもよい。図12のように、活性化光L1の1つの位相について励起光L2の位相の変更が終了した後に不活性化光L3を照射する場合、図14の処理を適用する場合に比べて、不活性化光L3を照射する処理の回数を減らすことができる。 When the wavelength of the excitation light L2 is different from the wavelength of the activation light L1 or the inactivation light L3 (see FIG. 11), the inactivation light L3 is taken every time the sample is imaged in step S5, as in FIG. May be irradiated to the sample S. As shown in FIG. 12, when the activation light L3 is irradiated after the phase change of the excitation light L2 is completed for one phase of the activation light L1, it is inactive as compared with the case where the process of FIG. 14 is applied. The number of processes for irradiating the chemical light L3 can be reduced.
実施形態に係る顕微鏡1は、活性化光L1の強度分布(例、縞パターン)の周期方向と励起光L2の強度分布(例、縞パターン)の周期方向とを変更しなくても2方向において第1画像と解像度が異なる(例、高い)第2画像を取得可能である。顕微鏡1は、例えば、照明光の縞パターンの周期方向を変更する構成を省くことができる。また、顕微鏡1は、例えば、照明光の縞パターンの周期方向を変更する処理を省くことによって、第2画像を高速で取得することができる。
The
なお、顕微鏡1は、活性化光L1の強度が周期的に変化する第1方向D1と、励起光L2の強度が周期的に変化する第2方向D2との一方または双方を変更可能でもよい。例えば、顕微鏡1は、第1方向D1と第2方向D2とが固定された状態で第1画像を取得して第2画像を生成した後、第1方向D1と第2方向D2との一方または双方を変更して次の第1画像を取得して次の第2画像を生成してもよい。また、第1方向D1と第2方向D2との一方または双方は、試料Sにおいて観察対象の構造によって解像度が要求される方向に基づいて、設定されてもよい。また、顕微鏡1は、第2画像として三次元的な画像を生成してもよい。
The
なお、照射部3は、第1光源LS1と第2光源LS2との一方または双方を備えなくてもよい。例えば、顕微鏡1は、第1光源LS1を備えない状態で提供されてもよい。第1光源LS1は、顕微鏡1が使用される際に、顕微鏡1に取り付けられてもよい。第1光源LS1は、照射部3に対して交換可能(取り付け可能、取り外し可能)でもよい。また、顕微鏡1は、第2光源LS2を備えない状態で提供されてもよい。第2光源LS2は、顕微鏡1が使用される際に、顕微鏡1に取り付けられてもよい。第2光源LS2は、照射部3に対して交換可能(取り付け可能、取り外し可能)でもよい。
The
なお、照射部3は、分岐部(例、分岐部13、分岐部15)として回折格子の代わりに空間光変調器(SLM)を備えてもよい。空間光変調器は、例えば、二次元的に配列される複数の画素を有し、各画素に入射する光を画素ごとに変調可能である。位相設定部(第1位相設定部45、第2位相設定部46)は、例えば、空間光変調器において各画素における変調を制御する信号(例、画像信号、ビットマップデータ)を空間光変調器に供給することによって、縞パターンの位相を設定してもよい。
The
なお、制御部41は、活性化光L1の位相と励起光L2の位相とに関する複数の条件を、いずれの順番で設定しても構わない。例えば、制御部41は、励起光L2の位相を第4位相に設定した状態で、活性化光L1の位相を第1位相と第2位相と第3位相とで変更してもよい。また、第1画像を撮像する際の活性化光L1の位相の種類は、3種類(例、第1位相、第2位相、第3位相)でなくてもよく、2種類または4種類以上でもよい。また、第1画像を撮像する際の励起光L2の位相の種類は、3種類(例、第4位相、第5位相、第6位相)でなくてもよく、2種類または4種類以上でもよい。
The
なお、顕微鏡1は、表示装置6と記憶装置7との一方または双方を備えなくてもよい。顕微鏡1は表示装置6を備えない状態で提供され、表示装置6は、その使用時に顕微鏡1に取り付けられてもよい。また、顕微鏡1は記憶装置7を備えない状態で提供され、記憶装置7は、その使用時に顕微鏡1に取り付けられてもよい。
The
なお、実施形態に係る顕微鏡1は、第2画像として三次元的な画像を生成してもよい。また、実施形態に係る顕微鏡1は、非線形構造化照明顕微鏡に適用可能である。非線形構造化照明顕微鏡は、照明光の強度に対する蛍光の強度の非線形性を利用して超解像画像を生成する(例えば、“Nonlinear structured-illumination microscopy: Wide-field fluorescence imaging with theoretically unlimited resolution” Mats G. L. Gustafsson PNAS September 13, 2005. 102 (37) 13081-13086; https://doi.org/10.1073/pnas.0406877102を参照)。顕微鏡1が非線形構造化照明顕微鏡である場合、不活性化光L3として励起光L2と位相が180°ずれた縞パターンを用いてもよい。
The
なお、活性化光L1と励起光L2とで波長が同じである場合、活性化光L1の光量(例、光強度、照射時間)は、励起光L2の光量と異なってもよい。例えば、顕微鏡1は、活性化光L1の光量が励起光L2の光量よりも高い値に設定され、蛍光物質の活性化度を飽和させてもよい。また、励起光L2と不活性化光L3とで波長が同じである場合、不活性化光L3の光量(例、光強度、照射時間)は、励起光L2の光量と異なってもよい。例えば、顕微鏡1は、不活性化光L3の光量が励起光L2の光量よりも高い値に設定され、蛍光物質の不活性化度を飽和させてもよい。
When the wavelengths of the activation light L1 and the excitation light L2 are the same, the light amount of the activation light L1 (eg, light intensity, irradiation time) may be different from the light amount of the excitation light L2. For example, in the
上述の実施形態において、制御装置5は、例えばコンピュータシステムを含む。制御装置5は、記憶装置7に記憶されている制御プログラムを読み出し、この制御プログラムに従って各種の処理を実行する。この制御プログラムは、コンピュータに、蛍光物質を含む試料が配置される試料面上の第1方向において強度が周期的に変化し蛍光物質を活性化する活性化光と、試料面上で第1方向に交差する第2方向において強度が周期的に変化し活性化光によって活性化した蛍光物質を励起する励起光とを試料に照射する制御と、第1方向における活性化光の強度分布を変更する制御と、第2方向における励起光の強度分布を変更する制御と、活性化光の照射と励起光の照射とによって試料から放射される蛍光の像を撮像する制御と、を実行させる。この制御プログラムは、コンピュータ読み取り可能な記憶媒体(例、非一時的な記録媒体、non-transitory tangible media)に記録されて提供されてもよい。
In the above-described embodiment, the
なお、本発明の技術範囲は、上述の実施形態などで説明した態様に限定されるものではない。上述の実施形態などで説明した要件の1つ以上は、省略されることがある。また、上述の実施形態などで説明した要件は、適宜組み合わせることができる。また、法令で許容される限りにおいて、上述の実施形態などで引用した全ての文献の開示を援用して本文の記載の一部とする。 The technical scope of the present invention is not limited to the embodiments described in the above-described embodiments. One or more of the requirements described in the above embodiments and the like may be omitted. Further, the requirements described in the above-described embodiments and the like can be appropriately combined. In addition, to the extent permitted by law, the disclosure of all documents cited in the above-mentioned embodiments and the like shall be incorporated as part of the description in the main text.
1・・・顕微鏡、3・・・照射部、4・・・撮像部、S・・・試料、Sa・・・試料面、41・・・制御部、42・・・画像処理部、45・・・第1位相設定部、46・・・第2位相設定部、54・・・第3位相設定部、D1・・・第1方向、D2・・・第2方向、L・・・蛍光、L1・・・活性化光、L2・・・励起光、L3・・・不活性化光 1 ... Microscope, 3 ... Irradiation section, 4 ... Imaging section, S ... Sample, Sa ... Sample surface, 41 ... Control section, 42 ... Image processing section, 45. 1st phase setting unit, 46 ... 2nd phase setting unit, 54 ... 3rd phase setting unit, D1 ... 1st direction, D2 ... 2nd direction, L ... fluorescence, L1 ... activation light, L2 ... excitation light, L3 ... inactivation light
Claims (14)
前記第1方向における前記活性化光の強度分布と、前記第2方向における前記励起光の強度分布とを変更する制御部と、
前記活性化光の照射と前記励起光の照射とによって前記試料から放射される蛍光の像を撮像する撮像部と、
前記撮像部が撮像して得られる第1画像に基づいて、前記第1画像と解像度が異なる第2画像を生成する画像処理部と、を備える顕微鏡。 The activation light whose intensity changes periodically in the first direction on the sample surface on which the sample containing the fluorescent substance is placed to activate the fluorescent substance and the second light intersecting the first direction on the sample surface. An irradiation unit that irradiates the sample with excitation light that excites the fluorescent substance activated by the activation light whose intensity changes periodically in the direction.
A control unit that changes the intensity distribution of the activation light in the first direction and the intensity distribution of the excitation light in the second direction.
An imaging unit that captures an image of fluorescence emitted from the sample by the irradiation of the activation light and the irradiation of the excitation light.
A microscope including an image processing unit that generates a second image having a resolution different from that of the first image based on the first image obtained by the image pickup unit.
請求項1に記載の顕微鏡。 The control unit changes the phase of the intensity distribution of the activation light in the first direction and the phase of the intensity distribution of the excitation light in the second direction.
The microscope according to claim 1.
前記制御部は、前記第1位相設定部および前記撮像部を制御して、前記第1方向における前記活性化光の強度分布の位相が異なる複数の第1条件で前記撮像部に撮像させ、
前記画像処理部は、前記複数の第1条件で前記撮像部が撮像して得られる複数の画像を前記第1画像として用いて、前記第2画像を生成する、
請求項1または請求項2に記載の顕微鏡。 A first phase setting unit for setting the phase of the intensity distribution of the activation light in the first direction is provided.
The control unit controls the first phase setting unit and the image pickup unit to cause the image pickup unit to take an image under a plurality of first conditions in which the phases of the intensity distributions of the activation light in the first direction are different.
The image processing unit generates the second image by using a plurality of images obtained by the image pickup unit under the plurality of first conditions as the first image.
The microscope according to claim 1 or 2.
前記制御部は、前記第2位相設定部および前記撮像部を制御して、前記第2方向における前記励起光の強度分布の位相が異なる複数の第2条件で前記撮像部に撮像させ、
前記画像処理部は、前記複数の第2条件で前記撮像部が撮像して得られる複数の画像を前記第1画像として用いて、前記第2画像を生成する、
請求項1から請求項3のいずれか一項に記載の顕微鏡。 A second phase setting unit for setting the phase of the intensity distribution of the excitation light in the second direction is provided.
The control unit controls the second phase setting unit and the image pickup unit to cause the image pickup unit to take an image under a plurality of second conditions in which the phases of the intensity distributions of the excitation light in the second direction are different.
The image processing unit generates the second image by using a plurality of images obtained by the image pickup unit under the plurality of second conditions as the first image.
The microscope according to any one of claims 1 to 3.
請求項1から請求項4のいずれか一項に記載の顕微鏡。 The control unit irradiates the activation light under a plurality of first conditions in which the phases of the intensity distribution of the activation light in the first direction are different, and the phases of the intensity distribution of the excitation light in the second direction are different. Irradiating the excitation light under a plurality of second conditions,
The microscope according to any one of claims 1 to 4.
請求項1から請求項7のいずれか一項に記載の顕微鏡。 The angle formed by the first direction and the second direction is 85 ° or more and 95 ° or less.
The microscope according to any one of claims 1 to 7.
請求項1から請求項8のいずれか一項に記載の顕微鏡。 The irradiation unit irradiates the sample with inactivating light that inactivates the fluorescent substance activated by the activation light.
The microscope according to any one of claims 1 to 8.
前記制御部は、前記活性化光と前記励起光との一方の光の位相を所定値に設定した状態で他方の光の位相を複数の値に順に設定し、前記他方の光の位相が前記複数の値のそれぞれに設定された状態で前記撮像部に撮像を実行させた後に、前記不活性化光を照射させる、
請求項9に記載の顕微鏡。 The wavelength of the excitation light is different from the wavelength of the activation light and the wavelength of the deactivation light.
The control unit sets the phase of the other light to a plurality of values in a state where the phase of one of the activation light and the excitation light is set to a predetermined value, and the phase of the other light is the said. After the imaging unit is made to perform imaging in a state set to each of a plurality of values, the inactivating light is irradiated.
The microscope according to claim 9.
前記制御部は、前記励起光の位相を変更するたびに前記不活性化光を照射させる、
請求項9に記載の顕微鏡。 The wavelength of the excitation light is the same as the wavelength of the activation light or the wavelength of the deactivation light.
The control unit irradiates the inactivating light each time the phase of the excitation light is changed.
The microscope according to claim 9.
請求項1から請求項11のいずれか一項に記載の顕微鏡。 The image processing unit extracts a component of a region having a point-symmetrical shape centered on the origin of the frequency domain from the components of the frequency domain obtained by Fourier transforming the first image, and obtains the second image. Generate,
The microscope according to any one of claims 1 to 11.
前記第1方向における前記活性化光の強度分布を変更することと、
前記第2方向における前記励起光の強度分布を変更することと、
前記活性化光の照射と前記励起光の照射とによって前記試料から放射される蛍光の像を撮像することと、
前記撮像によって得られる第1画像に基づいて、前記第1画像と解像度が異なる第2画像を生成することと、を含む観察方法。 The activation light whose intensity changes periodically in the first direction on the sample surface on which the sample containing the fluorescent substance is placed to activate the fluorescent substance and the second light intersecting the first direction on the sample surface. Irradiating the sample with excitation light that excites the fluorescent substance activated by the activation light whose intensity changes periodically in the direction.
Changing the intensity distribution of the activated light in the first direction and
Changing the intensity distribution of the excitation light in the second direction and
Taking an image of the fluorescence emitted from the sample by the irradiation of the activation light and the irradiation of the excitation light, and
An observation method comprising generating a second image having a resolution different from that of the first image based on the first image obtained by the imaging.
蛍光物質を含む試料が配置される試料面上の第1方向において強度が周期的に変化し前記蛍光物質を活性化する活性化光と、前記試料面上で前記第1方向に交差する第2方向において強度が周期的に変化し前記活性化光によって活性化した前記蛍光物質を励起する励起光とを前記試料に照射する制御と、
前記第1方向における前記活性化光の強度分布を変更する制御と、
前記第2方向における前記励起光の強度分布を変更する制御と、
前記活性化光の照射と前記励起光の照射とによって前記試料から放射される蛍光の像を撮像する制御と、を実行させる制御プログラム。 On the computer
The activation light whose intensity changes periodically in the first direction on the sample surface on which the sample containing the fluorescent substance is placed to activate the fluorescent substance and the second light intersecting the first direction on the sample surface. Control of irradiating the sample with excitation light that excites the fluorescent substance activated by the activation light whose intensity changes periodically in the direction.
Control to change the intensity distribution of the activated light in the first direction, and
Control to change the intensity distribution of the excitation light in the second direction, and
A control program for executing control of capturing an image of fluorescence emitted from the sample by irradiation of the activation light and irradiation of the excitation light.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018143686A JP7099143B2 (en) | 2018-07-31 | 2018-07-31 | Microscope, observation method, and control program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018143686A JP7099143B2 (en) | 2018-07-31 | 2018-07-31 | Microscope, observation method, and control program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020020929A JP2020020929A (en) | 2020-02-06 |
JP7099143B2 true JP7099143B2 (en) | 2022-07-12 |
Family
ID=69588993
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018143686A Active JP7099143B2 (en) | 2018-07-31 | 2018-07-31 | Microscope, observation method, and control program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7099143B2 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130286179A1 (en) | 2012-04-29 | 2013-10-31 | Periodic Structures, Inc. | Apparatus and methods for microscopy having resolution beyond the Abbe limit |
JP2014517352A (en) | 2011-06-09 | 2014-07-17 | カール ツァイス マイクロスコピー ゲーエムベーハー | High resolution luminescence microscopy |
WO2016125281A1 (en) | 2015-02-05 | 2016-08-11 | 株式会社ニコン | Structured illumination microscope, observation method, and control program |
DE102016007839A1 (en) | 2016-06-28 | 2017-12-28 | Horst Wochnowski | High-resolution method for microscopy and nanostructuring of substrate surfaces based on the SIM method (Structured Illumination Microscopy) |
-
2018
- 2018-07-31 JP JP2018143686A patent/JP7099143B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014517352A (en) | 2011-06-09 | 2014-07-17 | カール ツァイス マイクロスコピー ゲーエムベーハー | High resolution luminescence microscopy |
US20130286179A1 (en) | 2012-04-29 | 2013-10-31 | Periodic Structures, Inc. | Apparatus and methods for microscopy having resolution beyond the Abbe limit |
WO2016125281A1 (en) | 2015-02-05 | 2016-08-11 | 株式会社ニコン | Structured illumination microscope, observation method, and control program |
DE102016007839A1 (en) | 2016-06-28 | 2017-12-28 | Horst Wochnowski | High-resolution method for microscopy and nanostructuring of substrate surfaces based on the SIM method (Structured Illumination Microscopy) |
Also Published As
Publication number | Publication date |
---|---|
JP2020020929A (en) | 2020-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110178069B (en) | Microscope apparatus, method and system | |
JP5738765B2 (en) | Improved method and apparatus for microscopy with structured illumination | |
JP6635052B2 (en) | Structured illumination microscope and observation method | |
JP5554965B2 (en) | Laser microscope using phase modulation spatial light modulator | |
US8705172B2 (en) | Microscopy method and microscope with enhanced resolution | |
US20180048811A1 (en) | Patterned-illumination systems adopting a computational illumination | |
JP5888416B2 (en) | Structured illumination microscope | |
US7619732B2 (en) | Method and microscope for high spatial resolution examination of samples | |
JP6000554B2 (en) | Microscope system | |
JP2016534389A (en) | Aperture scanning Fourier typography imaging | |
CN110954523B (en) | Two-photon scanning structure light microscopic imaging method and device | |
JP2004199063A (en) | Confocal microscope | |
US20130100283A1 (en) | Image generation device | |
JP2016133668A (en) | Pattern projection device, pattern projection method and phase modulation amount setting method | |
CN108351503B (en) | Image acquisition device, image acquisition method, and spatial light modulation unit | |
CN108351502A (en) | Image capturing device, image acquisition method and spatial light modulation unit | |
CN107272218B (en) | High speed structured light imaging system | |
JP7099143B2 (en) | Microscope, observation method, and control program | |
Nikolenko et al. | A portable laser photostimulation and imaging microscope | |
Wicker | Super-resolution fluorescence microscopy using structured illumination | |
CN109656028A (en) | A kind of system and method generating diffraction light-free | |
JP2019204002A (en) | Microscope, image analysis device, observation method, and analysis program | |
JPWO2018150471A1 (en) | Structured illumination microscope, observation method, and program | |
WO2017082357A1 (en) | Super-resolution microscope | |
WO2021097482A1 (en) | Random access projection microscopy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210513 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220523 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220531 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220613 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7099143 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |