WO2015052936A1 - 構造化照明顕微鏡装置 - Google Patents
構造化照明顕微鏡装置 Download PDFInfo
- Publication number
- WO2015052936A1 WO2015052936A1 PCT/JP2014/005157 JP2014005157W WO2015052936A1 WO 2015052936 A1 WO2015052936 A1 WO 2015052936A1 JP 2014005157 W JP2014005157 W JP 2014005157W WO 2015052936 A1 WO2015052936 A1 WO 2015052936A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image
- images
- modulated
- types
- structured illumination
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0076—Optical details of the image generation arrangements using fluorescence or luminescence
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/008—Details of detection or image processing, including general computer control
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/58—Optics for apodization or superresolution; Optical synthetic aperture systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B5/00—Optical elements other than lenses
- G02B5/18—Diffraction gratings
- G02B5/1828—Diffraction gratings having means for producing variable diffraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/648—Specially adapted constructive features of fluorimeters using evanescent coupling or surface plasmon coupling for the excitation of fluorescence
Definitions
- the present invention relates to a structured illumination microscope apparatus.
- an object to be observed is illuminated with spatially modulated illumination light, and high spatial frequency information exceeding the resolution limit included in the structure of the object to be observed is contributed to the imaging of the microscope optical system.
- the phase of the spatial illumination is switched, and a plurality of modulated image data (hereinafter, referred to as “modulated images”) obtained under different phases are subjected to an operation, whereby demodulated image data (hereinafter, “ “Demodulated image” or "super-resolution image”).
- an object of the present invention is to improve the efficiency of demodulation operation for acquiring a super-resolution image (demodulated image) from a modulated image.
- An example of the structured illumination microscope apparatus of the present invention is an acquisition means for controlling a combination of a wave number vector and a phase of a fringe for spatially modulating a specimen and repeating a series of processes for sequentially obtaining N images related to the specimen.
- Computing means for performing, for each image set, a process of demodulating the sample image using necessary M types of images from the latest consecutive P image sets each time L images are acquired. Is provided.
- the arrangement of the N images satisfies the following conditions.
- the image set always includes the M types of images.
- Another example of the structured illumination microscope apparatus includes a diffraction grating, a projection optical system that projects light from a light source onto an object to be observed through the diffraction grating or without the diffraction grating, and A control unit that controls the direction and phase of a diffraction grating pattern; an imaging optical system that forms an image of the object on which the diffraction grating pattern is projected; and the image formed by the imaging optical system.
- the control unit performs control so that at least one diffraction grating pattern is uniformly illuminated on the object to be observed when a plurality of the super-resolution images are generated.
- Still another example of the structured illumination microscope apparatus of the present invention includes a diffraction grating, and a projection optical system that projects light from a light source onto an object to be observed through the diffraction grating or not through the diffraction grating, A control unit that controls the direction and phase of the diffraction grating pattern, an imaging optical system that forms an image of the object on which the diffraction grating pattern is projected, and the image formed by the imaging optical system An image sensor that generates an image by imaging the image, and an operation that generates a super-resolution image of the object to be observed based on an image generated based on a diffraction grating pattern in at least three directions generated by the image sensor Means.
- the control unit When the super resolution image is generated, the control unit generates a plurality of the super resolution images when a diffraction grating pattern in at least one direction is not uniformly illuminated on the object to be observed. In this case, the diffraction grating pattern in at least one direction is controlled so as to be uniformly illuminated on the object to be observed.
- Still another example of the structured illumination microscope apparatus of the present invention includes a diffraction grating, and a projection optical system that projects light from a light source onto an object to be observed through the diffraction grating or not through the diffraction grating, A control unit that controls the direction and phase of the diffraction grating pattern, an imaging optical system that forms an image of the object on which the diffraction grating pattern is projected, and the image formed by the imaging optical system On the basis of an image sensor that generates an image by capturing an image, at least one unmodulated image generated by the image sensor, and an image generated based on a pattern of diffraction gratings in at least three directions.
- the controller changes the phase of the diffraction grating pattern in at least one direction when a plurality of the super-resolution images are generated.
- Still another example of the structured illumination microscope apparatus of the present invention includes a diffraction grating, and a projection optical system that projects light from a light source onto an object to be observed through the diffraction grating or not through the diffraction grating, A control unit that controls the direction and phase of the diffraction grating pattern, an imaging optical system that forms an image of the object on which the diffraction grating pattern is projected, and the image formed by the imaging optical system An image sensor that generates an image by imaging the image, and an operation that generates a super-resolution image of the object to be observed based on an image generated based on a diffraction grating pattern in at least three directions generated by the image sensor Means.
- the control unit When the super resolution image is generated, the control unit generates a plurality of the super resolution images when a diffraction grating pattern in at least one direction is not uniformly illuminated on the object to be observed. The phase of the diffraction grating pattern in at least one direction is changed.
- FIG. 4 is a diagram for explaining a function of a light beam selector 18. It is a figure explaining the rotation mechanism 18A of the light beam selection part 18.
- Equation 1.27 in Section 1.4 (A) is an illustration of Equation 1.27 in Section 1.4, and (B) is an illustration of a modified version of Equation 1.27.
- This is a restoration area according to the first example in section 1.5.
- This is a restoration area according to the second example in Section 1.5.
- It is an illustration of Equation 1.33 in Section 1.6.
- This is the area restored in section 1.6.
- It is a figure explaining the expression 1.33 of Section 1.6 in detail.
- This is an illustration of Equation 1.63 in Section 1.9. 3 and the lattice structure of the direction the interference fringe is a diagram showing the relationship between the basic vector a 1, a 2 of the grating. It is a figure which shows the relationship of the interference fringe intensity
- the structure of the structured illumination microscope apparatus will be described.
- a case where the structured illumination microscope apparatus is used as a total internal reflection fluorescence microscope (TIRFM) will be described as appropriate.
- FIG. 1 is a configuration diagram of the structured illumination microscope apparatus 1.
- the structured illumination microscope apparatus 1 includes a laser unit 100, an optical fiber 11, an illumination optical system 10, an imaging optical system 30, an imaging element 42, a control device 43, an image storage / An arithmetic device 44 and an image display device 45 are provided.
- the illumination optical system 10 is an epi-illumination type, and the sample 2 is illuminated using the objective lens 31 and the dichroic mirror 33 of the imaging optical system 30.
- the laser unit 100 includes a first laser light source 101, a second laser light source 102, shutters 103 and 104, a mirror 105, a dichroic mirror 106, and a lens 107.
- Each of the first laser light source 101 and the second laser light source 102 is a light source that emits laser light having high coherence, and the emission wavelengths thereof are different from each other.
- the wavelength ⁇ 1 of the first laser light source 101 is longer than the wavelength ⁇ 2 of the second laser light source 102 ( ⁇ 1> ⁇ 2).
- the first laser light source 101, the second laser light source 102, and the shutters 103 and 104 are driven and controlled by the control device 43, respectively.
- the optical fiber 11 is composed of, for example, a polarization-preserving single mode fiber in order to guide the laser light emitted from the laser unit 100.
- the position of the output end of the optical fiber 11 in the direction of the optical axis O can be adjusted by the position adjusting mechanism 11A.
- the position adjusting mechanism 11A is driven and controlled by the control device 43.
- a piezo element or the like is used as the position adjustment mechanism 11A.
- the illumination optical system 10 includes, in order from the emission end side of the optical fiber 11, a collector lens 12, a polarizing plate 13, a light beam branching unit 14, a condensing lens 17, a light beam selecting unit 18, a lens 21, and a field of view.
- a diaphragm 22, a field lens 23, an excitation filter 24, a dichroic mirror 33, and an objective lens 31 are disposed.
- the polarization plane of the laser light is preserved before and after the optical fiber 11, so that the polarizing plate 13 is not essential, but the laser light This is effective for maintaining the quality of polarized light.
- the polarizing plate 13 is essential.
- the light beam branching unit 14 includes a translation mechanism 15 and a diffractive optical element (diffraction grating) 16.
- the light beam selection unit 18 includes a half-wave plate 19, a light beam selection member 20, and a rotation mechanism 18A. And are provided. Each of the beam splitter 14 and the beam selector 18 is driven and controlled by the control device 43.
- an objective lens 31 In the imaging optical system 30, an objective lens 31, a dichroic mirror 33, an absorption filter 34, and a second objective lens 35 are arranged in this order from the sample 2 side.
- Specimen 2 is, for example, fluorescent cells (cells stained with a fluorescent dye) arranged on parallel flat glass surfaces, or fluorescent living cells (moving cells stained with fluorescent dyes) present in a petri dish. ) And so on. In this cell, both the first fluorescent region excited by light of wavelength ⁇ 1 and the second fluorescent region excited by light of wavelength ⁇ 2 are expressed.
- the objective lens 31 is configured as an immersion type (oil immersion type) objective lens. That is, the gap between the objective lens 31 and the glass of the sample 2 is filled with an immersion liquid (oil) (not shown).
- the image sensor 42 is a two-dimensional image sensor composed of a CCD, a CMOS, or the like.
- the image sensor 42 captures an image formed on the imaging surface 41 and generates an image. This image is taken into the image storage / arithmetic unit 44 via the control unit 43.
- the frame period (imaging repetition period) of the image sensor 42 is the rate-determining among the imaging time of the image sensor (that is, the time required for charge accumulation and charge readout), the time required for switching the direction of interference fringes, and other required times. Determined by.
- the control device 43 drives and controls the laser unit 100, the position adjustment mechanism 11A, the light beam branching unit 14, the light beam selecting unit 18, and the image sensor 42.
- the image storage / arithmetic unit 44 performs a calculation on the image given through the control unit 43, stores the calculated image in an internal memory (not shown), and sends it to the image display unit 45.
- the laser light having a wavelength ⁇ 1 (first laser light) emitted from the first laser light source 101 is incident on the mirror 105 via the shutter 103, it reflects off the mirror 105 and enters the dichroic mirror 106.
- the laser light having the wavelength ⁇ 2 (second laser light) emitted from the second laser light source 102 enters the beam splitter 106 via the shutter 104 and is integrated with the first laser light.
- the first laser beam and the second laser beam emitted from the dichroic mirror 106 enter the incident end of the optical fiber 11 through the lens 107.
- the laser light incident on the incident end of the optical fiber 11 propagates inside the optical fiber 11 to generate a point light source at the output end of the optical fiber 11.
- the laser light emitted from the point light source is converted into a parallel light beam by the collector lens 12 and is incident on the diffraction grating 16 of the light beam branching section 14 via the polarizing plate 13 and is branched into diffracted light beams of respective orders.
- These orders of diffracted light beams (hereinafter referred to as “diffracted light beam groups” as necessary) are collected by the condenser lens 17 at different positions on the pupil conjugate plane 25.
- the pupil conjugate plane 25 is a position conjugate with respect to the pupil 32 of the objective lens 31 (the position where ⁇ 1st-order diffracted light is collected) via the lens 23 and the lens 21.
- the condenser lens 17 is arranged so that the focal position (rear focal position) of the condenser lens 17 coincides with the pupil conjugate plane 25.
- conjugate position includes a position determined by a person skilled in the art in consideration of design-related matters such as aberration and vignetting of the objective lens 17 and the lenses 21 and 23.
- the polarizing plate 13 can be omitted, but it is effective for reliably cutting off the excess polarization component. Further, in order to increase the utilization efficiency of the laser light, it is desirable that the axis of the polarizing plate 13 coincides with the polarization direction of the laser light emitted from the optical fiber 11.
- the diffracted light beams of respective orders toward the pupil conjugate plane 25 are incident on the light beam selector 18 disposed in the vicinity of the pupil conjugate plane 25.
- the light beam selection unit 18 selectively selects only one pair of diffracted light beams (here, only ⁇ first-order diffracted light beams) among the incident diffracted light beams of each order. Let it pass.
- the ⁇ first-order diffracted light beam that has passed through the light beam selection unit 18 forms a conjugate plane with the diffraction grating 16 near the field stop 22 by the lens 21. Thereafter, each of the ⁇ first-order diffracted light beams is converted into convergent light by the field lens 23, further reflected by the dichroic mirror 33 after passing through the excitation filter 24, and condensed at different positions on the pupil plane 32 of the objective lens 31. Is done.
- Each of the ⁇ first-order diffracted light beams collected on the pupil surface 32 becomes a parallel light beam when emitted from the tip of the objective lens 31 and overlaps with each other on the surface of the sample 2 to form interference fringes.
- This interference fringe is used as structured illumination light.
- the condensing point of the ⁇ first-order diffracted light beam on the pupil plane 32 only needs to be located in a predetermined annular zone in the outermost periphery of the pupil plane 32. In this case, an evanescent field caused by interference fringes occurs near the surface of the specimen 2.
- the modulated image is imaged by the image sensor 42 and taken into the image storage / arithmetic unit 44 via the control unit 43. Further, the captured modulated image is subjected to demodulation calculation (details will be described later) in the image storage / arithmetic unit 44 to generate a demodulated image (super-resolution image).
- the super-resolution image is stored in an internal memory (not shown) of the image storage / arithmetic unit 44 and is sent to the image display unit 45.
- FIG. 2 is a diagram for explaining the light beam branching portion 14
- FIG. 2A is a view of the diffraction grating 16 of the light beam branching portion 14 as viewed from the optical axis O direction
- FIG. It is a figure which shows the positional relationship of the condensing point which a 1st-order diffracted light beam forms in a pupil conjugate plane.
- 2A is a schematic diagram, the structure period of the diffraction grating 16 illustrated in FIG. 2A is not necessarily the same as the actual structure period.
- the diffraction grating 16 is a two-dimensional diffraction grating having a periodic structure in a plurality of different directions perpendicular to the optical axis O of the illumination optical system 10.
- the diffraction grating 16 has a periodic structure in each of the first direction V1, the second direction V2, and the third direction V3, which are different by 120 °, and the period (pitch) of these periodic structures is common. Assume.
- the periodic structure of the diffraction grating 16 is either a concentration type periodic structure formed using density (transmittance) or a phase type periodic structure formed using steps (phase difference).
- the phase difference type periodic structure is preferable in that the diffraction efficiency of the + 1st order diffracted light is higher.
- Such parallel light beams incident on the diffraction grating 16 are divided into a first diffracted light beam group branched in the first direction V1, a second diffracted light beam group branched in the second direction V2, and a third light beam branched in the third direction V3. It is converted into a diffracted beam group.
- the first diffracted light beam group includes a 0th-order diffracted light beam and a ⁇ 1st-order diffracted light beam, and of these, the ⁇ 1st-order diffracted light beams having common orders travel in a symmetric direction with respect to the optical axis O.
- the second diffracted light beam group includes a 0th-order diffracted light beam and a ⁇ 1st-order diffracted light beam, and of these, the ⁇ 1st-order diffracted light beams having common orders travel in a symmetric direction with respect to the optical axis O. To do.
- the third diffracted light beam group includes a 0th-order diffracted light beam and a ⁇ 1st-order diffracted light beam, and of these, the ⁇ 1st-order diffracted light beams having common orders travel in a symmetric direction with respect to the optical axis O. To do.
- the ⁇ 1st order diffracted light beam of the first diffracted light beam group, the ⁇ 1st order diffracted light beam of the second diffracted light beam group, and the ⁇ 1st order diffracted light beam of the third diffracted light beam group are brought into the pupil conjugate plane by the condenser lens 17 described above. Are condensed at different positions.
- the condensing points 25d and 25g of the first-order diffracted light beams of the first diffracted light beam group are symmetric with respect to the optical axis O, and the arrangement direction of the condensing points 25d and 25g is This corresponds to the first direction V1.
- the condensing points 25c and 25f of the ⁇ 1st-order diffracted light beams of the second diffracted light beam group are symmetric with respect to the optical axis O, and the arrangement direction of the condensing points 25c and 25f corresponds to the second direction V2. .
- the distance from the condensing points 25c and 25f of the second diffracted light beam group to the optical axis O is the same as the distance from the condensing points 25d and 25g of the first diffracted light beam group to the optical axis O.
- the condensing points 25b and 25e of the ⁇ first-order diffracted light beams of the third diffracted light beam group are symmetric with respect to the optical axis O, and the arrangement direction of the condensing points 25b and 25e corresponds to the third direction V3.
- the distance from the condensing points 25b and 25e of the third light beam group to the optical axis O is the same as the distance from the condensing points 25d and 25g of the first diffracted light beam group to the optical axis O.
- the distance D from the optical axis O to the condensing points 25b to 25g is It is represented by the following formula.
- a condensing point here is a gravity center position of the area
- the translation mechanism 15 is composed of a piezo motor or the like.
- the translation mechanism 15 is a diffraction grating that extends in a direction perpendicular to the optical axis O of the illumination optical system 10 and is non-perpendicular to each of the first direction V1, the second direction V2, and the third direction V3. 16 is translated.
- the diffraction grating 16 is translated in this direction, the fringe phase of the structured illumination light shifts (details will be described later).
- 3 and 4 are diagrams for explaining the light beam selector 18.
- the half-wave plate 19 of the light beam selection unit 18 sets the polarization direction of the incident diffracted light beam of each order
- the light beam selection member 20 of the light beam selection unit 18 is This is a mask that selectively allows only one group of ⁇ first-order diffracted light beams to pass through among the first to third diffracted light beam groups.
- a rotation mechanism (not shown) of the light beam selection unit 18 rotates the light beam selection member 20 around the optical axis O, thereby converting the selected ⁇ first-order diffracted light beams into the first to third diffracted light beam groups.
- the light beam selector 18 switches the stripe direction of the structured illumination light while maintaining the stripe state of the structured illumination light.
- the conditions for maintaining the stripe state will be specifically described.
- the direction of the fast axis (fast axis) of the half-wave plate 19 is ⁇ with respect to the ⁇ 1st-order diffracted light beam branching direction (any one of the first direction V1 to the third direction V3). It is necessary to set the polarization direction of the first-order diffracted light beam to be vertical.
- the fast axis of the half-wave plate 19 is a direction in which the amount of phase delay when light polarized in the direction of the axis passes through the half-wave plate 19 is minimized. It is.
- the opening pattern of the light beam selection member 20 includes a first opening portion 20A and a second opening portion 20B through which one and the other of ⁇ first-order diffracted light beams belonging to the same diffracted light beam group are individually passed.
- the length of each of the first opening 20A and the second opening 20B around the optical axis O is set to a length that allows the linearly polarized diffracted light beam to pass in the above-described direction. Therefore, the shape of each of the first opening 20A and the second opening 20B is a shape close to a partial ring shape.
- first reference position the rotation position of the half-wave plate 19 when the direction of the fast axis of the half-wave plate 19 is parallel to the direction of the axis of the polarizing plate 13
- the amount of rotation of the half-wave plate 19 from the first reference position is controlled to one half of the amount of rotation of the light beam selection member 20 from the second reference position. It should be.
- the rotation amount of the half-wave plate 19 from the first reference position is ⁇ / 2
- the rotation amount of the light beam selection member 20 from the second reference position is set to ⁇ .
- the rotation mechanism 18A of the light beam selection unit 18 selects the first-order diffracted light beam (the branch direction is the first direction V1) of the first diffracted light beam group, as shown in FIG.
- the light beam selection direction of the selection member 20 is rotated rightward from the second reference position by the rotation angle ⁇ 1
- the fast axis direction of the half-wave plate 19 is rotated rightward from the first reference position. Rotate by angle ⁇ 1 / 2.
- the polarization direction of the diffracted light beam of each order before passing through the half-wave plate 19 is parallel to the direction of the axis of the polarizing plate 13 as indicated by a broken line double arrow in FIG.
- the polarization direction of each order diffracted light beam after passing through the half-wave plate 19 is rotated to the right by the rotation angle ⁇ 1
- the polarization direction of the selected ⁇ 1st order diffracted light beam is As indicated by a solid double-pointed arrow in FIG. 4A, the ⁇ first-order diffracted light beams are perpendicular to the branching direction (first direction V1).
- the rotation mechanism 18A of the light beam selector 18 selects the ⁇ first-order diffracted light beam (the branch direction is the second direction V2) of the second diffracted light beam group, as shown in FIG.
- the light beam selection direction of the selection member 20 is rotated rightward from the second reference position by the rotation angle ⁇ 2
- the fast axis direction of the half-wave plate 19 is rotated rightward from the first reference position. Rotate by angle ⁇ 2 / 2.
- the polarization directions of the diffracted light beams of the respective orders before passing through the half-wave plate 19 are parallel to the direction of the axis of the polarizing plate 13 as indicated by the broken line in FIG. 4B.
- the polarization direction of each order of the diffracted light beam after passing through the half-wave plate 19 is rotated to the right by the rotation angle ⁇ 2, so the polarization direction of the selected ⁇ 1st order diffracted light beam is As shown by the solid line double arrow in FIG. 4B, these are perpendicular to the branching direction (second direction V2) of the ⁇ first-order diffracted light beams.
- the rotation mechanism 18A of the light beam selector 18 selects the ⁇ first-order diffracted light beam (the branch direction is the third direction V3) of the third diffracted light beam group, as shown in FIG.
- the light beam selection direction of the selection member 20 is rotated from the second reference position to the left (seen from the sample side; hereinafter the same) by the rotation angle ⁇ 3
- the direction of the fast axis of the half-wave plate 19 is
- the first reference position is rotated to the left by the rotation angle ⁇ 3 / 2.
- the polarization direction of the diffracted light beam of each order before passing through the half-wave plate 19 is parallel to the direction of the axis of the polarizing plate 13 as shown by the broken line in FIG. 4C.
- the polarization directions of the diffracted light beams of the respective orders after passing through the half-wave plate 19 are rotated to the left by the rotation angle ⁇ 3. Therefore, the polarization directions of the selected ⁇ 1st order diffracted light beams are As shown by the actual double-headed arrow in FIG. 4C, these are perpendicular to the branching direction (third direction V3) of the ⁇ first-order diffracted light beams.
- the direction of the fast axis of the half-wave plate 19 is a direction corresponding to the branching direction of the ⁇ first-order diffracted light beam selected by the light beam selection member 20 and is incident on the half-wave plate 19.
- the polarization direction that the ⁇ 1st-order diffracted light beam has (the axial direction of the polarizing plate 13) and the polarization direction that the ⁇ 1st-order diffracted light beam emitted from the half-wave plate 19 should have (perpendicular to the branching direction) are formed. It is set in the direction of the bisector of the angle.
- the rotation mechanism 18A of the light beam selection unit 18 only needs to interlock the half-wave plate 19 and the light beam selection member 20 with a gear ratio of 2: 1.
- the rotating mechanism 18A includes, for example, a holding member (not shown) that holds the light beam selection member 20 and can rotate around the optical axis O, and a first (not shown) formed around the holding member. , A second gear (not shown) that meshes with the first gear, and a motor (rotary motor) (not shown) connected to the second gear. When this motor is driven, the second gear rotates, the rotational force is transmitted to the first gear, and the light beam selection member 20 rotates around the optical axis O.
- FIG. 5 is a diagram illustrating the function of the light beam selection unit 18 described above.
- a double arrow surrounded by a circular frame indicates the polarization direction of the light beam
- a double arrow surrounded by a square frame indicates the axial direction of the optical element.
- the rotatable half-wave plate 19 is used to keep the ⁇ first-order diffracted light beam incident on the specimen 2 as S-polarized light.
- a fixedly arranged liquid crystal element may be used, and the liquid crystal element may function as the half-wave plate 19. If the orientation of the liquid crystal element is electrically controlled, the refractive index anisotropy of the liquid crystal element can be controlled, so that the fast axis as a half-wave plate can be rotated around the optical axis O.
- there are other methods for keeping the ⁇ first-order diffracted light beam incident on the specimen 2 in the S-polarized light there are other methods for keeping the ⁇ first-order diffracted light beam incident on the specimen 2 in the S-polarized light.
- a plurality of (six in the example shown in FIG. 6) notches 20C are formed on the outer peripheral portion of the light flux selecting member 20, and the rotation mechanism 18A includes these notches 20C.
- a timing sensor 20D for detecting the notch 20C is provided.
- the rotation mechanism 18A can detect the rotation position of the light beam selector 18 and thus the rotation position of the half-wave plate 19.
- FIG. 7 is a diagram for explaining the operation of the translation mechanism 15 of the light beam branching section 14.
- the modulated image generated by the structured illumination microscope apparatus 1 includes, in the structure of the sample 2, the 0th order modulation component, the + 1st order modulation component, which is the structure information whose spatial frequency is modulated by the structured illumination light, ⁇ 1
- the next modulation component is superimposed, and the three unknown parameters superimposed on each other need to be made known by demodulation calculation (details will be described later).
- the translation mechanism 15 of the light beam splitting unit 14 is in a direction perpendicular to the optical axis O of the illumination optical system 10 as shown in FIG.
- the diffraction grating 16 is shifted in a non-perpendicular direction (x direction) with respect to all of the first direction V1, the second direction V2, and the third direction V3.
- the shift amount L of the diffraction grating 16 necessary for shifting the phase of the interference fringes by a desired shift amount ⁇ is the same as when the light beam selection direction by the light beam selection unit 18 is the first direction V1 and in the second direction V2. And when in the third direction V3 are not necessarily the same.
- the structural period (pitch) of each of the first direction V1, the second direction V2, and the third direction V3 of the diffraction grating 16 is P, and the shift direction (x direction) of the diffraction grating 13 is set.
- the first direction V1 is ⁇ 1
- the angle between the shift direction (x direction) of the diffraction grating 16 and the second direction V2 is ⁇ 2, and the shift direction (x direction) of the diffraction grating 16 and the first direction V1
- a required shift amount L3 of the diffraction grating 16 in the x direction when the selected direction is the third direction V3.
- L3 ⁇ ⁇ P / represented by (4 ⁇ ⁇
- the shift amount L in the x direction of the diffraction grating 16 necessary for setting the phase shift amount of the interference fringes to a desired value ⁇ is the wavelength selection direction (the first direction V1, the second direction V2, and the third direction V3). Any one) and the angle ⁇ formed by the x direction are expressed as shown in Expression (1).
- the shift amount L in the x direction of the diffraction grating 16 necessary for setting the phase shift amount ⁇ of the interference fringes to 2 ⁇ is P / (a ⁇ 2 ⁇
- M is the number of directions of the periodic structure of the diffraction grating 16.
- the image storage / arithmetic unit 44 described above is configured by a computer that performs an operation by executing a calculation program, an arithmetic circuit that performs an arithmetic process, or a combination of both.
- the computer may be a general-purpose computer in which a calculation program is installed via a storage medium or a communication network.
- the basic procedure consists of the following four steps.
- Each of a plurality of modulated images is Fourier transformed to generate a plurality of spatial frequency spectra.
- Second step The zero-order modulation component of fluorescence, the first-order modulation component of fluorescence, and the first-order modulation component of fluorescence superimposed on individual spatial frequency spectra are separated from each other in Fourier space.
- the spatial frequency spectrum of the demodulated image is generated by rearranging the zero-order modulation component, the fluorescence first-order modulation component, and the fluorescence first-order modulation component separated from each other in Fourier space. .
- the interference fringes projected onto the sample 2 are two-beam interference fringes (that is, the example in which the structured illumination microscope apparatus 1 is used in the 2D-SIM mode), but the interference fringes projected onto the sample 2 Can be made into a three-beam interference fringe (that is, the structured illumination microscope apparatus 1 is used in the 3D-SIM mode).
- a light beam selection member 20 'as shown in FIG. 8 is used instead of the light beam selection member 20 shown in FIG.
- This light beam selection member 20 ' is the same as the light beam selection member 20 shown in FIG. 6, but is provided with an opening 20E for passing the 0th-order diffracted light beam.
- the opening 20E is formed in the vicinity of the optical axis O, and the shape of the opening 20E is, for example, a circle. According to such a light beam selection member 20 ', not only the ⁇ 1st order diffracted light beam but also the 0th order diffracted light beam can contribute to the interference fringes.
- the interference fringes generated by the interference of the three diffracted light beams are spatially modulated not only in the surface direction of the sample 2 but also in the depth direction of the sample 2. Therefore, according to the interference fringes, a super-resolution effect can be obtained also in the depth direction of the sample 2.
- the contents of the demodulation operation to be executed by the image storage / arithmetic unit 44 are different between the 2D-SIM mode and the 3D-SIM mode. This is because, in the modulation image generated in the 2D-SIM mode, three components of the fluorescence zero-order modulation component, the fluorescence plus first-order modulation component, and the fluorescence minus first-order modulation component are superimposed.
- the modulated image generated in the SIM mode includes 5th order of the 0th order modulation component of fluorescence, the 1st order modulation component of fluorescence, the 1st order modulation component of fluorescence, the + 2nd order modulation component of fluorescence, and the 2nd order modulation component of fluorescence This is because the components are superimposed.
- the number of modulation components to be superimposed on the modulated image is different between the 2D-SIM mode and the 3D-SIM mode, the number of frames of the modulated image to be acquired by the control device 43 is also different. This will be described in detail below.
- the diffraction grating is shifted in order to shift the phase of the interference fringes.
- the optical path length difference of ⁇ first-order diffracted light beams may be changed.
- the phase plate may be inserted into and removed from at least one of the optical path of the + 1st order diffracted light beam and the optical path of the ⁇ 1st order diffracted light beam.
- phase plate since the relationship between the thickness of the phase plate and the amount of phase shift varies depending on the wavelength used, a plurality of phase plates with different thicknesses are attached to the turret, and these phase plates are selectively transferred to the optical path according to the wavelength used. It may be inserted.
- the polarization direction may be set in any direction, and the polarization direction may be changed during the image capturing.
- the number of light source wavelengths is 1, but it may be expanded to 2 or more.
- a half-wave plate that can rotate around the optical axis O is used.
- a four-wave plate and a quarter-wave plate that can rotate around the optical axis O may be used.
- the rotation position of the quarter-wave plate with respect to the first reference position is set to be the same as the rotation position of the light beam selection member with reference to the second reference position.
- a combination of ⁇ first-order diffracted light and zero-order diffracted light is used as diffracted light for forming interference fringes (two-beam interference fringes in 2D-SIM mode or three-beam interference fringes in 3D-SIM mode). Although used, other combinations may be used.
- three-beam interference fringe In order to form a three-beam interference fringe, three-beam interference is generated by three diffracted lights having equal intervals of diffraction orders.
- a combination of zero-order diffracted light, first-order diffracted light, and second-order diffracted light can be used.
- Combinations of ⁇ 2nd order diffracted light and 0th order diffracted light, combinations of ⁇ 3rd order diffracted light and 0th order diffracted light, and the like can be used.
- the illumination optical system 10 of the above-described apparatus is configured by the epi-illumination optical system by the objective lens 31, but is not limited thereto, and is configured by a transmission / reflection illumination optical system by a condenser lens instead of the objective lens 31. Also good. In this case, the focal point is formed on the pupil plane of the condenser lens.
- interference fringe intensity distribution in the 2D-SIM mode is defined as follows.
- the fluorescence intensity distribution I fl (x) is expressed as follows.
- the modulated image represented in Fourier space (that is, the spatial frequency spectrum of the modulated image) is represented as follows.
- the interference fringe intensity distribution of 2D-SIM is expressed as follows (the fringes have a sinusoidal intensity distribution).
- ⁇ 0 is the spatial frequency (modulation frequency) of the interference fringes.
- ⁇ is a coordinate in Fourier space.
- Equation 1.6 Equation 1.3, and Equation 1.4, it can be seen that the modulated image in the Fourier space is expressed as follows.
- the spatial frequency spectrum in the Fourier space is simply referred to as “spectrum”. Further, the corresponding subscript “ ⁇ i ” is attached to the modulated image acquired when the phase of the interference fringes is ⁇ i .
- Equation 1.7 a fluorescence first-order modulation component, a fluorescence first-order modulation component, and a fluorescence zero-order modulation component.
- Three terms on the right side of Equation 1.7 correspond to each of these modulation components. That is, since the sample (fluorescence) is spatially modulated with stripes having a sinusoidal intensity distribution, the spectrum of the modulation image can be expressed by three modulation components (0th order modulation component and ⁇ 1st order modulation component) of fluorescence. it can.
- the + 1st order modulation component superimposed on the observation point ⁇ is a value (restoration value) that the restoration point ( ⁇ 0 ) should have in the spectrum of the demodulated image
- the ⁇ 1st order modulation component superimposed on the observation point ⁇ is The value (restoration value) that the restoration point ( ⁇ + ⁇ 0 ) in the spectrum of the demodulated image should have
- the zero-order modulation component superimposed on the observation point ⁇ is the value (restoration) that the restoration point ⁇ in the spectrum of the demodulation image should have. Value). This is true for each observation point in the spectrum of the modulated image.
- a large black spot in FIG. 9 corresponds to a certain observation point, and a large black spot and two small black spots on both sides thereof correspond to three restoration points restored from the observation point.
- the spatial frequency (modulation frequency) ⁇ 0 of the fringes in the conventional 2D-SIM is set so that
- ⁇ 2NA is A restoration value of a restoration point that satisfies
- FIG. 10 shows the distribution of the reciprocal of the condition number of the matrix M.
- the first phase phi 1 0 ° of the modulated image Distant
- the phase phi 3 of the phase phi 2 and the third modulated image of the second modulation image as a variable.
- the first-order modulation component of fluorescence superimposed on the observation point ⁇ and the zero-order modulation component of fluorescence superimposed on the observation point ( ⁇ + ⁇ 0 ) are both restored to the restoration point ( ⁇ + ⁇ 0 ).
- the fluorescence first-order modulation component superimposed on the observation point ( ⁇ + ⁇ 0 ) and the fluorescence zero-order modulation component superimposed on the observation point ⁇ both correspond to the restoration value of the restoration point ⁇ . That is, these two observation points ⁇ and ( ⁇ + ⁇ 0 ) include the restoration values of the two common restoration points ⁇ and ( ⁇ + ⁇ 0 ). This relationship is used in the two-image two-point restoration in this section. This will be specifically described below.
- the interference fringe intensity distribution is the same as that of the conventional 2D-SIM, the observation range of the spectrum of the modulated image is represented by
- the spatial frequency (modulation frequency) ⁇ 0 of the stripes in this section is set so that
- the spatial frequency (modulation frequency) ⁇ 0 of the fringes is set by the grating pitch of the diffraction grating 16 (the fringe pitch formed on the specimen).
- observation values of two observation points ⁇ and ( ⁇ + ⁇ 0 ) separated by ⁇ 0 can be obtained from the spectrum of one modulated image.
- the observed value of ( ⁇ + ⁇ 0 ) can be obtained only in a range where ⁇ satisfies
- the observed value at the observation point ⁇ and the observed value at the observation point ( ⁇ + ⁇ 0 ) in the spectrum of one modulated image are expressed by the following equations.
- the restoration values (unknown numbers) of the four restoration points appear on the right side of these expressions 1.12 and 1.13. In order to make these four restoration values known, two more equations are necessary.
- each spectrum of two modulated images having different phases ⁇ is generated, and a total of four observation values relating to two observation points ⁇ and ( ⁇ + ⁇ 0 ) are referred to from each of the two spectra.
- a total of four expressions including four restoration values are obtained.
- ⁇ 1 OTF ( ⁇ )
- ⁇ 2 OTF ( ⁇ + ⁇ 0 )
- the phase ⁇ of the first modulated image is set to ⁇ 1
- the phase ⁇ of the second modulated image is set to ⁇ If 2 is set, the four equations are represented by the following matrix.
- the inner circular frame is the outer edge (
- 2NA) of the normal resolution range.
- the outer circular frame is the outer edge (
- 4NA) of the super-resolution range.
- the two large black dots in FIG. 11 indicate two observation points that are shifted by the spatial frequency (modulation frequency) ⁇ 0 of the stripes.
- the two large black dots and the two small black dots in FIG. Four restoration points restored from two observation points are shown.
- the restoration values of the entire filled area in FIG. 11 are obtained by repeating the calculation of the four restoration values while moving the two observation points within the normal resolution range.
- the determinant of the matrix M may take a value other than zero.
- the determinant of the matrix M is expressed as follows.
- phase phi 1 of the first modulated image the phase difference [Delta] [phi between the phase phi 2 of the second modulation image, if only a ⁇ ⁇ 0, detM ⁇ 0, and the equation 1.14 is uniquely Have a good solution.
- the condition necessary for the demodulation operation in section 1.3 is ⁇ ⁇ 0.
- the painted area in FIG. 12A is a recoverable range when ⁇ ⁇ ⁇
- , whereas the filled area in FIG. 12B is a recoverable range when ⁇ ⁇ ( In either case,
- 2NA.)
- the inner circle is the outer edge of the normal resolution range (
- 2NA)
- the outer circle is the outer edge of the super-resolution range (
- 4NA).
- the number of directions of interference fringes is 1. However, if the number of directions of interference fringes is 3, and the same demodulation operation as in section 1.3 is applied to each direction, as shown in FIG. A wide area can be restored.
- Two-pass restoration will be described as a demodulation operation of the 2D-SIM of this embodiment.
- the number of interference fringe directions is set to two.
- each interference fringe is represented by a wave vector.
- the magnitude of this wave vector indicates the magnitude of the spatial frequency of the interference fringes, and the direction of the wave vector indicates the direction of the interference fringes.
- First step Two modulated images having a wave vector of ⁇ 0 and different phases are acquired, and a spectrum of each of the two modulated images is generated. Each of these two modulated images is represented as follows.
- the restoration value of the region shown in FIG. 14A is obtained by performing the same demodulation operation as in section 1.3 on the spectrum of each of the two modulated images.
- Second step Two modulated images having a wave vector of ⁇ 1 and different phases are acquired, and respective spectra of the two modulated images are generated. Each of these two modulated images is represented as follows.
- the restoration value of the region shown in FIG. 14B is obtained by performing the same demodulation operation as in section 1.3 on the spectrum of each of the two modulated images.
- the first step and the third step can be collectively expressed as shown in FIG. That is, the four black dots connected in the horizontal direction on the horizontal line in FIG. 16B are in Fourier space (wave number space) of four restoration values (unknown numbers) obtained from simultaneous equations equivalent to the expression 1.14 solved in the first step. Represents the position.
- the large black dot at the center is one known number of Fourier spaces (wave number space) obtained from the expression of the first step.
- the small black dots at both ends indicate the positions in the Fourier space (wave number space) of the two restored values (unknown numbers) of the simultaneous equations 1.26 solved in the third step.
- the mutual positional relationship between these eight black spots is the same regardless of which example is selected.
- the range of positions where black spots can be taken in Fourier space (wave number space) is limited by the range of positions where two large black spots (center) can be taken in Fourier space (wave number space). Since the range of positions that can be taken by the two large black dots is
- FIG. 16A shows the second step and the fourth step in the same manner as FIG. 16B.
- two-pass restoration is performed with emphasis on suppressing the number of modulated images (number of spectra). Therefore, in the first example, the number of directions of the wave vector is set to 2, and two modulated images having different phases are obtained for each of two wave vector ⁇ 1 and ⁇ 2 different from each other (a total of four modulated images). An image is acquired) and the spectrum of each of the four modulated images is generated (a total of four spectra are generated).
- the phase difference ⁇ between two modulated images acquired with the same wave vector is set to ⁇ ⁇ ⁇ .
- is set to
- the number of directions of the wave vector is assumed to be 3 (modulated images are acquired from each of the three wave vector ⁇ 1 , ⁇ 2 , ⁇ 3 , and respective spectra of these modulated images are generated).
- the number of phases is 2 (two modulated images I (0) and I (1) having the same fringe direction and different phases. However, in each of the other two directions (wave vector ⁇ 2 , ⁇ 3 ), the number of phases is suppressed to 1 (two modulated images I (2) and I (3) having different fringe directions are obtained. ).
- each wave vector is set to
- FIG. 19 is an illustration of the calculation. However,
- and ⁇ 1 ⁇ ⁇ 2
- the three large black dots in FIG. 19A indicate the three observation points located at the vertices of the triangle drawn by the three wave vector ⁇ 1 , ⁇ 2 , ⁇ 3 in the spectrum of the modulated image.
- Three large black spots and nine small black spots in A) indicate restoration points (a total of 12 restoration points) restored from these three observation points.
- FIG. 19B is an illustration when the same restoration is performed by inverting the direction of the triangle.
- the restoration in FIG. 19A and the restoration in FIG. 19B can be performed in parallel. In this section, these two types of restoration are performed, and the entire filled area shown in FIG. 20 is restored.
- FIG. 20 is a combination of the restoration area shown in FIG. 19A and the restoration area shown in FIG.
- FIG. 21 is a diagram illustrating the calculation in this section divided into three steps.
- FIG. 21A shows four restoration points 1 to 4 restored in the first step.
- FIG. 21B shows four restoration points 5 to 8 restored in the second step.
- FIG. 21C shows the four restoration points 9 to 12 restored in the third step.
- FIG. 21D shows the correspondence between the numbers 1 to 12 in the figure and the restoration values. .
- First step By applying four observation values regarding two observation points 1 and 2 arranged in the direction of the wave vector ⁇ 1 at an interval
- Second step Using the respective restoration values of the restoration points 1 and 2 , four restoration points 5, 6, 7, and 8 that are shifted from the restoration points 1 and 2 by the wave number vectors ⁇ 2 and ⁇ 3 . Each restoration value is obtained.
- the equations used in this case are two equations (for two phases) relating to the direction of the wave vector ⁇ 1 , one equation relating to the direction of the wave vector ⁇ 2 , one equation relating to the direction of the wave vector ⁇ 3 , There are a total of four equations.
- Third step Using the restoration values of the restoration points 1, 2, 5 respectively, the remaining restoration points 9, 10, which are shifted from the restoration points 1, 2 , 5 by the wave vector ⁇ 2 , ⁇ 3 , The restoration values of 11 and 12 are obtained.
- the formula used in this case the two expressions (observation point 2 min) with respect to the direction of wave vector xi] 2, and two equations for the direction of the wave vector xi] 3 (observation point 2 min), total 4 Is one expression.
- the number of phases in all three directions is limited to 1, and instead, one unmodulated image is acquired and the spectrum of the unmodulated image is generated.
- the spectrum of the unmodulated image is a Fourier transform of the unmodulated image.
- the number of modulated images (the number of modulated image spectra) is 3, and the number of unmodulated images (the number of unmodulated image spectra) is 1, so a total of 12 observations from three observation points. The value is obtained.
- the restoration value of the restoration point is obtained individually.
- the interference fringes projected onto the specimen are the sum of three interference fringes with different directions as follows (three-way interference fringes). A method for projecting the three-way interference fringes will be described later.
- a certain observation point ⁇ in the spectrum of the modulated image has a zero-order modulation component of the fluorescence, a ⁇ first-order modulation component of the fluorescence by the wave vector ⁇ 1 , and a ⁇ first-order modulation component of the fluorescence by the wave vector ⁇ 2. And a total of seven components of the fluorescence ⁇ first-order modulation component by the wave vector ⁇ 3 are superimposed.
- the whole of these three observation points ⁇ , ( ⁇ + ⁇ 1 ), ( ⁇ + ⁇ 2 ) includes the restoration values of 12 restoration points.
- FIG. 22 is an illustration thereof. However,
- and ⁇ 1 ⁇ ⁇ 2
- the three large black dots in FIG. 22A indicate the three observation points located at the vertices of the triangle drawn by the three wave vector ⁇ 1 , ⁇ 2 , ⁇ 3 in the spectrum of the modulated image.
- Three large black spots and nine small black spots in A) indicate restoration points (a total of 12 restoration points) restored from these three observation points.
- FIG. 22B is an illustration when the same restoration is performed by inverting the direction of the triangle.
- the restoration in FIG. 22A and the restoration in FIG. 22B can be performed in parallel. In this section, these two types of restoration are performed, and the same area as the filled area shown in FIG. 20 is restored.
- the phases (consisting of three components) of the three-way interference fringes reflected in each of the four modulated images I (1) , I (2) , I (3) , and I (4 ) are, for example,
- the interference fringe intensity distribution in each of the four modulated images I (1) , I (2) , I (3) , and I (4) is as follows.
- the sum of the interference fringe intensity distributions in the four modulated images is as follows.
- each part of the specimen is illuminated with the same amount of light.
- the patterns of the three-way interference fringes are common, and only the pattern positions are shifted. Therefore, the following relationship holds.
- FIG. 23 is a diagram showing the relationship between the lattice structure of three-way interference fringes and the basic vectors a 1 and a 2 of the lattice.
- FIG. 24 is a diagram showing the relationship of the interference fringe intensity distribution among the four modulated images.
- the lattice patterns are moved in parallel so as not to overlap each other between the four modulated images.
- the unit of the movement amount is half of the basic vector of the lattice.
- the diffraction grating 16 (FIG. 2A) described above is formed as in the case of generating other interference fringes (one-way interference fringes). Can be used.
- the aperture pattern of the light beam selection member 20 includes the 0th order diffracted light of each group, the second and higher order diffracted lights of each group, and the + 1st order diffracted light of each group. And is set so as to transmit only the ⁇ 1st order diffracted light of each group.
- the condensing points formed on the pupil plane are only the condensing points by the three ⁇ 1st order diffracted lights.
- FIG. 25A shows the arrangement of the condensing points in the case where excess diffracted light is not cut by the light beam selecting member 20, and FIG. The arrangement
- three condensing points are formed at positions shifted by 120 °.
- Three diffracted lights (here, three ⁇ 1st order diffracted lights) emitted from these three condensing points enter the illumination area of the specimen from three directions, and form three-way interference fringes on the specimen.
- the diffracted light contributing to the interference fringes is three ⁇ 1st order diffracted lights here, it goes without saying that the three + 1st order diffracted lights may be used.
- each of the laser light emitted from the laser light source A, the laser light emitted from the laser light source B, and the laser light emitted from the laser light source C is split into two branched fibers.
- the point light sources a and a ′ are coherent light sources generated from the laser light source A
- the point light sources b and b ′ are coherent light sources generated from the laser light source B
- the point light sources c and c ′ is a coherent light source generated from the laser light source C.
- the six laser lights emitted from these six point light sources are incident on the specimen illumination area from six directions, and form three-way interference fringes on the specimen.
- the laser beams La and La ′ emitted from the point light sources a and a ′, the laser beams Lb and Lb ′ emitted from the point light sources b and b ′, and the laser beams Lc emitted from the point light sources c and c ′, Lc ′ does not interfere with each other. Accordingly, the interference fringes formed on the specimen are a superposition of three types of two-beam interference fringes. Therefore, the super-resolution effect is not lowered and the utilization efficiency of the laser light is high.
- the diffraction grating 16 is translated in order to change the phase of the three-way interference fringe (consisting of three components). Instead of moving, the phase difference between the laser beams La and a ′, the phase difference between the laser beams Lb and Lb ′, and the phase difference between the laser beams Lc and Lc may be changed.
- the interference fringe intensity distribution in the 3D-SIM is assumed as follows.
- the interference fringe intensity distribution K (r) in the 3D-SIM is expressed as follows.
- the interference fringe intensity distribution K is expressed as follows.
- the fringes are first-period fringes having a sinusoidal intensity distribution (interference fringes due to left and right light among the three light beams consisting of the central light and its left and right lights), and a second having a sinusoidal intensity distribution. It consists of a fringe with a cycle (twice the first cycle) (interference fringes due to the center light and the right light (or left light) among the three light beams consisting of the center light and its left and right lights) superimposed.
- the fluorescent intensity distribution of the sample is I 0 (r) K (r). Assuming that it is expressed, the approximation that the fluorescence generated at each point of the sample does not excite the fluorescent substance at other points (Born approximation) is adopted.
- the modulated image I (x, z) acquired in the 3D-SIM mode is expressed as follows.
- the modulated image represented in Fourier space that is, the spatial frequency spectrum of the modulated image
- the modulated image represented in Fourier space that is, the spatial frequency spectrum of the modulated image
- a, b, and c are values determined by the intensity balance of the three light beams ( ⁇ first-order diffracted light and zero-order diffracted light) that contribute to the interference fringes of the 3D-SIM.
- the observation point ⁇ in the spectrum of the modulated image acquired in the 3D-SIM mode has a fluorescence first-order modulation component, a fluorescence first-order modulation component, a fluorescence + second-order modulation component, a fluorescence + second-order modulation component, Five components of the fluorescence zero-order modulation component are superimposed.
- the ⁇ first-order modulation component superimposed on the observation point ⁇ is a value (restoration value) that the restoration point ( ⁇ ⁇ ⁇ 0 ) should have in the spectrum of the demodulated image
- the ⁇ second-order modulation component superimposed on the observation point ⁇ Is the value (restoration value) that the restoration point ( ⁇ ⁇ 2 ⁇ 0 ) in the spectrum of the demodulated image should have, and the zero-order modulation component superimposed on the observation point ⁇ should have the restoration point ⁇ in the spectrum of the demodulation image Value (restoration value).
- the ⁇ first-order modulation component superimposed on the observation point ⁇ is a fringe of the second period (twice the first period) having a sinusoidal intensity distribution (three light fluxes consisting of the central light and its left and right lights).
- the components modulated by the interference light due to the central light and the right light (or the left light) and the ⁇ secondary modulation component superimposed on the observation point ⁇ has a first period having a sinusoidal intensity distribution. It is a component modulated by fringes (interference fringes due to left and right light out of three light beams composed of central light and left and right light). This is true for each observation point in the spectrum of the modulated image.
- a large black spot in FIG. 27 corresponds to a certain observation point, and a large black spot and four small black spots on both sides thereof correspond to five restoration points restored from the observation point.
- the first-order modulation component of fluorescence superimposed on the observation point ⁇ and the zero-order modulation component of fluorescence superimposed on the observation point ( ⁇ + ⁇ 0 ) are both restored to the restoration point ( ⁇ + ⁇ 0 ).
- the fluorescent second-order modulation component superimposed on the observation point ⁇ and the fluorescent first modulation component superimposed on the observation point ( ⁇ + ⁇ 0 ) both correspond to the restoration value of the restoration point ( ⁇ + 2 ⁇ 0 ).
- the first-order modulation component of the fluorescence superimposed on the observation point ( ⁇ + ⁇ 0 ) and the zero-order modulation component of the fluorescence superimposed on the observation point ⁇ correspond to the restoration value of the restoration point ⁇
- Both the + 2nd order modulation component of the superimposed fluorescence and the 1st order modulation component of the fluorescence superimposed on the observation point ⁇ correspond to a restored value of ( ⁇ 0 ). That is, these two observation points ⁇ and ( ⁇ + ⁇ 0 ) include the restoration values of four common restoration points ( ⁇ 0 ), ⁇ , ( ⁇ + ⁇ 0 ), and ( ⁇ + 2 ⁇ 0 ).
- the observation value at the observation point ⁇ and the observation value at the observation point ( ⁇ + ⁇ 0 ) are expressed by the following equations.
- FIG. 28 is a diagram showing the frequency range of the 3D-SIM demodulated image in this section.
- 28A is an xy cross section
- FIG. 28B is a zx cross section.
- the above explanation is an explanation of restoration concerning a certain wave vector (one direction).
- phase difference ⁇ between the three modulated images acquired with the same wave vector is set to 2 ⁇ / 3.
- the number of directions (number of wave vectors) is 3.
- An unmodulated image is represented as I (0) .
- ⁇ 1st order modulation component and the ⁇ 2nd order modulation component are summarized and expressed as follows.
- the zero-order modulation component (normal resolution component) can be expressed as follows.
- Equation 2.42 first, by applying seven observation values related to the observation point ⁇ in each spectrum of seven modulated images to Equation 2.42, the seven restored values on the right side of Equation 2.42, that is, Are restored ( ⁇ first-order modulation component, ⁇ second-order modulation component, and zero-order modulation component), respectively.
- the modulation component and the ⁇ 1st order modulation component can be separated.
- Equation 2.35 the ⁇ 1st order modulation component is obtained from Equation 2.35.
- the zero-order modulation component and the ⁇ first-order modulation component are separated by fitting the observed values of the 12 modulation image spectra (12 spectra) to this equation.
- Section 1.6 described above may be applied to 3D-SIM as follows.
- the number of directions (number of wave vectors) is 3.
- the number of phases is set to 4, but the number of phases in each of the other two directions is suppressed to 2.
- the number of wave vectors may be 3 or more.
- the number of wave vectors may be set to 5, and the five wave vectors may be set in a closed relationship.
- control device 43 sequentially acquires N images (M ⁇ N) including M types of images necessary for generating a super-resolution image in order to continuously observe the specimen 2.
- N images are acquired in the first round
- N images are acquired in the second round
- N images are acquired in the nth round.
- the image storage / calculation device 44 of this embodiment repeats the generation of the super-resolution image and the display of the super-resolution image in order to continuously observe the specimen 2.
- the generation of the super-resolution image and the display of the super-resolution image are performed as follows. That is, the image storage / arithmetic unit 44 separates from the latest continuous P image set (an image set composed of consecutive P images) every time L images (L ⁇ M) are acquired. A process of selecting one of M types of images necessary for (demodulation) and generating one super-resolution image is performed for each image set (M ⁇ P ⁇ N). Further, the image storage / arithmetic unit 44 displays the generated super-resolution image on the image display unit 45 in the order of generation. As a result, the super-resolution image on the image display device 45 is sequentially updated, and continuous observation of the specimen 2 becomes possible.
- the image storage / arithmetic unit 44 generates a super-resolution image every time L images (L ⁇ M) are acquired, and displays the super-resolution image every time a super-resolution image is generated.
- the M types of images necessary for updating the super-resolution image necessarily include images (modulated images) with interference fringes.
- the illumination intensity of the specimen 2 is spatially non-uniform, and there is a possibility that the specimen 2 may be unevenly faded.
- control device 43 arranges an array of N images in one round (note that “array” is a sequence determined or arranged). Set to meet the conditions.
- Update conditions An image set consisting of the latest P images referred to when super-resolution images are updated (hereinafter simply referred to as “update time”) includes M types of images necessary for updating the super-resolution images. An image is always included.
- the super-resolution image is updated every time L images are acquired during the round, and the fading unevenness of the sample 2 is eliminated during the period from the start to the end of the round. No matter how many times the round is repeated, the fading unevenness does not deteriorate.
- an image set referred to at the time of update (an image set composed of P images as candidates in order to select M types of images necessary for update.
- the number P of images constituting an “image set” or simply “image set”) may be equal to the number M of image types required for updating. That is, the super-resolution image may always be updated using the latest M image sets.
- the image acquisition number L corresponding to the update frequency of the super-resolution image may be equal to the number M of image types necessary for the update. That is, the update frequency of the super-resolution image may be “every M sheets”.
- the arrangement of N images within one round may further satisfy the following conditions.
- Direction condition The direction switching of the wave vector within one round is restricted to switching between the directions of the three wave vector directions that are close to each other.
- this direction condition is as follows. That is, when the relationship between the directions of the three wave vector is a relationship between the first direction V1, the second direction V2, and the third direction V3 as shown in FIG. 2, for example, a member for switching the direction of the wave vector
- the rotational position of the light beam selection member 20 (here, the light beam selection member 20) may be switched between ⁇ 60 °, 0 °, and + 60 ° with the first direction V1 as a reference (0 °).
- the amount of rotation of the light beam selection member 20 necessary for switching the rotational position of the light beam selection member 20 between ⁇ 60 ° and 0 ° is 60 °
- the rotation position of the light beam selection member 20 is 0 °.
- the rotation amount of the light beam selection member 20 is 120 °. Therefore, the direction condition is effective for minimizing the rotation amount of the light beam selection member 20.
- the arrangement of N images within one round may further satisfy the following conditions.
- this continuous condition is as follows. That is, if the acquisition timings of modulated images having a common wave vector are not continuous and the sample 2 changes before the acquisition of those modulated images, the accuracy of the separation described above decreases, The image quality of the resolution image is degraded. Therefore, if the time change of the sample 2 is assumed, the continuous condition is effective.
- the arrangement of N images in a round may further satisfy the following conditions.
- Isotropic condition Of three wave vectors, the number of modulated images acquired with one wave vector, the number of modulated images acquired with one other wave vector, and the remaining one wave vector The number of acquired modulated images is equal.
- section 1.7 of 2D-SIM mode is applied.
- the arrangement of N images in one round is set as shown in Table 1 so as to satisfy the above-described uniform condition and update condition.
- the direction in Table 1 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- each of the direction 1, the direction 2, the direction 3, and the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 1 is arbitrary.
- the relationship between the direction 1, the direction 2, and the direction 3 is, for example, the relationship between the first direction V1, the second direction V2, and the third direction V3 as shown in FIG.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 2.
- the direction condition is added to the first embodiment, and the update condition is relaxed instead.
- the direction in Table 3 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- Each of the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 3 is arbitrary, whereas directions 1 and 2 are directions close to each other, whereas directions 2 and 3 are directions close to each other. Thus, it is assumed that direction 1 and direction 3 are not close to each other.
- the relationship between the direction 1 and the direction 2 is a relationship rotated by 60 °, for example, and the relationship between the direction 2 and the direction 3 is a relationship rotated by 60 °, for example.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 4.
- the present embodiment has an advantage that the direction of interference fringes can be efficiently switched, although the super-resolution image update frequency is lower than that of the first embodiment.
- section 1.6 of 2D-SIM mode is applied.
- the arrangement of N images in one round is set as shown in Table 5 so as to satisfy the above-described uniform condition, update condition, and continuous condition.
- the direction in Table 5 represents the direction of the wave vector, the phase represents the phase of the wave vector, and the image number represents the image acquisition order.
- direction 1, direction 2, direction 3, and phases ⁇ 1, ⁇ 1 ′, ⁇ 2, ⁇ 2 ′, ⁇ 3, ⁇ 3 ′, ⁇ 1, ⁇ 2, and ⁇ 3 are arbitrary.
- the relationship between the direction 1, the direction 2, and the direction 3 is, for example, the relationship between the first direction V1, the second direction V2, and the third direction V3 (see FIG. 2).
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 6.
- the above-described isotropic condition is also satisfied, so that there is an advantage that the fading state of the specimen 2 becomes isotropic.
- the arrangement of N images is as shown in Table 7, and the images used for updating the super-resolution image have combinations as shown in Table 8.
- the direction condition is added to the third embodiment, and the update condition is relaxed instead.
- the direction in Table 9 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- Each of the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 9 is arbitrary, whereas directions 1 and 2 are directions close to each other, and directions 2 and 3 are directions close to each other. Thus, it is assumed that direction 1 and direction 3 are not close to each other.
- the relationship between the direction 1 and the direction 2 is a relationship rotated by 60 °, for example, and the relationship between the direction 2 and the direction 3 is a relationship rotated by 60 °, for example.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 10.
- the present embodiment has an advantage that the direction of interference fringes can be efficiently switched, although the super-resolution image update frequency is lower than that in the third embodiment.
- the direction condition is added to the third embodiment, and the continuous condition is removed instead.
- the direction in Table 11 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- Each of the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 11 is arbitrary, whereas directions 1 and 2 are directions close to each other, and directions 2 and 3 are directions close to each other. Thus, it is assumed that direction 1 and direction 3 are not close to each other.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 12.
- the acquisition timings of two modulated images having the same interference fringe direction are not continuous, and thus it is not suitable for the sample 2 having a large time change, but it is advantageous in that the direction switching of the interference fringes can be made efficient. There is.
- the direction condition is added to the third embodiment, and the update condition is relaxed instead.
- the image used for the update is not “the latest four images”, but “appropriate four of the latest five images”.
- the direction in Table 13 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- Each of the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 13 is arbitrary, whereas directions 1 and 2 are directions close to each other, and directions 2 and 3 are directions close to each other. Thus, it is assumed that direction 1 and direction 3 are not close to each other.
- the relationship between the direction 1 and the direction 2 is a relationship rotated by 60 °, for example, and the relationship between the direction 2 and the direction 3 is a relationship rotated by 60 °, for example.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 14.
- the images used for updating the super-resolution image are not necessarily the latest four images, there is an advantage that the direction switching of the interference fringes can be made efficient.
- the arrangement of this example is as shown in Table 15.
- the direction in Table 15 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- each of the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 15 is arbitrary, whereas the directions 1 and 2 are directions close to each other, and the directions 2 and 3 are directions close to each other. Thus, it is assumed that direction 1 and direction 3 are not close to each other.
- the relationship between the direction 1 and the direction 2 is a relationship rotated by 60 °, for example, and the relationship between the direction 2 and the direction 3 is a relationship rotated by 60 °, for example.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 16.
- section 2.5 of 3D-SIM mode is applied.
- the arrangement of N images in one round is set as shown in Table 17 so as to satisfy the above-described uniform condition, update condition, and continuous condition.
- the direction in Table 17 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- direction 1, direction 2, direction 3, and phases ⁇ 1, ⁇ 2, and ⁇ 3 are arbitrary.
- the relationship between the direction 1, the direction 2, and the direction 3 is, for example, the relationship between the first direction V1, the second direction V2, and the third direction V3.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 18.
- the super-resolution image is basically updated every time two modulated images having the same wave vector and different phases are acquired (that is, basically). Is updated every two sheets).
- the super-resolution image is updated every time an unmodulated image is acquired (that is, it is updated one by one when an unmodulated image is acquired).
- the direction condition is added, and the update condition is relaxed instead.
- the direction in Table 19 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- Each of the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 19 is arbitrary, whereas directions 1 and 2 are directions close to each other, and directions 2 and 3 are directions close to each other. Thus, it is assumed that direction 1 and direction 3 are not close to each other.
- the relationship between the direction 1 and the direction 2 is a relationship rotated by 60 °, for example, and the relationship between the direction 2 and the direction 3 is a relationship rotated by 60 °, for example.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 20.
- the present embodiment has an advantage that the direction of interference fringes can be efficiently switched, although the super-resolution image update frequency is lower than that in the eighth embodiment.
- the acquisition of the last image (14th image) in the round may be omitted, and the first image (1 ′ ′ image) of the next round may be used as the 14th image.
- section 2.7 of 3D-SIM mode is applied.
- the arrangement of N images in the round is set as shown in Table 21 so as to satisfy the above-described uniform condition, update condition, continuous condition, and direction condition.
- the direction in Table 21 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- Each of the phases ⁇ 1, ⁇ 2, and ⁇ 3 in Table 21 is arbitrary, whereas directions 1 and 2 are directions close to each other, and directions 2 and 3 are directions close to each other. Thus, it is assumed that direction 1 and direction 3 are not close to each other.
- the relationship between the direction 1 and the direction 2 is a relationship rotated by 60 °, for example, and the relationship between the direction 2 and the direction 3 is a relationship rotated by 60 °, for example.
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 22.
- This embodiment is the same as the tenth embodiment except that the update condition is strengthened and the direction condition is removed instead.
- the direction in Table 23 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- the phases ⁇ 1, ⁇ 2, ⁇ 3, direction 1, direction 2, and direction 3 in Table 23 are arbitrary.
- the relationship between the direction 1, the direction 2, and the direction 3 is, for example, the relationship between the first direction V1, the second direction V2, and the third direction V3 (see FIG. 2).
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 24.
- section 2.6 of 3D-SIM mode is applied.
- the arrangement of N images in one round is set as shown in Table 25 so as to satisfy the above-described uniform condition, update condition, and continuous condition.
- the direction in Table 25 represents the direction of the wave vector
- the phase represents the phase of the wave vector
- the image number represents the image acquisition order.
- direction 1, direction 2, direction 3, and phases ⁇ 1, ⁇ 2, and ⁇ 3 are arbitrary.
- the relationship between the direction 1, the direction 2, and the direction 3 is, for example, the relationship between the first direction V1, the second direction V2, and the third direction V3 (see FIG. 2).
- the images used for updating the super-resolution image in the present embodiment are combinations as shown in Table 26.
- the above-described isotropic condition is also satisfied, so that there is an advantage that the fading state of the specimen 2 becomes isotropic.
- the number of wave vectors used to obtain a necessary modulation image is set to 3, and the three wave vectors are set in a closed relationship.
- the present invention is not limited to this, and the number of wave vectors is not limited to this. May be 3 or more.
- the number of wave vectors may be set to 5 and five wave vectors may be set to a closed relationship
- the number of wave vectors may be set to Q (Q ⁇ 3)
- Q wave vectors may be set to a closed relationship. May be.
- the structured illumination microscope apparatus (1) of this embodiment controls a combination of fringe wave vector and phase for spatially modulating the specimen (2), and sequentially acquires N images related to the specimen. And a process of demodulating the image of the sample using necessary M types of images from the latest P consecutive image sets each time L images are acquired. And a calculation means (image storage / calculation device 44) for each image set.
- the M types of images include the following images.
- the arrangement of the N images satisfies the following conditions.
- the image set always includes the M types of images.
- the super-resolution image is updated every time L images are acquired during a series of processes, and in the period from the start to the end of the series of processes. Since the discoloration unevenness of the specimen is eliminated, the discoloration unevenness will not be deteriorated no matter how many times the series of processes is repeated.
- the number P of images constituting the image set may be equal to the number M of image types necessary for the demodulation.
- the image acquisition number L corresponding to the frequency of the demodulation may be 1 or 2.
- the number L of acquired images corresponding to the frequency of demodulation may be equal to the number M of image types necessary for the demodulation.
- the arrangement of the N images may satisfy the following conditions.
- Direction condition The direction switching of the wave vector is limited to switching between directions close to each other.
- the arrangement of the N images may satisfy the following conditions.
- the arrangement of the N images may satisfy the following condition when the number Q of types of the modulated images is 3.
- the number of acquired modulated images in common is equal to the number of acquired modulated images in common with the wave vector between the remaining one type.
- the above-described three observation points superimposed on the three observation points are used.
- the 0th order modulation component and the ⁇ 1st order modulation component of the observation light beam may be separated from each other.
- One type of modulated image with the same wave number vector and different phase with the other one of the Q types (Q 3) of modulated images.
- One kind of modulated image having the same wave vector and different phase among the remaining one of the kinds (Q 3) of the modulated images.
- the ⁇ 1st order modulation components of the observation beam are separated from each other and superimposed on the three observation points based on 21 observation values for any three observation points that are shifted from each other by twice the wave vector.
- the 0th-order modulation component and the ⁇ 2nd-order modulation component of the observation light beam may be separated from each other.
- the ⁇ first-order modulation components of the observation light beam superimposed on the three observation points are separated from each other, and any three observations shifted from each other by twice the wave vector
- the zero-order modulation component and the ⁇ second-order modulation components of the observation light beam superimposed on the three observation points may be separated from each other.
- the magnitude of the wave vector may be common and the direction may be shifted by 120 °.
- N, L, P, M and Q are all integers.
- DESCRIPTION OF SYMBOLS 1 ... Structured illumination microscope apparatus, 100 ... Laser unit, 11 ... Optical fiber, 10 ... Illumination optical system, 30 ... Imaging optical system, 42 ... Imaging device, 43 ... Control apparatus, 44 ... Image storage and calculation apparatus, 45 DESCRIPTION OF SYMBOLS ... Image display apparatus, 12 ... Collector lens, 13 ... Polarizing plate, 14 ... Light beam splitting part, 17 ... Condensing lens, 18 ... Light beam selection part, 21 ... Lens, 22 ... Field stop, 23 ... Field lens, 24 ... Excitation Filter, 33 ... Dichroic mirror, 31 ... Objective lens, 34 ... Absorption filter, 35 ... Second objective lens, 2 ... Sample
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Microscoopes, Condenser (AREA)
Abstract
構造化顕微鏡装置は、標本を空間変調する縞の波数ベクトルと位相との組み合わせを制御してN枚の画像を取得する一連の処理を繰り返す取得手段と、前記画像がL枚取得される度に最新となる連続P枚の画像セットのうち必要なM種類の画像を用いて前記標本の像を復調する処理を前記画像セットごとに行う演算手段とを備える。前記M種類の画像には、「前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像」、「前記Q種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像」が含まれ、前記N枚の画像の配列は、「均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様になる」、「更新条件:前記画像セットには前記M種類の画像が必ず含まれる」を満たす。
Description
本発明は、構造化照明顕微鏡装置に関する。
生体標本などの被観察物を超解像観察するための手法に、被観察物の構造の空間周波数を照明光で変調する手法がある(特許文献1を参照)。
この手法では、空間変調された照明光で被観察物を照明し、被観察物の構造に含まれる解像限界を超える高い空間周波数の情報を、顕微鏡光学系の結像に寄与させる。また、空間照明の位相を切り替え、互いに異なる位相の下で得られた複数の変調像のデータ(以下、「変調画像」と称す。)へ演算を施すことにより、復調像のデータ(以下、「復調画像」又は「超解像画像」と称す。)を取得する。
しかし、1枚の超解像画像を観察するためには、複数枚の変調画像を取得し、それら変調画像の各々のスペクトルを生成する必要があるため、高速に観察することが難しい。
そこで本発明は、変調画像から超解像画像(復調画像)を取得するための復調演算を効率化することを目的とする。
本発明の構造化照明顕微鏡装置の一例は、標本を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段と、前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段とを備える。
なお、前記M種類の画像には、以下の画像が含まれる。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像。
・前記Q種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像。
また、前記N枚の画像の配列は、以下の条件を満たす。
・均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様になる。
・更新条件:前記画像セットには前記M種類の画像が必ず含まれる。
本発明の構造化照明顕微鏡装置の他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する。
本発明の構造化照明顕微鏡装置のさらに他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する。
本発明の構造化照明顕微鏡装置のさらに他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる。
本発明の構造化照明顕微鏡装置のさらに他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる。
以下、本発明の実施形態として構造化照明顕微鏡装置を説明する。
[装置の説明]
先ず、構造化照明顕微鏡装置の構成を説明する。以下では構造化照明顕微鏡装置を全反射蛍光顕微鏡(TIRFM:Total Internal Reflection Fluorescence Microscopy)として使用する場合も適宜併せて説明する。
先ず、構造化照明顕微鏡装置の構成を説明する。以下では構造化照明顕微鏡装置を全反射蛍光顕微鏡(TIRFM:Total Internal Reflection Fluorescence Microscopy)として使用する場合も適宜併せて説明する。
図1は、構造化照明顕微鏡装置1の構成図である。図1に示すとおり構造化照明顕微鏡装置1には、レーザユニット100と、光ファイバ11と、照明光学系10と、結像光学系30と、撮像素子42と、制御装置43と、画像記憶・演算装置44と、画像表示装置45とが備えられる。なお、照明光学系10は落射型であり、結像光学系30の対物レンズ31及びダイクロイックミラー33を利用して標本2の照明を行う。
レーザユニット100には、第1レーザ光源101、第2レーザ光源102、シャッタ103、104、ミラー105、ダイクロイックミラー106、レンズ107が備えられる。第1レーザ光源101及び第2レーザ光源102の各々は、可干渉性の高いレーザ光を出射する光源であって、互いの出射波長は異なる。ここでは、第1レーザ光源101の波長λ1は、第2レーザ光源102の波長λ2よりも長いと仮定する(λ1>λ2)。これらの第1レーザ光源101、第2レーザ光源102、シャッタ103、104は、それぞれ制御装置43によって駆動・制御される。
光ファイバ11は、レーザユニット100から射出したレーザ光を導光するために、例えば、偏波面保存型のシングルモードファイバによって構成される。この光ファイバ11の出射端の光軸O方向の位置は、位置調節機構11Aによって調節可能である。この位置調整機構11Aは、制御装置43によって駆動・制御される。なお、位置調整機構11Aとしては、例えば、ピエゾ素子等が用いられる。
照明光学系10には、光ファイバ11の出射端側から順に、コレクタレンズ12と、偏光板13と、光束分岐部14と、集光レンズ17と、光束選択部18と、レンズ21と、視野絞り22と、フィールドレンズ23と、励起フィルタ24と、ダイクロイックミラー33と、対物レンズ31とが配置される。
なお、光ファイバ11として偏波面保存型のシングルモードファイバを使用した場合は、光ファイバ11の前後でレーザ光の偏波面が保存されるので、偏光板13は非必須であるが、レーザ光の偏光の品質を保つためには有効である。一方、光ファイバ11としてマルチモードファイバを使用した場合、偏光板13は必須である。
光束分岐部14には、並進機構15と、回折光学素子(回折格子)16とが備えられ、光束選択部18には、1/2波長板19と、光束選択部材20と、回動機構18Aとが備えられる。これらの光束分岐部14、光束選択部18の各々は、制御装置43によって駆動・制御される。
結像光学系30には、標本2の側から順に、対物レンズ31と、ダイクロイックミラー33と、吸収フィルタ34と、第2対物レンズ35とが配置される。
標本2は、例えば、平行平板状のガラス表面に配置された蛍光性の細胞(蛍光色素で染色された細胞)や、シャーレ内に存在する蛍光性の生体細胞(蛍光色素で染色された動く細胞)などの細胞である。この細胞には、波長λ1の光によって励起される第1蛍光領域と、波長λ2の光によって励起される第2蛍光領域との双方が発現している。
構造化照明顕微鏡装置1がTIRFM(全反射蛍光顕微鏡)として使用される場合、対物レンズ31は、液浸型(油浸型)の対物レンズとして構成される。つまり、対物レンズ31と標本2のガラスとの間隙は、不図示の浸液(油)で満たされる。
撮像素子42は、CCDやCMOS等からなる二次元の撮像素子である。撮像素子42は、制御装置43によって駆動されると、その撮像面41に形成された像を撮像し、画像を生成する。この画像は、制御装置43を介して画像記憶・演算装置44へと取り込まれる。なお、撮像素子42のフレーム周期(撮像の繰り返し周期)は、撮像素子の撮像時間(すなわち電荷蓄積及び電荷読出に要する時間)、干渉縞の方向切り換えに要する時間、その他の所要時間のうち、律速によって定められる。
制御装置43は、レーザユニット100、位置調整機構11A、光束分岐部14、光束選択部18、撮像素子42を駆動制御する。
画像記憶・演算装置44は、制御装置43を介して与えられた画像に対して演算を施し、演算後の画像を不図示の内部メモリに格納すると共に、画像表示装置45へ送出する。
次に、構造化照明顕微鏡装置1におけるレーザ光の振る舞いを説明する。
第1レーザ光源101から射出した波長λ1のレーザ光(第1レーザ光)は、シャッタ103を介してミラー105へ入射すると、ミラー105を反射し、ダイクロイックミラー106へ入射する。一方、第2レーザ光源102から射出した波長λ2のレーザ光(第2レーザ光)は、シャッタ104を介してビームスプリッタ106へ入射し、第1レーザ光と統合される。ダイクロイックミラー106から射出した第1レーザ光及び第2レーザ光は、レンズ107を介して光ファイバ11の入射端に入射する。なお、制御装置43がレーザユニット100を制御すると、光ファイバ11の入射端に入射するレーザ光の波長(=使用波長λ)は、長い波長λ1と短い波長λ2との間で切り替わる。
光ファイバ11の入射端に入射したレーザ光は、光ファイバ11の内部を伝搬して光ファイバ11の出射端に点光源を生成する。その点光源から射出したレーザ光は、コレクタレンズ12によって平行光束に変換され、偏光板13を介して光束分岐部14の回折格子16へ入射すると、各次数の回折光束に分岐される。これら各次数の回折光束(以下、必要に応じて「回折光束群」と称す。)は、集光レンズ17によって瞳共役面25の互いに異なる位置に集光される。
ここで、瞳共役面25は、対物レンズ31の瞳32(±1次回折光が集光する位置)に対してレンズ23、レンズ21を介して共役な位置のことである。集光レンズ17は、集光レンズ17の焦点位置(後ろ側焦点位置)が瞳共役面25と一致するように配置されている。なお、「共役な位置」の概念には、当業者が対物レンズ17、レンズ21、23の収差、ビネッティング等、設計上必要な事項を考慮して決定した位置も含まれる。
なお、光ファイバ11から射出したレーザ光は基本的に直線偏光しているので、偏光板13は、省略することも可能であるが、余分な偏光成分を確実にカットするために有効である。また、レーザ光の利用効率を高めるため、偏光板13の軸は、光ファイバ11から射出したレーザ光の偏光方向に一致していることが望ましい。
瞳共役面25に向かった各次数の回折光束は、瞳共役面25の近傍に配置された光束選択部18へ入射する。
構造化照明顕微鏡装置1がTIRFMとして利用される場合、光束選択部18は、入射した各次数の回折光束のうち、1対の回折光束のみ(ここでは±1次回折光束のみ)を選択的に通過させる。
光束選択部18を通過した±1次回折光束は、レンズ21によって視野絞り22付近で回折格子16と共役な面を形成する。その後、±1次回折光束の各々は、フィールドレンズ23により収束光に変換され、さらに励起フィルタ24を経てからダイクロイックミラー33で反射し、対物レンズ31の瞳面32上の互いに異なる位置に集光される。
瞳面32上に集光した±1次回折光束の各々は、対物レンズ31の先端から射出される際には平行光束となり、標本2の表面で互いに重なり合い、干渉縞を形成する。この干渉縞が、構造化照明光として使用される。
なお、TIRF条件を満たすためには、瞳面32における±1次回折光束の集光点は、瞳面32の最外周における所定の輪帯状領域に位置していればよい。この場合、標本2の表面近傍には、干渉縞によるエバネッセント場が生起する。
このような構造化照明光により標本2を照明すると、構造化照明光の周期構造と標本2の(蛍光領域の)周期構造との差に相当するモアレ縞が現れるが、このモアレ縞においては、標本2の高周波数の構造が元の周波数より低周波数側にシフトしているため、この構造を示す光(蛍光)は、元の角度よりも小さい角度で対物レンズ31へ向かうことになる。よって、構造化照明光により標本2を照明すると、標本2の(蛍光領域の)高周波数の構造情報までもが対物レンズ31によって伝達される。
標本2で発生した蛍光は、対物レンズ31に入射すると、対物レンズ31で平行光に変換された後、ダイクロイックミラー33とバリアフィルタ34を透過し、第2対物レンズ35を介して撮像素子42の撮像面41上に標本2の変調像を形成する。
この変調像は、撮像素子42により画像化され、制御装置43を介して画像記憶・演算装置44へと取り込まれる。さらに、取り込まれた変調画像には、画像記憶・演算装置44において復調演算(詳細は後述)が施され、復調画像(超解像画像)が生成される。そして、この超解像画像は、画像記憶・演算装置44の内部メモリ(図示せず)に記憶されるとともに、画像表示装置45へと送出される。
次に、光束分岐部14を詳しく説明する。
図2は、光束分岐部14を説明する図であり、図2(A)は、光束分岐部14の回折格子16を光軸O方向から見た図であり、図2(B)は、±1次回折光束が瞳共役面に形成する集光点の位置関係を示す図である。なお、図2(A)は模式図であるため、図2(A)に示した回折格子16の構造周期は実際の構造周期と同じとは限らない。
図2(A)に示すように、回折格子16は、照明光学系10の光軸Oと垂直な互いに異なる複数方向にかけて周期構造を有した2次元回折格子である。ここでは、回折格子16は、120°ずつ異なる第1方向V1、第2方向V2、第3方向V3の各々にかけて周期構造を有しており、それら周期構造の周期(ピッチ)は共通であると仮定する。
なお、回折格子16の周期構造は、濃度(透過率)を利用して形成された濃度型の周期構造、または段差(位相差)を利用して形成された位相型の周期構造の何れであってもよいが、位相差型の周期構造の方が+1次回折光の回折効率が高いという点で好ましい。
このような回折格子16に入射した平行光束は、第1方向V1にかけて分岐した第1回折光束群と、第2方向V2にかけて分岐した第2回折光束群と、第3方向V3にかけて分岐した第3回折光束群とに変換される。
第1回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行する。
同様に、第2回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行する。
同様に、第3回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行する。
これら第1回折光束群の±1次回折光束、第2回折光束群の±1次回折光束、第3回折光束群の±1次回折光束は、前述した集光レンズ17により、瞳共役面内の互いに異なる位置に集光される。
そして、図2(B)に示すように、第1回折光束群の±1次回折光束の集光点25d、25gは、光軸Oに関して対称であり、集光点25d、25gの配列方向は第1方向V1に対応している。
また、第2回折光束群の±1次回折光束の集光点25c、25fは、光軸Oに関して対称であり、集光点25c、25fの配列方向は、第2方向V2に対応している。なお、第2回折光束群の集光点25c、25fから光軸Oまでの距離は、第1回折光束群の集光点25d、25gから光軸Oまでの距離と同じである。
また、第3回折光束群の±1次回折光束の集光点25b、25eは、光軸Oに関して対称であり、集光点25b、25eの配列方向は、第3方向V3に対応している。なお、第3光束群の集光点25b、25eから光軸Oまでの距離は、第1回折光束群の集光点25d、25gから光軸Oまでの距離と同じである。
なお、光ファイバ11から射出されるレーザ光の波長をλ、回折格子16の構造周期をP、レンズ17の焦点距離をfcとすると、光軸Oから集光点25b~25gまでの距離Dは下記の式で表される。
D∝2fcλ/P
なお、ここでいう集光点とは、最大強度の8割以上の強度を有する領域の重心位置のことである。そのため、本実施形態の照明光学系10は、完全な集光点が形成されるまで光束を集光する必要はない。
なお、ここでいう集光点とは、最大強度の8割以上の強度を有する領域の重心位置のことである。そのため、本実施形態の照明光学系10は、完全な集光点が形成されるまで光束を集光する必要はない。
以上の光束分岐部14において、並進機構15は、ピエゾモータ等からなる。並進機構15は、照明光学系10の光軸Oと垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の各々に対して非垂直な方向にかけて、回折格子16を並進移動させる。この方向に回折格子16を並進移動させると、構造化照明光の縞の位相がシフトする(詳細は後述。)。
次に、光束選択部18を詳しく説明する。
図3、図4は、光束選択部18を説明する図である。図3に示すとおり、光束選択部18の1/2波長板19は、入射した各次数の回折光束の偏光方向を設定し、図4に示すとおり、光束選択部18の光束選択部材20は、第1~第3回折光束群のうち何れか1群の±1次回折光束のみを選択的に通過させるマスクである。
そして、光束選択部18の不図示の回動機構は、光束選択部材20を光軸Oの周りに回動させることにより、選択される±1次回折光束を第1~第3回折光束群の間で切り替えると共に、光束選択部材20に連動して1/2波長板19を光軸Oの周りに回動させることにより、選択された±1次回折光束が標本2に入射するときの偏光方向をS偏光に保つ。
つまり、光束選択部18は、構造化照明光の縞の状態を保ちつつ、構造化照明光の縞方向を切り替える。以下、縞の状態を保つための条件を具体的に説明する。
先ず、1/2波長板19の速い軸(進相軸)の向きは、選択される±1次回折光束の分岐方向(第1方向V1~第3方向V3のいずれか)に対して、±1次回折光束の偏光方向が垂直となるように設定される必要がある。なお、ここでいう1/2波長板19の進相軸とは、その軸の方向に偏光した光が1/2波長板19を通過するときの位相遅延量が最小となるような方向のことである。
また、光束選択部材20の開口パターンは、同一の回折光束群に属する±1次回折光束の一方及び他方を個別に通過させる第1の開口部20A及び第2の開口部20Bからなり、これら第1の開口部20Aと第2の開口部20Bとの各々の光軸O周りの長さは、前述した方向に直線偏光した回折光束が通過できるような長さに設定されている。よって、第1の開口部20A及び第2の開口部20Bの各々の形状は、部分輪帯状に近い形状である。
ここで、図3(A)に示すように、1/2波長板19の進相軸の方向が偏光板13の軸の方向と平行になるときの1/2波長板19の回転位置を、1/2波長板19の回転位置の基準とする(以下、「第1の基準位置」と称する。)。
また、光束選択部材20の光束選択方向(=選択される±1次回折光束の分岐方向)が、偏光板13の軸の方向と垂直になるときの光束選択部材20の回転位置を、光束選択部材20の回転位置の基準とする(以下、「第2の基準位置」と称する。)。
このとき、図3(B)に示すように、1/2波長板19の第1基準位置からの回転量は、光束選択部材20の第2基準位置からの回転量の2分の1に制御されるべきである。
すなわち、1/2波長板19の第1基準位置からの回転量がθ/2であるときには、光束選択部材20の第2基準位置からの回転量は、θに設定される。
したがって、光束選択部18の回動機構18Aは、第1回折光束群の±1次回折光束(分岐方向は第1方向V1)を選択するために、図4(A)に示すように、光束選択部材20の光束選択方向を第2の基準位置から右方に回転角θ1だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から右方に回転角θ1/2だけ回転させる。
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(A)中に破線両矢印で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、右方に回転角θ1だけ回転するので、選択された±1次回折光束の偏光方向は、図4(A)に実線両矢印で示すとおり、それら±1次回折光束の分岐方向(第1方向V1)に対して垂直となる。
また、光束選択部18の回動機構18Aは、第2回折光束群の±1次回折光束(分岐方向は第2方向V2)を選択するために、図4(B)に示すように、光束選択部材20の光束選択方向を第2の基準位置から右方に回転角θ2だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から右方に回転角θ2/2だけ回転させる。
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(B)中に破線両矢線で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、右方に回転角θ2だけ回転するので、選択された±1次回折光束の偏光方向は、図4(B)に実線両矢印で示すとおり、それら±1次回折光束の分岐方向(第2方向V2)に対して垂直となる。
また、光束選択部18の回動機構18Aは、第3回折光束群の±1次回折光束(分岐方向は第3方向V3)を選択するために、図4(C)に示すように、光束選択部材20の光束選択方向を第2の基準位置から左方(標本側から見て。以下同じ)に回転角θ3だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から左方に回転角θ3/2だけ回転させる。
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(C)中に破線両矢線で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、左方に回転角θ3だけ回転するので、選択された±1次回折光束の偏光方向は、図4(C)に実両矢印で示すとおり、それら±1次回折光束の分岐方向(第3方向V3)に対して垂直となる。
換言すると、1/2波長板19の進相軸の方向は、光束選択部材20により選択される±1次回折光束の分岐方向に応じた方向であって、1/2波長板19へ入射する±1次回折光束が有していた偏光方向(偏光板13の軸方向)と、1/2波長板19から射出する±1次回折光束が有するべき偏光方向(分岐方向に垂直)とが成す角度の2等分線方向に、設定される。
したがって、光束選択部18の回動機構18Aは、1/2波長板19及び光束選択部材20をギア比2:1で連動すればよい。
なお、回動機構18Aには、例えば、光束選択部材20を保持し、かつ光軸Oの周りに回転可能な不図示の保持部材と、その保持部材の周りに形成された不図示の第1の歯車と、第1の歯車に噛み合う不図示の第2の歯車と、第2の歯車に連結された不図示のモータ(回転モータ)とが備えられる。このモータが駆動されると第2の歯車が回転し、その回転力が第1の歯車へと伝達され、光束選択部材20が光軸Oの周りに回転する。
図5は、以上説明した光束選択部18の機能を説明する図である。なお、図5において円形枠で囲まれた両矢線は、光束の偏光方向を示し、四角枠で囲まれた両矢線は、光学素子の軸方向を示している。
なお、以上の説明では、標本2に入射する±1次回折光束をS偏光に保つために回動可能な1/2波長板19を使用したが、回動可能な1/2波長板19の代わりに固定配置された液晶素子を使用し、その液晶素子を1/2波長板19として機能させてもよい。液晶素子の配向を電気的に制御すれば、液晶素子の屈折率異方性を制御することができるので、1/2波長板としての進相軸を光軸O周りに回転させることができる。因みに、標本2に入射する±1次回折光束をS偏光に保つための方法は他にもある。
また、図6に示すように、光束選択部材20の外周部には、複数の(図6に示す例では6個の)切り欠き20Cが形成されており、回動機構18Aには、これらの切り欠き20Cを検出するためのタイミングセンサ20Dが備えられている。これによって、回動機構18Aは、光束選択部18の回動位置、ひいては1/2波長板19の回動位置を検知することができる。
次に、光束分岐部14の並進機構15を詳しく説明する。
図7は、光束分岐部14の並進機構15の動作を説明する図である。
先ず、復調演算(詳細は後述)を可能とするためには、同一の標本2に関する変調画像であって、干渉縞の方向が共通で位相の異なる少なくとも2つの変調画像が必要である。なぜなら、構造化照明顕微鏡装置1が生成する変調画像には、標本2の構造のうち、構造化照明光により空間周波数の変調された構造情報である0次変調成分、+1次変調成分、-1次変調成分が重畳されており、互いに重畳した3つの未知パラメータを復調演算(詳細は後述)で既知とする必要がある。
そこで、光束分岐部14の並進機構15は、干渉縞の位相をシフトするために、図7(A)に示すように、照明光学系10の光軸Oと垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の全てに対して非垂直な方向(x方向)にかけて回折格子16をシフトさせる。
但し、干渉縞の位相を所望のシフト量φだけシフトさせるのに必要な回折格子16のシフト量Lは、光束選択部18による光束選択方向が第1方向V1であるときと、第2方向V2であるときと、第3方向V3であるときとでは、同じとは限らない。
図7(B)に示すとおり、回折格子16の第1方向V1、第2方向V2、第3方向V3の各々の構造周期(ピッチ)をPとおき、回折格子13のシフト方向(x方向)と第1方向V1とのなす角をθ1とおき、回折格子16のシフト方向(x方向)と第2方向V2とのなす角をθ2とおき、回折格子16のシフト方向(x方向)と第3方向V3とのなす角をθ3とおくと、光束選択方向が第1方向V1であるときに必要な回折格子16のx方向のシフト量L1は、L1=φ×P/(4π×|cosθ1|)で表され、光束選択方向が第2方向V2であるときに必要な回折格子16のx方向のシフト量L2は、L2=φ×P/(4π×|cosθ2|)で表され、光束選択方向が第3方向V3であるときに必要な回折格子16のx方向のシフト量L3は、L3=φ×P/(4π×|cosθ3|)で表される。
すなわち、干渉縞の位相シフト量を所望の値φとするために必要な回折格子16のx方向のシフト量Lは、波長選択方向(第1方向V1、第2方向V2、第3方向V3の何れか)とx方向とのなす角θにより式(1)のとおり表される。
L=φ×P/(a×4π×|cosθ|) …(1)
因みに、干渉縞の位相シフト量φを2πとするために必要な回折格子16のx方向のシフト量Lは、P/(a×2×|cosθ|)となる。これは、回折格子16の半周期に相当する量である。つまり、回折格子16を半周期分シフトさせるだけで、構造化照明光の位相を1周期分シフトできる(なぜなら、±1次回折光からなる干渉縞の縞ピッチは、回折格子16の構造周期の2倍に相当する。)。
因みに、干渉縞の位相シフト量φを2πとするために必要な回折格子16のx方向のシフト量Lは、P/(a×2×|cosθ|)となる。これは、回折格子16の半周期に相当する量である。つまり、回折格子16を半周期分シフトさせるだけで、構造化照明光の位相を1周期分シフトできる(なぜなら、±1次回折光からなる干渉縞の縞ピッチは、回折格子16の構造周期の2倍に相当する。)。
但し、a=1(M=1、2のとき)、a=2(M=3のとき)である。Mは、回折格子16が有する周期構造の方向数である。
[復調演算の説明]
以下、画像記憶・演算装置44による復調演算を説明する。
以下、画像記憶・演算装置44による復調演算を説明する。
上述した画像記憶・演算装置44は、演算用のプログラムを実行することで演算を行う計算機、演算処理を行う演算回路、或いは、両者の組み合わせによって構成される。また、計算機は、記憶媒体又は通信網経由で演算用のプログラムをインストールした汎用の計算機であってもよい。
以下、画像記憶・演算装置44による復調演算の基本手順を説明する。基本手順は、以下の4つのステップからなる。
第1ステップ:複数の変調画像の各々をフーリエ変換し、複数の空間周波数スペクトルを生成する。
第2ステップ:個々の空間周波数スペクトルに重畳されている、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分を、フーリエ空間上で互いに分離する。
第3ステップ:互いに分離された蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分を、フーリエ空間上で再配置することにより、復調画像の空間周波数スペクトルを生成する。
第4ステップ:復調画像の空間周波数スペクトルを逆フーリエ変換することにより、復調画像(=超解像画像)を取得する。
なお、これらステップの少なくとも2つは、1つの演算式によって一括で実行されてもよい。
[2D/3D切り替え]
以下、上述した構造化照明顕微鏡装置の2D/3D切り替えについて説明する。
以下、上述した構造化照明顕微鏡装置の2D/3D切り替えについて説明する。
上述した説明では、標本2へ投影する干渉縞を2光束干渉縞とした(すなわち、構造化照明顕微鏡装置1を2D-SIMモードで使用する例を説明した)が、標本2へ投影する干渉縞を3光束干渉縞とすること(すなわち、構造化照明顕微鏡装置1を3D-SIMモードで使用すること)も可能である。
この3D-SIMモードでは、図6に示した光束選択部材20の代わりに、図8に示すような光束選択部材20’が使用される。この光束選択部材20’は、図6に示した光束選択部材20において、0次回折光束を通過するための開口部20Eを設けたものである。なお、この開口部20Eの形成先は、光軸Oの近傍であって、この開口部20Eの形状は、例えば円形である。このような光束選択部材20’によると、±1次回折光束だけでなく0次回折光束をも干渉縞に寄与させることができる。
このように、3つの回折光束の干渉(3光束干渉)によって生成される干渉縞は、標本2の表面方向だけでなく、標本2の深さ方向にも空間変調されている。よって、この干渉縞によると、標本2の深さ方向にも超解像効果を得ることができる。
但し、2D-SIMモードと3D-SIMモードとの間では、画像記憶・演算装置44が実行すべき復調演算の内容が異なる。なぜなら、2D-SIMモードで生成される変調画像には、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分の3成分が重畳されているのに対して、3D-SIMモードで生成される変調画像には、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分、蛍光の+2次変調成分、蛍光の-2次変調成分の5成分が重畳されているからである。
また、2D-SIMモードと3D-SIMモードとの間では、変調画像に重畳する変調成分の数が異なるので、制御装置43が取得すべき変調画像のフレーム数なども異なる。以下、詳しく説明する。
[装置の補足]
なお、上述した装置では、干渉縞の位相をシフトさせるために回折格子をシフトさせたが、回折格子をシフトさせる代わりに、±1次回折光束の光路長差を変化させてもよい。その場合は、例えば、+1次回折光束の光路と-1次回折光束の光路との少なくとも一方に対して位相板を挿脱させてもよい。
なお、上述した装置では、干渉縞の位相をシフトさせるために回折格子をシフトさせたが、回折格子をシフトさせる代わりに、±1次回折光束の光路長差を変化させてもよい。その場合は、例えば、+1次回折光束の光路と-1次回折光束の光路との少なくとも一方に対して位相板を挿脱させてもよい。
但し、位相板の厚さと位相シフト量との関係は、使用波長によって異なるので、厚さの異なる複数の位相板をターレットに装着し、それらの位相板を使用波長に応じて選択的に光路へ挿入してもよい。
また、後述する無変調画像の撮像時には、偏光方向がどの方向に設定されても構わないし、撮像中に偏光方向が変化しても構わない。
また、上述した装置では、光源波長の数を1としたが、2以上に拡張してもよい。
また、上述した装置では、標本に入射する±1次回折光束をS偏光に保つために、光軸Oの周りを回動可能な1/2波長板を使用したが、固定配置された1/4波長板と光軸Oの周りを回動可能な1/4波長板とを使用してもよい。但し、その場合は、第1の基準位置を基準とした1/4波長板の回転位置は、第2の基準位置を基準とした光束選択部材の回転位置と同じに設定される。
また、上述した装置では、干渉縞(2D-SIMモードの2光束干渉縞又は3D-SIMモードの3光束干渉縞)を形成するための回折光として、±1次回折光及び0次回折光の組み合わせを用いたが、他の組み合わせを用いてもよい。3光束干渉縞を形成するためには、回折次数の間隔が等間隔な3つの回折光による3光束干渉を生起させればよいので、例えば、0次回折光、1次回折光、2次回折光の組み合わせ、±2次回折光及び0次回折光の組み合わせ、±3次回折光及び0次回折光の組み合わせ、などを用いることが可能である。
また、上述した装置の照明光学系10は、対物レンズ31による落射照明光学系で構成されたが、これに限られず、対物レンズ31に代えてコンデンサレンズによる透過・反射照明光学系で構成されてもよい。その場合、集光点が形成されるのは、コンデンサレンズの瞳面である。
[第1.1節(2D-SIMの前提)]
本節では、2D-SIMの前提を説明する。
本節では、2D-SIMの前提を説明する。
ここでは、2D-SIMモードにおける干渉縞強度分布を、以下のとおり定義する。
標本の蛍光物質密度をI0(x)とし、標本面上の干渉縞強度分布をK(x)とおく。また、標本で発生する蛍光が照明強度に比例すると仮定する。この場合、蛍光強度分布Ifl(x) は、以下のとおり表される。
また、標本の各点で発生した蛍光はインコヒーレントなので、この蛍光強度分布Ifl(x)を対物レンズで捉えた像、すなわち、変調画像I(x)は、インコヒーレント結像の式により、以下のとおり表される。
以下、各関数のFourier 変換を以下のとおり表す。
この場合、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
OTFは|ξ|>2NAでゼロとなるので、変調画像の空間周波数スペクトルも|ξ|>2NAでゼロとなる。なお、ここでは、以下の関係を用いた。
また、フーリエ空間上の蛍光強度分布は、以下のとおり表される。
以下、復調演算の説明に必要の無い係数を無視する。
[第1.2節(従来の2D-SIM)]
本節では、比較のため、従来の2D-SIMの復調演算を説明する。
本節では、比較のため、従来の2D-SIMの復調演算を説明する。
先ず、2D-SIMの干渉縞強度分布は、以下のとおり表される(縞は正弦波状の強度分布を有する)。
但し、ξ0は、干渉縞の空間周波数(変調周波数)である。
よって、フーリエ空間上の干渉縞強度は、以下のとおり表される。
なお、ξは、フーリエ空間上の座標である。
この式1.6と、式1.3、式1.4とによると、フーリエ空間上の変調画像は、以下のとおり表されることがわかる。
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、干渉縞の位相がφiであるときに取得された変調画像には、対応する添字「φi」を付す。
ここで、前述したとおり、2D-SIMで取得される変調画像のスペクトルの観測点ξには、蛍光の-1次変調成分、蛍光の+1次変調成分、蛍光の0次変調成分の3成分が重畳している。式1.7の右辺における3つの項がこれらの各変調成分に対応する。つまり、正弦波の強度分布を有する縞で標本(蛍光)を空間変調したので、変調画像のスペクトルは、蛍光の3つの変調成分(0次変調成分、±1次変調成分)で表現することができる。観測点ξに重畳された+1次変調成分は、復調画像のスペクトルにおける復元点(ξ-ξ0)が有するべき値(復元値)であり、観測点ξに重畳された-1次変調成分は、復調画像のスペクトルにおける復元点(ξ+ξ0)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。このことは、変調画像のスペクトルの各観測点について当てはまる。図9における大きな1つの黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな2つの黒点は、その観測点から復元される3つの復元点に対応している。
そこで、従来の2D-SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された3つの変調成分を互いに分離するために、縞の位相の異なる3つの変調画像を取得し、それらの変調画像の各々のスペクトルを生成し、それらのスペクトルを3つの式(以下の式1.8、式1.9、式1.10)へ当てはめることで、3つの方程式を取得していた。従来は、この3つの方程式を解くことで、図9における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
因みに、簡単のため、τ=OTF(ξ) と書くと、式1.8、式1.9、式1.10は、以下のとおりに書き換えることができる。
なお、この式の行列(以下、Mとおく)の行列式がゼロでなければ、3つの変調画像のスペクトルにおける或る観測点の3つの観測値(左辺)から、その観測点に対応する3つの復元点の復元値(右辺)を求めることができる。
ここで、従来の2D-SIMにおける縞の空間周波数(変調周波数)ξ0は、|ξ0|<2NAが成り立つように設定され、通常解像領域|ξ|<2NAから得られる観測値によって、|ξ±ξ0|>2NAとなる復元点の復元値を求めることができる。よって、従来の2D-SIMでは、通常解像領域外(超解像領域)の復元値を復元すること、つまり復調画像として超解像画像を得ることができる。
なお、上記の行列Mは、ξに依存しない。すなわち、フーリエ空間上の座標(=空間周波数)に依存しない。そこで、位相φiをパラメータとして行列Mの条件数をプロットすると、図10 のとおりとなった。
図10は、行列Mの条件数の逆数の分布である。但し、ここでは、第1の変調画像の位相φ1=0°とおき、第2の変調画像の位相φ2及び第3の変調画像の位相φ3を変数とした。図10の横軸がφ2であり、図10の縦軸がφ3である。
図10からは、φ2=120°、φ3=240°のとき、条件数の逆数が最大値0.5となり、最も条件が良いことがわかる。このため、従来の2D-SIMでは、3フレーム間の位相差を、120°に設定することが一般的であった。
[第1.3節(2D-SIMの2画像2点復元)]
本節では、本実施形態の2D-SIMの復調演算として、「2画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、本実施形態の2D-SIMの復調演算として、「2画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、2D-SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)には、互いに値の共通する変調成分が重畳されていることに着目する。
具体的には、観測点ξに重畳した蛍光の-1次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ0)の復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、何れも復元点ξの復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ0)には、互いに共通する2つの復元点ξ、(ξ+ξ0)の復元値が含まれている。本節の2画像2点復元では、この関係を利用する。以下、具体的に説明する。
先ず、干渉縞強度分布を従来の2D-SIMと同様に仮定すると、対物レンズのNAにより、変調画像のスペクトルの観測範囲は、|ξ|<2NAで表される。
本節の縞の空間周波数(変調周波数)ξ0は、|ξ0|<2NAが成り立つように設定される。なお、縞の空間周波数(変調周波数)ξ0は回折格子16の格子ピッチ(標本上に形成される縞ピッチ)により設定される。
この場合、1枚の変調画像のスペクトルから、ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)の観測値を得ることができる。ただし、(ξ+ξ0)の観測値を得ることができるのは、ξが|ξ+ξ0|<2NAを満たす範囲に限られる。
ここで、1枚の変調画像のスペクトルにおける、観測点ξの観測値と、観測点(ξ+ξ0)の観測値とは、以下の式で表される。
これらの式1.12、式1.13の右辺には、4つの復元点の復元値(未知数)が登場している。これら4つの復元値を既知とするためには、更に2つの式が必要である。
そこで、本節では、互いに位相φの異なる2枚の変調画像の各々のスペクトルを生成し、それら2つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ0)に関する合計4つの観測値を参照し、それら4つの観測値を、式1.12、式1.13へ当てはめることにより、4つの復元値(未知数)を含んだ合計4つの式を取得する。
ここで、簡単のため、τ1 =OTF(ξ)、τ2=OTF(ξ+ξ0)とおき、第1の変調画像の位相φをφ1とおき、第2の変調画像の位相φをφ2とおくと、4つの式は、次のような行列で表わされる。
よって、本節では、この行列(以下Mとおく)の行列式がゼロでなければ、2枚の変調画像のスペクトルにおける4つの観測値(左辺)から、4つの復元値(右辺)を求めることができる。
ここで、図11における2つの円枠のうち、内側の円枠は、通常解像範囲の外縁(|ξ|=2NA)である。また、外側の円枠は、超解像範囲の外縁(|ξ|=4NA)である。
図11における2つの大きな黒点は、縞の空間周波数(変調周波数)ξ0の分だけずれた或る2つの観測点を示しており、図11における2つの大きな黒点及び2つの小さな黒点は、それら2つの観測点から復元される4つの復元点を示している。
本節では、干渉縞の位相の異なる2枚分の変調画像のスペクトルが取得されるので、それら2つのスペクトルの各々における2つの観測点から、合計4つの観測値が取得される。そして、これら4つの観測値を上述した式1.14へ当てはめることで、4つの復元点の各々の復元値を求める。
そして、本節では、2つの観測点を通常解像範囲内で移動させながら、4つの復元値の算出を繰り返すことで、図11における塗りつぶし領域全域の復元値を求める。
したがって、本節では、取得される変調画像の枚数(生成されるスペクトルの数)が2のみであるにも拘わらず、通常解像範囲の少なくとも一部の復元値と、超解像範囲の少なくとも一部の復元値とを求めることができる。
[第1.3.1節(復元可能条件)]
本節では、第1.3節の復調演算に必要な条件を説明する。
本節では、第1.3節の復調演算に必要な条件を説明する。
上述した式1.14が一意的な解を持つためには、行列Mの行列式がゼロ以外の値をとればよい。ここで、行列Mの行列式は、以下のとおり表される。
したがって、第1の変調画像の位相φ1と、第2の変調画像の位相φ2との位相差Δφが、Δφ≠0でありさえすれば、detM≠0となり、式1.14は一意的な解を持つ。以上の結果、第1.3節の復調演算に必要な条件は、Δφ≠0であることがわかる。
[第1.3.4節(Δφ=πの特徴)]
本節では、Δφ=πの特徴を説明する。
本節では、Δφ=πの特徴を説明する。
Δφ=πのときには、以下の式が成り立つ。
この場合、
に掛かる位相が等しくなるので、I0(ξ)については簡単に解けて、
となる。したがって、Δφ=πとすれば、通常解像領域において復元できない領域を無くすことができる。
図12(A)の塗りつぶし領域は、Δφ≠πのときに復元可能な範囲であるのに対して、図12(B)の塗りつぶし領域は、Δφ=πのときに復元可能な範囲である(何れも、|ξ0|=2NAの場合。)。図12における2つの円のうち、内側の円は、通常解像範囲の外縁(|ξ|=2NA)であり、外側の円は、超解像範囲の外縁(|ξ|=4NA)である。
なお、ここでは干渉縞の方向数を1と仮定したが、干渉縞の方向数を3とし、各方向について第1.3節と同様の復調演算を適用したならば、図13に示すような広い領域を復元することができる。
[第1.4節(2D-SIMのTwo-pass 復元)]
本節では、本実施形態の2D-SIMの復調演算として、「Two-pass 復元」を説明する。Two-pass 復元では、干渉縞の方向数は2に設定される。
本節では、本実施形態の2D-SIMの復調演算として、「Two-pass 復元」を説明する。Two-pass 復元では、干渉縞の方向数は2に設定される。
以下、互いに方向及び周期(ピッチ)の異なる複数の干渉縞を区別するために、個々の干渉縞を波数ベクトルで表す。この波数ベクトルの大きさは、干渉縞の空間周波数の大きさを示し、波数ベクトルの方向は、干渉縞の方向を示す。
本節では、以下の4つのステップが実行される。
第1ステップ:波数ベクトルがξ0であり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図14(A)に示す領域の復元値を求める。
第2ステップ:波数ベクトルがξ1であり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図14(B)に示す領域の復元値を求める。
第3ステップ:以上のステップで求めた復元値と、以下の式とに基づき、図15(A)に示す領域の復元値を求める。
すなわち、以上のステップで求めた復元値、すなわち、
を式1.26へ当てはめることで、図15(A)に示す領域の復元値を求める。なお、式1.26は、式1.24と式1.25とを、
について解いた式である。
ただし、本ステップを可能とするために、少なくとも第2ステップでは、Δφ≠πn(n は整数)とする。
第4ステップ:第2ステップで求めた通常解像範囲の復元値(=図14(B)の塗りつぶし領域のうち|ξ|<2NAの部分)に基づき同様に、図15(B)に示す領域の復元値を求める。
ただし、本ステップを可能とするために、第1ステップでは、Δφ≠πn(n は整数)とする。
第1ステップと第3ステップをまとめて、図16(B)のように表すこともできる。すなわち、図16(B)の横線において横方向に連なる4つの黒点は、第1ステップで解く式1.14と同等の連立方程式から求まる4つの復元値(未知数)のフーリエ空間(波数空間)における位置を表している。
図16(B)にある2本の縦線の各々において、縦方向に連なる3つの黒点のうち、中央の大きい黒点は、第1ステップの式から求まる1つの既知数のフーリエ空間(波数空間)における位置を示しており、両端の小さな黒点は、第3ステップで解く連立方程式1.26の2つの復元値(未知数)のフーリエ空間(波数空間)における位置を示している。
これらの8つの黒点の相互の位置関係は、どの例を選んでも同一である。フーリエ空間(波数空間)において黒点の取りうる位置の範囲は、フーリエ空間(波数空間)において2つの大きな黒点(中央)の取りうる位置の範囲によって制限される。2つの大きな黒点が取りうる位置の範囲は|ξ|<2NAであるので、第1ステップ及び第3ステップの計算によって求めることができる復元値(未知数)の位置の範囲は、図16(B)の塗りつぶし領域の範囲となる。
なお、図16(A)は、第2ステップ及び第4ステップを、図16(B)と同様に示したものである。
したがって、本節では、図17に示す塗りつぶし領域の全域を復元することができる。
[第1.5節(2D-SIMの超解像の例)]
本節では、前節までの結果を踏まえ、超解像の例を2つ説明する。
本節では、前節までの結果を踏まえ、超解像の例を2つ説明する。
先ず、第1の例では、変調画像の枚数(スペクトルの数)を抑えることを重視し、Two-pass 復元を行う。そのために、第1の例では、波数ベクトルの方向数を2とし、互いに異なる2つの波数ベクトルξ1、ξ2の各々で、位相の異なる2枚の変調画像を取得し(合計4枚の変調画像を取得し)、それら4枚の変調画像の各々のスペクトルを生成する(合計4つのスペクトルを生成する)。そして、Two-pass 復元を可能とするため、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ≠πに設定する。また、波数ベクトルの大きさ|ξi|を、|ξi|=2NAに設定する(i=1、2)。この場合、図17に示す塗りつぶし領域が復元される。
次に、第2の例では、演算精度を重視し、Two-pass 復元ではなく「2画像2点復元」を行う。そのために、第2の例では、波数ベクトルの方向数を3とし、互いに異なる3つの波数ベクトルξ1、ξ2、ξ3の各々で、位相の異なる2枚の変調画像を取得し(合計6枚の変調画像を取得し)、それら6枚の変調画像の各々のスペクトルを生成する(合計6つのスペクトルを生成する)。そして、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πとする。また、復元領域に隙間が生じるのを避けるために、|ξi|を2NAより意図的に小さくする。具体的には、復元領域に隙間が生じない範囲内で|ξi|を最大にするために、波数ベクトルの大きさ|ξi|を、|ξi| =(√3)×NAに設定する(i=1、2)。この場合、図18に示す領域が復元される。
[第1.6節(2D-SIMの4画像3点復元)]
本節では、本実施形態の2D-SIMの復調演算として、2D-SIMの「4画像3点復元」を説明する。
本節では、本実施形態の2D-SIMの復調演算として、2D-SIMの「4画像3点復元」を説明する。
本節では、波数ベクトルの方向数を3とする(3つの波数ベクトルξ1、ξ2、ξ3の各々で変調画像を取得し、それら変調画像の各々のスペクトルを生成する。)。
また、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)に設定する。
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ1)では、位相数を2とする(縞方向が同じであり位相の異なる2枚の変調画像I(0)、I(1)を得る)が、他の2つの方向(波数ベクトルξ2、ξ3)の各々では、位相数を1に抑える(縞方向の異なる2枚の変調画像I(2)、I(3)を得る)。
また、縞方向が同じである2枚の変調画像間の位相差Δφは、Δφ=πに設定する。
また、本節では、個々の波数ベクトルの大きさを、|ξi| =2NAに設定する(i=1、2、3)。
このとき、4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々の干渉縞強度分布は、
と表される。
ここで、これら4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおいて、3つの波数ベクトルξ1、ξ2、ξ3が描く三角形を想定し、その三角形の頂点(大きな黒点)に位置する3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)に着目する。
本節で取得した4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおける3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)からは、合計12個の観測値が得られるので、それら12個の観測値に対応する式1.7相当の式を、12個分、取得することができる。本節では、これら12式からなる連立方程式を解くために、以下の条件が必要となる。
図19は、計算の図解である。ただし、|ξ1|=|ξ2|、ξ1・ξ2=|ξ1||ξ2|/2とした。
図19(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3によって描かれる三角形の頂点に位置する3つの観測点を示しており、図19(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返すことで、図19(A)に示す塗りつぶし領域全域の復元値を求める。
なお、図19(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図19(A)の復元と、図19(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図20に示した塗りつぶし領域の全域を復元する。
図20は、図19(A)に示した復元領域と、図19(B)に示した復元領域と合成したものである。
以下、本節で述べた12式から成る連立方程式を解く計算の一例を詳しく説明する。
図21は、本節の計算を3つのステップに分けて説明した図である。
図21(A)は、第1ステップで復元される4つの復元点1~4を示している。
図21(B)は、第2ステップで復元される4つの復元点5~8を示している。
図21(C)は、第3ステップで復元される4つの復元点9~12を示している
図21(D)は、図中の番号1~12と復元値との対応関係を示している。
図21(D)は、図中の番号1~12と復元値との対応関係を示している。
第1ステップ:波数ベクトルξ1の方向に間隔|ξ1|で並ぶ2つの観測点1、2に関する4つの観測値を、2画像2点復元の式へ当てはめることにより、復元点1、2、3、4の各々の復元値を求める。
第2ステップ:復元点1、2の各々の復元値を使用して、それら復元点1、2から波数ベクトルξ2、ξ3の分だけずれた4つの復元点5、6、7、8 の各々の復元値を求める。この際に使用される式は、波数ベクトルξ1の方向に関する2つの式(2位相分)と、波数ベクトルξ2の方向に関する1つの式と、波数ベクトルξ3の方向に関する1つの式と、の合計4つの式である。
第3ステップ:復元点1、2、5の各々の復元値を使用して、それら復元点1、2、5から波数ベクトルξ2、ξ3の分だけずれた残りの復元点9、10、11、12の各々の復元値を求める。この際に使用される式は、波数ベクトルξ2の方向に関する2つの式(観測点2つ分)と、波数ベクトルξ3の方向に関する2つの式(観測点2つ分)と、の合計4つの式である。
もちろん、本節で述べた12式から成る連立方程式の解法は、上記の手順に限られるものではない。
[第1.7節(2D-SIMの4画像3点復元の変形例)]
本節では、4画像3点復元の変形例を説明する。
本節では、4画像3点復元の変形例を説明する。
本節では、3つの方向の全ての位相数を1に抑え、その代わりに、1枚の無変調画像を取得し、その無変調画像のスペクトルを生成する。
無変調画像は、K(0)=1で取得された画像のことであって、例えば上述した回折格子16及び光束選択部18を光路から外した状態で取得することができる。また、無変調画像のスペクトルは、その無変調画像をフーリエ変換したものである。
上記したとおり本節において変調画像の枚数(変調画像のスペクトルの数)は3、無変調画像の枚数(無変調画像のスペクトルの数)は1であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式(変調画像のスペクトルに関する式1.7を9つと、無変調画像のスペクトルに関する式1.53を3つと)を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
なお、本節では、以下の条件が必要となる。
[第1.9節(2D-SIMの同時3方向4画像3点復元)]
本節では、4画像3点復元の変形例として、「同時3方向4画像3点復元」を説明する。
本節では、4画像3点復元の変形例として、「同時3方向4画像3点復元」を説明する。
先ず、本節では、標本へ投影する干渉縞は、以下のとおり方向の異なる3つの干渉縞の足しあわせ(3方向干渉縞)とされる。なお、3方向干渉縞の投影方法は後述する。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を同時に有する3方向干渉縞を採用し、この3方向干渉縞で、位相の互いに異なる4枚の変調画像を取得し、それら4枚の変調画像の各々のスペクトルを生成する。
ただし、|ξi|≦2NAとし(i=1、2、3)、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)とする。
また、3方向干渉縞の振幅を規定するaの値は、以下の式を満たすように選択されるものとする。
先ず、本節で取得された或る1枚の変調画像のスペクトルにおける或る観測点ξには、復調画像のスペクトルにおける復元点ξに与えるべき復元値と、復調画像のスペクトルにおける復元点(ξ±ξi)に与えるべき復元値(i=1、2、3)と、の合計7つの復元点の復元値が重畳されている。
言い換えると、変調画像のスペクトルにおける或る観測点ξには、蛍光の0次変調成分と、波数ベクトルξ1による蛍光の±1次変調成分と、波数ベクトルξ2による蛍光の±1次変調成分と、波数ベクトルξ3による蛍光の±1次変調成分と、の合計7成分が重畳されている。
ここで、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3が描く三角形を想定し、その三角形の頂点に位置する3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)に着目する。
これら3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)の全体には、12個の復元点の復元値が含まれている。
図22は、その図解である。ただし、|ξ1|=|ξ2|、ξ1・ξ2=|ξ1||ξ2|/2とした。
図22(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3によって描かれる三角形の頂点に位置する3つの観測点を示しており、図22(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことにより、12個の復元点の復元値が個別に求まる。
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返せば、図22(A)に示す塗りつぶし領域全域の復元値を求める。
なお、図22(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図22(A)の復元と、図22(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図20に示した塗りつぶし領域と同じ領域を復元する。
ここで、4枚の変調画像I(1)、I(2)、I(3)、I(4)の各々に反映されている3方向干渉縞の位相(3成分からなる)は、例えば、
すなわち、4枚の変調画像I(1)、I(2)、I(3)、I(4)の各々における干渉縞強度分布は、以下のとおり。
因みに、4枚の変調画像における干渉縞強度分布の和は、以下の通りである。
つまり、このような干渉強度分布及び位相の組み合わせの下で4枚の変調画像を取得したならば、標本の各部が互いに等しい光量で照明されることになる。4枚の変調画像間で、3方向干渉縞のパターンは共通、かつ、パターンの位置のみがシフトした関係になっている。よって、次の関係が成り立つ。
ただし、a1、a2は、干渉縞の周期構造を結晶格子に見立てたときの格子の基本ベクトルであって、逆格子ベクトル(波数ベクトル)kiを、k1=(2π/λ)ξ1、k2=(2π/λ)ξ2、k3=eZとおくと(eZ:z方向の単位ベクトル)、以下の式で与えられる。
図23は、3方向干渉縞の格子構造と、格子の基本ベクトルa1、a2との関係を示す図である。
図24は、4枚の変調画像の間における干渉縞強度分布の関係を示す図である。
図24に示すとおり、4枚の変調画像の間では、格子パターンが互いに重ならないように平行移動している。また、その移動量の単位は、格子の基本ベクトルの半分となっている。
[第1.9.2節(3方向干渉縞の投影方法)]
ここで、3方向干渉縞の投影方法を説明する。
ここで、3方向干渉縞の投影方法を説明する。
3方向干渉縞を上述した構造化照明顕微鏡装置1で生起させる際には、他の干渉縞(1方向干渉縞)を生起させる場合と同様、上述した回折格子16(図2(A))を使用することができる。
但し、光束選択部材20の開口パターンは、回折格子16において生成する3群の回折光のうち、各群の0次回折光と各群の2次以降の高次回折光と各群の+1次回折光とをカットし、かつ、各群の-1次回折光のみを透過するように設定される。これによって、瞳面上に形成される集光点は、3つの-1次回折光による集光点のみとなる。図25(A)は、光束選択部材20によって余分な回折光がカットされなかった場合の集光点の配置を示しており、図25(B)は、光束選択部材20によって余分な回折光がカットされた場合の集光点の配置を示している。この場合、120°ずつずれた位置に3つの集光点が形成される。これら3つの集光点から射出した3つの回折光(ここでは3つの-1次回折光)は、3方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。なお、ここでは、干渉縞に寄与する回折光を3つの-1次回折光としたが、3つの+1次回折光としてもよいことは言うまでもない。
但し、この場合、3方向干渉縞として、3通りの2光束干渉縞の重ね合わせではなく、3光束干渉縞が生起してしまうので、超解像効果が低くなってしまう。また、±1次回折光の一方をカットするので、レーザ光の利用効率が低くなってしまう。
そこで、次のとおりにしてもよい。すなわち、独立した3つのレーザ光源A、B、Cを用意し、レーザ光源Aから射出したレーザ光、レーザ光源Bから射出したレーザ光、レーザ光源Cから射出したレーザ光の各々を、2分岐ファイバで分岐し、6つの点光源a、a’、b、b’、c、c’を形成する。なお、点光源a、a’は、レーザ光源Aから生成された可干渉な光源であり、点光源b、b’は、レーザ光源Bから生成された可干渉な光源であり、点光源c、c’は、レーザ光源Cから生成された可干渉な光源である。そして、ファイバを適切に配線することにより、それら6つの点光源a、a’、b、b’、c、c’を、図26に示すような位置関係で瞳共役面へ配置する。つまり、点光源a、a’の配列方向と、点光源b、b’の配列方向と、点光源c、c’の配列方向とは、120°ずつ異なる互いに異なる方向に設定される。これら6つの点光源から射出した6つのレーザ光は、6方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。
ここで、点光源a、a’から射出したレーザ光La、La’と、点光源b、b’から射出したレーザ光Lb、Lb’と 、点光源c、c’から射出したレーザ光Lc、Lc’とは、互いに干渉しない。したがって、標本上に形成される干渉縞は、3通りの2光束干渉縞の重ね合わせとなる。よって、超解像効果が低くなることはなく、レーザ光の利用効率も高い。
なお、このように、光の分岐手段として回折格子16の代わりに2分岐ファイバが使用された場合は、3方向干渉縞の位相(3成分からなる)を変化させるために、回折格子16を並進移動させる代わりに、レーザ光La、a’の位相差と、レーザ光Lb、Lb’の位相差と、レーザ光Lc、Lcの位相差とをそれぞれ変化させればよい。
[第2.1節(3D-SIMの前提)]
本節では、3D-SIMの復調演算の前提を説明する。
本節では、3D-SIMの復調演算の前提を説明する。
ここでは、3D-SIMにおける干渉縞強度分布を、以下のとおり仮定する。
3光束干渉の波長をλとおくと、3D-SIMにおける干渉縞強度分布K(r) は、以下のとおり表される。
ただし、k0= 2π/λ、j=-1、0、+1として、ベクトルkjを以下の通り定義する。
ここで、ξ0・eZ=0とした。
簡単のため、a0=1、a+=a=|a|eiφ、a-=a*=|a|e-iφと仮定すると、
となるので、干渉縞強度分布Kは、以下のとおり表される。縞は、正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)と、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)とが重畳したものからなる。
ここで、ζ0=√[1-ξ0
2]-1とおくと、
と表せる。これを、zに依存する成分とxに依存する成分とに分離して、
とおく。ただし、
となる。ただし、J-1=J1
*、J-2=J2
*とする。
さて、標本の蛍光物質密度をI0(x)とし、以上の干渉縞強度分布Kの干渉縞を標本へ投影したときに、標本の蛍光強度分布は、I0(r)K(r)で表されると仮定し、標本の各点で発生した蛍光は他の点の蛍光物質を励起しないという近似(Born 近似)を採用する。
このとき、3D-SIMモードで取得される変調画像I(x、z)は、次のように表される。
すなわち、
ここで、干渉縞のz方向(光軸O方向)の起点を、観測点のz座標(z’)が常に中心となるように設定したならば、
3次元OTFを、
とおくと、
そして、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
これを書き下すと、以下のとおりとなる。
ただし、第一項の係数が1 となるように、
とした。なお、a、b、cは、3D-SIMの干渉縞に寄与する3光束(±1次回折光及び0次回折光)の強度バランスによって決まる値である。
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、以下では、この式に現れるφを「位相」と称す。
[第2.2節(従来の3D-SIM)]
本節では、比較のため、従来の3D-SIMの復調演算を説明する。
本節では、比較のため、従来の3D-SIMの復調演算を説明する。
先ず、3D-SIMモードで取得される変調画像のスペクトルにおける観測点ξには、蛍光の-1次変調成分、蛍光の+1次変調成分、蛍光の+2次変調成分、蛍光の+2次変調成分、蛍光の0次変調成分の5成分が重畳されている。観測点ξに重畳された±1次変調成分は、復調画像のスペクトルにおける復元点(ξ±ξ0)が有するべき値(復元値)であり、観測点ξに重畳された±2次変調成分は、復調画像のスペクトルにおける復元点(ξ±2ξ0)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。
つまり、観測点ξに重畳された±1次変調成分は、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)によって変調された成分であり、観測点ξに重畳された±2次変調成分は正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)によって変調された成分である。
このことは、変調画像のスペクトルの各観測点について当てはまる。図27における大きな黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな4つの黒点は、その観測点から復元される5つの復元点に対応している。
つまり、観測点ξに重畳された±1次変調成分は、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)によって変調された成分であり、観測点ξに重畳された±2次変調成分は正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)によって変調された成分である。
このことは、変調画像のスペクトルの各観測点について当てはまる。図27における大きな黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな4つの黒点は、その観測点から復元される5つの復元点に対応している。
そこで、従来の3D-SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された5つの変調成分を互いに分離するために、位相の異なる5枚の変調画像を取得し、それらの変調画像の各々のスペクトルを生成していた。従来は、これらのスペクトルが満たす5つの方程式を連立させて解くことで、図27における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
[第2.4節(3D-SIMの9画像2点復元)]
本節では、本実施形態の3D-SIMの復調演算として、「9画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、本実施形態の3D-SIMの復調演算として、「9画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、3D-SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)には、互いに値の共通する変調成分が重畳されていることに着目する。
具体的には、観測点ξに重畳した蛍光の-1次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ0)の復元値に相当し、観測点ξに重畳した蛍光の-2次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の-1変調成分とは、何れも復元点(ξ+2ξ0)の復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、復元点ξの復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+2次変調成分と、観測点ξに重畳した蛍光の1次変調成分とは、何れも(ξ-ξ0)の復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ0)には、互いに共通する4つの復元点(ξ-ξ0)、ξ、(ξ+ξ0)、(ξ+2ξ0)の復元値が含まれている。
本節の9画像2点復元では、この関係を利用する。以下、具体的に説明する。
1枚の変調画像のスペクトルにおいて、観測点ξの観測値と、観測点(ξ+ξ0)の観測値とは、以下の式で表される。
そこで、本節では、同一の波数ベクトルξ0で互いに位相φの異なる3枚の変調画像を取得し、それら3枚の変調画像の各々のスペクトルを生成し、それら3つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ0)に関する合計6個の観測値を参照し、それら6つの観測値を、これらの式へ当てはめることにより、6個の復元値(未知数)を含んだ合計6個の式を取得する。
図28は、本節の3D-SIMの復調画像の周波数域を示す図である。図28(A)はxy断面、図28(B)は、zx断面である。
図28における大きな黒点は、ξ0だけずれた或る2つの観測点ξ、(ξ+ξ0)を示しており、図28における2つの大きな黒点及び4つの小さな黒点は、それらの観測点ξ、(ξ+ξ0)から復元される復元点(合計6つの復元点)を示している。
以上の説明は、或る波数ベクトル(1方向)に関する復元の説明である。
よって、本節では、互いに方向の異なる3つの波数ベクトルの各々で位相の異なる3枚の変調画像を取得し、それら変調画像の各々のスペクトルを生成し、それらのスペクトルに対して方向毎に上記と同様の復元処理を施す。これによって、周波数範囲の広い復調画像を得ることができる。
なお、本節では、同一の波数ベクトルで取得される3枚の変調画像間の位相差Δφは、2π/3に設定されることが望ましい。
[第2.5節(3D-SIMの7画像3点復元)]
本節では、3D-SIMの7画像3点復元を説明する。本節は、無変調画像のスペクトルを利用した第1.7節を3D-SIMに応用したものである。
本節では、3D-SIMの7画像3点復元を説明する。本節は、無変調画像のスペクトルを利用した第1.7節を3D-SIMに応用したものである。
先ず、本節では、方向数(波数ベクトルの数)を3とする。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)にし、かつ、1枚の無変調画像を取得する代わりに、3つの方向の各々の位相数を、1ずつ抑える(2ずつとする。)。
また、本節では、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定する。
また、ここでは3つの波数ベクトルの番号をk(k=1、2、3) とおき、k番目の波数ベクトルで取得された、互いに位相の異なる2枚の変調画像を、以下の通り表す。
また、無変調画像を、I(0)と表す。
式2.23より、以下の式が成り立つ。
ただし、±1次変調成分と±2次変調成分とをそれぞれまとめて、次のように表した。
また、τ0=OTF0(ξ,ζ)、τ0’=OTF1(ξ,ζ)とおいた。
ここで、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定したので、式2.35より、以下の式が成り立つ。
よって、式2.34より、以下の式が得られる。
なお、簡単のため、右辺では添字φkを省略した。
また、0次変調成分(通常解像成分)は、次のように表せる。
以上の式2.39、式2.40、式2.41をまとめて行列で書くと、以下のとおりである。
そこで、本節では、先ず、7枚分の変調画像の各々のスペクトルにおける観測点ξに関する7つの観測値を式2.42へ当てはめることで、式2.42の右辺における7つの復元値、すなわち以下の復元値(±1次変調成分と±2次変調成分および0次変調成分)をそれぞれ求める。
ここからの先の計算は、第1.7節の計算と同様である。すなわち、スペクトル
において、3つの波数ベクトルξk(k=1,2,3)の分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+1次変調成分と-1次変調成分とを分離することができる。
また、スペクトル
において、3つの波数ベクトルの2倍分2ξk(k=1,2,3)だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+2次変調成分と-2次変調成分とを分離することができる。
[第2.6節(3D-SIMの12画像3点復元)]
本節では、画像の枚数(スペクトルの数)の削減よりも演算精度の維持を目的として、方向数(波数ベクトルの数)を3とし、各方向の位相数を4とすることで、合計12枚の変調画像を取得する(合計12個のスペクトルを生成する)。
本節では、画像の枚数(スペクトルの数)の削減よりも演算精度の維持を目的として、方向数(波数ベクトルの数)を3とし、各方向の位相数を4とすることで、合計12枚の変調画像を取得する(合計12個のスペクトルを生成する)。
また、本節では、同一の波数ベクトルで取得される4枚の変調画像間の位相差Δφを、Δφ=π/2に設定する。
また、ここでは方向番号をk(k=1、2、3) とおき、位相番号をl(l=0、1、2、3)とおく。
先ず、±1次変調成分は、式2.35より、
また、±2次変調成分は、式2.36より、
と表される。そして、
が成り立つ。
よって、本節の復調演算を行列で書くと、
となる。
したがって、本節では、12枚の変調画像のスペクトル(12のスペクトル)の観測値をこの式へ当てはめることにより、0次変調成分と±1次変調成分とを分離する。
そして、残る±2次変調成分については、第1.7節と同様の手順で分離する。
このように、本節では、第2.5節の手順を踏まずに±1次変調成分を分離することができるので、高いセクショニング効果が期待できる。
[第2.7節(3D-SIMの8画像3点復元)]
なお、上述した第1.6節を以下の通り3D-SIMに応用してもよい。
なお、上述した第1.6節を以下の通り3D-SIMに応用してもよい。
本節では、方向数(波数ベクトルの数)を3とする。
また、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)に設定する。
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ1)については、位相数を4とするが、他の2つの方向の各々の位相数を2に抑える。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)にする代わりに、2つの方向の各々の変調画像数を、1ずつ抑える。よって、変調画像の合計数(スペクトルの合計数)は、8となる。
ただし、本節では、第1方向(k=1)の変調画像間の位相差は、Δφ=π/2、第2方向(k=2)の変調画像間の位相差は、Δφ=π、第3方向(k=3)の変調画像間の位相差は、Δφ=πに設定される。
このようにして取得された8枚の変調画像のスペクトルによると、各変調成分を分離することが可能である。すなわち、第1ステップにおいて、第1方向(k=1)に関する4枚の変調画像のスペクトルで0次変調成分を求めてから、第2ステップにおいて、±1次変調成分、±2次変調成分の分離を行えばよい。
なお、以上の説明では、波数ベクトルの数を3とし、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)に設定したが、これに限られることはなく、波数ベクトルの数を3以上としてもよい。例えば、波数ベクトルの数を5とし、5つの波数ベクトルを閉じた関係に設定してもよい。
[標本2を連続観察する実施形態]
以下、標本2を連続観察する実施形態を説明する。ここでは、2D-SIMの第1.6節、第1.7節、3D-SIMの第2.5節、第2.6節、第2.7節の何れかが適用された構造化照明顕微鏡装置において、標本2を連続観察するための制御装置43、画像記憶・演算装置44の動作を説明する。
以下、標本2を連続観察する実施形態を説明する。ここでは、2D-SIMの第1.6節、第1.7節、3D-SIMの第2.5節、第2.6節、第2.7節の何れかが適用された構造化照明顕微鏡装置において、標本2を連続観察するための制御装置43、画像記憶・演算装置44の動作を説明する。
なお、2D-SIMの第1.6節、第1.7節、3D-SIMの第2.5節、第2.6節、第2.7節の間では、上述した分離(=超解像画像の生成)に必要な画像の枚数や種類は異なるものの、基本的な動作は共通する。
先ず、本実施形態の制御装置43は、標本2を連続観察するために、超解像画像の生成に必要なM種類の画像を含むN枚(M≦N)の画像を順次に取得するという一連の処理を、繰り返す。以下、この一連の処理を、「ラウンド」と称す。つまり、第1ラウンドでN枚の画像を取得し、第2ラウンドで、さらにN枚の画像を取得し、第nラウンドで、さらにN枚の画像を取得する。
また、本実施形態の画像記憶・演算装置44は、標本2を連続観察するために、超解像画像の生成及び超解像画像の表示を繰り返す。超解像画像の生成及び超解像画像の表示は、次のとおり行われる。すなわち、画像記憶・演算装置44は、画像がL枚(L≦M)取得される度に最新となる連続P枚の画像セット(連続するP枚の画像で構成される画像セット)から、分離(復調)に必要なM種類の画像を選択して1枚の超解像画像を生成する処理を、画像セットごとに行う(M≦P≦N)。また、画像記憶・演算装置44は、生成した超解像画像を画像表示装置45へ生成順に表示する。これによって、画像表示装置45上の超解像画像が順次に更新され、標本2の連続観察が可能となる。
以下、標本2をリアルタイム観察するために、以上の画像の取得、超解像画像の生成、超解像画像の表示は、並行して行われるものとする。つまり、画像記憶・演算装置44は、画像がL枚(L≦M)取得される度に超解像画像の生成を行い、超解像画像を生成する度に超解像画像の表示を行うものとする。
ここで、超解像画像の更新に必要なM種類の画像には、干渉縞の写った画像(変調画像)が必ず含まれる。この変調画像の取得時には、標本2の照明強度が空間的に非一様となるので、標本2に退色ムラの起こる虞がある。
そこで、本実施形態の制御装置43は、1ラウンド内におけるN枚の画像の配列(なお、「配列」とは、順番を決めて並べること、又はその並びのことである。)を、以下の条件を満たすように設定する。
・均一条件:干渉縞の強度分布をN枚の画像間(実視野における画像間)で積算すると空間的に略一様(略同じ)になる。但し、画像取得時の条件(レーザパワー、レーザ照射時間、電荷蓄積時間の組み合わせで決まる)は、N枚の画像間で共通に設定される(なお、「略一様」とは、干渉縞の形成領域における強度積算値の空間的なばらつきが、強度積算値の空間平均値の1%以内に収まった状態のことを指す。)。
・更新条件:超解像画像の更新時(以下、単に「更新時」という。)に参照される最新P枚の画像からなる画像セットには、超解像画像の更新に必要なM種類の画像が必ず含まれる。
したがって、本実施形態によれば、ラウンド中に画像がL枚取得される度に超解像画像が更新され、かつ、ラウンドの開始から終了までの期間に標本2の退色ムラが解消されるので、そのラウンドを何回繰り返したとしても退色ムラが悪化することは無い。
なお、本実施形態では、更新時に参照される画像セット(更新に必要なM種類の画像を選択するために、候補となるP枚の画像から構成される画像セットであって、以下、「参照される画像セット」或いは単に「画像セット」という。)を構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しくてもよい。つまり、超解像画像の更新は、常に最新M枚の画像セットで行われてもよい。
また、本実施形態では、超解像画像の更新頻度に相当する画像取得枚数Lは、1又は2であってもよい。つまり、超解像画像の更新頻度は、「1枚ごと」又は「2枚ごと」であってもよい。例えば、L=1の場合、更新前の画像セットは、第1番目の画像~第P番目の画像で構成され、更新時の画像セットは、第2番目の画像~第(P+1)番目の画像で構成される。
或いは、本実施形態では、超解像画像の更新頻度に相当する画像取得枚数Lは、更新に必要な画像の種類数Mに等しくてもよい。つまり、超解像画像の更新頻度は、「M枚ごと」であってもよい。
また、本実施形態では、1ラウンド内におけるN枚の画像の配列は、更に以下の条件を満たしてもよい。
・方向条件:1ラウンド内における波数ベクトルの方向切り換えは、3つの波数ベクトルの方向のうち、互いに近接する方向間の切り換えのみに制限される。
この方向条件の意義は次のとおりである。すなわち、3つの波数ベクトルの方向の関係が、例えば図2に示すように、第1方向V1、第2方向V2、第3方向V3の関係である場合は、波数ベクトルの方向を切り換えるための部材(ここでは光束選択部材20)の回転位置を、第1方向V1を基準(0°)として-60°、0°、+60°の間で切り換えればよい。しかしながら、光束選択部材20の回転位置を-60°と0°との間で切り換える場合に必要な光束選択部材20の回転量は60°であって、光束選択部材20の回転位置を0°と+60°との間で切り換える場合に必要な光束選択部材20の回転量は60°であるのに対して、光束選択部材20の回転位置を-60°と+60°との間で切り換える場合に必要な光束選択部材20の回転量は120°である。よって、光束選択部材20の回転量を最小限に抑えるためには方向条件が有効である。
また、本実施形態では、1ラウンド内におけるN枚の画像の配列は、更に以下の条件を満たしてもよい。
・連続条件:更新時に参照される画像セット内では、更新に必要なM種類の画像のうち、波数ベクトルが共通な変調画像同士は互いに連続する。
この連続条件の意義は、次のとおりである。すなわち、仮に、波数ベクトルが共通な変調画像同士の取得タイミングが連続しておらず、それらの変調画像を取得し終える前に標本2が変化したならば、前述した分離の精度が低下し、超解像画像の画質が低下する。よって、標本2の時間変化を想定したならば、連続条件が有効である。
また、本実施形態では、ラウンド内におけるN枚の画像の配列は、更に以下の条件を満たしてもよい。
・等方条件:3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される変調画像の枚数と、他の1つの波数ベクトルで取得される変調画像の枚数と、残る1つの波数ベクトルで取得される変調画像の枚数とは、等しい。
この等方条件が満たされれば、標本2の退色状況が等方的になる(3つの方向間で退色状況が等しい)という利点がある。
[標本2を連続観察する第1実施例]
以下、標本2を連続観察する実施形態の第1実施例を説明する。
以下、標本2を連続観察する実施形態の第1実施例を説明する。
本実施例には、2D-SIMモードの第1.7節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルの各々で1枚ずつ取得される変調画像と、1枚の無変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=4である。
また、超解像画像の更新頻度は、「1枚ごと」に設定される。つまり、超解像画像の更新頻度に相当する画像取得枚数Lは、L=1に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=4である。
そして、本実施例では、上述した均一条件、更新条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表1のとおりに設定される。表1の配列では、1ラウンド内の画像取得枚数Nは、N=8である。
なお、表1における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表1における方向1、方向2、方向3、位相θ1,θ2,θ3の各々は任意である。方向1、方向2、方向3の関係は、例えば、図2に示すように、第1方向V1、第2方向V2、第3方向V3の関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表2に示すような組み合わせとなる。
なお、表2における超解像画像の番号は、超解像画像の生成順序を表している。
[標本2を連続観察する第2実施例]
以下、標本2を連続観察する実施形態の第2実施例を説明する。
以下、標本2を連続観察する実施形態の第2実施例を説明する。
本実施例は、第1実施例の変形例であるので、ここでは第1実施例との相違点のみを説明する。
本実施例は、第1実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、超解像画像の更新頻度を「4枚ごと」に低下させる(L=4とする)。
よって、本実施例では、均一条件、更新条件(但し、L=4)、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表3のとおりに設定される。表3の配列では、1ラウンド内の画像取得枚数Nは、N=8である。
なお、表3における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表3における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していないと仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表4に示すような組み合わせとなる。
以上、本実施例では、超解像画像の更新頻度が第1実施例より低くなるものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第3実施例]
以下、標本2を連続観察する実施形態の第3実施例を説明する。
以下、標本2を連続観察する実施形態の第3実施例を説明する。
本実施例には、2D-SIMモードの第1.6節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、2つの波数ベクトルの各々で1枚ずつ取得される変調画像と、他の1つの波数ベクトルで取得される位相の異なる2枚の変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=4である。
また、超解像画像の更新頻度は、「1枚ごと」に設定される。つまり、Lは、L=1に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=4である。
そして、本実施例では、上述した均一条件、更新条件、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表5のとおりに設定される。表5の配列では、1ラウンド内の画像取得枚数Nは、N=18である。
なお、表5における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表5における方向1、方向2、方向3、位相θ1,θ1’,θ2,θ2’,θ3,θ3’,φ1,φ2,φ3の各々は任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係(図2参照)である。
そして、本実施例において超解像画像の更新に使用される画像は、表6に示すような組み合わせとなる。
なお、表6における超解像画像の番号は、超解像画像の生成順序を表している。
因みに、本実施例では、上述した等方条件も満たされるので、標本2の退色状況が等方的になるという利点もある。
また、本実施例では、特に、θ1=φ1,θ2=φ2,θ3=φ3と設定してもよい。この場合、N枚の画像の配列は表7のとおりとなり、超解像画像の更新に使用される画像は、表8に示すような組み合わせとなる。
この設定によると、標本2の退色ムラを頻繁に解消できるという更なる効果が得られる。因みに、表5の配列によると退色ムラの解消頻度は「18枚ごと」であったのに対して、表7の配列によると退色ムラの解消頻度は「6枚ごと」となる。
[標本2を連続観察する第4実施例]
以下、標本2を連続観察する実施形態の第4実施例を説明する。
以下、標本2を連続観察する実施形態の第4実施例を説明する。
本実施例は、第3実施例の変形例であるので、ここでは第3実施例との相違点のみを説明する。
本実施例は、第3実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、超解像画像の更新頻度を「4枚ごと」に低下させる(L=4とする)。
よって、本実施例では、均一条件、更新条件(但し、L=4)、連続条件、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表9のとおりに設定される。表9の配列では、1ラウンド内の画像取得枚数Nは、N=12である。
なお、表9における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表9における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表10に示すような組み合わせとなる。
以上、本実施例では、超解像画像の更新頻度が第3実施例より低くなるものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第5実施例]
以下、標本2を連続観察する実施形態の第5実施例を説明する。
以下、標本2を連続観察する実施形態の第5実施例を説明する。
本実施例は、第3実施例の変形例であるので、ここでは第3実施例との相違点のみを説明する。
本実施例は、第3実施例において、方向条件を追加し、その代わりに連続条件を外したものである。
よって、本実施例では、均一条件、更新条件(但し、L=1)、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表11のとおりに設定される。表11の配列では、1ラウンド内の画像取得枚数Nは、N=8である。
なお、表11における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表11における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。
そして、本実施例において超解像画像の更新に使用される画像は、表12に示すような組み合わせとなる。
以上、本実施例では、干渉縞の方向が共通である2つの変調画像の取得タイミングが連続しないので、時間変化の大きい標本2には適さないものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第6実施例]
以下、標本2の連続観察する実施形態の第6実施例を説明する。
以下、標本2の連続観察する実施形態の第6実施例を説明する。
本実施例は、第3実施例の変形例であるので、ここでは第3実施例との相違点のみを説明する。
本実施例は、第3実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、更新時に参照される画像セットを構成する画像の枚数Pを、1枚増やす(P=5とする)。この場合、更新に使用される画像は、「最新4枚の画像」ではなく、「最新5枚の画像のうち適切な4枚」となる。
よって、本実施例では、均一条件、更新条件(但し、P=5)、連続条件、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表13のとおりに設定される。表13の配列では、1ラウンド内の画像取得枚数Nは、N=6である。
なお、表13における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表13における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表14に示すような組み合わせとなる。
なお、表14における画像番号「1」、「2」、「3」、…は、第1ラウンドにおける画像番号であり、画像番号「1’」、「2’」、「3’」、…は、第2ラウンドにおける画像番号である(他の表も同様)。
以上、本実施例では、超解像画像の更新に使用される画像は必ずしも最新4枚ではないものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第7実施例]
以下、標本2を連続観察する実施形態の第7実施例を説明する。
以下、標本2を連続観察する実施形態の第7実施例を説明する。
本実施例では、第4実施例と同じ条件(均一条件、更新条件(但し、L=4)、連続条件、方向条件)を満たす別の配列を説明する。
本実施例の配列は、表15に示すとおりである。表15の配列では、1ラウンド内の画像取得枚数Nは、N=24である。
なお、表15における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表15における位相θ1,θ2,θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していないと仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表16に示すような組み合わせとなる。
以上、本実施例では、第4実施例よりも1ラウンド内の画像取得枚数Nが増えるものの、第4実施例と同じ効果が得られる。
[標本2を連続観察する第8実施例]
以下、標本2を連続観察する実施形態の第8実施例を説明する。
以下、標本2を連続観察する実施形態の第8実施例を説明する。
本実施例には、3D-SIMモードの第2.5節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、他の1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、残る1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、1枚の無変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=7である。
また、超解像画像の更新頻度は、「2枚ごと」又は「1枚ごと」に設定される。つまり、Lは、L=1、又はL=2に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=7である。
そして、本実施例では、上述した均一条件、更新条件、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表17のとおりに設定される。表17の配列では、1ラウンド内の画像取得枚数Nは、N=14である。
なお、表17における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表17における方向1、方向2、方向3、位相θ1,θ2,θ3の各々は任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表18に示すような組み合わせとなる。
なお、表18における超解像画像の番号は、超解像画像の生成順序を表している。
以上、第8実施例では、基本的には、波数ベクトルが共通であって位相の異なる2枚の変調画像の双方が取得される度に超解像画像が更新される(すなわち、基本的には2枚ごとに更新される)。但し、第8実施例では、無変調画像が取得される度にも超解像画像が更新される(すなわち、無変調画像が取得されたときには1枚ごとに更新される)。
[標本2を連続観察する第9実施例]
以下、標本2を連続観察する実施形態の第9実施例を説明する。
以下、標本2を連続観察する実施形態の第9実施例を説明する。
本実施例は、第8実施例の変形例であるので、ここでは第8実施例との相違点のみを説明する。
本実施例、第8実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、超解像画像の更新頻度を「7枚ごと」に低下させる(L=7とする)。
つまり、本実施例では、均一条件、更新条件(但し、L=7)、連続条件、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表19のとおりに設定される。表11の配列では、1ラウンド内の画像取得枚数Nは、N=14である。
なお、表19における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表19における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表20に示すような組み合わせとなる。
以上、本実施例では、超解像画像の更新頻度が第8実施例より低くなるものの、干渉縞の方向切り換えを効率化できるという利点がある。
なお、本実施例では、ラウンド内最後の画像(第14画像)の取得を省略し、次のラウンドの最初の画像(第1’画像)を、第14画像として使用してもよい。このようにすれば、ラウンド内の画像取得枚数Nを、1だけ削減する(N=13とする)こともできる。
[標本2を連続観察する第10実施例]
以下、標本2を連続観察する実施形態の第10実施例を説明する。
以下、標本2を連続観察する実施形態の第10実施例を説明する。
本実施例には、3D-SIMモードの第2.7節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、他の1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、残る1つの波数ベクトルで取得される位相の異なる4枚の変調画像とである。よって、超解像画像の更新に必要な画像の枚数Mは、M=8である。
また、超解像画像の更新頻度は、「8枚ごと」に設定される。つまり、Lは、L=8に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=8である。
そして、本実施例では、上述した均一条件、更新条件、連続条件、方向条件を満たすよう、ラウンド内におけるN枚の画像の配列は表21のとおりに設定される。表21の配列では、ラウンド内の画像取得枚数Nは、N=16である。
なお、表21における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表21における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表22に示すような組み合わせとなる。
なお、表22における超解像画像の番号は、超解像画像の生成順序を表している。
[標本2を連続観察する第11実施例]
以下、標本2の退色ムラを防ぐための形態11を説明する。
以下、標本2の退色ムラを防ぐための形態11を説明する。
本実施例は、第10実施例の変形例であるので、ここでは第10実施例との相違点のみを説明する。
本実施例は、第10実施例において、更新条件を強化し、その代わりに方向条件を外したものである。
更新条件を強化するために、本実施例では、超解像画像の更新頻度を「2枚ごと」に向上させる(L=2とする)。
つまり、本実施例では、均一条件、更新条件(但し、L=2)、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表23のとおりに設定される。表23の配列では、1ラウンド内の画像取得枚数Nは、N=36である。
なお、表23における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表23における位相θ1、θ2、θ3、方向1、方向2、方向3の各々は任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係(図2参照)である。
そして、本実施例において超解像画像の更新に使用される画像は、表24に示すような組み合わせとなる。
以上、本実施例では、干渉縞の方向切り換えの効率が第10実施例より低下するものの、超解像画像の更新頻度が高まるという利点がある。
[標本2を連続観察する第12実施例]
以下、標本2を連続観察する実施形態の第12実施例を説明する。
以下、標本2を連続観察する実施形態の第12実施例を説明する。
本実施例には、3D-SIMモードの第2.6節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される位相の異なる4枚の変調画像と、他の1つの波数ベクトルで取得される位相の異なる4枚の変調画像と、残る1つの波数ベクトルで取得される位相の異なる4枚の変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=12である。
また、超解像画像の更新頻度は、「12枚ごと」に設定される。つまり、Lは、L=12に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=12である。
そして、本実施例では、上述した均一条件、更新条件、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表25のとおりに設定される。表25の配列では、1ラウンド内の画像取得枚数Nは、N=12である。
なお、表25における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表25における方向1、方向2、方向3、位相θ1,θ2,θ3の各々は、任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係(図2参照)である。
そして、本実施例において超解像画像の更新に使用される画像は、表26に示すような組み合わせとなる。
なお、表26における超解像画像の番号は、超解像画像の生成順序を表している。
因みに、本実施例では、上述した等方条件も満たされるので、標本2の退色状況が等方的になるという利点もある。
また、以上の説明では、必要な変調画像の取得に使用される波数ベクトルの数を3とし、3つの波数ベクトルを閉じた関係に設定したが、これに限られることはなく、波数ベクトルの数を3以上としてもよい。例えば、波数ベクトルの数を5とし、5つの波数ベクトルを閉じた関係に設定してもよく、波数ベクトルの数をQ(Q≧3)とし、Q個の波数ベクトルを閉じた関係に設定してもよい。
[標本2を連続観察する実施形態の作用効果]
本実施形態の構造化照明顕微鏡装置(1)は、標本(2)を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段(制御装置43)と、前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段(画像記憶・演算装置44)とを備える。
本実施形態の構造化照明顕微鏡装置(1)は、標本(2)を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段(制御装置43)と、前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段(画像記憶・演算装置44)とを備える。
また、前記M種類の画像には、以下の画像が含まれる。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像。
・前記3種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像。
また、前記N枚の画像の配列は、以下の条件を満たす。
・均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様(又は略一様)になる。
・更新条件:前記画像セットには前記M種類の画像が必ず含まれる。
したがって、本実施形態の構造化照明顕微鏡装置によれば、一連の処理中に画像がL枚取得される度に超解像画像が更新され、かつ、一連の処理の開始から終了までの期間に標本の退色ムラが解消されるので、一連の処理を何回繰り返したとしても退色ムラが悪化することは無い。
また、前記画像セットを構成する画像の枚数Pは、前記復調に必要な画像の種類数Mに等しくてもよい。
また、前記復調の頻度に相当する画像取得枚数Lは、1又は2であってもよい。
また、前記復調の頻度に相当する画像取得枚数Lは、前記復調に必要な画像の種類数Mに等しくてもよい。
また、前記N枚の画像の配列は、以下の条件を満たしてもよい。
・方向条件:前記波数ベクトルの方向切り換えは、互いに近接する方向間の切り換えのみに制限される。
また、前記N枚の画像の配列は、以下の条件を満たしてもよい。
・連続条件:前記復調に必要なM種類の画像のうち、前記波数ベクトルが共通な変調画像同士は、前記画像セット内で互いに連続する。
また、前記N枚の画像の配列は、前記変調画像の種類数Qが3である場合に以下の条件を満たしてもよい。
・等方条件:前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、他の1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、残りの1種類との間で前記波数ベクトルの共通する変調画像の取得枚数とは、等しい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=4)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像。
また、前記演算手段は、前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離してもよい。
また、前記M種類(M=4)の画像のうち、前記波数ベクトルが共通な少なくとも2種類の変調画像間の前記位相の差は、πであってもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=4)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離してもよい。
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離してもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=7)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=7)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=7)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
また、前記M種類(M=7)の画像のうち、少なくとも1つの前記波数ベクトルで取得された2種類の変調画像間の前記位相の差は、πであってもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=12)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
また、前記演算手段は、前記M種類(M=12)の変調画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=8)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像。
・前記Q種類(Q=3)の変調画像の他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像。
・前記Q種類(Q=3)の変調画像の残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
また、前記演算手段は、前記M種類(M=8)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
また、前記M種類(M=8)の画像のうち、前記波数ベクトルが共通な4種類の変調画像間の前記位相の差は、π/2であってもよい。
また、前記Q種類(Q=3)の変調画像の間では、前記波数ベクトルの大きさが共通かつ方向が120°ずつずれていてもよい。
なお、N、L、P、M、Qは、何れも整数である。
[その他]
なお、上述の各実施形態の要件は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。また、法令で許容される限りにおいて、上述の各実施形態及び変形例で引用した装置などに関する全ての公開公報及び米国特許の開示を援用して本文の記載の一部とする。
なお、上述の各実施形態の要件は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。また、法令で許容される限りにおいて、上述の各実施形態及び変形例で引用した装置などに関する全ての公開公報及び米国特許の開示を援用して本文の記載の一部とする。
1…構造化照明顕微鏡装置、100…レーザユニット、11…光ファイバ、10…照明光学系、30…結像光学系、42…撮像素子、43…制御装置、44…画像記憶・演算装置、45…画像表示装置、12…コレクタレンズ、13…偏光板、14…光束分岐部、17…集光レンズ、18…光束選択部、21…レンズ、22…視野絞り、23…フィールドレンズ、24…励起フィルタ、33…ダイクロイックミラー、31…対物レンズ、34…吸収フィルタ、35…第2対物レンズ、2…標本
Claims (22)
- 標本を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段と、
前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段と、
を備えた構造化照明顕微鏡装置であって、
前記M種類の画像には、以下の画像が含まれ、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像
・前記Q種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像
前記N枚の画像の配列は、以下の条件を満たす
・均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様になる
・更新条件:前記画像セットには前記M種類の画像が必ず含まれる
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1に記載の構造化照明顕微鏡装置において、
前記画像セットを構成する画像の枚数Pは、前記復調に必要な画像の種類数Mに等しい
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1又は請求項2に記載の構造化照明顕微鏡装置において、
前記復調の頻度に相当する画像取得枚数Lは、1又は2である
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1又は請求項2に記載の構造化照明顕微鏡装置において、
前記復調の頻度に相当する画像取得枚数Lは、前記復調に必要な画像の種類数Mに等しい
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項4の何れか一項に記載の構造化照明顕微鏡装置において、
前記N枚の画像の配列は、以下の条件を満たす
・方向条件:前記波数ベクトルの方向切り換えは、互いに近接する方向間の切り換えのみに制限される
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項5の何れか一項に記載の構造化照明顕微鏡装置において、
前記N枚の画像の配列は、以下の条件を満たす
・連続条件:前記復調に必要なM種類の画像のうち、前記波数ベクトルが共通な変調画像同士は、前記画像セット内で互いに連続する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項6の何れか一項に記載の構造化照明顕微鏡装置において、
前記N枚の画像の配列は、前記変調画像の種類数Qが3である場合に以下の条件を満たす
・等方条件:前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、他の1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、残りの1種類との間で前記波数ベクトルの共通する変調画像の取得枚数とは、等しい
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=4)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
前記演算手段は、
前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項8に記載の構造化照明顕微鏡装置において、
前記M種類(M=4)の画像のうち、前記波数ベクトルが共通な少なくとも2種類の変調画像間の前記位相の差は、πである
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=4)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・1枚の無変調画像
前記演算手段は、
前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=7)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・1枚の無変調画像
前記演算手段は、
前記M種類(M=7)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項11に記載の構造化照明顕微鏡装置において、
前記M種類(M=7)の画像のうち、少なくとも1つの前記波数ベクトルで取得された2種類の変調画像間の前記位相の差は、πである
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=12)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
前記演算手段は、
前記M種類(M=12)の変調画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=8)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像の他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像の残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
前記演算手段は、
前記M種類(M=8)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項14に記載の構造化照明顕微鏡装置において、
前記M種類(M=8)の画像のうち、前記波数ベクトルが共通な4種類の変調画像間の前記位相の差は、π/2である
ことを特徴とする構造化照明顕微鏡装置。 - 請求項8~請求項15の何れか一項に記載の構造化照明顕微鏡装置において、
前記Q種類(Q=3)の変調画像の間では、前記波数ベクトルの大きさが共通かつ方向が120°ずつずれている
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項17に記載の構造化照明顕微鏡装置において、
前記演算手段は、前記撮像素子が新たな画像を生成する毎に、最も古い画像に替えて前記新たな画像を用いて、前記超解像画像を生成する
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項19に記載の構造化照明顕微鏡装置において、
前記演算手段は、前記撮像素子が新たな画像を生成する毎に、最も古い画像に替えて前記新たな画像を用いて、前記超解像画像を生成する
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる
ことを特徴とする構造化照明顕微鏡装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/093,177 US10067331B2 (en) | 2013-10-09 | 2016-04-07 | Structured illumination microscope device |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013-211614 | 2013-10-09 | ||
JP2013211614 | 2013-10-09 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
US15/093,177 Continuation US10067331B2 (en) | 2013-10-09 | 2016-04-07 | Structured illumination microscope device |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2015052936A1 true WO2015052936A1 (ja) | 2015-04-16 |
Family
ID=52812763
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2014/005157 WO2015052936A1 (ja) | 2013-10-09 | 2014-10-09 | 構造化照明顕微鏡装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10067331B2 (ja) |
WO (1) | WO2015052936A1 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI625548B (zh) * | 2016-03-10 | 2018-06-01 | Screen Holdings Co Ltd | Imaging configuration determination method and imaging device in imaging device |
DE102018108657A1 (de) | 2018-04-12 | 2019-10-17 | Jenoptik Optical Systems Gmbh | Mikroskop mit strukturierter Beleuchtung |
WO2020179039A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179032A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179040A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179036A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡 |
CN113711014A (zh) * | 2019-04-02 | 2021-11-26 | 热电科学仪器有限公司 | 使用结构化照明显微镜增强样品成像 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014013720A1 (ja) * | 2012-07-19 | 2014-01-23 | 株式会社ニコン | 構造化照明顕微鏡装置 |
JP6270615B2 (ja) * | 2014-05-02 | 2018-01-31 | オリンパス株式会社 | 標本像データ生成装置、及び、標本像データ生成方法 |
US10423002B2 (en) * | 2015-06-17 | 2019-09-24 | Maxell, Ltd. | Imaging apparatus capable of generating an image using moire without a lens |
US11853845B2 (en) * | 2020-09-02 | 2023-12-26 | Cognex Corporation | Machine vision system and method with multi-aperture optics assembly |
CN113676276B (zh) * | 2021-08-06 | 2023-05-16 | 中国电波传播研究所(中国电子科技集团公司第二十二研究所) | 一种可分离电离层多模式混合传播的短波阵列天线衰落一致性测量方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009098215A (ja) * | 2007-10-12 | 2009-05-07 | Nikon Corp | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 |
JP2009157084A (ja) * | 2007-12-26 | 2009-07-16 | Nikon Corp | 顕微鏡装置 |
WO2011135819A1 (ja) * | 2010-04-26 | 2011-11-03 | 株式会社ニコン | 構造化照明顕微鏡装置 |
JP2012504252A (ja) * | 2008-09-30 | 2012-02-16 | カール ツァイス マイクロイメージング ゲーエムベーハー | 構造化照明を備えた顕微鏡法のための改良された方法および装置 |
WO2013049646A1 (en) * | 2011-09-29 | 2013-04-04 | Fei Company | Microscope device |
WO2013108626A1 (ja) * | 2012-01-18 | 2013-07-25 | 株式会社ニコン | 構造化照明装置、構造化照明顕微鏡装置、構造化照明方法 |
WO2014013720A1 (ja) * | 2012-07-19 | 2014-01-23 | 株式会社ニコン | 構造化照明顕微鏡装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5671085A (en) | 1995-02-03 | 1997-09-23 | The Regents Of The University Of California | Method and apparatus for three-dimensional microscopy with enhanced depth resolution |
WO2008132976A1 (ja) * | 2007-04-12 | 2008-11-06 | Nikon Corporation | 顕微鏡装置 |
-
2014
- 2014-10-09 WO PCT/JP2014/005157 patent/WO2015052936A1/ja active Application Filing
-
2016
- 2016-04-07 US US15/093,177 patent/US10067331B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009098215A (ja) * | 2007-10-12 | 2009-05-07 | Nikon Corp | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 |
JP2009157084A (ja) * | 2007-12-26 | 2009-07-16 | Nikon Corp | 顕微鏡装置 |
JP2012504252A (ja) * | 2008-09-30 | 2012-02-16 | カール ツァイス マイクロイメージング ゲーエムベーハー | 構造化照明を備えた顕微鏡法のための改良された方法および装置 |
WO2011135819A1 (ja) * | 2010-04-26 | 2011-11-03 | 株式会社ニコン | 構造化照明顕微鏡装置 |
WO2013049646A1 (en) * | 2011-09-29 | 2013-04-04 | Fei Company | Microscope device |
WO2013108626A1 (ja) * | 2012-01-18 | 2013-07-25 | 株式会社ニコン | 構造化照明装置、構造化照明顕微鏡装置、構造化照明方法 |
WO2014013720A1 (ja) * | 2012-07-19 | 2014-01-23 | 株式会社ニコン | 構造化照明顕微鏡装置 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI625548B (zh) * | 2016-03-10 | 2018-06-01 | Screen Holdings Co Ltd | Imaging configuration determination method and imaging device in imaging device |
DE102018108657A1 (de) | 2018-04-12 | 2019-10-17 | Jenoptik Optical Systems Gmbh | Mikroskop mit strukturierter Beleuchtung |
DE102018108657B4 (de) | 2018-04-12 | 2024-03-28 | Jenoptik Optical Systems Gmbh | Vorrichtung zur Aufnahme wenigstens eines mikroskopischen Bildes und Verfahren zur Aufnahme eines mikroskopischen Bildes |
WO2020179039A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179032A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179040A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179036A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡 |
CN113711014A (zh) * | 2019-04-02 | 2021-11-26 | 热电科学仪器有限公司 | 使用结构化照明显微镜增强样品成像 |
Also Published As
Publication number | Publication date |
---|---|
US20160216505A1 (en) | 2016-07-28 |
US10067331B2 (en) | 2018-09-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5888416B2 (ja) | 構造化照明顕微鏡装置 | |
WO2015052936A1 (ja) | 構造化照明顕微鏡装置 | |
US10725276B2 (en) | Structured illumination microscope, structured illumination method, and program | |
CN107389631B (zh) | 高速多色多模态结构光照明超分辨显微成像系统及其方法 | |
US10739574B2 (en) | Structured illumination optical system and structured illumination microscope device | |
JP6264377B2 (ja) | 構造化照明装置及び構造化照明顕微鏡装置 | |
US8019136B2 (en) | Optical sectioning microscopy | |
EP2592459B1 (en) | Holographic microscope and method for processing microscopic subject hologram image | |
EP2437095B1 (en) | Sample observation device for generating super resolution image | |
US11867894B2 (en) | Method for SIM microscopy | |
CN114594588B (zh) | 基于光栅投影和slm相移的结构光照明显微装置及方法 | |
JP2009098215A (ja) | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 | |
WO2015033514A1 (ja) | 照明装置及び構造化照明顕微鏡装置 | |
US9964748B2 (en) | Sample image data generating apparatus and sample image data generating method | |
Shao et al. | Interferometer‐based structured‐illumination microscopy utilizing complementary phase relationship through constructive and destructive image detection by two cameras | |
JP6286982B2 (ja) | 構造化照明顕微鏡装置 | |
WO2018150471A1 (ja) | 構造化照明顕微鏡、観察方法、及びプログラム | |
WO2015052920A1 (ja) | 構造化照明装置及び構造化照明顕微鏡装置 | |
Chen | Holography-Based Structured Light Illumination for Fast 3D Fluorescent Imaging |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 14851694 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
NENP | Non-entry into the national phase |
Ref country code: JP |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 14851694 Country of ref document: EP Kind code of ref document: A1 |