WO2012056580A1 - 画像解析方法および画像解析装置 - Google Patents

画像解析方法および画像解析装置 Download PDF

Info

Publication number
WO2012056580A1
WO2012056580A1 PCT/JP2010/069367 JP2010069367W WO2012056580A1 WO 2012056580 A1 WO2012056580 A1 WO 2012056580A1 JP 2010069367 W JP2010069367 W JP 2010069367W WO 2012056580 A1 WO2012056580 A1 WO 2012056580A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
data
analysis
frame
pixel
Prior art date
Application number
PCT/JP2010/069367
Other languages
English (en)
French (fr)
Inventor
明美 鈴木
Original Assignee
オリンパス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オリンパス株式会社 filed Critical オリンパス株式会社
Priority to EP10858967.2A priority Critical patent/EP2623957B1/en
Priority to CN201080069870.4A priority patent/CN103189737B/zh
Priority to PCT/JP2010/069367 priority patent/WO2012056580A1/ja
Publication of WO2012056580A1 publication Critical patent/WO2012056580A1/ja
Priority to US13/870,711 priority patent/US9330338B2/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/44Raman spectrometry; Scattering spectrometry ; Fluorescence spectrometry
    • G01J3/4406Fluorescence spectrometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6408Fluorescence; Phosphorescence with measurement of decay time, time resolved fluorescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N2021/6417Spectrofluorimetric devices
    • G01N2021/6419Excitation at two or more wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N2021/6417Spectrofluorimetric devices
    • G01N2021/6421Measuring at two or more wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Definitions

  • the present invention relates to an image analysis method and an image analysis apparatus.
  • Non-Patent Documents 1 and 2 have been proposed as Raster Image Correlation Spectroscopy (RICS).
  • RANS Raster Image Correlation Spectroscopy
  • a fluorescence image composed of a raster scan image of one frame or more is acquired.
  • an area of interest is determined in the sample to be image-analyzed, and the area is repeatedly scanned by the raster scanning method to obtain an image composed of a plurality of frames of fluorescence intensity.
  • the fluorescence intensity in the frame is expressed as data in pixel units.
  • Pieces of pixel data have different acquisition times and acquisition positions, so that the acquisition times and acquisition positions corresponding to the data are different.
  • correlation characteristics due to molecular fluctuations can be obtained by performing spatial correlation analysis using the data of these pixels.
  • the diffusion constant and the number of molecules can be obtained from the correlation characteristics of the molecules.
  • the number of pixels included in the analysis region is small (the number of pixels is, for example, 8 ⁇ 8).
  • the number of data used for RICS spatial correlation analysis is too small. This is because the RICS spatial correlation calculation is a kind of statistical calculation, and the accuracy increases as the number of data increases, and the error increases as the number of data decreases. In other words, if the number of data included in the area for spatial correlation analysis is too small, the accuracy of RICS analysis as a result of statistical calculation is reduced.
  • An object of the present invention is to provide an RICS image analysis method capable of performing spatial correlation analysis with high accuracy even in an analysis region with a small number of pixels.
  • An image analysis method includes an image acquisition step of acquiring, in a time series, an image of a plurality of frames including a plurality of pixels in which pixel data of each image is acquired in a time series, and an analysis region for the image
  • An analysis region setting step for setting an image
  • an image selection step for selecting an image of two or more frames to be used for analysis from the images, and two pixels having the same acquisition time interval in the analysis region of each of the selected images
  • calculating a correlation value by extracting a plurality of data pairs, each of which is a product-sum calculation for all of the selected images.
  • a RICS image analysis method capable of performing spatial correlation analysis with high accuracy even in an analysis region having a small number of pixels.
  • FIG. 1 schematically shows an image analysis apparatus according to an embodiment of the present invention.
  • FIG. 2 shows functional blocks of the control unit shown in FIG.
  • FIG. 3 is a flowchart of image analysis according to the embodiment of the present invention.
  • FIG. 4 shows a calculation procedure in step 4 in the flowchart of FIG.
  • FIG. 5 shows fluorescence images of a plurality of frames acquired in time series.
  • FIG. 6 shows an observation area and an analysis area.
  • FIG. 7 schematically shows a product-sum calculation part of the spatial correlation calculation using a plurality of frames of fluorescent images classified into a plurality of groups.
  • FIG. 8 is an image showing the calculation results of spatial correlation values by RICS for small molecules in luminance.
  • FIG. 9 shows the fitting result of the spatial correlation value by RICS for a small molecule.
  • FIG. 1 schematically shows an image analysis apparatus according to an embodiment of the present invention.
  • FIG. 2 shows functional blocks of the control unit shown in FIG.
  • FIG. 3 is a flowchart of image
  • FIG. 10 is an image showing the calculation result of the spatial correlation value by RICS for a large molecule in luminance.
  • FIG. 11 shows the fitting result of the spatial correlation value by RICS for a large molecule.
  • FIG. 12 shows the result of comparing the diffusion constant (D) of the EGFP solution while changing the ROI size in the analysis region.
  • FIG. 1 schematically shows an image analysis apparatus according to an embodiment of the present invention.
  • This image analysis apparatus is configured based on a scanning confocal optical microscope for fluorescence observation of a sample.
  • the image analysis apparatus 100 is necessary for image analysis, a light irradiation unit 110 that irradiates the sample S with excitation light, a light detection unit 130 that detects light emitted from a measurement point in the sample S, and the like. And a sample stage 190 that supports the sample S.
  • the sample S is accommodated in a sample container such as a microplate or a slide glass, and is placed on the sample stage 190.
  • the sample stage 190 supports the sample S so as to be movable in the lateral direction (xy direction) and the height direction (z direction) with respect to the light irradiation unit 110 and the light detection unit 130.
  • the sample stage 190 includes three stepping motors whose output axes are orthogonal to each other, and the sample S can be moved in the xyz direction by these stepping motors.
  • the image analysis apparatus 100 is a multiple light irradiation / multiple light detection type.
  • the light irradiation unit 110 includes an n-channel light source system 111, and the light detection unit 130 correspondingly includes an n-channel detection system 131.
  • Each of the n-channel detection systems 131 detects fluorescence generated by the excitation light emitted from the n-channel light source system 111.
  • the n channel includes channel 1, channel 2,... Channel n. The channel differs depending on the type of excitation light.
  • the n-channel light source system 111 of the light irradiation unit 110 includes light sources 112a, ..., 112n, collimating lenses 114a, ..., 114n, and dichroic mirrors 116a, ..., 116n.
  • the light sources 112a,..., 112n emit excitation light for exciting the fluorescent dye contained in the sample S to emit light (fluorescence) from the sample S.
  • the wavelengths of the excitation light emitted from the light sources 112a,..., 112n are different from each other corresponding to the type of fluorescent dye contained in the sample S.
  • the light sources 112a,..., 112n are constituted by, for example, laser light sources having oscillation wavelengths suitable for the fluorescent dye in the sample S.
  • the collimating lenses 114a,..., 114n collimate the excitation light emitted from the light sources 112a,.
  • the dichroic mirrors 116a,..., 116n reflect the excitation light that has passed through the collimating lenses 114a,.
  • Each of the dichroic mirrors 116a,..., 116n transmits the excitation light incident from above in FIG. 1 and reflects the excitation light incident from the right side in FIG.
  • the excitation lights having different wavelengths respectively emitted from the light sources 112a,..., 112n are combined into one beam after passing through the dichroic mirror 116a.
  • the dichroic mirror 116n does not need to transmit the excitation light, and may be changed to a simple mirror.
  • the light irradiation unit 110 further includes a dichroic mirror 122, a galvano mirror 124, an objective lens 126, and an objective lens driving mechanism 128.
  • the dichroic mirror 122 reflects the excitation light from the light source system 111 toward the galvanometer mirror 124 and transmits the fluorescence emitted from the sample S.
  • the galvanometer mirror 124 reflects the excitation light toward the objective lens 126 and changes the reflection direction thereof.
  • the objective lens 126 converges the excitation light and irradiates the measurement point in the sample S, and takes in the light from the measurement point in the sample S.
  • An objective lens 126 having a large NA (numerical aperture) is used to form a minute confocal region (measurement point).
  • the confocal region thus obtained has a substantially cylindrical shape with a diameter of about 0.6 ⁇ m and a length of about 2 ⁇ m.
  • the galvanometer mirror 124 constitutes xy scanning means for scanning the measurement point in the xy direction.
  • the xy scanning unit may be configured using an acousto-optic modulation element (AOM), a polygon mirror, a hologram scanner, or the like in addition to using a galvano mirror.
  • AOM acousto-optic modulation element
  • the objective lens driving mechanism 128 moves the objective lens 126 along the optical axis. Thereby, the measurement point is moved in the z direction. That is, the objective lens driving mechanism 128 constitutes z scanning means for scanning the measurement point in the z direction.
  • the light detection unit 130 shares the objective lens 126, the galvano mirror 124, and the dichroic mirror 122 with the light irradiation unit 110.
  • the light detection unit 130 further includes a converging lens 132, a pinhole 134, and a collimating lens 136.
  • the converging lens 132 converges the light transmitted through the dichroic mirror 122.
  • the pinhole 134 is disposed at the focal point of the converging lens 132. That is, the pinhole 134 is in a conjugate position with respect to the measurement point in the sample S, and selectively allows only light from the measurement point to pass through.
  • the collimating lens 136 collimates the light that has passed through the pinhole 134.
  • the light that has passed through the collimator lens 136 enters the n-channel detection system 131.
  • the n-channel detection system 131 includes dichroic mirrors 138a, ..., 138n, fluorescent filters 140a, ..., 140n, and photodetectors 142a, ..., 142n.
  • the dichroic mirrors 138a,..., 138n selectively reflect light having a wavelength in the vicinity of the fluorescent wavelength region generated from the sample S by the excitation light from the light sources 112a,.
  • the dichroic mirror 138n does not need to transmit light, and may be changed to a simple mirror.
  • the fluorescent filters 140a,..., 140n block the light having an undesired wavelength component from the light reflected by the dichroic mirrors 138a,..., 138n, respectively, and are generated by the excitation light from the light sources 112a,. Only the fluorescence is selectively transmitted.
  • the fluorescence transmitted through the fluorescent filters 140a,..., 140n is incident on the photodetectors 142a,.
  • the photodetectors 142a,..., 142n output signals corresponding to the intensity of incident light. That is, the photodetectors 142a,..., 142n output fluorescence intensity signals from the measurement points in the sample S.
  • the control unit 160 is constituted by a personal computer, for example.
  • the control unit 160 acquires, stores, and displays the fluorescence image of the observation region of the sample S, waits for input of the number of frames (number of frames) of the acquired fluorescence image and the setting of the analysis region, image analysis (calculation of correlation value), diffusion time Etc. are estimated.
  • the control unit 160 controls the galvanometer mirror 124 that is an xy scanning unit, the objective lens driving mechanism 128 that is a z scanning unit, the sample stage 190, and the like.
  • the control unit 160 includes a scan control unit 162, an image forming unit 164, a storage unit 166, a display unit 168, an input unit 170, an analysis region setting unit 172, an image selection unit 174, and a data extraction unit 176.
  • An analysis unit 178 and a stage control unit 180 are included.
  • the scanning control unit 162, the image forming unit 164, the storage unit 166, the stage control unit 180, the galvano mirror 124, the objective lens driving mechanism 128, the sample stage 190, and the photodetector 142 constitute an image acquisition unit.
  • the data extraction unit 176 and the analysis unit 178 constitute an arithmetic unit.
  • the scanning control unit 162 controls the galvanometer mirror 124 so as to raster scan the irradiation position of the excitation light with respect to the sample S when acquiring the fluorescence image of the sample S.
  • the scanning control unit 162 also controls the objective lens driving mechanism 128 so that the irradiation position of the excitation light is z-scanned with respect to the sample S if necessary.
  • the image forming unit 164 forms a fluorescent image of the sample S from the information on the irradiation position of the excitation light input from the scanning control unit 162 and the output signals of the photodetectors 142a,. Thereby, a fluorescence image is acquired.
  • the storage unit 166 sequentially stores the fluorescent images formed by the image forming unit 164.
  • the display unit 168 displays the fluorescence image of the sample S and the analysis result.
  • the input unit 170 includes, for example, a mouse and a keyboard, and constitutes a GUI in cooperation with the display unit 168. This GUI is used for setting the number of acquired frames, the observation area, and the analysis area.
  • the stage control unit 180 controls the sample stage 190 according to input information from the input unit 170, for example, in order to set an observation region.
  • the analysis area setting unit 172 sets an analysis area according to the input information from the input unit 170.
  • the image selection unit 174 selects fluorescent images of two or more frames used for analysis according to the input information from the input unit 170.
  • the data extraction unit 176 extracts necessary data from the fluorescence image stored in the storage unit 166 based on the input information from the analysis region setting unit 172 and the image selection unit 174.
  • the necessary data is a plurality of data pairs each composed of two pixels having the same acquisition time interval in each analysis region of the fluorescence image selected by the image selection unit 174.
  • the data included in the plurality of data pairs may be, for example, the data of all the pixels or the data of some pixels of all the fluorescent images stored in the storage unit 166, or the data stored in the storage unit 166.
  • the data of all pixels or the data of some pixels of a part of the fluorescent image that is being recorded may be used.
  • the analysis unit 178 calculates a correlation value described later on the data extracted by the data extraction unit 176.
  • excitation light emitted from light sources 112a,..., 112n passes through collimating lenses 114a,..., 114n, dichroic mirrors 116a,.
  • the measurement point is irradiated.
  • the measurement point irradiated with the excitation light is raster scanned in the xy direction by the galvanometer mirror 124. Further, if necessary, z scanning is performed by the objective lens driving mechanism 128.
  • the sample S that has received the excitation light emits fluorescence from the measurement point.
  • Light from the sample S (including undesired reflected light in addition to fluorescence) reaches the pinhole 134 through the objective lens 126, the galvanometer mirror 124, the dichroic mirror 122, and the converging lens 132.
  • the pinhole 134 Since the pinhole 134 is at a position conjugate with the measurement point, only light from the measurement point in the sample S passes through the pinhole 134.
  • the light that has passed through the pinhole 134 that is, the light from the measurement point in the sample S, enters the n-channel detection system 131 through the collimator lens 136.
  • the light incident on the n-channel detection system 131 is separated (that is, spectrally separated) by the dichroic mirrors 138a,..., 138n, and unwanted components are removed by the fluorescent filters 140a,.
  • the fluorescent filters 140a As a result, only the fluorescence generated by the excitation light from the light sources 112a,..., 112n enters the photodetectors 142a,.
  • Each of the photodetectors 142a,..., 142n outputs incident light, that is, a fluorescence intensity signal indicating the intensity of fluorescence emitted from a measurement point in the sample S.
  • This fluorescence intensity signal is input to the image forming unit 164.
  • the image forming unit 164 processes the input fluorescence intensity signal in synchronism with position information in the xy direction (and z direction) for each raster scan (and z scan), and the focal plane in the sample S
  • a fluorescence image of one frame (a flat surface or a curved surface where the measurement point has moved) is formed.
  • the formed fluorescent image is stored in the storage unit 166.
  • the series of operations described here is repeated for the set number of frames to be acquired, and a fluorescence image having the set number of frames is acquired.
  • Each fluorescent image is composed of a plurality of pixels from which pixel data is acquired in time series.
  • the fluorescent image stored in the storage unit 166 is processed as necessary and displayed on the display unit 168.
  • Step S1> The observation area of the sample S and the number of frames of the fluorescent image to be acquired are set. Fluorescence images of the set number of frames in the set observation area are acquired in time series. The fluorescence image is acquired by the same scanning method for the same observation region. In other words, when one set of scanning is performed from the irradiation of light toward a predetermined direction to the irradiation of light toward the predetermined direction again, at least two sets or more of the analysis region are scanned.
  • F k represents the fluorescence image of the k-th frame in one channel.
  • Each fluorescent image is composed of a plurality of pixels from which pixel data is acquired in time series. Pixel data is, for example, fluorescence intensity obtained from a two-dimensional or three-dimensional observation region.
  • a region (analysis region) R2 to be analyzed is set with respect to a region (observation region) R1 of the acquired fluorescence image.
  • the analysis region R2 is not limited to a part of the observation region R1, and may coincide with the observation region R1.
  • the analysis area R2 is set as an observation area R1, that is, a scanning area in step S1 by default in terms of application. This step is not necessary when analyzing the entire observation region R1.
  • Step S3> Select fluorescent images of 2 frames or more to be used for analysis.
  • the fluorescent image to be selected may be all of the fluorescent image acquired in step S1, or may be a part of the fluorescent image acquired in step S1.
  • a part of the fluorescence image acquired in step S1 may be continuous in time series or may not be continuous in time series.
  • Step S4> A plurality of data pairs having the same acquired time interval are extracted from the pixel data in each analysis region R2 of the fluorescence image selected in step S3. Then, the product-sum calculation of each data pair is performed for all of the selected fluorescent images to calculate the correlation value.
  • Each of the data pairs to be extracted may be the data itself of the corresponding pixel, or may be a statistical value of data of a plurality of pixels including the corresponding pixel.
  • the plurality of pixels may be, for example, a pixel of interest and a pixel adjacent thereto.
  • the statistical value may be, for example, any one of an average value, a maximum value, a minimum value, a relative difference, an absolute difference, and a relative ratio of pixel data. What statistics are used depends on what information is desired to be obtained by RICS analysis.
  • the correlation value may be calculated by reconstructing the images based on the pixel data, and calculating the correlation values for the reconstructed images. For example, the data of adjacent pixels is added to halve the number of pixel data. Alternatively, the data of one pixel is divided into a plurality of pieces. Originally, once the image is acquired, the number of pixel data does not increase, but it cannot be acquired on the assumption that the intensity of the acquired pixel data spreads around the pixel data in a Gaussian distribution. Supplement pixel data. Although the number of pixel data is not essentially increasing, it looks better.
  • the spatial autocorrelation value is calculated using the following equation (1).
  • G sa is the RICS spatial autocorrelation value
  • n is the number of frames used for the calculation
  • I ⁇ is the ⁇ th frame.
  • Pixel data, x and y are spatial coordinates of measurement points, ⁇ and ⁇ are changes in spatial coordinates from the measurement points, M 11 is the number of data product-sum calculations, and M ⁇ is the total number of data in the ⁇ frame. is there.
  • the number of frames n used for the calculation is represented by an integer of 2 or more and the number of frames of the acquired fluorescent image.
  • the calculation of a correlation value calculates a spatial cross-correlation value using following Formula (2), for example.
  • G sc is the RICS spatial cross-correlation value
  • n is the number of frames used in the calculation
  • I 1 ⁇ is the ⁇ th frame of channel 1
  • I 2 ⁇ is the fluorescence intensity data of the ⁇ frame of channel 2
  • x and y are the spatial coordinates of the measurement point
  • ⁇ and ⁇ are the changes in the spatial coordinates from the measurement point
  • M 12 is the data product
  • M 1 ⁇ is the total number of data in the ⁇ frame of channel 1
  • M 2 ⁇ is the total number of data in the ⁇ frame of channel 2.
  • Equation (2) is a formula for calculating a spatial cross-correlation value between channel 1 and channel 2, but the channel may be changed as appropriate.
  • the number of frames n used for the calculation is represented by an integer of 2 or more and the number of frames of the acquired fluorescent image.
  • FIG. 7 schematically shows the product-sum calculation in G s (2, 4).
  • 1, and the product-sum calculation is performed on a pair of data of two pixels having a spatial shift (2, 4) with respect to the analysis region of the fluorescence image of the first frame.
  • a data pair of two pixels having a spatial deviation (2, 4) has a predetermined time interval for data acquisition. Means a pair of data that is time.
  • the product-sum calculation is performed on the data pair of two pixels having a spatial shift (2, 4) with respect to the analysis region of the fluorescence image of the ⁇ frame.
  • the correlation value is calculated by continuously performing the product-sum calculation for all analysis regions of the n-frame fluorescence image in this way.
  • Step S5> The calculation result of the spatial correlation value in the above step S4 is fitted by equation (3).
  • G s is the RICS spatial correlation value
  • S is the influence of scanning in the RICS analysis
  • G is the influence of time delay in the RICS analysis
  • D is the diffusion constant
  • ⁇ and ⁇ are the spatial coordinates from the measurement point.
  • ⁇ r is the pixel size
  • N is the number of molecules
  • W 0 is the lateral radius of the excitation laser beam
  • W Z is the longitudinal radius of the excitation laser beam
  • ⁇ p is the pixel time
  • ⁇ l is the line time
  • is an arbitrary constant.
  • the pixel time means a shift in acquisition time between pixels.
  • the line time means a difference in acquisition time between the first pixel of an arbitrary line and the first pixel of the next line. That is, the line time means the time required to scan one line.
  • the diffusion time is estimated by fitting using equation (3).
  • the correlation value G sa or the correlation value G sc for different delay times is obtained using Formula (1) or Formula (2).
  • the delay time means the difference between the acquisition time of one pixel and the acquisition time of another pixel.
  • the difference between the correlation value G sa or the correlation value G sc obtained as the measurement value and the G s obtained as the theoretical value is minimized while varying the unknown diffusion constant D and the number of molecules N.
  • the fitting by the expression (3) is to estimate the optimal number of molecules or diffusion constant in the two-dimensional or three-dimensional observation region while changing the diffusion constant D and the number of molecules N.
  • D is a diffusion constant
  • is a diffusion time
  • W 0 is a lateral radius of the excitation laser beam.
  • Step S6> Display the analysis results and save as appropriate. Specifically, the calculation result of the spatial correlation value obtained in step S4 and the fitting result of the spatial correlation value obtained in step S5 are displayed.
  • An example of the analysis result is shown in FIGS.
  • FIG. 8 is an image showing the calculation result of the spatial correlation value for a small molecule in luminance
  • FIG. 9 shows the fitting result
  • FIG. 10 is an image showing the calculation result of the spatial correlation value for a large molecule in luminance
  • FIG. 11 shows the fitting result.
  • FIG. 12 shows the result of comparing the diffusion constant (D) of the EGFP solution (the dye solution diluted with distilled water) while changing the ROI size in the analysis region.
  • D diffusion constant
  • ROI size 256 means that the number of pixels of 256 ⁇ 256 is included in the analysis region.
  • one correlation value is obtained by product-sum calculation for two pixels in the analysis region of one frame image.
  • a product-sum calculation is continuously performed on two pixels in an analysis region of an image of a plurality of frames to calculate one correlation value.
  • data used for calculating one correlation value is not limited to data in one frame image, and the number of frames of an image used for calculating one correlation value is increased. As a result, the number of data used for calculating the correlation value increases. Therefore, RICS analysis can be performed with high accuracy.
  • the image acquired by the raster scan has been described.
  • the image is not limited to the image acquired by the raster scan, and the pixel data is obtained from a plurality of pixels acquired in time series. And may be obtained by other scanning methods.
  • DESCRIPTION OF SYMBOLS 100 ... Image analysis apparatus 110 ... Light irradiation part, 112a, ..., 112n ... Light source, 114a, ..., 114n ... Collimating lens, 116a, ..., 116n ... Dichroic mirror, 122 ... Dichroic mirror, 124 ... Galvano mirror, 126 ... Objective lens 128 ... Objective lens drive mechanism 130 ... Photodetector 132 ... Converging lens 134 ... Pinhole 136 ... Collimator lens 138a ... 138n ... Dichroic mirror 140a ... 140n ... Fluorescent filter 142a ,..., 142 n... Photodetector, 160... Control unit, 162...
  • Scanning control unit 164 ... image forming unit, 166... Storage unit, 168 ... display unit, 170 ... input unit, 172.
  • Image selection unit 176 ... data extraction unit, 178 ... analysis unit, 180 ... stage Control unit, 190 ... sample stage, R1 ... observation area, R2 ... the analysis region.

Abstract

 ステップS1:複数フレームの蛍光画像を時系列的に取得する。各蛍光画像は、ピクセルのデータが時系列的に取得された複数のピクセルからなる。ステップS2:蛍光画像に対して解析領域を設定する。ステップS3:解析に利用する2フレーム以上の蛍光画像を選定する。ステップS4:ステップS3において選定した蛍光画像の各々の解析領域内の取得時間間隔が同じ二つのピクセルからその各々がなる複数のデータペアを抽出し、データペアの各々の積和計算を選定した蛍光画像の全てについて行なって相関値を算出する。

Description

画像解析方法および画像解析装置
 本発明は、画像解析方法および画像解析装置に関する。
 従来、ラスターイメージ相関分光法(RICS:Raster Image Correlation Spectroscopy)として非特許文献1,2に示すような方法が提案されている。この画像解析方法において、1フレーム以上のラスター走査画像からなる蛍光画像を取得する。つまり、画像解析したい試料において、興味を持っている領域を決め、その領域をラスター走査方式で繰り返し走査し、複数フレームの蛍光強度からなる画像を取得する。フレーム中の蛍光強度はピクセル単位でデータとして表わされている。
 これらのピクセル単位のデータ(ピクセルのデータ)は、それぞれ取得された時間および取得された位置が異なるため、各データに対応する取得時間および取得位置はずれている。
 したがって、これらのピクセルのデータを用いて、空間相関解析することで、分子の揺らぎによる相関特性を得ることができる。ここで、分子の相関特性からは、拡散定数や分子数を求めることができる。
 このように、空間相関解析することで、分子拡散時間や、分子数等を評価することができるため、分子間の相互作用を観察することが可能である。
「Measuring Fast Dynamics in Solutions and Cells with a Laser Scanning Microscope」, Michelle A. Digman, Claire M. Brown, Parijat Sengupta, Paul W. Wiseman, Alan R. Horwitz, and Enrico Gratton, Biophysical Journal, Vol.89, P1317-1327, August 2005. 「Fluctuation Correlation Spectroscopy with a Laser-Scanning Microscope: Exploiting the Hidden Time Structure」, Michelle A. Digman, Parijat Sengupta, Paul W. Wiseman, Claire M. Brown, Alan R. Horwitz, and Enrico Gratton, Biophysical Journal: Biophysical Letters, L33-36, 2005.
 従来、RICSの空間相関解析において、一つのRICSの解析結果を得るためには、1フレームの画像を構成するピクセルのデータだけを用いる。これは、1フレーム以上の画像を取得した場合であっても同様で、一つのRICSの解析結果を得るためには、1フレームの画像を構成するピクセルのデータだけを用いる。すなわち、一つの画像を構成するピクセルのデータと、他の画像を構成するピクセルのデータを用いて、一つのRICSの解析結果を得ていない。
 しかし、細胞観察のような細胞の核、膜、質などの異なる局所的な解析領域に限定してRICSの解析を行なう場合、当該解析領域に含まれるピクセル数が少ない(ピクセル数は例えば8×8である)。このような領域について、空間相関解析を行う場合、RICSの空間相関解析に用いるデータ数が少なすぎるため、解析結果の精度が低下するという問題が生じる。何故なら、RICSの空間相関演算は統計計算の一種で、データ数が多いほど精度が高く、データ数が少ないほど誤差が大きくなるためである。つまり、空間相関解析をする領域に含まれるデータ数が少なすぎると、統計計算の結果としてのRICSの解析精度が低下してしまう。
 本発明の目的は、ピクセル数の少ない解析領域に対しても高い精度で空間相関解析を行なえるRICSの画像解析方法を提供することである。
 本発明による画像解析方法は、各画像のピクセルのデータが時系列的に取得された複数のピクセルからなる複数フレームの画像を時系列的に取得する画像取得ステップと、前記画像に対して解析領域を設定する解析領域設定ステップと、前記画像の中から解析に利用する2フレーム以上の画像を選定する画像選定ステップと、前記選定画像の各々の前記解析領域内の取得時間間隔が同じ二つのピクセルからその各々がなる複数のデータペアを抽出し、前記データペアの各々の積和計算を前記選定画像の全てについて行なって相関値を算出する演算ステップとを有している。
 本発明によれば、ピクセル数の少ない解析領域に対しても高い精度で空間相関解析を行なえるRICSの画像解析方法が提供される。
図1は、本発明の実施形態による画像解析装置を概略的に示している。 図2は、図1に示される制御部の機能ブロックを示している。 図3は、本発明の実施形態による画像解析のフローチャートである。 図4は、図3のフローチャート中のステップ4における計算手順を示している。 図5は、時系列的に取得された複数フレームの蛍光画像を示している。 図6は、観察領域と解析領域を示している。 図7は、複数グループに分類された複数フレームの蛍光画像による空間相関演算の積和計算部分を模式的に示している。 図8は、小さい分子に対するRICSによる空間相関値の算出結果を輝度で示した画像である。 図9は、小さい分子に対するRICSによる空間相関値のフィッティング結果を示している。 図10は、大きい分子に対するRICSによる空間相関値の算出結果を輝度で示した画像である。 図11は、大きい分子に対するRICSによる空間相関値のフィッティング結果を示している。 図12は、EGFP溶液の拡散定数(D)を解析領域のROIサイズを変えながら比較した結果を示している。
 以下、図面を参照しながら本発明の実施形態について説明する。
 図1は、本発明の実施形態による画像解析装置を概略的に示している。この画像解析装置は、試料の蛍光観察のための走査型共焦点光学顕微鏡をベースに構成されている。
 図1に示すように、画像解析装置100は、試料Sに励起光を照射する光照射部110と、試料S内の測定点から発せられる光を検出する光検出部130と、画像解析に必要な制御を行なう制御部160と、試料Sを支持する試料ステージ190とを有している。
 試料Sはマイクロプレートやスライドガラスなどの試料容器に収容され、試料ステージ190に載置される。試料ステージ190は、例えば、試料Sを光照射部110および光検出部130に対して横方向(xy方向)および高さ方向(z方向)に移動可能に支持する。例えば、試料ステージ190は、出力軸が互いに直交する三つのステッピング・モーターを含んでおり、これらのステッピング・モーターによって試料Sをxyz方向に移動し得る。
 画像解析装置100は、多重光照射・多重光検出型である。このため、光照射部110はnチャンネルの光源系111を含み、これに対応して光検出部130はnチャンネルの検出系131を含んでいる。nチャンネルの検出系131は、それぞれ、nチャンネルの光源系111から射出された励起光によって生成された蛍光を検出する。ここで、nチャンネルは、チャンネル1、チャンネル2、・・・チャンネルnによって構成される。チャンネルは、励起光の種類によってそれぞれ異なる。
 光照射部110のnチャンネルの光源系111は、光源112a,…,112nとコリメートレンズ114a,…,114nとダイクロイックミラー116a,…,116nとを含んでいる。光源112a,…,112nは、試料Sに含まれる蛍光色素を励起して試料Sから光(蛍光)を発せさせるための励起光を発する。光源112a,…,112nから発せられる励起光の波長は、試料Sに含まれる蛍光色素の種類に対応して、互いに相違している。光源112a,…,112nは、例えば、試料S中の蛍光色素に合った発振波長のレーザー光源で構成される。コリメートレンズ114a,…,114nは、それぞれ、光源112a,…,112nから発せられた励起光をコリメートする。ダイクロイックミラー116a,…,116nは、それぞれ、コリメートレンズ114a,…,114nを通過した励起光を同じ方向に反射する。ダイクロイックミラー116a,…,116nは、それぞれ、図1の上方から入射する励起光を透過し、図1の右方から入射する励起光を反射する。その結果、光源112a,…,112nからそれぞれ射出された異なる波長の励起光は、ダイクロイックミラー116aの通過後に一本のビームに合成される。ダイクロイックミラー116nは、励起光を透過する必要がないので、単なるミラーに変更されてもよい。
 光照射部110はさらに、ダイクロイックミラー122とガルバノミラー124と対物レンズ126と対物レンズ駆動機構128を含んでいる。ダイクロイックミラー122は、光源系111からの励起光をガルバノミラー124に向けて反射し、試料Sから発せられる蛍光を透過する。ガルバノミラー124は、励起光を対物レンズ126に向けて反射するとともに、その反射方向を変更する。対物レンズ126は、励起光を収束して試料S内の測定点に照射するとともに、試料S内の測定点からの光を取り込む。対物レンズ126には、微小な共焦点領域(測定点)の形成のために、NA(開口数)の大きいものが使用される。これにより得られる共焦点領域の大きさは、直径0.6μm程度、長さ2μm程度の略円筒状となる。ガルバノミラー124は、測定点をxy方向に走査するxy走査手段を構成している。xy走査手段は、ガルバノミラーを使用して構成するほかに、音響光学変調素子(AOM)やポリゴンミラー、ホログラムスキャナーなどを使用して構成してもよい。対物レンズ駆動機構128は、対物レンズ126を光軸に沿って移動させる。これにより、測定点がz方向に移動される。つまり、対物レンズ駆動機構128は、測定点をz方向に走査するz走査手段を構成している。
 光検出部130は、対物レンズ126とガルバノミラー124とダイクロイックミラー122を光照射部110と共有している。光検出部130はさらに、収束レンズ132とピンホール134とコリメートレンズ136とを含んでいる。収束レンズ132は、ダイクロイックミラー122を透過した光を収束する。ピンホール134は、収束レンズ132の焦点に配置されている。つまり、ピンホール134は、試料S内の測定点に対して共役な位置にあり、測定点からの光だけを選択的に通す。コリメートレンズ136は、ピンホール134を通過した光を平行にする。コリメートレンズ136を通過した光は、nチャンネルの検出系131に入射する。
 nチャンネルの検出系131は、ダイクロイックミラー138a,…,138nと蛍光フィルター140a,…,140nと光検出器142a,…,142nとを含んでいる。
ダイクロイックミラー138a,…,138nは、それぞれ、光源112a,…,112nからの励起光によって試料Sから生成された蛍光の波長域付近の波長の光を選択的に反射する。ダイクロイックミラー138nは、光を透過する必要がないので、単なるミラーに変更されてもよい。蛍光フィルター140a,…,140nは、それぞれ、ダイクロイックミラー138a,…,138nによって反射された光から、不所望な波長成分の光を遮断し、光源112a,…,112nからの励起光によって生成された蛍光だけを選択的に透過する。蛍光フィルター140a,…,140nを透過した蛍光はそれぞれ光検出器142a,…,142nに入射する。光検出器142a,…,142nは、入射した光の強度に対応した信号を出力する。すなわち、光検出器142a,…,142nは、試料S内の測定点からの蛍光強度信号を出力する。
 制御部160は例えばパーソナルコンピューターで構成される。制御部160は、試料Sの観察領域の蛍光画像の取得と記憶と表示、取得する蛍光画像のフレーム数(枚数)や解析領域の設定の入力待ち、画像解析(相関値の算出)、拡散時間の推定などを行なう。また制御部160は、xy走査手段であるガルバノミラー124、z走査手段である対物レンズ駆動機構128、試料ステージ190などの制御を行なう。
 図1に示される制御部の機能ブロックを図2に示す。制御部160は、図2に示すように、走査制御部162と画像形成部164と記憶部166と表示部168と入力部170と解析領域設定部172と画像選定部174とデータ抽出部176と解析部178とステージ制御部180とを含んでいる。ここで、走査制御部162と画像形成部164と記憶部166とステージ制御部180と上述したガルバノミラー124と対物レンズ駆動機構128と試料ステージ190と光検出器142とが画像取得部を構成し、データ抽出部176と解析部178とが演算部を構成する。
 走査制御部162は、試料Sの蛍光画像を取得する際、励起光の照射位置を試料Sに対してラスター走査するようにガルバノミラー124を制御する。走査制御部162はまた、必要であれば、励起光の照射位置を試料Sに対してz走査するように対物レンズ駆動機構128を制御する。画像形成部164は、走査制御部162から入力される励起光の照射位置の情報と光検出器142a,…,142nの出力信号とから試料Sの蛍光画像を形成する。これにより、蛍光画像が取得される。記憶部166は、画像形成部164で形成された蛍光画像を順次記憶する。表示部168は、試料Sの蛍光画像や解析結果を表示する。入力部170は、例えばマウスやキーボードを含み、表示部168と共同してGUIを構成する。このGUIは、取得フレーム数や観察領域や解析領域の設定などに利用される。ステージ制御部180は、例えば観察領域を設定するために、入力部170からの入力情報に従って試料ステージ190を制御する。解析領域設定部172は、入力部170からの入力情報に従って解析領域を設定する。画像選定部174は、入力部170からの入力情報に従って、解析に利用する2フレーム以上の蛍光画像を選定する。データ抽出部176は、解析領域設定部172と画像選定部174からの入力情報に基づいて、記憶部166に記憶されている蛍光画像から必要なデータを抽出する。必要なデータは、画像選定部174によって選定された蛍光画像の各々の解析領域内の取得時間間隔が同じ二つのピクセルからその各々がなる複数のデータペアである。これら複数のデータペアに含まれるデータは、例えば、記憶部166に記憶されているすべての蛍光画像のすべてのピクセルのデータまたは一部のピクセルのデータであってよく、あるいは、記憶部166に記憶されている一部の蛍光画像のすべてのピクセルのデータまたは一部のピクセルのデータであってもよい。解析部178は、データ抽出部176によって抽出されたデータに対して後述する相関値の演算を行なう。
 図1において、光源112a,…,112nから発せられた励起光は、コリメートレンズ114a,…,114nとダイクロイックミラー116a,…,116nとダイクロイックミラー122とガルバノミラー124と対物レンズ126を経て試料S内の測定点に照射される。励起光が照射される測定点は、ガルバノミラー124によってxy方向にラスター走査される。さらに必要であれば、対物レンズ駆動機構128によってz走査される。励起光を受けた試料Sは測定点から蛍光を発する。試料Sからの光(蛍光のほかに不所望な反射光などを含む)は、対物レンズ126とガルバノミラー124とダイクロイックミラー122と収束レンズ132を経てピンホール134に至る。ピンホール134は測定点と共役な位置にあるため、試料S内の測定点からの光だけがピンホール134を通過する。ピンホール134を通過した光すなわち試料S内の測定点からの光はコリメートレンズ136を経てnチャンネルの検出系131に入射する。nチャンネルの検出系131に入射した光は、ダイクロイックミラー138a,…,138nによって波長に従って分離される(つまり分光される)とともに、蛍光フィルター140a,…,140nによって不所望な成分が除去される。その結果、光源112a,…,112nからの励起光によって生成された蛍光だけが光検出器142a,…,142nにそれぞれ入射する。光検出器142a,…,142nは、それぞれ、入射光すなわち試料S内の測定点から発せられた蛍光の強度を示す蛍光強度信号を出力する。この蛍光強度信号は画像形成部164に入力される。画像形成部164は、1回のラスター走査(およびz走査)ごとに、入力される蛍光強度信号をxy方向(およびz方向)の位置情報に同期させて処理して、試料S内の焦点面(測定点が移動した平面または曲面)の1フレームの蛍光画像を形成する。形成された蛍光画像は、記憶部166に保存される。ここに述べた一連の動作は、設定された取得するフレーム数だけ繰り返され、設定されたフレーム数の蛍光画像が取得される。各蛍光画像は、ピクセルのデータが時系列的に取得された複数のピクセルからなる。
 記憶部166に保存された蛍光画像は、必要に応じて処理され、表示部168に表示される。例えば、測定点のz位置を変えて複数フレームの蛍光画像を取得し、それらを合成して三次元画像を形成し、これを表示部168に表示することも可能である。
 以下、図3と図4を参照しながら画像解析の手順について説明する。また、各ステップについて、適宜、図5~図7を参照しながら説明する。
 <ステップS1>:
 試料Sの観察領域と取得する蛍光画像のフレーム数を設定する。設定した観察領域の設定したフレーム数の蛍光画像を時系列的に取得する。蛍光画像の取得は、同一の観察領域に対して同一の走査方法によって行なう。すなわち、所定の方向に向けて光を照射した後、再び当該所定の方向に向けて光を照射するまでを1セットの走査とした場合、少なくとも2セット以上、解析領域が走査される。
 取得した複数フレームの蛍光画像を模式的に図5に示す。図5において、Fは、一つのチャンネルにおけるkフレーム目の蛍光画像を表している。各蛍光画像は、ピクセルのデータが時系列的に取得された複数のピクセルからなる。ピクセルのデータは、たとえば、2次元または3次元の観察領域から得られた蛍光強度である。
 <ステップS2>:
 図6に示すように、取得した蛍光画像の領域(観察領域)R1に対して解析する領域(解析領域)R2を設定する。解析領域R2は、観察領域R1の一部に限定されるものではなく、観察領域R1に一致していてもよい。解析領域R2は、アプリケーション的にはデフォルトで観察領域R1すなわちステップS1における走査領域に設定されている。観察領域R1の全体を解析する場合には、このステップは不要である。
 <ステップS3>:
 解析に利用する2フレーム以上の蛍光画像を選定する。選定する蛍光画像は、ステップS1において取得した蛍光画像の全てであってもよいし、ステップS1において取得した蛍光画像の一部であってもよい。また、ステップS1において取得した蛍光画像の一部は、時系列的に連続していてもよいし、時系列的に連続していていなくてもよい。
 <ステップS4>:
 ステップS3において選定した蛍光画像の各々の解析領域R2内のピクセルのデータの中から、取得された時間の間隔が同じであるデータペアを複数抽出する。そして、データペアの各々の積和計算を、選定した蛍光画像の全てについて行なって相関値を算出する。抽出するデータペアの各々は、それに対応するピクセルのデータそのものであってもよいし、それに対応するピクセルを含む複数のピクセルのデータの統計値であってもよい。複数のピクセルは、たとえば、注目のピクセルおよびこれに隣接するピクセルであってよい。統計値は、たとえば、ピクセルのデータの平均値、最大値、最小値、相対差、絶対差、相対比のいずれかであってよい。どのような統計値を使用するかは、RICSの解析によってどのような情報を得たいかによって決める。
 また相関値の演算は、ピクセルのデータに基づいて画像をそれぞれ構成し直し、構成し直した画像について相関値を演算してもよい。例えば、隣のピクセルのデータ同士を足して、ピクセルのデータの数を半分にする。または、一つのピクセルのデータを複数に分割する。本来ならば、一度画像を取得するとピクセルのデータの数は増えないが、取得したピクセルのデータの強度がそのピクセルのデータの周囲にガウシアン分布で広がっていると仮定して、本来取得できていないピクセルのデータを補う。本質的にピクセルのデータの数が増えている訳ではないが、見た目が良くなる。
 相関値の演算は、例えば、次式(1)を用いて空間自己相関値を算出する。
Figure JPOXMLDOC01-appb-M000007
ここで、GsaはRICSの空間自己相関値、nは計算に使用するフレーム数であり、ηはフレームを特定するパラメータ(η=1,2,…,n)、Iηはηフレーム目のピクセルのデータ、x,yは測定点の空間的座標、ξ,ψは測定点からの空間的座標の変化量、M11はデータ積和計算の回数、Mηはηフレーム目のデータ総数である。計算に使用するフレーム数nは、2以上かつ取得した蛍光画像のフレーム数以下の整数で表される。
 または、相関値の演算は、例えば、次式(2)を用いて空間相互相関値を算出する。
Figure JPOXMLDOC01-appb-M000008
ここで、GscはRICSの空間相互相関値、nは計算に使用するフレーム数、ηはフレームを特定するパラメータ(η=1,2,…,n)、I1ηはチャンネル1のηフレーム目の蛍光強度データ、I2ηはチャンネル2のηフレーム目の蛍光強度データ、x,yは測定点の空間的座標、ξ,ψは測定点からの空間的座標の変化量、M12はデータ積和計算の回数、M1ηはチャンネル1のηフレーム目のデータ総数、M2ηはチャンネル2のηフレーム目のデータ総数である。式(2)は、チャンネル1とチャンネル2との間の空間相互相関値の算出式であるが、チャンネルは適宜変更されてよい。計算に使用するフレーム数nは、2以上かつ取得した蛍光画像のフレーム数以下の整数で表される。
 ここで、式(1)または式(2)による計算の手順について図4と図7を参照して説明する。図7は、G(2,4)中の積和計算を模式的に示している。
 まず、η=1とし、1フレーム目の蛍光画像の解析領域に対して、空間ずれ(2,4)を有する二つのピクセルのデータのペアについて積和計算を行なう。なお、RICSの解析では、ラスター走査方式で繰り返し解析領域を走査しているため、空間ずれ(2,4)を有する二つのピクセルのデータのペアとは、データが取得された時間の間隔が所定時間であるデータのペアを意味する。
 次に、ηに1を加算し、η=2とし、2フレーム目の蛍光画像の解析領域に対して、空間ずれ(2,4)を有する二つのピクセルのデータのペアについて積和計算を継続して行なう。
 その後、ηに1を加算した値がn以下である限り、ηフレーム目の蛍光画像の解析領域に対して、空間ずれ(2,4)を有する二つのピクセルのデータのペアについて積和計算を継続して行なう。
 最終的に、このようにnフレームの蛍光画像の全ての解析領域に対して積和計算を継続的に行なうことにより相関値を算出する。
 このように、本実施形態では、η=1のときの、データペアについて積和計算を行った後、その積和計算の結果のみに基づいて一つの相関解析結果を得るのではなく、ηが1からnのときの、データペアについて積和計算を行った後、それらの積和計算の結果に基づいて一つの相関解析結果を得る。
 また、別の言い方をすれば、nセットの走査により得られたそれぞれのピクセルのデータから、任意の2つのピクセルのデータの組み合わせであって、光が照射された時間の間隔が、所定時間である組み合わせを全て抽出し、抽出されたデータの全ての組み合わせについて一つの相関解析結果を得る。
 <ステップS5>:
 上記ステップS4の空間相関値の算出結果を式(3)によってフィッティングする。
Figure JPOXMLDOC01-appb-M000009
ここで、GはRICSの空間相関値、SはRICSの解析における走査の影響、GはRICSの解析における時間遅延の影響、Dは拡散定数、ξ,ψは測定点からの空間的座標の変化量、δはピクセルサイズ、Nは分子数、Wは励起レーザビームの横方向の半径、Wは励起レーザビームの縦方向の半径、τはピクセル時間、τはライン時間、γは任意の定数である。
 なお、γについては、システムに応じて適宜設定することができる。例えば、γ=1としてフィッティングしてよい。
 また、ピクセル時間とは、ピクセル間の取得時間のずれを意味する。また、ライン時間とは、任意のラインの最初のピクセルと、その次のラインの最初のピクセルと、の間の取得時間のずれを意味する。すなわち、ライン時間は、一ライン走査するのに要する時間を意味する。
 このように式(3)を用いてフィッティングすることで、拡散時間の推定をする。具体的には、式(1)または式(2)を用いて、異なる遅延時間に対する相関値Gsaまたは相関値Gscをそれぞれ求める。ここで、遅延時間とは、一の画素の取得時間と、別の画素の取得時間と、の差を意味している。例えば、(ξ,ψ)=(1,1)と、(ξ,ψ)=(4,2)と、の遅延時間は、(4-1)τ+(2-1)τで表される。
 ここで、式(3)において、遅延時間がゼロのときは(ξ=0、ψ=0)、Sは1であり、Gは1/Nで表せる。従って、分子数を求めることができる。これを新たに、式(3)に代入する。
 そして、未知数である拡散定数Dと分子数Nを変動させながら、測定値として得られる相関値Gsaまたは相関値Gscと、理論値として得られるGと、の差が最小となるように、適切な拡散定数Dと分子数Nを求める。このように、式(3)によるフィッティングとは、拡散定数Dと分子数Nを変動させながら、2次元または3次元の観察領域における、最適な、分子数または拡散定数を推定することである。
 そして、拡散定数からは、拡散時間を求めることができる。
 すなわち、拡散定数と、拡散時間との関係は、次式(4)で表される。
Figure JPOXMLDOC01-appb-M000010
ここで、Dは拡散定数、τは拡散時間、Wは励起レーザビームの横方向の半径を意味する。
 <ステップS6>:
 解析結果を表示するとともに適宜保存する。具体的には、ステップS4で得た空間相関値の算出結果と、ステップS5で得た空間相関値のフィッティング結果を表示する。解析結果の一例を図8~図11に示す。図8は、小さい分子に対する空間相関値の算出結果を輝度で示した画像であり、図9は、そのフィッティング結果を示している。また図10は、大きい分子に対する空間相関値の算出結果を輝度で示した画像であり、図11は、そのフィッティング結果を示している。
 従来、RICSのような画像データを計算の元とする空間的相関解析では、1フレームの画像の解析領域中のピクセルのデータを用いて一つの相関値を算出する。解析領域が小さくなると、積和計算に利用できるデータペアの数が減少する。このため、解析領域が非常に小さくなると、相関値が適切に算出できなくなる。図12は、EGFP溶液(色素液を蒸留水で希釈したもの)の拡散定数(D)を解析領域のROIサイズを変えながら比較した結果を示している。図12において、ROIサイズ=256は、解析領域内に256×256のピクセル数が含まれていることを意味する。図12から分かるように、解析領域のROIサイズが大きいほど、EGFP溶液の拡散定数90(理論値)に近い値を示し、解析領域のROIサイズが小さいほど、EGFP溶液の拡散定数90(理論値)から遠い値を示している。すなわち、ピクセルのデータが多いほど、正しい結果(理論値)に近い値(測定値)が得られることが分かる。
 これに対して、本実施形態では、RICSのような画像データを計算の元とする空間的相関解析において、1フレームの画像の解析領域内の二つのピクセルに対する積和計算によって一つの相関値を算出するのではなく、複数フレームの画像の解析領域内の二つのピクセルに対して積和計算を継続的に行なって一つの相関値を算出する。このため、一つの相関値の算出に用いるデータが1フレームの画像中のデータに制限されず、一つの相関値の算出に用いる画像のフレーム数が増加される。その結果として、相関値の算出に用いるデータの数が増大する。このため、高い精度でRICSの解析を行なえる。
 これまで、図面を参照しながら本発明の実施形態を述べたが、本発明は、これらの実施形態に限定されるものではなく、その要旨を逸脱しない範囲において様々な変形や変更が施されてもよい。
 また実施形態では、ラスター走査によって取得された画像について説明したが、画像は、ラスター走査によって取得されたものに限定されるものではなく、ピクセルのデータが時系列的に取得された複数のピクセルからなる画像であればよく、他の走査方法によって取得されたものであってもよい。
100…画像解析装置、110…光照射部、112a,…,112n…光源、114a,…,114n…コリメートレンズ、116a,…,116n…ダイクロイックミラー、122…ダイクロイックミラー、124…ガルバノミラー、126…対物レンズ、128…対物レンズ駆動機構、130…光検出部、132…収束レンズ、134…ピンホール、136…コリメートレンズ、138a,…,138n…ダイクロイックミラー、140a,…,140n…蛍光フィルター、142a,…,142n…光検出器、160…制御部、162…走査制御部、164…画像形成部、166…記憶部、168…表示部、170…入力部、172…解析領域設定部、174…画像選定部、176…データ抽出部、178…解析部、180…ステージ制御部、190…試料ステージ、R1…観察領域、R2…解析領域。

Claims (18)

  1.  各画像のピクセルのデータが時系列的に取得された複数のピクセルからなる複数フレームの画像を時系列的に取得する画像取得ステップと、
     前記画像に対して解析領域を設定する解析領域設定ステップと、
     前記画像の中から解析に利用する2フレーム以上の画像を選定する画像選定ステップと、
     前記選定画像の各々の前記解析領域内の取得時間間隔が同じ二つのピクセルからその各々がなる複数のデータペアを抽出し、前記データペアの各々の積和計算を前記選定画像の全てについて行なって相関値を算出する演算ステップとを有している画像解析方法。
  2.  前記選定画像は、前記画像のすべてからなる、請求項1に記載の画像解析方法。
  3.  前記選定画像は、前記画像の一部からなる、請求項1に記載の画像解析方法。
  4.  前記データペアの各々は、前記ピクセルのデータの統計値であり、前記統計値は、前記ピクセルのデータの平均値、最大値、最小値、相対差、絶対差、相対比のいずれかである、請求項1に記載の画像解析方法。
  5.  前記ピクセルのデータは、2次元または3次元の観察領域から得られた蛍光強度である、請求項1に記載の画像解析方法。
  6.  前記演算ステップは、前記ピクセルのデータに基づいて、前記複数の画像をそれぞれ構成し直し、構成し直した画像について相関値を演算する、請求項1に記載の画像解析方法。
  7.  前記画像は、走査型顕微鏡によって得られたものである、請求項1に記載の画像解析方法。
  8.  前記演算ステップは、次式(1)または次式(2)を用いて、2次元または3次元の観察領域の自己相関または相互相関演算を行う、
    Figure JPOXMLDOC01-appb-M000001
    ここで、GsaはRICSの空間自己相関値、nは計算に使用するフレーム数、ηはフレームを特定するパラメータ(η=1,2,…,n)、Iηはηフレーム目のピクセルのデータ、x,yは測定点の空間的座標、ξ,ψは測定点からの空間的座標の変化量、M11はデータ積和計算の回数、Mηはηフレーム目のデータ総数であり、
    Figure JPOXMLDOC01-appb-M000002
    ここで、GscはRICSの空間相互相関値、nは計算に使用するフレーム数、ηはフレームを特定するパラメータ(η=1,2,…,n)、I1ηはチャンネル1のηフレーム目の蛍光強度データ、I2ηはチャンネル2のηフレーム目の蛍光強度データ、x,yは測定点の空間的座標、ξ,ψは測定点からの空間的座標の変化量、M12はデータ積和計算の回数、M1ηはチャンネル1のηフレーム目のデータ総数、M2ηはチャンネル2のηフレーム目のデータ総数である、請求項1に記載の画像解析方法。
  9.  前記演算ステップは、次式(3)を用いて、前記空間相関値の算出結果をフィッティングし、分子数または拡散定数を推定する、
    Figure JPOXMLDOC01-appb-M000003
    ここで、GはRICSの空間相関値、SはRICSの解析における走査の影響、GはRICSの解析における時間遅延の影響、Dは拡散定数、ξ,ψは測定点からの空間的座標の変化量、δはピクセルサイズ、Nは分子数、Wは励起レーザビームの横方向の半径、Wは励起レーザビームの縦方向の半径、τはピクセル時間、τはライン時間、γは任意の定数である、請求項8に記載の画像解析方法。
  10.  各画像のピクセルのデータが時系列的に取得された複数のピクセルからなる複数フレームの画像を時系列的に取得する画像取得手段と、
     前記画像に対して解析領域を設定する解析領域設定手段と、
     前記画像の中から解析に利用する2フレーム以上の画像を選定する画像選定手段と、
     前記選定画像の各々の前記解析領域内の取得時間間隔が同じ二つのピクセルからその各々がなる複数のデータペアを抽出し、前記データペアの各々の積和計算を前記選定画像の全てについて行なって相関値を算出する演算手段とを有している画像解析装置。
  11.  前記選定画像は、前記画像のすべてからなる、請求項10に記載の画像解析装置。
  12.  前記選定画像は、前記画像の一部からなる、請求項10に記載の画像解析装置。
  13.  前記データペアの各々は、前記ピクセルのデータの統計値であり、前記統計値は、前記ピクセルのデータの平均値、最大値、最小値、相対差、絶対差、相対比のいずれかである、請求項10に記載の画像解析装置。
  14.   前記ピクセルのデータは、2次元または3次元の観察領域から得られた蛍光強度である、請求項10に記載の画像解析装置。
  15.  前記演算ステップは、前記ピクセルのデータに基づいて、前記複数の画像をそれぞれ構成し直し、構成し直した画像について相関値を演算する、請求項10に記載の画像解析装置。
  16.  前記画像は、走査型顕微鏡によって得られたものである、請求項10に記載の画像解析装置。
  17.  前記演算ステップは、次式(1)または次式(2)を用いて、2次元または3次元の観察領域の自己相関または相互相関演算を行う、
    Figure JPOXMLDOC01-appb-M000004
    ここで、GsaはRICSの空間自己相関値、nは計算に使用するフレーム数、ηはフレームを特定するパラメータ(η=1,2,…,n)、Iηはηフレーム目のピクセルのデータ、x,yは測定点の空間的座標、ξ,ψは測定点からの空間的座標の変化量、M11はデータ積和計算の回数、Mηはηフレーム目のデータ総数であり、
    Figure JPOXMLDOC01-appb-M000005
    ここで、GscはRICSの空間相互相関値、nは計算に使用するフレーム数、ηはフレームを特定するパラメータ(η=1,2,…,n)、I1ηはチャンネル1のηフレーム目の蛍光強度データ、I2ηはチャンネル2のηフレーム目の蛍光強度データ、x,yは測定点の空間的座標、ξ,ψは測定点からの空間的座標の変化量、M12はデータ積和計算の回数、M1ηはチャンネル1のηフレーム目のデータ総数、M2ηはチャンネル2のηフレーム目のデータ総数である、請求項10に記載の画像解析装置。
  18.  前記演算手段は、次式(3)を用いて、前記空間相関値の算出結果をフィッティングし、分子数または拡散定数を推定する、
    Figure JPOXMLDOC01-appb-M000006
    ここで、GはRICSの空間相関値、SはRICSの解析における走査の影響、GはRICSの解析における時間遅延の影響、Dは拡散定数、ξ,ψは測定点からの空間的座標の変化量、δはピクセルサイズ、Nは分子数、Wは励起レーザビームの横方向の半径、Wは励起レーザビームの縦方向の半径、τはピクセル時間、τはライン時間、γは任意の定数である、請求項17に記載の画像解析装置。
PCT/JP2010/069367 2010-10-29 2010-10-29 画像解析方法および画像解析装置 WO2012056580A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP10858967.2A EP2623957B1 (en) 2010-10-29 2010-10-29 Image analysis method and image analysis device
CN201080069870.4A CN103189737B (zh) 2010-10-29 2010-10-29 图像分析方法以及图像分析装置
PCT/JP2010/069367 WO2012056580A1 (ja) 2010-10-29 2010-10-29 画像解析方法および画像解析装置
US13/870,711 US9330338B2 (en) 2010-10-29 2013-04-25 Image analysis method and image analysis device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2010/069367 WO2012056580A1 (ja) 2010-10-29 2010-10-29 画像解析方法および画像解析装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US13/870,711 Continuation US9330338B2 (en) 2010-10-29 2013-04-25 Image analysis method and image analysis device

Publications (1)

Publication Number Publication Date
WO2012056580A1 true WO2012056580A1 (ja) 2012-05-03

Family

ID=45993333

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2010/069367 WO2012056580A1 (ja) 2010-10-29 2010-10-29 画像解析方法および画像解析装置

Country Status (4)

Country Link
US (1) US9330338B2 (ja)
EP (1) EP2623957B1 (ja)
CN (1) CN103189737B (ja)
WO (1) WO2012056580A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6300496B2 (ja) 2013-11-22 2018-03-28 オリンパス株式会社 レーザ共焦点顕微鏡
CN103823977A (zh) * 2014-02-25 2014-05-28 北京农业信息技术研究中心 一种从空间采样点数据集中检测奇异样点的方法
CN105043544B (zh) * 2015-05-05 2017-06-20 中山大学 一种图像光谱跟踪方法及系统
US10394008B2 (en) * 2016-10-19 2019-08-27 Cornell University Hyperspectral multiphoton microscope for biomedical applications
CN115330657B (zh) * 2022-10-14 2023-01-31 威海凯思信息科技有限公司 一种海洋探测图像的处理方法、装置和服务器

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004108892A (ja) * 2002-09-17 2004-04-08 Olympus Corp 蛍光分光分析装置
JP2006078377A (ja) * 2004-09-10 2006-03-23 Olympus Corp 光信号解析方法
JP2010217761A (ja) * 2009-03-18 2010-09-30 Olympus Corp 画像取得装置、画像取得方法及びプログラム
JP2010217104A (ja) * 2009-03-18 2010-09-30 Olympus Corp 画像解析装置、画像解析方法及びプログラム
JP2010237116A (ja) * 2009-03-31 2010-10-21 Olympus Corp 画像解析方法および画像解析装置
JP2011017677A (ja) * 2009-07-10 2011-01-27 Olympus Corp 画像解析方法および画像解析装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3999701B2 (ja) 2003-05-30 2007-10-31 オリンパス株式会社 分光分析装置
JP4037381B2 (ja) 2004-03-31 2008-01-23 富士フイルム株式会社 光情報読取方法および装置
JP2005337920A (ja) * 2004-05-27 2005-12-08 Olympus Corp 光信号解析方法
EP1939607A1 (en) 2005-09-27 2008-07-02 Olympus Corporation Optical signal analyzing apparatus and optical signal analyzing method
JP4830087B2 (ja) 2005-09-27 2011-12-07 国立大学法人北海道大学 光信号解析装置
JP2007093370A (ja) * 2005-09-28 2007-04-12 Olympus Corp 蛍光分光分析装置
JP4891637B2 (ja) * 2006-03-14 2012-03-07 オリンパスメディカルシステムズ株式会社 画像解析装置
WO2008087869A1 (ja) 2007-01-16 2008-07-24 Olympus Corporation 蛍光信号解析装置および蛍光信号解析方法
JP5354938B2 (ja) * 2007-05-02 2013-11-27 オリンパス株式会社 蛍光顕微鏡装置
JP4959445B2 (ja) * 2007-07-04 2012-06-20 オリンパス株式会社 画像処理装置および画像処理プログラム
JP5312807B2 (ja) * 2008-01-08 2013-10-09 オリンパス株式会社 画像処理装置および画像処理プログラム
US20090238435A1 (en) * 2008-03-21 2009-09-24 Applied Imaging Corp. Multi-Exposure Imaging for Automated Fluorescent Microscope Slide Scanning
US8310531B2 (en) * 2009-08-03 2012-11-13 Genetix Corporation Methods and apparatuses for processing fluorescence images
JP5508809B2 (ja) * 2009-10-15 2014-06-04 オリンパス株式会社 画像解析方法および画像解析装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004108892A (ja) * 2002-09-17 2004-04-08 Olympus Corp 蛍光分光分析装置
JP2006078377A (ja) * 2004-09-10 2006-03-23 Olympus Corp 光信号解析方法
JP2010217761A (ja) * 2009-03-18 2010-09-30 Olympus Corp 画像取得装置、画像取得方法及びプログラム
JP2010217104A (ja) * 2009-03-18 2010-09-30 Olympus Corp 画像解析装置、画像解析方法及びプログラム
JP2010237116A (ja) * 2009-03-31 2010-10-21 Olympus Corp 画像解析方法および画像解析装置
JP2011017677A (ja) * 2009-07-10 2011-01-27 Olympus Corp 画像解析方法および画像解析装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
MICHELLE A. DIGMAN; CLAIRE M. BROWN; PARIJAT SENGUPTA; PAUL W. WISEMAN; ALAN R, HORWITZ; ENRICO GRATTON: "Measuring Fast Dynamics in Solutions and Cells with a Laser Scanning Microscope", BIOPHYSICAL JOURNAL, vol. 89, August 2005 (2005-08-01), pages 1317 - 1327, XP002660727
MICHELLE A. DIGMAN; PARIJAT SENGUPTA; PAUL W. WISEMAN; CLAIRE M. BROWN; ALAN R. HORWITZ; ENRICO GRATTON: "Fluctuation Correlation Spectroscopy with a Laser-Scanning Microscope: Exploiting the Hidden Time Structure", BIOPHYSICAL JOURNAL: BIOPHYSICAL LETTERS, 2005, pages 33 - 36, XP055022912, DOI: doi:10.1529/biophysj.105.061788
See also references of EP2623957A4

Also Published As

Publication number Publication date
US20130236061A1 (en) 2013-09-12
EP2623957A1 (en) 2013-08-07
CN103189737B (zh) 2017-05-31
CN103189737A (zh) 2013-07-03
EP2623957A4 (en) 2016-01-27
EP2623957B1 (en) 2018-12-26
US9330338B2 (en) 2016-05-03

Similar Documents

Publication Publication Date Title
US8908993B2 (en) Image analysis method and image analysis apparatus
JP5508808B2 (ja) 画像解析方法および画像解析装置
US20190204577A1 (en) Hyperspectral imaging methods and apparatuses
JP5489469B2 (ja) 蛍光信号解析装置および蛍光信号解析方法
JP5468805B2 (ja) 画像解析方法および画像解析装置
US11237109B2 (en) Widefield, high-speed optical sectioning
JP5566055B2 (ja) 画像解析方法および画像解析装置
WO2012056580A1 (ja) 画像解析方法および画像解析装置
US9262667B2 (en) Image analysis method and image analysis apparatus
JP5508809B2 (ja) 画像解析方法および画像解析装置
WO2012056578A1 (ja) 画像解析方法および画像解析装置
JP5489541B2 (ja) 画像解析方法および画像解析装置
US20210018735A1 (en) Sample observation device and sample observation method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10858967

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2010858967

Country of ref document: EP