WO2019039581A1 - 試料観察方法、試料観察装置、及び顕微鏡 - Google Patents

試料観察方法、試料観察装置、及び顕微鏡 Download PDF

Info

Publication number
WO2019039581A1
WO2019039581A1 PCT/JP2018/031302 JP2018031302W WO2019039581A1 WO 2019039581 A1 WO2019039581 A1 WO 2019039581A1 JP 2018031302 W JP2018031302 W JP 2018031302W WO 2019039581 A1 WO2019039581 A1 WO 2019039581A1
Authority
WO
WIPO (PCT)
Prior art keywords
light
sample
illumination
light intensity
observation point
Prior art date
Application number
PCT/JP2018/031302
Other languages
English (en)
French (fr)
Inventor
島野 美保子
竜馬 備瀬
銀強 鄭
いまり 佐藤
Original Assignee
大学共同利用機関法人情報・システム研究機構
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 大学共同利用機関法人情報・システム研究機構 filed Critical 大学共同利用機関法人情報・システム研究機構
Priority to JP2019537702A priority Critical patent/JP7161218B2/ja
Publication of WO2019039581A1 publication Critical patent/WO2019039581A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes

Definitions

  • the present disclosure relates to a method of observing a sample in a microscope having a focusable optical system, an apparatus therefor, and a microscope equipped with the same.
  • FIG. 1 (b) is an observation image of a transmission electron microscope when scatters are placed on a micrometer (FIG. 1 (a)). Thus, light scattering blurs the image.
  • Image obscuring by scattering has become a major issue in biomedical imaging.
  • the absorption coefficient should be able to be measured accurately at specific points.
  • the measured signal contains scattered light from a point different from the specific point, and the scattered light contains information of different points in the tissue. It is essential to separate the direct light from a specific point and the scattered light from another point in order to measure accurately at a specific point of living tissue.
  • Non-Patent Document 1 discloses the use of high frequency illumination.
  • the high frequency illumination can separate the direct component and the global component by irradiating the same location with the high frequency spatial pattern (see, for example, non-patent documents 3 to 8).
  • Non-Patent Document 2 unlike the reflection-type method of Non-Patent Document 1, separation of components in transmission observation of a semitransparent object etc.
  • a transmission type method is disclosed in which separation from other points single-scattered light scattered at a point or a global component which is multiple scattered light) is performed. This method attempts to observe transmitted light using high frequency illumination of parallel light. For this reason, in Non-Patent Document 2, a special lens (telecentric lens) is used to convert high-frequency illumination into parallel light, and this parallel light is observed.
  • a special lens telecentric lens
  • the present invention provides a sample observation method that enables sharpening of an image of a sample and spatial spectrum analysis even in the case where an optical system capable of focus adjustment is provided (not parallel light). It is an object of the present invention to provide a sample observation device and a microscope.
  • the sample observation method and the sample observation apparatus according to the present invention are observed at a certain pixel on the camera side.
  • the direct component (A) By removing the global component (B) and the global component (C) when the observation point is positioned in the dark part of the illumination, It was decided to take out the direct component (A) by utilizing the difference between the in-focus state which can be used as pattern illumination of the bright part and the dark part and the out-of-focus state where the pattern illumination becomes uniform.
  • the sample observation method is A focusing procedure for focusing the light sensor and the illumination in the Z direction on an XY plane including an observation point in the sample;
  • Light intensity acquisition for acquiring the first light intensity when the light of the illumination is irradiated to the observation point and the second light intensity when the light is irradiated to other than the observation point by the light sensor after performing the focusing procedure Steps and Direct component (A) by single scattered light at the observation point, global component (B) by single scattered light other than the observation point, and multiple scattering in the sample, which are included in the first light intensity
  • the sample observation device is A focusing mechanism for focusing the light sensor and the illumination in the Z direction on an XY plane including an observation point in the sample;
  • the light of the illumination is emitted to the observation point other than the first light intensity and the observation point
  • Light intensity acquiring means for acquiring the second light intensity of Direct component (A) by single scattered light at the observation point, global component (B) by single scattered light other than the observation point, and multiple scattering in the sample, which are included in the first light intensity
  • the sample observation device When the sample observation device is of a transmission type (a type in which light transmits a sample), the direction of the light path is taken as the Z direction. Then, in the focusing procedure, the focusing mechanism brings the light sensor side lens between the light sensor and the sample in the Z direction into focus on the XY plane including the observation point in the sample, and places the focus on the sample in the Z direction. On the other hand, the focal point of the illumination side lens between the illumination on the opposite side of the light sensor and the sample is brought to the XY plane including the observation point.
  • the sample observation device is a reflection type (a type in which light is reflected by the sample)
  • the thickness direction of the sample is taken as the Z direction.
  • the focusing mechanism brings the light sensor side lens between the light sensor and the sample in the Z direction into focus on the XY plane including the observation point in the sample, and places the focus on the sample in the Z direction.
  • the focal point of the illumination side lens between the illumination on the opposite side of the light sensor and the sample is brought to the XY plane including the observation point.
  • the optical sensor side lens and the illumination side lens may be one common lens.
  • the direct components (A) are overlapped with the global components (B) and (C), and it is necessary to separate them.
  • a plane non-focus plane
  • the image is blurred and the light intensity becomes uniform.
  • the plane focus plane
  • the patterns of the bright part and the dark part of the illumination become clear, and the observation point can be illuminated or not illuminated.
  • the camera observes the direct component (A), the global component (B) and the global component (C) when the light is irradiated to the observation point, and the global component (B) and the global component when the light is not irradiated to the observation point Observe (C).
  • the present invention takes out the direct component (A) by utilizing the difference (difference) between the observation result when light is irradiated to the observation point and the observation result when light is not irradiated to the observation point Since the light intensity is uniform in the plane, the global components (B) and (C) when the light is irradiated to the observation point and the global components (B) and (C) when the light is not irradiated to the observation point have the same information Become.).
  • the arithmetic unit may calculate the direct component (A) by subtracting the second light intensity from the first light intensity, and perform an operation of acquiring an image of the observation point.
  • the arithmetic unit subtracts the second light intensity from the first light intensity to calculate the direct component (A), and the direct component (A) and the light intensity for each wavelength of the illumination are used to calculate the observation point It is characterized in that an operation of acquiring an absorption coefficient is performed.
  • a microscope according to the present invention is a microscope provided with the sample observation device, the illumination, the light sensor, and the focusing mechanism.
  • the present invention can provide a sample observation method, a sample observation apparatus, and a microscope that enable sharpening of an image of a sample and spatial spectrum analysis even when having a focus adjustable optical system. .
  • the sample observation device moves the XY plane including the observation point in the Z direction in the sample, and the light sensor and the focusing mechanism at each position in the Z direction of the XY plane including the observation point.
  • the controller is further provided with a controller for causing the light intensity acquisition unit to acquire the first light intensity and the second light intensity and for causing the computing unit to perform the calculation.
  • This sample observation device moves the focal points of both the sensor side lens and the illumination side lens in the Z direction sequentially to create a three-dimensional image or spatial spectrum analysis based on the continuous calculation results in the Z direction. Becomes possible.
  • the illumination is a high frequency illumination formed by a photo mask in which a light portion transmitting the light and a dark portion shielding the light are combined at an arbitrary ratio, and the light intensity acquisition unit is a focal point of the light sensor and the illumination. It may be a drive mechanism that moves the sample arbitrarily while maintaining the above, or moves the photo mask arbitrarily.
  • the illumination is illumination of a pattern in which a light portion for emitting a light source and a dark portion for turning off a light source are combined at an arbitrary ratio, and the light intensity acquisition unit maintains the ratio between the light portion and the dark portion. It may be a light source control unit that moves arbitrarily.
  • the present invention can provide a sample observation method, a sample observation device, and a microscope that enable sharpening of an image of a sample and spatial spectrum analysis even when having a focusable optical system.
  • FIG. 2 is an explanatory view of the path of each light, and the observation point is a white circle.
  • the black solid line arrows in FIG. 2B are single-point scattered light (directly transmitted light) that reaches the optical sensor without being scattered after being scattered only at the observation point. This light is a direct component of the observation object.
  • FIG. 3A is a view for explaining the transmission type microscope of the present embodiment for separating the direct component and the global component.
  • the transmission type microscope of the present embodiment is a microscope provided with the illumination 13, the light sensor 15, the light sensor side lens 12, and the illumination side lens 14, and observation in the sample 50 by incorporating the transmission type sample observation device 100. It is characterized in that it becomes possible to observe single scattered light scattered only at the point K.
  • FIG. 8 is a view for explaining an XY plane (slice) including the directions of X, Y and Z, the observation point K in the sample 50, and the observation point K in the description of the transmission type microscope of the present embodiment.
  • the transmission sample observation apparatus 100 is Adjusting the focus of the light sensor side lens 12 between the light sensor 15 and the sample 50 to the observation point K in the sample 50 and having a depth of focus smaller than the thickness of the sample 50;
  • a focusing mechanism 18 for performing at least one of the steps of focusing the illumination-side lens 14 having a depth and between the illumination 13 on the opposite side of the light sensor 15 to the sample 50 and the sample 50 to the observation point K;
  • Light intensity acquisition means 19 for acquiring the first light intensity when the light of the illumination 13 is irradiated to the observation point K and the second light intensity when irradiated to other than the observation point K by the light sensor 15;
  • a computing unit 17 which uses light intensity obtained by subtracting the second light intensity from the first light intensity as a component of transmitted light at the observation point K; Equipped with
  • the computing unit 17 controls the focusing mechanism 18 and the light intensity acquisition unit 19 so as to obtain transmission images (images by the light sensor 15) in the respective states of FIGS. 3 (b) and 3 (c) described later.
  • the focusing mechanism 18 performs focusing based on the calculation of the computing unit 17, and can be realized using, for example, a focusing mechanism using a stepping motor. The operator may adjust the focus by operating a predetermined operation unit such as the focus adjustment knob by hand. Further, the focusing mechanism 18 can move the focal points of both the sensor side lens 12 and the illumination side lens 14 in the optical axis direction (Z direction). This function allows the slice to be moved in the Z direction, ie to focus on the observation point K at any depth in the sample 50.
  • the drive mechanism of the light intensity acquisition means 19 is moved based on the operation of the computing unit 17 so as to switch the state of FIGS. 3 (b) and 3 (c) described later. It may be a drive mechanism. In addition, the state of FIGS. 3B and 3C may be switched by operating the operation unit for moving the sample 50 or the operation unit for moving the photomask.
  • the illumination 13 is a high frequency illumination formed by a photomask in which a bright portion transmitting light and a dark portion blocking the light are combined at an arbitrary ratio.
  • the light intensity acquisition means moves the sample 50 arbitrarily in the X direction or Y direction while maintaining the focus of the light sensor 15 and the illumination 13 or moves the photomask arbitrarily (in the light and dark portions It is a drive mechanism which makes it move arbitrarily in the Y direction.
  • the transmission type microscope of this embodiment utilizes the bright part and the dark part of the high frequency illumination, and directly utilizes the difference of the optical information between the in-focus state and the out-of-focus state of the optical sensor 15 and the high frequency illumination 13. Separate components and global components.
  • the plane (XY plane) in the sample parallel to the plane on which the image of high frequency illumination is formed is called “slice” (see FIG. 8).
  • the thickness of the sample 50 is 10 ⁇ m
  • the thickness of the in-focus slice is 3 ⁇ m (the value changes depending on the sample and the lens performance).
  • FIG. 4 is a diagram for explaining the in-focus slice and the out-of-focus slice.
  • 3 (b) and 3 (c) show how the sample 50 is irradiated with high-frequency illumination 13 through a photomask in which the bright part transmitting the light and the dark part blocking the light have a checkered pattern. It is the figure shown typically.
  • transmission type sample observation apparatus 100 is abbreviate
  • FIG. 3B is a schematic view when the photomask or the sample 50 is moved by the light intensity acquiring unit 19 to irradiate light to the observation point X (place the bright part of the photomask).
  • the light sensor 15 detects the direct light from the observation point X (direct component (A)) and the light from the other part (other points from other than the observation point in the unfocused state).
  • FIG. 3C is a schematic view when the photomask or the sample 50 is moved and the observation point X is not irradiated with light (the dark portion of the photomask is positioned).
  • the illumination light is uniform in the unfocused slice (FIG. 4 (d)) as described above, if the ratio of the bright part to the dark part of the photomask is 1: 1, the focus is not focused
  • the light intensity in the slice ( ⁇ , ⁇ ) is half the light intensity of the bright part of the slice ⁇ in focus. That is, the light intensity of the multiple scattered light from the part other than the slice ⁇ or the single scattered light is half the intensity of the light reflected or transmitted at the observation point K.
  • the luminance L ⁇ [p] of the image can be calculated as follows.
  • M [p, x] is the light intensity of multiple scattered light whose last scattering point is x.
  • the pixel p corresponds to a set of points x since the depth of focus d has a range.
  • ⁇ (p, d) is a region corresponding to the pixel p and the focal depth d, and ⁇ (p) denotes all points x corresponding to the pixel p in the sample 50.
  • the second term is single scattered light at different slices ( ⁇ , ⁇ ) out of focus, and the third term is a multiplex of scattered light in the global component. Therefore, light D [p] from the target slice and light G [p] from the other slices are expressed by the following equations.
  • a method of moving the high frequency illumination pattern for example, there is a method of moving along a moving path set in advance so as to include the bright part and the dark part of the high frequency illumination.
  • a method of moving the high frequency pattern filter a method of randomly moving the high frequency pattern filter on the XYZ axis motorized stage in the X and Y directions may be used. In this method, it is necessary to acquire a sufficient amount of observation images of the target slice to capture all points in the bright area. The operation of the operator 17 has been described above.
  • the light area of the photomask is large, then the direct transmitted light scattered at the observation point will be scattered several times within the same illumination area. In the transmission microscope of the present embodiment, light scattered several times in such a same illumination area is also judged to be a direct component. Since the number of times of scattering in the same illumination region depends on the characteristics of the sample and the frequency of the high frequency illumination, it is necessary to appropriately adjust the frequency of the high frequency illumination according to the characteristics of the sample.
  • the pattern of high frequency illumination is described as a checkered pattern with a bright part and a dark part of 1: 1, but the high frequency illumination of a pattern where the bright part and the dark part are not not 1: 1 is used It is also possible to use an irregular pattern of illumination in which the light and dark areas are not regularly arranged.
  • the coefficients of the second and third terms of the equation (2) and the coefficients of the terms of the equation (3) are changed according to the ratio of the light portion to the dark portion. Specifically, in the case of a checkered pattern in which the bright part and the dark part are 1: 1 and the bright part and the dark part are 1: 1, the respective coefficients of the equations (2) and (3) are “1/2”.
  • the high frequency illumination is described to be configured by a photomask.
  • the high frequency illumination may be configured by arranging a plurality of minute light sources such as LEDs without using a photomask. That is, the illumination is illumination of a pattern in which a bright portion for emitting the light source and a dark portion for deactivating the light source are combined at an arbitrary ratio, and the light intensity acquiring unit maintains the ratio while maintaining the ratio. It is characterized in that it is a light source control unit for moving the dark part arbitrarily.
  • LEDs can realize not only high frequency illumination but also irregular patterns of illumination.
  • FIG. 5 (a) is a photograph explaining the transmission microscope system using the high frequency illumination of this example.
  • the transmission microscope system comprises a microscope, a light source, a high frequency pattern filter (photomask), a camera (optical sensor), and an XYZ axis motorized stage.
  • the microscope used was an Olympus BX53, a light source was a halogen lamp, and an XYZ axis motorized stage was a Suruga Seiki KXT 04015-LC.
  • As shown in FIGS. 3 and 4, as a high frequency pattern filter, photomasks of various checkered patterns (high frequency illumination) having a ratio of an illuminated area (bright area) to a non-illuminated area (dark area) of 1: 1 were prepared.
  • the size of the pattern was prepared from 1 ⁇ 1 ⁇ m to 16 ⁇ 16 ⁇ m.
  • the size of the pattern is determined according to how much the scatterer is contained in the sample, for example, by the site in the living body or the like.
  • the illumination lens is placed on the filter and can change the focus position of the illumination.
  • the light sensor 15 and the high frequency illumination 13 are focused on a target slice of a certain depth. Either focus may come first, but both focus needs to be.
  • the sample stage of the microscope is moved to focus the light sensor 15 on the desired target slice so that the sample 50 can be observed.
  • the high frequency illumination 13 is focused on the target slice.
  • the illumination side lens 14 is moved in the Z direction, and the high frequency illumination pattern filter 13 is moved and adjusted in the Z direction by the XYZ axis motorized stage.
  • the high frequency pattern filter 13 is moved on the XYZ-axis motorized stage to acquire an observation image of the target slice.
  • the way of moving the high frequency pattern filter is as described above.
  • 5 (b) is an image when a high frequency pattern is irradiated to human skin
  • FIG. 5 (c) is an image of the direct component D [p]
  • FIG. 5 (d) is an image of the global component G [p]. is there.
  • the observation image is processed as described above in “Description of separation calculation”, and the direct component D [p] and the global component G [p] in each light sensor (pixel) of the camera are acquired. Up to this point, it is possible to separate transmitted light and scattered light with respect to the current target slice.
  • the high-frequency pattern filter 13 is moved in the Z-axis direction of the XYZ-axis motorized stage to focus the light sensor 15 and the high-frequency illumination 13 on a target slice having a depth different from the above. Then, in the target slice, the high-frequency pattern filter 13 is similarly moved by the XYZ-axis motorized stage to acquire an observation image. As described above, the observation image can be processed as described in “Separation calculation” to separate transmitted light and scattered light with respect to the target slice.
  • Non-Patent Documents 1 to 8 observe the superposition of all depth information including the overlap on the optical path, and from them the information of transmitted light and scattered light of a specific depth (target slice) Alternatively, it is difficult to obtain information on transmitted light and scattered light in the depth direction (Z direction).
  • the present transmission microscope system can acquire transmitted light and scattered light information of a specific depth (target slice), and further moves the target slice sequentially in the Z direction to repeat the above processing. Information can be obtained by separating transmitted light and scattered light for multiple depth target slices.
  • the three-dimensional information includes three-dimensional wavelength information of a direct component and a global component, various information extracted by calculation from them or an image created, and a result analyzed by them.
  • the transmission microscope system according to the present invention can separate transmitted light and scattered light from a microscopically observed image as described above. For this reason, the absorption coefficient and the scattering coefficient of the sample can be obtained by performing the calculation described later. Therefore, the transmission microscope system according to the present invention can eliminate the need for staining of the sample, and can acquire information on absorption and scattering of the sample in the presence of wavelength information. Moreover, since the transmission microscope system according to the present invention can acquire information also in the Z direction of the sample as described above, it is possible to three-dimensionally acquire the absorption coefficient and the scattering coefficient of the sample.
  • FIG. 6 (a) is a figure explaining the analysis by the conventional method for acquiring comparison data.
  • a mixture of red dye (1 mg / mL) and Intralipid dilution solution (0.4%) was enclosed in an ampoule and placed at the center of the integrating sphere 21. Then, while changing the wavelength, the light 24 was irradiated to the sample 23, the scattered light emitted from the sample to the surroundings was received by the integrating sphere 21, and the absorption coefficient of the sample 23 at each wavelength was analyzed by the spectrophotometer 22. .
  • the light 24 may be white light (multi-wavelength light) and batch analysis may be performed by the spectrophotometer 22 for each wavelength.
  • the absorbance is measured with a solution of only a red dye (1 mg / mL) containing no intra lipid.
  • the sample 23 needs a certain amount of sample.
  • FIG. 6 (b) is a view for explaining a method of analyzing the absorption coefficient of the sample 50 using the transmission microscope system of the present embodiment.
  • the high frequency pattern filter was moved on the XYZ-axis motorized stage as described above so that the bright part and the dark part were arranged in the area to be analyzed in the sample 50.
  • the direct component D [p] at each wavelength is acquired by the computing unit 17, and the absorption coefficient of the region is acquired from the light intensity of the light source 13.
  • the light of the light source 13 may be white light (multi-wavelength light), and batch analysis may be performed for each wavelength by the computing unit 17. The following is an example of calculation of the absorption coefficient ⁇ .
  • FIG. 7 is a diagram comparing the absorption coefficient (dotted line) acquired by the conventional method of FIG. 6A with the absorption coefficient (solid line) acquired by the transmission microscope system of the present embodiment of FIG. It is.
  • the absorption coefficient acquired by the transmission microscope system of a present Example has a spectrum shape similar to the absorption coefficient acquired by the conventional method of Fig.6 (a), and the conventional method is a present Example It can be seen that it can be replaced by a transmission microscope system of Furthermore, the transmission microscope system of this embodiment can analyze the absorption coefficient with a smaller amount of sample than the conventional method using an integrating sphere.
  • the transmission microscope system of the present embodiment can also obtain the scattering coefficient as well as the absorption coefficient.
  • the following is an example of calculation of the scattering coefficient ⁇ .
  • the direct component I d is calculated using the sample thickness X s (equation 4b)
  • max (0, (-log (I d / I i ) / X s - ⁇ )
  • the transmission microscope system of this embodiment can not only avoid damage to living cells by staining, but can also significantly reduce analysis time by reducing staining processing. As a result, it contributes to the discovery of new functions of living cells such as interactions in living tissues and between tissues, three-dimensional dynamics of living tissues, biochemical reactions, and the elucidation of mechanisms in living bodies that have not yet been clarified. There is expected. In addition, by providing a new analyzer in the field of biochemistry, it is expected that it will lead to the creation of new analysis methods and the development of new research fields, and it can be expected to contribute to the advancement of medical technology.
  • the sample observation method, the sample observation apparatus, and the microscope according to the present invention can be applied not only to the field of biochemistry but also to the field of holography as well as to the separation of speckle caused by absorption and scattering.
  • the present invention can also be applied to measurement analysis techniques in various fields such as food and article inspection.
  • the transmission microscope is described as an example in the embodiment and each example of the present invention described above, the present invention is not limited to this, for example, a reflection type in which the camera and the illumination are provided on the same side with respect to the sample Even when using a microscope, when observing a semitransparent sample, the present invention can be similarly applied as a method of removing the global component of single point scattered light at other points or multiple scattered light from the reflected light.

Landscapes

  • Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

【課題】焦点調節可能な光学系を有する場合であっても、試料の画像の鮮明化や空間スペクトル解析を可能とする透過型試料観察方法及び透過型顕微鏡を提供することを目的とする。 【解決手段】本発明に係る試料観察方法及び試料観察装置は、カメラ側のあるピクセルにおいて観測される、照明の明部に観測点を位置させたときの、合焦での観測点からの観測点単一散乱光による直接成分(A)、非合焦点からの他点単一散乱光による大域成分(B)、及び多重散乱光による大域成分(C)から、照明の暗部に観測点を位置させたときの、大域成分(B)及び大域成分(C)を除去することで、明部と暗部のパターン照明として使用できる合焦状態と前記パターン照明が均一になる非合焦状態との間の差異を利用して直接成分(A)を取り出すこととした。

Description

試料観察方法、試料観察装置、及び顕微鏡
 本開示は、焦点調節可能な光学系を有する顕微鏡における試料観察方法及びその装置とそれを搭載する顕微鏡に関する。
 透過型光学顕微鏡は、生物医学、食品安全、および他の多くの用途に広く使用されている。顕微鏡で標本を観察する場合、光は画像センサに達する前に標本中の小さな粒子に当たり方向を変える。その結果、画像センサは、異なる経路を通る散乱光線の合計を捕捉することになる。この光の散乱は、観察される画像を不明瞭にする。図1(b)は、マイクロメータ(図1(a))の上に散乱物を乗せたときの透過型電子顕微鏡の観察画像である。このように光の散乱は画像を不鮮明にする。
 散乱による画像の不明瞭化は、生物医学的画像形成において大きな課題となっている。例えば、生体組織の空間スペクトル解析において、吸収係数は特定点で正確に測定できなければならない。しかし、測定された信号は、特定点と異なる点からの散乱光を含み、その散乱光は組織内の異なる点の情報を含む。生体組織の特定点で正確に測定するには、特定からの直接的な光と他の点からの散乱光を分離することが不可欠である。
 コンピュテーショナルフォトグラフィ(Computational Photography)法の分野では、試料での反射光から大域成分である相互反射等の光を除去し、鏡面反射光や拡散反射光の直接成分を抽出する方法がいくつか提案されている。例えば、非特許文献1では、高周波照明の使用を開示している。高周波照明は、高周波空間パターンを同一箇所に照射することで直接成分と大域成分とを分離することができる(例えば、非特許文献3~8を参照。)。
 一方、非特許文献2では、非特許文献1の反射型の手法とは異なり、半透明物体等の透過観察における成分の分離(観測点を透過する観測点単一散乱光である直接成分と他点で散乱した他点単一散乱光や多重散乱光である大域成分との分離)を行う透過型の手法が紹介されている。この手法は、平行光の高周波照明を利用して透過光を観測しようとしている。このため、非特許文献2では特殊なレンズ(テレセントリックレンズ)を使って高周波照明を平行光とし、この平行光を観測するように構成されている。
Nayar, S.K., Krishnan, G., Grossberg, M.D., Raskar, R.: Fast Separation of Direct and Global Components of a Scene Using High Frequency Illumination. ACM Transactions on Graphics 25(3), pp. 935-944 (2006) Tanaka, K., Mukaigawa, Y., Kubo, H., Matsushita, Y., Yagi, Y.: Descattering of Transmissive Observation using Parallel High-frequency Illumination. In: IEEE Con-ference on Computational Photography, (2013) Lamond, B., Peers, P., Debevec, P.: Fast Image-based Separation of Diffuse and Specular Reections. In ACM SIGGRAPH sketches, 2007. Gupta, M., Tian, Y., Narasimhan, S.G., Zhang, L.: A Combined Theory of Defocused Illumination and Global Light Transport. International Journal of Computer Vision 98(2), pp. 146-167 (2012) Achar, S., Narasimhan, S.G.: Multi Focus Structured Light for Recovering Scene Shape and Global Illumination. European Conference on Computer Vision (2014) Reinhard, E., Khan, E. A., Akyuz, A. O., Johnson, G.: Color Imaging: Fundamentals and Applications. CRC Press (2008) Mukaigawa, Y., Yagi, Y., Raskar, R.: Analysis of Light Transport in Scattering Media. In: IEEE Conference on Computer Vision and Pattern Recognition, pp.153{160 (2010) Tanaka, K., Mukaigawa, Y., Kubo, H., Mtsushita, Y., Yagi, Y.: Recovering Inner Slices of Translucent Objects by Multi-frequency Illumination. In: IEEE Conference on Computer Vision and Pattern Recognition, pp. 5464-5472. (2015) Salomatina, E., Jiang, B., Novak, J., Yaroslavsky, A. N.: Optical Properties of Normal and Cancerous Human Skin in the Visible and Near-infrared Spectral Range. Journal of Biomedical Optics 11(6) (2006)
 しかし、焦点調節可能な光学系を設けた顕微鏡の場合、試料の厚み方向の情報が加わるため、非特許文献1のような反射型の手法や非特許文献2のような平行光の高周波照明を利用する透過型の手法では、試料で反射した光や試料を透過した光を直接成分と大域成分とに分離することができず、画像の鮮明化や空間スペクトル解析が困難という課題があった。そこで、本発明は、上記課題を解決すべく、焦点調節可能な光学系を有する(平行光ではない)場合であっても、試料の画像の鮮明化や空間スペクトル解析を可能とする試料観察方法、試料観察装置、及び顕微鏡を提供することを目的とする。
 上記目的を達成するために、本発明に係る試料観察方法及び試料観察装置は、カメラ側のあるピクセルにおいて観測される、
照明の明部に観測点を位置させたときの、合焦での観測点からの観測点単一散乱光による直接成分(A)、非合焦点からの他点単一散乱光による大域成分(B)、及び多重散乱光による大域成分(C)から、
照明の暗部に観測点を位置させたときの、大域成分(B)及び大域成分(C)を除去することで、
明部と暗部のパターン照明として使用できる合焦状態と前記パターン照明が均一になる非合焦状態との間の差異を利用して直接成分(A)を取り出すこととした。
 具体的には、本発明に係る試料観察方法は、
 Z方向において光センサ及び照明の焦点を試料内の観測点を含むXY平面に合わせるフォーカス手順と、
 前記フォーカス手順を行った後、前記照明の光を前記観測点に照射したときの第1光強度と前記観測点以外に照射したときの第2光強度とを前記光センサで取得する光強度取得手順と、
 前記第1光強度に含まれる、前記観測点での単一散乱光による直接成分(A)、前記観測点以外での単一散乱光による大域成分(B)、及び前記試料内での多重散乱光による大域成分(C)と、前記第2光強度に含まれる、大域成分(B)及び大域成分(C)と、を利用し、前記第1光強度から直接成分(A)と大域成分(B)及び大域成分(C)とを分離する演算を行う演算手順と、
を行う。
 具体的には、本発明に係る試料観察装置は、
 Z方向において光センサ及び照明の焦点を試料内の観測点を含むXY平面に合わせるフォーカス機構と、
 前記フォーカス機構で前記光センサと前記照明の双方の焦点を前記観測点に合わせた状態で、前記照明の光を前記観測点に照射したときの第1光強度と前記観測点以外に照射したときの第2光強度とを前記光センサで取得する光強度取得手段と、
 前記第1光強度に含まれる、前記観測点での単一散乱光による直接成分(A)、前記観測点以外での単一散乱光による大域成分(B)、及び前記試料内での多重散乱光による大域成分(C)と、前記第2光強度に含まれる、大域成分(B)及び大域成分(C)と、を利用し、前記第1光強度から直接成分(A)と大域成分(B)及び大域成分(C)とを分離する演算を行う演算器と、
を備える。
 本試料観察装置が透過型(光が試料を透過するタイプ)である場合、光の経路の方向をZ方向とする。そして、前記フォーカス機構は、前記フォーカス手順で、Z方向において光センサと試料との間にある光センサ側レンズの焦点を前記試料内の観測点を含むXY平面に合わせ、Z方向において前記試料に対して前記光センサの反対側の照明と前記試料との間にある照明側レンズの焦点を前記観測点を含むXY平面に合わせる。
 本試料観察装置が反射型(光が試料で反射するタイプ)である場合、試料の厚み方向をZ方向とする。そして、前記フォーカス機構は、前記フォーカス手順で、Z方向において光センサと試料との間にある光センサ側レンズの焦点を前記試料内の観測点を含むXY平面に合わせ、Z方向において前記試料に対して前記光センサの反対側の照明と前記試料との間にある照明側レンズの焦点を前記観測点を含むXY平面に合わせる。なお、光センサ側レンズと照明側レンズが1つの共通のレンズであってもよい。
 半透明の物体を顕微鏡で観測する場合、直接成分(A)に大域成分(B)と(C)が重なっておりそれらを分離する必要がある。高周波照明とカメラ(光センサ)の少なくとも一方の焦点が合っていない平面(非合焦平面)では画像がぼやけて光強度が均質になる。一方、照明とカメラ(光センサ)の焦点が合う平面(合焦平面)では照明の明部と暗部のパターンが明確となり、観測点へ光を照射あるいは非照射とすることができる。カメラは、観測点へ光を照射したときの直接成分(A)、大域成分(B)及び大域成分(C)を観測し、観測点へ光を照射しないときの大域成分(B)及び大域成分(C)を観測する。本発明は、観測点へ光を照射したときの観測結果と観測点へ光を照射しないときの観測結果との違い(差分)を利用して直接成分(A)を取り出している(非合焦平面では光強度が均一なので、観測点へ光を照射したときの大域成分(B)及び(C)と観測点へ光を照射しないときの大域成分(B)及び(C)とは同じ情報となる。)。
 前記演算器は、前記第1光強度から前記第2光強度を減算して直接成分(A)を計算し、前記観測点の画像を取得する演算を行うことを特徴とする。
 前記演算器は、前記第1光強度から前記第2光強度を減算して直接成分(A)を計算し、該直接成分(A)と前記照明の波長毎の光強度とから前記観測点の吸収係数を取得する演算を行うことを特徴とする。
 前記試料観察装置を顕微鏡に組み込むことで透過光から大域成分を除去して直接成分を取り出すことができるようになる。すなわち、本発明に係る顕微鏡は、前記試料観察装置、前記照明、前記光センサ、前記フォーカス機構を備える顕微鏡であることを特徴とする。
 従って、本発明は、焦点調節可能な光学系を有する場合であっても、試料の画像の鮮明化や空間スペクトル解析を可能とする試料観察方法、試料観察装置、及び顕微鏡を提供することができる。
 本発明に係る試料観察装置は、前記試料内において前記観測点を含むXY平面をZ方向に移動させ、前記観測点を含むXY平面のZ方向の位置毎に、前記フォーカス機構に前記光センサ及び前記照明の焦点を前記観測点に合わさせ、前記光強度取得手段に前記第1光強度及び前記第2光強度を取得させ、前記演算器に前記演算をさせる制御器をさらに備えることを特徴とする。本試料観察装置は、センサ側レンズと照明側レンズの双方の焦点をZ方向へ順次移動させることで、Z方向についての連続的な演算結果に基づいて、3次元画像の作成や空間的スペクトル解析が可能になる。
 前記照明は、光を透過させる明部と光を遮断する暗部とが任意の比率で組み合わさるフォトマスクで形成された高周波照明であり、前記光強度取得手段は、前記光センサと前記照明の焦点を維持したまま前記試料を任意に移動させる、もしくは前記フォトマスクを任意に移動させる駆動機構であってもよい。
 前記照明は、光源を発光させる明部と光源を消灯させる暗部とを任意の比率で組み合わせたパターンの照明であり、前記光強度取得手段は、前記比率を維持したまま前記明部と前記暗部を任意に移動させる光源制御部であってもよい。
 本発明は、焦点調節可能な光学系を有する場合であっても、試料の画像の鮮明化や空間スペクトル解析を可能とする試料観察方法、試料観察装置、及び顕微鏡を提供することができる。
本発明の課題を説明するための画像である。 透過光と散乱光を説明する図である。 本発明に係る観察方法を説明する図である。 本発明に係る観察方法を説明する図である。 本発明に係る顕微鏡で取得した画像を説明する図である。 本発明に係る顕微鏡と従来手法で行う吸収係数を測定する実験を説明する図である。 本発明に係る顕微鏡と従来手法で行う吸収係数を測定する実験結果を説明する図である。 本発明に係る顕微鏡を説明する図である。
 添付の図面を参照して本発明の実施形態を説明する。以下に説明する実施形態は本発明の実施例であり、本発明は、以下の実施形態に制限されるものではない。特に、以下の実施形態では透過型の顕微鏡で説明を行うが、反射型の顕微鏡を用いても照明とカメラが試料に対して同じ側にあるだけで同様の結果を得られる。なお、本明細書及び図面において符号が同じ構成要素は、相互に同一のものを示すものとする。
[1]透過光と散乱光の重畳
 前述のように、透過光顕微鏡で観察される不明瞭な画像の理由の一つは、測定された光が、所望の観測点を通過した光に異なる点からの散乱光が重なり、試料内の異なる点で光吸収されているためである。本セクションでは、透過型顕微鏡で試料を通過するこれらの光を調べ、どのような光が重なり合ってカメラ(イメージセンサ)に到達するかを説明する。
 重なり合うすべての光を説明するために、透過型顕微鏡で観測点における光強度を測定する場合を考える。光センサに到達する光は、観測点のみで散乱する観測点単一散乱光(直接透過光)、観測点とは異なる深さにある他点で一度だけ散乱した他点単一散乱光、および多重散乱光の3種類が考えられる。図2は各光の経路の説明図であり、観測点は白丸である。図2(b)の黒実線矢印は、観測点でのみ散乱された後、散乱されずに光センサに到達する観測点単一散乱光(直接透過光)である。この光が観察対象の直接成分である。図2(c)の破線矢印は、試料内で観測点と異なる深さに位置する観測点以外の点で1回だけ散乱した他点単一散乱光と、試料内で複数回散乱した多重散乱光であり、大域成分である。大域成分の散乱光は観測点単一散乱光(直接透過光)と重なり、同じ光センサに到達する(図2(a))。大域成分は、光センサにおいて直接成分の比率を低下させ画像を不明瞭にする。したがって、光センサに到達するこれらの重なり合う光を直接成分と大域成分に分離する必要がある。
[2]直接成分と大域成分の分離
 図3(a)は、直接成分と大域成分を分離する本実施形態の透過型顕微鏡を説明する図である。本実施形態の透過型顕微鏡は、照明13、光センサ15、光センサ側レンズ12、及び照明側レンズ14を備える顕微鏡であって、透過型試料観察装置100が組み込まれることで試料50内の観測点Kのみで散乱する単一散乱光を観察可能となることを特徴とする。図8は、本実施形態の透過型顕微鏡の説明にあたり、X,Y及びZの方向、試料50内の観測点K、並びに観測点Kを含むXY平面(スライス)を説明する図である。
 ここで、透過型試料観察装置100は、
 試料50の厚みより薄い焦点深度を有し、光センサ15と試料50との間にある光センサ側レンズ12の焦点を試料50内の観測点Kに合わせる工程、及び試料50の厚みより薄い焦点深度を有し、試料50に対して光センサ15の反対側の照明13と試料50との間にある照明側レンズ14の焦点を観測点Kに合わせる工程の少なくとも一方を行うフォーカス機構18と、
 照明13の光を観測点Kに照射したときの第1光強度と観測点K以外に照射したときの第2光強度とを光センサ15で取得する光強度取得手段19と、
 前記第1光強度から前記第2光強度を減算した光強度を観測点Kの透過光の成分とする演算器17と、
を備える。
 演算器17は、後述する図3(b)と(c)それぞれの状態での透過画像(光センサ15による画像)を得るように、フォーカス機構18及び光強度取得手段19を制御する。
 フォーカス機構18は、演算器17の演算に基づいて焦点調節を行うものであり、例えばステッピングモータによるピント調整機構等を用いて実現することができる。また、操作者が手でピント調節つまみ等の所定の操作部を操作することによりピント調節してもよい。また、フォーカス機構18は、光軸方向(Z方向)にセンサ側レンズ12と照明側レンズ14の双方の焦点を移動させることができる。この機能により、スライスをZ方向に移動させる、すなわち、試料50内の任意の深さにある観測点Kに焦点を合わせることができる。
 光強度取得手段19の駆動機構は、演算器17の演算に基づいて後述する図3(b)と(c)の状態を入れ替えるよう移動させるものであり、例えばステッピングモータによる移動テーブル又はフォトマスクの駆動機構であってもよい。また、操作者が、試料50を移動させるための操作部、又はフォトマスクを移動させるための操作部を操作することにより、図3(b)と(c)の状態を入れ替えてもよい。
 本実施形態の場合、照明13は、光を透過させる明部と光を遮断する暗部とが任意の比率で組み合わさるフォトマスクで形成された高周波照明である。また、光強度取得手段は、光センサ15と照明13の焦点を維持したまま試料50をX方向やY方向に任意に移動させる、もしくはフォトマスクを任意に移動(明部と暗部をX方向やY方向に任意の移動)させる駆動機構である。
 本実施形態の透過型顕微鏡は、高周波照明の明部と暗部を利用し、さらに光センサ15と高周波照明13の合焦状態と非合焦状態との間の光情報の違いを利用し、直接成分と大域成分を分離する。ここで、高周波照明の像が形成される面に平行な試料内の面(XY平面)を「スライス」と呼ぶ(図8参照)。例えば、試料50の厚みが10μmで、焦点の合っているスライスの厚みは3μmとする(試料やレンズ性能により数値は変わる)。図4は、焦点が合っているスライスと焦点が合っていないスライスを説明する図である。光センサも高周波照明も焦点が合っていないスライスがαとγであり、焦点が合っているスライスがβである。光センサの焦点が合っている場合、その画像は図4(a)のようになり、光センサの焦点が合っていない場合、その画像は図4(b)のようになる。一方、高周波照明の焦点が合っている場合、その画像は図4(c)のようになり、高周波照明のフォーカスが合っていない場合、その画像は図4(d)のようになる。つまり、光センサと高周波照明のいずれか一方の焦点が合っていない場合、パターンがぼやけた画像(図4(b)(d))となる。このようにパターンがぼやけたスライスでは、光強度が均一になると仮定する。つまり、光センサ側と高周波照明側の両方の焦点が合っている状態で直接成分が含まれるとみなし、光センサ側と高周波照明側のいずれか一方の焦点が合っていない状態では大域成分のみとみなす。
 まず、高周波照明のパターンが無く、カメラと照明の両方に焦点が合っている場合と、カメラと照明のいずれかの焦点が合っておらず光強度が一様である場合とを考える。観測点Kに対応する光センサ15のピクセルpで捕捉された光強度L[p]は、直接成分D[p]と大域成分G[p]との和である。
(式1)
 L[p]=D[p]+G[p]
 図3(b)と図3(c)は、光を透過する明部と光を遮断する暗部が市松模様状であるフォトマスクを介する高周波照明13を用いて試料50に照射したときの様子を模式的に示した図である。なお、説明明瞭化のため、図3(b)と図3(c)では、透過型試料観察装置100の記載を省略している。
[分離演算の説明]
 ここで、演算器17が行う演算内容について説明する。
 観測点Kが含まれるターゲットスライスに、光センサ15と高周波照明13の焦点が合っている。図3(b)は、光強度取得手段19でフォトマスク又は試料50を動かして観察点Xに光を照射した(フォトマスクの明部を位置させる)ときの模式図である。観察点Xに光が照射すると、光センサ15は観察点Xからの直接的な光(直接成分(A))と他の部分からの光(非合焦での観測点以外からの他点単一散乱光の成分である大域成分(B)及び多重散乱光の成分である大域成分(C))の双方を含む情報を取得する。一方、図3(c)は、フォトマスク又は試料50を動かして観察点Xに光を照射しない(フォトマスクの暗部を位置させる)ときの模式図である。観察点Xに光が照射しないと観察点Xからの直接的な光(直接成分(A))がなく、光センサ15は他の部分からの光(大域成分(B)と(C))のみの情報を取得する。
 なお、「合焦での観測点以外からの他点単一散乱光による成分(D)」はカメラの光学系で異なるピクセルに結像されるため、成分(D)は検討中のピクセルにおいて考慮不要である。
 前述のように焦点が合っていないスライス(図4(d))において照明光が均一であると仮定すると、フォトマスクの明部と暗部の比率が1:1である場合、焦点が合っていないスライス(α、γ)内の光強度は、焦点が合っているスライスβの明部の光強度の半分の光強度となる。つまり、スライスβ以外の部分からの多重散乱光や単一散乱光の光強度は観測点Kで反射あるいは透過した光の強度の半分となる。
 このことを利用して、観測点Kに光を照射している場合の観測点Kに対応する光センサのピクセルpにおける輝度L[p]と、観測点Kに光を照射していない場合の輝度L[p]とを以下のように算出することができる。
Figure JPOXMLDOC01-appb-M000001
Figure JPOXMLDOC01-appb-M000002
ここで、S[p、x]は点x=[x、y、z]における単一散乱光の光強度である。M[p、x]は最後の散乱点がxである多重散乱光の光強度である。
 焦点深度dは範囲を有するのでピクセルpは点xの集合に対応する。Ω(p、d)はピクセルpと焦点深度dに対応する領域であり、Ψ(p)は試料50内のピクセルpに対応するすべての点xを示すとする。
 図3(b)に示すように、式(2)の第1項は、ターゲットスライス(β;z=d)における観測点Kを照射した直接透過光である。第2項は焦点から外れた異なるスライス(α、γ)での単一散乱光であり、第3項は大域成分における散乱光の多重である。従って、ターゲットスライスからの光D[p]および他のスライスからの光G[p]は、次式で表される。
Figure JPOXMLDOC01-appb-M000003
 光センサ15の全てのピクセルで直接成分および大域成分を得るためには、高周波照明パターンを動かし、それぞれのピクセルで光強度が最大のLmaxと最小のLminを取得する。L=Lmaxであり、L=Lminであるので式(4)を用いて各ピクセルのD[p]とG[p]を求めれば、試料50の透過光と散乱光を分離することができる。
 なお、高周波照明パターンの動かし方は、例えば、高周波照明の明部と暗部をそれぞれ含むように予め設定した移動経路で動かす方法がある。また、高周波パターンフィルタの動かし方として、高周波パターンフィルタをXYZ軸電動ステージ上でXY方向にランダムに移動させる方法でもよい。この方法の場合、明部ですべての点を捕捉するために十分量の当該ターゲットスライスの観察画像を取得する必要がある。
 以上、演算器17の演算について説明した。
 なお、高周波照明を形成するフォトマスクの明部と暗部との大きさに注意する必要がある。フォトマスクの明部が大きい場合、観察点で散乱された直接透過光が、同一の照明領域内で数回散乱することになる。本実施形態の透過型顕微鏡では、このような同一の照明領域内で数回散乱してしまった光も、直接成分であると判断することになる。同一の照明領域内で散乱回数は、試料の特性および高周波照明の周波数に依存するので、試料の特性に応じて高周波照明の周波数を適宜調整する必要がある。
 例えば、上記実施形態では高周波照明のパターンを明部と暗部が1:1の市松模様で説明したが、試料の特性によって明部と暗部が1:1ではないパターンの高周波照明を利用してもよいし、明部と暗部とが規則的に配列されていない不規則パターンの照明を利用してもよい。この場合、明部と暗部の比率に応じて式(2)の第2項と第3項の係数、及び式(3)の各項の係数を変更する。具体的には、高周波照明のパターンを明部と暗部が明部と暗部が1:1の市松模様の場合、式(2)と式(3)の各係数が“1/2”であるが、明部と暗部の比率に応じ当該係数を変更する(ただし、係数の合計は1である。)。例えば、
明部の割合=a、
暗部の割合=1-a、
b:明部の透過率を1とするときの暗部の透過率(0.0≦b<1)
とすると、上述した式(2)、式(3)、式(4)は、それぞれ式(2a)、式(3a)、式(4a)となる。
Figure JPOXMLDOC01-appb-M000004
Figure JPOXMLDOC01-appb-M000005
Figure JPOXMLDOC01-appb-M000006
 式(2a)、式(3a)、式(4a)において、a=1/2、b=0の場合が式(2)、式(3)、式(4)となる。
 また、上記実施形態では高周波照明をフォトマスクで構成することを説明したが、フォトマスクを使用せずに複数のLED等の微小光源を配列して高周波照明を構成してもよい。すなわち、前記照明は、光源を発光させる明部と光源を消灯させる暗部とを任意の比率で組み合わせたパターンの照明であり、前記光強度取得手段は、前記比率を維持したまま前記明部と前記暗部を任意に移動させる光源制御部であることを特徴とする。
 もちろん、LEDは、高周波照明だけでなく不規則パターンの照明も実現することができる。
(実施例1)
 図5(a)は、本実施例の高周波照明を用いた透過顕微鏡システムを説明する写真である。本透過顕微鏡システムは、顕微鏡、光源、高周波パターンフィルタ(フォトマスク)、カメラ(光センサ)及びXYZ軸電動ステージからなる。顕微鏡はオリンパスBX53、光源にはハロゲンランプ、XYZ軸電動ステージには駿河精機KXT04015-LCを用いた。高周波パターンフィルタとして、図3及び図4に示すように、照明領域(明部)と非照明領域(暗部)の比が1:1である様々な市松模様(高周波照明)のフォトマスクを用意した。具体的に、パターンの大きさは1×1μmから16×16μmまでを用意した。パターンの大きさは、例えば生体中の部位などにより、検体中に散乱体がどのくらい含まれるかに応じて決定される。イルミネーションレンズはフィルタの上に設置され、照明のフォーカス位置を変えることができる。
 まず、試料の深さ方向(Z方向)について、ある深さのターゲットスライスに、光センサ15と高周波照明13の焦点を合わせる。どちらの焦点を先に合わせてもよいが、両方の焦点を合わせる必要がある。例えば、顕微鏡の資料ステージを動かして、試料50を観察できるように光センサ15の焦点を所望のターゲットスライスに合わせておく。その後、高周波照明13の焦点を当該ターゲットスライスに合わせる。その焦点合わせには、照明側レンズ14をZ方向に移動させ、且つXYZ軸電動ステージで高周波照明パターンフィルタ13をZ方向に移動させ調整する。
 そして、明部ですべての点を捕捉するために、高周波パターンフィルタ13をXYZ軸電動ステージ上で動かし、当該ターゲットスライスの観察画像を取得する。高周波パターンフィルタの動かし方は上述の通りである。図5(b)は高周波パターンが人間の皮膚に照射されたときの画像、図5(c)は直接成分D[p]の画像、図5(d)は大域成分G[p]の画像である。そして、前述の「分離演算の説明」のように観察画像を処理し、カメラの各光センサ(ピクセル)における直接成分D[p]と大域成分G[p]を取得する。ここまでの作業で、現在のターゲットスライスに対して透過光と散乱光を分離することができる。
 次に、高周波パターンフィルタ13をXYZ軸電動ステージをZ軸方向に移動することにより、上記とは別の深さのターゲットスライスに、光センサ15と高周波照明13の焦点を合わせる。そして、当該ターゲットスライスにおいて、高周波パターンフィルタ13をXYZ軸電動ステージで同様に動かして観察画像を取得する。上記と同様に「分離演算の説明」のように観察画像を処理し、当該ターゲットスライスに対して透過光と散乱光を分離することができる。
(本実施例の効果)
 非特許文献1~8に記載される手法では、光路上の重なりも含む、全ての深さ情報の重ね合わせで観測され、それらから特定の深さ(ターゲットスライス)の透過光と散乱光の情報あるいは深さ方向(Z方向)に対する透過光と散乱光の情報を取得することが困難である。一方、本透過顕微鏡システムは、特定の深さ(ターゲットスライス)の透過光と散乱光の情報を取得することができ、さらにターゲットスライスをZ方向に順次移動させて上記の処理を繰り返すことで、複数の深さのターゲットスライスに対する透過光と散乱光を分離して情報を得ることができる。本透過顕微鏡システムは、Z方向の移動をあるステップ幅で連続的に行い、連続的に深さごとのターゲットスライスにおける透過光と散乱光の情報を取得できることから、分離された透過光と散乱光の3次元情報、あるいは3次元画像情報を観察することができる。前記3次元情報は、直接成分や大域成分の3次元波長情報、それらより演算して抽出される各種情報ないし作成される画像、およびそれらより解析される結果を含む。
(実施例2)
 本実施例の説明の前に、本実施例を適用しようとする生命科学研究の分野における課題を説明する。
 生命科学研究は、生体組織の非接触ないし非侵襲イメージングによる構造や機能解析が非常に期待されている。最近では、共焦点顕微鏡やライトシート顕微鏡等に代表されるように、蛍光の波長情報を手掛かりとする形態可視化が広く利用されている(Nat. Methods 8, pp.757-760, 2011)。しかし、このような共焦点顕微鏡等における蛍光色素染色による観察では、生細胞は褪色や励起光によるダメージを受けることが課題となっている。このため、染色を行わない生体組織等の顕微鏡観察が強く望まれている。しかし、一般に生体組織は散乱体を多く含んでいるため、透過光と散乱光の重ね合わせの情報が観測されており、正しく観測したい透過光が散乱の影響により不鮮明になっている。そのため、癌検出等のバイオメディカルイメージングにおいて、顕微鏡による生体組織観察の際、散乱光の影響により、吸収スペクトル等の組成情報の正しい計測が容易ではない。また、従来技術では、顕微鏡観察画像から吸収と散乱のスペクトルを分離することは困難なため、吸収と散乱を一括して減衰項とする方法がとられていた。従って、従来技術は、染色による生細胞へのダメージを軽減する代わりに、染色の波長情報が無い状態で、顕微鏡観察画像から透過光と散乱光の分離を行い、各生体組織における吸収や散乱の2次元分布情報を抽出している。
 一方、本発明に係る透過顕微鏡システムは、前述のように顕微鏡観察画像から透過光と散乱光を分離することができる。このため、後述する演算を行うことで試料の吸収係数や散乱係数を得ることができる。従って、本発明に係る透過顕微鏡システムは、試料の染色を不要とすることができ、波長情報がある状態で試料の吸収や散乱の情報を取得することができる。しかも、本発明に係る透過顕微鏡システムは、前述のように試料のZ方向にも情報を取得することができるため、試料の吸収係数や散乱係数を3次元的に取得することができる。
 以下、本実施形態の透過顕微鏡システムについて説明する。
 本実施例では、空間マルチスペクトル吸収分析について従来方法と本実施例の透過顕微鏡システムを利用した方法とを説明する。図6(a)は、比較データを取得するための従来方法による分析を説明する図である。既知試料23として、赤色色素(1mg/mL)とイントラリピッド希釈液(0.4%)の混合液をアンプルに封入し、積分球21の中心に配置した。そして、波長を変えながら光24を試料23に照射し、試料から周囲に放射される散乱光を積分球21で受光し、分光光度計22で各波長における試料23の吸収係数の解析を行った。なお、光24を白色光(多波長光)とし、分光光度計22で波長別に一括解析を行ってもよい。
 なお、既知試料23の真値として、イントラリピッドを含まない赤色色素(1mg/mL)のみの溶液で吸光度を測定している。
 ここで、図6(a)のような積分球を利用した吸収係数の分析には、試料23としてある程度まとまった分量の検体が必要という課題があった。
 一方、図6(b)は本実施例の透過顕微鏡システムを利用して試料50の吸収係数を分析する方法を説明する図である。光源13の波長を変化させつつ、試料50のうち分析したい領域に明部と暗部が配置されるように前述のように高周波パターンフィルタをXYZ軸電動ステージ上で動かした。そして、演算器17で各波長における直接成分D[p]を取得し、光源13の光強度から当該領域の吸収係数を取得する。なお、光源13の光を白色光(多波長光)とし、演算器17で波長別に一括解析を行ってもよい。
 以下は、吸収係数αの算出例である。
 直接成分をI、大域成分をI、入射光の強度をI、光センサ側レンズの焦点深度と照明側レンズの焦点深度の少ない方をXとすると、透過光の強度I
(式1b)
=Iexp(-αX
である。
また、
(式2b)
=I+I
なので、観測点の吸収係数αは、
(式3b)
α=max(0,-log(I/I)/X
である。
 図7は、図6(a)の従来手法で取得した吸収係数(破線)と図6(b)の本実施例の透過顕微鏡システムで取得した吸収係数(実線)とを波長毎に比較した図である。図7が示すように、本実施例の透過顕微鏡システムで取得した吸収係数は図6(a)の従来手法で取得した吸収係数と同様のスペクトル形状が得られており、従来手法を本実施例の透過顕微鏡システムに置き換え可能であることがわかる。
 さらに、本実施例の透過顕微鏡システムは、積分球を利用する従来手法より少ない量の検体で吸収係数の分析が可能である。
 また、本実施例の透過顕微鏡システムは、吸収係数と同様、散乱係数も求めることができる。以下は、散乱係数βの算出例である。
 直接成分Iは試料の厚さXを用いて
(式4b)
 = I-I = I exp{-( α+β)*X
と表すことができる。従って、観測点の散乱係数βは
(式5b)
β = max(0,(-log(I/I)/X -α)
直接成分Iでなく大域成分Iを用いる場合、
β = max(0,{-log(I-I)/I}/X -α)
である。
(本実施例の効果)
 本実施例の透過顕微鏡システムは、染色による生細胞へのダメージ回避のみでなく、染色処理の削減による解析時間を大幅に短縮することもできる。その結果、生体組織内および組織間の相互作用、生体組織の3次元的動態、生化学反応など、生細胞の新機能の発見や未だ明らかにされていない生体内のメカニズムの解明に貢献することが期待される。また、生化学分野に新たな分析装置を提供することで、新分析法の創出、新たな研究分野の開拓にもつながると予想され、医療技術進歩への貢献が期待できる。
 本発明に係る試料観察方法、試料観察装置、及び顕微鏡は、生化学分野だけでなく、ホログラフィ分野においても吸収と散乱によっておこるスペックルの分離にも適用することができる。また、本発明は、食品や物品検査等様々な分野での計測分析技術にも適用することができる。
 なお、上述した本発明の実施形態及び各実施例では透過型顕微鏡を例として説明したが、本発明はこれに限定されず、例えばカメラと照明が試料に対して同じ側に設けられた反射型顕微鏡であっても、半透明の試料を観察する場合には反射光から他点単一散乱光や多重散乱光の大域成分を除去する手法として本発明を同様に適用することができる。
12:光センサ側レンズ
13:光源、高周波照明
14:照明側レンズ
15:光センサ
17:演算器
18:フォーカス機構
19:光強度取得手段
21:積分球
22:分光光度計
23:試料
24:光
50:試料
100:透過型試料観察装置

Claims (13)

  1.  Z方向において光センサ及び照明の焦点を試料内の観測点を含むXY平面に合わせるフォーカス手順と、
     前記フォーカス手順を行った後、前記照明の光を前記観測点に照射したときの第1光強度と前記観測点以外に照射したときの第2光強度とを前記光センサで取得する光強度取得手順と、
     前記第1光強度に含まれる、前記観測点での単一散乱光による直接成分(A)、前記観測点以外での単一散乱光による大域成分(B)、及び前記試料内での多重散乱光による大域成分(C)と、前記第2光強度に含まれる、大域成分(B)及び大域成分(C)と、を利用し、前記第1光強度から直接成分(A)と大域成分(B)及び大域成分(C)とを分離する演算を行う演算手順と、
    を行う試料観察方法。
  2.  前記試料内において前記観測点を含むXY平面をZ方向に移動させて、前記フォーカス手順、前記光強度取得手順及び前記演算手順を繰り返す繰り返し手順をさらに行うことを特徴とする請求項1に記載の試料観察方法。
  3.  前記照明が、光を透過させる明部と光を遮断する暗部とが任意の比率で組み合わさるフォトマスクで形成された高周波照明であることを特徴とする請求項1又は2に記載の試料観察方法。
  4.  前記照明が、光源を発光させる明部と光源を消灯させる暗部とを任意の比率で組み合わせたパターンの照明であることを特徴とする請求項1又は2に記載の試料観察方法。
  5.  前記演算手順での減算は、前記第1光強度から前記第2光強度を減算して直接成分(A)を計算し、前記観測点の画像を取得することを特徴とする請求項1から4のいずれかに記載の試料観察方法。
  6.  前記演算手順での減算は、前記第1光強度から前記第2光強度を減算して直接成分(A)を計算し、該直接成分(A)と前記照明の波長毎の光強度とから前記観測点の吸収係数を取得することを特徴とする請求項1から4のいずれかに記載の試料観察方法。
  7.  Z方向において光センサ及び照明の焦点を試料内の観測点を含むXY平面に合わせるフォーカス機構と、
     前記フォーカス機構で前記光センサと前記照明の双方の焦点を前記観測点に合わせた状態で、前記照明の光を前記観測点に照射したときの第1光強度と前記観測点以外に照射したときの第2光強度とを前記光センサで取得する光強度取得手段と、
     前記第1光強度に含まれる、前記観測点での単一散乱光による直接成分(A)、前記観測点以外での単一散乱光による大域成分(B)、及び前記試料内での多重散乱光による大域成分(C)と、前記第2光強度に含まれる、大域成分(B)及び大域成分(C)と、を利用し、前記第1光強度から直接成分(A)と大域成分(B)及び大域成分(C)とを分離する演算を行う演算器と、
    を備える試料観察装置。
  8.  前記試料内において前記観測点を含むXY平面をZ方向に移動させ、前記観測点を含むXY平面のZ方向の位置毎に、前記フォーカス機構に前記光センサ及び前記照明の焦点を前記観測点に合わさせ、前記光強度取得手段に前記第1光強度及び前記第2光強度を取得させ、前記演算器に前記演算をさせる制御器をさらに備えることを特徴とする請求項7に記載の試料観察装置。
  9.  前記照明は、光を透過させる明部と光を遮断する暗部とが任意の比率で組み合わさるフォトマスクで形成された高周波照明であり、
     前記光強度取得手段は、前記光センサと前記照明の焦点を維持したまま前記試料を任意に移動させる、もしくは前記フォトマスクを任意に移動させる駆動機構である
    ことを特徴とする請求項7又は8に記載の試料観察装置。
  10.  前記照明は、光源を発光させる明部と光源を消灯させる暗部とを任意の比率で組み合わせたパターンの照明であり、
     前記光強度取得手段は、前記比率を維持したまま前記明部と前記暗部を任意に移動させる光源制御部である
    ことを特徴とする請求項7又は8に記載の試料観察装置。
  11.  前記演算器は、前記第1光強度から前記第2光強度を減算して直接成分(A)を計算し、前記観測点の画像を取得する演算を行うことを特徴とする請求項7から10のいずれかに記載の試料観察装置。
  12.  前記演算器は、前記第1光強度から前記第2光強度を減算して直接成分(A)を計算し、該直接成分(A)と前記照明の波長毎の光強度とから前記観測点の吸収係数を取得する演算を行うことを特徴とする請求項7から10のいずれかに記載の試料観察方法。
  13.  請求項7から12のいずれかに記載の試料観察装置、前記照明、前記光センサ、及び前記フォーカス機構を備える顕微鏡。
PCT/JP2018/031302 2017-08-25 2018-08-24 試料観察方法、試料観察装置、及び顕微鏡 WO2019039581A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019537702A JP7161218B2 (ja) 2017-08-25 2018-08-24 試料観察方法、試料観察装置、及び顕微鏡

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017162635 2017-08-25
JP2017-162635 2017-08-25

Publications (1)

Publication Number Publication Date
WO2019039581A1 true WO2019039581A1 (ja) 2019-02-28

Family

ID=65440070

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/031302 WO2019039581A1 (ja) 2017-08-25 2018-08-24 試料観察方法、試料観察装置、及び顕微鏡

Country Status (2)

Country Link
JP (1) JP7161218B2 (ja)
WO (1) WO2019039581A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010019762A (ja) * 2008-07-14 2010-01-28 V Technology Co Ltd 表面形状測定方法及び表面形状測定装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6817566B2 (ja) 2016-07-22 2021-01-20 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010019762A (ja) * 2008-07-14 2010-01-28 V Technology Co Ltd 表面形状測定方法及び表面形状測定装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
TAKATANI, TSUYOSHI ET AL.: "Decomposition of Reflected and Scattered Lights by Multiple Weighted Measurements", RESEARCH REPORT OF INFORMATION PROCESSING SOCIETY OF JAPAN, vol. 2011 -CVIM 177, no. 12, January 2011 (2011-01-01), pages 1 - 8, XP055576486 *
TANAKA, KENICHIRO ET AL.: "Descattering of Transmissive Images Using Parallel High-Frequency Illumination", THE IEICE TRANSACTIONS ON INFORMATION AND SYSTEMS, vol. J96-D, 1 August 2013 (2013-08-01), pages 1834 - 1843, XP032424248 *

Also Published As

Publication number Publication date
JPWO2019039581A1 (ja) 2020-08-20
JP7161218B2 (ja) 2022-10-26

Similar Documents

Publication Publication Date Title
JP6416887B2 (ja) 構造化照明を用いた組織試料の顕微鏡観察
US20190302437A1 (en) Microscopy Devices, Methods and Systems
Wang et al. Gigapixel surface imaging of radical prostatectomy specimens for comprehensive detection of cancer-positive surgical margins using structured illumination microscopy
DE102010063412B4 (de) Technik zur tomographischen Bilderfassung
CN104783767B (zh) 一种利用正交偏振光谱成像探测人体微循环的装置及方法
EP2579084B1 (en) Microscope device
JP2008502929A (ja) 反射または透過赤外光による微細構造の検査装置または検査方法
US20110157350A1 (en) Arithmetically operating device, arithmetically operating method, arithmetically operating program, and microscope
US20150185460A1 (en) Image forming method and image forming apparatus
KR101875980B1 (ko) 객체 특징을 선택적으로 관찰하기 위한 고속 획득 비전 시스템 및 그 방법
WO2013187833A1 (en) Quantitative phase microscopy for label-free high-contrast cell imaging using frequency domain phase shift
US20150085360A1 (en) Confocal microscope
JP2021536274A (ja) ハイパースペクトル装置及び方法
CA3061440A1 (en) Optical scanning arrangement and method
WO2005033678A1 (ja) 画像処理装置及び画像処理方法
WO2012090416A1 (ja) 検査装置
US20120050517A1 (en) Imaging systems and associated methods thereof
JP7161218B2 (ja) 試料観察方法、試料観察装置、及び顕微鏡
JP3544914B2 (ja) 光学顕微鏡装置および顕微鏡観察方法。
JP2013109205A (ja) 画像検出装置
EP3663812A1 (en) Variable incidence angle dark-field microscopy
JP2015166763A (ja) 顕微鏡装置および解析方法
Pala et al. Development of Embedded System-Based Lens-Less Microscopy System and Testing on Pathological Samples
WO2023189393A1 (ja) 生体試料観察システム、情報処理装置及び画像生成方法
US10004398B2 (en) Device for determining a condition of an organ and method of operating the same

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18848481

Country of ref document: EP

Kind code of ref document: A1

DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)
ENP Entry into the national phase

Ref document number: 2019537702

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18848481

Country of ref document: EP

Kind code of ref document: A1