JP7081318B2 - Microscope, method, and program - Google Patents

Microscope, method, and program Download PDF

Info

Publication number
JP7081318B2
JP7081318B2 JP2018112355A JP2018112355A JP7081318B2 JP 7081318 B2 JP7081318 B2 JP 7081318B2 JP 2018112355 A JP2018112355 A JP 2018112355A JP 2018112355 A JP2018112355 A JP 2018112355A JP 7081318 B2 JP7081318 B2 JP 7081318B2
Authority
JP
Japan
Prior art keywords
evaluation value
optical system
correction ring
correction
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018112355A
Other languages
Japanese (ja)
Other versions
JP2019215437A5 (en
JP2019215437A (en
Inventor
大和 新谷
啓作 浜田
敬 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2018112355A priority Critical patent/JP7081318B2/en
Publication of JP2019215437A publication Critical patent/JP2019215437A/en
Publication of JP2019215437A5 publication Critical patent/JP2019215437A5/ja
Application granted granted Critical
Publication of JP7081318B2 publication Critical patent/JP7081318B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Lens Barrels (AREA)
  • Microscoopes, Condenser (AREA)
  • Lenses (AREA)

Description

本発明は、顕微鏡、方法、及びプログラムに関する。 The present invention relates to microscopes, methods, and programs.

従来、波面変換素子を変調するための制御データに基づいて変調する技術が知られている(例えば、特許文献1参照)。 Conventionally, a technique for modulation based on control data for modulating a wavefront conversion element is known (see, for example, Patent Document 1).

特開2005-292538号公報Japanese Unexamined Patent Publication No. 2005-292538

本発明の第一の態様に係る顕微鏡は、補正環を有し、収差補正光学系を含む対物レンズと、試料からの光を検出する検出部と、補正環制御部と、を有し、前記補正環制御部は、前記補正環の複数の回転位置それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記回転位置それぞれの前記2枚の画像に基づいて、前記回転位置毎の評価値を算出し、算出した複数の前記評価値に基づいて補正環の回転位置を決定し、前記補正環の回転位置を、前記決定した回転位置に移動させ、前記収差補正光学系の設定状態を変更させ、前記評価値は、前記2枚の画像間の相関値であり、前記基準画像とは、前記補正環を任意の位置に設定した状態で、前記焦点位置からの前記光を検出してなる画像である。 The microscope according to the first aspect of the present invention has a correction ring, an objective lens including an aberration correction optical system, a detection unit for detecting light from a sample, and a correction ring control unit. The correction ring control unit acquires two images at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance at each of the plurality of rotation positions of the correction ring, and the correction ring control unit acquires the two images at the same position as the focal position of the objective lens. The evaluation value for each rotation position is calculated based on each of the two images, the rotation position of the correction ring is determined based on the plurality of calculated evaluation values, and the rotation position of the correction ring is set to the above. The aberration correction optical system is moved to a determined rotation position, and the setting state of the aberration correction optical system is changed. The evaluation value is a correlation value between the two images, and the reference image is a position where the correction ring is placed at an arbitrary position. It is an image obtained by detecting the light from the focal position in the state set to.

本発明の第二の態様に係る顕微鏡は、試料に照明光を照射する照明光学系と、前記試料からの観察光を検出する検出部と、対物レンズを含み、前記観察光を前記検出部に入射させる観察光学系と、前記照明光及び前記観察光の少なくとも一方の収差を補正する収差補正光学系と、収差補正光学系制御部と、を有し、前記収差補正光学系制御部は、前記収差補正光学系の複数の設定状態それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記設定状態それぞれの前記2枚の画像に基づいて、前記設定状態毎の評価値を算出し、算出した複数の前記評価値に基づいて収差補正光学系の設定を決定し、前記収差補正光学系の設定状態を、前記決定した設定に変更させ、前記評価値は、前記2枚の画像間の相関値であり、前記基準画像とは、前記設定状態を任意に設定した状態で、前記焦点位置からの前記観察光を検出してなる画像である。 The microscope according to the second aspect of the present invention includes an illumination optical system for irradiating a sample with illumination light, a detection unit for detecting observation light from the sample, and an objective lens, and the observation light is transferred to the detection unit. It has an observation optical system to be incident, an aberration correction optical system for correcting the aberration of at least one of the illumination light and the observation light, and an aberration correction optical system control unit, and the aberration correction optical system control unit is described above. In each of the plurality of setting states of the aberration correction optical system, two images are acquired at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance, and the two images in each of the setting states are obtained. The evaluation value for each setting state is calculated based on the image of the above, the setting of the aberration correction optical system is determined based on the plurality of calculated evaluation values, and the setting state of the aberration correction optical system is determined. The evaluation value is a correlation value between the two images, and the reference image is a state in which the setting state is arbitrarily set, and the observation light from the focal position is detected. It is an image of optics.

本発明の第一の態様に係る方法は、補正環を有し、収差補正光学系を含む対物レンズと、試料からの光を検出する検出部と、補正環制御部と、を有する顕微鏡の前記補正環制御部で実行される方法であって、前記補正環の複数の回転位置それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記回転位置それぞれの前記2枚の画像に基づいて、前記回転位置毎の評価値を算出するステップと、算出した複数の前記評価値に基づいて補正環の回転位置を決定するステップと、前記補正環の回転位置を、前記決定した回転位置に移動させ、前記収差補正光学系の設定状態を変更させるステップと、を有し、前記評価値は、前記2枚の画像間の相関値であり、前記基準画像とは、前記補正環を任意の位置に設定した状態で、前記焦点位置からの前記光を検出してなる画像である。 The method according to the first aspect of the present invention is the above-mentioned microscope having a correction ring, an objective lens including an aberration correction optical system, a detection unit for detecting light from a sample, and a correction ring control unit. This is a method executed by the correction ring control unit, and two images are taken at the same position as the focal position of the objective lens in the sample when a reference image is acquired in advance at each of a plurality of rotation positions of the correction ring. And the step of calculating the evaluation value for each rotation position based on the two images of each of the rotation positions, and the step of determining the rotation position of the correction ring based on the plurality of calculated evaluation values. And a step of moving the rotation position of the correction ring to the determined rotation position and changing the setting state of the aberration correction optical system, and the evaluation value is a correlation between the two images. It is a value, and the reference image is an image obtained by detecting the light from the focal position with the correction ring set at an arbitrary position.

本発明の第二の態様に係る方法は、試料に照明光を照射する照明光学系と、前記試料からの観察光を検出する検出部と、対物レンズを含み、前記観察光を前記検出部に入射させる観察光学系と、前記照明光及び前記観察光の少なくとも一方の収差を補正する収差補正光学系と、収差補正光学系制御部と、を有する顕微鏡の前記収差補正光学系制御部で実行される方法であって、前記収差補正光学系の複数の設定状態それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記設定状態それぞれの前記2枚の画像に基づいて、前記設定状態毎の評価値を算出するステップと、算出した複数の前記評価値に基づいて収差補正光学系の設定を決定するステップと、前記収差補正光学系の設定状態を、前記決定した設定に変更させるステップと、を有し、前記評価値は、前記2枚の画像間の相関値であり、前記基準画像とは、前記設定状態を任意に設定した状態で、前記焦点位置からの前記観察光を検出してなる画像である。 The method according to the second aspect of the present invention includes an illumination optical system for irradiating a sample with illumination light, a detection unit for detecting observation light from the sample, and an objective lens, and the observation light is transmitted to the detection unit. It is executed by the aberration correction optical system control unit of a microscope having an observation optical system to be incident, an aberration correction optical system for correcting the aberration of at least one of the illumination light and the observation light, and an aberration correction optical system control unit. In each of the plurality of setting states of the aberration correction optical system, two images are acquired at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance. A step of calculating an evaluation value for each of the set states based on the two images of each of the set states, a step of determining the setting of the aberration correction optical system based on the plurality of calculated evaluation values, and the aberration . It has a step of changing the setting state of the correction optical system to the determined setting, the evaluation value is a correlation value between the two images, and the reference image is an arbitrary setting state. It is an image formed by detecting the observation light from the focal position in the state set to.

本発明の第一の態様に係るプログラムは、補正環を有し、収差補正光学系を含む対物レンズと、試料からの光を検出する検出部と、補正環制御部と、を有する顕微鏡の前記補正環制御部で実行されるプログラムであって、前記補正環制御部を、前記補正環の複数の回転位置それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記回転位置それぞれの前記2枚の画像に基づいて、前記回転位置毎の評価値を算出する手段、算出した複数の前記評価値に基づいて補正環の回転位置を決定する手段、及び前記補正環の回転位置を、前記決定した回転位置に移動させ、前記収差補正光学系の設定状態を変更させる手段として機能させ、前記評価値は、前記2枚の画像間の相関値であり、前記基準画像とは、前記補正環を任意の位置に設定した状態で、前記焦点位置からの前記光を検出してなる画像である。 The program according to the first aspect of the present invention is the above-mentioned microscope of a microscope having a correction ring, an objective lens including an aberration correction optical system, a detection unit for detecting light from a sample, and a correction ring control unit. A program executed by the correction ring control unit, wherein the correction ring control unit has a focal position of the objective lens in the sample when a reference image is acquired in advance at each of a plurality of rotation positions of the correction ring. A means for acquiring two images at the same position and calculating an evaluation value for each rotation position based on the two images at each rotation position, and a correction ring based on a plurality of calculated evaluation values. The means for determining the rotation position and the rotation position of the correction ring are moved to the determined rotation position to function as means for changing the setting state of the aberration correction optical system, and the evaluation values are the two . It is a correlation value between images, and the reference image is an image obtained by detecting the light from the focal position with the correction ring set at an arbitrary position.

本発明の第二の態様に係るプログラムは、試料に照明光を照射する照明光学系と、前記試料からの観察光を検出する検出部と、対物レンズを含み、前記観察光を前記検出部に入射させる観察光学系と、前記照明光及び前記観察光の少なくとも一方の収差を補正する収差補正光学系と、収差補正光学系制御部と、を有する顕微鏡の前記収差補正光学系制御部で実行されるプログラムであって、前記収差補正光学系制御部を、前記収差補正光学系の複数の設定状態それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記設定状態それぞれの前記2枚の画像に基づいて、前記設定状態毎の評価値を算出する手段、算出した複数の前記評価値に基づいて収差補正光学系の設定を決定する手段、及び前記収差補正光学系の設定状態を、前記決定した設定に変更させる手段として機能させ、前記評価値は、前記2枚の画像間の相関値であり、前記基準画像とは、前記設定状態を任意に設定した状態で、前記焦点位置からの前記観察光を検出してなる画像である。 The program according to the second aspect of the present invention includes an illumination optical system that irradiates a sample with illumination light, a detection unit that detects observation light from the sample, and an objective lens, and transfers the observation light to the detection unit. It is executed by the aberration correction optical system control unit of a microscope having an observation optical system to be incident, an aberration correction optical system for correcting the aberration of at least one of the illumination light and the observation light, and an aberration correction optical system control unit. In the program, the aberration correction optical system control unit is set at the same position as the focal position of the objective lens in the sample when a reference image is acquired in advance in each of a plurality of setting states of the aberration correction optical system. A means for acquiring two images and calculating an evaluation value for each setting state based on the two images in each of the setting states, and setting of an aberration correction optical system based on a plurality of calculated evaluation values. The evaluation value is a correlation value between the two images, and is a reference image . It is an image obtained by detecting the observation light from the focal position in a state where the setting state is arbitrarily set.

共焦点顕微鏡の外観構成の一例を示す図である。It is a figure which shows an example of the appearance composition of a confocal microscope. 共焦点顕微鏡の収差補正部の外観構成の一部分を拡大した図である。It is an enlarged view of a part of the appearance composition of the aberration correction part of a confocal microscope. 収差補正算出装置の機能構成の一例を示す図である。It is a figure which shows an example of the functional structure of the aberration correction calculation apparatus. 情報処理装置の表示装置に表示されるユーザインタフェースの一例を示す図である。It is a figure which shows an example of the user interface displayed on the display device of an information processing apparatus. 同一画像取得条件で取得した2画像の相関値と収差との関係を示す図である。It is a figure which shows the relationship between the correlation value and the aberration of two images acquired under the same image acquisition condition. 収差量と画像の輝度(強度)との関係を示す図である。It is a figure which shows the relationship between the amount of aberration and the brightness (intensity) of an image. SN比と相関値との関係を示すグラフである。It is a graph which shows the relationship between the SN ratio and the correlation value. 第1の実施形態に係る収差補正算出装置の動作を示すフローチャートである。It is a flowchart which shows the operation of the aberration correction calculation apparatus which concerns on 1st Embodiment. 第1の実施形態における補正環位置で撮像される画像と評価値との関係を示す説明図である。It is explanatory drawing which shows the relationship between the image imaged at the correction ring position and the evaluation value in 1st Embodiment. 第2の実施形態におけるz位置探索の概要を示す説明図である。It is explanatory drawing which shows the outline of the z position search in 2nd Embodiment. 第2の実施形態における補正環位置と評価値の関係を示すグラフである。It is a graph which shows the relationship between the correction ring position and the evaluation value in 2nd Embodiment. 第2の実施形態に係る収差補正算出装置の動作を示すフローチャートである。It is a flowchart which shows the operation of the aberration correction calculation apparatus which concerns on 2nd Embodiment. 第3の実施形態における補正環位置とz方向の探索の関係を示す説明図である。It is explanatory drawing which shows the relationship between the correction ring position and the search in the z direction in 3rd Embodiment. 第4の実施形態における退色補正による評価値の取得方法を示す説明図である。It is explanatory drawing which shows the acquisition method of the evaluation value by fading correction in 4th Embodiment. 第4の実施形態に係る収差補正算出装置の機能構成の一例を示す図である。It is a figure which shows an example of the functional structure of the aberration correction calculation apparatus which concerns on 4th Embodiment. 第4の実施形態に係る収差補正算出装置の動作の前段を示すフローチャートである。It is a flowchart which shows the pre-stage of the operation of the aberration correction calculation apparatus which concerns on 4th Embodiment. 第4の実施形態に係る収差補正算出装置の動作の後段を示すフローチャートである。It is a flowchart which shows the latter stage of the operation of the aberration correction calculation apparatus which concerns on 4th Embodiment. 第4の実施形態における退色補正による評価値の取得方法の変形例を示す説明図である。It is explanatory drawing which shows the modification of the modification of the evaluation value acquisition method by fading correction in 4th Embodiment. 補正環位置と画質との関係を示す説明図である。It is explanatory drawing which shows the relationship between the correction ring position and image quality.

以下、好ましい実施形態について図面を参照して説明する。図1は、共焦点顕微鏡100の外観構成の一例を示す図であり、図2は、共焦点顕微鏡100の一部である収差補正部20の外観構成の一部分を拡大した図である。以下、共焦点顕微鏡100を例示して説明するが、これに限られず、例えば、微分干渉顕微鏡(Differential Interference Contrast microscope;DIC)、位相差顕微鏡、蛍光顕微鏡、共焦点顕微鏡、超解像顕微鏡、多光子励起蛍光顕微鏡であってもよい。この図1に示すように、共焦点顕微鏡100は、収差補正算出装置である顕微鏡制御部10と、共焦点顕微鏡100の光学系に設けられた収差補正部20とを備える。なお、以降の説明において、図1等に示すように、対物レンズ21の光軸方向をz軸とし、このz軸に直交する面内において直交する方向をそれぞれx軸及びy軸とする。 Hereinafter, preferred embodiments will be described with reference to the drawings. FIG. 1 is a diagram showing an example of the appearance configuration of the confocal microscope 100, and FIG. 2 is an enlarged view of a part of the appearance configuration of the aberration correction unit 20 which is a part of the confocal microscope 100. Hereinafter, the confocal microscope 100 will be described by way of example, but the present invention is not limited to this, and for example, a differential interference microscope (DIC), a phase contrast microscope, a fluorescence microscope, a confocal microscope, a super-resolution microscope, and many other microscopes. It may be a photon-excited fluorescence microscope. As shown in FIG. 1, the confocal microscope 100 includes a microscope control unit 10 which is an aberration correction calculation device, and an aberration correction unit 20 provided in the optical system of the confocal microscope 100. In the following description, as shown in FIG. 1 and the like, the optical axis direction of the objective lens 21 is defined as the z-axis, and the directions orthogonal to the z-axis in the plane are defined as the x-axis and the y-axis, respectively.

図2に示すように、収差補正部20とは、電動モータにより球面収差の補正が可能な収差補正光学系(例えば、補正環21aにより光軸OA方向に移動される収差補正レンズ21b)を備えた対物レンズ21により、試料を拡大した観察と観察像の取得に関わる顕微鏡の一部構成である。試料とは、具体的には、観察対象となる生体試料、ビーズなどである。生体試料とは、厚みがある蛍光染色された細胞などの試料である。ビーズとは、蛍光標識されたポリスチレンの微小球体(例えば直径0.2umなど)である。 As shown in FIG. 2, the aberration correction unit 20 includes an aberration correction optical system capable of correcting spherical aberration by an electric motor (for example, an aberration correction lens 21b moved in the optical axis OA direction by a correction ring 21a). This is a partial configuration of a microscope involved in magnified observation of a sample and acquisition of an observation image by the objective lens 21. Specifically, the sample is a biological sample, beads, or the like to be observed. A biological sample is a sample such as a thick fluorescently stained cell. Beads are fluorescently labeled polystyrene microspheres (eg, 0.2 um in diameter).

また、球面収差とは、点光源から出射される光線が、光学系を通過後に1点の焦点に集束しない収差である。球面収差は、具体的には、観察対象(上述した試料)を通過した光の観察波長や、温度変化、カバーガラス厚、観察面の深さに応じて変化する。補正環は、この球面収差を補正する。 Further, spherical aberration is an aberration in which a light ray emitted from a point light source does not focus on one focal point after passing through an optical system. Specifically, the spherical aberration changes according to the observation wavelength of the light passing through the observation target (the above-mentioned sample), the temperature change, the cover glass thickness, and the depth of the observation surface. The correction ring corrects this spherical aberration.

まず、図1を参照して、ステージ23上に配置された試料(例えば、蛍光色素が添加された細胞)などの観察対象TPの画像を取得する顕微鏡である共焦点顕微鏡100の構成について説明する。共焦点顕微鏡100は、光源26a、シャッタ26b、及び音響光学素子26cから構成される光源部26、照明用レンズ27、励起フィルタ28、及びダイクロイックミラー29を含む。光源26aとしては、所定の波長のレーザ光等の励起光を発光する装置を用いることができる。共焦点顕微鏡100は、ダイクロイックミラー29から観察対象TP側に配置されている、スキャナ210、及び対物レンズ21を含む。スキャナ210として、ガルバノスキャナ又はレゾナントスキャナを用いることができる。共焦点顕微鏡100の照明光学系は、照明用レンズ27、励起フィルタ28、ダイクロイックミラー29、スキャナ210、及び対物レンズ21を含む。共焦点顕微鏡100は、ダイクロイックミラー29から観察対象TP側とは反対側に配置されている、蛍光フィルタ211、集光レンズ212、検出部25を含む。検出部25として、光電子増倍管を用いることができる。共焦点顕微鏡100の観察光学系は、スキャナ210、対物レンズ21、蛍光フィルタ211、及び集光レンズ212を含む。共焦点顕微鏡100は、観察対象TPが配置されたステージ23を平面状に移動させるステージ駆動部213を含む。なお、ステージ駆動部213は、ステージ23を対物レンズ21の光軸方向に移動させてもよい。共焦点顕微鏡100は、検出部25の光の入射側に配置された、観察対象TPの焦点面と共役の位置に配置され、その径により、ある一定以上焦点面から光軸方向にずれた位置の光を除去するピンホール214と、ピンホール214のサイズを調整するピンホール駆動部215とを含む。共焦点顕微鏡100は、画像を取得するために作動する複数の構成部、例えば、検出部25、光源部26、ピンホール駆動部215、及びステージ駆動部213等の作動を制御する顕微鏡制御部10を含む。この顕微鏡である共焦点顕微鏡100は外部の情報処理装置101と情報のやり取りが可能に構成されている。 First, with reference to FIG. 1, the configuration of a confocal microscope 100, which is a microscope for acquiring an image of an observation target TP such as a sample placed on a stage 23 (for example, a cell to which a fluorescent dye is added), will be described. .. The confocal microscope 100 includes a light source unit 26 composed of a light source 26a, a shutter 26b, and an acoustic optical element 26c, an illumination lens 27, an excitation filter 28, and a dichroic mirror 29. As the light source 26a, a device that emits excitation light such as a laser beam having a predetermined wavelength can be used. The confocal microscope 100 includes a scanner 210 and an objective lens 21 arranged on the observation target TP side from the dichroic mirror 29. As the scanner 210, a galvano scanner or a resonant scanner can be used. The illumination optical system of the confocal microscope 100 includes an illumination lens 27, an excitation filter 28, a dichroic mirror 29, a scanner 210, and an objective lens 21. The confocal microscope 100 includes a fluorescence filter 211, a condenser lens 212, and a detection unit 25, which are arranged on the side opposite to the observation target TP side from the dichroic mirror 29. A photomultiplier tube can be used as the detection unit 25. The observation optical system of the confocal microscope 100 includes a scanner 210, an objective lens 21, a fluorescence filter 211, and a condenser lens 212. The confocal microscope 100 includes a stage drive unit 213 that moves the stage 23 on which the observation target TP is arranged in a plane. The stage drive unit 213 may move the stage 23 in the optical axis direction of the objective lens 21. The confocal microscope 100 is arranged at a position conjugate with the focal plane of the observation target TP, which is arranged on the incident side of the light of the detection unit 25, and is displaced from the focal plane by a certain amount or more in the optical axis direction due to its diameter. It includes a pinhole 214 for removing the light of the pinhole 214 and a pinhole drive unit 215 for adjusting the size of the pinhole 214. The confocal microscope 100 is a microscope control unit 10 that controls the operation of a plurality of components that operate to acquire an image, such as a detection unit 25, a light source unit 26, a pinhole drive unit 215, and a stage drive unit 213. including. The confocal microscope 100, which is this microscope, is configured to be capable of exchanging information with an external information processing device 101.

次に、図2を参照して収差補正部20について説明する。以下の説明では、収差補正部20が共焦点顕微鏡(倒立顕微鏡)の一部構成である場合について説明するが、これに限られない。収差補正部20は、微分干渉顕微鏡(Differential Interference Contrast microscope;DIC)、位相差顕微鏡、蛍光顕微鏡、共焦点顕微鏡、超解像顕微鏡、多光子励起蛍光顕微鏡等の一部構成であってもよい。 Next, the aberration correction unit 20 will be described with reference to FIG. In the following description, the case where the aberration correction unit 20 is a partial configuration of a confocal microscope (inverted microscope) will be described, but the present invention is not limited to this. The aberration correction unit 20 may be partially configured such as a differential interference microscope (DIC), a phase contrast microscope, a fluorescence microscope, a confocal microscope, a super-resolution microscope, and a multiphoton excitation fluorescence microscope.

収差補正部20(補正環制御部、収差補正光学系制御部)は、対物レンズ21と、補正環駆動部22と、ステージ23と、対物レンズ駆動部24と、ステージ駆動部213と、検出部25とを備える。対物レンズ駆動部24は、対物レンズ21の位置を光軸OA方向に動かすモータを有しており、対物レンズ21を保持するレボルバ(不図示)を上下動することで、対物レンズ21を光軸OA方向に動かすことができる。なお、対物レンズ21を光軸OA方向に移動させるだけでなく、試料が載置されたステージ23を光軸OA方向に移動させるように構成してもよい。図2中、対物レンズ21を観察対象(上述した試料)TPに対して相対移動させて、対物レンズ21と観察対象TPとの相対位置が変化すると、対物レンズ21の焦点位置が変化する。以下の説明において、対物レンズ21の焦点位置を、OFと記載する。 The aberration correction unit 20 (correction ring control unit, aberration correction optical system control unit) includes an objective lens 21, a correction ring drive unit 22, a stage 23, an objective lens drive unit 24, a stage drive unit 213, and a detection unit. 25 and. The objective lens driving unit 24 has a motor that moves the position of the objective lens 21 in the optical axis OA direction, and moves the objective lens 21 up and down to move the revolver (not shown) holding the objective lens 21 to move the objective lens 21 to the optical axis. It can be moved in the OA direction. In addition to moving the objective lens 21 in the optical axis OA direction, the stage 23 on which the sample is placed may be configured to move in the optical axis OA direction. In FIG. 2, when the objective lens 21 is relatively moved with respect to the observation target (sample described above) TP and the relative position between the objective lens 21 and the observation target TP changes, the focal position of the objective lens 21 changes. In the following description, the focal position of the objective lens 21 will be referred to as OF.

本実施形態において、対物レンズ21は、補正環21aを備える。補正環21aを調節し、対物レンズ21を保持する鏡筒内に設けられる収差補正レンズ21bの光軸方向の位置を変更することにより、対物レンズ21の球面収差は補正される。対物レンズ21の球面収差を補正すると、対物レンズ21の焦点位置OFが光軸OA方向に移動してしまう。このような補正環21aは、必須のものではなく、カム構造を用い収差補正レンズ21bを光軸OA方向に移動させる構成でもよい。また、収差補正光学系として、収差補正レンズ21bの代わりに、デフォーマブルミラーや液晶素子などの位相変調素子を用いてもよい。収差補正光学系は、対物レンズ21と光源部26との間、又は対物レンズ21と検出部25との間に配置される。 なお、正立顕微鏡では、収差補正光学系は、試料と光源部26との間、又は試料と検出部25との間に配置されてもよい。つまり、収差補正光学系は、試料に光を照明する照明光学系に設けられてもよいし試料からの光を検出器に導く観察光学系に設けられてもよいし照明光と試料からの検出光の両方が通る共通光路に設けられてもよい。位相変調素子は、試料に入射される励起光、及び試料からの検出光の少なくとも一方の位相を変調することにより収差を補正する。 In the present embodiment, the objective lens 21 includes a correction ring 21a. The spherical aberration of the objective lens 21 is corrected by adjusting the correction ring 21a and changing the position of the aberration correction lens 21b provided in the lens barrel holding the objective lens 21 in the optical axis direction. When the spherical aberration of the objective lens 21 is corrected, the focal position OF of the objective lens 21 moves in the optical axis OA direction. Such a correction ring 21a is not indispensable, and may be configured to move the aberration correction lens 21b in the optical axis OA direction by using a cam structure. Further, as the aberration correction optical system, a phase modulation element such as a deformable mirror or a liquid crystal element may be used instead of the aberration correction lens 21b. The aberration correction optical system is arranged between the objective lens 21 and the light source unit 26, or between the objective lens 21 and the detection unit 25. In the upright microscope, the aberration correction optical system may be arranged between the sample and the light source unit 26, or between the sample and the detection unit 25. That is, the aberration correction optical system may be provided in an illumination optical system that illuminates the sample with light, or may be provided in an observation optical system that guides the light from the sample to the detector, or the illumination light and detection from the sample. It may be provided in a common optical path through which both light passes. The phase modulation element corrects the aberration by modulating at least one phase of the excitation light incident on the sample and the detection light from the sample.

これらのデフォーマブルミラーや液晶素子などの位相変調素子も、補正環21aに相当する調整手段を有する。調整手段は、収差補正光学系の設定状態を変更(調整)する。調整手段は、収差補正光学系が対物レンズ21に含まれる補正レンズ21bである場合、補正レンズ21bの光軸OA方向の位置(設定状態)を変更(調整)する。調整手段は、収差補正光学系が位相変調素子である場合、位相変調素子の位相変調量(設定状態)を変更(調整)する。例えば、調整手段は、収差補正光学系がデフォーマブルミラーである場合、デフォーマブルミラーに印加される電圧値を制御することにより、ミラーの形状(設定状態)を変更(調整)する。例えば、調整手段は、収差補正光学系が液晶素子である場合、液晶素子に印加される電圧値を制御することにより液晶の分布(設定状態)を変更(調整)する。 These phase modulation elements such as deformable mirrors and liquid crystal elements also have adjustment means corresponding to the correction ring 21a. The adjusting means changes (adjusts) the setting state of the aberration correction optical system. When the aberration correction optical system is a correction lens 21b included in the objective lens 21, the adjustment means changes (adjusts) the position (setting state) of the correction lens 21b in the optical axis OA direction. When the aberration correction optical system is a phase modulation element, the adjustment means changes (adjusts) the phase modulation amount (setting state) of the phase modulation element. For example, when the aberration correction optical system is a deformable mirror, the adjusting means changes (adjusts) the shape (setting state) of the mirror by controlling the voltage value applied to the deformable mirror. For example, when the aberration correction optical system is a liquid crystal element, the adjusting means changes (adjusts) the distribution (setting state) of the liquid crystal by controlling the voltage value applied to the liquid crystal element.

補正環駆動部22は、補正環21aの回転位置を移動させて(補正環21aを回転させて)収差補正レンズ21bの位置を変更させる。補正環駆動部22とは、具体的には、電動モータなどの駆動装置であり、電動モータにより補正環21aを回転させる(補正環21aの回転位置を移動させる)。補正環21aが回転することにより(補正環21aの回転位置が移動することにより)収差補正レンズ21bは位置が変更される。 The correction ring driving unit 22 moves the rotation position of the correction ring 21a (rotates the correction ring 21a) to change the position of the aberration correction lens 21b. Specifically, the correction ring drive unit 22 is a drive device such as an electric motor, and the correction ring 21a is rotated by the electric motor (the rotation position of the correction ring 21a is moved). The position of the aberration correction lens 21b is changed by the rotation of the correction ring 21a (by moving the rotation position of the correction ring 21a).

光源部26から射出された励起光は、照明用レンズ27で略平行光に変換されて励起光フィルタ28を透過してダイクロイックミラー29に入射し、ダイクロイックミラー29で反射されてスキャナ210に入射する。スキャナ210は、入射した励起光を走査し、走査された光は、対物レンズ21により、ステージ23上の観察対象TPに集光される。スキャナ210により光の集光位置は2次元的に走査される。 The excitation light emitted from the light source unit 26 is converted into substantially parallel light by the illumination lens 27, passes through the excitation light filter 28, is incident on the dichroic mirror 29, is reflected by the dichroic mirror 29, and is incident on the scanner 210. .. The scanner 210 scans the incident excitation light, and the scanned light is focused on the observation target TP on the stage 23 by the objective lens 21. The light condensing position is two-dimensionally scanned by the scanner 210.

観察対象TP上の励起光が照射された位置からは、光(蛍光)が発せられる。その観察対象TPから射出した光(蛍光)は、対物レンズ21、スキャナ210を通り、ダイクロイックミラー29へ入射する。ダイクロイックミラー29に入射した光(蛍光)は、励起光の波長と異なるので、ダイクロイックミラー29を透過し、蛍光フィルタ211を通り、集光レンズ212にて、集光される。集光した光(蛍光)は検出部25に入射し、検出部25は、入射された光の光電子変換を行い、大きさがその光の量(明るさ)に対応する値のデジタルデータを生成し、生成したデジタルデータを顕微鏡制御部10に送信する。 Light (fluorescence) is emitted from the position on the observation target TP that is irradiated with the excitation light. The light (fluorescence) emitted from the observation target TP passes through the objective lens 21 and the scanner 210 and is incident on the dichroic mirror 29. Since the light (fluorescence) incident on the dichroic mirror 29 is different from the wavelength of the excitation light, it passes through the dichroic mirror 29, passes through the fluorescence filter 211, and is condensed by the condenser lens 212. The collected light (fluorescence) is incident on the detection unit 25, and the detection unit 25 performs photoelectron conversion of the incident light and generates digital data whose magnitude corresponds to the amount (brightness) of the light. Then, the generated digital data is transmitted to the microscope control unit 10.

顕微鏡制御部10はそのデータを1画素のデータとして、顕微鏡制御部10に備えられたRAM(図示せず)に記録する。この記録をスキャナ210の2次元的に走査するタイミングと同期して並べることで1つの画像として生成することで、画像が取得される。 The microscope control unit 10 records the data as one pixel data in a RAM (not shown) provided in the microscope control unit 10. An image is acquired by arranging these records in synchronization with the timing of two-dimensional scanning of the scanner 210 to generate one image.

顕微鏡制御部10は、画像を取得するために作動する複数の構成部である、光源部26、ピンホール駆動部215、及びステージ駆動部213等の作動を制御する。また、顕微鏡制御部10は、画像の取得条件として、例えば、光源部26の励起光の強さ、ピンホール214のサイズ、観察対象TP上のスポットの走査速度等を設定する。 The microscope control unit 10 controls the operation of the light source unit 26, the pinhole drive unit 215, the stage drive unit 213, and the like, which are a plurality of components that operate to acquire an image. Further, the microscope control unit 10 sets, for example, the intensity of the excitation light of the light source unit 26, the size of the pinhole 214, the scanning speed of the spot on the observation target TP, and the like as image acquisition conditions.

上述したように、観察対象TPである細胞に蛍光物質を励起する励起光を照射することで、検出部25により、細胞に添加された蛍光試薬から発光される蛍光を検出し、検出された結果を顕微鏡制御部10で画像として生成する。本実施形態においては、細胞を蛍光試薬で染色して、細胞画像を取得する。なお、検出部25が検出した信号により画像が生成される生体試料は、例えば、固定標本、透明化標本、生きたままの標本であってもよい。 As described above, by irradiating the cell as the observation target TP with excitation light that excites the fluorescent substance, the detection unit 25 detects the fluorescence emitted from the fluorescent reagent added to the cell, and the detected result. Is generated as an image by the microscope control unit 10. In this embodiment, cells are stained with a fluorescent reagent to obtain a cell image. The biological sample for which an image is generated by the signal detected by the detection unit 25 may be, for example, a fixed specimen, a transparent specimen, or a living specimen.

収差補正算出装置(補正環制御部、収差補正光学系制御部)である顕微鏡制御部10は、補正環21aの最適位置を決定(算出)する。本実施形態において、顕微鏡制御部10は、図3に示すように、制御部12を有しており、情報処理装置101と接続されている。情報処理装置101は、制御部を有する。また、情報処理装置101の制御部は、入出力制御部17を備える。また、情報処理装置101は、表示装置11(表示部)と、接続されている。表示装置11は、例えば液晶ディスプレイ等である。表示装置11は、例えば、情報処理装置101に外付けされる装置であるが、情報処理装置101の一部でもよい。また、情報処理装置101は入力装置(入力部)9と接続される。入力装置9は、ユーザが操作可能な入力インターフェースである。入力装置9は、例えば、マウス、キーボード、タッチパッド、トラックボールの少なくとも1つを含む。入力装置9は、ユーザによる操作を検出し、その検出結果をユーザが入力した入力情報として情報処理装置101に供給する。入力装置9は、例えば、情報処理装置101に外付けされる装置であるが、情報処理装置101の一部(例、内臓型のタッチパッド)でもよい。また、入力装置9は、表示装置11と一体のタッチパネル等でもよい。顕微鏡制御部10は、補正環21aの最適位置を決定する。情報処理装置101の入出力制御部17は、観察者が顕微鏡を操作するために必要なGUIや、試料の画像、顕微鏡制御部10が算出した結果などを表示装置11に表示する。なお、図3は、収差補正算出装置である顕微鏡制御部10の機能構成の一例を示す図である。 The microscope control unit 10 which is an aberration correction calculation device (correction ring control unit, aberration correction optical system control unit) determines (calculates) the optimum position of the correction ring 21a. In the present embodiment, as shown in FIG. 3, the microscope control unit 10 has a control unit 12 and is connected to the information processing device 101. The information processing device 101 has a control unit. Further, the control unit of the information processing apparatus 101 includes an input / output control unit 17. Further, the information processing device 101 is connected to the display device 11 (display unit). The display device 11 is, for example, a liquid crystal display or the like. The display device 11 is, for example, a device externally attached to the information processing device 101, but may be a part of the information processing device 101. Further, the information processing device 101 is connected to the input device (input unit) 9. The input device 9 is an input interface that can be operated by the user. The input device 9 includes, for example, at least one of a mouse, a keyboard, a touchpad, and a trackball. The input device 9 detects an operation by the user and supplies the detection result to the information processing device 101 as input information input by the user. The input device 9 is, for example, a device externally attached to the information processing device 101, but may be a part of the information processing device 101 (eg, a built-in touch pad). Further, the input device 9 may be a touch panel or the like integrated with the display device 11. The microscope control unit 10 determines the optimum position of the correction ring 21a. The input / output control unit 17 of the information processing device 101 displays the GUI required for the observer to operate the microscope, the image of the sample, the result calculated by the microscope control unit 10, and the like on the display device 11. Note that FIG. 3 is a diagram showing an example of the functional configuration of the microscope control unit 10 which is an aberration correction calculation device.

顕微鏡制御部10は、上述した制御部12に加えて、画像生成部13と、評価値算出部14と、補正環21aの最適位置を決定(算出)する補正環位置決定部15と、記憶部16と、z位置算出部18と、を備える。 In addition to the control unit 12 described above, the microscope control unit 10 includes an image generation unit 13, an evaluation value calculation unit 14, a correction ring position determination unit 15 for determining (calculating) the optimum position of the correction ring 21a, and a storage unit. A 16 and a z position calculation unit 18 are provided.

本実施形態では、情報処理装置101の入出力制御部17は、補正環位置決定部15が算出した補正環最適位置CPを表示装置11に表示する。補正環駆動部22は、補正環位置決定部15が決定した補正環最適位置CPを取得する。補正環駆動部22は、取得した補正環最適位置CPに基づいて、補正環21aを駆動させる。 In the present embodiment, the input / output control unit 17 of the information processing device 101 displays the correction ring optimum position CP calculated by the correction ring position determination unit 15 on the display device 11. The correction ring driving unit 22 acquires the correction ring optimum position CP determined by the correction ring position determination unit 15. The correction ring driving unit 22 drives the correction ring 21a based on the acquired correction ring optimum position CP.

入出力制御部17は、観察者が入力装置9を用いて入力した観察領域ROI、補正環開始位置、基準フォーカス面位置(パラメータ)などを検出し、制御部12に出力する。 The input / output control unit 17 detects the observation area ROI, the correction ring start position, the reference focus plane position (parameter), and the like input by the observer using the input device 9, and outputs them to the control unit 12.

制御部12は、観察者が入力したパラメータに基づいて、検出部25、対物レンズ駆動部24及び補正環駆動部22に規定の動作をさせる。また、制御部12は、撮像時の対物レンズ21の位置と補正環21aの位置を記憶部16へ出力する。 The control unit 12 causes the detection unit 25, the objective lens drive unit 24, and the correction ring drive unit 22 to perform a predetermined operation based on the parameters input by the observer. Further, the control unit 12 outputs the position of the objective lens 21 and the position of the correction ring 21a at the time of imaging to the storage unit 16.

検出部25は、制御部12からの入力に従ってスキャナ210を制御し、取得した検出信号を画像生成部13へ出力する。 The detection unit 25 controls the scanner 210 according to the input from the control unit 12, and outputs the acquired detection signal to the image generation unit 13.

画像生成部13は、検出部25から取得した検出信号に基づいて画像TIを生成し、生成した画像TIを評価値算出部14及び記憶部16へ出力する。具体的には、画像生成部13は、生成した基準画像を記憶部16へ出力する。また、画像生成部13は、生成した複数画像(評価値算出用画像)を評価値算出部14へ出力する。また、画像生成部13は、生成した複数画像(zスタック)をz位置算出部18へ出力する。なお、対物レンズ21またはステージ23を対物レンズの光軸方向(z方向)に所定の移動量だけ移動させて画像を取得する処理をz方向の所定の範囲で繰り返すことにより取得された画像群をzスタックと称する。 The image generation unit 13 generates an image TI based on the detection signal acquired from the detection unit 25, and outputs the generated image TI to the evaluation value calculation unit 14 and the storage unit 16. Specifically, the image generation unit 13 outputs the generated reference image to the storage unit 16. Further, the image generation unit 13 outputs the generated plurality of images (evaluation value calculation images) to the evaluation value calculation unit 14. Further, the image generation unit 13 outputs the generated plurality of images (z stack) to the z position calculation unit 18. The image group acquired by repeating the process of moving the objective lens 21 or the stage 23 in the optical axis direction (z direction) of the objective lens by a predetermined amount of movement and acquiring an image within a predetermined range in the z direction. It is called z-stack.

評価値算出部14は、画像生成部13から観察対象TPの画像TIを取得する。評価値算出部14は、画像生成部13が生成した画像TIから評価値vを算出する。評価値vの詳細は後述する。評価値算出部14は、算出した評価値vを、記憶部16に記憶する。 The evaluation value calculation unit 14 acquires the image TI of the observation target TP from the image generation unit 13. The evaluation value calculation unit 14 calculates the evaluation value v from the image TI generated by the image generation unit 13. The details of the evaluation value v will be described later. The evaluation value calculation unit 14 stores the calculated evaluation value v in the storage unit 16.

記憶部16は、例えば、RAM等のメモリやハードディスク等の外部記憶装置である。記憶部16は、保持する基準画像をz位置算出部18へ出力する。また、記憶部16は、保持する補正環位置と評価値vを補正環位置決定部15へ出力する。 The storage unit 16 is, for example, a memory such as a RAM or an external storage device such as a hard disk. The storage unit 16 outputs the held reference image to the z position calculation unit 18. Further, the storage unit 16 outputs the correction ring position to be held and the evaluation value v to the correction ring position determination unit 15.

z位置算出部18は、画像生成部13から入力されたzスタックと記憶部16から入力された基準画像から複数画像(評価値算出用画像)を取得する対物レンズ21のz位置を算出し、制御部12へ出力する。 The z-position calculation unit 18 calculates the z-position of the objective lens 21 that acquires a plurality of images (evaluation value calculation images) from the z-stack input from the image generation unit 13 and the reference image input from the storage unit 16. Output to the control unit 12.

補正環位置決定部15は、記憶部16から取得した情報に基づいて、補正環21aの最適位置を決定する。補正環位置決定部15は、算出した補正環21aの最適位置に相当する補正環最適位置CPに関する情報を、入出力制御部17と、制御部12に対して出力する。入出力制御部17は上記補正環最適位置CPに関する情報を表示装置11に出力(表示)する 。 The correction ring position determination unit 15 determines the optimum position of the correction ring 21a based on the information acquired from the storage unit 16. The correction ring position determination unit 15 outputs information regarding the calculated correction ring optimum position CP corresponding to the optimum position of the correction ring 21a to the input / output control unit 17 and the control unit 12. The input / output control unit 17 outputs (displays) information regarding the correction ring optimum position CP to the display device 11.

制御部12は、補正環21aを最適位置へ動作させるよう補正環駆動部22を制御する。 The control unit 12 controls the correction ring drive unit 22 so as to operate the correction ring 21a to the optimum position.

図4は、情報処理装置101の表示装置11に表示される補正環21aを調整するためのグラフィカルユーザインタフェース(補正環調整画面)の一例を示す図である。図4(a)に示す補正環位置の指定画面において観察者は、補正環位置をバーで指定することにより、指定された位置に補正環21aを移動(回転)させることができる。また、観察者が、図4(a)に示す補正環位置の指定画面において、右下に表示されている自動調整のボタンを押すと、図4(b)に示す補正環自動調整の設定画面が表示される。 FIG. 4 is a diagram showing an example of a graphical user interface (correction ring adjustment screen) for adjusting the correction ring 21a displayed on the display device 11 of the information processing device 101. On the correction ring position designation screen shown in FIG. 4A, the observer can move (rotate) the correction ring 21a to the designated position by designating the correction ring position with a bar. Further, when the observer presses the automatic adjustment button displayed at the lower right on the correction ring position designation screen shown in FIG. 4A, the correction ring automatic adjustment setting screen shown in FIG. 4B is displayed. Is displayed.

図4(b)は補正環自動調整の設定画面である。この補正環自動調整の設定画面では、補正環位置の探索範囲と探索ステップ数、を設定することができる(図4(b)の例では、補正環の探索範囲は探索範囲の上下限をバーの位置で指定し、探索ステップ数を数値として入力することで指定する場合を示している)。補正環位置の探索範囲とは評価値vを取得する補正環位置(補正環の回転位置)の最大値と最小値であり、探索ステップ数は評価値vを取得する補正環位置(補正環の回転位置)の数である。観察者が、画面右下の調整開始ボタンを押すと、設定された補正環位置(補正環開始位置)、探索範囲及び探索ステップ数に基づいて、補正環位置の自動調整処理が開始される。図4(a)、図4(b)で設定された情報は入出力制御部17に入力される。なお、調整に用いる基準位置は、現在観察しているz位置及びx、y位置(光軸に直行する面内の座標)となる。補正環自動調整が完了すると、上述した補正環位置の指定画面(図4(c))が表示される。 FIG. 4B is a setting screen for automatic correction ring adjustment. On the setting screen for automatic correction ring adjustment, the search range of the correction ring position and the number of search steps can be set (in the example of FIG. 4B, the search range of the correction ring has the upper and lower limits of the search range as bars. It is specified by the position of, and the case of specifying by inputting the number of search steps as a numerical value is shown). The search range of the correction ring position is the maximum value and the minimum value of the correction ring position (rotational position of the correction ring) for acquiring the evaluation value v, and the number of search steps is the correction ring position (correction ring) for acquiring the evaluation value v. The number of rotation positions). When the observer presses the adjustment start button at the lower right of the screen, the automatic adjustment ring position adjustment process is started based on the set correction ring position (correction ring start position), search range, and number of search steps. The information set in FIGS. 4A and 4B is input to the input / output control unit 17. The reference position used for adjustment is the currently observed z position and x, y positions (coordinates in the plane orthogonal to the optical axis). When the automatic correction ring adjustment is completed, the above-mentioned correction ring position designation screen (FIG. 4 (c)) is displayed.

図4(c)に示すように、自動調整された結果として、補正環21aの最適位置が、バーとして補正環位置の指定画面に表示される。 As shown in FIG. 4C, as a result of the automatic adjustment, the optimum position of the correction ring 21a is displayed as a bar on the correction ring position designation screen.

以下、同一画像取得条件で取得した2画像の相関値を評価値として用いる方法を説明する。図5は、同一画像取得条件で取得した2画像の相関値と収差との関係を示す図であり、図6は収差量と画像の輝度(強度)との関係を示す図である。図5に示すように、収差が大きい場合には2画像の相関値は小さく、収差が小さい場合には2画像の相関値は大きくなるため、2画像の相関値を評価値として用いることができる。以下にその理由を説明する。 Hereinafter, a method of using the correlation value of two images acquired under the same image acquisition condition as an evaluation value will be described. FIG. 5 is a diagram showing the relationship between the correlation value and the aberration of the two images acquired under the same image acquisition condition, and FIG. 6 is a diagram showing the relationship between the amount of aberration and the brightness (intensity) of the image. As shown in FIG. 5, when the aberration is large, the correlation value of the two images is small, and when the aberration is small, the correlation value of the two images is large. Therefore, the correlation value of the two images can be used as the evaluation value. .. The reason will be explained below.

1.輝度(共焦点顕微鏡の実効PSF(Point Spread Function))と収差(球面収差)の関係
図6に示すように、収差量が大きくなるほど(PSFの強度が低下し)画像の輝度が低下する。
2.輝度とSNの関係
輝度が低いほどSN比が低くなる(輝度が高いほどSN比が高くなる)。以下理由を説明する。
1. 1. Relationship between brightness (effective PSF (Point Spread Function) of a confocal microscope) and aberration (spherical aberration) As shown in FIG. 6, as the amount of aberration increases (the intensity of PSF decreases), the brightness of the image decreases.
2. 2. Relationship between luminance and SN The lower the luminance, the lower the SN ratio (the higher the luminance, the higher the SN ratio). The reason will be explained below.

共焦点顕微鏡において、ノイズはフォトンノイズが支配的である。画像全体の輝度平均をバー付きのIとすると、ノイズσN(輝度値のランダムなばらつきの標準偏差)はフォトンノイズの性質より輝度の平方根に比例し、次式(a)の関係を有する。 In a confocal microscope, the noise is dominated by photon noise. Assuming that the brightness average of the entire image is I with a bar, the noise σ N (standard deviation of random variation in brightness value) is proportional to the square root of brightness due to the nature of photon noise, and has the relationship of the following equation (a).

Figure 0007081318000001
Figure 0007081318000001

また、SN比をSNRとすると、次式(b)の関係を有し、輝度の平方根に比例する。 Further, when the SN ratio is SNR, it has the relationship of the following equation (b) and is proportional to the square root of the luminance.

Figure 0007081318000002
Figure 0007081318000002

例えば、輝度の平均値が4のとき、ノイズは2でSN比は2となり、輝度の平均値が2のとき、ノイズは2の平方根でSN比は2の平方根となる。すなわち、輝度が高いときの方が2の平方根倍、SN比が高くなる。 For example, when the average value of brightness is 4, the noise is 2 and the SN ratio is 2, and when the average value of brightness is 2, the noise is the square root of 2 and the SN ratio is the square root of 2. That is, when the brightness is high, the square root of 2 is multiplied and the SN ratio is higher.

上記1により、収差量が大きくなるほど画像の輝度が低下することが分かり、上記2により、輝度が低いほどSN比が低くなることがわかる。これらの関係より、収差が大きいほど(輝度が低下し)SN比が低くなることが分かる。 From 1 above, it can be seen that the brightness of the image decreases as the amount of aberration increases, and from 2 above, it can be seen that the SN ratio decreases as the brightness decreases. From these relationships, it can be seen that the larger the aberration (the lower the brightness), the lower the SN ratio.

したがって、取得した画像のSN比を評価(比較)することにより、収差の大小を判断することができる。ここで、取得した画像のSN比は、同一画像取得条件(対物レンズに対するz位置や視野の位置、露光条件など)において取得した2つの画像の相関値と関連があることを説明する。 Therefore, the magnitude of the aberration can be determined by evaluating (comparing) the SN ratio of the acquired image. Here, it will be described that the SN ratio of the acquired image is related to the correlation value of the two images acquired under the same image acquisition conditions (z position with respect to the objective lens, the position of the field of view, the exposure condition, etc.).

ノイズのみが異なる2つの画像I1、I2の正規化相互相関を計算する。それぞれの画像を、Iをノイズのない画像とし、N1、N2をノイズとし、i,jを画像のピクセル(画素)の座標とすると、次式(c)として表される。 Calculate the normalized cross-correlation of two images I 1 and I 2 that differ only in noise. Each image is expressed as the following equation (c), where I is a noise-free image, N 1 and N 2 are noise, and i and j are the coordinates of the pixels of the image.

Figure 0007081318000003
Figure 0007081318000003

このとき、ノイズは平均値が0、分散が同じで、ノイズ間に相関がないという以下の条件(ノイズの性質から成り立つ条件)が次式(d)として成り立つ。なお、式(d)において「<>」はi,jについての平均を表す。 At this time, the following condition (condition consisting of the nature of noise) that the mean value of the noise is 0, the variance is the same, and there is no correlation between the noises is satisfied as the following equation (d). In equation (d), "<>" represents the average for i and j.

Figure 0007081318000004
Figure 0007081318000004

以上に示した式(c)及び式(d)を用いると、2画像の正規化相互相関の相関値Rは、次式(e)として表される。 Using the above equations (c) and (d), the correlation value R of the normalized cross-correlation of the two images is expressed as the following equation (e).

Figure 0007081318000005
Figure 0007081318000005

この式(e)の関係より、相関値Rは、ノイズの分散とノイズを含まない画像の分散(シグナルに相当)の比で表される。 From the relationship of this equation (e), the correlation value R is expressed by the ratio of the dispersion of noise and the dispersion of the image containing no noise (corresponding to the signal).

また、式(e)からSN比と相関値Rの関係が図7のようになることが分かる。図7は、SN比と相関値との関係を示すグラフである。図7に示されるように、SN比が高くなるほど相関値が大きくなる。したがって、収差が大きいほど(輝度が低下し)SN比が低くなるので、相関値は小さくなる。 Further, it can be seen from the equation (e) that the relationship between the SN ratio and the correlation value R is as shown in FIG. FIG. 7 is a graph showing the relationship between the SN ratio and the correlation value. As shown in FIG. 7, the higher the SN ratio, the larger the correlation value. Therefore, the larger the aberration (the lower the brightness), the lower the SN ratio, and the smaller the correlation value.

以上説明したように、収差が大きい場合には2画像の相関値は小さく、収差が小さい場合には2画像の相関値は大きいため、図5に示すように、2画像の相関値を評価値として用いることができる。 As described above, when the aberration is large, the correlation value of the two images is small, and when the aberration is small, the correlation value of the two images is large. Therefore, as shown in FIG. 5, the correlation value of the two images is evaluated. Can be used as.

以上の説明のように、共焦点顕微鏡等の顕微鏡において補正環を調整することで球面収差を低減し画質を改善することができる(図19参照)。本実施形態における収差補正算出装置である顕微鏡制御部10の目的は画質が最もよくなるように補正環21aを自動調整することである。補正環位置を変えて同一画像取得条件で画像を取得し、これらの画像からそれぞれの補正環位置での評価値を算出、評価値が最大となる補正環位置を見つける。なお、図19は、補正環位置と画質との関係を示す説明図である。 As described above, by adjusting the correction ring in a microscope such as a confocal microscope, spherical aberration can be reduced and image quality can be improved (see FIG. 19). An object of the microscope control unit 10 which is an aberration correction calculation device in the present embodiment is to automatically adjust the correction ring 21a so that the image quality is the best. Images are acquired under the same image acquisition conditions by changing the correction ring position, the evaluation value at each correction ring position is calculated from these images, and the correction ring position where the evaluation value is maximized is found. Note that FIG. 19 is an explanatory diagram showing the relationship between the correction ring position and the image quality.

以下に、上述した2枚の画像から得られる相関値(以下「評価値」とも呼ぶ)を算出して最適な画像が得られるように補正環の位置を決定する4つの実施形態について説明する。 Hereinafter, four embodiments will be described in which the position of the correction ring is determined so that the optimum image can be obtained by calculating the correlation value (hereinafter, also referred to as “evaluation value”) obtained from the above-mentioned two images.

(第1の実施形態)
第1の実施形態は、ある観察位置において補正環位置を変化させ、評価値が最大となる補正環位置を探索する。図8は、第1の実施形態に係る収差補正算出装置の動作を示すフローチャートであり、図9は、第1の実施形態における補正環位置で取得される画像と評価値との関係を示す説明図である。
(First Embodiment)
In the first embodiment, the correction ring position is changed at a certain observation position, and the correction ring position where the evaluation value is maximized is searched for. FIG. 8 is a flowchart showing the operation of the aberration correction calculation device according to the first embodiment, and FIG. 9 is an explanation showing the relationship between the image acquired at the correction ring position in the first embodiment and the evaluation value. It is a figure.

図8に示すように、観察者は試料である観察対象TPを観察するために、情報処理装置101の入力装置9を用いて対物レンズ21をz方向(光軸OA方向)に移動させることにより、この対物レンズ21を任意の観察位置に相対移動させる。また、観察者が、情報処理装置101の表示装置11に表示される補正環21aを調整するためのグラフィカルユーザインタフェース(補正環調整画面)において、観察者が入力装置9を用いて収差補正の開始を指示すると(ステップS110)、制御部12は、補正環駆動部22に制御信号を送信し、この制御信号を受信した補正環駆動部22は、補正環21aを初期状態の位置(補正環開始位置CB)に移動させる(ステップS120)。なお、補正環21aの位置は、この補正環21aにより動かされる収差補正レンズ21bの対物レンズ21内における位置に対応している。また、対物レンズ21の位置である撮像開始位置ZBや、補正環開始位置CBは、観察者により情報処理装置101の入力装置9により入力される(これらの説明は、以下の実施形態でも同様とする)。 As shown in FIG. 8, the observer moves the objective lens 21 in the z direction (optical axis OA direction) by using the input device 9 of the information processing device 101 in order to observe the observation target TP which is a sample. , The objective lens 21 is relatively moved to an arbitrary observation position. Further, in the graphical user interface (correction ring adjustment screen) for the observer to adjust the correction ring 21a displayed on the display device 11 of the information processing device 101, the observer starts the aberration correction using the input device 9. (Step S110), the control unit 12 transmits a control signal to the correction ring drive unit 22, and the correction ring drive unit 22 that has received this control signal places the correction ring 21a in the initial state position (correction ring start). Move to position CB) (step S120). The position of the correction ring 21a corresponds to the position of the aberration correction lens 21b moved by the correction ring 21a in the objective lens 21. Further, the imaging start position ZB, which is the position of the objective lens 21, and the correction ring start position CB are input by the observer by the input device 9 of the information processing device 101 (these explanations are the same in the following embodiments. do).

顕微鏡制御部10の画像生成部13は、検出部25の信号により、観察対象TPの画像TIを複数回取得する(ステップS130)。ここでは、ステップS130において2枚の画像を取得する場合で説明する。 The image generation unit 13 of the microscope control unit 10 acquires the image TI of the observation target TP a plurality of times by the signal of the detection unit 25 (step S130). Here, the case of acquiring two images in step S130 will be described.

顕微鏡制御部10の評価値算出部14は、ステップS130で取得された複数枚(例えば2枚)の画像を用いて、上述した式(e)により評価値(相関値)vを算出し、記憶部16に補正環21aの現在の位置とともに記憶させて保持する(ステップS140)。 The evaluation value calculation unit 14 of the microscope control unit 10 calculates the evaluation value (correlation value) v by the above-mentioned formula (e) using the plurality of images (for example, two images) acquired in step S130, and stores them. It is stored and held in the unit 16 together with the current position of the correction ring 21a (step S140).

制御部12は、補正環21aの位置を規定回数変えたか否かを判断する(ステップS150)。制御部12が、補正環21aの位置を規定回数変えていないと判断した場合(ステップS150:No)、制御部12は、補正環駆動部22に制御信号を送信し、この制御信号を受信した補正環駆動部22は、補正環21aを規定量だけに移動させ(ステップS160)、ステップS130に戻って上述した処理を繰り返す。以上の処理により、補正環21aを初期状態から、規定の移動量で規定回数だけ移動させたときの、それぞれの補正環21aの位置での評価値を取得することができる。図9に補正環21aの位置c0~C6、その位置で撮像される2枚の画像、及びそれぞれの画像から算出される評価値(図9におてはv0~v6として表している)の関係を示す。 The control unit 12 determines whether or not the position of the correction ring 21a has been changed a predetermined number of times (step S150). When the control unit 12 determines that the position of the correction ring 21a has not been changed a specified number of times (step S150: No), the control unit 12 transmits a control signal to the correction ring drive unit 22 and receives the control signal. The correction ring driving unit 22 moves the correction ring 21a by a specified amount (step S160), returns to step S130, and repeats the above-mentioned process. By the above processing, it is possible to acquire the evaluation value at the position of each correction ring 21a when the correction ring 21a is moved from the initial state by a specified number of times with a specified movement amount. FIG. 9 shows the relationship between the positions c0 to C6 of the correction ring 21a, the two images captured at that position, and the evaluation values calculated from the respective images (represented as v0 to v6 in FIG. 9). Is shown.

制御部12が、補正環21aの位置を規定回数変えたと判断した場合(ステップS150:Yes)、顕微鏡制御部10の補正環位置決定部15は記憶部16に記憶されている補正環21aの位置毎の評価値vを比較して評価値vが最大となる補正環21aの位置を決定する(ステップS170)。顕微鏡制御部10の補正環位置決定部15は、ステップS170で決定された補正環21aの位置を補正環駆動部22に制御信号として送信し、この制御信号を受信した補正環駆動部22は、補正環21aを当該位置となるように(補正環21aを評価値が最大となる位置に)移動させ(ステップS180)、収差補正算出装置の動作を終了する。 When the control unit 12 determines that the position of the correction ring 21a has been changed a predetermined number of times (step S150: Yes), the correction ring position determination unit 15 of the microscope control unit 10 determines the position of the correction ring 21a stored in the storage unit 16. The position of the correction ring 21a at which the evaluation value v is maximized is determined by comparing each evaluation value v (step S170). The correction ring position determination unit 15 of the microscope control unit 10 transmits the position of the correction ring 21a determined in step S170 to the correction ring drive unit 22 as a control signal, and the correction ring drive unit 22 that receives this control signal receives the control signal. The correction ring 21a is moved to the position (the position where the evaluation value is maximized) (step S180), and the operation of the aberration correction calculation device is terminated.

この第1の実施形態に係る収差補正算出装置の制御方法(収差補正部の最適位置決定方法)によれば、観察者が任意に選択した観察位置において撮像される画像の球面収差が最適に補正される補正環21aの位置を決定することができる。 According to the control method (optimal position determination method of the aberration correction unit) of the aberration correction calculation device according to the first embodiment, the spherical aberration of the image captured at the observation position arbitrarily selected by the observer is optimally corrected. The position of the correction ring 21a to be formed can be determined.

(第2の実施形態)
上述した第1の実施形態に係る収差補正算出装置の制御方法によると、補正環21aの状態(補正環位置(補正環21aの回転位置)であって、収差補正レンズ21bの位置に対応する)を変化させたときに、対物レンズ21のフォーカス位置が変化する。そこで第2の実施形態では、補正環位置(補正環21aの回転位置)を変えた後、基準画像(観察者が選択した任意の観察位置での画像(基準フォーカス面情報TFI))と同じ画像が取得可能なz位置(対物レンズ21の光軸OA方向の位置)を探索し、そのz位置において本手法により評価値を取得する。図10は、z位置探索の概要を示す説明図であり、図11は、第2の実施形態に係る補正環位置と評価値の関係を示すグラフであり、図12は、第2の実施形態に係る収差補正算出装置の動作を示すフローチャートである。
(Second embodiment)
According to the control method of the aberration correction calculation device according to the first embodiment described above, the state of the correction ring 21a (the position of the correction ring (rotational position of the correction ring 21a) corresponding to the position of the aberration correction lens 21b). When is changed, the focus position of the objective lens 21 changes. Therefore, in the second embodiment, after changing the correction ring position (rotation position of the correction ring 21a), the same image as the reference image (image at an arbitrary observation position selected by the observer (reference focus plane information TFI)). Searches for the z-position that can be acquired (the position of the objective lens 21 in the optical axis OA direction), and acquires the evaluation value at that z-position by this method. FIG. 10 is an explanatory diagram showing an outline of the z position search, FIG. 11 is a graph showing the relationship between the correction ring position and the evaluation value according to the second embodiment, and FIG. 12 is a graph showing the relationship between the evaluation value and the second embodiment. It is a flowchart which shows the operation of the aberration correction calculation device which concerns on.

z位置の探索は、図10に示すように、補正環を21a動かした後にzスタック(対物レンズ21をz方向に所定の移動量だけ移動させて画像を取得する処理をz方向の所定の範囲で繰り返すことにより取得された画像群)を取得し、zスタックの各画像と基準画像との相関値を計算する。そして相関値の補間を行い、補間後の相関値が最大となるz位置へ対物位置を戻す(対物レンズ21を移動させる)。そのz位置で複数枚画像を取得し評価値を算出後再び補正環21aを動かし同様のz位置探索を行う。図11に示すように、規定の全ての補正環位置で評価値を取得後、評価値の補間を行い、最大となる補正環位置(最適補正環位置)を求める。その後、補正環位置を最適補正環位置へ戻し、基準画像と同じ画像取得可能なz位置を再び相関により探索する。 As shown in FIG. 10, the search for the z position is performed by moving the correction ring 21a and then moving the z-stack (moving the objective lens 21 in the z-direction by a predetermined amount of movement to acquire an image in a predetermined range in the z-direction. The image group acquired by repeating in step 2) is acquired, and the correlation value between each image in the z-stack and the reference image is calculated. Then, the correlation value is interpolated, and the objective position is returned to the z position where the interpolated correlation value becomes maximum (the objective lens 21 is moved). After acquiring a plurality of images at the z position and calculating the evaluation value, the correction ring 21a is moved again to perform the same z position search. As shown in FIG. 11, after acquiring the evaluation values at all the specified correction ring positions, the evaluation values are interpolated to obtain the maximum correction ring position (optimum correction ring position). After that, the correction ring position is returned to the optimum correction ring position, and the z position where the same image as the reference image can be acquired is searched again by correlation.

以下に、第2の実施形態に係る収差補正算出装置の制御方法について説明する。図12に示すように、観察者が観察対象TPを観察するために、情報処理装置101の入力装置9を用いて対物レンズ21をz方向(光軸OA方向)に移動させることにより、この対物レンズ21を任意の観察位置に相対移動させる。また、観察者が、情報処理装置101の表示装置11に表示される補正環21aを調整するためのグラフィカルユーザインタフェース(補正環調整画面)において、観察者が入力装置9を用いて収差補正の開始を指示すると(ステップS210)、制御部12は、補正環駆動部22に制御信号を送信し、この制御信号を受信した補正環駆動部22は、補正環21aを初期状態の位置(補正環開始位置CB)に移動させる(ステップS212)。 The control method of the aberration correction calculation device according to the second embodiment will be described below. As shown in FIG. 12, in order for the observer to observe the observation target TP, the objective lens 21 is moved in the z direction (optical axis OA direction) by using the input device 9 of the information processing apparatus 101, so that the objective is this objective. The lens 21 is relatively moved to an arbitrary observation position. Further, in the graphical user interface (correction ring adjustment screen) for the observer to adjust the correction ring 21a displayed on the display device 11 of the information processing device 101, the observer starts the aberration correction using the input device 9. (Step S210), the control unit 12 transmits a control signal to the correction ring drive unit 22, and the correction ring drive unit 22 that has received this control signal places the correction ring 21a in the initial state position (correction ring start). Move to position CB) (step S212).

顕微鏡制御部10の画像生成部13は、検出部25からの信号に基づいて、観察対象TPの基準画像(基準フォーカス面情報TFI)を取得し、記憶部16に記憶して保持する(ステップS214)。 The image generation unit 13 of the microscope control unit 10 acquires a reference image (reference focus plane information TFI) of the observation target TP based on the signal from the detection unit 25, and stores and holds it in the storage unit 16 (step S214). ).

顕微鏡制御部10の画像生成部13は、検出部25の信号により、観察対象TPの画像TIを複数回取得する(ステップS216)。ここでは、ステップS216において2枚の画像を取得する場合で説明する。なお、ステップS214の処理を省略し、最初に取得された(補正環開始位置CBで取得された)観察対象TPの複数の画像TIの少なくとも一方を基準画像(基準フォーカス面情報TFI)としてもよい。 The image generation unit 13 of the microscope control unit 10 acquires the image TI of the observation target TP a plurality of times by the signal of the detection unit 25 (step S216). Here, the case of acquiring two images in step S216 will be described. It should be noted that the process of step S214 may be omitted, and at least one of the plurality of image TIs of the observation target TP acquired first (acquired at the correction ring start position CB) may be used as a reference image (reference focus plane information TFI). ..

顕微鏡制御部10の評価値算出部14は、ステップS216で取得された複数枚(例えば2枚)の画像を用いて、上述した式(e)により評価値(相関値)vを算出し、記憶部16に補正環の現在の位置(補正量CL)とともに記憶させて保持する(ステップS218)。 The evaluation value calculation unit 14 of the microscope control unit 10 calculates the evaluation value (correlation value) v by the above-mentioned formula (e) using the plurality of images (for example, two images) acquired in step S216, and stores them. It is stored and held in the unit 16 together with the current position of the correction ring (correction amount CL) (step S218).

制御部12は、補正環21aの位置を規定回数変えたか否かを判断する(ステップS220)。制御部12が、補正環21aの位置を規定回数変えていないと判断した場合(ステップS220:No)、制御部12は、補正環駆動部22に制御信号を送信し、この制御信号を受信した補正環駆動部22は、補正環21aを規定量だけ移動させる(ステップS222)。 The control unit 12 determines whether or not the position of the correction ring 21a has been changed a predetermined number of times (step S220). When the control unit 12 determines that the position of the correction ring 21a has not been changed a specified number of times (step S220: No), the control unit 12 transmits a control signal to the correction ring drive unit 22 and receives the control signal. The correction ring driving unit 22 moves the correction ring 21a by a specified amount (step S222).

制御部12は、現在の補正環21aの位置で、対物レンズ駆動部24に制御信号を送信して対物レンズ21を光軸方向に移動させながら検出部25で信号を取得し、画像生成部13で上述したzスタックを取得する(ステップS224)。zスタックの取得方法は、例えば、図10に示すように、現在の対物レンズ21の位置からz方向(光軸OA方向)に、所定の範囲で所定の移動量ずつ動かして観察対象TPの画像を取得し、画像が取得されたときの対物レンズ21のz位置(光軸OA方向の位置)と対応付けてz位置算出部18へ出力する。 The control unit 12 transmits a control signal to the objective lens driving unit 24 at the current position of the correction ring 21a, moves the objective lens 21 in the optical axis direction, and acquires the signal by the detection unit 25, and the image generation unit 13 Acquire the z-stack described above in step S224 (step S224). As a method of acquiring the z-stack, for example, as shown in FIG. 10, the image of the observation target TP is moved by a predetermined movement amount within a predetermined range in the z direction (optical axis OA direction) from the current position of the objective lens 21. Is acquired and output to the z position calculation unit 18 in association with the z position (position in the optical axis OA direction) of the objective lens 21 when the image is acquired.

顕微鏡制御部10のz位置算出部18は、ステップS214で取得した基準画像と、ステップS224で取得したzスタックの各画像との相関値を、上述した式(e)により算出する(ステップS226)。 The z position calculation unit 18 of the microscope control unit 10 calculates the correlation value between the reference image acquired in step S214 and each image of the z stack acquired in step S224 by the above equation (e) (step S226). ..

顕微鏡制御部10のz位置算出部18は、ステップS226で算出されたzスタックの各画像と基準画像との相関値を補間する(ステップS228)。顕微鏡制御部10のz位置算出部18は、補間された相関値のうち、最大となる相関値のz位置(対物レンズ21の光軸OA方向の位置)を算出して制御部12へ出力し、制御部12は、z位置算出部18で算出されたz位置に基づいて、対物レンズ駆動部24に制御信号として送信して対物レンズ21を当該位置へ移動させる(ステップS230)。制御部12は、ステップS216に戻って上述した処理を繰り返す。以上の処理により、補正環21aを初期状態から、規定の移動量で規定回数だけ光軸OA方向に移動させたときの、それぞれの補正環21aの位置で、基準画像と同じ画像の評価値を取得することができる。 The z position calculation unit 18 of the microscope control unit 10 interpolates the correlation value between each image of the z stack calculated in step S226 and the reference image (step S228). The z-position calculation unit 18 of the microscope control unit 10 calculates the z-position (position of the objective lens 21 in the optical axis OA direction) of the maximum correlation value among the interpolated correlation values and outputs it to the control unit 12. , The control unit 12 transmits as a control signal to the objective lens driving unit 24 based on the z position calculated by the z position calculation unit 18, and moves the objective lens 21 to the position (step S230). The control unit 12 returns to step S216 and repeats the above-mentioned process. By the above processing, when the correction ring 21a is moved from the initial state to the optical axis OA direction by a specified number of times with a specified movement amount, the evaluation value of the same image as the reference image is obtained at the position of each correction ring 21a. Can be obtained.

制御部12が、補正環21aの位置を規定回数変えたと判断した場合(ステップS220:Yes)、顕微鏡制御部10の補正環位置決定部15は、記憶部16に記憶されている補正環21aの位置毎の評価値vを補間する(ステップS232)。この一例では、補正環位置決定部15は、評価値v同士を二次曲線フィッティングする。具体的には、補正環位置決定部15は、最小二乗法により、評価値v同士を二次曲線フィッティングする。なお、補正環位置決定部15は、評価値vによって、一次関数フィッティングや、指数関数フィッティングによって、評価値v同士をフィッティングしてもよい。図11は、評価値v同士を二次曲線フィッティングした一例を示す図である。 When the control unit 12 determines that the position of the correction ring 21a has been changed a predetermined number of times (step S220: Yes), the correction ring position determination unit 15 of the microscope control unit 10 is the correction ring 21a stored in the storage unit 16. The evaluation value v for each position is interpolated (step S232). In this example, the correction ring position determining unit 15 fits the evaluation values v to each other by a quadratic curve. Specifically, the correction ring position determination unit 15 fits the evaluation values v to each other by a quadratic curve fitting method by the least squares method. The correction ring position determination unit 15 may fit the evaluation values v to each other by the linear function fitting or the exponential function fitting according to the evaluation value v. FIG. 11 is a diagram showing an example in which evaluation values v are fitted to each other by a quadratic curve.

顕微鏡制御部10の補正環位置決定部15は、ステップS232で補間された評価値vから、この評価値vが最大となる補正環21aの位置を決定し、この位置を補正環駆動部22に制御信号として送信し、この制御信号を受信した補正環駆動部22は、補正環21aを当該位置となるようにz方向(光軸OA方向)に(補正環21aを補間された評価値が最大となる位置に)移動させる(ステップS234)。 The correction ring position determination unit 15 of the microscope control unit 10 determines the position of the correction ring 21a at which the evaluation value v is maximum from the evaluation value v interpolated in step S232, and determines this position in the correction ring drive unit 22. The correction ring drive unit 22 that transmits as a control signal and receives this control signal has the maximum evaluation value obtained by interpolating the correction ring 21a in the z direction (optical axis OA direction) so that the correction ring 21a is at the position. (Step S234).

最後に、補間された評価値vが最大になる位置に補正環21aがある状態で、制御部12は、対物レンズ駆動部24に制御信号を送信して対物レンズ21を光軸方向に相対移動させながら検出部25で信号を取得し、画像生成部13でzスタックを取得し、画像が取得されたときの対物レンズ21のz位置(光軸OA方向の位置)と対応付けてz位置算出部18へ出力する(ステップS236)。 Finally, with the correction ring 21a at the position where the interpolated evaluation value v is maximized, the control unit 12 transmits a control signal to the objective lens drive unit 24 to move the objective lens 21 relative to the optical axis. The detection unit 25 acquires the signal, the image generation unit 13 acquires the z stack, and the z position is calculated in association with the z position (position in the optical axis OA direction) of the objective lens 21 when the image is acquired. Output to unit 18 (step S236).

顕微鏡制御部10のz位置算出部18は、ステップS214で取得した基準画像と、ステップS236で取得したzスタックの各画像との相関値を、上述した式(e)により算出する(ステップS238)。 The z position calculation unit 18 of the microscope control unit 10 calculates the correlation value between the reference image acquired in step S214 and each image of the z stack acquired in step S236 by the above equation (e) (step S238). ..

顕微鏡制御部10のz位置算出部18は、ステップS238で算出されたzスタックの各画像と基準画像との相関値を補間する(ステップS240)。顕微鏡制御部10のz位置算出部18は、補間された相関値のうち、最大となる相関値のz位置を算出して制御部12へ出力し、制御部12は、z位置算出部18で算出されたz位置に基づいて、対物レンズ駆動部24に制御信号として送信して対物レンズ21を当該位置へ移動させ(ステップS242)、収差補正算出装置の動作を終了する。 The z position calculation unit 18 of the microscope control unit 10 interpolates the correlation value between each image of the z stack calculated in step S238 and the reference image (step S240). The z-position calculation unit 18 of the microscope control unit 10 calculates the z-position of the maximum correlation value among the interpolated correlation values and outputs it to the control unit 12, and the control unit 12 is the z-position calculation unit 18. Based on the calculated z position, it is transmitted as a control signal to the objective lens driving unit 24 to move the objective lens 21 to the position (step S242), and the operation of the aberration correction calculation device is terminated.

この第2の実施形態に係る収差補正算出装置の制御方法(収差補正部の最適位置決定方法)によれば、観察者が任意に選択した観察位置において撮像される基準画像とほぼ同じフォーカス位置で、かつ、球面収差が最適に補正される補正環21aの位置を決定することができる。 According to the control method (optimal position determination method of the aberration correction unit) of the aberration correction calculation device according to the second embodiment, the focus position is substantially the same as the reference image captured at the observation position arbitrarily selected by the observer. Moreover, the position of the correction ring 21a in which the spherical aberration is optimally corrected can be determined.

(第3の実施形態)
図13は、第3の実施形態を説明する図である。第3の実施形態では、図13に示すように、補正環21aの位置(補正環位置c)を変え、その位置毎にzスタックの取得を行うが、このときすべての画像を複数回(本実施形態では2回ずつ)撮影する。規定のすべての補正環位置でzスタックの撮影を終えたら、補正環21aの位置毎に、基準画像とzスタックの各2画像の少なくとも一方との相関値を計算し、相関値が最大となる画像に対応する対物レンズ21のz位置で撮像された2画像を選択する。そして、上述した第2の実施形態と同様に、選択された2画像の相関値を評価値として算出する。その後、上述した第2の実施形態と同様に、図12のステップS232~S242の処理を実行する。
(Third embodiment)
FIG. 13 is a diagram illustrating a third embodiment. In the third embodiment, as shown in FIG. 13, the position of the correction ring 21a (correction ring position c) is changed, and the z stack is acquired for each position. At this time, all the images are displayed a plurality of times (this). In the embodiment, the images are taken twice). After shooting the z-stack at all the specified correction ring positions, the correlation value between the reference image and at least one of the two images of the z-stack is calculated for each position of the correction ring 21a, and the correlation value becomes the maximum. Two images captured at the z position of the objective lens 21 corresponding to the image are selected. Then, similarly to the second embodiment described above, the correlation value of the selected two images is calculated as the evaluation value. After that, the processes of steps S232 to S242 in FIG. 12 are executed in the same manner as in the second embodiment described above.

(第4の実施形態)
第4の実施形態は、第2の実施形態に退色補正の処理を追加した構成である。図15に第4の実施形態に係る収差補正算出装置の構成を示す。図15に示すように、第4実施形態では、図3の構成に対して、評価値の退色補正を行う評価値補正部19が設けられている。
(Fourth Embodiment)
The fourth embodiment is a configuration in which a fading correction process is added to the second embodiment. FIG. 15 shows the configuration of the aberration correction calculation device according to the fourth embodiment. As shown in FIG. 15, in the fourth embodiment, the evaluation value correction unit 19 for correcting the fading of the evaluation value is provided for the configuration of FIG.

以下に、第4の実施形態に係る収差補正算出装置の制御方法について説明する。図16に示すように、観察者が観察対象TPを観察するために、情報処理装置101の入力装置9を用いて対物レンズ21をz方向(光軸OA方向)に移動させることにより、この対物レンズ21を任意の観察位置に相対移動させる。また、観察者が、情報処理装置101の表示装置11に表示される補正環21aを調整するためのグラフィカルユーザインタフェース(補正環調整画面)において、観察者が入力装置9を用いて収差補正の開始を指示すると(ステップS310)、制御部12は、補正環駆動部22に制御信号を送信し、この制御信号を受信した補正環駆動部22は、補正環21aを初期状態の位置(補正環開始位置CB)に移動させる(ステップS312)。 Hereinafter, a control method of the aberration correction calculation device according to the fourth embodiment will be described. As shown in FIG. 16, in order for the observer to observe the observation target TP, the objective lens 21 is moved in the z direction (optical axis OA direction) by using the input device 9 of the information processing apparatus 101, so that the objective is this objective. The lens 21 is relatively moved to an arbitrary observation position. Further, in the graphical user interface (correction ring adjustment screen) for the observer to adjust the correction ring 21a displayed on the display device 11 of the information processing device 101, the observer starts the aberration correction using the input device 9. (Step S310), the control unit 12 transmits a control signal to the correction ring drive unit 22, and the correction ring drive unit 22 that has received this control signal places the correction ring 21a in the initial state position (correction ring start). Move to position CB) (step S312).

顕微鏡制御部10の画像生成部13は、検出部25の信号により、観察対象TPの基準画像(基準フォーカス面情報TFI)を取得し、記憶部16に記憶して保持する(ステップS314)。 The image generation unit 13 of the microscope control unit 10 acquires a reference image (reference focus plane information TFI) of the observation target TP by the signal of the detection unit 25, and stores and holds it in the storage unit 16 (step S314).

顕微鏡制御部10の画像生成部13は、検出部25の信号により、観察対象TPの画像TIを複数回取得する(ステップS316)。ここでは、ステップS316において2枚の画像を取得する場合で説明する。なお、ステップS314の処理を省略し、最初に取得された(補正環開始位置CBで取得された)観察対象TPの複数の画像TIの少なくとも一方を基準画像(基準フォーカス面情報TFI)としてもよい。 The image generation unit 13 of the microscope control unit 10 acquires the image TI of the observation target TP a plurality of times by the signal of the detection unit 25 (step S316). Here, the case of acquiring two images in step S316 will be described. It should be noted that the process of step S314 may be omitted, and at least one of the plurality of image TIs of the observation target TP acquired first (acquired at the correction ring start position CB) may be used as a reference image (reference focus plane information TFI). ..

顕微鏡制御部10の評価値算出部14は、ステップS316で取得された複数枚(例えば2枚)の画像を用いて、上述した式(e)により評価値(相関値)vを算出し、記憶部16に補正環の現在の位置(補正量CL)とともに記憶させて保持する(ステップS318)。 The evaluation value calculation unit 14 of the microscope control unit 10 calculates the evaluation value (correlation value) v by the above-mentioned formula (e) using the plurality of images (for example, two images) acquired in step S316, and stores them. It is stored and held in the unit 16 together with the current position of the correction ring (correction amount CL) (step S318).

制御部12は、補正環21aの位置を規定回数変えたか否かを判断する(ステップS320)。制御部12が、補正環21aの位置を規定回数変えていないと判断した場合(ステップS320:No)、制御部12は、補正環駆動部22に制御信号を送信し、この制御信号を受信した補正環駆動部22は、補正環21aを規定量だけ移動させる(ステップS322)。 The control unit 12 determines whether or not the position of the correction ring 21a has been changed a predetermined number of times (step S320). When the control unit 12 determines that the position of the correction ring 21a has not been changed a specified number of times (step S320: No), the control unit 12 transmits a control signal to the correction ring drive unit 22 and receives the control signal. The correction ring driving unit 22 moves the correction ring 21a by a specified amount (step S322).

制御部12は、現在の補正環21aの位置で、対物レンズ駆動部24に制御信号を送信して対物レンズ21を光軸方向に移動させながら検出部25で信号を取得し、画像生成部13でzスタックを取得し、zスタックの画像毎に、当該画像が取得されたときの対物レンズ21のz位置(光軸OA方向の位置)と対応付けて記憶部16に記憶させて保持する(ステップS324)。zスタックの取得方法は、第2の実施形態で説明した通りである。 The control unit 12 transmits a control signal to the objective lens driving unit 24 at the current position of the correction ring 21a, moves the objective lens 21 in the optical axis direction, and acquires the signal by the detection unit 25, and the image generation unit 13 The z-stack is acquired by, and each image of the z-stack is stored and held in the storage unit 16 in association with the z position (position in the optical axis OA direction) of the objective lens 21 when the image is acquired (the storage unit 16). Step S324). The method for acquiring the z-stack is as described in the second embodiment.

顕微鏡制御部10のz位置算出部18は、ステップS314で取得した基準画像と、ステップS324で取得したzスタックの各画像との相関値を、上述した式(e)により算出する(ステップS326)。 The z position calculation unit 18 of the microscope control unit 10 calculates the correlation value between the reference image acquired in step S314 and each image of the z stack acquired in step S324 by the above equation (e) (step S326). ..

顕微鏡制御部10のz位置算出部18は、ステップS326で算出されたzスタックの各画像と基準画像との相関値を補間する(ステップS328)。顕微鏡制御部10のz位置算出部18は、補間された相関値のうち、最大となる相関値のz位置(対物レンズ21の光軸OA方向の位置)を算出して制御部12へ出力し、制御部12は、z位置算出部18で算出されたz位置に基づいて、対物レンズ駆動部24に制御信号として送信して対物レンズ21を当該位置へ移動させる(ステップS330)。制御部12は、ステップS316に戻って上述した処理を繰り返す。以上の処理により、補正環21aを初期状態から、規定の移動量で規定回数だけ光軸OA方向に移動させたときの、観察者が任意に選択した観察位置において撮像される基準画像とほぼ同じフォーカス位置において、補正環21aの位置での評価値を取得することができる。 The z position calculation unit 18 of the microscope control unit 10 interpolates the correlation value between each image of the z stack calculated in step S326 and the reference image (step S328). The z-position calculation unit 18 of the microscope control unit 10 calculates the z-position (position of the objective lens 21 in the optical axis OA direction) of the maximum correlation value among the interpolated correlation values and outputs it to the control unit 12. , The control unit 12 transmits as a control signal to the objective lens driving unit 24 based on the z position calculated by the z position calculation unit 18, and moves the objective lens 21 to the position (step S330). The control unit 12 returns to step S316 and repeats the above-mentioned process. By the above processing, it is almost the same as the reference image captured at the observation position arbitrarily selected by the observer when the correction ring 21a is moved in the optical axis OA direction by a specified number of times from the initial state. At the focus position, the evaluation value at the position of the correction ring 21a can be acquired.

制御部12が、補正環21aの位置を規定回数変えたと判断した場合(ステップS320:Yes)、制御部12は、補正環駆動部22に制御信号を送信して補正環駆動部22により補正環21aを基準画像取得位置(初期状態)へ移動させる(ステップS332)。 When the control unit 12 determines that the position of the correction ring 21a has been changed a predetermined number of times (step S320: Yes), the control unit 12 transmits a control signal to the correction ring drive unit 22 and the correction ring drive unit 22 transmits the correction ring. 21a is moved to the reference image acquisition position (initial state) (step S332).

制御部12は、現在の補正環21aの位置において、対物レンズ駆動部24に制御信号を送信して対物レンズ21を光軸方向に移動させながら検出部25で信号を取得し、画像生成部13でzスタックを取得し、画像が取得されたときの対物レンズ21のz位置(光軸OA方向の位置)と対応付けてz位置算出部18へ出力する(ステップS334)。 The control unit 12 transmits a control signal to the objective lens driving unit 24 at the current position of the correction ring 21a, moves the objective lens 21 in the optical axis direction, acquires the signal by the detection unit 25, and acquires the signal by the image generation unit 13. Acquires the z-stack in step 1, and outputs the z-stack to the z-position calculation unit 18 in association with the z-position (position in the optical axis OA direction) of the objective lens 21 when the image is acquired (step S334).

顕微鏡制御部10のz位置算出部18は、ステップS314で取得した基準画像と、ステップS334で取得したzスタックの各画像との相関値を、上述した式(e)により算出する(ステップS336)。 The z position calculation unit 18 of the microscope control unit 10 calculates the correlation value between the reference image acquired in step S314 and each image of the z stack acquired in step S334 by the above equation (e) (step S336). ..

顕微鏡制御部10のz位置算出部18は、ステップS336で算出されたzスタックの各画像と基準画像との相関値を補間する(ステップS338)。顕微鏡制御部10のz位置算出部18は、補間された相関値のうち、最大となる相関値のz位置を算出して制御部12へ出力し、制御部12は、z位置算出部18で算出されたz位置に基づいて、対物レンズ駆動部24に制御信号として送信して対物レンズ21を当該位置へ移動させる(ステップS340)。 The z position calculation unit 18 of the microscope control unit 10 interpolates the correlation value between each image of the z stack calculated in step S336 and the reference image (step S338). The z-position calculation unit 18 of the microscope control unit 10 calculates the z-position of the maximum correlation value among the interpolated correlation values and outputs it to the control unit 12, and the control unit 12 is the z-position calculation unit 18. Based on the calculated z position, it is transmitted as a control signal to the objective lens driving unit 24 to move the objective lens 21 to the position (step S340).

図17に示すように、顕微鏡制御部10の画像生成部13は、現在の対物レンズ21及び補正環21aの位置で、検出部25の信号により、観察対象TPの画像TIを複数回(例えば2回)取得する(ステップS342)。また、顕微鏡制御部10の評価値算出部14は、ステップS342で取得された複数枚(例えば2枚)の画像を用いて、上述した式(e)により評価値(相関値)vを算出し、記憶部16に補正環の現在の位置(補正環最適位置CP又は補正量CLに相当する)とともに記憶させて保持する(ステップS344)。 As shown in FIG. 17, the image generation unit 13 of the microscope control unit 10 performs the image TI of the observation target TP a plurality of times (for example, 2) by the signal of the detection unit 25 at the positions of the current objective lens 21 and the correction ring 21a. (Times) acquisition (step S342). Further, the evaluation value calculation unit 14 of the microscope control unit 10 calculates the evaluation value (correlation value) v by the above-mentioned equation (e) using the plurality of images (for example, two images) acquired in step S342. , The storage unit 16 stores and holds the current position of the correction ring (corresponding to the correction ring optimum position CP or the correction amount CL) (step S344).

蛍光顕微鏡では試料(観察対象TP)の退色により画像の輝度が暗くなる。収差の評価値は評価値算出方法によらず一般に退色の影響を受ける(同じ収差状態でも退色により評価値が変化する)。図14(a)は、1~6の符号が付けられた6箇所の補正環21aの位置で評価値を算出した場合を示している。そして、補正環21aを、基準画像を取得したときの位置に戻し、ステップS334~S344を実行することで、退色後の観察対象TPの画像から評価値を再度取得する。この評価値は、図14(a)において7の符号が付けられた評価値に相当する。すなわち、符号1~6の評価値を取得した後に取得された符号7の評価値は、符号1の評価値と比較することにより、この間に発生した退色の影響(補正環21aの最適位置を決定する処理の間に試料や装置の状態変化に起因する影響)を表していることになる。したがって、顕微鏡制御部10の評価値補正部19は、最初に取得した評価値(符号1)と補正環21aが同じ位置にあるときに、最後に取得した評価値(符号7)との差を求め、図14(b)に示すように、符号2~6の評価値に対して、その時間経過を考慮して符号1と符号7の評価値の差を用いて退色補正を行い、補正された評価値v′を記憶部16に記憶する(ステップS346)。すなわち、最初の評価値が取得されてから最後の評価値が取得されるまでの時間、又は、最初の評価値が取得されてから最後の評価値が取得されるまでの間で画像が取得された回数(試料に励起光が照射された回数)により試料の状態変化度合いを予測し、評価値を補正する。 With a fluorescence microscope, the brightness of the image becomes dark due to the fading of the sample (observation target TP). The evaluation value of aberration is generally affected by fading regardless of the evaluation value calculation method (the evaluation value changes due to fading even in the same aberration state). FIG. 14A shows a case where the evaluation value is calculated at the positions of the correction rings 21a at the six locations designated by the reference numerals 1 to 6. Then, the correction ring 21a is returned to the position when the reference image was acquired, and the evaluation values are acquired again from the image of the observation target TP after fading by executing steps S334 to S344. This evaluation value corresponds to the evaluation value indicated by the reference numeral 7 in FIG. 14 (a). That is, the evaluation value of reference numeral 7 acquired after acquiring the evaluation values of reference numerals 1 to 6 is compared with the evaluation value of reference numeral 1, and the influence of fading that occurs during this period (the optimum position of the correction ring 21a is determined). The effect caused by the change in the state of the sample or device during the processing) is shown. Therefore, the evaluation value correction unit 19 of the microscope control unit 10 determines the difference between the evaluation value (reference numeral 1) acquired first and the evaluation value (reference numeral 7) acquired last when the correction ring 21a is at the same position. As shown in FIG. 14 (b), the evaluation values of reference numerals 2 to 6 are corrected by fading correction using the difference between the evaluation values of reference numerals 1 and reference numeral 7 in consideration of the passage of time. The evaluation value v'is stored in the storage unit 16 (step S346). That is, the image is acquired during the time from the acquisition of the first evaluation value to the acquisition of the last evaluation value, or the period from the acquisition of the first evaluation value to the acquisition of the last evaluation value. The degree of change in the state of the sample is predicted by the number of times the sample is irradiated (the number of times the sample is irradiated with the excitation light), and the evaluation value is corrected.

最後に、顕微鏡制御部10の補正環位置決定部15は、補正環駆動部22に制御信号を送信して、評価値補正部19で退色補正された評価値v′が最大になる位置に補正環21aを移動させる(ステップS348)。 Finally, the correction ring position determination unit 15 of the microscope control unit 10 transmits a control signal to the correction ring drive unit 22 and corrects the position where the evaluation value v'corrected by the evaluation value correction unit 19 becomes maximum. The ring 21a is moved (step S348).

退色補正された評価値v′が最大になる位置に補正環21aがある状態で、制御部12は、対物レンズ駆動部24に制御信号を送信して対物レンズ21を光軸方向に移動させながら検出部25で信号を取得し、画像生成部13でzスタックを取得し、画像が取得されたときの対物レンズ21のz位置(光軸OA方向の位置)と対応付けてz位置算出部18へ出力する(ステップS350)。 With the correction ring 21a at the position where the fade-corrected evaluation value v'is maximized, the control unit 12 transmits a control signal to the objective lens drive unit 24 to move the objective lens 21 in the optical axis direction. The detection unit 25 acquires the signal, the image generation unit 13 acquires the z stack, and the z position calculation unit 18 is associated with the z position (position in the optical axis OA direction) of the objective lens 21 when the image is acquired. Output to (step S350).

顕微鏡制御部10のz位置算出部18は、ステップS314で取得した基準画像と、ステップS350で取得したzスタックの各画像との相関値を、上述した式(e)により算出する(ステップS352)。 The z position calculation unit 18 of the microscope control unit 10 calculates the correlation value between the reference image acquired in step S314 and each image of the z stack acquired in step S350 by the above equation (e) (step S352). ..

顕微鏡制御部10のz位置算出部18は、ステップS352で算出されたzスタックの各画像と基準画像との相関値を補間する(ステップS354)。顕微鏡制御部10のz位置算出部18は、補間された相関値のうち、最大となる相関値の位置を算出して制御部12へ出力し、制御部12は、z位置算出部18で算出されたz位置に基づいて、対物レンズ駆動部24に制御信号として送信して対物レンズ21を当該位置へ移動させ(ステップS356)、収差補正算出装置の動作を終了する。 The z position calculation unit 18 of the microscope control unit 10 interpolates the correlation value between each image of the z stack calculated in step S352 and the reference image (step S354). The z-position calculation unit 18 of the microscope control unit 10 calculates the position of the maximum correlation value among the interpolated correlation values and outputs it to the control unit 12, and the control unit 12 calculates it by the z-position calculation unit 18. Based on the z position, the objective lens 21 is transmitted to the objective lens driving unit 24 as a control signal to move the objective lens 21 to the position (step S356), and the operation of the aberration correction calculation device is terminated.

この第4の実施形態に係る収差補正算出装置の制御方法(収差補正部の最適位置決定方法)によれば、観察者が任意に選択した観察位置において撮像される画像とほぼ同じフォーカス位置で、かつ、球面収差が最適に補正される補正環21aの位置を決定することができる。また、退色補正をすることにより、補正環21aの最適位置を決定する処理における観察対象のTPの退色の効果を補正できるので、より正確な評価値を求めることができる。 According to the control method (optimal position determination method of the aberration correction unit) of the aberration correction calculation device according to the fourth embodiment, the focus position is substantially the same as the image captured at the observation position arbitrarily selected by the observer. Moreover, the position of the correction ring 21a in which the spherical aberration is optimally corrected can be determined. Further, by performing the fading correction, the effect of fading of the TP to be observed in the process of determining the optimum position of the correction ring 21a can be corrected, so that a more accurate evaluation value can be obtained.

なお、上述した第4の実施形態に係る収差補正算出装置の制御方法(収差補正部の最適位置決定方法)では、補正環位置を移動させて評価値を算出するときに、最初と最後の評価値(図14の符号1と符号7の評価値)を比較して、その他の評価値(符号2~6の評価値)の補正を行っていたが、退色補正をするための評価値の取得は、最初と最後の値の比較に限定されることはない。例えば、図14と同様に、6箇所の補正環21aの位置で評価値を算出する場合について説明すると、図18に示すように、符号1~4が付された評価値を算出後に、符号1に対応する位置に補正環21aを戻して、符号5の評価値を算出し、続いて、符号6及び7が付された評価値を算出後に、符号1に対応する位置に補正環21aを戻して、符号8の評価値を算出する。そして、符号2~4に対しては、符号1と符号5の評価値の差分から上述した補正を行い、符号6及び7に対しては、符号5と符号8の評価値の差分から上述した補正を行う。移動される補正間の位置が多い場合には、所定の数の位置において評価値を算出したときに、符号1の位置に戻って評価値を算出するという処理を繰り返してもよい。このように、補正環21aの位置を最初に取得した位置に戻して評価値を算出するという処理を繰り返すことにより、退色補正の精度を向上させることができる。 In the control method of the aberration correction calculation device (method for determining the optimum position of the aberration correction unit) according to the fourth embodiment described above, when the correction ring position is moved to calculate the evaluation value, the first and last evaluations are made. The values (evaluation values of reference numeral 1 and reference numeral 7 in FIG. 14) were compared and other evaluation values (evaluation values of reference numerals 2 to 6) were corrected. Is not limited to comparing the first and last values. For example, as in FIG. 14, the case where the evaluation value is calculated at the positions of the correction rings 21a at the six locations will be described. As shown in FIG. 18, after the evaluation value with reference numerals 1 to 4 is calculated, reference numeral 1 The correction ring 21a is returned to the position corresponding to the reference numeral 5, the evaluation value of the reference numeral 5 is calculated, and then the evaluation value with the reference numerals 6 and 7 is calculated, and then the correction ring 21a is returned to the position corresponding to the reference numeral 1. Then, the evaluation value of reference numeral 8 is calculated. Then, the above-mentioned correction is performed for the reference numerals 2 to 4 from the difference between the evaluation values of the reference numerals 1 and 5, and the above-mentioned correction is performed for the reference numerals 6 and 7 from the difference between the evaluation values of the reference numerals 5 and the reference numeral 8. Make corrections. When there are many positions between corrections to be moved, when the evaluation values are calculated at a predetermined number of positions, the process of returning to the position of reference numeral 1 and calculating the evaluation values may be repeated. In this way, the accuracy of the fading correction can be improved by repeating the process of returning the position of the correction ring 21a to the position where it was first acquired and calculating the evaluation value.

なお、以上で説明した条件及び構成は、それぞれが上述した効果を発揮するものであり、全ての条件及び構成を満たすものに限定されることはなく、いずれかの条件又は構成、或いは、いずれかの条件又は構成の組み合わせを満たすものでも、上述した効果を得ることが可能である。 It should be noted that the conditions and configurations described above are those that exert the above-mentioned effects, and are not limited to those that satisfy all the conditions and configurations, and are any of the conditions or configurations, or any of them. It is possible to obtain the above-mentioned effect even if the combination of the above conditions or configurations is satisfied.

以上のような構成により、収差(特に球面収差)が良好な状態を、画像を撮影しながら決定することができる。なお、上述した説明では、電動補正環自動調整を用いた場合について説明したが、補償光学など収差最適化全般に使用可能である。 With the above configuration, it is possible to determine a state in which aberration (particularly spherical aberration) is good while taking an image. In the above description, the case where the electric correction ring automatic adjustment is used has been described, but it can be used for general aberration optimization such as adaptive optics.

10 顕微鏡制御部(補正環制御部、収差補正光学系制御部)
12 制御部 13 画像生成部 14 評価値算出部
15 補正環位置決定部 19 評価値補正部
20 収差補正部 21 対物レンズ 21a 補正環
21b 収差補正レンズ(収差補正光学系)
25 検出部 100 共焦点顕微鏡(顕微鏡)
10 Microscope control unit (correction ring control unit, aberration correction optical system control unit)
12 Control unit 13 Image generation unit 14 Evaluation value calculation unit 15 Correction ring position determination unit 19 Evaluation value correction unit 20 Aberration correction unit 21 Objective lens 21a Correction ring 21b Aberration correction lens (aberration correction optical system)
25 Detector 100 Confocal microscope (microscope)

Claims (20)

補正環を有し、収差補正光学系を含む対物レンズと、
試料からの光を検出する検出部と、
補正環制御部と、
を有し、
前記補正環制御部は、前記補正環の複数の回転位置それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記回転位置それぞれの前記2枚の画像に基づいて、前記回転位置毎の評価値を算出し、算出した複数の前記評価値に基づいて補正環の回転位置を決定し、前記補正環の回転位置を、前記決定した回転位置に移動させ、前記収差補正光学系の設定状態を変更させ、
前記評価値は、前記2枚の画像間の相関値であり、
前記基準画像とは、前記補正環を任意の位置に設定した状態で、前記焦点位置からの前記光を検出してなる画像である
顕微鏡。
An objective lens that has a correction ring and includes an aberration correction optical system ,
A detector that detects light from the sample,
Correction ring control unit and
Have,
The correction ring control unit acquires two images at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance at each of the plurality of rotation positions of the correction ring, and the rotation Based on the two images of each position, the evaluation value for each rotation position is calculated, the rotation position of the correction ring is determined based on the plurality of calculated evaluation values, and the rotation position of the correction ring is determined . It is moved to the determined rotation position, and the setting state of the aberration correction optical system is changed.
The evaluation value is a correlation value between the two images, and is a correlation value.
The reference image is an image obtained by detecting the light from the focal position with the correction ring set at an arbitrary position.
前記補正環制御部は、前記複数の評価値の最大値に基づいて補正環の回転位置を決定する
請求項1に記載の顕微鏡。
The microscope according to claim 1, wherein the correction ring control unit determines a rotation position of the correction ring based on the maximum value of the plurality of evaluation values.
前記補正環制御部は、前記複数の評価値が最大となる前記補正環の回転位置に基づいて補正環の回転位置を決定する
請求項1に記載の顕微鏡。
The microscope according to claim 1, wherein the correction ring control unit determines the rotation position of the correction ring based on the rotation position of the correction ring at which the plurality of evaluation values are maximized.
前記補正環制御部は、前記複数の評価値を用いて補間された評価値が最大となる前記補正環の回転位置に基づいて補正環の回転位置を決定する
請求項1に記載の顕微鏡。
The microscope according to claim 1, wherein the correction ring control unit determines the rotation position of the correction ring based on the rotation position of the correction ring that maximizes the evaluation value interpolated using the plurality of evaluation values.
試料に照明光を照射する照明光学系と、
前記試料からの観察光を検出する検出部と、
対物レンズを含み、前記観察光を前記検出部に入射させる観察光学系と、
前記照明光及び前記観察光の少なくとも一方の収差を補正する収差補正光学系と、
収差補正光学系制御部と、
を有し、
前記収差補正光学系制御部は、前記収差補正光学系の複数の設定状態それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記設定状態それぞれの前記2枚の画像に基づいて、前記設定状態毎の評価値を算出し、算出した複数の前記評価値に基づいて収差補正光学系の設定を決定し、前記収差補正光学系の設定状態を、前記決定した設定に変更させ、
前記評価値は、前記2枚の画像間の相関値であり、
前記基準画像とは、前記設定状態を任意に設定した状態で、前記焦点位置からの前記観察光を検出してなる画像である
顕微鏡。
An illumination optical system that irradiates the sample with illumination light,
A detector that detects the observation light from the sample,
An observation optical system that includes an objective lens and causes the observation light to enter the detection unit.
An aberration-correcting optical system that corrects at least one of the illumination light and the observation light.
Aberration correction optical system control unit and
Have,
The aberration-correcting optical system control unit acquires two images at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance in each of the plurality of setting states of the aberration-correcting optical system. Then, the evaluation value for each setting state is calculated based on the two images in each of the setting states, the setting of the aberration correction optical system is determined based on the plurality of calculated evaluation values, and the aberration correction is performed. Change the setting state of the optical system to the determined setting,
The evaluation value is a correlation value between the two images, and is a correlation value.
The reference image is an image obtained by detecting the observation light from the focal position in a state where the setting state is arbitrarily set.
前記収差補正光学系は、前記照明光を放射する光源と前記試料との間に設けられる
請求項に記載の顕微鏡。
The microscope according to claim 5 , wherein the aberration correction optical system is provided between a light source that emits illumination light and the sample.
前記収差補正光学系は、前記検出部と前記試料との間に設けられる
請求項に記載の顕微鏡。
The microscope according to claim 5 , wherein the aberration correction optical system is provided between the detection unit and the sample.
前記収差補正光学系は、対物レンズに含まれる収差補正レンズであり、
前記設定状態は、前記収差補正レンズの光軸方向の位置である
請求項5~7のいずれか一項に記載の顕微鏡。
The aberration-correcting optical system is an aberration-correcting lens included in the objective lens.
The microscope according to any one of claims 5 to 7 , wherein the setting state is a position of the aberration correction lens in the optical axis direction.
前記収差補正光学系は、デフォーマブルミラーであり、前記設定状態は、ミラーの形状である
請求項5~7のいずれか一項に記載の顕微鏡。
The microscope according to any one of claims 5 to 7 , wherein the aberration correction optical system is a deformable mirror, and the setting state is the shape of the mirror.
前記収差補正光学系は、液晶素子であり、前記設定状態は前記液晶の分布である
請求項5~7のいずれか一項に記載の顕微鏡。
The microscope according to any one of claims 5 to 7 , wherein the aberration correction optical system is a liquid crystal element, and the setting state is the distribution of the liquid crystal.
前記収差補正光学系は、位相変調素子であり、前記設定状態は位相変調量である
請求項5~7のいずれか一項に記載の顕微鏡。
The microscope according to any one of claims 5 to 7 , wherein the aberration correction optical system is a phase modulation element, and the set state is a phase modulation amount.
共焦点顕微鏡又は多光子励起蛍光顕微鏡である
請求項1~11のいずれか一項に記載の顕微鏡。
The microscope according to any one of claims 1 to 11 , which is a confocal microscope or a multiphoton excitation fluorescence microscope.
前記補正環制御部は、
前記補正環の第1~n(nは2以上の整数)の回転位置それぞれにおいて前記評価値を算出し、前記第nの回転位置で前記評価値を算出した後に、前記第1の回転位置で2回目の評価値を算出して、前記第1の回転位置で取得された1回目の評価値と2回目の評価値とに基づいて前記補正環の第2~nの回転位置における評価値を補正し、
前記第1の回転位置における2回目の評価値、及び、第2~nの回転位置における補正された評価値に基づいて前記補正環の回転位置を決定する
請求項1~4のいずれか一項に記載の顕微鏡。
The correction ring control unit
The evaluation value is calculated at each of the rotation positions of the first to n (n is an integer of 2 or more) of the correction ring, the evaluation value is calculated at the nth rotation position, and then at the first rotation position. The second evaluation value is calculated, and the evaluation value at the second to n rotation positions of the correction ring is calculated based on the first evaluation value and the second evaluation value acquired at the first rotation position. Correct and
The rotation position of the correction ring is determined based on the second evaluation value at the first rotation position and the corrected evaluation value at the second to n rotation positions.
The microscope according to any one of claims 1 to 4 .
前記補正環制御部は、
前記第1の回転位置で2回目の評価値を算出した後、前記補正環の第n+1~m(mはn+1以上の整数)の回転位置それぞれにおいて評価値を算出した後に、前記第1の回転位置で3回目の前記評価値を算出し、
前記第1の回転位置で取得された1回目の評価値と2回目の評価値とに基づいて前記補正環の第2~nの回転位置の評価値を補正し、
前記第1の回転位置で取得された2回目の評価値と3回目の評価値とに基づいて前記補正環の第n+1~mの回転位置における評価値を補正する
請求項13に記載の顕微鏡。
The correction ring control unit
After calculating the second evaluation value at the first rotation position, and then calculating the evaluation value at each of the rotation positions of n + 1 to m (m is an integer of n + 1 or more) of the correction ring, the first rotation Calculate the evaluation value for the third time at the position,
The evaluation values of the second to n rotation positions of the correction ring are corrected based on the first evaluation value and the second evaluation value acquired at the first rotation position.
The microscope according to claim 13 , wherein the evaluation value at the n + 1 to m rotation positions of the correction ring is corrected based on the second evaluation value and the third evaluation value acquired at the first rotation position.
前記収差補正光学系制御部は、
前記収差補正光学系の第1~n(nは2以上の整数)の設定状態それぞれにおいて前記評価値を算出し、前記第nの設定状態で前記評価値を算出した後に、前記第1の設定状態で2回目の評価値を算出して、前記第1の設定状態で取得された1回目の評価値と2回目の評価値とに基づいて前記収差補正光学系の第2~nの設定状態における評価値を補正し、
前記第1の設定状態における2回目の評価値、及び、第2~nの設定状態における補正された評価値に基づいて前記収差補正光学系の設定を決定する
請求項5~11のいずれか一項に記載の顕微鏡。
The aberration correction optical system control unit is
The evaluation value is calculated in each of the first to n (n is an integer of 2 or more) setting state of the aberration correction optical system, the evaluation value is calculated in the nth setting state, and then the first setting is performed. The second evaluation value is calculated in the state, and the second to n setting states of the aberration correction optical system are set based on the first evaluation value and the second evaluation value acquired in the first setting state. Correct the evaluation value in
The setting of the aberration correction optical system is determined based on the second evaluation value in the first setting state and the corrected evaluation value in the second to n setting states.
The microscope according to any one of claims 5 to 11 .
前記補正環制御部は、
前記第1の設定状態で2回目の評価値を算出した後、前記収差補正光学系の第n+1~m(mはn+1以上の整数)の設定状態それぞれにおいて評価値を算出した後に、前記第1の設定状態で3回目の前記評価値を算出し、
前記第1の設定状態で取得された1回目の評価値と2回目の評価値とに基づいて前記収差補正光学系の第2~nの設定状態の評価値を補正し、
前記第1の設定状態で取得された2回目の評価値と3回目の評価値とに基づいて前記収差補正光学系の第n+1~mの回転位置における評価値を補正する
請求項15に記載の顕微鏡。
The correction ring control unit
After calculating the second evaluation value in the first setting state, and then calculating the evaluation value in each of the setting states of the n + 1 to m (m is an integer of n + 1 or more) of the aberration correction optical system, the first evaluation value is calculated. Calculate the evaluation value for the third time in the setting state of
Based on the first evaluation value and the second evaluation value acquired in the first setting state, the evaluation values in the second to n setting states of the aberration correction optical system are corrected.
The 15th aspect of the present invention, wherein the evaluation value at the rotation position of the n + 1 to m of the aberration correction optical system is corrected based on the second evaluation value and the third evaluation value acquired in the first setting state. microscope.
補正環を有し、収差補正光学系を含む対物レンズと、
試料からの光を検出する検出部と、
補正環制御部と、
を有する顕微鏡の前記補正環制御部で実行される方法であって、
前記補正環の複数の回転位置それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記回転位置それぞれの前記2枚の画像に基づいて、前記回転位置毎の評価値を算出するステップと、
算出した複数の前記評価値に基づいて補正環の回転位置を決定するステップと、
前記補正環の回転位置を、前記決定した回転位置に移動させ、前記収差補性光学系の設定状態を変更させるステップと、
を有し、
前記評価値は、前記2枚の画像間の相関値であり、
前記基準画像とは、前記補正環を任意の位置に設定した状態で、前記焦点位置からの前記光を検出してなる画像である方法。
An objective lens that has a correction ring and includes an aberration correction optical system ,
A detector that detects light from the sample,
Correction ring control unit and
A method performed by the correction ring control unit of a microscope having a
At each of the plurality of rotation positions of the correction ring, two images are acquired at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance, and the two images at each of the rotation positions are obtained. The step of calculating the evaluation value for each rotation position based on the image, and
A step of determining the rotation position of the correction ring based on the plurality of calculated evaluation values, and
A step of moving the rotation position of the correction ring to the determined rotation position and changing the setting state of the aberration compensating optical system.
Have,
The evaluation value is a correlation value between the two images, and is a correlation value.
The reference image is an image obtained by detecting the light from the focal position with the correction ring set at an arbitrary position.
試料に照明光を照射する照明光学系と、
前記試料からの観察光を検出する検出部と、
対物レンズを含み、前記観察光を前記検出部に入射させる観察光学系と、
前記照明光及び前記観察光の少なくとも一方の収差を補正する収差補正光学系と、
収差補正光学系制御部と、
を有する顕微鏡の前記収差補正光学系制御部で実行される方法であって、
前記収差補正光学系の複数の設定状態それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記設定状態それぞれの前記2枚の画像に基づいて、前記設定状態毎の評価値を算出するステップと、
算出した複数の前記評価値に基づいて収差補正光学系の設定を決定するステップと、
前記収差補正光学系の設定状態を、前記決定した設定に変更させるステップと、
を有し、
前記評価値は、前記2枚の画像間の相関値であり、
前記基準画像とは、前記設定状態を任意に設定した状態で、前記焦点位置からの前記観察光を検出してなる画像である方法。
An illumination optical system that irradiates the sample with illumination light,
A detector that detects the observation light from the sample,
An observation optical system that includes an objective lens and causes the observation light to enter the detection unit.
An aberration-correcting optical system that corrects at least one of the illumination light and the observation light.
Aberration correction optical system control unit and
It is a method executed by the aberration correction optical system control unit of the microscope having
In each of the plurality of setting states of the aberration correction optical system, two images are acquired at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance, and the two in each of the setting states. The step of calculating the evaluation value for each setting state based on the images , and
A step of determining the setting of the aberration correction optical system based on the plurality of calculated evaluation values, and
A step of changing the setting state of the aberration correction optical system to the determined setting, and
Have,
The evaluation value is a correlation value between the two images, and is a correlation value.
The reference image is an image obtained by detecting the observation light from the focal position in a state where the setting state is arbitrarily set.
補正環を有し、収差補正光学系を含む対物レンズと、
試料からの光を検出する検出部と、
補正環制御部と、
を有する顕微鏡の前記補正環制御部で実行されるプログラムであって、
前記補正環制御部を、
前記補正環の複数の回転位置それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記回転位置それぞれの前記2枚の画像に基づいて、前記回転位置毎の評価値を算出する手段、
算出した複数の前記評価値に基づいて補正環の回転位置を決定する手段、及び
前記補正環の回転位置を、前記決定した回転位置に移動させ、前記収差補正光学系の設定状態を変更させる手段
として機能させ、
前記評価値は、前記2枚の画像間の相関値であり、
前記基準画像とは、前記補正環を任意の位置に設定した状態で、前記焦点位置からの前記光を検出してなる画像であるプログラム。
An objective lens that has a correction ring and includes an aberration correction optical system ,
A detector that detects light from the sample,
Correction ring control unit and
A program executed by the correction ring control unit of a microscope having a
The correction ring control unit
At each of the plurality of rotation positions of the correction ring, two images are acquired at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance, and the two images at each of the rotation positions are obtained. A means for calculating an evaluation value for each rotation position based on an image,
A means for determining the rotation position of the correction ring based on the plurality of calculated evaluation values , and
A means for moving the rotation position of the correction ring to the determined rotation position and changing the setting state of the aberration correction optical system.
To function as
The evaluation value is a correlation value between the two images, and is a correlation value.
The reference image is a program obtained by detecting the light from the focal position with the correction ring set at an arbitrary position.
試料に照明光を照射する照明光学系と、
前記試料からの観察光を検出する検出部と、
対物レンズを含み、前記観察光を前記検出部に入射させる観察光学系と、
前記照明光及び前記観察光の少なくとも一方の収差を補正する収差補正光学系と、
収差補正光学系制御部と、
を有する顕微鏡の前記収差補正光学系制御部で実行されるプログラムであって、
前記収差補正光学系制御部を、
前記収差補正光学系の複数の設定状態それぞれにおいて、予め基準画像を取得したときの、前記試料における前記対物レンズの焦点位置と同じ位置で2枚の画像を取得し、前記設定状態それぞれの前記2枚の画像に基づいて、前記設定状態毎の評価値を算出する手段、
算出した複数の前記評価値に基づいて収差補正光学系の設定を決定する手段、及び
前記収差補正光学系の設定状態を、前記決定した設定に変更させる手段
として機能させ、
前記評価値は、前記2枚の画像間の相関値であり、
前記基準画像とは、前記設定状態を任意に設定した状態で、前記焦点位置からの前記観察光を検出してなる画像であるプログラム。
An illumination optical system that irradiates the sample with illumination light,
A detector that detects the observation light from the sample,
An observation optical system that includes an objective lens and causes the observation light to enter the detection unit.
An aberration-correcting optical system that corrects at least one of the illumination light and the observation light.
Aberration correction optical system control unit and
It is a program executed by the aberration correction optical system control unit of the microscope having
The aberration correction optical system control unit
In each of the plurality of setting states of the aberration correction optical system, two images are acquired at the same position as the focal position of the objective lens in the sample when the reference image is acquired in advance, and the two in each of the setting states. A means for calculating an evaluation value for each setting state based on a sheet of images,
A means for determining the setting of the aberration correction optical system based on the plurality of calculated evaluation values , and
Means for changing the setting state of the aberration correction optical system to the determined setting.
To function as
The evaluation value is a correlation value between the two images, and is a correlation value.
The reference image is a program that detects the observation light from the focal position in a state where the setting state is arbitrarily set.
JP2018112355A 2018-06-12 2018-06-12 Microscope, method, and program Active JP7081318B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018112355A JP7081318B2 (en) 2018-06-12 2018-06-12 Microscope, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018112355A JP7081318B2 (en) 2018-06-12 2018-06-12 Microscope, method, and program

Publications (3)

Publication Number Publication Date
JP2019215437A JP2019215437A (en) 2019-12-19
JP2019215437A5 JP2019215437A5 (en) 2021-04-30
JP7081318B2 true JP7081318B2 (en) 2022-06-07

Family

ID=68918630

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018112355A Active JP7081318B2 (en) 2018-06-12 2018-06-12 Microscope, method, and program

Country Status (1)

Country Link
JP (1) JP7081318B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018087820A1 (en) 2016-11-08 2018-05-17 株式会社ニコン Image group generating device, spherical aberration correcting device, microscope, program, and method for correcting spherical aberration
JP2018194780A (en) 2017-05-22 2018-12-06 オリンパス株式会社 Microscope system, control method and program

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6555811B2 (en) * 2015-07-16 2019-08-07 オリンパス株式会社 Microscope system, identification method, and program
JP6562547B2 (en) * 2015-07-16 2019-08-21 オリンパス株式会社 Microscope system, calculation method, and program
JP6919804B2 (en) * 2017-05-22 2021-08-18 住友ゴム工業株式会社 Conductive rubber composition, transfer rollers and image forming equipment

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018087820A1 (en) 2016-11-08 2018-05-17 株式会社ニコン Image group generating device, spherical aberration correcting device, microscope, program, and method for correcting spherical aberration
JP2018194780A (en) 2017-05-22 2018-12-06 オリンパス株式会社 Microscope system, control method and program

Also Published As

Publication number Publication date
JP2019215437A (en) 2019-12-19

Similar Documents

Publication Publication Date Title
JP5381984B2 (en) Microscope device and microscope device control program
JP5287252B2 (en) Laser scanning confocal microscope
JP5281756B2 (en) Scanning optical apparatus and observation method
US10379329B2 (en) Microscope system and setting value calculation method
JP2009543101A (en) Method and apparatus for generating an image of a thin layer of an object
JP2009264752A (en) Three-dimensional image acquisition apparatus
JP6266302B2 (en) Microscope imaging apparatus, microscope imaging method, and microscope imaging program
JP2010101959A (en) Microscope device
JP6434296B2 (en) Microscope system, set value calculation method, and program
JP4812325B2 (en) Scanning confocal microscope and sample information measuring method
JP6887875B2 (en) Microscope system, control method, and program
JP6619315B2 (en) Observation apparatus and method, and observation apparatus control program
JP2008292809A (en) Microscope
JP7081318B2 (en) Microscope, method, and program
JP5471715B2 (en) Focusing device, focusing method, focusing program, and microscope
JPH1152252A (en) Fluorescent microscope
JP4968337B2 (en) Confocal microscope
JP6422761B2 (en) Microscope system and method for calculating relationship between Z position and set value of correction device
JP6423261B2 (en) Microscope system, function calculation method, and program
JP2010164635A (en) Confocal microscope
JP5892424B2 (en) Image acquisition method, image acquisition device, and scanning microscope
JP2015022073A (en) Microscope and aberration correction method
JP7369801B2 (en) Microscope system, setting search method, and program
JP6128862B2 (en) Microscope device and microscope system
JP5185771B2 (en) microscope

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220331

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220509

R150 Certificate of patent or registration of utility model

Ref document number: 7081318

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150