WO2015052936A1 - 構造化照明顕微鏡装置 - Google Patents
構造化照明顕微鏡装置 Download PDFInfo
- Publication number
- WO2015052936A1 WO2015052936A1 PCT/JP2014/005157 JP2014005157W WO2015052936A1 WO 2015052936 A1 WO2015052936 A1 WO 2015052936A1 JP 2014005157 W JP2014005157 W JP 2014005157W WO 2015052936 A1 WO2015052936 A1 WO 2015052936A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image
- images
- modulated
- types
- structured illumination
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0076—Optical details of the image generation arrangements using fluorescence or luminescence
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/008—Details of detection or image processing, including general computer control
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/58—Optics for apodization or superresolution; Optical synthetic aperture systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B5/00—Optical elements other than lenses
- G02B5/18—Diffraction gratings
- G02B5/1828—Diffraction gratings having means for producing variable diffraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/648—Specially adapted constructive features of fluorimeters using evanescent coupling or surface plasmon coupling for the excitation of fluorescence
Abstract
構造化顕微鏡装置は、標本を空間変調する縞の波数ベクトルと位相との組み合わせを制御してN枚の画像を取得する一連の処理を繰り返す取得手段と、前記画像がL枚取得される度に最新となる連続P枚の画像セットのうち必要なM種類の画像を用いて前記標本の像を復調する処理を前記画像セットごとに行う演算手段とを備える。前記M種類の画像には、「前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像」、「前記Q種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像」が含まれ、前記N枚の画像の配列は、「均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様になる」、「更新条件:前記画像セットには前記M種類の画像が必ず含まれる」を満たす。
Description
本発明は、構造化照明顕微鏡装置に関する。
生体標本などの被観察物を超解像観察するための手法に、被観察物の構造の空間周波数を照明光で変調する手法がある(特許文献1を参照)。
この手法では、空間変調された照明光で被観察物を照明し、被観察物の構造に含まれる解像限界を超える高い空間周波数の情報を、顕微鏡光学系の結像に寄与させる。また、空間照明の位相を切り替え、互いに異なる位相の下で得られた複数の変調像のデータ(以下、「変調画像」と称す。)へ演算を施すことにより、復調像のデータ(以下、「復調画像」又は「超解像画像」と称す。)を取得する。
しかし、1枚の超解像画像を観察するためには、複数枚の変調画像を取得し、それら変調画像の各々のスペクトルを生成する必要があるため、高速に観察することが難しい。
そこで本発明は、変調画像から超解像画像(復調画像)を取得するための復調演算を効率化することを目的とする。
本発明の構造化照明顕微鏡装置の一例は、標本を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段と、前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段とを備える。
なお、前記M種類の画像には、以下の画像が含まれる。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像。
・前記Q種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像。
また、前記N枚の画像の配列は、以下の条件を満たす。
・均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様になる。
・更新条件:前記画像セットには前記M種類の画像が必ず含まれる。
本発明の構造化照明顕微鏡装置の他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する。
本発明の構造化照明顕微鏡装置のさらに他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する。
本発明の構造化照明顕微鏡装置のさらに他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる。
本発明の構造化照明顕微鏡装置のさらに他の例は、回折格子と、光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、前記回折格子のパターンの方向及び位相を制御する制御部と、前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段とを備える。そして、前記制御部は、前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる。
以下、本発明の実施形態として構造化照明顕微鏡装置を説明する。
[装置の説明]
先ず、構造化照明顕微鏡装置の構成を説明する。以下では構造化照明顕微鏡装置を全反射蛍光顕微鏡(TIRFM:Total Internal Reflection Fluorescence Microscopy)として使用する場合も適宜併せて説明する。
先ず、構造化照明顕微鏡装置の構成を説明する。以下では構造化照明顕微鏡装置を全反射蛍光顕微鏡(TIRFM:Total Internal Reflection Fluorescence Microscopy)として使用する場合も適宜併せて説明する。
図1は、構造化照明顕微鏡装置1の構成図である。図1に示すとおり構造化照明顕微鏡装置1には、レーザユニット100と、光ファイバ11と、照明光学系10と、結像光学系30と、撮像素子42と、制御装置43と、画像記憶・演算装置44と、画像表示装置45とが備えられる。なお、照明光学系10は落射型であり、結像光学系30の対物レンズ31及びダイクロイックミラー33を利用して標本2の照明を行う。
レーザユニット100には、第1レーザ光源101、第2レーザ光源102、シャッタ103、104、ミラー105、ダイクロイックミラー106、レンズ107が備えられる。第1レーザ光源101及び第2レーザ光源102の各々は、可干渉性の高いレーザ光を出射する光源であって、互いの出射波長は異なる。ここでは、第1レーザ光源101の波長λ1は、第2レーザ光源102の波長λ2よりも長いと仮定する(λ1>λ2)。これらの第1レーザ光源101、第2レーザ光源102、シャッタ103、104は、それぞれ制御装置43によって駆動・制御される。
光ファイバ11は、レーザユニット100から射出したレーザ光を導光するために、例えば、偏波面保存型のシングルモードファイバによって構成される。この光ファイバ11の出射端の光軸O方向の位置は、位置調節機構11Aによって調節可能である。この位置調整機構11Aは、制御装置43によって駆動・制御される。なお、位置調整機構11Aとしては、例えば、ピエゾ素子等が用いられる。
照明光学系10には、光ファイバ11の出射端側から順に、コレクタレンズ12と、偏光板13と、光束分岐部14と、集光レンズ17と、光束選択部18と、レンズ21と、視野絞り22と、フィールドレンズ23と、励起フィルタ24と、ダイクロイックミラー33と、対物レンズ31とが配置される。
なお、光ファイバ11として偏波面保存型のシングルモードファイバを使用した場合は、光ファイバ11の前後でレーザ光の偏波面が保存されるので、偏光板13は非必須であるが、レーザ光の偏光の品質を保つためには有効である。一方、光ファイバ11としてマルチモードファイバを使用した場合、偏光板13は必須である。
光束分岐部14には、並進機構15と、回折光学素子(回折格子)16とが備えられ、光束選択部18には、1/2波長板19と、光束選択部材20と、回動機構18Aとが備えられる。これらの光束分岐部14、光束選択部18の各々は、制御装置43によって駆動・制御される。
結像光学系30には、標本2の側から順に、対物レンズ31と、ダイクロイックミラー33と、吸収フィルタ34と、第2対物レンズ35とが配置される。
標本2は、例えば、平行平板状のガラス表面に配置された蛍光性の細胞(蛍光色素で染色された細胞)や、シャーレ内に存在する蛍光性の生体細胞(蛍光色素で染色された動く細胞)などの細胞である。この細胞には、波長λ1の光によって励起される第1蛍光領域と、波長λ2の光によって励起される第2蛍光領域との双方が発現している。
構造化照明顕微鏡装置1がTIRFM(全反射蛍光顕微鏡)として使用される場合、対物レンズ31は、液浸型(油浸型)の対物レンズとして構成される。つまり、対物レンズ31と標本2のガラスとの間隙は、不図示の浸液(油)で満たされる。
撮像素子42は、CCDやCMOS等からなる二次元の撮像素子である。撮像素子42は、制御装置43によって駆動されると、その撮像面41に形成された像を撮像し、画像を生成する。この画像は、制御装置43を介して画像記憶・演算装置44へと取り込まれる。なお、撮像素子42のフレーム周期(撮像の繰り返し周期)は、撮像素子の撮像時間(すなわち電荷蓄積及び電荷読出に要する時間)、干渉縞の方向切り換えに要する時間、その他の所要時間のうち、律速によって定められる。
制御装置43は、レーザユニット100、位置調整機構11A、光束分岐部14、光束選択部18、撮像素子42を駆動制御する。
画像記憶・演算装置44は、制御装置43を介して与えられた画像に対して演算を施し、演算後の画像を不図示の内部メモリに格納すると共に、画像表示装置45へ送出する。
次に、構造化照明顕微鏡装置1におけるレーザ光の振る舞いを説明する。
第1レーザ光源101から射出した波長λ1のレーザ光(第1レーザ光)は、シャッタ103を介してミラー105へ入射すると、ミラー105を反射し、ダイクロイックミラー106へ入射する。一方、第2レーザ光源102から射出した波長λ2のレーザ光(第2レーザ光)は、シャッタ104を介してビームスプリッタ106へ入射し、第1レーザ光と統合される。ダイクロイックミラー106から射出した第1レーザ光及び第2レーザ光は、レンズ107を介して光ファイバ11の入射端に入射する。なお、制御装置43がレーザユニット100を制御すると、光ファイバ11の入射端に入射するレーザ光の波長(=使用波長λ)は、長い波長λ1と短い波長λ2との間で切り替わる。
光ファイバ11の入射端に入射したレーザ光は、光ファイバ11の内部を伝搬して光ファイバ11の出射端に点光源を生成する。その点光源から射出したレーザ光は、コレクタレンズ12によって平行光束に変換され、偏光板13を介して光束分岐部14の回折格子16へ入射すると、各次数の回折光束に分岐される。これら各次数の回折光束(以下、必要に応じて「回折光束群」と称す。)は、集光レンズ17によって瞳共役面25の互いに異なる位置に集光される。
ここで、瞳共役面25は、対物レンズ31の瞳32(±1次回折光が集光する位置)に対してレンズ23、レンズ21を介して共役な位置のことである。集光レンズ17は、集光レンズ17の焦点位置(後ろ側焦点位置)が瞳共役面25と一致するように配置されている。なお、「共役な位置」の概念には、当業者が対物レンズ17、レンズ21、23の収差、ビネッティング等、設計上必要な事項を考慮して決定した位置も含まれる。
なお、光ファイバ11から射出したレーザ光は基本的に直線偏光しているので、偏光板13は、省略することも可能であるが、余分な偏光成分を確実にカットするために有効である。また、レーザ光の利用効率を高めるため、偏光板13の軸は、光ファイバ11から射出したレーザ光の偏光方向に一致していることが望ましい。
瞳共役面25に向かった各次数の回折光束は、瞳共役面25の近傍に配置された光束選択部18へ入射する。
構造化照明顕微鏡装置1がTIRFMとして利用される場合、光束選択部18は、入射した各次数の回折光束のうち、1対の回折光束のみ(ここでは±1次回折光束のみ)を選択的に通過させる。
光束選択部18を通過した±1次回折光束は、レンズ21によって視野絞り22付近で回折格子16と共役な面を形成する。その後、±1次回折光束の各々は、フィールドレンズ23により収束光に変換され、さらに励起フィルタ24を経てからダイクロイックミラー33で反射し、対物レンズ31の瞳面32上の互いに異なる位置に集光される。
瞳面32上に集光した±1次回折光束の各々は、対物レンズ31の先端から射出される際には平行光束となり、標本2の表面で互いに重なり合い、干渉縞を形成する。この干渉縞が、構造化照明光として使用される。
なお、TIRF条件を満たすためには、瞳面32における±1次回折光束の集光点は、瞳面32の最外周における所定の輪帯状領域に位置していればよい。この場合、標本2の表面近傍には、干渉縞によるエバネッセント場が生起する。
このような構造化照明光により標本2を照明すると、構造化照明光の周期構造と標本2の(蛍光領域の)周期構造との差に相当するモアレ縞が現れるが、このモアレ縞においては、標本2の高周波数の構造が元の周波数より低周波数側にシフトしているため、この構造を示す光(蛍光)は、元の角度よりも小さい角度で対物レンズ31へ向かうことになる。よって、構造化照明光により標本2を照明すると、標本2の(蛍光領域の)高周波数の構造情報までもが対物レンズ31によって伝達される。
標本2で発生した蛍光は、対物レンズ31に入射すると、対物レンズ31で平行光に変換された後、ダイクロイックミラー33とバリアフィルタ34を透過し、第2対物レンズ35を介して撮像素子42の撮像面41上に標本2の変調像を形成する。
この変調像は、撮像素子42により画像化され、制御装置43を介して画像記憶・演算装置44へと取り込まれる。さらに、取り込まれた変調画像には、画像記憶・演算装置44において復調演算(詳細は後述)が施され、復調画像(超解像画像)が生成される。そして、この超解像画像は、画像記憶・演算装置44の内部メモリ(図示せず)に記憶されるとともに、画像表示装置45へと送出される。
次に、光束分岐部14を詳しく説明する。
図2は、光束分岐部14を説明する図であり、図2(A)は、光束分岐部14の回折格子16を光軸O方向から見た図であり、図2(B)は、±1次回折光束が瞳共役面に形成する集光点の位置関係を示す図である。なお、図2(A)は模式図であるため、図2(A)に示した回折格子16の構造周期は実際の構造周期と同じとは限らない。
図2(A)に示すように、回折格子16は、照明光学系10の光軸Oと垂直な互いに異なる複数方向にかけて周期構造を有した2次元回折格子である。ここでは、回折格子16は、120°ずつ異なる第1方向V1、第2方向V2、第3方向V3の各々にかけて周期構造を有しており、それら周期構造の周期(ピッチ)は共通であると仮定する。
なお、回折格子16の周期構造は、濃度(透過率)を利用して形成された濃度型の周期構造、または段差(位相差)を利用して形成された位相型の周期構造の何れであってもよいが、位相差型の周期構造の方が+1次回折光の回折効率が高いという点で好ましい。
このような回折格子16に入射した平行光束は、第1方向V1にかけて分岐した第1回折光束群と、第2方向V2にかけて分岐した第2回折光束群と、第3方向V3にかけて分岐した第3回折光束群とに変換される。
第1回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行する。
同様に、第2回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行する。
同様に、第3回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行する。
これら第1回折光束群の±1次回折光束、第2回折光束群の±1次回折光束、第3回折光束群の±1次回折光束は、前述した集光レンズ17により、瞳共役面内の互いに異なる位置に集光される。
そして、図2(B)に示すように、第1回折光束群の±1次回折光束の集光点25d、25gは、光軸Oに関して対称であり、集光点25d、25gの配列方向は第1方向V1に対応している。
また、第2回折光束群の±1次回折光束の集光点25c、25fは、光軸Oに関して対称であり、集光点25c、25fの配列方向は、第2方向V2に対応している。なお、第2回折光束群の集光点25c、25fから光軸Oまでの距離は、第1回折光束群の集光点25d、25gから光軸Oまでの距離と同じである。
また、第3回折光束群の±1次回折光束の集光点25b、25eは、光軸Oに関して対称であり、集光点25b、25eの配列方向は、第3方向V3に対応している。なお、第3光束群の集光点25b、25eから光軸Oまでの距離は、第1回折光束群の集光点25d、25gから光軸Oまでの距離と同じである。
なお、光ファイバ11から射出されるレーザ光の波長をλ、回折格子16の構造周期をP、レンズ17の焦点距離をfcとすると、光軸Oから集光点25b~25gまでの距離Dは下記の式で表される。
D∝2fcλ/P
なお、ここでいう集光点とは、最大強度の8割以上の強度を有する領域の重心位置のことである。そのため、本実施形態の照明光学系10は、完全な集光点が形成されるまで光束を集光する必要はない。
なお、ここでいう集光点とは、最大強度の8割以上の強度を有する領域の重心位置のことである。そのため、本実施形態の照明光学系10は、完全な集光点が形成されるまで光束を集光する必要はない。
以上の光束分岐部14において、並進機構15は、ピエゾモータ等からなる。並進機構15は、照明光学系10の光軸Oと垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の各々に対して非垂直な方向にかけて、回折格子16を並進移動させる。この方向に回折格子16を並進移動させると、構造化照明光の縞の位相がシフトする(詳細は後述。)。
次に、光束選択部18を詳しく説明する。
図3、図4は、光束選択部18を説明する図である。図3に示すとおり、光束選択部18の1/2波長板19は、入射した各次数の回折光束の偏光方向を設定し、図4に示すとおり、光束選択部18の光束選択部材20は、第1~第3回折光束群のうち何れか1群の±1次回折光束のみを選択的に通過させるマスクである。
そして、光束選択部18の不図示の回動機構は、光束選択部材20を光軸Oの周りに回動させることにより、選択される±1次回折光束を第1~第3回折光束群の間で切り替えると共に、光束選択部材20に連動して1/2波長板19を光軸Oの周りに回動させることにより、選択された±1次回折光束が標本2に入射するときの偏光方向をS偏光に保つ。
つまり、光束選択部18は、構造化照明光の縞の状態を保ちつつ、構造化照明光の縞方向を切り替える。以下、縞の状態を保つための条件を具体的に説明する。
先ず、1/2波長板19の速い軸(進相軸)の向きは、選択される±1次回折光束の分岐方向(第1方向V1~第3方向V3のいずれか)に対して、±1次回折光束の偏光方向が垂直となるように設定される必要がある。なお、ここでいう1/2波長板19の進相軸とは、その軸の方向に偏光した光が1/2波長板19を通過するときの位相遅延量が最小となるような方向のことである。
また、光束選択部材20の開口パターンは、同一の回折光束群に属する±1次回折光束の一方及び他方を個別に通過させる第1の開口部20A及び第2の開口部20Bからなり、これら第1の開口部20Aと第2の開口部20Bとの各々の光軸O周りの長さは、前述した方向に直線偏光した回折光束が通過できるような長さに設定されている。よって、第1の開口部20A及び第2の開口部20Bの各々の形状は、部分輪帯状に近い形状である。
ここで、図3(A)に示すように、1/2波長板19の進相軸の方向が偏光板13の軸の方向と平行になるときの1/2波長板19の回転位置を、1/2波長板19の回転位置の基準とする(以下、「第1の基準位置」と称する。)。
また、光束選択部材20の光束選択方向(=選択される±1次回折光束の分岐方向)が、偏光板13の軸の方向と垂直になるときの光束選択部材20の回転位置を、光束選択部材20の回転位置の基準とする(以下、「第2の基準位置」と称する。)。
このとき、図3(B)に示すように、1/2波長板19の第1基準位置からの回転量は、光束選択部材20の第2基準位置からの回転量の2分の1に制御されるべきである。
すなわち、1/2波長板19の第1基準位置からの回転量がθ/2であるときには、光束選択部材20の第2基準位置からの回転量は、θに設定される。
したがって、光束選択部18の回動機構18Aは、第1回折光束群の±1次回折光束(分岐方向は第1方向V1)を選択するために、図4(A)に示すように、光束選択部材20の光束選択方向を第2の基準位置から右方に回転角θ1だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から右方に回転角θ1/2だけ回転させる。
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(A)中に破線両矢印で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、右方に回転角θ1だけ回転するので、選択された±1次回折光束の偏光方向は、図4(A)に実線両矢印で示すとおり、それら±1次回折光束の分岐方向(第1方向V1)に対して垂直となる。
また、光束選択部18の回動機構18Aは、第2回折光束群の±1次回折光束(分岐方向は第2方向V2)を選択するために、図4(B)に示すように、光束選択部材20の光束選択方向を第2の基準位置から右方に回転角θ2だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から右方に回転角θ2/2だけ回転させる。
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(B)中に破線両矢線で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、右方に回転角θ2だけ回転するので、選択された±1次回折光束の偏光方向は、図4(B)に実線両矢印で示すとおり、それら±1次回折光束の分岐方向(第2方向V2)に対して垂直となる。
また、光束選択部18の回動機構18Aは、第3回折光束群の±1次回折光束(分岐方向は第3方向V3)を選択するために、図4(C)に示すように、光束選択部材20の光束選択方向を第2の基準位置から左方(標本側から見て。以下同じ)に回転角θ3だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から左方に回転角θ3/2だけ回転させる。
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(C)中に破線両矢線で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、左方に回転角θ3だけ回転するので、選択された±1次回折光束の偏光方向は、図4(C)に実両矢印で示すとおり、それら±1次回折光束の分岐方向(第3方向V3)に対して垂直となる。
換言すると、1/2波長板19の進相軸の方向は、光束選択部材20により選択される±1次回折光束の分岐方向に応じた方向であって、1/2波長板19へ入射する±1次回折光束が有していた偏光方向(偏光板13の軸方向)と、1/2波長板19から射出する±1次回折光束が有するべき偏光方向(分岐方向に垂直)とが成す角度の2等分線方向に、設定される。
したがって、光束選択部18の回動機構18Aは、1/2波長板19及び光束選択部材20をギア比2:1で連動すればよい。
なお、回動機構18Aには、例えば、光束選択部材20を保持し、かつ光軸Oの周りに回転可能な不図示の保持部材と、その保持部材の周りに形成された不図示の第1の歯車と、第1の歯車に噛み合う不図示の第2の歯車と、第2の歯車に連結された不図示のモータ(回転モータ)とが備えられる。このモータが駆動されると第2の歯車が回転し、その回転力が第1の歯車へと伝達され、光束選択部材20が光軸Oの周りに回転する。
図5は、以上説明した光束選択部18の機能を説明する図である。なお、図5において円形枠で囲まれた両矢線は、光束の偏光方向を示し、四角枠で囲まれた両矢線は、光学素子の軸方向を示している。
なお、以上の説明では、標本2に入射する±1次回折光束をS偏光に保つために回動可能な1/2波長板19を使用したが、回動可能な1/2波長板19の代わりに固定配置された液晶素子を使用し、その液晶素子を1/2波長板19として機能させてもよい。液晶素子の配向を電気的に制御すれば、液晶素子の屈折率異方性を制御することができるので、1/2波長板としての進相軸を光軸O周りに回転させることができる。因みに、標本2に入射する±1次回折光束をS偏光に保つための方法は他にもある。
また、図6に示すように、光束選択部材20の外周部には、複数の(図6に示す例では6個の)切り欠き20Cが形成されており、回動機構18Aには、これらの切り欠き20Cを検出するためのタイミングセンサ20Dが備えられている。これによって、回動機構18Aは、光束選択部18の回動位置、ひいては1/2波長板19の回動位置を検知することができる。
次に、光束分岐部14の並進機構15を詳しく説明する。
図7は、光束分岐部14の並進機構15の動作を説明する図である。
先ず、復調演算(詳細は後述)を可能とするためには、同一の標本2に関する変調画像であって、干渉縞の方向が共通で位相の異なる少なくとも2つの変調画像が必要である。なぜなら、構造化照明顕微鏡装置1が生成する変調画像には、標本2の構造のうち、構造化照明光により空間周波数の変調された構造情報である0次変調成分、+1次変調成分、-1次変調成分が重畳されており、互いに重畳した3つの未知パラメータを復調演算(詳細は後述)で既知とする必要がある。
そこで、光束分岐部14の並進機構15は、干渉縞の位相をシフトするために、図7(A)に示すように、照明光学系10の光軸Oと垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の全てに対して非垂直な方向(x方向)にかけて回折格子16をシフトさせる。
但し、干渉縞の位相を所望のシフト量φだけシフトさせるのに必要な回折格子16のシフト量Lは、光束選択部18による光束選択方向が第1方向V1であるときと、第2方向V2であるときと、第3方向V3であるときとでは、同じとは限らない。
図7(B)に示すとおり、回折格子16の第1方向V1、第2方向V2、第3方向V3の各々の構造周期(ピッチ)をPとおき、回折格子13のシフト方向(x方向)と第1方向V1とのなす角をθ1とおき、回折格子16のシフト方向(x方向)と第2方向V2とのなす角をθ2とおき、回折格子16のシフト方向(x方向)と第3方向V3とのなす角をθ3とおくと、光束選択方向が第1方向V1であるときに必要な回折格子16のx方向のシフト量L1は、L1=φ×P/(4π×|cosθ1|)で表され、光束選択方向が第2方向V2であるときに必要な回折格子16のx方向のシフト量L2は、L2=φ×P/(4π×|cosθ2|)で表され、光束選択方向が第3方向V3であるときに必要な回折格子16のx方向のシフト量L3は、L3=φ×P/(4π×|cosθ3|)で表される。
すなわち、干渉縞の位相シフト量を所望の値φとするために必要な回折格子16のx方向のシフト量Lは、波長選択方向(第1方向V1、第2方向V2、第3方向V3の何れか)とx方向とのなす角θにより式(1)のとおり表される。
L=φ×P/(a×4π×|cosθ|) …(1)
因みに、干渉縞の位相シフト量φを2πとするために必要な回折格子16のx方向のシフト量Lは、P/(a×2×|cosθ|)となる。これは、回折格子16の半周期に相当する量である。つまり、回折格子16を半周期分シフトさせるだけで、構造化照明光の位相を1周期分シフトできる(なぜなら、±1次回折光からなる干渉縞の縞ピッチは、回折格子16の構造周期の2倍に相当する。)。
因みに、干渉縞の位相シフト量φを2πとするために必要な回折格子16のx方向のシフト量Lは、P/(a×2×|cosθ|)となる。これは、回折格子16の半周期に相当する量である。つまり、回折格子16を半周期分シフトさせるだけで、構造化照明光の位相を1周期分シフトできる(なぜなら、±1次回折光からなる干渉縞の縞ピッチは、回折格子16の構造周期の2倍に相当する。)。
但し、a=1(M=1、2のとき)、a=2(M=3のとき)である。Mは、回折格子16が有する周期構造の方向数である。
[復調演算の説明]
以下、画像記憶・演算装置44による復調演算を説明する。
以下、画像記憶・演算装置44による復調演算を説明する。
上述した画像記憶・演算装置44は、演算用のプログラムを実行することで演算を行う計算機、演算処理を行う演算回路、或いは、両者の組み合わせによって構成される。また、計算機は、記憶媒体又は通信網経由で演算用のプログラムをインストールした汎用の計算機であってもよい。
以下、画像記憶・演算装置44による復調演算の基本手順を説明する。基本手順は、以下の4つのステップからなる。
第1ステップ:複数の変調画像の各々をフーリエ変換し、複数の空間周波数スペクトルを生成する。
第2ステップ:個々の空間周波数スペクトルに重畳されている、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分を、フーリエ空間上で互いに分離する。
第3ステップ:互いに分離された蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分を、フーリエ空間上で再配置することにより、復調画像の空間周波数スペクトルを生成する。
第4ステップ:復調画像の空間周波数スペクトルを逆フーリエ変換することにより、復調画像(=超解像画像)を取得する。
なお、これらステップの少なくとも2つは、1つの演算式によって一括で実行されてもよい。
[2D/3D切り替え]
以下、上述した構造化照明顕微鏡装置の2D/3D切り替えについて説明する。
以下、上述した構造化照明顕微鏡装置の2D/3D切り替えについて説明する。
上述した説明では、標本2へ投影する干渉縞を2光束干渉縞とした(すなわち、構造化照明顕微鏡装置1を2D-SIMモードで使用する例を説明した)が、標本2へ投影する干渉縞を3光束干渉縞とすること(すなわち、構造化照明顕微鏡装置1を3D-SIMモードで使用すること)も可能である。
この3D-SIMモードでは、図6に示した光束選択部材20の代わりに、図8に示すような光束選択部材20’が使用される。この光束選択部材20’は、図6に示した光束選択部材20において、0次回折光束を通過するための開口部20Eを設けたものである。なお、この開口部20Eの形成先は、光軸Oの近傍であって、この開口部20Eの形状は、例えば円形である。このような光束選択部材20’によると、±1次回折光束だけでなく0次回折光束をも干渉縞に寄与させることができる。
このように、3つの回折光束の干渉(3光束干渉)によって生成される干渉縞は、標本2の表面方向だけでなく、標本2の深さ方向にも空間変調されている。よって、この干渉縞によると、標本2の深さ方向にも超解像効果を得ることができる。
但し、2D-SIMモードと3D-SIMモードとの間では、画像記憶・演算装置44が実行すべき復調演算の内容が異なる。なぜなら、2D-SIMモードで生成される変調画像には、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分の3成分が重畳されているのに対して、3D-SIMモードで生成される変調画像には、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の-1次変調成分、蛍光の+2次変調成分、蛍光の-2次変調成分の5成分が重畳されているからである。
また、2D-SIMモードと3D-SIMモードとの間では、変調画像に重畳する変調成分の数が異なるので、制御装置43が取得すべき変調画像のフレーム数なども異なる。以下、詳しく説明する。
[装置の補足]
なお、上述した装置では、干渉縞の位相をシフトさせるために回折格子をシフトさせたが、回折格子をシフトさせる代わりに、±1次回折光束の光路長差を変化させてもよい。その場合は、例えば、+1次回折光束の光路と-1次回折光束の光路との少なくとも一方に対して位相板を挿脱させてもよい。
なお、上述した装置では、干渉縞の位相をシフトさせるために回折格子をシフトさせたが、回折格子をシフトさせる代わりに、±1次回折光束の光路長差を変化させてもよい。その場合は、例えば、+1次回折光束の光路と-1次回折光束の光路との少なくとも一方に対して位相板を挿脱させてもよい。
但し、位相板の厚さと位相シフト量との関係は、使用波長によって異なるので、厚さの異なる複数の位相板をターレットに装着し、それらの位相板を使用波長に応じて選択的に光路へ挿入してもよい。
また、後述する無変調画像の撮像時には、偏光方向がどの方向に設定されても構わないし、撮像中に偏光方向が変化しても構わない。
また、上述した装置では、光源波長の数を1としたが、2以上に拡張してもよい。
また、上述した装置では、標本に入射する±1次回折光束をS偏光に保つために、光軸Oの周りを回動可能な1/2波長板を使用したが、固定配置された1/4波長板と光軸Oの周りを回動可能な1/4波長板とを使用してもよい。但し、その場合は、第1の基準位置を基準とした1/4波長板の回転位置は、第2の基準位置を基準とした光束選択部材の回転位置と同じに設定される。
また、上述した装置では、干渉縞(2D-SIMモードの2光束干渉縞又は3D-SIMモードの3光束干渉縞)を形成するための回折光として、±1次回折光及び0次回折光の組み合わせを用いたが、他の組み合わせを用いてもよい。3光束干渉縞を形成するためには、回折次数の間隔が等間隔な3つの回折光による3光束干渉を生起させればよいので、例えば、0次回折光、1次回折光、2次回折光の組み合わせ、±2次回折光及び0次回折光の組み合わせ、±3次回折光及び0次回折光の組み合わせ、などを用いることが可能である。
また、上述した装置の照明光学系10は、対物レンズ31による落射照明光学系で構成されたが、これに限られず、対物レンズ31に代えてコンデンサレンズによる透過・反射照明光学系で構成されてもよい。その場合、集光点が形成されるのは、コンデンサレンズの瞳面である。
[第1.1節(2D-SIMの前提)]
本節では、2D-SIMの前提を説明する。
本節では、2D-SIMの前提を説明する。
ここでは、2D-SIMモードにおける干渉縞強度分布を、以下のとおり定義する。
標本の蛍光物質密度をI0(x)とし、標本面上の干渉縞強度分布をK(x)とおく。また、標本で発生する蛍光が照明強度に比例すると仮定する。この場合、蛍光強度分布Ifl(x) は、以下のとおり表される。
また、標本の各点で発生した蛍光はインコヒーレントなので、この蛍光強度分布Ifl(x)を対物レンズで捉えた像、すなわち、変調画像I(x)は、インコヒーレント結像の式により、以下のとおり表される。
以下、各関数のFourier 変換を以下のとおり表す。
この場合、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
OTFは|ξ|>2NAでゼロとなるので、変調画像の空間周波数スペクトルも|ξ|>2NAでゼロとなる。なお、ここでは、以下の関係を用いた。
また、フーリエ空間上の蛍光強度分布は、以下のとおり表される。
以下、復調演算の説明に必要の無い係数を無視する。
[第1.2節(従来の2D-SIM)]
本節では、比較のため、従来の2D-SIMの復調演算を説明する。
本節では、比較のため、従来の2D-SIMの復調演算を説明する。
先ず、2D-SIMの干渉縞強度分布は、以下のとおり表される(縞は正弦波状の強度分布を有する)。
但し、ξ0は、干渉縞の空間周波数(変調周波数)である。
よって、フーリエ空間上の干渉縞強度は、以下のとおり表される。
なお、ξは、フーリエ空間上の座標である。
この式1.6と、式1.3、式1.4とによると、フーリエ空間上の変調画像は、以下のとおり表されることがわかる。
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、干渉縞の位相がφiであるときに取得された変調画像には、対応する添字「φi」を付す。
ここで、前述したとおり、2D-SIMで取得される変調画像のスペクトルの観測点ξには、蛍光の-1次変調成分、蛍光の+1次変調成分、蛍光の0次変調成分の3成分が重畳している。式1.7の右辺における3つの項がこれらの各変調成分に対応する。つまり、正弦波の強度分布を有する縞で標本(蛍光)を空間変調したので、変調画像のスペクトルは、蛍光の3つの変調成分(0次変調成分、±1次変調成分)で表現することができる。観測点ξに重畳された+1次変調成分は、復調画像のスペクトルにおける復元点(ξ-ξ0)が有するべき値(復元値)であり、観測点ξに重畳された-1次変調成分は、復調画像のスペクトルにおける復元点(ξ+ξ0)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。このことは、変調画像のスペクトルの各観測点について当てはまる。図9における大きな1つの黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな2つの黒点は、その観測点から復元される3つの復元点に対応している。
そこで、従来の2D-SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された3つの変調成分を互いに分離するために、縞の位相の異なる3つの変調画像を取得し、それらの変調画像の各々のスペクトルを生成し、それらのスペクトルを3つの式(以下の式1.8、式1.9、式1.10)へ当てはめることで、3つの方程式を取得していた。従来は、この3つの方程式を解くことで、図9における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
因みに、簡単のため、τ=OTF(ξ) と書くと、式1.8、式1.9、式1.10は、以下のとおりに書き換えることができる。
なお、この式の行列(以下、Mとおく)の行列式がゼロでなければ、3つの変調画像のスペクトルにおける或る観測点の3つの観測値(左辺)から、その観測点に対応する3つの復元点の復元値(右辺)を求めることができる。
ここで、従来の2D-SIMにおける縞の空間周波数(変調周波数)ξ0は、|ξ0|<2NAが成り立つように設定され、通常解像領域|ξ|<2NAから得られる観測値によって、|ξ±ξ0|>2NAとなる復元点の復元値を求めることができる。よって、従来の2D-SIMでは、通常解像領域外(超解像領域)の復元値を復元すること、つまり復調画像として超解像画像を得ることができる。
なお、上記の行列Mは、ξに依存しない。すなわち、フーリエ空間上の座標(=空間周波数)に依存しない。そこで、位相φiをパラメータとして行列Mの条件数をプロットすると、図10 のとおりとなった。
図10は、行列Mの条件数の逆数の分布である。但し、ここでは、第1の変調画像の位相φ1=0°とおき、第2の変調画像の位相φ2及び第3の変調画像の位相φ3を変数とした。図10の横軸がφ2であり、図10の縦軸がφ3である。
図10からは、φ2=120°、φ3=240°のとき、条件数の逆数が最大値0.5となり、最も条件が良いことがわかる。このため、従来の2D-SIMでは、3フレーム間の位相差を、120°に設定することが一般的であった。
[第1.3節(2D-SIMの2画像2点復元)]
本節では、本実施形態の2D-SIMの復調演算として、「2画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、本実施形態の2D-SIMの復調演算として、「2画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、2D-SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)には、互いに値の共通する変調成分が重畳されていることに着目する。
具体的には、観測点ξに重畳した蛍光の-1次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ0)の復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、何れも復元点ξの復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ0)には、互いに共通する2つの復元点ξ、(ξ+ξ0)の復元値が含まれている。本節の2画像2点復元では、この関係を利用する。以下、具体的に説明する。
先ず、干渉縞強度分布を従来の2D-SIMと同様に仮定すると、対物レンズのNAにより、変調画像のスペクトルの観測範囲は、|ξ|<2NAで表される。
本節の縞の空間周波数(変調周波数)ξ0は、|ξ0|<2NAが成り立つように設定される。なお、縞の空間周波数(変調周波数)ξ0は回折格子16の格子ピッチ(標本上に形成される縞ピッチ)により設定される。
この場合、1枚の変調画像のスペクトルから、ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)の観測値を得ることができる。ただし、(ξ+ξ0)の観測値を得ることができるのは、ξが|ξ+ξ0|<2NAを満たす範囲に限られる。
ここで、1枚の変調画像のスペクトルにおける、観測点ξの観測値と、観測点(ξ+ξ0)の観測値とは、以下の式で表される。
これらの式1.12、式1.13の右辺には、4つの復元点の復元値(未知数)が登場している。これら4つの復元値を既知とするためには、更に2つの式が必要である。
そこで、本節では、互いに位相φの異なる2枚の変調画像の各々のスペクトルを生成し、それら2つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ0)に関する合計4つの観測値を参照し、それら4つの観測値を、式1.12、式1.13へ当てはめることにより、4つの復元値(未知数)を含んだ合計4つの式を取得する。
ここで、簡単のため、τ1 =OTF(ξ)、τ2=OTF(ξ+ξ0)とおき、第1の変調画像の位相φをφ1とおき、第2の変調画像の位相φをφ2とおくと、4つの式は、次のような行列で表わされる。
よって、本節では、この行列(以下Mとおく)の行列式がゼロでなければ、2枚の変調画像のスペクトルにおける4つの観測値(左辺)から、4つの復元値(右辺)を求めることができる。
ここで、図11における2つの円枠のうち、内側の円枠は、通常解像範囲の外縁(|ξ|=2NA)である。また、外側の円枠は、超解像範囲の外縁(|ξ|=4NA)である。
図11における2つの大きな黒点は、縞の空間周波数(変調周波数)ξ0の分だけずれた或る2つの観測点を示しており、図11における2つの大きな黒点及び2つの小さな黒点は、それら2つの観測点から復元される4つの復元点を示している。
本節では、干渉縞の位相の異なる2枚分の変調画像のスペクトルが取得されるので、それら2つのスペクトルの各々における2つの観測点から、合計4つの観測値が取得される。そして、これら4つの観測値を上述した式1.14へ当てはめることで、4つの復元点の各々の復元値を求める。
そして、本節では、2つの観測点を通常解像範囲内で移動させながら、4つの復元値の算出を繰り返すことで、図11における塗りつぶし領域全域の復元値を求める。
したがって、本節では、取得される変調画像の枚数(生成されるスペクトルの数)が2のみであるにも拘わらず、通常解像範囲の少なくとも一部の復元値と、超解像範囲の少なくとも一部の復元値とを求めることができる。
[第1.3.1節(復元可能条件)]
本節では、第1.3節の復調演算に必要な条件を説明する。
本節では、第1.3節の復調演算に必要な条件を説明する。
上述した式1.14が一意的な解を持つためには、行列Mの行列式がゼロ以外の値をとればよい。ここで、行列Mの行列式は、以下のとおり表される。
したがって、第1の変調画像の位相φ1と、第2の変調画像の位相φ2との位相差Δφが、Δφ≠0でありさえすれば、detM≠0となり、式1.14は一意的な解を持つ。以上の結果、第1.3節の復調演算に必要な条件は、Δφ≠0であることがわかる。
[第1.3.4節(Δφ=πの特徴)]
本節では、Δφ=πの特徴を説明する。
本節では、Δφ=πの特徴を説明する。
Δφ=πのときには、以下の式が成り立つ。
この場合、
に掛かる位相が等しくなるので、I0(ξ)については簡単に解けて、
となる。したがって、Δφ=πとすれば、通常解像領域において復元できない領域を無くすことができる。
図12(A)の塗りつぶし領域は、Δφ≠πのときに復元可能な範囲であるのに対して、図12(B)の塗りつぶし領域は、Δφ=πのときに復元可能な範囲である(何れも、|ξ0|=2NAの場合。)。図12における2つの円のうち、内側の円は、通常解像範囲の外縁(|ξ|=2NA)であり、外側の円は、超解像範囲の外縁(|ξ|=4NA)である。
なお、ここでは干渉縞の方向数を1と仮定したが、干渉縞の方向数を3とし、各方向について第1.3節と同様の復調演算を適用したならば、図13に示すような広い領域を復元することができる。
[第1.4節(2D-SIMのTwo-pass 復元)]
本節では、本実施形態の2D-SIMの復調演算として、「Two-pass 復元」を説明する。Two-pass 復元では、干渉縞の方向数は2に設定される。
本節では、本実施形態の2D-SIMの復調演算として、「Two-pass 復元」を説明する。Two-pass 復元では、干渉縞の方向数は2に設定される。
以下、互いに方向及び周期(ピッチ)の異なる複数の干渉縞を区別するために、個々の干渉縞を波数ベクトルで表す。この波数ベクトルの大きさは、干渉縞の空間周波数の大きさを示し、波数ベクトルの方向は、干渉縞の方向を示す。
本節では、以下の4つのステップが実行される。
第1ステップ:波数ベクトルがξ0であり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図14(A)に示す領域の復元値を求める。
第2ステップ:波数ベクトルがξ1であり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図14(B)に示す領域の復元値を求める。
第3ステップ:以上のステップで求めた復元値と、以下の式とに基づき、図15(A)に示す領域の復元値を求める。
すなわち、以上のステップで求めた復元値、すなわち、
を式1.26へ当てはめることで、図15(A)に示す領域の復元値を求める。なお、式1.26は、式1.24と式1.25とを、
について解いた式である。
ただし、本ステップを可能とするために、少なくとも第2ステップでは、Δφ≠πn(n は整数)とする。
第4ステップ:第2ステップで求めた通常解像範囲の復元値(=図14(B)の塗りつぶし領域のうち|ξ|<2NAの部分)に基づき同様に、図15(B)に示す領域の復元値を求める。
ただし、本ステップを可能とするために、第1ステップでは、Δφ≠πn(n は整数)とする。
第1ステップと第3ステップをまとめて、図16(B)のように表すこともできる。すなわち、図16(B)の横線において横方向に連なる4つの黒点は、第1ステップで解く式1.14と同等の連立方程式から求まる4つの復元値(未知数)のフーリエ空間(波数空間)における位置を表している。
図16(B)にある2本の縦線の各々において、縦方向に連なる3つの黒点のうち、中央の大きい黒点は、第1ステップの式から求まる1つの既知数のフーリエ空間(波数空間)における位置を示しており、両端の小さな黒点は、第3ステップで解く連立方程式1.26の2つの復元値(未知数)のフーリエ空間(波数空間)における位置を示している。
これらの8つの黒点の相互の位置関係は、どの例を選んでも同一である。フーリエ空間(波数空間)において黒点の取りうる位置の範囲は、フーリエ空間(波数空間)において2つの大きな黒点(中央)の取りうる位置の範囲によって制限される。2つの大きな黒点が取りうる位置の範囲は|ξ|<2NAであるので、第1ステップ及び第3ステップの計算によって求めることができる復元値(未知数)の位置の範囲は、図16(B)の塗りつぶし領域の範囲となる。
なお、図16(A)は、第2ステップ及び第4ステップを、図16(B)と同様に示したものである。
したがって、本節では、図17に示す塗りつぶし領域の全域を復元することができる。
[第1.5節(2D-SIMの超解像の例)]
本節では、前節までの結果を踏まえ、超解像の例を2つ説明する。
本節では、前節までの結果を踏まえ、超解像の例を2つ説明する。
先ず、第1の例では、変調画像の枚数(スペクトルの数)を抑えることを重視し、Two-pass 復元を行う。そのために、第1の例では、波数ベクトルの方向数を2とし、互いに異なる2つの波数ベクトルξ1、ξ2の各々で、位相の異なる2枚の変調画像を取得し(合計4枚の変調画像を取得し)、それら4枚の変調画像の各々のスペクトルを生成する(合計4つのスペクトルを生成する)。そして、Two-pass 復元を可能とするため、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ≠πに設定する。また、波数ベクトルの大きさ|ξi|を、|ξi|=2NAに設定する(i=1、2)。この場合、図17に示す塗りつぶし領域が復元される。
次に、第2の例では、演算精度を重視し、Two-pass 復元ではなく「2画像2点復元」を行う。そのために、第2の例では、波数ベクトルの方向数を3とし、互いに異なる3つの波数ベクトルξ1、ξ2、ξ3の各々で、位相の異なる2枚の変調画像を取得し(合計6枚の変調画像を取得し)、それら6枚の変調画像の各々のスペクトルを生成する(合計6つのスペクトルを生成する)。そして、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πとする。また、復元領域に隙間が生じるのを避けるために、|ξi|を2NAより意図的に小さくする。具体的には、復元領域に隙間が生じない範囲内で|ξi|を最大にするために、波数ベクトルの大きさ|ξi|を、|ξi| =(√3)×NAに設定する(i=1、2)。この場合、図18に示す領域が復元される。
[第1.6節(2D-SIMの4画像3点復元)]
本節では、本実施形態の2D-SIMの復調演算として、2D-SIMの「4画像3点復元」を説明する。
本節では、本実施形態の2D-SIMの復調演算として、2D-SIMの「4画像3点復元」を説明する。
本節では、波数ベクトルの方向数を3とする(3つの波数ベクトルξ1、ξ2、ξ3の各々で変調画像を取得し、それら変調画像の各々のスペクトルを生成する。)。
また、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)に設定する。
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ1)では、位相数を2とする(縞方向が同じであり位相の異なる2枚の変調画像I(0)、I(1)を得る)が、他の2つの方向(波数ベクトルξ2、ξ3)の各々では、位相数を1に抑える(縞方向の異なる2枚の変調画像I(2)、I(3)を得る)。
また、縞方向が同じである2枚の変調画像間の位相差Δφは、Δφ=πに設定する。
また、本節では、個々の波数ベクトルの大きさを、|ξi| =2NAに設定する(i=1、2、3)。
このとき、4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々の干渉縞強度分布は、
と表される。
ここで、これら4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおいて、3つの波数ベクトルξ1、ξ2、ξ3が描く三角形を想定し、その三角形の頂点(大きな黒点)に位置する3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)に着目する。
本節で取得した4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおける3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)からは、合計12個の観測値が得られるので、それら12個の観測値に対応する式1.7相当の式を、12個分、取得することができる。本節では、これら12式からなる連立方程式を解くために、以下の条件が必要となる。
図19は、計算の図解である。ただし、|ξ1|=|ξ2|、ξ1・ξ2=|ξ1||ξ2|/2とした。
図19(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3によって描かれる三角形の頂点に位置する3つの観測点を示しており、図19(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返すことで、図19(A)に示す塗りつぶし領域全域の復元値を求める。
なお、図19(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図19(A)の復元と、図19(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図20に示した塗りつぶし領域の全域を復元する。
図20は、図19(A)に示した復元領域と、図19(B)に示した復元領域と合成したものである。
以下、本節で述べた12式から成る連立方程式を解く計算の一例を詳しく説明する。
図21は、本節の計算を3つのステップに分けて説明した図である。
図21(A)は、第1ステップで復元される4つの復元点1~4を示している。
図21(B)は、第2ステップで復元される4つの復元点5~8を示している。
図21(C)は、第3ステップで復元される4つの復元点9~12を示している
図21(D)は、図中の番号1~12と復元値との対応関係を示している。
図21(D)は、図中の番号1~12と復元値との対応関係を示している。
第1ステップ:波数ベクトルξ1の方向に間隔|ξ1|で並ぶ2つの観測点1、2に関する4つの観測値を、2画像2点復元の式へ当てはめることにより、復元点1、2、3、4の各々の復元値を求める。
第2ステップ:復元点1、2の各々の復元値を使用して、それら復元点1、2から波数ベクトルξ2、ξ3の分だけずれた4つの復元点5、6、7、8 の各々の復元値を求める。この際に使用される式は、波数ベクトルξ1の方向に関する2つの式(2位相分)と、波数ベクトルξ2の方向に関する1つの式と、波数ベクトルξ3の方向に関する1つの式と、の合計4つの式である。
第3ステップ:復元点1、2、5の各々の復元値を使用して、それら復元点1、2、5から波数ベクトルξ2、ξ3の分だけずれた残りの復元点9、10、11、12の各々の復元値を求める。この際に使用される式は、波数ベクトルξ2の方向に関する2つの式(観測点2つ分)と、波数ベクトルξ3の方向に関する2つの式(観測点2つ分)と、の合計4つの式である。
もちろん、本節で述べた12式から成る連立方程式の解法は、上記の手順に限られるものではない。
[第1.7節(2D-SIMの4画像3点復元の変形例)]
本節では、4画像3点復元の変形例を説明する。
本節では、4画像3点復元の変形例を説明する。
本節では、3つの方向の全ての位相数を1に抑え、その代わりに、1枚の無変調画像を取得し、その無変調画像のスペクトルを生成する。
無変調画像は、K(0)=1で取得された画像のことであって、例えば上述した回折格子16及び光束選択部18を光路から外した状態で取得することができる。また、無変調画像のスペクトルは、その無変調画像をフーリエ変換したものである。
上記したとおり本節において変調画像の枚数(変調画像のスペクトルの数)は3、無変調画像の枚数(無変調画像のスペクトルの数)は1であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式(変調画像のスペクトルに関する式1.7を9つと、無変調画像のスペクトルに関する式1.53を3つと)を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
なお、本節では、以下の条件が必要となる。
[第1.9節(2D-SIMの同時3方向4画像3点復元)]
本節では、4画像3点復元の変形例として、「同時3方向4画像3点復元」を説明する。
本節では、4画像3点復元の変形例として、「同時3方向4画像3点復元」を説明する。
先ず、本節では、標本へ投影する干渉縞は、以下のとおり方向の異なる3つの干渉縞の足しあわせ(3方向干渉縞)とされる。なお、3方向干渉縞の投影方法は後述する。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を同時に有する3方向干渉縞を採用し、この3方向干渉縞で、位相の互いに異なる4枚の変調画像を取得し、それら4枚の変調画像の各々のスペクトルを生成する。
ただし、|ξi|≦2NAとし(i=1、2、3)、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)とする。
また、3方向干渉縞の振幅を規定するaの値は、以下の式を満たすように選択されるものとする。
先ず、本節で取得された或る1枚の変調画像のスペクトルにおける或る観測点ξには、復調画像のスペクトルにおける復元点ξに与えるべき復元値と、復調画像のスペクトルにおける復元点(ξ±ξi)に与えるべき復元値(i=1、2、3)と、の合計7つの復元点の復元値が重畳されている。
言い換えると、変調画像のスペクトルにおける或る観測点ξには、蛍光の0次変調成分と、波数ベクトルξ1による蛍光の±1次変調成分と、波数ベクトルξ2による蛍光の±1次変調成分と、波数ベクトルξ3による蛍光の±1次変調成分と、の合計7成分が重畳されている。
ここで、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3が描く三角形を想定し、その三角形の頂点に位置する3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)に着目する。
これら3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)の全体には、12個の復元点の復元値が含まれている。
図22は、その図解である。ただし、|ξ1|=|ξ2|、ξ1・ξ2=|ξ1||ξ2|/2とした。
図22(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3によって描かれる三角形の頂点に位置する3つの観測点を示しており、図22(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことにより、12個の復元点の復元値が個別に求まる。
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返せば、図22(A)に示す塗りつぶし領域全域の復元値を求める。
なお、図22(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図22(A)の復元と、図22(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図20に示した塗りつぶし領域と同じ領域を復元する。
ここで、4枚の変調画像I(1)、I(2)、I(3)、I(4)の各々に反映されている3方向干渉縞の位相(3成分からなる)は、例えば、
すなわち、4枚の変調画像I(1)、I(2)、I(3)、I(4)の各々における干渉縞強度分布は、以下のとおり。
因みに、4枚の変調画像における干渉縞強度分布の和は、以下の通りである。
つまり、このような干渉強度分布及び位相の組み合わせの下で4枚の変調画像を取得したならば、標本の各部が互いに等しい光量で照明されることになる。4枚の変調画像間で、3方向干渉縞のパターンは共通、かつ、パターンの位置のみがシフトした関係になっている。よって、次の関係が成り立つ。
ただし、a1、a2は、干渉縞の周期構造を結晶格子に見立てたときの格子の基本ベクトルであって、逆格子ベクトル(波数ベクトル)kiを、k1=(2π/λ)ξ1、k2=(2π/λ)ξ2、k3=eZとおくと(eZ:z方向の単位ベクトル)、以下の式で与えられる。
図23は、3方向干渉縞の格子構造と、格子の基本ベクトルa1、a2との関係を示す図である。
図24は、4枚の変調画像の間における干渉縞強度分布の関係を示す図である。
図24に示すとおり、4枚の変調画像の間では、格子パターンが互いに重ならないように平行移動している。また、その移動量の単位は、格子の基本ベクトルの半分となっている。
[第1.9.2節(3方向干渉縞の投影方法)]
ここで、3方向干渉縞の投影方法を説明する。
ここで、3方向干渉縞の投影方法を説明する。
3方向干渉縞を上述した構造化照明顕微鏡装置1で生起させる際には、他の干渉縞(1方向干渉縞)を生起させる場合と同様、上述した回折格子16(図2(A))を使用することができる。
但し、光束選択部材20の開口パターンは、回折格子16において生成する3群の回折光のうち、各群の0次回折光と各群の2次以降の高次回折光と各群の+1次回折光とをカットし、かつ、各群の-1次回折光のみを透過するように設定される。これによって、瞳面上に形成される集光点は、3つの-1次回折光による集光点のみとなる。図25(A)は、光束選択部材20によって余分な回折光がカットされなかった場合の集光点の配置を示しており、図25(B)は、光束選択部材20によって余分な回折光がカットされた場合の集光点の配置を示している。この場合、120°ずつずれた位置に3つの集光点が形成される。これら3つの集光点から射出した3つの回折光(ここでは3つの-1次回折光)は、3方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。なお、ここでは、干渉縞に寄与する回折光を3つの-1次回折光としたが、3つの+1次回折光としてもよいことは言うまでもない。
但し、この場合、3方向干渉縞として、3通りの2光束干渉縞の重ね合わせではなく、3光束干渉縞が生起してしまうので、超解像効果が低くなってしまう。また、±1次回折光の一方をカットするので、レーザ光の利用効率が低くなってしまう。
そこで、次のとおりにしてもよい。すなわち、独立した3つのレーザ光源A、B、Cを用意し、レーザ光源Aから射出したレーザ光、レーザ光源Bから射出したレーザ光、レーザ光源Cから射出したレーザ光の各々を、2分岐ファイバで分岐し、6つの点光源a、a’、b、b’、c、c’を形成する。なお、点光源a、a’は、レーザ光源Aから生成された可干渉な光源であり、点光源b、b’は、レーザ光源Bから生成された可干渉な光源であり、点光源c、c’は、レーザ光源Cから生成された可干渉な光源である。そして、ファイバを適切に配線することにより、それら6つの点光源a、a’、b、b’、c、c’を、図26に示すような位置関係で瞳共役面へ配置する。つまり、点光源a、a’の配列方向と、点光源b、b’の配列方向と、点光源c、c’の配列方向とは、120°ずつ異なる互いに異なる方向に設定される。これら6つの点光源から射出した6つのレーザ光は、6方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。
ここで、点光源a、a’から射出したレーザ光La、La’と、点光源b、b’から射出したレーザ光Lb、Lb’と 、点光源c、c’から射出したレーザ光Lc、Lc’とは、互いに干渉しない。したがって、標本上に形成される干渉縞は、3通りの2光束干渉縞の重ね合わせとなる。よって、超解像効果が低くなることはなく、レーザ光の利用効率も高い。
なお、このように、光の分岐手段として回折格子16の代わりに2分岐ファイバが使用された場合は、3方向干渉縞の位相(3成分からなる)を変化させるために、回折格子16を並進移動させる代わりに、レーザ光La、a’の位相差と、レーザ光Lb、Lb’の位相差と、レーザ光Lc、Lcの位相差とをそれぞれ変化させればよい。
[第2.1節(3D-SIMの前提)]
本節では、3D-SIMの復調演算の前提を説明する。
本節では、3D-SIMの復調演算の前提を説明する。
ここでは、3D-SIMにおける干渉縞強度分布を、以下のとおり仮定する。
3光束干渉の波長をλとおくと、3D-SIMにおける干渉縞強度分布K(r) は、以下のとおり表される。
ただし、k0= 2π/λ、j=-1、0、+1として、ベクトルkjを以下の通り定義する。
ここで、ξ0・eZ=0とした。
簡単のため、a0=1、a+=a=|a|eiφ、a-=a*=|a|e-iφと仮定すると、
となるので、干渉縞強度分布Kは、以下のとおり表される。縞は、正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)と、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)とが重畳したものからなる。
ここで、ζ0=√[1-ξ0
2]-1とおくと、
と表せる。これを、zに依存する成分とxに依存する成分とに分離して、
とおく。ただし、
となる。ただし、J-1=J1
*、J-2=J2
*とする。
さて、標本の蛍光物質密度をI0(x)とし、以上の干渉縞強度分布Kの干渉縞を標本へ投影したときに、標本の蛍光強度分布は、I0(r)K(r)で表されると仮定し、標本の各点で発生した蛍光は他の点の蛍光物質を励起しないという近似(Born 近似)を採用する。
このとき、3D-SIMモードで取得される変調画像I(x、z)は、次のように表される。
すなわち、
ここで、干渉縞のz方向(光軸O方向)の起点を、観測点のz座標(z’)が常に中心となるように設定したならば、
3次元OTFを、
とおくと、
そして、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
これを書き下すと、以下のとおりとなる。
ただし、第一項の係数が1 となるように、
とした。なお、a、b、cは、3D-SIMの干渉縞に寄与する3光束(±1次回折光及び0次回折光)の強度バランスによって決まる値である。
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、以下では、この式に現れるφを「位相」と称す。
[第2.2節(従来の3D-SIM)]
本節では、比較のため、従来の3D-SIMの復調演算を説明する。
本節では、比較のため、従来の3D-SIMの復調演算を説明する。
先ず、3D-SIMモードで取得される変調画像のスペクトルにおける観測点ξには、蛍光の-1次変調成分、蛍光の+1次変調成分、蛍光の+2次変調成分、蛍光の+2次変調成分、蛍光の0次変調成分の5成分が重畳されている。観測点ξに重畳された±1次変調成分は、復調画像のスペクトルにおける復元点(ξ±ξ0)が有するべき値(復元値)であり、観測点ξに重畳された±2次変調成分は、復調画像のスペクトルにおける復元点(ξ±2ξ0)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。
つまり、観測点ξに重畳された±1次変調成分は、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)によって変調された成分であり、観測点ξに重畳された±2次変調成分は正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)によって変調された成分である。
このことは、変調画像のスペクトルの各観測点について当てはまる。図27における大きな黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな4つの黒点は、その観測点から復元される5つの復元点に対応している。
つまり、観測点ξに重畳された±1次変調成分は、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)によって変調された成分であり、観測点ξに重畳された±2次変調成分は正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)によって変調された成分である。
このことは、変調画像のスペクトルの各観測点について当てはまる。図27における大きな黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな4つの黒点は、その観測点から復元される5つの復元点に対応している。
そこで、従来の3D-SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された5つの変調成分を互いに分離するために、位相の異なる5枚の変調画像を取得し、それらの変調画像の各々のスペクトルを生成していた。従来は、これらのスペクトルが満たす5つの方程式を連立させて解くことで、図27における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
[第2.4節(3D-SIMの9画像2点復元)]
本節では、本実施形態の3D-SIMの復調演算として、「9画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、本実施形態の3D-SIMの復調演算として、「9画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
本節では、3D-SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)には、互いに値の共通する変調成分が重畳されていることに着目する。
具体的には、観測点ξに重畳した蛍光の-1次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ0)の復元値に相当し、観測点ξに重畳した蛍光の-2次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の-1変調成分とは、何れも復元点(ξ+2ξ0)の復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、復元点ξの復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+2次変調成分と、観測点ξに重畳した蛍光の1次変調成分とは、何れも(ξ-ξ0)の復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ0)には、互いに共通する4つの復元点(ξ-ξ0)、ξ、(ξ+ξ0)、(ξ+2ξ0)の復元値が含まれている。
本節の9画像2点復元では、この関係を利用する。以下、具体的に説明する。
1枚の変調画像のスペクトルにおいて、観測点ξの観測値と、観測点(ξ+ξ0)の観測値とは、以下の式で表される。
そこで、本節では、同一の波数ベクトルξ0で互いに位相φの異なる3枚の変調画像を取得し、それら3枚の変調画像の各々のスペクトルを生成し、それら3つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ0)に関する合計6個の観測値を参照し、それら6つの観測値を、これらの式へ当てはめることにより、6個の復元値(未知数)を含んだ合計6個の式を取得する。
図28は、本節の3D-SIMの復調画像の周波数域を示す図である。図28(A)はxy断面、図28(B)は、zx断面である。
図28における大きな黒点は、ξ0だけずれた或る2つの観測点ξ、(ξ+ξ0)を示しており、図28における2つの大きな黒点及び4つの小さな黒点は、それらの観測点ξ、(ξ+ξ0)から復元される復元点(合計6つの復元点)を示している。
以上の説明は、或る波数ベクトル(1方向)に関する復元の説明である。
よって、本節では、互いに方向の異なる3つの波数ベクトルの各々で位相の異なる3枚の変調画像を取得し、それら変調画像の各々のスペクトルを生成し、それらのスペクトルに対して方向毎に上記と同様の復元処理を施す。これによって、周波数範囲の広い復調画像を得ることができる。
なお、本節では、同一の波数ベクトルで取得される3枚の変調画像間の位相差Δφは、2π/3に設定されることが望ましい。
[第2.5節(3D-SIMの7画像3点復元)]
本節では、3D-SIMの7画像3点復元を説明する。本節は、無変調画像のスペクトルを利用した第1.7節を3D-SIMに応用したものである。
本節では、3D-SIMの7画像3点復元を説明する。本節は、無変調画像のスペクトルを利用した第1.7節を3D-SIMに応用したものである。
先ず、本節では、方向数(波数ベクトルの数)を3とする。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)にし、かつ、1枚の無変調画像を取得する代わりに、3つの方向の各々の位相数を、1ずつ抑える(2ずつとする。)。
また、本節では、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定する。
また、ここでは3つの波数ベクトルの番号をk(k=1、2、3) とおき、k番目の波数ベクトルで取得された、互いに位相の異なる2枚の変調画像を、以下の通り表す。
また、無変調画像を、I(0)と表す。
式2.23より、以下の式が成り立つ。
ただし、±1次変調成分と±2次変調成分とをそれぞれまとめて、次のように表した。
また、τ0=OTF0(ξ,ζ)、τ0’=OTF1(ξ,ζ)とおいた。
ここで、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定したので、式2.35より、以下の式が成り立つ。
よって、式2.34より、以下の式が得られる。
なお、簡単のため、右辺では添字φkを省略した。
また、0次変調成分(通常解像成分)は、次のように表せる。
以上の式2.39、式2.40、式2.41をまとめて行列で書くと、以下のとおりである。
そこで、本節では、先ず、7枚分の変調画像の各々のスペクトルにおける観測点ξに関する7つの観測値を式2.42へ当てはめることで、式2.42の右辺における7つの復元値、すなわち以下の復元値(±1次変調成分と±2次変調成分および0次変調成分)をそれぞれ求める。
ここからの先の計算は、第1.7節の計算と同様である。すなわち、スペクトル
において、3つの波数ベクトルξk(k=1,2,3)の分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+1次変調成分と-1次変調成分とを分離することができる。
また、スペクトル
において、3つの波数ベクトルの2倍分2ξk(k=1,2,3)だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+2次変調成分と-2次変調成分とを分離することができる。
[第2.6節(3D-SIMの12画像3点復元)]
本節では、画像の枚数(スペクトルの数)の削減よりも演算精度の維持を目的として、方向数(波数ベクトルの数)を3とし、各方向の位相数を4とすることで、合計12枚の変調画像を取得する(合計12個のスペクトルを生成する)。
本節では、画像の枚数(スペクトルの数)の削減よりも演算精度の維持を目的として、方向数(波数ベクトルの数)を3とし、各方向の位相数を4とすることで、合計12枚の変調画像を取得する(合計12個のスペクトルを生成する)。
また、本節では、同一の波数ベクトルで取得される4枚の変調画像間の位相差Δφを、Δφ=π/2に設定する。
また、ここでは方向番号をk(k=1、2、3) とおき、位相番号をl(l=0、1、2、3)とおく。
先ず、±1次変調成分は、式2.35より、
また、±2次変調成分は、式2.36より、
と表される。そして、
が成り立つ。
よって、本節の復調演算を行列で書くと、
となる。
したがって、本節では、12枚の変調画像のスペクトル(12のスペクトル)の観測値をこの式へ当てはめることにより、0次変調成分と±1次変調成分とを分離する。
そして、残る±2次変調成分については、第1.7節と同様の手順で分離する。
このように、本節では、第2.5節の手順を踏まずに±1次変調成分を分離することができるので、高いセクショニング効果が期待できる。
[第2.7節(3D-SIMの8画像3点復元)]
なお、上述した第1.6節を以下の通り3D-SIMに応用してもよい。
なお、上述した第1.6節を以下の通り3D-SIMに応用してもよい。
本節では、方向数(波数ベクトルの数)を3とする。
また、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)に設定する。
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ1)については、位相数を4とするが、他の2つの方向の各々の位相数を2に抑える。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)にする代わりに、2つの方向の各々の変調画像数を、1ずつ抑える。よって、変調画像の合計数(スペクトルの合計数)は、8となる。
ただし、本節では、第1方向(k=1)の変調画像間の位相差は、Δφ=π/2、第2方向(k=2)の変調画像間の位相差は、Δφ=π、第3方向(k=3)の変調画像間の位相差は、Δφ=πに設定される。
このようにして取得された8枚の変調画像のスペクトルによると、各変調成分を分離することが可能である。すなわち、第1ステップにおいて、第1方向(k=1)に関する4枚の変調画像のスペクトルで0次変調成分を求めてから、第2ステップにおいて、±1次変調成分、±2次変調成分の分離を行えばよい。
なお、以上の説明では、波数ベクトルの数を3とし、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1-ξ2)に設定したが、これに限られることはなく、波数ベクトルの数を3以上としてもよい。例えば、波数ベクトルの数を5とし、5つの波数ベクトルを閉じた関係に設定してもよい。
[標本2を連続観察する実施形態]
以下、標本2を連続観察する実施形態を説明する。ここでは、2D-SIMの第1.6節、第1.7節、3D-SIMの第2.5節、第2.6節、第2.7節の何れかが適用された構造化照明顕微鏡装置において、標本2を連続観察するための制御装置43、画像記憶・演算装置44の動作を説明する。
以下、標本2を連続観察する実施形態を説明する。ここでは、2D-SIMの第1.6節、第1.7節、3D-SIMの第2.5節、第2.6節、第2.7節の何れかが適用された構造化照明顕微鏡装置において、標本2を連続観察するための制御装置43、画像記憶・演算装置44の動作を説明する。
なお、2D-SIMの第1.6節、第1.7節、3D-SIMの第2.5節、第2.6節、第2.7節の間では、上述した分離(=超解像画像の生成)に必要な画像の枚数や種類は異なるものの、基本的な動作は共通する。
先ず、本実施形態の制御装置43は、標本2を連続観察するために、超解像画像の生成に必要なM種類の画像を含むN枚(M≦N)の画像を順次に取得するという一連の処理を、繰り返す。以下、この一連の処理を、「ラウンド」と称す。つまり、第1ラウンドでN枚の画像を取得し、第2ラウンドで、さらにN枚の画像を取得し、第nラウンドで、さらにN枚の画像を取得する。
また、本実施形態の画像記憶・演算装置44は、標本2を連続観察するために、超解像画像の生成及び超解像画像の表示を繰り返す。超解像画像の生成及び超解像画像の表示は、次のとおり行われる。すなわち、画像記憶・演算装置44は、画像がL枚(L≦M)取得される度に最新となる連続P枚の画像セット(連続するP枚の画像で構成される画像セット)から、分離(復調)に必要なM種類の画像を選択して1枚の超解像画像を生成する処理を、画像セットごとに行う(M≦P≦N)。また、画像記憶・演算装置44は、生成した超解像画像を画像表示装置45へ生成順に表示する。これによって、画像表示装置45上の超解像画像が順次に更新され、標本2の連続観察が可能となる。
以下、標本2をリアルタイム観察するために、以上の画像の取得、超解像画像の生成、超解像画像の表示は、並行して行われるものとする。つまり、画像記憶・演算装置44は、画像がL枚(L≦M)取得される度に超解像画像の生成を行い、超解像画像を生成する度に超解像画像の表示を行うものとする。
ここで、超解像画像の更新に必要なM種類の画像には、干渉縞の写った画像(変調画像)が必ず含まれる。この変調画像の取得時には、標本2の照明強度が空間的に非一様となるので、標本2に退色ムラの起こる虞がある。
そこで、本実施形態の制御装置43は、1ラウンド内におけるN枚の画像の配列(なお、「配列」とは、順番を決めて並べること、又はその並びのことである。)を、以下の条件を満たすように設定する。
・均一条件:干渉縞の強度分布をN枚の画像間(実視野における画像間)で積算すると空間的に略一様(略同じ)になる。但し、画像取得時の条件(レーザパワー、レーザ照射時間、電荷蓄積時間の組み合わせで決まる)は、N枚の画像間で共通に設定される(なお、「略一様」とは、干渉縞の形成領域における強度積算値の空間的なばらつきが、強度積算値の空間平均値の1%以内に収まった状態のことを指す。)。
・更新条件:超解像画像の更新時(以下、単に「更新時」という。)に参照される最新P枚の画像からなる画像セットには、超解像画像の更新に必要なM種類の画像が必ず含まれる。
したがって、本実施形態によれば、ラウンド中に画像がL枚取得される度に超解像画像が更新され、かつ、ラウンドの開始から終了までの期間に標本2の退色ムラが解消されるので、そのラウンドを何回繰り返したとしても退色ムラが悪化することは無い。
なお、本実施形態では、更新時に参照される画像セット(更新に必要なM種類の画像を選択するために、候補となるP枚の画像から構成される画像セットであって、以下、「参照される画像セット」或いは単に「画像セット」という。)を構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しくてもよい。つまり、超解像画像の更新は、常に最新M枚の画像セットで行われてもよい。
また、本実施形態では、超解像画像の更新頻度に相当する画像取得枚数Lは、1又は2であってもよい。つまり、超解像画像の更新頻度は、「1枚ごと」又は「2枚ごと」であってもよい。例えば、L=1の場合、更新前の画像セットは、第1番目の画像~第P番目の画像で構成され、更新時の画像セットは、第2番目の画像~第(P+1)番目の画像で構成される。
或いは、本実施形態では、超解像画像の更新頻度に相当する画像取得枚数Lは、更新に必要な画像の種類数Mに等しくてもよい。つまり、超解像画像の更新頻度は、「M枚ごと」であってもよい。
また、本実施形態では、1ラウンド内におけるN枚の画像の配列は、更に以下の条件を満たしてもよい。
・方向条件:1ラウンド内における波数ベクトルの方向切り換えは、3つの波数ベクトルの方向のうち、互いに近接する方向間の切り換えのみに制限される。
この方向条件の意義は次のとおりである。すなわち、3つの波数ベクトルの方向の関係が、例えば図2に示すように、第1方向V1、第2方向V2、第3方向V3の関係である場合は、波数ベクトルの方向を切り換えるための部材(ここでは光束選択部材20)の回転位置を、第1方向V1を基準(0°)として-60°、0°、+60°の間で切り換えればよい。しかしながら、光束選択部材20の回転位置を-60°と0°との間で切り換える場合に必要な光束選択部材20の回転量は60°であって、光束選択部材20の回転位置を0°と+60°との間で切り換える場合に必要な光束選択部材20の回転量は60°であるのに対して、光束選択部材20の回転位置を-60°と+60°との間で切り換える場合に必要な光束選択部材20の回転量は120°である。よって、光束選択部材20の回転量を最小限に抑えるためには方向条件が有効である。
また、本実施形態では、1ラウンド内におけるN枚の画像の配列は、更に以下の条件を満たしてもよい。
・連続条件:更新時に参照される画像セット内では、更新に必要なM種類の画像のうち、波数ベクトルが共通な変調画像同士は互いに連続する。
この連続条件の意義は、次のとおりである。すなわち、仮に、波数ベクトルが共通な変調画像同士の取得タイミングが連続しておらず、それらの変調画像を取得し終える前に標本2が変化したならば、前述した分離の精度が低下し、超解像画像の画質が低下する。よって、標本2の時間変化を想定したならば、連続条件が有効である。
また、本実施形態では、ラウンド内におけるN枚の画像の配列は、更に以下の条件を満たしてもよい。
・等方条件:3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される変調画像の枚数と、他の1つの波数ベクトルで取得される変調画像の枚数と、残る1つの波数ベクトルで取得される変調画像の枚数とは、等しい。
この等方条件が満たされれば、標本2の退色状況が等方的になる(3つの方向間で退色状況が等しい)という利点がある。
[標本2を連続観察する第1実施例]
以下、標本2を連続観察する実施形態の第1実施例を説明する。
以下、標本2を連続観察する実施形態の第1実施例を説明する。
本実施例には、2D-SIMモードの第1.7節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルの各々で1枚ずつ取得される変調画像と、1枚の無変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=4である。
また、超解像画像の更新頻度は、「1枚ごと」に設定される。つまり、超解像画像の更新頻度に相当する画像取得枚数Lは、L=1に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=4である。
そして、本実施例では、上述した均一条件、更新条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表1のとおりに設定される。表1の配列では、1ラウンド内の画像取得枚数Nは、N=8である。
なお、表1における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表1における方向1、方向2、方向3、位相θ1,θ2,θ3の各々は任意である。方向1、方向2、方向3の関係は、例えば、図2に示すように、第1方向V1、第2方向V2、第3方向V3の関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表2に示すような組み合わせとなる。
なお、表2における超解像画像の番号は、超解像画像の生成順序を表している。
[標本2を連続観察する第2実施例]
以下、標本2を連続観察する実施形態の第2実施例を説明する。
以下、標本2を連続観察する実施形態の第2実施例を説明する。
本実施例は、第1実施例の変形例であるので、ここでは第1実施例との相違点のみを説明する。
本実施例は、第1実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、超解像画像の更新頻度を「4枚ごと」に低下させる(L=4とする)。
よって、本実施例では、均一条件、更新条件(但し、L=4)、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表3のとおりに設定される。表3の配列では、1ラウンド内の画像取得枚数Nは、N=8である。
なお、表3における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表3における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していないと仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表4に示すような組み合わせとなる。
以上、本実施例では、超解像画像の更新頻度が第1実施例より低くなるものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第3実施例]
以下、標本2を連続観察する実施形態の第3実施例を説明する。
以下、標本2を連続観察する実施形態の第3実施例を説明する。
本実施例には、2D-SIMモードの第1.6節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、2つの波数ベクトルの各々で1枚ずつ取得される変調画像と、他の1つの波数ベクトルで取得される位相の異なる2枚の変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=4である。
また、超解像画像の更新頻度は、「1枚ごと」に設定される。つまり、Lは、L=1に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=4である。
そして、本実施例では、上述した均一条件、更新条件、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表5のとおりに設定される。表5の配列では、1ラウンド内の画像取得枚数Nは、N=18である。
なお、表5における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表5における方向1、方向2、方向3、位相θ1,θ1’,θ2,θ2’,θ3,θ3’,φ1,φ2,φ3の各々は任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係(図2参照)である。
そして、本実施例において超解像画像の更新に使用される画像は、表6に示すような組み合わせとなる。
なお、表6における超解像画像の番号は、超解像画像の生成順序を表している。
因みに、本実施例では、上述した等方条件も満たされるので、標本2の退色状況が等方的になるという利点もある。
また、本実施例では、特に、θ1=φ1,θ2=φ2,θ3=φ3と設定してもよい。この場合、N枚の画像の配列は表7のとおりとなり、超解像画像の更新に使用される画像は、表8に示すような組み合わせとなる。
この設定によると、標本2の退色ムラを頻繁に解消できるという更なる効果が得られる。因みに、表5の配列によると退色ムラの解消頻度は「18枚ごと」であったのに対して、表7の配列によると退色ムラの解消頻度は「6枚ごと」となる。
[標本2を連続観察する第4実施例]
以下、標本2を連続観察する実施形態の第4実施例を説明する。
以下、標本2を連続観察する実施形態の第4実施例を説明する。
本実施例は、第3実施例の変形例であるので、ここでは第3実施例との相違点のみを説明する。
本実施例は、第3実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、超解像画像の更新頻度を「4枚ごと」に低下させる(L=4とする)。
よって、本実施例では、均一条件、更新条件(但し、L=4)、連続条件、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表9のとおりに設定される。表9の配列では、1ラウンド内の画像取得枚数Nは、N=12である。
なお、表9における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表9における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表10に示すような組み合わせとなる。
以上、本実施例では、超解像画像の更新頻度が第3実施例より低くなるものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第5実施例]
以下、標本2を連続観察する実施形態の第5実施例を説明する。
以下、標本2を連続観察する実施形態の第5実施例を説明する。
本実施例は、第3実施例の変形例であるので、ここでは第3実施例との相違点のみを説明する。
本実施例は、第3実施例において、方向条件を追加し、その代わりに連続条件を外したものである。
よって、本実施例では、均一条件、更新条件(但し、L=1)、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表11のとおりに設定される。表11の配列では、1ラウンド内の画像取得枚数Nは、N=8である。
なお、表11における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表11における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。
そして、本実施例において超解像画像の更新に使用される画像は、表12に示すような組み合わせとなる。
以上、本実施例では、干渉縞の方向が共通である2つの変調画像の取得タイミングが連続しないので、時間変化の大きい標本2には適さないものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第6実施例]
以下、標本2の連続観察する実施形態の第6実施例を説明する。
以下、標本2の連続観察する実施形態の第6実施例を説明する。
本実施例は、第3実施例の変形例であるので、ここでは第3実施例との相違点のみを説明する。
本実施例は、第3実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、更新時に参照される画像セットを構成する画像の枚数Pを、1枚増やす(P=5とする)。この場合、更新に使用される画像は、「最新4枚の画像」ではなく、「最新5枚の画像のうち適切な4枚」となる。
よって、本実施例では、均一条件、更新条件(但し、P=5)、連続条件、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表13のとおりに設定される。表13の配列では、1ラウンド内の画像取得枚数Nは、N=6である。
なお、表13における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表13における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表14に示すような組み合わせとなる。
なお、表14における画像番号「1」、「2」、「3」、…は、第1ラウンドにおける画像番号であり、画像番号「1’」、「2’」、「3’」、…は、第2ラウンドにおける画像番号である(他の表も同様)。
以上、本実施例では、超解像画像の更新に使用される画像は必ずしも最新4枚ではないものの、干渉縞の方向切り換えを効率化できるという利点がある。
[標本2を連続観察する第7実施例]
以下、標本2を連続観察する実施形態の第7実施例を説明する。
以下、標本2を連続観察する実施形態の第7実施例を説明する。
本実施例では、第4実施例と同じ条件(均一条件、更新条件(但し、L=4)、連続条件、方向条件)を満たす別の配列を説明する。
本実施例の配列は、表15に示すとおりである。表15の配列では、1ラウンド内の画像取得枚数Nは、N=24である。
なお、表15における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表15における位相θ1,θ2,θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していないと仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表16に示すような組み合わせとなる。
以上、本実施例では、第4実施例よりも1ラウンド内の画像取得枚数Nが増えるものの、第4実施例と同じ効果が得られる。
[標本2を連続観察する第8実施例]
以下、標本2を連続観察する実施形態の第8実施例を説明する。
以下、標本2を連続観察する実施形態の第8実施例を説明する。
本実施例には、3D-SIMモードの第2.5節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、他の1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、残る1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、1枚の無変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=7である。
また、超解像画像の更新頻度は、「2枚ごと」又は「1枚ごと」に設定される。つまり、Lは、L=1、又はL=2に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=7である。
そして、本実施例では、上述した均一条件、更新条件、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表17のとおりに設定される。表17の配列では、1ラウンド内の画像取得枚数Nは、N=14である。
なお、表17における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表17における方向1、方向2、方向3、位相θ1,θ2,θ3の各々は任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表18に示すような組み合わせとなる。
なお、表18における超解像画像の番号は、超解像画像の生成順序を表している。
以上、第8実施例では、基本的には、波数ベクトルが共通であって位相の異なる2枚の変調画像の双方が取得される度に超解像画像が更新される(すなわち、基本的には2枚ごとに更新される)。但し、第8実施例では、無変調画像が取得される度にも超解像画像が更新される(すなわち、無変調画像が取得されたときには1枚ごとに更新される)。
[標本2を連続観察する第9実施例]
以下、標本2を連続観察する実施形態の第9実施例を説明する。
以下、標本2を連続観察する実施形態の第9実施例を説明する。
本実施例は、第8実施例の変形例であるので、ここでは第8実施例との相違点のみを説明する。
本実施例、第8実施例において、方向条件を追加し、その代わりに更新条件を緩和させたものである。
更新条件を緩和させるために、本実施例では、超解像画像の更新頻度を「7枚ごと」に低下させる(L=7とする)。
つまり、本実施例では、均一条件、更新条件(但し、L=7)、連続条件、方向条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表19のとおりに設定される。表11の配列では、1ラウンド内の画像取得枚数Nは、N=14である。
なお、表19における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表19における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表20に示すような組み合わせとなる。
以上、本実施例では、超解像画像の更新頻度が第8実施例より低くなるものの、干渉縞の方向切り換えを効率化できるという利点がある。
なお、本実施例では、ラウンド内最後の画像(第14画像)の取得を省略し、次のラウンドの最初の画像(第1’画像)を、第14画像として使用してもよい。このようにすれば、ラウンド内の画像取得枚数Nを、1だけ削減する(N=13とする)こともできる。
[標本2を連続観察する第10実施例]
以下、標本2を連続観察する実施形態の第10実施例を説明する。
以下、標本2を連続観察する実施形態の第10実施例を説明する。
本実施例には、3D-SIMモードの第2.7節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、他の1つの波数ベクトルで取得される位相の異なる2枚の変調画像と、残る1つの波数ベクトルで取得される位相の異なる4枚の変調画像とである。よって、超解像画像の更新に必要な画像の枚数Mは、M=8である。
また、超解像画像の更新頻度は、「8枚ごと」に設定される。つまり、Lは、L=8に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=8である。
そして、本実施例では、上述した均一条件、更新条件、連続条件、方向条件を満たすよう、ラウンド内におけるN枚の画像の配列は表21のとおりに設定される。表21の配列では、ラウンド内の画像取得枚数Nは、N=16である。
なお、表21における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表21における位相θ1、θ2、θ3の各々は任意であるが、方向1と方向2とは互いに近接した方向であって、方向2と方向3とは互いに近接した方向であるのに対して、方向1と方向3とは互いに近接していない方向であると仮定した。方向1と方向2との関係は、例えば60°回転した関係であり、方向2と方向3との関係は、例えば60°回転した関係である。
そして、本実施例において超解像画像の更新に使用される画像は、表22に示すような組み合わせとなる。
なお、表22における超解像画像の番号は、超解像画像の生成順序を表している。
[標本2を連続観察する第11実施例]
以下、標本2の退色ムラを防ぐための形態11を説明する。
以下、標本2の退色ムラを防ぐための形態11を説明する。
本実施例は、第10実施例の変形例であるので、ここでは第10実施例との相違点のみを説明する。
本実施例は、第10実施例において、更新条件を強化し、その代わりに方向条件を外したものである。
更新条件を強化するために、本実施例では、超解像画像の更新頻度を「2枚ごと」に向上させる(L=2とする)。
つまり、本実施例では、均一条件、更新条件(但し、L=2)、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表23のとおりに設定される。表23の配列では、1ラウンド内の画像取得枚数Nは、N=36である。
なお、表23における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表23における位相θ1、θ2、θ3、方向1、方向2、方向3の各々は任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係(図2参照)である。
そして、本実施例において超解像画像の更新に使用される画像は、表24に示すような組み合わせとなる。
以上、本実施例では、干渉縞の方向切り換えの効率が第10実施例より低下するものの、超解像画像の更新頻度が高まるという利点がある。
[標本2を連続観察する第12実施例]
以下、標本2を連続観察する実施形態の第12実施例を説明する。
以下、標本2を連続観察する実施形態の第12実施例を説明する。
本実施例には、3D-SIMモードの第2.6節が適用される。
よって、超解像画像の更新に必要な画像は、互いに閉じた関係の3つの波数ベクトルのうち、或る1つの波数ベクトルで取得される位相の異なる4枚の変調画像と、他の1つの波数ベクトルで取得される位相の異なる4枚の変調画像と、残る1つの波数ベクトルで取得される位相の異なる4枚の変調画像とである。よって、超解像画像の更新に必要な画像の種類数Mは、M=12である。
また、超解像画像の更新頻度は、「12枚ごと」に設定される。つまり、Lは、L=12に設定される。
また、更新時に参照される画像セットを構成する画像の枚数Pは、更新に必要な画像の種類数Mに等しい。つまり、画像セットを構成する画像の枚数Pは、P=M=12である。
そして、本実施例では、上述した均一条件、更新条件、連続条件を満たすよう、1ラウンド内におけるN枚の画像の配列は表25のとおりに設定される。表25の配列では、1ラウンド内の画像取得枚数Nは、N=12である。
なお、表25における方向は、波数ベクトルの方向を表し、位相は、波数ベクトルの位相を表し、画像の番号は、画像の取得順序を表している。また、表25における方向1、方向2、方向3、位相θ1,θ2,θ3の各々は、任意である。方向1、方向2、方向3の関係は、例えば、第1方向V1、第2方向V2、第3方向V3の関係(図2参照)である。
そして、本実施例において超解像画像の更新に使用される画像は、表26に示すような組み合わせとなる。
なお、表26における超解像画像の番号は、超解像画像の生成順序を表している。
因みに、本実施例では、上述した等方条件も満たされるので、標本2の退色状況が等方的になるという利点もある。
また、以上の説明では、必要な変調画像の取得に使用される波数ベクトルの数を3とし、3つの波数ベクトルを閉じた関係に設定したが、これに限られることはなく、波数ベクトルの数を3以上としてもよい。例えば、波数ベクトルの数を5とし、5つの波数ベクトルを閉じた関係に設定してもよく、波数ベクトルの数をQ(Q≧3)とし、Q個の波数ベクトルを閉じた関係に設定してもよい。
[標本2を連続観察する実施形態の作用効果]
本実施形態の構造化照明顕微鏡装置(1)は、標本(2)を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段(制御装置43)と、前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段(画像記憶・演算装置44)とを備える。
本実施形態の構造化照明顕微鏡装置(1)は、標本(2)を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段(制御装置43)と、前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段(画像記憶・演算装置44)とを備える。
また、前記M種類の画像には、以下の画像が含まれる。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像。
・前記3種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像。
また、前記N枚の画像の配列は、以下の条件を満たす。
・均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様(又は略一様)になる。
・更新条件:前記画像セットには前記M種類の画像が必ず含まれる。
したがって、本実施形態の構造化照明顕微鏡装置によれば、一連の処理中に画像がL枚取得される度に超解像画像が更新され、かつ、一連の処理の開始から終了までの期間に標本の退色ムラが解消されるので、一連の処理を何回繰り返したとしても退色ムラが悪化することは無い。
また、前記画像セットを構成する画像の枚数Pは、前記復調に必要な画像の種類数Mに等しくてもよい。
また、前記復調の頻度に相当する画像取得枚数Lは、1又は2であってもよい。
また、前記復調の頻度に相当する画像取得枚数Lは、前記復調に必要な画像の種類数Mに等しくてもよい。
また、前記N枚の画像の配列は、以下の条件を満たしてもよい。
・方向条件:前記波数ベクトルの方向切り換えは、互いに近接する方向間の切り換えのみに制限される。
また、前記N枚の画像の配列は、以下の条件を満たしてもよい。
・連続条件:前記復調に必要なM種類の画像のうち、前記波数ベクトルが共通な変調画像同士は、前記画像セット内で互いに連続する。
また、前記N枚の画像の配列は、前記変調画像の種類数Qが3である場合に以下の条件を満たしてもよい。
・等方条件:前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、他の1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、残りの1種類との間で前記波数ベクトルの共通する変調画像の取得枚数とは、等しい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=4)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像。
また、前記演算手段は、前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離してもよい。
また、前記M種類(M=4)の画像のうち、前記波数ベクトルが共通な少なくとも2種類の変調画像間の前記位相の差は、πであってもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=4)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離してもよい。
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離してもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=7)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=7)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・1枚の無変調画像
また、前記演算手段は、前記M種類(M=7)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
また、前記M種類(M=7)の画像のうち、少なくとも1つの前記波数ベクトルで取得された2種類の変調画像間の前記位相の差は、πであってもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=12)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
また、前記演算手段は、前記M種類(M=12)の変調画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
また、前記M種類の画像には、以下の画像が含まれてもよい(M=8)。
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像。
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像。
・前記Q種類(Q=3)の変調画像の他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像。
・前記Q種類(Q=3)の変調画像の残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像。
また、前記演算手段は、前記M種類(M=8)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離してもよい。
また、前記M種類(M=8)の画像のうち、前記波数ベクトルが共通な4種類の変調画像間の前記位相の差は、π/2であってもよい。
また、前記Q種類(Q=3)の変調画像の間では、前記波数ベクトルの大きさが共通かつ方向が120°ずつずれていてもよい。
なお、N、L、P、M、Qは、何れも整数である。
[その他]
なお、上述の各実施形態の要件は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。また、法令で許容される限りにおいて、上述の各実施形態及び変形例で引用した装置などに関する全ての公開公報及び米国特許の開示を援用して本文の記載の一部とする。
なお、上述の各実施形態の要件は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。また、法令で許容される限りにおいて、上述の各実施形態及び変形例で引用した装置などに関する全ての公開公報及び米国特許の開示を援用して本文の記載の一部とする。
1…構造化照明顕微鏡装置、100…レーザユニット、11…光ファイバ、10…照明光学系、30…結像光学系、42…撮像素子、43…制御装置、44…画像記憶・演算装置、45…画像表示装置、12…コレクタレンズ、13…偏光板、14…光束分岐部、17…集光レンズ、18…光束選択部、21…レンズ、22…視野絞り、23…フィールドレンズ、24…励起フィルタ、33…ダイクロイックミラー、31…対物レンズ、34…吸収フィルタ、35…第2対物レンズ、2…標本
Claims (22)
- 標本を空間変調する縞の波数ベクトルと位相との組み合わせを制御し、前記標本に関するN枚の画像を順次に取得する一連の処理を繰り返す取得手段と、
前記画像がL枚取得される度に最新となる連続P枚の画像セットから、必要なM種類の画像を用いて前記標本の像を復調する処理を、前記画像セットごとに行う演算手段と、
を備えた構造化照明顕微鏡装置であって、
前記M種類の画像には、以下の画像が含まれ、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q≧3)の変調画像
・前記Q種類の変調画像のうち少なくとも1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像、又は、1枚の無変調画像
前記N枚の画像の配列は、以下の条件を満たす
・均一条件:前記縞の強度分布を前記N枚の画像間で積算すると空間的に一様になる
・更新条件:前記画像セットには前記M種類の画像が必ず含まれる
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1に記載の構造化照明顕微鏡装置において、
前記画像セットを構成する画像の枚数Pは、前記復調に必要な画像の種類数Mに等しい
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1又は請求項2に記載の構造化照明顕微鏡装置において、
前記復調の頻度に相当する画像取得枚数Lは、1又は2である
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1又は請求項2に記載の構造化照明顕微鏡装置において、
前記復調の頻度に相当する画像取得枚数Lは、前記復調に必要な画像の種類数Mに等しい
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項4の何れか一項に記載の構造化照明顕微鏡装置において、
前記N枚の画像の配列は、以下の条件を満たす
・方向条件:前記波数ベクトルの方向切り換えは、互いに近接する方向間の切り換えのみに制限される
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項5の何れか一項に記載の構造化照明顕微鏡装置において、
前記N枚の画像の配列は、以下の条件を満たす
・連続条件:前記復調に必要なM種類の画像のうち、前記波数ベクトルが共通な変調画像同士は、前記画像セット内で互いに連続する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項6の何れか一項に記載の構造化照明顕微鏡装置において、
前記N枚の画像の配列は、前記変調画像の種類数Qが3である場合に以下の条件を満たす
・等方条件:前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、他の1種類との間で前記波数ベクトルの共通する変調画像の取得枚数と、残りの1種類との間で前記波数ベクトルの共通する変調画像の取得枚数とは、等しい
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=4)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
前記演算手段は、
前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項8に記載の構造化照明顕微鏡装置において、
前記M種類(M=4)の画像のうち、前記波数ベクトルが共通な少なくとも2種類の変調画像間の前記位相の差は、πである
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=4)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・1枚の無変調画像
前記演算手段は、
前記M種類(M=4)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=7)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・1枚の無変調画像
前記演算手段は、
前記M種類(M=7)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項11に記載の構造化照明顕微鏡装置において、
前記M種類(M=7)の画像のうち、少なくとも1つの前記波数ベクトルで取得された2種類の変調画像間の前記位相の差は、πである
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化照明顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=12)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
・前記Q種類(Q=3)の変調画像のうち他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
・前記Q種類(Q=3)の変調画像のうち残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
前記演算手段は、
前記M種類(M=12)の変調画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項1~請求項7の何れか一項に記載の構造化顕微鏡装置において、
前記M種類の画像には、以下の画像が含まれ(M=8)、
・前記波数ベクトルの関係が互いに閉じた関係であるQ種類(Q=3)の変調画像
・前記Q種類(Q=3)の変調画像のうち何れか1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像の他の1種類との間で前記波数ベクトルが共通かつ前記位相の異なる1種類の変調画像
・前記Q種類(Q=3)の変調画像の残りの1種類との間で前記波数ベクトルが共通かつ前記位相の異なる3種類の変調画像
前記演算手段は、
前記M種類(M=8)の画像の各々の空間周波数スペクトルにおいて、前記Q種類(Q=3)の変調画像の波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項14に記載の構造化照明顕微鏡装置において、
前記M種類(M=8)の画像のうち、前記波数ベクトルが共通な4種類の変調画像間の前記位相の差は、π/2である
ことを特徴とする構造化照明顕微鏡装置。 - 請求項8~請求項15の何れか一項に記載の構造化照明顕微鏡装置において、
前記Q種類(Q=3)の変調画像の間では、前記波数ベクトルの大きさが共通かつ方向が120°ずつずれている
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項17に記載の構造化照明顕微鏡装置において、
前記演算手段は、前記撮像素子が新たな画像を生成する毎に、最も古い画像に替えて前記新たな画像を用いて、前記超解像画像を生成する
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンが、前記被観察物に一様に照明されるように制御する
ことを特徴とする構造化照明顕微鏡装置。 - 請求項19に記載の構造化照明顕微鏡装置において、
前記演算手段は、前記撮像素子が新たな画像を生成する毎に、最も古い画像に替えて前記新たな画像を用いて、前記超解像画像を生成する
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも1枚の無変調画像と、少なくとも3方向の回折格子のパターンに基づいて生成された画像とに基づいて、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる
ことを特徴とする構造化照明顕微鏡装置。 - 回折格子と、
光源からの光を、前記回折格子を介して又は前記回折格子を介さずに被観察物へ投影する投影光学系と、
前記回折格子のパターンの方向及び位相を制御する制御部と、
前記回折格子のパターンの投影された前記被観察物の像を形成する結像光学系と、
前記結像光学系が形成した前記像を撮像して画像を生成する撮像素子と、
前記撮像素子が生成する、少なくとも3方向の回折格子のパターンに基づいて生成された画像に基づき、前記被観察物の超解像画像を生成する演算手段
とを備え、
前記制御部は、
前記超解像画像が生成される際に少なくとも1方向の回折格子のパターンが前記被観察物に一様に照明されない場合には、前記超解像画像が複数生成される際に、少なくとも1方向の回折格子のパターンの位相を変化させる
ことを特徴とする構造化照明顕微鏡装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/093,177 US10067331B2 (en) | 2013-10-09 | 2016-04-07 | Structured illumination microscope device |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013211614 | 2013-10-09 | ||
JP2013-211614 | 2013-10-09 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
US15/093,177 Continuation US10067331B2 (en) | 2013-10-09 | 2016-04-07 | Structured illumination microscope device |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2015052936A1 true WO2015052936A1 (ja) | 2015-04-16 |
Family
ID=52812763
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2014/005157 WO2015052936A1 (ja) | 2013-10-09 | 2014-10-09 | 構造化照明顕微鏡装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10067331B2 (ja) |
WO (1) | WO2015052936A1 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI625548B (zh) * | 2016-03-10 | 2018-06-01 | Screen Holdings Co Ltd | Imaging configuration determination method and imaging device in imaging device |
DE102018108657A1 (de) | 2018-04-12 | 2019-10-17 | Jenoptik Optical Systems Gmbh | Mikroskop mit strukturierter Beleuchtung |
WO2020179040A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179039A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179036A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡 |
WO2020179032A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
CN113711014A (zh) * | 2019-04-02 | 2021-11-26 | 热电科学仪器有限公司 | 使用结构化照明显微镜增强样品成像 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014013720A1 (ja) * | 2012-07-19 | 2014-01-23 | 株式会社ニコン | 構造化照明顕微鏡装置 |
JP6270615B2 (ja) * | 2014-05-02 | 2018-01-31 | オリンパス株式会社 | 標本像データ生成装置、及び、標本像データ生成方法 |
CN107736012B (zh) * | 2015-06-17 | 2021-09-10 | 麦克赛尔株式会社 | 摄像装置和图像生成方法 |
US11853845B2 (en) * | 2020-09-02 | 2023-12-26 | Cognex Corporation | Machine vision system and method with multi-aperture optics assembly |
CN113676276B (zh) * | 2021-08-06 | 2023-05-16 | 中国电波传播研究所(中国电子科技集团公司第二十二研究所) | 一种可分离电离层多模式混合传播的短波阵列天线衰落一致性测量方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009098215A (ja) * | 2007-10-12 | 2009-05-07 | Nikon Corp | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 |
JP2009157084A (ja) * | 2007-12-26 | 2009-07-16 | Nikon Corp | 顕微鏡装置 |
WO2011135819A1 (ja) * | 2010-04-26 | 2011-11-03 | 株式会社ニコン | 構造化照明顕微鏡装置 |
JP2012504252A (ja) * | 2008-09-30 | 2012-02-16 | カール ツァイス マイクロイメージング ゲーエムベーハー | 構造化照明を備えた顕微鏡法のための改良された方法および装置 |
WO2013049646A1 (en) * | 2011-09-29 | 2013-04-04 | Fei Company | Microscope device |
WO2013108626A1 (ja) * | 2012-01-18 | 2013-07-25 | 株式会社ニコン | 構造化照明装置、構造化照明顕微鏡装置、構造化照明方法 |
WO2014013720A1 (ja) * | 2012-07-19 | 2014-01-23 | 株式会社ニコン | 構造化照明顕微鏡装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5671085A (en) | 1995-02-03 | 1997-09-23 | The Regents Of The University Of California | Method and apparatus for three-dimensional microscopy with enhanced depth resolution |
JP4835750B2 (ja) * | 2007-04-12 | 2011-12-14 | 株式会社ニコン | 顕微鏡装置 |
-
2014
- 2014-10-09 WO PCT/JP2014/005157 patent/WO2015052936A1/ja active Application Filing
-
2016
- 2016-04-07 US US15/093,177 patent/US10067331B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009098215A (ja) * | 2007-10-12 | 2009-05-07 | Nikon Corp | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 |
JP2009157084A (ja) * | 2007-12-26 | 2009-07-16 | Nikon Corp | 顕微鏡装置 |
JP2012504252A (ja) * | 2008-09-30 | 2012-02-16 | カール ツァイス マイクロイメージング ゲーエムベーハー | 構造化照明を備えた顕微鏡法のための改良された方法および装置 |
WO2011135819A1 (ja) * | 2010-04-26 | 2011-11-03 | 株式会社ニコン | 構造化照明顕微鏡装置 |
WO2013049646A1 (en) * | 2011-09-29 | 2013-04-04 | Fei Company | Microscope device |
WO2013108626A1 (ja) * | 2012-01-18 | 2013-07-25 | 株式会社ニコン | 構造化照明装置、構造化照明顕微鏡装置、構造化照明方法 |
WO2014013720A1 (ja) * | 2012-07-19 | 2014-01-23 | 株式会社ニコン | 構造化照明顕微鏡装置 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI625548B (zh) * | 2016-03-10 | 2018-06-01 | Screen Holdings Co Ltd | Imaging configuration determination method and imaging device in imaging device |
DE102018108657A1 (de) | 2018-04-12 | 2019-10-17 | Jenoptik Optical Systems Gmbh | Mikroskop mit strukturierter Beleuchtung |
DE102018108657B4 (de) | 2018-04-12 | 2024-03-28 | Jenoptik Optical Systems Gmbh | Vorrichtung zur Aufnahme wenigstens eines mikroskopischen Bildes und Verfahren zur Aufnahme eines mikroskopischen Bildes |
WO2020179040A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179039A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2020179036A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡 |
WO2020179032A1 (ja) * | 2019-03-06 | 2020-09-10 | 株式会社ニコン | 顕微鏡および観察方法 |
CN113711014A (zh) * | 2019-04-02 | 2021-11-26 | 热电科学仪器有限公司 | 使用结构化照明显微镜增强样品成像 |
Also Published As
Publication number | Publication date |
---|---|
US10067331B2 (en) | 2018-09-04 |
US20160216505A1 (en) | 2016-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5888416B2 (ja) | 構造化照明顕微鏡装置 | |
WO2015052936A1 (ja) | 構造化照明顕微鏡装置 | |
US10725276B2 (en) | Structured illumination microscope, structured illumination method, and program | |
CN107389631B (zh) | 高速多色多模态结构光照明超分辨显微成像系统及其方法 | |
US10739574B2 (en) | Structured illumination optical system and structured illumination microscope device | |
JP6264377B2 (ja) | 構造化照明装置及び構造化照明顕微鏡装置 | |
US8019136B2 (en) | Optical sectioning microscopy | |
EP2592459B1 (en) | Holographic microscope and method for processing microscopic subject hologram image | |
JP2012078408A (ja) | 標本観察装置 | |
Chen et al. | Superresolution structured illumination microscopy reconstruction algorithms: a review | |
US11867894B2 (en) | Method for SIM microscopy | |
JP2009098215A (ja) | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 | |
WO2015033514A1 (ja) | 照明装置及び構造化照明顕微鏡装置 | |
JP6270615B2 (ja) | 標本像データ生成装置、及び、標本像データ生成方法 | |
Shao et al. | Interferometer‐based structured‐illumination microscopy utilizing complementary phase relationship through constructive and destructive image detection by two cameras | |
JP6286982B2 (ja) | 構造化照明顕微鏡装置 | |
WO2018150471A1 (ja) | 構造化照明顕微鏡、観察方法、及びプログラム | |
WO2015052920A1 (ja) | 構造化照明装置及び構造化照明顕微鏡装置 | |
Chen | Holography-Based Structured Light Illumination for Fast 3D Fluorescent Imaging | |
Gang et al. | Super-Resolution Fluorescence Microscopy System by Structured Illumination Based on Laser Interference [J] | |
CN117611449A (zh) | 空域重建的快速单层三维超分辨结构光显微系统和方法 | |
Krzewina | Structured light for three-dimensional microscopy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 14851694 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
NENP | Non-entry into the national phase |
Ref country code: JP |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 14851694 Country of ref document: EP Kind code of ref document: A1 |