JP2020057163A - 点像分布関数推定方法及び点像分布関数推定装置 - Google Patents

点像分布関数推定方法及び点像分布関数推定装置 Download PDF

Info

Publication number
JP2020057163A
JP2020057163A JP2018186836A JP2018186836A JP2020057163A JP 2020057163 A JP2020057163 A JP 2020057163A JP 2018186836 A JP2018186836 A JP 2018186836A JP 2018186836 A JP2018186836 A JP 2018186836A JP 2020057163 A JP2020057163 A JP 2020057163A
Authority
JP
Japan
Prior art keywords
spread function
point spread
image data
estimating
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018186836A
Other languages
English (en)
Other versions
JP7274273B2 (ja
Inventor
勝大 中本
Katsuhiro Nakamoto
勝大 中本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hamamatsu Photonics KK
Original Assignee
Hamamatsu Photonics KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hamamatsu Photonics KK filed Critical Hamamatsu Photonics KK
Priority to JP2018186836A priority Critical patent/JP7274273B2/ja
Publication of JP2020057163A publication Critical patent/JP2020057163A/ja
Application granted granted Critical
Publication of JP7274273B2 publication Critical patent/JP7274273B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】試料の観察時に迅速に点像分布関数を用いたボケの除去を行うこと。【解決手段】点像分布関数推定方法は、光学系を用いて試料Sを撮像した結果得られた試料画像データと、光学系を用いて円形の開口部19の像を試料Sと同時に撮像した結果得られた参照画像データとを取得する取得ステップS102と、参照画像データと開口部19の形状に対応した理想画像データとを基に光学系の点像分布関数を推定する推定ステップS104,S105,S106と、点像分布関数を用いて試料画像データをデコンボリューションすることにより出力用試料画像データを生成する生成ステップS109と、点像分布関数と出力用試料画像データとを出力する出力ステップS110と、を備える。【選択図】図5

Description

本発明の一側面は、光学系における点像分布関数を推定する点像分布関数推定方法及び点像分布関数推定装置に関する。
従来から、顕微鏡等の光学系における分解能の指標となる点像分布関数(PSF:Point Spread Function)を推定することが行われている。例えば、下記特許文献1には、点像分布関数を推定する装置が開示され、この装置は、環状の形状を有する図形が行列状に配置された参照チャートを撮像装置の光学系を構成するレンズを通して撮像し、撮像画像と1個の図形に対応した参照画像とを用いて点像分布関数を推定する。
特開2016−163312号公報
上述したような従来の装置では、仮想的に設定された点像分布関数を用いて参照画像を畳み込み演算することにより得られる中間画像と撮像画像との差分が小さくなるように点像分布関数が演算されている。この装置では、参照チャートを撮像した後に繰り返し演算により点像分布関数が推定されているので、試料の観察の際に迅速な点像分布関数の推定を実現することは困難である。
そこで、本発明の一側面は、かかる課題に鑑みてなされたものであり、試料の観察時に迅速な点像分布関数を用いたボケの除去を可能にする点像分布関数推定方法及び点像分布関数推定装置を提供することを課題とする。
本発明の一形態は、光学系を用いて試料を撮像した結果得られた試料画像データと、光学系を用いて既知の回転対称な形状の像を試料と同時に撮像した結果得られた参照画像データとを取得する取得ステップと、参照画像データと、形状の情報とを基に光学系の点像分布関数を推定する推定ステップと、点像分布関数を用いて試料画像データをデコンボリューションすることにより出力用試料画像データを生成する生成ステップと、点像分布関数と出力用試料画像データとを出力する出力ステップと、を備える点像分布関数推定方法である。
あるいは、本発明の他の形態は、試料の像及び既知の回転対称な形状の像を同時に導く光学系と、試料の像を光学系を介して撮像して試料画像データを取得すると同時に、既知の回転対称な形状の像を光学系を介して撮像して参照画像データを取得する撮像装置と、参照画像データと、形状の情報とを基に光学系の点像分布関数を推定し、点像分布関数を用いて試料画像データをデコンボリューションすることにより出力用試料画像データを生成し、点像分布関数と出力用試料画像データとを出力する演算装置と、を備える点像分布関数推定装置である。
上記いずれかの形態によれば、光学系を用いて試料を撮像して得られた試料画像データと回転対称な形状の像を撮像して得られた参照画像データとが同時に得られ、参照画像データと形状の情報とを基に推定された点像分布関数を用いて、試料画像データの画像からボケが除去された出力用試料画像データが生成され、点像分布関数及び出力用試料画像データが出力される。これにより、試料の観察時に迅速にボケが除去された試料の画像を得ることができる。
上記一形態あるいは上記他の形態においては、回転対称な形状は円形である、ことが好適である。この場合、光学系の角度調整等の煩雑な調整を必要とせずに、正確な点像分布関数を得ることができる。
また、上記一形態においては、取得ステップで、試料を保持する保持部及び光を通過させる円形の開口部を有する試料ホルダと、試料ホルダに向けて光を照射する光源とを用いて、試料画像データと参照画像データとを取得する、ことが好適である。また、上記他の形態においては、試料を保持する保持部及び光を通過させる円形の開口部を有する試料ホルダと、試料ホルダに向けて光を照射する光源と、をさらに備え、撮像装置は、光源から光が照射された試料の像、及び、開口部を通過する光によって生ずる開口部の像を撮像する、ことが好適である。かかる構成を備えれば、光が照射された試料の撮像と同時に、円形の開口部を通過する光によって形成される像を撮像することによって、簡易に試料画像データ及び参照画像データを得ることができる。
さらに、上記一形態においては、推定ステップで、点像分布関数がゼロ以上であることを拘束条件として点像分布関数を推定する、ことも好適である。さらに、上記他の形態においては、演算装置は、点像分布関数がゼロ以上であることを拘束条件として点像分布関数を推定する、ことも好適である。こうすれば、ノイズにロバストな点像分布関数の推定を実現することができる。
またさらに、上記一形態においては、推定ステップで、参照画像データと形状の情報とをフーリエ変換した値と、フーリエ変換後の点像分布関数とに関する最小化問題を解くことにより、点像分布関数を推定する、ことも好適である。またさらに、上記他の形態においては、演算装置は、参照画像データと形状の情報とをフーリエ変換した値と、フーリエ変換後の点像分布関数とに関する最小化問題を解くことにより、点像分布関数を推定する、ことも好適である。かかる構成を採れば、高速な演算によって短時間で点像分布関数を推定することができる。
さらにまた、上記一形態においては、推定ステップで、フーリエ変換した値と、フーリエ変換後の点像分布関数と、点像分布関数のフーリエ空間における滑らかさを示す値とに関する最小化問題を解くことにより、点像分布関数を推定する、ことが好適である。さらにまた、上記他の形態においては、演算装置は、フーリエ変換した値と、フーリエ変換後の点像分布関数と、点像分布関数のフーリエ空間における滑らかさを示す値とに関する最小化問題を解くことにより、点像分布関数を推定する、ことが好適である。かかる構成を採れば、短時間で真値に近い点像分布関数を推定することができる。
また、上記一形態においては、推定ステップで、推定した点像分布関数を基に線像分布関数を計算し、線像分布関数を任意の関数でフィッティングし、フィッティングした線像分布関数を用いて点像分布関数を再構成する、ことが好適である。また、上記他の形態においては、演算装置は、推定した点像分布関数を基に線像分布関数を計算し、線像分布関数を任意の関数でフィッティングし、フィッティングした線像分布関数を用いて点像分布関数を再構成する、ことが好適である。こうすれば、実空間で滑らかな点像分布関数を得ることができ、推定精度をより向上できる。
さらに、上記一形態においては、推定ステップでは、線像分布関数を撮像面における複数の方向に沿って積分することによって複数の線像分布関数を計算し、複数の線像分布関数を任意の関数でフィッティングし、フィッティングした複数の線像分布関数を用いて点像分布関数を再構成する、ことも好適である。さらに、上記他の形態においては、演算装置は、線像分布関数を撮像面における複数の方向に沿って積分することによって複数の線像分布関数を計算し、複数の線像分布関数を任意の関数でフィッティングし、フィッティングした複数の線像分布関数を用いて点像分布関数を再構成する、ことも好適である。こうすれば、実空間で滑らかな点像分布関数を得ることができ、推定精度をより向上できる。
本発明の一側面によれば、試料の観察時に迅速に点像分布関数を用いたボケの除去が可能となる。
実施形態にかかる点像分布関数推定装置である観察システム1の概略構成図である。 図1の試料ホルダ7を結像用レンズ9側から見た平面図である。 図1の演算装置13のハードウェア構成を示す図である。 図1の演算装置13の点像分布関数の推定時に用いられるカーネルの構成を示す図である。 実施形態にかかる観察システム1による点像分布関数の推定から観察画像の出力までの手順を示すフローチャートである。 シミュレーションによって推定された点像分布関数の画像イメージを示す図である。 シミュレーションによって推定された点像分布関数の一次元プロファイルを示す図である。 シミュレーションによって推定された点像分布関数の画像イメージを示す図である。 シミュレーションによって推定された点像分布関数の一次元プロファイルを示す図である。 図9の一次元プロファイルを拡大して示す図である。 実験光学系の概略構成図である。 図11に示す実験光学系を用いて推定された点像分布関数の画像イメージを示す図である。 図11に示す実験光学系を用いて推定された点像分布関数の一次元プロファイルを示す図である。 図11に示す実験光学系を用いて推定された点像分布関数の一次元プロファイルを示す図である。
以下、添付図面を参照して、本発明の実施形態について詳細に説明する。なお、説明において、同一要素又は同一機能を有する要素には、同一符号を用いることとし、重複する説明は省略する。
図1は、実施形態にかかる点像分布関数推定装置である観察システム1の概略構成図である。図1に示す観察システム1は、観察システム1に含まれる光学系に関する点像分布関数を推定すると同時に、推定した点像分布関数を用いて試料を撮像して得られた画像からボケを除去してその画像を出力する装置である。点像分布関数は、光学系の点光源に対する応答を表す関数であり、一般に、この点像分布関数が推定できれば光学系を介して得られた画像のボケを除去することができる。この観察システム1は、光源3、集光用レンズ(集光用光学系)5、試料ホルダ7、結像用レンズ(結像用光学系)9、カメラ(撮像装置)11、及び演算装置13を含んでいる。これらの光源3、集光用レンズ5、及び結像用レンズ9は、試料を観察するための顕微鏡(光学系)を構成する。
光源3は、試料ホルダ7に保持された試料に光を照射するLED(Light EmittingDiode)、ランプ光源等の光源装置である。この光源3としては、発光波長が特定の波長のものには限定されず、可視光領域、X線領域等の任意の発光波長のものが選択されうる。集光用レンズ5は、光源3から照射された光を試料ホルダ7に向けて集光する光学系である。結像用レンズ9は、試料ホルダ7に保持された試料を透過した光をカメラ11に結像させるための光学系である。
試料ホルダ7は、観察対象の試料を保持するための部材であり、集光用レンズ5と結像用レンズ9との間に配置されている。図2は、試料ホルダ7を結像用レンズ9側から見た平面図である。このように、試料ホルダ7は、平板状部材15によって構成され、その平板状部材15の中央に設けられた、試料Sが保持される光透過部(保持部)17と、平板状部材15において光透過部17の近傍で光透過部17を囲むように点対称な位置に設けられた4つの円形の開口部19とを有する。この開口部19は、既知の回転対称な形状を有していれば、円形の形状には限定されずリング状等であってもよいが、より正確な点像分布関数を得るという観点からは円形であることが好ましい。また、開口部19の位置および数は任意に変更されてもよく、開口部19の代わりに、例えば、光透過部17内に円形状の不透明の(あるいは半透明の)物体が配置されていてもよい。光透過部17は、光源3からの光を透過する材料によって構成され、例えば、光源3としてX線源が用いられる場合にはシリコン窒化膜(SiN膜)によって構成される。このような構成の試料ホルダ7は、集光用レンズ5と結像用レンズ9との間において、集光用レンズ5によって集光された光が光透過部17及び4つの開口部19の全体に向けて照射されるように、平板状部材15が光の照射方向にほぼ垂直になるように配置される。
図1に戻って、カメラ11は、試料ホルダ7によって保持されて光源3からの光が透過した試料Sの像と、試料ホルダ7の開口部19を光が通過することによって生ずる開口部19の像とを、結像用レンズ9を介して同時に撮像し、それらの像を表す2次元画像データを出力する撮像装置である。このカメラ11は、例えば、CCD(Charge Coupled Device)イメージセンサ、CMOS(ComplementaryMetal Oxide Semiconductor)イメージセンサ等である。演算装置13は、カメラ11に対して有線接続あるいは無線接続によってデータ通信可能に接続され、カメラ11から出力された2次元画像データを用いて、観察システム1の光学系に関する点像分布関数を推定するとともに、推定した点像分布関数を用いてボケが除去された試料Sの画像データを出力する装置である。演算装置13の機能の詳細については後述する。
図3は、演算装置13のハードウェア構成を示している。図3に示すように、演算装置13は、物理的には、プロセッサであるCPU(Central Processing Unit)301、記録媒体であるRAM(Random Access Memory)302又はROM(Read Only Memory)303、通信モジュール304、及び入出力モジュール306等を含んだコンピュータ等であり、各々は電気的に接続されている。演算装置13の各機能は、CPU301及びRAM302等のハードウェア上にプログラム等を読み込ませることにより、CPU301の制御のもとで、通信モジュール304、及び入出力モジュール306等を動作させるとともに、RAM302におけるデータの読み出し及び書き込みを行うことで実現される。なお、演算装置13は、入出力デバイスとして、ディスプレイ、キーボード、マウス、タッチパネルディスプレイ等を含んでいてもよいし、ハードディスクドライブ、半導体メモリ等のデータ記録装置を含んでいてもよい。また、演算装置13は、単一の装置であってもよいし、相互にデータ通信可能に構成された複数の装置であってもよい。
以下、演算装置13による点像分布関数の推定機能の詳細を説明する。演算装置13は、フーリエ空間において最小化問題を解くことにより点像分布関数を推定する第1の計算手法による推定機能と、実空間において最小化問題を解くことにより点像分布関数を推定する第2の計算手法による推定機能とを有している。演算装置13で実行される計算手法は、カメラ11によって得られる試料の像におけるS/Nの高低に応じて、第1の計算手法と第2の計算手法のうちから選択される。この選択は、演算装置13に対するユーザからの入力に応じて行われてもよいし、光源3の発光強度等を基にS/Nの高低を判断することにより演算装置13により自動的に行われてもよい。演算装置13は、点像分布関数の推定処理を行う際には、カメラ11から出力された2次元画像データの中から試料Sの像の部分を切り出して試料画像データとして予め取得し、2次元画像データの中から1つの開口部19の像の部分を切り出して参照画像データとして予め取得する。加えて、演算装置13は、開口部19の既知の円形の形状を基に予め設定された開口部19の理想像に対応した理想画像データ(形状の情報)を取得する。例えば、開口部19の場合は、予め計測した開口部19の半径に対応する半径を有する円の内部が白であり、その円の外部が黒である画像データを、理想画像データとして取得する。開口部19の代わりに円形の不透明物体を用いる場合は、その物体の半径に対応する半径を有する円の内部が黒であり、その円の外部が白である画像データを、理想画像データとして取得する。
まず、演算装置13の第1の計算手法による推定機能について説明する。
この機能では、参照画像データのフーリエ変換後の値Gと、理想画像データのフーリエ変換後の値Fとを用いて、点像分布関数のフーリエ変換後の値Pを、下記式(1)及び下記式(2)に示すフーリエ空間での最小化問題を解くことにより推定される。




上記式(1)、(2)中、添え字「*」は推定解であることを示し、添え字「R」、「I」はそれぞれ実成分及び虚成分を示し、添え字「i」、「j」はフーリエ空間での周波数位置を示し、「ε」は任意の実定数、「λ」は予め適切な値に設定された実定数である。なお、上記式(1)、(2)の右辺第2項は、点像分布関数の値Pのフーリエ空間における滑らかさを示す値であり、具体的には、値PのグラディエントのL2ノルムの二乗によって計算され、上記式(1)、(2)を解くことは、値P,G,Fと滑らかさを示す値とに関する最小化問題を解くことを意味する。
そして、演算装置13は、上記のようにして推定した点像分布関数のフーリエ変換値の実成分P及び虚成分Pから点像分布関数のフーリエ変換値Pを下記式(3);


を用いて算出する。上記式(3)中、「i」は虚数単位を示す。さらに、演算装置13は、点像分布関数のフーリエ変換値Pを逆フーリエ変換することにより、下記式(4);


を用いて、点像分布関数の推定値pを算出する。
上記第1の計算手法による推定の原理について説明すると、一般に、光学系を介して実際に観測される像gは、その光学系の点像分布関数pによって理想的な像fがぼけた像となってしまい、下記式(5)に示すように、像fと点像分布関数pとのコンボリューション(畳み込み演算)によって表される。


また、畳み込み定理により、フーリエ変換後の値G,P,Fは、下記式(6);


の関係を有することが知られている。この関係から、従来の点像分布関数の推定手法では、下記式(7);


を用いて、点像分布関数を推定していた(逆フィルタ法)。
上記逆フィルタ法では、ノイズに対して脆弱であることが知られており、逆フィルタ法を改善したウィーナフィルタ法が、ノイズに対してロバストな推定手法として用いられている。このウィーナフィルタ法では、下記式(8);


を用いて点像分布関数が推定される。上記式(8)中、「ε」は任意の実定数である。ウィーナフィルタ法では「ε」を大きくすることによりノイズ耐性を改善することができるが、その一方で「ε」が大きすぎると点像分布関数の推定精度が下がってしまう。そこで、本実施形態での第1の計算手法では、フーリエ空間において点像分布関数の実成分及び虚成分がそれぞれフーリエ空間において滑らかであることも拘束条件として点像分布関数を推定する。すなわち、式(1)、(2)において、右辺の第1項はウィーナフィルタ法での推定のための式(8)に対応する項であり、右辺の第2項は滑らかさを拘束条件として要求する項であり、実定数λが大きいほど滑らかな解が得られる。本実施形態では、実定数εを小さく保ちながら、実定数λを適切な値に調整することにより、点像分布関数の解の真値からの乖離を小さく保ちつつ推定処理のノイズ耐性を改善することができる。
特に、演算装置13は、式(1)、(2)をフーリエ変換を用いて高速に解くことができる。すなわち、式(1)、(2)を解くことは、下記式(9)の形式の最小化問題を解くことと同義である。


上記式(9)を変数xi,jについて微分してゼロに等しいとすれば、下記式(10);


が導かれる。この式(10)は、変数xと図4に示すようなカーネルとの畳み込み演算をした値が変数yに一致することを意味している。よって、演算装置13は、点像分布関数のフーリエ変換値Pを、式(10)の形式に変形してから上述した逆フィルタ法を用いて解くことにより高速に求めることができる。
次に、演算装置13の第2の計算手法による推定機能について説明する。
この機能では、点像分布関数の実空間の値pが、参照画像データの実空間の値gと、理想画像データの実空間の値fとを用いて、下記式(11)に示す実空間での最小化問題を解くことにより推定される。


上記式(11)に示すように、値pがゼロ以上であることを拘束条件として、値fと値pとの畳み込み演算の値が値gに近くなるように、点像分布関数の値pが推定される。つまり、点像分布関数は非負でなければならないので、観測された像を再現し、かつ、非負であるような点像分布関数が推定される。この式の解は、ラグランジュ(Lagrange)の未定定数法を用いて拘束条件無しの最小化問題に帰着することで、最急降下法などの勾配法を用いて求めることができる。この第2の計算手法は、第1の計算手法に比較してノイズにロバストである一方、第2の計算手法を用いた際の演算時間は逐次近似法を用いて繰り返し演算により解を推定する必要があるために第1の計算手法に比較して長くなる傾向にある。なお、観測された画像の画素値のデータの統計性を考慮し、例えば、データがポアソン分布に従うときは、演算装置13は、第2の計算手法として、下記式(12);


を用いて値pの解を求めることができ、この場合はより正確な解を求めることができる。
上記式(12)を用いた第2の計算方法は、以下の考え方に基づいている。まず、単一画素について考える。画素値がポアソン分布に従うとする。ポアソン分布は平均値λをパラメータとして含む。つまり、計測を多数回繰り返し、注目している単一画素の値を平均するとλに漸近する。画素値としてgが得られる確率は、下記式(13);


によって計算される値となる。次に複数の画素を考える。画素の位置を表す添え字をiとすると、i番目の画素で画素値gが得られる確率は、下記式(14);


によって計算される値となる。ただしλは画素iにおける画素値の平均値である。画素i=0〜N−1において画素値g〜gN−1が得られる確率は、下記式(15);


によって計算される。これは、総乗記号Πを用いて、下記式(16);


のように表される。
今、ぼけのない像をf、点像分布関数をpとすれば、観測される画像はfとpとのコンボリューションとなる。これは統計的揺らぎを考慮しない場合である。ポアソン統計に従うとすれば、画素iの値は平均がコンボリューションのポアソン分布に従う。つまり、上記式(16)のλとしてfとpとのコンボリューションを代入すれば上記式(12)を得ることができる。
さらに、演算装置13は、第1の計算手法による推定機能及び第2の計算手法による推定機能の他、両推定機能によって求められた点像分布関数の値pがノイズが多く不十分な場合には次のようなフィルタ処理を行う機能(フィルタ機能)も有する。このフィルタ機能では、顕微鏡の典型的な線像分布関数がガウス関数の重ね合わせであるという性質が利用される。すなわち、演算装置13は、推定した点像分布関数の値pを撮像面上のある角度θの方向に沿って順投影(線積分)することにより線像分布関数の値hを計算する。そして、演算装置13は、得られた線像分布関数の値hをガウス関数によってフィッティングし、フィッティングにより線像分布関数の値hを再取得する。このとき、演算装置13は、複数の線像分布関数の値hを、予め適切に設定された角度ステップΔθで0度から180度の範囲で変更された複数の角度θで順投影することにより計算し、計算した複数の線像分布関数の値hを対象にフィッティングを実行する。さらに、演算装置13は、フィッティングにより再取得した複数の線像分布関数hを再構成することによって最終的に推定された点像分布関数の値pを取得する。この点像分布関数への再構成は、複数の角度θの線像分布関数を投影像としてフィルタドバックプロジェクション(Filtered Back Projection)法等のCT(Computed Tomography)画像再構成のアルゴリズムを用いて実行される。これにより、点像分布関数の先鋭度を損ねることなく推定結果を改善することができる。なお、フィッティングに用いる関数はガウスライク関数には限定されず、事前に系の線像分布関数形が予測できればその関数形の関数を使ってフィッティングすることが好適である。
以下、上述した観察システム1を用いた点像分布関数の推定方法の手順、及び、試料Sの観察画像の取得方法の手順について説明する。図5は、観察システム1による点像分布関数の推定から観察画像の出力までの手順を示すフローチャートである。
まず、ユーザの所定の操作により試料Sの観察が開始されると、観察システム1の光学系を介して試料Sの像と試料ホルダ7の開口部19の像とが同時に撮像される(ステップS101)。これにより、カメラ11によって生成された2次元画像データを基に、演算装置13において試料画像データと参照画像データとが同時に取得される(ステップS102)。
次に、演算装置13により、試料画像データのS/Nの高低が判断される(ステップS103)。この判断は、例えば、光源3の発光強度等に基づいて判断される。判断の結果、S/Nが比較的高い場合には(ステップS103;Yes)、第1の計算手法が選択され、演算装置13により、第1の計算手法を用いてフーリエ空間での点像分布関数の値Pが計算される(ステップS104)。その後、演算装置13により、値Pが逆フーリエ変換されることにより、実空間の点像分布関数の推定値pが計算される(ステップS105)。一方で、S/Nが比較的低いと判断された場合には(ステップS103;No)、第2の計算手法が選択され、演算装置13により、第2の計算手法を用いて実空間での点像分布関数の推定値pが計算される(ステップS106)。
さらに、演算装置13により、計算した点像分布関数の推定値pが良好であるかが判断される(ステップS107)。この判断は、推定値pにおけるノイズの高低に基づいて行われる。より具体的には、コントラスト、あるいは点像分布周辺部の分散等を指標として判断される。判断の結果、推定値pが良好でない場合には(ステップS107;No)、演算装置13によって、フィルタ処理が施されて点像分布関数の値pが改善される(ステップS108)。一方、推定値pが良好であると判断された場合には(ステップS107;Yes)、演算装置13によって、ステップS105またはステップS106で推定された値pがそのまま利用される。
次に、演算装置13により、推定した点像分布関数の値pを用いて、試料画像データがデコンボリューション(畳み込み演算の逆演算)されることにより、出力用試料画像データが生成される(ステップS109)。そして、演算装置13により、推定した点像分布関数の値pと、出力用試料画像データとが、ディスプレイ等の出力デバイスに画像イメージとして同時に出力される(ステップS110)。これにより、ユーザに点像分布関数の妥当性をリアルタイムで確認させると同時に、ボケの除去された試料Sの観察画像を出力することができる。
以上説明した観察システム1及びそれを用いた点像分布関数推定方法によれば、光学系を用いて試料Sを撮像して得られた試料画像データと開口部19の像を撮像して得られた参照画像データとが同時に得られ、参照画像データと開口部19の形状に対応した理想画像データとを基に推定された点像分布関数を用いて、試料画像データの画像からボケが除去された出力用試料画像データが生成され、点像分布関数及び出力用試料画像データが画像イメージとして出力される。これにより、試料Sの観察時に迅速にボケが除去された試料Sの画像を得ることができる。
また、本実施形態においては、試料Sを保持する光透過部17及び円形の開口部19を有する試料ホルダ7と、試料ホルダ7に向けて光を照射する光源3とを用いて、試料画像データと参照画像データとが取得されている。このような構成により、光が照射された試料Sの撮像と同時に、円形の開口部19を通過する光によって形成される像を撮像することによって、簡易に試料画像データ及び参照画像データを得ることができる。
さらに、本実施形態における第2の計算手法を用いた点像分布関数の推定においては、点像分布関数がゼロ以上であることを拘束条件として推定されている。こうすれば、ノイズにロバストな点像分布関数の推定を実現することができる。
また、本実施形態における第1の計算手法を用いた点像分布関数の推定おいては、フーリエ変換した値P,G,Fと点像分布関数のフーリエ空間における滑らかさを示す値とに関する最小化問題を解くことにより、点像分布関数が推定されている。かかる手法によれば、高速な演算によって短時間で真値に近い点像分布関数を推定することができる。
また、本実施形態では、推定した点像分布関数の値が不十分な場合には、その値にさらにフィルタ処理が施されている。こうすれば、実空間で滑らかな点像分布関数を得ることができ、点像分布関数の推定精度をより向上できる。
次に、本実施形態の効果をシミュレーションによって確認した結果を示す。シミュレーションでは、真の点像分布関数を標準偏差2.5ピクセルのガウス関数として、半径が40ピクセルの円形開口像を理想画像データとして用いて第1の計算手法及び第2の計算手法を用いて点像分布関数を推定した。このシミュレーションでは円形開口像の最大画素値の10%を標準偏差とするガウスノイズを加算したものを参照画像データに設定した。
図6において、(a)部には真の点像分布関数の画像イメージを示し、(b)部には、従来のウィーナフィルタ法によって推定した比較例1の点像分布関数の画像イメージを示し、(c)部には、本実施形態の第2の計算手法によって推定した点像分布関数の画像イメージを示している。また、図7には、真の点像分布関数、比較例1における点像分布関数、及び本実施形態の第2の計算手法によって推定した点像分布関数の一次元方向のプロファイルを示している。ここでは、比較例1では、実定数ε=1000と設定した。この結果により、ウィーナフィルタ法に比較して第2の計算手法のほうが真値に近い良好な関数が得られていることが分かる。この第2の計算手法は、演算時間は比較的長いが、ノイズにロバストな手法であるため、光源強度の弱い光学系に好適である。
図8において、(a)部には真の点像分布関数の画像イメージを示し、(b)部には、従来のウィーナフィルタ法(実定数ε=500)によって推定した比較例2の点像分布関数の画像イメージを示し、(c)部には、従来のウィーナフィルタ法(実定数ε=2000)によって推定した比較例3の点像分布関数の画像イメージを示し、(d)部には、本実施形態の第1の計算手法によって推定した点像分布関数の画像イメージを示している。また、図9には、真の点像分布関数、比較例2,3における点像分布関数、及び本実施形態の第1の計算手法によって推定した点像分布関数の一次元方向のプロファイルを示し、図10には、図9の一次元プロファイルを拡大して示している。ここでは、第1の計算手法では、実定数ε=500、実定数λ=10と設定した。この結果により、ウィーナフィルタ法に比較して第1の計算手法のほうが真値に近い良好な関数が得られていることが分かる。特に、実定数εを小さく保ったまま実定数λとして適切な値を与えることで、点像分布関数の先鋭度を損なうことなく良好な推定が行われていることが確認できた。この第1の計算手法は、演算時間がウィーナフィルタ法の高々定数倍程度であり高速である。また、第1の計算手法は光源強度の比較的強い光学系に好適である。
次に、図11に示すような実験光学系101を用いて本実施形態の効果を評価した結果を示す。図11に示すように、実験光学系101としては、本実施形態を想定して、LEDである光源3とカメラ11との間に、Nikon社製の4倍対物レンズ9aと焦点距離80mmの平凸レンズ9bとを組み合わせた結像用レンズを配置したものを用いた。そして、光源3と対物レンズ9aとの間に直径1mmの円形開口部を有する遮蔽板21を配置し、光源3から照射された光によって生じる円形開口像をカメラ11を用いて撮像し、その結果得られた画像データを基に演算装置13を用いて点像分布関数を計算した。さらには、従来手法であるエッジ法も評価するため、実験光学系101を用いて、カッターナイフの刃を撮像した結果得られる画像データを基にエッジ法によって線像分布関数を計算した。エッジ法とは、ナイフエッジあるいは金属ワイヤのエッジ等を撮像した結果得られる画像データの一次元分布を計算することにより線像分布関数を得る手法である。
図12には、実験光学系101を用いて推定された線像分布関数の画像イメージを示し、(a)部には本実施形態の第2の計算手法による推定結果を示し、(a)部には従来のウィーナフィルタ法(実定数ε=1)による推定結果を示し、(c)部には本実施形態の第1の計算手法(実定数ε=1、実定数λ=3)による推定結果を示している。この結果より、従来法による推定結果においては輝度の高い中心部の周囲に値のばらつきが見られるが、本実施形態の推定結果においては値のばらつきが少なく良好な結果が得られていることが分かる。
図13には、実験光学系101を用いて第2の計算手法によって推定された点像分布関数の一次元プロファイルを、エッジ法によって取得された線像分布関数と比較して示している。この結果から、第2の計算手法による推定結果はエッジ法による計算結果とよく一致していることが明らかになった。
図14には、実験光学系101を用いて第1の計算手法によって推定された点像分布関数の一次元プロファイルを、従来のウィーナフィルタ法(実定数ε=1)による推定結果、及びエッジ法によって取得された線像分布関数と比較して示している。従来のウィーナフィルタ法ではノイズの影響によりピークの周囲に値のばらつきが見られるが、第1の計算手法では、フーリエ空間における滑らかさが要求されることにより、このような値のばらつきが改善されていることが明らかとなった。また、第1の計算手法による推定結果もエッジ法による計算結果とよく一致していることが分かった。
以上、本発明の種々の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、各請求項に記載した要旨を変更しない範囲で変形し、又は他のものに適用したものであってもよい。
上記実施形態では、試料Sの像とともに試料ホルダ7の円形開口部19の像を撮像していたが、回転対称な形状の像を撮像できればそれに限定されるものではなく、例えば、試料Sの像とともに蛍光ビーズ等の球状の物体の像を撮像してもよいし、円筒形の物体の像を撮像してもよい。シャープなエッジを撮像できるという点では円筒形の物体を撮像することも好ましい。
1…観察システム、3…光源(光学系)、5…集光用レンズ(光学系)、7…試料ホルダ、9…結像用レンズ(光学系)、11…カメラ(撮像装置)、13…演算装置、17…光透過部(保持部)、19…開口部、S…試料。

Claims (16)

  1. 光学系を用いて試料を撮像した結果得られた試料画像データと、前記光学系を用いて既知の回転対称な形状の像を前記試料と同時に撮像した結果得られた参照画像データとを取得する取得ステップと、
    前記参照画像データと、前記形状の情報とを基に前記光学系の点像分布関数を推定する推定ステップと、
    前記点像分布関数を用いて前記試料画像データをデコンボリューションすることにより出力用試料画像データを生成する生成ステップと、
    前記点像分布関数と前記出力用試料画像データとを出力する出力ステップと、
    を備える点像分布関数推定方法。
  2. 前記回転対称な形状は円形である、
    請求項1に記載の点像分布関数推定方法。
  3. 前記取得ステップでは、試料を保持する保持部及び光を通過させる円形の開口部を有する試料ホルダと、試料ホルダに向けて光を照射する光源とを用いて、前記試料画像データと前記参照画像データとを取得する、
    請求項2に記載の点像分布関数推定方法。
  4. 前記推定ステップでは、前記点像分布関数がゼロ以上であることを拘束条件として前記点像分布関数を推定する、
    請求項1〜3のいずれか1項に記載の点像分布関数推定方法。
  5. 前記推定ステップでは、前記参照画像データと前記形状の情報とをフーリエ変換した値と、フーリエ変換後の前記点像分布関数とに関する最小化問題を解くことにより、前記点像分布関数を推定する、
    請求項1〜3のいずれか1項に記載の点像分布関数推定方法。
  6. 前記推定ステップでは、前記フーリエ変換した値と、前記フーリエ変換後の前記点像分布関数と、前記点像分布関数のフーリエ空間における滑らかさを示す値とに関する最小化問題を解くことにより、前記点像分布関数を推定する、
    請求項5に記載の点像分布関数推定方法。
  7. 前記推定ステップでは、推定した前記点像分布関数を基に線像分布関数を計算し、前記線像分布関数を任意の関数でフィッティングし、フィッティングした前記線像分布関数を用いて点像分布関数を再構成する、
    請求項1〜6のいずれか1項に記載の点像分布関数推定方法。
  8. 前記推定ステップでは、前記線像分布関数を撮像面における複数の方向に沿って積分することによって複数の線像分布関数を計算し、前記複数の線像分布関数を任意の関数でフィッティングし、フィッティングした前記複数の線像分布関数を用いて点像分布関数を再構成する、
    請求項7に記載の点像分布関数推定方法。
  9. 試料の像及び既知の回転対称な形状の像を同時に導く光学系と、
    前記試料の像を前記光学系を介して撮像して試料画像データを取得すると同時に、前記既知の回転対称な形状の像を前記光学系を介して撮像して参照画像データを取得する撮像装置と、
    前記参照画像データと、前記形状の情報とを基に前記光学系の点像分布関数を推定し、前記点像分布関数を用いて前記試料画像データをデコンボリューションすることにより出力用試料画像データを生成し、前記点像分布関数と前記出力用試料画像データとを出力する演算装置と、
    を備える点像分布関数推定装置。
  10. 前記回転対称な形状は円形である、
    請求項9に記載の点像分布関数推定装置。
  11. 試料を保持する保持部及び光を通過させる円形の開口部を有する試料ホルダと、
    前記試料ホルダに向けて光を照射する光源と、
    をさらに備え、
    前記撮像装置は、前記光源から前記光が照射された前記試料の像、及び、前記開口部を通過する前記光によって生ずる前記開口部の像を撮像する、
    請求項10に記載の点像分布関数推定装置。
  12. 前記演算装置は、前記点像分布関数がゼロ以上であることを拘束条件として前記点像分布関数を推定する、
    請求項9〜11のいずれか1項に記載の点像分布関数推定装置。
  13. 前記演算装置は、前記参照画像データと前記形状の情報とをフーリエ変換した値と、フーリエ変換後の前記点像分布関数とに関する最小化問題を解くことにより、前記点像分布関数を推定する、
    請求項9〜11のいずれか1項に記載の点像分布関数推定装置。
  14. 前記演算装置は、前記フーリエ変換した値と、前記フーリエ変換後の前記点像分布関数と、前記点像分布関数のフーリエ空間における滑らかさを示す値とに関する最小化問題を解くことにより、前記点像分布関数を推定する、
    請求項13に記載の点像分布関数推定装置。
  15. 前記演算装置は、推定した前記点像分布関数を基に線像分布関数を計算し、前記線像分布関数を任意の関数でフィッティングし、フィッティングした前記線像分布関数を用いて点像分布関数を再構成する、
    請求項9〜14のいずれか1項に記載の点像分布関数推定装置。
  16. 前記演算装置は、前記線像分布関数を撮像面における複数の方向に沿って積分することによって複数の線像分布関数を計算し、前記複数の線像分布関数を任意の関数でフィッティングし、フィッティングした前記複数の線像分布関数を用いて点像分布関数を再構成する、
    請求項15に記載の点像分布関数推定装置。
JP2018186836A 2018-10-01 2018-10-01 点像分布関数推定方法及び点像分布関数推定装置 Active JP7274273B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018186836A JP7274273B2 (ja) 2018-10-01 2018-10-01 点像分布関数推定方法及び点像分布関数推定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018186836A JP7274273B2 (ja) 2018-10-01 2018-10-01 点像分布関数推定方法及び点像分布関数推定装置

Publications (2)

Publication Number Publication Date
JP2020057163A true JP2020057163A (ja) 2020-04-09
JP7274273B2 JP7274273B2 (ja) 2023-05-16

Family

ID=70107344

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018186836A Active JP7274273B2 (ja) 2018-10-01 2018-10-01 点像分布関数推定方法及び点像分布関数推定装置

Country Status (1)

Country Link
JP (1) JP7274273B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023276927A1 (ja) 2021-06-28 2023-01-05 浜松ホトニクス株式会社 X線焦点形状評価装置およびx線焦点形状評価方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006504114A (ja) * 2001-11-28 2006-02-02 ライカ ミクロジュステムス ヴェツラー ゲーエムベーハー 顕微鏡画像の導入された「ブラインド・デコンボリューション」方法及びソフトウエア
JP2009237085A (ja) * 2008-03-26 2009-10-15 Japan Science & Technology Agency 位相物体識別装置及び方法
JP2013005258A (ja) * 2011-06-17 2013-01-07 Panasonic Corp ブレ補正装置、ブレ補正方法及び帳票

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006504114A (ja) * 2001-11-28 2006-02-02 ライカ ミクロジュステムス ヴェツラー ゲーエムベーハー 顕微鏡画像の導入された「ブラインド・デコンボリューション」方法及びソフトウエア
JP2009237085A (ja) * 2008-03-26 2009-10-15 Japan Science & Technology Agency 位相物体識別装置及び方法
JP2013005258A (ja) * 2011-06-17 2013-01-07 Panasonic Corp ブレ補正装置、ブレ補正方法及び帳票

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023276927A1 (ja) 2021-06-28 2023-01-05 浜松ホトニクス株式会社 X線焦点形状評価装置およびx線焦点形状評価方法

Also Published As

Publication number Publication date
JP7274273B2 (ja) 2023-05-16

Similar Documents

Publication Publication Date Title
JP6379785B2 (ja) 断層画像生成システム
JP6900581B1 (ja) 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
EP2314988A1 (en) Image photographing device, distance computing method for the device, and focused image acquiring method
JP6598850B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2014057303A (ja) 深度推定手順において改善されたシーン検出を利用するためのシステム及び方法
US20100158318A1 (en) Focal spot size measurement with a movable edge located in a beam-shaping device
CN111353958A (zh) 图像处理方法、装置及系统
JP7274273B2 (ja) 点像分布関数推定方法及び点像分布関数推定装置
Joshi et al. Multi-focus image fusion using discrete wavelet transform method
US9014506B2 (en) Image processing method, program, image processing apparatus, image-pickup optical apparatus, and network device
JP4743773B2 (ja) エッジ検出方法、装置、及びプログラム
US20130308841A1 (en) Method and apparatus for image processing
KR20150089382A (ko) 디지털 유방 엑스선 촬영용 시스템을 위한 검출양자효율의 검출방법, 검출시스템 및 그 방법을 실행하는 프로그램이 기록된 기록매체
WO2009077779A2 (en) Method and apparatus for providing image data
JP2001238868A (ja) 画像処理方法及び画像処理装置
CN110708471B (zh) 一种基于主动照明的ccd自关联成像系统及方法
JP2016198504A (ja) 画像生成装置、x線コンピュータ断層撮影装置及び画像生成方法
US7049616B2 (en) Methods, apparatus, and software for adjusting the focal spot of an electron beam
CN113192154B (zh) 基于边缘计算的水下鬼成像系统及深度学习图像重建方法
Boone et al. Sinusoidal modulation analysis for optical system MTF measurements
US20040210617A1 (en) Sampling methods, reconstruction methods and devices for sampling and/or reconstructing multidimensional signals
JP2004073449A (ja) X線撮影装置
JP2017070590A (ja) 画像処理装置及びその制御方法、コンピュータプログラム
Chen et al. Task-based lens design with application to digital mammography
JP2017017551A (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210921

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220913

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230501

R150 Certificate of patent or registration of utility model

Ref document number: 7274273

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150