JP2014021487A - 顕微鏡法における被写界深度(dof)をシミュレートするための方法及び装置 - Google Patents
顕微鏡法における被写界深度(dof)をシミュレートするための方法及び装置 Download PDFInfo
- Publication number
- JP2014021487A JP2014021487A JP2013142661A JP2013142661A JP2014021487A JP 2014021487 A JP2014021487 A JP 2014021487A JP 2013142661 A JP2013142661 A JP 2013142661A JP 2013142661 A JP2013142661 A JP 2013142661A JP 2014021487 A JP2014021487 A JP 2014021487A
- Authority
- JP
- Japan
- Prior art keywords
- image
- psf
- pixel
- depth
- integral image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Image Processing (AREA)
- Microscoopes, Condenser (AREA)
Abstract
【課題】顕微鏡法における被写界深度をシミュレートするための方法及び装置を提供する。
【解決手段】被写界深度をシミュレートするための装置100は、デジタル顕微鏡102及びコンピュータ装置104を含む。デジタル顕微鏡102は、標本のデジタル画像を異なる深度でキャプチャして一連の画像を作成する。コンピュータ装置104は、中央処理装置106、サポート回路108、メモリ110及びI/O装置112を含む。メモリ110は、オペレーティングシステム114、DOFシミュレーションモジュール116を含む。DOSシミュレーションモジュール116は、デジタル顕微鏡102を用いてキャプチャされた一連の標本画像をシミュレートする。DOFシミュレーションモジュール116は、全焦点画像生成器118及び深度マップ生成器120を含む。焦点画像生成器118は、全焦点画像を生成する。
【選択図】図1
【解決手段】被写界深度をシミュレートするための装置100は、デジタル顕微鏡102及びコンピュータ装置104を含む。デジタル顕微鏡102は、標本のデジタル画像を異なる深度でキャプチャして一連の画像を作成する。コンピュータ装置104は、中央処理装置106、サポート回路108、メモリ110及びI/O装置112を含む。メモリ110は、オペレーティングシステム114、DOFシミュレーションモジュール116を含む。DOSシミュレーションモジュール116は、デジタル顕微鏡102を用いてキャプチャされた一連の標本画像をシミュレートする。DOFシミュレーションモジュール116は、全焦点画像生成器118及び深度マップ生成器120を含む。焦点画像生成器118は、全焦点画像を生成する。
【選択図】図1
Description
本発明の実施形態は、一般に、デジタル顕微鏡法に関する画像の管理に関し、より具体的には、顕微鏡法における被写界深度(DOF)をシミュレートするための方法及び装置に関する。
デジタル顕微鏡は、標本を異なる深度で撮像して一連のデジタル画像を作成するものである。各画像は、特定の焦点深度における標本の部分を表す。従って、ある深度では、標本全体の一部にしか焦点が合っていない。この一連のデジタル画像は、深度に対応するZ次元に沿ってスタックされ、これをZスタックと呼ぶ。Zスタック内の各画像は、キャプチャする標本の異なる深度に合焦したものである。このZスタックを、標本の全焦点画像及び深度マップを使用してシミュレートすることもできる。このシミュレーションは、元々のデータの深度に依存するボケ及び感触を維持しながら元々のZスタックへの超低帯域幅近似を提供し、様々なZスタックデータ圧縮スキームにおいて役立つことができる。
顕微鏡法におけるDOFのシミュレーションは、現在の技術によって対処しきれていない多くの問題を提起する。DOFをシミュレートする1つの試みによれば、ガウス型フィルタを用いてモデル化した、システムの点広がり関数(PSF)による空間的に変化する2次元畳み込みとしての画像を形成するモデルを使用することにより、Zスタックを間接的に使用することが開示されている。しかしながら、この方法では、手順の空間的に変化する性質により、計算の複雑性が高い。満足できる焦点ずれしたボケを達成するには、フィルタが広い空間をサポートすることが必要なため、複雑性がさらに増す。他の従来の方法では、一般に品質と複雑性の間のトレードオフが必要になる。1つのこのような従来の方法では、コンピュータ処理による人工的なシーンに関するDOFをシミュレートすることにより、その結果が高グラフィック品質であることが求められ、これが高度な複雑性という代償を払って達成される。
従って、顕微鏡法における被写界深度(DOF)をシミュレートするための方法及び装置が必要とされている。
実質的に図の少なくとも1つに示し及び/又はこれに関連して説明し、特許請求の範囲により完全に記載する、顕微鏡法における被写界深度(DOF)をシミュレートするための装置及び/又は方法を提供する。
以下の説明及び図面から、本開示の様々な利点、態様及び新規の特徴、並びにこれらを示す実施形態の詳細がより完全に理解されるであろう。
上述した本発明の特徴を詳細に理解できるように、いくつかを添付図面に示す実施形態を参照しながら、上記で簡単に要約した本発明のより詳細な説明を行うことができる。しかしながら、添付図面には、本発明の典型的な実施形態しか示しておらず、従って本発明は他の等しく効果的な実施形態も認めることができるので、これらの図面が本発明の範囲を限定すると見なすべきではない。
一般に、本開示の実施形態は、実質的に図の少なくとも1つに示し及び/又はこれに関連して説明し、特許請求の範囲により完全に記載する、顕微鏡法における被写界深度(DOF)をシミュレートするための装置及び/又は方法を含む。実施形態によれば、顕微鏡撮像におけるDOFをシミュレートする方法が、顕微鏡によってキャプチャした一連の画像を、深度マップ及び全焦点画像を用いて近似するステップを含む。これらの一連の画像は、異なる焦点深度に対応するZスタック内に存在する。この実施形態は、顕微鏡の点広がり関数(PSF)を、Zスタック内の全画像の各画素のボックス関数として近似するステップをさらに含む。全焦点画像の各画素は、シミュレートしたZスタックに対し、ボケの量が深度差に依存する全焦点画像の画素のボケたバージョンとして寄与する。
図1は、本発明の例示的な実施形態による、顕微鏡法における被写界深度(DOF)をシミュレートするための装置100のブロック図である。装置100は、デジタル顕微鏡102及びコンピュータ装置104を含む。いくつかの実施形態では、デジタル顕微鏡102がコンピュータ装置104に結合される。他の実施形態では、顕微鏡102によって画像のスタックが作成され、メモリスティック、コンパクトディスク又はネットワーク接続などを介してコンピュータ装置104に転送される。
デジタル顕微鏡102は、標本のデジタル画像を異なる深度でキャプチャして一連の画像を作成する。デジタル顕微鏡102は、標本を異なる深度で撮像して一連のデジタル画像を作成する。例示を目的として、この一連のデジタル画像を、式A:I(x,y,z)によって表し、式中、(x,y)は、x=0〜X−1、y=0〜Y−1とする空間指数であり、zは、z=0〜Z−1とする深度指数である[式A]。
コンピュータ装置104は、中央処理装置(すなわちCPU)106、サポート回路108、メモリ110及びI/O装置112を含む。CPU106は、データの処理及び記憶を容易にする1又はそれ以上の市販のマイクロプロセッサ又はマイクロコントローラを含むことができる。様々なサポート回路108は、CPU106の動作を容易にし、1又はそれ以上のクロック回路、電源、キャッシュ、入力/出力回路などを含む。メモリ110は、リードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、ディスクドライブ型記憶装置、光学記憶装置、取り外し可能記憶装置及び/又は同様のもの、のうちの少なくとも1つを含む。メモリ110は、オペレーティングシステム(OS)114、DOFシミュレーションモジュール116を含む。DOSシミュレーションモジュール116は、デジタル顕微鏡102を用いてキャプチャされた一連の標本画像をシミュレートする。DOFシミュレーションモジュール116は、全焦点画像生成器118及び深度マップ生成器120を含む。全焦点画像生成器118は、本発明の原理に従って全焦点画像を生成する。
本明細書では「全焦点画像」という用語を使用しているが、これは、スライド上の標本の一連の画像のZスタックを3次元から2次元に縮小して、焦点が合った全体的な標本が得られるようにすることを意味する。全焦点画像は、同一出願人による米国特許出願代理人整理番号201003513.01に記載されるように、特定の手段に従って各画像に重み付けし、これに応じて重み付けした画像を組み合わせることにより形成され、この特許出願はその全体が引用により本明細書に組み入れられる。
全焦点画像は、焦点ずれしたボケを含まない、Zスタック内の各焦点深度に焦点が合った画像部分の合成画像である。全焦点画像は、式B:I∞(x,y)[式B]によって表される。
全焦点画像を求めるために、深度マップ生成器120は、各画素における深度を計算し、その画素においてZスタックのどの画像が最も焦点が合っているかを示すように深度マップを生成する。深度マップは、式C:d(x,y)[式C]によって表される。この深度マップd(x,y)は、各位置(x,y)においてZスタック内のどの画像が最も焦点が合っているかを示す。
コンピュータ装置104は、動作時にDOFシミュレーションモジュール116を実行する。DOFシミュレーションモジュール116は、これらの深度マップ及び全焦点画像を用いて、顕微鏡102によりキャプチャした一連の画像を近似するための1又はそれ以上の方法の実施を容易にする。
図2に、デジタル顕微鏡102によって生成されたZスタック200の例を示す。Zスタック200内の各画像は、標本内の異なる深度に焦点を合わせたものである。デジタル顕微鏡102は、標本のデジタル画像を異なる焦点深度でキャプチャして一連の画像を作成する。従って、標本を観察しながら焦点深度を増分して、焦点の合った異なる標本部分をキャプチャする。この一連のデジタル画像を、深度に対応するZ次元に沿ってスタックし、標本の一部に焦点が合った関連する画像がZスタック内に焦点深度毎に存在するようにする。
図3に、本発明の例示的な実施形態による、図2に示すZスタック200の5つの個々の画像を示す。図3には、画像302、304、306、308及び310を示しており、これらの各々は異なるZ深度におけるものである。例えば、デジタル顕微鏡のユーザが最初に標本スライドを観察した時には画像302が現れる。ユーザが異なるZ深度に焦点を調整したいと望む場合、図2に示すZスタック200を形成する画像304などが現れる。
いくつかの用途では、例えば15枚、30枚又は50枚などの数多くの画像がZスタック内に存在する。このため、Zスタックの記憶又は送信には高帯域幅要件が課される。図4に、本発明のいくつかの実施形態による、深度マップを生成する処理の結果例を示す。元々のデータセット、すなわちZスタックは、例えば50枚の画像を含み、そのうちのいくつかを図2及び図3に示している。図4では、画像400は全焦点画像であり、画像402は、特定の画素においてZスタックのどの画像が最も焦点が合っているかを示すように計算された深度マップである。この深度マップにより、DOFシミュレーションモジュール116は、標本画像の特定の画素又は領域に関してどのZスタック画像を表示すべきかを決定できるようになる。
図5は、本発明の例示的な実施形態による、図1のDOFシミュレーションモジュール116により実行される、顕微鏡法におけるDOFをシミュレートする方法500のフロー図である。
方法500は、CPU106により実行されるDOFシミュレーションモジュール116の実施例である。DOFシミュレーションモジュール116は、全焦点画像生成器118及び深度マップ生成器120を含む。
この方法は、ステップ502から開始してステップ504に進む。ステップ504において、DOFシミュレーションモジュール116は、Zスタック内の各画像の各画素のボケ量を計算する。例示的な実施形態によれば、このボケ量は、σ=η0+η1|d(x,y)−z|として計算され、式中、パラメータη0及びη1は、システムの光学特性に従って決定されるが、Zスタックから直接推定することもできる。|d(x,y)−z|は、深度マップ生成器120により計算される、Zスタック内の特定の画像の深度差を表す。
次に、この方法はステップ506に進み、Zスタック内の各画像の点広がり関数(PSF)の1又はそれ以上の角部に対して数学的演算を行う。点広がり関数(PSF)は、点入力に対する撮像システムの応答を記述するものであり、インパルス応答に類似する。以下で説明する方法は、「BOX PSF」法と呼ばれる。BOX PSF法は、デジタル顕微鏡102のPSFをボックス関数として近似、すなわちシミュレートする。BOX PSF法では、PSFは、サイズσ*σの空間をサポートする一定高さ1/σ2のボックス関数である。
DOFシミュレーションモジュール116は、対応する4対の方程式により表される4対の異なる位置、すなわち、左上、右上、左下及び右下に関する以下の4対の演算の実行を容易にする。1つの実施形態によれば、左上の位置に関する数学的演算が、
及び、
として計算され、右上の位置に関しては、
及び、
として計算され、左下の位置に関しては、
及び、
として計算され、右下の位置に関しては、
及び、
として計算される。当業者であれば、上述の式に適用されるような「F(x)+=C」及び「F(x)−=C」の形の式は、相応に「F(x)=F(x)+C」及び「F(x)=F(x)−C」に展開されると理解するであろう。
及び、
として計算され、右上の位置に関しては、
及び、
として計算され、左下の位置に関しては、
及び、
として計算され、右下の位置に関しては、
及び、
として計算される。当業者であれば、上述の式に適用されるような「F(x)+=C」及び「F(x)−=C」の形の式は、相応に「F(x)=F(x)+C」及び「F(x)=F(x)−C」に展開されると理解するであろう。
次に、方法はステップ508に進み、行った数学的演算に基づいて中間積分画像及び正規化積分画像を計算する。(エリア総和テーブルとしても知られている)積分画像は、Zスタックをシミュレートする3つの方法の各々によって使用される。「エリア総和テーブル」すなわち積分画像は、グリッドの矩形サブセット内の値の和を迅速かつ効率的に生成するためのアルゴリズムを参照する。エリア総和テーブルは、多次元確率分布関数の研究において、すなわちそれぞれの累積分布関数から2−D又はN次元(N−D)確率(すなわち、確率分布下の領域)を計算する上で非常に良く知られている。
画像I(x,y)では、積分画像WI(x,y)が以下のように定義される。
例示的な実施形態によれば、積分画像が以下のように再帰的に計算される。
WI(0,0)=I(0,0)
WI(x,0)=I(x,0)+WI(x−1,0)、x=1,...,X−1
WI(0,y)=I(0,y)+WI(0,y−1)、y=1,...,Y−1
WI(x,y)=I(x,y)+WI(x−1,y)+WI(x,y−1)−W(x−1,y−1)、x≠0,y≠0
例示的な実施形態によれば、積分画像が以下のように再帰的に計算される。
WI(0,0)=I(0,0)
WI(x,0)=I(x,0)+WI(x−1,0)、x=1,...,X−1
WI(0,y)=I(0,y)+WI(0,y−1)、y=1,...,Y−1
WI(x,y)=I(x,y)+WI(x−1,y)+WI(x,y−1)−W(x−1,y−1)、x≠0,y≠0
当業者であれば、積分画像を計算する方法は他にも多く存在し、上述の方法が決して本発明に対する限定を意図したものではないと理解するであろう。ステップ508において、この方法は、H(x,y)の積分画像であるG(x,y)=WH(x,y)を計算し、T(x,y)の積分画像であるS(x,y)=WT(x,y)を計算する。
次に、方法500はステップ510に進み、各入力画素に関して出力画素を求める。例示的な実施形態によれば、この出力画素は、各画素において、ステップ508において求めた中間積分画像と正規化積分画像の比率、すなわち、
として求められる。このようにして出力画素を得る。その後、方法はステップ512において終了する。
として求められる。このようにして出力画素を得る。その後、方法はステップ512において終了する。
図6は、箱状PSFのPSF加算のためのBOX PSF法を示す図である。画像600は全焦点画像であり、画像604はシミュレートした画像である。画像602では、中間和の4つの角部しか処理されておらず、全ての画素のPSFが含まれた後に、この中間和を積分画像により変換して所望のPSF効果が得られるようにする。
なお、カラー画像データでは、3つの異なるチャネル、すなわち赤色、緑色及び青色のための3つの別個の累積、すなわち和が存在する。明確さ及び便宜上の目的で、赤色、緑色及び青色を表す3つの累積を、Hr(n,m)[式D]、Hg(n,m)[式E]、及びHb(n,m)[式F]という3つの式D、E及びFによってそれぞれ表す。しかしながら、カラー画像データでは、正規化に関しては、T(n,m)[式G]によって表される1つの累積しか存在しない。
焦点が人為的に変化するのを防ぐために、代わりに実際のσ(ボケ)の値に従って、各角部に適用するインパルス様の演算を複数の場所に分散させ、これによりユーザがZスタックをナビゲートする際にPSF間のスムーズな移行を保証するとともにアーチファクトを防ぐ。
いくつかの実施形態では、DOFシミュレーションモジュール116により、{σ/2}の端数部分に従うバイリニア補間による角部演算の分散が実施される。なお、その効果は、シミュレートした画像内のPSFの縁部を和らげる(すなわち滑らかにする)ことである。
図7は、各角部の4つの位置にわたる個々の角部演算の分散を示す図である。画像700は、全焦点画像内の2つの明るい画素を示す。画像702は、各角部位置において、図6に示すような単一の角部演算が{σ/2}の端数部分に従って4つの位置に分散していることを示す。画像704は、積分画像を計算後にも効果が図6に示すものと変わらないことを示しているが、この箱状PSFは{σ/2}の端数部分に従って縁部が滑らかになっている。
図8に、反復的BOX PSFを用いてDOFをシミュレートする方法800を示す。方法800は、CPU106によって実行されるDOFシミュレーションモジュール116の例示的な実施である。
この方法は、ステップ802から開始してステップ804に進む。ステップ804において、DOFシミュレーションモジュール116は、Zスタック内の各画像の各画素のボケ量を計算する。例示的な実施形態によれば、このボケ量は、σ=η0+η1|d(x,y)−z|として計算され、式中、パラメータη0及びη1は、システムの光学的特性に従って決定されるが、Zスタックから直接推定することもでき、|d(x,y)−z|は、Zスタック内の特定の画像の深度差を表す。
次に、この方法はステップ806に進み、Zスタック内の各画像の反復的点広がり関数(PSF)の1又はそれ以上の角部に対して数学的演算を行う。
この反復的BOX PSF法は、BOX PSF法を1回又はそれ以上反復して実行する。例えば、反復的ボックスPSF法は、BOX PSF法を2回連続して適用することにより、修正されたPSFを実現する。反復的BOX PSF法の効果は、三角形関数のPSFを明確に実行することに類似する。なお、フィルタを2回適用することは、元々のフィルタをそれ自体で畳み込んだ複合フィルタを1回適用することに相当する。従って、反復的BOX PSF法は、BOX PSF法を2回連続して適用することにより、修正されたPSFを実現する。いくつかの特定の実施形態では、それ自体で畳み込まれるボックスフィルタが三角形フィルタである。BOX PSF法を2回適用して三角形フィルタと同様の効果を達成することで、BOX PSF法を1回適用することに比べてフィルタ品質は向上するが、複雑性は増す。いくつかの実施形態では、BOX PSF法からのボックスフィルタを任意の回数反復することより、反復的BOX PSFが、より滑らかで有効なPSFを達成するようにさらに拡張される。
その後、この方法はステップ808に進み、行った数学的演算に基づいて中間積分画像及び正規化積分画像を計算する。(エリア総和テーブルとしても知られている)積分画像は、Zスタックをシミュレートする3つの方法の各々によって使用される。その後、方法800はステップ810に進み、各入力画素に関して出力画素を求める。例示的な実施形態によれば、この出力画素は、各画素において、ステップ808において求めた中間積分画像と正規化積分画像の比率、すなわち、
として求められる。その後、方法はステップ812において終了する。
として求められる。その後、方法はステップ812において終了する。
図9に、1D(900)及び2D(902)の両方の場合の、三角形フィルタのための1又はそれ以上のPSFを示す。
いくつかの実施形態では、DOFシミュレーションモジュール116が、DOFをシミュレートするための第3の方法を実施する。明確さ及び便宜上の目的で、このDOFをシミュレートするための第3の方法を三角形PSF法と呼ぶ。反復的BOX PSF法は、この三角形PSF法とは異なり、BOX PSF法を2回適用することによって三角形PSF法と同様の効果を達成するものである。
図10は、BOX PSFの代わりに三角形PSFを用いてDOFをシミュレートするための代替方法1000のフロー図である。方法1000は、CPU106により実行されるDOFシミュレーションモジュール116の例示的な実施である。
本方法は、ステップ1002から開始してステップ1004に進む。ステップ1004において、DOFシミュレーションモジュール116は、Zスタック内の各画像の各画素のボケ量を計算する。例示的な実施形態によれば、このボケ量は、σ=η0+η1|d(x,y)−z|として計算され、式中、パラメータη0及びη1は、システムの光学的特性に従って決定されるが、Zスタックから直接推定することもでき、|d(x,y)−z|は、Zスタック内の特定の画像の深度差を表す。
次に、この方法はステップ1006に進み、Zスタック内の各画像の反復的点広がり関数(PSF)の1又はそれ以上の角部に対して数学的演算を行う。
ステップ1006において、DOFシミュレーションモジュール116は、9対の異なる位置、すなわち上部左方、上部中央、上部右方、中部左凹、中部中央、中部右方、下部左方、下部中央及び下部右方のための以下の9対の演算の実行を容易し、これらの演算は、対応する9対の方程式、すなわち5(a)及び5(b)、6(a)及び(b)、7(a)及び7(b)、8(a)及び8(b)、9(a)及び9(b)、10(a)及び10(b)、11(a)及び11(b)、12(a)及び12(b)、13(a)及び13(b)によってそれぞれ表される。H(x−{σ},y−{σ})+=1/σ4I∞(x,y)及びT(x−{σ},y−{σ})+=1/σ4[式5(a)及び5(b)]、H(x+1,y−{σ})−=2/σ4I∞(x,y)及びT(x+1,y−{σ})−=2/σ4[式6(a)及び6(b)]、H(x+{σ}+2,y−{σ})+=1/σ4I∞(x,y)及びT(x+{σ}+2,y−{σ})+=1/σ4[式7(a)及び7(b)]、H(x−{σ},y+1)−=2/σ4I∞(x,y)及びT(x−{σ},y+1)−=2/σ4[式8(a)及び8(b)]、H(x+1,y+1)+=4/σ4I∞(x,y)及びT(x+1,y+1)+=4/σ4[式9(a)及び9(b)]、H(x+{σ}+2,y+1)−=2/σ4I∞(x,y)及びT(x+{σ}+2,y+1)−=2/σ4[式10(a)及び10(b)]、H(x−{σ},y+{σ}+2)+=1/σ4I∞(x,y)及びT(x−{σ},y+{σ}+2)+=1/σ4[式11(a)及び11(b)]、H(x+1,y+{σ}+2)−=2/σ4I∞(x,y)及びT(x+1,y+{σ}+2)−=2/σ4[式12(a)及び12(b)]、並びにH(x+{σ}+2,y+{σ}+2)+=1/σ4I∞(x,y)及びT(x+{σ}+2,y+{σ}+2)+=1/σ4[式13(a)及び13(b)]。
ステップ1008において、DOFシミュレーションモジュール116は、G1(x,y)=WH(x,y)[式17]によって表される中間積分画像のための第3の関数の計算を容易にし、式中、Gは第3の関数であり、WH(x,y)は中間和の積分画像である。DOFシミュレーションモジュール116は、G(x,y)=WG1(x,y)[式18]によって表される第4の関数の計算を容易にし、式中、Gは第4の関数であり、WG1(x,y)は第3の関数の積分画像である。DOFシミュレーションモジュール116は、S1(x,y)=WT(x,y)[式19]によって表される第5の関数の計算を容易にし、式中、S1は第5の関数であり、WT(x,y)は正規化和の積分画像である。DOFシミュレーションモジュール116は、S(x,y)=WS1(x,y)[式20]によって表される第6の関数の計算を容易にし、式中、Sは第6の関数であり、WS1(x,y)は、第5の関数の積分画像である。ステップ1010において、DOFシミュレーションモジュール116は、各入力画素に関する出力画素を第4の関数と第6の関数の比率として計算することを容易にし、この出力はシミュレートしたZスタックを表す。ボックスPSF法と同様に、三角形PSF法は、フィルタのサポート全体を通じて演算を行うのではなく、2、3個の画素位置に対してしか演算を行わない。ボックスPSF法では4つの位置を使用するのに対し、三角形PSF法では9つの位置を使用する。その後、方法はステップ1012において終了する。
図11は、方法1000において実施される三角形ベースのPSFのための第3のPSF加算方法を示す図である。図11には、画像1100を明確にするために、2つの重複するPSFではなく単一のPSFのみを示している。いくつかの実施形態では、図7に示すように角部の寄与を複数の位置に分散させるBOX PSF法と同様に、三角形BOX PSF法でも、9つの寄与の各々を複数の位置に分散させる。
図11では、画像1100が全焦点画像内の1つの明るい画素を示しているのに対し、画像1102は、三角形BOX PSF法で識別された、三角形PSF法に対応する9つの位置を示しており、この中にPSFの空間的サポートを破線で示している。さらに、画像1104は、積分画像を2回計算した後、Zスタックの最終的なシミュレーション画像に対する全体的なPSFの寄与が2−D三角形関数であることを示している。画像1104には、全焦点画像1100からの画素を1つしか示していないが、一般的には、全焦点画像の各画素が中間和1102に対して寄与を行う。
図12に、元々のZスタックと比較した3つのシミュレーション方法500、800及び1000の結果例を示す。図12では、左から中央そして右への3つの列に、50枚の画像データセットのうちの3枚の異なる画像の結果を示している。例示を目的として、この50枚の画像データセットの中から選択した3枚の異なる画像を、画像1、22及び50とする。行には、上から下に、元々のZスタック、BOX PSFを用いてシミュレートしたZスタック、反復的BOX PSFを用いてシミュレートしたZスタック、及び三角形PSF法を用いてシミュレートしたZスタックを示している。左右の列は、2つの両極端なデータセットであり、かなり大きく焦点ずれしたボケを示している一方で、右側の列には、鮮明に焦点が合った小さな円形の茶色のオブジェクトが存在する。中央の列には、複数の焦点が合った領域、及びその他の焦点ずれした領域が存在する。これら全ての場合において、3つのシミュレーション方法の各々は、焦点が合った領域及び焦点ずれしてボケた領域の両方に関して、元々のZスタックとの良好な一致を実現する。
以上、特定の実施形態を参照しながら説明目的で上述の説明を行った。しかしながら、上記の例示的な説明は網羅的であることを意図するものではなく、或いは開示する正確な形に本発明を限定するものでもない。上述の教示に照らして多くの修正及び変形が可能である。実施形態は、本開示の原理及びその実施可能な応用について最も良く説明するために、及びこれにより当業者が本発明及び様々な実施形態を、企図される特定の用途に適するような様々な修正を加えて最も良く利用できるようにするために選択し説明したものである。
上述した内容は、本発明の実施形態を対象とするものであるが、本発明の基本的な範囲から逸脱することなく、本発明の他の及びさらなる実施形態を考案することができ、その範囲は特許請求の範囲により決定される。
Claims (14)
- 顕微鏡撮像における被写界深度(DOF)をシミュレートする方法であって、
全焦点画像の各画素のボケ量を計算するステップと、
前記全焦点画像の1又はそれ以上の領域に対して点広がり関数(PSF)演算を実行するステップと、
前記領域上の中間積分画像及び正規化積分画像を計算するステップと、
前記中間積分画像及び正規化積分画像に基づいて各出力画素を求め、シミュレートした被写界深度の画像を生成するステップと、
を含むことを特徴とする方法。 - 前記演算は、前記PSFを前記全焦点画像のボックス関数として近似するステップを含む、
ことを特徴とする請求項1に記載の方法。 - 前記PSFを近似するステップは、
各出力画像の各画素の中間和及び正規化和を全ての深度において初期化するステップと、
各出力画像の前記画素の各々のボケ量を計算するステップと、
をさらに含み、
前記演算は、ボックス状PSFの少なくとも4つの角部に対して少なくとも4対の演算を実行するステップをさらに含み、
前記出力画素は、前記中間積分画像と正規化積分画像の比率として求められる、
ことを特徴とする請求項2に記載の方法。 - 前記一連の画像を近似するステップは、前記PSFの前記ボックス関数を1回又はそれ以上の反復で正常に実行するステップをさらに含む、
ことを特徴とする請求項2に記載の方法。 - 前記演算は、前記点広がり関数(PSF)を三角形関数として近似するステップを含む、
ことを特徴とする請求項1に記載の方法。 - 各出力画像のx及びyの全ての値の前記中間和及び正規化和を全ての深度において初期化するステップと、
各画素のボケ量を計算するステップと、
をさらに含み、
前記演算は、三角形PSFに対応する少なくとも9つの異なる位置に対して少なくとも9対の演算を実行するステップをさらに含み、
前記出力画素は、前記中間積分画像と正規化積分画像の比率として求められる、
ことを特徴とする請求項5に記載の方法。 - 前記Zスタックの前記全焦点画像に、深度に依存する焦点ずれしたボケを適用するステップをさらに含む、
ことを特徴とする請求項1に記載の方法。 - 顕微鏡撮像における被写界深度(DOF)をシミュレートするための装置であって、
全焦点画像生成器により生成された全焦点画像の各画素のボケ量を計算するステップを含む被写界深度シミュレーションモジュールを備え、
前記全焦点画像生成器は、前記全焦点画像の1又はそれ以上の領域に対して点広がり関数(PSF)演算を実行し、前記領域上の前記中間積分画像及び正規化積分画像を計算し、前記中間積分画像及び正規化積分画像に基づいて前記各画素のための出力画素を求める、
ことを特徴とする装置。 - 前記演算は、前記PSFを前記全焦点画像のボックス関数として近似するステップを含む、
ことを特徴とする請求項8に記載の装置。 - 前記被写界深度シミュレーションモジュールは、
各出力画像の各画素の中間和及び正規化和を全ての深度において初期化するステップと、
前記各出力画像の各画素のボケ量を計算するステップと、
をさらに含み、
前記演算は、ボックス状PSFの少なくとも4つの角部に対して少なくとも4対の演算を実行するステップをさらに含み、
前記出力画素は、前記中間積分画像と正規化積分画像の比率として求められる、
ことを特徴とする請求項9に記載の装置。 - 前記一連の画像を近似するステップは、前記被写界深度シミュレーションモジュール116が、前記PSFの前記ボックス関数を1回又はそれ以上の反復で正常に実行するステップをさらに含む、
ことを特徴とする請求項9に記載の装置。 - 前記演算は、前記点広がり関数(PSF)を三角形関数として近似するステップを含む、
ことを特徴とする請求項8に記載の装置。 - 前記DOFシミュレーションモジュールは、各出力画像の各画素の中間和及び正規化和を全ての深度においてさらに初期化して各画素のボケ量を計算し、
前記演算は、三角形PSFに対応する少なくとも9つの異なる位置に対して少なくとも9対の演算を実行するステップをさらに含み、
前記出力画素は、前記中間積分画像と正規化積分画像の比率として求められる、
ことを特徴とする請求項12に記載の装置。 - 前記全焦点画像生成器は、前記Zスタックの前記全焦点画像に、深度に依存する焦点ずれしたボケをさらに適用する、
ことを特徴とする請求項8に記載の装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/553,434 US8994809B2 (en) | 2012-07-19 | 2012-07-19 | Method and apparatus for simulating depth of field (DOF) in microscopy |
US13/553,434 | 2012-07-19 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014021487A true JP2014021487A (ja) | 2014-02-03 |
Family
ID=48782896
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013142661A Pending JP2014021487A (ja) | 2012-07-19 | 2013-07-08 | 顕微鏡法における被写界深度(dof)をシミュレートするための方法及び装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8994809B2 (ja) |
EP (1) | EP2687892A1 (ja) |
JP (1) | JP2014021487A (ja) |
CN (1) | CN103578100A (ja) |
CA (1) | CA2820005A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017163427A1 (ja) * | 2016-03-25 | 2017-09-28 | オリンパス株式会社 | 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103209307B (zh) * | 2013-04-18 | 2016-05-25 | 清华大学 | 编码重聚焦计算摄像方法及装置 |
US9639946B2 (en) * | 2015-03-11 | 2017-05-02 | Sony Corporation | Image processing system with hybrid depth estimation and method of operation thereof |
US10713836B2 (en) * | 2018-06-25 | 2020-07-14 | Microsoft Technology Licensing, Llc | Simulating lenses |
CN114730070A (zh) * | 2019-11-22 | 2022-07-08 | 索尼集团公司 | 图像处理方法、图像处理装置和图像处理系统 |
US11422355B2 (en) * | 2020-07-22 | 2022-08-23 | Sartorius Bioanalytical Instruments, Inc. | Method and system for acquisition of fluorescence images of live-cell biological samples |
CN111652199B (zh) * | 2020-08-04 | 2020-11-24 | 湖南莱博赛医用机器人有限公司 | 一种图像处理方法、装置、设备和介质 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11177873A (ja) * | 1997-12-16 | 1999-07-02 | Denso Corp | 高速合焦電子カメラ |
US6038067A (en) * | 1996-05-23 | 2000-03-14 | The Regents Of The University Of California | Scanning computed confocal imager |
JP2000316120A (ja) * | 1999-03-03 | 2000-11-14 | Denso Corp | 全焦点撮像装置 |
US6201899B1 (en) * | 1998-10-09 | 2001-03-13 | Sarnoff Corporation | Method and apparatus for extended depth of field imaging |
JP2002247439A (ja) * | 2001-02-13 | 2002-08-30 | Ricoh Co Ltd | 画像入力装置、画像入力方法、およびその方法をコンピュータで実行するためのプログラムが格納されているコンピュータが読み取り可能な記録媒体 |
WO2002082805A1 (fr) * | 2001-03-30 | 2002-10-17 | National Institute Of Advanced Industrial Science And Technology | Camera de microscope omnifocale en temps reel |
US20060038144A1 (en) * | 2004-08-23 | 2006-02-23 | Maddison John R | Method and apparatus for providing optimal images of a microscope specimen |
WO2006049243A1 (ja) * | 2004-11-05 | 2006-05-11 | Nec Corporation | パターン検査装置、パターン検査方法及びパターン検査プログラム |
US20070146873A1 (en) * | 2005-12-09 | 2007-06-28 | Amnis Corporation | Extended depth of field imaging for high speed object analysis |
WO2010101894A2 (en) * | 2009-03-02 | 2010-09-10 | President & Fellows Of Harvard College | High resolution laser scanning microscopy imaging system and method using spatially patterned cumulative illumination of detection fields |
JP2011123311A (ja) * | 2009-12-10 | 2011-06-23 | Sony Corp | 情報処理方法、情報処理装置、プログラム |
JP2011150400A (ja) * | 2010-01-19 | 2011-08-04 | Sony Corp | 情報処理装置、情報処理方法、及びそのプログラム |
JP2011221535A (ja) * | 2010-04-13 | 2011-11-04 | Sony Corp | 2写真照合に基づく奥行き推定のための4次元多項式モデル |
WO2011158498A1 (ja) * | 2010-06-15 | 2011-12-22 | パナソニック株式会社 | 撮像装置及び撮像方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB9422089D0 (en) | 1994-11-02 | 1994-12-21 | Philips Electronics Uk Ltd | Blurring for computer graphics |
US6148113A (en) * | 1998-02-03 | 2000-11-14 | Micrografx, Inc. | System for stimulating the depth of field of an image in two dimensional space and method of operation |
US7477794B2 (en) | 2005-06-30 | 2009-01-13 | Microsoft Corporation | Multi-level image stack of filtered images |
WO2009041918A1 (en) * | 2007-09-26 | 2009-04-02 | Agency For Science, Technology And Research | A method and system for generating an entirely well-focused image of a large three-dimensional scene |
CN101764925B (zh) * | 2008-12-25 | 2011-07-13 | 华晶科技股份有限公司 | 数字图像的浅景深模拟方法 |
JP5870264B2 (ja) * | 2010-11-08 | 2016-02-24 | パナソニックIpマネジメント株式会社 | 撮像装置、撮像方法、プログラム、および集積回路 |
US9137526B2 (en) * | 2012-05-07 | 2015-09-15 | Microsoft Technology Licensing, Llc | Image enhancement via calibrated lens simulation |
-
2012
- 2012-07-19 US US13/553,434 patent/US8994809B2/en active Active
-
2013
- 2013-07-02 EP EP13174800.6A patent/EP2687892A1/en not_active Withdrawn
- 2013-07-03 CA CA2820005A patent/CA2820005A1/en not_active Abandoned
- 2013-07-05 CN CN201310280321.7A patent/CN103578100A/zh active Pending
- 2013-07-08 JP JP2013142661A patent/JP2014021487A/ja active Pending
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6038067A (en) * | 1996-05-23 | 2000-03-14 | The Regents Of The University Of California | Scanning computed confocal imager |
JPH11177873A (ja) * | 1997-12-16 | 1999-07-02 | Denso Corp | 高速合焦電子カメラ |
US6201899B1 (en) * | 1998-10-09 | 2001-03-13 | Sarnoff Corporation | Method and apparatus for extended depth of field imaging |
JP2000316120A (ja) * | 1999-03-03 | 2000-11-14 | Denso Corp | 全焦点撮像装置 |
JP2002247439A (ja) * | 2001-02-13 | 2002-08-30 | Ricoh Co Ltd | 画像入力装置、画像入力方法、およびその方法をコンピュータで実行するためのプログラムが格納されているコンピュータが読み取り可能な記録媒体 |
WO2002082805A1 (fr) * | 2001-03-30 | 2002-10-17 | National Institute Of Advanced Industrial Science And Technology | Camera de microscope omnifocale en temps reel |
US20060038144A1 (en) * | 2004-08-23 | 2006-02-23 | Maddison John R | Method and apparatus for providing optimal images of a microscope specimen |
WO2006049243A1 (ja) * | 2004-11-05 | 2006-05-11 | Nec Corporation | パターン検査装置、パターン検査方法及びパターン検査プログラム |
US20070146873A1 (en) * | 2005-12-09 | 2007-06-28 | Amnis Corporation | Extended depth of field imaging for high speed object analysis |
WO2010101894A2 (en) * | 2009-03-02 | 2010-09-10 | President & Fellows Of Harvard College | High resolution laser scanning microscopy imaging system and method using spatially patterned cumulative illumination of detection fields |
JP2011123311A (ja) * | 2009-12-10 | 2011-06-23 | Sony Corp | 情報処理方法、情報処理装置、プログラム |
JP2011150400A (ja) * | 2010-01-19 | 2011-08-04 | Sony Corp | 情報処理装置、情報処理方法、及びそのプログラム |
JP2011221535A (ja) * | 2010-04-13 | 2011-11-04 | Sony Corp | 2写真照合に基づく奥行き推定のための4次元多項式モデル |
WO2011158498A1 (ja) * | 2010-06-15 | 2011-12-22 | パナソニック株式会社 | 撮像装置及び撮像方法 |
Non-Patent Citations (1)
Title |
---|
TODD J. KOSLOFF, MICHAEL W. TAO, BRIAN A. BARSKY: "Depth of Field Postprocessing For Layered Scenes Using Constant-Time Rectangle Spreading", PROCEEDINGS OF GRAPHICS INTERFACE 2009, JPN7014001429, 25 May 2009 (2009-05-25), CA, pages 39 - 46, XP058200164, ISSN: 0002810601 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017163427A1 (ja) * | 2016-03-25 | 2017-09-28 | オリンパス株式会社 | 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム |
JPWO2017163427A1 (ja) * | 2016-03-25 | 2019-02-28 | オリンパス株式会社 | 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム |
US10718715B2 (en) | 2016-03-25 | 2020-07-21 | Olympus Corporation | Microscopy system, microscopy method, and computer-readable storage medium |
Also Published As
Publication number | Publication date |
---|---|
EP2687892A1 (en) | 2014-01-22 |
US20140022347A1 (en) | 2014-01-23 |
CN103578100A (zh) | 2014-02-12 |
CA2820005A1 (en) | 2014-01-19 |
US8994809B2 (en) | 2015-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014021487A (ja) | 顕微鏡法における被写界深度(dof)をシミュレートするための方法及び装置 | |
US7961970B1 (en) | Method and apparatus for using a virtual camera to dynamically refocus a digital image | |
Favaro et al. | Shape from defocus via diffusion | |
JP6027159B2 (ja) | 画像ぼかし方法および機器、および電子装置 | |
Zheng et al. | Learning frequency domain priors for image demoireing | |
JP6279321B2 (ja) | 画像捕捉装置のアレイにより得られたデータから仮想出力画像を作るための方法及びシステム | |
RU2523028C2 (ru) | Устройство обработки изображения, устройство захвата изображения и способ обработки изображения | |
CN110476185A (zh) | 景深信息估算方法和装置 | |
JP6011862B2 (ja) | 3次元画像撮影装置及び3次元画像撮影方法 | |
CN108230234A (zh) | 图像虚化处理方法、装置、存储介质及电子设备 | |
EP3291532A1 (en) | Image processing device and image processing method | |
TW200809562A (en) | Camera performance simulation | |
Zhang et al. | Depth of field rendering using multilayer-neighborhood optimization | |
Zhang et al. | MC-Blur: A comprehensive benchmark for image deblurring | |
CN108305280A (zh) | 一种双目图像基于最小生成树的立体匹配方法及系统 | |
Sanghvi et al. | Photon-limited blind deconvolution using unsupervised iterative kernel estimation | |
JP6558365B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN111462005B (zh) | 处理显微图像的方法、装置、计算机设备及存储介质 | |
Guo et al. | Adaptive estimation of depth map for two-dimensional to three-dimensional stereoscopic conversion | |
CN107534730B (zh) | 图像处理装置及图像处理方法 | |
Zhou et al. | Parameter-free Gaussian PSF model for extended depth of field in brightfield microscopy | |
CN109887081A (zh) | 一种地形生成方法 | |
JP6661491B2 (ja) | 画像処理装置および画像処理方法 | |
KR100843099B1 (ko) | 영상을 복원하기 위한 장치 및 방법 | |
Wong | A new method for creating a depth map for camera auto focus using an all in focus picture and 2D scale space matching |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140409 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140514 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140714 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20141210 |