JP6643470B2 - デジタルホログラフィック撮像装置、撮像方法 - Google Patents

デジタルホログラフィック撮像装置、撮像方法 Download PDF

Info

Publication number
JP6643470B2
JP6643470B2 JP2018518891A JP2018518891A JP6643470B2 JP 6643470 B2 JP6643470 B2 JP 6643470B2 JP 2018518891 A JP2018518891 A JP 2018518891A JP 2018518891 A JP2018518891 A JP 2018518891A JP 6643470 B2 JP6643470 B2 JP 6643470B2
Authority
JP
Japan
Prior art keywords
image
defect
pixel
image data
digital holographic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018518891A
Other languages
English (en)
Other versions
JPWO2017203662A1 (ja
Inventor
圭悟 松尾
圭悟 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2017203662A1 publication Critical patent/JPWO2017203662A1/ja
Application granted granted Critical
Publication of JP6643470B2 publication Critical patent/JP6643470B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0486Improving or monitoring the quality of the record, e.g. by compensating distortions, aberrations
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0008Microscopes having a simple construction, e.g. portable microscopes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • G03H1/0866Digital holographic imaging, i.e. synthesizing holobjects from holograms
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/18Particular processing of hologram record carriers, e.g. for obtaining blazed holograms
    • G03H1/182Post-exposure processing, e.g. latensification
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/0005Adaptation of holography to specific applications
    • G03H2001/0033Adaptation of holography to specific applications in hologrammetry for measuring or analysing
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • G03H2001/0447In-line recording arrangement
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • G03H2001/0452Digital holography, i.e. recording holograms with digital recording means arranged to record an image of the object
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • G03H2001/0454Arrangement for recovering hologram complex amplitude
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H2226/00Electro-optic or electronic components relating to digital holography
    • G03H2226/02Computing or processing means, e.g. digital signal processor [DSP]

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Holo Graphy (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Description

本発明は、デジタルホログラフィック撮像装置に関する。
細胞試料などの位相情報や強度情報を撮影するために、レンズフリーのデジタルホログラフィック撮像装置が利用される(たとえば特許文献1参照)。デジタルホログラフィック撮像装置は、被検物に照明光を照射し、その結果得られる干渉パターンを撮像素子によって測定し、干渉パターンから、演算処理によって被検物の位相情報あるいは強度情報を示す画像を再構成(Reconstruct)する。
特表2013−508775号公報
本発明者は、デジタルホログラフィック撮像装置について検討した結果、以下の課題を認識するに至った。
撮像素子の不良として、画素の欠陥(ホットピクセルあるいはデッドピクセル)が知られている。デジタルカメラやビデオカメラのように、被写体の像が撮像面上に結像されるデバイスでは、画素欠陥が存在した場合に、被写体の画像は画素欠陥に対応する箇所においてのみ画像情報が欠落し、画質が局所的に劣化する。したがってその部分を拡大すれば、画質の劣化は容易に認識できる。
一方、デジタルホログラフィック撮像装置において画素欠陥が存在すると、再構成処理(伝搬演算を含む)によって、局所的な画素欠陥の影響が、空間的に幅広い領域に広がることとなる。つまり、デジタルホログラフィック撮像装置では、画素欠陥によって、空間的に幅広い範囲で画質劣化が生ずるが、視覚的には劣化を識別しにくくなる。このことから本発明者が知る限り、デジタルホログラフィック撮像装置において画素欠陥が及ぼす画質の劣化について、対策の必要性が指摘されることはなく、あるいは見逃されていた。
本発明者は、細胞などの位相分布を詳細に再構成する際には、その影響が無視できないことを認識した。さらに、再構成処理において繰り返し演算が入ると画素欠陥の影響が強調されることも分かった。
本発明はかかる状況においてなされたものであり、そのある態様の例示的な目的のひとつは、画像劣化を抑制したデジタルホログラフィック撮像装置の提供にある。
本発明のある態様は、デジタルホログラフィック撮像装置に関する。デジタルホログラフィック撮像装置は、照明光を被検物に照射する照明部と、2次元状に配置された複数の画素を含み、被検物と作用した照明光が形成する干渉パターンの強度分布を撮像し、画像データを出力する撮像素子と、撮像素子の欠陥画素の位置を示す欠陥位置情報を取得する欠陥情報取得部と、画像データと欠陥位置情報にもとづいて、被検物を表す被写体画像を再構成する演算部と、を備える。
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、などの間で変換したものもまた、本発明の態様として有効である。
本発明のある態様によれば、画質劣化を抑制できる。
実施の形態に係るデジタルホログラフィック撮像装置の基本構成を示す図である。 デジタルホログラフィック撮像装置の原理を説明する図である。 演算部による再構成の演算処理のフローチャートである。 図4(a)〜(c)は、画素欠陥の影響を説明する図である。 図5(a)〜(d)は、修正アルゴリズムによって再構成された被写体画像を示す図である。 第1修正アルゴリズムを示すフローチャートである。 補間画像データIINT(x,y)の生成を説明する図である。 第2修正アルゴリズムを示すフローチャートである。 第3修正アルゴリズムを示すフローチャートである。 第4修正アルゴリズムを示すフローチャートである。 デジタルホログラフィック撮像装置の第1の構成例を示す図である。 デジタルホログラフィック撮像装置の第2の構成例を示す図である。
(概要)
はじめに、本発明に係るいくつかの実施の形態の概要を説明する。
本発明のひとつの実施の形態は、デジタルホログラフィック撮像装置に関する。デジタルホログラフィック撮像装置は、照明光を被検物に照射する照明部と、2次元状に配置された複数の画素を含み、被検物と作用した照明光が形成する干渉パターンの強度分布を撮像し、画像データを出力する撮像素子と、撮像素子の欠陥画素の位置を示す欠陥位置情報を取得する欠陥情報取得部と、画像データと欠陥位置情報にもとづいて、被検物を表す被写体画像を再構成する演算部と、を備える。
この態様によると、画素欠陥に起因する画質の劣化を抑制できる。
演算部は、被写体画像の再構成のための繰り返し演算のループ中に、欠陥位置情報を利用してもよい。繰り返し演算のループにおいて、繰り返し毎に、画素欠陥の影響を取り除くことにより、より画質の劣化を抑制できる。
欠陥情報取得部は、被検物の測定に先立って特定された欠陥画素の位置を記憶する欠陥位置記憶部を含んでもよい。
欠陥情報取得部は、撮像素子の出力にもとづいて、欠陥画素の位置を特定してもよい。欠陥情報取得部は、撮像素子の出力を空間的に微分することにより、欠陥画素の位置を特定してもよい。欠陥情報取得部は、照明光の強度を既定値としたときに得られる各画素の画素値にもとづいて、欠陥画素の位置を特定してもよい。
演算部は、被写体画像の再構成のための繰り返し演算において、非欠陥画素(正常画素)については画像データの強度を用い、欠陥画素についてはそれまでの繰り返し演算で得られた強度を用いてもよい。
被写体画像の再構成のための繰り返し演算は、撮像素子が位置する第1面における複素振幅から被検物が位置する第2面における複素振幅を演算するステップと、第2面における複素振幅を、所定の制約条件にもとづいて更新するステップと、第2面における更新後の複素振幅から、第1面における複素振幅を演算するステップと、第1面における複素振幅を更新するステップであって、非欠陥画素の強度を、画像データの対応する画素の強度に置換し、欠陥画素の強度を維持するステップと、を含んでもよい。
演算部は、画像データの欠陥画素の強度をその周囲の画素の強度から補間して得られる補間画像データを、被写体画像の再構成のための繰り返し演算のループに入る前の初期画像として用いてもよい。
(実施の形態)
以下、本発明を好適な実施の形態をもとに図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施の形態は、発明を限定するものではなく例示であって、実施の形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
図1は、実施の形態に係るデジタルホログラフィック撮像装置2の基本構成を示す図である。図面に記載される各部材の寸法(厚み、長さ、幅など)は、理解の容易化のために適宜、拡大縮小されている場合がある。さらには複数の部材の寸法は、必ずしもそれらの大小関係を表しているとは限らず、図面上で、ある部材Aが、別の部材Bよりも厚く(長く)描かれていても、部材Aが部材Bよりも薄い(短い)こともあり得る。
デジタルホログラフィック撮像装置2は位相物体、振幅物体あるいはそれらの両方の特性を有する物体の観察に利用することができ、その観察対象は特に限定されない。本実施の形態では、観察対象(被検物4)として細胞のような位相物体を例とする。被検物4は、試料ホルダ6によって所定の位置に保持される。被検物4が位置する面を試料面(被写体面とも称される)8と称する。デジタルホログラフィック撮像装置2は、被検物4の位相分布を示す被写体画像S1を出力する。
デジタルホログラフィック撮像装置2は、照明部10、撮像素子20、演算部30、表示装置40、欠陥情報取得部70を備える。デジタルホログラフィック撮像装置2は本質的にはレンズフリーの光学系で構成しうるが、必要に応じて図示しない光学系を有してもよい。
照明部10は、可干渉性を有する照明光12を被検物4に照射する。照明部10の構成は特に限定されず、半導体レーザやLEDを用いることができる。照明光12は、平面波であってもよいし球面波であってもよいが、図1では平面波として示している。図中、光線を実線で、波面を点線で表すものとする。
図2は、デジタルホログラフィック撮像装置2の原理を説明する図である。位相物体である被検物4は、試料面8の第1方向(x方向)およびそれと垂直な第2方向(y方向)に位相分布φ(x,y)を有する。位相分布φ(x,y)は、被検物4の形状や構造、組成等に応じており、この位相分布φ(x,y)が、デジタルホログラフィック撮像装置2による観測対象である。被検物4を透過した照明光14は、位相分布φ(x,y)に応じた位相シフトを受け、その波面が被検物4によって乱される。被検物4を透過後の照明光14は、被検物4による擾乱(回折)を受けない光と、被検物4により回折された光を含んでおり、それらがz方向に距離zobj伝搬し、撮像素子20の撮像面(光電変換面)22に干渉パターン(光強度分布ともいう)I(x,y)を形成する。
図1に戻る。撮像素子20は、CCD(Charge Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)センサなどであり、撮像面22に2次元状に配置された複数の画素24を含む。撮像素子20は、被検物4と作用した照明光14が形成する干渉パターンの強度分布I(x,y)を撮像し、画像データS2を生成する。図2に示すように撮像素子20による撮像は、空間的なサンプリングに他ならない。サンプリング(量子化)された強度分布をI(x,y)と表記する。撮像素子20から出力される画像データS2は、演算部30に入力される。
欠陥情報取得部70は、撮像素子20の欠陥画素24dの位置を示す欠陥位置情報S3を取得する。なお欠陥位置情報S3は、(i)欠陥画素のx座標とy座標のリストであってもよいし、(ii)1(もしくは0)が欠陥画素を、0(もしくは1)が正常画素を表すピクセルマップ(フレームデータ)であってもよい。あるいは(iii)全画素に通し番号を付しておき、欠陥画素の番号をリストしてもよい。このように欠陥位置情報S3のデータ形式は特に限定されない。
演算部30は、画像データS2と欠陥位置情報S3にもとづいて、被検物4を表す被写体画像S1を演算処理によって再構成する。具体的には演算部30は、画像データS2が示す強度分布I(x,y)を演算処理することにより、位相分布φ(x,y)を表す被写体画像S1を再生する。再構成された位相分布φ(x,y)は、被検物4の位相分布φ(x,y)に対応する。なお、演算部30および欠陥情報取得部70は、汎用コンピュータとソフトウェアプログラムの組み合わせであってもよいし、専用ハードウェアであってもよい。たとえば被写体画像S1の再構成には位相回復法(フーリエ反復法)などが利用可能である。
表示装置40は、演算部30が生成した被写体画像S1を表示する。また表示装置40は、デジタルホログラフィック撮像装置2のユーザインタフェースとしての機能も有する。
演算部30における再構成の演算処理を説明する。撮像素子20から得られる画像データS2は、撮像面22上の光強度分布I(x,y)を表しており、光の振幅情報√I(x,y)を含むが、光の位相情報が欠落している。再構成処理は、失われた位相情報を回復して、試料面8における位相分布φ(x,y)を再生することに他ならない。
図3は、演算部30による再構成の演算処理のフローチャートである。理解の容易化および説明の簡潔化のために、ひとまず画素欠陥の影響を考慮しないこととする。演算部30に、撮像面(第1面)22上の光強度分布I(x,y)を示す画像データS2が入力される(S100)。続いて撮像面22上の位相分布p(x,y)に初期値を与える(S102)。位相分布p(x,y)の初期値はランダムでもよい。このときの撮像面22上の複素振幅分布f(x,y)を、式(1)にもとづいて演算する(S104)。
Figure 0006643470
続いて、撮像面22上の複素振幅分布f(x,y)を、z軸負方向に距離zobj、伝搬させ、試料面(第2面)8における複素振幅分布g(x’,y’)を演算する(S106)。ここでの演算は、フレネル積分の式(2)を利用することができる。なお式(2)は、伝搬距離zがある程度大きいという近似を用いたものであるが、このような近似を用いずにg(x’,y’)を計算してもよい。
Figure 0006643470
続いて試料面8での制約条件にもとづいて、試料面8での複素振幅分布g(x’,y’)を修正し、更新する(S108)。たとえば被検物4が位相物体の場合、制約条件として、振幅分布が一定であることが利用でき、式(3)にしたがってg(x’,y’)の振幅情報を消去し、振幅が正規化される。
Figure 0006643470
ただしarg()は、複素数の位相を表す。
そして、ステップS108で得られた複素振幅g(x’,y’)を、z軸方向に、距離zobj伝搬させ、撮像面22における複素振幅分布f(x,y)を演算する(S110)。この演算にも、フレネル積分の式(4)を利用できる。
Figure 0006643470
そして、所定の終了条件を満たしているか否かが判定される(S112)。終了条件は特に限定されない。たとえば繰り返し回数が所定値に達したことを終了条件としてもよい。あるいは、ステップS110で得られる複素振幅分布から計算される強度分布I(x,y)=f(x,y)・f(x,y)を計算し、計算された強度分布I(x,y)と画像データS2が示す強度分布の誤差が、所定値以下となったことを終了条件とすることもできる。f(x,y)は、f(x,y)の複素共役を表す。あるいは、ステップS106で得られる複素振幅分布g(x’,y’)の振幅分布が、十分に平坦化されていることを、終了条件とすることもできる。
ステップS112において終了条件が満たされないとき(S112のN)、複素振幅分布f(x,y)を、測定された画像データS2の光強度分布I(x,y)を利用して修正、更新する。具体的には、式(5)にしたがい、位相分布を保持したまま、振幅分布を測定された強度分布I(x,y)に基づく分布√I(x,y)に置換する。
Figure 0006643470
ステップS112において終了条件が満たされたとき(S112のY)、撮像面22の複素振幅分布f(x,y)を再定義し(S116)、それを試料面8に向けて逆伝搬演算して試料面8の複素振幅分布g(x’,y’)を計算する(S118)。そして複素振幅分布g(x’,y’)から式(6)にしたがって、被検物4の位相分布φ(x,y)を計算する(S120)。この位相分布φ(x,y)が、求めるべき被写体画像S1である。
φ(x,y)=arg(g(x’,y’)) …(6)
以上が演算部30による位相回復法による演算処理である。
上述のように式(1)および(5)において、すなわち、繰り返し演算S106〜S114の前段階の処理S104と、繰り返し演算のループ中の処理S114において、光強度分布I(x,y)が使用される。したがってこれらのステップにおいて、画素欠陥の影響を受けることとなる。図4(a)〜(c)は、画素欠陥の影響を説明する図である。以降の図はシミュレーション結果を表す。図4(a)は、オリジナルの画像(位相分布φ(x,y))を表す。
図4(b)は、欠陥画素が存在しない場合に、図3のフローチャートにもとづいて再構成した被写体画像を示す。図4(a)、(b)の対比から、図3のフローチャートにもとづくシミュレーションで用いたアルゴリズムの正しさが確認される。
シミュレーションでは、撮像素子20の総画素の内、1%に相当する画素に欠陥画素を設定した。図4(c)は、欠陥画素が存在する場合に、図3のフローチャートにもとづいて再構成した被写体画像を示す。図4(c)の被写体画像は、図4(b)の被写体画像に比べて明らかに画質が劣化している。
実施の形態に係るデジタルホログラフィック撮像装置2では、図3をベースとして修正されたアルゴリズムが使用される。修正アルゴリズムでは、欠陥位置情報S3を利用することにより、被写体画像の画質を改善する。以下、いくつかの修正アルゴリズムを説明する。
(第1修正アルゴリズム)
図6は、第1修正アルゴリズムを示すフローチャートである。このフローチャートは、図3のフローチャートに加えて、補間処理S101をさらに備える。補間処理S101では、画像データS2が表す強度分布I(x,y)の欠陥画素の強度を、その周囲の非欠陥画素の強度から補間することにより、補間画像データIINT(x,y)を生成する。そして、元の光強度分布I(x,y)に代えて、この補間画像データIINT(x、y)が、繰り返し演算のループに入る前の初期画像として用いられる。具体的には、ステップS104aにおいて、補間画像データIINT(x,y)およびp(x,y)にもとづいて複素振幅分布f(x,y)が計算される。第1修正アルゴリズムでは、繰り返し演算のループ中の処理S114では、測定された光強度分布I(x,y)がそのまま使用される。
図7は、補間画像データIINT(x,y)の生成を説明する図である。撮像素子20の欠陥画素24dそれぞれの位置は、欠陥位置情報S3から取得可能である。欠陥画素24dの画素値は、周囲の正常な画素の画素値から補間処理によって計算される。図7では、欠陥画素24dを取り囲む8個の正常画素にもとづく補間処理を示すが、その限りではない。たとえば斜め方向を除外して、上下左右に隣接する正常画素の画素値を参照してもよいし、左右方向あるいは上下方向に隣接する正常画素の画素値を参照してもよい。あるいは8個よりも多い画素の画素値を参照してもよい。
図5(a)は、第1修正アルゴリズムにもとづいて再構成された被写体画像を示す図である。図4(c)と対比すると、わずかながら画質の改善を認めることができる。
(第2修正アルゴリズム)
図8は、第2修正アルゴリズムを示すフローチャートである。第2修正アルゴリズムでは、繰り返し演算のループ中で欠陥位置情報S3が利用される。図8のフローチャートでは、図3の処理S114が修正されている。修正前の処理S114では、欠陥画素を含めた全画素について、強度を置換するものであった。これに対して修正後の処理S114mでは、欠陥位置情報S3を参照して欠陥画素を特定し、非欠陥画素については処理S114と同様に画像データS2の強度I(x,y)を用いて置換を行い、欠陥画素については置換を行わず、それまでの繰り返し演算で得られた強度を用いる。
図5(b)は、第2修正アルゴリズムにもとづいて再構成された被写体画像を示す図である。図4(c)と対比すると、著しい画質の改善を認めることができる。
(第3修正アルゴリズム)
図9は、第3修正アルゴリズムを示すフローチャートである。第3修正アルゴリズムは、第1修正アルゴリズムと第2修正アルゴリズムの組み合わせと把握することができる。すなわち、繰り返し演算のループに入る前の補間処理S101において、補間画像データIINT(x,y)が生成され、それが繰り返し演算のループに入る前の初期画像として用いられる。
さらに繰り返し演算のループ中の処理S114mでは、非欠陥画素については処理S114と同様に画像データS2の強度I(x,y)を用いて置換を行い、欠陥画素については置換を行わず、それまでの繰り返し演算で得られた強度を用いる。
図5(c)は、第3修正アルゴリズムにもとづいて再構成された被写体画像を示す図である。図4(c)と対比すると、著しい画質の改善を認めることができる。第3修正アルゴリズムは、補間画像データIINT(x,y)を用いたことにより、第2修正アルゴリズムよりも少ない繰り返し演算回数で、高い画質の改善を実現できる。
(第4修正アルゴリズム)
図10は、第4修正アルゴリズムを示すフローチャートである。第4修正アルゴリズムでは、繰り返し演算のループに入る前の補間処理S101において、補間画像データIINT(x,y)が生成され、それが繰り返し演算のループに入る前の初期画像として用いられる。さらに繰り返し演算のループ中の処理S114nでは、全画素について、補間画像データIINT(x,y)を用いて置換を行っている。
図5(d)は、第4修正アルゴリズムにもとづいて再構成された被写体画像を示す図である。図4(c)と対比すると、著しい画質の改善を認めることができる。
図5(a)〜(d)を対比すると、図5(b)〜(c)に示す第2〜第4修正アルゴリズムにおける画質の改善が著しいことがわかる。すなわち再構成演算のループ中において、欠陥位置情報S3を利用することが、画質改善にきわめて有効であることが示される。加えてループに入る前の初期画像の生成段階において欠陥位置情報S3を利用することにより、図5(c)、(d)に示すように高画質を得ることができる。
ループに入る前の初期画像の生成段階においてのみ欠陥位置情報S3を利用した場合においても、図5(a)に示すように画質を改善できる。
以上が欠陥位置情報S3の利用による画質の改善の効果である。
続いて、欠陥位置情報S3の生成、あるいは取得について説明する。図11は、デジタルホログラフィック撮像装置の第1の構成例(2a)を示す図である。欠陥情報取得部70aは、欠陥位置記憶部72を含む。この構成例では、欠陥画素の位置は、被検物4の測定に先立って特定されており、欠陥位置情報S3が欠陥位置記憶部72に記憶されている。
画素欠陥の位置は、たとえば撮像素子20の製造後の検査工程において特定することができる。したがって撮像素子20のベンダーから、画素欠陥の位置情報の提供を受け、それを欠陥位置記憶部72に格納しておけばよい。あるいは、デジタルホログラフィック撮像装置2の製造段階において、撮像素子20の画素欠陥の位置を特定し、欠陥位置情報S3を欠陥情報取得部70に格納しておいてもよい。
図12は、デジタルホログラフィック撮像装置の第2の構成例(2b)を示す図である。欠陥情報取得部70bは、デジタルホログラフィック撮像装置2の製造段階、あるいは出荷後において、撮像素子20の出力画像にもとづいて、欠陥画素の位置を特定する。すなわち撮像素子20の製造段階で生じた画素欠陥のみでなく、経時劣化により生ずる画素欠陥も考慮することができる。
たとえば欠陥情報取得部70bは、欠陥位置記憶部72を含む。欠陥位置記憶部72は、撮像素子20の出力画像にもとづいて欠陥画素の位置を特定し、欠陥位置記憶部72に書き込む。
欠陥画素が存在する箇所では、画素値が極大(ホットピクセル)あるいは極小(デッドピクセル)となって現れる場合がある。そこで欠陥位置記憶部72は、撮像素子20の出力を空間的に微分することにより、欠陥画素の位置を特定してもよい。画素欠陥の位置では、微分値の絶対値が大きくなるため、微分値をしきい値と比較することで、欠陥位置を特定できる。
あるいは微分値ではなく、各画素の画素値を直接しきい値と比較して、欠陥位置を特定してもよい。たとえば、所定の中間階調に相当する光を撮像素子20に照射し、そのときの画素値が最大値あるいは最小値(もしくはそれらの近傍)となる画素を、欠陥画素と判定してもよい。
欠陥位置記憶部72による欠陥画素の特定処理は、被検物4の観察のために撮影した画像データS2にもとづいて行ってもよい。画像データS2として記録される再構成前の干渉パターン(強度分布I(x,y))は、コントラストが低い場合が多い。したがって演算部30による再構成演算の開始に先立って、画像データS2を空間微分し、欠陥位置を特定してもよい。あるいは画像データS2の各画素を、しきい値と比較することにより、欠陥位置を特定してもよい。
あるいは被検物4の観察のための撮影とは別に、欠陥位置を特定するための撮影を行ってもよい。この撮影は欠陥位置を特定しやすい条件で行うことが望ましい。たとえば被検物4および試料ホルダ6を取り除き、撮像面22上に均一な強度分布を形成したときに得られる画像データにもとづいて、欠陥位置を特定してもよい。欠陥位置特定部74は、照明光12の強度を既定値(ゼロであってもよい)としたときに得られる各画素の画素値、あるいは空間微分値にもとづいて、欠陥画素の位置を特定することができる。
たとえば、中間階調に相当する光を撮像素子20に照射し、欠陥位置特定部74はそのとき得られる画像データにおいて画素値が最大値あるいは最小値(もしくはそれらの近傍)となる画素を、欠陥画素と判定してもよい。あるいは全画素を飽和される光を照射し、欠陥位置特定部74は、画素値が非飽和を示す画素を欠陥画素と判定してもよい。あるいは完全な暗状態として、画素値が非ゼロの画素を欠陥画素と判定してもよい。もちろん、複数の条件で測定された画像データを組み合わせて欠陥位置を特定してもよい。
以上、本発明について、実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。以下、こうした変形例について説明する。
実施の形態では、被検物4が、位相分布を有する位相物体であるとしたが、被検物4は、強度分布を有する振幅物体であってもよいし、位相分布と強度分布を有してもよい。被検物4が振幅物体である場合、再構成演算における制約条件として、位相分布が一定であることが利用でき、式(7)にしたがってg(x’,y’)の位相情報を消去し、位相が正規化してもよい。
g(x’,y’)←{g(x’,y’)・g(x’,y’)}1/2 …(7)
また、実施の形態では一枚の画像データS2から被写体画像φ(x,y)を再生したが、条件を変えて測定される複数の画像データS2にもとづいて、被写体画像φ(x,y)を再生してもよく、公知のアルゴリズムを用いることができる。
実施の形態では、被検物4の透過光を測定するデジタルホログラフィック撮像装置2を説明したが、反射光を測定するタイプであってもよい。
2…デジタルホログラフィック撮像装置、4…被検物、6…試料ホルダ、8…試料面、10…照明部、12,14…照明光、20…撮像素子、22…撮像面、24…画素、24d…欠陥画素、30…演算部、40…表示装置、70…欠陥情報取得部、72…欠陥位置記憶部、74…欠陥位置特定部、S1…被写体画像、S2…画像データ、S3…欠陥位置情報。
本発明は、デジタルホログラフィック撮像装置に利用できる。

Claims (9)

  1. 照明光を被検物に照射する照明部と、
    2次元状に配置された複数の画素を含み、前記被検物と作用した前記照明光が形成する干渉パターンの強度分布を撮像し、画像データを出力する撮像素子と、
    前記撮像素子の欠陥画素の位置を示す欠陥位置情報を取得する欠陥情報取得部と、
    前記画像データと前記欠陥位置情報にもとづいて、前記被検物を表す被写体画像を再構成する演算部と、
    を備え、
    前記演算部は、前記被写体画像の再構成のための繰り返し演算のループ中に、前記欠陥位置情報を利用することを特徴とするデジタルホログラフィック撮像装置。
  2. 前記欠陥情報取得部は、前記被検物の測定に先立って特定された前記欠陥画素の位置を記憶する欠陥位置記憶部を含むことを特徴とする請求項に記載のデジタルホログラフィック撮像装置。
  3. 前記欠陥情報取得部は、前記撮像素子の出力にもとづいて、前記欠陥画素の位置を特定することを特徴とする請求項1または2に記載のデジタルホログラフィック撮像装置。
  4. 前記欠陥情報取得部は、前記撮像素子の出力を空間的に微分することにより、前記欠陥画素の位置を特定することを特徴とする請求項に記載のデジタルホログラフィック撮像装置。
  5. 前記欠陥情報取得部は、前記照明光の強度を既定値としたときに得られる各画素の画素値にもとづいて、前記欠陥画素の位置を特定することを特徴とする請求項に記載のデジタルホログラフィック撮像装置。
  6. 前記演算部は、前記被写体画像の再構成のための繰り返し演算において、非欠陥画素については前記画像データの強度を用い、前記欠陥画素についてはそれまでの繰り返し演算で得られた強度を用いることを特徴とする請求項1から5のいずれかに記載のデジタルホログラフィック撮像装置。
  7. 前記被写体画像の再構成のための繰り返し演算は、
    前記撮像素子が位置する第1面における複素振幅から前記被検物が位置する第2面における複素振幅を演算するステップと、
    前記第2面における複素振幅を、所定の制約条件にもとづいて更新するステップと、
    前記第2面における更新後の複素振幅から、前記第1面における複素振幅を演算するステップと、
    前記第1面における複素振幅を更新するステップであって、非欠陥画素の強度を、前記画像データの対応する画素の強度に置換し、前記欠陥画素の強度を維持するステップと、
    を含むことを特徴とする請求項1からのいずれかに記載のデジタルホログラフィック撮像装置。
  8. 前記演算部は、前記画像データの前記欠陥画素の強度をその周囲の画素の強度から補間して得られる補間画像データを、前記被写体画像の再構成のための繰り返し演算のループに入る前の初期画像として用いることを特徴とする請求項1からのいずれかに記載のデジタルホログラフィック撮像装置。
  9. 被検物を表す被写体画像を撮像する方法であって、
    照明光を前記被検物に照射するステップと、
    2次元状に配置された複数の画素を含む撮像素子を用いて、前記被検物と作用した前記照明光が形成する干渉パターンの強度分布を撮像し、画像データを生成するステップと、
    前記撮像素子の欠陥画素の位置を示す欠陥位置情報を取得するステップと、
    前記画像データと前記欠陥位置情報にもとづいて、前記被写体画像を再構成するステップと、
    備え、
    前記被写体画像の再構成のための繰り返し演算のループ中に、前記欠陥位置情報が利用されることを特徴とする方法。
JP2018518891A 2016-05-26 2016-05-26 デジタルホログラフィック撮像装置、撮像方法 Expired - Fee Related JP6643470B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/065615 WO2017203662A1 (ja) 2016-05-26 2016-05-26 デジタルホログラフィック撮像装置、撮像方法

Publications (2)

Publication Number Publication Date
JPWO2017203662A1 JPWO2017203662A1 (ja) 2019-03-22
JP6643470B2 true JP6643470B2 (ja) 2020-02-12

Family

ID=60412163

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018518891A Expired - Fee Related JP6643470B2 (ja) 2016-05-26 2016-05-26 デジタルホログラフィック撮像装置、撮像方法

Country Status (3)

Country Link
US (1) US11199812B2 (ja)
JP (1) JP6643470B2 (ja)
WO (1) WO2017203662A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102638751B1 (ko) * 2022-02-22 2024-02-20 (주)팬옵틱스 테라헤르츠파를 이용한 검사장치

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7142705B2 (en) * 2001-05-01 2006-11-28 Canon Kabushiki Kaisha Radiation image processing apparatus, image processing system, radiation image processing method, storage medium, and program
JP4110956B2 (ja) * 2002-12-05 2008-07-02 日本ビクター株式会社 画素欠陥補正機能を備えた固体撮像装置及び固体撮像装置の画素欠陥補正方法
KR20120071405A (ko) * 2009-10-20 2012-07-02 더 리전트 오브 더 유니버시티 오브 캘리포니아 단일 칩 상에서의 비간섭성 무렌즈 세포 홀로그래피 및 검경
US20130093871A1 (en) * 2011-10-18 2013-04-18 Andreas G. Nowatzyk Omnidirectional super-resolution microscopy
US20140268105A1 (en) * 2013-03-15 2014-09-18 Zygo Corporation Optical defect inspection system
JP6238657B2 (ja) * 2013-09-12 2017-11-29 キヤノン株式会社 画像処理装置及びその制御方法

Also Published As

Publication number Publication date
US20190086865A1 (en) 2019-03-21
US11199812B2 (en) 2021-12-14
WO2017203662A1 (ja) 2017-11-30
JPWO2017203662A1 (ja) 2019-03-22

Similar Documents

Publication Publication Date Title
JP4542164B2 (ja) パターン検査装置、パターン検査方法及びプログラム
JP5153846B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び、プログラム
JP6307367B2 (ja) マスク検査装置、マスク評価方法及びマスク評価システム
JP4393483B2 (ja) 放射線画像処理装置、画像処理システム、放射線画像処理方法、記憶媒体及びプログラム
JP2020503633A (ja) 低解像度検査画像から高分解能点拡がり関数を再構築するシステム及び方法
JP2012069099A (ja) 画像処理方法、画像処理装置および画像処理プログラム
JP5146797B2 (ja) パターン欠陥検査のための装置、その方法及びそのプログラムを記録したコンピュータ読取り可能な記録媒体
JP2006221190A (ja) 共焦点走査型顕微鏡システム
CN111556257B (zh) 基于窄动态范围采集和自适应相位恢复的成像方法及装置
JP2005317818A (ja) パターン検査装置およびパターン検査方法
JP6004323B2 (ja) フーリエ反復位相回復法
Yoo et al. Sinogram image completion for limited angle tomography with generative adversarial networks
JP2021060847A (ja) ノイズ除去システム
JP6643470B2 (ja) デジタルホログラフィック撮像装置、撮像方法
Lobato et al. Deep convolutional neural networks to restore single-shot electron microscopy images
JP2012003454A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2013033496A (ja) 画像処理装置、撮像装置、画像処理方法、及び、プログラム
WO2019012796A1 (ja) 情報処理装置、情報処理方法、プログラム及び細胞観察システム
TW201837458A (zh) 用於從低解析度檢測影像重建高解析度點擴散函數之系統及方法
JP6040469B2 (ja) デジタルホログラフィ装置
EP4198876A1 (en) Reducing image artefacts in electron microscopy
JP2009250681A (ja) 半導体装置の解析装置及び半導体装置の解析方法
JP4393436B2 (ja) 放射線画像処理装置、画像処理システム、放射線画像処理方法、記憶媒体及びプログラム
JP2016061608A (ja) 画像処理方法、画像処理装置、撮像システム
WO2023111772A1 (en) Reducing image artefacts in electron microscopy

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200106

R151 Written notification of patent or utility model registration

Ref document number: 6643470

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

LAPS Cancellation because of no payment of annual fees
R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350