JP6952176B2 - 時間的圧縮感知システム - Google Patents

時間的圧縮感知システム Download PDF

Info

Publication number
JP6952176B2
JP6952176B2 JP2020187927A JP2020187927A JP6952176B2 JP 6952176 B2 JP6952176 B2 JP 6952176B2 JP 2020187927 A JP2020187927 A JP 2020187927A JP 2020187927 A JP2020187927 A JP 2020187927A JP 6952176 B2 JP6952176 B2 JP 6952176B2
Authority
JP
Japan
Prior art keywords
time
data
radiation
sample
sensor array
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020187927A
Other languages
English (en)
Other versions
JP2021039947A5 (ja
JP2021039947A (ja
Inventor
ダブリュー. リード ブライアン
ダブリュー. リード ブライアン
Original Assignee
インテグレイテッド ダイナミック エレクトロン ソリューションズ, インコーポレイテッド
インテグレイテッド ダイナミック エレクトロン ソリューションズ, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インテグレイテッド ダイナミック エレクトロン ソリューションズ, インコーポレイテッド, インテグレイテッド ダイナミック エレクトロン ソリューションズ, インコーポレイテッド filed Critical インテグレイテッド ダイナミック エレクトロン ソリューションズ, インコーポレイテッド
Publication of JP2021039947A publication Critical patent/JP2021039947A/ja
Publication of JP2021039947A5 publication Critical patent/JP2021039947A5/ja
Application granted granted Critical
Publication of JP6952176B2 publication Critical patent/JP6952176B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N23/00Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00
    • G01N23/22Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material
    • G01N23/225Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material using electron or ion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J37/00Discharge tubes with provision for introducing objects or material to be exposed to the discharge, e.g. for the purpose of examination or processing thereof
    • H01J37/02Details
    • H01J37/22Optical, image processing or photographic arrangements associated with the tube
    • H01J37/222Image processing arrangements associated with the tube
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J37/00Discharge tubes with provision for introducing objects or material to be exposed to the discharge, e.g. for the purpose of examination or processing thereof
    • H01J37/26Electron or ion microscopes; Electron or ion diffraction tubes
    • H01J37/261Details
    • H01J37/265Controlling the tube; circuit arrangements adapted to a particular application not otherwise provided, e.g. bright-field-dark-field illumination
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J37/00Discharge tubes with provision for introducing objects or material to be exposed to the discharge, e.g. for the purpose of examination or processing thereof
    • H01J37/26Electron or ion microscopes; Electron or ion diffraction tubes
    • H01J37/28Electron or ion microscopes; Electron or ion diffraction tubes with scanning beams
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/22Treatment of data
    • H01J2237/221Image processing
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/22Treatment of data
    • H01J2237/226Image reconstruction
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/244Detection characterized by the detecting means
    • H01J2237/24455Transmitted particle detectors
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/26Electron or ion microscopes
    • H01J2237/262Non-scanning techniques
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/26Electron or ion microscopes
    • H01J2237/28Scanning microscopes
    • H01J2237/2802Transmission microscopes

Landscapes

  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)
  • Electron Sources, Ion Sources (AREA)
  • Image Analysis (AREA)

Description

(相互参照)
本願は、米国仮出願第62/258,194号(2015年11月20日出願)の利益を主張し、上記出願は、参照により本明細書に組み込まれる。
(政府援助研究に関する声明)
本発明は、アメリカ合衆国エネルギー省による許可番号DE−SC0013104下、合衆国政府の支援によって為された。
圧縮感知は、信号を測定し、限定された一連の試験測定に基づいて数学的に再構築するために、いくつかの信号の固有の性質を利用する、信号収集および処理へのアプローチである。本開示は、時間的圧縮感知のための新規のシステムおよび方法に関する。例えば、1つの具体的開示は、透過型電子顕微鏡(TEM)に適用されるような新規の時間的圧縮感知システムおよび方法に関連する。
本明細書では、a)源からサンプルまたは場面に向かって強度を有する放射線を差し向けるステップと、b)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉するステップであって、1つ以上のデータ収集期間の各々内で、サンプルまたは場面によって透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが、一連のタイムスライスに対して捕捉される、ステップと、c)i)各データ収集期間に対して捕捉される1つ以上の測定データセットと、ii)データ収集期間内でサンプルまたは場面に差し向けられる、源からの放射線の強度の既知の時間依存性、もしくはデータ収集期間内でサンプルまたは場面によってセンサアレイの異なる領域に透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線を切り替えるための既知の時間依存性を表す、一連の係数であって、係数は、タイムスライスおよびセンサアレイの領域の関数として変動するが、センサアレイ内またはセンサアレイの所与の領域内の所与のピクセルのための空間位置から独立している、一連の係数と、iii)各データ収集期間に対して捕捉される1つ以上の測定データセットおよび一連の係数からタイムスライスデータセットを計算するアルゴリズムとを使用して、1つ以上のデータ収集期間の各々内で一連のタイムスライス毎にタイムスライスデータセットを再構築し、それによって、データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する、1つ以上のデータ収集期間の各々に対する一連のタイムスライスデータセットを提供するステップとを含む、時間的圧縮感知のための方法が開示される。
いくつかの実施形態では、放射線は、レーザ、フォトカソード、電子銃、またはそれらの任意の組み合わせである源からのものである。いくつかの実施形態では、センサアレイは、1次元センサアレイ、2次元センサアレイ、センサアレイチップ上に複数の測定データセットを記憶するセンサアレイ、またはそれらの任意の組み合わせである。いくつかの実施形態では、センサアレイは、電荷結合素子(CCD)センサ、相補型金属酸化膜半導体(CMOS)センサ、CMOSフレーミングカメラ、フォトダイオードアレイ、またはそれらの任意の組み合わせを備えている2次元センサアレイである。いくつかの実施形態では、センサアレイはさらに、非線形光学材料、蛍光材料、リン光性材料、または放射線をセンサアレイによって直接検出可能な放射線に変換するマイクロチャネルプレートを備えている。いくつかの実施形態では、タイムスライスデータセットを再構築するために使用されるアルゴリズムは、lノルム、非ゼロ係数の総数、全変動、もしくは事前のベータプロセスを介して劣決定連立一次方程式の非スパース解にペナルティを科す最適化アルゴリズム、反復貪欲回復アルゴリズム、辞書学習アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、またはそれらの任意の組み合わせである。いくつかの実施形態では、少なくともまたは少なくとも約10個のタイムスライスデータセットが、各データ収集期間に対して捕捉される1つ以上の測定データセットから再構築される。いくつかの実施形態では、2次元センサアレイは、毎秒少なくともまたは少なくとも約100フレームの有効データ収集および読み出し速度で動作する。いくつかの実施形態では、放射線は、電子を備え、センサアレイは、電荷結合素子(CCD)センサ、画像強化電荷結合素子(ICCD)センサ、電子エネルギー損失分光計における検出器(EELS)、またはそれらの任意の組み合わせである。いくつかの実施形態では、放射線は、電子を備え、センサアレイは、エネルギー分散型X線分光計(EDX)における検出器によって置換される。いくつかの実施形態では、タイムスライスデータセットは、透過型電子顕微鏡画像データの再構築されたフレームを備えている。いくつかの実施形態では、タイムスライスデータセットは、透過型電子顕微鏡回折パターンデータの再構築されたフレームを備えている。いくつかの実施形態では、タイムスライスデータセットは、透過型電子顕微鏡電子エネルギー損失スペクトルデータの再構築されたフレームを備えている。いくつかの実施形態では、タイムスライスデータセットは、走査型電子顕微鏡画像データまたは透過型電子顕微鏡エネルギー分散型X線スペクトルデータの再構築されたフレームを備えている。いくつかの実施形態では、再構築されるべきタイムスライスデータセットの数は、タイムスライスデータセットの計算中に調節される。いくつかの実施形態では、再構築されるべきタイムスライスデータセットの数は、測定データセットを捕捉することに先立って、各々が異なる数のタイムスライスを伴うさまざまな測定行列係数を計算することによって最適化される。いくつかの実施形態では、一連のタイムスライスにわたってサンプルまたは場面によって透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線のパターンの異なる線形の組み合わせは、時間的様式で放射線強度以外の実験パラメータを変調することによって生成される。いくつかの実施形態では、時間的に変調される実験パラメータは、サンプルまたは場面の回転の向き、1次元でのサンプルまたは場面の線形平行移動、2次元でのサンプルまたは場面の線形平行移動、および3次元でのサンプルまたは場面の線形平行移動、もしくはそれらの任意の組み合わせから成る群から選択される。いくつかの実施形態では、放射線は、狭いビームに集束され、時間的に変調される実験パラメータは、サンプルまたは場面に対するビームの位置である。いくつかの実施形態では、一連の係数は、データ収集期間内でサンプルまたは場面に差し向けられる、源からの放射線の強度の既知の空間依存性および時間依存性、または源からの放射線の強度の既知の空間依存性、およびデータ収集期間内でサンプルまたは場面によってセンサアレイの異なる領域に透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線を切り替えるための既知の時間依存性を表す。
また、本明細書では、a)サンプルまたは場面に差し向けられるある強度を有する放射線を提供する放射線源と、b)サンプルまたは場面による透過、反射、弾性散乱、または非弾性散乱に続いて放射線を検出するセンサアレイと、c)サンプルまたは場面とのその相互作用に先立って、放射線源によって生成される放射線の強度を急速に変調する、もしくはサンプルまたは場面によってセンサアレイの異なる領域に透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線を急速に切り替える、機構と、d)1つ以上のコンピュータプロセッサであって、(i)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉し、各データ収集期間内で、一連のタイムスライスに対する透過された、反射された、弾性的に散乱された、もしくは非弾性的に散乱された放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが捕捉され、(ii)1)各データ収集期間に対して捕捉される1つ以上の測定データセットと、2)放射線源によって生成され、データ収集期間内でサンプルまたは場面に差し向けられる、放射線の強度の既知の時間依存性、もしくはデータ収集期間内でサンプルまたは場面によってセンサアレイの異なる領域に透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線を切り替えるための既知の時間依存性を表す、一連の係数であって、係数は、タイムスライスおよびセンサアレイの領域の関数として変動するが、センサアレイ内またはセンサアレイの所与の領域内の所与のピクセルのための空間位置から独立している、一連の係数と、3)各データ収集期間に対して捕捉される1つ以上の測定データセットおよび一連の係数からタイムスライスデータセットを計算するアルゴリズムとを使用して、1つ以上のデータ収集期間の各々内でタイムスライス毎にタイムスライスデータセットを再構築し、それによって、データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する、1つ以上のデータ収集期間の各々に対する一連のタイムスライスデータセットを生成する、1つ以上のコンピュータプロセッサとを備えている、時間的圧縮感知のためのシステムも開示される。
また、本明細書では、a)サンプルまたは場面に差し向けられる放射線を提供する放射線源と、b)サンプルまたは場面による透過、反射、弾性散乱、または非弾性散乱に続いて放射線を検出するセンサアレイと、c)照射の方向に対して、サンプルまたは場面の1次元、2次元、もしくは3次元平行移動位置または回転の向き、もしくはそれらの任意の組み合わせを急速に変調する機構と、d)1つ以上のコンピュータプロセッサであって、(i)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉し、各データ収集期間内で、一連のタイムスライスに対する透過された、反射された、弾性的に散乱された、もしくは非弾性的に散乱された放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが捕捉され、(ii)1)各データ収集期間に対して捕捉される1つ以上の測定データセットと、2)データ収集期間内のサンプルまたは場面の平行移動位置もしくは回転の向きの既知の時間依存性を表す、一連の係数と、3)各データ収集期間に対して捕捉される1つ以上の測定データセットおよび一連の係数からタイムスライスデータセットを計算するアルゴリズムとを使用して、1つ以上のデータ収集期間の各々内でタイムスライス毎にタイムスライスデータセットを再構築し、それによって、データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する、1つ以上のデータ収集期間の各々に対する一連のタイムスライスデータセットを生成する、1つ以上のコンピュータプロセッサとを備えている、時間的圧縮感知のためのシステムも開示される。
いくつかの実施形態では、放射線源は、レーザ、フォトカソード、電子銃、またはそれらの任意の組み合わせである。いくつかの実施形態では、センサアレイは、1次元センサアレイ、2次元センサアレイ、チップ上に複数の測定データセットを記憶するセンサアレイ、またはそれらの任意の組み合わせである。いくつかの実施形態では、センサアレイは、電荷結合素子(CCD)センサ、相補型金属酸化膜半導体(CMOS)センサ、CMOSフレーミングカメラ、フォトダイオードアレイ、またはそれらの任意の組み合わせを備えている2次元センサアレイである。いくつかの実施形態では、センサアレイはさらに、非線形光学材料、蛍光材料、リン光性材料、または放射線源からの信号をセンサアレイによって直接検出可能な放射線に変換するマイクロチャネルプレートを備えている。いくつかの実施形態では、タイムスライスデータセットを再構築するアルゴリズムは、lノルム、非ゼロ係数の総数、全変動、もしくは事前のベータプロセスを介して劣決定連立一次方程式の非スパース解にペナルティを科す最適化アルゴリズム、反復貪欲回復アルゴリズム、辞書学習アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、またはそれらの任意の組み合わせである。いくつかの実施形態では、少なくともまたは少なくとも約10個のタイムスライスデータセットが、各データ収集期間に対して捕捉される1つ以上の測定データセットから再構築される。いくつかの実施形態では、2次元センサアレイは、毎秒少なくともまたは少なくとも約100フレームの有効データ収集および読み出し速度で動作する。いくつかの実施形態では、タイムスライスデータセットは、ビデオ画像データの再構築されたフレームを備えている。いくつかの実施形態では、放射線は、電子を備え、センサアレイは、電荷結合素子(CCD)センサ、画像強化電荷結合素子(ICCD)センサ、電子エネルギー損失分光計における検出器(EELS)、またはそれらの任意の組み合わせである。いくつかの実施形態では、放射線は、電子を備え、センサアレイは、エネルギー分散型X線分光計(EDX)における検出器によって置換される。いくつかの実施形態では、タイムスライスデータセットは、透過型電子顕微鏡画像データの再構築されたフレームを備えている。いくつかの実施形態では、タイムスライスデータセットは、透過型電子顕微鏡回折パターンデータの再構築されたフレームを備えている。いくつかの実施形態では、タイムスライスデータセットは、透過型電子顕微鏡電子エネルギー損失スペクトルデータの再構築されたフレームを備えている。いくつかの実施形態では、タイムスライスデータセットは、走査型電子顕微鏡画像データまたは透過型電子顕微鏡エネルギー分散型X線スペクトルデータの再構築されたフレームを備えている。いくつかの実施形態では、再構築されるべきタイムスライスデータセットの数は、タイムスライスデータセットの計算中に調節される。いくつかの実施形態では、再構築されるべきタイムスライスデータセットの数は、測定データセットを捕捉することに先立って、各々が異なる数のタイムスライスを伴うさまざまな測定行列係数を計算することによって最適化される。いくつかの実施形態では、放射線は、狭いビームに集束され、機構は、サンプルまたは場面に対してビームの位置を急速に変調する。いくつかの実施形態では、一連の係数は、データ収集期間内でサンプルまたは場面に差し向けられる、源からの放射線の強度の既知の空間依存性および時間依存性、または源からの放射線の強度の既知の空間依存性、およびデータ収集期間内でサンプルまたは場面によってセンサアレイの異なる領域に透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線を切り替えるための既知の時間依存性を表す。
例えば、本願は以下の項目を提供する。
(項目1)
時間的圧縮感知のための方法であって、前記方法は、
a)ある強度を有する放射線を源からサンプルまたは場面に差し向けることと、
b)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉することであって、前記1つ以上のデータ収集期間の各々内で、前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または非弾性的に散乱される前記放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが、一連のタイムスライスに対して捕捉される、ことと、
c)前記1つ以上のデータ収集期間の各々内の前記一連の前記タイムスライスの各々に対してタイムスライスデータセットを再構築することであって、前記再構築することは、
i)各データ収集期間に対して捕捉される前記1つ以上の測定データセットと、
ii)一連の係数であって、前記一連の係数は、前記データ収集期間内に前記サンプルまたは場面に差し向けられる前記源からの前記放射線の前記強度の既知の時間依存性、または、前記データ収集期間内に前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または非弾性的に散乱される前記放射線を前記センサアレイの異なる領域に切り替えるための既知の時間依存性を表し、前記係数は、タイムスライスおよび前記センサアレイの領域の関数として変動するが、前記センサアレイ内または前記センサアレイの所与の領域内の所与のピクセルのための空間位置から独立している、一連の係数と、
iii)各データ収集期間に対して捕捉される前記1つ以上の測定データセットおよび前記一連の係数から前記タイムスライスデータセットを計算するアルゴリズムと
を使用する、ことと、
それによって、前記1つ以上のデータ収集期間の各々に対する一連のタイムスライスデータセットを提供することと
を含み、
前記一連のタイムスライスデータセットは、前記データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する、方法。
(項目2)
前記放射線は、レーザ、フォトカソード、電子銃、またはそれらの任意の組み合わせである源からのものである、項目1に記載の方法。
(項目3)
前記センサアレイは、1次元センサアレイ、2次元センサアレイ、センサアレイチップ上に複数の測定データセットを記憶するセンサアレイ、またはそれらの任意の組み合わせである、項目1−2のいずれか1項に記載の方法。
(項目4)
前記センサアレイは、電荷結合素子(CCD)センサ、相補型金属酸化膜半導体(CMOS)センサ、CMOSフレーミングカメラ、フォトダイオードアレイ、またはそれらの任意の組み合わせを備えている2次元センサアレイである、項目1−3のいずれか1項に記載の方法。
(項目5)
前記センサアレイは、前記放射線を前記センサアレイによって直接検出可能な放射線に変換する非線形光学材料、蛍光材料、リン光性材料、またはマイクロチャネルプレートをさらに備えている、項目1−4のいずれか1項に記載の方法。
(項目6)
前記タイムスライスデータセットを再構築するために使用される前記アルゴリズムは、lノルム、非ゼロ係数の総数、全変動、もしくは事前のベータプロセスを介して劣決定連立一次方程式の非スパース解にペナルティを科す最適化アルゴリズム、反復貪欲回復アルゴリズム、辞書学習アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、またはそれらの任意の組み合わせである、項目1−5のいずれか1項に記載の方法。
(項目7)
少なくともまたは少なくとも約10個のタイムスライスデータセットが、各データ収集期間に対して捕捉される前記1つ以上の測定データセットから再構築される、項目1−6のいずれか1項に記載の方法。
(項目8)
前記2次元センサアレイは、毎秒少なくともまたは少なくとも約100フレームの有効データ収集および読み出し速度で動作する、項目1−7のいずれか1項に記載の方法。
(項目9)
前記放射線は、電子を備え、前記センサアレイは、電荷結合素子(CCD)センサ、画像強化電荷結合素子(ICCD)センサ、電子エネルギー損失分光計における検出器(EELS)、またはそれらの任意の組み合わせである、項目1−8のいずれか1項に記載の方法。
(項目10)
前記放射線は、電子を備え、前記センサアレイは、エネルギー分散型X線分光計(EDX)における検出器によって置換される、項目1−9のいずれか1項に記載の方法。
(項目11)
前記タイムスライスデータセットは、透過型電子顕微鏡画像データの再構築されたフレームを備えている、項目1−10のいずれか1項に記載の方法。
(項目12)
前記タイムスライスデータセットは、透過型電子顕微鏡回折パターンデータの再構築されたフレームを備えている、項目1−11のいずれか1項に記載の方法。
(項目13)
前記タイムスライスデータセットは、透過型電子顕微鏡電子エネルギー損失スペクトルデータの再構築されたフレームを備えている、項目1−12のいずれか1項に記載の方法。
(項目14)
前記タイムスライスデータセットは、走査型電子顕微鏡画像データまたは透過型電子顕微鏡エネルギー分散型X線スペクトルデータの再構築されたフレームを備えている、項目1−13のいずれか1項に記載の方法。
(項目15)
再構築されるべきタイムスライスデータセットの数は、前記タイムスライスデータセットの計算中に調節される、項目1−14のいずれか1項に記載の方法。
(項目16)
再構築されるべきタイムスライスデータセットの数は、前記測定データセットを捕捉することに先立って、各々が異なる数のタイムスライスを伴うさまざまな測定行列係数を計算することによって最適化される、項目1−15のいずれか1項に記載の方法。
(項目17)
一連のタイムスライスに対して前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または非弾性的に散乱される前記放射線のパターンの前記異なる線形の組み合わせは、時間的様式で前記放射線強度以外の実験パラメータを変調することによって生成される、項目1−16のいずれか1項に記載の方法。
(項目18)
時間的に変調されるべき前記実験パラメータは、前記サンプルまたは場面の回転の向き、1次元での前記サンプルまたは場面の線形平行移動、2次元での前記サンプルまたは場面の線形平行移動、および3次元での前記サンプルまたは場面の線形平行移動、またはそれらの任意の組み合わせから成る群から選択される、項目17に記載の方法。
(項目19)
前記放射線は、狭いビームに集束され、時間的に変調されるべき前記実験パラメータは、前記サンプルまたは場面に対する前記ビームの位置である、項目17に記載の方法。
(項目20)
前記一連の係数は、前記データ収集期間内に前記サンプルまたは場面に差し向けられる前記源からの前記放射線の前記強度の既知の空間依存性および時間依存性、または、前記源からの前記放射線の前記強度の既知の空間依存性および前記データ収集期間内に前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または非弾性的に散乱される前記放射線を前記センサアレイの異なる領域に切り替えるための既知の時間依存性を表す、項目1−19のいずれか1項に記載の方法。
(項目21)
時間的圧縮感知のためのシステムであって、前記システムは、
a)サンプルまたは場面に差し向けられるある強度を有する放射線を提供する放射線源と、
b)前記サンプルまたは場面による透過、反射、弾性散乱、または非弾性散乱後の前記放射線を検出するセンサアレイと、
c)前記サンプルまたは場面とのその相互作用に先立って、前記放射線源によって生成される前記放射線の前記強度を急速に変調する機構、または、前記サンプルまたは場面によって透過され、反射さる、弾性的に散乱され、または非弾性的に散乱される前記放射線を前記センサアレイの異なる領域に急速に切り替える機構と、
d)1つ以上のコンピュータプロセッサと
を備え、
前記1つ以上のコンピュータプロセッサは、
(i)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉することであって、各データ収集期間内で、一連のタイムスライスに対する透過され、反射され、弾性的に散乱され、または非弾性的に散乱される放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが捕捉される、ことと、
(ii)前記1つ以上のデータ収集期間の各々内の前記一連の前記タイムスライスの各々に対してタイムスライスデータセットを再構築することであって、前記再構築することは、
1)各データ収集期間に対して捕捉される前記1つ以上の測定データセットと、
2)一連の係数であって、前記一連の係数は、前記データ収集期間内に前記サンプルまたは場面に差し向けられる前記源からの前記放射線の前記強度の既知の時間依存性、または、前記データ収集期間内に前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または非弾性的に散乱される前記放射線を前記センサアレイの異なる領域に切り替えるための既知の時間依存性を表し、前記係数は、タイムスライスおよび前記センサアレイの領域の関数として変動するが、前記センサアレイ内または前記センサアレイの所与の領域内の所与のピクセルのための空間位置から独立している、一連の係数と、
3)各データ収集期間に対して捕捉される前記1つ以上の測定データセットおよび前記一連の係数から前記タイムスライスデータセットを計算するアルゴリズムと
を使用する、ことと、
それによって、前記1つ以上のデータ収集期間の各々に対する一連のタイムスライスデータセットを提供することと
を行い、
前記一連のタイムスライスデータセットは、前記データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する、システム。
(項目22)
時間的圧縮感知のためのシステムであって、前記システムは、
a)サンプルまたは場面に差し向けられる放射線を提供する放射線源と、
b)前記サンプルまたは場面による透過、反射、弾性散乱、または非弾性散乱後の前記放射線を検出するセンサアレイと、
c)前記放射の方向に対して、前記サンプルまたは場面の1次元、2次元、もしくは3次元平行移動位置または回転の向き、または、それらの任意の組み合わせを急速に変調する機構と、
d)1つ以上のコンピュータプロセッサと
を備え、
前記1つ以上のコンピュータプロセッサは、
(i)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉することであって、各データ収集期間内で、一連のタイムスライスに対する透過され、反射され、弾性的に散乱され、または非弾性的に散乱される放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが捕捉される、ことと、
(ii)前記1つ以上のデータ収集期間の各々内の前記一連の前記タイムスライスの各々に対してタイムスライスデータセットを再構築することであって、前記再構築することは、
1)各データ収集期間に対して捕捉される前記1つ以上の測定データセットと、
2)一連の係数であって、前記一連の係数は、前記データ収集期間内の前記サンプルまたは場面の平行移動位置または回転の向きの既知の時間依存性を表す、一連の係数と、
3)各データ収集期間に対して捕捉される前記1つ以上の測定データセットおよび前記一連の係数から前記タイムスライスデータセットを計算するアルゴリズムと
を使用する、ことと、
それによって、前記1つ以上のデータ収集期間の各々に対する一連のタイムスライスデータセットを提供することと
を行い、
前記一連のタイムスライスデータセットは、前記データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する、システム。
(項目23)
前記放射線源は、レーザ、フォトカソード、電子銃、またはそれらの任意の組み合わせである、項目21−22のいずれか1項に記載のシステム。
(項目24)
前記センサアレイは、1次元センサアレイ、2次元センサアレイ、チップ上に複数の測定データセットを記憶するセンサアレイ、またはそれらの任意の組み合わせである、項目21−23のいずれか1項に記載のシステム。
(項目25)
前記センサアレイは、電荷結合素子(CCD)センサ、相補型金属酸化膜半導体(CMOS)センサ、CMOSフレーミングカメラ、フォトダイオードアレイ、またはそれらの任意の組み合わせを備えている2次元センサアレイである、項目21−24のいずれか1項に記載のシステム。
(項目26)
前記センサアレイは、前記放射線源からの前記信号を前記センサアレイによって直接検出可能な放射線に変換する非線形光学材料、蛍光材料、リン光性材料、またはマイクロチャネルプレートをさらに備えている、項目21−25のいずれか1項に記載のシステム。
(項目27)
前記タイムスライスデータセットを再構築する前記アルゴリズムは、lノルム、非ゼロ係数の総数、全変動、もしくは事前のベータプロセスを介して劣決定連立一次方程式の非スパース解にペナルティを科す最適化アルゴリズム、反復貪欲回復アルゴリズム、辞書学習アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、またはそれらの任意の組み合わせである、項目21−26のいずれか1項に記載のシステム。
(項目28)
少なくともまたは少なくとも約10個のタイムスライスデータセットが、各データ収集期間に対して捕捉される前記1つ以上の測定データセットから再構築される、項目21−27のいずれか1項に記載のシステム。
(項目29)
前記2次元センサアレイは、毎秒少なくともまたは少なくとも約100フレームの有効データ収集および読み出し速度で動作する、項目21−28のいずれか1項に記載のシステム。
(項目30)
前記タイムスライスデータセットは、ビデオ画像データの再構築されたフレームを備えている、項目21−29のいずれか1項に記載のシステム。
(項目31)
前記放射線は、電子を備え、前記センサアレイは、電荷結合素子(CCD)センサ、画像強化電荷結合素子(ICCD)センサ、電子エネルギー損失分光計における検出器(EELS)、またはそれらの任意の組み合わせである、項目21−30のいずれか1項に記載のシステム。
(項目32)
前記放射線は、電子を備え、前記センサアレイは、エネルギー分散型X線分光計(EDX)における検出器によって置換される、項目21−31のいずれか1項に記載のシステム。
(項目33)
前記タイムスライスデータセットは、透過型電子顕微鏡画像データの再構築されたフレームを備えている、項目21−32のいずれか1項に記載のシステム。
(項目34)
前記タイムスライスデータセットは、透過型電子顕微鏡回折パターンデータの再構築されたフレームを備えている、項目21−33のいずれか1項に記載のシステム。
(項目35)
前記タイムスライスデータセットは、透過型電子顕微鏡電子エネルギー損失スペクトルデータの再構築されたフレームを備えている、項目21−34のいずれか1項に記載のシステム。
(項目36)
前記タイムスライスデータセットは、走査型電子顕微鏡画像データまたは透過型電子顕微鏡エネルギー分散型X線スペクトルデータの再構築されたフレームを備えている、項目21−35のいずれか1項に記載のシステム。
(項目37)
再構築されるべきタイムスライスデータセットの数は、前記タイムスライスデータセットの計算中に調節される、項目21−36のいずれか1項に記載のシステム。
(項目38)
再構築されるべきタイムスライスデータセットの数は、前記測定データセットを捕捉することに先立って、各々が異なる数のタイムスライスを伴うさまざまな測定行列係数を計算することによって最適化される、項目21−37のいずれか1項に記載のシステム。
(項目39)
前記放射線は、狭いビームに集束され、前記機構は、前記サンプルまたは場面に対して前記ビームの位置を急速に変調する、項目22に記載のシステム。
(項目40)
前記一連の係数は、前記データ収集期間内に前記サンプルまたは場面に差し向けられる前記源からの前記放射線の前記強度の既知の空間依存性および時間依存性、または、前記源からの前記放射線の前記強度の既知の空間依存性および前記データ収集期間内に前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または非弾性的に散乱される前記放射線を前記センサアレイの異なる領域に切り替えるための既知の時間依存性を表す、項目21−39のいずれか1項に記載のシステム。
(参照による組み込み)
本明細書で記述される全ての刊行物、特許、および特許出願は、各個々の刊行物、特許、または特許出願が、参照することによってそれらの全体として組み込まれるように具体的かつ個別に示された場合と同一の程度に、参照することによってそれらの全体として本明細書に組み込まれる。本明細書の用語と組み込まれた参考文献内の用語との間の対立の場合には、本明細書の用語が優先する。
以下の説明および実施例は、本発明の実施形態を詳細に例証する。本発明は、本明細書に説明される特定の実施形態に限定されず、したがって、変動し得ることを理解されたい。当業者は、その範囲内に包含される、本発明の多数の変形例および修正があることを認識するであろう。
本発明の新規特徴は、添付の請求項に詳細に記載される。本発明の特徴および利点のより深い理解が、例証的実施形態を記載し、本発明の原理が利用される、以下の発明を実施するための形態と、付随の図とを参照することによって得られるであろう。
図1は、原位置引張亀裂伝搬実験(K.Hattar他、Sandia National Laboratoryの厚意による)からのTEM画像データの10個のフレームを図示する。
図2は、高速切り替えシステムを使用する大型カメラの4つの異なる領域に送信され、分析のために4つの画像フレーム(すなわち、大型カメラセンサによって捕捉される画像の2×2アレイ)にデジタルでセグメント化される、10個のタイムスライスデータセットの異なる組み合わせを図示する。測定行列とも呼ばれるマスク行列は、この場合、10個の明確に異なるタイムスライスからの画像データの線形の組み合わせとして、4つの測定されたフレームのそれぞれを表す係数を規定する、実数の4×10アレイである。
図3は、図2に図示される10個のタイムスライスデータセットの異なる組み合わせおよび高速切り替えシステムを使用して、単一のカメラデータ収集期間中に捕捉される、4つのセグメント化された画像フレームを図示する。4つのセグメント化された画像フレームは、単一のカメラデータ収集期間中に同時に捕捉される。
図4は、図3に図示される4つのセグメント化された画像から再構築される10個のタイムスライス画像(データセット)を図示する。図1と図4との間の一致は、図1のデータが圧縮可能であり、各タイムスライス内のサンプルの状態を表す、10個全ての明確に異なる画像を再構築するために、4つの測定された画像のみを要求することを図示する。
図5は、TEMの基本構成要素および機能の一般的な簡略図を描写する。
図6は、本明細書に開示される圧縮感知方法を実装するために高速偏向器システムを利用する、修正されたTEMの一非限定的実施例を図示する。
図7は、光電子源からの電流を変調するために、任意波形レーザ(例えば、サブピコ秒スケール変調およびサブナノ秒スケールパルス持続時間を伴う、またはナノ秒スケール変調およびマイクロ秒スケールパルス持続時間を伴う)を利用する、ストロボ時間分解TEMの一非限定的実施例を図示する。
図8は、本明細書に開示される時間的圧縮感知方法を実装するための光学システム(簡略図)の一非限定的実施例を図示する。
図9は、本開示の時間的圧縮感知データ収集および分析方法を実装するために使用され得る、コンピュータシステムの一実施例を図示する。
圧縮感知の概観:圧縮感知(圧縮された感知、圧縮サンプリング、またはスパースサンプリングとしても公知である)は、信号を効率的に収集して再構築するための信号収集および処理技法群である。本明細書で使用されるように、「信号」という用語およびその文法的均等物は、電気、電磁、または磁場、ならびに光学もしくは非光学画像データ、スペクトルデータ、回折データ、および同等物に関するため、強度、周波数、または位相データを含むが、それらに限定されない。圧縮感知では、信号の再構築は、標本関数(または試験関数)の定義されたセットに従って限定数の信号測定を行い、続いて、未知の「真の」信号を測定された値のセットに関連付ける、結果として生じる連立一次方程式の数理解を求めることによって、行われる。再構築は、したがって、「真の」信号の推定値を提供し、その正確度は、信号自体の性質、信号をサンプリングするために使用される試験機能の選択肢、信号の中の雑音の量、および連立一次方程式を解くために選択される数学アルゴリズムを含むが、それらに限定されない、いくつかの要因に依存する。信号がアンダーサンプリングされるため、連立一次方程式は、劣決定される(すなわち、方程式よりも多くの未知数を有する)。一般に、劣決定連立方程式は、無数の解を有する。圧縮感知アプローチは、信号の性質の予備知識または性質についての合理的仮定が、従来のナイキスト・シャノンサンプリングによって要求されるであろう、はるかに少ないサンプリング測定からそれを回収するために活用され得るという原理に基づく。2つの条件、すなわち、(i)信号が、あるドメインでは「スパース」でなければならない(すなわち、信号は、基底ベクトルの線形の組み合わせとして、あるN次元座標系で表されてもよく、基底ベクトル毎の少数Kのみの係数がゼロではない(K<<N))、(ii)信号およびサンプリング測定関数が、非干渉性でなければならない(すなわち、測定関数のセット(ベクトル)は、信号がスパースであるドメインのためのN個の基底ベクトルのセットにわたって無作為に分配される)という条件が、圧縮感知された信号の正確な再構築のために満たされなければならない。
多くの実世界信号、例えば、写真画像およびビデオデータは、適切に選択されたドメインでスパース性および非干渉性を満たす、基礎的構造ならびに冗長性を呈する。mpegおよびjpegファイルを生成するために使用されるデータ圧縮ならびに解凍アルゴリズムは、要求されるデータ記憶の量を低減させるため、またはデータ伝送を促進するために圧縮感知で使用されるものと本質的に同一の概念を活用する。しかしながら、これらの信号処理アルゴリズムは、信号収集後に適用される。圧縮感知は、データ捕捉の効率を向上させるように、ならびにデータ記憶および伝送要件を低減させるように、信号収集段階において適用される。
圧縮感知では、連立一次方程式が、既知の試験関数のセットを使用して行われる一連のサンプリング測定の収集を通して生成され、サンプリング測定の総数Mは、ナイキスト・シャノンサンプリング理論によって要求される数と比較して小さいが、サンプリングされたデータは依然として、原信号に含有される本質的に全ての有用な情報を含有する。本連立一次方程式は、多くの場合、
Figure 0006952176
として表され、式中、y(m)、m=1,2,...であり、Mは、サンプリング測定を表し、x(n)、n=1,2,...であり、Nは、未知の信号の値を表し、Φは、サンプリング測定を収集するために使用される既知の加重係数(試験関数)を表すM×N行列であり(サンプリング測定は、基底ベクトルの選定されたセットのための加重係数および信号係数の積の線形の組み合わせを備えている)、Ψおよびαは、信号x(n)が
Figure 0006952176
として表され得る、それぞれ、N次元座標系の基底ベクトルおよび対応する係数を表す。x(n)の未知の値について方程式(1)を解くことは、したがって、劣決定連立一次方程式を解くことに対応する。上記で示されるように、劣決定連立一次方程式は、無数の解を有するが、しかしながら、スパース性および非干渉性の制約を課することは、可能な解を少(または最小)数の非ゼロ係数を有するものに限定し、高度な正確度で原信号を再構築することを可能にする。lノルムの最適化、貪欲アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、および辞書学習アルゴリズムを含むが、それらに限定されない、種々の数学的アプローチが、本問題を解くために存在する。
ビデオ圧縮感知:圧縮感知文献は、光学撮像から磁気共鳴映像法、分光法、およびその他にまで及ぶ、応用分野を含む。時間的圧縮感知方法、すなわち、信号が、時間ドメイン内の信号をアンダーサンプリングするデータセットを使用して再構築される、方法が、排他的ではないが、主に、ビデオ圧縮に適用されている。典型的には、これらの方法は、単一のビデオフレームにわたる収集時間よりもはるかに短い時系列上で(通常、圧電システムを用いて)物理的に移動される、ある形態のジッタのあるランダム符号化開口を利用し、それによって、サンプリング測定を空間的に符号化する。したがって、事実上、収集されたビデオフレーム内のピクセル毎のデータは、異なる時点でサンプリングされる光強度の異なる線形の組み合わせを表す。数学的再構築が、カメラのフレームレートまたはデータ収集時間がより速かった場合に、参照された時点のそれぞれで観察されたであろう、ビデオ画像を計算するために使用される。有利な場合において、圧縮感知文献で説明される標準アルゴリズムの変異型は、単一のそのようなデータ収集期間から、ビデオデータの数十またはさらに数百個の再構築されたフレームを再構築するために使用されることができる。本タイプの圧縮感知システムは、光学ビデオカメラについて実証されており、研究者らは、現在、同一のアプローチを透過型電子顕微鏡(TEM)における圧縮感知に適用しようとしている。
電子顕微鏡法として適用されるようなビデオ圧縮感知:要求される符号化開口を生成し、電子ビーム経路内の適切な場所でそれを挿入し、それが汚染を蓄積させない、または電子ビームへの暴露に応じて損傷されないように防止し、要求される速度、精度、および再現性で真空システムの内側にそれを移動させることの困難は、多大であると報告されている(アプローチの計算および数学的側面の説明については、Stevens他、(2015)による近年公開された論文“Applying Compressive Sensing to TEM Video:a Substantial Frame Rate Increase on any Camera”,Adv.Structural
and Chemical Imaging 1:10を参照)。TEMにおいて符号化開口ビデオ圧縮感知を実装することの実際的制限は、多大となっており、多大であり続けるであろう。符号化開口ビデオ圧縮を実装するために要求されるシステム修正は、高価かつ高度に侵襲性の両方であり得、頻繁(かつ潜在的に困難)な保守ならびに再較正ステップを要求し得る。本アプローチの実用性は、したがって、公開された計算研究では考慮されていない、物理的考慮事項(充電、汚染、限定された分解能等)によって限定される可能性が高いであろう。
米国特許第8,933,401号は、電子照射強度の空間パターン(または「マスク」)がサンプルにおいて生成され、顕微鏡が、マスクによって画定される空間位置における測定の重畳からのN個の空間ピクセルを備えている、2次元センサアレイを使用して、情報(画像強度データ、回折パターン、電子エネルギー損失スペクトル(EELS)、またはエネルギー分散型X線スペクトル(EDX)を含むが、それらに限定されない)を捕捉する、電子顕微鏡システム(TEMまたは走査型電子顕微鏡(SEM)のいずれかを含む)における圧縮感知の代替的実装を説明する。電子照射強度の空間変動を制御するために符号化開口を使用するのではなく、本アプローチは、各走査が走査の過程にわたって電子照射強度を変動させる、実質的にサンプル全体にわたって複数の電子ビーム走査を生成するように構成される、電子ビーム走査システムを利用する。そのような空間電子照射強度マスクの数M(M<Nである)を使用して捕捉される、サンプリング測定のセットは、測定がデータ収集期間の全持続時間にわたってN個の空間ピクセルのアレイ全体でデータを収集することを包含した場合に生成されたであろう、画像(または回折パターン、EELS、もしくはEDX等)を再構築するために使用される。上記のように、いくつかの数学的再構築技法のうちのいずれかが、サンプリング測定のセットから生じる劣決定連立一次方程式を解いて、元のフル解像度画像の正確な再構築を生成するために使用されることができる。有利な状況下で、そのようなシステムは、潜在的にはるかに速いデータ収集時間およびはるかに小さいデータ記憶ならびにハンドリング要件を伴うが、従来のTEMまたはSEMシステムと本質的に同一の情報を収集することが予期され得る。本方法は、主に、TEMにおいて行われる空間分解回折および分光法測定で使用するために意図されたが、潜在的応用空間は、これよりもはるかに広い。
時間ドメイン符号化時間的圧縮感知:本明細書では、光学ビデオおよび電子顕微鏡法に加えて、多種多様な信号収集ならびに処理分野に潜在的に適用可能である、上記で説明される時間的圧縮感知方法への代替的アプローチ(すなわち、試験関数が空間ドメインとは対照的に時間ドメイン内で符号化される、時間的圧縮感知)が開示される。加えて、(例えば、マイクロ秒スケールからピコ秒スケール時間分解能にまで及ぶ)非常に異なる時間ドメイン内の動作を可能にする、アプローチのいくつかの明確に異なるハードウェア実装が開示される。
新しいアプローチを説明し、これを前の研究と区別するために、符号化開口ビデオ圧縮感知の既存のアプローチ(すなわち、空間的に符号化されたビデオ圧縮感知)をより詳細に説明することから始める。ごく一般的に言えば、符号化開口ビデオ圧縮感知は、ビデオデータの複数の再構築可能なフレームを単一の収集されたビデオフレームに空間的に符号化することによって稼働する。実践では動作パラメータの実際の範囲が極めて広くあり得ると理解した上で、動作パラメータの典型的値を使用して、実施例を説明する。収集されたビデオフレームは、例えば、各フレームが(データ読み出しオーバーヘッドを考慮した後に)若干10ミリ秒未満の収集時間を表すように、100Hzにおいて連続収集モードで動作する電荷結合素子(CCD)カメラによって収集される、単一のフレームであり得る。全体を通して、カメラ等の従来の収集システムの暴露時間である、本10ミリ秒のスパンを、「時間のブロック」と称する。したがって、標準ビデオ収集システムを用いて、時間のブロックにつき唯一のフレームを収集する。
ここで、符号化開口ビデオ圧縮システムが稼働する方法を考慮されたい。CCDカメラがピクセルの1024×1024アレイを有すると仮定されたい。10ミリ秒の時間のブロック内の任意の所与の瞬間に、符号化開口が、CCDピクセルのある一部に到達する信号を遮断する、または減衰させる。本符号化開口は、10ミリ秒の暴露時間中に100またはそれを上回る有意に明確に異なる場所まで移動されることができるように、既知の軌道で非常に急速に物理的に移動されることが可能である。概念的に、10ミリ秒の暴露時間を、それぞれが長さ0.1ミリ秒である、100個の明確に異なる「タイムスライス」に分けることができる。その意図は、これら100個のタイムスライスのうちのそれぞれ1つの中の1024×1024ピクセルのセット全体に映じていた画像を決定すること、または換言すると、単一の1024×1024ピクセル収集から100個の再構築されたフレームを計算することである。これは、2つの理由により可能である。第1に、各ピクセルは、100個のタイムスライスのある既知の線形の組み合わせから全強度を記録しており、本線形の組み合わせを統制する係数は、異なるピクセルにとって異なる。したがって、各ピクセルは、タイムスライスの異なるサブセット(またはより一般的には加重平均)からの情報を表し、これは、ある点に関して、100個のタイムスライスを相互と区別する情報が収集された画像内にあることを意味する。第2の実世界ビデオデータは、概して、例えば、1024ピクセル×1024ピクセル×100フレームビデオを表すために要求される、独立データ点の実際の数が、空間時間ボクセルの単純なカウントから予期し得る約10値よりもはるかに少ないように、高度な情報冗長性を有する。ビデオにおける運動の速度および複雑性の程度、ならびに所与の用途のために容認可能な歪みの量に応じて、10:1または100:1もしくはさらにそれを上回るデータ圧縮比が、可能であり得る。わずかであるが許容レベルの歪みを伴って、100:1またはそれを上回る圧縮比を達成する、符号化開口光学ビデオ圧縮感知の複数の公開された実施例がある。本歪みは、安価なカメラのフレームレート(すなわち、データ収集および読み出し速度)を100倍またはそれを上回って効果的に倍増させるために払うわずかな代償と見なされる(すなわち、カメラの有効データ収集および読み出し速度、したがって、時間分解能は、そのハードウェア限界によって決定されるものを超える)。
本実施例は、1024×1024ピクセルの単一の10ミリ秒の収集されたビデオフレームからの、それぞれ1024×1024ピクセルを伴う0.1ミリ秒の持続時間の100個の「タイムスライス」ビデオフレームの再構築を図示する。収集されたフレーム内の各ピクセルは、100個の異なるタイムスライス内の同一の空間場所からの(収集中に使用される一連の空間マスクによって決定されるような)情報の異なる線形の組み合わせを表し、10ミリ秒の時間のブロックにつき1つのフレームを収集する。数学用語では、これは、
Figure 0006952176
として表されることができ、式中、Mijは、測定されたビデオフレーム(iおよびjが、それぞれ、画像内の行および列を表すように、ピクセルデータの完全なセットを備えている)、Vijkは、再構築されるビデオフレーム(すなわち、N個のタイムスライスフレームのセット)であり、cijkは、通常、各ピクセルに到達するであろう照射が、所与の時点で遮断および/または減衰される様式を表す、係数のセットである。雑音項は、圧縮感知の理論および用途にとって重要であるが、十分理解された含意を有し、本議論の目的のために懸念となる必要はない。いくつかの実装では、空間マスキングパターンは、各cij値が0または1のいずれかであるように、2進数であるが、これは、必要な制約ではない。我々の実施例では、kは、1〜100に及び、iおよびjはそれぞれ、1〜1024に及ぶ。数学的再構築の目的は、次いで、例えば、ある特定の数学的表現でスパース性を使用して、Mijおよびcijkが把握されるときに、Vijkの推定を生成し、劣決定連立一次方程式を制約することである。そのような数学的表現を決定するための方法および再構築を行うためのアルゴリズムは、(広範囲に及ぶ)圧縮感知文献によって十分に網羅されている(例えば、Duarte他、(2008) “Single−Pixel Imaging via Compressive Sampling”,IEEE Signal Processing Magazine,March 2008,pages 83−91、Stevens他、(2015),“Applying Compressive Sensing to TEM Video:a Substantial Frame Rate Increase on any Camera”,Adv.Structural and Chemical Imaging 1:10参照)。本プロセスは、1つのMijが時間のブロックにつき記録される、カメラによって返される画像Mij毎に繰り返される。再構築アルゴリズムは、一度に単一のMij上で動作することができる、または100個の再構築されたフレームの1つのセットから次のセットまでの連続性を利用するために、同時に複数のMij上で動作することができる。本議論の全体を通して、指数iおよびjの物理的解釈は、測定システムならびにその動作モードに依存するであろうことに留意されたい。一般に、それらは、カメラが使用されている方法にかかわらず、そのカメラの行および列を表す。ある場合には、カメラは、2次元アレイではなく線形アレイとなり、全てのそのような場合において、一対の指数ijは、単一の指数iによって置換されると見なされるべきである。実空間撮像の場合、iおよびj指数は、研究中のサンプルまたは場面の平面内のデカルト座標に線形的に関連するであろう。回折パターンの場合、iおよびj指数は、典型的には、線形近似まで、研究中のサンプルによってプローブ粒子中で誘発される2次元散乱角を表すであろう。分光法の場合、これら2つの指数のうちの一方は、スペクトル座標(エネルギー損失、波長偏移、またはX線光子エネルギー)を表し、他方の指数は、存在する場合、分光法システムの物理的動作原理に応じて、単純な物理的解釈を有する場合もあり、有していない場合もある。例えば、電子エネルギー損失分光法では、本他方の指数は、典型的には、サンプル平面内の空間座標のうちの1つ、散乱角の成分のうちの1つ、またはこれらの線形の組み合わせを表す。
本明細書に開示される時間ドメイン符号化時間的ビデオ圧縮感知へのアプローチ(他のタイプのデータ、例えば、時間の関数として急速に変動する分光結果に適用され得るため、ビデオ圧縮感知以上のものに適用可能であり得る)は、上記で説明される空間的に符号化された方法と数学的に明確に異なる。画像ピクセル(または分光情報については分光法チャネル)毎に時間が変動する、異なる空間的依存性係数を伴う単一の画像を捕捉するのではなく、それぞれが、異なるタイムスライスからの画像の異なる線形の組み合わせである、収集時間のブロックにつき複数のフル解像度画像(またはより一般的にはデータセット)を捕捉することを提案する。数学的には、これは、
Figure 0006952176
として表され、式中、同一のデータ収集期間(すなわち、同一の時間のブロック)中に収集される異なる画像(または測定データセット)を区別するように追加の指数lを追加した。係数clkは、ここでは、空間ピクセル(i,j)から独立していることに留意されたい。本係数のセットclkは、例えば、図2に図示されるように、測定行列またはマスク行列Φの役割を果たす。
一実装では、方程式(3)は、(それぞれ、例えば、1024×1024ピクセルを伴う)複数のカメラと、カメラ速度を効果的に倍増するように、各そのようなカメラ上にタイムスライス画像の異なる線形の組み合わせを投影するためのシステムとを有することを主張するものとして、解釈されることができる。本システムは、各タイムスライスの異なる線形の組み合わせが各カメラに送信されることができるように、再構築されたタイムスライスにつき何回も状態を切り替えるために十分速くあるべきである。これらは、物理的に明確に異なるカメラである必要はない。それらは、例えば、(光学システム用の)高速切り替え鏡アレイまたは切り替えシステムとして作用する(電子光学システム用の)高速偏向器システムを伴う、例えば、4096×4096ピクセルカメラ上の16個の明確に異なる領域であり得る。切り替えシステムが極度に速い場合には、過渡状態(例えば、静電偏向器の整定時間中のぼやけ)は、オペレータに関連する時系列上ではごくわずかであり得る。他の場合では、本過渡時間中に信号が検出器に到達しないように防止する第2の高速切り替えシステム(例えば、電子顕微鏡内のビームブランカ)と本システムを結合することが有利であろう。切り替えはまた、例えば、電気光学変調器を使用して、それぞれ、信号のある一部を2つの異なる経路のそれぞれに送信することができる、可変ビーム分割システムのアレイを用いて行われ得る。別の実装では、複数の「カメラ」は、任意の所与の時点で充填されるものであるビンのセットを決定するための高速クロック/マルチプレクサシステムを伴う、大型かつ複雑な相補型金属酸化膜半導体(CMOS)検出器アレイ内の強度情報の記憶のためのローカル容量ビンの複数のセットであり得る。これらの場合の全てにおいて、「速い」および「高速」は、本システムが状態をタイムスライスにつき複数回切り替えることが可能でなければならないようなタイムスライスの持続時間と比較したものである。または、ビデオVijkによって表されるイベントのシーケンスが、精密に再現可能である場合、各l指数は、例えば、各収集中に電子顕微鏡において時間の関数として電子ビーム電流を急速に変調することによって、それぞれのための異なる時間的マスキングパターンclkを用いた本イベントのシーケンスの別個の実行を表し得る。これらの潜在的な物理的実施形態の全ては、方程式(3)で表される同一の数学モデルの異なる実装を表す。開示される時間的圧縮感知方法の多くの実施形態では、時間的切り替えが、数学モデルによって表される同一の概念を依然として実現しながら、(急速に変動する照明強度を可能にする)照明システムの設計を通して、または(複数のセンサもしくは上記で説明されるような急速切り替えシステムを使用する)検出システムの設計を通してのいずれかで、達成され得ることに留意されたい。
本開示の全体を通して使用されるように、「急速」、「急速に」、「速い」、および「高速」という用語は、規定プロセスステップがデータ収集期間の持続時間(例えば、画像センサの暴露時間)と比較して起こる、時系列を特徴付けるために使用される。例えば、「急速」切り替えプロセスは、本システムが、単一のデータ収集期間(例えば、画像センサを用いて画像を捕捉するために使用される暴露間隔またはデータ収集期間)の経過中に、異なるシステム状態(例えば、異なる照明強度に対応する状態)を少なくとも2回、少なくとも4回、少なくとも6回、少なくとも8回、少なくとも10回、少なくとも25回、少なくとも50回、少なくとも75回、少なくとも100回、またはそれを上回って切り替えることが可能であるものであり得る。
多くの実施形態では、タイムスライスの数は、物理的測定システム自体によって決定付けられず、有効フレームレートがデータに適合されることを可能にするように、データの計算分析中に調節されることができる。データストリームの圧縮率および信号対雑音比は、事前に把握されない場合があり、実際に、単一の一連の収集のために時間とともに変動し得る。再構築を行うコンピュータソフトウェアは、各収集中の全単一時点で信号を受信していた検出器または検出器領域を正確に把握し、したがって、コンピュータは、各々が異なる数のタイムスライスを伴う、測定行列の範囲を計算し得る。非適応システムでは、これらの計算は、任意の測定が収集される前に行われ得、したがって、収集中の計算時間を節約する。いくつかの容易に利用可能な数学的メトリクスのうちのいずれか(例えば、ベイジアンモデルにおける計算された再構築不確実性)に基づいて、ソフトウェアは、可能な限り最高の有効時間分解能を依然として提供しながら、規定レベルの再構築忠実性を生成するような方法で、収集毎にタイムスライスの数を選定し得る。データストリームの極度に低い圧縮率の限界では、そのようなシステムは、随時、検出器(または検出器領域)の数に等しい、タイムスライスの数を使用し得る。これは、この場合に生成される正方測定行列が十分に好調であり、一次方程式のもはや劣決定されていないセットの数値的に安定した計算を可能にするように、収集シーケンスを定義することを前提として、常に可能であろう。そのような適応再構築技法は、必ずしも可能ではなく、または再構築が認識可能な画像さえも生成する前に有意な計算が行われることを要求する、空間変調に基づく圧縮感知の場合、計算することが効果的または実用的もしくは容易ではなく、極度に不良な信号対雑音比および過剰な圧縮の場合、認識可能な画像を全く生成し得ない。
コンピュータシミュレーション(例えば、実施例1参照)は、方程式(3)に基づく時間ドメイン符号化時間的圧縮感知システムが、技術文献で説明されるものに類似するアルゴリズム(例えば、lノルム正則化、全変動(TV)正則化、および辞書学習(ベイジアンまたは別様))を使用して、測定の数(すなわち、指数lの明確に異なる値の数)を有意に超えるタイムスライス数を伴うビデオデータの再構築を提供し得ることを実証する。これらの結果は、概念の数学的有効性を確立し、圧縮感知アルゴリズムにおいて継続的進歩を利用する位置にそれを設置する。
時間的多重化圧縮感知:特別な場合として方程式(2)および(3)を含む、時間的多重化圧縮感知(TMCS)と呼ばれるであろう、以下のより一般的なモデルが、構築されることができ、
Figure 0006952176
これは、2つの異なる方法で解釈され得る。これは、方程式(2)によって表されるタイプの複数の同時(もしくは単一のタイムスライス内で何回も状態を変化させ得る切り替えシステムを有する場合、効果的に同時の)測定として、またはcijkl係数が位置ならびに時間の関数として変動することを可能にすることによって得られる追加の融通性を伴うが、方程式(3)によって表されるタイプの測定として、表すことができる。多重容量ビンCMOS概念で、またはマイクロミラーアレイの使用に基づくシステムで、これを実装することは、極めて実行可能であり得る。米国特許出願第2015/0153227A1号に説明される概念は、並行して動作し、したがって、測定されたデータが単一の符号化開口に限定されるときにビデオ再構築の数学的困難のうちのいくつかを潜在的に克服する、2つの符号化開口ビデオシステムを表すため、指数lの2つだけの明確に異なる値の限定された場合に方程式(3)を実装する。これは、本開示の概念と完全に明確に異なる。米国特許出願第2015/0153227A1号の概念は、依然として、他の符号化開口ビデオシステムの不可欠なモダリティを使用してビデオ圧縮を達成し、再構築の数学的性質を向上させるために、冗長測定のみを使用する。米国特許出願第20150153227A1号は、同時に収集されたデータセット(例えば、フル解像度画像)の数が2を超えるとき、本開示に説明されるように、時間的圧縮の完全に異なるモダリティが利用可能になることを実現しない。本開示の方法およびシステムは、方程式(3)によって表されるモードで動作することができるが、多くの実施形態では、それらは、必ずしも本モードに限定されず、例えば、より一般的な方程式(4)によって表されるモードで動作することができる。米国特許出願第2015/0153227A1号の方法およびシステムは、測定の非常に少ない数M=2に限定され、スパース性ベースの再構築方法が、あるとしてもそのような少数の測定のために不良に機能するため、方程式(3)によって表されるモードでは効果的に動作することができない。さらに、全ての符号化開口ビデオ圧縮方式のような米国特許出願第2015/0153227A1号に開示される圧縮感知方式は、許容品質の再構築されたビデオを生成するために、有意な計算リソースを要求する。これは、採用される圧縮方式が、時空間変調の複雑な方式に依存し、符号化開口方式が、単一の時間のブロック中に(殆どの場合)1つまたは(米国特許出願第2015/0153227A1号の場合)2つの実際の実空間画像を直接捕捉するにすぎないためである。本発明の方式は、対照的に、各時間のブロックの中で複数のフル解像度データセット(例えば、画像)を捕捉し、初歩的な一般逆行列計算(ごくわずかな数分の1秒を要求する)でさえも、人間のユーザがリアルタイムで収集の品質を評価するために十分な最終結果に明確に類似する、第1の近似再構築を提供するために十分である。最終的に、多くの実施形態では、本開示される方法およびシステムは、有意な無駄を伴わずに、(光学システムでは)光子または(電子顕微鏡では)電子の事実上全てを種々の検出器もしくは検出器領域に指向することができる。対照的に、符号化開口方式は、まさにそれらの性質により、信号の実質的な一部(典型的には、約50%)を遮断する。
本概念は、その上さらに、以下のモデルに一般化されることができ、
Figure 0006952176
式中、その意図は、指数iが指数i’と同一の範囲を有し、指数jが指数j’と同一の範囲を有することである。本方程式は、測定Mijlが再構築される画像と同一のサイズおよび形状の画像の複数の測定から成るが、例えば、(圧縮感知再構築プロセスがまた、例えば、学習または最適化された辞書に基づいて、ぼやけ修正増進またはエッジ増進もしくはある他の特徴増進を行うように)コンボリューションフィルタ、または測定されているシステムからの情報の抽出の冗長性を最小限にするためにビデオの時空相関の典型的パターンを利用する複合符号化方式等のものを実装するために、ここでは、係数が画像の異なる部分からの情報を混合し得ることを示す。
最終的に、方程式(5)の中の指数iおよびjへの制約を除去し、測定が雑音項を加えたビデオ(またはセンサ)データに作用する一般的線形演算子にすぎない、モデルを生成することができる。(例えば)本システムが、タイムスライスの明確に定義された非重複ブロックを伴わずにローリング収集モードで動作するように、「時間のブロック」の概念をさらに排除する場合、かつタイムスライス自体が持続時間を変動させ、部分的に重複さえもすることを可能にする場合には、モデルは、実際に極めて一般的になる。
基本モデルの各一般化により、ぼやけ修正等の新しい能力を追加することを含む、圧縮感知再構築システムの性能を向上させるための潜在性がある。まさに一般化の性質により、各具体的モデルが、より一般的なものの厳密なサブセットであるため、モデルを一般化することは、性能を悪化させることは確実にあり得ない。本一般化は、(要求される物理的収集システムの中および使用される再構築アルゴリズムの中の両方の)複雑性と、潜在的に、再構築のために要求される計算リソースとを犠牲にする。方程式(4)および(5)によって表される一般化された概念モデルを実装することの実世界の価値ならびに実用性は、数値シミュレーションを通して査定されることができる。数値シミュレーションから、方程式(2)および(3)がそれぞれ、直接測定されるビデオデータの有意により多くのフレーム(またはより一般的には時間依存性データセット)を再構築するために使用され得る、効果的な時間ドメイン符号化圧縮感知システムの基礎を形成し得ることが、既に公知である。例えば、単一ピクセルカメラに基づく空間多重化カメラ(SMC)を使用する、ビデオ圧縮感知についての研究が公開されている(例えば、Duarte他、“Single−Pixel Imaging Via Compressive Sampling”,IEEE Signal Processing Magazine,March,2008,page 83−92参照)が、本アプローチは、空間情報の複雑な符号化または再構築を必要とすることなく、時間のブロックにつき複数の画像を直接捕捉する、本明細書に開示されるTMCSアプローチと数学的に明確に異なる。
本明細書に開示される圧縮感知システム概念は、各画像またはデータセットが、その時間のブロック内のタイムスライスの異なる線形の組み合わせを表す、単一のデータ収集時間のブロックから1つだけではなく複数の画像(またはデータセット)を収集する、システムのものである。これら複数の画像またはデータセットは、信号を複数の検出器(例えば、電気光学変調器を使用して達成される急速切り替えを伴う光学ビームスプリッタアレイ)に同時に送信するか、またはタイムスライスにつき複数回切り替わり得る切り替えシステム(例えば、電子顕微鏡用の偏光板のセット)を使用して、任意の所与の瞬間に信号を受信するものである検出器を選択するかのいずれかである、システムを使用して収集される強度データを備えている。
時間的多重化圧縮感知の利点:上記で議論されるように、電子顕微鏡用途に特有である、符号化開口ビデオ圧縮感知の不利点を克服することに加えて、TMCSは、光学符号化開口圧縮感知に関連付けられるぼやけアーチファクトを克服し得る。符号化開口圧縮感知は、開口の運動の方向と整合される、顕著なぼやけアーチファクトを生じ得る。これらのアーチファクトは、ある時はごくわずかであるが、(例えば、タイムスライスにつき1ピクセルに相当する、またはそれを上回る速度で動いている多くのオブジェクトがある、複雑な場面のビデオの中で)アーチファクトが極めて明白である場合がある。TMCSアプローチが空間情報のいかなる「スクランブリング」または画像空間内のいかなる好ましい方向も本質的に伴わないため、本特定の再構築歪み源は、TMCSには存在しない。
加えて、TMCSは、任意の再構築が適用される前でさえも、直接解釈可能な画像を生成する。さらに、符号化開口システムと異なり、TMCSシステムは、圧縮感知モードではなくて直接収集モードで動作することによって、高時間分解能ビデオを生成するモードで動作されることができる。例えば、(方程式(3)で表されるような)恣意的(切り替えシステムの物理的限界までの)係数行列clkを伴って、時間のブロックにつき16個の画像を捕捉するシステムを有する場合、所望に応じて、16個の画像のうちのいくつかまたは全てが、広く分離された時点からの情報を混合せず、むしろ、連続的な少数(おそらく1つだけ)のタイムスライスからデータを収集することを規定し得る。この場合、16個の画像毎の暴露時間は、利用可能な照明強度がそのような短い時間で適切な信号対雑音比の画像を生成するために十分高いことを前提として、切り替えシステムの速度によって限定され、極めて短くあり得る。したがって、TMCSシステムは、測定された画像のうちのいくつかまたはさらに全てが、典型的圧縮感知モードで使用されるタイムスライスよりもはるかに短い、極度に少ない露出時間を伴ってスナップショットを表すように、動作され得る。本動作モードの代償は、その限界まで追い込まれた場合、タイムスライスのうちのいくつか、おそらく殆どから、情報が殆どまたは全く利用可能ではないように、露出のデューティサイクルが極度に低くあり得ることである。いくつかの用途(例えば、イベントのシーケンスがトリガされ、したがって、ある精密に既知の時間のスパンに達するであろう実験)に関して、これは、他のアプローチを通して取得することが困難である極度に高い時間分解能を提供し、したがって、動画モード動的透過電子顕微鏡法(米国特許第9,165,743号で以前に説明された)のものに重複する応用空間に入り得る。
符号化開口ビデオ圧縮感知(方程式(2))とは対照的なTMCSのための支配方程式(方程式(3))のより単純な数学的形式は、再構築のために要求される計算リソースの観点から利点を有することができる。空間情報がTMCSにおいて直接表されるため、粗描再構築が、いくつかの単純なアルゴリズムのうちのいずれか(例えば、その係数が任意の他の収集された画像の係数を上回る、タイムスライスのスパンの中へ各収集された画像を設置する)によって、極度に迅速に生成されることができ、反復アルゴリズムが、オンライン(すなわち、現行の収集中に)およびオフライン(すなわち、おそらくはるかに大型のコンピュータを用いて後に)の両方でその推定を漸増的に向上させることができる。多くの他の圧縮感知システムは、直接解釈されることができず、認識可能な結果が出現する前に有意な処理を通過しなければならない、圧縮されたデータストリームを提供し、これは、ユーザがある時は、実験が終わったかなり後までデータが使用可能であるかどうかを確認することができないため、実用的な実装にとって有意な問題であり得る。
切り替え時間オーバーヘッドが小さい(すなわち、時間のごくわずかな一部が出力チャネルの1つのセットから別のセットに切り替わって費やされる)ことを前提として、TMCSの有効デューティサイクル(すなわち、本システムが収集する全利用可能信号の割合)は、1に非常に近くあり得る。典型的には、符号化開口圧縮感知は、ピクセルのほぼ半分が任意の所与の瞬間に遮断されるため、約2分の1のデューティサイクルを有する。これは、TMCSが、潜在的に、利用可能な信号をほぼ2倍利用できることを意味する。
用途:本明細書に開示される時間ドメイン符号化時間的圧縮感知方法は、光学ビデオ画像、時間分解光学分光法、および透過電子顕微鏡法(例えば、画像データ、回折パターンデータ、電子エネルギー損失スペクトル、エネルギー分散型X線スペクトル等の捕捉のため)を含むが、それらに限定されない、種々の撮像および分光法用途で採用され得る。さらに、本明細書に開示される時間的圧縮感知方法は、放射線が、サンプルまたは場面によって透過され、反射され、弾性的に散乱され、もしくは非弾性的に散乱され、それによって、1または2次元センサアレイを使用して検出される、透過された、反射された、弾性的に散乱された、もしくは非弾性的に散乱された放射線のパターンを形成するように、サンプルまたは場面との放射線の相互作用を通して生じる信号(すなわち、画像、スペクトル、回折パターン等)を捕捉するために使用され得る。用途に応じて、放射線は、電磁放射線、粒子放射線、またはそれらの任意の組み合わせであり得る。好適な放射線源は、電磁放射線源、電子銃、イオン源、粒子加速器、および同等物、またはそれらの任意の組み合わせを含むが、それらに限定されない。
本明細書に開示される時間ドメイン符号化時間的圧縮感知方法は、時間内のイベントおよび物理的プロセスの進展の研究に直接適用され得る。しかしながら、別の着目座標が、事実上、本システムが稼働する様式によって時間軸にマップされ得る、多数の用途があるため、その適用の範囲は、これをはるかに超える。1つのそのような実施例は、研究中のサンプルが回転され、一連の測定が回転角の範囲にわたって収集される、断層撮影法である。サンプルを回転させることは、時間の関数としての変動するサンプル配向、すなわち、配向と時間との間の(必ずしも1対1ではない)マッピングを含意する。断層撮影データを捕捉する能力が、カメラの測定速度によって限定されるような場合において、時間的圧縮は、カメラの増加した有効フレームレートを利用するようにサンプル回転の速度を増加させることに応じて、データ収集を実質的に加速し得る。同様に、走査型透過電子顕微鏡法(STEM)は、サンプルの領域を横断して集束電子ビームを走査し(すなわち、電子ビーム直径が分析または撮像されるサンプルの断面積と比較して狭い)、全走査位置でデータセット(高角度環状暗視野(HAADF)信号、電子エネルギー損失スペクトル(EELS)、エネルギー分散型X線スペクトル(EDX)、明視野信号、回折パターン、またはこれらの組み合わせにかかわらず)を捕捉することによって、動作する。走査する行為は、位置と時間との間に数学的マップを作成し、断層撮影実施例のように、システム制限がカメラ速度にある場合には(例えば、STEM回折に非常に多く見られるように)、時間的圧縮は、データスループットを大いに向上させる潜在性を有する。本実施形態は、米国特許第9,165,743号に開示される方法およびシステムに類似する能力を有するであろうが、完全に異なる原理で動作する。具体的には、本開示される方法は、主に時間変調を通して(この場合、時間の関数として集束電子プローブのサンプル上の位置を変動させることによって)圧縮感知を達成し、それらが空間変調を利用し得る一方で、必ずしも空間変調に依存しない。提案されるものおよび実際に実装されているものの両方である、電子顕微鏡法における圧縮感知の全ての前の用途は、圧縮を達成するように空間変調または単純なアンダーサンプリングおよびインペインティングに必然的に依拠し、本開示に説明される時間的圧縮の機構を説明することができない。上記で議論される断層撮影法および走査型透過電子顕微鏡法(STEM)の実施例に図示されるように、開示される時間的圧縮感知方法およびシステムのいくつかの実施形態では、一連のタイムスライスにわたってサンプル(または場面)によって透過される、反射される、弾性的に散乱される、もしくは非弾性的に散乱される、放射線のパターンの異なる線形の組み合わせは、時間的様式で放射線強度自体以外の実験パラメータを変調することによって生成され得る。例えば、いくつかの実施形態では、時間的に変調される実験パラメータは、サンプルの回転の向き、1次元での電子プローブの線形平行移動および/または傾転、2次元での電子プローブの線形平行移動および/または傾転、1次元でのサンプルの線形平行移動、2次元でのサンプルの線形平行移動、ならびに3次元でのサンプルの線形平行移動、もしくはそれらの任意の組み合わせから成る群から選択され得る。いくつかの実施形態では、サンプル(または場面)に入射する放射線は、狭いビーム(すなわち、撮像または分析されるサンプルもしくは場面の断面積に対して小さいビーム直径を有する)に集束され、時間的に変調される実験パラメータは、サンプルに対するビームの位置である(または逆も同様である)。
光学撮像および分光法システム:開示される時間ドメイン符号化時間的圧縮感知に基づく光学撮像および分光法システムは、種々の市販の光学システム構成要素、例えば、光源、光学変調器、およびセンサ、ならびにレンズ、鏡、プリズム、ビームスプリッタ、光学増幅器、光ファイバ、光学フィルタ、モノクロメータ等の他の能動または受動構成要素を使用して、種々の用途のために開発され得る。光学撮像用途の実施例は、ビデオ撮像、可視光撮像、赤外線撮像、紫外線撮像、蛍光撮像、ラマン撮像、および同等物を含むが、それらに限定されない。分光法用途の実施例は、吸光度測定、透過率測定、反射率測定、蛍光測定、ラマン散乱測定、および同等物を含むが、それらに限定されない。
本開示の時間的圧縮感知システムで使用するための光源は、白熱光、タングステン・ハロゲンライト、発光ダイオード(LED)、アーク灯、ダイオードレーザ、およびレーザ、または紫外線(UV)、可視光、ならびに赤外線(IR)放射を含む、任意の他の電磁放射線源を含んでもよいが、それらに限定されない。いくつかの用途では、太陽放射から生じる(すなわち、太陽によって生成される)天然光は、時間的に圧縮されたデータが収集される、サンプルまたは場面を照射する役割を果たし得る。
光学信号の高速切り替えは、光学変調器、例えば、電気光学変調器または音響光学変調器、もしくはデジタルマイクロミラーアレイデバイスの使用を含むが、それらに限定されない、種々のアプローチのうちのいずれかを通して、達成され得る。開示される圧縮感知方法およびシステムのいくつかの実施形態では、達成される切り替え時間は、1ナノ秒未満から約10ミリ秒に及んでもよい。いくつかの実施形態では、切り替え時間は、少なくともまたは少なくとも約1ナノ秒、少なくともまたは少なくとも約10ナノ秒、少なくともまたは少なくとも約100ナノ秒、少なくともまたは少なくとも約1マイクロ秒、少なくともまたは少なくとも約10マイクロ秒、少なくともまたは少なくとも約100マイクロ秒、少なくともまたは少なくとも約1ミリ秒、もしくは少なくともまたは少なくとも約10ミリ秒であり得る。いくつかの実施形態では、達成される切り替え時間は、最大でもまたは最大でも約10ミリ秒、最大でもまたは最大でも約1ミリ秒、最大でもまたは最大でも約100マイクロ秒、最大でもまたは最大でも約10マイクロ秒、最大でもまたは最大でも約1マイクロ秒、最大でもまたは最大でも約100ナノ秒、最大でもまたは最大でも約10ナノ秒、もしくは最大でもまたは最大でも約1ナノ秒であり得る。当業者は、達成可能である切り替え時間が、本範囲内の任意の値、例えば、約500ナノ秒を有し得ることを認識するであろう。
本開示の時間的圧縮感知方法で使用するための好適なセンサ、センサアレイ、または検出器の実施例は、フォトダイオード、アバランシェフォトダイオード、フォトダイオードアレイ、光電子増倍管、光電子増倍管アレイ、電荷結合素子(CCD)、画像強化CCD、および相補型金属酸化膜半導体(CMOS)センサ、CMOSフレーミングカメラ(例えば、各ピクセルにおける複数の容量ビンの使用を通してチップ上に複数の画像またはデータセットを記憶することができるCMOSカメラ、および任意の所与の時間に信号を蓄積しているビンのセットを決定する電子切り替えシステム)、またはそれらの任意の組み合わせを含むが、それらに限定されない。いくつかの実施形態では、本開示の時間的圧縮感知方法で使用するためのセンサ、センサアレイ、または検出器はさらに、非線形光学材料、蛍光材料、リン光性材料、または放射線源によって提供される放射線を、センサ、センサアレイ、もしくは検出器によって直接検出可能である放射線の形態に変換または増幅するマイクロチャネルプレートを備え得る。本開示の目的のために、「センサアレイ」という用語およびその文法的均等物は、「点」アレイ(例えば、単一ピクセルセンサ)ならびに1次元(線形)アレイ、2次元アレイ等を含むように意図されている。さらに、「検出器」という用語およびその文法的均等物は、上記で説明されるような個々のセンサおよびセンサアレイ、ならびに光学構成要素およびセンサの組み合わせ、例えば、フォトダイオードアレイまたはCCDカメラと光学的に結合されるモノクロメータを備えている分光計を含むように意図されている。好適な線形または2次元センサアレイは、多種多様な個々のピクセルを備え得る。
開示される時間的圧縮感知システムで使用するために好適なセンサアレイは、約2または約2〜100×10ピクセル、もしくはそれを上回るピクセルを備え得る。いくつかの実施形態では、開示される時間的圧縮感知システムで使用するためのセンサアレイは、少なくともまたは少なくとも約2ピクセル、少なくともまたは少なくとも約10ピクセル、少なくともまたは少なくとも約100ピクセル、少なくともまたは少なくとも約1,000ピクセル、少なくともまたは少なくとも約10,000ピクセル、少なくともまたは少なくとも約100,000ピクセル、少なくともまたは少なくとも約1,000,000ピクセル、少なくともまたは少なくとも約10×10ピクセル、少なくともまたは少なくとも約100×10ピクセル、もしくはそれを上回るピクセルを備え得る。いくつかの実施形態では、開示される時間的圧縮感知システムを使用するためのセンサアレイは、最大でもまたは最大でも約100×10ピクセル、最大でもまたは最大でも約10×10ピクセル、最大でもまたは最大でも約1,000,000ピクセル、最大でもまたは最大でも約100,000ピクセル、最大でもまたは最大でも約10,000ピクセル、最大でもまたは最大でも約1,000ピクセル、最大でもまたは最大でも約100ピクセル、最大でもまたは最大でも約10ピクセル、もしくは最大でもまたは最大でも約2ピクセルを備え得る。当業者は、センサアレイの中のピクセルの総数が、本範囲内の任意の値、例えば、約12×10ピクセルを含み得ることを認識するであろう。
参照数値に関連する「約」という用語およびその文法的均等物は、その値からプラスまたはマイナス10%の値の範囲を含むことができる。例えば、「約10」という量は、9〜11の量を含むことができる。参照数値に関連する「約」という用語はまた、その値からプラスまたはマイナス10%、9%、8%、7%、6%、5%、4%、3%、2%、または1%の値の範囲を含むこともできる。
開示される時間的圧縮感知システムで使用するために好適なセンサアレイは、一辺に0.1μmまたは約0.1μm〜20μmまたは約20μmに及ぶサイズのピクセルを備え得る。いくつかの実施形態では、開示される時間的圧縮感知システムで使用するためのセンサアレイは、少なくともまたは少なくとも約0.1μm、少なくともまたは少なくとも約0.25μm、少なくともまたは少なくとも約0.5μm、少なくともまたは少なくとも約0.75μm、少なくともまたは少なくとも約1μm、少なくともまたは少なくとも約2.5μm、少なくともまたは少なくとも約5μm、少なくともまたは少なくとも約7.5μm、少なくともまたは少なくとも約10μm、少なくともまたは少なくとも約15μm、もしくは少なくともまたは少なくとも約20μm、もしくはそれよりも大きいピクセルを備え得る。いくつかの実施形態では、開示されるシステムで使用するためのセンサアレイは、一辺に最大でもまたは最大でも約20μm、最大でもまたは最大でも約15μm、最大でもまたは最大でも約10μm、最大でもまたは最大でも約7.5μm、最大でもまたは最大でも約5μm、最大でもまたは最大でも約2.5μm、最大でもまたは最大でも約1μm、最大でもまたは最大でも約0.75μm、最大でもまたは最大でも約0.5μm、最大でもまたは最大でも約0.25μm、もしくは最大でもまたは最大でも約0.1μm、もしくはそれよりも小さいピクセルを備え得る。当業者は、センサアレイの中のピクセルが、本範囲内の任意の値、例えば、一辺に約または最大でも約0.8μmを有し得ることを認識するであろう。
本開示の時間的圧縮感知システムで使用するために好適なセンサアレイは、0.001フレーム/秒または約0.001フレーム/秒(もしくはそれよりも低い)〜100,000フレーム/秒または約100,000フレーム/秒(もしくはそれよりも高い)に及ぶ、データ収集および読み出し速度で動作し得る。いくつかの実施形態では、開示される時間的圧縮感知システムで使用するために好適なセンサアレイは、少なくともまたは少なくとも約0.001フレーム/秒、少なくともまたは少なくとも約0.01フレーム/秒、少なくともまたは少なくとも約0.1フレーム/秒、少なくともまたは少なくとも約1フレーム/秒、少なくともまたは少なくとも約10フレーム/秒、少なくともまたは少なくとも約100フレーム/秒、少なくともまたは少なくとも約1,000フレーム/秒、少なくともまたは少なくとも約10,000フレーム/秒、少なくともまたは少なくとも約100,000フレーム/秒、もしくはそれよりも高いデータ収集および読み出し速度で動作し得る。いくつかの実施形態では、開示される時間的圧縮感知システムで使用するために好適なセンサアレイは、最大でもまたは最大でも約100,000フレーム/秒、最大でもまたは最大でも約10,000フレーム/秒、最大でもまたは最大でも約1,000フレーム/秒、最大でもまたは最大でも約100フレーム/秒、最大でもまたは最大でも約10フレーム/秒、最大でもまたは最大でも約1フレーム/秒、最大でもまたは最大でも約0.1フレーム/秒、最大でもまたは最大でも約0.01フレーム/秒、もしくは最大でもまたは最大でも約0.001フレーム/秒、もしくはそれよりも低いデータ収集および読み出し速度で動作し得る。当業者は、センサアレイが、本範囲内の任意の値、例えば、約60フレーム/秒を有する、データ収集および読み出し速度で動作し得ることを認識するであろう。
高速切り替え構成要素が、画像または他のデータセットを2次元センサアレイのいくつかの異なる領域(または「サブ領域」、「サブユニット」等)のうちの1つに偏向させるために使用される、時間的圧縮感知システムに関して、利用可能な領域の総数は、2〜400のいずれかまたはそれを上回る個々の領域を備えている、線形アレイまたは2次元アレイのいずれかを備え得る。領域のパターンが正方形のN×Nアレイとして編成される、2次元センサアレイに関して、領域のアレイは、2×2アレイ、3×3アレイ、4×4アレイ、5×5アレイ、6×6アレイ、7×7アレイ、8×8アレイ、9×9アレイ、10×10アレイ、11×11アレイ、12×12アレイ、13×13アレイ、14×14アレイ、15×15アレイ、16×16アレイ、17×17アレイ、18×18アレイ、19×19アレイ、または20×20アレイ、もしくは高次元N×Nアレイを備え得る。いくつかの実施形態では、領域のパターンは、2×3アレイ、2×4アレイ、2×5アレイ、2×6アレイ、3×2アレイ、3×4アレイ、3×5アレイ、3×6アレイ、4×2アレイ、4×3アレイ、4×5アレイ、4×6アレイ、5×2アレイ、5×3アレイ、5×4アレイ、5×6アレイ、6×2アレイ、6×3アレイ、6×4アレイ、6×5アレイ、もしくは高次M×Nアレイを備えている、長方形アレイ(例えば、M×Nアレイ)として編成され得る。いくつかの実施形態では、領域のパターンは、欠落した要素を伴う、または伴わない、六角形アレイ、平行四辺形アレイ、不規則アレイ、無作為に分配されたアレイ、もしくはそれらの任意の組み合わせを備え得る。各領域は、他の領域との重複を有していなくてもよい、またはいくつかの領域は、いくつかの領域と部分もしくは完全重複を有し得る、またはいくつかの領域は、他の領域のサブセットであり得る。各領域は、円形領域、楕円形領域、正方形領域、長方形領域、六角形領域、正多角形領域、不規則多角形領域、ピクセルの単純に接続されたサブセットを備えている任意の形状の領域、またはピクセルの非単純に接続されたサブセットを備えている任意の形状の領域であり得る。各領域は、全ての他の領域とサイズおよび形状が同じであり得る、またはいくつかの領域は、他の領域とサイズが異なり得る、またはいくつかの領域は、他の領域と形状が異なり得る、またはいくつかの領域は、他の領域とサイズおよび形状の両方が異なり得る。各領域は、他の領域と配向が同じであり得る、またはいくつかの領域は、他の領域の配向に対して回転される配向を有し得る、またはいくつかの領域は、他の領域の配向に対して反射される配向を有し得る、またはいくつかの領域は、他の領域の配向に対して回転および反射の両方が行われる配向を有し得る。各領域は、他の領域と尺度もしくは倍率が同じであり得る、またはいくつかの領域は、他の領域に対して1つの座標軸で尺度もしくは倍率が異なり得る、またはいくつかの領域は、他の領域に対して2つの座標軸で尺度もしくは倍率が異なり得る。カメラ平面内の一方または両方の座標が、サンプル平面もしくは場面内の実空間座標を用いて識別され得る場合において、各領域は、他の領域と同一のそのような実空間座標の領域を記録し得る、またはそれが記録する領域は、1つもしくはそれを上回る他のそのような領域と部分的に重複し得る、またはその厳密なサブセットであり得る、もしくはその厳密なスーパーセットであり得る。カメラ平面内の一方または両方の座標が、散乱角の線形近似を用いて識別され得る場合において、各領域は、他の領域と同一の散乱角のセットを記録し得る、またはそれが記録する領域は、散乱角の1つもしくはそれを上回る他のそのようなセットと部分的に重複し得る、またはその厳密なサブセットであり得る、もしくはその厳密なスーパーセットであり得る。カメラ平面内の一方または両方の座標が、エネルギー損失、波長偏移、または光子エネルギーを含むが、それらに限定されない、スペクトル座標を用いて識別され得る場合において、各領域は、他の領域と同一のそのようなスペクトル座標の領域を記録し得る、またはそれが記録する領域は、スペクトル座標の1つもしくはそれを上回る他のそのような領域と部分的に重複し得る、またはその厳密なサブセットであり得る、もしくはその厳密なスーパーセットであり得る。
電子顕微鏡法および分光法システム:本明細書に開示される時間的圧縮感知方法を実装するための電子顕微鏡法システムは、電子ビーム源、電子ビームシャッタ(「ビームブランカ」または「ビームブランキングシステム」)、電子集束光学系、種々のサンプル刺激デバイスを組み込むサンプルホルダ、電子偏向器システム、および画像センサまたは他のデータ捕捉デバイスを含むが、それらに限定されない、種々のシステム構成要素を備え得る。
好適な電子ビーム源は、熱電子に基づく電子銃(電子エミッタ)、フォトカソード、レーザ駆動型フォトカソード、冷陰極放出、または電子の連続もしくはパルスストリームのいずれかを放出するプラズマ源放出機構を含んでもよいが、それらに限定されない。精密に制御された一連の電子パルスを生成するための例示的システムは、米国特許第9,165,743号に説明されるように、任意波形発生器(AWG)レーザシステムおよびフォトカソードの使用に基づく。電子ビーム集束は、純粋静電アプローチを通してこれらのシステムにおいて達成され得る、および/または磁場を利用し得る。
いくつかの実施形態では、電子顕微鏡システムは、サンプルホルダおよびサンプル刺激機構、例えば、研究中のサンプルにおいて動的プロセスを開始するために高度に精密、調節可能、かつ強烈な熱を提供する、パルスサンプル駆動レーザを組み込んでもよい。サンプルにおいてプロセスを開始する他の方法はまた、例えば、電気的にトリガされるサンプルホルダ、または電圧パルス、電流パルス、電気的駆動型熱パルス、もしくはナノ押込デバイスまたはマイクロもしくはナノ電気機械システムの助けを借りてサンプルに送達されるインパルスを送達し得る、サンプルホルダに接続される外部電子機器を通して、採用され得る。
いくつかの実施形態では、電子顕微鏡システムは、静電偏向器システムおよび/または磁気偏向器システムを含む、正確な時限の高速電子偏向器システムを組み込んでもよい。例示的静電偏向器システムは、米国特許第9,165,743号に説明されている。その中に開示される静電偏向器システムの一実施形態は、サンプルの下方の投影レンズ(例えば、標準TEMの中の最後の電磁レンズ)の下部分の中に挿入される、カスタマイズされた偏向板に接続される4つの高電圧スイッチを含む。2対の直交に位置付けられた偏向板は、サンプルとの電子の相互作用を通して生じる各画像(または回折パターン等)をカメラの異なる部分に偏向させ、それによって、典型的カメラの複数秒のリフレッシュ速度を克服する。4つの板はそれぞれ、例えば、−800Vまたは約−800V〜+800Vに及ぶ電圧を独立して搬送し、それによって、2次元での電子偏向にわたって完全な融通性を可能にし得る。カメラ自体は、典型的には、電子ビームがカメラ(例えば、CCDカメラ)の任意の部分に差し向けられることができるように、本偏向器のセットの50cmまたは約50cm下方に位置付けられる。偏向板と投影レンズ極部品との間の空間は、偏向板と統合される、セラミックの搭載、整合、および電気接続システムで部分的に充填される。例えば、中間レンズシステム内にある、またはTEMのカメラチャンバ内のポートを通して挿入される、偏向器システムのための他の位置も可能である。偏向器システムは、電子ビームとの相互作用から生じる画像(または回折パターン等)のそれぞれを大型カメラ(例えば、CCDカメラ)上の異なる領域に指向し、それによって、捕捉される種々の画像(または回折パターン、スペクトル等)を空間的に分離することができる。カメラによって生成される画像は、次いで、異なる時点で捕捉される画像(または回折パターン、スペクトル等)のアレイ(典型的には、2×2、3×3、4×4、5×5、または上記で説明されるような高次元もしくは非正方形アレイ)から成る。
本開示の電子顕微鏡システム用の好適なセンサ、センサアレイ、検出器、または他のデータ捕捉デバイスの実施例は、CCDカメラ、強化CCDカメラ、CMOS画像センサ、直接検出カメラ(例えば、ピクセル毎に複数の容量ビンを組み込むCMOSフレーミングカメラ、および任意の所与の時間に信号を蓄積しているビンのセットを決定する電子切り替えシステム)、電子エネルギー損失分光計(例えば、CCDカメラを伴うポストカラム撮像フィルタ)、エネルギー分散型X線分光計(例えば、サンプルの近傍に設置されるシリコンドリフト検出器)、および同等物を含むが、それらに限定されない。いくつかの実施形態では、本開示の時間的圧縮感知方法で使用するためのセンサ、センサアレイ、または検出器はさらに、非線形光学材料、蛍光材料、リン光性材料、または放射線源(例えば、電子)によって提供される一次放射線を、センサ、センサアレイ、もしくは検出器によって直接検出可能である放射線の形態に変換または増幅するマイクロチャネルプレートを備え得る。
サンプリングおよび再構築のための数学アルゴリズム:開示される圧縮感知(サンプリング)方法を使用して取得される「タイムスライス」画像またはデータセットの数学的再構築は、lノルム、非ゼロ係数の総数、全変動、もしくは事前のベータプロセスを介して劣決定連立一次方程式の非スパース解にペナルティを科すように設計される種々の最適化アルゴリズム、反復貪欲回復アルゴリズム、辞書学習アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、またはそれらの任意の組み合わせの使用を通して、達成され得る。これらのアルゴリズムは、それらの詳細および実装が劇的に変動し、疑いなく、新しいそのようなアルゴリズムは、文献で頻繁に紹介されるものとするが、それらは全て、以下の一般的説明に該当し、すなわち、先験的に把握される表現であることにかかわらず、ある数学的表現において、解がスパースまたは圧縮可能であるという予備知識または信念の使用を通して、劣決定連立一次方程式を解く、もしくはほぼ解くためのアルゴリズム、データから純粋に学習されるもの、または2つの組み合わせである。
「l最適化」は、劣決定連立一次方程式への最小lノルム解を求めることを指し、lノルムは、現実的なデータのスパースまたはほぼスパースな表現を誘導することが示されている、特定の基底、例えば、離散余弦変換基底、ウェーブレット基底、カーブレット基底、ノイズレット基底、学習辞書基底、または過完備もしくは別様の任意の他の基底における、線形系の解ベクトルの「サイズ」(すなわち、解ベクトル成分の絶対値の総和)である。圧縮感知の理論では、最小lノルム解はまた、極めて一般的な条件下で可能な限りスパースな解であることも示されている(Candes,E.,& Romberg,J.(2005).“l−magic:Recovery of Sparse Signals via Convex Programming”.URL:www.acm.caltech.edu/l1magic/downloads/l1magic.pdf,4,14、D.Donoho(2006),“For Most Large Underdetermined Systems of Linear Equations the Minimal l1−norm Near Solution Approximates the Sparest Solution”,Communications on Pure and Applied Mathematics 59:907−934)。より一般的には、特定の基底におけるlノルムは、規定誤差項内まで劣決定連立一次方程式を解く方式で、ペナルティまたは正規化項として使用されることができる。多くの場合、「全変動」(TV)を伴う追加のペナルティ項が、一次方程式の劣決定セットの正確な解および近似解の両方との関連において、画像データに使用される。TVは、典型的には、画像内の各点で計算される強度勾配ベクトルの規模の総和(典型的には、lノルムまたはlノルムのいずれか、異なる著者が異なる定義を使用する)として定義される。TVは、一般に、厳密にはlノルムではないが、その数学的挙動は、強度勾配の全セットに適用されるlノルムのものに類似し、したがって、TVペナルティ項は、解の中のスパース強度勾配に有利に働く傾向がある。換言すると、これは、勾配がスパースであるという事前の期待を導入するアルゴリズム方法を提供する。これは、ノイズを低減させ、鮮明で明確に画定された境界を伴う比較的一様な領域に類似する解に有利に働くという効果を有する。多くの可能な実施例のうちの1つとして、3つの項、すなわち、離散余弦変換基底におけるlノルム、TVに比例する項、および劣決定連立一次方程式の近似解に関連付けられる誤差のlノルムに比例する項の総和を最小限にしようと努め得る。一般的に利用可能なコンピュータアルゴリズム、例えば、線形プログラミングに関連付けられるものが、本一般的タイプの最適化問題を効率的に解決し得ることが、長にわたって公知である(Candes,E.,& Romberg,J.(2005))。
貪欲アルゴリズムは、所定の選択規則および現在存在している解への候補解の限定されたセットのうちの1つの追加に基づいて、候補解の局所的に最適な選定が、反復の各ステップにおいて行われる、連立方程式を解くことへの反復アプローチである。多くの場合、貪欲アルゴリズムは、妥当な量の計算時間で、大域的に最適な解に近似する、局所的に最適な解を生じさせるであろう。例えば、より詳細な説明については、Introduction to Algorithms,Third Edition,MIT Press,Cambridge,MA,2009の中のCormen他、“Greedy Algorithms”,Chapter 16を参照されたい。
辞書学習アプローチは、解係数がスパースであり、基底ベクトルが直交である必要がなく、次いで、測定の所与の試験セットについて線形問題を解くことを可能にする、「訓練データ」依存性変換(または辞書)を開発することを伴う。例えば、より詳細な説明については、Kreutz−Delgado他、(2003) “Dictionary Learning Algorithms for Sparse Representation”,Neural Comput.15(2):349−396を参照されたい。いくつかのアルゴリズムは、明示的な訓練データを用いることなく、辞書が圧縮感知されたデータから直接学習されることを可能にする。多くのそのようなアルゴリズムは、追加のデータが入って来るにつれて、辞書が精緻化されることを可能にする。多くの場合において、辞書は、過完備であり、すなわち、辞書が表すように意図されているベクトル空間内に次元があるよりも多くの辞書要素がある。スパース性は、例えば、事前のベータプロセスを使用するベイジアンアルゴリズムの使用を通して、そのような過完備表現において、依然として確実に誘導され得る。例えば、J.Paisley and L.Carin,“Nonparametric factor analysis with beta process priors”,International Conference on Machine Learning(ICML),Montreal,Canada,2009を参照されたい。用語が変動することに留意し、多くの状況で、定義により、過完備辞書は、正確には「基底」と称されないが、「過完備基底」という用語は、圧縮感知および機械学習文献では比較的一般的である。したがって、本状況で意思疎通を簡単にするために、我々は、本用語を使用することを選定する。
圧縮感知を使用して収集される測定のセットから画像または他のデータセットを再構築するためのこれらおよび他のアルゴリズムのより完全な説明は、技術文献の中で容易に入手可能である。例えば、Duarte他、(2008) “Single−Pixel Imaging via Compressive Sampling”,IEEE Signal Processing Magazine,March 2008,pages 83−91、およびStevens他、(2015),“Applying Compressive Sensing to TEM Video:a Substantial Frame Rate Increase on any Camera”,Adv.Structural and Chemical Imaging 1:10を参照されたい。
(コンピュータシステム)
本開示は、本開示の方法を実装するようにプログラムされる、コンピュータ制御システムを提供する。図9は、単一コアもしくはマルチコアプロセッサ、または並列処理のための複数のプロセッサであることができる、中央処理装置(CPU、また、本明細書では「プロセッサ」および「コンピュータプロセッサ」)905を含み、1つ以上のグラフィックス処理装置(GPU)もしくはGPU様並列計算コンポーネント、または量子計算コンポーネントもしくは光学計算コンポーネント、または電気光学計算コンポーネントを含み得る、コンピュータシステム901を示す。コンピュータシステム901はまた、メモリまたはメモリ場所910(例えば、ランダムアクセスメモリ、読取専用メモリ、フラッシュメモリ)、電子記憶ユニット915(例えば、ハードディスク)、1つ以上の他のシステムと通信するための通信インターフェース920(例えば、ネットワークアダプタ)、ならびにキャッシュ、他のメモリ、データ記憶装置、および/または電子ディスプレイアダプタ等の周辺デバイス925を含む。メモリ910、記憶ユニット915、インターフェース920、および周辺デバイス925は、マザーボード等の通信バス(実線)を通してCPU905と通信している。記憶ユニット915は、データを記憶するためのデータ記憶ユニット(またはデータリポジトリ)であることができる。コンピュータシステム901は、通信インターフェース920の助けを借りて、コンピュータネットワーク(「ネットワーク」)930に動作可能に結合されることができる。ネットワーク930は、インターネット、インターネットおよび/またはエクストラネット、もしくはインターネットと通信しているイントラネットおよび/またはエクストラネットであることができる。ネットワーク930は、ある場合には、電気通信および/またはデータネットワークである。ネットワーク930は、クラウドコンピューティング等の分散コンピューティングを可能にし得る、1つ以上のコンピュータサーバを含むことができる。ネットワーク930は、ある場合には、コンピュータシステム901の助けを借りて、コンピュータシステム901に結合されたデバイスがクライアントまたはサーバとして挙動することを可能にし得る、ピアツーピアネットワークを実装することができる。
CPU905は、プログラムまたはソフトウェアで具現化され得る、一連の機械読み取り可能な命令を実行することができる。命令は、メモリ910等のメモリ場所に記憶され得る。命令は、続いて、本開示の方法を実装するようにCPU905をプログラムまたは別様に構成し得る、CPU905にダイレクトされることができる。CPU905によって行われる動作の実施例は、フェッチ、復号、実行、およびライトバックを含むことができる。
CPU905は、集積回路等の回路の一部であることができる。システム901の1つ以上の他のコンポーネントは、回路の中に含まれることができる。ある場合には、回路は、特定用途向け集積回路(ASIC)である。
記憶ユニット915は、ドライバ、ライブラリ、および保存されたプログラム等のファイルを記憶することができる。記憶ユニット915は、ユーザデータ、例えば、ユーザ選好およびユーザプログラムを記憶することができる。コンピュータシステム901は、ある場合には、イントラネットまたはインターネットを通してコンピュータシステム901と通信している遠隔サーバ上に位置するもの等、コンピュータシステム901の外部にある1つ以上の追加のデータ記憶ユニットを含むことができる。
コンピュータシステム901は、ネットワーク930を通して1つ以上の遠隔コンピュータシステムと通信することができる。例えば、コンピュータシステム901は、ユーザの遠隔コンピュータシステムと通信することができる。遠隔コンピュータシステムの実施例は、パーソナルコンピュータ(例えば、ポータブルPC)、スレートまたはタブレットPC(例えば、Apple(登録商標)iPad(登録商標)、Samsung(登録商標)Galaxy Tab)、電話、スマートフォン(例えば、Apple(登録商標)iPhone(登録商標)、Android対応デバイス、Blackberry(登録商標))、または携帯情報端末を含む。ユーザは、ネットワーク930を介してコンピュータシステム901にアクセスすることができる。
本明細書に説明されるような方法は、例えば、メモリ910または電子記憶ユニット915上等のコンピュータシステム901の電子記憶場所上に記憶された、機械(例えば、コンピュータプロセッサ)実行可能コードを介して実装されることができる。機械実行可能または機械読み取り可能なコードは、ソフトウェアの形態で提供されることができる。使用中に、コードは、プロセッサ905によって実行されることができる。ある場合には、コードは、記憶ユニット915から読み出され、プロセッサ905による容易なアクセスのためにメモリ910上に記憶されることができる。いくつかの状況では、電子記憶ユニット915は、排除されることができ、機械実行可能命令がメモリ910上に記憶される。
コードは、コードを実行するように適合されるプロセッサを有する機械とともに使用するために事前にコンパイルして構成されることができる、または実行時間中にコンパイルされることができる、もしくは明示的なコンパイルステップを伴わずに実行時間中にソースコードから解釈されることができる、またはそれらの任意の組み合わせである。コードは、事前コンパイルされた、またはコンパイルされた時点の様式で、コードが実行されることを可能にするように選択され得る、プログラミング言語で供給されることができる。
コンピュータシステム901等の本明細書で提供されるシステムおよび方法の側面は、プログラミングで具現化されることができる。本技術の種々の側面は、典型的には、あるタイプの機械読み取り可能な媒体上で搬送される、またはその中で具現化される、機械(もしくはプロセッサ)実行可能コードおよび/または関連データの形態の「製品」もしくは「製造品」と考えられてもよい。機械実行可能コードは、メモリ(例えば、読取専用メモリ、ランダムアクセスメモリ、フラッシュメモリ)またはハードディスク等の電子記憶ユニット上に記憶されることができる。「記憶」タイプ媒体は、ソフトウェアプログラミングのためにいかなる時でも非一過性の記憶装置を提供し得る、コンピュータ、プロセッサ、または同等物の有形メモリ、もしくは種々の半導体メモリ、テープドライブ、ハードドライブ、および同等物等のそれらの関連モジュールのうちのいずれかまたは全てを含むことができる。ソフトウェアの全てまたは部分は、随時、インターネットまたは種々の他の電気通信ネットワークを通して通信され得る。そのような通信は、例えば、1つのコンピュータまたはプロセッサから別のコンピュータまたはプロセッサへ、例えば、管理サーバまたはホストコンピュータからアプリケーションサーバのコンピュータプラットフォームの中へ、ソフトウェアのロードを可能にし得る。したがって、ソフトウェア要素を持ち得る別のタイプの媒体は、ローカルデバイス間の物理的インターフェースを横断し、有線および光学地上通信線ネットワークを通し、ならびに種々のエアリンクを経由して使用されるような光波、電波、および電磁波を含む。有線または無線リンク、光学リンク、もしくは同等物等のそのような波動を搬送する物理的要素もまた、ソフトウェアを持つ媒体と見なされ得る。本明細書で使用されるように、非一過性の有形「記憶」媒体に制限されない限り、コンピュータまたは機械「読み取り可能な媒体」等の用語は、実行のために命令をプロセッサに提供することに参加する任意の媒体を指す。
故に、コンピュータ実行可能コード等の機械読み取り可能な媒体は、有形記憶媒体、搬送波媒体、または物理的伝送媒体を含むが、それらに限定されない、多くの形態をとってもよい。不揮発性記憶媒体は、例えば、図面に示されるデータベース等を実装するために使用され得るような、任意のコンピュータまたは同等物の中の記憶デバイスのうちのいずれか等の光学もしくは磁気ディスクを含む。揮発性記憶媒体は、そのようなコンピュータプラットフォームのメインメモリ等のダイナミックメモリを含む。有形伝送媒体は、同軸ケーブル、すなわち、コンピュータシステム内のバスを備えているワイヤを含む、銅線および光ファイバを含む。搬送波伝送媒体は、電気または電磁信号、もしくは高周波(RF)および赤外線(IR)データ通信中に生成されるもの等の音波または光波の形態をとってもよい。したがって、コンピュータ読み取り可能な媒体の一般的な形態は、例えば、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、磁気テープ、任意の他の磁気媒体、CD−ROM、DVDまたはDVD−ROM、任意の他の光学媒体、パンチカード紙テープ、穴のパターンを伴う任意の他の物理的記憶媒体、RAM、ROM、PROMおよびEPROM、FLASH−EPROM、任意の他のメモリチップまたはカートリッジ、データまたは命令を輸送する搬送波、そのような搬送波を輸送するケーブルまたはリンク、もしくはコンピュータがプログラミングコードおよび/またはデータを読み取り得る任意の他の媒体を含む。コンピュータ読み取り可能な媒体のこれらの形態の多くは、実行するために1つ以上の命令の1つ以上のシーケンスをプロセッサに搬送することに関与し得る。
コンピュータシステム901は、ユーザインターフェース(UI)940を備えている、電子ディスプレイ935を含む、またはそれと通信することができる。UIの実施例は、限定ではないが、グラフィカルユーザインターフェース(GUI)およびウェブベースのユーザインターフェースを含む。
本開示の方法およびシステムは、1つ以上のアルゴリズムを介して実装されることができる。アルゴリズムは、中央処理装置905による実行に応じて、ソフトウェアを介して実装されることができる。
(実施例)
(実施例1−コンピュータシミュレーション)
コンピュータシミュレーションは、方程式(3)によって表されるモデルに基づく時間ドメイン符号化時間的圧縮感知システムが、測定画像の数を有意に超えるタイムスライス画像の数を伴うビデオデータの再構築を提供し得ることを実証する。図1は、原位置引張亀裂伝搬実験(K.Hattar他、Sandia National Laboratoryの厚意による)からのTEM画像データの10個のフレームを図示する。(図2で概略的に図示される)10個のタイムスライス画像の異なる組み合わせが、例えば、TEMの中に配設される高速ビーム偏向システムを使用することによって、大面積カメラ上の4つの異なる領域に送信され、分析のために4つの測定画像フレームにデジタルでセグメント化される(図3)。本非限定的実施例では、高速ビーム偏向システムは、1つのカメラデータ収集期間内に(すなわち、単一の暴露中に)4つの測定画像フレームを収集する能力を提供する。16フレーム高速偏向器システムが、すでに利用可能であり、本実施例で図示される10/4=2.5値よりもはるかに大きい圧縮係数が達成可能であることが予期される。4つの測定された画像フレームへのスパースな数学的再構築技法の適用は、10個全てのタイムスライスフレームの信頼性のある推定値を提供する(図4)。同一のアルゴリズムが、微妙な詳細(例えば、故障前の応力集中領域中の回折コントラストの変化)ならびに全体的な不連続性(例えば、タイムスライス7からタイムスライス8への急激な変化)を捕捉する。シミュレーション結果は、単一の暴露周期からのビデオデータの10個のフレームの再構築を実証する。16フレーム高速偏向器システム(すなわち、カメラデータ収集期間につき16個のセグメント化された画像フレームを捕捉するもの)および約6倍圧縮率の使用が、単一の暴露につき再構築されたビデオデータの約100個のフレームを提供するであろう。
(実施例2−サンプル後偏向器を使用するTEMベースの時間的感知システム)
例証的(先見的)実施例として、急速サンプル後偏向器システム、比較的大型のカメラ(例えば、TEMデータ収集のために一般的に使用されるようなシンチレータおよび光ファイバ束を伴うCCDカメラ)、および随意のサンプル前ビームブランキングシステムを伴うTEMを考慮されたい。図5は、TEMの基本構成要素および機能の一般的な簡略図を描写する。電子源は、殆どの現在の器具について、典型的には、電子につき約80keV〜約300keVの運動エネルギーまで加速される、電子のビームを生成する。集光レンズシステムは、電子ビームの選択された一部を、対物レンズの中心の近傍に設置されるサンプル上に集束する。ビームは、サンプルを通過し、中間/投影レンズシステムは、データ収集システムによって捕捉されることができる画像または回折パターンのいずれかを生成する。データ収集システムは、典型的には、カメラ、またはそれ自体がカメラを含むポストカラムエネルギーフィルタシステムのいずれかである。エネルギーフィルタシステムは、エネルギーフィルタ付き収集および電子エネルギー損失分光法(EELS)能力をシステムに追加する。類似結果を生じる、他のシステム(例えば、インカラムエネルギーフィルタ)が存在する。収集システムは、典型的には、検出器を含むが、必ずしもシンチレータを伴うCCDカメラまたは直接検出CMOSカメラもしくは類似技術のいずれかを含むわけではない。本システムのデータ収集速度は、したがって、カメラの収集および読み出し時間(以降では「データ収集期間」または「カメラフレーム時間」)によって設定される。
図6は、複数の明確に異なるフレームが(必ずではないが好ましくは)大面積カメラの非重複領域に差し向けられることを可能にする、サンプルの後に位置付けられる(ここでは、例えば、投影レンズシステムの後に位置付けられて示される)高速偏向器システムを利用する、TEMシステムの一非限定的実施例を図示する。動作は、根本的には、ポストカラムエネルギーフィルタ付き撮像システムのために変更されない。本文脈での「高速」は、ごくわずかなぼやけを導入しながら、偏向器がカメラデータ収集期間につき何回も(少なくとも約10回であるが、好ましくは、何百回または何千回も)状態を変化させ得ることを意味する。随意の高速ビームブランカは、ぼやけ効果を低減または排除するために、例えば、(示されるように)集光レンズシステムの中で高く位置付けられる、高速偏向器状態が切り替わっている間に、ビームを開口に指向することができる。
我々は、各切り替え動作中に約10ナノ秒が費やされ、カメラフレーム時間につき約100〜1,000回の切り替え動作でカメラサブ領域の2×2、3×3、または4×4(もしくは高次の)アレイの間で状態を切り替え得るシステムを予想する。これは、カメラフレーム時間につき10〜100またはそれを上回る「タイムスライス」がそれぞれ、部分的にカメラの複数のサブ領域中で表されることを可能にする。数学的に、これは、各サブ領域(または「測定されたフレーム」)がタイムスライスの異なる線形の組み合わせを表す方法を追跡する、測定行列として表される。圧縮感知に関連付けられる数学的技法は、次いで、約100個の明確に異なるデータフレームが単一のカメラデータ収集期間内で捕捉されるという結果とともに、個々のタイムスライスデータセットの全ての信頼性のある推定値を生じることができる。
撮像フィルタの場合、「有効カメラ面積」は、リテラルカメラ位置としてではないが、実際の物理的カメラ位置において画像平面に結合されるオブジェクト平面として解釈される。
いくつかの実施形態では、急速偏向器の代わりに、本システムは、ソリッドステートマルチフレーム検出システム、例えば、検出ピクセルにつき複数の記憶ビンと、任意の所与の時間に信号を蓄積している記憶ビンのセットを恣意的(または半恣意的に)制御する能力とを有する、CMOSアレイフレーミングカメラを含んでもよい。機能的に、結果はほぼ同一である。本実施形態は、電子光学系のマルチフレーム切り替え能力を検出器のマルチフレーム切り替え能力と置換するにすぎない。センサチップの設計に応じて、そのようなシステムは、方程式(3)、方程式(4)、または方程式(5)の数学モデル上で動作し得る。
図6に図示される偏向器システムは、例えば、既存のカメラ/検出器ポートを使用して、TEM内の投影レンズの後に配設され得る。既存のポートを使用することは、修正が、カメラおよび他の検出器の配設に相当して、極めて非侵襲性であることを可能にし、結果として生じるシステムは、偏向器が容易に後退されることができるため、通常の動作に干渉しないであろう。上記で説明されるように、偏向器は、TEM画像を、カメラの撮像センサのいくつかのサブ領域のうちのいずれかに、例えば、動画モード動的透過型電子顕微鏡について説明される偏向器システムと同様に(米国特許第9,165,743号参照)、16個のサブ領域の4×4アレイ内の任意のサブ領域に、側方に偏向させるように設計される。偏向器は、好ましくは、電磁ではなくて静電であり、それによって、既存の回路設計がほぼ10ナノ秒で1つのセンサアレイサブ領域から別のサブ領域に離散的に切り替わることを可能にする。本システムが、例えば、10ミリ秒タイムスライスを用いて、タイムスライスにつき約10回の偏向を使用して、ビデオを再構築するために使用される場合、本システムのデューティサイクルは、約99%であり、残りの1%の電子からのぼやけた画像は、CS再構築アルゴリズムに実質的に干渉しないはずである。より短いタイムスライスに関して、サンプルの前に高速静電ビームブランカを挿入し、したがって、遷移中に電子ビームを遮断し、本ぼやけの原因を排除することも望ましくあり得る。典型的TEM電子銃および集光レンズシステム設計に関して、そのようなシステムの時間分解能は、偏向システム自体の時間分解能によってではなく、利用可能なビーム電流および許容信号対雑音比によって、さらに決定されるであろう。したがって、本システムは、サンプルに送達されることができるビーム電流を増加させるように、他の修正からも利益を得るであろう。本議論は、実空間撮像に焦点を当てているが、上記および本開示の他の場所で議論される全てのTEM実装は、回折または分光法にも潜在的に使用され得ることに留意されたい。
(実施例3−複数のカメラおよびEOM切り替えを伴う光学時間的感知システム)
別の例証的(先見的)実施例として、図8に図示されるように、電気光学変調器制御型切り替えネットワークを伴う光学カメラのセットを考慮されたい。電気光学変調器(EOM)および他の高速変調器(例えば、音響光学変調器(AOM))は、2つの異なる出力経路の間で光学信号を急速に切り替えるために使用されることができる。本切り替えは、(信号が2つの出力経路のうちの1つのみに進むように)2進様式で、または(各出力経路に送信される信号の割合を制御する能力を伴って)連続的様式で実装され得る。そのようなスイッチのネットワークは、それぞれ、それ自体がフル解像度カメラ(または分光システム)である、検出器のアレイにつながり得る。実空間撮像のためにそのようなシステムを設計することの工学複雑性は、高くあり得るが、時間分解分光法の分野での実装は、光ファイバシステムのための十分に開発されたEOM/AOMソリューションを利用することによって、より容易であり得る。光ファイバおよび変調器のネットワークは、分光計の平行アレイ(または事実上、平行アレイとして作用することができる大型2次元センサを伴う単一の分光計)をフィードし、電子制御システムは、各個々の分光計に送信されるタイムスライスの重畳を決定するであろう。本光学システムは、測定されているサンプルシステムの再現性に応じて、単一ショットまたはストロボモード(すなわち、着目プロセスの多くの公称上同じサイクルにわたって信号を蓄積する)のいずれかで動作し得る。
図8を再び参照すると、時間的圧縮感知は、一非限定的実施例について図示されるような光学システムで実装され得る。電気的に制御可能な光学スイッチのネットワークは、各検出器に到達する各タイムスライスからの信号の割合を決定する。本同一のアプローチは、例えば、自由空間光学系、光ファイバ、または両方の組み合わせを使用する、撮像モード、分光法モード、または両方(スペクトル撮像)で動作する、電気光学および/または音響光学変調器を使用する、アナログもしくは2進変調器(2進である場合、それらの速度は、検出器収集周期につき多くの遷移を可能にするために十分となるはずである)を使用する、CCDアレイ、CMOSアレイ、フォトダイオードアレイ、または光電子増倍管等の個々の高速で高感度の検出器等の検出器を使用する、ネットワークトポロジならびにスイッチおよび検出器の数が変動し得る、種々の異なる実施形態を包含する。
いくつかの実施形態では、信号経路の再結合は、特に電気的に制御可能な移相器が含まれる場合に、干渉法動作を可能にするであろう。これは、測定行列のいくつかの要素が負であることを可能にし、それによって、信号対雑音比が限定された動作において利点を提供するであろう。これはまた、一意のホログラフィック時間的再構築技法も可能にし得る。
いくつかの実施形態では、電子制御システムは、事前決定されたシーケンスまたは適応シーケンス(すなわち、任意の所要の時間に収集されるデータに基づいて収集中に修正されることができるシーケンス)のいずれかで、変調器を切り替え、検出器をトリガし得る。検出器は、全て同一の周波数で動作している必要はない。
他の場所で説明されるTEMサンプル後偏向器実装と同様に、その目的は、検出器の単一のデータ収集期間内で複数のタイムスライスからデータを収集することである。データストリームが高度に圧縮性である場合、再構築されるタイムスライスの数は、システム内の検出器の数を大いに超え得る。
(実施例4−ストロボ超高速TEM)
さらに別の例証的(先見的)実施例として、図7に図示されるようなピコ秒分解能任意波形レーザシステムを組み込む、ストロボ超高速TEMを考慮されたい。現在、ストロボ超高速TEMは、サンプルプローブとしてピコ秒スケール(またはサブピコ秒スケールまたはフェムト秒スケール)電子パルスを使用し、1つのそのようなプローブパルスは、ある高度に反復可能なサンプルプロセスのサイクル毎に起こる。時間分解測定が、何百万ものそのようなサンプルプロセスサイクルからデータを蓄積し、周期的サンプルプロセスの位相に対してプローブパルスの時間を偏移させ、測定されるタイムスライス毎に繰り返すことによって、行われる。何百ものそのようなタイムスライスを測定することは、したがって、研究されるサンプルプロセスの何十億ものサイクルにわたって測定を行うことを要求し得、これは、何時間もかかり得る。これは、サンプルプロセスの再現性およびサンプルならびに測定システムの両方の安定性に両方とも極度に高い要求を課す。代わりに、各測定がタイムスライスの恣意的重畳からデータを捕捉する場合、およびタイムスライスのそのような重畳を使用して複数の測定を行う場合には、事実上、方程式(3)に基づいて時間的圧縮感知システムを実装している。そのようなシステムは、波形の仕様において1ピコ秒またはそれよりも良好な分解能で、例えば、200ピコ秒のタイムスパンにわたって、光強度の任意の規定時間的パターンを生じることができるよう設計される、(米国特許第9,165,743号で説明されるものに類似するが、異なる時系列上で動作する)任意波形発生器(AWG)レーザシステムと、TEMのカソードを駆動する短パルスレーザを置換することによって、実現され得る。これは、2つの明確に異なる効果を通して実験的データ収集時間を短縮するであろう。第1に、サイクルにつき測定される信号の量が、大いに増加されるであろう。これは、そのようなシステムで使用されることができる電流(または単位時間あたりの電子)の量が、空間電荷効果(すなわち、電子が相互に反発し、したがって、パルスが電子銃からサンプルまで移動するにつれて、それを空間および時間の両方で広げさせるという事実)によって限定されるためである。提案される任意波形レーザシステムは、本電流限界が、サイクルにつき単一の約1ピコ秒タイムスライスについてだけでなく、複数のそのようなタイムスライスについても達成されることを可能にするであろう。CS理論によると、最適なデータサンプリングスループットが、典型的には、約50%のデューティサイクルにおいて起こるため、(200ピコ秒タイムスパンにつき)200個のタイムスライスの我々の実施例では、タイムスライスのうちの約100個が電子パルスで充填されるであろう一方で、残りは空であろう。したがって、サイクルあたりの電子の数は、本実施例では、ビーム品質または時間分解能の低下を伴わずに、単一パルスシステムについてよりも任意波形システムについてはほぼ100倍多いであろう。これは、所与の測定のための許容信号対雑音比に達するために、約100倍少ない測定サイクルが要求されるであろうことを意味する。第2に、N個のタイムスライスを再構築するために必要とされる測定の数Mが、Nよりもはるかに少ないはずであるような圧縮感知の固有の性質により、そのような測定の数も減少するはずである。典型的には、比M/Nは、約0.1であるが、これは用途によって大いに変動する。本比が超高速TEMに当てはまる場合には、M回の収集がそれぞれ、単一パルス/サイクルシステムよりも100倍少ない総収集時間を要するはずであるだけでなく、そのような収集の要求される数は、約1,000倍のデータ収集時間の全体的短縮のために、約10倍削減されるはずである。現在、何時間もの収集時間を要求しているデータセットは、レーザシステムの状態を変化させるために必要とされるオーバーヘッドさえも含んで、数分で収集され得る。これは、これらのシステムの性能の劇的改良を表す。
図7を再び参照すると、光電子源からの電流を変調するために、任意波形レーザ(例えば、サブピコ秒スケール変調およびサブナノ秒スケールパルス持続時間を伴う、またはナノ秒スケール変調およびマイクロ秒スケールパルス持続時間を伴う)を使用する、ストロボ時間分解TEMが、本開示の圧縮感知方法を実装するために使用され得る。第2のレーザビームが、サンプルに衝打し、着目プロセスを開始する。特に、タイミングジッタ要件が容易に満たされる、ナノ秒スケール測定のために、サンプルを駆動する同期化電気、微小機械、または他の方法も可能である。サンプルにおける反復可能プロセスの測定は、異なる時間的変調パターンを用いて複数回繰り返される。圧縮感知の数学的再構築技法は、次いで、明確に異なる時間的変調パターンの数を大いに超えるタイムスライスの数を伴って、イベントのシーケンス全体を再構築することができる。従来のシステムでは、パルスあたりの電子の数が、空間電荷効果およびサンプルにおけるパルス持続時間を可能な限り短く保つ必要性によって厳密に限定されるため、時間平均ビーム電流は、従来の超高速TEMシステムで典型的に使用されるものを大いに超えるはずである。これらの利点を組み合わせて、実験のための総収集時間は、従来の超高速TEMに対して1,000倍またはそれを上回って潜在的に短縮されることができる。これは、従来の超高速TEMに関する最も深刻な困難のうちの1つ、すなわち、極度に長い収集時間および何百万もの測定サイクル下でのサンプルの要求される安定性を劇的に向上させる。
他の実施形態では、代替的ビーム電流変調技法、例えば、電子銃の内側に位置付けられる抽出器電極等の電極の急速変動を通した静電変調、またはカラム内の別の場所における高速ビームブランキングが、機能的に同一の結果を生じるであろう。要点は、検出器に到達するビーム電流が所望のタイムスライスの時系列上で変調され得ることである。
(実施例5−高速直接検出カメラを伴うTEMシステム)
さらに別の例証的(先見的)実施例として、高速直接検出カメラ、例えば、直接電子検出能力を伴うCMOSフレーミングカメラ(例えば、各ピクセルにおける複数の容量ビンの使用を通してチップ上に複数の画像を記憶することができるカメラ、および任意の所与の時間に信号を蓄積しているビンのセットを決定する電子切り替えシステム)を組み込み、それによって、それが高速TEM用途に使用されることを可能にする、TEMシステムを考慮されたい。適切なチップレベル電子設計を用いて、そのような検出器は、方程式(3)によって表されるアプローチを実装し、さらなる複雑性を伴うと、方程式(4)または(5)によって直接表されるものさえも実装する。本フレーミングカメラアプローチはまた、X線検出および光学カメラにも使用され得る。
上記で説明される例証的実施形態の全ては、前の研究と明確に異なる一般的特徴、すなわち、任意の所与の時間に情報を受信している、複数の検出器から選択される1つまたは複数の検出器、もしくは単一の検出器上の複数の領域から選択される1つまたは複数の領域を決定する、高速切り替えおよび/または変調システムを含む。これは、各検出器または検出器サブ領域に到達する各タイムスライスからの信号の量を表す、係数の恣意的または半恣意的「測定行列」の実装を可能にする。圧縮感知に関連付けられる数学的技法は、次いで、検出器または検出器サブ領域の数を有意に(例えば、5倍〜10倍またはそれを上回って)超えるデータ収集期間の各々に対するいくつかの個々のタイムスライスデータセットの再構築を可能にする。
本発明の好ましい実施形態が、本明細書に示され、説明されているが、そのような実施形態は、一例のみとして提供されることが当業者に明白となるであろう。多数の変形例、変更、および置換が、本発明から逸脱することなく、当業者に想起されるであろう。本明細書に説明される本発明の実施形態の種々の代替案が、本発明を実践する際に採用され得ることを理解されたい。以下の請求項は、本発明の範囲を定義し、それによって、これらの請求項およびそれらの均等物の範囲内の方法ならびに構造が網羅されることが意図される。

Claims (26)

  1. 時間的圧縮感知のための方法であって、前記方法は、
    a)ある強度を有する放射線を源からサンプルまたは場面に差し向けることと、
    b)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉することであって、前記1つ以上のデータ収集期間のそれぞれにおいて、前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または、非弾性的に散乱される前記放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが、一連のタイムスライスに対して捕捉される、ことと、
    c)前記1つ以上のデータ収集期間のそれぞれにおける前記一連の前記タイムスライスのそれぞれに対してタイムスライスデータセットを再構築することであって、前記再構築することは、
    i)各データ収集期間に対して捕捉される前記1つ以上の測定データセットと、
    ii)一連の係数であって、前記一連の係数は、前記データ収集期間内に前記サンプルまたは場面に差し向けられる前記源からの前記放射線の前記強度の既知の時間依存性を表し、前記係数は、タイムスライスおよび前記センサアレイの領域の関数として変動する線形の組み合わせを画定するが、前記センサアレイの所与の領域内の所与のピクセルのための空間位置から独立している、一連の係数と、
    iii)各データ収集期間に対して捕捉される前記1つ以上の測定データセットおよび前記一連の係数から前記タイムスライスデータセットを計算するアルゴリズムと
    を使用する、ことと
    を含み、
    これにより、前記1つ以上のデータ収集期間のそれぞれに対する一連のタイムスライスデータセットを提供し、前記一連のタイムスライスデータセットは、前記データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する、方法。
  2. 前記センサアレイは、電荷結合素子(CCD)センサ、相補型金属酸化膜半導体(CMOS)センサ、CMOSフレーミングカメラ、フォトダイオードアレイ、または、これらの任意の組み合わせを備えている2次元センサアレイである、請求項1に記載の方法。
  3. 前記センサアレイは、前記放射線を前記センサアレイによって直接検出可能な放射線に変換する非線形光学材料、蛍光材料、リン光性材料、または、マイクロチャネルプレートをさらに備えている、請求項1〜2のいずれか一項に記載の方法。
  4. 前記タイムスライスデータセットを再構築するために使用される前記アルゴリズムは、l ノルム、非ゼロ係数の総数、全変動、もしくは事前のベータプロセスを介して劣決定連立一次方程式の非スパース解にペナルティを科す最適化アルゴリズム、反復貪欲回復アルゴリズム、辞書学習アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、または、これらの任意の組み合わせである、請求項1〜3のいずれか一項に記載の方法。
  5. 少なくとも10個または少なくとも約10個のタイムスライスデータセットが、各データ収集期間に対して捕捉される前記1つ以上の測定データセットから再構築される、請求項1〜4のいずれか一項に記載の方法。
  6. 前記2次元センサアレイは、毎秒少なくとも100フレームまたは少なくとも約100フレームの有効データ収集および読み出し速度で動作する、請求項1〜5のいずれか一項に記載の方法。
  7. 前記放射線は、電子を備え、前記センサアレイは、相補型金属酸化膜半導体(CMOS)カメラ、電荷結合素子(CCD)センサ、画像強化電荷結合素子(ICCD)センサ、電子エネルギー損失分光計における検出器(EELS)、または、これらの任意の組み合わせである、請求項1〜6のいずれか一項に記載の方法。
  8. 前記タイムスライスデータセットは、透過型電子顕微鏡画像データ、透過型電子顕微鏡回折パターンデータ、透過型電子顕微鏡電子エネルギー損失スペクトルデータ、または、走査型電子顕微鏡画像データの再構築されたフレームを備えている、請求項1〜7のいずれか一項に記載の方法。
  9. 再構築されるべきタイムスライスデータセットの数は、前記タイムスライスデータセットの計算中に調節される、請求項1〜8のいずれか一項に記載の方法。
  10. 再構築されるべきタイムスライスデータセットの数は、前記測定データセットを捕捉することに先立って、それぞれが異なる数のタイムスライスを伴う測定行列係数の範囲を計算することによって最適化される、請求項1〜9のいずれか一項に記載の方法。
  11. 前記放射線の強度以外の実験パラメータを時間的に変調することをさらに含む、請求項1〜10のいずれか一項に記載の方法。
  12. 時間的に変調される前記実験パラメータは、前記サンプルまたは場面の回転の向き、1次元での前記サンプルまたは場面の線形平行移動、2次元での前記サンプルまたは場面の線形平行移動、3次元での前記サンプルまたは場面の線形平行移動、または、これらの任意の組み合わせからなる群から選択される、請求項11に記載の方法。
  13. 前記放射線は、狭いビームに集束され、時間的に変調される前記実験パラメータは、前記サンプルまたは場面に対する前記ビームの位置である、請求項11または請求項12に記載の方法。
  14. 前記一連の係数は、データ収集期間内で前記サンプルまたは場面に差し向けられる、前記源からの放射線の強度の既知の空間依存性および時間依存性を表す、請求項1〜13のいずれか一項に記載の方法。
  15. 時間的圧縮感知のためのシステムであって、前記システムは、
    a)サンプルまたは場面に差し向けられるある強度を有する放射線を提供する放射線源と、
    b)前記サンプルまたは場面による透過、反射、弾性散乱、または、非弾性散乱後の前記放射線を検出するセンサアレイと、
    c)前記サンプルまたは場面とのその相互作用に先立って、前記放射線源によって生成される前記放射線の前記強度を急速に変調する機構、または、前記サンプルまたは場面によって透過され、反射され、弾性的に散乱され、または、非弾性的に散乱される前記放射線を前記センサアレイの異なる領域に急速に切り替える機構と、
    d)1つ以上のコンピュータプロセッサと
    を備え、
    前記1つ以上のコンピュータプロセッサは、
    (i)1つ以上のデータ収集期間に対してセンサアレイデータを捕捉することであって、各データ収集期間内で、一連のタイムスライスに対する透過され、反射され、弾性的に散乱され、または、非弾性的に散乱される放射線のパターンの異なる線形の組み合わせに対応する1つ以上の測定データセットが捕捉される、ことと、
    (ii)前記1つ以上のデータ収集期間のそれぞれにおける各タイムスライスに対してタイムスライスデータセットを再構築することであって、前記再構築することは、
    1)各データ収集期間に対して捕捉される前記1つ以上の測定データセットと、
    2)一連の係数であって、前記一連の係数は、前記放射線源によって生成され前記データ収集期間内に前記サンプルまたは場面に差し向けられる前記放射線の前記強度の既知の時間依存性を表し、前記係数は、タイムスライスおよび前記センサアレイの領域の関数として変動する線形の組み合わせを画定するが、前記センサアレイの所与の領域内の所与のピクセルのための空間位置から独立している、一連の係数と、
    3)各データ収集期間に対して捕捉される前記1つ以上の測定データセットおよび前記一連の係数から前記タイムスライスデータセットを計算するアルゴリズムであって、これにより、データ収集期間の長さによって決定される時間分解能を超える時間分解能を有する1つ以上のデータ収集期間のそれぞれに対する一連のタイムスライスデータセットを生成する、アルゴリズムと
    を使用して行われる、ことと
    を含む、システム。
  16. 前記放射線源は、レーザ、フォトカソード、電子銃、または、これらの任意の組み合わせである、請求項15に記載のシステム。
  17. 前記センサアレイは、電荷結合素子(CCD)センサ、相補型金属酸化膜半導体(CMOS)センサ、CMOSフレーミングカメラ、フォトダイオードアレイ、または、これらの任意の組み合わせを備えている2次元センサアレイである、請求項15または請求項16に記載のシステム。
  18. 前記センサアレイは、請求項1の前記放射線源からの前記信号を前記センサアレイによって直接検出可能な放射線に変換する非線形光学材料、蛍光材料、リン光性材料、または、マイクロチャネルプレートをさらに備えている、請求項17に記載のシステム。
  19. 前記タイムスライスデータセットを再構築する前記アルゴリズムは、l ノルム、非ゼロ係数の総数、全変動、もしくは事前のベータプロセスを介して劣決定連立一次方程式の非スパース解にペナルティを科す最適化アルゴリズム、反復貪欲回復アルゴリズム、辞書学習アルゴリズム、確率ベイジアンアルゴリズム、変分ベイジアンアルゴリズム、またはこれらの任意の組み合わせである、請求項15〜18のいずれか一項に記載のシステム。
  20. 少なくとも10個または少なくとも約10個のタイムスライスデータセットが、各データ収集期間に対して捕捉される前記1つ以上の測定データセットから再構築される、請求項15〜19のいずれか一項に記載のシステム。
  21. 前記2次元センサアレイは、毎秒少なくとも100フレームまたは少なくとも約100フレームの有効データ収集および読み出し速度で動作する、請求項15〜20のいずれか一項に記載のシステム。
  22. 前記放射線は、電子を備え、前記センサアレイは、電荷結合素子(CCD)センサ、画像強化電荷結合素子(ICCD)センサ、電子エネルギー損失分光計における検出器(EELS)、または、これらの任意の組み合わせである、請求項15〜21のいずれか一項に記載のシステム。
  23. 前記タイムスライスデータセットは、透過型電子顕微鏡画像データ、透過型電子顕微鏡回折パターンデータ、透過型電子顕微鏡電子エネルギー損失スペクトルデータ、または、走査型電子顕微鏡画像データの再構築されたフレームを備えている、請求項15〜22のいずれか一項に記載のシステム。
  24. 再構築されるべきタイムスライスデータセットの数は、前記タイムスライスデータセットの計算中に調節される、請求項15〜23のいずれか一項に記載のシステム。
  25. 再構築されるべきタイムスライスデータセットの数は、前記測定データセットを捕捉することに先立って、それぞれが異なる数のタイムスライスを伴う測定行列係数の範囲を計算することによって最適化される、請求項15〜24のいずれか一項に記載のシステム。
  26. 前記一連の係数は、データ収集期間内で前記サンプルまたは場面に差し向けられる、前記源からの放射線の強度の既知の空間依存性および時間依存性を表す、請求項15〜25のいずれか一項に記載のシステム。
JP2020187927A 2015-11-20 2020-11-11 時間的圧縮感知システム Active JP6952176B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562258194P 2015-11-20 2015-11-20
US62/258,194 2015-11-20
JP2018526623A JP6794447B2 (ja) 2015-11-20 2016-08-22 時間的圧縮感知システム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018526623A Division JP6794447B2 (ja) 2015-11-20 2016-08-22 時間的圧縮感知システム

Publications (3)

Publication Number Publication Date
JP2021039947A JP2021039947A (ja) 2021-03-11
JP2021039947A5 JP2021039947A5 (ja) 2021-09-24
JP6952176B2 true JP6952176B2 (ja) 2021-10-20

Family

ID=58718090

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018526623A Active JP6794447B2 (ja) 2015-11-20 2016-08-22 時間的圧縮感知システム
JP2020187927A Active JP6952176B2 (ja) 2015-11-20 2020-11-11 時間的圧縮感知システム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018526623A Active JP6794447B2 (ja) 2015-11-20 2016-08-22 時間的圧縮感知システム

Country Status (9)

Country Link
US (3) US9841592B2 (ja)
EP (1) EP3378040A4 (ja)
JP (2) JP6794447B2 (ja)
KR (1) KR20180109861A (ja)
CN (1) CN108474755B (ja)
AU (1) AU2016357089B2 (ja)
CA (1) CA3005439A1 (ja)
IL (1) IL259375B (ja)
WO (1) WO2017087045A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016149676A1 (en) * 2015-03-18 2016-09-22 Battelle Memorial Institute Electron beam masks for compressive sensors
US10170274B2 (en) * 2015-03-18 2019-01-01 Battelle Memorial Institute TEM phase contrast imaging with image plane phase grating
EP3378040A4 (en) 2015-11-20 2020-01-22 Integrated Dynamic Electron Solutions, Inc. TEMPORAL COMPRESSION DETECTION SYSTEMS
WO2017189212A1 (en) 2016-04-29 2017-11-02 Battelle Memorial Institute Compressive scanning spectroscopy
EP3297018B1 (en) * 2016-09-19 2019-03-27 FEI Company Tomographic imaging method
US10539783B1 (en) * 2016-10-17 2020-01-21 National Technology & Engineering Solutions Of Sandia, Llc Compressive sensing optical design and simulation tool
US11032498B2 (en) * 2017-03-17 2021-06-08 The Regents Of The University Of Colorado, A Body High speed two-dimensional imaging with an analog interface
EP3392900B1 (en) 2017-03-20 2020-03-11 TESCAN Brno, s.r.o. A method for automatically aligning a scanning transmission electron microscope for precession electron diffraction data mapping
US10295677B2 (en) 2017-05-08 2019-05-21 Battelle Memorial Institute Systems and methods for data storage and retrieval
CN107547089B (zh) * 2017-07-20 2020-08-07 西北工业大学 一种低能耗水声数据压缩与重构方法
CN107666322B (zh) * 2017-09-08 2020-11-10 山东科技大学 一种基于字典学习的自适应微震数据压缩感知方法
US10267889B1 (en) * 2017-11-15 2019-04-23 Avalex Technologies Corporation Laser source location system
GB2571119B (en) * 2018-02-18 2020-04-29 Faraday Predictive Ltd System and method for monitoring an operating condition of an electrical device when in operation
TWI768191B (zh) 2018-03-20 2022-06-21 美商泰斯坎坦佩公司 用於自動對準掃描透射電子顯微鏡以便旋進電子衍射資料映射的方法
EP3550585B1 (en) * 2018-04-05 2021-06-23 FEI Company Studying dynamic specimens in a transmission charged particle microscope
US10522323B2 (en) * 2018-04-05 2019-12-31 Fei Company Electron energy loss spectroscopy with adjustable energy resolution
US10989756B2 (en) * 2018-04-09 2021-04-27 The Regents Of The University Of California Systems and methods using stroboscopic universal structure-energy flow correlation scattering microscopy
EP3570060A1 (de) * 2018-05-15 2019-11-20 Siemens Healthcare GmbH Verfahren zur rekonstruktion von magnetresonanztomographie-aufnahmen mit variabler zeitauflösung
US11410324B2 (en) * 2018-06-19 2022-08-09 Kettering University System and method for determining operating deflection shapes of a structure using optical techniques
CN109545234B (zh) * 2018-10-29 2023-09-26 重庆邮电大学 一种基于压缩感知的语音线谱频率编码及自适应快速重构方法
CN109871824B (zh) * 2019-03-11 2022-06-21 西安交通大学 基于稀疏贝叶斯学习的超声导波多模态分离方法及其系统
CA3146827A1 (en) * 2019-07-10 2021-01-14 Integrated Dynamic Electron Solutions, Inc. High framerate and high dynamic range electron microscopy
CN110658179B (zh) * 2019-10-09 2021-11-19 上海理工大学 基于多信号叠加和伪逆法的激光拉曼气体浓度检测方法
US11450508B2 (en) * 2019-12-17 2022-09-20 Fei Company Comparative holographic imaging
US11630218B1 (en) * 2020-01-09 2023-04-18 National Technology & Engineering Solutions Of Sandia, Llc Mapping and imaging ionizing radiation in two and three dimensions
US11513732B2 (en) 2020-08-13 2022-11-29 Raytheon Company Fast data compression for systems with large dynamic ranges or other systems
EP4006531B1 (en) * 2020-11-27 2023-04-26 JEOL Ltd. X-ray detection apparatus and method
KR20240055696A (ko) 2021-04-16 2024-04-29 인터그레이티드 다이나믹 일렉트론 솔루션즈, 인크. 전자 현미경 기술을 위한 임의의 전자 선량 파형
CN113379129B (zh) * 2021-06-17 2022-09-20 青岛港国际股份有限公司 一种集装箱码头设备监测传感器安装选址方法
US20240095512A1 (en) * 2022-09-15 2024-03-21 Tetramem Inc. Integrated sensing and machine learning processing devices
US20240099023A1 (en) * 2022-09-15 2024-03-21 Tetramem Inc. Integrated sensing and machine learning processing devices
US11848173B1 (en) 2023-01-31 2023-12-19 Integrated Dynamic Electron Solutions, Inc. Methods and systems for event modulated electron microscopy

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7646924B2 (en) 2004-08-09 2010-01-12 David Leigh Donoho Method and apparatus for compressed sensing
US20060239336A1 (en) 2005-04-21 2006-10-26 Baraniuk Richard G Method and Apparatus for Compressive Imaging Device
US7271747B2 (en) 2005-05-10 2007-09-18 Rice University Method and apparatus for distributed compressed sensing
US8687689B2 (en) 2005-10-25 2014-04-01 William Marsh Rice University Method and apparatus for on-line compressed sensing
KR101000786B1 (ko) * 2008-07-03 2010-12-14 한국과학기술원 움직임 추정 및 움직임 보상을 이용한 압축 센싱 기반 동적자기공명 영상기법
US8458109B2 (en) * 2009-05-27 2013-06-04 Yin Zhang Method and apparatus for spatio-temporal compressive sensing
US7834795B1 (en) * 2009-05-28 2010-11-16 Bae Systems Information And Electronic Systems Integration Inc. Compressive sensor array system and method
WO2011071958A2 (en) 2009-12-07 2011-06-16 William Marsh Rice University Apparatus and method for compressive imaging and sensing through multiplexed modulation
US20130070138A1 (en) 2010-02-22 2013-03-21 Richard G Baraniuk Number Of Pixels In Detector Arrays Using Compressive Sensing
RU2571564C2 (ru) * 2010-06-21 2015-12-20 Конинклейке Филипс Электроникс Н.В. Способ и система для выполнения визуализации методом низкодозовой компьютерной томографии
EP2584971B1 (en) * 2010-06-23 2021-11-10 Analog Devices, Inc. Ultrasound imaging with analog processing
CN102959388B (zh) * 2010-06-24 2016-02-24 皇家飞利浦电子股份有限公司 利用压缩感测重建的动态对比度增强mr成像
US8559688B2 (en) * 2010-06-30 2013-10-15 General Electric Company System and method for processing data signals
US8860835B2 (en) * 2010-08-11 2014-10-14 Inview Technology Corporation Decreasing image acquisition time for compressive imaging devices
US8775490B2 (en) 2011-02-04 2014-07-08 Alcatel Lucent Method and apparatus for compressive sensing with reduced compression complexity
CN102393248B (zh) * 2011-10-26 2013-09-11 中国科学院空间科学与应用研究中心 一种时间分辨极弱光多光谱成像系统及方法
CN102706450B (zh) 2012-06-13 2014-03-12 西安电子科技大学 基于压缩感知的双通道多光谱视频成像仪及成像方法
US8907280B1 (en) * 2012-09-19 2014-12-09 Sandia Corporation Fast electron microscopy via compressive sensing
US9453895B2 (en) * 2012-10-05 2016-09-27 Siemens Aktiengesellschaft Dynamic image reconstruction with tight frame learning
US8933401B1 (en) 2013-10-25 2015-01-13 Lawrence Livermore National Security, Llc System and method for compressive scanning electron microscopy
US9165743B2 (en) 2014-02-14 2015-10-20 Lawrence Livermore National Security, Llc High-speed multiframe dynamic transmission electron microscope image acquisition system with arbitrary timing
WO2016149676A1 (en) * 2015-03-18 2016-09-22 Battelle Memorial Institute Electron beam masks for compressive sensors
EP3378040A4 (en) 2015-11-20 2020-01-22 Integrated Dynamic Electron Solutions, Inc. TEMPORAL COMPRESSION DETECTION SYSTEMS

Also Published As

Publication number Publication date
US20180136449A1 (en) 2018-05-17
WO2017087045A1 (en) 2017-05-26
US20170146787A1 (en) 2017-05-25
JP2019503036A (ja) 2019-01-31
CN108474755B (zh) 2021-11-26
IL259375A (en) 2018-07-31
AU2016357089B2 (en) 2022-01-27
US20190204579A1 (en) 2019-07-04
KR20180109861A (ko) 2018-10-08
IL259375B (en) 2021-10-31
CN108474755A (zh) 2018-08-31
EP3378040A4 (en) 2020-01-22
US9841592B2 (en) 2017-12-12
JP6794447B2 (ja) 2020-12-02
US10571675B2 (en) 2020-02-25
US10018824B2 (en) 2018-07-10
JP2021039947A (ja) 2021-03-11
CA3005439A1 (en) 2017-05-26
EP3378040A1 (en) 2018-09-26
AU2016357089A1 (en) 2018-05-31

Similar Documents

Publication Publication Date Title
JP6952176B2 (ja) 時間的圧縮感知システム
US10170274B2 (en) TEM phase contrast imaging with image plane phase grating
US10109453B2 (en) Electron beam masks for compressive sensors
JP6684705B2 (ja) 圧縮走査型電子顕微鏡システムおよび動作方法
US20140253713A1 (en) Time-Resolved Single-Photon or Ultra-Weak Light Multi-Dimensional Imaging Spectrum System and Method
JP7538624B2 (ja) 時間分解ハイパースペクトル単一画素撮像
EP2633267A2 (en) Scanning projective lensless microscope system
Yu et al. Single-photon compressive imaging with some performance benefits over raster scanning
JP2022540637A (ja) 高フレームレートおよび高ダイナミックレンジ電子顕微鏡検査
Yang et al. Compressed ultrafast photography by multi-encoding imaging
Raghuram et al. Storm: Super-resolving transients by oversampled measurements
Reed Temporal compressive sensing systems
Mochizuki et al. Separation of multi-path components in sweep-less time-of-flight depth imaging with a temporally-compressive multi-aperture image sensor
US20200365361A1 (en) Coded x-ray target
EP4198876A1 (en) Reducing image artefacts in electron microscopy
CN115580762B (zh) 一种多通道耦合压缩超快成像装置
Alsolami et al. Imaging with SPADs and DMDs: Seeing through diffraction-photons
Sun Compressive Sensing and Imaging Applications
EP4449340A1 (en) Reducing image artefacts in electron microscopy
Qin Advanced Image Deconvolution Techniques for Super-resolution Microscopy
Moore The Application of the Capacitive Division Technique to Wide-field Time-resolved Fluorescence Microscopy
WO2022117695A1 (en) Superresolution optical imaging system and method
Gao et al. Research on the Resolution Improvement Method of Multi-Slit Streak Tube Imaging Based on Compression Sensing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210831

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210927

R150 Certificate of patent or registration of utility model

Ref document number: 6952176

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250