JP6739668B2 - 画像系列整列システム及び方法 - Google Patents
画像系列整列システム及び方法 Download PDFInfo
- Publication number
- JP6739668B2 JP6739668B2 JP2019558736A JP2019558736A JP6739668B2 JP 6739668 B2 JP6739668 B2 JP 6739668B2 JP 2019558736 A JP2019558736 A JP 2019558736A JP 2019558736 A JP2019558736 A JP 2019558736A JP 6739668 B2 JP6739668 B2 JP 6739668B2
- Authority
- JP
- Japan
- Prior art keywords
- images
- image
- amplitude
- image shift
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 34
- 238000002864 sequence alignment Methods 0.000 title description 4
- 239000013598 vector Substances 0.000 claims description 56
- 238000003384 imaging method Methods 0.000 claims description 20
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000005540 biological transmission Effects 0.000 claims description 3
- 230000001131 transforming effect Effects 0.000 claims description 3
- 238000010894 electron beam technology Methods 0.000 description 12
- 238000002173 high-resolution transmission electron microscopy Methods 0.000 description 10
- 238000012937 correction Methods 0.000 description 4
- 230000000737 periodic effect Effects 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 230000010363 phase shift Effects 0.000 description 3
- 230000005855 radiation Effects 0.000 description 3
- 239000007787 solid Substances 0.000 description 3
- 238000004627 transmission electron microscopy Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 239000012621 metal-organic framework Substances 0.000 description 2
- 239000013207 UiO-66 Substances 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 238000001493 electron microscopy Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002105 nanoparticle Substances 0.000 description 1
- 230000035515 penetration Effects 0.000 description 1
- 238000003608 radiolysis reaction Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000013169 thromboelastometry Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/37—Determination of transform parameters for the alignment of images, i.e. image registration using transform domain methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/10—Image enhancement or restoration using non-spatial domain filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20056—Discrete and fast Fourier transform, [DFT, FFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Analysing Materials By The Use Of Radiation (AREA)
- Image Processing (AREA)
Description
102 電子銃
104 電子線
106 物体
108 ホルダ
110 電子線
112 撮像検出器
114 制御システム
116 プロセッサ
118 メモリ
120 入出力インターフェース
122 位置決めコントローラ
124 バス
Claims (14)
- 撮像検出器で物体の一連の画像を取得することであって、前記一連の画像のうちの少なくとも二つの連続した画像が互いに空間的にシフトしている、ことと、
プロセッサにおいて前記物体の一連の画像を受信することであって、前記一連の画像の画像毎の1画素当たりの平均電子数が0.67未満である、ことと、
前記プロセッサによって、前記一連の画像の各画像をフーリエ変換を用いてフーリエ領域に変換して、対応する複数のフーリエ変換画像を生成することと、
前記プロセッサによって、前記複数のフーリエ変換画像の振幅成分に基づいて、フーリエ領域において振幅フィルタリングされたパターンを計算することと、
前記プロセッサによって、前記振幅フィルタリングされたパターンを用いて、前記一連の画像のうちの連続した画像の対についての空間シフトを決定することと、
前記プロセッサによって、決定された前記空間シフトに基づいて、前記一連の画像のうちの複数の画像を整列させることと、
前記プロセッサによって、整列させた前記複数の画像を足し合わせて、画像シフトが補正され足し合わされた画像を形成することと、を備え、
前記振幅フィルタリングされたパターンを計算することが、
前記フーリエ変換画像の振幅成分を足し合わせて、振幅パターンを生成することと、
前記振幅パターンに振幅閾値を適用して、前記振幅フィルタリングされたパターンを生成することと、を備え、前記振幅フィルタリングされたパターンが、前記振幅閾値以上の振幅を有する振幅パターンの画素を含む、方法。 - 前記連続した画像の対についての空間シフトを決定することが、
前記複数のフーリエ変換画像の各々の振幅成分を前記振幅フィルタリングされたパターンと置き換えて、複数のフィルタリングされたフーリエ変換画像を形成することと、
前記複数のフィルタリングされたフーリエ変換画像の各々に逆フーリエ変換を行い、対応する複数の逆変換されたフィルタリング画像を形成することと、
前記複数の逆変換されたフィルタリング画像を前記複数の逆変換されたフィルタリング画像のうちの連続した次の画像と相互相関させて、前記複数の逆変換されたフィルタリング画像についての画像シフト情報を生成することと、を備える、請求項1に記載の方法。 - 前記複数の画像を整列させることが、前記画像シフト情報を前記一連の画像のうちの複数の画像に適用することを更に備える、請求項2に記載の方法。
- 前記連続した画像の対についての空間シフトを決定することが、
前記振幅フィルタリングされたパターンの複数の画素に対応する前記複数のフーリエ変換画像の各々から位相成分を抽出することであって、前記複数の画素が、前記振幅閾値以上の振幅を有する振幅パターンの画素に対応する、ことと、
前記複数のフーリエ変換画像の各画像の複数の画素から少なくとも一対の画素を選択することと、
選択された前記少なくとも一対の画素について抽出された前記位相成分に基づいて、前記複数のフーリエ変換画像の各画像についての画像シフトベクトルを決定することと、を更に備える、請求項1に記載の方法。 - 前記画像シフトベクトルを決定することが、
選択された前記少なくとも一対の画素について抽出された前記位相成分に基づいて、前記画像シフトベクトルの少なくとも二つの同一直線上にない画像シフト成分ベクトルを決定することと、
前記少なくとも二つの同一直線上にない画像シフト成分ベクトルの係数を二倍にすることと、
二倍にした前記少なくとも二つの同一直線上にない画像シフト成分ベクトルの係数に基づいて、画像シフトサークルを決定することと、を更に備え、前記画像シフトベクトルが前記画像シフトサークルの半径に対応する、請求項4に記載の方法。 - 前記複数のフーリエ変換画像の各画像について複数対の画素が選択され、選択された前記複数対の画素の各々について複数の画像シフトベクトルが決定され、
前記方法が、
所定の量よりも大きく逸脱している前記複数の画像シフトベクトルのうちの画像シフトベクトルを前記複数の画像シフトベクトルのうちの他の画像シフトベクトルから特定することと、
前記複数の画像シフトベクトルから一組の画像シフトベクトルを形成することであって、特定された前記画像シフトベクトルが前記一組の画像シフトベクトルに含まれない、ことと、
前記一組の画像シフトベクトルに統計計算を行い、決定された前記空間シフトを生成することと、を更に備える、請求項5に記載の方法。 - 前記一連の画像が前記プロセッサによって透過型電子顕微鏡の撮像検出器から受信される、請求項1に記載の方法。
- プロセッサ命令を記憶しているメモリと、
前記メモリに結合されたプロセッサと、を備え、
前記プロセッサが、前記メモリに記憶されたプロセッサ命令を実行するように構成されていて、前記プロセッサ命令が、前記プロセッサに、
物体の一連の画像を受信することであって、前記一連の画像のうちの少なくとも二つの連続した画像が互いに空間的にシフトしていて、前記物体の一連の画像が撮像検出器で撮られ、前記一連の画像の画像毎の1画素当たりの平均電子数が0.67未満である、ことと、
前記一連の画像の各画像をフーリエ変換を用いてフーリエ領域に変換して、対応する複数のフーリエ変換画像を生成することと、
前記複数のフーリエ変換画像の振幅成分に基づいて、フーリエ領域において振幅フィルタリングされたパターンを計算することと、
前記振幅フィルタリングされたパターンを用いて、前記一連の画像のうちの連続した画像の対についての空間シフトを決定することと、
決定された前記空間シフトに基づいて、前記一連の画像のうちの複数の画像を整列させることと、
整列させた前記複数の画像を足し合わせて、画像シフトが補正され足し合わされた画像を形成することと、を行わせ、
前記プロセッサ命令が、前記プロセッサに、
前記フーリエ変換画像の振幅成分を足し合わせて、振幅パターンを生成することと、
前記振幅パターンに振幅閾値を適用して、前記振幅フィルタリングされたパターンを生成することと、
によって、前記振幅フィルタリングされたパターンを計算することを行わせ、
前記振幅フィルタリングされたパターンが、前記振幅閾値以上の振幅を有する振幅パターンの画素を含む、システム。 - 前記プロセッサ命令が、前記プロセッサに、
前記複数のフーリエ変換画像の各々の振幅成分を前記振幅フィルタリングされたパターンと置き換えて、複数のフィルタリングされたフーリエ変換画像を形成することと、
前記複数のフィルタリングされたフーリエ変換画像の各々に逆フーリエ変換を行い、対応する複数の逆変換されたフィルタリング画像を生成することと、
前記複数の逆変換されたフィルタリング画像を前記複数の逆変換されたフィルタリング画像のうちの連続した次の画像と相互相関させて、前記複数の逆変換されたフィルタリング画像についての画像シフト情報を生成することと、
によって、前記連続した画像の対についての空間シフトを決定することを行わせる、請求項8に記載のシステム。 - 前記プロセッサ命令が、前記プロセッサに、前記一連の画像のうちの複数の画像に前記画像シフト情報を適用することによって、前記複数の画像を整列させることを行わせる、請求項9に記載のシステム。
- 前記プロセッサ命令が、前記プロセッサに、
前記振幅フィルタリングされたパターンの複数の画素に対応する前記複数のフーリエ変換画像の各画像から位相成分を抽出することであって、前記複数の画素が、前記振幅閾値以上の振幅を有する振幅パターンの画素に対応する、ことと、
前記複数のフーリエ変換画像の各画像の複数の画素から少なくとも一対の画素を選択することと、
選択された前記少なくとも一対の画素について抽出された前記位相成分に基づいて、前記複数のフーリエ変換画像の各画像についての画像シフトベクトルを決定することと、
によって、前記連続した画像の対についての空間シフトを決定することを行わせる、請求項8に記載のシステム。 - 前記プロセッサ命令が、前記プロセッサに、
選択された前記少なくとも一対の画素について抽出された前記位相成分に基づいて、前記画像シフトベクトルの少なくとも二つの同一直線上にない画像シフト成分ベクトルを決定することと、
前記少なくとも二つの同一直線上にない画像シフト成分ベクトルの係数を二倍にすることと、
二倍にした前記少なくとも二つの同一直線上にない画像シフト成分ベクトルの係数に基づいて、画像シフトサークルを決定することと、
によって、前記画像シフトベクトルを決定することを行わせ、
前記画像シフトベクトルが前記画像シフトサークルの半径に対応する、請求項11に記載のシステム。 - 前記プロセッサ命令が、前記プロセッサに、前記複数のフーリエ変換画像の各画像について複数対の画素を選択させることを行わせ、選択された前記複数対の画素の各々について複数の画像シフトベクトルが決定され、
前記プロセッサ命令が、前記プロセッサに、
所定の量よりも大きく逸脱している前記複数の画像シフトベクトルのうちの画像シフトベクトルを前記複数の画像シフトベクトルのうちの他の画像シフトベクトルから特定することと、
前記複数の画像シフトベクトルから一組の画像シフトベクトルを形成することであって、特定された前記画像シフトベクトルが前記一組の画像シフトベクトルに含まれない、ことと、
前記一組の画像シフトベクトルに統計計算を行い、決定された前記空間シフトを生成することと、を更に行わせる、請求項12に記載のシステム。 - 電子銃と、
撮像検出器と、
前記電子銃と前記撮像検出器との間に位置する物体ホルダと、を更に備え、
前記プロセッサが、前記撮像検出器から前記物体の一連の画像を受信する、請求項8に記載のシステム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762490968P | 2017-04-27 | 2017-04-27 | |
US62/490,968 | 2017-04-27 | ||
US201762608966P | 2017-12-21 | 2017-12-21 | |
US62/608,966 | 2017-12-21 | ||
PCT/IB2018/050911 WO2018197960A1 (en) | 2017-04-27 | 2018-02-14 | Image series alignment system and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020518911A JP2020518911A (ja) | 2020-06-25 |
JP6739668B2 true JP6739668B2 (ja) | 2020-08-12 |
Family
ID=61557307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019558736A Active JP6739668B2 (ja) | 2017-04-27 | 2018-02-14 | 画像系列整列システム及び方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10068345B1 (ja) |
EP (1) | EP3616162B1 (ja) |
JP (1) | JP6739668B2 (ja) |
KR (1) | KR102153548B1 (ja) |
CN (1) | CN110582799B (ja) |
WO (1) | WO2018197960A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112434572B (zh) * | 2020-11-09 | 2022-05-06 | 北京极豪科技有限公司 | 指纹图像校准方法、装置、电子设备及存储介质 |
US20230395351A1 (en) * | 2022-06-02 | 2023-12-07 | Fei Company | Live-assisted image acquisition method and system with charged particle microscopy |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0782535B2 (ja) * | 1985-10-16 | 1995-09-06 | 株式会社日立製作所 | 電子顕微鏡の画像補正装置 |
JP2002056798A (ja) * | 2000-08-10 | 2002-02-22 | Hitachi Ltd | エネルギーフィルタを用いた透過型電子顕微鏡の分光データ処理方法、及びその透過型電子顕微鏡 |
JP4003423B2 (ja) * | 2001-09-07 | 2007-11-07 | 株式会社日立製作所 | 荷電粒子線顕微鏡および荷電粒子線顕微方法 |
US7557929B2 (en) * | 2001-12-18 | 2009-07-07 | Massachusetts Institute Of Technology | Systems and methods for phase measurements |
US8280695B2 (en) * | 2007-10-17 | 2012-10-02 | Exxonmobil Upstream Research Company | Method to adapt a template dataset to a target dataset by using curvelet representations |
US9103769B2 (en) | 2009-12-15 | 2015-08-11 | The Regents Of The University Of California | Apparatus and methods for controlling electron microscope stages |
JP5463974B2 (ja) * | 2010-03-10 | 2014-04-09 | コニカミノルタ株式会社 | 情報処理装置、プログラム、および情報処理方法 |
US8933401B1 (en) * | 2013-10-25 | 2015-01-13 | Lawrence Livermore National Security, Llc | System and method for compressive scanning electron microscopy |
EP2899743B1 (en) * | 2014-01-27 | 2016-09-21 | Fei Company | Correlative optical and charged particle microscope |
US11468557B2 (en) * | 2014-03-13 | 2022-10-11 | California Institute Of Technology | Free orientation fourier camera |
CN105223048B (zh) * | 2014-06-18 | 2018-07-24 | 中国科学院宁波材料技术与工程研究所 | 利用电子全息技术表征磁性纳米材料微观磁结构的方法 |
US10247672B2 (en) * | 2014-09-29 | 2019-04-02 | Howard Hughes Medical Institute | Non-linear structured illumination microscopy |
US9978557B2 (en) | 2016-04-21 | 2018-05-22 | Fei Company | System for orienting a sample using a diffraction pattern |
-
2018
- 2018-02-14 KR KR1020197034964A patent/KR102153548B1/ko active IP Right Grant
- 2018-02-14 EP EP18708485.0A patent/EP3616162B1/en active Active
- 2018-02-14 WO PCT/IB2018/050911 patent/WO2018197960A1/en unknown
- 2018-02-14 JP JP2019558736A patent/JP6739668B2/ja active Active
- 2018-02-14 US US15/896,610 patent/US10068345B1/en active Active
- 2018-02-14 CN CN201880028033.3A patent/CN110582799B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
KR102153548B1 (ko) | 2020-09-09 |
CN110582799A (zh) | 2019-12-17 |
EP3616162A1 (en) | 2020-03-04 |
KR20190139306A (ko) | 2019-12-17 |
CN110582799B (zh) | 2020-12-15 |
EP3616162B1 (en) | 2023-08-09 |
US10068345B1 (en) | 2018-09-04 |
JP2020518911A (ja) | 2020-06-25 |
WO2018197960A1 (en) | 2018-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6051245B2 (ja) | 荷電粒子顕微鏡内で試料を検査する方法 | |
JP5558088B2 (ja) | 粒子光学装置の歪曲を特定するための方法 | |
JP6975799B2 (ja) | 低解像度検査画像から高分解能点拡がり関数を再構築するシステム及び方法 | |
US7598492B1 (en) | Charged particle microscopy using super resolution | |
JP5106627B2 (ja) | 回折像取得方法、及び荷電粒子線装置 | |
Berujon et al. | X-ray pulse wavefront metrology using speckle tracking | |
JP6739668B2 (ja) | 画像系列整列システム及び方法 | |
KR102149947B1 (ko) | 투과 전자 현미경 샘플 정렬 시스템 및 방법 | |
CN107622933B (zh) | 使用叠层成像术对样本成像的方法 | |
JP6470654B2 (ja) | 荷電粒子線装置 | |
JP5037610B2 (ja) | 光学的断面画像の線を消去するためのシステムおよび方法 | |
JP6344934B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラムおよび記録媒体 | |
JP3885102B2 (ja) | 粒子光学装置で像を再生する方法 | |
JP6163063B2 (ja) | 走査透過電子顕微鏡及びその収差測定方法 | |
JP6770482B2 (ja) | 荷電粒子線装置および走査像の歪み補正方法 | |
CN108226205B (zh) | 一种离子或电子扫描成像图像漂移的自适应校正方法 | |
WO2022092077A1 (ja) | 荷電粒子ビーム装置および試料観察方法 | |
JP2007207763A (ja) | 荷電粒子線顕微鏡、画像形成方法、及び画像分解能評価用計算機 | |
US11011346B2 (en) | Electron beam device and image processing method | |
JP6524373B1 (ja) | 光学撮像装置および撮像画像補正方法 | |
JP3445258B2 (ja) | 放射線画像処理装置、画像処理システム、放射線画像処理方法、記憶媒体、プログラム、放射線撮影装置、及び放射線撮影システム | |
US8724773B2 (en) | Method and X-ray system for processing an X-ray image | |
JP2012142299A (ja) | 走査型荷電粒子顕微鏡装置および走査型荷電粒子顕微鏡装置で取得した画像の処理方法 | |
JP4393436B2 (ja) | 放射線画像処理装置、画像処理システム、放射線画像処理方法、記憶媒体及びプログラム | |
JP2024078179A (ja) | 画像処理装置およびその制御方法、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191226 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191226 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20191226 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200309 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200316 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200612 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200622 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200721 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6739668 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |