JP2019216058A - 電子顕微鏡および評価方法 - Google Patents
電子顕微鏡および評価方法 Download PDFInfo
- Publication number
- JP2019216058A JP2019216058A JP2018113507A JP2018113507A JP2019216058A JP 2019216058 A JP2019216058 A JP 2019216058A JP 2018113507 A JP2018113507 A JP 2018113507A JP 2018113507 A JP2018113507 A JP 2018113507A JP 2019216058 A JP2019216058 A JP 2019216058A
- Authority
- JP
- Japan
- Prior art keywords
- hole
- image
- learning
- evaluation
- electron microscope
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Analysing Materials By The Use Of Radiation (AREA)
Abstract
【課題】無駄な撮影を減らすことができる電子顕微鏡を提供する。【解決手段】電子顕微鏡100は、試料液を複数の孔が設けられた支持膜上で凍結させることによって孔に形成された薄膜に包埋された試料の電子顕微鏡像を取得するための電子顕微鏡であって、学習対象となる支持膜の電子顕微鏡像から生成された孔および孔の周囲の領域を含む学習用のホール画像と、学習用のホール画像中の薄膜の状態の評価値と、を含むデータを教師データとして機械学習を行い、薄膜の状態を評価する評価モデルを生成する学習部22と、評価対象となる支持膜の電子顕微鏡像から孔および孔の周囲の領域を含む評価用のホール画像を生成し、評価モデルを用いて、評価用のホール画像中の薄膜の状態を評価する評価部24と、を含む。【選択図】図3
Description
本発明は、電子顕微鏡および評価方法に関する。
単粒子解析は、たんぱく質やウイルスなどの生物試料の三次元構造を透過電子顕微鏡(Transmission Electron Microscope、TEM)を使って求める手法である(例えば特許文献1参照)。
単粒子解析では、まず、多数のTEM像から粒子部分を切り出して粒子像を生成し、生成した粒子像を粒子の向きによって分類し、同じ向きの粒子像を平均化して平均像を形成し、平均像を用いて粒子の三次元構造を再構成する。
図16は、生物試料を固定する支持膜のTEM像である。単粒子解析では、一般的に、生物試料(粒子)は、図16に示すように、支持膜の孔に形成された氷の薄膜に包埋(氷包埋)される。この氷の薄膜に包埋された生物試料(粒子)のTEM像から粒子部分を切り出して粒子像を生成することができる。
例えば、特許文献2には、氷の薄膜に包埋された試料を支持する支持膜のTEM像から、正規化相関を用いて孔の位置を検出する手法が開示されている。孔の位置を検出することにより、氷の薄膜に包埋された試料のTEM像を容易に取得することができる。
ここで、たんぱく質などの生物試料は、一般的に、TEM像の信号強度が弱い。そのため、単粒子解析では、数百枚〜数千枚のTEM像を撮影し、多数の粒子像を生成して平均像を形成する。しかしながら、粒子像には解析に適さないものがある。そのため、解析に適さない粒子像は解析から除外される。この解析から除外された粒子像が多いほど、無駄な撮影が行われたことになる。
ここで、氷の薄膜に包埋された試料のTEM像を撮影する際に、氷の薄膜が厚すぎても薄すぎても解析には適さない粒子像となってしまう。具体的には、氷の薄膜が厚すぎると、氷の影響によりTEM像にノイズが多くなってしまい、鮮明な粒子像を得ることができない。また、氷の薄膜が薄すぎると、試料が氷から露出するなどして、試料が損傷してしまう。
したがって、試料を包埋する氷の薄膜の状態を正確に評価できれば、無駄な撮影を減らすことができる。
本発明の目的は、無駄な撮影を減らすことができる電子顕微鏡および評価方法を提供することにある。
本発明に係る電子顕微鏡の一態様は、
試料液を複数の孔が設けられた支持膜上で凍結させることによって前記孔に形成された薄膜に包埋された試料の電子顕微鏡像を取得するための電子顕微鏡であって、
学習対象となる前記支持膜の電子顕微鏡像から生成された前記孔および前記孔の周囲の領域を含む学習用のホール画像と、前記学習用のホール画像中の前記薄膜の状態の評価値と、を含むデータを教師データとして機械学習を行い、前記薄膜の状態を評価する評価モデルを生成する学習部と、
評価対象となる前記支持膜の電子顕微鏡像から前記孔および前記孔の周囲の領域を含む評価用のホール画像を生成し、前記評価モデルを用いて、前記評価用のホール画像中の前記薄膜の状態を評価する評価部と、
を含む。
試料液を複数の孔が設けられた支持膜上で凍結させることによって前記孔に形成された薄膜に包埋された試料の電子顕微鏡像を取得するための電子顕微鏡であって、
学習対象となる前記支持膜の電子顕微鏡像から生成された前記孔および前記孔の周囲の領域を含む学習用のホール画像と、前記学習用のホール画像中の前記薄膜の状態の評価値と、を含むデータを教師データとして機械学習を行い、前記薄膜の状態を評価する評価モデルを生成する学習部と、
評価対象となる前記支持膜の電子顕微鏡像から前記孔および前記孔の周囲の領域を含む評価用のホール画像を生成し、前記評価モデルを用いて、前記評価用のホール画像中の前記薄膜の状態を評価する評価部と、
を含む。
このような電子顕微鏡では、支持膜に形成された孔および孔の周囲を含む学習用のホール画像を教師データとして機械学習を行うため、例えば、孔の周囲を含まない学習用のホール画像を教師データとする場合と比べて、より正確に孔に形成された薄膜の状態を評価することができる。したがって、このような電子顕微鏡では、無駄な撮影を減らすことができる。
本発明に係る評価方法の一態様は、
試料液を複数の孔が設けられた支持膜上で凍結させることによって前記孔に形成された薄膜の状態を評価する評価方法であって、
学習対象となる前記支持膜の電子顕微鏡像から生成された前記孔および前記孔の周囲の領域を含む学習用のホール画像と、前記学習用のホール画像中の前記薄膜の状態の評価値と、を含むデータを教師データとして機械学習を行い、前記薄膜の状態を評価する評価モデルを生成する工程と、
評価対象となる前記支持膜の電子顕微鏡像から前記孔および前記孔の周囲の領域を含む評価用のホール画像を生成し、前記評価モデルを用いて、前記評価用のホール画像中の前記薄膜の状態を評価する工程と、
を含む。
試料液を複数の孔が設けられた支持膜上で凍結させることによって前記孔に形成された薄膜の状態を評価する評価方法であって、
学習対象となる前記支持膜の電子顕微鏡像から生成された前記孔および前記孔の周囲の領域を含む学習用のホール画像と、前記学習用のホール画像中の前記薄膜の状態の評価値と、を含むデータを教師データとして機械学習を行い、前記薄膜の状態を評価する評価モデルを生成する工程と、
評価対象となる前記支持膜の電子顕微鏡像から前記孔および前記孔の周囲の領域を含む評価用のホール画像を生成し、前記評価モデルを用いて、前記評価用のホール画像中の前記薄膜の状態を評価する工程と、
を含む。
このような評価方法では、支持膜に形成された孔および孔の周囲を含む学習用のホール画像を教師データとして機械学習を行うため、例えば、孔の周囲を含まない学習用のホール画像を教師データとする場合と比べて、より正確に孔に形成された薄膜の状態を評価することができる。したがって、このような評価方法では、無駄な撮影を減らすことができる。
以下、本発明の好適な実施形態について図面を用いて詳細に説明する。なお、以下に説明する実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また、以下で説明される構成の全てが本発明の必須構成要件であるとは限らない。
1. 第1実施形態
1.1. 氷包埋法
まず、観察対象となる試料を氷包埋する手法について説明する。図1は、氷の薄膜6に包埋された試料を支持する支持膜2を模式的に示す平面図である。図2は、氷の薄膜6に包埋された試料を支持する支持膜2を模式的に示す断面図である。なお、図2は、図1のII−II線断面図である。
1.1. 氷包埋法
まず、観察対象となる試料を氷包埋する手法について説明する。図1は、氷の薄膜6に包埋された試料を支持する支持膜2を模式的に示す平面図である。図2は、氷の薄膜6に包埋された試料を支持する支持膜2を模式的に示す断面図である。なお、図2は、図1のII−II線断面図である。
たんぱく質やウイルスなどの生物試料は、氷に包埋されることで、電子顕微鏡で観察することができる。図1および図2に示す例では、複数の孔4が設けられた支持膜2を用いて、生物試料を氷包埋している。例えば、試料液を、複数の孔4を有する支持膜2上で凍結させることによって、孔4に形成された氷の薄膜6に生物試料を包埋することができる。
支持膜2は、例えば、炭素、シリコンなどの軽元素からなる薄膜である。支持膜2には、複数の孔4が周期的に設けられている。孔4の平面形状は、円であり、直径が1μm〜2μm程度である。以下、氷包埋法の一例として、支持膜2を用いて、たんぱく質を氷包埋する例について説明する。
まず、たんぱく質溶液を支持膜2に滴下する。次に、余剰な溶液をろ紙で吸い取る。このとき、孔4には、水(溶液)の薄膜が形成される。次に、支持膜2を冷媒に浸漬し、急速凍結する。冷媒としては、液体エタン、液体プロパンなどを用いることができる。液体エタン、液体プロパンなどを用いて、水を急速凍結することによって、水は非晶質氷となる。そのため、上記のように、支持膜2を急速凍結することで、孔4に非晶質氷の薄膜6を形成することができ、薄膜6にたんぱく質粒子を包埋することができる。非晶質氷は、孔4に形成されるとともに支持膜2上にも形成される。
なお、上記では、水を急速凍結することによって試料を非晶質氷の薄膜6に包埋する場合について説明したが、試料液の溶媒として、水以外の液体を用いてもよい。例えば、エタノールおよびエタンは、急速凍結することで非晶質となるため、試料液の溶媒として、エタノール、エタンを用いてもよい。すなわち、試料を包埋する薄膜6として、固体状態のエタノールの薄膜、固体状態のエタンの薄膜を用いてもよい。
また、上記では、試料として生物試料を例として説明したが、対象となる試料は、試料液を支持膜2上で凍結させることによって孔4に形成された薄膜6に包埋されることで、電子顕微鏡で観察可能となる試料であれば特に限定されない。
1.2. 電子顕微鏡の構成
次に、第1実施形態に係る電子顕微鏡について、図面を参照しながら説明する。図3は、第1実施形態に係る電子顕微鏡100の構成を示す図である。
次に、第1実施形態に係る電子顕微鏡について、図面を参照しながら説明する。図3は、第1実施形態に係る電子顕微鏡100の構成を示す図である。
電子顕微鏡100は、薄膜6に包埋された試料を観察するための電子顕微鏡である。電
子顕微鏡100は、クライオ電子顕微鏡である。すなわち、電子顕微鏡100では、氷包埋法など各種凍結技法により作製した生物試料を、凍結状態のまま電子顕微鏡内に導入して観察できる。
子顕微鏡100は、クライオ電子顕微鏡である。すなわち、電子顕微鏡100では、氷包埋法など各種凍結技法により作製した生物試料を、凍結状態のまま電子顕微鏡内に導入して観察できる。
電子顕微鏡100は、図3に示すように、電子顕微鏡本体10と、処理部20と、操作部30と、表示部32と、記憶部34と、を含む。
電子顕微鏡本体10は、凍結状態の試料を低温に保ったまま電子顕微鏡内に導入して観察できる試料ホルダー12と、試料ステージ14と、検出器16と、を含む。さらに、電子顕微鏡本体10は、図示はしないが、試料に電子線を照射する照射系と、試料を透過した電子で透過電子顕微鏡像(TEM像)を結像する結像系と、を含む。結像系で結像されたTEM像は、検出器16で撮影することができる。検出器16は、例えば、CCDカメラなどのデジタルカメラである。
操作部30は、ユーザーからの指示を信号に変換して処理部20に送る処理を行う。操作部30は、例えば、ボタン、キー、トラックボール、タッチパネル型ディスプレイ、マイクなどの入力機器により実現できる。
表示部32は、処理部20で生成された画像を出力する。表示部32は、例えば、LCD(liquid crystal display)などのディスプレイにより実現できる。
記憶部34は、処理部20が各種計算処理や制御処理を行うためのプログラムやデータを記憶している。また、記憶部34は、処理部20のワーク領域としても用いられる。記憶部34は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、およびハードディスクなどにより実現できる。
処理部20は、薄膜6の状態を評価するための学習を行う処理、薄膜6の状態を評価する処理、生成した画像を表示部32に表示させる処理などの処理を行う。処理部20の機能は、各種プロセッサー(CPU(Central Processing Unit)など)でプログラムを実行することにより実現できる。処理部20は、学習部22と、評価部24と、を含む。
学習部22は、学習対象となる支持膜2のTEM像から生成された学習用のホール画像と、学習用のホール画像中の薄膜6の状態の評価値と、を教師データとして機械学習を行い、薄膜6の状態を評価する評価モデルを生成する。
評価部24は、電子顕微鏡本体10で撮影された、評価対象となる支持膜2のTEM像を取得し、取得した支持膜2のTEM像から評価用のホール画像を生成し、学習部22で生成された評価モデルを用いて、評価用のホール画像中の薄膜6の状態を評価する。
1.3. 評価方法
次に、電子顕微鏡100における、氷の薄膜の状態の評価方法について説明する。以下では、図1および図2に示す孔4に形成された薄膜6の状態を評価する例について説明する。薄膜6の状態の評価は、孔4ごとに行われる。
次に、電子顕微鏡100における、氷の薄膜の状態の評価方法について説明する。以下では、図1および図2に示す孔4に形成された薄膜6の状態を評価する例について説明する。薄膜6の状態の評価は、孔4ごとに行われる。
1.3.1. 学習
図4は、学習対象となる支持膜2のTEM像I2を模式的に示す図である。
図4は、学習対象となる支持膜2のTEM像I2を模式的に示す図である。
学習対象となる支持膜2のTEM像I2は、図1および図2に示す支持膜2を透過電子顕微鏡で撮影して得られたTEM像である。すなわち、TEM像I2は、薄膜6に包埋された試料を支持している支持膜2のTEM像である。TEM像I2には、複数(図示の例
では9つ)の孔4が含まれている。なお、TEM像I2に含まれる孔4の数は、特に限定されず、孔4が1つであってもよい。TEM像I2は、電子顕微鏡本体10で撮影されたものであってもよいし、他の電子顕微鏡で撮影されたものであってもよい。
では9つ)の孔4が含まれている。なお、TEM像I2に含まれる孔4の数は、特に限定されず、孔4が1つであってもよい。TEM像I2は、電子顕微鏡本体10で撮影されたものであってもよいし、他の電子顕微鏡で撮影されたものであってもよい。
図5は、学習用のホール画像I4を模式的に示す図である。
学習用のホール画像I4は、図4に示すTEM像I2を切り出して生成された画像である。学習用のホール画像I4は、例えば、TEM像I2から正規化相関を用いて孔4の位置を検出し、孔4と、その孔4の周囲の領域4dと、を切り出すことで生成することができる。TEM像I2から正規化相関を用いて孔4の位置を検出する手法としては、例えば、特開2010−186614号公報に開示された手法を用いることができる。孔4の位置を検出して得られた孔4の位置座標の情報は、記憶部34に記憶される。
薄膜6の評価は、孔4ごとに行われる。図示の例では、学習用のホール画像I4は、1つの孔4を含んでいる。なお、図示はしないが、学習用のホール画像I4は、2以上の孔4を含んでいてもよい。図4に示すTEM像I2は、複数の孔4を含むため、TEM像I2から複数の学習用のホール画像I4を生成することができる。なお、TEM像I2に含まれる孔4が1つの場合、1つのTEM像I2から1つの学習用のホール画像I4が生成される。
学習用のホール画像I4は、孔4および孔4の周囲の領域4dを含む。領域4dは、支持膜2上の領域である。学習用のホール画像I4において、孔4は領域4dによって囲まれている。学習用のホール画像I4では、孔4の全体が含まれている。学習用のホール画像I4において、領域4dの割合は、40%以上80%以下が好ましい。領域4dの割合Rは、学習用のホール画像I4の全体の面積をS1とし、領域4dの面積をS2とした場合、R=S2/S1で求められる。
学習用のホール画像I4が、領域4dを含むことにより、より正確に孔4に形成された薄膜6の状態を評価することができる。以下、その理由を説明する。
上述したように、孔4に形成される薄膜6は、試料液を支持膜2上で凍結させることによって形成される。そのため、孔4に形成される薄膜6の厚さに異常がある場合、領域4dに形成される氷の状態にも異常がある場合が多い。例えば、孔4に形成される薄膜6が解析に適した厚さよりも厚かったり薄かったりした場合、領域4dの氷の厚さも、解析に適した厚さの場合よりも厚かったり薄かったりする場合が多い。また、領域4dに異物(霜やゴミ)などが有る場合、孔4に形成される薄膜6の厚さにも影響を及ぼす場合が多い。したがって、学習用のホール画像I4が領域4dを含むことにより、例えば、学習用のホール画像に領域4dが含まれていない場合と比べて、より正確に孔4に形成された薄膜6の状態を評価することができる。
学習部22に入力される教師データは、学習用のホール画像I4と、学習用のホール画像I4中の薄膜6の状態の評価値と、を含む。教師データは、学習用のホール画像I4に、この学習用のホール画像I4中の薄膜6の状態の評価値を付与することで生成することができる。
学習用のホール画像I4中の薄膜6の状態の評価値は、例えば、ユーザーが学習用のホール画像I4を見て薄膜6の状態を評価することで付与することができる。
図6は、学習用のホール画像I4中の薄膜6の状態の評価値を入力するための入力画面ISの一例を模式的に示す図である。
入力画面ISには、図6に示すように、画像表示領域102と、評価値を入力するための複数のボタン112,114,116,118と、保存ボタン120と、キャンセルボタン122と、が表示されている。
画像表示領域102は、評価値を付与する対象となる画像が表示される領域であり、図示の例では、学習用のホール画像I4が表示されている。
薄膜6の状態を示す評価値は、例えば、「A」、「B」、「C」、「F」の4段階に分かれている。「A」は評価が最も高く、「B」は「A」の次に評価が高く、「C」は「B」の次に評価が高いことを示している。また、「F」は使用不可、すなわち、この薄膜6に包埋されている試料が観察できない場合や、孔4に薄膜6が形成されていない場合であることを示している。入力画面ISには、「A」に対応するボタン112、「B」に対応するボタン114、「C」に対応するボタン116、「F」に対応するボタン118が表示されている。
なお、ここでは、薄膜6の状態を示す評価値が、4段階に分かれている場合について説明したが、評価値は2段階、3段階に分かれていてもよいし、5段階以上に分かれていてもよい。
画像表示領域102にホール画像I4が表示されている状態で、ボタン112,114,116,118のいずれかを押した後に、保存ボタン120を押すことで、ホール画像I4に評価値が付与される。
学習部22は、学習用のホール画像I4と、学習用のホール画像I4に付与された薄膜6の状態の評価値と、を教師データとして、機械学習を行い(教師あり学習)、薄膜6の状態を評価するための評価モデルを生成する。機械学習の手法としては、例えば、ニューラルネットワークが挙げられる。学習部22は、ディープラーニングにより、自動で最適な特徴量を見つけ出して、評価モデルを生成することができる。
1.3.2. 評価
薄膜6の評価は、評価対象となる支持膜2のTEM像から評価用のホール画像を生成し、機械学習により生成された評価モデルを用いて、評価用のホール画像中の薄膜6の状態を評価することで行われる。
薄膜6の評価は、評価対象となる支持膜2のTEM像から評価用のホール画像を生成し、機械学習により生成された評価モデルを用いて、評価用のホール画像中の薄膜6の状態を評価することで行われる。
評価対象となる支持膜2のTEM像、すなわち、薄膜6に包埋された試料を支持している支持膜2のTEM像は、例えば、図4に示す学習対象となる支持膜2のTEM像I2と同様の撮影を行うことで取得する。評価対象となるTEM像は、電子顕微鏡本体10で撮影され、処理部20に送られる。
評価用のホール画像は、図5に示す学習用のホール画像I4と同様に生成される。すなわち、評価用のホール画像は、例えば、評価対象となるTEM像から正規化相関を用いて孔4の位置を検出し、孔4と、その孔4の周囲の領域4dと、を切り出すことで生成することができる。評価用のホール画像は、孔4と、孔4の周囲の領域4dと、を含む。評価用のホール画像を、学習用のホール画像と同様に生成することにより、学習用のホール画像を教師データとして生成された評価モデルを用いて、より正確に評価を行うことができる。
図7は、薄膜6の状態の評価値を表示する評価画面OSの一例を模式的に示す図である。
評価画面OSには、評価対象となる支持膜2のTEM像と、評価値を示すラベル104と、が表示されている。評価値を示すラベル104は、評価対象となる支持膜2のTEM像中の評価対象の薄膜6(孔4)の近傍に表示されている。
1.4. 処理
次に、学習部22の処理、および評価部24の処理について説明する。図8は、学習部22の処理の一例を示すフローチャートである。
次に、学習部22の処理、および評価部24の処理について説明する。図8は、学習部22の処理の一例を示すフローチャートである。
まず、学習部22は、学習対象となる支持膜2のTEM像I2(図4参照)を取得する(S100)。学習部22は、取得したTEM像I2から学習用のホール画像I4(図5参照)を生成する(S102)。
次に、学習部22は、学習用のホール画像I4中の薄膜6の状態の評価値を入力するための入力画面IS(図6参照)を表示部32に表示させる(S104)。
ユーザーが入力画面ISを用いて、入力画面ISに表示されているホール画像I4中の薄膜6の状態の評価値を入力すると、学習部22は、入力された評価値を取得して(S106)、ホール画像I4に評価値を付与する。学習部22は、ホール画像I4と入力された評価値とを含むデータを教師データとして、機械学習を行い、評価モデルを生成する(S108)。
以上の処理により、学習部22は、機械学習を行うことができる。
図9は、評価部24の処理の一例を示すフローチャートである。
まず、評価部24は、評価対象となる支持膜2のTEM像を取得する(S200)。評価部24は、取得したTEM像から評価用のホール画像を生成する(S202)。
次に、評価部24は、学習部22で生成された評価モデルを用いて、評価用のホール画像中の薄膜6の状態の評価を行う(S204)。評価部24は、得られた評価値に基づいて、評価画面OS(図7参照)を生成し、表示部32に表示させる(S206)。
1.5. 特徴
電子顕微鏡100は、例えば、以下の特徴を有する。
電子顕微鏡100は、例えば、以下の特徴を有する。
電子顕微鏡100は、学習対象となる支持膜2のTEM像I2から生成された孔4および孔4の周囲の領域4dを含む学習用のホール画像I4と、学習用のホール画像I4中の薄膜6の状態の評価値と、を含むデータを教師データとして機械学習を行い、薄膜6の状態を評価する評価モデルを生成する学習部22を含む。さらに、電子顕微鏡100は、評価対象となる支持膜2のTEM像から孔4および孔4の周囲の領域4dを含む評価用のホール画像を生成し、評価モデルを用いて、評価用のホール画像中の薄膜6の状態を評価する評価部24を含む。
このように、電子顕微鏡100では、支持膜2に形成された孔4および孔4の周囲の領域4dを含む学習用のホール画像を教師データとして機械学習を行う。そのため、例えば、学習用のホール画像に周囲の領域4dが含まれていない場合と比べて、より正確に薄膜6の状態を評価することができる。したがって、電子顕微鏡100では、無駄な撮影を減らすことができる。これにより、例えば、単粒子解析において、撮影回数を減らすことができる。
また、電子顕微鏡100では、例えば、熟練者が評価値を付与することによって、非熟練者でも熟練者と同様の評価結果を得ることができる。
電子顕微鏡100では、学習部22は、学習用のホール画像I4中の薄膜6の状態の評価値を入力するための入力画面ISを表示部32に表示させる処理を行う。そのため、電子顕微鏡100では、ユーザーが入力画面ISを介して薄膜6の状態の評価値を入力することで、容易に教師データを作成することができる。したがって、例えば、ユーザーが望んだ評価を行うことが可能な評価モデルを、容易に生成することができる。
電子顕微鏡100では、学習用のホール画像I4において、孔4は周囲の領域4dによって囲まれている。これにより、例えば、学習用のホール画像I4において、孔4が周囲の領域4dに囲まれていない場合と比べて、薄膜6の状態の評価をより正確に行うことができる。
電子顕微鏡100では、学習用のホール画像I4において、周囲の領域4dの割合は、40%以上80%以下である。例えば、周囲の領域4dの割合が40%よりも小さい場合、周囲の領域4dの氷の状態の評価を正確に行うことができない場合がある。また、周囲の領域4dの割合が80%よりも大きい場合、孔4に形成された薄膜6の状態の評価を正確に行うことができない場合がある。したがって、周囲の領域4dの割合は、40%以上80%以下であることにより、薄膜6の状態の評価をより正確に行うことができる。
2. 第2実施形態
次に、第2実施形態に係る電子顕微鏡について、図面を参照しながら説明する。図10は、第2実施形態に係る電子顕微鏡200の構成を示す図である。以下、第2実施形態に係る電子顕微鏡200において、上述した電子顕微鏡100の構成部材と同様の機能を有する部材については同一の符号を付し、その詳細な説明を省略する。
次に、第2実施形態に係る電子顕微鏡について、図面を参照しながら説明する。図10は、第2実施形態に係る電子顕微鏡200の構成を示す図である。以下、第2実施形態に係る電子顕微鏡200において、上述した電子顕微鏡100の構成部材と同様の機能を有する部材については同一の符号を付し、その詳細な説明を省略する。
電子顕微鏡200では、図10に示すように、処理部20は、電子顕微鏡本体10を制御する制御部26を含む。
制御部26は、評価部24による薄膜6の状態の評価結果に基づいて、TEM像を撮影する撮影場所を決定し、決定した撮影場所でTEM像を撮影できるように試料ステージ14を制御する。さらに、制御部26は、決定した撮影場所において、TEM像を取得する処理を行う。
例えば、撮影場所が、評価値が「A」の薄膜6と設定されている場合、制御部26は、評価値が「A」と評価された薄膜6が形成された孔4の位置座標を取得し、取得した位置座標に基づき試料ステージ14を制御する。そして、制御部26は、検出器16で撮影されたTEM像を取得する。これにより、評価値が「A」の薄膜6に包埋された試料のTEM像を取得することができる。
なお、ここでは、撮影場所の移動を、試料ステージ14で行う場合について説明したが、撮影場所の移動は、イメージシフトで行われてもよいし、試料ステージ14による移動とイメージシフトの組み合わせであってもよい。イメージシフトとは、試料に照射される電子線を偏向することで、視野の移動を行う機構をいう。
制御部26は、例えば、評価値が「A」の薄膜6が複数有る場合、上述した試料ステージ14を制御する処理、およびTEM像を取得する処理を繰り返し行う。これにより、評価値が「A」の薄膜6に包埋された試料のTEM像を複数取得することができる。
電子顕微鏡200は、評価部24による薄膜6の状態の評価結果に基づいて、TEM像を撮影する撮影場所を決定し、決定した撮影場所で試料のTEM像を取得する制御部26を含む。そのため、例えば、評価値が高い薄膜6に包埋された試料のTEM像を容易に取得することができる。したがって、電子顕微鏡200では、例えば、単粒子解析を行う際に、解析から除外される粒子像の数を減らすことができる。これにより、単粒子解析において、データ収集のスループットを向上できる。
なお、上記では、制御部26が評価結果に基づく撮影場所への移動およびTEM像の取得を行う場合について説明したが、制御部26が評価結果に基づく撮影場所への移動を行い、TEM像の取得はユーザーが手動で行ってもよい。
3. 第3実施形態
次に、第3実施形態に係る電子顕微鏡について、図面を参照しながら説明する。図11は、第3実施形態に係る電子顕微鏡300の構成を示す図である。以下、第3実施形態に係る電子顕微鏡300において、上述した電子顕微鏡100および電子顕微鏡200の構成部材と同様の機能を有する部材については同一の符号を付し、その詳細な説明を省略する。
次に、第3実施形態に係る電子顕微鏡について、図面を参照しながら説明する。図11は、第3実施形態に係る電子顕微鏡300の構成を示す図である。以下、第3実施形態に係る電子顕微鏡300において、上述した電子顕微鏡100および電子顕微鏡200の構成部材と同様の機能を有する部材については同一の符号を付し、その詳細な説明を省略する。
電子顕微鏡300では、図11に示すように、処理部20は、単粒子解析を行う解析部28を含む。
上述したように、制御部26では、単粒子解析を行うための試料のTEM像を取得することができる。
解析部28は、制御部26が取得した、単粒子解析を行うための試料のTEM像を用いて、単粒子解析を行う。具体的には、解析部28は、制御部26によって取得された複数のTEM像から粒子部分を切り出して多数の粒子像を生成し、多数の粒子像を粒子の向きによって分類する。そして、同じ向きの粒子像を平均化して平均像(平均化された粒子像)を生成し、平均像を用いて粒子の三次元構造を再構成する。
解析部28は、解析に適さない粒子像があった場合には、その粒子像を解析から除外する。解析部28は、例えば、いずれにも分類されなかった粒子像や、分類された粒子像を平均化して平均像を得る際に、加えることで分解能が悪化するような粒子像を除外する。
学習部22は、解析に用いられた粒子像が得られた孔4を含む学習用のホール画像に、解析に使用可能な薄膜6であることを示す評価値を付与して、教師データを生成する。これにより、学習部22は、解析に用いられた粒子像が得られた孔4を含む学習用のホール画像と、解析に使用可能な薄膜6であることを示す評価値と、を含むデータを教師データとして機械学習を行うことができる。
同様に、学習部22は、解析に用いられなかった粒子像が得られた孔4を含む学習用のホール画像に、解析に使用不可な薄膜6であることを示す評価値を付与して、教師データを生成する。これにより、学習部22は、解析に用いられなかった粒子像が得られた孔4を含む学習用のホール画像と、解析に使用不可な薄膜6であることを示す評価値と、を含むデータを教師データとして機械学習を行うことができる。
学習部22は、例えば、制御部26が取得した、単粒子解析を行うための試料のTEM像を取得して、学習用のホール画像を生成する。また、学習部22は、解析部28から解析に用いられた粒子像の情報および解析から除外された粒子像の情報を取得する。学習部22は、学習用のホール画像と、解析に用いられたか否かの情報と、を関連づけて、学習
用のホール画像に評価値を付与する。これにより、教師データを生成することができる。
用のホール画像に評価値を付与する。これにより、教師データを生成することができる。
図12は、電子顕微鏡300の処理部20の処理の一例を示すフローチャートである。
まず、制御部26が、評価部24による薄膜6の状態の評価結果に基づいて、撮影場所を決定し、単粒子解析を行うための試料のTEM像を取得する(S300)。
次に、解析部28が、制御部26が取得した、単粒子解析を行うための試料のTEM像から粒子像を生成し、単粒子解析を行う(S302)。このとき、解析部28は、解析に適さない粒子像があった場合には、その粒子像を解析から除外する。
次に、学習部22は、制御部26が取得した、単粒子解析を行うための試料のTEM像から学習用のホール画像を生成する(S304)。
次に、学習部22は、解析に用いられた粒子像が得られた孔4を含む学習用のホール画像に、解析に使用可能な薄膜6であることを示す評価値を付与して、教師データを生成する。また、学習部22は、解析に用いられなかった粒子像が得られた孔4を含む学習用のホール画像に、解析に使用不可な薄膜6であることを示す評価値を付与して、教師データを生成する(S306)。
学習部22は、生成した教師データを用いて機械学習を行い、評価モデルを生成する(S308)。
以上の処理により、学習部22は、機械学習を行うことができる。
電子顕微鏡300では、学習部22が、解析部28において解析に用いられた粒子像が得られた孔4を含む学習用のホール画像に、解析に使用可能な薄膜6であることを示す評価値を付与して、教師データを生成する。また、学習部22が、解析部28において解析に用いられなかった粒子像が得られた孔4を含む学習用のホール画像に、解析に使用不可な薄膜6であることを示す評価値を付与して、教師データを生成する。したがって、電子顕微鏡300では、容易に教師データを生成することができる。例えば、上述した電子顕微鏡100では、教師データを生成するためには、ユーザーが評価値を入力する必要があるが、電子顕微鏡300では、ユーザーが評価値を入力しなくてもよい。
4. 変形例
なお、本発明は上述した実施形態に限定されず、本発明の要旨の範囲内で種々の変形実施が可能である。
なお、本発明は上述した実施形態に限定されず、本発明の要旨の範囲内で種々の変形実施が可能である。
図13は、入力画面ISの変形例を模式的に示す図である。
上述した図6に示す入力画面ISでは、画像表示領域102には、学習用のホール画像I4が表示されていたが、図13に示すように、画像表示領域102に、学習対象となる支持膜2のTEM像I2が表示されていてもよい。
図13に示す入力画面ISには、評価値を選択するためのボタン112,114,116,118が表示されている。ボタン112,114,116,118で評価値を選択して、TEM像上の孔4をクリックする(指定する)ことで、指定された孔4に形成された薄膜6の状態についての評価値が入力される。評価値が入力されると、画像表示領域102に表示されたTEM像上には、評価値に対応するラベル104が表示される。
学習部22は、指定された孔4およびその周囲の領域4dを切り出して学習用のホール画像を生成し、学習用のホール画像に入力された評価値を付与して、教師データとする。このように、学習部22は、図13に示す入力画面ISを表示部32に表示させる場合、学習部22は、図14に示すように、学習用のホール画像を生成する処理(S102)を、評価値を取得する処理(S106)の後に行ってもよい。
図15は、入力画面ISの変形例を模式的に示す図である。図15に示すように、入力画面ISでは、画像表示領域102に、複数の学習用のホール画像I4が表示されてもよい。
図15に示す入力画面ISでは、1つの評価値(図示の例では、評価値「A」)を選択できるようになっている。図15に示す入力画面ISでは、複数の学習用のホール画像I4の各々にチェックボックスが付されており、このチェックボックスにチェックマークを入れることで、対応する学習用のホール画像I4に評価値が付与される。
また、上述した実施形態では、電子顕微鏡100,200,300が透過電子顕微鏡(TEM)である場合について説明したが、電子顕微鏡100,200,300は、走査透過電子顕微鏡(Scanning Transmission Electron Microscope、STEM)であってもよい。
なお、上述した実施形態及び変形例は一例であって、これらに限定されるわけではない。例えば各実施形態及び各変形例は、適宜組み合わせることが可能である。
本発明は、実施の形態で説明した構成と実質的に同一の構成(例えば、機能、方法および結果が同一の構成、あるいは目的及び効果が同一の構成)を含む。また、本発明は、実施の形態で説明した構成の本質的でない部分を置き換えた構成を含む。また、本発明は、実施の形態で説明した構成と同一の作用効果を奏する構成又は同一の目的を達成することができる構成を含む。また、本発明は、実施の形態で説明した構成に公知技術を付加した構成を含む。
2…支持膜、4…孔、4d…領域、10…電子顕微鏡本体、12…試料ホルダー、14…試料ステージ、16…検出器、20…処理部、22…学習部、24…評価部、26…制御部、28…解析部、30…操作部、32…表示部、34…記憶部、100…電子顕微鏡、200…電子顕微鏡、300…電子顕微鏡
Claims (9)
- 試料液を複数の孔が設けられた支持膜上で凍結させることによって前記孔に形成された薄膜に包埋された試料の電子顕微鏡像を取得するための電子顕微鏡であって、
学習対象となる前記支持膜の電子顕微鏡像から生成された前記孔および前記孔の周囲の領域を含む学習用のホール画像と、前記学習用のホール画像中の前記薄膜の状態の評価値と、を含むデータを教師データとして機械学習を行い、前記薄膜の状態を評価する評価モデルを生成する学習部と、
評価対象となる前記支持膜の電子顕微鏡像から前記孔および前記孔の周囲の領域を含む評価用のホール画像を生成し、前記評価モデルを用いて、前記評価用のホール画像中の前記薄膜の状態を評価する評価部と、
を含む、電子顕微鏡。 - 請求項1において、
前記学習部は、
前記支持膜の電子顕微鏡像を取得する処理と、
取得した前記支持膜の電子顕微鏡像から前記学習用のホール画像を生成する処理と、
前記学習用のホール画像中の前記薄膜の状態の評価値を入力するための入力画面を表示部に表示させる処理と、
を行う、電子顕微鏡。 - 請求項1または2において、
前記評価部による前記薄膜の状態の評価結果に基づいて、前記試料の電子顕微鏡像を撮影する撮影場所を決定し、前記撮影場所で前記試料の電子顕微鏡像を取得する制御部を含む、電子顕微鏡。 - 請求項3において、
前記制御部が取得した前記試料の電子顕微鏡像から粒子像を生成して単粒子解析を行う解析部を含む、電子顕微鏡。 - 請求項4において、
前記学習部は、前記解析部において解析に用いられた前記粒子像が得られた前記孔を含む前記学習用のホール画像に、解析に使用可能な前記薄膜であることを示す評価値を付与して、教師データを生成する、電子顕微鏡。 - 請求項1ないし5のいずれか1項において、
前記評価部は、前記孔ごとに、前記薄膜の状態を評価する、電子顕微鏡。 - 請求項1ないし6のいずれか1項において、
前記学習用のホール画像において、前記孔は前記周囲の領域によって囲まれている、電子顕微鏡。 - 請求項1ないし7のいずれか1項において、
前記学習用のホール画像において、前記周囲の領域の割合は、40%以上80%以下である、電子顕微鏡。 - 試料液を複数の孔が設けられた支持膜上で凍結させることによって前記孔に形成された薄膜の状態を評価する評価方法であって、
学習対象となる前記支持膜の電子顕微鏡像から生成された前記孔および前記孔の周囲の領域を含む学習用のホール画像と、前記学習用のホール画像中の前記薄膜の状態の評価値
と、を含むデータを教師データとして機械学習を行い、前記薄膜の状態を評価する評価モデルを生成する工程と、
評価対象となる前記支持膜の電子顕微鏡像から前記孔および前記孔の周囲の領域を含む評価用のホール画像を生成し、前記評価モデルを用いて、前記評価用のホール画像中の前記薄膜の状態を評価する工程と、
を含む、評価方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018113507A JP2019216058A (ja) | 2018-06-14 | 2018-06-14 | 電子顕微鏡および評価方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018113507A JP2019216058A (ja) | 2018-06-14 | 2018-06-14 | 電子顕微鏡および評価方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019216058A true JP2019216058A (ja) | 2019-12-19 |
Family
ID=68918020
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018113507A Pending JP2019216058A (ja) | 2018-06-14 | 2018-06-14 | 電子顕微鏡および評価方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019216058A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3827936A1 (en) | 2019-11-29 | 2021-06-02 | Seiko Epson Corporation | Control method for robot system |
-
2018
- 2018-06-14 JP JP2018113507A patent/JP2019216058A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3827936A1 (en) | 2019-11-29 | 2021-06-02 | Seiko Epson Corporation | Control method for robot system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6810505B2 (ja) | 教師データ作成方法及び装置並びに欠陥検査方法及び装置 | |
TWI647442B (zh) | Defect classification device and defect classification method | |
Rigort et al. | Focused ion beam micromachining of eukaryotic cells for cryoelectron tomography | |
JP4558047B2 (ja) | 顕微鏡システム、画像生成方法、及びプログラム | |
US20180088306A1 (en) | Observation Method and Specimen Observation Apparatus | |
JP2010014635A (ja) | 欠陥検査方法及び欠陥検査装置 | |
JP2007225351A (ja) | 欠陥表示方法およびその装置 | |
WO2017150194A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2006209698A (ja) | 対象追跡装置、顕微鏡システムおよび対象追跡プログラム | |
CN115511866B (zh) | 用于多维数据的图像分析的系统和方法 | |
US7034299B2 (en) | Transmission electron microscope system and method of inspecting a specimen using the same | |
JP2009229274A (ja) | 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置 | |
JP2023123536A (ja) | 粒度推定装置、粒度推定方法、粒度推定プログラム、粒度推定システム | |
US11169079B2 (en) | Captured image evaluation apparatus, captured image evaluation method, and captured image evaluation program | |
JP4012813B2 (ja) | 透過型電子顕微鏡及び試料観察方法 | |
JP2020087513A (ja) | 走査電子顕微鏡および画像処理方法 | |
JP2019216058A (ja) | 電子顕微鏡および評価方法 | |
JP2009270976A (ja) | 欠陥レビュー方法および欠陥レビュー装置 | |
WO2018158810A1 (ja) | 細胞観察装置 | |
JP4726048B2 (ja) | 位相回復方式の電子顕微鏡による観察方法 | |
JP5401005B2 (ja) | テンプレートマッチング方法、および走査電子顕微鏡 | |
JP2009229276A (ja) | 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置 | |
JP6876654B2 (ja) | 電子顕微鏡 | |
JP7198360B2 (ja) | 荷電粒子線装置 | |
WO2021044553A1 (ja) | 荷電粒子線装置 |