JP6704052B2 - マルチモダリティ鉱物質セグメント化システムおよび方法 - Google Patents

マルチモダリティ鉱物質セグメント化システムおよび方法 Download PDF

Info

Publication number
JP6704052B2
JP6704052B2 JP2018536138A JP2018536138A JP6704052B2 JP 6704052 B2 JP6704052 B2 JP 6704052B2 JP 2018536138 A JP2018536138 A JP 2018536138A JP 2018536138 A JP2018536138 A JP 2018536138A JP 6704052 B2 JP6704052 B2 JP 6704052B2
Authority
JP
Japan
Prior art keywords
sample
image
fib
sem
mineral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018536138A
Other languages
English (en)
Other versions
JP2019504452A (ja
Inventor
バティプロル,スリーニバス・ナガ
ウェイト,トム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Carl Zeiss X Ray Microscopy Inc
Original Assignee
Carl Zeiss X Ray Microscopy Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Carl Zeiss X Ray Microscopy Inc filed Critical Carl Zeiss X Ray Microscopy Inc
Publication of JP2019504452A publication Critical patent/JP2019504452A/ja
Application granted granted Critical
Publication of JP6704052B2 publication Critical patent/JP6704052B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/24Earth materials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N23/00Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00
    • G01N23/22Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material
    • G01N23/2206Combination of two or more measurements, at least one measurement being that of secondary emission, e.g. combination of secondary electron [SE] measurement and back-scattered electron [BSE] measurement
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N23/00Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00
    • G01N23/22Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material
    • G01N23/225Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material using electron or ion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • G06T2207/10061Microscopic image from scanning electron microscope
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30132Masonry; Concrete
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/22Treatment of data
    • H01J2237/221Image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Remote Sensing (AREA)
  • Analytical Chemistry (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Quality & Reliability (AREA)
  • Food Science & Technology (AREA)
  • Medicinal Chemistry (AREA)
  • Geology (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)
  • Image Analysis (AREA)

Description

2次元(2D)および3次元(3D)の両方において、岩石の鉱物含量を識別および視覚化するために、様々なイメージングモダリティが使用されている。例えば、これらのイメージングモダリティは、石油およびガス採取作業からの岩石試料を分析して、探査および生産作業中に得られる試料の流れおよび機械的特性をモデル化するために、多孔性および鉱物質を決定することができる。一般に、これらのイメージングモダリティは、破壊的技術および非破壊的技術として特徴付けられる。さらに、一部のモダリティは表面特徴のみを分析し、一方で、他のモダリティは3次元構造を分析することができる。
典型的な作業では、これらのイメージングモダリティは、3Dボリュームまたは2D画像などの画像データセットを作成する。次いで、画像分析技術を使用して、種々のイメージングモダリティによって作成されるボリュームおよび画像から鉱物含量が推測される。
非破壊的イメージングシステムには、X線コンピュータ断層撮影(CT)顕微鏡システムおよび走査電子顕微鏡(SEM)システムが含まれる。これらのシステムは、試料中の細孔、有機物、および鉱物などの特徴を視覚化する能力を提供する。
X線CT顕微鏡システムは、典型的には1〜数百keVの範囲のX線を試料に照射する。2D投影画像が複数の角度において収集され、投影から試料の3Dボリュームが再構成される。CT強度は鉱物密度と相関するが、X線CT顕微鏡システムでは鉱物質を特定する直接の方法はない。
SEMシステムは代わりに、典型的には500eVと30keVとの間の高エネルギー電子のビームを試料表面に照射する。電子と試料との相互作用から導出される信号が、試料表面の高分解能2D画像を構築する際に使用される。これにより、後方散乱電子(BSE)モード、二次電子(SE)、エネルギー分散型X線(EDX)、およびカソードルミネッセンス(CL)モードなどの複数のモードでSEMを同時に動作させることが可能になる。EDXは、典型的には、試料表面の2D鉱物マッピングを可能にする定量的鉱物質情報を提供するSEM上の主要システムである。
破壊的イメージングシステムには、集束イオンビーム走査電子顕微鏡(FIB−SEM)システムが含まれる。FIB−SEMは、イオンビームシステムと電子ビームシステムを統合したマルチビームシステムである。FIBシステムは、試料表面を高精度でミリングするために、ガリウムなどの原料物質のイオンの集束された高電流ビームを試料に照射する。次いで、ミリングされた表面が、統合SEMシステムを用いて高分解能で画像化される。所望のボリュームがサンプリングされるまで、FIBミリングおよびSEMイメージングプロセスが繰り返される。各スライスからのSEM画像が積み重なって、試料のミリングされた領域の3Dボリュームが構築される。
1つの現行の画像解析技法は、X線イメージングシステムから作成される試料のボリューム画像データセットを解析することによって、試料の3D鉱物マップを作成する。その後、試料の全鉱物含量が規定され、規定された鉱物についてX線減弱係数が計算される。次いで、この技術は、計算されたX線減弱係数に対応する画像内の特徴的なグレースケールレベルを識別することによってグレースケール3D画像をセグメント化する。
別の画像解析技術は、3D X線断層撮影ボリューム画像データセットの多相セグメント化を使用する。3D X線断層撮影ボリュームは、標準化輝度グレースケール画像を得るために処理され、その後、少なくとも3つの相にセグメント化される。セグメント化ステップは、標準化輝度画像の中央値/平均フィルタリング勾配画像を計算することと、中央値/平均フィルタリング勾配画像および標準化輝度画像から輝度対勾配グラフを作成することと、輝度対勾配グラフを少なくとも3つの領域に分割することと、領域を画定する閾値を使用して、標準化グレースケール画像をセグメント化して、セグメント化画像を作成することとを含む。次に、セグメント化された相の体積分率および空間分布が計算され、目標値と比較される。
発明の概要
現行のイメージングおよび鉱物割り当て技法には限界がある。例えば、3D鉱物マップ作成に関連する技術は、重複するCT値を有する鉱物を区別することができない。これは、粒子のクラスタが、平均原子番号が非常に近い鉱物を含む場合に起こり得る。さらに、この技法は、画像内の領域の縁または境界上に位置するボクセル/ピクセルに間違った鉱物質を割り当てる可能性がある。他方、多相セグメント化方法は、複雑で、計算集約的であり、3D鉱物マップイメージング解析技法と同じ問題を抱える可能性がある。
一般に、一態様によれば、本発明は、マルチモダリティ・イメージング・システムのための鉱物質セグメント化方法を特徴とする。この方法は、試料の1つまたは複数の画像データセットを生成するステップと、1つまたは複数の画像データセットの少なくとも一部をカバーする1つまたは複数の鉱物マップを作成するステップと、試料内の鉱物に関連する領域を識別し、ラベル付するために、1つまたは複数の鉱物マップをマスクとして1つまたは複数の画像データセットに適用するステップとを含む。1つまたは複数の画像データセットは、マルチモダリティ・イメージング・システムの異なるイメージングモダリティを使用して生成される。次に、特徴生成器を介してラベル付き領域から特徴ベクトルが抽出され、特徴ベクトルの挙動情報を学習するために、抽出された特徴ベクトルに対して機械学習訓練アルゴリズムが実行される。次いで、機械学習訓練アルゴリズムから学習されたこの挙動情報が、試料内の鉱物を分類する試料のセグメント化画像表現を構築するために、1つまたは複数の画像データセットに適用される。
一例において、ラベル付き画像は、特徴生成器を介して特徴ベクトルのセットに変換される。1つのこのような特徴生成器は、テクスチャおよびエッジ抽出に使用されるガボールフィルタである。ガボールフィルタは、主に3つのパラメータ、すなわち波長、角度、および帯域幅によって特徴付けられる。これらのパラメータを変更することにより、複数のガボール特徴生成器を構築することができる。ラベル付き画像に対して特徴生成器を適用する結果として、各ピクセルがベクトル空間内の点の配列である特徴ベクトルによって表される画像がもたらされる。一例では、画像データセット内の固有のテクスチャを有する鉱物が、対応する鉱物を表す固有の特徴ベクトルが生成されるようにする。
この例では、その後、抽出された特徴ベクトルに対して機械学習訓練アルゴリズムが実行されて、特徴の特徴ベクトル組み合わせの特定の値が、対応する鉱物相に関連付けられる。1つのそのような機械学習訓練アルゴリズムは、訓練中に複数の決定木を構築するアンサンブル学習方法であるランダムフォレストである。各決定木は、訓練データのランダムなサブセットを使用することによって構築される。次に、ラベル付き画像からの決定木情報が、1つまたは複数のラベル付けされていない画像データセットに適用されて、試料内の鉱物を分類する試料のセグメント化画像表現が構築される。
別の例示的な機械学習訓練アルゴリズムは、クラス間の決定境界を描く多層パーセプトロン(MLP)である。MLPは、式Y=F(x)を解く関数写像分類器であり、xは特徴ベクトルであり、Yはクラスであり、Fは決定境界を生成する学習済み関数である。決定境界は、試料内の鉱物を分類する試料のセグメント化画像表現を構築するために、1つまたは複数のラベル付けされていない画像データセットに対して適用される。
実施形態では、試料内の鉱物を識別するために、エネルギー分散型X線分光法を使用して、鉱物マップが作成される。さらに、試料の1つまたは複数の画像データセットを生成するステップは、1つまたは複数の画像データセットとして試料の1つまたは複数のX線ボリュームデータセットを生成することを含むことができる。これらは、異なるX線エネルギーを使用する試料の1つまたは複数のX線ボリュームデータセットを含むことができる。
さらに、試料の1つまたは複数の画像データセットを生成するステップは、マルチモダリティ・イメージング・システムの集束イオンビーム走査電子顕微鏡(FIB−SEM)イメージング・分析システムを使用して、1つまたは複数の画像データセットとして試料の1つまたは複数のFIB−SEMボリュームデータセットを生成することを含むことができる。FIB−SEMイメージングおよび分析システムの後方散乱電子モードおよび/または二次電子モードを使用することができる。
1つの事例では、画像データセットの少なくとも1つはFIB−SEMボリュームデータセットであり、試料のセグメント化画像表現は、セグメント化FIB−SEMボリュームデータセットである。
別の事例において、試料の1つまたは複数の画像データセットの少なくとも1つは、集束イオンビーム走査電子顕微鏡(FIB−SEM)イメージングおよびマルチモダリティ・イメージング・システムの分析システムを使用した、1つまたは複数の画像データセットとしての、試料の1つまたは複数のFIB−SEMデータセットを含む。
一般に、別の態様によれば、本発明は、試料の鉱物をセグメント化するためのマルチモダリティ・イメージング・システムを特徴とする。このシステムは、試料の1つまたは複数の画像データセットを生成するイメージングシステムと、試料内の鉱物を識別する1つまたは複数の鉱物マップを作成するエネルギー分散型X線分光システムとを備える。コンピュータシステムは、1つまたは複数の画像データセットに1つまたは複数の鉱物マップをマスクとして適用して、試料内の鉱物に関連付けられる領域を識別し、ラベル付けする。ラベル付き領域から特徴ベクトルを抽出する特徴抽出エンジンが利用される。抽出された特徴ベクトルに機械学習訓練アルゴリズムを実行して特徴ベクトルの挙動情報を学習する機械学習エンジンも利用される。最後に、機械学習訓練アルゴリズムから学習されたこの挙動情報が、試料内の鉱物を分類する試料のセグメント化画像表現を構築するために、1つまたは複数の画像データセットに適用される。
本発明の例示的な用途には、材料科学および地球科学からの試料の分析が含まれる。本発明は、実施例において固体酸化物形燃料電池(SOFC)および隕石のような試料のセグメント化画像表現を構築するために使用することができる。セグメント化画像表現は、現在のシステムおよび方法と比較して改善された画像解像度および改善された操作効率で試料内の相および鉱物を分類する。
部品の構造および組み合わせの様々な新規の詳細を含む、本発明の上記および他の特徴を、ここで、添付の図面を参照してより詳細に説明し、特許請求の範囲において指摘する。本発明を具体化する特定の方法および装置は、例示のために示したものであり、本発明を限定するものではないことは理解されよう。本発明の原理および特徴は、本発明の範囲から逸脱することなく、様々な多数の実施形態において利用することができる。
図面の簡単な説明
添付の図面において、参照符号は異なる図を通して同じ部分を指す。図面は必ずしも原寸に比例せず、代わりに、本発明の原理を例示することに重点が置かれている。図面のうち、
試料の鉱物質を決定するためのマルチモダリティ・イメージング・システムの主要な構成要素を示すシステムブロック図である。 本発明の概念による試料のセグメント化画像表現を構成する方法の高レベルの記述を提供する概略ブロック図である。 試料のセグメント化X線ボリュームデータセットを生成するための方法を示す、各実施形態が、試料のセグメント化画像表現を構築するためのコンピュータシステムによって実行される方法を説明する、本発明の好ましい実施形態を説明するフローチャートである。 試料のセグメント化FIB−SEMボリュームデータセットを生成するための方法を示す、各実施形態が、試料のセグメント化画像表現を構築するためのコンピュータシステムによって実行される方法を説明する、本発明の好ましい実施形態を説明するフローチャートである。 試料のセグメント化2D高ピクセル密度画像を生成するための方法を示す、各実施形態が、試料のセグメント化画像表現を構築するためのコンピュータシステムによって実行される方法を説明する、本発明の好ましい実施形態を説明するフローチャートである。 マルチモダリティ・イメージング・システムのコンピュータシステム上で実行される異なる協調プロセス/アプリケーション間の関係を示す概略ブロック図であり、プロセスは、試料の関連するセグメント化画像表現を構成するために、図3A〜図3Cの実施形態における試料の画像データセットに対して動作する特徴抽出エンジンおよび機械学習エンジンを含む、概略ブロック図である。 特徴抽出エンジンによって利用される異なる例示的なガボールフィルタ特徴生成器の画像を示す図である。 異なる鉱物テクスチャを有する試料の3つの異なる画像データセットスニペット、および、各試料について作成された関連する特徴ベクトルのパワー対周波数プロットを示す図である。 試料内の2つの異なるクラスの鉱物に対応する特徴ベクトルの例示的な散布図である。 図7Aに示すものと同じ特徴ベクトルの例示的な散布図を示し、加えて、セグメント化鉱物質を構築するために、図7Aのプロットに低次元多層パーセプトロン(MLP)機械学習訓練アルゴリズムを適用した結果を示す図である。 図7Aに示すものと同じ特徴ベクトルの例示的な散布図を示し、加えて、セグメント化鉱物質を構築するために、図7Aのプロットに高次元多層パーセプトロン(MLP)機械学習訓練アルゴリズムを適用した結果を示す図である。
ここで、本発明が、本発明の例示的な実施形態が示されている添付の図面を参照して、以下により完全に記載される。しかしながら、本発明は、多くの異なる形態で具現化することができ、本明細書に記載の実施形態に限定されるものと解釈すべきではない。むしろ、これらの実施形態は、本開示が綿密かつ完全になり、本発明の範囲を当業者に十分に伝えるように提供される。
本明細書において使用される場合、「および/または」という用語は、関連付けて列挙された項目の1つまたは複数のあらゆる組み合わせを含む。さらに、単数形および冠詞「a」、「an」および「the」は、特に明記しない限り、複数形も含むことが意図される。本明細書において使用される場合、含む(includes)、備える(comprises)、含んでいる(including)、および/または、備えている(comprising)という用語は、記載された特徴、整数、ステップ、動作、要素、および/または構成要素の存在を特定するが、1つまたは複数の他の特徴、整数、ステップ、動作、要素、構成要素、および/またはそれらのグループの存在または追加を除外するものではないことがさらに理解されよう。さらに、構成要素またはサブシステムを含む要素が別の要素に接続または結合されているとして言及および/または示されている場合、それは他の要素に直接接続もしくは結合されてもよく、または介在する要素が存在してもよいことが理解されよう。
図1は、例示的なマルチモダリティ・イメージング・システム100を示す。システム100は、データストア90と、コンピュータシステム124と、マルチモダリティ試料イメージング・分析システム120とを含む。システム100は、試料114内の鉱物の領域を分類(例えば、セグメント化およびラベル付け)し、試料114内の微細構造を特徴付けるために利用される。
マルチモダリティ試料イメージング・分析システム120は、異なるイメージングモダリティに関連するサブシステムを含む。これらは、マルチエネルギーX線イメージング・分析システム110、集束イオンビーム走査電子顕微鏡(FIB−SEM)イメージング・分析システム118、および、エネルギー分散X線分光法(EDX)システム116を含む。マルチモダリティ試料イメージング・分析システム120は、コンピュータシステム124と連携して、試料114の画像データセットを生成する。画像データセットは、データストア90に保存される。
コンピュータシステム124は、1つまたは複数のハードウェアベースの中央処理装置(CPU)102、1つまたは複数のグラフィカル処理装置(GPU)137および物理メモリ133を含む。コンピュータシステム124はまた、CPU(複数可)102上で実行され、任意選択的に、GPU137と通信することができるオペレーティングシステム104を含む。
1つまたは複数のアプリケーションまたはプロセスは、オペレーティングシステム104によって決定される1つまたは複数のコンテキスト内でオペレーティングシステム104上で実行される。このアプリケーションは、機械学習エンジン172、特徴抽出エンジン170、ユーザ・インターフェース・アプリケーション106、および、位置整合・見当合わせエンジン138を含む。例において、アプリケーションは、アプリケーションプログラミングインタフェース(API)を提示する独自のおよび/または標準化されたグラフィックスアプリケーションである。これらのアプリケーションによって提示されるAPIは、例において、メモリ133および通信バスを介して、オペレーティングシステム104、CPU102、およびGPU137の間の協調的な通信および処理を可能にする。
コンピュータシステム124はまた、機械学習訓練アルゴリズム196および特徴生成器190も含む。特徴抽出エンジン170は、特徴生成器190を使用して、画像データセットから特徴ベクトル192を抽出する。機械学習エンジン172は、機械学習訓練アルゴリズム196を抽出された特徴ベクトル192に適用する。
機械学習エンジン172および特徴抽出エンジン170などのアプリケーションは、GPU137内などのハードウェア内で実装することもできることが理解されよう。さらに、機械学習エンジン172および特徴抽出エンジン170の機能は、他の実施態様では、共通のプロセスまたはハードウェア構成要素に組み合わせることができる。
オペレータは、ユーザ・インターフェース・アプリケーション106を利用して、コンピュータシステム124、マルチモダリティ試料イメージング・分析システム120、およびデータストア90などのマルチモダリティ・イメージング・システム100の主要構成要素と対話する。コンピュータシステム124に接続されたディスプレイデバイス60が、オペレータが、構成要素上のタスクを実行し結果を表示することを可能にする。
X線イメージング・分析システム110は、X線、場合によっては異なるエネルギーにおけるX線を使用して、試料114の1つまたは複数のX線ボリュームデータセットを画像データセットとして生成する。イメージングは、典型的には、試料114の3Dボリュームにわたって動作する。一実施形態では、イメージングは、例において、典型的には70keV未満のX線を使用する低エネルギー(LE)データセットと、典型的には100keVを超えるX線を使用する高エネルギー(HE)データセットとを含む。LEデータセットはLE X線ボリュームデータセット130を作成し、HEデータセットはHE X線ボリュームデータセット132を作成する。次に、コンピュータシステム124の位置整合・見当合わせエンジン138が、LEボリュームデータセット130およびHEボリュームデータセット132を互いに位置整合および見当合わせして、マルチエネルギーX線ボリュームデータセット134を作成し、それをデータストア90に保存する。
FIB−SEMイメージング・分析システム118は、試料114の二次電子(SE)画像データセットおよび/または後方散乱電子(BSE)画像データセットの作成を可能にする。一実施形態では、オペレータは、FIB−SEMイメージング・分析システム118を使用して、試料114の全体にわたって走査して、試料114のBSE FIB−SEMボリュームデータセット140およびSE FIB−SEMボリュームデータセット142を作成することができる。位置整合・見当合わせエンジン138が、BSE FIB−SEMボリュームデータセット140およびSE FIB−SEMボリュームデータセット142を互いに位置整合および見当合わせして、マルチモードFIB−SEMボリュームデータセット144を作成し、それをデータストア90に保存する。
さらに別の実施形態では、オペレータは、FIB−SEMイメージング・分析システム118を使用して、試料114の表面のBSE 2D高ピクセル密度画像150およびSE 2D高ピクセル密度画像152を画像データセットとして作成することができる。BSE FIB−SEMボリュームデータセット140およびSE FIB−SEMボリュームデータセット142とは対照的に、BSE 2D高ピクセル密度画像150およびSE 2D高ピクセル密度画像152は、はるかに大きな領域にわたって高解像度で走査される。EDXシステム116はまた、通常、FIB−SEMイメージング・分析システム118のBSEおよびSEイメージング速度と比較してより遅い速度で動作する。これらの理由から、EDX鉱物マップ80は、試料114の特定の領域または断面に走査を限定することによって作成される。位置整合・見当合わせエンジン138は、BSE 2D高ピクセル密度画像150およびSE 2D高ピクセル密度画像152を互いに位置整合および見当合わせして、マルチモード2D高ピクセル密度画像154を作成し、それをデータストア90に保存する。
システム100は、マルチモダリティ試料イメージング・分析システム120のEDXシステム116を使用して、試料114の1つまたは複数のEDX鉱物マップ80を作成する。EDX鉱物マップ80は、試料114の選択されたスライスの2D画像である。EDX鉱物マップ80は、試料114内の元素の特徴的なスペクトルを利用し、選択されたスライスについて各ピクセルにおいて鉱物質を識別することによって生成される。EDX鉱物マップ80は、試料114ボリューム内の分析されている表面の鉱物質の「グラウンドトゥルース」を確立する。
好ましくは、EDX鉱物マップ80の作成のために選択される試料114のスライスは、少なくとも、実施形態/イメージングモダリティの各々に関連付けられる試料114の画像データセットによってもカバーされる試料114の1つまたは複数の2Dスライスまたは表面を含む。X線モダリティに関連する実施形態について、EDX鉱物マップ80は、好ましくは、マルチエネルギーX線ボリュームデータセット134によってカバーされる1つまたは複数の2Dスライスまたは試料表面から作成される。BSE FIB−SEMボリュームデータセットおよびSE FIB−SEMボリュームデータセットの作成に関連する実施形態について、EDX鉱物マップ80は、マルチモードFIB−SEMボリュームデータセット144によってカバーされる1つまたは複数の2Dスライスまたは試料表面から作成される。典型的には、EDX鉱物マップ80を作成するために選択される少なくとも1つのスライスは、試料114の表面からのものである。最後に、マルチモード2D高ピクセル密度画像154の生成に関連する実施形態では、マルチモード2D高ピクセル密度画像154によってもカバーされる試料114内の1つまたは複数の小さい領域からEDX鉱物マップ80が作成される。
典型的には、EDX鉱物マップ80は、試料114の表面スライスから収集/生成される。しかしながら、EDX鉱物マップ80はまた、試料114内から露出される、選択される関心領域に関連するスライスまたは表面から作成することもできる。一例では、FIB−SEMイメージング・分析システム118を介して試料114から撮影されるBSE画像は、そこからEDX鉱物マップ80を作成することができる試料114内の関心領域を識別するのを助けることができる。位置整合・見当合わせエンジン138は、EDX鉱物マップ80を、マルチエネルギーX線ボリュームデータセット134、マルチモードFIB−SEMボリュームデータセット144、およびマルチモード2D高ピクセル密度画像154と位置整合および見当合わせし、これらの位置整合されたバージョンをデータストア90に保存する。
機械学習エンジン172は、EDX鉱物マップ80と共に、位置整合および相関されたデータセット132/130,142/140,152/150を受け入れる。特徴抽出エンジン170と関連して、機械学習エンジン172は、EDX鉱物マップ80によって識別された各鉱物の対応するピクセルに関連する情報を、マルチエネルギーX線ボリュームデータセット134、マルチモードFIB−SEMボリュームデータセット144、およびマルチモード2D高ピクセル密度画像154の各々に適用して、試料114の対応するセグメント化画像表現を作成し、それらをデータストア90に保存する。対応するセグメント化画像表現はそれぞれ、セグメント化X線ボリュームデータセット136、セグメント化FIB−SEMボリュームデータセット146、およびセグメント化2D高ピクセル密度画像156である。
鉱物質セグメント化方法の開示されている実施形態は、好ましくは、単一またはマルチエネルギーX線ボリュームデータセット134、単一またはマルチモードFIB−SEMボリュームデータセット144、または単一またはマルチモード2D高ピクセル密度画像154を入力として受け入れるが、セグメント化方法は、同じモダリティの個々のデータセットまたは複数のデータセットも受け入れることを理解されたい。その後、データセットは、関連するセグメント化画像表現に処理される。一例では、単一のLEまたはHE X線ボリュームデータセット130/132を処理して、セグメント化X線ボリュームデータセット136を作成することができる。別の例では、単一のBSE 2D高ピクセル密度画像150を処理して、セグメント化2D高ピクセル密度画像156を作成することができる。さらに別の例では、試料114のBSE FIB−SEMボリュームデータセット142を生成し、その後、処理して、セグメント化FIB−SEMボリュームデータセット146を作成することができる。
図2は、試料114のセグメント化画像表現を構築する方法の高レベルの記述を提供する。試料114の画像データセット134/144/154は、試料114の1つまたは複数のイメージングモダリティに従って作成される。次に、EDX鉱物マップ80(グラウンドトゥルース)が画像データセットの表面と位置整合される。最後に、EDX鉱物マップ80が画像データセット134/144/154に適用されて、鉱物質に関する関連セグメント化画像データセット136/146/156が作成する。
図3A〜図3Cは、種々のイメージングモダリティについてコンピュータシステム124によって実行される好ましい鉱物質セグメント化方法を説明する。
図3Aは、X線モダリティに関する試料114のセグメント化X線ボリュームデータセット136を生成するためのコンピュータシステム124の方法を示す。
ステップ304において、コンピュータシステム124は、種々のエネルギー範囲(1つの低エネルギー(LE)および1つの高エネルギー(HE))にわたって試料114のX線CTイメージングを実行して、各エネルギー範囲においてX線ボリュームデータセットを作成するように、マルチエネルギーX線イメージング・分析システム110に指示する。LE X線ボリュームデータセット130およびHE X線ボリュームデータセット132は、このステップの結果として作成される。
ステップ306において、位置整合・見当合わせエンジン138は、HE X線ボリュームデータセット132およびLE X線ボリュームデータセット130から位置整合および見当合わせされたマルチエネルギーX線ボリュームデータセット134を生成する。
ステップ308によれば、コンピュータシステム124は、試料114の1つまたは複数のEDX鉱物マップ80を作成するように、EDXシステム116に指示する。位置整合・見当合わせエンジン138は、ステップ310において、マルチエネルギーX線ボリュームデータセット134をEDX鉱物マップ(複数可)80と位置整合および見当合わせする。
ステップ312において、コンピュータシステム124は、マルチエネルギーX線ボリュームデータセット134にEDX鉱物マップ(複数可)80をマスクとして適用して、それらの鉱物質に従って関連するピクセル/ボクセルの領域を識別し、ラベル付けする。
ステップ314において、コンピュータシステム124は、マルチエネルギーX線ボリュームデータセット134中の鉱物に関連するピクセルのすべての領域が現在のEDX鉱物マップ(複数可)80内の対応するラベルによって表されるか否かを決定する。この陳述が偽である場合、制御はステップ308の始めに戻り、追加のEDX鉱物マップ80が作成される。そうでなければ、制御はステップ316に移る。
ステップ316において、特徴抽出エンジン170が、例において、ガボール、ガウス、およびヒストグラム指向勾配フィルタなどの特徴生成器190を介して、マルチエネルギーX線ボリュームデータセット134内のラベル付き領域から特徴ベクトル192を抽出する。ステップ318によれば、機械学習エンジン172が、抽出された特徴ベクトル192に機械学習訓練アルゴリズム196を実行して、特徴ベクトル192の挙動を学習する。例示的な機械学習訓練アルゴリズム196は、ランダムフォレスト196−1である。
ステップ320において、機械学習エンジン172は、好ましくは、訓練アルゴリズム196から学習される挙動情報を、マルチエネルギーX線ボリュームデータセット134の全体にわたって、および、EDX鉱物マップ(複数可)80を超えて適用して、試料114のセグメント化されたラベル付きX線ボリュームデータセット136を構築する。最後に、ステップ322において、コンピュータシステム124は、セグメント化X線ボリュームデータセット136の選択されたスライスを1つまたは複数のグラウンドトゥルースEDX鉱物マップ80と比較することによって、セグメント化を検証する。
図3Bは、FIB−SEMイメージングモダリティのための試料114のセグメント化FIB−SEMボリュームデータセット146を生成する、コンピュータシステム124の方法を示す。
ステップ342において、コンピュータシステム124は、試料のFIB−SEM二次電子(SE)走査および/またはFIB−SEM後方散乱電子(BSE)走査を実行して、それぞれ試料114のSE FIB−SEMボリュームデータセット142および/またはBSE FIB−SEMボリュームデータセット140を作成するように、FIB−SEMイメージング・分析システム118に指示する。
ステップ344において、位置整合・見当合わせエンジン138は、SE FIB−SEMボリュームデータセット142および/またはBSE FIB−SEMボリュームデータセット140から位置整合および見当合わせされたマルチモードFIB−SEMボリュームデータセット144を生成する。ステップ346によれば、コンピュータシステム124は、FIB−SEMボリュームデータセット144によってカバーされる領域/スライスの1つまたは複数のEDX鉱物マップ80を作成して、試料114の「グラウンドトゥルース」を確立するように、EDXシステム116に指示する。位置整合・見当合わせエンジン138は、ステップ348において、マルチモードFIB−SEMボリュームデータセット144をEDX鉱物マップ(複数可)と位置整合および見当合わせする。
ステップ350において、コンピュータシステム124は、マルチモードFIB−SEMボリュームデータセット144にEDX鉱物マップ(複数可)80をマスクとして適用して、鉱物と関連付けられるピクセルの領域を識別し、ラベル付けする。ステップ352において、コンピュータシステムは、マルチモードFIB−SEMボリュームデータセット144中の鉱物に関連するピクセル/ボクセルのすべての領域が現在のEDX鉱物マップ(複数可)80内の対応するラベルによって表されるか否かを決定する。この陳述が偽である場合、制御はステップ346の始めに戻り、追加のEDX鉱物マップ80が作成される。そうでなければ、制御はステップ354に移る。
ステップ354において、特徴抽出エンジン170が、特徴生成器190を介して、マルチモードFIB−SEMボリュームデータセット144内のラベル付き領域から特徴ベクトル192を抽出する。ステップ356によれば、機械学習エンジン172が、抽出された特徴ベクトル192に機械学習訓練アルゴリズム196を実行して、特徴ベクトル192の挙動を学習する。
ステップ358において、機械学習エンジン172が、好ましくは、訓練アルゴリズム196から学習される挙動情報を、マルチモードFIB−SEMボリュームデータセット144の全体にわたって適用して、試料114のセグメント化FIB−SEMボリュームデータセット146を構築する。最後に、ステップ360において、コンピュータシステム124は、セグメント化FIB−SEMボリュームデータセット146の選択されたスライスを1つまたは複数のEDX鉱物マップ(複数可)80と比較することによって、セグメント化を検証する。
図3Cは、コンピュータシステム124が、FIB−SEMモダリティのための試料114のセグメント化2D高ピクセル密度画像156を生成する方法を示す。
ステップ372において、コンピュータシステム124は、試料のFIB−SEM二次電子(SE)走査および/またはFIB−SEM後方散乱電子(BSE)走査を実行して、それぞれ試料114のSE 2D画像152およびBSE 2D画像150を作成するように、FIB−SEMイメージング・分析システム118に指示する。
ステップ374において、位置整合・見当合わせエンジン138は、SE 2D画像152およびBSE 2D画像150から位置整合および見当合わせされたマルチモード2D画像154を生成する。ステップ376によれば、コンピュータシステム124は、マルチモード2D画像154によってカバーされる試料の領域から1つまたは複数のEDX鉱物マップ80を作成して、試料114の「グラウンドトゥルース」を確立するように、EDXシステム116に指示する。位置整合・見当合わせエンジン138は、ステップ378において、マルチモード2D画像154をEDX鉱物マップ(複数可)と位置整合および見当合わせする。
ステップ380において、コンピュータシステム124は、マルチモード2D高ピクセル密度画像154にEDX鉱物マップ(複数可)80をマスクとして適用して、鉱物と関連付けられるピクセルの領域を識別し、ラベル付けする。ステップ382において、コンピュータシステムは、マルチモード2D高ピクセル密度画像154中の鉱物に関連するピクセル/ボクセルのすべての領域が現在のEDX鉱物マップ(複数可)80内の対応するラベルによって表されるか否かを決定する。この陳述が偽である場合、制御はステップ376の始めに戻り、追加のEDX鉱物マップ80が作成される。そうでなければ、制御はステップ384に移る。
ステップ384において、特徴抽出エンジン170が、特徴生成器190を介して、マルチモード2D高ピクセル密度画像154内のラベル付き領域から特徴ベクトル192を抽出する。ステップ386によれば、機械学習エンジン172が、抽出された特徴ベクトル192に機械学習訓練アルゴリズム196を実行して、特徴ベクトル192の挙動を学習する。
ステップ388において、機械学習エンジン172が、好ましくは、訓練アルゴリズム196から学習される挙動情報を、マルチモード2D高ピクセル密度画像154の全体にわたって適用して、試料114のセグメント化2D高ピクセル密度画像156を作成する。最後に、ステップ390において、コンピュータシステム124は、セグメント化2D高ピクセル密度画像156の選択された領域を1つまたは複数のEDX鉱物マップ(複数可)80と比較することによって、セグメント化を検証する。
図4は、コンピュータシステム124の特徴抽出エンジン170および機械学習エンジン172が、協調して動作して、試料114のセグメント化画像表現136/146/156を構築する方法を示す。特徴抽出エンジン170は、コンピュータシステム124から特徴生成器190をロードする。特徴生成器190は、例において、平均190−1、分散190−2、ソーベル190−3、ガボール190−4、勾配方向ヒストグラム(HOG)190−5、ラプラシアン190−6およびへシアン190−7フィルタなどのフィルタを含む。これらのフィルタは、通常、デジタルフィルタである。一例では、ガボールフィルタ190−4は、角度、帯域幅、および周波数パラメータ値が変動するマルチエネルギーX線ボリュームデータセット134、マルチモードFIB−SEMボリュームデータセット144、およびマルチモード2D高ピクセル密度画像154に適用される。
特徴抽出エンジン170が画像データセットに特徴生成器190を適用するのに応答して、画像データセットの各ピクセルには、適用されている各特徴生成器190(例えば、フィルタ)のベクトル値の配列が割り当てられる。これらのベクトル値は、特徴ベクトル192としても知られている。次に、特徴抽出エンジン170は、コンピュータシステム124内で実行する他のアプリケーションによる処理のために特徴ベクトル192を提供する。
機械学習エンジン172は、コンピュータシステム124から分類器/機械学習訓練アルゴリズム196をロードする。例示的な機械学習訓練アルゴリズムは、ランダムフォレスト196−1、多層知覚ニューラルネットワーク(MLP)196−2、およびサポートベクタマシン(SVM)196−3を含む。
機械学習エンジン172は、特徴抽出エンジン170によって渡される特徴ベクトル192を受け入れる。機械学習エンジン172は、特徴ベクトル192に対して機械学習訓練アルゴリズム196を実行し、このプロセスから学習される情報を、EDX鉱物マップ80と位置整合した画像データセット(例えば、マルチエネルギーX線ボリュームデータセット134、マルチモードFIB−SEMボリュームデータセット144、およびマルチモード2D高ピクセル密度画像154)の全体に適用する。結果もたらされる、構築されたセグメント化画像表現はそれぞれ、セグメント化X線エネルギーボリュームデータセット136、セグメント化FIB−SEMボリュームデータセット146、およびセグメント化2D高ピクセル密度画像156である。
図5は、各々が異なる(波長、角度、帯域幅)パラメータ値(64,0,4)、(64,45,4)、(64,90,4)および(16,90,4)を有する、異なる例示的な2Dガボール特徴生成器190−4−1〜190−4−4を表す画像を示す。
典型的な機械学習フレームワークでは、ガボールフィルタ190−4のような特徴生成器190の大きなセットが、異なる波長、角度および帯域幅設定の範囲にわたって選択される。ガボールフィルタ190−4は複雑なカーネルであり、それらはフィルタリングされた画像のセットを生成する。一例では、ガボールフィルタ190−4カーネルは18の周波数および11個の角度を有し、合計198個の画像を作成する。
特徴抽出エンジン170がガボールフィルタ190−4を画像データセット134/144/154に適用することに応答して、特徴ベクトル192が作成される。ガボールフィルタ190−4の例では、作成される特徴ベクトル192は、画像データセット134/144/154内の各ピクセル位置におけるガボール値の配列である。
図6は、異なるテクスチャを有する鉱物試料114−1〜114−3の3つの64×64画像スニペットに対して作成されるガボール特徴ベクトル192−1〜192−3のパワー対周波数プロットを示す。各プロットは、ガボール特徴生成器190−4を試料114−1〜114−3の画像データセット134/144/154に適用することによって生成された。特徴ベクトル192−1〜192−3の各々を生成するために、ガボール特徴生成器190−4を画像データセット134/144/154に適用するとき、特徴抽出エンジン170によって同じガボール特徴生成器190−4の帯域幅設定が選択された。
ガボール特徴生成器190−4は窓付きフーリエ変換であるため、現在の例の各プロットの垂直軸はパワーであり、x軸は角度と周波数との組み合わせである。さらに、特徴ベクトル192は、ガボールフィルタ190−4の特徴生成器を適用することによって作成されているため、特徴ベクトル192は、ガボール特徴ベクトル192−1〜192−3としても参照される。機械学習エンジン172は、生成された特徴ベクトル192−1〜192−3に対して機械学習訓練アルゴリズム196を実行することによって、各試料114のテクスチャを「学習」する。
特徴ベクトル192−1〜192−3のパワー対周波数プロットの差は、試料114−1〜114−3の異なるテクスチャに対応する。例において、特徴ベクトル192−1〜192−3のプロットにおける大きなスパイクは、パワーが高い、狭い周波数および角度である。広い平坦な領域は背景雑音である。
図7Aは、試料114内の2つの異なるクラスの鉱物に対応する特徴ベクトル192−9〜192−10の例示的な散布図である。この例では、試料114は、2つのタイプまたはクラスの鉱物を含む。この例においても、特徴ベクトル192−9および192−10は、試料114の2つの異なる特徴に関連付けられている。鉱物の第1のクラスまたは「クラス1」に関連付けられる特徴ベクトル192−9は、散布図内で円として表され、鉱物の第2のクラスまたは「クラス2」に関連付けられる特徴ベクトル192−10は、散布図内で十字(+)として表される。
図7Bは、試料136/146/156のセグメント化画像表現を構築するために、低次元多層パーセプトロン(MLP)機械学習訓練アルゴリズム196−2を図7Aのプロットに適用した結果を示す。この例では、低次元MLP 196−2処理を達成するために、2つのMLP隠れユニットまたは隠れ層ニューロンが選択される。
機械学習エンジン172が図7Aの特徴ベクトル192に低次元MLP機械学習訓練アルゴリズム196−2を適用することに応答して、決定表面または境界200−1が、試料114のセグメント化画像表現を構築するために特徴ベクトルの中で定義される。この例では、決定境界200−1の左に入る特徴ベクトル192は、「クラス1」クラスの鉱物に属すると統計的に判定される。決定境界200−1のさらに左に位置する特徴ベクトル192は、決定境界200−1により近い位置にある特徴ベクトルよりもクラス1に属する確率が高い。同様に、決定境界200−1の右に入る特徴ベクトル192は、「クラス2」クラスの鉱物に属すると判定される。決定境界200−1のさらに右に位置する特徴ベクトル192は、決定境界200−1により近い位置にある特徴ベクトルよりもクラス2に属する確率が高い。
図7Bの散布図の中で、一例において、完全な画像セグメント化アルゴリズムが、特徴ベクトル192−9のすべての円データ点が決定境界200−1の右に位置し、特徴ベクトル192−10のすべての十字データ点が決定境界200−1の左に位置するように決定境界200−1を最適に生成する。決定境界200−1に当たる特徴ベクトルを有する特徴は、50%の確率で両方のクラスに属する。
図7Cは、図7Aのプロットに高次元多層パーセプトロン(MLP)機械学習訓練アルゴリズムを適用した結果を示す。この例では、高次元MLP 196−2処理を達成するために、6つのMLP隠れユニットが選択される。機械学習エンジン172が図7Aの特徴ベクトルに高次元MLP機械学習訓練アルゴリズム196−2を適用することに応答して、決定表面または境界200−2が、試料114のセグメント化画像表現を構築するために特徴ベクトル192−9および192−10の中で定義される。
本発明は、その好ましい実施形態を参照して具体的に示され、記載されたが、添付の特許請求の範囲によって包含される本発明の範囲から逸脱することなく、形態および詳細における様々な変更がなされ得ることが、当業者には理解されよう。

Claims (19)

  1. マルチモダリティ・イメージング・システムのための試料の鉱物質セグメント化方法であって、前記マルチモダリティ・イメージング・システムは、異なるデータセットを互いに位置合わせして、前記試料のボリュームデータセットを表現するように構成されており、前記方法は、
    前記試料の1つまたは複数の画像データセットを生成するステップと、
    前記1つまたは複数の画像データセットの少なくとも一部分をカバーする1つまたは複数の鉱物マップを作成するステップと、
    前記1つまたは複数の画像データセット内の鉱物に関連付けられる領域を識別し、ラベル付けするために、前記1つまたは複数の画像データセットに前記1つまたは複数の鉱物マップをマスクとして適用するステップと、
    特徴生成器を介して前記ラベル付き領域から特徴ベクトルを抽出するステップと、
    前記特徴ベクトルの挙動情報を学習するために、前記抽出された特徴ベクトルに対して機械学習訓練アルゴリズムを実行するステップと、
    前記試料内の前記鉱物を分類する前記試料のセグメント化画像表現を構築するために、前記機械学習訓練アルゴリズムから学習されている前記挙動情報を前記1つまたは複数の画像データセットに適用するステップとを含み、
    前記特徴ベクトルは、前記1つまたは複数の画像データセットに特徴生成器を適用することにより導出される特徴値の配列である、方法。
  2. 前記試料内の前記鉱物を識別するために、エネルギー分散型X線分光法を使用して、前記鉱物マップが作成される、請求項1に記載の方法。
  3. 特徴生成器を介して前記ラベル付き領域から特徴ベクトルを抽出するステップは、前記特徴ベクトルを抽出するために、特徴抽出エンジンが、前記特徴生成器を使用するコンピュータシステム上で実行することを含む、請求項1に記載の方法。
  4. 前記特徴生成器は、ガボールフィルタを含む、請求項3に記載の方法。
  5. 前記抽出された特徴ベクトルに対して機械学習訓練アルゴリズムを実行するステップは、機械学習エンジンが、前記特徴抽出エンジンによって渡される前記抽出された特徴ベクトルを受け入れ、前記抽出された特徴ベクトルに対して前記機械学習訓練アルゴリズムを実行するコンピュータシステム上で実行することを含む、請求項1に記載の方法。
  6. 前記機械学習訓練アルゴリズムは、ランダムフォレスト機械学習訓練アルゴリズムを含む、請求項1に記載の方法。
  7. 前記試料の1つまたは複数の画像データセットを生成するステップは、前記1つまたは複数の画像データセットとして前記試料の1つまたは複数のX線ボリュームデータセットを生成することを含む、請求項1に記載の方法。
  8. 異なるX線エネルギーを使用して前記試料の前記1つまたは複数のX線ボリュームデータセットを生成するステップをさらに含む、請求項7に記載の方法。
  9. 前記1つまたは複数の画像データセットに前記1つまたは複数の鉱物マップをマスクとして適用するステップは、前記1つまたは複数の画像データセット内の鉱物に関連付けられる領域を識別し、ラベル付けするために、前記1つまたは複数の鉱物マップを使用することを含む、請求項1に記載の方法。
  10. 前記画像データセットの少なくとも1つはX線ボリュームデータセットであり、前記試料の前記セグメント化画像表現は、セグメント化X線ボリュームデータセットである、請求項1に記載の方法。
  11. 前記試料の1つまたは複数の画像データセットを生成するステップは、前記マルチモダリティ・イメージング・システムの集束イオンビーム走査電子顕微鏡(FIB−SEM)イメージング・分析システムを使用して、1つまたは複数の画像データセットとして前記試料の1つまたは複数のFIB−SEMボリュームデータセットを生成することを含む、請求項1に記載の方法。
  12. 前記FIB−SEMイメージング・分析システムの後方散乱電子モードおよび/または二次電子モードを使用して、前記試料の前記1つまたは複数のFIB−SEMボリュームデータセットを生成するステップをさらに含む、請求項11に記載の方法。
  13. 前記画像データセットの少なくとも1つはFIB−SEMボリュームデータセットであり、前記試料の前記セグメント化画像表現は、セグメント化FIB−SEMボリュームデータセットである、請求項1に記載の方法。
  14. 前記試料の1つまたは複数の画像データセットを生成するステップは、前記マルチモダリティ・イメージング・システムの集束イオンビーム走査電子顕微鏡(FIB−SEM)イメージング・分析システムを使用して、1つまたは複数の画像データセットとして前記試料の1つまたは複数のFIB−SEMデータセットを生成することを含む、請求項1に記載の方法。
  15. 前記FIB−SEMイメージング・分析システムの後方散乱電子モードおよび/または二次電子モードを使用して、前記試料の前記画像データセットとして1つまたは複数の2D画像を生成するステップをさらに含む、請求項14に記載の方法。
  16. 試料の鉱物をセグメント化するためのマルチモダリティ・イメージング・システムであって、前記マルチモダリティ・イメージング・システムは、異なるデータセットを互いに位置合わせして、前記試料のボリュームデータセットを表現するように構成されており、前記システムは、
    前記試料の1つまたは複数の画像データセットを生成するイメージングシステムと、
    前記試料内の前記鉱物を識別する1つまたは複数の鉱物マップを作成するエネルギー分散X線分光法システムと、
    前記1つまたは複数の画像データセット内の鉱物に関連付けられる領域を識別し、ラベル付けするために、前記1つまたは複数の画像データセットに前記1つまたは複数の鉱物マップをマスクとして適用し、前記ラベル付き領域から特徴ベクトルを抽出する特徴抽出エンジンを利用し、前記特徴ベクトルの挙動情報を学習するために、前記抽出された特徴ベクトルに対して機械学習訓練アルゴリズムを実行する機械学習エンジンを利用し、前記試料内の前記鉱物を分類する前記試料のセグメント化画像表現を構築するために、前記機械学習訓練アルゴリズムから学習されている前記挙動情報を前記1つまたは複数の画像データセットに適用するコンピュータシステムとを備え
    前記特徴ベクトルは、前記1つまたは複数の画像データセットに特徴生成器を適用することにより導出される特徴値の配列である、システム。
  17. 前記イメージングシステムは、前記試料の前記画像データセットとして前記試料の1つまたは複数のX線ボリュームデータセットを生成する、請求項16に記載のシステム。
  18. 前記イメージングシステムは、前記試料の前記画像データセットとして、前記試料の1つまたは複数のFIB−SEMボリュームデータセットを生成する集束イオンビーム走査電子顕微鏡(FIB−SEM)イメージングシステムを含む、請求項16に記載のシステム。
  19. 前記イメージングシステムは、前記試料の前記画像データセットとして、前記試料の1つまたは複数の2D画像を生成する集束イオンビーム走査電子顕微鏡(FIB−SEM)を含む、請求項16に記載のシステム。
JP2018536138A 2016-01-11 2016-01-11 マルチモダリティ鉱物質セグメント化システムおよび方法 Active JP6704052B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2016/012864 WO2017123196A1 (en) 2016-01-11 2016-01-11 Multimodality mineralogy segmentation system and method

Publications (2)

Publication Number Publication Date
JP2019504452A JP2019504452A (ja) 2019-02-14
JP6704052B2 true JP6704052B2 (ja) 2020-06-03

Family

ID=55398394

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018536138A Active JP6704052B2 (ja) 2016-01-11 2016-01-11 マルチモダリティ鉱物質セグメント化システムおよび方法

Country Status (4)

Country Link
EP (1) EP3403238A1 (ja)
JP (1) JP6704052B2 (ja)
CN (1) CN108431870A (ja)
WO (1) WO2017123196A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9905394B1 (en) * 2017-02-16 2018-02-27 Carl Zeiss Microscopy Gmbh Method for analyzing an object and a charged particle beam device for carrying out this method
CN109792651B (zh) * 2017-03-21 2021-02-05 华为技术有限公司 一种通信方法及设备
JP7052643B2 (ja) * 2018-08-29 2022-04-12 住友金属鉱山株式会社 試料分析方法
JP7111084B2 (ja) * 2019-03-25 2022-08-02 日新イオン機器株式会社 イオンビーム照射装置及びイオンビーム照射装置用プログラム
WO2021019361A1 (en) * 2019-08-01 2021-02-04 Khalifa University of Science and Technology Method and system for a fast and accurate estimation of petrophysical properties of rock samples
CN111126281B (zh) * 2019-12-25 2021-03-09 重庆紫光华山智安科技有限公司 一种人群密度估计方法、装置、存储介质及电子设备
JP7417097B2 (ja) 2020-04-08 2024-01-18 日本製鉄株式会社 焼結鉱の組織構成学習装置、組織構成学習方法及び組織構成学習プログラム
JP7417095B2 (ja) 2020-04-08 2024-01-18 日本製鉄株式会社 焼結鉱の組織構成学習装置、組織構成学習方法及び組織構成学習プログラム
CN112529112B (zh) * 2020-12-29 2021-10-08 中国地质科学院地质力学研究所 一种矿物识别的方法和装置
CN113989229A (zh) * 2021-10-28 2022-01-28 杭州图谱光电科技有限公司 一种基于随机森林和卷积神经网络的细胞计数方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2223842B (en) * 1988-09-06 1993-02-03 Shell Int Research Automated mineral identification and rock characterization process
CN101710424B (zh) * 2009-12-22 2012-04-25 中国矿业大学(北京) 矿石图像分割方法
EP2748793B1 (en) * 2011-10-14 2017-10-11 Ingrain, Inc. Dual image method and system for generating a multi-dimensional image of a sample
WO2013148632A1 (en) * 2012-03-29 2013-10-03 Ingrain, Inc. A method and system for estimating properties of porous media such as fine pore or tight rocks
US9046509B2 (en) * 2012-05-18 2015-06-02 Ingrain, Inc. Method and system for estimating rock properties from rock samples using digital rock physics imaging
US9128584B2 (en) * 2013-02-15 2015-09-08 Carl Zeiss X-ray Microscopy, Inc. Multi energy X-ray microscope data acquisition and image reconstruction system and method
CN103714536B (zh) * 2013-12-17 2017-06-16 深圳先进技术研究院 基于稀疏表示的多模态磁共振图像的分割方法及装置
US9183656B2 (en) * 2014-03-11 2015-11-10 Fei Company Blend modes for mineralogy images
CN104778452B (zh) * 2015-04-02 2018-04-17 浙江大学 一种基于机器学习的可行区域检测方法
CN104729971B (zh) * 2015-04-08 2017-02-22 中国石油大学(华东) 一种岩石纳米ct的孔隙标定方法
CN105006018B (zh) * 2015-06-30 2017-11-14 四川大学 三维ct岩心图像超分辨率重建方法

Also Published As

Publication number Publication date
CN108431870A (zh) 2018-08-21
EP3403238A1 (en) 2018-11-21
WO2017123196A1 (en) 2017-07-20
JP2019504452A (ja) 2019-02-14

Similar Documents

Publication Publication Date Title
JP6704052B2 (ja) マルチモダリティ鉱物質セグメント化システムおよび方法
US10107769B2 (en) Multimodality mineralogy segmentation system and method
Andrew A quantified study of segmentation techniques on synthetic geological XRM and FIB-SEM images
US10198804B2 (en) Method for determining fabric and upscaled properties of geological sample
Anderson et al. Multimodal imaging and machine learning to enhance microscope images of shale
Basavanhally et al. Multi-field-of-view framework for distinguishing tumor grade in ER+ breast cancer from entire histopathology slides
EP2391887B1 (en) Image-based risk score-a prognostic predictor of survival and outcome from digital histopathology
US10223782B2 (en) Digital rock physics-based trend determination and usage for upscaling
CN112508842A (zh) 具有结构化的图像分解的3d医学图像中的可操纵对象合成
JP2020519901A (ja) 岩石サンプルの分析
CN112116546A (zh) 类别感知的对抗肺结节合成
JP2023539830A (ja) 空間分解したデータセットからクロスモーダル特徴を特定するための方法
Orobinskyi et al. Novel Approach to Computer-Aided Detection of Lung Nodules of Difficult Location with Use of Multifactorial Models and Deep Neural Networks
Wan et al. Wavelet-based statistical features for distinguishing mitotic and non-mitotic cells in breast cancer histopathology
US20180247450A1 (en) A computer-implemented method and a system for creating a three-dimensional mineral model of a sample of a heterogenous medium
Ghongade et al. Detection and classification of breast cancer from digital mammograms using RF and RF-ELM algorithm
Kazak et al. Machine-learning-assisted segmentation of focused ion beam-scanning electron microscopy images with artifacts for improved void-space characterization of tight reservoir rocks
Barisin et al. Methods for segmenting cracks in 3d images of concrete: A comparison based on semi-synthetic images
Traoré et al. Evaluating deep learning algorithms in pulmonary nodule detection
Sharma et al. A comparative study of cell nuclei attributed relational graphs for knowledge description and categorization in histopathological gastric cancer whole slide images
Delpiano et al. Automated detection of fluorescent cells in in‐resin fluorescence sections for integrated light and electron microscopy
Roslin et al. Processing of micro-CT images of granodiorite rock samples using convolutional neural networks (CNN), Part I: Super-resolution enhancement using a 3D CNN
US20230144724A1 (en) Method for Finding Image Regions that Significantly Influence Classification in a Tool for Pathology Classification in a Medical Image
Hosseini-Asl et al. Lung segmentation based on nonnegative matrix factorization
Huang et al. Rethinking few-shot medical segmentation: a vector quantization view

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181128

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200511

R150 Certificate of patent or registration of utility model

Ref document number: 6704052

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250