JP4012813B2 - 透過型電子顕微鏡及び試料観察方法 - Google Patents

透過型電子顕微鏡及び試料観察方法 Download PDF

Info

Publication number
JP4012813B2
JP4012813B2 JP2002343776A JP2002343776A JP4012813B2 JP 4012813 B2 JP4012813 B2 JP 4012813B2 JP 2002343776 A JP2002343776 A JP 2002343776A JP 2002343776 A JP2002343776 A JP 2002343776A JP 4012813 B2 JP4012813 B2 JP 4012813B2
Authority
JP
Japan
Prior art keywords
image
sample
transmission electron
electron beam
objects
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002343776A
Other languages
English (en)
Other versions
JP2004178976A (ja
Inventor
英子 中澤
功 長沖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi High Tech Corp
Original Assignee
Hitachi High Technologies Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi High Technologies Corp filed Critical Hitachi High Technologies Corp
Priority to JP2002343776A priority Critical patent/JP4012813B2/ja
Priority to EP12007245A priority patent/EP2565901A1/en
Priority to EP03026891.6A priority patent/EP1424721B1/en
Priority to US10/720,251 priority patent/US6982420B2/en
Publication of JP2004178976A publication Critical patent/JP2004178976A/ja
Priority to US11/228,400 priority patent/US7214938B2/en
Application granted granted Critical
Publication of JP4012813B2 publication Critical patent/JP4012813B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J37/00Discharge tubes with provision for introducing objects or material to be exposed to the discharge, e.g. for the purpose of examination or processing thereof
    • H01J37/26Electron or ion microscopes; Electron or ion diffraction tubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/22Treatment of data
    • H01J2237/221Image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biomedical Technology (AREA)
  • Chemical & Material Sciences (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、透過型電子顕微鏡及びそれを用いた試料観察方法に関し、特に、様々な角度に傾斜した試料を含む視野から、目的の試料を選び出すことができる透過型電子顕微鏡及び試料観察方法に関する。
【0002】
【従来の技術】
透過型電子顕微鏡で観察される試料は、電子線の入射方向に対して、さまざまな方向に傾斜している。そのため、たとえば、正二十面体構造をもったウイルス粒子のように、同じ立体構造を持っている試料でも、傾斜状態によって、その透過像は六方晶の形状を呈したり、八面体状に見えたりする。このように、さまざまな形状の試料が多数存在するような視野から、ある特定の形状の試料を探し出す作業は、観察者の経験と勘に頼るところが多く、非常に多くの時間を要する。さらに、多面体構造を持った試料については、試料の傾斜によって透過像の形状が異なるため、探し出した試料が、目的の形状であるか否かを客観的に判断することは困難である。
【0003】
この問題を解決する方法の一つとして、試料の立体構造を観察する方法がある。透過型電子顕微鏡を用いて試料の立体構造を観察するには、プラス方向とマイナス方向に、ある一定の角度、試料を傾斜することによって得られた2枚のステレオ写真を、ステレオビュアーを用いて観察することによって行なわれる。
【0004】
特許文献1には、走査型電子顕微鏡において、登録パターンとの類似度から試料上にある目的パターンの位置を決定する方法が記載されているが、検出されたパターンの位置は、登録パターンとの位置関係からのみ検出される。また、観察条件など検出位置の画像を再現するための条件もすべて、検出されたパターンとの間の位置関係(オフセット)を用いて認識するが、検出パターンとそのパターンの位置に完全な整合性に関しては配慮されていない。また、一旦取り出された試料を再度電子顕微鏡内に入れて、再検索する場合、オフセットによる登録パターンを設定しているので、オフセットを再設定しなければならない。また試料が傾斜しているときのパターンについては考慮されていない。また、試料が回転していた場合も同様に、登録パターンと検出パターンとの位置関係はずれてしまうので、あらかじめ登録したオフセットは無効になる。
【特許文献1】
特開平9−245709号公報
【0005】
【発明が解決しようとする課題】
上記従来技術は、目的のオブジェクトを探し出す作業において、試料傾斜によってオブジェクトの見かけの形状が変化することについて配慮していないため、試料検索作業の精度に問題があった。光軸に対して試料をプラス方向、マイナス方向に、それぞれ、ある角度傾斜して得られたステレオペア写真を、ステレオビュアーの下で観察することによってオブジェクトの立体構造を観察する方法は、直感的で科学的正確さに欠けるところがある。しばしば、ラインドローによって構造の模式化が試みられるが、あくまでもマニュアルによる作業のため、立体構造把握のための補助的な目的でしか利用されていない。
【0006】
本発明の目的は、さまざまな角度に傾斜しているオブジェクトを含む視野から、目的のオブジェクトを、正確に、効率良く選び出し、必要に応じて、目的のオブジェクトの観察条件を再現することができる透過型電子顕微鏡を提供することにある。
【0007】
【課題を解決するための手段】
上記目的を達成すべく、本発明による試料観察方法は、試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識するステップを有する試料観察方法において、リファレンス画像として、種類が異なる対象物それぞれの、光軸に対する傾斜角が異なる当該対象物の複数の透過電子線像を、異なる複数の種類の対象物ごとに記憶しておくステップと、試料の透過電子線像中からオブジェクトを指定するステップと、指定されたオブジェクトの画像と、この異なる複数の種類の対象物ごとに記憶された複数の傾斜角のリファレンス画像との画像相関をそれぞれ演算するステップと、演算結果を表示するステップとを含むことを特徴とする。
【0008】
本発明による試料観察方法は、また、試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識するステップを有する試料観察方法において、リファレンス画像として、種類が異なる対象物それぞれの、光軸に対する傾斜角が異なる当該対象物の複数の透過電子線像をそれぞれ極座標変換した画像を、異なる複数の種類の対象物ごとに記憶しておくステップと、試料の透過電子線像中からオブジェクトを指定するステップと、指定されたオブジェクトの画像を極座標変換するステップと、極座標変換されたオブジェクトの画像と、この異なる複数の種類の対象物ごとに記憶された複数の傾斜角の、極座標変換されているリファレンス画像との画像相関をそれぞれ演算するステップと、演算結果を表示するステップとを含むことを特徴とする。
【0009】
対象物の電子線透過像は、光軸に対する傾斜角が異なる当該対象物の複数の電子線透過像の組からなるのが好ましい。このとき、極座標変換した画像は、光軸に対する傾斜角が異なる当該対象物の複数の電子線透過像のそれぞれに対して用意する。オブジェクトの画像を極座標変換する際の回転支点は透過電子線像中で指定するようにしてもよい。
【0010】
画像相関の演算結果は、画像の一致度として表示することができる。表示方法としては、一致度の高い順にリスト表示する方法、一致度をある幅を持った何段階かのクラスに分け、クラス別に該当する画像を表示する方法、画像の名称等の識別子と一致度を並べて表示する方法など、種々の方法をとることができる。
【0011】
本発明による試料観察方法は、また、試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識するステップを有する試料観察方法において、試料の透過電子線像中から複数のオブジェクトを指定するステップと、当該指定した複数のオブジェクトの中から1つのオブジェクトを選択するステップと、リファレンス画像として、当該選択した1つのオブジェクトの光軸に対する傾斜角が異なる複数の透過電子線像を記憶しておくステップと、当該指定した複数のオブジェクトの中の選択された以外の残りのオブジェクトを検索対象のオブジェクトとして指定するステップと、検索対象のオブジェクトの透過電子線像と、この複数の傾斜角のリファレンス画像との画像相関をそれぞれ演算するステップと、演算結果を表示するステップとを含むことを特徴とする。
【0012】
また、試料の透過電子線像撮像時の装置データを試料の透過電子像と一対一に対応させて保存することが好ましい。これは例えば、試料の透過電子線像を、タグ領域を含むTIFF形式の画像として記憶し、装置データをタグ領域に保存することで実現できる。この方法によると、タグ領域に保存された装置データを透過電子顕微鏡に設定して、目的とするオブジェクトを含む透過電子線像を撮像した条件を再現することができる。
【0013】
本発明によると、リファレンス画像との一致度を基に特定のオブジェクトの画像を選択し、その観察条件を自動的に電子顕微鏡上に再現することによって、目的の試料を効率よく、正確に検索することが可能になる。
【0014】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。
図1は、本発明による透過型電子顕微鏡の構成例を示すブロック図である。
透過型電子顕微鏡本体1の電子銃2より放出された電子線3は、照射レンズ4により、試料ステージ5に保持されている試料Sに照射される。試料Sを透過した電子線像は、対物レンズ6と拡大レンズ系7により拡大され、TVカメラ8に投影される。TVカメラ8は、シンチレータ板とCCDなどの撮像素子を備え、これに投影された電子線像をTVカメラ制御部16に供給して画像信号に変換する。画像信号はモニタ17に送られ、モニタ17上に画像として表示される。また、TVカメラ制御部16から出力された画像信号は、統括制御部18に供給され、画像データとして記憶され保存される。透過型電子顕微鏡本体1の下部は、カメラ室9となっていて、その中に蛍光板10が設けられている。TVカメラ駆動部19によりTVカメラ8を電子線3の光軸から外すことで、試料の電子線像を蛍光板10上で観察することができる。
【0015】
電子銃2は電子銃制御部11により制御され、照射レンズ4、対物レンズ6、拡大レンズ系7は、それぞれ照射レンズ制御部12、対物レンズ制御部13、拡大レンズ系制御部14により制御される。また、試料ステージ5は、試料ステージ制御部15により制御される。これらの制御部11〜15は観察条件制御部を構成する。観察条件制御部を構成する各制御部11〜15は、それぞれ統括制御部18に伝送線路で結合されて相互にデータの授受が行なえるようになっており、統括制御部18から観察条件を設定することができる。統括制御部18は、所定のプログラムが搭載されたコンピュータを備え、またキーボード等の入力手段20が接続されており、各制御部11〜15を制御するのに必要な制御データを生成する。
【0016】
次に、本発明による透過型電子顕微鏡の動作について説明する。統括制御部18は、画像記録処理、画像認識処理、画像検索処理、画像呼び出し処理の4種の処理を実行する。画像記録処理は、ある所望の試料を観察するときの処理である。画像認識処理は、画像記録処理により記録された、ある所望のオブジェクトについて、それが既に記憶されている画像データ(リファレンス)と等しいか否か、あるいは、どのリファレンス画像のデータに相当するか判定する処理である。画像検索処理は、ある所望のオブジェクトについて、そのオブジェクトがどのリファレンスオブジェクトに相当するか、あるいは、複数個の予め指定したオブジェクトから、所望のオブジェクトと同じ形状のオブジェクトを探し出す処理である。画像呼び出し処理は、検索されたオブジェクトの観察条件を再現して観察する処理である。
【0017】
本発明の好ましい態様では、試料中のオブジェクトの透過像とリファレンス画像との類似度の判定に画像相関を利用する。ここで、画像相関の一例として、位相限定相関について、概略を説明する。位相限定相関とは、フーリエ変換を用いた相関の計算過程において、入力画像の振幅成分を固定値で置き換えるよう修正した画像演算の一つである(「位相限定相関法の原理とその応用」小林孝次他、テレビジョン学会技術報告,pp1-6,No.41,Vol.20(1996)参照)。すなわち、画像(透過像)の離散フーリエ変換によって得られた、振幅スペクトルと位相スペクトルのうち、位相スペクトルのみを抽出して、逆フーリエ変換することによって相関画像を得る方法である。
【0018】
M×N画素から構成される2つの透過像f1(m,n),f2(m,n)があるとき、その離散フーリエ画像F1(u,v),F2(u,v)は、それぞれ次の式(1)及び式(2)で定義される。ただし、m=0,1,2,…,M-1;n=0,1,2,…,N-1;u=0,1,2,…,M-1;v=0,1,2,…,N-1であり、A(u,v),B(u,v)は振幅スペクトル、θ(u,v),φ(u,v)は位相スペクトルである。
【0019】
【数1】
Figure 0004012813
【0020】
位相限定相関では、F1(u,v),F2(u,v)の振幅スペクトルA(u,v),B(u,v)を固定値とするため、位相情報のみをもつ画像が得られる。それらの位相画像を、それぞれ、F1'(u,v),F2'(u,v)とすると、式(3)及び式(4)で定義される。
【0021】
【数2】
Figure 0004012813
【0022】
位相画像F1'(u,v)にF2'(u,v)の複素共役をかけて、合成画像H12(u,v)を求める。すなわち、次式(5)のように、画素ごとに位相の差を計算する。
【0023】
【数3】
Figure 0004012813
【0024】
相関強度画像は、合成画像を逆フーリエ変換することによって求められ、式(6)で与えられる。ただし、r=0,1,2,…,M-1;s=0,1,2,…,N-1である。
【0025】
【数4】
Figure 0004012813
【0026】
位相限定相関は、画像の輝度に全く影響を受けないので、試料傾斜によって、試料の見かけ上の厚さが変化し、照射条件が変更されても、照射条件を再調整する必要がない。
【0027】
図2は位相限定相関によって得られた相関結果の一例として、相関強度画像のスペクトルを表示したものである。図2(a)は2つの画像の類似度が高い場合の相関強度ピークを示し、図2(b)は2つの画像の類似度がそれほど高くない場合の相関強度ピークを示している。このように、画像の類似性の評価を相関強度画像のピークの高さによって行なうことができる。画像が完全に等しい場合、すなわち自己相関のピークの高さを100あるいは1として、それに対する相対的なピーク高さを一致度として表示してもよい。
【0028】
ところで、検索対象であるオブジェクトの透過像はリファレンス画像に対して光軸の周りに回転している場合がある。そのような場合にオブジェクト画像とリファレンス画像の相関をとるには、極座標変換したオブジェクト画像とリファレンス画像の位相限定相関をとるとよい。
図3は、極座標変換の模式図である。X−Y平面内の座標(x,y)は、次の極座標(r,θ)で表すことができる。
【0029】
【数5】
Figure 0004012813
【0030】
いま、同一形状のオブジェクトがX−Y平面内において原点の周りに回転した場合を考える。例えば、図3(a)に示すように、1つの頂点が(r1,θ1)に位置していた矩形オブジェクト31が、図3(b)に示すように座標原点の周りに角度αだけ回転した場合を考える。すると、矩形オブジェクト31の頂点(r1,θ1)は、角度αだけ回転した矩形オブジェクト32では点(r1,θ1+α)に位置するようになる。同様にして、図3(a)に示すオブジェクト31上の任意の点(r,θ)は、回転後の図3(b)に示すオブジェクト32の点(r,θ+α)に移動する。回転前と後のオブジェクトを、縦軸にrをとり、横軸にθをとった2次元座標上にプロットすると、図3(c)に示すオブジェクト33,34のようになる。つまり、X−Y平面における原点の周りへの回転は、極座標表示した2次元座標系ではθ方向への平行移動に変換される。従って、極座標変換した画像同士を比較すると、X−Y平面における原点の周りへの回転の影響を受けずに2つの画像の類似度を求めることができる。
【0031】
ただし、X−Y平面上の画像を極座標変換してr−θ平面の画像に変換する場合、原点をどこに設定するかによって、r−θ平面における画像の形状が変わってくる。従って、オブジェクトの透過像を極座標変換するときの原点とリファレンス画像を極座標変換するときの原点は同等でなければならない。そこで、オブジェクトの透過像とリファレンス画像とでrが一定となるように、画像のある点を支点として指定して、それを中心にある一定の大きさの画像を切り出して、極座標変換するようにしてもよい。たとえば、CCDカメラなどで撮影したデジタル画像であれば、モニタ上で観察しながら、画像の特徴的な点を手動によって原点に指定する。
【0032】
図14に、実際の試料を用いた特徴点の抽出例を示す。像は試料の透過電子線像をCCDカメラで撮影した像である。図14(a)の透過像がリファレンス像である。透過像の特徴的な点を矢印で示したが、この点を極座標の原点として変換処理する。また、特徴点を捉えるために、画像を二値化処理してもよい。図15は、図14に示した画像の二値化処理の例である。二値化処理によって抽出された特徴点を矢印で示したが、これを原点として用いてもよい。
【0033】
図4は、X−Y平面上の画像の輪郭上の一点を原点として極座標変換した例を示す図である。図4(a)に示すように、X−Y平面上で1つの頂点が原点に位置していた矩形オブジェクト41が、図4(b)に示すように座標原点の周りに角度βだけ回転した場合を考える。回転前と後のオブジェクトを、縦軸にrをとり、横軸にθをとった2次元座標上にプロットすると、図4(c)に示すように、θ軸方向に角度βだけ平行移動した関係の同形の画像43,44になる。
【0034】
次に、本発明の画像記録処理、画像認識処理、画像検索処理、画像呼び出し処理について説明する。
最初に、図5のフローチャートを用いて画像記録処理について説明する。始めに、オペレータは観察対象となる試料Sを準備し、電子顕微鏡を操作して観察条件を設定し、TVカメラ8により試料Sの所望の部分の拡大画像を撮像する。このときの操作は、キーボードなどの入力手段20を用いて行なわれ、電子銃制御部11、照射レンズ制御部12、対物レンズ制御部13、拡大レンズ系制御部14に、それぞれ所定の制御データを入力し、所望の加速電圧、倍率、観察モードが得られるようにする。試料ステージ制御部15にも制御データを入力し、試料6の所望の部分が観察視野になるように、試料ステージ5を動かす。
【0035】
その結果、所望の観察条件による試料Sの所望の部分(座標)の画像が得られる。こうして所望の観察条件による試料Sの所望の部分の画像が得られたら、オペレータは、この画像を統括制御部18に記録させるのに必要な操作を実行する(S11)。統括制御部18では、まずTVカメラ8から取り込んだ試料の透過像をメモリに記憶し、保存する(S13)。TVカメラ8から取り込んだオブジェクトの画像は、ステップ12においてTIFF形式のデータに変換してから保存してもよい。その場合、統括制御部18では、ステップ13における画像データの保存と並行して、各制御部11〜15から試料の観察条件をデータとして取り込み、画像データのタグデータとしてTIFF形式のタグ領域に記憶させるようにしてもよい(S14)。タグデータとしてTIFF形式のタグ領域に記憶させる観察条件とは、加速電圧、倍率、エミッション電流、スポットサイズ、試料の位置座標、露出時間、露出量などである。
【0036】
次に、図6のフローチャートを用いてリファレンス画像の登録処理について説明する。リファレンス画像には、複数の方向に傾斜させて予め撮像しておいたオブジェクトの複数の透過像、及び後述するようにその透過像を極座標変換した画像を用いることができる。また、リファレンス画像は、試料S中に含まれるオブジェクト自身から作成することもできる。この場合も、試料中の検索したいオブジェクトについて、試料傾斜した透過像と、その極座標変換の画像をリファレンス画像として登録する。
【0037】
まず、光軸に対して試料ステージが傾斜していない傾斜0°の状態でオブジェクトの透過像(リファレンス画像)を記録する(S21)。次に、試料ステージを傾斜してさまざまな角度に傾斜したオブジェクトの透過像を記録する(S22)。次に、傾斜0°のリファレンス画像及びさまざまな角度に傾斜したリファレンス画像を極座標変換した画像を求める(S23)。また、リファレンス画像の画像信号をTIFF形式に変換し、統括制御部18に保存する(S24)。この画像データの保存と並行して、統括制御部18は、各制御部11〜15から画像の観察条件をデータとして取り込み、画像データのタグデータとしてTIFF形式のタグ領域に記憶させる(S25)。こうして、様々な傾斜したオブジェクトの透過像及びそれを極座標変換した画像でリファレンス画像の画像データベースを作成する。
【0038】
図7は、リファレンス画像として用いる透過像を一覧表示した例を示す図である。ここでは、オブジェクトとしてウイルスを用い、光軸に対してさまざまな角度に傾斜したオブジェクトの傾斜透過像及びその極座標変換後の画像をリファレンス画像のデータベースとした。たとえば、ウイルスAについて、傾斜角度±60°の範囲を30°ステップで一定の方向に傾斜して得られた透過像をウイルスAのリファレンス画像Ra1,Ra2,Ra3,Ra4,Ra5とし、その画像を極座標変換した後の透過像をリファレンス画像RAa1,RAa2,RAa3,RAa4,RAa5として登録した。同様に、ウイルスBについて、傾斜角度±60°の範囲を30°ステップで一定の方向に傾斜して得られた透過像をウイルスBのリファレンス画像Rb1,Rb2,Rb3,Rb4,Rb5とし、その画像を極座標変換した後の透過像をリファレンス画像RAb1,RAb2,RAb3,RAb4,RAb5として登録した。また、ウイルスCについて、傾斜角度±60°の範囲を30°ステップで一定の方向に傾斜して得られた透過像をウイルスCのリファレンス画像Rc1,Rc2,Rc3,Rc4,Rc5とし、その画像を極座標変換した後の透過像をリファレンス画像RAc1,RAc2,RAc3,RAc4,RAc5として登録した。
【0039】
次に、画像認識処理について図8を用いて説明する。画像認識処理は、所望の試料の透過像とリファレンス画像とを比較するために行なう処理である。試料を観察し(S31)、試料中の所望領域の透過像を記録し(S32)、透過像中のオブジェクトを極座標変換した画像を求め(S33)、透過像の画像と極座標変換後の画像を保存する(S34)。その後、試料画像中の所望のオブジェクトの透過像と、リファレンス画像とを比較する(S35)。比較は、位相限定相関法のような画像相関によって行ってもよい。極座標変換後の画像同士の画像相関を取ると、オブジェクトの回転の影響を受けないので好ましい。画像相関の結果を画像の一致度として表示してもよい(S36)。
【0040】
次に、画像検索処理について説明する。画像検索処理は、ある所望のオブジェクトが、どのリファレンスに相当するか、あるいは、所望するオブジェクトをリファレンスにして、それと同じ形状の試料を探し出す処理である。リファレンス画像と検索対象の画像の倍率は基本的に等しい方がよく、仮に倍率が変更された場合は、画像記録処理において試料の画像を記録するときに、予めリファレンス画像の観察条件を参照できるようにすることにより、画像の倍率をあわせるのが好ましい。
【0041】
図9は、画像検索処理の手順を示すフローチャートである。画像検索処理では、まず、リファレンス画像の画像データベースを選定する(S41)。このリファレンス画像には、検索対象の試料自身の透過像とそれの傾斜透過像とそれらの極座標変換後の透過像が含まれる。画像認識処理の結果、表示された画像の一致度にもとづいて、所望の試料と相関の高いリファレンス画像を選択し(S42)、選択された透過像を表示する(S43)。
【0042】
検索する試料中のオブジェクトの画像をリファレンス画像と相関し、比較して、画像の分類を行なうこともできる。たとえば、試料中のオブジェクトの画像は、ウイルスAの傾斜+30°の透過像で、極座標変換によってθ度回転した画像であるというように、リファレンス画像のデータベースをもとに、画像の分類を行なうこともできる。また、ある試料をリファレンスとして、複数個の試料を分類してもよい。ある試料をリファレンスとして、複数個の試料から、リファレンスである試料と同じ形状の試料を探し出すこともできる。
【0043】
図10を用いて、画像の検索処理の例について説明する。最初に、試料中に含まれている所望のオブジェクトの透過像を撮像し、それを保存する。いま、透過像として図10(a)に示すオブジェクト透過像を検索対象としたとする。オブジェクトの透過像を極座標変換した画像も求め、それも保存する。次に、リファレンス画像のデータベースを選択する。ここでは、図7に示したウイルスA,B,Cのリファレンス画像のデータベースを選択したものとする。検索結果は、リファレンス画像との画像相関結果(一致度)の一覧表として出力される。
【0044】
図10(b)及び図10(c)は、検索結果の表示例を示す図である。図10(b)は、試料の画像とデータベースに格納された個々のリファレンス画像との相関結果を、一致度の高い順にランク付けして一覧表示した例である。図10(c)は、データベース中のリファレンス画像毎に画像相関結果(一致度)を一覧表示した例である。この例では、試料中のオブジェクトはウイルスBである可能性が高いことが示されている。
【0045】
図11は、複数のオブジェクトを含む試料視野において、リファレンス画像と同じオブジェクトを検索する処理の例を示す説明図である。
まず、図11(a)に示すように、複数のオブジェクトを含む試料の視野を撮影、記録する。次に、その視野から複数のオブジェクトを選択する。オブジェクトの選択は、図11(b)に例示するように、例えば画像がCCDカメラで撮影されたものであれば、オブジェクトをある大きさの枠で囲むことで行うことができる。選択されたオブジェクトには、図示するように適当にナンバリングしてもよい。この例では6個のオブジェクトを選択した。
【0046】
続いて、リファレンス画像データベースから検索したいリファレンス画像を選択する。ここでは、例として図7に示したウイルスBのシリーズをリファレンス画像として指定した。次に、選択したオブジェクトと、リファレンス画像との相関をとり、その結果を表示する。結果は、例えば図11(c)に示すように、試料中で選択したオブジェクトと、リファレンス画像との一致度として表示される。検索結果の表示に当たっては一致度に閾値を設け、一致度が閾値を超えた検索結果のみを出力するようにしてもよい。検索結果から、本例では、試料中のNo.002及びNO.003のオブジェクトがウイルスBである可能性が非常に高く、また、NO.006及びNO.004のオブジェクトもウイルスBである可能性が高いことが分かる。
【0047】
図12は、試料中のオブジェクトをリファレンスとして、複数のオブジェクトを含む試料視野からそのオブジェクトと同じ形状のものを検索する処理の例を示す説明図である。
【0048】
まず、図12(a)に示すように、複数のオブジェクトを含む試料視野を撮影、記録する。次に、その視野から所望のオブジェクト試料を選択する。オブジェクトの選択は、図12(b)に示すように、オブジェクトをマウス操作等によって枠で囲むことで行うことができる。選択されたオブジェクトには適当にナンバリングしてもよい。
【0049】
続いて、選択された複数のオブジェクトの中から、1つのオブジェクトをターゲットオブジェクトとし、その透過像及びそれを極座標変換した後の画像をリファレンス画像として、残りの選択されたオブジェクトとの相関を取る。ターゲットオブジェクト以外のオブジェクトの透過像についても極座標変換した画像を用意し、画像相関の演算は透過像同士、極座標変換された画像同士で行う。その結果、ターゲットオブジェクトと同じ形状のオブジェクトが検索される。図12(d)は、検索結果の表示例である。この例では、試料中に見つかったNo.002のオブジェクトと同じ形状のオブジェクトを試料中で検索しているが、No.003のオブジェクトが該当する可能性が高いことが分かる。図示の例では、試料を複数角度に傾斜させることなく、そのままの形状をリファレンスとする場合を示したが、必要に応じて、試料をさまざまの角度に傾斜してオブジェクトの透過像を記録し、それらの極座標変換の画像とともにリファレンス画像としてもよい。
【0050】
次に、図13を用いて画像呼び出し処理について説明する。画像呼び出し処理は、検索されたオブジェクトの観察条件を再現して観察する処理のことである。検索されたオブジェクトの画像データはTIFF形式に変換され、統括制御部18に保存されている。TIFF形式の画像データは、タグ領域にその画像の観察条件を保存している。
【0051】
検索された画像を指定すると、統括制御部18から指定された試料の画像データが呼び出される(S51)。そこで、統括制御部18は、この画像データをモニタ17に供給し、モニタ画面上に、保存されている検索された画像を表示させる。統括制御部8は、必要に応じて、この画像データからタグデータを呼び出し(S52)、タグデータの中の加速電圧や倍率などの観察条件を表わす制御データを電子銃制御部11及び各レンズ制御部12〜14に供給する(S53)。これにより、タグデータで指示された、試料Sの観察視野になるように試料ステージ5が動き、加速電圧と倍率、観測モード(たとえば回折モード、高分解能モード、ハイコントラストモード、極低倍モードなど)が得られるように制御が行われ、記録画像と同一視野の観察が可能になる(S54)。
【0052】
この方法によれば、試料Sが、電子線の入射方向に対して、さまざまな方向に傾斜したオブジェクトを含んでいる場合において、リファレンス画像と、オブジェクトの投影像を比較し、その一致度を定量的に評価することにより、その視野から、ある特定の方向に傾斜した画像のみを選び出すことができ、その結果、効率良く、画像の解析を進めることができる。
【0053】
ここで、従来技術の場合、例えば、画像のパターンマッチングなどの手法により、画像の選択を行なっているが、リファレンス画像を選定して、その一致度に基づいて、画像を自動的に選定するようにはなっていない。また、画像には、観察条件が付属されていないので、画像を選定しても、選定した画像の観察条件を再現して観察することはできない。この場合、選定した画像を、たとえばフィルムや他の記録媒体を用いて、再度、同じ条件で記録することはできない。しかし、本発明によれば、画像データをTIFF形式のデータに変換し、観察条件をタグ領域に保存するようにしているので、常に画像に対応する観察条件が確実に保存される上、画像データの呼び出しだけで対応する観察条件データも同時に得られることになり、かつ、保存可能なデータ量の制約が少ないので、完全な観察条件の再現が容易である。
【0054】
【発明の効果】
本発明によると、種々の角度に傾斜しているオブジェクトの中から目的のオブジェクトを、正確に、効率良く選びだすことができる。また、オブジェクト記録画像の表示と同時に、その観察条件を電子顕微鏡にフィードバックすることができるので、記録された画像を、容易に、しかも忠実に電子顕微鏡上に再現することが可能となる。
【図面の簡単な説明】
【図1】本発明による透過型電子顕微鏡の構成例を示すブロック図。
【図2】相関強度画像のスペクトルを示す図。
【図3】極座標変換の模式図。
【図4】X−Y平面上の画像の輪郭上の一点を原点として極座標変換した例を示す図。
【図5】画像記録処理の手順を示すフローチャート。
【図6】リファレンス画像の登録処理の手順を示すフローチャート。
【図7】リファレンス画像として用いる透過像を一覧表示した例を示す図。
【図8】画像認識処理の手順を示すフローチャート。
【図9】画像検索処理の手順を示すフローチャート。
【図10】画像の検索処理の例についての説明図。
【図11】試料視野からリファレンス画像と同じオブジェクトを検索する処理の例を示す説明図。
【図12】試料視野中で指定したオブジェクトと同じ形状のオブジェクトを検索する処理の例を示す説明図。
【図13】画像呼び出し処理の手順を示すフローチャート。
【図14】極座標変換のための原点を示した透過像。
【図15】二値化処理した画像上で、極座標変換のための原点を示した透過像。
【符号の説明】
1…透過型電子顕微鏡鏡体、2…電子銃、3…電子線、4…照射レンズ、5…試料ステージ、6…対物レンズ、7…拡大レンズ系、8…TVカメラ、9…カメラ室、10…蛍光板、11…電子銃制御装置、12…照射レンズ制御装置、13…対物レンズ制御装置、14…拡大レンズ系制御装置、15…試料ステージ制御装置、16…TVカメラ制御装置、17…モニタ、18…統括制御部、19…カメラ駆動装置、S…試料

Claims (11)

  1. 試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識するステップを有する試料観察方法において、
    前記リファレンス画像として、種類が異なる対象物それぞれの、光軸に対する傾斜角が異なる当該対象物の複数の透過電子線像を、異なる複数の種類の対象物ごとに記憶しておくステップと、
    試料の透過電子線像中からオブジェクトを指定するステップと、
    前記指定されたオブジェクトの画像と、前記異なる複数の種類の対象物ごとに記憶された複数の傾斜角のリファレンス画像との画像相関をそれぞれ演算するステップと、
    演算結果を表示するステップと
    を含むことを特徴とする試料観察方法。
  2. 試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識するステップを有する試料観察方法において、
    前記リファレンス画像として、種類が異なる対象物それぞれの、光軸に対する傾斜角が異なる当該対象物の複数の透過電子線像をそれぞれ極座標変換した画像を、異なる複数の種類の対象物ごとに記憶しておくステップと、
    試料の透過電子線像中からオブジェクトを指定するステップと、
    前記指定されたオブジェクトの画像を極座標変換するステップと、
    前記極座標変換されたオブジェクトの画像と、前記異なる複数の種類の対象物ごとに記憶された複数の傾斜角の、極座標変換されているリファレンス画像との画像相関をそれぞれ演算するステップと、
    演算結果を表示するステップと
    を含むことを特徴とする試料観察方法。
  3. 請求項2記載の試料観察方法において、前記オブジェクトの画像を極座標変換する際の回転支点を前記指定したオブジェクトの画像中で指定するステップを有することを特徴とする試料観察方法。
  4. 請求項1又は2記載の試料観察方法において、前記演算結果を、前記オブジェクトの画像と前記リファレンス画像の一致度として表示することを特徴とする試料観察方法。
  5. 試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識するステップを有する試料観察方法において、
    試料の透過電子線像中から複数のオブジェクトを指定するステップと、
    当該指定した複数のオブジェクトの中から1つのオブジェクトを選択するステップと
    前記リファレンス画像として、当該選択した1つのオブジェクトの光軸に対する傾斜角が異なる複数の透過電子線像を記憶しておくステップと
    当該指定した複数のオブジェクトの中の選択された以外の残りのオブジェクトを検索対象のオブジェクトとして指定するステップと、
    前記検索対象のオブジェクトの透過電子線像と、前記複数の傾斜角のリファレンス画像との画像相関をそれぞれ演算するステップと、
    演算結果を表示するステップと
    を含むことを特徴とする試料観察方法。
  6. 請求項1又は2記載の試料観察方法において、
    試料の透過電子線像撮像時の装置データを前記試料の透過電子像と一対一に対応させて保存することを特徴とする試料観察方法。
  7. 請求項6記載の試料観察方法において、
    前記試料の透過電子線像はタグ領域を含むTIFF形式の画像として記憶され、前記装置データは前記タグ領域に保存されていることを特徴とする試料観察方法。
  8. 請求項6記載の試料観察方法において、
    前記タグ領域に保存された装置データを透過電子顕微鏡に設定して前記オブジェクトを含む透過電子線像を撮像した条件を再現するステップを含むことを特徴とする試料観察方法。
  9. 試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識する機能を備えた透過型電子顕微鏡において、
    前記リファレンス画像として、種類が異なる対象物それぞれの、光軸に対する傾斜角が異なる当該対象物の複数の透過電子線像を、異なる複数の種類の対象物ごとに記憶する記憶手段と、
    試料の透過電子線像中からオブジェクトを指定する指定手段と、
    前記指定されたオブジェクトの画像と、前記異なる複数の種類の対象物ごとに記憶された複数の傾斜角のリファレンス画像との画像相関をそれぞれ演算する演算手段と、
    演算結果を表示する表示手段と
    を備えていることを特徴とする透過型電子顕微鏡。
  10. 試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識する機能を備えた透過型電子顕微鏡において、
    前記リファレンス画像として、種類が異なる対象物それぞれの、光軸に対する傾斜角が異なる当該対象物の複数の透過電子線像をそれぞれ極座標変換した画像を、異なる複数の種類の対象物ごとに記憶する記憶手段と、
    試料の透過電子線像中からオブジェクトを指定する指定手段と、
    前記指定されたオブジェクトの画像を極座標変換する変換手段と、
    前記極座標変換されたオブジェクトの画像と、前記異なる複数の種類の対象物ごとに記憶された複数の傾斜角の、極座標変換されているリファレンス画像との画像相関をそれぞれ演算する演算手段と、
    演算結果を表示する表示手段と
    を備えていることを特徴とする透過型電子顕微鏡。
  11. 試料の透過電子線像中のオブジェクトの画像を予め記憶してあるリファレンス画像と比較して認識する機能を備えた透過型電子顕微鏡において、
    試料の透過電子線像中から複数のオブジェクトを指定する指定手段と、
    当該指定した複数のオブジェクトの中から1つのオブジェクトを選択する選択手段と、
    前記リファレンス画像として、当該選択した1つのオブジェクトの光軸に対する傾斜角が異なる複数の透過電子線像を記憶する記憶手段と、
    前記指定した複数のオブジェクトの中の選択された以外の残りのオブジェクトを検索対象のオブジェクトとし、当該検索対象のオブジェクトの透過電子線像と、前記複数の傾斜角のリファレンス画像との画像相関をそれぞれ演算する演算手段と、
    演算結果を表示する表示手段と
    を備えていることを特徴とする透過型電子顕微鏡。
JP2002343776A 2002-11-27 2002-11-27 透過型電子顕微鏡及び試料観察方法 Expired - Fee Related JP4012813B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2002343776A JP4012813B2 (ja) 2002-11-27 2002-11-27 透過型電子顕微鏡及び試料観察方法
EP12007245A EP2565901A1 (en) 2002-11-27 2003-11-24 Sample observation method and transmission electron microscope
EP03026891.6A EP1424721B1 (en) 2002-11-27 2003-11-24 Sample observation method and transmission electron microscope
US10/720,251 US6982420B2 (en) 2002-11-27 2003-11-25 Sample observation method and transmission electron microscope
US11/228,400 US7214938B2 (en) 2002-11-27 2005-09-19 Sample observation method and transmission electron microscope

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002343776A JP4012813B2 (ja) 2002-11-27 2002-11-27 透過型電子顕微鏡及び試料観察方法

Publications (2)

Publication Number Publication Date
JP2004178976A JP2004178976A (ja) 2004-06-24
JP4012813B2 true JP4012813B2 (ja) 2007-11-21

Family

ID=32290444

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002343776A Expired - Fee Related JP4012813B2 (ja) 2002-11-27 2002-11-27 透過型電子顕微鏡及び試料観察方法

Country Status (3)

Country Link
US (2) US6982420B2 (ja)
EP (2) EP2565901A1 (ja)
JP (1) JP4012813B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4511303B2 (ja) * 2004-10-05 2010-07-28 株式会社日立ハイテクノロジーズ 荷電粒子線装置および寸法測定方法
JP4596881B2 (ja) * 2004-10-26 2010-12-15 株式会社日立ハイテクノロジーズ 透過型電子顕微鏡装置
JP4728137B2 (ja) * 2006-02-17 2011-07-20 株式会社日立ハイテクノロジーズ 電子顕微鏡
EP1959391A1 (de) * 2007-02-13 2008-08-20 BrainLAB AG Bestimmung des dreidimensionalen Verlaufs des Randes einer anatomischen Struktur
JP4538472B2 (ja) * 2007-03-15 2010-09-08 株式会社日立ハイテクノロジーズ 画像形成方法、及び電子顕微鏡
BRPI0811951A2 (pt) * 2007-05-30 2016-10-04 Intelligent Virus Imagins Inc método de contagem e segmentação de partículas virais em uma imagem.
JP4899170B2 (ja) * 2008-11-11 2012-03-21 独立行政法人産業技術総合研究所 画像処理システム、画像処理方法、プログラムおよび記録媒体
ES2419181B2 (es) * 2011-12-16 2014-04-24 Universidad De Cádiz Metodo de determinacion de parametros reticulares de materiales cristalinos mediante difraccion de electrones de alta resolucion
WO2013138208A1 (en) * 2012-03-16 2013-09-19 Dennis Robert T Research on, identification of and screening for biological materials using low energy electron microscopy
US9104903B2 (en) * 2012-03-16 2015-08-11 University Of Utah Research Foundation Microscopy visualization
CN102631222B (zh) * 2012-04-26 2014-01-01 珠海医凯电子科技有限公司 基于gpu实现的超声成像扫描变换方法
US11288491B2 (en) * 2017-07-22 2022-03-29 Intelligent Virus Imaging Inc Method for automated unsupervised ontological investigation of structural appearances in electron micrographs
US11914131B1 (en) * 2020-08-16 2024-02-27 Gregory Dimitrenko Optical testing system for detecting infectious disease, testing device, specimen collector and related methods
US11593938B2 (en) * 2020-10-04 2023-02-28 Borrirs Pte. Ltd. Rapid and automatic virus imaging and analysis system as well as methods thereof

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL8304217A (nl) * 1983-12-07 1985-07-01 Philips Nv Automatisch instelbare electronenmicroscoop.
JPH0644282B2 (ja) * 1985-10-02 1994-06-08 富士通株式会社 物体検索方式
WO1987003981A1 (en) * 1985-12-20 1987-07-02 Dietmar Steinpichler Pattern recognition process
JPH0614360B2 (ja) * 1987-07-20 1994-02-23 工業技術院長 物体認識装置
JPS6423379U (ja) 1987-07-31 1989-02-07
US5224036A (en) * 1989-06-26 1993-06-29 Fuji Photo Film Co., Ltd. Pattern recognition apparatus
US5983251A (en) * 1993-09-08 1999-11-09 Idt, Inc. Method and apparatus for data analysis
US5706416A (en) * 1995-11-13 1998-01-06 Massachusetts Institute Of Technology Method and apparatus for relating and combining multiple images of the same scene or object(s)
JP3333680B2 (ja) 1996-03-06 2002-10-15 株式会社日立製作所 走査電子顕微鏡
JP2000030652A (ja) * 1998-07-10 2000-01-28 Hitachi Ltd 試料の観察方法およびその装置
US6476388B1 (en) * 1998-10-19 2002-11-05 Hitachi, Ltd. Scanning electron microscope having magnification switching control
US6266452B1 (en) * 1999-03-18 2001-07-24 Nec Research Institute, Inc. Image registration method
JP2000311645A (ja) * 1999-04-28 2000-11-07 Hitachi Ltd 電子顕微鏡
JP4069545B2 (ja) * 1999-05-19 2008-04-02 株式会社日立製作所 電子顕微方法及びそれを用いた電子顕微鏡並び生体試料検査方法及び生体検査装置
JP2001006588A (ja) 1999-06-18 2001-01-12 Hitachi Ltd 走査電子顕微鏡
JP2001068050A (ja) 1999-08-24 2001-03-16 Jeol Ltd 走査電子顕微鏡の画像表示装置
JP4095743B2 (ja) 1999-10-19 2008-06-04 株式会社日立製作所 透過型電子顕微鏡
EP2365512A3 (en) * 2000-06-27 2012-01-04 Ebara Corporation Inspection system by charged particle beam
JP3813798B2 (ja) 2000-07-13 2006-08-23 株式会社日立製作所 電子顕微鏡
US6552340B1 (en) * 2000-10-12 2003-04-22 Nion Co. Autoadjusting charged-particle probe-forming apparatus
JP3603204B2 (ja) * 2001-03-12 2004-12-22 株式会社東京大学Tlo 立体構造検証支援装置、立体構造検証支援方法、及びプログラム
JP4263416B2 (ja) * 2001-08-24 2009-05-13 株式会社日立製作所 荷電粒子顕微鏡評価システム

Also Published As

Publication number Publication date
US7214938B2 (en) 2007-05-08
US6982420B2 (en) 2006-01-03
US20060011838A1 (en) 2006-01-19
JP2004178976A (ja) 2004-06-24
US20040114788A1 (en) 2004-06-17
EP2565901A1 (en) 2013-03-06
EP1424721B1 (en) 2015-06-03
EP1424721A2 (en) 2004-06-02
EP1424721A3 (en) 2011-11-16

Similar Documents

Publication Publication Date Title
JP4012813B2 (ja) 透過型電子顕微鏡及び試料観察方法
US7305109B1 (en) Automated microscopic image acquisition compositing, and display
US10809515B2 (en) Observation method and specimen observation apparatus
WO2013099124A1 (en) Image processing apparatus, image processing system, image processing method, and program
JPS61248168A (ja) 電子的モザイクイメ−ジ処理方法
CN101335832A (zh) 图像处理装置和图像处理方法
WO2022105415A1 (zh) 关键帧图像的采集方法、装置、系统和三维重建方法
JP2012088787A (ja) 画像処理装置、画像処理方法
JP5290227B2 (ja) 対象物検知装置及びその学習装置
WO2010050136A1 (ja) 試料観察方法、及び電子顕微鏡
JP7204346B2 (ja) 情報処理装置、システム、情報処理方法及びプログラム
KR20160094655A (ko) 복수의 고해상도 카메라들을 이용한 파노라마 영상 감시 시스템 및 그 방법
JP2010198998A (ja) 走査型電子顕微鏡
CN113066122B (zh) 图像处理方法以及装置
JP2019201397A (ja) 撮影装置及びプログラム
JP2019515362A (ja) 多次元データの画像分析のためのシステムおよび方法
JP2003287508A (ja) 透過電子顕微鏡による試料観察方法
JP2020087513A (ja) 走査電子顕微鏡および画像処理方法
JP7115508B2 (ja) 病理画像表示システム、病理画像表示方法及びプログラム
US20030071909A1 (en) Generating images of objects at different focal lengths
JP2008299505A (ja) 画像処理装置、画像処理システム及び制御プログラム
JPH08313217A (ja) 非接触画像計測システム
CN113472984B (zh) 图像获取方法、装置、系统、存储介质和设备
JP6034529B1 (ja) 表面状態診断装置
KR101997799B1 (ko) 관심영역 연관 영상 제공시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040422

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061023

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070528

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070821

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070910

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100914

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100914

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110914

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120914

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120914

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130914

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees